JP2020115604A - 撮像装置およびその制御方法 - Google Patents
撮像装置およびその制御方法 Download PDFInfo
- Publication number
- JP2020115604A JP2020115604A JP2019006195A JP2019006195A JP2020115604A JP 2020115604 A JP2020115604 A JP 2020115604A JP 2019006195 A JP2019006195 A JP 2019006195A JP 2019006195 A JP2019006195 A JP 2019006195A JP 2020115604 A JP2020115604 A JP 2020115604A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- image
- phase difference
- exposure
- reading
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
【課題】フレームレートの低下の抑制と高精度な位相差検出を両立しながら、HDR合成に必要な信号と位相差検出に必要な信号を読み出す。【解決手段】撮像素子101は、複数の光電変換部を備える画素部203を備え、HDR合成用の画像信号と位相差検出用の信号を選択的に出力可能である。HDR合成用に露出の異なる複数の画像信号を読み出し、位相差検出用に1つの信号を読み出す。位相差検出用の信号の露出は、レベル判定部207による画像信号の輝度の判定結果に応じて制御される。【選択図】図1
Description
本発明は、撮像装置およびその制御方法に関する。
近年、ビデオカメラ等の撮像装置の撮像素子において、画素で光電変換された映像信号を出力するだけでなく、例えばダイナミックレンジを拡大する(以下、HDRとも記す)技術や位相差検出用の映像信号を出力する技術が提案されている。特許文献1は、撮像素子の列ごとに設けられた増幅回路の入力容量を切り替える機能を有する撮像素子において、出力信号レベルに応じてゲイン値を切り替える技術を開示している。ゲイン値を切り替えることにより、低ゲインをかけた映像信号と高ゲインをかけた映像信号をそれぞれ出力し、後段に備えた画像処理部で2つの画像を合成して、高ダイナミックレンジ化した映像信号を作り出すことが可能である。
また、撮像素子で位相差検出方式の焦点検出を行う焦点検出方法がある。被写体撮影用画像と位相差検出用画像とを、時間遅延なく同時に取得可能な撮像素子が提案されている。特許文献2は、1つのマイクロレンズと、1つのマイクロレンズに対応する2つの光電変換部(フォトダイオード)により一画素が構成され、該画素が2次元配列された撮像素子を開示している。
HDR合成と位相差検出による焦点検出を1フレームで行う場合、例えば、高ゲインをかけた映像信号、低ゲインをかけた映像信号、高ゲインをかけた位相差検出用の信号の3つの信号を読み出すこととなる。しかしながら、高ゲインをかけた信号で位相差検出行う場合には高輝度部の位相差検出を正確に行うことができない恐れがある。一方で、高ゲインをかけた映像信号、低ゲインをかけた映像信号、低ゲインをかけた位相差検出用の信号の3つの信号を読み出し、低ゲインをかけた信号で位相差検出行う場合には低輝度部の位相差検出を正確に行うことができない恐れがある。
また、被写体輝度によらず低輝度部と高輝度部ともに位相差検出を行うためには、HDR用の2つの信号に加え、低ゲインの位相差検出用の信号と高ゲインの位相差検出用の信号を読み出す必要があり、フレームレートが低下してしまう恐れがある。
また、被写体輝度によらず低輝度部と高輝度部ともに位相差検出を行うためには、HDR用の2つの信号に加え、低ゲインの位相差検出用の信号と高ゲインの位相差検出用の信号を読み出す必要があり、フレームレートが低下してしまう恐れがある。
本発明は、フレームレートの低下の抑制と高精度な位相差検出を両立しながら、HDR合成に必要な信号と位相差検出に必要な信号を読み出す撮像装置を提供することを目的とする。
上記課題を解決するために、本発明の撮像装置は、複数の光電変換部を有し、画像信号と位相差検出用の信号とを選択的に出力することができる画素を複数備える画素部と、前記画素部から、露出の異なる複数の前記画像信号と、前記位相差検出用の信号とを読み出す読み出し手段と、前記画像信号の輝度を判定する判定手段と、を備え、前記位相差検出用の信号の露出は、前記判定手段の判定結果に応じて制御される。
本発明によれば、フレームレートの低下の抑制と高精度な位相差検出を両立しながら、HDR合成に必要な信号と位相差検出に必要な信号を読み出す撮像装置を提供することができる。
(第1実施形態)
図1は、撮像装置1の構成を説明する図である。撮像装置1は、レンズ部100、撮像素子101、画像分配器102、画像処理部103、位相差検出部104、信号処理部105およびレンズ駆動部106を備える。なお、本実施形態では、撮像装置1の一例としてカメラ本体部とレンズ装置が一体となったデジタルカメラの説明を行うが、これに限られるものではなく、レンズ交換式の撮像装置であってもよい。
図1は、撮像装置1の構成を説明する図である。撮像装置1は、レンズ部100、撮像素子101、画像分配器102、画像処理部103、位相差検出部104、信号処理部105およびレンズ駆動部106を備える。なお、本実施形態では、撮像装置1の一例としてカメラ本体部とレンズ装置が一体となったデジタルカメラの説明を行うが、これに限られるものではなく、レンズ交換式の撮像装置であってもよい。
レンズ部100は、被写体からの光を取り込み、撮像素子101に光を結像させる。レンズ部100は、撮像光学系を構成する複数のレンズや絞り等の光学部材を備える。レンズ駆動部106は、フォーカシング制御機構、ズーミング制御機構、像ぶれ補正制御機構および絞り制御機構等を備え、レンズおよび絞りを駆動する。具体的には、レンズ駆動部106は、位相差検出部104からのフォーカシング制御信号(以下、AF情報とも記す)に基づいてレンズを駆動する。また、レンズ駆動部106は、不図示の制御部からのズーミング制御信号、像振れ補正制御信号などに基づいて、レンズを駆動する。不図示の制御部は、CPU(Central Processing Unit)を備え、撮像装置1全体を制御する。
撮像素子101は、複数の光電変換部を有し、レンズ部100からの入射光に対して光電変換を行って電気信号に変換する。撮像素子101の例として、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等がある。撮像素子101の詳細な構成については、図2を用いて後述する。
画像分配器102は、撮像素子101から出力された信号を、画像処理部103または位相差検出部104に出力する。読み出した信号がA+B像の場合はHDR画像作成と位相差検出の双方で用いるため、画像分配器102はHDR画像処理部103および位相差検出部104に信号を出力する。読み出した映像信号がB像の場合は位相差検出のみで用いるため、画像分配器102は位相差検出部104のみに信号を出力する。
画像処理部103は、画像分配器102から出力されたゲインの異なる2つの信号を合成して、ダイナミックレンジを拡大したHDR画像を生成する。HDR画像の生成方法には、例えば、被写体が暗い部分は高ゲインの画像を、明るい部分は低ゲインの画像を用いて合成を行う方法がある。なお、本実施形態におけるHDR画像の生成方法はこれに限られるものではなく、2つのゲインが異なる画像から合成を行う手法であればその合成アルゴリズムは限定されるものではない。位相差検出部104は、A像およびB像に基づいて位相差を検出し、フォーカスレンズを制御するためのAF情報を生成する。
次に、図2(A)および図2(B)を用いて撮像素子101の詳細を説明する。図2(A)は、撮像素子101全体の構成を説明する図である。撮像素子101は、タイミング制御部201、垂直走査回路202、画素部203、列アンプ204、加算部205、列ADC206、レベル判定部207、水平転送回路208、信号処理回路209および外部出力回路210を備える。
タイミング制御部201は、撮像素子101の各構成部の動作タイミングを制御するクロック信号(CLK)等を供給して、撮像素子101の動作を制御する。垂直走査回路202は、2次元に配置された画素部203の画素信号を、1フレーム中に順次読み出すためのタイミング制御を行う。一般的に、映像信号は1フレーム中に上部の行から下部の行にかけて、行単位で順次読み出される。
画素部203は、光電変換素子を備え、入射光量に応じて光電変換を行って信号出力である電圧を出力する。画素部203は、複数の画素300を有している。複数の画素300は、例えば、行方向および列方向に二次元状に配置されている。画素300の構成について、図2(B)を用いて説明する。図2(B)は、画素300の構成を説明する図である。画素300は、1つのマイクロレンズ220に対して、位相差検出のために第1の光電変換部221と第2の光電変換部222を備える。マイクロレンズ220は、入射した光束を集光し、第1の光電変換部221と第2の光電変換部222へと導く。
第1の光電変換部221と第2の光電変換部222は、例えば、フォトダイオードであり、入射した光束を光電変換する。第1の光電変換部221と第2の光電変換部222は、撮像光学系の射出瞳の異なる領域を通過した光束(瞳分割像)をそれぞれ受光可能なように設計されている。各光電変換部の信号レベルから位相差を検出することが可能である。以下では、第1の光電変換部221により得られる信号群で形成される像信号をA像(A像信号)、第2の光電変換部222により得られる信号群で形成される像信号をB像(B像信号)、A像とB像を加算した画像信号をA+B像(A+B像信号)と呼ぶ。すなわち、A+B像は撮像光学系の瞳領域全体を通過した光束に基づく信号である。A像とB像は、撮像光学系の互いに異なる一部の瞳領域を通過した光束に基づく信号であり、位相差を有する位相差検出用の信号となる。位相差検出部104は、A像およびB像基づいて位相差を検出し、AF情報を生成する。このように、画素300は、画像信号と位相差検出用の信号とを選択的に出力することができる。
また、画素300は不図示のカラーフィルタを備える。カラーフィルタは、入射した光束のうち特定の波長を通過させる。画素部203には、赤(R)、緑(G)、青(B)の波長を通過させる分光感度特性を持つカラーフィルタがベイヤー状に配列されている。なお、カラーフィルタの配列はこれに限られるものではない。なお、本実施形態では、画素300が2つの光電変換部を有している例を説明したが、画素300は3つ以上の光電変換部を有していてもよい。
列アンプ204は、画素部203から読み出された信号を電気的に増幅する。列アンプ204で信号を増幅することにより、それ以降の列ADC206から出るノイズに対して、画素部203の信号を増幅し、等価的にS/N比(信号対ノイズ比)を改善することができる。また、タイミング制御部201から列アンプ204の増幅率を変更することができ、露出条件の異なる画像を取得することが可能となる。
加算部205は、列アンプ204から出力されたA像、B像の信号を加算する。列ADC206は、加算部205からの出力信号をA/D変換する。なお、加算部205と列ADC206の配置の順序はこれに限られるものではなく、加算部205の前に列ADC206が配置されていてもよい。
レベル判定部207は、A+B像信号の信号レベルを判定する。レベル判定部207によるレベル判定の詳細については後述する。加算部205により加算された信号は、水平転送回路208により順次読み出される。水平転送回路208の出力は、信号処理回路209に入力される。信号処理回路209は、デジタル信号処理を行う回路であり、デジタル処理で一定量のオフセット値を加える処理の他に、シフト演算や乗算等を行う。これにより、簡易にゲイン演算を行うことができる。また、画素部203が遮光された画素領域を有する構造の場合、これを利用したデジタルの黒レベルクランプ動作を行ってもよい。
信号処理回路209は、処理した信号を外部出力回路210に出力する。外部出力回路210はシリアライザー機能を有し、信号処理回路209からの多ビットの入力パラレル信号をシリアル信号に変換する。また外部出力回路210は、このシリアル信号をLVDS信号等に変換し、外部デバイスへの画像情報として出力する。
次に、図3を用いてHDR生成用の信号と位相差検出用の信号を読み出すための読み出し方式について説明する。図3は、信号の読み出しを説明する図である。なお、図3には説明のために、1つの画素300と列アンプ204の一つの列を示してある。画素300は、第1の光電変換部221と第2の光電変換部222を有し、A像、B像が独立読み出し可能な構成である。
列アンプ204は、A像、B像を独立読み出し可能な画素300から信号を読み出し、増幅する。列アンプ204は、A像、B像それぞれに対応する増幅回路を有している。第1の光電変換部221から読み出したA像信号を増幅する増幅回路を第1の回路、第2の光電変換部222から読み出したB像信号を増幅する増幅回路を第2の回路とする。
第1の回路は、オペアンプ329、入力容量323、入力容量325、入力容量331、帰還容量327、帰還容量328、スイッチ322、スイッチ324、スイッチ330、スイッチ326およびスイッチ320を含む。また、第1の回路は、電流制御部321を含んでいてもよい。第2の回路は、オペアンプ309、入力容量303、入力容量305、入力容量315、帰還容量307、帰還容量308、スイッチ302、スイッチ304、スイッチ314、スイッチ306およびスイッチ310を含む。また、第2の回路は、電流減301を含んでいてもよい。
第1の回路と第2の回路は同じ構成を有するため、以下では第2の回路について説明する。入力容量303、入力容量305および入力容量314は、画素300とオペアンプ309との間に、互いに並列に接続されている。帰還容量307および帰還容量308は、オペアンプ309の負側入力端子(反転入力端子)とオペアンプ309の出力端子との間に、互いに並列に接続されている。オペアンプ309の正側入力端子(非反転入力端子)には、基準電源から所定の基準電圧が印加されている。
スイッチ302、スイッチ304およびスイッチ314は、撮像素子300から読み出したB像信号の入力容量への接続を制御する。具体的には、スイッチ302は、画素300と入力容量303の間に接続され、画素300から読み出されたB像信号の入力容量303への入力を制御する。スイッチ304は、画素300と入力容量305の間に接続され、画素300から読み出されたB像信号の入力容量305への入力を制御する。スイッチ314は、画素300と入力容量315の間に接続され、画素300から読み出されたB像信号の入力容量315への入力を制御する。並列に接続されたスイッチ302、スイッチ304、スイッチ314を制御することで、B像信号の3回の読み出しが可能である。スイッチ306は、オペアンプ309の負側入力端子(反転入力端子)と帰還容量307の間に、帰還容量307と直列に接続されており、帰還容量307の接続を制御する。スイッチ310は、オペアンプ309の出力端子と加算部205との間に接続されている。
まず、HDR画像生成のために画素300から異なるゲインで信号を読み出す方式について説明する。オペアンプ309の増幅率は入力容量/帰還容量である。そのため、入力容量と帰還容量との容量比を変化させることでオペアンプ309増幅率(ゲイン)を制御することができる。HDR画像作成のためには、第1のゲイン(高ゲイン)をかけた信号と第1のゲインより小さい第2のゲイン(低ゲイン)をかけた信号を取得する必要がある。
スイッチ302をオンとし、かつ、スイッチ304、スイッチ314およびスイッチ306をオフとしたとき、オペアンプ309は入力容量303と帰還容量308との静電容量比に対応する第1のゲインで増幅した信号を加算部205に出力する。また、スイッチ302およびスイッチ314をオフとし、かつ、スイッチ304およびスイッチ306をオンとする。このとき、オペアンプ309は入力容量305と、帰還容量307および帰還容量308との静電容量比に対応する第2のゲインで増幅した信号を加算部205に出力する。
以上説明したように、各スイッチのオン・オフ制御により、ゲインの異なる2つのB像の画像の信号を出力することができる。A像についても、B像と同様にゲインの異なる2つの画像の信号を出力することができる。加算部205で同じゲインのA像、B像を加算することで、2つの異なるゲインでA+B像信号を読み出すことが可能となり、画像処理部103でHDR画像を生成できる。
次に、位相差検出時の読み出しについて説明する。位相差情報を出力する場合、通常の画像信号(加算信号、A+B像信号)と位相差検出用の画像信号(B像信号)を同じゲインで出力する。第1のゲインで増幅したB像信号を取得する場合は、例えば、スイッチ302、スイッチ304、スイッチ306およびスイッチ320をオフとし、かつ、スイッチ314をオンとすればよい。これにより、オペアンプ309は入力容量303と帰還容量308との静電容量比に対応する第1のゲインで増幅したB像信号を出力することができる。また、第2のゲインで増幅したB像信号を取得する場合は、例えば、スイッチ302、スイッチ304およびスイッチ320をオフとし、かつ、スイッチ314およびスイッチ306をオンとすればよい。これにより、オペアンプ309は入力容量303と、帰還容量307および帰還容量308との静電容量比に対応する第2のゲインで増幅したB像信号を出力することができる。
図4(A)〜(D)および図5を用いて、読み出しのタイミングについて説明する。読み出しのタイミングは、タイミング制御部201および垂直走査回路202により制御される。垂直同期信号は、1つのフレームの読み出し開始を表す基準信号となる。水平同期信号400は、1つのフレームの各列の読み出し開始を表す基準信号となる。垂直同期信号が発生したとき、列アンプ204は、1つのフレームについて信号の読み出しを開始する。そして、水平同期信号400が発生したとき、列アンプ204は、フレームの所定の列について信号の読み出しを開始する。
図4(A)は、HDR画像生成のための読み出しを説明する図である。水平同期信号400が発生すると、列アンプ204は、高ゲインのA+B像401と低ゲインのA+B像402を順次読み出す。ゲインの異なる2つのA+B像401およびA+B像402からHDR画像が合成される。なお、ゲインの異なる2つのA+B像を読み出せばよく、高ゲイン画像と低ゲイン画像の読み出しの順序はどちらが先であっても構わない。
図4(B)は、位相差検出のための読み出しを説明する図である。水平同期信号400が発生すると、列アンプ204は、高ゲインのA+B像410の信号と高ゲインのB像411を順次読み出す。そして、位相差検出部104において、先に読み出したA+B像からB像を引き算することでA像を取得し、A像とB像を用いた位相差検出を行う。なお、A+B像410とB像411がいずれも高ゲイン画像である場合の例を説明したが、A+B像とB像のゲインが同じであればよく、例えばA+B像410とB像411がいずれも低ゲイン画像であってもよい。
図4(C)および図4(D)は、HDR画像生成と位相差検出を両立するための信号の読み出しを説明する図である。被写体輝度に依らずHDR画像生成と位相差検出を両立しようとした場合には、図4(C)に示すように、HDR画像作成用にA+B像の高ゲイン画像および低ゲイン画像が、位相差検出用にB像の高ゲイン画像および低ゲイン画像が必要となる。そのため、列アンプ204は、高ゲインのA+B像420、低ゲインのA+B像421、高ゲインのB像422、低ゲインのB像423を順次読み出すこととなり、計4回の読み出しが必要である。しかし、読み出し時間は読み出し回数に比例するため、4回の読み出しによりフレームレートが低下することが懸念される。
HDR画像生成と位相差検出を両立しつつ読み出しの回数を減らす場合、図4(D)に示すように、HDR画像作成用のA+B像の高ゲイン画像および低ゲイン画像と、位相差検出用のB像の高ゲイン画像(もしくは低ゲイン画像)を取得することとなる。そのため、列アンプ204は、高ゲインのA+B像430、低ゲインのA+B像431、高ゲインのB像432を順次読み出すこととなり、計3回の読み出しを行う。しかし、高ゲインでB像を読み出した場合、高輝度部ではB像の出力信号レベルが飽和するため位相差検出ができない。一方で、低ゲインでB像を読み出した場合、低輝度部では位相差検出ができない。
そこで、本実施形態では、フレームレートの低下を抑制するために読み出しの回数を3回に抑制しつつ、高精度な位相差検出を両立させるために、図5に示す読み出しを行う。図5は、HDR画像生成と位相差検出を両立するための信号の読み出しを説明する図である。水平同期信号400が発生すると、列アンプ204は高ゲインのA+B像501および低ゲインのA+B像502を読み出し、その後、レベル判定部207はレベル判定503を行う。そして、列アンプ204は、レベル判定503の結果に応じて、低ゲインのB像504もしくは高ゲインのB像505のいずれかを読み出す。
レベル判定部207は、レベル判定503の直前に読み出した低ゲインのA+B像502について出力信号のレベル判定を行う。A+B像502の出力信号レベルが所定の値より大きい場合、高輝度部であると判断し、列アンプ204は低ゲインでB像504を読み出す。一方、A+B像502の出力信号レベルが所定の値以下である場合、低輝度部であると判断し、列アンプ204は高ゲインでB像505を読み出す。なお、所定の値は、レンズデータなどに応じて変動するよう設定してもよいし、ユーザーが任意に設定してもよい。これにより、高輝度部ではA+B像およびB像それぞれを低ゲインで読み出した映像信号を用いて位相差検出が可能となり、低輝度部ではA+B像およびB像それぞれを高ゲインで読み出した映像信号を用いて位相差検出が可能となる。
なお、低ゲインのA+B像を用いてレベル判定を行う例を説明したが、高ゲインのA+B像を用いてレベル判定を行ってもよい。この場合も、出力信号レベルが所定の値より大きい場合は高輝度部であると判断し、列アンプ204は低ゲインでB像を読み出す。一方、出力信号レベルが所定の値以下である場合は低輝度部であると判断し、列アンプ204は高ゲインでB像を読み出す。高ゲイン画像を用いたレベル判定の基準となる所定の値は、低ゲイン画像を用いたレベル判定における所定の値より高い値を設定すればよい。
図6は、本実施形態の信号の読み出し処理を示すフローチャートである。図6では、1つの列アンプ204に着目した信号の読み出しを示している。列アンプ204は、水平同期信号を受けて画素300からの信号の読み出しを開始する。ステップS601で、列アンプ204は第1の読み出しを行う。第1の読み出しでは、列アンプ204は高ゲインでA+B像を読み出す。ステップS602で、列アンプ204は第2の読み出しを行う。第2の読み出しでは、列アンプ204は低ゲインでA+B像を読み出す。
ステップS603で、レベル判定部207は、第2の読み出しで読み出した低ゲインのA+B像の信号レベルのレベル判定を1画素ずつ行う。レベル判定部207は、A+B像の信号レベルと所定の値を比較し、信号レベルが所定の値以下であれば低輝度部であると判断し、ステップS604に進む。一方、信号レベルが所定の値より大きい場合は高輝度部であると判断し、ステップS605に進む。
ステップS604で、列アンプ204は低輝度部における第3の読み出しを行う。低輝度部における第3の読み出しでは、列アンプ204は高ゲインのA+B像と同じ露出になるよう高ゲインでB像を読み出す。ステップS605で、列アンプ204は高輝度部における第3の読み出しを行う。高輝度部における第3の読み出しでは、列アンプ204は低ゲインのA+B像と同じ露出になるよう低ゲインでB像を読み出す。
ステップS604で、撮像素子101は、1列全ての画素の読み出しが終了しているかを判定する。1列全ての画素の読み出しが終了している場合は、本処理を終了する。一方、1列全ての画素の読み出しが終了していない場合は、ステップS601に戻り、次の画素からの信号の読み出しを行う。1列全ての画素の読み出しが終了しているか否かは、例えば、同期コードを用いて判定することができる。
以上のように、第1実施形態によれば、フレームレートの低下を抑制しつつ、HDR合成に必要な信号(画像信号)と位相差検出に必要な信号(位相差検出用信号)を撮像素子から読み出す撮像装置を提供することができる。また、本実施形態ではアナログゲインを変えて位相差検出用の信号を読み出すため、ノイズの少ない高品位な位相差検出用の信号を取得することができ、高輝度部においても低輝度部においても高精度な位相差検出が可能となる。
(第2実施形態)
第1実施形態では、第1、第2の読み出しでA+B像を異なるゲインで読み出し、第3の読み出しで判定手段のレベル判定結果に基づき決定したゲインでB像を読み出す方法について説明した。第2実施形態では、第1の読み出しでB像を、第2、第3の読み出しでA+B像を読み出す方法について説明する。
第1実施形態では、第1、第2の読み出しでA+B像を異なるゲインで読み出し、第3の読み出しで判定手段のレベル判定結果に基づき決定したゲインでB像を読み出す方法について説明した。第2実施形態では、第1の読み出しでB像を、第2、第3の読み出しでA+B像を読み出す方法について説明する。
図7は、第2実施形態における信号の読み出しを説明する図である。第1実施形態の図3と共通の構成については同じ符号を付すことでその説明を省略する。第2実施形態では、メモリ700が追加されている。メモリ700には、レベル判定の判定結果として、次のB像の読み出しを高ゲインと低ゲインのいずれで行うか示す読み出しゲイン切り替え情報(以下、ゲイン情報とも記す)を保存する。そして、撮像素子101は、ゲイン情報に基づいて次フレームにおけるB像の読み出しゲインを切り替える。言い換えると、撮像素子101は、直前のフレームにおけるレベル判定の判定結果に応じて、B像の読み出しゲインを切り替える。
ゲイン情報としては、例えば、次の同画素の信号の読み出しにおいて低ゲインをかけてB像を読み出す場合には「0」を、高ゲインをかけてB像を読み出す場合には「1」を保存する。なお、ゲイン情報の一例として0または1を保持する例を説明したが、これに限られるものではない。ゲイン情報は、第2の読み出しまたは第3の読み出しの信号レベルを判定し、その判定結果に基づき次フレームの第1の読み出しにかけるゲインを切り替えるための情報であればよい。また、ゲイン情報をメモリ700に保存する例について説明したが、これに限られるものではなく、ゲイン情報を次フレームの読み出し時まで保持することができれば、その形態は問わない。
図8は、第2実施形態におけるHDR画像生成と位相差検出を両立するための信号の読み出しを説明する図である。水平同期信号800が発生すると、撮像素子101は、メモリ700からゲイン情報を取得するゲイン情報取得801を行う。そして、列アンプ204は取得したゲイン情報に応じたゲインをかけてB像を読み出す。したがって、ゲイン情報が低ゲインの場合は低ゲインのB像802を、ゲイン情報が高ゲインの場合は高ゲインのB像803を読み出す。
続いて列アンプ204は、低ゲインのA+B像804および高ゲインのA+B像805を読み出す。その後、その後、レベル判定部207はレベル判定806を行い、判定結果に基づいて、B像の読み出しを高ゲインで行うか低ゲインで行うかを示すゲイン情報をメモリ700に保存するゲイン情報の保存処理807を行う。具体的には、レベル判定806の結果、A+B像805の信号レベルが所定の値より大きい場合は高輝度部であると判断し、次フレームで同画素を読み出すときには低ゲインをかけて読み出すために、ゲイン情報として0をメモリに保存する。一方、A+B像805の信号レベルが所定の値より以下である場合は低輝度部であると判断し、次フレームで同画素を読み出すときには高ゲインをかけて読み出すために、ゲイン情報として1をメモリに保存する。
なお、本実施形態では第2の読み出しで低ゲインのA+B像を、第3の読み出しで高ゲインのA+B像を読み出し、高ゲインのA+B像をレベル判定に用いる例を説明したがこれに限られるものではない。例えば、第2の読み出しで高ゲインのA+B像を、第3の読み出しで低ゲインのA+B像を読み出し、低ゲインのA+B像をレベル判定に用いてもよい。
図9は、第2実施形態における信号の読み出し処理を示すフローチャートである。図9では、1つの列アンプ204に着目した信号の読み出しを示している。列アンプ204は、水平同期信号を受けて画素300からの信号の読み出しを開始する。ステップS901で、撮像素子101は、メモリ700からゲイン情報を読み出す。ステップS902で、撮像素子101は、ゲイン情報の値が0であるか否か判定する。ゲイン情報の値が0である場合は、ステップS903に進む。一方、ゲイン情報の値が0でない場合(1である場合)は、ステップS904に進む。なお、ゲイン情報が0であれば前フレームに同画素を読み出したときの出力信号レベルが所定の値よりも大きいことを意味する。一方、ゲイン情報が1であれば前フレームに同画素を読み出したときの出力信号レベルが所定の値以下であることを意味する。
ステップS903もしくはステップS904で、列アンプ204は第1の読み出しを行う。ゲイン情報の値が0である場合は、列アンプ204は第1の読み出しで低ゲインのB像を読み出す(ステップS903)。ゲイン情報の値が0でない場合は、列アンプ204は第1の読み出しで高ゲインのB像を読み出す(ステップS904)。
ステップS905で、列アンプ204は第2の読み出しを行う。第2の読み出しでは、列アンプ204は低ゲインでA+B像を読み出す。ステップS906で、列アンプ204は第3の読み出しを行う。第3の読み出しでは、列アンプ204は高ゲインでA+B像を読み出す。
ステップS907で、レベル判定部207は、第3の読み出しで読み出した高ゲインのA+B像の信号レベルのレベル判定を1画素ずつ行う。レベル判定の方法は第1実施形態と同様である。レベル判定部207は、A+B像の信号レベルと所定の値(閾値)を比較し、信号レベルが所定の値以下であれば低輝度部であり、次フレームでも同画素は飽和しないと判断し、ステップS908に進む。一方、信号レベルが所定の値より大きい場合は高輝度部であり、次フレームでも同画素は飽和すると判断し、ステップS909に進む。
ステップS908で、レベル判定部207は、メモリ700に1を保存する。ステップS909で、レベル判定部207は、メモリ700に0を保存する。ステップS910で、撮像素子101は、1列全ての画素の読み出しが終了しているかを判定する。1列全ての画素の読み出しが終了している場合は、本処理を終了する。一方、1列全ての画素の読み出しが終了していない場合は、ステップS901に戻り、次の画素からの信号の読み出しを行う。
以上のように、第2実施形態によれば、フレームレートの低下を抑制しつつ、HDR合成に必要な信号(画像信号)と位相差検出に必要な信号(位相差検出用信号)を撮像素子から読み出す撮像装置を提供することができる。また、本実施形態ではアナログゲインを変えて位相差検出用の信号を読み出すため、ノイズの少ない高品位な位相差検出用の信号を取得することができ、高輝度部においても低輝度部においても高精度な位相差検出が可能となる。
(第3実施形態)
第1実施形態および第2実施形態では、読み出した映像信号のレベル判定を行い、同フレームもしくは次フレームにおける位相差検出用の信号の読み出しゲインを切り替える方法について説明した。第3実施形態では、撮像素子101から信号を読み出した後にデジタル信号処理を用いることでアナログゲインの切り替えなしに高輝度部の位相差検出を実現する方法について説明する。
第1実施形態および第2実施形態では、読み出した映像信号のレベル判定を行い、同フレームもしくは次フレームにおける位相差検出用の信号の読み出しゲインを切り替える方法について説明した。第3実施形態では、撮像素子101から信号を読み出した後にデジタル信号処理を用いることでアナログゲインの切り替えなしに高輝度部の位相差検出を実現する方法について説明する。
図10は、第3実施形態における撮像装置の構成を説明する図である。第1実施形態と同様の構成には同じ符号を付すことで、その説明を省略する。第3実施形態では、画像分配器102と位相差検出部104の間にゲイン付加処理部(以下、ゲイン処理部と記す)107が追加されている。ゲイン処理部207は、例えば、撮像装置内のデジタル信号を処理する信号処理回路で実現される。
ゲイン処理部107は、B像の信号を増幅する必要があるか判定し、必要に応じて画像分配器102から出力された位相差検出用の低ゲインのB像の信号に対しデジタルゲインをかけ、位相差検出部104にデジタルゲイン付加処理後のB像の信号を出力する。B像の信号を増幅する必要があるか否かは、高輝度部であるか低輝度部であるかを判定する信号レベルのレベル判定により判定される。即ち、ゲイン処理部107は、レベル判定部としての機能と、信号の増幅手段としての機能を有する。
ゲイン処理部107が付加するデジタルゲインのゲイン値は、HDR用に高ゲインでA+B像の映像信号を読み出したゲイン値を位相差検出用にB像の映像信号を読み出したときのゲイン値で除した値とする。ゲイン処理部107でB像にゲインを付加することは、高ゲインで読み出したB像の信号を算出することに相当する。そのため、ゲイン処理部107においてゲインを付加したB像と高ゲインで読み出したA+B像を用いて、低輝度部の位相差検出を可能とする。
図11は、第3実施形態における信号の読み出しを説明する図である。第1実施形態の図3と共通の構成については同じ符号を付すことでその説明を省略する。第1実施形態と比較すると、第3実施形態ではレベル判定部207が省略され、より簡易な構成となっている。第3実施形態において、レベル判定は、ゲイン付加処理部1007が行う。
図12は、第3実施形態におけるHDR画像生成と位相差検出を両立するための信号の読み出しを説明する図である。水平同期信号1200が発生すると、列アンプ204は高ゲインのA+B像1201、低ゲインのA+B像1202、低ゲインのB像を順次読み出す。信号を読み出す際にレベル判定を行わないため、第1実施形態や第2実施形態に比べ、フレームレートの低下をより抑制することができる。なお、ゲインの異なる2つのA+B像と、低ゲインのB像を読み出せばよく、読み出す順序は限定されない。
図13は、第3実施形態における信号の読み出し処理を示すフローチャートである。図13では、1つの列アンプ204に着目した信号の読み出しを示している。列アンプ204は、水平同期信号を受けて画素300からの信号の読み出しを開始する。ステップS1301で、列アンプ204は第1の読み出しを行う。第1の読み出しでは、列アンプ204は高ゲインでA+B像を読み出す。ステップS1302で、列アンプ204は第2の読み出しを行う。第2の読み出しでは、列アンプ204は低ゲインでA+B像を読み出す。ステップS1303で、列アンプ204は第3の読み出しを行う。第3の読み出しでは、列アンプ204は低ゲインでB像を読み出す。
ステップS1304で、撮像素子101は、1列全ての画素の読み出しが終了しているかを判定する。1列全ての画素の読み出しが終了している場合は、ステップS1305に進む。一方、1列全ての画素の読み出しが終了していない場合は、ステップS1301に戻り、次の画素からの信号の読み出しを行う。
ステップS1305で、ゲイン処理部107は、第2の読み出しで読み出した低ゲインのA+B像の信号レベルのレベル判定を行う。レベル判定の方法は第1実施形態と同様である。ゲイン処理部107は、A+B像の信号レベルと所定の値(閾値)を比較し、信号レベルが所定の値以下であれば、低輝度部であり低ゲインのB像に対しデジタルゲインをかける必要があると判断し、ステップS1306に進む。一方、信号レベルが所定の値より大きい場合は、高輝度部であり第3の読み出しで読み出した低ゲインのB像を用いて位相差検出が可能であると判断し、ステップS1307に進む。
ステップS1306において、ゲイン処理部107は、第3の読み出しで読み出した低ゲインのB像の信号に対してデジタルゲインを付加し、高ゲインのB像を生成する。ステップS1306において、位相差検出部104は、位相差検出を行う。高輝度の場合は、位相差検出部104は低ゲインのA+B像と低ゲインのB像を用いて位相差検出を行う。低輝度の場合は、位相差検出部104は高ゲインのA+B像とステップS1306で生成した高ゲインのB像を用いて位相差検出を行う。
以上のように、第3施形態によれば、フレームレートの低下をより抑制しつつ、HDR合成に必要な信号(画像信号)と位相差検出に必要な信号(位相差検出用信号)を撮像素子から読み出す撮像装置を提供することができる。そして、高輝度部においても低輝度部においても高精度な位相差検出が可能となる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、本発明の好ましい実施形態について説明したが、本発明は、これらの実施形態に限定されず、その要旨の範囲内で種々の変形および変更が可能である。
1 撮像装置
101 撮像素子
103 画像処理部
104 位相差検出部
203 画素部
204 列アンプ
207 レベル判定部
101 撮像素子
103 画像処理部
104 位相差検出部
203 画素部
204 列アンプ
207 レベル判定部
Claims (10)
- 複数の光電変換部を有し、画像信号と位相差検出用の信号とを選択的に出力することができる画素を備える画素部と、
前記画素部から、露出の異なる複数の前記画像信号と、前記位相差検出用の信号とを読み出す読み出し手段と、
前記画像信号の輝度を判定する判定手段と、を備え、
前記位相差検出用の信号の露出は、前記判定手段の判定結果に応じて制御される
ことを特徴とする撮像装置。 - 前記読み出し手段は、第1の露出と前記第1の露出より高い第2の露出で前記画像信号を読み出し、
前記判定手段が高輝度であると判定した場合、前記位相差検出用の信号の露出は前記第1の露出に、前記判定手段が低輝度であると判定した場合、前記位相差検出用の信号の露出は前記第2の露出に制御されることを特徴とする請求項1に記載の撮像装置。 - 前記判定手段は、前記画像信号の信号レベルが所定の値より大きい場合に前記高輝度であると判定し、前記信号レベルが所定の値以下である場合に前記低輝度であると判定することを特徴とする請求項2に記載の撮像装置。
- 前記読み出し手段は、前記判定手段が高輝度であると判定した場合、前記第1の露出で前記位相差検出用の信号を読み出し、前記判定手段が低輝度であると判定した場合、前記第2の露出で前記位相差検出用の信号を読み出すことを特徴とする請求項2または3に記載の撮像装置。
- 前記読み出し手段は、信号を読み出す際のゲイン値を切り替えることで露出を制御することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
- 前記判定結果を記憶する記憶手段を備え、
前記読み出し手段は、前記記憶手段に記憶された直前のフレームにおける前記判定結果に応じて、前記位相差検出用の信号の露出を制御することを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。 - デジタル信号に変換された前記位相差検出用の信号を増幅する増幅手段を備え、
前記読み出し手段は、第1の露出と前記第1の露出より高い第2の露出で前記画像信号を、前記第1の露出で前記位相差検出用の信号を読み出し、
前記増幅手段は、前記判定手段が低輝度であると判定した場合、前記位相差検出用の信号を前記第2の露出になるよう増幅することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。 - 前記位相差検出用の信号を用いて位相差検出を行う位相差検出手段と、
露出の異なる複数の前記画像信号を用いてダイナミックレンジを拡大する処理を行う画像処理手段と、を備えることを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。 - 画素部から画像信号と位相差検出用の信号とを選択的に出力することができる撮像素子を備える撮像装置の制御方法であって、
前記画素部から、露出の異なる複数の前記画像信号を読み出す工程と、
前記画像信号の輝度を判定する工程と、
前記輝度の判定結果に応じて前記位相差検出用の信号の露出を制御して読み出す工程と、を有する
ことを特徴とする制御方法。 - 画素部から画像信号と位相差検出用の信号とを選択的に出力することができる撮像素子を備える撮像装置の制御方法であって、
前記画素部から、第1の露出および前記第1の露出より高い第2の露出で画像信号を読み出す工程と、
前記第1の露出で位相差検出用の信号を読み出す工程と、
前記画像信号の輝度を判定する工程と、
前記輝度が所定の値以下である場合、前記位相差検出用の信号の露出が前記第2の露出になるよう増幅する工程と、を有する
ことを特徴とする制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019006195A JP2020115604A (ja) | 2019-01-17 | 2019-01-17 | 撮像装置およびその制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019006195A JP2020115604A (ja) | 2019-01-17 | 2019-01-17 | 撮像装置およびその制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020115604A true JP2020115604A (ja) | 2020-07-30 |
Family
ID=71778778
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019006195A Pending JP2020115604A (ja) | 2019-01-17 | 2019-01-17 | 撮像装置およびその制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020115604A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11722795B2 (en) | 2021-06-25 | 2023-08-08 | Samsung Electronics Co., Ltd. | Image processing device for noise reduction using dual conversion gain and operation method thereof |
WO2023162470A1 (ja) * | 2022-02-25 | 2023-08-31 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
-
2019
- 2019-01-17 JP JP2019006195A patent/JP2020115604A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11722795B2 (en) | 2021-06-25 | 2023-08-08 | Samsung Electronics Co., Ltd. | Image processing device for noise reduction using dual conversion gain and operation method thereof |
WO2023162470A1 (ja) * | 2022-02-25 | 2023-08-31 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5946421B2 (ja) | 撮像装置及びその制御方法 | |
US9277113B2 (en) | Image pickup apparatus and driving method therefor | |
JP7353783B2 (ja) | 撮像装置とその制御方法及び撮像素子とその制御方法 | |
US11515344B2 (en) | Image sensor, image capturing apparatus and image processing apparatus | |
US20160105623A1 (en) | Image sensor and image capturing apparatus | |
US10225494B2 (en) | Image capturing apparatus and control method thereof | |
US11165978B2 (en) | Imaging device, control method thereof, and imaging apparatus | |
JP6557455B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
US20090027514A1 (en) | Image pickup apparatus and method | |
JP7332302B2 (ja) | 撮像装置及びその制御方法 | |
JP6815777B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
JP2020115604A (ja) | 撮像装置およびその制御方法 | |
JP2020092346A (ja) | 撮像装置およびその制御方法 | |
JP2020043391A (ja) | 撮像装置およびその制御方法 | |
JP2014155002A (ja) | 撮像装置 | |
JP7236282B2 (ja) | 画像処理装置及び方法、及び撮像装置 | |
JP7134786B2 (ja) | 撮像装置および制御方法 | |
JP2008053812A (ja) | 撮像装置 | |
JP2020057883A (ja) | 撮像装置 | |
US20240155229A1 (en) | Image capturing apparatus and method for controlling the same | |
US11778346B2 (en) | Image processing device, image processing method, and storage medium | |
JP2019213047A (ja) | 撮像素子、撮像装置および撮像素子の制御方法 | |
US11368610B2 (en) | Image capture apparatus and control method therefor | |
JP7020463B2 (ja) | 撮像装置 | |
JP6590055B2 (ja) | 撮像装置 |