JP7262236B2 - 撮像装置およびその制御方法 - Google Patents

撮像装置およびその制御方法 Download PDF

Info

Publication number
JP7262236B2
JP7262236B2 JP2019018257A JP2019018257A JP7262236B2 JP 7262236 B2 JP7262236 B2 JP 7262236B2 JP 2019018257 A JP2019018257 A JP 2019018257A JP 2019018257 A JP2019018257 A JP 2019018257A JP 7262236 B2 JP7262236 B2 JP 7262236B2
Authority
JP
Japan
Prior art keywords
pixel
pulse signal
count value
time
level
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019018257A
Other languages
English (en)
Other versions
JP2020127123A (ja
JP2020127123A5 (ja
Inventor
聡史 鈴木
伸弘 竹田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019018257A priority Critical patent/JP7262236B2/ja
Priority to US16/778,604 priority patent/US11172151B2/en
Publication of JP2020127123A publication Critical patent/JP2020127123A/ja
Publication of JP2020127123A5 publication Critical patent/JP2020127123A5/ja
Application granted granted Critical
Publication of JP7262236B2 publication Critical patent/JP7262236B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/702SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
    • H04N25/773Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters comprising photon counting circuits, e.g. single photon detection [SPD] or single photon avalanche diodes [SPAD]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は撮像装置およびその制御方法に関する。
降伏電圧より大きな逆バイアス電圧を印加したアバランシェフォトダイオード(APD)をアレイ状に配置して、ある範囲に入射したフォトンの数を検出するフォトダイオードアレイが提案されている(特許文献1)。また、このようなフォトダイオードアレイをフォトンカウンティング方式の撮像素子として用いることも提案されている。
特開2012-174783号公報
従来、このようなフォトンカウンティング方式の撮像素子において、蛍光灯やLEDといったフリッカ光源(高速で点滅する光源)の有無やフリッカ光源(またはフリッカ光)の特性を検出する方法は提案されていなかった。
したがって、本発明は、フォトンカウンティング方式の撮像素子を用いて、フリッカ光源の有無を検出可能な撮像装置およびその制御方法の提供を1つの目的とする。
上述の目的は、フォトンの入射に応じてパルス信号を出力する受光部と、パルス信号を計数する計数部とを有する画素が、2次元配列された画素領域と、パルス信号の出力頻度が予め定められた閾値以上となる周期に基づいて、撮影範囲におけるフリッカ光源の存在有無を検出する検出手段と、を有することを特徴とする撮像装置によって達成される。
本発明によれば、フォトンカウンティング方式の撮像素子を用いて、フリッカ光源の有無を検出することが可能な撮像装置およびその制御方法を提供することができる。
実施形態に係る撮像装置の構成例を示す図 第1実施形態に係る撮像素子の構成例を示す図 第1実施形態に係る撮像素子の回路構成例を示す図 第1実施形態に係る撮像素子のチップレイアウトの例を示す図 第1実施形態に係る撮像素子の動作に関するタイミングチャート 実施形態に係る撮影シーケンスのフローチャート 第1実施形態の別の形態に係る撮像素子の動作に関するタイミングチャート 第2実施形態に係る撮像素子の構成例を示す図 第2実施形態に係る撮像素子の回路構成例を示す図 第2実施形態に係る撮像素子のチップレイアウトの例を示す図 第2実施形態に係る撮像素子の動作に関するタイミングチャート 第3実施形態に係る撮像素子の構成例を示す図 第3実施形態に係る撮像素子の動作を説明するための図
以下、添付図面を参照して本発明をその例示的な実施形態に基づいて詳細に説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定しない。また、実施形態には複数の特徴が記載されているが、その全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
●(第1実施形態)
図1は、本発明の第1実施形態に係る、フォトンカウンティング方式の撮像素子を用いたカメラ100の機能構成例を示すブロック図である。
撮影レンズ101は、フォーカスレンズを含む複数のレンズと、絞りおよび/またはNDフィルタを有する。撮影レンズ101は着脱可能であってもなくてもよい。撮影レンズ101は、被写体光学像を撮像素子102の撮像面に形成する撮影光学系である。フォトンカウンティング方式の撮像素子102(撮像装置とも呼ぶ)には、光電変換素子としてアバランシェフォトダイオード(APD)を有する画素が2次元配列されている。撮像素子102の構成例については後述する。
画像処理回路103は、撮像素子102から読み出された画像データに対して予め定められた信号処理を適用し、表示用および/または記録用の画像データを生成する。また、画像処理回路103は、画像データに信号処理を適用して得られた情報を制御回路106に出力する。画像処理回路103は例えば特定の機能を実現するように設計されたASICのような専用のハードウェア回路であってもよいし、DSPのようなプログラマブルプロセッサがソフトウェアを実行することで特定の機能を実現する構成であってもよい。
ここで、画像処理回路103が適用する信号処理には、前処理、色補間処理、補正処理、検出処理、データ加工処理、評価値算出処理などが含まれる。前処理には、信号増幅、基準レベル調整、欠陥画素補正などが含まれる。色補間処理は、画素から読み出した画像データに含まれていない色成分の値を補間する処理であり、デモザイク処理とも呼ばれる。補正処理には、ホワイトバランス調整、画像の輝度を補正する処理、レンズ群10の光学収差を補正する処理、色を補正する処理などが含まれる。検出処理には、特徴領域(たとえば顔領域や人体領域)の検出および追尾処理、人物の認識処理などが含まれる。データ加工処理には、スケーリング処理、符号化および復号処理、ヘッダ情報生成処理などが含まれる。評価値算出処理は、制御回路106が行う自動露出制御処理や自動焦点検出処理に用いる評価値の算出処理である。なお、これらは画像処理回路103が実施可能な信号処理の例示であり、画像処理回路103が実施する信号処理を限定するものではない。
メモリ104は、画像データのバッファとして用いられたり、画像処理回路103や制御回路106のワークエリアとして用いられたり、表示装置108のビデオメモリとして用いられたりする。また、メモリ104の一部は不揮発性であり、制御回路106が実行するプログラムおよび設定値、カメラ100の設定値、UI表示用データなどの記憶に用いられる。
記録回路105は、制御回路106の制御に従い、例えば半導体メモリカードである記録媒体109に対してデータファイルの書き込みおよび読み出しを実行する。
表示装置108は例えばフラットパネルディスプレイであり、制御回路106から供給される表示信号に基づく画像、例えばライブビュー画像やメニュー画面などを表示する。なお、表示装置108はタッチディスプレイであってもよい。
操作回路107はスイッチ、ボタン、タッチパッド、ダイヤルなどの入力デバイス群であり、ユーザがカメラ100に指示を与えるために用いられる。操作回路107に含まれる入力デバイスのそれぞれには、固定的もしくは動的に機能が割り当てられる。それにより入力デバイスは、シャッターボタン、動画記録/停止ボタン、メニューボタン、方向キー、決定ボタン、動作モード切り替えダイヤルなどとして機能する。なお、表示装置108がタッチディスプレイの場合、タッチパネルとGUIとの組み合わせによって実現されるソフトキーは操作回路107が有する入力デバイス群に含まれる。
制御回路106は例えばプログラマブルプロセッサである。制御回路106は、メモリ104が有する不揮発性メモリに記憶されているプログラムをメモリ104のシステムメモリに展開して実行し、各部の動作を制御してカメラ100の機能を実現する。例えば制御回路106は、操作回路107の操作が検出されると、検出された操作に応じた動作を実行する。
次に、図2を参照して、撮像素子102の構成例について説明する。撮像素子102は画素領域200、垂直選択回路202、水平選択回路203、タイミングジェネレータ(TG)204、パルス頻度検出部205、フレームメモリ206、加算回路207、およびデジタル出力部208を有する。
画素領域200には、複数の画素201が行列状に配置されている。ここでは、簡単のためにごく一部の画素しか記載していないが、一般的なカメラでは数百万から数千万の画素が配置される。個々の画素201は自身の受光領域に入射した光量を、入射したフォトンの数として検出し、デジタル値として出力することができる。各画素201では、フォトンの計数値が所定の閾値以上になると、配線212を通じてパルス頻度検出信号PFREQをパルス頻度検出部205に出力する。配線212は対応する画素行に配置された全ての画素と、一端を電源電圧VDDに接続されたプルアップ抵抗211とに接続されている。
パルス頻度検出部205は、全ての配線212に接続され、PFREQを出力した画素の数を画素行単位で数することができる。そして、パルス頻度検出部205は、露光(計数)期間中にPFREQを出力した画素の割合が所定値以上となった画素行を検出し、検出した画素行の情報をTG204に通知する。
なお、図2に示した構成例では、PFREQを画素行ごとに計数したが、他の単位で計数してもよい。例えば、画素列ごとに計数したり、画素全体に対して計数したり、所定の2次元領域ごとに計数したりしてもよい。
TG204は、垂直選択回路202、水平選択回路203、フレームメモリ206、加算回路207、デジタル出力部208に、動作を制御するタイミング信号を出力する(図2では一部の配線を省略している)。TG204の動作は制御回路106が制御している。
垂直選択回路202、画素領域200に配置された画素201を、スイッチ209のオン/オフを制御することによって画素行単位で選択する。また、垂直選択回路202は、不図示の配線を介して画素行ごとに制御信号を送出する(後述)。
水平選択回路203は、画素領域200に配置された画素201を、スイッチ210のオン/オフを制御することによって画素列単位で選択する。垂直選択回路202と水平選択回路203の両方によって選択された画素から、画像データ(フォトンの計数値)が読み出され、フレームメモリ206に入力される。
フレームメモリ206は、画素201から読み出された画像データを保持する。フレームメモリ206は一時メモリ領域と積算メモリ領域とを有する。一時メモリ領域は、画像データを一時的に保持するための領域である。積算メモリ領域は、露光期間中に一時メモリ領域に保持された画像データをアドレスごとに積算して保持するための領域である。一時メモリ領域における1画素あたりのビット数は、画像データのビット数(画素が有するカウンタのビット数)に等しい。一方、積算メモリ領域における1画素当たりのビット数は、画像データのビット数より大きく、積算値を格納するために十分なビット数とする。
加算回路207は、フレームメモリ206の一時メモリ領域に保持された画像データを、積算メモリ領域に積算するための加算処理を実行する。具体的には、加算回路207は同じ画素に対応する、積算メモリ領域に保持された画像信号と、一時メモリ領域に保持された画像データとを読み出し、加算したのち、積算メモリ領域に書き戻す。
デジタル出力部208は、フレームメモリ206の積算メモリ領域に保持された画像データを所定の順序で読み出し、画像処理回路103に出力する。なお、フレームメモリ206および加算回路207は撮像素子102の外部に設けてもよい。この場合、画素から読み出した画像データをデジタル出力部208から出力し、外部に設けたフレームメモリ206の一時メモリ領域に保持するように構成する。
図3は、画素201のより詳細な構成例を示す図である。画素201は、受光部301と計数部302を備える。受光部301は、フォトダイオード303、クエンチ抵抗304、および反転バッファ305を有する。フォトダイオード303は、アバランシェフォトダイオード(APD)である。フォトダイオード303にはクエンチ抵抗304を介して降伏電圧以上のバイアス電圧Vbiasが印加されている。これにより、フォトダイオード303はガイガーモードで動作し、フォトンが入射するとアバランシェ増倍現象が発生する。
アバランシェ増倍現象が発生すると、アバランシェ電流が生じてクエンチ抵抗304で電圧降下が発生し、フォトダイオード303に印加されるバイアス電圧が低下する。バイアス電圧がフォトダイオード303の降伏電圧を下回るとアバランシェ増倍現象が停止する。その結果、アバランシェ電流が流れなくなり、フォトダイオード303に降伏電圧以上のバイアス電圧Vbiasが再度印加されようになる。このように、クエンチ抵抗304は、フォトダイオード303のアバランシェ増倍現象を停止されるために用いられる。なお、トランジスタの抵抗成分をクエンチ抵抗304として用いてもよい。
アバランシェ増倍現象の発生によってクエンチ抵抗304とフォトダイオード303との接続点Voutに生じる電圧変化は、反転バッファ305によってパルス信号に変換される。したがって、ガイガーモードで動作するフォトダイオード303にフォトンが入射すると、反転バッファ305からパルス信号PLSが出力され、計数部302に与えられる。
計数部302は、反転バッファ305に接続されたカウンタ回路306と、カウンタ回路306の計数値を保持するための画素メモリ307と、比較器309と、反転バッファ308とを有している。
カウンタ回路306には、受光部301からパルス信号PLSが、垂直選択回路202からイネーブル信号PENおよびリセット信号PRESが、それぞれ供給される。カウンタ回路306は、PENがHレベルかつPRESがLレベルの状態で、PLSがLからHレベルに変化した回数を計数する。カウンタ回路306はPENがLレベルの場合には計数値を変更しない。また、カウンタ回路306はPRESがHレベルになると計数値を初期値(例えば0)にリセットする。
画素メモリ307には、垂直選択回路202からラッチ信号PLATが供給される。画素メモリ307は、PLATがLレベルからHレベルに変化すると、その時点におけるカウンタ回路306の計数値を画像データとして保持する。
垂直選択回路202と水平選択回路203の両方によって選択された画素201の画素メモリ307に保持された画像データが、垂直信号線およびスイッチ210を通じてフレームメモリ206の一時メモリ領域に保持される。なお、本実施形態においては、画素領域200に配置された全ての画素201に対し、同一のPEN、PRES、およびPLATが供給される。
比較器309は、PLATがLレベルからHレベルになったときのカウンタ回路306の計数値を所定の閾値Cthと比較し、比較結果を表すレベルを出力する。具体的には、計数値が閾値以上であればHレベルを出力し、計数値が閾値未満であればLレベルを出力する。比較器309の出力は、オープンドレイン出力の反転バッファ308を通じてPFREQとして出力される。したがって、カウンタ回路306の計数値が閾値Cth未満の状態では、反転バッファ308の出力、すなわちPFREQはハイインピーダンス(Hレベル)である。一方、カウンタ回路306の計数値が閾値Cth以上の状態では、PFREQはLレベルである。詳細は後述するが、閾値Cthは、所定の単位期間(または単位時間)当たりの入射光量が多い状態(パルス信号の出力頻度が高い状態)を検出するために用いられ、制御回路106またはパルス頻度検出部205によって設定される。PFREQは、パルス信号の出力頻度に応じたレベルを有する信号ということができる。
図2に関して説明したように、同じ画素行に配列された画素201のPFREQは共通の配線212に出力され、かつ、プルアップ抵抗211によってプルアップされている。したがって、配線212のレベルは接続された画素201のPFREQの論理和を示す。つまり、ある画素行について、すべての画素の計数値が閾値Cth未満の状態では、配線212を通じてパルス頻度検出部205に入力されるPFREQはHレベルである。一方、行内のいずれかの画素の計数値が閾値Cth以上になると、PFREQはLレベルに変化する。
パルス頻度検出部205にはすべての画素行からPFREQが入力される。そのため、パルス頻度検出部205は、PFREQのレベルに基づいて、画素領域200に計数値が閾値Cth以上の画素が存在するか否かと、計数値が閾値Cth以上の画素が存在する画素行の位置および総数とを検出することができる。
また、PFREQのレベルが変化する周期や被写体輝度の経時変化の周期的な変化に基づいて、パルス頻度検出部205や制御回路106はフリッカノイズもしくはフリッカ光源の有無ならびにフリッカ光の輝度変化特性(例えば周期または周波数)を検出できる。例えばパルス頻度検出部205は、PFREQのレベルが変化する周期(または周波数)のばらつきが予め定めた範囲内である場合に、フリッカ光源が存在すると判定することができる。パルス頻度検出部205のこの動作は、パルス信号の出力頻度または出力頻度の経時変化に基づいて、撮影範囲におけるフリッカ光(またはフリッカ光源)の存在有無や特性を検出する動作に相当する。また、制御回路106は、同一被写体領域における輝度の経時変化の周期(または周波数)のばらつきが予め定めた範囲内である場合に、フリッカ光源が存在すると判定することができる。また、パルス頻度検出部205および/または制御回路106は、フリッカ光もしくは被写体輝度の変化特性に基づいて閾値Cthを決定することができる。
図4は撮像素子102のチップレイアウトの一例を模式的に示す斜視図である。
撮像素子102は、受光部基板401と、計数部基板402と、フレームメモリ基板403とが積層された構成を有する。基板間はシリコン貫通電極などを用いて電気的に接続される。受光部基板401には、画素領域200のうち、各画素201の受光部301が行列状に配置される。計数部基板402には、各画素201の計数部302が行列状に配置される。また、計数部基板402には、垂直選択回路202および水平選択回路203、TG204、パルス頻度検出部205も配置される。フレームメモリ基板403には、フレームメモリ206および加算回路207、デジタル出力部208が配置される。
受光部301と計数部302とを別々の基板に形成することで、各画素201の受光面積を大きくすることができる。また、フレームメモリ基板403を受光部基板401および計数部基板402よりも微細なプロセスで製造すれば、フレームメモリ206の容量を大きくすることができる。なお、図4に示すような積層構造とする代わりに、撮像素子102の全ての回路を同一基板上に形成してもよい。
次に、図5のタイミングチャートを用いて、動画撮影時のように複数フレームの画像データを連続して取得する際の、撮像素子102の読み出し動作について説明する。ここでは、環境光が、図5の最上段に示すような輝度変化特性を有するフリッカ光であるものとする。フリッカ光の輝度変化特性は、例えば撮影スタンバイ状態において表示装置108をEVFとして機能させるために撮影された動画データに基づいて、パルス頻度検出部205または制御回路106で検出されているものとする。なお、図5において、パルス信号PLS、計数値COUNT、パルス輝度検出信号PFREQについては、画素領域200に設けられた複数の画素のうちの1つ(以下、代表画素と呼ぶ)に関して示している。
時刻t501で例えば操作回路107を通じた入力により、撮影開始信号STARTがHレベルになると、制御回路106は撮像素子102の画素201に対するバイアス電圧Vbiasの供給を開始させる。これにより、受光部301のフォトダイオード303はガイガーモードでの動作を開始し、フォトダイオード303にフォトンが入射するごとに受光部301からPLS信号が出力される。なお、時刻t501においてPRESはHレベルであるため、すべての画素201において、カウンタ回路306の計数値は0にリセットされている。したがって、PFREQはHレベルである。
時刻t502で、PRESがLレベルとなり、各画素201のカウンタ回路306のリセットが解除される。また、PENがHレベルとなり、各画素201のカウンタ回路306はイネーブル状態となる。これにより露光期間が開始され、各画素201のカウンタ回路306では、PLSがLレベルからHレベルになった回数の計数を開始する。
また、時刻t502から、同期信号SubVDが所定の間隔ΔtごとにHレベルとなる。本実施形態においては、SubVDがHレベルとなる間隔(周期)を単位期間(または単位時間)として、この単位期間あたりのパルス信号PLSの出力頻度を、カウンタ回路306の計数値に基づいて算出する。単位期間Δtは、信号蓄積時間(露光時間またはシャッタースピード)として設定可能な最短時間以下の期間として設定することができる。また、所定の被写体輝度について、単位期間Δtあたりの画素のカウント回路の計数値が所定値(<閾値Cth)を超えないという条件を加えて単位期間Δtを設定してもよい。
計数値COUNTは、画素領域200内のある1つの画素201のカウンタ回路306の計数値の変化を示している。時刻t502にSubVDがHレベルとなってから所定期間後の時刻t503にラッチ信号PLATがHレベルとなる。ラッチ信号PLATがHレベルになった時点におけるカウンタ回路306の計数値が、画像データとして画素メモリ307に保持されるとともに、比較器309によって閾値Cthと比較される。図5に計数値を示している画素では、時刻t503におけるカウンタ回路306の計数値が閾値Cth未満であるため、PFREQはHレベルのまま変化しない。
上述の通り、パルス頻度検出部205は、PFREQのレベルに基づいて、画素領域200内で計数値が閾値Cth以上になった画素の存在有無を検出することができる。単位期間における計数値が閾値Cth以上になった画素は、入射光量が大きい画素である。
本実施形態において、パルス頻度検出部205は、単位期間に計数値が閾値Cth以上になった画素が存在する(PFREQがLレベルである画素行が存在する)場合、撮影範囲に高輝度の光源が存在するものと判断する。そして、パルス頻度検出部205は、TG204に対し、画素メモリ307に保持されている計数値を読み出してフレームメモリへ206に保持させる制御信号であるVCLK、HCLKを出力するように指示する。例えばこの指示は、パルス頻度検出部205からTG204への特定の情報の送信であってよい。
図5に示す例では、時刻t503においていずれの画素においてもPFREQはHレベルのまま変化していないものとする。これは、画素領域200にはカウンタ回路306の計数値が所定の閾値Cth以上となった画素が存在しないことに相当する。この場合、パルス頻度検出部205は撮影範囲に高輝度の光源は存在しないと判定し、TG204に対して制御信号VCLK、HCLKを出力させることは行わない。このため、画素メモリ307に保持されている計数値はフレームメモリ206には読み出されない。
そして、時刻t504でPRESがHレベルになり、各画素201のカウンタ回路306の計数値が0にリセットされる。そして、直後にSubVDがHレベルになるのと同時にPRESがLレベルに戻ることで、カウンタ回路306のリセットが解除され、各画素201のカウンタ回路306は次の単位期間についてのPLSの計数を開始する。
時刻t504以降、カウンタ回路306の計数値が閾値Cth以上となる画素が存在しない単位期間を複数回経過した後、時刻t505に初めて、計数値COUNTが閾値Cth以上の画素が発生すると、PFREQがLレベルとなる。ここでは、全ての画素のうち、図5に計数値COUNTを示している画素の計数値COUNTが閾値Cthを超えたものとする。
パルス頻度検出部205は、PFREQがLレベルに変化したことを検出すると、TG204に対し、VCLK、HCLKを出力するように指示する。これにより時刻t505から垂直選択回路202にTG204からVCLKが供給される。VCLKがHレベルになるごとに、各行のスイッチ209が順番にオンし、垂直選択回路202が画素領域200内の画素を1行ずつ選択する。そして、ある1行が選択されている状態で、水平選択回路203にTG204からHCLKが供給され、各列のスイッチ210が順番にオンする。これにより、選択されている行の各画素の画素メモリ307に保持されていた計数値が、順次読み出され、フレームメモリ206の一時メモリ領域に保持される。
ある時刻でPFREQがHレベルからLレベルに変化した場合、その時刻が存在する単位期間の開始時刻(より厳密にはPRESがLレベルに戻った時刻)が信号蓄積時間の開始時刻になる。したがって、時刻t505でPFREQがLレベルに変化した場合、信号蓄積時間は時刻t505が存在する単位期間の開始時刻から始まる。本実施形態において、信号蓄積時間は単位期間の整数倍であり、例えばユーザあるいは自動露出制御処理によって予め定められた露光時間またはシャッタスピードに相当する。
そして、加算回路207は、一時メモリ領域に新たに保持された計数値と、フレームメモリ206内の積算メモリ領域に保持された計数値とを、アドレスごとに加算し、加算後の計数値を積算メモリ領域に再び保持する。なお、この加算処理は、読み出された計数値をフレームメモリ206の一時メモリ領域に保持する処理と並行して行われる。
なお、時刻t505からt506で行う最初の加算処理では、フレームメモリ206内の積算メモリ領域には計数値が保持されていない。そのため、各画素から読み出された計数値を、一時メモリ領域に保持せずに積算メモリ領域に直接保持するようにしてもよい。
PFREQがLレベルである単位期間ごとにカウンタ回路306の計数値が画素メモリ307を通じて読み出される。そして、フレームメモリ206の積算メモリ領域に、計数値が画素ごとに順次積算される。パルス頻度検出部205は、計数値が読み出された単位期間の合計が信号蓄積時間に達したか否かを判定する。そして、計数値が読み出された単位期間の合計が信号蓄積時間に達したと判定された場合、パルス頻度検出部205はPFREQのレベルに関わらず、画像データをフレームメモリ206の積算メモリ領域から読み出す。具体的にはパルス頻度検出部205は、TG204から垂直選択回路202へのVCLKの供給および、水平選択回路203へのHCLKの供給を停止させ、TG204からデジタル出力部208へのOUTCLKの供給を開始させる。なお、PENはHレベルを維持する。これにより、各画素のカウンタ回路306のイネーブル状態が維持される。
なお、図5では、PFREQがLレベルである期間が信号蓄積時間に対応した期間であった場合を示している。このような場合には、PFREQがHレベルに変化した直後の時刻t508に積算した計数値(画像データ)の読み出し動作が開始される。しかし、信号蓄積時間が経過したあともPFREQがLレベルを維持している場合であっても、画像データの読み出し動作(OUTCLKの供給)は時刻t508から開始される。時刻t509に読み出しが完了すると、フレームメモリ206の積算メモリ領域に保持されていた画像データは0にリセットされる。
このように、画素領域200に配列された複数の画素に関して、少なくとも1つの画素において計数値が閾値Cthを超える単位期間について、画素ごとに計数値が積算される。そして、計数値が積算された単位期間が信号蓄積時間に達すると、積算された計数値が画素値として読み出される。
その後、時刻t510において代表画素のCOUNTが閾値Cth以上となると、代表画素のPFREQが再びLレベルとなり、次フレームの画像データの取得が開始される。時刻t505~t507にける1フレーム目の画像データの取得時と同様に、TG204からVCLK、HCLKが出力され、画素メモリ307からフレームメモリ206への計数値の転送および、積算(加算)処理が実行される。
時刻t511に、計数値を読み出した単位期間の合計が信号蓄積時間に達すると、時刻t512から、フレームメモリ206の積算メモリ領域の読み出し動作が開始される。
以降、動画撮影の停止信号または終了信号が検出されるまで、同様にしてフレーム画像データの取得が繰り返し実行される。時刻t514に、最後のフレームの信号蓄積時間が経過すると、PENはLレベルとなる。これにより、各画素のカウンタ回路306がディセーブル状態になり、カウンタ回路にPLSが入力されても計数されなくなる。受光部301へのバイアス電圧Vbiasの供給を停止して、受光部301がPLSを出力しなくなるようにしてもよい。そして、PRESがHレベルになり、カウンタ回路306の計数値が0にリセットされる。ここでは、PFREQもHレベルとなり、パルス頻度検出部205からTG204への制御信号は送出されなくなる。その後、時刻t515~t516に読み出し処理が行われ、最終フレームの画像データが出力される。
このように、画素領域200に配置された複数の画素のうち、1つ以上の画素のカウンタ回路306の計数値が所定の閾値以上になった単位期間について計数値を画素ごとに積算する。そして、計数値を積算した単位期間の合計が信号蓄積時間に達すると、積算した計数値を1フレームの画像データとして読み出す。そのため、例えばフリッカ光源やフリッカ光で照明されている被写体を撮影している場合であっても、フリッカ光の輝度が一定以上である期間の信号を得ることができる。したがって、フリッカ光の影響を抑制した画像を取得することができる。
したがって、仮に信号蓄積時間(露光時間またはシャッタースピード)が、フリッカ光の輝度変化周期より短い場合であっても、フリッカ光の輝度変化の影響を抑制した画像を取得することができる。動画撮影や連写撮影時には画像間の輝度差を抑制することが可能であるため、特に有利である。
なお、図5の例では、フレームメモリ206からデジタル出力部208を介した1フレーム分の画像データの出力に要する時間がフリッカ光の周期よりも十分短く、フリッカ周期ごとに画像データが取得可能であった。しかし、画像データの出力に要する時間がフリッカ光の周期より長い場合には、信号蓄積時間が複数のフリッカ周期に跨がるように計数値の積算を行うようにして、画像データの出力に必要な時間を確保するようにしてもよい。この動作については図7を用いて後述する。
また、図5に示した読み出し動作は、動画撮影時や連写時に限らず、単写モードにおいても実施可能である。単写モードでの撮影の場合、時刻t508において、時刻t514と同様の処理を実行すればよい。
次に、本実施形態のカメラ100の撮影動作について、図6のフローチャートを用いて説明する。
S601で制御回路106は、被写体輝度を測定する。被写体輝度は、撮影スタンバイ時に撮影されるライブビュー表示用の動画像を用いて取得してもよいし、専用の測光センサを用いて取得してもよい。また、どのような輝度情報を被写体輝度として求めてもよい。例えば全体および/または特定の領域についての、平均輝度および/または最大輝度であってよい。自動露出制御(AE)に用いる輝度の評価値を、被写体輝度として用いてもよい。フリッカ光が存在する可能性を踏まえ、複数フレームもしくは所定の期間について経時的に被写体輝度を測定してもよい。そして、制御回路106は、被写体輝度に周期的な経時変化が見られる場合にはフリッカ光が存在するものと判定し、フリッカ光の輝度変化特性を検出してもよい。
S602で制御回路106は、S601で測定された被写体輝度やユーザ設定などに基づいて、撮影条件(感度、絞り値、信号蓄積時間(シャッタースピード)など)を決定する。これは公知の自動露出制御処理であってよい。
S603で制御回路106は、S602で決定した撮影条件のうち、信号蓄積時間が所定時間未満(ここでは一例として1/100秒とする)か否かを判定する。制御回路106は、信号蓄積時間が所定時間未満と判定された場合にはS604へ、判定されない場合にはS606へ、それぞれ処理を進める。ここで用いる所定時間は、撮影モードなどに応じて異なる値であってよい。例えばフリッカ光として想定される光源の輝度変化の周期を所定時間として用いてもよい。
S604で制御回路106は、S601で測定された被写体輝度に基づいて閾値Cthを決定し、各画素に設定する。例えば制御回路106は、経時的に測定した被写体輝度の最大値より所定割合小さい輝度値に相当する計数値を閾値Cthとして決定することができる。なお、閾値Cthは輝度の高い領域の有無を判別するための閾値として任意の方法で決定することができる。
S605で制御回路106は、撮影開始信号STARTの検出とともに、図5を用いて説明した蓄積および読み出し動作を開始する。
一方、S606で制御回路106は、図5を用いて説明した信号読み出し動作は行わず、従前の蓄積および読み出し動作を開始する。従前の蓄積および読み出し動作は、撮影開始信号STARTの検出からパルス信号PLSの計数を開始し、信号蓄積時間が経過した時点における各画素における計数値を画像データとして読み出す動作であってよい。
S605もしくはS606において1フレームの画像データを取得したらに、S607において制御回路106は、撮影モードが連続撮影モード(連写モードまたは動画撮影モード)であるか否かを判定する。制御回路106は、連続撮影モードと判定された場合にはS608に、判定されない場合(単独撮影モードである場合)にはS609に処理を進める。
S608で制御回路106は、連続撮影の終了条件が満たされたか否かを判定する。終了条件は例えば連続撮影の終了指示の検出や、連続撮影の継続指示の消滅の検出などであってよい。連続撮影の終了条件が満たされたと判定されればS609へ処理を進め、判定されなければS603に処理を戻す。
S609で制御回路106は、蓄積および読み出し動作を終了する。
なお、上述したように、S604における閾値Cthは、パルス頻度の経時変化に基づいて決定することもできる。例えば図5における複数の単位期間に渡ってパルス頻度(計数値)の求め、その経時変化に基づいてフリッカー光の輝度成分を測定し、フリッカー光の輝度成分を除去した輝度値に基づいて閾値Cthを決定してもよい。また、制御回路106(またはパルス頻度検出部205)は、パルス頻度(計数値)に周期的な経時変化が見られる場合にはフリッカ光が存在するものと判定し、フリッカ光の輝度変化特性を検出してもよい。
以上説明したように、本実施形態によれば、フォトンカウンティング方式の撮像素子の画素領域に配置された複数の画素のうち、1つ以上の画素の計数値が所定の閾値以上になった単位期間について計数値を画素ごとに積算する。そして、計数値を積算した単位期間の合計が信号蓄積時間に達すると、積算した計数値を1フレームの画像データとして読み出す。そのため、例えばフリッカ光源やフリッカ光で照明されている被写体を撮影している場合であっても、フリッカ光の輝度が一定以上である期間の信号を得ることができる。したがって、フリッカ光の影響を抑制した画像を取得することができる。
(第1実施形態の別の形態)
上述したように、図5のタイミングチャートは、信号蓄積時間がフリッカ光の輝度変化周期よりも短い場合の動作を示していた。信号蓄積時間がフリッカ光の輝度変化周期より長い場合の信号蓄積および読み出し動作に関するタイミングチャートを図7に示す。例えば、図6におけるS606において、従前の蓄積および読み出し動作の代わりに実行することができる。
なお、以下では図5を用いて説明した動作との違いについて重点的に説明し、共通する動作に関しては極簡単な説明にとどめる。
時刻t701~t707の動作は、図5の時刻t501~t507までの動作と同様である。ただし、この期間において計数値を積算した期間Aは、設定された信号蓄積時間よりも短い。したがって、時刻t707でCOUNTが閾値Cth未満になり、PFREQがHレベルになっても、VCLKおよびHCLKの出力が停止されるだけで、フレームメモリ206の積算メモリ領域からの読み出しは実行しない。
その後、時刻t708においてCOUNTが再び閾値Cth以上であると判定されると、計数値の積算が再開される。時刻t707~t708の期間は、パルス信号PLSの出力頻度が低く、フリッカ光の輝度が低い期間に相当する。
時刻t708以降、PFREQがLレベルを維持している状態で、時刻t709に、計数値を積算した単位期間の合計(期間Aと期間Bとの合計)が信号蓄積時間に達したとする。これに応じてパルス頻度検出部205は、時刻t710にTG204から垂直選択回路202へのVCLKの供給および、水平選択回路203へのHCLKの供給を停止させる。そして、パルス頻度検出部205は、時刻t711に、TG204からデジタル出力部208へのOUTCLKの供給を開始させる。これにより、フレームメモリ206の積算メモリ領域に保持された画像データをデジタル出力部208から撮像素子102の外部に出力し、時刻t712で出力が完了する。
時刻t712~t715の動作は、図5の時刻t513~t516までの動作と同様である。
このように、信号蓄積時間がフリッカ光の輝度変化周期よりも長い場合であっても、パルスの頻度が高い区間の計数値を積算する動作を輝度変化周期の複数周期に渡って実行することにより、フリッカ光の影響を抑制した画像データを取得することができる。
●(第2実施形態)
次に、本発明の第2実施形態について図8~図11を用いて説明する。
図8は本実施形態における撮像素子102’の全体構成を、図9は撮像素子102’に配置された画素801の回路図をそれぞれ示す。図8および図9において、第1実施形態の撮像素子102および画素201と同じ構成については図2および図3と同じ参照符号を付し、説明を省略する。本実施形態では、第1実施形態におけるパルス頻度検出部、加算回路、および積算した計数値(画像データ)を保持するメモリを画素ごとに備えた構成を有する。
画素801は、受光部301、計数部902、積算部903を有する。
積算部903は、加算回路905および積算メモリ906を有する。加算回路905および積算メモリ906は、それぞれ図2の加算回路207、フレームメモリ206の積算メモリ領域に相当する。積算メモリ906はカウンタ回路306および画素メモリ307のビット幅よりも十分大きなビット幅を備えることができる。
計数部902は、カウンタ回路306、画素メモリ307、比較器309、およびパルス頻度検出部904を有する。比較器309が出力するPFREQは、パルス頻度検出部904に供給される。本実施形態の計数部902は反転バッファ308を有さないため、Cthと計数値との大小関係とPFREQのレベルとの関係が第1実施形態とは逆転していることに留意されたい。つまり、本実施形態では計数値がCth以上の場合にPFREQがHレベルになり、Cth未満の場合にPFREQがLレベルになる。
パルス頻度検出部904は、PFREQがLレベルからHレベルに変化すると、加算回路905に加算信号PADDを出力する(加算信号PADDをHレベルにする)。加算回路905はPADDを検出すると、画素メモリ307に保持された計数値と積算メモリ906に保持された計数値とを加算し、加算結果を再び積算メモリ906に格納する。これにより、積算メモリ906にはPADDが出力された単位期間に計数された計数値が積算される。各画素の積算メモリ906に保持された計数値(画像データ)は、信号蓄積時間終了後に、垂直選択回路202と水平選択回路203によって、順次デジタル出力部208に出力される。この動作は第1実施形態と同様であるため、詳細な説明は省略する。
図10は、撮像素子102’を積層構造によって実現する際のチップレイアウトの一例であり、第1実施形態と同様の構成については図4と同じ参照数字を付して説明を省略する。撮像素子102’は、受光部基板1001と計数部基板1002とが積層された構成を有する。基板間は、シリコン貫通電極などを用いて電気的に接続される。受光部基板1001には、画素領域200のうち、各画素801の受光部301が行列状に配置される。計数部基板1002には、各画素801の計数部902と積算部903とが行列状に配置される。また、計数部基板1002には、垂直選択回路202および水平選択回路203、TG204、デジタル出力部208も配置される。
受光部301と、計数部902および積算部903とを別々の基板に形成することで、各画素801の受光面積を大きくすることができる。これにより、受光部の開口率の低下を防止できる。なお、図10に示すような積層構造とする代わりに、撮像素子102’の全ての回路を同一基板上に形成してもよい。
次に、本実施形態における撮像素子102’の信号蓄積および読み出し動作について、図11のタイミングチャートを用いて説明する。なお、以下では図5を用いて説明した第1実施形態における動作との違いについて重点的に説明し、共通する動作に関しては極簡単な説明にとどめる。
時刻t1101~t1105の動作は、図5の時刻t501~t505の動作と同様である。なお、上述したように、PFREQのレベルは第1実施形態とは反転している。
時刻t1105において計数値COUNTが閾値Cth以上となると、代表画素のPFREQがHレベルとなる。これを受けてパルス頻度検出部904は、加算信号PADDをHレベルにする。PADDがHレベルになったことを検出すると、加算回路905は、画素メモリ307に保持された計数値を、積算メモリ906に保持された計数値た積算する加算処理を実行する。なお、時刻t1105~t1106で行う最初の加算処理では、積算メモリ906には計数値が保持されていない(値が0である)。そのため、画素メモリ307から読み出された計数値を単純に積算メモリ906に保持してもよい。
本実施形態ではパルス頻度検出部904が画素ごとに設けられているため、第1実施形態と異なり、計数値を積算するか否かの判断は画素ごとに独立して実施される。したがって、単位期間ごとに、計数値が積算される画素とされない画素とが混在しうる。
単位期間ごとにカウンタ回路306の計数値が画素メモリ307を通じて読み出される。そして、可算信号PADDがHレベルである単位期間ごとに積算メモリ906に計数値が積算される。パルス頻度検出部904は、計数値が読み出された単位期間の合計が信号蓄積時間に達したか否かを判定する。そして、計数値が読み出された単位期間の合計が信号蓄積時間に達したと判定された場合、パルス頻度検出部904はPFREQのレベルに関わらず、加算信号PADDをLレベルにして、加算処理を終了させる。また、パルス頻度検出部904は、加算処理を終了したことをTG204に通知する。なお、PENはHレベルを維持する。これにより、各画素のカウンタ回路306のイネーブル状態が維持される。
図11の例も図5と同様、PFREQがHレベルである期間が信号蓄積時間に対応した期間であった場合を示している。このような場合には、PFREQがLレベルに変化した直後の時刻t1107に積算した計数値(画像データ)の読み出し動作が開始される。しかし、信号蓄積時間が経過したあともPFREQがHレベルを維持している場合であっても、画像データの読み出し動作は時刻t1107から開始される。
TG204は画素領域200内のいずれかの画素801のパルス頻度検出部904から加算処理の終了が通知されたか監視している。時刻t1107でTG204が代表画素のパルス頻度検出部904から加算処理の終了を通知されると、垂直選択回路202へのVCLKの供給を開始する。VCLKがHレベルになる毎に、各行のスイッチ209が順番にオンし、垂直選択回路202が画素領域の画素を1行ずつ選択していく。そして、任意の1行が選択されると、水平選択回路203にTG204からHCLKが供給され、各列のスイッチ210が順番にオンする。これにより、選択行の画素の積算メモリ906に保持されていた計数値(画像データ)が順次デジタル出力部208に出力される。
TG204は時刻t1109になるとデジタル出力部208へのOUTCLKの供給を開始する。これにより、1フレーム分の画像データが撮像素子102の外部に順次出力される。時刻t1110で1フレーム分の出力が完了する。
その後、時刻t1111において再び計数値COUNTが閾値Cth以上となると、時刻t1105~t1107と同様の動作により、2フレーム目について蓄積および読み出しが実行される。
以降、動画撮影の停止信号または終了信号が検出されるまで、同様にしてフレーム画像データの取得が繰り返し実行される。時刻t1116に、最後のフレームの信号蓄積時間が経過すると、PENはLレベルとなる。これにより、各画素のカウンタ回路306がディセーブル状態になり、カウンタ回路にPLSが入力されても計数されなくなる。受光部301へのバイアス電圧Vbiasの供給を停止して、受光部301がPLSを出力しなくなるようにしてもよい。そして、PRESがHレベルになり、カウンタ回路306の計数値が0にリセットされる。ここでは、PFREQもLレベルとなり、パルス頻度検出部904からの加算信号PADDもLレベルとなる。その後、時刻t1117~t1118に読み出し処理が行われ、最終フレームの画像データが出力される。
なお、本実施形態においても、第1実施形態と同様の撮影シーケンス(図6)を実施することができる。また、第1実施形態(図7)と同様に、信号蓄積時間を輝度変化周期の複数周期に渡って分散させることができる。また、本実施形態の蓄積および読み出し動作を単写モードで実行することも可能である。
本実施形態においても、第1実施形態と同様の効果を得ることができる。なお、本実施形態では第1実施形態と異なり、計数値を積算するか否かの判断は画素ごとに独立して実施される。したがって、画像データの読み出しが開始される時点において、全ての画素において信号蓄積時間に相当する数の単位期間について計数値が積算されているとは限らない。そのため、例えば加算処理において、加算回路905が積算メモリ906に画像データを格納する際、信号蓄積を行った単位期間の数(総信号蓄積時間)に関する情報を関連づけるように構成することができる。これにより、撮像素子102’から読み出した画像データのそれぞれに関連づけられた信号蓄積時間の情報を用いて、画素間の信号蓄積時間の差を補償することが可能になる。
●(第3実施形態)
次に、本発明の第3実施形態について図12と図13を用いて説明する。
なお、本実施形態は、撮像素子の構成以外は第1実施形態の構成と同様の構成で実現可能であるため、共通する構成についての説明は省略する。また、本実施形態の信号蓄積および読み出し動作についても第1実施形態と同様の動作であってよいため、共通する動作についての説明は省略する。
第1実施形態の撮像素子102では、画素行ごとにPFREQをパルス頻度検出部205に入力する構成であったが、蓄積および読み出し動作は画素領域200の全ての画素について共通であった。本実施形態の撮像素子102”では、画素領域200を複数に分割したn×m画素(n,mの少なくとも一方は複数)の画素ブロック単位でPFREQを共通に接続した構成を有する。
そして、画素ブロックごとにフリッカ光の有無を検出するとともに、フリッカ光の検出有無に応じて、画素ブロックごとに信号蓄積および読み出し動作を制御する。したがって、撮影範囲に輝度変化の周期および/または位相が異なる複数種のフリッカ光源が存在する場合でも、フリッカ光源の影響を低減した画像を得ることが可能である。
図12は本実施形態における撮像素子102”における画素領域200とパルス頻度検出部1203との接続関係を示す図である。画素領域200とパルス頻度検出部1203以外の構成は図2に示した第1実施形態と同一であってよいため省略してある。また、画素領域200には、説明を簡単にするため、一部の画素(6×6画素)についてのみ記載している。画素201の構成は第1実施形態(図3)と同様であってよい。なお、画素ブロックの大きさは均等でなくてもよい。
画素領域200に配置された複数の画素201は、画素ブロック1201ごとに、PFREQが共通の配線1202に接続される。そして、パルス頻度検出部1203には、それぞれの画素ブロック1201から別個に配線1202が接続されている。
パルス頻度検出部1203では、例えばPFREQのレベル変化の周期に基づいて画素ブロックごとにフリッカ光の有無およびフリッカ光の輝度変化特性(例えば周期または周波数)を検出する。そして、パルス頻度検出部1203は、フリッカ光が存在すると判定した画素ブロックについては、例えば第1実施形態で説明したような信号蓄積および読み出し動作を行うようにTG204に制御信号を送出する。また、パルス頻度検出部1203は、フリッカ光が存在しないと判定した画素ブロックについては従前の蓄積および読み出し動作を行うようにTG204に制御信号を送出する。
図13は、複数種のフリッカ光源が存在する撮影範囲1300の一例を示している。撮影範囲1300には、領域1301~1303に存在する交通標識、道路信号、および自動車のランプにフリッカ光源がそれぞれ存在し、輝度変化特性の周期および/または位相が異なっているものとする。
ここで、撮影範囲1300を分割した単位領域1310が1つの画素ブロックに対応しているものとすると、領域1301~1303を構成する単位領域に該当する画素ブロックについてはフリッカ光が存在すると判定される。また、他の画素ブロックについてはフリッカ光が存在しないと判定される。例えば図6で説明した撮影シーケンスのS603においてこのフリッカ光の有無の判定を画素ブロックごとに行い、フリッカ光が存在すると判定されればS604に、判定されなければS606に進むようにすることができる。
信号蓄積時間によっては、フリッカ光が存在すると判定された画素ブロックにおいて実際に計数値が積算された単位期間の数が信号蓄積時間に満たないうちに画像データが読み出されることが起こりうる。そのため、少なくともフリッカ光が存在すると判定された画素ブロックから読み出された画像データについては、計数値が積算された単位期間の数を例えば画像データに関連づけておき、後段の処理でデータレベルを補正するために用いることができる。あるいは、画ブロックごとに、信号蓄積時間に達するまで計数値の積算を継続するようにしてもよい。
本実施形態によれば、画素ブロックごとにフリッカ光の存在有無を判定し、判定結果に応じて画ブロックごとに蓄積および読み出し動作を制御するようにした。そのため、撮影範囲に異なる種類のフリッカ光源が存在する場合であっても、それぞれのフリッカ光源によるフリッカ光の影響を抑制した画像データを取得することができる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は上述した実施形態の内容に制限されず、発明の精神および範囲から離脱することなく様々な変更及び変形が可能である。したがって、発明の範囲を公にするために請求項を添付する。
102、102’、102”…撮像素子、106…制御回路、200…画素領域、201…画素、202…垂直選択回路、203…水平選択回路、204…タイミング発生回路(TG)、205、904、1203…パルス頻度検出部

Claims (6)

  1. フォトンの入射に応じてパルス信号を出力する受光部と、前記パルス信号を計数する計数部とを有する画素が、2次元配列された画素領域と、
    前記パルス信号の出力頻度が予め定められた閾値以上となる周期に基づいて、撮影範囲におけるフリッカ光源の存在有無を検出する検出手段と、
    を有することを特徴とする撮像装置。
  2. 前記パルス信号の出力頻度が、予め定められた単位期間あたりの前記計数部における計数値であることを特徴とする請求項1に記載の撮像装置。
  3. フォトンの入射に応じてパルス信号を出力する受光部と、前記パルス信号を計数する計数部とを有する画素が、2次元配列された画素領域と、
    前記計数部における計数値の積算値を画素ごとに格納するメモリと、
    前記パルス信号の出力頻度に基づいて、前記計数部における計数値を積算するか否かを制御する制御手段と、を有し、
    前記画素領域が複数の画素ブロックに分割され、
    前記制御手段は、
    前記画素ブロックごとに、前記パルス信号の出力頻度に基づいて、該画素ブロックの撮影範囲におけるフリッカ光源の存在有無を検出し、
    フリッカ光源の存在が検出された画素ブロックについては、前記パルス信号の出力頻度に基づいて、前記計数部における計数値を積算するか否かを制御し、
    フリッカ光源の存在が検出されない画素ブロックについては、前記パルス信号の出力頻度に関わらず、前記計数部における計数値を積算するか否かを制御する、
    ことを特徴とする撮像装置。
  4. 前記制御手段は、フリッカ光源の存在が検出された画素ブロックについては、前記メモリに格納される積算値に、前記計数値を積算した単位期間の数を関連づけることを特徴とする請求項に記載の撮像装置。
  5. フォトンの入射に応じてパルス信号を出力する受光部と、前記パルス信号を計数する計数部とを有する画素が、2次元配列された画素領域を有する撮像装置の制御方法であって、
    検出手段が、前記パルス信号の出力頻度が予め定められた閾値以上となる周期に基づいて、撮影範囲におけるフリッカ光源の存在有無を検出する検出工程を有することを特徴とする撮像装置の制御方法。
  6. フォトンの入射に応じてパルス信号を出力する受光部と、前記パルス信号を計数する計数部とを有する画素が、2次元配列された画素領域と、
    前記計数部における計数値の積算値を画素ごとに格納するメモリと、を有し、
    前記画素領域が複数の画素ブロックに分割されている撮像装置の制御方法であって、
    制御手段が、前記パルス信号の出力頻度に基づいて、前記計数部における計数値を積算するか否かを制御する制御工程を有し、
    前記制御工程は、
    前記画素ブロックごとに、前記パルス信号の出力頻度に基づいて、該画素ブロックの撮影範囲におけるフリッカ光源の存在有無を検出することと、
    フリッカ光源の存在が検出された画素ブロックについては、前記パルス信号の出力頻度に基づいて、前記計数部における計数値を積算するか否かを制御することと、
    フリッカ光源の存在が検出されない画素ブロックについては、前記パルス信号の出力頻度に関わらず、前記計数部における計数値を積算するか否かを制御することと、
    を含むことを特徴とする撮像装置の制御方法。
JP2019018257A 2019-02-04 2019-02-04 撮像装置およびその制御方法 Active JP7262236B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019018257A JP7262236B2 (ja) 2019-02-04 2019-02-04 撮像装置およびその制御方法
US16/778,604 US11172151B2 (en) 2019-02-04 2020-01-31 Image capture apparatus and method for controlling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019018257A JP7262236B2 (ja) 2019-02-04 2019-02-04 撮像装置およびその制御方法

Publications (3)

Publication Number Publication Date
JP2020127123A JP2020127123A (ja) 2020-08-20
JP2020127123A5 JP2020127123A5 (ja) 2022-02-01
JP7262236B2 true JP7262236B2 (ja) 2023-04-21

Family

ID=71835850

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019018257A Active JP7262236B2 (ja) 2019-02-04 2019-02-04 撮像装置およびその制御方法

Country Status (2)

Country Link
US (1) US11172151B2 (ja)
JP (1) JP7262236B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11373281B1 (en) * 2021-02-23 2022-06-28 Qualcomm Incorporated Techniques for anchor frame switching
JP2023046662A (ja) * 2021-09-24 2023-04-05 キヤノン株式会社 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
WO2024135122A1 (ja) * 2022-12-23 2024-06-27 ソニーセミコンダクタソリューションズ株式会社 撮像装置、制御装置およびスパイキングニューラルネットワーク

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012119788A (ja) 2010-11-29 2012-06-21 Fujifilm Corp 撮影装置、画像処理装置、撮影方法及び画像処理方法
JP2018093527A (ja) 2018-02-21 2018-06-14 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
JP2018164029A (ja) 2017-03-27 2018-10-18 株式会社デンソー 光検出器
JP2018190705A (ja) 2017-02-16 2018-11-29 エフ・イ−・アイ・カンパニー 荷電粒子源の放出雑音補正
JP2019017065A (ja) 2017-07-06 2019-01-31 キヤノン株式会社 固体撮像素子、撮像装置及び撮像方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007174537A (ja) * 2005-12-26 2007-07-05 Victor Co Of Japan Ltd 撮像装置
US8026471B2 (en) * 2008-07-23 2011-09-27 Princeton Lightwave, Inc. Single-photon avalanche detector-based focal plane array
CN102099916B (zh) * 2008-07-25 2013-07-31 康奈尔大学 光场图像传感器、方法及应用
JP5797884B2 (ja) * 2010-08-04 2015-10-21 株式会社日立ハイテクノロジーズ 光量検出方法及びその装置
EP2437484B1 (en) * 2010-10-01 2017-02-15 Sony Semiconductor Solutions Corporation Imaging device and camera system
JP2012174783A (ja) 2011-02-18 2012-09-10 Toyota Central R&D Labs Inc フォトダイオードおよびフォトダイオードアレイ
JP6791667B2 (ja) * 2015-07-16 2020-11-25 株式会社半導体エネルギー研究所 撮像装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012119788A (ja) 2010-11-29 2012-06-21 Fujifilm Corp 撮影装置、画像処理装置、撮影方法及び画像処理方法
JP2018190705A (ja) 2017-02-16 2018-11-29 エフ・イ−・アイ・カンパニー 荷電粒子源の放出雑音補正
JP2018164029A (ja) 2017-03-27 2018-10-18 株式会社デンソー 光検出器
JP2019017065A (ja) 2017-07-06 2019-01-31 キヤノン株式会社 固体撮像素子、撮像装置及び撮像方法
JP2018093527A (ja) 2018-02-21 2018-06-14 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体

Also Published As

Publication number Publication date
JP2020127123A (ja) 2020-08-20
US20200252569A1 (en) 2020-08-06
US11172151B2 (en) 2021-11-09

Similar Documents

Publication Publication Date Title
JP7062430B2 (ja) 撮像素子、撮像装置および画像処理方法
JP6929403B2 (ja) 撮像素子及び撮像装置
US10771724B2 (en) Image capturing apparatus
JP7262236B2 (ja) 撮像装置およびその制御方法
KR102206359B1 (ko) 촬상 소자, 촬상장치 및 촬상 소자의 제어방법
US10785423B2 (en) Image sensor, image capturing apparatus, and image capturing method
US10063762B2 (en) Image sensor and driving method thereof, and image capturing apparatus with output signal control according to color
US9635241B2 (en) Image capturing apparatus and method of controlling image capturing apparatus
JP7339779B2 (ja) 撮像装置
JP4637029B2 (ja) 撮像装置及びその制御方法
JP7132799B2 (ja) 撮像素子、撮像装置及び撮像方法
JP2021090134A (ja) 撮像装置およびその制御方法
JP2021090134A5 (ja)
JP2020036073A (ja) 撮像装置およびその制御方法
JP7394649B2 (ja) 撮像素子及び撮像装置
JP7361514B2 (ja) 撮像素子および撮像装置
JP2020182026A (ja) 撮像装置およびその制御方法
JP2019186792A (ja) 撮像装置
WO2023047975A1 (ja) 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
US11917290B2 (en) Photoelectric conversion device, image pickup apparatus, control method, and storage medium
JP6167473B2 (ja) 撮像装置
JP7020463B2 (ja) 撮像装置
JP6590055B2 (ja) 撮像装置
JP7336320B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2018170703A (ja) 撮像素子、撮像装置、及び撮像素子の制御方法

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220124

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230302

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230313

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230411

R151 Written notification of patent or utility model registration

Ref document number: 7262236

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151