JP2019140513A - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP2019140513A
JP2019140513A JP2018021756A JP2018021756A JP2019140513A JP 2019140513 A JP2019140513 A JP 2019140513A JP 2018021756 A JP2018021756 A JP 2018021756A JP 2018021756 A JP2018021756 A JP 2018021756A JP 2019140513 A JP2019140513 A JP 2019140513A
Authority
JP
Japan
Prior art keywords
pixel
signal
charge
subframe
moving object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018021756A
Other languages
English (en)
Inventor
井本 努
Tsutomu Imoto
努 井本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2018021756A priority Critical patent/JP2019140513A/ja
Priority to PCT/JP2018/040935 priority patent/WO2019155699A1/ja
Publication of JP2019140513A publication Critical patent/JP2019140513A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/42Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by switching between different modes of operation using different resolutions or aspect ratios, e.g. switching between interlaced and non-interlaced mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】動体を検知したら即時に当該動体を撮像すること。【解決手段】1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理とを行う画素加算処理部と、各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、を備えている撮像装置。【選択図】図1

Description

本技術は、撮像装置及び撮像方法に関する。より詳細には、本技術は、撮像モードを、低解像度で撮像する撮像モードと高解像度で撮像する撮像モードとの間で切り替えることができる撮像装置、及び、このような撮像モードの切り替えを行うことを含む撮像方法に関する。
動体の検知及び検知された動体の撮像を行うための撮像装置に関する種々の技術が提案されている。当該撮像装置は、例えば監視カメラとして用いられている。
例えば下記特許文献1に記載の固体撮像装置を構成する各画素は、光電変換素子から浮遊半導体領域に至る第1及び第2の電荷転送経路を有し、第1の電荷転送経路は第2の電荷転送経路と異なる。例えば、第1及び第2の電荷転送経路は、それぞれ、第1及び第2のシャッタースイッチを含む。一方の転送経路において、光電変換素子からの電荷は第1の蓄積ダイオードに一時的に蓄積されることができる。そのため、個々の転送経路上のシャッタースイッチは、電荷の転送に関して互いに干渉することなく、画素アレイにおいて多重化されたグローバルシャッタの動作を可能にする。
国際公開第2011/096340号
高解像度での撮像は、低解像度での撮像と比べてより多くの電力を消費する。例えば監視カメラでは、電力消費を抑制するために、撮像対象が検知されるまでは低解像度で或る領域を撮像し、そして、当該領域内で撮像対象が検知されたら当該撮像対象を高解像度で撮像することが望ましい。
また、高速で移動する動体を検知しそして当該動体を撮像するには、低解像度での撮像モードからできるだけ早く高解像度での撮像モードに切り替えることが必要である。撮像モードの切り替えに時間を要するならば、撮像モードを切り替えている間に、動体が撮像領域の外に移動し、高解像度で撮像しても動体が撮像されない場合がある。
本技術は、動体を検知したら即時に当該動体を撮像するための技術を提供することを目的とする。より特には、本技術は、低解像度で動体検知を行い、そして、動体を検知したら即時に当該動体を高解像度で撮像するための技術を提供することを目的とする。
本発明者らは、特定の構成を有する撮像技術によって、動体が検知されてから1フレーム時間が経過するまでに当該動体を撮像することができることを見出した。また、本発明者らは、特定の構成を有する撮像技術によって、動体が検知されたフレーム内で当該動体を撮像することができることを見出した。
すなわち、本技術は、1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理とを行う画素加算処理部と、各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、前記動体検知部により動体が検知されたことに応じて、画素毎に信号電荷の処理を行う電荷処理部とを備えている撮像装置を提供する。
本技術の一つの実施態様に従い、1フレーム時間内の露光回数が2回であり、前記第一の電荷保持部がフローティングディフュージョンであり、前記第二の電荷保持部が光電変換素子であってよく、前記電荷転送制御部が、前記2回の露光によって得られる2つのサブフレーム信号電荷のうち、先のサブフレーム信号電荷を前記フローティングディフュージョンに保持し且つ後のサブフレーム信号電荷を前記光電変換素子に保持するように信号電荷の転送を制御しうる。
本技術の一つの実施態様に従い、前記画素ブロックのそれぞれにおいて、各画素のフローティングディフュージョンが垂直方向にフローティング配線によって連結されており、前記フローティング配線は、フローティングディフュージョンが連結されている状態と連結されていない状態とを切り替え可能であるように構成されていてよく、フローティングディフュージョンに保持されているサブフレーム信号電荷に基づく画素信号の加算が、前記フローティング配線を前記連結されている状態とすることにより行われうる。
本技術の一つの実施態様に従い、前記画素ブロックのそれぞれにおいて、各画素内に保持されている信号電荷を列単位で転送する垂直信号線が、水平方向に水平方向配線によって連結されており、前記水平方向配線は、垂直信号線が連結されている状態と連結されていない状態とを切り替え可能であるように構成されていてよく、各画素内に保持されている信号電荷に基づく画素信号の加算が、前記水平方向配線を前記連結されている状態とすることにより行われうる。
本技術の一つの実施態様に従い、先のサブフレームのフレーム時間と後のサブフレームのフレーム時間とが等しくてよく、又は、先のサブフレームのフレーム時間が後のサブフレームのフレーム時間よりも長くてもよい。
本技術の一つの実施態様に従い、前記画素ブロックが、第一のグループ及び第二のグループの2つのグループに分けられており、前記第一のグループのフレーム時間と前記第二のグループのフレーム時間とがずれていてよい。
本技術の一つの実施態様に従い、前記光電変換素子に保持されているサブフレーム信号電荷をリセットすることができるオーバーフローゲートが各画素に設けられていてよい。
本技術の一つの実施態様に従い、各画素ブロックが、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、第一の画素グループの露光時間と第二の画素グループの露光時間とが異なっていてよい。
本技術の一つの実施態様に従い、前記比較が、前記第一の電圧信号と第二の電圧信号の差、当該差を前記第一の電圧信号によって除した値、又は前記第一の電圧信号を前記第二の電圧信号で除した値を用いて行われてよい。
また、本技術は、1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理とを行う画素加算処理部と、各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、前記動体検知部により動体が検知されたことに応じて、前記動体が検知されたフレーム内のさらに他の一つのサブフレーム信号電荷を画素毎に処理する電荷処理部とを備えている撮像装置を提供する。
本技術の一つの実施態様に従い、1フレーム時間内の露光回数が3回以上であり、前記電荷転送制御部は、前記さらに他の一つのサブフレーム信号電荷が第三の電荷保持部に保持するように信号電荷の転送を制御し、前記第一の電荷保持部がフローティングディフュージョンであり、前記第二の電荷保持部が光電変換素子又はメモリであってよく、前記電荷転送制御部が、前記3回以上の露光によって得られる3つ以上のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を前記第一の電荷保持部に保持し且つ当該サブフレーム信号電荷よりも後のいずれかのサブフレーム信号電荷を前記第二の電荷保持部に保持するように信号電荷の転送を制御しうる。
本技術の一つの実施態様に従い、前記画素ブロックのそれぞれにおいて、各画素のフローティングディフュージョンが垂直方向にフローティング配線によって連結されており、前記フローティング配線は、フローティングディフュージョンが連結されている状態と連結されていない状態とを切り替え可能であるように構成されていてよく、フローティングディフュージョンに保持されているサブフレーム信号電荷に基づく画素信号の加算が、前記フローティング配線を前記連結されている状態とすることにより行われうる。
本技術の一つの実施態様に従い、前記画素ブロックのそれぞれにおいて、各画素内に保持されている信号電荷を列単位で転送する垂直信号線が、水平方向に水平方向配線によって連結されており、前記水平方向配線は、垂直信号線が連結されている状態と連結されていない状態とを切り替え可能であるように構成されていてよく、各画素内に保持されている信号電荷に基づく画素信号の加算が、前記水平方向配線を前記連結されている状態とすることにより行われうる。
本技術の一つの実施態様に従い、前記第二の電荷保持部が光電変換素子であり、前記第三の電荷保持部がメモリでありうる。
本技術の一つの実施態様に従い、各画素ブロック内の画素が、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、第一の画素グループの露光時間と第二の画素グループの露光時間とが異なっていてよい。
本技術の一つの実施態様に従い、前記第一の電圧信号を生成するために用いられるサブフレームのフレーム時間と前記第二の電圧信号を生成するために用いられるサブフレームのフレーム時間とが等しくてよく、又は、前者のフレーム時間が後者のフレーム時間よりも長くてもよい。
本技術の一つの実施態様に従い、各画素ブロック内の画素が、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、前記第一の電圧信号を生成するために用いられるサブフレームのフレーム時間と前記第二の電圧信号を生成するために用いられるサブフレームのフレーム時間とがずれていてよい。
また、本技術は、1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理とを行う画素加算処理部と、各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、を備えている撮像装置を提供する。
また、本技術は、1フレーム時間内に複数回露光を行って複数のサブフレーム信号電荷を取得する信号電荷取得工程と、前記複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持する第一電荷保持工程と、前記複数のサブフレーム信号電荷のうち、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持する第二電荷保持工程と、前記第一の電荷保持部に保持されているサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する第一画素加算処理工程と、前記第二の電荷保持部に保持されているサブフレーム信号電荷に基づく画素信号を、前記画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理を行う第二画素加算処理工程と、各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知工程とを含む撮像方法も提供する。
本技術により、動体が検知されてから1フレーム時間以内に当該動体を撮像することができる。また、本技術により、動体が検知されたフレーム内で当該動体を撮像することもできる。なお、本技術により奏される効果は、ここに記載された効果に必ずしも限定されるものではなく、本明細書中に記載されたいずれかの効果であってもよい。
本技術に従う撮像装置の一例のブロック図である。 画素領域の画素ブロックへの区分けの例を示す図である。 本技術において用いられる撮像素子の構成例を示す図である。 本技術に従う画素加算を行うことができる撮像素子の構成例を示す図である。 本技術に従う撮像装置による動体検知の間及び動体検知後の動体の撮像の間の、撮像素子の動作例の模式図及び当該動作例における1つの画素行に関するタイミングチャートである。 撮像素子の構成例を示す図である。 本技術に従う画素加算を行うことができる撮像素子の構成例を示す図である。 動体検知モードにおける露光期間の例を示す図である。 動体検知モードにおける露光期間の例を示す図である。 画素ブロックが2つのグループに分けられていることを示す図である。 動体検知モードにおける露光期間の例を示す図である。 本技術に従う撮像方法のフロー図の一例である。 オーバーフローゲートが設けられた画素の回路図の例を示す図である。 動体検知モードにおける露光期間の例を示す図である。 画素ブロックが2つのグループに分けられていることを示す図である。 動体検知モードにおける露光期間の例を示す図である。 動体検知フレーム内で撮像を行うための撮像素子の構成例を示す図である。 本技術に従う撮像装置による動体検知の間及び動体検知後の動体の撮像の間の撮像素子の動作例の模式図である。 動体検知フレーム内で撮像を行うための撮像素子の構成例を示す図である。 各画素グループの駆動の例を示す模式図である。 動体検知フレーム内で撮像を行うための撮像素子の構成例を示す図である。 画素ブロック内の画素の接続方式の例を示す例図である。 画素ブロック内の画素の接続方式の例を示す例図である。 動体検知フレーム内で撮像を行うための撮像素子の構成例を示す図である。 動体検知フレーム内で撮像を行うための撮像素子の構成例を示す図である。
以下、本技術を実施するための好適な形態について説明する。なお、以下に説明する実施形態は、本技術の代表的な実施形態を示したものであり、本技術の範囲がこれらの実施形態に限定されることはない。なお、本技術の説明は以下の順序で行う。
1.第1の実施形態(撮像装置)
(1)第1の実施形態の説明
(2)第1の実施形態の第1の例(撮像装置)
(3)第1の実施形態の第2の例(動体検知後1フレーム時間内で撮像する撮像装置)
(3−1)撮像装置の構成例
(3−2)撮像装置に含まれる撮像素子の構成例
(3−3)撮像装置の動作の例
(3−4)撮像装置に含まれる撮像素子の他の構成例
(3−5)画素ブロック内の画素の接続の仕方の例
(4)第1の実施形態の第3の例(動体検知フレーム内で撮像する撮像装置)
(4−1)撮像装置の構成例
(4−2)撮像装置に含まれる撮像素子の構成例
(4−3)撮像装置の動作の例
(4−4)撮像装置に含まれる撮像素子の他の構成例
(4−5)撮像装置に含まれる撮像素子の他の構成例
(4−6)撮像装置に含まれる撮像素子の他の構成例
(4−7)撮像装置に含まれる撮像素子の他の構成例
2.第2の実施形態(撮像方法)
(1)第2の実施形態の説明
(2)第2の実施形態の例(撮像方法)
1.第1の実施形態(撮像装置)
(1)第1の実施形態の説明
本技術に従う撮像装置は、1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理とを行う画素加算処理部と、各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、を備えている。
すなわち、本技術に従う撮像装置は、動体検知の間は、画素毎でなく、複数の画素から構成される画素ブロック毎に、サブフレーム信号電荷が処理される。それ故に、動体検知の間は、画素毎にサブフレーム信号電荷を処理する場合と比べて、消費電力が小さくなる。
さらに、本技術に従う撮像装置による動体検知は、1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷に基づく画素信号を画素ブロック毎に画素加算処理して得られた前記第一の電圧信号と他の一つのサブフレーム信号電荷に基づく画素信号を画素ブロック毎に画素加算処理して得られた前記第二の電圧信号との比較に基づき行われる。すなわち、動体検知は、1フレーム内で得られた2つの電圧信号の比較により行われる。それ故に、当該フレームの直後のフレームにおいて画素毎に信号電荷を処理することで、消費電力の小さい低解像度での撮像モードから、消費電力が大きい高解像度での撮像モードへの撮像モードの切り替えを即時に行うことができる。例えば、動体検知がされてから1フレーム時間内で、高解像度での撮像を行うことができる。その結果、例えば動体が高速移動している場合であっても、本技術に従う撮像装置は当該動体を捉えることができる。
また、上記のとおり、本技術に従う撮像装置による動体検知は、1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷に基づく画素信号を画素ブロック毎に画素加算処理して得られた前記第一の電圧信号と他の一つのサブフレーム信号電荷に基づく画素信号を画素ブロック毎に画素加算処理して得られた前記第二の電圧信号との比較に基づき行われる。それ故に、当該複数のサブフレーム信号電荷のうち、さらに他の一つのサブフレーム信号電荷について、画素毎に信号電荷を処理することで、動体が検知されたフレームのフレーム時間内に撮像された高解像度画像が得られる。その結果、例えば動体が高速移動している場合であっても、本技術に従う撮像装置は当該動体を捉えることができる。
また、本技術に従う撮像装置による動体検知において、前記第一の電圧信号と前記第二の電圧信号との比較において行われるAD変換は、以下に説明するとおり1回でよい。
すなわち、通常の撮像素子において、1つの画素信号のAD変換は、CDSを行うために、P相信号のAD変換(ダウンカウント)及びD相信号のAD変換(アップカウント)が行われ、その結果、1つの画素信号電圧のディジタル信号値が得られる。2つのサブフレーム信号について通常の撮像素子における処理を行う場合には、一つのサブフレーム信号のP相信号のAD変換(ダウンカウント)及び当該一つのサブフレーム信号のD相信号のAD変換(アップカウント)、並びに、他の一つのサブフレーム信号のP相信号のAD変換(ダウンカウント)及び当該他の一つのサブフレーム信号のD相信号のAD変換(アップカウント)を行うことになる。すなわち、2つのサブフレーム信号について通常の撮像素子における処理を行う場合には、通常の撮像素子においてCDSを行う場合の2回分に相当するAD変換ステップ数が行われる。これに対し、本技術では、2つのサブフレーム信号に関して、一つのサブフレーム信号(D相信号)のAD変換(ダウンカウント)、及び、他の一つのサブフレーム信号(D相信号)のAD変換(アップカウント)が行われる。すなわち、本技術において、2つのサブフレーム信号の処理は、通常の撮像素子においてCDSを行う場合の1回分に相当するAD変換ステップ数が行われる。その結果、動体検知のための消費電力を低めることができる。
本技術に従う撮像装置は、上記のとおりの動体検知を可能とする撮像素子、特には固体撮像素子を備えているものであってよい。撮像素子には、画素アレイ部が含まれうる。上記のとおりの動体検知を可能とするのに適した撮像装置として、例えばCMOSイメージセンサを備えている撮像装置、好ましくは4トランジスタ(4Tr)型のCMOSイメージセンサを備えている撮像装置を挙げることができる。すなわち、本技術の撮像装置は、撮像素子として、例えばCMOSイメージセンサ、好ましくは4Tr型のCMOSイメージセンサを備えていてよい。
本技術に従う撮像装置に備えられている撮像素子は、複数の画素がアレイ状に配置された画素領域を有しうる。当該画素領域は、例えば矩形の画素領域であり、当該矩形の画素領域の1辺が、100〜5000、好ましくは200〜3000、より好ましくは500〜2000の画素から構成されていてよい。
当該複数の画素のそれぞれが好ましくは、1フレーム時間内に複数回露光でき、且つ、当該複数回露光によって得られる複数のサブフレーム信号電荷を別々に保持することができる複数の電荷保持部を有する。
本技術においてフレームとは、本技術の撮像装置により動体検知が行われている間においては、当該動体検知を行うための一連の処理が当該撮像装置により行われる単位期間を意味しうる。例えば、本技術においてフレームとは、本技術の撮像装置により動体検知が行われている間においては、(a)前記動体検知のために取得される一つのサブフレーム信号電荷を得るための露光が行われる時間と、(b)前記動体検知のために取得される他の一つのサブフレーム信号電荷を得るための露光が行われる時間と、(c)当該一つのサブフレーム信号電荷に基づく画素信号の画素加算処理により得られた第一の信号電圧と当該他の一つのサブフレーム信号電荷に基づく画素信号の画素加算処理により得られた第二の信号電圧とを比較する時間と、を含む単位期間であってよい。
フレームには、信号電圧の比較を行った後に、露光が行われない期間、いわゆるブランキング期間が含まれていてよい。ブランキング期間中、使用しない機能ブロックの電源を切ることで、電力消費を抑制することができる。そのため、本技術においてフレームとは、好ましくは、本技術の撮像装置により動体検知が行われている間においては、前記(a)の時間、前記(b)の時間、及び前記(c)の時間と、当該(c)の時間後のブランキング期間と、を含みうる。
また、本技術の撮像装置により動体が検知された後に当該動体を撮像する間においては、フレームとは、一つの画像を得るための一連の処理が行われる単位期間を意味しうる。当該単位期間は、例えば露光を行う時間と、当該露光により得られた信号電荷を読み出す時間とを含みうる。当該単位期間には、当該読み出す時間の後のブランキング期間が含まれていてもよい。
また、本技術においてフレーム時間とは、1フレームの時間の長さ又は1サブフレームの時間の長さをいう。
(2)第1の実施形態の第1の例(撮像装置)
以下で、本技術に従う撮像装置の例を、図1を参照しながら説明する。図1は、本技術に従う撮像装置の一例のブロック図である。
図1に示されるとおり、撮像装置100は、光学系101、シャッタ装置102、画素アレイ部103、制御部104、モニタ105、及びメモリ106を備えている。制御部104には、電荷転送制御部107、画素加算処理部108、動体検知部109、電荷処理部110、及び信号処理部111が含まれている。これらの構成要素のうち、画素アレイ部103及び制御部104は、図1にて点線にて示されるとおり、1つの半導体チップ(撮像素子112)に集積することができる。また、動体検知部109の一部及び/又は信号処理部111の一部を、別の半導体チップに分割して構成することもできる。また、ウェーハレベルパッケージ技術を用いて、光学系101及び/又はシャッタ装置102を、撮像素子112と一体形成することもできる。
画素アレイ部103に含まれる画素領域の画素数は当業者により適宜選択されてよい。画素領域は例えば矩形でありうる。矩形の画素領域の一辺は、例えば100〜5000、好ましくは300〜4000、より好ましくは500〜3000の画素から構成されうる。
当該画素領域は、複数の画素から構成される画素ブロック毎に区分されていてよい。1つの画素ブロックは、例えば2画素〜20000画素、好ましくは4画素〜10000画素、より好ましくは100画素〜8000画素、さらにより好ましくは1000〜5000から構成されてよい。好ましくは、画素ブロックは矩形でありうる。1つの画素ブロックは、64×64画素(横方向の辺×縦方向の辺)、64×32画素、32×64画素、32×32画素、32×16画素、16×32画素、16×16画素、8×16画素、16×8画素、8×8画素、4×8画素、8×4画素、又は4×4画素から構成される矩形の画素ブロックに区分けされていてよい。画素が画素ブロックに区分けされていることは、回路構造によって視認可能であってよく、又は、回路構造によっては視認可能でないが電気的に区分けされていてもよい。電気的な区分けは、例えば本技術における制御部により所定のトランジスタ及び/又はスイッチをオンまたはオフにすることによって、画素ブロックに含まれるべき複数の画素を電気的に接続することによって実現されうる。
例えば図2に示されるとおり、本技術において用いられる画素領域は、例えば1280×768画素から構成された矩形の画素領域であり、且つ、当該画素領域は、64×64画素(4096画素)から構成される画素ブロック(すなわち、20×12の画素ブロック)に区分けされていてよい。
画素アレイ部103に含まれる画素は、アレイ状に配置されていてよい。画素アレイ部103に含まれる画素のそれぞれは、上記「(1)第1の実施形態の説明」で述べたとおりの動体検知を行うことができるように構成されうる。各画素は、1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を保持する第一の電荷保持部と、他の一つのサブフレーム信号電荷を第二の電荷保持部とを少なくとも有する。これらの電荷保持部は、例えば、撮像素子(例えばCMOSイメージセンサ)において用いられるキャパシタであってよい。例えば、これらの電荷保持部の例として、例えばフローティングディフュージョン(本明細書内において、FDともいう)及びメモリ(本明細書内において、メモリともいう)を挙げることができる。また、これらの電荷保持部として、例えば光電変換素子(本明細書内において、PDともいう)を挙げることもできる。
画素アレイ部103に含まれる各画素は光電変換素子を含む。光電変換素子は、撮像素子(例えばCMOSイメージセンサ)において用いられる既知の素子であってよい。各画素は、1つの光電変換素子を含んでよく、又は、2つ以上(例えば2つ、3つ、又は4つ)の光電変換素子を含んでもよい。
画素アレイ部103に含まれる各画素は、電荷転送制御部107による信号電荷の転送制御を可能とする構成要素を含みうる。当該構成要素は、例えば、撮像素子(例えばCMOSイメージセンサ)において用いられる既知のトランジスタ及び/又はスイッチであってよい。例えば、当該トランジスタ及び/又はスイッチのオン又はオフを電荷転送制御部107によって制御することで、本技術に従う電荷転送制御が行われうる。当該構成要素として、例えば転送トランジスタ、増幅トランジスタ、選択トランジスタ、及びリセットトランジスタを挙げることができる。
画素アレイ部103の構成の一例を、図3を参照して説明する。図3に示される画素アレイ部300は、所定数の画素単位がアレイ状に配置されている構成を有する。図3に示される画素アレイ部は、画素が共有されていない画素アレイ部の例である。画素単位は、1画素でもよく、又は、複数の画素がトランジスタ群を共有している構造を有していてもよい。また、1つのFDを2×2画素又は2×4画素によって共有してもよい。なお、図3において、例えばトランジスタなどの詳細な回路構成要素は省略されている。
図3の画素アレイ部300は、上チップ301及び下チップ311が積層された構造を有する。上チップ301には、画素アレイ302が設けられており、且つ、下チップ311には、DAC(Digital Analog Converter)312、コンパレータ313−1、313−2、・・・及び313−M、及び垂直駆動部314が設けられている。
画素アレイ302には、画素303が、垂直方向にN行および水平方向にM列並ぶように設けられている。例えば、第1列には、画素303−1−1〜画素303−1−Nが配置されている。第M列には、画素303−M−1〜画素303−M−Nが配置されている。
1つの垂直列に並んだ複数の画素は、1つの垂直信号線に接続されている。例えば、画素303−1−1〜画素303−1−Nは、垂直信号線304−1に接続されている。
DAC312及びコンパレータ313−1〜313−Mは、カラムAD回路(カラム処理部ともいう)を構成しうる。例えば、コンパレータ313−1〜313−Mのそれぞれは、垂直信号線304−1〜304−Mのそれぞれを介して供給される信号電荷を、DAC312より供給されてくるリファレンス信号と比較し、比較結果を出力しうる。コンパレータ313−1〜313−Mには、リファレンス信号の出力電圧を変化させるクロックに同期してカウント値をカウントするカウンタ(図示されていない)が設けられていてよい。このカウンタは、上記比較結果に応じて、カウント値をデジタル信号として出力しうる。
画素アレイ302上の画素又は画素ブロックから、垂直駆動部314より行単位で供給される制御信号に従い、垂直信号線304−1〜304−Mを介して信号電荷に応じた画素信号が読み出される。そして、アナログ電圧信号である画素信号が、カラムAD回路によって行単位でデジタルデータに変換される。本技術に従い画素信号を画素毎に処理する場合には、撮像面全面の画素信号を読みだすために、M×N回のAD変換が行われうる。
制御部104は、光学系101、シャッタ装置102、及び画素アレイ部103を制御しうる。また、制御部104は、本技術に従い得られた画像をモニタ105に表示させ、又は、本技術に従い得られた画像データをメモリ106に格納しうる。また、制御部104は、メモリ106に格納された画像データを取得し、モニタ105に表示させうる。
電荷転送制御部107は、本技術に従い信号電荷の転送を制御する。例えば、電荷転送制御部107は、画素アレイ部103に含まれる各画素の光電変換素子に蓄積した信号電荷の転送を制御しうる。当該信号電荷の転送制御は、例えば、各画素に含まれる複数のトランジスタ及び/又はスイッチをオン又はオフとすることによって行われうる。当該信号電荷の転送制御により、所定の電荷保持部に所定のサブフレーム信号電荷が保持される。
画素加算処理部108は、本技術に従い、画素ブロック毎にサブフレーム信号電荷に応じた画素信号を画素加算する。
例えば、画素加算処理部108は、一つの画素ブロックを構成する複数画素中の各第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を画素加算するように、画素アレイ部103を制御する。
画素加算は、例えば複数画素の信号電荷を1つのFDに集めることにより行われてよい。具体的には、複数のFDを接続する配線によって、これらのFDは、実効的に1つの容量として作用する。この容量に、複数画素の信号電荷を転送することにより、信号電荷の加算が行われうる。代替的には、複数のPDに保持されている信号電荷を1つのFDに転送することによって、これらの信号電荷が1つのFDに集められうる。このように信号電荷に対して行われる画素加算をFD加算ともいう。FD加算は、例えば、一つの画素ブロックを構成する複数画素中の各第一の電荷保持部又は各第二の電荷保持部に保持されたサブフレーム信号電荷を、それぞれの画素のFDに転送する際、これらの画素のFD同士を、選択的にオン又はオフできる配線によって接続することによって行われうる。
画素加算は、例えば信号電圧を加算することによって行われてもよい。具体的には、信号電圧の加算は、一つの垂直信号線に接続している複数の画素の選択トランジスタを同時に開いて当該複数の画素の信号電圧を加算すること、及び/又は、水平方向に接続された複数の垂直信号線の信号電圧を加算すること、によって行われてよい。このように信号電圧に対して行われる画素加算をSF(ソースフォロア)加算ともいう。SF加算は、例えば、垂直信号線を水平方向に接続する配線上に設けられたスイッチ群のうち、画素加算されるべき垂直信号線を接続する配線上の所定のスイッチをオンにすることによって行われうる。
本技術において、画素加算は、FD加算若しくはSF加算であってよく、又は、FD加算及びSF加算の組み合わせであってもよい。
画素加算処理部108は、所定のトランジスタ群及び/又はスイッチ群のオン又はオフを切り替えることにより画素加算を行いうる。画素加算は、一つの画素ブロックを構成する複数画素中の各第一の電荷保持部又は各第二の電荷保持部に保持された信号電荷又は信号電圧を一括して読み出すための配線並びにトランジスタ群及び/又はスイッチ群を設けることによって、実現されうる。
動体検知部109は、画素加算処理部108により生成された第一の電圧信号と第二の電圧信号とを比較することにより動体を検知する。
当該比較は、例えば、画素加算により得られた電圧信号を変換して得られたディジタル信号に基づき行われうる。当該変換は、当業者に既知の手段、例えばアナログ−デジタルコンバータ(ADコンバータともいう)を用いて行われてよい。ADコンバータによる処理は、例えばシングルスロープAD変換、Δ−ΣAD変換、又は逐次比較AD変換であってよく、好ましくはシングルスロープAD変換でありうる。上記変換の結果得られたディジタル信号に基づき、動体検知が行われうる。
シングルスロープADCを用いて、第一の電圧信号及び第二の電圧信号の差のディジタル値を生成し、その値に基づき動体検知を行う場合の具体的な処理は例えば以下のとおりである。すなわち、(1)第一の電圧信号に対してAD変換を行い、カウンタを、初期値0からダウンカウントする。(2)次に、(1)のカウント値を初期値として、第二の電圧信号に対するAD変換を行い、カウンタをアップカウントする。(3)上記(2)のアップカウントの結果、カウンタが保持する値(カウンタ値)が、第一の電圧信号と第二の電圧信号との差のディジタル値となる。(4)当該カウンタ値が、所定の閾値を超えた場合に、動体が検知されたと判断されうる。代替的には、上記(1)のカウント値をデータ格納部(図6の603)に格納しておき、上記(1)と(3)のディジタル値の比をディジタル回路又はソフトウェアで求め、その比が所定の閾値を超えた場合に、動体が検知されたと判断されてもよい。
Δ−ΣADCを用いて、第一の電圧信号及び第二の電圧信号の差のディジタル値を生成し、その値に基づき動体検知を行う場合の具体的な処理は例えば以下のとおりである。すなわち、(1)第一の電圧信号を、Δ−ΣADC回路の第1の容量にサンプルホールドする。(2)第一の電圧信号を、Δ−ΣADC回路の第2の容量にサンプルホールドする。(3)第1と第2の容量に保持された電圧の差を、Δ−ΣADC回路でディジタル値に変換する。(4)当該ディジタル値に基づき、前記シングルスロープADC場合と同様に、動体が検知されたかどうかが判断されうる。
アナログ除算器を用いて、第一の電圧信号及び第二の電圧信号の比を求め、当該比に基づき動体検知を行う場合の具体的な処理は以下のとおりである。すなわち、(1)第一の電圧信号を、カラム処理部(図6の602)の第1の容量にサンプルホールドする。(2)第二の電圧信号を、カラム処理部(図6の602)の第2の容量にサンプルホールドする。(3)第1及び第2の容量にサンプルホールドされた電圧信号を、アナログ除算器に印加し、両者の比の電圧を生成する。(4)当該比電圧を、例えばSS―ADC又はΔ−ΣADCなどの公知の技術によって、ディジタル値に変換する。(5)当該ディジタル値が所定の閾値を超えた場合に、動体が検知されたと判断されうる。
前記比較は、以上のように、第一の電圧信号と第二の電圧信号との差、第一の電圧信号と第二の電圧信号との差を当該第一の電圧信号によって除した値、又は第一の電圧信号を第二の電圧信号によって除した値を用いて行われうる。これらの値を得るための演算は、例えば、アナログ回路(割り算器)、論理回路、又は任意のソフトウェアを用いることにより行われうる。また、これら電圧信号は、例えばアナログメモリ(S/H回路)又はAD変換後にロジックメモリ(レジスタ)に記憶されうる。
動体検知部109は、これらの値(特にはディジタル値)のいずれか一つ又は二つ以上を所定の閾値と比較して、当該閾値以上である場合は撮像領域内に動体が存在すると判定してよく、且つ、当該閾値未満である場合は撮像領域内に動体が存在しないと判定してよい。当該閾値は、過去のサブフレームにおいて得られた電圧信号を用いて変化されてもよい。例えば、過去の1〜10フレーム(特には3〜7フレーム)におけるサブフレーム信号電荷に基づき得られた電圧信号に基づき、当該閾値が設定されてよい。また、複数の画素ブロックにおける第一の電圧信号と第二の電圧信号との比較結果を用いて、高次画像処理によって動体が検出されてもよい。
電荷処理部110は、画素毎に信号電荷の処理を行う。例えば、前記動体検知部109によって動体が検知されたことに応じて、制御部104は、画素加算処理部108による画素加算処理を停止する。画素加算処理の停止は、例えば、画素加算を行うための配線上に設けられたトランジスタ群及び/又はスイッチ群をオフにすることによって、画素ブロック内の複数画素を電気的に接続されていない状態にすることによって行われうる。
電荷処理部110による画素毎の信号電荷の処理は、画像(例えば静止画像又は動画像)を得るための一般的な信号電荷処理であってよい。電荷処理部110によって、画素毎に信号電荷を処理することで高解像度の画像が得られる。
電荷処理部110による信号電荷処理は、動体検知部109により動体が検知されたフレームの直後のフレームにおける露光で得られた信号電荷に対して行われてよい。これにより、動体検出直後のフレームでの撮像が可能となる。例えば、動体が検出されてから、動体検知モードの間の1フレーム時間が経過する前に、又は、動体検知モードの間の1フレーム時間の半分の時間が経過する前に、当該動体を撮像することができる。
電荷処理部110による信号電荷処理は、動体検知部109により動体が検知されたフレーム内における露光で得られた信号電荷に対して行われてもよい。これにより、動体が検出されたフレーム内で、当該動体を撮像することができる。
信号処理部111は、画素加算処理部108による処理の結果得られた各画素ブロックの信号電圧に基づき又は電荷処理部110による処理の結果得られた各画素の信号電圧に基づき、モニタ105に画像を表示させうる。又は、信号処理部111は、画素加算処理部108による処理の結果得られた各画素ブロックの信号電圧に基づき又は電荷処理部110による処理の結果得られた各画素の信号電圧に基づき、画像データをメモリ106に記憶させうる。
光学系101は、1枚または複数枚のレンズを有しうる。光学系101は、被写体からの光(入射光)を画素アレイ部103に導き、そして、画素アレイ部103の受光面にて結像させる。光学系101は、例えば撮像装置100の種類に応じて、当業者により適宜選択されてよい。
シャッタ装置102は、光学系101および画素アレイ部103の間に配置されうる。シャッタ装置102は、制御部104によって制御されて、画素アレイ部103の露光期間を制御する。例えば、動体検知部109による動体検知が行われている間の露光期間と、動体が検知された後の撮像における露光期間とは、異なりうる。また、動体検知部109による動体検知が行われている間の1フレーム内の複数回の露光における各露光期間も互いに異なりうる。所望の時間の間露光が行われるように、制御部104は、シャッタ装置102を制御しうる。
モニタ105は、制御部104により制御下で画像を表示しうる。メモリ106は、制御部104による制御下で得られた画像データを格納しうる。
なお、図1に記載の撮像装置100、電荷転送制御部107、画素加算処理部108、及び電荷処理部109が、制御部104に含まれるように構成されている。本技術に従う撮像装置は、当該構成に限定されるものでない。例えば、撮像装置内の撮像素子が、電荷転送制御部、画素加算処理部、及び電荷処理部を含んでもよい。この場合、例えば撮像素子の下チップに、電荷転送制御部、画素加算処理部、及び電荷処理部が設けられ、且つ、撮像チップの上チップに画素アレイ部が設けられうる。
(3)第1の実施形態の第2の例(動体検知後1フレーム時間内で撮像する撮像装置)
(3−1)撮像装置の構成例
以下で、本技術に従い、動体検知後1フレーム時間内で撮像する撮像装置の例及び当該撮像装置による動体検知の例を、図1及び4を参照しながら説明する。図1は、当該撮像装置の一例のブロック図であり、撮像装置100に含まれる各構成要素は、上記「(2)第1の実施形態の第1の例(撮像装置)」において述べたとおりである。以下では、撮像装置100に含まれる構成要素のうち、特に撮像素子112について、より特には撮像素子112に含まれうる画素アレイ部103及び制御部104について、より詳細に説明する。
(3−2)撮像装置に含まれる撮像素子の構成例
撮像素子112は、画素加算を行うことができるように構成されている。本技術において、画素加算とは例えば、複数の画素で取得された信号電荷を、画素毎に読み出すのでなく、当該複数の画素で取得された信号電荷を一括して読み出すことでありうる。画素加算の手法として、例えばFD加算、隣接垂直信号線(VSL)間での容量加算、及びソースフォロワ加算を挙げることができる。本技術において、撮像素子は、これらの画素加算のうちのいずれか一つ又は二つ以上の画素加算を行うことができるように構成されていてよい。撮像素子112が画素加算を行うことができるように構成されていることで、本技術における画素加算処理部108による画素加算が可能となる。また、動体検知の間は、画素加算処理によって、画素毎に信号電荷を読み出す場合と比べて、消費電力を低減することができる。本技術において、画素加算が行われる複数の画素からなる一群を画素ブロックともいう。
画素加算を行うことができる撮像素子の構成例、特には画素アレイ部の構成例を図4に示す。図4に示されるとおり、画素ブロック400は、垂直信号線409に接続されている画素401−1〜画素401−nの合計nの画素が垂直方向に並んだ画素列を含む。画素ブロック400は、他の垂直信号線に接続されておりかつ同じ行に属する複数画素の列を含んでもよい。画素401−1〜画素401−nはいずれも同じ構成を有しうる。画素401−1は、光電変換素子(以下、PDともいう)402−1、フローティングディフュージョン(FDともいう)403−1、転送(TRGともいう)トランジスタ404−1、リセット(RSTともいう)トランジスタ405−1、増幅トランジスタ406−1、選択トランジスタ407−1、及びFDリンク(以下、FDLともいう)トランジスタ408−1を含む。
図4において、FD403−1が、本技術における第一の電荷保持部であり、PD402−1が、本技術における第二の電荷保持部である。
転送トランジスタ404−1は、露光によりPD402−1に蓄積された信号電荷のFD403−1への転送を制御することができるように構成されている。例えば、図4に示されるとおり、転送トランジスタ404−1は、PD402−1とFD403−1をつなぐ配線の間に設けられていてよい。
電荷転送制御部107が、転送トランジスタ404−1を制御することによって、PD402−1に蓄積された信号電荷のFD403−1への転送を制御しうる。例えば、電荷転送制御部107が転送トランジスタ404−1をオンにすることによって、露光によりPD402−1に蓄積された信号電荷が、FD403−1に転送され、そして、当該信号電荷は、FD403−1に保持される。また、電荷転送制御部107が転送トランジスタ404−1をオフにすることによって、露光によってPD402−1に蓄積された信号電荷は、PD402−1に保持される。
FDLトランジスタ408−1は、1つの画素ブロックを構成する各画素内のFD403−1に保持された電荷の加算を制御できるように構成されている。例えば、図4に示されるとおり、FDLトランジスタ408−1は、1つの画素ブロック内の1つの列を構成する複数画素のそれぞれのFD403−1〜403−nを接続するフローティング配線(以下、FDL配線ともいう)411上に設けられていてよい。
すなわち、1つの画素ブロックのそれぞれにおいて、各画素のFDが垂直方向にFDL配線によって連結されている。当該FDL配線は、FDが連結されている状態と連結されていない状態とを切り替え可能であるように構成されている。例えば、FDL配線上に設けられたFDLトランジスタをオン又はオフとすることによって、FDが連結されている状態と連結されていない状態とを切り替えることができる。FDに保持されているサブフレーム信号電荷の加算は、前記FDL配線を前記連結されている状態とすることにより行われる。FDL配線は、画素加算を行うための配線ともいえる。
画素加算処理部108は、FDLトランジスタ408−1を制御することによって、FD403−1に保持された信号電荷の加算を制御しうる。例えば、1つの画素ブロックを構成する各画素内のFDLトランジスタ408−1〜408−nをすべてオンにすることで、FD403−1〜FD403−nに保持された信号電荷が加算されうる。また、FDLトランジスタがオンにされる画素を選択することで、信号電荷が加算される画素を選択することができ、すなわち画素ブロックを構成する画素を選択することができる。また、動体検知後に画素毎に信号電荷を処理する場合には、画素領域中のFDLトランジスタ408−1は全てオフにされうる。すなわち、撮像装置100は、動体が検知されたことに応じて、画素加算処理部108による画素加算処理を停止する。
FDLトランジスタ408−1〜408−nをすべてオンにした状態で、選択トランジスタ407−1〜407−nのうちのいずれか一つの所定の選択トランジスタをオンにすることによって、加算された信号電荷を当該所定の選択トランジスタから出力されたものであるとして取り扱うことができる。
RSTトランジスタ405−1、増幅トランジスタ406−1、及び選択トランジスタ407−1は、例えば通常のCMOSイメージセンサにおける信号電荷処理と同様の処理を行うことができるように構成されていてよい。
例えば画素401−1は、選択トランジスタ407−1を介して垂直信号線409に接続されていてよい。すなわち、選択トランジスタ407−1は、垂直信号線409と増幅トランジスタ406−1を接続する配線上に設けられていてよい。
また、増幅トランジスタ406−1は、選択トランジスタ407−1とFD403−1とを接続する配線上に設けられていてよい。
また、リセットトランジスタ405−1は、例えばFD403−1及び/又はPD402−1などを電源電圧410−1にリセットすることが可能なように設けられていてよい。図4において、リセットトランジスタ405−1は、FD403−1と電源電圧410−1を接続する配線上に設けられている。
(3−3)撮像装置の動作の例
以下で、本技術に従う撮像装置100によって動体検知を行いそして動体検知後1フレーム時間内で撮像する場合の当該撮像装置100の動作について、図4〜6を参照して説明する。図4は、上記「(3−2)撮像装置に含まれる撮像素子の構成例」において説明したとおりである。図5は、本技術に従う撮像装置100による動体検知の間及び動体検知後の動体の撮像の間の、撮像素子の動作の模式図(上図)及び当該動作における1つの画素行に関するタイミングチャート(下図)である。図6は、撮像素子の画素アレイ部及びその周囲の構成例を示す図である。
本技術に従う撮像装置100による動体検知の間の信号電荷の処理は、一般的なCMOSイメージセンサによる撮像のための信号電荷の処理と異なる。そこで、まず一般的なCMOSイメージセンサによる撮像のための信号電荷の処理を説明し、次に、本技術に従う撮像装置100による動体検知における信号電荷の処理を説明する。
一般的なCMOSイメージセンサでは、各画素からの出力の読み出しのために、いわゆるP相出力とD相出力とが取得され、そして、これらP相出力とD相出力との間の差分が取得されうる。当該差分が、画素の光電変換素子に蓄積した信号電荷に基づく画像信号として用いられうる。ここで、上記P相出力とは、RSTトランジスタをオンにすることでFDをリセットし、リセット後、選択トランジスタをオンにすることで得られる出力である。また、露光により光電変換素子に蓄積した信号電荷が、転送トランジスタをオンにすることでFDに転送される。当該転送された信号電荷に基づく出力が上記D相出力である。
一方で、本技術に従う撮像装置100による動体検知の間の信号電荷の処理では、上記P相出力とD相出力との間の差分とは異なる差分が取得される。本技術に従う撮像装置100による動体検知の間の信号電荷の処理において取得される差分は、1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレームにおいて光電変換素子に蓄積した信号電荷に基づき取得された出力(電圧信号)と、他の一つのサブフレーム信号電荷に基づき取得された出力(電圧信号)と、の間の差分でありうる。より特には、当該差分は、一つのサブフレーム信号(D相信号)のAD変換(ダウンカウント)及び他の一つのサブフレーム信号(D相信号)のAD変換(アップカウント)の結果得られるディジタル信号値でありうる。本技術に従う撮像装置100による動体検知の間の信号電荷の処理では、FDがリセットされた状態で得られる出力は用いられず、すなわち上記の一般的なCMOSイメージセンサにおいて取得されるP相出力は用いられなくてよい。
本技術に従う撮像装置100による動体検知の間の信号電荷の処理において取得される差分について、図5の模式図を参照して説明する。
当該模式図において、左から右に向かって時間が進行している。撮像装置100は、期間D1において、動体検知モードでの撮像を行っており、すなわち、本技術における画素加算処理部による画素加算処理が行われている。当該模式図では、期間D中のフレームFn−1においては動体が検知されず、次のフレームFにおいて動体が検知されたことが示されている。動体が検知された時点がPである。
時点Pにおいて動体が検知されたことに応じて、撮像装置100は、動体検知モードから動体撮像モードへと撮像の仕方を変更し、すなわち電荷処理の仕方を画素ブロック毎の画素加算処理から画素毎の電荷処理へと変更する。撮像装置100は、期間Dにおいて、動体撮像モードでの撮像を行っている。
当該模式図に示されるとおり、動体検知モードでは、1フレーム中に2回露光が行われる。当該模式図では、フレームFn−1及びFのそれぞれにおいて2回露光が行われる。1フレーム中の当該2回の露光の露光期間をサブフレームと呼ぶ。
最初の露光期間は、当該模式図中のt1により示される期間である。2回目の露光期間は、当該模式図中のt2により示される期間である。t1により示される期間及びt2により示される期間が、フレームFn−1のサブフレームである。
斜線SHは、画素アレイの各行の露光開始時点を示す。なお、各画素行は、逐次的に露光が開始されうるが、便宜上開始時点を斜線SHで示している。
斜線TRは、露光期間t1の間に光電変換素子に蓄積した信号電荷のFDへの転送時点を示す。また、当該転送時点は、露光期間t2の開始時点でもある。なお、各画素行は、逐次的に転送が開始されうるが、便宜上転送時点を斜線TRで示している。
斜線ROは、信号電荷の読み出しが開始される時点を示す。すなわち、斜線ROの時点にて、各画素行においてアナログデジタル変換が開始される。当該模式図では、アナログデジタル変換が行われる期間が、ラインADC上の四角で表されている。ADCが行われる期間において、同時に動体検知が行われる。当該模式図では、動体検知が行われる期間が、ラインS(Sensing)上の四角で表されている。
当該タイミングチャートは、1つの画素行に関するものである。RSTはリセットトランジスタのオンまたはオフを表し、TRGは転送トランジスタのオンまたはオフを表し、SELは選択トランジスタのオンまたはオフを表し、VFLはFDLトランジスタのオンまたはオフを表す。VFDはFDの電圧を表し、VSLは垂直信号線から出力される電圧を表す。CNTは、カウンタが、各時点で保持している計数値を表す。例えば、AD変換が開始される前は、カウンタの値はゼロである。AD変換が開始され、ダウンカウントが続いている期間は、当該計数値が負の向きに変化し続け(右下がりの傾き)、アップカウントが続いている期間は、計数値が正の向きに変化し続ける(右上がりの傾き)。ダウンカウント及びアップカウントの終了後にカウンタが保持している計数値が、第一の電圧信号と第二の電圧信号との間の差を表すディジタル値でありうる。
信号電荷の具体的な処理の例を以下に説明する。以下の工程は、当該処理に含まれる主な工程であり、他の工程が含まれてもよい。
(工程1)
まず、図4中のPD402−1〜402−n及びFD403−1〜403−nがリセットされる。当該リセットは、例えば、RSTトランジスタ405−1〜405−n及び転送トランジスタ404−1〜404−nをオンにすることにより行われてよい。
(工程2)
次に、PD402−1〜402−nに対して露光期間t1の間露光が行われる。その結果、PD402−1〜402−nのそれぞれに第一のサブフレーム信号電荷が蓄積する。
(工程3)
次に、PD402−1〜402−nのそれぞれに露光期間t1の間に蓄積した各信号電荷が、転送トランジスタ404−1〜404−nをオンにすることで、FD403−1〜403−nのそれぞれに転送される。そして、当該各信号電荷は、FD403−1〜403−nのそれぞれに保持される。当該転送の制御は、電荷転送制御部107が、図6における垂直駆動部605を制御することにより行われうる。
(工程4)
次に、PD402−1〜402−nに対して露光期間t2の間露光が行われる。その結果、PD402−1〜402−nのそれぞれに第二のサブフレーム信号電荷が蓄積する。露光期間t2の間の露光によりPD402−1〜402−nのそれぞれに蓄積した信号電荷は、PD402−1〜402−nのそれぞれに保持される。当該保持は、例えば、電荷転送制御部107が、図6における垂直駆動部605を制御して、転送トランジスタ404−1〜404−nをオフにすることによって行われうる。
(工程5)
次に、FDLトランジスタ408−1〜408−nの全てをオンにし、且つ、選択トランジスタ407−1〜407−nのうちの所定の1つの選択トランジスタをオンにすることで、FD403−1〜403−nに保持されている第一のサブフレーム信号電荷群が、一括して垂直信号線409に電圧信号として出力される。すなわち、当該信号電荷群が加算処理され、当該所定の選択トランジスタを有する画素からの電圧信号として取り扱われる。当該電圧信号の変換処理は、画素加算処理部108により図6における垂直駆動部605を制御すること、及び/又は、画素加算処理部108により図6におけるカラム処理部602を制御することによって行うことができ、または、画素加算処理部108自体によって行われてもよい。当該電圧信号が、本技術に従う動体検知において用いられる第一の電圧信号である。当該第一の電圧信号は例えば、図6中のカラム処理部602に置かれたサンプルホールド回路(図示せず)に保存されてもよいし、又は、AD変換後に、図6中のデータ格納部603に保存されてもよい。当該加算処理の結果、図5中のタイミングチャートにおける(c)により示されるディジタル計数値の変化が生じる。図5中のタイミングチャートにおける(c)により示されるディジタル計数値の変化量(電圧の差に応じたディジタル値)が、第一の画素信号でありうる。例えば、第一の画素信号は、ダウンカウントにより計数されうる。
ここで、当該電圧信号の変換処理の手法は、当業者に既知の手法により行われてよい。当該手法として、例えばシングルスロープ−アナログデジタル変換(SS−ADC)を挙げることができるが、これに限定されない。
(工程6)
次に、FD403−1〜403−nがリセットされる。当該リセットは、例えば、RSTトランジスタ405−1〜405−nをオンにすることにより行われてよい。
(工程7)
次に、PD402−1〜402−nのそれぞれに保持されている第二のサブフレーム信号電荷が、転送トランジスタ404−1〜404−nをオンにすることで、FD403−1〜403−nのそれぞれに転送される。当該転送の制御は、電荷転送制御部107が図6中の垂直駆動部605を制御することにより行われうる。
(工程8)
次に、FDLトランジスタ408−1〜408−nの全てをオンにし、且つ、選択トランジスタ407−1〜407−nのうちの所定の1つの選択トランジスタをオンにすることで、FD403−1〜403−nに保持されている第二のサブフレーム信号電荷群が、一括して垂直信号線409に電圧信号として出力される。すなわち、当該信号電荷群が加算処理され、当該所定の選択トランジスタを有する画素からの電圧信号として取り扱われる。当該電圧信号の変換処理は、画素加算処理部108により図6における垂直駆動部605を制御すること、及び/又は、画素加算処理部108により図6におけるカラム処理部602を制御することによって行うことができ、または、画素加算処理部108自体によって行われてもよい。当該電圧信号が、本技術に従う動体検知において用いられる第二の電圧信号である。当該第二の電圧信号は例えば、図6中のカラム処理部602に置かれたサンプルホールド回路(図示せず)に保存されてもよいし、又は、AD変換後に、図6中のデータ格納部603に保存されてもよい。当該加算処理の結果、図5中のタイミングチャートにおける(d)により示されるディジタル計数値の変化が生じる。図5中のタイミングチャートにおける(d)により示されるディジタル計数値の変化量(電圧の差に応じたディジタル値)が、第二の画素信号でありうる。例えば、第二の画素信号は、アップカウントにより計数されうる。
ここで、当該電圧信号の変換処理の手法は、当業者に既知の手法により行われてよい。当該手法として、例えばシングルスロープ−アナログデジタル変換(SS−ADC)を挙げることができるが、これに限定されない。
(工程9)
次に、前記第一の電圧信号と前記第二の電圧信号との比較が行われる。当該比較は、例えばこれら2つの電圧信号の間の差を用いて行われてよい。又は、前記第一の電圧信号と前記第二の電圧信号との差を当該第一の電圧信号によって除した値、又は前記第一の電圧信号を前記第二の電圧信号によって除した値を用いて行われうる。より特には、前記比較は、画素加算により得られた電圧信号を変換して得られたディジタル信号値に基づき行われうる。これらの値を得るための演算は、例えばアナログ回路、論理回路、又は任意のソフトウェアを用いることにより行われうる。当該比較は、動体検知部109により行われてよい。
(工程10)
前記比較の結果、動体が検知されない場合は、例えば露光が行われないブランキング期間の後に、再度(工程1)〜(工程9)が行われる。
前記比較の結果、動体が検知された場合は、FDLトランジスタ408−1〜408−nの全てをオフにし、画素毎の信号電荷処理を行う。すなわち、動体が検知されたことに応じて、撮像装置100は、画素加算処理部108による画素加算処理を停止する。すなわち、動体が検知された場合は、動体撮像モードへと撮像の仕方を変更する。動体撮像モードにおける撮像は、通常のCMOSイメージセンサにおいて行われる信号電荷処理によって行われてよい。FDLトランジスタ408−1〜408−nの全てをオフにすることによって、画素401−1〜401〜nが電気的に接続されなくなる。また、画素401−1〜401〜nはいずれも、通常のCMOSイメージセンサによる撮像のための信号電荷処理を行うことができる。そのため、FDLトランジスタ408−1〜408−nの全てがオフにされた状態で、画素毎に例えば上記で述べた一般的なCMOSイメージセンサにおける信号電荷処理を行うことで、高解像度の画像が得られる。当該画素毎の信号電荷処理では、例えば通常のCMOSイメージセンサにおいて行われる相関2重サンプリング(CDS)が行われ得る。
図5のフレームFn−1においては、t1及びt2において蓄積した信号電荷に基づく第一の電圧信号と第二の電圧信号との間には差がない(図5の(e))。そのため、全ての画素行にわたって第一の電圧信号と第二の電圧信号との比較が完了した後、撮像素子はブランキング期間へ移行する。所定のブランキング期間が経過後、撮像装置100は、フレームFにおける動体検知処理を開始する。
図5のフレームFにおいて、第一の電圧信号と第二の電圧信号との比較の結果、時点Pにおいて動体が検知された。図5のタイミングチャートに、第一の電圧信号と第二の電圧信号との比較の結果、差があることが示されている(図5の(f))。動体が検知されたことに応じて、撮像装置100は、FDLトランジスタ408−1〜408−nの全てをオフにし、画素毎の処理を行う。
図5のフレームFn+1が、画素毎の信号電荷処理が行われるフレームである。
なお、画素毎の信号電荷処理が所定回数繰り返された後に、再度画素ブロック毎の処理が行われてよく、又は、画素毎の信号電荷処理が所定期間行われた後に、再度画素ブロック毎の処理が行われてもよい。すなわち、撮像装置100は、撮像モードが所定のフレーム回数だけ繰り返された後に(例えば複数枚静止画を撮像した後に)又は撮像モードが所定の期間経過した後に、撮像の仕方を再度動体検知モードへと変更しうる。又は、撮像装置100は、動体検知後に動画を撮影してもよい。動画撮影の場合には、例えば画素加算又は間引き読み出しによって、動画の解像度を下げてもよい。
以上のとおり、本技術に従う上記撮像装置による動体検知の間は、画素ブロック毎に信号電荷処理が行われる。すなわち、読み出される実行画素数が減少される。これによって、動体検知の間の消費電力が低減される。
また、本技術に従う上記撮像装置を用いることで、動体を検知してから1フレーム時間以内に(特には、動体検知モードにおける1フレーム時間以内に)、当該動体を撮像することができる。これによって、高速で移動する動体を検知した場合に、当該動体を撮像し損ねることを防ぐことができる。
また、例えば、上記特許文献1の装置では、サブフレーム信号電荷を保持する手段として、画素内に容量素子を設けている。そのため、PDの飽和信号電荷量が制限されることがある。また、上記特許文献1の装置は、画素内に容量素子を有するために、微細画素とすることができないことがある。一方で、本技術に従う上記撮像装置では、FDが、本技術における第一の電荷保持部であり、PDが、本技術における第二の電荷保持部である。そのため、サブフレーム信号電荷を保持するための容量素子を画素内に設ける必要がない。その結果、PDの飽和信号電荷量をより多くすることができる。
また、本技術に従う上記撮像装置を用いた動体検知では、サブフレーム信号電荷がFDに保持されるため、FD暗電流ショットノイズ(暗電流の増加によるノイズ)が生じうる。また、本技術に従う上記撮像装置を用いた動体検知では、FD及び/又はPDに保持されたサブフレーム信号電荷に対し、CDS処理を行わないことによって、リセットノイズが残留しうる。また、本技術に従う動体検知では、増幅トランジスタにおいて1/fノイズが生じうる。しかしながら、これらのノイズは、動体検知モードにおいて画素加算が行われることによって、平均化され又は低減される。
図4に示された回路では、FDLトランジスタ408−1〜408−nのオン又はオフの切り替えによって、信号電荷の加算処理(すなわち画素ブロック毎の信号電荷の処理)又は信号電荷の処理(すなわち画素毎の信号電荷の処理)が切り替えられうる。FDLトランジスタ408−1〜408−nは、動体検知モードの間は常にオンであってもよく、又は、画素加算処理が行われるタイミングにおいてのみオンにされてもよい。
信号電荷の加算処理は、図4に示された回路を有する撮像素子以外の他の撮像素子によって行われてもよい。当該他の撮像素子の回路の例を図7に示す。
図7に示された画素アレイ700において、画素701−1−1〜画素701−1−Nが垂直信号線702−1に接続されている。同様に、他の列の画素群もそれぞれ垂直信号線に接続されている。
各垂直信号線は隣の垂直信号線と、スイッチ(例えばトランジスタ)が設けられた水平方向配線によって接続されている。例えば、垂直信号線702−1と垂直信号線702−2とは、スイッチ703−1が設けられた水平方向配線によって接続されており、且つ、垂直信号線702−2と垂直信号線702−3とは、スイッチ703−2が設けられた水平方向配線によって接続されている。そのため、垂直信号線702−1、垂直信号線702−2、及び垂直信号線702−3は、電気的に接続されている。
また、垂直信号線702−3と垂直信号線702−4とは、スイッチ703−3が設けられた水平方向配線によって接続されているが、スイッチ703−3は開いているので、垂直信号線702−3と垂直信号線702−4とは電気的に接続されていない。
各垂直信号線はスイッチ(又はトランジスタ)を介してコンパレータに接続されている。例えば、垂直信号線702−1は、スイッチ704−1が設けられた配線によってコンパレータ705−1に接続されている。同様に、垂直信号線702−2は、スイッチ704−2が設けられた配線によってコンパレータ705−2に接続されている。
図7に示されるとおり、スイッチ703−1及び703−2は閉じている(又はトランジスタ703−1及び703−2がオンになっている)おり、且つ、スイッチ703−3は開いている(又はトランジスタ703−3はオフになっている)。加えて、スイッチ704−1は閉じており、且つ、スイッチ704−2及び704−3は開いている。その結果、垂直信号線702−1、702−2、及び703−3からの出力は、コンパレータ705−1に一括して送られる。
このように、隣接する垂直信号線同士を接続する水平方向配線上に設けられたスイッチと垂直信号線とコンパレータとを接続する配線上に設けられたスイッチを制御することで、隣接する垂直信号線から出力される、信号電荷に基づく画素信号を加算することができる。
すなわち、本技術において、画素ブロックのそれぞれにおいて、各画素内に保持されている信号電荷に基づく画素信号を列単位で転送する垂直信号線が、水平方向に水平方向配線によって連結されており、前記水平方向配線は、垂直信号線が連結されている状態と連結されていない状態とを切り替え可能であるように構成されていてよい。
各画素内に保持されている信号電荷に基づく画素信号の加算が、前記水平方向配線を前記連結されている状態とすることにより行われる、
なお、各行の画素の信号電荷に基づく画素信号の加算処理は、加算されるべき画素の選択トランジスタをオンにすることによって行われてもよく、又は、上記で図4を参照して述べたとおり、加算されるべき画素のFDを連結する配線上に設けられたFDLトランジスタをオンにすることによって行われてもよい。
また、図7において、3つの垂直信号線が接続されているが、接続される垂直信号線の数は当業者により適宜選択されてよい。例えば2〜128、特には4〜64、より特には64、32、16、8、又は4の垂直信号線からの出力が、一括して処理されてよい。
また、図7に示されるとおり、隣接する垂直信号線を接続する配線上に設けられたスイッチを制御することで、加算処理されるべき垂直信号線を選択してもよい。
露光期間t1及びt2の長さは、当業者により適宜選択されてよい。又は、露光期間t1及びt2の長さは、例えば信号処理部による処理によって得られた過去フレームの撮像結果に基づき、制御部(例えばシステム制御部)が動的に調整してもよい。
本技術の一つの実施態様に従い、図8に示されるとおり、露光期間t1及びt2の長さは等しくてよい。露光期間t1が露光期間t2と等しいことで、前記第一の電圧信号と前記第二の電圧信号との比較を簡便に行うことができる。
本技術の他の実施態様に従い、露光期間t1は、露光期間t2よりも長くてよい。本技術における動体検知の間の画素加算処理では、一般的なCMOSイメージセンサにおけるP相出力は用いられない。そのため、前記第一の電圧信号の信号対雑音比(SNR)が、FD暗電流ショットノイズによって低下する場合がある。そこで、露光期間tを露光期間t2よりも長くすることで、SNRの低下を抑制することができる。例えば、図9に示されるとおり、露光期間t1は、露光期間t2よりも長くてよい。
露光期間t1は、露光期間t2の例えば1.5〜10倍、好ましくは2〜8倍、より好ましくは2〜6倍でありうる。例えば、露光期間t1は、露光期間t2の4倍でありうる。
露光期間t1が露光期間t2よりも長い場合、好ましくは、前記第二の電圧信号のアナログゲインを前記第一の電圧信号のものよりも多くし、そして、両電圧信号の比較が行われ得る。
例えば、前記第二の電圧信号のアナログゲインに対する前記第一の電圧信号のアナログゲインの倍率は、露光期間t1の露光期間t2に対する倍率と同じであってよい。例えば、露光期間t1の露光期間t2の4倍である場合、前記第二の電圧信号のアナログゲインは、前記第一の電圧信号のアナログゲインの4倍でありうる。
本技術の他の実施態様に従い、前記画素ブロックが、第一のグループ及び第二のグループの2つのグループに分けられており、且つ、前記第一のグループのフレーム時間と前記第二のグループのフレーム時間とがずれていてよい。画素ブロックのグループ分けの例を図10に示す。図10において、四角のそれぞれが1つの画素ブロックである。図10に示されるとおり、画素ブロックが、第一の画素グループ1001及び第二の画素グループ1002に分けられる。そして、第一の画素グループ1001については、図11に示される駆動の模式図のうち、上段に示されるタイミングで露光が行われ、第二の画素グループ1002については、同模式図のうち、下段に示されるタイミングで露光が行われる。すなわち、動体検知モードにおいて、第一の画素グループ1001のフレームが、第二の画素グループのフレームよりも先に始まる。
第二の画素グループのフレームは、例えば図11に示されるとおり、第一の画素グループ1001の先のサブフレームが終了し且つ後のサブフレームが開始した時点又は当該時点よりも後(すなわち後のサブフレームにおける露光が開始された時点又は当該時点よりも後)に、開始されてよい。代替的には、第二の画素グループのフレームは、例えば第一の画素グループ1001の先のサブフレームの開始後且つ後のサブフレームが開始する前に開始されてもよい。
画素ブロックのグループ分けは、画素ブロックが、図11に示されるように格子状に区切られている場合、画素ブロックの奇数行を第一のグループとし且つ画素ブロックの偶数行を第二のグループとするように分けられてよい。代替的には、画素ブロックの奇数列を第一のグループとし且つ画素ブロックの偶数列を第二のグループとするように分けられてもよい。また、画素ブロックは、3以上のグループに分けられてもよい。
このように画素ブロックを2つのグループに分け且つ当該2つのグループのフレーム時間をずらすことで、動体検知から1/2フレーム時間が経過する前に(特には動体検知モードにおける1/2フレーム時間が経過する前に)、動体を高解像度で撮像することができる。
(3−4)撮像装置に含まれる撮像素子の他の構成例
本技術の他の実施態様に従い、光電変換素子に保持されているサブフレーム信号電荷をリセットすることができるオーバーフローゲートが各画素に設けられていてよい。このような構成を有する画素の回路図の例を図13に示す。
図13に示された画素の回路図と図4に示された画素401−1の回路図との違いは、PD1302が電源電圧1310にオーバーフローゲート(OFGともいう)トランジスタ1312を介して接続されているという点である。PD1302と電源電圧1310とがOFGトランジスタ1312を設けられた配線によって接続されていることで、OFGトランジスタ1312をオンにすることによりPD1302に蓄積した電荷をリセットすることができる。
図13に示された回路図中の他の構成要素は、図4に示された画素401−1の回路図に記載のものと同じである。そのため、当該他の構成要素についての説明は、上記「(3−2)撮像装置に含まれる撮像素子の構成例」を参照されたい。
OFGトランジスタ1312をオンにすることによって、PD1302に蓄積した信号電荷をリセットすることができる。そのため、サブフレームの露光時間を、サブフレームのフレーム時間から独立して設定することができる。
この場合、サブフレーム間隔(tsub、すなわち先の露光開始時点から後の露光開始時点までの間隔)は、例えば想定される動体の速度に基づき選択されてよく、又は、信号処理部によって取得された過去フレームでの撮像結果に基づき、制御部(例えばシステム制御部)によって動的に調整されてもよい。
例えば、図14に示されるとおり、先のサブフレームの露光(図14におけるSH)における露光時間t1が終了した後に転送トランジスタ1304をオンにすることによって、露光時間t1の間にPD1302に蓄積したサブフレーム信号電荷がFD1303に転送される(図14におけるTR)。当該転送の後、PD1302は引き続き露光されるので電荷が蓄積する。そこで、OFGトランジスタ1312をオンにすることによって、PD1302に蓄積した信号電荷がリセットされる。例えば図14における露光SHの開始時点で、OFGトランジスタ1312をオンにすることによって、PD1302に蓄積した信号電荷がリセットされる。その結果、露光SHの開始時点から読み出しROまでの露光時間t2においてPD1302に蓄積した電荷を、本技術に従うサブフレーム信号電荷として利用できる。
また、本技術に従うさらに他の実施態様において、各画素ブロックが、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、且つ、第一の画素グループの露光時間と第二の画素グループの露光時間とが異なっていてよい。例えば図15に示されるとおり、画素ブロックが、第一の画素グループ1501及び第二の画素グループ1502に分けられる。第一の画素グループ1501については、図16に示される駆動の模式図に示されるとおり、先のサブフレームにおける信号電荷の取得のために、露光SHが露光期間t1の間行われ、且つ、後のサブフレームにおける信号電荷の取得のために、先のサブフレーム信号電荷の転送開始時(TR)から露光が露光期間t2の間行われる。第二の画素グループ1502については、図16に示される駆動の模式図に示されるとおり、先のサブフレームにおける信号電荷の取得のために、露光SH1Sが露光期間t1’の間行われ、且つ、後のサブフレームにおける信号電荷の取得のために、露光SH2Sが露光期間t2’の間行われる。
t1はt1’よりも長く、且つ、t2はt2’よりも長い。また、露光SH2Sは、露光SH1Sが終了した直後でなく、露光SH1Sが終了した後にさらに所定の時間が経過した後に行われる。そのため、第二の画素グループ1502に含まれる各画素のPDの信号電荷は、露光SH1S及びSH2Sの開始時点においてリセットされている必要がある。上記のとおりOFGトランジスタを各画素内に設けることで、当該リセットが可能になる。
上記のとおりt1がt1’よりも長く且つt2がt2’よりも長いことで、低輝度を有する動体の検出を、前記第一の画素グループで行い、高輝度を有する動体の検出を、前記第二の画素グループで行うことができる。そのため、上記のとおり画素ブロックを2つのグループに分け且つこれらの2つのグループの間で露光期間が異なることで、検出することができる動体の輝度の範囲を広くすることができる。これにより、動体検出モードにおいて、ハイダイナミックレンジ合成を行うことができる。
動体の輝度が高い場合、サブフレーム信号電荷量が電荷保持部の飽和電荷量を超えると、白とびが起こり、動体を検出できなくなることがある。また、動体の輝度が低い場合、サブフレーム信号電荷量が電荷保持部のノイズレベル以下である場合、黒つぶれが起き、動体を検出できなくなることがある。上記のとおり、2つの露光期間を用いることで、動体の輝度に起因する動体不検出の発生を防ぐことができる。
(3−5)画素ブロック内の画素の接続の仕方の例
1つの画素ブロック内に含まれる複数画素の信号電荷に基づく画素信号を加算するための配線は、例えば以上で説明した図4におけるように、1つの画素列のうち所定の複数画素だけの加算を可能とするように構成されていてよい。すなわち、図4に示された撮像素子では、信号電荷が加算される画素数は固定されている。
また、他の実施態様において、図22の画素構成例に示されるとおり、1つの列内の全ての画素2200が、FDLトランジスタ2201を介して、FDL配線2202に接続されていてもよい。図22の画素構成例では、全ての画素2200が、FDLトランジスタ2201を介してFDL配線2202に接続されており、且つ、選択トランジスタ2203を介して垂直信号線2204に接続されている。FDLトランジスタ2201は、画素2200とFDL配線2202とを接続する配線上に設けられている。なお、図22において、画素2200と同じ形の矩形はいずれも、画素2200と同じ画素であり、各画素の左に設けられているトランジスタはいずれも、FDLトランジスタ2201と同じFDLトランジスタであり、各画素の右に設けられているトランジスタはいずれも選択トランジスタ2203と同じ選択トランジスタである。そのため、図22においてこれらの符号は省略されている。
図22に示される画素構成を有する撮像素子を用いて本技術に従う動体検知を行う場合、動体検知モードが開始した時点においては全てのFDLトランジスタ2201はオフにされていてよい。そして、動体検知のために各画素の信号電荷の加算処理を行う場合に、加算されるべき画素のFDLトランジスタのみをオンにすることで、画素加算を行うことができる。例えば、図22に示される画素のうち画素ブロック2205に含まれる画素の信号電荷を加算するためには、画素ブロック2205に含まれる全ての画素のFDLトランジスタ2201をオンにし且つ画素ブロック2205に含まれる画素のうちの所定の画素の1つの選択トランジスタのみをオンにする(他の選択トランジスタはいずれもオフにする)ことで、画素ブロック2205に含まれる全ての画素の信号電荷が加算され且つ加算された信号電荷が当該所定の画素からの出力として取り扱われる。
このように、図22の画素構成例では、加算されるべき画素のFDLトランジスタのみをオンにすることによって、加算されるべき画素の信号電荷のみを加算することができる。
また、FDLトランジスタは、画素とFDL配線とを接続する配線上でなく、FDL配線上に設けられていてもよい。図22におけるFDLトランジスタ2201がFDL配線上に設けられている画素構成例を図23に示す。
図23に示されるとおり、FDLトランジスタ2301が、FDL配線2302上に設けられている。図23に示された画素構成例においても、図22の画素構成例と同様に、加算されるべき画素を接続するのに必要なFDLトランジスタ2301をオンにすることによって、加算されるべき画素の信号電荷のみを加算することができる。なお、図23において、FDLトランジスタ2301の代わりにMOSスイッチを設けてもよい。
(4)第1の実施形態の第3の例(動体検知フレーム内で撮像する撮像装置)
(4−1)撮像装置の構成例
以下で、本技術に従い、動体検知フレーム内で撮像する撮像装置の例及び当該撮像装置による動体検知の例を、図1及び17を参照しながら説明する。図1は、当該撮像装置の一例のブロック図である。以下では、図1に記載の撮像装置100に含まれる構成要素のうち、撮像素子112、特には画素アレイ部103及び制御部104について、特に詳細に説明する。他の構成要素については、上記「(2)第1の実施形態の第1の例(撮像装置)」において述べたとおりであるので、当該他の構成要素についての説明は、上記(2)を参照されたい。
(4−2)撮像装置に含まれる撮像素子の構成例
動体検知フレーム内で撮像する撮像装置に含まれる撮像素子、特には画素アレイ部の構成例を図17に示す。図17に示された撮像素子の構成例は、図4に示された撮像素子と以下の相違を有する。すなわち、PD1702−1と転送トランジスタ1704−1とを接続する配線が設けられており且つ当該配線上に第二転送トランジスタ1713−1が設けられていること、第二転送トランジスタ1713−1と転送トランジスタ1704−1との間の位置からグランドに接続されている配線が設けられており且つ当該配線上にメモリ(蓄積容量又は画素内メモリとも呼ばれる)1712−1が設けられていること、及び、PD1702−1と電源電圧1710−1とを接続する配線が設けられており且つ当該配線上にOFGトランジスタ1714−1が設けられていることが、図17と図4との間で相違する。
図17の他の構成要素は、図4に示されたものと同じであるので、当該他の構成要素についての説明は図4に関する説明を参照されたい。上記「(3−2)撮像装置に含まれる撮像素子の構成例」において述べたとおり、FDLトランジスタ1708−1〜1708−nは、1つの画素ブロックを構成する画素内のFD1703−1〜1703−nに保持された電荷の加算を制御できるように構成されている。
図17において、FD1703−1が、本技術における第一の電荷保持部であり、メモリ1712−1が、本技術における第二の電荷保持部である。
図17において、画素1701−1〜画素1701−nの回路構成は全て同じである。
画素1701−1において、例えば電荷転送制御部107が、転送トランジスタ1704−1及び第二転送トランジスタ1713−1を制御することによって、PD1702−1に蓄積された信号電荷のFD1703−1又はメモリ1712−1への転送を制御しうる。例えば、電荷転送制御部107が転送トランジスタ1704−1をオフにし且つ第二転送トランジスタ1713−1をオンにすることによって、露光によりPD1702−1に蓄積された信号電荷が、メモリ1712−1に転送される。また、メモリ1712−1に保持された信号電荷は、電荷転送制御部107が転送トランジスタ1704−1をオンにし且つ第二転送トランジスタ1713−1をオフにすることによって、FD1703−1に転送され、そして、当該信号電荷は、FD1703−1に保持される。また、電荷転送制御部107が第二転送トランジスタ1713−1をオフにすることによって、露光によってPD1702−1に蓄積された信号電荷は、PD1702−1に保持される。なお、以上の電荷転送制御において、OFGトランジスタ1714−1はオフにされていることが必要である。
画素1701−1に設けられたOFGトランジスタ1714−1によって、PD1702−1に保持された電荷をリセットすることができる。例えば電荷転送制御部107が、OFGトランジスタ1714−1をオンにすることによって、当該リセットが行われうる。
(4−3)撮像装置の動作の例
以下で、本技術に従う撮像装置100によって動体検知を行いそして動体検知後に動体検知されたフレーム内で撮像する場合の当該撮像装置100の動作について、図17及び18を参照して説明する。
本実施態様における動体検知は、上記「(3)第1の実施形態の第2の例(動体検知後1フレーム時間内で撮像する撮像装置)」で述べた動体検知と同様に、一般的なCMOSイメージセンサによる撮像のための信号電荷の処理と異なる。すなわち、本実施態様における動体検知では、一般的なCMOSイメージセンサにおいて取得されるP相出力は用いられなくてよい。
本実施態様の撮像装置100による動体検知の間の信号電荷の処理において取得される差分について、図18を参照して説明する。図18は、本技術に従う撮像装置100による動体検知の間及び動体検知後の動体の撮像の間の、撮像素子の動作の模式図である。
図18において、左から右に向かって時間が進行している。撮像装置100は、期間D1において、動体検知モードでの撮像を行っており、すなわち、本技術における画素加算処理部による画素加算処理が行われている。図18では、期間D1中のフレームFn−1においては動体が検知されず、次のフレームFにおいて動体が検知されたことが示されている。動体が検知された時点がPである。
時点Pにおいて動体が検知されたことに応じて、撮像装置100は、動体検知モードから動体撮像モードへと撮像の仕方を変更し、すなわち電荷処理の仕方を画素ブロック毎の画素加算処理から画素毎の電荷処理へと変更する。撮像装置100は、期間D2において、動体撮像モードでの撮像を行っている。
図18に示されるとおり、動体検知モードでは、1フレーム中に3回露光が行われる。例えば、フレームFn−1の間に3回露光が行われている。1フレーム中の当該3回の露光の露光期間をサブフレームと呼ぶ。
1回目の露光期間は、図18中のt1により示される期間である。2回目の露光期間は、図18中のt2により示される期間である。3回目の露光期間は、図18中のt3により示される期間である。t1〜t3により示される期間が、フレームFn−1のサブフレームである。
斜線SH1、SH2、及びSH3は、画素アレイの各行の露光開始時点を示す。なお、各画素行は、逐次的に露光が開始されうるが、便宜上開始時点を斜線SH1、SH2、及びSH3で示している。
斜線TR1、TR2、及びTR3のそれぞれは、露光期間t1〜t3のそれぞれにおいて光電変換素子に蓄積した信号電荷のFD又はメモリへの転送開始時点を示す。なお、各画素行は、逐次的に転送が開始されうるが、便宜上開始時点を斜線TR1、TR2、及びTR3で示している。
斜線ROは、信号電荷の読み出しが開始される時点を示す。すなわち、斜線ROの時点にて、各画素行においてアナログデジタル変換が開始される。当該模式図では、アナログデジタル変換が行われる期間が、ラインADC上の四角で表されている。ADCが行われる期間において、同時に動体検知が行われる。当該模式図では、動体検知が行われる期間が、ラインS(Sensing)上の四角で表されている。
動体検知モードにおいて、1フレームの間に行われる処理は以下のとおりである。
(工程1)
まず、図17中のPD1702−1〜1702−n、メモリ1712−1〜1712−n、及びFD1703−1〜1703−nがリセットされる。当該リセットは、例えば、OFGトランジスタ1714−1〜1714−n、第二転送トランジスタ1713−1〜1713−n、RSTトランジスタ1705−1〜1705−n及び転送トランジスタ1704−1〜1704−nをオンにすることにより行われてよい。
(工程2)
次に、PD1702−1〜1702−nに対して露光期間t1の間露光が行われる。その結果、PD1702−1〜1702−nのそれぞれに第一のサブフレーム信号電荷が蓄積する。露光期間t1の間の露光は、図18において(a)と(b)の間の期間として示されている。
(工程3)
次に、PD1702−1〜1702−nのそれぞれに露光期間t1の間に蓄積した信号電荷が、第二転送トランジスタ1713−1〜1713−nをオンにすることで、メモリ1712−1〜1712−nのそれぞれに転送される。当該転送の制御は、電荷転送制御部107が、図6における垂直駆動部605を制御することにより行われうる。当該転送は、図18において(b)で示されている。
(工程4)
次に、所定時間経過後、OFGトランジスタ1714−1〜1714−nをオンにすることによって、PD1702−1〜1702−nがリセットされる。当該リセットは、図18において(c)で示されている。当該リセットによって、(工程3)における転送後にPD1702−1〜1702−nのそれぞれに蓄積した信号電荷がリセットされる。
(工程5)
次に、PD1702−1〜1702−nに対して露光期間t2の間露光が行われる。その結果、PD1702−1〜1702−nのそれぞれに第二のサブフレーム信号電荷が蓄積する。
(工程6)
次に、メモリ1712−1〜1712−nに保持されている第一の信号電荷が、FD1703−1〜1703−nに転送される。そして、当該第一の信号電荷は、FD1703−1〜1703−nに保持される。当該転送は、第二転送トランジスタ1713−1〜1713−nがオフである状態で、転送トランジスタ1704−1〜1704−nをオンにすることで行われる。当該転送の制御は、電荷転送制御部107により行われる。当該転送は、図18において(d)で示されている。
(工程7)
次に、PD1702−1〜1702−nに保持された第二の信号電荷が、メモリ1712−1〜1712−nに転送される。そして、当該第二の信号電荷は、メモリ1712−1〜1712−nに保持される。当該転送は、転送トランジスタ1704−1〜1704−nがオフである状態で、第二転送トランジスタ1713−1〜1713−nをオンにすることで行われる。当該転送の制御は、電荷転送制御部107により行われる。当該転送は、図18において(d)で示されている。
(工程8)
次に、所定時間経過後、OFGトランジスタ1714−1〜1714−nをオンにすることによって、PD1702−1〜1702−nがリセットされる。当該リセットは、図18において(e)で示されている。当該リセットによって、(工程7)における転送後にPD1702−1〜1702−nのそれぞれに蓄積した信号電荷がリセットされる。
(工程9)
次に、PD1702−1〜1702−nに対して露光期間t3の間露光が行われる。その結果、PD1702−1〜1702−nのそれぞれに第三の信号電荷が蓄積する。
(工程10)
次に、FDLトランジスタ1708−1〜1708−nの全てをオンにし、且つ、選択トランジスタ1707−1〜1707−nのうちの所定の1つの選択トランジスタをオンにすることで、FD1703−1〜1703−nに保持されている第一のサブフレーム信号電荷群が、一括して垂直信号線1709に電圧信号として出力される。すなわち、当該信号電荷群が加算処理され、当該所定の選択トランジスタを有する画素からの電圧信号として取り扱われる。当該電圧信号の変換処理は、画素加算処理部108により図6における垂直駆動部605を制御すること、及び/又は、画素加算処理部108により図6におけるカラム処理部602を制御することによって行うことができ、または、画素加算処理部108自体によって行われてもよい。当該電圧信号が、本技術に従う動体検知において用いられる第一の電圧信号である。当該第一の電圧信号は例えば、図6中のカラム処理部602に置かれたサンプルホールド回路(図示せず)に保存されてもよいし、又は、AD変換後に、図6中のデータ格納部603に保存されてもよい。
ここで、当該電圧信号の変換処理の手法は、当業者に既知の手法により行われてよい。当該手法として、例えばシングルスロープ−アナログデジタル変換(SS−ADC)を挙げることができるが、これに限定されない。
(工程11)
次に、FD1703−1〜1703−nがリセットされる。当該リセットは、例えば、RSTトランジスタ1705−1〜1705−nをオンにすることにより行われてよい。
(工程12)
次に、メモリ1712−1〜1712−nに保持されている第二のサブフレーム信号電荷が、FD1703−1〜1703−nに転送される。当該転送は、第二転送トランジスタ1713−1〜1713−nがオフである状態で、転送トランジスタ1704−1〜1704−nをオンにすることで行われる。
(工程13)
次に、FDLトランジスタ1708−1〜1708−nの全てをオンにし、且つ、選択トランジスタ1707−1〜1707−nのうちの前記所定の1つの選択トランジスタをオンにすることで、FD1703−1〜1703−nに保持されている第二のサブフレーム信号電荷群が、一括して垂直信号線1709に電圧信号として出力される。すなわち、当該信号電荷群が加算処理され、当該所定の選択トランジスタを有する画素からの電圧信号として取り扱われる。当該電圧信号の変換処理は、画素加算処理部108により図6における垂直駆動部605を制御すること、及び/又は、画素加算処理部108により図6におけるカラム処理部602を制御することによって行うことができ、または、画素加算処理部108自体によって行われてもよい。当該電圧信号が、本技術に従う動体検知において用いられる第二の電圧信号である。当該第二の電圧信号は例えば、図6中のカラム処理部602に置かれたサンプルホールド回路(図示せず)に保存されてもよいし、又は、AD変換後に、図6中のデータ格納部603に保存されてもよい。
(工程14)
次に、前記第一の電圧信号と前記第二の電圧信号との比較が行われる。当該比較は、例えばこれら2つの電圧信号の間の差を用いて行われてよい。又は、前記第一の電圧信号と前記第二の電圧信号との差を当該第一の電圧信号によって除した値、又は前記第一の電圧信号を前記第二の電圧信号によって除した値を用いて行われうる。より特には、前記比較は、画素加算により得られた電圧信号を変換して得られたディジタル信号値に基づき行われうる。これらの値を得るための演算は、例えばアナログ回路、論理回路、又は任意のソフトウェアを用いることにより行われうる。当該比較は、本技術における動体検知部により行われてよい。
(工程15)
前記比較の結果、動体が検知されない場合は、所定のブランキング期間の後に、再度(工程1)〜(工程14)が行われ、すなわち動体検知モードのフレームにおける処理が再度行われる。
前記比較の結果、動体が検知された場合は、FDLトランジスタ1708−1〜1708−nの全てをオフにし、PD1702−1〜1702−nに保持されている第三のサブフレーム信号電荷を用いて画素毎の処理を行う。すなわち、動体が検知された場合は、動体撮像モードへと撮像の仕方を変更する。動体撮像モードにおける撮像は、通常のCMOSイメージセンサにおいて行われる信号電荷処理によって行われてよい。FDLトランジスタ1708−1〜1708−nの全てをオフにすることによって、画素1701−1〜1701−nが電気的に接続されなくなる。また、画素1701−1〜1701〜nはいずれも、通常のCMOSイメージセンサによる撮像のための信号電荷処理を行うことができる。そのため、FDLトランジスタ1708−1〜1708−nの全てがオフにされた状態で、画素毎に例えば上記で述べた一般的なCMOSイメージセンサにおける信号電荷処理を行うことで、高解像度の画像が得られる。当該画素毎の信号電荷処理では、例えば通常のCMOSイメージセンサにおいて行われる相関2重サンプリング(CDS)が行われ得る。
図18のフレームFn−1においては、動体が検知されなかった。そのため、所定のブランキング期間が経過後、フレームFにおける動体検知処理が開始される。
図18のフレームFにおいて、第一の電圧信号と第二の電圧信号との比較の結果、時点Pにおいて動体が検知された。動体が検知されたことに応じて、撮像装置は、FDLトランジスタ1708−1〜1708−nの全てをオフにし、前記第三の信号電荷を用いて、画素毎に信号電荷処理を行う。
図18のフレームFn+1では、画素毎の信号電荷処理が行われる。なお、画素毎の信号電荷処理が所定回数繰り返された後に、再度画素ブロック毎の処理が行われてよく、又は、画素毎の信号電荷処理が所定期間行われた後に、再度画素ブロック毎の処理が行われてもよい。すなわち、撮像装置100は、撮像モードが所定のフレーム回数だけ繰り返された後に(例えば複数枚静止画を撮像した後に)又は撮像モードが所定の期間経過した後に、撮像の仕方を再度動体検知モードへと変更しうる。又は、撮像装置100は、動体検知後に動画を撮影してもよい。動画撮影の場合には、例えば画素加算又は間引き読み出しによって、動画の解像度を下げてもよい。なお、フレームFn+1において、再度、動体検知モードにおける信号電荷処理が行われてもよい。
なお、以上の処理では、TR1とSH2との間及びTR2とSH3との間に、工程4及び8においてリセットされる信号電荷が蓄積する時間が存在する。この時間はなくてもよい。この時間がない場合、OFGトランジスタ1714−1〜1714−nは回路内に設けられていなくてよい。
また、信号電荷の加算処理は、他の回路を有する撮像素子によって実現されてもよい。例えば、信号電荷の加算処理は、上記「(3−3)撮像装置の動作の例」において図7を参照して説明したとおりの回路を用いて行われてもよい。すなわち、隣接する垂直信号線同士を接続する水平方向配線上に設けられたスイッチ(例えばトランジスタ)を制御することで、画素加算が行われてもよい。
本技術の一つの実施態様に従い、上記「(3−3)撮像装置の動作の例」において図8を参照して説明したとおり、露光期間t1及びt2の長さは等しくてよく、又は、上記「(3−3)撮像装置の動作の例」において図9を参照して説明したとおり、露光期間t1は、露光期間t2よりも長くてよい。
本技術の他の実施態様に従い、上記「(3−3)撮像装置の動作の例」において図10及び11を参照して説明したとおり、前記画素ブロックが、第一のグループ及び第二のグループの2つのグループに分けられており、且つ、前記第一のグループのフレーム時間と前記第二のグループのフレーム時間とがずれていてよい。
本技術のさらに他の実施態様に従い、各画素ブロックが、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、且つ、第一の画素グループの露光時間と第二の画素グループの露光時間とが異なっていてよい。例えば図15に示されるとおり、画素ブロックが、第一の画素グループ1501及び第二の画素グループ1502に分けられる。
第一の画素グループ1501については、図20に示される駆動の模式図に示されるとおり、第一のサブフレームにおける信号電荷の取得のために露光SHが露光期間t1(SHからTR1までの期間)に行われ、第二のサブフレームにおける信号電荷の取得のために露光SHが露光期間t2(SHからTR2までの期間)に行われ、そして、第三のサブフレームにおける信号電荷の取得のために露光SHが露光期間t3(SHからROまでの期間)に行われる。
第二の画素グループ1502については、図20に示される駆動の模式図に示されるとおり、第一のサブフレームにおける信号電荷の取得のために、第一のサブフレームにおける信号電荷の取得のために露光SH1Sが露光期間t1’(SH1SからTR1までの期間)に行われ、第二のサブフレームにおける信号電荷の取得のために露光SH2Sが露光期間t2’(SH2SからTR2までの期間)に行われ、そして、第三のサブフレームにおける信号電荷の取得のために露光SH3Sが露光期間t3’(SH3SからROまでの期間)に行われる。
t1はt1’よりも長く、t2はt2’よりも長く、且つ、t3はt3’よりも長い。露光期間を調整するために、第二の画素グループ1502に含まれる各画素のPDの信号電荷は、露光SH1S及びSH2Sの開始時点においてリセットされている必要がある。上記で図17を参照して説明した撮像素子には、PDをリセットするためのOFGトランジスタが各画素内に設けられている。そのため、これらの撮像素子では、当該リセットが可能である。従って、第一の画素グループの露光時間と第二の画素グループの露光時間とを異なるものとすることができる。
上記のとおりt1がt1’よりも長く且つt2がt2’よりも長いことで、低輝度を有する動体の検出を、前記第一の画素グループで行い、高輝度を有する動体の検出を、前記第二の画素グループで行うことができる。そのため、上記のとおり画素ブロックを2つのグループに分け且つこれらの2つのグループの間で露光期間が異なることで、検出することができる動体の輝度の範囲を広くすることができる。これにより、動体検出モードにおいて、ハイダイナミックレンジ合成を行うことができる。
また、t3はt3’よりも長いことで、動体検知に応じて撮像される画像についても、ハイダイナミックレンジ合成を行うことができる。
(4−4)撮像装置に含まれる撮像素子の他の構成例
動体検知フレーム内で撮像する撮像装置に含まれる撮像素子の他の構成例を図19に示す。図19に示された撮像素子構成例は、図17に示された撮像素子構成例と、PD1902に蓄積された信号電荷をメモリ1912への転送を行うことなく直接にFD1903に転送するための配線、及び、当該配線上の第三転送トランジスタ1915が設けられているという点が相違する。
図19に示された撮像素子を用いた動体検知では、まず、上記「(4−3)撮像装置の動作の例」にて述べた(工程1)〜(工程9)と同様の工程が行われる。そのため、これらの工程についての説明は、上記「(4−3)撮像装置の動作の例」を参照されたい。
(工程10)
次に、FDLトランジスタ1908(実際は、上記「(4−3)撮像装置の動作の例」において述べたように、FDLトランジスタ1908−1〜1908−nについて行われるが、これら複数のFDLトランジスタをまとめて1908と称する。他の符号についても同様である。)をオンにし、且つ、所定の1つの選択トランジスタだけをオンにすることで、各画素のFD1903に保持されている第一のサブフレーム信号電荷群が、一括して垂直信号線1909に電圧信号として出力される。すなわち、当該第一のサブフレーム信号電荷群が加算処理され、当該所定の選択トランジスタを有する画素からの電圧信号として取り扱われる。当該電圧信号の変換処理は、画素加算処理部108により図6における垂直駆動部605を制御すること、及び/又は、画素加算処理部108により図6におけるカラム処理部602を制御することによって行うことができ、または、画素加算処理部108自体によって行われてもよい。当該電圧信号が、本技術に従う動体検知において用いられる第一の電圧信号である。当該第一の電圧信号は例えば、図6中のカラム処理部602に置かれたサンプルホールド回路(図示せず)に保存されてもよいし、又は、AD変換後に、図6中のデータ格納部603に保存されてもよい。
ここで、当該電圧信号の変換処理の手法は、当業者に既知の手法により行われてよい。当該手法として、例えばシングルスロープ−アナログデジタル変換(SS−ADC)を挙げることができるが、これに限定されない。
(工程11)
次に、FD1903がリセットされる。当該リセットは、例えば、RSTトランジスタ1905をオンにすることにより行われてよい。
(工程12)
次に、PD1902に保持されている第三の信号電荷が、FD1903に転送される。当該転送は、第一転送トランジスタ1903及び第二転送トランジスタ1913がいずれもオフである状態で、第三転送トランジスタ1915をオンにすることで行われる。
(工程13)
次に、FDLトランジスタ1908をオンにし、且つ、所定の1つの選択トランジスタのみをオンにすることで、各画素のFD1903に保持されている第三のサブフレーム信号電荷群が、一括して垂直信号線1909に電圧信号として出力される。すなわち、当該信号電荷群が加算処理され、当該所定の選択トランジスタを有する画素からの電圧信号として取り扱われる。当該電圧信号の変換処理は、画素加算処理部108により図6における垂直駆動部605を制御すること、及び/又は、画素加算処理部108により図6におけるカラム処理部602を制御することによって行うことができ、または、画素加算処理部108自体によって行われてもよい。当該電圧信号が、本技術に従う動体検知において用いられる第二の電圧信号である。当該第二の電圧信号は例えば、図6中のカラム処理部602に置かれたサンプルホールド回路(図示せず)に保存されてもよいし、又は、AD変換後に、図6中のデータ格納部603に保存されてもよい。
(工程14)
次に、前記第一の電圧信号と前記第二の電圧信号との比較が行われる。当該比較は、例えばこれら2つの電圧信号の間の差を用いて行われてよい。又は、前記第一の電圧信号と前記第二の電圧信号との差を当該第一の電圧信号によって除した値、又は前記第一の電圧信号を前記第二の電圧信号によって除した値を用いて行われうる。より特には、前記比較は、画素加算により得られた電圧信号を変換して得られたディジタル信号値に基づき行われうる。これらの値を得るための演算は、例えばアナログ回路、論理回路、又は任意のソフトウェアを用いることにより行われうる。当該比較は、本技術における動体検知部により行われてよい。
(工程15)
前記比較の結果、動体が検知されない場合は、所定のブランキング期間の後に、再度(工程1)〜(工程14)が行われ、すなわち動体検知モードのフレームにおける処理が再度行われる。
前記比較の結果、動体が検知された場合は、FDLトランジスタ1908をオフにし、メモリ1912に保持されている第二の信号電荷を用いて画素毎の処理を行う。例えば、当該第二の信号電荷をFD1903に転送し、次に、当該第二の信号電荷を用いて通常のCMOSイメージセンサにおいて行われる信号電荷処理が画素毎に行われうる。当該画素毎の信号電荷処理では、例えば通常のCMOSイメージセンサにおいて行われる相関2重サンプリング(CDS)が行われ得る。
以上の処理を行う場合、FD1903が、本技術における第一の電荷保持部であり、PD1902が、本技術における第二の電荷保持部である。
以上の処理によって、第一のサブフレーム信号電荷と第三のサブフレーム信号電荷とを用いて動体検知が行なうことができる。
また、第二の信号電荷を用いて、高解像度の画像が出力されるので、動体検知と撮像との同時性を高めることができる。
また、図19に記載の撮像素子には、PDをリセットするためのOFGトランジスタが各画素内に設けられている。そのため、当該撮像素子では、当該リセットが可能である。従って、図19に記載の撮像素子は、図17に記載の撮像素子と同様に、第一の画素グループの露光時間と第二の画素グループの露光時間とを異なるものとすることができる。
(4−5)撮像装置に含まれる撮像素子の他の構成例
動体検知フレーム内で撮像する撮像装置に含まれる撮像素子の他の構成例を図21に示す。図21に示された撮像素子構成例は、図17に示された撮像素子構成例と、PDを電源電圧に接続する配線及び当該配線上に設けられたOFGトランジスタが除去されている点が相違する。
図21に示された撮像素子を用いる場合、サブフレーム間の間隔及び露光時間のそれぞれを独立して制御することができない。しかしながら、画素に含まれるトランジスタの数を減らすことができるので、PD及び/又はメモリのための面積を増やすことができる。その結果、画素の開口率及び飽和電荷量を増やすことができる。
(4−6)撮像装置に含まれる撮像素子の他の構成例
動体検知フレーム内で撮像する撮像装置に含まれる撮像素子の他の構成例を図24に示す。図24に示された撮像素子構成例は、図21に示された撮像素子構成例と、PDを2つ有し且つ第二転送トランジスタを2つ有する点が相違する。
図24に示された撮像素子では、FD、メモリ、及び転送トランジスタが、2つのPD2402−1及び2402−2によって共有されている。
当該撮像素子を用いて本技術に従う動体検知を行う場合、例えば、当該2つのPD2402−1及び2402−2に蓄積した2つの信号電荷を、当該2つの第二転送トランジスタ2413−1及び2413−2を同時にオンにすることによって、メモリにおいて加算してもよい。このようなメモリにおける信号電荷の加算は、例えば上記「(4−3)撮像装置の動作の例」において述べた(工程3)及び(工程7)において行われうる。
また、当該撮像素子を用いて本技術に従う動体検知を行う場合、例えば、当該2つのPD2402−1及び2402−2に蓄積した2つの信号電荷のうちのいずれか一つだけをメモリに転送してもよい。当該転送のために、転送されるべき信号電荷を保持するPDに接続された第二転送トランジスタのみがオンにされ、他方の第二転送トランジスタはオフにされる。このような転送手法は、例えば当該2つのPDが異なるものである場合(例えば異なる色の画素である場合)に、特に有用である。この場合、撮像モードにおいては、2つの第二転送トランジスタを順次オンにして、2つのPDに保持されている信号電荷を順番に読み出すことで、画素毎の出力が得られ、すなわち高解像度の画像が得られる。
(4−7)撮像装置に含まれる撮像素子の他の構成例
動体検知フレーム内で撮像する撮像装置に含まれる撮像素子の他の構成例を図25に示す。図25に示された撮像素子構成例は、図21に示された撮像素子構成例と、PDに蓄積された信号電荷をFDに転送するための第二の配線が設けられていること、及び、当該第二の配線上に第三転送トランジスタ2516、第二メモリ2515、及び第四転送トランジスタ2514が設けられていること、が相違する。なお、以下では、図21に示された撮像素子中に存在するメモリを第一メモリ2512と称し、上記第二メモリ2515と区別する。
図25に示された撮像素子を用いて本技術に従う動体検知を行う場合、3つのサブフレーム信号電荷のそれぞれが、FD2503、第一メモリ2512、第二メモリ2515、及びPD2502のいずれかに保持される。以下では、3つのサブフレーム信号電荷が、第一メモリ2512、第二メモリ2515、及びPD2502に保持される場合の撮像素子の動作例を説明する。なお、以下の動作例では、当該撮像素子の各画素列は、図7に示されるように、隣接する垂直信号線2509が、スイッチを設けられた配線(図示されていない)によって接続されているものとする。すなわち、当該スイッチを制御することで、出力が加算処理されるべき垂直信号線2509を選択することができる。
(工程1)
まず、加算処理されるべき画素のFDLトランジスタ2508がオンにされる。これにより、信号電荷が加算処理されるべき画素のそれぞれに含まれるFD2503が、配線2511に電気的に接続される。
(工程2)
図25中のPD2502、第一メモリ2512、第二メモリ2515、及びFD2503がリセットされる。当該リセットは、例えば、第一転送トランジスタ2504、第二転送トランジスタ2513、第三転送トランジスタ2516、及び第四転送トランジスタ2514、RSTトランジスタ2505をオンにすることにより行われてよい。又は、図25の回路中にPD2502と電源電圧2510とを接続する配線が設けられており且つ当該配線上にOFGトランジスタが設けられている場合、PD2502は当該OFGトランジスタをオンにすることによってリセットされてもよい。また、第一メモリ2512及び第二メモリ2515は、当該OFGトランジスタ並びに第二転送トランジスタ2513及び第四転送トランジスタ2514をオンにすることによって、リセットされてもよい。
(工程3)
次に、PD2502に対して露光期間t1の間露光が行われる。その結果、PD2502に第一の信号電荷が蓄積する。
(工程4)
露光期間t1の終了後、PD2502に蓄積した第一の信号電荷が、第二転送トランジスタ2513をオンにすることで、第一メモリ2512に転送される。そして、当該転送の制御は、電荷転送制御部107が、図6における垂直駆動部605を制御することにより行われうる。
(工程5)
PD2502に対して露光期間t2の間露光が行われる。当該露光は、工程5における転送が行われた直後に開始されうる。当該露光の結果、PD2502に第二の信号電荷が蓄積する。
(工程6)
露光期間t2の終了後、PD2502に蓄積した第二の信号電荷が、第四転送トランジスタ2514をオンにすることによって、第二メモリ2515に転送される。
(工程7)
PD2502に対して露光期間t3の間露光が行われる。当該露光は、工程7における転送が行われた直後に開始されうる。当該露光の結果、PD2502に第三の信号電荷が蓄積する。
(工程8)
露光期間t3の終了後、RSTトランジスタ2505をオンにすることで、FD2503をリセットする。当該リセット後、第一転送トランジスタ2504をオンにすることによって、第一メモリ2512に保持されている第一の信号電荷がFD2503に転送され、そして、画素信号電圧が、垂直信号線2509に出力される。ここで、(工程1)において加算処理されるべき画素の各FDLトランジスタ2508がオンにされているので、加算処理されるべき画素の各FD2503に保持されている信号電荷が加算され、加算された信号電荷に基づく画素信号が垂直信号線2509に出力される。また、加算処理されるべき画素列を接続する垂直信号線2509を、水平方向に接続するスイッチ(図7の703)をオンにすることによって、加算処理されるべき垂直信号線の電圧がSF加算される。このようにして画素加算を行って得られた電圧信号の変換処理は、画素加算処理部108により図6における605垂直駆動部を制御すること、及び/又は、画素加算処理部108により図6におけるカラム処理部602を制御することによって行うことができ、または、画素加算処理部108自体によって行ってもよい。当該電圧信号が、本技術に従う動体検知において用いられる第一の電圧信号である。当該第一の電圧信号は例えば、図6中のカラム処理部602に置かれたサンプルホールド回路(図示せず)に保存されてもよいし、又は、AD変換後に、図6中のデータ格納部に保存されてよい。
(工程9)
RSTトランジスタ2505をオンにすることで、FD2503をリセットする。当該リセット後、第三転送トランジスタ2516をオンにすることによって、第二メモリ2515に保持されている第二の信号電荷がFD2503に転送され、そして、画素信号電圧が、垂直信号線2509に出力される。(工程9)においても、(工程8)と同様に、画素加算が行われる。信号電荷から、画素加算によって得られる画素電圧信号への変換処理は、画素加算処理部108により図6における605垂直駆動部を制御すること、及び/又は、画素加算処理部108により図6におけるカラム処理部602を制御することによって行うことができ、または、画素加算処理部108自体によって行ってもよい。当該電圧信号が、本技術に従う動体検知において用いられる第二の電圧信号である。当該第二の電圧信号は例えば、図6中のカラム処理部602に置かれたサンプルホールド回路(図示せず)に保存されてもよいし、又は、AD変換後に、図6中のデータ格納部603に保存されてよい。
(工程10)
第四転送トランジスタ2514をオンにすることで、PD2502に保持されている第三の信号電荷が第二メモリ2515に転送される。
(工程11)
カラム処理部602によって、前記第一の電圧信号と前記第二の電圧信号との比較が行われる。当該比較は、例えばこれら2つの電圧信号の間の差を用いて行われてよい。又は、前記第一の電圧信号と前記第二の電圧信号との差を当該第一の電圧信号によって除した値、又は前記第一の電圧信号を前記第二の電圧信号によって除した値を用いて行われうる。より特には、前記比較は、画素加算により得られた電圧信号を変換して得られたディジタル信号値に基づき行われうる。これらの値を得るための演算は、例えばアナログ回路、論理回路、又は任意のソフトウェアを用いることにより行われうる。当該比較は、本技術における動体検知部により行われてよい。
(工程12)
前記比較の結果、動体が検知されない場合は、次の画素ブロック行に対して、(工程1)〜(工程11)を行う。全ての画素ブロック行について(工程1)〜(工程11)を行い、動体が検知されない場合は、所定のブランキング期間の後に、再度(工程1)〜(工程11)が行われ、すなわち動体検知モードの次のフレームにおける処理が再度行われる。
前記比較の結果、動体が検知された場合は、撮像モードに移行する。撮像モードへの移行は、(工程1)においてオンにされたFDLトランジスタ2508をオフにし、かつ、垂直信号線2509を、水平方向に接続するスイッチ(図7の703)をオフにすることによって行われる。そして、(工程10)において第二メモリ2515に転送された前記第三の信号電荷を用いて、通常のCMOSイメージセンサにおいて行われる信号電荷処理が画素毎に行われうる。
例えば、まず、RSTトランジスタ2505をオンにすることで、FD2503をリセットする。当該リセット後、P相信号を読み出す。次に、第三転送トランジスタ2516をオンにすることによって、第二メモリ2515に保持されている前記第三の信号電荷をFD2503に転送してD相信号を読み出す。そして、当該P相信号及び当該D相信号を用いて相関2重サンプリング(CDS)を行うことで、信号電荷処理が行われる。このように画素毎に信号電荷を処理することで、高解像度の画像が得られる。
2.第2の実施形態(撮像方法)
(1)第2の実施形態の説明
本技術に従う撮像方法では、1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち1つのサブフレーム信号電荷が画素ブロック毎に加算処理され、他の1つのサブフレーム信号電荷が画素ブロック毎に加算処理され、そして、これらの加算処理の結果得られた2つの電圧信号が比較されることで、動体が検知される。本技術に従う撮像方法ではは、動体が検知されたフレームの次のフレームにおいて又は動体が検知されたフレームにおいて、画素毎の信号電荷処理が行われる。
このように動体検知を行うことによって、上記1.の「(1)第1の実施形態の説明」にて説明したとおり、動体が検知されたフレームの直後のフレームにおいて画素毎に信号電荷を処理することで、消費電力の小さい低解像度での撮像モードから、消費電力が大きい高解像度での撮像モードへの撮像モードの切り替えを即時に行うことができる。例えば、動体検知がされてから1フレーム時間内で、高解像度での撮像を行うことができる。
また、このように動体検知を行うことによって、上記1.の「(1)第1の実施形態の説明」にて説明したとおり、当該複数のサブフレーム信号電荷のうち、さらに他の一つのサブフレーム信号電荷について画素毎に信号電荷を処理することで、動体が検知されたフレームのフレーム時間内に撮像された高解像度画像が得られる。
(2)第2の実施形態の例(撮像方法)
以下では、本技術に従う撮像方法の例を、図1及び12を参照しながら説明する。図1は、上記「1.第1の実施形態(撮像装置)」で説明したとおりである。図12は、本技術に従う撮像方法のフローの一例を示す図である。
ステップS101において、撮像装置100は、本技術に従う撮像処理を開始する。
ステップS102の動体検知工程において、撮像装置100は動体検知を行う。当該動体検知工程では、撮像装置100は、1フレーム時間内の複数回露光により得られる複数のサブフレーム信号電荷のうち、2つのサブフレーム信号電荷に基づく画素信号を、画素ブロック毎に画素加算し、当該画素ブロック毎に、それぞれのサブフレームの画素信号を取得する。撮像装置100は、このようにして得られた2つの電圧信号を比較することで、動体検知を行う。
具体的には、ステップS102の動体検知工程は例えば、1フレーム時間内に複数回露光を行って複数のサブフレーム信号電荷を取得する信号電荷取得工程と、前記複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持する第一電荷保持工程と、前記複数のサブフレーム信号電荷のうち、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持する第二電荷保持工程と、前記第一の電荷保持部に保持されているサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する第一画素加算処理工程と、前記第二の電荷保持部に保持されているサブフレーム信号電荷に基づく画素信号を、前記画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理を行う第二画素加算処理工程と、各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知工程とを含む。
ステップS102の動体検知工程において、例えば上記1.の「(2)第1の実施形態の第1の例(撮像装置)」、「(3)第1の実施形態の第2の例(動体検知後1フレーム時間内で撮像する撮像装置)」、又は「(4)第1の実施形態の第3の例(動体検知フレーム内で撮像する撮像装置)」において説明したとおりに動体検知が行われうる。そのため、当該動体検知における撮像装置の動作及び信号電荷の処理の説明については省略する。これらの説明については、上記1.の(2)〜(4)を参照されたい。
ステップS103において、撮像装置100は、動体が検知されたかを判定する。
動体が検知されない場合、撮像装置100は、処理をステップS102に戻し、再度動体検知工程を行う。
動体が検知された場合、撮像装置100は、処理をステップ104に進める。
ステップS104の撮像工程において、撮像装置100は、動体を撮像する。
撮像装置100は、動体を撮像するために、まず、例えば上記1.の「(3)第1の実施形態の第2の例(動体検知後1フレーム時間内で撮像する撮像装置)」又は「(4)第1の実施形態の第3の例(動体検知フレーム内で撮像する撮像装置)」において説明したとおり、動体検知モードから撮像モードへと、撮像の仕方を切り替える。より具体的には、撮像装置100における信号電荷の処理方式が、画素ブロック毎の信号電荷処理から、画素毎の信号電荷処理へと切り替えられる。当該切り替えは、例えば、上記1.の(3)又は(4)おいて説明したとおりであるので、詳細な説明は省略するが、例えば撮像素子内のFDLトランジスタをオフにすることによって行われうる。
ステップS104の撮像工程において、上記1.の「(3)第1の実施形態の第2の例(動体検知後1フレーム時間内で撮像する撮像装置)」において説明したとおり、動体検知されたフレームの直後のフレームにおいて、動体が撮像されてよい。または、上記1.の「(4)第1の実施形態の第3の例(動体検知フレーム内で撮像する撮像装置)」において説明したとおり、動体検知されたフレーム内の1つのサブフレームにおいて取得された信号電荷を、動体撮像に用いてもよい。
ステップS105において、撮像装置100は、撮像処理を終了するかを判定する。
撮像処理を終了する場合は、撮像装置100は、処理をステップS106に進める。例えば、目的の動体が撮像されたら撮像処理を終了するように予め撮像装置100が設定されている場合、撮像装置100は、当該目的の動体が撮像されたことに応じて、撮像処理を終了すると判定しうる。
撮像処理を終了しない場合は、撮像装置100は、処理をステップS102に戻し、再度動体検知工程を行う。
ステップS106において、撮像装置100は、撮像処理を終了する。
以上の処理を行うことで、動体が検知されてから1フレーム時間以内に当該動体を撮像すること、又は、動体が検知されたフレーム内で当該動体を撮像することができる。
なお、本技術は、以下のような構成をとることもできる。
〔1〕1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、
前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、
前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理と
を行う画素加算処理部と、
各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、
前記動体検知部により動体が検知されたことに応じて、画素毎に信号電荷の処理を行う電荷処理部と
を備えている撮像装置。
〔2〕1フレーム時間内の露光回数が2回であり、
前記第一の電荷保持部がフローティングディフュージョンであり、
前記第二の電荷保持部が光電変換素子であり、
前記電荷転送制御部が、前記2回の露光によって得られる2つのサブフレーム信号電荷のうち、先のサブフレーム信号電荷を前記フローティングディフュージョンに保持し且つ後のサブフレーム信号電荷を前記光電変換素子に保持するように信号電荷の転送を制御する、
〔1〕に記載の撮像装置。
〔3〕前記画素ブロックのそれぞれにおいて、各画素のフローティングディフュージョンが垂直方向にフローティング配線によって連結されており、
前記フローティング配線は、フローティングディフュージョンが連結されている状態と連結されていない状態とを切り替え可能であるように構成されており、
フローティングディフュージョンに保持されているサブフレーム信号電荷に基づく画素信号の加算が、前記フローティング配線を前記連結されている状態とすることにより行われる、
〔2〕に記載の撮像装置。
〔4〕前記画素ブロックのそれぞれにおいて、各画素内に保持されている信号電荷を列単位で転送する垂直信号線が、水平方向に水平方向配線によって連結されており、
前記水平方向配線は、垂直信号線が連結されている状態と連結されていない状態とを切り替え可能であるように構成されており、
各画素内に保持されている信号電荷に基づく画素信号の加算が、前記水平方向配線を前記連結されている状態とすることにより行われる、
〔2〕又は〔3〕に記載の撮像装置。
〔5〕先のサブフレームのフレーム時間と後のサブフレームのフレーム時間とが等しい、又は、先のサブフレームのフレーム時間が後のサブフレームのフレーム時間よりも長い、〔2〕〜〔4〕のいずれか一つに記載の撮像装置。
〔6〕前記画素ブロックが、第一のグループ及び第二のグループの2つのグループに分けられており、
前記第一のグループのフレーム時間と前記第二のグループのフレーム時間とがずれている、
〔2〕〜〔5〕のいずれか一つに記載の撮像装置。
〔7〕前記光電変換素子に保持されているサブフレーム信号電荷をリセットすることができるオーバーフローゲートが各画素に設けられている、〔2〕〜〔6〕のいずれか一つに記載の撮像装置。
〔8〕各画素ブロックが、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、
第一の画素グループの露光時間と第二の画素グループの露光時間とが異なる、
〔2〕〜〔7〕のいずれか一つに記載の撮像装置。
〔9〕前記比較が、前記第一の電圧信号と第二の電圧信号の差、当該差を前記第一の電圧信号によって除した値、又は前記第一の電圧信号を前記第二の電圧信号で除した値を用いて行われる、〔2〕〜〔8〕のいずれか一つに記載の撮像装置。
〔10〕1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、
前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、
前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理と
を行う画素加算処理部と、
各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、
前記動体検知部により動体が検知されたことに応じて、前記動体が検知されたフレーム内のさらに他の一つのサブフレーム信号電荷を画素毎に処理する電荷処理部と
を備えている撮像装置。
〔11〕1フレーム時間内の露光回数が3回以上であり、
前記電荷転送制御部は、前記さらに他の一つのサブフレーム信号電荷が第三の電荷保持部に保持するように信号電荷の転送を制御し、
前記第一の電荷保持部がフローティングディフュージョンであり、
前記第二の電荷保持部が光電変換素子又はメモリであり、
前記電荷転送制御部が、前記3回以上の露光によって得られる3つ以上のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を前記第一の電荷保持部に保持し且つ当該サブフレーム信号電荷よりも後のいずれかのサブフレーム信号電荷を前記第二の電荷保持部に保持するように信号電荷の転送を制御する、
〔10〕に記載の撮像装置。
〔12〕前記画素ブロックのそれぞれにおいて、各画素のフローティングディフュージョンが垂直方向にフローティング配線によって連結されており、
前記フローティング配線は、フローティングディフュージョンが連結されている状態と連結されていない状態とを切り替え可能であるように構成されており、
フローティングディフュージョンに保持されているサブフレーム信号電荷に基づく画素信号の加算が、前記フローティング配線を前記連結されている状態とすることにより行われる、
〔11〕に記載の撮像装置。
〔13〕前記画素ブロックのそれぞれにおいて、各画素内に保持されている信号電荷を列単位で転送する垂直信号線が、水平方向に水平方向配線によって連結されており、
前記水平方向配線は、垂直信号線が連結されている状態と連結されていない状態とを切り替え可能であるように構成されており、
各画素内に保持されている信号電荷に基づく画素信号の加算が、前記水平方向配線を前記連結されている状態とすることにより行われる、
〔11〕又は〔12〕に記載の撮像装置。
〔14〕前記第二の電荷保持部が光電変換素子であり、
前記第三の電荷保持部がメモリである、
〔11〕〜〔13〕のいずれか一つに記載の撮像装置。
〔15〕各画素ブロック内の画素が、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、
第一の画素グループの露光時間と第二の画素グループの露光時間とが異なる、
〔11〕〜〔14〕のいずれか一つに記載の撮像装置。
〔16〕前記第一の電圧信号を生成するために用いられるサブフレームのフレーム時間と前記第二の電圧信号を生成するために用いられるサブフレームのフレーム時間とが等しい、又は、前者のフレーム時間が後者のフレーム時間よりも長い、〔11〕〜〔15〕のいずれか一つに記載の撮像装置。
〔17〕各画素ブロック内の画素が、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、
前記第一の電圧信号を生成するために用いられるサブフレームのフレーム時間と前記第二の電圧信号を生成するために用いられるサブフレームのフレーム時間とがずれている、
〔11〕〜〔16〕のいずれか一つに記載の撮像装置。
〔18〕1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、
前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、
前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理と
を行う画素加算処理部と、
各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、
を備えている撮像装置。
〔19〕1フレーム時間内に複数回露光を行って複数のサブフレーム信号電荷を取得する信号電荷取得工程と、
前記複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持する第一電荷保持工程と、
前記複数のサブフレーム信号電荷のうち、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持する第二電荷保持工程と、
前記第一の電荷保持部に保持されているサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する第一画素加算処理工程と、
前記第二の電荷保持部に保持されているサブフレーム信号電荷に基づく画素信号を、前記画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理を行う第二画素加算処理工程と、
各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知工程と
を含む撮像方法。
100 撮像装置
101 光学系
102 シャッタ装置
103 画素アレイ部
104 制御部
105 モニタ
106 メモリ
107 電荷転送制御部
108 画素加算処理部
109 動体検知部
110 電荷処理部
111 信号処理部
112 撮像素子


Claims (19)

  1. 1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、
    前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、
    前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理と
    を行う画素加算処理部と、
    各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、
    前記動体検知部により動体が検知されたことに応じて、画素毎に信号電荷の処理を行う電荷処理部と
    を備えている撮像装置。
  2. 1フレーム時間内の露光回数が2回であり、
    前記第一の電荷保持部がフローティングディフュージョンであり、
    前記第二の電荷保持部が光電変換素子であり、
    前記電荷転送制御部が、前記2回の露光によって得られる2つのサブフレーム信号電荷のうち、先のサブフレーム信号電荷を前記フローティングディフュージョンに保持し且つ後のサブフレーム信号電荷を前記光電変換素子に保持するように信号電荷の転送を制御する、
    請求項1に記載の撮像装置。
  3. 前記画素ブロックのそれぞれにおいて、各画素のフローティングディフュージョンが垂直方向にフローティング配線によって連結されており、
    前記フローティング配線は、フローティングディフュージョンが連結されている状態と連結されていない状態とを切り替え可能であるように構成されており、
    フローティングディフュージョンに保持されているサブフレーム信号電荷に基づく画素信号の加算が、前記フローティング配線を前記連結されている状態とすることにより行われる、
    請求項2に記載の撮像装置。
  4. 前記画素ブロックのそれぞれにおいて、各画素内に保持されている信号電荷を列単位で転送する垂直信号線が、水平方向に水平方向配線によって連結されており、
    前記水平方向配線は、垂直信号線が連結されている状態と連結されていない状態とを切り替え可能であるように構成されており、
    各画素内に保持されている信号電荷に基づく画素信号の加算が、前記水平方向配線を前記連結されている状態とすることにより行われる、
    請求項2に記載の撮像装置。
  5. 先のサブフレームのフレーム時間と後のサブフレームのフレーム時間とが等しい、又は、先のサブフレームのフレーム時間が後のサブフレームのフレーム時間よりも長い、請求項2に記載の撮像装置。
  6. 前記画素ブロックが、第一のグループ及び第二のグループの2つのグループに分けられており、
    前記第一のグループのフレーム時間と前記第二のグループのフレーム時間とがずれている、
    請求項2に記載の撮像装置。
  7. 前記光電変換素子に保持されているサブフレーム信号電荷をリセットすることができるオーバーフローゲートが各画素に設けられている、請求項2に記載の撮像装置。
  8. 各画素ブロックが、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、
    第一の画素グループの露光時間と第二の画素グループの露光時間とが異なる、
    請求項2に記載の撮像装置。
  9. 前記比較が、前記第一の電圧信号と第二の電圧信号の差、当該差を前記第一の電圧信号によって除した値、又は前記第一の電圧信号を前記第二の電圧信号で除した値を用いて行われる、請求項2に記載の撮像装置。
  10. 1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、
    前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、
    前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理と
    を行う画素加算処理部と、
    各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、
    前記動体検知部により動体が検知されたことに応じて、前記動体が検知されたフレーム内のさらに他の一つのサブフレーム信号電荷を画素毎に処理する電荷処理部と
    を備えている撮像装置。
  11. 1フレーム時間内の露光回数が3回以上であり、
    前記電荷転送制御部は、前記さらに他の一つのサブフレーム信号電荷が第三の電荷保持部に保持するように信号電荷の転送を制御し、
    前記第一の電荷保持部がフローティングディフュージョンであり、
    前記第二の電荷保持部が光電変換素子又はメモリであり、
    前記電荷転送制御部が、前記3回以上の露光によって得られる3つ以上のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を前記第一の電荷保持部に保持し且つ当該サブフレーム信号電荷よりも後のいずれかのサブフレーム信号電荷を前記第二の電荷保持部に保持するように信号電荷の転送を制御する、
    請求項10に記載の撮像装置。
  12. 前記画素ブロックのそれぞれにおいて、各画素のフローティングディフュージョンが垂直方向にフローティング配線によって連結されており、
    前記フローティング配線は、フローティングディフュージョンが連結されている状態と連結されていない状態とを切り替え可能であるように構成されており、
    フローティングディフュージョンに保持されているサブフレーム信号電荷に基づく画素信号の加算が、前記フローティング配線を前記連結されている状態とすることにより行われる、
    請求項11に記載の撮像装置。
  13. 前記画素ブロックのそれぞれにおいて、各画素内に保持されている信号電荷を列単位で転送する垂直信号線が、水平方向に水平方向配線によって連結されており、
    前記水平方向配線は、垂直信号線が連結されている状態と連結されていない状態とを切り替え可能であるように構成されており、
    各画素内に保持されている信号電荷に基づく画素信号の加算が、前記水平方向配線を前記連結されている状態とすることにより行われる、
    請求項11に記載の撮像装置。
  14. 前記第二の電荷保持部が光電変換素子であり、
    前記第三の電荷保持部がメモリである、
    請求項11に記載の撮像装置。
  15. 各画素ブロック内の画素が、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、
    第一の画素グループの露光時間と第二の画素グループの露光時間とが異なる、
    請求項11に記載の撮像装置。
  16. 前記第一の電圧信号を生成するために用いられるサブフレームのフレーム時間と前記第二の電圧信号を生成するために用いられるサブフレームのフレーム時間とが等しい、又は、前者のフレーム時間が後者のフレーム時間よりも長い、請求項11に記載の撮像装置。
  17. 各画素ブロック内の画素が、第一の画素グループ及び第二の画素グループの2つのグループに分けられており、
    前記第一の電圧信号を生成するために用いられるサブフレームのフレーム時間と前記第二の電圧信号を生成するために用いられるサブフレームのフレーム時間とがずれている、
    請求項11に記載の撮像装置。
  18. 1フレーム時間内に複数回露光を行って得られる複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持し、かつ、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持するように、信号電荷の転送を制御する電荷転送制御部と、
    前記第一の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する処理と、
    前記第二の電荷保持部に保持されたサブフレーム信号電荷に基づく画素信号を、当該画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理と
    を行う画素加算処理部と、
    各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知部と、
    を備えている撮像装置。
  19. 1フレーム時間内に複数回露光を行って複数のサブフレーム信号電荷を取得する信号電荷取得工程と、
    前記複数のサブフレーム信号電荷のうち、一つのサブフレーム信号電荷を第一の電荷保持部に保持する第一電荷保持工程と、
    前記複数のサブフレーム信号電荷のうち、他の一つのサブフレーム信号電荷を第二の電荷保持部に保持する第二電荷保持工程と、
    前記第一の電荷保持部に保持されているサブフレーム信号電荷に基づく画素信号を、複数の画素から構成される画素ブロック毎に画素加算して、当該画素ブロック毎に第一の電圧信号を取得する第一画素加算処理工程と、
    前記第二の電荷保持部に保持されているサブフレーム信号電荷に基づく画素信号を、前記画素ブロック毎に画素加算して、当該画素ブロック毎に第二の電圧信号を取得する処理を行う第二画素加算処理工程と、
    各画素ブロックにおける前記第一の電圧信号と前記第二の電圧信号との比較に基づき動体を検知する動体検知工程と
    を含む撮像方法。





JP2018021756A 2018-02-09 2018-02-09 撮像装置及び撮像方法 Pending JP2019140513A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018021756A JP2019140513A (ja) 2018-02-09 2018-02-09 撮像装置及び撮像方法
PCT/JP2018/040935 WO2019155699A1 (ja) 2018-02-09 2018-11-05 撮像装置及び撮像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018021756A JP2019140513A (ja) 2018-02-09 2018-02-09 撮像装置及び撮像方法

Publications (1)

Publication Number Publication Date
JP2019140513A true JP2019140513A (ja) 2019-08-22

Family

ID=67548391

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018021756A Pending JP2019140513A (ja) 2018-02-09 2018-02-09 撮像装置及び撮像方法

Country Status (2)

Country Link
JP (1) JP2019140513A (ja)
WO (1) WO2019155699A1 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6702704B2 (ja) * 2015-12-04 2020-06-03 キヤノン株式会社 撮像装置、撮像システム、撮像装置の駆動方法
JP2017112409A (ja) * 2015-12-14 2017-06-22 ソニー株式会社 撮像装置および方法
US10868981B2 (en) * 2016-04-27 2020-12-15 Sony Corporation Shooting control apparatus, shooting control method, and shooting apparatus
JP6719984B2 (ja) * 2016-06-06 2020-07-08 キヤノン株式会社 撮像装置、撮像システム
JP2018007035A (ja) * 2016-07-01 2018-01-11 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP2018019191A (ja) * 2016-07-27 2018-02-01 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法

Also Published As

Publication number Publication date
WO2019155699A1 (ja) 2019-08-15

Similar Documents

Publication Publication Date Title
JP5821315B2 (ja) 電子機器、電子機器の駆動方法
WO2016072289A1 (ja) 撮像素子および駆動方法、並びに電子機器
US9402038B2 (en) Solid-state imaging device and method of driving comprising a first and second accumulation sections for transferring charges exceeding the saturation amount
US10785430B2 (en) Solid-state imaging device and imaging apparatus
US20140078367A1 (en) Solid-state imaging device, control method and electronic apparatus
JP6120091B2 (ja) 固体撮像素子および駆動方法、並びに電子機器
JP2006352843A (ja) 撮像装置及び制御方法
JP2008099158A (ja) 固体撮像装置、固体撮像装置の駆動方法および撮像装置
JP2006197393A (ja) 固体撮像装置、カメラ、及び固体撮像装置の駆動方法
CN102215351A (zh) 固态成像装置,固态成像装置的驱动方法和电子设备
JP2008252195A (ja) Cmos固体撮像装置
WO2018012133A1 (ja) 固体撮像素子、及び、固体撮像素子の駆動方法、並びに、電子機器
WO2018012068A1 (ja) 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器
JP4931232B2 (ja) 撮像装置及びその処理方法
JP2008147713A (ja) 撮像装置及び判定方法
US11805323B2 (en) Solid-state imaging device, method for driving solid-state imaging device, and electronic apparatus
US8179460B2 (en) System, method, and apparatus for variable rate pixel data transfer and storage
KR20120122165A (ko) 광역 동적범위를 가지는 이미지 센서, 그 화소 회로 및 구동 방법
WO2019155699A1 (ja) 撮像装置及び撮像方法
JP2008042573A (ja) 撮像装置及びその制御方法、撮像システム並びにプログラム
JP2009044458A (ja) 固体撮像装置
JP2013051497A (ja) 固体撮像装置、撮像装置および撮像方法
WO2017110163A1 (ja) 固体撮像素子、固体撮像素子の駆動方法、及び、電子機器
JP2014042211A (ja) 固体撮像装置および撮像装置
WO2023182187A1 (ja) 固体撮像装置