JPWO2017013806A1 - 固体撮像装置 - Google Patents

固体撮像装置 Download PDF

Info

Publication number
JPWO2017013806A1
JPWO2017013806A1 JP2017529430A JP2017529430A JPWO2017013806A1 JP WO2017013806 A1 JPWO2017013806 A1 JP WO2017013806A1 JP 2017529430 A JP2017529430 A JP 2017529430A JP 2017529430 A JP2017529430 A JP 2017529430A JP WO2017013806 A1 JPWO2017013806 A1 JP WO2017013806A1
Authority
JP
Japan
Prior art keywords
pixel
photoelectric conversion
signal
normal
solid
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
JP2017529430A
Other languages
English (en)
Inventor
渡辺 伸之
伸之 渡辺
亨 近藤
亨 近藤
公成 田宮
公成 田宮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2017013806A1 publication Critical patent/JPWO2017013806A1/ja
Ceased legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/443Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading pixels from selected 2D regions of the array, e.g. for windowing or digital zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Studio Devices (AREA)

Abstract

入射した光を光電変換した第1の電荷信号を発生するn個の第1の光電変換素子と、n個の第1の光電変換素子のそれぞれに対応し、対応する第1の光電変換素子が発生した第1の電荷信号に応じた信号電圧を第1の画素信号として出力するn個の第1の読み出し回路と、入射した光を光電変換した第2の電荷信号を発生するm個の第2の光電変換素子と、m個の第2の光電変換素子のそれぞれに対応し、対応する第2の光電変換素子が発生した第2の電荷信号の変化に基づいた第2の画素信号を逐次出力するm個の第2の読み出し回路と、第1の光電変換素子の内、予め定めた読み出し領域内に配置された第1の光電変換素子に対応する第1の画素信号の読み出しを制御する読み出し制御回路と、を有し、m個の第2の読み出し回路のそれぞれは、対応する第2の光電変換素子が発生した第2の電荷信号の時間的な変化を検出し、予め定めた閾値を超える変化を検出したときに、変化を表すイベント信号を出力する検出回路と、イベント信号に、対応する第2の光電変換素子が配置された位置を表すアドレス情報を付加した第2の画素信号を出力する画素信号生成回路と、を有し、読み出し制御回路は、第2の画素信号に含まれるアドレス情報に対応する第2の光電変換素子が配置された位置に基づいた領域を、第1の画素信号を読み出す読み出し領域として決定し、決定した読み出し領域内に配置された第1の光電変換素子のそれぞれに対応する第1の読み出し回路のそれぞれに第1の画素信号を出力させ、nは2以上の自然数であり、mは2以上の自然数である。

Description

本発明は、固体撮像装置に関する。
従来から、被写体の動きを検出する動き検出の技術がある。従来の動き検出では、予め定めたフレームの間隔で撮影したそれぞれの画像の差分をとることによって、動いている被写体を捕らえている。このため、従来の動き検出では、被写体の動きをフレームの間隔でしか検出することができない。つまり、被写体の動きを逐次検出することができない。
そこで、近年では、例えば、非特許文献1に開示されたように、被写体の動きに応じた信号の変化を検出することによって、被写体の動きを逐次検出する動き検出と、通常の撮影とを両立する固体撮像装置の技術が提案されている。非特許文献1に提案された固体撮像装置では、それぞれの画素に、入射した光を光電変換する1個の光電変換素子(フォトダイオード)を備え、通常の撮影による電荷信号を読み出すAPS(Active Pixel Sensor)読み出しと、動き検出のための電荷信号を読み出すAER(Address Event Representation)読み出しとを非同期に行うことができる。
非特許文献1に提案された固体撮像装置では、動き検出の際に、フォトダイオードが光電変換している電荷信号の時間的な変化を検出し、電荷信号の大きさが予め定めた閾値を超えた画素からのみ、電荷信号が変化した方向、つまり、電荷信号の大きさの増減を表すパルス信号をAER読み出しで出力している。このとき、AER読み出しによって出力されるパルス信号には、パルス信号を出力する画素、つまり、被写体の動きを検出した画素の位置を表すアドレス情報も付加されている。
これにより、非特許文献1に提案された固体撮像装置では、被写体の動きを検出した画素の位置を、通常の撮影において電荷信号を読み出すフレームのタイミングとは関係しない非同期のタイミングで抽出することができる。このことにより、非特許文献1に提案された固体撮像装置では、通常の撮影におけるフレームレートよりも高速に、動いている被写体を捕らえることができる。
"A 240×180 10mW 12us latency sparse−output vision sensor for mobile applications", VLSI Circuits (VLSIC), 2013 Symposium on, Publication Year: 2013, Page(s): C186 − C187
しかしながら、非特許文献1に提案された固体撮像装置では、電荷信号が変化した方向を検出する論理回路や、パルス信号にアドレス情報を付加するための論理回路を、それぞれの画素に備える必要がある。そして、これらの論理回路は、1個の画素の中で占有する面積が大きいため、非特許文献1に提案された固体撮像装置では、これらの論理回路の追加に伴って、フォトダイオードの面積が小さくなり、フォトダイオードが入射した光を光電変換する電荷信号のレベルが低下してしまう。このため、非特許文献1に提案された固体撮像装置では、通常の撮影において生成する画像の画質が低下してしまう。そこで、フォトダイオードの面積を大きくすることも考えられる。しかし、この場合には、それぞれの画素の面積が大きくなるため、固体撮像装置が大型化して、製造上の問題やコスト面の問題が発生し、画素の数を増やす、つまり、通常の撮影において生成する画像の解像度を高くすることが容易ではなくなる。このように、非特許文献1に提案された固体撮像装置は、高画質化や高解像度化を図ることに対して、様々な阻害要因がある。
また、非特許文献1に提案された固体撮像装置では、AER読み出しによって、動きがあった被写体の位置を画素のレベルで得ることはできるが、被写体の動きを反映した画像を生成するためには、APS読み出しによって通常の撮影で得る電荷信号を全て読み出して画像を生成する必要がある。また、被写体の動きを検出した後に通常の撮影で得る電荷信号を全て読み出して画像を生成するということは、被写体の動きを検出したときと、被写体の動きを反映した画像の生成に時間的なずれが生じてしまうことになる。この時間的なずれを解消するために、APS読み出しによる電荷信号の読み出しを高速化する、つまり、通常の撮影におけるフレームレートを高くすることも考えられる。しかし、フレームレートを高くするということは、固体撮像装置の消費電力が増加してしまうということである。また、非特許文献1に提案された固体撮像装置の高解像度化のために画素の数を増やすと、さらに消費電力が増加してしまう。このように、非特許文献1に提案された固体撮像装置では、被写体の動きを反映した画像を生成する際に多くの電力を消費してしまうという問題もある。
本発明は、上記の課題に基づいてなされたものであり、被写体の動きを逐次検出する動き検出と通常の撮影とを両立する固体撮像装置において、消費電力の増大を抑えつつ、検出した被写体の動きを反映した高画質の画像を生成することができる固体撮像装置を提供することを目的としている。
本発明の第1の態様によれば、固体撮像装置は、入射した光を光電変換した第1の電荷信号を発生するn個の第1の光電変換素子と、前記n個の第1の光電変換素子のそれぞれに対応し、対応する前記第1の光電変換素子が発生した前記第1の電荷信号に応じた信号電圧を第1の画素信号として出力するn個の第1の読み出し回路と、入射した光を光電変換した第2の電荷信号を発生するm個の第2の光電変換素子と、前記m個の第2の光電変換素子のそれぞれに対応し、対応する前記第2の光電変換素子が発生した前記第2の電荷信号の変化に基づいた第2の画素信号を逐次出力するm個の第2の読み出し回路と、前記第1の光電変換素子の内、予め定めた読み出し領域内に配置された前記第1の光電変換素子に対応する前記第1の画素信号の読み出しを制御する読み出し制御回路と、を有し、前記m個の第2の読み出し回路のそれぞれは、対応する前記第2の光電変換素子が発生した前記第2の電荷信号の時間的な変化を検出し、予め定めた閾値を超える変化を検出したときに、変化を表すイベント信号を出力する検出回路と、前記イベント信号に、対応する前記第2の光電変換素子が配置された位置を表すアドレス情報を付加した前記第2の画素信号を出力する画素信号生成回路と、を有し、前記読み出し制御回路は、前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が配置された位置に基づいた領域を、前記第1の画素信号を読み出す前記読み出し領域として決定し、決定した前記読み出し領域内に配置された前記第1の光電変換素子のそれぞれに対応する前記第1の読み出し回路のそれぞれに前記第1の画素信号を出力させ、前記nは2以上の自然数であり、前記mは2以上の自然数である。
本発明の第2の態様によれば、上記第1の態様の固体撮像装置において、前記読み出し制御回路は、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が分布している位置に基づいて生成した矩形の領域を、前記読み出し領域として決定してもよい。
本発明の第3の態様によれば、上記第1の態様の固体撮像装置において、前記読み出し制御回路は、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が分布している領域を包含する矩形の領域を、前記読み出し領域として決定してもよい。
本発明の第4の態様によれば、上記第1の態様から上記第3の態様のいずれか一態様の固体撮像装置において、前記読み出し制御回路は、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の分布の大きさが、予め定めた分布の大きさの閾値よりも大きい場合に、前記第2の光電変換素子の分布の大きさに応じた矩形の領域を前記読み出し領域として決定し、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の分布の大きさが、前記分布の大きさの閾値以下である場合に、前記読み出し領域を決定しなくてもよい。
本発明の第5の態様によれば、上記第1の態様から上記第3の態様のいずれか一態様の固体撮像装置において、前記読み出し制御回路は、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の数が、予め定めた数の閾値よりも多い場合に、それぞれの前記アドレス情報に対応する前記第2の光電変換素子に対応する前記読み出し領域を決定し、同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の数が、前記数の閾値以下である場合に、前記読み出し領域を決定しなくてもよい。
本発明の第6の態様によれば、上記第4の態様または上記第5の態様の固体撮像装置において、前記読み出し制御回路は、前記n個の第1の光電変換素子が配置された全体の領域を、予め定めた大きさで区切った複数のブロックに分割し、分割したそれぞれの前記ブロックごとに、前記読み出し領域を決定してもよい。
本発明の第7の態様によれば、上記第1の態様から上記第6の態様のいずれか一態様の固体撮像装置において、前記n個の第1の光電変換素子のそれぞれおよび前記m個の第2の光電変換素子のそれぞれは、第1の半導体基板の同一の平面の領域に周期的に配置されてもよい。
本発明の第8の態様によれば、上記第7の態様の固体撮像装置において、前記画素信号生成回路は、前記第1の半導体基板に光が入射する側の面と反対側の面に積層される第2の半導体基板に配置されてもよい。
本発明の第9の態様によれば、上記第8の態様の固体撮像装置において、前記第1の半導体基板と前記第2の半導体基板との間に形成され、前記第1の半導体基板の回路要素と前記第2の半導体基板の回路要素とを電気的に接続する接続部、をさらに有し、前記接続部は、前記m個の第2の読み出し回路のそれぞれが有する前記検出回路と、対応する前記第2の光電変換素子とを電気的に接続してもよい。
本発明の第10の態様によれば、上記第9の態様の固体撮像装置において、s個の前記第1の光電変換素子が発生した前記s個の前記第1の電荷信号を1つの単位とした電荷信号を前記第2の光電変換素子が発生する前記第2の電荷信号として兼用し、前記sは1以上の自然数であり、前記第2の電荷信号として兼用する前記第1の電荷信号を出力する前記第1の光電変換素子の総数は、1以上で前記n以下の自然数であってもよい。
本発明の第11の態様によれば、上記第10の態様の固体撮像装置において、前記mは前記nよりも小さく、前記sは2以上の自然数であり、前記m個の第2の読み出し回路のそれぞれは、対応する前記s個の前記第1の光電変換素子が発生した前記s個の前記第1の電荷信号を1つの単位として加算する加算回路、をさらに有し、前記検出回路は、前記加算回路によって加算された後の前記第1の電荷信号の変化を検出してもよい。
本発明の第12の態様によれば、上記第1の態様から上記第6の態様のいずれか一態様の固体撮像装置において、前記n個の第1の光電変換素子のそれぞれは、光が入射する第1の半導体基板に周期的に配置され、前記m個の第2の光電変換素子のそれぞれは、前記第1の半導体基板に光が入射する側の面と反対側の面に積層される第2の半導体基板に周期的に配置され、前記第1の半導体基板を透過した光を光電変換した前記第2の電荷信号を発生してもよい。
本発明の第13の態様によれば、上記第9の態様または上記第12の態様の固体撮像装置において、前記第2の読み出し回路のそれぞれは、t個の前記第2の光電変換素子を1つの単位とし、前記t個の前記第2の光電変換素子が発生したそれぞれの前記第2の電荷信号を加算する加算回路、をさらに有し、前記検出回路は、前記加算回路によって加算された後の前記第2の電荷信号の変化を検出し、前記tは2以上の自然数であってもよい。
上記各態様によれば、被写体の動きを逐次検出する動き検出と通常の撮影とを両立する固体撮像装置において、消費電力の増大を抑えつつ、検出した被写体の動きを反映した高画質の画像を生成することができる固体撮像装置を提供することができる。
本発明の第1の実施形態における固体撮像装置の概略構成を示した概観図である。 本発明の第1の実施形態における固体撮像装置の概略構成を示したブロック図である。 本発明の第1の実施形態の固体撮像装置における画素の構成の一例を示した回路図である。 本発明の第1の実施形態の固体撮像装置における画素の構成の一例を示した回路図である。 本発明の第1の実施形態の固体撮像装置における画素の配置と画素信号を出力させる画素を指定する領域との一例を模式的に示した図である。 本発明の第1の実施形態の固体撮像装置において画素信号を出力する構成を示した図である。 本発明の第1の実施形態の固体撮像装置において画素信号を出力させる画素を指定する領域の一例を模式的に示した図である。 本発明の第1の実施形態の固体撮像装置において画素信号を出力させる画素を指定する領域の別の一例を模式的に示した図である。 本発明の第1の実施形態の固体撮像装置において画素信号を出力させる画素を指定する領域のさらに別の一例を模式的に示した図である。 本発明の第1の実施形態の固体撮像装置において画素信号を出力させる画素を指定する領域を決定する処理の処理手順を示したフローチャートである。 本発明の第1の実施形態の固体撮像装置において画素信号を出力させる画素を指定する領域を決定する別の処理の処理手順を示したフローチャートである。 本発明の第1の実施形態の固体撮像装置における画素の別の構成の一例を示した回路図である。 本発明の第1の実施形態の固体撮像装置において画素を駆動するタイミングの一例を示したタイミングチャートである。 本発明の第2の実施形態の固体撮像装置における画素の構成の一例を示した回路図である。 本発明の第2の実施形態の固体撮像装置において画素信号を出力する構成を示した図である。 本発明の第2の実施形態の固体撮像装置における画素信号の読み出しシーケンスを示したタイミングチャートである。 本発明の第3の実施形態の固体撮像装置における画素の構成の一例を示した回路図である。 本発明の第3の実施形態の固体撮像装置において画素信号を出力する構成を示した図である。 本発明の第3の実施形態の固体撮像装置における画素の配置の一例を模式的に示した図である。 本発明の第3の実施形態の固体撮像装置において画素信号を出力する別の構成を示した図である。 本発明の第4の実施形態の固体撮像装置において画素信号を出力する構成を示した図である。
(第1の実施形態)
以下、本発明の実施形態について、図面を参照して説明する。図1は、本発明の第1の実施形態における固体撮像装置の概略構成を示した概観図である。第1の実施形態の固体撮像装置1は、複数の半導体基板を積層(接合)して構成する。図1において、固体撮像装置1は、第1の半導体基板11と、第2の半導体基板12とを、チップ接続部13によって接合している。
固体撮像装置1は、固体撮像装置1の機能を実現するための回路を、第1の半導体基板11または第2の半導体基板12のいずれか一方の半導体基板上に形成する。固体撮像装置1の機能を実現するための回路は、入射してきた光(光線)を光電変換するフォトダイオードなどの光電変換素子、および光電変換素子が発生した電荷信号を読み出す読み出し回路を含む画素が二次元の行列状に複数配置された画素アレイ部、画素アレイ部内の画素を駆動するための駆動回路などがある。
なお、固体撮像装置1の機能を実現するためのそれぞれの回路は、第1の半導体基板11または第2の半導体基板12のいずれか一方の半導体基板上に形成する構成のみではなく、第1の半導体基板11および第2の半導体基板12の両方の半導体基板上に形成する構成であってもよい。
それぞれの半導体基板上に形成された固体撮像装置1の機能を実現するためのそれぞれの回路は、チップ接続部13によって電気的に接続する。そして、第1の半導体基板11に形成した回路と第2の半導体基板12に形成した回路とは、チップ接続部13を介して信号の送受信を行う。
チップ接続部13は、例えば、蒸着法、めっき法で作製されるマイクロバンプなどを用いる。なお、それぞれの半導体基板上に形成された固体撮像装置1の機能を実現するためのそれぞれの回路を接続する方法は、マイクロバンプを用いた方法に限定されるものではなく、例えば、シリコン貫通電極(TSV:Through−Silicon−Via)を用いた方法であってもよい。
次に、第1の実施形態の固体撮像装置1の構成の一例について説明する。図2は、本発明の第1の実施形態における固体撮像装置1の概略構成を示したブロック図である。図2において、固体撮像装置1は、制御回路10と、垂直走査回路20と、水平走査回路30と、複数の画素50が配置された画素アレイ部40とを備えている。また、制御回路10は、読み出しアドレス制御回路100を備えている。なお、図1に示した固体撮像装置1では、複数の画素50が、7行8列に2次元的に配置された画素アレイ部40の例を示している。
画素アレイ部40内に配置されたそれぞれの画素50は、入射してきた光(光線)を光電変換した電荷信号を発生させる。画素アレイ部40内に配置された画素50には、通常の撮影による電荷信号を発生させる構成の画素50と、動き検出のための電荷信号を発生させる構成の画素50とがある。
通常の撮影による電荷信号を発生させる構成の画素50は、垂直走査回路20から入力された制御信号に応じたAPS(Active Pixel Sensor)読み出し(以下、「通常読み出し」という)によって、発生させた電荷信号に応じた画素信号を行ごとに、垂直信号線60に出力する。そして、垂直信号線60に出力されたそれぞれの行の画素信号は、水平走査回路30による制御に応じて、固体撮像装置1の外部に出力される。すなわち、通常の撮影による電荷信号を発生させる構成の画素50の画素信号は、通常の撮影におけるフレームごとに、固体撮像装置1の外部に出力される。なお、以下の説明においては、通常の撮影による電荷信号を発生させる構成の画素50、つまり、通常の撮影の画素信号を出力する画素50を「通常画素51」という。
また、通常画素51は、フレームごとに画素信号を順次、固体撮像装置1の外部に出力する以外にも、指定された通常画素51から画素信号を固体撮像装置1の外部に出力することができる。なお、画素信号を出力する通常画素51の指定は、制御回路10が、垂直走査回路20および水平走査回路30を制御することによって行う。また、このとき、画素信号を出力する通常画素51を指定する方法は、それぞれの通常画素51を直接指定する方法であっても、通常画素51が配置された領域を指定する方法であってもよい。
動き検出のための電荷信号を発生させる構成の画素50は、AER(Address Event Representation)読み出し(以下、「動き検出読み出し」という)によって、電荷信号の時間的な変化および変化した方向を表すパルス信号を、垂直走査回路20による通常画素51の駆動とは同期せずに、つまり、非同期で出力する。このとき、動き検出のための電荷信号を発生させる構成の画素50は、画素50自身の位置を表すアドレス情報をパルス信号に付加し、画素信号として出力する。なお、以下の説明においては、動き検出のための電荷信号を発生させる構成の画素50、つまり、動き検出の画素信号を出力する画素50を「動き検出画素52」という。固体撮像装置1では、動き検出画素52は、動き検出の画素信号を、制御回路10に出力する。
通常画素51および動き検出画素52のそれぞれを構成する回路要素は、第1の半導体基板11または第2の半導体基板12のいずれか一方または両方の半導体基板に形成し、チップ接続部13によって画素アレイ部40内で接続する。
制御回路10は、垂直走査回路20、水平走査回路30を制御する。制御回路10は、通常読み出しによってそれぞれの通常画素51から1つのフレームの画素信号を出力する(読み出す)際には、垂直走査回路20および水平走査回路30が、それぞれの通常画素51を順次駆動するように制御する。また、制御回路10は、通常画素51を指定して画素信号を出力する(読み出す)際には、垂直走査回路20および水平走査回路30が、画素アレイ部40内の指定した位置に配置された通常画素51を駆動するように制御する。なお、制御回路10では、通常画素51を指定して画素信号を出力する(読み出す)際の通常画素51の指定を、読み出しアドレス制御回路100が制御する。
読み出しアドレス制御回路100は、画素アレイ部40内に配置されたそれぞれの動き検出画素52から出力された動き検出の画素信号に含まれるアドレス情報に基づいて、通常の撮影の画素信号を出力する(読み出す)通常画素51を指定する。このとき、読み出しアドレス制御回路100は、アドレス情報が表している動き検出画素52が配置された位置を中心とした予め定めた領域(以下、「読み出し領域」という)に配置されている通常画素51を指定する。なお、読み出しアドレス制御回路100によって通常の撮影の画素信号を出力する際に通常画素51を指定する方法に関する詳細な説明は、後述する。
垂直走査回路20は、制御回路10からの制御に応じて、画素アレイ部40内のそれぞれの通常画素51を制御し、それぞれの通常画素51の画素信号を垂直信号線60に出力させる駆動回路である。垂直走査回路20は、制御回路10によって1つのフレームの画素信号を出力する(読み出す)ためにそれぞれの通常画素51を順次駆動するように制御されると、通常画素51を駆動するための制御信号を、画素アレイ部40に備えた通常画素51の行ごとに出力する。また、垂直走査回路20は、制御回路10、つまり、読み出しアドレス制御回路100によって駆動する通常画素51が指定されると、指定された通常画素51が配置されている画素アレイ部40の行に、通常画素51を駆動するための制御信号を出力する。
水平走査回路30は、画素アレイ部40に備えたそれぞれの通常画素51から出力されたそれぞれの行の画素信号を、固体撮像装置1の外部に出力させる駆動回路である。水平走査回路30は、制御回路10によって1つのフレームの画素信号を出力する(読み出す)ためにそれぞれの通常画素51を順次駆動するように制御されると、それぞれの通常画素51から行ごとに出力された画素信号を、画素アレイ部40に備えた通常画素51の列ごとに順次出力する。また、水平走査回路30は、制御回路10、つまり、読み出しアドレス制御回路100によって駆動する通常画素51が指定されると、指定された通常画素51が配置されている画素アレイ部40の列の画素信号を出力する。
次に、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置する通常画素51および動き検出画素52の構成について説明する。図3Aおよび図3Bは、本発明の第1の実施形態の固体撮像装置1における画素50(通常画素51および動き検出画素52)の構成の一例を示した回路図である。図3Aには、固体撮像装置1の画素アレイ部40内に配置する通常画素51の構成の一例を示し、図3Bには、固体撮像装置1の画素アレイ部40内に配置する動き検出画素52の構成の一例を示している。
まず、図3Aを用いて、通常画素51の構成を説明する。図3Aにおいて、通常画素51は、光電変換素子PD1と、電荷転送トランジスタ511、画素リセットトランジスタ512、増幅トランジスタ513、および選択トランジスタ514とを備えている。なお、図3Aにおいては、通常画素51に備えた増幅トランジスタ513のゲート端子に接続されたノードに付随する容量であるノード容量FD1を、通常画素51の回路要素としてキャパシタの記号で示している。
通常画素51においては、電荷転送トランジスタ511、画素リセットトランジスタ512、増幅トランジスタ513、および選択トランジスタ514と、ノード容量FD1とで、光電変換素子PD1が発生させた電荷信号に応じた画素信号を読み出す読み出し回路を構成している。固体撮像装置1では、光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。
光電変換素子PD1は、入射してきた光(光線)を光電変換して電荷信号を発生させ、発生させた電荷信号を蓄積するフォトダイオードである。
電荷転送トランジスタ511は、垂直走査回路20から入力された制御信号TXに応じて、光電変換素子PD1が発生して蓄積した電荷信号を、増幅トランジスタ513のゲート端子に転送する。これにより、電荷転送トランジスタ511によって転送された電荷信号が、ノード容量FD1に蓄積される。
増幅トランジスタ513は、ゲート端子に転送された電荷信号、すなわち、ノード容量FD1に蓄積された電荷信号に応じた信号電圧を、選択トランジスタ514に出力する。
画素リセットトランジスタ512は、垂直走査回路20から入力された制御信号RSTに応じて、通常画素51内の電荷信号を、電源電圧VDDにリセットする。
選択トランジスタ514は、垂直走査回路20から入力された制御信号SELに応じて、増幅トランジスタ513から出力される信号電圧を、通常画素51の画素信号として垂直信号線60に出力する。これにより、通常画素51に備えた光電変換素子PD1が発生した電荷信号に応じた画素信号が、垂直信号線60に読み出される。
このような構成によって、通常画素51では、光電変換素子PD1が入射した光を光電変換した電荷信号に応じたそれぞれの信号電圧を、画素信号として垂直信号線60に読み出す。
続いて、図3Bを用いて、動き検出画素52の構成を説明する。図3Bにおいて、動き検出画素52は、光電変換素子PD2と、アンプ521と、バイアストランジスタ522と、スイッチトキャパシタアンプ回路523と、スレッショルドアンプ524およびスレッショルドアンプ525と、AER回路526とを備えている。また、スイッチトキャパシタアンプ回路523は、キャパシタ5231と、アンプ5232と、キャパシタ5233と、スイッチ5234とを備えている。
動き検出画素52においては、アンプ521およびバイアストランジスタ522で、光電変換素子PD2が発生させた電荷信号を出力する出力回路を構成している。また、動き検出画素52においては、スイッチトキャパシタアンプ回路523、スレッショルドアンプ524、スレッショルドアンプ525、およびAER回路526で、光電変換素子PD2が発生させた電荷信号を読み出す読み出し回路を構成している。固体撮像装置1では、光電変換素子PD2および出力回路を第1の半導体基板11に形成し、読み出し回路を第2の半導体基板12に形成する。
光電変換素子PD2は、通常画素51に備えた光電変換素子PD1と同様に、入射してきた光(光線)を光電変換して電荷信号を発生させ、発生させた電荷信号を蓄積するフォトダイオードである。光電変換素子PD2は、発生させた電荷信号を逐次、アンプ521に出力する。
アンプ521は、光電変換素子PD2が発生して出力した電荷信号を、増幅する。アンプ521は、増幅した電荷信号を、チップ接続部13を介してスイッチトキャパシタアンプ回路523に出力する。これにより、光電変換素子PD2が発生する電荷信号の変化が、スイッチトキャパシタアンプ回路523に入力される。また、アンプ521は、増幅した電荷信号を、バイアストランジスタ522のゲート端子に転送する。
バイアストランジスタ522は、ゲート端子に転送された電荷信号に応じて光電変換素子PD2に流れる電流が一定の電流になるように制御する。これにより、光電変換素子PD2が発生する電荷信号が変化した場合、電荷信号の大きさが逐次、変化した後の大きさで安定する。つまり、光電変換素子PD2の出力がクリップされる。
スイッチトキャパシタアンプ回路523は、アンプ521からチップ接続部13を介して入力された電荷信号の変化、つまり、光電変換素子PD2が発生する電荷信号の増減を、予め定めた電圧の範囲の電圧信号に変換し、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれに出力する。また、スイッチトキャパシタアンプ回路523の動作は、AER回路526によってリセットされる。
より具体的には、アンプ521からチップ接続部13を介して入力された電荷信号は、キャパシタ5231の第1の端子に入力されて蓄積される。これにより、キャパシタ5231の第2の端子から、蓄積した電荷信号に応じた電圧の電圧信号が出力されてアンプ5232に出力される。
アンプ5232は、入力された電圧信号の電圧を増幅し、増幅した電圧信号を、スイッチトキャパシタアンプ回路523の出力としてスレッショルドアンプ524およびスレッショルドアンプ525のそれぞれにて出力する。また、アンプ5232が出力した電圧信号は、キャパシタ5233の第1の端子に入力されて蓄積される。これにより、キャパシタ5233の第2の端子から、蓄積した電圧信号に応じた電圧の信号が、フィードバック信号としてアンプ5232に出力される。そして、アンプ5232は、フィードバック信号の電圧に応じた一定の電圧の電圧信号を出力し続ける。つまり、アンプ5232は、アンプ521からチップ接続部13を介してスイッチトキャパシタアンプ回路523に入力された電荷信号に応じた電圧の電圧信号を、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれに出力し続ける。ここで、アンプ5232がスレッショルドアンプ524およびスレッショルドアンプ525のそれぞれに出力する電圧信号は、光電変換素子PD2が発生する電荷信号が増減した大きさを表す電圧の信号である。
また、アンプ5232の出力端子(キャパシタ5233の第1の端子でもある)は、スイッチ5234の第1の端子に接続し、アンプ5232の入力端子(キャパシタ5233の第2の端子でもある)は、スイッチ5234の第2の端子に接続している。そして、スイッチ5234は、AER回路526から出力され、制御端子に入力されるリセット信号によって短絡と開放とが制御される。スイッチ5234は、AER回路526から出力されたリセット信号によって短絡するように制御されると、第1の端子と第2の端子とを短絡する。これにより、キャパシタ5233の両方の端子が短絡されて、キャパシタ5233の両方の端子の電圧が同じ電圧なってリセットされると共に、アンプ5232による電圧信号の増幅動作もリセットされる。
なお、図3Bには、キャパシタ5231、アンプ5232、キャパシタ5233、およびスイッチ5234によって構成したスイッチトキャパシタアンプ回路523を示したが、スイッチトキャパシタアンプ回路523の構成は、図3Bに示した構成に限定されるものではない。
スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれは、スイッチトキャパシタアンプ回路523内のアンプ5232から入力された電圧信号の電圧の変化と、変化した方向とを検出する。
より具体的には、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれは、スイッチトキャパシタアンプ回路523内のアンプ5232から入力された電圧信号の電圧と、予め定めた閾値電圧(スレッショルド電圧)とを比較する。そして、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれは、入力された電圧信号の電圧がスレッショルド電圧を超えた場合に、スレッショルド電圧を超えた変化があることを表すイベント信号を、AER回路526に出力する。
なお、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれには、予め定めた正方向の電圧または負方向の電圧のいずれか一方の電圧が、スレッショルド電圧として設定されている。図3Bに示した構成では、スレッショルドアンプ524に、予め定めた電圧値の正方向の電圧がスレッショルド電圧として設定され、スレッショルドアンプ525に、予め定めた電圧値の負方向の電圧がスレッショルド電圧として設定されている。このため、スレッショルドアンプ524は、アンプ5232から入力された電圧信号の電圧が、正方向のスレッショルド電圧よりも多く正方向(増加する方向)に変化したか否かを検出する。また、スレッショルドアンプ525は、アンプ5232から入力された電圧信号の電圧が、負方向のスレッショルド電圧よりも多く負方向(減少する方向)に変化したか否かを検出する。
このように、スレッショルドアンプ524とスレッショルドアンプ525との構成によって、スイッチトキャパシタアンプ回路523によって予め定めた電圧の範囲に変換された電圧信号のスレッショルド電圧を超える変化および変化した方向とを検出する。これは、光電変換素子PD2が発生した電荷信号の予め定めた閾値を超えた変化および変化した方向を検出することに相当する。そして、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれがAER回路526に出力するイベント信号が、光電変換素子PD2が発生した電荷信号の変化と変化した方向(正方向または負方向)とを表している。つまり、スレッショルドアンプ524がイベント信号を出力した場合には、光電変換素子PD2が発生した電荷信号に、正方向の予め定めた閾値を超える変化があったことを表し、スレッショルドアンプ525がイベント信号を出力した場合には、光電変換素子PD2が発生した電荷信号に、負方向の予め定めた閾値を超える変化があったことを表している。
なお、図3Bに示した構成では、スイッチトキャパシタアンプ回路523と、スレッショルドアンプ524およびスレッショルドアンプ525との構成によって、光電変換素子PD2が発生した電荷信号の時間的な変化を検出している。しかし、光電変換素子PD2が発生した電荷信号の時間的な変化を検出する構成は、図3Bに示した構成に限定されるものではない。例えば、スレッショルドアンプ524とスレッショルドアンプ525とによって、光電変換素子PD2が発生した電荷信号の時間的な変化を検出する構成にしてもよい。
AER回路526は、スレッショルドアンプ524とスレッショルドアンプ525とのそれぞれから入力されたイベント信号に基づいて、光電変換素子PD2が発生させた電荷信号が正方向または負方向のいずれの方向に変化したか、つまり、電荷信号の大きさの増減を判定する。そして、AER回路526は、判定した結果を表すパルス信号を生成する。例えば、光電変換素子PD2が発生させた電荷信号が正方向(増加する方向)に変化した場合に正方向のパルス信号を生成し、光電変換素子PD2が発生させた電荷信号が負方向(減少する方向)に変化した場合に負方向のパルス信号を生成する。そして、AER回路526は、生成したパルス信号に、動き検出画素52自身の位置を表すアドレス情報を付加し、画素信号として出力する。なお、以下の説明においては、通常画素51が出力する画素信号と区別するため、AER回路526、すなわち、動き検出画素52が出力する画素信号を、「イベント画素信号」という。
このような構成によって、動き検出画素52では、光電変換素子PD2が入射した光を光電変換した電荷信号の変化とその変化した方向とを検出し、検出した情報と、動き検出画素52の位置を表すアドレス情報とを、動き検出画素52ごとに出力する。
そして、固体撮像装置1では、読み出しアドレス制御回路100が、動き検出画素52から出力されたイベント画素信号に含まれるアドレス情報に基づいて、アドレス情報に表された動き検出画素52、つまり、被写体の動きを検出した動き検出画素52が配置された位置を中心とした予め定めた読み出し領域に配置されている通常画素51から画素信号を出力する(読み出す)。
なお、動き検出画素52は、上述したように、それぞれの動き検出画素52ごとにイベント画素信号を読み出しアドレス制御回路100に出力するが、それぞれの動き検出画素52がイベント画素信号を読み出しアドレス制御回路100に出力する構成は限定しない。例えば、それぞれの動き検出画素52が、水平走査回路30を介してイベント画素信号を出力する構成であってもよい。
また、動き検出画素52では、AER回路526が、生成したパルス信号にアドレス情報を付加することによって、イベント画素信号として出力する構成を示したが、パルス信号にアドレス情報を付加する構成は、AER回路526に限定されるものではない。例えば、固体撮像装置1に備えた不図示の構成要素が、それぞれの動き検出画素52に備えたAER回路526が出力したパルス信号に、パルス信号を出力した動き検出画素52の位置を表すアドレス情報を付加し、イベント画素信号として出力する構成であってもよい。
また、動き検出画素52では、スイッチトキャパシタアンプ回路523によって、光電変換素子PD2が発生した電荷信号を増幅してから予め定めた電圧の範囲の電圧信号に変換する構成を示した。しかし、動き検出画素52において、光電変換素子PD2が発生した電荷信号を予め定めた電圧の範囲の電圧信号に変換する構成は、スイッチトキャパシタアンプ回路523による構成に限定しない。例えば、動き検出画素52を、スイッチトキャパシタアンプ回路523に備えたアンプ5232を備えない構成、いわゆる、スイッチトキャパシタ回路によって、光電変換素子PD2が発生した電荷信号を予め定めた電圧の範囲の電圧信号に変換する構成にしてもよい。この場合、動き検出画素52は、スイッチトキャパシタ回路と、スレッショルドアンプ524およびスレッショルドアンプ525との構成によって、光電変換素子PD2が発生した電荷信号の時間的な変化を検出してもよい。
次に、第1の実施形態の固体撮像装置1における画素アレイ部40内の通常画素51および動き検出画素52の配置の一例と、画素信号を出力させる通常画素51の指定方法について説明する。図4は、本発明の第1の実施形態の固体撮像装置1における画素50(通常画素51および動き検出画素52)の配置と画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)との一例を模式的に示した図である。図4には、固体撮像装置1を構成する第1の半導体基板11の画素アレイ部40の領域内に画素50(通常画素51および動き検出画素52)を配置した一例を示している。
固体撮像装置1においては、画素50、つまり、通常画素51と動き検出画素52とを平面状に配置する。このとき、固体撮像装置1では、上述したように、通常画素51を第1の半導体基板11に形成し、動き検出画素52を第1の半導体基板11と第2の半導体基板12とに分けて形成する。
より具体的には、図4に示したように、第1の半導体基板11の画素アレイ部40の平面の領域には、通常画素51(光電変換素子PD1および読み出し回路)と動き検出画素52の光電変換素子PD2および出力回路とを、行方向および列方向に周期的に配置する。このとき、通常画素51は、図4に示したように、動き検出画素52よりも多く配置する。なお、図4では、通常画素51を画素アレイ部40の平面の領域全体に均一に配置し、予め定めた間隔ごと(図4では、4個の通常画素51ごと)に、通常画素51を動き検出画素52の光電変換素子PD2および出力回路に置き換えたような配置にしている。
なお、第2の半導体基板12の画素アレイ部40の平面の領域には、第1の半導体基板11に配置した動き検出画素52の光電変換素子PD2および出力回路に対応する動き検出画素52の読み出し回路を、画素アレイ部40の平面の領域全体に均一に配置する。このとき、動き検出画素52の読み出し回路は、第1の半導体基板11に配置した通常画素51に対応する第2の半導体基板12の画素アレイ部40の平面の領域を含めて形成する。つまり、固体撮像装置1では、通常画素51よりも多くの回路要素から構成されるため形成する際に多くの領域を必要とする動き検出画素52を、通常画素51を形成するために使用していない第2の半導体基板12の領域を利用して形成する。より具体的には、通常画素51に光が入射する側の面と反対側の面に積層された第2の半導体基板12において、第1の半導体基板11に形成された通常画素51の領域と重複している領域を含めて動き検出画素52の読み出し回路を形成する。そして、第1の半導体基板11に形成した出力回路と、第2の半導体基板12に形成した読み出し回路とを、チップ接続部13によって電気的に接続する。
なお、図4に示したように、固体撮像装置1では、通常画素51を動き検出画素52よりも多く配置している。つまり、固体撮像装置1においては、画素アレイ部40内に配置する動き検出画素52の数は、通常画素51の数よりも少ない。しかし、被写体の動きの検出では、通常の撮影において生成する画像ほど高い解像度、つまり、高画質は要求されない。むしろ、被写体の動きを逐次検出する動き検出では、動き検出画素52の光電変換素子PD2が、短い時間であっても電荷信号を発生して動き検出を行えることが望ましい。一方、固体撮像装置1では、画素アレイ部40に備える通常画素51の数を増加させることによって、通常の撮影において高画素化を実現することが望ましい。固体撮像装置1では、画素アレイ部40内に配置する通常画素51の数をさらに多くすることによって、通常の撮影において生成する画像の画質を向上させる、つまり、高精細な出力を得る構成にすることもできる。より具体的には、固体撮像装置1では、通常の撮影による画素信号の出力に特化した通常画素51と、動き検出によるイベント画素信号の出力に特化した動き検出画素52とのそれぞれを画素アレイ部40内に形成するため、通常画素51をより高精細化して、図4に示した配置の一例よりもさらに多くの通常画素51を配置する構成にしてもよい。
固体撮像装置1では、図4に示したように配置されたいずれかの動き検出画素52から、制御回路10内の読み出しアドレス制御回路100にイベント画素信号が入力されると、読み出しアドレス制御回路100は、イベント画素信号に含まれるアドレス情報に基づいて、イベント画素信号を出力した動き検出画素52の位置を中心とした予め定めた周辺の領域(読み出し領域)に配置されている通常画素51から画素信号を出力する(読み出す)。例えば、図4に示した画素50(通常画素51および動き検出画素52)の配置の一例において、6行7列目に配置された動き検出画素52aから、読み出しアドレス制御回路100にイベント画素信号が入力されると、読み出しアドレス制御回路100は、動き検出画素52aの位置を中心とした周辺の予め定めた5行5列の矩形の読み出し領域ar1内に配置されている通常画素51から画素信号を出力する(読み出す)。
なお、固体撮像装置1では、通常画素51は、予め定めた周期(フレームレート)で通常の撮影のための露光を行っている。つまり、通常画素51は、光電変換素子PD1による入射してきた光(光線)の光電変換と、電荷転送トランジスタ511による光電変換素子PD1が発生させた電荷信号のノード容量FD1への転送と、画素リセットトランジスタ512によるノード容量FD1に蓄積された電荷信号のリセットとを、周期的に繰り返している。従って、読み出しアドレス制御回路100が、読み出し領域ar1内の通常画素51を、画素信号を出力する(読み出す)通常画素51として指定した場合には、指定された通常画素51は、周期的に行っている直近の露光によって得た電荷信号に応じた信号電圧を、画素信号として出力する(読み出す)。なお、直近の露光とは、通常画素51が、読み出しアドレス制御回路100に指定されたときにすでに終了している直前の露光であってもよいし、読み出しアドレス制御回路100に指定されたあとに終了する直後の露光であってもよい。従って、以下の説明においては、指定された通常画素51が出力する画素信号を得るための露光のタイミングに関しては、特に規定しない。
(第1の画素指定方法)
次に、第1の実施形態の固体撮像装置1における通常画素51の指定方法について説明する。図5は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力する構成を示した図である。図5には、固体撮像装置1において通常画素51と動き検出画素52とが図4に示したように配置されている場合における画素アレイ部40の一部の縦構造と、制御回路10に備えた読み出しアドレス制御回路100とを示している。より具体的には、第1の半導体基板11に形成された通常画素51と、第1の半導体基板11および第2の半導体基板12に形成された動き検出画素52と、読み出しアドレス制御回路100との間でやり取りされるそれぞれの信号を示している。
上述したように、固体撮像装置1では、通常画素51の光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。図5には、通常画素51の光電変換素子PD1と、通常画素51の読み出し回路に備えた選択トランジスタ514とを第1の半導体基板11に形成している状態を示している。
また、上述したように、固体撮像装置1では、動き検出画素52の光電変換素子PD2および出力回路を第1の半導体基板11に形成し、読み出し回路を第2の半導体基板12に形成する。図5には、動き検出画素52の光電変換素子PD2と出力回路に備えたアンプ521とを第1の半導体基板11に形成し、動き検出画素52の読み出し回路に備えたスイッチトキャパシタアンプ回路523とAER回路526とを第2の半導体基板12に形成している状態を示している。
このとき、固体撮像装置1では、動き検出画素52の読み出し回路を、第1の半導体基板11に形成された通常画素51の領域と重複している領域を含めた第2の半導体基板12の領域に形成する。図5には、動き検出画素52の読み出し回路に備えたスイッチトキャパシタアンプ回路523とAER回路526とを、第1の半導体基板11に形成された通常画素51の領域と重複している領域を含めた第2の半導体基板12の領域に形成している状態を示している。
そして、上述したように、固体撮像装置1では、動き検出画素52の出力回路と、対応する動き検出画素52の読み出し回路とを、第1の半導体基板11と第2の半導体基板12との間に形成するチップ接続部13によって電気的に接続する。図5には、第1の半導体基板11に形成した動き検出画素52の出力回路に備えたアンプ521と、第2の半導体基板12に形成した動き検出画素52の読み出し回路に備えたスイッチトキャパシタアンプ回路523とを、チップ接続部13によって接続している状態を示している。
そして、上述したように、固体撮像装置1では、第2の半導体基板12に形成された動き検出画素52のAER回路526は、光電変換素子PD2が発生した電荷信号の時間的な変化を検出したとき、イベント画素信号を、読み出しアドレス制御回路100に出力する。
読み出しアドレス制御回路100は、イベント画素信号が入力されると、入力されたイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した動き検出画素52の位置を検出(確認)する。例えば、図4に示した動き検出画素52aからイベント画素信号が入力されると、読み出しアドレス制御回路100は、イベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した動き検出画素52が、6行7列目に配置された動き検出画素52aであると検出(確認)する。
そして、読み出しアドレス制御回路100は、検出(確認)した動き検出画素52の位置を中心とした予め定めた領域に配置されている通常画素51の領域を、読み出し領域として決定する。そして、読み出しアドレス制御回路100は、決定した読み出し領域内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。例えば、図4に示した動き検出画素52aの位置を中心とした5行5列の矩形の読み出し領域ar1を、通常画素51から画素信号を出力する(読み出す)読み出し領域に決定し、読み出し領域ar1内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。
これにより、垂直走査回路20および水平走査回路30のそれぞれは、指定された通常画素51を順次駆動して、読み出しアドレス制御回路100によって指定された通常画素51から画素信号を出力する(読み出す)。例えば、垂直走査回路20および水平走査回路30のそれぞれは、図4に示した読み出し領域ar1内に配置されている通常画素51を指定するための制御信号が入力されると、読み出し領域ar1内の通常画素51を順次駆動して、読み出し領域ar1内に配置されているそれぞれの通常画素51から画素信号を出力する(読み出す)。
このように、固体撮像装置1では、通常の撮影による画素信号の出力に特化した通常画素51と、動き検出によるイベント画素信号の出力に特化した動き検出画素52とのそれぞれを画素アレイ部40内に配置することによって、被写体の動きを逐次検出する動き検出と通常の撮影とを両立する。このとき、固体撮像装置1では、通常の撮影においてフレーム単位で画素信号を順次読み出す通常読み出しとは関係しない非同期のタイミングで、逐次被写体の動きを検出する動き検出を行う、つまり、通常読み出しと動き検出読み出しとを同時期に行うことができる。そして、固体撮像装置1では、図4に示した通常画素51と動き検出画素52との配置の一例のように、画素アレイ部40内に配置する通常画素51の数を、動き検出画素52よりも多くしている。言い換えれば、固体撮像装置1では、画素アレイ部40内に配置する動き検出画素52を、第1の半導体基板11と第2の半導体基板12とに分けて形成することによって、画素アレイ部40内に配置する通常画素51の数を多くしている。このため、固体撮像装置1を搭載した撮像システムでは、固体撮像装置1から出力された通常の撮影におけるそれぞれの画素信号に基づいて画像を生成する画像処理部は、より高解像度の画像、つまり、高画質の画像を生成することができる。
なお、固体撮像装置1を搭載した撮像システムに備えた画像処理部は、それぞれの画素信号に基づいた画像を生成する際に、固体撮像装置1において動き検出画素52が配置されている位置の画素信号、つまり、欠けている画素の画素信号を補間することによって、全ての画素の画素信号が含まれた画像を生成する。より具体的には、通常画素51から通常読み出しによって読み出した画素信号から画像を生成する場合、動き検出画素52が配置されている位置に対応する通常画素51の画素信号を、周辺の通常画素51の画素信号に基づいて補間する。なお、本発明においては、画像処理部が、動き検出画素52が配置されている位置に対応するそれぞれの通常画素51の画素信号を補間する方法(画素の補間演算の方法)に関しては、特に規定しない。
また、固体撮像装置1では、動き検出画素52からイベント画素信号が出力されたときに、第1の画素指定方法のように、イベント画素信号を出力した動き検出画素52の位置を中心とした予め定めた読み出し領域内に配置された通常画素51から画素信号を出力する(読み出す)。つまり、固体撮像装置1では、被写体の動きを検出した動き検出画素52が配置された位置を中心とした予め定めた小さな読み出し領域に配置されている通常画素51のみから通常の撮影の画素信号を出力する(読み出す)。これにより、固体撮像装置1では、従来の固体撮像装置のように、被写体の動きを反映した画像を生成するために通常の撮影で得た全ての画素信号を読み出すのに比べて、消費電力を削減することができる。
なお、固体撮像装置1を搭載した撮像システムに備えた画像処理部は、第1の画素指定方法によって出力された(読み出された)被写体の動きが検出された小さな読み出し領域の画素信号に基づいて、被写体の動きを反映した画像を生成する。つまり、画像処理部は、すでに固体撮像装置1から取得している1フレーム分の画素信号の内、動きが検出された小さな読み出し領域に対応する少ない数の画素信号を差し替えて画像を生成することにより、被写体の動きを反映した画像を生成する。
なお、第1の画素指定方法では、1個の動き検出画素52がイベント画素信号を出力したときに、イベント画素信号を出力した動き検出画素52が配置された位置に基づいて、画素信号を読み出す通常画素51を指定する方法を示した。しかし、上述したように、固体撮像装置1では、被写体の動きを検出する動き検出を逐次行うことができる。このため、同時期に複数の動き検出画素52が被写体の動きを検出することも考えられる。
ここで、同時期に複数の動き検出画素52からイベント画素信号が出力された場合に、読み出しアドレス制御回路100が画素信号を出力する(読み出す)読み出し領域を決定する方法について説明する。図6は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)の一例を模式的に示した図である。図6には、図4に示したように固体撮像装置1を構成する第1の半導体基板11の画素アレイ部40の領域内に画素50(通常画素51および動き検出画素52)が配置される場合において、複数の動き検出画素52から同時期にイベント画素信号が出力された場合に画素信号を出力させる通常画素51が配置された読み出し領域を決定する方法の一例を示している。
図6に示した画素50(通常画素51および動き検出画素52)の配置の一例において、6行7列目に配置された動き検出画素52aと、2行7列目に配置された動き検出画素52bと、2行11列目に配置された動き検出画素52cと、6行11列目に配置された動き検出画素52dとのそれぞれから、同時期にイベント画素信号が出力された場合を考える。この場合、読み出しアドレス制御回路100は、動き検出画素52aの位置を中心として予め定めた5行5列の矩形の読み出し領域ar1と、動き検出画素52bの位置を中心として予め定めた5行5列の矩形の読み出し領域ar2と、動き検出画素52cの位置を中心として予め定めた5行5列の矩形の読み出し領域ar3と、動き検出画素52dの位置を中心として予め定めた5行5列の矩形の読み出し領域ar4とのそれぞれの読み出し領域を決定する。
しかし、図6に示したように読み出し領域ar1と、読み出し領域ar2と、読み出し領域ar3と、読み出し領域ar4とのそれぞれの読み出し領域には、隣接する読み出し領域同士に同じ通常画素51も含まれている。つまり、互いの読み出し領域内に配置されている通常画素51が重複している。このような場合、読み出しアドレス制御回路100は、互いの読み出し領域で重複している通常画素51から重複して画素信号を読み出さないよう、画素信号を読み出す読み出し領域を決定する。より具体的には、図6に示したように、イベント画素信号を出力した全ての動き検出画素52に対応する全ての矩形の読み出し領域(読み出し領域ar1〜読み出し領域ar4)が含まれる矩形の読み出し領域ar5を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定する。そして、読み出しアドレス制御回路100は、読み出し領域ar5内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。
これにより、垂直走査回路20および水平走査回路30のそれぞれは、指定された読み出し領域ar5内の通常画素51を順次駆動して、読み出し領域ar5内に配置されているそれぞれの通常画素51から画素信号を出力する(読み出す)。
このように、固体撮像装置1では、同時期に複数の動き検出画素52からイベント画素信号が出力された場合、第1の画素指定方法において、読み出しアドレス制御回路100は、イベント画素信号を出力したそれぞれの動き検出画素52が配置された位置に応じて、画素信号を読み出す通常画素51を指定する読み出し領域を決定する。これにより、固体撮像装置1では、重複する通常画素51から画素信号を複数回出力する(読み出す)ことなく、消費電力を削減することができる。
なお、第1の画素指定方法では、通常画素51から画素信号を出力する(読み出す)予め定めた読み出し領域が、イベント画素信号を出力した動き検出画素52aの位置を中心とした5行5列の矩形の読み出し領域である場合について説明した。しかし、通常画素51から画素信号を出力する(読み出す)予め定めた読み出し領域の大きさは、上述した5行5列に限定されるものではなく、画素アレイ部40内の通常画素51と動き検出画素52との配置などに応じて、種々の大きさ(行列の数)が考えられる。また、それぞれの読み出し領域は、隣接する読み出し領域同士で重複している読み出し領域、つまり、同じ通常画素51を含んだ読み出し領域に限定しない。
なお、第1の画素指定方法では、1個の動き検出画素52または複数の動き検出画素52がイベント画素信号を出力したときに、イベント画素信号を出力した動き検出画素52が配置された位置に基づいて、画素信号を読み出す通常画素51を指定する矩形の読み出し領域を決定する場合について説明した。しかし、イベント画素信号を出力する動き検出画素52が配置された位置は、常に容易に矩形の読み出し領域を決定することができる位置に配置されているとは限らない。特に、同時期に複数の動き検出画素52からイベント画素信号が出力された場合には、イベント画素信号を出力した動き検出画素52が配置された位置によっては、図6に示したように、容易に矩形の読み出し領域を決定することができる位置に配置されているとは限らない。そこで、読み出しアドレス制御回路100は、イベント画素信号を出力したそれぞれの動き検出画素52が配置された位置に応じて、画素信号を読み出す通常画素51を指定する読み出し領域を決定する方法を変更する構成にしてもよい。
(第2の画素指定方法)
次に、第1の実施形態の固体撮像装置1における通常画素51の別の指定方法について説明する。図7は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)の別の一例を模式的に示した図である。図7には、固体撮像装置1を構成する第1の半導体基板11の画素アレイ部40の領域内に画素50(通常画素51および動き検出画素52)が配置されている場合において、複数の動き検出画素52から同時期にイベント画素信号が出力された場合に画素信号を出力させる通常画素51が配置された読み出し領域を決定する方法の一例を示している。
なお、図7において、動き検出画素分布D1は、画素アレイ部40の全体の領域内に配置された複数の動き検出画素52の内、同時期にイベント画素信号を出力した動き検出画素52が分布している範囲を表している。従って、動き検出画素分布D1の領域は、読み出しアドレス制御回路100が画素信号を読み出す通常画素51を指定する最小の読み出し領域に相当する。
図7に示した動き検出画素分布D1のように、イベント画素信号を出力したそれぞれの動き検出画素52に対応する矩形の読み出し領域(以下、それぞれの動き検出画素52に対応する矩形の読み出し領域を区別せずに表すときは「読み出し領域ar」という)を複数組み合わせることによって、画素信号を読み出す通常画素51を指定することができる場合を考える。この場合、読み出しアドレス制御回路100が、第1の画素指定方法の考え方に基づいて、それぞれの読み出し領域arで重複する通常画素51を除いた領域を読み出し領域として決定しても、実際に動き検出画素分布D1の領域に配置されている通常画素51を読み出しアドレス制御回路100が指定するには、その指定方法が複雑になる。つまり、効率的にそれぞれの通常画素51から画素信号を読み出すためには、それぞれの読み出し領域ar内に配置されている通常画素51を指定するための制御信号を出力するタイミングを考慮して制御することが必要になる。例えば、読み出しアドレス制御回路100が、それぞれの通常画素51から画素信号を読み出すために、それぞれの読み出し領域ar内に配置されている通常画素51を指定するための制御信号を出力するタイミングを考慮することも必要になる。このため、動き検出画素分布D1のように複雑な形状に分布した動き検出画素52に対応する読み出し領域ar内に配置されたそれぞれの通常画素51から、効率的に画素信号を読み出すことができないことも考えられる。
そこで、読み出しアドレス制御回路100における第2の画素指定方法では、動き検出画素分布D1を包含する矩形の領域を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定する。より具体的には、第2の画素指定方法では、イベント画素信号を出力した全ての動き検出画素52に対応する全ての矩形の読み出し領域arが含まれる矩形の読み出し領域ar6を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定する。この場合、読み出しアドレス制御回路100は、例えば、それぞれの動き検出画素52に対応した矩形の読み出し領域arから、全ての矩形の読み出し領域arが含まれる左上の通常画素51の位置と右下の通常画素51の位置とを求める。そして、読み出しアドレス制御回路100は、求めた左上と右下とのそれぞれの通常画素51の位置によって表される矩形の読み出し領域ar6を、動き検出画素分布D1に対応した画素信号を読み出す通常画素51の読み出し領域として決定する。
これにより、画素信号を読み出す通常画素51を指定する最小の読み出し領域よりは大きな読み出し領域内に配置されたそれぞれの通常画素51から画素信号を読み出すことになるものの、通常画素51を指定するための制御信号を出力するための処理が、簡単になる。そして、読み出しアドレス制御回路100は、読み出し領域ar6内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。
そして、垂直走査回路20および水平走査回路30のそれぞれは、左上の位置(開始位置)の通常画素51から右下の位置(終了位置)の通常画素51までを順次駆動して、読み出し領域ar6内に配置されているそれぞれの通常画素51から画素信号を出力する(読み出す)。なお、開始位置と終了位置とに基づいて通常画素51から画素信号を出力する(読み出す)方法は、一般的に多くの固体撮像装置において行うことができる画素信号の読み出し方法に合致する方法である。
このように、固体撮像装置1では、複雑な形状に分布した複数の動き検出画素52から同時期にイベント画素信号が出力された場合には、読み出しアドレス制御回路100は、第2の画素指定方法によって、通常画素51を指定するための制御信号を出力するための処理が簡単になる矩形の領域を、画素信号を読み出す通常画素51を指定する読み出し領域として決定する。これにより、固体撮像装置1を搭載した撮像システムに備えた画像処理部が被写体の動きを反映した画像を生成する際の処理も簡単にすることができる。
なお、第1の画素指定方法および第2の画素指定方法では、イベント画素信号を出力する動き検出画素52が、画素アレイ部40の全体の領域内の1カ所である場合について説明した。しかし、イベント画素信号を出力する動き検出画素52は、画素アレイ部40の全体の領域内の複数箇所に存在することも考えられる。
ここで、画素アレイ部40の全体の領域内の複数箇所に存在する動き検出画素52から同時期にイベント画素信号が出力された場合に、読み出しアドレス制御回路100が画素信号を出力する(読み出す)読み出し領域を決定する方法について説明する。図8は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)のさらに別の一例を模式的に示した図である。図8には、図7に示したように固体撮像装置1を構成する第1の半導体基板11の画素アレイ部40の領域内に画素50(通常画素51および動き検出画素52)が配置されている場合において、同時期にイベント画素信号を出力する複数の動き検出画素52の分布が複数箇所に存在する場合に画素信号を出力させる通常画素51が配置された読み出し領域を決定する方法の一例を示している。
なお、図8に示した動き検出画素分布D1、動き検出画素分布D2、および動き検出画素分布D3のそれぞれは、同時期にイベント画素信号を出力した動き検出画素52の分布を表している。従って、動き検出画素分布D1、動き検出画素分布D2、および動き検出画素分布D3のそれぞれの領域は、読み出しアドレス制御回路100が画素信号を読み出す通常画素51を指定するそれぞれの最小の読み出し領域に相当する。
図8に示したように、同時期にイベント画素信号を出力する複数の動き検出画素52の分布が複数箇所に存在する場合、読み出しアドレス制御回路100は、第2の画素指定方法の考え方に基づいて、それぞれの動き検出画素分布に対応する通常画素51から画素信号を読み出すそれぞれの読み出し領域を決定する。より具体的には、動き検出画素分布D1に対応する矩形の読み出し領域ar6と、動き検出画素分布D2に対応する矩形の読み出し領域ar7と、動き検出画素分布D3に対応する矩形の読み出し領域ar8とのそれぞれの読み出し領域を決定する。
しかし、図8に示したように読み出し領域ar6と読み出し領域ar7とが近い位置に存在する場合、読み出し領域ar6内の通常画素51と、読み出し領域ar7内の通常画素51とのそれぞれから画素信号を読み出すと、それぞれの通常画素51から、効率的に画素信号を読み出すことができないことも考えられる。つまり、読み出し領域ar6と読み出し領域ar7とが近接している場合には、読み出し領域ar6と読み出し領域ar7とを別々にしてそれぞれの読み出し領域内の通常画素51から画素信号を読み出すよりも、読み出し領域ar6と読み出し領域ar7とを合わせた読み出し領域内のそれぞれの通常画素51から画素信号を読み出す方が効率的であることも考えられる。
このような場合、読み出しアドレス制御回路100は、近接している複数の読み出し領域を合わせた領域を、画素信号を読み出す読み出し領域として決定する。より具体的には、図8に示したように、読み出し領域ar6と読み出し領域ar7とが含まれる矩形の読み出し領域ar9を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定する。
一方、図8に示したように、読み出し領域ar8は、読み出し領域ar6および読み出し領域ar7のいずれにも近接していない。この場合に読み出しアドレス制御回路100が、読み出し領域ar8と、読み出し領域ar6および読み出し領域ar7とが含まれる矩形の読み出し領域ar10を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定してしまうと、読み出し領域ar10内のそれぞれの通常画素51からの画素信号の読み出しが多くなってしまう。
このような場合、読み出しアドレス制御回路100は、読み出し領域ar10を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定せず、読み出し領域ar9と読み出し領域ar8とを別々に、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定し、それぞれの読み出し領域内の通常画素51から画素信号を読み出すようにしてもよい。しかし、図8に示したように、読み出し領域ar10が、ほぼ画素アレイ部40の全ての領域であると判定することができる場合には、画素アレイ部40の全ての領域を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定してもよい。つまり、1フレーム分の画素信号を読み出すようにしてもよい。
なお、複数の読み出し領域を合わせた読み出し領域を、画素信号を読み出す読み出し領域として決定するか否かの判定は、上述したように、通常画素51を指定するための制御信号を出力するための処理が簡単になるか否かによって行う。この場合、複数の読み出し領域を合わせる前の状態でそれぞれの読み出し領域内の通常画素51から画素信号を読み出す際のデータ出力時間および画素信号を読み出す読み出し領域を切り替える処理の処理時間を合わせた時間と、複数の読み出し領域を合わせた読み出し領域内の通常画素51から画素信号を読み出す際のデータの出力時間とを比較した結果も、判定の材料にしてもよい。なお、画素信号を読み出す読み出し領域として複数の読み出し領域を合わせるか否かを判定する材料は、上述した時間の比較結果に限定されるものではなく、複数の読み出し領域を合わせて処理したときと、それぞれの読み出し領域を別々に処理したときの処理の負荷の差など、種々の判定材料が考えられる。
このように、固体撮像装置1では、同時期にイベント画素信号を出力する複数の動き検出画素52の分布が複数箇所に存在する場合、第2の画素指定方法において、読み出しアドレス制御回路100は、それぞれの動き検出画素52の分布が存在する位置に応じて、それぞれの分布に対応する複数の読み出し領域を合わせた読み出し領域を、画素信号を読み出す通常画素51を指定する1つの読み出し領域として決定する。これにより、固体撮像装置1では、通常画素51を指定するための制御信号を出力するための処理を、より簡単にすることができる。
なお、第1および第2の画素指定方法では、動き検出画素52がイベント画素信号を出力したときに、イベント画素信号を出力した動き検出画素52の位置を中心として予め定めた矩形の読み出し領域を、通常画素51から画素信号を読み出す読み出し領域とする場合について説明した。しかし、例えば、イベント画素信号を出力した動き検出画素52の分布が、図8に示した動き検出画素分布D3のみである場合のように、イベント画素信号を出力した動き検出画素52の数や動き検出画素52が分布している範囲の大きさによっては、被写体の動きが少ないと判定し、通常画素51から画素信号を読み出す読み出し領域として指定しない構成にしてもよい。
(第3の画素指定方法)
次に、第1の実施形態の固体撮像装置1における通常画素51のさらに別の指定方法について説明する。図9は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)を決定する処理の処理手順を示したフローチャートである。
読み出しアドレス制御回路100は、画素アレイ部40内に配置したいずれかの動き検出画素52からイベント画素信号が入力されると、入力されたイベント画素信号を取得する(ステップS100)。続いて、読み出しアドレス制御回路100は、取得したイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した動き検出画素52の位置を検出(確認)する(ステップS101)。そして、読み出しアドレス制御回路100は、検出(確認)したイベント画素信号を出力した動き検出画素52の位置の分布を算出する(ステップS102)。
続いて、読み出しアドレス制御回路100は、算出した動き検出画素52の位置の分布の大きさが、予め定めた分布の大きさの閾値よりも大きいか否かを判定する(ステップS103)。ここで、予め定めた分布の大きさの閾値は、画素信号を読み出す通常画素51の読み出し領域を設定する最小の分布の大きさとして予め定めた分布の大きさを、例えば、面積や、画素アレイ部40の全体の領域に対する面積の比率などによって表した値である。
ステップS103における判定の結果、算出した動き検出画素52の位置の分布の大きさが、予め定めた分布の大きさの閾値よりも大きいと判定した場合(ステップS103の“YES”)、読み出しアドレス制御回路100は、算出した動き検出画素52の位置の分布の大きさに応じた、画素信号を読み出す通常画素51の読み出し領域(例えば、図7に示した読み出し領域ar)を決定する(ステップS104)。
続いて、読み出しアドレス制御回路100は、決定した読み出し領域内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。これにより、垂直走査回路20および水平走査回路30のそれぞれは、読み出しアドレス制御回路100から出力された制御信号に応じて、指定された通常画素51を順次駆動し、画素信号を読み出す(ステップS105)。そして、読み出しアドレス制御回路100は、画素信号を出力させる通常画素51を指定する読み出し領域を決定する処理を完了する。
一方、ステップS103における判定の結果、算出した動き検出画素52の位置の分布の大きさが、予め定めた分布の大きさの閾値よりも大きくない、すなわち、予め定めた分布の大きさの閾値以下であると判定した場合(ステップS103の“NO”)、読み出しアドレス制御回路100は、画素信号を出力させる通常画素51を指定する読み出し領域を決定する処理を完了する。つまり、読み出しアドレス制御回路100は、画素信号を読み出す通常画素51の読み出し領域を決定せずに(通常画素51から画素信号を読み出さずに)、処理を完了する。
読み出しアドレス制御回路100は、図9に示したフローチャートの処理手順を、動き検出画素52からイベント画素信号が入力されるごとに行う。これにより、読み出しアドレス制御回路100は、被写体の動きを検出した動き検出画素52の範囲が、閾値で定められた分布の大きさよりも大きい範囲になった場合に、画素信号を読み出す通常画素51の読み出し領域を決定することができる。より具体的には、例えば、イベント画素信号を出力した動き検出画素52の分布が、図8に示した動き検出画素分布D1のような大きさである場合には、矩形の読み出し領域ar6を通常画素51から画素信号を出力する(読み出す)読み出し領域として決定して処理を完了する。一方、例えば、イベント画素信号を出力した動き検出画素52の分布が、図8に示した動き検出画素分布D3のような大きさである場合には、矩形の読み出し領域ar8を通常画素51から画素信号を出力する(読み出す)読み出し領域として決定せずに処理を完了する。これにより、固体撮像装置1では、被写体の動きが少ない場合には、通常画素51から画素信号を読み出すことなく、消費電力を削減することができる。
なお、同時期に複数の動き検出画素52が被写体の動きを検出してイベント画素信号を出力する場合でも、それぞれのイベント画素信号が同時に読み出しアドレス制御回路100に入力されないことも考えられる。このため、読み出しアドレス制御回路100がステップS102においてイベント画素信号を出力した動き検出画素52の位置の分布を算出する場合、予め定めた期間内にイベント画素信号を出力した複数の動き検出画素52の位置に基づいて分布を算出することが望ましい。つまり、図9に示したフローチャートにおけるステップS100〜ステップS102の処理を、予め定めた期間だけ繰り返して、イベント画素信号を出力した動き検出画素52の位置の分布の大きさが確定された状態にしてから、ステップS103における判定を行うことが望ましい。
なお、画素信号を出力させる通常画素51の読み出し領域を決定する処理は、図9に示したフローチャートのように、動き検出画素52の分布に基づく処理に限定されるものではなく、上述したように、イベント画素信号を出力した動き検出画素52の数に基づいた処理であってもよい。
ここで、イベント画素信号を出力した動き検出画素52の数に基づいて画素信号を出力させる通常画素51の読み出し領域を決定する処理について説明する。図10は、本発明の第1の実施形態の固体撮像装置1において画素信号を出力させる画素50(通常画素51)を指定する領域(読み出し領域)を決定する別の処理の処理手順を示したフローチャートである。
読み出しアドレス制御回路100は、画素アレイ部40内に配置したいずれかの動き検出画素52からイベント画素信号が入力されると、図9に示したフローチャートにおけるステップS100と同様に、入力されたイベント画素信号を取得する(ステップS110)。続いて、読み出しアドレス制御回路100は、取得したイベント画素信号に含まれるアドレス情報から、図9に示したフローチャートにおけるステップS101と同様に、イベント画素信号を出力した動き検出画素52の位置を検出(確認)する(ステップS111)。そして、読み出しアドレス制御回路100は、検出(確認)したイベント画素信号を出力した動き検出画素52の数を算出する(ステップS112)。
続いて、読み出しアドレス制御回路100は、算出した動き検出画素52の数が、予め定めた数の閾値よりも大きいか否かを判定する(ステップS113)。ここで、予め定めた数の閾値は、画素信号を読み出す通常画素51の読み出し領域を設定する動き検出画素52の最小値を、例えば、動き検出画素52の数や、画素アレイ部40に配置した全ての動き検出画素52の数に対する動き検出画素52の数の比率などによって表した値である。
ステップS113における判定の結果、算出した動き検出画素52の数が、予め定めた数の閾値よりも大きいと判定した場合(ステップS113の“YES”)、読み出しアドレス制御回路100は、検出(確認)したそれぞれの動き検出画素52の位置に応じた、画素信号を読み出す通常画素51の読み出し領域(例えば、図7に示した読み出し領域ar)を決定する(ステップS114)。
続いて、読み出しアドレス制御回路100は、決定した読み出し領域内に配置されている通常画素51を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。これにより、垂直走査回路20および水平走査回路30のそれぞれは、読み出しアドレス制御回路100から出力された制御信号に応じて、指定された通常画素51を順次駆動し、画素信号を読み出す(ステップS115)。そして、読み出しアドレス制御回路100は、画素信号を出力させる通常画素51を指定する読み出し領域を決定する処理を完了する。
一方、ステップS113における判定の結果、算出した動き検出画素52の数が、予め定めた数の閾値よりも大きくない、すなわち、予め定めた数の閾値以下であると判定した場合(ステップS113の“NO”)、読み出しアドレス制御回路100は、画素信号を出力させる通常画素51を指定する読み出し領域を決定する処理を完了する。つまり、読み出しアドレス制御回路100は、図9に示したフローチャートにおけるステップS103と同様に、画素信号を読み出す通常画素51の読み出し領域を決定せずに(通常画素51から画素信号を読み出さずに)、処理を完了する。
読み出しアドレス制御回路100は、図10に示したフローチャートの処理手順を、図9に示した処理手順と同様に、動き検出画素52からイベント画素信号が入力されるごとに行う。これにより、読み出しアドレス制御回路100は、被写体の動きを検出した動き検出画素52の数が、閾値で定められた数よりも大きい場合に、画素信号を読み出す通常画素51の読み出し領域を決定することができる。より具体的には、例えば、イベント画素信号を出力した動き検出画素52の数が100個以上である場合には、それぞれの動き検出画素52の位置を中心として予め定めた矩形の読み出し領域を合わせた読み出し領域を、通常画素51から画素信号を出力する(読み出す)読み出し領域として決定して処理を完了する。一方、イベント画素信号を出力した動き検出画素52の数が100個よりも少ない場合には、通常画素51から画素信号を出力する(読み出す)読み出し領域を決定せずに処理を完了する。これにより、固体撮像装置1では、図9に示した処理手順と同様に、被写体の動きが少ない場合には、通常画素51から画素信号を読み出すことなく、消費電力を削減することができる。
なお、イベント画素信号を出力した動き検出画素52の数に基づいて画素信号を出力させる通常画素51の読み出し領域を決定する場合でも、それぞれの動き検出画素52が同時にイベント画素信号を出力しないことも考えられる。つまり、複数の動き検出画素52のそれぞれから同時期に複数のイベント画素信号が入力されるが、それぞれのイベント画素信号が同時に読み出しアドレス制御回路100に入力されないことも考えられる。このため、図9に示した処理手順と同様に、読み出しアドレス制御回路100がステップS112においてイベント画素信号を出力した動き検出画素52の数を算出する場合、予め定めた期間内にイベント画素信号を出力した動き検出画素52の数を算出することが望ましい。従って、図9に示した処理手順と同様に、図10に示したフローチャートにおけるステップS110〜ステップS112の処理を、予め定めた期間だけ繰り返して、イベント画素信号を出力した動き検出画素52の数が確定された状態にしてから、ステップS113における判定を行うことが望ましい。
なお、上記の説明では、第1〜第3の画素指定方法のそれぞれの方法が別々の方法であるものとして説明した。しかし、第1〜第3のそれぞれの画素指定方法を組み合わせて適用してもよい。つまり、動き検出画素52からイベント画素信号が出力された状況に応じて、第1〜第3の画素指定方法のいずれか方法を用いて画素信号を読み出す通常画素51の読み出し領域を決定するかを切り替える構成にしてもよい。
また、第1〜第3の画素指定方法では、画素アレイ部40の全体の領域に対して第1〜第3の画素指定方法のそれぞれの考え方を適用して、イベント画素信号を出力した動き検出画素52に対応する画素信号を読み出す通常画素51の読み出し領域を決定する場合について説明した。しかし、画素信号を読み出す通常画素51の読み出し領域を決定する際に判定する領域は、上述したような画素アレイ部40の全体の領域に限定されるものではない。例えば、画素アレイ部40の全体の領域を、予め定めた行数および列数で区切った複数のブロックに分割する。そして、読み出しアドレス制御回路100が、分割したそれぞれのブロックの領域に対して第1〜第3の画素指定方法のいずれかの考え方を適用することによって、画素信号を読み出す通常画素51の読み出し領域を、それぞれのブロックごとに決定してもよい。この場合、例えば、分割したそれぞれのブロックの領域を、上述した画素アレイ部40の全ての領域と考えて、イベント画素信号を出力した動き検出画素52に対応する画素信号を読み出す通常画素51の読み出し領域を決定してもよい。また、例えば、図10に示したイベント画素信号を出力した動き検出画素52の数に基づいて画素信号を出力させる通常画素51の読み出し領域を決定する処理のステップS113における閾値を、動き検出画素52の数の代わりに、イベント画素信号を出力した動き検出画素52が含まれるブロックの数として処理を行ってもよい。
なお、第1の実施形態の固体撮像装置1では、画素アレイ部40の領域内に配置する画素50(通常画素51および動き検出画素52)の構成として、図3Aに示した通常画素51および図3Bに示した動き検出画素52の構成を示した。しかし、画素アレイ部40の領域内に配置する画素50の構成は、図3Aおよび図3Bに示した構成に限定されるものではない。例えば、図3Aに示した通常画素51は、光電変換素子PD1が発生した電荷信号を蓄積する回路要素を備えていない。そして、図3Bに示した動き検出画素52は、通常画素51の動作と非同期のタイミングでイベント画素信号を出力する。このため、通常画素51が予め定めた周期(フレームレート)で通常の撮影のための露光を行っている期間、すなわち、通常画素51の露光期間中であっても、動き検出画素52がイベント画素信号を出力することも考えられる。この場合、動き検出画素52から出力されたイベント画素信号に応じて通常画素51から画素信号を読み出そうとしても、通常画素51が露光期間中である場合には、直前の露光によって得た通常の撮影における画素信号、すなわち、被写体の動きを反映した高画質の画像を生成するための画素信号を読み出すことができないことも考えられる。この場合には、通常画素51からの画素信号の読み出しを、現在行っている露光が終了するまで待つことが必要になる。そこで、通常画素51の構成を、光電変換素子PD1が発生した電荷信号を蓄積する回路要素を備えた構成に変更することによって、蓄積している信号電荷に応じた画素信号、すなわち、直前の露光によって得た通常の撮影における画素信号を、動き検出画素52から出力されたイベント画素信号に応じて読み出すことができるようになる。
(第1の実施形態の変形例)
次に、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置する通常画素51の別の構成について説明する。図11は、本発明の第1の実施形態の固体撮像装置1における画素50(通常画素51)の別の構成の一例を示した回路図である。なお、以下の説明においては、別の構成の通常画素51を「通常画素53」という。
なお、通常画素53を構成する回路要素には、通常画素51を構成する回路要素と同様の回路要素を含んでいる。従って、以下の説明においては、通常画素53を構成する回路要素において、通常画素51を構成する回路要素と同様の回路要素には同一の符号を付与し、詳細な説明は省略する。
図11において、通常画素53は、光電変換素子PD1と、電荷転送トランジスタ511と、画素リセットトランジスタ512と、増幅トランジスタ513と、ノイズ抑圧素子534と、サンプルホールドトランジスタ531と、電荷蓄積容量530と、クランプトランジスタ532と、第2の増幅トランジスタ533と、選択トランジスタ514とを備えている。なお、図11においては、通常画素53に備えた増幅トランジスタ513のゲート端子に接続されたノードに付随する容量であるノード容量FD1を、通常画素53の回路要素としてキャパシタの記号で示している。
通常画素53においては、電荷転送トランジスタ511、画素リセットトランジスタ512、増幅トランジスタ513、ノイズ抑圧素子534、サンプルホールドトランジスタ531、電荷蓄積容量530、クランプトランジスタ532、第2の増幅トランジスタ533、および選択トランジスタ514と、ノード容量FD1とで、光電変換素子PD1が発生させた電荷信号に応じた画素信号を蓄積して読み出す読み出し回路を構成している。固体撮像装置1では、通常画素53の光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。
電荷転送トランジスタ511は、垂直走査回路20から入力された制御信号TX1に応じて、光電変換素子PD1が発生して蓄積した電荷信号を、増幅トランジスタ513のゲート端子に転送する。これにより、電荷転送トランジスタ511によって転送された電荷信号が、ノード容量FD1に蓄積される。
増幅トランジスタ513は、ゲート端子に転送された電荷信号、すなわち、ノード容量FD1に蓄積された電荷信号に応じた信号電圧を、ノイズ抑圧素子534の第1の端子に出力する。
画素リセットトランジスタ512は、垂直走査回路20から入力された制御信号RST1に応じて、通常画素53内の電荷信号を、電源電圧VDDにリセットする。
ノイズ抑圧素子534は、増幅トランジスタ513から第1の端子に入力された信号電圧を蓄積する容量である。
クランプトランジスタ532は、垂直走査回路20から入力された制御信号RST2に応じて、電荷蓄積容量530とノイズ抑圧素子534とのそれぞれを固定電位VREFにクランプする。これにより、電荷蓄積容量530とノイズ抑圧素子534とのそれぞれは、クランプされた固定電位VREFを保持(蓄積)する。
サンプルホールドトランジスタ531は、垂直走査回路20から入力された制御信号TX2に応じて、ノイズ抑圧素子534の第2の端子から出力された信号電圧を電荷蓄積容量530に蓄積させる。
電荷蓄積容量530は、サンプルホールドトランジスタ531を介して入力された、ノイズ抑圧素子534の第2の端子から出力された信号電圧(ノイズ除去処理された信号)を蓄積する容量である。
増幅トランジスタ513から出力された信号電圧、つまり、光電変換素子PD1が発生した電荷信号に応じた信号電圧は、クランプトランジスタ532、サンプルホールドトランジスタ531、電荷蓄積容量530、およびノイズ抑圧素子534の構成によって、リーク電流(暗電流)に起因するノイズ除去処理が行われる。そして、電荷蓄積容量530は、ノイズ除去処理された信号電圧を蓄積する。
なお、電荷蓄積容量530としては、単位面積当たりのリーク電流(暗電流)が少ない容量であるMIM(Metal Insulator Metal)容量や、MOS(Metal Oxide Semiconductor)容量を使用することがより望ましい。これにより、ノイズに対する耐性が向上し、高品質な信号を得ることができる。
第2の増幅トランジスタ533は、ゲート端子の電圧、すなわち、電荷蓄積容量530に蓄積されたノイズ除去処理された信号電圧に応じた信号電圧を、選択トランジスタ514に出力する。
選択トランジスタ514は、垂直走査回路20から入力された制御信号SELに応じて、第2の増幅トランジスタ533から出力される信号電圧を、通常画素53の画素信号として垂直信号線60に出力する。これにより、通常画素53に備えた光電変換素子PD1が発生した電荷信号に応じた画素信号が、垂直信号線60に読み出される。
このような構成によって、通常画素53では、光電変換素子PD1が入射した光を光電変換した電荷信号に応じたそれぞれの信号電圧を、電荷蓄積容量530に一旦蓄積し、垂直走査回路20からの制御に応じて、蓄積した信号電圧を、画素信号として垂直信号線60に読み出す。
ここで、図11に示した通常画素53の駆動タイミングについて説明する。図12は、本発明の第1の実施形態の固体撮像装置1において通常画素53を駆動するタイミングの一例を示したタイミングチャートである。図12に示したタイミングチャートは、通常の撮影によって得た電荷信号に応じた信号電圧を一旦蓄積した後、蓄積した信号電圧を画素信号として垂直信号線60に出力するように通常画素53を制御する、垂直走査回路20の制御タイミングを示している。
通常の撮影を行う場合、まず、時刻t1において、画素アレイ部40内の全ての通常画素53をリセットする。より具体的には、時刻t1において、垂直走査回路20は、制御信号RST1と制御信号TX1とを、同時に“High”レベルにして、画素リセットトランジスタ512と電荷転送トランジスタ511とをON状態にする。これにより、画素アレイ部40内の全ての通常画素53に備えた光電変換素子PD1とノード容量FD1とがリセットされる。
その後、垂直走査回路20は、制御信号RST1と制御信号TX1とを、同時に“Low”レベルにして、画素リセットトランジスタ512と電荷転送トランジスタ511とをOFF状態にし、画素アレイ部40内の全ての通常画素53のリセットを解除する。これにより、画素アレイ部40内の全ての通常画素53が同時に露光を開始する。すなわち、画素アレイ部40内の全ての通常画素53に備えた光電変換素子PD1が、入射した光を光電変換した電荷信号の発生と蓄積とを開始する。
続いて、一定の期間が経過した後、すなわち、通常の撮影における任意の露光時間が経過した後、時刻t2から、光電変換素子PD1のリセットレベルの信号電圧と露光によって発生した信号電圧(以下、「露光レベルの信号電圧」という)との、ノイズ抑圧素子534への読み出しを行う。そして、通常画素53における光電変換素子PD1のリセットレベルの信号電圧と露光レベルの信号電圧との差分をとるノイズ除去処理を行う。
より具体的には、時刻t2において、垂直走査回路20は、制御信号RST1を“High”レベルにして、画素リセットトランジスタ512をON状態にし、ノード容量FD1をリセットする。これにより、増幅トランジスタ513から光電変換素子PD1のリセットレベルの信号電圧が、ノイズ抑圧素子534の第1の端子に出力される。
また、垂直走査回路20は、制御信号RST2および制御信号TX2を“High”レベルにして、クランプトランジスタ532とサンプルホールドトランジスタ531とをON状態にする。これにより、電荷蓄積容量530とノイズ抑圧素子534とのそれぞれが、固定電位VREFにクランプされる。
その後、垂直走査回路20は、制御信号RST1を“Low”レベルにして、画素リセットトランジスタ512をOFF状態にし、ノード容量FD1のリセットを解除する。続いて、時刻t3において、垂直走査回路20は、制御信号RST2を“Low”レベルにして、電荷蓄積容量530のクランプを解除する。
続いて、時刻t4において、垂直走査回路20は、制御信号TX1を“High”レベルにして、電荷転送トランジスタ511をON状態にし、光電変換素子PD1に蓄積された電荷信号を、増幅トランジスタ513のゲート端子に転送する。このとき、電荷転送トランジスタ511によって転送された電荷信号は、ノード容量FD1に蓄積される。これにより、増幅トランジスタ513から光電変換素子PD1が発生した電荷信号、すなわち、ノード容量FD1に蓄積された電荷信号に応じた信号電圧(露光レベルの信号電圧)が、ノイズ抑圧素子534の第1の端子に出力される。
そして、ノイズ抑圧素子534は、光電変換素子PD1のリセットレベルの信号電圧と露光レベルの信号電圧との差分の電圧、すなわち、ノイズ除去処理された信号電圧を、第2の端子から出力する。
その後、垂直走査回路20は、制御信号TX1を“Low”レベルにして、電荷転送トランジスタ511をOFF状態にし、光電変換素子PD1に蓄積された電荷信号の増幅トランジスタ513のゲート端子への転送を停止する。
続いて、時刻t5において、垂直走査回路20は、制御信号TX2を“Low”レベルにして、サンプルホールドトランジスタ531をOFF状態にし、電荷蓄積容量530のサンプルホールドを停止する。これにより、電荷蓄積容量530は、ノイズ抑圧素子534が出力しているノイズ除去処理された信号電圧を蓄積する。
ここまでで、通常画素53に備えた光電変換素子PD1が発生した電荷信号がノイズ除去処理されて、電荷蓄積容量530に蓄積されることになる。なお、固体撮像装置1では、ここまでの制御を、画素アレイ部40内に配置された全ての通常画素53に対して同時に制御することによって、いわゆる、グローバルシャッタ機能で、通常画素53に通常の撮影を行わせる。従って、通常画素53は、光電変換素子PD1が発生した電荷信号に応じた信号電圧がノイズ除去処理されて電荷蓄積容量530に蓄積されれば、引き続き、次の通常の撮影のための露光を開始することができる。
その後、垂直走査回路20は、読み出しアドレス制御回路100から、画素信号を読み出す通常画素53を指定するための制御信号が入力されると、指定された通常画素53の制御信号SELを順次制御して、それぞれの通常画素53に備えた電荷蓄積容量530に蓄積されたノイズ除去処理されたそれぞれの信号電圧を順次、それぞれの通常画素53の画素信号として垂直信号線60に出力させる。
このようにして、固体撮像装置1では、読み出しアドレス制御回路100が、被写体の動きを検出した動き検出画素52に対応する通常画素53に一旦蓄積された信号電圧を、通常の撮影のための露光によって通常画素53が得た画素信号として読み出す。
なお、電荷蓄積容量530に蓄積した信号電荷に応じた画素信号の読み出しが行われなかった通常画素53は、次の通常の撮影のための露光が終了すると、電荷蓄積容量530に蓄積した信号電荷を破棄する。より具体的には、時刻t2において、垂直走査回路20が制御信号RST2を“High”レベルにして電荷蓄積容量530を固定電位VREFにクランプすることによって、電荷蓄積容量530に蓄積された信号電荷が破棄される。そして、時刻t3〜時刻t5における垂直走査回路20による制御によって、次の通常の撮影のための露光において光電変換素子PD1が発生した電荷信号がノイズ除去処理されて、電荷蓄積容量530に蓄積される。
このように、第1の実施形態の固体撮像装置1では、画素アレイ部40の領域内に配置する通常画素51の代わりに、光電変換素子PD1が発生した電荷信号を蓄積する回路要素を備えた構成の通常画素53を配置することによって、通常の撮影のための露光によって得た画素信号を、それぞれの通常画素53内に一旦蓄積させる。これにより、固体撮像装置1では、通常画素53が予め定めた周期(フレームレート)で通常の撮影のための露光を行っている露光期間中に動き検出画素52が被写体の動きを検出してイベント画素信号を出力した場合でも、読み出しアドレス制御回路100は、イベント画素信号に応じて通常画素53から画素信号を読み出すことができる。このことにより、固体撮像装置1を搭載した撮像システムに備えた画像処理部は、被写体の動きを検出したときに対して時間的なずれが少ない、被写体の動きを反映した高画質の画像を生成することができる。
第1の実施形態によれば、入射した光を光電変換した第1の電荷信号を発生するn個の第1の光電変換素子(光電変換素子PD1)と、n個の光電変換素子PD1のそれぞれに対応し、対応する光電変換素子PD1が発生した第1の電荷信号に応じた信号電圧を第1の画素信号(通常画素51が出力する画素信号)として出力するn個の第1の読み出し回路(通常画素51の読み出し回路:電荷転送トランジスタ511、画素リセットトランジスタ512、増幅トランジスタ513、選択トランジスタ514、およびノード容量FD1)と、入射した光を光電変換した第2の電荷信号を発生するm個の第2の光電変換素子(光電変換素子PD2)と、m個の光電変換素子PD2のそれぞれに対応し、対応する光電変換素子PD2が発生した第2の電荷信号の変化に基づいた第2の画素信号(イベント画素信号)を逐次出力するm個の第2の読み出し回路(動き検出画素52の読み出し回路)と、光電変換素子PD1の内、予め定めた読み出し領域(読み出し領域ar)内に配置された光電変換素子PD1に対応する第1の画素信号(通常画素51が出力する画素信号)の読み出しを制御する読み出し制御回路(読み出しアドレス制御回路100)と、を有し、m個の動き検出画素52の読み出し回路のそれぞれは、対応する光電変換素子PD2が発生した第2の電荷信号の時間的な変化を検出し、予め定めた閾値を超える変化を検出したときに、変化を表すイベント信号を出力する検出回路(スレッショルドアンプ524およびスレッショルドアンプ525)と、イベント信号に、対応する光電変換素子PD2が配置された位置を表すアドレス情報を付加したイベント画素信号を出力する画素信号生成回路(AER回路526)と、を有し、読み出しアドレス制御回路100は、イベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2が配置された位置に基づいた領域(例えば、読み出し領域ar1)を、第1の画素信号(通常画素51が出力する画素信号)を読み出す読み出し領域arとして決定し、決定した読み出し領域ar内に配置された光電変換素子PD1のそれぞれに対応する通常画素51の読み出し回路のそれぞれに第1の画素信号(通常画素51が出力する画素信号)を出力させ、nは2以上の自然数であり、mは2以上の自然数である、固体撮像装置(固体撮像装置1)が構成される。
また、第1の実施形態によれば、読み出しアドレス制御回路100は、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2が分布している位置に基づいて生成した矩形の領域(例えば、予め定めた5行5列の矩形の読み出し領域ar1)を、読み出し領域arとして決定する、固体撮像装置1が構成される。
また、第1の実施形態によれば、読み出しアドレス制御回路100は、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2が分布している領域(例えば、動き検出画素分布D1)を包含する矩形の領域(例えば、読み出し領域ar6)を、読み出し領域arとして決定する、固体撮像装置1が構成される。
また、第1の実施形態によれば、読み出しアドレス制御回路100は、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2の分布の大きさが、予め定めた分布の大きさの閾値よりも大きい場合に、光電変換素子PD2の分布の大きさに応じた矩形の領域を読み出し領域arとして決定し、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2の分布の大きさが、分布の大きさの閾値以下である場合に、読み出し領域arを決定しない、固体撮像装置1が構成される。
また、第1の実施形態によれば、読み出しアドレス制御回路100は、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2の数が、予め定めた数の閾値よりも多い場合に、それぞれのアドレス情報に対応する光電変換素子PD2に対応する読み出し領域arを決定し、同時期に出力されたイベント画素信号に含まれるアドレス情報に対応する光電変換素子PD2の数が、数の閾値以下である場合に、読み出し領域arを決定しない、固体撮像装置1が構成される。
また、第1の実施形態によれば、読み出しアドレス制御回路100は、n個の光電変換素子PD1が配置された全体の領域を、予め定めた大きさで区切った複数のブロックに分割し、分割したそれぞれのブロックごとに、読み出し領域arを決定する、固体撮像装置1が構成される。
また、第1の実施形態によれば、n個の光電変換素子PD1のそれぞれおよびm個の光電変換素子PD2のそれぞれは、第1の半導体基板(第1の半導体基板11)の同一の平面の領域(画素アレイ部40の領域)に周期的に配置される、固体撮像装置1が構成される。
また、第1の実施形態によれば、AER回路526は、第1の半導体基板11に光が入射する側の面と反対側の面に積層される第2の半導体基板(第2の半導体基板12)に配置される、固体撮像装置1が構成される。
また、第1の実施形態によれば、第1の半導体基板11と第2の半導体基板12との間に形成され、第1の半導体基板11の回路要素と第2の半導体基板12の回路要素とを電気的に接続する接続部(チップ接続部13)、をさらに有し、チップ接続部13は、m個の動き検出画素52の読み出し回路のそれぞれが有するスレッショルドアンプ524およびスレッショルドアンプ525と、対応する光電変換素子PD2とを電気的に接続する、固体撮像装置1が構成される。
上記に述べたように、第1の実施形態の固体撮像装置1では、通常の撮影による画素信号の出力に特化した通常画素51(または通常画素53)と、動き検出によるイベント画素信号の出力に特化した動き検出画素52とのそれぞれを、画素アレイ部40における行方向および列方向に周期的に(平面状に)配置する。これにより、第1の実施形態の固体撮像装置1では、通常の撮影と被写体の動きを逐次検出する動き検出とを両立することができる。
そして、第1の実施形態の固体撮像装置1では、動き検出画素52からイベント画素信号が出力されたときに、イベント画素信号を出力した動き検出画素52の位置に対応する予め定めた読み出し領域内に配置された通常画素51(または通常画素53)から画素信号を出力する(読み出す)。つまり、第1の実施形態の固体撮像装置1では、被写体の動きを検出した動き検出画素52が配置された位置に対応する予め定めた小さな読み出し領域に配置されている通常画素51(または通常画素53)のみから通常の撮影の画素信号を出力する(読み出す)。これにより、第1の実施形態の固体撮像装置1では、従来の固体撮像装置のように、被写体の動きを反映した画像を生成するために通常の撮影で得た全ての画素信号を読み出すのに比べて、消費電力を削減することができる。
また、第1の実施形態の固体撮像装置1を搭載した撮像システムに備えた画像処理部は、被写体の動きが検出された小さな読み出し領域に配置されている通常画素51(または通常画素53)のみから出力した(読み出した)少ない数の画素信号に基づいて、被写体の動きを反映した画像を生成することができる。このことにより、第1の実施形態の固体撮像装置1を搭載した撮像システムに備えた画像処理部では、被写体の動きを検出したときに対して時間的なずれが少ない、被写体の動きを反映した高画質の画像を生成することができる。
なお、図4に示した通常画素51と動き検出画素52との配置の一例では、画素アレイ部40内に配置する動き検出画素52の数が、通常画素51の数よりも少ない。しかし、被写体の動きの検出では、通常の撮影において生成する画像ほど高い解像度、つまり、高画質は要求されない。一方、通常の撮影においては、画素アレイ部40に備える通常画素51の数を増加させることによって、高画素化を実現することが望ましい。第1の実施形態の固体撮像装置1では、画素アレイ部40内に配置する通常画素51の数をさらに多くすることによって、通常の撮影において生成する画像の画質を向上させる、つまり、高精細な出力を得る構成にすることもできる。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。なお、本発明の第2の実施形態における固体撮像装置(以下、「固体撮像装置2」という)の概観や概略構成は、図1および図2に示した第1の実施形態における固体撮像装置1の概観および概略構成と同様である。従って、以下の説明においては、固体撮像装置2の構成要素において、第1の実施形態の固体撮像装置1の構成要素と同様の構成要素には、同一の符号を用い、それぞれの構成要素や動作に関する詳細な説明は省略する。
ここで、第2の実施形態の固体撮像装置2において画素アレイ部40内に配置する画素50の構成について説明する。固体撮像装置2において画素アレイ部40内に配置する画素50も、第1の実施形態の固体撮像装置1と同様に、通常読み出しによる通常の撮影の画素信号と、動き検出読み出しによる動き検出のイベント画素信号とを出力する。ただし、固体撮像装置2において画素アレイ部40内に配置する動き検出のイベント画素信号を出力する画素50は、通常の撮影の画素信号も出力することができる構成である。すなわち、この画素50は、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置する通常画素51と動き検出画素52との機能の両方を備えた構成の画素である。
以下の説明においては、固体撮像装置2の画素アレイ部40内に配置する、通常読み出しによる通常の撮影の画素信号の出力と、動き検出読み出しによる動き検出のイベント画素信号の出力とを行う画素50を「兼用画素54」という。兼用画素54は、通常画素51に備えた光電変換素子PD1と動き検出画素52に備えた光電変換素子PD2とを兼用し、同じ光電変換素子が発生した電荷信号に基づいて、通常の撮影の画素信号と動き検出のイベント画素信号とのそれぞれを出力する。
図13は、本発明の第2の実施形態の固体撮像装置2における兼用画素54の構成の一例を示した回路図である。図13に示した兼用画素54は、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置した通常画素51に備えた光電変換素子PD1と、動き検出画素52に備えた光電変換素子PD2とを兼用する構成の画素である。なお、兼用画素54を構成する回路要素には、第1の実施形態の固体撮像装置1において配置する通常画素51または動き検出画素52を構成する回路要素と同様の回路要素を含んでいる。従って、以下の説明においては、兼用画素54を構成する回路要素において、通常画素51または動き検出画素52を構成する回路要素と同様の回路要素には同一の符号を付与し、詳細な説明は省略する。
図13において、兼用画素54は、光電変換素子PD12と、電荷転送トランジスタ511と、画素リセットトランジスタ512と、増幅トランジスタ513と、選択トランジスタ514と、アンプ521と、バイアストランジスタ522と、スイッチトキャパシタアンプ回路523と、スレッショルドアンプ524およびスレッショルドアンプ525と、AER回路526とを備えている。また、スイッチトキャパシタアンプ回路523は、キャパシタ5231と、アンプ5232と、キャパシタ5233と、スイッチ5234とを備えている。なお、図13においては、兼用画素54に備えた増幅トランジスタ513のゲート端子に接続されたノードに付随する容量であるノード容量FD1を、兼用画素54の回路要素としてキャパシタの記号で示している。
兼用画素54では、光電変換素子PD12と、電荷転送トランジスタ511と、画素リセットトランジスタ512と、増幅トランジスタ513と、選択トランジスタ514と、ノード容量FD1との構成によって、通常の撮影による電荷信号を発生させる画素、つまり、第1の実施形態の固体撮像装置1における通常画素51と同様の画素を構成する。なお、以下の説明においては、通常の撮影による電荷信号を発生させる兼用画素54を「通常兼用画素541」という。通常兼用画素541においては、電荷転送トランジスタ511、画素リセットトランジスタ512、増幅トランジスタ513、および選択トランジスタ514と、ノード容量FD1とで、通常の撮影において光電変換素子PD12が発生させた電荷信号に応じた画素信号を読み出す読み出し回路を構成している。
また、兼用画素54では、光電変換素子PD12と、アンプ521と、バイアストランジスタ522と、スイッチトキャパシタアンプ回路523と、スレッショルドアンプ524およびスレッショルドアンプ525と、AER回路526との構成によって、動き検出のための電荷信号を発生させる画素、つまり、第1の実施形態の固体撮像装置1における動き検出画素52と同様の画素を構成する。なお、以下の説明においては、動き検出のための電荷信号を発生させる兼用画素54を「動き検出兼用画素542」という。動き検出兼用画素542においては、アンプ521およびバイアストランジスタ522で、動き検出のために光電変換素子PD12が発生させた電荷信号を出力する出力回路を構成し、スイッチトキャパシタアンプ回路523、スレッショルドアンプ524、スレッショルドアンプ525、およびAER回路526で、動き検出のために光電変換素子PD12が発生させた電荷信号を読み出す読み出し回路を構成している。
固体撮像装置2では、兼用画素54を、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置した動き検出画素52の代わりに、配置する。このとき、固体撮像装置2では、光電変換素子PD12と、通常兼用画素541の読み出し回路と、動き検出兼用画素542の出力回路とを、第1の半導体基板11に形成する。また、固体撮像装置2では、動き検出兼用画素542の読み出し回路を第2の半導体基板12に形成する。
光電変換素子PD12は、第1の実施形態の固体撮像装置1において、通常画素51に備えた光電変換素子PD1および動き検出画素52に備えた光電変換素子PD2と同様に、入射してきた光(光線)を光電変換して電荷信号を発生させ、発生させた電荷信号を蓄積するフォトダイオードである。光電変換素子PD12は、発生させた電荷信号を逐次、アンプ521に出力する。
兼用画素54は、通常の撮影による画素信号を出力する画素として動作する場合、つまり、通常読み出しによって通常兼用画素541から画素信号を垂直信号線60に出力する場合、アンプ521は、バイアスの制御に応じて、バイアストランジスタ522が常にON状態になるようにする電圧の電圧信号Vpを、バイアストランジスタ522のゲート端子に出力する。すなわち、兼用画素54において通常の撮影による画素信号を出力する場合には、バイアストランジスタ522によって、光電変換素子PD12が発生した電荷信号を、電荷転送トランジスタ511にそのまま伝送させる。これにより、電荷転送トランジスタ511は、垂直走査回路20から入力された制御信号TXに応じて、光電変換素子PD12が発生して蓄積し、バイアストランジスタ522を介して入力された電荷信号を、増幅トランジスタ513のゲート端子に転送する。これにより、電荷転送トランジスタ511によって転送された電荷信号が、ノード容量FD1に蓄積される。
このような動作によって、兼用画素54(通常兼用画素541)では、光電変換素子PD12が入射した光を光電変換した電荷信号に応じたそれぞれの信号電圧を、画素信号として垂直信号線60に読み出す。
一方、兼用画素54は、動き検出のための電荷信号を発生させる画素として動作する場合、つまり、動き検出読み出しによって動き検出兼用画素542から動き検出のイベント画素信号とを出力する場合、垂直走査回路20は、画素リセットトランジスタ512が常にON状態になるように制御信号RSTを制御する。また、垂直走査回路20は、制御信号TXを固定のバイアス電圧に制御する。これにより、画素リセットトランジスタ512と電荷転送トランジスタ511とによって、バイアストランジスタ522に、固定のバイアス電圧に応じた固定の電圧が供給される。
このような動作によって、兼用画素54(動き検出兼用画素542)では、光電変換素子PD12が、被写体の動きに応じた大きさの電荷信号を発生させて、電荷信号の変化とその変化した方向に応じたイベント画素信号を出力する。
このような構成および動作によって、兼用画素54は、通常読み出しによる通常の撮影の画素信号と、動き検出読み出しによる動き検出のイベント画素信号とを出力することができる。
なお、図13に示した兼用画素54の構成では、第1の実施形態の固体撮像装置1において画素アレイ部40内に配置した通常画素51に備えた光電変換素子PD1と、動き検出画素52に備えた光電変換素子PD2とを兼用する構成を示した。しかし、兼用画素54は、第1の実施形態の変形例において示した通常画素53に備えた光電変換素子PD1と、動き検出画素52に備えた光電変換素子PD2とを兼用する光電変換素子PD12を備えた構成にすることもできる。より具体的には、図13に示した兼用画素54と同様に、通常画素53に備えた電荷転送トランジスタ511において光電変換素子PD1が接続されたソース端子およびドレイン端子の一方の端子と、動き検出画素52に備えたバイアストランジスタ522において光電変換素子PD2が接続されていないソース端子およびドレイン端子の一方の端子とを接続する。これにより、通常画素53に備えた光電変換素子PD1と、動き検出画素52に備えた光電変換素子PD2とを兼用する構成にすることができる。
なお、兼用画素54では、上述したように、通常画素51(または通常画素53)に対応する通常兼用画素541と、動き検出画素52に対応する動き検出兼用画素542とで光電変換素子PD12を兼用している。このため、固体撮像装置2では、通常兼用画素541から画素信号を読み出す通常読み出しと、動き検出兼用画素542から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを排他的に行う。
(第2の実施形態の画素指定方法)
次に、第2の実施形態の固体撮像装置2における画素50(通常画素51または通常画素53)の指定方法について説明する。なお、固体撮像装置2において読み出しアドレス制御回路100が画素信号を出力する(読み出す)通常画素53の読み出し領域を決定する方法は、第1の実施形態の固体撮像装置1における第1〜第3の画素指定方法と同様である。従って、固体撮像装置2において、読み出しアドレス制御回路100が、画素信号を出力する(読み出す)通常画素53の読み出し領域を決定する方法に関する詳細な説明は省略し、以下の説明においては、固体撮像装置2において画素信号を出力する通常画素51(または通常画素53)を指定する構成について説明する。
以下の説明においては、固体撮像装置2の画素アレイ部40内に、通常の撮影の画素信号の読み出しを行う画素50として通常画素53が、通常の撮影の画素信号とイベント画素信号との読み出しを行う画素50として兼用画素54が、それぞれ配置されているものとして説明する。なお、画素アレイ部40における通常画素53と兼用画素54との配置は、図4に示した第1の実施形態の固体撮像装置1における画素50の配置と同様であるものとする。より具体的には、固体撮像装置2の画素アレイ部40において、図4に示した第1の実施形態の固体撮像装置1の画素アレイ部40内に配置された通常画素51の代わりに通常画素53が配置され、動き検出画素52の代わりに兼用画素54が配置されているものとする。
図14は、本発明の第2の実施形態の固体撮像装置2において画素信号を出力する構成を示した図である。図14には、固体撮像装置2おいて通常画素53と兼用画素54とが配置された画素アレイ部40の一部の縦構造と、制御回路10に備えた読み出しアドレス制御回路100とを示している。より具体的には、第1の半導体基板11に形成された通常画素53と、第1の半導体基板11および第2の半導体基板12に形成された兼用画素54と、読み出しアドレス制御回路100との間でやり取りされるそれぞれの信号を示している。
上述したように、固体撮像装置2では、通常画素53の光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。図14には、通常画素53の光電変換素子PD1と、通常画素53の読み出し回路に備えた選択トランジスタ514とを第1の半導体基板11に形成している状態を示している。
また、上述したように、固体撮像装置2では、兼用画素54の光電変換素子PD12と、兼用画素54内に構成される通常兼用画素541の読み出し回路と、兼用画素54内に構成される動き検出兼用画素542の出力回路とを第1の半導体基板11に形成する。また、上述したように、固体撮像装置2では、兼用画素54内に構成される動き検出兼用画素542の読み出し回路を第2の半導体基板12に形成する。図14には、兼用画素54の光電変換素子PD12と通常兼用画素541の読み出し回路に備えた選択トランジスタ514とを第1の半導体基板11に形成し、動き検出兼用画素542の読み出し回路に備えたスイッチトキャパシタアンプ回路523とAER回路526とを第2の半導体基板12に形成している状態を示している。
このとき、固体撮像装置2では、動き検出兼用画素542の読み出し回路を、第1の半導体基板11に形成された通常画素53の領域と重複している領域を含めた第2の半導体基板12の領域に形成する。図14には、動き検出兼用画素542の読み出し回路に備えたスイッチトキャパシタアンプ回路523とAER回路526とを、第1の半導体基板11に形成された通常画素53の領域と重複している領域を含めた第2の半導体基板12の領域に形成している状態を示している。
そして、固体撮像装置2では、動き検出兼用画素542の出力回路と、対応する動き検出兼用画素542の読み出し回路とを、第1の半導体基板11と第2の半導体基板12との間に形成するチップ接続部13によって電気的に接続する。図14には、第1の半導体基板11に形成した動き検出兼用画素542の出力回路に備えたアンプ521(不図示)と、第2の半導体基板12に形成した動き検出兼用画素542の読み出し回路に備えたスイッチトキャパシタアンプ回路523とを、チップ接続部13によって接続している状態を示している。
そして、固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、第2の半導体基板12に形成された動き検出兼用画素542のAER回路526は、光電変換素子PD12が発生した電荷信号の時間的な変化を検出したとき、イベント画素信号を、読み出しアドレス制御回路100に出力する。
読み出しアドレス制御回路100は、イベント画素信号が入力されると、入力されたイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した兼用画素54の位置を検出(確認)する。そして、読み出しアドレス制御回路100は、検出(確認)した兼用画素54の位置を中心とした予め定めた読み出し領域に配置されている通常画素53の領域を、通常画素53から画素信号を出力する(読み出す)読み出し領域に決定する。
そして、読み出しアドレス制御回路100は、決定した読み出し領域内に配置されている通常画素53を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。これにより、垂直走査回路20および水平走査回路30のそれぞれは、指定された通常画素53を順次駆動して、読み出しアドレス制御回路100によって指定された通常画素53から画素信号を出力する(読み出す)。
なお、固体撮像装置2では、画素アレイ部40内に、通常の撮影の画素信号とイベント画素信号との読み出しを行う兼用画素54が配置されている。このため、固体撮像装置2では、兼用画素54内に構成される動き検出兼用画素542が出力したイベント画素信号に応じて読み出す画素信号は、通常画素53から読み出す通常の撮影による画素信号のみではなく、兼用画素54内に構成される通常兼用画素541からも通常の撮影による画素信号を読み出すことができる。つまり、第1の実施形態の固体撮像装置1では、画素アレイ部40において動き検出画素52が配置されている画素アレイ部40内の位置が、通常の撮影の画素信号を読み出す通常画素51が欠けている位置となっていたが、固体撮像装置2では、固体撮像装置1において動き検出画素52が配置されている位置でも、通常の撮影による画素信号を読み出すことができる。すなわち、通常の撮影における画素信号が欠けている位置がない。このため、固体撮像装置2から出力された通常の撮影における画素信号に基づいて画像を生成する画像処理部は、それぞれの画素信号に基づいた画像を生成する際に、欠けている画素の画素信号を補間する演算を行う必要がない。
ただし、上述したように、固体撮像装置2では、兼用画素54内に構成される通常兼用画素541から画素信号を読み出す通常読み出しと、兼用画素54内に構成される動き検出兼用画素542から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを時分割で行う。
ここで、兼用画素54内に構成される通常兼用画素541と動き検出兼用画素542とのそれぞれから画素信号(通常の撮影における画素信号およびイベント画素信号)を読み出す動作について説明する。なお、以下の説明においては、兼用画素54が、通常画素53に備えた光電変換素子PD1と、動き検出画素52に備えた光電変換素子PD2とを兼用する構成の兼用画素54であるものとして説明する。つまり、兼用画素54内に構成される通常兼用画素541は、通常画素53と同様に、光電変換素子PD12が発生した電荷信号に応じた信号電圧を電荷蓄積容量530に一旦蓄積する動作をし、兼用画素54に備えた動き検出兼用画素542は、動き検出画素52と同様に、逐次被写体の動きを検出する動き検出の動作をするものとして説明する。
図15は、本発明の第2の実施形態の固体撮像装置2における画素信号(通常の撮影における画素信号およびイベント画素信号)の読み出しシーケンスを示したタイミングチャートである。なお、固体撮像装置2においても、垂直走査回路20および水平走査回路30のそれぞれが、制御回路10または制御回路10に備えた読み出しアドレス制御回路100が出力した制御信号に応じて通常画素53や兼用画素54を駆動するが、以下の説明においては、説明を容易にするため、読み出しアドレス制御回路100が通常画素53や兼用画素54を駆動するものとして説明する。なお、通常画素53の動作と兼用画素54内に構成される通常兼用画素541の動作とは同様であるため、以下の説明においては、通常画素53の動作を、通常兼用画素541の動作として説明する。また、動き検出画素52の動作は、兼用画素54に備えた動き検出兼用画素542の動作として説明する。図15には、兼用画素54に備えた光電変換素子PD12と、通常兼用画素541の動作を表すための電荷蓄積容量530と、動き検出兼用画素542の動作を表すAER回路526とを示している。
読み出しアドレス制御回路100は、予め定めたフレームレートの周期で、通常兼用画素541(通常画素53も含む)に通常の撮影のための露光を行わせる。そして、読み出しアドレス制御回路100は、通常の撮影における任意の露光時間が経過した後、グローバルシャッタ機能の動作によって、全ての通常兼用画素541の光電変換素子PD12(通常画素53の光電変換素子PD1も含む)が発生した電荷信号に応じた信号電圧を電荷蓄積容量530に転送して蓄積させる。
その後、読み出しアドレス制御回路100は、引き続き、動き検出兼用画素542に動き検出のための露光を行わせる。これにより、動き検出兼用画素542は、被写体の動きを逐次検出する。なお、図15には、光電変換素子PD12が発生する電荷信号が飽和した場合を考慮し、動き検出のための露光を、予め定めた任意の露光時間で区切って、複数回行う場合を示している。
そして、読み出しアドレス制御回路100は、いずれかの動き検出兼用画素542からイベント画素信号が入力されると、入力されたイベント画素信号に含まれるアドレス情報に基づいて、画素信号を読み出す通常画素53の読み出し領域を決定し、決定した読み出し領域内に配置されている通常画素53から画素信号を読み出す。このとき、読み出しアドレス制御回路100は、イベント画素信号を出力した動き検出兼用画素542と光電変換素子PD12を兼用している通常兼用画素541からも、画素信号を読み出す。より具体的には、決定した読み出し領域内に配置されている通常画素53および通常兼用画素541に備えた電荷蓄積容量530から、蓄積した信号電圧に応じた画素信号を読み出す。
このように、固体撮像装置2では、通常の撮影のためのそれぞれの露光の間の時間に、動き検出のための露光を行う。そして、被写体の動きを検出した動き検出兼用画素542を備えた兼用画素54内に構成される通常兼用画素541からも画素信号を読み出す。このとき、固体撮像装置2では、第1の実施形態の固体撮像装置1と同様に、すでに取得している1フレーム分の画素信号の内、動きが検出された小さな読み出し領域から少ない数の画素信号を読み出す。これにより、固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、検出した被写体の動きに応じた画素信号を読み出す際の消費電力を削減することができる。
しかも、固体撮像装置2では、被写体の動きを検出した動き検出兼用画素542が配置された位置の通常の撮影における画素信号も、画素信号を読み出す読み出し領域内の画素信号として読み出すことができる。このため、固体撮像装置2を搭載した撮像システムに備えた画像処理部は、それぞれの画素信号に基づいた画像を生成する際に、欠けている画素の画素信号を補間する演算を行う必要がない。
第2の実施形態によれば、s個の第1の光電変換素子(光電変換素子PD1)が発生したs個の第1の電荷信号を1つの単位とした電荷信号を第2の光電変換素子(光電変換素子PD2)が発生する第2の電荷信号として兼用し、sは1以上の自然数であり、第2の電荷信号として兼用する第1の電荷信号を出力する光電変換素子PD1の総数は、1以上でn以下の自然数である、固体撮像装置(固体撮像装置2)が構成される。
上記に述べたように、第2の実施形態の固体撮像装置2では、通常の撮影による画素信号の出力に特化した通常画素51(または通常画素53)と、通常の撮影による画素信号の出力と、動き検出によるイベント画素信号の出力とを、同じ光電変換素子PD12が発生した電荷信号に基づいて行う兼用画素54を、画素アレイ部40における行方向および列方向に周期的に(平面状に)配置する。これにより、第2の実施形態の固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、通常の撮影と被写体の動きを逐次検出する動き検出とを両立することができる。
そして、第2の実施形態の固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、兼用画素54内に構成される動き検出兼用画素542からイベント画素信号が出力されたときに、イベント画素信号を出力した動き検出兼用画素542の位置に対応する予め定めた読み出し領域内に配置された通常画素51(または通常画素53)から画素信号を出力する(読み出す)。つまり、第2の実施形態の固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、被写体の動きを検出した兼用画素54(動き検出兼用画素542)が配置された位置に対応する予め定めた小さな読み出し領域に配置されている通常画素51(または通常画素53)とイベント画素信号を出力した兼用画素54内に構成される通常兼用画素541のみから通常の撮影の画素信号を出力する(読み出す)。これにより、第2の実施形態の固体撮像装置2でも、第1の実施形態の固体撮像装置1と同様に、従来の固体撮像装置のように、被写体の動きを反映した画像を生成するために通常の撮影で得た全ての画素信号を読み出すのに比べて、消費電力を削減することができる。
また、第2の実施形態の固体撮像装置2を搭載した撮像システムに備えた画像処理部も、第1の実施形態の固体撮像装置1を搭載した撮像システムに備えた画像処理部と同様に、被写体の動きが検出された小さな読み出し領域に配置されている通常画素51(または通常画素53)と、兼用画素54(通常兼用画素541)のみから出力した(読み出した)少ない数の画素信号に基づいて、被写体の動きを反映した画像を生成することができる。このとき、第2の実施形態の固体撮像装置2を搭載した撮像システムに備えた画像処理部は、欠けている画素の画素信号を補間する演算を行うことなく、被写体の動きを反映した画像を生成することができる。このことにより、第2の実施形態の固体撮像装置2を搭載した撮像システムに備えた画像処理部は、第1の実施形態の固体撮像装置1を搭載した撮像システムに備えた画像処理部よりも少ない処理の負荷で、被写体の動きを検出したときに対して時間的なずれが少ない、被写体の動きを反映した高画質の画像を生成することができる。
なお、第2の実施形態の固体撮像装置2では、通常画素51(または通常画素53)と兼用画素54とが、図4に示した第1の実施形態の固体撮像装置1における画素50の配置と同様に配置されているものとして説明した。つまり、第2の実施形態の固体撮像装置2の画素アレイ部40において、図4に示した第1の実施形態の固体撮像装置1の画素アレイ部40内に配置された通常画素51の代わりに通常画素53が配置され、動き検出画素52の代わりに兼用画素54が配置されているものとして説明した。しかし、第2の実施形態の固体撮像装置2における画素アレイ部40内の通常画素51(または通常画素53)と兼用画素54との配置は、上述した第1の実施形態の固体撮像装置1における画素アレイ部40内の画素50の配置と同様の配置に限定されるものではない。例えば、第2の実施形態の固体撮像装置2における画素アレイ部40の平面の領域全体に、兼用画素54を均一に配置してもよい。これは、兼用画素54は、通常兼用画素541が、通常画素51(または通常画素53)と同様に、通常読み出しによって、通常の撮影の画素信号を出力することができる構成の画素50であるからである。
なお、上述したように、第2の実施形態の固体撮像装置2でも、画素アレイ部40に備える通常画素51(または通常画素53)および通常兼用画素541の数を増加させることによって、通常の撮影において高画素化を実現することが望ましい。第2の実施形態の固体撮像装置2でも、画素アレイ部40内に配置する通常画素51(または通常画素53)および通常兼用画素541をより高精細化して、画素アレイ部40内に配置する数をさらに多くすることによって、通常の撮影において生成する画像の画質を向上させる、つまり、高精細な出力を得る構成にすることもできる。
しかしながら、上述したように、第2の実施形態の固体撮像装置2においても、被写体の動きを逐次検出する動き検出では、光電変換素子PD12が、短い時間であっても電荷信号を発生し、動き検出兼用画素542が被写体の動きの検出を行えることが望ましい。ところが、通常兼用画素541をより高精細化すると、動き検出兼用画素542と兼用している光電変換素子PD12の面積が小さくなって、光電変換によって発生する電荷信号のレベルが低下してしまう。これは、動き検出兼用画素542が動き検出において時間的な変化を検出するための電荷信号のレベルも低下するということであり、動き検出の精度が低下してしまうことにつながってしまう。そこで、第2の実施形態の固体撮像装置2では、兼用画素54の構成を変更することによって、通常の撮影において生成する画像の画質を向上させる、つまり、高画素化を実現する構成にすると共に、動き検出の精度の低下を抑える構成にすることもできる。
(第3の実施形態)
次に、本発明の第3の実施形態について説明する。なお、本発明の第3の実施形態における固体撮像装置(以下、「固体撮像装置3」という)の概観や概略構成は、第2の実施形態における固体撮像装置2の概観および概略構成、つまり、図1および図2に示した第1の実施形態における固体撮像装置1の概観および概略構成と同様である。従って、以下の説明においては、固体撮像装置3の構成要素において、第1の実施形態の固体撮像装置1および第2の実施形態の固体撮像装置2の構成要素と同様の構成要素には、同一の符号を用い、それぞれの構成要素や動作に関する詳細な説明は省略する。
ここで、第3の実施形態の固体撮像装置3において画素アレイ部40内に配置する画素50の構成について説明する。固体撮像装置3において画素アレイ部40内に配置する画素50も、第2の実施形態の固体撮像装置2において画素アレイ部40内に配置する兼用画素54と同様に、通常読み出しによる通常の撮影の画素信号と、動き検出読み出しによる動き検出のイベント画素信号とを出力する。すなわち、この画素50も、兼用画素54と同様に、通常画素51(または通常画素53)に備えた光電変換素子PD1と動き検出画素52に備えた光電変換素子PD2とを兼用する構成の画素である。ただし、固体撮像装置3において画素アレイ部40内に配置する画素50は、複数の光電変換素子PD1が発生した電荷信号に基づいて被写体の動きを検出し、イベント画素信号を出力する。
以下の説明においては、固体撮像装置3の画素アレイ部40内に配置する、通常読み出しによる通常の撮影の画素信号の出力と、動き検出読み出しによる動き検出のイベント画素信号の出力とを行う画素50を「兼用画素55」という。兼用画素55は、複数の通常画素51(または通常画素53)の機能と、1個の動き検出画素52の機能とを備えた構成の画素である。つまり、兼用画素55は、図13に示した兼用画素54において、通常の撮影による電荷信号を発生させる通常兼用画素541を高精細化して通常の撮影において生成する画像の画質を向上させると共に、動き検出のための電荷信号を発生させる動き検出兼用画素542が兼用する光電変換素子PD12の数を多くすることによって動き検出の精度の低下を抑える構成の画素である。
図16は、本発明の第3の実施形態の固体撮像装置3における兼用画素55の構成の一例を示した回路図である。図16には、2個の高精細化した通常兼用画素541と1個の動き検出兼用画素552とを備えた構成の兼用画素55を示している。なお、兼用画素55を構成する回路要素には、第2の実施形態の固体撮像装置2において画素アレイ部40内に配置する兼用画素54を構成する回路要素と同様の回路要素を含んでいる。従って、以下の説明においては、兼用画素55を構成する回路要素において、第2の実施形態の固体撮像装置2において画素アレイ部40内に配置する兼用画素54を構成する回路要素と同様の回路要素には同一の符号を付与し、詳細な説明は省略する。
兼用画素55に備えた2個の通常兼用画素541のそれぞれは、兼用画素54内に構成される通常兼用画素541と同様の構成である。図16においては、2個の通常兼用画素541のそれぞれを、通常兼用画素541aおよび通常兼用画素541bとして区別している。そして、図16では、それぞれの通常兼用画素541内の回路要素を区別するため、それぞれの回路要素の符号に続いて、通常兼用画素541のそれぞれを区別するために付与した符号、すなわち、「a」または「b」を付与している。
より具体的には、通常兼用画素541aは、光電変換素子PD12aと、電荷転送トランジスタ511aと、画素リセットトランジスタ512aと、増幅トランジスタ513aと、選択トランジスタ514aと、ノード容量FD1aとによって構成されている。また、通常兼用画素541bは、光電変換素子PD12bと、電荷転送トランジスタ511bと、画素リセットトランジスタ512bと、増幅トランジスタ513bと、選択トランジスタ514bと、ノード容量FD1bとによって構成されている。
なお、通常兼用画素541aおよび通常兼用画素541bの動作や、垂直走査回路20による制御タイミングは、兼用画素54内に構成される通常兼用画素541と同様であるため、詳細な説明は省略する。
また、兼用画素55に備えた1個の動き検出兼用画素552は、兼用画素54内に構成される動き検出兼用画素542と同様の構成である。ただし、動き検出兼用画素552では、1個の動き検出兼用画素552が、複数の通常兼用画素541と光電変換素子PD12を兼用する。図16には、1個の動き検出兼用画素552が、高精細化した通常兼用画素541aおよび通常兼用画素541bのそれぞれと光電変換素子PD12を兼用する。つまり、動き検出兼用画素552は、複数の光電変換素子PD12が発生した電荷信号に基づいて被写体の動きを検出する。このため、動き検出兼用画素552では、それぞれの光電変換素子PD12に対応する回路要素の構成が変更されている。
より具体的には、動き検出兼用画素552は、兼用画素54内に構成される動き検出兼用画素542に備えたアンプ521、バイアストランジスタ522、およびスイッチトキャパシタアンプ回路523に備えたキャパシタ5231のそれぞれが、兼用するそれぞれの光電変換素子PD12に対応した構成になっている。
なお、図16においては、動き検出兼用画素552内の回路要素においていずれかの1つの光電変換素子PD12に対応する回路要素には、光電変換素子PD12に付与された符号(「a」または「b」)をそれぞれの回路要素の符号に続いて付与することによって、それぞれの回路要素が対応する光電変換素子PD12を区別している。
より具体的には、動き検出兼用画素552は、アンプ521aおよびアンプ521bと、バイアストランジスタ522aおよびバイアストランジスタ522bと、スイッチトキャパシタアンプ回路553と、スレッショルドアンプ524およびスレッショルドアンプ525と、AER回路526とによって構成されている。また、スイッチトキャパシタアンプ回路553は、キャパシタ5231aおよびキャパシタ5231bと、アンプ5232と、キャパシタ5233と、スイッチ5234とによって構成されている。
アンプ521aは、対応する光電変換素子PD12aが発生して出力した電荷信号を増幅し、増幅した電荷信号を、チップ接続部13aを介してスイッチトキャパシタアンプ回路553内のキャパシタ5231aに出力する。また、アンプ521aは、増幅した電荷信号を、バイアストランジスタ522aのゲート端子に、電圧信号Vpaとして転送する。
アンプ521bは、対応する光電変換素子PD12bが発生して出力した電荷信号を増幅し、増幅した電荷信号を、チップ接続部13bを介してスイッチトキャパシタアンプ回路553内のキャパシタ5231bに出力する。また、アンプ521bは、増幅した電荷信号を、バイアストランジスタ522bのゲート端子に、電圧信号Vpbとして転送する。
バイアストランジスタ522aは、ゲート端子に転送された電圧信号Vpaに応じて光電変換素子PD12aに流れる電流が一定の電流になるように、つまり、光電変換素子PD12aが発生する電荷信号が変化した場合でも、電荷信号の大きさが変化した後の大きさで逐次安定するように制御する。つまり、光電変換素子PD12aの出力をクリップする。
バイアストランジスタ522bは、ゲート端子に転送された電圧信号Vpbに応じて光電変換素子PD12bに流れる電流が一定の電流になるように、つまり、光電変換素子PD12bが発生する電荷信号が変化した場合でも、電荷信号の大きさが変化した後の大きさで逐次安定するように制御する。つまり、光電変換素子PD12bの出力をクリップする。
スイッチトキャパシタアンプ回路553は、アンプ521aおよびアンプ521bのそれぞれから対応するチップ接続部13aまたはチップ接続部13bを介して入力された電荷信号を加算する。より具体的には、キャパシタ5231aは、対応するアンプ521aから第1の端子に入力された電荷信号を蓄積し、蓄積した電荷信号に応じた電圧の電圧信号を第2の端子から出力する。また、キャパシタ5231bは、対応するアンプ521bから第1の端子に入力された電荷信号を蓄積し、蓄積した電荷信号に応じた電圧の電圧信号を第2の端子から出力する。このとき、図16に示したようにキャパシタ5231aの第2の端子とキャパシタ5231bの第2の端子とが接続されているため、キャパシタ5231aの第2の端子から出力する電圧信号と、キャパシタ5231bの第2の端子から出力する電圧信号とは加算されて、アンプ5232に出力される。そして、スイッチトキャパシタアンプ回路553は、兼用画素54内に構成される動き検出兼用画素542に備えたスイッチトキャパシタアンプ回路523と同様に、加算した電荷信号の変化、つまり、光電変換素子PD12aおよび光電変換素子PD12bのそれぞれが発生する電荷信号を加算した電荷信号の増減を、予め定めた電圧の範囲の電圧信号に変換し、スレッショルドアンプ524およびスレッショルドアンプ525のそれぞれに出力する。
このような構成によって、動き検出兼用画素552では、通常兼用画素541の高精細化に伴ってそれぞれの通常兼用画素541に備えた光電変換素子PD12の面積が小さくなった場合でも、複数の光電変換素子PD12が発生した電荷信号を加算することによって、より大きな電荷信号に基づいて被写体の動きを検出することができる。このため、動き検出兼用画素552では、動き検出の精度の低下を抑えることができる。
なお、動き検出兼用画素552の動作や、垂直走査回路20による制御タイミングは、動き検出兼用画素552が、加算した電荷信号に基づいて動作すること以外は、兼用画素54内に構成される動き検出兼用画素542と同様であるため、詳細な説明は省略する。
このような構成によって、兼用画素55では、高精細化した通常兼用画素541によって通常の撮影において生成する画像の画質を向上させると共に、動き検出兼用画素552が兼用する光電変換素子PD12の数を多くすることによって動き検出の精度の低下を抑えることができる。
そして、固体撮像装置3では、兼用画素55を、画素アレイ部40の平面の領域全体に均一に配置する。このとき、固体撮像装置3では、それぞれの光電変換素子PD12と、それぞれの通常兼用画素541の読み出し回路と、動き検出兼用画素552の出力回路とを第1の半導体基板11に形成し、動き検出兼用画素552の読み出し回路を第2の半導体基板12に形成する。
なお、図16に示した兼用画素55の構成では、図13に示した兼用画素54の構成と同様に、第1の実施形態において図3Aに示した通常画素51に備えた光電変換素子PD1と、第1の実施形態において図3Bに示した動き検出画素52に備えた光電変換素子PD2とを兼用する構成を示した。つまり、それぞれの光電変換素子PD12が発生した電荷信号を蓄積する回路要素を備えていない構成の複数の通常兼用画素541と、動き検出兼用画素542とを合わせた構成を示した。しかし、兼用画素55も、兼用画素54と同様に、第1の実施形態の変形例において図11に示した通常画素53に備えた光電変換素子PD1と、第1の実施形態において図3Bに示した動き検出画素52に備えた光電変換素子PD2とを兼用する光電変換素子PD12を備えた構成にすることもできる。なお、この場合のそれぞれの回路要素の接続は、兼用画素54における考え方と同様である。より具体的には、図16に示した兼用画素55と同様に、通常画素53に備えた電荷転送トランジスタ511において光電変換素子PD1が接続されたソース端子およびドレイン端子の一方の端子と、動き検出画素52に備えたバイアストランジスタ522において光電変換素子PD2が接続されていないソース端子およびドレイン端子の一方の端子とを、それぞれの通常画素53ごとに接続する。これにより、1個の動き検出画素52に備えた光電変換素子PD2を、複数の通常画素53に備えた光電変換素子PD1で構成することができる。
なお、兼用画素55では、上述したように、複数の通常画素51(または通常画素53)に対応する通常兼用画素541と、動き検出画素52に対応する動き検出兼用画素552とで光電変換素子PD12を兼用している。このため、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、通常兼用画素541から画素信号を読み出す通常読み出しと、動き検出兼用画素552から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを排他的に行う。
(第3の実施形態の画素指定方法)
次に、第3の実施形態の固体撮像装置3における通常兼用画素541の指定方法について説明する。なお、固体撮像装置3において読み出しアドレス制御回路100が画素信号を出力する(読み出す)兼用画素55(通常兼用画素541)の読み出し領域を決定する方法は、第1の実施形態の固体撮像装置1における第1〜第3の画素指定方法と同様である。従って、固体撮像装置3において、読み出しアドレス制御回路100が、画素信号を出力する(読み出す)兼用画素55(通常兼用画素541)の読み出し領域を決定する方法に関する詳細な説明は省略し、以下の説明においては、固体撮像装置3において画素信号を出力する兼用画素55(通常兼用画素541)を指定する構成について説明する。なお、以下の説明においては、上述したように、固体撮像装置3の画素アレイ部40の平面の領域全体に、兼用画素55が均一に配置されているものとして説明する。
図17は、本発明の第3の実施形態の固体撮像装置3において画素信号を出力する構成を示した図である。図17には、固体撮像装置3おいて兼用画素55が均一に配置された画素アレイ部40の一部の縦構造と、制御回路10に備えた読み出しアドレス制御回路100とを示している。より具体的には、第1の半導体基板11および第2の半導体基板12に形成された兼用画素55と、読み出しアドレス制御回路100との間でやり取りされるそれぞれの信号を示している。なお、図17には、3個の通常画素51(または通常画素53)に対応する通常兼用画素541と、動き検出画素52に対応する動き検出兼用画素552とで光電変換素子PD12を兼用している構成の兼用画素55を示している。つまり、兼用画素55は、3つの光電変換素子PD12(光電変換素子PD12a〜光電変換素子PD12c)のそれぞれが発生した電荷信号に基づいて被写体の動きを検出する兼用画素である。図17では、それぞれの通常兼用画素541内の回路要素を区別するため、それぞれの回路要素の符号に続いて、「a」、「b」、または「c」を付与している。
上述したように、固体撮像装置3では、兼用画素55のそれぞれの光電変換素子PD12と、兼用画素55内に構成されるそれぞれの通常兼用画素541の読み出し回路と、兼用画素55内に構成される動き検出兼用画素552の出力回路とを第1の半導体基板11に形成する。また、上述したように、固体撮像装置3では、兼用画素55内に構成される動き検出兼用画素552の読み出し回路を第2の半導体基板12に形成する。図17には、兼用画素55の3つの光電変換素子PD12a〜光電変換素子PD12cと、それぞれの通常兼用画素541の読み出し回路に備えたそれぞれの選択トランジスタ514(選択トランジスタ514a〜選択トランジスタ514c)とを第1の半導体基板11に形成し、動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553を第2の半導体基板12に形成している状態を示している。
このとき、固体撮像装置3では、動き検出兼用画素552の読み出し回路を、第1の半導体基板11に形成された通常兼用画素541および動き検出兼用画素552の出力回路の領域と重複している領域を含めた第2の半導体基板12の領域に形成する。図17には、動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553を、第1の半導体基板11に形成された通常画素53および動き検出兼用画素552の出力回路の領域と重複している領域を含めた第2の半導体基板12の領域に形成している状態を示している。
そして、固体撮像装置3では、動き検出兼用画素552の読み出し回路と、対応するそれぞれの動き検出兼用画素552の出力回路とを、第1の半導体基板11と第2の半導体基板12との間に形成するチップ接続部13によって電気的に接続する。図17には、第1の半導体基板11に形成したそれぞれの動き検出兼用画素552の出力回路に備えたアンプ521a(不図示)〜アンプ521c(不図示)と、第2の半導体基板12に形成した動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553とを、対応するチップ接続部13によって接続している状態を示している。
そして、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、第2の半導体基板12に形成された動き検出兼用画素552のAER回路526(不図示)は、光電変換素子PD12a〜光電変換素子PD12cのそれぞれが発生した電荷信号の時間的な変化を検出したとき、イベント画素信号を、読み出しアドレス制御回路100に出力する。
読み出しアドレス制御回路100は、イベント画素信号が入力されると、入力されたイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した兼用画素55の位置を検出(確認)する。なお、ここで、読み出しアドレス制御回路100が検出(確認)する兼用画素55の位置は、兼用画素55内に構成される複数の通常兼用画素541が配置されている領域である。しかし、読み出しアドレス制御回路100は、兼用画素55の領域における中心位置を、イベント画素信号を出力した兼用画素55の位置として検出(確認)してもよい。そして、読み出しアドレス制御回路100は、検出(確認)した兼用画素55の位置を中心とした予め定めた読み出し領域に配置されている通常兼用画素541の領域を、通常兼用画素541から画素信号を出力する(読み出す)読み出し領域に決定する。
そして、読み出しアドレス制御回路100は、決定した読み出し領域内に配置されている通常兼用画素541を指定するための制御信号を、垂直走査回路20および水平走査回路30に出力する。これにより、垂直走査回路20および水平走査回路30のそれぞれは、指定された通常兼用画素541を順次駆動して、読み出しアドレス制御回路100によって指定された通常兼用画素541から画素信号を出力する(読み出す)。
なお、固体撮像装置3では、画素アレイ部40内に、通常の撮影の画素信号とイベント画素信号との読み出しを行う兼用画素55が均一に配置されている。このため、固体撮像装置3では、兼用画素55内に構成される動き検出兼用画素552が出力したイベント画素信号を出力した際に、兼用画素55内に構成される通常兼用画素541から通常の撮影による1フレーム分の画素信号を読み出すことができる。つまり、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、通常の撮影において欠けている画素信号がない。このため、固体撮像装置3から出力された通常の撮影における画素信号に基づいて画像を生成する画像処理部も、それぞれの画素信号に基づいた画像を生成する際に、欠けている画素の画素信号を補間する演算を行う必要がない。
ただし、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、兼用画素55内に構成される通常兼用画素541から画素信号を読み出す通常読み出しと、兼用画素55内に構成される動き検出兼用画素552から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを時分割で行う。
なお、図16に示した兼用画素55の構成では、1個の動き検出兼用画素552が、2個の通常兼用画素541(通常兼用画素541aおよび通常兼用画素541b)と光電変換素子PD12(光電変換素子PD12aおよび光電変換素子PD12b)を兼用する構成を示した。しかし、兼用画素55の構成は、図16に示した構成に限定されるものではない。つまり、兼用画素55において1個の動き検出兼用画素552が兼用する光電変換素子PD12の数は、図16に示した2個に限定されるものではない。例えば、兼用画素55において、1個の動き検出兼用画素552が、4個の通常兼用画素541と光電変換素子PD12を兼用する構成、すなわち、動き検出兼用画素552が4個の光電変換素子PD12が発生した電荷信号を加算した電荷信号に基づいて被写体の動きを検出する構成にしてもよい。
なお、固体撮像装置3では、画素アレイ部40内に、通常の撮影の画素信号とイベント画素信号との読み出しを行う兼用画素55が均一に配置されている場合について説明した。しかし、固体撮像装置3における画素アレイ部40内の兼用画素55の配置は、画素アレイ部40の全体の領域への均一な配置に限定されるものではない。例えば、兼用画素55内に構成される動き検出兼用画素552が兼用する光電変換素子PD12を備えた通常兼用画素541を、画素アレイ部40の行方向および列方向に、周期的に配置してもよい。この場合、兼用画素55内に構成される動き検出兼用画素552が兼用しない光電変換素子の位置には、高精細化した通常画素51(または通常画素53)を配置してもよい。
(第3の実施形態の変形例)
ここで、第3の実施形態の固体撮像装置3における画素アレイ部40内の通常画素51(または通常画素53)および兼用画素55の配置の一例について説明する。図18は、本発明の第3の実施形態の固体撮像装置3における画素50(通常画素51(または通常画素53)および兼用画素55)の配置の一例を模式的に示した図である。図18には、通常画素51(または通常画素53)および兼用画素55のそれぞれに光が入射する側に、赤色(R)、緑色(G)、青色(B)の波長帯域の光に対応するカラーフィルタ(色フィルタ)がベイヤー配列で貼付された、固体撮像装置3を構成する第1の半導体基板11の画素アレイ部40内の通常画素53および兼用画素55の配置の一例を示している。
図18に示した固体撮像装置3における画素50の配置例では、通常画素53を画素アレイ部40の平面の領域全体に均一に配置し、予め定めた位置に配置された通常画素53に備えた光電変換素子PD1を、兼用画素55内に構成される動き検出兼用画素552が兼用するように、兼用画素55を配置している。つまり、画素アレイ部40に配置された通常画素53を、行方向および列方向に周期的に兼用画素55に置き換えたような配置にしている。より具体的には、画素アレイ部40において赤色(R)の波長帯域の光に対応するカラーフィルタが貼付された行の緑色(G)の波長帯域の光に対応するカラーフィルタが貼付された位置に配置された通常画素53に備えた光電変換素子PD1を、兼用画素55内に構成される動き検出兼用画素552が兼用するように配置している。これにより、動き検出兼用画素552は、通常の撮影で生成する画像において輝度を表すと考えることができる緑色(G)の波長帯域の光によって被写体の動きを検出することができる。
なお、上述したように、第2の半導体基板12に形成する動き検出兼用画素552の読み出し回路は、第1の半導体基板11に形成された通常画素53の領域と重複している領域を含めて形成する。従って、図18に示した固体撮像装置3における画素50の配置例では、6行6列の矩形の領域d1〜領域d6のそれぞれの領域に対応する第2の半導体基板12に、動き検出兼用画素552の読み出し回路を形成する。
(第3の実施形態の変形例の画素指定方法)
次に、第3の実施形態の変形例の固体撮像装置3における通常兼用画素541の指定方法について説明する。なお、変形例の固体撮像装置3において読み出しアドレス制御回路100が画素信号を出力する(読み出す)兼用画素55(通常兼用画素541)の読み出し領域を決定する方法も、第1の実施形態の固体撮像装置1における第1〜第3の画素指定方法と同様である。従って、変形例の固体撮像装置3において、読み出しアドレス制御回路100が、画素信号を出力する(読み出す)兼用画素55(通常兼用画素541)の読み出し領域を決定する方法に関する詳細な説明は省略し、以下の説明においては、変形例の固体撮像装置3において画素信号を出力する兼用画素55(通常兼用画素541)を指定する構成について説明する。なお、以下の説明においては、固体撮像装置3の画素アレイ部40の平面の領域に、図18に示したように、通常画素53と兼用画素55とが配置されている場合について説明する。
図19は、本発明の第3の実施形態の変形例の固体撮像装置3において画素信号を出力する別の構成を示した図である。図19には、変形例の固体撮像装置3おいて通常画素53と兼用画素55とが配置された画素アレイ部40の一部の縦構造と、制御回路10に備えた読み出しアドレス制御回路100とを示している。より具体的には、第1の半導体基板11に形成された通常画素53と、第1の半導体基板11および第2の半導体基板12に形成された兼用画素55と、読み出しアドレス制御回路100との間でやり取りされるそれぞれの信号を示している。なお、図19には、2個の通常画素53に対応する通常兼用画素541と動き検出兼用画素552とで光電変換素子PD12(光電変換素子PD12aおよび光電変換素子PD12b)を兼用している構成の兼用画素55を示している。従って、兼用画素55は、光電変換素子PD12aおよび光電変換素子PD12bのそれぞれが発生した電荷信号に基づいて被写体の動きを検出する兼用画素である。
変形例の固体撮像装置3では、通常画素53の光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。図17には、通常画素53の光電変換素子PD1と、通常画素53の読み出し回路に備えた選択トランジスタ514とを第1の半導体基板11に形成している状態を示している。
また、変形例の固体撮像装置3では、兼用画素55のそれぞれの光電変換素子PD12と、兼用画素55内に構成されるそれぞれの通常兼用画素541の読み出し回路と、兼用画素55内に構成される動き検出兼用画素552の出力回路とを第1の半導体基板11に形成する。また、上述したように、変形例の固体撮像装置3では、兼用画素55内に構成される動き検出兼用画素552の読み出し回路を第2の半導体基板12に形成する。図19には、兼用画素55の2つの光電変換素子PD12aおよび光電変換素子PD12bと、それぞれの通常兼用画素541の読み出し回路に備えたそれぞれの選択トランジスタ514(選択トランジスタ514aおよび選択トランジスタ514b)とを第1の半導体基板11に形成し、動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553とAER回路526とを第2の半導体基板12に形成している状態を示している。
このとき、変形例の固体撮像装置3では、動き検出兼用画素552の読み出し回路を、第1の半導体基板11に形成された通常兼用画素541および動き検出兼用画素552の出力回路の領域と重複している領域を含めた第2の半導体基板12の領域に形成する。図19には、動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553とAER回路526とを、第1の半導体基板11に形成された通常画素53および動き検出兼用画素552の出力回路の領域と重複している領域を含めた第2の半導体基板12の領域に形成している状態を示している。
そして、変形例の固体撮像装置3では、動き検出兼用画素552の読み出し回路と、対応するそれぞれの動き検出兼用画素552の出力回路とを、第1の半導体基板11と第2の半導体基板12との間に形成するチップ接続部13によって電気的に接続する。図19には、第1の半導体基板11に形成したそれぞれの動き検出兼用画素552の出力回路に備えたアンプ521a(不図示)およびアンプ521b(不図示)と、第2の半導体基板12に形成した動き検出兼用画素552の読み出し回路に備えたスイッチトキャパシタアンプ回路553とを、対応するチップ接続部13によって接続している状態を示している。
そして、変形例の固体撮像装置3でも、画素アレイ部40の平面の領域全体に、兼用画素55が均一に配置されている場合と同様に、第2の半導体基板12に形成された動き検出兼用画素552のAER回路526は、光電変換素子PD12aおよび光電変換素子PD12bのそれぞれが発生した電荷信号の時間的な変化を検出したとき、イベント画素信号を、読み出しアドレス制御回路100に出力する。
読み出しアドレス制御回路100は、イベント画素信号が入力されると、入力されたイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した兼用画素55の位置を検出(確認)する。なお、読み出しアドレス制御回路100がイベント画素信号を出力した兼用画素55の位置を検出(確認)する際の考え方は、画素アレイ部40の平面の領域全体に、兼用画素55が均一に配置されている場合と同様である。例えば、図18に示した領域d1に配置された動き検出兼用画素552からイベント画素信号が入力されると、読み出しアドレス制御回路100は、イベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した動き検出兼用画素552が配置された領域d1または領域d1の中心位置に相当する3行4列目に配置された通常兼用画素541の位置を、イベント画素信号を出力した兼用画素55の位置として検出(確認)する。
そして、読み出しアドレス制御回路100は、検出(確認)した兼用画素55の位置を中心とした予め定めた読み出し領域に配置されている通常兼用画素541の領域を、通常兼用画素541から画素信号を出力する(読み出す)読み出し領域に決定し、決定した読み出し領域内に配置されている通常兼用画素541から画素信号を出力する(読み出す)。
これにより、変形例の固体撮像装置3から出力された通常の撮影における画素信号に基づいて画像を生成する画像処理部も、欠けている画素の画素信号を補間する演算を行うことなく、それぞれの画素信号に基づいた画像を生成することができる。
このように、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、被写体の動きを検出した兼用画素55が配置された位置に対応する予め定めた小さな読み出し領域に配置されている通常兼用画素541、または通常画素51(または通常画素53)のみから通常の撮影の画素信号を出力する(読み出す)。これにより、固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、検出した被写体の動きに応じた画素信号を読み出す際の消費電力を削減することができる。
なお、固体撮像装置3では、図16に示した兼用画素55の構成のように、1個の動き検出兼用画素552が、複数(図16では2個)の通常兼用画素541と、光電変換素子PD12を兼用する構成を示した。つまり、兼用画素55内に構成される動き検出兼用画素552は、1個の動き検出画素52が行う被写体の動きを検出する機能を、光電変換素子PD2に対応する複数(図16では2個)の光電変換素子PD12が発生した電荷信号に基づいて実現する構成の画素である場合について説明した。しかし、1個の動き検出画素52の機能を実現する際に複数の光電変換素子が発生した電荷信号を用いる構成は、図16に示した構成に限定されるものではない。例えば、1個の動き検出画素52が、複数の光電変換素子PD2が発生した電荷信号を加算した電荷信号に基づいて被写体の動きを検出する構成にしてもよい。この構成の場合、1つの光電変換素子PD2の面積を大きくすることなく、動き検出画素52が、より大きな電荷信号に基づいて被写体の動きを検出することができ、動き検出の精度を向上させることができる。
なお、この構成の場合の画素アレイ部40の縦構造は、図19に示した変形例の固体撮像装置3の縦構造において、第1の半導体基板11および第2の半導体基板12に形成された兼用画素55の代わりに、上述した複数の光電変換素子PD2が発生した電荷信号を加算した電荷信号に基づいて被写体の動きを検出する構成の動き検出画素52が形成されるのと同様に考えることができる。従って、図19に示した光電変換素子PD12(光電変換素子PD12aおよび光電変換素子PD12b)は、上述した複数の光電変換素子PD2が発生した電荷信号を加算した電荷信号に基づいて被写体の動きを検出する構成の1個の動き検出画素52が被写体の動きを検出するために用いる電荷信号を発生させるそれぞれの光電変換素子PD2となる。
第3の実施形態によれば、mはnよりも小さく、sは2以上の自然数であり、m個の第2の読み出し回路(動き検出画素52の読み出し回路)のそれぞれは、対応するs個の第1の光電変換素子(光電変換素子PD1)が発生したs個の第1の電荷信号を1つの単位として加算する加算回路(キャパシタ5231aおよびキャパシタ5231b)、をさらに有し、検出回路(スレッショルドアンプ524およびスレッショルドアンプ525)は、キャパシタ5231aおよびキャパシタ5231bによって加算された後の第1の電荷信号の変化を検出する、固体撮像装置(固体撮像装置3)が構成される。
また、第3の実施形態によれば、動き検出画素52の読み出し回路のそれぞれは、t個の第2の光電変換素子(光電変換素子PD2)を1つの単位とし、t個の光電変換素子PD2が発生したそれぞれの第2の電荷信号を加算する加算回路(キャパシタ5231aおよびキャパシタ5231b)、をさらに有し、検出回路(スレッショルドアンプ524およびスレッショルドアンプ525)は、キャパシタ5231aおよびキャパシタ5231bによって加算された後の第2の電荷信号の変化を検出し、tは2以上の自然数である、固体撮像装置3が構成される。
上記に述べたように、第3の実施形態の固体撮像装置3でも、第2の実施形態の固体撮像装置2と同様に、通常の撮影と被写体の動きを逐次検出する動き検出とを両立することができる。そして、第3の実施形態の固体撮像装置3でも、イベント画素信号を出力した動き検出兼用画素552の位置に対応する予め定めた小さな読み出し領域内に配置された通常兼用画素541、または通常画素51(または通常画素53)から画素信号を出力する(読み出す)ことによって、第2の実施形態の固体撮像装置2と同様の効果を得ることができる。
なお、第3の実施形態の固体撮像装置3では、図18において、ベイヤー配列の緑色(G)の波長帯域の光に対応するカラーフィルタが貼付された画素アレイ部40の位置に配置された通常画素51(または通常画素53)に備えた光電変換素子PD1を、兼用画素55内に構成される動き検出兼用画素552が兼用する場合について説明した。しかし、本発明においては、固体撮像装置3に貼付するカラーフィルタの色や配列に関しては、特に規定しない。例えば、通常画素51(または通常画素53)および兼用画素55のそれぞれに光が入射する側に、赤色(R)、緑色(G)、青色(B)、および白色(W)の波長帯域の光に対応するカラーフィルタが貼付されてもよい。そして、白色(W)の波長帯域の光に対応するカラーフィルタが貼付された画素アレイ部40の位置に配置された通常画素51(または通常画素53)に備えた光電変換素子PD1を、兼用画素55内に構成される動き検出兼用画素552が兼用する構成にしてもよい。この場合、動き検出兼用画素552は、特定の波長帯域の光によってではなく、被写体の動きを検出することができる。また、例えば、通常画素51(または通常画素53)および兼用画素55のそれぞれに光が入射する側に、赤色(R)、緑色(G)、青色(B)、および近赤外(Ir)の波長帯域の光に対応するカラーフィルタを貼付し、近赤外(Ir)の波長帯域の光に対応するカラーフィルタが貼付された画素アレイ部40の位置に配置された通常画素51(または通常画素53)に備えた光電変換素子PD1を動き検出兼用画素552が兼用する構成にしてもよい。この場合、例えば、固体撮像装置3を搭載した撮像システムに赤外光を発光する光源を備え、被写体の動きを検出する際に赤外光を照射することによって、動き検出の精度を向上させる構成にすることもできる。
なお、第2の実施形態の固体撮像装置2および第3の実施形態の固体撮像装置3では、通常画素51(または通常画素53)に備えた光電変換素子PD1を動き検出兼用画素542(または動き検出兼用画素552)が兼用する構成にすることによって、通常の撮影において欠けている画素の画素信号を補間する演算を行わない構成について説明した。しかし、動き検出兼用画素542(または動き検出兼用画素552)が光電変換素子PD1を兼用する以外の構成で、通常の撮影において欠けている画素の画素信号を補間する演算を行わない構成にしてもよい。
(第4の実施形態)
次に、本発明の第4の実施形態について説明する。本発明の第4の実施形態の固体撮像装置(以下、「固体撮像装置4」という)は、画素50の構成が、第1の実施形態において図3Aに示した通常画素51と、図3Bに示した動き検出画素52とである場合に、通常の撮影において欠けている画素の画素信号を補間する演算を行わない構成にした固体撮像装置である。つまり、固体撮像装置4は、第2の実施形態の固体撮像装置2および第3の実施形態の固体撮像装置3のように、画素50の構成を変更することなく、通常の撮影において欠けている画素の画素信号を補間する演算を行わないようにした構成である。
なお、固体撮像装置4の概観や概略構成は、図1および図2に示した第1の実施形態における固体撮像装置1の概観および概略構成を同様である。従って、以下の説明においては、固体撮像装置4の構成要素において、第1の実施形態の固体撮像装置1の構成要素と同様の構成要素には、同一の符号を用い、それぞれの構成要素や動作に関する詳細な説明は省略する。
固体撮像装置4では、通常画素51を第1の半導体基板11の画素アレイ部40の平面の領域全体に均一に配置(形成)し、動き検出画素52を第2の半導体基板12の画素アレイ部40の平面の領域全体に均一に配置(形成)する。つまり、固体撮像装置4は、通常画素51を配置した固体撮像装置と、動き検出画素52を配置した固体撮像装置との2つの固体撮像装置が積層(接合)された構成である。
なお、通常画素51は、図3Aに示した通常画素51と同様の構成である。従って、通常画素51の構成や動作に関する詳細な説明は省略する。また、動き検出画素52は、図3Bに示した動き検出画素52と同様の構成であり、動き検出画素52を第2の半導体基板12に形成するため、チップ接続部13が削除されていることのみが異なる。従って、動き検出画素52の構成や動作に関する詳細な説明は省略する。
なお、固体撮像装置4では、第1の半導体基板11に形成する通常画素51の代わりに、図11に示した通常画素53を第1の半導体基板11に形成してもよい。
(第4の実施形態の画素指定方法)
次に、第4の実施形態の固体撮像装置4における画素50(通常画素51または通常画素53)の指定方法について説明する。なお、固体撮像装置4において読み出しアドレス制御回路100が画素信号を出力する(読み出す)通常画素53の読み出し領域を決定する方法は、第1の実施形態の固体撮像装置1における第1〜第3の画素指定方法と同様である。従って、固体撮像装置4において、読み出しアドレス制御回路100が、画素信号を出力する(読み出す)通常画素51の読み出し領域を決定する方法に関する詳細な説明は省略し、以下の説明においては、固体撮像装置4において画素信号を出力する通常画素51(または通常画素53)を指定する構成について説明する。
図20は、本発明の第4の実施形態の固体撮像装置4において画素信号を出力する構成を示した図である。図20には、固体撮像装置4おいて通常画素51と動き検出画素52とが配置された画素アレイ部40の一部の縦構造と、制御回路10に備えた読み出しアドレス制御回路100とを示している。より具体的には、第1の半導体基板11に形成された通常画素51および第2の半導体基板12に形成された動き検出画素52と、読み出しアドレス制御回路100との間でやり取りされるそれぞれの信号を示している。
固体撮像装置4では、通常画素51の光電変換素子PD1と読み出し回路とを、第1の半導体基板11に形成する。図20には、通常画素51の光電変換素子PD1と、通常画素51の読み出し回路に備えた選択トランジスタ514とを第1の半導体基板11に形成している状態を示している。
また、固体撮像装置4では、動き検出画素52の光電変換素子PD2と、出力回路と、読み出し回路を第2の半導体基板12に形成する。図20には、動き検出画素52の光電変換素子PD2と、動き検出画素52の読み出し回路に備えたスイッチトキャパシタアンプ回路523とAER回路526とを第2の半導体基板12に形成している状態を示している。
このとき、固体撮像装置4では、動き検出画素52を、第1の半導体基板11に形成された通常画素51の領域と重複している第2の半導体基板12の領域に形成する。図20には、動き検出画素52を、第1の半導体基板11に形成された4個分の通常画素51の領域と重複している第2の半導体基板12の領域に形成している状態を示している。
なお、固体撮像装置4では、第2の半導体基板12に配置されたそれぞれの動き検出画素52の光電変換素子PD2が、第1の半導体基板11に配置された通常画素51の光電変換素子PD1の領域を透過してきた光(光線)を光電変換した電荷信号を発生させる。このため、光電変換素子PD2は、第1の半導体基板11をより多く透過する波長が長い光ほど、より大きな電荷信号を発生させる。このことを考慮すると、固体撮像装置4では、第2の半導体基板12に形成する動き検出画素52の光電変換素子PD2を、例えば、波長が長いため通常画素51をより多く透過する赤色(R)の波長帯域の光に対応するカラーフィルタが貼付された通常画素51に対応する位置に形成することが望ましい。しかし、本発明においては、固体撮像装置4に貼付するカラーフィルタの色や配列に関しては、特に規定しない。
なお、固体撮像装置4において第2の半導体基板12に形成する動き検出画素52の光電変換素子PD2を、赤色(R)の波長帯域の光に対応するカラーフィルタが貼付された通常画素51に対応する位置に形成した場合、例えば、固体撮像装置4を搭載した撮像システムに赤外光を発光する光源を、被写体の動きを検出する際の補助光として動作させることによって、動き検出の精度を向上させる構成にすることもできる。
そして、固体撮像装置4でも、第1の実施形態の固体撮像装置1と同様に、第2の半導体基板12に形成された動き検出画素52のAER回路526は、光電変換素子PD2が発生した電荷信号の時間的な変化を検出したとき、イベント画素信号を、読み出しアドレス制御回路100に出力する。
読み出しアドレス制御回路100は、イベント画素信号が入力されると、第1の実施形態の固体撮像装置1と同様に、入力されたイベント画素信号に含まれるアドレス情報から、イベント画素信号を出力した動き検出画素52の位置を検出(確認)する。そして、読み出しアドレス制御回路100は、検出(確認)した動き検出画素52の位置を中心とした予め定めた読み出し領域に配置されている通常画素51の領域を、通常画素51から画素信号を出力する(読み出す)読み出し領域に決定する。
そして、読み出しアドレス制御回路100は、第1の実施形態の固体撮像装置1と同様に、決定した読み出し領域内に配置されている通常画素51を指定するための制御信号を垂直走査回路20および水平走査回路30に出力し、決定した読み出し領域内に配置されている通常画素51から画素信号を出力する(読み出す)。
なお、固体撮像装置4では、通常画素51(または通常画素53)を第1の半導体基板11の画素アレイ部40に、動き検出画素52を第2の半導体基板12の画素アレイ部40に、それぞれ均一に配置されている。このため、固体撮像装置4でも、第2の実施形態の固体撮像装置2や第3の実施形態の固体撮像装置3と同様に、通常の撮影において欠けている画素信号がない。これにより、固体撮像装置4から出力された通常の撮影における画素信号に基づいて画像を生成する画像処理部も、欠けている画素の画素信号を補間する演算を行うことなく、それぞれの画素信号に基づいた画像を生成することができる。
しかも、固体撮像装置4では、通常画素51(または通常画素53)と動き検出画素52とが光電変換素子を兼用していない。このため、固体撮像装置4では、通常画素51(または通常画素53)から画素信号を読み出す通常読み出しと、動き検出画素52から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを排他的に行う必要がない。従って、固体撮像装置4では、第2の実施形態の固体撮像装置2や第3の実施形態の固体撮像装置3のように、通常画素51(または通常画素53)から画素信号を読み出す通常読み出しと、動き検出画素52から動き検出の画素信号(イベント画素信号)を読み出す動き検出読み出しとを時分割で行う必要がなく、同時期に行うことができる。
なお、固体撮像装置4においても、第3の実施形態の固体撮像装置3と同様に、1個の動き検出画素52が、複数の光電変換素子PD2が発生した電荷信号を加算した電荷信号に基づいて被写体の動きを検出する構成にすることもできる。この構成にすることにより、動き検出画素52は、第1の半導体基板11に配置された複数の通常画素51の光電変換素子PD1の領域を透過してきた光(光線)を光電変換した電荷信号を発生させることができる。これにより、固体撮像装置4でも、第3の実施形態の固体撮像装置3と同様に、1つの光電変換素子PD2の面積を大きくすることなく、動き検出画素52が、より大きな電荷信号に基づいて被写体の動きを検出することができ、動き検出の精度を向上させることができる。
第4の実施形態によれば、n個の第1の光電変換素子(光電変換素子PD1)のそれぞれは、光が入射する第1の半導体基板(第1の半導体基板11)に周期的に配置され、m個の第2の光電変換素子(光電変換素子PD2)のそれぞれは、第1の半導体基板11に光が入射する側の面と反対側の面に積層される第2の半導体基板(第2の半導体基板12)に周期的に配置され、第1の半導体基板11を透過した光を光電変換した第2の電荷信号を発生する、固体撮像装置(固体撮像装置4)が構成される。
上記に述べたように、第4の実施形態の固体撮像装置4でも、第1の実施形態の固体撮像装置1と同様に、通常の撮影による画素信号の出力に特化した通常画素51(または通常画素53)と、動き検出によるイベント画素信号の出力に特化した動き検出画素52とのそれぞれを、画素アレイ部40内に配置する。このとき、第4の実施形態の固体撮像装置4では、通常画素51(または通常画素53)を第1の半導体基板11の画素アレイ部40の平面の領域全体に均一に配置する。また固体撮像装置4では、動き検出画素52を第2の半導体基板12の画素アレイ部40の平面の領域全体に均一に配置する。これにより、第4の実施形態の固体撮像装置4でも、第1の実施形態の固体撮像装置1と同様に、通常の撮影と被写体の動きを逐次検出する動き検出とを両立することができる。そして、第4の実施形態の固体撮像装置4では、通常読み出しと動き検出読み出しとを同時期に行うことができる。また、第4の実施形態の固体撮像装置4でも、イベント画素信号を出力した動き検出画素52の位置に対応する予め定めた小さな読み出し領域内に配置された通常画素51(または通常画素53)から画素信号を出力する(読み出す)ことによって、第1の実施形態の固体撮像装置1と同様の効果を得ることができる。
また、第4の実施形態の固体撮像装置4では、通常の撮影による画素信号の出力に特化した通常画素51(または通常画素53)を第1の半導体基板11に形成し、動き検出によるイベント画素信号の出力に特化した動き検出画素52を第2の半導体基板12に形成することによって、通常の撮影において欠けている画素信号をなくしている。このことにより、第4の実施形態の固体撮像装置4を搭載した撮像システムに備えた画像処理部は、第2の実施形態の固体撮像装置2や第3の実施形態の固体撮像装置3と同様に、少ない処理の負荷で、被写体の動きを検出したときに対して時間的なずれが少ない、被写体の動きを反映した高画質の画像を生成することができる。
上記に述べたように、本発明の各実施形態によれば、固体撮像装置に備える画素として、通常の撮影の画素信号を出力する通常画素と、動き検出のイベント画素信号を出力する動き検出画素とを、画素アレイ部に配置する。本発明の各実施形態では、画素アレイ部に配置する通常画素の数を、動き検出画素よりも多くする。これにより、本発明の各実施形態では、通常の撮影と被写体の動きを逐次検出する動き検出とを両立することができるとともに、通常の撮影において生成する画像の画質を向上させることができる。
そして、本発明の各実施形態では、動き検出画素からイベント画素信号が出力されたときに、イベント画素信号を出力した、つまり、被写体の動きを検出した動き検出画素が配置されている画素アレイ部内の位置を中心とした予め定めた読み出し領域内に配置された通常画素から、通常の撮影で得た画素信号を読み出す。つまり、本発明の各実施形態では、被写体の動きを検出した際に、画素アレイ部内に配置した全ての通常画素から画素信号を読み出すのではなく、予め定めた読み出し領域内の少ない数の通常画素のみから画素信号を読み出す。言い換えれば、本発明の各実施形態では、被写体の動きを検出したことによって変化した通常画素の予め定めた周辺の領域(読み出し領域)のみから画素信号を読み出す。これにより、本発明の各実施形態の固体撮像装置では、被写体の動きを反映した画像を生成するために通常の撮影で得た画素信号を読み出す際の消費電力を、従来の固体撮像装置よりも削減することができる。
また、本発明の各実施形態では、被写体の動きが検出された小さな読み出し領域内に配置された通常画素から画素信号を読み出すため、被写体の動きを反映した画像を生成するために読み出す画素信号の数が少ない。このため、本発明の各実施形態の固体撮像装置を搭載した撮像システムにおいて被写体の動きに応じて読み出した画素信号を伝送する際に要するデータの伝送帯域、いわゆる、バス帯域の圧迫を低減することができる。そして、本発明の各実施形態の固体撮像装置を搭載した撮像システムに備えた画像処理部は、1フレーム分の画素信号の内、被写体の動きが検出された位置に対応する一部の画素信号(少ない数の画素信号)を差し替えて画像処理を行う。これにより、本発明の各実施形態の固体撮像装置を搭載した撮像システムに備えた画像処理部は、少ない処理の負荷で、被写体の動きを検出したときに対して時間的なずれが少ない、被写体の動きを反映した高画質の画像を生成することができる。
また、本発明の各実施形態では、読み出しアドレス制御回路100を、制御回路10内に備えている構成について説明した。しかし、読み出しアドレス制御回路100を備える構成は、本発明の各実施形態の構成に限定されるものではない。例えば、読み出しアドレス制御回路100を、制御回路10の外部、つまり、制御回路10や垂直走査回路20などと並列に備える構成であってもよい。また、例えば、読み出しアドレス制御回路100を、固体撮像装置の外部、つまり、撮像システムの構成要素として備える構成であってもよい。
以上、本発明の好ましい実施形態を説明したが、本発明はこれら実施形態およびその変形例に限定されることはない。本発明の趣旨を逸脱しない範囲で、構成の付加、省略、置換、およびその他の変更が可能である。
また、本発明は前述した説明によって限定されることはなく、添付のクレームの範囲によってのみ限定される。
また、本発明の各実施形態に係る固体撮像装置は、2枚の半導体基板がチップ接続部により接続されていてもよいし、3枚以上の半導体基板がチップ接続部で接続されていてもよい。3枚以上の半導体基板がチップ接続部で接続される固体撮像装置の場合、そのうちの2枚の半導体基板が請求項に係る第1の半導体基板と第2の半導体基板に相当する。
上記各実施形態によれば、被写体の動きを逐次検出する動き検出と通常の撮影とを両立する固体撮像装置において、消費電力の増大を抑えつつ、検出した被写体の動きを反映した高画質の画像を生成することができる。
1,2,3,4 固体撮像装置
11 第1の半導体基板
12 第2の半導体基板
13,13a,13b チップ接続部(接続部)
10 制御回路(読み出し制御回路)
100 読み出しアドレス制御回路(読み出し制御回路)
20 垂直走査回路(読み出し制御回路)
30 水平走査回路(読み出し制御回路)
40 画素アレイ部
50 画素
51 通常画素
PD1 光電変換素子(第1の光電変換素子)
511,511a,511b 電荷転送トランジスタ(第1の読み出し回路)
512,512a,512b 画素リセットトランジスタ(第1の読み出し回路)
513,513a,513b 増幅トランジスタ(第1の読み出し回路)
514,514a,514b 選択トランジスタ(第1の読み出し回路)
FD1,FD1a,FD1b ノード容量(第1の読み出し回路)
52,52a,52b,52c,52d 動き検出画素
PD2 光電変換素子(第2の光電変換素子)
521,521a,521b アンプ
522,522a,522b バイアストランジスタ
523,553 スイッチトキャパシタアンプ回路(第2の読み出し回路)
5231 キャパシタ(第2の読み出し回路)
5232 アンプ(第2の読み出し回路)
5233 キャパシタ(第2の読み出し回路)
5231a,5231b キャパシタ(第2の読み出し回路,加算回路)
5234 スイッチ(第2の読み出し回路)
524 スレッショルドアンプ(第2の読み出し回路,検出回路)
525 スレッショルドアンプ(第2の読み出し回路,検出回路)
526 AER回路(第2の読み出し回路,画素信号生成回路)
53 通常画素
530 電荷蓄積容量(第1の読み出し回路)
531 サンプルホールドトランジスタ(第1の読み出し回路)
532 クランプトランジスタ(第1の読み出し回路)
533 第2の増幅トランジスタ(第1の読み出し回路)
534 ノイズ抑圧素子(第1の読み出し回路)
54,55 兼用画素
541,541a,541b 通常兼用画素
542,552 動き検出兼用画素
PD12,PD12a,PD12b 光電変換素子(第1の光電変換素子,第2の光電変換素子)
60 垂直信号線
ar,ar1,ar2,ar3,ar4,ar5,ar6,ar7,ar8,ar9,ar10 読み出し領域
D1,D2,D3 動き検出画素分布

Claims (13)

  1. 入射した光を光電変換した第1の電荷信号を発生するn個の第1の光電変換素子と、
    前記n個の第1の光電変換素子のそれぞれに対応し、対応する前記第1の光電変換素子が発生した前記第1の電荷信号に応じた信号電圧を第1の画素信号として出力するn個の第1の読み出し回路と、
    入射した光を光電変換した第2の電荷信号を発生するm個の第2の光電変換素子と、
    前記m個の第2の光電変換素子のそれぞれに対応し、対応する前記第2の光電変換素子が発生した前記第2の電荷信号の変化に基づいた第2の画素信号を逐次出力するm個の第2の読み出し回路と、
    前記第1の光電変換素子の内、予め定めた読み出し領域内に配置された前記第1の光電変換素子に対応する前記第1の画素信号の読み出しを制御する読み出し制御回路と、
    を有し、
    前記m個の第2の読み出し回路のそれぞれは、
    対応する前記第2の光電変換素子が発生した前記第2の電荷信号の時間的な変化を検出し、予め定めた閾値を超える変化を検出したときに、変化を表すイベント信号を出力する検出回路と、
    前記イベント信号に、対応する前記第2の光電変換素子が配置された位置を表すアドレス情報を付加した前記第2の画素信号を出力する画素信号生成回路と、
    を有し、
    前記読み出し制御回路は、
    前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が配置された位置に基づいた領域を、前記第1の画素信号を読み出す前記読み出し領域として決定し、決定した前記読み出し領域内に配置された前記第1の光電変換素子のそれぞれに対応する前記第1の読み出し回路のそれぞれに前記第1の画素信号を出力させ、
    前記nは2以上の自然数であり、
    前記mは2以上の自然数である、
    固体撮像装置。
  2. 前記読み出し制御回路は、
    同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が分布している位置に基づいて生成した矩形の領域を、前記読み出し領域として決定する、
    請求項1に記載の固体撮像装置。
  3. 前記読み出し制御回路は、
    同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子が分布している領域を包含する矩形の領域を、前記読み出し領域として決定する、
    請求項1に記載の固体撮像装置。
  4. 前記読み出し制御回路は、
    同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の分布の大きさが、予め定めた分布の大きさの閾値よりも大きい場合に、前記第2の光電変換素子の分布の大きさに応じた矩形の領域を前記読み出し領域として決定し、
    同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の分布の大きさが、前記分布の大きさの閾値以下である場合に、前記読み出し領域を決定しない、
    請求項1から請求項3のいずれか1の項に記載の固体撮像装置。
  5. 前記読み出し制御回路は、
    同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の数が、予め定めた数の閾値よりも多い場合に、それぞれの前記アドレス情報に対応する前記第2の光電変換素子に対応する前記読み出し領域を決定し、
    同時期に出力された前記第2の画素信号に含まれる前記アドレス情報に対応する前記第2の光電変換素子の数が、前記数の閾値以下である場合に、前記読み出し領域を決定しない、
    請求項1から請求項3のいずれか1の項に記載の固体撮像装置。
  6. 前記読み出し制御回路は、
    前記n個の第1の光電変換素子が配置された全体の領域を、予め定めた大きさで区切った複数のブロックに分割し、分割したそれぞれの前記ブロックごとに、前記読み出し領域を決定する、
    請求項4または請求項5に記載の固体撮像装置。
  7. 前記n個の第1の光電変換素子のそれぞれおよび前記m個の第2の光電変換素子のそれぞれは、
    第1の半導体基板の同一の平面の領域に周期的に配置される、
    請求項1から請求項6のいずれか1の項に記載の固体撮像装置。
  8. 前記画素信号生成回路は、
    前記第1の半導体基板に光が入射する側の面と反対側の面に積層される第2の半導体基板に配置される、
    請求項7に記載の固体撮像装置。
  9. 前記第1の半導体基板と前記第2の半導体基板との間に形成され、前記第1の半導体基板の回路要素と前記第2の半導体基板の回路要素とを電気的に接続する接続部、
    をさらに有し、
    前記接続部は、
    前記m個の第2の読み出し回路のそれぞれが有する前記検出回路と、対応する前記第2の光電変換素子とを電気的に接続する、
    請求項8に記載の固体撮像装置。
  10. s個の前記第1の光電変換素子が発生した前記s個の前記第1の電荷信号を1つの単位とした電荷信号を前記第2の光電変換素子が発生する前記第2の電荷信号として兼用し、
    前記sは1以上の自然数であり、
    前記第2の電荷信号として兼用する前記第1の電荷信号を出力する前記第1の光電変換素子の総数は、1以上で前記n以下の自然数である、
    請求項9に記載の固体撮像装置。
  11. 前記mは前記nよりも小さく、
    前記sは2以上の自然数であり、
    前記m個の第2の読み出し回路のそれぞれは、
    対応する前記s個の前記第1の光電変換素子が発生した前記s個の前記第1の電荷信号を1つの単位として加算する加算回路、
    をさらに有し、
    前記検出回路は、
    前記加算回路によって加算された後の前記第1の電荷信号の変化を検出する、
    請求項10に記載の固体撮像装置。
  12. 前記n個の第1の光電変換素子のそれぞれは、
    光が入射する第1の半導体基板に周期的に配置され、
    前記m個の第2の光電変換素子のそれぞれは、
    前記第1の半導体基板に光が入射する側の面と反対側の面に積層される第2の半導体基板に周期的に配置され、
    前記第1の半導体基板を透過した光を光電変換した前記第2の電荷信号を発生する、
    請求項1から請求項6のいずれか1の項に記載の固体撮像装置。
  13. 前記第2の読み出し回路のそれぞれは、
    t個の前記第2の光電変換素子を1つの単位とし、前記t個の前記第2の光電変換素子が発生したそれぞれの前記第2の電荷信号を加算する加算回路、
    をさらに有し、
    前記検出回路は、
    前記加算回路によって加算された後の前記第2の電荷信号の変化を検出し、
    前記tは2以上の自然数である、
    請求項9または請求項12に記載の固体撮像装置。
JP2017529430A 2015-07-23 2015-07-23 固体撮像装置 Ceased JPWO2017013806A1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/071038 WO2017013806A1 (ja) 2015-07-23 2015-07-23 固体撮像装置

Publications (1)

Publication Number Publication Date
JPWO2017013806A1 true JPWO2017013806A1 (ja) 2018-05-10

Family

ID=57834751

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017529430A Ceased JPWO2017013806A1 (ja) 2015-07-23 2015-07-23 固体撮像装置

Country Status (3)

Country Link
US (1) US10321081B2 (ja)
JP (1) JPWO2017013806A1 (ja)
WO (1) WO2017013806A1 (ja)

Families Citing this family (71)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6806494B2 (ja) * 2016-08-24 2021-01-06 キヤノン株式会社 撮像装置、撮像システム、移動体及び撮像装置の駆動方法
US10855927B2 (en) 2017-03-08 2020-12-01 Samsung Electronics Co., Ltd. Event detecting device including an event signal generator and an output signal generator
US10516841B2 (en) * 2017-03-08 2019-12-24 Samsung Electronics Co., Ltd. Pixel, pixel driving circuit, and vision sensor including the same
US10686996B2 (en) 2017-06-26 2020-06-16 Facebook Technologies, Llc Digital pixel with extended dynamic range
US10726627B2 (en) 2017-07-25 2020-07-28 Facebook Technologies, Llc Sensor system based on stacked sensor layers
US11568609B1 (en) 2017-07-25 2023-01-31 Meta Platforms Technologies, Llc Image sensor having on-chip compute circuit
US10598546B2 (en) 2017-08-17 2020-03-24 Facebook Technologies, Llc Detecting high intensity light in photo sensor
EP3576404B1 (en) * 2017-10-30 2021-11-03 Sony Semiconductor Solutions Corporation Solid-state image pickup element
WO2019135304A1 (ja) * 2018-01-05 2019-07-11 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP2021044599A (ja) * 2018-01-05 2021-03-18 株式会社ニコン 検出装置およびセンサ
US11057581B2 (en) 2018-01-24 2021-07-06 Facebook Technologies, Llc Digital pixel array with multi-stage readouts
JP2019134271A (ja) * 2018-01-31 2019-08-08 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2019175733A1 (en) 2018-03-14 2019-09-19 Insightness Ag Event-based vision sensor manufactured with 3d-ic technology
KR102578417B1 (ko) 2018-03-14 2023-09-14 소니 어드밴스드 비주얼 센싱 아게 직접 메모리 제어를 갖는 이벤트-기반 비전 센서
TW202406328A (zh) 2018-03-15 2024-02-01 日商尼康股份有限公司 感測器以及具備其之攝像裝置
JP7148269B2 (ja) * 2018-05-02 2022-10-05 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子および撮像装置
US11906353B2 (en) 2018-06-11 2024-02-20 Meta Platforms Technologies, Llc Digital pixel with extended dynamic range
JP7307725B2 (ja) * 2018-06-12 2023-07-12 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2020002562A1 (en) * 2018-06-27 2020-01-02 Prophesee Image sensor with a plurality of super-pixels
US11463636B2 (en) 2018-06-27 2022-10-04 Facebook Technologies, Llc Pixel sensor having multiple photodiodes
US10897586B2 (en) 2018-06-28 2021-01-19 Facebook Technologies, Llc Global shutter image sensor
US10931884B2 (en) 2018-08-20 2021-02-23 Facebook Technologies, Llc Pixel sensor having adaptive exposure time
US11956413B2 (en) 2018-08-27 2024-04-09 Meta Platforms Technologies, Llc Pixel sensor having multiple photodiodes and shared comparator
US11521998B2 (en) * 2018-09-18 2022-12-06 Sony Semiconductor Solutions Corporation Solid-state imaging device and imaging device
JP7176917B2 (ja) * 2018-10-02 2022-11-22 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び撮像装置
WO2020080383A1 (ja) * 2018-10-19 2020-04-23 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び電子機器
JP2020072317A (ja) * 2018-10-30 2020-05-07 ソニーセミコンダクタソリューションズ株式会社 センサ及び制御方法
US11595602B2 (en) 2018-11-05 2023-02-28 Meta Platforms Technologies, Llc Image sensor post processing
DE112019005735T5 (de) * 2018-11-16 2021-08-19 Sony Semiconductor Solutions Corporation Festkörper-bildgebungsvorrichtung und bildgebungsvorrichtung
JP2020088480A (ja) 2018-11-19 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
WO2020105301A1 (ja) * 2018-11-21 2020-05-28 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
JP2020096347A (ja) * 2018-11-29 2020-06-18 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP2020088723A (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
JP2020088722A (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
JP2022028982A (ja) * 2018-12-05 2022-02-17 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、信号処理チップ、および、電子機器
US11282786B2 (en) * 2018-12-12 2022-03-22 X Display Company Technology Limited Laser-formed interconnects for redundant devices
US11962928B2 (en) 2018-12-17 2024-04-16 Meta Platforms Technologies, Llc Programmable pixel array
US11888002B2 (en) * 2018-12-17 2024-01-30 Meta Platforms Technologies, Llc Dynamically programmable image sensor
JP2020099015A (ja) * 2018-12-19 2020-06-25 ソニーセミコンダクタソリューションズ株式会社 センサ及び制御方法
US11218660B1 (en) 2019-03-26 2022-01-04 Facebook Technologies, Llc Pixel sensor having shared readout structure
JP2020161987A (ja) * 2019-03-27 2020-10-01 ソニー株式会社 車両用撮影システム
JP2020162016A (ja) * 2019-03-27 2020-10-01 ソニー株式会社 状態検出装置、状態検出システム及び状態検出方法
CN113632453A (zh) * 2019-03-27 2021-11-09 苹果公司 具有多个功率状态的传感器架构的硬件实现方式
WO2020241108A1 (ja) * 2019-05-28 2020-12-03 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子
CN113785560A (zh) * 2019-06-04 2021-12-10 索尼集团公司 成像系统
US11943561B2 (en) 2019-06-13 2024-03-26 Meta Platforms Technologies, Llc Non-linear quantization at pixel sensor
US20210044742A1 (en) * 2019-08-05 2021-02-11 Facebook Technologies, Llc Dynamically programmable image sensor
US11936998B1 (en) 2019-10-17 2024-03-19 Meta Platforms Technologies, Llc Digital pixel sensor having extended dynamic range
US11935291B2 (en) 2019-10-30 2024-03-19 Meta Platforms Technologies, Llc Distributed sensor system
US11948089B2 (en) 2019-11-07 2024-04-02 Meta Platforms Technologies, Llc Sparse image sensing and processing
US20220394196A1 (en) * 2019-11-12 2022-12-08 Apple Inc. Sensor data encoding with synchronous readout
US11468146B2 (en) 2019-12-06 2022-10-11 Globalfoundries U.S. Inc. Array of integrated pixel and memory cells for deep in-sensor, in-memory computing
JP2021093610A (ja) * 2019-12-10 2021-06-17 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
US11394905B2 (en) * 2019-12-13 2022-07-19 Sony Semiconductor Solutions Corporation Dynamic region of interest and frame rate for event based sensor and imaging camera
US20210185265A1 (en) * 2019-12-13 2021-06-17 Sony Semiconductor Solutions Corporation Methods of sensor mode switching in event based sensor and imaging camera for low power application
JP2021097312A (ja) * 2019-12-17 2021-06-24 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び測距装置
JPWO2021153428A1 (ja) * 2020-01-29 2021-08-05
EP4102568A4 (en) * 2020-02-03 2023-07-19 Sony Semiconductor Solutions Corporation SOLID STATE IMAGING ELEMENT AND IMAGING DEVICE
US11195580B2 (en) * 2020-02-26 2021-12-07 Globalfoundries U.S. Inc. Integrated pixel and two-terminal non-volatile memory cell and an array of cells for deep in-sensor, in-memory computing
CN113448458A (zh) * 2020-03-25 2021-09-28 昇佳电子股份有限公司 电容感测电路
US11902685B1 (en) 2020-04-28 2024-02-13 Meta Platforms Technologies, Llc Pixel sensor having hierarchical memory
US11825228B2 (en) 2020-05-20 2023-11-21 Meta Platforms Technologies, Llc Programmable pixel array having multiple power domains
JP2021197649A (ja) * 2020-06-16 2021-12-27 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
CN116057950A (zh) * 2020-07-09 2023-05-02 索尼集团公司 成像装置和成像方法
US11910114B2 (en) 2020-07-17 2024-02-20 Meta Platforms Technologies, Llc Multi-mode image sensor
US11956560B2 (en) 2020-10-09 2024-04-09 Meta Platforms Technologies, Llc Digital pixel sensor having reduced quantization operation
US11935575B1 (en) 2020-12-23 2024-03-19 Meta Platforms Technologies, Llc Heterogeneous memory system
TWI813943B (zh) * 2021-02-04 2023-09-01 神盾股份有限公司 影像感測器晶片及其感測方法
JP2022121991A (ja) * 2021-02-09 2022-08-22 ソニーセミコンダクタソリューションズ株式会社 センシングシステム、信号処理装置
JP2022188990A (ja) * 2021-06-10 2022-12-22 キヤノン株式会社 情報処理装置、情報処理方法およびプログラム
FR3141559A1 (fr) * 2022-10-31 2024-05-03 Stmicroelectronics (Crolles 2) Sas Dispositif optoélectronique générant une image évènementielle

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004191647A (ja) * 2002-12-11 2004-07-08 Canon Inc 撮像装置
WO2006022077A1 (ja) * 2004-08-23 2006-03-02 Sony Corporation 撮像装置、撮像結果の処理方法及び集積回路
JP2010510732A (ja) * 2006-11-23 2010-04-02 エーアイティー オーストリアン インスティテュート オブ テクノロジー ゲゼルシャフト ミット ベシュレンクテル ハフツング 電子形式の画像を生成する方法、画像生成用画像センサのための画像素子ならびに画像センサ
JP2015128284A (ja) * 2013-11-29 2015-07-09 キヤノン株式会社 撮像装置及び携帯電話機

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140056986A (ko) * 2012-11-02 2014-05-12 삼성전자주식회사 모션 센서 어레이 장치, 상기 모선 센서 어레이를 이용한 거리 센싱 시스템, 및 거리 센싱 방법
JP6062039B2 (ja) * 2013-04-04 2017-01-18 株式会社Amatel 画像処理システムおよび画像処理用プログラム
US9646389B2 (en) * 2014-08-26 2017-05-09 Qualcomm Incorporated Systems and methods for image scanning

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004191647A (ja) * 2002-12-11 2004-07-08 Canon Inc 撮像装置
WO2006022077A1 (ja) * 2004-08-23 2006-03-02 Sony Corporation 撮像装置、撮像結果の処理方法及び集積回路
JP2010510732A (ja) * 2006-11-23 2010-04-02 エーアイティー オーストリアン インスティテュート オブ テクノロジー ゲゼルシャフト ミット ベシュレンクテル ハフツング 電子形式の画像を生成する方法、画像生成用画像センサのための画像素子ならびに画像センサ
JP2015128284A (ja) * 2013-11-29 2015-07-09 キヤノン株式会社 撮像装置及び携帯電話機

Also Published As

Publication number Publication date
US20180167575A1 (en) 2018-06-14
WO2017013806A1 (ja) 2017-01-26
US10321081B2 (en) 2019-06-11

Similar Documents

Publication Publication Date Title
WO2017013806A1 (ja) 固体撮像装置
JP6440844B2 (ja) 固体撮像装置
US11493729B2 (en) Image sensor capable of reducing readout time and image capturing apparatus
US9906746B2 (en) Solid-state image pickup device and image pickup apparatus
JPWO2013172205A1 (ja) 撮像装置および撮像方法、電子機器、並びにプログラム
US11290648B2 (en) Image capture apparatus and control method thereof
JP2006217213A (ja) 物理情報取得方法および物理情報取得装置
JP2017120975A (ja) 撮像素子
KR20160094298A (ko) 촬상 소자
WO2018012068A1 (ja) 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器
JP2018182543A (ja) 撮像装置、撮像システム、及び撮像素子の制御方法
US10425605B2 (en) Image sensor and image capturing apparatus
JP2014175992A (ja) 固体撮像素子及びこれを用いた撮像装置
JP6362511B2 (ja) 撮像装置及びその制御方法
JP2023011824A (ja) 撮像素子
JP2006121151A (ja) 信号処理方法および信号処理装置並びに物理情報取得装置
US11792533B2 (en) Image sensor and imaging device
JP2013243456A (ja) 固体撮像装置、固体撮像装置の制御方法、および撮像装置
JP6733159B2 (ja) 撮像素子、及び撮像装置
JP2007143067A (ja) 撮像装置及び撮像システム
JP2018093301A (ja) 撮像素子及び撮像素子の制御方法
JP2018007076A (ja) 撮像装置および画像処理装置
JP5256084B2 (ja) 撮像装置及び撮像装置の駆動方法
JP2008228021A (ja) 固体撮像装置及び撮像装置
JP2010011047A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180628

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190730

A045 Written measure of dismissal of application [lapsed due to lack of payment]

Free format text: JAPANESE INTERMEDIATE CODE: A045

Effective date: 20191126