WO2022107641A1 - 固体撮像素子、電子機器、及び撮像方法 - Google Patents

固体撮像素子、電子機器、及び撮像方法 Download PDF

Info

Publication number
WO2022107641A1
WO2022107641A1 PCT/JP2021/041132 JP2021041132W WO2022107641A1 WO 2022107641 A1 WO2022107641 A1 WO 2022107641A1 JP 2021041132 W JP2021041132 W JP 2021041132W WO 2022107641 A1 WO2022107641 A1 WO 2022107641A1
Authority
WO
WIPO (PCT)
Prior art keywords
signal
circuit
photoelectric conversion
difference
evs
Prior art date
Application number
PCT/JP2021/041132
Other languages
English (en)
French (fr)
Inventor
和俊 児玉
Original Assignee
ソニーセミコンダクタソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーセミコンダクタソリューションズ株式会社 filed Critical ソニーセミコンダクタソリューションズ株式会社
Priority to US18/036,294 priority Critical patent/US20230412936A1/en
Publication of WO2022107641A1 publication Critical patent/WO2022107641A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/79Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/47Image sensors with pixel address output; Event-driven image sensors; Selection of pixels to be read out based on image data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Definitions

  • the generation unit further includes a first logarithmic conversion circuit that logarithmically converts the first photoelectric conversion signal or the second photoelectric conversion signal.
  • the switching circuit may output the first photoelectric signal or the second photoelectric signal to the first difference circuit via the first logarithmic conversion circuit.
  • the light receiving portion is divided into a plurality of regions.
  • the control circuit may control the generation unit corresponding to each of the plurality of regions to generate either the first signal or the second signal.
  • a step of generating a first signal when the amount of change in a photoelectric conversion signal output by a single photoelectric conversion element among a plurality of photoelectric conversion elements exceeds a predetermined value A step of generating a second signal when the difference value of the photoelectric conversion signal output by each of the two photoelectric conversion elements among the plurality of photoelectric conversion elements exceeds a predetermined value.
  • Each edge event detection signal includes an edge-on event detection signal EVCH indicating the presence or absence of an edge-on event and an edge-off event detection signal EVCL indicating the presence or absence of an edge-off event.
  • the solid-state image sensor 200 detects the presence / absence of both an edge-on event and an edge-off event, but it is also possible to detect only one of them.
  • the solid-state image sensor 200 executes predetermined signal processing such as image processing on the EVS image, the EVS difference image, the EVS brightness image, and the gradation image, and the data after the processing is recorded in the recording unit 120 as a signal line 209. Output via.
  • FIG. 3 is a schematic cross-sectional view of the electronic device 100 according to the first embodiment.
  • FIG. 4 is a schematic external view of the electronic device 100 of FIG. 1, the left view is an external view of the display unit 170 side, and the right figure is a cross-sectional view of the display unit 170 in the AA line direction.
  • the display screen 1a is expanded to be close to the external size of the electronic device 100, but the bezel 1b is equipped with a front camera and a depth sensor (not shown).
  • FIGS. 1 is a schematic cross-sectional view of the electronic device 100 according to the first embodiment.
  • FIG. 4 is a schematic external view of the electronic device 100 of FIG. 1, the left view is an external view of the display unit 170 side, and the right figure is a cross-sectional view of the display unit 170 in the AA line direction.
  • the display screen 1a is expanded to be close to the external size of the electronic device 100, but the bezel 1b is equipped with a front camera and a depth sensor (
  • the polarizing plate 4c and the quarter wave plate 4b suppress the internally reflected light from being incident on the camera module 3.
  • Display elements are arranged in an array on the display panel 4.
  • the display panel 4 may be, for example, an organic light emitting diode (OLED: Organic Light Emitting Device), a liquid crystal display unit, a MicroLED, or a display panel based on other display principles.
  • OLED Organic Light Emitting Device
  • the circular polarizing plate 6 is provided to reduce glare and improve the visibility of the display screen 1a even in a bright environment.
  • a touch sensor is incorporated in the touch panel 5. There are various types of touch sensors such as a capacitance type and a resistance film type, and any method may be used. Further, the touch panel 5 and the display panel 4 may be integrated.
  • the cover glass 7 is provided to protect the display panel 4 and the like.
  • the pixel 308 and the plurality of EVS pixels 309 are configured in the light receiving chip 201, and the plurality of EVS AFE 314s are configured in the detection chip 202.
  • the EVS AFE314 according to this embodiment corresponds to the generation unit.
  • the EVS pixel 309 In the first mode and the second mode, the EVS pixel 309 outputs a photoelectric conversion signal corresponding to the photocurrent to the EVS AFE314. Further, the EVS pixel 309 generates a photoelectric conversion signal corresponding to the photocurrent as an EVS luminance signal (first luminance signal), and when an address event or an edge event occurs, the AD conversion circuit 212b (see FIG. 5). Output to.
  • FIG. 7B is a diagram showing another configuration example of the pixel block 30a.
  • the number of gradation pixels 308 in the pixel block 30a is larger than the number of EVS pixels 309, whereas in FIG. 7B, the number of gradation pixels 308 in the pixel block 30a is for EVS. It is configured to be smaller than the number of pixels 309.
  • the description of the plurality of EVS AFE314s corresponding to each of the EVS pixels 309 is omitted in FIG. 7B, the EVS AFE314 is configured on the detection chip 202.
  • the second signal processing unit 214 executes predetermined signal processing for the detection signals from the plurality of EVS AFE314s.
  • the second signal processing unit 214 for example, arranges the pixel values for EVS based on the address event signal VC in a two-dimensional grid pattern to generate an EVS image.
  • the second signal processing unit 214 arranges, for example, EVS difference pixel values based on the edge event signal EVC in a two-dimensional grid pattern to generate an EVS difference image.
  • the switching circuit 328ab switches the connection between the photoelectric conversion elements 311a and b of the corresponding EVS pixels 309a and b and the logarithmic conversion circuits 331a and b. That is, this switching circuit 328ab has a plurality of switching elements ⁇ aa, ⁇ ab, ⁇ bb, ⁇ ba.
  • the switching element ⁇ aa is connected between the photoelectric conversion element 311a and the logarithmic conversion circuit 331a.
  • the switching element ⁇ ab is connected between the photoelectric conversion element 311a and the logarithmic conversion circuit 331b.
  • the switching element ⁇ bb is connected between the photoelectric conversion element 311b and the logarithmic conversion circuit 331b.
  • a predetermined bias voltage Vbias is applied to the gate electrode of the P-type transistor 3312.
  • the P-type transistor 3312 supplies a constant current to the N-type transistor 3313.
  • Photocurrent is input from the photoelectric conversion element 311a or the photoelectric conversion element 311b to the gate electrode of the N-type transistor 3313 through the signal input line 3314.
  • FIG. 17A is a diagram showing an example of generating an edge-off event detection signal EVCL when driving a neighborhood pixel difference. Similar to FIG. 16B, the horizontal axis indicates time, and from the top, the control signal S ⁇ aa of the switching element ⁇ aa, the control signal S ⁇ ab of the switching element ⁇ ab, the output signal of the difference circuit 333a, and the output signal of the comparison circuit 334a are shown.
  • a signal from the EVS pixel 309b is supplied to the difference circuit 333a during the frame time F3 in which the control signal S ⁇ ba is at the high level and the control signal S ⁇ aa is at the low level.
  • the signal from the EVS pixel 309a is supplied to the difference circuit 333a.
  • the signal from the EVS pixel 309a is supplied to the difference circuit 333b during the frame time F3 in which the control signal S ⁇ ab is at the high level and the control signal S ⁇ bb is at the low level.
  • the signal from the EVS pixel 309b is supplied to the difference circuit 333b.
  • the EVS AFE314a and 314b of the electronic device 100 according to the first embodiment constitutes a switching circuit 328ab between the EVS pixels 309a and b and the logarithmic conversion buffer circuits 330a and b.
  • the EVS AFE314a of the electronic device 100 according to the first modification is different in that a switching circuit 328ab is formed between the logarithmic conversion buffer circuits 330a and b and the difference circuits 333a and b.
  • the AFE314 for EVS of the electronic device 100 according to the modification 2 of the first embodiment is for EVS of the electronic device 100 according to the modification 1 of the first embodiment in that the switching element of the switching circuit 328ab is composed of three. It is different from AFE314.
  • the differences from the electronic device 100 according to the first modification of the first embodiment will be described.
  • the EVS AFE314a, 314b, 314c, and 314d of the electronic device 100 according to the first modification of the first embodiment are configured so that the switching circuit 328q can generate a signal difference based on the output between the four EVS pixels. In that respect, it is different from the EVS AFE314a and 314b of the electronic device 100 according to the first modification of the first embodiment.
  • the differences from the electronic device 100 according to the first modification of the first embodiment will be described.
  • FIG. 22 is a diagram showing a configuration example of AFE314a, 314b, 314c, and 314d for EVS according to the modified example 4 of the first embodiment.
  • the switching circuit 328q is configured to be able to generate a signal difference based on the output between the four EVS pixels 309, respectively. This makes it possible to generate, for example, an EVS difference image between four adjacent EVS pixels.
  • the EVS AFE314a and 314b of the electronic device 100 according to the first embodiment modification 5 is a modification of the first embodiment in that the outputs of the difference circuits 333a and 333b are output to the comparison circuit 334 by the multiplexer 336. It is different from the electronic device 100 according to 1.
  • the differences from the electronic device 100 according to the first modification of the first embodiment will be described.
  • the arbiter circuit 218 arbitrates and outputs information only from the EVS AFE314 in which the address event or the edge event has occurred, so that the speed can be further increased.
  • the event number detection unit 1402 counts the number of address event detection signals output by the EVS AFE314 in the solid-state image sensor 200 per unit time as the number of address events when the EVS is driven.
  • FIG. 30 is a diagram showing an example of the relationship between the motion speed of the imaged object and the number of address events detected by the event number detection unit 1402.
  • the vertical axis shows the number of address events detected in all EVS AFE314s per unit time, and the horizontal axis shows the speed of the object to be photographed.
  • Line L160 shows an example of the relationship between the speed of the imaged object and the number of address events. As shown in line L160, the number of address events becomes 0 when the object to be photographed is stationary. On the contrary, the number of address events increases from 0 as the speed of the object to be photographed increases.
  • the second access control circuit 211b is for EVS according to the output signal of the frame rate changing unit 1404.
  • AFE314 is changed to near pixel difference drive (step S110).
  • the recognition processing unit 1400 executes recognition processing on the EVS difference image (step S112).
  • the frame rate changing unit 1404 determines whether or not to end the neighborhood pixel difference drive (step S114), and if it does not end (N in step S114), repeats the process of step S110. On the other hand, when it is determined that the process is completed (Y in step S114), the entire process is terminated.
  • the electronic device 100 according to the third embodiment is different from the electronic device 100 according to the second embodiment in that it further includes a function capable of switching from the neighborhood pixel difference detection drive to the EVS drive according to the state.
  • a function capable of switching from the neighborhood pixel difference detection drive to the EVS drive according to the state will be described.
  • FIG. 33 is a block diagram showing a configuration example of the analysis unit 140 according to the third embodiment. As shown in FIG. 33, the analysis unit 140 further includes a difference value calculation unit 1406.
  • the frame rate changing unit 1404 changes the drive control of the second access control circuit 211b from the neighborhood pixel difference drive to the EVS drive when the difference value calculated by the difference value calculation unit 1406 becomes equal to or higher than a predetermined threshold value. Further, the frame rate changing unit 1404 changes the frame rate read and controlled by the second access control circuit 211b according to the number of address events output by the event number detecting unit 1402 after changing to the EVS drive.
  • FIG. 34 is a diagram showing a drive control example of the second access control circuit 211b by the frame rate changing unit 1404 according to the third embodiment.
  • the vertical axis shows the difference value between the EVS difference images
  • the horizontal axis shows the elapsed time.
  • Line L180 shows an example of the relationship between the difference value between the EVS difference images and the elapsed time.
  • line L180 an example in which the difference value increases with the passage of time is shown.
  • the second access control circuit 211b executes either EVS drive or neighborhood pixel difference drive for each of the plurality of regions A300.
  • the second signal processing unit 214 (see FIG. 5) generates an EVS hybrid image.
  • the second access control circuit 211b sets the driving method for each area A300 according to the setting mode by the user.
  • the light receiving unit is divided into a plurality of regions.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

[課題]本開示では、物体の運動状態によらず、物体に関する情報を得ることが可能な固体撮像素子、電子機器、及び撮像方法を提供する。 [解決手段]本開示によれば、固体撮像素子は、光電変換して光電変換信号を生成する複数の光電変換素子と、前記複数の光電変換素子の内の単一の光電変換素子が出力する光電変換信号の変化量が所定値を超えた場合に第1信号を生成し、前記複数の光電変換素子の内の2つの光電変換素子がそれぞれ出力する光電変換信号の差分値が所定値を超えた場合に第2信号を生成する、生成部と、を備える。

Description

固体撮像素子、電子機器、及び撮像方法
 本開示は、固体撮像素子、電子機器、及び撮像方法に関する。
 垂直同期信号などの同期信号に同期して画像データ(フレーム)を撮像する同期型の固体撮像素子が、電子機器などにおいて用いられている。この一般的な同期型の固体撮像素子では、同期信号の周期(例えば、1/60秒)ごとにしか画像データを取得することができないため、交通やロボットなどに関する分野において、より高速な処理が要求された場合に対応することが困難になる。そこで、画素アドレスごとに、その画素の光量が閾値を超えた旨をアドレスイベントとしてリアルタイムに検出する検出回路を画素毎に設けた非同期型の固体撮像素子が提案されている。このように、非同期型の画素毎にアドレスイベントを検出する固体撮像素子は、EVS(Event base Vision Sensor)と呼ばれる。
 また、EVS用画素の検出信号に基づくEVS画像には、運動している物体のエッジ情報が含まれ、認識処理に用いられる場合がある。ところが、物体の運動が静止状態に近づくと、EVS画像内のエッジ情報が低減し、認識精度が低下する恐れがある。
特開2012-257193号公報
 そこで、本開示では、物体の運動状態によらず、物体に関する情報を得ることが可能な固体撮像素子、電子機器、及び撮像方法を提供するものである。
 上記の課題を解決するために、本開示によれば、光電変換して光電変換信号を生成する複数の光電変換素子と、
 前記複数の光電変換素子の内の単一の光電変換素子が出力する光電変換信号の変化量が所定値を超えた場合に第1信号を生成し、前記複数の光電変換素子の内の2つの光電変換素子がそれぞれ出力する光電変換信号の差分値が所定値を超えた場合に第2信号を生成する、生成部と、
 を備える、固体撮像素子が提供される。
 前記生成部は、2つの信号の差分値を生成する第1差分回路と、
 2つの光電変換素子の内の一方の第1光電変換素子が出力する第1光電変換信号に基づく第1光電信号と、他方の第2光電変換素子が出力する第2光電変換信号に基づく第2光電信号とを切り換えて前記第1差分回路に出力する切替回路と、
 を有し、
 前記差分値に基づき、前記第1信号、及び前記第2信号の一方が生成されてもよい。
 前記切替回路が、前記第1光電信号を前記第1差分回路に入力させた後に、前記第2光電信号を前記第1差分回路に入力させた場合に、前記第2信号が生成されてもよい。
 前記生成部は、前記第1光電変換信号又は前記第2光電変換信号を対数変換する第1対数変換回路を更に有し、
 前記切替回路は、第1対数変換回路を介して前記第1光電信号又は前記第2光電信号を前記第1差分回路に出力してもよい。
 前記生成部は、
 前記第1光電変換信号を対数変換する第1対数変換回路と、
 前記第1対数変換回路の出力する前記第1光電信号を保持する第1保持回路と、
 前記第2光電変換信号を対数変換する第2対数変換回路と、
 前記第2対数変換回路の出力する前記第2光電信号を保持する第2保持回路と、
 を更に有し、
 前記切替回路は、前記第1保持回路の出力する前記第1光電信号と、前記第2保持回路の出力する前記第2光電信号と、切り換えて前記第1差分回路に出力してもよい。
 前記生成部は、
 2つの信号の差分値を生成する第2差分回路を更に有し、
 前記切替回路は、前記第1保持回路と前記第1差分回路との間に接続される第1スイッティング素子と、前記第1保持回路と前記第2差分回路との間に接続される第2スイッティング素子と、前記第2保持回路と前記第2差分回路との間に接続される第3スイッティング素子と、前記第2保持回路と前記第1差分回路との間に接続される第4スイッティング素子と、を有してもよい。
 前記生成部は、
 前記第1差分回路の出力信号と所定の第1閾値とを比較し、前記第1信号、及び前記第2信号の一方を生成する第1比較回路と、
 前記第2差分回路の出力信号と所定の第2閾値とを比較し、前記第1信号、及び前記第2信号の一方を生成する第2比較回路と、
 を更に有してもよい。
 前記第1スイッティング素子、及び前記第2スイッティング素子を接続状態にし、前記第3スイッティング素子、及び前記第4スイッティング素子を非接続状態にし、前記第1閾値と前記第2閾値とを異ならせてもよい。
 前記第1差分回路の出力信号と前記第2差分回路の出力信号とを選択する選択回路と、選択回路が出力する信号と所定の閾値を比較し、前記第1信号、及び前記第2信号の一方を生成する比較回路を、
 更に有してもよい。
 前記生成部は、2つの信号の差分値を生成する第1差分回路と、
 3つ以上の光電変換素子のそれぞれが出力する光電変換信号を切り換えて前記第1差分回路に出力する切替回路と、
 を有し、
 前記差分値に基づき、前記第1信号、及び前記第2信号の一方が生成されてもよい。
 前記状態処理部は、前記状態解析部の推定結果に応じた、ユーザへの行動提案を前記表示部に表示させてもよい。
 前記複数の光電変換素子の少なくとも一つが出力する光電変換信号に基づき、階調画像が構成される、請求項1に記載の固体撮像素子。
 本開示によれば、複数の光電変換素子が2次元格子状に配置された受光部と、
  前記複数の光電変換素子の中の対応する2つの光電変換素子の組合せのそれぞれに対して第1信号、及び第2信号の一方を生成する複数の生成部を有する検出部であって、前記2つの光電変換素子の内の単一の光電変換素子が出力する光電変換信号の変化量が所定値を超えた場合に前記第1信号を生成し、前記2つの光電変換素子がそれぞれ出力する光電変換信号の差分値が所定値を超えた場合に前記第2信号を生成する、検出部と、
 前記複数の生成部に対して、前記第1信号、及び前記第2信号のいずれかを生成させる制御回路と、
を備えてもよい。
 前記制御回路は、前記受光部の行毎に配置される複数の光電変換素子に対応する前記生成部に対して、前記第1信号、又は前記第2信号を前記行に対応させて順に出力させるフレーム読み出し制御を行ってもよい。
 単位時間あたりに前記第1信号を出力する前記生成部の数をカウントする解析部を更に備え、
 前記制御回路は、前記カウント数に応じて、フレーム読み出し制御の速度を変更させてもよい。
 前記制御回路は、前記カウント数が所定値以下となった場合に、前記生成部に対して、前記第2信号を出力させる制御を行ってもよい。
 前記第1信号に基づく第1画像と、前記第2信号に基づく第2画像と、前記第1信号、及び前記第2信号に基づく第3画像のいずれかを少なくとも生成する信号処理部と、
 前記第1信号に基づく第1画像と、前記第2信号に基づく第2画像と、記第1信号、及び前記第2信号に基づく第3画像のいずれかを用いて撮像対象を認識する解析部と、
 を備えてもよい。
 前記解析部は、時系列に生成された前記第2画像間の差分値を生成し、
 前記制御回路は、前記差分値が所定値以上となった場合に、前記生成部に対して、前記第1信号を出力させる制御を行ってもよい。
 前記受光部は、複数の領域に分けられており、
 前記制御回路は、前記複数の領域毎に対応する前記生成部に対して、前記第1信号、及び前記第2信号のいずれかを生成させる制御を行ってもよい。
 前記解析部は、前記差分値又は前記カウント数を前記複数の領域毎に生成し、
 前記制御回路は、前記領域毎の前記差分値又は前記カウント数に応じて、前記領域毎に対応する前記生成部に対して、前記第1信号、及び前記第2信号のいずれかを生成させる制御を行ってもよい。
 前記複数の生成部のそれぞれは、前記2つの光電変換素子の組合せのそれぞれが出力する光電変換信号に基づく2つの信号の差分値を生成する差分回路と、
 前記差分回路が出力する差分値と所定の閾値を比較する比較回路とを有し、
 前記制御回路は、前記カウント数に応じて、閾値を変更してもよい。
 入射光を集光して前記受光部に導く撮像レンズと、
 前記検出部からのデータを記録する記録部と、
 前記検出部を制御して画像を撮像させる制御部と、
を更に備えてもよい。
 本開示によれば、複数の光電変換素子の内の単一の光電変換素子が出力する光電変換信号の変化量が所定値を超えた場合に第1信号を生成する工程と、
 前記複数の光電変換素子の内の2つの光電変換素子がそれぞれ出力する光電変換信号の差分値が所定値を超えた場合に第2信号を生成する工程と、
 を備える、撮像方法が提供される。
本技術の実施の形態における電子機器一構成例を示すブロック図。 技術の実施の形態における固体撮像素子の積層構造の一例を示す図。 第1実施形態による電子機器の模式的な断面図。 図1の電子機器の模式的な外観図。 固体撮像素子の構成例を示すブロック図。 画素アレイ部に行列状に配置される画素ブロックを模式的に示す図。 画素ブロックの構成を模式的に示す図。 画素ブロックの別の構成例を示す図。 画素ブロック内の画素を全てEVS用画素で構成した例を示す図。 AD変換回路の構成例を示すブロック図。 EVS用のAD変換回路の構成例を示すブロック図。 階調用画素の構成例を示す図。 EVS用画素及びEVS用AFEの概略の構成例を示すブロック図。 EVS用AFEの構成例を示す図。 切替回路の構成例を示す図。 EVS用AFEにおける対数変換回路の構成の一例を示す回路図。 EVS用AFEにおける差分回路及び比較回路の構成の一例を示す回路図。 EVS用AFEの構成例を、切替回路の構成例を含めて示した図。 EVS駆動時のアドレスオフイベント検出信号の生成例を示した図。 EVS駆動時のアドレスオンイベント検出信号の生成例を示した図。 近傍画素差分駆動時のエッジオフイベント検出信号の生成例を示した図。 近傍画素差分駆動時のエッジオンイベント検出信号Eの生成例を示した図。 階調画像と、アドレスイベント検出信号に基づくEVS画像とを示す図。 階調画像と、エッジイベント検出信号に基づくEVS差分画像を示す図。 第1実施形態の変形例1に係るEVS用AFEの構成例を示す図。 第1実施形態の変形例2に係るEVS用AFEの構成例を示す図。 第1実施形態の変形例3に係るEVS用AFEの構成例を示す図。 第1実施形態の変形例4に係るEVS用AFEの構成例を示す図。 第1実施形態の変形例5に係るEVS用AFEの構成例を示す図。 第1実施形態の変形例6に係るEVS用AFEの構成例を示す図。 第1実施形態の変形例7に係るEVS用AFEの構成例を示す図。 第1実施形態の変形例8に係る固体撮像素子の構成例を示すブロック図。 第1実施形態の変形例9に係る固体撮像素子の構成例を示すブロック図。 第1実施形態の変形例10に係る固体撮像素子の構成例を示すブロック図。 解析部の構成例を示すブロック図。 撮像対象物の運動速度とアドレスイベント数との関係の一例を示す図。 フレームレート変更部による第2アクセス制御回路の駆動制御例を示す図。 第2実施形態に係る電子機器の処理例を示すフローチャート。 第3実施形態に係る解析部の構成例を示すブロック図。 第3実施形態に係る第2アクセス制御回路の駆動制御例を示す図。 第3実施形態に係る電子機器の処理例を示すフローチャート。 画素アレイ部の領域例を示す図。 撮影対象物の軌跡を示す図。 フレームF5における領域0毎のEVS用AFEの駆動方法を示す図。 フレームF6における領域0毎のEVS用AFEの駆動方法を示す図。 画素アレイ部に投影される光学像を模式的に示す図。 第6実施形態に係る解析部の構成例を示すブロック図。 閾値変更部の閾値変更例を示す図。 領域毎に設定された、閾値を模式的に示す図。
 以下、図面を参照して、電子機器及び電子機器の制御方法の実施形態について説明する。以下では、電子機器の主要な構成部分を中心に説明するが、電子機器には、図示又は説明されていない構成部分や機能が存在しうる。以下の説明は、図示又は説明されていない構成部分や機能を除外するものではない。
(第1実施形態)
[電子機器の構成例]
 図1は、本技術の実施の形態における電子機器100の一構成例を示すブロック図である。この電子機器100は、撮像レンズ110、固体撮像素子200、記録部120、制御部130、解析部140、通信部150、スピーカ部160、及び表示部170を備える。電子機器100は、例えば、スマートフォンや携帯電話、PC(Personal Computer)、監視カメラなどである。
 撮像レンズ110は、入射光を集光して固体撮像素子200に導くものである。固体撮像素子200は、例えばEVS用画素と階調用画素とを有する。EVS用画素は、輝度の変化量の絶対値が閾値を超えた旨をアドレスイベントとして検出するために用いることが可能である。このアドレスイベントは、例えば、輝度の上昇量が上限閾値を超えた旨を示すアドレスオンイベントと、輝度の低下量が上限閾値未満の下限閾値を下回った旨を示すアドレスオフイベントとを含む。そして、固体撮像素子200は、アドレスイベントの検出結果を示すアドレスイベント検出信号をEVS用の画素毎に生成する。それぞれのアドレスイベント検出信号は、アドレスオンイベントの有無を示すアドレスオンイベント検出信号VCHと、アドレスオフイベントの有無を示すアドレスオフイベント検出信号VCLとを含む。なお、固体撮像素子200は、アドレスオンイベントおよびアドレスオフイベントの両方の有無を検出しているが、一方のみを検出することもできる。
 また、本実施形態に係るEVS用画素は、アドレスイベント検出信号の他に、近傍の2つのEVS用画素間の差分値の絶対値が閾値を超えた旨をエッジイベントとして検出するために用いることが可能である。EVS用画素の近傍には、隣接するEVS用画素も含まれる。このエッジイベントは、例えば、差分値の上昇量が上限閾値を超えた旨を示すエッジオンイベントと、差分値の低下量が上限閾値未満の下限閾値を下回った旨を示すエッジオフイベントとを含む。そして、固体撮像素子200は、エッジイベントの検出結果を示すエッジイベント検出信号をEVS用の画素毎に生成することが可能である。それぞれのエッジイベント検出信号は、エッジオンイベントの有無を示すエッジオンイベント検出信号EVCHと、エッジオフイベントの有無を示すエッジオフイベント検出信号EVCLとを含む。なお、固体撮像素子200は、エッジオンイベントおよびエッジオフイベントの両方の有無を検出しているが、一方のみを検出することもできる。
 さらにまた、本実施形態に係るEVS用画素は、輝度信号を出力することも可能である。これにより、本実施形態に係る固体撮像素子200では、EVS用画素のアドレスイベント検出信号に基づくEVS画像と、EVS用画素の2画素間のエッジイベント検出信号に基づくEVS差分画像と、EVS用画素の輝度信号に基づくEVS輝度画像とを構成することが可能となる。
 一方で、階調用画素は階調用輝度信号を出力する。階調用画素が出力する階調用輝度信号に基づき、階調画像が構成される。本実実施形態では、階調用画素と、EVS用画素とが共に駆動される第1モードと、EVS用画素のみが駆動される第2モード、及び第3モードを有する。第2モードは、EVS用画素のアドレスイベント検出信号に基づくEVS画像と、EVS用画素のエッジイベント検出信号に基づくEVS差分画像と、EVS用画素の輝度信号に基づくEVS輝度画像とが構成されるモードである。これに対して、第3モードはEVS画像と、EVS差分画像とが構成されるモードである。階調用画素と、EVS用画素とは独立に駆動できるので、階調用画素は、例えば60fpsの撮像レートであるのに対し、第2モードは、200fpsなどのレートで撮像可能である。更に第3モードは、EVS用の画素から輝度信号を読み出さないので、更に高速のフレームレートで撮像可能である。
 電力消費は、第3モードが最も少なく、次に第2モードである。このため、第3モードで常にEVS用の画素を駆動し、EVS画像、及びEVS差分画像に基づく、状態監視などが可能となる。
 固体撮像素子200は、EVS画像、EVS差分画像、EVS輝度画像、及び階調画像に対し、画像処理、などの所定の信号処理を実行し、その処理後のデータを記録部120に信号線209を介して出力する。
 記録部120は、固体撮像素子200からのデータなどを記録するものである。制御部130は、電子機器100全体を制御する。例えば、制御部130は、固体撮像素子200を制御してEVS画像、EVS差分画像、EVS輝度画像、及び階調画像を撮像させるものである。
 解析部140は、EVS画像、EVS差分画像、EVS輝度画像、及び階調画像の少なくともいずれかを用いて、所定の解析処理を行う。この解析処理には、物体認識などの認識処理が含まれる。
 通信部150は、外部装置と無線通信を行う。これにより、外部のサーバからコンテンツなどを受信し、制御部130を介して記録部120に記録する。制御部130は、例えばこのコンテンツに基づく画像を表示部170に表示させる。
 スピーカ部160は、例えばスピーカを備え、音声情報を伝達可能である。なお、電子機器100が監視カメラなどの場合は、通信部150及びスピーカ部160を有さない構成としてもよい。
[固体撮像素子の構成例]
 図2は、本技術の実施の形態における固体撮像素子200の積層構造の一例を示す図である。この固体撮像素子200は、検出チップ202と、その検出チップ202に積層された受光チップ201とを備える。これらの基板は、ビアなどの接続部を介して電気的に接続される。なお、ビアの他、Cu-Cu接合やバンプにより接続することもできる。
 ここで、図3及び図4を用いて、第1実施形態による電子機器100の構成例を説明する。図3は、第1実施形態による電子機器100の模式的な断面図である。図4は、図1の電子機器100の模式的な外観図、左図は、表示部170側の外観図であり、右図は、A-A線方向の表示部170の断面図である。図4の例では、電子機器100の外形サイズの近くまで表示画面1aが広がって記載しているが、ベゼル1bには、不図示のフロントカメラ、深度センサが搭載される。図3、及び図4に示すように、電子機器100は、例えば撮像レンズ110を有する電子機器100の例であり、スマートフォンや携帯電話、タブレット、バーコードリーダ、PCなど、表示機能と撮影機能を兼ね備えた任意の電子機器である。
 表示部170の表示面とは反対側に配置されるカメラモジュール3を備えている。すなわち、カメラモジュール3内に、撮像レンズ110及び固体撮像素子200が配置される。このように、図1の電子機器1は、表示部170の表示面の裏側にカメラモジュール3を設けられる。したがって、カメラモジュール3は、表示部170を通して撮影を行うことになる。このように、電子機器100の中心付近にカメラモジュール3を設置できるため、オクルージョンを低減させることが可能となる。更に、表示部170そのものの発光を利用して高感度化させることも可能となる。また、表示部170の表示面の裏側にカメラモジュール3を設けているので、撮像レンズ110に厚みを持たせる空間的な余裕ができる。これにより、撮像レンズ110に魚眼レンズなどを用いることが可能となり、広範囲の画像を取得可能となる。
 図4に示すように、表示部170は、偏光板4c、4分の1波長板4b、表示パネル4(4a)、タッチパネル5、円偏光板6、カバーガラス7(タッチパネルを含んでもよい)を順に積層した構造体である。また、円偏光板6は、後述するように偏光板6a、4分の1波長板6bを有する。
 偏光板4c、及び4分の1波長板4bは、内部反射光がカメラモジュール3に入射するのを抑制する。
表示パネル4は、アレイ状に表示素子が配置される。表示パネル4は、例えば有機発光ダイオード(OLED:Organic Light Emitting Device)でもよいし、液晶表示部でもよいし、MicroLEDでもよいし、その他の表示原理に基づく表示パネルでもよい。
 OLED部等の表示パネル4は、複数の層で構成されている。表示パネル4には、カラーフィルタ層等の透過率が低い部材が設けられることが多い。表示パネル4における透過率が低い部材には、カメラモジュール3の配置場所に合わせて、貫通孔を形成してもよい。貫通孔を通った被写体光がカメラモジュール3に入射されるようにすれば、カメラモジュール3で撮像される画像の画質を向上できる。
 円偏光板6は、ギラツキを低減したり、明るい環境下でも表示画面1aの視認性を高めたり、するために設けられている。タッチパネル5には、タッチセンサが組み込まれている。タッチセンサには、静電容量型や抵抗膜型など、種々の方式があるが、いずれの方式を用いてもよい。また、タッチパネル5と表示パネル4を一体化してもよい。カバーガラス7は、表示パネル4等を保護するために設けられている。
 なお、図4では、表示画面1aの略中央部の裏面側にカメラモジュール3を配置しているが、本実施形態では、表示画面1aの裏面側であればよい。このように、本実施形態におけるカメラモジュール3は、表示画面1aと重なる裏面側の任意の位置に配置される。
 図5は、固体撮像素子200の構成例を示すブロック図である。図5に示すように、本開示に係る固体撮像素子200は、EVSと呼ばれる非同期型の撮像と、階調画像用の同期型の撮像とが並行して可能な装置である。この固体撮像素子200は、画素アレイ部30と、第1アクセス制御回路211aと、第2アクセス制御回路211bと、AD変換回路212aと、AD変換回路212bと、第1信号処理部213と、第2信号処理部214と、タイミング制御回路215と、出力インターフェース216、217とを有する。
 ここで、図6及び図7Aに基づき、画素アレイ部30の構成を説明する。図6は、画素アレイ部30に行列状に配置される画素ブロック30aを模式的に示す図である。図6に示すように、画素アレイ部30には、複数の画素ブロック30aが行列状(アレイ状)に2次元配列される
 図7Aに基づき、画素ブロック30aの構成を説明する。図7Aは、画素ブロック30aの構成を模式的に示す図である。図7Aに示すように、画素ブロック30aは、複数の階調用画素308と、複数のEVS用画素309と、EVS用画素309のそれぞれに対応するEVS用AFE(アナログ・フロント・エンド:Analog Front End)314とを有する。この画素ブロック30aには、複数の階調用画素308と複数のEVS用画素309とが行列状に配置される。この画素配列に対して、階調用画素308の画素列毎に、後述する垂直信号線VSL1が配線される。また、垂直信号線VSL1とは独立した垂直信号線VSL2が、EVS用画素309の画素列毎に配線される。複数の階調用画素308のそれぞれは、光電流に応じた電圧のアナログ信号を階調用輝度信号(第2輝度信号)として生成し、AD変換回路212a(図5参照)に出力する。なお、図7Aでは、複数の階調用画素308と、複数のEVS用画素309と、EVS用AFE314とを、説明を簡単にするために、同一平面上に記載しているが、複数の階調用画素308と、複数のEVS用画素309とは、受光チップ201に構成され、複数のEVS用AFE314は、検出チップ202に構成される。なお、本実施形態に係るEVS用AFE314が生成部に対応する。
 EVS用画素309は、第1モード及び第2モードでは、光電流に応じた光電変換信号をEVS用AFE314に出力する。また、EVS用画素309は、光電流に応じた光電変換信号をEVS用輝度信号(第1輝度信号)として生成し、アドレスイベント又はエッジイベントが生じた場合にAD変換回路212b(図5参照)に出力する。
 一方で、第3モードでは、EVS用画素309は、EVS用輝度信号をAD変換回路212b(図5参照)に出力せず、EVS用AFE314にのみEVS用輝度信号を出力する。
 図7Bは、画素ブロック30aの別の構成例を示す図である。図7Aでは、画素ブロック30a内の階調用画素308の数がEVS用画素309の数よりも多く構成されたのに対し、図7Bでは、画素ブロック30a内の階調用画素308の数がEVS用画素309の数よりも少なく構成されている。なお、図7Bでは、EVS用画素309のそれぞれに対応する複数のEVS用AFE314の記載を省略しているが、EVS用AFE314は、検出チップ202に構成される。
 図7Cは、画素ブロック30a内の画素を全てEVS用画素309で構成した例を示す図である。この場合、階調用画素308のみで構成される画素ブロックを画素ブロック30a外に構成してもよい。なお、図7Cでは、EVS用画素309のそれぞれに対応する複数のEVS用AFE314の記載を省略しているが、EVS用AFE314は、検出チップ202に構成される。このように、撮影の目的に応じて、画素ブロック30a内の階調用画素308の数とEVS用画素309の数との比率を変更してもよい。EVS用画素309の数が増加するに従い、差分信号を生成するために用いる2画素間のピッチをより短くすることが可能である。
 EVS用AFE(アナログ・フロント・エンド:Analog Front End)314は、EVS用画素309の出力に基づく信号からアドレスイベント検出信号V、又はエッジイベント検出信号Eを生成し、第2信号処理部214(図3参照)に出力する。より詳細には、EVS用AFE314は、EVS用画素309における光電流の変化量が所定の閾値を超えたか否かにより、アドレスイベントの有無を検出する。そして、EVS用AFE314は、アドレスイベント検出信号Vを第2信号処理部214に出力する。例えば、EVS用AFE314は、アドレスイベント検出信号Vとして、例えば、アドレス情報(Xa、Ya)、タイムスタンプ情報T、及びアドレスイベント信号VCの情報を含む信号(Xa、Ya、T、VC=1、or、-1))を、第2信号処理部214に出力する。アドレスイベント信号VC=-1は、アドレスオフイベントを示し、アドレスイベント信号VC=1は、アドレスオンイベントを示す。すなわち、アドレスイベント信号VC=-1は、アドレスオフイベント検出信号VCLに対応し、アドレスイベント信号VC=1は、アドレスオンイベント検出信号VCHに対応する。なお、本実施形態に係るアドレスイベント信号VCが第1信号に対応する。
 また、このEVS用AFE314は、EVS用画素309の対応する2画素間における光電流の差分値が所定の閾値を超えたか否かにより、エッジイベントの有無を検出する。この対応する2画素は、近傍の画素である。そして、EVS用AFE314は、エッジイベント検出信号Eを第2信号処理部214に出力する。例えば、EVS用AFE314は、エッジイベント検出信号Eとして、対応する2画素のアドレス情報(Xa、Ya)、(Xb、Yb)、タイムスタンプ情報T、及びエッジイベント信号EVCの情報を含む信号((Xa、Ya)、(Xb、Yb)、T、EVC=1、or、-1))を、第2信号処理部214に出力する。エッジイベント信号EVC=-1は、エッジオフイベントを示し、エッジイベント信号EVC=1は、エッジオンイベントを示す。すなわち、エッジイベント信号EVC=-1は、エッジオフイベント検出信号EVCLに対応し、エッジイベント信号EVC=1は、エッジオンイベント検出信号EVCHに対応する。なお、階調用画素308、EVS用画素309、及びEVS用AFE314の詳細な構成は、後述する。また、本実施形態に係るエッジイベント信号EVCが第2信号に対応する。
 再び図5に戻り、第1アクセス制御回路211aは、複数の階調用画素308を制御する。第1アクセス制御回路211aは、複数の階調用画素308それぞれの蓄積電荷のリセット、光電変換電流の蓄積量に応じた階調用輝度信号の生成、階調用輝度信号の出力などを制御する。例えば、第1アクセス制御回路211aは、複数の階調用画素308それぞれに蓄積された光電変換電流を、行毎に順に階調用輝度信号としてAD変換回路212aに出力させる。なお、階調用画素308の制御動作の詳細は後述する。
 第2アクセス制御回路211bは、複数のEVS用画素309と、複数のEVS用AFE314と、を制御する。本実施形態に係る第2アクセス制御回路211bは、複数のEVS用AFE314に対して行毎にアドレスイベント又はエッジイベントを順に検出させ、検出信号を第2信号処理部214に対して行毎に順に出力させる。本実施形態では、画素アレイ部30の一端の行から他端の行までの複数のEVS用AFE314に対する行毎の読みだしをフレーム読みだし制御と称する。この場合、一端の行から他端の行までの読みだしを一フレームとする。また、単位時間あたりに画素アレイ部30から読み出されるフレーム数をフレームレートと称する。例えば200fpsの場合、画素アレイ部30の一端の行から他端の行までの読みだしが、1秒あたりに200回行われる。なお、本実施形態に係る第2アクセス制御回路211bは制御回路に対応する。
 また、第2アクセス制御回路211bは、複数のEVS用AFE314に対してスイッティング動作の制御を行う。これにより、第2アクセス制御回路211bは、複数のEVS用AFE314毎に、アドレスイベント、又はエッジイベントの検出を切り変えることが可能である。また、第2アクセス制御回路211bは、複数のEVS用AFE314毎に、上限閾値、及び下限閾値を変更して設定することが可能である。
 また、第1モード及び第2モードでは、第2アクセス制御回路211bは、アドレスイベント検出信号、又はエッジイベント検出信号を出力したEVS用AFE314に対応するEVS用画素309からEVS用輝度信号をAD変換回路212bに出力させる。すなわち、第2アクセス制御回路211bは、アドレスイベント又はエッジイベント検出信号が検出された複数のEVS用画素309の輝度信号をAD変換回路212bに対して行毎に順に出力させる。
 図8に基づき、AD変換回路212aの構成例を説明する。図8は、AD変換回路212aの構成例を示すブロック図である。このAD変換回路212aは、画素ブロック30a毎に配置される階調用画素308の列ごとにADC230を備える。ADC230は、垂直信号線VSL1を介して供給されたアナログの階調用輝度信号SIGをデジタル信号に変換する。このデジタル信号は、階調用輝度信号SIG1よりもビット数の多いデジタルの画素信号に変換される。例えば、階調用輝度信号SIG1を2ビットとすると、画素信号は、3ビット以上(16ビットなど)のデジタル信号に変換される。ADC230は、生成したデジタル信号を第1信号処理部213に供給する。なお、画素アレイ部30における複数の階調用画素308の領域を複数の領域に分け、AD変換回路212aは、複数の領域毎に階調用輝度信号SIG1を読み出してもよい。これにより、より高速に階調用輝度信号SIG1を読み出すことが可能となる。
 図9に基づき、EVS用のAD変換回路212bの構成例を説明する。図9は、EVS用のAD変換回路212bの構成例を示すブロック図である。このEVS用のAD変換回路212bは、、画素ブロック30a毎に配置されるEVS用画素309の列ごとにADC230aを備える。
 ADC230aは、垂直信号線VSL2を介して供給されたアナログのEVS用輝度信号SIG2を対数変換回路331により対数変換し、更にデジタル信号に変換する。このデジタル信号は、EVS用輝度信号SIG2よりもビット数の多いデジタルの画素信号に変換される。例えば、EVS用輝度信号SIG2を2ビットとすると、画素信号は、3ビット以上(16ビットなど)のデジタル信号に変換される。ADC230は、生成したデジタル信号を第2信号処理部214に供給する。なお、対数変換回路331の詳細は、図12を用いて後述する。すなわち、この対数変換回路331は、後述するEVS用AFE314内の対数変換回路331と同等の回路である。
 再び図5に示すように、第1信号処理部213は、AD変換回路212aからのデジタル信号に対し、CDS(Correlated Double Sampling)処理などの所定の信号処理を実行するものである。この信号処理部212は、処理結果を示すデータと検出信号とを信号線209を介して記録部120に供給する。また、第1信号処理部213は、AD変換回路212aからのデジタル信号を所定のデータ形式の画像データを生成する。
 タイミング制御回路215は、タイムスタンプ情報に基づき固体撮像素子200の各構成のタイミングを制御する。例えば、タイミング制御回路212dは、第1アクセス制御回路211a、及び第2アクセス制御回路211bのタイミングを制御する。これにより、AD変換回路212aに読み出される階調用画素308の輝度信号と、AD変換回路212bに読み出されるEVS用画素309のEVS用輝度信号とを同期させることも可能である。
 第2信号処理部214は、複数のEVS用AFE314からの検出信号に対して所定の信号処理を実行する。第2信号処理部214は、例えば、アドレスイベント信号VCに基づくEVS用画素値を二次元格子状に配列し、EVS画像を生成する。同様に、第2信号処理部214は、例えば、エッジイベント信号EVCに基づくEVS差分画素値を二次元格子状に配列し、EVS差分画像を生成する。
 また、複数のEVS用AFE314毎にアドレスイベント信号VC及びエッジイベント信号EVCのいずれかが出力される場合には、EVS用画素値又はEVS差分画素値を二次元格子状に配列し、EVS混成画像を生成する。すなわち、EVS混成画像における画素毎の画素値は、アドレスイベント信号VC又はエッジイベント信号EVCに基づく値である。
 図5に示すように、出力インターフェース216は、第1信号処理部213から供給される画像データなどを記録部120に出力する。同様に、出力インターフェース217は、第2信号処理部214から供給される画像データなどを記録部120に出力する。
 ここで、図10に基づき、階調用画素308の詳細な構成例及び制御動作例を説明する。図10は、階調用画素308の構成例を示す図である。図10に示すように、階調用画素308は、光電変換素子311リセットトランジスタ321、増幅トランジスタ322、選択トランジスタ323および浮遊拡散層324、転送トランジスタ3310を有する。
 リセットトランジスタ321、増幅トランジスタ322、選択トランジスタ323および転送トランジスタ3310として、例えば、N型のMOS(Metal-Oxide-Semiconductor)トランジタが用いられる。また、光電変換素子311は、受光チップ201に配置される。光電変換素子311以外の素子の全ては、検出チップ202に配置される。
 光電変換素子311は、入射光を光電変換して電荷を生成する。
 転送トランジスタ3310のゲート電極には、第1アクセス制御回路211a(図5参照)から選択信号TRGが供給される。転送トランジスタ3310は、選択信号TRGに応答して光電変換素子311で光電変換された電荷が浮遊拡散層324に供給する。
 光電変換素子311から供給される電荷は、浮遊拡散層324に蓄積される。浮遊拡散層324は、蓄積した電荷の量に応じた電圧値の電圧信号を生成する。
 リセットトランジスタ321は、電源電圧VDDの電源ラインと浮遊拡散層324との間に接続されている。リセットトランジスタ321のゲート電極には、第1アクセス制御回路211a(図5参照)からリセット信号RSTが供給される。リセットトランジスタ321は、リセット信号RSTに応答して、浮遊拡散層324の電荷量を初期化(リセット)する。
 増幅トランジスタ322は、電源電圧VDDの電源ラインと垂直信号線VSL1との間に、選択トランジスタ323と直列に接続されている。増幅トランジスタ322は、浮遊拡散層324で電荷電圧変換された電圧信号を増幅する。
 選択トランジスタ323のゲート電極には、第1アクセス制御回路211aから選択信号SELが供給される。選択トランジスタ323は、選択信号SELに応答して、増幅トランジスタ322によって増幅された電圧信号を画素信号SIGとして垂直信号線VSL1を介してAD変換回路212a(図5参照)へ出力する。
(EVS用画素及びEVS用AFEの回路構成例)
  ここで、図11乃至図15に基づき、EVS用画素309の詳細な構成例を説明する。図11は、EVS用画素309及びEVS用AFE314の概略の構成例を示すブロック図である。図11に示すように、EVS用画素309は、受光素子(光電変換素子)311とスイッティング素子312とを有する。光電変換素子311で光電変換されたアナログの光電変換信号は、スイッティング素子312を介してAD変換回路212b(図9参照)に供給される。また、光電変換素子311で光電変換された光電変換信号は、EVS用AFE314に供給される。スイッティング素子312としては、例えば、N型のMOSトランジスタが用いられる。スイッティング素子312は、モード1及びモード2の場合に、第2アクセス制御回路211bの切替信号により、行毎に順に接続状態、非接続状態が切り換えられる。より詳細には、アドレスイベント又はエッジイベントの生じたEVS用画素309のEVS輝度信号が第2アクセス制御回路211bの切替信号により、行毎に順に接続状態、非接続状態が切り換えられる。これにより、アドレスイベント又はエッジイベントの生じたEVS用画素309のEVS輝度信号のみが出力されるため、EVS輝度画像がフレーム単位でより高速に構成される。一方で、第3モードの場合には、スイッティング素子312は常に非接続が維持される。
 図12は、EVS用AFE314の構成例を示す図である。図13は、切替回路328abの構成例を示す図である。ここで、差分値を生成するために用いる2つのEVS用画素309が有する光電変換素子311を、光電変換素子311a、光電変換素子311bで示す。また、図13では、光電変換素子311aが光電変換した光電変換信号を出力する対数変換回路331を対数変換回路331aで示し、光電変換素子311bが光電変換した光電変換信号を出力する対数変換回路331を対数変換回路331bで示す。図12に示すように、複数のEVS用画素309のそれぞれは、切替回路328ab、対数変換バッファ回路330、差分回路333、比較回路334、及び出力回路335を有する。対数変換バッファ回路330は、対数変換回路331とバッファ332とを有する。なお、本実施形態に係るバッファ332が保持回路に対応する。
 図13に示すように、切替回路328abは、対応するEVS用画素309a,bが有する光電変換素子311a,bと、対数変換回路331a,bとの間の接続を切り換える。すなわち、この切替回路328abは、複数のスイッティング素子Φaa,Φab,Φbb,Φbaを有する。スイッティング素子Φaaは、光電変換素子311aと対数変換回路331aとの間に接続される。スイッティング素子Φabは、光電変換素子311aと対数変換回路331bとの間に接続される。同様に、スイッティング素子Φbbは、光電変換素子311bと対数変換回路331bとの間に接続される。スイッティング素子Φbaは、光電変換素子311bと対数変換回路331aとの間に接続される。スイッティング素子Φaa,Φab,Φbb,Φbaの導通状態(オン)、非導通状態(オフ)は、第2アクセス制御回路211bの切替信号により制御される。スイッティング素子Φaa,Φab,Φbb,Φbaとしては、例えば、N型のMOSトランジスタが用いられる。
 対数変換回路331は、EVS用画素309a,bの光電変換素子311a,bからの光電変換信号を、その対数の電圧信号に変換する。対数変換回路331は、変換した電圧信号をバッファ332に供給する。バッファ332は、対数変換回路331から供給される電圧信号をバッファリングし、差分回路333に供給する。切替回路328abを対数変換回路331の前に配置することにより、対数変換回路331のオフセットのばらつきの影響を低減可能となる。
 差分回路333には、第2アクセス制御回路211bから行駆動信号が供給される。差分回路333は、行駆動信号に従って、バッファ332から供給される電圧信号のレベルを低下させる。そして、差分回路333は、レベル低下後の電圧信号を比較回路334に供給する。比較回路334は、差分回路333から供給される電圧信号をデジタル信号に量子化してアドレスイベントVC信号又はエッジイベント信号EVCとして出力回路335に出力する。
 出力回路335は、比較回路334から供給されるアドレスイベントVC信号を含むアドレスイベント検出信号V又はエッジイベント信号EVCを含むエッジイベント検出信号Eを第2信号処理部214等に転送する。この出力回路335は、アドレスイベント又はエッジイベントが検出された際に、アドレスイベント検出信号V又はエッジイベント検出信号Eを第2信号処理部214及び第2アクセス制御回路211bに供給する。
(対数変換回路の構成例)
 図14は、EVS用AFE314における対数変換回路331の構成の一例を示す回路図である。図13に示すように、本例に係る対数変換回路331は、N型トランジスタ3311、P型トランジスタ3312、及び、N型トランジスタ3313を有する回路構成となっている。これらのトランジスタ3311~3313としては、例えば、MOSトランジスタが用いられる。
 N型トランジスタ3311は、電源電圧VDDの電源ラインと信号入力線3314との間に接続されている。P型トランジスタ3312及びN型トランジスタ3313は、電源電圧VDDの電源ラインとグランドとの間に直列に接続されている。そして、P型トランジスタ3312及びN型トランジスタ3313の共通接続ノードN2には、N型トランジスタ3311のゲート電極と、図12に示すバッファ332の入力端子とが接続されている。
 P型トランジスタ3312のゲート電極には、所定のバイアス電圧Vbiasが印加される。これにより、P型トランジスタ3312は、一定の電流をN型トランジスタ3313に供給する。N型トランジスタ3313のゲート電極には、信号入力線3314を通して、光電変換素子311a又は光電変換素子311bから光電流が入力される。
 N型トランジスタ3311及びN型トランジスタ3313のドレイン電極は電源側に接続されており、このような回路はソースフォロワと呼ばれる。これらのループ状に接続された2つのソースフォロワにより、受光部31からの光電流は、その対数の電圧信号に変換される。
(差分回路及び比較回路の構成例)
 図15は、EVS用AFE314における差分回路333及び比較回路334の構成の一例を示す回路図である。
 本例に係る差分回路333は、容量素子3331、インバータ回路3332、容量素子3333、及び、スイッチ素子3334を有する構成となっている。
 容量素子3331の一端は、図12に示すバッファ332の出力端子に接続され、その他端は、インバータ回路3332の入力端子に接続されている。容量素子3333は、インバータ回路3332に対して並列に接続されている。スイッチ素子3334は、容量素子3333の両端間に接続されている。スイッチ素子3334にはその開閉制御信号として、第2アクセス制御回路211bから行駆動信号が供給される。スイッチ素子3334は、行駆動信号に応じて、容量素子3333の両端を接続する経路を開閉する。インバータ回路3332は、容量素子3331を介して入力される電圧信号の極性を反転する。
 上記の構成の差分回路333において、スイッチ素子3334をオン(閉)状態とした際に、容量素子3331のバッファ332側の端子に電圧信号Vinitが入力され、その逆側の端子は仮想接地端子となる。この仮想接地端子の電位を、便宜上、ゼロとする。このとき、容量素子3331に蓄積されている電荷Qinitは、容量素子3331の容量値をC1とすると、次式(1)により表される。一方、容量素子3333の両端は、短絡されているため、その蓄積電荷はゼロとなる。
  Qinit=C1×Vinit            ・・・(1)
 次に、スイッチ素子3334がオフ(開)状態となり、容量素子3331のバッファ332側の端子の電圧が変化してVafterになった場合を考えると、容量素子3331に蓄積される電荷Qafterは、次式(2)により表される。
  Qafter=C1×Vafter          ・・・(2)
 一方、容量素子3333に蓄積される電荷Q2は、容量素子3333の容量値をC2とし、出力電圧をVoutとすると、次式(3)により表される。
  Q2=-C2×Vout               ・・・(3)
 このとき、容量素子3331及び容量素子3333の総電荷量は変化しないため、次の式(4)が成立する。
  Qinit=Qafter+Q2           ・・・(4)
 式(4)に式(1)乃至式(3)を代入して変形すると、次式(5)が得られる。
  Vout=-(C1/C2)×(Vafter-Vinit)
                            ・・・(5)
 式(5)は、電圧信号の差分動作を表し、差分結果の利得はC1/C2となる。通常、利得を最大化することが望まれるため、C1を大きく、C2を小さく設計することが好ましい。一方、C2が小さすぎると、kTCノイズが増大し、ノイズ特性が悪化するおそれがあるため、C2の容量削減は、ノイズを許容することができる範囲に制限される。また、EVS用画素309毎に差分回路333を含むEVS用AFE314が搭載されるため、容量素子3331や容量素子3333には、面積上の制約がある。これらを考慮して、容量素子3331、3333の容量値C1、C2が決定される。
 図15において、比較回路334は、コンパレータ3341を有する構成となっている。コンパレータ3341は、インバータ回路3332の出力信号、即ち、差分回路333からの電圧信号を非反転(+)入力とし、所定の閾値電圧Vthを反転(-)入力としている。そして、コンパレータ3341は、差分回路333からの電圧信号と所定の閾値電圧Vthとを比較し、比較結果を示す信号をアドレスイベント信号VC又はエッジイベント信号EVCとして出力回路335に出力する。
 なお、比較回路334は、絶対値回路を有してもよく、差分回路333が出力する信号の絶対値と閾値電圧Vthとを比較してもよい。この場合、出力回路335は、差分回路333の出力が例えばプラスであれば、アドレスオンイベント信号VCH又はエッジオンイベント信号EVCHとして出力する。一方で、出力回路335は、差分回路333の出力が例えばマイナスであれば、アドレスオフイベント信号VCL又はエッジオフイベント信号EVCLとして出力する。
(EVS駆動、及び近傍画素差分駆動)
 ここで図16A乃至図17Cを用いて、EVS駆動、及び近傍画素差分駆動について説明する。
 図16Aは、EVS用AFE314a、314bの構成例を、切替回路328abの構成例を含めて示した図である。なお、近傍画素差分駆動は、2つのEVS用画素309a、309b間の信号値の差分処理を行う駆動である。この2つのEVS用画素309a、309bには、上述のように、隣接する画素の他に、近傍の画素も含まれる。近傍の画素には、例えば4隣接内の画素、8隣接内の画素などが含まれる。
 図16Bは、EVS駆動時のアドレスオフイベント検出信号VCLの生成例を示した図である。ここで、横軸は時間を示し、上からスイッティング素子Φaaの制御信号SΦaa、スイッティング素子Φabの制御信号SΦab,差分回路333aの出力信号、比較回路334aの出力信号を示す。フレーム時間F1、フレーム時間F2のそれぞれは、例えば全画素ブロック30a(図6参照)を上から下の行まで順に読み出す時間に対応する。スイッティング素子Φaaは制御信号SΦaaがハイレベルで接続状態となり、ロウレベルで非接続状態となる。同様にスイッティング素子Φabは制御信号SΦabがハイレベルで接続状態となり、ロウレベルで非接続状態となる。
 これにより、図16Bに示す様に、制御信号SΦaaがハイレベルの期間であるフレーム時間F1及びF2には差分回路333aには、EVS用画素309aからの信号が供給される。差分回路333aは、フレーム時間F1で対数変換バッファ回路330aから読み出され、対数変換バッファ回路330aに保持された保持信号aと、フレーム時間F2で対数変換バッファ回路330aから新たに読み出された入力信号aとの差分を演算し、差分信号を出力する。差分信号の値は、マイナスでその絶対値は、閾値Vthを超えている。これにより、比較回路334aは、フレーム時間F1からフレーム時間F2に切り替わった際にイベント信号をハイレベルとして出力する。差分回路333aの出力はマイナスであるので、出力回路335aは、アドレスイベント検出信号Vとして、アドレス情報(Xa、Ya)、タイムスタンプ情報T、及びアドレスオフイベント信号VCLを含む信号(Xa、Ya、T、VC=-1))を、第2信号処理部214に出力する。上述のように、アドレスイベント信号VC=-1は、アドレスオフイベント信号VCLに対応し、アドレスイベント信号VC=1は、アドレスオンイベント信号VCHに対応する。なお、差分信号の値が閾値Vthを超え無い場合には、出力回路335aは、信号を出力しないように構成される。
 図16Cは、EVS駆動時のアドレスオンイベント検出信号VCHの生成例を示した図である。図16Bと同様に、横軸は時間を示し、上からスイッティング素子Φbbの制御信号SΦbb、スイッティング素子Φbaの制御信号SΦba,差分回路333bの出力信号、比較回路334bの出力信号を示す。スイッティング素子Φbbは制御信号SΦbbがハイレベルで接続状態となり、ロウレベルで非接続状態となる。同様にスイッティング素子Φbaは制御信号SΦbaがハイレベルで接続状態となり、ロウレベルで非接続状態となる。
 これにより、図16Cに示す様に、制御信号SΦbbがハイレベルの期間であるフレーム時間F1及びF2には差分回路333bには、EVS用画素309bからの信号が供給される。差分回路333bは、フレーム時間F1で対数変換バッファ回路330bから読み出され、対数変換バッファ回路330bに保持された保持信号bと、フレーム時間F2で対数変換バッファ回路330bから新たに読み出された入力信号bとの差分を演算し、差分信号を出力する。差分信号の値は、プラスでその絶対値は、閾値Vthを超えている。これにより、比較回路334bは、フレーム時間F1からフレーム時間F2に切り替わった際にイベント検出信号をハイレベルとして出力する。差分回路333bの出力は、プラスであるので、出力回路335aは、アドレスイベント検出信号Vとして、アドレス情報(Xb、Yb)、タイムスタンプ情報T、及びアドレスオンイベント検出信号VCHを含む信号(Xb、Yb、T、VC=1))を、第2信号処理部214に出力する。このように、EVS駆動時には、アドレスイベント検出信号Vが第2信号処理部214に出力される。
 図17Aは、近傍画素差分駆動時のエッジオフイベント検出信号EVCLの生成例を示した図である。図16Bと同様に、横軸は時間を示し、上からスイッティング素子Φaaの制御信号SΦaa、スイッティング素子Φabの制御信号SΦab,差分回路333aの出力信号、比較回路334aの出力信号を示す。
 図17Aに示す様に、制御信号SΦbaがハイレベル、且つ制御信号SΦaaがロウレベルの期間であるフレーム時間F3には差分回路333aには、EVS用画素309bからの信号が供給される。逆に、制御信号SΦbaがロウレベル、且つ制御信号SΦaaがハイレベルの期間であるフレーム時間F4には差分回路333aには、EVS用画素309aからの信号が供給される。
 これにより,差分回路333aは、フレーム時間F3で対数変換バッファ回路330bから読み出され、対数変換バッファ回路330bに保持された保持信号bと、フレーム時間F4で対数変換バッファ回路330aから新たに読み出された入力信号aとの差分を演算し、差分信号を出力する。差分信号の値は、マイナスでその絶対値は、閾値Vthを超えている。これにより、出力回路335aは、エッジイベント検出信号Eとして、アドレス情報(Xa、Ya)、(Xb、Yb)、タイムスタンプ情報T、及びエッジオフイベント検出信号EVCLを含む信号((Xa、Ya)、(Xb、Yb)、T、EVC=-1))を第2信号処理部214に出力する。上述のように、エッジイベント信号EVC=-1は、エッジオフイベント信号EVCLに対応し、エッジイベント検出信号EVC=1は、エッジオンイベント検出信号EVCHに対応する。
 図17Bは、近傍画素差分駆動時のエッジオンイベント検出信号EVCHの生成例を示した図である。図17Aと同様に、横軸は時間を示し、上からスイッティング素子Φbbの制御信号SΦbb、スイッティング素子Φabの制御信号SΦab,差分回路333bの出力信号、比較回路334bの出力信号を示す。スイッティング素子Φbbは制御信号SΦbbがハイレベルで接続状態となり、ロウレベルで非接続状態となる。同様にスイッティング素子Φabは制御信号SΦabがハイレベルで接続状態となり、ロウレベルで非接続状態となる。
 これにより、図17Bに示す様に、制御信号SΦabがハイレベル、且つ制御信号SΦbbがロウレベルの期間であるフレーム時間F3には差分回路333bには、EVS用画素309aからの信号が供給される。逆に、制御信号SΦabがロウレベル、且つ制御信号SΦbbがハイレベルの期間であるフレーム時間F4には差分回路333bには、EVS用画素309bからの信号が供給される。
 差分回路333bは、フレーム時間F3で対数変換バッファ回路330aから読み出され、対数変換バッファ回路330aに保持された保持信号aと、フレーム時間F4で対数変換バッファ回路330bから新たに読み出された入力信号bとの差分を演算し、差分信号を出力する。差分信号の値は、プラスでその絶対値は、閾値Vthを超えている。これにより、比較回路334bは、フレーム時間F3からフレーム時間F4に切り替わった際にイベント検出信号をハイレベルとして出力する。差分回路333bの差分信号は、プラスであるので、出力回路335bは、エッジイベント検出信号Eとして、EVS用画素309a、309bのアドレス情報(Xa、Ya)、(Xb、Yb)、タイムスタンプ情報T、及びエッジオフイベント検出信号EVCHを含む信号((Xa、Ya)、(Xb、Yb)、T、EVC=1))を、第2信号処理部214に出力する。このように、近傍画素差分駆動時には、信号入力が対応するEVS用画素間でフレーム時間F3,F4に応じて切り替わり、エッジイベント検出信号Eが第2信号処理部214に出力される。
 図18Aは、表示部170に表示される階調用画素308の出力に基づく階調画像と、アドレスイベント検出信号VCに基づくEVS画像とを示す図である。図18Bは、階調用画素308の出力に基づく階調画像と、エッジイベント検出信号EVCに基づくEVS差分画像を示す図である。図18Aに示すように、第1信号処理部213は、階調用画素308の出力に基づく階調信号を画素信号として二次元格子状に配列し、階調画像を生成する。また、第2信号処理部214はアドレスイベント信号VCを画素信号として二次元格子状に配列し、EVS画像を生成する。この場合、例えばアドレスイベント信号VCの値に1000を乗算し、1000を加算する。これにより、例えば、EVS画像の画素値は、アドレスオンイベントが発生している領域の画素値が2000となり、アドレスオフイベントが発生している領域の画素値が0となり、アドレスイベントが発生していない領域の画素値は1000となる。そして、表示部170は、例えば階調画像とEVS画像とを並べて表示する。本実施形態では、画素値を、2000、1000、0としたがこれに限定されない。例えば、150,100,50等の3値でもよい。
 第2信号処理部214は、アドレスイベント信号VCの値の絶対値に基づき、EVS画像を生成してもよい。この場合、例えばアドレスイベント信号VCの絶対値に1000を乗算し、0を加算する。これにより、例えば、EVS画像の画素値は、アドレスイベントが発生している領域の画素値が1000となり、アドレスイベントが発生していない領域の画素値が0となる。また、表示部170は、EVS画像であることを示す表示形態をエリアA18に表示する。同様に、表示部170は、階調画像であることを示す表示形態をエリアA20に表示する。これにより、観察者は、表示画像の種類をより正確に判定可能となる。
 図18Bに示すように、第2信号処理部214はエッジイベント信号EVCを画素信号として二次元格子状に配列し、EVS差分画像を生成する。この場合、例えばエッジイベント信号EVCの値に1000を乗算し、1000を加算する。これにより、例えば、EVS差分画像の値は、エッジオンイベントが発生している領域の画素値が2000となり、エッジオフイベントが発生している領域の画素値が0となり、エッジイベントが発生していない領域の画素値が1000となる。表示部170は、例えば階調画像とEVS差分画像とを並べて表示する。
 第2信号処理部214は、エッジイベント信号EVCの値の絶対値に基づき、EVS差分画像を生成してもよい。この場合、例えばエッジイベント信号EVCの絶対値に1000を乗算し、0を加算する。これにより、例えば、EVS差分画像の画素値は、エッジイベントが発生している領域の画素値が1000となり、エッジイベントが発生していない領域の画素値が0となる。また、表示部170は、EVS差分画像であることを示す表示形態をエリアA18に表示する。同様に、表示部170は、階調画像であることを示す表示形態をエリアA20に表示する。これにより、観察者は、表示画像の種類をより正確に判定可能となる。
 以上説明したように、本実施形態によれば、EVS用AFE314は、光電変換素子311に基づく信号の時系列変化を同一のEVS用画素309aの出力信号に基づき生成するか、近傍の対応する二つのEVS用画素309a,bの出力信号に基づき生成するかを切り換えることとした。これにより、第2信号処理部214はアドレスイベント信号VC、及びエッジイベント信号EVCのすくなくともいずれかを画素信号としてEVS画像、及びEVS差分画像のすくなくともいずれかを生成することが可能となる。このため、撮影対象物の動きがある場合には、EVS画像として撮影対象物のエッジ情報を含む画像を生成でき、撮影対象物の動きが無い場合でもEVS差分画像として撮影対象物のエッジ情報を含む画像を生成できる。
(第1実施形態の変形例1)
 第1実施形態に係る電子機器100のEVS用AFE314a、314bは、EVS用画素309a,bと対数変換バッファ回路330a,bとの間に切替回路328abを構成していたが、第1実施形態の変形例1に係る電子機器100のEVS用AFE314aは、対数変換バッファ回路330a,bと、差分回路333a,bと、間に切替回路328abを構成する点で相違する。以下では、第1実施形態に係る電子機器100と相違する点を説明する。
 図19は、第1実施形態の変形例1に係るEVS用AFE314a、314bの構成例を示す図である。図19に示すように、切替回路328abは、対数変換バッファ回路330a,bと、差分回路333a,bと、間に構成される。対数変換バッファ回路330a,bにより、電圧変換後に切替回路328abにより信号を切り換えることが可能であり、EVS用画素309aとEVS用画素309bとの出力信号の検知を同時に行うことができる。
 例えば、スイッティング素子Φaa、及びスイッティング素子Φabを接続状態にし、スイッティング素子Φba、第4スイッティング素子スイッティング素子Φbbを非接続状態にし、差分回路333aの閾値を第1閾値とし、差分回路333bの閾値を第1閾値と異なる第2閾値とすることが可能となる。これにより対応する2つの画素間で異なるエッジ情報を得ることができる。
(第1実施形態の変形例2)
 第1実施形態の変形例2に係る電子機器100のEVS用AFE314は、切替回路328abのスイッティング素子を3つで構成する点で第1実施形態の変形例1に係る電子機器100のEVS用AFE314と相違する。以下では、第1実施形態の変形例1に係る電子機器100と相違する点を説明する。
 図20は、第1実施形態の変形例2に係るEVS用AFE314a、314bの構成例を示す図である。図20に示すように、切替回路328abは、スイッティング素子Φaa、Φab、Φbbにより構成される。これにより切替回路328abの面積をより小さくすることが可能となる。
(第1実施形態の変形例3)
 第1実施形態の変形例3に係る電子機器100のEVS用AFE314a、314b、314c、314dは、複数の切替回路328ab、328cdの切替タイミングを異ならせる点で第1実施形態の変形例1に係る電子機器100のEVS用AFE314と相違する。以下では、第1実施形態の変形例1に係る電子機器100と相違する点を説明する。
 図21は、第1実施形態の変形例3に係るEVS用AFE314の構成例を示す図である。図21に示すように、複数の切替回路328ab、328cdの駆動を異ならせている。例えば、切替回路328abは、EVS駆動を行っており、切替回路328cdは、近隣画素差分駆動を行っている。これにより画素ブロック30a(図6参照)毎にEVS画像用の信号と、EVS差分画像用の信号を生成することが可能となる。
(第1実施形態の変形例4)
 第1実施形態の変形例4に係る電子機器100のEVS用AFE314a、314b、314c、314dは、切替回路328qが4つのEVS用画素間の出力に基づく信号の差分をそれぞれ生成できるように構成される点で第1実施形態の変形例1に係る電子機器100のEVS用AFE314a、314bと相違する。以下では、第1実施形態の変形例1に係る電子機器100と相違する点を説明する。
 図22は、第1実施形態の変形例4に係るEVS用AFE314a、314b、314c、314dの構成例を示す図である。図22に示すように、切替回路328qは、4つのEVS用画素309間の出力に基づく信号の差分をそれぞれ生成できるように構成される。これにより例えば、4隣接のEVS用画素間のEVS差分画像をそれぞれ生成することが可能となる。
(第1実施形態の変形例5)
 第1実施形態の変形例5に係る電子機器100のEVS用AFE314a、314bは、差分回路333a,333bの出力をマルチプレクサ336により、比較回路334に出力を構成する点で第1実施形態の変形例1に係る電子機器100と相違する。以下では、第1実施形態の変形例1に係る電子機器100と相違する点を説明する。
 図23は、第1実施形態の変形例5に係るEVS用AFE314a、314bの構成例を示す図である。図23に示すように、マルチプレクサ336を有する点で第1実施形態の変形例1に係るEVS用AFE314a、314bと相違する。マルチプレクサ336は、第2アクセス制御回路211bの制御にしたがい、差分回路333a,333bの出力を選択する。これにより、EVS用AFE314a、314bは、比較回路334と出力回路335を共有することが可能となり、EVS用AFE314a、314bをより小型化できる。
(第1実施形態の変形例6)
 第1実施形態の変形例2に係る電子機器100のEVS用AFE314a、314bは、切替回路328dのスイッティング素子を2つで構成する点で第1実施形態の変形例1に係る電子機器100のEVS用AFE314a、314bと相違する。以下では、第1実施形態の変形例1に係る電子機器100と相違する点を説明する。
 図24は、第1実施形態の変形例6に係るEVS用AFE314の構成例を示す図である。図24に示すように、切替回路328abは、スイッティング素子Φaa、Φbaにより構成される。これにより切替回路328abの面積をより小さくすることが可能となる。また、差分回路333、比較回路334、及び出力回路335を共有することが可能となり、EVS用AFE314a、314bをより小型化できる。
(第1実施形態の変形例7)
 第1実施形態の変形例7に係る電子機器100のEVS用AFE314a、314b、314c、314dは、切替回路328qが4つのEVS用画素間の出力に基づく信号の差分をそれぞれ生成できるように構成した点で第1実施形態に係る電子機器100のEVS用AFE314a、314bと相違する。以下では、第1実施形態に係る電子機器100と相違する点を説明する。
 図25は、第1実施形態の変形例7に係るEVS用AFE314a、314b、314c、314dの構成例を示す図である。図25に示すように、切替回路328qは、4つのEVS用画素間309と、4つの対数変換バッフア回路331と、の間に構成される。これにより例えば、4つの対数変換バッフア回路309間のオフセットのばらつきを低減した状態で、4隣接のEVS用画素309間のEVS差分画像をそれぞれ生成することが可能となる。
(第1実施形態の変形例8)
 第1実施形態の変形例8に係る第2実施形態の固体撮像素子200は、アービタ回路218を用いてEVS用画素間309から輝度信号を読み出す点で第1実施形態に係る撮像装置100と相違する。以下では、第1実施形態に係る撮像装置100と相違する点に関して説明する。
 図26は、第1実施形態の変形例8に係る固体撮像素子200の構成例を示すブロック図である。図26に示すように、本開示に係る固体撮像素子200は、アービタ回路218を有する。
 図26に示すように、第1実施形態の変形例8に係るEVS用AFE314は、アドレスイベント又はエッジイベントが生じた際に、リクエストをアービタ回路218に出力する。
 アービタ回路218は、複数のEVS用EFE314のそれぞれからのリクエストを調停し、調停結果に基づく応答をEVS用AFE314に送信する。アービタ回路218からの応答を受け取ったEVS用AFE314は、アドレスイベント検出信号V又はエッジイベント検出信号Eを第2信号処理部214に供給する。
 第1モード及び第2モードの場合、第2信号処理部214は、更に第2アクセス制御回路211b及びタイミング制御回路215に、アドレスイベント又はエッジイベントが生じたEVS用AFE314の位置を示す情報を含む信号を出力する。第2アクセス制御回路211bは、位置を示されたEVS用画素309のスイッティング素子312を制御し、EVS用輝度信号をAD変換回路212bに出力させる。
 以上説明したように、本実施形態によれば、アービタ回路218がアドレスイベント又はエッジイベントが生じたEVS用AFE314のみからの情報を調停して出力させるので、より高速化することが可能である。
(第1実施形態の変形例9)
 第1実施形態の変形例9に係る固体撮像素子200は、画素アレイ部に含まれる画素が全てEVS用画素309により構成され、AD変換回路212a、第1信号処理部213、及びタイミング制御回路215を有さない点で第1実施形態の変形例8に係る固体撮像素子200と相違する。以下では、第1実施形態の変形例8に係る固体撮像素子200と相違する点に関して説明する。
 図27は、第1実施形態の変形例9に係る固体撮像素子200の構成例を示すブロック図である。図27に示すように、本開示に係る固体撮像素子200は、画素アレイ部に含まれる画素が全てEVS用画素309により構成される。このため、本開示に係る固体撮像素子200は、画素アレイ部30と、第2アクセス制御回路211bと、AD変換回路212bと、第2信号処理部214と、出力インターフェース217と、アービタ回路218とを有する。
 以上説明したように、本実施形態によれば、固体撮像素子200が、画素アレイ部30と、第2アクセス制御回路211bと、AD変換回路212bと、第2信号処理部214と、出力インターフェース217と、アービタ回路218とで構成されるため、より小型化可能である。
(第1実施形態の変形例10)
 第1実施形態の変形例10に係る固体撮像素子200は、画素アレイ部に含まれる画素が全てEVS用画素309により構成され、AD変換回路212a、第1信号処理部213、及びタイミング制御回路215を有さない点で第1実施形態に係る固体撮像素子200と相違する。以下では、第1実施形態に係る固体撮像素子200と相違する点に関して説明する。
 図28は、第1実施形態の変形例10に係る固体撮像素子200の構成例を示すブロック図である。図28に示すように、本開示に係る固体撮像素子200は、画素アレイ部に含まれる画素が全てEVS用画素309により構成される。また、EVS用画素309からの信号の読み出しも行毎に順に行う。このため、本開示に係る固体撮像素子200は、AD変換回路212a、第1信号処理部213、タイミング制御回路215、及びアービタ回路218を構成しない構成が可能となる。
 以上説明したように、本実施形態によれば、画素アレイ部に含まれる画素を全てEVS用画素309により構成し、EVS用画素309からの信号の読み出しも行毎に順に行うこととした。これにより、AD変換回路212a、第1信号処理部213、タイミング制御回路215、及びアービタ回路218を有さない構成が可能となり、さらに固体撮像素子200を小型化可能である。
(第2実施形態)
 第2実施形態に係る電子機器100は、EVS駆動から近傍画素差分検出駆動へ、撮像状態に応じて切替え可能な機能を更に搭載する点で、第1実施形態及び第1実施形態の変形例1乃至10に係る電子機器100と相違する。以下では、第1実施形態及び第1実施形態の変形例1乃至10に係る電子機器100と相違する点に関して説明する。
 図29は、解析部140の構成例を示すブロック図である。図29に示すように、解析部140は、認識処理部1400と、イベント数検知部1402と、フレームレート変更部1404とを有する。解析部140は、例えば、CPU(Central Processing Unit)を含んで構成される。例えば記録部120(図1参照)は、解析部140における処理を実行するための各種のプログラムも記憶している。これにより、解析部140は、例えば記録部120に記憶されるプログラムを実行することにより、各部を構成する。
 認識処理部1400は、例えばEVS画像、EVS差分画像、EVS混成画像のエッジ情報を用いて、撮影対象物のカテゴリを認識する。認識処理部1400における認識アルゴリズは、一般的なアルゴリズを用いることが可能である。
 イベント数検知部1402は、EVS駆動時において、固体撮像素子200内のEVS用AFE314が出力するアドレスイベント検出信号の単位時間あたりの数を、アドレスイベント数としてカウントする。
 図30は、撮像対象物の運動速度とイベント数検知部1402が検知するアドレスイベント数との関係の一例を示す図である。縦軸は、単位時間あたりに全てのEVS用AFE314に検出されたアドレスイベント数を示し、横軸は、撮影対象物の速度を示す。ラインL160は、撮像対象物の速度とアドレスイベント数の関係例を示す。ラインL160に示すように、アドレスイベント数は、撮影対象物が静止している場合に0となる。逆に、アドレスイベント数は、撮影対象物の撮影対象物の速度が増加するに従い0から増加する。
 フレームレート変更部1404は、イベント数検知部1402が出力するアドレスイベント数に応じて、第2アクセス制御回路211bがフレーム読み出し制御をするEVS用AFE314のフレームレートを変更する。すなわち、第2アクセス制御回路211bは、アドレスイベント数に応じて、単位時間あたりに画素アレイ部30からアドレスイベントを読み出すフレームレートを変更する。さらに、フレームレート変更部1404は、アドレスイベント数が所定の閾値以下になった場合に、第2アクセス制御回路211bがEVS用AFE314に対して行う駆動制御をEVS駆動から近傍画素差分駆動に変更する。また、、フレームレート変更部1404は、近傍画素差分駆動では、フレームレートを所定値とする。
 図31は、フレームレート変更部1404による第2アクセス制御回路211bの駆動制御例を示す図である。縦軸は、アドレスイベント数を示し、横軸は、経過時間を示す。ラインL162は、撮像対象物のアドレスイベント数と経過時間との関係例を示す。ラインL162に示すように、ここでは、撮影対象物の運動速度が時間経過に従い低下する例を示している。フレームレート変更部1404は、閾値th162に達すると、第2アクセス制御回路211bがEVS用AFE314に対して行う駆動制御をEVS駆動からフレームレートを所定値として、近傍画素差分駆動に変更する。このように、アドレスイベント数に応じてフレームレートを変更することにより、EVS画像、EVS差分画像におけるエッジ情報の量が平準化される。これにより、認識処理部1400は、同一の認識アルゴリズムによりEVS画像、EVS差分画像、EVS混成画像のいずれに対しても認識処理を行うことが可能となる。このように、認識処理部1400は、EVS画像、EVS差分画像、EVS混成画像のいずれに対しても、認識精度の低下が抑制される
 図32は、第2実施形態に係る電子機器100の処理例を示すフローチャートである。図32に示すように、第2アクセス制御回路211bは、フレームレート変更部1404の出力信号に従いEVS用AFE314をEVS駆動により駆動する(ステップS100)。続けて、イベント数検知部1402は、EVS駆動時において、固体撮像素子200内のEVS用AFE314が出力するアドレスイベント検出信号の単位時間あたりの数を、アドレスイベント数としてカウントする(ステップS102)。
 次に、フレームレート変更部1404は、イベント数検知部1402が出力するアドレスイベント数に応じて、第2アクセス制御回路211bが読みだし制御するフレームレートを変更する(ステップS104)。続けて、フレームレート変更部1404は、アドレスイベント数が所定の閾値th162未満になったか否かを判定する(ステップS106)。所定の閾値th162未満でないと判定する場合(ステップS106のN)、フレームレート変更部1404は、EVS駆動を維持し、認識処理部1400は、EVS画像に対して認識処理を実行する(ステップS108)。
 一方で、フレームレート変更部1404が、アドレスイベント数所定の閾値th未満であると判定する場合(ステップS106のY)、第2アクセス制御回路211bは、フレームレート変更部1404の出力信号に従いEVS用AFE314を近傍画素差分駆動に変更する(ステップS110)。続けて、認識処理部1400は、EVS差分画像に対して認識処理を実行する(ステップS112)。フレームレート変更部1404は、近傍画素差分駆動を終了するか否かを判定し(ステップS114)、終了しない場合(ステップS114のN)、ステップS110の処理を繰り返す。一方で、終了すると判定する場合(ステップS114のY)、全体処理を終了する。
 以上説明したように、本実施形態によれば、フレームレート変更部1404が、イベント数検知部1402が出力するアドレスイベント数に応じて、第2アクセス制御回路211bのフレームレートを変更することとした。これにより、エッジ情報の量を平準化可能となり、撮像対象物の移動速度によらず、認識処理部1400の認識率の低下を抑制できる。このため、認識処理部1400により、停止を含むより広範囲の速度範囲の認識対象物を認識できる。
(第3実施形態)
 第3実施形態に係る電子機器100は、近傍画素差分検出駆動からEVS駆動へ状態に応じて切替え可能な機能を更に搭載する点で、第2実施形態に係る電子機器100と相違する。以下では、第2実施形態に係る電子機器100と相違する点に関して説明する。
 図33は、第3実施形態に係る解析部140の構成例を示すブロック図である。図33に示すように、解析部140は、差分値演算部1406を更に有する。
 差分値演算部1406は、近傍画素差分駆動時において、時系列に生成されるEVS差分画像間の差分演算処理を行う。この差分値演算部1406は、記録部120(図1参照)に時系列に記録されるEVS差分画像間の差分演算処理を行い、演算結果をフレームレート変更部1404に供給する。差分値演算部1406が演算するEVS差分画像間の差分値は、例えば撮影対象物が完全に停止している場合には0であり、撮影対象物が運動を開始すると、増加する。
 フレームレート変更部1404は、差分値演算部1406が演算する差分値が所定の閾値以上になった場合に、第2アクセス制御回路211bの駆動制御を近傍画素差分駆動からEVS駆動に変更する。さらに、フレームレート変更部1404は、EVS駆動に変更した後、イベント数検知部1402が出力するアドレスイベント数に応じて、第2アクセス制御回路211bが読みだし制御するフレームレートを変更する。
 図34は、第3実施形態に係るフレームレート変更部1404による第2アクセス制御回路211bの駆動制御例を示す図である。縦軸は、EVS差分画像間の差分値を示し、横軸は、経過時間を示す。ラインL180は、EVS差分画像間の差分値と経過時間との関係例を示す。ここでは、ラインL180に示すように、差分値が時間経過に従い増加する例を示している。
 フレームレート変更部1404は、差分値演算部1406が演算する差分値が閾値th180に達すると、第2アクセス制御回路211bによる駆動制御を近傍画素差分駆動からEVS駆動に変更する。このように、差分値演算部1406が演算する差分値に応じて近傍画素差分駆動からEVS駆動に変更することが可能となる。
 図35は、第3実施形態に係る電子機器100の処理例を示すフローチャートである。図32に示すように、第2アクセス制御回路211bは、フレームレート変更部1404の出力信号に従いEVS用AFE314を近傍画素差分駆動により駆動する(ステップS200)。続けて、差分値演算部1406は、近傍画素差分駆動において、記録部120に時系列に記録されるEVS差分画像間の差分演算処理を実行する(ステップS202)。
 次に、フレームレート変更部1404は、差分値演算部1406が演算する差分値が所定の閾値th180以上になったか否かを判定する(ステップS204)。所定の閾値未満であると判定する場合(ステップS204のN)、フレームレート変更部1404は、近傍画素差分駆動を維持し、ステップS200からの処理を繰り返す。
 一方で、フレームレート変更部1404が、差分値演算部1406が演算する差分値が閾値th180以上であると判定する場合(ステップS204のY)、第2アクセス制御回路211bは、フレームレート変更部1404の出力信号に従いEVS用AFE314をEVS駆動に変更する(ステップS110)。
 以上説明したように、本実施形態によれば、フレームレート変更部1404が、差分値演算部1406が演算する差分値が所定の閾値th180以上になると、EVS用AFE314の駆動を近傍画素差分駆動からEVS駆動に変更することとした。これにより、撮影対象物が運動を開始したタイミングに合わせて、近傍画素差分駆動からEVS駆動に変更することが可能となる。このため、EVS差分画像及びEVS画像におけるエッジ情報の量を平準化可能となり、撮像対象物の移動速度によらず、認識処理部1400の認識率の低下を抑制できる。
(第4実施形態)
 第4実施形態に係る電子機器100は、第2アクセス制御回路211bが、画素アレイ部30の領域毎にEVS用AFE314の駆動方法を変更する点で、第3実施形態に係る電子機器100と相違する。以下では、第3実施形態に係る電子機器100と相違する点に関して説明する。
 図36は、画素アレイ部30の領域例を示す図である。図36に示すように、第4実施形態に係る電子機器100では、画素アレイ部30の領域を複数の領域A300に分け、領域A300毎にEVS用AFE314の駆動方法を変更することが可能である。図36では、中心領域G16に含まれる領域A300に対しては、近傍画素差分駆動が実行され、周辺領域F16に対しては、EVS駆動が実行される。
 より具体的には、第2アクセス制御回路211b(図5参照)は、複数の領域A300毎にEVS駆動、及び近傍画素差分駆動のいずれかを実行する。この場合、第2信号処理部214(図5参照)は、EVS混成画像を生成する。例えば第2アクセス制御回路211b(図5参照)は、ユーザによる設定モードに応じて領域A300毎の駆動方法を設定する。
 図37は、撮影対象物の軌跡を示す図である。例えばゼッシャー認識など、撮影対象である手などを撮影する場合の軌跡例である。このようなゼッシャー認識では、周辺領域F16では、撮影対象は運動しているが、中心領域G16では停止する動作が行われる場合がある。この場合、周辺領域F16では、EVS駆動が実行されるので運動中の撮影対象のエッジ情報を取得可能となり、中心領域G16では、近傍画素差分駆動が実行されるので、静止中の撮影対象のエッジ情報を取得可能となる。
 以上説明したように、本実施形態によれば、画素アレイ部30の領域を複数の領域A300に分け、領域A300毎にEVS用AFE314の駆動方法を変更することした。これにより、領域A300毎に運動中の撮影対象と、静止中の撮影対象のエッジ情報を取得可能となる。このため、領域A300毎に運動又は静止する撮影対象のエッジ情報を、駆動方法を切り換えずとも取得できる。
(第5実施形態)
 第5実施形態に係る電子機器100は、フレームレート変更部1404が第2アクセス制御回路211を介して、画素アレイ部30の領域毎におけるEVS用AFE314の駆動を変更する点で、第4実施形態に係る電子機器100と相違する。以下では、第4実施形態に係る電子機器100と相違する点に関して説明する。
 図38は、フレームF5における領域A300毎のEVS用AFE314の駆動方法を示す図であり、図39は、フレームF6における領域A300毎のEVS用AFE314の駆動方法を示す図である。
 図38、及び図39に示すように、第5実施形態に係る電子機器100では、画素アレイ部30の領域を複数の領域A300に分け、領域A300毎にEVS用AFE314の駆動方法を時系列にフレーム毎に変更することが可能である。
 より具体的には、イベント数検知部1402(図33参照)は、EVS駆動が実行される領域A300毎のアドレスイベント数を検知する。また、差分値演算部1406(図33参照)は、近傍画素差分駆動が実行される領域A300毎の差分値を演算する。そして、フレームレート変更部1404は、領域A300毎のアドレスイベント数、及び差分値のいずれかを用いて、領域A300毎の駆動方法を第2アクセス制御回路211b(図5参照)に変更させる。
 図40は、画素アレイ部30に投影される光学像を模式的に示す図である。電子機器100が監視カメラとして実施されている例である。図40の左端の人物は歩行中であり、他の人物は停止中である。
このような場合、フレームレート変更部1404は、左端の人物を囲む点線の枠R400内に対応する領域A300内の駆動をEVS駆動とし、他の領域A300内の駆動を近傍画素差分駆動とする。
 以上説明したように、本実施形態によれば、画素アレイ部30の領域を複数の領域A300に分け、領域A300毎のアドレスイベント数、及び差分値に応じてEVS用AFE314の駆動方法を変更することした。これにより、複数の撮影対象が時間経過にしたがい独立に動いたり、停止したりする場合にも、撮影対象のエッジ情報を取得可能となる。このため、独立に動いたり、停止したりする複数の撮像対象物の認識処理部1400による認識を行うことが可能となる。
(第6実施形態)
 第6実施形態に係る電子機器100は、撮像状況に応じて比較回路334の閾値を変更する機能を更に有する点で、第5実施形態に係る電子機器100と相違する。以下では、第5実施形態に係る電子機器100と相違する点に関して説明する。
 図41は、第6実施形態に係る解析部140の構成例を示すブロック図である。図41に示すように、解析部140は、閾値変更部1408を更に有する。
 図42は、閾値変更部1408の閾値変更例を示す図である。縦軸は比較回路334(図12参照)の閾値を示し、横軸は、領域A300毎(図39参照)のアドレスイベント数を示す。
 閾値変更部1408は、図42に示すように、領域A300毎の駆動状態とイベント数検知部1402の検知するアドレスイベント数に基づき、領域A300毎における比較回路334の閾値を変更する。例えば、領域A300内のEVS用AFE314が近傍画素差分駆動をしている場合には、所定の閾値th42aを設定する。一方で、領域A300内のEVS用AFE314がEVS駆動をしている場合には、アドレスイベント数に基づく閾値th42bを設定する。
 図43は、領域A300毎(図39参照)に設定された、閾値を模式的に示す図である。このように、領域A300毎の閾値th42a、th42bを撮影状況に応じて設定することが可能である。これにより、アドレスイベント数が多い領域では、閾値th42bが大きくなるので、アドレスイベント数が減少逐次的に減少する。これにより、領域A300毎のアドレスイベント数が所定数になだらかに収束する状態となる。このため、このため、EVS差分画像及びEVS画像におけるエッジ情報の量を平準化可能となり、撮像対象物の移動速度によらず、認識処理部1400の認識率の低下を抑制できる。
 以上説明したように、本実施形態によれば、画素アレイ部30の領域を複数の領域A300に分け、領域A300毎の駆動方法、及びアドレスイベント数に応じて、領域A300毎における比較回路334の閾値th42a、th42bを変更することした。これにより、複数の撮影対象が時間経過にしたがい独立に動いたり、停止したりする場合にも、撮影対象のエッジ情報を取得可能となる。このため、EVS差分画像及びEVS画像におけるエッジ情報の量を平準化可能となり、撮像対象物の移動速度によらず、認識処理部1400の認識率の低下を抑制できる。
る。
 なお、本技術は以下のような構成を取ることができる。
 (1)光電変換して光電変換信号を生成する複数の光電変換素子と、
 前記複数の光電変換素子の内の単一の光電変換素子が出力する光電変換信号の変化量が所定値を超えた場合に第1信号を生成し、前記複数の光電変換素子の内の2つの光電変換素子がそれぞれ出力する光電変換信号の差分値が所定値を超えた場合に第2信号を生成する、生成部と、
 を備える、固体撮像素子。
 (2)前記生成部は、2つの信号の差分値を生成する第1差分回路と、
 2つの光電変換素子の内の一方の第1光電変換素子が出力する第1光電変換信号に基づく第1光電信号と、他方の第2光電変換素子が出力する第2光電変換信号に基づく第2光電信号とを切り換えて前記第1差分回路に出力する切替回路と、
 を有し、
 前記差分値に基づき、前記第1信号、及び前記第2信号の一方が生成される、(1)に記載の固体撮像素子。
 (3)前記切替回路が、前記第1光電信号を前記第1差分回路に入力させた後に、前記第2光電信号を前記第1差分回路に入力させた場合に、前記第2信号が生成される、(2)に記載の固体撮像素子。
 (4)前記生成部は、前記第1光電変換信号又は前記第2光電変換信号を対数変換する第1対数変換回路を更に有し、
 前記切替回路は、第1対数変換回路を介して前記第1光電信号又は前記第2光電信号を前記第1差分回路に出力する、(2)又は(3)に記載の固体撮像素子。
 (5)前記生成部は、
 前記第1光電変換信号を対数変換する第1対数変換回路と、
 前記第1対数変換回路の出力する前記第1光電信号を保持する第1保持回路と、
 前記第2光電変換信号を対数変換する第2対数変換回路と、
 前記第2対数変換回路の出力する前記第2光電信号を保持する第2保持回路と、
 を更に有し、
 前記切替回路は、前記第1保持回路の出力する前記第1光電信号と、前記第2保持回路の出力する前記第2光電信号と、切り換えて前記第1差分回路に出力する、(2)又は(3)に記載の固体撮像素子。
 (6)前記生成部は、
 2つの信号の差分値を生成する第2差分回路を更に有し、
 前記切替回路は、前記第1保持回路と前記第1差分回路との間に接続される第1スイッティング素子と、前記第1保持回路と前記第2差分回路との間に接続される第2スイッティング素子と、前記第2保持回路と前記第2差分回路との間に接続される第3スイッティング素子と、前記第2保持回路と前記第1差分回路との間に接続される第4スイッティング素子と、を有する、(5)に記載の固体撮像素子。
 (7)前記生成部は、
 前記第1差分回路の出力信号と所定の第1閾値とを比較し、前記第1信号、及び前記第2信号の一方を生成する第1比較回路と、
 前記第2差分回路の出力信号と所定の第2閾値とを比較し、前記第1信号、及び前記第2信号の一方を生成する第2比較回路と、
 を更に有する、(6)に記載の固体撮像素子。
 (8)前記第1スイッティング素子、及び前記第2スイッティング素子を接続状態にし、前記第3スイッティング素子、及び前記第4スイッティング素子を非接続状態にし、前記第1閾値と前記第2閾値とを異ならせる、(7)に記載の固体撮像素子。
 (9)前記第1差分回路の出力信号と前記第2差分回路の出力信号とを選択する選択回路と、
 選択回路が出力する信号と所定の閾値を比較し、前記第1信号、及び前記第2信号の一方を生成する比較回路を、
 更に有する、(6)に記載の固体撮像素子。
 (10)前記生成部は、2つの信号の差分値を生成する第1差分回路と、
 3つ以上の光電変換素子のそれぞれが出力する光電変換信号を切り換えて前記第1差分回路に出力する切替回路と、
 を有し、
 前記差分値に基づき、前記第1信号、及び前記第2信号の一方が生成される、(1)に記載の固体撮像素子。
 (11) 前記複数の光電変換素子の少なくとも一つが出力する光電変換信号に基づき、階調画像が構成される、(1)に記載の固体撮像素子。
 (12) 複数の光電変換素子が2次元格子状に配置された受光部(受光チップ)と、
  前記複数の光電変換素子の中の対応する2つの光電変換素子の組合せのそれぞれに対して第1信号、及び第2信号の一方を生成する複数の生成部を有する検出部(検出チップ)であって、前記2つの光電変換素子の内の単一の光電変換素子が出力する光電変換信号の変化量が所定値を超えた場合に前記第1信号を生成し、前記2つの光電変換素子がそれぞれ出力する光電変換信号の差分値が所定値を超えた場合に前記第2信号を生成する、検出部と、
 前記複数の生成部に対して、前記第1信号、及び前記第2信号のいずれかを生成させる制御回路と、
を備える、電子機器。
 (13)前記制御回路は、前記受光部の行毎に配置される複数の光電変換素子に対応する前記生成部に対して、前記第1信号、又は前記第2信号を前記行に対応させて順に出力させるフレーム読み出し制御を行う、(12)に記載の電子機器。
 (14)単位時間あたりに前記第1信号を出力する前記生成部の数をカウントする解析部を更に備え、
 前記制御回路は、前記カウント数に応じて、フレーム読み出し制御の速度を変更する、(13)に記載の電子機器。
 (15)前記制御回路は、前記カウント数が所定値以下となった場合に、前記生成部に対して、前記第2信号を出力させる制御を行う、(14)に記載の電子機器。
 (16)前記第1信号に基づく第1画像と、前記第2信号に基づく第2画像と、前記第1信号、及び前記第2信号に基づく第3画像のいずれかを少なくとも生成する信号処理部と、
 前記第1信号に基づく第1画像と、前記第2信号に基づく第2画像と、記第1信号、及び前記第2信号に基づく第3画像のいずれかを用いて撮像対象を認識する解析部と、
 を備える、(15)に記載の電子機器。
 (17)前記解析部は、時系列に生成された前記第2画像間の差分値を生成し、
 前記制御回路は、前記差分値が所定値以上となった場合に、前記生成部に対して、前記第1信号を出力させる制御を行う、(16)に記載の電子機器。
 (18)前記受光部は、複数の領域に分けられており、
 前記制御回路は、前記複数の領域毎に対応する前記生成部に対して、前記第1信号、及び前記第2信号のいずれかを生成させる制御を行う、(17)に記載の電子機器。
 (19)前記解析部は、前記差分値又は前記カウント数を前記複数の領域毎に生成し、 前記制御回路は、前記領域毎の前記差分値又は前記カウント数に応じて、前記領域毎に対応する前記生成部に対して、前記第1信号、及び前記第2信号のいずれかを生成させる制御を行う、(18)に記載の電子機器。
 (20)前記複数の生成部のそれぞれは、前記2つの光電変換素子の組合せのそれぞれが出力する光電変換信号に基づく2つの信号の差分値を生成する差分回路と、
 前記差分回路が出力する差分値と所定の閾値を比較する比較回路とを有し、
 前記制御回路は、前記カウント数に応じて、閾値を変更する、(19)に記載の電子機器。
 (21)入射光を集光して前記受光部に導く撮像レンズと、
 前記検出部からのデータを記録する記録部と、
 前記検出部を制御して画像を撮像させる制御部と、
を更に備える、(12)に記載の電子機器。
 (22)複数の光電変換素子の内の単一の光電変換素子が出力する光電変換信号の変化量が所定値を超えた場合に第1信号を生成する工程と、
 前記複数の光電変換素子の内の2つの光電変換素子がそれぞれ出力する光電変換信号の差分値が所定値を超えた場合に第2信号を生成する工程と、
 を備える、撮像方法。
 本開示の態様は、上述した個々の実施形態に限定されるものではなく、当業者が想到しうる種々の変形も含むものであり、本開示の効果も上述した内容に限定されない。すなわち、特許請求の範囲に規定された内容およびその均等物から導き出される本開示の概念的な思想と趣旨を逸脱しない範囲で種々の追加、変更および部分的削除が可能である。
 100:電子機器、110:撮像レンズ、120:記録部、130:制御部、140:解析部、200:固体撮像素子、201:受光チップ(受光部)、202、検出チップ(検出部)、211b:第2アクセス制御回路(制御回路)、214:第2信号処理部(信号処理部)、311:光電変換素子、314:EVS用AFE(生成部)、328ab:切替回路、331:対数変換回路、332:バッファ(保持回路)、333:差分回路、334:比較回路。

Claims (22)

  1.  光電変換して光電変換信号を生成する複数の光電変換素子と、
     前記複数の光電変換素子の内の単一の光電変換素子が出力する光電変換信号の変化量が所定値を超えた場合に第1信号を生成し、前記複数の光電変換素子の内の2つの光電変換素子がそれぞれ出力する光電変換信号の差分値が所定値を超えた場合に第2信号を生成する、生成部と、
     を備える、固体撮像素子。
  2.  前記生成部は、2つの信号の差分値を生成する第1差分回路と、
     2つの光電変換素子の内の一方の第1光電変換素子が出力する第1光電変換信号に基づく第1光電信号と、他方の第2光電変換素子が出力する第2光電変換信号に基づく第2光電信号とを切り換えて前記第1差分回路に出力する切替回路と、
     を有し、
     前記差分値に基づき、前記第1信号、及び前記第2信号の一方が生成される、請求項1に記載の固体撮像素子。
  3.  前記切替回路が、前記第1光電信号を前記第1差分回路に入力させた後に、前記第2光電信号を前記第1差分回路に入力させた場合に、前記第2信号が生成される、請求項2に記載の固体撮像素子。
  4.  前記生成部は、前記第1光電変換信号又は前記第2光電変換信号を対数変換する第1対数変換回路を更に有し、
     前記切替回路は、第1対数変換回路を介して前記第1光電信号又は前記第2光電信号を前記第1差分回路に出力する、請求項2に記載の固体撮像素子。
  5.  前記生成部は、
     前記第1光電変換信号を対数変換する第1対数変換回路と、
     前記第1対数変換回路の出力する前記第1光電信号を保持する第1保持回路と、
     前記第2光電変換信号を対数変換する第2対数変換回路と、
     前記第2対数変換回路の出力する前記第2光電信号を保持する第2保持回路と、
     を更に有し、
     前記切替回路は、前記第1保持回路の出力する前記第1光電信号と、前記第2保持回路の出力する前記第2光電信号と、切り換えて前記第1差分回路に出力する、請求項2に記載の固体撮像素子。
  6.  前記生成部は、
     2つの信号の差分値を生成する第2差分回路を更に有し、
     前記切替回路は、前記第1保持回路と前記第1差分回路との間に接続される第1スイッティング素子と、前記第1保持回路と前記第2差分回路との間に接続される第2スイッティング素子と、前記第2保持回路と前記第2差分回路との間に接続される第3スイッティング素子と、前記第2保持回路と前記第1差分回路との間に接続される第4スイッティング素子と、を有する、請求項5に記載の固体撮像素子。
  7.  前記生成部は、
     前記第1差分回路の出力信号と所定の第1閾値とを比較し、前記第1信号、及び前記第2信号の一方を生成する第1比較回路と、
     前記第2差分回路の出力信号と所定の第2閾値とを比較し、前記第1信号、及び前記第2信号の一方を生成する第2比較回路と、
     を更に有する、請求項6に記載の固体撮像素子。
  8.  前記第1スイッティング素子、及び前記第2スイッティング素子を接続状態にし、前記第3スイッティング素子、及び前記第4スイッティング素子を非接続状態にし、前記第1閾値と前記第2閾値とを異ならせる、請求項7に記載の固体撮像素子。
  9.  前記第1差分回路の出力信号と前記第2差分回路の出力信号とを選択する選択回路と、選択回路が出力する信号と所定の閾値を比較し、前記第1信号、及び前記第2信号の一方を生成する比較回路を、
     更に有する、請求項6に記載の固体撮像素子。
  10.  前記生成部は、2つの信号の差分値を生成する第1差分回路と、
     3つ以上の光電変換素子のそれぞれが出力する光電変換信号を切り換えて前記第1差分回路に出力する切替回路と、
     を有し、
     前記差分値に基づき、前記第1信号、及び前記第2信号の一方が生成される、請求項1に記載の固体撮像素子。
  11.  前記複数の光電変換素子の少なくとも一つが出力する光電変換信号に基づき、階調画像が構成される、請求項1に記載の固体撮像素子。
  12.  複数の光電変換素子が2次元格子状に配置された受光部と、
      前記複数の光電変換素子の中の対応する2つの光電変換素子の組合せのそれぞれに対して第1信号、及び第2信号の一方を生成する複数の生成部を有する検出部であって、前記2つの光電変換素子の内の単一の光電変換素子が出力する光電変換信号の変化量が所定値を超えた場合に前記第1信号を生成し、前記2つの光電変換素子がそれぞれ出力する光電変換信号の差分値が所定値を超えた場合に前記第2信号を生成する、検出部と、
     前記複数の生成部に対して、前記第1信号、及び前記第2信号のいずれかを生成させる制御回路と、
    を備える、電子機器。
  13.  前記制御回路は、前記受光部の行毎に配置される複数の光電変換素子に対応する前記生成部に対して、前記第1信号、又は前記第2信号を前記行に対応させて順に出力させるフレーム読み出し制御を行う、請求項12に記載の電子機器。
  14.  単位時間あたりに前記第1信号を出力する前記生成部の数をカウントする解析部を更に備え、
     前記制御回路は、前記カウント数に応じて、フレーム読み出し制御の速度を変更する、請求項13に記載の電子機器。
  15.  前記制御回路は、前記カウント数が所定値以下となった場合に、前記生成部に対して、前記第2信号を出力させる制御を行う、請求項14に記載の電子機器。
  16.  前記第1信号に基づく第1画像と、前記第2信号に基づく第2画像と、前記第1信号、及び前記第2信号に基づく第3画像のいずれかを少なくとも生成する信号処理部と、
     前記第1信号に基づく第1画像と、前記第2信号に基づく第2画像と、記第1信号、及び前記第2信号に基づく第3画像のいずれかを用いて撮像対象を認識する解析部と、
     を備える、請求項15に記載の電子機器。
  17.  前記解析部は、時系列に生成された前記第2画像間の差分値を生成し、
     前記制御回路は、前記差分値が所定値以上となった場合に、前記生成部に対して、前記第1信号を出力させる制御を行う、請求項16に記載の電子機器。
  18.  前記受光部は、複数の領域に分けられており、
     前記制御回路は、前記複数の領域毎に対応する前記生成部に対して、前記第1信号、及び前記第2信号のいずれかを生成させる制御を行う、請求項17に記載の電子機器。
  19.  前記解析部は、前記差分値又は前記カウント数を前記複数の領域毎に生成し、
     前記制御回路は、前記領域毎の前記差分値又は前記カウント数に応じて、前記領域毎に対応する前記生成部に対して、前記第1信号、及び前記第2信号のいずれかを生成させる制御を行う、請求項18に記載の電子機器。
  20.  前記複数の生成部のそれぞれは、前記2つの光電変換素子の組合せのそれぞれが出力する光電変換信号に基づく2つの信号の差分値を生成する差分回路と、
     前記差分回路が出力する差分値と所定の閾値を比較する比較回路とを有し、
     前記制御回路は、前記カウント数に応じて、閾値を変更する、請求項19に記載の電子機器。
  21.  入射光を集光して前記受光部に導く撮像レンズと、
     前記検出部からのデータを記録する記録部と、
     前記検出部を制御して画像を撮像させる制御部と、
    を更に備える、請求項12に記載の電子機器。
  22.  複数の光電変換素子の内の単一の光電変換素子が出力する光電変換信号の変化量が所定値を超えた場合に第1信号を生成する工程と、
     前記複数の光電変換素子の内の2つの光電変換素子がそれぞれ出力する光電変換信号の差分値が所定値を超えた場合に第2信号を生成する工程と、
     を備える、撮像方法。
PCT/JP2021/041132 2020-11-17 2021-11-09 固体撮像素子、電子機器、及び撮像方法 WO2022107641A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US18/036,294 US20230412936A1 (en) 2020-11-17 2021-11-09 Solid-state imaging element, electronic device, and imaging method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020191072A JP2023182876A (ja) 2020-11-17 2020-11-17 固体撮像素子、電子機器、及び撮像方法
JP2020-191072 2020-11-17

Publications (1)

Publication Number Publication Date
WO2022107641A1 true WO2022107641A1 (ja) 2022-05-27

Family

ID=81708830

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/041132 WO2022107641A1 (ja) 2020-11-17 2021-11-09 固体撮像素子、電子機器、及び撮像方法

Country Status (4)

Country Link
US (1) US20230412936A1 (ja)
JP (1) JP2023182876A (ja)
TW (1) TW202236842A (ja)
WO (1) WO2022107641A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006243974A (ja) * 2005-03-01 2006-09-14 Matsushita Electric Ind Co Ltd 動き検出装置、動き検出方法、カメラおよび自動車
JP2020088724A (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006243974A (ja) * 2005-03-01 2006-09-14 Matsushita Electric Ind Co Ltd 動き検出装置、動き検出方法、カメラおよび自動車
JP2020088724A (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法

Also Published As

Publication number Publication date
TW202236842A (zh) 2022-09-16
US20230412936A1 (en) 2023-12-21
JP2023182876A (ja) 2023-12-27

Similar Documents

Publication Publication Date Title
US10658405B2 (en) Solid-state image sensor, electronic apparatus, and imaging method
US9866771B2 (en) Solid-state imaging device, signal processing method of solid-state imaging device, and electronic apparatus
US11050955B2 (en) Solid-state imaging device, method for driving solid-state imaging device, and electronic apparatus
US7978240B2 (en) Enhancing image quality imaging unit and image sensor
US9088726B2 (en) Solid-state image capturing device, method of driving solid-state image capturing device, and image capturing apparatus
KR101435964B1 (ko) 촬상장치 및 고체 촬상소자의 구동방법
CN112584070A (zh) 固态摄像装置、固态摄像装置的驱动方法、以及电子设备
US11290648B2 (en) Image capture apparatus and control method thereof
US9451190B2 (en) Method for driving photoelectric conversion device
WO2017122542A1 (ja) 撮像素子、撮像素子の駆動方法、並びに、電子機器
JP2012227889A (ja) 固体撮像装置
KR20180031288A (ko) 이미지 센서 및 이를 포함하는 촬상 장치
WO2022107641A1 (ja) 固体撮像素子、電子機器、及び撮像方法
US11089217B2 (en) Image-pickup apparatus and control method thereof
CN114128251A (zh) 成像装置及其控制方法
JP2017103603A (ja) 撮像素子、撮像装置、及び撮像方法
JP7247975B2 (ja) 撮像素子及び撮像装置
US11368610B2 (en) Image capture apparatus and control method therefor
KR100494100B1 (ko) Cmos 이미지 센서
JP2008228021A (ja) 固体撮像装置及び撮像装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21894515

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 18036294

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21894515

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP