WO2024034271A1 - 光検出素子及び電子機器 - Google Patents

光検出素子及び電子機器 Download PDF

Info

Publication number
WO2024034271A1
WO2024034271A1 PCT/JP2023/023077 JP2023023077W WO2024034271A1 WO 2024034271 A1 WO2024034271 A1 WO 2024034271A1 JP 2023023077 W JP2023023077 W JP 2023023077W WO 2024034271 A1 WO2024034271 A1 WO 2024034271A1
Authority
WO
WIPO (PCT)
Prior art keywords
event
circuit
control circuit
event detection
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2023/023077
Other languages
English (en)
French (fr)
Inventor
恭史 溝口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to US18/877,593 priority Critical patent/US20250341618A1/en
Publication of WO2024034271A1 publication Critical patent/WO2024034271A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4816Constructional features, e.g. arrangements of optical elements of receivers alone
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4861Circuits for detection, sampling, integration or read-out
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4865Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/707Pixels for event detection

Definitions

  • the present disclosure relates to a photodetector and an electronic device.
  • low consumption controls such as power consumption control and clock control are operated in the light receiving area according to predetermined window settings, regardless of the imaging scene. For this reason, even in areas where low power consumption control is to be performed where no event has occurred, normal driving may be performed and power may be wasted.
  • mode change processing for low power consumption control is implemented after event detection is performed on a frame-by-frame basis, resulting in a situation where power consumption can only be reduced from the next frame at the earliest. .
  • the low power consumption mode enters the pixel addition mode and the resolution decreases, there is a trade-off between lower power consumption and resolution.
  • ADCs Analog to Digital Converters
  • the present disclosure provides a photodetection element that achieves low power consumption without reducing resolution in event detection.
  • the photodetection element includes a pixel array, a holding circuit, a control circuit, and a signal processing circuit.
  • the pixel array event detection elements that detect differences in intensity of received light are arranged in a two-dimensional array.
  • the holding circuit holds the event detected by the event detection element.
  • the control circuit controls a power supply voltage and a clock signal for the event detection element belonging to at least a part of the pixel array and the holding circuit corresponding to the event detection element.
  • the signal processing circuit processes the signal output from the event detection element.
  • the pixel array may include the event detection elements arranged in a continuous two-dimensional array in a line direction and a column direction crossing the line direction, and the holding circuit detects the event detection elements for each line in the pixel array. Holding the event, the control circuit selects the event detection pixels that are continuous in the line direction in the pixel array, drives the event detection element belonging to the selected line, and controls the event detection pixel held for each line.
  • the power supply voltage and the clock signal of the event detection element may be controlled line by line based on an event.
  • the control circuit may control, for each line, a bias voltage related to the event detection element, and the power supply voltage and the clock signal of the signal processing circuit related to the event detection element.
  • the control circuit may control the power supply voltage of the event detection element based on the event output for each line or lines.
  • the control circuit may divide the event detection elements belonging to the one or more lines into a plurality of groups, and control the event detection elements for each group.
  • the control circuit may control the power supply voltage of the event detection element based on the event output for each column or columns.
  • the control circuit may divide the event detection elements belonging to the one or more columns into a plurality of groups, and control the event detection elements for each group.
  • the control circuit may control the power supply voltage for each event detection pixel.
  • the control circuit may control the power supply voltage based on the event information in past frames.
  • the pixel array may further include a gradation information acquisition element that acquires gradation information.
  • the pixel array may further include an element that acquires ToF (Time of Flight) information.
  • ToF Time of Flight
  • the control circuit may perform standby control on lines in which the event has not occurred.
  • the control circuit may switch the drive mode based on the firing rate of the event of the event detection element.
  • the control circuit may switch the processing of the column ADC (Analog to Digital Converter) based on the occurrence state of the event in the line to be read.
  • ADC Analog to Digital Converter
  • the control circuit may read out the event from the line where the event occurred.
  • the event detection elements may share an analog front end.
  • the event detection element may share a difference circuit and a comparison circuit.
  • the event detection elements may share a comparison circuit.
  • the event detection element may share a circuit connected to the power supply voltage.
  • the control circuit may perform clock control of peripheral circuits based on a signal related to the event detected by the event detection element.
  • the control circuit may switch the clock frequency of the peripheral circuit based on a signal related to the event.
  • an electronic device includes any of the photodetecting elements described above, a signal processing circuit, and an external processing circuit.
  • the signal processing circuit executes signal processing based on the signal related to the event output from the photodetection element.
  • the external processing circuit executes arbitrary processing based on the signal output from the signal processing circuit.
  • the electronic device described above may be an in-vehicle device.
  • FIG. 1 is a block diagram schematically showing a photodetection element according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a connection between a control circuit and pixels according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a pixel according to an embodiment.
  • FIG. 1 is a diagram illustrating an example of a part of an access control circuit according to an embodiment.
  • 5 is a flowchart illustrating an example of processing in a photodetecting element according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a timing chart of a photodetection element according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of the relationship between processing in a line and time according to an embodiment.
  • FIG. 1 is a block diagram schematically showing a photodetection element according to an embodiment.
  • 5 is a flowchart illustrating an example of processing of a photodetection element according to an embodiment.
  • FIG. 1 is a diagram illustrating an example of a pixel circuit according to an embodiment.
  • FIG. 1 is a circuit diagram showing an example of a pixel circuit according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of the relationship between processing in a line and time according to an embodiment.
  • FIG. 1 is a circuit diagram showing an example of a pixel circuit according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a timing chart of a photodetection element according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a connection between a control circuit and pixels according to an embodiment.
  • FIG. 1 is a diagram illustrating an example of a pixel circuit according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a connection between a control circuit and pixels according to an embodiment.
  • FIG. 1 is a diagram illustrating an example of a pixel circuit according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a connection between a control circuit and pixels according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a connection between a control circuit and pixels according to an embodiment.
  • FIG. 1 is a diagram illustrating an example of a pixel circuit according to an embodiment.
  • FIG. 1 is a diagram showing an example of a control circuit according to an embodiment.
  • FIG. 5 is a flowchart illustrating an example of processing of a photodetection element according to an embodiment.
  • FIG. 2 is a diagram illustrating an example of a peripheral circuit of a pixel array according to an embodiment.
  • 5 is a flowchart illustrating an example of processing of a photodetection element according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a pixel block according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of circuit sharing in pixels according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of circuit sharing in pixels according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a pixel block according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a pixel according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a pixel according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of a pixel block according to an embodiment.
  • FIG. 1 is a diagram illustrating an example of a pixel array according to an embodiment.
  • FIG. 1 is a block diagram schematically showing a photodetection element according to an embodiment.
  • FIG. 3 is a diagram showing an example of mode transition of a photodetection element according to an embodiment.
  • FIG. 3 is a diagram showing an example of mode transition of a photodetection element according to an embodiment.
  • FIG. 1 is a block diagram schematically showing a photodetection element according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of the relationship between lines and time according to an embodiment.
  • FIG. 3 is a diagram illustrating an example of the relationship between lines and time according to an embodiment.
  • FIG. 1 is a block diagram showing an example of a schematic configuration of a vehicle control system.
  • FIG. 2 is an explanatory diagram showing an example of installation positions of an outside-veh
  • FIG. 1 is a block diagram schematically showing a non-limiting example of the photodetecting element 1 according to the first embodiment.
  • the photodetector element 1 includes a pixel array 10, a timing control circuit 12, an access control circuit 14, a first readout circuit 16, a first signal processing circuit 18, a time stamp generation circuit 20, and an output interface (hereinafter referred to as Output I/F (described as 22).
  • the photodetection element 1 is a device that outputs information on detected events (event data) at high speed and with low power consumption. As a non-limiting example, this photodetecting element 1 may be included in an electronic device such as an in-vehicle imaging device.
  • the pixel array 10 includes a plurality of pixels 100.
  • the pixels 100 are arranged in at least a plurality of columns (line direction). Preferably, they are arranged in at least a plurality of lines (column direction), and arranged in a two-dimensional array.
  • the pixel array 10 has a path for outputting the signal output from the pixel 100 to the readout circuit 16, and when an event is detected at the pixel 100, the access control circuit 14 sends information about which pixel 100 has detected the event. It includes a path through which a signal indicating whether to read the pixel 100 is input, and a path through which a signal for reducing the power consumption of the pixel 100 (signal for lowering the power supply voltage) is input.
  • pixel 100 represents an event detection pixel.
  • Each pixel 100 includes an image sensor (event detection element) capable of detecting at least an event.
  • Each pixel 100 includes a pixel circuit that drives a sensing element and appropriately acquires the output from this sensing element.
  • the pixel circuit may be a circuit that detects an event by comparing a predetermined threshold value with a value related to an analog signal acquired by an event detection element, and outputs the detected event.
  • the pixel 100 may fire when the difference from the previous frame exceeds a predetermined value, or as another example, the pixel 100 may fire when the contrast ratio exceeds a predetermined threshold.
  • firing indicates a state in which an event is detected at pixel 100.
  • the timing control circuit 12 and the access control circuit 14 constitute a control circuit that controls access to the pixel 100, readout of the signal from the pixel 100, timing of processing the readout signal, and reduction of power consumption in the pixel 100.
  • the timing control circuit 12 and the access control circuit 14 may be collectively referred to as a control circuit, and some or all of these circuits may operate as a control circuit.
  • This control circuit may control the output timing of the processed signal.
  • the power consumption reduction control may include, for example, at least one of power supply voltage control and clock signal control.
  • the pixel array 10 or the control circuit may include a holding circuit that holds, for each line of the pixel array 10, that an event has been detected in at least some of the pixels 100 belonging to the line.
  • the power consumption reduction may be controlled by controlling the power supply voltage and clock voltage for this holding circuit.
  • the timing control circuit 12 outputs a frame synchronization signal and a horizontal direction synchronization signal to the access control circuit 14 based on the input clock signal, for example. Furthermore, the timing control circuit 12 generates timing for executing signal processing based on the signal received from the access control circuit 14 according to the firing status of the pixel 100, and outputs this timing to the signal processing circuit 18. good.
  • the access control circuit 14 outputs an operation signal to select the pixel 100 to be accessed based on the horizontal synchronization signal obtained from the timing control circuit 12, and outputs event information from the pixel 100 to the readout circuit 16. do. That is, event detection in the present disclosure can be realized by scanning the pixels 100 for each frame based on frame information output from the timing control circuit 12.
  • the readout circuit 16 appropriately converts the information acquired from each pixel 100 and outputs it to the signal processing circuit 18.
  • the readout circuit 16 may include, for example, a circuit that operates as an AFE (Analog Front End). Note that this AEF may be provided not in the readout circuit 16 but in the pixel circuit of the pixel 100 that controls the output from the event light receiving element provided in the preceding stage of the readout circuit 16.
  • the readout circuit 16 may include, for example, a latch for each column that temporarily stores event information output from each pixel 100. Furthermore, it may include an ADC (Analog to Digital Converter) that appropriately amplifies and AD (Analog to Digital) converts and outputs the analog signal output from the pixel 100. This ADC may be, for example, an ADC provided for each pixel or an ADC provided for each column. The readout circuit 16 outputs the appropriately converted event information as a serial or parallel signal.
  • ADC Analog to Digital Converter
  • AD Analog to Digital
  • the signal processing circuit 18 converts the event information output from the readout circuit 16 based on the access information of the pixel 100 controlled by the access control circuit 14 acquired via the timing control circuit 12, and outputs the output I/F 22.
  • the data is output as event data to the outside, for example, to an externally provided processor.
  • the signal processing circuit 18 for example, rearranges the order of the acquired event information or arranges the format and outputs it.
  • the signal processing circuit 18 may perform signal processing at the synchronized timing generated by the timing control circuit 12 based on the output of the access control circuit 14 .
  • the timestamp generation circuit 20 outputs timestamp information, for example simply time information, to the signal processing circuit 18.
  • the signal processing circuit 18 adds an appropriate time stamp to the data and outputs the data. By appropriately assigning time stamps in this manner, it is possible to appropriately obtain the order of output data in terms of time, etc., and perform signal processing.
  • the output I/F 22 is an interface that outputs the event data acquired and converted in the photodetector element 1 to the outside.
  • the output I/F 22 may include, for example, an interface such as MIPI (registered trademark).
  • MIPI registered trademark
  • the photodetector element 1 outputs the acquired event information to the outside via this output I/F 22 .
  • the same synchronization signal can be used for access control of the pixel array 10 (readout control in the readout circuit 16 ) and signal processing control in the signal processing circuit 18 . Therefore, in the case where the data output speed of the photodetector element 1 is determined by the data bus, it is possible to achieve high speed.
  • the timing control circuit 12 is not an essential configuration. For example, if either the timing of accessing and reading out the pixel 100 or the timing of data transfer from the readout circuit 16 to the signal processing circuit 18 is not variable, the synchronization signal can be fixed. , it is possible to realize the operation of the photodetector element 1 without providing a timing control circuit 12.
  • the signal processing circuit 18 may include a frame memory.
  • the frame memory is a memory area that stores frame information, and is configured by, for example, a memory circuit.
  • the signal processing circuit 18 may store one frame worth of event information obtained from the readout circuit 16 in this frame memory. Then, the signal processing circuit 18 can convert the event information into a format that allows high-speed data transfer using the data stored in the frame memory and output it.
  • the timing of access control of the pixel array 10 and control of processing in the signal processing circuit 18 can be separated for each scanning line. That is, while access to the pixel array 10 is controlled according to a synchronization signal of a predetermined period, regardless of this control, the processing in the signal processing circuit 18 is controlled using a variable synchronization signal, and the clock of the pixel circuit in the pixel 100 is controlled. It is also possible to configure the signal and the clock signal used for processing in the signal processing circuit 18 separately. Therefore, if the output of the photodetector element 1 determines the rate of access to the pixel 100, speeding up can be achieved.
  • FIG. 2 is a diagram illustrating an example of a connection between a control circuit and pixels according to an embodiment.
  • the above-mentioned holding circuit may hold events detected for each line in the pixel array 10.
  • the control circuit selects a line in the pixel array 10 and drives the pixels 100 belonging to the selected line.
  • This drive may be a circuit that operates in the same way as a general horizontal drive circuit, so a detailed explanation will be omitted.
  • the control circuit may control the power supply voltage and clock signal of the event detection element for each line based on the event held for each line.
  • the photodetector element 1 includes a signal line for transmitting an enable signal from the access control circuit 14 to the pixels 100 belonging to each line of the pixel array 10. Further, the photodetecting element 1 includes a signal line for transmitting an event signal from the pixel 100 belonging to the line of the pixel array 10 to the access control circuit 14 .
  • the access control circuit 14 transmits and receives the enable signal EN[0] and the event signal EVENT[0] through separate routes for the pixel 100 belonging to the 0th line, and also sends and receives the enable signal EN[0] and the event signal EVENT[0] through separate routes, and also transmits and receives the enable signal EN[0] and the event signal EVENT[0] through separate routes.
  • the access control circuit 14 can control the bias voltage in the pixel circuit associated with the pixel 100 on a line-by-line basis using an enable signal. Furthermore, by acquiring the event signal for each line, the access control circuit 14 can control the power supply voltage and clock signal at the timing when the signal processing circuit 18 processes the line based on the event signal. You can also do it. This control may be realized via the timing control circuit 12.
  • the access control circuit 14 lowers the bias voltage of the pixel circuit in a line where no event is detected, lowers the power supply voltage at the timing when the signal processing circuit 18 processes the line, or lowers the clock frequency. , or stop it.
  • event signals may be transmitted from the pixels 100 belonging to the same column to the readout circuit 16 through the same signal line.
  • This form also operates in the same way as a general vertical drive circuit, so a detailed explanation will be omitted.
  • FIG. 3 is a diagram showing an example of the pixel 100.
  • the pixel 100 may include a light receiving element 102 and a detection circuit 104 and a memory circuit 106 as its pixel circuits.
  • the light receiving element 102 includes, for example, a photoelectric conversion element that photoelectrically converts incident light, and a circuit that detects an event from a signal of the photoelectric conversion element and outputs the detected event.
  • the detection circuit 104 is a circuit that appropriately processes and outputs the signal output from the light receiving element 102, such as a buffer, a differential circuit, and a comparison circuit.
  • the memory circuit 106 may include, for example, a latch, a register, etc., and may operate as a holding circuit that holds that an event has been detected.
  • the above three circuits may be equivalent to general circuits that realize event detection, so detailed explanations will be omitted.
  • the enable signal from the access control circuit 14 is used, for example, as a signal to turn on/off a switch element that switches the connection between the power supply voltage in the pixel 100 and the pixel circuit.
  • a switch element When this switch element is on, a power supply voltage is applied to the above circuit and event detection is performed.
  • the switch element is off, the circuit described above is disconnected from the power supply voltage and transitions to a standby state in which no event detection is performed.
  • FIG. 4 is a diagram showing an example of a part of the access control circuit 14 for the pixel 100 in FIG. 3.
  • the access control circuit may include a low consumption control circuit 140 as part thereof.
  • the low consumption control circuit 140 is a circuit that outputs an enable signal to perform the switching in FIG. 3 based on the event detection signal for each line obtained from the pixel 100. This low consumption control circuit 140 is provided on a line-by-line basis, for example.
  • the low consumption control circuit 140 includes, for example, an event holding section 142, an OR circuit, and an AND circuit. When an event is detected in at least one of the pixels 100 belonging to the line, the low consumption control circuit 140 connects the power supply voltage to the pixel 100 belonging to the line at the next scan timing such as the next frame, and detects the event. If not detected, a signal is output to control disconnection between the pixel circuit of pixel 100 and the power supply voltage.
  • the event holding unit 142 may be, for example, a latch circuit. In addition, it may be configured with a circuit such as a flip-flop that realizes appropriate operation.
  • the event holding unit 142 receives an event detection signal from the pixel 100 belonging to the corresponding line in the pixel array 10 and a latch signal (latch enable). This event detection signal is held.
  • the event holding unit 142 outputs the held event signal when the latch signal is input. In the figure, there is an output terminal for negating the held signal, but this is not an essential configuration, and it is sufficient to have an output terminal for the held signal.
  • the signal output from the event holding unit 142 is input to the OR circuit together with the power supply enable signal.
  • the power supply enable signal may be output from the timing control circuit 12, for example.
  • This OR circuit outputs a High signal when an event related to the line is detected or a signal to which power is supplied is input, and if no event is detected and power supply is required. When requested, outputs a Low signal.
  • the AND circuit receives the output from the OR circuit and a forced power cutoff signal that controls the forced power cutoff.
  • the forced power cutoff is Low, that is, a signal for forcibly cutting off the power is input
  • the AND circuit outputs a Low signal that cuts off the power supply as a power supply enable signal.
  • the AND circuit receives the signal High, which is a signal that does not shut off the requested power, it outputs a power supply enable signal according to the output from the OR circuit.
  • FIG. 5 is a flowchart showing the processing when using the circuits of FIGS. 1 to 4.
  • control related to low power consumption such as stopping or suppressing the application of a power supply voltage, stopping a clock signal, or reducing the clock frequency, will be referred to as low consumption control.
  • the control circuit ends low consumption control on all lines (S100). By ending the low consumption control, the pixel 100 belonging to the pixel array 10 transitions to a state where event detection processing is possible.
  • control circuit performs event detection on all lines (S102).
  • the pixel 100 detects a change in the brightness of the incident light, and generates and outputs an event detection signal based on the detected result.
  • control circuit starts a data acquisition sequence (S104).
  • S102 event information is detected at pixel 100 belonging to pixel array 10, so by transmitting a signal indicating that event information has been acquired from pixel 100, the event detection status for each line is stored in the event holding unit. Hold.
  • the pixel 100 notifies the control circuit of the line in which the event has been detected via a signal line provided for each line (S106). This is accomplished by sending the EVENT signal shown in Figures 2 and 3 to the control circuit.
  • control circuit determines event signal detection for each line in the low consumption control circuit 140 shown in FIG. 4 (S108).
  • the low consumption control circuit 140 determines whether an event is detected in the corresponding line based on the event signal notified from the pixel 100 for each line.
  • the control circuit (low consumption control circuit 140) starts low consumption control of the corresponding line (S110).
  • the control circuit executes low consumption control by, for example, turning off the switch from the power supply voltage shown in FIG. 3 for the pixel 100 belonging to the line.
  • the low consumption control circuit 140 After the low consumption control ends, or if an event is detected on the line (S108: YES), the low consumption control circuit 140 completes the processing and waits until processing for the next frame.
  • control circuit resets the charge of the event detection element for the pixel 100 belonging to the pixel array 10 (S112).
  • the pixels 100 sequentially output event detection signals in the columns controlled by the control circuit to the readout circuit 16, and the readout circuit 16 outputs event signals for each pixel 100 in line units (S114).
  • the control circuit cuts off the supply of power supply voltage to the pixel 100 at a timing after the output from the pixel 100 is completed, and transitions to a blank period for event detection in the next frame (S116). After this, the photodetector element 1 repeats the process from S100 in processing the next frame.
  • FIG. 6 is a diagram showing a timing chart in this process.
  • the circled number “1” corresponds to the processing timing of S100 in FIG. 5, “2” corresponds to the processing timing of S104, and “3” corresponds to the processing timing of S116.
  • the operation at the top is the event detection timing at pixel 100 for detection, the reset timing for the light receiving element at pixel 100, the readout from pixel 100 for each column of the event detection signal line, and the event for each line in the readout circuit 16.
  • the read timing of the detection signal and the blank indicate the standby timing between frames, respectively.
  • Event signal (line by line) indicates an event detection signal for each line held in the event holding unit 142. If an event is detected, the event signal becomes High; if not detected, the event signal becomes Low.
  • Latch enable indicates a latch signal input to the event holding unit 142.
  • the latch enable becomes High at the timing to control data output from the latch.
  • Q indicates an event detection signal held in the event holding unit 142 and output.
  • the power supply enable (input) is a signal that is input to the low consumption control circuit 140 and indicates a signal that controls the power supply to the pixel 100.
  • the power supply enable (input) becomes High when controlling to supply power, and becomes Low when controlling not to supply power.
  • the forced power cutoff indicates, for example, a signal that controls the timing of energization of the power supply voltage to the pixel 100 during a blank period or the like. Forced power cutoff becomes High when the power is not cut off, and Low when the power is cut off.
  • the power supply enable (output) is a signal output from the low consumption control circuit 140 and indicates a signal that controls the power supply to the pixel 100 based on the event detection result.
  • the power supply enable (output) becomes High when the power supply is controlled, and becomes Low when the power supply is not controlled.
  • the power supply enable (input) and forced power cutoff are High, and from the circuit diagram in Figure 4, the power supply enable (output) is High.
  • the event signal on a line is not detected, the event signal for each line is Low, indicating that no event is detected.
  • the event holding unit 142 outputs the held Low signal.
  • the power supply enable (input) becomes Low with the end of the detection timing at pixel 100, the output from the OR circuit of low consumption control circuit 140 transitions to Low.
  • the output from the AND circuit also transitions to Low, and the low consumption control circuit 140 uses the power supply enable (output) to set the low consumption control circuit 140 to low for the pixels 100 of the corresponding line. Outputs a low signal to control consumption.
  • the low consumption control may be, for example, cutting off the power supply voltage and the pixel circuit, as described above.
  • control circuit performs low consumption control on the line when no event detection signal is output from the pixel 100 belonging to the line.
  • the event signal for each line is High indicating event detection.
  • the event holding unit 142 When the latch signal transitions at the same timing as above, the event holding unit 142 outputs a High signal indicating that an event has occurred.
  • the OR circuit outputs High regardless of the power supply enable (input), and as a result, the low consumption control circuit 140 outputs a High signal that controls the power supply.
  • FIG. 7 is a diagram illustrating an example of the relationship between line processing and time in the above configuration.
  • control circuit performs control to cut off the power supply voltage from the pixel circuit of pixel 100, for example.
  • control circuit controls the connection between the pixel circuit of 100 pixels and the power supply voltage, and performs event detection processing by detecting light in the light receiving element and acquiring the difference between the detected light frames. Execute.
  • the control circuit acquires the results of event detection in the detection period line by line, and executes low consumption control in the reset period and readout period.
  • the line indicated as low consumption control in the figure is the control applied to the line in which no event was detected during the detection period.
  • the control circuit acquires the event detection results in pixels belonging to a line, and performs low consumption control for each line when no event is detected, thereby achieving high-speed It is possible to realize low power consumption processing. As a result, it becomes possible to realize low power consumption control of the entire photodetection element without lowering the resolution in event detection.
  • FIG. 8 is a block diagram schematically showing the photodetection element 1 according to one embodiment.
  • the photodetection element 1 may include a bias generation circuit 24 in addition to the configuration of the first embodiment. Further, a signal line for transmitting data from the signal processing circuit 18 to the reading circuit 16 may be provided.
  • the bias generation circuit 24 is a circuit that generates a bias current to be supplied to the pixel 100.
  • the bias generation circuit 24 can control the magnitude of the bias current output to the pixel 100 based on the notification from the access control circuit 14 .
  • FIG. 9 is a flowchart showing the processing of the photodetector element 1 according to one embodiment.
  • the processes from S100 to S112 are the same as those in the first embodiment described above, so the explanation will be omitted.
  • the readout circuit 16 After resetting the pixel 100 in S112, the readout circuit 16 starts reading out events (S200).
  • control circuit determines whether an event is detected on the target line (S202).
  • control circuit lowers the clock frequency of the clock signal output to the readout circuit 16 and the signal processing circuit 18 in addition to the operation of the low consumption control circuit 140 described above. Or it may be stopped (S204). Further, the control circuit performs control to reduce the bias current output by the bias generation circuit 24.
  • control circuit controls the normal clock frequency and normal bias current to flow to the peripheral circuits such as the pixel 100, the readout circuit 16, and the signal processing circuit 18 ( S206).
  • control circuit increments the read address (S208).
  • control circuit moves from the process of S116 to the next frame process, as in the above-described embodiment.
  • FIG. 10 is a diagram showing a pixel circuit of a pixel 100 according to one embodiment.
  • the pixel 100 may include an analog section 110 and a logic section 112 as a pixel circuit.
  • the analog section 110 is formed by an analog circuit that includes a light receiving element and processes a signal output from the light receiving element.
  • the analog section 110 includes, for example, a light receiving element, a buffer, a difference circuit, and a comparison circuit.
  • the logic section 112 is formed by a digital circuit that processes the digital signal when the signal from the light receiving element is converted in the analog section 110 into a digital signal indicating a binary value indicating whether or not an event has been detected.
  • the logic section 112 includes, for example, an output circuit.
  • the comparison circuit may be provided in the logic section 112 instead of the analog section 110.
  • FIG. 11 is a circuit diagram showing a pixel circuit of pixel 100 as an example of FIG. 10.
  • the analog section 110 of the pixel circuit includes, for example, a light-receiving section including a light-receiving element, a buffer that temporarily holds the output from the light-receiving element, and a value between the output from the buffer and the value one frame before. and a comparison circuit that compares the output from the difference circuit with a threshold value.
  • the logic section 112 of the pixel circuit includes an output circuit including an abduction circuit that latches the output result from the comparison circuit. As shown by the dotted line, the comparison circuit may be configured as part of the logic section 112 .
  • control circuit can also perform low consumption control for each of these analog section 110 and logic section 112. That is, the control circuit can separately perform power control of the analog front end that detects events in the pixel circuit, and power control of the logic circuit including the output circuit.
  • FIG. 12 is a diagram illustrating an example of the relationship between processing in a line and time according to an embodiment.
  • the control circuit sequentially executes low consumption control from the line where the output from the pixel circuit has been completed. Also, it is possible to realize low consumption control for each line during the reset period.
  • the access control circuit 14 holds the firing state (event detection state) for each line in the event holding section 142, as described above. Therefore, the bias in the pixel circuit of the pixel 100 can be controlled from the control circuit side.
  • FIG. 13 is a diagram showing an example of a pixel circuit in a case where the bias of the pixel circuit is controlled from the control circuit.
  • the pixel circuit may have a configuration in which a detection bias, a reset bias, and a low consumption bias are selectively applied as biases that determine the threshold value of the comparison circuit.
  • the comparison circuit may include, for example, a selector (multiplexer) that selects one of these biases.
  • the detection bias is a bias applied during the event detection period.
  • the reset bias is a bias applied during the reset period.
  • the low consumption bias is a bias applied during the low consumption period.
  • This selector is formed to be able to select a bias based on, for example, a low consumption control enable signal for pixels in which no event has occurred, a bias enable signal for event detection, a bias enable signal for reset, and an enable signal for low consumption control.
  • the low consumption control enable signal for pixels in which no event has occurred is a signal that is Low in lines where an event has occurred and High in lines where no event has occurred.
  • Other enable signals are signals whose High and Low levels are determined to control the bias in each state.
  • FIG. 14 is a diagram showing a timing chart of these enable signals.
  • the low consumption control enable signal for pixels where no event has occurred is High
  • the low consumption bias is selected during the reset operation period
  • the low consumption control enable signal for pixels where no event has occurred is Low
  • the low consumption bias is selected during the reset operation period.
  • the reset bias is selected.
  • low consumption control during the reset period can be achieved by using the enable signal and appropriate bias current during each period.
  • FIG. 15 is a diagram illustrating an example of a connection between a control circuit and pixels according to an embodiment.
  • the access control circuit 14 may include a signal line in the column direction that connects with the pixels 100 belonging to the same column. Similar to the first embodiment, these signal lines are a signal line that transmits an enable signal for low consumption control in the pixel 100, and a signal line that transmits event detection information from the pixel 100 to the access control circuit 14. .
  • the access control circuit 14 transmits an enable signal for low consumption control to the pixels 100 for each column via the signal line. Further, the pixel 100 transmits an event detection signal via the signal line for transmitting an enable signal for low consumption control in the column in the access control circuit 14 .
  • FIG. 16 is a diagram illustrating an example of a pixel circuit according to an embodiment. Connection of the pixel circuit to the power supply voltage is controlled based on a power supply enable transmitted from the access control circuit 14 . Further, event information output from the pixel circuit is transmitted to the access control circuit 14 via a signal line, and based on this event information, the access control circuit 14 determines whether an event has been detected for each column.
  • the photodetecting element 1 can perform low consumption control for each column based on event information from pixels continuous in the column direction instead of in the line direction.
  • the photodetector element 1 may acquire event information in both the line direction and the column direction, and perform low consumption control for each line and each column.
  • FIG. 17 is a diagram showing connections between pixels and a control circuit that performs low consumption control in both directions of lines and columns.
  • the access control circuit 14 may include a line control circuit 144 and a column control circuit 146. However, the access control circuit 14 may perform control without making such a distinction.
  • the line control circuit 144 may have the same operation as the access control circuit 14 shown in FIG. 2, and the column control circuit 146 may have the same operation as the access control circuit 14 shown in FIG.
  • FIG. 18 shows the pixel circuit in the case of FIG. 17.
  • the pixel circuit has line direction power supply enable (Y direction) output based on event information for each line from the line control circuit 144 and event information for each column from the column control circuit 146.
  • the connection to the power supply voltage is controlled by the logical AND of the column direction power supply enable (X direction) output based on the column direction and the signal received from.
  • the pixel circuit outputs event information (EVENT_Y) to the line control circuit 144 via the signal line along the line, and outputs event information (EVENT_X) to the column control circuit 146 via the signal line along the column. do.
  • control circuit and the pixel circuit transmit and receive event information and enable signals via the signal line that connects pixels belonging to the same line and the signal line that connects pixels of the same column. Can be done.
  • FIG. 19 is a diagram illustrating an example of a connection between a control circuit and pixels according to an embodiment.
  • the access control circuit 14 may divide, for each line, the pixels 100 belonging to the line into a plurality of pixel groups, and perform low consumption control for each pixel group.
  • the pixels 100 may form a pixel group every two pixels 100 adjacent in the line direction.
  • Groups may be formed arbitrarily, and non-adjacent pixels 100 may belong to the same group. Furthermore, groups may be formed not only every two 100 pixels but also every 100 pixels. Generally, objects often fit within pixels that are close to each other. For this reason, it is more desirable that a pixel group is formed by a plurality of adjacent pixels 100 .
  • the photodetecting element 1 may be divided not only for each line but also into a plurality of groups belonging to the same line, and low consumption control may be performed for each group.
  • control circuit performs low consumption control in groups belonging to each line, but the control circuit is not limited to this, and may perform low consumption control in each group belonging to each column.
  • control circuit performs low consumption control for each line or column, but the invention is not limited to this.
  • the control circuit can also perform low consumption control for each of multiple lines or for each of multiple columns.
  • FIG. 20 is a diagram illustrating an example of a connection between a control circuit and pixels according to an embodiment. As shown in FIG. 20, the access control circuit 14 and the pixels 100 belonging to 2 lines may be connected to a signal line that transmits the same event detection signal and a signal line that transmits the same enable signal. .
  • the configuration is such that control is performed every 2 lines, but the present invention is not limited to this, and a configuration that allows low consumption control for every 3 or more lines may be used.
  • FIG. 21 is a diagram illustrating an example of a pixel circuit according to an embodiment.
  • the power supply enable signal is an enable signal for controlling whether or not power is supplied from the control circuit, for example, for each line or each column in accordance with a period in a frame.
  • the power supply enable signal is, for example, an enable signal for controlling low consumption during the blank period and controlling normal voltage, etc. during the detection period.
  • the pixel 100 may control the connection between the power supply voltage and the pixel circuit based on the logical sum of this enable signal and the output from a latch circuit or the like that holds event information such as the previous frame in the pixel circuit.
  • low consumption control can be executed with finer granularity, for example, based on the past event detection state for each pixel.
  • the control circuit In performing low consumption control for each line, the control circuit includes an event counter that counts the number of occurrences of an event for each line, and can also perform low consumption control based on the counted value.
  • FIG. 22 is a diagram illustrating an example of a control circuit according to an embodiment.
  • the access control circuit 14 may include an event counter 148, a comparator 150, and a power control circuit 152.
  • the event counter 148 is a counter that counts the number of events in past frames.
  • the event counter 148 is a counter that is initialized at a predetermined timing and incremented when an event on a line is detected.
  • the comparison unit 150 is a circuit that compares the count value of the event counter 148 with a predetermined value and outputs the comparison result.
  • the power supply control circuit 152 is a circuit that outputs an enable signal, which is a power supply control signal, based on the output of the comparator 150.
  • FIG. 23 is a flowchart showing an example of the processing of the photodetecting element 1 when it has the configuration of FIG. 22.
  • the control circuit initializes the counter according to the conditions (S300).
  • the condition may be, for example, immediately after the photodetection element 1 is activated, or every predetermined number of frames.
  • the control circuit ends the low consumption control for all lines and transitions from the blank period to the detection period (S302).
  • Pixel 100 performs detection without low consumption control during the detection period (S304).
  • the control circuit stores and holds events line by line based on the event information output from the pixels 100 (S306).
  • the control circuit determines whether an event is detected for each line (S308).
  • control circuit increments the count value using the event counter 148 (S310).
  • control circuit After the count value is incremented, or if the event is not detected (S308: NO), the control circuit compares whether the count value is smaller than the threshold value in the comparator 150 (S312).
  • the control circuit If the count value is less than the threshold (S312: YES), the control circuit starts low consumption control of the target line (S314). On the other hand, if the count value is equal to or greater than the threshold value (S312: NO), the control circuit continues normal control.
  • control circuit can similarly perform control using count values for each column, each group, or each pixel as described in the above embodiments.
  • the counters are initialized according to conditions, but the invention is not limited to this.
  • S300 may be omitted and the control circuit may decrement the count value when no event is detected (S308: NO).
  • S308 NO
  • the control circuit may decrement the count value when no event is detected (S308: NO).
  • S308 NO
  • the photodetection element 1 of the present disclosure is not limited to this mode. Even when the photodetection element 1 is controlled by an arbiter, it is possible to perform similar low consumption control.
  • FIG. 24 is a diagram illustrating an example of a peripheral circuit of the pixel array 10 according to an embodiment.
  • the pixel array 10 may be connected to an arbiter 26 and a signal processing circuit 18, and the arbiter 26 and signal processing circuit 18 may be connected to a counter 28.
  • Arbiter 26 and counter 28 may be implemented as part of the control circuit.
  • the arbiter 26 is an arbitration circuit that propagates event detection information appropriately and asynchronously at the timing when a signal is output from the pixel 100, rather than being controlled by frames. Upon receiving the event detection signal from the pixel 100, the arbiter 26 sends an Ack signal to the pixel and also sends the event detection signal to the counter 28. The pixel 100 that has received the Ack may reset its light receiving element.
  • the counter 28 is a circuit that counts the number of occurrences of an event.
  • the counter 28 that has received the event detection signal counts the number of events currently being arbitrated by incrementing the count value.
  • the counter may output a low consumption control signal to the arbiter 26 and the signal processing circuit 18 when the counted value is less than a predetermined value.
  • FIG. 25 is a flowchart illustrating an example of processing of the photodetector element 1 according to an embodiment.
  • Counter 28 acquires the event detection signal from arbiter 26 (S400).
  • the counter 28 determines whether the acquisition of the event signal has been completed (S406).
  • the counter 28 determines whether the count value is less than the threshold (S408).
  • the counter 28 performs low consumption control on the arbiter 26 and the signal processing circuit 18 (S410). Specifically, the control circuit may perform low consumption control by lowering the clock frequencies of the arbiter 26 and the signal processing circuit 18, for example. Of course, similarly to the embodiments described above, the control circuit may control the connection state of the power supply voltage or may control the bias current.
  • the counter 28 enters the standby state (S412) and remains in the standby state until the standby time reaches the set value (S414: NO) ( S412).
  • the photodetection element 1 can perform low consumption control according to the number of event detection pixels 100 during arbitration.
  • FIG. 26 is a diagram illustrating an example of a pixel according to an embodiment. Pixels 100A and 100B form a pixel block and share some circuits.
  • the pixel block includes, for example, an analog section 110A of the pixel 100A, an analog section 110B of the pixel 100B, and a logic section 112 shared by the pixels 100A and 100B.
  • the connections between the analog sections 110A, 110B and the logic section 112 can be appropriately switched using any switching method.
  • the pixel block may be configured to include a transistor for switching an analog section connected to the logic section 112.
  • pixels 100A and 100B may share part of the analog circuit of the analog section 110 and the logic section 112 instead of sharing the logic section 112.
  • pixels 100A and 100B may each have a part of an analog front end, but may share other circuits.
  • EN_A input to the pixel block is an enable signal for the analog part in the pixel block
  • EN_L is an enable signal for the logic part.
  • FIG. 27 is a diagram showing an example of circuit sharing in pixels.
  • the pixel 100A and the pixel 100B may each include a light receiving section and a buffer in the analog section 110, and may share the differential circuit, comparison circuit, and output circuit after the differential circuit to form a pixel block.
  • FIG. 28 is a diagram showing another example of circuit sharing in pixels.
  • the pixel 100A and the pixel 100B may each include a light receiving section, a buffer, and a difference circuit in the analog section 110, and may share a comparison circuit and an output circuit after the comparison circuit to form a pixel block.
  • the layout area of the pixel circuit can also be reduced.
  • the photodetection element 1 in each of the embodiments described above includes an event detection pixel as the pixel 100, the present invention is not limited to this.
  • the pixel array 10 includes pixels 100 that acquire other types of information, such as gradation pixels, ToF pixels, image plane phase difference acquisition pixels, polarization state acquisition pixels, and IR information acquisition pixels. You can leave it there.
  • FIG. 29 is a diagram illustrating an example of a pixel according to an embodiment.
  • this gradation pixel (or part of the pixel circuit) consists of a ToF pixel, an image plane phase difference pixel, a polarization state It is also possible to replace the pixel with another pixel (or part of a pixel circuit) such as a pixel or IR pixel, or in a form that includes the same or different types of pixels (or part of a pixel circuit) together with the event detection pixel. There may be.
  • the pixel block may include, as the pixel 100, a pixel 100 including an event pixel circuit 114 and a pixel 100 including a gradation pixel circuit 116.
  • the event pixel circuit 114 is a circuit that detects an event at the pixel 100.
  • the pixel 100 in each of the embodiments described above is a pixel that includes this event pixel circuit 114.
  • the gradation pixel circuit 116 is a circuit that acquires gradation information in the pixel 100.
  • the grayscale pixel circuit 116 may include any circuit for acquiring grayscales used in general image sensors.
  • the photodetector element 1 is able to perform low consumption control for the event pixel circuit 114, similar to the embodiment described above. According to this embodiment, low consumption control can be performed even when acquiring a gradation image and event information.
  • FIG. 30 is a diagram showing an example of the pixel 100.
  • the photodetector element 1 does not have a pixel 100 that acquires event information and a pixel 100 that acquires gradation information as a pixel block, but one pixel 100 that functions as an event pixel circuit 114.
  • the gradation pixel circuit 116 and the gradation pixel circuit 116 it may be possible to operate as an event detection pixel or a gradation pixel. In this case as well, it is possible to perform low consumption control on the event pixel circuit 114 .
  • FIG. 31 is a diagram showing another example of pixel blocks. As shown in this figure, the pixel block may include three or more pixels.
  • FIG. 32 is a diagram showing how the pixel array 10 is controlled when it includes pixel blocks as shown in FIG. 31.
  • the control circuit may perform normal control on the event detection pixels, and may also perform normal ADC operation control on the gray scale pixels.
  • the control circuit not only controls the event detection pixels to have low consumption, but also controls the processing of the corresponding pixels in the ADC and signal processing circuit 18 to a standby state (low consumption state). You may. This is because in the row where no event is detected, there is often no change in the gradation information captured by the relevant pixel block, so even if low consumption control is applied to acquire gradation information, a big problem occurs. Can be applied to not.
  • the control circuit can perform low consumption control by lowering the power supply voltage, bias voltage, etc. applied to the ADC.
  • the ADC may be a pixel ADC provided for each pixel, or an area ADC provided for each predetermined area.
  • the control circuit can also perform low consumption control for the column ADC.
  • the pixel array 10 has been described as having gray scale pixels etc. as well as event detection pixels, but if it is possible to acquire other types of signals in this way, the pixel array 10 can be used for light detection depending on the event situation. You can also set the operating mode of element 1.
  • FIG. 33 is a block diagram schematically showing a photodetection element according to an embodiment.
  • the photodetecting element 1 further includes an ADC 30, a grayscale signal processing circuit 32, and a mode control circuit 34.
  • the ADC 30 is a circuit that converts an analog signal output from a pixel 100 that requires AD conversion, such as a gradation pixel, into a digital signal and outputs the digital signal.
  • the gradation signal processing circuit 32 is a circuit that generates a desired digital image signal by performing arbitrary signal processing and/or image processing on the digital signal output from the ADC 30 .
  • the mode control circuit 34 is a circuit that switches the imaging mode of the photodetector element 1 according to the event detection state.
  • FIG. 34 is a diagram illustrating an example of mode transition of a photodetecting element according to an embodiment. This embodiment shows an example of switching between an event detection mode and a hybrid mode in which event detection and gradation information acquisition are performed.
  • the initial state of the photodetecting element 1 is, for example, a state in which it is not activated or a standby state in which photography is not possible.
  • the photodetector element 1 transitions to event detection mode (S500).
  • the photodetector element 1 transitions to the initial state when an end operation is performed in the event detection mode (S502).
  • the photodetecting element 1 transitions to a hybrid mode in which gradation information is acquired in conjunction with event detection (S504).
  • the hybrid mode it is possible to detect an event and to capture a gradation image at any timing.
  • the photodetecting element 1 transitions to the initial state when an end operation is performed (S506).
  • the photodetector element 1 When the photodetector element 1 captures a gradation image in the hybrid mode, it transitions to the hybrid mode again (S508). In this case, after capturing a predetermined number of images, for example, N images, a transition may be made to the event detection mode (S510).
  • FIG. 35 is a diagram showing another example of mode transition of the photodetecting element.
  • the photodetector element 1 may have a gradation mode instead of a hybrid mode in which event detection and gradation information are acquired.
  • the photodetection element 1 may transition from the event detection mode to the gradation mode based on the firing rate of the event, similarly to FIG. 34 above.
  • the photodetection element 1 may be configured to switch between three modes: event detection mode, hybrid mode, and gradation mode, based on the firing rate of the event detection pixel.
  • the photodetection element 1 can also switch the drive mode based on the firing rate of the event detection pixel.
  • FIG. 36 is a block diagram schematically showing a photodetection element according to an embodiment. Compared to the configuration of the previous embodiment, this configuration does not include the mode control circuit 34 .
  • the access control circuit 14 H notifies the timing control circuit 12 of information on the lines for which no event has been detected.
  • the timing control circuit 12 notifies the ADC 30 and the grayscale signal processing circuit 32 of the received line information.
  • the ADC 30 may, for example, perform low consumption control of the column ADC, or the grayscale signal processing circuit 32 may perform low consumption control in appropriate areas for signal processing. .
  • FIG. 37 is a diagram illustrating an example of the relationship between line states and time according to one embodiment.
  • the event detection pixel basically operates in the same manner as in FIG. 7, but the operation of peripheral pixels related to the grayscale pixel is also controlled depending on the event detection state of the event detection pixel.
  • the control circuit notifies the timing control circuit 12 of the line information from the access control circuit 14 regarding the line that has undergone low consumption control in the event detection pixel. Based on this notification, the timing control circuit 12 performs low consumption control on the ADC 30 at the timing to control the line subjected to the low consumption control.
  • this low consumption control can also be executed for each line, each column, each group, or each pixel, similar to the embodiment described above.
  • FIG. 38 is a diagram showing another example of the relationship between line status and time.
  • low consumption control of the shutter is also executed.
  • the control circuit can read gradation information by skipping shutter operation for lines for which no event has been detected, and by skipping AD conversion for lines for which information has not been acquired by shutter control.
  • the blank period in the next frame can be brought forward, making it possible to improve the frame rate.
  • control circuit may read out the event and read out the gradation information for the line where the event has occurred. As described above, it is possible to improve the imaging frame rate and reduce power consumption.
  • the photodetector element 1 can be installed in various electronic devices.
  • an electronic device can be configured by combining the photodetector element 1 , an external signal processing circuit, and other external processing circuits.
  • the external signal processing circuit executes signal processing based on the signal related to the event output from the photodetection element, for example.
  • the external processing circuit executes arbitrary processing based on the signal output from the external signal processing circuit.
  • the photodetecting element 1 can be included in electronic equipment that implements processing in various devices as shown below.
  • the technology according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure can be applied to any type of transportation such as a car, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, a personal mobility vehicle, an airplane, a drone, a ship, a robot, a construction machine, an agricultural machine (tractor), etc. It may also be realized as a device mounted on the body.
  • FIG. 39 is a block diagram showing a schematic configuration example of a vehicle control system 7000, which is an example of a mobile object control system to which the technology according to the present disclosure can be applied.
  • Vehicle control system 7000 includes multiple electronic control units connected via communication network 7010.
  • the vehicle control system 7000 includes a drive system control unit 7100, a body system control unit 7200, a battery control unit 7300, an outside vehicle information detection unit 7400, an inside vehicle information detection unit 7500, and an integrated control unit 7600. .
  • the communication network 7010 connecting these plurality of control units is, for example, a communication network based on any standard such as CAN (Controller Area Network), LIN (Local Interconnect Network), LAN (Local Area Network), or FlexRay (registered trademark). It may be an in-vehicle communication network.
  • CAN Controller Area Network
  • LIN Local Interconnect Network
  • LAN Local Area Network
  • FlexRay registered trademark
  • Each control unit includes a microcomputer that performs calculation processing according to various programs, a storage unit that stores programs executed by the microcomputer or parameters used in various calculations, and a drive circuit that drives various devices to be controlled. Equipped with.
  • Each control unit is equipped with a network I/F for communicating with other control units via the communication network 7010, and also communicates with devices or sensors inside and outside the vehicle through wired or wireless communication.
  • a communication I/F is provided for communication.
  • the functional configuration of the integrated control unit 7600 includes a microcomputer 7610, a general-purpose communication I/F 7620, a dedicated communication I/F 7630, a positioning section 7640, a beacon receiving section 7650, an in-vehicle device I/F 7660, an audio image output section 7670, An in-vehicle network I/F 7680 and a storage unit 7690 are illustrated.
  • the other control units similarly include a microcomputer, a communication I/F, a storage section, and the like.
  • the drive system control unit 7100 controls the operation of devices related to the drive system of the vehicle according to various programs.
  • the drive system control unit 7100 includes a drive force generation device such as an internal combustion engine or a drive motor that generates drive force for the vehicle, a drive force transmission mechanism that transmits the drive force to wheels, and a drive force transmission mechanism that controls the steering angle of the vehicle. It functions as a control device for a steering mechanism to adjust and a braking device to generate braking force for the vehicle.
  • the drive system control unit 7100 may have a function as a control device such as ABS (Antilock Brake System) or ESC (Electronic Stability Control).
  • a vehicle state detection section 7110 is connected to the drive system control unit 7100.
  • the vehicle state detection unit 7110 includes, for example, a gyro sensor that detects the angular velocity of the axial rotation movement of the vehicle body, an acceleration sensor that detects the acceleration of the vehicle, or an operation amount of an accelerator pedal, an operation amount of a brake pedal, or a steering wheel. At least one sensor for detecting angle, engine rotational speed, wheel rotational speed, etc. is included.
  • the drive system control unit 7100 performs arithmetic processing using signals input from the vehicle state detection section 7110, and controls the internal combustion engine, the drive motor, the electric power steering device, the brake device, and the like.
  • the body system control unit 7200 controls the operations of various devices installed in the vehicle body according to various programs.
  • the body system control unit 7200 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as a headlamp, a back lamp, a brake lamp, a turn signal, or a fog lamp.
  • radio waves transmitted from a portable device that replaces a key or signals from various switches may be input to the body control unit 7200.
  • the body system control unit 7200 receives input of these radio waves or signals, and controls the door lock device, power window device, lamp, etc. of the vehicle.
  • the battery control unit 7300 controls the secondary battery 7310, which is a power supply source for the drive motor, according to various programs. For example, information such as battery temperature, battery output voltage, or remaining battery capacity is input to the battery control unit 7300 from a battery device including a secondary battery 7310. The battery control unit 7300 performs arithmetic processing using these signals, and controls the temperature adjustment of the secondary battery 7310 or the cooling device provided in the battery device.
  • the external information detection unit 7400 detects information external to the vehicle in which the vehicle control system 7000 is mounted. For example, at least one of an imaging section 7410 and an external information detection section 7420 is connected to the vehicle exterior information detection unit 7400.
  • the imaging unit 7410 includes at least one of a ToF (Time Of Flight) camera, a stereo camera, a monocular camera, an infrared camera, and other cameras.
  • the vehicle external information detection unit 7420 includes, for example, an environmental sensor for detecting the current weather or weather, or a sensor for detecting other vehicles, obstacles, pedestrians, etc. around the vehicle equipped with the vehicle control system 7000. At least one of the surrounding information detection sensors is included.
  • the environmental sensor may be, for example, at least one of a raindrop sensor that detects rainy weather, a fog sensor that detects fog, a sunlight sensor that detects the degree of sunlight, and a snow sensor that detects snowfall.
  • the surrounding information detection sensor may be at least one of an ultrasonic sensor, a radar device, and a LIDAR (Light Detection and Ranging, Laser Imaging Detection and Ranging) device.
  • the imaging section 7410 and the vehicle external information detection section 7420 may be provided as independent sensors or devices, or may be provided as a device in which a plurality of sensors or devices are integrated.
  • FIG. 40 shows an example of the installation positions of the imaging section 7410 and the external information detection section 7420.
  • the imaging units 7910, 7912, 7914, 7916, and 7918 are provided, for example, at at least one of the front nose, side mirrors, rear bumper, back door, and upper part of the windshield inside the vehicle 7900.
  • An imaging unit 7910 provided in the front nose and an imaging unit 7918 provided above the windshield inside the vehicle mainly acquire images in front of the vehicle 7900.
  • Imaging units 7912 and 7914 provided in the side mirrors mainly capture images of the sides of the vehicle 7900.
  • An imaging unit 7916 provided in the rear bumper or back door mainly acquires images of the rear of the vehicle 7900.
  • the imaging unit 7918 provided above the windshield inside the vehicle is mainly used to detect preceding vehicles, pedestrians, obstacles, traffic lights, traffic signs, lanes, and the like.
  • FIG. 40 shows an example of the imaging range of each of the imaging units 7910, 7912, 7914, and 7916.
  • Imaging range a indicates the imaging range of imaging unit 7910 provided on the front nose
  • imaging ranges b and c indicate imaging ranges of imaging units 7912 and 7914 provided on the side mirrors, respectively
  • imaging range d is The imaging range of an imaging unit 7916 provided in the rear bumper or back door is shown. For example, by superimposing image data captured by imaging units 7910, 7912, 7914, and 7916, an overhead image of vehicle 7900 viewed from above can be obtained.
  • the external information detection units 7920, 7922, 7924, 7926, 7928, and 7930 provided at the front, rear, sides, corners, and the upper part of the windshield inside the vehicle 7900 may be, for example, ultrasonic sensors or radar devices.
  • External information detection units 7920, 7926, and 7930 provided on the front nose, rear bumper, back door, and upper part of the windshield inside the vehicle 7900 may be, for example, LIDAR devices.
  • These external information detection units 7920 to 7930 are mainly used to detect preceding vehicles, pedestrians, obstacles, and the like.
  • the vehicle exterior information detection unit 7400 causes the imaging unit 7410 to capture an image of the exterior of the vehicle, and receives the captured image data. Further, the vehicle exterior information detection unit 7400 receives detection information from the vehicle exterior information detection section 7420 to which it is connected.
  • the external information detection unit 7420 is an ultrasonic sensor, a radar device, or a LIDAR device
  • the external information detection unit 7400 transmits ultrasonic waves, electromagnetic waves, etc., and receives information on the received reflected waves.
  • the external information detection unit 7400 may perform object detection processing such as a person, car, obstacle, sign, or text on the road surface or distance detection processing based on the received information.
  • the external information detection unit 7400 may perform environment recognition processing to recognize rain, fog, road surface conditions, etc. based on the received information.
  • the vehicle exterior information detection unit 7400 may calculate the distance to the object outside the vehicle based on the received information.
  • the outside-vehicle information detection unit 7400 may perform image recognition processing or distance detection processing for recognizing people, cars, obstacles, signs, characters on the road, etc., based on the received image data.
  • the outside-vehicle information detection unit 7400 performs processing such as distortion correction or alignment on the received image data, and also synthesizes image data captured by different imaging units 7410 to generate an overhead image or a panoramic image. Good too.
  • the outside-vehicle information detection unit 7400 may perform viewpoint conversion processing using image data captured by different imaging units 7410.
  • the in-vehicle information detection unit 7500 detects in-vehicle information.
  • a driver condition detection section 7510 that detects the condition of the driver is connected to the in-vehicle information detection unit 7500.
  • the driver state detection unit 7510 may include a camera that images the driver, a biosensor that detects biometric information of the driver, a microphone that collects audio inside the vehicle, or the like.
  • the biosensor is provided, for example, on a seat surface or a steering wheel, and detects biometric information of a passenger sitting on a seat or a driver holding a steering wheel.
  • the in-vehicle information detection unit 7500 may calculate the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 7510, or determine whether the driver is dozing off. You may.
  • the in-vehicle information detection unit 7500 may perform processing such as noise canceling processing on the collected audio signal.
  • the integrated control unit 7600 controls overall operations within the vehicle control system 7000 according to various programs.
  • An input section 7800 is connected to the integrated control unit 7600.
  • the input unit 7800 is realized by, for example, a device such as a touch panel, a button, a microphone, a switch, or a lever that can be inputted by the passenger.
  • the integrated control unit 7600 may be input with data obtained by voice recognition of voice input through a microphone.
  • the input unit 7800 may be, for example, a remote control device that uses infrared rays or other radio waves, or an externally connected device such as a mobile phone or a PDA (Personal Digital Assistant) that is compatible with the operation of the vehicle control system 7000. It's okay.
  • the input unit 7800 may be, for example, a camera, in which case the passenger can input information using gestures. Alternatively, data obtained by detecting the movement of a wearable device worn by a passenger may be input. Further, the input section 7800 may include, for example, an input control circuit that generates an input signal based on information input by a passenger or the like using the input section 7800 described above and outputs it to the integrated control unit 7600. By operating this input unit 7800, a passenger or the like inputs various data to the vehicle control system 7000 and instructs processing operations.
  • the storage unit 7690 may include a ROM (Read Only Memory) that stores various programs executed by the microcomputer, and a RAM (Random Access Memory) that stores various parameters, calculation results, sensor values, etc. Further, the storage unit 7690 may be realized by a magnetic storage device such as a HDD (Hard Disc Drive), a semiconductor storage device, an optical storage device, a magneto-optical storage device, or the like.
  • ROM Read Only Memory
  • RAM Random Access Memory
  • the general-purpose communication I/F 7620 is a general-purpose communication I/F that mediates communication with various devices existing in the external environment 7750.
  • the general-purpose communication I/F7620 supports cellular communication protocols such as GSM (registered trademark) (Global System of Mobile communications), WiMAX (registered trademark), LTE (registered trademark) (Long Term Evolution), or LTE-A (LTE-Advanced). , or other wireless communication protocols such as wireless LAN (also referred to as Wi-Fi (registered trademark)) or Bluetooth (registered trademark).
  • the general-purpose communication I/F 7620 connects to a device (for example, an application server or a control server) existing on an external network (for example, the Internet, a cloud network, or an operator-specific network) via a base station or an access point, for example. You may.
  • the general-purpose communication I/F 7620 uses, for example, P2P (Peer To Peer) technology to communicate with a terminal located near the vehicle (for example, a driver, a pedestrian, a store terminal, or an MTC (Machine Type Communication) terminal). You can also connect it with a device (for example, an application server or a control server) existing on an external network (for example, the Internet, a cloud network, or an operator-specific network) via a base station or an access point, for example. You may.
  • P2P Peer To Peer
  • a terminal located near the vehicle for example, a driver, a pedestrian, a store terminal, or an MTC (Machine Type Communication) terminal. You can also connect it with
  • the dedicated communication I/F 7630 is a communication I/F that supports communication protocols developed for use in vehicles.
  • the dedicated communication I/F 7630 uses standard protocols such as WAVE (Wireless Access in Vehicle Environment), which is a combination of lower layer IEEE802.11p and upper layer IEEE1609, DSRC (Dedicated Short Range Communications), or cellular communication protocol. May be implemented.
  • the dedicated communication I/F 7630 typically supports vehicle-to-vehicle communication, vehicle-to-infrastructure communication, vehicle-to-home communication, and vehicle-to-pedestrian communication. ) communications, a concept that includes one or more of the following:
  • the positioning unit 7640 performs positioning by receiving, for example, a GNSS signal from a GNSS (Global Navigation Satellite System) satellite (for example, a GPS signal from a GPS (Global Positioning System) satellite), and determines the latitude, longitude, and altitude of the vehicle. Generate location information including. Note that the positioning unit 7640 may specify the current location by exchanging signals with a wireless access point, or may acquire location information from a terminal such as a mobile phone, PHS, or smartphone that has a positioning function.
  • GNSS Global Navigation Satellite System
  • GPS Global Positioning System
  • the beacon receiving unit 7650 receives, for example, radio waves or electromagnetic waves transmitted from a wireless station installed on the road, and obtains information such as the current location, traffic jams, road closures, or required travel time. Note that the function of the beacon receiving unit 7650 may be included in the dedicated communication I/F 7630 described above.
  • the in-vehicle device I/F 7660 is a communication interface that mediates connections between the microcomputer 7610 and various in-vehicle devices 7760 present in the vehicle.
  • the in-vehicle device I/F 7660 may establish a wireless connection using a wireless communication protocol such as wireless LAN, Bluetooth (registered trademark), NFC (Near Field Communication), or WUSB (Wireless USB).
  • the in-vehicle device I/F 7660 connects to USB (Universal Serial Bus), HDMI (registered trademark) (High-Definition Multimedia Interface), or MHL (Mobile High).
  • USB Universal Serial Bus
  • HDMI registered trademark
  • MHL Mobile High
  • the in-vehicle device 7760 may include, for example, at least one of a mobile device or wearable device owned by a passenger, or an information device carried into or attached to the vehicle.
  • the in-vehicle device 7760 may include a navigation device that searches for a route to an arbitrary destination. or exchange data signals.
  • the in-vehicle network I/F 7680 is an interface that mediates communication between the microcomputer 7610 and the communication network 7010.
  • the in-vehicle network I/F 7680 transmits and receives signals and the like in accordance with a predetermined protocol supported by the communication network 7010.
  • the microcomputer 7610 of the integrated control unit 7600 communicates via at least one of a general-purpose communication I/F 7620, a dedicated communication I/F 7630, a positioning section 7640, a beacon reception section 7650, an in-vehicle device I/F 7660, and an in-vehicle network I/F 7680.
  • the vehicle control system 7000 is controlled according to various programs based on the information obtained. For example, the microcomputer 7610 calculates a control target value for a driving force generating device, a steering mechanism, or a braking device based on acquired information inside and outside the vehicle, and outputs a control command to the drive system control unit 7100. Good too.
  • the microcomputer 7610 realizes ADAS (Advanced Driver Assistance System) functions, including vehicle collision avoidance or impact mitigation, following distance based on vehicle distance, vehicle speed maintenance, vehicle collision warning, vehicle lane departure warning, etc. Coordination control may be performed for the purpose of
  • the microcomputer 7610 controls the driving force generating device, steering mechanism, braking device, etc. based on the acquired information about the surroundings of the vehicle, so that the microcomputer 7610 can drive the vehicle autonomously without depending on the driver's operation. Cooperative control for the purpose of driving etc. may also be performed.
  • ADAS Advanced Driver Assistance System
  • the microcomputer 7610 acquires information through at least one of a general-purpose communication I/F 7620, a dedicated communication I/F 7630, a positioning section 7640, a beacon reception section 7650, an in-vehicle device I/F 7660, and an in-vehicle network I/F 7680. Based on this, three-dimensional distance information between the vehicle and surrounding objects such as structures and people may be generated, and local map information including surrounding information of the current position of the vehicle may be generated. Furthermore, the microcomputer 7610 may predict dangers such as a vehicle collision, a pedestrian approaching, or entering a closed road, based on the acquired information, and generate a warning signal.
  • the warning signal may be, for example, a signal for generating a warning sound or lighting a warning lamp.
  • the audio and image output unit 7670 transmits an output signal of at least one of audio and images to an output device that can visually or audibly notify information to the occupants of the vehicle or to the outside of the vehicle.
  • an audio speaker 7710, a display section 7720, and an instrument panel 7730 are illustrated as output devices.
  • Display unit 7720 may include, for example, at least one of an on-board display and a head-up display.
  • the display section 7720 may have an AR (Augmented Reality) display function.
  • the output device may be other devices other than these devices, such as headphones, a wearable device such as a glasses-type display worn by the passenger, a projector, or a lamp.
  • the output device When the output device is a display device, the display device displays results obtained from various processes performed by the microcomputer 7610 or information received from other control units in various formats such as text, images, tables, graphs, etc. Show it visually. Further, when the output device is an audio output device, the audio output device converts an audio signal consisting of reproduced audio data or acoustic data into an analog signal and audibly outputs the analog signal.
  • control units connected via the communication network 7010 may be integrated as one control unit.
  • each control unit may be composed of a plurality of control units.
  • vehicle control system 7000 may include another control unit not shown.
  • some or all of the functions performed by one of the control units may be provided to another control unit.
  • predetermined arithmetic processing may be performed by any one of the control units.
  • sensors or devices connected to any control unit may be connected to other control units, and multiple control units may send and receive detection information to and from each other via communication network 7010. .
  • a computer program for realizing some of the functions of the photodetecting element 1 according to the present embodiment described using FIGS. 1 to 38 can be implemented in any of the control units. It is also possible to provide a computer-readable recording medium in which such a computer program is stored.
  • the recording medium is, for example, a magnetic disk, an optical disk, a magneto-optical disk, a flash memory, or the like.
  • the above computer program may be distributed, for example, via a network, without using a recording medium.
  • a photodetecting element comprising:
  • the pixel array includes the event detection elements arranged in a continuous two-dimensional array in a line direction and a column direction crossing the line direction, the holding circuit holds the event for each line in the pixel array;
  • the control circuit includes: selecting the event detection pixels that are continuous in the line direction in the pixel array and driving the event detection elements belonging to the selected line; controlling the power supply voltage and the clock signal of the event detection element for each line based on the event held for each line; The photodetector element described in (1).
  • the control circuit controls, for each line, a bias voltage associated with the event detection element, and the power supply voltage and the clock signal of the signal processing circuit associated with the event detection element.
  • the photodetecting element described in (2) The photodetecting element described in (2).
  • the control circuit controls the power supply voltage of the event detection element based on the event output for each line or lines.
  • the control circuit divides the event detection elements belonging to the one or more lines into a plurality of groups, and controls the event detection elements for each group.
  • the control circuit controls the power supply voltage of the event detection element based on the event output for each column or columns.
  • the control circuit divides the event detection elements belonging to the one or more columns into a plurality of groups, and controls the event detection elements for each group.
  • the control circuit controls the power supply voltage for each event detection pixel, The photodetecting element described in (2).
  • the control circuit controls the power supply voltage based on the event information in past frames.
  • the pixel array further includes a gradation information acquisition element that acquires gradation information.
  • the photodetecting element according to any one of (1) to (9).
  • the pixel array further includes an element that acquires ToF (Time of Flight) information.
  • the photodetector element according to any one of (1) to (10).
  • the control circuit performs standby control on a line in which the event does not occur.
  • the photodetecting element according to any one of (2) to (11).
  • the control circuit switches the drive mode based on the firing rate of the event of the event detection element.
  • the photodetecting element according to any one of (2) to (12).
  • the control circuit switches processing of a column ADC (Analog to Digital Converter) based on the occurrence state of the event in the line to be read.
  • the photodetecting element according to any one of (2) to (13).
  • the control circuit reads the event from the line where the event has occurred.
  • the photodetecting element according to any one of (2) to (14).
  • the event detection elements share an analog front end;
  • the photodetecting element according to any one of (1) to (15).
  • the event detection element shares a difference circuit and a comparison circuit;
  • the control circuit executes clock control of peripheral circuits based on a signal related to the event detected by the event detection element.
  • the photodetector element according to any one of (1) to (19).
  • the control circuit switches the clock frequency of the peripheral circuit based on the signal related to the event.
  • the photodetector element according to any one of (1) to (21), a signal processing circuit that performs signal processing based on the signal related to the event output from the photodetection element; an external processing circuit that executes arbitrary processing based on the signal output from the signal processing circuit; Electronic equipment.
  • Photodetection element 10: Pixel array, 100: pixels, 102: Photodetector, 104: Detection circuit, 106: Memory circuit, 110: Analog section, 112: Logic section, 114: Event pixel circuit, 116: Gradation pixel circuit, 12: Timing control circuit, 14: Access control circuit, 140: Low consumption control circuit, 142: Event holding section, 144: Line control circuit, 146: Column control circuit, 148: Event counter, 150: Comparison section, 152: Power control circuit, 16: Readout circuit, 18: Signal processing circuit, 20: Timestamp generation circuit, 22: Output I/F, 24: Bias generation circuit, 26: Arbiter, 28: Counter, 30: ADC, 32: Gradation signal processing circuit, 34: Mode control circuit

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

[課題]解像度を落とすことなくイベント検出の低消費電力化を実現する。 [解決手段]光検出素子は、画素アレイがと、保持回路と、制御回路と、信号処理回路と、を備える。前記画素アレイは、受光する光の強度差を検出するイベント検出素子が 2 次元のアレイ状に配置される。前記保持回路は、前記イベント検出素子が検出したイベントを保持する。前記制御回路は、前記画素アレイの少なくとも一部の領域に属する前記イベント検出素子及び当該イベント検出素子に対応する前記保持回路について、電源電圧及びクロック信号を制御する。前記信号処理回路は、前記イベント検出素子から出力された信号を処理する。

Description

光検出素子及び電子機器
 本開示は、光検出素子及び電子機器に関する。
 従来のイベント検出画素を備える装置においては、受光領域において、消費電力制御、クロック制御といった低消費制御は、撮像シーンに拘わらず、あらかじめ決められたウィンドウの設定等にしたがって動作している。このため、イベントが発生していない低消費制御をすべき領域に対しても、通常の駆動をし、電力を無駄に消費することがある。
 例えば、イベント検知ではない分野においては、フレーム単位でイベント検出を行った後に低消費制御のためのモードの変更処理が実現されるので、低消費電力化が最短でも次のフレームからという状態に陥る。さらに、低消費電力モード中には、画素加算モードとなり解像度が減少するため、低消費電力化と、解像度と、の間にトレードオフがある。また、設定された領域外の ADC (Analog to Digital Converter) をスタンバイ状態にする技術もあるが、この技術は、撮像シーンに拘わらず、設定にしたがって ADC をスタンバイ状態とするため、やはり、電力と解像度との間にトレードオフがある。
特開2018-022935号公報
 そこで、本開示では、イベント検出において、解像度を落とすことなく低消費電力化を実現する光検出素子を提供する。
 一実施形態によれば、光検出素子は、画素アレイと、保持回路と、制御回路と、信号処理回路と、を備える。前記画素アレイは、受光する光の強度差を検出するイベント検出素子が 2 次元のアレイ状に配置される。前記保持回路は、前記イベント検出素子が検出したイベントを保持する。前記制御回路は、前記画素アレイの少なくとも一部の領域に属する前記イベント検出素子及び当該イベント検出素子に対応する前記保持回路について、電源電圧及びクロック信号を制御する。前記信号処理回路は、前記イベント検出素子から出力された信号を処理する。
 前記画素アレイは、ライン方向及び前記ライン方向に交わるカラム方向にそれぞれ連続した 2 次元のアレイ状に配置された前記イベント検出素子を備えてもよく、前記保持回路は、前記画素アレイにおいてラインごとに前記イベントを保持し、前記制御回路は、前記画素アレイにおける前記ライン方向に連続する前記イベント検出画素を選択し、選択したラインに属する前記イベント検出素子を駆動させ、ラインごとに保持されている前記イベントに基づいて、ラインごとに前記イベント検出素子の前記電源電圧及び前記クロック信号を制御してもよい。
 前記制御回路は、ラインごとに、前記イベント検出素子に関連するバイアス電圧、並びに、当該イベント検出素子に関連する前記信号処理回路の前記電源電圧及び前記クロック信号を制御してもよい。
 前記制御回路は、 1 又は複数のラインごとに出力される前記イベントに基づいて、前記イベント検出素子の前記電源電圧を制御してもよい。
 前記制御回路は、前記 1 又は複数のラインに属する前記イベント検出素子を複数のグループに分割し、前記グループごとに、前記イベント検出素子を制御してもよい。
 前記制御回路は、 1 又は複数のカラムごとに出力される前記イベントに基づいて、前記イベント検出素子の前記電源電圧を制御してもよい。
 前記制御回路は、前記 1 又は複数のカラムに属する前記イベント検出素子を複数のグループに分割し、前記グループごとに、前記イベント検出素子を制御してもよい。
 前記制御回路は、前記イベント検出画素ごとに前記電源電圧を制御してもよい。
 前記制御回路は、過去のフレームにおける前記イベント情報に基づいて、前記電源電圧を制御してもよい。
 前記画素アレイは、さらに、階調情報を取得する階調情報取得素子を備えてもよい。
 前記画素アレイは、さらに、 ToF (Time of Flight) 情報を取得する素子を備えてもよい。
 前記制御回路は、前記イベントが発生していないラインに対してスタンバイ制御をしてもよい。
 前記制御回路は、前記イベント検出素子の前記イベントの発火率に基づいて、駆動モードを切り替えてもよい。
 前記制御回路は、読み出す対象のラインにおける前記イベントの発生状態に基づいて、カラム ADC (Analog to Digital Converter) の処理を切り替えてもよい。
 前記制御回路は、前記イベントが発生したラインに対して、前記イベントの読み出しをしてもよい。
 前記イベント検出素子は、アナログフロントエンドを共有してもよい。
 前記イベント検出素子は、差分回路及び比較回路を共有してもよい。
 前記イベント検出素子は、比較回路を共有してもよい。
 前記イベント検出素子は、前記電源電圧と接続する回路を共有してもよい。
 前記制御回路は、前記イベント検出素子が検出した前記イベントに関する信号に基づいて、周辺回路のクロック制御を実行してもよい。
 前記制御回路は、前記イベントに関する信号に基づいて、前記周辺回路のクロック周波数を切り替えてもよい。
 一実施形態によれば、電子機器は、上記のいずれかに記載の光検出素子と、信号処理回路と、外部処理回路と、を備える。前記信号処理回路は、前記光検出素子から出力された前記イベントに関する信号に基づいた信号処理を実行する。前記外部処理回路は、前記信号処理回路から出力された信号に基づいて、任意の処理を実行する。
 一実施形態によれば、上記の電子機器は、車載装置であってもよい。
一実施形態に係る光検出素子の概略を示すブロック図。 一実施形態に係る制御回路と画素の接続の一例を示す図。 一実施形態に係る画素の一例を示す図。 一実施形態に係るアクセス制御回路の一部の一例を示す図。 一実施形態に係る光検出素子における処理の一例を示すフローチャート。 一実施形態に係る光検出素子のタイミングチャートの一例を示す図。 一実施形態に係るラインにおける処理と、時間との関係の一例を示す図。 一実施形態に係る光検出素子の概略を示すブロック図。 一実施形態に係る光検出素子の処理の一例を示すフローチャート。 一実施形態に係る画素回路の一例を示す図。 一実施形態に係る画素回路の一例を示す回路図。 一実施形態に係るラインにおける処理と、時間との関係の一例を示す図。 一実施形態に係る画素回路の一例を示す回路図。 一実施形態に係る光検出素子のタイミングチャートの一例を示す図。 一実施形態に係る制御回路と画素の接続の一例を示す図。 一実施形態に係る画素回路の一例を示す図。 一実施形態に係る制御回路と画素の接続の一例を示す図。 一実施形態に係る画素回路の一例を示す図。 一実施形態に係る制御回路と画素の接続の一例を示す図。 一実施形態に係る制御回路と画素の接続の一例を示す図。 一実施形態に係る画素回路の一例を示す図。 一実施形態に係る制御回路の一例を示す図。 一実施形態に係る光検出素子の処理の一例を示すフローチャート。 一実施形態に係る画素アレイの周辺回路の一例を示す図。 一実施形態に係る光検出素子の処理の一例を示すフローチャート。 一実施形態に係る画素ブロックの一例を示す図。 一実施形態に係る画素における回路共有の一例を示す図。 一実施形態に係る画素における回路共有の一例を示す図。 一実施形態に係る画素ブロックの一例を示す図。 一実施形態に係る画素の一例を示す図。 一実施形態に係る画素ブロックの一例を示す図。 一実施形態に係る画素アレイの一例を示す図。 一実施形態に係る光検出素子の概略を示すブロック図。 一実施形態に係る光検出素子のモード遷移の一例を示す図。 一実施形態に係る光検出素子のモード遷移の一例を示す図。 一実施形態に係る光検出素子の概略を示すブロック図。 一実施形態に係るラインと時間の関係の一例を示す図。 一実施形態に係るラインと時間の関係の一例を示す図。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
 以下、図面を参照して本開示における実施形態の説明をする。図面は、説明のために用いるものであり、実際の装置における各部の構成の形状、サイズ、又は、他の構成とのサイズの比等が図に示されている通りである必要はない。また、図面は、簡略化して書かれているため、図に書かれている以外にも実装上必要な構成は、適切に備えるものとする。
 (第 1 実施形態)
 図1は、第 1 実施形態に係る光検出素子 1 の限定されない一例を模式的に示すブロック図である。光検出素子 1 は、画素アレイ 10 と、タイミング制御回路 12 と、アクセス制御回路 14 と、第 1 読出回路 16 と、第 1 信号処理回路 18 と、タイムスタンプ生成回路 20 と、出力インタフェース (以下、出力 I/F 22 と記載) と、を備える。光検出素子 1 は、検知したイベントの情報 (イベントデータ) を高速かつ低消費電力で出力する装置である。この光検出素子 1 は、限定されない例として、車載向けの撮像装置等の電子機器に備えられてもよい。
 画素アレイ 10 は、複数の画素 100 が備えられる。画素 100 は、少なくとも複数のカラム (ライン方向) において配置される。望ましくは、少なくとも複数のライン (カラム方向) に置いても配置され、 2 次元のアレイ状に配置される。画素アレイ 10 は、画素 100 から出力された信号を読出回路 16 へと出力する経路と、画素 100 においてイベントが検知された場合に、イベントを検知したことをアクセス制御回路 14 からどの画素 100 の情報を読み出すかを示す信号が入力される経路と、画素 100 について消費電力を低減する信号 (電源電圧を下げる信号) が入力される経路と、を備える。以下、特に必要のない限り、画素 100 は、イベント検出画素を表す。
 それぞれの画素 100 は、少なくともイベント検知 (検出) が可能な撮像素子 (イベント検出素子) を備える。それぞれの画素 100 は、検知素子を駆動させ、この検知素子からの出力を適切に取得する画素回路を備える。例えば、画素回路は、所定しきい値と、イベント検出素子が取得したアナログ信号に関する値とを比較してイベントを検出し、出力する回路であってもよい。画素 100 は、一例として、前フレームとの差分が所定値を超えた場合に発火するとしてもよいし、別例として、コントラスト比が所定しきい値を超えた場合に発火するとしてもよい。ここで、発火は、画素 100 においてイベントを検出した状態を示す。
 タイミング制御回路 12 及びアクセス制御回路 14 は、画素 100 へのアクセス、画素 100 からの信号の読み出し、読み出した信号処理のタイミング及び画素 100 における消費電力低減を制御する、制御回路を構成する。以下において、タイミング制御回路 12 と、アクセス制御回路 14 とを併せて制御回路と称することがあり、これらの回路の一部又は全部の動作は、制御回路として動作するものであってもよい。この制御回路は、信号処理した信号の出力タイミングの制御をしてもよい。消費電力低減の制御は、例えば、電源電圧の制御又はクロック信号の制御のうち少なくとも一方を含んでいてもよい。
 画素アレイ 10 又は制御回路は、画素アレイ 10 のラインごとに、ラインに属する複数の画素 100 の少なくとも一部の画素 100 においてイベントが検出されたことを保持する保持回路を備えてもよい。この場合、消費電力低減の制御は、この保持回路についての電源電圧及びクロック電圧を制御する構成であってもよい。
 タイミング制御回路 12 は、例えば、入力されるクロック信号に基づいて、フレーム同期信号、水平方向同期信号をアクセス制御回路 14 に出力する。また、タイミング制御回路 12 は、アクセス制御回路 14 から受信した画素 100 の発火状況に応じた信号に基づいて、信号処理を実行するタイミングを生成し、このタイミングを信号処理回路 18 に出力してもよい。
 アクセス制御回路 14 は、タイミング制御回路 12 から取得した水平方向同期信号に基づいて、アクセスする画素 100 を選択する操作信号を出力し、当該画素 100 からのイベント情報を読出回路 16 へと出力させる制御をする。すなわち、本開示におけるイベント検出は、タイミング制御回路 12 から出力されるフレーム情報に基づいて、フレームごとに画素 100 を走査することで実現することができる。
 読出回路 16 は、それぞれの画素 100 から取得した情報を適切に変換し、信号処理回路 18 へと出力する。読出回路 16 は、例えば、 AFE (アナログフロントエンド: Analog Front End) として動作する回路を備えてもよい。なお、この AEF は、読出回路 16 ではなく、読出回路 16 の前段に備えられるイベント受光素子からの出力を制御する画素 100 の画素回路に備えられていてもよい。
 読出回路 16 は、それぞれの画素 100 から出力されたイベント情報を一時的に格納するラッチを、例えば、カラムごとに備えていてもよい。また、画素 100 から出力されるアナログ信号を適切に増幅及び AD (Analog to Digital) 変換して出力する ADC (Analog to Digital Converter) を備えてもよい。この ADC は、例えば、画素ごとに備えられる ADC であってもよいし、カラムごとに備えられる ADC であってもよい。読出回路 16 は、適切に変換したイベント情報を、シリアル又はパラレルの信号として出力する。
 信号処理回路 18 は、読出回路 16 から出力されるイベント情報を、タイミング制御回路 12 を介して取得するアクセス制御回路 14 が制御した画素 100 のアクセス情報に基づいて変換し、出力 I/F 22 を介してイベントデータとして外部、例えば、外部に備えられるプロセッサ等へと出力する。信号処理回路 18 は、例えば、取得したイベント情報の順序を入れ替えて、又はフォーマットを整えて出力する。また、上述したように、タイミング制御回路 12 がアクセス制御回路 14 の出力に基づいて生成した同期タイミングで、信号処理回路 18 は、信号処理を実行してもよい。
 タイムスタンプ生成回路 20 は、タイムスタンプ情報、例えば、単純には時刻情報を信号処理回路 18 へと出力する。信号処理回路 18 は、データに対して適切なタイムスタンプを付与して出力する。このようにタイムスタンプを適切に付与することで、出力されたデータの時刻に関する順序等を外部のプロセッサ等で適切に取得して信号処理を実行することができる。
 出力 I/F 22 は、光検出素子 1 において取得、変換されたイベントデータを外部へと出力するインタフェースである。出力 I/F 22 は、例えば、 MIPI (登録商標) 等のインタフェースを備えていてもよい。光検出素子 1 は、取得したイベント情報をこの出力 I/F 22 を介して外部へと出力する。
 このような構成を用いることで、取得するデータ量に併せて水平方向における静定期間及び水平方向の同期信号のタイミングを適切に制御することが可能となる。
 この構成においては、画素アレイ 10 のアクセス制御 (読出回路 16 における読み出し制御) 及び信号処理回路 18 における信号処理制御の同期信号に、同じ同期信号を用いることができる。このため、光検出素子 1 において、データの出力速度がデータバスに律速する場合において、高速化を実現することができる。
 なお、タイミング制御回路 12 は、必須の構成ではない。例えば、画素 100 へのアクセス及び読み出しのタイミングと、読出回路 16 から信号処理回路 18 へのデータ転送のタイミングと、のいずれか一方を可変としない場合には、同期信号を固定することができるので、タイミング制御回路 12 を備えることなく光検出素子 1 の動作を実現することができる。
 また、図示していないが、信号処理回路 18 は、フレームメモリを有していてもよい。フレームメモリは、フレームの情報を格納するメモリ領域であり、例えば、メモリ回路により構成される。信号処理回路 18 は、読出回路 16 から取得した 1 フレーム分のイベント情報をこのフレームメモリに格納しておいてもよい。そして、信号処理回路 18 は、フレームメモリに格納されたデータを用いてイベント情報を高速にデータ転送が実行できるフォーマットへと変換して出力することができる。
 フレームメモリを備えることで、画素アレイ 10 のアクセス制御と、信号処理回路 18 における処理の制御と、のタイミングを走査ラインごとに分離することができる。すなわち、画素アレイ 10 のアクセスを所定周期の同期信号にしたがって制御する一方で、この制御に拘わらず、信号処理回路 18 における処理を可変の同期信号を用いて、また、画素 100 における画素回路のクロック信号と、信号処理回路 18 における処理に用いるクロック信号とを別個の構成とすることも可能となる。このため、光検出素子 1 の出力が画素 100 へのアクセスに律速する場合、高速化を実現することができる。
 図2は、一実施形態に係る制御回路と画素の接続の一例を示す図である。
 上述した保持回路は、画素アレイ 10 におけるラインごとに検出されたイベントを保持してもよい。そして、制御回路は、画素アレイ 10 におけるラインを選択し、選択したラインに属する画素 100 を駆動する。この駆動は、一般的な水平駆動回路と同様の動作をする回路であってもよいので、詳細な説明は省略する。そして、制御回路は、ラインごとに保持されているイベントに基づいて、ラインごとに、イベント検出素子の電源電圧及びクロック信号の制御をしてもよい。
 このような動作を実現するべく、光検出素子 1 は、アクセス制御回路 14 から、画素アレイ 10 のそれぞれのラインに属する画素 100 に対して、イネーブル信号を送信する信号線を備える。また、光検出素子 1 は、画素アレイ 10 のラインに属する画素 100 から、イベント信号をアクセス制御回路 14 へと送信する信号線を備える。
 アクセス制御回路 14 は、例えば、第 0 ラインに属する画素 100 については、イネーブル信号 EN[0] と、イベント信号 EVENT[0] と、を別々の経路で送受信し、他のラインについてもそれぞれのイネーブル信号 EN と、イベント信号 EVENT と、を別々の経路で送受信する。例えば、 n ラインがある場合には、イネーブル信号 EN[n-1] と、イベント信号 EVENT[n-1] までがそれぞれのラインについて送受信される。
 これらの信号線を備えることで、アクセス制御回路 14 は、ラインごとに、画素 100 に関連する画素回路におけるバイアス電圧をイネーブル信号により制御することができる。また、イベント信号をラインごとに取得することで、アクセス制御回路 14 は、信号処理回路 18 に対してイベント信号に基づいたラインの処理を行うタイミングで電源電圧の制御及びクロック信号の制御をすることもできる。この制御は、タイミング制御回路 12 を介して実現されてもよい。
 例えば、アクセス制御回路 14 は、イベントが検出されていないラインにおいては、画素回路のバイアス電圧を下げたり、信号処理回路 18 において当該ラインの処理をするタイミングで電源電圧を下げたり、クロック周波数を下げ、又は停止したりすることができる。
 また、同一のカラムに属する画素 100 からは、同一の信号線により、読出回路 16 へとイベント信号が送信されてもよい。この形態についても、一般的な垂直駆動回路と同様の動作であるので、詳細な説明は省略する。
 図3は、画素 100 の一例を示す図である。画素 100 は、受光素子 102 と、その画素回路として、検出回路 104 と、記憶回路 106 とを備えていてもよい。
 受光素子 102 は、例えば、入射した光を光電変換する光電変換素子と、この光電変換素子の信号からイベント検出して出力する回路と、を備える。
 検出回路 104 は、例えば、バッファ、差分回路及び比較回路といった受光素子 102 から出力された信号を適切に処理して出力する回路である。
 記憶回路 106 は、例えば、ラッチ、レジスタ等を備えてもよく、イベントが検出されたことを保持する保持回路として動作してもよい。
 上記の 3 つの回路は、イベント検出を実現する一般的な回路と同等の回路でもよいので、詳細な説明は省略する。
 アクセス制御回路 14 からのイネーブル信号は、例えば、画素 100 における電源電圧と、画素回路と、の接続をスイッチングするスイッチ素子のオン/オフを切り替える信号として用いられる。このスイッチ素子がオンである場合には、上記の回路に電源電圧が印加され、イベント検出が実行される。スイッチ素子がオフである場合には、上記の回路は、電源電圧から切り離され、イベント検出をしない待機状態へと遷移する。
 図4は、図3の画素 100 に対するアクセス制御回路 14 の回路の一部の一例を示す図である。アクセス制御回路は、その一部として、低消費制御回路 140 を備えてもよい。低消費制御回路 140 は、画素 100 から取得するラインごとのイベント検出信号に基づいて、図3におけるスイッチングを実行するイネーブル信号を出力する回路である。この低消費制御回路 140 は、例えば、ライン単位で備えられる。
 低消費制御回路 140 は、例えば、イベント保持部 142 と、論理和回路と、論理積回路と、を備える。低消費制御回路 140 は、ラインに属する画素 100 の少なくとも 1 つにおいてイベントが検出された場合には、次のフレーム等の次の走査タイミングにおいて電源電圧とラインに属する画素 100 とを接続し、イベントが検出されない場合には、画素 100 の画素回路と電源電圧との切断を制御する信号を出力する。
 イベント保持部 142 は、例えば、ラッチ回路であってもよい。この他、適切な動作を実現するフリップフロップ等の回路で構成されていてもよい。イベント保持部 142 は、画素アレイ 10 における対応するラインに属する画素 100 からのイベント検出信号と、ラッチ信号 (ラッチイネーブル) が入力される。このイベント検出信号を保持する。イベント保持部 142 は、ラッチ信号が入力されると保持しているイベント信号を出力する。なお、図においては、保持している信号の否定の出力端子があるが、これは必須の構成ではなく、保持している信号の出力端子があれば足りる。
 イベント保持部 142 から出力された信号は、電源供給イネーブル信号とともに論理和回路に入力される。電源供給イネーブル信号は、例えば、タイミング制御回路 12 から出力されてもよい。この論理和回路は、ラインに関するイベントが検出されている、又は、電源供給がされる信号が入力状態であると、 High の信号を出力し、イベントが未検出であり、かつ、電源供給が必要でなと要求されると、 Low の信号を出力する。
 論理積回路は、論理和回路からの出力と、強制的な電源の遮断制御をする強制電源遮断信号と、が入力される。論理積回路は、強制電源遮断が Low 、すなわち、強制的に電源を遮断する信号が入力されると、電源供給イネーブル信号として電源供給を遮断する信号である Low を出力する。一方で、論理積回路は、要請電源遮断をしない信号である High が入力されると、論理和回路からの出力に応じた電源供給イネーブル信号を出力する。
 図5は、図1から図4の回路を用いる場合の処理を示すフローチャートである。以下、電源電圧の停止若しくは印加の抑制、又は、クロック信号の停止若しくはクロック周波数の低減処理等の低消費電力に関する制御を、低消費制御と記載する。
 制御回路は、全ラインにおける低消費制御を終了する (S100) 。低消費制御を終了することで、画素アレイ 10 に属する画素 100 においてイベント検出処理が可能な状態に遷移する。
 次に、制御回路は、全ラインでイベント検出を実行する (S102) 。画素 100 は、入射された光の輝度変化を検出し、検出した結果に基づいて、イベント検出信号を生成して出力する。
 次に、制御回路は、データ取得シーケンスを開始する (S104) 。 S102 において画素アレイ 10 に属する画素 100 でイベント情報を検出しているので、イベント情報が取得されたことを示す信号を画素 100 から送信することで、イベント保持部にラインごとのイベントの検出状態を保持する。
 次に、画素 100 は、ラインごとに備えられる信号線を介してイベントが検出されたラインを制御回路に通知する (S106) 。これは、図2及び図3に示す EVENT 信号を制御回路へと送信することで実現される。
 次に、制御回路は、図4に示す低消費制御回路 140 において、それぞれのラインについてのイベント信号検出の判定をする (S108) 。低消費制御回路 140 は、ラインごとに画素 100 から通知されたイベント信号に基づいて、対応するラインにおいてイベントが検出されたか否かを判定する。
 イベントが検出されない場合 (S108: NO) 、制御回路 (低消費制御回路 140) は、対応するラインの低消費制御を開始する (S110) 。制御回路は、例えば、ラインに属する画素 100 について、図3に示す電源電圧とのスイッチをオフすることにより、低消費制御を実行する。
 低消費制御が終了した後、又は、ラインにおいてイベントが検出された場合 (S108: YES) 、低消費制御回路 140 は、処理を完了し、次のフレームについての処理まで待機する。
 次に、制御回路は、画素アレイ 10 に属する画素 100 について、イベント検出素子の電荷をリセットする (S112) 。
 そして、画素 100 は、制御回路により制御されたカラムにおけるイベント検出信号を順次、読出回路 16 へと出力し、読出回路 16 は、ライン単位で画素 100 ごとのイベント信号を出力する (S114) 。
 制御回路は、画素 100 からの出力が完了した後のタイミングで、画素 100 への電源電圧の供給を切断し、次のフレームにおけるイベント検出のためのブランク期間に遷移する (S116) 。この後、光検出素子 1 は、次のフレームの処理において S100 からの処理を繰り返す。
 図6は、当該処理におけるタイミングチャートを示す図である。丸数字の “1” は、図5の S100 の処理のタイミング、 “2” は、 S104 の処理のタイミング、 “3” は、 S116 の処理のタイミングにそれぞれ対応する。
 最上段の動作は、検出が画素 100 におけるイベント検出タイミング、リセットが画素 100 の受光素子のリセットタイミング、読み出しが画素 100 からイベント検出信号のラインにおけるカラムごとの転送及び読出回路 16 におけるラインごとのイベント検出信号の読み出しタイミング、ブランクがフレーム間の待機タイミングをそれぞれ示す。
 イベント信号 (行単位) は、イベント保持部 142 に保持されるラインごとのイベント検出信号を示す。イベントが検出されていると、イベント信号は、 High となり、未検出であると、 Low となる。
 ラッチイネーブルは、イベント保持部 142 に入力されるラッチ信号を示す。ラッチイネーブルは、ラッチからデータを出力する制御をするタイミングで High となる。
  Q は、イベント保持部 142 に保持され、出力されるイベント検出信号を示す。
 電力供給イネーブル (入力) は、低消費制御回路 140 に入力される信号であり、画素 100 に電力供給する制御をする信号を示す。電力供給イネーブル (入力) は、電力を供給する制御をするタイミングで High となり、電力を供給しない制御をするタイミングで Low となる。
 強制電源遮断は、例えば、ブランク期間等における画素 100 への電源電圧の通電処理のタイミングを制御する信号を示す。強制電源遮断は、電力を遮断しない制御をするタイミングで High となり、電力を遮断する制御をするタイミングで Low となる。
 電源供給イネーブル (出力) は、低消費制御回路 140 から出力される信号であり、イベント検出結果に基づいた画素 100 に電力供給する制御をする信号を示す。電力供給イネーブル (出力) は、電力供給する制御をするタイミングで High となり、電力供給しない制御をするタイミングで Low となる。
 フレームにおけるイベント検出処理の開始タイミングにおいては、電源供給イネーブル (入力) 及び強制電源遮断が High であり、図4の回路図から、電力供給イネーブル (出力) は、High である。
 ラインにおけるイベント信号が未検出である場合、ラインごとのイベント信号は、イベント未検出を示す Low である。
 この状態において、ラッチイネーブルが入力されると、イベント保持部 142 は、保持されている Low の信号を出力する。ここで、電源供給イネーブル (入力) が画素 100 における検出タイミングの終了に伴い Low になると、低消費制御回路 140 の論理和回路からの出力は、 Low へと遷移する。
 この遷移に伴い、論理積回路からの出力も Low へと遷移し、低消費制御回路 140 は、電源供給イネーブル (出力) として、低消費制御回路 140 が対応するラインの画素 100 に対して、低消費制御をする信号 Low を出力する。低消費制御は、例えば、上述したように、電源電圧と画素回路とを遮断することであってもよい。
 この動作により、制御回路は、ラインに属する画素 100 からイベント検出信号が出力されない場合に、当該ラインにおける低消費制御を実行する。
 ラインにおけるイベント信号が検出されている場合、ラインごとにイベント信号は、イベント検出を示す High である。
 上記と同様のタイミングでラッチ信号が遷移すると、イベント保持部 142 からはイベントとが発生していることを示す High の信号が出力される。論理和回路は、電源供給イネーブル (入力) に拘わらず High を出力し、この結果、低消費制御回路 140 は、電源供給する制御をする High の信号を出力する。
 図7は、上記の構成におけるラインにおける処理と、時間との関係の一例を示す図である。
 ブランク期間においては、全てのラインにおいて低消費制御がされ、制御回路は、例えば、画素 100 の画素回路と電源電圧とを遮断する制御をする。
 検出期間においては、制御回路は、画素 100 の画素回路と電源電圧とを接続する制御をし、受光素子における光の検出と、検出した光のフレーム間との差を取得することでイベント検出処理を実行する。
 制御回路は、検出期間におけるイベント検出の結果をラインごとに取得し、リセット期間及び読み出し期間における低消費制御を実行する。図において低消費制御と示されているラインは、検出期間においてイベントが検出されなかったラインについて適応される制御である。
 以上のように、本実施形態に係る光検出素子によれば、制御回路がラインに属する画素におけるイベント検出結果を取得し、イベントが未検出の場合にラインごと低消費制御とすることで、高速な低消費電力処理を実現することができる。この結果、イベント検出における解像度を下げることなく、光検出素子全体としての低消費電力の制御を実現することが可能となる。
 (第 2 実施形態)
 図8は、一実施形態に係る光検出素子 1 の概略を示すブロック図である。光検出素子 1 は、第 1 実施形態の構成に加え、バイアス生成回路 24 を備えてもよい。また、信号処理回路 18 から読出回路 16 へデータを伝送する信号線を備えてもよい。
 バイアス生成回路 24 は、画素 100 に供給するバイアス電流を生成する回路である。このバイアス生成回路 24 は、アクセス制御回路 14 からの通知により、画素 100 に出力するバイアス電流の大きさを制御することができる。
 図9は、一実施形態に係る光検出素子 1 の処理を示すフローチャートである。 S100 から S112 までの処理は、前述の第 1 実施形態と同様であるので、説明は省略する。
  S112 において画素 100 をリセットした後に、読出回路 16 は、イベントの読み出しを開始する (S200) 。
 次に、制御回路は、対象となるラインにイベントが検出されているかどうかを判定する (S202) 。
 制御回路は、イベントが検出されていない場合 (S202: NO) 、前述の低消費制御回路 140 の動作に加えて、読出回路 16 及び信号処理回路 18 に出力されるクロック信号のクロック周波数を下げ、又は停止してもよい (S204) 。さらに、制御回路は、バイアス生成回路 24 が出力するバイアス電流を小さくする制御をする。
 制御回路は、イベントが検出されている場合 (S202: YES) 、画素 100 及び読出回路 16 、信号処理回路 18 といった周辺回路に対して、通常のクロック周波数、通常のバイアス電流を流す制御をする (S206) 。
 そして、制御回路は、読み出しアドレスをインクリメントする (S208) 。
 制御回路は、読み出しが完了していない場合 (S210: NO) 、 S208 で設定されたアドレスのイベント情報を読み出す (S200) 処理に戻る。
 制御回路は、読み出しが完了している場合 (S210: YES) 、前述の実施形態と同様に S116 の処理から、次のフレームの処理へと移行する。
 以上のように、本実施形態によれば、前述の実施形態よりもさらに低消費制御を実現することができる。
 (第 3 実施形態)
 前述の各実施形態においては、画素 100 内の画素回路については、一括して低消費制御の処理をしていたが、これに限定されるものではない。
 図10は、一実施形態に係る画素 100 の画素回路を示す図である。画素 100 は、画素回路として、アナログ部 110 と、ロジック部 112 を備えていてもよい。
 アナログ部 110 は、受光素子を含み、受光素子から出力する信号を処理するアナログ回路により形成される。アナログ部 110 は、例えば、受光素子、バッファ、差分回路及び比較回路を備えている。
 ロジック部 112 は、アナログ部 110 において受光素子の信号がイベント検出した/しないを示すバイナリ値を示すデジタル信号に変換される場合、このデジタル信号を処理するデジタル回路により形成される。ロジック部 112 は、例えば、出力回路を備えている。比較回路は、アナログ部 110 ではなくロジック部 112 に備えられるものであってもよい。
 図11は、図10の一例として、画素 100 の画素回路を示す回路図である。この図に示すように、画素回路のアナログ部 110 は、例えば、受光素子を備える受光部と、受光素子からの出力を一時的に保持するバッファと、バッファからの出力と 1 フレーム前の値との差分を出力する差分回路と、差分回路からの出力としきい値とを比較する比較回路と、を備える。
 そして、画素回路のロジック部 112 は、比較回路からの出力結果をラッチする拉致回路を含む出力回路を備える。点線で示されるように、比較回路は、ロジック部 112 の一部として構成されていてもよい。
 図10に戻り、制御回路は、これらアナログ部 110 及びロジック部 112 のそれぞれについて、低消費制御を実行することもできる。すなわち、制御回路は、画素回路におけるイベントを検出するアナログフロントエンドの電源制御と、出力回路を備えるロジック回路の電源制御と、をそれぞれ個別に実行することができる。
 図12は、一実施形態に係るラインにおける処理と、時間との関係の一例を示す図である。本実施形態のように、画素回路におけるアナログ回路とデジタル回路とに別々に電源供給の制御を実現することで、制御回路は、画素回路から出力が完了したラインから順次低消費制御を実行する場合においても、リセット期間におけるラインごとの低消費制御を実現することが可能となる。
 (第 4 実施形態)
 アクセス制御回路 14 は、前述したようにラインごとに発火状態 (イベント検出状態) をイベント保持部 142 に保持している。このため、制御回路側から、画素 100 の画素回路におけるバイアスを制御することができる。
 図13は、制御回路から画素回路のバイアスを制御する場合における画素回路の一例を示す図である。画素回路は、比較回路のしきい値を決定するバイアスとして、検出用バイアスと、リセット用バイアスと、低消費用バイアスと、が選択して印加される形態であってもよい。比較回路は、例えば、これらのバイアスのいずれかを選択するセレクタ (マルチプレクサ) を備えていてもよい。
 検出用バイアスは、イベント検出期間において印加されるバイアスである。リセット用バイアスは、リセット期間において印加されるバイアスである。低消費用バイアスは、低消費期間において印加されるバイアスである。このようにバイアスを選択することでそれぞれの期間において適切な比較結果を出力するとともに、低消費制御を実行することができる。
 このセレクタは、例えば、イベント未発生画素用低消費制御イネーブル信号、イベント検出用バイアスイネーブル信号、リセット用バイアスイネーブル信号及び低消費制御用イネーブル信号に基づいて、バイアスを選択可能に形成される。
 イベント未発生画素用低消費制御イネーブル信号は、イベントが発生しているラインにおいては Low 、発生していないラインにおいては High である信号である。その他のイネーブル信号は、それぞれの状態にバイアスを制御するために High 、 Low が決定される信号である。
 図14は、これらのイネーブル信号のタイミングチャートを示す図である。イベント未発生画素用低消費制御イネーブル信号が High のタイミングにおいては、リセット動作期間において、低消費用バイアスが選択され、イベント未発生画素用低消費制御イネーブル信号が Low のタイミングにおいては、リセット動作期間において、リセット用バイアスが選択される。
 このように、本実施形態によれば、リセット期間における低消費制御をイネーブル信号及びそれぞれの期間における適切なバイアス電流を用いることにより、実現することができる。
 (第 5 実施形態)
 前述の各実施形態においては、ライン方向に配置される画素 100 に対して低消費制御をすることについて説明したが、本開示における光検出素子 1 は、カラム方向に配置される画素 100 についても同様に低消費制御をすることができる。
 図15は、一実施形態に係る制御回路と画素との接続の一例を示す図である。アクセス制御回路 14 は、カラム方向に、同一カラムに属する画素 100 と接続する信号線を備えてもよい。第 1 実施形態と同様に、これらの信号線は、画素 100 における低消費制御をするイネーブル信号を送信する信号線と、画素 100 からイベント検出情報をアクセス制御回路 14 へと送信する信号線である。
 すなわち、アクセス制御回路 14 は、信号線を介してそれぞれのカラムごとに、画素 100 へと低消費制御をするためのイネーブル信号を、信号線を介して送信する。また、画素 100 は、アクセス制御回路 14 においてカラムにおける低消費制御をするイネーブル信号を送信するためのイベント検出信号を、信号線を介して送信する。
 図16は、一実施形態に係る画素回路の一例を示す図である。画素回路は、アクセス制御回路 14 から送信される電源供給イネーブルに基づいて電源電圧との接続が制御される。また、画素回路から出力されるイベント情報は、信号線を介してアクセス制御回路 14 へと送信され、このイベント情報に基づいて、アクセス制御回路 14 がカラムごとにイベント検出をしたかを判定する。
 以上のように、光検出素子 1 は、ライン方向ではなく、カラム方向に連続した画素からのイベント情報に基づいて、カラムごとに低消費制御をすることもできる。
 なお、これらは別々に実装される必要はなく、光検出素子 1 は、ライン方向、カラム方向の双方について、それぞれイベント情報を取得し、ラインごと及びカラムごとに低消費制御をしてもよい。
 図17は、ライン、カラムの双方向についてそれぞれに低消費制御をする制御回路と画素との接続を示す図である。アクセス制御回路 14 は、ライン制御回路 144 と、カラム制御回路 146 を備えてもよい。尤も、このような区別無く、アクセス制御回路 14 が制御をしてもよい。
 ライン制御回路 144 は、図2に示すアクセス制御回路 14 と同じ動作であってもよいし、カラム制御回路 146 は、図15に示すアクセス制御回路 14 と同じ動作であってもよい。
 図18は、図17の場合における画素回路を示す。この図に示すように、画素回路は、ライン制御回路 144 からラインごとのイベント情報に基づいて出力されるライン方向の電源供給イネーブル (Y 方向) と、カラム制御回路 146 からカラムごとのイベント情報に基づいて出力されるカラム方向の電力供給イネーブル (X 方向) と、から受信した信号の論理積により、電源電圧との接続が制御される。
 すなわち、ライン方向のイベント情報と、カラム方向のイベント情報の双方が検出されている場合に、その画素 100 を通常の検出可能な画素し、それ以外の画素については、低消費制御する画素とすることが可能となる。
 また、画素回路は、ライン制御回路 144 にイベント情報 (EVENT_Y) をラインに沿った信号線を介して出力し、カラム制御回路 146 にイベント情報 (EVENT_X) をカラムに沿った信号線を介して出力する。
 このように、同一ラインに属する画素同士を接続する信号線と、同一カラムの画素同士を接続する信号線と、を介して、制御回路と画素回路とは、イベント情報及びイネーブル信号を送受信することができる。
 ライン方向及びカラム方向に低消費制御をすることで、より細かい粒度で低消費制御をすることが可能となり、さらなる低消費電力化を図ることができる。
 (第 6 実施形態)
 前述の各実施形態においては、ラインごと、カラムごと、に低消費制御をする例について説明したが、同一ラインにおける複数カラムごとにグループを形成し、このグループごとに低消費制御をしてもよい。
 図19は、一実施形態に係る制御回路と画素の接続の一例を示す図である。アクセス制御回路 14 は、例えば、ラインごとに、当該ラインに属する画素 100 を複数の画素グループに分割し、この画素グループごとに、低消費制御を実行してもよい。画素 100 は、例えば、この図19に示すように、ライン方向に隣接する 2 つの画素 100 ごとに画素グループが形成されてもよい。
 グループの形成は、任意でよく、隣接しない画素 100 同士が同一のグループに属していてもよい。また、 2 つの画素 100 ごとではなく、さらに多くの画素 100 ごとにグループが形成されていてもよい。一般的に物体は、近接している画素中に収まることが多い。このため、複数の隣接している画素 100 ごとに画素グループが形成されることがより望ましい。
 このように、光検出素子 1 は、ラインごとだけではなく、同一のラインに属する複数のグループに分割して、個々のグループによって低消費制御を実行してもよい。
 なお、本実施形態においては、制御回路は、ラインごとに属するグループにおいて低消費制御をするとしたが、これに限定されることなく、カラムごとに属するグループごとに低消費制御をしてもよい。
 (第 7 実施形態)
 前述の各実施形態においては、制御回路は、 1 ラインごと、又は、 1 カラムごとに低消費制御をするとしたが、これに限定されるものではない。制御回路は、複数ラインごと、又は、複数カラムごとに低消費制御をすることもできる。
 図20は、一実施形態に係る制御回路と画素の接続の一例を示す図である。この図20に示すように、アクセス制御回路 14 と、 2 ラインに属する画素 100とが同じイベント検出信号を送信する信号線及び同じイネーブル信号を送信する信号線と接続される形態であってもよい。
 図20においては、 2 ラインごとに制御する形態となっているが、これに限定されず、 3 以上のラインごとに低消費制御が可能な形態であってもよい。
 (第 8 実施形態)
 前述した各実施形態においては、低消費制御をするために画素 100 から制御回路へとイベント検出情報を送信する信号線系統と、制御回路から画素 100 へとイネーブル信号を送信する信号線系と、が備えられ、ラインごと又はカラムごとにこれらの信号線を介して別々に制御をしていたが、これに限定されるものではない。
 図21は、一実施形態に係る画素回路の一例を示す図である。電源供給イネーブル信号は、制御回路から、例えば、ラインごと又はカラムごとにフレームにおける期間に対応して電源を供給するか否かを制御するイネーブル信号である。具体的には、電源供給イネーブル信号は、例えば、ブランク期間においては、低消費制御し、検出期間においては、通常の電圧等の制御するためのイネーブル信号である。
 画素 100 は、このイネーブル信号と、画素回路において前フレーム等のイベント情報を保持しているラッチ回路等からの出力の論理和により、電源電圧と画素回路との接続を制御してもよい。
 このように制御することで、より細かい粒度、例えば、画素ごとの過去のイベント検出状態によって、低消費制御を実行することができる。
 (第 9 実施形態)
 ラインごとの低消費制御をするに当たり、制御回路は、ラインごとのイベントの発生回数を計数するイベントカウンタを備え、計数値により低消費制御をすることもできる。
 図22は、一実施形態に係る制御回路の一例を示す図である。例えば、アクセス制御回路 14 は、イベントカウンタ 148 と、比較部 150 と、電源制御回路 152 と、を備えてもよい。
 イベントカウンタ 148 は、過去のフレームにおけるイベント数を計数するカウンタである。イベントカウンタ 148 は、所定のタイミングで初期化され、ラインにおけるイベントが検出されるとインクリメントされるカウンタである。
 比較部 150 は、イベントカウンタ 148 の計数値と、所定値とを比較して、比較結果を出力する回路である。
 電源制御回路 152 は、比較部 150 の出力に基づいて、電源の制御信号であるイネーブル信号を出力する回路である。
 図23は、図22の構成を有する場合の光検出素子 1 の処理の一例を示すフローチャートである。
 制御回路は、条件によりカウンタを初期化する (S300) 。条件は、例えば、光検出素子 1 が起動した直後、又は、所定フレーム数ごと、であってもよい。
 制御回路は、全ラインの低消費制御を終了し、ブランク期間から検出期間へと遷移する (S302) 。
 画素 100 は、検出期間において低消費制御ではない状態で検出を実行する (S304) 。
 制御回路は、画素 100 から出力されたイベント情報に基づいて、ライン単位でイベントを記憶、保持する (S306) 。
 制御回路は、ラインごとに、イベントが検出されたか否かを判定する (S308)。
 イベントが検出された場合 (S308: YES) 、制御回路は、イベントカウンタ 148 を用いて計数値をインクリメントする (S310) 。
 計数値がインクリメントされた後、又は、イベントが未検出の場合 (S308: NO) 、制御回路は、比較部 150 において計数値がしきい値より小さいかを比較する (S312) 。
 計数値がしきい値未満である場合 (S312: YES) 、制御回路は、対象ラインの低消費制御を開始する (S314) 。一方で、計数値がしきい値以上である場合 (S312: NO) 、制御回路は、通常の制御を継続する。
 この後の処理 (S316 から S320) は、前述の実施形態と同様である。
 このように、過去の複数のフレームにわたってイベントの発生回数を計数することにより、イベントが発生していた頻度によって、ラインごとに低消費制御をすることが可能となる。また、制御回路は、前述の実施形態において説明したカラムごと、グループごと、又は、画素ごとについても同様に計数値による制御をすることが可能である。
 なお、図23においては、条件によりカウンタを初期化したが、これに限定されるものではない。例えば、 S300 を省略し、制御回路は、イベントが検出されなかった場合 (S308: NO) に、計数値をデクリメントする形態であってもよい。この場合、複数フレームにおいてイベントが検出された後、最後のイベント検出フレームからのイベント検出頻度に基づいて、低消費制御へと遷移することができる。
 (第 10 実施形態)
 イベント検出画素を走査してイベント検知する形態について説明したが、本開示の光検出素子 1 は、この形態に限定されるものではない。光検出素子 1 は、アービタによる制御がされる場合であっても、同様の低消費制御をすることが可能である。
 図24は、一実施形態に係る画素アレイ 10 の周辺回路の一例を示す図である。画素アレイ 10 は、アービタ 26 と、信号処理回路 18 とに接続され、アービタ 26 と信号処理回路 18 は、カウンタ 28 に接続されていてもよい。アービタ 26 及びカウンタ 28 は、制御回路の一部として実装されていてもよい。
 アービタ 26 は、フレームによる制御ではなく、画素 100 から信号が出力されたタイミングで適切にイベント検出情報を非同期で伝播する調停回路である。画素 100 からイベント検出信号を受信すると、アービタ 26 は、当該画素に対して Ack 信号を送信するとともに、カウンタ 28 へとイベント検出信号を送信する。 Ack を受信した画素 100 は、受光素子をリセットしてもよい。
 カウンタ 28 は、イベントの発生回数を計数する回路である。イベント検出信号を受信したカウンタ 28 は、計数値をインクリメントすることで、現在調停中のイベントの回数を計数する。カウンタは、計数値が所定値未満の場合には、アービタ 26 及び信号処理回路 18 に低消費制御信号を出力してもよい。
 図25は、一実施形態に係る光検出素子 1 の処理の一例を示すフローチャートである。
 カウンタ 28 は、アービタ 26 からイベント検出信号を取得する (S400) 。
 イベントがあった場合 (S402: YES) 、カウンタ 28 は、計数値をインクリメントする (S404) 。
 計数値をインクリメントした後、又は、イベントが検出できなかった場合 (S402: NO) 、カウンタ 28 は、イベント信号の取得が完了しているか否かを判定する (S406) 。
 イベント信号の取得が完了していない場合 (S406: NO) 、 S400 の処理から処理を繰り返す。
 イベント信号の取得が完了している場合 (S406: YES) 、カウンタ 28 は、計数値がしきい値未満であるかを判定する (S408) 。
 計数値がしきい値未満である場合 (S408: YES) 、カウンタ 28 は、アービタ 26 及び信号処理回路 18 に対して低消費制御を実行する (S410) 。具体的には、制御回路は、例えば、アービタ 26 及び信号処理回路 18 のクロック周波数を落とすことで、低消費制御をしてもよい。もちろん、上述の実施形態と同様に、制御回路は、電源電圧の接続状態を制御してもよいし、バイアス電流を制御してもよい。
 計数値がしきい値以上である場合 (S408: NO) 、カウンタ 28 は、待機状態へと戦死し (S412) 、待機時間が設定値となるまで (S414: NO) 、待機状態を維持する (S412) 。
 待機時間が設定値以上となったタイミング (S414: YES) で、一端処理を完了させ、再度 S400 からの処理を繰り替えす。
 このように、アービタ 26 とカウンタ 28 を備えることで、光検出素子 1 は、調停中のイベント検出の画素 100 の数に応じた低消費制御を実行することができる。
 (第 11 実施形態)
 前述した実施形態においては、全ての画素 100 は、個別にアナログ部 110 と、ロジック部 112 を有する構成であったが、これに限定されるものではない。
 図26は、一実施形態に係る画素の一例を示す図である。画素 100A 、 100B は、画素ブロックを形成し、一部の回路を共有する。
 画素ブロックは、例えば、画素 100A のアナログ部 110A と、画素 100B のアナログ部 110B と、画素 100A 、 100B が共有するロジック部 112 と、を備える。アナログ部 110A 、 110B と、ロジック部 112 との接続は、任意の切り替え方法により、適切に切り替えられる。画素ブロックは、限定されない一例として、ロジック部 112 に接続されるアナログ部を切り替えるためのトランジスタを備えて構成されていてもよい。
 なお、画素 100A 、 100B は、ロジック部 112 を共有するのではなく、アナログ部 110 のアナログ回路の一部とロジック部 112 とを共有する形態であってもよい。例えば、画素 100A 、 100B は、アナログフロントエンドの一部をそれぞれに備え、それ以外の回路を共有してもよい。
 画素ブロックに入力される EN_A は、画素ブロックにおけるアナログ部に対するイネーブル信号であり、 EN_L は、ロジック部に対するイネーブル信号である。このように、複数の画素は、画素回路の一部を共有した構成を有していてもよい。
 図27は、画素における回路共有の一例を示す図である。例えば、画素 100A と 画素 100B は、アナログ部 110 のうち、受光部及びバッファをそれぞれに備え、差分回路以降の差分回路、比較回路及び出力回路を共有して画素ブロックを形成してもよい。
 図28は、画素における回路共有の別例を示す図である。例えば、画素 100A と 画素 100B は、アナログ部 110 のうち、受光部、バッファ及び差分回路をそれぞれに備え、比較回路以降の比較回路及び出力回路を共有して画素ブロックを形成してもよい。
 このように画素回路の一部を共有することにより、画素回路のレイアウト面積を縮小することもできる。
 (第 12 実施形態)
 前述の各実施形態における光検出素子 1 は、画素 100 として、イベント検出画素が備えられていたが、これに限定されるものではない。画素アレイ 10 には、イベント検出画素のほか、階調画素、 ToF 画素、像面位相差取得画素、偏光状態取得画素、 IR 情報取得画素等、別の種類の情報を取得する画素 100 が備えられていてもよい。
 図29は、一実施形態に係る画素の一例を示す図である。以下においては、階調情報を取得する階調画素を用いて説明するが、上記のように、この階調画素 (又は画素回路の一部) は、 ToF 画素、像面位相差画素、偏光状態画素、 IR 画素等の別の画素 (又は画素回路の一部) に置き換えることもできるし、さらに、同一の又は異なる複数種類の画素 (又は画素回路の一部) をイベント検出画素とともに備える形態であってもよい。
 画素ブロックは、画素 100 として、イベント画素回路 114 を備える画素 100 と、階調画素回路 116 を備える画素 100 と、を有してもよい。
 イベント画素回路 114 は、画素 100 においてイベントを検出する回路である。例えば、前述の各実施形態における画素 100 は、このイベント画素回路 114 を備える画素である。
 階調画素回路 116 は、画素 100 において階調情報を取得する回路である。階調画素回路 116 は、一般的なイメージセンサに用いられる階調を取得するための任意の回路を備えていてもよい。
 このような画素ブロックにおいて、光検出素子 1 は、前述の実施形態と同様に、イベント画素回路 114 についての低消費制御を実行することが可能である。この形態によれば、階調画像を取得するとともに、イベント情報を取得する場合においても、低消費制御をすることができる。
 図30は、画素 100 の一例を示す図である。この図に示すように、光検出素子 1 は、画素ブロックとしてイベント情報を取得する画素 100 と、階調情報を取得する画素 100 を備えるのではなく、 1 つの画素 100 が、イベント画素回路 114 と階調画素回路 116 と、を適切に切り替えることにより、イベント検出画素として、又は、階調画素として動作できるような形態であってもよい。この場合も、イベント画素回路 114 に対して低消費制御をすることが可能である。
 図31は、画素ブロックの別の例を示す図である。この図に示すように、画素ブロックは、 3 以上の画素を備えて構成されていてもよい。
 図32は、図31のような画素ブロックを備える場合の画素アレイ 10 における制御の様子を示す図である。制御回路は、イベントが発生した行を含む画素ブロックについて、イベント検出画素に対しては通常の制御をするとともに、階調画素に対しても通常の ADC の動作の制御をしてもよい。
 一方で、制御回路は、イベントが検出されない行を含む画素ブロックについて、イベント検出画素に対する低消費制御とともに、 ADC 、信号処理回路 18 の対応する画素の処理についてもスタンバイ状態 (低消費状態) に制御してもよい。これは、イベントが検出されない行においては、そもそも当該画素ブロックが撮像する階調情報等に変化がないことが多いため、階調情報等の取得についても低消費制御をしても大きな問題が発生しないために適用することができる。
 このように、イベントが発生していない行においては、スタンバイ状態とすることで、消費電力を抑制することができる。
 画素 100 に対して、 ADC が必要である場合には、制御回路は、 ADC に印加する電源電圧、バイアス電圧等を下げることで、低消費制御をすることができる。 ADC は、 1 画素ごとに備えられる画素 ADC でもよいし、所定エリアごとに備えられるエリア ADC であってもよい。また、ラインの制御ではなく、カラムごとに低消費制御をする場合には、制御回路は、カラム ADC に対して低消費制御をすることもできる。
 (第 13 実施形態)
 上記の実施形態においては、画素アレイ 10 は、イベント検出画素とともに階調画素等を備える形態について説明したが、このように他の種類の信号を取得可能な場合、イベントの状況に応じて光検出素子 1 の動作モードを設定することもできる。
 図33は、一実施形態に係る光検出素子の概略を示すブロック図である。光検出素子 1 は、図1の構成に加え、 ADC 30 、階調信号処理回路 32 、及びモード制御回路 34 をさらに備える。
  ADC 30 は、階調画素等の AD 変換が必要となる画素 100 から出力されたアナログ信号をデジタル信号に変換して出力する回路である。
 階調信号処理回路 32 は、 ADC 30 から出力されたデジタル信号に対して、任意の信号処理及び/又は画像処理を施すことにより、望ましいデジタル画像信号を生成する回路である。
 モード制御回路 34 は、イベント検出の状態に応じて、光検出素子 1 の撮像モードを切り替える回路である。
 図34は、一実施形態に係る光検出素子のモード遷移の一例を示す図である。この形態では、イベント検出モードと、イベント検出及び階調情報取得をするハイブリッドモードとの切り替えの例を示す。
 光検出素子 1 は、例えば、起動していない状態、又は、撮影可能ではない待機状態を初期状態とする。この初期状態から、開始操作をすると、光検出素子 1 は、イベント検出モードへと遷移する (S500) 。
 光検出素子 1 は、イベント検出モードにおいて、終了操作がされると初期状態へと遷移する (S502) 。
 光検出素子 1 は、イベント検出するラインが所定しきい値以上となる場合に、イベント検出と併せて階調情報を取得するハイブリッドモードへと遷移する (S504) 。ハイブリッドモードにおいては、イベント検出をするとともに、任意のタイミングで階調画像の撮像をすることができる。
 光検出素子 1 は、ハイブリッドモードにおいて、終了操作がされると初期状態へと遷移する (S506) 。
 光検出素子 1 は、ハイブリッドモードにおいて、階調画像を撮像した場合、再度ハイブリッドモードへと遷移する (S508) 。この場合、所定数、例えば、 N 枚の画像を撮像した後に、イベント検出モードへと遷移してもよい (S510) 。
 図35は、光検出素子のモード遷移の別の例を示す図である。この図に示すように、光検出素子 1 は、イベント検出及び階調情報を取得するハイブリッドモードではなく、階調モードを備えていてもよい。この図35に示すように、光検出素子 1 は、上記の図34と同様に、イベント検出モードから、イベントの発火率に基づいて階調モードへと遷移してもよい。
 さらに別の例としては、光検出素子 1 は、イベント検出画素の発火率に基づいて、イベント検出モード、ハイブリッドモード及び階調モードの 3 つのモードを切り替える形態であってもよい。
 以上のように、光検出素子 1 は、イベント検出画素の発火率に基づいて駆動モードを切り替えることも可能である。この場合も、前述の実施形態と同様に、ラインごと、カラムごと、又は、グループごと等の判定基準又は低消費制御の適用範囲基準に基づいて、低消費制御を実行することが可能であり、階調を取得するといったイベント検出以外の用途においても、消費電力の低減をすることが可能となる。
 (第 14 実施形態)
 イベント検出画素と、階調画素等との混載をする場合には、上述したように ADC 等の制御をすることも可能である。本実施形態では、カラム ADC の制御について一例を挙げて説明する。
 図36は、一実施形態に係る光検出素子の概略を示すブロック図である。前述の実施形態の構成と比較すると、モード制御回路 34 がない構成である。
 アクセス制御回路 14 Hは、タイミング制御回路 12 へとイベント検出をしなかったラインの情報を通知する。タイミング制御回路 12 は、受信したラインの情報を ADC 30 及び階調信号処理回路 32 へと通知する。
 このラインの情報に基づいて、 ADC 30 は、例えば、カラム ADC の低消費制御をしてもよいし、階調信号処理回路 32 は、信号処理について適切なエリアにおける低消費制御をしてもよい。
 図37は、一実施形態に係るラインの状態と時間の関係の一例を示す図である。イベント検出画素は、基本的には図7の動作と同じであるが、イベント検出画素のイベント検出の状態に応じて、階調画素に関連する周辺画素の動作も制御される。
 制御回路は、イベント検出画素における低消費制御をしたラインについて、アクセス制御回路 14 からタイミング制御回路 12 にラインの情報を通知する。この通知に基づいて、タイミング制御回路 12 は、当該低消費制御をしたラインの制御をするタイミングで ADC 30 を低消費制御する。
 このタイミングにおいては、 ADC 30 によるデジタル信号への変換が不要である、例えば、前のフレームの情報を用いることができるので、 ADC 30 に印加される電源電圧等を制御することにより、階調画像に大きな影響を及ぼすことなく、電力の消費を低減することができる。
 なお、この低消費制御は、前述した実施形態と同様に、ラインごと、カラムごと、グループごと又は画素ごとに実行することもできる。
 図38は、ラインの状態と時間の関係の別の例を示す図である。図37の場合に加えて、さらに、シャッタの低消費制御を実行している。制御回路は、イベント検出をしていないラインについてシャッタの動作をスキップするとともに、シャッタ制御により情報が取得できていないラインの AD 変換をスキップして階調情報を読み出すことができる。
 この場合、図に示すように、次のフレームにおけるブランク期間を前倒しできるため、フレームレートを向上させることも可能となる。
 このように、制御回路は、イベントが発生したラインに対して、イベントの読み出し、及び、階調情報の読み出しをしてもよい。上述したように、撮像のフレームレートを向上するとともに、消費電力の低減をすることができる。
 本開示における光検出素子 1 は、種々の電子機器に搭載することができる。例えば、光検出素子 1 と、外部の信号処理回路と、外部のその他の外部処理回路と、を組み合わせて電子機器を構成することができる。
 外部の信号処理回路は、例えば、光検出素子から出力された前記イベントに関する信号に基づいた信号処理を実行する。外部処理回路は、外部の信号処理回路から出力された信号に基づいて、任意の処理を実行する。例えば、以下に示すような種々の装置における処理を実現する電子機器に光検出素子 1 を備えることができる。
 本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
 図39は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム7000の概略的な構成例を示すブロック図である。車両制御システム7000は、通信ネットワーク7010を介して接続された複数の電子制御ユニットを備える。図39に示した例では、車両制御システム7000は、駆動系制御ユニット7100、ボディ系制御ユニット7200、バッテリ制御ユニット7300、車外情報検出ユニット7400、車内情報検出ユニット7500、及び統合制御ユニット7600を備える。これらの複数の制御ユニットを接続する通信ネットワーク7010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
 各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク7010を介して他の制御ユニットとの間で通信を行うためのネットワークI/Fを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信I/Fを備える。図39では、統合制御ユニット7600の機能構成として、マイクロコンピュータ7610、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660、音声画像出力部7670、車載ネットワークI/F7680及び記憶部7690が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信I/F及び記憶部等を備える。
 駆動系制御ユニット7100は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット7100は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット7100は、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
 駆動系制御ユニット7100には、車両状態検出部7110が接続される。車両状態検出部7110には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット7100は、車両状態検出部7110から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
 ボディ系制御ユニット7200は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット7200は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット7200には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット7200は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
 バッテリ制御ユニット7300は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池7310を制御する。例えば、バッテリ制御ユニット7300には、二次電池7310を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット7300は、これらの信号を用いて演算処理を行い、二次電池7310の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
 車外情報検出ユニット7400は、車両制御システム7000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット7400には、撮像部7410及び車外情報検出部7420のうちの少なくとも一方が接続される。撮像部7410には、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部7420には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム7000を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
 環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)装置のうちの少なくとも一つであってよい。これらの撮像部7410及び車外情報検出部7420は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
 ここで、図40は、撮像部7410及び車外情報検出部7420の設置位置の例を示す。撮像部7910,7912,7914,7916,7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部7910及び車室内のフロントガラスの上部に備えられる撮像部7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像部7912,7914は、主として車両7900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部7918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
 なお、図40には、それぞれの撮像部7910,7912,7914,7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像部7910の撮像範囲を示し、撮像範囲b,cは、それぞれサイドミラーに設けられた撮像部7912,7914の撮像範囲を示し、撮像範囲dは、リアバンパ又はバックドアに設けられた撮像部7916の撮像範囲を示す。例えば、撮像部7910,7912,7914,7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像が得られる。
 車両7900のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7922,7924,7926,7928,7930は、例えば超音波センサ又はレーダ装置であってよい。車両7900のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7926,7930は、例えばLIDAR装置であってよい。これらの車外情報検出部7920~7930は、主として先行車両、歩行者又は障害物等の検出に用いられる。
 図39に戻って説明を続ける。車外情報検出ユニット7400は、撮像部7410に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット7400は、接続されている車外情報検出部7420から検出情報を受信する。車外情報検出部7420が超音波センサ、レーダ装置又はLIDAR装置である場合には、車外情報検出ユニット7400は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット7400は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
 また、車外情報検出ユニット7400は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部7410により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット7400は、異なる撮像部7410により撮像された画像データを用いて、視点変換処理を行ってもよい。
 車内情報検出ユニット7500は、車内の情報を検出する。車内情報検出ユニット7500には、例えば、運転者の状態を検出する運転者状態検出部7510が接続される。運転者状態検出部7510は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット7500は、運転者状態検出部7510から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット7500は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
 統合制御ユニット7600は、各種プログラムにしたがって車両制御システム7000内の動作全般を制御する。統合制御ユニット7600には、入力部7800が接続されている。入力部7800は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット7600には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部7800は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム7000の操作に対応した携帯電話又はPDA(Personal Digital Assistant)等の外部接続機器であってもよい。入力部7800は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部7800は、例えば、上記の入力部7800を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット7600に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部7800を操作することにより、車両制御システム7000に対して各種のデータを入力したり処理動作を指示したりする。
 記憶部7690は、マイクロコンピュータにより実行される各種プログラムを記憶するROM(Read Only Memory)、及び各種パラメータ、演算結果又はセンサ値等を記憶するRAM(Random Access Memory)を含んでいてもよい。また、記憶部7690は、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
 汎用通信I/F7620は、外部環境7750に存在する様々な機器との間の通信を仲介する汎用的な通信I/Fである。汎用通信I/F7620は、GSM(登録商標)(Global System of Mobile communications)、WiMAX(登録商標)、LTE(登録商標)(Long Term Evolution)若しくはLTE-A(LTE-Advanced)などのセルラー通信プロトコル、又は無線LAN(Wi-Fi(登録商標)ともいう)、Bluetooth(登録商標)などのその他の無線通信プロトコルを実装してよい。汎用通信I/F7620は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバ又は制御サーバ)へ接続してもよい。また、汎用通信I/F7620は、例えばP2P(Peer To Peer)技術を用いて、車両の近傍に存在する端末(例えば、運転者、歩行者若しくは店舗の端末、又はMTC(Machine Type Communication)端末)と接続してもよい。
 専用通信I/F7630は、車両における使用を目的として策定された通信プロトコルをサポートする通信I/Fである。専用通信I/F7630は、例えば、下位レイヤのIEEE802.11pと上位レイヤのIEEE1609との組合せであるWAVE(Wireless Access in Vehicle Environment)、DSRC(Dedicated Short Range Communications)、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信I/F7630は、典型的には、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、車両と家との間(Vehicle to Home)の通信及び歩車間(Vehicle to Pedestrian)通信のうちの1つ以上を含む概念であるV2X通信を遂行する。
 測位部7640は、例えば、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部7640は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、PHS若しくはスマートフォンといった端末から位置情報を取得してもよい。
 ビーコン受信部7650は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部7650の機能は、上述した専用通信I/F7630に含まれてもよい。
 車内機器I/F7660は、マイクロコンピュータ7610と車内に存在する様々な車内機器7760との間の接続を仲介する通信インタフェースである。車内機器I/F7660は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)又はWUSB(Wireless USB)といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器I/F7660は、図示しない接続端子(及び、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia Interface、又はMHL(Mobile High-definition Link)等の有線接続を確立してもよい。車内機器7760は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも1つを含んでいてもよい。また、車内機器7760は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器I/F7660は、これらの車内機器7760との間で、制御信号又はデータ信号を交換する。
 車載ネットワークI/F7680は、マイクロコンピュータ7610と通信ネットワーク7010との間の通信を仲介するインタフェースである。車載ネットワークI/F7680は、通信ネットワーク7010によりサポートされる所定のプロトコルに則して、信号等を送受信する。
 統合制御ユニット7600のマイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム7000を制御する。例えば、マイクロコンピュータ7610は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット7100に対して制御指令を出力してもよい。例えば、マイクロコンピュータ7610は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ7610は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
 マイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の3次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ7610は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
 音声画像出力部7670は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図39の例では、出力装置として、オーディオスピーカ7710、表示部7720及びインストルメントパネル7730が例示されている。表示部7720は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部7720は、AR(Augmented Reality)表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ7610が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
 なお、図39に示した例において、通信ネットワーク7010を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム7000が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク7010を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク7010を介して相互に検出情報を送受信してもよい。
 なお、図1から図38を用いて説明した本実施形態に係る光検出素子 1 の一部の機能を実現するためのコンピュータプログラムを、いずれかの制御ユニット等に実装することができる。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体を提供することもできる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
 前述した実施形態は、以下のような形態としてもよい。
 (1)
 受光する光の強度差を検出するイベント検出素子が 2 次元のアレイ状に配置される、画素アレイと、
 前記イベント検出素子が検出したイベントを保持する、保持回路と、
 前記画素アレイの少なくとも一部の領域に属する前記イベント検出素子及び当該イベント検出素子に対応する前記保持回路について、電源電圧及びクロック信号を制御する、制御回路と、
 前記イベント検出素子から出力された信号を処理する、信号処理回路と、
 を備える、光検出素子。
 (2)
 前記画素アレイは、ライン方向及び前記ライン方向に交わるカラム方向にそれぞれ連続した 2 次元のアレイ状に配置された前記イベント検出素子を備え、
 前記保持回路は、前記画素アレイにおいてラインごとに前記イベントを保持し、
 前記制御回路は、
  前記画素アレイにおける前記ライン方向に連続する前記イベント検出画素を選択し、選択したラインに属する前記イベント検出素子を駆動させ、
  ラインごとに保持されている前記イベントに基づいて、ラインごとに前記イベント検出素子の前記電源電圧及び前記クロック信号を制御する、
 (1)に記載の光検出素子。
 (3)
 前記制御回路は、ラインごとに、前記イベント検出素子に関連するバイアス電圧、並びに、当該イベント検出素子に関連する前記信号処理回路の前記電源電圧及び前記クロック信号を制御する、
 (2)に記載の光検出素子。
 (4)
 前記制御回路は、 1 又は複数のラインごとに出力される前記イベントに基づいて、前記イベント検出素子の前記電源電圧を制御する、
 (2)又は(3)に記載の光検出素子。
 (5)
 前記制御回路は、前記 1 又は複数のラインに属する前記イベント検出素子を複数のグループに分割し、前記グループごとに、前記イベント検出素子を制御する、
 (4)に記載の光検出素子。
 (6)
 前記制御回路は、 1 又は複数のカラムごとに出力される前記イベントに基づいて、前記イベント検出素子の前記電源電圧を制御する、
 (2)又は(3)に記載の光検出素子。
 (7)
 前記制御回路は、前記 1 又は複数のカラムに属する前記イベント検出素子を複数のグループに分割し、前記グループごとに、前記イベント検出素子を制御する、
 (6)に記載の光検出素子。
 (8)
 前記制御回路は、前記イベント検出画素ごとに前記電源電圧を制御する、
 (2)に記載の光検出素子。
 (9)
 前記制御回路は、過去のフレームにおける前記イベント情報に基づいて、前記電源電圧を制御する、
 (2)に記載の光検出素子。
 (10)
 前記画素アレイは、さらに、階調情報を取得する階調情報取得素子を備える、
 (1)から(9)のいずれかに記載の光検出素子。
 (11)
 前記画素アレイは、さらに、 ToF (Time of Flight) 情報を取得する素子を備える、
 (1)から(10)のいずれかに記載の光検出素子。
 (12)
 前記制御回路は、前記イベントが発生していないラインに対してスタンバイ制御をする、
 (2)から(11)のいずれかに記載の光検出素子。
 (13)
 前記制御回路は、前記イベント検出素子の前記イベントの発火率に基づいて、駆動モードを切り替える、
 (2)から(12)のいずれかに記載の光検出素子。
 (14)
 前記制御回路は、読み出す対象のラインにおける前記イベントの発生状態に基づいて、カラム ADC (Analog to Digital Converter) の処理を切り替える、
 (2)から(13)のいずれかに記載の光検出素子。
 (15)
 前記制御回路は、前記イベントが発生したラインに対して、前記イベントの読み出しをする、
 (2)から(14)のいずれかに記載の光検出素子。
 (16)
 前記イベント検出素子は、アナログフロントエンドを共有する、
 (1)から(15)のいずれかに記載の光検出素子。
 (17)
 前記イベント検出素子は、差分回路及び比較回路を共有する、
 (16)に記載の光検出素子。
 (18)
 前記イベント検出素子は、比較回路を共有する、
 (16)に記載の光検出素子
 (19)
 前記イベント検出素子は、前記電源電圧と接続する回路を共有する、
 (16)に記載の光検出素子。
 (20)
 前記制御回路は、前記イベント検出素子が検出した前記イベントに関する信号に基づいて、周辺回路のクロック制御を実行する、
 (1)から(19)のいずれかに記載の光検出素子。
 (21)
 前記制御回路は、前記イベントに関する信号に基づいて、前記周辺回路のクロック周波数を切り替える、
 (20)に記載の光検出素子。
 (22)
 (1)から(21)のいずれかに記載の光検出素子と、
 前記光検出素子から出力された前記イベントに関する信号に基づいた信号処理を実行する、信号処理回路と、
 前記信号処理回路から出力された信号に基づいて、任意の処理を実行する、外部処理回路と、
 を備える、電子機器。
 (23)
 車載装置である、
 (22)に記載の電子機器。
 本開示の態様は、前述した実施形態に限定されるものではなく、想到しうる種々の変形も含むものであり、本開示の効果も前述の内容に限定されるものではない。各実施形態における構成要素は、適切に組み合わされて適用されてもよい。すなわち、特許請求の範囲に規定された内容及びその均等物から導き出される本開示の概念的な思想と趣旨を逸脱しない範囲で種々の追加、変更及び部分的削除が可能である。
 1: 光検出素子、
  10: 画素アレイ、
   100: 画素、
   102: 受光素子、
   104: 検出回路、
   106: 記憶回路、
   110: アナログ部、
   112: ロジック部、
   114: イベント画素回路、
   116: 階調画素回路、
  12: タイミング制御回路、
  14: アクセス制御回路、
   140: 低消費制御回路、
   142: イベント保持部、
   144: ライン制御回路、
   146: カラム制御回路、
   148: イベントカウンタ、
   150: 比較部、
   152: 電源制御回路、
  16: 読出回路、
  18: 信号処理回路、
  20: タイムスタンプ生成回路、
  22: 出力I/F、
  24: バイアス生成回路、
  26: アービタ、
  28: カウンタ、
  30: ADC、
  32: 階調信号処理回路、
  34: モード制御回路

Claims (20)

  1.  受光する光の強度差を検出するイベント検出素子が 2 次元のアレイ状に配置される、画素アレイと、
     前記イベント検出素子が検出したイベントを保持する、保持回路と、
     前記画素アレイの少なくとも一部の領域に属する前記イベント検出素子及び当該イベント検出素子に対応する前記保持回路について、電源電圧及びクロック信号を制御する、制御回路と、
     前記イベント検出素子から出力された信号を処理する、信号処理回路と、
     を備える、光検出素子。
  2.  前記画素アレイは、ライン方向及び前記ライン方向に交わるカラム方向にそれぞれ連続した 2 次元のアレイ状に配置された前記イベント検出素子を備え、
     前記保持回路は、前記画素アレイにおいてラインごとに前記イベントを保持し、
     前記制御回路は、
      前記画素アレイにおける前記ライン方向に連続する前記イベント検出素子を選択し、選択したラインに属する前記イベント検出素子を駆動させ、
      ラインごとに保持されている前記イベントに基づいて、ラインごとに前記イベント検出素子の前記電源電圧及び前記クロック信号を制御する、
     請求項1に記載の光検出素子。
  3.  前記制御回路は、ラインごとに、前記イベント検出素子に関連するバイアス電圧、並びに、当該イベント検出素子に関連する前記信号処理回路の前記電源電圧及び前記クロック信号を制御する、
     請求項2に記載の光検出素子。
  4.  前記制御回路は、 1 又は複数のラインごとに出力される前記イベントに基づいて、前記イベント検出素子の前記電源電圧を制御する、
     請求項2に記載の光検出素子。
  5.  前記制御回路は、前記 1 又は複数のラインに属する前記イベント検出素子を複数のグループに分割し、前記グループごとに、前記イベント検出素子を制御する、
     請求項4に記載の光検出素子。
  6.  前記制御回路は、 1 又は複数のカラムごとに出力される前記イベントに基づいて、前記イベント検出素子の前記電源電圧を制御する、
     請求項2に記載の光検出素子。
  7.  前記制御回路は、前記 1 又は複数のカラムに属する前記イベント検出素子を複数のグループに分割し、前記グループごとに、前記イベント検出素子を制御する、
     請求項6に記載の光検出素子。
  8.  前記制御回路は、前記イベント検出素子ごとに前記電源電圧を制御する、
     請求項2に記載の光検出素子。
  9.  前記制御回路は、過去のフレームにおける前記イベントの情報に基づいて、前記電源電圧を制御する、
     請求項2に記載の光検出素子。
  10.  前記画素アレイは、さらに、階調情報を取得する階調情報取得素子を備える、
     請求項1に記載の光検出素子。
  11.  前記画素アレイは、さらに、 ToF (Time of Flight) 情報を取得する素子を備える、
     請求項1に記載の光検出素子。
  12.  前記制御回路は、前記イベントが発生していないラインに対してスタンバイ制御をする、
     請求項2に記載の光検出素子。
  13.  前記制御回路は、前記イベント検出素子の前記イベントの発火率に基づいて、駆動モードを切り替える、
     請求項2に記載の光検出素子。
  14.  前記制御回路は、読み出す対象のラインにおける前記イベントの発生状態に基づいて、カラム ADC (Analog to Digital Converter) の処理を切り替える、
     請求項2に記載の光検出素子。
  15.  前記制御回路は、前記イベントが発生したラインに対して、前記イベントの読み出しをする、
     請求項2に記載の光検出素子。
  16.  前記イベント検出素子は、アナログフロントエンドを共有する、
     請求項1に記載の光検出素子。
  17.  複数の前記イベント検出素子が
      差分回路及び比較回路、
      比較回路、又は、
      前記電源電圧と接続する回路、
     を共有する、
     請求項16に記載の光検出素子。
  18.  前記制御回路は、前記イベント検出素子が検出した前記イベントに関する信号に基づいて、周辺回路のクロック制御を実行する、
     請求項1に記載の光検出素子。
  19.  前記制御回路は、前記イベントに関する信号に基づいて、前記周辺回路のクロック周波数を切り替える、
     請求項18に記載の光検出素子。
  20.  請求項1に記載の光検出素子と、
     前記光検出素子から出力された前記イベントに関する信号に基づいた信号処理を実行する、信号処理回路と、
     前記信号処理回路から出力された信号に基づいて、任意の処理を実行する、外部処理回路と、
     を備える、電子機器。
PCT/JP2023/023077 2022-08-08 2023-06-22 光検出素子及び電子機器 Ceased WO2024034271A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US18/877,593 US20250341618A1 (en) 2022-08-08 2023-06-22 Photodetection element and electronic device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022126629 2022-08-08
JP2022-126629 2022-08-08

Publications (1)

Publication Number Publication Date
WO2024034271A1 true WO2024034271A1 (ja) 2024-02-15

Family

ID=89851541

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2023/023077 Ceased WO2024034271A1 (ja) 2022-08-08 2023-06-22 光検出素子及び電子機器

Country Status (2)

Country Link
US (1) US20250341618A1 (ja)
WO (1) WO2024034271A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN119031258A (zh) * 2024-07-30 2024-11-26 京东方科技集团股份有限公司 像素模块、光电传感模组和相机

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020158583A1 (ja) * 2019-01-31 2020-08-06 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び撮像装置
JP2021044623A (ja) * 2019-09-06 2021-03-18 キヤノン株式会社 撮像装置及びその制御方法
JP2021048554A (ja) * 2019-09-20 2021-03-25 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像制御方法、プログラム
JP2021097312A (ja) * 2019-12-17 2021-06-24 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び測距装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020158583A1 (ja) * 2019-01-31 2020-08-06 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び撮像装置
JP2021044623A (ja) * 2019-09-06 2021-03-18 キヤノン株式会社 撮像装置及びその制御方法
JP2021048554A (ja) * 2019-09-20 2021-03-25 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像制御方法、プログラム
JP2021097312A (ja) * 2019-12-17 2021-06-24 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び測距装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN119031258A (zh) * 2024-07-30 2024-11-26 京东方科技集团股份有限公司 像素模块、光电传感模组和相机

Also Published As

Publication number Publication date
US20250341618A1 (en) 2025-11-06

Similar Documents

Publication Publication Date Title
US20240353559A1 (en) Ranging device and ranging method
US11895398B2 (en) Imaging device and imaging system
US12136345B2 (en) Motion vector imaging alert system
WO2020080383A1 (ja) 撮像装置及び電子機器
CN116057950A (zh) 成像装置和成像方法
WO2023145344A1 (ja) 受光素子、および電子機器
WO2021153428A1 (ja) 撮像装置、電子機器及び撮像方法
US20250199129A1 (en) Light-receiving element and electronic apparatus
WO2023162734A1 (ja) 測距装置
WO2024034271A1 (ja) 光検出素子及び電子機器
WO2025047518A1 (ja) 光検出装置
US20250317662A1 (en) Sensor device
WO2024162109A1 (ja) 光検出装置及び測距システム
WO2024043150A1 (ja) カメラシステム及びその制御方法
WO2023248855A1 (ja) 光検出装置及び電子機器
WO2020153182A1 (ja) 光検出装置及び光検出装置の駆動方法、並びに、測距装置
US20240323561A1 (en) Image processing device, image processing method, and image processing system
WO2024122420A1 (ja) 光検出素子
WO2023032298A1 (ja) 固体撮像装置
WO2026094685A1 (ja) 固体撮像装置及び電子機器
WO2024018812A1 (ja) 固体撮像装置
WO2025047365A1 (ja) 撮像装置、および故障検知方法
WO2026023399A1 (ja) 光検出装置及び画像処理システム
WO2025243786A1 (ja) 測距装置および測距方法
WO2025013515A1 (ja) 光検出装置、撮像装置及び電子機器

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23852255

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 18877593

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 23852255

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP

WWP Wipo information: published in national office

Ref document number: 18877593

Country of ref document: US