WO2022190644A1 - 撮像装置、電子機器、および信号処理方法 - Google Patents

撮像装置、電子機器、および信号処理方法 Download PDF

Info

Publication number
WO2022190644A1
WO2022190644A1 PCT/JP2022/001540 JP2022001540W WO2022190644A1 WO 2022190644 A1 WO2022190644 A1 WO 2022190644A1 JP 2022001540 W JP2022001540 W JP 2022001540W WO 2022190644 A1 WO2022190644 A1 WO 2022190644A1
Authority
WO
WIPO (PCT)
Prior art keywords
substrate
pixel
imaging device
wiring
signal
Prior art date
Application number
PCT/JP2022/001540
Other languages
English (en)
French (fr)
Inventor
大輔 齋藤
克彦 半澤
Original Assignee
ソニーセミコンダクタソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーセミコンダクタソリューションズ株式会社 filed Critical ソニーセミコンダクタソリューションズ株式会社
Priority to EP22766612.0A priority Critical patent/EP4307654A1/en
Priority to US18/263,042 priority patent/US20240088175A1/en
Priority to CN202280018061.3A priority patent/CN116965054A/zh
Priority to JP2023505170A priority patent/JPWO2022190644A1/ja
Priority to KR1020237028992A priority patent/KR20230154181A/ko
Publication of WO2022190644A1 publication Critical patent/WO2022190644A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14603Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14605Structural or functional details relating to the position of the pixel elements, e.g. smaller pixel elements in the center of the imager compared to pixel elements at the periphery
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/79Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14634Assemblies, i.e. Hybrid structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00Digital computers in general; Data processing equipment in general
    • G06F15/76Architectures of general purpose stored program computers
    • G06F15/78Architectures of general purpose stored program computers comprising a single central processing unit
    • G06F15/7807System on chip, i.e. computer system on a single chip; System in package, i.e. computer system on one or more chips in a single package
    • G06F15/7821Tightly coupled to memory, e.g. computational memory, smart memory, processor in memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/15Correlation function computation including computation of convolution operations
    • G06F17/153Multidimensional correlation or convolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0659Command handling arrangements, e.g. command buffers, queues, command scheduling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14636Interconnect structures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14641Electronic components shared by two or more pixel-elements, e.g. one amplifier shared by two pixel elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Definitions

  • the present disclosure relates to imaging devices, electronic devices, and signal processing methods.
  • DNN deep neural networks
  • the present disclosure provides an imaging device, an electronic device, and a signal processing method capable of reducing power consumption.
  • An imaging device performs a product-sum operation on an input signal based on a first substrate, on which a pixel array unit that outputs pixel signals obtained by photoelectrically converting incident light in a first direction, and pixel signals.
  • a second substrate on which a memory array portion is arranged for outputting a convolution signal indicative of the result in a second direction. At least portions of the first substrate and the second substrate overlap each other.
  • the first direction may intersect the second direction.
  • a metal shield wiring may be further provided between the first substrate and the second substrate.
  • At least one of the pixel signal and the convolution signal may be an analog signal.
  • a pixel control circuit that controls the pixel array section; a pixel signal processing circuit for processing the pixel signals read out from the pixel array section; a CIM input control circuit that controls the memory array section; A CIM readout circuit for processing the convolved signal read out from the memory array section may be further provided.
  • the pixel control circuit is arranged in a direction parallel to the first direction,
  • the pixel signal processing circuit is arranged in a direction perpendicular to the first direction,
  • the CIM input control circuit is arranged in a direction parallel to the second direction;
  • the CIM readout circuitry may be arranged in a direction perpendicular to the second direction.
  • a third substrate on which the pixel control circuit and the pixel signal processing circuit are arranged may be further provided.
  • the third substrate may be arranged between the first substrate and the second substrate, or the second substrate may be arranged between the first substrate and the third substrate.
  • the pixel control circuit and the CIM readout circuit are arranged opposite to each other with the memory array section interposed therebetween, and the pixel signal processing circuit and the CIM input control circuit are arranged in the memory array section. may be arranged opposite to each other with the .
  • a plurality of the memory array units may be arranged in at least one of the first direction and the second direction.
  • a plane area of the memory array section may be rectangular, and the second direction may be a long side direction of the rectangle.
  • a plane area of the memory array section may be rectangular, and the second direction may be a short side direction of the rectangle.
  • the pixel array section and the pixel signal processing circuit may be electrically connected at respective central portions of the first substrate and the second substrate.
  • the width of the first readout wiring for reading out the pixel signal is different from the width of the second readout wiring for reading out the convolution signal,
  • the width of the metal shield wiring may be the same as or wider than the width of the wide readout wiring among the first readout wiring and the second readout wiring.
  • the metal shield wiring may be multi-layer wiring, and a part of each metal shield wiring may overlap.
  • the metal shield wiring may be arranged near the wide readout wiring among the first readout wiring and the second readout wiring.
  • the metal shield wiring may be perpendicular to the first readout wiring and the second readout wiring.
  • a switch for switching an output destination of the image signal generated by the pixel signal processing circuit to the CIM input control circuit or the input/output unit may be further provided.
  • An electronic device performs a product-sum operation on an input signal based on a first substrate, on which a pixel array unit that outputs pixel signals obtained by photoelectrically converting incident light in a first direction, and pixel signals.
  • a second substrate on which a memory array portion is arranged for outputting a convolution signal indicating a result in a second direction, wherein at least a portion of the first substrate and the second substrate overlap each other.
  • a signal processing method includes outputting in a first direction pixel signals obtained by photoelectrically converting incident light in a pixel array portion arranged on a first substrate;
  • a memory array portion arranged on a second substrate at least partially overlapping with the first substrate outputs a convolution signal indicating a result of sum-of-products operation of an input signal based on a pixel signal in a second direction.
  • FIG. 1 is a block diagram showing the configuration of an imaging device according to a first embodiment;
  • FIG. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 1st Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 1st Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 1st Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 1st Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 1st Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 1st Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 1st Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 1st Embodiment.
  • FIG. 10 is a diagram showing another example of a tiling structure;
  • FIG. 10 is a diagram showing yet another example of a tiling structure;
  • FIG. 4 is a cross-sectional view schematically showing a bonding configuration between a first substrate and a second substrate;
  • FIG. 4 is a cross-sectional view schematically showing another form of bonding between the first substrate and the second substrate;
  • FIG. 3 is a diagram showing an example of an equivalent circuit diagram of pixels arranged in a pixel array section;
  • FIG. 3 is a diagram showing an example of an equivalent circuit diagram of pixels arranged in a pixel array section;
  • FIG. 10 is a diagram showing another example of a pixel array section;
  • FIG. 3 is a diagram showing an example of an equivalent circuit diagram of pixels arranged in a pixel array section;
  • FIG. 3 is a diagram showing an example of an equivalent circuit diagram of pixels arranged in a pixel array section;
  • FIG. 3 is a diagram showing an example of an equivalent circuit diagram of pixels arranged in a pixel array section;
  • 3 is a diagram showing an example of the circuit configuration of an ADC included in the pixel signal processing circuit;
  • FIG. 3 is a diagram showing a schematic circuit configuration of a memory array section;
  • FIG. FIG. 3 is a cross-sectional view showing an example of an arrangement relationship between readout wirings in the first embodiment;
  • 4 is a cross-sectional view showing another example of the layout relationship between readout wirings in the first embodiment;
  • FIG. 1 It is a figure which shows an example of the circuit layout of the imaging device which concerns on 2nd Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 2nd Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 2nd Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 2nd Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 2nd Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 2nd Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 2nd Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 2nd Embodiment. FIG.
  • FIG. 3 is a cross-sectional view showing an example of the layout relationship of metal shield wiring with respect to readout wiring;
  • FIG. 3 is a cross-sectional view showing an example of the arrangement relationship between readout wirings and metal shield wirings;
  • FIG. 3 is a cross-sectional view showing an example of the arrangement relationship between readout wirings and metal shield wirings;
  • FIG. 3 is a cross-sectional view showing an example of the arrangement relationship between readout wirings and metal shield wirings;
  • FIG. 3 is a cross-sectional view showing an example of the arrangement relationship between readout wirings and metal shield wirings;
  • FIG. 3 is a cross-sectional view showing an example of the arrangement relationship between readout wirings and metal shield wirings;
  • FIG. 3 is a cross-sectional view showing an example of the arrangement relationship between readout wirings and metal shield wirings;
  • FIG. 3 is a cross-sectional view showing an example of the arrangement relationship between readout wirings and metal shield wirings;
  • FIG. 3 is a
  • FIG. 10 is a plan view showing another example of the arrangement relationship between readout wirings and metal shield wirings;
  • FIG. 11 is a cross-sectional view showing an example of the arrangement relationship between readout wirings in the second embodiment;
  • FIG. 11 is a cross-sectional view showing another example of the arrangement relationship between readout wirings in the second embodiment;
  • It is a figure which shows an example of the circuit layout of the imaging device which concerns on 3rd Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 3rd Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 3rd Embodiment. It is a figure which shows an example of the circuit layout of the imaging device which concerns on 3rd Embodiment.
  • FIG. 11 is a cross-sectional view showing an example of the arrangement relationship between readout wirings in the third embodiment
  • FIG. 12 is a cross-sectional view showing another example of the arrangement relationship between readout wirings in the third embodiment
  • FIG. 11 is a block diagram showing the configuration of an imaging device according to a fourth embodiment
  • FIG. It is a figure which shows an example of a structure of the electronic device which concerns on 5th Embodiment.
  • 1 is a block diagram showing an example of a schematic configuration of a vehicle control system
  • FIG. FIG. 4 is an explanatory diagram showing an example of installation positions of an outside information detection unit and an imaging unit;
  • FIG. 1 is a block diagram showing the configuration of an imaging device according to the first embodiment.
  • the imaging device 1 shown in FIG. a CIM reading circuit 23 , a signal processing circuit 31 , a memory 32 , and an input/output unit 33 .
  • a plurality of pixels are two-dimensionally arranged in the pixel array section 11 .
  • Each pixel generates a pixel signal S12 by photoelectrically converting incident light based on a plurality of types of pixel control signals S11 from the pixel control circuit 12 .
  • each pixel outputs a pixel signal S12 to the pixel signal processing circuit 13 in one direction.
  • a circuit configuration example of the pixel will be described later.
  • the pixel control circuit 12 is composed of, for example, a shift register, and inputs a pixel control signal S11 to each pixel of the pixel array section 11 via pixel drive wiring (not shown in FIG. 1). By this pixel control signal S11, the pixel control circuit 12 sequentially selects and scans each pixel of the pixel array section 11, and outputs the pixel signal S12 of each pixel to the pixel signal processing circuit 13.
  • FIG. 1 A pixel control circuit 12
  • the pixel signal processing circuit 13 performs CDS (Correlated Double Sampling) processing for removing pixel-specific fixed pattern noise, AD (Analog to Digital) conversion processing.
  • CDS Correlated Double Sampling
  • AD Analog to Digital
  • the horizontal driving circuit 14 is composed of, for example, a shift register, and sequentially outputs horizontal scanning pulses to the pixel signal processing circuit 13 .
  • the image signal S13 held in the pixel signal processing circuit 13 is sequentially output to the CIM reading circuit 23 .
  • the logic circuit 15 receives a clock signal input from the outside and data instructing an operation mode, etc., and controls the operation of the imaging apparatus 1 as a whole. For example, the logic circuit 15 generates a vertical synchronizing signal, a horizontal synchronizing signal, etc. based on the input clock signal, and controls the pixel control circuit 12, the pixel signal processing circuit 13, the horizontal driving circuit 14, the CIM input control circuit 22, and to the CIM reading circuit 23 and the like.
  • a plurality of memory cells are two-dimensionally arranged in the memory array section 21 .
  • the memory array unit 21 unidirectionally outputs a convolution signal S15 indicating the result of analog or digital sum-of-products operation using a plurality of memory cells to the CIM reading circuit 23 .
  • a circuit configuration example of the memory array section 21 will be described later.
  • the CIM input control circuit 22 is composed of, for example, a shift register, and outputs a memory cell control signal S14 associated with the image signal S13 to each memory cell of the memory array section 21 via memory cell drive wiring (not shown in FIG. 1). Enter With this memory cell control signal S14, the CIM input control circuit 22 selects and scans each memory cell of the memory array section 21 one by one or all at once, and uses the memory value of each memory cell to perform a sum-of-products operation to generate a convolution signal S15. is output to the CIM reading circuit 23 .
  • the CIM reading circuit 23 performs AD conversion processing and the like on the convoluted signal S15 read from the memory array section 21 .
  • the convolution signal S16 processed by the CIM readout circuit 23 is input to the signal processing circuit 31 .
  • the convoluted signal S16 may be intermediate data in the middle of image recognition.
  • the signal processing circuit 31 performs conversion processing using an activation function, pooling processing, etc. on the convolution signal S16 input from the CIM reading circuit 23, and outputs the processing result to the input/output unit 33. Part of these processes may be performed by the memory array section 21 or may be performed by the CIM reading circuit 23 . When the signal processing is performed multiple times, the CIM reading circuit 23 may perform several times of signal processing, and then the signal processing circuit 31 may perform the remaining times of signal processing. By sharing the signal processing between the CIM reading circuit 23 and the signal processing circuit 31 in this way, concentration of the processing load can be avoided.
  • the signal processing circuit 31 causes the memory 32 to store parameters and the like input from an external image processing device via the input/output unit 33, and appropriately performs signal processing based on instructions from the external image processing device. You can choose and act.
  • the memory 32 stores data such as parameters required for signal processing performed by the signal processing circuit 31 .
  • the memory 32 may also have a frame memory for storing image signals in processing such as demosaicing, for example.
  • the input/output unit 33 outputs the signals that are sequentially input from the signal processing circuit 31 to an external image processing device, such as a subsequent ISP (Image Signal Processor).
  • the input/output unit 33 also supplies signals and parameters input from an external image processing device to the signal processing circuit 31 and the logic circuit 15 . Further, the input/output unit 33 writes the data values indicating the learning results provided from the outside to the memory cells of the memory array unit 21, and also reflects the results calculated by the signal processing circuit 31 to the input/output unit 33. It is also possible to update learning results through
  • FIG. 2A to 2G are diagrams showing an example of the circuit layout of the imaging device 1.
  • the pixel array section 11 is arranged on the first substrate 101 and the memory array section 21 is arranged on the second substrate 102 .
  • Each circuit of the imaging device 1 is also arranged on the second substrate 102 .
  • the first substrate 101 and the second substrate 102 are, for example, silicon substrates, and are stacked on top of each other. In order to minimize the substrate area, the first substrate 101 and the second substrate 102 do not need to overlap entirely, but only partially overlap each other.
  • two directions parallel to the first substrate 101 and the second substrate 102 and perpendicular to each other are defined as the X direction and the Y direction, respectively.
  • a direction orthogonal to the X direction and the Y direction, in other words, the stacking direction of the first substrate 101 and the second substrate 102 is defined as the Z direction.
  • the pixel signal S12 is output from the pixel array section 11 in the X direction, and the convolution signal S15 is output from the memory array section 21 in the Y direction perpendicular to the X direction.
  • the readout wiring (output wiring) for the pixel signal S12 is perpendicular to the readout wiring (output wiring) for the convolution signal S15.
  • the output direction of the pixel signal S12 may be any direction that crosses the output direction of the convolution signal S15.
  • the pixel signal processing circuit 13 is arranged in a direction perpendicular to the output direction of the X pixel signal S12, and the pixel control circuit 12 is arranged in a direction parallel to the output direction of the X pixel signal S12. That is, the pixel signal processing circuit 13 and the pixel control circuit 12 are arranged perpendicular to each other.
  • the CIM input control circuit 22 is arranged in a direction parallel to the output direction of the convolved signal S15
  • the CIM readout circuit 23 is arranged in a direction perpendicular to the output direction of the convolved signal S15. That is, the CIM input control circuit 22 and the CIM readout circuit 23 are also arranged perpendicular to each other.
  • the logic circuit 15 is arranged between the pixel signal processing circuit 13 and the memory array section 21 .
  • the position of the logic circuit 15 is different from the layout shown in FIG. 2A.
  • logic circuit 15 is arranged between pixel control circuit 12 and memory array section 21 .
  • the position of the logic circuit 15 is not limited to the positions shown in FIGS. 2A and 2B, and may be arranged in a space within the second substrate 102 as appropriate.
  • the shape of the planar region of the memory array section 21 is different from the layout shown in FIG. 2A.
  • the plane area of the memory array section 21 is a rectangle with the X direction as the short side direction and the Y direction as the long side direction.
  • the plane area of the memory array section 21 shown in FIG. 2B is a rectangle with the long side in the X direction and the short side in the Y direction.
  • the plane area of the memory array section 21 may be square, and is determined according to the specifications of the sum-of-products operation. For example, when the number of convolutions (the number of additions) of the sum-of-products operation is large, a long read wiring is required. In this case, the rectangular shape of the memory array section 21 shown in FIG. 2A is preferable.
  • the CIM input control circuit 22 is arranged between the memory array section 21 and the pixel signal processing circuit 13 .
  • the memory array section 21 is arranged in a region away from the central region of the second substrate 102 in the X direction. Therefore, the center of the memory array section 21 is displaced from the center of the pixel array section 11 in the X direction.
  • the center position of the pixel array section 11 and the center position of the memory array section 21 may be optimized according to the layout of the signal wiring and power supply wiring. Therefore, the center position of each array section need not be positioned on a straight line extending in the Z direction, and may be shifted in the X or Y direction.
  • the output directions of the pixel signal S12 are multiple directions of the +X direction and the -X direction.
  • the ⁇ X direction is the direction rotated 180 degrees from the X direction.
  • the pixel signal processing circuits 13a and 13b are arranged opposite to each other with the memory array section 21 interposed therebetween in the X direction.
  • the pixel signal processing circuit 13a processes the pixel signal S12 output from the pixel array section 11 in the +X direction.
  • the pixel signal processing circuit 13b processes the pixel signal S12 output from the pixel array section 11 in the -X direction.
  • the output direction of the convolution signal S15 is also in the multiple directions of the +Y direction and the ⁇ Y direction.
  • the -Y direction is a direction rotated 180 degrees from the +Y direction.
  • the pixel control circuit 12a and the pixel control circuit 12b are arranged facing each other with the memory array section 21 interposed therebetween.
  • the pixel control circuit 12a controls the pixels that output the pixel signal S12 in the +X direction.
  • the pixel control circuit 12b controls pixels that output the pixel signal S12 in the -X direction.
  • the CIM input control circuit 22a and the CIM input control circuit 22b are also arranged facing each other with the memory array section 21 interposed therebetween.
  • the CIM input control circuit 22a inputs to the memory array section 21 an input signal S14 associated with the image signal S13 processed by the pixel signal processing circuit 13a.
  • the CIM input control circuit 22b inputs to the memory array section 21 an input signal S14 associated with the image signal S13 processed by the pixel signal processing circuit 13b.
  • the CIM readout circuit 23a and the CIM readout circuit 23b are also arranged facing each other with the memory array section 21 interposed therebetween.
  • the CIM reading circuit 23a processes the convolution signal S15 output from the memory array section 21 in the -Y direction.
  • the CIM reading circuit 23b processes the convolution signal S15 output from the memory array section 21 in the +Y direction.
  • the pixel signal S12 is transmitted toward the central portion of the pixel array portion 11, ie, the central portion of the first substrate 1010.
  • the pixel signal processing circuit 13 is arranged in the central portion of the second substrate 102 . Thereby, the pixel array section 11 and the pixel signal processing circuit 13 are electrically connected at the respective central portions of the first substrate 101 and the second substrate 102 .
  • FIG. 2G is an example of a so-called tiling structure layout in which a plurality of memory array units 21 are arranged in the Y direction.
  • the CIM readout circuit 23 is composed of multiplexers and shared by a plurality of memory array units 21 . Therefore, the convolution signal S15 output from each memory array section 21 is collectively processed by the CIM reading circuit 23 .
  • FIG. 3A is a diagram showing another example of the tiling structure.
  • a plurality of memory array sections 21 are arranged not only in the Y direction but also in the X direction.
  • a plurality of memory array units 21 are arranged two-dimensionally.
  • the convolution signals S15 output from each memory array section 21 are collectively processed by the CIM reading circuit 23.
  • FIG. 3B is a diagram showing yet another example of the tiling structure.
  • a CIM readout circuit 23 is arranged for each of the plurality of memory array units 21 .
  • the convolution signals S15 output from each memory array section 21 are individually processed by a plurality of CIM readout circuits 23.
  • FIG. 3B is a diagram showing yet another example of the tiling structure.
  • a CIM readout circuit 23 is arranged for each of the plurality of memory array units 21 .
  • the convolution signals S15 output from each memory array section 21 are individually processed by a plurality of CIM readout circuits 23.
  • FIG. 4A is a cross-sectional view schematically showing the joining form between the first substrate 101 and the second substrate 102.
  • a plurality of through electrodes 111 formed on the first substrate 101 and a plurality of connection terminals 112 formed on the second substrate 102 are joined.
  • the through electrodes 111 and the connection terminals 112 can be made of metal such as copper.
  • a gap between the first substrate 101 and the second substrate 102 is filled with an insulating film.
  • the through electrode 111 penetrates the first substrate 101 and is electrically connected to the pixel array section 11 via a wiring layer (not shown) including various wirings.
  • the connection terminals 112 are formed on the surface of the second substrate 102 (the bonding surface with the first substrate 101).
  • the connection terminals 112 are connected to the pixel control circuit 12 and the pixel signal processing circuit 13 arranged on the second substrate 102 via various wiring layers (not shown).
  • the pixel control signal S11 of the pixel control circuit 12 is transmitted from the connection terminal 112 to each pixel of the pixel array section 11 through the through electrode 111.
  • the pixel signal S12 of each pixel is transmitted to the pixel signal processing circuit 13 from another through electrode 111 through another connection terminal 112 .
  • FIG. 4B is a cross-sectional view schematically showing another form of bonding between the first substrate 101 and the second substrate 102.
  • FIG. 4B In the bonding form shown in FIG. 4B, a plurality of connection terminals 121 (first connection terminals) formed on the first substrate 101 and a plurality of connection terminals 112 (second connection terminals) formed on the second substrate 102 are connected. It is a so-called Cu--Cu joint.
  • the connection terminal 121 can be formed of a metal such as copper in the same manner as the connection terminal 112, and is electrically connected to the pixel array section 11 via wiring (not shown). Also in this bonding mode, the gap between the first substrate 101 and the second substrate 102 is filled with an insulating film.
  • the pixel control signal S11 of the pixel control circuit 12 is transmitted from the connection terminal 112 to each pixel of the pixel array section 11 through the connection terminal 121 . Also, the pixel signal S12 of each pixel is transmitted from another connection terminal 121 to the pixel signal processing circuit 13 through another connection terminal 112 .
  • the pixel array section 11 is formed above the through electrodes 111 or the connection terminals 121 .
  • a circuit group including the pixel control circuit 12 and the pixel signal processing circuit 13 is formed in a layer below the connection terminal 112 .
  • 5A to 5E are diagrams showing examples of equivalent circuit diagrams of pixels arranged in the pixel array section 11.
  • FIG. The circuit configuration of the pixel shown in each drawing will be described below.
  • a pixel 50 a shown in FIG. 5A has a photodiode 51 , a transfer transistor 52 , a reset transistor 53 , an amplification transistor 54 and a selection transistor 55 .
  • the photodiode 51 is a photoelectric conversion unit that generates and accumulates charges (signal charges) according to the amount of light received.
  • the photodiode 51 has an anode terminal grounded and a cathode terminal connected to the transfer transistor 52 .
  • the transfer transistor 52 reads the charge from the photodiode 51 and transfers it to the amplification transistor 54 when turned on by a transfer signal that is one of the pixel control signals S11.
  • a transfer signal that is one of the pixel control signals S11
  • the reset transistor 53 is turned on by a reset signal, which is one of the pixel control signals S11, the charge accumulated in the photodiode 51 is discharged to the power supply, thereby resetting the potential of the photodiode 51 .
  • the amplification transistor 54 outputs a pixel signal S12 corresponding to the amount of charge accumulated in the photodiode 51 to the selection transistor 55 .
  • the selection transistor 55 outputs the pixel signal S12 to the readout wiring 56 when turned on by a selection signal that is one of the pixel control signals S11.
  • the pixel signal S ⁇ b>12 is transmitted to the pixel signal processing circuit 13 via the readout wiring 56 .
  • a pixel 50b shown in FIG. 5B has two photodiodes 51a and 51b. Charges generated by photoelectric conversion of photodiode 51a are temporarily held in memory transistor 57a and capacitor 58a. The held charges are transferred to the amplification transistor 54 by the transfer transistor 52a. On the other hand, charges generated by photoelectric conversion of the photodiode 51b are temporarily held in the memory transistor 57b and the capacitor 58b. The retained charges are transferred to the amplification transistor 54 by the transfer transistor 52b.
  • the amplification transistor 54 outputs to the selection transistor 55 a pixel signal S12 corresponding to the amount of charge transferred from the transfer transistor 52a or the transfer transistor 52b.
  • the selection transistor 55 outputs the pixel signal S12 to the readout wiring 56 .
  • the pixel signal S ⁇ b>12 is transmitted to the pixel signal processing circuit 13 via the readout wiring 56 .
  • a reset transistor 53 resets the potential of each of the photodiodes 51a and 51b.
  • a pixel 50c shown in FIG. 5C is an example of a so-called PWM (Pulse Wide Modulation) pixel.
  • a slope signal S11a which is one of the pixel control signals S11, is input to the gate of a P-channel MOS transistor 59 in the pixel 50c.
  • the MOS transistor 59 is connected in series with the amplification transistor 54 .
  • the selection transistor 55 outputs a PWM pixel signal S12 indicating the result of comparison between the output of the MOS transistor 59 and the output of the amplification transistor 54 to the readout line 56 .
  • the pixel signal S ⁇ b>12 is transmitted to the pixel signal processing circuit 13 via the readout wiring 56 .
  • the photodiodes 51a to 51c each have a photoelectric conversion film 511, a transparent electrode 512, and a lower electrode 513.
  • the photoelectric conversion film 511 is an organic photoelectric conversion film or an inorganic photoelectric conversion film.
  • the transparent electrode 512 is arranged on the upper surface of the photoelectric conversion film 511 .
  • the lower electrode 513 is arranged on the upper surface of the photoelectric conversion film 511 . That is, the transparent electrode 512 is sandwiched between the transparent electrode 512 and the lower electrode 513 .
  • the photoelectric conversion film 511 controls the voltage of the transparent electrode 512 to realize a global shutter.
  • the charges photoelectrically converted by the photoelectric conversion films 511 of the photodiodes 51a to 51c are transferred to the amplification transistors 54 by the transfer transistors 52a to 52c, respectively.
  • the amplification transistor 54 outputs a pixel signal S12 corresponding to the charge amount accumulated in the photodiode 51 to the selection transistor 55 .
  • the selection transistor 55 outputs the pixel signal S12 to the readout wiring 56 .
  • the pixel signal S ⁇ b>12 is transmitted to the pixel signal processing circuit 13 via the readout wiring 56 .
  • the potential of each photodiode is reset by a reset transistor 53 .
  • a pixel 50e shown in FIG. 5E is an example of a DVS (Dynamic Vision Sensor) pixel that outputs changes in brightness.
  • Pixel 50 e has logarithmic conversion circuitry 510 , buffer circuitry 520 , subtraction circuitry 530 and quantization circuitry 540 .
  • the logarithmic conversion circuit 510 has a photodiode 51 , an N-channel MOS transistor 514 , a P-channel MOS transistor 515 , and an N-channel MOS transistor 516 .
  • Photodiode 51 and MOS transistor 514 are connected in series.
  • MOS transistors 515 and 516 are also connected in series.
  • the gate of MOS transistor 514 is connected to the drain of MOS transistor 515 and the drain of MOS transistor 516 .
  • the logarithmic conversion circuit 510 converts the charge photoelectrically converted by the photodiode 51 into a logarithmic output voltage Vlog.
  • the buffer circuit 520 has a P-channel MOS transistor 521 and a P-channel MOS transistor 522 . MOS transistor 521 and MOS transistor 522 are connected in series. Buffer circuit 520 outputs a source follower voltage VSF obtained by performing impedance conversion on voltage Vlog input to the gate of MOS transistor 522 .
  • the subtraction circuit 530 has a P-channel MOS transistor 531 , a P-channel MOS transistor 532 , an N-channel MOS transistor 533 , a capacitor 534 and a capacitor 535 .
  • MOS transistor 532 and MOS transistor 533 are connected in series.
  • a capacitor 534 is connected to the gate of the MOS transistor 532 .
  • MOS transistor 531 and capacitor 535 are connected in parallel between the gate and drain of MOS transistor 532 .
  • Subtraction circuit 530 outputs a differential voltage Vdiff from the previous signal.
  • the quantization circuit 540 has a P-channel MOS transistor 541 , an N-channel MOS transistor 542 , a P-channel MOS transistor 543 , and an N-channel MOS transistor 544 .
  • MOS transistor 541 and MOS transistor 542 are connected in series.
  • MOS transistors 543 and 544 are also connected in series.
  • Quantization circuit 540 compares differential voltage Vdiff input to the gates of MOS transistors 541 and 543 with two threshold values. After that, the comparison result (VO(+), VO(-)) is transmitted to the pixel signal processing circuit 13 via the read wiring 56 as the pixel signal S12.
  • the pixel signal processing circuit 13 determines "+1", "0" and "-1" based on the pixel signal S12.
  • the pixels arranged in the pixel array section 11 are not limited to the pixels 50a to 50e shown in FIGS. 5A to 5E.
  • the pixel array section 11 may have so-called convolution pixels that add the pixel signals S12 of each pixel.
  • a polarization sensor or a multispectral sensor may be arranged in the pixel array section 11 .
  • the polarization sensor further has a diffraction element that polarizes the light incident on the photodiode 51 .
  • the multispectral sensor further has a color filter that color separates the light incident on the photodiode 51 .
  • FIG. 6 is a diagram showing an example of the circuit configuration of an ADC (Analog to Digital Converter) included in the pixel signal processing circuit 13.
  • ADC Analog to Digital Converter
  • FIG. 6 has multiple comparators 131 , multiple counters 132 , and multiple latch circuits 133 .
  • the non-inverting input terminal of the comparator 131 receives the pixel signal S12 of the pixel 50 corresponding to one of the pixels 50a to 50e described above.
  • a triangular wave ramp signal RAMP is input to the inverting input terminal.
  • Each comparator 131 outputs a comparison result between the pixel signal S12 and the ramp signal RAMP.
  • Each counter 132 is connected to the output terminal of the comparator 131 .
  • Each counter 132 counts the change time of the output level of the comparator 131 .
  • Each latch circuit 133 holds the count result of each counter 132 .
  • the ADC included in the pixel signal processing circuit 13 is not limited to the single slope ADC shown in FIG.
  • the pixel signal processing circuit 13 includes, for example, a pixel ADC that processes the pixel signal S12 for each pixel, a column ADC that counts the comparison time of a plurality of comparators 131 with one counter 132, a double integration type ADC that has an integration circuit, a sequential A comparison type (SAR) ADC, a delta-sigma type ADC, or the like may be included.
  • the resolution of the ADC can be appropriately selected within the range of 1 bit to 12 bits, for example.
  • FIG. 7 is a diagram showing a schematic circuit configuration of the memory array section 21. As shown in FIG. As shown in FIG. 7, a plurality of memory cells 71 are two-dimensionally arranged in the memory array section 21 . Each memory cell 71 is arranged near the intersection of the signal wiring 72 and the readout wiring 73 . Note that the memory cells 71 may be arranged three-dimensionally. In this case, multiple memory cells 71 are arranged in the X, Y, and Z directions.
  • the memory cell 71 includes, for example, a resistance change memory (ReRAM: Resistive Random Access Memory), a phase change memory (PCM: Phase Change Memory), a magnetoresistive memory (MRAM: Magneto resistive Random Memory), or a ferroelectric memory ( FeRAM: Ferroelectric Random Access Memory) can be applied. Also, the memory cell 71 may be an SRAM (Static Random Access Memory) or a non-volatile memory.
  • ReRAM Resistive Random Access Memory
  • PCM Phase Change Memory
  • MRAM Magnetoresistive memory
  • FeRAM Ferroelectric Random Access Memory
  • the memory cells 71 hold memory values (eg, +1, -1, 0.5).
  • the memory array section 21 multiplies the memory value of each memory cell 71 by the signal value of the memory cell control signal S14 input as an input signal from the CIM input control circuit 22 via the signal wiring 72 . Subsequently, the memory array unit 21 sequentially adds the multiplication results through the readout wiring 73 row by row or column by column. As a result, the digital convolution signal S15 indicating the sum-of-products operation result is read out to the CIM reading circuit 23.
  • the convolution signal S15 is of analog type, after the input signal via the signal wiring 72 and the memory value are multiplied, the charge is added on the readout wiring 73, and the convolution signal S15 is read out to the CIM readout circuit 23. .
  • input signals can be input to all the signal wirings 72 at once, and if the CIM readout circuit 23 is a column ADC, it is also possible to read out the convolution signal S15 from all the readout wirings 73 at once. .
  • FIG. 8A is a cross-sectional view showing an example of the arrangement relationship between the readout wiring 56 for the pixel signal S12 and the readout wiring 73 for the convoluted signal S15.
  • the readout wiring 56 is arranged on the bottom (back) side of the first substrate 101
  • the readout wiring 73 is arranged on the top (front) side of the second substrate 102 . Therefore, the readout wiring 56 and the readout wiring 73 are arranged such that a part of each thereof faces each other in the stacking direction (Z direction).
  • FIG. 8B is a cross-sectional view showing another example of the arrangement relationship between the readout wiring 56 for the pixel signal S12 and the readout wiring 73 for the convoluted signal S15.
  • the readout wiring 56 is arranged on the bottom (back) side of the first substrate 101
  • the readout wiring 73 is arranged on the bottom (back) side of the second substrate 102 . Therefore, the readout wiring 73 is arranged so as to face the readout wiring 56 with the second substrate 102 interposed therebetween.
  • a shield is preferably provided.
  • the second substrate 102 is preferably thin in order to reduce the size of the imaging device 1 .
  • the second substrate 102 is made of a material suitable for shielding interference noise between the readout wiring 56 and the readout wiring 73 and has a sufficient thickness for noise shielding.
  • the first substrate 101 on which the pixel array section 11 is formed and the second substrate 102 on which the memory array section 21 is formed are laminated. Due to the stacked arrangement of the pixel array section 11 and the memory array section 21, the transmission distance of the pixel signal S12 from the pixel array section 11 to the memory array section 21 is shortened. As a result, the power consumption of the imaging device 1 can be reduced. In addition, the lamination arrangement described above contributes to miniaturization of the layout of the entire chip, and this miniaturization also contributes to low power consumption of the imaging device 1 .
  • interference noise may occur between the readout wiring 56 for the pixel signal S12 and the readout wiring 73 for the convolution signal S15. .
  • the readout wiring 56 and the readout wiring 73 are arranged to cross each other. That is, the output direction of the pixel signal S12 is crossed with the output direction of the convolution signal S15. Therefore, interference noise between the readout wiring 56 and the readout wiring 73 can be reduced. As a result, the quality of both the pixel signal S12 and the convoluted signal S15 is improved, so that it is possible to improve the computational accuracy of the DNN.
  • the second embodiment will be described below, focusing on the differences from the first embodiment.
  • the same reference numerals are assigned to the same components as in the first embodiment, and detailed description thereof will be omitted.
  • FIGS. 9A to 9G are diagrams showing an example of the circuit layout of the imaging device according to the second embodiment. For space reasons, only the pixel control circuit 12, the pixel signal processing circuit 13, the logic circuit 15, the CIM input control circuit 22, and the CIM readout circuit 23 are shown on the second substrate 102 in each figure, and other circuits are shown. is omitted.
  • the output direction of the pixel signal S12 is parallel to the output direction of the convolution signal S15. That is, the readout wiring 56 (output wiring) for the pixel signal S12 is parallel to the readout wiring 73 (output wiring) for the convolution signal S15.
  • metal is provided between the first substrate 101 and the second substrate 102 in order to suppress interference noise generated between the readout wiring 56 for the pixel signal S12 and the readout wiring 73 for the convoluted signal S15.
  • a shield wiring 81 is arranged.
  • the metal shield wiring 81 contains metal such as aluminum (Al), copper (Cu), or tungsten (W).
  • the potential of the metal shield wiring 81 may be the power supply potential of the first substrate 101 or the second substrate 102, or may be the ground potential. Considering power supply noise, the metal shield wiring 81 is preferably grounded.
  • the shape of the planar region of the memory array section 21 is different from the layout shown in FIG. 9A.
  • the plane area of the memory array section 21 is a rectangle with the X direction as the short side direction and the Y direction as the long side direction.
  • the planar area shown in FIG. 9B is a rectangle with the long side in the X direction and the short side in the Y direction.
  • the plane area of the memory array section 21 may be square, which is determined according to the specifications of the sum-of-products operation. For example, when the number of output channels of the convoluted signal S15 is large, a large number of read wirings 73 are required. In this case, the rectangular shape of the memory array section 21 shown in FIG. 9A is preferable.
  • the position of the CIM input control circuit 22 and the position of the CIM readout circuit 23 on the second substrate 102 are different.
  • the CIM input control circuit 22 is arranged along the output direction of the convolved signal S15.
  • the CIM readout circuit 23 is arranged between the memory array section 21 and the pixel signal processing circuit 13b.
  • the output direction of the pixel signal S12 may be multiple directions of the +X direction and the ⁇ X direction.
  • the processing of the pixel signal S12 may be distributed to the pixel signal processing circuit 13a and the pixel signal processing circuit 13b according to the output direction of the pixel signal S12.
  • the positions of the CIM input control circuit 22 and the CIM readout circuit 23 are switched on the second substrate 102 .
  • the pixel signal S12 and the convolution signal S15 may be output in multiple directions.
  • the pixel signal S12 is transmitted toward the central portion of the pixel array section 11, ie, the central portion of the first substrate 1010, similarly to the layout shown in FIG. 2F.
  • the pixel signal processing circuit 13 is arranged in the central portion of the second substrate 102 . Thereby, the pixel array section 11 and the pixel signal processing circuit 13 are electrically connected at the respective central portions of the first substrate 101 and the second substrate 102 .
  • a tiling structure may be employed in which a plurality of memory array sections 21 are arranged in the Y direction on the second substrate 102 .
  • a plurality of memory array units 21 may employ a tiling structure arranged not only in the Y direction but also in the X direction (see FIG. 3A), and the CIM readout circuit 23 is arranged in the memory array unit 21 may be provided (see FIG. 3B).
  • 10A to 10F are cross-sectional views showing an example of the layout relationship of the metal shield wiring 81 with respect to the readout wiring 56 for the pixel signal S12 and the readout wiring 73 for the convolution signal S15.
  • the width W1 of the readout wiring 56 is wider than the width W2 of the readout wiring 73.
  • the width W3 of the metal shield wiring 81 is the same as that of the wide readout wiring 56 .
  • the width W3 of the metal shield wiring 81 is the same as the width W2 of the readout wiring 73.
  • the width W3 of the metal shield wiring 81 is the widest among the readout wiring 56, the readout wiring 73, and the metal shield wiring 81. In FIG. In this case, interference noise can be further reduced than with the read wiring 73 shown in FIG. 10A.
  • the metal shield wiring 81 is multilayer wiring in which metal shield wiring 81a and metal shield wiring 81b are laminated.
  • the metal shield wiring 81a and the metal shield wiring 81b are staggered in the Y direction so as to partially overlap each other. Therefore, there is no gap between the metal shield wirings between the readout wiring 56 and the readout wiring 73 . In this case, interference noise can be reduced more than the readout wiring 73 shown in FIG. 10B.
  • the number of layers of the metal shield wiring 81 is not limited to two layers, and may be three layers or more.
  • the number of readout wirings 56 is greater than the number of readout wirings 73 .
  • the width W2 of the readout wiring 73 is wider than the width W1 of the readout wiring 56 .
  • the width W3 of the metal shield wiring 81 is less than the width of the wide readout wiring (the readout wiring 73 in FIG. 10D) that is likely to generate interference noise. equal to or wider than the width of As a result, even if the number of wirings between the readout wirings 56 and the readout wirings 73 is different, the interference noise can be effectively reduced.
  • the center pitch P1 of the readout wirings 56 is smaller than the center pitch P2 of the readout wirings 73 .
  • the width W2 of the readout wiring 73 is wider than the width W1 of the readout wiring 56 .
  • the width W3 of the metal shield wiring 81 is less than the width of the wide readout wiring (the readout wiring 73 in FIG. 10E) that is likely to generate interference noise. equal to or wider than the width of
  • the center pitch P3 of the metal shield wiring 81 is also the same as the center pitch of the wide readout wiring. As a result, even if the center pitch between the readout wiring 56 and the readout wiring 73 is different, the interference noise can be effectively reduced.
  • the width W2 of the readout wiring 73 is wider than the width W1 of the readout wiring 56. Further, the distance D1 between the readout wiring 56 and the metal shield wiring 81 is larger than the distance D2 between the readout wiring 73 and the metal shield wiring 81 . In this way, when the widths of the readout wiring 56 and the readout wiring 73 are different, the metal shield wiring 81 is placed near the wide readout wiring (the readout wiring 73 in FIG. 10E) where interference noise is likely to occur. placed in As a result, interference noise can be reduced more effectively than when the interval D1 and the interval D2 are equal, that is, when the metal shield wiring 81 is arranged between the readout wiring 56 and the readout wiring 73. .
  • FIG. 11 is a plan view showing another example of the arrangement relationship of the metal shield wiring 81 with respect to the readout wiring 56 for the pixel signal S12 and the readout wiring 73 for the convolution signal S15.
  • the metal shield wiring 81b and the metal shield wiring 81b extend in the X direction parallel to the readout wiring 56 and the readout wiring 73 .
  • the metal shield wiring 81 a and the metal shield wiring 81 b extend in the Y direction perpendicular to the readout wiring 56 and the readout wiring 73 . That is, the metal shield wiring 81a and the metal shield wiring 81b are perpendicular to the output direction of the image signal S13 and the convolution signal S15.
  • the metal shield wiring 81a and the metal shield wiring 81b are arranged with being shifted in the X direction so that each part overlaps. This eliminates the gap between the metal shield wirings between the readout wiring 56 and the readout wiring 73 . Therefore, interference noise can be further reduced.
  • FIG. 12A is a cross-sectional view showing an example of the arrangement relationship between the readout wiring 56 for the pixel signal S12 and the readout wiring 73 for the convolution signal S15 in this embodiment.
  • the readout wiring 56 is arranged on the bottom side of the first substrate 101 and the readout wiring 73 is arranged on the top side of the second substrate 102 . Therefore, the readout wiring 56 and the readout wiring 73 are arranged so as to face each other in the stacking direction (Z direction) with the metal shield wiring 81 interposed therebetween.
  • FIG. 12B is a cross-sectional view showing another example of the arrangement relationship between the readout wiring 56 for the pixel signal S12 and the readout wiring 73 for the convoluted signal S15.
  • the readout wiring 56 is arranged on the bottom (back) side of the first substrate 101
  • the readout wiring 73 is arranged on the bottom (back) side of the second substrate 102 . Therefore, the readout wiring 73 is arranged so as to face the readout wiring 56 with the second substrate 102 and the metal shield wiring 81 interposed therebetween.
  • the second substrate 102 is formed of a material suitable for shielding interference noise between the readout wiring 56 and the readout wiring 73, and is also made of a material sufficient for noise shielding. thickness.
  • the first substrate 101 and the second substrate 102 are laminated, so that the transmission of the pixel signal S12 from the pixel array section 11 to the memory array section 21 is possible. Shorter distance. As a result, the power consumption of the imaging device 1 can be reduced.
  • the lamination arrangement described above contributes to miniaturization of the layout of the entire chip, and this miniaturization also contributes to low power consumption of the imaging device 1 .
  • a metal shield wiring 81 is arranged between the readout wiring 56 and the readout wiring 73 . Therefore, interference noise between both wirings can be reduced. As a result, the quality of both the pixel signal S12 and the convoluted signal S15 is improved, so that it is possible to improve the computational accuracy of the DNN.
  • the metal shield wiring 81 described in the second embodiment may be provided in the imaging device 1 according to the first embodiment described above. In this case, interference noise between the readout wiring 56 and the readout wiring 73 can be further reduced.
  • FIG. 13A to 13D are diagrams showing an example of the circuit layout of the imaging device according to the third embodiment.
  • the pixel array section 11 is arranged on the first substrate 101.
  • a memory array section 21 a CIM input control circuit 22 and a CIM reading circuit 23 are arranged on the second substrate 102 .
  • the imaging device according to this embodiment also has a third substrate 103 .
  • a pixel control circuit 12 , a pixel signal processing circuit 13 , and a logic circuit 15 are arranged on the third substrate 103 .
  • the third substrate 103 is laminated between the first substrate 101 and the second substrate 102.
  • the pixel signal processing circuit 13 also includes a single slope ADC that processes the pixel signal processing circuit 13 in units of pixel columns.
  • the third substrate 103 is laminated between the first substrate 101 and the second substrate 102 as in FIG. 13A.
  • the pixel signal processing circuit 13 includes a pixel ADC that processes the pixel signal processing circuit 13 for each pixel. Therefore, the area occupied by the pixel signal processing circuit 13 in the third substrate 103 is larger than the area of the pixel signal processing circuit 13 shown in FIG. 13A.
  • FIG. 13C is the same as FIG. 13A except that the positions of the second substrate 102 and the third substrate 103 are switched. That is, in FIG. 13C, the second substrate 102 is laminated between the first substrate 101 and the third substrate 103 .
  • FIG. 13D is the same as FIG. 13B except that the positions of the second substrate 102 and the third substrate 103 are switched.
  • the stacking order of the second substrate 102 and the third substrate 103 may be reversed.
  • FIG. 14A is a cross-sectional view showing an example of the arrangement relationship between the readout wiring 56 for the pixel signal S12 and the readout wiring 73 for the convolution signal S15 in this embodiment.
  • the readout wiring 56 and the readout wiring 73 are arranged as shown in FIG. 14A. , are arranged to face each other in the stacking direction with the third substrate 103 interposed therebetween.
  • a signal wiring 80 for transmitting the image signal S13 processed by the pixel signal processing circuit 13 to the CIM input control circuit 22 is formed on the third substrate 103 .
  • the signal wiring 80 is preferably perpendicular to the readout wiring 73 as well as the readout wiring 56 .
  • FIG. 14B is a cross-sectional view showing another example of the arrangement relationship between the readout wiring 56 for the pixel signal S12 and the readout wiring 73 for the convolution signal S15 in this embodiment.
  • the readout wiring 56 and the readout wiring 73 are partially laminated. They are arranged so as to face each other in the direction (Z direction).
  • the signal wiring 80 is preferably perpendicular to the readout wiring 73 as with the readout wiring 56 . Thereby, interference noise between the signal wiring 80 and the readout wiring 73 can be reduced.
  • the circuit elements constituting the imaging device on four or more substrates that are stacked one on top of the other.
  • the first substrate 101 on which the pixel array section 11 is mounted is arranged in the uppermost layer, the other substrates are arranged in any order.
  • the transmission distance of the pixel signal S12 from the pixel array section 11 to the memory array section 21 is becomes shorter. As a result, the power consumption of the imaging device 1 can be reduced.
  • the readout wiring 56 and the readout wiring 73 intersect each other, so interference noise between both wirings can be reduced.
  • both the quality of the pixel signal S12 and the convolution signal S15 are improved, so that it is possible to improve the calculation accuracy of the DNN.
  • FIG. 15 is a block diagram showing the configuration of an imaging device according to the fourth embodiment.
  • the imaging device 4 according to this embodiment further includes a switch 41 in addition to the components of the imaging device 1 according to the first embodiment.
  • the switch 41 is arranged between the pixel signal processing circuit 13 and the CIM input control circuit 22 .
  • the switch 41 When performing a sum-of-products operation on image data, the switch 41 connects the pixel signal processing circuit 13 and the CIM input control circuit 22 under the control of the logic circuit 15 .
  • the switch 41 When the image signal S13 is output to the outside of the imaging device 4, the switch 41 connects the pixel signal processing circuit 13 and the input/output unit 33 under the control of the logic circuit 15. FIG. In this case, the image signal S13 is output through the input/output unit 33 to the outside.
  • the switch 41 is provided between the pixel signal processing circuit 13 and the CIM input control circuit 22 in this embodiment, it may be provided inside the CIM input control circuit 22 .
  • the switch 41 can switch the output destination of the image signal S13 generated by the pixel signal processing circuit 13 to the CIM input control circuit 22 or the input/output unit 33. Therefore, the destination of the image signal S13 can be selected according to the purpose of use.
  • FIG. 16 is a diagram illustrating an example of the configuration of an electronic device according to the fifth embodiment.
  • the electronic device 200 according to this embodiment is a camera system, and as shown in FIG. .
  • the lens 220 forms an image of incident light (image light) on the imaging surface.
  • the drive circuit 230 has a timing generator (not shown) that generates various timing signals including start pulses and clock pulses for driving circuits in the imaging device 210, and drives the imaging device 210 with predetermined timing signals.
  • the signal processing circuit 240 performs predetermined signal processing on the output signal of the imaging device 210 .
  • the image signal processed by the signal processing circuit 240 is recorded in a recording medium such as a memory. Image information recorded on a recording medium is hard-copied by a printer or the like. Also, the image signal processed by the signal processing circuit 240 is displayed as a moving image on a monitor such as a liquid crystal display.
  • the imaging device according to each of the embodiments described above as the imaging device 210 in the electronic device 200 such as a digital still camera, a highly accurate imaging function can be realized.
  • the technology (the present technology) according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure can be realized as a device mounted on any type of moving body such as automobiles, electric vehicles, hybrid electric vehicles, motorcycles, bicycles, personal mobility, airplanes, drones, ships, and robots. may
  • FIG. 17 is a block diagram showing a schematic configuration example of a vehicle control system, which is an example of a mobile control system to which the technology according to the present disclosure can be applied.
  • a vehicle control system 12000 includes a plurality of electronic control units connected via a communication network 12001.
  • vehicle control system 12000 includes drive system control unit 12010 , body system control unit 12020 , vehicle exterior information detection unit 12030 , vehicle interior information detection unit 12040 , and integrated control unit 12050 .
  • a microcomputer 12051 , an audio/image output unit 12052 , and an in-vehicle network I/F (Interface) 12053 are illustrated as the functional configuration of the integrated control unit 12050 .
  • the drive system control unit 12010 controls the operation of devices related to the drive system of the vehicle according to various programs.
  • the driving system control unit 12010 includes a driving force generator for generating driving force of the vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to the wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism to adjust and a brake device to generate braking force of the vehicle.
  • the body system control unit 12020 controls the operation of various devices equipped on the vehicle body according to various programs.
  • the body system control unit 12020 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as headlamps, back lamps, brake lamps, winkers or fog lamps.
  • the body system control unit 12020 can receive radio waves transmitted from a portable device that substitutes for a key or signals from various switches.
  • the body system control unit 12020 receives the input of these radio waves or signals and controls the door lock device, power window device, lamps, etc. of the vehicle.
  • the vehicle exterior information detection unit 12030 detects information outside the vehicle in which the vehicle control system 12000 is installed.
  • the vehicle exterior information detection unit 12030 is connected with an imaging section 12031 .
  • the vehicle exterior information detection unit 12030 causes the imaging unit 12031 to capture an image of the exterior of the vehicle, and receives the captured image.
  • the vehicle exterior information detection unit 12030 may perform object detection processing or distance detection processing such as people, vehicles, obstacles, signs, or characters on the road surface based on the received image.
  • the imaging unit 12031 is an optical sensor that receives light and outputs an electrical signal according to the amount of received light.
  • the imaging unit 12031 can output the electric signal as an image, and can also output it as distance measurement information.
  • the light received by the imaging unit 12031 may be visible light or non-visible light such as infrared rays.
  • the in-vehicle information detection unit 12040 detects in-vehicle information.
  • the in-vehicle information detection unit 12040 is connected to, for example, a driver state detection section 12041 that detects the state of the driver.
  • the driver state detection unit 12041 includes, for example, a camera that captures an image of the driver, and the in-vehicle information detection unit 12040 detects the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 12041. It may be calculated, or it may be determined whether the driver is dozing off.
  • the microcomputer 12051 calculates control target values for the driving force generator, the steering mechanism, or the braking device based on the information inside and outside the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, and controls the drive system control unit.
  • a control command can be output to 12010 .
  • the microcomputer 12051 realizes the functions of ADAS (Advanced Driver Assistance System) including collision avoidance or shock mitigation of vehicles, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, vehicle lane deviation warning, etc. Cooperative control can be performed for the purpose of ADAS (Advanced Driver Assistance System) including collision avoidance or shock mitigation of vehicles, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, vehicle lane deviation warning, etc. Cooperative control can be performed for the purpose of ADAS (Advanced Driver Assistance System) including collision avoidance or shock mitigation of vehicles, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving
  • the microcomputer 12051 controls the driving force generator, the steering mechanism, the braking device, etc. based on the information about the vehicle surroundings acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, so that the driver's Cooperative control can be performed for the purpose of autonomous driving, etc., in which vehicles autonomously travel without depending on operation.
  • the microcomputer 12051 can output a control command to the body system control unit 12030 based on the information outside the vehicle acquired by the information detection unit 12030 outside the vehicle.
  • the microcomputer 12051 controls the headlamps according to the position of the preceding vehicle or the oncoming vehicle detected by the vehicle exterior information detection unit 12030, and performs cooperative control aimed at anti-glare such as switching from high beam to low beam. It can be carried out.
  • the audio/image output unit 12052 transmits at least one of audio and/or image output signals to an output device capable of visually or audibly notifying the passengers of the vehicle or the outside of the vehicle.
  • an audio speaker 12061, a display unit 12062 and an instrument panel 12063 are illustrated as output devices.
  • the display unit 12062 may include at least one of an on-board display and a head-up display, for example.
  • FIG. 18 is a diagram showing an example of the installation position of the imaging unit 12031.
  • the imaging unit 12031 has imaging units 12101, 12102, 12103, 12104, and 12105.
  • the imaging units 12101, 12102, 12103, 12104, and 12105 are provided at positions such as the front nose, side mirrors, rear bumper, back door, and windshield of the vehicle 12100, for example.
  • An image pickup unit 12101 provided in the front nose and an image pickup unit 12105 provided above the windshield in the passenger compartment mainly acquire images in front of the vehicle 12100 .
  • Imaging units 12102 and 12103 provided in the side mirrors mainly acquire side images of the vehicle 12100 .
  • An imaging unit 12104 provided in the rear bumper or back door mainly acquires an image behind the vehicle 12100 .
  • the imaging unit 12105 provided above the windshield in the passenger compartment is mainly used for detecting preceding vehicles, pedestrians, obstacles, traffic lights, traffic signs, lanes, and the like.
  • FIG. 18 shows an example of the imaging range of the imaging units 12101 to 12104.
  • the imaging range 12111 indicates the imaging range of the imaging unit 12101 provided in the front nose
  • the imaging range 1211212113 indicates the imaging ranges of the imaging units 12102 and 12103 provided in the side mirrors
  • the imaging range 12114 indicates the imaging range of the rear bumper or
  • the imaging range of the imaging unit 12104 provided in the back door is shown. For example, by superimposing the image data captured by the imaging units 12101 to 12104, a bird's-eye view image of the vehicle 12100 viewed from above can be obtained.
  • At least one of the imaging units 12101 to 12104 may have a function of acquiring distance information.
  • at least one of the imaging units 12101 to 12104 may be a stereo camera composed of a plurality of imaging elements, or may be an imaging element having pixels for phase difference detection.
  • the microcomputer 12051 determines the distance to each three-dimensional object within the imaging ranges 12111 to 12114 and changes in this distance over time (relative velocity with respect to the vehicle 12100). , it is possible to extract, as the preceding vehicle, the closest three-dimensional object on the traveling path of the vehicle 12100, which runs at a predetermined speed (for example, 0 km/h or more) in substantially the same direction as the vehicle 12100. can. Furthermore, the microcomputer 12051 can set the inter-vehicle distance to be secured in advance in front of the preceding vehicle, and perform automatic brake control (including following stop control) and automatic acceleration control (including following start control). In this way, cooperative control can be performed for the purpose of automatic driving in which the vehicle autonomously travels without depending on the operation of the driver.
  • automatic brake control including following stop control
  • automatic acceleration control including following start control
  • the microcomputer 12051 converts three-dimensional object data related to three-dimensional objects to other three-dimensional objects such as motorcycles, ordinary vehicles, large vehicles, pedestrians, and utility poles. It can be classified and extracted and used for automatic avoidance of obstacles. For example, the microcomputer 12051 distinguishes obstacles around the vehicle 12100 into those that are visible to the driver of the vehicle 12100 and those that are difficult to see. Then, the microcomputer 12051 judges the collision risk indicating the degree of danger of collision with each obstacle, and when the collision risk is equal to or higher than the set value and there is a possibility of collision, an audio speaker 12061 and a display unit 12062 are displayed. By outputting an alarm to the driver via the drive system control unit 12010 and performing forced deceleration and avoidance steering via the drive system control unit 12010, driving support for collision avoidance can be performed.
  • At least one of the imaging units 12101 to 12104 may be an infrared camera that detects infrared rays.
  • the microcomputer 12051 can recognize a pedestrian by determining whether or not the pedestrian exists in the captured images of the imaging units 12101 to 12104 .
  • recognition of a pedestrian is performed by, for example, a procedure for extracting feature points in images captured by the imaging units 12101 to 12104 as infrared cameras, and performing pattern matching processing on a series of feature points indicating the outline of an object to determine whether or not the pedestrian is a pedestrian.
  • the audio image output unit 12052 outputs a rectangular outline for emphasis to the recognized pedestrian. is superimposed on the display unit 12062 . Also, the audio/image output unit 12052 may control the display unit 12062 to display an icon or the like indicating a pedestrian at a desired position.
  • the technology according to the present disclosure can be applied, for example, to the imaging unit 12031 among the configurations described above.
  • the imaging devices according to the first to fourth embodiments can be applied to the imaging unit 12031.
  • FIG. By applying the technology according to the present disclosure, it is possible to obtain a captured image with low-noise imaging performance, so that image quality can be improved.
  • this technique can take the following structures. (1) a first substrate on which a pixel array section for outputting, in a first direction, pixel signals obtained by photoelectrically converting incident light is arranged; a second substrate on which a memory array unit is arranged for outputting a convolution signal indicating a result of sum-of-products operation of the input signal based on the pixel signal in a second direction; An imaging device, wherein at least a portion of the first substrate and the second substrate overlap each other. (2) The imaging device according to (1), wherein the first direction intersects the second direction. (3) the first direction is parallel to the second direction; The imaging device according to (1), further comprising a metal shield wiring arranged between the first substrate and the second substrate.
  • the imaging device according to any one of (1) to (3), wherein at least one of the pixel signal and the convolved signal is an analog signal.
  • a pixel control circuit that controls the pixel array section; a pixel signal processing circuit for processing the pixel signals read out from the pixel array section; a CIM input control circuit that controls the memory array section;
  • the imaging apparatus according to any one of (1) to (4), further comprising a CIM readout circuit that processes the convolved signal read out from the memory array section.
  • the pixel control circuit is arranged in a direction parallel to the first direction;
  • the pixel signal processing circuit is arranged in a direction perpendicular to the first direction, the CIM input control circuit is arranged in a direction parallel to the second direction;
  • the third substrate is disposed between the first substrate and the second substrate, or the second substrate is disposed between the first substrate and the third substrate; 7) The imaging device described in 7).
  • the pixel control circuit and the CIM readout circuit are arranged opposite to each other with the memory array section interposed therebetween, and the pixel signal processing circuit and the CIM input control circuit
  • the image pickup apparatus according to (5) which are arranged to face each other with the memory array section interposed therebetween.
  • (12) The imaging device according to (3) wherein the planar area of the memory array section is a rectangle, and the second direction is a short side direction of the rectangle.
  • the imaging device according to (5) wherein the pixel array section and the pixel signal processing circuit are electrically connected at respective central portions of the first substrate and the second substrate.
  • the width of the first readout wiring for reading out the pixel signal is different from the width of the second readout wiring for reading out the convolution signal;
  • the width of the metal shield wiring is the same as or wider than the width of the wide readout wiring among the first readout wiring and the second readout wiring.
  • the metal shield wiring is a multi-layer wiring, and each metal shield wiring partially overlaps with each other.
  • imaging device 11 pixel array unit 12: pixel control circuit 13: pixel signal processing circuit 21: memory array unit 22: CIM input control circuit 23: CIM readout circuit 33: input/output unit 41: switch 56: readout wiring 73: Readout wiring 81: Metal shield wiring 101: First substrate 102: Second substrate 103: Third substrate

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Power Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computational Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Neurology (AREA)
  • Algebra (AREA)
  • Human Computer Interaction (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

[課題]消費電力を低減することが可能な撮像装置を提供する。 [解決手段]本開示の一実施形態に係る撮像装置は、入射光を光電変換した画素信号を第1方向に出力する画素アレイ部が配置される第1基板と、画素信号に基づく入力信号を積和演算した結果を示す畳み込み信号を第2方向に出力するメモリアレイ部が配置される第2基板と、を備える。第1基板および第2基板の少なくとも一部が互いに重なり合う。

Description

撮像装置、電子機器、および信号処理方法
 本開示は、撮像装置、電子機器、および信号処理方法に関する。
 近年、画像認識や、物体位置検出等の高度なタスクを実現するために、ディープニューラルネットワーク(DNN)をハードウェアに実装して演算を行うプロセッサが実用化されている。DNNの演算方法として、非ノイマン型演算器であるメモリアレイ上で演算を行うCIM(Computing in memory)が注目を集めている。
特開2020-113809号公報
 撮像機能を有する画素アレイと、積和演算機能を有するメモリアレイとを組み合わせたDNNを行う場合、画素アレイからメモリアレイまでの信号伝送距離が長いと、消費電力が増大する。
 本開示は、消費電力を低減することが可能な撮像装置、電子機器、および信号処理方法を提供する。
 本開示の一実施形態に係る撮像装置は、入射光を光電変換した画素信号を第1方向に出力する画素アレイ部が配置される第1基板と、画素信号に基づく入力信号を積和演算した結果を示す畳み込み信号を第2方向に出力するメモリアレイ部が配置される第2基板と、を備える。第1基板および第2基板の少なくとも一部が互いに重なり合う。
 前記第1方向が前記第2方向と交差してもよい。
 前記第1方向が前記第2方向と平行であり、
 前記第1基板と前記第2基板との間に配置されるメタルシールド配線をさらに備えていてもよい。
 前記画素信号および前記畳み込み信号の少なくとも一方がアナログ信号であってもよい。
 前記画素アレイ部を制御する画素制御回路と、
 前記画素アレイ部から読み出した前記画素信号を処理する画素信号処理回路と、
 前記メモリアレイ部を制御するCIM入力制御回路と、
 前記メモリアレイ部から読み出した前記畳み込み信号を処理するCIM読み出し回路と、をさらに備えていてもよい。
 前記画素制御回路は、前記第1方向に平行な方向に配置され、
 前記画素信号処理回路は、前記第1方向に垂直な方向に配置され、
 前記CIM入力制御回路は、前記第2方向に平行な方向に配置され、
 前記CIM読み出し回路は、前記第2方向に垂直な方向に配置されてもよい。
 前記画素制御回路および前記画素信号処理回路が配置される第3基板をさらに備えていてもよい。
 前記第3基板が前記第1基板と前記第2基板との間に配置されるか、または前記第2基板が前記第1基板と前記第3基板との間に配置されてもよい。
 前記第2基板において、前記画素制御回路と前記CIM読み出し回路とが、前記メモリアレイ部を挟んで互いに対向配置され、かつ、前記画素信号処理回路と前記CIM入力制御回路とが、前記メモリアレイ部を挟んで互いに対向配置されてもよい。
 複数の前記メモリアレイ部が、前記第1方向と前記第2方向の少なくとも一方に配列されてもよい。
 前記メモリアレイ部の平面領域が矩形であり、前記第2方向が前記矩形の長辺方向であってもよい。
 前記メモリアレイ部の平面領域が矩形であり、前記第2方向が前記矩形の短辺方向であってもよい。
 前記画素アレイ部および前記画素信号処理回路が、前記第1基板および前記第2基板の各々の中央部で電気的に接続されてもよい。
 前記画素信号を読み出すための第1読み出し配線の幅が、前記畳み込み信号を読み出すための第2読み出し配線の幅と異なり、
 前記メタルシールド配線の幅が、前記第1読み出し配線および前記第2読み出し配線の中で幅広の読み出し配線の幅と同じかまたは広くてもよい。
 前記メタルシールド配線が、多層配線であり、各々のメタルシールド配線の一部が重なり合っていてもよい。
 前記メタルシールド配線は、前記第1読み出し配線および前記第2読み出し配線の中で幅広の読み出し配線の近くに配置されてもよい。
 前記メタルシールド配線は、前記第1読み出し配線および前記第2読み出し配線に垂直であってもよい。
 信号を入出力する入出力部と、
 前記画素信号処理回路で生成された画像信号の出力先を、前記CIM入力制御回路または前記入出力部に切り替えるスイッチと、をさらに備えていてもよい。
 本開示の一実施形態に係る電子機器は、入射光を光電変換した画素信号を第1方向に出力する画素アレイ部が配置される第1基板と、画素信号に基づく入力信号を積和演算した結果を示す畳み込み信号を第2方向に出力するメモリアレイ部が配置される第2基板と、を有し、第1基板および第2基板の少なくとも一部が互いに重なり合う撮像装置を備える。
 本開示の一実施形態に係る信号処理方法は、
 第1基板に配置される画素アレイ部で入射光を光電変換した画素信号を第1方向に出力し、
 少なくとも一部が第1基板と重なり合う第2基板に配置されるメモリアレイ部で、画素信号に基づく入力信号を積和演算した結果を示す畳み込み信号を第2方向に出力する。
第1実施形態に係る撮像装置の構成を示すブロック図である。 第1実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第1実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第1実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第1実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第1実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第1実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第1実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 タイリング構造の別の一例を示す図である。 タイリング構造のさらに別の一例を示す図である。 第1基板と第2基板との接合形態を概略的に示す断面図である。 第1基板と第2基板との別の接合形態を概略的に示す断面図である。 画素アレイ部に配列される画素の等価回路図の一例を示す図である。 画素アレイ部に配列される画素の等価回路図の一例を示す図である。 画素アレイ部に配列される画素の等価回路図の一例を示す図である。 画素アレイ部に配列される画素の等価回路図の一例を示す図である。 画素アレイ部に配列される画素の等価回路図の一例を示す図である。 画素信号処理回路に含まれるのADCの回路構成の一例を示す図である。 メモリアレイ部の概略的な回路構成を示す図である。 第1実施形態における読み出し配線同士の配置関係の一例を示す断面図である。 第1実施形態における読み出し配線同士の配置関係の別の一例を示す断面図である。 第2実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第2実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第2実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第2実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第2実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第2実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第2実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 読み出し配線に対するメタルシールド配線の配置関係の一例を示す断面図である。 読み出し配線とメタルシールド配線の配置関係の一例を示す断面図である。 読み出し配線とメタルシールド配線の配置関係の一例を示す断面図である。 読み出し配線とメタルシールド配線の配置関係の一例を示す断面図である。 読み出し配線とメタルシールド配線の配置関係の一例を示す断面図である。 読み出し配線とメタルシールド配線の配置関係の一例を示す断面図である。 読み出し配線とメタルシールド配線の配置関係の別の一例を示す平面図である。 第2実施形態における読み出し配線同士の配置関係の一例を示す断面図である。 第2実施形態における読み出し配線同士の配置関係の別の一例を示す断面図である。 第3実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第3実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第3実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第3実施形態に係る撮像装置の回路レイアウトの一例を示す図である。 第3実施形態における読み出し配線同士の配置関係の一例を示す断面図である。 第3実施形態における読み出し配線同士の配置関係の別の一例を示す断面図である。 第4実施形態に係る撮像装置の構成を示すブロック図である。 第5実施形態に係る電子機器の構成の一例を示す図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部および撮像部の設置位置の一例を示す説明図である。
 (第1実施形態)
 図1は、第1実施形態に係る撮像装置の構成を示すブロック図である。図1に示す撮像装置1は、画素アレイ部11と、画素制御回路12と、画素信号処理回路13と、水平駆動回路14と、ロジック回路15と、メモリアレイ部21と、CIM入力制御回路22と、CIM読み出し回路23と、信号処理回路31と、メモリ32と、入出力部33と、を備える。
 画素アレイ部11には、複数の画素が2次元状に配置されている。各画素は、画素制御回路12からの複数種の画素制御信号S11に基づいて、入射光を光電変換した画素信号S12を生成する。また、各画素は、画素信号S12を画素信号処理回路13へ一方向に出力する。画素の回路構成例については、後述する。
 画素制御回路12は、例えばシフトレジスタによって構成され、画素駆動配線(図1には不図示)を介して画素アレイ部11の各画素に画素制御信号S11を入力する。この画素制御信号S11によって、画素制御回路12は、画素アレイ部11の各画素を順次に選択して走査し、各画素の画素信号S12を画素信号処理回路13へ出力させる。
 画素信号処理回路13は、画素アレイ部11から読み出した画素信号S12に対して、画素固有の固定パターンノイズを除去するためのCDS(Correlated Double Sampling:相関2重サンプリング)処理や、AD(Analog to Digital)変換処理を行う。画素信号処理回路13で処理された画像信号S13は、CIM入力制御回路22に入力される。
 水平駆動回路14は、例えばシフトレジスタによって構成され、水平走査パルスを画素信号処理回路13に順次出力する。これにより、例えば、画素信号処理回路13に保持されている画像信号S13が、CIM読み出し回路23に向けて順次出力される。
 ロジック回路15は、外部から入力されるクロック信号と、動作モードなどを指令するデータを受け取り、撮像装置1全体の動作を制御する。例えば、ロジック回路15は、入力されたクロック信号に基づいて、垂直同期信号や水平同期信号などを生成し、画素制御回路12、画素信号処理回路13、水平駆動回路14、CIM入力制御回路22、およびCIM読み出し回路23などに供給する。
 メモリアレイ部21には、複数のメモリセルが2次元状に配置されている。メモリアレイ部21は、複数のメモリセルを用いてアナログ方式またはデジタル方式で積和演算した結果を示す畳み込み信号S15をCIM読み出し回路23に向けて一方向に出力する。メモリアレイ部21の回路構成例については、後述する。
 CIM入力制御回路22は、例えばシフトレジスタによって構成され、メモリセル駆動配線(図1には不図示)を介してメモリアレイ部21の各メモリセルに画像信号S13に関連付けられたメモリセル制御信号S14を入力する。このメモリセル制御信号S14によって、CIM入力制御回路22は、メモリアレイ部21の各メモリセルを順次または一括に選択して走査し、各メモリセルのメモリ値を用いて積和演算した畳み込み信号S15をCIM読み出し回路23へ出力させる。
 CIM読み出し回路23は、メモリアレイ部21から読み出した畳み込み信号S15に対して、AD変換処理等を行う。CIM読み出し回路23で処理された畳み込み信号S16は、信号処理回路31に入力される。畳み込み信号S16は、画像認識の途中段階である中間データであってもよい。
 信号処理回路31は、CIM読み出し回路23から入力された畳み込み信号S16に対して、活性化関数による変換処理、プーリング処理等を行い、処理結果を入出力部33に出力する。なお、これらの処理の一部は、メモリアレイ部21で行われてもよいし、CIM読み出し回路23で行われてもよい。また、信号処理を複数回行う場合には、数回分の信号処理をCIM読み出し回路23で行った後、残りの回数分の信号処理を信号処理回路31で行ってもよい。このように、CIM読み出し回路23と信号処理回路31との間で信号処理を分担することによって、処理負荷の集中を回避することができる。
 さらに、信号処理回路31は、入出力部33を介して外部の画像処理装置から入力されたパラメータなどをメモリ32に記憶させたり、外部の画像処理装置からの指示に基づいて、信号処理を適宜選択したり、実行したりすることができる。
 メモリ32は、信号処理回路31が行う信号処理に必要となるパラメータなどのデータを記憶する。また、メモリ32は、例えば、デモザイク処理などの処理において画像信号を記憶するためのフレームメモリを有していてもよい。
 入出力部33は、信号処理回路31から順次入力される信号を、外部の画像処理装置、例えば、後段のISP(Image Signal Processor)などに出力する。また、入出力部33は、外部の画像処理装置から入力される信号やパラメータを、信号処理回路31やロジック回路15へ供給する。さらに、入出力部33は、外部から提供された学習結果を示すデータ値をメモリアレイ部21のメモリセルに書き込み、また、信号処理回路31で計算された結果を反映して、入出力部33を通して学習結果を更新することも可能である。
 図2A~図2Gは、撮像装置1の回路レイアウトの一例を示す図である。本実施形態では、画素アレイ部11が第1基板101に配置され、メモリアレイ部21が第2基板102に配置される。第2基板102には、撮像装置1の各回路も配置される。第1基板101および第2基板102は、例えばシリコン基板であり、互いに重なり合って積層される。基板面積を最小化するために、第1基板101および第2基板102は、全体的に重なり合う必要はなく、少なくとも一部同士が重なり合っていればよい。
 なお、図2A~図2Gでは、第1基板101および第2基板102に平行であり、かつ互いに直交する2つの方向をX方向、およびY方向とそれぞれ規定する。また、X方向およびY方向に直交する方向、換言すると第1基板101および第2基板102の積層方向をZ方向と規定する。また、各図の第2基板102には、スペースの都合上、画素制御回路12、画素信号処理回路13、ロジック回路15、CIM入力制御回路22、およびCIM読み出し回路23のみを示し、他の回路の記載を省略している。
 本実施形態では、図2A~図2Gに示すように、画素信号S12は、画素アレイ部11からX方向に出力され、畳み込み信号S15が、メモリアレイ部21からX方向に垂直なY方向に出力される。すなわち、画素信号S12の読み出し配線(出力配線)が、畳み込み信号S15の読み出し配線(出力配線)に垂直である。ただし、画素信号S12の出力方向は、畳み込み信号S15の出力方向に交差する方向であればよい。
 図2Aでは、画素信号処理回路13は、X画素信号S12の出力方向に垂直な方向に配置され、かつ、画素制御回路12は、X画素信号S12の出力方向に平行な方向に配置される。すなわち、画素信号処理回路13および画素制御回路12は、互いに垂直な方向に配置される。また、CIM入力制御回路22は、畳み込み信号S15の出力方向に平行な方向に配置され、かつ、CIM読み出し回路23は、畳み込み信号S15の出力方向に垂直な方向に配置される。すなわち、CIM入力制御回路22およびCIM読み出し回路23も、互いに垂直な方向に配置される。ロジック回路15は、画素信号処理回路13とメモリアレイ部21との間に配置される。
 図2Bでは、ロジック回路15の位置が図2Aに示すレイアウトと異なっている。このレイアウトでは、ロジック回路15は、画素制御回路12とメモリアレイ部21との間に配置される。しかし、ロジック回路15の位置は、図2Aおよび図2Bに示す位置に制限されず、第2基板102内のスペースに適宜配置すればよい。
 また、図2Bでは、メモリアレイ部21の平面領域の形状が図2Aに示すレイアウトと異なる。図2Aでは、メモリアレイ部21の平面領域は、X方向を短辺方向、Y方向を長辺方向とする矩形である。一方、図2Bに示す平面領域は、メモリアレイ部21の平面領域は、X方向を長辺方向、Y方向を短辺方向とする矩形である。メモリアレイ部21の平面領域は、正方形であってもよく、積和演算の仕様に応じて決定される。例えば、積和演算の畳み込み数(加算数)が多い場合には、長い読み出し配線が必要になる。この場合、図2Aに示すメモリアレイ部21の矩形が好ましい。
 図2Cでは、CIM入力制御回路22が、メモリアレイ部21と画素信号処理回路13との間に配置される。また、メモリアレイ部21は、第2基板102の中央領域からX方向に外れた領域に配置される。そのため、メモリアレイ部21の中心は、画素アレイ部11の中心からX方向にずれている。画素アレイ部11の中心位置とメモリアレイ部21の中心位置とは、信号配線や電源配線のレイアウトに応じて最適化すればよい。そのため、各アレイ部の中心位置は、Z方向に延びる一直線上に位置する必要はなく、X方向またはY方向にずれていてもよい。
 図2Dでは、画素信号S12の出力方向は、+X方向および-X方向の多方向である。-X方向はX方向に180度回転した方向である。また、第2基板102には、画素信号処理回路13aと画素信号処理回路13bとが、メモリアレイ部21をX方向に挟んで互いに対向配置されている。画素信号処理回路13aは、画素アレイ部11から+X方向に出力された画素信号S12を処理する。画素信号処理回路13bは、画素アレイ部11から-X方向に出力された画素信号S12を処理する。
 図2Eでは、画素信号S12の出力方向が、+X方向および-X方向の多方向であるのに加えて、畳み込み信号S15の出力方向も、+Y方向および-Y方向の多方向である。-Y方向は、+Y方向から180度回転した方向である。また、第2基板102には、画素制御回路12aおよび画素制御回路12bがメモリアレイ部21を挟んで互いに対向配置される。画素制御回路12aは、+X方向に画素信号S12を出力する画素を制御する。画素制御回路12bは、-X方向に画素信号S12を出力する画素を制御する。
 また、第2基板102には、CIM入力制御回路22aおよびCIM入力制御回路22bもメモリアレイ部21を挟んで互いに対向配置される。CIM入力制御回路22aは、画素信号処理回路13aで処理された画像信号S13に関連付けられた入力信号S14をメモリアレイ部21へ入力する。CIM入力制御回路22bは、画素信号処理回路13bで処理された画像信号S13に関連付けられた入力信号S14をメモリアレイ部21へ入力する。
 さらに、CIM読み出し回路23aおよびCIM読み出し回路23bもメモリアレイ部21を挟んで互いに対向配置される。CIM読み出し回路23aは、メモリアレイ部21から-Y方向に出力された畳み込み信号S15を処理する。CIM読み出し回路23bは、メモリアレイ部21から+Y方向に出力された畳み込み信号S15を処理する。
 図2Fでは、第1基板101において、画素信号S12が、画素アレイ部11の中央部、すなわち第1基板1010の中央部に向かって伝送される。また、画素信号処理回路13は、第2基板102の中央部に配置される。これにより、画素アレイ部11および画素信号処理回路13は、第1基板101および第2基板102の各々の中央部で電気的に接続される。
 図2Gは、複数のメモリアレイ部21をY方向に配列する、いわゆるタイリング構造のレイアウトの一例である。このレイアウトでは、CIM読み出し回路23が、マルチプレクサで構成され、複数のメモリアレイ部21に対して共有される。そのため、各メモリアレイ部21から出力された畳み込み信号S15は、CIM読み出し回路23で一括的に処理される。
 図3Aは、タイリング構造の別の一例を示す図である。図3Aに示すタイリング構造では、複数のメモリアレイ部21が、Y方向だけでなくX方向にも配列されている。換言すると、複数のメモリアレイ部21が、2次元状に配列されている。このタイリング構造でも、各メモリアレイ部21から出力された畳み込み信号S15は、CIM読み出し回路23で一括的に処理される。
 図3Bは、タイリング構造のさらに別の一例を示す図である。図3Bに示すタイリング構造では、複数のメモリアレイ部21の各々に対して、CIM読み出し回路23が配置される。このタイリング構造では、各メモリアレイ部21から出力された畳み込み信号S15は、複数のCIM読み出し回路23で個別に処理される。
 図4Aは、第1基板101と第2基板102との接合形態を概略的に示す断面図である。図4Aでは、第1基板101に形成された複数の貫通電極111と、第2基板102に形成された複数の接続端子112とが接合される。貫通電極111および接続端子112は、例えば銅等の金属で形成することができる。なお、第1基板101と第2基板102との隙間は、絶縁膜で埋められている。
 貫通電極111は、第1基板101を貫通し、種々の配線を含む配線層(不図示)を介して画素アレイ部11に電気的に接続される。接続端子112は、第2基板102の表面(第1基板101との接合面)に形成される。接続端子112は、種々の配線層(不図示)を介して第2基板102に配置された画素制御回路12および画素信号処理回路13と接続される。
 図4Aに示す接合形態では、画素制御回路12の画素制御信号S11は、接続端子112から貫通電極111を通じて画素アレイ部11の各画素に伝送される。また、各画素の画素信号S12は、別の貫通電極111から別の接続端子112を通じて画素信号処理回路13へ伝送される。
 図4Bは、第1基板101と第2基板102との別の接合形態を概略的に示す断面図である。図4Bに示す接合形態は、第1基板101に形成された複数の接続端子121(第1接続端子)と、第2基板102に形成された複数の接続端子112(第2接続端子)とが接合される、いわゆるCu-Cu接合である。接続端子121は、接続端子112と同世に銅等の金属で形成することができ、不図示の配線を介して画素アレイ部11に電気的に接続される。なお、この接合形態でも、第1基板101と第2基板102との隙間は、絶縁膜で埋められている。
 図4Bに示す接合形態では、画素制御回路12の画素制御信号S11は、接続端子112から接続端子121を通じて画素アレイ部11の各画素に伝送される。また、各画素の画素信号S12は、別の接続端子121から別の接続端子112を通じて画素信号処理回路13へ伝送される。
 なお、図4Aおよび図4Bでは省略されているが、画素アレイ部11は、貫通電極111または接続端子121よりも上層に形成される。また、画素制御回路12および画素信号処理回路13を含む回路群は、接続端子112よりも下層に形成される。
 図5A~図5Eは、画素アレイ部11に配列される画素の等価回路図の一例を示す図である。以下、各図に記載の画素の回路構成を説明する。
 図5Aに示す画素50aは、フォトダイオード51、転送トランジスタ52、リセットトランジスタ53、増幅トランジスタ54、および選択トランジスタ55を有する。
 フォトダイオード51は、受光量に応じた電荷(信号電荷)を生成し、蓄積する光電変換部である。フォトダイオード51のアノード端子が接地されているとともに、カソード端子が転送トランジスタ52に接続されている。
 転送トランジスタ52は、画素制御信号S11の一つである転送信号によりオンされたとき、フォトダイオード51から電荷を読み出して増幅トランジスタ54へ転送する。リセットトランジスタ53は、画素制御信号S11の一つであるリセット信号によりオンされたとき、フォトダイオード51に蓄積されている電荷が電源に排出されることで、フォトダイオード51の電位をリセットする。
 増幅トランジスタ54は、フォトダイオード51に蓄積された電荷量に応じた画素信号S12を選択トランジスタ55へ出力する。選択トランジスタ55は、画素制御信号S11の一つである選択信号によりオンされると、画素信号S12を読み出し配線56へ出力する。画素信号S12は、読み出し配線56を介して画素信号処理回路13へ伝送される。
 図5Bに示す画素50bは、2つのフォトダイオード51a、51bを有する。フォトダイオード51aの光電変換により生成された電荷は、メモリトランジスタ57aおよびキャパシタ58aに一時的に保持される。保持された電荷は、転送トランジスタ52aによって、増幅トランジスタ54へ転送される。一方、フォトダイオード51bの光電変換により生成された電荷は、メモリトランジスタ57bおよびキャパシタ58bに一時的に保持される。保持された電荷は、転送トランジスタ52bによって、増幅トランジスタ54へ転送される。
 増幅トランジスタ54は、転送トランジスタ52aまたは転送トランジスタ52bから転送された電荷量に応じた画素信号S12を選択トランジスタ55へ出力する。選択トランジスタ55は、画素信号S12を読み出し配線56へ出力する。画素信号S12は、読み出し配線56を介して画素信号処理回路13へ伝送される。フォトダイオード51a、51bの各々の電位は、リセットトランジスタ53によって、リセットされる。
 図5Cに示す画素50cは、いわゆるPWM(Pulse Wide Modulation)画素の一例である。画素50cでは、画素制御信号S11の一つであるスロープ信号S11aが、Pチャネル型のMOSトランジスタ59のゲートに入力される。MOSトランジスタ59は、増幅トランジスタ54と直列に接続されている。選択トランジスタ55は、MOSトランジスタ59の出力と、増幅トランジスタ54の出力との比較結果を示すPWM方式の画素信号S12を読み出し配線56へ出力する。画素信号S12は、読み出し配線56を介して画素信号処理回路13へ伝送される。
 図5Dに示す画素50dでは、フォトダイオード51a~フォトダイオード51cが、光電変換膜511と、透明電極512と、下部電極513と、を有する。光電変換膜511は、有機光電変換膜または無機光電変換膜である。透明電極512は、光電変換膜511の上面に配置されている。下部電極513は、光電変換膜511の上面に配置されている。すなわち、透明電極512は、透明電極512と下部電極513との間に挟まれている。例えば、光電変換膜511が、透明電極512の電圧をコントロールすることで、グローバルシャッタが実現されている。
 フォトダイオード51a~フォトダイオード51cの光電変換膜511で光電変換された電荷は、転送トランジスタ52a~転送トランジスタ52cによって、それぞれ増幅トランジスタ54へ転送される。増幅トランジスタ54は、フォトダイオード51に蓄積された電荷量に応じた画素信号S12を選択トランジスタ55へ出力する。選択トランジスタ55は、画素信号S12を読み出し配線56へ出力する。画素信号S12は、読み出し配線56を介して画素信号処理回路13へ伝送される。各フォトダイオードの電位は、リセットトランジスタ53によって、リセットされる。
 図5Eに示す画素50eは、明るさの変化を出力するDVS(Dynamic Vision Sensor)画素の一例である。画素50eは、対数変換回路510、バッファ回路520、減算回路530、および量子化回路540を有する。
 対数変換回路510は、フォトダイオード51と、Nチャネル型のMOSトランジスタ514と、Pチャネル型のMOSトランジスタ515と、Nチャネル型のMOSトランジスタ516と、を有する。フォトダイオード51およびMOSトランジスタ514は、直列に接続されている。また、MOSトランジスタ515およびMOSトランジスタ516も直列に接続されている。さらに、MOSトランジスタ514のゲートが、MOSトランジスタ515のドレインおよびMOSトランジスタ516のドレインに接続されている。対数変換回路510では、フォトダイオード51で光電変換された電荷を、対数出力の電圧Vlogに変換する。
 バッファ回路520は、Pチャネル型のMOSトランジスタ521と、Pチャネル型のMOSトランジスタ522と、を有する。MOSトランジスタ521およびMOSトランジスタ522は、直列に接続されている。バッファ回路520は、MOSトランジスタ522のゲートに入力された電圧Vlogに対してインピーダンス変換を行ったソースフォロワ電圧VSFを出力する。
 減算回路530は、Pチャネル型のMOSトランジスタ531と、Pチャネル型のMOSトランジスタ532と、Nチャネル型のMOSトランジスタ533と、キャパシタ534と、キャパシタ535と、を有する。MOSトランジスタ532およびMOSトランジスタ533は直列に接続されている。MOSトランジスタ532のゲートには、キャパシタ534が接続されている。MOSトランジスタ532のゲートとドレインとの間には、MOSトランジスタ531よびキャパシタ535が並列に接続されている。減算回路530は、前の信号との差分電圧Vdiffを出力する。
 量子化回路540は、Pチャネル型のMOSトランジスタ541と、Nチャネル型のMOSトランジスタ542と、Pチャネル型のMOSトランジスタ543と、Nチャネル型のMOSトランジスタ544と、を有する。MOSトランジスタ541およびMOSトランジスタ542が直列に接続されている。また、MOSトランジスタ543およびMOSトランジスタ544も直列に接続されている。量子化回路540では、MOSトランジスタ541およびMOSトランジスタ543の各々のゲートに入力された差分電圧Vdiffと2つのしきい値と比較される。その後、比較結果(VO(+)、VO(-))が画素信号S12として読み出し配線56を介して画素信号処理回路13に伝送される。画素信号処理回路13は、画素信号S12に基づいて、「+1」、「0」、「-1」を判定する。
 画素アレイ部11に配列される画素は、図5A~図5Eに示す画素50a~画素50eに限定されない。例えば、画素アレイ部11には、各画素の画素信号S12を加算する、いわゆる畳み込み画素が配列されていてもよい。また、画素アレイ部11には、上述したCMOSイメージセンサやDVSの他に、偏光センサまたはマルチスペクトルセンサが配列されていてもよい。
 偏光センサは、フォトダイオード51に入射する光を偏光する回析素子をさらに有する。一方、マルチスペクトルセンサは、フォトダイオード51に入射する光を色分解するカラーフィルタをさらに有する。
 図6は、画素信号処理回路13に含まれるのADC(Analog to Digital Converter)の回路構成の一例を示す図である。図6に示すADCは、複数のコンパレータ131と、複数のカウンタ132と、複数のラッチ回路133と、を有する。
 コンパレータ131の非反転入力端子には、上述した画素50a~50eのいずれかに相当する画素50の画素信号S12が入力される。反転入力端子には、三角波のランプ信号RAMPが入力される。各コンパレータ131は、画素信号S12とランプ信号RAMPとの比較結果を出力する。各カウンタ132は、コンパレータ131の出力端子に接続されている。各カウンタ132は、コンパレータ131の出力レベルの変化時間をカウントする。各ラッチ回路133は、各カウンタ132のカウント結果を保持する。
 なお、画素信号処理回路13に含まれるADCは、図6に示すシングルスロープADCに限定されない。画素信号処理回路13は、例えば、画素ごとに画素信号S12を処理する画素ADC、1つのカウンタ132で複数のコンパレータ131の比較時間をカウントするカラムADC、積分回路を有する2重積分型ADC、逐次比較型(SAR)ADC、またはΔΣ型ADC等を含んでいてもよい。また、ADCの解像度も、例えば1ビット~12ビットの範囲内で適宜選択することができる。
 図7は、メモリアレイ部21の概略的な回路構成を示す図である。図7に示すように、メモリアレイ部21には、複数のメモリセル71が2次元状に配置されている。各メモリセル71は、信号配線72と読み出し配線73との交点近傍に配置される。なお、メモリセル71は、3次元状に配置されていてもよい。この場合、複数のメモリセル71が、X方向、Y方向、およびZ方向に配置される。
 メモリセル71には、例えば、抵抗変化型メモリ(ReRAM:Resistive Random Access Memory)、相変化メモリ(PCM:Phase Change Memory)、磁気抵抗メモリ(MRAM:Magneto resistive Random Memory)、または強誘電体メモリ(FeRAM:Ferroelectric Random Access Memory)などを適用することができる。また、メモリセル71は、SRAM(Static Random Access Memory)や、不揮発性メモリであってもよい。
 メモリセル71には、メモリ値(例えば、+1、-1、0.5)が保持されている。メモリアレイ部21は、各メモリセル71のメモリ値と、CIM入力制御回路22から信号配線72を介して入力信号として入力されるメモリセル制御信号S14の信号値と、を乗算する。続いて、メモリアレイ部21は、乗算結果を、読み出し配線73を通じて行単位または列単位で順次に加算する。これにより、積和演算結果を示すデジタル方式の畳み込み信号S15が、CIM読み出し回路23に読み出される。畳み込み信号S15がアナログ方式の場合には、信号配線72を介した入力信号とメモリ値が乗算された後、読み出し配線73上で、電荷が加算されて畳み込み信号S15がCIM読み出し回路23に読み出される。このとき、全ての信号配線72に一括で入力信号を入力することができ、CIM読み出し回路23がカラムADCの場合には、全ての読み出し配線73から一括で畳み込み信号S15を読み出すことも可能となる。
 図8Aは、画素信号S12の読み出し配線56および畳み込み信号S15の読み出し配線73の配置関係の一例を示す断面図である。図8Aでは、読み出し配線56は、第1基板101の底面(裏面)側に配置され、読み出し配線73は、第2基板102の上面(表面)側に配置される。そのため、読み出し配線56および読み出し配線73は、各々の一部が積層方向(Z方向)で互いに対向するように配置される。
 図8Bは、画素信号S12の読み出し配線56および畳み込み信号S15の読み出し配線73の配置関係の別の一例を示す断面図である。図8Bでは、読み出し配線56は、第1基板101の底面(裏面)側に配置される一方で、読み出し配線73は、第2基板102の底面(裏面)側に配置される。そのため、読み出し配線73は、第2基板102を挟んで読み出し配線56と対向するように配置される。図8Bにおいて、第2基板102が、ガラス基板等の絶縁基板である場合、シールドが設けられていることが好ましい。また、第1基板101と第2基板102とは、積層されるため、撮像装置1の小型化のために第2基板102は、薄い方が好ましい。ただし、第2基板102は、読み出し配線56と読み出し配線73との間における干渉ノイズを遮蔽するのに適した材料で形成し、また、ノイズ遮蔽に十分な厚さを確保することが好ましい。
 以上説明した本実施形態によれば、画素アレイ部11が形成された第1基板101と、メモリアレイ部21が形成された第2基板102とが、積層されている。画素アレイ部11およびメモリアレイ部21の積層配置によって、画素アレイ部11からメモリアレイ部21までの画素信号S12の伝送距離が短くなる。これにより、撮像装置1の低電力化を実現することができる。また、上記積層配置は、チップ全体のレイアウトの小型化に寄与し、この小型化も撮像装置1の低電力化に貢献する。
 その一方で、画素アレイ部11とメモリアレイ部21とが積層配置されると、画素信号S12の読み出し配線56と、畳み込み信号S15の読み出し配線73との間で干渉ノイズが発生する可能性がある。
 そこで、本実施形態では、読み出し配線56と読み出し配線73とを互いに交差して配置させる。すなわち、画素信号S12の出力方向を、畳み込み信号S15の出力方向に交差させる。そのため、読み出し配線56と読み出し配線73との間における干渉ノイズを低減することができる。その結果、画素信号S12および畳み込み信号S15の両方の品質が向上するため、DNNの演算精度を高めることが可能となる。
 (第2実施形態)
 以下、第2実施形態について、第1実施形態と異なる点を中心に説明する。本実施形態では、第1実施形態と同様の構成要素には、同じ符号を付し、詳細な説明を省略する。
 図9A~図9Gは、第2実施形態に係る撮像装置の回路レイアウトの一例を示す図である。なお、各図の第2基板102には、スペースの都合上、画素制御回路12、画素信号処理回路13、ロジック回路15、CIM入力制御回路22、およびCIM読み出し回路23のみを示し、他の回路の記載を省略している。
 本実施形態では、図9A~図9Gに示すように、画素信号S12の出力方向は、畳み込み信号S15の出力方向に平行である。すなわち、画素信号S12の読み出し配線56(出力配線)が、畳み込み信号S15の読み出し配線73(出力配線)に平行である。
 さらに、本実施形態では、画素信号S12の読み出し配線56と畳み込み信号S15の読み出し配線73との間で発生する干渉ノイズを抑制するために、第1基板101と第2基板102との間にメタルシールド配線81が配置される。メタルシールド配線81は、例えばアルミニウム(Al)、銅(Cu)、またはタングステン(W)等の金属を含む。メタルシールド配線81の電位は、第1基板101または第2基板102の電源電位であってもよいし、接地電位であってもよい。電源ノイズを考慮すると、メタルシールド配線81は、接地されていることが好ましい。
 図9Aに示すレイアウトを図2Aに示すレイアウトと対比すると、第2基板102においてCIM入力制御回路22の位置とCIM読み出し回路23の位置が入れ替わっている。
 図9Bに示すレイアウトを図2Bに示すレイアウトと対比すると、第2基板102においてCIM入力制御回路22の位置とCIM読み出し回路23の位置が入れ替わっている。
 また、図9Bでは、メモリアレイ部21の平面領域の形状が図9Aに示すレイアウトと異なる。図9Aでは、メモリアレイ部21の平面領域は、X方向を短辺方向、Y方向を長辺方向とする矩形である。一方、図9Bに示す平面領域は、メモリアレイ部21の平面領域は、X方向を長辺方向、Y方向を短辺方向とする矩形である。
 本実施形態においても、メモリアレイ部21の平面領域は、正方形であってもよく、積和演算の仕様に応じて決定される。例えば、畳み込み信号S15の出力チャネル数が多い場合には、多数の読み出し配線73が必要になる。この場合、図9Aに示すメモリアレイ部21の矩形が好ましい。
 図9Cに示すレイアウトを図2Cに示すレイアウトと対比すると、第2基板102においてCIM入力制御回路22の位置とCIM読み出し回路23の位置が入れ替わっている。このレイアウトでも、メモリアレイ部21の中心は、画素アレイ部11の中心からX方向にずれているが、画素アレイ部11の中心位置とメモリアレイ部21の中心位置とは、信号配線や電源配線のレイアウトに応じて最適化すればよい。
 図9Dに示すレイアウトを図2Dに示すレイアウトと対比すると、第2基板102においてCIM入力制御回路22の位置とCIM読み出し回路23の位置が異なっている。CIM入力制御回路22は、畳み込み信号S15の出力方向に沿って配置される。一方、CIM読み出し回路23は、メモリアレイ部21と画素信号処理回路13bとの間に配置される。本実施形態においても、画素信号S12の出力方向は、+X方向および-X方向の多方向であってもよい。また、画素信号S12の出力方向に応じて、画素信号S12の処理を、画素信号処理回路13aと画素信号処理回路13bとに分散してもよい。
 図9Eに示すレイアウトを図2Eに示すレイアウトと対比すると、第2基板102においてCIM入力制御回路22の位置とCIM読み出し回路23の位置が入れ替わっている。本実施形態でも、このレイアウトに示すように、画素信号S12および畳み込み信号S15の各々の出力方向が多方向であってもよい。
 図9Fでは、図2Fに示すレイアウト同様に、画素信号S12が、画素アレイ部11の中央部、すなわち第1基板1010の中央部に向かって伝送される。また、画素信号処理回路13は、第2基板102の中央部に配置される。これにより、画素アレイ部11および画素信号処理回路13は、第1基板101および第2基板102の各々の中央部で電気的に接続される。
 図9Gに示すレイアウトを図2Gに示すレイアウトと対比すると、第2基板102においてCIM入力制御回路22の位置とCIM読み出し回路23の位置が入れ替わっている。本実施形態でも、第2基板102において、複数のメモリアレイ部21をY方向に配列するタイリング構造を採用してもよい。また、本実施形態でも、複数のメモリアレイ部21が、Y方向だけでなくX方向にも配列されるタイリング構造を採用してもよく(図3A参照)、CIM読み出し回路23がメモリアレイ部21毎に設けられていてもよい(図3B参照)。
 図10A~図10Fは、画素信号S12の読み出し配線56および畳み込み信号S15の読み出し配線73に対するメタルシールド配線81の配置関係の一例を示す断面図である。
 図10Aでは、読み出し配線56の幅W1は、読み出し配線73の幅W2よりも広い。そのため、メタルシールド配線81の幅W3は、幅広の読み出し配線56と同じである。なお、読み出し配線73の幅W2が読み出し配線56の幅W1よりも広い場合には、メタルシールド配線81の幅W3は、読み出し配線73の幅W2と同じになる。
 図10Bでは、読み出し配線56、読み出し配線73、およびメタルシールド配線81の中でメタルシールド配線81の幅W3が最も広い。この場合、図10Aに示す読み出し配線73よりも、より一層干渉ノイズを低減することができる。
 図10Cでは、メタルシールド配線81が、メタルシールド配線81aおよびメタルシールド配線81bを積層した多層配線である。メタルシールド配線81aおよびメタルシールド配線81bは、各々の一部が重なり合うように、Y方向にずらして配置される。そのため、読み出し配線56と読み出し配線73との間において、メタルシールド配線同士の隙間が無くなる。この場合、図10Bに示す読み出し配線73よりも、より一層干渉ノイズを低減することができる。なお、メタルシールド配線81の層数は、2層に限定されず、3層以上であってもよい。
 図10Dでは、読み出し配線56の数が、読み出し配線73の数よりも多い。また、読み出し配線73の幅W2は、読み出し配線56の幅W1よりも広い。このように、読み出し配線56と読み出し配線73との間における配線数が異なる場合には、メタルシールド配線81の幅W3は、干渉ノイズが発生しやすい幅広の読み出し配線(図10Dでは読み出し配線73)の幅と同じかまたは広くなる。その結果、読み出し配線56と読み出し配線73との間における配線数が異なっていても、干渉ノイズを効果的に低減することができる。
 図10Eでは、読み出し配線56の中心ピッチP1が、読み出し配線73の中心ピッチP2よりも小さい。また、読み出し配線73の幅W2は、読み出し配線56の幅W1よりも広い。このように、読み出し配線56と読み出し配線73との間における中心ピッチが異なる場合には、メタルシールド配線81の幅W3は、干渉ノイズが発生しやすい幅広の読み出し配線(図10Eでは読み出し配線73)の幅と同じかまたは広くなりる。さらに、メタルシールド配線81の中心ピッチP3も、幅広の読み出し配線の中心ピッチと同じになる。その結果、読み出し配線56と読み出し配線73との間における中心ピッチが異なっていても、干渉ノイズを効果的に低減することができる。
 図10Fでは、読み出し配線73の幅W2は、読み出し配線56の幅W1よりも広い。さらに、読み出し配線56とメタルシールド配線81との間隔D1は、読み出し配線73とメタルシールド配線81との間隔D2よりも大きい。このように、読み出し配線56と読み出し配線73との間における幅が異なっている場合には、メタルシールド配線81は、干渉ノイズが発生しやすい幅広の読み出し配線(図10Eでは読み出し配線73)の近くに配置される。その結果、間隔D1と間隔D2とが等しい場合、すなわち、読み出し配線56と読み出し配線73との中間にメタルシールド配線81を配置する形態に比べて、干渉ノイズをより効果的に低減することができる。
 図11は、画素信号S12の読み出し配線56および畳み込み信号S15の読み出し配線73に対するメタルシールド配線81の配置関係の別の一例を示す平面図である。
 上述した図10Cでは、メタルシールド配線81bおよびメタルシールド配線81bは、読み出し配線56および読み出し配線73と平行にX方向に延びる。一方、図11では、メタルシールド配線81aおよびメタルシールド配線81bは、読み出し配線56および読み出し配線73に垂直なY方向に延びる。すなわち、メタルシールド配線81aおよびメタルシールド配線81bは、画像信号S13および畳み込み信号S15の出力方向に垂直である。
 また、図11では、メタルシールド配線81aおよびメタルシールド配線81bは、各々の一部が重なり合うようにX方向にずらして配置される。これにより、読み出し配線56と読み出し配線73との間において、メタルシールド配線同士の隙間が無くなる。よって、より一層干渉ノイズを低減することができる。
 図12Aは、本実施形態における画素信号S12の読み出し配線56および畳み込み信号S15の読み出し配線73の配置関係の一例を示す断面図である。図12Aでは、読み出し配線56は、第1基板101の底面側に配置され、読み出し配線73は、第2基板102の上面側に配置される。そのため、読み出し配線56および読み出し配線73は、メタルシールド配線81を挟んで積層方向(Z方向)で互いに対向するように配置される。
 図12Bは、画素信号S12の読み出し配線56および畳み込み信号S15の読み出し配線73の配置関係の別の一例を示す断面図である。図12Bでは、読み出し配線56は、第1基板101の底面(裏面)側に配置される一方で、読み出し配線73は、第2基板102の底面(裏面)側に配置される。そのため、読み出し配線73は、第2基板102およびメタルシールド配線81を挟んで読み出し配線56と対向するように配置される。この場合も、図8Bに示す配置と同様に、第2基板102は、読み出し配線56と読み出し配線73との間における干渉ノイズを遮蔽するのに適した材料で形成し、また、ノイズ遮蔽に十分な厚さを確保することが好ましい。
 以上説明した本実施形態においても、第1実施形態と同様に、第1基板101と第2基板102とが積層されているので、画素アレイ部11からメモリアレイ部21までの画素信号S12の伝送距離が短くなる。これにより、撮像装置1の低電力化を実現することができる。また、上記積層配置は、チップ全体のレイアウトの小型化に寄与し、この小型化も撮像装置1の低電力化に貢献する。
 その一方で、本実施形態では、画素信号S12の読み出し配線56と、畳み込み信号S15の読み出し配線73とが互いに平行であるため、両配線間で干渉ノイズが発生する可能性がある。
 そこで、本実施形態では、読み出し配線56と読み出し配線73との間にメタルシールド配線81を配置させる。そのため、両配線間の干渉ノイズを低減することができる。その結果、画素信号S12および畳み込み信号S15の両方の品質が向上するため、DNNの演算精度を高めることが可能となる。
 なお、第2実施形態で説明したメタルシールド配線81は、上述した第1実施形態に係る撮像装置1に設けられていてもよい。この場合、読み出し配線56と読み出し配線73との間における干渉ノイズをより一層低減することが可能となる。
 (第3実施形態)
 以下、第3実施形態について、第1実施形態と異なる点を中心に説明する。本実施形態では、第1実施形態と同様の構成要素には、同じ符号を付し、詳細な説明を省略する。
 図13A~図13Dは、第3実施形態に係る撮像装置の回路レイアウトの一例を示す図である。
 図13A~図13Dでは、第1基板101には、画素アレイ部11が配置される。また、第2基板102には、メモリアレイ部21、CIM入力制御回路22、およびCIM読み出し回路23が配置される。さらに、本実施形態に係る撮像装置は、第3基板103も有する。第3基板103には、画素制御回路12、画素信号処理回路13、およびロジック回路15が配置される。
 図13Aでは、第3基板103は、第1基板101と第2基板102との間に積層される。また、画素信号処理回路13は、画素列単位で画素信号処理回路13を処理するシングルスロープADCを含む。
 図13Bでも、図13Aと同様に、第3基板103は第1基板101と第2基板102との間に積層される。その一方で、画素信号処理回路13は、画素ごとに画素信号処理回路13を処理する画素ADCを含む。そのため、第3基板103内に占める画素信号処理回路13の面積が、図13Aに示す画素信号処理回路13の面積よりも大きい。
 図13Cは、第2基板102と第3基板103との位置が入れ替わっている点を除いて図13Aと同じである。すなわち、図13Cでは、第1基板101と第3基板103との間に第2基板102が積層される。
 図13Dは、第2基板102と第3基板103との位置が入れ替わっている点を除いて図13Bと同じである。本実施形態では、画素アレイ部11を搭載した第1基板101が最上層に配置されれば、第2基板102および第3基板103の積層順序は入れ替わってもよい。
 図14Aは、本実施形態における画素信号S12の読み出し配線56および畳み込み信号S15の読み出し配線73の配置関係の一例を示す断面図である。図13Aおよび図13Bに示すように、第3基板103が第1基板101と第2基板102との間に積層される場合には、図14Aに示すように、読み出し配線56および読み出し配線73は、各々の一部が第3基板103を挟んで積層方向で互いに対向するように配置される。
 また、第3基板103には、画素信号処理回路13で処理された画像信号S13をCIM入力制御回路22へ伝送するための信号配線80が形成されている。信号配線80と読み出し配線73との間における干渉ノイズを低減するため、信号配線80も、読み出し配線56と同様に、読み出し配線73に垂直であることが好ましい。
 図14Bは、本実施形態における画素信号S12の読み出し配線56および畳み込み信号S15の読み出し配線73の配置関係の別の一例を示す断面図である。図13Cおよび図13Dに示すように、第2基板102が第1基板101と第3基板103との間に積層される場合には、読み出し配線56および読み出し配線73は、各々の一部が積層方向(Z方向)で互いに対向するように配置される。なお、この場合も、信号配線80は、読み出し配線56と同様に、読み出し配線73に垂直であることが好ましい。これにより、信号配線80と読み出し配線73との間における干渉ノイズを低減することができる。なお、本実施形態では、撮像装置を構成する回路要素を、互いに積層された4つ以上の基板に配置することも可能である。この場合、画素アレイ部11を搭載した第1基板101が、最上層に配置されれば、他の基板の配置は、順不同である。
 以上説明した本実施形態によれば、第1基板101と第2基板102と、第3基板103とが積層されているので、画素アレイ部11からメモリアレイ部21までの画素信号S12の伝送距離が短くなる。これにより、撮像装置1の低電力化を実現することができる。
 また、本実施形態では、第1実施形態と同様に、読み出し配線56と読み出し配線73とが互いに交差しているので、両配線間の干渉ノイズを低減することができる。その結果、特に、画素信号S12および畳み込み信号S15の両方の品質が向上するため、DNNの演算精度を高めることが可能となる。
 (第4実施形態)
 図15は、第4実施形態に係る撮像装置の構成を示すブロック図である。本実施形態に係る撮像装置4は、第1実施形態に係る撮像装置1の構成要素に加えて、スイッチ41をさらに備える。
 スイッチ41は、画素信号処理回路13とCIM入力制御回路22との間に配置される。
 画像データを積和演算する場合には、スイッチ41は、ロジック回路15の制御に基づいて、画素信号処理回路13とCIM入力制御回路22とを接続する。また、画像信号S13を撮像装置4の外部へ出力する場合には、スイッチ41は、ロジック回路15の制御に基づいて、画素信号処理回路13と入出力部33とを接続する。この場合、画像信号S13は、入出力部33を介して外部へ出力される。なお、本実施形態では、スイッチ41は、画素信号処理回路13とCIM入力制御回路22との間に設けられているが、CIM入力制御回路22内に設けられていてもよい。
 以上説明した本実施形態では、スイッチ41が、画素信号処理回路13で生成された画像信号S13の出力先を、CIM入力制御回路22または入出力部33に切り替えることができる。そのため、使用目的に応じて画像信号S13の提供先を選択することができる。
 (第5実施形態)
 図16は、第5実施形態に係る電子機器の構成の一例を示す図である。本実施形態に係る電子機器200は、カメラシステムであり、図16に示すように、撮像装置210と、レンズ220と、駆動回路(DRV)230と、信号処理回路(PRC)240と、を備える。
 撮像装置210には、上述した第1実施形態~第4実施形態に係る撮像装置のいずれかを適用することができる。レンズ220は、入射光(像光)を撮像面上に結像させる。
 駆動回路230は、撮像装置210内の回路を駆動するスタートパルスやクロックパルスを含む各種のタイミング信号を生成するタイミングジェネレータ(不図示)を有し、所定のタイミング信号で撮像装置210を駆動する。
 また、信号処理回路240は、撮像装置210の出力信号に対して所定の信号処理を施す。信号処理回路240で処理された画像信号は、たとえばメモリなどの記録媒体に記録される。記録媒体に記録された画像情報は、プリンタなどによってハードコピーされる。また、信号処理回路240で処理された画像信号を液晶ディスプレイ等からなるモニターに動画として映し出される。
 上述した本実施形態によれば、デジタルスチルカメラ等の電子機器200において、上述した各実施形態に係る撮像装置を撮像装置210として搭載することで、高精度な撮像機能を実現することができる。
 <移動体への応用例>
 本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
 図17は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
 車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図17に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、および統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、および車載ネットワークI/F(Interface)12053が図示されている。
 駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、および、車両の制動力を発生させる制動装置等の制御装置として機能する。
 ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
 車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
 撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
 車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
 マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
 また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
 また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12030に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
 音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声および画像のうちの少なくとも一方の出力信号を送信する。図17の例では、出力装置として、オーディオスピーカ12061、表示部12062およびインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイおよびヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
 図18は、撮像部12031の設置位置の例を示す図である。
 図18では、撮像部12031として、撮像部12101、12102、12103、12104、12105を有する。
 撮像部12101、12102、12103、12104、12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドアおよび車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101および車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102、12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部12105は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
 なお、図18には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲1211212113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
 撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
 例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
 例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
 撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
 以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば撮像部12031に適用され得る。具体的には、第1実施形態~第4実施形態に係る撮像装置は、撮像部12031に適用することができる。本開示に係る技術を適用することにより、低ノイズの撮像性能を有する撮影画像を得ることができるため、画像品質を向上することが可能になる。
 なお、本技術は以下のような構成を取ることができる。
(1) 入射光を光電変換した画素信号を第1方向に出力する画素アレイ部が配置される第1基板と、
 前記画素信号に基づく入力信号を積和演算した結果を示す畳み込み信号を第2方向に出力するメモリアレイ部が配置される第2基板と、を備え、
 前記第1基板および前記第2基板の少なくとも一部が互いに重なり合う、撮像装置。
(2) 前記第1方向が前記第2方向と交差する、(1)に記載の撮像装置。
(3) 前記第1方向が前記第2方向と平行であり、
 前記第1基板と前記第2基板との間に配置されるメタルシールド配線をさらに備える、(1)に記載の撮像装置。
(4) 前記画素信号および前記畳み込み信号の少なくとも一方がアナログ信号である、(1)から(3)のいずれかに記載の撮像装置。
(5) 前記画素アレイ部を制御する画素制御回路と、
 前記画素アレイ部から読み出した前記画素信号を処理する画素信号処理回路と、
 前記メモリアレイ部を制御するCIM入力制御回路と、
 前記メモリアレイ部から読み出した前記畳み込み信号を処理するCIM読み出し回路と、をさらに備える、(1)から(4)のいずれかに記載の撮像装置。
(6) 前記画素制御回路は、前記第1方向に平行な方向に配置され、
 前記画素信号処理回路は、前記第1方向に垂直な方向に配置され、
 前記CIM入力制御回路は、前記第2方向に平行な方向に配置され、
 前記CIM読み出し回路は、前記第2方向に垂直な方向に配置される、(5)に記載の撮像装置。
(7) 前記画素制御回路および前記画素信号処理回路が配置される第3基板をさらに備える、(5)に記載の撮像装置。
(8) 前記第3基板が前記第1基板と前記第2基板との間に配置されるか、または前記第2基板が前記第1基板と前記第3基板との間に配置される、(7)に記載の撮像装置。
(9) 前記第2基板において、前記画素制御回路と前記CIM読み出し回路とが、前記メモリアレイ部を挟んで互いに対向配置され、かつ、前記画素信号処理回路と前記CIM入力制御回路とが、前記メモリアレイ部を挟んで互いに対向配置される、(5)に記載の撮像装置。
(10) 複数の前記メモリアレイ部が、前記第1方向と前記第2方向の少なくとも一方に配列される、(1)から(9)のいずれかに記載の撮像装置。
(11) 前記メモリアレイ部の平面領域が矩形であり、前記第2方向が前記矩形の長辺方向である、(2)に記載の撮像装置。
(12) 前記メモリアレイ部の平面領域が矩形であり、前記第2方向が前記矩形の短辺方向である、(3)に記載の撮像装置。
(13) 前記画素アレイ部および前記画素信号処理回路が、前記第1基板および前記第2基板の各々の中央部で電気的に接続される、(5)に記載の撮像装置。
(14) 前記画素信号を読み出すための第1読み出し配線の幅が、前記畳み込み信号を読み出すための第2読み出し配線の幅と異なり、
 前記メタルシールド配線の幅が、前記第1読み出し配線および前記第2読み出し配線の中で幅広の読み出し配線の幅と同じかまたは広い、(3)に記載の撮像装置。
(15) 前記メタルシールド配線が、多層配線であり、各々のメタルシールド配線の一部が重なり合っている、(14)に記載の撮像装置。
(16) 前記メタルシールド配線は、前記第1読み出し配線および前記第2読み出し配線の中で幅広の読み出し配線の近くに配置される、(14)に記載の撮像装置。
(17) 前記メタルシールド配線は、前記第1読み出し配線および前記第2読み出し配線に垂直である、(14)に記載の撮像装置。
(18) 信号を入出力する入出力部と、
 前記画素信号処理回路で生成された画像信号の出力先を、前記CIM入力制御回路または前記入出力部に切り替えるスイッチと、をさらに備える、(5)に記載の撮像装置。
(19) 入射光を光電変換した画素信号を第1方向に出力する画素アレイ部が配置される第1基板と、前記画素信号に基づく入力信号を積和演算した結果を示す畳み込み信号を第2方向に出力するメモリアレイ部が配置される第2基板と、を有し、前記第1基板および前記第2基板の少なくとも一部が互いに重なり合う撮像装置を備える、電子機器。
(20) 第1基板に配置される画素アレイ部で入射光を光電変換した画素信号を第1方向に出力し、
 少なくとも一部が前記第1基板と重なり合う第2基板に配置されるメモリアレイ部で、前記画素信号に基づく入力信号を積和演算した結果を示す畳み込み信号を第2方向に出力する、
 信号処理方法。
 1、4:撮像装置
 11:画素アレイ部
 12:画素制御回路
 13:画素信号処理回路
 21:メモリアレイ部
 22:CIM入力制御回路
 23:CIM読み出し回路
 33:入出力部
 41:スイッチ
 56:読み出し配線
 73:読み出し配線
 81:メタルシールド配線
 101:第1基板
 102:第2基板
 103:第3基板

Claims (20)

  1.  入射光を光電変換した画素信号を第1方向に出力する画素アレイ部が配置される第1基板と、
     前記画素信号に基づく入力信号を積和演算した結果を示す畳み込み信号を第2方向に出力するメモリアレイ部が配置される第2基板と、を備え、
     前記第1基板および前記第2基板の少なくとも一部が互いに重なり合う、撮像装置。
  2.  前記第1方向が前記第2方向と交差する、請求項1に記載の撮像装置。
  3.  前記第1方向が前記第2方向と平行であり、
     前記第1基板と前記第2基板との間に配置されるメタルシールド配線をさらに備える、請求項1に記載の撮像装置。
  4.  前記画素信号および前記畳み込み信号の少なくとも一方がアナログ信号である、請求項1に記載の撮像装置。
  5.  前記画素アレイ部を制御する画素制御回路と、
     前記画素アレイ部から読み出した前記画素信号を処理する画素信号処理回路と、
     前記メモリアレイ部を制御するCIM入力制御回路と、
     前記メモリアレイ部から読み出した前記畳み込み信号を処理するCIM読み出し回路と、をさらに備える、請求項1に記載の撮像装置。
  6.  前記画素制御回路は、前記第1方向に平行な方向に配置され、
     前記画素信号処理回路は、前記第1方向に垂直な方向に配置され、
     前記CIM入力制御回路は、前記第2方向に平行な方向に配置され、
     前記CIM読み出し回路は、前記第2方向に垂直な方向に配置される、請求項5に記載の撮像装置。
  7.  前記画素制御回路および前記画素信号処理回路が配置される第3基板をさらに備える、請求項5に記載の撮像装置。
  8.  前記第3基板が前記第1基板と前記第2基板との間に配置されるか、または前記第2基板が前記第1基板と前記第3基板との間に配置される、請求項7に記載の撮像装置。
  9.  前記第2基板において、前記画素制御回路と前記CIM読み出し回路とが、前記メモリアレイ部を挟んで互いに対向配置され、かつ、前記画素信号処理回路と前記CIM入力制御回路とが、前記メモリアレイ部を挟んで互いに対向配置される、請求項5に記載の撮像装置。
  10.  複数の前記メモリアレイ部が、前記第1方向と前記第2方向の少なくとも一方に配列される、請求項1に記載の撮像装置。
  11.  前記メモリアレイ部の平面領域が矩形であり、前記第2方向が前記矩形の長辺方向である、請求項2に記載の撮像装置。
  12.  前記メモリアレイ部の平面領域が矩形であり、前記第2方向が前記矩形の短辺方向である、請求項3に記載の撮像装置。
  13.  前記画素アレイ部および前記画素信号処理回路が、前記第1基板および前記第2基板の各々の中央部で電気的に接続される、請求項5に記載の撮像装置。
  14.  前記画素信号を読み出すための第1読み出し配線の幅が、前記畳み込み信号を読み出すための第2読み出し配線の幅と異なり、
     前記メタルシールド配線の幅が、前記第1読み出し配線および前記第2読み出し配線の中で幅広の読み出し配線の幅と同じかまたは広い、請求項3に記載の撮像装置。
  15.  前記メタルシールド配線が、多層配線であり、各々のメタルシールド配線の一部が重なり合っている、請求項14に記載の撮像装置。
  16.  前記メタルシールド配線は、前記第1読み出し配線および前記第2読み出し配線の中で幅広の読み出し配線の近くに配置される、請求項14に記載の撮像装置。
  17.  前記メタルシールド配線は、前記第1読み出し配線および前記第2読み出し配線に垂直である、請求項14に記載の撮像装置。
  18.  信号を入出力する入出力部と、
     前記画素信号処理回路で生成された画像信号の出力先を、前記CIM入力制御回路または前記入出力部に切り替えるスイッチと、をさらに備える、請求項5に記載の撮像装置。
  19.  入射光を光電変換した画素信号を第1方向に出力する画素アレイ部が配置される第1基板と、前記画素信号に基づく入力信号を積和演算した結果を示す畳み込み信号を第2方向に出力するメモリアレイ部が配置される第2基板と、を有し、前記第1基板および前記第2基板の少なくとも一部が互いに重なり合う撮像装置を備える、電子機器。
  20.  第1基板に配置される画素アレイ部で入射光を光電変換した画素信号を第1方向に出力し、
     少なくとも一部が前記第1基板と重なり合う第2基板に配置されるメモリアレイ部で、前記画素信号に基づく入力信号を積和演算した結果を示す畳み込み信号を第2方向に出力する、
     信号処理方法。
PCT/JP2022/001540 2021-03-08 2022-01-18 撮像装置、電子機器、および信号処理方法 WO2022190644A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
EP22766612.0A EP4307654A1 (en) 2021-03-08 2022-01-18 Imaging device, electronic apparatus, and signal processing method
US18/263,042 US20240088175A1 (en) 2021-03-08 2022-01-18 Imaging device, electronic device, and signal processing method
CN202280018061.3A CN116965054A (zh) 2021-03-08 2022-01-18 成像装置、电子装置和信号处理方法
JP2023505170A JPWO2022190644A1 (ja) 2021-03-08 2022-01-18
KR1020237028992A KR20230154181A (ko) 2021-03-08 2022-01-18 촬상 장치, 전자 기기 및 신호 처리 방법

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021-036638 2021-03-08
JP2021036638 2021-03-08

Publications (1)

Publication Number Publication Date
WO2022190644A1 true WO2022190644A1 (ja) 2022-09-15

Family

ID=83226562

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/001540 WO2022190644A1 (ja) 2021-03-08 2022-01-18 撮像装置、電子機器、および信号処理方法

Country Status (7)

Country Link
US (1) US20240088175A1 (ja)
EP (1) EP4307654A1 (ja)
JP (1) JPWO2022190644A1 (ja)
KR (1) KR20230154181A (ja)
CN (1) CN116965054A (ja)
TW (1) TW202236841A (ja)
WO (1) WO2022190644A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117857942A (zh) * 2024-03-07 2024-04-09 珠海燧景科技有限公司 读出电路、图像传感器及摄像系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017209221A1 (ja) * 2016-05-31 2017-12-07 ソニーセミコンダクタソリューションズ株式会社 撮像装置および撮像方法、カメラモジュール、並びに電子機器
JP2020113809A (ja) 2019-01-08 2020-07-27 ソニー株式会社 固体撮像素子およびその信号処理方法、並びに電子機器
JP2021005846A (ja) * 2019-06-27 2021-01-14 オリンパス株式会社 積層型撮像デバイス、撮像装置、撮像方法、学習方法及び画像読み出し回路

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017209221A1 (ja) * 2016-05-31 2017-12-07 ソニーセミコンダクタソリューションズ株式会社 撮像装置および撮像方法、カメラモジュール、並びに電子機器
JP2020113809A (ja) 2019-01-08 2020-07-27 ソニー株式会社 固体撮像素子およびその信号処理方法、並びに電子機器
JP2021005846A (ja) * 2019-06-27 2021-01-14 オリンパス株式会社 積層型撮像デバイス、撮像装置、撮像方法、学習方法及び画像読み出し回路

Also Published As

Publication number Publication date
US20240088175A1 (en) 2024-03-14
JPWO2022190644A1 (ja) 2022-09-15
KR20230154181A (ko) 2023-11-07
CN116965054A (zh) 2023-10-27
EP4307654A1 (en) 2024-01-17
TW202236841A (zh) 2022-09-16

Similar Documents

Publication Publication Date Title
JP7418934B2 (ja) 光検出素子、電子機器
WO2021117350A1 (ja) 固体撮像素子、および、撮像装置
TW202015395A (zh) 固態攝像裝置及其驅動方法以及電子機器
US11863892B2 (en) Imaging unit and electronic apparatus with first and second light blocking films
WO2022190644A1 (ja) 撮像装置、電子機器、および信号処理方法
US11670625B2 (en) Imaging unit having a stacked structure and electronic apparatus including the imaging unit
WO2022219928A1 (ja) 撮像装置、電子機器、および信号処理方法
JP2020035916A (ja) 撮像装置および電子機器
CN114830633A (zh) 固态摄像元件和电子设备
US20220021853A1 (en) Imaging element and electronic apparatus
WO2023119953A1 (ja) 撮像装置、電子機器、および信号処理方法
JP7129983B2 (ja) 撮像装置
WO2020071103A1 (ja) 半導体装置およびその製造方法、撮像素子
WO2023021780A1 (ja) 撮像装置、電子機器及び情報処理方法
WO2024043068A1 (ja) 固体撮像素子および電子機器
WO2024127854A1 (ja) 撮像素子、撮像素子の製造方法、電子機器
WO2023013178A1 (ja) 固体撮像装置及び電子機器
WO2022158278A1 (ja) 撮像素子、撮像装置
WO2023079999A1 (ja) 撮像素子、電子機器
WO2022209226A1 (ja) 撮像素子、電子機器
WO2022249731A1 (ja) 撮像装置及び電子機器
WO2023032284A1 (ja) 固体撮像装置
WO2023195262A1 (ja) 光検出装置、測距装置、および電子機器
JP2023154356A (ja) 光検出装置および測距装置ならびに撮像装置
TW202422894A (zh) 光偵測器及距離量測裝置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22766612

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2023505170

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 18263042

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 202280018061.3

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 2022766612

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2022766612

Country of ref document: EP

Effective date: 20231009