WO2020036078A1 - 撮像装置、電子機器 - Google Patents
撮像装置、電子機器 Download PDFInfo
- Publication number
- WO2020036078A1 WO2020036078A1 PCT/JP2019/030414 JP2019030414W WO2020036078A1 WO 2020036078 A1 WO2020036078 A1 WO 2020036078A1 JP 2019030414 W JP2019030414 W JP 2019030414W WO 2020036078 A1 WO2020036078 A1 WO 2020036078A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- unit
- imaging device
- conversion
- substrate
- signal
- Prior art date
Links
- 238000006243 chemical reaction Methods 0.000 claims abstract description 104
- 239000000758 substrate Substances 0.000 claims abstract description 73
- 238000003384 imaging method Methods 0.000 claims description 261
- 238000012545 processing Methods 0.000 claims description 135
- 238000000034 method Methods 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 13
- 230000002596 correlated effect Effects 0.000 claims description 6
- 238000005070 sampling Methods 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 abstract description 35
- 230000007423 decrease Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 40
- 238000004891 communication Methods 0.000 description 27
- 238000001514 detection method Methods 0.000 description 22
- 230000006870 function Effects 0.000 description 16
- 239000002775 capsule Substances 0.000 description 14
- 238000001727 in vivo Methods 0.000 description 14
- 230000000875 corresponding effect Effects 0.000 description 12
- 230000003287 optical effect Effects 0.000 description 10
- 238000012546 transfer Methods 0.000 description 10
- 238000002674 endoscopic surgery Methods 0.000 description 9
- 230000005540 biological transmission Effects 0.000 description 8
- 238000009792 diffusion process Methods 0.000 description 8
- 238000007667 floating Methods 0.000 description 8
- 210000001519 tissue Anatomy 0.000 description 8
- 230000006835 compression Effects 0.000 description 7
- 238000007906 compression Methods 0.000 description 7
- 230000007246 mechanism Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000001276 controlling effect Effects 0.000 description 4
- 230000005284 excitation Effects 0.000 description 4
- 238000001356 surgical procedure Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000010336 energy treatment Methods 0.000 description 3
- 230000002427 irreversible effect Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 210000004204 blood vessel Anatomy 0.000 description 2
- 239000003153 chemical reaction reagent Substances 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- MOFVSTNWEDAEEK-UHFFFAOYSA-M indocyanine green Chemical compound [Na+].[O-]S(=O)(=O)CCCCN1C2=CC=C3C=CC=CC3=C2C(C)(C)C1=CC=CC=CC=CC1=[N+](CCCCS([O-])(=O)=O)C2=CC=C(C=CC=C3)C3=C2C1(C)C MOFVSTNWEDAEEK-UHFFFAOYSA-M 0.000 description 2
- 229960004657 indocyanine green Drugs 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 210000000056 organ Anatomy 0.000 description 2
- 238000007639 printing Methods 0.000 description 2
- 240000004050 Pentaglottis sempervirens Species 0.000 description 1
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000001266 bandaging Methods 0.000 description 1
- 230000000740 bleeding effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000002485 combustion reaction Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 230000029142 excretion Effects 0.000 description 1
- 238000002073 fluorescence micrograph Methods 0.000 description 1
- 230000004313 glare Effects 0.000 description 1
- 210000000936 intestine Anatomy 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000003595 mist Substances 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 210000004400 mucous membrane Anatomy 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000008855 peristalsis Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
- 238000007789 sealing Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000002269 spontaneous effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 210000002784 stomach Anatomy 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
- H01L27/14601—Structural or functional details thereof
- H01L27/14609—Pixel-elements with integrated switching, control, storage or amplification elements
- H01L27/14612—Pixel-elements with integrated switching, control, storage or amplification elements involving a transistor
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
- H01L27/14601—Structural or functional details thereof
- H01L27/14634—Assemblies, i.e. Hybrid structures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/616—Noise processing, e.g. detecting, correcting, reducing or removing noise involving a correlated sampling function, e.g. correlated double sampling [CDS] or triple sampling
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/75—Circuitry for providing, modifying or processing image signals from the pixel array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/78—Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/79—Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors
Definitions
- the present technology relates to an imaging device and an electronic device, and for example, relates to an imaging device and an electronic device suitable for miniaturization.
- the stacked imaging device has a structure in which a pixel on which a signal processing circuit is formed is used instead of a support substrate of the imaging device, and a pixel portion is superimposed thereon. It has been proposed to reduce the size of the imaging device by adopting such a configuration.
- a circuit mounted on a chip to be stacked needs to be reduced.
- a circuit mounted on the chip for example, there is an AD conversion circuit.
- This AD conversion circuit has many transistors, and it is difficult to reduce the size. It is desired to reduce the size of the chip on which the AD conversion circuit is mounted and to reduce the size of the stacked imaging device itself.
- the present technology has been made in view of such a situation, and is intended to reduce the chip size and reduce the size of a stacked imaging device.
- a first imaging device includes a pixel circuit that outputs a charge signal generated by receiving incident light and performing photoelectric conversion, and for each pixel circuit, the charge signal and a reference signal.
- An AD conversion unit that outputs a code input signal when the comparison result is inverted as a conversion result, an encoding unit that encodes a conversion result from the AD conversion unit, a holding unit that holds the encoding result,
- An output unit that outputs the encoding result held by the holding unit, wherein the pixel circuit is disposed on a first substrate, and a second substrate stacked below the first substrate includes:
- the AD conversion unit is provided.
- An electronic device compares a charge signal with a reference signal for each pixel circuit, which outputs a charge signal generated by receiving incident light and performing photoelectric conversion.
- An A / D conversion unit that outputs a code input signal when the comparison result is inverted as a conversion result, an encoding unit that encodes a conversion result from the A / D conversion unit, a holding unit that holds the encoding result, and the holding unit
- An output unit that outputs the encoding result held in the first substrate.
- the pixel circuit is disposed on a first substrate, and the AD conversion is performed on a second substrate stacked below the first substrate.
- An imaging device in which the unit is disposed; and a processing unit that processes a signal from the imaging device.
- a second imaging device includes a pixel circuit that outputs a charge signal generated by receiving incident light and performing photoelectric conversion, and for each of the pixel circuits, the charge signal and a reference signal.
- An AD conversion unit that outputs a code input signal when the comparison result is inverted as a conversion result, a holding unit that holds the conversion result from the AD conversion unit, and a conversion result that is held in the holding unit.
- An output unit that outputs the pixel circuit, the pixel circuit and the holding unit or the output unit are disposed on a first substrate, and the AD substrate is disposed on a second substrate that is stacked below the first substrate.
- a conversion unit is provided.
- a third imaging device includes a pixel circuit that outputs a charge signal generated by receiving incident light and performing photoelectric conversion, and for each of the pixel circuits, the charge signal and a reference signal. , An AD conversion unit that outputs a code input signal when the comparison result is inverted as a conversion result, a holding unit that holds the conversion result from the AD conversion unit, and a conversion result that is held in the holding unit. An output unit that outputs the pixel circuit, wherein the pixel circuit is disposed on a first substrate, and the AD conversion unit is disposed on a second substrate laminated below the first substrate; The holding unit and the output unit are arranged on a third substrate laminated below the substrate.
- a pixel circuit that outputs a charge signal generated by receiving incident light and performing photoelectric conversion, and outputs a charge signal and a reference signal for each pixel circuit.
- a comparison unit that outputs a code input signal when the comparison result is inverted as a conversion result, an AD conversion unit that encodes the conversion result from the AD conversion unit, a holding unit that holds the encoding result, and a holding unit
- An electronic apparatus includes the first imaging device.
- a pixel circuit that outputs a charge signal generated by receiving incident light and performing photoelectric conversion, and outputs a charge signal and a reference signal for each pixel circuit.
- AD converter for comparing and outputting the code input signal when the comparison result is inverted as a conversion result
- holding unit for holding the conversion result from the AD converter, and outputting the conversion result held in the holding unit
- An output unit is provided, a pixel circuit and a holding unit or an output unit are arranged on a first substrate, and an AD conversion unit is arranged on a second substrate stacked below the first substrate.
- a pixel circuit that outputs a charge signal generated by receiving incident light and performing photoelectric conversion, and outputs a charge signal and a reference signal for each pixel circuit.
- AD converter for comparing and outputting the code input signal when the comparison result is inverted as a conversion result
- holding unit for holding the conversion result from the AD converter, and outputting the conversion result held in the holding unit
- An output unit is provided, a pixel circuit is arranged on the first substrate, an AD converter is arranged on a second substrate laminated on a lower layer of the first substrate, and an AD converter is arranged on a lower layer of the second substrate.
- the holding unit and the output unit are arranged on the third substrate to be formed.
- the imaging device may be an independent device, or may be an internal block constituting one device.
- the electronic device may be an independent device or an internal block constituting one device.
- the program can be provided by being transmitted via a transmission medium or by being recorded on a recording medium.
- the chip size can be reduced, and the stacked imaging device can be reduced in size.
- FIG. 1 is a diagram illustrating a schematic configuration of an imaging device according to the present disclosure.
- FIG. 3 is a block diagram illustrating a configuration example of a pixel unit.
- FIG. 3 is a circuit diagram of a pixel unit.
- FIG. 2 is a diagram for describing a configuration example of a stacked imaging device.
- FIG. 3 is a diagram for describing a positional relationship between a pixel and an ADC.
- FIG. 4 is a diagram for describing reading of a signal from a pixel.
- FIG. 2 is a diagram illustrating a configuration example of an imaging device according to the first embodiment. It is a figure for explaining that it can be miniaturized.
- FIG. 4 is a diagram for explaining a signal flow.
- FIG. 3 is a block diagram illustrating a configuration example of a pixel unit.
- FIG. 3 is a circuit diagram of a pixel unit.
- FIG. 2 is a diagram for describing a configuration example of a stacked
- FIG. 4 is a diagram illustrating another configuration example of the imaging device according to the first embodiment.
- FIG. 13 is a diagram illustrating a configuration example of an imaging device according to a second embodiment.
- FIG. 4 is a diagram for explaining a signal flow.
- FIG. 13 is a diagram illustrating a configuration example of an imaging device according to a third embodiment. It is a figure for explaining that it can be miniaturized.
- FIG. 4 is a diagram for describing reading of a signal from a pixel.
- FIG. 4 is a diagram for describing reading of a signal from a pixel.
- FIG. 4 is a diagram for describing reading of a signal from a pixel.
- FIG. 14 is a diagram illustrating another configuration example of the imaging device according to the third embodiment.
- FIG. 14 is a diagram illustrating another configuration example of the imaging device according to the third embodiment.
- FIG. 14 is a diagram illustrating a configuration example of an imaging device according to a fourth embodiment.
- FIG. 4 is a diagram for explaining a signal flow.
- FIG. 15 is a diagram illustrating a configuration example of an imaging device according to a fifth embodiment.
- FIG. 4 is a diagram for explaining a signal flow.
- FIG. 3 is a diagram illustrating a configuration of an electronic device. It is a block diagram which shows an example of a schematic structure of an in-vivo information acquisition system. It is a figure showing an example of the schematic structure of an endoscope operation system.
- FIG. 3 is a block diagram illustrating an example of a functional configuration of a camera head and a CCU. It is a block diagram showing an example of a schematic structure of a vehicle control system. It is explanatory drawing which shows an example of the installation position of a vehicle exterior information detection part and an imaging part.
- FIG. 1 illustrates a schematic configuration of an imaging device according to the present disclosure.
- the imaging device 1 of FIG. 1 has a pixel array section 22 in which pixels 21 are arranged in a two-dimensional array on a semiconductor substrate 11 using, for example, silicon (Si) as a semiconductor.
- the imaging apparatus 1 includes a pixel drive circuit 23, a DAC (D / A converter) 24, a vertical drive circuit 25, a sense amplifier unit 26, an output unit 27, and a timing generation circuit 28, in addition to the pixel array unit 22. .
- the pixel 21 includes a pixel circuit 41 and an ADC (A / D converter) 42 therein.
- the pixel circuit 41 has a photoelectric conversion unit that generates and accumulates a charge signal corresponding to the amount of received light, and outputs an analog pixel signal SIG obtained by the photoelectric conversion unit to the ADC 42.
- the ADC 42 converts the analog pixel signal SIG supplied from the pixel circuit 41 into a digital signal.
- the ADC 42 includes a comparator 51 and a latch storage unit 52.
- the comparator 51 compares the reference signal REF supplied from the DAC 24 with the pixel signal SIG, and outputs an output signal VCO as a signal indicating a result of the comparison.
- the comparator 51 inverts the output signal VCO when the reference signal REF and the pixel signal SIG become (the voltage of) the same.
- the pixel drive circuit 23 in FIG. 1 drives the pixel circuit 41 and the comparator 51 in the pixel 21.
- the DAC 24 generates a reference signal REF, which is a slope signal whose level (voltage) monotonously decreases with time, and supplies the reference signal REF to each pixel 21.
- the vertical drive circuit 25 outputs a digital pixel signal SIG generated in the pixel 21 to the sense amplifier unit 26 in a predetermined order based on the timing signal supplied from the timing generation circuit 28.
- the digital pixel signal SIG output from the pixel 21 is amplified by the sense amplifier 26 and then output from the output unit 27 to the outside of the imaging device 1.
- the output unit 27 performs predetermined digital signal processing as necessary, such as black level correction processing for correcting the black level and CDS (Correlated Double Sampling; correlated double sampling) processing, and then outputs it to the outside.
- the timing generation circuit 28 includes a timing generator that generates various timing signals, and supplies the generated various timing signals to the pixel drive circuit 23, the DAC 24, the vertical drive circuit 25, and the like.
- FIG. 3 is a circuit diagram of the pixel circuit 41.
- the pixel circuit 41 includes a photodiode (PD) 101 as a photoelectric conversion unit, a discharge transistor 102, a transfer transistor 103, a reset transistor 104, and an FD (floating diffusion layer) 105.
- PD photodiode
- the discharge transistor 102 is used for adjusting the exposure period. Specifically, when the discharge transistor 102 is turned on when the exposure period is desired to be started at an arbitrary timing, the charge accumulated in the photodiode 101 up to that time is discharged, so that the discharge transistor 102 is turned off. After that, the exposure period starts.
- the transfer transistor 103 transfers the charge generated by the photodiode 101 to the FD 105.
- the reset transistor 104 resets the charge held in the FD 105.
- the FD 105 is connected to the gate of the amplification transistor 106.
- the pixel signal SIG from the amplification transistor 106 that is, the pixel signal SIG from the pixel circuit 41 is supplied to the ADC 42 (FIG. 2).
- each pixel 21 of the pixel array unit 22 of the imaging device 1 performs a global shutter operation of simultaneously resetting all pixels and simultaneously exposing all pixels. It is possible. Since all pixels can simultaneously perform exposure and readout, a holding unit that is provided in the pixel and holds the charge until the charge is read out is not usually required. In addition, the configuration of the pixel 21 does not require a selection transistor for selecting a pixel that outputs the pixel signal SIG, which is required for the column parallel readout type solid-state imaging device.
- FIG. 4 is a diagram illustrating a configuration example when the imaging device 1 is formed in a two-layer structure.
- the imaging device 1 has a structure in which a pixel chip 201 and a logic chip 202 are stacked.
- the pixel chip 201 of the first layer is provided with a pixel area 211 and a pixel bias 212.
- the second-layer logic chip 202 includes a signal processing unit 221, a frame memory 222, a data processing unit 223, and a control unit 224.
- the pixel circuit 41 (FIG. 2) is formed in the pixel area 211 of the pixel chip 201 of the first layer.
- the ADC 42 (FIG. 2) is formed in the area of the signal processing unit 221 of the second-layer logic chip 202.
- the pixel 21 is configured by being divided into two layers.
- the area of the pixel area 211 and the area of the signal processing unit 221 have substantially the same size as shown in FIG.
- An ADC 42 for a predetermined pixel is located immediately below a predetermined pixel (pixel circuit 41) formed in the pixel area 211. Since the pixel circuit 41 in the pixel area 211 and the ADC 42 of the signal processing unit 221 are in a one-to-one correspondence, the area of the pixel area 211 and the area of the signal processing unit 221 have substantially the same size.
- the description is continued on the assumption that the pixel circuits 41 and the ADCs 42 have a one-to-one correspondence. In other words, the description is continued on the assumption that the pixel circuits 41 and the ADCs 42 have the same number. It is applicable without limitation.
- the present technology can be applied to a case where the number of the pixel circuits 41 is larger than that of the ADC 42. Also, for example, the present technology can be applied to a case where the ADC 42 is not provided in some of the pixel circuits 41 in the pixel area 211.
- a frame memory 222 in addition to the signal processing unit 221, a frame memory 222, a data processing unit 223, and a control unit 224 are arranged in the logic chip 202.
- the signal processing unit 221 has the same size as the pixel area 211 as described above.
- the frame memory 222 needs a capacity capable of holding one or more frames of data. Note that, here, a frame memory is described, but any holding unit having a function of holding data may be used.
- the logic chip 202 is larger than the pixel chip 201.
- the voltage of the floating diffusion 105 when the charge accumulated in the photodiode 101 (FIG. 3) of the pixel circuit 41 is transferred by the transfer transistor 103 is output to the vertical signal line as a signal component (D phase).
- the floating diffusion 105 is reset, and its level is AD-converted by the ADC 42 (P-phase period).
- the values output from the latch storage unit 52 (FIG. 2) of the ADC 42 during the P-phase period are read out row by row of the ADC 42 and stored in the frame memory 222.
- the photoelectrons of the photodiode 101 are transferred to the floating diffusion 105, and this level is AD-converted by the ADC 42 (D-phase period).
- D-phase period the values output from the latch storage unit 52 (FIG. 2) of the ADC 42 are read out row by row of the ADC 42 and supplied to the data processing unit 223.
- the data processing unit 223 subtracts the value read in the D-phase period from the value read in the P-phase period stored in the frame memory 222 to obtain a signal.
- the obtained signal is written into the frame memory 222 again, and then output to a subsequent processing unit (not shown). Note that a signal obtained as a result of the subtraction may be configured to be output to a subsequent processing unit without being written to the frame memory 222.
- the processing related to the acquisition of the signals related to the P phase and the D phase is performed simultaneously for all the pixels.
- the frame memory 222 needs a capacity to hold data of one frame or more.
- the logic chip 202 is larger than the pixel chip 201, considering the stacking of the pixel chip 201 and the logic chip 202, the size of the logic chip 202 and the size of the pixel chip 201 are , And the size is adjusted to the logic chip 202. Therefore, when reducing the size of the imaging device 1, it is necessary to reduce the size of the logic chip 202.
- Embodiments for reducing the size of the logic chip 202 will be sequentially described below.
- FIG. 7 is a diagram illustrating a configuration of the imaging device 1 according to the first embodiment.
- the same parts as those of the imaging device 1 shown in FIG. 4 and the like are denoted by the same reference numerals, and redundant description will be omitted.
- the imaging device 1a shown in FIG. 7 includes two layers of a pixel chip 201a of the first layer and a logic chip 202a of the second layer, similarly to the imaging device 1 shown in FIG.
- the imaging device 1a may have a three-layer structure including another layer between the first layer and the second layer.
- the first layer is an upper layer and the second layer is a lower layer, a configuration in which a plurality of layers are interposed therebetween may be employed. Technology can be applied.
- the imaging device 1 may have a structure in which a chip other than the pixel chip 201a and the logic chip 202a is further formed in a lower layer. The same applies to the following description of the second embodiment and thereafter.
- the pixel area 201, the pixel bias 212, and the data processing unit 223a are formed in the pixel chip 201a.
- a signal processing unit 221, a frame memory 222, and a control unit 224 are formed on the logic chip 202a.
- the pixel area 211 and the pixel bias 212 are formed in the pixel chip 201.
- the pixel chip 201 is formed with a size substantially equal to that of the logic chip 202, there is a remaining area even when the pixel area 211 and the pixel bias 212 are formed.
- the data processing unit 223 is formed in the remaining area.
- FIG. 8 shows the imaging device 1 shown in FIG. 4 and the imaging device 1a shown in FIG. 7 side by side.
- the diagram on the left is the imaging device 1 shown in FIG. 4
- the diagram on the right is the imaging device 1a shown in FIG.
- the imaging device 1a shown in the right diagram has a configuration in which the data processing unit 223 of the logic chip 202 of the imaging device 1 shown in the left diagram is moved to the pixel chip 201a. By moving the data processing unit 223, the size of the imaging device 1 can be reduced by the amount of the data processing unit 223.
- the length in the vertical direction of the imaging device 1 shown in the left figure be length L.
- the length of the pixel chip 201 and the length of the logic chip 202 of the imaging device 1 shown in the left diagram are both L.
- the length of the logic chip 202a of the imaging device 1a shown in the right figure is reduced by the absence of the data processing unit 223. That is, in this case, the length of the logic chip 202a is (length L-length a), which is shorter by the length a. Since the length of the logic chip 202 is (length L ⁇ length a), the length of the pixel chip 201a is also (length L ⁇ length a).
- the imaging device 1a including the pixel chip 201a and the logic chip 202a can be a miniaturized imaging device 1a.
- the signal flow of the imaging device 1a configured as described above will be described with reference to FIG.
- the operation of the imaging device 1a is the same as the case described with reference to FIG.
- the signal from the pixel area 211 of the first-layer pixel chip 201a is supplied to the signal processing unit 221 (ADC 42) of the second-layer logic chip 202a.
- a signal (result of ADC) from the signal processing unit 221 is supplied to the frame memory 222 and held.
- the data from the frame memory 222 is supplied to the data processing unit 223a of the first-layer pixel chip 201a.
- the processing result by the data processing unit 223a, in this case, the result of the CDS is output to a subsequent chip, for example, a DSP (Digital Signal Processor) chip.
- DSP Digital Signal Processor
- the signal (data signal) of the D layer may be a flow of a signal supplied directly from the signal processing unit 221 to the data processing unit 223a. Further, there may be a signal flow that the CDS result is supplied from the data processing unit 223a to the frame memory 222.
- the frame memory 222 may be formed in the pixel chip 201a.
- the frame memory 222 is divided into two, a frame memory 222a-1 and a frame memory 222a-2, and are arranged in different layers. Specifically, the frame memory 222a-1 is arranged on the first-layer pixel chip 201a, and the frame memory 222a-2 is arranged on the second-layer logic chip 202a.
- the imaging apparatus 1a including the pixel chip 201a and the logic chip 202a and having the ADC 42 for each pixel 21 can be downsized.
- FIG. 11 is a diagram illustrating a configuration of an imaging device 1 (referred to as an imaging device 1b) according to the second embodiment.
- the imaging device 1b shown in FIG. 11 includes three layers of a first-layer pixel chip 201b, a second-layer logic chip 202b, and a third-layer logic chip 203b.
- a pixel area 211 and a pixel bias 212 are formed in the pixel chip 201b.
- the signal processing unit 221 is formed on the logic chip 202b.
- a frame memory 222b and a control unit 224b are formed on the logic chip 203b.
- the ADC 42 is formed for each pixel, and the area of the pixel area 211 of the first-layer pixel chip and the area of the signal processing unit 221 (ADC 42) of the second layer are formed by areas having substantially the same size. Have been.
- the frame memory 222, the data processing unit 223, and the control unit 224 which have a three-layer structure and are disposed on the second-layer logic chip 202 (for example, the logic chip 202 shown in FIG. To the logic chip 203b.
- the logic chip 202b of the second layer becomes at least smaller by the amount of the frame memory 222, the data processing unit 223, and the control unit 224 eliminated.
- the size of the first-layer pixel chip 201b can be reduced in accordance with the logic chip 202b. Therefore, even in the case where the ADC 42 is provided for each pixel 21, the logic chip 202b can be downsized and the pixel chip 201b can be downsized, and the imaging device 1b including these can be downsized. It becomes possible.
- the signal flow of the imaging device 1b configured as described above will be described with reference to FIG.
- the operation of the imaging device 1b is the same as the case described with reference to FIG.
- the signal from the pixel area 211 of the first-layer pixel chip 201b is supplied to the signal processing unit 221 (ADC 42) of the second-layer logic chip 202b.
- the signal (result of the ADC) from the signal processing unit 221 is supplied to and held in the frame memory 222b of the third-layer logic chip 203b.
- Data from the frame memory 222b is supplied to the data processing unit 223b formed on the same layer.
- the processing result by the data processing unit 223b, in this case, the result of the CDS is output to a subsequent chip, for example, a DSP chip.
- a wiring connecting from the upper layer to the lower layer is formed. Is easier to design.
- the imaging device 1b including the pixel chip 201b, the logic chip 202b, and the logic chip 203b can be downsized. it can.
- the frame memory 222b By arranging the frame memory 222b on the logic chip 203b, even if the capacity of the frame memory 222b is increased, for example, even if the capacity of the frame memory 222b is one frame or more, it does not hinder the downsizing of the imaging device 1b. .
- FIG. 13 is a diagram illustrating a configuration of an imaging device 1 according to the third embodiment.
- the imaging device 1c shown in FIG. 13 is the same as the imaging device 1 shown in FIG. 4 except that the imaging device 1c includes two layers of a first-layer pixel chip 201c and a second-layer logic chip 202c. In that the capacity of the frame memory 222c is small. Another difference is that an encoder 301 and a decoder 302 are added to reduce the capacity of the frame memory 222c.
- the encoder unit 301 functions as an encoder that compresses the processing result (ADC result) in the signal processing unit 221 using a predetermined algorithm and supplies the compressed result to the frame memory 222c.
- the decoder unit 302 functions as a decoder that decompresses the data stored in the frame memory 222c by a decoding method corresponding to the encoder unit 301.
- the amount of data held in the frame memory 222c can be reduced, and the size of the imaging device 1c can be reduced.
- FIG. 14 shows the logic chip 202 without the encoder unit 301 (for example, the logic chip 202 shown in FIG. 4), and the right figure shows the logic chip 202c of the imaging device 1c shown in FIG. .
- the encoder unit 301 Since the data from the signal processing unit 221 is compressed by the encoder unit 301, the amount of data that needs to be held in the frame memory 222c can be reduced, so that the area for forming the frame memory 222c can be reduced. .
- the logic chip 202c can be reduced in size.
- the pixel chip 201c can be reduced in size, and as a result, the imaging device 1 including the pixel chip 201c and the logic chip 202c can be reduced in size.
- the encoding by the encoder unit 301 may be irreversible compression or lossless compression.
- irreversible compression can reduce the amount of data as compared with lossless compression. Therefore, when it is desired to reduce the capacity of the frame memory 222c, an encoder unit 301 that performs encoding by irreversible compression is provided. be able to.
- an encoder unit 301 that performs encoding by lossless compression can be provided.
- the algorithm of the encoder unit 301 is appropriately set in consideration of the capacity (arranged area) of the frame memory 222c, desired image quality, and the like.
- the floating diffusion 105 constituting the pixel circuit 41 is reset, and its level is AD-converted by the ADC 42 (P-phase period).
- the values output from the latch storage unit 52 (FIG. 2) of the ADC 42 during the P-phase period are read out row by row of the ADC 42, encoded by the encoder unit 301, and stored in the frame memory 222c.
- the photoelectrons of the photodiode 101 are transferred to the floating diffusion 105, and this level is AD-converted by the ADC 42 (D-phase period).
- D-phase period the values output from the latch storage unit 52 (FIG. 2) of the ADC 42 are read out row by row of the ADC 42 and supplied to the data processing unit 223.
- the data processing unit 223 performs a CDS process of subtracting the value read in the D-phase period from the value read in the P-phase period stored in the frame memory 222c. At this time, the data read from the frame memory 222c is supplied to the decoder unit 302, decoded, and then supplied to the data processing unit 223.
- the CDS processing result from the data processing unit 223 is supplied to the encoder unit 301, encoded, and temporarily stored in the frame memory 222c.
- the CDS processing result stored in the frame memory 222 is read from the frame memory 222c at the timing of transferring to the DSP at the subsequent stage, and supplied to the decoder unit 302.
- the CDS processing result decompressed by the decoder unit 302 is output by the data processing unit 223 to a downstream DSP (not shown).
- the CDS processing result from the data processing unit 223 is supplied to the encoder unit 301, encoded, and temporarily stored in the frame memory 222c.
- the CDS processing result stored in the frame memory 222 is read from the frame memory 222c at the timing of transferring to the downstream DSP, and is output to the downstream DSP (not shown) by the data processing unit 223.
- the CDS processing result is output from the data processing unit 223 to the downstream DSP while being compressed.
- the DSP 351 has a configuration including a decoding unit 352 for decompressing the compressed CDS processing result.
- the DSP 351 that processes data from the imaging device 1 c that performs the processing shown in FIG. 17 is configured to include the decoding unit 352.
- the decoding unit 352 of the DSP 351 decompresses the supplied CDS processing result by the same algorithm as the decoder unit 302 of the imaging device 1c.
- the data output from the imaging device 1c is compressed data, for example, even when uncompressed data is transmitted and received as in the processing shown in FIGS. Can be suppressed. Therefore, the data transfer time from the imaging device 1c to the DSP 351 can be reduced. That is, data transfer from the imaging device 1c to the DSP 351 can be performed at higher speed.
- the arrangement positions of the encoder unit 301, the decoder unit 302, and the like on the logic chip 202c illustrated in FIG. 13 are merely examples, and do not limit the description.
- the arrangement is suitable for performing the processing described with reference to FIGS. 15 to 17, and the arrangement position can be changed as appropriate.
- an encoder unit 301 that encodes data from the ADC 42 and an encoder unit 301 that encodes a CDS processing result from the data processing unit 223 are provided, respectively, and the logic chip 202c It may be arranged at an appropriate upper position.
- the image pickup apparatus 1c according to the second embodiment is also an image pickup apparatus 1c including the pixel chip 201c and the logic chip 202c, and the image pickup apparatus 1c having the ADC 42 for each pixel 21 can be downsized.
- FIG. 19 illustrates a configuration of an imaging device 1d according to the fourth embodiment.
- the imaging device 1 according to the fourth embodiment is an imaging device in which the imaging device 1a according to the first embodiment and the imaging device 1c according to the third embodiment are combined.
- the pixel area 201, the pixel bias 212, and the data processing unit 223a are formed on the pixel chip 201d of the imaging device 1d illustrated in FIG. 19, similarly to the imaging device 1a (FIG. 7) according to the first embodiment. .
- the logic chip 202d of the imaging device 1d shown in FIG. 19 includes a signal processing unit 221, an encoder unit 301, a frame memory 222c, a decoder unit 302, and a signal processing unit 221, as in the imaging device 1c (FIG. 13) according to the third embodiment.
- a control unit 224 is formed.
- the logic chip 202d can be reduced in size by the absence of the data processing unit 223a, similarly to the imaging device 1a in the first embodiment. Further, by forming the encoder unit 301, the capacity of the frame memory 222c can be reduced, and the layout area of the frame memory 222c can be reduced, similarly to the imaging device 1c according to the third embodiment.
- the logic chip 202d can be formed smaller, and the imaging device 1d including the pixel chip 201d and the logic chip 202d can be further reduced in size.
- the signal flow of the imaging device 1d thus configured will be described with reference to FIG.
- the operation of the imaging device 1d is the same as the operation of the imaging device 1c.
- the signal from the pixel area 211 of the first-layer pixel chip 201d is supplied to the signal processing unit 221 (ADC 42) of the second-layer logic chip 202d.
- a signal (result of ADC) from the signal processing unit 221 is supplied to the encoder unit 301 in the same layer, and after being encoded, supplied to the frame memory 222c in the same layer and held.
- the data from the frame memory 222c is supplied to the decoder unit 302 formed in the same layer, and after being decoded, is supplied to the upper layer data processing unit 223a.
- a processing result by the data processing unit 223a, in this case, a result of the CDS is output to a subsequent chip, for example, a DSP chip.
- the imaging device 1d including the pixel chip 201d and the logic chip 202d can be downsized such that the imaging device 1d having the ADC 42 for each pixel 21 is reduced.
- FIG. 21 illustrates a configuration of an imaging device 1e according to the fifth embodiment.
- the imaging device 1 according to the fifth embodiment is an imaging device in which the imaging device 1b according to the second embodiment and the imaging device 1c according to the third embodiment are combined.
- the pixel area 201 and the pixel bias 212 are formed on the pixel chip 201e of the imaging device 1e shown in FIG. 21 similarly to the imaging device 1b (FIG. 11) in the second embodiment.
- a signal processing unit 221 is formed on the logic chip 202e of the imaging device 1e shown in FIG. 21, similarly to the imaging device 1b (FIG. 11) of the second embodiment.
- An encoder 301e, a frame memory 222b, a decoder 302e, a data processor 223b, and a controller 224b are formed on the logic chip 203e of the imaging device 1e shown in FIG.
- the imaging device 1e has a three-layer structure, and the encoder 301, the frame memory 222c, the decoder 302, and the data processor 223 which are arranged on the second-layer logic chip 202c (FIG. 13) are arranged on the third-layer logic chip 203e. , And the control unit 224 are moved to the third-layer logic chip 203e, whereby the second-layer logic chip 202d can be downsized.
- the size of the first-layer pixel chip 201e can be reduced in accordance with the logic chip 202b. Therefore, even in the case where the ADC 42 is provided for each pixel 21, the logic chip 202e can be downsized and the pixel chip 201e can be downsized, and the imaging device 1e including these can be downsized. It becomes possible.
- the signal flow of the imaging device 1e configured as described above will be described with reference to FIG.
- the operation of the imaging device 1e is the same as the operation of the imaging device 1c.
- a signal from the pixel area 211 of the first-layer pixel chip 201e is supplied to the signal processing unit 221 (ADC 42) of the second-layer logic chip 202e.
- the signal (result of the ADC) from the signal processing unit 221 is supplied to the encoder unit 301e of the third-layer logic chip 203e, and after being encoded, supplied to the frame memory 222b of the same layer and held.
- Data from the frame memory 222b is supplied to the decoder 302e formed in the same layer, and after being decoded, is supplied to the data processor 223b in the same layer.
- the processing result by the data processing unit 223b in this case, the result of the CDS is output to a subsequent chip, for example, a DSP chip.
- the configuration of the imaging device 1e shown in FIG. 21 is an example, and does not limit the description.
- the imaging device 1e illustrated in FIG. 21 may have a configuration in which the data processing unit 223b disposed on the logic chip 203e is disposed on the pixel chip 201e.
- the data processing unit 223b disposed on the logic chip 203e may be configured to be disposed on the logic chip 202e.
- one or both of the encoder unit 301e and the decoder unit 302e disposed on the logic chip 203e may be disposed on the pixel chip 201e.
- the imaging device 1e including the pixel chip 201e, the logic chip 202e, and the logic chip 203e, and the imaging device 1e having the ADC 42 for each pixel 21 can be reduced in size. it can.
- the imaging device 1 has a two-layer structure or a three-layer structure has been described as an example.
- the imaging device 1 may have three or more layers, such as a four-layer structure or a five-layer structure.
- the present technology is also applicable to a case where the frame memory has a capacity capable of holding data for two frames and is configured with two layers.
- the present technology it is possible to reduce the size of an imaging device having a structure including an ADC for each pixel. Since the size of a chip included in the imaging device can be reduced, the cost can be improved. In addition, STA (static timing analysis) at the time of chip design becomes easy by reducing the chip size.
- the present disclosure is not limited to application to an imaging device, but includes an imaging device such as a digital still camera or a video camera, a portable terminal device having an imaging function such as a mobile phone, and a copy using the imaging device for an image reading unit.
- the present invention can be applied to all electronic devices using an imaging device for an image capturing unit (photoelectric conversion unit), such as a device.
- an imaging device for an image capturing unit photoelectric conversion unit
- the above-described module mounted on an electronic device that is, a camera module is used as an imaging device.
- FIG. 23 is a block diagram illustrating a configuration example of an imaging device that is an example of the electronic device of the present disclosure.
- an imaging device 600 includes an optical system including a lens group 601 and the like, an imaging element 602, a DSP circuit 603 serving as a camera signal processing unit, a frame memory 604, a display device 605, a recording device 606, An operation system 607 and a power supply system 608 are provided.
- the DSP circuit 603, the frame memory 604, the display device 605, the recording device 606, the operation system 607, and the power supply system 608 are connected to each other via a bus line 609.
- the CPU 610 controls each unit in the imaging device 600.
- the lens group 601 takes in incident light (image light) from a subject and forms an image on the imaging surface of the imaging element 602.
- the image sensor 602 converts the amount of incident light formed on the imaging surface by the lens group 601 into an electric signal in pixel units and outputs the signal as a pixel signal.
- the imaging device 602 the solid-state imaging device according to the above-described embodiment can be used.
- the display device 605 includes a panel-type display device such as a liquid crystal display device or an organic EL (electroluminescence) display device, and displays a moving image or a still image captured by the image sensor 602.
- the recording device 606 records the moving image or the still image captured by the image sensor 602 on a recording medium such as a video tape or a DVD (Digital Versatile Disk).
- the operation system 607 issues an operation command for various functions of the imaging apparatus under the operation of the user.
- the power supply system 608 appropriately supplies various power supplies serving as operation power supplies for the DSP circuit 603, the frame memory 604, the display device 605, the recording device 606, and the operation system 607 to these supply targets.
- Such an imaging device 600 is applied to a video camera, a digital still camera, and a camera module for a mobile device such as a mobile phone.
- the imaging device 600 the imaging device according to the above-described embodiment can be used as the imaging element 602.
- the technology (the present technology) according to the present disclosure can be applied to various products.
- the technology according to the present disclosure may be applied to an endoscopic surgery system.
- FIG. 24 is a block diagram illustrating an example of a schematic configuration of a system for acquiring in-vivo information of a patient using a capsule endoscope to which the technology (the present technology) according to the present disclosure may be applied.
- the in-vivo information acquisition system 10001 includes a capsule endoscope 10100 and an external control device 10200.
- the capsule endoscope 10100 is swallowed by the patient at the time of examination.
- the capsule endoscope 10100 has an imaging function and a wireless communication function, and moves inside an organ such as a stomach and an intestine by peristalsis and the like until the spontaneous excretion from the patient, while moving the inside of the organ.
- Images (hereinafter, also referred to as in-vivo images) are sequentially captured at predetermined intervals, and information on the in-vivo images is sequentially wirelessly transmitted to an external control device 10200 outside the body.
- the external control device 10200 controls the operation of the in-vivo information acquisition system 10001 as a whole. Further, the external control device 10200 receives information about the in-vivo image transmitted from the capsule endoscope 10100, and displays the in-vivo image on a display device (not shown) based on the received information about the in-vivo image. Generate image data for displaying.
- the in-vivo information acquisition system 10001 can obtain an in-vivo image of the inside of the patient at any time from when the capsule endoscope 10100 is swallowed until the capsule endoscope 10100 is ejected.
- the capsule endoscope 10100 has a capsule-type housing 10101, and inside the housing 10101, a light source unit 10111, an imaging unit 10112, an image processing unit 10113, a wireless communication unit 10114, a power supply unit 10115, a power supply unit 10116 and a control unit 10117 are housed.
- the light source unit 10111 is configured by a light source such as an LED (light emitting diode), and irradiates the imaging field of view of the imaging unit 10112 with light.
- a light source such as an LED (light emitting diode)
- the imaging unit 10112 includes an imaging device and an optical system including a plurality of lenses provided at a stage preceding the imaging device. Reflected light (hereinafter referred to as observation light) of light applied to a body tissue to be observed is collected by the optical system and enters the imaging device. In the imaging unit 10112, the observation light incident thereon is photoelectrically converted in the imaging element, and an image signal corresponding to the observation light is generated. The image signal generated by the imaging unit 10112 is provided to the image processing unit 10113.
- the image processing unit 10113 includes a processor such as a CPU (Central Processing Unit) or a GPU (Graphics Processing Unit), and performs various kinds of signal processing on the image signal generated by the imaging unit 10112.
- the image processing unit 10113 provides the image signal subjected to the signal processing to the wireless communication unit 10114 as RAW data.
- the wireless communication unit 10114 performs a predetermined process such as a modulation process on the image signal subjected to the signal processing by the image processing unit 10113, and transmits the image signal to the external control device 10200 via the antenna 10114A. Further, the wireless communication unit 10114 receives, from the external control device 10200, a control signal related to drive control of the capsule endoscope 10100 via the antenna 10114A. The wireless communication unit 10114 provides a control signal received from the external control device 10200 to the control unit 10117.
- a predetermined process such as a modulation process
- the wireless communication unit 10114 receives, from the external control device 10200, a control signal related to drive control of the capsule endoscope 10100 via the antenna 10114A.
- the wireless communication unit 10114 provides a control signal received from the external control device 10200 to the control unit 10117.
- the power supply unit 10115 includes a power receiving antenna coil, a power regeneration circuit that reproduces power from a current generated in the antenna coil, a booster circuit, and the like. In the power supply unit 10115, electric power is generated using the principle of non-contact charging.
- the power supply unit 10116 is configured by a secondary battery, and stores the power generated by the power supply unit 10115.
- FIG. 24 in order to avoid complicating the drawing, illustration of arrows and the like indicating the supply destination of the power from the power supply unit 10116 is omitted, but the power stored in the power supply unit 10116 is not ,
- the control unit 10117 is configured by a processor such as a CPU, and controls the light source unit 10111, the imaging unit 10112, the image processing unit 10113, the wireless communication unit 10114, and the power supply unit 10115 by transmitting a control signal transmitted from the external control device 10200. Is appropriately controlled in accordance with
- the external control device 10200 is configured by a processor such as a CPU and a GPU, or a microcomputer or a control board on which a storage element such as a processor and a memory is mounted.
- the external control device 10200 controls the operation of the capsule endoscope 10100 by transmitting a control signal to the control unit 10117 of the capsule endoscope 10100 via the antenna 10200A.
- the irradiation condition of light on the observation target in the light source unit 10111 can be changed by a control signal from the external control device 10200.
- an imaging condition for example, a frame rate, an exposure value, and the like in the imaging unit 10112
- a control signal from the external control device 10200 can be changed by a control signal from the external control device 10200.
- the content of the process in the image processing unit 10113 and the conditions (for example, the transmission interval, the number of transmitted images, and the like) for transmitting the image signal by the wireless communication unit 10114 may be changed by a control signal from the external control device 10200. .
- the external control device 10200 performs various types of image processing on the image signal transmitted from the capsule endoscope 10100, and generates image data for displaying a captured in-vivo image on a display device.
- the image processing includes, for example, development processing (demosaic processing), image quality enhancement processing (band enhancement processing, super-resolution processing, NR (Noise Reduction) processing, and / or camera shake correction processing, etc.), and / or enlargement processing ( Various kinds of signal processing such as electronic zoom processing) can be performed.
- the external control device 10200 controls the driving of the display device to display an in-vivo image captured based on the generated image data. Alternatively, the external control device 10200 may record the generated image data on a recording device (not shown) or print out the image data on a printing device (not shown).
- the technology according to the present disclosure can be applied to various products.
- the technology according to the present disclosure may be applied to an endoscopic surgery system.
- FIG. 25 is a diagram illustrating an example of a schematic configuration of an endoscopic surgery system to which the technology (the present technology) according to the present disclosure may be applied.
- FIG. 25 illustrates a state in which an operator (physician) 11131 is performing an operation on a patient 11132 on a patient bed 11133 using the endoscopic operation system 11000.
- the endoscopic surgery system 11000 includes an endoscope 11100, other surgical tools 11110 such as an insufflation tube 11111 and an energy treatment tool 11112, and a support arm device 11120 that supports the endoscope 11100.
- a cart 11200 on which various devices for endoscopic surgery are mounted.
- the endoscope 11100 includes a lens barrel 11101 having a predetermined length from the distal end inserted into the body cavity of the patient 11132, and a camera head 11102 connected to the proximal end of the lens barrel 11101.
- the endoscope 11100 which is configured as a so-called rigid endoscope having a hard lens barrel 11101 is illustrated.
- the endoscope 11100 may be configured as a so-called flexible endoscope having a soft lens barrel. Good.
- An opening in which an objective lens is fitted is provided at the tip of the lens barrel 11101.
- a light source device 11203 is connected to the endoscope 11100, and light generated by the light source device 11203 is guided to the tip of the lens barrel by a light guide extending inside the lens barrel 11101, and an objective is provided. The light is radiated toward the observation target in the body cavity of the patient 11132 via the lens.
- the endoscope 11100 may be a direct view, a perspective view, or a side view.
- An optical system and an image sensor are provided inside the camera head 11102, and the reflected light (observation light) from the observation target is focused on the image sensor by the optical system.
- the observation light is photoelectrically converted by the imaging element, and an electric signal corresponding to the observation light, that is, an image signal corresponding to an observation image is generated.
- the image signal is transmitted to a camera control unit (CCU: ⁇ Camera ⁇ Control ⁇ Unit) 11201 as RAW data.
- the $ CCU 11201 is configured by a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), and the like, and controls the operations of the endoscope 11100 and the display device 11202 overall. Further, the CCU 11201 receives an image signal from the camera head 11102, and performs various image processing on the image signal for displaying an image based on the image signal, such as a developing process (demosaicing process).
- a developing process demosaicing process
- the display device 11202 displays an image based on an image signal on which image processing has been performed by the CCU 11201 under the control of the CCU 11201.
- the light source device 11203 includes a light source such as an LED (Light Emitting Diode), for example, and supplies the endoscope 11100 with irradiation light when imaging an operation part or the like.
- a light source such as an LED (Light Emitting Diode), for example, and supplies the endoscope 11100 with irradiation light when imaging an operation part or the like.
- the input device 11204 is an input interface for the endoscopic surgery system 11000.
- the user can input various information and input instructions to the endoscopic surgery system 11000 via the input device 11204.
- the user inputs an instruction or the like to change imaging conditions (type of irradiation light, magnification, focal length, and the like) by the endoscope 11100.
- the treatment instrument control device 11205 controls the driving of the energy treatment instrument 11112 for cauterizing, incising a tissue, sealing a blood vessel, and the like.
- the insufflation device 11206 is used to inflate the body cavity of the patient 11132 for the purpose of securing the visual field by the endoscope 11100 and securing the working space of the operator.
- the recorder 11207 is a device that can record various types of information related to surgery.
- the printer 11208 is a device capable of printing various types of information on surgery in various formats such as text, images, and graphs.
- the light source device 11203 that supplies the endoscope 11100 with irradiation light at the time of imaging the operation site can be configured by, for example, a white light source including an LED, a laser light source, or a combination thereof.
- a white light source is configured by a combination of the RGB laser light sources
- the output intensity and output timing of each color (each wavelength) can be controlled with high accuracy, so that the light source device 11203 adjusts the white balance of the captured image. It can be carried out.
- the laser light from each of the RGB laser light sources is radiated to the observation target in a time-division manner, and the driving of the image pickup device of the camera head 11102 is controlled in synchronization with the irradiation timing. It is also possible to capture the image obtained in a time-division manner. According to this method, a color image can be obtained without providing a color filter in the image sensor.
- the driving of the light source device 11203 may be controlled so as to change the intensity of output light at predetermined time intervals.
- the driving of the image sensor of the camera head 11102 in synchronization with the timing of the change of the light intensity, an image is acquired in a time-division manner, and the image is synthesized, so that a high dynamic image without so-called blackout and whiteout is obtained. An image of the range can be generated.
- the light source device 11203 may be configured to be able to supply light in a predetermined wavelength band corresponding to special light observation.
- special light observation for example, by utilizing the wavelength dependence of the absorption of light in the body tissue, by irradiating light in a narrower band than the irradiation light (ie, white light) at the time of normal observation, the surface of the mucous membrane is exposed.
- a so-called narrow-band light observation (Narrow / Band / Imaging) for photographing a predetermined tissue such as a blood vessel with high contrast is performed.
- fluorescence observation in which an image is obtained by fluorescence generated by irradiating excitation light may be performed.
- the body tissue is irradiated with excitation light to observe fluorescence from the body tissue (autofluorescence observation), or a reagent such as indocyanine green (ICG) is locally injected into the body tissue and Irradiation with excitation light corresponding to the fluorescence wavelength of the reagent can be performed to obtain a fluorescence image.
- the light source device 11203 can be configured to be able to supply narrowband light and / or excitation light corresponding to such special light observation.
- FIG. 26 is a block diagram showing an example of a functional configuration of the camera head 11102 and the CCU 11201 shown in FIG.
- the camera head 11102 includes a lens unit 11401, an imaging unit 11402, a driving unit 11403, a communication unit 11404, and a camera head control unit 11405.
- the CCU 11201 includes a communication unit 11411, an image processing unit 11412, and a control unit 11413.
- the camera head 11102 and the CCU 11201 are communicably connected to each other by a transmission cable 11400.
- the lens unit 11401 is an optical system provided at a connection with the lens barrel 11101. Observation light taken in from the tip of the lens barrel 11101 is guided to the camera head 11102, and enters the lens unit 11401.
- the lens unit 11401 is configured by combining a plurality of lenses including a zoom lens and a focus lens.
- the imaging unit 11402 includes an imaging element.
- the number of imaging elements constituting the imaging unit 11402 may be one (so-called single-panel type) or plural (so-called multi-panel type).
- an image signal corresponding to each of RGB may be generated by each imaging element, and a color image may be obtained by combining the image signals.
- the imaging unit 11402 may be configured to include a pair of imaging elements for acquiring right-eye and left-eye image signals corresponding to 3D (Dimensional) display. By performing the 3D display, the operator 11131 can more accurately grasp the depth of the living tissue in the operative part.
- a plurality of lens units 11401 may be provided for each imaging element.
- the imaging unit 11402 does not necessarily have to be provided in the camera head 11102.
- the imaging unit 11402 may be provided inside the lens barrel 11101 immediately after the objective lens.
- the drive unit 11403 is configured by an actuator, and moves the zoom lens and the focus lens of the lens unit 11401 by a predetermined distance along the optical axis under the control of the camera head control unit 11405.
- the magnification and the focus of the image captured by the imaging unit 11402 can be appropriately adjusted.
- the communication unit 11404 is configured by a communication device for transmitting and receiving various information to and from the CCU 11201.
- the communication unit 11404 transmits the image signal obtained from the imaging unit 11402 as RAW data to the CCU 11201 via the transmission cable 11400.
- the communication unit 11404 receives a control signal for controlling driving of the camera head 11102 from the CCU 11201 and supplies the control signal to the camera head control unit 11405.
- the control signal includes, for example, information indicating that the frame rate of the captured image is specified, information that specifies the exposure value at the time of imaging, and / or information that specifies the magnification and focus of the captured image. Contains information about the condition.
- imaging conditions such as the frame rate, the exposure value, the magnification, and the focus may be appropriately designated by the user, or may be automatically set by the control unit 11413 of the CCU 11201 based on the acquired image signal. Good.
- a so-called AE (Auto Exposure) function, an AF (Auto Focus) function, and an AWB (Auto White Balance) function are mounted on the endoscope 11100.
- the camera head control unit 11405 controls the driving of the camera head 11102 based on the control signal from the CCU 11201 received via the communication unit 11404.
- the communication unit 11411 is configured by a communication device for transmitting and receiving various information to and from the camera head 11102.
- the communication unit 11411 receives an image signal transmitted from the camera head 11102 via the transmission cable 11400.
- the communication unit 11411 transmits a control signal for controlling driving of the camera head 11102 to the camera head 11102.
- the image signal and the control signal can be transmitted by electric communication, optical communication, or the like.
- the image processing unit 11412 performs various types of image processing on an image signal that is RAW data transmitted from the camera head 11102.
- the control unit 11413 performs various kinds of control related to imaging of the operation section and the like by the endoscope 11100 and display of a captured image obtained by imaging the operation section and the like. For example, the control unit 11413 generates a control signal for controlling driving of the camera head 11102.
- control unit 11413 causes the display device 11202 to display a captured image showing the operative part or the like based on the image signal subjected to the image processing by the image processing unit 11412.
- the control unit 11413 may recognize various objects in the captured image using various image recognition techniques. For example, the control unit 11413 detects a shape, a color, or the like of an edge of an object included in the captured image, and thereby detects a surgical tool such as forceps, a specific living body site, bleeding, a mist when using the energy treatment tool 11112, and the like. Can be recognized.
- the control unit 11413 may use the recognition result to superimpose and display various types of surgery support information on the image of the operative site.
- the burden on the operator 11131 can be reduced, and the operator 11131 can reliably perform the operation.
- the transmission cable 11400 connecting the camera head 11102 and the CCU 11201 is an electric signal cable corresponding to electric signal communication, an optical fiber corresponding to optical communication, or a composite cable thereof.
- the communication is performed by wire using the transmission cable 11400, but the communication between the camera head 11102 and the CCU 11201 may be performed wirelessly.
- the endoscopic surgery system has been described as an example, but the technology according to the present disclosure may be applied to, for example, a microscopic surgery system or the like.
- the technology according to the present disclosure can be applied to various products.
- the technology according to the present disclosure is realized as a device mounted on any type of moving object such as an automobile, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, a personal mobility, an airplane, a drone, a ship, and a robot. You may.
- FIG. 27 is a block diagram illustrating a schematic configuration example of a vehicle control system that is an example of a mobile object control system to which the technology according to the present disclosure can be applied.
- Vehicle control system 12000 includes a plurality of electronic control units connected via communication network 12001.
- the vehicle control system 12000 includes a drive system control unit 12010, a body system control unit 12020, an outside information detection unit 12030, an inside information detection unit 12040, and an integrated control unit 12050.
- a microcomputer 12051, an audio / video output unit 12052, and a vehicle-mounted network I / F (interface) 12053 are illustrated.
- the drive system control unit 12010 controls the operation of the device related to the drive system of the vehicle according to various programs.
- the driving system control unit 12010 includes a driving force generating device for generating driving force of the vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting driving force to wheels, and a steering angle of the vehicle. It functions as a control mechanism such as a steering mechanism for adjusting and a braking device for generating a braking force of the vehicle.
- the body control unit 12020 controls the operation of various devices mounted on the vehicle body according to various programs.
- the body control unit 12020 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as a head lamp, a back lamp, a brake lamp, a blinker, and a fog lamp.
- a radio wave or various switch signals transmitted from a portable device replacing the key may be input to the body control unit 12020.
- the body control unit 12020 receives the input of these radio waves or signals and controls a door lock device, a power window device, a lamp, and the like of the vehicle.
- Out-of-vehicle information detection unit 12030 detects information external to the vehicle on which vehicle control system 12000 is mounted.
- an imaging unit 12031 is connected to the outside-of-vehicle information detection unit 12030.
- the out-of-vehicle information detection unit 12030 causes the imaging unit 12031 to capture an image outside the vehicle, and receives the captured image.
- the out-of-vehicle information detection unit 12030 may perform an object detection process or a distance detection process of a person, a vehicle, an obstacle, a sign, a character on a road surface, or the like based on the received image.
- the imaging unit 12031 is an optical sensor that receives light and outputs an electric signal according to the amount of received light.
- the imaging unit 12031 can output an electric signal as an image or can output the information as distance measurement information.
- the light received by the imaging unit 12031 may be visible light or non-visible light such as infrared light.
- the in-vehicle information detection unit 12040 detects information in the vehicle.
- the in-vehicle information detection unit 12040 is connected to, for example, a driver status detection unit 12041 that detects the status of the driver.
- the driver state detection unit 12041 includes, for example, a camera that captures an image of the driver, and the in-vehicle information detection unit 12040 determines the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 12041. The calculation may be performed, or it may be determined whether the driver has fallen asleep.
- the microcomputer 12051 calculates a control target value of the driving force generation device, the steering mechanism or the braking device based on the information on the inside and outside of the vehicle acquired by the outside information detection unit 12030 or the inside information detection unit 12040, and the drive system control unit A control command can be output to 12010.
- the microcomputer 12051 implements functions of ADAS (Advanced Driver Assistance System) including vehicle collision avoidance or impact mitigation, following running based on the following distance, vehicle speed maintaining running, vehicle collision warning, vehicle lane departure warning, and the like. Cooperative control for the purpose.
- ADAS Advanced Driver Assistance System
- the microcomputer 12051 controls the driving force generation device, the steering mechanism, the braking device, and the like based on the information about the surroundings of the vehicle obtained by the outside information detection unit 12030 or the inside information detection unit 12040, so that the driver 120 It is possible to perform cooperative control for automatic driving or the like in which the vehicle travels autonomously without depending on the operation.
- the microcomputer 12051 can output a control command to the body system control unit 12020 based on information on the outside of the vehicle acquired by the outside information detection unit 12030.
- the microcomputer 12051 controls the headlamp in accordance with the position of the preceding vehicle or the oncoming vehicle detected by the outside-of-vehicle information detection unit 12030, and performs cooperative control for the purpose of preventing glare such as switching a high beam to a low beam. It can be carried out.
- the sound image output unit 12052 transmits at least one of a sound signal and an image signal to an output device capable of visually or audibly notifying a passenger of the vehicle or the outside of the vehicle of information.
- an audio speaker 12061, a display unit 12062, and an instrument panel 12063 are illustrated as output devices.
- the display unit 12062 may include, for example, at least one of an on-board display and a head-up display.
- FIG. 28 is a diagram illustrating an example of an installation position of the imaging unit 12031.
- the vehicle 12100 includes imaging units 12101, 12102, 12103, 12104, and 12105 as the imaging unit 12031.
- the imaging units 12101, 12102, 12103, 12104, and 12105 are provided, for example, at positions such as a front nose, a side mirror, a rear bumper, a back door of the vehicle 12100, and an upper portion of a windshield in the vehicle interior.
- the imaging unit 12101 provided on the front nose and the imaging unit 12105 provided above the windshield in the passenger compartment mainly acquire an image in front of the vehicle 12100.
- the imaging units 12102 and 12103 provided in the side mirror mainly acquire images of the side of the vehicle 12100.
- the imaging unit 12104 provided in the rear bumper or the back door mainly acquires an image behind the vehicle 12100.
- the forward images acquired by the imaging units 12101 and 12105 are mainly used for detecting a preceding vehicle, a pedestrian, an obstacle, a traffic light, a traffic sign, a lane, and the like.
- FIG. 28 shows an example of the imaging range of the imaging units 12101 to 12104.
- the imaging range 12111 indicates the imaging range of the imaging unit 12101 provided on the front nose
- the imaging ranges 12112 and 12113 indicate the imaging ranges of the imaging units 12102 and 12103 provided on the side mirrors, respectively
- the imaging range 12114 indicates 13 shows an imaging range of an imaging unit 12104 provided in a rear bumper or a back door.
- a bird's-eye view image of the vehicle 12100 viewed from above is obtained by superimposing image data captured by the imaging units 12101 to 12104.
- At least one of the imaging units 12101 to 12104 may have a function of acquiring distance information.
- at least one of the imaging units 12101 to 12104 may be a stereo camera including a plurality of imaging elements or an imaging element having pixels for detecting a phase difference.
- the microcomputer 12051 calculates a distance to each three-dimensional object in the imaging ranges 12111 to 12114 and a temporal change in the distance (relative speed with respect to the vehicle 12100). , It is possible to extract, as a preceding vehicle, a three-dimensional object that travels at a predetermined speed (for example, 0 km / h or more) in a direction substantially the same as that of the vehicle 12100, which is the closest three-dimensional object on the traveling path of the vehicle 12100. it can.
- a predetermined speed for example, 0 km / h or more
- microcomputer 12051 can set an inter-vehicle distance to be secured before the preceding vehicle and perform automatic brake control (including follow-up stop control), automatic acceleration control (including follow-up start control), and the like. In this way, it is possible to perform cooperative control for automatic driving or the like in which the vehicle travels autonomously without depending on the operation of the driver.
- the microcomputer 12051 converts the three-dimensional object data related to the three-dimensional object into other three-dimensional objects such as a two-wheeled vehicle, a normal vehicle, a large vehicle, a pedestrian, and a telephone pole based on the distance information obtained from the imaging units 12101 to 12104. It can be classified and extracted and used for automatic avoidance of obstacles. For example, the microcomputer 12051 distinguishes obstacles around the vehicle 12100 into obstacles that are visible to the driver of the vehicle 12100 and obstacles that are difficult to see.
- the microcomputer 12051 determines a collision risk indicating a risk of collision with each obstacle, and when the collision risk is equal to or more than the set value and there is a possibility of collision, the microcomputer 12051 transmits the signal via the audio speaker 12061 or the display unit 12062. By outputting an alarm to the driver through forced driving and avoidance steering via the drive system control unit 12010, driving assistance for collision avoidance can be performed.
- At least one of the imaging units 12101 to 12104 may be an infrared camera that detects infrared light.
- the microcomputer 12051 can recognize a pedestrian by determining whether or not a pedestrian exists in the captured images of the imaging units 12101 to 12104. The recognition of such a pedestrian is performed by, for example, extracting a feature point in an image captured by the imaging units 12101 to 12104 as an infrared camera, and performing a pattern matching process on a series of feature points indicating the outline of the object to determine whether the object is a pedestrian.
- the audio image output unit 12052 outputs a rectangular contour for emphasis to the recognized pedestrian.
- the display unit 12062 is controlled so that is superimposed. Further, the sound image output unit 12052 may control the display unit 12062 so as to display an icon or the like indicating a pedestrian at a desired position.
- the term “system” refers to an entire device including a plurality of devices.
- a pixel circuit that receives the incident light and outputs a charge signal generated by performing photoelectric conversion, For each of the pixel circuits, an A / D conversion unit that compares the charge signal with a reference signal, and outputs a code input signal as a conversion result when the comparison result is inverted, An encoding unit that encodes a conversion result from the AD conversion unit; A holding unit for holding the encoding result, An output unit that outputs the encoding result held in the holding unit, The pixel circuit is arranged on a first substrate, The imaging device, wherein the AD conversion unit is disposed on a second substrate stacked below the first substrate.
- the decoding unit decodes the code input signal at a reset level of the pixel circuit
- the output unit performs CDS (Correlated Double Sampling) using the code input signal of the reset level decoded by the decoding unit and the code input signal of the signal level of the pixel circuit, and outputs a CDS result.
- CDS Correlated Double Sampling
- (7) The imaging device according to (6), wherein the CDS result output from the output unit is encoded by the encoding unit and held in the holding unit.
- the imaging device according to (7), wherein the encoding result held in the holding unit is output by the output unit after being decoded by the decoding unit.
- a pixel circuit that receives the incident light and outputs a charge signal generated by performing photoelectric conversion, For each of the pixel circuits, an A / D conversion unit that compares the charge signal with a reference signal, and outputs a code input signal as a conversion result when the comparison result is inverted, An encoding unit that encodes a conversion result from the AD conversion unit; A holding unit for holding the encoding result, An output unit that outputs the encoding result held in the holding unit, The pixel circuit is arranged on a first substrate, An imaging device in which the AD conversion unit is disposed on a second substrate stacked below the first substrate; A processing unit that processes a signal from the imaging device.
- a pixel circuit that receives the incident light and outputs a charge signal generated by performing photoelectric conversion, For each of the pixel circuits, an A / D conversion unit that compares the charge signal with a reference signal, and outputs a code input signal as a conversion result when the comparison result is inverted, A holding unit for holding a conversion result from the AD conversion unit; An output unit for outputting the conversion result held in the holding unit,
- the pixel circuit, the holding unit or the output unit are arranged on a first substrate, The imaging device, wherein the AD conversion unit is disposed on a second substrate that is stacked below the first substrate.
- a pixel circuit that receives the incident light and outputs a charge signal generated by performing photoelectric conversion, An A / D converter that compares the charge signal with a reference signal for each pixel circuit, and outputs a code input signal as a conversion result when the comparison result is inverted; A holding unit for holding a conversion result from the AD conversion unit; An output unit for outputting the conversion result held in the holding unit,
- the pixel circuit is arranged on a first substrate,
- the AD conversion unit is disposed on a second substrate laminated below the first substrate,
- the imaging device wherein the holding unit and the output unit are arranged on a third substrate that is stacked below the second substrate.
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Power Engineering (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Electromagnetism (AREA)
- Condensed Matter Physics & Semiconductors (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Solid State Image Pick-Up Elements (AREA)
Abstract
本技術は、撮像装置を小型化することができるようにする撮像装置、電子機器に関する。 入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、画素回路毎に、電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、AD変換部からの変換結果をエンコードするエンコード部と、エンコード結果を保持する保持部と、保持部に保持されているエンコード結果を出力する出力部とを備え、第1の基板に、画素回路が配置され、第1の基板の下層に積層される第2の基板に、AD変換部が配置されている。本技術は、撮像装置に適用できる。
Description
本技術は撮像装置、電子機器に関し、例えば、小型化に適した撮像装置、電子機器に関する。
近年の撮像装置には、多画素化、高画質化、高速化が望まれ一方で、さらなる小型化も望まれている。このような要望を満たす撮像装置として、積層型の撮像装置が提案されている(例えば、特許文献1参照)。
積層型の撮像装置は、撮像装置の支持基板の代わりに信号処理回路が形成されたチップを用い、その上に画素部分を重ね合わせる構造とされている。このような構成とすることで、撮像装置を小型化することが提案されている。
積層型の撮像装置は、画素が微細化されると、積層されるチップに搭載されている回路も小さくする必要がある。チップに搭載される回路としては、例えば、AD変換回路がある。このAD変換回路は、トランジスタが多く、小型化が困難である。AD変換回路が搭載されるチップを小型化し、積層型の撮像装置自体を小型化することが望まれている。
本技術は、このような状況に鑑みてなされたものであり、チップサイズを小型化し、積層型の撮像装置を小型化することができるようにするものである。
本技術の一側面の第1の撮像装置は、入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、前記AD変換部からの変換結果をエンコードするエンコード部と、前記エンコード結果を保持する保持部と、前記保持部に保持されている前記エンコード結果を出力する出力部とを備え、第1の基板に、前記画素回路が配置され、前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている。
本技術の一側面の電子機器は、入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、前記AD変換部からの変換結果をエンコードするエンコード部と、前記エンコード結果を保持する保持部と、前記保持部に保持されている前記エンコード結果を出力する出力部とを備え、第1の基板に、前記画素回路が配置され、前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている撮像装置と、前記撮像装置からの信号を処理する処理部とを備える。
本技術の一側面の第2の撮像装置は、入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、前記AD変換部からの変換結果を保持する保持部と、前記保持部に保持されている変換結果を出力する出力部とを備え、第1の基板に、前記画素回路と、前記保持部または前記出力部が配置され、前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている。
本技術の一側面の第3の撮像装置は、入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、前記AD変換部からの変換結果を保持する保持部と、前記保持部に保持されている変換結果を出力する出力部とを備え、第1の基板に、前記画素回路が配置され、前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置され、前記第2の基板の下層に積層される第3の基板に、前記保持部と前記出力部が配置されている。
本技術の一側面の第1の撮像装置においては、入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、画素回路毎に、電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、AD変換部からの変換結果をエンコードするエンコード部と、エンコード結果を保持する保持部と、保持部に保持されているエンコード結果を出力する出力部とが備えられ、第1の基板に、画素回路が配置され、第1の基板の下層に積層される第2の基板に、AD変換部が配置されている。
本技術の一側面の電子機器においては、前記第1の撮像装置が備えられる。
本技術の一側面の第2の撮像装置においては、入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、画素回路毎に、電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、AD変換部からの変換結果を保持する保持部と、保持部に保持されている変換結果を出力する出力部とが備えられ、第1の基板に、画素回路と、保持部または出力部が配置され、第1の基板の下層に積層される第2の基板に、AD変換部が配置されている。
本技術の一側面の第3の撮像装置においては、入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、画素回路毎に、電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、AD変換部からの変換結果を保持する保持部と、保持部に保持されている変換結果を出力する出力部とが備えられ、第1の基板に、画素回路が配置され、第1の基板の下層に積層される第2の基板に、AD変換部が配置され、第2の基板の下層に積層される第3の基板に、保持部と出力部が配置されている。
なお、撮像装置は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。また、電子機器は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。
また、プログラムは、伝送媒体を介して伝送することにより、または、記録媒体に記録して、提供することができる。
本技術の一側面によれば、チップサイズを小型化し、積層型の撮像装置を小型化することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
以下に、本技術を実施するための形態(以下、実施の形態という)について説明する。
<撮像装置の概略構成例>
図1は、本開示に係る撮像装置の概略構成を示している。
図1は、本開示に係る撮像装置の概略構成を示している。
図1の撮像装置1は、半導体として例えばシリコン(Si)を用いた半導体基板11に、画素21が2次元アレイ状に配列された画素アレイ部22を有する。そして、撮像装置1は、画素アレイ部22の他に、画素駆動回路23、DAC(D/A Converter)24、垂直駆動回路25、センスアンプ部26、出力部27、及びタイミング生成回路28を含む。
画素21は、図2に示されるように、その内部に画素回路41とADC(A/D Converter)42を備える。画素回路41は、受光した光量に応じた電荷信号を生成しかつ蓄積する光電変換部を有し、光電変換部で得られたアナログの画素信号SIGをADC42に出力する。ADC42は、画素回路41から供給されたアナログの画素信号SIGをデジタル信号に変換する。
ADC42は、比較器51とラッチ記憶部52で構成される。比較器51は、DAC24から供給される参照信号REFと画素信号SIGを比較し、比較結果を示す信号として、出力信号VCOを出力する。比較器51は、参照信号REFと画素信号SIGが同一(の電圧)になったとき、出力信号VCOを反転させる。
ラッチ記憶部52には、入力信号として、その時の時刻を示すコード値BITXn(n=1乃至Nの整数)が入力される。そして、ラッチ記憶部52では、比較器51の出力信号VCOが反転したときのコード値BITXnが保持され、その後、出力信号Colnとして読み出される。これにより、ADC42から、アナログの画素信号SIGをNビットにデジタル化したデジタル値が出力される。
図1の画素駆動回路23は、画素21内の画素回路41及び比較器51を駆動する。DAC24は、時間経過に応じてレベル(電圧)が単調減少するスロープ信号である参照信号REFを生成し、各画素21に供給する。垂直駆動回路25は、画素21内で生成されたデジタルの画素信号SIGを、タイミング生成回路28から供給されるタイミング信号に基づいて、所定の順番でセンスアンプ部26に出力する。画素21から出力されたデジタルの画素信号SIGはセンスアンプ部26で増幅された後、出力部27から撮像装置1の外部へ出力される。出力部27は、黒レベルを補正する黒レベル補正処理やCDS(Correlated Double Sampling;相関2重サンプリング)処理など、所定のデジタル信号処理を必要に応じて行い、その後、外部へ出力する。
タイミング生成回路28は、各種のタイミング信号を生成するタイミングジェネレータなどによって構成され、生成した各種のタイミング信号を、画素駆動回路23、DAC24、垂直駆動回路25等に供給する。
図3は、画素回路41の回路図である。画素回路41は、光電変換部としてのフォトダイオード(PD)101、排出トランジスタ102、転送トランジスタ103、リセットトランジスタ104、及び、FD(浮遊拡散層)105で構成されている。
排出トランジスタ102は、露光期間を調整する場合に使用される。具体的には、露光期間を任意のタイミングで開始したいときに排出トランジスタ102をオンさせると、それまでの間にフォトダイオード101に蓄積されていた電荷が排出されるので、排出トランジスタ102がオフされた以降から、露光期間が開始されることになる。
転送トランジスタ103は、フォトダイオード101で生成された電荷をFD105に転送する。リセットトランジスタ104は、FD105に保持されている電荷をリセットする。FD105は、増幅トランジスタ106のゲートに接続されている。増幅トランジスタ106からの画素信号SIG、すなわち画素回路41からの画素信号SIGは、ADC42(図2)に供給される。
撮像装置1は、画素21毎にADC42を備える構成とされているため、撮像装置1の画素アレイ部22の各画素21は、全画素同時にリセットし、かつ、全画素同時に露光するグローバルシャッタ動作が可能である。全画素が同時に露光及び読み出しを行うことができるので、通常、画素内に設けられる、電荷が読み出されるまでの間、電荷を保持する保持部が不要である。また、画素21の構成では、カラム並列読み出し型の固体撮像装置で必要であった、画素信号SIGを出力する画素を選択するための選択トランジスタ等も不要である。
<積層構造>
図4は、撮像装置1を2層構造で形成したときの構成例を示す図である。撮像装置1は、画素チップ201とロジックチップ202が積層された構造とされている。
図4は、撮像装置1を2層構造で形成したときの構成例を示す図である。撮像装置1は、画素チップ201とロジックチップ202が積層された構造とされている。
1層目の画素チップ201には、画素エリア211と画素バイアス212が設けられている。2層目のロジックチップ202には、信号処理部221、フレームメモリ222、データ処理部223、および制御部224が設けられている。
1層目の画素チップ201の画素エリア211の領域に画素回路41(図2)が形成されている。2層目のロジックチップ202の信号処理部221の領域には、ADC42(図2)が形成されている。図4に示した構造の場合、画素21は、2層に分割されて構成されている。
画素21毎にADC42を備える構成とした場合、図5に示すように、画素エリア211の領域と信号処理部221の領域は、略同じ大きさの領域となる。画素エリア211に形成されている所定の画素(画素回路41)の真下に、その所定の画素用のADC42が位置する。画素エリア211内の画素回路41と信号処理部221のADC42は、1対1対応とされているため、画素エリア211の領域と信号処理部221の領域は、略同じ大きさの領域となる。
なお、画素回路41とADC42は、1対1対応であるとして説明を続けるが、換言すれば、画素回路41とADC42は、同数であるとして説明を続けるが、本技術は、同数である場合に限らず適用可能である。例えば、画素回路41の方が、ADC42よりも数が多い場合にも本技術を適用できる。また、例えば、画素エリア211内の一部の画素回路41に、ADC42が設けられていない構成の場合であっても、本技術を適用することができる。
図4を再度参照するに、ロジックチップ202には、信号処理部221以外に、フレームメモリ222、データ処理部223、および制御部224が配置されている。信号処理部221は、上記したように、画素エリア211と同程度の大きさとなる。フレームメモリ222は、図6を参照して説明するように、1フレーム以上のデータを保持できる容量が必要となる。なお、ここでは、フレームメモリと記載するが、データを保持する機能を有する保持部であれば良い。
このようなことから、ロジックチップ202は、画素チップ201よりも大きくなる。
図6を参照し、フレームメモリ222への書き込みや読み出しについて説明を加える。図6における太枠の矢印は、信号の流れを示している。画素エリア211内の画素回路41においては、リセットトランジスタ104(図3)によるリセット動作と、転送トランジスタ103(図3)による転送動作とが行われる。リセット動作では、リセットトランジスタ104によってリセットされたときのフローティングディフュージョン105(図3)の電圧がリセット成分(P相)として画素回路41から垂直信号線(不図示)に出力される。
転送動作では、画素回路41のフォトダイオード101(図3)に蓄積された電荷が転送トランジスタ103によって転送されたときのフローティングディフュージョン105の電圧が、信号成分(D相)として垂直信号線に出力される。
このような読み出しが行われるため、フローティングディフュージョン105がリセットされ、そのレベルがADC42によりAD変換される(P相期間)。P相期間においてADC42のラッチ記憶部52(図2)から出力される値は、ADC42の1行ずつ読み出され、フレームメモリ222に格納される。
P相期間の後、フォトダイオード101の光電子がフローティングディフュージョン105に転送され、このレベルがADC42によりAD変換される(D相期間)。D相期間において、ADC42のラッチ記憶部52(図2)から出力される値は、ADC42の1行ずつ読み出され、データ処理部223に供給される。
データ処理部223は、D相期間において読み出された値を、フレームメモリ222に記憶されているP相期間において読み出された値から減算し、信号を得る。得られた信号は、再度フレームメモリ222に書き込まれ、その後、後段の処理部(不図示)に出力される。なお、減算の結果得られた信号は、フレームメモリ222に書き込まれずに、後段の処理部に出力されるように構成することも可能である。このようなP相、D相に係わる信号取得に係わる処理は、全画素同時に行われる。
このような処理が行われため、一回、P相(リセット信号)を、全画素分、フレームメモリ222に記憶する必要がある。よって、上記したように、フレームメモリ222は、1フレーム分以上のデータを保持するための容量が必要となる。
よって、上記したように、ロジックチップ202は、画素チップ201よりも大きくなるため、画素チップ201とロジックチップ202を積層することを考えると、ロジックチップ202の大きさと、画素チップ201の大きさは、略同じにされ、その大きさは、ロジックチップ202に合わせられる。よって、撮像装置1を小型化する場合、ロジックチップ202を小型化する必要がある。
以下に、ロジックチップ202を小型化する実施の形態について順次説明を加える。
<第1の実施の形態>
図7は、第1の実施の形態における撮像装置1の構成を示す図である。以下の説明において、図4などに示した撮像装置1と同様の部分には、同一の符号を付し、重複する説明は省略する。
図7は、第1の実施の形態における撮像装置1の構成を示す図である。以下の説明において、図4などに示した撮像装置1と同様の部分には、同一の符号を付し、重複する説明は省略する。
図7に示した撮像装置1aは、図4に示した撮像装置1と同じく、1層目の画素チップ201aと2層目のロジックチップ202aの2層から構成されている。
なお、1層目、2層目との記載を行い、説明を続けるが、1層目と2層目が必ずしも直に接続されていなくても良い。例えば、1層目と2層目の間に、他の層が含まれる3層構造で、撮像装置1aが形成されていても良い。換言すれば、1層目は上層であり、2層目は下層であるため、その間に、複数の層が挟まれている構成であっても良く、複数層で形成されている場合にも本技術を適用できる。
また、撮像装置1は、画素チップ201aとロジックチップ202a以外のチップを、さらに下層に形成されている構造であっても良い。このようなことは、以下の第2の実施の形態以降の説明においても、同様である。
画素チップ201aには、画素エリア211、画素バイアス212、およびデータ処理部223aが形成されている。ロジックチップ202aには、信号処理部221、フレームメモリ222、および制御部224が形成されている。
図7に示した撮像装置1aを、図4に示した撮像装置1と比較した場合、ロジックチップ202に形成されていたデータ処理部223が、画素チップ201aに形成されている点が異なる。
図4を再度参照するに、画素チップ201には、画素エリア211と画素バイアス212が形成されている。また画素チップ201は、ロジックチップ202と略同等の大きさで形成されているため、画素エリア211と画素バイアス212を形成しても、残る領域がある。この残る領域に、データ処理部223が形成される。
図8に、図4に示した撮像装置1と図7に示した撮像装置1aを並べて図示する。図8中、左側の図が、図4に示した撮像装置1であり、右側の図が、図7に示した撮像装置1aである。
右図に示した撮像装置1aは、左図に示した撮像装置1のロジックチップ202のデータ処理部223を、画素チップ201aに移動した構成とされている。データ処理部223を移動したことで、データ処理部223の分だけ、撮像装置1を小型化することができる。
例えば、左図に示した撮像装置1の縦方向の長さを長さLとする。左図に示した撮像装置1の画素チップ201とロジックチップ202の長さは、ともに長さLとなる。データ処理部223の長さを長さaとする。
右図に示した撮像装置1aのロジックチップ202aは、データ処理部223がない分だけ、長さが短くなっている。すなわちこの場合、ロジックチップ202aの長さは、(長さL-長さa)となり、長さaだけ短くなる。ロジックチップ202の長さが、(長さL-長さa)となることで、画素チップ201aの長さも、(長さL-長さa)となる。
よって、画素チップ201aとロジックチップ202aから構成される撮像装置1aは、小型化された撮像装置1aとすることができる。
このように構成した撮像装置1aの信号の流れについて、図9を参照して説明する。なお、撮像装置1aの動作については、図6を参照して説明した場合と同様である。
1層目の画素チップ201aの画素エリア211からの信号は、2層目のロジックチップ202aの信号処理部221(ADC42)に供給される。信号処理部221からの信号(ADCの結果)は、フレームメモリ222に供給され、保持される。フレームメモリ222からのデータは、1層目の画素チップ201aのデータ処理部223aに供給される。データ処理部223aによる処理結果、この場合CDSの結果は、後段のチップ、例えば、DSP(Digital Signal Processor)チップに出力される。
なお、D層の信号(データ信号)は、直接的に、信号処理部221からデータ処理部223aに供給される信号の流れであっても良い。また、データ処理部223aから、CDS結果が、フレームメモリ222に供給されるという信号の流れがあっても良い。
図7乃至図9では、データ処理部223aが、画素チップ201aに形成される場合を例に挙げて説明したが、データ処理部223以外のロジックチップ202に形成されている機能が、画素チップ201aに形成されても良い。例えば、図10に示すように、フレームメモリ222が、画素チップ201aに形成されるようにしても良い。
図10に示した撮像装置1aは、フレームメモリ222が、フレームメモリ222a-1とフレームメモリ222a-2の2つに分割され、それぞれ別の層に配置されている。具体的には、フレームメモリ222a-1は、1層目の画素チップ201aに配置され、フレームメモリ222a-2は、2層目のロジックチップ202aに配置されている。
図10に示したように、フレームメモリ222の一部を画素チップ201aに形成することで、ロジックチップ202aに形成されるフレームメモリ222の領域を小さくすることができるため、ロジックチップ202aを小型化することができる。よって、画素チップ201aとロジックチップ202aを含む撮像装置1aであり、ADC42を画素21毎に有するような撮像装置1を小型化することができる。
<第2の実施の形態>
図11は、第2の実施の形態における撮像装置1(撮像装置1bとする)の構成を示す図である。
図11は、第2の実施の形態における撮像装置1(撮像装置1bとする)の構成を示す図である。
図11に示した撮像装置1bは、1層目の画素チップ201b、2層目のロジックチップ202b、および3層目のロジックチップ203bの3層から構成されている。
画素チップ201bには、画素エリア211、画素バイアス212が形成されている。ロジックチップ202bには、信号処理部221が形成されている。ロジックチップ203bには、フレームメモリ222bと制御部224bが形成されている。
撮像装置1bも、画素毎にADC42が形成され、1層目の画素チップの画素エリア211の領域と、2層目の信号処理部221(ADC42)の領域は、略同じ大きさの領域で形成されている。
このように3層構造とし、2層目のロジックチップ202(例えば、図4に示したロジックチップ202)に配置されていたフレームメモリ222、データ処理部223、および制御部224を、3層目のロジックチップ203bに移動させる。2層目のロジックチップ202bは、フレームメモリ222、データ処理部223、および制御部224がなくなった分だけ、少なくとも小さくなる。
よって、2層目のロジックチップ202bが小さくなることで、そのロジックチップ202bに合わせて、1層目の画素チップ201bを小型化することが可能となる。よって、画素21毎に、ADC42を備える構成とした場合であっても、ロジックチップ202bを小型化し、画素チップ201bを小型化することができ、これらを含む撮像装置1b自体を小型化することが可能となる。
このように構成した撮像装置1bの信号の流れについて、図12を参照して説明する。なお、撮像装置1bの動作については、図6を参照して説明した場合と同様である。
1層目の画素チップ201bの画素エリア211からの信号は、2層目のロジックチップ202bの信号処理部221(ADC42)に供給される。信号処理部221からの信号(ADCの結果)は、3層目のロジックチップ203bのフレームメモリ222bに供給され、保持される。
フレームメモリ222bからのデータは、同層に形成されているデータ処理部223bに供給される。データ処理部223bによる処理結果、この場合CDSの結果は、後段のチップ、例えば、DSPチップに出力される。
第2の実施の形態における撮像装置1bにおいては、画素エリア211から信号処理部221、信号処理部221からフレームメモリ222bという上層から下層への信号のパスができるため、上層から下層へと繋ぐ配線の設計がしやすくなる。
第2の実施の形態における撮像装置1bにおいても、画素チップ201b、ロジックチップ202b、ロジックチップ203bを含む撮像装置1bであり、ADC42を画素21毎に有するような撮像装置1bを小型化することができる。
また、フレームメモリ222bを、ロジックチップ203bに配置することで、フレームメモリ222bの容量を大きくしたとしても、例えば、1フレーム以上の容量としたとしても、撮像装置1bの小型化を妨げることはない。
<第3の実施の形態>
図13は、第3の実施の形態における撮像装置1の構成を示す図である。
図13は、第3の実施の形態における撮像装置1の構成を示す図である。
図13に示した撮像装置1cは、図4に示した撮像装置1と同じく、1層目の画素チップ201cと2層目のロジックチップ202cの2層から構成されている点は同一であるが、フレームメモリ222cの容量が小さく構成されている点が異なる。またフレームメモリ222cの容量を小さくするために、エンコーダ部301とデコーダ部302が追加された構成とされている点も異なる。
エンコーダ部301は、信号処理部221での処理結果(ADCの結果)を、所定のアルゴリズムにより圧縮し、フレームメモリ222cに供給するエンコーダとして機能する。デコーダ部302は、フレームメモリ222cに記憶されたデータを、エンコーダ部301に対応するデコード方式で、解凍するデコーダとし機能する。
このように、エンコーダ部301を備える構成とすることで、フレームメモリ222cに保持させるデータ量を少なくすることができ、撮像装置1cを小型化することができる。
図14を参照し、撮像装置1cを小型化することができることについて説明を加える。図14の左図は、エンコーダ部301を備えていないロジックチップ202(例えば、図4に示したロジックチップ202)を示し、右図は、図13に示した撮像装置1cのロジックチップ202cを示す。
エンコーダ部301により信号処理部221からのデータが圧縮されることで、フレームメモリ222cに保持させる必要があるデータ量を少なくすることができるため、フレームメモリ222cを形成する面積を小さくすることができる。
よって、ロジックチップ202cを小型化することができる。またロジックチップ202cを小型化することで、画素チップ201cを小型化することができ、結果として画素チップ201cとロジックチップ202cを備える撮像装置1を小型化することができる。
エンコーダ部301によるエンコードは、非可逆圧縮でも良いし、可逆圧縮でも良い。一般的に、非可逆圧縮の方が、可逆圧縮よりもデータ量を小さくできるため、フレームメモリ222cの容量を小さくしたい場合には、非可逆圧縮によるエンコードを行うエンコーダ部301が備えられるようにすることができる。
一方で、非可逆圧縮によると、ノイズがのり画質が劣化する可能性があるため、画質を優先する場合、可逆圧縮によるエンコードを行うエンコーダ部301が備えられるようにすることができる。エンコーダ部301のアルゴリズムは、フレームメモリ222cの容量(配置する面積)、所望とされる画質などを考慮して適切に設定される。
フレームメモリ222cに保持されているデータは圧縮されているため、CDSの処理を行うときには、デコーダ部302により解凍されたデータが用いられる。ここで、図15を参照し、フレームメモリ222への書き込みや読み出しについて説明を加える。図15における太枠の矢印は、信号の流れを示している。
画素回路41を構成するフローティングディフュージョン105がリセットされ、そのレベルがADC42によりAD変換される(P相期間)。P相期間においてADC42のラッチ記憶部52(図2)から出力される値は、ADC42の1行ずつ読み出され、エンコーダ部301でエンコードされた後、フレームメモリ222cに格納される。
P相期間の後、フォトダイオード101の光電子がフローティングディフュージョン105に転送され、このレベルがADC42によりAD変換される(D相期間)。D相期間において、ADC42のラッチ記憶部52(図2)から出力される値は、ADC42の1行ずつ読み出され、データ処理部223に供給される。
データ処理部223は、D相期間において読み出された値を、フレームメモリ222cに記憶されているP相期間において読み出された値から減算するCDS処理を行う。このとき、フレームメモリ222cから読み出されたデータは、デコーダ部302に供給され、デコードされた後、データ処理部223に供給される。
データ処理部223による処理で、得られた結果は、後段のDSPに出力される。
または、図16に示すように、データ処理部223からのCDS処理結果は、エンコーダ部301に供給され、エンコードされ、フレームメモリ222cに一旦記憶される。フレームメモリ222に記憶されたCDS処理結果は、後段のDSPに転送するタイミングで、フレームメモリ222cから読み出され、デコーダ部302に供給される。
デコーダ部302で解凍されたCDS処理結果は、データ処理部223により、後段のDSP(不図示)に出力される。
または、図17に示すように、データ処理部223からのCDS処理結果は、エンコーダ部301に供給され、エンコードされ、フレームメモリ222cに一旦記憶される。フレームメモリ222に記憶されたCDS処理結果は、後段のDSPに転送するタイミングで、フレームメモリ222cから読み出され、データ処理部223により、後段のDSP(不図示)に出力される。
図17に示した処理の流れでは、CDS処理結果は、圧縮されたまま、データ処理部223から後段のDSPに出力される。図18に示すようにDSP351側は、圧縮されたCDS処理結果を解凍するためのデコード部352を備える構成とされる。
図18に示したように、図17に示したような処理を行う撮像装置1cからのデータを処理するDSP351は、デコード部352を備える構成とされる。DSP351のデコード部352は、撮像装置1cのデコーダ部302と同じアルゴリズムにより、供給されるCDS処理結果を解凍する。
撮像装置1cから出力されるデータは、圧縮されたデータであるため、例えば、図15や図16に示した処理のように圧縮されていないデータが授受されるときも、授受されるデータ量を抑えることができる。よって、撮像装置1cからDSP351へのデータ転送時間を短くすることができる。すなわち、撮像装置1cからDSP351へのデータ転送をより高速で行うことが可能となる。
なお、図13に示したロジックチップ202c上の、エンコーダ部301、デコーダ部302などの配置位置は、一例であり、限定を示す記載ではない。図15乃至17を参照して説明した処理を行うのに適した配置とされ、適宜配置位置は変更可能である。
また、図16を参照して説明した処理を行う場合、ADC42からのデータをエンコードするエンコーダ部301と、データ処理部223からのCDS処理結果をエンコードするエンコーダ部301を、それぞれ設け、ロジックチップ202c上の適切な位置に配置されるようにしても良い。
第2の実施の形態における撮像装置1cにおいても、画素チップ201cとロジックチップ202cを含む撮像装置1cであり、ADC42を画素21毎に有するような撮像装置1cを小型化することができる。
<第4の実施の形態>
第4の実施の形態における撮像装置1について説明を加える。図19に、第4の実施の形態における撮像装置1dの構成を示す。
第4の実施の形態における撮像装置1について説明を加える。図19に、第4の実施の形態における撮像装置1dの構成を示す。
第4の実施の形態における撮像装置1は、第1の実施の形態における撮像装置1aと第3の実施の形態における撮像装置1cを組み合わせた撮像装置である。図19に示した撮像装置1dの画素チップ201dには、第1の実施の形態における撮像装置1a(図7)と同じく、画素エリア211、画素バイアス212、およびデータ処理部223aが形成されている。
図19に示した撮像装置1dのロジックチップ202dには、第3の実施の形態における撮像装置1c(図13)と同じく、信号処理部221、エンコーダ部301、フレームメモリ222c、デコーダ部302、および制御部224が形成されている。
画素チップ201dに、データ処理部223aを形成することで、第1の実施の形態における撮像装置1aと同じく、データ処理部223aが無くなった分だけ、ロジックチップ202dを小型化することができる。また、エンコーダ部301を形成することで、第3の実施の形態における撮像装置1cと同じく、フレームメモリ222cの容量を小さくすることができ、フレームメモリ222cの配置面積を小さくすることができる。
よって、ロジックチップ202dをより小さく形成することができ、画素チップ201dとロジックチップ202dを含む撮像装置1dを、より小型化することができる。
このように構成した撮像装置1dの信号の流れについて、図20を参照して説明する。なお、撮像装置1dの動作については、撮像装置1cの動作と同様である。
1層目の画素チップ201dの画素エリア211からの信号は、2層目のロジックチップ202dの信号処理部221(ADC42)に供給される。信号処理部221からの信号(ADCの結果)は、同層のエンコーダ部301に供給され、エンコード後、同層のフレームメモリ222cに供給され、保持される。
フレームメモリ222cからのデータは、同層に形成されているデコーダ部302に供給され、デコード後、上層のデータ処理部223aに供給される。データ処理部223aによる処理結果、この場合CDSの結果は、後段のチップ、例えば、DSPチップに出力される。
第4の実施の形態における撮像装置1dにおいても、画素チップ201dとロジックチップ202dを含む撮像装置1dであり、ADC42を画素21毎に有するような撮像装置1dを小型化することができる。
<第5の実施の形態>
第5の実施の形態における撮像装置1について説明を加える。図21に、第5の実施の形態における撮像装置1eの構成を示す。
第5の実施の形態における撮像装置1について説明を加える。図21に、第5の実施の形態における撮像装置1eの構成を示す。
第5の実施の形態における撮像装置1は、第2の実施の形態における撮像装置1bと第3の実施の形態における撮像装置1cを組み合わせた撮像装置である。図21に示した撮像装置1eの画素チップ201eには、第2の実施の形態における撮像装置1b(図11)と同じく、画素エリア211と画素バイアス212が形成されている。
図21に示した撮像装置1eのロジックチップ202eには、第2の実施の形態における撮像装置1b(図11)と同じく、信号処理部221が形成されている。図21に示した撮像装置1eのロジックチップ203eには、エンコーダ部301e、フレームメモリ222b、デコーダ部302e、データ処理部223b、および制御部224bが形成されている。
撮像装置1eを3層構造とし、3層目のロジックチップ203eに、2層目のロジックチップ202c(図13)に配置されていたエンコーダ部301、フレームメモリ222c、デコーダ部302、データ処理部223、および制御部224を、3層目のロジックチップ203eに移動させることで、2層目のロジックチップ202dを小型化できる。
よって、2層目のロジックチップ202dが小さくなることで、そのロジックチップ202bに合わせて、1層目の画素チップ201eを小型化することが可能となる。よって、画素21毎に、ADC42を備える構成とした場合であっても、ロジックチップ202eを小型化し、画素チップ201eを小型化することができ、これらを含む撮像装置1e自体を小型化することが可能となる。
このように構成した撮像装置1eの信号の流れについて、図22を参照して説明する。なお、撮像装置1eの動作については、撮像装置1cの動作と同様である。
1層目の画素チップ201eの画素エリア211からの信号は、2層目のロジックチップ202eの信号処理部221(ADC42)に供給される。信号処理部221からの信号(ADCの結果)は、3層目のロジックチップ203eのエンコーダ部301eに供給され、エンコード後、同層のフレームメモリ222bに供給され、保持される。
フレームメモリ222bからのデータは、同層に形成されているデコーダ部302eに供給され、デコード後、同層のデータ処理部223bに供給される。データ処理部223bによる処理結果、この場合CDSの結果は、後段のチップ、例えば、DSPチップに出力される。
図21に示した撮像装置1eの構成は一例あり、限定を示す記載ではない。例えば、図21に示した撮像装置1eでは、ロジックチップ203eに配置されているデータ処理部223bを、画素チップ201eに配置した構成としても良い。
また例えば、図21に示した撮像装置1eでは、ロジックチップ203eに配置されているデータ処理部223bを、ロジックチップ202eに配置した構成としても良い。
また例えば、図21に示した撮像装置1eでは、ロジックチップ203eに配置されているエンコーダ部301eとデコーダ部302eのどちらか一方または両方を、画素チップ201eに配置した構成としても良い。
第5の実施の形態における撮像装置1eにおいても、画素チップ201e、ロジックチップ202e、ロジックチップ203eを含む撮像装置1eであり、ADC42を画素21毎に有するような撮像装置1eを小型化することができる。
上記した実施の形態においては、撮像装置1は、2層構造または3層構造である場合を例に挙げて説明したが、3層以上の例えば4層構造、5層構造などであっても良い。また、フレームメモリを2フレーム分のデータを保持できる容量とし、2層で構成するような場合も、本技術の適用範囲である。
本技術によれば、画素毎にADCを備える構造の撮像装置を小型化することができる。撮像装置を構成するチップの大きさを小型化できるため、理収を向上させることができる。また、チップの設計時のSTA(static timing analysis)等が、チップサイズが縮小することで容易になる。
<電子機器>
本開示は、撮像装置への適用に限られるものではなく、デジタルスチルカメラやビデオカメラ等の撮像装置や、携帯電話機などの撮像機能を有する携帯端末装置や、画像読取部に撮像装置を用いる複写機など、画像取込部(光電変換部)に撮像装置を用いる電子機器全般に対して適用可能である。なお、電子機器に搭載される上記モジュール状の形態、即ちカメラモジュールを撮像装置とする場合もある。
本開示は、撮像装置への適用に限られるものではなく、デジタルスチルカメラやビデオカメラ等の撮像装置や、携帯電話機などの撮像機能を有する携帯端末装置や、画像読取部に撮像装置を用いる複写機など、画像取込部(光電変換部)に撮像装置を用いる電子機器全般に対して適用可能である。なお、電子機器に搭載される上記モジュール状の形態、即ちカメラモジュールを撮像装置とする場合もある。
図23は、本開示の電子機器の一例である撮像装置の構成例を示すブロック図である。図23に示すように、本開示の撮像装置600は、レンズ群601等を含む光学系、撮像素子602、カメラ信号処理部であるDSP回路603、フレームメモリ604、表示装置605、記録装置606、操作系607、及び、電源系608等を有している。
そして、DSP回路603、フレームメモリ604、表示装置605、記録装置606、操作系607、及び、電源系608がバスライン609を介して相互に接続された構成となっている。CPU610は、撮像装置600内の各部を制御する。
レンズ群601は、被写体からの入射光(像光)を取り込んで撮像素子602の撮像面上に結像する。撮像素子602は、レンズ群601によって撮像面上に結像された入射光の光量を画素単位で電気信号に変換して画素信号として出力する。この撮像素子602として、先述した実施の形態に係る固体撮像素子を用いることができる。
表示装置605は、液晶表示装置や有機EL(electro luminescence)表示装置等のパネル型表示装置からなり、撮像素子602で撮像された動画または静止画を表示する。記録装置606は、撮像素子602で撮像された動画または静止画を、ビデオテープやDVD(Digital Versatile Disk)等の記録媒体に記録する。
操作系607は、ユーザによる操作の下に、本撮像装置が持つ様々な機能について操作指令を発する。電源系608は、DSP回路603、フレームメモリ604、表示装置605、記録装置606、及び、操作系607の動作電源となる各種の電源を、これら供給対象に対して適宜供給する。
このような撮像装置600は、ビデオカメラやデジタルスチルカメラ、さらには、携帯電話機等のモバイル機器向けカメラモジュールに適用される。そして、この撮像装置600において、撮像素子602として先述した実施の形態に係る撮像装置を用いることができる。
<体内情報取得システムへの応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
図24は、本開示に係る技術(本技術)が適用され得る、カプセル型内視鏡を用いた患者の体内情報取得システムの概略的な構成の一例を示すブロック図である。
体内情報取得システム10001は、カプセル型内視鏡10100と、外部制御装置10200とから構成される。
カプセル型内視鏡10100は、検査時に、患者によって飲み込まれる。カプセル型内視鏡10100は、撮像機能及び無線通信機能を有し、患者から自然排出されるまでの間、胃や腸等の臓器の内部を蠕動運動等によって移動しつつ、当該臓器の内部の画像(以下、体内画像ともいう)を所定の間隔で順次撮像し、その体内画像についての情報を体外の外部制御装置10200に順次無線送信する。
外部制御装置10200は、体内情報取得システム10001の動作を統括的に制御する。また、外部制御装置10200は、カプセル型内視鏡10100から送信されてくる体内画像についての情報を受信し、受信した体内画像についての情報に基づいて、表示装置(図示せず)に当該体内画像を表示するための画像データを生成する。
体内情報取得システム10001では、このようにして、カプセル型内視鏡10100が飲み込まれてから排出されるまでの間、患者の体内の様子を撮像した体内画像を随時得ることができる。
カプセル型内視鏡10100と外部制御装置10200の構成及び機能についてより詳細に説明する。
カプセル型内視鏡10100は、カプセル型の筐体10101を有し、その筐体10101内には、光源部10111、撮像部10112、画像処理部10113、無線通信部10114、給電部10115、電源部10116、及び制御部10117が収納されている。
光源部10111は、例えばLED(light emitting diode)等の光源から構成され、撮像部10112の撮像視野に対して光を照射する。
撮像部10112は、撮像素子、及び当該撮像素子の前段に設けられる複数のレンズからなる光学系から構成される。観察対象である体組織に照射された光の反射光(以下、観察光という)は、当該光学系によって集光され、当該撮像素子に入射する。撮像部10112では、撮像素子において、そこに入射した観察光が光電変換され、その観察光に対応する画像信号が生成される。撮像部10112によって生成された画像信号は、画像処理部10113に提供される。
画像処理部10113は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等のプロセッサによって構成され、撮像部10112によって生成された画像信号に対して各種の信号処理を行う。画像処理部10113は、信号処理を施した画像信号を、RAWデータとして無線通信部10114に提供する。
無線通信部10114は、画像処理部10113によって信号処理が施された画像信号に対して変調処理等の所定の処理を行い、その画像信号を、アンテナ10114Aを介して外部制御装置10200に送信する。また、無線通信部10114は、外部制御装置10200から、カプセル型内視鏡10100の駆動制御に関する制御信号を、アンテナ10114Aを介して受信する。無線通信部10114は、外部制御装置10200から受信した制御信号を制御部10117に提供する。
給電部10115は、受電用のアンテナコイル、当該アンテナコイルに発生した電流から電力を再生する電力再生回路、及び昇圧回路等から構成される。給電部10115では、いわゆる非接触充電の原理を用いて電力が生成される。
電源部10116は、二次電池によって構成され、給電部10115によって生成された電力を蓄電する。図24では、図面が煩雑になることを避けるために、電源部10116からの電力の供給先を示す矢印等の図示を省略しているが、電源部10116に蓄電された電力は、光源部10111、撮像部10112、画像処理部10113、無線通信部10114、及び制御部10117に供給され、これらの駆動に用いられ得る。
制御部10117は、CPU等のプロセッサによって構成され、光源部10111、撮像部10112、画像処理部10113、無線通信部10114、及び、給電部10115の駆動を、外部制御装置10200から送信される制御信号に従って適宜制御する。
外部制御装置10200は、CPU、GPU等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイクロコンピュータ若しくは制御基板等で構成される。外部制御装置10200は、カプセル型内視鏡10100の制御部10117に対して制御信号を、アンテナ10200Aを介して送信することにより、カプセル型内視鏡10100の動作を制御する。カプセル型内視鏡10100では、例えば、外部制御装置10200からの制御信号により、光源部10111における観察対象に対する光の照射条件が変更され得る。また、外部制御装置10200からの制御信号により、撮像条件(例えば、撮像部10112におけるフレームレート、露出値等)が変更され得る。また、外部制御装置10200からの制御信号により、画像処理部10113における処理の内容や、無線通信部10114が画像信号を送信する条件(例えば、送信間隔、送信画像数等)が変更されてもよい。
また、外部制御装置10200は、カプセル型内視鏡10100から送信される画像信号に対して、各種の画像処理を施し、撮像された体内画像を表示装置に表示するための画像データを生成する。当該画像処理としては、例えば現像処理(デモザイク処理)、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の信号処理を行うことができる。外部制御装置10200は、表示装置の駆動を制御して、生成した画像データに基づいて撮像された体内画像を表示させる。あるいは、外部制御装置10200は、生成した画像データを記録装置(図示せず)に記録させたり、印刷装置(図示せず)に印刷出力させてもよい。
<内視鏡手術システムへの応用例>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
図25は、本開示に係る技術(本技術)が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
図25では、術者(医師)11131が、内視鏡手術システム11000を用いて、患者ベッド11133上の患者11132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム11000は、内視鏡11100と、気腹チューブ11111やエネルギー処置具11112等の、その他の術具11110と、内視鏡11100を支持する支持アーム装置11120と、内視鏡下手術のための各種の装置が搭載されたカート11200と、から構成される。
内視鏡11100は、先端から所定の長さの領域が患者11132の体腔内に挿入される鏡筒11101と、鏡筒11101の基端に接続されるカメラヘッド11102と、から構成される。図示する例では、硬性の鏡筒11101を有するいわゆる硬性鏡として構成される内視鏡11100を図示しているが、内視鏡11100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
鏡筒11101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡11100には光源装置11203が接続されており、当該光源装置11203によって生成された光が、鏡筒11101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者11132の体腔内の観察対象に向かって照射される。なお、内視鏡11100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド11102の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)11201に送信される。
CCU11201は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡11100及び表示装置11202の動作を統括的に制御する。さらに、CCU11201は、カメラヘッド11102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
表示装置11202は、CCU11201からの制御により、当該CCU11201によって画像処理が施された画像信号に基づく画像を表示する。
光源装置11203は、例えばLED(Light Emitting Diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡11100に供給する。
入力装置11204は、内視鏡手術システム11000に対する入力インタフェースである。ユーザは、入力装置11204を介して、内視鏡手術システム11000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡11100による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示等を入力する。
処置具制御装置11205は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具11112の駆動を制御する。気腹装置11206は、内視鏡11100による視野の確保及び術者の作業空間の確保の目的で、患者11132の体腔を膨らめるために、気腹チューブ11111を介して当該体腔内にガスを送り込む。レコーダ11207は、手術に関する各種の情報を記録可能な装置である。プリンタ11208は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
なお、内視鏡11100に術部を撮影する際の照射光を供給する光源装置11203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置11203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド11102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置11203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド11102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置11203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置11203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
図26は、図25に示すカメラヘッド11102及びCCU11201の機能構成の一例を示すブロック図である。
カメラヘッド11102は、レンズユニット11401と、撮像部11402と、駆動部11403と、通信部11404と、カメラヘッド制御部11405と、を有する。CCU11201は、通信部11411と、画像処理部11412と、制御部11413と、を有する。カメラヘッド11102とCCU11201とは、伝送ケーブル11400によって互いに通信可能に接続されている。
レンズユニット11401は、鏡筒11101との接続部に設けられる光学系である。鏡筒11101の先端から取り込まれた観察光は、カメラヘッド11102まで導光され、当該レンズユニット11401に入射する。レンズユニット11401は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
撮像部11402は、撮像素子で構成される。撮像部11402を構成する撮像素子は、1つ(いわゆる単板式)であってもよいし、複数(いわゆる多板式)であってもよい。撮像部11402が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部11402は、3D(Dimensional)表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者11131は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部11402が多板式で構成される場合には、各撮像素子に対応して、レンズユニット11401も複数系統設けられ得る。
また、撮像部11402は、必ずしもカメラヘッド11102に設けられなくてもよい。例えば、撮像部11402は、鏡筒11101の内部に、対物レンズの直後に設けられてもよい。
駆動部11403は、アクチュエータによって構成され、カメラヘッド制御部11405からの制御により、レンズユニット11401のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部11402による撮像画像の倍率及び焦点が適宜調整され得る。
通信部11404は、CCU11201との間で各種の情報を送受信するための通信装置によって構成される。通信部11404は、撮像部11402から得た画像信号をRAWデータとして伝送ケーブル11400を介してCCU11201に送信する。
また、通信部11404は、CCU11201から、カメラヘッド11102の駆動を制御するための制御信号を受信し、カメラヘッド制御部11405に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてCCU11201の制御部11413によって自動的に設定されてもよい。後者の場合には、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡11100に搭載されていることになる。
カメラヘッド制御部11405は、通信部11404を介して受信したCCU11201からの制御信号に基づいて、カメラヘッド11102の駆動を制御する。
通信部11411は、カメラヘッド11102との間で各種の情報を送受信するための通信装置によって構成される。通信部11411は、カメラヘッド11102から、伝送ケーブル11400を介して送信される画像信号を受信する。
また、通信部11411は、カメラヘッド11102に対して、カメラヘッド11102の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
画像処理部11412は、カメラヘッド11102から送信されたRAWデータである画像信号に対して各種の画像処理を施す。
制御部11413は、内視鏡11100による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部11413は、カメラヘッド11102の駆動を制御するための制御信号を生成する。
また、制御部11413は、画像処理部11412によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置11202に表示させる。この際、制御部11413は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部11413は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具11112の使用時のミスト等を認識することができる。制御部11413は、表示装置11202に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者11131に提示されることにより、術者11131の負担を軽減することや、術者11131が確実に手術を進めることが可能になる。
カメラヘッド11102及びCCU11201を接続する伝送ケーブル11400は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル11400を用いて有線で通信が行われていたが、カメラヘッド11102とCCU11201との間の通信は無線で行われてもよい。
なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。
<移動体への応用例>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図27は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図27に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図27の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図28は、撮像部12031の設置位置の例を示す図である。
図28では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図28には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
なお、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
なお、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
なお、本技術は以下のような構成も取ることができる。
(1)
入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果をエンコードするエンコード部と、
前記エンコード結果を保持する保持部と、
前記保持部に保持されている前記エンコード結果を出力する出力部と
を備え、
第1の基板に、前記画素回路が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている
撮像装置。
(2)
前記エンコード部、前記保持部、および前記出力部は、前記第2の基板に配置されている
前記(1)に記載の撮像装置。
(3)
前記出力部は、前記第1の基板に配置され、
前記エンコード部と前記保持部は、前記第2の基板に配置されている
前記(1)に記載の撮像装置。
(4)
前記第2の基板の下層に積層される第3の基板に、前記エンコード部、前記保持部、および前記出力部が配置されている
前記(1)に記載の撮像装置。
(5)
前記保持部に保持されている前記エンコード結果をデコードするデコード部をさらに備え、
前記デコード部は、前記エンコード部と同一基板に備えられている
前記(1)乃至(4)のいずれかに記載の撮像装置。
(6)
前記デコード部は、前記画素回路のリセットレベルの前記コード入力信号をデコードし、
前記出力部は、前記デコード部によりデコードされた前記リセットレベルの前記コード入力信号と、前記画素回路の信号レベルの前記コード入力信号を用いてCDS(Correlated Double Sampling)を行い、CDS結果を出力する
前記(5)に記載の撮像装置。
(7)
前記出力部により出力された前記CDS結果は、前記エンコード部でエンコードされ、前記保持部に保持される
前記(6)に記載の撮像装置。
(8)
前記保持部に保持されている前記エンコード結果は、前記デコード部でデコードされた後、前記出力部により出力される
前記(7)に記載の撮像装置。
(9)
入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果をエンコードするエンコード部と、
前記エンコード結果を保持する保持部と、
前記保持部に保持されている前記エンコード結果を出力する出力部と
を備え、
第1の基板に、前記画素回路が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている
撮像装置と、
前記撮像装置からの信号を処理する処理部と
を備える電子機器。
(10)
入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果を保持する保持部と、
前記保持部に保持されている変換結果を出力する出力部と
を備え、
第1の基板に、前記画素回路と、前記保持部または前記出力部が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている
撮像装置。
(11)
入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果を保持する保持部と、
前記保持部に保持されている変換結果を出力する出力部と
を備え、
第1の基板に、前記画素回路が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置され、
前記第2の基板の下層に積層される第3の基板に、前記保持部と前記出力部が配置されている
撮像装置。
(12)
前記出力部は、CDS(Correlated Double Sampling)を実行し、その結果を出力する
前記(10)または(11)に記載の撮像装置。
(1)
入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果をエンコードするエンコード部と、
前記エンコード結果を保持する保持部と、
前記保持部に保持されている前記エンコード結果を出力する出力部と
を備え、
第1の基板に、前記画素回路が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている
撮像装置。
(2)
前記エンコード部、前記保持部、および前記出力部は、前記第2の基板に配置されている
前記(1)に記載の撮像装置。
(3)
前記出力部は、前記第1の基板に配置され、
前記エンコード部と前記保持部は、前記第2の基板に配置されている
前記(1)に記載の撮像装置。
(4)
前記第2の基板の下層に積層される第3の基板に、前記エンコード部、前記保持部、および前記出力部が配置されている
前記(1)に記載の撮像装置。
(5)
前記保持部に保持されている前記エンコード結果をデコードするデコード部をさらに備え、
前記デコード部は、前記エンコード部と同一基板に備えられている
前記(1)乃至(4)のいずれかに記載の撮像装置。
(6)
前記デコード部は、前記画素回路のリセットレベルの前記コード入力信号をデコードし、
前記出力部は、前記デコード部によりデコードされた前記リセットレベルの前記コード入力信号と、前記画素回路の信号レベルの前記コード入力信号を用いてCDS(Correlated Double Sampling)を行い、CDS結果を出力する
前記(5)に記載の撮像装置。
(7)
前記出力部により出力された前記CDS結果は、前記エンコード部でエンコードされ、前記保持部に保持される
前記(6)に記載の撮像装置。
(8)
前記保持部に保持されている前記エンコード結果は、前記デコード部でデコードされた後、前記出力部により出力される
前記(7)に記載の撮像装置。
(9)
入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果をエンコードするエンコード部と、
前記エンコード結果を保持する保持部と、
前記保持部に保持されている前記エンコード結果を出力する出力部と
を備え、
第1の基板に、前記画素回路が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている
撮像装置と、
前記撮像装置からの信号を処理する処理部と
を備える電子機器。
(10)
入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果を保持する保持部と、
前記保持部に保持されている変換結果を出力する出力部と
を備え、
第1の基板に、前記画素回路と、前記保持部または前記出力部が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている
撮像装置。
(11)
入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果を保持する保持部と、
前記保持部に保持されている変換結果を出力する出力部と
を備え、
第1の基板に、前記画素回路が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置され、
前記第2の基板の下層に積層される第3の基板に、前記保持部と前記出力部が配置されている
撮像装置。
(12)
前記出力部は、CDS(Correlated Double Sampling)を実行し、その結果を出力する
前記(10)または(11)に記載の撮像装置。
1 撮像装置, 11 半導体基板, 21 画素, 22 画素アレイ部, 23 画素駆動回路, 25 垂直駆動回路, 26 センスアンプ部, 27 出力部, 28 タイミング生成回路, 41 画素回路, 51 比較器, 52 ラッチ記憶部, 101 フォトダイオード, 102 排出トランジスタ, 103 転送トランジスタ, 104 リセットトランジスタ, 105 フローティングディフュージョン, 106 増幅トランジスタ, 201 画素チップ, 202 ロジックチップ, 203 ロジックチップ, 211 画素エリア, 212 画素バイアス, 221 信号処理部, 222 フレームメモリ, 223 データ処理部, 224 制御部, 301 エンコーダ部, 302 デコード部, 352 デコード部
Claims (12)
- 入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果をエンコードするエンコード部と、
前記エンコード結果を保持する保持部と、
前記保持部に保持されている前記エンコード結果を出力する出力部と
を備え、
第1の基板に、前記画素回路が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている
撮像装置。 - 前記エンコード部、前記保持部、および前記出力部は、前記第2の基板に配置されている
請求項1に記載の撮像装置。 - 前記出力部は、前記第1の基板に配置され、
前記エンコード部と前記保持部は、前記第2の基板に配置されている
請求項1に記載の撮像装置。 - 前記第2の基板の下層に積層される第3の基板に、前記エンコード部、前記保持部、および前記出力部が配置されている
請求項1に記載の撮像装置。 - 前記保持部に保持されている前記エンコード結果をデコードするデコード部をさらに備え、
前記デコード部は、前記エンコード部と同一基板に備えられている
請求項1に記載の撮像装置。 - 前記デコード部は、前記画素回路のリセットレベルの前記コード入力信号をデコードし、
前記出力部は、前記デコード部によりデコードされた前記リセットレベルの前記コード入力信号と、前記画素回路の信号レベルの前記コード入力信号を用いてCDS(Correlated Double Sampling)を行い、CDS結果を出力する
請求項5に記載の撮像装置。 - 前記出力部により出力された前記CDS結果は、前記エンコード部でエンコードされ、前記保持部に保持される
請求項6に記載の撮像装置。 - 前記保持部に保持されている前記エンコード結果は、前記デコード部でデコードされた後、前記出力部により出力される
請求項7に記載の撮像装置。 - 入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果をエンコードするエンコード部と、
前記エンコード結果を保持する保持部と、
前記保持部に保持されている前記エンコード結果を出力する出力部と
を備え、
第1の基板に、前記画素回路が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている
撮像装置と、
前記撮像装置からの信号を処理する処理部と
を備える電子機器。 - 入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果を保持する保持部と、
前記保持部に保持されている変換結果を出力する出力部と
を備え、
第1の基板に、前記画素回路と、前記保持部または前記出力部が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置されている
撮像装置。 - 入射された光を受光して光電変換することで生成された電荷信号を出力する画素回路と、
前記画素回路毎に、前記電荷信号と参照信号を比較し、比較結果が反転したときのコード入力信号を変換結果として出力するAD変換部と、
前記AD変換部からの変換結果を保持する保持部と、
前記保持部に保持されている変換結果を出力する出力部と
を備え、
第1の基板に、前記画素回路が配置され、
前記第1の基板の下層に積層される第2の基板に、前記AD変換部が配置され、
前記第2の基板の下層に積層される第3の基板に、前記保持部と前記出力部が配置されている
撮像装置。 - 前記出力部は、CDS(Correlated Double Sampling)を実行し、その結果を出力する
請求項11に記載の撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17/261,340 US11778352B2 (en) | 2018-08-17 | 2019-08-02 | Imaging apparatus and electronic device |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018153661A JP2020028098A (ja) | 2018-08-17 | 2018-08-17 | 撮像装置、電子機器 |
JP2018-153661 | 2018-08-17 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2020036078A1 true WO2020036078A1 (ja) | 2020-02-20 |
Family
ID=69525504
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2019/030414 WO2020036078A1 (ja) | 2018-08-17 | 2019-08-02 | 撮像装置、電子機器 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11778352B2 (ja) |
JP (1) | JP2020028098A (ja) |
WO (1) | WO2020036078A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021175137A (ja) * | 2020-04-28 | 2021-11-01 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置 |
JP2022119379A (ja) * | 2021-02-04 | 2022-08-17 | キヤノン株式会社 | 光電変換装置 |
US20220408049A1 (en) * | 2021-06-22 | 2022-12-22 | Meta Platforms Technologies, Llc | Multi-layer stacked camera-image-sensor circuit |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014103543A (ja) * | 2012-11-20 | 2014-06-05 | Sony Corp | 撮像素子、並びに、撮像装置および方法 |
JP2014165520A (ja) * | 2013-02-21 | 2014-09-08 | Sony Corp | 固体撮像素子、および撮像装置 |
JP2016039393A (ja) * | 2014-08-05 | 2016-03-22 | ソニー株式会社 | 撮像装置及び画素信号読み出し方法 |
WO2016194653A1 (ja) * | 2015-06-05 | 2016-12-08 | ソニー株式会社 | 撮像素子、電子機器、並びに、製造装置および方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4669860B2 (ja) | 2007-07-06 | 2011-04-13 | 三菱電機株式会社 | 無停電電源装置 |
US10863131B2 (en) * | 2015-05-20 | 2020-12-08 | Samsung Electronics Co., Ltd. | Image sensor including parallel output of pixel signals from a pixel unit and image processing system including the same |
US10721426B2 (en) * | 2017-08-31 | 2020-07-21 | Canon Kabushiki Kaisha | Solid-state image sensor, image capture apparatus and image capture method |
-
2018
- 2018-08-17 JP JP2018153661A patent/JP2020028098A/ja active Pending
-
2019
- 2019-08-02 WO PCT/JP2019/030414 patent/WO2020036078A1/ja active Application Filing
- 2019-08-02 US US17/261,340 patent/US11778352B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014103543A (ja) * | 2012-11-20 | 2014-06-05 | Sony Corp | 撮像素子、並びに、撮像装置および方法 |
JP2014165520A (ja) * | 2013-02-21 | 2014-09-08 | Sony Corp | 固体撮像素子、および撮像装置 |
JP2016039393A (ja) * | 2014-08-05 | 2016-03-22 | ソニー株式会社 | 撮像装置及び画素信号読み出し方法 |
WO2016194653A1 (ja) * | 2015-06-05 | 2016-12-08 | ソニー株式会社 | 撮像素子、電子機器、並びに、製造装置および方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2020028098A (ja) | 2020-02-20 |
US20210266489A1 (en) | 2021-08-26 |
US11778352B2 (en) | 2023-10-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7270616B2 (ja) | 固体撮像素子および固体撮像装置 | |
US11832005B2 (en) | Imaging element | |
WO2018030137A1 (ja) | 撮像装置、電子機器 | |
US11582415B2 (en) | Imaging apparatus and electronic equipment | |
WO2020036078A1 (ja) | 撮像装置、電子機器 | |
WO2020036054A1 (ja) | 固体撮像素子および電子機器 | |
US20240064438A1 (en) | Imaging device | |
KR20210128395A (ko) | 신호 처리 방법 및 촬상 장치 | |
JPWO2018180570A1 (ja) | 固体撮像素子、電子機器、および半導体装置 | |
CN114567739A (zh) | 光检测装置和电子设备 | |
WO2019188131A1 (ja) | 半導体装置および半導体装置の製造方法 | |
WO2017150168A1 (ja) | 撮像素子及び電子機器 | |
KR102684217B1 (ko) | 촬상 소자 및 전자 기기 | |
WO2020100697A1 (ja) | 固体撮像素子、固体撮像装置及び電子機器 | |
WO2022097529A1 (ja) | 撮像装置、撮像方法 | |
WO2022102433A1 (ja) | 撮像装置 | |
WO2022201874A1 (ja) | 撮像装置 | |
WO2024057810A1 (ja) | 撮像装置、撮像システム、及び、撮像装置の駆動方法 | |
WO2020075380A1 (ja) | 記憶回路および撮像装置 | |
WO2019239767A1 (ja) | 撮像装置 | |
CN114556906A (zh) | 摄像装置和电子设备 | |
JP2019022020A (ja) | 固体撮像素子、固体撮像素子の駆動方法および電子機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 19849695 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 19849695 Country of ref document: EP Kind code of ref document: A1 |