WO2023132137A1 - 撮像素子および電子機器 - Google Patents
撮像素子および電子機器 Download PDFInfo
- Publication number
- WO2023132137A1 WO2023132137A1 PCT/JP2022/042704 JP2022042704W WO2023132137A1 WO 2023132137 A1 WO2023132137 A1 WO 2023132137A1 JP 2022042704 W JP2022042704 W JP 2022042704W WO 2023132137 A1 WO2023132137 A1 WO 2023132137A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- pixels
- light
- pixel
- filter
- wavelength
- Prior art date
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 168
- 238000006243 chemical reaction Methods 0.000 claims abstract description 112
- 238000012545 processing Methods 0.000 claims description 87
- 238000010586 diagram Methods 0.000 description 32
- 238000001514 detection method Methods 0.000 description 28
- 210000003128 head Anatomy 0.000 description 26
- 238000012986 modification Methods 0.000 description 24
- 230000004048 modification Effects 0.000 description 24
- 238000004891 communication Methods 0.000 description 18
- 230000003287 optical effect Effects 0.000 description 18
- 239000000758 substrate Substances 0.000 description 17
- 238000005516 engineering process Methods 0.000 description 16
- 239000004065 semiconductor Substances 0.000 description 16
- 238000000034 method Methods 0.000 description 14
- 239000010410 layer Substances 0.000 description 12
- 238000002674 endoscopic surgery Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 230000000295 complement effect Effects 0.000 description 9
- 230000000875 corresponding effect Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 239000011159 matrix material Substances 0.000 description 7
- 238000012546 transfer Methods 0.000 description 7
- 230000003321 amplification Effects 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 6
- 238000003199 nucleic acid amplification method Methods 0.000 description 6
- 230000001276 controlling effect Effects 0.000 description 5
- 238000002955 isolation Methods 0.000 description 5
- 238000001356 surgical procedure Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000005284 excitation Effects 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 208000005646 Pneumoperitoneum Diseases 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000010336 energy treatment Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 101100243108 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) PDI1 gene Proteins 0.000 description 2
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N Silicium dioxide Chemical compound O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 description 2
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 2
- 210000004204 blood vessel Anatomy 0.000 description 2
- 239000003153 chemical reaction reagent Substances 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 239000010949 copper Substances 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- MOFVSTNWEDAEEK-UHFFFAOYSA-M indocyanine green Chemical compound [Na+].[O-]S(=O)(=O)CCCCN1C2=CC=C3C=CC=CC3=C2C(C)(C)C1=CC=CC=CC=CC1=[N+](CCCCS([O-])(=O)=O)C2=CC=C(C=CC=C3)C3=C2C1(C)C MOFVSTNWEDAEEK-UHFFFAOYSA-M 0.000 description 2
- 229960004657 indocyanine green Drugs 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 239000011229 interlayer Substances 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 2
- 229910021420 polycrystalline silicon Inorganic materials 0.000 description 2
- 229920005591 polysilicon Polymers 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 229910052710 silicon Inorganic materials 0.000 description 2
- 239000010703 silicon Substances 0.000 description 2
- 229910052814 silicon oxide Inorganic materials 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 239000011800 void material Substances 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 240000004050 Pentaglottis sempervirens Species 0.000 description 1
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- 229910052581 Si3N4 Inorganic materials 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 229910052782 aluminium Inorganic materials 0.000 description 1
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 1
- 230000000740 bleeding effect Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000002485 combustion reaction Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000002073 fluorescence micrograph Methods 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000003595 mist Substances 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000007789 sealing Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000035939 shock Effects 0.000 description 1
- HQVNEWCFYHHQES-UHFFFAOYSA-N silicon nitride Chemical compound N12[Si]34N5[Si]62N3[Si]51N64 HQVNEWCFYHHQES-UHFFFAOYSA-N 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 239000002344 surface layer Substances 0.000 description 1
- WFKWXMTUELFFGS-UHFFFAOYSA-N tungsten Chemical compound [W] WFKWXMTUELFFGS-UHFFFAOYSA-N 0.000 description 1
- 229910052721 tungsten Inorganic materials 0.000 description 1
- 239000010937 tungsten Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
Definitions
- the present disclosure relates to imaging devices and electronic devices.
- An imaging device has been proposed in which a plurality of pixel groups consisting of four pixels arranged in a 2 ⁇ 2 matrix are arranged (Patent Document 1).
- Imaging devices are required to improve their performance.
- An imaging device includes a first pixel having a first filter that transmits light of a first wavelength and a first photoelectric conversion unit; a second filter that transmits light of a second wavelength; a second pixel having a photoelectric conversion unit; a third pixel having a third filter that transmits light of a third wavelength and a third photoelectric conversion unit; and light of the second wavelength and light of the third wavelength.
- An electronic device includes a first pixel having a first filter that transmits light of a first wavelength and a first photoelectric conversion unit, a second filter that transmits light of a second wavelength, and a second photoelectric converter.
- FIG. 1 is a diagram illustrating an example of a schematic configuration of an electronic device according to an embodiment of the present disclosure
- FIG. 1 is a diagram illustrating an example of a schematic configuration of an imaging element according to an embodiment of the present disclosure
- FIG. 2 is a diagram showing an arrangement example of pixels of an imaging device according to an embodiment of the present disclosure
- FIG. 1 is a diagram showing an example of a circuit configuration of a pixel of an imaging device according to an embodiment of the present disclosure
- FIG. 1 is a diagram showing an example of a circuit configuration of a pixel of an imaging device according to an embodiment of the present disclosure
- FIG. It is a figure showing an example of section composition of an image sensor concerning an embodiment of this indication.
- FIG. 4 is a diagram for explaining an example of zoom processing by an electronic device according to an embodiment of the present disclosure
- FIG. FIG. 4 is a diagram for explaining an example of zoom processing by an electronic device according to an embodiment of the present disclosure
- FIG. FIG. 4 is a diagram for explaining an example of zoom processing by an electronic device according to an embodiment of the present disclosure
- FIG. FIG. 5 is a diagram showing an arrangement example of pixels of an imaging device according to Modification 1 of the present disclosure
- FIG. 10 is a diagram illustrating an arrangement example of pixels of an imaging device according to Modification 2 of the present disclosure
- FIG. 10 is a diagram illustrating an example of a cross-sectional configuration of an imaging device according to Modification 3 of the present disclosure
- FIG. 11 is a diagram illustrating another example of a cross-sectional configuration of an imaging device according to Modification 3 of the present disclosure
- FIG. 11 is a diagram illustrating an example of a cross-sectional configuration of an imaging device according to Modification 4 of the present disclosure
- FIG. 11 is a diagram illustrating another example of a cross-sectional configuration of an imaging device according to Modification 4 of the present disclosure
- FIG. 12 is a diagram illustrating an example of a cross-sectional configuration of an imaging device according to Modification 5 of the present disclosure
- FIG. 11 is a diagram illustrating an example of a cross-sectional configuration of an imaging device according to Modification 6 of the present disclosure
- FIG. 20 is a diagram illustrating another example of a cross-sectional configuration of an imaging element according to Modification 6 of the present disclosure
- 1 is a block diagram showing an example of a schematic configuration of a vehicle control system
- FIG. 4 is an explanatory diagram showing an example of installation positions of an outside information detection unit and an imaging unit
- 1 is a diagram showing an example of a schematic configuration of an endoscopic surgery system
- FIG. 3 is a block diagram showing an example of functional configurations of a camera head and a CCU;
- FIG. 1 is a diagram showing an example of a schematic configuration of an electronic device according to an embodiment of the present disclosure.
- the electronic device 100 includes an imaging device 1 , an optical lens 101 , a driving section 102 and a signal processing section 103 .
- the electronic device 100 can be applied to various electronic devices having imaging functions, such as digital still cameras, video cameras, and mobile phones.
- the optical lens 101 takes in incident light (image light) from a subject and forms an image of the subject on the imaging surface of the image sensor 1 .
- the imaging device 1 pixels having photoelectric conversion units are arranged in a matrix.
- the imaging device 1 captures an image of a subject formed by the optical lens 101 .
- the imaging device 1 is, for example, a CMOS (Complementary Metal Oxide Semiconductor) image sensor, and photoelectrically converts received light to generate pixel signals.
- the imaging element 1 converts the amount of incident light formed on an imaging surface into an electric signal on a pixel-by-pixel basis, and outputs the electric signal as a pixel signal.
- CMOS Complementary Metal Oxide Semiconductor
- the drive unit 102 includes a drive circuit and controls each unit of the electronic device 100 .
- the drive unit 102 is a control unit, and controls the operations of the image sensor 1, the optical lens 101, and the like.
- the signal processing unit 103 has a processor and memory (ROM, RAM, etc.) and performs various kinds of signal processing.
- the signal processing unit 103 is a signal processing circuit that processes signals, such as a DSP (Digital Signal Processor).
- the signal processing unit 103 has an image processing unit 104 and a phase difference detection unit 105 .
- the image processing unit 104 performs signal processing on pixel signals output from each pixel of the image sensor 1 to generate image data.
- the image processing unit 104 is an image data generation unit that generates image data.
- the phase difference detection unit 105 detects phase difference data (phase difference information) using pixel signals output from the phase difference pixels of the image sensor 1 .
- the phase difference detection unit 105 is a phase difference data generation unit that generates phase difference data.
- the phase difference detection unit 105 (or the drive unit 102) calculates the defocus amount using the phase difference data.
- a driving unit 102 drives the optical lens 101 according to the calculated defocus amount. In this way, in the imaging device 1, the position of the optical lens 101 is adjusted, and AF (Auto Focus) is realized.
- FIG. 2 is a diagram illustrating an example of a schematic configuration of an imaging device according to the embodiment;
- the imaging device 1 has a region (pixel section 110) in which a plurality of pixels P are two-dimensionally arranged in a matrix as an imaging area.
- the imaging device 1 has, for example, a vertical driving circuit 111, a column signal processing circuit 112, a horizontal driving circuit 113, an output circuit 114, a control circuit 115, an input/output terminal 116, etc. in a peripheral region of the pixel portion 110. .
- a plurality of pixel drive lines Lread are wired and a plurality of vertical signal lines Lsig are wired.
- the pixel drive line Lread transmits drive signals for reading signals from the pixels P (signal TRG, signal SEL, signal RST, etc., which will be described later).
- the vertical drive circuit 111 is composed of a shift register, an address decoder, and the like.
- the vertical drive circuit 111 is a pixel drive section that drives each pixel P of the pixel section 110 .
- the column signal processing circuit 112 includes, for example, an analog-to-digital converter (ADC) provided for each vertical signal line Lsig, a horizontal selection switch, and the like.
- ADC analog-to-digital converter
- a signal output from each pixel P selectively scanned by the vertical driving circuit 111 is supplied to the column signal processing circuit 112 through the vertical signal line Lsig.
- the column signal processing circuit 112 performs signal processing such as CDS (Correlated Double Sampling) and AD (Analog Digital) conversion.
- the horizontal driving circuit 113 is composed of a shift register, an address decoder, etc., and sequentially drives each horizontal selection switch of the column signal processing circuit 112 while scanning. By selective scanning by the horizontal drive circuit 113 , signals of respective pixels transmitted through each of the vertical signal lines Lsig are sequentially output to the horizontal signal line 121 .
- the output circuit 114 performs signal processing on signals sequentially supplied from each of the column signal processing circuits 112 via the horizontal signal line 121 and outputs the processed signals.
- the output circuit 114 may perform only buffering, or may perform black level adjustment, column variation correction, various digital signal processing, and the like.
- a circuit portion consisting of the vertical driving circuit 111, the column signal processing circuit 112, the horizontal driving circuit 113, the horizontal signal line 121 and the output circuit 114 may be formed on the semiconductor substrate 11, or may be arranged on the external control IC. It can be anything. Moreover, those circuit portions may be formed on another substrate connected by a cable or the like.
- the control circuit 115 receives a clock given from the outside of the semiconductor substrate 11, data instructing an operation mode, etc., and outputs data such as internal information of the imaging device 1.
- the control circuit 115 has a timing generator that generates various timing signals, and controls peripheral circuits such as the vertical driving circuit 111, the column signal processing circuit 112, and the horizontal driving circuit 113 based on the various timing signals generated by the timing generator. drive control.
- the input/output terminal 116 exchanges signals with the outside.
- FIG. 3 is a diagram showing an arrangement example of pixels of an imaging device according to the embodiment.
- the pixel P of the imaging device 1 has a lens portion 21 that collects light and color filters 30 (color filters 30r, 30g, 30b, 30c, 30m, and 30y in FIG. 3).
- the lens unit 21 is an optical member also called an on-chip lens, and is provided above the color filter 30 for each pixel P or for each plurality of pixels P.
- Light from a subject enters the lens unit 21 via the above-described optical lens 101 (see FIG. 1).
- FIG. 1 As shown in FIG.
- the incident direction of light from the subject is the Z-axis direction
- the horizontal direction perpendicular to the Z-axis direction is the X-axis direction
- the vertical direction perpendicular to the Z-axis and the X-axis is the Y-axis direction.
- the color filter 30 selectively transmits light in a specific wavelength range among incident light.
- the plurality of pixels P provided in the pixel unit 110 of the image sensor 1 includes a plurality of pixels Pr, pixels Pg, pixels Pb, pixels Pc, pixels Pm, and pixels Py, as shown in FIG.
- the pixel unit 110 includes a plurality of pixels Pr, a plurality of pixels Pg, a plurality of pixels Pb, a plurality of pixels Pc, a plurality of pixels Pm, and a plurality of pixels Py, as shown in an example indicated by a dashed line A in FIG. 6 ⁇ 6 pixels are repeatedly arranged.
- Each pixel has, for example, a photodiode PD as a photoelectric conversion unit.
- a pixel Pr is a pixel provided with a color filter 30r that transmits red (R) light.
- the color filter 30r transmits light in the red wavelength band.
- the photoelectric conversion unit of the pixel Pr receives red wavelength light and performs photoelectric conversion.
- the pixel Pg is a pixel provided with a color filter 30g that transmits green (G) light.
- the color filter 30g transmits light in the green wavelength band.
- the photoelectric conversion unit of the pixel Pg receives green wavelength light and performs photoelectric conversion.
- the pixel Pb is a pixel provided with a color filter 30b that transmits blue (B) light.
- the color filter 30b transmits light in the blue wavelength range.
- the photoelectric conversion unit of the pixel Pb receives blue wavelength light and performs photoelectric conversion.
- the pixel Pc is a pixel provided with a color filter 30c that transmits cyan (Cy) light.
- the color filter 30c transmits light in the wavelength range of cyan, which is complementary to red.
- the color filter 30c can transmit light in the green wavelength range and light in the blue wavelength range.
- the photoelectric conversion unit of the pixel Pc receives cyan wavelength light and performs photoelectric conversion.
- a pixel Pm is a pixel provided with a color filter 30m that transmits magenta (Mg) light.
- the color filter 30m transmits light in the wavelength range of magenta, which is complementary to green.
- the color filter 30m can transmit light in the red wavelength range and light in the blue wavelength range.
- the photoelectric conversion unit of the pixel Pm receives magenta wavelength light and performs photoelectric conversion.
- the pixel Py is a pixel provided with a color filter 30y that transmits yellow (Ye) light.
- the color filter 30y transmits light in the wavelength range of yellow, which is complementary to blue.
- the color filter 30y can transmit light in the red wavelength range and light in the green wavelength range.
- the photoelectric conversion unit of the pixel Py receives yellow wavelength light and performs photoelectric conversion.
- the pixel Pr, pixel Pg, and pixel Pb generate an R component pixel signal, a G component pixel signal, and a B component pixel signal, respectively. Therefore, the image sensor 1 can obtain RGB pixel signals.
- Pixel Pc, pixel Pm, and pixel Py generate a Cy component pixel signal, an Mg component pixel signal, and a Ye component pixel signal, respectively. Therefore, the image sensor 1 can obtain CMY pixel signals.
- the pixels Pr, Pg, and Pb, which are pixels of the primary color system, and the pixels Pc, Pm, and Py, which are pixels of the complementary color system, are arranged. there is Therefore, it is possible to obtain both an RGB image and a CMY image by one-time imaging, and it is possible to realize high color reproducibility.
- pixels Pr, pixels Pg, and pixels Pb are each arranged in units of 2 ⁇ 2 pixels. It can also be said that the pixels Pr, the pixels Pg, and the pixels Pb are periodically arranged in 2 rows ⁇ 2 columns. In the pixel section 110, four adjacent pixels Pr, four adjacent pixels Pg, and four adjacent pixels Pb are repeatedly arranged. It can also be said that the four pixels Pr, the four pixels Pg, and the four pixels Pb are arranged according to the Bayer array.
- a lens unit 21 is provided for every four pixels.
- one lens unit 21 is arranged for 2 ⁇ 2 pixels configured by four adjacent pixels Pr.
- Light that has passed through different regions of the optical lens 101 is received by the photoelectric conversion unit of each of the four pixels Pr, and pupil division is performed. Therefore, by using the pixel signal output from each pixel Pr, phase difference information can be obtained, and phase difference AF (Auto Focus) can be performed.
- phase difference AF Auto Focus
- one lens unit 21 is arranged for four pixels Pg. Therefore, by using the pixel signal output from each pixel Pg, phase difference data (phase difference information) can be obtained, and phase difference AF can be performed. Furthermore, one lens unit 21 is arranged for four pixels Pb. Therefore, phase difference data can be obtained by using the pixel signal output from each pixel Pb, and phase difference AF can be performed.
- Pixel Pr, pixel Pg, and pixel Pb are also phase difference pixels capable of outputting signals used for phase difference detection.
- the phase difference pixels arranged in units of 2 ⁇ 2 pixels are provided repeatedly over the entire imaging surface of the imaging element 1 , that is, the entire pixel section 110 .
- phase difference data can be obtained over the entire imaging surface of the imaging element 1, and high-precision autofocusing can be performed. Therefore, it is possible to improve the image quality of the image.
- a lens unit 21 is provided for each pixel Pc, Pm, and Py, which are pixels having complementary color system (CMY) color filters 30 .
- One lens unit 21 is arranged for one pixel Pc.
- One lens unit 21 is arranged for one pixel Pm, and one lens unit 21 is arranged for one pixel Py.
- the complementary color pixels Pc, Pm, and Py are arranged between adjacent primary color pixels. As shown in FIG. 3, five pixels Pc are arranged in a cross shape. Five pixels Pm are arranged in a cross shape, and five pixels Py are also arranged in a cross shape.
- a readout circuit (see FIG. 4), which will be described later, is provided for each pixel of the same color arranged in units of 2 ⁇ 2 pixels.
- the readout circuit includes an amplification transistor, a reset transistor, and the like, and outputs a pixel signal based on charges photoelectrically converted by the photoelectric conversion unit.
- 2 ⁇ 2 pixels composed of four adjacent pixels Pr share one readout circuit.
- 2 ⁇ 2 pixels composed of four adjacent pixels Pg share one readout circuit
- 2 ⁇ 2 pixels composed of four adjacent pixels Pb share one readout circuit.
- one readout circuit is provided for every 2 ⁇ 2 pixels of the same color.
- a readout circuit (see FIG. 5), which will be described later, is provided for each pixel of the same color arranged in a cross shape.
- Five pixels Pc arranged in a cross share one readout circuit.
- Five pixels Pm arranged in a cross shape share one readout circuit, and five pixels Py arranged in a cross shape share one readout circuit.
- one readout circuit is provided for each pixel of the same color arranged in a cross shape.
- Pixel signals of each of the five pixels are read out by operating the readout circuit in a time-sharing manner. It is also possible to read out a pixel signal obtained by adding the signals of each of the five pixels.
- FIG. 4 is a diagram showing an example of the circuit configuration of 2 ⁇ 2 pixels of the imaging device according to the embodiment.
- Each of the above-described 2 ⁇ 2 pixels (four pixels Pr, four pixels Pg, or four pixels Pb in FIG. 3) has the circuit configuration shown in FIG.
- each of the four pixels P has a photoelectric conversion unit 12 and a transfer transistor Tr1.
- the photoelectric conversion unit 12 is a photodiode (PD) and converts incident light into charges.
- the photoelectric conversion unit 12 performs photoelectric conversion to generate charges according to the amount of received light.
- the transfer transistor Tr ⁇ b>1 is electrically connected to the photoelectric conversion unit 12 .
- the transfer transistor Tr1 is controlled by a signal TRG, and transfers the charges photoelectrically converted and accumulated in the photoelectric conversion unit 12 to the floating diffusion (FD).
- FD is a charge holding unit that holds transferred charges.
- the FD can also be said to be a charge storage section that stores charges transferred from the photodiode PD.
- the FD accumulates the transferred charge and converts it into a voltage according to the capacity of the FD.
- the transfer transistor Tr1 of each of the four pixels P is on/off controlled by different signals (signals TRG1 to TRG4 in FIG. 4).
- the readout circuit 15 has, for example, an amplification transistor Tr2, a selection transistor Tr3, and a reset transistor Tr4.
- the gate of the amplification transistor Tr2 is connected to the FD and receives the voltage converted by the FD.
- the amplification transistor Tr2 generates a signal based on the charges accumulated in the FD, that is, a pixel signal based on the voltage of the FD.
- a pixel signal is an analog signal based on photoelectrically converted charges.
- the selection transistor Tr3 is controlled by the signal SEL and outputs the pixel signal from the amplification transistor Tr2 to the vertical signal line Lsig.
- the selection transistor Tr3 can control the output timing of the pixel signal.
- a reset transistor Tr4 can be controlled by a signal RST to reset the charge accumulated in the FD and reset the voltage of the FD.
- the above five pixels arranged in a cross shape share one readout circuit 15 as in the example shown in FIG.
- Five pixels Pc, five pixels Pm, or five pixels Py arranged in a cross shape each have a circuit configuration shown in FIG.
- the transfer transistors Tr1 of each of the five pixels P are on/off controlled by different signals (signals TRG1 to TRG5 in FIG. 5).
- a pixel signal output from the readout circuit 15 is input to the above-described column signal processing circuit 112 (see FIG. 2) via the vertical signal line Lsig.
- the selection transistor Tr3 may be provided between the power supply line to which the power supply voltage VDD is applied and the amplification transistor Tr2. Moreover, the selection transistor Tr3 may be omitted as necessary.
- FIG. 6 is a diagram illustrating an example of a cross-sectional configuration of an imaging element according to the embodiment;
- the imaging device 1 has a configuration in which a light receiving section 10, a light guide section 20, and a multilayer wiring layer 90 are laminated in the Z-axis direction.
- the light receiving section 10 has a semiconductor substrate 11 having a first surface 11S1 and a second surface 11S2 facing each other.
- a light guide portion 20 is provided on the first surface 11S1 side of the semiconductor substrate 11, and a multilayer wiring layer 90 is provided on the second surface 11S2 side of the semiconductor substrate 11.
- the light guide section 20 is provided on the side on which the light from the optical lens 101 (see FIG. 1) is incident, and the multilayer wiring layer 90 is provided on the side opposite to the side on which the light is incident.
- the imaging device 1 is a so-called back-illuminated imaging device.
- the semiconductor substrate 11 is composed of, for example, a silicon substrate.
- the photoelectric conversion section 12 is a photodiode (PD) and has a pn junction in a predetermined region of the semiconductor substrate 11 .
- a plurality of photoelectric conversion units 12 are embedded in the semiconductor substrate 11 .
- a plurality of photoelectric conversion sections 12 are provided along the first surface 11S1 and the second surface 11S2 of the semiconductor substrate 11. As shown in FIG.
- the multilayer wiring layer 90 has, for example, a structure in which a plurality of wiring layers are stacked with interlayer insulating layers interposed therebetween.
- the wiring layers of the multilayer wiring layer 90 are formed using, for example, aluminum (Al), copper (Cu), tungsten (W), or the like.
- the wiring layer may be formed using polysilicon (Poly-Si).
- the interlayer insulating layer is, for example, a single layer film made of one of silicon oxide (SiOx), silicon nitride (SiNx), silicon oxynitride (SiOxNy), etc., or a laminated film made of two or more of these. formed by
- the transfer transistor Tr1 and the readout circuit 15 described above are formed in the semiconductor substrate 11 and the multilayer wiring layer 90 .
- the semiconductor substrate 11 and the multilayer wiring layer 90 are formed with, for example, the above-described vertical driving circuit 111, column signal processing circuit 112, horizontal driving circuit 113, output circuit 114, control circuit 115, input/output terminals 116, and the like.
- the light guide section 20 has the lens section 21 and the color filter 30 described above, and guides the light incident from above to the light receiving section 10 side in FIG.
- FIG. 6 shows a pixel Pm having an Mg (magenta) color filter 30m, a pixel Pr having an R (red) color filter 30r, and a pixel Py having a Y (yellow) color filter 30y.
- the light guide section 20 is stacked on the light receiving section 10 in the thickness direction orthogonal to the first surface 11S1 of the semiconductor substrate 11 .
- the separation unit 40 is provided between the adjacent photoelectric conversion units 12 and separates the photoelectric conversion units 12 from each other.
- the isolation section 40 has a trench structure provided at the boundary between adjacent pixels P, and can be called an inter-pixel isolation section or an inter-pixel isolation wall.
- the separating portion 40 may be formed to reach the second surface 11S2 of the semiconductor substrate 11, as shown in FIG.
- the imaging device 1 may have an antireflection film and a fixed charge film between the color filter 30 and the photoelectric conversion section 12 .
- the fixed charge film is a film having fixed charges and suppresses generation of dark current at the interface of the semiconductor substrate 11 .
- the light guide section 20 described above may be configured including an antireflection film and a fixed charge film.
- FIG. 7A shows a case where the enlargement ratio (magnification) of digital zoom (electronic zoom) is "small”.
- FIG. 7B shows a case where the magnification of digital zoom is "medium”, and
- FIG. 7C shows a case where the magnification of digital zoom is "large”.
- the image processing unit 104 of the signal processing unit 103 performs white balance adjustment on the RAW image data 81 including the pixel signal of each pixel output from the image sensor 1, Perform binning processing.
- the image processing unit 104 performs binning processing on pixel signals of four pixels of the same color, which are 2 ⁇ 2 pixels, in the RAW image data 81. .
- the image processing unit 104 adds pixel signals of four pixels Pr, which are 2 ⁇ 2 pixels.
- the image processing unit 104 adds the pixel signals of the four pixels Pg, which are 2 ⁇ 2 pixels. Further, the image processing unit 104 adds pixel signals of four pixels Pb, which are 2 ⁇ 2 pixels. In this manner, the image processing unit 104 performs binning processing on the RAW image data 81 to generate image data 82a as shown in FIG. 7A.
- the image processing unit 104 performs signal processing using the image data 82a to generate RGB image data 83a as shown in FIG. 7A.
- the image processing unit 104 generates RGB image data 83a having pixel signals of three color components of RGB for each pixel by performing interpolation processing on the image data 82a.
- the binning process is performed on the pixel signals of the RGB pixels in the RAW image data 81, and the RGB pixel signals after the binning process are used to generate the RGB image data 83a. Generate. By performing the binning process, RGB image data 83a with little noise can be generated, and an image with a "small” magnification can be displayed using the RGB image data 83a.
- the image processing unit 104 When the enlargement ratio is "medium", the image processing unit 104 performs white balance adjustment on the RAW image data 81, and then performs binning processing. In this case, as indicated by the thick line in the RAW image data 81 in FIG. 7B, the image processing unit 104 performs binning processing on pixel signals of four pixels of the same color, which are 2 ⁇ 2 pixels, in the RAW image data 81. . In addition, the image processing unit 104 performs binning processing on pixel signals of five same-color pixels arranged in a cross shape in the RAW image data 81 .
- the image processing unit 104 adds pixel signals of four pixels Pr, which are 2 ⁇ 2 pixels.
- the image processing unit 104 adds the pixel signals of the four pixels Pg, which are 2 ⁇ 2 pixels. Further, the image processing unit 104 adds pixel signals of four pixels Pb, which are 2 ⁇ 2 pixels.
- the image processing unit 104 further adds the pixel signals of the five pixels Pc arranged in a cross.
- the image processing unit 104 adds pixel signals of five pixels Pm arranged in a cross shape.
- the image processing unit 104 also adds pixel signals of five pixels Py arranged in a cross shape. In this manner, the image processing unit 104 generates image data 82b as shown in FIG. 7B by performing the binning process on the RAW image data 81.
- FIG. 7B by performing the binning process on the RAW image data 81.
- the image processing unit 104 performs signal processing using the image data 82b to generate RGB image data 83b as shown in FIG. 7B.
- the image processing unit 104 calculates pixel signals of six color components of RGB and CMY for each pixel by performing interpolation processing on the image data 82b.
- the image processing unit 104 performs a matrix operation on the pixel signals of six color components of RGB and CMY, and as shown in FIG. 7B, an RGB image having pixel signals of three color components of RGB for each pixel Generate data 83b.
- the binning process is performed on both the pixel signals of the RGB pixels and the pixel signals of the CMY pixels in the RAW image data 81, and the RGB pixel signals after the binning process are processed. and CMY pixel signals to generate RGB image data 83b. Therefore, as shown in FIG. 7B, it is possible to obtain RGB image data 83b having a resolution higher than that of the RGB image data 83a when the magnification is "small". By using the RGB image data 83b, it is possible to display an image with a higher resolution than an image with a "small” magnification as an image with a "medium” magnification.
- the image processing unit 104 uses the RAW image data 81 to perform white balance adjustment, and then generates RGB image data 83c.
- the image processing unit 104 calculates pixel signals of six color components of RGB and CMY for each pixel by performing interpolation processing on the RAW image data 81 after white balance adjustment. Further, the image processing unit 104 performs a matrix operation on the pixel signals of six color components of RGB and CMY, and as shown in FIG. 7C, an RGB image having pixel signals of three color components of RGB for each pixel. Generate data 83c. By performing interpolation processing and matrix calculation processing, it is possible to obtain highly sensitive RGB image data 83c.
- the pixel signals of RGB pixels and the pixel signals of CMY pixels included in the RAW image data 81 are used to generate the RGB image data 83c without performing the binning process. Therefore, as shown in FIG. 7C, it is possible to generate RGB image data 83c having a resolution higher than that of the RGB image data 83b when the magnification is "medium”.
- the RGB image data 83c it is possible to display a full-resolution image. In this way, electronic device 100 according to the present embodiment can gradually change the resolution of an image according to the enlargement ratio, and can realize seamless digital zoom.
- the imaging device 1 includes a first pixel (for example, pixel Pr) having a first filter and a first photoelectric conversion unit that transmit light of a first wavelength, and a first pixel (for example, pixel Pr) that transmits light of a second wavelength.
- a first pixel for example, pixel Pr
- a first pixel for example, pixel Pr
- a second pixel (pixel Pg) having two filters and a second photoelectric conversion unit; a third pixel (pixel Pb) having a third filter and a third photoelectric conversion unit that transmit light of the third wavelength; a fourth pixel (pixel Pc) having a fourth photoelectric conversion unit and a fourth filter that transmits light of the second and third wavelengths; a fifth filter that transmits light of the first and third wavelengths; a fifth pixel (pixel Pm) having a photoelectric conversion unit; and a sixth pixel (pixel Py) having a sixth filter and a sixth photoelectric conversion unit that transmit light of the first wavelength and the second wavelength.
- the image sensor 1 is provided with a pixel Pr, a pixel Pg, a pixel Pb, a pixel Pc, a pixel Pm, and a pixel Py. Therefore, RGB pixel signals and CMY pixel signals can be obtained. Both an RGB image and a CMY image can be obtained by one imaging, and high color reproducibility can be achieved.
- Complementary color pixels may be arranged in units of 2 ⁇ 2 pixels.
- pixels Pc, pixels Pm, and pixels Py may be arranged in units of 2 ⁇ 2 pixels, respectively, and pixels Pr, pixels Pg, and pixels Pb may be arranged in a cross shape.
- the lens unit 21 is provided for every four pixels Pc, Pm, and Py, which are pixels having complementary color filters 30 . Therefore, phase difference information can be obtained by using pixel signals output from four pixels Pc, four pixels Pm, or four pixels Py, and phase difference AF can be performed.
- the pixel Pc, pixel Pm, and pixel Py are also phase difference pixels.
- the phase difference pixels are repeatedly provided over the entire imaging surface of the imaging device 1 , that is, the entire pixel section 110 .
- phase difference data can be obtained over the entire imaging surface of the imaging element 1, and high-precision autofocusing can be performed. Therefore, it is possible to improve the image quality of the image.
- the filters provided in the pixels P are not limited to the examples described above.
- a color filter corresponding to W (white) that is, a filter that transmits light in the entire wavelength range of incident light may be arranged.
- RGB pixels may be repeatedly arranged in units of 2 ⁇ 2 pixels, and pixels Pw having W (white) color filters 30w may be arranged in a cross shape.
- color filters such as orange and wide green may be arranged.
- FIG. 10 is a diagram showing an example of a cross-sectional configuration of an imaging device according to Modification 3.
- the imaging device 1 has a first light guide member 45 provided between adjacent color filters 30 .
- the first light guide member 45 has a refractive index lower than that of the surrounding medium.
- the first light guide member 45 is composed of, for example, an oxide film, a cavity (void), or the like.
- the first light guide member 45 changes the traveling direction of incident light according to the refractive index difference between the first light guide member 45 and its surrounding medium. It can be said that the imaging device 1 has a waveguide structure in which light is guided by the first light guide member 45 .
- the imaging device 1 by providing the first light guide member 45, it is possible to suppress the occurrence of color mixture due to leakage of light to surrounding pixels.
- the first light guide member 45 can propagate incident light to the photoelectric conversion section 12 side, and can improve sensitivity to incident light.
- the shape of the first light guide member 45 is not particularly limited, and may have a T-shape as shown in FIG. 11, for example.
- the separator 40 may not be provided between pixels of the same color (between adjacent pixels Pr in FIG. 12).
- a relatively thick separating portion 40b may be arranged between pixels of different colors to reduce color mixing, and a comparatively thin separating portion 40a may be arranged between pixels of the same color.
- the width of the isolation portion 40b is larger than the width of the isolation portion 40a.
- FIG. 14 is a diagram showing an example of a cross-sectional configuration of an imaging device according to Modification 5.
- the imaging device 1 has a second light guide member 46 provided between pixels of different colors.
- the second light guide member 46 has a refractive index lower than that of the surrounding medium.
- the second light guide member 46 is composed of, for example, an oxide film, a cavity (void), or the like.
- the second light guide member 46 is provided between the adjacent photoelectric conversion units 12 and has a trench structure provided at the boundary between the adjacent pixels P.
- the second light guide member 46 may be formed to reach the second surface 11S2 of the semiconductor substrate 11, as shown in FIG. In this modified example, provision of the second light guide member 46 makes it possible to suppress the occurrence of color mixture due to leakage of light to surrounding pixels.
- FIG. 15A shows an example of the cross-sectional configuration of the imaging device at the first distance position from the center of the pixel unit 110, that is, at the first image height region.
- FIG. 15B shows an example of the cross-sectional configuration of the imaging element at the second distance from the center of the pixel section 110, that is, in the second image height region.
- the second distance, ie the second image height is greater than the first distance, ie the first image height.
- the positions of the lens portion 21 and the color filter 30 in each pixel P are configured to differ according to the distance from the center of the pixel portion 110 (light receiving portion 10), that is, the image height.
- the lens section 21 and the color filter 30 of the pixel P are arranged with the photoelectric conversion section 12 of the pixel P shifted toward the center of the pixel section 110 (light receiving section 10).
- the lens portion 21 and the color filter 30 of the pixel P are shifted toward the center of the pixel portion 110 with respect to the photoelectric conversion portion 12 of the pixel P by a larger shift amount than in the case of FIG. 15A. placed.
- the pixels P are configured as shown in FIG. 6, for example.
- the positions of the lens unit 21 and the color filter 30 are adjusted according to the image height, and pupil correction can be performed appropriately. Therefore, it is possible to suppress a decrease in the amount of light incident on the photoelectric conversion unit 12 and prevent a decrease in sensitivity to incident light.
- the technology (the present technology) according to the present disclosure can be applied to various products.
- the technology according to the present disclosure can be realized as a device mounted on any type of moving body such as automobiles, electric vehicles, hybrid electric vehicles, motorcycles, bicycles, personal mobility, airplanes, drones, ships, and robots. may
- FIG. 16 is a block diagram showing a schematic configuration example of a vehicle control system, which is an example of a mobile control system to which the technology according to the present disclosure can be applied.
- a vehicle control system 12000 includes a plurality of electronic control units connected via a communication network 12001.
- the vehicle control system 12000 includes a drive train control unit 12010, a body system control unit 12020, an outside information detection unit 12030, an inside information detection unit 12040, and an integrated control unit 12050.
- a microcomputer 12051, an audio/image output unit 12052, and an in-vehicle network I/F (interface) 12053 are illustrated.
- the drive system control unit 12010 controls the operation of devices related to the drive system of the vehicle according to various programs.
- the driving system control unit 12010 includes a driving force generator for generating driving force of the vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to the wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism to adjust and a brake device to generate braking force of the vehicle.
- the vehicle exterior information detection unit 12030 detects information outside the vehicle in which the vehicle control system 12000 is installed.
- the vehicle exterior information detection unit 12030 is connected with an imaging section 12031 .
- the vehicle exterior information detection unit 12030 causes the imaging unit 12031 to capture an image of the exterior of the vehicle, and receives the captured image.
- the vehicle exterior information detection unit 12030 may perform object detection processing or distance detection processing such as people, vehicles, obstacles, signs, or characters on the road surface based on the received image.
- the imaging unit 12031 is an optical sensor that receives light and outputs an electrical signal according to the amount of received light.
- the imaging unit 12031 can output the electric signal as an image, and can also output it as distance measurement information.
- the light received by the imaging unit 12031 may be visible light or non-visible light such as infrared rays.
- the in-vehicle information detection unit 12040 detects in-vehicle information.
- the in-vehicle information detection unit 12040 is connected to, for example, a driver state detection section 12041 that detects the state of the driver.
- the driver state detection unit 12041 includes, for example, a camera that captures an image of the driver, and the in-vehicle information detection unit 12040 detects the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 12041. It may be calculated, or it may be determined whether the driver is dozing off.
- the microcomputer 12051 calculates control target values for the driving force generator, the steering mechanism, or the braking device based on the information inside and outside the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, and controls the drive system control unit.
- a control command can be output to 12010 .
- the microcomputer 12051 realizes the functions of ADAS (Advanced Driver Assistance System) including collision avoidance or shock mitigation, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, or vehicle lane deviation warning. Cooperative control can be performed for the purpose of ADAS (Advanced Driver Assistance System) including collision avoidance or shock mitigation, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, or vehicle lane deviation warning. Cooperative control can be performed for the purpose of ADAS (Advanced Driver Assistance System) including collision avoidance or shock mitigation, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, or vehicle
- the microcomputer 12051 controls the driving force generator, the steering mechanism, the braking device, etc. based on the information about the vehicle surroundings acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, so that the driver's Cooperative control can be performed for the purpose of autonomous driving, etc., in which vehicles autonomously travel without depending on operation.
- the microcomputer 12051 can output a control command to the body system control unit 12020 based on the information outside the vehicle acquired by the information detection unit 12030 outside the vehicle.
- the microcomputer 12051 controls the headlamps according to the position of the preceding vehicle or the oncoming vehicle detected by the vehicle exterior information detection unit 12030, and performs cooperative control aimed at anti-glare such as switching from high beam to low beam. It can be carried out.
- the audio/image output unit 12052 transmits at least one of audio and/or image output signals to an output device capable of visually or audibly notifying the passengers of the vehicle or the outside of the vehicle.
- an audio speaker 12061, a display unit 12062, and an instrument panel 12063 are illustrated as output devices.
- the display unit 12062 may include at least one of an on-board display and a head-up display, for example.
- FIG. 17 is a diagram showing an example of the installation position of the imaging unit 12031.
- the vehicle 12100 has imaging units 12101, 12102, 12103, 12104, and 12105 as the imaging unit 12031.
- the imaging units 12101, 12102, 12103, 12104, and 12105 are provided at positions such as the front nose of the vehicle 12100, the side mirrors, the rear bumper, the back door, and the upper part of the windshield in the vehicle interior, for example.
- An image pickup unit 12101 provided in the front nose and an image pickup unit 12105 provided above the windshield in the passenger compartment mainly acquire images in front of the vehicle 12100 .
- Imaging units 12102 and 12103 provided in the side mirrors mainly acquire side images of the vehicle 12100 .
- An imaging unit 12104 provided in the rear bumper or back door mainly acquires an image behind the vehicle 12100 .
- Forward images acquired by the imaging units 12101 and 12105 are mainly used for detecting preceding vehicles, pedestrians, obstacles, traffic lights, traffic signs, lanes, and the like.
- FIG. 17 shows an example of the imaging range of the imaging units 12101 to 12104.
- the imaging range 12111 indicates the imaging range of the imaging unit 12101 provided in the front nose
- the imaging ranges 12112 and 12113 indicate the imaging ranges of the imaging units 12102 and 12103 provided in the side mirrors, respectively
- the imaging range 12114 The imaging range of an imaging unit 12104 provided in the rear bumper or back door is shown. For example, by superimposing the image data captured by the imaging units 12101 to 12104, a bird's-eye view image of the vehicle 12100 viewed from above can be obtained.
- At least one of the imaging units 12101 to 12104 may have a function of acquiring distance information.
- at least one of the imaging units 12101 to 12104 may be a stereo camera composed of a plurality of imaging elements, or may be an imaging element having pixels for phase difference detection.
- the microcomputer 12051 determines the distance to each three-dimensional object within the imaging ranges 12111 to 12114 and changes in this distance over time (relative velocity with respect to the vehicle 12100). , it is possible to extract, as the preceding vehicle, the closest three-dimensional object on the course of the vehicle 12100, which runs at a predetermined speed (for example, 0 km/h or more) in substantially the same direction as the vehicle 12100. can. Furthermore, the microcomputer 12051 can set the inter-vehicle distance to be secured in advance in front of the preceding vehicle, and perform automatic brake control (including following stop control) and automatic acceleration control (including following start control). In this way, cooperative control can be performed for the purpose of automatic driving in which the vehicle runs autonomously without relying on the operation of the driver.
- automatic brake control including following stop control
- automatic acceleration control including following start control
- the microcomputer 12051 converts three-dimensional object data related to three-dimensional objects to other three-dimensional objects such as motorcycles, ordinary vehicles, large vehicles, pedestrians, and utility poles. It can be classified and extracted and used for automatic avoidance of obstacles. For example, the microcomputer 12051 distinguishes obstacles around the vehicle 12100 into those that are visible to the driver of the vehicle 12100 and those that are difficult to see. Then, the microcomputer 12051 judges the collision risk indicating the degree of danger of collision with each obstacle, and when the collision risk is equal to or higher than the set value and there is a possibility of collision, an audio speaker 12061 and a display unit 12062 are displayed. By outputting an alarm to the driver via the drive system control unit 12010 and performing forced deceleration and avoidance steering via the drive system control unit 12010, driving support for collision avoidance can be performed.
- At least one of the imaging units 12101 to 12104 may be an infrared camera that detects infrared rays.
- the microcomputer 12051 can recognize a pedestrian by determining whether or not the pedestrian exists in the captured images of the imaging units 12101 to 12104 .
- recognition of a pedestrian is performed by, for example, a procedure for extracting feature points in images captured by the imaging units 12101 to 12104 as infrared cameras, and performing pattern matching processing on a series of feature points indicating the outline of an object to determine whether or not the pedestrian is a pedestrian.
- the audio image output unit 12052 outputs a rectangular outline for emphasis to the recognized pedestrian. is superimposed on the display unit 12062 . Also, the audio/image output unit 12052 may control the display unit 12062 to display an icon or the like indicating a pedestrian at a desired position.
- the technology according to the present disclosure can be applied to, for example, the imaging unit 12031 among the configurations described above.
- the imaging element 1 and the electronic device 100 can be applied to the imaging unit 12031 .
- the technology according to the present disclosure can be applied to the imaging unit 12031, a high-definition captured image can be obtained, and highly accurate control using the captured image can be performed in the moving body control system.
- the technology (the present technology) according to the present disclosure can be applied to various products.
- the technology according to the present disclosure may be applied to an endoscopic surgery system.
- FIG. 18 is a diagram showing an example of a schematic configuration of an endoscopic surgery system to which the technology (this technology) according to the present disclosure can be applied.
- FIG. 18 shows a state in which an operator (doctor) 11131 is performing surgery on a patient 11132 on a patient bed 11133 using an endoscopic surgery system 11000 .
- an endoscopic surgery system 11000 includes an endoscope 11100, other surgical instruments 11110 such as a pneumoperitoneum tube 11111 and an energy treatment instrument 11112, and a support arm device 11120 for supporting the endoscope 11100. , and a cart 11200 loaded with various devices for endoscopic surgery.
- An endoscope 11100 is composed of a lens barrel 11101 whose distal end is inserted into the body cavity of a patient 11132 and a camera head 11102 connected to the proximal end of the lens barrel 11101 .
- an endoscope 11100 configured as a so-called rigid scope having a rigid lens barrel 11101 is illustrated, but the endoscope 11100 may be configured as a so-called flexible scope having a flexible lens barrel. good.
- the tip of the lens barrel 11101 is provided with an opening into which the objective lens is fitted.
- a light source device 11203 is connected to the endoscope 11100, and light generated by the light source device 11203 is guided to the tip of the lens barrel 11101 by a light guide extending inside the lens barrel 11101, where it reaches the objective. Through the lens, the light is irradiated toward the observation object inside the body cavity of the patient 11132 .
- the endoscope 11100 may be a straight scope, a perspective scope, or a side scope.
- An optical system and an imaging element are provided inside the camera head 11102, and the reflected light (observation light) from the observation target is focused on the imaging element by the optical system.
- the imaging device photoelectrically converts the observation light to generate an electrical signal corresponding to the observation light, that is, an image signal corresponding to the observation image.
- the image signal is transmitted to a camera control unit (CCU: Camera Control Unit) 11201 as RAW data.
- CCU Camera Control Unit
- the CCU 11201 is composed of a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), etc., and controls the operations of the endoscope 11100 and the display device 11202 in an integrated manner. Further, the CCU 11201 receives an image signal from the camera head 11102 and performs various image processing such as development processing (demosaicing) for displaying an image based on the image signal.
- CPU Central Processing Unit
- GPU Graphics Processing Unit
- the display device 11202 displays an image based on an image signal subjected to image processing by the CCU 11201 under the control of the CCU 11201 .
- the light source device 11203 is composed of a light source such as an LED (Light Emitting Diode), for example, and supplies the endoscope 11100 with irradiation light for photographing a surgical site or the like.
- a light source such as an LED (Light Emitting Diode), for example, and supplies the endoscope 11100 with irradiation light for photographing a surgical site or the like.
- the input device 11204 is an input interface for the endoscopic surgery system 11000.
- the user can input various information and instructions to the endoscopic surgery system 11000 via the input device 11204 .
- the user inputs an instruction or the like to change the imaging conditions (type of irradiation light, magnification, focal length, etc.) by the endoscope 11100 .
- the treatment instrument control device 11205 controls driving of the energy treatment instrument 11112 for tissue cauterization, incision, blood vessel sealing, or the like.
- the pneumoperitoneum device 11206 inflates the body cavity of the patient 11132 for the purpose of securing the visual field of the endoscope 11100 and securing the operator's working space, and injects gas into the body cavity through the pneumoperitoneum tube 11111. send in.
- the recorder 11207 is a device capable of recording various types of information regarding surgery.
- the printer 11208 is a device capable of printing various types of information regarding surgery in various formats such as text, images, and graphs.
- the light source device 11203 that supplies the endoscope 11100 with irradiation light for photographing the surgical site can be composed of, for example, a white light source composed of an LED, a laser light source, or a combination thereof.
- a white light source is configured by a combination of RGB laser light sources
- the output intensity and output timing of each color (each wavelength) can be controlled with high accuracy. It can be carried out.
- the laser light from each of the RGB laser light sources is irradiated to the observation object in a time division manner, and by controlling the driving of the imaging device of the camera head 11102 in synchronization with the irradiation timing, each of RGB can be handled. It is also possible to pick up images by time division. According to this method, a color image can be obtained without providing a color filter in the imaging device.
- the driving of the light source device 11203 may be controlled so as to change the intensity of the output light every predetermined time.
- the drive of the imaging device of the camera head 11102 in synchronism with the timing of the change in the intensity of the light to obtain an image in a time-division manner and synthesizing the images, a high dynamic A range of images can be generated.
- the light source device 11203 may be configured to be able to supply light in a predetermined wavelength band corresponding to special light observation.
- special light observation for example, by utilizing the wavelength dependence of light absorption in body tissues, by irradiating light with a narrower band than the irradiation light (i.e., white light) during normal observation, the mucosal surface layer So-called narrow band imaging is performed, in which a predetermined tissue such as a blood vessel is imaged with high contrast.
- fluorescence observation may be performed in which an image is obtained from fluorescence generated by irradiation with excitation light.
- the body tissue is irradiated with excitation light and the fluorescence from the body tissue is observed (autofluorescence observation), or a reagent such as indocyanine green (ICG) is locally injected into the body tissue and the body tissue is A fluorescence image can be obtained by irradiating excitation light corresponding to the fluorescence wavelength of the reagent.
- the light source device 11203 can be configured to be able to supply narrowband light and/or excitation light corresponding to such special light observation.
- FIG. 19 is a block diagram showing an example of functional configurations of the camera head 11102 and CCU 11201 shown in FIG.
- the camera head 11102 has a lens unit 11401, an imaging section 11402, a drive section 11403, a communication section 11404, and a camera head control section 11405.
- the CCU 11201 has a communication section 11411 , an image processing section 11412 and a control section 11413 .
- the camera head 11102 and the CCU 11201 are communicably connected to each other via a transmission cable 11400 .
- a lens unit 11401 is an optical system provided at a connection with the lens barrel 11101 . Observation light captured from the tip of the lens barrel 11101 is guided to the camera head 11102 and enters the lens unit 11401 .
- a lens unit 11401 is configured by combining a plurality of lenses including a zoom lens and a focus lens.
- the imaging unit 11402 is composed of an imaging element.
- the imaging device constituting the imaging unit 11402 may be one (so-called single-plate type) or plural (so-called multi-plate type).
- image signals corresponding to RGB may be generated by each image pickup element, and a color image may be obtained by synthesizing the image signals.
- the imaging unit 11402 may be configured to have a pair of imaging elements for respectively acquiring right-eye and left-eye image signals corresponding to 3D (Dimensional) display.
- the 3D display enables the operator 11131 to more accurately grasp the depth of the living tissue in the surgical site.
- a plurality of systems of lens units 11401 may be provided corresponding to each imaging element.
- the imaging unit 11402 does not necessarily have to be provided in the camera head 11102 .
- the imaging unit 11402 may be provided inside the lens barrel 11101 immediately after the objective lens.
- the drive unit 11403 is configured by an actuator, and moves the zoom lens and focus lens of the lens unit 11401 by a predetermined distance along the optical axis under control from the camera head control unit 11405 . Thereby, the magnification and focus of the image captured by the imaging unit 11402 can be appropriately adjusted.
- the communication unit 11404 is composed of a communication device for transmitting and receiving various information to and from the CCU 11201.
- the communication unit 11404 transmits the image signal obtained from the imaging unit 11402 as RAW data to the CCU 11201 via the transmission cable 11400 .
- the communication unit 11404 receives a control signal for controlling driving of the camera head 11102 from the CCU 11201 and supplies it to the camera head control unit 11405 .
- the control signal includes, for example, information to specify the frame rate of the captured image, information to specify the exposure value at the time of imaging, and/or information to specify the magnification and focus of the captured image. Contains information about conditions.
- the imaging conditions such as the frame rate, exposure value, magnification, and focus may be appropriately designated by the user, or may be automatically set by the control unit 11413 of the CCU 11201 based on the acquired image signal. good.
- the endoscope 11100 is equipped with so-called AE (Auto Exposure) function, AF (Auto Focus) function, and AWB (Auto White Balance) function.
- the camera head control unit 11405 controls driving of the camera head 11102 based on the control signal from the CCU 11201 received via the communication unit 11404.
- the communication unit 11411 is composed of a communication device for transmitting and receiving various information to and from the camera head 11102 .
- the communication unit 11411 receives image signals transmitted from the camera head 11102 via the transmission cable 11400 .
- the communication unit 11411 transmits a control signal for controlling driving of the camera head 11102 to the camera head 11102 .
- Image signals and control signals can be transmitted by electrical communication, optical communication, or the like.
- the image processing unit 11412 performs various types of image processing on the image signal, which is RAW data transmitted from the camera head 11102 .
- the control unit 11413 performs various controls related to imaging of the surgical site and the like by the endoscope 11100 and display of the captured image obtained by imaging the surgical site and the like. For example, the control unit 11413 generates control signals for controlling driving of the camera head 11102 .
- control unit 11413 causes the display device 11202 to display a captured image showing the surgical site and the like based on the image signal that has undergone image processing by the image processing unit 11412 .
- the control unit 11413 may recognize various objects in the captured image using various image recognition techniques. For example, the control unit 11413 detects the shape, color, and the like of the edges of objects included in the captured image, thereby detecting surgical instruments such as forceps, specific body parts, bleeding, mist during use of the energy treatment instrument 11112, and the like. can recognize.
- the control unit 11413 may use the recognition result to display various types of surgical assistance information superimposed on the image of the surgical site. By superimposing and presenting the surgery support information to the operator 11131, the burden on the operator 11131 can be reduced and the operator 11131 can proceed with the surgery reliably.
- a transmission cable 11400 connecting the camera head 11102 and the CCU 11201 is an electrical signal cable compatible with electrical signal communication, an optical fiber compatible with optical communication, or a composite cable of these.
- wired communication is performed using the transmission cable 11400, but communication between the camera head 11102 and the CCU 11201 may be performed wirelessly.
- the technology according to the present disclosure can be preferably applied to, for example, the imaging unit 11402 provided in the camera head 11102 of the endoscope 11100 among the configurations described above.
- the technology according to the present disclosure can be applied to the imaging unit 11402, the sensitivity of the imaging unit 11402 can be increased, and the high-definition endoscope 11100 can be provided.
- the present disclosure has been described above with reference to the embodiments, modifications, application examples, and application examples, the present technology is not limited to the above-described embodiments and the like, and various modifications are possible.
- the modified examples described above have been described as modified examples of the above-described embodiment, but the configurations of the modified examples can be appropriately combined.
- the present disclosure is not limited to back-illuminated image sensors, but is also applicable to front-illuminated image sensors.
- a first pixel having a first filter that transmits light of a first wavelength and a first photoelectric conversion unit, a second filter that transmits light of a second wavelength, and a second a second pixel having a photoelectric conversion unit; a third pixel having a third filter that transmits light of a third wavelength and a third photoelectric conversion unit; and light of the second wavelength and light of the third wavelength.
- a fourth pixel having a fourth filter and a fourth photoelectric conversion unit; a fifth pixel having a fifth filter and a fifth photoelectric conversion unit that transmit the light of the first wavelength and the light of the third wavelength; a sixth pixel having a sixth photoelectric conversion unit and a sixth filter that transmits the light of the wavelength and the light of the second wavelength;
- the first filter transmits light in a red wavelength range as the light of the first wavelength
- the second filter transmits light in a green wavelength range as the second wavelength light
- the imaging device according to (1) wherein the third filter transmits light in a blue wavelength range as the light of the third wavelength.
- the fourth filter transmits light in a cyan wavelength band
- the fifth filter transmits light in a magenta wavelength range
- the first photoelectric conversion unit photoelectrically converts light transmitted through the first filter
- the second photoelectric conversion unit photoelectrically converts the light transmitted through the second filter
- the third photoelectric conversion unit photoelectrically converts light transmitted through the third filter
- the fourth photoelectric conversion unit photoelectrically converts light transmitted through the fourth filter
- the fifth photoelectric conversion unit photoelectrically converts light transmitted through the fifth filter
- the imaging device according to any one of (1) to (3), wherein the sixth photoelectric conversion section photoelectrically converts light transmitted through the sixth filter.
- (5) Having a first lens provided for the four first pixels
- the imaging according to any one of (1) to (4), wherein the first photoelectric conversion units of the four first pixels photoelectrically convert light transmitted through the first lens and the first filter. element.
- (6) a second lens provided for the four second pixels; a third lens provided for each of the four third pixels; The second photoelectric conversion units of the four second pixels photoelectrically convert light transmitted through the second lens and the second filter, The imaging according to any one of (1) to (5), wherein the third photoelectric conversion units of the four third pixels photoelectrically convert light transmitted through the third lens and the third filter. element. (7) a fourth lens provided for the fourth pixel; a fifth lens provided for the fifth pixel; The imaging device according to any one of (1) to (6), further comprising: a sixth lens provided for the sixth pixel.
- 6 ⁇ 6 pixels composed of a plurality of the first pixels, a plurality of the second pixels, a plurality of the third pixels, a plurality of the fourth pixels, a plurality of the fifth pixels, and a plurality of the sixth pixels are arranged repeatedly.
- the imaging device according to any one of (1) to (7).
- the imaging device according to any one of (1) to (8), wherein the plurality of fourth pixels, the plurality of fifth pixels, and the plurality of sixth pixels are each arranged in a cross shape. .
- a fourth lens provided for each of the four fourth pixels;
- the imaging according to any one of (1) to (4), wherein the fourth photoelectric conversion units of the four fourth pixels photoelectrically convert light transmitted through the fourth lens and the fourth filter. element.
- 6 ⁇ 6 pixels composed of a plurality of the first pixels, a plurality of the second pixels, a plurality of the third pixels, a plurality of the fourth pixels, a plurality of the fifth pixels, and a plurality of the sixth pixels are arranged repeatedly The imaging device according to any one of (10) to (12).
- an imaging device having a sixth pixel having a transmitting sixth filter and a sixth photoelectric conversion unit; a signal processing unit that performs signal processing on a signal output from the imaging element; electronic equipment.
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Power Engineering (AREA)
- Electromagnetism (AREA)
- Condensed Matter Physics & Semiconductors (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Solid State Image Pick-Up Elements (AREA)
Abstract
本開示の一実施形態の撮像素子は、第1波長の光を透過する第1フィルタと第1光電変換部とを有する第1画素と、第2波長の光を透過する第2フィルタと第2光電変換部とを有する第2画素と、第3波長の光を透過する第3フィルタと第3光電変換部とを有する第3画素と、前記第2波長の光及び前記第3波長の光を透過する第4フィルタと第4光電変換部とを有する第4画素と、前記第1波長の光及び前記第3波長の光を透過する第5フィルタと第5光電変換部とを有する第5画素と、前記第1波長の光及び前記第2波長の光を透過する第6フィルタと第6光電変換部とを有する第6画素と、を備える。
Description
本開示は、撮像素子および電子機器に関する。
2×2個の行列状に配置された4つの画素から成る複数の画素群が配列された撮像素子が提案されている(特許文献1)。
撮像素子では、性能の改善が求められている。
良好な性能を有する撮像素子を提供することが望まれる。
本開示の一実施形態の撮像素子は、第1波長の光を透過する第1フィルタと第1光電変換部とを有する第1画素と、第2波長の光を透過する第2フィルタと第2光電変換部とを有する第2画素と、第3波長の光を透過する第3フィルタと第3光電変換部とを有する第3画素と、第2波長の光及び第3波長の光を透過する第4フィルタと第4光電変換部とを有する第4画素と、第1波長の光及び第3波長の光を透過する第5フィルタと第5光電変換部とを有する第5画素と、第1波長の光及び第2波長の光を透過する第6フィルタと第6光電変換部とを有する第6画素と、を備える。
本開示の一実施形態の電子機器は、第1波長の光を透過する第1フィルタと第1光電変換部を有する第1画素と、第2波長の光を透過する第2フィルタと第2光電変換部を有する第2画素と、第3波長の光を透過する第3フィルタと第3光電変換部を有する第3画素と、第2波長の光及び第3波長の光を透過する第4フィルタと第4光電変換部を有する第4画素と、第1波長の光及び第3波長の光を透過する第5フィルタと第5光電変換部を有する第5画素と、第1波長の光及び第2波長の光を透過する第6フィルタと第6光電変換部を有する第6画素と、を有する撮像素子と、撮像素子から出力される信号に信号処理を行う信号処理部と、を備える。
本開示の一実施形態の電子機器は、第1波長の光を透過する第1フィルタと第1光電変換部を有する第1画素と、第2波長の光を透過する第2フィルタと第2光電変換部を有する第2画素と、第3波長の光を透過する第3フィルタと第3光電変換部を有する第3画素と、第2波長の光及び第3波長の光を透過する第4フィルタと第4光電変換部を有する第4画素と、第1波長の光及び第3波長の光を透過する第5フィルタと第5光電変換部を有する第5画素と、第1波長の光及び第2波長の光を透過する第6フィルタと第6光電変換部を有する第6画素と、を有する撮像素子と、撮像素子から出力される信号に信号処理を行う信号処理部と、を備える。
以下、本開示の実施の形態について、図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
1.実施の形態
2.変形例
3.応用例
1.実施の形態
2.変形例
3.応用例
<1.実施の形態>
図1は、本開示の実施の形態に係る電子機器の概略構成の一例を示す図である。電子機器100は、撮像素子1と、光学レンズ101と、駆動部102と、信号処理部103とを備える。電子機器100は、例えば、デジタルスチルカメラ、ビデオカメラ、携帯電話等、撮像機能を有する各種の電子機器に適用可能である。光学レンズ101は、被写体からの入射光(像光)を取り込み、撮像素子1の撮像面上に被写体の像を結像する。
図1は、本開示の実施の形態に係る電子機器の概略構成の一例を示す図である。電子機器100は、撮像素子1と、光学レンズ101と、駆動部102と、信号処理部103とを備える。電子機器100は、例えば、デジタルスチルカメラ、ビデオカメラ、携帯電話等、撮像機能を有する各種の電子機器に適用可能である。光学レンズ101は、被写体からの入射光(像光)を取り込み、撮像素子1の撮像面上に被写体の像を結像する。
撮像素子1には、光電変換部を有する画素が行列状に配置される。撮像素子1は、光学レンズ101により形成される被写体の像を撮像する。撮像素子1は、例えばCMOS(Complementary Metal Oxide Semiconductor)イメージセンサであり、受光した光を光電変換して画素信号を生成する。撮像素子1は、撮像面上に結像された入射光の光量を画素単位で電気信号に変換し、画素信号として出力するものである。
駆動部102は、駆動回路を含んで構成され、電子機器100の各部を制御する。駆動部102は、制御部であり、撮像素子1及び光学レンズ101等の動作を制御する。信号処理部103は、プロセッサ及びメモリ(ROM、RAM等)を有し、各種の信号処理を行う。信号処理部103は、信号を処理する信号処理回路であり、例えばDSP(Digital Signal Processor)である。
信号処理部103は、画像処理部104と、位相差検出部105とを有する。画像処理部104は、撮像素子1の各画素から出力される画素信号に対して信号処理を行い、画像データを生成する。画像処理部104は、画像データを生成する画像データ生成部である。位相差検出部105は、撮像素子1の位相差画素から出力される画素信号を用いて、位相差データ(位相差情報)を検出する。位相差検出部105は、位相差データを生成する位相差データ生成部である。位相差検出部105(又は駆動部102)は、位相差データを用いてデフォーカス量を算出する。駆動部102は、算出されたデフォーカス量に応じて光学レンズ101を駆動する。こうして、撮像素子1では、光学レンズ101の位置が調節され、AF(Auto Focus)が実現される。
[撮像素子の概略構成]
図2は、実施の形態に係る撮像素子の概略構成の一例を示す図である。撮像素子1は、図2に示すように、複数の画素Pが行列状に2次元配置された領域(画素部110)を、撮像エリアとして有している。撮像素子1は、画素部110の周辺領域に、例えば、垂直駆動回路111、カラム信号処理回路112、水平駆動回路113、出力回路114、制御回路115、及び入出力端子116等を有している。
図2は、実施の形態に係る撮像素子の概略構成の一例を示す図である。撮像素子1は、図2に示すように、複数の画素Pが行列状に2次元配置された領域(画素部110)を、撮像エリアとして有している。撮像素子1は、画素部110の周辺領域に、例えば、垂直駆動回路111、カラム信号処理回路112、水平駆動回路113、出力回路114、制御回路115、及び入出力端子116等を有している。
画素部110には、例えば、複数の画素駆動線Lreadが配線され、複数の垂直信号線Lsigが配線されている。画素駆動線Lreadは、画素Pからの信号読み出しのための駆動信号(後述する信号TRG、信号SEL、信号RST等)を伝送するものである。
垂直駆動回路111は、シフトレジスタやアドレスデコーダ等によって構成される。垂直駆動回路111は、画素部110の各画素Pを駆動する画素駆動部である。カラム信号処理回路112は、例えば、垂直信号線Lsig毎に設けられたアナログデジタルコンバータ(ADC)、水平選択スイッチ等によって構成されている。
垂直駆動回路111によって選択走査された各画素Pから出力される信号は、垂直信号線Lsigを通してカラム信号処理回路112に供給される。カラム信号処理回路112は、例えば、CDS(Correlated Double Sampling:相関2重サンプリング)、及びAD(Analog Digital)変換等の信号処理を行う。
水平駆動回路113は、シフトレジスタやアドレスデコーダ等によって構成され、カラム信号処理回路112の各水平選択スイッチを走査しつつ順番に駆動する。水平駆動回路113による選択走査により、垂直信号線Lsigの各々を通して伝送される各画素の信号が順番に水平信号線121に出力される。
出力回路114は、カラム信号処理回路112の各々から水平信号線121を介して順次供給される信号に対して信号処理を行って出力する。出力回路114は、例えば、バッファリングのみを行う場合もあるし、黒レベル調整、列ばらつき補正および各種デジタル信号処理等を行う場合もある。
垂直駆動回路111、カラム信号処理回路112、水平駆動回路113、水平信号線121及び出力回路114からなる回路部分は、半導体基板11に形成されていてもよいし、あるいは外部制御ICに配設されたものであってもよい。また、それらの回路部分は、ケーブル等により接続された他の基板に形成されていてもよい。
制御回路115は、半導体基板11の外部から与えられるクロックや、動作モードを指令するデータ等を受け取り、また、撮像素子1の内部情報等のデータを出力するものである。制御回路115は、各種のタイミング信号を生成するタイミングジェネレータを有し、タイミングジェネレータで生成された各種のタイミング信号を基に垂直駆動回路111、カラム信号処理回路112及び水平駆動回路113等の周辺回路の駆動制御を行う。入出力端子116は、外部との信号のやり取りを行うものである。
図3は、実施の形態に係る撮像素子の画素の配置例を示す図である。撮像素子1の画素Pは、光を集光するレンズ部21と、カラーフィルタ30(図3では、カラーフィルタ30r,30g,30b,30c,30m,30y)とを有する。レンズ部21は、オンチップレンズとも呼ばれる光学部材であり、画素Pごと又は複数の画素Pごとに、カラーフィルタ30の上方に設けられる。レンズ部21には、上述した光学レンズ101(図1参照)を介して被写体からの光が入射する。なお、図3に示すように、被写体からの光の入射方向をZ軸方向、Z軸方向に直交する紙面左右方向をX軸方向、Z軸及びX軸に直交する紙面上下方向をY軸方向とする。以降の図において、図3の矢印の方向を基準として方向を表記する場合もある。
カラーフィルタ30は、入射する光のうちの特定の波長域の光を選択的に透過させる。撮像素子1の画素部110に設けられた複数の画素Pには、図3に示したように、画素Pr、画素Pg、画素Pb、画素Pc、画素Pm、及び画素Pyが複数含まれる。画素部110では、図3において破線Aで示す例のように、複数の画素Pr、複数の画素Pg、複数の画素Pb、複数の画素Pc、複数の画素Pm、及び複数の画素Pyにより構成される6×6画素が繰り返し配置されている。各画素は、それぞれ、光電変換部として、例えばフォトダイオードPDを有する。
画素Prは、赤(R)の光を透過するカラーフィルタ30rが設けられた画素である。カラーフィルタ30rは、赤色の波長域の光を透過する。画素Prの光電変換部は、赤色の波長光を受光して光電変換を行う。画素Pgは、緑(G)の光を透過するカラーフィルタ30gが設けられた画素である。カラーフィルタ30gは、緑色の波長域の光を透過する。画素Pgの光電変換部は、緑色の波長光を受光して光電変換を行う。
画素Pbは、青(B)の光を透過するカラーフィルタ30bが設けられた画素である。カラーフィルタ30bは、青色の波長域の光を透過する。画素Pbの光電変換部は、青色の波長光を受光して光電変換を行う。画素Pcは、シアン(Cy)の光を透過するカラーフィルタ30cが設けられた画素である。カラーフィルタ30cは、赤色と補色関係にあるシアン色の波長域の光を透過する。カラーフィルタ30cは、緑色の波長域の光と青色の波長域の光とを透過し得る。画素Pcの光電変換部は、シアン色の波長光を受光して光電変換を行う。
画素Pmは、マゼンタ(Mg)の光を透過するカラーフィルタ30mが設けられた画素である。カラーフィルタ30mは、緑色と補色関係にあるマゼンタ色の波長域の光を透過する。カラーフィルタ30mは、赤色の波長域の光と青色の波長域の光とを透過し得る。画素Pmの光電変換部は、マゼンタ色の波長光を受光して光電変換を行う。画素Pyは、イエロー(Ye)の光を透過するカラーフィルタ30yが設けられた画素である。カラーフィルタ30yは、青色と補色関係にあるイエロー色の波長域の光を透過する。カラーフィルタ30yは、赤色の波長域の光と緑色の波長域の光とを透過し得る。画素Pyの光電変換部は、イエロー色の波長光を受光して光電変換を行う。
画素Pr、画素Pg、及び画素Pbは、それぞれ、R成分の画素信号、G成分の画素信号、及びB成分の画素信号を生成する。このため、撮像素子1は、RGBの画素信号を得ることができる。また、画素Pc、画素Pm、及び画素Pyは、それぞれ、Cy成分の画素信号、Mg成分の画素信号、及びYe成分の画素信号を生成する。このため、撮像素子1は、CMYの画素信号を得ることができる。このように、撮像素子1の画素部110には、原色系の画素である画素Pr、画素Pg、及び画素Pbと、補色系の画素である画素Pc、画素Pm、及び画素Pyが配置されている。このため、1回の撮像によってRGB画像及びCMY画像の両方を得ることができ、高い色再現性を実現することが可能となる。
撮像素子1では、図3に示すように、画素Pr、画素Pg、及び画素Pbは、それぞれ、2×2画素単位で配置される。画素Prと画素Pgと画素Pbは、それぞれ2行×2列で周期的に配置されるともいえる。画素部110においては、隣り合う4つの画素Prと、隣り合う4つの画素Pgと、隣り合う4つの画素Pbとが繰り返し配置される。4つの画素Prと、4つの画素Pgと、4つの画素Pbとは、ベイヤー配列に従って配置されているともいえる。
原色系(RGB)のカラーフィルタ30を有する画素である画素Pr、画素Pg、及び画素Pbについては、4つの画素毎にレンズ部21が設けられる。例えば、図3に示すように、隣り合う4つの画素Prにより構成される2×2画素に対して、1つのレンズ部21が配置される。4つの画素Prの各々の光電変換部によって、光学レンズ101の互いに異なる領域を通過した光が受光され、瞳分割が行われる。このため、各画素Prから出力される画素信号を用いることで、位相差情報を得ることができ、位相差AF(Auto Focus)を行うことが可能となる。
また、図3に示すように、4つの画素Pgに対して、1つのレンズ部21が配置される。このため、各画素Pgから出力される画素信号を用いることで、位相差データ(位相差情報)を得ることができ、位相差AFを行うことが可能となる。さらに、4つの画素Pbに対して、1つのレンズ部21が配置される。このため、各画素Pbから出力される画素信号を用いることで、位相差データを得ることができ、位相差AFを行うことが可能となる。
画素Pr、画素Pg、及び画素Pbは、位相差検出に用いる信号を出力可能な位相差画素でもある。2×2画素単位で配置される位相差画素は、撮像素子1の撮像面の全面、即ち画素部110全体に、繰り返し設けられている。これにより、撮像素子1の撮像面の全面にわたって位相差データを得ることができ、高精度のオートフォーカスを行うことができる。このため、画像の画質を向上させることが可能となる。
補色系(CMY)のカラーフィルタ30を有する画素である画素Pc、画素Pm、及び画素Pyについては、1つの画素毎にレンズ部21が設けられる。1つの画素Pcに対して、1つのレンズ部21が配置される。また、1つの画素Pmに対して1つのレンズ部21が配置され、1つの画素Pyに対して1つのレンズ部21が配置される。補色系の画素Pc、画素Pm、画素Pyは、隣り合う原色系の画素の間に配置される。図3に示すように、5つの画素Pcが十字状に配置されている。また、5つの画素Pmが十字状に配置されており、5つの画素Pyも十字状に配置されている。
撮像素子1では、2×2画素単位で配置される同色の画素毎に、後述する読み出し回路(図4参照)が設けられる。読み出し回路は、増幅トランジスタ及びリセットトランジスタ等を含み、光電変換部で光電変換された電荷に基づく画素信号を出力する。隣り合う4つの画素Prにより構成される2×2画素が、1つの読み出し回路を共有する。また、隣り合う4つの画素Pgにより構成される2×2画素が1つの読み出し回路を共有し、隣り合う4つの画素Pbにより構成される2×2画素が1つの読み出し回路を共有する。このように、RGB画素については、同色の2×2画素毎に、1つの読み出し回路が設けられる。読み出し回路を時分割で動作させることにより2×2画素の各々の画素信号が読み出されるようになっている。また、2×2画素の各々の信号が加算された画素信号を読み出すことも可能である。
また、撮像素子1では、十字状に配置される同色の画素毎に、後述する読み出し回路(図5参照)が設けられる。十字状に配置される5つの画素Pcが、1つの読み出し回路を共有する。また、十字状に配置される5つの画素Pmが1つの読み出し回路を共有し、十字状に配置される5つの画素Pyが1つの読み出し回路を共有する。このように、CMY画素については、十字状に配置される同色の画素毎に、1つの読み出し回路が設けられる。読み出し回路を時分割で動作させることにより5つの画素の各々の画素信号が読み出されるようになっている。また、5つの画素の各々の信号が加算された画素信号を読み出すことも可能である。
図4は、実施の形態に係る撮像素子の2×2画素の回路構成の一例を示す図である。上述した2×2画素(図3では、4つの画素Pr、4つの画素Pg、或いは4つの画素Pb)は、それぞれ、図4に示す回路構成を有する。図4に示すように、4つの画素Pは、それぞれ、光電変換部12と、転送トランジスタTr1とを有する。
光電変換部12は、フォトダイオード(PD)であり、入射する光を電荷に変換する。光電変換部12は、光電変換を行って受光量に応じた電荷を生成する。転送トランジスタTr1は、光電変換部12に電気的に接続される。転送トランジスタTr1は、信号TRGにより制御され、光電変換部12で光電変換されて蓄積された電荷をフローティングディフュージョン(FD)に転送する。
FDは、電荷保持部であり、転送された電荷を保持する。FDは、フォトダイオードPDから転送された電荷を蓄積する電荷蓄積部ともいえる。FDは、転送された電荷を蓄積し、FDの容量に応じた電圧に変換する。図4に示す例では、4つの画素Pの各々の転送トランジスタTr1は、互いに異なる信号(図4では信号TRG1~信号TRG4)によってオンオフ制御される。
読み出し回路15は、一例として、増幅トランジスタTr2、選択トランジスタTr3、及びリセットトランジスタTr4を有する。増幅トランジスタTr2のゲートは、FDに接続され、FDで変換された電圧が入力される。増幅トランジスタTr2は、FDに蓄積された電荷に基づく信号、即ちFDの電圧に基づく画素信号を生成する。画素信号は、光電変換された電荷に基づくアナログ信号である。
選択トランジスタTr3は、信号SELにより制御され、増幅トランジスタTr2からの画素信号を垂直信号線Lsigに出力する。選択トランジスタTr3は、画素信号の出力タイミングを制御し得る。リセットトランジスタTr4は、信号RSTにより制御され、FDに蓄積された電荷をリセットし、FDの電圧をリセットし得る。
なお、上述した十字状に配置される5つの画素は、図5に示す例のように、1つの読み出し回路15を共有する構成を有する。十字状に配置される5つの画素Pc、5つの画素Pm、又は5つの画素Pyは、それぞれ、図5に示す回路構成を有する。図5に示す例では、5つの画素Pの各々の転送トランジスタTr1は、互いに異なる信号(図5では信号TRG1~信号TRG5)によってオンオフ制御される。
読み出し回路15から出力される画素信号は、垂直信号線Lsigを介して、上述したカラム信号処理回路112(図2参照)に入力される。なお、選択トランジスタTr3は、電源電圧VDDが与えられる電源線と増幅トランジスタTr2との間に設けられてもよい。また、必要に応じて、選択トランジスタTr3を省略してもよい。
[画素の構成]
図6は、実施の形態に係る撮像素子の断面構成の一例を示す図である。撮像素子1は、受光部10と、導光部20と、多層配線層90とがZ軸方向に積層された構成を有している。受光部10は、対向する第1面11S1及び第2面11S2を有する半導体基板11を有する。半導体基板11の第1面11S1側に導光部20が設けられ、半導体基板11の第2面11S2側に多層配線層90が設けられている。光学レンズ101(図1参照)からの光が入射する側に導光部20が設けられ、光が入射する側とは反対側に多層配線層90が設けられるともいえる。撮像素子1は、いわゆる裏面照射型の撮像素子である。
図6は、実施の形態に係る撮像素子の断面構成の一例を示す図である。撮像素子1は、受光部10と、導光部20と、多層配線層90とがZ軸方向に積層された構成を有している。受光部10は、対向する第1面11S1及び第2面11S2を有する半導体基板11を有する。半導体基板11の第1面11S1側に導光部20が設けられ、半導体基板11の第2面11S2側に多層配線層90が設けられている。光学レンズ101(図1参照)からの光が入射する側に導光部20が設けられ、光が入射する側とは反対側に多層配線層90が設けられるともいえる。撮像素子1は、いわゆる裏面照射型の撮像素子である。
半導体基板11は、例えばシリコン基板により構成される。光電変換部12は、フォトダイオード(PD)であり、半導体基板11の所定領域にpn接合を有している。半導体基板11には、複数の光電変換部12が埋め込み形成されている。受光部10では、半導体基板11の第1面11S1及び第2面11S2に沿って、複数の光電変換部12が設けられる。
多層配線層90は、例えば、複数の配線層が、層間絶縁層を間に積層された構成を有している。多層配線層90の配線層は、例えば、アルミニウム(Al)、銅(Cu)またはタングステン(W)等を用いて形成されている。この他、配線層は、ポリシリコン(Poly-Si)を用いて形成するようにしてもよい。層間絶縁層は、例えば、酸化シリコン(SiOx)、窒化シリコン(SiNx)及び酸窒化シリコン(SiOxNy)等のうちの1種よりなる単層膜、あるいは、これらのうちの2種以上よりなる積層膜により形成されている。
半導体基板11及び多層配線層90には、上述した転送トランジスタTr1及び読み出し回路15が形成される。また、半導体基板11及び多層配線層90には、例えば、上述した垂直駆動回路111、カラム信号処理回路112、水平駆動回路113、出力回路114、制御回路115及び入出力端子116等が形成されている。
導光部20は、上述したレンズ部21及びカラーフィルタ30を有し、図6において上方から入射する光を受光部10側へ導く。図6では、Mg(マゼンタ)のカラーフィルタ30mを有する画素Pmと、R(赤)のカラーフィルタ30rを有する画素Prと、Y(黄色)のカラーフィルタ30yを有する画素Pyとを図示している。導光部20は、半導体基板11の第1面11S1と直交する厚さ方向において、受光部10に積層される。
分離部40は、隣り合う光電変換部12の間に設けられ、光電変換部12間を分離する。分離部40は、隣り合う画素Pの境界に設けられるトレンチ構造を有し、画素間分離部または画素間分離壁ともいえる。分離部40は、図6に示すように、半導体基板11の第2面11S2まで達するように形成されてもよい。
なお、撮像素子1は、カラーフィルタ30と光電変換部12との間に、反射防止膜及び固定電荷膜を有していてもよい。固定電荷膜は、固定電荷を有する膜であり、半導体基板11の界面における暗電流の発生を抑制する。上述した導光部20は、反射防止膜及び固定電荷膜を含んで構成されてもよい。
次に、図7A~図7Cを参照して、電子機器100によるズーム処理の一例について説明する。図7Aは、デジタルズーム(電子ズーム)の拡大率(倍率)が「小」の場合を示している。図7Bはデジタルズームの拡大率が「中」の場合を示し、図7Cはデジタルズームの拡大率が「大」の場合を示している。
拡大率が「小」の場合、信号処理部103の画像処理部104は、撮像素子1から出力される各画素の画素信号を含むRAW画像データ81に対して、ホワイトバランス調整を行った後、ビニング処理を行う。この場合、図7AのRAW画像データ81において太線で示すように、画像処理部104は、RAW画像データ81のうち、2×2画素となる4つの同色画素の画素信号に対してビニング処理を行う。
ビニング処理では、画像処理部104は、2×2画素となる4つの各画素Prの画素信号を加算する。画像処理部104は、2×2画素となる4つの各画素Pgの画素信号を加算する。また、画像処理部104は、2×2画素となる4つの各画素Pbの画素信号を加算する。このように、画像処理部104は、RAW画像データ81に対してビニング処理を施し、図7Aに示すように、画像データ82aを生成する。
そして、画像処理部104は、画像データ82aを用いて信号処理を行い、図7Aに示すように、RGB画像データ83aを生成する。この場合、画像処理部104は、画像データ82aに対して補間処理を行うことによって、画素毎にRGBの3つの色成分の画素信号を有するRGB画像データ83aを生成する。
このように、拡大率が「小」の場合は、RAW画像データ81のうちのRGB画素の画素信号に対してビニング処理を行い、ビニング処理後のRGBの画素信号を用いてRGB画像データ83aを生成する。ビニング処理を行うことによってノイズの少ないRGB画像データ83aを生成することができ、RGB画像データ83aを用いて拡大率が「小」の画像を表示させることが可能となる。
拡大率が「中」の場合、画像処理部104は、RAW画像データ81に対して、ホワイトバランス調整を行った後、ビニング処理を行う。この場合、図7BのRAW画像データ81において太線で示すように、画像処理部104は、RAW画像データ81のうち、2×2画素となる4つの同色画素の画素信号に対してビニング処理を行う。また、画像処理部104は、RAW画像データ81のうち、十字状に配置される5つの同色画素の画素信号に対してビニング処理を行う。
このビニング処理では、画像処理部104は、2×2画素となる4つの各画素Prの画素信号を加算する。画像処理部104は、2×2画素となる4つの各画素Pgの画素信号を加算する。また、画像処理部104は、2×2画素となる4つの各画素Pbの画素信号を加算する。
画像処理部104は、更に、十字状に配置された5つの各画素Pcの画素信号を加算する。画像処理部104は、十字状に配置された5つの各画素Pmの画素信号を加算する。また、画像処理部104は、十字状に配置された5つの各画素Pyの画素信号を加算する。このように、画像処理部104は、RAW画像データ81に対してビニング処理を行うことにより、図7Bに示すように画像データ82bを生成する。
そして、画像処理部104は、画像データ82bを用いて信号処理を行い、図7Bに示すように、RGB画像データ83bを生成する。この場合、例えば、画像処理部104は、画像データ82bに対して補間処理を行うことによって、画素毎にRGB及びCMYの6つの色成分の画素信号を算出する。また、画像処理部104は、RGB及びCMYの6つの色成分の画素信号に対して行列演算を行い、図7Bに示すように、画素毎にRGBの3つの色成分の画素信号を有するRGB画像データ83bを生成する。補間処理および行列演算処理を行うことにより、高感度のRGB画像データ83bを生成することが可能となる。
このように、拡大率が「中」の場合は、RAW画像データ81のうちのRGB画素の画素信号及びCMY画素の画素信号の両方に対してビニング処理を行い、ビニング処理後のRGBの画素信号及びCMYの画素信号を用いてRGB画像データ83bを生成する。このため、図7Bに示すように、拡大率が「小」の場合のRGB画像データ83aの解像度よりも高い解像度を有するRGB画像データ83bを取得することができる。RGB画像データ83bを用いることで、拡大率が「中」の画像として、拡大率が「小」の画像よりも高解像度の画像を表示させることが可能となる。
拡大率が「大」の場合、画像処理部104は、RAW画像データ81を用いて、ホワイトバランス調整を行った後、RGB画像データ83cを生成する。この場合、例えば、画像処理部104は、ホワイトバランス調整後のRAW画像データ81に対して補間処理を行うことによって画素毎にRGB及びCMYの6つの色成分の画素信号を算出する。また、画像処理部104は、RGB及びCMYの6つの色成分の画素信号に対して行列演算を行い、図7Cに示すように、画素毎にRGBの3つの色成分の画素信号を有するRGB画像データ83cを生成する。補間処理および行列演算処理を行うことで、高感度のRGB画像データ83cを得ることが可能となる。
このように、拡大率が「大」の場合は、ビニング処理を行わずに、RAW画像データ81に含まれるRGB画素の画素信号及びCMY画素の画素信号を用いてRGB画像データ83cを生成する。このため、図7Cに示すように、拡大率が「中」の場合のRGB画像データ83bの解像度よりも高い解像度を有するRGB画像データ83cを生成することができる。RGB画像データ83cを用いることで、フル解像度の画像を表示することが可能となる。このように、本実施の形態に係る電子機器100では、拡大率に応じて画像の解像度を徐々に変化させることができ、シームレスなデジタルズームを実現することができる。
[作用・効果]
本実施の形態に係る撮像素子1は、第1波長の光を透過する第1フィルタと第1光電変換部とを有する第1画素(例えば画素Pr)と、第2波長の光を透過する第2フィルタと第2光電変換部とを有する第2画素(画素Pg)と、第3波長の光を透過する第3フィルタと第3光電変換部とを有する第3画素(画素Pb)と、第2波長及び第3波長の光を透過する第4フィルタと第4光電変換部とを有する第4画素(画素Pc)と、第1波長及び第3波長の光を透過する第5フィルタと第5光電変換部とを有する第5画素(画素Pm)と、第1波長及び第2波長の光を透過する第6フィルタと第6光電変換部とを有する第6画素(画素Py)と、を備える。
本実施の形態に係る撮像素子1は、第1波長の光を透過する第1フィルタと第1光電変換部とを有する第1画素(例えば画素Pr)と、第2波長の光を透過する第2フィルタと第2光電変換部とを有する第2画素(画素Pg)と、第3波長の光を透過する第3フィルタと第3光電変換部とを有する第3画素(画素Pb)と、第2波長及び第3波長の光を透過する第4フィルタと第4光電変換部とを有する第4画素(画素Pc)と、第1波長及び第3波長の光を透過する第5フィルタと第5光電変換部とを有する第5画素(画素Pm)と、第1波長及び第2波長の光を透過する第6フィルタと第6光電変換部とを有する第6画素(画素Py)と、を備える。
本実施の形態に係る撮像素子1では、画素Pr、画素Pg、画素Pb、画素Pc、画素Pm、画素Pyが設けられる。このため、RGBの画素信号及びCMYの画素信号を得ることができる。1回の撮像によってRGB画像及びCMY画像の両方を得ることができ、高い色再現性を実現することが可能となる。
次に、本開示の変形例について説明する。以下では、上記実施の形態と同様の構成要素については同一の符号を付し、適宜説明を省略する。
<2.変形例>
(2-1.変形例1)
上述した実施の形態では、画素の配置例について説明したが、画素の配置はこれに限らない。2×2画素単位で補色系の画素が配置されもよい。図8に示すように、画素Pc、画素Pm、及び画素Pyがそれぞれ2×2画素単位で配置され、画素Pr、画素Pg、及び画素Pbがそれぞれ十字状に配置されてもよい。図8に示す例では、補色系のカラーフィルタ30を有する画素である画素Pc、画素Pm、及び画素Pyについては、4つの画素毎にレンズ部21が設けられる。このため、4つの画素Pc、4つの画素Pm、又は4つの画素Pyから出力される画素信号を用いることで、位相差情報を得ることができ、位相差AFを行うことが可能となる。
(2-1.変形例1)
上述した実施の形態では、画素の配置例について説明したが、画素の配置はこれに限らない。2×2画素単位で補色系の画素が配置されもよい。図8に示すように、画素Pc、画素Pm、及び画素Pyがそれぞれ2×2画素単位で配置され、画素Pr、画素Pg、及び画素Pbがそれぞれ十字状に配置されてもよい。図8に示す例では、補色系のカラーフィルタ30を有する画素である画素Pc、画素Pm、及び画素Pyについては、4つの画素毎にレンズ部21が設けられる。このため、4つの画素Pc、4つの画素Pm、又は4つの画素Pyから出力される画素信号を用いることで、位相差情報を得ることができ、位相差AFを行うことが可能となる。
本変形例に係る撮像素子1では、画素Pc、画素Pm、及び画素Pyは位相差画素でもある。本変形例の場合も、撮像素子1の撮像面の全面、即ち画素部110全体に、位相差画素が繰り返し設けられる。これにより、撮像素子1の撮像面の全面にわたって位相差データを得ることができ、高精度のオートフォーカスを行うことができる。このため、画像の画質を向上させることが可能となる。
本変形例の場合も、1回の撮像によってRGB画像及びCMY画像の両方を得ることができ、高い色再現性を実現することが可能となる。また、上述した実施の形態の場合と同様のズーム処理を行うことができる。このため、拡大率に応じて画像の解像度を徐々に変化させることができ、シームレスなデジタルズームを実現することができる。このように、本変形例の場合も、上記実施の形態の電子機器と同様の効果を得ることができる。
(2-2.変形例2)
画素Pに設けられるフィルタは、上述した例に限られず、例えば、W(ホワイト)に対応したカラーフィルタ、即ち入射光の全波長域の光を透過させるフィルタを配置するようにしてもよい。一例として、図9に示すように、RGB画素を2×2画素単位で繰り返し配置し、W(ホワイト)のカラーフィルタ30wを有する画素Pwを十字状に配置してもよい。また、例えば、オレンジ、ワイドグリーン等のカラーフィルタを配置するようにしてもよい。
画素Pに設けられるフィルタは、上述した例に限られず、例えば、W(ホワイト)に対応したカラーフィルタ、即ち入射光の全波長域の光を透過させるフィルタを配置するようにしてもよい。一例として、図9に示すように、RGB画素を2×2画素単位で繰り返し配置し、W(ホワイト)のカラーフィルタ30wを有する画素Pwを十字状に配置してもよい。また、例えば、オレンジ、ワイドグリーン等のカラーフィルタを配置するようにしてもよい。
(2-3.変形例3)
図10は、変形例3に係る撮像素子の断面構成の一例を示す図である。撮像素子1は、隣り合うカラーフィルタ30の間に設けられる第1の導光部材45を有する。第1の導光部材45は、周囲の媒質の屈折率よりも低い屈折率を有する。第1の導光部材45は、例えば、酸化膜、空洞(空隙)等により構成される。第1の導光部材45は、第1の導光部材45とその周囲の媒質との屈折率差によって、入射した光の進行方向を変化させる。撮像素子1は、第1の導光部材45によって光を導く導波路構造を有するともいえる。
図10は、変形例3に係る撮像素子の断面構成の一例を示す図である。撮像素子1は、隣り合うカラーフィルタ30の間に設けられる第1の導光部材45を有する。第1の導光部材45は、周囲の媒質の屈折率よりも低い屈折率を有する。第1の導光部材45は、例えば、酸化膜、空洞(空隙)等により構成される。第1の導光部材45は、第1の導光部材45とその周囲の媒質との屈折率差によって、入射した光の進行方向を変化させる。撮像素子1は、第1の導光部材45によって光を導く導波路構造を有するともいえる。
本変形例に係る撮像素子1では、第1の導光部材45が設けられることで、周囲の画素に光が漏れて混色が生じることを抑制することができる。また、第1の導光部材45は、入射した光を光電変換部12側へ伝搬することができ、入射光に対する感度を向上することが可能となる。なお、第1の導光部材45の形状は、特に限定されるものではなく、例えば図11に示すようにT字状の形状を有していてもよい。
(2-4.変形例4)
上述した実施の形態では、分離部40の配置例について説明したが、分離部40の配置はこれに限らない。例えば、図12に示すように、同色の画素間(図12では隣り合う画素Prの間)には、分離部40を設けなくてもよい。また、例えば、図13に示すように、異色画素間には混色を低減するために比較的太い分離部40bを配置し、同色画素間には比較的細い分離部40aを配置してもよい。分離部40bの幅は、分離部40aの幅よりも大きくなっている。
上述した実施の形態では、分離部40の配置例について説明したが、分離部40の配置はこれに限らない。例えば、図12に示すように、同色の画素間(図12では隣り合う画素Prの間)には、分離部40を設けなくてもよい。また、例えば、図13に示すように、異色画素間には混色を低減するために比較的太い分離部40bを配置し、同色画素間には比較的細い分離部40aを配置してもよい。分離部40bの幅は、分離部40aの幅よりも大きくなっている。
(2-5.変形例5)
図14は、変形例5に係る撮像素子の断面構成の一例を示す図である。撮像素子1は、異色の画素間に設けられる第2の導光部材46を有する。第2の導光部材46は、周囲の媒質の屈折率よりも低い屈折率を有する。第2の導光部材46は、例えば、酸化膜、空洞(空隙)等により構成される。第2の導光部材46は、隣り合う光電変換部12の間に設けられ、隣り合う画素Pの境界に設けられるトレンチ構造を有する。第2の導光部材46は、図14に示すように、半導体基板11の第2面11S2まで達するように形成されてもよい。本変形例では、第2の導光部材46が設けられることで、周囲の画素に光が漏れて混色が生じることを抑制することが可能となる。
図14は、変形例5に係る撮像素子の断面構成の一例を示す図である。撮像素子1は、異色の画素間に設けられる第2の導光部材46を有する。第2の導光部材46は、周囲の媒質の屈折率よりも低い屈折率を有する。第2の導光部材46は、例えば、酸化膜、空洞(空隙)等により構成される。第2の導光部材46は、隣り合う光電変換部12の間に設けられ、隣り合う画素Pの境界に設けられるトレンチ構造を有する。第2の導光部材46は、図14に示すように、半導体基板11の第2面11S2まで達するように形成されてもよい。本変形例では、第2の導光部材46が設けられることで、周囲の画素に光が漏れて混色が生じることを抑制することが可能となる。
(2-6.変形例6)
図15Aは、画素部110の中心から第1の距離の位置、即ち第1の像高の領域における撮像素子の断面構成の一例を示している。図15Bは、画素部110の中心から第2の距離の位置、即ち第2の像高の領域における撮像素子の断面構成の一例を示している。ここで、第2の距離、即ち第2の像高は、第1の距離、即ち第1の像高よりも大きい。
図15Aは、画素部110の中心から第1の距離の位置、即ち第1の像高の領域における撮像素子の断面構成の一例を示している。図15Bは、画素部110の中心から第2の距離の位置、即ち第2の像高の領域における撮像素子の断面構成の一例を示している。ここで、第2の距離、即ち第2の像高は、第1の距離、即ち第1の像高よりも大きい。
撮像素子1の画素部110の中央部分には、光学レンズ101からの光がほぼ垂直に入射する。一方、中央部分よりも外側に位置する周辺部分、即ち画素部110の中央から離れた領域には、図15A及び図15Bにおいて白抜き矢印で示す例のように、光が斜めに入射する。そこで、本変形例では、各画素Pにおけるレンズ部21及びカラーフィルタ30の位置が、画素部110(受光部10)の中心からの距離、即ち、像高に応じて異なるように構成される。
図15Aに示すように、画素Pのレンズ部21及びカラーフィルタ30は、その画素Pの光電変換部12に対して画素部110(受光部10)の中央側にずらして配置される。図15Bに示す例では、画素Pのレンズ部21及びカラーフィルタ30は、図15Aの場合よりも大きいずれ量だけ、その画素Pの光電変換部12に対して画素部110の中央側にずらして配置される。なお、画素部110の中央領域では、画素Pは、例えば図6に示すように構成される。
このように、本変形例では、レンズ部21及びカラーフィルタ30の各々の位置が像高に応じて調整されており、瞳補正を適切に行うことができる。このため、光電変換部12に入射する光量が低下することを抑制し、入射光に対する感度が低下することを防ぐことが可能となる。
<3.応用例>
(移動体への応用例)
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
(移動体への応用例)
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図16は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図16に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図16の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図17は、撮像部12031の設置位置の例を示す図である。
図17では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図17には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る移動体制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部12031に適用され得る。具体的には、例えば、撮像素子1及び電子機器100等は、撮像部12031に適用することができる。撮像部12031に本開示に係る技術を適用することにより、高精細な撮影画像を得ることができ、移動体制御システムにおいて撮影画像を利用した高精度な制御を行うことができる。
(内視鏡手術システムへの応用例)
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
図18は、本開示に係る技術(本技術)が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
図18では、術者(医師)11131が、内視鏡手術システム11000を用いて、患者ベッド11133上の患者11132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム11000は、内視鏡11100と、気腹チューブ11111やエネルギー処置具11112等の、その他の術具11110と、内視鏡11100を支持する支持アーム装置11120と、内視鏡下手術のための各種の装置が搭載されたカート11200と、から構成される。
内視鏡11100は、先端から所定の長さの領域が患者11132の体腔内に挿入される鏡筒11101と、鏡筒11101の基端に接続されるカメラヘッド11102と、から構成される。図示する例では、硬性の鏡筒11101を有するいわゆる硬性鏡として構成される内視鏡11100を図示しているが、内視鏡11100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
鏡筒11101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡11100には光源装置11203が接続されており、当該光源装置11203によって生成された光が、鏡筒11101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者11132の体腔内の観察対象に向かって照射される。なお、内視鏡11100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド11102の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)11201に送信される。
CCU11201は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡11100及び表示装置11202の動作を統括的に制御する。さらに、CCU11201は、カメラヘッド11102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
表示装置11202は、CCU11201からの制御により、当該CCU11201によって画像処理が施された画像信号に基づく画像を表示する。
光源装置11203は、例えばLED(Light Emitting Diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡11100に供給する。
入力装置11204は、内視鏡手術システム11000に対する入力インタフェースである。ユーザは、入力装置11204を介して、内視鏡手術システム11000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡11100による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示等を入力する。
処置具制御装置11205は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具11112の駆動を制御する。気腹装置11206は、内視鏡11100による視野の確保及び術者の作業空間の確保の目的で、患者11132の体腔を膨らめるために、気腹チューブ11111を介して当該体腔内にガスを送り込む。レコーダ11207は、手術に関する各種の情報を記録可能な装置である。プリンタ11208は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
なお、内視鏡11100に術部を撮影する際の照射光を供給する光源装置11203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置11203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド11102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置11203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド11102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置11203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置11203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
図19は、図18に示すカメラヘッド11102及びCCU11201の機能構成の一例を示すブロック図である。
カメラヘッド11102は、レンズユニット11401と、撮像部11402と、駆動部11403と、通信部11404と、カメラヘッド制御部11405と、を有する。CCU11201は、通信部11411と、画像処理部11412と、制御部11413と、を有する。カメラヘッド11102とCCU11201とは、伝送ケーブル11400によって互いに通信可能に接続されている。
レンズユニット11401は、鏡筒11101との接続部に設けられる光学系である。鏡筒11101の先端から取り込まれた観察光は、カメラヘッド11102まで導光され、当該レンズユニット11401に入射する。レンズユニット11401は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
撮像部11402は、撮像素子で構成される。撮像部11402を構成する撮像素子は、1つ(いわゆる単板式)であってもよいし、複数(いわゆる多板式)であってもよい。撮像部11402が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部11402は、3D(Dimensional)表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者11131は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部11402が多板式で構成される場合には、各撮像素子に対応して、レンズユニット11401も複数系統設けられ得る。
また、撮像部11402は、必ずしもカメラヘッド11102に設けられなくてもよい。例えば、撮像部11402は、鏡筒11101の内部に、対物レンズの直後に設けられてもよい。
駆動部11403は、アクチュエータによって構成され、カメラヘッド制御部11405からの制御により、レンズユニット11401のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部11402による撮像画像の倍率及び焦点が適宜調整され得る。
通信部11404は、CCU11201との間で各種の情報を送受信するための通信装置によって構成される。通信部11404は、撮像部11402から得た画像信号をRAWデータとして伝送ケーブル11400を介してCCU11201に送信する。
また、通信部11404は、CCU11201から、カメラヘッド11102の駆動を制御するための制御信号を受信し、カメラヘッド制御部11405に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてCCU11201の制御部11413によって自動的に設定されてもよい。後者の場合には、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡11100に搭載されていることになる。
カメラヘッド制御部11405は、通信部11404を介して受信したCCU11201からの制御信号に基づいて、カメラヘッド11102の駆動を制御する。
通信部11411は、カメラヘッド11102との間で各種の情報を送受信するための通信装置によって構成される。通信部11411は、カメラヘッド11102から、伝送ケーブル11400を介して送信される画像信号を受信する。
また、通信部11411は、カメラヘッド11102に対して、カメラヘッド11102の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
画像処理部11412は、カメラヘッド11102から送信されたRAWデータである画像信号に対して各種の画像処理を施す。
制御部11413は、内視鏡11100による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部11413は、カメラヘッド11102の駆動を制御するための制御信号を生成する。
また、制御部11413は、画像処理部11412によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置11202に表示させる。この際、制御部11413は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部11413は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具11112の使用時のミスト等を認識することができる。制御部11413は、表示装置11202に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者11131に提示されることにより、術者11131の負担を軽減することや、術者11131が確実に手術を進めることが可能になる。
カメラヘッド11102及びCCU11201を接続する伝送ケーブル11400は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル11400を用いて有線で通信が行われていたが、カメラヘッド11102とCCU11201との間の通信は無線で行われてもよい。
以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、内視鏡11100のカメラヘッド11102に設けられた撮像部11402に好適に適用され得る。撮像部11402に本開示に係る技術を適用することにより、撮像部11402を高感度化することができ、高精細な内視鏡11100を提供することができる。
以上、実施の形態、変形例および適用例ならびに応用例を挙げて本開示を説明したが、本技術は上記実施の形態等に限定されるものではなく、種々の変形が可能である。例えば、上述した変形例は、上記実施の形態の変形例として説明したが、各変形例の構成を適宜組み合わせることができる。例えば本開示は、裏面照射型イメージセンサに限定されるものではなく、表面照射型イメージセンサにも適用可能である。
本開示の一実施形態の撮像素子では、第1波長の光を透過する第1フィルタと第1光電変換部とを有する第1画素と、第2波長の光を透過する第2フィルタと第2光電変換部とを有する第2画素と、第3波長の光を透過する第3フィルタと第3光電変換部とを有する第3画素と、第2波長の光及び第3波長の光を透過する第4フィルタと第4光電変換部とを有する第4画素と、第1波長の光及び第3波長の光を透過する第5フィルタと第5光電変換部とを有する第5画素と、第1波長の光及び第2波長の光を透過する第6フィルタと第6光電変換部とを有する第6画素と、を備える。これにより、RGBの画素信号及びCMYの画素信号を得ることが可能となる。1回の撮像によってRGB画像及びCMY画像の両方を得ることができ、高い色再現性を実現することが可能となる。
なお、本明細書中に記載された効果はあくまで例示であってその記載に限定されるものではなく、他の効果があってもよい。また、本開示は以下のような構成をとることも可能である。
(1)
第1波長の光を透過する第1フィルタと第1光電変換部とを有する第1画素と、
第2波長の光を透過する第2フィルタと第2光電変換部とを有する第2画素と、
第3波長の光を透過する第3フィルタと第3光電変換部とを有する第3画素と、
前記第2波長の光及び前記第3波長の光を透過する第4フィルタと第4光電変換部とを有する第4画素と、
前記第1波長の光及び前記第3波長の光を透過する第5フィルタと第5光電変換部とを有する第5画素と、
前記第1波長の光及び前記第2波長の光を透過する第6フィルタと第6光電変換部とを有する第6画素と、
を備える撮像素子。
(2)
前記第1フィルタは、前記第1波長の光として、赤色の波長域の光を透過し、
前記第2フィルタは、前記第2波長の光として、緑色の波長域の光を透過し、
前記第3フィルタは、前記第3波長の光として、青色の波長域の光を透過する
前記(1)に記載の撮像素子。
(3)
前記第4フィルタは、シアン色の波長域の光を透過し、
前記第5フィルタは、マゼンタ色の波長域の光を透過し、
前記第6フィルタは、イエロー色の波長域の光を透過する
前記(1)または(2)に記載の撮像素子。
(4)
前記第1光電変換部は、前記第1フィルタを透過した光を光電変換し、
前記第2光電変換部は、前記第2フィルタを透過した光を光電変換し、
前記第3光電変換部は、前記第3フィルタを透過した光を光電変換し、
前記第4光電変換部は、前記第4フィルタを透過した光を光電変換し、
前記第5光電変換部は、前記第5フィルタを透過した光を光電変換し、
前記第6光電変換部は、前記第6フィルタを透過した光を光電変換する
前記(1)から(3)のいずれか1つに記載の撮像素子。
(5)
4つの前記第1画素に対して設けられる第1レンズを有し、
前記4つの前記第1画素の前記第1光電変換部は、前記第1レンズ及び前記第1フィルタを透過した光を光電変換する
前記(1)から(4)のいずれか1つに記載の撮像素子。
(6)
4つの前記第2画素に対して設けられる第2レンズと、
4つの前記第3画素に対して設けられる第3レンズと、を有し、
前記4つの前記第2画素の前記第2光電変換部は、前記第2レンズ及び前記第2フィルタを透過した光を光電変換し、
前記4つの前記第3画素の前記第3光電変換部は、前記第3レンズ及び前記第3フィルタを透過した光を光電変換する
前記(1)から(5)のいずれか1つに記載の撮像素子。
(7)
前記第4画素に対して設けられる第4レンズと、
前記第5画素に対して設けられる第5レンズと、
前記第6画素に対して設けられる第6レンズと、を有する
前記(1)から(6)のいずれか1つに記載の撮像素子。
(8)
複数の前記第1画素、複数の前記第2画素、複数の前記第3画素、複数の前記第4画素、複数の前記第5画素、及び複数の前記第6画素により構成される6×6画素が繰り返し配置されている
前記(1)から(7)のいずれか1つに記載の撮像素子。
(9)
複数の前記第4画素、複数の前記第5画素、及び複数の前記第6画素は、それぞれ、十字状に配置されている
前記(1)から(8)のいずれか1つに記載の撮像素子。
(10)
4つの前記第4画素に対して設けられる第4レンズを有し、
前記4つの前記第4画素の前記第4光電変換部は、前記第4レンズ及び前記第4フィルタを透過した光を光電変換する
前記(1)から(4)のいずれか1つに記載の撮像素子。
(11)
4つの前記第5画素に対して設けられる第5レンズと、
4つの前記第6画素に対して設けられる第6レンズと、を有し、
前記4つの前記第5画素の前記第5光電変換部は、前記第5レンズ及び前記第5フィルタを透過した光を光電変換し、
前記4つの前記第6画素の前記第6光電変換部は、前記第6レンズ及び前記第6フィルタを透過した光を光電変換する
前記(10)に記載の撮像素子。
(12)
前記第1画素に対して設けられる第1レンズと、
前記第2画素に対して設けられる第2レンズと、
前記第3画素に対して設けられる第3レンズと、を有する
前記(10)または(11)に記載の撮像素子。
(13)
複数の前記第1画素、複数の前記第2画素、複数の前記第3画素、複数の前記第4画素、複数の前記第5画素、及び複数の前記第6画素により構成される6×6画素が繰り返し配置されている
前記(10)から(12)のいずれか1つに記載の撮像素子。
(14)
複数の前記第1画素、複数の前記第2画素、及び複数の前記第3画素は、それぞれ、十字状に配置されている
前記(10)から(13)のいずれか1つに記載の撮像素子。
(15)
第1波長の光を透過する第1フィルタと第1光電変換部を有する第1画素と、第2波長の光を透過する第2フィルタと第2光電変換部を有する第2画素と、第3波長の光を透過する第3フィルタと第3光電変換部を有する第3画素と、前記第2波長の光及び前記第3波長の光を透過する第4フィルタと第4光電変換部を有する第4画素と、前記第1波長の光及び前記第3波長の光を透過する第5フィルタと第5光電変換部を有する第5画素と、前記第1波長の光及び前記第2波長の光を透過する第6フィルタと第6光電変換部を有する第6画素と、を有する撮像素子と、
前記撮像素子から出力される信号に信号処理を行う信号処理部と、
を備える電子機器。
なお、本明細書中に記載された効果はあくまで例示であってその記載に限定されるものではなく、他の効果があってもよい。また、本開示は以下のような構成をとることも可能である。
(1)
第1波長の光を透過する第1フィルタと第1光電変換部とを有する第1画素と、
第2波長の光を透過する第2フィルタと第2光電変換部とを有する第2画素と、
第3波長の光を透過する第3フィルタと第3光電変換部とを有する第3画素と、
前記第2波長の光及び前記第3波長の光を透過する第4フィルタと第4光電変換部とを有する第4画素と、
前記第1波長の光及び前記第3波長の光を透過する第5フィルタと第5光電変換部とを有する第5画素と、
前記第1波長の光及び前記第2波長の光を透過する第6フィルタと第6光電変換部とを有する第6画素と、
を備える撮像素子。
(2)
前記第1フィルタは、前記第1波長の光として、赤色の波長域の光を透過し、
前記第2フィルタは、前記第2波長の光として、緑色の波長域の光を透過し、
前記第3フィルタは、前記第3波長の光として、青色の波長域の光を透過する
前記(1)に記載の撮像素子。
(3)
前記第4フィルタは、シアン色の波長域の光を透過し、
前記第5フィルタは、マゼンタ色の波長域の光を透過し、
前記第6フィルタは、イエロー色の波長域の光を透過する
前記(1)または(2)に記載の撮像素子。
(4)
前記第1光電変換部は、前記第1フィルタを透過した光を光電変換し、
前記第2光電変換部は、前記第2フィルタを透過した光を光電変換し、
前記第3光電変換部は、前記第3フィルタを透過した光を光電変換し、
前記第4光電変換部は、前記第4フィルタを透過した光を光電変換し、
前記第5光電変換部は、前記第5フィルタを透過した光を光電変換し、
前記第6光電変換部は、前記第6フィルタを透過した光を光電変換する
前記(1)から(3)のいずれか1つに記載の撮像素子。
(5)
4つの前記第1画素に対して設けられる第1レンズを有し、
前記4つの前記第1画素の前記第1光電変換部は、前記第1レンズ及び前記第1フィルタを透過した光を光電変換する
前記(1)から(4)のいずれか1つに記載の撮像素子。
(6)
4つの前記第2画素に対して設けられる第2レンズと、
4つの前記第3画素に対して設けられる第3レンズと、を有し、
前記4つの前記第2画素の前記第2光電変換部は、前記第2レンズ及び前記第2フィルタを透過した光を光電変換し、
前記4つの前記第3画素の前記第3光電変換部は、前記第3レンズ及び前記第3フィルタを透過した光を光電変換する
前記(1)から(5)のいずれか1つに記載の撮像素子。
(7)
前記第4画素に対して設けられる第4レンズと、
前記第5画素に対して設けられる第5レンズと、
前記第6画素に対して設けられる第6レンズと、を有する
前記(1)から(6)のいずれか1つに記載の撮像素子。
(8)
複数の前記第1画素、複数の前記第2画素、複数の前記第3画素、複数の前記第4画素、複数の前記第5画素、及び複数の前記第6画素により構成される6×6画素が繰り返し配置されている
前記(1)から(7)のいずれか1つに記載の撮像素子。
(9)
複数の前記第4画素、複数の前記第5画素、及び複数の前記第6画素は、それぞれ、十字状に配置されている
前記(1)から(8)のいずれか1つに記載の撮像素子。
(10)
4つの前記第4画素に対して設けられる第4レンズを有し、
前記4つの前記第4画素の前記第4光電変換部は、前記第4レンズ及び前記第4フィルタを透過した光を光電変換する
前記(1)から(4)のいずれか1つに記載の撮像素子。
(11)
4つの前記第5画素に対して設けられる第5レンズと、
4つの前記第6画素に対して設けられる第6レンズと、を有し、
前記4つの前記第5画素の前記第5光電変換部は、前記第5レンズ及び前記第5フィルタを透過した光を光電変換し、
前記4つの前記第6画素の前記第6光電変換部は、前記第6レンズ及び前記第6フィルタを透過した光を光電変換する
前記(10)に記載の撮像素子。
(12)
前記第1画素に対して設けられる第1レンズと、
前記第2画素に対して設けられる第2レンズと、
前記第3画素に対して設けられる第3レンズと、を有する
前記(10)または(11)に記載の撮像素子。
(13)
複数の前記第1画素、複数の前記第2画素、複数の前記第3画素、複数の前記第4画素、複数の前記第5画素、及び複数の前記第6画素により構成される6×6画素が繰り返し配置されている
前記(10)から(12)のいずれか1つに記載の撮像素子。
(14)
複数の前記第1画素、複数の前記第2画素、及び複数の前記第3画素は、それぞれ、十字状に配置されている
前記(10)から(13)のいずれか1つに記載の撮像素子。
(15)
第1波長の光を透過する第1フィルタと第1光電変換部を有する第1画素と、第2波長の光を透過する第2フィルタと第2光電変換部を有する第2画素と、第3波長の光を透過する第3フィルタと第3光電変換部を有する第3画素と、前記第2波長の光及び前記第3波長の光を透過する第4フィルタと第4光電変換部を有する第4画素と、前記第1波長の光及び前記第3波長の光を透過する第5フィルタと第5光電変換部を有する第5画素と、前記第1波長の光及び前記第2波長の光を透過する第6フィルタと第6光電変換部を有する第6画素と、を有する撮像素子と、
前記撮像素子から出力される信号に信号処理を行う信号処理部と、
を備える電子機器。
本出願は、日本国特許庁において2022年1月6日に出願された日本特許出願番号2022-001095号を基礎として優先権を主張するものであり、この出願の全ての内容を参照によって本出願に援用する。
当業者であれば、設計上の要件や他の要因に応じて、種々の修正、コンビネーション、サブコンビネーション、および変更を想到し得るが、それらは添付の請求の範囲やその均等物の範囲に含まれるものであることが理解される。
Claims (15)
- 第1波長の光を透過する第1フィルタと第1光電変換部とを有する第1画素と、
第2波長の光を透過する第2フィルタと第2光電変換部とを有する第2画素と、
第3波長の光を透過する第3フィルタと第3光電変換部とを有する第3画素と、
前記第2波長の光及び前記第3波長の光を透過する第4フィルタと第4光電変換部とを有する第4画素と、
前記第1波長の光及び前記第3波長の光を透過する第5フィルタと第5光電変換部とを有する第5画素と、
前記第1波長の光及び前記第2波長の光を透過する第6フィルタと第6光電変換部とを有する第6画素と、
を備える撮像素子。 - 前記第1フィルタは、前記第1波長の光として、赤色の波長域の光を透過し、
前記第2フィルタは、前記第2波長の光として、緑色の波長域の光を透過し、
前記第3フィルタは、前記第3波長の光として、青色の波長域の光を透過する
請求項1に記載の撮像素子。 - 前記第4フィルタは、シアン色の波長域の光を透過し、
前記第5フィルタは、マゼンタ色の波長域の光を透過し、
前記第6フィルタは、イエロー色の波長域の光を透過する
請求項2に記載の撮像素子。 - 前記第1光電変換部は、前記第1フィルタを透過した光を光電変換し、
前記第2光電変換部は、前記第2フィルタを透過した光を光電変換し、
前記第3光電変換部は、前記第3フィルタを透過した光を光電変換し、
前記第4光電変換部は、前記第4フィルタを透過した光を光電変換し、
前記第5光電変換部は、前記第5フィルタを透過した光を光電変換し、
前記第6光電変換部は、前記第6フィルタを透過した光を光電変換する
請求項1に記載の撮像素子。 - 4つの前記第1画素に対して設けられる第1レンズを有し、
前記4つの前記第1画素の前記第1光電変換部は、前記第1レンズ及び前記第1フィルタを透過した光を光電変換する
請求項1に記載の撮像素子。 - 4つの前記第2画素に対して設けられる第2レンズと、
4つの前記第3画素に対して設けられる第3レンズと、を有し、
前記4つの前記第2画素の前記第2光電変換部は、前記第2レンズ及び前記第2フィルタを透過した光を光電変換し、
前記4つの前記第3画素の前記第3光電変換部は、前記第3レンズ及び前記第3フィルタを透過した光を光電変換する
請求項5に記載の撮像素子。 - 前記第4画素に対して設けられる第4レンズと、
前記第5画素に対して設けられる第5レンズと、
前記第6画素に対して設けられる第6レンズと、を有する
請求項6に記載の撮像素子。 - 複数の前記第1画素、複数の前記第2画素、複数の前記第3画素、複数の前記第4画素、複数の前記第5画素、及び複数の前記第6画素により構成される6×6画素が繰り返し配置されている
請求項7に記載の撮像素子。 - 複数の前記第4画素、複数の前記第5画素、及び複数の前記第6画素は、それぞれ、十字状に配置されている
請求項8に記載の撮像素子。 - 4つの前記第4画素に対して設けられる第4レンズを有し、
前記4つの前記第4画素の前記第4光電変換部は、前記第4レンズ及び前記第4フィルタを透過した光を光電変換する
請求項1に記載の撮像素子。 - 4つの前記第5画素に対して設けられる第5レンズと、
4つの前記第6画素に対して設けられる第6レンズと、を有し、
前記4つの前記第5画素の前記第5光電変換部は、前記第5レンズ及び前記第5フィルタを透過した光を光電変換し、
前記4つの前記第6画素の前記第6光電変換部は、前記第6レンズ及び前記第6フィルタを透過した光を光電変換する
請求項10に記載の撮像素子。 - 前記第1画素に対して設けられる第1レンズと、
前記第2画素に対して設けられる第2レンズと、
前記第3画素に対して設けられる第3レンズと、を有する
請求項11に記載の撮像素子。 - 複数の前記第1画素、複数の前記第2画素、複数の前記第3画素、複数の前記第4画素、複数の前記第5画素、及び複数の前記第6画素により構成される6×6画素が繰り返し配置されている
請求項12に記載の撮像素子。 - 複数の前記第1画素、複数の前記第2画素、及び複数の前記第3画素は、それぞれ、十字状に配置されている
請求項13に記載の撮像素子。 - 第1波長の光を透過する第1フィルタと第1光電変換部を有する第1画素と、第2波長の光を透過する第2フィルタと第2光電変換部を有する第2画素と、第3波長の光を透過する第3フィルタと第3光電変換部を有する第3画素と、前記第2波長の光及び前記第3波長の光を透過する第4フィルタと第4光電変換部を有する第4画素と、前記第1波長の光及び前記第3波長の光を透過する第5フィルタと第5光電変換部を有する第5画素と、前記第1波長の光及び前記第2波長の光を透過する第6フィルタと第6光電変換部を有する第6画素と、を有する撮像素子と、
前記撮像素子から出力される信号に信号処理を行う信号処理部と、
を備える電子機器。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022001095 | 2022-01-06 | ||
JP2022-001095 | 2022-01-06 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2023132137A1 true WO2023132137A1 (ja) | 2023-07-13 |
Family
ID=87073393
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2022/042704 WO2023132137A1 (ja) | 2022-01-06 | 2022-11-17 | 撮像素子および電子機器 |
Country Status (1)
Country | Link |
---|---|
WO (1) | WO2023132137A1 (ja) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006340100A (ja) * | 2005-06-02 | 2006-12-14 | Fujifilm Holdings Corp | 撮影装置 |
JP2009017152A (ja) * | 2007-07-04 | 2009-01-22 | Nikon Corp | 固体撮像素子及びこれを用いた撮像装置 |
JP2009152234A (ja) * | 2007-12-18 | 2009-07-09 | Sony Corp | 固体撮像装置およびカメラ |
JP2009157198A (ja) * | 2007-12-27 | 2009-07-16 | Nikon Corp | 固体撮像素子及びこれを用いた撮像装置 |
JP2010531540A (ja) * | 2007-06-18 | 2010-09-24 | シリコンファイル・テクノロジーズ・インコーポレイテッド | 広いダイナミックレンジと良好な色再現性および解像度を有する画素アレイならびに画素アレイを用いたイメージセンサ |
JP2014006079A (ja) * | 2012-06-21 | 2014-01-16 | Olympus Corp | 撮像モジュールおよび撮像装置 |
WO2021171797A1 (ja) * | 2020-02-26 | 2021-09-02 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像装置及び電子機器 |
-
2022
- 2022-11-17 WO PCT/JP2022/042704 patent/WO2023132137A1/ja unknown
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006340100A (ja) * | 2005-06-02 | 2006-12-14 | Fujifilm Holdings Corp | 撮影装置 |
JP2010531540A (ja) * | 2007-06-18 | 2010-09-24 | シリコンファイル・テクノロジーズ・インコーポレイテッド | 広いダイナミックレンジと良好な色再現性および解像度を有する画素アレイならびに画素アレイを用いたイメージセンサ |
JP2009017152A (ja) * | 2007-07-04 | 2009-01-22 | Nikon Corp | 固体撮像素子及びこれを用いた撮像装置 |
JP2009152234A (ja) * | 2007-12-18 | 2009-07-09 | Sony Corp | 固体撮像装置およびカメラ |
JP2009157198A (ja) * | 2007-12-27 | 2009-07-16 | Nikon Corp | 固体撮像素子及びこれを用いた撮像装置 |
JP2014006079A (ja) * | 2012-06-21 | 2014-01-16 | Olympus Corp | 撮像モジュールおよび撮像装置 |
WO2021171797A1 (ja) * | 2020-02-26 | 2021-09-02 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像装置及び電子機器 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7284171B2 (ja) | 固体撮像装置 | |
US11889206B2 (en) | Solid-state imaging device and electronic equipment | |
WO2021235101A1 (ja) | 固体撮像装置 | |
WO2021124975A1 (ja) | 固体撮像装置および電子機器 | |
WO2023013444A1 (ja) | 撮像装置 | |
WO2023132137A1 (ja) | 撮像素子および電子機器 | |
WO2023162496A1 (ja) | 撮像装置 | |
WO2023058326A1 (ja) | 撮像装置 | |
WO2023067935A1 (ja) | 撮像装置 | |
WO2024029408A1 (ja) | 撮像装置 | |
WO2023013393A1 (ja) | 撮像装置 | |
WO2023080011A1 (ja) | 撮像装置及び電子機器 | |
WO2023106316A1 (ja) | 受光装置 | |
WO2024057814A1 (ja) | 光検出装置および電子機器 | |
JP7437957B2 (ja) | 受光素子、固体撮像装置及び電子機器 | |
WO2023079835A1 (ja) | 光電変換装置 | |
WO2023012989A1 (ja) | 撮像装置 | |
WO2023195315A1 (en) | Light detecting device | |
WO2023195316A1 (en) | Light detecting device | |
WO2024095832A1 (en) | Photodetector, electronic apparatus, and optical element | |
WO2023079842A1 (ja) | 固体撮像装置、撮像システム及び撮像処理方法 | |
WO2024057805A1 (ja) | 撮像素子および電子機器 | |
WO2023106308A1 (ja) | 受光装置 | |
WO2022270039A1 (ja) | 固体撮像装置 | |
WO2023234069A1 (ja) | 撮像装置および電子機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 22918726 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2023572367 Country of ref document: JP Kind code of ref document: A |