WO2017221715A1 - 撮像素子及び電子機器 - Google Patents
撮像素子及び電子機器 Download PDFInfo
- Publication number
- WO2017221715A1 WO2017221715A1 PCT/JP2017/021194 JP2017021194W WO2017221715A1 WO 2017221715 A1 WO2017221715 A1 WO 2017221715A1 JP 2017021194 W JP2017021194 W JP 2017021194W WO 2017221715 A1 WO2017221715 A1 WO 2017221715A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- voltage
- signal
- unit
- output
- reset
- Prior art date
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 116
- 238000006243 chemical reaction Methods 0.000 claims abstract description 97
- 238000012545 processing Methods 0.000 claims description 153
- 238000001514 detection method Methods 0.000 claims description 52
- 238000000034 method Methods 0.000 claims description 36
- 239000000758 substrate Substances 0.000 claims description 25
- 230000008569 process Effects 0.000 claims description 21
- 230000001934 delay Effects 0.000 claims description 8
- 206010064127 Solar lentigo Diseases 0.000 abstract description 55
- 238000005516 engineering process Methods 0.000 abstract description 34
- 238000004891 communication Methods 0.000 description 72
- 239000003990 capacitor Substances 0.000 description 41
- 210000003128 head Anatomy 0.000 description 37
- 230000000875 corresponding effect Effects 0.000 description 33
- 230000005540 biological transmission Effects 0.000 description 30
- 230000006870 function Effects 0.000 description 29
- 230000003287 optical effect Effects 0.000 description 21
- 238000005070 sampling Methods 0.000 description 21
- 239000004065 semiconductor Substances 0.000 description 19
- 238000001356 surgical procedure Methods 0.000 description 19
- 238000012546 transfer Methods 0.000 description 17
- 238000002674 endoscopic surgery Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 12
- 238000003860 storage Methods 0.000 description 9
- 210000001519 tissue Anatomy 0.000 description 9
- 230000007704 transition Effects 0.000 description 9
- 238000010336 energy treatment Methods 0.000 description 7
- 230000003321 amplification Effects 0.000 description 6
- 238000005286 illumination Methods 0.000 description 6
- 238000003199 nucleic acid amplification method Methods 0.000 description 6
- 238000013459 approach Methods 0.000 description 4
- 230000007423 decrease Effects 0.000 description 4
- 230000005284 excitation Effects 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 210000004204 blood vessel Anatomy 0.000 description 3
- 230000001276 controlling effect Effects 0.000 description 3
- 230000003111 delayed effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000001678 irradiating effect Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 208000005646 Pneumoperitoneum Diseases 0.000 description 2
- 210000003815 abdominal wall Anatomy 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000010267 cellular communication Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 239000003153 chemical reaction reagent Substances 0.000 description 2
- 238000002485 combustion reaction Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- MOFVSTNWEDAEEK-UHFFFAOYSA-M indocyanine green Chemical compound [Na+].[O-]S(=O)(=O)CCCCN1C2=CC=C3C=CC=CC3=C2C(C)(C)C1=CC=CC=CC=CC1=[N+](CCCCS([O-])(=O)=O)C2=CC=C(C=CC=C3)C3=C2C1(C)C MOFVSTNWEDAEEK-UHFFFAOYSA-M 0.000 description 2
- 229960004657 indocyanine green Drugs 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000007789 sealing Methods 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 241000110058 Candidatus Phytoplasma pini Species 0.000 description 1
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000003796 beauty Effects 0.000 description 1
- 230000000740 bleeding effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000001816 cooling Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000002073 fluorescence micrograph Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000003595 mist Substances 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 210000004400 mucous membrane Anatomy 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 201000003144 pneumothorax Diseases 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 210000004761 scalp Anatomy 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000001954 sterilising effect Effects 0.000 description 1
- 238000004659 sterilization and disinfection Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/62—Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/62—Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
- H04N25/626—Reduction of noise due to residual charges remaining after image readout, e.g. to remove ghost images or afterimages
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/62—Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
- H04N25/627—Detection or reduction of inverted contrast or eclipsing effects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/65—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to reset noise, e.g. KTC noise related to CMOS structures by techniques other than CDS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/75—Circuitry for providing, modifying or processing image signals from the pixel array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/78—Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/79—Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors
Definitions
- the technology according to the present disclosure relates to an imaging element and an electronic device, and particularly relates to an imaging element and an electronic device that suppress the occurrence of a sunspot phenomenon.
- the sunspot phenomenon is a phenomenon in which brightness is lowered due to leakage of charge from the photoelectric conversion element during reset operation in a pixel to which very strong light is incident, and the sun sinks black. Also called black crush.
- a state in which a pixel in which intense light is incident may cause a charge leakage from the photoelectric conversion element during a reset operation and a sunspot phenomenon may occur, which will be referred to as a sunspot state.
- the presence or absence of occurrence of a sunspot state is detected based on the result of comparing the voltage of the feedthrough portion of the pixel signal with a predetermined reference potential.
- the pixel signal is delayed by the time required to detect the presence or absence of the occurrence of the sunspot state, and in the pixel where the sunspot state has not occurred, the voltage of the feedthrough portion of the pixel signal is sampled and the sunspot state is detected.
- the voltage of the reset step portion of the pixel signal when the reset gate is on is sampled.
- a voltage obtained by adding the average value of the pixel signals in the light shielding region to the sampled voltage is used as a voltage at the reset level of the pixel signal.
- a drop in the reset level voltage of the pixel in which the sunspot state has occurred is prevented, and the occurrence of the sunspot phenomenon is suppressed.
- Patent Document 1 requires a sunspot detection circuit, an image signal delay circuit, a circuit for generating a reset level voltage, and the like, which increases the circuit scale.
- the technology according to the present disclosure makes it possible to suppress the occurrence of the sunspot phenomenon with a simple configuration.
- An image sensor includes a sample-and-hold unit that samples and holds a reset voltage that is a voltage at a reset level of a pixel signal, and an AD that performs AD (Analog Digital) conversion of the pixel signal.
- a first output signal obtained by AD-converting the pixel signal based on a result of comparing the reset voltage held by the sample-and-hold unit with a predetermined reference voltage.
- One of the second output signals having a predetermined level is selected and output.
- the sample-and-hold unit outputs a comparison signal indicating a result of comparing the held reset voltage and the reference voltage
- the AD conversion unit is configured to output the first output signal and the comparison signal based on the comparison signal.
- One of the second output signals can be selected and output.
- the sample hold unit is provided with a circuit for turning on or off the input of the reference signal indicating the reference voltage and the pixel signal, and the input of the reference signal is turned on and held while the reset voltage is being held.
- An output signal whose voltage varies depending on the magnitude relationship between the reset voltage and the reference voltage can be output as the comparison signal.
- the sample-and-hold unit can output the reset voltage after turning off the input of the reference signal after outputting the comparison signal.
- the sample hold unit turns on the input of the reference signal and outputs the comparison signal while the reset voltage is being held during the settling of the data voltage that is the voltage of the data level of the pixel signal. Can do.
- a comparison unit that outputs a comparison signal indicating a result of comparing the reset voltage output from the sample hold unit and the reference voltage is further provided, and the AD conversion unit is configured to output the first signal based on the comparison signal.
- One of the output signal and the second output signal can be selected and output.
- the sample hold unit During settling of a data voltage that is a voltage of a data level of the pixel signal, the sample hold unit outputs the held reset voltage, and the comparison unit outputs the reset voltage output from the sample hold unit.
- the comparison voltage can be output by comparing the reset voltage with the reference voltage.
- a kTC cancellation unit for reducing kTC noise of the sample hold unit can be further provided.
- the kTC cancellation unit can reduce the kTC noise by accumulating charges corresponding to the fluctuation of the output voltage of the sample hold unit due to the kTC noise and feeding back to the sample hold unit.
- the reference voltage is a maximum voltage of an input voltage at which the AD conversion unit operates normally to a limit voltage that is a minimum value of a voltage range in which the vertical signal line for transferring the pixel signal can be normally AD converted. It can be set to a voltage obtained by adding a voltage equal to or greater than the width of the value and the minimum value.
- a reference voltage generation unit that generates and outputs the reference voltage can be further provided.
- the reference voltage generation unit can set the reference voltage based on the detection result of the limit voltage.
- the reference voltage generator can generate and output the reference voltage at a preset level.
- the first output signal may be a signal based on a difference between the reset voltage output from the sample and hold unit and a data voltage that is a data level voltage of the pixel signal.
- the second output signal can be a signal having the highest luminance level.
- a plurality of sample and hold units may be connected to each vertical signal line for transferring the pixel signal, and one or more of the plurality of sample and hold units may sample and hold the reset voltage.
- a first substrate provided with a pixel that outputs the pixel signal and a second substrate provided with the sample hold unit can be stacked.
- An electronic apparatus includes an imaging element and a signal processing unit that processes a signal output from the imaging element, and the imaging element is a voltage at a reset level of a pixel signal.
- a sample-and-hold unit that samples and holds a certain reset voltage; and an AD converter that performs AD (Analog-Digital) conversion of the pixel signal, and the AD converter includes the reset voltage held by the sample-and-hold unit And a predetermined reference voltage, one of the first output signal obtained by AD conversion of the pixel signal and the second output signal having a predetermined level is selected and output.
- a reset voltage that is a voltage at a reset level of a pixel signal is sampled and held, and the held reset voltage and a predetermined reference voltage are obtained. Based on the comparison result, one of the first output signal obtained by AD-converting the pixel signal and the second output signal having a predetermined level is selected and output.
- the occurrence of the sunspot phenomenon can be suppressed.
- production of a sunspot phenomenon can be suppressed with a simple structure.
- FIG. 6 is a timing chart for explaining a second embodiment of a reset voltage sampling process; It is a figure which shows 3rd Embodiment of the signal processing part of the image pick-up element of FIG. 12 is a timing chart for explaining a third embodiment of a reset voltage sampling process; It is a figure which shows 4th Embodiment of the signal processing part of the image pick-up element of FIG. 12 is a timing chart for explaining a fourth embodiment of a reset voltage sampling process; It is a timing chart for demonstrating a pipeline process. It is a figure which shows the usage example of a solid-state image sensor. It is a block diagram which shows the structural example of an electronic device. It is a figure showing roughly the whole operation room system composition.
- FIG. 19 It is a figure which shows the example of a display of the operation screen in a concentrated operation panel. It is a figure which shows an example of the mode of the surgery to which the operating room system was applied. It is a block diagram which shows an example of a function structure of the camera head shown in FIG. 19, and CCU. It is a block diagram which shows an example of a schematic structure of a vehicle control system. It is explanatory drawing which shows an example of the installation position of a vehicle exterior information detection part and an imaging part.
- FIG. 1 is a block diagram illustrating a configuration example of an image sensor 10 to which the technology according to the present disclosure is applied.
- the image sensor 10 includes a pixel region 11, a vertical drive circuit 12, a column signal processing circuit 13, a horizontal drive circuit 14, an output circuit 15, and a control circuit 16.
- the pixel region 11 is a light receiving surface that receives light collected by an optical system (not shown).
- a plurality of pixels 21 are arranged in a matrix, and each pixel 21 is connected to the vertical drive circuit 12 for each row via a horizontal signal line 22, and the vertical signal line 23 is connected to the pixel region 11.
- the plurality of pixels 21 each output a pixel signal at a level corresponding to the amount of light received, and an image of the subject that forms an image in the pixel region 11 is constructed from these pixel signals.
- the vertical drive circuit 12 sequentially outputs a drive signal for driving (transferring, selecting, resetting, etc.) each pixel 21 for each row of the plurality of pixels 21 arranged in the pixel region 11 and the horizontal signal line 22.
- the vertical drive circuit 12 controls the exposure time and readout scanning of each pixel 21 in the pixel region 11.
- the vertical drive circuit 12 performs a plurality of pixel signal readout scans of each pixel 21 in the pixel region 11 in parallel, and sets the timing for moving the readout row of each readout scan to other readouts. Control is performed based on the position of the scanning readout line.
- the column signal processing circuit 13 performs CDS (Correlated Double Sampling) processing on the pixel signal output from the plurality of pixels 21 via the vertical signal line 23, thereby performing AD conversion of the pixel signal. And reset noise.
- the column signal processing circuit 13 includes a plurality of column processing units (not shown) corresponding to the number of columns of the pixels 21, and can perform CDS processing in parallel for each column of the pixels 21.
- the horizontal drive circuit 14 sequentially outputs a drive signal for outputting a pixel signal from the column signal processing circuit 13 to the output signal line 24 for each column of the plurality of pixels 21 arranged in the pixel region 11. To supply.
- the output circuit 15 amplifies the pixel signal supplied from the column signal processing circuit 13 via the output signal line 24 at a timing according to the driving signal of the horizontal driving circuit 14 and outputs the amplified pixel signal to the subsequent signal processing circuit.
- the control circuit 16 controls driving of each unit in the image sensor 10. For example, the control circuit 16 generates a clock signal according to the driving cycle of each part and supplies it to each part.
- FIG. 2A shows a first substrate configuration of the image sensor 10A.
- a pixel region 11 In the image sensor 10 of FIG. 2A, a pixel region 11, a control region 61, and a logic circuit 62 for signal processing are provided in one semiconductor substrate 51.
- the control region 61 for example, the vertical drive circuit 12, the column signal processing circuit 13, the horizontal drive circuit 14, the output circuit 15, and the control circuit 16 of FIG. 1 are provided.
- FIG. 2B and FIG. 2C show the second and third substrate configurations of the image sensor 10.
- the image sensor 10B of FIG. 2B and the image sensor 10C of FIG. 2C have a structure in which the pixel region 11 and the logic circuit 62 are formed on different semiconductor substrates and stacked.
- the pixel region 11 and the control region 61 are provided on the first semiconductor substrate 52, and the logic circuit 62 including a signal processing circuit for signal processing is provided on the second semiconductor substrate 53. .
- the first semiconductor substrate 52 and the second semiconductor substrate 53 are electrically connected.
- the pixel region 11 is provided on the first semiconductor substrate 52, and the logic circuit 62 including the control region 61 and the signal processing circuit is provided on the second semiconductor substrate 53.
- the first semiconductor substrate 52 and the second semiconductor substrate 53 are electrically connected.
- the first semiconductor substrate 52 in which the pixel region 11 is formed and the second semiconductor substrate 53 in which the logic circuit 62 is formed are separately formed using semiconductor process technology.
- a manufacturing method of a solid-state imaging device that is bonded and then electrically connected is disclosed in Japanese Patent Application Laid-Open Nos. 2010-245506 and 2011-96851 by the present applicant. Thus, by forming and bonding separately, it can contribute to high image quality, mass productivity, and low cost.
- FIG. 3 is a circuit diagram illustrating a configuration example of the pixel 21 arranged in the pixel region 11 of the image sensor 10.
- the pixel 21 includes a photoelectric conversion element 111, a transfer gate unit 112, a reset gate unit 113, an FD (floating diffusion) unit 114, an amplification transistor 115, and a selection transistor 116.
- drive signals TRG, RST, SEL, OFG are supplied from the vertical drive circuit 12 of FIG. 1 through a plurality of signal lines.
- These drive signals are signals in which the high-level (for example, power supply voltage Vdd) state is active and the low-level state (for example, ground level) is inactive because each transistor of the pixel 21 is an NMOS transistor. is there.
- the transfer gate control line 101 and the reset gate control line 102 among the plurality of signal lines are illustrated.
- the transfer gate control line 101 is used for transmission of the drive signal TRG, and the reset gate control line 102 is used for transmission of the drive signal RST.
- the drive signal when the drive signal is in an active state, the drive signal is also referred to as ON, and when the drive signal is in an inactive state, the drive signal is also referred to as OFF.
- the photoelectric conversion element 111 is made of, for example, a PN junction photodiode.
- the photoelectric conversion element 111 generates and accumulates charges according to the received light amount.
- the transfer gate unit 112 is connected between the photoelectric conversion element 111 and the FD unit 114.
- a drive signal TRG is applied to the gate electrode of the transfer gate portion 112 via the transfer gate control line 101.
- the transfer gate unit 112 becomes conductive, and the charge accumulated in the photoelectric conversion element 111 is transferred to the FD unit 114 via the transfer gate unit 112.
- the reset gate unit 113 is connected between the power supply Vdd and the FD unit 114.
- a drive signal RST is applied to the gate electrode of the reset gate portion 113 via the reset gate control line 102.
- the drive signal RST is turned on, the reset gate portion 113 becomes conductive, and the potential of the FD portion 114 is reset to the level of the power supply voltage Vdd.
- the FD unit 114 converts the charge into a voltage signal and outputs the voltage signal.
- the amplification transistor 115 has a gate electrode connected to the FD unit 114 and a drain electrode connected to the power supply Vdd, and serves as an input unit of a reading circuit that reads out the electric charge held in the FD unit 114, a so-called source follower circuit.
- the amplification transistor 115 forms a source follower circuit with the constant current source 103 connected to one end of the vertical signal line 23 by connecting the source electrode to the vertical signal line 23 via the selection transistor 116.
- the selection transistor 116 is connected between the source electrode of the amplification transistor 115 and the vertical signal line 23.
- a drive signal SEL is applied to the gate electrode of the selection transistor 116.
- the selection transistor 116 is turned on and the pixel 21 is selected.
- the pixel signal output from the amplification transistor 115 is output to the vertical signal line 23 via the selection transistor 116.
- An AD conversion circuit 104 that AD converts a pixel signal is connected to the vertical signal line 23.
- a sample hold circuit or the like is connected between the vertical signal line 23 and the AD conversion circuit 104.
- each gate portion or each transistor is turned on, each gate portion or each transistor may be turned on, and each gate portion or each transistor is turned off. It is also said that the transistor is turned off.
- the timing chart of FIG. 4 shows time-series transitions of the drive signal RST, the drive signal TRG, and the VSL voltage that is the voltage of the vertical signal line 23 when sampling the pixel signal of a certain pixel 21.
- the pixel 21 is in a selected state when the drive signal SEL for the pixel 21 is turned on and the selection transistor 116 is turned on.
- the drive signal RST is turned on, and the reset gate unit 113 is turned on.
- the potential of the FD unit 114 is reset to the power supply voltage Vdd.
- the VSL voltage rises and becomes a voltage corresponding to the power supply voltage Vdd.
- the drive signal RST is turned off, and the reset gate unit 113 is turned off.
- the potential of the FD unit 114 is lowered to the feedthrough level.
- the VSL voltage decreases to a voltage corresponding to the feedthrough level (hereinafter referred to as a feedthrough voltage).
- the VSL voltage is maintained at a voltage substantially equal to the feedthrough voltage.
- the photoelectric conversion element 111 when very strong light is incident on the pixel 21, the photoelectric conversion element 111 overflows and a sunspot state occurs. That is, although the transfer gate unit 112 is off, the electric charge overflowing from the photoelectric conversion element 111 flows into the FD unit 114, and the potential of the FD unit 114 is lowered. Along with this, the VSL voltage decreases.
- a voltage at a reset level of the pixel signal (hereinafter referred to as a reset voltage) is sampled.
- the reset voltage is greatly reduced as compared with the normal state.
- the drive signal TRG is turned on, and the transfer gate unit 112 is turned on. Thereby, the electric charge accumulated in the photoelectric conversion element 111 is transferred to the FD unit 114 via the transfer gate unit 112.
- the potential of the FD unit 114 is lowered by an amount corresponding to the charge transferred from the photoelectric conversion element 111, and the VSL voltage is also lowered accordingly.
- the potential of the FD section 114 has already decreased. Further, the electric charge is further transferred from the photoelectric conversion element 111 to the FD unit 114, so that the potential of the FD unit 114 is further decreased. Therefore, the VSL voltage is further lowered than usual.
- the data level voltage of the pixel signal (hereinafter referred to as the data voltage) is sampled.
- the VSL voltage is very low compared to the normal data voltage. Therefore, the drain-source voltage of the constant current source 103 is lower than the voltage necessary for the saturation region operation. Therefore, the original data voltage cannot be acquired.
- the pixel signal in which the sunspot state has occurred must be a pixel signal with originally high luminance (for example, white level).
- the pixel signal has a low luminance (for example, black level).
- FIG. 5 shows a configuration example of a circuit of the signal processing unit 201 provided in the column signal processing circuit 13 of the image sensor 10 of FIG.
- one signal processing unit 201 is provided for each vertical signal line 23.
- the signal processing unit 201 includes an AD conversion circuit 104, a sample hold circuit 211, a reference voltage generator 212, a comparator 213, and a delay element 214.
- the sample hold circuit 211 includes a capacitor 221, a constant current source 222, a transistor 223 made of an NMOS transistor, and switches SW1 to SW3.
- One end of the capacitor 221 is connected to the vertical signal line 23 via the switch SW2, and the other end of the capacitor 221 is connected to the gate of the transistor 223.
- the drain of the transistor 223 is connected to the constant current source 222, the AD conversion circuit 104, and the input terminal of the comparator 213, and the source is grounded.
- the switch SW1 is connected between the drain and gate of the transistor 223.
- the switch SW3 is connected between the drain of the transistor 223 and one end of the capacitor 221 on the switch SW2 side.
- the reference voltage generator 212 generates a predetermined reference voltage and supplies a reference signal indicating the generated reference voltage to the input terminal of the comparator 213.
- the reference voltage generator 212 is shared by a plurality of signal processing units 201. That is, a reference signal is supplied from one reference voltage generator 212 to the comparator 213 of the signal processing unit 213 in a plurality of pixel rows. Thereby, area saving is implement
- the reference voltage generator 212 may be individually mounted on each signal processing unit 201.
- the comparator 213 compares the output voltage of the sample and hold circuit 211 with the reference voltage supplied from the reference voltage generator 212, thereby performing sunspot determination to determine whether or not the sunspot phenomenon has occurred.
- the control signal COMPEN is supplied from the horizontal drive circuit 14 to the comparator 213, for example.
- the comparator 213 compares the output voltage of the sample hold circuit 211 when the control signal COMPEN is turned on with the reference voltage, and supplies a comparison signal indicating the comparison result to the delay element 214.
- the comparison signal when the output voltage is equal to or higher than the reference voltage, the comparison signal is set to the high level, and when the output voltage is lower than the reference voltage, the comparison signal is set to the low level.
- the delay element 214 delays the comparison signal supplied from the comparator 213 by a predetermined time and supplies the delayed signal to the AD conversion circuit 104.
- the AD conversion circuit 104 performs AD conversion of the pixel signal based on the output signal from the sample hold circuit 211, and outputs the obtained digital pixel signal. As will be described later, the AD conversion circuit 104 switches the value of the pixel signal based on the comparison signal supplied from the delay element 214.
- FIG. 6 shows a timing chart similar to FIG. In FIG. 6, the same time is shown in the time corresponding to the timing chart of FIG.
- FIG. 6 also shows three types of VSL voltage transitions of VSL voltage Vs1 to VSL voltage Vs3.
- the VSL voltage Vs1 indicates the transition of the VSL voltage when the sunspot state is not generated.
- the VSL voltage Vs2 indicates the transition of the VSL voltage when the sunspot state is not generated but the charge leakage from the photoelectric conversion element 111 is generated.
- the VSL voltage Vs3 indicates the transition of the VSL voltage when the sunspot state is occurring.
- the processing from time t1 to time t2 is the same as the processing described above with reference to FIG. That is, the FD unit 114 is reset, and the VSL voltage becomes the feedthrough voltage.
- the timing chart of FIG. 7 shows the time series transition of the switch SW1 to the switch SW3 of the signal processing unit 201 and the control signal COMPEN.
- the reset voltage of the pixel signal is Vrst
- the data voltage of the pixel signal is Vdat
- the reference voltage is Vref.
- the voltage between the terminals of the capacitor 221 is referred to as a capacitance voltage.
- the reset voltage Vrst is sampled. Specifically, the switch SW1 and the switch SW2 are turned on, and the switch SW3 is turned off. When the switch SW1 is turned on, the drain and gate of the transistor 223 are short-circuited, and the transistor 223 is diode-connected. As a result, the drain voltage and the gate voltage of the transistor 223 are substantially equal and stabilized at a predetermined voltage.
- the gate voltage at this time is assumed to be Vgs1.
- the output voltage of the sample hold circuit 211 and the drain voltage of the transistor 223 are equal, when the output voltage of the sample hold circuit 211 at this time is Vout1, the output voltage Vout1 is substantially equal to the gate voltage Vgs1.
- a reset voltage Vrst is applied to one end of the capacitor 221 on the switch SW2 side via the switch SW2.
- Vc1 the capacity voltage of the capacitor 221 at this time
- Vc1 Vrst ⁇ Vgs1 (1)
- the switch SW1 is turned off, and at time t12, the switch SW2 is turned off. Even when the switches SW1 and SW2 are turned off, the capacitance voltage of the capacitor 221 is maintained at the voltage Vc1. In this way, the reset voltage Vrst is held as the capacitance voltage Vc1 of the capacitor 221.
- the output voltage Vout2 of the sample hold circuit 211 is equal to the reset voltage Vrst.
- the control signal COMPEN is turned on.
- the comparator 213 performs sunspot determination by comparing the reset voltage Vrst and the reference voltage Vref. Then, when the reset voltage Vrst ⁇ reference voltage Vref, the comparator 213 determines that the sunspot state has not occurred, and outputs a high level comparison signal. On the other hand, when the reset voltage Vrst ⁇ the reference voltage Vref, the comparator 213 determines that a sunspot state has occurred, and outputs a Low level comparison signal.
- the reference voltage Vref is set to a value obtained by adding the voltage Vw to the limit voltage Vmin.
- the limit voltage Vmin is set to the minimum value in the range of the VSL voltage (pixel signal voltage) at which AD conversion can be performed normally.
- the limit voltage Vmin is the highest voltage among the minimum value of the drain voltage at which the constant current source 103 can saturate, the minimum allowable input voltage of the sample hold circuit 211, and the minimum allowable input voltage of the AD conversion circuit 104. Is set.
- the voltage Vw is set to a voltage equal to or greater than the width of the maximum value and the minimum value of the input voltage at which the AD conversion circuit 104 operates normally. That is, the voltage Vw is set to a voltage equal to or higher than the full-scale input voltage of the AD conversion circuit 104.
- the processing from time t4 to time t5 is the same as the processing described above with reference to FIG. That is, when the drive signal TRG is turned on and the transfer gate unit 112 is turned on, the charge accumulated in the photoelectric conversion element 111 is transferred to the FD unit 114 through the transfer gate unit 112. As a result, the potential of the FD unit 114 is lowered by an amount corresponding to the charge transferred from the photoelectric conversion element 111, and the VSL voltage is also lowered.
- the data voltage Vdat is sampled.
- the sample hold circuit 211 samples the data voltage Vdat by the same method as the reset voltage, and supplies the sampled data voltage Vdat to the AD conversion circuit 104.
- the data voltage Vdat may be sampled using a sample hold circuit different from the sample hold circuit 211.
- the AD conversion circuit 104 outputs a pixel signal.
- the delay element 214 supplies the comparison signal to the AD conversion circuit 104 in accordance with the timing at which the AD conversion circuit 104 outputs the pixel signal.
- the AD conversion circuit 104 determines that no sunspot state has occurred, and the AD conversion circuit 104 determines a value based on the difference between the data voltage Vdat and the reset voltage Vrst A digital signal is output as a pixel signal. That is, a pixel signal obtained by AD conversion by normal CDS processing is generated and output. For example, for the VSL voltage Vs1 and VSL voltage Vs2, a digital signal having a value based on the difference between the data voltage Vdat sampled at time t6 and the reset voltage Vrst sampled at time t3 is output as a pixel signal.
- the AD conversion circuit 104 determines that a sunspot state has occurred and outputs a digital signal having a predetermined value as a pixel signal. .
- the AD conversion circuit 104 outputs a digital signal having a value corresponding to the highest luminance level as a pixel signal.
- a digital signal having a predetermined value is output as a pixel signal without using the data voltage Vdat and the reset voltage Vrst.
- the reset voltage Vrst sampled by the sample hold circuit 211 and the output voltage Vout2 have been described as being equal to each other as shown in the above-described equation (2).
- the reset voltage Vrst and the output voltage Vout2 are not equal.
- the second embodiment of the technology according to the present disclosure includes a signal processing unit 251 illustrated in FIG. 8 instead of the signal processing unit 201 illustrated in FIG. Is different.
- FIG. 8 parts corresponding to those in FIG.
- the signal processing unit 251 is different from the signal processing unit 201 in that a kTC cancellation circuit 261 is provided.
- the kTC cancellation circuit 261 includes capacitors 271 to 274 and a switch SW11.
- One end of the capacitor 271 is connected to the gate of the transistor 223, and the other end of the capacitor 271 is connected to one end of the capacitor 272 and one end of the capacitor 273.
- One end of the capacitor 272 different from the one connected to the capacitor 271 is grounded.
- One end of the capacitor 273 different from the one connected to the capacitor 271 is connected to the drain of the transistor 223 via the switch SW11.
- One end of the capacitor 274 is connected to the drain of the transistor 223, and the other end of the capacitor 274 is grounded.
- the processing of the signal processing unit 251 is different from the processing of the signal processing unit 201 in FIG. 5 in the sampling processing of the reset voltage Vrst.
- a sampling process of the reset voltage Vrst by the signal processing unit 251 will be described with reference to a timing chart of FIG.
- FIG. 9 shows a time series transition of the switches SW1 to SW3, the switch SW11, and the control signal COMPEN of the signal processing unit 251. In FIG. 9, the same time is shown in the time corresponding to the timing chart of FIG.
- the switch SW1 and the switch SW2 are turned on, the switch SW3 is turned off, and the reset voltage Vrst is sampled. Then, the output voltage Vout1 of the sample and hold circuit 211 is substantially equal to the gate voltage Vgs1 of the transistor 223, and the capacitance voltage Vc1 of the capacitor 221 has a value represented by the above-described equation (1). During this period, the switch SW11 of the kTC cancellation circuit 261 is turned on.
- the switch SW1 and the switch SW11 are turned off.
- the voltages of the capacitors 271 to 273 of the kTC cancel circuit 261 are determined while the output voltage of the sample hold circuit 211 is the voltage Vout1.
- switch SW11 may be turned off earlier than the switch SW1.
- the gate voltage of the transistor 223 varies due to the influence of kTC noise.
- the gate voltage at this time is Vgs11
- the gate voltage Vgs11 is expressed by the following equation (4).
- Vgs11 Vgs1 + ⁇ Vgs (4)
- the output voltage of the sample hold circuit 211 at this time is Vout11
- the output voltage Vout11 is expressed by the following equations (5) and (6).
- Vout11 Vout1 + ⁇ Vout (5)
- ⁇ Vout ⁇ Vgs (6)
- the output voltage of the sample hold circuit 211 fluctuates by the voltage ⁇ Vout before and after the switch SW1 is turned off. This is because the drain voltage varies as the gate voltage of the transistor 223 varies.
- Equation (6) is a coefficient determined by the transconductance of the transistor 223 and the like.
- the capacitance voltage of the capacitor 221 is held at the voltage Vc1 of the above-described equation (1).
- the variation ⁇ Vgs of the gate voltage of the transistor 223 is canceled by designing the capacitances of the capacitors 271 to 274 so as to satisfy the following expression (7). That is, the charge for the variation ⁇ Vout of the output voltage of the sample hold circuit 211 due to kTC noise is accumulated in the capacitor 274 for a certain period, and then fed back to the sample hold circuit 211, thereby canceling the variation ⁇ Vgs of the gate voltage. . As a result, the gate voltage returns to the voltage Vgs1 before the switch SW1 is turned off.
- the third embodiment of the technology according to the present disclosure includes a signal processing unit 301 illustrated in FIG. 10 instead of the signal processing unit 201 illustrated in FIG. Is different.
- FIG. 10 parts corresponding to those in FIG.
- the signal processing unit 301 is provided with a sample hold circuit 311 and a delay element 312 instead of the sample hold circuit 211 and the delay element 214, and a comparator 213 independent of the sample hold circuit 311 is provided. The difference is that it is not provided.
- the sample hold circuit 311 is different from the sample hold circuit 211 of the signal processing unit 201 in that a switch SW4 is added.
- the switch SW4 is connected to the reference voltage generator 212, and the other end of the switch SW4 is connected to one end of the capacitor 221 on the switch SW2 side.
- the switch SW2 and the switch SW4 constitute a circuit that turns on or off the input of the pixel signal from the vertical signal line 23 and the reference signal from the reference voltage generator 212.
- a circuit for selecting one of the pixel signal and the reference signal as the input signal to the sample hold circuit 311 is configured.
- drain of the transistor 223 is connected to the AD conversion circuit 104 and the delay element 312.
- the delay element 312 is supplied with a control signal Latch Enable from the horizontal drive circuit 14, for example.
- the delay element 312 holds the voltage of the output signal of the sample hold circuit 311 when the control signal Latch Enable is applied, delays a signal indicating the held voltage by a predetermined time, and supplies the delayed signal to the AD conversion circuit 104. .
- the processing from time t1 to time t2 is the same as the processing described above with reference to FIG. That is, the FD unit 114 is reset, and the VSL voltage becomes the feedthrough voltage.
- the timing chart of FIG. 11 shows a time-series transition of the switches SW1 to SW4 of the signal processing unit 301 and the control signal Latch Enable.
- the reset voltage Vrst is sampled. Specifically, the switch SW1 and the switch SW2 are turned on, and the switch SW3 is turned off. When the switch SW1 is turned on, the drain and gate of the transistor 223 are short-circuited, and the transistor 223 is diode-connected. As a result, the drain voltage and the gate voltage of the transistor 223 are substantially equal and stabilized at a predetermined voltage.
- the gate voltage at this time is referred to as Vgs21.
- the output voltage of the sample hold circuit 211 and the drain voltage of the transistor 223 are equal, if the output voltage of the sample hold circuit 211 at this time is Vout21, the output voltage Vout21 is substantially equal to the gate voltage Vgs21.
- a reset voltage Vrst is applied to one end of the capacitor 221 on the switch SW2 side via the switch SW2. If the capacity voltage of the capacitor 221 at this time is Vc21, the capacity voltage Vc21 is expressed by the following equation (9).
- Vc21 Vrst ⁇ Vgs21 (9)
- the switch SW1 is turned off, and at time t32, the switch SW2 is turned off. Even when the switch SW1 and the switch SW2 are turned off, the capacitance voltage of the capacitor 221 is maintained at the voltage Vc21. In this way, the reset voltage Vrst is held as the capacitance voltage Vc21 of the capacitor 221.
- the switch SW4 is turned on.
- the reference signal indicating the reference voltage Vref is input to the sample hold circuit 311 while the reset voltage Vrst is held.
- the reference voltage Vref is applied to one end of the capacitor 221 on the switch SW2 side.
- the gate voltage Vgs22 is a value represented by the following equation (10) because the capacitance voltage of the capacitor 221 is maintained as it is.
- the gate voltage of the transistor 223 varies by the reference voltage Vref ⁇ the reset voltage Vrst.
- the output voltage of the sample and hold circuit 211 at this time is Vout22, when the reset voltage Vrst> the reference voltage Vref, the gate voltage of the transistor 223 decreases, so that the output voltage Vout22 increases.
- the output voltage Vout22 approaches the voltage of the power supply in the image sensor 10 (not shown).
- the output voltage Vout22 varies depending on the magnitude relationship between the reset voltage Vrst and the reference voltage Vref. Therefore, the output signal indicating the output voltage Vout22 can be handled as a comparison signal indicating a comparison result between the reset voltage Vrst and the reference voltage Vref. That is, the comparison signal is greater than a predetermined threshold when the reset voltage Vrst> reference voltage Vref, and is smaller than the predetermined threshold when the reset voltage Vrst ⁇ reference voltage Vref.
- the control signal Latch Enable is applied from the horizontal drive circuit 14 to the delay element 312.
- the voltage (output voltage Vout22) of the comparison signal at this time is held by the delay element 312.
- the switch SW4 is turned off.
- the capacitance voltage of the capacitor 221 is held at the voltage Vc21, and the gate voltage of the transistor 223 is held at the voltage Vgs22.
- the switch SW3 is turned on.
- the drain and source of the transistor 223 are connected via the capacitor 221.
- the gate voltage of the transistor 223 returns from the voltage Vgs22 to the voltage Vgs21 before the switch SW4 is turned on, and is stabilized.
- the capacitance voltage of the capacitor 221 is held at the voltage Vc21. Therefore, when the output voltage of the sample hold circuit 311 at this time is Vout23, the output voltage Vout23 is expressed by the following equation (11).
- the processing from time t4 to time t5 is the same as the processing described above with reference to FIG. That is, when the drive signal TRG is turned on and the transfer gate unit 112 is turned on, the charge accumulated in the photoelectric conversion element 111 is transferred to the FD unit 114 through the transfer gate unit 112. As a result, the potential of the FD unit 114 is lowered by an amount corresponding to the charge transferred from the photoelectric conversion element 111, and the VSL voltage is also lowered.
- the sample hold circuit 311 samples the data voltage Vdat by the same method as the reset voltage, and supplies the sampled data voltage Vdat to the AD conversion circuit 104. However, at this time, unlike the case of sampling the reset voltage Vrst, it is not necessary to turn on the switch SW4 and input the reference signal to the sample hold circuit 311 once.
- the data voltage Vdat may be sampled using a sample hold circuit different from the sample hold circuit 311.
- the AD conversion circuit 104 outputs a pixel signal.
- the delay element 312 supplies the comparison signal (output voltage Vout22) to the AD conversion circuit 104 in accordance with the timing at which the AD conversion circuit 104 outputs the pixel signal.
- the AD conversion circuit 104 determines that the sunspot state has not occurred when the comparison signal is greater than or equal to a predetermined threshold, that is, when the reset voltage Vrst ⁇ reference voltage Vref, and determines the difference between the data voltage Vdat and the reset voltage Vrst.
- a digital signal having a base value is output as a pixel signal. That is, a pixel signal obtained by AD conversion by normal CDS processing is generated and output.
- the AD conversion circuit 104 determines that a sunspot state has occurred, and outputs a digital signal having a predetermined value as a pixel signal. Output as. For example, the AD conversion circuit 104 outputs a digital signal having a value corresponding to the highest luminance level as a pixel signal.
- the signal processing unit 301 can delete the comparator 213 as compared with the signal processing unit 201 of FIG. 5, the circuit scale can be reduced. Moreover, since it is not necessary to consider the offset of the comparator 213, the accuracy of the sunspot determination is improved.
- the fourth embodiment of the technology according to the present disclosure includes a signal processing unit 351 illustrated in FIG. 12 instead of the signal processing unit 301 illustrated in FIG. Is different.
- FIG. 12 parts corresponding to those in FIGS. 8 and 10 are denoted by the same reference numerals.
- the signal processing unit 351 is different from the signal processing unit 301 in that a kTC cancellation circuit 261 similar to the signal processing unit 251 in FIG. 8 is added.
- the connection position of the kTC cancellation circuit 261 is the same as that of the signal processing unit 251.
- FIG. 13 shows a time series transition of the switches SW1 to SW4, the switch SW11, and the control signal Latch ⁇ Enable of the signal processing unit 351. In FIG. 13, the same time is shown in the time corresponding to the timing chart of FIG.
- the timing chart of FIG. 13 is different from the timing chart of FIG. 11 in that the operation of the switch SW11 of the kTC cancellation circuit 261 is added, and the others are the same.
- the configuration example of the pixel 21 in FIG. 3 is an example thereof, and a pixel having an arbitrary configuration can be used in the technology according to the present disclosure.
- sample and hold circuits are one example.
- a plurality of sample and hold circuits are provided for each vertical signal line 23, and one or more of them are provided as the sample and hold circuit 211 or the sample and hold circuit 311 described above. You may make it comprise by.
- the AD conversion circuit 104 is provided for each vertical signal line 23 to perform AD conversion of the pixel signal.
- AD conversion is performed for each block of a predetermined size in the pixel region 11.
- a circuit 104 may be provided. In this case, for example, at least one of the signal processing unit 201, the signal processing unit 251, the signal processing unit 301, or the signal processing unit 351 is provided in each block of the pixel region 11.
- the technology according to the present disclosure can be applied to a case of performing processing for generating a pixel signal based on a difference between a data voltage and a reset voltage, such as DDS (Double Data Sampling) processing.
- DDS Double Data Sampling
- the sunspot determination may be shifted backward as necessary.
- pipeline processing for determining sunspots may be performed during settling of the data voltage of the pixel signal.
- FIG. 14 shows a timing chart of driving signal RST, driving signal TRG, VSL voltage, and sunspot determination when pipeline processing is performed. In FIG. 14, the same time is shown in the time corresponding to the timing chart of FIG.
- the reset voltage of the pixel signal is sampled at time t3, and the reset voltage is held in the sample hold circuit 211 or the sample hold circuit 311. Thereafter, between time t4 and time t5, the drive signal TRG is turned on, and the data voltage of the pixel signal is set.
- sunspot determination may be performed between time t51 and time t52 during settling of the data voltage.
- the processing from time t13 to time t15 in FIG. 7 or FIG. 9 or the processing from time t33 to time t36 in FIG. 11 or FIG. also good. Thereby, the waiting time for sunspot determination can be shortened, and the time required for AD conversion processing can be shortened.
- the sunspot determination is performed in the comparator 213 that is separated from the vertical signal line 23 via the switch SW2 and the switch SW3. Therefore, kickback noise due to the comparison operation of the reset voltage and the reference voltage is difficult to return to the vertical signal line 23, and there is little risk of delaying the stabilization of the data voltage of the pixel signal.
- the reference voltage generated and output by the reference voltage generator 212 may be a fixed value or a variable value.
- the value of the reference voltage of the reference voltage generator 212 may be set in advance using a register or the like.
- the limit voltage Vmin described above may be measured during a production test or the like, and the reference voltage of the reference voltage generator 212 may be set based on the measured value of the limit voltage Vmin.
- the reference voltage generator 212 calculates the reference voltage based on the detection result of the limit voltage Vmin detected at a predetermined timing when the image sensor 10 is activated or in operation. You may make it set.
- Devices for taking images for viewing such as digital cameras and mobile devices with camera functions
- Devices used for traffic such as in-vehicle sensors that capture the back, surroundings, and interiors of vehicles, surveillance cameras that monitor traveling vehicles and roads, and ranging sensors that measure distances between vehicles, etc.
- Equipment used for home appliances such as TVs, refrigerators, air conditioners, etc. to take pictures and operate the equipment according to the gestures
- Equipment used for medical and health care ⁇
- Security equipment such as security surveillance cameras and personal authentication cameras
- Skin measuring instrument for photographing skin and scalp photography Such as a microscope to do beauty Equipment used for sports, such as action cameras and wearable cameras for sports applications, etc.
- Equipment used for agriculture such as cameras for monitoring the condition of fields and crops
- FIG. 16 is a diagram illustrating a configuration example of an electronic device 500 to which the imaging element is applied.
- the electronic device 500 is an electronic device such as an imaging device such as a digital still camera or a video camera, or a mobile terminal device such as a smartphone or a tablet terminal.
- an imaging device such as a digital still camera or a video camera
- a mobile terminal device such as a smartphone or a tablet terminal.
- the electronic apparatus 500 includes a lens 501, an image sensor 502, a DSP circuit 503, a frame memory 504, a display unit 505, a recording unit 506, an operation unit 507, and a power supply unit 508.
- the DSP circuit 503, the frame memory 504, the display unit 505, the recording unit 506, the operation unit 507, and the power supply unit 508 are connected to each other via a bus line 509.
- the DSP circuit 503 is a signal processing circuit that processes a signal supplied from the image sensor 502.
- the DSP circuit 503 outputs image data obtained by processing a signal from the image sensor 502.
- the frame memory 504 temporarily holds the image data processed by the DSP circuit 503 in units of frames.
- the display unit 505 includes, for example, a panel display device such as a liquid crystal panel or an organic EL (Electro Luminescence) panel, and displays a moving image or a still image captured by the image sensor 502.
- the recording unit 506 records image data of a moving image or a still image captured by the image sensor 502 on a recording medium such as a semiconductor memory or a hard disk.
- the operation unit 507 outputs operation commands for various functions of the electronic device 500 in accordance with user operations.
- the power supply unit 508 appropriately supplies various power sources serving as operation power sources for the DSP circuit 503, the frame memory 504, the display unit 505, the recording unit 506, and the operation unit 507 to these supply targets.
- FIG. 17 is a diagram schematically showing an overall configuration of an operating room system 5100 to which the technology according to the present disclosure can be applied.
- the operating room system 5100 is configured by a group of devices installed in the operating room being connected to each other via an audiovisual controller (AV Controller) 5107 and an operating room control device 5109 so as to cooperate with each other.
- AV Controller audiovisual controller
- FIG. 17 As an example, various apparatus groups 5101 for endoscopic surgery, a ceiling camera 5187 provided on the ceiling of the operating room and imaging the operator's hand, and an operating room provided on the operating room ceiling.
- An operating field camera 5189 that images the entire situation, a plurality of display devices 5103A to 5103D, a recorder 5105, a patient bed 5183, and an illumination 5191 are illustrated.
- the device group 5101 belongs to an endoscopic surgery system 5113 described later, and includes an endoscope, a display device that displays an image captured by the endoscope, and the like.
- Each device belonging to the endoscopic surgery system 5113 is also referred to as a medical device.
- the display devices 5103A to 5103D, the recorder 5105, the patient bed 5183, and the illumination 5191 are devices provided in an operating room, for example, separately from the endoscopic surgery system 5113.
- These devices that do not belong to the endoscopic surgery system 5113 are also referred to as non-medical devices.
- the audiovisual controller 5107 and / or the operating room control device 5109 controls the operations of these medical devices and non-medical devices in cooperation with each other.
- the audiovisual controller 5107 comprehensively controls processing related to image display in medical devices and non-medical devices.
- the device group 5101, the ceiling camera 5187, and the surgical field camera 5189 have a function of transmitting information to be displayed during surgery (hereinafter also referred to as display information). It may be a device (hereinafter also referred to as a source device).
- Display devices 5103A to 5103D can be devices that output display information (hereinafter also referred to as output destination devices).
- the recorder 5105 may be a device that corresponds to both a transmission source device and an output destination device.
- the audiovisual controller 5107 controls the operation of the transmission source device and the output destination device, acquires display information from the transmission source device, and transmits the display information to the output destination device for display or recording.
- the display information includes various images captured during the operation, various types of information related to the operation (for example, patient physical information, past examination results, information on a surgical procedure, and the like).
- the audiovisual controller 5107 can transmit information about the image of the surgical site in the patient's body cavity captured by the endoscope from the device group 5101 as display information.
- information about the image at hand of the surgeon captured by the ceiling camera 5187 can be transmitted from the ceiling camera 5187 as display information.
- information about an image showing the entire operating room imaged by the operating field camera 5189 can be transmitted from the operating field camera 5189 as display information.
- the audiovisual controller 5107 acquires information about an image captured by the other device from the other device as display information. May be.
- information about these images captured in the past is recorded by the audiovisual controller 5107 in the recorder 5105.
- the audiovisual controller 5107 can acquire information about the image captured in the past from the recorder 5105 as display information.
- the recorder 5105 may also record various types of information related to surgery in advance.
- the audiovisual controller 5107 displays the acquired display information (that is, images taken during the operation and various information related to the operation) on at least one of the display devices 5103A to 5103D that are output destination devices.
- the display device 5103A is a display device that is suspended from the ceiling of the operating room
- the display device 5103B is a display device that is installed on the wall surface of the operating room
- the display device 5103C is installed in the operating room.
- the display device 5103D is a mobile device (for example, a tablet PC (Personal Computer)) having a display function.
- the operating room system 5100 may include a device outside the operating room.
- the device outside the operating room can be, for example, a server connected to a network constructed inside or outside the hospital, a PC used by medical staff, a projector installed in a conference room of the hospital, or the like.
- the audio-visual controller 5107 can display the display information on a display device of another hospital via a video conference system or the like for telemedicine.
- the operating room control device 5109 comprehensively controls processing other than processing related to image display in non-medical devices.
- the operating room control device 5109 controls the driving of the patient bed 5183, the ceiling camera 5187, the operating field camera 5189, and the illumination 5191.
- the operating room system 5100 is provided with a centralized operation panel 5111, and the user gives an instruction for image display to the audiovisual controller 5107 via the centralized operation panel 5111, or the operating room control apparatus 5109. An instruction about the operation of the non-medical device can be given.
- the central operation panel 5111 is configured by providing a touch panel on the display surface of the display device.
- FIG. 18 is a diagram showing a display example of an operation screen on the centralized operation panel 5111.
- an operation screen corresponding to a case where the operating room system 5100 is provided with two display devices as output destination devices is illustrated.
- the operation screen 5193 is provided with a transmission source selection area 5195, a preview area 5197, and a control area 5201.
- a transmission source device provided in the operating room system 5100 and a thumbnail screen representing display information of the transmission source device are displayed in association with each other. The user can select display information to be displayed on the display device from any of the transmission source devices displayed in the transmission source selection area 5195.
- the preview area 5197 displays a preview of the screen displayed on the two display devices (Monitor 1 and Monitor 2) that are output destination devices.
- four images are displayed as PinP on one display device.
- the four images correspond to display information transmitted from the transmission source device selected in the transmission source selection area 5195. Of the four images, one is displayed as a relatively large main image, and the remaining three are displayed as a relatively small sub image. The user can switch the main image and the sub image by appropriately selecting an area in which four images are displayed.
- a status display area 5199 is provided below the area where the four images are displayed, and the status relating to the surgery (for example, the elapsed time of the surgery, the patient's physical information, etc.) is appropriately displayed in the area. obtain.
- a transmission source operation area 5203 for displaying a GUI (Graphical User Interface) component for operating the transmission source device, and a GUI component for performing an operation on the output destination device And an output destination operation area 5205 in which is displayed.
- the transmission source operation area 5203 is provided with GUI parts for performing various operations (panning, tilting, and zooming) on the camera in the transmission source device having an imaging function. The user can operate the operation of the camera in the transmission source device by appropriately selecting these GUI components.
- the transmission source device selected in the transmission source selection area 5195 is a recorder (that is, in the preview area 5197, images recorded in the past are displayed on the recorder).
- a GUI component for performing operations such as playback, stop playback, rewind, and fast forward of the image can be provided in the transmission source operation area 5203.
- GUI parts for performing various operations are provided. Is provided. The user can operate the display on the display device by appropriately selecting these GUI components.
- the operation screen displayed on the centralized operation panel 5111 is not limited to the example shown in the figure, and the user can use the audiovisual controller 5107 and the operating room control device 5109 provided in the operating room system 5100 via the centralized operation panel 5111. Operation input for each device that can be controlled may be possible.
- FIG. 19 is a diagram showing an example of a state of surgery to which the operating room system described above is applied.
- the ceiling camera 5187 and the operating field camera 5189 are provided on the ceiling of the operating room, and can photograph the state of the operator (doctor) 5181 who performs treatment on the affected part of the patient 5185 on the patient bed 5183 and the entire operating room. It is.
- the ceiling camera 5187 and the surgical field camera 5189 may be provided with a magnification adjustment function, a focal length adjustment function, a photographing direction adjustment function, and the like.
- the illumination 5191 is provided on the ceiling of the operating room and irradiates at least the hand of the operator 5181.
- the illumination 5191 may be capable of appropriately adjusting the irradiation light amount, the wavelength (color) of the irradiation light, the light irradiation direction, and the like.
- Endoscopic surgery system 5113, patient bed 5183, ceiling camera 5187, operating field camera 5189 and illumination 5191 are connected via audiovisual controller 5107 and operating room controller 5109 (not shown in FIG. 19) as shown in FIG. Are connected to each other.
- a centralized operation panel 5111 is provided in the operating room. As described above, the user can appropriately operate these devices existing in the operating room via the centralized operating panel 5111.
- an endoscopic surgery system 5113 includes an endoscope 5115, other surgical tools 5131, a support arm device 5141 that supports the endoscope 5115, and various devices for endoscopic surgery. And a cart 5151 on which is mounted.
- trocars 5139a to 5139d are punctured into the abdominal wall. Then, the lens barrel 5117 of the endoscope 5115 and other surgical tools 5131 are inserted into the body cavity of the patient 5185 from the trocars 5139a to 5139d.
- an insufflation tube 5133, an energy treatment tool 5135, and forceps 5137 are inserted into the body cavity of the patient 5185.
- the energy treatment instrument 5135 is a treatment instrument that performs incision and detachment of a tissue, sealing of a blood vessel, and the like by high-frequency current and ultrasonic vibration.
- the illustrated surgical tool 5131 is merely an example, and as the surgical tool 5131, for example, various surgical tools generally used in endoscopic surgery such as a lever and a retractor may be used.
- An image of the surgical site in the body cavity of the patient 5185 taken by the endoscope 5115 is displayed on the display device 5155.
- the surgeon 5181 performs a treatment such as excision of the affected part using the energy treatment tool 5135 and the forceps 5137 while viewing the image of the surgical part displayed on the display device 5155 in real time.
- the pneumoperitoneum tube 5133, the energy treatment tool 5135, and the forceps 5137 are supported by an operator 5181 or an assistant during surgery.
- the support arm device 5141 includes an arm portion 5145 extending from the base portion 5143.
- the arm portion 5145 includes joint portions 5147a, 5147b, and 5147c, and links 5149a and 5149b, and is driven by control from the arm control device 5159.
- the endoscope 5115 is supported by the arm unit 5145, and its position and posture are controlled. Thereby, the stable position fixing of the endoscope 5115 can be realized.
- the endoscope 5115 includes a lens barrel 5117 in which a region having a predetermined length from the distal end is inserted into the body cavity of the patient 5185, and a camera head 5119 connected to the proximal end of the lens barrel 5117.
- an endoscope 5115 configured as a so-called rigid mirror having a rigid lens barrel 5117 is illustrated, but the endoscope 5115 is configured as a so-called flexible mirror having a flexible lens barrel 5117. Also good.
- An opening into which an objective lens is fitted is provided at the tip of the lens barrel 5117.
- a light source device 5157 is connected to the endoscope 5115, and the light generated by the light source device 5157 is guided to the tip of the lens barrel by a light guide extending inside the lens barrel 5117, and the objective Irradiation is performed toward the observation target in the body cavity of the patient 5185 through the lens.
- the endoscope 5115 may be a direct endoscope, a perspective mirror, or a side endoscope.
- An optical system and an image sensor are provided inside the camera head 5119, and reflected light (observation light) from the observation target is condensed on the image sensor by the optical system. Observation light is photoelectrically converted by the imaging element, and an electrical signal corresponding to the observation light, that is, an image signal corresponding to the observation image is generated.
- the image signal is transmitted to a camera control unit (CCU) 5153 as RAW data.
- CCU camera control unit
- the camera head 5119 has a function of adjusting the magnification and the focal length by appropriately driving the optical system.
- a plurality of image sensors may be provided in the camera head 5119 in order to cope with, for example, stereoscopic viewing (3D display).
- a plurality of relay optical systems are provided inside the lens barrel 5117 in order to guide observation light to each of the plurality of imaging elements.
- the CCU 5153 includes a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), and the like, and comprehensively controls the operations of the endoscope 5115 and the display device 5155. Specifically, the CCU 5153 performs various image processing for displaying an image based on the image signal, such as development processing (demosaic processing), for example, on the image signal received from the camera head 5119. The CCU 5153 provides the display device 5155 with the image signal subjected to the image processing. Also, the audiovisual controller 5107 shown in FIG. 17 is connected to the CCU 5153. The CCU 5153 also provides an image signal subjected to image processing to the audiovisual controller 5107.
- a CPU Central Processing Unit
- GPU Graphics Processing Unit
- the CCU 5153 transmits a control signal to the camera head 5119 to control the driving thereof.
- the control signal can include information regarding imaging conditions such as magnification and focal length. Information regarding the imaging conditions may be input via the input device 5161 or may be input via the above-described centralized operation panel 5111.
- the display device 5155 displays an image based on an image signal subjected to image processing by the CCU 5153 under the control of the CCU 5153.
- the endoscope 5115 is compatible with high-resolution imaging such as 4K (horizontal pixel number 3840 ⁇ vertical pixel number 2160) or 8K (horizontal pixel number 7680 ⁇ vertical pixel number 4320), and / or 3D display.
- high-resolution imaging such as 4K (horizontal pixel number 3840 ⁇ vertical pixel number 2160) or 8K (horizontal pixel number 7680 ⁇ vertical pixel number 4320), and / or 3D display.
- a display device 5155 capable of high-resolution display and / or 3D display can be used.
- 4K or 8K high resolution imaging a more immersive feeling can be obtained by using a display device 5155 having a size of 55 inches or more.
- a plurality of display devices 5155 having different resolutions and sizes may be provided depending on applications.
- the light source device 5157 is composed of a light source such as an LED (light-emitting diode), for example, and supplies irradiation light to the endoscope 5115 when photographing the surgical site.
- a light source such as an LED (light-emitting diode)
- the arm control device 5159 is configured by a processor such as a CPU, for example, and operates according to a predetermined program to control driving of the arm portion 5145 of the support arm device 5141 according to a predetermined control method.
- the input device 5161 is an input interface to the endoscopic surgery system 5113.
- a user can input various information and instructions to the endoscopic surgery system 5113 via the input device 5161.
- the user inputs various types of information related to the operation, such as the patient's physical information and information about the surgical technique, via the input device 5161.
- the user instructs to drive the arm unit 5145 via the input device 5161 or an instruction to change the imaging conditions (type of irradiation light, magnification, focal length, etc.) by the endoscope 5115.
- An instruction to drive the energy treatment instrument 5135 is input.
- the type of the input device 5161 is not limited, and the input device 5161 may be various known input devices.
- the input device 5161 for example, a mouse, a keyboard, a touch panel, a switch, a foot switch 5171 and / or a lever can be applied.
- the touch panel may be provided on the display surface of the display device 5155.
- the input device 5161 is a device worn by a user, such as a glasses-type wearable device or an HMD (Head-Mounted Display), and various inputs according to the user's gesture and line of sight detected by these devices. Is done.
- the input device 5161 includes a camera capable of detecting a user's movement, and various inputs are performed according to a user's gesture and line of sight detected from an image captured by the camera.
- the input device 5161 includes a microphone that can pick up the voice of the user, and various inputs are performed by voice through the microphone.
- the input device 5161 is configured to be able to input various types of information without contact, so that a user belonging to the clean area (for example, an operator 5181) operates a device belonging to the unclean area without contact. Is possible.
- a user belonging to the clean area for example, an operator 5181
- the user can operate the device without releasing his / her hand from the surgical tool he / she has, the convenience for the user is improved.
- the treatment instrument control device 5163 controls driving of the energy treatment instrument 5135 for tissue cauterization, incision, blood vessel sealing, or the like.
- the pneumoperitoneum device 5165 passes gas into the body cavity via the pneumothorax tube 5133.
- the recorder 5167 is an apparatus capable of recording various types of information related to surgery.
- the printer 5169 is a device that can print various types of information related to surgery in various formats such as text, images, or graphs.
- the support arm device 5141 includes a base portion 5143 which is a base, and an arm portion 5145 extending from the base portion 5143.
- the arm portion 5145 includes a plurality of joint portions 5147a, 5147b, and 5147c and a plurality of links 5149a and 5149b connected by the joint portion 5147b.
- FIG. The structure of the arm part 5145 is shown in a simplified manner. Actually, the shape, number and arrangement of the joint portions 5147a to 5147c and the links 5149a and 5149b, the direction of the rotation axis of the joint portions 5147a to 5147c, and the like are appropriately set so that the arm portion 5145 has a desired degree of freedom. obtain.
- the arm portion 5145 can be preferably configured to have six or more degrees of freedom. Accordingly, the endoscope 5115 can be freely moved within the movable range of the arm unit 5145, and therefore the lens barrel 5117 of the endoscope 5115 can be inserted into the body cavity of the patient 5185 from a desired direction. It becomes possible.
- the joint portions 5147a to 5147c are provided with actuators, and the joint portions 5147a to 5147c are configured to be rotatable around a predetermined rotation axis by driving the actuators.
- the drive of the actuator is controlled by the arm control device 5159
- the rotation angles of the joint portions 5147a to 5147c are controlled, and the drive of the arm portion 5145 is controlled.
- control of the position and posture of the endoscope 5115 can be realized.
- the arm control device 5159 can control the driving of the arm unit 5145 by various known control methods such as force control or position control.
- the arm controller 5159 appropriately controls the driving of the arm unit 5145 according to the operation input.
- the position and posture of the endoscope 5115 may be controlled. With this control, the endoscope 5115 at the distal end of the arm portion 5145 can be moved from an arbitrary position to an arbitrary position and then fixedly supported at the position after the movement.
- the arm unit 5145 may be operated by a so-called master slave method. In this case, the arm unit 5145 can be remotely operated by the user via the input device 5161 installed at a location away from the operating room.
- the arm control device 5159 When force control is applied, the arm control device 5159 receives the external force from the user and moves the actuators of the joint portions 5147a to 5147c so that the arm portion 5145 moves smoothly according to the external force. You may perform what is called power assist control to drive. Accordingly, when the user moves the arm unit 5145 while directly touching the arm unit 5145, the arm unit 5145 can be moved with a relatively light force. Therefore, the endoscope 5115 can be moved more intuitively and with a simpler operation, and the convenience for the user can be improved.
- an endoscope 5115 is supported by a doctor called a scopist.
- the position of the endoscope 5115 can be more reliably fixed without relying on human hands, so that an image of the surgical site can be stably obtained. It becomes possible to perform the operation smoothly.
- the arm control device 5159 is not necessarily provided in the cart 5151. Further, the arm control device 5159 does not necessarily have to be one device. For example, the arm control device 5159 may be provided in each of the joint portions 5147a to 5147c of the arm portion 5145 of the support arm device 5141, and the plurality of arm control devices 5159 cooperate to drive the arm portion 5145. Control may be realized.
- the light source device 5157 supplies irradiation light for imaging the surgical site to the endoscope 5115.
- the light source device 5157 is constituted by a white light source constituted by, for example, an LED, a laser light source, or a combination thereof.
- a white light source is configured by a combination of RGB laser light sources
- the output intensity and output timing of each color (each wavelength) can be controlled with high accuracy. Adjustments can be made.
- the laser light from each of the RGB laser light sources is irradiated onto the observation target in a time-sharing manner, and the driving of the image sensor of the camera head 5119 is controlled in synchronization with the irradiation timing, thereby corresponding to each RGB. It is also possible to take the images that have been taken in time division. According to this method, a color image can be obtained without providing a color filter in the image sensor.
- the driving of the light source device 5157 may be controlled so as to change the intensity of the output light every predetermined time. Synchronously with the timing of changing the intensity of the light, the driving of the image sensor of the camera head 5119 is controlled to acquire an image in a time-sharing manner, and the image is synthesized, so that high dynamic without so-called blackout and overexposure is obtained. A range image can be generated.
- the light source device 5157 may be configured to be able to supply light of a predetermined wavelength band corresponding to special light observation.
- special light observation for example, by utilizing the wavelength dependence of light absorption in body tissue, the surface of the mucous membrane is irradiated by irradiating light in a narrow band compared to irradiation light (ie, white light) during normal observation.
- a so-called narrow-band light observation (Narrow Band Imaging) is performed in which a predetermined tissue such as a blood vessel is imaged with high contrast.
- fluorescence observation may be performed in which an image is obtained by fluorescence generated by irradiating excitation light.
- the body tissue is irradiated with excitation light to observe fluorescence from the body tissue (autofluorescence observation), or a reagent such as indocyanine green (ICG) is locally administered to the body tissue and applied to the body tissue.
- a reagent such as indocyanine green (ICG) is locally administered to the body tissue and applied to the body tissue.
- ICG indocyanine green
- the light source device 5157 can be configured to be able to supply narrowband light and / or excitation light corresponding to such special light observation.
- FIG. 20 is a block diagram illustrating an example of functional configurations of the camera head 5119 and the CCU 5153 illustrated in FIG.
- the camera head 5119 has a lens unit 5121, an imaging unit 5123, a drive unit 5125, a communication unit 5127, and a camera head control unit 5129 as its functions.
- the CCU 5153 includes a communication unit 5173, an image processing unit 5175, and a control unit 5177 as its functions.
- the camera head 5119 and the CCU 5153 are connected to each other via a transmission cable 5179 so that they can communicate with each other.
- the lens unit 5121 is an optical system provided at a connection portion with the lens barrel 5117. Observation light taken from the tip of the lens barrel 5117 is guided to the camera head 5119 and enters the lens unit 5121.
- the lens unit 5121 is configured by combining a plurality of lenses including a zoom lens and a focus lens. The optical characteristics of the lens unit 5121 are adjusted so that the observation light is condensed on the light receiving surface of the image sensor of the imaging unit 5123. Further, the zoom lens and the focus lens are configured such that their positions on the optical axis are movable in order to adjust the magnification and focus of the captured image.
- the imaging unit 5123 is configured by an imaging element, and is arranged at the rear stage of the lens unit 5121.
- the observation light that has passed through the lens unit 5121 is collected on the light receiving surface of the imaging element, and an image signal corresponding to the observation image is generated by photoelectric conversion.
- the image signal generated by the imaging unit 5123 is provided to the communication unit 5127.
- an image pickup element constituting the image pickup unit 5123 for example, a CMOS (Complementary Metal Metal Oxide Semiconductor) type image sensor, which has a Bayer array and can perform color photographing, is used.
- the imaging element for example, an element capable of capturing a high-resolution image of 4K or more may be used.
- the image sensor that constitutes the image capturing unit 5123 is configured to have a pair of image sensors for acquiring right-eye and left-eye image signals corresponding to 3D display. By performing the 3D display, the operator 5181 can more accurately grasp the depth of the living tissue in the surgical site. Note that in the case where the imaging unit 5123 is configured as a multi-plate type, a plurality of lens units 5121 are also provided corresponding to each imaging element.
- the imaging unit 5123 is not necessarily provided in the camera head 5119.
- the imaging unit 5123 may be provided inside the lens barrel 5117 immediately after the objective lens.
- the driving unit 5125 includes an actuator, and moves the zoom lens and the focus lens of the lens unit 5121 by a predetermined distance along the optical axis under the control of the camera head control unit 5129. Thereby, the magnification and focus of the image captured by the imaging unit 5123 can be adjusted as appropriate.
- the communication unit 5127 includes a communication device for transmitting and receiving various types of information to and from the CCU 5153.
- the communication unit 5127 transmits the image signal obtained from the imaging unit 5123 to the CCU 5153 via the transmission cable 5179 as RAW data.
- the image signal is preferably transmitted by optical communication.
- the surgeon 5181 performs the surgery while observing the state of the affected part with the captured image, so that a moving image of the surgical part is displayed in real time as much as possible for safer and more reliable surgery. Because it is required.
- the communication unit 5127 is provided with a photoelectric conversion module that converts an electrical signal into an optical signal.
- the image signal is converted into an optical signal by the photoelectric conversion module, and then transmitted to the CCU 5153 via the transmission cable 5179.
- the communication unit 5127 receives a control signal for controlling the driving of the camera head 5119 from the CCU 5153.
- the control signal includes, for example, information for designating the frame rate of the captured image, information for designating the exposure value at the time of imaging, and / or information for designating the magnification and focus of the captured image. Contains information about the condition.
- the communication unit 5127 provides the received control signal to the camera head control unit 5129.
- the control signal from the CCU 5153 may also be transmitted by optical communication.
- the communication unit 5127 is provided with a photoelectric conversion module that converts an optical signal into an electrical signal.
- the control signal is converted into an electrical signal by the photoelectric conversion module and then provided to the camera head control unit 5129.
- the imaging conditions such as the frame rate, exposure value, magnification, and focus are automatically set by the control unit 5177 of the CCU 5153 based on the acquired image signal. That is, a so-called AE (Auto-Exposure) function, AF (Auto-Focus) function, and AWB (Auto-White Balance) function are mounted on the endoscope 5115.
- AE Auto-Exposure
- AF Auto-Focus
- AWB Auto-White Balance
- the camera head control unit 5129 controls driving of the camera head 5119 based on a control signal from the CCU 5153 received via the communication unit 5127. For example, the camera head control unit 5129 controls driving of the image sensor of the imaging unit 5123 based on information indicating that the frame rate of the captured image is specified and / or information indicating that the exposure at the time of imaging is specified. For example, the camera head control unit 5129 appropriately moves the zoom lens and the focus lens of the lens unit 5121 via the drive unit 5125 based on information indicating that the magnification and focus of the captured image are designated.
- the camera head control unit 5129 may further have a function of storing information for identifying the lens barrel 5117 and the camera head 5119.
- the camera head 5119 can be resistant to autoclave sterilization by arranging the lens unit 5121, the imaging unit 5123, and the like in a sealed structure with high airtightness and waterproofness.
- the communication unit 5173 is configured by a communication device for transmitting and receiving various types of information to and from the camera head 5119.
- the communication unit 5173 receives an image signal transmitted from the camera head 5119 via the transmission cable 5179.
- the image signal can be suitably transmitted by optical communication.
- the communication unit 5173 is provided with a photoelectric conversion module that converts an optical signal into an electric signal.
- the communication unit 5173 provides the image processing unit 5175 with the image signal converted into the electrical signal.
- the communication unit 5173 transmits a control signal for controlling the driving of the camera head 5119 to the camera head 5119.
- the control signal may also be transmitted by optical communication.
- the image processing unit 5175 performs various types of image processing on the image signal that is RAW data transmitted from the camera head 5119.
- image processing for example, development processing, high image quality processing (band enhancement processing, super-resolution processing, NR (Noise reduction) processing and / or camera shake correction processing, etc.), and / or enlargement processing (electronic zoom processing)
- image processing unit 5175 performs detection processing on the image signal for performing AE, AF, and AWB.
- the image processing unit 5175 is configured by a processor such as a CPU or a GPU, and the above-described image processing and detection processing can be performed by the processor operating according to a predetermined program. Note that when the image processing unit 5175 includes a plurality of GPUs, the image processing unit 5175 appropriately divides information related to the image signal, and performs image processing in parallel with the plurality of GPUs.
- the control unit 5177 performs various controls relating to imaging of the surgical site by the endoscope 5115 and display of the captured image. For example, the control unit 5177 generates a control signal for controlling driving of the camera head 5119. At this time, when the imaging condition is input by the user, the control unit 5177 generates a control signal based on the input by the user. Alternatively, when the endoscope 5115 is equipped with the AE function, the AF function, and the AWB function, the control unit 5177 determines the optimum exposure value, focal length, and the distance according to the detection processing result by the image processing unit 5175. A white balance is appropriately calculated and a control signal is generated.
- control unit 5177 causes the display device 5155 to display an image of the surgical site based on the image signal subjected to image processing by the image processing unit 5175.
- the control unit 5177 recognizes various objects in the surgical unit image using various image recognition techniques. For example, the control unit 5177 detects the shape and color of the edge of the object included in the surgical part image, thereby removing surgical tools such as forceps, specific biological parts, bleeding, mist when using the energy treatment tool 5135, and the like. Can be recognized.
- the control unit 5177 causes various types of surgery support information to be superimposed and displayed on the image of the surgical site using the recognition result. Surgery support information is displayed in a superimposed manner and presented to the operator 5181, so that the surgery can be performed more safely and reliably.
- the transmission cable 5179 connecting the camera head 5119 and the CCU 5153 is an electric signal cable corresponding to electric signal communication, an optical fiber corresponding to optical communication, or a composite cable thereof.
- communication is performed by wire using the transmission cable 5179, but communication between the camera head 5119 and the CCU 5153 may be performed wirelessly.
- communication between the two is performed wirelessly, there is no need to install the transmission cable 5179 in the operating room, so that the situation where the movement of the medical staff in the operating room is hindered by the transmission cable 5179 can be solved.
- the operating room system 5100 to which the technology according to the present disclosure can be applied has been described.
- the medical system to which the operating room system 5100 is applied is the endoscopic operating system 5113 is described here as an example
- the configuration of the operating room system 5100 is not limited to such an example.
- the operating room system 5100 may be applied to an examination flexible endoscope system or a microscope operation system instead of the endoscope operation system 5113.
- the technique according to the present disclosure can be suitably applied to the imaging unit 5123 of the ceiling camera 5187, the surgical field camera 5189, and the endoscope 5115 among the configurations described above. More specifically, for example, the technique according to the present disclosure can be suitably applied to the imaging device of the imaging unit 5123 of the ceiling camera 5187, the surgical field camera 5189, and the endoscope 5115.
- the technology according to the present disclosure a high-quality image in which the occurrence of the sunspot phenomenon is suppressed can be obtained. For example, the diagnostic accuracy in telemedicine can be improved, or surgery can be performed more smoothly Is possible.
- the technology according to the present disclosure may be any kind of automobile, electric vehicle, hybrid electric vehicle, motorcycle, bicycle, personal mobility, airplane, drone, ship, robot, construction machine, agricultural machine (tractor), and the like. It may be realized as a device mounted on the moving body.
- FIG. 21 is a block diagram illustrating a schematic configuration example of a vehicle control system 7000 that is an example of a mobile control system to which the technology according to the present disclosure can be applied.
- the vehicle control system 7000 includes a plurality of electronic control units connected via a communication network 7010.
- the vehicle control system 7000 includes a drive system control unit 7100, a body system control unit 7200, a battery control unit 7300, a vehicle exterior information detection unit 7400, a vehicle interior information detection unit 7500, and an integrated control unit 7600. .
- a communication network 7010 for connecting the plurality of control units is compliant with an arbitrary standard such as CAN (Controller Area Network), LIN (Local Interconnect Network), LAN (Local Area Network), or FlexRay (registered trademark). It may be an in-vehicle communication network.
- CAN Controller Area Network
- LIN Local Interconnect Network
- LAN Local Area Network
- FlexRay registered trademark
- Each control unit includes a microcomputer that performs arithmetic processing according to various programs, a storage unit that stores programs executed by the microcomputer or parameters used for various calculations, and a drive circuit that drives various devices to be controlled. Is provided.
- Each control unit includes a network I / F for communicating with other control units via a communication network 7010, and is connected to devices or sensors inside and outside the vehicle by wired communication or wireless communication. A communication I / F for performing communication is provided. In FIG.
- a microcomputer 7610 As a functional configuration of the integrated control unit 7600, a microcomputer 7610, a general-purpose communication I / F 7620, a dedicated communication I / F 7630, a positioning unit 7640, a beacon receiving unit 7650, an in-vehicle device I / F 7660, an audio image output unit 7670, An in-vehicle network I / F 7680 and a storage unit 7690 are illustrated.
- other control units include a microcomputer, a communication I / F, a storage unit, and the like.
- the drive system control unit 7100 controls the operation of the device related to the drive system of the vehicle according to various programs.
- the drive system control unit 7100 includes a driving force generator for generating a driving force of a vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism that adjusts and a braking device that generates a braking force of the vehicle.
- the drive system control unit 7100 may have a function as a control device such as ABS (Antilock Brake System) or ESC (Electronic Stability Control).
- a vehicle state detection unit 7110 is connected to the drive system control unit 7100.
- the vehicle state detection unit 7110 includes, for example, a gyro sensor that detects the angular velocity of the rotational movement of the vehicle body, an acceleration sensor that detects the acceleration of the vehicle, an operation amount of an accelerator pedal, an operation amount of a brake pedal, and steering of a steering wheel. At least one of sensors for detecting an angle, an engine speed, a rotational speed of a wheel, or the like is included.
- the drive system control unit 7100 performs arithmetic processing using a signal input from the vehicle state detection unit 7110, and controls an internal combustion engine, a drive motor, an electric power steering device, a brake device, or the like.
- the body system control unit 7200 controls the operation of various devices mounted on the vehicle body according to various programs.
- the body system control unit 7200 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as a headlamp, a back lamp, a brake lamp, a blinker, or a fog lamp.
- the body control unit 7200 can be input with radio waves or various switch signals transmitted from a portable device that substitutes for a key.
- the body system control unit 7200 receives input of these radio waves or signals, and controls a door lock device, a power window device, a lamp, and the like of the vehicle.
- the battery control unit 7300 controls the secondary battery 7310 that is a power supply source of the drive motor according to various programs. For example, information such as battery temperature, battery output voltage, or remaining battery capacity is input to the battery control unit 7300 from a battery device including the secondary battery 7310. The battery control unit 7300 performs arithmetic processing using these signals, and controls the temperature adjustment of the secondary battery 7310 or the cooling device provided in the battery device.
- the outside information detection unit 7400 detects information outside the vehicle on which the vehicle control system 7000 is mounted.
- the outside information detection unit 7400 is connected to at least one of the imaging unit 7410 and the outside information detection unit 7420.
- the imaging unit 7410 includes at least one of a ToF (Time Of Flight) camera, a stereo camera, a monocular camera, an infrared camera, and other cameras.
- the outside information detection unit 7420 detects, for example, current weather or an environmental sensor for detecting weather, or other vehicles, obstacles, pedestrians, etc. around the vehicle equipped with the vehicle control system 7000. At least one of the surrounding information detection sensors.
- the environmental sensor may be, for example, at least one of a raindrop sensor that detects rainy weather, a fog sensor that detects fog, a sunshine sensor that detects sunlight intensity, and a snow sensor that detects snowfall.
- the ambient information detection sensor may be at least one of an ultrasonic sensor, a radar device, and a LIDAR (Light Detection and Ranging, Laser Imaging Detection and Ranging) device.
- the imaging unit 7410 and the outside information detection unit 7420 may be provided as independent sensors or devices, or may be provided as a device in which a plurality of sensors or devices are integrated.
- FIG. 22 shows an example of installation positions of the imaging unit 7410 and the vehicle outside information detection unit 7420.
- the imaging units 7910, 7912, 7914, 7916, and 7918 are provided at, for example, at least one of the front nose, the side mirror, the rear bumper, the back door, and the upper part of the windshield in the vehicle interior of the vehicle 7900.
- An imaging unit 7910 provided in the front nose and an imaging unit 7918 provided in the upper part of the windshield in the vehicle interior mainly acquire an image in front of the vehicle 7900.
- Imaging units 7912 and 7914 provided in the side mirror mainly acquire an image of the side of the vehicle 7900.
- An imaging unit 7916 provided in the rear bumper or the back door mainly acquires an image behind the vehicle 7900.
- the imaging unit 7918 provided on the upper part of the windshield in the passenger compartment is mainly used for detecting a preceding vehicle or a pedestrian, an obstacle, a traffic light, a traffic sign, a lane, or
- FIG. 22 shows an example of shooting ranges of the respective imaging units 7910, 7912, 7914, and 7916.
- the imaging range a indicates the imaging range of the imaging unit 7910 provided in the front nose
- the imaging ranges b and c indicate the imaging ranges of the imaging units 7912 and 7914 provided in the side mirrors, respectively
- the imaging range d The imaging range of the imaging part 7916 provided in the rear bumper or the back door is shown. For example, by superimposing the image data captured by the imaging units 7910, 7912, 7914, and 7916, an overhead image when the vehicle 7900 is viewed from above is obtained.
- the vehicle outside information detection units 7920, 7922, 7924, 7926, 7928, and 7930 provided on the front, rear, sides, corners of the vehicle 7900 and the upper part of the windshield in the vehicle interior may be, for example, an ultrasonic sensor or a radar device.
- the vehicle outside information detection units 7920, 7926, and 7930 provided on the front nose, the rear bumper, the back door, and the windshield in the vehicle interior of the vehicle 7900 may be, for example, LIDAR devices.
- These outside information detection units 7920 to 7930 are mainly used for detecting a preceding vehicle, a pedestrian, an obstacle, and the like.
- the vehicle exterior information detection unit 7400 causes the imaging unit 7410 to capture an image outside the vehicle and receives the captured image data. Further, the vehicle exterior information detection unit 7400 receives detection information from the vehicle exterior information detection unit 7420 connected thereto. When the vehicle exterior information detection unit 7420 is an ultrasonic sensor, a radar device, or a LIDAR device, the vehicle exterior information detection unit 7400 transmits ultrasonic waves, electromagnetic waves, or the like, and receives received reflected wave information.
- the outside information detection unit 7400 may perform an object detection process or a distance detection process such as a person, a car, an obstacle, a sign, or a character on a road surface based on the received information.
- the vehicle exterior information detection unit 7400 may perform environment recognition processing for recognizing rainfall, fog, road surface conditions, or the like based on the received information.
- the vehicle outside information detection unit 7400 may calculate a distance to an object outside the vehicle based on the received information.
- the outside information detection unit 7400 may perform image recognition processing or distance detection processing for recognizing a person, a car, an obstacle, a sign, a character on a road surface, or the like based on the received image data.
- the vehicle exterior information detection unit 7400 performs processing such as distortion correction or alignment on the received image data, and combines the image data captured by the different imaging units 7410 to generate an overhead image or a panoramic image. Also good.
- the vehicle exterior information detection unit 7400 may perform viewpoint conversion processing using image data captured by different imaging units 7410.
- the vehicle interior information detection unit 7500 detects vehicle interior information.
- a driver state detection unit 7510 that detects the driver's state is connected to the in-vehicle information detection unit 7500.
- Driver state detection unit 7510 may include a camera that captures an image of the driver, a biosensor that detects biometric information of the driver, a microphone that collects sound in the passenger compartment, and the like.
- the biometric sensor is provided, for example, on a seat surface or a steering wheel, and detects biometric information of an occupant sitting on the seat or a driver holding the steering wheel.
- the vehicle interior information detection unit 7500 may calculate the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 7510, and determines whether the driver is asleep. May be.
- the vehicle interior information detection unit 7500 may perform a process such as a noise canceling process on the collected audio signal.
- the integrated control unit 7600 controls the overall operation in the vehicle control system 7000 according to various programs.
- An input unit 7800 is connected to the integrated control unit 7600.
- the input unit 7800 is realized by a device that can be input by a passenger, such as a touch panel, a button, a microphone, a switch, or a lever.
- the integrated control unit 7600 may be input with data obtained by recognizing voice input through a microphone.
- the input unit 7800 may be, for example, a remote control device using infrared rays or other radio waves, or may be an external connection device such as a mobile phone or a PDA (Personal Digital Assistant) that supports the operation of the vehicle control system 7000. May be.
- the input unit 7800 may be, for example, a camera.
- the passenger can input information using a gesture.
- data obtained by detecting the movement of the wearable device worn by the passenger may be input.
- the input unit 7800 may include, for example, an input control circuit that generates an input signal based on information input by a passenger or the like using the input unit 7800 and outputs the input signal to the integrated control unit 7600.
- a passenger or the like operates the input unit 7800 to input various data or instruct a processing operation to the vehicle control system 7000.
- the storage unit 7690 may include a ROM (Read Only Memory) that stores various programs executed by the microcomputer and a RAM (Random Access Memory) that stores various parameters, calculation results, sensor values, and the like.
- the storage unit 7690 may be realized by a magnetic storage device such as an HDD (HardHDisc Drive), a semiconductor storage device, an optical storage device, a magneto-optical storage device, or the like.
- General-purpose communication I / F 7620 is a general-purpose communication I / F that mediates communication with various devices existing in the external environment 7750.
- the general-purpose communication I / F 7620 is a cellular communication protocol such as GSM (registered trademark) (Global System of Mobile communications), WiMAX, Long Term Term Evolution (LTE) or LTE-A (LTE-Advanced), or a wireless LAN (Wi-Fi). (Also referred to as (registered trademark)) and other wireless communication protocols such as Bluetooth (registered trademark) may be implemented.
- GSM Global System of Mobile communications
- WiMAX Wireless LAN
- LTE Long Term Term Evolution
- LTE-A Long Term Term Evolution-A
- Wi-Fi wireless LAN
- Bluetooth registered trademark
- the general-purpose communication I / F 7620 is connected to a device (for example, an application server or a control server) existing on an external network (for example, the Internet, a cloud network, or an operator-specific network) via, for example, a base station or an access point. May be.
- a device for example, an application server or a control server
- an external network for example, the Internet, a cloud network, or an operator-specific network
- the general-purpose communication I / F 7620 uses, for example, a P2P (Peer) To ⁇ Peer) technology
- a terminal for example, a driver, a pedestrian or a store terminal, or an MTC (Machine Type Communication) terminal
- You may connect with.
- the dedicated communication I / F 7630 is a communication I / F that supports a communication protocol formulated for use in vehicles.
- the dedicated communication I / F 7630 is, for example, a standard protocol such as WAVE (Wireless Access In Vehicle Environment) (WAVE), DSRC (Dedicated Short Range Communication), or a cellular communication protocol, which is a combination of IEEE 802.11p in the lower layer and IEEE 1609 in the upper layer. May be implemented.
- the dedicated communication I / F 7630 typically includes vehicle-to-vehicle communication, vehicle-to-infrastructure communication, vehicle-to-home communication, and vehicle-to-pedestrian (Vehicle to Pedestrian). ) Perform V2X communication, which is a concept that includes one or more of the communications.
- the positioning unit 7640 receives, for example, a GNSS signal from a GNSS (Global Navigation Satellite System) satellite (for example, a GPS signal from a Global Positioning System (GPS) satellite), performs positioning, and performs latitude, longitude, and altitude of the vehicle.
- the position information including is generated.
- the positioning unit 7640 may specify the current position by exchanging signals with the wireless access point, or may acquire position information from a terminal such as a mobile phone, PHS, or smartphone having a positioning function.
- the beacon receiving unit 7650 receives, for example, radio waves or electromagnetic waves transmitted from a radio station installed on the road, and acquires information such as the current position, traffic jam, closed road, or required time. Note that the function of the beacon receiving unit 7650 may be included in the dedicated communication I / F 7630 described above.
- the in-vehicle device I / F 7660 is a communication interface that mediates the connection between the microcomputer 7610 and various in-vehicle devices 7760 present in the vehicle.
- the in-vehicle device I / F 7660 may establish a wireless connection using a wireless communication protocol such as a wireless LAN, Bluetooth (registered trademark), NFC (Near Field Communication), or WUSB (Wireless USB).
- the in-vehicle device I / F 7660 is connected to a USB (Universal Serial Bus), HDMI (registered trademark) (High-Definition Multimedia Interface), or MHL (Mobile) via a connection terminal (and a cable if necessary).
- Wired connection such as High-definition (Link) may be established.
- the in-vehicle device 7760 may include, for example, at least one of a mobile device or a wearable device that a passenger has, or an information device that is carried into or attached to the vehicle.
- In-vehicle device 7760 may include a navigation device that searches for a route to an arbitrary destination.
- In-vehicle device I / F 7660 exchanges control signals or data signals with these in-vehicle devices 7760.
- the in-vehicle network I / F 7680 is an interface that mediates communication between the microcomputer 7610 and the communication network 7010.
- the in-vehicle network I / F 7680 transmits and receives signals and the like in accordance with a predetermined protocol supported by the communication network 7010.
- the microcomputer 7610 of the integrated control unit 7600 is connected via at least one of a general-purpose communication I / F 7620, a dedicated communication I / F 7630, a positioning unit 7640, a beacon receiving unit 7650, an in-vehicle device I / F 7660, and an in-vehicle network I / F 7680.
- the vehicle control system 7000 is controlled according to various programs based on the acquired information. For example, the microcomputer 7610 calculates a control target value of the driving force generation device, the steering mechanism, or the braking device based on the acquired information inside and outside the vehicle, and outputs a control command to the drive system control unit 7100. Also good.
- the microcomputer 7610 realizes ADAS (Advanced Driver Assistance System) functions including vehicle collision avoidance or impact mitigation, tracking based on inter-vehicle distance, vehicle speed maintenance, vehicle collision warning, or vehicle lane departure warning. You may perform the cooperative control for the purpose. Further, the microcomputer 7610 controls the driving force generator, the steering mechanism, the braking device, or the like based on the acquired information on the surroundings of the vehicle, so that the microcomputer 7610 automatically travels independently of the driver's operation. You may perform the cooperative control for the purpose of driving.
- ADAS Advanced Driver Assistance System
- the microcomputer 7610 is information acquired via at least one of the general-purpose communication I / F 7620, the dedicated communication I / F 7630, the positioning unit 7640, the beacon receiving unit 7650, the in-vehicle device I / F 7660, and the in-vehicle network I / F 7680.
- the three-dimensional distance information between the vehicle and the surrounding structure or an object such as a person may be generated based on the above and local map information including the peripheral information of the current position of the vehicle may be created.
- the microcomputer 7610 may generate a warning signal by predicting a danger such as a collision of a vehicle, approach of a pedestrian or the like or an approach to a closed road based on the acquired information.
- the warning signal may be, for example, a signal for generating a warning sound or lighting a warning lamp.
- the audio image output unit 7670 transmits an output signal of at least one of audio and image to an output device capable of visually or audibly notifying information to a vehicle occupant or the outside of the vehicle.
- an audio speaker 7710, a display unit 7720, and an instrument panel 7730 are illustrated as output devices.
- Display unit 7720 may include at least one of an on-board display and a head-up display, for example.
- the display portion 7720 may have an AR (Augmented Reality) display function.
- the output device may be other devices such as headphones, wearable devices such as glasses-type displays worn by passengers, projectors, and lamps.
- the display device can display the results obtained by various processes performed by the microcomputer 7610 or information received from other control units in various formats such as text, images, tables, and graphs. Display visually. Further, when the output device is an audio output device, the audio output device converts an audio signal made up of reproduced audio data or acoustic data into an analog signal and outputs it aurally.
- At least two control units connected via the communication network 7010 may be integrated as one control unit.
- each control unit may be configured by a plurality of control units.
- the vehicle control system 7000 may include another control unit not shown.
- some or all of the functions of any of the control units may be given to other control units. That is, as long as information is transmitted and received via the communication network 7010, the predetermined arithmetic processing may be performed by any one of the control units.
- a sensor or device connected to one of the control units may be connected to another control unit, and a plurality of control units may transmit / receive detection information to / from each other via the communication network 7010. .
- the technology according to the present disclosure can be suitably applied to the imaging unit 7410 and the imaging units 7910, 7912, 7914, 7916, and 7918 of the vehicle control system 7000 described above. More specifically, for example, the technology according to the present disclosure can be suitably applied to the imaging elements of the imaging unit 7410 and the imaging units 7910, 7912, 7914, 7916, and 7918.
- a high-quality image in which the occurrence of the sunspot phenomenon is suppressed can be obtained. For example, the detection accuracy of a preceding vehicle, a pedestrian, an obstacle, a traffic light, a traffic sign, a lane, etc. It becomes possible to improve.
- a sample-and-hold unit that samples and holds a reset voltage that is a voltage at a reset level of the pixel signal;
- An AD conversion unit that performs AD (Analog Digital) conversion of the pixel signal, The AD conversion unit, based on a result of comparing the reset voltage held by the sample hold unit and a predetermined reference voltage, a first output signal obtained by AD converting the pixel signal, and a predetermined level
- An image sensor that selects and outputs one of the second output signals.
- the sample and hold unit outputs a comparison signal indicating a result of comparing the held reset voltage and the reference voltage,
- the imaging device according to (1), wherein the AD conversion unit selects and outputs one of the first output signal and the second output signal based on the comparison signal.
- the sample hold unit includes a circuit that turns on or off the input of the reference signal indicating the reference voltage and the pixel signal, and turns on and holds the input of the reference signal while holding the reset voltage.
- the imaging device according to (2) wherein an output signal whose voltage varies depending on a magnitude relationship between the reset voltage and the reference voltage is output as the comparison signal.
- the image sensor according to (3) wherein the sample hold unit outputs the reset voltage after turning off the input of the reference signal after outputting the comparison signal.
- the sample and hold unit turns on the input of the reference signal and outputs the comparison signal while the reset voltage is being held during settling of a data voltage that is a data level voltage of the pixel signal.
- the imaging device according to any one of (2) to (5), further including a delay unit that delays the comparison signal for a predetermined time and supplies the comparison signal to the AD conversion unit.
- a comparison unit that outputs a comparison signal indicating a result of comparing the reset voltage and the reference voltage output from the sample and hold unit;
- the imaging device according to (1), wherein the AD conversion unit selects and outputs one of the first output signal and the second output signal based on the comparison signal.
- the imaging device further including a delay unit that delays the comparison signal by a predetermined time and supplies the comparison signal to the AD conversion unit.
- the sample and hold unit During settling of a data voltage that is a data level voltage of the pixel signal, the sample and hold unit outputs the held reset voltage, and the comparison unit outputs the reset voltage output from the sample and hold unit. And the reference voltage, and outputs the comparison signal.
- the imaging device according to (7) or (8).
- the imaging device according to any one of (1) to (9), further including a kTC cancellation unit that reduces kTC noise of the sample hold unit.
- the kTC cancellation unit accumulates electric charges corresponding to a variation in the output voltage of the sample hold unit due to the kTC noise, and reduces the kTC noise by feeding back to the sample hold unit. Image sensor.
- the reference voltage is a maximum voltage of an input voltage at which the AD conversion unit operates normally to a limit voltage that is a minimum value of a voltage range in which the vertical signal line for transferring the pixel signal can be normally AD converted.
- the imaging device according to any one of (1) to (11), wherein the imaging element is set to a voltage obtained by adding a voltage equal to or greater than a width of a value and a minimum value.
- the imaging device further including a reference voltage generation unit that generates and outputs the reference voltage.
- the imaging device 15) The imaging device according to (13), wherein the reference voltage generation unit generates and outputs the reference voltage at a preset level.
- the first output signal is a signal based on a difference between the reset voltage output from the sample hold unit and a data voltage that is a data level voltage of the pixel signal.
- the imaging device according to any one of the above.
- the imaging device according to any one of (1) to (16), wherein the second output signal is a signal having the highest luminance level.
- a plurality of sample and hold units are connected to each vertical signal line for transferring the pixel signal, and one or more of the plurality of sample and hold units sample and hold the reset voltage.
- the imaging device according to any one of (1) to (18), wherein a second substrate on which the sample hold unit is provided is laminated.
- An AD conversion unit that performs AD (Analog Digital) conversion of the pixel signal, The AD conversion unit, based on a result of comparing the reset voltage held by the sample hold unit and a predetermined reference voltage, a first output signal obtained by AD converting the pixel signal, and a predetermined level
- An electronic device that selects and outputs one of the second output signals.
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Power Engineering (AREA)
- Electromagnetism (AREA)
- Condensed Matter Physics & Semiconductors (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Solid State Image Pick-Up Elements (AREA)
Abstract
本開示は、簡易な構成により太陽黒点現象の発生を抑制することができるようにする撮像素子及び電子機器に関する。 撮像素子は、画素信号のリセットレベルの電圧であるリセット電圧のサンプリング及びホールドを行うサンプルホールド部と、前記画素信号のAD(Analog Digital)変換を行うAD変換部とを備え、前記AD変換部は、前記サンプルホールド部によりホールドされた前記リセット電圧と所定の参照電圧とを比較した結果に基づいて、前記画素信号をAD変換した第1の出力信号、及び、所定のレベルの第2の出力信号のうち一方を選択して出力する。本開示に係る技術は、例えば、CMOSイメージセンサに適用できる。
Description
本開示に係る技術は、撮像素子及び電子機器に関し、特に、太陽黒点現象の発生を抑制するようにした撮像素子及び電子機器に関する。
従来、CMOSイメージセンサ等の撮像素子の太陽黒点現象の発生を抑制する技術が検討されている。太陽黒点現象とは、非常に強い光が入射した画素において、リセット動作時に光電変換素子から電荷が漏れることにより輝度が低下し、黒く沈んでしまう現象であり、黒化現象、黒沈み、又は、黒潰れとも呼ばれる。
なお、以下、強い光が入射した画素において、リセット動作時に光電変換素子から電荷が漏れ太陽黒点現象が発生する可能性のある状態のことを太陽黒点状態と称する。
例えば、特許文献1に記載の技術では、画素信号のフィードスルー部の電圧を所定の基準電位と比較した結果に基づいて太陽黒点状態の発生の有無が検出される。一方、太陽黒点状態の発生の有無の検出に要する時間だけ画素信号を遅延させて、太陽黒点状態の発生していない画素においては、画素信号のフィードスルー部の電圧がサンプリングされ、太陽黒点状態の発生している画素においては、リセットゲートがオンしているときの画素信号のリセット段差部の電圧がサンプリングされる。そして、サンプリングされた電圧に遮光領域の画素信号の平均値を加算した電圧が、画素信号のリセットレベルの電圧として用いられる。これにより、太陽黒点状態が発生した画素のリセットレベルの電圧の低下が防止され、太陽黒点現象の発生が抑制される。
しかしながら、特許文献1に記載の技術では、太陽黒点状態の検出回路、画像信号の遅延回路、リセットレベルの電圧を生成するための回路等が必要になり、回路規模が増大する。
そこで、本開示に係る技術は、簡易な構成により太陽黒点現象の発生を抑制できるようにするものである。
本開示に係る技術の第1の側面の撮像素子は、画素信号のリセットレベルの電圧であるリセット電圧のサンプリング及びホールドを行うサンプルホールド部と、前記画素信号のAD(Analog Digital)変換を行うAD変換部とを備え、前記AD変換部は、前記サンプルホールド部によりホールドされた前記リセット電圧と所定の参照電圧とを比較した結果に基づいて、前記画素信号をAD変換した第1の出力信号、及び、所定のレベルの第2の出力信号のうち一方を選択して出力する。
前記サンプルホールド部には、ホールドした前記リセット電圧と前記参照電圧とを比較した結果を示す比較信号を出力させ、前記AD変換部には、前記比較信号に基づいて、前記第1の出力信号及び前記第2の出力信号のうち一方を選択して出力させることができる。
前記サンプルホールド部には、前記参照電圧を示す参照信号及び前記画素信号の入力をオン又はオフする回路を設け、前記リセット電圧をホールドしている状態で前記参照信号の入力をオンさせ、ホールドしている前記リセット電圧と前記参照電圧の大小関係により電圧が変動する出力信号を前記比較信号として出力させることができる。
前記サンプルホールド部には、前記比較信号の出力後に前記参照信号の入力をオフした後、前記リセット電圧を出力させることができる。
前記サンプルホールド部には、前記画素信号のデータレベルの電圧であるデータ電圧のセトリング中に、前記リセット電圧をホールドしている状態で前記参照信号の入力をオンさせ、前記比較信号を出力させることができる。
前記比較信号を所定の時間遅延して前記AD変換部に供給する遅延部をさらに設けることができる。
前記サンプルホールド部から出力される前記リセット電圧と前記参照電圧とを比較した結果を示す比較信号を出力する比較部をさらに設け、前記AD変換部には、前記比較信号に基づいて、前記第1の出力信号及び前記第2の出力信号のうち一方を選択して出力させることができる。
前記比較信号を所定の時間遅延して前記AD変換部に供給する遅延部をさらに設けることができる。
前記画素信号のデータレベルの電圧であるデータ電圧のセトリング中に、前記サンプルホールド部には、ホールドしている前記リセット電圧を出力させ、前記比較部には、前記サンプルホールド部から出力された前記リセット電圧と前記参照電圧とを比較し、前記比較信号を出力させることができる。
前記サンプルホールド部のkTCノイズを低減するkTCキャンセル部をさらに設けることができる。
前記kTCキャンセル部には、前記kTCノイズによる前記サンプルホールド部の出力電圧の変動分に対応する電荷を蓄積させ、前記サンプルホールド部にフィードバックすることにより前記kTCノイズを低減させることができる。
前記参照電圧は、前記画素信号を転送する垂直信号線の正常にAD変換を行うことが可能な電圧の範囲の最小値である限界電圧に、前記AD変換部が正常に動作する入力電圧の最大値と最小値の幅以上の電圧を加えた電圧に設定することができる。
前記参照電圧を生成し出力する参照電圧生成部をさらに設けることができる。
前記参照電圧生成部には、前記限界電圧の検出結果に基づいて、前記参照電圧を設定させることができる。
前記参照電圧生成部には、予め設定されたレベルの前記参照電圧を生成し出力させることができる。
前記第1の出力信号は、前記サンプルホールド部から出力される前記リセット電圧と、前記画素信号のデータレベルの電圧であるデータ電圧との差分に基づく信号とすることができる。
前記第2の出力信号は、最も輝度が高いレベルの信号とすることができる。
前記画素信号を転送する各垂直信号線にそれぞれ複数のサンプルホールド部を接続し、前記複数のサンプルホールド部のうち1つ以上が前記リセット電圧のサンプリング及びホールドを行わせることができる。
前記画素信号を出力する画素が設けられている第1の基板と、前記サンプルホールド部が設けられている第2の基板とを積層することができる。
本開示に係る技術の第2の側面の電子機器は、撮像素子と、前記撮像素子から出力される信号を処理する信号処理部とを備え、前記撮像素子は、画素信号のリセットレベルの電圧であるリセット電圧のサンプリング及びホールドを行うサンプルホールド部と、前記画素信号のAD(Analog Digital)変換を行うAD変換部とを備え、前記AD変換部は、前記サンプルホールド部によりホールドされた前記リセット電圧と所定の参照電圧とを比較した結果に基づいて、前記画素信号をAD変換した第1の出力信号、及び、所定のレベルの第2の出力信号のうち一方を選択して出力する。
本開示に係る技術の第1の側面又は第2の側面においては、画素信号のリセットレベルの電圧であるリセット電圧のサンプリング及びホールドが行われ、ホールドされた前記リセット電圧と所定の参照電圧とを比較した結果に基づいて、前記画素信号をAD変換した第1の出力信号、及び、所定のレベルの第2の出力信号のうち一方が選択して出力される。
本開示に係る技術の第1の側面又は第2の側面によれば、太陽黒点現象の発生を抑制することができる。また、本開示に係る技術の第1の側面又は第2の側面によれば、簡易な構成により太陽黒点現象の発生を抑制することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
以下、発明を実施するための形態(以下、「実施形態」と記述する)について図面を用いて詳細に説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(サンプルホールド回路の外でリセット電圧と参照電圧とを比較する例)
2.第2の実施の形態(第1の実施の形態にkTCキャンセル回路を設けた例)
3.第3の実施の形態(サンプルホールド回路内でリセット電圧と参照電圧とを比較する例)
4.第4の実施の形態(第3の実施の形態にkTCキャンセル回路を設けた例)
5.変形例
6.応用例
1.第1の実施の形態(サンプルホールド回路の外でリセット電圧と参照電圧とを比較する例)
2.第2の実施の形態(第1の実施の形態にkTCキャンセル回路を設けた例)
3.第3の実施の形態(サンプルホールド回路内でリセット電圧と参照電圧とを比較する例)
4.第4の実施の形態(第3の実施の形態にkTCキャンセル回路を設けた例)
5.変形例
6.応用例
<<1.第1の実施の形態>>
まず、図1乃至図6を参照して、本開示に係る技術の第1の実施の形態について説明する。
まず、図1乃至図6を参照して、本開示に係る技術の第1の実施の形態について説明する。
<1-1.撮像素子の構成例>
図1は、本開示に係る技術を適用した撮像素子10の構成例を示すブロック図である。
図1は、本開示に係る技術を適用した撮像素子10の構成例を示すブロック図である。
撮像素子10は、画素領域11、垂直駆動回路12、カラム信号処理回路13、水平駆動回路14、出力回路15、及び、制御回路16を備える。
画素領域11は、図示しない光学系により集光される光を受光する受光面である。画素領域11には、複数の画素21が行列状に配置されており、それぞれの画素21は、水平信号線22を介して行ごとに垂直駆動回路12に接続されるとともに、垂直信号線23を介して列ごとにカラム信号処理回路13に接続される。複数の画素21は、それぞれ受光する光の量に応じたレベルの画素信号をそれぞれ出力し、それらの画素信号から、画素領域11に結像する被写体の画像が構築される。
垂直駆動回路12は、画素領域11に配置される複数の画素21の行ごとに順次、それぞれの画素21を駆動(転送や、選択、リセットなど)するための駆動信号を、水平信号線22を介して画素21に供給する。例えば、垂直駆動回路12は、画素領域11の各画素21の露光時間、読出し走査等の制御を行う。また、例えば、垂直駆動回路12は、後述するように、画素領域11の各画素21の画素信号の読出し走査を複数並行に行うとともに、各読出し走査の読出し行を移動するタイミングを、他の読出し走査の読出し行の位置に基づいて制御する。
カラム信号処理回路13は、複数の画素21から垂直信号線23を介して出力される画素信号に対してCDS(Correlated Double Sampling:相関2重サンプリング)処理を施すことにより、画素信号のAD変換を行うとともにリセットノイズを除去する。例えば、カラム信号処理回路13は、画素21の列数に応じた複数のカラム処理部(不図示)を備え、画素21の列ごとに並列にCDS処理を行うことができる。
水平駆動回路14は、画素領域11に配置される複数の画素21の列ごとに順次、カラム信号処理回路13から画素信号を出力信号線24に出力させるための駆動信号を、カラム信号処理回路13に供給する。
出力回路15は、水平駆動回路14の駆動信号に従ったタイミングでカラム信号処理回路13から出力信号線24を介して供給される画素信号を増幅し、後段の信号処理回路に出力する。
制御回路16は、撮像素子10内の各部の駆動を制御する。例えば、制御回路16は、各部の駆動周期に従ったクロック信号を生成して、各部に供給する。
次に、図2を参照して、図1の撮像素子10の基板構成について説明する。なお、図中、図1と対応する部分には同じ符号を付している。
図2のAは、撮像素子10Aの第1の基板構成を示している。図2のAの撮像素子10では、1つの半導体基板51内に、画素領域11、制御領域61、及び、信号処理するためのロジック回路62が設けられている。制御領域61には、例えば、図1の垂直駆動回路12、カラム信号処理回路13、水平駆動回路14、出力回路15、及び、制御回路16が設けられている。
図2のB及び図2のCは、撮像素子10の第2及び第3の基板構成を示している。図2のBの撮像素子10B及び図2のCの撮像素子10Cは、画素領域11とロジック回路62が異なる半導体基板に形成され、積層された構造となっている。
撮像素子10Bでは、第1の半導体基板52に、画素領域11と制御領域61が設けられ、第2の半導体基板53に、信号処理するための信号処理回路を含むロジック回路62が設けられている。第1の半導体基板52と第2の半導体基板53は電気的に接続されている。
撮像素子10Cでは、第1の半導体基板52に、画素領域11が設けられ、第2の半導体基板53に、制御領域61と信号処理回路を含むロジック回路62が設けられている。第1の半導体基板52と第2の半導体基板53は電気的に接続されている。
撮像素子10B及び撮像素子10Cのように、画素領域11が形成された第1の半導体基板52と、ロジック回路62が形成された第2の半導体基板53を、半導体プロセス技術を用いて別々に形成してから貼り合わせて電気的に接続する固体撮像装置の製造方法については、本出願人による特開2010-245506号公報、特開2011-96851号公報などに開示されている。このように別々に形成してから貼り合わせることにより、高画質化、量産性、低コストに貢献することができる。
<1-2.画素の構成例>
図3は、撮像素子10の画素領域11に配置される画素21の構成例を示す回路図である。
図3は、撮像素子10の画素領域11に配置される画素21の構成例を示す回路図である。
画素21は、光電変換素子111、転送ゲート部112、リセットゲート部113、FD(フローティングディフュージョン)部114、増幅トランジスタ115、及び、選択トランジスタ116を備える。
また、画素21に対して、図1の水平信号線22として、複数の信号線が、例えば画素行毎に配線される。そして、図1の垂直駆動回路12から複数の信号線を介して、駆動信号TRG、RST、SEL、OFGが供給される。これらの駆動信号は、画素21の各トランジスタがNMOSトランジスタなので、高レベル(例えば、電源電圧Vdd)の状態がアクティブ状態となり、低レベルの状態(例えば、グラウンドレベル)が非アクティブ状態となる信号である。
なお、図3では、複数の信号線のうち転送ゲート制御線101及びリセットゲート制御線102が図示されている。転送ゲート制御線101は駆動信号TRGの伝送に用いられ、リセットゲート制御線102は駆動信号RSTの伝送に用いられる。
なお、以下、駆動信号がアクティブ状態になることを、駆動信号がオンするとも称し、駆動信号が非アクティブ状態になることを、駆動信号がオフするとも称する。
光電変換素子111は、例えば、PN接合のフォトダイオードからなる。光電変換素子111は、受光した光量に応じた電荷を生成し、蓄積する。
転送ゲート部112は、光電変換素子111とFD部114との間に接続されている。転送ゲート部112のゲート電極には、転送ゲート制御線101を介して駆動信号TRGが印加される。駆動信号TRGがオンすると、転送ゲート部112が導通状態になり、光電変換素子111に蓄積されている電荷が、転送ゲート部112を介してFD部114に転送される。
リセットゲート部113は、電源VddとFD部114との間に接続されている。リセットゲート部113のゲート電極には、リセットゲート制御線102を介して駆動信号RSTが印加される。駆動信号RSTがオンすると、リセットゲート部113が導通状態になり、FD部114の電位が、電源電圧Vddのレベルにリセットされる。
FD部114は、電荷を電圧信号に電荷電圧変換して出力する。
増幅トランジスタ115は、ゲート電極がFD部114に接続され、ドレイン電極が電源Vddに接続されており、FD部114に保持されている電荷を読み出す読出し回路、所謂ソースフォロワ回路の入力部となる。すなわち、増幅トランジスタ115は、ソース電極が選択トランジスタ116を介して垂直信号線23に接続されることにより、当該垂直信号線23の一端に接続される定電流源103とソースフォロワ回路を構成する。
選択トランジスタ116は、増幅トランジスタ115のソース電極と垂直信号線23との間に接続されている。選択トランジスタ116のゲート電極には、駆動信号SELが印加される。駆動信号SELがオンすると、選択トランジスタ116が導通状態になり、画素21が選択状態となる。これにより、増幅トランジスタ115から出力される画素信号が、選択トランジスタ116を介して、垂直信号線23に出力される。
垂直信号線23には、画素信号をAD変換するAD変換回路104が接続されている。なお、後述するように、垂直信号線23とAD変換回路104との間には、サンプルホールド回路等が接続される。
なお、以下、各ゲート部又は各トランジスタが導通状態になることを、各ゲート部又は各トランジスタがオンするともいい、各ゲート部又は各トランジスタが非導通状態になることを、各ゲート部又は各トランジスタがオフするともいう。
<1-3.太陽黒点現象>
次に、図4のタイミングチャートを参照して、太陽黒点現象について説明する。
次に、図4のタイミングチャートを参照して、太陽黒点現象について説明する。
図4のタイミングチャートは、ある画素21の画素信号のサンプリングを行う場合の駆動信号RST、駆動信号TRG、及び、垂直信号線23の電圧であるVSL電圧の時系列の遷移を示している。
なお、図4のタイミングチャートでは図示されていないが、当該画素21に対する駆動信号SELがオンし、選択トランジスタ116がオンすることにより、当該画素21が選択状態になっているものとする。
時刻t1において、駆動信号RSTがオンし、リセットゲート部113がオンする。これにより、FD部114の電位が電源電圧Vddにリセットされる。これに伴い、VSL電圧が上昇し、電源電圧Vddに対応する電圧となる。
次に、時刻t2において、駆動信号RSTがオフし、リセットゲート部113がオフする。これにより、FD部114の電位がフィードスルーレベルまで低下する。これに伴い、VSL電圧はフィードスルーレベルに対応する電圧(以下、フィードスルー電圧と称する)まで低下する。
その後、太陽黒点状態が発生していない通常の状態では、VSL電圧がほぼフィードスルー電圧と等しい電圧に保たれる。
一方、画素21に非常に強い光が入射すると、光電変換素子111から電荷が溢れ、太陽黒点状態が発生する。すなわち、転送ゲート部112がオフしているにも関わらず、光電変換素子111から溢れた電荷がFD部114に流入し、FD部114の電位が低下する。これに伴い、VSL電圧が低下する。
次に、時刻t3において、画素信号のリセットレベルの電圧(以下、リセット電圧と称する)がサンプリングされる。このとき、太陽黒点状態においては、通常の状態と比較して、リセット電圧が大幅に低下する。
次に、時刻t4から時刻t5までの期間において、駆動信号TRGがオンし、転送ゲート部112がオンする。これにより、光電変換素子111に蓄積されている電荷が、転送ゲート部112を介してFD部114に転送される。
このとき、通常状態においては、光電変換素子111から転送された電荷に相当する分だけFD部114の電位が低下し、これに伴い、VSL電圧も低下する。
一方、太陽黒点状態においては、時刻t4の時点で、すでにFD部114の電位が通常より低下している。そして、さらに光電変換素子111からFD部114に電荷が転送されることにより、FD部114の電位がさらに低下する。従って、VSL電圧も通常よりさらに低下する。
次に、時刻t6において、画素信号のデータレベルの電圧(以下、データ電圧と称する)がサンプリングされる。このとき、太陽黒点状態が発生している場合、VSL電圧が通常のデータ電圧と比較して非常に低くなる。従って、定電流源103のドレイン-ソース間電圧が、飽和領域動作に必要な電圧より低くなる。そのため、本来のデータ電圧を取得することができなくなる。
その結果、例えば、CDS処理によりリセット電圧とデータ電圧との差分に基づく画素信号を生成した場合に、太陽黒点状態が発生した画素において、本来高輝度(例えば、白レベル)の画素信号とならなければいけないにも関わらず、低輝度(例えば、黒レベル)の画素信号となってしまう。
以上のようにして、太陽黒点現象が発生する。
<1-4.信号処理部の構成例>
図5は、図1の撮像素子10のカラム信号処理回路13に設けられる信号処理部201の回路の構成例を示している。信号処理部201は、例えば、各垂直信号線23に対して1つずつ設けられる。
図5は、図1の撮像素子10のカラム信号処理回路13に設けられる信号処理部201の回路の構成例を示している。信号処理部201は、例えば、各垂直信号線23に対して1つずつ設けられる。
信号処理部201は、AD変換回路104、サンプルホールド回路211、参照電圧生成器212、比較器213、及び、遅延素子214を備える。
サンプルホールド回路211は、コンデンサ221、定電流源222、NMOSトランジスタからなるトランジスタ223、及び、スイッチSW1乃至SW3を備える。
コンデンサ221の一端は、スイッチSW2を介して垂直信号線23に接続され、コンデンサ221の他の一端は、トランジスタ223のゲートに接続されている。トランジスタ223のドレインは定電流源222、AD変換回路104、及び、比較器213の入力端子に接続され、ソースは接地されている。スイッチSW1は、トランジスタ223のドレイン-ゲート間に接続されている。スイッチSW3は、トランジスタ223のドレインと、コンデンサ221のスイッチSW2側の一端との間に接続されている。
参照電圧生成器212は、所定の参照電圧を生成し、生成した参照電圧を示す参照信号を比較器213の入力端子に供給する。なお、参照電圧生成器212は、複数の信号処理部201で共有される。すなわち、1つの参照電圧生成器212から複数の画素行の信号処理部213の比較器213に参照信号が供給される。これにより、省面積化が実現される。なお、各信号処理部201にそれぞれ個別に参照電圧生成器212を実装するようにしてもよい。
比較器213は、サンプルホールド回路211の出力電圧と参照電圧生成器212から供給される参照電圧とを比較することにより、太陽黒点現象の発生の有無を判定する太陽黒点判定を行う。具体的には、比較器213には、例えば水平駆動回路14から制御信号COMPENが供給される。そして、比較器213は、制御信号COMPENがオンしたときのサンプルホールド回路211の出力電圧と参照電圧とを比較し、比較した結果を示す比較信号を遅延素子214に供給する。
なお、以下、出力電圧が参照電圧以上の場合、比較信号がHighレベルに設定され、出力電圧が参照電圧未満の場合、比較信号がLowレベルに設定されるものとする。
遅延素子214は、比較器213から供給される比較信号を所定の時間だけ遅延させてAD変換回路104に供給する。
AD変換回路104は、サンプルホールド回路211からの出力信号に基づいて、画素信号のAD変換を行い、得られたデジタルの画素信号を出力する。なお、後述するように、AD変換回路104は、遅延素子214から供給される比較信号に基づいて、画素信号の値を切り替える。
<1-5.画素信号のサンプリング処理>
次に、図6のタイミングチャートを参照して、撮像素子10の画素信号のサンプリング処理について説明する。
次に、図6のタイミングチャートを参照して、撮像素子10の画素信号のサンプリング処理について説明する。
図6は、図4と同様のタイミングチャートを示している。また、図6において、図4のタイミングチャートと対応する時刻には、同じ時刻を示している。
また、図6においては、VSL電圧Vs1乃至VSL電圧Vs3の3種類のVSL電圧の遷移が示されている。例えば、VSL電圧Vs1は、太陽黒点状態が発生していない場合のVSL電圧の遷移を示している。VSL電圧Vs2は、太陽黒点状態が発生していないものの光電変換素子111からの電荷の漏れが発生している場合のVSL電圧の遷移を示している。VSL電圧Vs3は、太陽黒点状態が発生している場合のVSL電圧の遷移を示している。
時刻t1から時刻t2までの処理は、図4を参照して上述した処理と同様である。すなわち、FD部114がリセットされ、VSL電圧がフィードスルー電圧となる。
時刻t3において、画素信号のリセット電圧がサンプリングされる。ここで、図7のタイミングチャートを参照して、リセット電圧のサンプリング処理の詳細について説明する。
図7のタイミングチャートは、信号処理部201のスイッチSW1乃至スイッチSW3、及び、制御信号COMPENの時系列の推移を示している。
なお、以下、画素信号のリセット電圧をVrstとし、画素信号のデータ電圧をVdatとし、参照電圧をVrefとする。また、以下、コンデンサ221の端子間の電圧を容量電圧と称する。
まず、リセット電圧Vrstのサンプリングが行われる。具体的には、スイッチSW1及びスイッチSW2がオンされ、スイッチSW3がオフされる。スイッチSW1がオンすることで、トランジスタ223のドレインとゲートが短絡され、トランジスタ223がダイオード接続された状態となる。これにより、トランジスタ223のドレイン電圧とゲート電圧がほぼ等しくなり、所定の電圧で安定する。以下、このときのゲート電圧をVgs1とする。
また、サンプルホールド回路211の出力電圧とトランジスタ223のドレイン電圧は等しいため、このときのサンプルホールド回路211の出力電圧をVout1とすると、出力電圧Vout1は、ゲート電圧Vgs1とほぼ等しくなる。
さらに、コンデンサ221のスイッチSW2側の一端には、スイッチSW2を介してリセット電圧Vrstが印加される。このときのコンデンサ221の容量電圧をVc1とすると、容量電圧Vc1は、次式(1)で表される。
Vc1=Vrst-Vgs1 ・・・(1)
次に、時刻t11において、スイッチSW1がオフされ、時刻t12において、スイッチSW2がオフされる。スイッチSW1及びスイッチSW2がオフされても、コンデンサ221の容量電圧は電圧Vc1のまま保持される。このようにして、リセット電圧Vrstが、コンデンサ221の容量電圧Vc1としてホールドされる。
次に、時刻t13において、スイッチSW3がオンされる。このときのサンプルホールド回路211の出力電圧をVout2とすると、出力電圧Vout2は、次式(2)で表される。
Vout2=Vc1+Vgs1
=(Vrst-Vgs1)+Vgs1
=Vrst ・・・(2)
=(Vrst-Vgs1)+Vgs1
=Vrst ・・・(2)
このように、サンプルホールド回路211の出力電圧Vout2は、リセット電圧Vrstと等しくなる。そして、リセット電圧Vrst(=出力電圧Vout2)が、AD変換回路104及び比較器213に入力される。
次に、時刻t14から時刻t15の期間において、制御信号COMPENがオンする。これにより、比較器213は、リセット電圧Vrstと参照電圧Vrefを比較することにより太陽黒点判定を行う。そして、比較器213は、リセット電圧Vrst≧参照電圧Vrefの場合、太陽黒点状態が発生していないと判定し、Highレベルの比較信号を出力する。一方、比較器213は、リセット電圧Vrst<参照電圧Vrefの場合、太陽黒点状態が発生している判定し、Lowレベルの比較信号を出力する。
ここで、図6に示されるように、参照電圧Vrefは、限界電圧Vminに電圧Vwを加えた値に設定される。限界電圧Vminは、正常にAD変換を行うことが可能なVSL電圧(画素信号の電圧)の範囲の最小値に設定される。例えば、限界電圧Vminは、定電流源103が飽和動作可能なドレイン電圧の最小値、サンプルホールド回路211の最小許容入力電圧、及び、AD変換回路104の最小許容入電圧のうち、最も高い電圧に設定される。電圧Vwは、AD変換回路104が正常に動作する入力電圧の最大値と最小値の幅以上の電圧に設定される。すなわち、電圧Vwは、AD変換回路104のフルスケール入力電圧以上の電圧に設定される。
図6の例では、VSL電圧Vs1及びVSL電圧Vs2については、リセット電圧Vrstがサンプリングされる時刻t3において、参照電圧Vrefを上回っているため、比較信号はHighレベルになる。一方、VSL電圧Vs3については、時刻t3において、参照電圧Vrefを下回っているため、比較信号はLowレベルになる。
時刻t4から時刻t5までの処理は、図4を参照して上述した処理と同様である。すなわち、駆動信号TRGがオンし、転送ゲート部112がオンすることにより、光電変換素子111に蓄積されている電荷が、転送ゲート部112を介してFD部114に転送される。これにより、光電変換素子111から転送された電荷に相当する分だけFD部114の電位が低下し、VSL電圧も低下する。
時刻t6において、データ電圧Vdatがサンプリングされる。例えば、サンプルホールド回路211は、リセット電圧と同様の方法により、データ電圧Vdatをサンプリングし、サンプリングしたデータ電圧VdatをAD変換回路104に供給する。
なお、例えば、サンプルホールド回路211とは別のサンプルホールド回路を用いて、データ電圧Vdatをサンプリングするようにしてもよい。
そして、時刻t6以降において、AD変換回路104は、画素信号を出力する。具体的には、例えば、遅延素子214は、AD変換回路104が画素信号を出力するタイミングに合わせて、比較信号をAD変換回路104に供給する。
AD変換回路104は、比較信号がHighレベル場合、すなわち、リセット電圧Vrst≧参照電圧Vrefの場合、太陽黒点状態が発生していないと判定し、データ電圧Vdatとリセット電圧Vrstの差分に基づく値のデジタル信号を画素信号として出力する。すなわち、通常のCDS処理によりAD変換した画素信号が生成され、出力される。例えば、VSL電圧Vs1及びVSL電圧Vs2に対しては、時刻t6においてサンプリングされたデータ電圧Vdatと時刻t3においてサンプリングされたリセット電圧Vrstとの差分に基づく値のデジタル信号が画素信号として出力される。
一方、AD変換回路104は、比較信号がLowレベル場合、すなわち、リセット電圧Vrst<参照電圧Vrefの場合、陽黒点状態が発生している判定し、所定の値のデジタル信号を画素信号として出力する。例えば、AD変換回路104は、最も輝度が高いレベルに対応する値のデジタル信号を画素信号として出力する。例えば、VSL電圧Vs3に対しては、データ電圧Vdat及びリセット電圧Vrstを用いずに、所定の値のデジタル信号が画素信号として出力される。
以上のようにして、太陽黒点状態が発生した画素から低輝度の画素信号が出力されることが防止され、太陽黒点現象の発生が抑制される。その結果、高画質の画像を得ることができる。
また、上述した特許文献1に記載の発明のように、太陽黒点判定を行うために画素信号を遅延させる必要がないため、AD変換に要する時間が延びるのを防止することができる。その結果、高速撮影時にも高画質の画像を得ることができる。
さらに、簡易な構成により太陽黒点現象の発生を抑制することができる。例えば、撮像素子10では、標準的なサンプルホールド回路211の他に、参照電圧生成器212、比較器213、遅延素子214を設けるだけでよく、上述した特許文献1に記載の発明のように、画素信号の遅延回路、太陽黒点判定を行うためのサンプルホールド回路、リセット電圧を生成するための回路等が不要である。その結果、回路規模の増大を防止することができる。
また、上述した特許文献1に記載の発明では、リセットゲートがオンしているときの画素信号のリセット段差部の電圧をサンプリングする必要があり、その分だけ、サンプルホールド回路等のダイナミックレンジを拡大する必要がある。一方、撮像素子10では、そのようなダイナミックレンジの拡大の必要がなく、回路設計が容易になる。
<<2.第2の実施の形態>>
次に、図8及び図9を参照して、本開示に係る技術の第2の実施の形態について説明する。
次に、図8及び図9を参照して、本開示に係る技術の第2の実施の形態について説明する。
第1の実施の形態の説明では、上述した式(2)に示されるように、サンプルホールド回路211でサンプリングしたリセット電圧Vrstと出力電圧Vout2とが等しくなる前提で説明をしたが、実際にはリセット電圧Vrstと出力電圧Vout2とは等しくならない。
具体的には、図7の時刻t11においてスイッチSW1をオフしたときに、kTCノイズの影響により、トランジスタ223のゲート電圧がΔVgsだけ変動する。従って、時刻t13においてスイッチSW3をオンしたときの出力電圧Vout2は、厳密には、上述した式(2)ではなく、次式(3)で表される。
Vout2=Vc1+Vgs1+ΔVgs
=(Vrst-Vgs1)+Vgs1+ΔVgs
=Vrst+ΔVgs ・・・(3)
=(Vrst-Vgs1)+Vgs1+ΔVgs
=Vrst+ΔVgs ・・・(3)
このように、出力電圧Vout2とリセット電圧Vrstとの間に差が生じる。
これに対して、第2の実施の形態では、このkTCノイズの影響を軽減する対策が施されている。
<2-1.信号処理部の構成例>
本開示に係る技術の第2の実施の形態は、第1の実施の形態と比較して、図5の信号処理部201の代わりに、図8に示される信号処理部251が、撮像素子10に設けられる点が異なる。なお、図8において、図5と対応する部分には、同じ符号を付している。
本開示に係る技術の第2の実施の形態は、第1の実施の形態と比較して、図5の信号処理部201の代わりに、図8に示される信号処理部251が、撮像素子10に設けられる点が異なる。なお、図8において、図5と対応する部分には、同じ符号を付している。
信号処理部251は、信号処理部201と比較して、kTCキャンセル回路261が設けられている点が異なる。
kTCキャンセル回路261は、コンデンサ271乃至コンデンサ274、及び、スイッチSW11を備える。
コンデンサ271の一端は、トランジスタ223のゲートに接続され、コンデンサ271の他の一端は、コンデンサ272の一端及びコンデンサ273の一端に接続されている。コンデンサ272のコンデンサ271に接続されている一端と異なる一端は、接地されている。コンデンサ273のコンデンサ271に接続されている一端と異なる一端は、スイッチSW11を介してトランジスタ223のドレインに接続されている。コンデンサ274の一端は、トランジスタ223のドレインに接続され、コンデンサ274の他端は、接地されている。
<2-2.リセット電圧Vrstのサンプリング処理>
信号処理部251の処理は、図5の信号処理部201の処理と比較して、リセット電圧Vrstのサンプリング処理が異なる。ここで、図9のタイミングチャートを参照して、信号処理部251によるリセット電圧Vrstのサンプリング処理について説明する。
信号処理部251の処理は、図5の信号処理部201の処理と比較して、リセット電圧Vrstのサンプリング処理が異なる。ここで、図9のタイミングチャートを参照して、信号処理部251によるリセット電圧Vrstのサンプリング処理について説明する。
図9は、信号処理部251のスイッチSW1乃至スイッチSW3、スイッチSW11、及び、制御信号COMPENの時系列の推移を示している。なお、図9において、図7のタイミングチャートと対応する時刻には、同じ時刻を示している。
図9のタイミングチャートは、図7のタイミングチャートと比較して、kTCキャンセル回路261のスイッチSW11の動作が追加されている点が異なり、その他は同様である。
まず、時刻t11までの期間において、図7の時刻t11までの期間と同様に、スイッチSW1及びスイッチSW2がオンされ、スイッチSW3がオフされ、リセット電圧Vrstのサンプリングが行われる。そして、サンプルホールド回路211の出力電圧Vout1は、トランジスタ223のゲート電圧Vgs1とほぼ等しくなり、コンデンサ221の容量電圧Vc1は、上述した式(1)で表される値になる。また、この期間、kTCキャンセル回路261のスイッチSW11がオンされる。
時刻t11において、スイッチSW1及びスイッチSW11がオフされる。スイッチSW11がオフすることにより、kTCキャンセル回路261のコンデンサ271乃至コンデンサ273の電圧が、サンプルホールド回路211の出力電圧が電圧Vout1の状態で確定する。
なお、スイッチSW11をスイッチSW1より早くオフするようにしてもよい。
また、上述したように、kTCノイズの影響により、トランジスタ223のゲート電圧が変動する。このときのゲート電圧をVgs11とすると、ゲート電圧Vgs11は、次式(4)により表される。
Vgs11=Vgs1+ΔVgs ・・・(4)
このときのサンプルホールド回路211の出力電圧をVout11とすると、出力電圧Vout11は、次式(5)及び(6)により表される。
Vout11=Vout1+ΔVout ・・・(5)
ΔVout=-αΔVgs ・・・(6)
ΔVout=-αΔVgs ・・・(6)
すなわち、サンプルホールド回路211の出力電圧は、スイッチSW1がオフされる前と後で、電圧ΔVoutだけ変動する。これは、トランジスタ223のゲート電圧の変動に伴いドレイン電圧が変動することによる。
なお、式(6)の係数αは、トランジスタ223のトランスコンダクタンス等により定まる係数である。
そして、コンデンサ274の一端には、電圧Vout11(=電圧Vout1+ΔVout)が印加され、印加された電圧に対応する電荷が蓄積される。一方、コンデンサ221の容量電圧は、上述した式(1)の電圧Vc1のまま保持される。
次に、時刻t21から時刻t22までの期間において、スイッチSW11がオンすると、コンデンサ274に蓄積されている電荷の一部が、コンデンサ273に流れ込む。これにより、コンデンサ271乃至コンデンサ273により形成されるフィードバックパスが、サンプルホールド回路211の出力電圧が電圧Vout1の状態で電圧が確定している状態から変化する。その結果、このフィードバックパスを介して、電圧Vout11と電圧Vout1の差分である電圧ΔVoutの一部がフィードバックされ、トランジスタ223のゲートにフィードバック電圧ΔVfbが印加される。
このとき、次式(7)を満たすように、コンデンサ271乃至コンデンサ274の容量を設計することにより、トランジスタ223のゲート電圧の変動分ΔVgsがキャンセルされる。すなわち、kTCノイズによるサンプルホールド回路211の出力電圧の変動分ΔVoutに対する電荷がコンデンサ274に一定期間蓄積された後、サンプルホールド回路211にフィードバックされることにより、ゲート電圧の変動分ΔVgsがキャンセルされる。その結果、ゲート電圧がスイッチSW1をオフする前の電圧Vgs1に戻る。
ΔVfb=ΔVout/α=-ΔVgs ・・・(7)
次に、時刻t13において、スイッチSW3がオンする。このときのサンプルホールド回路211の出力電圧をVout12とすると、出力電圧Vout12は、次式(8)で表される。
Vout12=Vc1+Vgs1
=(Vrst-Vgs1)+Vgs1
=Vrst ・・・(8)
=(Vrst-Vgs1)+Vgs1
=Vrst ・・・(8)
その後、時刻t14及び時刻t15において、図7の時刻t14及び時刻t15の処理と同様の処理が行われる。
このように、サンプルホールド回路211のkTCノイズが低減され、サンプリングしたリセット電圧Vrstとほぼ等しい電圧がサンプルホールド回路211から出力されるようになる。
<<3.第3の実施の形態>>
次に、図10及び図11を参照して、本開示に係る技術の第3の実施の形態について説明する。
次に、図10及び図11を参照して、本開示に係る技術の第3の実施の形態について説明する。
<3-1.信号処理部の構成例>
本開示に係る技術の第3の実施の形態は、第1の実施の形態と比較して、図5の信号処理部201の代わりに、図10に示される信号処理部301が、撮像素子10に設けられる点が異なる。なお、図10において、図5と対応する部分には、同じ符号を付している。
本開示に係る技術の第3の実施の形態は、第1の実施の形態と比較して、図5の信号処理部201の代わりに、図10に示される信号処理部301が、撮像素子10に設けられる点が異なる。なお、図10において、図5と対応する部分には、同じ符号を付している。
信号処理部301は、信号処理部201と比較して、サンプルホールド回路211及び遅延素子214の代わりに、サンプルホールド回路311及び遅延素子312が設けられ、サンプルホールド回路311と独立した比較器213が設けられていない点が異なる。
サンプルホールド回路311は、信号処理部201のサンプルホールド回路211と比較して、スイッチSW4が追加されている点が異なる。
スイッチSW4の一端は、参照電圧生成器212に接続され、スイッチSW4の他の一端は、コンデンサ221のスイッチSW2側の一端に接続されている。そして、スイッチSW2及びスイッチSW4により、垂直信号線23からの画素信号及び参照電圧生成器212からの参照信号の入力をオン又はオフする回路が構成される。換言すれば、サンプルホールド回路311への入力信号を画素信号又は参照信号のうち一方に選択する回路が構成される。
また、トランジスタ223のドレインは、AD変換回路104及び遅延素子312に接続されている。
遅延素子312には、例えば水平駆動回路14から制御信号Latch Enableが供給される。遅延素子312は、制御信号Latch Enableが印加されたときのサンプルホールド回路311の出力信号の電圧を保持し、保持した電圧を示す信号を所定の時間だけ遅延して、AD変換回路104に供給する。
<3-2.画素信号のサンプリング処理>
次に、先に挙げた図6のタイミングチャートを参照して、信号処理部301を備える撮像素子10の画素信号のサンプリング処理について説明する。
次に、先に挙げた図6のタイミングチャートを参照して、信号処理部301を備える撮像素子10の画素信号のサンプリング処理について説明する。
時刻t1から時刻t2までの処理は、図4を参照して上述した処理と同様である。すなわち、FD部114がリセットされ、VSL電圧がフィードスルー電圧となる。
時刻t3において、画素信号のリセット電圧がサンプリングされる。ここで、図11のタイミングチャートを参照して、リセット電圧のサンプリング処理の詳細について説明する。
図11のタイミングチャートは、信号処理部301のスイッチSW1乃至スイッチSW4、及び、制御信号Latch Enableの時系列の推移を示している。
まず、リセット電圧Vrstのサンプリングが行われる。具体的には、スイッチSW1及びスイッチSW2がオンされ、スイッチSW3がオフされる。スイッチSW1がオンすることで、トランジスタ223のドレインとゲートが短絡され、トランジスタ223がダイオード接続された状態となる。これにより、トランジスタ223のドレイン電圧とゲート電圧がほぼ等しくなり、所定の電圧で安定する。以下、このときのゲート電圧をVgs21とする。
また、サンプルホールド回路211の出力電圧とトランジスタ223のドレイン電圧は等しいため、このときのサンプルホールド回路211の出力電圧をVout21とすると、出力電圧Vout21は、ゲート電圧Vgs21とほぼ等しくなる。
さらに、コンデンサ221のスイッチSW2側の一端には、スイッチSW2を介してリセット電圧Vrstが印加される。このときのコンデンサ221の容量電圧をVc21とすると、容量電圧Vc21は、次式(9)で表される。
Vc21=Vrst-Vgs21 ・・・(9)
次に、時刻t31において、スイッチSW1がオフされ、時刻t32において、スイッチSW2がオフされる。スイッチSW1及びスイッチSW2がオフされても、コンデンサ221の容量電圧は、電圧Vc21のまま保持される。このようにして、リセット電圧Vrstが、コンデンサ221の容量電圧Vc21としてホールドされる。
次に、時刻t33において、スイッチSW4がオンされる。これにより、サンプルホールド回路311に、リセット電圧Vrstがホールドされている状態で、参照電圧Vrefを示す参照信号が入力される。そして、コンデンサ221のスイッチSW2側の一端に参照電圧Vrefが印加される。このときのゲート電圧をVgs22とすると、ゲート電圧Vgs22は、コンデンサ221の容量電圧はそのまま保持されるため、次式(10)で表される値となる。
Vgs22=Vref-Vc21
=Vref-(Vrst-Vgs21)
=Vgs21+(Vref-Vrst) ・・・(10)
=Vref-(Vrst-Vgs21)
=Vgs21+(Vref-Vrst) ・・・(10)
従って、トランジスタ223のゲート電圧は、参照電圧Vref-リセット電圧Vrstだけ変動する。
このときのサンプルホールド回路211の出力電圧をVout22とすると、リセット電圧Vrst>参照電圧Vrefの場合、トランジスタ223のゲート電圧が低下するため、出力電圧Vout22は上昇する。そして、出力電圧Vout22は、図示せぬ撮像素子10内の電源の電圧に近づく。
一方、リセット電圧Vrst<参照電圧Vrefの場合、トランジスタ223のゲート電圧が上昇するため、出力電圧Vout22は低下する。そして、出力電圧Vout22は、グラウンドレベルに近づく。
このように、出力電圧Vout22は、リセット電圧Vrstと参照電圧Vrefの大小関係により変動する。従って、出力電圧Vout22を示す出力信号を、リセット電圧Vrstと参照電圧Vrefとの比較結果を示す比較信号として扱うことができる。すなわち、この比較信号は、リセット電圧Vrst>参照電圧Vrefの場合、所定の閾値より大きくなり、リセット電圧Vrst<参照電圧Vrefの場合、所定の閾値より小さくなる。
そして、出力電圧Vout22を示す比較信号が、サンプルホールド回路311から遅延素子312に供給される。
次に、時刻t34から時刻t35までの期間において、水平駆動回路14から遅延素子312に制御信号Latch Enableが印加される。これにより、この時点の比較信号の電圧(出力電圧Vout22)が遅延素子312により保持される。
次に、時刻t36において、スイッチSW4がオフされる。このとき、コンデンサ221の容量電圧は電圧Vc21のまま保持され、トランジスタ223のゲート電圧は電圧Vgs22のまま保持される。
次に、時刻t37において、スイッチSW3がオンされる。スイッチSW3がオンすることにより、トランジスタ223のドレイン-ソース間がコンデンサ221を介して接続される。これにより、トランジスタ223のゲート電圧は、電圧Vgs22からスイッチSW4をオンする前の電圧Vgs21に戻り、安定する。一方、コンデンサ221の容量電圧は電圧Vc21のまま保持される。従って、このときのサンプルホールド回路311の出力電圧をVout23とすると、出力電圧Vout23は、次式(11)で表される。
Vout23=Vc21+Vgs21
=(Vrst-Vgs21)+Vgs21
=Vrst ・・・(11)
=(Vrst-Vgs21)+Vgs21
=Vrst ・・・(11)
このように、サンプルホールド回路311の出力電圧Vout23は、リセット電圧Vrstと等しくなる。そして、リセット電圧Vrst(=出力電圧Vout23)が、AD変換回路104に入力される。
図6に戻り、時刻t4から時刻t5までの処理は、図4を参照して上述した処理と同様である。なわち、駆動信号TRGがオンし、転送ゲート部112がオンすることにより、光電変換素子111に蓄積されている電荷が、転送ゲート部112を介してFD部114に転送される。これにより、光電変換素子111から転送された電荷に相当する分だけFD部114の電位が低下し、VSL電圧も低下する。
時刻t6において、データ電圧Vdatがサンプリングされる。例えば、サンプルホールド回路311は、リセット電圧と同様の方法により、データ電圧Vdatをサンプリングし、サンプリングしたデータ電圧VdatをAD変換回路104に供給する。ただし、このとき、リセット電圧Vrstをサンプリングする場合と異なり、スイッチSW4をオンし、参照信号をいったんサンプルホールド回路311に入力する必要はない。
なお、例えば、サンプルホールド回路311とは別のサンプルホールド回路を用いて、データ電圧Vdatをサンプリングするようにしてもよい。
そして、時刻t6以降において、AD変換回路104は、画素信号を出力する。具体的には、例えば、遅延素子312は、AD変換回路104が画素信号を出力するタイミングに合わせて、比較信号(出力電圧Vout22)をAD変換回路104に供給する。
AD変換回路104は、比較信号が所定の閾値以上の場合、すなわち、リセット電圧Vrst≧参照電圧Vrefの場合、太陽黒点状態が発生していないと判定し、データ電圧Vdatとリセット電圧Vrstの差分に基づく値のデジタル信号を画素信号として出力する。すなわち、通常のCDS処理によりAD変換した画素信号が生成され、出力される。
一方、AD変換回路104は、比較信号が所定の閾値未満の場合、すなわち、リセット電圧Vrst<参照電圧Vrefの場合、太陽黒点状態が発生している判定し、所定の値のデジタル信号を画素信号として出力する。例えば、AD変換回路104は、最も輝度が高いレベルに対応する値のデジタル信号を画素信号として出力する。
以上のようにして、太陽黒点状態が発生した画素から低輝度の画素信号が出力されることが防止され、太陽黒点現象の発生が抑制される。
また、信号処理部301は、図5の信号処理部201と比較して、比較器213を削除することができるので、回路規模を小さくすることができる。また、比較器213のオフセットを考慮する必要がないため、太陽黒点判定の精度が向上する。
<<4.第4の実施の形態>>
次に、図12及び図13を参照して、本開示に係る技術の第4の実施の形態について説明する。
次に、図12及び図13を参照して、本開示に係る技術の第4の実施の形態について説明する。
第3の実施の形態の説明では、上述した式(11)に示されるように、サンプルホールド回路311でサンプリングしたリセット電圧Vrstと出力電圧Vout23とが等しくなる前提で説明をしたが、上述したように、kTCノイズの影響により、実際にはリセット電圧Vrstと出力電圧Vout23とは等しくならない。
これに対して、第4の実施の形態では、第2の実施の形態と同様の方法により、kTCノイズの影響を軽減する対策が施されている。
<4-1.信号処理部の構成例>
本開示に係る技術の第4の実施の形態は、第3の実施の形態と比較して、図10の信号処理部301の代わりに、図12に示される信号処理部351が、撮像素子10に設けられる点が異なる。なお、図12において、図8及び図10と対応する部分には、同じ符号を付している。
本開示に係る技術の第4の実施の形態は、第3の実施の形態と比較して、図10の信号処理部301の代わりに、図12に示される信号処理部351が、撮像素子10に設けられる点が異なる。なお、図12において、図8及び図10と対応する部分には、同じ符号を付している。
信号処理部351は、信号処理部301と比較して、図8の信号処理部251と同様のkTCキャンセル回路261が追加されている点が異なる。kTCキャンセル回路261の接続位置は、信号処理部251と同様である。
<4-2.リセット電圧Vrstのサンプリング処理>
信号処理部351の処理は、図10の信号処理部301の処理と比較して、リセット電圧Vrstのサンプリング処理が異なる。ここで、図13のタイミングチャートを参照して、信号処理部351によるリセット電圧Vrstのサンプリング処理について説明する。
信号処理部351の処理は、図10の信号処理部301の処理と比較して、リセット電圧Vrstのサンプリング処理が異なる。ここで、図13のタイミングチャートを参照して、信号処理部351によるリセット電圧Vrstのサンプリング処理について説明する。
図13は、信号処理部351のスイッチSW1乃至スイッチSW4、スイッチSW11、及び、制御信号Latch Enableの時系列の推移を示している。なお、図13において、図11のタイミングチャートと対応する時刻には、同じ時刻を示している。
図13のタイミングチャートは、図11のタイミングチャートと比較して、kTCキャンセル回路261のスイッチSW11の動作が追加されている点が異なっており、その他は同様である。
そして、第2の実施の形態と同様に、時刻t31までの期間、及び、時刻t41から時刻t42までの期間にスイッチSW11をオンすることにより、トランジスタ223のゲート電圧のkTCノイズによる変動分がkTCキャンセル回路261によりキャンセルされる。
これにより、サンプルホールド回路311のkTCノイズが低減され、サンプリングしたリセット電圧Vrstとほぼ等しい電圧がサンプルホールド回路311から出力されるようになる。
<<5.変形例>>
以下、上述した本開示に係る技術の実施の形態の変形例について説明する。
以下、上述した本開示に係る技術の実施の形態の変形例について説明する。
図3の画素21の構成例は、その一例であり、本開示に係る技術では、任意の構成の画素を用いることができる。
また、サンプルホールド回路の数もその一例であり、例えば、各垂直信号線23に対して、複数のサンプルホールド回路を設け、そのうちの1つ以上を、上述したサンプルホールド回路211又はサンプルホールド回路311により構成するようにしてもよい。
さらに、以上の説明では、垂直信号線23毎にAD変換回路104を設けて、画素信号のAD変換を行う例を示したが、例えば、画素領域11の所定の大きさのブロック毎にAD変換回路104を設けるようにしてもよい。この場合、例えば、画素領域11の各ブロックに、信号処理部201、信号処理部251、信号処理部301、又は、信号処理部351のうちいずれかが少なくとも1つ設けられる。
また、本開示に係る技術は、CDS処理以外にも、DDS(Double Data Sampling)処理等のデータ電圧とリセット電圧の差分により画素信号を生成する処理を行う場合に適用することができる。
さらに、例えば、サンプルホールド回路211又はサンプルホールド回路311がリセット電圧をホールドした後、必ずしもすぐに太陽黒点判定を行う必要はなく、必要に応じて、太陽黒点判定を後ろにずらしてもよい。例えば、画素信号のデータ電圧のセトリング中に太陽黒点判定を行うパイプライン処理を行うようにしてもよい。
図14は、パイプライン処理を行う場合の駆動信号RST、駆動信号TRG、VSL電圧、及び、太陽黒点判定のタイミングチャートを示している。なお、図14において、図4のタイミングチャートと対応する時刻には、同じ時刻を示している。
上述したように、時刻t3において、画素信号のリセット電圧のサンプリングが行われ、リセット電圧がサンプルホールド回路211又はサンプルホールド回路311にホールドされる。その後、時刻t4から時刻t5までの間、駆動信号TRGがオンし、画素信号のデータ電圧のセトリングが行われる。例えば、そのデータ電圧のセトリング中の時刻t51から時刻t52の間に、太陽黒点判定を行うようにしてもよい。具体的には、例えば、時刻t51から時刻t52の間に、図7若しくは図9の時刻t13乃至時刻t15の処理、又は、図11若しくは図13の時刻t33乃至時刻t36の処理を行うようにしてもよい。これにより、太陽黒点判定の待ち時間を短縮し、AD変換処理にかかる時間を短縮することができる。
なお、信号処理部201又は信号処理部251では、垂直信号線23とスイッチSW2及びスイッチSW3を介して回路的に離れた比較器213において太陽黒点判定が行われる。従って、リセット電圧と参照電圧の比較動作によるキックバックノイズが垂直信号線23に戻りにくく、画素信号のデータ電圧の静定を遅らせるリスクが少ない。
また、参照電圧生成器212が生成し出力する参照電圧は、固定値としてもよいし、可変値としてもよい。
参照電圧を固定値とした場合、例えば、レジスタ等を用いて参照電圧生成器212の参照電圧の値を事前に設定できるようにしてもよい。或いは、例えば、生産テスト時等に上述した限界電圧Vminを測定し、限界電圧Vminの測定値に基づいて、参照電圧生成器212の参照電圧を設定するようにしてもよい。
一方、参照電圧を可変値とした場合、例えば、参照電圧生成器212が、撮像素子10の起動時又は動作中の所定のタイミングで検出される限界電圧Vminの検出結果に基づいて、参照電圧を設定するようにしてもよい。
<<6.応用例>>
本開示に係る技術は、様々な製品へ応用することができる。
本開示に係る技術は、様々な製品へ応用することができる。
<6-1.本開示に係る技術の適用例>
例えば、本開示に係る技術は、図15に示されるように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに適用することができる。
例えば、本開示に係る技術は、図15に示されるように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに適用することができる。
・デジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供され装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供され装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
以下、より具体的な適用例について説明する。
<6-2.電子機器への適用例>
図16は、撮像素子を適用した電子機器500の構成例を示す図である。
図16は、撮像素子を適用した電子機器500の構成例を示す図である。
電子機器500は、例えば、デジタルスチルカメラやビデオカメラ等の撮像装置や、スマートフォンやタブレット型端末等の携帯端末装置などの電子機器である。
図16において、電子機器500は、レンズ501、撮像素子502、DSP回路503、フレームメモリ504、表示部505、記録部506、操作部507、及び、電源部508を備える。また、電子機器500において、DSP回路503、フレームメモリ504、表示部505、記録部506、操作部507、及び、電源部508は、バスライン509を介して相互に接続されている。
そして、撮像素子502として、図1の撮像素子10を適用することができる。
DSP回路503は、撮像素子502から供給される信号を処理する信号処理回路である。DSP回路503は、撮像素子502からの信号を処理して得られる画像データを出力する。フレームメモリ504は、DSP回路503により処理された画像データを、フレーム単位で一時的に保持する。
表示部505は、例えば、液晶パネルや有機EL(Electro Luminescence)パネル等のパネル型表示装置からなり、撮像素子502で撮像された動画又は静止画を表示する。記録部506は、撮像素子502で撮像された動画又は静止画の画像データを、半導体メモリやハードディスク等の記録媒体に記録する。
操作部507は、ユーザによる操作に従い、電子機器500が有する各種の機能についての操作指令を出力する。電源部508は、DSP回路503、フレームメモリ504、表示部505、記録部506、及び、操作部507の動作電源となる各種の電源を、これら供給対象に対して適宜供給する。
<6-3.手術システムへの適用例>
図17は、本開示に係る技術が適用され得る手術室システム5100の全体構成を概略的に示す図である。図17を参照すると、手術室システム5100は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)5107及び手術室制御装置5109を介して互いに連携可能に接続されることにより構成される。
図17は、本開示に係る技術が適用され得る手術室システム5100の全体構成を概略的に示す図である。図17を参照すると、手術室システム5100は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)5107及び手術室制御装置5109を介して互いに連携可能に接続されることにより構成される。
手術室には、様々な装置が設置され得る。図17では、一例として、内視鏡下手術のための各種の装置群5101と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ5187と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ5189と、複数の表示装置5103A~5103Dと、レコーダ5105と、患者ベッド5183と、照明5191と、を図示している。
ここで、これらの装置のうち、装置群5101は、後述する内視鏡手術システム5113に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム5113に属する各装置は医療用機器とも呼称される。一方、表示装置5103A~5103D、レコーダ5105、患者ベッド5183及び照明5191は、内視鏡手術システム5113とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム5113に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ5107及び/又は手術室制御装置5109は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
視聴覚コントローラ5107は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム5100が備える装置のうち、装置群5101、シーリングカメラ5187及び術場カメラ5189は、手術中に表示すべき情報(以下、表示情報ともいう)を発信する機能を有する装置(以下、発信元の装置とも呼称する)であり得る。また、表示装置5103A~5103Dは、表示情報が出力される装置(以下、出力先の装置とも呼称する)であり得る。また、レコーダ5105は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ5107は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報(例えば、患者の身体情報や、過去の検査結果、術式についての情報等)等である。
具体的には、視聴覚コントローラ5107には、装置群5101から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ5187から、表示情報として、当該シーリングカメラ5187によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ5189から、表示情報として、当該術場カメラ5189によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム5100に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ5107は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
あるいは、例えば、レコーダ5105には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ5107によって記録されている。視聴覚コントローラ5107は、表示情報として、レコーダ5105から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ5105には、手術に関する各種の情報も事前に記録されていてもよい。
視聴覚コントローラ5107は、出力先の装置である表示装置5103A~5103Dの少なくともいずれかに、取得した表示情報(すなわち、手術中に撮影された画像や、手術に関する各種の情報)を表示させる。図示する例では、表示装置5103Aは手術室の天井から吊り下げられて設置される表示装置であり、表示装置5103Bは手術室の壁面に設置される表示装置であり、表示装置5103Cは手術室内の机上に設置される表示装置であり、表示装置5103Dは表示機能を有するモバイル機器(例えば、タブレットPC(Personal Computer))である。
また、図17では図示を省略しているが、手術室システム5100には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるPC、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ5107は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
手術室制御装置5109は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置5109は、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191の駆動を制御する。
手術室システム5100には、集中操作パネル5111が設けられており、ユーザは、当該集中操作パネル5111を介して、視聴覚コントローラ5107に対して画像表示についての指示を与えたり、手術室制御装置5109に対して非医療機器の動作についての指示を与えることができる。集中操作パネル5111は、表示装置の表示面上にタッチパネルが設けられて構成される。
図18は、集中操作パネル5111における操作画面の表示例を示す図である。図18では、一例として、手術室システム5100に、出力先の装置として、2つの表示装置が設けられている場合に対応する操作画面を示している。図18を参照すると、操作画面5193には、発信元選択領域5195と、プレビュー領域5197と、コントロール領域5201と、が設けられる。
発信元選択領域5195には、手術室システム5100に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域5195に表示されているいずれかの発信元装置から選択することができる。
プレビュー領域5197には、出力先の装置である2つの表示装置(Monitor1、Monitor2)に表示される画面のプレビューが表示される。図示する例では、1つの表示装置において4つの画像がPinP表示されている。当該4つの画像は、発信元選択領域5195において選択された発信元装置から発信された表示情報に対応するものである。4つの画像のうち、1つはメイン画像として比較的大きく表示され、残りの3つはサブ画像として比較的小さく表示される。ユーザは、4つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、4つの画像が表示される領域の下部には、ステータス表示領域5199が設けられており、当該領域に手術に関するステータス(例えば、手術の経過時間や、患者の身体情報等)が適宜表示され得る。
コントロール領域5201には、発信元の装置に対して操作を行うためのGUI(Graphical User Interface)部品が表示される発信元操作領域5203と、出力先の装置に対して操作を行うためのGUI部品が表示される出力先操作領域5205と、が設けられる。図示する例では、発信元操作領域5203には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作(パン、チルト及びズーム)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域5195において選択されている発信元の装置がレコーダである場合(すなわち、プレビュー領域5197において、レコーダに過去に記録された画像が表示されている場合)には、発信元操作領域5203には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのGUI部品が設けられ得る。
また、出力先操作領域5205には、出力先の装置である表示装置における表示に対する各種の操作(スワップ、フリップ、色調整、コントラスト調整、2D表示と3D表示の切り替え)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、表示装置における表示を操作することができる。
なお、集中操作パネル5111に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル5111を介して、手術室システム5100に備えられる、視聴覚コントローラ5107及び手術室制御装置5109によって制御され得る各装置に対する操作入力が可能であってよい。
図19は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ5187及び術場カメラ5189は、手術室の天井に設けられ、患者ベッド5183上の患者5185の患部に対して処置を行う術者(医者)5181の手元及び手術室全体の様子を撮影可能である。シーリングカメラ5187及び術場カメラ5189には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明5191は、手術室の天井に設けられ、少なくとも術者5181の手元を照射する。照明5191は、その照射光量、照射光の波長(色)及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム5113、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191は、図17に示すように、視聴覚コントローラ5107及び手術室制御装置5109(図19では図示せず)を介して互いに連携可能に接続されている。手術室内には、集中操作パネル5111が設けられており、上述したように、ユーザは、当該集中操作パネル5111を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム5113の構成について詳細に説明する。図示するように、内視鏡手術システム5113は、内視鏡5115と、その他の術具5131と、内視鏡5115を支持する支持アーム装置5141と、内視鏡下手術のための各種の装置が搭載されたカート5151と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5139a~5139dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5139a~5139dから、内視鏡5115の鏡筒5117や、その他の術具5131が患者5185の体腔内に挿入される。図示する例では、その他の術具5131として、気腹チューブ5133、エネルギー処置具5135及び鉗子5137が、患者5185の体腔内に挿入されている。また、エネルギー処置具5135は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5131はあくまで一例であり、術具5131としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5115によって撮影された患者5185の体腔内の術部の画像が、表示装置5155に表示される。術者5181は、表示装置5155に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5135や鉗子5137を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5133、エネルギー処置具5135及び鉗子5137は、手術中に、術者5181又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5117の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5115には光源装置5157が接続されており、当該光源装置5157によって生成された光が、鏡筒5117の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5185の体腔内の観察対象に向かって照射される。なお、内視鏡5115は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5119の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5153に送信される。なお、カメラヘッド5119には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5119には撮像素子が複数設けられてもよい。この場合、鏡筒5117の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図17に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図17に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
表示装置5155は、CCU5153からの制御により、当該CCU5153によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5115が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5155としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5155として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5155が設けられてもよい。
光源装置5157は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5115に供給する。
アーム制御装置5159は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5141のアーム部5145の駆動を制御する。
入力装置5161は、内視鏡手術システム5113に対する入力インタフェースである。ユーザは、入力装置5161を介して、内視鏡手術システム5113に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5161を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5161を介して、アーム部5145を駆動させる旨の指示や、内視鏡5115による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5135を駆動させる旨の指示等を入力する。
入力装置5161の種類は限定されず、入力装置5161は各種の公知の入力装置であってよい。入力装置5161としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5171及び/又はレバー等が適用され得る。入力装置5161としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5155の表示面上に設けられてもよい。
あるいは、入力装置5161は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5161は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5161は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5161が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5181)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5163は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5135の駆動を制御する。気腹装置5165は、内視鏡5115による視野の確保及び術者の作業空間の確保の目的で、患者5185の体腔を膨らめるために、気腹チューブ5133を介して当該体腔内にガスを送り込む。レコーダ5167は、手術に関する各種の情報を記録可能な装置である。プリンタ5169は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5113において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図19では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a~5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a~5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図19では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a~5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a~5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
関節部5147a~5147cにはアクチュエータが設けられており、関節部5147a~5147cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5159によって制御されることにより、各関節部5147a~5147cの回転角度が制御され、アーム部5145の駆動が制御される。これにより、内視鏡5115の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5159は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5145の駆動を制御することができる。
例えば、術者5181が、入力装置5161(フットスイッチ5171を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5159によってアーム部5145の駆動が適宜制御され、内視鏡5115の位置及び姿勢が制御されてよい。当該制御により、アーム部5145の先端の内視鏡5115を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5145は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5145は、手術室から離れた場所に設置される入力装置5161を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5159は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5145が移動するように、各関節部5147a~5147cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5145に触れながらアーム部5145を移動させる際に、比較的軽い力で当該アーム部5145を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5115を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5115が支持されていた。これに対して、支持アーム装置5141を用いることにより、人手によらずに内視鏡5115の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5159は必ずしもカート5151に設けられなくてもよい。また、アーム制御装置5159は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5159は、支持アーム装置5141のアーム部5145の各関節部5147a~5147cにそれぞれ設けられてもよく、複数のアーム制御装置5159が互いに協働することにより、アーム部5145の駆動制御が実現されてもよい。
(光源装置)
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5157は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5119の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5157は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5157は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図20を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図20は、図19に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図20を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図20は、図19に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図20を参照すると、カメラヘッド5119は、その機能として、レンズユニット5121と、撮像部5123と、駆動部5125と、通信部5127と、カメラヘッド制御部5129と、を有する。また、CCU5153は、その機能として、通信部5173と、画像処理部5175と、制御部5177と、を有する。カメラヘッド5119とCCU5153とは、伝送ケーブル5179によって双方向に通信可能に接続されている。
まず、カメラヘッド5119の機能構成について説明する。レンズユニット5121は、鏡筒5117との接続部に設けられる光学系である。鏡筒5117の先端から取り込まれた観察光は、カメラヘッド5119まで導光され、当該レンズユニット5121に入射する。レンズユニット5121は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5121は、撮像部5123の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5123は撮像素子によって構成され、レンズユニット5121の後段に配置される。レンズユニット5121を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5123によって生成された画像信号は、通信部5127に提供される。
撮像部5123を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5181は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5123を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5181は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5123が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5121も複数系統設けられる。
また、撮像部5123は、必ずしもカメラヘッド5119に設けられなくてもよい。例えば、撮像部5123は、鏡筒5117の内部に、対物レンズの直後に設けられてもよい。
駆動部5125は、アクチュエータによって構成され、カメラヘッド制御部5129からの制御により、レンズユニット5121のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5123による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5127は、CCU5153との間で各種の情報を送受信するための通信装置によって構成される。通信部5127は、撮像部5123から得た画像信号をRAWデータとして伝送ケーブル5179を介してCCU5153に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5181が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5127には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5179を介してCCU5153に送信される。
また、通信部5127は、CCU5153から、カメラヘッド5119の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5127は、受信した制御信号をカメラヘッド制御部5129に提供する。なお、CCU5153からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5127には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5129に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5153の制御部5177によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5115に搭載される。
カメラヘッド制御部5129は、通信部5127を介して受信したCCU5153からの制御信号に基づいて、カメラヘッド5119の駆動を制御する。例えば、カメラヘッド制御部5129は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5123の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5129は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5125を介してレンズユニット5121のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5129は、更に、鏡筒5117やカメラヘッド5119を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5121や撮像部5123等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5119について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5153の機能構成について説明する。通信部5173は、カメラヘッド5119との間で各種の情報を送受信するための通信装置によって構成される。通信部5173は、カメラヘッド5119から、伝送ケーブル5179を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5173には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5173は、電気信号に変換した画像信号を画像処理部5175に提供する。
また、通信部5173は、カメラヘッド5119に対して、カメラヘッド5119の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5175は、カメラヘッド5119から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5175は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5175は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5175が複数のGPUによって構成される場合には、画像処理部5175は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5177は、内視鏡5115による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5177は、カメラヘッド5119の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5177は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5115にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5177は、画像処理部5175による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5177は、画像処理部5175によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5155に表示させる。この際、制御部5177は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5177は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5135使用時のミスト等を認識することができる。制御部5177は、表示装置5155に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5181に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5119及びCCU5153を接続する伝送ケーブル5179は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5179を用いて有線で通信が行われていたが、カメラヘッド5119とCCU5153との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5179を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5179によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム5100の一例について説明した。なお、ここでは、一例として手術室システム5100が適用される医療用システムが内視鏡手術システム5113である場合について説明したが、手術室システム5100の構成はかかる例に限定されない。例えば、手術室システム5100は、内視鏡手術システム5113に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
例えば、本開示に係る技術は、以上説明した構成のうち、シーリングカメラ5187、術場カメラ5189、内視鏡5115の撮像部5123に好適に適用され得る。より具体的には、例えば、シーリングカメラ5187、術場カメラ5189、内視鏡5115の撮像部5123の撮像素子に、本開示に係る技術が好適に適用され得る。本開示に係る技術を適用することにより、太陽黒点現象の発生が抑制された高画質の画像が得られるため、例えば、遠隔医療における診断精度を向上させたり、手術をより円滑に行ったりすることが可能になる。
<6-4.移動体への適用例>
また、例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
また、例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
図21は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム7000の概略的な構成例を示すブロック図である。車両制御システム7000は、通信ネットワーク7010を介して接続された複数の電子制御ユニットを備える。図21に示した例では、車両制御システム7000は、駆動系制御ユニット7100、ボディ系制御ユニット7200、バッテリ制御ユニット7300、車外情報検出ユニット7400、車内情報検出ユニット7500、及び統合制御ユニット7600を備える。これらの複数の制御ユニットを接続する通信ネットワーク7010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク7010を介して他の制御ユニットとの間で通信を行うためのネットワークI/Fを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信I/Fを備える。図21では、統合制御ユニット7600の機能構成として、マイクロコンピュータ7610、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660、音声画像出力部7670、車載ネットワークI/F7680及び記憶部7690が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信I/F及び記憶部等を備える。
駆動系制御ユニット7100は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット7100は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット7100は、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
駆動系制御ユニット7100には、車両状態検出部7110が接続される。車両状態検出部7110には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット7100は、車両状態検出部7110から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
ボディ系制御ユニット7200は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット7200は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット7200には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット7200は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
バッテリ制御ユニット7300は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池7310を制御する。例えば、バッテリ制御ユニット7300には、二次電池7310を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット7300は、これらの信号を用いて演算処理を行い、二次電池7310の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
車外情報検出ユニット7400は、車両制御システム7000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット7400には、撮像部7410及び車外情報検出部7420のうちの少なくとも一方が接続される。撮像部7410には、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部7420には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム7000を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)装置のうちの少なくとも一つであってよい。これらの撮像部7410及び車外情報検出部7420は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
ここで、図22は、撮像部7410及び車外情報検出部7420の設置位置の例を示す。撮像部7910,7912,7914,7916,7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部7910及び車室内のフロントガラスの上部に備えられる撮像部7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像部7912,7914は、主として車両7900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部7918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図22には、それぞれの撮像部7910,7912,7914,7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像部7910の撮像範囲を示し、撮像範囲b,cは、それぞれサイドミラーに設けられた撮像部7912,7914の撮像範囲を示し、撮像範囲dは、リアバンパ又はバックドアに設けられた撮像部7916の撮像範囲を示す。例えば、撮像部7910,7912,7914,7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像が得られる。
車両7900のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7922,7924,7926,7928,7930は、例えば超音波センサ又はレーダ装置であってよい。車両7900のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7926,7930は、例えばLIDAR装置であってよい。これらの車外情報検出部7920~7930は、主として先行車両、歩行者又は障害物等の検出に用いられる。
図21に戻って説明を続ける。車外情報検出ユニット7400は、撮像部7410に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット7400は、接続されている車外情報検出部7420から検出情報を受信する。車外情報検出部7420が超音波センサ、レーダ装置又はLIDAR装置である場合には、車外情報検出ユニット7400は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット7400は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
また、車外情報検出ユニット7400は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部7410により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット7400は、異なる撮像部7410により撮像された画像データを用いて、視点変換処理を行ってもよい。
車内情報検出ユニット7500は、車内の情報を検出する。車内情報検出ユニット7500には、例えば、運転者の状態を検出する運転者状態検出部7510が接続される。運転者状態検出部7510は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット7500は、運転者状態検出部7510から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット7500は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
統合制御ユニット7600は、各種プログラムにしたがって車両制御システム7000内の動作全般を制御する。統合制御ユニット7600には、入力部7800が接続されている。入力部7800は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット7600には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部7800は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム7000の操作に対応した携帯電話又はPDA(Personal Digital Assistant)等の外部接続機器であってもよい。入力部7800は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部7800は、例えば、上記の入力部7800を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット7600に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部7800を操作することにより、車両制御システム7000に対して各種のデータを入力したり処理動作を指示したりする。
記憶部7690は、マイクロコンピュータにより実行される各種プログラムを記憶するROM(Read Only Memory)、及び各種パラメータ、演算結果又はセンサ値等を記憶するRAM(Random Access Memory)を含んでいてもよい。また、記憶部7690は、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
汎用通信I/F7620は、外部環境7750に存在する様々な機器との間の通信を仲介する汎用的な通信I/Fである。汎用通信I/F7620は、GSM(登録商標)(Global System of Mobile communications)、WiMAX、LTE(Long Term Evolution)若しくはLTE-A(LTE-Advanced)などのセルラー通信プロトコル、又は無線LAN(Wi-Fi(登録商標)ともいう)、Bluetooth(登録商標)などのその他の無線通信プロトコルを実装してよい。汎用通信I/F7620は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバ又は制御サーバ)へ接続してもよい。また、汎用通信I/F7620は、例えばP2P(Peer To Peer)技術を用いて、車両の近傍に存在する端末(例えば、運転者、歩行者若しくは店舗の端末、又はMTC(Machine Type Communication)端末)と接続してもよい。
専用通信I/F7630は、車両における使用を目的として策定された通信プロトコルをサポートする通信I/Fである。専用通信I/F7630は、例えば、下位レイヤのIEEE802.11pと上位レイヤのIEEE1609との組合せであるWAVE(Wireless Access in Vehicle Environment)、DSRC(Dedicated Short Range Communications)、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信I/F7630は、典型的には、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、車両と家との間(Vehicle to Home)の通信及び歩車間(Vehicle to Pedestrian)通信のうちの1つ以上を含む概念であるV2X通信を遂行する。
測位部7640は、例えば、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部7640は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、PHS若しくはスマートフォンといった端末から位置情報を取得してもよい。
ビーコン受信部7650は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部7650の機能は、上述した専用通信I/F7630に含まれてもよい。
車内機器I/F7660は、マイクロコンピュータ7610と車内に存在する様々な車内機器7760との間の接続を仲介する通信インタフェースである。車内機器I/F7660は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)又はWUSB(Wireless USB)といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器I/F7660は、図示しない接続端子(及び、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia Interface)、又はMHL(Mobile High-definition Link)等の有線接続を確立してもよい。車内機器7760は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも1つを含んでいてもよい。また、車内機器7760は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器I/F7660は、これらの車内機器7760との間で、制御信号又はデータ信号を交換する。
車載ネットワークI/F7680は、マイクロコンピュータ7610と通信ネットワーク7010との間の通信を仲介するインタフェースである。車載ネットワークI/F7680は、通信ネットワーク7010によりサポートされる所定のプロトコルに則して、信号等を送受信する。
統合制御ユニット7600のマイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム7000を制御する。例えば、マイクロコンピュータ7610は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット7100に対して制御指令を出力してもよい。例えば、マイクロコンピュータ7610は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ7610は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
マイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の3次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ7610は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
音声画像出力部7670は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図21の例では、出力装置として、オーディオスピーカ7710、表示部7720及びインストルメントパネル7730が例示されている。表示部7720は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部7720は、AR(Augmented Reality)表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ7610が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
なお、図21に示した例において、通信ネットワーク7010を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム7000が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク7010を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク7010を介して相互に検出情報を送受信してもよい。
例えば、以上説明した車両制御システム7000の撮像部7410及び撮像部7910,7912,7914,7916,7918において、本開示に係る技術が好適に適用され得る。より具体的には、例えば、撮像部7410及び撮像部7910,7912,7914,7916,7918の撮像素子に、本開示に係る技術が好適に適用され得る。本開示に係る技術を適用することにより、太陽黒点現象の発生が抑制された高画質の画像が得られるため、例えば、先行車両、歩行者、障害物、信号機、交通標識、車線等の検出精度を向上させることが可能になる。
なお、本開示に係る技術の実施の形態は、上述した実施の形態に限定されるものではなく、本開示に係る技術の要旨を逸脱しない範囲において種々の変更が可能である。
<6-5.構成の組み合わせ例>
また、例えば、本開示に係る技術は、以下のような構成も取ることができる。
また、例えば、本開示に係る技術は、以下のような構成も取ることができる。
(1)
画素信号のリセットレベルの電圧であるリセット電圧のサンプリング及びホールドを行うサンプルホールド部と、
前記画素信号のAD(Analog Digital)変換を行うAD変換部と
を備え、
前記AD変換部は、前記サンプルホールド部によりホールドされた前記リセット電圧と所定の参照電圧とを比較した結果に基づいて、前記画素信号をAD変換した第1の出力信号、及び、所定のレベルの第2の出力信号のうち一方を選択して出力する
撮像素子。
(2)
前記サンプルホールド部は、ホールドした前記リセット電圧と前記参照電圧とを比較した結果を示す比較信号を出力し、
前記AD変換部は、前記比較信号に基づいて、前記第1の出力信号及び前記第2の出力信号のうち一方を選択して出力する
前記(1)に記載の撮像素子。
(3)
前記サンプルホールド部は、前記参照電圧を示す参照信号及び前記画素信号の入力をオン又はオフする回路を備え、前記リセット電圧をホールドしている状態で前記参照信号の入力をオンし、ホールドしている前記リセット電圧と前記参照電圧の大小関係により電圧が変動する出力信号を前記比較信号として出力する
前記(2)に記載の撮像素子。
(4)
前記サンプルホールド部は、前記比較信号の出力後に前記参照信号の入力をオフした後、前記リセット電圧を出力する
前記(3)に記載の撮像素子。
(5)
前記サンプルホールド部は、前記画素信号のデータレベルの電圧であるデータ電圧のセトリング中に、前記リセット電圧をホールドしている状態で前記参照信号の入力をオンし、前記比較信号を出力する
前記(3)又は(4)に記載の撮像素子。
(6)
前記比較信号を所定の時間遅延して前記AD変換部に供給する遅延部を
さらに備える前記(2)乃至(5)のいずれかに記載の撮像素子。
(7)
前記サンプルホールド部から出力される前記リセット電圧と前記参照電圧とを比較した結果を示す比較信号を出力する比較部を
さらに備え、
前記AD変換部は、前記比較信号に基づいて、前記第1の出力信号及び前記第2の出力信号のうち一方を選択して出力する
前記(1)に記載の撮像素子。
(8)
前記比較信号を所定の時間遅延して前記AD変換部に供給する遅延部を
さらに備える前記(7)に記載の撮像素子。
(9)
前記画素信号のデータレベルの電圧であるデータ電圧のセトリング中に、前記サンプルホールド部は、ホールドしている前記リセット電圧を出力し、前記比較部は、前記サンプルホールド部から出力された前記リセット電圧と前記参照電圧とを比較し、前記比較信号を出力する
前記(7)又は(8)に記載の撮像素子。
(10)
前記サンプルホールド部のkTCノイズを低減するkTCキャンセル部を
さらに備える前記(1)乃至(9)のいずれかに記載の撮像素子。
(11)
前記kTCキャンセル部は、前記kTCノイズによる前記サンプルホールド部の出力電圧の変動分に対応する電荷を蓄積し、前記サンプルホールド部にフィードバックすることにより前記kTCノイズを低減する
前記(10)に記載の撮像素子。
(12)
前記参照電圧は、前記画素信号を転送する垂直信号線の正常にAD変換を行うことが可能な電圧の範囲の最小値である限界電圧に、前記AD変換部が正常に動作する入力電圧の最大値と最小値の幅以上の電圧を加えた電圧に設定される
前記(1)乃至(11)のいずれかに記載の撮像素子。
(13)
前記参照電圧を生成し出力する参照電圧生成部を
さらに備える前記(12)に記載の撮像素子。
(14)
前記参照電圧生成部は、前記限界電圧の検出結果に基づいて、前記参照電圧を設定する
前記(13)に記載の撮像素子。
(15)
前記参照電圧生成部は、予め設定されたレベルの前記参照電圧を生成し出力する
前記(13)に記載の撮像素子。
(16)
前記第1の出力信号は、前記サンプルホールド部から出力される前記リセット電圧と、前記画素信号のデータレベルの電圧であるデータ電圧との差分に基づく信号である
前記(1)乃至(15)のいずれかに記載の撮像素子。
(17)
前記第2の出力信号は、最も輝度が高いレベルの信号である
前記(1)乃至(16)のいずれかに記載の撮像素子。
(18)
前記画素信号を転送する各垂直信号線にそれぞれ複数のサンプルホールド部が接続され、前記複数のサンプルホールド部のうち1つ以上が前記リセット電圧のサンプリング及びホールドを行う
前記(1)乃至(17)のいずれかに記載の撮像素子。
(19)
前記画素信号を出力する画素が設けられている第1の基板と、
前記サンプルホールド部が設けられている第2の基板と
が積層されている前記(1)乃至(18)のいずれかに記載の撮像素子。
(20)
撮像素子と、
前記撮像素子から出力される信号を処理する信号処理部と
を備え、
前記撮像素子は、
画素信号のリセットレベルの電圧であるリセット電圧のサンプリング及びホールドを行うサンプルホールド部と、
前記画素信号のAD(Analog Digital)変換を行うAD変換部と
を備え、
前記AD変換部は、前記サンプルホールド部によりホールドされた前記リセット電圧と所定の参照電圧とを比較した結果に基づいて、前記画素信号をAD変換した第1の出力信号、及び、所定のレベルの第2の出力信号のうち一方を選択して出力する
電子機器。
画素信号のリセットレベルの電圧であるリセット電圧のサンプリング及びホールドを行うサンプルホールド部と、
前記画素信号のAD(Analog Digital)変換を行うAD変換部と
を備え、
前記AD変換部は、前記サンプルホールド部によりホールドされた前記リセット電圧と所定の参照電圧とを比較した結果に基づいて、前記画素信号をAD変換した第1の出力信号、及び、所定のレベルの第2の出力信号のうち一方を選択して出力する
撮像素子。
(2)
前記サンプルホールド部は、ホールドした前記リセット電圧と前記参照電圧とを比較した結果を示す比較信号を出力し、
前記AD変換部は、前記比較信号に基づいて、前記第1の出力信号及び前記第2の出力信号のうち一方を選択して出力する
前記(1)に記載の撮像素子。
(3)
前記サンプルホールド部は、前記参照電圧を示す参照信号及び前記画素信号の入力をオン又はオフする回路を備え、前記リセット電圧をホールドしている状態で前記参照信号の入力をオンし、ホールドしている前記リセット電圧と前記参照電圧の大小関係により電圧が変動する出力信号を前記比較信号として出力する
前記(2)に記載の撮像素子。
(4)
前記サンプルホールド部は、前記比較信号の出力後に前記参照信号の入力をオフした後、前記リセット電圧を出力する
前記(3)に記載の撮像素子。
(5)
前記サンプルホールド部は、前記画素信号のデータレベルの電圧であるデータ電圧のセトリング中に、前記リセット電圧をホールドしている状態で前記参照信号の入力をオンし、前記比較信号を出力する
前記(3)又は(4)に記載の撮像素子。
(6)
前記比較信号を所定の時間遅延して前記AD変換部に供給する遅延部を
さらに備える前記(2)乃至(5)のいずれかに記載の撮像素子。
(7)
前記サンプルホールド部から出力される前記リセット電圧と前記参照電圧とを比較した結果を示す比較信号を出力する比較部を
さらに備え、
前記AD変換部は、前記比較信号に基づいて、前記第1の出力信号及び前記第2の出力信号のうち一方を選択して出力する
前記(1)に記載の撮像素子。
(8)
前記比較信号を所定の時間遅延して前記AD変換部に供給する遅延部を
さらに備える前記(7)に記載の撮像素子。
(9)
前記画素信号のデータレベルの電圧であるデータ電圧のセトリング中に、前記サンプルホールド部は、ホールドしている前記リセット電圧を出力し、前記比較部は、前記サンプルホールド部から出力された前記リセット電圧と前記参照電圧とを比較し、前記比較信号を出力する
前記(7)又は(8)に記載の撮像素子。
(10)
前記サンプルホールド部のkTCノイズを低減するkTCキャンセル部を
さらに備える前記(1)乃至(9)のいずれかに記載の撮像素子。
(11)
前記kTCキャンセル部は、前記kTCノイズによる前記サンプルホールド部の出力電圧の変動分に対応する電荷を蓄積し、前記サンプルホールド部にフィードバックすることにより前記kTCノイズを低減する
前記(10)に記載の撮像素子。
(12)
前記参照電圧は、前記画素信号を転送する垂直信号線の正常にAD変換を行うことが可能な電圧の範囲の最小値である限界電圧に、前記AD変換部が正常に動作する入力電圧の最大値と最小値の幅以上の電圧を加えた電圧に設定される
前記(1)乃至(11)のいずれかに記載の撮像素子。
(13)
前記参照電圧を生成し出力する参照電圧生成部を
さらに備える前記(12)に記載の撮像素子。
(14)
前記参照電圧生成部は、前記限界電圧の検出結果に基づいて、前記参照電圧を設定する
前記(13)に記載の撮像素子。
(15)
前記参照電圧生成部は、予め設定されたレベルの前記参照電圧を生成し出力する
前記(13)に記載の撮像素子。
(16)
前記第1の出力信号は、前記サンプルホールド部から出力される前記リセット電圧と、前記画素信号のデータレベルの電圧であるデータ電圧との差分に基づく信号である
前記(1)乃至(15)のいずれかに記載の撮像素子。
(17)
前記第2の出力信号は、最も輝度が高いレベルの信号である
前記(1)乃至(16)のいずれかに記載の撮像素子。
(18)
前記画素信号を転送する各垂直信号線にそれぞれ複数のサンプルホールド部が接続され、前記複数のサンプルホールド部のうち1つ以上が前記リセット電圧のサンプリング及びホールドを行う
前記(1)乃至(17)のいずれかに記載の撮像素子。
(19)
前記画素信号を出力する画素が設けられている第1の基板と、
前記サンプルホールド部が設けられている第2の基板と
が積層されている前記(1)乃至(18)のいずれかに記載の撮像素子。
(20)
撮像素子と、
前記撮像素子から出力される信号を処理する信号処理部と
を備え、
前記撮像素子は、
画素信号のリセットレベルの電圧であるリセット電圧のサンプリング及びホールドを行うサンプルホールド部と、
前記画素信号のAD(Analog Digital)変換を行うAD変換部と
を備え、
前記AD変換部は、前記サンプルホールド部によりホールドされた前記リセット電圧と所定の参照電圧とを比較した結果に基づいて、前記画素信号をAD変換した第1の出力信号、及び、所定のレベルの第2の出力信号のうち一方を選択して出力する
電子機器。
10,10A乃至10C 撮像素子, 11 画素領域, 12 垂直駆動回路, 13 カラム信号処理回路, 14 水平駆動回路, 15 出力回路, 16 制御回路, 21 画素, 23 垂直信号線, 51 半導体基板, 52 第1の半導体基板, 53 第2の半導体基板, 61 制御領域, 62 ロジック回路, 101 転送ゲート制御線, 102 リセットゲート制御線, 103 定電流源, 111 光電変換素子, 112 転送ゲート部, 113 リセットゲート部, 114 FD部, 115 増幅トランジスタ, 116 選択トランジスタ, 104 AD変換回路, 201 信号処理部, 211 サンプルホールド回路, 212 参照電圧生成器, 213 比較器, 214 遅延素子, 221 コンデンサ, 222 定電流源, 223 トランジスタ, 251 信号処理部, 261 kTCキャンセル回路, 271乃至274 コンデンサ, 301 信号処理部, 311 サンプルホールド回路, 312 遅延素子, 351 信号処理部, SW1乃至SW4,SW11 スイッチ, 500 電子機器, 502 撮像素子
Claims (20)
- 画素信号のリセットレベルの電圧であるリセット電圧のサンプリング及びホールドを行うサンプルホールド部と、
前記画素信号のAD(Analog Digital)変換を行うAD変換部と
を備え、
前記AD変換部は、前記サンプルホールド部によりホールドされた前記リセット電圧と所定の参照電圧とを比較した結果に基づいて、前記画素信号をAD変換した第1の出力信号、及び、所定のレベルの第2の出力信号のうち一方を選択して出力する
撮像素子。 - 前記サンプルホールド部は、ホールドした前記リセット電圧と前記参照電圧とを比較した結果を示す比較信号を出力し、
前記AD変換部は、前記比較信号に基づいて、前記第1の出力信号及び前記第2の出力信号のうち一方を選択して出力する
請求項1に記載の撮像素子。 - 前記サンプルホールド部は、前記参照電圧を示す参照信号及び前記画素信号の入力をオン又はオフする回路を備え、前記リセット電圧をホールドしている状態で前記参照信号の入力をオンし、ホールドしている前記リセット電圧と前記参照電圧の大小関係により電圧が変動する出力信号を前記比較信号として出力する
請求項2に記載の撮像素子。 - 前記サンプルホールド部は、前記比較信号の出力後に前記参照信号の入力をオフした後、前記リセット電圧を出力する
請求項3に記載の撮像素子。 - 前記サンプルホールド部は、前記画素信号のデータレベルの電圧であるデータ電圧のセトリング中に、前記リセット電圧をホールドしている状態で前記参照信号の入力をオンし、前記比較信号を出力する
請求項3に記載の撮像素子。 - 前記比較信号を所定の時間遅延して前記AD変換部に供給する遅延部を
さらに備える請求項2に記載の撮像素子。 - 前記サンプルホールド部から出力される前記リセット電圧と前記参照電圧とを比較した結果を示す比較信号を出力する比較部を
さらに備え、
前記AD変換部は、前記比較信号に基づいて、前記第1の出力信号及び前記第2の出力信号のうち一方を選択して出力する
請求項1に記載の撮像素子。 - 前記比較信号を所定の時間遅延して前記AD変換部に供給する遅延部を
さらに備える請求項7に記載の撮像素子。 - 前記画素信号のデータレベルの電圧であるデータ電圧のセトリング中に、前記サンプルホールド部は、ホールドしている前記リセット電圧を出力し、前記比較部は、前記サンプルホールド部から出力された前記リセット電圧と前記参照電圧とを比較し、前記比較信号を出力する
請求項7に記載の撮像素子。 - 前記サンプルホールド部のkTCノイズを低減するkTCキャンセル部を
さらに備える請求項1に記載の撮像素子。 - 前記kTCキャンセル部は、前記kTCノイズによる前記サンプルホールド部の出力電圧の変動分に対応する電荷を蓄積し、前記サンプルホールド部にフィードバックすることにより前記kTCノイズを低減する
請求項10に記載の撮像素子。 - 前記参照電圧は、前記画素信号を転送する垂直信号線の正常にAD変換を行うことが可能な電圧の範囲の最小値である限界電圧に、前記AD変換部が正常に動作する入力電圧の最大値と最小値の幅以上の電圧を加えた電圧に設定される
請求項1に記載の撮像素子。 - 前記参照電圧を生成し出力する参照電圧生成部を
さらに備える請求項12に記載の撮像素子。 - 前記参照電圧生成部は、前記限界電圧の検出結果に基づいて、前記参照電圧を設定する
請求項13に記載の撮像素子。 - 前記参照電圧生成部は、予め設定されたレベルの前記参照電圧を生成し出力する
請求項13に記載の撮像素子。 - 前記第1の出力信号は、前記サンプルホールド部から出力される前記リセット電圧と、前記画素信号のデータレベルの電圧であるデータ電圧との差分に基づく信号である
請求項1に記載の撮像素子。 - 前記第2の出力信号は、最も輝度が高いレベルの信号である
請求項1に記載の撮像素子。 - 前記画素信号を転送する各垂直信号線にそれぞれ複数のサンプルホールド部が接続され、前記複数のサンプルホールド部のうち1つ以上が前記リセット電圧のサンプリング及びホールドを行う
請求項1に記載の撮像素子。 - 前記画素信号を出力する画素が設けられている第1の基板と、
前記サンプルホールド部が設けられている第2の基板と
が積層されている請求項1に記載の撮像素子。 - 撮像素子と、
前記撮像素子から出力される信号を処理する信号処理部と
を備え、
前記撮像素子は、
画素信号のリセットレベルの電圧であるリセット電圧のサンプリング及びホールドを行うサンプルホールド部と、
前記画素信号のAD(Analog Digital)変換を行うAD変換部と
を備え、
前記AD変換部は、前記サンプルホールド部によりホールドされた前記リセット電圧と所定の参照電圧とを比較した結果に基づいて、前記画素信号をAD変換した第1の出力信号、及び、所定のレベルの第2の出力信号のうち一方を選択して出力する
電子機器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/307,250 US11006060B2 (en) | 2016-06-21 | 2017-06-07 | Imaging device and electronic device |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016122532A JP2017228885A (ja) | 2016-06-21 | 2016-06-21 | 撮像素子及び電子機器 |
JP2016-122532 | 2016-06-21 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2017221715A1 true WO2017221715A1 (ja) | 2017-12-28 |
Family
ID=60783844
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2017/021194 WO2017221715A1 (ja) | 2016-06-21 | 2017-06-07 | 撮像素子及び電子機器 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11006060B2 (ja) |
JP (1) | JP2017228885A (ja) |
WO (1) | WO2017221715A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111713100A (zh) * | 2018-03-05 | 2020-09-25 | 索尼半导体解决方案公司 | 摄像器件和电子设备 |
US10951845B2 (en) | 2018-09-11 | 2021-03-16 | Canon Kabushiki Kaisha | Photoelectric conversion apparatus and equipment having photodiode and semiconductor regions |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7387600B2 (ja) * | 2018-06-20 | 2023-11-28 | ヌヴォトンテクノロジージャパン株式会社 | 固体撮像装置および内視鏡カメラ |
JP7189804B2 (ja) * | 2019-02-26 | 2022-12-14 | ローム株式会社 | 発光素子駆動装置、発光素子駆動システム及び発光システム |
JP2021001763A (ja) * | 2019-06-20 | 2021-01-07 | ソニーセミコンダクタソリューションズ株式会社 | 測距装置、測距方法、および、測距システム |
JP2021175137A (ja) * | 2020-04-28 | 2021-11-01 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置 |
CN112261325B (zh) * | 2020-10-22 | 2023-03-24 | 成都微光集电科技有限公司 | 图像传感器的太阳黑子消除方法和电路、图像传感器 |
EP4351126A4 (en) * | 2021-05-27 | 2024-09-25 | Nuvoton Technology Corp Japan | SOLID STATE IMAGING DEVICE, IMAGING DEVICE AND DISTANCE MEASURING AND IMAGING DEVICE |
CN113852758A (zh) * | 2021-09-13 | 2021-12-28 | 温州市中心医院 | 一种基于WiFi的无线脚踏控制装置及系统 |
CN114125337B (zh) * | 2021-11-12 | 2023-05-23 | 四川创安微电子有限公司 | 一种消除图像传感器的太阳黑子现象的校正结构和方法 |
WO2024054567A1 (en) * | 2022-09-08 | 2024-03-14 | ams Sensors USA Inc. | Image sensor system, electronic device and operating method |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000287131A (ja) * | 1998-12-25 | 2000-10-13 | Toshiba Corp | 固体撮像装置 |
JP2008283557A (ja) * | 2007-05-11 | 2008-11-20 | Sony Corp | 固体撮像装置、撮像装置 |
JP2012010055A (ja) * | 2010-06-24 | 2012-01-12 | Sony Corp | 固体撮像装置 |
WO2014049901A1 (ja) * | 2012-09-27 | 2014-04-03 | パナソニック株式会社 | 固体撮像装置 |
WO2014065223A1 (ja) * | 2012-10-25 | 2014-05-01 | シャープ株式会社 | 固体撮像装置 |
JP2015126043A (ja) * | 2013-12-26 | 2015-07-06 | ソニー株式会社 | 電子デバイス |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4238900B2 (ja) * | 2006-08-31 | 2009-03-18 | ソニー株式会社 | 固体撮像装置、撮像装置 |
JP2009267970A (ja) | 2008-04-28 | 2009-11-12 | Canon Inc | 撮像装置、及び撮像装置の駆動方法 |
JP2012195734A (ja) * | 2011-03-16 | 2012-10-11 | Sony Corp | 固体撮像装置、撮像装置、電子機器、及び、固体撮像装置の駆動方法 |
TWI530183B (zh) * | 2011-12-08 | 2016-04-11 | Sony Corp | An imaging element, a control method, and an imaging device |
CN106341627B (zh) * | 2015-07-07 | 2020-08-11 | 松下知识产权经营株式会社 | 摄像装置 |
-
2016
- 2016-06-21 JP JP2016122532A patent/JP2017228885A/ja active Pending
-
2017
- 2017-06-07 WO PCT/JP2017/021194 patent/WO2017221715A1/ja active Application Filing
- 2017-06-07 US US16/307,250 patent/US11006060B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000287131A (ja) * | 1998-12-25 | 2000-10-13 | Toshiba Corp | 固体撮像装置 |
JP2008283557A (ja) * | 2007-05-11 | 2008-11-20 | Sony Corp | 固体撮像装置、撮像装置 |
JP2012010055A (ja) * | 2010-06-24 | 2012-01-12 | Sony Corp | 固体撮像装置 |
WO2014049901A1 (ja) * | 2012-09-27 | 2014-04-03 | パナソニック株式会社 | 固体撮像装置 |
WO2014065223A1 (ja) * | 2012-10-25 | 2014-05-01 | シャープ株式会社 | 固体撮像装置 |
JP2015126043A (ja) * | 2013-12-26 | 2015-07-06 | ソニー株式会社 | 電子デバイス |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111713100A (zh) * | 2018-03-05 | 2020-09-25 | 索尼半导体解决方案公司 | 摄像器件和电子设备 |
US11252357B2 (en) | 2018-03-05 | 2022-02-15 | Sony Semiconductor Solutions Corporation | Image-capturing device and electronic apparatus for suppressing noise |
CN111713100B (zh) * | 2018-03-05 | 2023-09-19 | 索尼半导体解决方案公司 | 摄像器件和电子设备 |
US10951845B2 (en) | 2018-09-11 | 2021-03-16 | Canon Kabushiki Kaisha | Photoelectric conversion apparatus and equipment having photodiode and semiconductor regions |
Also Published As
Publication number | Publication date |
---|---|
US20200314368A1 (en) | 2020-10-01 |
US11006060B2 (en) | 2021-05-11 |
JP2017228885A (ja) | 2017-12-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2017221715A1 (ja) | 撮像素子及び電子機器 | |
US10834315B2 (en) | Image transfer apparatus and moving image generating system for transferring moving image data | |
US10958847B2 (en) | Imaging device, image processing method, and image processing system | |
WO2018020857A1 (ja) | 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 | |
US11350053B2 (en) | Imaging device, method thereof, and imaging element | |
US10873715B2 (en) | Solid-state image sensor, imaging device, and method of controlling solid-state image sensor | |
US10666284B2 (en) | Solid-state imaging apparatus and electronic equipment | |
WO2018150768A1 (ja) | 測光装置、測光方法、プログラムおよび撮像装置 | |
WO2018003245A1 (ja) | 信号処理装置、撮像装置、及び信号処理方法 | |
US20190286286A1 (en) | Information processing device and method, and program | |
WO2018037680A1 (ja) | 撮像装置、撮像システム、及び、信号処理方法 | |
US20200382823A1 (en) | Display control apparatus, display control method, and video output apparatus | |
US11156751B2 (en) | Imaging optical system, camera module, and electronic device | |
US11482159B2 (en) | Display control device, display control method, and display control program | |
WO2018066446A1 (ja) | 電子機器および電子機器のレーン状態制御方法 | |
US20240310648A1 (en) | Lens array and stereoscopic display apparatus | |
JPWO2020174866A1 (ja) | 可変焦点距離レンズ系及び撮像装置 | |
JP2019022020A (ja) | 固体撮像素子、固体撮像素子の駆動方法および電子機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 17815184 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 17815184 Country of ref document: EP Kind code of ref document: A1 |