WO2014065056A1 - 撮像装置、および画像処理方法、並びにプログラム - Google Patents

撮像装置、および画像処理方法、並びにプログラム Download PDF

Info

Publication number
WO2014065056A1
WO2014065056A1 PCT/JP2013/075639 JP2013075639W WO2014065056A1 WO 2014065056 A1 WO2014065056 A1 WO 2014065056A1 JP 2013075639 W JP2013075639 W JP 2013075639W WO 2014065056 A1 WO2014065056 A1 WO 2014065056A1
Authority
WO
WIPO (PCT)
Prior art keywords
pixel
pixels
image sensor
image
defective
Prior art date
Application number
PCT/JP2013/075639
Other languages
English (en)
French (fr)
Inventor
裕考 篠崎
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to US14/435,806 priority Critical patent/US9549157B2/en
Publication of WO2014065056A1 publication Critical patent/WO2014065056A1/ja
Priority to US15/354,144 priority patent/US9894302B2/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • H04N25/683Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B13/00Optical objectives specially designed for the purposes specified below
    • G02B13/001Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras
    • G02B13/0015Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras characterised by the lens design
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter

Definitions

  • the present disclosure relates to an imaging apparatus, an image processing method, and a program.
  • the present invention relates to an imaging apparatus that detects defective pixels of an imaging element, an image processing method, and a program.
  • An image pickup device mounted on a digital camera, a video camera, or the like is configured by a CMOS (Complementary Metal Oxide Semiconductor) image sensor or a CCD (Charge Coupled Device) image sensor formed on a semiconductor substrate.
  • CMOS Complementary Metal Oxide Semiconductor
  • CCD Charge Coupled Device
  • Such a defective pixel outputs a unique pixel value that does not depend on the amount of incident light. Therefore, when a defective pixel exists in the image sensor, a captured image including an error pixel value is output, and the image quality deteriorates.
  • address data indicating a defective pixel position in the solid-state imaging device is stored in advance in a storage element such as a nonvolatile memory in the manufacturing stage.
  • a signal output from the defective pixel is corrected and output based on address data indicating the defective pixel stored in the storage element when the image is captured. This is a countermeasure.
  • the output signal of the pixel is compared. When the difference between these output signal values exceeds a predetermined threshold, the pixel that outputs this unique signal is determined as a defective pixel.
  • address data indicating the pixel position determined to be a defective pixel is stored in the nonvolatile memory.
  • the CMOS image sensor and a nonvolatile memory in which the address data of the defective pixel is stored are built in the imaging apparatus and shipped.
  • the defective pixel included in the output video signal from the CMOS image sensor is based on the address data of the defective pixel of the CMOS image sensor stored in the nonvolatile memory. Is corrected using the output signal of the pixel near the defective pixel, and an image having the corrected pixel value signal is output as an output image.
  • Such a technique is often used as a conventional countermeasure against defective pixels.
  • Patent Document 1 Japanese Patent Laid-Open No. 6-6865
  • the lens diaphragm mounted on the image pickup apparatus is closed to be in a light-shielded state.
  • Defective pixels that detect defective pixels with the imaging output signal of the image sensor, record and hold defective data based on the detection signals from the defective pixels, and correct the defective pixels using the latest defective data during shooting A correction device is disclosed.
  • Patent Document 2 Japanese Patent Laid-Open No. 2008-154276
  • Patent Document 3 Japanese Unexamined Patent Application Publication No. 2009-105882
  • Patent Document 2 discloses a configuration in which a texture direction around a target pixel selected from a captured image is verified, and defect detection and defect correction are performed with reference to the texture direction. The processing with reference to the texture direction improves detection accuracy and correction accuracy.
  • Patent Document 3 discloses a configuration in which standard deviation values of surrounding pixels are used for detecting defective pixels based on a captured image.
  • the value of the standard deviation also increases at the edge of the image, etc., so that erroneous detection such as determining the edge region as a defective pixel occurs, and the image quality is deteriorated by performing incorrect pixel value correction. There is a problem that sometimes.
  • the present disclosure has been made in view of the above problems, for example, and performs high-precision detection of a defective pixel existing in an image sensor, and generates a high-quality output image in which an output pixel value of the defective pixel is corrected.
  • An object is to provide an imaging device, an image processing method, and a program.
  • the first aspect of the present disclosure is: An image sensor; An analysis of an output signal from the image sensor is performed, and a signal processing unit that executes detection of defective pixels included in the image sensor,
  • the image sensor is The same subject light is input in local area units composed of a plurality of pixels of the image sensor, an image signal lower than the pixel resolution corresponding to the pixel density of the image sensor is acquired and output to the signal processing unit,
  • the signal processing unit An imaging apparatus that performs pixel value comparison of pixels of the same color included in a local region in a local region unit composed of a set of a plurality of pixels of the image sensor and detects a defective pixel based on the comparison result .
  • the signal processing unit has a large variation in pixel values of the same color pixels included in the local region, and a maximum pixel of the same color pixels included in the local region.
  • a process of determining the target pixel as a defective pixel is executed.
  • the signal processing unit includes a standard deviation of pixel values of pixels of the same color included in the local region that is greater than a predetermined threshold (TH1), and the local region If the difference absolute value between the average value of the intermediate pixel values excluding the maximum pixel value and the minimum pixel value of the same color pixel included in the pixel value of the pixel of interest and the pixel value of the pixel of interest is greater than a predetermined threshold (TH2), the pixel of interest Is determined to be a defective pixel.
  • TH1 predetermined threshold
  • TH2 predetermined threshold
  • the imaging element includes a photoelectric conversion unit including pixels arranged in a two-dimensional array, and a micro disposed on the imaging lens side that is the front surface of the photoelectric conversion unit.
  • the signal processing unit generates a specific viewpoint image by reconstructing an image in a specific pixel area unit from an image acquired by the imaging element having the microlens. It has a configuration.
  • the imaging element has a pixel array obtained by dividing each pixel in a Bayer array including RGB pixels or an array including RGBW pixels into 4 ⁇ 2 pixels of the same color. Have.
  • the imaging element inputs the same subject light in a local area unit composed of 2 ⁇ 2 identical color pixels of the imaging element, and corresponds to the pixel density of the imaging element.
  • An image signal lower than the pixel resolution is acquired and output to the signal processing unit.
  • the imaging element inputs the same subject light in a local area unit including 4 ⁇ 4 pixels or 8 ⁇ 8 pixels of the imaging element, and sets the pixel density of the imaging element.
  • An image signal lower than the corresponding pixel resolution is acquired and output to the signal processing unit.
  • the imaging element is connected via a low-resolution imaging lens having a low optical resolution that forms a low-resolution optical image lower than the pixel resolution corresponding to the pixel density of the imaging element.
  • the imaging element includes a photoelectric conversion unit including pixels arranged in a two-dimensional array, and an optical element disposed on the imaging lens side that is the front surface of the photoelectric conversion unit. It has a low-pass filter, diffuses incident light through the imaging lens through the optical low-pass filter, and receives the same subject light in units of the local region composed of a plurality of pixels of the imaging device.
  • the signal processing unit includes a defective pixel correction unit that performs pixel value correction of a defective pixel, and the defective pixel correction unit includes the same local region as the defective pixel.
  • the correction pixel value of the defective pixel is calculated using the intermediate pixel value excluding the maximum pixel value and the minimum pixel value of the same color pixel as the defective pixel included in the reference pixel as a reference pixel.
  • the defective pixel correction unit includes the intermediate pixel value when the defective pixel is the maximum pixel value in the same color pixel in the local region including the defective pixel. Is set as the corrected pixel value of the defective pixel, and when the defective pixel is the minimum pixel value in the same color pixel in the local region including the defective pixel, the minimum pixel value in the intermediate pixel value Is set as the corrected pixel value of the defective pixel.
  • the second aspect of the present disclosure is: An image processing method executed in the imaging apparatus, In the imaging device, inputting the same subject light in a local region unit composed of a plurality of pixels of the imaging device, obtaining an image signal lower than the pixel resolution corresponding to the pixel density of the imaging device, and outputting the image signal to the signal processing unit; , In the signal processing unit, analysis of an output signal from the image sensor is performed, and a signal processing step is performed to detect a defective pixel included in the image sensor, In the signal processing step, the signal processing unit includes: An image processing method for executing a pixel value comparison of pixels of the same color included in a local region in a local region unit composed of a set of a plurality of pixels of the image sensor and detecting a defective pixel based on the comparison result is there.
  • the third aspect of the present disclosure is: A program for executing image processing in an imaging apparatus; Inputting the same subject light to the image sensor in units of local regions composed of a plurality of pixels of the image sensor, obtaining an image signal lower than the pixel resolution corresponding to the pixel density of the image sensor, and outputting the image signal to the signal processing unit; , Causing the signal processing unit to perform an analysis of an output signal from the image sensor, and to execute a signal processing step for detecting a defective pixel included in the image sensor, In the signal processing step, There is a program for executing pixel value comparison of pixels of the same color included in the local region in units of local regions composed of a set of a plurality of pixels of the image sensor and detecting defective pixels based on the comparison result.
  • the program of the present disclosure is a program that can be provided by, for example, a storage medium or a communication medium provided in a computer-readable format to an information processing apparatus or a computer system that can execute various program codes.
  • a program in a computer-readable format, processing corresponding to the program is realized on the information processing apparatus or the computer system.
  • system is a logical set configuration of a plurality of devices, and is not limited to one in which the devices of each configuration are in the same casing.
  • the imaging apparatus includes an imaging element and a signal processing unit that performs analysis of an output signal from the imaging element and detects a defective pixel.
  • the image sensor receives incident light, for example, via a microlens arranged in front of the pixel, and inputs the same subject light in units of local areas composed of a plurality of pixels of the image sensor, and the pixel resolution corresponding to the pixel density of the image sensor Acquire a lower image signal.
  • the signal processing unit performs a pixel value comparison of the same color pixels included in the local region in a local region unit composed of a set of a plurality of pixels of the image sensor, and detects a defective pixel based on the comparison result, The pixel value of the pixel determined to be a defective pixel is corrected and output.
  • FIG. 1 shows a pixel arrangement example of the following two image sensors (image sensors). (1) Bayer type RGB array (2) Quadrant Bayer type RGB array
  • the Bayer type RGB array shown in FIG. 1A is a pixel array of an image sensor (image sensor) that is widely used in current digital cameras, video cameras, etc., and each pixel is R (red). , G (green), and B (blue) light are selectively received.
  • a color filter that selectively transmits light of each color of RGB is attached to the front surface of the photoelectric conversion element, and each pixel of the image sensor is configured to selectively receive light of each wavelength of RGB.
  • Each of R, G, and B pixels accumulates a charge corresponding to the amount of received light for each pixel.
  • Each pixel outputs an electrical signal corresponding to the accumulated charge, that is, a pixel value.
  • the four-divided Bayer RGB array shown in FIG. 1 (2) is a configuration example of an imaging element (image sensor) applied in the imaging device (imaging device) of the present disclosure.
  • the quadrant Bayer RGB array shown in FIG. 1B has a pixel array obtained by dividing each RGB pixel of the Bayer RGB array shown in FIG.
  • one R pixel of the Bayer type RGB array shown in FIG. 1A is divided into four to constitute four R pixels, and one G pixel is divided into four to constitute four G pixels.
  • One B pixel is divided into four and is constituted by four B pixels.
  • the number of pixels in the four-divided Bayer RGB array shown in (2) is four times the number of pixels in the Bayer RGB array shown in (1).
  • the quadrant Bayer type RGB array image sensor shown in FIG. 1 (2) has a resolution four times that of the Bayer type RGB array image sensor shown in FIG. 1 (1).
  • the four-divided Bayer type RGB array image sensor shown in FIG. 1B is applied, and the Bayer type RGB array image sensor shown in FIG. Take an image down to the resolution level. Using this captured image with a reduced resolution level, highly accurate defective pixel detection is realized.
  • FIG. 2 shows the following two imaging configurations.
  • A General imaging configuration
  • b An example of imaging configuration in the imaging apparatus of the present disclosure
  • each pixel of the imaging element has a stacked configuration of a photoelectric conversion element (photodiode) 121, a color filter 122, and an on-chip lens 123.
  • Each photoelectric conversion element 121 stores the wavelength light transmitted through the color filter 122 on the front surface of the photoelectric conversion element 121, that is, charges corresponding to the intensity of the wavelength light corresponding to each color of R, G, B, and is proportional to the stored charge.
  • a signal (pixel value) is output.
  • the image pickup process as shown in FIG. 2A it is possible to pick up images of different subject areas for each pixel of the image pickup device, and pick up an image with a resolution corresponding to the pixel density of the image pickup device. be able to.
  • the imaging device 120 has a configuration different from the imaging device illustrated in FIG. That is, the microlens 124 is provided on the front surface of the image sensor 120, that is, on the image pickup lens 110 side.
  • the microlens 124 performs a process of diffusing incident light incident through the imaging lens 110.
  • the captured image acquired by the image sensor 120 is a low-resolution image having no resolution corresponding to the resolution of the image sensor, but it is possible to detect defective pixels with high accuracy. . This process will be described later.
  • FIG. 3 is a diagram schematically illustrating an imaging configuration for the two imaging element arrays described above with reference to FIG. 3 shows the following imaging configuration example.
  • (1) Imaging configuration for a conventional Bayer array (2) As an imaging configuration example for a four-divided Bayer array, (2a) Imaging configuration in which the subject image shown in FIG. 2 (a) is set to be formed on each pixel (2b) Setting that the subject image shown in FIG. 2 (b) is formed on a plurality of pixels (2 ⁇ 2 pixels) Imaging configuration
  • each RGB pixel In the imaging configuration for the conventional Bayer array shown in FIG. 3A, different regions of the subject image are formed on each pixel of the imaging element, that is, each RGB pixel.
  • RGB shown in the figure represents RGB pixels in a conventional Bayer array.
  • 2 ⁇ 2 4 pixels are shown.
  • the cones indicated by dotted lines conceptually indicate incident light corresponding to different areas of the subject. With this configuration, for example, an image with a resolution corresponding to the number of pixels of the image sensor can be obtained.
  • FIG. 3 (2) shows the following two examples as an imaging configuration example for the four-divided Bayer array shown in FIG. 1 (2).
  • FIG. 3 (2a) shows an imaging configuration in which the subject image shown in FIG. 2 (a) is set to be formed on each pixel.
  • the imaging configuration shown in FIG. 3 (2a) is a configuration in which different regions of the subject image are formed on each pixel of the imaging device, as in FIG. 3 (1). If such an imaging process is performed, an image having a resolution four times that of a captured image of the conventional Bayer array image sensor shown in FIG.
  • the resolution is reduced. That is, the resolution level is the same level as the image obtained by the imaging process using the conventional Bayer array shown in FIG.
  • the imaging apparatus of the present disclosure collects incident light with a resolution coarser than the resolution of the imaging element (image sensor). That is, an image having an optical resolution lower than the pixel resolution defined by the pixel density of the image sensor is taken.
  • an imaging unit is configured by applying an optical element such as a lens having an optical resolution corresponding to the pixel resolution corresponding to the pixel density of the imaging element. .
  • an optical element such as a lens having an optical resolution corresponding to the pixel resolution corresponding to the pixel density of the imaging element.
  • an image having a resolution lower than the pixel resolution of the imaging element is taken. That is, the optical resolution is set lower than the pixel resolution.
  • Various configurations can be used for acquiring an image with an optical resolution lower than the pixel resolution.
  • the microlens 124 described with reference to FIG. 2B is used.
  • the configuration of the image sensor having the microlens 124 will be further described with reference to FIG.
  • FIG. 4 shows a cross-sectional configuration of the imaging lens 110 and the imaging element 120.
  • the image sensor 120 has a color filter 122 in which a color (RGB) corresponding to each pixel is set on a photoelectric conversion element (photodiode) 121 composed of pixels arranged in a two-dimensional array.
  • a photoelectric conversion element (photodiode) 121 composed of pixels arranged in a two-dimensional array.
  • an on-chip lens 123 is mounted thereon.
  • the image sensor 120 of the present embodiment has a configuration in which a microlens 124 is further disposed on an on-chip lens 123.
  • the pixel set ( 4 pixels)
  • the output values (pixel values) of only defective pixels are different from the output values (pixel values) of other pixels (normal pixels).
  • the output pixel values of the individual pixels of one pixel set on which the same subject light is incident are not uniform, it can be estimated that the pixel set includes a defective pixel.
  • the imaging device compares the output values (pixel values) of the pixel set constituent pixels in units of pixel sets on which the same subject light is incident, and determines that a defective pixel is included when the output is not uniform. Further, a process for specifying a defective pixel is performed. By performing such processing, for example, it is possible to detect defective pixels with high accuracy without confusing the edge region in the image with the defective pixels. Note that the output pixel value of the detected defective pixel is output after being corrected in the signal processing unit of the imaging apparatus.
  • the color filter array will be described as an example using the four-divided Bayer RGB array described with reference to FIG.
  • the processing of the present disclosure can be applied to an image sensor having various arrangements other than the four-divided Bayer RGB arrangement.
  • the setting of the set is not limited to such a setting of 2 ⁇ 2 pixels, and various settings are possible.
  • output values of pixels of the same color in a set of pixels where the same subject light is diffused and incident are compared.
  • FIG. 6 is a diagram illustrating an overall configuration of the imaging apparatus 100 according to the first embodiment of the present disclosure.
  • the light incident through the optical lens 110 is incident on an image sensor 120 constituted by an imaging unit, for example, a CMOS image sensor, and outputs image data by photoelectric conversion.
  • an image sensor 120 constituted by an imaging unit, for example, a CMOS image sensor, and outputs image data by photoelectric conversion.
  • the image sensor 120 is, for example, the image sensor 120 having the configuration shown in FIG. For example, it has the four-divided Bayer RGB arrangement described with reference to FIG. 1 (2), and the same subject light diffuses as shown in FIG. 4 (a), FIG. 5 (b), (c), or the like. 1 unit of pixel sets.
  • the image data output from the image sensor 120 illustrated in FIG. 6 is input to the signal processing unit 130.
  • the signal processing unit 130 executes processing such as detection of defective pixels and correction of pixel values of defective pixels, which will be described below, and further performs signal processing in general cameras such as white balance (WB) adjustment and gamma correction.
  • WB white balance
  • the output image 300 is stored in a storage unit (not shown). Or it outputs to a display part.
  • the control unit 135 outputs a control signal to each unit according to a program stored in a memory (not shown), for example, and controls various processes.
  • FIG. 7 is a diagram illustrating a configuration of the signal processing unit 130 according to an embodiment of the present disclosure.
  • the signal processing unit 130 includes a defect detection and correction unit 140, an array conversion unit 170, and a camera signal processing unit 180.
  • the image sensor 120 has the pixel array described with reference to FIG. 1B and generates and outputs a four-divided Bayer array image 211. Note that, as described with reference to FIG. 4, the four-divided Bayer array image 211 output from the image sensor 120 is configured by a unit pixel set in which the same subject light is diffused and incident.
  • the quadrant Bayer array image 211 output from the image sensor 120 is input to the defect detection correction unit 140.
  • the defect detection / correction unit 140 receives the four-divided Bayer array image 211 from the image sensor 120, analyzes the pixel values of the pixels constituting the image, and detects defective pixels. Furthermore, the process which corrects the pixel value of the detected defective pixel is performed. As a result, a defect correction quadrant Bayer array image 212 is generated and output.
  • the defect correction quadrant Bayer array image 212 generated by the defect detection correction unit 140 is input to the array conversion unit 170.
  • the array conversion unit 170 receives the defect correction quadrant Bayer array image 212 from the defect detection correction unit 140 and converts the quadrant Bayer array into a normal Bayer array, that is, a Bayer array image shown in FIG. Execute.
  • the array conversion unit 170 generates a Bayer array image 213 by this array conversion and outputs the image to the camera signal processing unit 180.
  • the camera signal processing unit 180 receives the Bayer array image 213 output from the array conversion unit 170, and executes demosaic processing for setting all RGB colors at each RGB pixel position of the Bayer array image. Further, signal processing in a general camera such as white balance (WB) adjustment and gamma correction is executed, and an output image 300 is generated and output.
  • WB white balance
  • the control unit 135 outputs a control signal to each unit according to a program stored in a memory (not shown), for example, and controls various processes.
  • the defect detection correction unit 140 includes a local region extraction unit 141, a defective pixel detection unit 150, and a defective pixel correction unit 160.
  • the quadrant Bayer array image 211 output from the image sensor 120 is input to the local region extraction unit 141 of the defective pixel detection correction unit 140.
  • the local region extraction unit 141 selectively extracts pixel values of the local region used in the next defective pixel detection unit 150.
  • This local region is a region corresponding to one unit pixel set on which the same subject light diffuses and enters. For example, in the case of the configuration shown in FIG. 4, a pixel region composed of 2 ⁇ 2 pixels is sequentially extracted as a local region.
  • the pixel information of the local area extracted by the local area extraction unit 141 is output to the defective pixel detection unit 150.
  • the defective pixel detection unit 150 performs the defective pixel detection process in units of local regions, that is, in units of pixel sets on which the same subject light is diffused and incident. The specific configuration and processing of the defective pixel detection unit 150 will be described in detail later.
  • the defective pixel information detected by the defective pixel detection unit 150 is output to the defective pixel correction unit 160.
  • the defective pixel correction unit 160 performs a process of correcting the pixel value of the defective pixel specified based on the defective pixel information detected by the defective pixel detection unit 150.
  • the specific configuration and processing of the defective pixel correction unit 160 will be described in detail later.
  • the defective pixel correction unit 160 generates a defect correction four-divided Bayer array image 212 in which the pixel value of the defective pixel is corrected, and outputs it to the array conversion unit 170 in the signal processing unit 130 shown in FIG.
  • FIG. 9 is a diagram showing a detailed configuration of the defective pixel detection unit 150 in the defect detection correction unit 140 shown in FIG.
  • the defective pixel detection unit 150 includes a maximum / minimum pixel value detection unit 151, a standard deviation (std) calculation unit 152, an intermediate pixel value average (T) calculation unit 153, and a defective pixel determination unit 154. .
  • the maximum / minimum pixel value detection unit 151 inputs the local region pixel information 401 extracted by the local region extraction unit 141 of the defect detection correction unit 140 shown in FIG. As described above, the local area extraction unit 141 extracts pixel value information of a pixel set on which the same subject light is diffused and enters as local area pixel information 401. For example, in the case of the configuration shown in FIG. 4, a pixel region composed of 2 ⁇ 2 pixels is one local region, and local region pixel information 401 is sequentially generated in units of this local region, and the defective pixel detection unit 150 shown in FIG. Is output to the maximum / minimum pixel value detection unit 151.
  • the maximum / minimum pixel value detection unit 151 detects the maximum pixel value and the minimum pixel value of the same color pixel included in the local region pixel information 401.
  • the local area is assumed to be the same color pixel area composed of 2 ⁇ 2 pixels.
  • FIG. 9 shows an example of inputting 2 ⁇ 2 four R pixels: R1, R2, R3, and R4 in a four-divided Bayer RGB array as an example of the local area pixel information 401.
  • the data is output to the standard deviation (std) calculation unit 152 and the intermediate pixel average value (T) calculation unit 153.
  • the standard deviation (std) calculation unit 152 calculates the standard deviation (std) of the pixel values of a plurality of the same color pixels included in the local region pixel information 401.
  • the standard deviation (std) is calculated according to (Equation 1) shown below.
  • ave average pixel value of the same color pixels in the local region
  • n number of pixels of the same color in the local area
  • i Index corresponding to each pixel of the same color pixel in the local region
  • i 1, 2, 3,...
  • std standard deviation of pixel values of the same color pixel in the local area.
  • the value of the standard deviation (std) calculated by the standard deviation (std) calculation unit 152 according to the above (Equation 1) is input to the defective pixel determination unit 154.
  • the intermediate pixel average value (ave) calculation unit 153 calculates the average value of the pixel values of pixels having intermediate pixel values excluding the maximum pixel value and the minimum pixel value of the plurality of pixels of the same color included in the local region pixel information 401. That is, the intermediate pixel average value (T) is calculated.
  • the intermediate pixel average value (T) is calculated according to (Equation 2) shown below.
  • n number of pixels of the same color in the local region
  • 2ndMax the second largest pixel value of the same color pixel in the local region
  • 2ndMin the second smallest pixel value of the same color pixel in the local region
  • T middle pixel average value
  • the intermediate pixel average value (T) calculated by the intermediate pixel average value (T) calculation unit 153 according to the above (Equation 2) is input to the defective pixel determination unit 154.
  • the defective pixel determination unit 154 inputs the following values. (1) The value of the standard deviation (std) calculated by the standard deviation (std) calculation unit 152 according to the above (Equation 1), (2) The intermediate pixel average value (T) calculated by the intermediate pixel average value (T) calculation unit 153 according to the above (Equation 2), The defective pixel determination unit 154 inputs these values and determines whether or not the selected target pixel is a defective pixel sequentially from the same color pixel included in the local region. This determination process is performed according to (Equation 3) shown below.
  • std the value of the standard deviation calculated according to the above (Equation 1)
  • T intermediate pixel average value calculated according to the above (Equation 2)
  • TH1 a predetermined threshold value
  • TH2 a predetermined threshold value
  • Ci Pixel value of a target pixel sequentially selected from the local region.
  • the target pixel (Ci) For the target pixel (Ci) that is sequentially selected from the local region, when the above (Equation 3) holds, the target pixel (Ci) is determined to be a defective pixel. On the other hand, if (Equation 3) shown above is not established for the target pixel (Ci), it is determined that the target pixel (Ci) is not a defective pixel.
  • the above is an expression for determining each pixel of interest (Ci) as a defective pixel when the following two conditions are satisfied.
  • First condition A threshold (TH1) defined in advance by the standard deviation (std) calculated according to (Equation 1) described above using a pixel having the same color as the target pixel in the local region including the target pixel (Ci).
  • Second condition A threshold (TH1) defined in advance by the standard deviation (std) calculated according to (Equation 1) described above using a pixel having the same color as the target pixel in the local region including the target pixel (Ci).
  • Greater than (Second condition)
  • the average pixel average value (T) calculated according to (Equation 2) described above using a pixel of the same color as the target pixel in the local region including the target pixel (Ci), and the target pixel
  • the difference absolute value from the pixel value (Ci) is greater than a predetermined threshold value (TH2);
  • the target pixel is determined as a defective pixel.
  • the defective pixel determination unit 154 determines whether or not the above-described (Equation 3) is satisfied for the target pixel Ci sequentially selected from the local region. If the target pixel Ci is satisfied, the defective pixel determination unit 154 determines that the target pixel is a defective pixel. If not satisfied, it is determined that the pixel is not defective.
  • the defective pixel determination unit 154 generates defective pixel determination information 402 such as a defect determination flag corresponding to each pixel of interest as information indicating the determination result, and outputs it to the next defective pixel correction unit 160.
  • the defect determination flag is, for example, a flag set to [1] when the target pixel is a defective pixel and [0] when the target pixel is not a defective pixel.
  • the defective pixel detection unit 150 sequentially selects each pixel included in the local region as a target pixel and determines whether the selected target pixel is a defective pixel in order of the target pixel. Repeatedly. As a result, it is determined whether or not all the pixels included in the target pixel are defective pixels. Note that the local region is sequentially changed and set, and the same processing is executed for all the pixels constituting the image.
  • a defective pixel detection process sequence executed by the defective pixel detection unit 150 shown in FIG. 9 will be described with reference to the flowchart shown in FIG.
  • pixel information of a 2 ⁇ 2 pixel region including R1 to R4 pixels at the center in the 4-divided Bayer RGB array shown in the upper left of FIG. 10 is used. An example of performing input and processing will be described.
  • step S101 one target pixel (Ci) is selected from the local region.
  • the flowchart shown in FIG. 10 is repeatedly executed by sequentially selecting each pixel included in the extreme region as a target pixel.
  • the description will be made on the assumption that the pixel R1 which is one of the local region constituting pixels R1 to R4 is selected as the target pixel.
  • step S102 it is determined whether the target pixel (Ci) is either the maximum pixel value or the minimum pixel value of the same color pixel in the local region.
  • the process proceeds to step S103.
  • it is determined that the target pixel (Ci R1) is not a defective pixel and the process is performed. finish.
  • the target pixel R1 is a pixel having the maximum pixel value having a pixel value larger than the pixel values of the other pixels R2, R3, R4, or the target pixel R1 is each pixel of the other pixels R2, R3, R4 It is determined whether the pixel is one of the minimum pixel values having a value smaller than the value.
  • step S102 If it is determined in step S102 that the target pixel is the maximum pixel value or the minimum pixel value of the same color pixel in the local region, the process proceeds to step S103.
  • step S103 the standard deviation (std) of the pixel values of a plurality of the same color pixels included in the local region is calculated.
  • This process is a process executed by the standard deviation (std) calculation unit 152 described above with reference to FIG.
  • the standard deviation (std) of the pixel values of a plurality of pixels of the same color included in the local area is calculated according to (Equation 1) described above. For example, when the pixels included in the local region are R1 to R4, the standard deviation (std) is calculated by setting the pixel values of these four pixels to Ci in (Expression 1) described above.
  • step S04 the average value of pixels having intermediate pixel values excluding the maximum pixel value and the minimum pixel value of a plurality of pixels of the same color included in the local region, that is, the intermediate pixel average value (T ) Is calculated.
  • This process is a process executed by the intermediate pixel average value (ave) calculation unit 153 described above with reference to FIG.
  • an average value of pixel values of pixels having intermediate pixel values excluding the maximum pixel value and the minimum pixel value of a plurality of pixels of the same color included in the local region that is, the intermediate pixel average A value (T) is calculated.
  • the pixels included in the local region are R1 to R4
  • the average of two pixel values having intermediate pixel values excluding the maximum pixel value and the minimum pixel value of these four pixels is calculated as an intermediate pixel average value (T ).
  • step S105 a process for determining whether or not the target pixel (Ci) is a defective pixel is executed.
  • This process is the process of the defective pixel determination unit 154 described above with reference to FIG.
  • the defective pixel determination unit 154 determines whether or not the target pixel (Ci) is a defective pixel based on the following values. (1) The value of the standard deviation (std) calculated by the standard deviation (std) calculation unit 152 according to the above (Equation 1), (2) The intermediate pixel average value (T) calculated by the intermediate pixel average value (T) calculation unit 153 according to the above (Equation 2), The defective pixel determination unit 154 inputs these values and determines whether or not the selected target pixel (Ci) is a defective pixel sequentially from the same color pixel included in the local region. This determination process is performed according to (Equation 3) described above.
  • the flow shown in FIG. 10 is repeatedly executed in order for each pixel included in the local region, which is sequentially selected as the target pixel, and for each selected target pixel. As a result, it is determined whether or not all the pixels included in the target pixel are defective pixels. Note that the local region is sequentially changed and set, and the same processing is executed for all the pixels constituting the image.
  • the defective pixel correction unit 160 performs a process of correcting the pixel value of the pixel determined as the defective pixel by the defective pixel detection unit 150 in the previous stage. From the defective pixel detection unit 150 in the previous stage, the defective pixel determination information (pixel corresponding defect determination flag) 402 is input together with the pixel information of the local region, and the pixel determined to be a defective pixel based on this flag is specified. The pixel value of the defective pixel is corrected.
  • the intermediate pixel detection unit 161 acquires the following pixel values that are pixels of the same color as the defective pixel from the local region including the defective pixel.
  • the intermediate pixel detection unit 161 acquires the pixel value information and outputs it to the pixel value correction unit 162.
  • the pixel value correcting unit 162 is a pixel having the maximum value among the same color pixels in the local region to which the target pixel belongs, regarding the target pixel (Ci) determined as the defective pixel to be corrected. It is determined whether the pixel has a minimum value.
  • the target pixel is the maximum value pixel in the local region to which the target pixel belongs
  • pixel value correction is performed to set the pixel value of the target pixel to the pixel value (2ndMax) input from the intermediate pixel detection unit 161. . That is, the pixel value of the target pixel is corrected to the pixel value (2ndMax) of the pixel having the second largest pixel value after the maximum pixel value of the same color in the local region.
  • the target pixel is the minimum value pixel in the local region to which the target pixel belongs
  • pixel value correction that sets the pixel value of the target pixel to the pixel value (2ndMin) input from the intermediate pixel detection unit 161 To do. That is, the pixel value of the target pixel is corrected to the pixel value (2ndMin) of the pixel having the second smallest pixel value after the minimum pixel value of the same color in the local region.
  • the defective pixel correction unit 160 sequentially performs correction on defective pixels in each local region.
  • the local region is sequentially changed and set, and the same correction process is executed for all defective pixels constituting the image. Through this processing, all defective pixels in the processing target image are corrected, and a defect-corrected quadrant Bayer array image 212 shown in FIG. 11 is generated and output to the subsequent array conversion unit 170 (see FIG. 7).
  • step S201 one target pixel (Ci) is input. Note that the flow shown in FIG. 12 is repeatedly executed for all pixels by sequentially setting each pixel of the processed image as a target pixel.
  • step S203 the pixel value of the second largest pixel value (2ndMax) and the second smallest pixel value (2ndMin) are acquired from the local region to which the pixel of interest belongs.
  • step S204 it is determined whether the target pixel (Ci) is a pixel having the maximum pixel value or the minimum pixel value of the same color pixel in the local region to which the target pixel belongs.
  • step S204 if it is determined in step S204 that the target pixel (Ci) is a pixel having the minimum pixel value of the same color pixel in the local region to which the target pixel belongs, the process proceeds to step S206.
  • the defective pixel correction unit 160 repeatedly executes the processing according to the flow shown in FIG. 12 by sequentially setting each pixel of the processing target image as a target pixel. Through this processing, all defective pixels in the processing target image are corrected, and a defect-corrected quadrant Bayer array image 212 shown in FIG. 11 is generated and output to the subsequent array conversion unit 170 (see FIG. 7).
  • the imaging apparatus has a configuration in which the same subject light is diffused and incident on a plurality of pixels of the imaging element. That is, an image having an optical resolution lower than the pixel resolution corresponding to the pixel density of the image sensor is obtained.
  • the microlens 124 is disposed between the imaging lens 110 and the photoelectric conversion element 121, and imaging is performed. The configuration is such that incident light from the lens 110 is diffused.
  • multiple pixels of the image sensor are intentionally blurred and irradiated with the same subject light, so that multiple pixels are irradiated with light of uniform intensity, and the pixel values of pixels of the same color in these local areas are compared.
  • a configuration for irradiating the same subject light to a plurality of pixels of the image sensor a configuration other than the configuration using the microlens shown in FIG. 4 is possible.
  • a configuration using a low-resolution imaging lens 510 can irradiate a plurality of pixels of the imaging device with the same subject light.
  • the low resolution imaging lens 510 is a lens having a resolution lower than the pixel pitch of the imaging element, and the incident light incident through the low resolution imaging lens 510 is the most focused position.
  • a plurality of pixels, specifically, a 2 ⁇ 2 pixel region is set to be irradiated with the same subject light.
  • the configuration of the image sensor 520 illustrated in FIG. 13 corresponds to a configuration in which the microlens 124 is omitted from the image sensor 120 described above with reference to FIG. That is, the imaging element 520 has a configuration in which a photoelectric conversion element 521, a color filter 522, and an on-chip lens 523 are stacked.
  • the pixel array of the image sensor 520 is the four-divided Bayer array described with reference to FIG.
  • the low-resolution imaging lens 510 is used to realize a configuration in which the same subject light is diffused and incident on a plurality of pixels of the imaging device. .
  • a low level is provided between the image pickup lens 610 and the photoelectric conversion element 621.
  • An optical low-pass filter 624 that selectively transmits only frequency light may be disposed.
  • the optical low-pass filter 624 is an optical low-pass filter having a characteristic that does not transmit predetermined high-frequency component light from incident light that has passed through the imaging lens 610.
  • the light transmitted through the optical low-pass filter 624 serves to broaden, that is, blur, the light beam corresponding to the same subject light.
  • the same subject light is diffused and applied to a plurality of pixels of the image sensor.
  • the setting is such that the same subject light is irradiated onto the pixel region of 2 ⁇ 2 pixels.
  • the configuration of the image sensor 620 illustrated in FIG. 14 corresponds to a configuration in which the microlens 124 in the image sensor 120 described above with reference to FIG.
  • the other configuration is the same as the configuration shown in FIG.
  • the configuration of the imaging element 620 is a configuration in which a photoelectric conversion element 621, a color filter 622, and an on-chip lens 623 are stacked, and an optical low-pass filter 624 is disposed on the imaging lens side.
  • the pixel array of the image sensor 520 is the four-divided Bayer array described with reference to FIG.
  • the present invention can also be applied to an image sensor having a four-divided WRGB type arrangement as shown in FIG.
  • the array shown in FIG. 15B is an image pickup element having a 4-split WRGB type array configuration including White (transmission) pixels that transmit almost all visible wavelength light. Even when an image sensor having such a pixel arrangement is used, defective pixel detection and correction processing according to the above-described embodiment is possible.
  • the array conversion unit 170 of the signal processing unit 130 shown in FIG. 7 needs to execute a process of converting the four-part WRGB array into a Bayer array. is there.
  • the signal processing unit 130 described above with reference to FIG. 7 is an image in which pixel values after defect correction output from the defect detection correction unit 140 are set, that is, an image.
  • the array conversion unit 170 is configured to convert the pixel array of the defect correction quadrant Bayer array image 212 that is an input image, generate a Bayer array image 213, and input the image to the camera signal processing unit 180.
  • the camera signal processing unit 180 performs demosaic processing, that is, sets RGB pre-pixel values for each pixel based on the Bayer array image 213 in which only one of RGB pixel values is set for each pixel.
  • the demosaic processing is executed.
  • the signal processing unit 130 illustrated in FIG. 16 includes a demosaic processing unit 701 instead of the array conversion unit 170 illustrated in FIG.
  • the demosaic processing unit 701 inputs the defect correction quadrant Bayer array image 212 from the defect detection correction unit 140 to the array conversion unit 170, and converts the converted Bayer into a Bayer array based on the input image.
  • a demosaic process for setting all the RGB pixels to each pixel of the array image is executed.
  • the RGB image 711 generated by the demosaic process is output to the camera signal processing unit 180.
  • the camera signal processing unit 180 performs other general camera signal processing, such as white balance adjustment and gamma correction, without generating the demosaic processing, and generates the output image 300.
  • the first embodiment described above has a configuration in which the microlens 124 is disposed on the front surface of the image sensor 120 as described with reference to FIG.
  • the configuration in which subject light is diffused by the arrangement of the microlens 124 and the same subject light is irradiated to a plurality of pixels is as described above.
  • microlens 124 Another function of the microlens 124 is that it is possible to individually acquire images from different viewpoints or images with different focal lengths for each photoelectric conversion element region of the image sensor.
  • the literature [Ren. Ng and 7 others, “Light Field Photography with a Hand-Held Plenoidal Camera”, Stanford Tech Report CTSR 2005-02, has a technique called “Light Field Photographing”.
  • This method discloses a configuration in which a microlens is arranged on the front surface of the image sensor, diffuses incident light through the microlens, and irradiates the photoelectric conversion unit as in the first embodiment described above. With this configuration, it is possible to individually acquire images from different viewpoints or images with different focal lengths for each photoelectric conversion element region of the imaging element.
  • FIG. 18 illustrates a subject 900, an imaging lens 921, a microlens 922, and a photoelectric conversion element 923 as shooting targets.
  • Light emitted from a specific position from the head to the foot of the subject 900 passes through the imaging lens 921 as a main lens and is collected by one microlens having the microlens 922.
  • a light ray emitted from the head of the subject 900 in the figure is collected by the microlens 931 at the lower part of the image sensor as shown in the figure, and similarly, a light ray emitted from the foot of the subject 900 is inputted to the upper microlens 932. Condensate.
  • the light that has passed through these microlenses 922 is applied to each pixel of the photoelectric conversion element 923 in each corresponding patch.
  • the generation position of the light beam emitted from the subject can be recorded by the micro lens 922, and the direction of the light beam can be recorded by the image sensor.
  • a specific focus image or a specific viewpoint image can be generated by selectively using the light beam recorded in each pixel of the photoelectric conversion element 923.
  • an image passing through the lower end of the imaging lens 921 can be generated by collecting only the light rays drawn by the solid line (A) in FIG. Further, if the light rays drawn by the dotted line (B) in FIG. 18 are collected, an image passing through the central portion of the imaging lens 921 can be obtained. Furthermore, an image passing through the upper part of the imaging lens 921 can be obtained by collecting the light rays drawn by the one-dot chain line (C) in FIG. In this way, if an image having a plurality of viewpoints can be generated by one shooting, an image having a specific blur can be generated by combining light rays obtained from different viewpoints.
  • the specific viewpoint image generation unit 801 in the signal processing unit 130 illustrated in FIG. 17 executes these processes to generate images with different multiple viewpoints or multiple images with different focal points as the specific viewpoint image 811,
  • the data is output to the conversion unit 170.
  • the specific viewpoint image 811 shown in the figure is composed of one specific viewpoint image or a plurality of specific viewpoint images.
  • the specific viewpoint includes both the viewpoint as the observation position and the subject position at the specific focal length. In this way, by setting the specific viewpoint image generation unit 801, it is possible to simultaneously generate different specific viewpoint images together with defect correction.
  • the technology disclosed in this specification can take the following configurations.
  • the image sensor is The same subject light is input in local area units composed of a plurality of pixels of the image sensor, an image signal lower than the pixel resolution corresponding to the pixel density of the image sensor is acquired and output to the signal processing unit,
  • the signal processing unit An imaging apparatus that performs pixel value comparison of pixels of the same color included in the local region in units of local regions including a set of a plurality of pixels of the image sensor, and detects a defective pixel based on the comparison result.
  • the signal processing unit has a large variation in pixel values of the same color pixels included in the local area, and an intermediate pixel value excluding the maximum pixel value and the minimum pixel value of the same color pixels included in the local area
  • an intermediate pixel value excluding the maximum pixel value and the minimum pixel value of the same color pixels included in the local area
  • the signal processing unit is configured such that a standard deviation of pixel values of the same color pixels included in the local region is larger than a predetermined threshold (TH1), and a maximum pixel value of the same color pixels included in the local region
  • a predetermined threshold TH1
  • TH2 a predetermined threshold
  • the imaging device includes a photoelectric conversion unit including pixels arranged in a two-dimensional array, and a microlens arranged on the imaging lens side that is the front surface of the photoelectric conversion unit, and the imaging element is interposed therebetween.
  • the imaging apparatus according to any one of (1) to (3), wherein incident light is diffused through the microlens to receive the same subject light in units of the local region including a plurality of pixels of the imaging element. .
  • the imaging device has a pixel array obtained by dividing each pixel of a Bayer array composed of RGB pixels or an array composed of RGBW pixels into 2 ⁇ 2 pixels of the same color, and is divided into four (1) to (5)
  • the image sensor inputs the same subject light in units of local regions composed of 2 ⁇ 2 pixels of the same color of the image sensor, and acquires an image signal lower than the pixel resolution corresponding to the pixel density of the image sensor.
  • the imaging device according to (6) which is output to the signal processing unit.
  • the image sensor inputs the same subject light in units of a local area composed of 4 ⁇ 4 pixels or 8 ⁇ 8 pixels of the image sensor, and acquires an image signal lower than the pixel resolution corresponding to the pixel density of the image sensor. Then, the imaging apparatus according to (6), which is output to the signal processing unit.
  • the image pickup device picks up an image by entering subject light through a low resolution image pickup lens having a low optical resolution that forms a low resolution optical image lower than a pixel resolution corresponding to a pixel density of the image pickup device.
  • the imaging apparatus according to any one of (1) to (8), wherein an image signal lower than a pixel resolution corresponding to a pixel density of an element is acquired and output to the signal processing unit.
  • the imaging element includes a photoelectric conversion unit including pixels arranged in a two-dimensional array, and an optical low-pass filter disposed on the imaging lens side that is the front surface of the photoelectric conversion unit, and the imaging element is interposed therebetween.
  • the incident light is diffused through the optical low-pass filter to receive the same subject light in units of the local area composed of a plurality of pixels of the image sensor.
  • the signal processing unit includes a defective pixel correction unit that performs pixel value correction of a defective pixel, and the defective pixel correction unit has a pixel of the same color as a defective pixel included in the same local region as the defective pixel.
  • the imaging apparatus according to any one of (1) to (10), wherein a correction pixel value of the defective pixel is calculated using an intermediate pixel value excluding the maximum pixel value and the minimum pixel value as a reference pixel.
  • the defective pixel correction unit corrects the defective pixel by using the maximum pixel value in the intermediate pixel value.
  • the minimum pixel value in the intermediate pixel value is set as the corrected pixel value of the defective pixel.
  • An image processing method executed in the imaging apparatus In the imaging device, inputting the same subject light in a local region unit composed of a plurality of pixels of the imaging device, obtaining an image signal lower than the pixel resolution corresponding to the pixel density of the imaging device, and outputting the image signal to the signal processing unit; , In the signal processing unit, analysis of an output signal from the image sensor is performed, and a signal processing step is performed to detect a defective pixel included in the image sensor, In the signal processing step, the signal processing unit includes: An image processing method for executing a pixel value comparison of pixels of the same color included in a local region in units of a local region including a set of a plurality of pixels of the image sensor and detecting a defective pixel based on the comparison result.
  • a program for executing image processing in the imaging apparatus Inputting the same subject light to the image sensor in units of local regions composed of a plurality of pixels of the image sensor, obtaining an image signal lower than the pixel resolution corresponding to the pixel density of the image sensor, and outputting the image signal to the signal processing unit; , Causing the signal processing unit to perform an analysis of an output signal from the image sensor, and to execute a signal processing step for detecting a defective pixel included in the image sensor, In the signal processing step, A program for executing a pixel value comparison of pixels of the same color included in the local region in units of a local region composed of a set of a plurality of pixels of the image sensor and detecting a defective pixel based on the comparison result.
  • the series of processes described in the specification can be executed by hardware, software, or a combined configuration of both.
  • the program recording the processing sequence is installed in a memory in a computer incorporated in dedicated hardware and executed, or the program is executed on a general-purpose computer capable of executing various processing. It can be installed and run.
  • the program can be recorded in advance on a recording medium.
  • the program can be received via a network such as a LAN (Local Area Network) or the Internet and installed on a recording medium such as a built-in hard disk.
  • the various processes described in the specification are not only executed in time series according to the description, but may be executed in parallel or individually according to the processing capability of the apparatus that executes the processes or as necessary.
  • the system is a logical set configuration of a plurality of devices, and the devices of each configuration are not limited to being in the same casing.
  • the imaging apparatus includes an imaging element and a signal processing unit that performs analysis of an output signal from the imaging element and detects a defective pixel.
  • the image sensor receives incident light, for example, via a microlens arranged in front of the pixel, and inputs the same subject light in units of local areas composed of a plurality of pixels of the image sensor, and the pixel resolution corresponding to the pixel density of the image sensor Acquire a lower image signal.
  • the signal processing unit performs a pixel value comparison of the same color pixels included in the local region in a local region unit composed of a set of a plurality of pixels of the image sensor, and detects a defective pixel based on the comparison result, The pixel value of the pixel determined to be a defective pixel is corrected and output.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Optics & Photonics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Abstract

撮像素子の欠陥画素の検出を行い、欠陥画素の出力画素値を補正して出力画像を生成する。撮像素子と、撮像素子からの出力信号の解析を実行して欠陥画素の検出を実行する信号処理部を有する。撮像素子は、例えば画素前面に配置したマイクロレンズを介して入射光を受光して、撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得する。信号処理部は、撮像素子の複数画素の集合からなる局所領域単位で、局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行し、欠陥画素と判定された画素の画素値を補正して出力する。

Description

撮像装置、および画像処理方法、並びにプログラム
 本開示は、撮像装置、および画像処理方法、並びにプログラムに関する。特に、撮像素子の欠陥画素を検出する撮像装置、および画像処理方法、並びにプログラムに関する。
 デジタルカメラやビデオカメラ等に搭載される撮像素子は、半導体基板上に形成されたCMOS(Complementary Metal Oxide Semiconductor)イメージセンサや、CCD(Charge Coupled Device)イメージセンサによって構成される。このような撮像素子には、半導体基板上の局所的な結晶欠陥等により欠陥画素が発生することがある。
 このような欠陥画素は、入射光量に依存しない特異な画素値を出力してしまう。従って、撮像素子に欠陥画素が存在すると、エラー画素値を含む撮像画像が出力され、画質が劣化する。
 このような欠陥画素に基づくエラーを防止するため、従来のビデオカメラやデジタルカメラ等の撮像装置には、以下のような対策構成を有するものが多い。すなわち、予め、製造段階において固体撮像素子内の欠陥画素位置を示すアドレスデータを不揮発性メモリ等の記憶素子に記憶させる。画像の撮影時に記憶素子に記憶された欠陥画素を示すアドレスデータに基づいて、欠陥画素から出力される信号を補正して出力する。このような対策である。
 例えば、CMOSイメージセンサを搭載した撮像装置の場合、製造段階において撮像装置のレンズを遮光し、CMOSイメージセンサに光が入射されない状態で、CMOSイメージセンサの各画素の出力信号と被検査画素の周辺画素の出力信号とを比較する。これらの出力信号値の差が所定の閾値を超えた場合、この特異な信号を出力した画素を欠陥画素と判定する。
 さらに、欠陥画素と判定した画素位置を示すアドレスデータを不揮発性メモリに記憶する。欠陥画素検出が終了すると、CMOSイメージセンサと欠陥画素のアドレスデータが記憶された不揮発性メモリを撮像装置に内蔵して出荷する。
 ユーザがこの撮像装置を用いて画像を撮影する際には、不揮発性メモリに記憶されているCMOSイメージセンサの欠陥画素のアドレスデータに基づいて、CMOSイメージセンサからの出力映像信号に含まれる欠陥画素の出力信号を、その欠陥画素の近傍画素の出力信号を用いて補正し、補正後の画素値信号を有する画像を出力画像として出力する。
 従来の欠陥画素対策としては、このような手法が多く用いられている。
 しかし、この処理は、あくまで、撮像素子の製造段階で発見された欠陥画素に対して有効となるのみである。撮像装置の出荷後に、経年変化によって生じる撮像素子の欠陥画素については、上記の対策では対応できないという問題がある。
 このような問題に対して、例えば、特許文献1(特開平6-6685号公報)には、撮像装置の電源投入時に、撮像装置に搭載されているレンズの絞りを閉じて遮光状態とし、固体撮像素子の撮像出力信号によって欠陥画素の検出を行い、この欠陥画素からの検出信号に基づいて欠陥データを記録し保持して、撮影時にこの最新の欠陥データを用いて欠陥画素の補正を行う欠陥補正装置を開示している。
 しかしながら、このような欠陥補正構成では、欠陥画素のアドレスデータ等をメモリに記憶することが必要であり、そのためのメモリ容量を確保することが必要となり、装置のコストアップを招くという問題がある。また、補正可能な欠陥画素の数は、欠陥画素のアドレスデータの記憶を行うメモリの記憶容量に依存してしまうという問題もある。
 さらに、欠陥画素位置を格納するメモリを搭載することなく、出荷後に生じた欠陥画素についても検出および補正を可能とした構成について、例えば特許文献2(特開2008-154276号公報)や、特許文献3(特開2009-105872号公報)に記載されている。
 特許文献2は、撮影画像から選択された注目画素の周囲のテクスチャ方向などを検証して、テクスチャ方向を参考とした欠陥検出や欠陥補正を行う構成を開示している。このテクスチャ方向を参考とした処理によって、検出精度や補正精度が向上する。
 しかし、この構成では、例えば平坦領域など注目画素の周囲のテクスチャ方向が正確に得られない画像領域などにおいて、欠陥の検出、補正の性能が低下するという問題がある。また、テクスチャ方向を正確に判定するためには計算コストや回路規模が増大するという問題もある。
 また、特許文献3には、撮影画像に基づく欠陥画素の検出に周囲画素の標準偏差値を利用する構成を開示している。しかし、画像のエッジ箇所などでも標準偏差の値は大きくなるため、エッジ領域を欠陥画素と判定してしまうといった誤検出が発生し、誤った画素値補正を行うことで、かえって画質を劣化させてしまうことがあるという問題がある。
特開平6-6685号公報 特開2008-154276号公報 特開2009-105872号公報
 本開示は、例えば上記問題点に鑑みてなされたものであり、撮像素子に存在する欠陥画素の高精度な検出を実行し、欠陥画素の出力画素値を補正した品質の高い出力画像を生成する撮像装置、および画像処理方法、並びにプログラムを提供することを目的とする。
 本開示の第1の側面は、
 撮像素子と、
 前記撮像素子からの出力信号の解析を実行して、前記撮像素子に含まれる欠陥画素の検出を実行する信号処理部を有し、
 前記撮像素子は、
 前記撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力し、
 前記信号処理部は、
 前記撮像素子の複数画素の集合からなる局所領域単位で、該局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行する撮像装置にある。
 さらに、本開示の撮像装置の一実施態様において、前記信号処理部は、前記局所領域に含まれる同一色画素の画素値のばらつきが大きく、かつ、前記局所領域に含まれる同一色画素の最大画素値と最小画素値を除く中間画素値の平均値と、注目画素の画素値との差分が大きい場合に、前記注目画素を欠陥画素と判定する処理を実行する。
 さらに、本開示の撮像装置の一実施態様において、前記信号処理部は、前記局所領域に含まれる同一色画素の画素値の標準偏差が既定しきい値(TH1)より大きく、かつ、前記局所領域に含まれる同一色画素の最大画素値と最小画素値を除く中間画素値の平均値と、注目画素の画素値との差分絶対値が既定しきい値(TH2)より大きい場合に、前記注目画素を欠陥画素と判定する処理を実行する。
 さらに、本開示の撮像装置の一実施態様において、前記撮像素子は、二次元アレイ状に配列された画素からなる光電変換部と、前記光電変換部の前面である撮像レンズ側に配置されたマイクロレンズを有し、撮像レンズを介した入射光を前記マイクロレンズを介して拡散させて、前記撮像素子の複数画素からなる前記局所領域単位で同一被写体光を受光する構成を有する。
 さらに、本開示の撮像装置の一実施態様において、前記信号処理部は、前記マイクロレンズを有する撮像素子によって取得された画像から、特定の画素領域単位の画像の再構成により特定視点画像を生成する構成を有する。
 さらに、本開示の撮像装置の一実施態様において、前記撮像素子は、RGB各画素からなるベイヤ配列またはRGBW各画素からなる配列の各画素を同一色の2×2画素に4分割した画素配列を有する。
 さらに、本開示の撮像装置の一実施態様において、前記撮像素子は、前記撮像素子の2×2の同一色画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力する。
 さらに、本開示の撮像装置の一実施態様において、前記撮像素子は、前記撮像素子の4×4画素または8×8画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力する。
 さらに、本開示の撮像装置の一実施態様において、前記撮像素子は、前記撮像素子の画素密度に相当する画素分解能より低い低分解能の光学像を形成する低い光学分解能を有する低解像度撮像レンズを介した被写体光を入射することで、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力する。
 さらに、本開示の撮像装置の一実施態様において、前記撮像素子は、二次元アレイ状に配列された画素からなる光電変換部と、前記光電変換部の前面である撮像レンズ側に配置された光学ローパスフィルタを有し、撮像レンズを介した入射光を前記光学ローパスフィルタを介して拡散させて、前記撮像素子の複数画素からなる前記局所領域単位で同一被写体光を受光する構成を有する。
 さらに、本開示の撮像装置の一実施態様において、前記信号処理部は、欠陥画素の画素値補正を実行する欠陥画素補正部を有し、前記欠陥画素補正部は、欠陥画素と同一の局所領域に含まれる欠陥画素と同一色画素の最大画素値と最小画素値を除く中間画素値を参照画素として前記欠陥画素の補正画素値を算出する。
 さらに、本開示の撮像装置の一実施態様において、前記欠陥画素補正部は、前記欠陥画素が、欠陥画素の含まれる局所領域の同一色画素中の最大画素値である場合、前記中間画素値中の最大画素値を前記欠陥画素の補正画素値として設定し、前記欠陥画素が、欠陥画素の含まれる局所領域の同一色画素中の最小画素値である場合、前記中間画素値中の最小画素値を前記欠陥画素の補正画素値として設定する。
 さらに、本開示の第2の側面は、
 撮像装置において実行する画像処理方法であり、
 撮像素子において、該撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力するステップと、
 信号処理部において、撮像素子からの出力信号の解析を実行して、前記撮像素子に含まれる欠陥画素の検出を実行する信号処理ステップを実行し、
 前記信号処理部は、前記信号処理ステップにおいて、
 前記撮像素子の複数画素の集合からなる局所領域単位で、該局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行する画像処理方法にある。
 さらに、本開示の第3の側面は、
 撮像装置において画像処理を実行させるプログラムであり、
 撮像素子に、該撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力させるステップと、
 信号処理部に、撮像素子からの出力信号の解析を実行して、前記撮像素子に含まれる欠陥画素の検出を実行させる信号処理ステップを実行させ、
 前記信号処理ステップにおいては、
 前記撮像素子の複数画素の集合からなる局所領域単位で、該局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行させるプログラムにある。
 なお、本開示のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、情報処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。
 本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
 本開示の一実施例の構成によれば、撮像素子の欠陥画素の検出を行い、欠陥画素の出力画素値を補正して出力画像を生成する。
 具体的には、撮像装置は、撮像素子と、撮像素子からの出力信号の解析を実行して欠陥画素の検出を実行する信号処理部を有する。撮像素子は、例えば画素前面に配置したマイクロレンズを介して入射光を受光して、撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得する。信号処理部は、撮像素子の複数画素の集合からなる局所領域単位で、局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行し、欠陥画素と判定された画素の画素値を補正して出力する。
 これらの処理により、撮像素子に存在する欠陥画素を高精度に検出することが可能となり、欠陥画素の出力画素値を補正した高品質な出力画像を生成することができる。
ベイヤ配列と4分割ベイヤ型配列の画素構成について説明する図である。 一般的な撮像構成と、本開示の撮像装置における撮像素子の構成について説明する図である。 本開示の撮像装置における撮像イメージについて説明する図である。 本開示の撮像装置における撮像素子の構成について説明する図である。 本開示の撮像装置における撮像イメージについて説明する図である。 本開示の撮像装置の全体構成例について説明する図である。 本開示の撮像装置の信号処理部の一実施例について説明する図である。 本開示の撮像装置の信号処理部の欠陥検出補正部の構成例について説明する図である。 欠陥検出補正部の欠陥画素検出部の詳細構成例について説明する図である。 欠陥検出補正部の欠陥画素検出部の実行する処理シーケンスについて説明するフローチャートを示す図である。 欠陥検出補正部の欠陥画素補正部の詳細構成例について説明する図である。 欠陥検出補正部の欠陥画素補正部の実行する処理シーケンスについて説明するフローチャートを示す図である。 本開示の撮像装置の撮像素子の構成例について説明する図である。 本開示の撮像装置の撮像素子の構成例について説明する図である。 本開示の撮像装置の撮像素子の画素配列例について説明する図である。 本開示の撮像装置の信号処理部の一実施例について説明する図である。 本開示の撮像装置の信号処理部の一実施例について説明する図である。 撮像素子の光電変換素子の領域ごとにる異なる視点からの画像、あるいは、異なる焦点距離の画像を個別に取得する構成について説明する図である。
 以下、図面を参照しながら本開示の撮像装置、および画像処理方法、並びにプログラムの詳細について説明する。なお、説明は以下の項目に従って行う。
 1.本開示の撮像装置における撮像素子構成と入射光との対応について
 2.本開示の撮像装置の構成と処理について
 3.欠陥検出補正部の構成と処理について
 3-1.欠陥画素検出部の構成と処理の詳細について
 3-2.欠陥画素補正部の構成と処理の詳細について
 4.撮像レンズに低解像度レンズを利用した実施例
 5.光学ローパスフィルタを利用した実施例
 6.画素配列のバリエーションについて
 7.配列変換部をデモザイク処理部に置き換えた実施例
 8.特定視点画像生成部を備えた実施例
 9.本開示の構成のまとめ
  [1.本開示の撮像装置における撮像素子構成と入射光との対応について]
 まず、本開示の撮像装置における撮像素子構成と入射光との対応について説明する。
 図1には、以下の2つの撮像素子(イメージセンサ)の画素配列例を示している。
 (1)ベイヤ(Bayer)型RGB配列
 (2)4分割ベイヤ型RGB配列
 図1(1)に示すベイヤ(Bayer)型RGB配列は、現行のデジタルカメラや、ビデオカメラ等において多く利用されている撮像素子(イメージセンサ)の画素配列であり、各画素がR(赤)、G(緑)、B(青)の各色光を選択的に受光する構成である。具体的には、光電変換素子の前面にRGB各色の波長光を選択的に透過するカラーフィルタが装着され、撮像素子の各画素においてRGB各波長光を選択的に受光する構成となっている。
 RGB各画素の各々は、各画素単位で受光量に応じた電荷を蓄積する。各画素は、その蓄積電荷に応じた電気信号、すなわち画素値を出力する。
 一方、図1(2)に示す4分割ベイヤ型RGB配列は、本開示の撮像装置(撮像装置)において適用する撮像素子(イメージセンサ)の一構成例である。図1(2)に示す4分割ベイヤ型RGB配列は、図1(1)に示すベイヤ(Bayer)型RGB配列のRGB各画素を4分割した画素配列を有する。
 すなわち、図1(1)に示すベイヤ(Bayer)型RGB配列の1つのR画素を4分割して4つのR画素によって構成し、1つのG画素を4分割して4つのG画素によって構成し、1つのB画素を4分割して4つのB画素によって構成している。
 撮像素子全体としては、(2)に示す4分割ベイヤ型RGB配列の画素数は、(1)に示すベイヤ(Bayer)型RGB配列の画素数の4倍の画素数を持つ。
 昨今、半導体技術の進化に伴い、撮像素子の画素密度を飛躍的に上昇させることが可能となっており、画素数を大幅に増加させた撮像素子を生成することが可能となり、図1(2)に示すような画素密度の高い撮像素子を製造することが可能となっている。
 図1(2)に示す4分割ベイヤ型RGB配列の撮像素子は、図1(1)に示すベイヤ(Bayer)型RGB配列の撮像素子に比較して4倍の分解能を有する。
 しかし、本開示の撮像装置では、図1(2)に示す4分割ベイヤ型RGB配列の撮像素子を適用して、あえて、図1(1)に示すベイヤ(Bayer)型RGB配列の撮像素子の分解能レベルまで落とした画像を撮影する。この分解能レベルを落とした撮影画像を用いて高精度な欠陥画素検出を実現する。
 図2を参照して、本開示の撮像装置における撮像構成例について説明する。
 図2には、以下の2つの撮像構成を示している。
 (a)一般的な撮像構成
 (b)本開示の撮像装置における撮像構成の一実施例
 通常、撮像素子の分解能を生かした撮影を行なう場合、図2(a)に示すように、撮像レンズ110を介した入射光を、撮像素子120の各画素に撮影対象である被写体画像が結像するように合焦制御を行い撮像する。
 なお、撮像素子の各画素は、光電変換素子(フォトダイオード)121とカラーフィルタ122とオンチップレンズ123との積層構成を有している。各光電変換素子121は、光電変換素子121の前面のカラーフィルタ122の透過する波長光、すなわちR,G,B各色に対応する波長光の強度に応じた電荷を蓄積し、蓄積電荷に比例した信号(画素値)を出力する。
 この図2(a)に示すような撮像処理を行なえば、撮像素子の各画素単位で異なる被写体領域の画像を撮像することが可能となり、撮像素子の画素密度に応じた分解能の画像を撮影することができる。
 これに対して、図2(b)に示す本開示の一実施例に係る撮像構成は、撮像素子120が、図2(a)に示す撮像素子とは異なる構成を有する。すなわち、撮像素子120の前面、すなわち撮像レンズ110側にマイクロレンズ124を有する。
 マイクロレンズ124は、撮像レンズ110を介して入射する入射光を拡散させる処理を行なう。この拡散処理によって、本来であれば、図2(a)に示す1つの画素に集光する画像光が、光電変換素子121の複数画素、例えば2×2=4画素の画素領域に拡散して入射する。
 このような撮像処理によって、撮像素子120が取得する撮影画像は、撮像素子の有する分解能に相当する解像度を持たない低解像度の画像となるが、高精度な欠陥画素検出を行なうことが可能となる。この処理については後段で説明する。
 この図2(b)に示す撮像構成の、より具体的な撮像イメージについて、図3を参照して説明する。図3は、先に図1を参照して説明した2つの撮像素子配列に対する撮像構成を模式的に示した図である。図3には以下の撮像構成例を示している。
 (1)従来のベイヤ配列に対する撮像構成
 (2)4分割型ベイヤ配列に対する撮像構成例として、
 (2a)図2(a)に示す被写体像を各画素に結像する設定とした撮像構成
 (2b)図2(b)に示す被写体像を複数画素(2×2画素)に結像する設定とした撮像構成
 図3(1)に示す従来のベイヤ配列に対する撮像構成は、撮像素子の各画素、すなわちRGB各画素に対して被写体像のそれぞれ異なる領域が結像する。なお、図に示すRGBは、従来のベイヤ配列のRGB各画素を示している。ここでは2×2=4画素のみを示している。なお、点線で示す円錐は、各々が被写体の異なる領域に対応する入射光を概念的に示したものである。
 この構成によって例えば、撮像素子の画素数に応じた解像度の画像が得られる。
 図3(2)には、図1(2)に示す4分割型ベイヤ配列に対する撮像構成例として、以下の2つの例を示している。
 図3(2a)は、図2(a)に示す被写体像を各画素に結像する設定とした撮像構成である。
 図3(2a)に示す撮像構成では、図3(1)と同様、撮像素子の各画素に被写体像のそれぞれ異なる領域が結像する構成である。このような撮像処理を行なえば、図3(1)の従来のベイヤ配列の撮像素子の撮影画像の4倍の解像度の画像が得られる。
 これに対して、図3(2b)は、図1(2)に示す4分割型ベイヤ配列に対する撮像構成のもう1つの例であり、図2(b)に撮像構成に対応する。すなわち、被写体像を単一画素ではなく、複数画素(2×2=4画素)に結像する設定とした撮像構成である。図3(2a)に比較すると解像度は低下した画像となる。すなわち、解像度レベルは、図3(1)に示す従来のベイヤ配列を用いた撮像処理によって得られる画像と同様のレベルとなる。
 このように、本開示の撮像装置は、撮像素子(イメージセンサ)の分解能よりも粗い解像度で、入射光を集光させる。つまり撮像素子の画素密度によって規定される画素分解能より低い光学分解能を持つ画像を撮影する。
 多くの場合、高密度画素を持つ撮像素子を用いた撮像装置では、撮像素子の画素密度に対応する画素分解能に応じた光学分解能を持つレンズ等の光学素子を適用して撮像部が構成される。このように画素分解能と光学分解能とを一致させることで、先に図2(a)を参照して説明したように、各画素単位に異なる被写体像を結像させることが可能となり、撮像素子の画素密度に応じた解像度を持つ画像を撮影することができる。
 しかし、本開示の撮像装置では、図2(b)や、図3(2b)を参照して説明したように、あえて撮像素子の画素分解能より低い解像度の画像を撮影する。すなわち、光学分解能を画素分解能より低下させた構成とする。
 画素分解能より低い光学分解能の画像を取得するための構成としては、様々なものが利用可能である。以下に説明する第1実施例では、図2(b)を参照して説明したマイクロレンズ124を利用している。
 このマイクロレンズ124を有する撮像素子構成について、さらに、図4を参照して説明する。
 図4には、撮像レンズ110と撮像素子120の断面構成を示している。先に図2(b)を参照して説明したと同様の図である。さらに、図4(a)に、図3(2b)と同様の撮像素子に対する2×2=4画素に対する撮像構成の模式図を示している。
 図4に示すように、撮像素子120は、二次元アレイ状に配列された画素からなる光電変換素子(フォトダイオード)121上に各画素対応の色(RGB)の設定されたカラーフィルタ122を配置し、さらにその上にオンチップレンズ123を搭載した構成を有する。
 本実施例の撮像素子120は、図4に示すように、オンチップレンズ123上にさらに、マイクロレンズ124を配置した構成を有する。
 先に説明したように、通常、フォーカスがあっている被写体から発せられる光は、撮像レンズ110を介して各光電変換素子(フォトダイオード)の位置に集光するように設計される。すなわち、先に図2(a)を参照して説明した撮像構成である。
 しかし、本開示の撮像装置では、被写体から発せられる光は、撮像レンズ110を介してマイクロレンズ124上で集光し、2Nx2N(Nは任意の整数)の画素(光電変換素子)に広がって照射される。
 図4(a)に示す例は、先に図3(2b)を参照して説明したと同様、N=1の場合、すなわち2×2画素に拡散して同じ被写体領域からの入射光が入光する設定である。
 このような構成においては、拡散した光があたる局所領域の画素集合に含まれる各画素、すなわち2×2=4画素を構成する個別の画素に、ほぼ同量の光が入射される。
 従って、2×2=4画素の各々の出力は、均一な出力値(画素値)となるはずである。
 しかし、同一被写体光が拡散して入射する一単位の画素集合、すなわち、本例では図4(a)に示すような2×2=4画素に欠陥画素が含まれていると、画素集合(4画素)中、欠陥画素のみの出力値(画素値)が、他の画素(正常画素)の出力値(画素値)と異なる値となる。このように、同一被写体光が入射する1つの画素集合の個別画素の出力画素値が均一でない場合、その画素集合には欠陥画素が含まれると推定することができる。
 本開示の撮像装置は、このように同一被写体光が入射する画素集合単位で画素集合構成画素の出力値(画素値)同士を比較し、均一な出力でない場合に欠陥画素が含まれると判定し、さらに欠陥画素を特定する処理を行なう。
 このような処理を行なうことで、例えば画像内のエッジ領域と欠陥画素とを混同することなく、高精度な欠陥画素の検出を行なうことが可能となる。
 なお、検出された欠陥画素の出力画素値は、撮像装置の信号処理部内で補正した後、出力される。
 なお、本実施例において、カラーフィルタ配列は、図1(2)を参照して説明した4分割ベイヤ型RGB配列を利用した例として説明する。ただし、本開示の処理は、この4分割ベイヤ型RGB配列以外の様々な配列を持つ撮像素子に適用可能である。
 また、同一被写体光が拡散して入射する一単位の画素集合の構成として、図3(2b)や図4(a)には、2×2=4画素とした例を示しているが、画素集合の設定は、このような2×2画素の設定に限らず、様々な設定が可能である。
 例えば、図5(b)に示すように、同一被写体光が拡散して入射する画素集合を4×4=16画素とした設定、あるいは、図5(c)に示すように、同一被写体光が拡散して入射する画素集合を8×8=64画素とした設定など、様々な設定が可能とである。
 ただし、欠陥画素を検出する場合の画素値比較に際しては、同一被写体光が拡散して入射する画素集合内の同一色の画素同士の出力値の比較を実行する。
  [2.本開示の撮像装置の構成と処理について]
 次に、図6以下を参照して本開示の第1実施例の撮像装置の構成例と処理例について説明する。
 図6は、本開示の第1実施例に係る撮像装置100の全体構成を示す図である。
 光学レンズ110を介して入射される光は撮像部、例えばCMOSイメージセンサなどによって構成される撮像素子120に入射し、光電変換による画像データを出力する。
 撮像素子120は、例えば図4に示す構成を有する撮像素子120である。例えば図1(2)を参照して説明した4分割ベイヤ型RGB配列を有し、図4(a)、または図5(b),(c)等に示すように、同一被写体光が拡散して入射する一単位の画素集合を有する。
 図6に示す撮像素子120から出力される画像データは信号処理部130に入力される。信号処理部130は、例えば、以下に説明する欠陥画素の検出および欠陥画素の画素値補正等の処理を実行し、さらに、ホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理を実行して出力画像300を生成する。出力画像300は図示しない記憶部に格納される。あるいは表示部に出力される。
 制御部135は、例えば図示しないメモリに格納されたプログラムに従って各部に制御信号を出力し、各種の処理の制御を行う。
 次に、信号処理部130の構成例について図7を参照して説明する。
 図7は、本開示の一実施例の信号処理部130の構成を示す図である。
 信号処理部130は、図7に示すように欠陥検出補正部140、配列変換部170、カメラ信号処理部180を有する。
 撮像素子120は、図1(2)を参照して説明した画素配列を有し、4分割ベイヤ配列画像211を生成して出力する。
 なお、撮像素子120の出力する4分割ベイヤ型配列画像211は、図4を参照して説明したように、同一被写体光が拡散して入射する一単位の画素集合によって構成されている。
 撮像素子120から出力された4分割ベイヤ型配列画像211は、欠陥検出補正部140に入力される。
 欠陥検出補正部140は、撮像素子120から4分割ベイヤ型配列画像211を入力し、この画像を構成する画素の画素値を解析し、欠陥画素の検出を行う。さらに検出された欠陥画素の画素値を補正する処理を実行する。この結果として、欠陥補正4分割ベイヤ配列画像212を生成して出力する。
 欠陥検出補正部140の生成した欠陥補正4分割ベイヤ配列画像212は、配列変換部170に入力される。
 配列変換部170は、欠陥検出補正部140から欠陥補正4分割ベイヤ配列画像212を入力し、4分割ベイヤ配列を通常のベイヤ配列、すなわち、図1(1)に示すベイヤ配列画像に変換する処理を実行する。配列変換部170は、この配列変換により、ベイヤ配列画像213を生成してカメラ信号処理部180に出力する。
 カメラ信号処理部180は、配列変換部170から出力されるベイヤ配列画像213を入力し、ベイヤ配列画像のRGB各画素位置にRGB全色を設定するデモザイク処理を実行する。さらに、ホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理を実行し、出力画像300を生成して出力する。
 制御部135は、例えば図示しないメモリに格納されたプログラムに従って各部に制御信号を出力し、各種の処理の制御を行う。
  [3.欠陥検出補正部の構成と処理について]
 次に、図8を参照して、欠陥検出補正部140の構成と処理について説明する。
 欠陥検出補正部140は、図8に示すように、局所領域抽出部141、欠陥画素検出部150、欠陥画素補正部160を有する。
 撮像素子120の出力する4分割ベイヤ配列画像211は、欠陥画素検出補正部140の局所領域抽出部141に入力される。
 局所領域抽出部141は、次の欠陥画素検出部150において利用する局所領域の画素値を選択抽出する。この局所領域は、同一被写体光が拡散して入射する一単位の画素集合に対応する領域である。例えば図4に示す構成の場合、2×2画素からなる画素領域を局所領域として順次、抽出する。
 また、図5(b)に示すような4×4画素が、同一被写体光が拡散して入射する一単位の画素集合である場合は、この4×4画素領域を局所領域として抽出する。
 また、図5(c)に示すような8×8画素が、同一被写体光が拡散して入射する一単位の画素集合である場合は、この8×8画素領域を局所領域として抽出する。
 局所領域抽出部141の抽出した局所領域の画素情報は、欠陥画素検出部150に出力される。
 欠陥画素検出部150は、局所領域単位、すなわち、同一被写体光が拡散して入射する画素集合単位で欠陥画素検出処理を実行する。
 欠陥画素検出部150の具体的構成と処理については、後段で詳細に説明する。
 欠陥画素検出部150の検出した欠陥画素情報は、欠陥画素補正部160に出力される。
 欠陥画素補正部160は、欠陥画素検出部150の検出した欠陥画素情報に基づいて特定した欠陥画素の画素値を補正する処理を実行する。
 この欠陥画素補正部160の具体的構成と処理については、後段で詳細に説明する。
 欠陥画素補正部160は、欠陥画素の画素値を補正した欠陥補正4分割ベイヤ配列画像212を生成して、図7に示す信号処理部130内の配列変換部170に出力する。
  [3-1.欠陥画素検出部の構成と処理の詳細について]
 次に、図8に示す欠陥検出補正部140内の欠陥画素検出部150の詳細構成について、図9を参照して説明する。
 図9は、図8に示す欠陥検出補正部140内の欠陥画素検出部150の詳細構成を示す図である。
 図9に示すように、欠陥画素検出部150は、最大/最小画素値検出部151、標準偏差(std)算出部152、中間画素値平均(T)算出部153、欠陥画素判定部154を有する。
 最大/最小画素値検出部151は、図8に示す欠陥検出補正部140の局所領域抽出部141の抽出した局所領域画素情報401を入力する。
 局所領域抽出部141は、前述したように、同一被写体光が拡散して入射する画素集合の画素値情報を局所領域画素情報401として抽出する。例えば図4に示す構成の場合、2×2画素からなる画素領域が1つの局所領域であり、この局所領域単位で局所領域画素情報401を順次、生成して図9に示す欠陥画素検出部150の最大/最小画素値検出部151に出力する。
 最大/最小画素値検出部151は、局所領域画素情報401に含まれる同一色画素の最大画素値と最小画素値を検出する。
 なお、以下に説明する処理例においては、局所領域は2×2画素からなる同一色画素領域であるものとして説明する。2×2=4画素の局所領域は、RまたはGまたはBの同一色の4画素のみによって構成される。
 図9には、局所領域画素情報401の一例として、4分割ベイヤ型RGB配列中の2×2の4つのR画素:R1,R2,R3,R4を入力する例を示している。
 最大/最小画素値検出部151は、2×2=4画素の同一色の4画素から最大の画素値を持つ画素と最小の画素値を持つ画素を検出し、この検出情報を局所領域画素情報401に併せて標準偏差(std)算出部152と、中間画素平均値(T)算出部153に出力する。
 標準偏差(std)算出部152は、局所領域画素情報401に含まれる複数の同一色画素の画素値の標準偏差(std)を算出する。標準偏差(std)は、以下に示す(式1)に従って算出する。
Figure JPOXMLDOC01-appb-M000001
   ・・・・(式1)
 なお、上記(式1)において、
 ave:局所領域の同一色画素の画素値平均、
 n:局所領域の同一色画素の画素数、
 i:局所領域の同一色画素の各画素対応のインデックス)i=1,2,3,・・・n、
 Ci:局所領域内の同一色画素(C=RまたはGまたはB)のインデックスiの設定された画素の画素値、
 std:局所領域の同一色画素の画素値の標準偏差
 である。
 例えば局所領域が図9に示すようにR1~R4の4画素から構成されている場合、
 n=4、
 i=1~4、
 Ci=R1~R4各々の画素値
 これらの各値が適用される。
 標準偏差(std)算出部152が、上記(式1)に従って算出した標準偏差(std)の値は、欠陥画素判定部154に入力される。
 中間画素平均値(ave)算出部153は、局所領域画素情報401に含まれる複数の同一色画素の画素値の最大画素値と最小画素値を除く中間画素値を持つ画素の画素値の平均値、すなわち中間画素平均値(T)を算出する。中間画素平均値(T)は、以下に示す(式2)に従って算出する。
Figure JPOXMLDOC01-appb-M000002
   ・・・・(式2)
 なお、上記(式2)において、
 n::局所領域の同一色画素の画素数、
 2ndMax:局所領域の同一色画素の2番目に大きな画素値、
 2ndMin:局所領域の同一色画素の2番目に小さな画素値、
 T:中間画素平均値、
 である。
 例えば局所領域が図9に示すようにR1~R4の4画素から構成されている場合、
 n=4、
 2ndMax=R1~R4中、2番目に大きな値を持つ画素値、
 2ndMin=R1~R4中、2番目に小さな値を持つ画素値、
 これらの各値が適用される。
 中間画素平均値(T)算出部153が、上記(式2)に従って算出した中間画素平均値(T)の値は、欠陥画素判定部154に入力される。
 欠陥画素判定部154は、以下の各値を入力する。
 (1)標準偏差(std)算出部152が、上記(式1)に従って算出した標準偏差(std)の値、
 (2)中間画素平均値(T)算出部153が、上記(式2)に従って算出した中間画素平均値(T)の値、
 欠陥画素判定部154は、これらの各値を入力し、局所領域に含まれる同一色画素から順次、選択した注目画素が欠陥画素であるか否かを判定する。
 この判定処理は、以下に示す(式3)に従って行われる。
Figure JPOXMLDOC01-appb-M000003
     ・・・(式3)
 なお、上記(式3)において、
 std:前記(式1)に従って算出された標準偏差の値、
 T:前記(式2)従って算出された中間画素平均値、
 TH1:予め規定したしきい値、
 TH2:予め規定したしきい値、
 Ci:局所領域から順次選択される注目画素の画素値
 である。
 局所領域から順次選択される注目画素(Ci)について、上記に示す(式3)が成立する場合、その注目画素(Ci)は、欠陥画素であると判定する。
 一方、注目画素(Ci)について、上記に示す(式3)が成立しない場合、その注目画素(Ci)は、欠陥画素でないと判定する。
 上記(式3)は、各注目画素(Ci)について、以下の2つの条件を満足する場合にその注目画素(Ci)を欠陥画素と判定する式である。
 (第一の条件)注目画素(Ci)を含む局所領域の注目画素と同一色の画素を用いて、先に説明した(式1)に従って算出した標準偏差(std)が予め規定した閾値(TH1)より大きいこと、
 (第二の条件)注目画素(Ci)を含む局所領域の注目画素と同一色の画素を用いて、先に説明した(式2)に従って算出した中間画素平均値(T)と、注目画素の画素値(Ci)との差分絶対値が、予め規定したしきい値(TH2)より大きいこと、
 すなわち、局所領域に含まれる同一色画素の画素値のばらつきが大きく、かつ、
 局所領域に含まれる同一色画素の最大画素値と最小画素値を除く中間画素値の平均値と、注目画素の画素値との差分が大きい場合に、注目画素を欠陥画素と判定する。
 欠陥画素判定部154は、局所領域から順次選択した注目画素Ciについて、上記(式3)を満足するか否かを判定し、満足する場合は、その注目画素は欠陥画素であると判定し、満足しない場合は、欠陥画素でないと判定する。
 欠陥画素判定部154は、この判定結果を示す情報として、各注目画素に対応させた欠陥判定フラグ等の欠陥画素判定情報402を生成して次の欠陥画素補正部160に出力する。
 欠陥判定フラグは、例えば、注目画素が欠陥画素である場合は[1]、欠陥画素でない場合は[0]の設定としたフラグである。
 なお、欠陥画素検出部150は、局所領域に含まれる各画素について、順次、注目画素に選定し、選定注目画素が欠陥画素であるか否かを判定する処理を、注目画素を順じ、切り替えて繰り返し実行する。
 その結果として、注目画素に含まれるすべての画素に対して欠陥画素であるか否かの判定が実行される。
 なお、局所領域は、順次、変更して設定され、画像を構成するすべての画素について同様の処理を実行する。
 次に、図9に示す欠陥画素検出部150の実行する欠陥画素検出処理のシーケンスについて図10に示すフローチャートを参照して説明する。
 なお、理解を容易にするため、具体的な局所領域画素情報として、図10の左上に示す4分割ベイヤ型RGB配列中の中央のR1~R4画素からなる2×2の画素領域の画素情報を入力して処理を行なう例について説明する。
 まず、ステップS101において、局所領域から1つの注目画素(Ci)を選択する。
 なお、この図10に示すフローチャートは、極処領域に含まれる各画素を順次、注目画素として選択して、繰り返し実行する。
 ここでは、局所領域構成画素R1~R4の1つである画素R1を注目画素として選択したと仮定して説明する。
 次に、ステップS102において、注目画素(Ci)が局所領域の同一色画素の最大画素値または最小画素値のいずれかであるか否かを判定する。
 注目画素(Ci=R1)が局所領域における同一色画素の最大画素値または最小画素値である場合(ステップS102の判定=Yes)は、ステップS103に進む。
 一方、注目画素が局所領域における同一色画素の最大画素値または最小画素値でない場合(ステップS102の判定=No)は、その注目画素(Ci=R1)は欠陥画素ではないと判定して処理を終了する。
 注目画素(Ci)を画素R1とした場合、以下の判定処理を行なう。
 注目画素R1が、その他の画素R2,R3,R4の各画素値より大きい画素値を持つ最大画素値の画素であるか、あるいは、注目画素R1が、その他の画素R2,R3,R4の各画素値より小さい値を持つ最小画素値の画素のいずれかであるか否かを判定する。
 ステップS102の判定処理において、注目画素が局所領域における同一色画素の最大画素値または最小画素値であると判定した場合は、ステップS103に進む。
 ステップS103では、局所領域に含まれる複数の同一色画素の画素値の標準偏差(std)を算出する。
 この処理は、先に図9を参照して説明した標準偏差(std)算出部152の実行する処理である。
 先に説明した(式1)に従って局所領域に含まれる複数の同一色画素の画素値の標準偏差(std)を算出する。
 例えば局所領域に含まれる画素がR1~R4である場合、これらの4画素の画素値を前述の(式1)のCiに設定して標準偏差(std)を算出する。
 次に、ステップS04において、局所領域に含まれる複数の同一色画素の画素値の最大画素値と最小画素値を除く中間画素値を持つ画素の画素値の平均値、すなわち中間画素平均値(T)を算出する。
 この処理は、先に図9を参照して説明した中間画素平均値(ave)算出部153の実行する処理である。
 先に説明した(式2)に従って、局所領域に含まれる複数の同一色画素の画素値の最大画素値と最小画素値を除く中間画素値を持つ画素の画素値の平均値、すなわち中間画素平均値(T)を算出する。
 例えば局所領域に含まれる画素がR1~R4である場合、これらの4画素の画素値の最大画素値と最小画素値を除く中間画素値を持つ2つの画素値の平均を中間画素平均値(T)として算出する。
 次に、ステップS105において、注目画素(Ci)が欠陥画素であるか否かの判定処理を実行する。
 この処理は、先に図9を参照して説明した欠陥画素判定部154の処理である。
 先に説明したように、欠陥画素判定部154は、以下の各値に基づいて、注目画素(Ci)が欠陥画素であるか否かを判定する。
 (1)標準偏差(std)算出部152が、上記(式1)に従って算出した標準偏差(std)の値、
 (2)中間画素平均値(T)算出部153が、上記(式2)に従って算出した中間画素平均値(T)の値、
 欠陥画素判定部154は、これらの各値を入力し、局所領域に含まれる同一色画素から順次、選択した注目画素(Ci)が欠陥画素であるか否かを判定する。
 この判定処理は、先に説明した(式3)に従って行われる。
 注目画素に関して、(式3)が成立する場合、その注目画素は、欠陥画素であると判定する。
 一方、注目画素について、(式3)が成立しない場合、その注目画素は、欠陥画素でないと判定する。
 注目画素に関して、(式3)が成立し、注目画素が欠陥画素であると判定した場合は、ステップS106に進み、注目画素対応フラグである欠陥検出フラグの値を[1]に設定する。
 一方、注目画素に関して、(式3)が成立せず、注目画素が欠陥画素でないと判定した場合は、処理を終了する。この場合、注目画素対応フラグである欠陥検出フラグの値は初期値[0]のままの設定とする。
 なお、図10に示すフローは、局所領域に含まれる各画素について、順次、注目画素に選定して、選定した注目画素単位で、順次、繰り返し実行する。
 その結果として、注目画素に含まれるすべての画素に対して欠陥画素であるか否かの判定が実行される。
 なお、局所領域は、順次、変更して設定され、画像を構成するすべての画素について同様の処理を実行する。
  [3-2.欠陥画素補正部の構成と処理の詳細について]
 次に、図11を参照して図8に示す欠陥検出補正部140内の欠陥画素補正部160の構成と処理の詳細について説明する。
 欠陥画素補正部160は、前段の欠陥画素検出部150において欠陥画素と判定された画素の画素値を補正する処理を行なう。
 前段の欠陥画素検出部150から、局所領域の画素情報とともに、欠陥画素判定情報(画素対応欠陥判定フラグ)402を入力し、このフラグに基づいて欠陥画素であると判定された画素を特定し、欠陥画素の画素値を補正する。
 中間画素検出部161は、欠陥画素の含まれる局所領域から、欠陥画素と同一色の画素である以下の画素値を取得する。
 (a)局所領域内の最大画素値の次、すなわち2番目に大きな画素値を持つ画素の画素値(2ndMax)、
 (b)局所領域内の最小画素値の次、すなわち2番目に小さな画素値を持つ画素の画素値(2ndMin)、
 中間画素検出部161は、これらの画素値情報を取得して画素値補正部162に出力する。
 画素値補正部162は、まず、補正対象となる欠陥画素と判定された注目画素(Ci)について、注目画素が、その注目画素の属する局所領域内の同一色画素中、最大値を持つ画素であるか、最小値を持つ画素であるかを判定する。
 注目画素が、その注目画素の属する局所領域内の最大値画素である場合は、その注目画素の画素値を、中間画素検出部161から入力した画素値(2ndMax)に設定する画素値補正を行なう。
 すなわち、注目画素の画素値を、局所領域内の同一色の最大画素値の次、すなわち2番目に大きな画素値を持つ画素の画素値(2ndMax)に補正する。
 一方、注目画素が、その注目画素の属する局所領域内の最小値画素である場合は、その注目画素の画素値を、中間画素検出部161から入力した画素値(2ndMin)に設定する画素値補正を行なう。
 すなわち、注目画素の画素値を、局所領域内の同一色の最小画素値の次、すなわち2番目に小さな画素値を持つ画素の画素値(2ndMin)に補正する。
 欠陥画素補正部160は、各局所領域の欠陥画素について順次、補正を実行する。
 また、局所領域は、順次、変更して設定され、画像を構成するすべての欠陥画素について同様の補正処理を実行する。
 この処理により、処理対象画像の欠陥画素は全て補正され、図11に示す欠陥補正4分割ベイヤ配列画像212が生成され、後段の配列変換部170(図7参照)に出力される。
 次に、図12に示すフローチャートを参照して、欠陥画素補正部160の実行する欠陥画素補正処理の詳細シーケンスについて説明する。
 まず、ステップS201において、1つの注目画素(Ci)を入力する。
 なお、図12に示すフローは、処理画像の各画素を、順次、注目画素に設定して、全画素について繰り返し実行する。
 次に、ステップS202において、注目画素の欠陥検出フラグの設定が、欠陥画素であることを示す値[1]に設定されているか否かを判定する。
 欠陥検出フラグ=1の場合は、ステップS203に進む。
 一方、欠陥検出フラグ=0、すなわち欠陥画素でないことを示す場合は、補正を行なうことなく、処理を終了する。
 注目画素(Ci)の欠陥検出フラグの値が[1]であり、注目画素が欠陥画素である場合は、ステップS203に進む。
 ステップS203では、注目画素の属する局所領域から、その注目画素と同一色の画素中、2番目に大きな画素値(2ndMax)と、2番目に小さな画素値(2ndMin)の各画素値を取得する。
 次に、ステップS204において、注目画素(Ci)が注目画素の属する局所領域において同一色画素の最大画素値を持つ画素であるか、最小画素値を持つ画素であるかを判定する。
 注目画素(Ci)が注目画素の属する局所領域において同一色画素の最大画素値を持つ画素であると判定した場合は、ステップS205に進む。ステップS205では、注目画素の画素値を、注目画素の属する局所領域内の注目画素と同一色の画素中、2番目に大きな画素値(2ndMax)に設定する。すなわち、注目画素の画素値(Ci)を以下のように設定する。
 Ci=2ndMax
 一方、ステップS204において、注目画素(Ci)が注目画素の属する局所領域において同一色画素の最小画素値を持つ画素であると判定した場合は、ステップS206に進む。ステップS206では、注目画素の画素値を、注目画素の属する局所領域内の注目画素と同一色の画素中、2番目に小さな画素値(2ndMin)に設定する。すなわち、注目画素の画素値(Ci)を以下のように設定する。
 Ci=2ndMin
 欠陥画素補正部160は、この図12に示すフローに従った処理を、処理対象画像の各画素を順次、注目画素に設定して、繰り返し実行する。
 この処理により、処理対象画像の欠陥画素は全て補正され、図11に示す欠陥補正4分割ベイヤ配列画像212が生成され、後段の配列変換部170(図7参照)に出力される。
  [4.撮像レンズに低解像度レンズを利用した実施例]
 次に、本開示の撮像装置の実施例2として、撮像レンズに低解像度レンズを利用した実施例について説明する。
 本開示の撮像装置は、先に図4等を参照して説明したように、撮像素子の複数画素に対して、同一被写体光が拡散して入射する構成を有している。
 すなわち、撮像素子の画素密度に対応した画素分解能より低い光学分解能の画像を取得する構成としている。
 このような画像を取得するために、上述の実施例1では、図4他を参照して説明したように、撮像レンズ110と、光電変換素子121の間にマイクロレンズ124を配置して、撮像レンズ110からの入射光を拡散する構成としている。
 このように、撮像素子の複数画素に同一被写体光をあえてぼかして照射することで、複数画素に均一な強度の光が照射する構成とし、これらの局所領域の同一色の画素の画素値の比較を行なうことで、高精度な欠陥画素検出を可能にしている。
 撮像素子の複数画素に同一被写体光を照射する構成としては、図4に示すマイクロレンズを利用した構成以外の構成も可能である。
 例えば、図13に示すように、低解像度撮像レンズ510を用いた構成によって、撮像素子の複数画素に同一被写体光を照射することが可能である。
 図13に示す構成において、低解像度撮像レンズ510は、撮像素子の画素ピッチよりも低い解像度を持つレンズであり、低解像度撮像レンズ510を介して入射した入射光は、最もフォーカスのあった位置でも複数画素、具体的には、図13(a)に示すように2×2画素の画素領域に同一被写体光が照射される設定となる。
 このように、画素ピッチよりも低い解像度を持つレンズを適用することで、フォーカスがあっている被写体の光を、複数画素に拡散させて照射することが可能となる。
 図13に示す撮像素子520の構成は、先に図4を参照して説明した撮像素子120からマイクロレンズ124を省いた構成に相当する。すなわち、撮像素子520は、光電変換素子521、カラーフィルタ522、オンチップレンズ523を積層した構成を有する。
 撮像素子520の画素配列は、実施例1と同様、図1(2)を参照して説明した4分割ベイヤ型配列である。
  [5.光学ローパスフィルタを利用した実施例]
 次に、本開示の撮像装置の実施例3として、光学ローパスフィルタを利用した実施例について説明する。
 実施例1では、図4に示すように、マイクロレンズ124を用いることで、撮像素子の複数画素に対して、同一被写体光が拡散して入射する構成を実現している。
 また、上記の実施例2では、図13に示すように、低解像度撮像レンズ510を用いることで、撮像素子の複数画素に対して、同一被写体光が拡散して入射する構成を実現している。
 この他、撮像素子の複数画素に対して、同一被写体光が拡散して入射する構成を実現するために、図14に示すように、撮像レンズ610と、光電変換素子621との間に、低周波光のみを選択的に透過する光学ローパスフィルタ624を配置した構成としてもよい。
 図14に示す構成において、光学ローパスフィルタ624は、撮像レンズ610を介した入射光から所定の高周波成分光を透過させない特性を持つ光学ローパスフィルタである。
 この光学ローパスフィルタ624の透過光は、図14に示すように、同一被写体光に相当する光束を広げる、すなわちぼかす役目を果たす。結果として、先に説明した実施例1や実施例2と同様、同一被写体光が、撮像素子の複数画素に拡散して照射される。具体的には、図14(a)に示すように2×2画素の画素領域に同一被写体光が照射される設定となる。
 図14に示す撮像素子620の構成は、先に図4を参照して説明した撮像素子120中のマイクロレンズ124を、光学ローパスフィルタ624に置き換えた構成に相当する。その他の構成は、図4に示す構成と同様の構成である。撮像素子620の構成は、光電変換素子621、カラーフィルタ622、オンチップレンズ623を積層し、撮像レンズ側に光学ローパスフィルタ624を配置した構成である。
 撮像素子520の画素配列は、実施例1と同様、図1(2)を参照して説明した4分割ベイヤ型配列である。
  [6.画素配列のバリエーションについて]
 先に説明した実施例1では、撮像素子の画素配列として、図1(2)に示す4分割ベイヤ型RGB配列を利用した構成について説明した。
 本開示の処理は、図1(2)に示す4分割ベイヤ型RGB配列に限らず、その他、様々な画素配列の撮像素子にも適用可能である。
 例えば図15(B)に示すような4分割WRGB型配列構成を持つ撮像素子にも適用可能である。
 図15(B)に示す配列は、ほぼ全ての可視波長光を透過するWhite(透過)画素を含む4分割WRGB型配列構成を持つ撮像素子である。このような画素配列を持つ撮像素子を利用した場合も、上述した実施例に従った欠陥画素検出および補正処理が可能である。
 なお、図15(B)に示すWRGB型配列を用いた場合、図7に示す信号処理部130の配列変換部170は、4分割WRGB配列をベイヤ配列に変換する処理を実行することが必要である。
  [7.配列変換部をデモザイク処理部に置き換えた実施例]
 先に図7を参照して説明した信号処理部130は、欠陥検出補正部140から出力された欠陥補正後の画素値の設定された画像、すなわち。図7に示す欠陥補正4分割ベイヤ配列画像212を配列変換部170に入力していた。配列変換部170は、入力画像である欠陥補正4分割ベイヤ配列画像212の画素配列を変換し、ベイヤ配列画像213を生成してカメラ信号処理部180に入力する構成である。
 すなわち、前述の実施例1は、カメラ信号処理部180において、デモザイク処理、すなわち各画素にRGBいずれかの画素値のみが設定されたベイヤ配列画像213に基づいて各画素にRGB前画素値を設定するデモザイク処理を実行する構成である。
 これに対して、図16に示す信号処理部130は、図7に示す配列変換部170の代わりにデモザイク処理部701を有する。
 デモザイク処理部701は、欠陥検出補正部140から欠陥補正4分割ベイヤ配列画像212を配列変換部170に入力し、この入力画像に基づいて、ベイヤ配列への変換にな併せて、変換後のベイヤ配列画像の各画素にRGB全画素を設定するデモザイク処理を実行する。このデモザイク処理によって生成したRGB画像711をカメラ信号処理部180に出力する。
 カメラ信号処理部180は、デモザイク処理を実行することなく、その他の一般的なカメラ信号処理、例えばホワイトバランス調整、ガンマ補正等の処理を実行して出力画像300を生成する。
  [8.特定視点画像生成部を備えた実施例]
 次に、図17を参照して、信号処理部130に特定視点画像生成部801を備えた実施例について説明する。
 先に説明した実施例1では、図4を参照して説明したように、撮像素子120の前面にマイクロレンズ124を配置した構成を持つ。
 マイクロレンズ124の配置により、被写体光が拡散し、複数画素に同一被写体光が照射される構成については、先に説明したとおりである。
 マイクロレンズ124のもう1つの作用として、撮像素子の光電変換素子の領域ごとに異なる視点からの画像、あるいは、異なる焦点距離の画像を個別に取得させることが可能となるという作用がある。
 例えば、文献[Ren.Ng、他7名,「Light Field Photography with a Hand-Held Plenoptic Camera」,Stanford Tech Report CTSR 2005-02]に、「Light Field Photography」という撮像手法が開示されている。
 この手法は、先に説明した実施例1と同様、撮像素子の前面にマイクロレンズを配置し、マイクロレンズを介して入射光を拡散し光電変換部へ照射する構成を開示している。この構成により、撮像素子の光電変換素子の領域ごとに異なる視点からの画像、あるいは、異なる焦点距離の画像を個別に取得させることを可能としている。
 上記文献に記載の「Light Field Photography」に従って、撮像素子の光電変換素子の領域ごとにる異なる視点からの画像、あるいは、異なる焦点距離の画像を個別に取得する構成について、図18を参照して説明する。
 図18には、撮影対象としての被写体900、撮像レンズ921、マイクロレンズ922、光電変換素子923を示している。
 被写体900の頭部~足元までの特定の位置から発せられた光は、メインレンズとしての撮像レンズ921を通過し、マイクロレンズ922のある1つのマイクロレンズに収光される。例えば図中の被写体900の頭部から出ている光線は、図のように撮像素子下部のマイクロレンズ931に収光され、同様に被写体900の足元から出ている光線は上部のマイクロレンズ932に集光する。
 これらのマイクロレンズ922を通過した光は、対応する各パッチ内の光電変換素子923の各画素に照射される。
 このようにマイクロレンズ922で被写体から発する光線の発生位置を記録し、撮像素子で光線の方向を記録することが出来る。このようにして、光電変換素子923の各画素に記録された光線を選択的に用いることで、特定焦点画像や特定視点画像を生成することができる。
 例えば、図18の実線(A)で描かれた光線のみを集めて画像を復元することで、撮像レンズ921の下端を通る画像を生成することができる。また、図18の点線(B)で描かれた光線を集めれば撮像レンズ921の中央部を通った画像を得ることができる。さらに、図18の一点鎖線(C)で描かれた光線を集めれば撮像レンズ921の上部を通った画像を得ることができる。
 このように1度の撮影で複数の視点を持つ画像を生成することもできれば、異なる視点から得られる光線を合成して特定のボケを持つ画像を生成することができる。
 このような手法で撮影した画像を用い、撮像素子の各画素に対応する被写体の光線方向と位置情報を参照して、各画像を適宜組み合わせて再構築することで、1回の撮影画像を利用して、異なる複数視点の画像を生成することが可能となる。あるいは、焦点の異なる複数の画像を同時に生成することが可能となる。
 図17に示す信号処理部130内の特定視点画像生成部801は、これらの処理を実行して、異なる複数視点の画像、あるいは、焦点の異なる複数の画像を特定視点画像811として生成し、配列変換部170に出力する。
 図に示す特定視点画像811は、1つの特定視点画像、または複数の特定視点画像によって構成される。
 なお、ここで、特定視点とは、観察位置としての視点と、特定焦点距離の被写体位置の双方を含むものとする。
 このように、特定視点画像生成部801を設定することで、欠陥補正に併せて、異なる特定視点画像を同時生成することが可能となる。
  [9.本開示の構成のまとめ]
 以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
 なお、本明細書において開示した技術は、以下のような構成をとることができる。
 (1) 撮像素子と、
 前記撮像素子からの出力信号の解析を実行して、前記撮像素子に含まれる欠陥画素の検出を実行する信号処理部を有し、
 前記撮像素子は、
 前記撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力し、
 前記信号処理部は、
 前記撮像素子の複数画素の集合からなる局所領域単位で、該局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行する撮像装置。
 (2)前記信号処理部は、前記局所領域に含まれる同一色画素の画素値のばらつきが大きく、かつ、前記局所領域に含まれる同一色画素の最大画素値と最小画素値を除く中間画素値の平均値と、注目画素の画素値との差分が大きい場合に、
 前記注目画素を欠陥画素と判定する処理を実行する前記(1)に記載の撮像装置。
 (3)前記信号処理部は、前記局所領域に含まれる同一色画素の画素値の標準偏差が既定しきい値(TH1)より大きく、かつ、前記局所領域に含まれる同一色画素の最大画素値と最小画素値を除く中間画素値の平均値と、注目画素の画素値との差分絶対値が既定しきい値(TH2)より大きい場合に、前記注目画素を欠陥画素と判定する処理を実行する前記(1)または(2)に記載の撮像装置。
 (4)前記撮像素子は、二次元アレイ状に配列された画素からなる光電変換部と、前記光電変換部の前面である撮像レンズ側に配置されたマイクロレンズを有し、撮像レンズを介した入射光を前記マイクロレンズを介して拡散させて、前記撮像素子の複数画素からなる前記局所領域単位で同一被写体光を受光する構成を有する前記(1)~(3)いずれかに記載の撮像装置。
 (5)前記信号処理部は、前記マイクロレンズを有する撮像素子によって取得された画像から、特定の画素領域単位の画像の再構成により特定視点画像を生成する構成を有する前記(4)に記載の撮像装置。
 (6)前記撮像素子は、RGB各画素からなるベイヤ配列またはRGBW各画素からなる配列の各画素を同一色の2×2画素に4分割した画素配列を有する前記(1)~(5)いずれかに記載の撮像装置。
 (7)前記撮像素子は、前記撮像素子の2×2の同一色画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力する前記(6)に記載の撮像装置。
 (8)前記撮像素子は、前記撮像素子の4×4画素または8×8画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力する前記(6)に記載の撮像装置。
 (9)前記撮像素子は、前記撮像素子の画素密度に相当する画素分解能より低い低分解能の光学像を形成する低い光学分解能を有する低解像度撮像レンズを介した被写体光を入射することで、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力する前記(1)~(8)いずれかに記載の撮像装置。
 (10)前記撮像素子は、二次元アレイ状に配列された画素からなる光電変換部と、前記光電変換部の前面である撮像レンズ側に配置された光学ローパスフィルタを有し、撮像レンズを介した入射光を前記光学ローパスフィルタを介して拡散させて、前記撮像素子の複数画素からなる前記局所領域単位で同一被写体光を受光する構成を有する前記(1)~(9)いずれかに記載の撮像装置。
 (11)前記信号処理部は、欠陥画素の画素値補正を実行する欠陥画素補正部を有し、前記欠陥画素補正部は、欠陥画素と同一の局所領域に含まれる欠陥画素と同一色画素の最大画素値と最小画素値を除く中間画素値を参照画素として前記欠陥画素の補正画素値を算出する前記(1)~(10)いずれかに記載の撮像装置。
 (12)前記欠陥画素補正部は、前記欠陥画素が、欠陥画素の含まれる局所領域の同一色画素中の最大画素値である場合、前記中間画素値中の最大画素値を前記欠陥画素の補正画素値として設定し、前記欠陥画素が、欠陥画素の含まれる局所領域の同一色画素中の最小画素値である場合、前記中間画素値中の最小画素値を前記欠陥画素の補正画素値として設定する前記(11)に記載の撮像装置。
 (13) 撮像装置において実行する画像処理方法であり、
 撮像素子において、該撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力するステップと、
 信号処理部において、撮像素子からの出力信号の解析を実行して、前記撮像素子に含まれる欠陥画素の検出を実行する信号処理ステップを実行し、
 前記信号処理部は、前記信号処理ステップにおいて、
 前記撮像素子の複数画素の集合からなる局所領域単位で、該局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行する画像処理方法。
 (14) 撮像装置において画像処理を実行させるプログラムであり、
 撮像素子に、該撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力させるステップと、
 信号処理部に、撮像素子からの出力信号の解析を実行して、前記撮像素子に含まれる欠陥画素の検出を実行させる信号処理ステップを実行させ、
 前記信号処理ステップにおいては、
 前記撮像素子の複数画素の集合からなる局所領域単位で、該局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行させるプログラム。
 また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
 なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
 以上、説明したように、本開示の一実施例の構成によれば、撮像素子の欠陥画素の検出を行い、欠陥画素の出力画素値を補正して出力画像を生成する。
 具体的には、撮像装置は、撮像素子と、撮像素子からの出力信号の解析を実行して欠陥画素の検出を実行する信号処理部を有する。撮像素子は、例えば画素前面に配置したマイクロレンズを介して入射光を受光して、撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得する。信号処理部は、撮像素子の複数画素の集合からなる局所領域単位で、局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行し、欠陥画素と判定された画素の画素値を補正して出力する。
 これらの処理により、撮像素子に存在する欠陥画素を高精度に検出することが可能となり、欠陥画素の出力画素値を補正した高品質な出力画像を生成することができる。
 110 撮像レンズ
 120 撮像素子
 121 光電変換素子
 122 カラーフィルタ
 123 オンチップレンズ
 124 マイクロレンズ
 130 信号処理部
 135 制御部
 140 欠陥検出補正部
 141 局所領域抽出部
 150 欠陥画素検出部
 151 最大/最小画素値検出部
 152 標準偏差(std)算出部
 153 中間画素平均値(T)算出部
 154 欠陥画素判定部
 160 欠陥画素補正部
 161 中間画素検出部
 162 画素値補正部
 510 低解像度撮像レンズ
 520 撮像素子
 521 光電変換素子
 522 カラーフィルタ
 523 オンチップレンズ
 610 撮像レンズ
 620 撮像素子
 621 光電変換素子
 622 カラーフィルタ
 623 オンチップレンズ
 624 光学ローパスフィルタ
 701 デモザイク処理部
 801 特定視点画像生成部
 900 被写体
 921 撮像レンズ
 922 マイクロレンズ
 923 光電変換素子

Claims (14)

  1.  撮像素子と、
     前記撮像素子からの出力信号の解析を実行して、前記撮像素子に含まれる欠陥画素の検出を実行する信号処理部を有し、
     前記撮像素子は、
     前記撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力し、
     前記信号処理部は、
     前記撮像素子の複数画素の集合からなる局所領域単位で、該局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行する撮像装置。
  2.  前記信号処理部は、
     前記局所領域に含まれる同一色画素の画素値のばらつきが大きく、かつ、
     前記局所領域に含まれる同一色画素の最大画素値と最小画素値を除く中間画素値の平均値と、注目画素の画素値との差分が大きい場合に、
     前記注目画素を欠陥画素と判定する処理を実行する請求項1に記載の撮像装置。
  3.  前記信号処理部は、
     前記局所領域に含まれる同一色画素の画素値の標準偏差が既定しきい値(TH1)より大きく、かつ、
     前記局所領域に含まれる同一色画素の最大画素値と最小画素値を除く中間画素値の平均値と、注目画素の画素値との差分絶対値が既定しきい値(TH2)より大きい場合に、
     前記注目画素を欠陥画素と判定する処理を実行する請求項1に記載の撮像装置。
  4.  前記撮像素子は、
     二次元アレイ状に配列された画素からなる光電変換部と、
     前記光電変換部の前面である撮像レンズ側に配置されたマイクロレンズを有し、
     撮像レンズを介した入射光を前記マイクロレンズを介して拡散させて、前記撮像素子の複数画素からなる前記局所領域単位で同一被写体光を受光する構成を有する請求項1に記載の撮像装置。
  5.  前記信号処理部は、
     前記マイクロレンズを有する撮像素子によって取得された画像から、特定の画素領域単位の画像の再構成により特定視点画像を生成する構成を有する請求項4に記載の撮像装置。
  6.  前記撮像素子は、
     RGB各画素からなるベイヤ配列またはRGBW各画素からなる配列の各画素を同一色の2×2画素に4分割した画素配列を有する請求項1に記載の撮像装置。
  7.  前記撮像素子は、
     前記撮像素子の2×2の同一色画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力する請求項6に記載の撮像装置。
  8.  前記撮像素子は、
     前記撮像素子の4×4画素または8×8画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力する請求項6に記載の撮像装置。
  9.  前記撮像素子は、
     前記撮像素子の画素密度に相当する画素分解能より低い低分解能の光学像を形成する低い光学分解能を有する低解像度撮像レンズを介した被写体光を入射することで、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力する請求項1に記載の撮像装置。
  10.  前記撮像素子は、
     二次元アレイ状に配列された画素からなる光電変換部と、
     前記光電変換部の前面である撮像レンズ側に配置された光学ローパスフィルタを有し、
     撮像レンズを介した入射光を前記光学ローパスフィルタを介して拡散させて、前記撮像素子の複数画素からなる前記局所領域単位で同一被写体光を受光する構成を有する請求項1に記載の撮像装置。
  11.  前記信号処理部は、
     欠陥画素の画素値補正を実行する欠陥画素補正部を有し、
     前記欠陥画素補正部は、欠陥画素と同一の局所領域に含まれる欠陥画素と同一色画素の最大画素値と最小画素値を除く中間画素値を参照画素として前記欠陥画素の補正画素値を算出する請求項1に記載の撮像装置。
  12.  前記欠陥画素補正部は、
     前記欠陥画素が、欠陥画素の含まれる局所領域の同一色画素中の最大画素値である場合、前記中間画素値中の最大画素値を前記欠陥画素の補正画素値として設定し、
     前記欠陥画素が、欠陥画素の含まれる局所領域の同一色画素中の最小画素値である場合、前記中間画素値中の最小画素値を前記欠陥画素の補正画素値として設定する請求項11に記載の撮像装置。
  13.  撮像装置において実行する画像処理方法であり、
     撮像素子において、該撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力するステップと、
     信号処理部において、撮像素子からの出力信号の解析を実行して、前記撮像素子に含まれる欠陥画素の検出を実行する信号処理ステップを実行し、
     前記信号処理部は、前記信号処理ステップにおいて、
     前記撮像素子の複数画素の集合からなる局所領域単位で、該局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行する画像処理方法。
  14.  撮像装置において画像処理を実行させるプログラムであり、
     撮像素子に、該撮像素子の複数画素からなる局所領域単位で同一被写体光を入力し、撮像素子の画素密度に相当する画素分解能より低い画像信号を取得して前記信号処理部に出力させるステップと、
     信号処理部に、撮像素子からの出力信号の解析を実行して、前記撮像素子に含まれる欠陥画素の検出を実行させる信号処理ステップを実行させ、
     前記信号処理ステップにおいては、
     前記撮像素子の複数画素の集合からなる局所領域単位で、該局所領域に含まれる同一色画素の画素値比較を実行して、該比較結果に基づいて欠陥画素の検出を実行させるプログラム。
PCT/JP2013/075639 2012-10-23 2013-09-24 撮像装置、および画像処理方法、並びにプログラム WO2014065056A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US14/435,806 US9549157B2 (en) 2012-10-23 2013-09-24 Imaging apparatus, image processing method, and program
US15/354,144 US9894302B2 (en) 2012-10-23 2016-11-17 Imaging apparatus, image processing method, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012-234004 2012-10-23
JP2012234004A JP2014086863A (ja) 2012-10-23 2012-10-23 撮像装置、および画像処理方法、並びにプログラム

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US14/435,806 A-371-Of-International US9549157B2 (en) 2012-10-23 2013-09-24 Imaging apparatus, image processing method, and program
US15/354,144 Continuation US9894302B2 (en) 2012-10-23 2016-11-17 Imaging apparatus, image processing method, and program

Publications (1)

Publication Number Publication Date
WO2014065056A1 true WO2014065056A1 (ja) 2014-05-01

Family

ID=50544436

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2013/075639 WO2014065056A1 (ja) 2012-10-23 2013-09-24 撮像装置、および画像処理方法、並びにプログラム

Country Status (3)

Country Link
US (2) US9549157B2 (ja)
JP (1) JP2014086863A (ja)
WO (1) WO2014065056A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105590939A (zh) * 2015-12-18 2016-05-18 广东欧珀移动通信有限公司 图像传感器及输出方法、相位对焦方法、成像装置和终端
CN105609516A (zh) * 2015-12-18 2016-05-25 广东欧珀移动通信有限公司 图像传感器及输出方法、相位对焦方法、成像装置和终端
JP2018502506A (ja) * 2015-12-18 2018-01-25 クワントン オーピーピーオー モバイル テレコミュニケーションズ コーポレイション リミテッド 画像センサの結像方法、結像装置及び電子装置

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014086863A (ja) * 2012-10-23 2014-05-12 Sony Corp 撮像装置、および画像処理方法、並びにプログラム
CN105593651B (zh) 2013-08-02 2019-06-07 威利食品有限公司 光谱测定系统和方法、光谱设备和系统
JP2015060121A (ja) * 2013-09-19 2015-03-30 株式会社東芝 カラーフィルタアレイおよび固体撮像素子
EP3090239A4 (en) 2014-01-03 2018-01-10 Verifood Ltd. Spectrometry systems, methods, and applications
JP6523638B2 (ja) 2014-09-11 2019-06-05 シナプティクス・ジャパン合同会社 表示パネルドライバ、表示装置、画像処理装置及び画像処理方法
WO2016125165A2 (en) 2015-02-05 2016-08-11 Verifood, Ltd. Spectrometry system with visible aiming beam
WO2016181620A1 (ja) * 2015-05-08 2016-11-17 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
JP6746359B2 (ja) * 2015-05-08 2020-08-26 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
EP3177011A1 (en) * 2015-12-02 2017-06-07 Thomson Licensing Acquisition device for a plenoptic camera and method of processing a raw image acquired with the acquisition device
US10256382B2 (en) * 2016-12-09 2019-04-09 Applied Materials, Inc. Collimated OLED light field display
US10542184B2 (en) * 2017-01-25 2020-01-21 Ricoh Company, Ltd. Photoelectric conversion device, defective pixel determining method, image forming apparatus, and recording medium
JP2018157371A (ja) * 2017-03-17 2018-10-04 キヤノン株式会社 撮像装置及び欠陥画素の補正方法
KR102354991B1 (ko) 2017-05-24 2022-01-24 삼성전자주식회사 픽셀 회로 및 이를 포함하는 이미지 센서
US10490599B2 (en) 2017-07-13 2019-11-26 Applied Materials, Inc. Collimated, directional micro-LED light field display
US10687033B2 (en) 2018-09-24 2020-06-16 Google Llc Color imaging system
US20210140764A1 (en) * 2019-11-07 2021-05-13 Spectricity Collimating array for an optical sensing device
US11652121B2 (en) * 2019-11-28 2023-05-16 Samsung Electronics Co., Ltd. Color separation element and image sensor including the same
US20230154371A1 (en) * 2021-11-16 2023-05-18 IP Rodeo, LLC Subpixel-based light field display with alternative color generation

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10322603A (ja) * 1997-03-19 1998-12-04 Konica Corp 電子カメラ
JPH11103423A (ja) * 1997-09-26 1999-04-13 Kawasaki Steel Corp 画像圧縮装置
JP2000295532A (ja) * 1999-04-08 2000-10-20 Canon Inc 画像処理装置及び画像処理方法及び記録媒体及び画像処理システム
JP2005328134A (ja) * 2004-05-12 2005-11-24 Sony Corp 撮像装置および固体撮像素子の欠陥検出方法
JP2007019959A (ja) * 2005-07-08 2007-01-25 Nikon Corp 撮像装置
JP2007143131A (ja) * 2005-10-26 2007-06-07 Nvidia Corp 画像信号処理方法および装置
JP2008258909A (ja) * 2007-04-04 2008-10-23 Toshiba Corp 信号処理回路
JP2009005390A (ja) * 2001-04-12 2009-01-08 Nikon Corp 固体撮像装置
JP2009188894A (ja) * 2008-02-08 2009-08-20 Mitsubishi Electric Corp 撮像装置
JP2010136225A (ja) * 2008-12-08 2010-06-17 Sony Corp 固体撮像装置、固体撮像装置の信号処理方法および撮像装置
JP2011097542A (ja) * 2009-11-02 2011-05-12 Sony Corp 画素欠陥検出補正装置、撮像装置、画像欠陥検出補正方法、およびプログラム
JP2011120202A (ja) * 2009-11-02 2011-06-16 Sony Corp 画素欠陥補正装置、撮像装置、画素欠陥補正方法、およびプログラム
JP2011171858A (ja) * 2010-02-16 2011-09-01 Sony Corp 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH066685A (ja) 1992-06-22 1994-01-14 Sony Corp 固体撮像素子の欠陥補正装置
US8120690B2 (en) 2001-04-12 2012-02-21 Nikon Corporation Imaging device
JP2008301142A (ja) * 2007-05-31 2008-12-11 Fujitsu Microelectronics Ltd 固体撮像素子および画素補正方法
JP2009105872A (ja) 2007-10-01 2009-05-14 Sony Corp 欠陥画素補正回路及び固体撮像装置
JP4343988B2 (ja) 2008-03-07 2009-10-14 キヤノン株式会社 欠陥画素補正装置及び欠陥画素補正処理方法
EP2263373B1 (en) * 2008-03-28 2014-08-13 The Trustees of Columbia University in the City of New York Generalized assorted pixel camera systems and methods
TWI422020B (zh) 2008-12-08 2014-01-01 Sony Corp 固態成像裝置
WO2013043761A1 (en) * 2011-09-19 2013-03-28 Pelican Imaging Corporation Determining depth from multiple views of a scene that include aliasing using hypothesized fusion
CN104508681B (zh) * 2012-06-28 2018-10-30 Fotonation开曼有限公司 用于检测有缺陷的相机阵列、光学器件阵列和传感器的系统及方法
JP2014086863A (ja) 2012-10-23 2014-05-12 Sony Corp 撮像装置、および画像処理方法、並びにプログラム

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10322603A (ja) * 1997-03-19 1998-12-04 Konica Corp 電子カメラ
JPH11103423A (ja) * 1997-09-26 1999-04-13 Kawasaki Steel Corp 画像圧縮装置
JP2000295532A (ja) * 1999-04-08 2000-10-20 Canon Inc 画像処理装置及び画像処理方法及び記録媒体及び画像処理システム
JP2009005390A (ja) * 2001-04-12 2009-01-08 Nikon Corp 固体撮像装置
JP2005328134A (ja) * 2004-05-12 2005-11-24 Sony Corp 撮像装置および固体撮像素子の欠陥検出方法
JP2007019959A (ja) * 2005-07-08 2007-01-25 Nikon Corp 撮像装置
JP2007143131A (ja) * 2005-10-26 2007-06-07 Nvidia Corp 画像信号処理方法および装置
JP2008258909A (ja) * 2007-04-04 2008-10-23 Toshiba Corp 信号処理回路
JP2009188894A (ja) * 2008-02-08 2009-08-20 Mitsubishi Electric Corp 撮像装置
JP2010136225A (ja) * 2008-12-08 2010-06-17 Sony Corp 固体撮像装置、固体撮像装置の信号処理方法および撮像装置
JP2011097542A (ja) * 2009-11-02 2011-05-12 Sony Corp 画素欠陥検出補正装置、撮像装置、画像欠陥検出補正方法、およびプログラム
JP2011120202A (ja) * 2009-11-02 2011-06-16 Sony Corp 画素欠陥補正装置、撮像装置、画素欠陥補正方法、およびプログラム
JP2011171858A (ja) * 2010-02-16 2011-09-01 Sony Corp 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105590939A (zh) * 2015-12-18 2016-05-18 广东欧珀移动通信有限公司 图像传感器及输出方法、相位对焦方法、成像装置和终端
CN105609516A (zh) * 2015-12-18 2016-05-25 广东欧珀移动通信有限公司 图像传感器及输出方法、相位对焦方法、成像装置和终端
JP2018502506A (ja) * 2015-12-18 2018-01-25 クワントン オーピーピーオー モバイル テレコミュニケーションズ コーポレイション リミテッド 画像センサの結像方法、結像装置及び電子装置
US9979883B2 (en) 2015-12-18 2018-05-22 Guangdong Oppo Telecommunications Corp., Ltd. Imaging method for image sensor, imaging apparatus, and electronic device
US10225465B2 (en) 2015-12-18 2019-03-05 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Imaging method for image sensor, imaging apparatus, and electronic device
CN105590939B (zh) * 2015-12-18 2019-07-19 Oppo广东移动通信有限公司 图像传感器及输出方法、相位对焦方法、成像装置和终端

Also Published As

Publication number Publication date
US20170070694A1 (en) 2017-03-09
US9894302B2 (en) 2018-02-13
US20150288935A1 (en) 2015-10-08
US9549157B2 (en) 2017-01-17
JP2014086863A (ja) 2014-05-12

Similar Documents

Publication Publication Date Title
WO2014065056A1 (ja) 撮像装置、および画像処理方法、並びにプログラム
JP4483951B2 (ja) 撮像装置
KR101631073B1 (ko) 화상처리장치, 화상처리방법 및 기억매체, 및 화상처리장치를 갖는 촬상장치
US8451350B2 (en) Solid-state imaging device, camera module, and imaging method
US9615017B2 (en) Focus detection apparatus and method, method of controlling focus detection apparatus, and image capturing apparatus
US20170127048A1 (en) Confidence generation apparatus, confidence generation method, and imaging apparatus
JP2017138198A (ja) 距離画像装置、撮像装置、および距離画像補正方法
US11388383B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium
JP6800650B2 (ja) 信頼度生成装置、信頼度生成方法、および撮像装置
US9813687B1 (en) Image-capturing device, image-processing device, image-processing method, and image-processing program
US20170257583A1 (en) Image processing device and control method thereof
JP6334976B2 (ja) 測光に使用される焦点検出ピクセルを備えたデジタル・カメラ
JP6353233B2 (ja) 画像処理装置、撮像装置、及び画像処理方法
JP4250513B2 (ja) 画像処理装置及び画像処理方法
JP2011109620A (ja) 撮像装置および画像処理方法
JP5547548B2 (ja) 電子増倍率の測定方法
JP6364259B2 (ja) 撮像装置、画像処理方法、及び画像処理プログラム
JP6270400B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2012156882A (ja) 固体撮像装置
WO2016181620A1 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
US20240187753A1 (en) Imaging apparatus, drive method of imaging apparatus, and program
JP2018110299A (ja) 画像処理方法、画像処理装置、および、撮像装置
JP2020038319A (ja) 撮像装置及びその制御方法
JP2013070322A (ja) 欠陥画素検出装置、撮像装置および欠陥画素検出プログラム
JP2013115547A (ja) 撮像装置及びその制御方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13849772

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 14435806

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 13849772

Country of ref document: EP

Kind code of ref document: A1