WO2012124184A1 - 撮像装置およびその動作制御方法ならびに撮像システム - Google Patents
撮像装置およびその動作制御方法ならびに撮像システム Download PDFInfo
- Publication number
- WO2012124184A1 WO2012124184A1 PCT/JP2011/067919 JP2011067919W WO2012124184A1 WO 2012124184 A1 WO2012124184 A1 WO 2012124184A1 JP 2011067919 W JP2011067919 W JP 2011067919W WO 2012124184 A1 WO2012124184 A1 WO 2012124184A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- filter
- photoelectric conversion
- color
- conversion element
- component
- Prior art date
Links
- 238000003384 imaging method Methods 0.000 title claims description 35
- 238000000034 method Methods 0.000 title claims description 27
- 238000006243 chemical reaction Methods 0.000 claims description 156
- 239000003086 colorant Substances 0.000 claims description 32
- 230000000295 complement effect Effects 0.000 claims description 13
- 238000001914 filtration Methods 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 239000000203 mixture Substances 0.000 description 2
- 230000005484 gravity Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
Definitions
- the present invention relates to an imaging apparatus, an operation control method thereof, and an imaging system.
- FIG. 24 a shows a part of the light receiving surface of the solid-state electronic image sensor 1.
- the solid-state electronic image pickup device 1 is provided with a large number of photoelectric conversion devices 2 in the horizontal direction and the vertical direction.
- a color filter R having a characteristic of transmitting a red light component
- a color filter G having a characteristic of transmitting a green light component
- a characteristic of transmitting a blue light component A color filter B is formed.
- a color filter RG or B is formed on the light receiving surface of the photoelectric conversion element 2 in an array called a Bayer array.
- FIG. 24 b shows a state in which images with a period corresponding to three rows of the photoelectric conversion elements 2 of the solid-state electronic image sensor 1 are formed on the solid-state electronic image sensor 1.
- the level of the white part is 255 when represented by 8 bits, and the level of the part indicated by hatching is 0 when represented by 8 bits.
- an optical low-pass filter is disposed in front of the light receiving surface of a solid-state electronic image pickup device, and the occurrence of color moiré is suppressed by removing high-frequency components from the subject image.
- the resolution is lowered.
- the filter arrangement of the solid-state electronic image sensor is a three-color random arrangement in which an arbitrary pixel of interest meets an arrangement restriction condition adjacent to any of three colors including the color of the pixel of interest and four sides of the pixel of interest. (Japanese Patent Laid-Open No. 2000-308080).
- Japanese Patent Laid-Open No. 2000-308080 Japanese Patent Laid-Open No.
- a plurality of filters having different spectral sensitivities are provided, and the first filter and the second filter are alternately arranged at a first predetermined period in one diagonal direction of the image lattice, and the other pair Some sensors are alternately arranged in the angular direction at a second predetermined cycle (Japanese Patent Laid-Open No. 2005-136766).
- Japanese Patent Laid-Open No. 2005-136766 Japanese Patent Laid-Open No. 2005-136766
- the pixel reproduction accuracy is not high.
- There is also a technique that performs optimum interpolation for patterns other than horizontal and vertical edges Japanese Patent No. 4350706.
- the pixel interpolation processing is performed after the thinning processing, and the processing must be complicated. . Also, a false signal is generated.
- An object of the present invention is to make it possible to simultaneously perform processing for reducing the amount of data and pixel interpolation processing. Another object of the present invention is to prevent generation of a false signal from an image with a reduced data amount.
- a solid-state electronic imaging device includes a plurality of photoelectric conversion elements arranged in a horizontal direction and a vertical direction, and has a light component of any one of the three primary colors, red, green, and blue, or the three primary colors.
- a color filter having a filter characteristic that transmits a light component of any one of the three complementary colors cyan, magenta, and yellow is formed on the light-receiving surface of the photoelectric conversion element.
- a color filter having a filter characteristic that transmits a green or yellow light component is provided on the light receiving surface of the photoelectric conversion element in each row and each column.
- Such small blocks are repeated in the horizontal and vertical directions, and the first and second adjacent ones in the horizontal and vertical directions are formed.
- a color filter having a filter characteristic that transmits a red or cyan color component is formed in the first small block of the second small blocks.
- a color filter having a filter characteristic that transmits blue or magenta color components is formed on the light receiving surface of the photoelectric conversion element at a position, and the first and second small blocks adjacent in the horizontal direction and the vertical direction are formed.
- the photoelectric conversion at the position of the second small block corresponding to the position of the photoelectric conversion element on which the color filter having the filter characteristic of transmitting the blue or magenta color component in the first small block is formed A color filter having filter characteristics that transmits red or cyan color components is formed on the light receiving surface of the element.
- a solid-state electronic image sensor that outputs signal charges accumulated in the photoelectric conversion element as a video signal, and a color filter having the same filter characteristics among the video signals output from the solid-state electronic image sensor are formed.
- a mixing circuit is provided.
- the present invention also provides an operation control method suitable for the solid-state electronic imaging device. That is, in this method, the solid-state electronic image sensor includes a plurality of photoelectric conversion elements arranged in the horizontal direction and the vertical direction, and the light component or color of any one of the three primary colors red, green, and blue is used.
- a color filter having a filter characteristic that transmits a light component of any one of the three complementary colors cyan, magenta, and yellow, which are complementary colors of the three primary colors, is formed on the light receiving surface of the photoelectric conversion element, and is In one small block composed of three photoelectric conversion elements each in the vertical direction, a color filter having a filter characteristic that transmits a green or yellow light component receives light from the photoelectric conversion elements in each row and each column.
- such small blocks are repeated horizontally and vertically, adjacent to each other horizontally and vertically Of the first and second small blocks, the second small block corresponding to the position of the photoelectric conversion element in which the color filter having filter characteristics that transmits the red or cyan color component is formed in the first small block.
- a color filter having a filter characteristic that transmits a blue or magenta color component is formed on the light receiving surface of the photoelectric conversion element at the block position, and the first and second filters adjacent to each other in the horizontal direction and the vertical direction are formed.
- the position of the second small block corresponding to the position of the photoelectric conversion element in which the color filter having the filter characteristic that transmits the blue or magenta color component is formed in the first small block of the two small blocks.
- a color filter having a filter characteristic that transmits a red or cyan color component is formed on the light receiving surface of the photoelectric conversion element.
- the signal charge accumulated in the photoelectric conversion element is output as a video signal
- the video signal mixing circuit includes a color filter having the same filter characteristics among the video signals output from the solid-state electronic image sensor.
- the video signal obtained based on the signal charges accumulated in the formed photoelectric conversion element is weighted with a weighting coefficient such that the mixed video signal level is equal for each color component, and is mixed and output.
- the video signal output from the solid-state electronic image pickup device is based on the signal charge accumulated in the photoelectric conversion device in which the color filter having the same filter characteristics is formed in the first video signal mixing circuit.
- the obtained video signal is weighted and mixed with a weighting coefficient so that the level of the mixed video signal becomes equal for each color component. Since the video signals are mixed, the signal amount of the video signals is substantially reduced.
- the present invention also provides an imaging system using the solid-state electronic imaging device. That is, this imaging system includes the above-described imaging device, and the video signal after mixing in one horizontal and vertical lines in one large block composed of three small blocks in the horizontal and vertical directions, respectively.
- a second video signal mixing circuit that mixes and outputs the video signal output from the first video signal mixing circuit for each color component by using a second weighting coefficient whose level is equal for each color component is provided. It is characterized by being.
- the first video signal mixing circuit uses the second weighting coefficient that makes the level of the mixed video signal equal for each color component in one line in the horizontal direction and the vertical direction in one large block. Are mixed for each color component.
- video signals are mixed, only a specific color does not become larger than the other colors, and the levels of the color components of the three primary colors or the three complementary colors are in one horizontal block and one vertical line in one large block. Since each color component is equal, generation of false colors can be prevented in advance.
- the filter includes, for example, at least one portion that is continuous in two in all of the horizontal direction, the vertical direction, and the diagonal direction.
- two color filters that transmit green or yellow light components formed on the light receiving surface of the photoelectric conversion element included in the middle block are continuous in the horizontal direction and in the vertical direction. At least one portion is included.
- the small block includes all three types of color filters having filter characteristics that transmit light components of the three primary colors or the three complementary colors so as to be symmetric with respect to the center photoelectric conversion element. It is preferable to do so.
- a color filter having a filter characteristic that transmits a light component of red or cyan or a color filter having a filter characteristic of transmitting a light component of blue or magenta is horizontal or It may be formed every other photoelectric conversion element in the vertical direction.
- FIG. 1 shows a part of the light receiving surface of a solid-state electronic image sensor.
- FIG. 2 shows a part of the light receiving surface of the solid-state electronic image sensor.
- FIGS. 3a to 3c are examples of pixel interpolation.
- FIGS. 4a to 4c are examples of filters.
- FIG. 5 is a block diagram showing the electrical configuration of the digital camera.
- FIG. 6 shows a part of the light receiving surface of the solid-state electronic image sensor.
- FIG. 7 shows a part of the light receiving surface of the solid-state electronic image sensor.
- FIG. 8 shows a part of the light receiving surface of the solid-state electronic image sensor.
- 9a to 9c are examples of pixel interpolation.
- FIGS. 10a to 10c are examples of filters.
- FIG. 11 shows a filter coefficient applied to an image.
- FIG. 12 shows a part of the image.
- FIG. 13 shows a part of the image.
- FIG. 14 is an example of a filter.
- FIG. 15 shows a case where an image is multiplied by a filter coefficient.
- FIG. 16 shows the filtering process.
- FIG. 17 shows a part of the light receiving surface of the solid-state electronic image sensor.
- FIG. 18 shows a part of the light receiving surface of the solid-state electronic image sensor.
- FIG. 19 shows a filter coefficient applied to an image.
- FIG. 20 shows a part of the image.
- FIG. 21 shows an image obtained by applying a filter coefficient.
- FIG. 22 shows the filtering process.
- FIG. 23 is a block diagram showing the electrical configuration of the digital camera.
- FIG. 24a shows a part of the light receiving surface of the solid-state electronic image sensor, and
- FIGS. 24b and 24c show a part of the image.
- FIG. 25 shows
- FIG. 1 shows a light receiving surface of the solid-state electronic image sensor 10.
- a large number of photoelectric conversion elements 11 are arranged in the solid-state electronic image sensor 10 in the horizontal direction and the vertical direction.
- a red filter having a filter characteristic that transmits a red light component among red, green, and blue, which are the three primary colors (shown by R), transmits a green light component.
- the color filter is either a green filter having a filter characteristic (indicated by reference numeral G) or a blue filter having a filter characteristic that transmits a blue light component (indicated by reference numeral B).
- the arrangement of the color filters in the photoelectric conversion element 10 shown in FIG. 1 is called a Bayer arrangement.
- Red filters R are formed on the light receiving surfaces of the odd-numbered and odd-numbered photoelectric conversion elements 10, and blue filters B are formed on the light-receiving surfaces of the even-numbered and even-numbered photoelectric conversion elements 10.
- a green filter G is formed on the light receiving surface of the photoelectric conversion elements 10 in the column.
- FIG. 2 shows a small block 12 composed of three photoelectric conversion elements 11 in the horizontal and vertical directions. In the small block 12, a blue filter B is formed in the central photoelectric conversion element 11A. Green filters G are formed on the upper, lower, left, and right photoelectric conversion elements 11 of the central photoelectric conversion element 11A, and a red filter R is formed in an oblique direction of the central photoelectric conversion element 11A.
- a red filter R and a green filter are included in the photoelectric conversion elements 11 included in the small block 12.
- the color filter is formed so that all of the G and blue filters B are included, and are point-symmetric about the central photoelectric conversion element 11A. The same applies not only when the color filter formed in the central photoelectric conversion element 11A is the blue filter B but also when the color filter formed in the central photoelectric conversion element 11A is the red filter R or the green filter G. It is.
- a signal charge representing a red light component is accumulated in the photoelectric conversion element 11 in which the red filter R is formed, and a signal charge representing a green light component is accumulated in the photoelectric conversion element 11 in which the green filter G is formed. Then, signal charges representing a blue light component are accumulated in the photoelectric conversion element 11 in which the blue filter B is formed.
- the accumulated signal charge is read from the solid-state electronic image pickup device 10 to obtain a video signal representing a subject image.
- the red filter R, the green filter G, or the blue filter B is formed on the light receiving surface of the photoelectric conversion element 11, but cyan / light cyan having a characteristic of transmitting light components of cyan C, which is a complementary color of the three primary colors.
- a filter, a magenta filter having a characteristic of transmitting a light component of magenta M, or a yellow filter having a characteristic of transmitting a light component of yellow Y may be formed according to a Bayer arrangement.
- FIGS. 3a to 3c show a pixel mixing method according to this embodiment. In the pixel mixing according to this embodiment, image reduction and pixel interpolation are performed simultaneously.
- FIG. 3a shows a 3 ⁇ 3 pixel image portion 13 obtained from the photoelectric conversion element 11 constituting the small block 12 shown in FIG.
- a pixel obtained from the photoelectric conversion element 12 in which the red filter R is formed is used to generate a central pixel 13A having a red component. .
- a color filter R is formed on the photoelectric conversion element 11 at the lower right, upper right, lower left and upper left of the central photoelectric conversion element 11A.
- a pixel R representing the red component (the same reference numeral as that of the color filter) is obtained. Since there is no center pixel 13A having a red component, the pixel R having the red component at the lower right, the upper right, the lower left, and the upper left of the central pixel 13A is mixed, thereby the red component.
- a central pixel 13A having a sq. Is generated and the image portion 13 is reduced (reduced to 1/3 in both the horizontal and vertical directions).
- 3b also shows an image portion 13 of 3 pixels ⁇ 3 pixels obtained from the photoelectric conversion element 11 constituting the small block 12 shown in FIG.
- a pixel obtained from the photoelectric conversion element 12 in which the green filter G is formed is used to generate a central pixel 13A having a green component.
- color filters G are formed on the upper, lower, left and right photoelectric conversion elements 11 of the central photoelectric conversion element 11A. From the pixel corresponding to the photoelectric conversion element 11 in which the color filter G is formed, a pixel G representing the green component (same as the color filter) is obtained.
- FIG. 3c also shows an image portion 13 of 3 pixels ⁇ 3 pixels obtained from the photoelectric conversion element 11 constituting the small block 12 shown in FIG.
- the photoelectric conversion elements 11 constituting the small block 12 shown in FIG. 2 since the blue filter B is formed in the central photoelectric conversion element 11A, a central pixel 13A having a blue component is obtained. .
- the above processing is performed using all the pixels of 3 pixels ⁇ 3 pixels of the small block 12.
- FIGS. 4a to 4c are examples of filters (digital filters) for performing pixel interpolation and reduction by the method shown in FIGS. 3a to 3c.
- FIG. 4a shows a filter 16 for generating a central pixel 13A having a red component as shown in FIG. 3a.
- the filter 16 corresponds to the image portion 13 of 3 pixels ⁇ 3 pixels, and a filter coefficient (weighting coefficient) to be multiplied by the pixel R having a red component is defined. These filter coefficients are all 1.
- the filter coefficient at the blank portion is 0.
- FIG. 4b shows a filter 17 for generating a central pixel 13A having a green component as shown in FIG. 3b.
- the filter 17 also corresponds to the image portion 13 of 3 pixels ⁇ 3 pixels, and a filter coefficient to be multiplied by the pixel G having a green component is defined. These filter coefficients are all 1.
- FIG. 4c shows a filter 18 for generating a central pixel 13A having a blue component as shown in FIG. 3c.
- the filter 18 also corresponds to the image portion 13 of 3 pixels ⁇ 3 pixels, and a filter coefficient to be multiplied by the pixel B having a blue component is defined.
- This filter coefficient is 4.
- Filters 16, 17 and 18 shown in FIGS. 4a, 4b and 4c are applied to the image data representing the image portion composed of 3 pixels ⁇ 3 pixels obtained from the small block 12 shown in FIG. By using the filtering process, the processing shown in FIGS.
- FIG. 3a, 3b, and 3c is equivalent to the process shown in FIG. 3 (however, it is actually obtained by the filtering process to maintain the data amount). Multiplied by 1/4).
- the above processing is performed by mixing the red, green, and blue components so that the weighted average center of gravity is the center pixel position of the small block 12, so that each color component at the center pixel position of the small block 12 is processed. This is equivalent to the process of generating the pixel 13A.
- pixel interpolation processing and image reduction processing are performed simultaneously. Similar processing is performed for other pixels, and pixel interpolation processing and image reduction processing are performed simultaneously for one frame image.
- FIG. 5 is a block diagram showing the electrical configuration of the digital camera.
- the digital camera includes an imaging device 21.
- the imaging device 21 includes the solid-state electronic imaging element 10 described above.
- the solid-state electronic image sensor 10 is driven by a drive circuit 30.
- An imaging lens 22 is provided in front of the imaging element 10, and a subject image is formed on the light receiving surface of the imaging element 10 by the imaging lens 22.
- a video signal representing a subject image is output from the image sensor 10 and converted into digital image data by an analog / digital conversion circuit 24.
- the converted digital image data is input to the pixel mixing device 29. In the pixel mixing device 29, pixel interpolation and image reduction processing are performed as described above.
- the image data input to the pixel mixing device 29 is given to the changeover switch 25.
- the selector switch 25 is connected to the S1 terminal side during still image recording, and the selector switch 25 is connected to the S2 terminal side when pixel interpolation and image reduction processing are performed as described above (for example, during live view imaging and movie imaging). Is done.
- the image data is given to the memory 26 and temporarily stored.
- the image data representing the red component pixel is read from the memory 26 and input to the filter 27.
- the filter coefficient of the filter 27 is as shown in FIG. 4a.
- pixel interpolation and reduction processing for the red component pixel is realized. Similarly, as shown in FIG.
- image data representing a green component pixel is read from the memory 26 and input to the filter 27.
- the filter coefficients of the filter 27 are as shown in FIG. 4b.
- pixel interpolation and reduction processing for the green component pixel is realized.
- the image data representing the pixel of the blue component is read from the memory 26 and inputted to the filter 27.
- the filter coefficients of the filter 27 are as shown in FIG. 4c.
- pixel interpolation and reduction processing for the blue component pixel is realized.
- the image data output from the filter 27 is given to the S2 terminal of the changeover switch 28.
- the changeover switch 28 is connected to the S1 terminal side during still image recording, and is connected to the S2 terminal side when pixel interpolation and image reduction processing are performed (for example, during movie imaging).
- the image data output from the filter 27 is subjected to predetermined processing in the image processing circuit 31 and is output.
- the image data obtained at the time of still image recording is input to the image processing circuit 31 without being processed in the pixel mixing device 29.
- the image processing circuit 31 performs predetermined image processing and outputs the result.
- 6 to 17 show another embodiment.
- FIG. 6 shows a part of the light receiving surface of the solid-state electronic image sensor 40.
- a large number of photoelectric conversion elements 41 are also arranged in the solid-state electronic imaging element 40 in the horizontal direction and the vertical direction.
- a red filter R, a green filter G, or a blue filter B is formed on the light receiving surface of these photoelectric conversion elements 41 in the same manner as described above.
- nine photoelectric conversion elements 42 are extracted in the horizontal direction and the vertical direction, respectively.
- a block composed of nine photoelectric conversion elements 42 in the horizontal direction and the vertical direction is referred to as a large block 41.
- the large block 41 is equivalent to three small blocks in the horizontal and vertical directions, and is equivalent to nine small blocks.
- FIG. 7 shows that six photoelectric conversion elements 42 are extracted in the horizontal direction and the vertical direction, respectively, from the light receiving surface of the solid-state electronic imaging element 40 shown in FIG.
- a device in which six photoelectric conversion elements 42 are extracted in each of the horizontal direction and the vertical direction is referred to as a middle block 43.
- the middle block 43 is equivalent to two small blocks each in the horizontal direction and the vertical direction, and is equivalent to four small blocks.
- at least one green filter G, red filter R and blue filter B are formed in the horizontal direction and the vertical direction, respectively.
- any horizontal direction, vertical direction and Even in the oblique direction at least one green filter G is formed.
- the middle block 43 includes at least one portion where two green filters G are continuous in the horizontal direction, the vertical direction, and the oblique direction.
- the middle block 43 includes at least one portion where two green filters G are continuous in the horizontal direction and the vertical direction.
- the arrangement of the color filters in the middle block 43 is repeated in the horizontal direction and the vertical direction to form the arrangement of the color filters in the solid-state electronic image sensor 40.
- the green filter G has the sixth m (m is a positive integer) +1 column, the sixth n (n is a positive integer) +1 row, the sixth n + 3 row, the sixth n + 4 row and the sixth n + 6 row. They are formed in 6m + 3 columns, 6m + 4 columns, and 6m + 6 columns, and in 6n + 2 rows and 6n + 5 rows, they are formed in 6m + 2 columns and 6m + 5 columns.
- the blue filter B is in the sixth m + 2 column in the sixth n + 1 row and the sixth n + 3 row, in the sixth m + 4 column and the sixth m + 6 column in the sixth n + 2 row, in the sixth m + 5 column in the sixth n + 4 row and the sixth n + 6 row, in the sixth n + 5 row. Then, it is formed in the 6th m + 1 column and the 6th m + 3 column, respectively.
- the red filter R is in the sixth m + 5 column in the sixth n + 1 row, in the sixth m + 1 column and the sixth m + 3 column in the sixth n + 2 row, in the sixth m + 2 column in the sixth n + 4 row and the sixth n + 6 row, in the sixth m + 4 column and in the sixth m + 6 column in the sixth n + 5 row.
- Each is formed in a row.
- FIG. 8 shows a small block 44 which constitutes a part of the solid-state electronic image pickup device 40 and is composed of photoelectric conversion elements 41 of three pixels in the horizontal direction and the vertical direction, respectively.
- green filters G are formed at the center and the diagonally upper left, diagonally lower left, diagonally upper right and diagonally lower right of the center.
- Blue filters B are formed above and below the green filter G formed at the center, and red filters R are formed on the left and right sides of the green filter G formed at the center.
- the small blocks in which the positions of B and the red filter R are reversed are alternately repeated in the horizontal and vertical directions to form a color filter array of the solid-state electronic image pickup device 40 (large block 41, medium block 43).
- the photoelectric conversion elements 41 included in the small block 44 include all of the red filter R, the green filter G, and the blue filter B, and are symmetric with respect to the central photoelectric conversion element 41A.
- a color filter is formed.
- the red filter R, the green filter G, or the blue filter B is formed on the light receiving surface of the photoelectric conversion element 11, but cyan / light cyan having a characteristic of transmitting light components of cyan C, which is a complementary color of the three primary colors.
- a filter, a magenta filter having a characteristic of transmitting a light component of magenta M, or a yellow filter having a characteristic of transmitting a light component of yellow Y may be formed according to a Bayer arrangement.
- FIG. 9a to 9c show a pixel mixing method according to this embodiment.
- the pixel mixing according to this embodiment also performs image reduction and pixel interpolation at the same time.
- FIG. 9a shows a 3 ⁇ 3 pixel image portion 45 obtained from the photoelectric conversion element 41 constituting the small block 44 shown in FIG.
- a pixel obtained from the photoelectric conversion element 41 in which the red filter R is formed is used to generate a central pixel 45A having a red component.
- color filters R are formed on the left and right photoelectric conversion elements 41 of the central photoelectric conversion element 45A.
- FIG. 9b also shows an image portion 45 of 3 pixels ⁇ 3 pixels obtained from the photoelectric conversion element 41 constituting the small block 44 shown in FIG. Among the photoelectric conversion elements 41 constituting the small block 44 shown in FIG.
- a pixel obtained from the photoelectric conversion element 41 in which the green filter G is formed is used to generate a central pixel 45A having a green component.
- color filters G are formed in the photoelectric conversion elements 41 at the upper left, lower left, upper right, and lower right of the central photoelectric conversion element 41A and the central photoelectric conversion element 41A. From the pixel corresponding to the photoelectric conversion element 41 in which the color filter G is formed, a pixel G representing the green component (same as the color filter) is obtained. Also in this case, the central pixel 45A having the green component is generated and the image portion 45 is reduced.
- FIG. 9c also shows a 3 ⁇ 3 pixel image portion 45 obtained from the photoelectric conversion element 41 constituting the small block 44 shown in FIG. Since the blue filters B are formed above and below the central photoelectric conversion element 41A among the photoelectric conversion elements 41 constituting the small block 44 shown in FIG. 8, the central pixel 45A has a structure as shown in FIG. 9c. A central pixel 45A having a blue component is generated from the upper and lower pixels having a blue component, and the image portion 45 is reduced. In this embodiment, the above processing is performed using all the pixels of 3 pixels ⁇ 3 pixels of the small block 44, but even if the center pixel 45A of each color component is generated without using all the pixels. good.
- FIGS. 9a to 9c are examples of filters (digital filters) for performing pixel interpolation and reduction by the method shown in FIGS. 9a to 9c.
- FIG. 10a shows a filter 47 for generating a central pixel 45A having a red component as shown in FIG. 9a.
- the filter 47 corresponds to the image portion 45 of 3 pixels ⁇ 3 pixels, and a filter coefficient (weighting coefficient) to be multiplied by the pixel R having a red component is defined. All of these filter coefficients are 4.
- FIG. 10b shows a filter 48 for generating a central pixel 45A having a green component as shown in FIG. 9b.
- the filter 48 also corresponds to the image portion 45 of 3 pixels ⁇ 3 pixels, and a filter coefficient to be multiplied by the pixel G having a green component is defined.
- the filter coefficient multiplied by the center pixel G is 4, and the filter coefficients multiplied by the other pixels G are all 1.
- FIG. 10c shows a filter 49 for generating a central pixel 13A having a blue component as shown in FIG. 9c.
- the filter 49 also corresponds to the image portion 45 of 3 pixels ⁇ 3 pixels, and a filter coefficient to be multiplied by the pixel B having a blue component is defined. All of these filter coefficients are 4. Filters 47, 48 and 49 shown in FIGS.
- FIG. 11 shows an image obtained by imaging a subject using the image sensor 42 having the color filter array shown in FIG. 6, using filters 47 to 49 shown in FIGS. 10a to 10c.
- Each filter coefficient at the time of filter processing is displayed side by side.
- the symbols R, G or B indicate the color components of the respective pixels.
- the numbers in parentheses indicate the filter coefficients to be multiplied to each pixel.
- FIG. 12 shows an example of the subject image 70.
- This subject image 70 has the same resolution as that of the pixels in the horizontal direction of the image sensor 42 shown in FIG. 6, and the width of each column 71 and the width of the photoelectric conversion element 41 are equal.
- a subject image 70 as shown in FIG. 12 is formed on the light receiving surface of the image sensor 40 shown in FIG. 6, and filter processing is performed using the filters 47 to 49 shown in FIGS. 10a to 10c. Then, an image 80 shown in FIG. 13 is obtained.
- an image 80 includes three blocks (consisting of 3 pixels ⁇ 3 pixels) 81, 82 and 83 in the horizontal direction and the vertical direction, respectively.
- Block 81 in the first row is blue
- block 82 in the second row is orange
- block 83 in the third row is blue.
- the filtering process is further performed so that the ratio of the red component, the green component, and the blue component is 1: 1: 1.
- FIG. 14 is an example of the filter 61.
- the filter coefficients of the first column to the third column and the seventh column to the ninth column are 1, and from the first row to the third row and From the 7th row to the 9th row, the filter coefficients of the 4th column to the 6th column, from the 4th row to the 6th row, the filter coefficients of the 1st column to the 3rd column and the 7th column to the 9th column are 2, From the fourth row to the sixth row, the filter coefficient from the fourth column to the sixth column is 4.
- Each block 62 is formed corresponding to 3 pixels ⁇ 3 pixels.
- FIG. 15 is obtained by multiplying the filter coefficient shown in FIG. 11 by the weighting coefficient of the filter 61 shown in FIG. Also in FIG. 15, as in FIG.
- FIG. 16 shows how filter processing is performed using the filter 61 shown in FIG.
- the image 80 shown in FIG. 13 obtained when the image is filtered using the filters 47 to 49 shown in FIGS.
- 10a to 10c is the block 81 in the first row and the block 83 in the third row.
- the red component is 0, the green component is 128 in 8-bit format, and the blue component is 255 in 8-bit format.
- the red component is 255, the green component is 128, and the blue component is 0.
- the red component, the green component, and the blue component in the central region of the block 82 of the image 80 are expressed by Equations 1 to 3, respectively.
- Such filter processing by the filter 61 is sequentially performed by moving to an adjacent adjacent region, and the filter processing is performed on the image 80 by repeating this. Unlike the process of the filter 27, the process 103 of the filter 61 is not thinned out by pixel mixture.
- the filtering process of the 3 ⁇ 3 filter 61 is performed on the image 80, the ratio of the large one pixel (90) in the center of the image 80 becomes 1: 1: 1, and the large one pixel in the adjacent image 80 continues.
- the false color is corrected by moving to and repeating the process of performing the filter process of the 3 ⁇ 3 filter 61.
- FIG. 17 shows a color filter arrangement of the solid-state electronic image pickup device 40, and corresponds to that shown in FIG. In FIG. 17, the same components as those shown in FIG. 6 are denoted by the same reference numerals.
- the horizontal direction of the solid-state electronic image pickup device 40 shown in FIG. When a subject image having the same resolution as the image is formed, as shown in FIG.
- the block 81 in the first row and the block 81 in the third row become blue, and the block 82 in the second row becomes orange. Will occur.
- the small blocks Br1 and Br3 and the 6m + 1 column to the 6n + 3 row to the 6m + 4 column to the 6m + 4 column to the 6m + 6 column corresponds to the block 81 in the first row shown in FIG.
- the small block Br8 corresponds to the block 83 in the third row shown in FIG.
- the block 81 in the first row is blue. This is because, in the small block Br1 and the small block Br3 in the first row in FIG. 17, a filter that transmits the red light component is formed.
- the levels of the subject images in the 6th m + 1 column and the 6th m + 3 column (the subject image 70 shown in FIG. 12) become 0, and the red light component is transmitted through the small block Br2 in the first row in FIG. This is because the level of the subject image in the 6m + 5th row in which the filter is formed becomes zero.
- the block 82 in the second row is orange. However, in the small block Br4 and the small block Br6 in the second row in FIG.
- a filter that transmits a blue light component is formed.
- the 6m + 1 column and 6m + 3 column subject images (subject image 70 shown in FIG. 12) have a level of 0, and the small block Br5 in the second row of FIG. 17 transmits a blue light component. This is because the level of the subject image in the 6th m + 5th row in which is formed becomes 0.
- the reason why the block 83 in the third row is blue is the same as the reason why the block 81 in the first row is blue.
- a color filter having a filter characteristic that transmits a green light component is formed on the light receiving surface of the photoelectric conversion element in each row and each column.
- a color filter having a filter characteristic that transmits a blue light component is formed at the element position.
- the even-numbered small blocks Br4- corresponding to the positions of the photoelectric conversion elements in which the color filters having the filter characteristics of transmitting the blue light component are formed.
- a color filter having a filter characteristic that transmits a red light component is formed at the position of the photoelectric conversion element at the position of Br6.
- the filter coefficient values are set so that the ratio of the sum of the red, green, and blue component coefficients as shown in FIG. 15 is 1: 1: 1.
- the so-called A array and B array are alternately repeated in the horizontal direction and the vertical direction as follows.
- a color filter having a filter characteristic that transmits a green light component has a center and four corners.
- a color filter having a filter characteristic that transmits a red light component is formed at both ends of a central row (sixth n + 2 row) and has a filter characteristic that transmits a blue light component.
- the color filter is formed at both ends of the central row (6th m + 2 row).
- the color filter having the filter characteristic that transmits the green light component is the center.
- a central row (sixth n + 5) in which a color filter having a filter characteristic that transmits a red light component is formed.
- a color filter having a filter characteristic that transmits a blue light component is formed at both ends of the row or the 6n + 2th line), and a color filter having a filter characteristic that transmits a blue light component is formed in the small block Br1.
- a filter that transmits a red light component at both ends of the central column (6m + 2 column or 6m + 5 column) Color filter is formed to have a sex.
- the color filter having the filter characteristic that transmits the red light component in the small blocks Br4-Br6 in the even rows is the color having the filter characteristic that transmits the red light component in the small blocks Br1-Br3, Br7-Br9 in the odd rows.
- -It is formed in the light-receiving surface of the photoelectric conversion element in which the filter is not formed.
- a color filter having a filter characteristic that transmits a blue light component in the small blocks Br1-Br3 and Br7-Br9 in the odd rows is a color having a filter characteristic that transmits a blue light component in the small blocks Br4-Br6 in the even rows.
- -It is formed on the light receiving surface of the photoelectric conversion element on which no filter is formed. Therefore, even when a subject image having the same resolution as the horizontal resolution of the image sensor 42 as shown in FIG. 12 is formed, a video signal obtained from adjacent small blocks by the filter operation as shown in FIG. Based on this, false colors can be corrected.
- the filter coefficients are set appropriately as described above.
- the color filter having the filter characteristic that transmits the light component of red color in the small block Br1 is formed on the light receiving surface of the photoelectric conversion element every other photoelectric conversion element in the horizontal direction or the vertical direction.
- a position where a color filter having a filter characteristic that transmits a red light component is formed in the small block Br1.
- a color filter having a filter characteristic that transmits a blue light component is formed on the light receiving surface of the photoelectric conversion element located at a position corresponding to.
- the color filter having the characteristic of transmitting the red light component and the color filter having the characteristic of transmitting the blue light component are all arranged in every other pixel in the horizontal direction. Since only a color filter having a characteristic of transmitting a red light component or a color filter having a characteristic of transmitting a blue light component exists in the column and the same row, only an orange false color as shown in FIG. 26c is present. Does not occur. Even if the filter operation as shown in FIG. 14 is performed, since the blue light component does not exist in the adjacent blocks, the false color cannot be corrected as described above.
- the filter coefficient is set so that the ratio of the sum of the red component, the green component, and the blue component is 1: 1: 1 as the filter coefficient value.
- FIG. 18 shows a part of the light receiving surface of the solid-state electronic image sensor 40A, and corresponds to FIG.
- a large number of photoelectric conversion elements 41 are also arranged in the horizontal direction and the vertical direction in the solid-state electronic imaging element 40A.
- a red filter R, a green filter G, or a blue filter B is formed on the light receiving surface of these photoelectric conversion elements 41 in the same manner as described above.
- the filter arrangement of the solid-state electronic image pickup device 40A shown in FIG. 18 is different from the filter arrangement of the solid-state electronic image pickup device 40 shown in FIG.
- nine photoelectric conversion elements 42 are extracted in the horizontal direction and the vertical direction, respectively, similarly to the solid-state electronic image sensor 40 shown in FIG. 6 (large block 41). .
- the large block 41 is equal to nine small blocks Br11-Br19 each including three photoelectric conversion elements 42 in the horizontal direction and the vertical direction.
- green filters G that transmit green light components are formed on the upper and lower sides of the central photoelectric conversion element 42 and on the light receiving surfaces of the left and right photoelectric conversion elements 42.
- a red filter R that transmits a red light component or a blue filter B that transmits a blue light component is formed.
- the blue filter B is formed on the light receiving surfaces of the photoelectric conversion elements 42 at the four corners.
- red filters R are formed on the light receiving surfaces of the photoelectric conversion elements 42 at the four corners. Further, the filters formed in the central photoelectric conversion element 42 and the filters formed in the photoelectric conversion elements 42 at the four corners are different between the small blocks Br11-Br19 adjacent in the vertical and horizontal directions. For example, in FIG. 18, a red filter R is formed in the central photoelectric conversion element 42 of the upper left small block Br11, and a blue filter B is formed in the four corner photoelectric conversion elements 42. A blue filter B is formed in the photoelectric conversion element 42 at the center of the small block Br12 and the small block Br14 right next to Br11 and a red filter R is formed at the photoelectric conversion elements 42 at the four corners.
- the red filter R, the green filter G, or the blue filter B is formed on the light receiving surface of the photoelectric conversion element 11, but cyan / light cyan having a characteristic of transmitting light components of cyan C, which is a complementary color of the three primary colors.
- a filter, a magenta filter having a characteristic of transmitting a light component of magenta M, or a yellow filter having a characteristic of transmitting a light component of yellow Y may be formed.
- Pixel mixing in the solid-state electronic image sensor 40A shown in FIG. 18 may be performed based on FIGS. 3a to 3c. As described above, it will be understood that image reduction and pixel interpolation are performed simultaneously. Such pixel mixing may be performed by using the digital filter 16-18 shown in FIGS.
- FIG. 19 uses filters 16 to 18 shown in FIGS. 4a to 4c for an image 50A obtained by imaging a subject using the image sensor 40A having the color filter array shown in FIG.
- the filter coefficients when performing filter processing are displayed side by side.
- FIG. 19 corresponds to FIG.
- the symbols R, G, or B indicate the color components of each pixel.
- the numbers in parentheses indicate the filter coefficients to be multiplied to each pixel.
- image 80A includes three blocks (consisting of 3 pixels ⁇ 3 pixels) 81A, 82A and 83A in the horizontal and vertical directions, respectively.
- FIG. 21 is obtained by multiplying the filter coefficient shown in FIG. 19 by the weighting coefficient of the filter 61 shown in FIG.
- the symbols R, G or B indicate the color components of the respective pixels.
- the numbers in parentheses indicate the filter coefficients multiplied by each pixel.
- FIG. 22 shows how the filter processing is performed using the filter 61 shown in FIG. 14, and corresponds to FIG.
- the first row block 81A and the third row block 83A have a red component of 255, a green component of 128 bits, and a blue component of 8 bits. 0.
- the red component is 0, the green component is 128, and the blue component is 255.
- each of the red component, the green component, and the blue component in the central region of the block 82A of the image 80A is expressed by equations 4 to 6.
- the ratio of the red component, the green component, and the blue component is 1: 1: 1, and is false as shown by a block (composed of 3 pixels ⁇ 3 pixels) 90A.
- FIG. 23 is a block diagram showing the electrical configuration of the digital camera. In this figure, the same components as those in the circuit shown in FIG. An image sensor 40 having the color filter array shown in FIG. 6 is used.
- the first filter processing is performed as described with reference to FIGS. 9a to 9c and FIGS. 10a to 10c. .
- the image data that has undergone the first filter processing is input to the second pixel mixing device 100.
- the image data input to the second pixel mixing device 100 is given to the changeover switch 101.
- the selector switch 101 is connected to the S2 terminal when the above-described filter processing is performed, and is connected to the S1 terminal when the filter processing is not performed according to a user instruction.
- the selector switch 104 described later.
- the S2 terminal of the changeover switch 101 When the S2 terminal of the changeover switch 101 is connected and image data is input to the memory 102, the input image data is temporarily stored in the memory 102.
- the image data is read from the memory 102 and subjected to filter processing in the filter 103 having the filter coefficient shown in FIG.
- Image data is output from the filter 103 via the changeover switch 104.
- the output image data is one in which generation of false colors is prevented.
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Color Television Image Signal Generators (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Solid State Image Pick-Up Elements (AREA)
Abstract
赤色成分をもつ中央の画素を補間により生成する場合には,その斜め方向にある赤色成分の画素を用いて混合する。緑色成分をもつ中央の画素を補間により生成する場合には,その上下左右にある緑色成分の画素を用いて混合する。中央に青色成分画素が存在する場合には,混合処理は行われない。画素補間と同時に画像の縮小が行われる。
Description
この発明は,撮像装置およびその動作制御方法ならびに撮像システムに関する。
第24a図は,固体電子撮像素子1の受光面の一部を示している。固体電子撮像素子1には,水平方向および垂直方向に多数の光電変換素子2が設けられている。光電変換素子2の受光面上には赤色の光成分を透過する特性を有するカラー・フィルタR,緑色の光成分を透過する特性を有するカラー・フィルタGまたは青色の光成分を透過する特性を有するカラー・フィルタBが形成されている。第24a図においては,ベイヤ配列と呼ばれる配列でカラー・フィルタRGまたはBが光電変換素子2の受光面上に形成されている。第24b図は,固体電子撮像素子1の光電変換素子2の3列に対応した周期の画像が固体電子撮像素子1上に結像した様子を示している。白色の部分のレベルは8ビットで表した場合に255であり,ハッチングで示した部分のレベルは8ビットで表した場合に0である。このような画像が結像した場合において,第3n+1(nは正の整数)行の光電変換素子2に蓄積された信号電荷を読み出す間引き処理が行われると,高周波数成分が折り返り,第24c図に示すように明るく平坦なモアレ画像となってしまう。
第25図は,第24a図に示す固体電子撮像素子1の一行の光電変換素子を示している。水平方向において,同じ特性を有するカラー・フィルタが形成されている光電変換素子2に蓄積された信号電荷が混合されている。カラー・フィルタは一個おきに同じ特性となっているので,画素混合後の画像はロウ・パス・フィルタを通過したように解像度が低下してしまう。
さらに,第26a図に示すように,固体電子撮像素子1の光電変換素子2の列に対応した周期の画像が固体電子撮像素子1上に結像している場合において,第26b図に示すように,3×3の光電変換素子2のブロックごとに信号電荷を混合すると,そのブロック内での赤色のレベルは8ビットで255,緑色のレベルは8ビットで128,青色のレベルは0となり,第26c図に示すように,オレンジ色となってしまう(色モアレ)。
従来は,固体電子撮像素子の受光面前方に光学的ロウ・パス・フィルタを配置し,被写体像の高周波数成分を除去することにより,色モアレの発生などを抑えていた。しかしながら,解像度が低下してしまう。
このために,固体電子撮像素子のフィルタ配列を,任意の着目画素が,その着目画素の色を含む3色と着目画素の4辺のいずれかにいて隣接する配列制限条件を満たす3色ランダム配列としたものがある(特開2000−308080号公報)。しかしながら,同時化処理をランダム・パターンごとに最適化する必要があり,煩雑となる。また,高周波成分による偽色には有効ではない。
また,分光感度が異なる複数のフィルタを有し,そのうちの第1のフィルタと第2のフィルタとが,画像格子の一方の対角方向に第1の所定周期で交互に配置され,他方の対角方向に第2の所定周期で交互に配置されているセンサもある(特開2005−136766号公報)。しかしながら,画素再現精度が高くない。水平,垂直のエッジ以外のパターンに対しても最適な補間を行うものもある(特許第4350706号公報)。
さらに,画素を間引くことにより,データ量を少なくしてフレーム・レートを高くする場合には,間引き処理が行われた後で画素補間処理が行われており,処理が煩雑とならざるを得ない。また,偽信号も発生してしまう。
第25図は,第24a図に示す固体電子撮像素子1の一行の光電変換素子を示している。水平方向において,同じ特性を有するカラー・フィルタが形成されている光電変換素子2に蓄積された信号電荷が混合されている。カラー・フィルタは一個おきに同じ特性となっているので,画素混合後の画像はロウ・パス・フィルタを通過したように解像度が低下してしまう。
さらに,第26a図に示すように,固体電子撮像素子1の光電変換素子2の列に対応した周期の画像が固体電子撮像素子1上に結像している場合において,第26b図に示すように,3×3の光電変換素子2のブロックごとに信号電荷を混合すると,そのブロック内での赤色のレベルは8ビットで255,緑色のレベルは8ビットで128,青色のレベルは0となり,第26c図に示すように,オレンジ色となってしまう(色モアレ)。
従来は,固体電子撮像素子の受光面前方に光学的ロウ・パス・フィルタを配置し,被写体像の高周波数成分を除去することにより,色モアレの発生などを抑えていた。しかしながら,解像度が低下してしまう。
このために,固体電子撮像素子のフィルタ配列を,任意の着目画素が,その着目画素の色を含む3色と着目画素の4辺のいずれかにいて隣接する配列制限条件を満たす3色ランダム配列としたものがある(特開2000−308080号公報)。しかしながら,同時化処理をランダム・パターンごとに最適化する必要があり,煩雑となる。また,高周波成分による偽色には有効ではない。
また,分光感度が異なる複数のフィルタを有し,そのうちの第1のフィルタと第2のフィルタとが,画像格子の一方の対角方向に第1の所定周期で交互に配置され,他方の対角方向に第2の所定周期で交互に配置されているセンサもある(特開2005−136766号公報)。しかしながら,画素再現精度が高くない。水平,垂直のエッジ以外のパターンに対しても最適な補間を行うものもある(特許第4350706号公報)。
さらに,画素を間引くことにより,データ量を少なくしてフレーム・レートを高くする場合には,間引き処理が行われた後で画素補間処理が行われており,処理が煩雑とならざるを得ない。また,偽信号も発生してしまう。
この発明は,データ量を少なくするための処理と画素補間処理とを同時に行うことができるようにすることを目的とする。
また,この発明は,データ量が少なくされた画像から偽信号の発生を未然に防止することを目的とする。
この発明による固体電子撮像装置は,水平方向および垂直方向に多数配列された光電変換素子を備え,色の三原色である赤色,緑色および青色のうちのいずれかの色の光成分または色の三原色の補色であるシアン,マゼンタおよびイエローの3つの補色のうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される1つの小ブロックにおいては,緑色またはイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが各行および各列の上記光電変換素子の受光面上に形成され,このような小ブロックが水平方向および垂直方向に繰り返されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,上記光電変換素子に蓄積された信号電荷を映像信号として出力する固体電子撮像素子,ならびに上記固体電子撮像素子から出力される映像信号のうち,同じフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を,混合後の映像信号レベルが色成分ごとに等しくなるような重み付け係数で重み付けをして混合して出力する第1の映像信号混合回路を備えていることを特徴とする。
この発明は,上記固体電子撮像装置に適した動作制御方法も提供している。すなわち,この方法は,固体電子撮像素子が,水平方向および垂直方向に多数配列された光電変換素子を備え,色の三原色である赤色,緑色および青色のうちのいずれかの色の光成分または色の三原色の補色であるシアン,マゼンタおよびイエローの3つの補色のうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される1つの小ブロックにおいては,緑色またはイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが各行および各列の上記光電変換素子の受光面上に形成され,このような小ブロックが水平方向および垂直方向に繰り返されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,かつ,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,上記光電変換素子に蓄積された信号電荷を映像信号として出力し,映像信号混合回路が,上記固体電子撮像素子から出力される映像信号のうち,同じフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を,混合後の映像信号レベルが色成分ごとに等しくなるような重み付け係数で重み付けをして混合して出力するものである。
この発明によると,固体電子撮像素子から出力される映像信号は,第1の映像信号混合回路において,同じフィルタ特性を有するカラー・フィルタが形成されている光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号が,混合後の映像信号のレベルが色成分ごとに等しくなるような重み付け係数で重み付けがされて混合される。映像信号が混合されるので,実質的に映像信号の信号量が少なくなる。
この発明は,上記の固体電子撮像装置を利用した撮像システムも提供している。すなわち,この撮像システムは,上述した撮像装置を備え,水平方向および垂直方向にそれぞれ3つの上記小ブロックから構成される1つの大ブロック中の水平方向および垂直方向の1ラインにおいて混合後の映像信号レベルが色成分ごとに等しくなる第2の重み付け係数を用いて上記第1の映像信号混合回路から出力される映像信号について色成分ごとに混合して出力する第2の映像信号混合回路を備えていることを特徴とする。
この発明によると,1つの大ブロック中の水平方向および垂直方向の1ラインにおいて混合後の映像信号のレベルが色成分ごとに等しくなる第2の重み付け係数を用いて,第1の映像信号混合回路から出力される映像信号について色成分ごとに混合される。映像信号を混合した場合に,特定の色のみが他の色と比べて大きくならずに,三原色または3つの補色の色成分のレベルが1つの大ブロック中の水平方向および垂直方向の1ラインにおいて色成分ごとに等しくなるので,偽色の発生を未然に防止できる。
上記撮像システムにおいて,水平方向および垂直方向にそれぞれ二つの上記小ブロックから構成される一つの中ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタは,たとえば,水平方向,垂直方向および斜め方向のすべてにおいて2つ連続している部分が少なくとも1つ含まれているものである。
また,上記撮像システムにおいて,上記中ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタは水平方向および垂直方向に2つずつ連続している部分が少なくとも1つ含まれているものである。上記小ブロックに,中央の光電変換素子を中心に点対称となるように上記色の三原色または上記3つの補色の光成分を透過するフィルタ特性を有する3種類のカラー・フィルタがすべて含まれているようにすることが好ましい。上記第1の小ブロックにおいて赤色またはシアンの色の光成分を透過するフィルタ特性を有するカラー・フィルタまたは青色ましくはマゼンタの色の光成分を透過するフィルタ特性を有するカラー・フィルタは水平方向または垂直方向に一つの光電変換素子おきに形成されているものでもよい。
また,この発明は,データ量が少なくされた画像から偽信号の発生を未然に防止することを目的とする。
この発明による固体電子撮像装置は,水平方向および垂直方向に多数配列された光電変換素子を備え,色の三原色である赤色,緑色および青色のうちのいずれかの色の光成分または色の三原色の補色であるシアン,マゼンタおよびイエローの3つの補色のうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される1つの小ブロックにおいては,緑色またはイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが各行および各列の上記光電変換素子の受光面上に形成され,このような小ブロックが水平方向および垂直方向に繰り返されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,上記光電変換素子に蓄積された信号電荷を映像信号として出力する固体電子撮像素子,ならびに上記固体電子撮像素子から出力される映像信号のうち,同じフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を,混合後の映像信号レベルが色成分ごとに等しくなるような重み付け係数で重み付けをして混合して出力する第1の映像信号混合回路を備えていることを特徴とする。
この発明は,上記固体電子撮像装置に適した動作制御方法も提供している。すなわち,この方法は,固体電子撮像素子が,水平方向および垂直方向に多数配列された光電変換素子を備え,色の三原色である赤色,緑色および青色のうちのいずれかの色の光成分または色の三原色の補色であるシアン,マゼンタおよびイエローの3つの補色のうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される1つの小ブロックにおいては,緑色またはイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが各行および各列の上記光電変換素子の受光面上に形成され,このような小ブロックが水平方向および垂直方向に繰り返されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,かつ,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,上記光電変換素子に蓄積された信号電荷を映像信号として出力し,映像信号混合回路が,上記固体電子撮像素子から出力される映像信号のうち,同じフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を,混合後の映像信号レベルが色成分ごとに等しくなるような重み付け係数で重み付けをして混合して出力するものである。
この発明によると,固体電子撮像素子から出力される映像信号は,第1の映像信号混合回路において,同じフィルタ特性を有するカラー・フィルタが形成されている光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号が,混合後の映像信号のレベルが色成分ごとに等しくなるような重み付け係数で重み付けがされて混合される。映像信号が混合されるので,実質的に映像信号の信号量が少なくなる。
この発明は,上記の固体電子撮像装置を利用した撮像システムも提供している。すなわち,この撮像システムは,上述した撮像装置を備え,水平方向および垂直方向にそれぞれ3つの上記小ブロックから構成される1つの大ブロック中の水平方向および垂直方向の1ラインにおいて混合後の映像信号レベルが色成分ごとに等しくなる第2の重み付け係数を用いて上記第1の映像信号混合回路から出力される映像信号について色成分ごとに混合して出力する第2の映像信号混合回路を備えていることを特徴とする。
この発明によると,1つの大ブロック中の水平方向および垂直方向の1ラインにおいて混合後の映像信号のレベルが色成分ごとに等しくなる第2の重み付け係数を用いて,第1の映像信号混合回路から出力される映像信号について色成分ごとに混合される。映像信号を混合した場合に,特定の色のみが他の色と比べて大きくならずに,三原色または3つの補色の色成分のレベルが1つの大ブロック中の水平方向および垂直方向の1ラインにおいて色成分ごとに等しくなるので,偽色の発生を未然に防止できる。
上記撮像システムにおいて,水平方向および垂直方向にそれぞれ二つの上記小ブロックから構成される一つの中ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタは,たとえば,水平方向,垂直方向および斜め方向のすべてにおいて2つ連続している部分が少なくとも1つ含まれているものである。
また,上記撮像システムにおいて,上記中ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタは水平方向および垂直方向に2つずつ連続している部分が少なくとも1つ含まれているものである。上記小ブロックに,中央の光電変換素子を中心に点対称となるように上記色の三原色または上記3つの補色の光成分を透過するフィルタ特性を有する3種類のカラー・フィルタがすべて含まれているようにすることが好ましい。上記第1の小ブロックにおいて赤色またはシアンの色の光成分を透過するフィルタ特性を有するカラー・フィルタまたは青色ましくはマゼンタの色の光成分を透過するフィルタ特性を有するカラー・フィルタは水平方向または垂直方向に一つの光電変換素子おきに形成されているものでもよい。
第1図は,固体電子撮像素子の受光面の一部を示している。
第2図は,固体電子撮像素子の受光面の一部を示している。
第3a図から第3c図は,画素補間の一例である。
第4a図から第4c図は,フィルタの一例である。
第5図は,ディジタル・カメラの電気的構成を示すブロック図である。
第6図は,固体電子撮像素子の受光面の一部を示している。
第7図は,固体電子撮像素子の受光面の一部を示している。
第8図は,固体電子撮像素子の受光面の一部を示している。
第9a図から第9c図は,画素補間の一例である。
第10a図から第10c図は,フィルタの一例である。
第11図は,画像に対し,フィルタ係数を当てはめたものである。
第12図は,画像の一部を示している。
第13図は,画像の一部を示している。
第14図は,フィルタの一例である。
第15図は,画像に対し,フィルタ係数を掛けたものを当てはめたものである。
第16図は,フィルタ処理を示している。
第17図は,固体電子撮像素子の受光面の一部を示している。
第18図は,固体電子撮像素子の受光面の一部を示している。
第19図は,画像に対し,フィルタ係数を当てはめたものである。
第20図は,画像の一部を示している。
第21図は,画像に対し,フィルタ係数を掛けたものを当てはめたものである。
第22図は,フィルタ処理を示している。
第23図は,ディジタル・カメラの電気的構成を示すブロック図である。
第24a図は,固体電子撮像素子の受光面の一部を示し,第24b図および第24c図は画像の一部を示している。
第25図は,画素混合を示している。
第26a図から第26c図は,画像の一部を示している。
第2図は,固体電子撮像素子の受光面の一部を示している。
第3a図から第3c図は,画素補間の一例である。
第4a図から第4c図は,フィルタの一例である。
第5図は,ディジタル・カメラの電気的構成を示すブロック図である。
第6図は,固体電子撮像素子の受光面の一部を示している。
第7図は,固体電子撮像素子の受光面の一部を示している。
第8図は,固体電子撮像素子の受光面の一部を示している。
第9a図から第9c図は,画素補間の一例である。
第10a図から第10c図は,フィルタの一例である。
第11図は,画像に対し,フィルタ係数を当てはめたものである。
第12図は,画像の一部を示している。
第13図は,画像の一部を示している。
第14図は,フィルタの一例である。
第15図は,画像に対し,フィルタ係数を掛けたものを当てはめたものである。
第16図は,フィルタ処理を示している。
第17図は,固体電子撮像素子の受光面の一部を示している。
第18図は,固体電子撮像素子の受光面の一部を示している。
第19図は,画像に対し,フィルタ係数を当てはめたものである。
第20図は,画像の一部を示している。
第21図は,画像に対し,フィルタ係数を掛けたものを当てはめたものである。
第22図は,フィルタ処理を示している。
第23図は,ディジタル・カメラの電気的構成を示すブロック図である。
第24a図は,固体電子撮像素子の受光面の一部を示し,第24b図および第24c図は画像の一部を示している。
第25図は,画素混合を示している。
第26a図から第26c図は,画像の一部を示している。
第1図は,固体電子撮像素子10の受光面を示している。
固体電子撮像素子10には,水平方向および垂直方向に多数の光電変換素子11が配列されている。光電変換素子11の受光面上には,色の三原色である赤色,緑色および青色のうち,赤色の光成分を透過するフィルタ特性を有する赤色フィルタ(符号Rで示す),緑色の光成分を透過するフィルタ特性を有する緑色フィルタ(符号Gで示す)または青色の光成分を透過するフィルタ特性を有する青色フィルタ(符号Bで示す)のいずれかのカラー・フィルタが形成されている。
第1図に示す光電変換素子10におけるカラー・フィルタの配列はベイヤ配列と呼ばれるものである。奇数行奇数列の光電変換素子10の受光面上に赤色フィルタRが形成され,偶数行偶数列の光電変換素子10の受光面上に青色フィルタBが形成され,奇数行偶数列および偶数行奇数列の光電変換素子10の受光面上に緑色フィルタGが形成されている。
第2図は,水平方向および垂直方向にそれぞれ3つの光電変換素子11から構成される小ブロック12を示している。
小ブロック12では,中心の光電変換素子11Aには青色フィルタBが形成されている。中心の光電変換素子11Aの上下左右の光電変換素子11には緑色フィルタGが形成されており,中心の光電変換素子11Aの斜め方向には赤色フィルタRが形成されている。このように,ベイヤ配列では,水平方向および垂直方向にそれぞれ3つの光電変換素子11から構成される小ブロック12を考えた場合,小ブロック12に含まれる光電変換素子11に赤色フィルタR,緑色フィルタGおよび青色フィルタBのすべてが含まれ,かつ中心の光電変換素子11Aを中心に点対称となるようにカラー・フィルタが形成されている。中心の光電変換素子11Aに形成されているカラー・フィルタが青色フィルタBの場合だけでなく,中心の光電変換素子11Aに形成されているカラー・フィルタが赤色フィルタRまたは緑色フィルタGの場合でも同様である。
赤色フィルタRが形成されている光電変換素子11には赤色の光成分を表わす信号電荷が蓄積され,緑色フィルタGが形成されている光電変換素子11には緑色の光成分を表わす信号電荷が蓄積され,青色フィルタBが形成されている光電変換素子11には青色の光成分を表わす信号電荷が蓄積される。蓄積された信号電荷が固体電子撮像素子10から読み出されることにより,被写体像を表わす映像信号が得られる。
上記の例では,光電変換素子11の受光面上に赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されているが,三原色の補色であるシアンCの光成分を透過する特性を有するシアン・フィルタ,マゼンタMの光成分を透過する特性を有するマゼンタ・フィルタまたはイエローYの光成分を透過する特性を有するイエロー・フィルタがベイヤ配列にしたがって形成されていてもよい。
第3a図から第3c図は,この実施例による画素混合の方法を示している。この実施例による画素混合は,画像の縮小と画素補間とを同時に行うものである。
第3a図は,第2図に示す小ブロック12を構成する光電変換素子11から得られる3画素×3画素の画像部分13を示している。第2図に示す小ブロック12を構成する光電変換素子12のうち,赤色フィルタRが形成されている光電変換素子12から得られる画素を用いて,赤色成分をもつ中央の画素13Aが生成される。第2図に示すように,中央の光電変換素子11Aの右斜め下,右斜め上,左斜め下および左斜め上の光電変換素子11にカラー・フィルタRが形成されている。カラー・フィルタRが形成されている光電変換素子11に対応する画素から赤色成分を表わす画素R(カラー・フィルタと同じ符号を付す)が得られる。赤色成分をもつ中央の画素13Aは存在しないから,その中央の画素13Aの右斜め下,右斜め上,左斜め下および左斜め上の赤色成分をもつ画素Rが混合されることにより,赤色成分をもつ中央の画素13Aが生成されるとともに画像部分13が縮小される(水平方向および垂直方向ともに1/3に縮小)。
第3b図も,第2図に示す小ブロック12を構成する光電変換素子11から得られる3画素×3画素の画像部分13を示している。第2図に示す小ブロック12を構成する光電変換素子12のうち,緑色フィルタGが形成されている光電変換素子12から得られる画素を用いて,緑色成分をもつ中央の画素13Aが生成される。第2図に示すように,中央の光電変換素子11Aの上下左右の光電変換素子11にカラー・フィルタGが形成されている。カラー・フィルタGが形成されている光電変換素子11に対応する画素から緑色成分を表わす画素G(カラー・フィルタと同じ符号を付す)が得られる。緑色成分をもつ中央の画素13Aは存在しないから,その中央の画素13Aの上下左右の緑色成分をもつ画素Gが混合されることにより,緑色成分をもつ中央の画素13Aが生成されるとともに画像部分13が縮小される。
第3c図も,第2図に示す小ブロック12を構成する光電変換素子11から得られる3画素×3画素の画像部分13を示している。第2図に示す小ブロック12を構成する光電変換素子11のうち,中央の光電変換素子11Aには,青色フィルタBが形成されているから,青色成分をもつ中央の画素13Aが得られている。なお,本実施例では,上記処理を小ブロック12の3画素×3画素の全ての画素を用いて行っているが,全ての画素を用いずに各色成分の中央の画素13Aを生成しても良い。
第4a図から第4c図は,第3a図から第3c図に示す方法で画素補間および縮小を行うためのフィルタ(ディジタル・フィルタ)の一例である。
第4a図は,第3a図に示すように赤色成分をもつ中央の画素13Aを生成するためのフィルタ16を示している。フィルタ16は,3画素×3画素の画像部分13に対応するもので,赤色成分を有する画素Rに乗じるフィルタ係数(重み付け係数)が規定されている。これらのフィルタ係数はすべて1である。空白の箇所のフィルタ係数は0である。
第4b図は,第3b図に示すように緑色成分をもつ中央の画素13Aを生成するためのフィルタ17を示している。フィルタ17も3画素×3画素の画像部分13に対応するもので,緑色成分を有する画素Gに乗じるフィルタ係数が規定されている。これらのフィルタ係数もすべて1である。
第4c図は,第3c図に示すように青色成分をもつ中央の画素13Aを生成するためのフィルタ18を示している。フィルタ18も3画素×3画素の画像部分13に対応するもので,青色成分を有する画素Bに乗じるフィルタ係数が規定されている。このフィルタ係数は4である。
第2図に示す小ブロック12から得られる3画素×3画素から構成される画像部分を表す画像データに対して,第4a図,第4b図および第4c図に示すフィルタ16,17および18を用いてフィルタ処理が行われることにより,第3a図,第3b図および第3c図に示す処理が行われることと等価となる(但し,実際にはデータ量を維持するためにフィルタ処理により得られた値に1/4が乗じられる)。また以上の処理は,赤色成分,緑色成分,青色成分の加重平均の重心を小ブロック12の中央の画素位置とするように混合処理することで,小ブロック12の中央の画素位置における各色成分の画素13Aを生成する処理と等価である。
以上の処理が行われることにより,画素補間処理と画像の縮小処理とが同時に行われることとなる。他の画素についても同様の処理が行われ1フレームの画像について画素補間処理と画像の縮小処理とが同時に行われることとなる。
第5図は,ディジタル・カメラの電気的構成を示すブロック図である。
ディジタル・カメラの全体の動作は制御装置20によって統括される。ディジタル・カメラには,撮像装置21が含まれている。この撮像装置21に上述した固体電子撮像素子10が含まれている。固体電子撮像素子10は,駆動回路30によって駆動される。
撮像素子10の前方には撮像レンズ22が設けられており,撮像レンズ22によって被写体像が撮像素子10の受光面に結像する。撮像素子10からは,被写体像を表わす映像信号が出力され,アナログ/ディジタル変換回路24においてディジタル画像データに変換される。変換されたディジタル画像データは画素混合装置29に入力する。画素混合装置29において上述したように画素補間および画像の縮小処理が行われる。
画素混合装置29に入力した画像データは,切り換えスイッチ25に与えられる。静止画記録時には切り換えスイッチ25はS1端子側が接続され,上述したように画素補間および画像の縮小処理が行われる場合(例えば,スルー画撮像,ムービ撮像時)には切り替えスイッチ25はS2端子側が接続される。
切り替えスイッチ25のS2端子側が接続されていると,画像データはメモリ26に与えられ,一時的に記憶される。
第3a図に示したように赤色成分の画素を表わす画像データがメモリ26から読み出されてフィルタ27に入力する。赤色成分の画素を表わす画像データがフィルタ27に入力するときには,フィルタ27のフィルタ係数は第4a図に示すものとなる。上述したように,赤色成分の画素についての画素補間および縮小処理が実現される。
同様に,第3b図に示したように緑色成分の画素を表わす画像データがメモリ26から読み出されてフィルタ27に入力する。緑色成分の画素を表わす画像データがフィルタ27に入力するときには,フィルタ27のフィルタ係数は第4b図に示すものとなる。上述したように,緑色成分の画素についての画素補間および縮小処理が実現される。
また,第3c図に示したように青色成分の画素を表わす画像データがメモリ26から読み出されてフィルタ27に入力する。青色成分の画素を表わす画像データがフィルタ27に入力するときには,フィルタ27のフィルタ係数は第4c図に示すものとなる。上述したように,青色成分の画素についての画素補間および縮小処理が実現される。
フィルタ27から出力された画像データは,切り替えスイッチ28のS2端子に与えられる。切り替えスイッチ28も切り替えスイッチ25と同様に,静止画記録時にはS1端子側が接続され,画素補間および画像の縮小処理が行われる場合(例えば,ムービ撮像時)にはS2端子側が接続される。フィルタ27から出力された画像データは画像処理回路31において所定の処理が行われて出力されることとなる。静止画記録時に得られる画像データは画素混合装置29における処理は行われずに画像処理回路31に入力する。画像処理回路31において所定の画像処理が行われて出力する。
第6図から第17図は,他の実施例を示している。
第6図は,固体電子撮像素子40の受光面の一部を示している。
固体電子撮像素子40にも水平方向および垂直方向に多数の光電変換素子41が配列されている。これらの光電変換素子41の受光面上には上述したのと同様に,赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されている。
第6図では,水平方向および垂直方向にそれぞれ9つの光電変換素子42が抽出されている。このように,水平方向および垂直方向にそれぞれ9つの光電変換素子42から構成されるブロックを大ブロック41と呼ぶこととする。大ブロック41は,後述のように小ブロックを水平方向および垂直方向にそれぞれ3つずつのものに等しく小ブロック9個分と等しい。
第7図は,第6図に示す固体電子撮像素子40の受光面のうち,水平方向および垂直方向にそれぞれ6つの光電変換素子42が抽出されたものである。
水平方向および垂直方向にそれぞれ6つの光電変換素子42が抽出されたものを中ブロック43と呼ぶこととする。中ブロック43は,後述のように小ブロックを水平方向および垂直方向にそれぞれ2つずつのものに等しく小ブロック4個分と等しい。
中ブロック43では,水平方向および垂直方向において緑色フィルタG,赤色フィルタRおよび青色フィルタBが少なくとも一つずつ形成されており,この中ブロック43を繰り返し配列することでいずれの水平方向,垂直方向および斜め方向においても緑色フィルタGが少なくとも一つは形成されている。また,中ブロック43においては,緑色フィルタGが水平方向,垂直方向および斜め方向において2つ連続している部分が少なくとも一つは含まれている。さらに,中ブロック43においては,緑色フィルタGが水平方向および垂直方向において2つ連続している部分が少なくとも一つは含まれている。中ブロック43のカラー・フィルタの配列が水平方向および垂直方向において繰り返されて,固体電子撮像素子40のカラー・フィルタの配列となる。
たとえば,中ブロック43では,緑色フィルタGは,第6n(nは正の整数)+1行,第6n+3行,第6n+4行および第6n+6行では,第6m(mは正の整数)+1列,第6m+3列,第6m+4列および第6m+6列に形成されており,第6n+2行および第6n+5行では,第6m+2列,第6m+5列に形成されている。同様に,青色フィルタBは,第6n+1行および第6n+3行では第6m+2列に,第6n+2行では第6m+4列および第6m+6列に,第6n+4行および第6n+6行では第6m+5列に,第6n+5行では第6m+1列および第6m+3列にそれぞれ形成されている。赤色フィルタRは,第6n+1行では第6m+5列に,第6n+2行では第6m+1列および第6m+3列に,第6n+4行および第6n+6行では第6m+2列に,第6n+5行では第6m+4列および第6m+6列にそれぞれ形成されている。
第8図は,固体電子撮像素子40の一部を構成するものであり,水平方向および垂直方向にそれぞれ3画素の光電変換素子41から構成される小ブロック44を示している。
小ブロック44では,中心ならびに中心の斜め左上,斜め左下,斜め右上および斜め右下に緑色フィルタGが形成されている。中心に形成されている緑色フィルタGの上下には青色フィルタBが形成され,中心に形成されている緑色フィルタGの左右には赤色フィルタRが形成されている。
中心に形成されている緑色フィルタGの上下に青色フィルタBが形成され,その緑色フィルタGの左右に赤色フィルタRが形成されている小ブロック44と,その小ブロック44に形成されている青色フィルタBと赤色フィルタRとの位置が逆の小ブロックとが水平及び垂直方向に交互に繰り返されて固体電子撮像素子40(大ブロック41,中ブロック43)のカラー・フィルタ配列となる。
小ブロック44においても,小ブロック44に含まれる光電変換素子41に赤色フィルタR,緑色フィルタGおよび青色フィルタBのすべてが含まれ,かつ中心の光電変換素子41Aを中心に点対称となるようにカラー・フィルタが形成されている。
上記の例では,光電変換素子11の受光面上に赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されているが,三原色の補色であるシアンCの光成分を透過する特性を有するシアン・フィルタ,マゼンタMの光成分を透過する特性を有するマゼンタ・フィルタまたはイエローYの光成分を透過する特性を有するイエロー・フィルタがベイヤ配列にしたがって形成されていてもよい。
第9a図から第9c図は,この実施例による画素混合の方法を示している。この実施例による画素混合も,画像の縮小と画素補間とを同時に行うものである。
第9a図は,第8図に示す小ブロック44を構成する光電変換素子41から得られる3画素×3画素の画像部分45を示している。第8図に示す小ブロック44を構成する光電変換素子41のうち,赤色フィルタRが形成されている光電変換素子41から得られる画素を用いて,赤色成分をもつ中央の画素45Aが生成される。第8図に示すように,中央の光電変換素子45Aの左右の光電変換素子41にカラー・フィルタRが形成されている。カラー・フィルタRが形成されている光電変換素子41に対応する画素からが赤色成分を表わす画素R(カラー・フィルタと同じ符号を付す)が得られる。赤色成分をもつ中央の画素45Aは存在しないから,その中央の画素45Aの左右の赤色成分をもつ画素Rが混合されることにより,赤色成分をもつ中央の画素45Aが生成されるとともに画像部分45が縮小される。
第9b図も,第8図に示す小ブロック44を構成する光電変換素子41から得られる3画素×3画素の画像部分45を示している。第8図に示す小ブロック44を構成する光電変換素子41のうち,緑色フィルタGが形成されている光電変換素子41から得られる画素を用いて,緑色成分をもつ中央の画素45Aが生成される。第8図に示すように,中央の光電変換素子41Aおよび中央の光電変換素子41Aの斜め左上,斜め左下,斜め右上および斜め右下の光電変換素子41にカラー・フィルタGが形成されている。カラー・フィルタGが形成されている光電変換素子41に対応する画素から緑色成分を表わす画素G(カラー・フィルタと同じ符号を付す)が得られる。この場合も緑色成分をもつ中央の画素45Aが生成されるとともに画像部分45が縮小される。
第9c図も,第8図に示す小ブロック44を構成する光電変換素子41から得られる3画素×3画素の画像部分45を示している。第8図に示す小ブロック44を構成する光電変換素子41のうち,中央の光電変換素子41Aの上下に,青色フィルタBが形成されているから,第9c図に示すように中央の画素45Aの上下にある青色成分をもつ画素から青色成分をもつ中央の画素45Aが生成されるとともに画像部分45が縮小される。なお,本実施例では,上記処理を小ブロック44の3画素×3画素の全ての画素を用いて行っているが,全ての画素を用いずに各色成分の中央の画素45Aを生成しても良い。
第10a図から第10c図は,第9a図から第9c図に示す方法で画素補間および縮小を行うためのフィルタ(ディジタル・フィルタ)の一例である。
第10a図は,第9a図に示すように赤色成分をもつ中央の画素45Aを生成するためのフィルタ47を示している。フィルタ47は,3画素×3画素の画像部分45に対応するもので,赤色成分を有する画素Rに乗じるフィルタ係数(重み付け係数)が規定されている。これらのフィルタ係数はいずれも4である。
第10b図は,第9b図に示すように緑色成分をもつ中央の画素45Aを生成するためのフィルタ48を示している。フィルタ48も3画素×3画素の画像部分45に対応するもので,緑色成分を有する画素Gに乗じるフィルタ係数が規定されている。中央の画素Gに乗じるフィルタ係数が4であり,その他の画素Gに乗じるフィルタ係数はすべて1である。
第10c図は,第9c図に示すように青色成分をもつ中央の画素13Aを生成するためのフィルタ49を示している。フィルタ49も3画素×3画素の画像部分45に対応するもので,青色成分を有する画素Bに乗じるフィルタ係数が規定されている。このフィルタ係数はいずれも4である。
第8図に示す小ブロック44から得られる3画素×3画素から構成される画像部分を表す画像データに対して,第10a図,第10b図および第10c図に示すフィルタ47,48および49を用いてフィルタ処理が行われることにより,第9a図,第9b図および第9c図に示す処理が行われることと等価となる。また以上の処理は,赤色成分,緑色成分,青色成分の加重平均の重心を小ブロック44の中央の画素位置とするように混合処理することで,小ブロック44の中央の画素位置における各色成分の画素45Aを生成する処理と等価である。
以上の処理が行われることにより,画素補間処理と画像の縮小処理とが同時に行われることとなる。他の画素についても同様の処理が行われ1フレームの画像について画素間処理と画像の縮小処理とが同時に行われることとなる。
第11図は,第6図に示すカラー・フィルタ配列をもつ撮像素子42を用いて被写体を撮像することにより得られる画像に対し,第10a図から第10c図に示すフィルタ47から49を用いてフィルタ処理するときの各フィルタ係数を並べて表示したものである。
第11図において,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられるフィルタ係数を示している。第11図において水平方向の中央のラインにある画素のフィルタ係数を色成分ごとに加算すると,赤色成分については4+4=8,緑色成分については4+4+4=12,青色成分については4+4+4+4=16となってしまい,赤色成分,緑色成分および青色成分の比率が2:3:4となっており,1:1:1となっていない。垂直方向の中央のラインにある画素のフィルタ係数についても同様である。
第12図は,被写体像70の一例である。
この被写体像70は,第6図に示す撮像素子42の水平方向の画素の解像度と同じ解像度をもつもので,各列71の幅と光電変換素子41の幅とが等しくなっている。
第12図に示すような被写体像70が,第6図に示す撮像素子40の受光面上に結像し,かつ第10a図から第10c図に示すフィルタ47から49を用いてフィルタ処理が行われると,第13図に示す画像80となる。
第13図を参照して,画像80には水平方向および垂直方向にそれぞれ3つのブロック(3画素×3画素から構成される)81,82および83が含まれている。第1行のブロック81は青色となり,第2行のブロック82はオレンジ色となり,第3行のブロック83は青色となる。この実施例では,赤色成分,緑色成分および青色成分の比率が1:1:1となるように,さらにフィルタ処理が行われるものである。
第14図は,フィルタ61の一例である。
第1行から第3行および第7行から第9行までは,第1列から第3列および第7列から第9列のフィルタ係数は1であり,第1行から第3行および第7行から第9行までは,第4列から第6列,第4行から第6行までは第1列から第3列および第7列から第9列のフィルタ係数は2であり,第4行から第6行までは第4列から第6列までのフィルタ係数は4である。各ブロック62は3画素×3画素に対応して形成されている。
第15図は,第11図に示すフィルタ係数に対して第14図に示すフィルタ61の重み付け係数を掛け合わせたものである。
第15図においても第11図と同様に,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられたフィルタ係数を示している。
第15図においては,第11図に示すものと異なり,水平方向および垂直方向の中央のラインにおいてフィルタ係数の和は赤色成分では16+16=32,緑色成分では8+8+16=32,青色成分では8+8+8+8=32であり,1:1:1の色成分の関係が保たれている。この結果,偽色の発生が防止される。
第16図は,第14図に示すフィルタ61を利用してフィルタ処理が行われる様子を示している。
第10a図から第10c図に示すフィルタ47から49を用いて画像がフィルタ処理された場合に得られる第13図に示す画像80は,第1行のブロック81および第3行のブロック83については赤色成分が0,緑色成分が8ビット標記で128,青色成分が8ビット標記で255となっている。また,画像80の第2行のブロック82については赤色成分が255,緑色成分が128,青色成分が0となっている。
このような画像80にフィルタ61を用いてフィルタ処理が行われると,画像80のブロック82の中央の領域の赤色成分,緑色成分および青色成分のそれぞれについて式1から式3で表される。
赤色成分=(0×1+0×2+0×1+255×2+255×4+255×2+0×1+0×2+0×1)/16=128・・・式1
緑色成分=(128×1+128×2+128×1+128×2+128×4+128×2+128×1+128×2+128×1)/16=128・・・式2
青色成分=(255×1+255×2+255×1+0×2+0×4+0×2+255×1+255×2+255×1)/16=128・・・式3
式1から式3を参照すれば分るように,赤色成分,緑色成分および青色成分の比率が1:1:1となり,ブロック(3画素×3画素から構成される)90で示すように偽色の発生が防止される。このようなフィルタ61によるフィルタ処理が,隣接する隣の領域に移動して順次行われ,これを繰り返すことで画像80に対してフィルタ処理が行われる。フィルタ61の処理103は,フィルタ27の処理と異なり,画素混合による間引きは行われない。画像80に対し3×3のフィルタ61のフィルタ処理が行われると,画像80の中央真ん中の大きい1画素(90)について比率が1:1:1となり,引き続き隣接する画像80内の大きい1画素に移動して3×3のフィルタ61のフィルタ処理が行われる処理が繰りかされることにより,偽色が修正される。一方,図10等の最初のフィルタ処理は,フィルタ61の処理と対比的に見ると,3×3の中央の画素を対象とするフィルタ処理のみ行っているとも言える。
上述した実施例において,偽色の発生を防止できる理由について述べる。
第17図は,固体電子撮像素子40のカラー・フィルタ配列を示すもので,第6図に示すものに対応している。第17図において,第6図に示すものと同一物については同一符号が付されている。
上述したように,第17図に示すカラー・フィルタ配列を有する固体電子撮像素子40の受光面上に,第12図に示したように,第17図に示す固体電子撮像素子40の水平方向の解像度と同じ解像度をもつ被写体像が結像すると,第13図に示すように,第1行のブロック81および第3行のブロック81では青色に,第2行のブロック82はオレンジとなり,偽色が発生する。
第17図において,第6n+1行から第6n+3行の第6m+1列から第6m+3列の光電変換素子のブロックのうち,小ブロックBr1およびBr3ならびに第6n+1行から第6n+3行の第6m+4列から第6m+6列の光電変換素子の小ブロックBr2が第13図に示す第1行のブロック81に対応する。第6n+4行から第6n+6行の第6m+1列から第6m+3列の光電変換素子の小ブロックBr4およびBr6ならびに第6n+4行から第6n+6行の第6m+4列から第6m+6列の光電変換素子の小ブロックBr5が第13図に示す第2行のブロック82に対応する。第6n+1行から第6n+3行の第6m+1列から第6m+3列の光電変換素子のブロックのうち,小ブロックBr7およびBr9ならびに第6n+1行から第6n+3行の第6m+4列から第6m+6列の光電変換素子の小ブロックBr8が第13図に示す第3行のブロック83に対応する。
第13図において,第1行のブロック81は青色になっているが,これは,第17図の第1行の小ブロックBr1および小ブロックBr3においては,赤色の光成分を透過するフィルタが形成されている第6m+1列および第6m+3列の被写体像(第12図に示す被写体像70)のレベルが0となり,第17図の第1行の小ブロックBr2においては,赤色の光成分を透過するフィルタが形成されている第6m+5行の被写体像のレベルが0となるからである。また,第13図において,第2行のブロック82はオレンジとなっているが,第17図の第2行の小ブロックBr4および小ブロックBr6においては,青色の光成分を透過するフィルタが形成されている第6m+1列および第6m+3列の被写体像(第12図に示す被写体像70)のレベルが0となり,第17図の第2行の小ブロックBr5においては,青色の光成分を透過するフィルタが形成されている第6m+5行の被写体像のレベルが0となるからである。第13図において,第3行のブロック83が青色になっている理由は第1行のブロック81が青色になっている理由と同じである。
この実施例では,小ブロックBr1−Br9においては緑色の光成分を透過するフィルタ特性を有するカラー・フィルタは各行および各列の光電変換素子の受光面上に形成されているが,奇数行の小ブロックBr1−Br3,Br7−Br9において赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている光電変換素子の位置に対応する偶数行の小ブロックBr4−Br6の位置にある光電変換素子の位置に青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている。同様に,奇数行の小ブロックBr1−Br3,Br7−Br9において青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている光電変換素子の位置に対応する偶数行の小ブロックBr4−Br6の位置にある光電変換素子の位置に赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている。
このように,奇数行の小ブロックBr1−Br3,Br7−Br9と偶数行の小ブロックBr4−Br6との間で,青色の光成分を透過するフィルタ特性を有するカラー・フィルタの配置と赤色の光成分を透過するフィルタ特性を有するカラー・フィルタの配置とが逆となっているために,第14図のようなフィルタ演算により隣接する小ブロックから得られる映像信号にもとづいて偽色を補正できる。その際,フィルタ係数値として,第15図に示したような赤色成分,緑色成分,青色成分の係数の和の比率が1:1:1となるよう第14図のフィルタ係数を設定する。
また,この実施例によるカラー・フィルタ配列では,次のように,いわゆるA配列とB配列とが水平方向および垂直方向に交互に繰り返されていると表わすこともできる。
すなわち,いわゆるA配列(たとえば,小ブロックBr1)では,第17図に示す小ブロックBr1−Br9のそれぞれの小ブロック内において,緑色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央と四隅に形成され,小ブロックBr1に示すように赤色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央の行(第6n+2行)の両端に形成され,青色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央の列(第6m+2列)の両端に形成される。いわゆるB配列(たとえば,小ブロックBr4,Br2)では,A配列と同様に,小ブロックBr1−Br9のそれぞれの小ブロック内において,緑色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央と四隅に形成されるが,小ブロックBr4(または小ブロックBr2)に示すように,小ブロックBr1では赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていた中央の行(第6n+5行または第6n+2行)の両端には青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成され,小ブロックBr1では青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていた中央の列(第6m+2列または第6m+5列)の両端には赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成される。
偶数行の小ブロックBr4−Br6では赤色の光成分を透過するフィルタ特性を有するカラー・フィルタは,奇数行の小ブロックBr1−Br3,Br7−Br9において赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていない光電変換素子の受光面に形成されている。奇数行の小ブロックBr1−Br3,Br7−Br9において青色の光成分を透過するフィルタ特性を有するカラー・フィルタは,偶数行の小ブロックBr4−Br6において青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていない光電変換素子の受光面上に形成されている。したがって,第12図のような撮像素子42の水平方向の解像度と同じ解像度の被写体像が結像した場合であっても,第14図のようなフィルタ演算により隣接する小ブロックから得られる映像信号にもとづいて偽色を補正できる。その際,フィルタ係数を適切に設定するのは上述した通りである。
このように,小ブロックBr1において赤色の色の光成分を透過するフィルタ特性を有するカラー・フィルタは水平方向または垂直方向に一つの光電変換素子おきの光電変換素子の受光面上に形成されており,小ブロックBr1に垂直方向に隣接する小ブロックBr4(水平方向に隣接する小ブロックBr2)においては,小ブロックBr1において赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている位置に対応する位置にある光電変換素子の受光面上に青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている。
また,ベイヤ配列では,赤色の光成分を透過する特性を有するカラー・フィルタおよび青色の光成分を透過する特性を有するカラー・フィルタは,いずれも水平方向に1画素おきに配列されており,同一列および同一行には赤色の光成分を透過する特性を有するカラー・フィルタまたは青色の光成分を透過する特性を有するカラー・フィルタしか存在しないので,第26c図のようにオレンジ色の偽色しか生じない。第14図のようなフィルタ演算を行っても隣接ブロックにも青色の光成分が存在しないので上述のように偽色を補正できない。
これに対し,この実施例によるカラー・フィルタ配列では,中ブロック(基本配列パターン)において,水平方向および垂直方向のすべてに緑色の光成分,青色の光成分および赤色の光成分を透過するフィルタ特性をもつカラー・フィルタが少なくとも1つ形成されているため,フィルタ演算により隣接する小ブロックからの映像信号にもとづいて偽色を補正できる。その際,フィルター係数値として,赤色成分,緑色成分,青色成分の係数の和の比率が1:1:1となるようフィルタ係数が設定されるのはいうまでもない。
第18図から第22図は,他の実施例を示すものである。
第18図は,固体電子撮像素子40Aの受光面の一部を示すもので,第6図に対応している。
固体電子撮像素子40Aにも水平方向および垂直方向に多数の光電変換素子41が配列されている。これらの光電変換素子41の受光面上には上述したのと同様に,赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されている。第18図に示す固体電子撮像素子40Aのフィルタ配列は,第6図に示す固体電子撮像素子40のフィルタ配列と異なっている。
第18図に示す固体電子撮像素子40Aにおいても,第6図に示す固体電子撮像素子40と同様に,水平方向および垂直方向にそれぞれ9つの光電変換素子42が抽出されている(大ブロック41)。上述したように,大ブロック41は,水平方向および垂直方向にそれぞれ3つの光電変換素子は42から構成される9個分の小ブロックBr11−Br19と等しい。
これらの小ブロックBr11−Br19のそれぞれにおいて,中央の光電変換素子42の上下および左右の光電変換素子42の受光面上には緑色の光成分を透過する緑色フィルタGが形成されている。中央の光電変換素子42の受光面上には赤色の光成分を透過する赤色フィルタRまたは青色の光成分を透過する青色フィルタBが形成されている。中央の光電変換素子42の受光面に赤色フィルタRが形成されている場合には,四隅の光電変換素子42の受光面には青色フィルタBが形成されており,中央の光電変換素子42の受光面に青色フィルタBが形成されている場合には四隅の光電変換素子42の受光面には赤色フィルタRが形成されている。
また,上下または左右に隣接する小ブロックBr11−Br19同士では,中央の光電変換素子42に形成されているフィルタおよび四隅の光電変換素子42に形成されているフィルタは異なっている。たとえば,第18図において左上の小ブロックBr11の中央の光電変換素子42には赤色フィルタRが形成されており,四隅の光電変換素子42には青色フィルタBが形成されているが,この小ブロックBr11の右隣および下の小ブロックBr12および小ブロックBr14の中央の光電変換素子42には青色フィルタBが形成されており,四隅の光電変換素子42には赤色フィルタRが形成されている。このように,小ブロックBr11において赤色フィルタR(または青色フィルタB)が形成されている光電変換素子42の位置に対応する小ブロックBr12および小ブロックBr14の位置にある光電変換素子42の受光面には青色フィルタB(または赤色フィルタR)が形成されている。小ブロックBr11と小ブロックBr12および小ブロックBr14だけでなく,他の小ブロックについても同様の関係が成立する。
第18図においては,9つの小ブロックBr11−Br19からなる大ブロック41のみが図示されているが,そのような小ブロックが水平方向および垂直方向に繰り返されていることはいうまでもない。
上記の例では,光電変換素子11の受光面上に赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されているが,三原色の補色であるシアンCの光成分を透過する特性を有するシアン・フィルタ,マゼンタMの光成分を透過する特性を有するマゼンタ・フィルタまたはイエローYの光成分を透過する特性を有するイエロー・フィルタが形成されていてもよい。
第18図に示す固体電子撮像素子40Aにおける画素混合は,第3a図から第3c図にもとづいて行われればよい。上述したのと同様に,画像の縮小と画素補間とが同時に行われるのは理解できよう。また,そのような画素混合は,第4a図から図4c図に示すディジタル・フィルタ16−18を利用すればよい。
第19図は,第18図に示すカラー・フィルタ配列をもつ撮像素子40Aを用いて被写体を撮像することにより得られる画像50Aに対し,第4a図から第4c図に示すフィルタ16から18を用いてフィルタ処理するときの各フィルタ係数を並べて表示したものである。第19図は,第11図に対応している。
第19図において,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられるフィルタ係数を示している。上述したのと同様に,第19図において水平方向の中央のラインにある画素のフィルタ係数を色成分ごとに加算すると,赤色成分については4,緑色成分については1+1+1+1=4,青色成分については4+4=8となってしまい,赤色成分,緑色成分および青色成分の比率が1:1:2となっており,1:1:1となっていない。垂直方向の中央のラインにある画素のフィルタ係数についても同様である。
上述したのと同様に,第12図に示すような被写体像70が,第18図に示す撮像素子40Aの受光面上に結像し,かつ第4a図から第4c図に示すフィルタ16から18を用いてフィルタ処理が行われると,第20図に示す画像80となる。
第20図を参照して,画像80Aには水平方向および垂直方向にそれぞれ3つのブロック(3画素×3画素から構成される)81A,82Aおよび83Aが含まれている。第1行のブロック81Aはオレンジ色となり,第2行のブロック82Aは青色となり,第3行のブロック83Aはオレンジ色となる。この実施例においても,赤色成分,緑色成分および青色成分の比率が1:1:1となるように,さらにフィルタ処理が行われる。
第21図は,第19図に示すフィルタ係数に対して第14図に示すフィルタ61の重み付け係数を掛け合わせたものである。
第21図においても第19図と同様に,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられたフィルタ係数を示している。
第21図においては,第19図に示すものと異なり,水平方向および垂直方向の中央のラインにおいてフィルタ係数の和は赤色成分では16,緑色成分では2+2+4+4+2+2=16,青色成分では8+8=16であり,1:1:1の色成分の関係が保たれている。
第22図は,第14図に示すフィルタ61を利用してフィルタ処理が行われる様子を示すもので,第16図に対応している。
上述のように,第20図に示す画像80Aは,第1行のブロック81Aおよび第3行のブロック83Aについては赤色成分が255,緑色成分が8ビット標記で128,青色成分が8ビット標記で0となっている。また,画像80Aの第2行のブロック82Aについては赤色成分が0,緑色成分が128,青色成分が255となっている。
このような画像80Aにフィルタ61を用いてフィルタ処理が行われると,上述した式1から式3と同様に,画像80Aのブロック82Aの中央の領域の赤色成分,緑色成分および青色成分のそれぞれについて式4から式6で表される。
赤色成分=(255×1+255×2+255×1+0×2+0×4+0×2+255×1+255×2+255×1)/16=128・・・式4
緑色成分=(128×1+128×2+128×1+128×2+128×4+128×2+128×1+128×2+128×1)/16=128・・・式5
青色成分=(0×1+0×2+0×1+255×2+255×4+255×2+0×1+0×2+0×1)/16=128・・・式6
式4から式6を参照すれば分るように,赤色成分,緑色成分および青色成分の比率が1:1:1となり,ブロック(3画素×3画素から構成される)90Aで示すように偽色の発生が防止される。このようなフィルタ61によるフィルタ処理が,隣接する隣の領域に移動して順次行われ,これを繰り返すことで画像80Aに対してフィルタ処理が行われる。
第23図は,ディジタル・カメラの電気的構成を示すブロック図である。この図において,第5図に示す回路と同一物については同一符号を付して説明を省略する。
撮像素子40は,第6図に示すカラー・フィルタの配列をもつものが利用される。上述したように,画素混合装置(第1の画素混合装置)29において,第9a図から第9c図および第10a図から第10c図を参照して説明したように第1のフィルタ処理が行われる。第1のフィルタ処理が行われた画像データは第2の画素混合装置100に入力する。
第2の画素混合装置100に入力した画像データは切り替えスイッチ101に与えられる。切り替えスイッチ101は,切り替えスイッチ25および28と同様に,上述したフィルタ処理等が行われる場合にはS2端子が接続され,ユーザーの指示などによりフィルタ処理を行わない時にはS1端子が接続される。後述の切り替えスイッチ104も同様である。
切り替えスイッチ101のS2端子が接続されて画像データがメモリ102に入力すると入力した画像データはメモリ102に一時的に記憶される。画像データはメモリ102から読み出され,第14図に示すフィルタ係数をもつフィルタ103においてフィルタ処理が行われる。フィルタ103から画像データが切り替えスイッチ104を介して出力される。出力された画像データは偽色の発生が防止されたものとなる。なお,上記実施の形態においては撮像素子から出力された映像信号をアナログ/ディジタル変換したディジタル画像データに対して上述の画素混合処理を行う例を示したが,撮像素子としてCMOSを用いた場合には,撮像素子から映像信号を読み出す際に,上述の画素混合処理を行うようにしても良い。
固体電子撮像素子10には,水平方向および垂直方向に多数の光電変換素子11が配列されている。光電変換素子11の受光面上には,色の三原色である赤色,緑色および青色のうち,赤色の光成分を透過するフィルタ特性を有する赤色フィルタ(符号Rで示す),緑色の光成分を透過するフィルタ特性を有する緑色フィルタ(符号Gで示す)または青色の光成分を透過するフィルタ特性を有する青色フィルタ(符号Bで示す)のいずれかのカラー・フィルタが形成されている。
第1図に示す光電変換素子10におけるカラー・フィルタの配列はベイヤ配列と呼ばれるものである。奇数行奇数列の光電変換素子10の受光面上に赤色フィルタRが形成され,偶数行偶数列の光電変換素子10の受光面上に青色フィルタBが形成され,奇数行偶数列および偶数行奇数列の光電変換素子10の受光面上に緑色フィルタGが形成されている。
第2図は,水平方向および垂直方向にそれぞれ3つの光電変換素子11から構成される小ブロック12を示している。
小ブロック12では,中心の光電変換素子11Aには青色フィルタBが形成されている。中心の光電変換素子11Aの上下左右の光電変換素子11には緑色フィルタGが形成されており,中心の光電変換素子11Aの斜め方向には赤色フィルタRが形成されている。このように,ベイヤ配列では,水平方向および垂直方向にそれぞれ3つの光電変換素子11から構成される小ブロック12を考えた場合,小ブロック12に含まれる光電変換素子11に赤色フィルタR,緑色フィルタGおよび青色フィルタBのすべてが含まれ,かつ中心の光電変換素子11Aを中心に点対称となるようにカラー・フィルタが形成されている。中心の光電変換素子11Aに形成されているカラー・フィルタが青色フィルタBの場合だけでなく,中心の光電変換素子11Aに形成されているカラー・フィルタが赤色フィルタRまたは緑色フィルタGの場合でも同様である。
赤色フィルタRが形成されている光電変換素子11には赤色の光成分を表わす信号電荷が蓄積され,緑色フィルタGが形成されている光電変換素子11には緑色の光成分を表わす信号電荷が蓄積され,青色フィルタBが形成されている光電変換素子11には青色の光成分を表わす信号電荷が蓄積される。蓄積された信号電荷が固体電子撮像素子10から読み出されることにより,被写体像を表わす映像信号が得られる。
上記の例では,光電変換素子11の受光面上に赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されているが,三原色の補色であるシアンCの光成分を透過する特性を有するシアン・フィルタ,マゼンタMの光成分を透過する特性を有するマゼンタ・フィルタまたはイエローYの光成分を透過する特性を有するイエロー・フィルタがベイヤ配列にしたがって形成されていてもよい。
第3a図から第3c図は,この実施例による画素混合の方法を示している。この実施例による画素混合は,画像の縮小と画素補間とを同時に行うものである。
第3a図は,第2図に示す小ブロック12を構成する光電変換素子11から得られる3画素×3画素の画像部分13を示している。第2図に示す小ブロック12を構成する光電変換素子12のうち,赤色フィルタRが形成されている光電変換素子12から得られる画素を用いて,赤色成分をもつ中央の画素13Aが生成される。第2図に示すように,中央の光電変換素子11Aの右斜め下,右斜め上,左斜め下および左斜め上の光電変換素子11にカラー・フィルタRが形成されている。カラー・フィルタRが形成されている光電変換素子11に対応する画素から赤色成分を表わす画素R(カラー・フィルタと同じ符号を付す)が得られる。赤色成分をもつ中央の画素13Aは存在しないから,その中央の画素13Aの右斜め下,右斜め上,左斜め下および左斜め上の赤色成分をもつ画素Rが混合されることにより,赤色成分をもつ中央の画素13Aが生成されるとともに画像部分13が縮小される(水平方向および垂直方向ともに1/3に縮小)。
第3b図も,第2図に示す小ブロック12を構成する光電変換素子11から得られる3画素×3画素の画像部分13を示している。第2図に示す小ブロック12を構成する光電変換素子12のうち,緑色フィルタGが形成されている光電変換素子12から得られる画素を用いて,緑色成分をもつ中央の画素13Aが生成される。第2図に示すように,中央の光電変換素子11Aの上下左右の光電変換素子11にカラー・フィルタGが形成されている。カラー・フィルタGが形成されている光電変換素子11に対応する画素から緑色成分を表わす画素G(カラー・フィルタと同じ符号を付す)が得られる。緑色成分をもつ中央の画素13Aは存在しないから,その中央の画素13Aの上下左右の緑色成分をもつ画素Gが混合されることにより,緑色成分をもつ中央の画素13Aが生成されるとともに画像部分13が縮小される。
第3c図も,第2図に示す小ブロック12を構成する光電変換素子11から得られる3画素×3画素の画像部分13を示している。第2図に示す小ブロック12を構成する光電変換素子11のうち,中央の光電変換素子11Aには,青色フィルタBが形成されているから,青色成分をもつ中央の画素13Aが得られている。なお,本実施例では,上記処理を小ブロック12の3画素×3画素の全ての画素を用いて行っているが,全ての画素を用いずに各色成分の中央の画素13Aを生成しても良い。
第4a図から第4c図は,第3a図から第3c図に示す方法で画素補間および縮小を行うためのフィルタ(ディジタル・フィルタ)の一例である。
第4a図は,第3a図に示すように赤色成分をもつ中央の画素13Aを生成するためのフィルタ16を示している。フィルタ16は,3画素×3画素の画像部分13に対応するもので,赤色成分を有する画素Rに乗じるフィルタ係数(重み付け係数)が規定されている。これらのフィルタ係数はすべて1である。空白の箇所のフィルタ係数は0である。
第4b図は,第3b図に示すように緑色成分をもつ中央の画素13Aを生成するためのフィルタ17を示している。フィルタ17も3画素×3画素の画像部分13に対応するもので,緑色成分を有する画素Gに乗じるフィルタ係数が規定されている。これらのフィルタ係数もすべて1である。
第4c図は,第3c図に示すように青色成分をもつ中央の画素13Aを生成するためのフィルタ18を示している。フィルタ18も3画素×3画素の画像部分13に対応するもので,青色成分を有する画素Bに乗じるフィルタ係数が規定されている。このフィルタ係数は4である。
第2図に示す小ブロック12から得られる3画素×3画素から構成される画像部分を表す画像データに対して,第4a図,第4b図および第4c図に示すフィルタ16,17および18を用いてフィルタ処理が行われることにより,第3a図,第3b図および第3c図に示す処理が行われることと等価となる(但し,実際にはデータ量を維持するためにフィルタ処理により得られた値に1/4が乗じられる)。また以上の処理は,赤色成分,緑色成分,青色成分の加重平均の重心を小ブロック12の中央の画素位置とするように混合処理することで,小ブロック12の中央の画素位置における各色成分の画素13Aを生成する処理と等価である。
以上の処理が行われることにより,画素補間処理と画像の縮小処理とが同時に行われることとなる。他の画素についても同様の処理が行われ1フレームの画像について画素補間処理と画像の縮小処理とが同時に行われることとなる。
第5図は,ディジタル・カメラの電気的構成を示すブロック図である。
ディジタル・カメラの全体の動作は制御装置20によって統括される。ディジタル・カメラには,撮像装置21が含まれている。この撮像装置21に上述した固体電子撮像素子10が含まれている。固体電子撮像素子10は,駆動回路30によって駆動される。
撮像素子10の前方には撮像レンズ22が設けられており,撮像レンズ22によって被写体像が撮像素子10の受光面に結像する。撮像素子10からは,被写体像を表わす映像信号が出力され,アナログ/ディジタル変換回路24においてディジタル画像データに変換される。変換されたディジタル画像データは画素混合装置29に入力する。画素混合装置29において上述したように画素補間および画像の縮小処理が行われる。
画素混合装置29に入力した画像データは,切り換えスイッチ25に与えられる。静止画記録時には切り換えスイッチ25はS1端子側が接続され,上述したように画素補間および画像の縮小処理が行われる場合(例えば,スルー画撮像,ムービ撮像時)には切り替えスイッチ25はS2端子側が接続される。
切り替えスイッチ25のS2端子側が接続されていると,画像データはメモリ26に与えられ,一時的に記憶される。
第3a図に示したように赤色成分の画素を表わす画像データがメモリ26から読み出されてフィルタ27に入力する。赤色成分の画素を表わす画像データがフィルタ27に入力するときには,フィルタ27のフィルタ係数は第4a図に示すものとなる。上述したように,赤色成分の画素についての画素補間および縮小処理が実現される。
同様に,第3b図に示したように緑色成分の画素を表わす画像データがメモリ26から読み出されてフィルタ27に入力する。緑色成分の画素を表わす画像データがフィルタ27に入力するときには,フィルタ27のフィルタ係数は第4b図に示すものとなる。上述したように,緑色成分の画素についての画素補間および縮小処理が実現される。
また,第3c図に示したように青色成分の画素を表わす画像データがメモリ26から読み出されてフィルタ27に入力する。青色成分の画素を表わす画像データがフィルタ27に入力するときには,フィルタ27のフィルタ係数は第4c図に示すものとなる。上述したように,青色成分の画素についての画素補間および縮小処理が実現される。
フィルタ27から出力された画像データは,切り替えスイッチ28のS2端子に与えられる。切り替えスイッチ28も切り替えスイッチ25と同様に,静止画記録時にはS1端子側が接続され,画素補間および画像の縮小処理が行われる場合(例えば,ムービ撮像時)にはS2端子側が接続される。フィルタ27から出力された画像データは画像処理回路31において所定の処理が行われて出力されることとなる。静止画記録時に得られる画像データは画素混合装置29における処理は行われずに画像処理回路31に入力する。画像処理回路31において所定の画像処理が行われて出力する。
第6図から第17図は,他の実施例を示している。
第6図は,固体電子撮像素子40の受光面の一部を示している。
固体電子撮像素子40にも水平方向および垂直方向に多数の光電変換素子41が配列されている。これらの光電変換素子41の受光面上には上述したのと同様に,赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されている。
第6図では,水平方向および垂直方向にそれぞれ9つの光電変換素子42が抽出されている。このように,水平方向および垂直方向にそれぞれ9つの光電変換素子42から構成されるブロックを大ブロック41と呼ぶこととする。大ブロック41は,後述のように小ブロックを水平方向および垂直方向にそれぞれ3つずつのものに等しく小ブロック9個分と等しい。
第7図は,第6図に示す固体電子撮像素子40の受光面のうち,水平方向および垂直方向にそれぞれ6つの光電変換素子42が抽出されたものである。
水平方向および垂直方向にそれぞれ6つの光電変換素子42が抽出されたものを中ブロック43と呼ぶこととする。中ブロック43は,後述のように小ブロックを水平方向および垂直方向にそれぞれ2つずつのものに等しく小ブロック4個分と等しい。
中ブロック43では,水平方向および垂直方向において緑色フィルタG,赤色フィルタRおよび青色フィルタBが少なくとも一つずつ形成されており,この中ブロック43を繰り返し配列することでいずれの水平方向,垂直方向および斜め方向においても緑色フィルタGが少なくとも一つは形成されている。また,中ブロック43においては,緑色フィルタGが水平方向,垂直方向および斜め方向において2つ連続している部分が少なくとも一つは含まれている。さらに,中ブロック43においては,緑色フィルタGが水平方向および垂直方向において2つ連続している部分が少なくとも一つは含まれている。中ブロック43のカラー・フィルタの配列が水平方向および垂直方向において繰り返されて,固体電子撮像素子40のカラー・フィルタの配列となる。
たとえば,中ブロック43では,緑色フィルタGは,第6n(nは正の整数)+1行,第6n+3行,第6n+4行および第6n+6行では,第6m(mは正の整数)+1列,第6m+3列,第6m+4列および第6m+6列に形成されており,第6n+2行および第6n+5行では,第6m+2列,第6m+5列に形成されている。同様に,青色フィルタBは,第6n+1行および第6n+3行では第6m+2列に,第6n+2行では第6m+4列および第6m+6列に,第6n+4行および第6n+6行では第6m+5列に,第6n+5行では第6m+1列および第6m+3列にそれぞれ形成されている。赤色フィルタRは,第6n+1行では第6m+5列に,第6n+2行では第6m+1列および第6m+3列に,第6n+4行および第6n+6行では第6m+2列に,第6n+5行では第6m+4列および第6m+6列にそれぞれ形成されている。
第8図は,固体電子撮像素子40の一部を構成するものであり,水平方向および垂直方向にそれぞれ3画素の光電変換素子41から構成される小ブロック44を示している。
小ブロック44では,中心ならびに中心の斜め左上,斜め左下,斜め右上および斜め右下に緑色フィルタGが形成されている。中心に形成されている緑色フィルタGの上下には青色フィルタBが形成され,中心に形成されている緑色フィルタGの左右には赤色フィルタRが形成されている。
中心に形成されている緑色フィルタGの上下に青色フィルタBが形成され,その緑色フィルタGの左右に赤色フィルタRが形成されている小ブロック44と,その小ブロック44に形成されている青色フィルタBと赤色フィルタRとの位置が逆の小ブロックとが水平及び垂直方向に交互に繰り返されて固体電子撮像素子40(大ブロック41,中ブロック43)のカラー・フィルタ配列となる。
小ブロック44においても,小ブロック44に含まれる光電変換素子41に赤色フィルタR,緑色フィルタGおよび青色フィルタBのすべてが含まれ,かつ中心の光電変換素子41Aを中心に点対称となるようにカラー・フィルタが形成されている。
上記の例では,光電変換素子11の受光面上に赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されているが,三原色の補色であるシアンCの光成分を透過する特性を有するシアン・フィルタ,マゼンタMの光成分を透過する特性を有するマゼンタ・フィルタまたはイエローYの光成分を透過する特性を有するイエロー・フィルタがベイヤ配列にしたがって形成されていてもよい。
第9a図から第9c図は,この実施例による画素混合の方法を示している。この実施例による画素混合も,画像の縮小と画素補間とを同時に行うものである。
第9a図は,第8図に示す小ブロック44を構成する光電変換素子41から得られる3画素×3画素の画像部分45を示している。第8図に示す小ブロック44を構成する光電変換素子41のうち,赤色フィルタRが形成されている光電変換素子41から得られる画素を用いて,赤色成分をもつ中央の画素45Aが生成される。第8図に示すように,中央の光電変換素子45Aの左右の光電変換素子41にカラー・フィルタRが形成されている。カラー・フィルタRが形成されている光電変換素子41に対応する画素からが赤色成分を表わす画素R(カラー・フィルタと同じ符号を付す)が得られる。赤色成分をもつ中央の画素45Aは存在しないから,その中央の画素45Aの左右の赤色成分をもつ画素Rが混合されることにより,赤色成分をもつ中央の画素45Aが生成されるとともに画像部分45が縮小される。
第9b図も,第8図に示す小ブロック44を構成する光電変換素子41から得られる3画素×3画素の画像部分45を示している。第8図に示す小ブロック44を構成する光電変換素子41のうち,緑色フィルタGが形成されている光電変換素子41から得られる画素を用いて,緑色成分をもつ中央の画素45Aが生成される。第8図に示すように,中央の光電変換素子41Aおよび中央の光電変換素子41Aの斜め左上,斜め左下,斜め右上および斜め右下の光電変換素子41にカラー・フィルタGが形成されている。カラー・フィルタGが形成されている光電変換素子41に対応する画素から緑色成分を表わす画素G(カラー・フィルタと同じ符号を付す)が得られる。この場合も緑色成分をもつ中央の画素45Aが生成されるとともに画像部分45が縮小される。
第9c図も,第8図に示す小ブロック44を構成する光電変換素子41から得られる3画素×3画素の画像部分45を示している。第8図に示す小ブロック44を構成する光電変換素子41のうち,中央の光電変換素子41Aの上下に,青色フィルタBが形成されているから,第9c図に示すように中央の画素45Aの上下にある青色成分をもつ画素から青色成分をもつ中央の画素45Aが生成されるとともに画像部分45が縮小される。なお,本実施例では,上記処理を小ブロック44の3画素×3画素の全ての画素を用いて行っているが,全ての画素を用いずに各色成分の中央の画素45Aを生成しても良い。
第10a図から第10c図は,第9a図から第9c図に示す方法で画素補間および縮小を行うためのフィルタ(ディジタル・フィルタ)の一例である。
第10a図は,第9a図に示すように赤色成分をもつ中央の画素45Aを生成するためのフィルタ47を示している。フィルタ47は,3画素×3画素の画像部分45に対応するもので,赤色成分を有する画素Rに乗じるフィルタ係数(重み付け係数)が規定されている。これらのフィルタ係数はいずれも4である。
第10b図は,第9b図に示すように緑色成分をもつ中央の画素45Aを生成するためのフィルタ48を示している。フィルタ48も3画素×3画素の画像部分45に対応するもので,緑色成分を有する画素Gに乗じるフィルタ係数が規定されている。中央の画素Gに乗じるフィルタ係数が4であり,その他の画素Gに乗じるフィルタ係数はすべて1である。
第10c図は,第9c図に示すように青色成分をもつ中央の画素13Aを生成するためのフィルタ49を示している。フィルタ49も3画素×3画素の画像部分45に対応するもので,青色成分を有する画素Bに乗じるフィルタ係数が規定されている。このフィルタ係数はいずれも4である。
第8図に示す小ブロック44から得られる3画素×3画素から構成される画像部分を表す画像データに対して,第10a図,第10b図および第10c図に示すフィルタ47,48および49を用いてフィルタ処理が行われることにより,第9a図,第9b図および第9c図に示す処理が行われることと等価となる。また以上の処理は,赤色成分,緑色成分,青色成分の加重平均の重心を小ブロック44の中央の画素位置とするように混合処理することで,小ブロック44の中央の画素位置における各色成分の画素45Aを生成する処理と等価である。
以上の処理が行われることにより,画素補間処理と画像の縮小処理とが同時に行われることとなる。他の画素についても同様の処理が行われ1フレームの画像について画素間処理と画像の縮小処理とが同時に行われることとなる。
第11図は,第6図に示すカラー・フィルタ配列をもつ撮像素子42を用いて被写体を撮像することにより得られる画像に対し,第10a図から第10c図に示すフィルタ47から49を用いてフィルタ処理するときの各フィルタ係数を並べて表示したものである。
第11図において,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられるフィルタ係数を示している。第11図において水平方向の中央のラインにある画素のフィルタ係数を色成分ごとに加算すると,赤色成分については4+4=8,緑色成分については4+4+4=12,青色成分については4+4+4+4=16となってしまい,赤色成分,緑色成分および青色成分の比率が2:3:4となっており,1:1:1となっていない。垂直方向の中央のラインにある画素のフィルタ係数についても同様である。
第12図は,被写体像70の一例である。
この被写体像70は,第6図に示す撮像素子42の水平方向の画素の解像度と同じ解像度をもつもので,各列71の幅と光電変換素子41の幅とが等しくなっている。
第12図に示すような被写体像70が,第6図に示す撮像素子40の受光面上に結像し,かつ第10a図から第10c図に示すフィルタ47から49を用いてフィルタ処理が行われると,第13図に示す画像80となる。
第13図を参照して,画像80には水平方向および垂直方向にそれぞれ3つのブロック(3画素×3画素から構成される)81,82および83が含まれている。第1行のブロック81は青色となり,第2行のブロック82はオレンジ色となり,第3行のブロック83は青色となる。この実施例では,赤色成分,緑色成分および青色成分の比率が1:1:1となるように,さらにフィルタ処理が行われるものである。
第14図は,フィルタ61の一例である。
第1行から第3行および第7行から第9行までは,第1列から第3列および第7列から第9列のフィルタ係数は1であり,第1行から第3行および第7行から第9行までは,第4列から第6列,第4行から第6行までは第1列から第3列および第7列から第9列のフィルタ係数は2であり,第4行から第6行までは第4列から第6列までのフィルタ係数は4である。各ブロック62は3画素×3画素に対応して形成されている。
第15図は,第11図に示すフィルタ係数に対して第14図に示すフィルタ61の重み付け係数を掛け合わせたものである。
第15図においても第11図と同様に,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられたフィルタ係数を示している。
第15図においては,第11図に示すものと異なり,水平方向および垂直方向の中央のラインにおいてフィルタ係数の和は赤色成分では16+16=32,緑色成分では8+8+16=32,青色成分では8+8+8+8=32であり,1:1:1の色成分の関係が保たれている。この結果,偽色の発生が防止される。
第16図は,第14図に示すフィルタ61を利用してフィルタ処理が行われる様子を示している。
第10a図から第10c図に示すフィルタ47から49を用いて画像がフィルタ処理された場合に得られる第13図に示す画像80は,第1行のブロック81および第3行のブロック83については赤色成分が0,緑色成分が8ビット標記で128,青色成分が8ビット標記で255となっている。また,画像80の第2行のブロック82については赤色成分が255,緑色成分が128,青色成分が0となっている。
このような画像80にフィルタ61を用いてフィルタ処理が行われると,画像80のブロック82の中央の領域の赤色成分,緑色成分および青色成分のそれぞれについて式1から式3で表される。
赤色成分=(0×1+0×2+0×1+255×2+255×4+255×2+0×1+0×2+0×1)/16=128・・・式1
緑色成分=(128×1+128×2+128×1+128×2+128×4+128×2+128×1+128×2+128×1)/16=128・・・式2
青色成分=(255×1+255×2+255×1+0×2+0×4+0×2+255×1+255×2+255×1)/16=128・・・式3
式1から式3を参照すれば分るように,赤色成分,緑色成分および青色成分の比率が1:1:1となり,ブロック(3画素×3画素から構成される)90で示すように偽色の発生が防止される。このようなフィルタ61によるフィルタ処理が,隣接する隣の領域に移動して順次行われ,これを繰り返すことで画像80に対してフィルタ処理が行われる。フィルタ61の処理103は,フィルタ27の処理と異なり,画素混合による間引きは行われない。画像80に対し3×3のフィルタ61のフィルタ処理が行われると,画像80の中央真ん中の大きい1画素(90)について比率が1:1:1となり,引き続き隣接する画像80内の大きい1画素に移動して3×3のフィルタ61のフィルタ処理が行われる処理が繰りかされることにより,偽色が修正される。一方,図10等の最初のフィルタ処理は,フィルタ61の処理と対比的に見ると,3×3の中央の画素を対象とするフィルタ処理のみ行っているとも言える。
上述した実施例において,偽色の発生を防止できる理由について述べる。
第17図は,固体電子撮像素子40のカラー・フィルタ配列を示すもので,第6図に示すものに対応している。第17図において,第6図に示すものと同一物については同一符号が付されている。
上述したように,第17図に示すカラー・フィルタ配列を有する固体電子撮像素子40の受光面上に,第12図に示したように,第17図に示す固体電子撮像素子40の水平方向の解像度と同じ解像度をもつ被写体像が結像すると,第13図に示すように,第1行のブロック81および第3行のブロック81では青色に,第2行のブロック82はオレンジとなり,偽色が発生する。
第17図において,第6n+1行から第6n+3行の第6m+1列から第6m+3列の光電変換素子のブロックのうち,小ブロックBr1およびBr3ならびに第6n+1行から第6n+3行の第6m+4列から第6m+6列の光電変換素子の小ブロックBr2が第13図に示す第1行のブロック81に対応する。第6n+4行から第6n+6行の第6m+1列から第6m+3列の光電変換素子の小ブロックBr4およびBr6ならびに第6n+4行から第6n+6行の第6m+4列から第6m+6列の光電変換素子の小ブロックBr5が第13図に示す第2行のブロック82に対応する。第6n+1行から第6n+3行の第6m+1列から第6m+3列の光電変換素子のブロックのうち,小ブロックBr7およびBr9ならびに第6n+1行から第6n+3行の第6m+4列から第6m+6列の光電変換素子の小ブロックBr8が第13図に示す第3行のブロック83に対応する。
第13図において,第1行のブロック81は青色になっているが,これは,第17図の第1行の小ブロックBr1および小ブロックBr3においては,赤色の光成分を透過するフィルタが形成されている第6m+1列および第6m+3列の被写体像(第12図に示す被写体像70)のレベルが0となり,第17図の第1行の小ブロックBr2においては,赤色の光成分を透過するフィルタが形成されている第6m+5行の被写体像のレベルが0となるからである。また,第13図において,第2行のブロック82はオレンジとなっているが,第17図の第2行の小ブロックBr4および小ブロックBr6においては,青色の光成分を透過するフィルタが形成されている第6m+1列および第6m+3列の被写体像(第12図に示す被写体像70)のレベルが0となり,第17図の第2行の小ブロックBr5においては,青色の光成分を透過するフィルタが形成されている第6m+5行の被写体像のレベルが0となるからである。第13図において,第3行のブロック83が青色になっている理由は第1行のブロック81が青色になっている理由と同じである。
この実施例では,小ブロックBr1−Br9においては緑色の光成分を透過するフィルタ特性を有するカラー・フィルタは各行および各列の光電変換素子の受光面上に形成されているが,奇数行の小ブロックBr1−Br3,Br7−Br9において赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている光電変換素子の位置に対応する偶数行の小ブロックBr4−Br6の位置にある光電変換素子の位置に青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている。同様に,奇数行の小ブロックBr1−Br3,Br7−Br9において青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている光電変換素子の位置に対応する偶数行の小ブロックBr4−Br6の位置にある光電変換素子の位置に赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている。
このように,奇数行の小ブロックBr1−Br3,Br7−Br9と偶数行の小ブロックBr4−Br6との間で,青色の光成分を透過するフィルタ特性を有するカラー・フィルタの配置と赤色の光成分を透過するフィルタ特性を有するカラー・フィルタの配置とが逆となっているために,第14図のようなフィルタ演算により隣接する小ブロックから得られる映像信号にもとづいて偽色を補正できる。その際,フィルタ係数値として,第15図に示したような赤色成分,緑色成分,青色成分の係数の和の比率が1:1:1となるよう第14図のフィルタ係数を設定する。
また,この実施例によるカラー・フィルタ配列では,次のように,いわゆるA配列とB配列とが水平方向および垂直方向に交互に繰り返されていると表わすこともできる。
すなわち,いわゆるA配列(たとえば,小ブロックBr1)では,第17図に示す小ブロックBr1−Br9のそれぞれの小ブロック内において,緑色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央と四隅に形成され,小ブロックBr1に示すように赤色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央の行(第6n+2行)の両端に形成され,青色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央の列(第6m+2列)の両端に形成される。いわゆるB配列(たとえば,小ブロックBr4,Br2)では,A配列と同様に,小ブロックBr1−Br9のそれぞれの小ブロック内において,緑色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央と四隅に形成されるが,小ブロックBr4(または小ブロックBr2)に示すように,小ブロックBr1では赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていた中央の行(第6n+5行または第6n+2行)の両端には青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成され,小ブロックBr1では青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていた中央の列(第6m+2列または第6m+5列)の両端には赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成される。
偶数行の小ブロックBr4−Br6では赤色の光成分を透過するフィルタ特性を有するカラー・フィルタは,奇数行の小ブロックBr1−Br3,Br7−Br9において赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていない光電変換素子の受光面に形成されている。奇数行の小ブロックBr1−Br3,Br7−Br9において青色の光成分を透過するフィルタ特性を有するカラー・フィルタは,偶数行の小ブロックBr4−Br6において青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていない光電変換素子の受光面上に形成されている。したがって,第12図のような撮像素子42の水平方向の解像度と同じ解像度の被写体像が結像した場合であっても,第14図のようなフィルタ演算により隣接する小ブロックから得られる映像信号にもとづいて偽色を補正できる。その際,フィルタ係数を適切に設定するのは上述した通りである。
このように,小ブロックBr1において赤色の色の光成分を透過するフィルタ特性を有するカラー・フィルタは水平方向または垂直方向に一つの光電変換素子おきの光電変換素子の受光面上に形成されており,小ブロックBr1に垂直方向に隣接する小ブロックBr4(水平方向に隣接する小ブロックBr2)においては,小ブロックBr1において赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている位置に対応する位置にある光電変換素子の受光面上に青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている。
また,ベイヤ配列では,赤色の光成分を透過する特性を有するカラー・フィルタおよび青色の光成分を透過する特性を有するカラー・フィルタは,いずれも水平方向に1画素おきに配列されており,同一列および同一行には赤色の光成分を透過する特性を有するカラー・フィルタまたは青色の光成分を透過する特性を有するカラー・フィルタしか存在しないので,第26c図のようにオレンジ色の偽色しか生じない。第14図のようなフィルタ演算を行っても隣接ブロックにも青色の光成分が存在しないので上述のように偽色を補正できない。
これに対し,この実施例によるカラー・フィルタ配列では,中ブロック(基本配列パターン)において,水平方向および垂直方向のすべてに緑色の光成分,青色の光成分および赤色の光成分を透過するフィルタ特性をもつカラー・フィルタが少なくとも1つ形成されているため,フィルタ演算により隣接する小ブロックからの映像信号にもとづいて偽色を補正できる。その際,フィルター係数値として,赤色成分,緑色成分,青色成分の係数の和の比率が1:1:1となるようフィルタ係数が設定されるのはいうまでもない。
第18図から第22図は,他の実施例を示すものである。
第18図は,固体電子撮像素子40Aの受光面の一部を示すもので,第6図に対応している。
固体電子撮像素子40Aにも水平方向および垂直方向に多数の光電変換素子41が配列されている。これらの光電変換素子41の受光面上には上述したのと同様に,赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されている。第18図に示す固体電子撮像素子40Aのフィルタ配列は,第6図に示す固体電子撮像素子40のフィルタ配列と異なっている。
第18図に示す固体電子撮像素子40Aにおいても,第6図に示す固体電子撮像素子40と同様に,水平方向および垂直方向にそれぞれ9つの光電変換素子42が抽出されている(大ブロック41)。上述したように,大ブロック41は,水平方向および垂直方向にそれぞれ3つの光電変換素子は42から構成される9個分の小ブロックBr11−Br19と等しい。
これらの小ブロックBr11−Br19のそれぞれにおいて,中央の光電変換素子42の上下および左右の光電変換素子42の受光面上には緑色の光成分を透過する緑色フィルタGが形成されている。中央の光電変換素子42の受光面上には赤色の光成分を透過する赤色フィルタRまたは青色の光成分を透過する青色フィルタBが形成されている。中央の光電変換素子42の受光面に赤色フィルタRが形成されている場合には,四隅の光電変換素子42の受光面には青色フィルタBが形成されており,中央の光電変換素子42の受光面に青色フィルタBが形成されている場合には四隅の光電変換素子42の受光面には赤色フィルタRが形成されている。
また,上下または左右に隣接する小ブロックBr11−Br19同士では,中央の光電変換素子42に形成されているフィルタおよび四隅の光電変換素子42に形成されているフィルタは異なっている。たとえば,第18図において左上の小ブロックBr11の中央の光電変換素子42には赤色フィルタRが形成されており,四隅の光電変換素子42には青色フィルタBが形成されているが,この小ブロックBr11の右隣および下の小ブロックBr12および小ブロックBr14の中央の光電変換素子42には青色フィルタBが形成されており,四隅の光電変換素子42には赤色フィルタRが形成されている。このように,小ブロックBr11において赤色フィルタR(または青色フィルタB)が形成されている光電変換素子42の位置に対応する小ブロックBr12および小ブロックBr14の位置にある光電変換素子42の受光面には青色フィルタB(または赤色フィルタR)が形成されている。小ブロックBr11と小ブロックBr12および小ブロックBr14だけでなく,他の小ブロックについても同様の関係が成立する。
第18図においては,9つの小ブロックBr11−Br19からなる大ブロック41のみが図示されているが,そのような小ブロックが水平方向および垂直方向に繰り返されていることはいうまでもない。
上記の例では,光電変換素子11の受光面上に赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されているが,三原色の補色であるシアンCの光成分を透過する特性を有するシアン・フィルタ,マゼンタMの光成分を透過する特性を有するマゼンタ・フィルタまたはイエローYの光成分を透過する特性を有するイエロー・フィルタが形成されていてもよい。
第18図に示す固体電子撮像素子40Aにおける画素混合は,第3a図から第3c図にもとづいて行われればよい。上述したのと同様に,画像の縮小と画素補間とが同時に行われるのは理解できよう。また,そのような画素混合は,第4a図から図4c図に示すディジタル・フィルタ16−18を利用すればよい。
第19図は,第18図に示すカラー・フィルタ配列をもつ撮像素子40Aを用いて被写体を撮像することにより得られる画像50Aに対し,第4a図から第4c図に示すフィルタ16から18を用いてフィルタ処理するときの各フィルタ係数を並べて表示したものである。第19図は,第11図に対応している。
第19図において,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられるフィルタ係数を示している。上述したのと同様に,第19図において水平方向の中央のラインにある画素のフィルタ係数を色成分ごとに加算すると,赤色成分については4,緑色成分については1+1+1+1=4,青色成分については4+4=8となってしまい,赤色成分,緑色成分および青色成分の比率が1:1:2となっており,1:1:1となっていない。垂直方向の中央のラインにある画素のフィルタ係数についても同様である。
上述したのと同様に,第12図に示すような被写体像70が,第18図に示す撮像素子40Aの受光面上に結像し,かつ第4a図から第4c図に示すフィルタ16から18を用いてフィルタ処理が行われると,第20図に示す画像80となる。
第20図を参照して,画像80Aには水平方向および垂直方向にそれぞれ3つのブロック(3画素×3画素から構成される)81A,82Aおよび83Aが含まれている。第1行のブロック81Aはオレンジ色となり,第2行のブロック82Aは青色となり,第3行のブロック83Aはオレンジ色となる。この実施例においても,赤色成分,緑色成分および青色成分の比率が1:1:1となるように,さらにフィルタ処理が行われる。
第21図は,第19図に示すフィルタ係数に対して第14図に示すフィルタ61の重み付け係数を掛け合わせたものである。
第21図においても第19図と同様に,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられたフィルタ係数を示している。
第21図においては,第19図に示すものと異なり,水平方向および垂直方向の中央のラインにおいてフィルタ係数の和は赤色成分では16,緑色成分では2+2+4+4+2+2=16,青色成分では8+8=16であり,1:1:1の色成分の関係が保たれている。
第22図は,第14図に示すフィルタ61を利用してフィルタ処理が行われる様子を示すもので,第16図に対応している。
上述のように,第20図に示す画像80Aは,第1行のブロック81Aおよび第3行のブロック83Aについては赤色成分が255,緑色成分が8ビット標記で128,青色成分が8ビット標記で0となっている。また,画像80Aの第2行のブロック82Aについては赤色成分が0,緑色成分が128,青色成分が255となっている。
このような画像80Aにフィルタ61を用いてフィルタ処理が行われると,上述した式1から式3と同様に,画像80Aのブロック82Aの中央の領域の赤色成分,緑色成分および青色成分のそれぞれについて式4から式6で表される。
赤色成分=(255×1+255×2+255×1+0×2+0×4+0×2+255×1+255×2+255×1)/16=128・・・式4
緑色成分=(128×1+128×2+128×1+128×2+128×4+128×2+128×1+128×2+128×1)/16=128・・・式5
青色成分=(0×1+0×2+0×1+255×2+255×4+255×2+0×1+0×2+0×1)/16=128・・・式6
式4から式6を参照すれば分るように,赤色成分,緑色成分および青色成分の比率が1:1:1となり,ブロック(3画素×3画素から構成される)90Aで示すように偽色の発生が防止される。このようなフィルタ61によるフィルタ処理が,隣接する隣の領域に移動して順次行われ,これを繰り返すことで画像80Aに対してフィルタ処理が行われる。
第23図は,ディジタル・カメラの電気的構成を示すブロック図である。この図において,第5図に示す回路と同一物については同一符号を付して説明を省略する。
撮像素子40は,第6図に示すカラー・フィルタの配列をもつものが利用される。上述したように,画素混合装置(第1の画素混合装置)29において,第9a図から第9c図および第10a図から第10c図を参照して説明したように第1のフィルタ処理が行われる。第1のフィルタ処理が行われた画像データは第2の画素混合装置100に入力する。
第2の画素混合装置100に入力した画像データは切り替えスイッチ101に与えられる。切り替えスイッチ101は,切り替えスイッチ25および28と同様に,上述したフィルタ処理等が行われる場合にはS2端子が接続され,ユーザーの指示などによりフィルタ処理を行わない時にはS1端子が接続される。後述の切り替えスイッチ104も同様である。
切り替えスイッチ101のS2端子が接続されて画像データがメモリ102に入力すると入力した画像データはメモリ102に一時的に記憶される。画像データはメモリ102から読み出され,第14図に示すフィルタ係数をもつフィルタ103においてフィルタ処理が行われる。フィルタ103から画像データが切り替えスイッチ104を介して出力される。出力された画像データは偽色の発生が防止されたものとなる。なお,上記実施の形態においては撮像素子から出力された映像信号をアナログ/ディジタル変換したディジタル画像データに対して上述の画素混合処理を行う例を示したが,撮像素子としてCMOSを用いた場合には,撮像素子から映像信号を読み出す際に,上述の画素混合処理を行うようにしても良い。
Claims (7)
- 水平方向および垂直方向に多数配列された光電変換素子を備え,色の三原色である赤色,緑色および青色のうちのいずれかの色の光成分または色の三原色の補色であるシアン,マゼンタおよびイエローの3つの補色のうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される1つの小ブロックにおいては,緑色またはイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが各行および各列の上記光電変換素子の受光面上に形成され,このような小ブロックが水平方向および垂直方向に繰り返されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,かつ,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,上記光電変換素子に蓄積された信号電荷を映像信号として出力する固体電子撮像素子,ならびに
上記固体電子撮像素子から出力される映像信号のうち,同じフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を,混合後の映像信号レベルが色成分ごとに等しくなるような重み付け係数で重み付けをして混合して出力する第1の映像信号混合回路,
を備えた撮像装置。 - 請求の範囲第1項に記載の撮像装置を備え,
水平方向および垂直方向にそれぞれ3つの上記小ブロックから構成される1つの大ブロック中の水平方向および垂直方向の1ラインにおいて混合後の映像信号レベルが色成分ごとに等しくなる第2の重み付け係数を用いて上記第1の映像信号混合回路から出力される映像信号について色成分ごとに混合して出力する第2の映像信号混合回路,
を備えた撮像システム。 - 水平方向および垂直方向にそれぞれ二つの上記小ブロックから構成される一つの中ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタが水平方向,垂直方向および斜め方向のすべてにおいて2つ連続している部分が少なくとも1つ含まれている,
請求の範囲第2項に記載の撮像システム。 - 上記中ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタが水平方向および垂直方向に2つずつ連続している部分が少なくとも1つ含まれている,
請求の範囲第3項に記載の撮像システム。 - 上記小ブロックに,中央の光電変換素子を中心に点対称となるように上記色の三原色または上記3つの補色の光成分を透過するフィルタ特性を有する3種類のカラー・フィルタがすべて含まれている,
請求の範囲第1項に記載の撮像システム。 - 上記第1の小ブロックにおいて赤色もしくはシアンの色の光成分を透過するフィルタ特性を有するカラー・フィルタまたは青色もしくはマゼンタの色の光成分を透過するフィルタ特性を有するカラー・フィルタは水平方向または垂直方向に一つの上記光電変換素子おきに形成されている,
請求の範囲第1項に記載の撮像システム。 - 固体電子撮像素子が,水平方向および垂直方向に多数配列された光電変換素子を備え,色の三原色である赤色,緑色および青色のうちのいずれかの色の光成分または色の三原色の補色であるシアン,マゼンタおよびイエローの3つの補色のうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される1つの小ブロックにおいては,緑色またはイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが各行および各列の上記光電変換素子の受光面上に形成され,このような小ブロックが水平方向および垂直方向に繰り返されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,かつ,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,上記光電変換素子に蓄積された信号電荷を映像信号として出力し,
映像信号混合回路が,上記固体電子撮像素子から出力される映像信号のうち,同じフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を,混合後の映像信号レベルが色成分ごとに等しくなるような重み付け係数で重み付けをして混合して出力する,
撮像装置の動作制御方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013504504A JP5378627B2 (ja) | 2011-03-11 | 2011-07-29 | 撮像装置およびその動作制御方法ならびに撮像システム |
CN201180062745.5A CN103270756B (zh) | 2011-03-11 | 2011-07-29 | 图像传感设备、控制其操作的方法和图像感测系统 |
EP11861224.1A EP2645723B1 (en) | 2011-03-11 | 2011-07-29 | Imaging device, method for controlling operation thereof, and imaging system |
US13/930,585 US8730360B2 (en) | 2011-03-11 | 2013-06-28 | Color imaging apparatus having color imaging element, method of controlling operation of same and image sensing system |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011054684 | 2011-03-11 | ||
JP2011-054684 | 2011-03-11 | ||
JP2011162215 | 2011-07-25 | ||
JP2011-162215 | 2011-07-25 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
US13/930,585 Continuation US8730360B2 (en) | 2011-03-11 | 2013-06-28 | Color imaging apparatus having color imaging element, method of controlling operation of same and image sensing system |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2012124184A1 true WO2012124184A1 (ja) | 2012-09-20 |
Family
ID=46830286
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2011/067919 WO2012124184A1 (ja) | 2011-03-11 | 2011-07-29 | 撮像装置およびその動作制御方法ならびに撮像システム |
Country Status (5)
Country | Link |
---|---|
US (1) | US8730360B2 (ja) |
EP (1) | EP2645723B1 (ja) |
JP (1) | JP5378627B2 (ja) |
CN (1) | CN103270756B (ja) |
WO (1) | WO2012124184A1 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014185238A1 (ja) * | 2013-05-13 | 2014-11-20 | 富士フイルム株式会社 | カラー画像データの混入補正装置および撮像装置ならびにそれらの動作制御方法 |
CN105230010A (zh) * | 2013-05-23 | 2016-01-06 | 富士胶片株式会社 | 像素混合装置及其动作控制方法 |
JP5877931B2 (ja) * | 2013-05-23 | 2016-03-08 | 富士フイルム株式会社 | 画素補間装置およびその動作制御方法 |
US11436700B2 (en) * | 2018-01-31 | 2022-09-06 | Interdigital Ce Patent Holdings | Filter array for demosaicing |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101725044B1 (ko) * | 2010-05-27 | 2017-04-11 | 삼성전자주식회사 | 촬영이 가능한 디스플레이 장치 |
CN103563361B (zh) * | 2011-09-29 | 2015-04-29 | 富士胶片株式会社 | 图像处理设备和方法以及成像设备 |
JP2015195550A (ja) * | 2014-03-28 | 2015-11-05 | パナソニックIpマネジメント株式会社 | 撮像素子および撮像装置 |
CN107275359B (zh) * | 2016-04-08 | 2021-08-13 | 乐金显示有限公司 | 有机发光显示装置 |
JP2023010159A (ja) * | 2021-07-09 | 2023-01-20 | 株式会社ソシオネクスト | 画像処理装置および画像処理方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000023174A (ja) * | 1998-07-01 | 2000-01-21 | Ricoh Co Ltd | 画像処理装置及び画像処理方法 |
JP2000308080A (ja) | 1999-04-15 | 2000-11-02 | Olympus Optical Co Ltd | カラー撮像素子及びカラー撮像装置 |
JP2004221839A (ja) * | 2003-01-14 | 2004-08-05 | Sony Corp | 画像処理装置および方法、記録媒体、並びにプログラム |
JP2005136766A (ja) | 2003-10-31 | 2005-05-26 | Sony Corp | 画像処理装置および画像処理方法 |
JP2007037104A (ja) * | 2005-06-21 | 2007-02-08 | Sony Corp | 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム |
JP4350706B2 (ja) | 2003-03-28 | 2009-10-21 | オリンパス株式会社 | 画像処理装置及び画像処理プログラム |
Family Cites Families (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3268891B2 (ja) * | 1992-08-14 | 2002-03-25 | オリンパス光学工業株式会社 | 内視鏡撮像装置 |
JPH0823543A (ja) | 1994-07-07 | 1996-01-23 | Canon Inc | 撮像装置 |
JPH0823542A (ja) | 1994-07-11 | 1996-01-23 | Canon Inc | 撮像装置 |
JP3551571B2 (ja) * | 1995-08-11 | 2004-08-11 | ソニー株式会社 | カラーccd固体撮像素子 |
US20080079748A1 (en) * | 1997-09-13 | 2008-04-03 | Phan Gia C | Image sensor and image data processing system |
DE69924308T2 (de) | 1998-01-20 | 2006-03-09 | Hewlett-Packard Development Co., L.P., Houston | Farbbildaufnahmegerät |
JP4487351B2 (ja) * | 1999-07-15 | 2010-06-23 | ソニー株式会社 | 固体撮像素子およびその駆動方法並びにカメラシステム |
EP1357760B1 (en) | 2001-01-09 | 2011-11-09 | Sony Corporation | Image processing device and method |
JP4088536B2 (ja) * | 2003-01-28 | 2008-05-21 | 松下電器産業株式会社 | 固体撮像装置 |
JP2004266369A (ja) | 2003-02-21 | 2004-09-24 | Sony Corp | 固体撮像装置およびその駆動方法 |
JP5039966B2 (ja) * | 2005-07-05 | 2012-10-03 | 国立大学法人東京工業大学 | 画素混合方法 |
US7821553B2 (en) | 2005-12-30 | 2010-10-26 | International Business Machines Corporation | Pixel array, imaging sensor including the pixel array and digital camera including the imaging sensor |
JP4662883B2 (ja) | 2006-05-15 | 2011-03-30 | 富士フイルム株式会社 | 二次元カラー固体撮像素子 |
US7769230B2 (en) | 2006-11-30 | 2010-08-03 | Eastman Kodak Company | Producing low resolution images |
US7701496B2 (en) | 2006-12-22 | 2010-04-20 | Xerox Corporation | Color filter pattern for color filter arrays including a demosaicking algorithm |
JP5082528B2 (ja) | 2007-03-23 | 2012-11-28 | ソニー株式会社 | 固体撮像装置及び撮像装置 |
JP4785799B2 (ja) * | 2007-07-17 | 2011-10-05 | 富士フイルム株式会社 | 画像処理装置、画像処理方法及び撮影装置 |
KR101588877B1 (ko) | 2008-05-20 | 2016-01-26 | 펠리칸 이매징 코포레이션 | 이종 이미저를 구비한 모놀리식 카메라 어레이를 이용한 이미지의 캡처링 및 처리 |
JP5149143B2 (ja) | 2008-12-24 | 2013-02-20 | シャープ株式会社 | 固体撮像素子およびその製造方法、電子情報機器 |
JP5471117B2 (ja) * | 2009-07-24 | 2014-04-16 | ソニー株式会社 | 固体撮像装置とその製造方法並びにカメラ |
JP2011171885A (ja) * | 2010-02-17 | 2011-09-01 | Renesas Electronics Corp | 画像処理装置及び画像処理方法 |
RU2548566C1 (ru) * | 2011-02-21 | 2015-04-20 | Фуджифилм Корпорэйшн | Элемент формирования цветного изображения |
BR112012027306A2 (pt) * | 2011-02-28 | 2016-08-02 | Fujifilm Corp | aparelho de geração de imagem colorida |
WO2012117584A1 (ja) * | 2011-02-28 | 2012-09-07 | 富士フイルム株式会社 | カラー撮像装置 |
JP5824297B2 (ja) * | 2011-08-30 | 2015-11-25 | キヤノン株式会社 | 画像処理装置及び方法、及び撮像装置 |
-
2011
- 2011-07-29 CN CN201180062745.5A patent/CN103270756B/zh not_active Expired - Fee Related
- 2011-07-29 WO PCT/JP2011/067919 patent/WO2012124184A1/ja active Application Filing
- 2011-07-29 JP JP2013504504A patent/JP5378627B2/ja not_active Expired - Fee Related
- 2011-07-29 EP EP11861224.1A patent/EP2645723B1/en not_active Not-in-force
-
2013
- 2013-06-28 US US13/930,585 patent/US8730360B2/en not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000023174A (ja) * | 1998-07-01 | 2000-01-21 | Ricoh Co Ltd | 画像処理装置及び画像処理方法 |
JP2000308080A (ja) | 1999-04-15 | 2000-11-02 | Olympus Optical Co Ltd | カラー撮像素子及びカラー撮像装置 |
JP2004221839A (ja) * | 2003-01-14 | 2004-08-05 | Sony Corp | 画像処理装置および方法、記録媒体、並びにプログラム |
JP4350706B2 (ja) | 2003-03-28 | 2009-10-21 | オリンパス株式会社 | 画像処理装置及び画像処理プログラム |
JP2005136766A (ja) | 2003-10-31 | 2005-05-26 | Sony Corp | 画像処理装置および画像処理方法 |
JP2007037104A (ja) * | 2005-06-21 | 2007-02-08 | Sony Corp | 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム |
Non-Patent Citations (1)
Title |
---|
See also references of EP2645723A4 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014185238A1 (ja) * | 2013-05-13 | 2014-11-20 | 富士フイルム株式会社 | カラー画像データの混入補正装置および撮像装置ならびにそれらの動作制御方法 |
JP5883991B2 (ja) * | 2013-05-13 | 2016-03-15 | 富士フイルム株式会社 | カラー画像データの混入補正装置および撮像装置ならびにそれらの動作制御方法 |
US10075686B2 (en) | 2013-05-13 | 2018-09-11 | Fujifilm Corporation | Color-image-data contamination correction device and imaging device, and method for controlling operation thereof |
CN105230010A (zh) * | 2013-05-23 | 2016-01-06 | 富士胶片株式会社 | 像素混合装置及其动作控制方法 |
JP5877931B2 (ja) * | 2013-05-23 | 2016-03-08 | 富士フイルム株式会社 | 画素補間装置およびその動作制御方法 |
JP5883992B2 (ja) * | 2013-05-23 | 2016-03-15 | 富士フイルム株式会社 | 画素混合装置およびその動作制御方法 |
CN105230010B (zh) * | 2013-05-23 | 2017-02-08 | 富士胶片株式会社 | 像素混合装置及其动作控制方法 |
US10306196B2 (en) | 2013-05-23 | 2019-05-28 | Fujifilm Corporation | Pixel mixing device and method for controlling operation of same |
US11436700B2 (en) * | 2018-01-31 | 2022-09-06 | Interdigital Ce Patent Holdings | Filter array for demosaicing |
Also Published As
Publication number | Publication date |
---|---|
EP2645723B1 (en) | 2015-06-17 |
EP2645723A4 (en) | 2014-05-14 |
CN103270756A (zh) | 2013-08-28 |
US8730360B2 (en) | 2014-05-20 |
CN103270756B (zh) | 2014-08-13 |
JPWO2012124184A1 (ja) | 2014-07-17 |
EP2645723A1 (en) | 2013-10-02 |
US20130293750A1 (en) | 2013-11-07 |
JP5378627B2 (ja) | 2013-12-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5378627B2 (ja) | 撮像装置およびその動作制御方法ならびに撮像システム | |
US8704922B2 (en) | Mosaic image processing method | |
US8878970B2 (en) | Color imaging apparatus having color imaging element | |
JP5872406B2 (ja) | カラー撮像素子 | |
US20100328485A1 (en) | Imaging device, imaging module, electronic still camera, and electronic movie camera | |
CN104412581B (zh) | 彩色摄像元件及摄像装置 | |
JP5345258B2 (ja) | カラー撮像素子 | |
CN104412579A (zh) | 彩色摄像元件以及摄像装置 | |
JP5380629B2 (ja) | カラー撮像素子 | |
US8786738B2 (en) | Image sensing apparatus and method of controlling operation of same | |
JPWO2013100037A1 (ja) | カラー撮像素子 | |
CN103621070B (zh) | 摄像装置及摄像装置的控制方法 | |
CN103430552B (zh) | 摄像装置 | |
CN104041019B (zh) | 摄像装置及摄像装置的控制方法 | |
JP5411390B2 (ja) | カラー撮像素子 | |
JP4633413B2 (ja) | 撮像装置及び信号処理方法 | |
CN104025575B (zh) | 摄像装置及摄像装置的控制方法 | |
JP4333371B2 (ja) | 撮像装置および撮像素子 | |
JP2006157236A (ja) | 撮像装置及びその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 11861224 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2013504504 Country of ref document: JP Kind code of ref document: A |
|
WWE | Wipo information: entry into national phase |
Ref document number: 2011861224 Country of ref document: EP |
|
NENP | Non-entry into the national phase |
Ref country code: DE |