WO2015115142A1 - 撮像装置、撮像装置の制御方法及び制御プログラム - Google Patents
撮像装置、撮像装置の制御方法及び制御プログラム Download PDFInfo
- Publication number
- WO2015115142A1 WO2015115142A1 PCT/JP2015/050311 JP2015050311W WO2015115142A1 WO 2015115142 A1 WO2015115142 A1 WO 2015115142A1 JP 2015050311 W JP2015050311 W JP 2015050311W WO 2015115142 A1 WO2015115142 A1 WO 2015115142A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- pixel data
- unit
- frame
- infrared light
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/20—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B11/00—Filters or other obturators specially adapted for photographic purposes
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
- G03B15/02—Illuminating scene
- G03B15/03—Combinations of cameras with lighting apparatus; Flash units
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B17/00—Details of cameras or camera bodies; Accessories therefor
- G03B17/02—Bodies
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
- H04N2209/046—Colour interpolation to calculate the missing colour values
Definitions
- the present disclosure relates to an imaging device, an imaging device control method, and a control program.
- an image obtained by imaging a subject by this imaging method is a monochrome image.
- monochrome images it may be difficult to identify an object. If a color image can be captured even in an environment where there is no visible light, the object identification can be improved. For example, in a surveillance camera, it is desired to capture a color image even in an environment without visible light in order to improve the object identification.
- Patent Document 1 describes an imaging apparatus that can capture a color image even in an environment without visible light.
- an infrared projector is also used. If the technique described in Patent Document 1 is installed in the surveillance camera, it becomes possible to convert the subject into a color image and improve the object identification.
- Patent Document 1 images a subject by sequentially projecting infrared light of three wavelengths with an infrared projector.
- a subject to be monitored may be imaged using a plurality of surveillance cameras. It is conceivable to configure a monitoring system using the imaging device described in Patent Document 1 for each of a plurality of monitoring cameras.
- the embodiment captures a preferable image even when there is another imaging device that projects an object by projecting infrared light in addition to its own imaging device that projects an object by projecting infrared light. It is an object of the present invention to provide an imaging apparatus, a control method for the imaging apparatus, and a control program.
- an input unit to which a pulse signal generated based on a radio wave from a satellite for a global navigation satellite system is input, and an infrared projector is connected to an infrared projector based on the pulse signal.
- an imaging apparatus comprising: a light projection control unit that controls a light projection timing for projecting light; and an imaging unit that captures an image of a subject in a state where infrared light is projected.
- the projection timing for projecting infrared light to the infrared projector is controlled based on the pulse signal generated based on the radio wave from the satellite for the global navigation satellite system.
- a control method for an image pickup apparatus which picks up an image of a subject in a state where infrared light is projected.
- a control program for the imaging apparatus is provided.
- the imaging apparatus control method, and the control program of the embodiment in addition to the own imaging apparatus that projects infrared light to image the subject, the infrared light is projected and the subject is imaged. Even when there is an image pickup apparatus, a color image capable of preferable color reproduction can be picked up.
- FIG. 1 is a block diagram illustrating an overall configuration of an imaging apparatus according to an embodiment.
- FIG. 2 is a diagram illustrating an example of an arrangement of filter elements in a color filter used in the imaging apparatus according to the embodiment.
- FIG. 3 is a characteristic diagram showing spectral sensitivity characteristics of the wavelengths and relative sensitivities of the three primary color lights in the imaging unit constituting the imaging apparatus according to the embodiment.
- FIG. 4 is a characteristic diagram showing the relationship between the wavelength and the relative detection rate when the reflectance of the three primary colors from a predetermined substance is multiplied by the light receiving sensitivity of silicon.
- FIG. 5 is a block diagram showing a specific configuration example of the previous signal processing unit 52 in FIG. FIG.
- FIG. 6 is a diagram schematically illustrating a relationship between exposure and a frame of a video signal when the imaging apparatus according to the embodiment is operating in the normal mode.
- FIG. 7 is a diagram for describing demosaic processing when the imaging apparatus according to the embodiment is operating in the normal mode.
- FIG. 8 is a diagram schematically showing a relationship between exposure and a frame of a video signal when the imaging apparatus of one embodiment is operating in the intermediate mode and the night vision mode.
- FIG. 9 is a diagram for explaining pre-signal processing when the imaging apparatus according to the embodiment is operating in the first intermediate mode.
- FIG. 10 is a diagram for describing the demosaic process when the imaging apparatus according to the embodiment is operating in the first intermediate mode.
- FIG. 11 is a diagram for describing pre-signal processing when the imaging apparatus according to the embodiment is operating in the second intermediate mode.
- FIG. 12 is a diagram for describing the demosaic process when the imaging apparatus according to the embodiment is operating in the second intermediate mode.
- FIG. 13 is a diagram for describing surrounding pixel addition processing when the imaging apparatus according to the embodiment is operating in the night vision mode.
- FIG. 14 is a diagram illustrating a frame that has been subjected to addition processing of surrounding pixels.
- FIG. 15 is a diagram for describing pre-signal processing when the imaging apparatus according to the embodiment is operating in the first night-vision mode.
- FIG. 16 is a diagram for describing the demosaic process when the imaging apparatus according to the embodiment is operating in the first night-vision mode.
- FIG. 17 is a diagram for describing pre-signal processing when the imaging apparatus according to the embodiment is operating in the second night-vision mode.
- FIG. 18 is a diagram for describing the demosaic process when the imaging apparatus according to the embodiment is operating in the second night-vision mode.
- FIG. 19 is a diagram for describing an example of mode switching in the imaging apparatus according to the embodiment.
- FIG. 20 is a diagram illustrating a state of each unit when the imaging apparatus according to the embodiment is set to each mode.
- FIG. 21 is a partial block diagram illustrating a first modification of the imaging apparatus according to an embodiment.
- FIG. 22 is a partial block diagram illustrating a second modification of the imaging apparatus according to the embodiment.
- FIG. 23 is a partial block diagram illustrating a third modification of the imaging apparatus according to the embodiment.
- FIG. 24 is a flowchart illustrating a video signal processing method executed by the imaging apparatus according to the embodiment.
- FIG. 25 is a flowchart showing specific processing of the normal mode shown in step S3 in FIG.
- FIG. 26 is a flowchart showing specific processing in the intermediate mode in step S4 in FIG.
- FIG. 27 is a flowchart showing specific processing of the night-vision mode in step S5 in FIG.
- FIG. 28 is a flowchart illustrating processing that is executed by a computer using a video signal processing program stored in an imaging apparatus according to an embodiment.
- FIG. 29 is a block diagram illustrating an imaging system including a plurality of imaging devices.
- FIG. 30 is a diagram for explaining a problem when the timing of projecting infrared light by a plurality of imaging devices is slightly shifted.
- FIG. 31 is a diagram for explaining a problem in the case where the timing of projecting infrared light by a plurality of imaging devices is greatly deviated.
- FIG. 32 is a diagram for explaining the operation of the imaging apparatus according to the embodiment that controls the projection timing of the infrared light based on the 1PPS signal.
- FIG. 33 is a flowchart illustrating processing executed by the imaging apparatus control method according to the embodiment and the imaging apparatus control program according to the embodiment.
- An imaging apparatus 110 according to an embodiment shown in FIG. 1 includes a normal mode suitable for an environment where there is sufficient visible light such as daytime, and a night vision mode suitable for an environment where there is almost no visible light such as nighttime.
- This is an imaging device capable of imaging in three modes, an intermediate mode suitable for an environment where slight visible light exists.
- Both the night vision mode and the intermediate mode are infrared light projection modes in which imaging is performed while projecting infrared light in an environment with little visible light.
- the infrared light projection mode may be only the night vision mode.
- an imaging device capable of imaging in three modes including the intermediate mode is taken as an example.
- the light indicated by the one-dot chain line reflected from the subject is collected by the optical lens 1.
- the optical lens 1 has visible light in an environment in which visible light is sufficiently present, and infrared light in which an object reflects infrared light emitted from an infrared projector 9 described below in an environment with little visible light. Is incident.
- the imaging device 110 includes a plurality of optical lenses.
- An optical filter 2 is provided between the optical lens 1 and the imaging unit 3.
- the optical filter 2 has two parts, an infrared cut filter 21 and a dummy glass 22.
- the optical filter 2 includes a state in which an infrared cut filter 21 is inserted between the optical lens 1 and the imaging unit 3 and a state in which a dummy glass 22 is inserted between the optical lens 1 and the imaging unit 3 by the driving unit 8. It is driven to either state.
- the imaging unit 3 includes an imaging element 31 in which a plurality of light receiving elements (pixels) are arranged in the horizontal direction and the vertical direction, and any one of red (R), green (G), and blue (B) corresponding to each light receiving element. And a color filter 32 in which filter elements of these colors are arranged.
- the image sensor 31 may be a CCD (Charge-Coupled Device) or a CMOS (Complementary Metal-Oxide Semiconductor).
- the color filter 32 has R, G, and B filter elements arranged in an array called a Bayer array, as shown in FIG.
- the Bayer array is an example of a predetermined array of R, G, and B filter elements.
- the G filter element sandwiched between the R filter elements in each row is Gr
- the G filter element sandwiched between the B filter elements is Gb.
- FIG. 3 shows the spectral sensitivity characteristics of the wavelength of R light, G light, and B light and relative sensitivity in the imaging unit 3.
- the relative sensitivity is normalized to 1 at the maximum value.
- the drive unit 8 drives the optical filter 2 to insert the infrared cut filter 21 between the optical lens 1 and the imaging unit 3 based on the control by the control unit 7.
- the imaging unit 3 has sensitivity even in an infrared light region having a wavelength of 700 nm or more. Therefore, when the imaging apparatus 110 is operated in the intermediate mode or the night vision mode, the driving unit 8 removes the infrared cut filter 21 between the optical lens 1 and the imaging unit 3 based on the control by the control unit 7 and performs a dummy. The optical filter 2 is driven so that the glass 22 is inserted.
- the imaging apparatus 110 can obtain R, G, and B color information by using the sensitivity of the portion surrounded by the dashed ellipse in FIG.
- the reason why the dummy glass 22 is inserted is to make the optical path length the same as the optical path length when the infrared cut filter 21 is inserted.
- the infrared projector 9 includes projectors 91, 92, and 93 that project infrared light with wavelengths IR1, IR2, and IR3, respectively.
- the light projection control unit 71 in the control unit 7 performs control so as to selectively project infrared light with wavelengths IR1 to IR3 from the light projection units 91 to 93 in a time-sharing manner. .
- FIG. 4 shows the relationship between the wavelength and the relative detection rate when the reflectance at each wavelength is multiplied by the light receiving sensitivity of silicon when a material exhibiting each color of R, G, and B is irradiated with white light. Yes. Also in FIG. 4, the maximum value of the relative detection rate is normalized to 1.
- the reflected light at a wavelength of 780 nm is highly correlated with the reflected light of a material exhibiting an R color
- the reflected light at a wavelength of 870 nm is a reflection of a material exhibiting a B color.
- Correlation with light is high
- reflected light at a wavelength of 940 nm is highly correlated with reflected light of a material exhibiting G color.
- the wavelengths IR1, IR2, and IR3 of the infrared light projected by the light projecting units 91, 92, and 93 are set to 780 nm, 940 nm, and 870 nm. These wavelengths are examples of the wavelengths IR1 to IR3, and may be other than 780 nm, 940 nm, and 870 nm.
- the light projecting unit 91 irradiates the subject with infrared light having the wavelength IR1, and assigns an image signal obtained by imaging the light reflected from the subject to the R signal.
- the light projecting unit 93 irradiates the subject with infrared light having a wavelength IR2, and assigns a video signal obtained by imaging the light reflected from the subject to the G signal.
- the light projecting unit 92 irradiates the subject with infrared light having a wavelength IR3, and assigns a video signal obtained by imaging the light reflected from the subject to the B signal.
- the wavelength IR1 of 780 nm may be assigned to the R light
- the wavelength IR3 of 870 nm may be assigned to the G light
- the wavelength IR2 of 940 nm may be assigned to the B light.
- the wavelengths IR1, IR2, and IR3 can be arbitrarily assigned to the R light, G light, and B light.
- the wavelengths IR1, IR2, and IR3 that best reproduce the color of the subject are assigned to R light, G light, and B light, respectively.
- the control unit 7 controls imaging in the imaging unit 3 and each unit in the video processing unit 5.
- An imaging signal imaged by the imaging unit 3 is A / D converted by the A / D converter 4 and input to the video processing unit 5.
- the imaging unit 3 and the A / D converter 4 may be integrated.
- the video processing unit 5 and the control unit 7 may be integrated.
- the control unit 7 includes a mode switching unit 72 that switches between the normal mode, the intermediate mode, and the night vision mode.
- the mode switching unit 72 appropriately switches the operation in the video processing unit 5 as described later in correspondence with the normal mode, the intermediate mode, and the night vision mode.
- the imaging device 110 includes an antenna 16a that receives radio waves from a satellite 200 for a global navigation satellite system (Global Navigation System: GNSS) and a GNSS receiver 16 that receives a GNSS signal output from the antenna 16a.
- the GNSS signal is generally an RF signal.
- GNSS is GPS (Global Positioning System) as an example.
- the GNSS receiver 16 generates a clock signal Sclk and a 1 PPS signal S1pps of 1 pulse / second based on time information included in the radio waves from the satellite 200.
- the time information transmitted from the satellite 200 is synchronized with the atomic clock built in the satellite 200 with high accuracy.
- the GNSS receiver 16 supplies the control unit 7 with a clock signal Sclk synchronized with the atomic clock with high accuracy and a 1PPS signal S1pps synchronized with the clock signal Sclk.
- the control unit 7 has an input unit 7in1 to which the clock signal Sclk is input and an input unit 7in2 to which the 1PPS signal S1pps is input.
- the control unit 7 uses the clock signal Sclk as a reference clock.
- the control unit 7 operates the imaging device 110 based on the reference clock. How the control unit 7 uses the 1PPS signal S1pps will be described later.
- the control unit 7 may generate a reference clock based on the 1PPS signal S1pps. In this case, the clock signal Sclk need not be supplied to the control unit 7.
- the GNSS receiver 16 generates a latitude / longitude signal Slalo indicating latitude and longitude based on the GNSS signal.
- the GNSS receiver 16 may supply the navigation device 115 with the clock signal Sclk, the 1PPS signal S1pps, and the latitude / longitude signal Slalo.
- the imaging device 110 when the imaging device 110 is installed in a vehicle and the vehicle is equipped with the navigation device 115, the imaging device 110 uses the clock signal Sclk, the 1PPS signal S1pps, and the latitude / longitude signal Slalo supplied to the navigation device 115. can do.
- the imaging device 110 may not include the GNSS receiving unit 16.
- the 1PPS signal S1pps (and the clock signal Sclk) output from the GNSS receiver 16 for the navigation device 115 may be supplied to the controller 7.
- the control unit 7 may include an input unit 7in2 to which the 1PPS signal S1pps output from the GNSS receiving unit 16 is input.
- the video processing unit 5 includes switches 51 and 53, a previous signal processing unit 52, and a demosaic processing unit 54.
- the switches 51 and 53 may be physical switches, or may be conceptual switches for switching between operation and non-operation of the previous signal processing unit 52.
- a video signal is input from the video processing unit 5 to the control unit 7 in order to detect the brightness of the video being captured.
- the previous signal processing unit 52 includes a surrounding pixel addition unit 521, a same-position pixel addition unit 522, and a synthesis unit 523.
- the video processing unit 5 generates R, G, and B primary color data and supplies them to the video output unit 6.
- the video output unit 6 outputs the three primary color data in a predetermined format to a display unit not shown.
- the video output unit 6 may output the R, G, and B signals as they are, or may convert the R, G, and B signals into luminance signals and color signals (or color difference signals) and output them.
- the video output unit 6 may output a composite video signal.
- the video output unit 6 may output a digital video signal or may output a video signal converted into an analog signal by a D / A converter.
- ⁇ Normal mode> In the normal mode, the control unit 7 causes the driving unit 8 to insert the infrared cut filter 21 between the optical lens 1 and the imaging unit 3.
- the light projection control unit 71 turns off infrared light projection by the infrared projector 9.
- the image signal picked up by the image pickup unit 3 is converted into video data that is a digital signal by the A / D converter 4 and input to the video processing unit 5.
- the mode switching unit 72 controls the switches 51 and 53 to be connected to the terminal Tb.
- FIG. 6A shows the exposures Ex1, Ex2, Ex3,... Of the imaging unit 3.
- the exposures Ex1, Ex2, and Ex3 indicate the maximum exposure time.
- FIG. 6 shows the timing at which each video signal frame is obtained. Based on an exposure (not shown) before the exposure Ex1, a frame F0 of the video signal is obtained after a predetermined time. Based on the exposure Ex1, a frame F1 of the video signal is obtained after a predetermined time. Based on the exposure Ex2, a frame F2 of the video signal is obtained after a predetermined time. The same applies to exposure Ex3 and thereafter.
- the frame frequency of the video signal is set to 30 frames / second, for example.
- the frame frequency of the video signal may be set as appropriate, such as 30 frames / second or 60 frames / second for the NTSC system and 25 frames / second or 50 frames / second for the PAL system.
- the frame frequency of the video signal may be 24 frames / second used in movies.
- the video data of each frame output from the A / D converter 4 is input to the demosaic processing unit 54 via the switches 51 and 53.
- the demosaic processing unit 54 performs demosaic processing on the input video data of each frame.
- the video processing unit 5 performs various video processing such as white balance correction and gain correction in addition to demosaic processing, and outputs R, G, and B primary color data.
- the demosaic processing in the demosaic processing unit 54 will be described with reference to FIG. 7A shows an arbitrary frame Fm of video data.
- the frame Fm is a frame composed of pixels in the effective video period.
- the number of pixels of the video data is, for example, horizontal 640 pixels and vertical 480 pixels in the VGA standard.
- the number of pixels of the frame Fm is significantly reduced, and the frame Fm is conceptually illustrated.
- the video data generated using the Bayer array imaging unit 3 is data in which R, G, and B pixel data are mixed in the frame Fm.
- the demosaic processing unit 54 generates R interpolation pixel data Ri obtained by calculating R pixel data at a pixel position where no R pixel data is present using surrounding R pixel data.
- the demosaic processing unit 54 generates an R frame FmR in which all the pixels in one frame shown in FIG. 7B are made up of R pixel data.
- the demosaic processing unit 54 generates G interpolated pixel data Gi obtained by calculating G pixel data at a pixel position where no G pixel data exists using surrounding G pixel data.
- the demosaic processing unit 54 generates a G frame FmG in which all the pixels of one frame shown in FIG.
- the demosaic processing unit 54 generates B interpolation pixel data Bi obtained by calculating B pixel data at a pixel position where B pixel data does not exist using surrounding B pixel data.
- the demosaic processing unit 54 generates a B frame FmB in which all the pixels of one frame shown in FIG.
- the demosaic processing unit 54 may use at least R pixel data when interpolating R pixel data, may use at least G pixel data when interpolating G pixel data, and B pixel data. When interpolation is performed, at least B pixel data may be used. In order to improve interpolation accuracy, the demosaic processing unit 54 may use pixel data of another color different from the color of the interpolation pixel data to be generated when interpolating R, G, and B pixel data. Good.
- R, G, and B pixel data can be interpolated even in pixels located at the upper, lower, left, and right ends of the frame Fm.
- the R frame FmR, G frame FmG, and B frame FmB generated by the demosaic processing unit 54 are output as R, G, and B primary color data.
- R, G, and B pixel data has been described in units of frames in order to facilitate understanding, but actually, the R, G, and B pixel data are sequentially output for each pixel.
- first intermediate mode> In the intermediate mode (first intermediate mode and second intermediate mode described later), the control unit 7 causes the driving unit 8 to insert the dummy glass 22 between the optical lens 1 and the imaging unit 3.
- the light projection controller 71 turns on the infrared light projection by the infrared light projector 9.
- the mode switching unit 72 controls the switches 51 and 53 to be connected to the terminal Ta.
- FIG. 8 shows a state of infrared light projection by the infrared projector 9.
- the control unit 7 divides one frame period of the normal mode into 1/3, and controls so as to project infrared light in the order of the light projecting units 91, 92, 93, for example.
- infrared light having a wavelength IR1 (780 nm) is irradiated on the subject in the first 3 period of one frame.
- the subject is irradiated with infrared light having a wavelength IR2 (940 nm).
- the subject is irradiated with infrared light having a wavelength IR3 (870 nm).
- the order of projecting infrared light with wavelengths IR1 to IR3 is arbitrary.
- the imaging unit 3 performs the exposure Ex1R having a high correlation with the R light.
- the imaging unit 3 performs the exposure Ex1G having a high correlation with the G light.
- the imaging unit 3 performs exposure Ex1B having a high correlation with the B light.
- the exposures Ex1R, Ex1G, Ex1B, Ex2R, Ex2G, Ex2B are exposures that combine exposure with visible light and exposure with infrared light.
- a frame F1IR1 corresponding to the exposure Ex1R, a frame F1IR3 corresponding to the exposure Ex1G, and a frame F1IR2 corresponding to the exposure Ex1B are obtained after a predetermined time. It is done.
- a frame F2IR1 corresponding to the exposure Ex2R, a frame F2IR3 corresponding to the exposure Ex2G, and a frame F2IR2 corresponding to the exposure Ex2B are obtained after a predetermined time. The same applies to exposures Ex3R, Ex3G, and Ex3B.
- the frame frequency of the imaging signal in FIG. 8C is 90 frames / second.
- one frame of the video signal in the normal mode is time-divided to project infrared light of wavelengths IR1 to IR3.
- ( The frame frequency of the imaging signal in c) is three times the frame frequency in the normal mode.
- one frame of a video signal having a frame frequency of 30 frames / second shown in FIG. 8D is generated based on the imaging signal of 3 frames shown in FIG.
- a frame F1IR is generated based on the frames F1IR1, F1IR2, and F1IR3
- a frame F2IR is generated based on the frames F2IR1, F2IR2, and F2IR3.
- the video data of each frame corresponding to the imaging signal shown in FIG. 8C output from the A / D converter 4 is input to the previous signal processing unit 52 via the switch 51.
- FIG. 9A shows an arbitrary frame FmIR1 of the video data generated at the timing when the infrared light having the wavelength IR1 is projected.
- the R, B, Gr, and Gb pixel data in the frame FmIR1 is attached with a subscript 1 indicating that it is generated in a state where infrared light having the wavelength IR1 is projected.
- FIG. 9 shows an arbitrary frame FmIR2 of the video data generated at the timing when the infrared light having the wavelength IR2 is projected.
- the R, B, Gr, and Gb pixel data in the frame FmIR2 is attached with a subscript 2 indicating that it is generated in a state where infrared light having a wavelength IR2 is projected.
- FIG. 9 shows an arbitrary frame FmIR3 of the video data generated at the timing when the infrared light having the wavelength IR3 is projected.
- the R, B, Gr, and Gb pixel data in the frame FmIR3 has a subscript 3 indicating that it is generated in a state where infrared light having the wavelength IR3 is projected.
- the frame FmIR1 shown in FIG. 9A is video data generated in a state where infrared light having a wavelength IR1 having a high correlation with the R light is projected, so that the R pixel data is projected.
- the pixel data corresponding to the infrared light and the pixel data B and G are pixel data not corresponding to the projected infrared light.
- the hatching attached to the B, Gr, and Gb pixel data means that the pixel data does not correspond to the projected infrared light.
- the frame FmIR2 shown in FIG. 9B is video data generated in a state where infrared light having a wavelength IR2 having a high correlation with the G light is projected, so that the G pixel data is projected.
- the pixel data corresponding to the infrared light, and the R and B pixel data are pixel data not corresponding to the projected infrared light.
- the hatching attached to the R and B pixel data means that the pixel data does not correspond to the projected infrared light.
- the frame FmIR3 shown in FIG. 9C is video data generated in a state where infrared light having a wavelength IR3 having a high correlation with the B light is projected, so that the B pixel data is projected.
- the pixel data corresponding to the infrared light, and the R and G pixel data are pixel data not corresponding to the projected infrared light.
- the hatching attached to the R, Gr, and Gb pixel data means pixel data that does not correspond to the projected infrared light.
- the same-position pixel adding unit 522 in the previous signal processing unit 52 individually adds R, Gr, Gb, and B pixel data at the same pixel position according to the following equations (1) to (3), and adds pixels Data R123, Gr123, Gb123, and B123 are generated.
- the surrounding pixel addition unit 521 in the previous signal processing unit 52 does not operate.
- R123 ka ⁇ R1 + kb ⁇ R2 + kc ⁇ R3 (1)
- G123 kd ⁇ G1 + ke ⁇ G2 + kf ⁇ G3 (2)
- B123 kg ⁇ B1 + kh ⁇ B2 + ki ⁇ B3 (3)
- R1, G1, and B1 are R, G, and B pixel data in the frame FmIR1, R2, G2, and B2 are R, G, and B pixel data in the frame FmIR2, R3, G3, B3 is R, G, B pixel data in the frame FmIR3. ka to ki are predetermined coefficients.
- G123 in Formula (2) is Gr123 or Gb123.
- the same-position pixel adding unit 522 adds R, Gr, Gb, and B pixel data at the same pixel position with hatching to the respective pixel data with R, Gr, Gb, and B that are not hatched. Is added.
- the same-position pixel adding unit 522 adds the R pixel data at the same pixel position in the frames FmIR2 and FmIR3 to the R pixel data in the frame FmIR1 based on the equation (1), and adds the added pixel data R123.
- the addition pixel data R123 for red is generated using only the pixel data of the region corresponding to the red color filter in the light receiving element.
- the same-position pixel addition unit 522 adds the pixel data of Gr and Gb at the same pixel position in the frames FmIR1 and FmIR3 to the pixel data of Gr and Gb in the frame FmIR2 based on the equation (2), and adds pixel data Generate G123. That is, the green summed pixel data G123 is generated using only the pixel data of the region corresponding to the green color filter in the light receiving element.
- the same-position pixel addition unit 522 adds the B pixel data at the same pixel position in the frames FmIR1 and FmIR2 to the B pixel data in the frame FmIR3 based on the equation (3) to generate the added pixel data B123. . That is, the blue addition pixel data B123 is generated using only the pixel data of the region corresponding to the blue color filter in the light receiving element.
- the combining unit 523 in the previous signal processing unit 52 generates a frame FmIR123 of the combined video signal shown in (d) of FIG. 9 based on the added pixel data R123, Gr123, Gb123, and B123 generated at each pixel position. To do.
- the combining unit 523 selects and combines the addition pixel data R123 in the frame FmIR1, the addition pixel data Gr123 and Gb123 in the frame FmIR2, and the addition pixel data B123 in the frame FmIR3. Thereby, the synthesis unit 523 generates a frame FmIR123 of the synthesized video signal.
- the synthesis unit 523 generates a frame FmIR123 in which the addition pixel data R123, Gr123, Gb123, and B123 are arranged so as to have the same arrangement as the arrangement of the filter elements in the color filter 32.
- the video data of the frame FmIR123 is generated using the pixel data that is not hatched and the pixel data that is hatched.
- the reason why the pixel data at the same pixel position is added by the same position pixel addition unit 522 is as follows. Since the imaging is performed in an environment where visible light is present in the intermediate mode, the hatched pixel data includes respective color components based on exposure with visible light. Therefore, the sensitivity of each color can be increased by adding pixel data at the same pixel position.
- the video data of the frame FmIR123 mainly includes components based on the video signal exposed with visible light. If visible light and infrared light are mixed and there is a relatively large amount of infrared light, exposure with infrared light becomes dominant. In this case, the video data of the frame FmIR123 mainly includes components based on the video signal exposed with infrared light.
- the relationship between the coefficients ka, kb, and kc in equation (1) is ka> kb, kc, and the relationship between the coefficients kd, ke, and kf in equation (2).
- Kf> kd, ke, and in equation (3) the magnitude relationship between the coefficients kg, kh, ki is preferably kh> kg, ki. This is because the wavelength IR1 has a high correlation with the R light, the wavelength IR2 has a high correlation with the G light, and the wavelength IR3 has a high correlation with the B light.
- the R pixel data is mainly the R pixel data in the frame FmIR1
- the G pixel data is the G pixel data in the frame FmIR2
- the B pixel data is mainly the B pixel data in the frame FmIR3. it can.
- the video data of the frame FmIR123 output from the previous signal processing unit 52 is input to the demosaic processing unit 54 via the switch 53.
- the demosaic processing unit 54 performs demosaic processing on the video data of the input frame FmIR123, as in the normal mode.
- the video processing unit 5 performs various video processing such as white balance correction and gain correction in addition to demosaic processing, and outputs R, G, and B primary color data.
- the demosaic processing in the demosaic processing unit 54 will be described with reference to FIG. FIG. 10A shows a frame FmIR123.
- the demosaic processing unit 54 calculates the R pixel data at the pixel position where the R pixel data does not exist using the surrounding R pixel data, and generates the R interpolation pixel data R123i.
- the demosaic processing unit 54 generates an R frame FmIR123R in which all the pixels in one frame shown in FIG.
- the demosaic processing unit 54 calculates the G pixel data at the pixel position where the G pixel data does not exist using the surrounding G pixel data, and generates the G interpolation pixel data G123i.
- the demosaic processing unit 54 generates a G frame FmIR123G in which all the pixels of one frame shown in FIG.
- the demosaic processing unit 54 calculates the B pixel data at the pixel position where the B pixel data does not exist using the surrounding B pixel data, and generates the B interpolation pixel data B123i.
- the demosaic processing unit 54 generates a B frame FmIR123B in which all the pixels in one frame shown in FIG.
- the previous signal processing unit 52 In the normal mode, the previous signal processing unit 52 is disabled, and in the intermediate mode, the previous signal processing unit 52 may be operated except for the surrounding pixel adding unit 521. In the normal mode and the intermediate mode, the demosaic processing unit 54 in the video processing unit 5 and the signal processing unit such as white balance correction and gain correction can be shared.
- Second intermediate mode The operation in the second intermediate mode will be described with reference to FIGS. In the operation in the second intermediate mode, the description of the same part as the operation in the first intermediate mode is omitted.
- the frames FmIR1, FmIR2, and FmIR3 in (a) to (c) of FIG. 11 are the same as the frames FmIR1, FmIR2, and FmIR3 in (a) to (c) of FIG.
- the combining unit 523 selects and combines R1 which is R pixel data in the frame FmIR1, Gr2 and Gb2 which are G pixel data in the frame FmIR2, and B3 which is B pixel data in the frame FmIR3. As a result, the synthesis unit 523 generates a frame FmIR123 'of the synthesized video signal shown in FIG.
- the frame FmIR123 ' is video data obtained by collecting R, Gr, Gb, and B pixel data not hatched in the frames FmIR1, FmIR3, and FmIR2 into one frame.
- Only the pixel data for the green color using only the pixel data of the region corresponding to the green color filter in the selected state, and the pixel data of the region corresponding to the blue color filter in the state of projecting the infrared light having the wavelength IR3 are used.
- the pixel data is for blue.
- the synthesizing unit 523 generates a frame FmIR123 'in which the pixel data R1, Gr2, Gb2, and B3 are arranged so as to have the same arrangement as the arrangement of the filter elements in the color filter 32.
- the same-position pixel adding unit 522 sets the coefficient ka in Equation (1) to 1, the coefficients kb and kc to 0, the coefficient ke in Equation (2) to 1, the coefficients kd and kf to 0,
- the coefficient ki is 1 and the coefficients kg and kh are 0.
- the R pixel data in the frame FmIR1 the Gr and Gb pixel data in the frame FmIR2, and the B pixel data in the frame FmIR3 have the same values.
- the combining unit 523 selects the R pixel data in the frame FmIR1, the Gr and Gb pixel data in the frame FmIR2, and the B pixel data in the frame FmIR3. FmIR123 'can be generated.
- the front signal processing unit 52 In the second intermediate mode, the front signal processing unit 52 generates pixel data (hatched) with infrared light projected to generate pixel data having the same color as the pixel data. Video data of the frame FmIR123 ′ is generated using only (non-pixel data).
- the arithmetic processing can be simplified and the frame memory can be reduced.
- the demosaic processing in the demosaic processing unit 54 will be described with reference to FIG. FIG. 12A shows the frame FmIR123 '.
- the demosaic processing unit 54 calculates the R pixel data at the pixel position where the R pixel data does not exist using the surrounding R pixel data, and generates the R interpolation pixel data R1i.
- the demosaic processing unit 54 generates an R frame FmIR123′R in which all the pixels in one frame shown in FIG. 12B are made up of R pixel data.
- the demosaic processing unit 54 calculates the G pixel data at the pixel position where the G pixel data does not exist using the surrounding G pixel data, and generates the G interpolation pixel data G2i.
- the demosaic processing unit 54 generates a G frame FmIR123′G in which all the pixels in one frame shown in FIG.
- the demosaic processing unit 54 calculates the B pixel data at the pixel position where the B pixel data does not exist using the surrounding B pixel data, and generates the B interpolation pixel data B3i.
- the demosaic processing unit 54 generates a B frame FmIR123′B in which all the pixels of one frame shown in FIG.
- the pixel data for red is generated from the pixel data obtained from the region corresponding to the red color filter in the light receiving element, and obtained from the region corresponding to the green color filter in the light receiving element.
- Green pixel data is generated from the pixel data
- blue pixel data is generated from the pixel data obtained from the region corresponding to the blue color filter in the light receiving element.
- ⁇ Night Vision Mode First Night Vision Mode>
- the control unit 7 causes the drive unit 8 to place the dummy glass 22 between the optical lens 1 and the imaging unit 3. Insert it.
- the light projection controller 71 turns on the infrared light projection by the infrared light projector 9.
- the mode switching unit 72 controls the switches 51 and 53 to be connected to the terminal Ta.
- the imaging unit 3 can be regarded as a monochromatic imaging device.
- the surrounding pixel addition unit 521 in the previous signal processing unit 52 adds pixel data located in the vicinity to each pixel data in order to improve the sensitivity of infrared light.
- the surrounding pixel addition unit 521 when the R pixel is the target pixel, the surrounding pixel addition unit 521 includes the G and B positioned around the R pixel data of the target pixel. The pixel data of 8 pixels are added.
- red pixel data was generated from the pixel data obtained from the region corresponding to the red color filter in the light receiving element, but in the night vision mode, a wider area than in the intermediate mode.
- Pixel data for red is generated from the pixel data obtained from the above.
- pixel data obtained from an area corresponding to nine pixels including the target pixel is used for each color.
- the surrounding pixel adding unit 521 has eight R, G, and B pixels positioned around the G pixel data of the target pixel. Are added.
- the target pixel G is a Gb pixel
- the surrounding G is a Gr pixel.
- the pixel data for green was generated from the pixel data obtained from the area corresponding to the green color filter in the light receiving element, but in the night vision mode, a wider area than in the intermediate mode.
- the pixel data for green is generated from the pixel data obtained from the above.
- the surrounding pixel adding unit 521 when the B pixel is the target pixel, the surrounding pixel adding unit 521 includes the R and G pixels of 8 pixels positioned around the B pixel data of the target pixel. Add data.
- blue pixel data was generated from the pixel data obtained from the region corresponding to the blue color filter in the light receiving element, but in the night vision mode, a wider area than in the intermediate mode.
- the pixel data for blue is generated from the pixel data obtained from the above.
- the surrounding pixel adding unit 521 may simply add 9 pixels of the pixel data of the target pixel and the surrounding 8 pixel pixel data, or may apply a predetermined weight to the surrounding 8 pixel pixel data. May be added to the pixel data of the pixel of interest.
- an image sensor that can read out a plurality of pixels called binning as a single pixel.
- an addition process by an image sensor having a binning function may be performed instead of the addition process by the surrounding pixel addition unit 521.
- Binning by the image sensor is substantially equivalent to addition processing by the surrounding pixel addition unit 521.
- the frames FmIR1, FmIR3, and FmIR2 are the same as the frames FmIR1, FmIR3, and FmIR2 of FIGS. 9A to 9C.
- R1ad, Gr1ad, Gb1ad, B1ad, R2ad, Gr2ad, Gb2ad, B2ad, R3ad, Gr3ad, Gb3ad, and B3ad are converted to R, Gr, Gb, and B pixel data, respectively.
- the surrounding pixel addition unit 521 performs addition processing shown in FIG. 13 on the pixel data of the frames FmIR1, FmIR3, and FmIR2, thereby performing frames FmIR1ad, FmIR2ad, and FmIR3ad shown in (d) to (f) of FIG. Is generated.
- the frames FmIR1ad, FmIR2ad, and FmIR3ad are the same as the frames FmIR1ad, FmIR2ad, and FmIR3ad in (d) to (f) of FIG.
- the same-position pixel addition unit 522 adds the pixel data of R2ad and R3ad at the same pixel position in the frames FmIR2ad and FmIR3ad to the pixel data of R1ad in the frame FmIR1ad based on Expression (1). Then, the addition pixel data R123ad is generated.
- the same-position pixel addition unit 522 adds the pixel data of Gr1ad, Gb1ad, Gr3ad, and Gb3ad at the same pixel position in the frames FmIR1ad and FmIR3ad to the pixel data of Gr2ad and Gb2ad in the frame FmIR2ad based on Expression (2).
- the addition pixel data Gr123ad and Gb123ad are generated.
- the same-position pixel addition unit 522 adds the pixel data of B1ad and B2ad at the same pixel position in the frames FmIR1ad and FmIR2ad to the pixel data of B3ad in the frame FmIR3ad based on the equation (3), and adds the added pixel data B123ad. Generate.
- the synthesis unit 523 selects and synthesizes the addition pixel data R123ad in the frame FmIR1ad, the addition pixel data Gr123ad and Gb123ad in the frame FmIR2ad, and the addition pixel data B123ad in the frame FmIR3ad. As a result, the synthesis unit 523 generates a frame FmIR123ad of the synthesized video signal shown in FIG.
- the synthesizing unit 523 generates a frame FmIR123ad in which the addition pixel data R123ad, Gr123ad, Gb123ad, and B123ad are arranged so as to have the same arrangement as the arrangement of the filter elements in the color filter 32.
- FIG. 16 shows the frame FmIR123ad.
- the demosaic processing unit 54 calculates the R pixel data at the pixel position where the R pixel data does not exist using the surrounding R pixel data, and generates the R interpolation pixel data R123adi.
- the demosaic processing unit 54 generates an R frame FmIR123adR in which all pixels in one frame shown in FIG. 16B are made up of R pixel data.
- the demosaic processing unit 54 calculates the G pixel data at the pixel position where the G pixel data does not exist using the surrounding G pixel data, and generates the G interpolation pixel data G123adi.
- the demosaic processing unit 54 generates a G frame FmIR123adG in which all the pixels in one frame shown in FIG.
- the demosaic processing unit 54 calculates the B pixel data at the pixel position where the B pixel data does not exist using the surrounding B pixel data, and generates the B interpolation pixel data B123adi.
- the demosaic processing unit 54 generates a B frame FmIR123adB in which all the pixels in one frame shown in FIG.
- the first intermediate mode and the first night-vision mode are different in that the former does not operate the surrounding pixel adding unit 521 while the latter operates the surrounding pixel adding unit 521.
- the mode switching unit 72 may operate the surrounding pixel addition unit 521 in the night vision mode.
- the operation of the demosaic processing unit 54 in the night vision mode is substantially the same as the operation of the demosaic processing unit 54 in the normal mode and the intermediate mode.
- the demosaic processing unit 54 in the video processing unit 5 and a signal processing unit such as white balance correction and gain correction can be shared.
- ⁇ Night Vision Mode: Second Night Vision Mode> The operation in the second night-vision mode will be described with reference to FIGS. In the operation in the second night vision mode, the description of the same part as the operation in the first night vision mode is omitted.
- the frames FmIR1ad, FmIR2ad, and FmIR3ad in (a) to (c) of FIG. 17 are the same as the FmIR1ad, FmIR2ad, and FmIR3ad in (a) to (c) of FIG.
- the synthesizing unit 523 selects and synthesizes R1ad that is R pixel data in the frame FmIR1ad, Gr2ad and Gb2ad that are G pixel data in the frame FmIR2, and B3ad that is B pixel data in the frame FmIR3. Thereby, the synthesis unit 523 generates a frame FmIR123′ad of the synthesized video signal shown in FIG.
- the synthesizing unit 523 generates a frame FmIR123′ad in which the addition pixel data R1ad, Gr2ad, Gb2ad, and B3ad are arranged so that the arrangement is the same as the arrangement of the filter elements in the color filter 32.
- the red addition pixel data R1ad in the frame FmIR123′ad is obtained from a wider area than the area used for generating the red pixel data in the intermediate mode. It is generated from the pixel data.
- the additional pixel data Gr2ad for green in the frame FmIR123'ad is generated from pixel data obtained from an area larger than the area used for generating the pixel data for green in the intermediate mode. ing.
- the additional pixel data B3ad for blue in the frame FmIR123'ad is generated from pixel data obtained from an area larger than the area used for generating the pixel data for blue in the intermediate mode. ing.
- the same-position pixel addition unit 522 sets the coefficient ka in equation (1) to 1, the coefficients kb and kc to 0, and the coefficient ke in equation (2) to 1.
- the coefficients kd and kf are set to 0, the coefficient ki in the equation (3) is set to 1, and the coefficients kg and kh are set to 0.
- the pixel data of R1ad in the frame FmIR1ad, the pixel data of Gr2ad and Gb2ad in the frame FmIR2ad, and the pixel data of B3ad in the frame FmIR3ad have the same values.
- the combining unit 523 selects the pixel data of R1ad in the frame FmIR1ad, the pixel data of Gr2ad and Gb2ad in the frame FmIR2ad, and the pixel data of B3ad in the frame FmIR3ad.
- a frame FmIR123'ad can be generated.
- the demosaic processing in the demosaic processing unit 54 will be described with reference to FIG. FIG. 18A shows a frame FmIR123′ad.
- the demosaic processing unit 54 calculates the R pixel data at the pixel position where the R pixel data does not exist using the surrounding R1ad pixel data, and generates the R interpolation pixel data R1adi.
- the demosaic processing unit 54 generates an R frame FmIR123′adR in which all the pixels of one frame shown in FIG. 18B are made up of R pixel data.
- the demosaic processing unit 54 calculates the G pixel data at the pixel position where the G pixel data does not exist using the surrounding Gr2ad and Gb2ad pixel data, and generates the G interpolation pixel data G2adi.
- the demosaic processing unit 54 performs interpolation to generate a G frame FmIR123′adG in which all the pixels of one frame shown in FIG.
- the demosaic processing unit 54 generates B interpolation pixel data B3adi obtained by calculating B pixel data at a pixel position where B pixel data does not exist using surrounding B3ad pixel data.
- the demosaic processing unit 54 generates a B frame FmIR123′adB in which all the pixels in one frame shown in FIG.
- the second intermediate mode and the second night vision mode are different in that the former does not operate the surrounding pixel adding unit 521 while the latter operates the surrounding pixel adding unit 521.
- pixel data for each color is generated from each pixel data obtained from the region corresponding to each color in the light receiving element, but in the night vision mode, the surrounding pixels are added. It can also be said that pixel data for each color is generated from pixel data obtained from a region wider than each region for generating pixel data for each color.
- FIG. 19A schematically shows, as an example, how the brightness of the surrounding environment changes as time passes from the daytime period to the nighttime period.
- the brightness decreases as time elapses from daytime to evening, and it becomes almost dark after time t3.
- the brightness shown in FIG. 19A substantially indicates the amount of visible light, and there is almost no visible light after time t3.
- the control unit 7 can determine the brightness of the surrounding environment based on the luminance level of the video signal (video data) input from the video processing unit 5. As shown in FIG. 19B, the mode switching unit 72 sets the normal mode when the brightness is equal to or higher than a predetermined threshold Th1 (first threshold), and sets the predetermined threshold Th2 (less than the threshold Th1). When it is equal to or greater than the second threshold), the intermediate mode is selected.
- Th1 first threshold
- Th2 less than the threshold Th1
- the intermediate mode is selected.
- the imaging apparatus 110 switches the mode to the normal mode from time t1 when the brightness reaches the threshold value Th1, to the intermediate mode from time t1 to time t2 when the brightness reaches the threshold value Th2, and to the night vision mode after time t2. Switch automatically.
- the intermediate mode may be either the first intermediate mode or the second intermediate mode
- the night vision mode may be either the first night vision mode or the second night vision mode.
- the brightness immediately before time t3 when almost no visible light is present is set as the threshold value Th2, but the brightness at time t3 may be set as the threshold value Th2.
- the mode switching unit 72 has a period of time t1 in which the visible light is relatively large in the intermediate mode period, the first intermediate mode, and a period of time t2 in which the visible light is relatively small.
- the period may be set to the second intermediate mode.
- the night-vision mode may be either the first night-vision mode or the second night-vision mode.
- the light projection control unit 71 controls on / off of the infrared projector 9, and the mode switching unit 72 switches the operation / non-operation of each unit in the video processing unit 5.
- a mode can be realized.
- the infrared projector 9 is off, the surrounding pixel adding unit 521, the same position pixel adding unit 522 and the synthesizing unit 523 are not operating, and the demosaic processing unit 54 is operating.
- the infrared projector 9 In the first intermediate mode, the infrared projector 9 is on, the surrounding pixel adding unit 521 is not operating, and the same-position pixel adding unit 522, the combining unit 523, and the demosaic processing unit 54 are operating. In the second intermediate mode, the infrared projector 9 is on, the surrounding pixel adding unit 521 and the same-position pixel adding unit 522 are not operating, and the synthesizing unit 523 and the demosaic processing unit 54 are operating.
- the operation and non-operation in the same position pixel addition unit 522 can be easily switched by appropriately setting the values of the coefficients ka to ki in the equations (1) to (3) as described above.
- the infrared projector 9 In the first night-vision mode, the infrared projector 9 is on, and the surrounding pixel adding unit 521, the same-position pixel adding unit 522, the synthesizing unit 523, and the demosaic processing unit 54 are all in an operating state. In the second night-vision mode, the infrared projector 9 is on, the same-position pixel adding unit 522 is not operating, and the surrounding pixel adding unit 521, the combining unit 523, and the demosaic processing unit 54 are operating.
- the surrounding pixel adding unit 521 sets the coefficient multiplied by the surrounding pixel data to a coefficient exceeding 0 (for example, 1) in the calculation formula for adding the surrounding pixel data to the pixel data of the target pixel.
- the surrounding pixel addition processing can be put into an operation state.
- the surrounding pixel adding unit 521 can make the surrounding pixel addition processing inoperative when the coefficient multiplied by the surrounding pixel data is set to 0 in the calculation formula.
- the operation and non-operation of the surrounding pixel addition unit 521 can be easily switched by appropriately setting the coefficient value.
- the method by which the control unit 7 detects the brightness of the surrounding environment is not limited to the method based on the luminance level of the video signal.
- the brightness sensor 11 may detect the brightness of the surrounding environment.
- the brightness of the surrounding environment may be determined based on both the luminance level of the video signal and the brightness detected by the brightness sensor 11.
- the control unit 7 does not directly detect the brightness of the surrounding environment, but roughly assumes the brightness of the surrounding environment based on the time (date) and time (time zone) in one year, and the mode switching unit 72 may be switched to each mode.
- any one of the normal mode, the intermediate mode, and the night vision mode is set corresponding to the combination of the date and the time zone.
- a clock 73 in the control unit 7 manages the date and time.
- the control unit 7 refers to the date and time indicated by the clock 73 and reads the mode set from the mode setting table 12.
- the light projection control unit 71 and the mode switching unit 72 control the imaging device so that the mode read from the mode setting table 12 is set.
- the imaging device may be controlled so that the user manually selects a mode using the operation unit 13 and the projection control unit 71 and the mode switching unit 72 are in the selected mode.
- the operation unit 13 may be an operation button provided on the housing of the imaging apparatus or a remote controller.
- step S1 the control unit 7 determines whether or not the brightness of the surrounding environment is equal to or greater than the threshold value Th1. If it is equal to or greater than the threshold Th1 (YES), the control unit 7 causes the process in the normal mode to be executed in step S3. If it is not equal to or greater than the threshold value Th1 (NO), the control unit 7 determines whether or not the brightness of the surrounding environment is equal to or greater than the threshold value Th2 in step S2.
- control unit 7 executes processing in the intermediate mode in step S4. If it is not greater than or equal to the threshold Th2 (NO), the control unit 7 causes the process in the night-vision mode to be executed in step S5.
- the control unit 7 returns the process to step S1 after steps S3 to S5, and repeats step S1 and subsequent steps.
- FIG. 25 shows specific processing in the normal mode in step S3.
- the control part 7 (light projection control part 71) turns off the infrared light projector 9 in step S31.
- the control unit 7 inserts the infrared cut filter 21.
- the control unit 7 (mode switching unit 72) connects the switches 51 and 53 to the terminal Tb.
- the order of steps S31 to S33 is arbitrary and may be simultaneous.
- the control unit 7 causes the imaging unit 3 to image the subject in step S34.
- the control unit 7 controls the video processing unit 5 so that the demosaic processing unit 54 performs demosaic processing on the frames constituting the video signal generated by the imaging unit 3 imaging the subject.
- FIG. 26 shows specific processing in the intermediate mode in step S4.
- the control unit 7 (light projection control unit 71) turns on the infrared projector 9 so that infrared light of wavelengths IR1 to IR3 is projected in a time-sharing manner from the light projecting units 91 to 93.
- the control unit 7 inserts the dummy glass 22 in step S42.
- the control unit 7 (mode switching unit 72) connects the switches 51 and 53 to the terminal Ta.
- the order of steps S41 to S43 is arbitrary and may be simultaneous.
- the control unit 7 causes the imaging unit 3 to image the subject in step S44.
- the imaging unit 3 projects infrared light with a wavelength IR1 associated with R, infrared light with a wavelength IR2 associated with G, and infrared light with a wavelength IR3 associated with B, respectively. Take a picture of the subject in the
- step S45 the control unit 7 (mode switching unit 72) controls the pre-signal processing unit 52 so that the surrounding pixel addition unit 521 is deactivated and the synthesis unit 523 is operated to generate a synthesized video signal.
- the frames constituting the video signal generated when the imaging unit 3 images the subject in the state where infrared light of wavelengths IR1, IR2, and IR3 are respectively projected are the first frame, the second frame, 3 frames are assumed.
- the synthesizing unit 523 converts the three primary color pixel data based on the R pixel data in the first frame, the G pixel data in the second frame, and the B pixel data in the third frame into color
- the filters 32 are arranged so as to have the same arrangement as the filter elements.
- the combining unit 523 generates a combined video signal by combining the first to third frames into one frame in this way.
- step S46 the control unit 7 controls the video processing unit 5 so that the demosaic processing unit 54 performs demosaic processing on the frame of the composite video signal.
- the demosaic processing unit 54 performs demosaic processing for generating an R frame, a G frame, and a B frame based on the frame of the composite video signal, and sequentially generates the demosaiced three primary color frames. .
- the demosaic processing unit 54 can generate an R frame by interpolating the R pixel data at a pixel position where the R pixel data does not exist.
- the demosaic processing unit 54 can generate the G frame by interpolating the G pixel data at the pixel position where the G pixel data does not exist.
- the demosaic processing unit 54 can generate the B frame by interpolating the B pixel data at the pixel position where the B pixel data does not exist.
- step S45 the same position pixel addition unit 522 is operated in step S45, and in the case of the second intermediate mode, the same position pixel addition unit 522 is not operated in step S45. do it.
- FIG. 27 shows specific processing in the night-vision mode in step S5.
- the control unit 7 (light projection control unit 71) turns on the infrared projector 9 so that infrared light of wavelengths IR1 to IR3 is projected in a time-sharing manner from the light projecting units 91 to 93.
- the control unit 7 inserts the dummy glass 22 in step S52.
- the control unit 7 (mode switching unit 72) connects the switches 51 and 53 to the terminal Ta.
- the order of steps S51 to S53 is arbitrary and may be simultaneous.
- the control unit 7 causes the imaging unit 3 to image the subject in step S54.
- the control unit 7 (mode switching unit 72) controls the previous signal processing unit 52 to operate the surrounding pixel addition unit 521 and the synthesis unit 523 to generate a synthesized video signal.
- step S56 the control unit 7 controls the video processing unit 5 so that the demosaic processing unit 54 performs demosaic processing on the frame of the composite video signal.
- step S55 the same position pixel addition unit 522 is operated in step S55, and in the case of the second night vision mode, the same position pixel addition unit 522 is disabled in step S55. It may be an operation.
- control unit 7 or an integrated part of the video processing unit 5 and the control unit 7 is configured by a computer (microcomputer), and the video signal processing program (computer program) is executed by the computer. It is also possible to realize an operation similar to that of the imaging device 110 that has been performed.
- FIG. 28 shows processing that the video signal processing program causes the computer to execute.
- step S401 the video signal processing program controls the infrared projector 9 so as to project infrared light of wavelengths IR1, IR2, and IR3 associated with R, G, and B to the computer. To execute the process.
- step S401 may be executed outside the video signal processing program.
- the process of inserting the dummy glass 22 is omitted.
- the process for inserting the dummy glass 22 may also be executed outside the video signal processing program.
- step S402 the video signal processing program captures the first frame of the video signal generated by the imaging unit 3 imaging the subject in a state where infrared light having the wavelength IR1 is projected on the computer.
- a process of acquiring pixel data to be configured is executed.
- step S403 the video signal processing program captures the second frame of the video signal generated when the imaging unit 3 images the subject in a state where infrared light having the wavelength IR2 is projected on the computer.
- a process of acquiring pixel data to be configured is executed.
- step S404 the video signal processing program captures a third frame of the video signal generated when the imaging unit 3 images the subject in a state where infrared light having the wavelength IR3 is projected on the computer.
- a process of acquiring pixel data to be configured is executed. The order of steps S402 to S404 is arbitrary.
- step S405 the video signal processing program causes the computer to arrange the R, G, and B pixel data so as to be in the same arrangement as the arrangement of the filter elements in the color filter 32, and synthesize the synthesized video into one frame.
- a process for generating a signal is executed.
- the video signal processing program does not cause the computer to execute the step of adding surrounding pixels in step S405.
- step S406 the video signal processing program causes the computer to perform a process of generating a R, G, B frame by performing a demosaic process on the frame of the composite video signal.
- step S5 in FIG. 24 when the control in the night vision mode, which is step S5 in FIG. 24, is configured by the video signal processing program, the processing of adding peripheral pixels is executed in the computer in step S405 in FIG. You can do it.
- the video signal processing program may be a computer program recorded on a computer-readable recording medium.
- the video signal processing program may be provided in a state where it is recorded on a recording medium, or may be provided via a network such as the Internet so that the computer can download the video signal processing program.
- the computer-readable recording medium may be any non-temporary arbitrary recording medium such as a CD-ROM or a DVD-ROM.
- the imaging apparatus configured as shown in FIG. 1, for example, a plurality of units may be provided as necessary, and the intermediate mode and the night vision mode may be executed simultaneously.
- the video output unit 6 may output both the video signal generated in the intermediate mode and the video signal generated in the night vision mode.
- the mode switching unit 72 switches between a state in which the video output unit 6 outputs the video signal generated in the intermediate mode and a state in which the video output unit 6 outputs the video signal generated in the night vision mode. May be. At this time, as described above, switching may be performed according to the brightness of the surrounding environment, the time, or the like.
- the video processing unit 5 (video processing device) may be separated from other units.
- the normal mode is switched to the night vision mode or the night vision mode is switched to the normal mode without using the intermediate mode.
- the intermediate mode When the intermediate mode is not used, it is sufficient to select and use either the normal mode or the night vision mode in an environment where the use of the intermediate mode described above is suitable. In this case, the color image signal is not satisfactory as compared with the case where the intermediate mode is used, but imaging is possible.
- the subject is photographed with one imaging device in a situation where the ambient brightness changes, for example, when the subject is photographed all day with a surveillance camera. There is an effect that can be done.
- the normal mode is switched to the intermediate mode and the intermediate mode is switched to the normal mode without using the night vision mode.
- the night vision mode may not be installed.
- the night vision mode may not be used.
- An imaging apparatus equipped with only the normal mode and the intermediate mode can be used when the night vision mode does not have to be used.
- the intermediate mode may be used in an environment where the above-described night vision mode is suitable.
- the color image signal is not good as compared with the case of using the night vision mode, but imaging is possible.
- FIG. 30 shows infrared light projection by the infrared projector 9 of its own imaging device 110, and (c) shows infrared light projection by the infrared projector 9 of another imaging device 110. . It is assumed that the infrared light projections by the infrared projectors 9 of the two imaging devices 110 are not synchronized and are shifted by a shorter period than the period of projecting the infrared light of one wavelength.
- FIG. 30, (b) shows a frame generated by imaging by its own imaging device 110.
- FIG. 31 shows infrared light projection by the infrared projector 9 of its own imaging device 110, and (c) shows infrared light projection by the infrared projector 9 of another imaging device 110. . It is assumed that the infrared light projections by the infrared projectors 9 of the two imaging devices 110 are not synchronized and are shifted by a period during which infrared light having one wavelength is projected. In FIG. 31, (b) shows a frame generated by imaging by its own imaging device 110.
- infrared projectors 9 of the two imaging devices 110 individually project infrared light, infrared light of different wavelengths are mixed, and a color image capable of correct color reproduction cannot be captured.
- a synchronization method for synchronizing the timings at which the infrared projectors 9 of the two imaging devices 110 project infrared light with wavelengths IR1, IR2, and IR3 will be described.
- the number of imaging devices 110 is two, but may be three or more.
- FIG. 32 (a) shows Coordinated Universal Time (UTC).
- the 1PPS signal S1pps is a short pulse synchronized with UTC.
- the 1PPS signal S1pps has an accuracy of about ⁇ 1 ⁇ sec with respect to UTC.
- the rise timing of the 1PPS signal S1pps is made coincident with the UTC second timing, but has an offset time (first offset time) in which the rise timing of the 1PPS signal S1pps is delayed with respect to the UTC second timing. It may be.
- the light projecting control units 71 of the plurality of imaging devices 110 are arranged in a predetermined order at predetermined times for infrared light having wavelengths IR1, IR2, and IR3 by the infrared projector 9 based on the input 1PPS signal S1pps. Light up with.
- the predetermined time can be one divided period in three divided periods obtained by dividing a predetermined period (one frame period) into three.
- the light projecting control unit 71 controls the infrared light projector 9 to project infrared light having a wavelength IR1 when the 1PPS signal S1pps rises, as shown in FIG.
- the light projection timing of the infrared light by the infrared projector 9 is controlled based on the 1PPS signal S1pps generated based on the radio wave from the satellite 200, the light projection timings of the plurality of imaging devices 110 can be substantially matched. .
- infrared light having the wavelength IR1 is projected at the rising timing of the 1PPS signal S1pps, but an offset time (second offset time) of a predetermined time may be provided.
- the offset times of all of the plurality of imaging devices 110 are shared.
- the reference infrared light may be infrared light with wavelength IR2 or IR3.
- the rise timing of the 1PPS signal S1pps has the first offset time with respect to the UTC second timing, and the timing at which the infrared light is projected has the second offset time with respect to the rise timing of the 1PPS signal S1pps
- the total time of the first offset time and the second offset time of all of the plurality of imaging devices 110 is shared.
- the infrared light projection timing for UTC is shared by all of the plurality of imaging devices 110.
- the plurality of imaging devices 110 can be synchronized in a state where the timing of projecting infrared light by the respective infrared projectors 9 is matched. Therefore, the problems as shown in FIGS. 30 and 31 do not occur.
- the control method of the imaging apparatus used in the imaging system is as follows.
- step S01 a pulse signal (1PPS signal S1pps) generated based on radio waves from the satellite 200 and synchronized with UTC is acquired.
- step S02 the light projection timing for selectively projecting infrared light of wavelengths IR1, IR2, and IR3 is controlled by the infrared projector 9 based on the pulse signal.
- step S03 the subject is imaged in a state where infrared light of wavelengths IR1, IR2, and IR3 is selectively projected.
- Steps S01 to S03 are repeated when the imaging device 110 is operating in the infrared light projection mode.
- the infrared light projection timing may be controlled based on the pulse signal only once when the image pickup apparatus is activated. After startup, the infrared light projection timing may be controlled based on the clock signal Sclk.
- Each of the plurality of image pickup apparatuses 110 executes the above-described image pickup apparatus control method, thereby causing each of the infrared projectors 9 to project light projection timings for selectively projecting infrared light with wavelengths IR1, IR2, and IR3. Synchronize.
- An imaging device control program to be executed by a computer mounted on each imaging device 110 is as follows.
- step S01 the control program causes the computer to execute processing for acquiring a pulse signal (1PPS signal S1pps) synchronized with UTC.
- step S02 the control program causes the computer to execute a process of controlling the light projection timing for selectively projecting infrared light of wavelengths IR1, IR2, and IR3 by the infrared projector 9 based on the pulse signal. .
- step S03 the control program causes the computer to execute processing for controlling the imaging unit 3 so that the subject is imaged in a state where infrared light with wavelengths IR1, IR2, and IR3 is selectively projected.
- the computer repeatedly executes the processes of steps S01 to S03 when the imaging apparatus 110 is operating in the infrared light projection mode.
- the computer may execute a process of controlling the light projection timing of the infrared light based on the pulse signal only once when the imaging apparatus is activated.
- the computer may execute a process of controlling the light projection timing of the infrared light based on the clock signal Sclk after the startup.
- Each of the plurality of imaging devices 110 causes a computer to execute the above-described control program of the imaging device, thereby causing each infrared projector 9 to selectively project infrared light with wavelengths IR1, IR2, and IR3. Synchronize each other.
- the infrared projector 9 may be detachable from the housing of the imaging device 110.
- the infrared projector 9 may be configured outside the imaging device 110.
- the imaging device 110 may have a configuration for controlling the infrared projector 9 when the infrared projector 9 is attached.
- control unit 7 and the video processing unit 5 can be realized using one or a plurality of hardware processors.
- the imaging apparatus, the imaging apparatus control method, and the control program according to the present invention can be used for a monitoring camera that monitors a subject in an environment with little visible light.
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
- Blocking Light For Cameras (AREA)
- Camera Bodies And Camera Details Or Accessories (AREA)
Abstract
入力部(7in2)には、全地球航法衛星システム用の衛星からの電波に基づいて生成されたパルス信号が入力される。投光制御部(71)は、パルス信号に基づいて、赤外線投光器(9)によって、赤外光を投光させる投光タイミングを制御する。撮像部(3)は、赤外光が投光されている状態で被写体を撮像する。
Description
本開示は、撮像装置、撮像装置の制御方法及び制御プログラムに関する。
従来、例えば夜間等の可視光がほとんどない環境下において被写体を撮像するために、赤外線投光器によって被写体に赤外光を照射し、被写体から反射した赤外光を撮像する方法が用いられている。この方法は、可視光を照射するライトを用いることができない場合に有効な撮像方法である。
しかしながら、この撮像方法によって被写体を撮像した映像は、モノクロ映像となる。モノクロ映像では物体の識別が困難となることがある。可視光がない環境下でもカラー映像を撮像することができれば、物体の識別性を向上させることができる。例えば監視カメラでは、物体の識別性を向上させるために、可視光がない環境下でもカラー映像を撮像することが望まれる。
特許文献1には、可視光がない環境下でもカラー映像を撮像することができる撮像装置が記載されている。特許文献1に記載されている撮像装置においても、赤外線投光器が用いられる。監視カメラに特許文献1に記載の技術を搭載すれば、被写体をカラー映像化して物体の識別性を向上させることが可能となる。
特許文献1に記載されている撮像装置は、赤外線投光器によって3つの波長の赤外光を順次投光して被写体を撮像する。
監視システム(撮像システム)では複数の監視カメラを用いて、監視対象の被写体を撮像することがある。特許文献1に記載されている撮像装置を複数の監視カメラそれぞれに用いて、監視システムを構成することが考えられる。
複数の撮像装置が個々に赤外光を投光すると異なる波長の赤外光が混ざってしまい、好ましい色再現が可能なカラー映像を撮像することができない。
実施形態は、赤外光を投光して被写体を撮像する自己の撮像装置以外に、赤外光を投光して被写体を撮像する他の撮像装置が存在する場合でも好ましい映像を撮像することができる撮像装置、撮像装置の制御方法及び制御プログラムを提供することを目的とする。
実施形態の第1の態様によれば、全地球航法衛星システム用の衛星からの電波に基づいて生成されたパルス信号が入力される入力部と、前記パルス信号に基づいて、赤外線投光器に赤外光を投光させる投光タイミングを制御する投光制御部と、赤外光が投光されている状態で被写体を撮像する撮像部とを備えることを特徴とする撮像装置が提供される。
実施形態の第2の態様によれば、全地球航法衛星システム用の衛星からの電波に基づいて生成されたパルス信号に基づいて、赤外線投光器に赤外光を投光させる投光タイミングを制御し、赤外光が投光されている状態で被写体を撮像することを特徴とする撮像装置の制御方法が提供される。
実施形態の第3の態様によれば、撮像装置に搭載されているコンピュータに、全地球航法衛星システム用の衛星からの電波に基づいて生成されたパルス信号を取得するステップと、前記パルス信号に基づいて、赤外線投光器に赤外光を投光させる投光タイミングを制御するステップと、赤外光が投光されている状態で被写体を撮像するよう撮像部を制御するステップとを実行させることを特徴とする撮像装置の制御プログラムが提供される。
実施形態の撮像装置、撮像装置の制御方法及び制御プログラムによれば、赤外光を投光して被写体を撮像する自己の撮像装置以外に、赤外光を投光して被写体を撮像する他の撮像装置が存在する場合でも好ましい色再現が可能なカラー映像を撮像することができる。
以下、一実施形態の撮像装置、撮像装置の制御方法及び制御プログラムについて、添付図面を参照して説明する。
<撮像装置の構成>
まず、図1を用いて、一実施形態の撮像装置110の全体的な構成について説明する。図1に示す一実施形態の撮像装置110は、昼間等の可視光が十分に存在する環境下に適した通常モードと、夜間等の可視光がほとんどない環境下に適した暗視モードと、可視光がわずかに存在する環境下に適した中間モードとの3つのモードで撮像可能な撮像装置である。
まず、図1を用いて、一実施形態の撮像装置110の全体的な構成について説明する。図1に示す一実施形態の撮像装置110は、昼間等の可視光が十分に存在する環境下に適した通常モードと、夜間等の可視光がほとんどない環境下に適した暗視モードと、可視光がわずかに存在する環境下に適した中間モードとの3つのモードで撮像可能な撮像装置である。
暗視モードと中間モードとはいずれも可視光が少ない環境下で、赤外線を投光しながら撮像する赤外光投光モードである。赤外光投光モードは暗視モードのみであってもよい。本実施形態では、好ましい構成として、中間モードを含む3つのモードで撮像可能な撮像装置を例とする。
図1において、被写体から反射した一点鎖線にて示す光は、光学レンズ1によって集光される。ここで、光学レンズ1には、可視光が十分に存在する環境下では可視光、可視光がほとんどない環境下では後述する赤外線投光器9より発せられた赤外光を被写体が反射した赤外光が入射される。
可視光がわずかに存在する環境下では、光学レンズ1には、可視光と赤外線投光器9より発せられた赤外光を被写体が反射した赤外光とが混在した光が入射される。
図1では簡略化のため、光学レンズ1を1つのみとしているが、実際には、撮像装置110は複数の光学レンズを備える。
光学レンズ1と撮像部3との間には、光学フィルタ2が設けられている。光学フィルタ2は、赤外線カットフィルタ21とダミーガラス22との2つの部分を有する。光学フィルタ2は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入した状態と、光学レンズ1と撮像部3との間にダミーガラス22を挿入した状態とのいずれかの状態に駆動される。
撮像部3は、水平方向及び垂直方向に複数の受光素子(画素)が配列した撮像素子31と、それぞれの受光素子に対応して赤色(R),緑色(G),青色(B)のいずれかの色のフィルタエレメントが配置されたカラーフィルタ32とを有する。撮像素子31は、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)でよい。
カラーフィルタ32には、一例として、図2に示すように、R,G,Bのフィルタエレメントがベイヤ配列と称される配列で並べられている。ベイヤ配列は、R,G,Bのフィルタエレメントの所定の配列の一例である。図2において、各行のRのフィルタエレメントに挟まれたGのフィルタエレメントをGr、Bのフィルタエレメントに挟まれたGのフィルタエレメントをGbとしている。
ベイヤ配列では、RのフィルタエレメントとGrのフィルタエレメントとが交互に配置された水平方向の行と、BのフィルタエレメントとGbのフィルタエレメントとが交互に配置された水平方向の行とが、垂直方向に交互に配列されている。
図3は、撮像部3におけるR光,G光,B光の波長と相対感度との分光感度特性を示している。相対感度は、最大値が1に正規化されている。撮像装置110を通常モードで動作させるとき、可視光による良好なカラー映像を撮像するには、波長700nm以上の赤外光をカットする必要がある。
そこで、駆動部8は、制御部7による制御に基づいて、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入するように光学フィルタ2を駆動する。
図3より分かるように、撮像部3は、波長700nm以上の赤外光の領域においても感度を有する。そこで、撮像装置110を中間モードまたは暗視モードで動作させるときには、駆動部8は、制御部7による制御に基づいて、光学レンズ1と撮像部3との間の赤外線カットフィルタ21を外してダミーガラス22を挿入するように光学フィルタ2を駆動する。
光学レンズ1と撮像部3との間にダミーガラス22を挿入した状態では、波長700nm以上の赤外光はカットされない。よって、撮像装置110は、図3に破線の楕円で囲んだ部分の感度を利用して、R,G,Bの各色情報を得ることが可能となる。ダミーガラス22を挿入するのは、光路長を、赤外線カットフィルタ21を挿入した場合の光路長と同じにするためである。
赤外線投光器9は、それぞれ、波長IR1,IR2,IR3の赤外光を投光する投光部91,92,93を有する。中間モードまたは暗視モードのとき、制御部7内の投光制御部71は、時分割で投光部91~93より波長IR1~IR3の赤外光を選択的に投光させるように制御する。
ところで、撮像素子31にはシリコンウェハが用いられている。図4は、R,G,Bそれぞれの色を呈する素材に白色光を照射した場合の各波長における反射率にシリコンの受光感度を乗じたときの、波長と相対検出率との関係を示している。図4においても、相対検出率は、最大値が1に正規化されている。
図4に示すように、赤外光の領域において、例えば、波長780nmにおける反射光はR色を呈する素材の反射光との相関性が高く、波長870nmにおける反射光はB色を呈する素材の反射光との相関性が高く、波長940nmにおける反射光はG色を呈する素材の反射光との相関性が高い。
そこで、本実施形態においては、投光部91,92,93が投光する赤外光の波長IR1,IR2,IR3を、780nm,940nm,870nmとする。これらの波長は、波長IR1~IR3の一例であり、780nm,940nm,870nm以外でもよい。
投光部91が波長IR1の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をR信号に割り当てる。投光部93が波長IR2の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をG信号に割り当てる。投光部92が波長IR3の赤外光を被写体に照射し、被写体から反射した光を撮像した映像信号をB信号に割り当てる。
このようにすれば、原理的に、中間モードまたは暗視モードにおいても、通常モードにおいて可視光が存在する環境下で被写体を撮像した場合と同様の色を再現することができる。
色味が被写体の実際の色味と異なるカラー映像となるものの、780nmの波長IR1をR光、870nmの波長IR3をG光、940nmの波長IR2をB光に割り当ててもよい。波長IR1,IR2,IR3をR光,G光,B光に任意に割り当てることも可能である。
本実施形態においては、被写体の色味を最もよく再現する、波長IR1,IR2,IR3をそれぞれR光,G光,B光に割り当てることとする。
制御部7は、撮像部3における撮像と、映像処理部5内の各部とを制御する。撮像部3によって撮像された撮像信号はA/D変換器4によってA/D変換され、映像処理部5に入力される。撮像部3とA/D変換器4とが一体化されていてもよい。映像処理部5と制御部7とが一体化されていてもよい。
制御部7は、通常モードと中間モードと暗視モードとを切り換えるモード切換部72を備える。モード切換部72は、通常モードと中間モードと暗視モードとに対応させて、映像処理部5内の動作を後述のように適宜切り換える。
撮像装置110は、全地球航法衛星システム(Global Navigation Satellite System: GNSS)用の衛星200からの電波を受信するアンテナ16aと、アンテナ16aが出力するGNSS信号を受信するGNSS受信部16とを備える。GNSS信号は一般的にRF信号である。GNSSは、一例としてGPS(Global Positioning System)である。
GNSS受信部16は、衛星200からの電波に含まれる時刻情報に基づいて、クロック信号Sclkと、1パルス/秒の1PPS信号S1ppsを生成する。衛星200から送信される時刻情報は、衛星200に内蔵されている原子時計と高精度に同期している。GNSS受信部16は、原子時計と高精度に同期するクロック信号Sclkと、クロック信号Sclkと同期した1PPS信号S1ppsを制御部7に供給する。
制御部7は、クロック信号Sclkが入力される入力部7in1と、1PPS信号S1ppsが入力される入力部7in2とを有する。制御部7は、クロック信号Sclkを基準クロックとする。制御部7は、基準クロックに基づいて撮像装置110を動作させる。制御部7が1PPS信号S1ppsをどのように用いるかについては後述する。
制御部7は、1PPS信号S1ppsに基づいて基準クロックを生成してもよい。この場合には、制御部7にクロック信号Sclkを供給しなくてもよい。
GNSS受信部16は、GNSS信号に基づいて緯度及び経度を示す緯度経度信号Slaloを生成する。GNSS受信部16は、クロック信号Sclkと1PPS信号S1ppsと緯度経度信号Slaloとをナビゲーション装置115に供給してもよい。
一例として撮像装置110が車両に設置され、車両がナビゲーション装置115を搭載している場合には、ナビゲーション装置115に供給するクロック信号Sclkと1PPS信号S1ppsと緯度経度信号Slaloとを撮像装置110が利用することができる。
撮像装置110は、GNSS受信部16を備えていなくてもよい。ナビゲーション装置115用のGNSS受信部16から出力される1PPS信号S1pps(及びクロック信号Sclk)を制御部7に供給してもよい。制御部7は、GNSS受信部16から出力される1PPS信号S1ppsが入力される入力部7in2を備えればよい。
映像処理部5は、スイッチ51,53と、前信号処理部52と、デモザイク処理部54とを有する。スイッチ51,53は物理的なスイッチであってもよく、前信号処理部52の動作と不動作とを切り換えるための概念的なスイッチであってもよい。制御部7には、撮像している映像の明るさを検出するために、映像処理部5から映像信号が入力される。
図5に示すように、前信号処理部52は、周囲画素加算部521と、同一位置画素加算部522と、合成部523とを有する。
映像処理部5は、R,G,Bの3原色データを生成して、映像出力部6に供給する。映像出力部6は、3原色データを所定の形式で図示していない表示部等へと出力する。
映像出力部6は、R,G,B信号をそのまま出力してもよいし、R,G,B信号を輝度信号と色信号(または色差信号)に変換して出力してもよい。映像出力部6は、コンポジット映像信号を出力してもよい。映像出力部6は、デジタル信号の映像信号を出力してもよいし、D/A変換器によってアナログ信号に変換した映像信号を出力してもよい。
以下、通常モードと中間モードと暗視モードとのそれぞれの具体的な動作について説明する。
<通常モード>
通常モードでは、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオフにする。
通常モードでは、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間に赤外線カットフィルタ21を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオフにする。
撮像部3によって撮像された撮像信号は、A/D変換器4によってデジタル信号である映像データに変換されて、映像処理部5に入力される。通常モードでは、モード切換部72は、スイッチ51,53を端子Tbに接続するように制御する。
図6の(a)は、撮像部3の露光Ex1,Ex2,Ex3…を示している。実際には露光時間はシャッタスピード等の条件によって変化するが、ここでは露光Ex1,Ex2,Ex3は最大露光時間を示している。
図6の(b)は、それぞれの映像信号のフレームが得られるタイミングを示している。露光Ex1の前の図示していない露光に基づいて、所定時間後に映像信号のフレームF0が得られる。露光Ex1に基づいて、所定時間後に映像信号のフレームF1が得られる。露光Ex2に基づいて、所定時間後に映像信号のフレームF2が得られる。露光Ex3以降も同様である。映像信号のフレーム周波数を、例えば30フレーム/秒とする。
映像信号のフレーム周波数は、NTSC方式であれば30フレーム/秒または60フレーム/秒、PAL方式であれば25フレーム/秒または50フレーム/秒のように適宜設定すればよい。また、映像信号のフレーム周波数は、映画で使われている24フレーム/秒であってもよい。
A/D変換器4より出力された各フレームの映像データは、スイッチ51,53を介してデモザイク処理部54に入力される。デモザイク処理部54は、入力された各フレームの映像データにデモザイク処理を施す。映像処理部5は、デモザイク処理の他、ホワイトバランス補正やゲイン補正等の各種の映像処理を施して、R,G,Bの3原色データを出力する。
図7を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図7において、(a)は映像データの任意のフレームFmを示している。フレームFmは、有効映像期間の画素によって構成されたフレームである。映像データの画素数は、例えばVGA規格では水平640画素、垂直480画素である。ここでは簡略化のため、フレームFmの画素数を大幅に少なくして、フレームFmを概念的に示している。
ベイヤ配列の撮像部3を用いて生成された映像データは、フレームFm内で、R,G,Bの画素データが混在したデータである。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて算出したRの補間画素データRiを生成する。デモザイク処理部54は、図7の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて算出したGの補間画素データGiを生成する。デモザイク処理部54は、図7の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて算出したBの補間画素データBiを生成する。デモザイク処理部54は、図7の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmBを生成する。
デモザイク処理部54は、Rの画素データを補間する際には少なくともRの画素データを用いればよく、Gの画素データを補間する際には少なくともGの画素データを用いればよく、Bの画素データを補間する際には少なくともBの画素データを用いればよい。デモザイク処理部54は、補間精度を向上させるために、R,G,Bの画素データを補間する際に、生成しようとする補間画素データの色とは異なる他の色の画素データを用いてもよい。
撮像部3には、有効映像期間より外側の画素も存在しているため、フレームFmの上下左右端部に位置する画素においても、R,G,Bの画素データを補間することができる。
デモザイク処理部54によって生成されたRフレームFmR,GフレームFmG,BフレームFmBがR,G,Bの3原色データとして出力される。図7では、理解を容易にするため、R,G,Bの画素データをフレーム単位で説明したが、実際には、R,G,Bの画素データは画素ごとに順次出力される。
<中間モード:第1中間モード>
中間モード(第1中間モード及び後述する第2中間モード)では、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
中間モード(第1中間モード及び後述する第2中間モード)では、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
図8の(a)は、赤外線投光器9による赤外光の投光の状態を示している。制御部7は、通常モードの1フレーム期間を1/3ずつに分け、例えば投光部91,92,93の順に赤外光を投光させるように制御する。
図8の(a)に示す例では、1フレームの最初の1/3の期間では、波長IR1(780nm)の赤外光が被写体に照射される。1フレームの次の1/3の期間では、波長IR2(940nm)の赤外光が被写体に照射される。1フレームの最後の1/3の期間では、波長IR3(870nm)の赤外光が被写体に照射される。波長IR1~IR3の赤外光を投光する順番は任意である。
図8の(b)に示すように、波長IR1の赤外光を投光しているタイミングでは、撮像部3はR光との相関性が高い露光Ex1Rが行われる。波長IR2の赤外光を投光しているタイミングでは、撮像部3はG光との相関性が高い露光Ex1Gが行われる。波長IR3の赤外光を投光しているタイミングでは、撮像部3はB光との相関性が高い露光Ex1Bが行われる。
但し、中間モードでは、可視光がわずかに存在する環境下での撮像であるため、可視光と赤外線投光器9より投光された赤外光とが混在した状態である。よって、中間モードにおいては、露光Ex1R,Ex1G,Ex1B,Ex2R,Ex2G,Ex2B…は、可視光による露光と赤外光による露光とを合わせた露光となる。
図8の(c)に示すように、露光Ex1R,Ex1G,Ex1Bに基づいて、所定時間後に、露光Ex1Rに対応したフレームF1IR1、露光Ex1Gに対応したフレームF1IR3、露光Ex1Bに対応したフレームF1IR2が得られる。
また、露光Ex2R,Ex2G,Ex2Bに基づいて、所定時間後に、露光Ex2Rに対応したフレームF2IR1、露光Ex2Gに対応したフレームF2IR3、露光Ex2Bに対応したフレームF2IR2が得られる。露光Ex3R,Ex3G,Ex3B以降も同様である。
図8の(c)の撮像信号のフレーム周波数は、90フレーム/秒である。中間モードでは、通常モードにおける映像信号の1フレームを時分割して波長IR1~IR3の赤外光を投光するため、通常モードと同じ形式の映像信号を出力するためには、図8の(c)の撮像信号のフレーム周波数は、通常モードにおけるフレーム周波数の3倍となる。
後述するように、図8の(c)の3フレームの撮像信号に基づいて、図8の(d)に示す30フレーム/秒のフレーム周波数を有する映像信号の1フレームが生成される。例えば、フレームF1IR1,F1IR2,F1IR3に基づいてフレームF1IRが生成され、フレームF2IR1,F2IR2,F2IR3に基づいてフレームF2IRが生成される。
図8の(c)の3フレームの撮像信号に基づいて、図8の(d)の各フレームの映像信号を生成する中間モードでの動作を具体的に説明する。
A/D変換器4より出力された図8の(c)に示す撮像信号に対応する各フレームの映像データは、スイッチ51を介して前信号処理部52に入力される。
図9を用いて、前信号処理部52における前信号処理について説明する。図9の(a)は、波長IR1の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR1を示している。フレームFmIR1内のR,B,Gr,Gbの画素データには、波長IR1の赤外光を投光した状態で生成されたことを示す添え字1を付している。
図9の(b)は、波長IR2の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR2を示している。フレームFmIR2内のR,B,Gr,Gbの画素データには、波長IR2の赤外光を投光した状態で生成されたことを示す添え字2を付している。
図9の(c)は、波長IR3の赤外光を投光しているタイミングで生成された映像データの任意のフレームFmIR3を示している。フレームFmIR3内のR,B,Gr,Gbの画素データには、波長IR3の赤外光を投光した状態で生成されたことを示す添え字3を付している。
図9の(a)に示すフレームFmIR1は、R光との相関性が高い波長IR1の赤外光が投光された状態で生成された映像データであるので、Rの画素データは投光された赤外光と対応した画素データであり、B,Gの画素データは投光された赤外光と対応していない画素データである。B,Gr,Gbの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
図9の(b)に示すフレームFmIR2は、G光との相関性が高い波長IR2の赤外光が投光された状態で生成された映像データであるので、Gの画素データは投光された赤外光と対応した画素データであり、R,Bの画素データは投光された赤外光と対応していない画素データである。R,Bの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
図9の(c)に示すフレームFmIR3は、B光との相関性が高い波長IR3の赤外光が投光された状態で生成された映像データであるので、Bの画素データは投光された赤外光と対応した画素データであり、R,Gの画素データは投光された赤外光と対応していない画素データである。R,Gr,Gbの画素データに付しているハッチングは、投光された赤外光と対応していない画素データであることを意味する。
前信号処理部52内の同一位置画素加算部522は、互いに同じ画素位置のR,Gr,Gb,Bの画素データを以下の式(1)~(3)に従って個別に加算して、加算画素データR123,Gr123,Gb123,B123を生成する。中間モードでは、前信号処理部52内の周囲画素加算部521は不動作である。
R123=ka×R1+kb×R2 +kc×R3 …(1)
G123=kd×G1+ke×G2+kf×G3 …(2)
B123=kg×B1+kh×B2+ki×B3 …(3)
G123=kd×G1+ke×G2+kf×G3 …(2)
B123=kg×B1+kh×B2+ki×B3 …(3)
式(1)~(3)において、R1,G1,B1はフレームFmIR1におけるR,G,Bの画素データ、R2,G2,B2はフレームFmIR2におけるR,G,Bの画素データ、R3,G3,B3はフレームFmIR3におけるR,G,Bの画素データである。ka~kiは所定の係数である。式(2)におけるG123はGr123またはGb123である。
このとき、同一位置画素加算部522は、ハッチングを付していないR,Gr,Gb,Bのそれぞれの画素データに、ハッチングを付した同じ画素位置のR,Gr,Gb,Bの画素データそれぞれを加算する。
即ち、同一位置画素加算部522は、式(1)に基づいて、フレームFmIR1におけるRの画素データに、フレームFmIR2,FmIR3における同じ画素位置のRの画素データを加算して、加算画素データR123を生成する。つまり、受光素子における赤色のカラーフィルタに対応する領域の画素データだけを用いて赤色用の加算画素データR123を生成する。
同一位置画素加算部522は、式(2)に基づいて、フレームFmIR2におけるGr,Gbの画素データに、フレームFmIR1,FmIR3における同じ画素位置のGr,Gbの画素データを加算して、加算画素データG123を生成する。つまり、受光素子における緑色のカラーフィルタに対応する領域の画素データだけを用いて緑色用の加算画素データG123を生成する。
同一位置画素加算部522は、式(3)に基づいて、フレームFmIR3におけるBの画素データに、フレームFmIR1,FmIR2における同じ画素位置のBの画素データを加算して、加算画素データB123を生成する。つまり、受光素子における青色のカラーフィルタに対応する領域の画素データだけを用いて青色用の加算画素データB123を生成する。
前信号処理部52内の合成部523は、それぞれの画素位置において生成された加算画素データR123,Gr123,Gb123,B123に基づいて、図9の(d)に示す合成映像信号のフレームFmIR123を生成する。
具体的には、合成部523は、フレームFmIR1における加算画素データR123と、フレームFmIR2における加算画素データGr123,Gb123と、フレームFmIR3における加算画素データB123とを選択して合成する。これによって合成部523は、合成映像信号のフレームFmIR123を生成する。
このように、合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、加算画素データR123,Gr123,Gb123,B123を配列させたフレームFmIR123を生成する。
第1中間モードにおいては、ハッチングを付していない画素データと、ハッチングを付した画素データとを用いて、フレームFmIR123の映像データを生成する。
同一位置画素加算部522によって互いに同じ画素位置の画素データを加算するのは、次の理由による。中間モードではわずかではあるものの可視光が存在する環境下での撮像であるため、ハッチングを付した画素データは可視光による露光に基づくそれぞれの色の成分を含む。よって、同じ画素位置の画素データを加算することによって、それぞれの色の感度を上げることができる。
可視光と赤外光とが混在している状況で可視光が比較的多ければ、可視光による露光が支配的となる。この場合、フレームFmIR123の映像データは、可視光によって露光した映像信号に基づく成分が主となる。可視光と赤外光とが混在している状況で赤外光が比較的多ければ、赤外光による露光が支配的となる。この場合、フレームFmIR123の映像データは、赤外光によって露光した映像信号に基づく成分が主となる。
可視光が比較的少ない場合には、式(1)において、係数ka,kb,kcの大小関係を、ka>kb,kcとし、式(2)において、係数kd,ke,kfの大小関係を、kf>kd,keとし、式(3)において、係数kg,kh,kiの大小関係を、kh>kg,kiとするのがよい。これは、波長IR1はR光との相関性が高く、波長IR2はG光との相関性が高く、波長IR3はB光との相関性が高いからである。
このようにすれば、Rの画素データではフレームFmIR1におけるRの画素データ、Gの画素データではフレームFmIR2におけるGの画素データ、Bの画素データではフレームFmIR3におけるBの画素データを主とすることができる。
前信号処理部52より出力されたフレームFmIR123の映像データは、スイッチ53を介してデモザイク処理部54に入力される。デモザイク処理部54は、通常モードと同様に、入力されたフレームFmIR123の映像データにデモザイク処理を施す。映像処理部5は、デモザイク処理の他、ホワイトバランス補正やゲイン補正等の各種の映像処理を施して、R,G,Bの3原色データを出力する。
図10を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図10の(a)は、フレームFmIR123を示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR123iを生成する。デモザイク処理部54は、図10の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123Rを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG123iを生成する。デモザイク処理部54は、図10の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123Gを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB123iを生成する。デモザイク処理部54は、図10の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123Bを生成する。
通常モードにおける図7に示すデモザイク処理部54の動作と、中間モードにおける図10に示すデモザイク処理部54の動作とを比較すれば分かるように、両者は実質的に同じである。デモザイク処理部54の動作は、通常モードであっても中間モードであっても変わらない。
通常モードでは前信号処理部52を不動作とし、中間モードでは、周囲画素加算部521を除き、前信号処理部52を動作させればよい。通常モードと中間モードとで、映像処理部5におけるデモザイク処理部54、及び、ホワイトバランス補正やゲイン補正等の信号処理部を共用させることができる。
<中間モード:第2中間モード>
図11及び図12を用いて、第2中間モードにおける動作を説明する。第2中間モードにおける動作において、第1中間モードにおける動作と同一部分は説明を省略する。図11の(a)~(c)のフレームFmIR1,FmIR2,FmIR3は、図9の(a)~(c)のフレームFmIR1,FmIR2,FmIR3と同じである。
図11及び図12を用いて、第2中間モードにおける動作を説明する。第2中間モードにおける動作において、第1中間モードにおける動作と同一部分は説明を省略する。図11の(a)~(c)のフレームFmIR1,FmIR2,FmIR3は、図9の(a)~(c)のフレームFmIR1,FmIR2,FmIR3と同じである。
合成部523は、フレームFmIR1におけるRの画素データであるR1と、フレームFmIR2におけるGの画素データであるGr2,Gb2と、フレームFmIR3におけるBの画素データであるB3とを選択して合成する。これによって合成部523は、図11の(d)に示す合成映像信号のフレームFmIR123’を生成する。
即ち、フレームFmIR123’は、フレームFmIR1,FmIR3,FmIR2におけるハッチングを付していないR,Gr,Gb,Bの画素データを1フレームに集結させた映像データである。
つまり、フレームFmIR123’においては、波長IR1の赤外光を投光した状態における赤色のカラーフィルタに対応する領域の画素データだけを用いた赤色用の画素データ、波長IR2の赤外光を投光した状態における緑色のカラーフィルタに対応する領域の画素データだけを用いた緑色用の画素データ、波長IR3の赤外光を投光した状態における青色のカラーフィルタに対応する領域の画素データだけを用いた青色用の画素データとなっている。
このように、合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、画素データR1,Gr2,Gb2,B3を配列させたフレームFmIR123’を生成する。
第2中間モードでは、同一位置画素加算部522は、式(1)における係数kaを1、係数kb,kcを0とし、式(2)における係数keを1、係数kd,kfを0とし、式(3)における係数kiを1、係数kg,khを0とする。
これによって、フレームFmIR1におけるRの画素データと、フレームFmIR2におけるGr,Gbの画素データと、フレームFmIR3におけるBの画素データは、それぞれそのままの値となる。
よって、合成部523は、第1中間モードにおける動作と同様に、フレームFmIR1におけるRの画素データと、フレームFmIR2におけるGr,Gbの画素データと、フレームFmIR3におけるBの画素データを選択すれば、フレームFmIR123’を生成することができる。
第2中間モードにおいては、前信号処理部52は、画素データの色と同じ色の画素データを生成するための赤外光が投光された状態で生成された画素データ(ハッチングを付していない画素データ)のみ用いて、フレームFmIR123’の映像データを生成する。
第2中間モードによれば、第1中間モードよりも感度や色の再現性は低下するものの、演算処理を簡略化したり、フレームメモリを削減したりすることができる。
図12を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図12の(a)は、フレームFmIR123’を示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR1iを生成する。デモザイク処理部54は、図12の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123’Rを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG2iを生成する。デモザイク処理部54は、図12の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123’Gを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB3iを生成する。デモザイク処理部54は、図12の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123’Bを生成する。
以上のように、中間モードにおいては、受光素子における赤色のカラーフィルタに対応する領域から得た画素データから赤色用の画素データを生成し、受光素子における緑色のカラーフィルタに対応する領域から得た画素データから緑色用の画素データを生成し、受光素子における青色のカラーフィルタに対応する領域から得た画素データから青色用の画素データを生成する。
<暗視モード:第1暗視モード>
暗視モード(第1暗視モード及び後述する第2暗視モード)では、中間モードと同様、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
暗視モード(第1暗視モード及び後述する第2暗視モード)では、中間モードと同様、制御部7は、駆動部8によって、光学レンズ1と撮像部3との間にダミーガラス22を挿入させる。投光制御部71は、赤外線投光器9による赤外光の投光をオンにする。モード切換部72は、スイッチ51,53を端子Taに接続するように制御する。
暗視モードにおける概略的な動作は、図8と同じである。但し、暗視モードでは、可視光がほとんど存在しない環境下での撮像であるため、図8の(b)における露光Ex1R,Ex1G,Ex1B,Ex2R,Ex2G,Ex2B…は、赤外光のみによる露光を想定している。
可視光がほとんど存在せず赤外光のみが存在している環境下では、カラーフィルタ32におけるそれぞれのフィルタエレメントの特性には差がなくなるため、撮像部3を単色の撮像素子とみなすことができる。
そこで、前信号処理部52内の周囲画素加算部521は、暗視モードでは、赤外光の感度を向上させるために、それぞれの画素データに対して、周囲に位置する画素データを加算する。
具体的には、図13の(a)に示すように、Rの画素が注目画素であるとき、周囲画素加算部521は、注目画素のRの画素データに対して周囲に位置するG及びBの8画素の画素データを加算する。
つまり、中間モードのときは、受光素子における赤色のカラーフィルタに対応する領域から得た画素データから赤色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから赤色用の画素データを生成することとなる。図13の例では、各色とも注目画素を含む9画素分の領域から得た画素データを用いている。
図13の(b)に示すように、Gの画素が注目画素であるとき、周囲画素加算部521は、注目画素のGの画素データに対して周囲に位置するR,G,Bの8画素の画素データを加算する。図13の(b)における注目画素のGはGbの画素であり、周囲に位置するGはGrの画素である。図示を省略しているが、注目画素がGrの画素の場合も同様である。
つまり、中間モードのときは、受光素子における緑色のカラーフィルタに対応する領域から得た画素データから緑色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから緑色用の画素データを生成することとなる。
図13の(c)に示すように、Bの画素が注目画素であるとき、周囲画素加算部521は、注目画素のBの画素データに対して周囲に位置するR及びGの8画素の画素データを加算する。
つまり、中間モードのときは、受光素子における青色のカラーフィルタに対応する領域から得た画素データから青色用の画素データを生成していたが、暗視モードでは、中間モードのときよりも広い領域から得た画素データから青色用の画素データを生成することとなる。
周囲画素加算部521は、注目画素の画素データと周囲の8画素の画素データとの9画素を単純に加算してもよいし、周囲の8画素の画素データに対して所定の重み付けをした上で注目画素の画素データに加算してもよい。
ところで、ビニングと称される複数の画素をまとめて1つの画素として読み出し可能な撮像素子が存在する。撮像素子31として、ビニング機能を有する撮像素子を用いる場合には、周囲画素加算部521による加算処理ではなく、ビニング機能を有する撮像素子による加算処理を行ってもよい。撮像素子によるビニングは、周囲画素加算部521による加算処理と実質的に等価である。
図14の(a)~(c)のフレームFmIR1,FmIR3,FmIR2は、図9の(a)~(c)のフレームFmIR1,FmIR3,FmIR2と同じである。図14の(d)~(f)において、R1ad,Gr1ad,Gb1ad,B1ad,R2ad,Gr2ad,Gb2ad,B2ad,R3ad,Gr3ad,Gb3ad,B3adは、それぞれ、R,Gr,Gb,Bの画素データに対して周囲の8画素の画素データを加算した加算画素データである。
周囲画素加算部521は、フレームFmIR1,FmIR3,FmIR2のそれぞれの画素データに対して図13に示す加算処理を施すことにより、図14の(d)~(f)に示すフレームFmIR1ad,FmIR2ad,FmIR3adを生成する。
図15の(a)~(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図14の(d)~(f)のフレームFmIR1ad,FmIR2ad,FmIR3adと同じである。
同一位置画素加算部522は、第1中間モードと同様に、式(1)に基づいて、フレームFmIR1adにおけるR1adの画素データに、フレームFmIR2ad,FmIR3adにおける同じ画素位置のR2ad,R3adの画素データを加算して、加算画素データR123adを生成する。
同一位置画素加算部522は、式(2)に基づいて、フレームFmIR2adにおけるGr2ad,Gb2adの画素データに、フレームFmIR1ad,FmIR3adにおける同じ画素位置のGr1ad,Gb1ad,Gr3ad,Gb3adの画素データを加算して、加算画素データGr123ad,Gb123adを生成する。
同一位置画素加算部522は、式(3)に基づいて、フレームFmIR3adにおけるB3adの画素データに、フレームFmIR1ad,FmIR2adにおける同じ画素位置のB1ad,B2adの画素データを加算して、加算画素データB123adを生成する。
合成部523は、第1中間モードと同様に、フレームFmIR1adにおける加算画素データR123adと、フレームFmIR2adにおける加算画素データGr123ad,Gb123adと、フレームFmIR3adにおける加算画素データB123adとを選択して合成する。これによって合成部523は、図15の(d)に示す合成映像信号のフレームFmIR123adを生成する。
合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、加算画素データR123ad,Gr123ad,Gb123ad,B123adを配列させたフレームFmIR123adを生成する。
図16の(a)はフレームFmIR123adを示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のRの画素データを用いて演算して、Rの補間画素データR123adiを生成する。デモザイク処理部54は、図16の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123adRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGの画素データを用いて演算して、Gの補間画素データG123adiを生成する。デモザイク処理部54は、図16の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123adGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のBの画素データを用いて演算して、Bの補間画素データB123adiを生成する。デモザイク処理部54は、図16の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123adBを生成する。
第1中間モードと第1暗視モードとは、前者が周囲画素加算部521を不動作としている一方で、後者が周囲画素加算部521を動作させている点で異なる。モード切換部72は、暗視モードのとき、周囲画素加算部521を動作させればよい。
暗視モードにおけるデモザイク処理部54の動作は、通常モード及び中間モードにおけるデモザイク処理部54の動作と実質的に同じである。通常モードと中間モードと暗視モードとで、映像処理部5におけるデモザイク処理部54、及び、ホワイトバランス補正やゲイン補正等の信号処理部を共用させることができる。
<暗視モード:第2暗視モード>
図17及び図18を用いて、第2暗視モードにおける動作を説明する。第2暗視モードにおける動作において、第1暗視モードにおける動作と同一部分は説明を省略する。図17の(a)~(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図15の(a)~(c)のFmIR1ad,FmIR2ad,FmIR3adと同じである。
図17及び図18を用いて、第2暗視モードにおける動作を説明する。第2暗視モードにおける動作において、第1暗視モードにおける動作と同一部分は説明を省略する。図17の(a)~(c)のフレームFmIR1ad,FmIR2ad,FmIR3adは、図15の(a)~(c)のFmIR1ad,FmIR2ad,FmIR3adと同じである。
合成部523は、フレームFmIR1adにおけるRの画素データであるR1adと、フレームFmIR2におけるGの画素データであるGr2ad,Gb2adと、フレームFmIR3におけるBの画素データであるB3adとを選択して合成する。これによって合成部523は、図17の(d)に示す合成映像信号のフレームFmIR123’adを生成する。
合成部523は、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように、加算画素データR1ad,Gr2ad,Gb2ad,B3adを配列させたフレームFmIR123’adを生成する。
なお、図13を用いて説明したように、フレームFmIR123’adにおける赤色用の加算画素データR1adは、中間モードのときに赤色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
また、フレームFmIR123’adにおける緑色用の加算画素データGr2adは、中間モードのときに緑色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
さらに、フレームFmIR123’adにおける青色用の加算画素データB3adは、中間モードのときに青色用の画素データを生成するために用いた領域よりも広い領域から得た画素データから生成されたものとなっている。
第2暗視モードでは、第2中間モードと同様に、同一位置画素加算部522は、式(1)における係数kaを1、係数kb,kcを0とし、式(2)における係数keを1、係数kd,kfを0とし、式(3)における係数kiを1、係数kg,khを0とする。
これによって、フレームFmIR1adにおけるR1adの画素データと、フレームFmIR2adにおけるGr2ad,Gb2adの画素データと、フレームFmIR3adにおけるB3adの画素データは、それぞれそのままの値となる。
よって、合成部523は、第1暗視モードにおける動作と同様に、フレームFmIR1adにおけるR1adの画素データと、フレームFmIR2adにおけるGr2ad,Gb2adの画素データと、フレームFmIR3adにおけるB3adの画素データを選択すれば、フレームFmIR123’adを生成することができる。
図18を用いて、デモザイク処理部54におけるデモザイク処理について説明する。図18の(a)は、フレームFmIR123’adを示している。デモザイク処理部54は、Rの画素データが存在しない画素位置のRの画素データを周囲のR1adの画素データを用いて演算して、Rの補間画素データR1adiを生成する。デモザイク処理部54は、図18の(b)に示す1フレームの全画素がRの画素データよりなるRフレームFmIR123’adRを生成する。
デモザイク処理部54は、Gの画素データが存在しない画素位置のGの画素データを周囲のGr2ad,Gb2adの画素データを用いて演算して、Gの補間画素データG2adiを生成する。デモザイク処理部54は、補間して、図18の(c)に示す1フレームの全画素がGの画素データよりなるGフレームFmIR123’adGを生成する。
デモザイク処理部54は、Bの画素データが存在しない画素位置のBの画素データを周囲のB3adの画素データを用いて算出したBの補間画素データB3adiを生成する。デモザイク処理部54は、図18の(d)に示す1フレームの全画素がBの画素データよりなるBフレームFmIR123’adBを生成する。
第2中間モードと第2暗視モードとは、前者が周囲画素加算部521を不動作としている一方で、後者が周囲画素加算部521を動作させている点で異なる。
また、中間モードにおいては、受光素子における各色に対応する領域から得た画素データそれぞれから各色用の画素データを生成していたが、暗視モードにおいては、周囲画素を加算するため、中間モードにおける各色用の画素データを生成するための領域それぞれよりも広い領域から得た画素データから各色用の画素データを生成するとも言える。
<モード切換の例>
図19を用いて、モード切換部72によるモード切換の例を説明する。図19の(a)は、一例として、昼間の時間帯から夜の時間帯へと時間が経過していくとき、周囲環境の明るさが変化していく様子を概略的に示している。
図19を用いて、モード切換部72によるモード切換の例を説明する。図19の(a)は、一例として、昼間の時間帯から夜の時間帯へと時間が経過していくとき、周囲環境の明るさが変化していく様子を概略的に示している。
図19の(a)に示すように、昼間から夕刻へと時間が経過していくに従って明るさが低下していき、時刻t3以降、ほぼ真っ暗の状態となる。図19の(a)に示す明るさは実質的に可視光の量を示しており、時刻t3以降、可視光がほとんどない状態である。
制御部7は、映像処理部5から入力される映像信号(映像データ)の輝度レベルに基づいて周囲環境の明るさを判断することができる。図19の(b)に示すように、モード切換部72は、明るさが所定の閾値Th1(第1の閾値)以上であるとき通常モードとし、明るさが閾値Th1未満で所定の閾値Th2(第2の閾値)以上であるとき中間モード、閾値Th2未満であるとき暗視モードとする。
本実施形態の撮像装置110は、明るさが閾値Th1となる時刻t1までは通常モード、時刻t1から明るさが閾値Th2となる時刻t2まで中間モード、時刻t2以降は暗視モードに、モードを自動的に切り換える。図19の(b)において、中間モードは第1中間モードと第2中間モードとのいずれでもよく、暗視モードは第1暗視モードと第2暗視モードとのいずれでもよい。
図19の(a)では可視光がほとんどなくなる時刻t3の直前の明るさを閾値Th2としているが、時刻t3の明るさを閾値Th2としてもよい。
図19の(c)に示すように、モード切換部72は、中間モードの期間で、可視光が比較的多い時刻t1側の期間を第1中間モード、可視光が比較的少ない時刻t2側の期間を第2中間モードとしてもよい。図19の(c)において、暗視モードは第1暗視モードと第2暗視モードとのいずれでもよい。
本実施形態の撮像装置110は、投光制御部71が赤外線投光器9のオン・オフを制御し、モード切換部72が映像処理部5内の各部の動作・不動作を切り換えることにより、それぞれのモードを実現することができる。
図20に示すように、通常モードは、赤外線投光器9がオフ、周囲画素加算部521と同一位置画素加算部522と合成部523がいずれも不動作、デモザイク処理部54が動作の状態である。
第1中間モードは、赤外線投光器9がオン、周囲画素加算部521が不動作、同一位置画素加算部522と合成部523とデモザイク処理部54とが動作の状態である。第2中間モードは、赤外線投光器9がオン、周囲画素加算部521と同一位置画素加算部522とが不動作、合成部523とデモザイク処理部54とが動作の状態である。
同一位置画素加算部522における動作と不動作とは、前述のように、式(1)~(3)の係数ka~kiの値を適宜に設定することによって容易に切り換えることができる。
第1暗視モードは、赤外線投光器9がオン、周囲画素加算部521と同一位置画素加算部522と合成部523とデモザイク処理部54との全てが動作の状態である。第2暗視モードは、赤外線投光器9がオン、同一位置画素加算部522が不動作、周囲画素加算部521と合成部523とデモザイク処理部54とが動作の状態である。
ところで、周囲画素加算部521は、注目画素の画素データに対して周囲の画素データを加算するための計算式において、周囲の画素データに乗じる係数を、0を超える係数(例えば1)とすれば、周囲画素の加算処理を動作の状態とすることができる。
また、周囲画素加算部521は、その計算式において、周囲の画素データに乗じる係数を0とすれば、周囲画素の加算処理を不動作の状態とすることができる。
周囲画素加算部521における動作と不動作も、係数の値を適宜に設定することによって容易に切り換えることができる。
<撮像装置の第1の変形例>
制御部7が周囲環境の明るさを検出する方法は、映像信号の輝度レベルに基づく方法に限定されない。
制御部7が周囲環境の明るさを検出する方法は、映像信号の輝度レベルに基づく方法に限定されない。
図21に示すように、明るさセンサ11によって周囲環境の明るさを検出してもよい。図21において、映像信号の輝度レベルと明るさセンサ11によって検出した明るさとの双方に基づいて、周囲環境の明るさを判断してもよい。
<撮像装置の第2の変形例>
制御部7は、周囲環境の明るさを直接的に検出せず、1年間における時期(日にち)及び時刻(時間帯)に基づいて周囲環境の明るさを概略的に想定して、モード切換部72が各モードに切り換えるようにしてもよい。
制御部7は、周囲環境の明るさを直接的に検出せず、1年間における時期(日にち)及び時刻(時間帯)に基づいて周囲環境の明るさを概略的に想定して、モード切換部72が各モードに切り換えるようにしてもよい。
図22に示すように、モード設定テーブル12には、日にちと時間帯との組み合わせに対応して、通常モードと中間モードと暗視モードとのいずれかが設定されている。制御部7内の時計73は、日にちと時刻を管理している。制御部7は、時計73が示す日にちと時刻とを参照して、モード設定テーブル12より設定されているモードを読み出す。
投光制御部71とモード切換部72は、モード設定テーブル12より読み出されたモードとなるように、撮像装置を制御する。
<撮像装置の第3の変形例>
図23に示すように、操作部13によってユーザがモードを手動で選択して、投光制御部71とモード切換部72が選択されたモードとなるように撮像装置を制御してもよい。操作部13は、撮像装置の筐体に設けられている操作ボタンであってもよく、リモートコントローラであってもよい。
図23に示すように、操作部13によってユーザがモードを手動で選択して、投光制御部71とモード切換部72が選択されたモードとなるように撮像装置を制御してもよい。操作部13は、撮像装置の筐体に設けられている操作ボタンであってもよく、リモートコントローラであってもよい。
<映像信号処理方法>
図24を用いて、図1に示す撮像装置110で実行される映像信号処理方法を改めて説明する。
図24を用いて、図1に示す撮像装置110で実行される映像信号処理方法を改めて説明する。
図24において、撮像装置が動作を開始すると、制御部7は、ステップS1にて、周囲環境の明るさが閾値Th1以上であるか否かを判定する。閾値Th1以上であれば(YES)、制御部7は、ステップS3にて、通常モードでの処理を実行させる。閾値Th1以上でなければ(NO)、制御部7は、ステップS2にて、周囲環境の明るさが閾値Th2以上であるか否かを判定する。
閾値Th2以上であれば(YES)、制御部7は、ステップS4にて、中間モードでの処理を実行させる。閾値Th2以上でなければ(NO)、制御部7は、ステップS5にて、暗視モードでの処理を実行させる。
制御部7は、ステップS3~S5の後、処理をステップS1に戻し、ステップS1以降を繰り返す。
図25は、ステップS3の通常モードの具体的な処理を示す。図25において、制御部7(投光制御部71)は、ステップS31にて、赤外線投光器9をオフにする。制御部7は、ステップS32にて、赤外線カットフィルタ21を挿入する。制御部7(モード切換部72)は、ステップS33にて、スイッチ51,53を端子Tbに接続させる。ステップS31~S33の順番は任意であり、同時であってもよい。
制御部7は、ステップS34にて、撮像部3によって被写体を撮像させる。制御部7は、ステップS35にて、撮像部3が被写体を撮像することよって生成した映像信号を構成するフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
図26は、ステップS4の中間モードの具体的な処理を示す。図26において、制御部7(投光制御部71)は、ステップS41にて、投光部91~93より波長IR1~IR3の赤外光を時分割で投光させるよう、赤外線投光器9をオンにする。
制御部7は、ステップS42にて、ダミーガラス22を挿入する。制御部7(モード切換部72)は、ステップS43にて、スイッチ51,53を端子Taに接続させる。ステップS41~S43の順番は任意であり、同時であってもよい。
制御部7は、ステップS44にて、撮像部3によって被写体を撮像させる。撮像部3は、Rに対応付けられた波長IR1の赤外光と、Gに対応付けられた波長IR2の赤外光と、Bに対応付けられた波長IR3の赤外光とがそれぞれ投光されている状態で被写体を撮像する。
制御部7(モード切換部72)は、ステップS45にて、周囲画素加算部521を不動作とし、合成部523を動作させて合成映像信号を生成させるよう、前信号処理部52を制御する。
波長IR1,IR2,IR3の赤外光がそれぞれ投光されている状態で撮像部3が被写体を撮像することよって生成された映像信号を構成するフレームを第1のフレーム,第2のフレーム,第3のフレームとする。
合成部523は、第1のフレーム内のRの画素データと、第2のフレーム内のGの画素データと、第3のフレーム内のBの画素データとに基づく3原色の画素データを、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように配列させる。合成部523は、このようにして第1~第3のフレームを1フレームに合成した合成映像信号を生成する。
制御部7は、ステップS46にて、合成映像信号のフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
デモザイク処理部54は、合成映像信号のフレームに基づいて、Rのフレームと、Gのフレームと、Bのフレームとを生成するデモザイク処理を施して、デモザイク処理された3原色のフレームを順次生成する。
デモザイク処理部54は、Rの画素データが存在しない画素位置にRの画素データを補間することによって、Rのフレームを生成することができる。デモザイク処理部54は、Gの画素データが存在しない画素位置にGの画素データを補間することによって、Gのフレームを生成することができる。デモザイク処理部54は、Bの画素データが存在しない画素位置にBの画素データを補間することによって、Bのフレームを生成することができる。
第1中間モードとする場合には、ステップS45にて、同一位置画素加算部522を動作させ、第2中間モードとする場合には、ステップS45にて、同一位置画素加算部522を不動作とすればよい。
図27は、ステップS5の暗視モードの具体的な処理を示す。図27において、制御部7(投光制御部71)は、ステップS51にて、投光部91~93より波長IR1~IR3の赤外光を時分割で投光させるよう、赤外線投光器9をオンにする。
制御部7は、ステップS52にて、ダミーガラス22を挿入する。制御部7(モード切換部72)は、ステップS53にて、スイッチ51,53を端子Taに接続させる。ステップS51~S53の順番は任意であり、同時であってもよい。
制御部7は、ステップS54にて、撮像部3によって被写体を撮像させる。制御部7(モード切換部72)は、ステップS55にて、周囲画素加算部521と合成部523とを動作させて合成映像信号を生成させるよう、前信号処理部52を制御する。
制御部7は、ステップS56にて、合成映像信号のフレームをデモザイク処理部54によってデモザイク処理させるよう、映像処理部5を制御する。
第1暗視モードとする場合には、ステップS55にて、同一位置画素加算部522を動作させ、第2暗視モードとする場合には、ステップS55にて、同一位置画素加算部522を不動作とすればよい。
<映像信号処理プログラム>
図1において、制御部7、または、映像処理部5と制御部7との一体化部分をコンピュータ(マイクロコンピュータ)で構成し、映像信号処理プログラム(コンピュータプログラム)をコンピュータで実行させることによって、上述した撮像装置110と同様の動作を実現させることも可能である。
図1において、制御部7、または、映像処理部5と制御部7との一体化部分をコンピュータ(マイクロコンピュータ)で構成し、映像信号処理プログラム(コンピュータプログラム)をコンピュータで実行させることによって、上述した撮像装置110と同様の動作を実現させることも可能である。
図28を用いて、図24のステップS4である中間モードにおける制御を映像信号処理プログラムで構成した場合にコンピュータに実行させる手順の例を説明する。図28は、映像信号処理プログラムがコンピュータに実行させる処理を示す。
図28において、映像信号処理プログラムは、ステップS401にて、コンピュータに、R,G,Bに対応付けられた波長IR1,IR2,IR3の赤外光をそれぞれ投光するように赤外線投光器9を制御する処理を実行させる。
ステップS401に示す処理を映像信号処理プログラムの外部にて実行させてもよい。図28では、ダミーガラス22を挿入させる処理を省略している。ダミーガラス22を挿入させる処理も映像信号処理プログラムの外部にて実行させてもよい。
映像信号処理プログラムは、ステップS402にて、コンピュータに、波長IR1の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第1のフレームを構成する画素データを取得する処理を実行させる。
映像信号処理プログラムは、ステップS403にて、コンピュータに、波長IR2の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第2のフレームを構成する画素データを取得する処理を実行させる。
映像信号処理プログラムは、ステップS404にて、コンピュータに、波長IR3の赤外光が投光されている状態で、撮像部3が被写体を撮像することによって生成された映像信号の第3のフレームを構成する画素データを取得する処理を実行させる。ステップS402~S404の順番は任意である。
映像信号処理プログラムは、ステップS405にて、コンピュータに、R,G,Bの画素データを、カラーフィルタ32におけるフィルタエレメントの配列と同じ配列となるように配列させて、1フレームに合成した合成映像信号を生成する処理を実行させる。
中間モードでは、映像信号処理プログラムは、ステップS405にて、コンピュータに、周囲画素の加算処理のステップを実行させない。
映像信号処理プログラムは、ステップS406にて、コンピュータに、合成映像信号のフレームにデモザイク処理を施して、R,G,Bのフレームを生成する処理を実行させる。
図示は省略するが、図24のステップS5である暗視モードにおける制御を映像信号処理プログラムで構成する場合には、図28のステップS405にて、コンピュータに、周囲画素の加算処理の処理を実行させればよい。
映像信号処理プログラムは、コンピュータで読み取り可能な記録媒体に記録されたコンピュータプログラムであってよい。映像信号処理プログラムが記録媒体に記録された状態で提供されてもよいし、映像信号処理プログラムをコンピュータにダウンロードさせるよう、インターネット等のネットワークを介して提供されてもよい。コンピュータで読み取り可能な記録媒体は、CD-ROM,DVD-ROM等の非一時的な任意の記録媒体でよい。
図1のように構成される撮像装置において、例えば、必要に応じて各部を複数設けたりして、中間モードと暗視モードとを同時に実行するようにしてもよい。その場合、映像出力部6が、中間モードによって生成された映像信号と、暗視モードによって生成された映像信号との両方を出力するようにしてもよい。
また、モード切換部72は、映像出力部6が中間モードによって生成された映像信号を出力する状態と、映像出力部6が暗視モードによって生成された映像信号を出力する状態とを切り換えるようにしてもよい。その際、前述のように、周囲環境の明るさや時刻等に応じて切り換えてもよい。また、映像処理部5(映像処理装置)を他の各部と別体にしてもよい。
さらに、中間モードを使用せずに、通常モードから暗視モードに切り換えたり、暗視モードから通常モードに切り換えたりする場合があってもよい。
中間モードを使用しない場合には、上述した中間モードの使用が適した環境下では、通常モードと暗視モードとのいずれかを選択して使用すればよい。この場合、中間モードを使用する場合と比較して良好なカラー映像信号とはならないが、撮像は可能である。
しかしながら、通常モードと暗視モードのみを搭載した撮像装置であっても、例えば監視カメラで被写体を終日撮影する場合のような周囲の明るさが変化する状況で、1つの撮像装置で被写体を撮影することができる、という効果を奏する。
さらにまた、暗視モードを使用せずに、通常モードから中間モードに切り換え、中間モードから通常モードに切り換える場合があってもよい。暗視モードを常時使用しない場合は、暗視モードを搭載しないようにしてもよい。
電灯がある場所等では暗視モードを使用しなくてもよい場合がある。通常モードと中間モードのみを搭載した撮像装置は、暗視モードを使用しなくてもよい場合に利用できる。
暗視モードを使用しない場合には、上述した暗視モードの使用が適した環境下では、中間モードを使用すればよい。この場合、暗視モードを使用する場合と比較して良好なカラー映像信号とはならないが、撮像は可能である。
通常モードと中間モードのみを搭載した撮像装置であっても、同様に、周囲の明るさが変化する状況で、1つの撮像装置で被写体を撮影することができる、という効果を奏する。
<赤外光投光タイミングの同期方法>
次に、図29に示すように、例えば2台の撮像装置110によって被写体SB1を撮像する撮像システムを構成する場合を考える。
次に、図29に示すように、例えば2台の撮像装置110によって被写体SB1を撮像する撮像システムを構成する場合を考える。
図29に示す2台の撮像装置110のうちの一方を自己の撮像装置110、もう一方を他の撮像装置110とする。
図30において、(a)は自己の撮像装置110の赤外線投光器9による赤外光の投光を、(c)は他の撮像装置110の赤外線投光器9による赤外光の投光を示している。2台の撮像装置110の赤外線投光器9による赤外光の投光は同期しておらず、1つの波長の赤外光を投光する期間よりも短い期間だけずれているとする。図30において、(b)は自己の撮像装置110による撮像によって生成されるフレームを示している。
図30の(b)に示すように、2台の撮像装置110の赤外線投光器9による赤外光の投光のタイミングがずれているため、ハッチングを付した期間では、2つの波長の赤外光が混ざった状態となる。よって、ハッチングを付した期間では、色の再現性が損なわれる。
図31において、(a)は自己の撮像装置110の赤外線投光器9による赤外光の投光を、(c)は他の撮像装置110の赤外線投光器9による赤外光の投光を示している。2台の撮像装置110の赤外線投光器9による赤外光の投光は同期しておらず、1つの波長の赤外光を投光する期間だけずれているとする。図31において、(b)は自己の撮像装置110による撮像によって生成されるフレームを示している。
図31の(b)に示すように、2台の撮像装置110の赤外線投光器9による赤外光の投光のタイミングが完全にずれているため、全期間で、2つの波長の赤外光が混ざった状態となってしまう。よって、全期間で色の再現性が損なわれる。
このように、2台の撮像装置110の赤外線投光器9が個々に赤外光を投光すると異なる波長の赤外光が混ざってしまい、正しい色再現が可能なカラー映像を撮像することができない。
2台の撮像装置110の赤外線投光器9が波長IR1,IR2,IR3の赤外光を投光するタイミングを同期させる同期方法について説明する。図29では、撮像装置110を2台としているが、3台以上であってもよい。
図32の(a)は、協定世界時(UTC)を示している。図32の(b)に示すように、1PPS信号S1ppsはUTCと同期した短いパルスである。1PPS信号S1ppsはUTCに対して±1μ秒程度の精度を有する。
ここでは、1PPS信号S1ppsの立ち上がりタイミングをUTCの秒のタイミングと一致させているが、1PPS信号S1ppsの立ち上がりタイミングがUTCの秒のタイミングに対して遅れるオフセット時間(第1のオフセット時間)を有していてもよい。
複数の撮像装置110の投光制御部71は、それぞれ、入力された1PPS信号S1ppsを基準として、赤外線投光器9によって波長IR1,IR2,IR3の赤外光を予め定めた時間ごとに予め定めた順番で投光させる。
予め定めた時間とは、所定の期間(1フレーム期間)を3分割した3つの分割期間における1つの分割期間とすることができる。
一例として、投光制御部71は、図32の(c)に示すように、1PPS信号S1ppsの立ち上がり時に波長IR1の赤外光を投光させるよう、赤外線投光器9を制御する。
衛星200からの電波に基づいて生成される1PPS信号S1ppsを基準として赤外線投光器9による赤外光の投光タイミングを制御すれば、複数の撮像装置110それぞれの投光タイミングをほぼ一致させることができる。
図32の(c)では1PPS信号S1ppsの立ち上がりタイミングに波長IR1の赤外光を投光させているが、所定時間のオフセット時間(第2のオフセット時間)を設けてもよい。この場合、複数の撮像装置110全てのオフセット時間を共通化する。基準とする赤外光は波長IR2または波長IR3の赤外光であってもよい。
1PPS信号S1ppsの立ち上がりタイミングがUTCの秒のタイミングに対して第1のオフセット時間を有し、赤外光を投光させるタイミングが1PPS信号S1ppsの立ち上がりタイミングに対して第2のオフセット時間を有する場合には、複数の撮像装置110全ての第1のオフセット時間と第2のオフセット時間との合計時間を共通化する。
即ち、複数の撮像装置110全てで、UTCに対する赤外光の投光タイミングを共通化させる。
以上によって、複数の撮像装置110は、それぞれの赤外線投光器9による赤外光の投光タイミングを一致させた状態で同期させることができる。よって、図30,図31に示すような問題点は発生しない。
<撮像システムに用いる撮像装置の制御方法>
撮像システムに用いる撮像装置の制御方法は、次のとおりである。
撮像システムに用いる撮像装置の制御方法は、次のとおりである。
図33に示すように、ステップS01にて、衛星200からの電波に基づいて生成され、UTCに同期したパルス信号(1PPS信号S1pps)を取得する。ステップS02にて、パルス信号に基づいて、赤外線投光器9によって、波長IR1,IR2,IR3の赤外光を選択的に投光させる投光タイミングを制御する。
ステップS03にて、波長IR1,IR2,IR3の赤外光が選択的に投光されている状態で被写体を撮像する。
ステップS01~S03は、撮像装置110が赤外光投光モードで動作しているとき繰り返される。なお、パルス信号に基づいて赤外光の投光タイミングを制御するのは、撮像装置の起動時の1回だけでもよい。起動後には、クロック信号Sclkに基づいて赤外光の投光タイミングを制御してもよい。
複数の撮像装置110それぞれは、以上の撮像装置の制御方法を実行することによって、個々の赤外線投光器9によって、波長IR1,IR2,IR3の赤外光を選択的に投光させる投光タイミングを互いに同期させる。
<撮像装置の制御プログラム>
それぞれの撮像装置110に搭載されているコンピュータに実行させる撮像装置の制御プログラムは、次のとおりである。
それぞれの撮像装置110に搭載されているコンピュータに実行させる撮像装置の制御プログラムは、次のとおりである。
図33において、制御プログラムは、ステップS01にて、コンピュータに、UTCに同期したパルス信号(1PPS信号S1pps)を取得する処理を実行させる。制御プログラムは、ステップS02にて、コンピュータに、パルス信号に基づいて、赤外線投光器9によって、波長IR1,IR2,IR3の赤外光を選択的に投光させる投光タイミングを制御する処理を実行させる。
制御プログラムは、ステップS03にて、コンピュータに、波長IR1,IR2,IR3の赤外光が選択的に投光されている状態で被写体を撮像するよう撮像部3を制御する処理を実行させる。
コンピュータは、撮像装置110が赤外光投光モードで動作しているとき、ステップS01~S03の処理を繰り返し実行させる。コンピュータは、撮像装置の起動時の1回のみ、パルス信号に基づいて赤外光の投光タイミングを制御する処理を実行させてもよい。コンピュータは、起動後には、クロック信号Sclkに基づいて赤外光の投光タイミングを制御する処理を実行させてもよい。
複数の撮像装置110それぞれは、コンピュータに以上の撮像装置の制御プログラムを実行させることによって、個々の赤外線投光器9によって、波長IR1,IR2,IR3の赤外光を選択的に投光させる投光タイミングを互いに同期させる。
本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。例えば、図1に示す撮像装置110において、赤外線投光器9を撮像装置110の筐体と着脱自在にしてもよい。赤外線投光器9を、撮像装置110外部の構成としてもよい。撮像装置110は、赤外線投光器9を装着したときに、赤外線投光器9を制御する構成を有すればよい。
また、本発明は以上説明した本実施形態に限定されるものではなく、赤外光を用いた他の撮像技術にも適用可能である。さらに、制御部7や映像処理部5は、1または複数のハードウェアのプロセッサを用いて実現することができる。
本発明の撮像装置、撮像装置の制御方法及び制御プログラムは、可視光が少ない環境下被写体を監視する監視カメラに利用できる。
Claims (6)
- 全地球航法衛星システム用の衛星からの電波に基づいて生成されたパルス信号が入力される入力部と、
前記パルス信号に基づいて、赤外線投光器に赤外光を投光させる投光タイミングを制御する投光制御部と、
赤外光が投光されている状態で被写体を撮像する撮像部と、
を備えることを特徴とする撮像装置。 - 前記パルス信号は協定世界時に同期した信号であることを特徴とする請求項1記載の撮像装置。
- 前記投光制御部は、前記パルス信号に基づいて、赤外線投光器によって、赤色に対応付けられた第1の波長を有する第1の赤外光と、緑色に対応付けられた第2の波長を有する第2の赤外光と、青色に対応付けられた第3の波長を有する第3の赤外光とを選択的に投光させる投光タイミングを制御し、
前記撮像部は、前記第1~第3の赤外光が選択的に投光されている状態で被写体を撮像する、
ことを特徴とする請求項1または2に記載の撮像装置。 - 前記パルス信号は1PPS信号であることを特徴とする請求項1~3のいずれか1項に記載の撮像装置。
- 全地球航法衛星システム用の衛星からの電波に基づいて生成されたパルス信号に基づいて、赤外線投光器に赤外光を投光させる投光タイミングを制御し、
赤外光が投光されている状態で被写体を撮像する、
ことを特徴とする撮像装置の制御方法。 - 撮像装置に搭載されているコンピュータに、
全地球航法衛星システム用の衛星からの電波に基づいて生成されたパルス信号を取得するステップと、
前記パルス信号に基づいて、赤外線投光器に赤外光を投光させる投光タイミングを制御するステップと、
赤外光が投光されている状態で被写体を撮像するよう撮像部を制御するステップと、
を実行させることを特徴とする撮像装置の制御プログラム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014-016946 | 2014-01-31 | ||
| JP2014016946A JP2015144354A (ja) | 2014-01-31 | 2014-01-31 | 撮像装置、撮像装置の制御方法及び制御プログラム |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2015115142A1 true WO2015115142A1 (ja) | 2015-08-06 |
Family
ID=53756720
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2015/050311 Ceased WO2015115142A1 (ja) | 2014-01-31 | 2015-01-08 | 撮像装置、撮像装置の制御方法及び制御プログラム |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP2015144354A (ja) |
| WO (1) | WO2015115142A1 (ja) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS63234941A (ja) * | 1986-11-29 | 1988-09-30 | オリンパス光学工業株式会社 | 内視鏡用撮像装置 |
| JP2010236891A (ja) * | 2009-03-30 | 2010-10-21 | Nec Corp | カメラ座標系と世界座標系との位置座標変換方法、車載装置、路側撮影装置及び位置座標変換システム |
| JP2011050049A (ja) * | 2009-07-30 | 2011-03-10 | National Institute Of Advanced Industrial Science & Technology | 画像撮影装置および画像撮影方法 |
| JP2011151596A (ja) * | 2010-01-21 | 2011-08-04 | Rohm Co Ltd | 生体認証装置およびモバイル機器 |
| JP2013225826A (ja) * | 2012-03-19 | 2013-10-31 | Casio Comput Co Ltd | 撮像装置、撮像方法及びプログラム |
-
2014
- 2014-01-31 JP JP2014016946A patent/JP2015144354A/ja active Pending
-
2015
- 2015-01-08 WO PCT/JP2015/050311 patent/WO2015115142A1/ja not_active Ceased
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS63234941A (ja) * | 1986-11-29 | 1988-09-30 | オリンパス光学工業株式会社 | 内視鏡用撮像装置 |
| JP2010236891A (ja) * | 2009-03-30 | 2010-10-21 | Nec Corp | カメラ座標系と世界座標系との位置座標変換方法、車載装置、路側撮影装置及び位置座標変換システム |
| JP2011050049A (ja) * | 2009-07-30 | 2011-03-10 | National Institute Of Advanced Industrial Science & Technology | 画像撮影装置および画像撮影方法 |
| JP2011151596A (ja) * | 2010-01-21 | 2011-08-04 | Rohm Co Ltd | 生体認証装置およびモバイル機器 |
| JP2013225826A (ja) * | 2012-03-19 | 2013-10-31 | Casio Comput Co Ltd | 撮像装置、撮像方法及びプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2015144354A (ja) | 2015-08-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN105917638B (zh) | 摄像装置和摄像装置的控制方法、以及摄像系统和摄像系统的控制方法 | |
| JP6264233B2 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
| JP6264234B2 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
| JP6136948B2 (ja) | 撮像装置、映像信号処理方法及び映像信号処理プログラム | |
| JP6183238B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
| JP6264029B2 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
| JP6318789B2 (ja) | 映像処理装置、映像処理方法、及び映像処理プログラム | |
| JP5692446B1 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
| JP6344279B2 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
| JP6260512B2 (ja) | 撮像装置、撮像方法、撮像プログラム | |
| JP6331966B2 (ja) | 撮像装置及び撮像装置の調整方法 | |
| WO2015115142A1 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
| JP6090191B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
| JP6221911B2 (ja) | 撮像装置、映像信号処理方法及び映像信号処理プログラム | |
| JP6090217B2 (ja) | 撮像システム及び撮像システムの制御方法 | |
| JP5655969B1 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム | |
| JP6299556B2 (ja) | 撮像装置、撮像方法、撮像プログラム | |
| JP6160546B2 (ja) | 映像処理装置、撮像装置、映像処理方法、及び映像処理プログラム | |
| JP6330704B2 (ja) | 撮像装置、撮像装置の制御方法及び制御プログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 15743621 Country of ref document: EP Kind code of ref document: A1 |
|
| DPE1 | Request for preliminary examination filed after expiration of 19th month from priority date (pct application filed from 20040101) | ||
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 15743621 Country of ref document: EP Kind code of ref document: A1 |