WO2016203690A1 - 撮像装置及び画像処理方法 - Google Patents

撮像装置及び画像処理方法 Download PDF

Info

Publication number
WO2016203690A1
WO2016203690A1 PCT/JP2016/002083 JP2016002083W WO2016203690A1 WO 2016203690 A1 WO2016203690 A1 WO 2016203690A1 JP 2016002083 W JP2016002083 W JP 2016002083W WO 2016203690 A1 WO2016203690 A1 WO 2016203690A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
filter
plant
color
imaging
Prior art date
Application number
PCT/JP2016/002083
Other languages
English (en)
French (fr)
Inventor
悠馬 小林
祐二 寺島
小金 春夫
和田 穣二
一寛 柳
山田 英明
Original Assignee
パナソニックIpマネジメント株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2015124252A external-priority patent/JP2017011459A/ja
Priority claimed from JP2015124250A external-priority patent/JP5991603B1/ja
Priority claimed from JP2015124251A external-priority patent/JP2017009395A/ja
Application filed by パナソニックIpマネジメント株式会社 filed Critical パナソニックIpマネジメント株式会社
Publication of WO2016203690A1 publication Critical patent/WO2016203690A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01GHORTICULTURE; CULTIVATION OF VEGETABLES, FLOWERS, RICE, FRUIT, VINES, HOPS OR SEAWEED; FORESTRY; WATERING
    • A01G7/00Botany in general
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • G01J3/51Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/27Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands using photo-electric detection ; circuits for computing concentration
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/31Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry
    • G01N21/35Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry using infrared light
    • G01N21/359Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry using infrared light using near infrared light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only

Definitions

  • the present disclosure relates to an imaging apparatus and an image processing method for processing a captured plant image.
  • an image sensor having a plurality of observation wavelength regions is used to capture a spectrum image of the crop, and a normalized vegetation index (NDVI: Normalized Difference Vegetation Index) based on the spectrum image. ), And it is known to estimate protein content and the like (see, for example, Patent Document 1).
  • NDVI Normalized Difference Vegetation Index
  • the green component of the leaf of a plant is easily affected by sunlight, and when it is cloudy, the illuminance is low, so it actually appears to be dead even though the leaf is not dead. Further, since the color temperature of sunlight is close to blue in the morning, the leaves look blue, and in the evening the color temperature of sunlight is close to orange, so the leaves appear reddish. Thus, the change in the illuminance and color temperature of sunlight makes it difficult to understand the activity of the leaves, leading to a user's misjudgment.
  • the present disclosure has been made in view of the above-described conventional situation, and is capable of reducing an error of a plant growth index even when affected by a change in light such as sunlight, and imaging that prevents a user from making an erroneous determination.
  • An object is to provide an apparatus and an image processing method.
  • the present disclosure is an imaging device that captures an image of a plant, and includes an imaging unit that captures a color image of the plant, and detects a luminance value of a green component from the color image of the plant captured by the imaging unit, An exposure control unit that controls the exposure condition of the color image so that the luminance value of the component is equal to the luminance value of the green component obtained under a specific condition, and the imaging unit with the exposure condition controlled by the exposure control unit And an output unit that outputs a color image of the plant imaged by the imaging device.
  • the present disclosure relates to an image processing method in an imaging device having an imaging unit capable of outputting a color image.
  • the imaging unit images a plant, and the luminance of a green component in a color image of the plant captured by the imaging device
  • the exposure condition of the color image of the plant is controlled so that the detected brightness value of the green component is equal to the brightness value of the green component obtained under a specific condition, and the exposure condition is controlled.
  • the block diagram which shows an example of an internal structure of the surveillance camera of 1st Embodiment Front view showing an example of a camera body mechanism provided inside the surveillance camera Sectional drawing which shows an example of the structure of the camera main body mechanism seen from the arrow EE line direction of FIG.
  • the perspective view which shows an example of the structure of a filter switching mechanism Front view showing an example of the shape of the frame Graph showing examples of spectral characteristics of various filters.
  • the figure which shows an example of the imaging operation procedure at the time of NDVI calculation in time series The figure which shows an example of the imaging operation procedure at the time of PRI calculation in time series Front view showing an example of another camera body mechanism
  • the figure which shows an example of the color image and NDVI image which are displayed side by side on the screen of a monitor The figure explaining an example of the exposure control in 3rd Embodiment Flow chart showing an example of automatic exposure control procedure Flow chart showing an example of color temperature correction control procedure
  • the surveillance camera has a filter switching mechanism that switches and uses an optical filter, if it takes a long time to switch the filter, the imaging conditions may change due to disturbance factors such as changes in illuminance and wind. Therefore, when the imaging conditions change during the switching of the filter during imaging, it is impossible to accurately estimate the growth index of a plant such as NDVI. Therefore, in the first embodiment, even when the surveillance camera has a low-cost configuration, an example of the surveillance camera that reduces the possibility that the imaging condition changes due to the influence of disturbance factors such as changes in illuminance and wind during imaging. explain.
  • FIG. 1 is a block diagram illustrating an example of an internal configuration of the monitoring camera 10 according to the first embodiment.
  • the monitoring camera 10 images a plant that is a subject and outputs the captured image.
  • the surveillance camera 10 includes a lens 11, an optical module 13, a filter switching mechanism 15, an automatic back focus (ABF) mechanism 21, a CPU 25, an image processing unit 28, and a transmission unit 29.
  • ABSF automatic back focus
  • the lens 11 collects reflected light from a plant that is a monitoring target (that is, an imaging target), and forms an optical image on the image sensor 22.
  • the optical module 13 has a diaphragm (also referred to as iris) 13z as an example of a diaphragm unit that adjusts the amount of light from the plant incident through the lens 11, and the degree of opening of the diaphragm 13z according to a diaphragm control signal from the CPU 25. (Opening as an example of the amount of restriction) is adjusted.
  • the filter switching mechanism 15 as an example of a switching unit includes a filter holding unit 16 as an example of a holder that holds a plurality of filters F1 to F6 (see FIG. 5) that transmit light of a specific wavelength, and the filter holding unit.
  • a motor 17 that switches a filter that drives 16 and transmits reflected light from plants is provided. Details of the filter switching mechanism 15 will be described later.
  • the ABF mechanism 21 automatically adjusts the focus of light that forms an image on the light receiving surface of the image sensor 22.
  • the ABF mechanism 21 includes an image sensor 22 as an example of an imaging unit that converts an optical image, which is collected by the lens 11 and transmitted through the filter, into an electric signal, and the position of the image sensor 22.
  • the CPU 25 comprehensively controls each part of the monitoring camera 10.
  • the CPU 25 outputs an aperture control signal to the optical module 13, outputs a filter switching signal to the filter switching mechanism 15, and outputs an imaging control signal to the ABF mechanism 21.
  • a digital signal processor DSP: Digital Signal Processor dedicated to image processing is used.
  • the image processing unit 28 as an example of the arithmetic unit is configured using, for example, a DSP, and includes an amplifier 28z (see FIG. 13) that amplifies an electric signal output from the image sensor 22, and an image output as an electric signal. Image processing is performed on the signal to obtain a captured image (image data). Further, the image processing unit 28 is based on this captured image, and is an NDVI (Normalized Difference Vegetation Index) that is an index for observing the growth status described later, or PRI that is an index (photosynthesis index) indicating the photosynthesis activity level of a plant. (Photochemical Reflectance Index) is calculated for each pixel.
  • NDVI Normalized Difference Vegetation Index
  • the transmission unit 29 as an example of the output unit transmits the image data (RGB luminance value for each pixel) and the NDVI value (or PRI value) for each pixel, which are input from the image processing unit 28, to the monitor 30.
  • the monitor 30 as an example of a display device is a separate device from the monitoring camera 10, and based on the image data and NDVI value (or PRI value) transmitted from the transmission unit 29, a color image and NDVI image (or PRI image). ) Are displayed side by side on the screen.
  • FIG. 2 is a front view showing an example of the camera body mechanism 20 provided inside the surveillance camera 10.
  • FIG. 3 is a cross-sectional view showing an example of the structure of the camera body mechanism 20 as viewed from the direction of the arrow EE in FIG.
  • the camera body mechanism 20 incorporates the filter switching mechanism 15 and the ABF mechanism 21 described above.
  • the camera body mechanism 20 has a frame 20z in which the lens 11 is fitted on the front surface. Inside the frame 20z, the filter switching mechanism 15 and the ABF mechanism 21 are arranged from the subject side along the optical axis.
  • the ABF mechanism 21 includes the image sensor 22 and the motor 24 as described above.
  • the image sensor 22 is mounted on the sensor substrate 22z.
  • the motor 24 performs focus adjustment by driving the sensor substrate 22z to move in the optical axis direction.
  • the camera body mechanism 20 is provided in the order of the lens 11, the filter switching mechanism 15, and the image sensor 22 from the left side of FIG. In this way, the lens 11 can be provided on the housing surface (not shown) of the monitoring camera 10, so that the lens 11 can be easily replaced.
  • the filter switching mechanism 15 has the filter holding part 16 and the motor 17 (refer FIG. 4) as mentioned above.
  • FIG. 4 is a perspective view showing an example of the structure of the filter switching mechanism 15.
  • the filter holding unit 16 includes a frame 161 in which six filters F1 to F6 are exchangeably fitted, and a frame case 164 in which the frame 161 is slidably received.
  • a gear box 18 is provided on the upper surface of the frame case 164.
  • the motor 17 is connected to the gear box 18, and the shaft 17z of the motor 17 pivotally supports the gear 18w in the gear box 18.
  • the rotational force of the shaft 17z is sequentially transmitted to a plurality of gears 18w, 18z, 18y in the gear box 18.
  • the lowermost gear 18 y in the gear box 18 is a pinion gear and meshes with a rack 163 formed on the upper surface of the frame 161.
  • the frame 161 housed in the frame case 164 can freely reciprocate (slide) within the frame case 164 along rails 165 laid on the upper and lower surfaces inside the frame case 164. Therefore, when the gear 18y rotates, the rack 163 that meshes with the gear 18y moves, and the frame 161 moves inside the frame case 164 in the direction of arrow g.
  • the end of the frame case 164 can be removed. By removing the end of the frame case 164, the frame 161 can be easily taken out along the rail 165, and can be easily replaced with another frame (not shown) having a filter different from the frame 161. . This makes it possible to calculate various vegetation indices other than the NDVI value and the PRI value.
  • FIG. 5 is a front view showing an example of the shape of the frame 161.
  • the frame 161 is a member formed in an elongated plate shape.
  • a plurality (six in this case) of openings 161z, 161y, 161x, 161w, 161v, and 161u are formed in a line on the longitudinal surface.
  • a plurality of band pass filters (simply referred to as filters or optical filters) having different transmittances for light of a specific wavelength are fitted in a replaceable manner. Yes.
  • filters or optical filters having different transmittances for light of a specific wavelength
  • a 530 nm filter F1, a 570 nm filter F2, a red (R) filter F3, an infrared (IR) filter F4, a green (G) filter F5, and a visible light filter (color filter) F6 are sequentially arranged from the left side.
  • the R filter F3 and the IR filter F4 used when calculating NDVI are arranged in the frame 161 so as to be adjacent to each other.
  • the 530 nm filter F1 and the 570 nm filter F2 used when calculating the PRI are arranged in the frame 161 so as to be adjacent to each other.
  • the moving distance of the frame 161 for switching between these filters can be shortened.
  • the imaging time combined with the IR filter F4 can be shortened. That is, the time from the start of imaging using the IR filter F4 to the end of imaging using the R filter F3 is shortened.
  • the 530 nm filter F1 and the 570 nm filter F2 are adjacent to each other, and a reduction in the calculation accuracy of the PRI is suppressed.
  • R filter F3 and IR filter F4 used when calculating NDVI are close to green (G) filter F5 or visible light filter F6. Placed on the side. Accordingly, when the G filter F5 or the visible light filter F6 is switched to the IR filter F4, the moving distance of the frame 161 can be shortened, leading to a reduction in imaging time. Further, in this embodiment, when calculating NDVI, as described later, an IR image is captured after capturing an IR image. Therefore, compared to the R filter F3, the IR filter F4 is a G filter F5 or a visible light filter F6. It is arranged on the side close to. Thereby, the moving distance of the frame 161 can be further shortened.
  • the rack 163 is formed that meshes with the gear 18y driven by the motor 17.
  • the shaft 17z of the motor 17 rotates and the rotational force is transmitted to the gear 18y in the gear box 18, the frame 161 moves in the arrow g direction by the rack 163 that meshes with the gear 18y.
  • FIG. 6 is a graph showing an example of spectral characteristics of various filters.
  • the vertical axis of the graph represents transmittance (%), and the horizontal axis represents wavelength (nm).
  • the 530 nm filter F ⁇ b> 1 has a waveform with a sharp transmittance (symbol a) at a light wavelength of 530 nm.
  • the 570 nm filter F2 has a waveform with a sharp transmittance (symbol b) at a wavelength of 570 nm.
  • the R filter F3 has a peak waveform (symbol c) with a high transmittance centering on a wavelength of 660 nm.
  • the IR (infrared) filter F4 has a large transmittance waveform (symbol d) at a wavelength exceeding 750 nm.
  • the G filter F5 has a slightly large transmittance waveform (symbol “e”) at a wavelength of 530 nm to 630 nm with the center at approximately 550 nm.
  • the visible light filter F6 is an infrared cut filter that cuts (shields) infrared light or near-infrared light when capturing a visible light image (color image), and has a large transmittance at a wavelength of 400 nm to 680 nm. It has a waveform (symbol f).
  • a blue (B) filter can also be attached by being fitted into the frame.
  • the B filter has a slightly large transmittance waveform (symbol g) at a wavelength of 400 nm to 500 nm with 450 nm as the center.
  • FIG. 7 is a diagram for explaining an example of a method for specifying a filter located in front of the image sensor 22 among the six filters F1 to F6.
  • a method for specifying a filter for example, the following method can be cited.
  • At least one pore 164z to 164u is formed in the upper part of the frame 161, into which the filters F1 to F6 are fitted, so as to correspond to the filters F1 to F6.
  • three photosensors 16z capable of receiving light incident through the pores 164z to 164u formed in the frame 161 are arranged. The three photosensors 16z are turned on when receiving light, and function as switches that output received light pulses.
  • three pores 164z are formed in the frame 161 located above the 530 nm filter F1.
  • the three photosensors 16z respectively receive light incident from the plant side that is the subject through the three pores 164z.
  • the three photosensors 16z output three light reception pulses.
  • two pores 164y are formed on the left side with respect to the opening 161y in the frame 161 located on the upper part of the 570 nm filter F2.
  • the two left photosensors 16z receive light incident from the plant side that is the subject through the two pores 164y.
  • the two left photosensors 16z output two received light pulses.
  • one pore 164u is formed on the right side with respect to the opening 161u in the frame 161 positioned on the upper part of the visible light filter F6.
  • the visible light filter F6 is positioned on the front surface of the image sensor 22, the right one photosensor 16z receives light incident from the plant side that is the subject through one pore 164u.
  • One photosensor 16z on the right side outputs one light reception pulse.
  • the CPU 25 as an example of the filter specifying unit detects a light reception pattern of light received by the three photosensors 16z, so that any one of the plurality of filters F1 to F6 is positioned in front of the image sensor 22. Can be specified. That is, when all the received light pulses are output from the three photosensors 16z, the CPU 25 determines that the 530 nm filter F1 is positioned in front of the image sensor 22. Further, when a light reception pulse is output from the right one of the three photosensors 16z, the CPU 25 determines that the visible light filter F6 is positioned in front of the image sensor 22.
  • a photo sensor is used as a sensor for detecting light from the plant side, which is the subject, through the pores formed in the frame, but the image sensor for capturing an image is a pore formed in the frame.
  • the light from the plant side may be detected through this, and in this case, the photosensor is omitted, and the configuration of the filter holding unit can be simplified.
  • a photo sensor may be attached to the frame itself instead of forming pores in the frame.
  • three photo sensors are attached to the frame 161 located on the upper part of the 530 nm filter F1.
  • Two photosensors are attached to the left side with respect to the opening 161y on the frame 161 located above the 570 nm filter F2.
  • one photosensor is attached to the frame 161 located above the visible light filter F6 on the right side with respect to the opening 161u. Also in this case, it is possible to identify the filter located in front of the image sensor 22 by the combination of the received light pulses output from the photosensor.
  • the pores 164z to 164u for specifying the filters F1 to F6 may be provided at the lower part of the frame 161, respectively.
  • the three photosensors 16z are provided in the lower part of the frame case 164 or in the frame body 20z so as to face the pores 164z to 164u.
  • a plurality of protrusions may be provided on the lower edge of the frame 161 instead of the pores 164z to 164u. These protrusions are provided at the same horizontal position as the pores 164z to 164u, and the three photosensors 16z receive incident light that is not shielded by these protrusions and output received light pulses. The three photosensors 16z are provided below the frame case 164 or in the frame body 20z so as to face these protrusions.
  • the CPU 25 identifies the filter located in front of the image sensor 22 by identifying the pattern of the received light pulses.
  • a plurality of magnets (not shown) and three magnetic sensors (not shown) may be provided instead of the pores 164z to 164u and the photosensor 16z. good. These magnets are provided at the same positions as the pores 164z to 164u, and the three magnetic sensors are provided at the same positions as the three photosensors.
  • the three magnetic sensors output signal pulses when detecting magnetic fields generated from a plurality of magnets.
  • the CPU 25 identifies the filter located in front of the image sensor 22 by identifying these signal pulse patterns.
  • a coil or a hall element is used as the magnetic sensor.
  • protrusions may be provided instead of the pores 164z to 164u and the photosensor 16z.
  • This protrusion is provided at an arbitrary position on the lower edge of the frame 161 (for example, a position directly below the filter F1).
  • the switch is arranged along the line segment EE in the frame body 20z, and is provided at a position where it can come into contact with the protrusion. If the switch contacts the protrusion during the operation of the frame 161, the switch outputs a signal pulse.
  • the CPU 25 recognizes that the filter F1 is positioned in front of the image sensor 22. Further, the CPU 25 determines which of the filters F2 to F6 is located in front of the image sensor 22 by measuring the number of rotations of the motor 17 from the time when the signal pulse is detected.
  • the normalized vegetation index (NDVI) is an index used for observing the state of plant growth, and is calculated for each pixel value according to Equation (1).
  • L IR represents the luminance of the infrared light or near infrared light
  • L R represents the luminance of the red light
  • the NDVI value calculated by Equation (1) is in the range of value 0 to value 1. The closer to 0, the closer to blue, the closer to blue, and the closer to value 1, the closer to green.
  • CPU 25 is for calculating the L IR and L R, in order to constant as possible amount of incident light, to set the opening degree of the throttle 13z to a fixed value.
  • the CPU 25 continuously captures an IR (infrared light or near infrared light) image and an R (red) image of a plant necessary for NDVI calculation.
  • FIG. 8 is a diagram showing an example of an imaging operation procedure at the time of NDVI calculation in time series.
  • the filter switching mechanism 15 drives the motor 17 and slides the frame 161 so that the visible light filter F6 is positioned in front of the image sensor 22 as an initial position (that is, home position).
  • the monitoring camera 10 captures a color image by automatic exposure.
  • the illuminance sensor (not shown) detects external light, outputs an aperture control signal to the optical module 13 in accordance with the ambient light amount, and controls the aperture of the aperture 13z. Automatic exposure control is performed (S1). Note that the illuminance by sunlight, that is, the ambient light amount may be detected by the image sensor 22, and in this case, the illuminance sensor can be omitted.
  • the monitoring camera 10 captures the reflected light from the plant incident through the visible light filter F6 set at the initial position with the image sensor 22, and obtains a color image (S2).
  • the transmission unit 29 transmits this color image to the monitor 30.
  • the monitor 30 displays the color image (video) received from the monitoring camera 10 on the screen.
  • the CPU 25 sets the opening of the aperture 13z to a fixed value (S3).
  • This fixed value is, for example, the aperture of the diaphragm set so that the green (G) luminance becomes the G value (ideal G luminance value) imaged in the daytime in fine weather.
  • the filter switching mechanism 15 switches the filter located in front of the image sensor 22 in accordance with a filter switching signal from the CPU 25. That is, the filter switching mechanism 15 switches the filter located in front of the image sensor 22 from the visible light filter F6 that can capture a color image to the IR filter F4 that can capture an IR image.
  • the IR image is output to the image processing unit 28 (S4).
  • the image processing unit 28 temporarily stores it in the internal memory.
  • the filter switching mechanism 15 switches the filter located in front of the image sensor 22 in accordance with a filter switching signal from the CPU 25. That is, the filter switching mechanism 15 switches the filter located in front of the image sensor 22 from the IR filter F4 that can capture an IR image to the R filter F3 that can capture an R image.
  • the surveillance camera 10 When the surveillance camera 10 captures the reflected light from the plant incident through the R filter F3 by the image sensor 22 and acquires the R image, it outputs the R image to the image processing unit 28 (S5).
  • the image processing unit 28 When the R image is input, the image processing unit 28 temporarily stores it in the internal memory.
  • the image processing unit 28 reads the IR image and the R image stored in the internal memory, using the brightness L R of the luminance L IR and the R image of the IR image for each pixel, in accordance with Equation (1), calculates the NDVI .
  • the image processing unit 28 generates an NDVI image using the NDVI value calculated for each pixel.
  • the transmission unit 29 transmits the NDVI image generated by the image processing unit 28 to the monitor 30.
  • the monitor 30 displays the NDVI image received from the monitoring camera 10 on the screen.
  • the CPU 25 outputs a filter switching signal to the filter switching mechanism 15.
  • the filter switching mechanism 15 switches the filter located in front of the image sensor 22 in accordance with a filter switching signal from the CPU 25. That is, the filter switching mechanism 15 switches the filter located in front of the image sensor 22 from the R filter F3 that can capture the R image to the visible light filter F6 that can capture the color image.
  • the monitoring camera 10 returns to normal operation, and the CPU 25 detects external light with an illuminance sensor (not shown), outputs an aperture control signal to the optical module 13 according to the amount of ambient light, and opens the aperture 13z.
  • Automatic exposure control for automatically controlling the degree is performed (S6).
  • the monitoring camera 10 captures the reflected light from the plant incident through the visible light filter F6 by the image sensor 22 and acquires a color image (S7).
  • the transmission unit 29 transmits this color image to the monitor 30.
  • the monitor 30 displays the color image received from the monitoring camera 10 on the screen. Thereafter, the same operation is repeated. Therefore, when an event (for example, time-up or user operation) occurs while capturing a color image, the monitoring camera 10 shifts to the above-described NDVI calculation process.
  • the image sensor 22 captures an IR image used for calculation of NDVI, which is an index for observing the growth state of a plant, via the IR filter F4.
  • the filter switching mechanism 15 moves the frame 161 held so that the IR filter F4 and the R filter F3 are adjacent to each other, and moves the filter located in front of the image sensor 22 from the IR filter F4 to R. Switch to filter F3.
  • the image sensor 22 captures an R image used for calculation of NDVI, which is an index for observing the growth state of the plant, through the R filter F3.
  • the image processing unit 28 uses the captured IR image and R image to calculate NVDI, which is an index for observing the growth of plants.
  • the IR filter F4 as an example of the first optical filter and the R filter F3 as an example of the second optical filter are held by the frame 161 (holder) so as to be adjacent to each other.
  • the switching time between the IR filter F4 and the R filter F3 can be shortened. Therefore, even with an inexpensive configuration, the possibility that the imaging condition changes due to a change in illuminance or a disturbance factor such as wind during imaging is reduced, and a reduction in the accuracy of the calculated NDVI can be suppressed.
  • a light reception waveform (that is, light reception) of reflected light from a plant received by the three photosensors 16z arranged at a position where the filter switched to be positioned in front of the image sensor 22 by the filter switching mechanism 15 can be detected.
  • the CPU 25 specifies the IR filter F4 or the R filter F3 located on the front surface of the image sensor 22 by the pattern).
  • the detectable position is the position inside the frame case 164 facing the lens 11 and capable of receiving light incident through the pores 164z to 164u formed in the upper part of the frame 161.
  • the filter located in front of the image sensor 22 can be easily specified without using mechanical parts.
  • the R filter F3 transmits light having a wavelength corresponding to red
  • the IR filter F4 transmits infrared light or near infrared light.
  • NDVI Normalized Difference Vegetation Index
  • the opening of the aperture 13z is set to a fixed value, so that the IR image and the R image are set.
  • the change in the amount of exposure that occurs during imaging can be reduced, and a decrease in the accuracy of estimation of the calculated growth index of the plant can be suppressed.
  • the photosynthesis index (PRI) is an index representing the photosynthesis activity level of a plant, and is calculated for each pixel value according to the mathematical formula (2).
  • L 530 represents the luminance of light having a wavelength of 530 nm
  • L 570 represents the luminance of light having a wavelength of 570 nm.
  • the PRI value calculated by Equation (2) is in the range of value 0 to value 1. The closer to value 0, the smaller the degree of photosynthesis activity, the smaller the value, and the closer to value 1, the greater the photosynthesis activity level. Expressed in large colors.
  • the CPU 25 increases the opening of the aperture 13z when continuously capturing the 530 nm image and the 570 nm image of the plant necessary for the calculation of the PRI.
  • a fixed value is set so that the amount of light incident on the image sensor 22 is as constant as possible.
  • FIG. 9 is a diagram showing an example of an imaging operation procedure at the time of PRI calculation in time series.
  • the filter switching mechanism 15 drives the motor 17 and slides the frame 161 so that the visible light filter F6 is positioned in front of the image sensor 22 as an initial position (that is, home position).
  • the monitoring camera 10 captures a color image by automatic exposure.
  • the image sensor 22 detects external light, outputs an aperture control signal to the optical module 13 in accordance with the amount of ambient light, and performs automatic exposure control for controlling the aperture of the aperture 13z. Perform (S1).
  • the monitoring camera 10 captures the reflected light from the plant incident through the visible light filter F6 set at the initial position with the image sensor 22, and obtains a color image (S2).
  • the transmission unit 29 transmits this color image to the monitor 30.
  • the monitor 30 displays the color image received from the monitoring camera 10 on the screen.
  • the CPU 25 sets the opening of the aperture 13z to a fixed value (S3).
  • This fixed value is, for example, the aperture of the diaphragm set so that the green (G) luminance becomes the G value (ideal G luminance value) imaged in the daytime in fine weather.
  • the filter switching mechanism 15 switches the filter located in front of the image sensor 22 in accordance with a filter switching signal from the CPU 25. That is, the filter switching mechanism 15 switches the filter located in front of the image sensor 22 from the visible light filter F6 that can capture a color image to the 530 nm filter F1 that can capture a 530 nm image.
  • the monitoring camera 10 captures the reflected light from the plant incident through the 530 nm filter F1 by the image sensor 22 and obtains a 530 nm image, it outputs it to the image processing unit 28 (S4A).
  • the image processing unit 28 temporarily stores it in the internal memory.
  • the filter switching mechanism 15 switches the filter located in front of the image sensor 22 in accordance with a filter switching signal from the CPU 25. That is, the filter switching mechanism 15 switches the filter located in front of the image sensor 22 from the 530 nm filter F1 that can capture a 530 nm image to the 570 nm filter F2 that can capture a 570 nm image.
  • the monitoring camera 10 captures the reflected light from the plant incident through the 570 nm filter F2 by the image sensor 22, and outputs the image to the image processing unit 28 when acquiring the 570 nm image (S5A).
  • the image processing unit 28 temporarily stores it in the internal memory.
  • the image processing unit 28 reads the 530 nm image and the 570 nm image stored in the internal memory, and calculates the PRI according to Equation (2) using the luminance of the 530 nm image and the luminance of the 570 nm image for each pixel.
  • the image processing unit 28 generates a PRI image using the PRI value calculated for each pixel.
  • the transmission unit 29 transmits the PRI image to the monitor 30.
  • the monitor 30 displays the PRI image received from the monitoring camera 10 on the screen.
  • the CPU 25 outputs a filter switching signal to the filter switching mechanism 15.
  • the filter switching mechanism 15 switches the filter located in front of the image sensor 22 in accordance with a filter switching signal from the CPU 25. That is, the filter switching mechanism 15 switches the filter located in front of the image sensor 22 from the 570 nm filter F2 that can capture a 570 nm image to the visible light filter F6 that can capture a color image.
  • the surveillance camera 10 returns to normal operation, and the CPU 25 detects external light with an illuminance sensor (not shown), outputs an aperture control signal to the optical module 13 in accordance with the amount of ambient light, and sets the aperture of the aperture 13z. Automatic exposure control is performed (S6).
  • the monitoring camera 10 captures the reflected light from the plant incident through the visible light filter F6 by the image sensor 22 and acquires a color image (S7).
  • the transmission unit 29 transmits this color image to the monitor 30.
  • the monitor 30 displays the color image received from the monitoring camera 10 on the screen. Thereafter, the same operation is repeated. That is, when an event (for example, time-up or user operation) occurs during capturing a color image, the monitoring camera 10 shifts to the above-described PRI calculation process.
  • the switching time between the 530 nm filter F1 and the 570 nm filter F2 can be shortened. Therefore, even in an inexpensive configuration, the possibility that the imaging condition changes due to a change in illuminance or a disturbance factor such as wind during imaging is reduced, and a decrease in the accuracy of the calculated PRI can be suppressed.
  • the 530 nm filter F1 transmits light having a wavelength of 530 nm
  • the 570 nm filter F2 transmits light having a wavelength of 570 nm.
  • PRI Photochemical Reflectance Index
  • the six filters F1 to F6 are switched by sliding the frame 161 in the longitudinal direction.
  • the frame 161 and the frame case 164 are formed in an elongated plate shape. Therefore, when the number of filters increases, the outer shapes of the frame 161 and the frame case 164 extend in one direction and become longer, and the housing of the surveillance camera becomes inconvenient to handle.
  • the modification the case where the frame and the frame case are formed in a disk shape is shown.
  • FIG. 10 is a front view showing an example of another camera body mechanism 20A.
  • the camera body mechanism 20A has a frame body 20z in which the lens 11 is fitted on the front surface.
  • the filter switching mechanism 15A incorporated in the camera body mechanism 20A includes a frame 161A and a frame case 164A formed in a disc shape, and the frame 161A housed in the frame case 164A is rotatable about its central axis.
  • filters F1 to F8 are fitted in the frame 161A so as to be replaceable along the peripheral edge thereof.
  • the filters F1 to F6 are k filters as in the first embodiment.
  • Filters F7 and F8 are filters having other spectral characteristics.
  • the blue (B) filter F7 is a filter having a slightly large transmittance at a wavelength of 400 nm to 500 nm with approximately 450 nm as a center.
  • the filter switching mechanism 15A includes the filter holding portion 16A and the motor 17 as described above.
  • the frame case 164A is provided with a gear box (not shown) connected to the motor 17.
  • a rack 163A that meshes with a pinion gear 18A that is the lowermost gear of the gear box is formed.
  • the outer shapes of the frame 161A and the frame case 164A are compared with the case where the filters are arranged on a straight line.
  • a surveillance camera switches an optical filter and captures an image
  • an image captured through a red (R) filter or an IR (infrared light or near infrared light) filter is necessary for the user.
  • the captured image that has been transmitted through the R filter or the IR filter is an image obtained by capturing only light having a specific wavelength. Therefore, when this captured image is displayed on the monitor screen, the image appears to be inverted with respect to the user. There was a possibility that the user misrecognized that the surveillance camera was out of order.
  • the surveillance camera of the second embodiment has almost the same configuration as that of the first embodiment.
  • the description is abbreviate
  • FIG. 11 is a diagram showing an operation procedure at the time of imaging, a filter to be used, and a captured image in time series in the second embodiment.
  • the filter switching mechanism 15 drives the motor 17 and slides the frame 161 so that the visible light filter F6 that cuts IR light is positioned in front of the image sensor 22.
  • the filter located in front of the image sensor 22 is drawn with a thick frame.
  • the monitoring camera 10 captures the reflected light from the plant incident through the visible light filter F6 set at the initial position with the image sensor 22, and obtains a color image GZ1.
  • the transmission unit 29 transmits the color image GZ1 to the monitor 30.
  • the monitor 30 displays the color image GZ1 received from the monitoring camera 10 on the screen.
  • the color image GZ1 is an image obtained by imaging a plant.
  • the monitoring camera 10 shifts to NDVI calculation processing, and the CPU 25 outputs a filter switching signal to the filter switching mechanism 15.
  • the filter switching mechanism 15 switches the filter located in front of the image sensor 22 in accordance with a filter switching signal from the CPU 25. That is, the filter switching mechanism 15 switches the filter located in front of the image sensor 22 from the visible light filter F6 that can capture a color image to the IR filter F4 that can capture an IR image.
  • the image processing unit 28 of the monitoring camera 10 captures the reflected light from the plant incident through the IR filter F4 by the image sensor 22, acquires the IR image GZ2, and temporarily stores the IR image GZ2 in the internal memory ( T3).
  • the IR image GZ2 temporarily stored in the internal memory of the image processing unit 28 is not output to the transmission unit 29. Since the monitor 30 does not receive the IR image GZ2 from the transmission unit 29, the display state of the already received color image GZ1 is maintained.
  • the image processing unit 28 may output the IR image GZ2 temporarily stored in the internal memory to the transmission unit 29 and stop the transmission unit 29 from transmitting the IR image GZ2 to the monitor 30.
  • the monitor 30 may stop displaying the IR image GZ2 even if it receives the IR image GZ2 from the transmission unit 29.
  • the filter switching mechanism 15 switches the filter located in front of the image sensor 22 in accordance with a filter switching signal from the CPU 25. That is, the filter switching mechanism 15 switches the filter located in front of the image sensor 22 from the IR filter F4 that can capture an IR image to the R filter F3 that can capture an R image.
  • the image processing unit 28 of the monitoring camera 10 captures the reflected light from the plant incident through the R filter F3 by the image sensor 22, acquires the R image GZ3, and temporarily stores the R image GZ3 in the internal memory ( T5).
  • the R image GZ3 temporarily stored in the internal memory of the image processing unit 28 is not output to the transmission unit 29. Since the monitor 30 does not receive the R image GZ3 from the transmission unit 29, the monitor 30 maintains the display state of the already received color image GZ1.
  • the image processing unit 28 may output the R image GZ3 temporarily stored in the internal memory to the transmission unit 29 and stop the transmission unit 29 from transmitting the R image GZ3 to the monitor 30.
  • the monitor 30 may stop displaying the R image GZ3 even if it receives the R image GZ3 from the transmission unit 29.
  • the image processing unit 28 uses the brightness L R of the luminance L IR and the R image GZ3 the IR image GZ2, according equation (1), calculates the NDVI for each pixel.
  • the image processing unit 28 generates an NDVI image GZ4 using the NDVI value calculated for each pixel (T6).
  • the transmission unit 29 transmits the NDVI image GZ4 to the monitor 30.
  • the monitor 30 displays the NDVI image GZ4 received from the monitoring camera 10 on the screen.
  • the surveillance camera 10 returns to the color image capturing operation again. Similar to the start of imaging, the CPU 25 outputs a filter switching signal to the filter switching mechanism 15.
  • the filter switching mechanism 15 switches the filter located in front of the image sensor 22 from the R filter F3 that can capture an R image to the visible light filter F6 that can capture a color image. Thereafter, the same operation is performed.
  • the aperture of the diaphragm is varied by automatic exposure control, and when the IR image is captured (T3) and when the R image is captured (T5), the aperture of the diaphragm is changed.
  • the fact that it may be set to a fixed value is the same as in the first embodiment.
  • FIG. 12 is a diagram illustrating an example of the color image GZ1 and the NDVI image GZ4 displayed side by side on the screen of the monitor 30.
  • the color image GZ1 and the NDVI image GZ4 are displayed side by side in a contrasting manner.
  • a color image GZ1 is displayed in which reflected light from a plant is captured through the visible light filter F6.
  • an NDVI image GZ4 in which the NDVI value for each pixel calculated by the image processing unit 28 is expressed in a color ranging from blue to green is displayed.
  • the NDVI image GZ4 is expressed in stepped colors (for example, three levels of blue, light blue, and green) with respect to NDVI values in the range of value 0 to value 1.
  • the user can know the growth condition of a plant roughly.
  • the NDVI value is not limited to three levels, and may be expressed in an arbitrary color by dividing it into an arbitrary number of levels.
  • the NDVI value may be expressed in five levels such as blue, light blue, green, yellow, and red.
  • the CPU 25 may set a threshold value for the NDVI value, and display only a color corresponding to a value equal to or higher than the threshold value or a color corresponding to a value equal to or lower than the threshold value on the monitor 30.
  • the NDVI image GZ4 is generated after the IR image GZ2 and the R image GZ3 are imaged and the NDVI value is calculated with respect to the color image GZ1, and therefore, between the imaging time of the color image GZ1 and the generation time of the NDVI image GZ4. Has a slight time difference (several tens of seconds).
  • the monitor 30 displays the color image GZ1 and the NDVI image GZ4 side by side on the screen for comparison, but the color image GZ1 and the NDVI image GZ4 may be displayed alternately for comparison.
  • an operation button for requesting the monitoring camera 10 to transmit the image data of the IR image GZ2 and the R image GZ3 captured in the middle is provided on the screen of the monitor 30, and the user desires
  • the IR image GZ2 and the R image GZ3 may be displayed on the screen of the monitor 30 by pressing this operation button.
  • the user can view the IR image GZ2 and the R image GZ3 only when necessary, which improves convenience.
  • the image sensor 22 captures the color image GZ1 through the visible light filter (infrared cut filter) F6, and through the IR filter F4 and the R filter F3.
  • An IR image GZ2 and an R image GZ3, which are used for calculation of NDVI, which is an index for observing the growth state of the plant, are respectively captured.
  • the transmission unit 29 outputs the color image GZ1 to the monitor 30 while the image sensor 22 is capturing the IR image GZ2 and the R image GZ3.
  • the monitor 30 displays a color image GZ1 instead of the IR image GZ2 and the R image GZ3.
  • IR filter F4 and the R filter F3 which are optical filters used for calculation of NDVI, which is an index for observing the growth state of a plant as a plant growth index
  • NDVI an index for observing the growth state of a plant as a plant growth index
  • the image sensor 22 picks up a color image GZ1 through a visible light filter (infrared cut filter) F6, and uses the 530 nm filter F1 and the 570 nm filter F2 as an indicator of the plant photosynthesis activity as a plant growth index.
  • a visible light filter infrared cut filter
  • F6 visible light filter
  • 530 nm filter F1 and the 570 nm filter F2 as an indicator of the plant photosynthesis activity as a plant growth index.
  • a 530 nm image and a 570 nm image are respectively used for calculation of an index (photosynthesis index) to be expressed.
  • the IR filter F4 is used as a first optical filter that passes the first wavelength related to the growth index of the plant
  • the R filter F3 is used as the second optical filter that passes the second wavelength related to the growth index of the plant.
  • NDVI Normalized Difference Vegetation Index
  • PRI Photochemical Reflection Index
  • the filter switching mechanism 15 moves the frame 161 to switch the filter located in front of the image sensor 22, the transmission unit 29 outputs the color image GZ1 to the monitor 30, so that the image is captured during the filter switching. Unnecessary captured image output is also blocked, and the user can be further prevented from erroneously recognizing the failure of the monitoring camera 10.
  • the transmission unit 29 outputs an image (NDVI image, PRI image) representing the calculation result of the growth index of the plant to the monitor 30, it becomes easy to find a leaf having a high degree of activity in the color image.
  • the transmission unit 29 outputs the color image GZ1 and the image (NDVI image, PRI image) representing the calculation result of the growth index of the plant to the monitor 30 in contrast, so that the leaf is a leaf having a high activity level. Regardless, it is possible to prevent the user from misrecognizing and cutting (leaf cutting) when the leaf has withered.
  • the change in the illuminance and color temperature of sunlight makes it difficult to understand the activity of the leaves, leading to a user's misjudgment. Therefore, in the third embodiment, an example of a monitoring camera that can reduce an error in a growth index of a plant even when affected by changes in light such as sunlight will be described.
  • the surveillance camera of the third embodiment has almost the same configuration as that of the first embodiment.
  • the description is abbreviate
  • the case where the monitoring camera 10 continuously captures a subject plant and monitors it with a color image is shown. In this imaging, automatic exposure control and color temperature correction control are performed.
  • FIG. 13 is a diagram for explaining an example of exposure control in the third embodiment.
  • the following three methods can be mentioned.
  • As the first method as shown in the first embodiment, there is a case where iris (aperture) control is performed.
  • a diaphragm 13z disposed in front of the image sensor 22 adjusts the opening of the diaphragm 13z in accordance with a diaphragm control signal from the CPU 25, and controls the amount of light incident through the lens 11.
  • the exposure amount may be controlled by controlling the charge accumulation time of the image sensor, or a mechanical shutter is provided in front of the image sensor, and exposure is performed by controlling the opening / closing time of the mechanical shutter. The amount may be controlled.
  • FIG. 14 is a flowchart showing an example of an automatic exposure control procedure.
  • the image sensor 22 images a plant that is a subject in accordance with an instruction from the CPU 25 (S11).
  • the filter switching mechanism 15 drives the motor 17 and slides the frame 161 so that the visible light filter F6 is positioned in front of the image sensor 22.
  • the image processing unit 28 detects an RGB value and a luminance value for each pixel unit (a predetermined number of pixel groups) in the image captured by the image sensor 22 (S12).
  • the RGB value is the luminance of each of R, G, and B pixels included in the pixel unit.
  • the luminance value is the luminance of the entire pixel unit.
  • the image processing unit 28 detects, as a green component pixel unit, a pixel unit having a G value ratio higher than a predetermined value among a plurality of pixel units constituting the captured image, and reads a luminance value of the pixel unit (S13). ).
  • the image processing unit 28 reads an ideal G value (for example, a green luminance value detected in the daytime in fine weather) stored in the internal memory (S14).
  • the ideal G value may be any green luminance value that can be easily observed by the user, and is not limited to this, and can be arbitrarily set.
  • the image processing unit 28 controls the exposure conditions so that the luminance value of the pixel unit detected as the green component read in step S13 is equal to the ideal G value (S15). Any of the three methods described above can be used as a method for controlling the exposure conditions, but here, the most commonly used aperture control is used.
  • the image captured by the image sensor 22 without being affected by the illuminance due to sunlight can be captured as an image captured in the daytime in fine weather.
  • the green brightness is almost proportional to the illuminance of sunlight compared to the brightness of red, infrared light, or near infrared light, so the green component was used here. It is also possible to use components, infrared light components, or near infrared light components.
  • FIG. 15 is a flowchart showing an example of the color temperature correction control procedure.
  • the image sensor 22 images a plant that is a subject in accordance with an instruction from the CPU 25 (S21).
  • the filter switching mechanism 15 drives the motor 17 and slides the frame 161 so that the visible light filter F6 is positioned in front of the image sensor 22.
  • the image processing unit 28 detects an RGB value and a luminance value for each pixel unit (a predetermined number of pixel groups) in the image captured by the image sensor 22 (S22).
  • the RGB value is the luminance of each of the R, G, and B pixels included in the pixel unit.
  • the luminance value is the luminance of the entire pixel unit.
  • the image processing unit 28 detects, as a green component pixel unit, a pixel unit having a G value ratio higher than a predetermined value among a plurality of pixel units constituting the captured image (S23). Further, the image processing unit 28 reads the R value and the B value in the pixel unit detected as the green component (S24).
  • the image processing unit 28 controls the pixel unit detected as the green component so that the R value and the B value become a predetermined ratio (S25).
  • S25 a predetermined ratio
  • the pixel unit detected as a green component is controlled so that the R value and the B value become a predetermined ratio
  • the R value and the B value captured in the daytime in fine weather are set to the R value in the evening.
  • Gain control is performed so as to lower the B value in the morning. As a result, the leaf color will not be bluish in the morning and will not be reddish in the evening.
  • the gain control may be performed so as to increase the G value and the B value instead of decreasing the R value, or the gain control may be performed so as to increase the G value and the R value instead of decreasing the B value. Also good.
  • the color temperature of the image captured by the image sensor 22 without being affected by the color temperature of sunlight is an image having a color temperature as captured in the daytime in fine weather, for example, It is possible to capture an image in which the color balance is corrected so that the color of the green component becomes true green.
  • the image sensor 22 captures the color image GZ1 of the plant that is the subject via the visible light filter (infrared cut filter) F6.
  • the image processing unit 28 detects the luminance value (G value) of the green component in the plant color image captured by the image sensor 22, and this G value is an ideal G value (imaged in the daytime in fine weather).
  • the exposure condition of the image sensor 22 is controlled so as to be equal to the luminance value of the green component obtained under a specific condition.
  • the transmission unit 29 outputs the color image GZ1 captured in a state where the exposure conditions are controlled to the monitor 30.
  • the monitor 30 displays the color image GZ1 on the screen.
  • the exposure conditions are controlled by adjusting the aperture of the aperture 13z. Accordingly, the exposure amount can be easily and dynamically varied by increasing or decreasing the aperture opening. In addition, it is possible to suppress a decrease in the S / N ratio of the electrical signal converted by the image sensor.
  • the image processing unit 28 controls the exposure condition by changing the amplification degree of the amplifier 28z that amplifies the image signal of the color image GZ1 captured by the image sensor 22. Thereby, it is possible to easily control the exposure conditions without providing parts such as a diaphragm.
  • the image sensor 22 controls the exposure condition by adjusting the opening / closing time of the shutter that opens and closes the passage of incident light. Thereby, the exposure amount can be adjusted with high accuracy.
  • the image processing unit 28 detects the color of the pixel unit in which the ratio of the green component is equal to or greater than a predetermined value in the color image captured by the image sensor 22, and the color of the pixel unit is captured in the daytime when the weather is clear.
  • the ratio of the red component and the blue component is controlled so that the green color obtained under a specific condition is obtained.
  • the monitoring camera performs NDVI or PRI calculation, NDVI image generation, exposure control, and color temperature correction control.
  • the monitoring camera captures image data of the captured image. May be performed on the basis of image data received from the surveillance camera by the PC only by transmitting to the PC (personal computer device).
  • FIG. 16 is a block diagram showing an example of the internal configuration of the surveillance camera system 5 in a modified example.
  • the surveillance camera system 5 includes a surveillance camera 10A and a PC 50.
  • the image processing unit 28A in the monitoring camera 10A performs image processing on the image captured by the image sensor 22, and transmits image data such as a visible light image, an IR image, an R image, a 530 nm image, and a 570 nm image to the transmission unit. However, since no NDVI or PRI calculation is performed, image data of the NDVI image or PRI image is not transmitted.
  • the PC 50 is a general-purpose computer device, and includes a CPU 51, a memory 54, a communication unit 52, an operation unit 53, and a monitor 55.
  • the PC 50 receives the image data transmitted from the monitoring camera 10A via the communication unit 52, the PC 50 performs NDVI or PRI calculation or NDVI image generation as described in the first to third embodiments. Further, exposure control and color temperature correction control are performed on the monitoring camera 10A.
  • the configuration of the monitoring camera 10A can be simplified, and the remote control of the monitoring camera 10A by the PC 50 becomes possible.
  • the filter switching mechanism moves the frame in a linear direction or a circumferential direction, but the movement method is not limited to this, and for example, moves in a frame shape (that is, in the horizontal direction and the vertical direction).
  • a frame shape that is, in the horizontal direction and the vertical direction.
  • Various movement methods are possible, such as moving in a rectangular shape by combining the movements of directions, or moving along an ellipse.
  • the present disclosure is useful as an imaging apparatus and an image processing method that can reduce an error of a growth index of a plant even when affected by changes in light such as sunlight and prevent a user from making an erroneous determination.

Landscapes

  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Immunology (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Biochemistry (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Botany (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Environmental Sciences (AREA)
  • Forests & Forestry (AREA)
  • Ecology (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Studio Devices (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

太陽光等の光の変化による影響を受けても、植物の生育指標の誤差を低減でき、ユーザの誤判断を防止できる撮像装置を提供する。監視カメラでは、イメージセンサが、可視光フィルタ(赤外カットフィルタ)を介して、被写体である植物のカラー画像を撮像する。画像処理部は、イメージセンサ(22)によって撮像される、植物のカラー画像のうち、緑色成分の輝度値(G値)を検出し、このG値が理想的なG値(晴天時の昼間に撮像されたような、特定の条件で得られる緑色成分の輝度値)と等しくなるように、イメージセンサの露光条件を制御する。送信部は、露光条件が制御された状態で撮像されたカラー画像をモニタに出力する。モニタは、カラー画像を画面に表示する。

Description

撮像装置及び画像処理方法
 本開示は、撮像された植物の画像を処理する撮像装置及び画像処理方法に関する。
 従来、作物の生育状況を分析する技術として、複数の観測波長域を有するイメージセンサを用いて、作物のスペクトル画像を撮像し、このスペクトル画像に基づいて正規化植生指数(NDVI:Normalized Difference Vegetation Index)、蛋白含有率等を推定することが知られている(例えば特許文献1参照)。
特開2006-250827号公報
 特許文献1を含む従来の撮像装置では、天候や時間帯によって太陽光の照度や色温度が変化するので、植物の生育指標を正確に推定することが難しかった。
 例えば、植物の葉の緑色成分は太陽光の影響を受けやすく、曇天の時には照度が低くなるので、実際には葉が枯れていないにもかかわらず、枯れているように見えたりする。また、朝方は太陽光の色温度が青色に近くなるので、葉が青く見えたり、夕方は太陽光の色温度がオレンジ色に近くなるので、葉に赤みが生じて見えたりする。このように、太陽光の照度や色温度の変化によって、葉の活性度が分かりにくくなり、ユーザの誤判断に繋がる。
 本開示は、上述した従来の状況に鑑みてなされたものであり、太陽光等の光の変化による影響を受けても、植物の生育指標の誤差を低減でき、ユーザの誤判断を防止する撮像装置及び画像処理方法を提供することを目的とする。
 本開示は、植物の画像を撮像する撮像装置であって、植物のカラー画像を撮像する撮像部と、撮像部によって撮像された植物のカラー画像のうち、緑色成分の輝度値を検出し、緑色成分の輝度値が特定の条件で得られる緑色成分の輝度値と等しくなるように、カラー画像の露光条件を制御する露光制御部と、露光制御部によって露光条件が制御された状態で、撮像部によって撮像された植物のカラー画像を出力する出力部と、を備える、撮像装置である。
 本開示は、カラー画像を出力可能な撮像部を有する撮像装置における画像処理方法であって、撮像部において、植物を撮像し、撮像装置によって撮像された植物のカラー画像のうち、緑色成分の輝度値を検出し、検出された緑色成分の輝度値が特定の条件で得られる緑色成分の輝度値と等しくなるように、植物のカラー画像の露光条件を制御し、露光条件が制御された状態で、撮像部によって撮像された植物のカラー画像を出力する、画像処理方法である。
 本開示によれば、太陽光等の光の変化による影響を受けても、植物の生育指標の誤差を低減でき、ユーザの誤判断を防止できる。
第1の実施形態の監視カメラの内部構成の一例を示すブロック図 監視カメラの内部に設けられたカメラ本体機構の一例を示す正面図 図2の矢印E-E線方向から視たカメラ本体機構の構造の一例を示す断面図 フィルタ切替機構の構造の一例を示す斜視図 フレームの形状の一例を示す正面図 各種フィルタの分光特性の一例を示すグラフ 6枚のフィルタのうちイメージセンサの前面に位置するフィルタを特定する方法の一例を説明する図 NDVI演算時における撮像動作手順の一例を時系列に示す図 PRI演算時における撮像動作手順の一例を時系列に示す図 他のカメラ本体機構の一例を示す正面図 第2の実施形態における撮像時の動作手順、使用するフィルタ、及び撮像画像の一例を時系列に示す図 モニタの画面に並べて表示されるカラー画像及びNDVI画像の一例を示す図 第3の実施形態における露光制御の一例を説明する図 自動露光制御手順の一例を示すフローチャート 色温度補正制御手順の一例を示すフローチャート 変形例における監視カメラシステムの内部構成の一例を示すブロック図
 以下、適宜図面を参照しながら、本開示に係る撮像装置及び画像処理方法を具体的に開示した各実施形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより請求の範囲に記載の主題を限定することは意図されていない。各実施形態の撮像装置は、例えば植物の生育状況を監視する監視カメラに適用されるとして説明するが、撮像対象は植物に限らず、その他の被写体を撮像してもよい。
 (第1の実施形態に至る経緯・課題)
 監視カメラが光学フィルタを切り替えて使用するフィルタ切替機構を有する場合、フィルタの切り替えに長い時間がかかってしまうと、照度の変化や風等の外乱要因により撮像条件が変化する可能性がある。従って、撮像中のフィルタの切り替えの途中で撮像条件が変化した場合、NDVI等の植物の生育指標を精度良く推定することができなかった。そこで、第1の実施形態では、監視カメラが安価な構成であっても、撮像中、照度の変化や風等の外乱要因の影響により撮像条件が変化する可能性が低くする監視カメラの例について説明する。
 (第1の実施形態)
 図1は、第1の実施形態の監視カメラ10の内部構成の一例を示すブロック図である。監視カメラ10は、被写体である植物を撮像してその撮像画像を出力する。監視カメラ10は、レンズ11、光学モジュール13、フィルタ切替機構15、オートバックフォーカス(ABF)機構21、CPU25、画像処理部28及び送信部29を有する。
 レンズ11は、監視対象(つまり、撮像対象)である植物からの反射光を集光し、イメージセンサ22にその光学像を結像させる。光学モジュール13は、レンズ11を通して入射する植物からの光の量を調節する絞り部の一例としての絞り(アイリス、とも呼ばれる)13zを有し、CPU25からの絞り制御信号に従い、絞り13zの開き具合(絞り量の一例としての開度)を調節する。
 切替部の一例としてのフィルタ切替機構15は、特定波長の光を透過させる複数枚のフィルタF1~F6(図5参照)を保持するホルダの一例としてのフィルタ保持部16、及び、このフィルタ保持部16を駆動し植物からの反射光を透過させるフィルタを切り替えるモータ17を有する。フィルタ切替機構15の詳細については後述する。
 ABF機構21は、イメージセンサ22の受光面に結像する光の焦点を自動で調節する。ABF機構21は、レンズ11によって集光され、フィルタを透過した光が受光面に結像した光学像を電気信号に変換する撮像部の一例としてのイメージセンサ22、及び、このイメージセンサ22の位置を光軸方向に移動させることで焦点調節を行うモータ24を有する。
 CPU25は、監視カメラ10の各部を統括的に制御する。CPU25は、光学モジュール13に絞り制御信号を出力し、フィルタ切替機構15にフィルタ切替信号を出力し、ABF機構21に撮像制御信号を出力する。CPU25には、画像処理専用のデジタルシグナルプロセッサ(DSP:Digital Signal Processor)が用いられる。
 演算部の一例としての画像処理部28は、例えばDSPを用いて構成され、イメージセンサ22から出力される電気信号を増幅するアンプ28z(図13参照)を有し、電気信号として出力される画像信号に対し、画像処理を行って撮像画像(画像データ)を得る。また、画像処理部28は、この撮像画像を基に、後述する生育状況を観察する指標であるNDVI(Normalized Difference Vegetation Index)、又は植物の光合成の活性度合いを表す指標(光合成指標)であるPRI(Photochemical Reflectance Index)を画素毎に算出する。
 出力部の一例としての送信部29は、画像処理部28から入力した、画像データ(画素毎のRGBの輝度値)、及び画素毎のNDVI値(又はPRI値)をモニタ30に送信する。
 表示装置の一例としてのモニタ30は、監視カメラ10と別体の装置であり、送信部29から送信された画像データ及びNDVI値(又はPRI値)に基づき、カラー画像及びNDVI画像(又はPRI画像)を画面に並べて対比的に表示する。
 図2は、監視カメラ10の内部に設けられたカメラ本体機構20の一例を示す正面図である。図3は、図2の矢印E-E線方向から視たカメラ本体機構20の構造の一例を示す断面図である。カメラ本体機構20には、前述したフィルタ切替機構15及びABF機構21が組み込まれている。
 カメラ本体機構20は、前面にレンズ11が嵌め込まれた枠体20zを有する。枠体20zの内側には、光軸に沿って被写体側からフィルタ切替機構15及びABF機構21が配置される。
 ABF機構21は、前述したように、イメージセンサ22及びモータ24を有する。イメージセンサ22は、センサ基板22zに搭載される。モータ24は、センサ基板22zを光軸方向に移動させるように駆動することで、焦点調節を行う。
 カメラ本体機構20は、図3の紙面左側から、レンズ11、フィルタ切替機構15、イメージセンサ22の順に設けられている。このようにすると、レンズ11を監視カメラ10の筐体面(図示せず)に設けることが可能になるので、レンズ11の交換が容易になる。
 フィルタ切替機構15は、前述したように、フィルタ保持部16及びモータ17(図4参照)を有する。図4は、フィルタ切替機構15の構造の一例を示す斜視図である。フィルタ保持部16は、6枚のフィルタF1~F6が交換自在に嵌めこまれたフレーム161、及びこのフレーム161をスライド自在に収納するフレームケース164を有する。フレームケース164の上面には、ギアボックス18が設けられる。
 モータ17は、ギアボックス18と連結し、モータ17のシャフト17zはギアボックス18内の歯車18wを軸支する。このシャフト17zの回転力は、ギアボックス18内の複数枚の歯車18w,18z,18yに順次伝達される。ギアボックス18内の最下段の歯車18yは、ピニオンギアとなっており、フレーム161の上面に形成されたラック163と歯合する。フレームケース164に収納されたフレーム161は、フレームケース164の内側の上面及び下面に敷設されたレール165に沿って、フレームケース164内を往復移動(スライド)自在である。従って、歯車18yが回転すると、歯車18yと歯合するラック163が移動し、フレーム161はフレームケース164の内側を矢印g方向に移動する。
 なお、フレームケース164の端部は、取り外しが可能である。フレームケース164の端部を取り外すことにより、レール165に沿ってフレーム161を簡易に取り出すことができ、フレーム161とは異なるフィルタを有する別のフレーム(図示せず)と簡易に交換することができる。これにより、NDVI値やPRI値以外の様々な植生指標を算出することが可能になる。
 図5は、フレーム161の形状の一例を示す正面図である。フレーム161は、細長い板状に形成された部材である。その長手方向の面には、複数個(ここでは6個)の開口部161z,161y,161x,161w,161v,161uが一列に形成されている。フレーム161の面に形成された6個の開口部161z~161uには、それぞれ特定波長の光の透過率が異なる複数のバンドパスフィルタ(単にフィルタ或いは光学フィルタともいう)が交換自在に嵌め込まれている。図5では、左側から530nmフィルタF1、570nmフィルタF2、赤色(R)フィルタF3、赤外(IR)フィルタF4、緑色(G)フィルタF5、及び可視光フィルタ(カラーフィルタ)F6が順に配される。本実施形態では、NDVIを演算する際に使用される、RフィルタF3とIRフィルタF4とが隣り合うように、フレーム161に配置される。また、PRIを演算する際に使用される、530nmフィルタF1と570nmフィルタF2とが隣り合うように、フレーム161に配置される。
 このように、RフィルタF3とIRフィルタF4とが隣り合う位置にあることで、NDVIを演算する際、これらのフィルタを切り替えるためのフレーム161の移動距離を短くすることができ、RフィルタF3とIRフィルタF4とを組み合わせた撮像時間を短縮できる。つまり、IRフィルタF4を用いて撮像を開始してからRフィルタF3を用いて撮像を終了するまでの時間が短くなる。これにより、照度の変化や風等の外乱要因の影響により撮像条件が変化する可能性を低減でき、NDVIの演算精度の低下が抑えられる。また、530nmフィルタF1と570nmフィルタF2とが隣り合う位置にある場合も同様であり、PRIの演算精度の低下が抑えられる。
 本実施形態では、PRIと比べ、NDVIを演算する頻度が高いので、NDVIを演算する際に使用される、RフィルタF3とIRフィルタF4は、緑色(G)フィルタF5或いは可視光フィルタF6に近い側に配置される。これにより、GフィルタF5或いは可視光フィルタF6をIRフィルタF4に切り替える際、フレーム161の移動距離を短くすることができ、撮像時間の短縮に繋がる。また、本実施形態では、NDVIを演算する際、後述するように、IR画像を撮像してからR画像を撮像するので、RフィルタF3に比べ、IRフィルタF4がGフィルタF5或いは可視光フィルタF6に近い側に配置される。これにより、フレーム161の移動距離をさらに短くすることができる。
 また、フレーム161の上面には、前述したように、モータ17によって駆動される歯車18yと歯合されるラック163が形成される。モータ17のシャフト17zが回転し、その回転力がギアボックス18内の歯車18yに伝達されると、歯車18yと歯合するラック163によってフレーム161が矢印g方向に移動する。
 図6は、各種フィルタの分光特性の一例を示すグラフである。グラフの縦軸は透過率(%)を示し、横軸は波長(nm)を示す。530nmフィルタF1は、光の波長530nmにおいて透過率の鋭いピークの波形(符号a)を有する。570nmフィルタF2は、波長570nmにおいて透過率の鋭いピークの波形(符号b)を有する。RフィルタF3は、波長660nmを中心とする透過率の高いピークの波形(符号c)を有する。IR(赤外)フィルタF4は、750nmを超える波長において、大きな透過率の波形(符号d)を有する。GフィルタF5は、550nmを略中心とする530nm~630nmの波長において、やや大きな透過率の波形(符号e)を有する。可視光フィルタF6は、可視光画像(カラー画像)を撮像する際に赤外光又は近赤外光をカット(遮蔽)する赤外カットフィルタであり、400nm~680nmの波長において、大きな透過率の波形(符号f)を有する。なお、本実施形態では、フレーム161に装着されないが、青色(B)フィルタもフレームに嵌め込むことで装着可能である。Bフィルタは、450nmを略中心とする400nm~500nmの波長において、やや大きな透過率の波形(符号g)を有する。
 図7は、6枚のフィルタF1~F6のうちイメージセンサ22の前面に位置するフィルタを特定する方法の一例を説明する図である。フィルタを特定する方法として、例えば次のような方法が挙げられる。フィルタF1~F6が嵌め込まれた、フレーム161の上部には、フィルタF1~F6に対応するように、それぞれ少なくとも1つの細孔164z~164uが形成される。また、レンズ11と対向するフレームケース164の面には、フレーム161に形成された細孔164z~164uを通して入射する光を受光可能な3つのフォトセンサ16zが配置される。3つのフォトセンサ16zは、それぞれ受光することでオンとなり、受光パルスを出力するスイッチとして機能する。
 ここでは、530nmフィルタF1の上部に位置するフレーム161には、3つの細孔164zが形成される。イメージセンサ22の前面に530nmフィルタF1が位置すると、3つの細孔164zを通して被写体である植物側から入射する光を3つのフォトセンサ16zがそれぞれ受光する。3つのフォトセンサ16zは3つの受光パルスを出力する。
 また、570nmフィルタF2の上部に位置するフレーム161には、2つの細孔164yが開口部161yに対して左側に形成される。イメージセンサ22の前面に570nmフィルタF2が位置すると、2つの細孔164yを通して被写体である植物側から入射する光を左側2つのフォトセンサ16zがそれぞれ受光する。左側2つのフォトセンサ16zは2つの受光パルスを出力する。
 以後、同様に、可視光フィルタF6の上部に位置するフレーム161には、1つの細孔164uが開口部161uに対して右側に形成される。イメージセンサ22の前面に可視光フィルタF6が位置すると、1つの細孔164uを通して被写体である植物側から入射する光を右側1つのフォトセンサ16zが受光する。右側1つのフォトセンサ16zは1つの受光パルスを出力する。
 フィルタ特定部の一例としてのCPU25は、3つのフォトセンサ16zで受光される光の受光パターンを検出することで、複数のフィルタF1~F6のうちいずれのフィルタがイメージセンサ22の前面に位置しているかを特定することが可能である。つまり、3つのフォトセンサ16zから全て受光パルスが出力されると、CPU25は、530nmフィルタF1がイメージセンサ22の前面に位置していると判断する。また、3つのフォトセンサ16zのうち右側1つから受光パルスが出力されると、CPU25は、可視光フィルタF6がイメージセンサ22の前面に位置していると判断する。
 なお、ここでは、被写体である植物側からの光をフレームに形成された細孔を通して検出するセンサとして、フォトセンサを用いたが、画像を撮像するためのイメージセンサがフレームに形成された細孔を通して植物側からの光を検出してもよく、この場合、フォトセンサが省かれ、フィルタ保持部の構成を簡単化できる。
 また、他のフィルタを特定する方法として、フレームに細孔を形成する代わりに、フレーム自体にフォトセンサを取り付けてもよい。例えば、530nmフィルタF1の上部に位置するフレーム161に3つのフォトセンサを取り付ける。570nmフィルタF2の上部に位置するフレーム161に、開口部161yに対して左側に2つのフォトセンサを取り付ける。以後、同様に、可視光フィルタF6の上部に位置するフレーム161に、開口部161uに対して右側に1つのフォトセンサを取り付ける。この場合も、フォトセンサから出力される受光パルスの組み合わせで、イメージセンサ22の前面に位置しているフィルタを特定することが可能である。
 また、フィルタF1~フィルタF6を特定するための細孔164z~164uは、それぞれフレーム161の下部に設けても良い。この場合、3つのフォトセンサ16zは、細孔164z~164uに対向するようにフレームケース164の下部または枠体20z内に設けられる。
 また、フィルタF1~フィルタF6を特定するための手段として、細孔164z~164uの代わりに、フレーム161の下縁に複数の突起(図示せず)を設けても良い。これら突起は、細孔164z~164uと同じ水平位置に設けられ、3つのフォトセンサ16zは、これら突起によって遮蔽されない入射光を受光して受光パルスを出力する。なお、3つのフォトセンサ16zは、これら突起に対向するようにフレームケース164の下部または枠体20z内に設けられる。CPU25は、これら受光パルスのパターンを識別することによって、イメージセンサ22の前面に位置しているフィルタを特定する。
 また、フィルタF1~フィルタF6を特定するための手段として、細孔164z~164uとフォトセンサ16zの代わりに、複数の磁石(図示せず)と3つの磁気センサ(図示せず)を設けても良い。これら磁石は細孔164z~164uと同じ位置に設けられ、3つの磁気センサは、3つのフォトセンサと同じ位置に設けられる。3つの磁気センサは、複数の磁石から発生する磁界を検出すると信号パルスを出力する。CPU25は、これら信号パルスのパターンを識別することによって、イメージセンサ22の前面に位置しているフィルタを特定する。なお、磁気センサとしてはコイルやホール素子が用いられる。
 また、フィルタF1~フィルタF6を特定するための手段として、細孔164z~164uとフォトセンサ16zの代わりに、突起(図示せず)とスイッチ(図示せず)を設けても良い。この突起は、フレーム161の下縁上の任意の位置(例えば、フィルタF1の真下の位置)に設けられる。スイッチは枠体20z内の線分EEに沿って配置され、当該突起と接触可能な位置に設けられる。フレーム161の動作中にスイッチが突起と接触すると、スイッチは信号パルスを出力する。CPU25は、この信号パルスを検出するとフィルタF1がイメージセンサ22の前面に位置していることを認識する。また、CPU25は、当該信号パルスを検出した時点からのモータ17の回転数を計測することによって、フィルタF2~F6のうち、どのフィルタがイメージセンサ22の前面に位置しているかを判断する。
 上記構造を有する監視カメラ10における撮像動作を示す。
 始めに、正規化植生指数(NDVI)は、植物の育成状況を観察するために用いられる指標であり、数式(1)に従い、画素値毎に算出される。
Figure JPOXMLDOC01-appb-M000001
 ここで、LIRは赤外光又は近赤外光の輝度を表し、Lは赤色光の輝度を表す。数式(1)で算出される、NDVI値は、値0~値1の範囲であり、値0に近い程、青に近い色で表現され、値1に近い程、緑に近い色で表現される。なお、CPU25は、LIRおよびLを算出する際は、入射する光量をできるだけ一定にするため、絞り13zの開度を固定値に設定する。
 CPU25は、NDVIの演算に必要な、植物のIR(赤外光又は近赤外光)画像及びR(赤色)画像を連続して撮像する。
 図8は、NDVI演算時における撮像動作手順の一例を時系列に示す図である。フィルタ切替機構15は、初期位置(つまり、ホームポジション)として、可視光フィルタF6がイメージセンサ22の前面に位置するように、モータ17を駆動しフレーム161をスライドさせる。
 通常、監視カメラ10は、植物を監視する際、自動露光でカラー画像を撮像する。CPU25は、植物の撮像を開始すると、照度センサ(図示せず)で外光を検出し、周囲の光量に応じて、光学モジュール13に絞り制御信号を出力し、絞り13zの開度を制御する自動露光制御を行う(S1)。なお、太陽光による照度、つまり周囲の光量は、イメージセンサ22によって検出されてもよく、この場合、照度センサを省くことができる。
 監視カメラ10は、初期位置に設定された可視光フィルタF6を通して入射する、植物からの反射光をイメージセンサ22で撮像し、カラー画像を得る(S2)。送信部29は、このカラー画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したカラー画像(映像)を画面に表示する。
 カラー画像を連続して撮像中、イベント(例えばタイムアップやユーザ操作)が発生すると、監視カメラ10は、NDVIの演算処理に移行する。CPU25は、絞り13zの開度を固定値に設定する(S3)。この固定値は、例えば緑色(G)の輝度が、晴天時の昼間に撮像されたG値(理想的なGの輝度値)となるように設定された、絞りの開度である。
 CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、カラー画像を撮像可能な可視光フィルタF6からIR画像を撮像可能なIRフィルタF4に切り替える。
 監視カメラ10は、IRフィルタF4を通して入射する植物からの反射光をイメージセンサ22で撮像してIR画像を取得すると、このIR画像を画像処理部28に出力する(S4)。画像処理部28は、IR画像を入力すると、内部メモリに一時的に記憶する。
 CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、IR画像を撮像可能なIRフィルタF4からR画像を撮像可能なRフィルタF3に切り替える。
 監視カメラ10は、RフィルタF3を通して入射する植物からの反射光をイメージセンサ22で撮像してR画像を取得すると、このR画像を画像処理部28に出力する(S5)。画像処理部28は、R画像を入力すると、内部メモリに一時的に記憶する。画像処理部28は、内部メモリに記憶されたIR画像及びR画像を読み出し、画素毎にIR画像の輝度LIRとR画像の輝度Lとを用い、数式(1)に従い、NDVIを演算する。画像処理部28は、画素毎に演算したNDVI値を用いてNDVI画像を生成する。送信部29は、画像処理部28によって生成されたNDVI画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したNDVI画像を画面に表示する。
 この後、CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、R画像を撮像可能なRフィルタF3からカラー画像を撮像可能な可視光フィルタF6に切り替える。
 この後、監視カメラ10は通常の動作に戻り、CPU25は、照度センサ(不図示)で外光を検出し、周囲の光量に応じて光学モジュール13に絞り制御信号を出力し、絞り13zの開度を自動で制御する自動露光制御を行う(S6)。
 監視カメラ10は、可視光フィルタF6を通して入射する、植物からの反射光をイメージセンサ22で撮像してカラー画像を取得する(S7)。送信部29は、このカラー画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したカラー画像を画面に表示する。以後、同様の動作が繰り返される。従って、カラー画像を撮像中、イベント(例えばタイムアップやユーザ操作)が発生すると、監視カメラ10は、前述したNDVIの演算処理に移行する。
 以上により、第1の実施形態の監視カメラ10では、イメージセンサ22は、IRフィルタF4を介して、植物の生育状況を観察する指標であるNDVIの演算に使用されるIR画像を撮像する。撮像後、フィルタ切替機構15は、IRフィルタF4とRフィルタF3とが隣り合った位置になるように保持されたフレーム161を動かし、イメージセンサ22の前面に位置するフィルタを、IRフィルタF4からRフィルタF3に切り替える。イメージセンサ22は、RフィルタF3を介して、植物の生育状況を観察する指標であるNDVIの演算に使用されるR画像を撮像する。画像処理部28は、撮像されたIR画像及びR画像を用いて、植物の生育状況を観察する指標であるNVDIを算出する。
 このように、第1の光学フィルタの一例としてのIRフィルタF4と第2の光学フィルタの一例としてのRフィルタF3とは隣り合った位置になるように、フレーム161(ホルダ)に保持されるので、IRフィルタF4とRフィルタF3との切替時間を短縮できる。従って、安価な構成であっても、撮像中、照度の変化や風等の外乱要因により撮像条件が変化する可能性が低くなり、演算されるNDVIの精度の低下を抑制できる。
 また、フィルタ切替機構15によってイメージセンサ22の前面に位置するように切り替えられたフィルタを検出可能な位置に配置された3つのフォトセンサ16zが受光した植物からの反射光の受光波形(つまり、受光パターン)によって、CPU25はイメージセンサ22の前面に位置するIRフィルタF4又はRフィルタF3を特定する。ここでは、検出可能な位置は、レンズ11と対向するフレームケース164の内側であって、フレーム161の上部に形成された細孔164z~164uを通して入射する光を受光可能な位置である。このように、機械的部品を用いることなく、簡単にイメージセンサ22の前面に位置するフィルタを特定できる。
 また、植物の生育指標の演算に使用されるフィルタとして、RフィルタF3は、赤色に対応する波長の光を透過させ、IRフィルタF4は、赤外光又は近赤外光を透過させるので、植物の生育状況を観察する指標であるNDVI(Normalized Difference VegetationIndex)を演算することができる。
 また、イメージセンサ22が、IRフィルタF4を介してIR画像を撮像し、RフィルタF3を介してR画像を撮像する場合、絞り13zの開度を固定値に設定するので、IR画像及びR画像の撮像中に起こる露光量の変化を少なくし、演算される植物の生育指標の推定精度の低下を抑えることができる。
 (第1の実施形態の変形例1)
 第1の実施形態では、植物の生育状況を観察する指標として、正規化植生指数(NDVI)を用いる場合を示したが、植物の光合成の活性度合いを表す指標である光合成指標(PRI)を用いてもよく、NDVIと同様の手順で分析することが可能である。
 光合成指標(PRI)は、植物の光合成の活性度合いを表す指標であり、数式(2)に従い、画素値毎に算出される。
Figure JPOXMLDOC01-appb-M000002
 ここで、L530は530nmの波長を有する光の輝度を表し、L570は570nmの波長を有する光の輝度を表す。数式(2)で算出されるPRI値は、値0~値1の範囲であり、値0に近い程、光合成の活性度合いが小さい色で表現され、値1に近い程、光合成の活性度合いが大きい色で表現される。
 また、葉の緑色部分は、太陽光による照度の影響を受け易いので、CPU25は、PRIの演算に必要な、植物の530nm画像及び570nm画像を連続して撮像する際、絞り13zの開度を固定値に設定し、イメージセンサ22に入射する光の量をできるだけ一定になるようにする。
 図9は、PRI演算時における撮像動作手順の一例を時系列に示す図である。フィルタ切替機構15は、初期位置(つまり、ホームポジション)として、可視光フィルタF6がイメージセンサ22の前面に位置するように、モータ17を駆動しフレーム161をスライドさせる。
 通常、監視カメラ10は、植物を監視する際、自動露光でカラー画像を撮像する。CPU25は、植物の撮像を開始すると、イメージセンサ22で外光を検出し、周囲の光量に応じて、光学モジュール13に絞り制御信号を出力し、絞り13zの開度を制御する自動露光制御を行う(S1)。
 監視カメラ10は、初期位置に設定された可視光フィルタF6を通して入射する、植物からの反射光をイメージセンサ22で撮像し、カラー画像を得る(S2)。送信部29は、このカラー画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したカラー画像を画面に表示する。
 カラー画像を連続して撮像中、イベント(例えばタイムアップやユーザ操作)が発生すると、監視カメラ10は、PRIの演算処理に移行する。CPU25は、絞り13zの開度を固定値に設定する(S3)。この固定値は、例えば緑色(G)の輝度が、晴天時の昼間に撮像されたG値(理想的なGの輝度値)となるように設定された、絞りの開度である。
 CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、カラー画像を撮像可能な可視光フィルタF6から530nm画像を撮像可能な530nmフィルタF1に切り替える。
 監視カメラ10は、530nmフィルタF1を通して入射する植物からの反射光をイメージセンサ22で撮像して530nm画像を取得すると、画像処理部28に出力する(S4A)。画像処理部28は、530nm画像を入力すると、内部メモリに一時的に記憶する。
 CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、530nm画像を撮像可能な530nmフィルタF1から570nm画像を撮像可能な570nmフィルタF2に切り替える。
 監視カメラ10は、570nmフィルタF2を通して入射する植物からの反射光をイメージセンサ22で撮像し、570nm画像を取得すると、画像処理部28に出力する(S5A)。画像処理部28は、570nm画像を入力すると、内部メモリに一時的に記憶する。
 画像処理部28は、内部メモリに記憶された530nm画像及び570nm画像を読み出し、画素毎に530nm画像の輝度と570nm画像の輝度とを用い、数式(2)に従い、PRIを演算する。画像処理部28は、画素毎に演算したPRI値を用いてPRI画像を生成する。送信部29は、PRI画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したPRI画像を画面に表示する。
 この後、CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、570nm画像を撮像可能な570nmフィルタF2からカラー画像を撮像可能な可視光フィルタF6に切り替える。
 監視カメラ10は通常の動作に戻り、CPU25は、照度センサ(図示せず)で外光を検出し、周囲の光量に応じて光学モジュール13に絞り制御信号を出力し、絞り13zの開度を制御する自動露光制御を行う(S6)。
 監視カメラ10は、可視光フィルタF6を通して入射する、植物からの反射光をイメージセンサ22で撮像してカラー画像を取得する(S7)。送信部29は、このカラー画像をモニタ30に送信する。モニタ30は、監視カメラ10から受信したカラー画像を画面に表示する。以後、同様の動作が繰り返される。つまり、カラー画像を撮像中、イベント(例えばタイムアップやユーザ操作)が発生すると、監視カメラ10は、前述したPRIの演算処理に移行する。
 このように、530nmフィルタF1と570nmフィルタF2とは隣り合った位置になるように、フレーム161(ホルダ)に保持されるので、530nmフィルタF1と570nmフィルタF2との切替時間を短縮できる。従って、安価な構成であっても、撮像中、照度の変化や風等の外乱要因により撮像条件が変化する可能性が低くなり、演算されるPRIの精度の低下を抑制できる。
 また、植物の生育指標の演算に使用されるフィルタとして、530nmフィルタF1は、530nmの波長の光を透過させ、570nmフィルタF2は、570nmの波長の光を透過させるので、植物の光合成の活性度合いを表す指標(光合成指標)であるPRI(Photochemical Reflectance Index)を演算することができる。
 (第1の実施形態の変形例2)
 第1の実施形態では、フレーム161をその長手方向にスライド移動させることで、6枚のフィルタF1~F6を切り替えていたが、この場合、フレーム161及びフレームケース164は、細長い板状に形成されるので、フィルタの枚数が多くなると、フレーム161及びフレームケース164の外形が一方向に延びて長くなり、監視カメラの筐体は取扱いに不便な形状となる。変形例では、フレーム及びフレームケースを円盤状に形成した場合を示す。
 図10は、他のカメラ本体機構20Aの一例を示す正面図である。カメラ本体機構20Aは、第1の実施形態と同様、前面にレンズ11が嵌め込まれた枠体20zを有する。カメラ本体機構20Aに組み込まれるフィルタ切替機構15Aは、円盤状に形成されたフレーム161A及びフレームケース164Aを有し、フレームケース164Aに収納されたフレーム161Aをその中心軸を中心に回転自在である。
 ここでは、フレーム161Aには、その周縁部に沿うように、8枚のフィルタF1~F8が交換自在に嵌め込まれている。フィルタF1~F6は、前記第1の実施形態と同様kのフィルタである。フィルタF7,F8はその他の分光特性を有するフィルタである。例えば、青色(B)フィルタF7は、450nmを略中心とする400nm~500nmの波長において、やや大きな透過率を有するフィルタである。
 フィルタ切替機構15Aは、前述したように、フィルタ保持部16A及びモータ17を有する。フレームケース164Aには、モータ17と連結したギアボックス(不図示)が設けられる。フレーム161Aの上面には、ギアボックスの最下段の歯車であるピニオンギア18Aと歯合するラック163Aが形成される。
 モータ17が回転し、シャフト17zの回転力がギアボックスに伝達され、ピニオンギア18Aが回転すると、このピニオンギアと歯合するラック163Aもフレーム161Aの中心軸を中心に回転する。フレーム161Aに嵌め込まれたフィルタは、イメージセンサ22の前面とレンズ11との間に位置するように、切り替えられる。
 この変形例2のように、円盤状のフレーム161Aの円周上に8枚のフィルタF1~F8を配置することで、直線上にフィルタを配置する場合と比べ、フレーム161A及びフレームケース164Aの外形を丸くすることができ、監視カメラの筐体を取り扱いに不便さを生じない形状にすることができる。
 (第2の実施形態に至る経緯・課題)
 監視カメラが光学フィルタを切り替えて撮像する場合、例えばNDVIを演算するために、赤色(R)フィルタやIR(赤外光又は近赤外光)フィルタを透過させて撮像した画像は、ユーザにとって必要の無い画像である。つまり、RフィルタやIRフィルタを透過させた撮像画像は、特定の波長を有する光だけを撮像した画像であるので、この撮像画像をモニタの画面に表示した場合、ユーザに対し画像が反転したような印象を与え、ユーザは監視カメラが故障していると誤認識するおそれがあった。また、RフィルタやIRフィルタを通過させた撮像画像は専門知識を有する者でないと植物の正確な育成状況を把握することは困難であり、そのような専門知識を有さない者は、本来植物の育成状況として正常である葉や茎、幹等の部位が枯死している等と勘違いをしてしまう可能性もあった。そこで、第2の実施形態では、ユーザが監視カメラの故障や撮像対象である植物の育成状況を誤認識することを防ぐ監視カメラの例について説明する。
 (第2の実施形態)
 第2の実施形態の監視カメラは第1の実施形態とほぼ同一の構成を有する。第1の実施形態と同一の構成要素については同一の符号を用いることで、その説明を省略する。
 図11は、第2の実施形態における撮像時の動作手順、使用するフィルタ、及び撮像画像を時系列に示す図である。
 撮像開始時(T1)、フィルタ切替機構15は、IR光をカットする可視光フィルタF6がイメージセンサ22の前面に位置するように、モータ17を駆動しフレーム161をスライドさせる。なお、図中、イメージセンサ22の前面に位置するフィルタは、太い枠線で描かれている。
 監視カメラ10は、初期位置に設定された可視光フィルタF6を通して入射する、植物からの反射光をイメージセンサ22で撮像し、カラー画像GZ1を得る。送信部29は、このカラー画像GZ1をモニタ30に送信する。モニタ30は、監視カメラ10から受信したカラー画像GZ1を画面に表示する。カラー画像GZ1は、植物を撮像した画像である。
 カラー画像を撮像中、イベント(例えばタイムアップやユーザ操作)が発生すると(T2)、監視カメラ10は、NDVIの演算処理に移行し、CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、カラー画像を撮像可能な可視光フィルタF6からIR画像を撮像可能なIRフィルタF4に切り替える。
 監視カメラ10の画像処理部28は、IRフィルタF4を通して入射する植物からの反射光をイメージセンサ22で撮像してIR画像GZ2を取得し、このIR画像GZ2を内部メモリに一時的に記憶する(T3)。ここでは、画像処理部28の内部メモリに一時的に記憶されたIR画像GZ2は、送信部29に出力されない。モニタ30は、送信部29からIR画像GZ2を受信しないので、既に受信済みのカラー画像GZ1の表示状態を維持する。
 なお、画像処理部28は内部メモリに一時的に記憶されたIR画像GZ2を送信部29に出力し、送信部29がモニタ30にIR画像GZ2を送信しないように停止してもよい。又は、モニタ30は、送信部29からIR画像GZ2を受信してもその表示を止めてもよい。
 CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する(T4)。フィルタ切替機構15は、CPU25からのフィルタ切替信号に従い、イメージセンサ22の前面に位置するフィルタを切り替える。つまり、フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、IR画像を撮像可能なIRフィルタF4からR画像を撮像可能なRフィルタF3に切り替える。
 監視カメラ10の画像処理部28は、RフィルタF3を通して入射する植物からの反射光をイメージセンサ22で撮像してR画像GZ3を取得し、このR画像GZ3を内部メモリに一時的に記憶する(T5)。ここでは、画像処理部28の内部メモリに一時的に記憶されたR画像GZ3は、送信部29に出力されない。モニタ30は、送信部29からR画像GZ3を受信しないので、既に受信済みのカラー画像GZ1の表示状態を維持する。
 なお、画像処理部28は内部メモリに一時的に記憶されたR画像GZ3を送信部29に出力し、送信部29がモニタ30にR画像GZ3を送信しないように停止してもよい。又は、モニタ30は、送信部29からR画像GZ3を受信してもその表示を止めてもよい。
 画像処理部28は、IR画像GZ2の輝度LIRとR画像GZ3の輝度Lとを用い、数式(1)に従い、画素毎にNDVIを演算する。画像処理部28は、画素毎に演算したNDVI値を用いてNDVI画像GZ4を生成する(T6)。送信部29は、NDVI画像GZ4をモニタ30に送信する。モニタ30は、監視カメラ10から受信したNDVI画像GZ4を画面に表示する。
 この後、監視カメラ10は、再びカラー画像の撮像動作に戻る。撮像開始時と同様、CPU25は、フィルタ切替機構15にフィルタ切替信号を出力する。フィルタ切替機構15は、イメージセンサ22の前面に位置するフィルタを、R画像を撮像可能なRフィルタF3からカラー画像を撮像可能な可視光フィルタF6に切り替える。以後、同様の動作が行われる。
 なお、カラー画像の撮像時(T1)には、自動露光制御で絞りの開度を可変させ、IR画像の撮像時(T3)及びR画像の撮像時(T5)には、絞りの開度を固定値に設定してもよいことは、前記第1の実施形態と同様である。
 図12は、モニタ30の画面に並べて表示されるカラー画像GZ1及びNDVI画像GZ4の一例を示す図である。モニタ30の画面には、カラー画像GZ1とNDVI画像GZ4とが並んで対比的に表示される。モニタ30の画面の左側には、植物から反射光が可視光フィルタF6を透過して撮像されたカラー画像GZ1が表示される。一方、モニタ30の画面右側には、画像処理部28によって演算された画素毎のNDVI値を青色から緑色の範囲の色で表現したNDVI画像GZ4が表示される。
 ここでは、NDVI画像GZ4は、値0~値1の範囲にあるNDVI値に対し、段階的な色(例えば、青色、水色、緑色の3段階)で表現される。これにより、ユーザはおおまかに植物の生育状況を知ることができる。なお、NDVI値は、3段階に限らず、任意の段階数に分けて任意の色で表現してもよく、例えば青色、水色、緑色、黄色、赤色といった5段階で表現することも可能である。また、CPU25は、NDVI値に対して閾値を設定して、当該閾値以上の値に対応する色または当該閾値以下の値に対応する色のみをモニタ30上に表示させるようにしても良い。
 また、カラー画像GZ1に対し、NDVI画像GZ4は、IR画像GZ2及びR画像GZ3を撮像しNDVI値を演算した後に生成されるので、カラー画像GZ1の撮像時刻とNDVI画像GZ4の生成時刻との間には、僅かな時間差(数十秒程度)がある。
 なお、ここでは、モニタ30は、カラー画像GZ1とNDVI画像GZ4とを画面に並べて対比的に表示したが、カラー画像GZ1とNDVI画像GZ4とを交互に表示して対比できるようにしてもよい。また、NDVI画像GZ4を生成するために、途中で撮像されたIR画像GZ2及びR画像GZ3の画像データの送信を監視カメラ10に要求する操作ボタンをモニタ30の画面に設け、ユーザが希望した場合、この操作ボタンを押下することで、カラー画像GZ1とNDVI画像GZ4の他、IR画像GZ2やR画像GZ3をモニタ30の画面に表示できるようにしてもよい。これにより、ユーザは必要な時にだけIR画像GZ2やR画像GZ3を見ることも可能となり、利便性が向上する。
 以上により、第2の実施形態の監視カメラ10では、イメージセンサ22が、可視光フィルタ(赤外カットフィルタ)F6を介してカラー画像GZ1を撮像し、IRフィルタF4及びRフィルタF3を介して、植物の生育状況を観察する指標であるNDVIの演算に使用される、IR画像GZ2及びR画像GZ3をそれぞれ撮像する。送信部29は、イメージセンサ22がIR画像GZ2及びR画像GZ3を撮像している間、カラー画像GZ1をモニタ30に出力する。モニタ30は、IR画像GZ2及びR画像GZ3の代わりに、カラー画像GZ1を表示する。
 このように、植物の生育指標として植物の生育状況を観察する指標であるNDVIの演算に用いられる光学フィルタであるIRフィルタF4及びRフィルタF3を透過させた画像を撮像している間、カラー画像(可視光画像)GZ1を出力するので、IRフィルタF4及びRフィルタF3をそれぞれ透過させたIR画像GZ2及びR画像GZ3の出力が遮られ、ユーザが監視カメラ10の故障や撮像対象である植物の育成状況を誤認識することを防ぐことができる。
 なお、イメージセンサ22が、可視光フィルタ(赤外カットフィルタ)F6を介してカラー画像GZ1を撮像し、530nmフィルタF1及び570nmフィルタF2を介して、植物の生育指標として植物の光合成の活性度合いを表す指標(光合成指標)の演算に使用される、530nm画像及び570nm画像をそれぞれ撮像する場合も同様である。
 また、植物の生育指標に関する第1波長を通過させる第1の光学フィルタとしてIRフィルタF4、前記植物の生育指標に関する第2波長を通過させる第2の光学フィルタとしてRフィルタF3を用いることで、植物の生育状況を観察する指標であるNDVI(Normalized Difference Vegetation Index)を容易に演算することができる。また、530nmフィルタF1及び570nmフィルタF2を用いることで、植物の光合成の活性度合いを表す指標(光合成指標)であるPRI(Photochemical Reflectance Index)を容易に演算することができる。
 また、フィルタ切替機構15が、フレーム161を動かして、イメージセンサ22の前面に位置するフィルタを切り替えている間、送信部29はカラー画像GZ1をモニタ30に出力するので、フィルタの切替中に撮像される不要な撮像画像の出力も遮られ、より一層、ユーザが監視カメラ10の故障を誤認識することを防ぐことができる。
 また、送信部29は、植物の生育指標の演算結果を表す画像(NDVI画像,PRI画像)をモニタ30に出力するので、カラー画像中に活性度合いの高い葉を見つけることが容易になる。
 また、送信部29は、カラー画像GZ1と、植物の生育指標の演算結果を表す画像(NDVI画像,PRI画像)とを対比的にモニタ30に出力するので、活性度合いが高い葉であるにもかかわらず、枯れてしまっている葉であると、ユーザが誤認識して刈り取る(葉刈りする)ことも避けることができる。
 (第3の実施形態に至る経緯・課題)
 監視カメラが光学フィルタを切り替えて撮像する場合、天候や時間帯によって太陽光の照度や色温度が変化するので、植物の生育指標を正確に推定することが難しかった。葉の緑色成分は、太陽光の照度によって直線的に輝度が変化し、その他の色成分は葉の植生状態によって輝度が変化する。例えば、葉の緑色成分は曇天の時には照度が低くなるので、輝度が小さくなり暗くて見えづらくなる。また、朝方は、太陽光の色温度が青色に近くなるので、葉が青く見えたり、夕方は、太陽光の色温度がオレンジ色に近くなるので、葉に赤みが生じて見えたりする。このように、太陽光の照度や色温度の変化によって、葉の活性度が分かりにくくなり、ユーザの誤判断に繋がる。そこで、第3の実施形態では、太陽光等の光の変化による影響を受けても、植物の生育指標の誤差を低減できるようにする監視カメラの例について説明する。
 (第3の実施形態)
 第3の実施形態の監視カメラは第1の実施形態とほぼ同一の構成を有する。第1の実施形態と同一の構成要素については同一の符号を用いることで、その説明を省略する。
 監視カメラ10が被写体である植物を連続して撮像しカラー画像で監視する場合を示す。この撮像では、自動露光制御及び色温度補正制御が行われる。
 図13は、第3の実施形態おける露光制御の一例を説明する図である。露光条件を制御する場合、例えば次の3つの方法が挙げられる。第1の方法として、第1の実施形態で示したように、アイリス(絞り)制御を行う場合が挙げられる。イメージセンサ22の前面に配置された、絞り13zは、CPU25からの絞り制御信号に従い、絞り13zの開度を調節し、レンズ11を通して入射する光の光量を制御する。
 第2の方法として、イメージセンサ22で電気信号に変換された画像信号のゲイン制御を行う場合が挙げられる。画像処理部28には、前述したように、画像処理専用のデジタルシグナルプロセッサ(DSP)が用いられるので、ゲイン制御は、DSP内のアンプ28zの増幅度を可変することで行われる。
 第3の方法として、イメージセンサ22に入射する光の通過を開閉するシャッタを制御する場合が挙げられる。シャッタ制御を行う場合、イメージセンサの電荷蓄積時間を制御することで露光量を制御してもよいし、イメージセンサの前面に機械式シャッタを設け、機械式シャッタの開閉時間を制御することで露光量を制御してもよい。
 図14は、自動露光制御手順の一例を示すフローチャートである。まず、イメージセンサ22は、CPU25からの指示に従い、被写体である植物を撮像する(S11)。この撮像では、フィルタ切替機構15は、可視光フィルタF6がイメージセンサ22の前面に位置するように、モータ17を駆動してフレーム161をスライドさせておく。
 画像処理部28は、イメージセンサ22で撮像された画像に対し、画素ユニット(所定数の画素群)毎にRGB値及び輝度値を検出する(S12)。RGB値は、画素ユニットに含まれるR、G、Bの各画素の輝度である。輝度値は、画素ユニット全体の輝度である。
 画像処理部28は、撮像画像を構成する複数の画素ユニットのうち、G値の割合が所定値以上に高い画素ユニットを緑色成分の画素ユニットとして検出し、この画素ユニットの輝度値を読み込む(S13)。
 画像処理部28は、内部メモリに記憶された、理想的なG値(例えば晴天時の昼間に検出された緑色の輝度値)を読み込む(S14)。なお、理想的なG値としては、ユーザが観察し易い緑色の輝度値であればよく、これに限られず、任意に設定可能である。画像処理部28は、ステップS13で読み込まれた緑色成分として検出された画素ユニットの輝度値が理想的なG値と等しくなるように、露光条件を制御する(S15)。露光条件を制御する方法は、前述した3つの方法のいずれでも可能であるが、ここでは、最も良く用いられる絞り制御で行われる。
 露光条件を制御した結果、太陽光による照度の影響を受けることなく、イメージセンサ22で撮像された画像は、晴天時の昼間に撮像されたような輝度を有する画像の撮像が可能となる。なお、露光条件を制御する際、緑色の輝度は、赤色や赤外光又は近赤外光の輝度と比べ、太陽光の照度にほぼ比例するので、ここでは緑色成分が用いられたが、赤色成分や赤外光成分或いは近赤外光成分を用いることも可能である。
 図15は、色温度補正制御手順の一例を示すフローチャートである。まず、イメージセンサ22は、CPU25からの指示に従い、被写体である植物を撮像する(S21)。この撮像では、フィルタ切替機構15は、可視光フィルタF6がイメージセンサ22の前面に位置するように、モータ17を駆動しフレーム161をスライドさせておく。
 画像処理部28は、イメージセンサ22で撮像された画像に対し、画素ユニット(所定数の画素群)毎にRGB値及び輝度値を検出する(S22)。前述したように、RGB値は、画素ユニットに含まれるR、G、Bの各画素の輝度である。輝度値は、画素ユニット全体の輝度である。
 画像処理部28は、撮像画像を構成する複数の画素ユニットのうち、G値の割合が所定値以上に高い画素ユニットを緑色成分の画素ユニットとして検出する(S23)。更に、画像処理部28は、緑色成分として検出された画素ユニットにおけるR値及びB値を読み込む(S24)。
 色温度制御部の一例としての画像処理部28は、緑色成分として検出された画素ユニットに対し、R値とB値が所定の割合になるように制御する(S25)。緑色成分として検出された画素ユニットに対し、R値とB値が所定の割合になるように制御する場合、例えば、晴天時の昼間に撮像したR値及びB値に対し、夕方ではR値を下げるように、また、朝ではB値を下げるように、ゲイン制御を行う。これにより、朝では、葉の色が青みがかることはなくなり、夕方では、赤みがかることはなくなる。なお、R値を下げる代わりに、G値及びB値を上げるように、ゲイン制御を行ってもよいし、B値を下げる代わりに、G値及びR値を上げるように、ゲイン制御を行ってもよい。
 この色温度補正制御の結果、太陽光の色温度の影響を受けることなく、イメージセンサ22で撮像された画像の色温度は、晴天時の昼間に撮像されたような色温度を有する画像、例えば緑色成分の色が真の緑色になるように色バランスが補正された画像の撮像が可能となる。
 以上により、第3の実施形態の監視カメラ10では、イメージセンサ22が、可視光フィルタ(赤外カットフィルタ)F6を介して、被写体である植物のカラー画像GZ1を撮像する。画像処理部28は、イメージセンサ22によって撮像される、植物のカラー画像のうち、緑色成分の輝度値(G値)を検出し、このG値が理想的なG値(晴天時の昼間に撮像されたような、特定の条件で得られる緑色成分の輝度値)と等しくなるように、イメージセンサ22の露光条件を制御する。送信部29は、露光条件が制御された状態で撮像されたカラー画像GZ1をモニタ30に出力する。モニタ30は、カラー画像GZ1を画面に表示する。
 これにより、太陽光の照度の変化による影響を受けることなく、カラー画像を出力できる。従って、曇天であっても、晴天で撮像したようなカラー画像を得ることができる。
 また、絞り13zの開度を調節することで、露光条件を制御する。これにより、絞りの開度を大きくしたり小さくすることで、露光量を簡単かつダイナミックに可変できる。また、イメージセンサで変換される電気信号のS/N比の低下を抑えることができる。
 また、画像処理部28は、イメージセンサ22で撮像されたカラー画像GZ1の画像信号を増幅するアンプ28zの増幅度を可変することで、露光条件を制御する。これにより、絞り等の部品を設けなくても、露光条件を簡単に制御できる。
 また、イメージセンサ22は、入射する光の通過を開閉するシャッタの開閉時間を調整することで、露光条件を制御する。これにより、露光量を精度良く調整できる。
 また、画像処理部28は、イメージセンサ22によって撮像されるカラー画像のうち、緑色成分の割合が所定値以上である画素ユニットの色を検出し、画素ユニットの色が晴天時の昼間に撮像されたような、特定の条件で得られる緑色となるように、赤色成分及び青色成分の割合を制御する。
 これにより、太陽光の色温度の変化による影響を受けることなく、晴天時の昼間に撮像したようなカラー画像を得ることができる。従って、朝に葉の色が青みがかって撮像されることなく、夕方に葉の色が赤みがかって撮像されることなく、晴天時の昼間に撮像されたような葉の色となる。また、水分を吸い過ぎた葉の緑色は薄くなるが、このような場合でも、葉の色は水分を吸い過ぎていないように表示されるので、ユーザは葉の状態を勘違いすることなく判断できる。従って、植物の葉の色を鮮明に撮像することができる。
 (第1~第3の各実施形態の変形例)
 上記第1~第3の各実施形態では、監視カメラが、NDVIやPRIの演算、NDVI画像の生成、露光制御、及び色温度補正制御を行っていたが、監視カメラは撮像した画像の画像データをPC(パーソナルコンピュータ装置)に送信するだけで、PCが監視カメラから受信した画像データを基に、上記処理を行ってもよい。
 図16は、変形例における監視カメラシステム5の内部構成の一例を示すブロック図である。監視カメラシステム5は、監視カメラ10A及びPC50を有する。監視カメラ10A内の画像処理部28Aは、イメージセンサ22で撮像された画像に対して画像処理を行い、可視光画像、IR画像、R画像、530nm画像、570nm画像等の画像データを、送信部29を介してPC50に送信するが、NDVIやPRIの演算を行わないので、NDVI画像やPRI画像の画像データは送信されない。
 PC50は、汎用のコンピュータ装置であり、CPU51、メモリ54、通信部52、操作部53及びモニタ55を有する。PC50は、監視カメラ10Aから送信される画像データを、通信部52を介して受信すると、前記第1~第3の実施形態で示したような、NDVIやPRIの演算やNDVI画像の生成を行い、また、監視カメラ10Aに対し、露光制御や色温度補正制御を行う。
 これにより、監視カメラ10Aの構成を簡単化することができ、また、PC50による監視カメラ10Aの遠隔制御が可能となる。
 以上、図面を参照しながら各種の実施形態について説明したが、本開示はかかる例に限定されないことは言うまでもない。当業者であれば、請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。
 例えば、上記各実施形態では、フィルタ切替機構は、フレームを直線方向に或いは円周方向に動かしていたが、動かし方はこれに限定されず、例えば枠状に移動させる(つまり、水平方向及び垂直方向の移動を組み合わせて矩形状に移動させる)、楕円形に沿うように移動させる等、種々の移動の方法が可能である。
 本開示は、太陽光等の光の変化による影響を受けても、植物の生育指標の誤差を低減でき、ユーザの誤判断を防止する撮像装置及び画像処理方法として有用である。
 5 監視カメラシステム
 10,10A 監視カメラ
 11 レンズ
 13 光学モジュール
 13z 絞り
 15,15A フィルタ切替機構
 16,16A フィルタ保持部
 16z フォトセンサ
 17,24 モータ
 17z シャフト
 18 ギアボックス
 18w,18y,18z 歯車
 18A ピニオンギア
 20,20A カメラ本体機構
 20z 枠体
 21 ABF機構
 22 イメージセンサ
 22z センサ基板
 25 CPU
 28,28A 画像処理部
 28z アンプ
 29 送信部
 30 モニタ
 50 PC
 51 CPU
 52 通信部
 53 操作部
 54 メモリ
 55 モニタ
 161,161A フレーム
 161z,161y,161x,161w,161u 開口部
 163,163A ラック
 164,164A フレームケース
 164z,164y,164x,164w,164u 細孔
 165 レール
 F1~F8 フィルタ
 GZ1 カラー画像
 GZ2 IR画像
 GZ3 R画像
 GZ4 NDVI画像

Claims (10)

  1.  植物の画像を撮像する撮像装置であって、
     前記植物のカラー画像を撮像する撮像部と、
     前記撮像部によって撮像された前記植物のカラー画像のうち、緑色成分の輝度値を検出し、前記緑色成分の輝度値が特定の条件で得られる緑色成分の輝度値と等しくなるように、前記カラー画像の露光条件を制御する露光制御部と、
     前記露光制御部によって前記露光条件が制御された状態で、前記撮像部によって撮像された前記植物のカラー画像を出力する出力部と、を備える、
     撮像装置。
  2.  請求項1に記載の撮像装置であって、
     絞り部、を更に有し、
     前記露光制御部は、前記絞りの絞り量を調節することで、前記露光条件を制御する、
     撮像装置。
  3.  請求項1に記載の撮像装置であって、
     前記撮像部によって撮像された前記植物のカラー画像の画像信号を増幅するアンプ、を更に有し、
     前記露光制御部は、前記アンプの増幅度を変更することで、前記露光条件を制御する、
     撮像装置。
  4.  請求項1に記載の撮像装置であって、
     前記撮像部に入射する前記植物の反射光の通過を開閉するシャッタ、を更に備え、
     前記露光制御部は、前記シャッタの開閉時間を変更することで、前記露光条件を制御する、
     撮像装置。
  5.  請求項1に記載の撮像装置であって、
     前記撮像部によって撮像された前記植物のカラー画像のうち、緑色成分の割合が所定値以上である画素群の色を検出し、前記画素群の色が前記特定の条件で得られる緑色となるように、赤色成分及び青色成分の割合を制御する色温度制御部、を更に備える、
     撮像装置。
  6.  カラー画像を出力可能な撮像部を有する撮像装置における画像処理方法であって、
     前記撮像部において、植物を撮像し、
     前記撮像装置によって撮像された前記植物のカラー画像のうち、緑色成分の輝度値を検出し、
     検出された前記緑色成分の輝度値が特定の条件で得られる緑色成分の輝度値と等しくなるように、前記植物のカラー画像の露光条件を制御し、
     前記露光条件が制御された状態で、前記撮像部によって撮像された前記植物のカラー画像を出力する、
     画像処理方法。
  7.  請求項6に記載の画像処理方法であって、更に、
     絞り量を調節することで、前記露光条件を制御する、
     画像処理方法。
  8.  請求項6に記載の画像処理方法であって、更に、
     前記植物のカラー画像の画像信号を増幅し、
     前記画像信号の増幅度を変更することで、前記露光条件を制御する、
     画像処理方法。
  9.  請求項6に記載の画像処理方法であって、更に、
     前記植物の反射光の通過時間を変更することで、前記露光条件を制御する、
     画像処理方法。
  10.  請求項6に記載の画像処理方法であって、更に、
     前記植物のカラー画像のうち、緑色成分の割合が所定値以上である画素群の色を検出し、前記画素群の色が前記特定の条件で得られる緑色となるように、赤色成分及び青色成分の割合を制御する、
     画像処理方法。
PCT/JP2016/002083 2015-06-19 2016-04-19 撮像装置及び画像処理方法 WO2016203690A1 (ja)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2015-124252 2015-06-19
JP2015-124250 2015-06-19
JP2015124252A JP2017011459A (ja) 2015-06-19 2015-06-19 撮像装置及び画像処理方法
JP2015-124251 2015-06-19
JP2015124250A JP5991603B1 (ja) 2015-06-19 2015-06-19 撮像装置
JP2015124251A JP2017009395A (ja) 2015-06-19 2015-06-19 撮像装置及び表示制御方法

Publications (1)

Publication Number Publication Date
WO2016203690A1 true WO2016203690A1 (ja) 2016-12-22

Family

ID=57545224

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2016/002083 WO2016203690A1 (ja) 2015-06-19 2016-04-19 撮像装置及び画像処理方法

Country Status (1)

Country Link
WO (1) WO2016203690A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008072233A (ja) * 2006-09-12 2008-03-27 Olympus Corp 画像処理システム、画像処理プログラム
JP2011004257A (ja) * 2009-06-19 2011-01-06 Canon Inc 撮像装置、信号処理方法、及びプログラム
JP2013231645A (ja) * 2012-04-27 2013-11-14 Ito En Ltd 茶葉の摘採適性評価方法及び摘採適性評価装置、摘採適性評価システム並びにコンピュータ使用可能な媒体
JP2014132266A (ja) * 2013-01-07 2014-07-17 Ricoh Co Ltd 露光条件及びフィルタ位置を使用したマルチモード光照射野撮像システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008072233A (ja) * 2006-09-12 2008-03-27 Olympus Corp 画像処理システム、画像処理プログラム
JP2011004257A (ja) * 2009-06-19 2011-01-06 Canon Inc 撮像装置、信号処理方法、及びプログラム
JP2013231645A (ja) * 2012-04-27 2013-11-14 Ito En Ltd 茶葉の摘採適性評価方法及び摘採適性評価装置、摘採適性評価システム並びにコンピュータ使用可能な媒体
JP2014132266A (ja) * 2013-01-07 2014-07-17 Ricoh Co Ltd 露光条件及びフィルタ位置を使用したマルチモード光照射野撮像システム

Similar Documents

Publication Publication Date Title
JP2017011459A (ja) 撮像装置及び画像処理方法
EP2354843B1 (en) Calibration of a Lense Device
US8629916B2 (en) Camera with imaging unit and imaging unit for camera
US7460160B2 (en) Multispectral digital camera employing both visible light and non-visible light sensing on a single image sensor
JP6060494B2 (ja) 撮像装置
US20230213386A1 (en) Imaging device with spectrometer and methods for use therewith
KR20100090319A (ko) 피사체의 근접여부 판단이 가능한 이미지센서
JP2005341175A5 (ja)
US10021357B2 (en) Image capturing apparatus and method for generating image data
JP2013198041A (ja) 画像処理装置
JP2015102517A (ja) 撮像装置、撮像システムおよび当該撮像装置による撮像方法
CN107111094A (zh) 透镜镜筒及其控制方法、相机主体及其控制方法以及摄影装置及其控制方法
JP5991603B1 (ja) 撮像装置
JP5564812B2 (ja) 植物体の生育変化の連続測定方法
JP2017009395A (ja) 撮像装置及び表示制御方法
WO2016203689A1 (ja) 撮像装置
KR101778380B1 (ko) 식물 관리 장치 및 이를 이용한 식물 관리 시스템
WO2016203690A1 (ja) 撮像装置及び画像処理方法
JP2011097264A (ja) 撮像装置
WO2017022331A1 (ja) 制御装置、制御方法、コンピュータプログラム及び電子機器
CN202617286U (zh) 影像获取装置
CN115187559A (zh) 用于图像的光照检测方法、装置、存储介质与电子设备
US9906705B2 (en) Image pickup apparatus
JP2006308766A5 (ja)
US20230082539A1 (en) Illuminant correction in an imaging system

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16811171

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 16811171

Country of ref document: EP

Kind code of ref document: A1