WO2016167189A1 - 撮像装置、画像処理装置、画像処理方法、プログラム及び記録媒体 - Google Patents
撮像装置、画像処理装置、画像処理方法、プログラム及び記録媒体 Download PDFInfo
- Publication number
- WO2016167189A1 WO2016167189A1 PCT/JP2016/061512 JP2016061512W WO2016167189A1 WO 2016167189 A1 WO2016167189 A1 WO 2016167189A1 JP 2016061512 W JP2016061512 W JP 2016061512W WO 2016167189 A1 WO2016167189 A1 WO 2016167189A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- optical system
- imaging
- image
- wavelength component
- target image
- Prior art date
Links
- 238000012545 processing Methods 0.000 title claims abstract description 390
- 238000003384 imaging method Methods 0.000 title claims abstract description 320
- 238000003672 processing method Methods 0.000 title claims abstract description 8
- 230000003287 optical effect Effects 0.000 claims abstract description 682
- 238000000034 method Methods 0.000 claims abstract description 159
- 238000011156 evaluation Methods 0.000 claims abstract description 149
- 230000008569 process Effects 0.000 claims abstract description 127
- 238000012546 transfer Methods 0.000 claims abstract description 84
- 238000004891 communication Methods 0.000 claims description 56
- 230000002093 peripheral effect Effects 0.000 abstract description 81
- 230000006870 function Effects 0.000 description 101
- 238000010586 diagram Methods 0.000 description 22
- 230000004075 alteration Effects 0.000 description 9
- 238000001514 detection method Methods 0.000 description 9
- 230000015556 catabolic process Effects 0.000 description 7
- 238000006731 degradation reaction Methods 0.000 description 7
- 238000013461 design Methods 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 6
- 230000033001 locomotion Effects 0.000 description 6
- 238000012544 monitoring process Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 230000006872 improvement Effects 0.000 description 5
- 230000001133 acceleration Effects 0.000 description 4
- 230000007423 decrease Effects 0.000 description 4
- 230000003321 amplification Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 238000003199 nucleic acid amplification method Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 230000005674 electromagnetic induction Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000010363 phase shift Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19617—Surveillance camera constructional details
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19654—Details concerning communication with a camera
- G08B13/19656—Network used to communicate with a camera, e.g. WAN, LAN, Internet
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B25/00—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
- G08B25/01—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
- G08B25/08—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium using communication transmission lines
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/10—Image enhancement or restoration using non-spatial domain filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/40—Image enhancement or restoration using histogram techniques
Definitions
- the present invention relates to an imaging apparatus, an image processing apparatus, an image processing method, a program, and a recording medium, and more particularly, to a restoration processing technique for a wide-angle captured image.
- a captured image obtained by an imaging apparatus such as a digital camera includes a degradation component such as blur and distortion caused by aberrations of the optical system.
- a degradation component such as blur and distortion caused by aberrations of the optical system.
- Patent Document 1 discloses an imaging apparatus that restores an original image.
- this imaging apparatus an image taken using an optical system having a horizontal field angle of 180 ° or more by a deconvolution process using a blur reduction filter created in accordance with a point spread function (PSF: Point Spread Function). The blur is reduced.
- PSF Point Spread Function
- the size and cost of an optical system that can be used in an imaging apparatus is limited according to the usage environment and user needs.
- a small and inexpensive optical system is required.
- it is generally desirable that at least the total length of the optical system is about 100 mm or less and the diameter of the optical system is about 70 mm or less.
- the restoration process based on the optical transfer function is not universal, and the effect obtained by the restoration process greatly varies depending on the optical performance of the optical system and the S / N ratio (Signal-Noise ratio) of the imaging system. It will deteriorate the image quality.
- a Wiener filter that is widely used in restoration processing works to suppress image quality degradation due to noise amplification, and therefore there is a possibility that the resolution of the image is deteriorated by restoration processing when the SN ratio of the imaging system is low.
- the inventor of the present invention relates to an optical system used for wide-angle photography, and “the optimal balance of optical performance of the optical system is obtained in order to obtain an effect of improving image resolution by a restoration process based on an optical transfer function”. "In particular, we found a new technical problem that it was very difficult to determine” the optimal balance between the amount of peripheral light in the optical system and the resolution performance ".
- Patent Document 1 discloses performing restoration processing on a wide-angle photographed image having a horizontal angle of view of 180 ° or more, but discloses the balance between the peripheral light amount of the optical system and the resolution performance optimal for the restoration processing. There is no suggestion.
- the present invention has been made in view of the above circumstances, and a wide-angle photographed image obtained by using an optical system in which restoration processing based on the optical transfer function of the optical system has a good balance with respect to peripheral light amount and resolution performance. It aims at providing the technique for making it be performed with respect to.
- One embodiment of the present invention includes an optical system, an imaging element that receives imaging light through the optical system and outputs a target image, and a restoration process that performs a restoration process based on an optical transfer function of the optical system on the target image
- the optical system has a total angle of view exceeding 90 degrees, and the light quantity evaluation region of the optical system has a distance from the center of the imaging surface of the imaging surface of the optical system being 2 of the diagonal of the imaging surface of the imaging device.
- An optical system region that represents 80% or more of the length of a fraction, and the optical system region corresponding to the center of the imaging surface when the first evaluation wavelength including a wavelength component of 546.1 nm is used.
- the ratio of the amount of light in the light amount evaluation region to the amount of light is 25% or more, the wavelength component of 406.0 nm, the wavelength component of 430.5 nm, the wavelength component of 471.2 nm, the wavelength component of 522.5 nm, the wavelength of 577.5 nm Component, wavelength component of 628.8 nm, 6
- the MTF value of the optical system acquired with respect to 1/2 of the Nyquist frequency of the image sensor is 15% or more. It relates to the imaging device shown.
- the restoration process based on the optical transfer function of the optical system is performed on the wide-angle shot image shot using the optical system having a good balance with respect to the peripheral light amount and the resolution performance.
- the image quality of the target image can be improved.
- Another aspect of the present invention includes an optical system, an image sensor that receives photographing light through the optical system and outputs a target image, and a restoration process that performs restoration processing based on the optical transfer function of the optical system for the target image.
- an optical system relates to an imaging apparatus that has a total angle of view exceeding 90 degrees and satisfies the following expression.
- the light quantity evaluation region is an optical system region in which the distance from the center of the imaging surface on the imaging surface of the optical system is 80% or more of the length of one half of the diagonal line of the imaging surface of the imaging device.
- the restoration process based on the optical transfer function of the optical system is performed on the wide-angle shot image shot using the optical system having a good balance with respect to the peripheral light amount and the resolution performance.
- the image quality of the target image can be improved.
- Another aspect of the present invention includes an image acquisition unit that acquires a target image, a condition acquisition unit that acquires information about an optical system and an image sensor when the target image is captured, and a shooting device condition: Conditions (1), (2) and (3): (1) The total angle of view of the optical system exceeds 90 degrees, (2) The optical system in which the light quantity evaluation region of the optical system has a distance from the center of the imaging surface of the imaging system of the optical system that is 80% or more of the half length of the diagonal of the imaging surface of the imaging device When the first evaluation wavelength including the wavelength component of 546.1 nm is used, the ratio of the light quantity in the light quantity evaluation area to the light quantity in the optical system area corresponding to the center of the imaging plane is 25% or more.
- the present invention relates to an image processing apparatus including a restoration processing unit that performs restoration processing based on an optical transfer function of an optical system for a target image.
- the restoration process based on the optical transfer function of the optical system is performed on the wide-angle shot image shot using the optical system having a good balance with respect to the peripheral light amount and the resolution performance.
- the image quality of the target image can be improved.
- the MTF value in the condition (3) is the MTF value of the smaller one of the sagittal direction MTF value and the tangential direction MTF value of the optical system.
- the restoration processing unit further satisfies the following conditions (4) and (5): (4)
- the ratio of the light amount in the light amount evaluation region to the light amount in the region of the optical system corresponding to the center of the imaging surface indicates 30% or more
- the second evaluation wavelength is used, the MTF value acquired for 1/2 of the Nyquist frequency of the image sensor indicates 20% or more. If the condition is satisfied, the restoration process is performed.
- the image resolution can be effectively improved by the restoration process.
- the restoration processing unit further satisfies the following conditions (6) and (7): (6)
- the ratio of the light amount in the light amount evaluation region to the light amount in the region of the optical system corresponding to the center of the imaging surface indicates 35% or more
- the second evaluation wavelength the MTF value acquired for 1/2 of the Nyquist frequency of the image sensor indicates 25% or more. If the condition is satisfied, the restoration process is performed.
- the image resolution can be effectively improved by the restoration process.
- Another aspect of the present invention includes an image acquisition unit that acquires a target image, a condition acquisition unit that acquires information about an optical system and an image sensor when the target image is captured, and a shooting device condition:
- the present invention relates to an image processing apparatus including a restoration processing unit that performs restoration processing based on an optical transfer function of an optical system for a target image when the expressions represented by the conditions (8) and (9) are satisfied.
- the total angle of view of the optical system exceeds 90 degrees.
- the light quantity evaluation region is an optical system region in which the distance from the center of the imaging surface on the imaging surface of the optical system is 80% or more of the length of one half of the diagonal line of the imaging surface of the imaging device.
- the restoration process based on the optical transfer function of the optical system is performed on the wide-angle shot image shot using the optical system having a good balance with respect to the peripheral light amount and the resolution performance.
- the image quality of the target image can be improved.
- the restoration processing unit includes a wavelength component of 406.0 nm, a wavelength component of 430.5 nm, a wavelength component of 471.2 nm, a wavelength component of 522.5 nm, a wavelength component of 577.5 nm, a wavelength component of 628.8 nm,
- the second evaluation wavelength including the wavelength component of 669.5 nm and the wavelength component of 694.0 nm is used, the MTF value of the optical system acquired with respect to 1 ⁇ 2 of the Nyquist frequency of the image sensor is expressed as A%.
- the ratio of the light amount in the light amount evaluation region to the light amount in the region of the optical system corresponding to the center of the imaging surface is expressed as B%.
- the restoration process is performed when the imaging device condition further satisfies the following expression (10): (10) A% ⁇ 0.75 ⁇ B% ⁇ 40%.
- the light quantity evaluation region is a region of the optical system in which the distance from the center of the imaging surface on the imaging surface is 60% or more of the length of one-half of the diagonal line of the imaging surface of the imaging device.
- the image quality of the target image can be improved more effectively by the restoration process.
- Another aspect of the present invention includes an optical system mounting unit to which an optical system is detachably mounted, an imaging device that receives imaging light through the optical system mounted on the optical system mounting unit and outputs an image, and And an image processing apparatus that uses an image output from an image sensor as a target image.
- the restoration process based on the optical transfer function of the optical system is performed on the wide-angle shot image shot using the optical system having a good balance with respect to the peripheral light amount and the resolution performance.
- the image quality of the target image can be improved.
- Another aspect of the present invention includes an optical system, an imaging device that receives imaging light through the optical system and outputs an image, a camera-side control processing unit connected to the imaging device, and a camera-side control processing unit.
- a camera device having a camera side communication unit to be connected, a terminal side communication unit capable of communicating with the camera side communication unit, a terminal side control processing unit connected to the terminal side communication unit, and a terminal side control processing unit
- at least one of the camera-side control processing unit and the terminal-side control processing unit includes the above-described image processing device and targets an image output from the image sensor.
- the present invention relates to an imaging apparatus that uses an image.
- the restoration process based on the optical transfer function of the optical system is performed on the wide-angle shot image shot using the optical system having a good balance with respect to the peripheral light amount and the resolution performance.
- the image quality of the target image can be improved.
- Another aspect of the present invention includes a step of acquiring a target image, a step of acquiring a shooting device condition indicating information of an optical system and an image sensor when the target image is shot, and a shooting device condition satisfying the following condition (1 ), (2) and (3): (1) The total angle of view of the optical system exceeds 90 degrees, (2) The optical system in which the light quantity evaluation region of the optical system has a distance from the center of the imaging surface of the imaging system of the optical system that is 80% or more of the half length of the diagonal of the imaging surface of the imaging device When the first evaluation wavelength including the wavelength component of 546.1 nm is used, the ratio of the light quantity in the light quantity evaluation area to the light quantity in the optical system area corresponding to the center of the imaging plane is 25% or more.
- the MTF value of the optical system acquired with respect to 1 ⁇ 2 of the Nyquist frequency of the imaging element indicates 15% or more.
- a restoration processing based on an optical transfer function of the optical system is performed on a target image.
- Another aspect of the present invention includes a step of acquiring a target image, a step of acquiring a shooting device condition indicating information of an optical system and an imaging element when the target image is shot, and a shooting device condition that satisfies the following condition (8 ) And a condition (9) are satisfied, the present invention relates to an image processing method including a step of performing a restoration process based on an optical transfer function of an optical system on a target image. (8) The total angle of view of the optical system exceeds 90 degrees.
- the light quantity evaluation region is an optical system region in which the distance from the center of the imaging surface on the imaging surface of the optical system is 80% or more of the length of one half of the diagonal line of the imaging surface of the imaging device.
- a procedure for acquiring a target image, a procedure for acquiring a shooting device condition indicating information of an optical system and an image sensor when the target image is shot, and a shooting device condition satisfy the following conditions (1 ), (2) and (3): (1) The total angle of view of the optical system exceeds 90 degrees, (2) The optical system in which the light quantity evaluation region of the optical system has a distance from the center of the imaging surface of the imaging system of the optical system that is 80% or more of the half length of the diagonal of the imaging surface of the imaging device When the first evaluation wavelength including the wavelength component of 546.1 nm is used, the ratio of the light quantity in the light quantity evaluation area to the light quantity in the optical system area corresponding to the center of the imaging plane is 25% or more.
- the present invention relates to a program for causing a computer to execute a procedure for performing restoration processing based on an optical transfer function of an optical system for a target image.
- the total angle of view of the optical system exceeds 90 degrees.
- the light quantity evaluation region is an optical system region in which the distance from the center of the imaging surface on the imaging surface of the optical system is 80% or more of the length of one half of the diagonal line of the imaging surface of the imaging device.
- a procedure for acquiring a target image, a procedure for acquiring a shooting device condition indicating information of an optical system and an image sensor when the target image is shot, and a shooting device condition satisfy the following conditions (1 ), (2) and (3): (1) The total angle of view of the optical system exceeds 90 degrees, (2) The optical system in which the light quantity evaluation region of the optical system has a distance from the center of the imaging surface of the imaging system of the optical system that is 80% or more of the half length of the diagonal of the imaging surface of the imaging device When the first evaluation wavelength including the wavelength component of 546.1 nm is used, the ratio of the light quantity in the light quantity evaluation area to the light quantity in the optical system area corresponding to the center of the imaging plane is 25% or more.
- a computer-readable non-transitory tangible recording medium (a non-transitory recording medium) that records a program for causing a computer to execute a restoration process based on an optical transfer function of an optical system for a target image. computer-readable tangible medium).
- the present invention relates to a non-temporary tangible recording medium. (8) The total angle of view of the optical system exceeds 90 degrees.
- the light quantity evaluation region is an optical system region in which the distance from the center of the imaging surface on the imaging surface of the optical system is 80% or more of the length of one half of the diagonal line of the imaging surface of the imaging device.
- the restoration process based on the optical transfer function of the optical system is performed on a wide-angle shot image shot using an optical system having a good balance with respect to the peripheral light amount and the resolution performance.
- the image quality of the target image can be improved.
- FIG. 1 is an external view showing an example of a camera device used in the surveillance camera system.
- FIG. 2 is a block diagram illustrating an example of a functional configuration of the imaging apparatus, and illustrates a functional configuration example particularly suitable for the surveillance camera system.
- FIG. 3 is a block diagram illustrating an example of a functional configuration of the image processing apparatus.
- FIG. 4 is a plan view showing the imaging surface of the imaging device, and is a diagram for explaining the range of the imaging surface used for determining the light quantity evaluation region of the optical system.
- FIG. 5 is a diagram (Table 1) showing a configuration wavelength example of the second evaluation wavelength.
- FIG. 6 is a diagram illustrating an example of the optical performance of the optical system according to the first embodiment.
- FIG. 1 is an external view showing an example of a camera device used in the surveillance camera system.
- FIG. 2 is a block diagram illustrating an example of a functional configuration of the imaging apparatus, and illustrates a functional configuration example particularly suitable for the surveillance camera system.
- FIG. 3 is
- FIG. 7 is a diagram illustrating an example of the optical performance of the optical system according to the second embodiment.
- FIG. 8 is a block diagram illustrating another example of the functional configuration of the image processing apparatus.
- FIG. 9 is a block diagram illustrating another example of the functional configuration of the imaging apparatus, and particularly illustrates a functional configuration example suitable for a digital camera such as a compact digital camera in which an optical system and an imaging element are integrally provided.
- FIG. 10 is a block diagram illustrating another example of the functional configuration of the imaging apparatus, and particularly illustrates a functional configuration example suitable for a digital camera such as an interchangeable lens camera in which an optical system is detachably attached to the main body.
- FIG. 10 is a block diagram illustrating another example of the functional configuration of the imaging apparatus, and particularly illustrates a functional configuration example suitable for a digital camera such as an interchangeable lens camera in which an optical system is detachably attached to the main body.
- FIG. 11 is a block diagram illustrating an example of a functional configuration of a computer, and particularly illustrates a functional configuration example to which the above-described image processing apparatus (particularly, see FIG. 8) can be applied.
- FIG. 12 is a sectional view of the optical system according to the first embodiment.
- FIG. 13 is a table (Table 2) showing basic data of the optical system according to Example 1.
- FIG. 14 is a table (Table 3) showing specifications of the optical system according to Example 1.
- FIG. 15 is a table (Table 4) showing MTF values of the optical system according to Example 1.
- FIG. 16 is a table (Table 5) showing the peripheral light amount ratio of the optical system according to Example 1.
- FIG. 17 is a graph illustrating the MTF of the optical system according to the first example.
- FIG. 18 is a graph illustrating the peripheral light amount ratio of the optical system according to the first embodiment.
- FIG. 19 is a sectional view of the optical system according to the second embodiment.
- FIG. 20 is a table (Table 6) showing basic data of the optical system according to Example 2.
- FIG. 21 is a table (Table 7) showing the specifications of the optical system according to Example 2.
- FIG. 22 is a table showing the conic constant “KA” and aspheric coefficients “A3 to A20” regarding the aspheric surface of the optical system according to Example 2, and (a) and (Table 8) are “surface of surface number 1”.
- (B) (Table 9) shows data of “surface with surface number 2”.
- FIG. 23 is a table (Table 10) showing MTF values of the optical system according to Example 2.
- FIG. 10 shows MTF values of the optical system according to Example 2.
- FIG. 24 is a table (Table 11) showing the peripheral light amount ratio of the optical system according to Example 2.
- FIG. 25 is a graph showing the MTF of the optical system according to Example 2.
- FIG. 26 is a graph illustrating the peripheral light amount ratio of the optical system according to Example 2.
- FIG. 27 is a sectional view of an optical system according to the third embodiment.
- FIG. 28 is a table (Table 12) showing basic data of the optical system according to Example 3.
- FIG. 29 is a table (Table 13) showing specifications of the optical system according to Example 3.
- FIG. 30 is a table (Table 14) showing MTF values of the optical system according to Example 3.
- FIG. 31 is a table (Table 15) showing the peripheral light amount ratio of the optical system according to Example 3.
- FIG. 32 is a graph illustrating the MTF of the optical system according to Example 3.
- FIG. 33 is a graph illustrating the peripheral light amount ratio of the optical system according to Example 3.
- FIG. 34 is a sectional view of an optical system according to the fourth embodiment.
- FIG. 35 is a table (Table 16) showing basic data of the optical system according to Example 4.
- FIG. 36 is a table (Table 17) showing the specifications of the optical system according to Example 4.
- FIG. 37 is a table showing the conic constant “KA” and aspheric coefficients “A3 to A10” related to the aspheric surface of the optical system according to Example 4, and (a) and (Table 18) are “surface of surface number 1”.
- (B) (Table 19) shows data of “surface number 2”.
- FIG. 19 shows data of “surface number 2”.
- FIG. 38 is a table (Table 20) showing MTF values of the optical system according to Example 4.
- FIG. 39 is a table (Table 21) showing the peripheral light amount ratio of the optical system according to Example 4.
- FIG. 40 is a graph illustrating the MTF of the optical system according to Example 4.
- FIG. 41 is a graph showing the peripheral light amount ratio of the optical system according to Example 4.
- FIG. 42 is a flowchart illustrating an example of a condition determination flow in the image processing apparatus (particularly the restoration processing unit) illustrated in FIG.
- FIG. 43 is a flowchart illustrating an example of a condition determination flow in an imaging apparatus whose optical system can be replaced (for example, see “digital camera” in FIG. 10).
- FIG. 44 is a diagram illustrating an appearance of a smartphone that is an embodiment of the imaging apparatus of the present invention.
- FIG. 45 is a block diagram showing a configuration of the smartphone shown in FIG.
- Embodiments of the present invention will be described with reference to the drawings.
- the application target of the present invention is not limited to this, and the present invention can also be applied to an imaging apparatus, an image processing apparatus, an image processing method, a program, and a recording medium other than the surveillance camera system.
- the optical system used in the following embodiments is designed on the premise that it is used for wide-angle shooting and that a restoration process based on an optical transfer function is used, and the optical performance of the optical system (especially the peripheral light amount and resolution performance). Optimal balance conditions are revealed. By applying a restoration process based on an optical transfer function to an image captured by an optical system that satisfies such an optimal balance condition, an image having good image quality is provided to the user.
- the resolution performance of the optical system can be expressed by an optical transfer function such as MTF (Modulation Transfer Function), and even if the MTF of the optical system is low, the restoration processing based on the optical transfer function is applied to the captured image. A good image can be acquired.
- MTF Modulation Transfer Function
- the relationship to be satisfied with respect to the peripheral light amount and resolution performance of the optical system is specified, and the optical system (lens) is optimally designed based on such relationship. it can. That is, on the premise that restoration processing based on the optical transfer function is performed, resolution performance (MTF performance) obtained based on the image after restoration processing is an optical performance specification (for example, aberration and light amount) required by the user.
- the optical system is designed to satisfy the above. By appropriately combining image processing technology and optical system design technology in this way, the optical performance specifications that were difficult to optimize due to the trade-off relationship are optimized to maximize the total performance.
- An optical system can be designed.
- FIG. 1 is an external view showing an example of a camera device 10 used in a surveillance camera system.
- the camera device 10 of this example has a pan function and a tilt function, and can perform photographing under the control of a control terminal (see FIG. 2) described later. That is, the camera device 10 includes an imaging unit 12 that captures an image of a subject, and a support unit 14 that supports the imaging unit 12 so as to be able to pan and tilt.
- the imaging unit 12 includes an optical system 16 supported by the imaging support unit 12A.
- the optical system 16 is driven by a lens driving unit (not shown) to adjust the focus, zoom, and aperture.
- the support unit 14 includes a support frame 14A and a gantry 14B, and the gantry 14B supports the support frame 14A so that the support frame 14A can rotate about the pan axis P.
- the gantry 14B is provided with a control panel 18, and the camera device 10 can also be controlled by a user operating various operation buttons such as a power button included in the control panel 18.
- the support frame 14A has a groove-like space in which the imaging unit 12 is disposed, and supports the imaging unit 12 so that the imaging unit 12 can rotate around a tilt axis T orthogonal to the pan axis P.
- the support frame 14A is provided with a tilt drive unit (not shown) that rotates the imaging unit 12 around the tilt axis T, and the gantry 14B is a pan drive unit (not shown) that rotates the support frame 14A around the pan axis P. ) Is provided.
- the optical axis L of the optical system 16 supported so as to be pan-tilt is orthogonal to the pan axis P and the tilt axis T.
- the camera device 10 capable of pan-tilt operation
- the camera device 10 does not necessarily require a pan-tilt mechanism
- the imaging unit 12 may be fixedly installed on the support unit 14.
- FIG. 2 is a block diagram illustrating an example of a functional configuration of the imaging apparatus, and illustrates a functional configuration example particularly suitable for the monitoring camera system 20.
- FIG. 2 shows only the main functional configuration of photographing and communication, and for example, the above-described pan driving unit and tilt driving unit are omitted.
- the surveillance camera system 20 of this example includes a camera device 10 and a control terminal 30 that can control the camera device 10.
- the camera device 10 includes an optical system 16, an image sensor 22 that receives photographing light via the optical system 16 and outputs an image (target image), and a camera-side control process connected to the optical system 16 and the image sensor 22. And a camera-side communication unit 24 connected to the camera-side control processing unit 23.
- the control terminal 30 is communicable with the camera side communication unit 24 (see symbol “C” in FIG. 2), and a terminal side control processing unit 32 connected to the terminal side communication unit 33. And a user interface 31 connected to the terminal-side control processing unit 32.
- the optical system 16 includes a plurality of lenses and a diaphragm, and guides photographing light from the subject to the image sensor 22.
- the imaging element 22 is configured by an image sensor such as a CCD (CCD: Charge Coupled Device) or a CMOS (CMOS: Complementary Metal Oxide Semiconductor).
- the user interface 31 of the control terminal 30 includes a display unit capable of presenting various types of information to the user in addition to operation units such as buttons and a touch panel that can be directly operated by the user.
- the camera-side control processing unit 23 controls the optical system 16, the image sensor 22, and the camera-side communication unit 24, and performs image processing using, for example, an image output from the image sensor 22 as a target image.
- the terminal-side control processing unit 32 controls the user interface 31 and the terminal-side communication unit 33 to receive, for example, data and commands input by the user via the user interface 31 and reflect them in various processes.
- the terminal-side control processing unit 32 receives data and commands transmitted from the camera device 10 (camera-side communication unit 24) via the terminal-side communication unit 33 and reflects them in various processes.
- the camera-side control processing unit 23 and the terminal-side control processing unit 32 can transmit and receive, for example, image data and other data via the communication C between the camera-side communication unit 24 and the terminal-side communication unit 33. Therefore, the user can control the camera device 10 by inputting various data and commands to the terminal-side control processing unit 32 via the user interface 31 of the control terminal 30. That is, data and commands for controlling the camera-side control processing unit 23 are transmitted from the terminal-side control processing unit 32 to the camera-side control processing unit 23 via the terminal-side communication unit 33 and the camera-side communication unit 24, and the camera-side control The optical system 16 and the image sensor 22 can be controlled via the processing unit 23.
- the processing of the image output from the image sensor 22 may be performed by the camera-side control processing unit 23, the terminal-side control processing unit 32, or the camera-side control processing unit 23 and the terminal-side control. It may be performed in both of the processing units 32. That is, the image output from the image sensor 22 may be sent to the terminal-side control processing unit 32 via the camera-side communication unit 24 and the terminal-side communication unit 33 after being processed in the camera-side control processing unit 23.
- the terminal-side control processing unit 32 may receive the process.
- the image processing apparatus described below can be provided in at least one of the camera side control processing unit 23 and the terminal side control processing unit 32.
- FIG. 3 is a block diagram illustrating an example of a functional configuration of the image processing apparatus 40.
- the image processing apparatus 40 of this example has a restoration processing unit 41, and the target image and photographing device condition data are input to the restoration processing unit 41.
- the target image is an image output from the image sensor 22 and is input directly or indirectly from the image sensor 22 to the restoration processing unit 41 (image processing device 40).
- the imaging device condition indicates information on the optical system 16 and the imaging element 22 when the target image is captured.
- the restoration processing unit 41 performs restoration processing on the target image based on the optical transfer function of the optical system using the target image and the imaging device condition.
- the method by which the restoration processing unit 41 acquires target image and imaging device condition data is not particularly limited, and the target image and imaging device condition data can be input to the restoration processing unit 41 from each unit constituting the surveillance camera system 20. It is.
- the image processing device 40 is provided in the camera-side control processing unit 23 of the camera device 10, the image processing device 40 acquires an image output from the imaging element 22 as a target image, and the camera-side control processing unit 23
- the imaging device condition may be acquired from data used to control the optical system 16 and the image sensor 22.
- the image processing device 40 when the image processing device 40 is provided in the terminal-side control processing unit 32 of the control terminal 30, the image processing device 40 starts from the image sensor 22 to the camera-side control processing unit 23, the camera-side communication unit 24, and the terminal-side communication unit 33.
- the camera device control processing unit 23 or the terminal-side control processing unit 32 acquires the imaging device conditions from the “data used to control the optical system 16 and the image sensor 22”. May be.
- the image processing apparatus 40 reads the metadata added to the target image data and acquires the shooting device conditions. May be.
- the optical system 16 has, for example, the following first processing condition to third processing condition. All of the processing conditions (condition (1) (condition (8)), condition (2), and condition (3)) are satisfied (first embodiment).
- the light quantity evaluation region of the optical system 16 is an optical system in which the distance from the center of the imaging surface on the imaging surface of the optical system 16 is 80% or more of the half length of the diagonal line of the imaging surface of the imaging device 22.
- the first evaluation wavelength including the wavelength component of 546.1 nm is used, the ratio of the light amount in the light amount evaluation region to the light amount in the region of the optical system 16 corresponding to the center of the imaging surface is 25. % Or more.
- ⁇ Third processing condition 406.0 nm wavelength component, 430.5 nm wavelength component, 471.2 nm wavelength component, 522.5 nm wavelength component, 577.5 nm wavelength component, 628.8 nm wavelength component, 669.5 nm wavelength component and 694
- the MTF value of the optical system 16 acquired with respect to 1 ⁇ 2 of the Nyquist frequency of the image sensor 22 indicates 15% or more.
- the restoration process performed by the restoration processing unit 41 is applied to the target image photographed using the optical system 16 that satisfies the first to third processing conditions.
- the restoration process based on the optical transfer function is performed on the target image captured using the optical system 16 that satisfies the first to third processing conditions, the resolution performance of the target image is restored. It improves by 10% or more by processing.
- the optical system 16 satisfies all of the first processing condition and the following fourth processing condition (second embodiment).
- the restoration process performed by the restoration processing unit 41 is photographed using the optical system 16 that satisfies the first processing condition (condition (8)) and the following fourth processing condition (condition (9)). Applied to the target image.
- F represents the spatial frequency of the target image
- H represents the distance from the center of the target image
- H (f, h) represents an OTF (Optical Transfer Function) of the optical system 16
- R (h) indicates that the light quantity evaluation region of the optical system 16 has a distance from the center of the imaging surface of the optical system 16 that is half the diagonal of the imaging surface of the imaging device 22.
- the first processing condition described above means that the target image to which the restoration process based on the optical transfer function is applied is a wide-angle image. For example, assuming an indoor monitoring application, an angle of view of 90 degrees is required to monitor the entire room from the corner of the room without creating a blind spot. It is desirable that the total angle of view of 16 exceeds 90 degrees.
- the total angle of view of the optical system 16 is wider than 90 degrees (for example, about 100 degrees). Furthermore, from the viewpoint of improving the degree of freedom of arrangement of the imaging device, it is preferable that the total angle of view of the optical system 16 is larger than 100 degrees. Accordingly, the total angle of view of the optical system 16 is more preferably more than 100 degrees, further preferably more than 110 degrees, and further preferably more than 120 degrees.
- the above-described second processing condition indicates that the “peripheral light amount ratio” acquired using the “first evaluation wavelength” with respect to the “light amount evaluation region” of the optical system 16 is “25% or more”.
- the “peripheral light amount ratio” here is a ratio of “light amount in the light amount evaluation region” to “light amount in the region of the optical system 16 corresponding to the center of the imaging surface”. The difference of the light quantity between is shown.
- the “light quantity evaluation area” is a reference area for acquiring the peripheral light quantity ratio, and is determined based on the imaging surface of the imaging element 22 in the second processing condition.
- FIG. 4 is a plan view showing the image pickup surface of the image pickup device 22, and is a view for explaining the range of the image pickup surface used for determining the light quantity evaluation region of the optical system 16.
- FIG. The half length of the diagonal J on the imaging surface of the rectangular imaging element 22 corresponds to the distance from the imaging surface center Io represented by the intersection of the diagonals J to the vertex of the imaging surface.
- the position corresponding to the distance from the imaging surface center Io corresponding to “80% of the length of the half of the diagonal J” is represented by “B80 (80% image height line)”. .
- the area of the optical system 16 in which the distance from the center of the imaging plane indicates “80% or more of the half length of the diagonal J of the imaging surface of the imaging device 22” is the “light quantity evaluation area”. Is set.
- the “light quantity evaluation area” is not limited to this area of the optical system 16 and may be a wider area.
- the light quantity evaluation region is a region of the optical system 16 in which the distance from the center of the imaging surface on the imaging surface indicates “60% or more” of the length of one half of the diagonal line of the imaging surface of the imaging element 22. (Refer to “B60 (60% image height line)” in FIG. 4 showing a position where the distance from the imaging surface center Io corresponds to “60% of the length of one half of the diagonal line J”). ).
- the peripheral light amount ratio in the light amount evaluation region needs to be “25% or more”, but the peripheral light amount ratio in the light amount evaluation region may be more strictly limited.
- the condition of the optical system 16 may indicate that the light quantity ratio is “30% or more”, and the condition of the optical system 16 may be that the peripheral light quantity ratio of the light quantity evaluation region is “35% or more”.
- the third processing condition indicates the MTF value that the optical system 16 should satisfy.
- the MTF value of the optical system 16 for a half of the Nyquist frequency defined by the pixel pitch of the image sensor 22 is 15% or more.
- the MTF value of the optical system 16 needs to be “15% or more”, but the MTF value may be more strictly limited.
- the MTF value is “20% or more”.
- the condition of the optical system 16 may be that of the optical system 16, and the condition of the optical system 16 may be that the MTF value is “25% or more”.
- the directionality of the MTF value in the third processing condition is not particularly questioned.
- the smaller MTF value of the sagittal direction MTF value and the tangential direction MTF value of the optical system 16 satisfies the condition defined in the third processing condition (for example, “15% or more”). That's fine.
- the sagittal direction corresponds to the circumferential direction of the optical system 16, and the tangential direction corresponds to the radial direction of the optical system 16.
- the third processing condition may be satisfied in the entire region of the optical system 16 or may be satisfied in a partial region of the optical system 16, but the restoration processing by the restoration processing unit 41 is at least It is preferably applied only to the image portion corresponding to the region of the optical system 16 that satisfies the third processing condition.
- the restoration process by the restoration processing unit 41 may not be performed.
- FIG. 6 is a diagram illustrating an example of the optical performance of the optical system 16 according to the first embodiment.
- the horizontal axis of FIG. 6 indicates “peripheral light amount ratio (%)”, the vertical axis indicates “MTF value (%)”, and the SN ratio is assumed to be “24 decibels (dB)”.
- dB decibels
- reference numerals “M5”, “M10”, “M20”, “M30”, “M40”, “M50”, “M60”, “M70”, “M80”, “M90”, “M95” and Lines indicated by “M99” indicate MTF values that can be recovered by the restoration process based on the optical transfer function, and “5%”, “10%”, “20%”, “30%”, Area in which the MTF value can be recovered to “40%”, “50%”, “60%”, “70%”, “80%”, “90%”, “95%”, and “99%” Indicates.
- the peripheral light amount ratio (the ratio of the light amount in the light amount evaluation region to the light amount in the region of the optical system 16 corresponding to the center of the imaging surface) defined in the second processing condition is “25% or more”.
- the value of “15% or more” of the MTF of the optical system 16 defined in the third processing condition means a region (including the line B2) above the line B2 in FIG.
- the optical system 16 that satisfies the second processing condition and the third processing condition is included in the upper right region surrounded by the line B1 and the line B2 in FIG.
- the optical system 16 may satisfy conditions stricter than the second processing condition and the third processing condition. From the viewpoint of increasing the restoration rate, the optical system 16 preferably satisfies, for example, the following “fifth processing condition and sixth processing condition (condition (4) and condition (5))”. It is more preferable that the optical system 16 satisfy the processing conditions and the eighth processing condition (condition (6) and condition (7)). In this case, the restoration processing performed by the restoration processing unit 41 is performed using the optical system 16 that satisfies the following “fifth processing condition and sixth processing condition” or “seventh processing condition and eighth processing condition”, for example. Applied to the target image.
- the ratio of the light amount in the light amount evaluation region to the light amount in the region of the optical system 16 corresponding to the center of the imaging surface is 30% or more.
- the MTF value of the optical system 16 acquired with respect to 1 ⁇ 2 of the Nyquist frequency of the image sensor 22 is 20% or more.
- the ratio of the light amount in the light amount evaluation region to the light amount in the region of the optical system 16 corresponding to the center of the imaging plane is 35% or more.
- the MTF value of the optical system 16 acquired for 1 ⁇ 2 of the Nyquist frequency of the image sensor 22 is 25% or more.
- the target image Is improved by approximately 25% or more by the restoration process.
- the resolution performance of the target image is approximately 40 by the restoration process. % Improvement.
- the optical system 16 may satisfy other conditions.
- the MTF value of the optical system 16 when the MTF value of the optical system 16 is small and the peripheral light amount ratio is very large, the MTF value may be significantly increased to 60% or more by the restoration process based on the optical transfer function. In this case, artifacts such as ringing in saturated pixels and amplification of false color components due to demosaicing may be overemphasized and image quality may deteriorate. Also, the difference in resolution between the defocused image and the focused image becomes too large, and a great sense of discomfort can be brought about visually when observing the image.
- the above-described first to eighth processing conditions are conditions for performing restoration processing based on the optical transfer function. Conditions other than conditions may be imposed.
- the MTF value of the optical system 16 acquired for 1 ⁇ 2 of the Nyquist frequency of the image sensor 22 is expressed as “A%”, and the above-described first
- the ratio of the light amount in the light amount evaluation region to the light amount in the region of the optical system 16 corresponding to the center of the imaging surface is expressed as “B%” when the evaluation wavelength is used
- the following ninth processing condition It may satisfy the expression represented by the condition (10)).
- the ninth processing condition is defined by the line B3 in FIGS. 6 and 7, and the optical system 16 that satisfies the ninth processing condition is included in a region (including the line B3) above the line B3 in FIGS. .
- the restoration process performed by the restoration processing unit 41 is applied to the target image captured using the optical system 16 that satisfies the ninth processing condition.
- FIG. 7 is a diagram illustrating an example of the optical performance of the optical system 16 according to the second embodiment.
- the horizontal axis of FIG. 7 indicates “peripheral light amount ratio (%)”, the vertical axis indicates “MTF value (%)”, and the SN ratio is assumed to be “24 decibels (dB)”.
- the symbols “MD-20”, “MD-10”, “MD0”, “MD10”, “MD20”, “MD30”, “MD40”, “MD50”, “MD60”, and “MD70” are used.
- the lines shown indicate the difference (%) between the MTF before and after the restoration process based on the optical transfer function, respectively, “MTF value (%) of the image after the restoration process ⁇ MTF value (%) of the image before the restoration process”.
- “-20%”, “-10%”, “0%”, “10%”, “20%”, “30%”, “40%”, “50%”, “60%” and “ 70% is shown.
- the image restoration effect of restoration processing Resolution improvement effect
- the MTF value can be improved by at least 20% by a restoration process based on the optical transfer function.
- the peripheral light amount ratio (ratio of the light amount in the light amount evaluation region to the light amount in the region of the optical system 16 corresponding to the center of the imaging surface) defined in the second processing condition is “25% or more”.
- the value of “15% or more” of the MTF of the optical system 16 defined in the third processing condition means a region (including the line B2) above the line B2 in FIG. Therefore, the optical system 16 that satisfies the second processing condition and the third processing condition is included in the upper right region surrounded by the line B1 and the line B2 in FIG.
- the MTF can be improved by approximately 10% or more. Even when the optical system 16 satisfies the second processing condition and the third processing condition described above, the MTF value of the optical system 16 is very high (approximately in the range where the MTF is 90% or more) and the peripheral light amount ratio is compared. In a case where the target image is low (approximately in the range where the peripheral light amount ratio is 60% or less), the MTF value of the target image may be reduced by the restoration process. This is because, in order to improve the low SN ratio of the image sensor 22 shown in FIG.
- the mean square error is minimized when the frequency component is reduced in reverse, rather than the high nominal MTF value. This is a phenomenon caused by working favorably in image restoration.
- the MTF value inherently possessed by the optical system 16 is sufficiently high and the decrease in MTF due to the restoration process is sufficiently small, the visual effect of the restoration process is ignored. As small as possible. Therefore, the decrease in MTF due to such a negligible restoration process does not substantially affect the effects brought about by the present invention in view of the object of the present invention.
- the fourth processing condition is that the MTF difference before and after the restoration process based on the optical transfer function (that is, “the MTF value (%) of the image after the restoration process ⁇ the MTF of the image before the restoration process). Value (%) ”) is greater than 0%. Therefore, the optical system 16 that satisfies the fourth processing condition is included in a region on the positive side of the line MD0 in FIG. 7 (region on the right side of the line MD0 in FIG. 7).
- the optical system 16 and the image sensor 22 are integrally provided, and “first processing condition to third processing condition” and / or “first processing condition and fourth” are provided.
- first processing condition to third processing condition and / or “first processing condition and fourth” are provided.
- the optical system 16 may be replaceable.
- FIG. 8 is a block diagram showing another example of the functional configuration of the image processing apparatus 40.
- the image processing apparatus 40 of the present example includes an image acquisition unit 42 that acquires a target image, and a condition acquisition unit that acquires an imaging device condition indicating information of the optical system 16 when the target image is captured. 43.
- the restoration processing unit 41 has the imaging device conditions acquired by the condition acquisition unit 43 satisfy the above first to third processing conditions. When it is satisfied, the restoration process based on the optical transfer function of the optical system 16 can be performed on the target image. That is, the restoration processing unit 41 determines whether or not the first processing condition to the third processing condition are satisfied, and the restoration processing is performed according to the determination result.
- the restoration processing unit 41 has the imaging device conditions acquired by the condition acquisition unit 43 as the first processing condition and the fourth processing condition.
- the restoration process based on the optical transfer function of the optical system 16 can be performed on the target image. That is, the restoration processing unit 41 determines whether or not the first processing condition and the fourth processing condition are satisfied, and the restoration process is performed according to the determination result.
- the optical system 16 can be replaced and the optical system 16 used for photographing can be changed in order to determine whether or not to execute the restoration process according to the condition determination result.
- it is preferably used.
- the application target of the above-described image processing apparatus 40 is not limited to the monitoring camera system 20. Others such as a digital camera in which the optical system 16 and the image sensor 22 are integrally provided, a digital camera in which the optical system 16 is detachably attached to a main body in which the image sensor 22 is provided, a computer that can perform image processing, and the like The image processing apparatus 40 may be applied to these devices.
- FIG. 9 is a block diagram illustrating another example of the functional configuration of the imaging apparatus, and particularly illustrates a functional configuration example suitable for a digital camera 50 such as a compact digital camera in which the optical system 16 and the imaging element 22 are provided integrally.
- the digital camera 50 of this example is integrally provided with an optical system 16, an imaging device 22, an imaging control processing unit 51, a communication unit 52, and an imaging user interface 53, and the imaging control processing unit 51 includes the optical system 16, The imaging element 22, the communication unit 52, and the imaging user interface 53 are controlled in an integrated manner. Imaging is performed by the imaging control processing unit 51 controlling the optical system 16 and the imaging element 22 in accordance with various data and commands input by the user via the imaging user interface 53.
- the imaging control processing unit 51 can perform various processes using the image output from the imaging element 22 as a target image, and can transmit the images before and after the process to external devices via the communication unit 52.
- the above-described image processing device 40 may be provided in the imaging control processing unit 51 of the digital camera 50 shown in FIG.
- the imaging device conditions are “first processing condition to third processing condition”, “first processing condition and fourth processing condition”, “first” 1 process condition, 5th process condition and 6th process condition ",” first process condition, 7th process condition and 8th process condition "or” each of these conditions group and 9th process condition "
- a restoration process based on the optical transfer function of the system 16 can be performed.
- FIG. 10 is a block diagram illustrating another example of the functional configuration of the imaging apparatus.
- a functional configuration example suitable for the digital camera 50 such as an interchangeable lens camera in which the optical system 16 is detachably attached to the main body 54.
- the digital camera 50 of this example includes an optical system 16 and a main body 54.
- the optical system 16 is provided integrally with the optical system control unit 55 and the optical system input / output unit 56, and is attached to the main body unit 54 by fitting into the optical system mounting unit 58 of the main body unit 54.
- the main body unit 54 includes the image sensor 22, an optical system mounting unit 58, a main body control unit 57, a main body input / output unit 59, a communication unit 52, and an imaging user interface 53.
- the optical system mounting unit 58 is detachably mounted with the optical system 16, and the image sensor 22 receives photographing light through the optical system 16 mounted on the optical system mounting unit 58 and outputs an image.
- the main body input / output unit 59 can transmit and receive data by connecting to the optical system input / output unit 56 when the optical system 16 is fitted to the optical system mounting unit 58.
- the optical system control unit 55 and the main body control unit 57 can transmit and receive data via the optical system input / output unit 56 and the main body input / output unit 59.
- the main body control unit 57 transmits a control signal to the optical system control unit 55 according to various data and commands input by the user via the imaging user interface 53, and the optical system control unit 55 responds to the control signal by the optical system control unit 55. 16 is controlled.
- the main body control unit 57 can control the image sensor 22 to perform photographing.
- the main body control unit 57 can perform various processes using the image output from the image sensor 22 as a target image, and can transmit the images before and after the process to external devices via the communication unit 52.
- the above-described image processing device 40 may be provided in the main body control unit 57 of the digital camera 50 shown in FIG.
- the imaging device conditions are the above-mentioned “first processing condition to third processing condition”, “first processing condition and fourth processing condition”, “first processing condition”.
- the optical system Restoration processing based on 16 optical transfer functions can be performed.
- FIG. 11 is a block diagram illustrating an example of a functional configuration of the computer 60, and particularly illustrates a functional configuration example to which the above-described image processing device 40 (see particularly FIG. 8) can be applied.
- the computer 60 of this example includes a computer control processing unit 61, a computer input / output unit 62, and a computer user interface 63.
- the computer input / output unit 62 is connected to external devices such as the digital camera 50 described above, and transmits / receives data to / from the external devices.
- the computer user interface 63 includes a display device capable of presenting various kinds of information to the user, in addition to a pointing device such as a mouse and an operation unit such as a keyboard that can be directly operated by the user.
- the computer control processing unit 61 is connected to the computer input / output unit 62 and the computer user interface 63, receives data such as image data via the computer input / output unit 62, and is input by the user via the computer user interface 63.
- Various processes are performed according to various data and commands.
- the above-described image processing apparatus 40 may be provided in the computer control processing unit 61 of the computer 60 shown in FIG.
- the computer control processing unit 61 image processing apparatus 40
- a restoration process based on a function can be performed.
- the “restoration process based on the optical transfer function” referred to here means an image restoration process derived from an optical transfer function (OTF) obtained by two-dimensional Fourier transform of the point spread function (PSF) of the optical system 16. Also called image restoration processing.
- This “restoration process based on the optical transfer function” may be a process using a filter created based on the OTF, or an MTF that is an absolute value component of the OTF and / or a PTF (Phase) representing a phase shift. Processing using a filter created based on Transfer Function) or processing using a filter created based on PSF may be used.
- the “optical transfer function” described below is a concept that can include not only the OTF but also these MTF, PTF, and PSF.
- an image deteriorated according to the optical transfer function of the optical system 16 is corrected by using a restoration filter (inverse filter) obtained directly or indirectly from the optical transfer function.
- This process cancels image degradation and restores the original image.
- simply applying a gain obtained from the reciprocal of the attenuation characteristic to the deteriorated image also amplifies a noise component due to the image pickup system such as the image pickup element 22. For this reason, when a restoration filter having a large amplification factor is applied to an image containing a noise component, image degradation that cannot be ignored in the restored image is brought about.
- a Wiener filter is used in a wide range of fields as a restoration filter created in consideration of noise caused by the imaging system.
- the frequency characteristic of the image is extremely attenuated compared to the amount of noise caused by the imaging system due to the influence of the blur caused by the optical transfer function of the optical system 16 being too great.
- a large gain is avoided from being applied to the image, and an attenuation gain that prioritizes reducing the amount of noise caused by the imaging system may be applied to the image.
- This Wiener filter can be effectively used also in the imaging apparatus of the present embodiment.
- the optical system 16 By designing the optical system 16 on the premise that restoration processing using a Wiener filter is applied, it is possible to improve other performance instead of allowing some degradation in optical performance.
- the Wiener filter is a filter created for the purpose of minimizing the mean square error between the restored image and the original image when the image quality degradation is linear and known, and is used as one of the linear filter design criteria. Has been.
- the frequency characteristic F (f, h) of the Wiener filter is expressed by the following equation.
- the response X (f, h) of the restored image obtained by applying the Wiener filter (restoration filter) having the frequency characteristic represented by the above formula to the captured image is represented by the following formula.
- the frequency f and the image height h are set.
- the dependent weighting parameter W (f, h) is set to “W (f, h) ⁇ 0”, and the optimum parameter can be obtained by the following equation.
- the optical transfer function H (f, h) of the optical system 16 which is an index of the image resolution before the restoration process
- response X (f, h) which is an index of the image resolution before the restoration process
- the S / N ratio is the ratio between the signal component of the image and the noise component.
- i, j is an index of a pixel (pixel), and indicates a two-dimensional pixel position in the photographed image.
- SNR the SN ratio
- PSNR Peak signal-to-noise ratio
- ISO International Organization for Standardization
- many measurement charts have been devised in order to avoid the influence of nonlinear noise reduction processing during image processing.
- FIG. 12 is a sectional view of the optical system 16 according to the first embodiment.
- the left side of FIG. 12 is the object side (subject side), and the right side of the figure is the image side (image plane Sim side).
- the optical system 16 of this example includes “first optical element L1, second optical element L2, third optical element L3, fourth optical element L4, and fifth optical element L5”, “aperture St” arranged in order from the object side. And “sixth optical element L6, seventh optical element L7, eighth optical element L8, ninth optical element L9 and tenth optical element L10”.
- the aperture stop St is “the first optical element L1, the second optical element L2, the third optical element L3, the fourth optical element L4, and the fifth optical element L5” and “sixth optical element L6,
- the seventh optical element L7, the eighth optical element L8, the ninth optical element L9, and the tenth optical element L10 ” are fixedly disposed.
- the image plane Sim represents the image plane of the optical system 16, and the image pickup plane of the image pickup device 22 is disposed at the position of the image plane Sim when shooting.
- the diaphragm St shown in FIG. 12 does not represent the size or shape, but indicates the position on the optical axis L.
- a location corresponding to the center of the imaging plane of the optical system 16 is represented by reference numeral “S0”.
- FIG. 13 is a table (Table 2) showing basic data of the optical system 16 according to the first embodiment.
- the column of “curvature radius r” in FIG. 13 indicates the curvature radius (mm: millimeter) of each surface number.
- the sign of the radius of curvature is positive when the surface shape is convex on the object side and negative when the surface shape is convex on the image side.
- the curvature radii of the surface numbers “14”, “17”, “18”, and “19” mean infinity, the surface shape is orthogonal to the optical axis L, and the normal direction coincides with the direction of the optical axis L. Means a flat surface. Further, a symbol indicating infinity is described in the column of the radius of curvature of the surface (surface number “10”) corresponding to the stop St in FIG.
- the column of “surface distance d” in FIG. 13 indicates the surface distance (mm) on the optical axis L between each surface number (i) surface and the surface number (i + 1) surface adjacent to the image side (right side in FIG. 12). (See “d1” to “d19” in FIG. 12).
- Effective radius er in FIG. 13 indicates a radius (mm) of an area (effective imaging area) that works effectively as an optical system during imaging among optical surfaces indicated by surface numbers.
- the column of “refractive index nd” in FIG. 13 indicates the d-line (wavelength) of the optical element between the surface with each surface number (i) and the surface with surface number (i + 1) adjacent to the image side (right side in FIG. 12). 587.6 nm).
- the column of “Abbe number ⁇ d” in FIG. 13 is the Abbe related to the d-line of the optical element between the surface of each surface number (i) and the surface of surface number (i + 1) adjacent to the image side (right side of FIG. 12). Indicates a number.
- blanks in the columns of “refractive index nd” and “Abbe number ⁇ d” in FIG. 13 mean that there is no corresponding optical element, and the corresponding portion is occupied by space (see FIG. 12).
- FIG. 14 is a table (Table 3) showing specifications of the optical system 16 according to the first embodiment.
- FIG. 14 shows the characteristics of the optical system 16 based on the d-line. Specifically, the “zoom magnification”, the focal length “f (mm)” of the entire system of the optical system 16, and the back focus length. (Air conversion value) “Bf (mm)”, F number “Fno”, full angle of view “2 ⁇ (°)” and twice the maximum image height (y) “2y” (mm), “total length of optical system 16” (Mm) ”and“ maximum diameter ⁇ (mm) ”of the optical system 16 are shown.
- FIG. 15 is a table (Table 4) showing MTF values of the optical system 16 according to the first example.
- Table 4 shows MTF values of the optical system 16 according to the first example.
- MTF value shown in FIG. 15 is a value obtained by using the above-described second evaluation wavelength (see FIG. 5) and using 80 LP / mm (Line Pairs / mm) as the evaluation frequency. The frequency corresponds to 1 ⁇ 2 of the Nyquist frequency of the image sensor 22.
- FIG. 16 is a table (Table 5) showing the peripheral light amount ratio of the optical system 16 according to the first embodiment.
- “half angle of view (°)” and “peripheral light amount ratio (%)” are shown as indices indicating the position in the optical system 16.
- the peripheral light amount ratio shown in FIG. 16 is an optical system in which the distance from the center of the imaging surface on the imaging surface of the optical system 16 is 80% of the length of one half of the diagonal line of the imaging surface of the imaging device 22. This is based on the light quantity of 16 areas (light quantity evaluation area). Further, the peripheral light amount ratio shown in FIG. 16 is a value obtained using a wavelength of 546.1 nm (the above-mentioned first evaluation wavelength) as the evaluation wavelength.
- FIG. 17 is a graph showing the MTF of the optical system 16 according to the first example.
- the horizontal axis in FIG. 17 indicates “half angle of view (°)” used as an index indicating the position in the optical system 16, and the vertical axis indicates “MTF value (%)”.
- FIG. 18 is a graph illustrating the peripheral light amount ratio of the optical system 16 according to the first embodiment.
- the horizontal axis of FIG. 18 indicates “half angle of view (°)” used as an index indicating the position in the optical system 16, and the vertical axis indicates “peripheral light amount ratio (%)”.
- Example 6 and 7 also plot the MTF value and the peripheral light amount ratio of the optical system 16 according to Example 1 (see the display of “Example 1” in FIGS. 6 and 7).
- the plots of “Example 1” in FIGS. 6 and 7 and “Example 2”, “Example 3”, and “Example 4”, which will be described later, are plotted from the center of the imaging plane on the imaging plane of the optical system 16.
- the distance is “100%”, “90%”, “80%”, “70%”, “60%”, “50%”, “50%” of the length of one half of the diagonal line of the imaging surface of the imaging element 22. This relates to the region of the optical system 16 that indicates “40%”, “30%”, “20%”, “10%”, and “0%”.
- the optical system 16 according to the first embodiment satisfies the first processing condition (see the column “2 ⁇ (°)” in FIG. 14), and satisfies the second processing condition and the third processing condition. (See FIGS. 6-7 and FIGS. 15-18). Therefore, by performing “restoration processing based on an optical transfer function” with an image captured using the optical system 16 and the image sensor 22 according to the first embodiment as a target image, the image resolution is effectively reduced while suppressing aberrations. Can be improved.
- Example 2 In the present embodiment, the same elements as those in the first embodiment are denoted by the same reference numerals, and detailed description thereof is omitted.
- FIG. 19 is a cross-sectional view of the optical system 16 according to the second embodiment.
- the optical system 16 of this example is arranged in order from the object side “first optical element L1, second optical element L2, third optical element L3, fourth optical element L4, fifth optical element L5, sixth optical element.
- FIG. 20 is a table (Table 6) showing basic data of the optical system 16 according to the second embodiment.
- FIG. 20 relates to surface numbers 1 to 25 (see “R1” to “R25” in FIG. 19), as in FIG. 13 described above, “surface number R”, “curvature radius r” (mm), “surface distance”. “d” (mm), “effective radius er” (mm), “refractive index nd”, and “Abbe number ⁇ d” are shown.
- the first optical element L1 is composed of an aspheric lens, and the “surface with surface number 1” and the “surface with surface number 2” are aspheric.
- FIG. 21 is a table (Table 7) showing specifications of the optical system 16 according to the second embodiment.
- Table 7 shows specifications of the optical system 16 according to the second embodiment.
- FIG. 22 is a table showing the conic constant “KA” and aspheric coefficients “A3 to A20” related to the aspheric surface of the optical system 16 according to the second embodiment.
- (B) (Table 9) shows data of “surface number 2”.
- the conic constant “KA” and aspherical coefficients “A3 to A20” shown in FIG. 22 are determined by the following equations.
- E represents exponential notation, for example, “E-03” means 10 to the power of “ ⁇ 3” (that is, “10 ⁇ 3 ”).
- FIG. 23 is a table (Table 10) showing MTF values of the optical system 16 according to Example 2.
- “half angle of view (°)” the MTF value (%) in the tangential direction (see the “tangential” column in FIG. 23), and the sagittal direction as indices indicating the position in the optical system 16.
- MTF value (%) see “Sagittal” column in FIG. 23)
- tangential MTF value and sagittal direction value (%) see “min” column in FIG. 23)
- the MTF value shown in FIG. 23 is a value obtained by using the above-described second evaluation wavelength (see FIG. 5) and using 155 LP / mm as the evaluation frequency. Corresponds to 1/2 of the Nyquist frequency.
- FIG. 24 is a table (Table 11) showing the peripheral light amount ratio of the optical system 16 according to the second embodiment.
- FIG. 24 shows “half angle of view (°)” and “peripheral light quantity ratio (%)” as indices indicating the position in the optical system 16.
- the peripheral light quantity ratio shown in FIG. 24 is an optical system in which the distance from the center of the imaging surface on the imaging surface of the optical system 16 is 80% of the length of one half of the diagonal line of the imaging surface of the imaging device 22. This is based on the light quantity of 16 areas (light quantity evaluation area). 24 is a value obtained by using a wavelength of 546.1 nm (the above-mentioned first evaluation wavelength) as the evaluation wavelength.
- FIG. 25 is a graph showing the MTF of the optical system 16 according to the second embodiment.
- the horizontal axis in FIG. 25 indicates “half angle of view (°)” used as an index indicating the position in the optical system 16, and the vertical axis indicates “MTF value (%)”.
- FIG. 26 is a graph illustrating the peripheral light amount ratio of the optical system 16 according to the second embodiment.
- the horizontal axis of FIG. 26 indicates “half angle of view (°)” used as an index indicating the position in the optical system 16, and the vertical axis indicates “peripheral light amount ratio (%)”.
- 6 and 7 the MTF value and the peripheral light amount ratio of the optical system 16 according to Example 2 are plotted (see the display of “Example 2” in FIGS. 6 and 7).
- the optical system 16 according to the second embodiment satisfies the first processing condition (see the column “2 ⁇ (°)” in FIG. 21), and satisfies the second processing condition and the third processing condition. (See FIGS. 6-7 and FIGS. 23-26). Therefore, by performing “restoration processing based on an optical transfer function” with an image captured using the optical system 16 and the image sensor 22 according to the second embodiment as a target image, image resolution can be effectively reduced while suppressing aberrations. Can be improved.
- Example 3 In the present embodiment, the same elements as those in the first embodiment are denoted by the same reference numerals, and detailed description thereof is omitted.
- FIG. 27 is a sectional view of the optical system 16 according to the third embodiment.
- the optical system 16 in this example is arranged in order from the object side “first optical element L1, second optical element L2, third optical element L3, fourth optical element L4, fifth optical element L5 and sixth optical element.
- FIG. 28 is a table (Table 12) showing basic data of the optical system 16 according to Example 3.
- FIG. 28 relates to surface numbers 1 to 23 (see “R1” to “R23” in FIG. 27), as in FIG. 13 described above, “surface number R”, “curvature radius r” (mm), “surface distance”. “d” (mm), “effective radius er” (mm), “refractive index nd”, and “Abbe number ⁇ d” are shown.
- FIG. 29 is a table (Table 13) showing specifications of the optical system 16 according to Example 3.
- FIG. 30 is a table (Table 14) showing MTF values of the optical system 16 according to Example 3.
- “half angle of view (°)”, MTF value (%) in the tangential direction (see the column “Tangential” in FIG. 30), and sagittal direction are used as indices indicating the position in the optical system 16.
- MTF value (%) see “Sagittal” column in FIG. 30
- tangential MTF value and sagittal direction value (%) see “min” column in FIG. 30)
- the MTF value shown in FIG. 30 is a value obtained by using the above-described second evaluation wavelength (see FIG. 5) and using 112 LP / mm as the evaluation frequency. Corresponds to 1/2 of the Nyquist frequency.
- FIG. 31 is a table (Table 15) showing the peripheral light amount ratio of the optical system 16 according to the third embodiment.
- FIG. 31 shows “half angle of view (°)” and “peripheral light quantity ratio (%)” as indices indicating the position in the optical system 16.
- 31 is an optical system in which the distance from the center of the imaging plane on the imaging plane of the optical system 16 is 80% of the length of one-half of the diagonal line of the imaging plane of the imaging device 22. This is based on the light quantity of 16 areas (light quantity evaluation area).
- the peripheral light amount ratio shown in FIG. 31 is a value obtained using a wavelength of 546.1 nm (the above-mentioned first evaluation wavelength) as the evaluation wavelength.
- FIG. 32 is a graph showing the MTF of the optical system 16 according to the third embodiment.
- the horizontal axis of FIG. 32 indicates “half angle of view (°)” used as an index indicating the position in the optical system 16, and the vertical axis indicates “MTF value (%)”.
- FIG. 33 is a graph illustrating the peripheral light amount ratio of the optical system 16 according to the third embodiment.
- the horizontal axis of FIG. 33 indicates “half angle of view (°)” used as an index indicating the position in the optical system 16, and the vertical axis indicates “peripheral light amount ratio (%)”.
- 6 and 7 also plot the MTF value and the peripheral light amount ratio of the optical system 16 according to Example 3 (see the display of “Example 3” in FIGS. 6 and 7).
- the optical system 16 according to Example 3 satisfies the first processing condition (see the column “2 ⁇ (°)” in FIG. 29), and satisfies the second processing condition and the third processing condition. (See FIGS. 6 to 7 and FIGS. 30 to 33). Therefore, by performing “restoration processing based on an optical transfer function” with an image captured using the optical system 16 and the image sensor 22 according to the third embodiment as a target image, the image resolution is effectively reduced while suppressing aberrations. Can be improved.
- FIG. 34 is a sectional view of the optical system 16 according to the fourth embodiment.
- the optical system 16 of this example includes “first optical element L1, second optical element L2, third optical element L3, fourth optical element L4, and fifth optical element L5”, “aperture St” arranged in order from the object side. And “sixth optical element L6, seventh optical element L7, eighth optical element L8, ninth optical element L9, tenth optical element L10 and eleventh optical element L11”.
- FIG. 35 is a table (Table 16) showing basic data of the optical system 16 according to Example 4.
- FIG. 35 relates to surface numbers 1 to 20 (see “R1” to “R20” in FIG. 34), as in FIG. 13 described above, “surface number R”, “curvature radius r” (mm), “surface distance”. “d” (mm), “effective radius er” (mm), “refractive index nd”, and “Abbe number ⁇ d” are shown.
- FIG. 36 is a table (Table 17) showing specifications of the optical system 16 according to Example 4. 36, as in FIG. 14 described above, “zoom magnification” based on the d line, focal length “f (mm)” of the entire optical system 16, and back focus length (air equivalent value) “Bf”. (Mm) ”, F-number“ Fno ”, full field angle“ 2 ⁇ (°) ”and twice the maximum image height (y)“ 2y ”(mm),“ total length (mm) ”of the optical system 16, and optical system Sixteen “maximum diameter ⁇ (mm)” are shown.
- the sixth optical element L6 includes an aspheric lens, and the “surface with surface number 11” and the “surface with surface number 12” are aspheric.
- FIG. 37 is a table showing the conic constant “KA” and aspheric coefficients “A3 to A10” related to the aspheric surface of the optical system 16 according to Example 4, and (a) and (Table 18) are “surface number 1”. (B) (Table 19) shows the data of “surface number 2”.
- the conic constant “KA” and the aspherical coefficients “A3 to A20” shown in FIG. 37 are determined in the same manner as the optical system 16 (see FIG. 22) according to the second embodiment.
- FIG. 38 is a table (Table 20) showing MTF values of the optical system 16 according to Example 4.
- FIG. 38 “half angle of view (°)”, MTF value (%) in the tangential direction (see the column “Tangential” in FIG. 38), and sagittal direction are used as indices indicating the position in the optical system 16.
- MTF value (%) see “Sagittal” column in FIG. 38
- tangential MTF value and sagittal direction value (%) see “min” column in FIG. 38)
- the MTF value shown in FIG. 38 is a value obtained by using the above-described second evaluation wavelength (see FIG. 5) and using 99 LP / mm as the evaluation frequency. Corresponds to 1/2 of the Nyquist frequency.
- FIG. 39 is a table (Table 21) showing the peripheral light amount ratio of the optical system 16 according to the fourth embodiment.
- “half angle of view (°)” and “peripheral light amount ratio (%)” are shown as indices indicating the position in the optical system 16.
- 39 is an optical system in which the distance from the center of the imaging plane on the imaging plane of the optical system 16 is 80% of the length of one-half of the diagonal line of the imaging plane of the imaging device 22. This is based on the light quantity of 16 areas (light quantity evaluation area). 39 is a value obtained using a wavelength of 546.1 nm (the above-described first evaluation wavelength) as the evaluation wavelength.
- FIG. 40 is a graph showing the MTF of the optical system 16 according to the fourth example.
- the horizontal axis of FIG. 40 indicates “half angle of view (°)” used as an index indicating the position in the optical system 16, and the vertical axis indicates “MTF value (%)”.
- FIG. 41 is a graph illustrating the peripheral light amount ratio of the optical system 16 according to the fourth embodiment.
- the horizontal axis of FIG. 41 indicates “half angle of view (°)” used as an index indicating the position in the optical system 16, and the vertical axis indicates “peripheral light amount ratio (%)”.
- 6 and 7 the MTF value and the peripheral light amount ratio of the optical system 16 according to Example 4 are plotted (see the display of “Example 4” in FIGS. 6 and 7).
- the optical system 16 according to Example 4 satisfies the first processing condition (see the column “2 ⁇ (°)” in FIG. 36), and satisfies the second processing condition and the third processing condition. (See FIGS. 6-7 and FIGS. 38-41). Therefore, by performing “restoration processing based on an optical transfer function” with an image captured using the optical system 16 and the image sensor 22 according to the fourth embodiment as a target image, the image resolution can be effectively reduced while suppressing aberrations. Can be improved.
- the image processing apparatus 40 shown in FIG. 3 is acquired using the optical system 16 that originally satisfies the above-described conditions (see the first to ninth processing conditions) for performing the restoration process based on the optical transfer function.
- the captured image is the target image. Therefore, when the restoration process is performed by the image processing apparatus 40 illustrated in FIG. 3, it is not necessary to determine whether or not the restoration process is executed, and all of the target images input to the image processing apparatus 40 (restoration processing unit 41). Can be restored based on the optical transfer function.
- the image processing apparatus 40 shown in FIG. 8 uses captured images acquired using various optical systems 16 as target images, and the above-described conditions (first processing) for performing restoration processing based on the optical transfer function. Whether or not the restoration process is executed is determined.
- FIG. 42 is a flowchart illustrating an example of a condition determination flow in the image processing apparatus 40 (particularly the restoration processing unit 41) illustrated in FIG.
- the restoration processing unit 41 acquires a target image via the image acquisition unit 42, and acquires imaging device conditions via the condition acquisition unit 43 (S11 in FIG. 42).
- the restoration processing unit 41 determines whether or not the above-described conditions for performing the restoration processing based on the optical transfer function (refer to the first processing condition to the ninth processing condition) are satisfied (S12).
- the imaging device conditions are “first processing condition to third processing condition”, “first processing condition and fourth processing condition”, “first processing condition, fifth processing condition and sixth processing condition”, “ The restoration processing unit 41 determines whether or not “first processing condition, seventh processing condition and eighth processing condition” or “each of these condition groups and ninth processing condition” is satisfied.
- the restoration processing unit 41 restores the target image. Processing is performed (S13). On the other hand, when it is determined that the above-mentioned conditions for performing the restoration process based on the optical transfer function (see the first to ninth processing conditions) are not satisfied (NO in S12), the restoration processing unit 41 performs the restoration process. (Refer to S13) is skipped.
- the target image and the photographing device condition are acquired in the same processing step, but each of the target image and the photographing device condition may be acquired at different timings.
- only the imaging device condition may be acquired in the above-described processing step S11, and the target image may be acquired by the restoration processing unit 41 between the above-described processing step S12 and processing step S13.
- FIG. 43 is a flowchart showing an example of a condition determination flow in an imaging apparatus (for example, see “Digital Camera 50” in FIG. 10) in which the optical system 16 can be replaced.
- the image processing apparatus 40 of this example determines whether or not the above-described conditions for performing the restoration process (see the first processing condition to the ninth processing condition) are satisfied, and “restore processing is performed according to the determination result”. It is determined which one of “execution mode (restoration process execution mode)” and “mode not executing restoration process (restoration process execution mode)” is adopted.
- the image processing device 40 acquires pixel pitch information that directly or indirectly indicates the pixel pitch of the imaging device 22.
- the frequency of interest is determined (S22).
- the frequency of interest here corresponds to 1 ⁇ 2 of the Nyquist frequency defined by the pixel pitch of the image sensor 22.
- the image processing apparatus 40 directly or indirectly indicates the peripheral light amount information indicating the peripheral light amount ratio of the optical system 16, and MTF information directly or indirectly indicating the MTF value of the optical system 16 acquired with respect to the frequency of interest. Are acquired (S23).
- the main body control unit 57 image processing device 40 acquires peripheral light amount information and / or MTF information from the optical system control unit 55 via the main body input / output unit 59 and the optical system input / output unit 56.
- the image processing device 40 determines whether or not the peripheral light amount information and the MTF information satisfy “the above-mentioned conditions for performing the restoration process (refer to the first processing condition to the ninth processing condition)” (S24).
- the image processing apparatus 40 adopts the restoration process execution mode (S25)
- a restoration process by the restoration processing unit 41 is performed on a captured image (target image) output from the imaging element 22.
- the image processing apparatus 40 adopts the restoration process non-execution mode ( S ⁇ b> 26), the restoration process of the captured image (target image) output from the image sensor 22 is not performed.
- condition determination flow illustrated in FIG. 43 is not particularly limited, and the condition determination flow illustrated in FIG. 43 is applied not only to the digital camera 50 illustrated in FIG. 10 but also to, for example, the monitoring camera system 20 illustrated in FIG. can do.
- condition determination flow shown in FIG. 43 is also applied to the case where the image processing device 40 is provided in the terminal side control processing unit 32 while the camera side control processing unit 23 of the monitoring camera system 20 holds the peripheral light amount information and the MTF information. Can be applied.
- the image processing apparatus 40 communicates with the camera-side control processing unit 23 via the terminal-side communication unit 33 and the camera-side communication unit 24 to acquire peripheral light amount information and MTF information (processing step S21 in FIG. 43).
- the imaging device condition is “the optical system 16 has a total angle of view exceeding 100 degrees”, “the optical system 16 has a total angle of view exceeding 110 degrees”, or “the optical system 16 has a total angle of view exceeding 120 degrees”.
- restoration processing based on the optical transfer function may be performed.
- the light quantity evaluation region defined in the second processing condition, the fifth processing condition, and the seventh processing condition is “80% or more of the length of one half of the diagonal line of the imaging surface of the imaging element 22”. It is not limited to what is based on. For example, in the surveillance camera field, the area where the MTF of the optical system 16 falls often exceeds 60% (vertical end (V end) position) of one-half of the diagonal of the imaging surface. Further, depending on the use of the imaging apparatus, it may be required to improve the image resolution at a position that is 60% or more of the half length of the diagonal line of the imaging surface.
- the light quantity evaluation region of the optical system 16 is a distance from the center of the imaging surface on the imaging surface of the optical system 16 that is half of the diagonal line of the imaging surface of the image sensor 22.
- the region of the optical system 16 showing 60% or more of the length of 1 it is preferable to improve the resolution and image quality of the peripheral portion of the image.
- Each functional configuration described above can be realized by arbitrary hardware, software, or a combination of both.
- CPU Central Processing Unit
- volatile RAM Random Access Memory
- EEPROM Electrically Erasable Programmable Read- This can be realized by appropriately combining a non-volatile memory such as “Only Memory” and / or various operation programs such as an OS (Operating System) and application programs.
- the present invention can also be applied to a computer that can install the program.
- the aspect to which the present invention is applicable is not limited to the surveillance camera system 20 (camera device 10) shown in FIGS. 1 and 2, the digital camera 50 shown in FIGS. 9 and 10, and the computer 60 shown in FIG.
- the present invention is also applied to mobile devices having functions other than imaging (calling function, communication function, or other computer functions) in addition to the imaging function. It is possible.
- Other aspects to which the present invention can be applied include, for example, mobile phones and smartphones having a camera function, PDAs (Personal Digital Assistants), and portable game machines.
- PDAs Personal Digital Assistants
- portable game machines an example of a smartphone to which the present invention can be applied will be described.
- FIG. 44 is a diagram illustrating an appearance of a smartphone 101 that is an embodiment of the imaging apparatus of the present invention.
- a smartphone 101 illustrated in FIG. 44 includes a flat housing 102, and a display panel 121 as a display unit and an operation panel 122 as an input unit are integrally formed on one surface of the housing 102.
- a display input unit 120 is provided.
- the housing 102 includes a speaker 131, a microphone 132, an operation unit 140, and a camera unit 141. Note that the configuration of the housing 102 is not limited to this, and for example, a configuration in which a display unit and an input unit are provided independently, or a configuration having a folding structure and a slide mechanism can be employed.
- FIG. 45 is a block diagram showing a configuration of the smartphone 101 shown in FIG.
- the main components of the smartphone 101 include a wireless communication unit 110, a display input unit 120, a call unit 130, an operation unit 140, a camera unit 141, a storage unit 150, and an external input / output.
- Unit 160 GPS (Global Positioning System) receiving unit 170, motion sensor unit 180, power supply unit 190, and main control unit 100.
- a wireless communication function for performing mobile wireless communication via a base station device and a mobile communication network is provided.
- the wireless communication unit 110 performs wireless communication with a base station device connected to the mobile communication network in accordance with an instruction from the main control unit 100.
- the wireless communication is used to transmit and receive various file data such as audio data and image data, e-mail data, and receive Web data and streaming data.
- the display input unit 120 is a so-called touch panel including a display panel 121 and an operation panel 122, and displays images (still images and moving images), character information, and the like visually to the user under the control of the main control unit 100. , And detects user operations on the displayed information.
- the display panel 121 uses an LCD (Liquid Crystal Display) or an OELD (Organic Electro-Luminescence Display) as a display device.
- the operation panel 122 is a device that is provided in a state where an image displayed on the display surface of the display panel 121 is visible and detects one or more coordinates operated by a user's finger or stylus. When the device is operated by the user's finger or stylus, the operation panel 122 outputs a detection signal generated due to the operation to the main control unit 100. Next, the main control unit 100 detects an operation position (coordinates) on the display panel 121 based on the received detection signal.
- the display panel 121 and the operation panel 122 of the smartphone 101 illustrated in FIG. 44 integrally form the display input unit 120, and the operation panel 122 completely covers the display panel 121. It is arranged to cover.
- the operation panel 122 may have a function of detecting a user operation even in an area outside the display panel 121.
- the operation panel 122 includes a detection area (hereinafter referred to as “display area”) for the overlapping portion overlapping the display panel 121 and a detection area (hereinafter referred to as “display area”) for the other outer edge portion that does not overlap the display panel 121. (Referred to as “non-display area”).
- the operation panel 122 may be provided with two sensitive areas of an outer edge part and the other inner part. Further, the width of the outer edge portion is appropriately designed according to the size of the housing 102 and the like. Furthermore, examples of the position detection method employed in the operation panel 122 include a matrix switch method, a resistance film method, a surface acoustic wave method, an infrared method, an electromagnetic induction method, and a capacitance method. It may be adopted.
- the call unit 130 includes a speaker 131 and a microphone 132, converts user's voice input through the microphone 132 into voice data that can be processed by the main control unit 100, and outputs the voice data to the main control unit 100, or a wireless communication unit. 110 or the audio data received by the external input / output unit 160 is decoded and output from the speaker 131.
- the speaker 131 can be mounted on the same surface as the surface on which the display input unit 120 is provided, and the microphone 132 can be mounted on the side surface of the housing 102.
- the operation unit 140 is a hardware key using a key switch or the like, and receives an instruction from the user.
- the operation unit 140 is mounted on the side surface of the housing 102 of the smartphone 101 and is switched on when pressed with a finger or the like, and is switched off by a restoring force such as a spring when the finger is released. It is a push button type switch that is in a state.
- the storage unit 150 includes a control program and control data of the main control unit 100, application software, address data that associates the name and telephone number of a communication partner, transmitted and received e-mail data, Web data downloaded by Web browsing, and Stores downloaded content data and the like, and temporarily stores streaming data and the like.
- the storage unit 150 includes an internal storage unit 151 with a built-in smartphone and an external storage unit 152 having a removable external memory slot.
- Each of the internal storage unit 151 and the external storage unit 152 constituting the storage unit 150 includes a flash memory type, a hard disk type, a multimedia card micro type, and a multimedia card micro type. This is realized using a storage medium such as a card type memory (for example, MicroSD (registered trademark) memory), a RAM (Random Access Memory), or a ROM (Read Only Memory).
- a card type memory for example, MicroSD (registered trademark) memory
- RAM Random Access Memory
- ROM Read Only Memory
- the external input / output unit 160 serves as an interface with all external devices connected to the smartphone 101, such as communication (for example, universal serial bus (USB), IEEE (The Institute of Electrical and Electronics Engineers)). , Inc.) or network (for example, Internet, wireless LAN, Bluetooth (registered trademark), RFID (Radio Frequency Identification), infrared communication (Infrared Data Association: IrDA) (W), U (Ultra Wideband) ( Recording trademark), etc. ZigBee (ZigBee) (registered trademark)) by direct or indirect connection to another external device.
- communication for example, universal serial bus (USB), IEEE (The Institute of Electrical and Electronics Engineers)). , Inc.
- network for example, Internet, wireless LAN, Bluetooth (registered trademark), RFID (Radio Frequency Identification), infrared communication (Infrared Data Association: IrDA) (W), U (Ultra Wideband) ( Recording trademark), etc.
- ZigBee ZigBee (ZigBee) (
- Examples of the external device connected to the smartphone 101 include a wired / wireless headset, a wired / wireless external charger, a wired / wireless data port, a memory card (Memory card) connected via a card socket, and a SIM (Subscriber).
- Identity Module Card / UIM User Identity Module Card
- external audio / video device connected via audio / video I / O (Input / Output) terminal
- external audio / video device connected wirelessly wired /
- the external input / output unit 160 is configured to transmit data received from such an external device to each component inside the smartphone 101, or to transmit data inside the smartphone 101 to the external device. May be.
- the GPS receiving unit 170 receives GPS signals transmitted from the GPS satellites ST1, ST2 to STn according to instructions from the main control unit 100, executes positioning calculation processing based on the received GPS signals, and calculates the latitude of the smartphone 101. Detect the position specified by longitude and altitude. If the GPS receiving unit 170 can acquire position information from the wireless communication unit 110 and / or the external input / output unit 160 (for example, a wireless LAN (Local Area Network)), the GPS receiving unit 170 detects the position using the position information. You can also.
- the motion sensor unit 180 includes, for example, a triaxial acceleration sensor and detects the physical movement of the smartphone 101 in accordance with an instruction from the main control unit 100. By detecting the physical movement of the smartphone 101, the moving direction and acceleration of the smartphone 101 are detected. The detection result is output to the main control unit 100.
- the power supply unit 190 supplies power stored in a battery (not shown) to each unit of the smartphone 101 in accordance with an instruction from the main control unit 100.
- the main control unit 100 includes a microprocessor, operates according to a control program and control data stored in the storage unit 150, and controls each unit of the smartphone 101 in an integrated manner.
- the main control unit 100 includes a mobile communication control function for controlling each unit of the communication system and an application processing function in order to perform voice communication and data communication through the wireless communication unit 110.
- the application processing function is realized by the main control unit 100 operating according to the application software stored in the storage unit 150.
- Application processing functions include, for example, an infrared communication function for performing data communication with an opposite device by controlling the external input / output unit 160, an e-mail function for transmitting and receiving e-mails, and a web browsing function for browsing web pages. There is.
- the main control unit 100 also has an image processing function such as displaying video on the display input unit 120 based on image data (still image or moving image data) such as received data or downloaded streaming data.
- the image processing function refers to a function in which the main control unit 100 decodes the image data, performs image processing on the decoding result, and displays an image obtained through the image processing on the display input unit 120. .
- the main control unit 100 executes display control for the display panel 121 and operation detection control for detecting a user operation through the operation unit 140 or the operation panel 122.
- the main control unit 100 By executing the display control, the main control unit 100 displays an icon for starting application software, a software key such as a scroll bar, or a window for creating an e-mail.
- a software key such as a scroll bar, or a window for creating an e-mail.
- the scroll bar refers to a software key for accepting an instruction to move the display portion of a large image that does not fit in the display area of the display panel 121.
- the main control unit 100 detects a user operation through the operation unit 140, or accepts an operation on the icon or an input of a character string in the input field of the window through the operation panel 122. Or a display image scroll request through a scroll bar.
- the main control unit 100 causes the operation position with respect to the operation panel 122 to correspond to the overlapping portion (display area) overlapping the display panel 121 or the outer edge portion not overlapping the other display panel 121.
- a touch panel control function is provided for determining whether it corresponds to (non-display area) and controlling the sensitive area of the operation panel 122 and the display position of the software key.
- the main control unit 100 can also detect a gesture operation on the operation panel 122 and execute a preset function according to the detected gesture operation.
- Gesture operation is not a conventional simple touch operation, but an operation of drawing a trajectory with at least one position from a plurality of positions by drawing a trajectory with a finger or the like, or specifying a plurality of positions simultaneously. means.
- the camera unit 141 is a digital camera that performs electronic photography using an imaging element 22 such as a CMOS.
- the camera unit 141 converts image data obtained by imaging into compressed image data such as JPEG under the control of the main control unit 100, and records the image data in the storage unit 150 or an external input / output unit. 160 or the wireless communication unit 110.
- the camera unit 141 is mounted on the same surface as the display input unit 120.
- the mounting position of the camera unit 141 is not limited to this, and the housing 102 in which the display input unit 120 is provided.
- the camera unit 141 may be mounted not on the front surface of the housing 102 but on the back surface of the housing 102, or a plurality of camera units 141 may be mounted on the housing 102.
- the camera unit 141 used for shooting may be switched and shooting may be performed by the single camera unit 141, or a plurality of camera units 141 may be used simultaneously. Then, shooting may be performed.
- the camera unit 141 can be used for various functions of the smartphone 101.
- an image acquired by the camera unit 141 may be displayed on the display panel 121, or an image captured and acquired by the camera unit 141 may be used as one of the operation input methods of the operation panel 122.
- the GPS receiving unit 170 detects the position, the position may be detected by referring to an image from the camera unit 141.
- the image from the camera unit 141 is referred to, and the optical axis direction of the camera unit 141 of the smartphone 101 is determined without using the triaxial acceleration sensor or in combination with the triaxial acceleration sensor. It is also possible to determine the current usage environment.
- the image from the camera unit 141 can also be used in the application software.
- the above-described image processing apparatus 40 (particularly the restoration processing unit 41) can be realized by the main control unit 100, for example.
- DESCRIPTION OF SYMBOLS 10 ... Camera device, 12 ... Imaging part, 12A ... Imaging support part, 14A ... Support frame, 14B ... Mount, 14 ... Support part, 16 ... Optical system, 18 ... Control panel, 20 ... Surveillance camera system, 22 ... Imaging element , 23 ... Camera side control processing unit, 24 ... Camera side communication unit, 30 ... Control terminal, 31 ... User interface, 32 ... Terminal side control processing unit, 33 ... Terminal side communication unit, 40 ... Image processing device, 41 ... Restoration Processing unit 42 ... Image acquisition unit 43 ... Condition acquisition unit 50 ... Digital camera 51 ... Imaging control processing unit 52 ... Communication unit 53 ... Imaging user interface 54 ... Body unit 55 ... Optical system control unit 56 ...
- Optical system input / output unit 57 ... Main unit control unit, 58 ... Optical system mounting unit, 59 ... Main unit input / output unit, 60 ... Computer, 61 ... Computer control processing unit, 62 ... Computer Output unit, 63 ... Computer user interface, 100 ... Main control unit, 101 ... Smartphone, 102 ... Housing, 110 ... Wireless communication unit, 120 ... Display input unit, 121 ... Display panel, 122 ... Operation panel, 130 ... Calling unit 131 ... Speaker 132 ... Microphone 140 ... Operation unit 141 ... Camera unit 150 ... Storage unit 151 ... Internal storage unit 152 ... External storage unit 160 ... External input / output unit 170 ... GPS reception unit 180 ... motion sensor, 190 ... power supply
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Business, Economics & Management (AREA)
- Emergency Management (AREA)
- Lenses (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
本発明は、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われるようにするための撮像装置、画像処理装置、画像処理方法、プログラム及び記録媒体を提供する。本発明の態様において、復元処理部(41)は、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う。光学系は全画角が90度を超える。光学系の光量評価領域は、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示す。第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示す。
Description
本発明は、撮像装置、画像処理装置、画像処理方法、プログラム及び記録媒体に係り、特に、広角撮影画像の復元処理技術に関する。
デジタルカメラ等の撮像装置によって得られる撮影画像は、光学系の収差等に起因するボケや歪み等の劣化成分を含む。良画質の画像を得るためには、収差が小さい光学系を用いて撮影を行うことが望ましいが、サイズ及びコスト等のために実際に使用可能な光学系は制限され、性能の高い光学系を必ずしも使用することができない。
そのため、撮影後の画像処理により劣化成分の影響を低減する方法が提案されている。
特許文献1は、元の画像を復元する撮像装置を開示する。この撮像装置では、点拡がり関数(PSF:Point Spread Function)に応じて作成されるボケ低減化フィルタを用いたデコンボリューション処理により、水平画角が180°以上の光学系を使って撮影された画像のボケが低減される。
防犯目的や記録目的のために使用される監視カメラの場合には、広範囲の画像を取得するために広角撮影が可能であることが求められ、特に広角画像の周辺部の画質が重視される傾向がある。
一方、撮像装置において使用可能な光学系は使用環境やユーザのニーズに応じてサイズ及びコストが制限され、特に監視用途に使われる監視カメラの場合には小型且つ安価な光学系が求められる。例えば監視カメラの場合、少なくとも光学系の部分の全長が例えば約100mm以下であり、また光学系の径が約70mm以下であるものが一般的に望まれる。
大型且つ高価な光学系を使う場合には広角画像の周辺部の画質を良好にすることも比較的容易であるが、実際には、上述のような制限があるため解像性能が高くない光学系が使われることも多い。特に広角レンズは一般的に周辺光量を低下させ易く、サイズ及びコスト等の制限下で周辺光量の低下を抑制しようとすると、収差の影響を十分に抑制することができずに撮影画像の解像度が低下してしまう。
このように、広角画像を撮影可能な高性能な光学系を小型且つ安価に製造することは難しい。特に周辺光量と収差との間にはトレードオフの関係があるため、良好な周辺光量を確保しつつ高解像性能を持つ広角撮影用の光学系を小型且つ安価に製造することは非常に困難である。
そこで画像処理として光学伝達関数に基づく復元処理を行うことで、広角撮影画像の解像度を向上させることが考えられる。
ただし光学伝達関数に基づく復元処理は万能ではなく、光学系の光学性能や撮像系のSN比(Signal-Noise ratio)に応じて復元処理により得られる効果は大きく変動し、場合によっては復元処理により画質を悪化させてしまう。例えば復元処理で汎用されているWienerフィルタはノイズ増幅による画質劣化を抑えるように働くため、撮像系のSN比が低い場合には復元処理によって画像の解像度を悪化させてしまう虞がある。
本発明の発明者は、鋭意研究の結果、広角撮影に使用される光学系に関し、光学伝達関数に基づく復元処理によって画像解像度の向上という効果を得るための「光学系の光学性能の最適なバランス」、とりわけ「光学系の周辺光量と解像性能との最適なバランス」を決めることは非常に難しいという技術課題を新たに見いだした。
従来、そのような技術課題は注目されておらず、「広角撮影に使用される光学系の周辺光量と解像性能との最適なバランス」に関する有効な提言はなされていなかった。例えば特許文献1は、水平画角が180°以上という広角撮影画像に対して復元処理を行うことを開示するが、復元処理に最適な光学系の周辺光量と解像性能とのバランスについては開示も示唆もない。
本発明は上述の事情に鑑みてなされたものであり、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われるようにするための技術を提供することを目的とする。
本発明の一態様は、光学系と、光学系を介して撮影光を受光して対象画像を出力する撮像素子と、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う復元処理部とを備え、光学系は全画角が90度を超え、光学系の光量評価領域は、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示し、406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示す撮像装置に関する。
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
本発明の他の態様は、光学系と、光学系を介して撮影光を受光して対象画像を出力する撮像素子と、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う復元処理部とを備え、光学系は全画角が90度を超え、以下の式を満たす撮像装置に関する。
ただし、fは、対象画像の空間周波数を表し、hは、対象画像の中心からの距離を表し、H(f,h)は、光学系のOTFを表し、R(h)は、光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、SNR(f)は、SNR(f)=S(f)/N(f)によって表され、S(f)は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
本発明の他の態様は、対象画像を取得する画像取得部と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する条件取得部と、撮影デバイス条件が以下の条件(1)、(2)及び(3):
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う復元処理部とを備える画像処理装置に関する。
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う復元処理部とを備える画像処理装置に関する。
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
望ましくは、条件(3)におけるMTFの値は、光学系のサジタル方向のMTFの値及びタンジェンシャル方向のMTFの値のうち値が小さい方のMTFの値である。
本態様によれば、条件(3)が満たされるか否かを簡便に判定することができる。
望ましくは、復元処理部は、撮影デバイス条件が更に以下の条件(4)及び(5):
(4)第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が30%以上を示すこと、
(5)第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得されるMTFの値が20%以上を示すこと、
を満たす場合に、復元処理を行う。
(4)第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が30%以上を示すこと、
(5)第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得されるMTFの値が20%以上を示すこと、
を満たす場合に、復元処理を行う。
本態様によれば、復元処理によって画像解像度を効果的に向上させることができる。
望ましくは、復元処理部は、撮影デバイス条件が更に以下の条件(6)及び(7):
(6)第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が35%以上を示すこと、
(7)第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得されるMTFの値が25%以上を示すこと、
を満たす場合に、復元処理を行う。
(6)第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が35%以上を示すこと、
(7)第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得されるMTFの値が25%以上を示すこと、
を満たす場合に、復元処理を行う。
本態様によれば、復元処理によって画像解像度を効果的に向上させることができる。
本発明の他の態様は、対象画像を取得する画像取得部と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する条件取得部と、撮影デバイス条件が以下の条件(8)及び条件(9)に表される式を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う復元処理部とを備える画像処理装置に関する。
(8)光学系の全画角が90度を超える。
(8)光学系の全画角が90度を超える。
ただし、fは、対象画像の空間周波数を表し、hは、対象画像の中心からの距離を表し、H(f,h)は、光学系のOTFを表し、R(h)は、光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、SNR(f)は、SNR(f)=S(f)/N(f)によって表され、S(f)は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
望ましくは、復元処理部は、406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値がA%として表され、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比がB%として表される場合に、以下の条件(10)に表される式:(10)A%≧0.75×B%-40%を撮影デバイス条件が更に満たす場合に、復元処理を行う。
本態様によれば、復元処理によって画像のMTFの値が大幅に向上することでもたらされうる解像感の違和感を効果的に防ぐことができる。
望ましくは、光量評価領域は、結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの60%以上を示す光学系の領域である。
本態様によれば、より効果的に、復元処理によって対象画像の画質を向上させることができる。
本発明の他の態様は、光学系が着脱可能に取り付けられる光学系装着部と、光学系装着部に装着された光学系を介して撮影光を受光して画像を出力する撮像素子と、上記の画像処理装置とを備え、撮像素子から出力される画像を対象画像とする撮像装置に関する。
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
本発明の他の態様は、光学系と、光学系を介して撮影光を受光して画像を出力する撮像素子と、撮像素子に接続されるカメラ側制御処理部と、カメラ側制御処理部に接続されるカメラ側通信部とを有するカメラデバイスと、カメラ側通信部と通信可能な端末側通信部と、端末側通信部に接続される端末側制御処理部と、端末側制御処理部に接続されるユーザインターフェースとを有する制御端末とを備え、カメラ側制御処理部及び端末側制御処理部のうち少なくともいずれか一方は、上記の画像処理装置を有し、撮像素子から出力される画像を対象画像とする撮像装置に関する。
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
本発明の他の態様は、対象画像を取得するステップと、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得するステップと、撮影デバイス条件が以下の条件(1)、(2)及び(3):
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行うステップとを備える画像処理方法に関する。
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行うステップとを備える画像処理方法に関する。
本発明の他の態様は、対象画像を取得するステップと、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得するステップと、撮影デバイス条件が以下の条件(8)及び条件(9)に表される式を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行うステップとを備える画像処理方法に関する。
(8)光学系の全画角が90度を超える。
(8)光学系の全画角が90度を超える。
ただし、fは、対象画像の空間周波数を表し、hは、対象画像の中心からの距離を表し、H(f,h)は、光学系のOTFを表し、R(h)は、光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、SNR(f)は、SNR(f)=S(f)/N(f)によって表され、S(f)は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
本発明の他の態様は、対象画像を取得する手順と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、撮影デバイス条件が以下の条件(1)、(2)及び(3):
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う手順とをコンピュータに実行させるためのプログラムに関する。
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う手順とをコンピュータに実行させるためのプログラムに関する。
本発明の他の態様は、対象画像を取得する手順と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、撮影デバイス条件が以下の条件(8)及び条件(9)に表される式を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う手順とをコンピュータに実行させるためのプログラムに関する。
(8)光学系の全画角が90度を超える。
(8)光学系の全画角が90度を超える。
ただし、fは、対象画像の空間周波数を表し、hは、対象画像の中心からの距離を表し、H(f,h)は、光学系のOTFを表し、R(h)は、光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、SNR(f)は、SNR(f)=S(f)/N(f)によって表され、S(f)は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
本発明の他の態様は、対象画像を取得する手順と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、撮影デバイス条件が以下の条件(1)、(2)及び(3):
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う手順とをコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な非一時的有形記録媒体(a non-transitory computer-readable tangible medium)に関する。
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う手順とをコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な非一時的有形記録媒体(a non-transitory computer-readable tangible medium)に関する。
本発明の他の態様は、対象画像を取得する手順と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、撮影デバイス条件が以下の条件(8)及び条件(9)に表される式を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う手順とをコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な非一時的有形記録媒体に関する。
(8)光学系の全画角が90度を超える。
(8)光学系の全画角が90度を超える。
ただし、fは、対象画像の空間周波数を表し、hは、対象画像の中心からの距離を表し、H(f,h)は、光学系のOTFを表し、R(h)は、光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、SNR(f)は、SNR(f)=S(f)/N(f)によって表され、S(f)は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
本発明によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
図面を参照して本発明の実施形態について説明する。以下の実施形態では、監視カメラシステムに本発明を適用する例について説明する。ただし、本発明の適用対象はこれに限定されず、監視カメラシステム以外の撮像装置、画像処理装置、画像処理方法、プログラム及び記録媒体にも本発明を適用することが可能である。
以下の実施形態で用いられる光学系は広角撮影に使用されること及び光学伝達関数に基づく復元処理を活用することを前提として設計され、光学系の光学性能(特に周辺光量及び解像性能)の最適なバランス条件が明らかにされる。そのような最適なバランス条件を満たす光学系によって撮影される画像に対して光学伝達関数に基づく復元処理を適用することで、良好な画質を有する画像がユーザに提供される。
光学系の解像性能はMTF(Modulation Transfer Function)等の光学伝達関数によって表現可能であり、光学系のMTFが低くても、光学伝達関数に基づく復元処理を撮影画像に適用することで解像度の良好な画像を取得することができる。
そのため復元処理後の画像の周辺解像度を規定するために光学系の周辺光量及び解像性能に関して満たすべき関係を規定し、そのような関係に基づいて光学系(レンズ)の最適設計を行うことができる。すなわち光学伝達関数に基づく復元処理を行うことを前提として、復元処理後の画像に基づいて求められる解像性能(MTF性能)が、ユーザによって必要とされる光学性能諸元(例えば収差及び光量)を満たすように光学系の設計が行われる。このように画像処理技術と光学系設計技術とを適切に組み合わせることで、トレードオフの関係にあり最適化することが難しかった光学性能諸元を最適化してトータルで性能を最大化するように、光学系を設計することができる。
以下、具体的な実施形態について例示する。
図1は、監視カメラシステムで用いられるカメラデバイス10の一例を示す外観図である。
本例のカメラデバイス10は、パン機能及びチルト機能を備え、後述の制御端末(図2参照)のコントロール下で撮影を行うことができる。すなわちカメラデバイス10は、被写体を撮像する撮像部12と、撮像部12をパン及びチルト可能に支持する支持部14と、を具備する。
撮像部12は、撮像支持部12Aに支持される光学系16を有する。光学系16は、図示しないレンズ駆動部に駆動され、フォーカス、ズーム及び絞り開度が調節される。
支持部14は、支持フレーム14A及び架台14Bを含み、パン軸Pを中心に支持フレーム14Aが回転することができるように架台14Bが支持フレーム14Aを支持する。架台14Bには制御パネル18が設けられ、この制御パネル18に含まれる電源ボタン等の各種操作ボタン類をユーザが操作することによってもカメラデバイス10をコントロールすることができる。支持フレーム14Aは、撮像部12が配置される溝状のスペースを有し、パン軸Pと直交するチルト軸Tを中心に撮像部12が回転することができるように撮像部12を支持する。支持フレーム14Aには、撮像部12をチルト軸Tまわりに回転させるチルト駆動部(図示省略)が設けられ、架台14Bには、支持フレーム14Aをパン軸Pまわりに回転させるパン駆動部(図示省略)が設けられている。このようにパンチルト可能に支持される光学系16の光軸Lは、パン軸P及びチルト軸Tと直交する。
なお図1にはパンチルト動作可能なカメラデバイス10が示されているが、カメラデバイス10はパンチルト機構を必ずしも必要とせず、撮像部12が支持部14に固定的に据え付けられていてもよい。
図2は、撮像装置の機能構成の一例を示すブロック図であり、特に監視カメラシステム20に好適な機能構成例を示す。説明の便宜上、図2には撮影及び通信の主たる機能構成のみが図示されており、例えば上述のパン駆動部やチルト駆動部などの図示は省略されている。
本例の監視カメラシステム20は、カメラデバイス10と、カメラデバイス10をコントロール可能な制御端末30とを備える。
カメラデバイス10は、光学系16と、光学系16を介して撮影光を受光して画像(対象画像)を出力する撮像素子22と、光学系16及び撮像素子22に接続されるカメラ側制御処理部23と、カメラ側制御処理部23に接続されるカメラ側通信部24とを有する。一方、制御端末30は、カメラ側通信部24と通信可能(図2中の符号「C」参照)な端末側通信部33と、端末側通信部33に接続される端末側制御処理部32と、端末側制御処理部32に接続されるユーザインターフェース31とを有する。
光学系16は、複数のレンズ及び絞りを含み、被写体からの撮影光を撮像素子22に導く。撮像素子22は、CCD(CCD:Charge Coupled Device)又はCMOS(CMOS:Complementary Metal Oxide Semiconductor)などのイメージセンサによって構成される。制御端末30のユーザインターフェース31は、ユーザによって直接的に操作可能なボタン類やタッチパネル等の操作部に加え、ユーザに各種の情報を提示可能な表示部を含む。
カメラ側制御処理部23は、光学系16、撮像素子22及びカメラ側通信部24を制御し、例えば撮像素子22から出力される画像を対象画像として画像処理を行う。一方、端末側制御処理部32は、ユーザインターフェース31及び端末側通信部33を制御し、例えばユーザインターフェース31を介してユーザにより入力されるデータやコマンドを受信し、各種の処理に反映させる。また端末側制御処理部32は、カメラデバイス10(カメラ側通信部24)から送られてくるデータやコマンドを、端末側通信部33を介して受信して各種の処理に反映させる。
カメラ側制御処理部23及び端末側制御処理部32は、カメラ側通信部24と端末側通信部33との間の通信Cを介し、例えば画像データやその他のデータの送受信を行うことができる。したがってユーザは、制御端末30のユーザインターフェース31を介して各種のデータ及びコマンドを端末側制御処理部32に入力することで、カメラデバイス10を制御することができる。すなわちカメラ側制御処理部23をコントロールするためのデータやコマンドが端末側制御処理部32から端末側通信部33及びカメラ側通信部24を介してカメラ側制御処理部23に送信され、カメラ側制御処理部23を介して光学系16及び撮像素子22を制御することができる。
なお撮像素子22から出力される画像の処理はカメラ側制御処理部23で行われてもよいし、端末側制御処理部32で行われてもよいし、カメラ側制御処理部23及び端末側制御処理部32の両者において行われてもよい。すなわち撮像素子22から出力される画像は、カメラ側制御処理部23において処理を受けた後にカメラ側通信部24及び端末側通信部33を介して端末側制御処理部32に送られてもよいし、端末側制御処理部32において処理を受けてもよい。
したがって本例の監視カメラシステム20では、下述の画像処理装置を、カメラ側制御処理部23及び端末側制御処理部32のうち少なくともいずれか一方に設けることができる。
図3は、画像処理装置40の機能構成の一例を示すブロック図である。本例の画像処理装置40は復元処理部41を有し、対象画像及び撮影デバイス条件のデータが復元処理部41に入力される。
対象画像は撮像素子22から出力される画像であり、撮像素子22から直接的又は間接的に復元処理部41(画像処理装置40)に入力される。撮影デバイス条件は、対象画像を撮影した際の光学系16及び撮像素子22の情報を示す。そして復元処理部41は、対象画像及び撮影デバイス条件を使って、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う。
復元処理部41が対象画像及び撮影デバイス条件のデータを取得する手法は特に限定されず、監視カメラシステム20を構成する各部から復元処理部41に対して対象画像及び撮影デバイス条件のデータが入力可能である。例えば画像処理装置40がカメラデバイス10のカメラ側制御処理部23に設けられる場合、画像処理装置40は、撮像素子22から出力される画像を対象画像として取得し、またカメラ側制御処理部23が光学系16及び撮像素子22を制御するために使ったデータから撮影デバイス条件を取得してもよい。一方、画像処理装置40が制御端末30の端末側制御処理部32に設けられる場合、画像処理装置40は、撮像素子22からカメラ側制御処理部23、カメラ側通信部24及び端末側通信部33を介して対象画像を取得し、またカメラ側制御処理部23又は端末側制御処理部32が保持する「光学系16及び撮像素子22を制御するために使ったデータ」から撮影デバイス条件を取得してもよい。
またExif(Exchangeable image file format)などのフォーマットに従ってメタデータが対象画像のデータに付加されている場合、画像処理装置40は対象画像のデータに付加されているメタデータを読み込んで撮影デバイス条件を取得してもよい。
監視カメラシステム20(カメラ側制御処理部23及び/又は端末側制御処理部32)が図3に示す画像処理装置40を具備する場合において、光学系16は例えば以下の第1処理条件~第3処理条件(条件(1)(条件(8))、条件(2)及び条件(3))の全てを満たす(第1実施形態)。
<第1処理条件>
光学系16は全画角が90度を超える。
光学系16は全画角が90度を超える。
<第2処理条件>
光学系16の光量評価領域は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%以上を示す光学系16の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が25%以上を示す。
光学系16の光量評価領域は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%以上を示す光学系16の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が25%以上を示す。
<第3処理条件>
406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が15%以上を示す。
406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が15%以上を示す。
したがって復元処理部41によって行われる復元処理は、上記の第1処理条件~第3処理条件を満たす光学系16を使用して撮影された対象画像に適用されることとなる。後述のように、上記の第1処理条件~第3処理条件を満たす光学系16を使用して撮影された対象画像に光学伝達関数に基づく復元処理を行うと、対象画像の解像性能が復元処理によって10%以上向上する。
また他の例として、光学系16は、上記の第1処理条件及び下記の第4処理条件の全てを満たす(第2実施形態)。この場合、復元処理部41によって行われる復元処理は、上記の第1処理条件(条件(8))及び下記の第4処理条件(条件(9))を満たす光学系16を使用して撮影された対象画像に適用される。
<第4処理条件>
ただし、
「f」は、対象画像の空間周波数を表し、
「h」は、対象画像の中心からの距離を表し、
「H(f,h)」は、光学系16のOTF(Optical Transfer Function)を表し、
「R(h)」は、光学系16の光量評価領域が、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%以上を示す光学系16の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比を表し、「0≦R(h)≦1」を満たし、
「SNR(f)」は、「SNR(f)=S(f)/N(f)」によって表され、
「S(f)」は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、
「N(f)」は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
「f」は、対象画像の空間周波数を表し、
「h」は、対象画像の中心からの距離を表し、
「H(f,h)」は、光学系16のOTF(Optical Transfer Function)を表し、
「R(h)」は、光学系16の光量評価領域が、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%以上を示す光学系16の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比を表し、「0≦R(h)≦1」を満たし、
「SNR(f)」は、「SNR(f)=S(f)/N(f)」によって表され、
「S(f)」は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、
「N(f)」は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
上述の第1処理条件は、光学伝達関数に基づく復元処理が適用される対象画像が広角画像であることを意味する。例えば室内監視用途を想定した場合、死角を作らずに部屋の隅部から部屋全体を監視するには最低でも90度の画角が必要となるため、監視用途等を想定した場合には光学系16の全画角が90度を超えることが望ましい。
なお撮像装置の大きさを考慮すると、撮像装置を部屋の隅部に配置しても、部屋の隅部から少し部屋の内側に光学系16の頂点が配置されることになる。そのため、光学系16の全画角が90度より広い画角(例えば100度程度)であることが望ましい。さらに、撮像装置の配置の自由度を向上させる観点からは、光学系16の全画角が100度よりも大きいことが好ましい。したがって、光学系16の全画角が100度を超えることがより好ましく、110度を超えることが更に好ましく、120度を超えることが更に好ましい。
上述の第2処理条件は、光学系16の「光量評価領域」に関して「第1の評価波長」を使って取得される「周辺光量比」が「25%以上」であることを示す。
ここでいう「周辺光量比」は、「結像面の中心に対応する光学系16の領域における光量」に対する「光量評価領域における光量」の比であり、光学系16の中心部分と周辺部分との間の光量の相違を示す。
「光量評価領域」は、周辺光量比を取得するための基準領域であり、上記の第2処理条件では撮像素子22の撮像面を基準に定められている。
図4は、撮像素子22の撮像面を示す平面図であり、光学系16の光量評価領域を定めるために用いられる撮像面の範囲を説明するための図である。矩形状の撮像素子22の撮像面において対角線Jの2分の1の長さは、対角線J同士の交点によって表される撮像面中心Ioから撮像面の頂点までの距離に相当する。図4において、撮像面中心Ioからの距離が「対角線Jの2分の1の長さの80%の長さ」に相当する位置が「B80(80%像高線)」によって表されている。
本例では、結像面の中心からの距離が「撮像素子22の撮像面の対角線Jの2分の1の長さの80%以上」を示す光学系16の領域が「光量評価領域」に設定されている。なお「光量評価領域」は、光学系16のこの領域に限定されず、より広い領域であってもよい。例えば光量評価領域は、結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの「60%以上」を示す光学系16の領域であってもよい(撮像面中心Ioからの距離が「対角線Jの2分の1の長さの60%の長さ」に相当する位置を示す図4の「B60(60%像高線)」参照)。
また上記の第2処理条件では光量評価領域の周辺光量比が「25%以上」である必要があるが、光量評価領域の周辺光量比をより厳しく制限してもよく、例えば光量評価領域の周辺光量比が「30%以上」を示すことを光学系16の条件としてもよいし、光量評価領域の周辺光量比が「35%以上」を示すことを光学系16の条件としてもよい。
上記の第3処理条件は、光学系16が満たすべきMTFの値を示す。この第3処理条件における光学系16のMTFの評価に使用される第2評価波長は、「406.0nmの波長成分:430.5nmの波長成分:471.2nmの波長成分:522.5nmの波長成分:577.5nmの波長成分:628.8nmの波長成分:669.5nmの波長成分:694.0nmの波長成分=1:3:11:21:26:22:12:4」のウエイト比で各波長成分を含む(図5(表1)参照)。この第2の評価波長を使った場合に、撮像素子22の画素ピッチによって規定されるナイキスト周波数の1/2に関する光学系16のMTFの値が15%以上を示す。
なお上記の第3処理条件では光学系16のMTFの値が「15%以上」である必要があるが、MTFの値をより厳しく制限してもよく、例えばMTFの値が「20%以上」を示すことを光学系16の条件としてもよいし、MTFの値が「25%以上」を示すことを光学系16の条件としてもよい。
また上記の第3処理条件におけるMTFの値の方向性については特に問われない。例えば光学系16のサジタル方向のMTFの値及びタンジェンシャル方向のMTFの値のうち値が小さい方のMTFの値が、第3処理条件において規定される条件(例えば「15%以上」)を満たせばよい。なお、サジタル方向は光学系16の円周方向に相当し、タンジェンシャル方向は光学系16の径方向に相当する。
また上記の第3処理条件は、光学系16の全体領域で満たされていてもよいし、光学系16の一部領域で満たされていてもよいが、復元処理部41による復元処理は、少なくとも上記の第3処理条件を満たす光学系16の領域に対応する画像部分にのみ適用されることが好ましい。或いは、ズームポジションや絞りが変動して上記の第3処理条件が光学系16の少なくとも一部の領域で満たされなくなった場合には、復元処理部41による復元処理は行われなくてもよい。
図6は、第1実施形態に係る光学系16の光学性能の一例を示す図である。図6の横軸は「周辺光量比(%)」を示し、縦軸は「MTFの値(%)」を示し、SN比として「24デシベル(dB)」が想定されている。また図6において、符号「M5」、「M10」、「M20」、「M30」、「M40」、「M50」、「M60」、「M70」、「M80」、「M90」、「M95」及び「M99」によって示されるラインは、光学伝達関数に基づく復元処理によって回復可能なMTFの値を示し、それぞれ復元処理により「5%」、「10%」、「20%」、「30%」、「40%」、「50%」、「60%」、「70%」、「80%」、「90%」、「95%」及び「99%」までMTFの値を回復することができる領域を示す。
例えば「M99」のラインによって囲まれる領域(図6の右隅部)に「周辺光量比(%)」及び「MTFの値(%)」が存在する光学系16を使って撮影された画像は、光学伝達関数に基づく復元処理によってMTFを少なくとも99%まで回復することが可能である。同様に、「M99」のラインと「M95」のラインとで囲まれる領域に「周辺光量比(%)」及び「MTFの値(%)」が存在する光学系16を使って撮影された画像は、光学伝達関数に基づく復元処理によってMTFを少なくとも95%まで回復することが可能である。
例えば上記の第2処理条件において規定される周辺光量比(結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比)が「25%以上」とは、図6のラインB1よりも右側の領域(ラインB1を含む)を意味する。また上記の第3処理条件において規定される光学系16のMTFの値が「15%以上」とは、図6のラインB2よりも上側の領域(ラインB2を含む)を意味する。
したがって、上記の第2処理条件及び第3処理条件を満たす光学系16は、図6のラインB1及びラインB2によって囲まれる右上の領域に含まれることとなる。
なお光学系16は、上記の第2処理条件及び第3処理条件よりも厳しい条件を満たしていてもよい。復元率を高める観点からは、例えば下記の「第5処理条件及び第6処理条件(条件(4)及び条件(5))」を満たす光学系16であることが好ましく、また下記の「第7処理条件及び第8処理条件(条件(6)及び条件(7))」を満たす光学系16であることがより好ましい。この場合、復元処理部41によって行われる復元処理は、例えば下記の「第5処理条件及び第6処理条件」或いは「第7処理条件及び第8処理条件」を満たす光学系16を使用して撮影された対象画像に適用されることとなる。
<第5処理条件>
第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が30%以上を示す。
第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が30%以上を示す。
<第6処理条件>
第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が20%以上を示す。
第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が20%以上を示す。
<第7処理条件>
第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が35%以上を示す。
第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が35%以上を示す。
<第8処理条件>
第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が25%以上を示す。
第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が25%以上を示す。
後述の図7からも明らかなように、上記の第5処理条件及び第6処理条件を満たす光学系16を使用して撮影された対象画像に光学伝達関数に基づく復元処理を行うと、対象画像の解像性能が復元処理によって概ね25%以上向上する。また上記の第7処理条件及び第8処理条件を満たす光学系16を使用して撮影された対象画像に光学伝達関数に基づく復元処理を行うと、対象画像の解像性能が復元処理によって概ね40%以上向上する。
また光学系16は、上述の条件に加えて他の条件を満たしていてもよい。
例えば、光学系16のMTFの値が小さく周辺光量比が非常に大きい場合、光学伝達関数に基づく復元処理によってMTFの値が60%以上と大幅に持ち上げられることがある。この場合、飽和画素でのリンギング及びデモザイク処理による偽色成分の増幅等のアーティファクトが強調され過ぎてしまい画質が悪化してしまうことがある。また、デフォーカス画像とフォーカス画像との間で解像感の差が大きくなり過ぎてしまい画像を観察する際に視覚上大きな違和感がもたらされうる。
このようなアーティファクトの強調による画質悪化や画像間の解像感の不自然な相違を回避するために、光学伝達関数に基づく復元処理を行うための条件として上述の第1処理条件~第8処理条件以外の条件が課されてもよい。例えば、上述の第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が「A%」として表され、上述の第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が「B%」として表される場合に、以下の第9処理条件(条件(10))に表される式を満たすものであってもよい。
<第9処理条件>
A%≧0.75×B%-40%
この第9処理条件は図6及び図7のラインB3によって規定され、第9処理条件を満たす光学系16は、図6及び図7のラインB3の上側の領域(ラインB3を含む)に含まれる。この場合、復元処理部41によって行われる復元処理は、上記の第9処理条件を満たす光学系16を使用して撮影された対象画像に適用されることとなる。
A%≧0.75×B%-40%
この第9処理条件は図6及び図7のラインB3によって規定され、第9処理条件を満たす光学系16は、図6及び図7のラインB3の上側の領域(ラインB3を含む)に含まれる。この場合、復元処理部41によって行われる復元処理は、上記の第9処理条件を満たす光学系16を使用して撮影された対象画像に適用されることとなる。
図7は、第2実施形態に係る光学系16の光学性能の一例を示す図である。図7の横軸は「周辺光量比(%)」を示し、縦軸は「MTFの値(%)」を示し、SN比として「24デシベル(dB)」が想定されている。また図7において、符号「MD-20」、「MD-10」、「MD0」、「MD10」、「MD20」、「MD30」、「MD40」、「MD50」、「MD60」及び「MD70」によって示されるラインは、光学伝達関数に基づく復元処理前後のMTFの差(%)を示し、それぞれ「復元処理後の画像のMTFの値(%)-復元処理前の画像のMTFの値(%)」が「-20%」、「-10%」、「0%」、「10%」、「20%」、「30%」、「40%」、「50%」、「60%」及び「70%」となる領域を示す。
例えば「MD0」のラインよりも正の側の領域(図7のラインMD0よりも右側の領域)に「周辺光量比(%)」及び「MTFの値(%)」が存在する光学系16を使って撮影された画像については、「復元処理後の画像のMTFの値(%)-復元処理前の画像のMTFの値(%)」が0%よりも大きくなり、復元処理による画像復元効果(解像度向上効果)が見込める。同様に、「MD20」のラインよりも正の側の領域(図7のラインMD20よりも右側の領域)に「周辺光量比(%)」及び「MTFの値(%)」が存在する光学系16を使って撮影された画像については、光学伝達関数に基づく復元処理によってMTFの値を少なくとも20%向上させることが可能である。
例えば上記の第2処理条件において規定される周辺光量比(結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比)が「25%以上」とは、図7のラインB1よりも右側の領域(ラインB1を含む)を意味する。また上記の第3処理条件において規定される光学系16のMTFの値が「15%以上」とは、図7のラインB2よりも上側の領域(ラインB2を含む)を意味する。したがって、上記の第2処理条件及び第3処理条件を満たす光学系16は、図7のラインB1及びラインB2によって囲まれる右上の領域に含まれることとなる。
したがって図7からも明らかなように、上記の第2処理条件及び第3処理条件を満たす光学系16を使用して撮影された対象画像に光学伝達関数に基づく復元処理を行うと、対象画像のMTFを概ね10%以上向上させることができる。なお光学系16が上記の第2処理条件及び第3処理条件を満たす場合であっても、光学系16のMTFの値が非常に高く(概ねMTFが90%以上の範囲)周辺光量比が比較的低い(概ね周辺光量比が60%以下の範囲)ケースにおいて、復元処理により対象画像のMTFの値が小さくなる場合もありうる。これは、名目上のMTF値が高いことよりも、図2に示した撮像素子22のSN比の低さを改善するために、その周波数成分を逆に低減させたほうが、平均二乗誤差を最小化する画像復元において有利に働くことに起因する現象である。ただし、そのようなケースであっても、光学系16が本来的に有するMTFの値が十分に高く、復元処理によるMTFの低下が十分に小さい場合には、復元処理による視覚上の影響は無視できる程度に小さい。したがって、そのような無視できる程度の復元処理によるMTFの低下は、本発明の目的を考慮した場合には、本発明によってもたらされる効果に実質的な影響を及ぼすものではない。
また上記の第4処理条件は、後述のように、光学伝達関数に基づく復元処理前後のMTFの差(すなわち「復元処理後の画像のMTFの値(%)-復元処理前の画像のMTFの値(%)」)が0%よりも大きくなることを意味する。したがって上記の第4処理条件を満たす光学系16は、図7のラインMD0よりも正の側の領域(図7のラインMD0よりも右側の領域)に含まれることとなる。
なお上述の図3に示す画像処理装置40は、光学系16と撮像素子22とが一体的に設けられ、「第1処理条件~第3処理条件」及び/又は「第1処理条件及び第4処理条件」を満たす特定の光学系16が固定的に使用されて撮影が行われるケースにおいて好適であるが、光学系16は交換可能であってもよい。
図8は、画像処理装置40の機能構成の他の例を示すブロック図である。本例の画像処理装置40は、復元処理部41に加え、対象画像を取得する画像取得部42と、対象画像を撮影した際の光学系16の情報を示す撮影デバイス条件を取得する条件取得部43と、を含む。
例えば上述の第1実施形態に本例の画像処理装置40を応用すれば、復元処理部41は、条件取得部43によって取得される撮影デバイス条件が上記の第1処理条件~第3処理条件を満たす場合に、光学系16の光学伝達関数に基づく復元処理を対象画像に対して行うことができる。すなわち、上記の第1処理条件~第3処理条件が満たされるか否かが復元処理部41において判定され、その判定結果に応じて復元処理が行われる。
同様に上述の第2実施形態に本例の画像処理装置40を応用すれば、復元処理部41は、条件取得部43によって取得される撮影デバイス条件が上記の第1処理条件及び第4処理条件を満たす場合に、光学系16の光学伝達関数に基づく復元処理を対象画像に対して行うことができる。すなわち、上記の第1処理条件及び第4処理条件が満たされるか否かが復元処理部41において判定され、その判定結果に応じて復元処理が行われる。
このように図8に示す画像処理装置40は、条件判定結果に応じて復元処理の実行の有無を決めるため、光学系16が交換可能であり、撮影に使用される光学系16が変わりうるケースであっても好適に用いられる。
なお、上述の画像処理装置40(図3及び図8参照)の適用対象は監視カメラシステム20に限定されない。光学系16及び撮像素子22が一体的に設けられるデジタルカメラ、撮像素子22が設けられる本体部に光学系16が着脱可能に装着されるデジタルカメラ、及び画像処理を行うことができるコンピュータ等の他の機器類に対し、画像処理装置40が適用されてもよい。
図9は、撮像装置の機能構成の他の例を示すブロック図であり、特に光学系16及び撮像素子22が一体的に設けられるコンパクトデジタルカメラ等のデジタルカメラ50に好適な機能構成例を示す。本例のデジタルカメラ50は、光学系16、撮像素子22、撮像制御処理部51、通信部52及び撮像ユーザインターフェース53が一体的に設けられており、撮像制御処理部51が、光学系16、撮像素子22、通信部52及び撮像ユーザインターフェース53を統括的に制御する。ユーザが撮像ユーザインターフェース53を介して入力する各種のデータ及びコマンドに応じて撮像制御処理部51が光学系16及び撮像素子22を制御することで撮影が行われる。撮像制御処理部51は、撮像素子22から出力される画像を対象画像として各種の処理を行うことができ、通信部52を介して処理前後の画像を外部機器類に送信できる。
したがって上述の画像処理装置40(特に図3参照)は、図9に示すデジタルカメラ50の撮像制御処理部51に設けられてもよい。撮像制御処理部51(画像処理装置40の復元処理部41)は、撮影デバイス条件が上述の「第1処理条件~第3処理条件」、「第1処理条件及び第4処理条件」、「第1処理条件、第5処理条件及び第6処理条件」、「第1処理条件、第7処理条件及び第8処理条件」又は「これらの各条件群及び第9処理条件」を満たす場合に、光学系16の光学伝達関数に基づく復元処理を行うことができる。
図10は、撮像装置の機能構成の他の例を示すブロック図であり、特に本体部54に光学系16が着脱可能に装着されるレンズ交換式カメラ等のデジタルカメラ50に好適な機能構成例を示す。本例のデジタルカメラ50は光学系16及び本体部54を具備する。光学系16は、光学系制御部55及び光学系入出力部56と一体的に設けられ、本体部54の光学系装着部58に嵌合することで本体部54に装着される。本体部54は、撮像素子22、光学系装着部58、本体制御部57、本体入出力部59、通信部52及び撮像ユーザインターフェース53を有する。光学系装着部58は光学系16が着脱可能に取り付けられ、撮像素子22は光学系装着部58に装着された光学系16を介して撮影光を受光して画像を出力する。本体入出力部59は、光学系16が光学系装着部58に嵌合した際に光学系入出力部56と接続してデータの送受信を行うことができる。光学系制御部55及び本体制御部57は、光学系入出力部56及び本体入出力部59を介してデータの送受信を行うことができる。
ユーザが撮像ユーザインターフェース53を介して入力する各種のデータ及びコマンドに応じて本体制御部57が光学系制御部55に制御信号を送信し、この制御信号に応じて光学系制御部55が光学系16を制御する。その一方で、本体制御部57が撮像素子22を制御することで、撮影を行うことができる。本体制御部57は、撮像素子22から出力される画像を対象画像として各種の処理を行うことができ、通信部52を介して処理前後の画像を外部機器類に送信できる。
したがって上述の画像処理装置40(特に図8参照)は、図10に示すデジタルカメラ50の本体制御部57に設けられてもよい。本体制御部57(画像処理装置40の復元処理部41)は、撮影デバイス条件が上述の「第1処理条件~第3処理条件」、「第1処理条件及び第4処理条件」、「第1処理条件、第5処理条件及び第6処理条件」、「第1処理条件、第7処理条件及び第8処理条件」又は「これらの各条件群及び第9処理条件」を満たす場合に、光学系16の光学伝達関数に基づく復元処理を行うことができる。
図11は、コンピュータ60の機能構成の一例を示すブロック図であり、特に上述の画像処理装置40(特に図8参照)を適用可能な機能構成例を示す。本例のコンピュータ60は、コンピュータ制御処理部61、コンピュータ入出力部62及びコンピュータユーザインターフェース63を有する。コンピュータ入出力部62は、上述のデジタルカメラ50等の外部機器類に接続され、その外部機器類との間でデータの送受信を行う。コンピュータユーザインターフェース63は、ユーザによって直接的に操作可能なマウス等のポインティングデバイス及びキーボード等の操作部に加え、ユーザに各種の情報を提示可能な表示部を含む。コンピュータ制御処理部61は、コンピュータ入出力部62及びコンピュータユーザインターフェース63に接続され、コンピュータ入出力部62を介して画像データ等のデータを受信し、またコンピュータユーザインターフェース63を介してユーザにより入力される各種のデータ及びコマンドに応じて各種の処理を行う。
したがって上述の画像処理装置40(特に図8参照)は、図11に示すコンピュータ60のコンピュータ制御処理部61に設けられてもよい。コンピュータ制御処理部61(画像処理装置40)は、撮影デバイス条件が上述の「第1処理条件~第3処理条件」、「第1処理条件及び第4処理条件」、「第1処理条件、第5処理条件及び第6処理条件」、「第1処理条件、第7処理条件及び第8処理条件」又は「これらの各条件群及び第9処理条件」を満たす場合に、光学系16の光学伝達関数に基づく復元処理を行うことができる。
なおここでいう「光学伝達関数に基づく復元処理」は、光学系16の点拡がり関数(PSF)の二次元フーリエ変換によって得られる光学伝達関数(OTF)から導かれる画像回復処理を意味し、点像復元処理とも呼ばれる。この「光学伝達関数に基づく復元処理」は、OTFに基づいて作成されるフィルタを使った処理であってもよいし、OTFの絶対値成分であるMTF及び/又は位相のずれを表すPTF(Phase Transfer Function)に基づいて作成されるフィルタを使った処理であってもよいし、PSFに基づいて作成されるフィルタを使った処理であってもよい。以下に説明する「光学伝達関数」は、OTFだけではなく、これらのMTF、PTF及びPSFを含みうる概念である。
光学伝達関数に基づく復元処理は、光学系16の光学伝達関数に応じて劣化した像を、光学伝達関数から直接的又は間接的に求められる復元フィルタ(逆フィルタ)を使って補正することで、像劣化をキャンセルして本来の像を復元する処理である。しかしながら、単純に減衰特性の逆数から求められるゲインを劣化像に適用しただけでは、撮像素子22等の撮像系に起因するノイズ成分も増幅されてしまう。そのため大きな増幅率を持つ復元フィルタがノイズ成分を含む画像に適用されると、復元処理後の画像において無視できない像劣化がもたらされる。
撮像系に起因するノイズを考慮して作成される復元フィルタとして、Wienerフィルタが広い分野で用いられている。Wienerフィルタを使った復元処理によれば、光学系16の光学伝達関数に起因するボケの影響が大き過ぎて撮像系に起因するノイズ量と比べて画像の周波数特性が極端に減衰している場合には、大きなゲインが画像に適用されるのが避けられ、撮像系に起因するノイズ量を低減することを優先するような減衰ゲインが画像に適用されることもある。
このWienerフィルタは本実施形態の撮像装置においても有効に活用することができる。Wienerフィルタを用いた復元処理の適用を前提として光学系16の設計を行うことで、光学性能の一部の劣化を許容する代わりに他の性能を向上させることができる。
以下、光学伝達関数に基づく復元処理の実施を前提とした光学系16の最適設計に関する具体例について説明する。
<復元処理の実施を前提とした光学系の最適設計>
Wienerフィルタは、画質劣化が線形で既知な場合において復元画像と元画像との間の平均二乗誤差を最小とすることを目的として作成されるフィルタであって、線形フィルタ設計基準の一つとして利用されている。Wienerフィルタの周波数特性F(f,h)は、下記式により表される。
Wienerフィルタは、画質劣化が線形で既知な場合において復元画像と元画像との間の平均二乗誤差を最小とすることを目的として作成されるフィルタであって、線形フィルタ設計基準の一つとして利用されている。Wienerフィルタの周波数特性F(f,h)は、下記式により表される。
ここで、さらに光学系16の周辺光量の低下を考慮すると、Wienerフィルタの周波数特性F(f,h)は、下記式により表される。
上記式で表される周波数特性を持つWienerフィルタ(復元フィルタ)を撮影画像に適用して得られる復元画像のレスポンスX(f,h)は、下記式によって表される。
光学伝達関数に基づく復元処理を行うことを前提とする場合、光学系16自体のMTFの値(上記式の「||H(f,h)||」参照)を最大化するのではなく、復元処理後のMTFの値(上記式の「X(f,h)」参照)を最大化するように光学系16の設計を行うことが望ましい。このようにして光学系16を設計することで、トレードオフの関係にあるMTF及び周辺光量比をバランス良く最適に決定することができる。なおユーザが「MTFを向上させること」と「周辺光量比を向上させること」とのどちらかをおおざっぱに選択したい場合には、下記式のどちらが値として大きいのかを選択することができる。
MTFと周辺光量比との間に存在すトレードオフの関係を復元フィルタに正確に反映するためには、光学系16の設計パラメータを「p」と表記した場合に、周波数f及び像高hに依存する重み付けパラメータW(f,h)を「W(f,h)≧0」として、下記式によって最適パラメータを求めることができる。
<MTFの向上判定>
Wienerフィルタを使った復元処理では、対象画像中のノイズ成分が大きくMTF成分が小さい場合には、MTFを増幅させることなく減衰させることによって、ノイズの抑制を重視するケースが存在する。このようなケースを生じさせないための条件は下記式によって表される。
Wienerフィルタを使った復元処理では、対象画像中のノイズ成分が大きくMTF成分が小さい場合には、MTFを増幅させることなく減衰させることによって、ノイズの抑制を重視するケースが存在する。このようなケースを生じさせないための条件は下記式によって表される。
また上記式から下記式を導き出すことができる。
さらに上記式から下記式を導き出すことができる。
MTF及び周辺光量比が、想定されたSN比に対して、少なくとも上記式の関係を満たしている場合には、光学伝達関数に基づく復元処理によってMTFの向上を期待することができる。
ここで、復元処理前の画像解像度の指標となる「光学系16の光学伝達関数H(f,h)」及び復元処理前の画像解像度の指標となる「レスポンスX(f,h)」が下記条件式を満たす境界について考える。
復元処理後の画像解像度が復元処理前の画像解像度以上となるようにするには、下記式で表される条件を満たす必要がある。
したがって、上述の第4処理条件を満たす場合にはMTFの向上を見込むことができる。
<SN比の定義>
SN比は、画像の信号成分とノイズ成分との比である。撮影画像Iが画像の信号成分X及びノイズ成分Yによって下記式で表されるように構成されるケースについて考える。
SN比は、画像の信号成分とノイズ成分との比である。撮影画像Iが画像の信号成分X及びノイズ成分Yによって下記式で表されるように構成されるケースについて考える。
ここで、「i,j」は画素(ピクセル)のインデックスであり、撮影画像中の二次元的な画素位置を示す。上記式を踏まえるとSN比(SNR)は下記式で定義される。
また上記式の代わりに下記式で定義されるPSNR(Peak signal-to-noise ratio)が用いられることもある。
一般に国際標準化機構(ISO:International Organization for Standardization)が策定するISO感度が高くなるほど、適正露出における受光量(信号成分)は減るがノイズ量は変わらないため、SN比は低くなる傾向がある。また撮影画像Iを信号成分Xとノイズ成分Yに分解するには様々な手法が存在する。また画像処理中の非線形なノイズリダクション処理の影響を受けないために、多くの測定チャートが考案されている。
<復元処理適用後の最低MTFを保証するための条件>
光学伝達関数に基づく復元処理適用後のMTFの値が「α(ただし「0≦α≦1」)」を超える(下記式参照)ために満たすべき条件を求める。
光学伝達関数に基づく復元処理適用後のMTFの値が「α(ただし「0≦α≦1」)」を超える(下記式参照)ために満たすべき条件を求める。
上記式を変形すると、下記式を導出することができる。
復元処理適用前の元画像のMTFと周辺光量比との積が、SN比及び「α」に基づいて決められる定数よりも大きいことを示す上記式が、復元処理適用後の最低MTFを保証する条件を表す。
次に、光学系16の具体的な構成例について説明する。
<実施例1>
図12は、実施例1に係る光学系16の断面図を示す。図12の左側が物体側(被写体側)であり、図の右側が像側(像面Sim側)である。
図12は、実施例1に係る光学系16の断面図を示す。図12の左側が物体側(被写体側)であり、図の右側が像側(像面Sim側)である。
本例の光学系16は、物体側から順に配置される「第1光学要素L1、第2光学要素L2、第3光学要素L3、第4光学要素L4及び第5光学要素L5」、「絞りSt」及び「第6光学要素L6、第7光学要素L7、第8光学要素L8、第9光学要素L9及び第10光学要素L10」を含む。
本例の光学系16では、絞りStは「第1光学要素L1、第2光学要素L2、第3光学要素L3、第4光学要素L4及び第5光学要素L5」と「第6光学要素L6、第7光学要素L7、第8光学要素L8、第9光学要素L9及び第10光学要素L10」との間に固定配置されている。また像面Simは、光学系16の結像面を表し、撮影の際には、撮像素子22の撮像面が像面Simの位置に配置される。なお図12に示す絞りStは大きさや形状を表すものではなく、光軸L上での位置を示す。また図12において、光学系16の結像面の中心に対応する箇所が符号「S0」によって表される。
図13は、実施例1に係る光学系16の基本データを示す表(表2)である。図13において「面番号R」の欄(「1」~「19」)は、最も物体側の構成要素の面を1番目として像側に向かうに従い順次増加するi番目(i=1、2、3、…、19)の面番号を示す(図12の「R1」~「R19」参照)。
図13の「曲率半径r」の欄は、各面番号の曲率半径(mm:ミリメートル)を示す。曲率半径の符号は、面形状が物体側に凸の場合を正、像側に凸の場合を負としている。また面番号「14」、「17」、「18」及び「19」の曲率半径は無限大を意味し、面形状が光軸Lに直交して法線方向が光軸Lの方向と一致する平面であることを意味する。また図13における絞りStに相当する面(面番号「10」)の曲率半径の欄には無限大を示す記号を記載する。
図13の「面間隔d」の欄は、各面番号(i)の面と像側(図12の右側)に隣接する面番号(i+1)の面との光軸L上の面間隔(mm)を示す(図12の「d1」~「d19」参照)。
図13の「有効半径er」は、各面番号によって示される光学面のうち撮影の際に光学系として有効に働く領域(有効撮像領域)の半径(mm)を示す。
図13の「屈折率nd」の欄は、各面番号(i)の面と像側(図12の右側)に隣接する面番号(i+1)の面との間の光学要素のd線(波長587.6nm)に関する屈折率を示す。
図13の「アッベ数νd」の欄は、各面番号(i)の面と像側(図12の右側)に隣接する面番号(i+1)の面との間の光学要素のd線に関するアッベ数を示す。
なお、図13の「屈折率nd」及び「アッベ数νd」の欄における空欄は、対応する光学要素が存在しないことを意味し、対応箇所は空間によって占められる(図12参照)。
図14は、実施例1に係る光学系16の諸元を示す表(表3)である。図14には、d線を基準とした光学系16の特性が示されており、具体的には「ズーム倍率」、光学系16の全系の焦点距離「f(mm)」、バックフォーカス長(空気換算値)「Bf(mm)」、Fナンバー「Fno」、全画角「2ω(°)」及び最大像高(y)の2倍「2y」(mm)、光学系16の「全長(mm)」及び光学系16の「最大径φ(mm)」が示されている。
図15は、実施例1に係る光学系16のMTFの値を示す表(表4)である。図15には、光学系16における位置を示す指標として「半画角(°)」と、タンジェンシャル方向のMTFの値(%)(図15の「タンジェンシャル」の欄参照)及びサジタル方向のMTFの値(%)(図15の「サジタル」の欄参照)と、タンジェンシャル方向のMTFの値及びサジタル方向の値のうち小さい方の値(%)(図15の「min」の欄参照)とが示されている。図15に示されるMTFの値は、上述の第2の評価波長(図5参照)が使われ、また評価周波数として80LP/mm(Line Pairs/mm)を使って得られる値であり、この評価周波数は撮像素子22のナイキスト周波数の1/2に対応する。
図16は、実施例1に係る光学系16の周辺光量比を示す表(表5)である。図16には、光学系16における位置を示す指標として「半画角(°)」と、「周辺光量比(%)」とが示されている。図16に示される周辺光量比は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%を示す光学系16の領域(光量評価領域)の光量に基づく。また図16に示される周辺光量比は、評価波長として546.1nmの波長(上述の第1の評価波長)を使って得られる値である。
図17は、実施例1に係る光学系16のMTFを示すグラフである。図17の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「MTFの値(%)」を示す。図18は、実施例1に係る光学系16の周辺光量比を示すグラフである。図18の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「周辺光量比(%)」を示す。
なお図6及び図7においても、実施例1に係る光学系16のMTFの値及び周辺光量比がプロットされている(図6及び図7における「実施例1」の表示参照)。図6及び図7における「実施例1」及び後述の「実施例2」、「実施例3」及び「実施例4」のプロットは、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの「100%」、「90%」、「80%」、「70%」、「60%」、「50%」、「40%」、「30%」、「20%」、「10%」及び「0%」を示す光学系16の領域に関するものである。
上述のように実施例1に係る光学系16は、上記の第1処理条件を満たし(図14の「2ω(°)」の欄参照)、上記の第2処理条件及び第3処理条件を満たす(図6~7及び図15~18参照)。したがって、実施例1に係る光学系16及び撮像素子22を使って撮影される画像を対象画像として「光学伝達関数に基づく復元処理」を行うことで、収差を抑制しつつ画像解像度を効果的に向上させることができる。
<実施例2>
本実施例において、上述の実施例1と同一の要素には同一の符号を付し、その詳細な説明は省略する。
本実施例において、上述の実施例1と同一の要素には同一の符号を付し、その詳細な説明は省略する。
図19は、実施例2に係る光学系16の断面図を示す。
本例の光学系16は、物体側から順に配置される「第1光学要素L1、第2光学要素L2、第3光学要素L3、第4光学要素L4、第5光学要素L5、第6光学要素L6、第7光学要素L7及び第8光学要素L8」、「絞りSt」及び「第9光学要素L9、第10光学要素L10、第11光学要素L11、第12光学要素L12、第13光学要素L13及び第14光学要素L14」を含む。
図20は、実施例2に係る光学系16の基本データを示す表(表6)である。図20には面番号1~25(図19の「R1」~「R25」参照)に関し、上述の図13と同様に、「面番号R」、「曲率半径r」(mm)、「面間隔d」(mm)、「有効半径er」(mm)、「屈折率nd」及び「アッベ数νd」が示されている。
なお本実施例2に係る光学系16において第1光学要素L1は非球面レンズによって構成され、「面番号1の面」及び「面番号2の面」は非球面となっている。
図21は、実施例2に係る光学系16の諸元を示す表(表7)である。図21には、上述の図14と同様に、d線を基準とした「ズーム倍率」、光学系16の全系の焦点距離「f(mm)」、バックフォーカス長(空気換算値)「Bf(mm)」、Fナンバー「Fno」、全画角「2ω(°)」及び最大像高(y)の2倍「2y」(mm)、光学系16の「全長(mm)」及び光学系16の「最大径φ(mm)」が示されている。
図22は、実施例2に係る光学系16の非球面に関するコーニック定数「KA」及び非球面係数「A3~A20」を示す表であり、(a)(表8)は「面番号1の面」のデータを示し、(b)(表9)は「面番号2の面」のデータを示す。
図22に示すコーニック定数「KA」及び非球面係数「A3~A20」は、下記式によって定められる。
なお図22において、「E」は指数表記を表し、例えば「E-03」は10の「-3」乗(すなわち「10-3」)を意味する。
図23は、実施例2に係る光学系16のMTFの値を示す表(表10)である。図23には、光学系16における位置を示す指標として「半画角(°)」と、タンジェンシャル方向のMTFの値(%)(図23の「タンジェンシャル」の欄参照)及びサジタル方向のMTFの値(%)(図23の「サジタル」の欄参照)と、タンジェンシャル方向のMTFの値及びサジタル方向の値のうち小さい方の値(%)(図23の「min」の欄参照)とが示されている。図23に示されるMTFの値は、上述の第2の評価波長(図5参照)が使われ、また評価周波数として155LP/mmを使って得られる値であり、この評価周波数は撮像素子22のナイキスト周波数の1/2に対応する。
図24は、実施例2に係る光学系16の周辺光量比を示す表(表11)である。図24には、光学系16における位置を示す指標として「半画角(°)」と、「周辺光量比(%)」とが示されている。図24に示される周辺光量比は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%を示す光学系16の領域(光量評価領域)の光量に基づく。また図24に示される周辺光量比は、評価波長として546.1nmの波長(上述の第1の評価波長)を使って得られる値である。
図25は、実施例2に係る光学系16のMTFを示すグラフである。図25の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「MTFの値(%)」を示す。図26は、実施例2に係る光学系16の周辺光量比を示すグラフである。図26の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「周辺光量比(%)」を示す。なお図6及び図7においても、実施例2に係る光学系16のMTFの値及び周辺光量比がプロットされている(図6及び図7における「実施例2」の表示参照)。
上述のように実施例2に係る光学系16は、上記の第1処理条件を満たし(図21の「2ω(°)」の欄参照)、上記の第2処理条件及び第3処理条件を満たす(図6~7及び図23~26参照)。したがって、実施例2に係る光学系16及び撮像素子22を使って撮影される画像を対象画像として「光学伝達関数に基づく復元処理」を行うことで、収差を抑制しつつ画像解像度を効果的に向上させることができる。
<実施例3>
本実施例において、上述の実施例1と同一の要素には同一の符号を付し、その詳細な説明は省略する。
本実施例において、上述の実施例1と同一の要素には同一の符号を付し、その詳細な説明は省略する。
図27は、実施例3に係る光学系16の断面図を示す。
本例の光学系16は、物体側から順に配置される「第1光学要素L1、第2光学要素L2、第3光学要素L3、第4光学要素L4、第5光学要素L5及び第6光学要素L6」、「絞りSt」及び「第7光学要素L7、第8光学要素L8、第9光学要素L9、第10光学要素L10、第11光学要素L11及び第12光学要素L12」を含む。
図28は、実施例3に係る光学系16の基本データを示す表(表12)である。図28には面番号1~23(図27の「R1」~「R23」参照)に関し、上述の図13と同様に、「面番号R」、「曲率半径r」(mm)、「面間隔d」(mm)、「有効半径er」(mm)、「屈折率nd」及び「アッベ数νd」が示されている。
図29は、実施例3に係る光学系16の諸元を示す表(表13)である。図29には、上述の図14と同様に、d線を基準とした「ズーム倍率」、光学系16の全系の焦点距離「f(mm)」、バックフォーカス長(空気換算値)「Bf(mm)」、Fナンバー「Fno」、全画角「2ω(°)」及び最大像高(y)の2倍「2y」(mm)、光学系16の「全長(mm)」及び光学系16の「最大径φ(mm)」が示されている。
図30は、実施例3に係る光学系16のMTFの値を示す表(表14)である。図30には、光学系16における位置を示す指標として「半画角(°)」と、タンジェンシャル方向のMTFの値(%)(図30の「タンジェンシャル」の欄参照)及びサジタル方向のMTFの値(%)(図30の「サジタル」の欄参照)と、タンジェンシャル方向のMTFの値及びサジタル方向の値のうち小さい方の値(%)(図30の「min」の欄参照)とが示されている。図30に示されるMTFの値は、上述の第2の評価波長(図5参照)が使われ、また評価周波数として112LP/mmを使って得られる値であり、この評価周波数は撮像素子22のナイキスト周波数の1/2に対応する。
図31は、実施例3に係る光学系16の周辺光量比を示す表(表15)である。図31には、光学系16における位置を示す指標として「半画角(°)」と、「周辺光量比(%)」とが示されている。図31に示される周辺光量比は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%を示す光学系16の領域(光量評価領域)の光量に基づく。また図31に示される周辺光量比は、評価波長として546.1nmの波長(上述の第1の評価波長)を使って得られる値である。
図32は、実施例3に係る光学系16のMTFを示すグラフである。図32の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「MTFの値(%)」を示す。図33は、実施例3に係る光学系16の周辺光量比を示すグラフである。図33の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「周辺光量比(%)」を示す。なお図6及び図7においても、実施例3に係る光学系16のMTFの値及び周辺光量比がプロットされている(図6及び図7における「実施例3」の表示参照)。
上述のように実施例3に係る光学系16は、上記の第1処理条件を満たし(図29の「2ω(°)」の欄参照)、上記の第2処理条件及び第3処理条件を満たす(図6~7及び図30~33参照)。したがって、実施例3に係る光学系16及び撮像素子22を使って撮影される画像を対象画像として「光学伝達関数に基づく復元処理」を行うことで、収差を抑制しつつ画像解像度を効果的に向上させることができる。
<実施例4>
本実施例において、上述の実施例2と同一の要素には同一の符号を付し、その詳細な説明は省略する。
本実施例において、上述の実施例2と同一の要素には同一の符号を付し、その詳細な説明は省略する。
図34は、実施例4に係る光学系16の断面図を示す。
本例の光学系16は、物体側から順に配置される「第1光学要素L1、第2光学要素L2、第3光学要素L3、第4光学要素L4及び第5光学要素L5」、「絞りSt」及び「第6光学要素L6、第7光学要素L7、第8光学要素L8、第9光学要素L9、第10光学要素L10及び第11光学要素L11」を含む。
図35は、実施例4に係る光学系16の基本データを示す表(表16)である。図35には面番号1~20(図34の「R1」~「R20」参照)に関し、上述の図13と同様に、「面番号R」、「曲率半径r」(mm)、「面間隔d」(mm)、「有効半径er」(mm)、「屈折率nd」及び「アッベ数νd」が示されている。
図36は、実施例4に係る光学系16の諸元を示す表(表17)である。図36には、上述の図14と同様に、d線を基準とした「ズーム倍率」、光学系16の全系の焦点距離「f(mm)」、バックフォーカス長(空気換算値)「Bf(mm)」、Fナンバー「Fno」、全画角「2ω(°)」及び最大像高(y)の2倍「2y」(mm)、光学系16の「全長(mm)」及び光学系16の「最大径φ(mm)」が示されている。
なお本実施例4に係る光学系16において第6光学要素L6は非球面レンズによって構成され、「面番号11の面」及び「面番号12の面」は非球面となっている。
図37は、実施例4に係る光学系16の非球面に関するコーニック定数「KA」及び非球面係数「A3~A10」を示す表であり、(a)(表18)は「面番号1の面」のデータを示し、(b)(表19)は「面番号2の面」のデータを示す。
図37に示すコーニック定数「KA」及び非球面係数「A3~A20」は、実施例2に係る光学系16(図22参照)と同様にして定められる。
図38は、実施例4に係る光学系16のMTFの値を示す表(表20)である。図38には、光学系16における位置を示す指標として「半画角(°)」と、タンジェンシャル方向のMTFの値(%)(図38の「タンジェンシャル」の欄参照)及びサジタル方向のMTFの値(%)(図38の「サジタル」の欄参照)と、タンジェンシャル方向のMTFの値及びサジタル方向の値のうち小さい方の値(%)(図38の「min」の欄参照)とが示されている。図38に示されるMTFの値は、上述の第2の評価波長(図5参照)が使われ、また評価周波数として99LP/mmを使って得られる値であり、この評価周波数は撮像素子22のナイキスト周波数の1/2に対応する。
図39は、実施例4に係る光学系16の周辺光量比を示す表(表21)である。図39には、光学系16における位置を示す指標として「半画角(°)」と、「周辺光量比(%)」とが示されている。図39に示される周辺光量比は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%を示す光学系16の領域(光量評価領域)の光量に基づく。また図39に示される周辺光量比は、評価波長として546.1nmの波長(上述の第1の評価波長)を使って得られる値である。
図40は、実施例4に係る光学系16のMTFを示すグラフである。図40の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「MTFの値(%)」を示す。図41は、実施例4に係る光学系16の周辺光量比を示すグラフである。図41の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「周辺光量比(%)」を示す。なお図6及び図7においても、実施例4に係る光学系16のMTFの値及び周辺光量比がプロットされている(図6及び図7における「実施例4」の表示参照)。
上述のように実施例4に係る光学系16は、上記の第1処理条件を満たし(図36の「2ω(°)」の欄参照)、上記の第2処理条件及び第3処理条件を満たす(図6~7及び図38~41参照)。したがって、実施例4に係る光学系16及び撮像素子22を使って撮影される画像を対象画像として「光学伝達関数に基づく復元処理」を行うことで、収差を抑制しつつ画像解像度を効果的に向上させることができる。
次に、条件判定フローについて説明する。
図3に示す画像処理装置40は、光学伝達関数に基づく復元処理を実施するための上述の条件(第1処理条件~第9処理条件参照)を本来的に満たす光学系16を使って取得された撮影画像を対象画像としている。そのため、図3に示す画像処理装置40によって復元処理を行う場合には、復元処理の実行の有無を判定する必要はなく、画像処理装置40(復元処理部41)に入力される対象画像の全てに対して光学伝達関数に基づく復元処理を行うことができる。
一方、図8に示す画像処理装置40は、様々な光学系16を使って取得された撮影画像を対象画像としており、光学伝達関数に基づく復元処理を実施するための上述の条件(第1処理条件~第9処理条件参照)が満たされるか否かを判定し、復元処理の実行の有無が決められる。
図42は、図8に示す画像処理装置40(特に復元処理部41)における条件判定フローの一例を示すフローチャートである。
まず復元処理部41は、画像取得部42を介して対象画像を取得し、条件取得部43を介して撮影デバイス条件を取得する(図42のS11)。
そして復元処理部41は、光学伝達関数に基づく復元処理を実施するための上述の条件(第1処理条件~第9処理条件参照)が満たされるか否かを判定する(S12)。例えば、撮影デバイス条件が上述の「第1処理条件~第3処理条件」、「第1処理条件及び第4処理条件」、「第1処理条件、第5処理条件及び第6処理条件」、「第1処理条件、第7処理条件及び第8処理条件」又は「これらの各条件群及び第9処理条件」を満たすか否かが復元処理部41によって判定される。
光学伝達関数に基づく復元処理を実施するための上述の条件(第1処理条件~第9処理条件参照)が満たされると判定される場合(S12のYES)、復元処理部41は対象画像の復元処理を行う(S13)。一方、光学伝達関数に基づく復元処理を実施するための上述の条件(第1処理条件~第9処理条件参照)が満たされないと判定される場合(S12のNO)、復元処理部41は復元処理(S13参照)をスキップする。
なお図42に示す例では、対象画像及び撮影デバイス条件が同じ処理ステップで取得されるが、対象画像及び撮影デバイス条件の各々は別タイミングで取得されてもよい。例えば、上述の処理ステップS11では撮影デバイス条件のみが取得され、上述の処理ステップS12と処理ステップS13との間において復元処理部41により対象画像が取得されてもよい。
図43は、光学系16が交換可能な撮像装置(例えば図10の「デジタルカメラ50」参照)における条件判定フローの一例を示すフローチャートである。本例の画像処理装置40は、復元処理を実施するための上述の条件(第1処理条件~第9処理条件参照)が満たされるか否かを判定し、判定結果に応じて「復元処理を実行するモード(復元処理実行モード)」及び「復元処理を実行しないモード(復元処理実行モード)」のうちのいずれを採用するか決定する。
すなわち撮像装置の電源がオンにされたら(図43のS21)、画像処理装置40(例えば復元処理部41)は、撮像素子22の画素ピッチを直接的又は間接的に示す画素ピッチ情報を取得し、注目周波数を決定する(S22)。ここでいう注目周波数とは、撮像素子22の画素ピッチによって規定されるナイキスト周波数の1/2に相当する。
そして画像処理装置40は、光学系16の周辺光量比を直接的又は間接的に示す周辺光量情報と、注目周波数に関して取得される光学系16のMTFの値を直接的又は間接的に示すMTF情報とを取得する(S23)。例えば図10に示す例において、周辺光量情報及び/又はMTF情報を光学系制御部55が保持する一方で、画像処理装置40が本体制御部57に設けられる場合、本体制御部57(画像処理装置40)は、本体入出力部59及び光学系入出力部56を介して光学系制御部55から周辺光量情報及び/又はMTF情報を取得する。
そして周辺光量情報及びMTF情報が「復元処理を実施するための上述の条件(第1処理条件~第9処理条件参照)」を満たすか否かが画像処理装置40によって判定される(S24)。「復元処理を実施するための上述の条件(第1処理条件~第9処理条件参照)」が満たされる場合(S24のYES)、画像処理装置40は復元処理実行モードを採用し(S25)、撮像素子22から出力される撮影画像(対象画像)に対して復元処理部41による復元処理が行われる。一方、「復元処理を実施するための上述の条件(第1処理条件~第9処理条件参照)」が満たされない場合(S24のNO)、画像処理装置40は復元処理不実行モードを採用し(S26)、撮像素子22から出力される撮影画像(対象画像)の復元処理は行われない。
なお図43に示す上述の条件判定フローの適用対象は特に限定されず、図10に示すデジタルカメラ50だけではなく、例えば図2に示す監視カメラシステム20にも図43に示す条件判定フローを適用することができる。例えば、監視カメラシステム20のカメラ側制御処理部23が周辺光量情報及びMTF情報を保持する一方で、端末側制御処理部32に画像処理装置40が設けられるケースにも図43に示す条件判定フローを適用することができる。この場合、画像処理装置40は、端末側通信部33及びカメラ側通信部24を介してカメラ側制御処理部23と通信を行って周辺光量情報及びMTF情報を取得し(図43の処理ステップS21~23)、復元処理を実施するための上述の条件(第1処理条件~第9処理条件参照)が満たされるか否かを判定し(処理ステップS24参照)、判定結果に応じて「復元処理を実行するモード(復元処理実行モード)」及び「復元処理を実行しないモード(復元処理実行モード)」のうちのいずれかを採用する(処理ステップS25及びS26参照)。
<他の変形例>
本発明の応用は上述の実施形態に限定されるものではなく、上述の実施形態に各種の変形が加えられてもよい。
本発明の応用は上述の実施形態に限定されるものではなく、上述の実施形態に各種の変形が加えられてもよい。
例えば光学伝達関数に基づく復元処理を行うための条件として、上述の「第1処理条件~第3処理条件」、「第1処理条件及び第4処理条件」、「第1処理条件、第5処理条件及び第6処理条件」、「第1処理条件、第7処理条件及び第8処理条件」又は「これらの各条件群及び第9処理条件」に対して、他の条件が加えられてもよい。例えば、撮影デバイス条件が「光学系16は全画角が100度を超える」、「光学系16は全画角が110度を超える」又は「光学系16は全画角が120度を超える」という条件を満たす場合に、光学伝達関数に基づく復元処理が行われてもよい。
また上述の第2処理条件、第5処理条件及び第7処理条件において規定される光量評価領域は、上述の「撮像素子22の撮像面の対角線の2分の1の長さの80%以上」を基準とするものには限定されない。例えば、監視カメラ分野では光学系16のMTFが落ち出す領域は、撮像面の対角線の2分の1の長さの60%(垂直端部(V端)位置)以上であることが多い。また撮像装置の用途によっては撮像面の対角線の2分の1の長さの60%以上の位置における画像解像度を向上させることが求められる場合がある。これらのケースにも適切に対応する観点からは、光学系16の光量評価領域は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの60%以上を示す光学系16の領域として、画像周辺部の解像度及び画質を向上させることが好ましい。
また上述の各機能構成は、任意のハードウェア、ソフトウェア、或いは両者の組み合わせによって実現可能であり、例えばCPU(Central Processing Unit)、揮発性のRAM(Random Access Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)等の不揮発性のメモリ、及び/又はOS(Operating System)やアプリケーションプログラム等の各種の動作プログラムが適宜組み合わされることで実現することができる。また上述の撮像装置(画像処理装置40)の各部における画像処理方法及び撮像方法に関する各種処理の手順をコンピュータに実行させるプログラム、そのプログラムを記録したコンピュータ読み取り可能な記録媒体(非一時的有形記録媒体)、或いはそのプログラムをインストール可能なコンピュータに対しても本発明を適用することができる。
また本発明を適用可能な態様は、図1及び図2に示す監視カメラシステム20(カメラデバイス10)、図9及び図10に示すデジタルカメラ50及び図11に示すコンピュータ60には限定されない。
例えば撮像を主たる機能とするカメラ類の他に、撮像機能に加えて撮像以外の他の機能(通話機能、通信機能、或いはその他のコンピュータ機能)を備えるモバイル機器に対しても本発明を適用することが可能である。本発明を適用可能な他の態様としては、例えば、カメラ機能を有する携帯電話機やスマートフォン、PDA(Personal Digital Assistants)及び携帯型ゲーム機が挙げられる。以下、本発明を適用可能なスマートフォンの一例について説明する。
<スマートフォンの構成>
図44は、本発明の撮像装置の一実施形態であるスマートフォン101の外観を示す図である。図44に示すスマートフォン101は、平板状の筐体102を有し、筐体102の一方の面に表示部としての表示パネル121と、入力部としての操作パネル122とが一体となって形成される表示入力部120が設けられる。また、その筐体102は、スピーカ131と、マイクロホン132と、操作部140と、カメラ部141とを備える。なお、筐体102の構成はこれに限定されず、例えば、表示部と入力部とが独立して設けられる構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図44は、本発明の撮像装置の一実施形態であるスマートフォン101の外観を示す図である。図44に示すスマートフォン101は、平板状の筐体102を有し、筐体102の一方の面に表示部としての表示パネル121と、入力部としての操作パネル122とが一体となって形成される表示入力部120が設けられる。また、その筐体102は、スピーカ131と、マイクロホン132と、操作部140と、カメラ部141とを備える。なお、筐体102の構成はこれに限定されず、例えば、表示部と入力部とが独立して設けられる構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図45は、図44に示すスマートフォン101の構成を示すブロック図である。図45に示すように、スマートフォン101の主たる構成要素として、無線通信部110と、表示入力部120と、通話部130と、操作部140と、カメラ部141と、記憶部150と、外部入出力部160と、GPS(Global Positioning System)受信部170と、モーションセンサ部180と、電源部190と、主制御部100とを備える。また、スマートフォン101の主たる機能として、基地局装置と移動通信網とを介した移動無線通信を行う無線通信機能を備える。
無線通信部110は、主制御部100の指示に従って、移動通信網に接続された基地局装置との間で無線通信を行う。その無線通信が使用されて、音声データ及び画像データ等の各種ファイルデータや電子メールデータなどの送受信、及びWebデータやストリーミングデータなどの受信が行われる。
表示入力部120は、表示パネル121及び操作パネル122を備える所謂タッチパネルであり、主制御部100の制御により、画像(静止画像及び動画像)や文字情報などを表示して視覚的にユーザに情報を伝達し、また表示した情報に対するユーザ操作を検出する。
表示パネル121は、LCD(Liquid Crystal Display)又はOELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いる。操作パネル122は、表示パネル121の表示面上に表示される画像が視認可能な状態で設けられ、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。そのデバイスがユーザの指や尖筆によって操作されると、操作パネル122は、操作に起因して発生する検出信号を主制御部100に出力する。次いで、主制御部100は、受信した検出信号に基づいて、表示パネル121上の操作位置(座標)を検出する。
本発明の撮像装置の一実施形態として図44に例示されるスマートフォン101の表示パネル121と操作パネル122とは一体となって表示入力部120を構成し、操作パネル122が表示パネル121を完全に覆うような配置となっている。その配置を採用した場合、操作パネル122は、表示パネル121外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル122は、表示パネル121に重なる重畳部分についての検出領域(以下、「表示領域」と称する)と、それ以外の表示パネル121に重ならない外縁部分についての検出領域(以下、「非表示領域」と称する)とを備えていてもよい。
なお、表示領域の大きさと表示パネル121の大きさとを完全に一致させてもよいが、両者を必ずしも一致させる必要はない。また、操作パネル122が、外縁部分及びそれ以外の内側部分の2つの感応領域を備えていてもよい。さらに、その外縁部分の幅は、筐体102の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル122で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、及び静電容量方式などが挙げられ、いずれの方式が採用されてもよい。
通話部130は、スピーカ131及びマイクロホン132を備え、マイクロホン132を通じて入力されたユーザの音声を主制御部100にて処理可能な音声データに変換して主制御部100に出力したり、無線通信部110或いは外部入出力部160により受信された音声データを復号してスピーカ131から出力したりする。また、図44に示すように、例えば、スピーカ131を表示入力部120が設けられた面と同じ面に搭載し、マイクロホン132を筐体102の側面に搭載することができる。
操作部140は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付ける。例えば、図44に示すように、操作部140は、スマートフォン101の筐体102の側面に搭載され、指などで押下されるとスイッチオン状態となり、指を離すとバネなどの復元力によってスイッチオフ状態となる押しボタン式のスイッチである。
記憶部150は、主制御部100の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータ、及びダウンロードしたコンテンツデータ等を記憶し、またストリーミングデータなどを一時的に記憶する。また、記憶部150は、スマートフォン内蔵の内部記憶部151と着脱自在な外部メモリスロットを有する外部記憶部152とにより構成される。なお、記憶部150を構成する内部記憶部151及び外部記憶部152のそれぞれは、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、或いはROM(Read Only Memory)などの格納媒体を用いて実現される。
外部入出力部160は、スマートフォン101に連結される全ての外部機器とのインターフェースの役割を果たし、通信等(例えば、ユニバーサルシリアルバス(USB:Universal Serial Bus)、IEEE(The Institute of Electrical and Electronics Engineers, Inc.)が定めるIEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により他の外部機器に直接的又は間接的に接続する。
スマートフォン101に連結される外部機器としては、例えば、有線/無線ヘッドセット、有線/無線外部充電器、有線/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有線/無線接続されるスマートフォン、有線/無線接続されるパーソナルコンピュータ、有線/無線接続されるPDA、及び有線/無線接続されるイヤホンなどがある。外部入出力部160は、このような外部機器から伝送を受けたデータをスマートフォン101の内部の各構成要素に伝達したり、スマートフォン101の内部のデータが外部機器に伝送されたりするように構成されてもよい。
GPS受信部170は、主制御部100の指示に従って、GPS衛星ST1、ST2~STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン101の緯度、経度及び高度によって特定される位置を検出する。GPS受信部170は、無線通信部110及び/又は外部入出力部160(例えば、無線LAN(Local Area Network))から位置情報を取得できる場合には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部180は、例えば、3軸の加速度センサなどを備え、主制御部100の指示に従って、スマートフォン101の物理的な動きを検出する。スマートフォン101の物理的な動きを検出することにより、スマートフォン101の動く方向や加速度が検出される。その検出の結果は、主制御部100に出力される。
電源部190は、主制御部100の指示に従って、スマートフォン101の各部に、バッテリ(図示しない)に蓄えられる電力を供給する。
主制御部100は、マイクロプロセッサを備え、記憶部150が記憶する制御プログラムや制御データに従って動作し、スマートフォン101の各部を統括して制御する。また、主制御部100は、無線通信部110を通じて音声通信及びデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能とを備える。
アプリケーション処理機能は、記憶部150が記憶するアプリケーションソフトウェアに従って主制御部100が動作することにより実現される。アプリケーション処理機能としては、例えば、外部入出力部160を制御することで対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、及びWebページを閲覧するWebブラウジング機能などがある。
また、主制御部100は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部120に表示する等の画像処理機能を備える。画像処理機能とは、主制御部100が、上記画像データを復号し、その復号結果に画像処理を施して、その画像処理を経て得られる画像を表示入力部120に表示する機能のことをいう。
さらに、主制御部100は、表示パネル121に対する表示制御と、操作部140や操作パネル122を通じたユーザ操作を検出する操作検出制御とを実行する。
表示制御の実行により、主制御部100は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、或いは電子メールを作成するためのウィンドウを表示する。なお、スクロールバーとは、表示パネル121の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部100は、操作部140を通じたユーザ操作を検出したり、操作パネル122を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、或いは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
さらに、操作検出制御の実行により主制御部100は、操作パネル122に対する操作位置が、表示パネル121に重なる重畳部分(表示領域)に該当するか、或いはそれ以外の表示パネル121に重ならない外縁部分(非表示領域)に該当するかを判定し、操作パネル122の感応領域やソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部100は、操作パネル122に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、或いはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部141は、CMOSなどの撮像素子22を用いて電子撮影するデジタルカメラである。また、カメラ部141は、主制御部100の制御により、撮像によって得た画像データを例えばJPEGなどの圧縮した画像データに変換し、その画像データを記憶部150に記録したり、外部入出力部160や無線通信部110を通じて出力したりすることができる。図44に示すようにスマートフォン101において、カメラ部141は表示入力部120と同じ面に搭載されているが、カメラ部141の搭載位置はこれに限らず、表示入力部120が設けられる筐体102の表面ではなく筐体102の背面にカメラ部141が搭載されてもよいし、或いは複数のカメラ部141が筐体102に搭載されてもよい。なお、複数のカメラ部141が搭載されている場合には、撮影に供するカメラ部141を切り替えて単独のカメラ部141によって撮影が行われてもよいし、或いは、複数のカメラ部141を同時に使用して撮影が行われてもよい。
また、カメラ部141はスマートフォン101の各種機能に利用することができる。例えば、カメラ部141で取得した画像が表示パネル121に表示さてもよいし、操作パネル122の操作入力手法の1つとして、カメラ部141で撮影取得される画像が利用さてもよい。また、GPS受信部170が位置を検出する際に、カメラ部141からの画像が参照されて位置が検出されてもよい。さらには、カメラ部141からの画像が参照されて、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン101のカメラ部141の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部141からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、GPS受信部170により取得された位置情報、マイクロホン132により取得された音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、及びモーションセンサ部180により取得された姿勢情報等などを静止画像又は動画像のデータに付加して得られるデータを、記憶部150に記録したり、外部入出力部160や無線通信部110を通じて出力したりすることもできる。
なお上述の画像処理装置40(特に復元処理部41)は、例えば主制御部100によって実現可能である。
10…カメラデバイス、12…撮像部、12A…撮像支持部、14A…支持フレーム、14B…架台、14…支持部、16…光学系、18…制御パネル、20…監視カメラシステム、22…撮像素子、23…カメラ側制御処理部、24…カメラ側通信部、30…制御端末、31…ユーザインターフェース、32…端末側制御処理部、33…端末側通信部、40…画像処理装置、41…復元処理部、42…画像取得部、43…条件取得部、50…デジタルカメラ、51…撮像制御処理部、52…通信部、53…撮像ユーザインターフェース、54…本体部、55…光学系制御部、56…光学系入出力部、57…本体制御部、58…光学系装着部、59…本体入出力部、60…コンピュータ、61…コンピュータ制御処理部、62…コンピュータ入出力部、63…コンピュータユーザインターフェース、100…主制御部、101…スマートフォン、102…筐体、110…無線通信部、120…表示入力部、121…表示パネル、122…操作パネル、130…通話部、131…スピーカ、132…マイクロホン、140…操作部、141…カメラ部、150…記憶部、151…内部記憶部、152…外部記憶部、160…外部入出力部、170…GPS受信部、180…モーションセンサ部、190…電源部
Claims (17)
- 光学系と、
前記光学系を介して撮影光を受光して対象画像を出力する撮像素子と、
前記光学系の光学伝達関数に基づく復元処理を前記対象画像に対して行う復元処理部とを備え、
前記光学系は全画角が90度を超え、
前記光学系の光量評価領域は、前記光学系の結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す前記光学系の領域であり、
546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比が25%以上を示し、
406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、前記撮像素子のナイキスト周波数の1/2に関して取得される前記光学系のMTFの値が15%以上を示す撮像装置。 - 光学系と、
前記光学系を介して撮影光を受光して対象画像を出力する撮像素子と、
前記光学系の光学伝達関数に基づく復元処理を前記対象画像に対して行う復元処理部とを備え、
前記光学系は全画角が90度を超え、かつ
fは、前記対象画像の空間周波数を表し、
hは、前記対象画像の中心からの距離を表し、
H(f,h)は、前記光学系のOTFを表し、
R(h)は、前記光学系の光量評価領域が、前記光学系の結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す前記光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、
SNR(f)は、SNR(f)=S(f)/N(f)によって表され、
S(f)は、想定される撮影条件において期待される前記対象画像の中心における信号量の二乗平均値を表し、
N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す、
を満たす撮像装置。 - 対象画像を取得する画像取得部と、
前記対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する条件取得部と、
前記撮影デバイス条件が、
(1)前記光学系の全画角が90度を超えること、
(2)前記光学系の光量評価領域が、前記光学系の結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す前記光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比が25%以上を示すこと、及び
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、前記撮像素子のナイキスト周波数の1/2に関して取得される前記光学系のMTFの値が15%以上を示すこと、
を満たす場合に、前記光学系の光学伝達関数に基づく復元処理を前記対象画像に対して行う復元処理部とを備える画像処理装置。 - 前記MTFの値は、前記光学系のサジタル方向のMTFの値及びタンジェンシャル方向のMTFの値のうち値が小さい方のMTFの値である請求項3に記載の画像処理装置。
- 前記復元処理部は、前記撮影デバイス条件が更に、
(4)前記第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比が30%以上を示すこと、及び
(5)前記第2の評価波長を使った場合に、前記撮像素子のナイキスト周波数の1/2に関して取得される前記MTFの値が20%以上を示すこと、
を満たす場合に、前記復元処理を行う請求項3又は4に記載の画像処理装置。 - 前記復元処理部は、前記撮影デバイス条件が更に、
(6)前記第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比が35%以上を示すこと、及び
(7)前記第2の評価波長を使った場合に、前記撮像素子のナイキスト周波数の1/2に関して取得される前記MTFの値が25%以上を示すこと、
を満たす場合に、前記復元処理を行う請求項3又は4に記載の画像処理装置。 - 対象画像を取得する画像取得部と、
前記対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する条件取得部と、
前記撮影デバイス条件が、
(8) 前記光学系の全画角が90度を超えること、及び
fは、前記対象画像の空間周波数を表し、
hは、前記対象画像の中心からの距離を表し、
H(f,h)は、前記光学系のOTFを表し、
R(h)は、前記光学系の光量評価領域が、前記光学系の結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す前記光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、
SNR(f)は、SNR(f)=S(f)/N(f)によって表され、
S(f)は、想定される撮影条件において期待される前記対象画像の中心における信号量の二乗平均値を表し、
N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す、
を満たす場合に、前記光学系の光学伝達関数に基づく復元処理を前記対象画像に対して行う復元処理部とを備える画像処理装置。 - 前記復元処理部は、
406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、前記撮像素子のナイキスト周波数の1/2に関して取得される前記光学系のMTFの値がA%として表され、546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比がB%として表される場合に、
(10) A%≧0.75×B%-40%
を前記撮影デバイス条件が更に満たす場合に、前記復元処理を行う請求項3~7のいずれか一項に記載の画像処理装置。 - 前記光量評価領域は、前記結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの60%以上を示す前記光学系の領域である請求項3~8のいずれか一項に記載の画像処理装置。
- 光学系が着脱可能に取り付けられる光学系装着部と、
前記光学系装着部に装着された前記光学系を介して撮影光を受光して画像を出力する撮像素子と、
請求項3~9のいずれか一項に記載の画像処理装置とを備え、
前記撮像素子から出力される前記画像を前記対象画像とする撮像装置。 - 光学系と、当該光学系を介して撮影光を受光して画像を出力する撮像素子と、当該撮像素子に接続されるカメラ側制御処理部と、当該カメラ側制御処理部に接続されるカメラ側通信部とを有するカメラデバイスと、
前記カメラ側通信部と通信可能な端末側通信部と、当該端末側通信部に接続される端末側制御処理部と、当該端末側制御処理部に接続されるユーザインターフェースとを有する制御端末とを備え、
前記カメラ側制御処理部及び前記端末側制御処理部のうち少なくともいずれか一方は、請求項3~9のいずれか一項に記載の画像処理装置を有し、
前記撮像素子から出力される前記画像を前記対象画像とする撮像装置。 - 対象画像を取得するステップと、
前記対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得するステップと、
前記撮影デバイス条件が、
(1)前記光学系の全画角が90度を超えること、
(2)前記光学系の光量評価領域が、前記光学系の結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す前記光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比が25%以上を示すこと、及び
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、前記撮像素子のナイキスト周波数の1/2に関して取得される前記光学系のMTFの値が15%以上を示すこと、
を満たす場合に、前記光学系の光学伝達関数に基づく復元処理を前記対象画像に対して行うステップとを備える画像処理方法。 - 対象画像を取得するステップと、
前記対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得するステップと、
前記撮影デバイス条件が、
(8) 前記光学系の全画角が90度を超えること、及び
fは、前記対象画像の空間周波数を表し、
hは、前記対象画像の中心からの距離を表し、
H(f,h)は、前記光学系のOTFを表し、
R(h)は、前記光学系の光量評価領域が、前記光学系の結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す前記光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、
SNR(f)は、SNR(f)=S(f)/N(f)によって表され、
S(f)は、想定される撮影条件において期待される前記対象画像の中心における信号量の二乗平均値を表し、
N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す、
を満たす場合に、前記光学系の光学伝達関数に基づく復元処理を前記対象画像に対して行うステップとを備える画像処理方法。 - 対象画像を取得する手順と、
前記対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、
前記撮影デバイス条件が、
(1)前記光学系の全画角が90度を超えること、
(2)前記光学系の光量評価領域が、前記光学系の結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す前記光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比が25%以上を示すこと、及び
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に前記撮像素子のナイキスト周波数の1/2に関して取得される前記光学系のMTFの値が15%以上を示すこと、
を満たす場合に、前記光学系の光学伝達関数に基づく復元処理を前記対象画像に対して行う手順とをコンピュータに実行させるためのプログラム。 - 対象画像を取得する手順と、
前記対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、
前記撮影デバイス条件が、
(8) 前記光学系の全画角が90度を超えること、及び
fは、前記対象画像の空間周波数を表し、
hは、前記対象画像の中心からの距離を表し、
H(f,h)は、前記光学系のOTFを表し、
R(h)は、前記光学系の光量評価領域が、前記光学系の結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す前記光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、
SNR(f)は、SNR(f)=S(f)/N(f)によって表され、
S(f)は、想定される撮影条件において期待される前記対象画像の中心における信号量の二乗平均値を表し、
N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す、
を満たす場合に、前記光学系の光学伝達関数に基づく復元処理を前記対象画像に対して行う手順とをコンピュータに実行させるためのプログラム。 - 対象画像を取得する手順と、
前記対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、
前記撮影デバイス条件が、
(1)前記光学系の全画角が90度を超えること、
(2)前記光学系の光量評価領域が、前記光学系の結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す前記光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比が25%以上を示すこと、及び
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、前記撮像素子のナイキスト周波数の1/2に関して取得される前記光学系のMTFの値が15%以上を示すこと、
を満たす場合に、前記光学系の光学伝達関数に基づく復元処理を前記対象画像に対して行う手順とをコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な非一時的有形記録媒体。 - 対象画像を取得する手順と、
前記対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、
前記撮影デバイス条件が、
(8) 前記光学系の全画角が90度を超えること、及び
fは、前記対象画像の空間周波数を表し、
hは、前記対象画像の中心からの距離を表し、
H(f,h)は、前記光学系のOTFを表し、
R(h)は、前記光学系の光量評価領域が、前記光学系の結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す前記光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、前記結像面の中心に対応する前記光学系の領域における光量に対する前記光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、
SNR(f)は、SNR(f)=S(f)/N(f)によって表され、
S(f)は、想定される撮影条件において期待される前記対象画像の中心における信号量の二乗平均値を表し、
N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す、
を満たす場合に、前記光学系の光学伝達関数に基づく復元処理を前記対象画像に対して行う手順とをコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な非一時的有形記録媒体。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201680021291.XA CN107431763B (zh) | 2015-04-16 | 2016-04-08 | 摄像装置、图像处理装置、图像处理方法及记录介质 |
JP2017512512A JP6240811B2 (ja) | 2015-04-16 | 2016-04-08 | 撮像装置、画像処理装置、画像処理方法、プログラム及び記録媒体 |
US15/783,439 US10269101B2 (en) | 2015-04-16 | 2017-10-13 | Imaging device, image processing device, image processing method, program, and recording medium |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015084393 | 2015-04-16 | ||
JP2015-084393 | 2015-04-16 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
US15/783,439 Continuation US10269101B2 (en) | 2015-04-16 | 2017-10-13 | Imaging device, image processing device, image processing method, program, and recording medium |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2016167189A1 true WO2016167189A1 (ja) | 2016-10-20 |
Family
ID=57126157
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2016/061512 WO2016167189A1 (ja) | 2015-04-16 | 2016-04-08 | 撮像装置、画像処理装置、画像処理方法、プログラム及び記録媒体 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10269101B2 (ja) |
JP (1) | JP6240811B2 (ja) |
CN (1) | CN107431763B (ja) |
WO (1) | WO2016167189A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2021065319A1 (ja) * | 2019-09-30 | 2021-04-08 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107534733B (zh) * | 2015-04-23 | 2019-12-20 | 富士胶片株式会社 | 摄像装置、该摄像装置的图像处理方法及介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009213129A (ja) * | 2008-02-05 | 2009-09-17 | Fujifilm Corp | 画像処理装置、画像処理方法、およびプログラム |
JP2012005056A (ja) * | 2010-06-21 | 2012-01-05 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
JP2014021312A (ja) * | 2012-07-19 | 2014-02-03 | Canon Inc | ズームレンズおよび撮像装置 |
WO2015015935A1 (ja) * | 2013-07-29 | 2015-02-05 | 富士フイルム株式会社 | 撮像装置及び画像処理方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5076240B2 (ja) * | 2008-02-05 | 2012-11-21 | 富士フイルム株式会社 | 撮像装置、撮像方法、およびプログラム |
US8324546B1 (en) * | 2009-02-05 | 2012-12-04 | Stc.Unm | System and methods for reducing distortion and degradation in adaptive optics technology |
WO2012132870A1 (ja) * | 2011-03-31 | 2012-10-04 | 富士フイルム株式会社 | 焦点拡張光学系及びEDoF撮像システム |
US20130265459A1 (en) * | 2011-06-28 | 2013-10-10 | Pelican Imaging Corporation | Optical arrangements for use with an array camera |
JP5264968B2 (ja) * | 2011-08-08 | 2013-08-14 | キヤノン株式会社 | 画像処理装置、画像処理方法、撮像装置、および、画像処理プログラム |
JP5993124B2 (ja) | 2011-10-14 | 2016-09-14 | 京セラ株式会社 | 撮像装置 |
US8976271B2 (en) | 2012-07-19 | 2015-03-10 | Canon Kabushiki Kaisha | Optical system and image pickup apparatus |
CN105103534B (zh) * | 2013-03-27 | 2018-06-22 | 富士胶片株式会社 | 摄像装置及校准方法 |
-
2016
- 2016-04-08 JP JP2017512512A patent/JP6240811B2/ja active Active
- 2016-04-08 CN CN201680021291.XA patent/CN107431763B/zh active Active
- 2016-04-08 WO PCT/JP2016/061512 patent/WO2016167189A1/ja active Application Filing
-
2017
- 2017-10-13 US US15/783,439 patent/US10269101B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009213129A (ja) * | 2008-02-05 | 2009-09-17 | Fujifilm Corp | 画像処理装置、画像処理方法、およびプログラム |
JP2012005056A (ja) * | 2010-06-21 | 2012-01-05 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
JP2014021312A (ja) * | 2012-07-19 | 2014-02-03 | Canon Inc | ズームレンズおよび撮像装置 |
WO2015015935A1 (ja) * | 2013-07-29 | 2015-02-05 | 富士フイルム株式会社 | 撮像装置及び画像処理方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2021065319A1 (ja) * | 2019-09-30 | 2021-04-08 | ||
WO2021065319A1 (ja) * | 2019-09-30 | 2021-04-08 | 株式会社ニコン | 光学系、光学機器及び光学系の製造方法 |
CN114424105A (zh) * | 2019-09-30 | 2022-04-29 | 株式会社尼康 | 光学系统、光学设备及光学系统的制造方法 |
JP7288617B2 (ja) | 2019-09-30 | 2023-06-08 | 株式会社ニコン | 光学系及び光学機器 |
Also Published As
Publication number | Publication date |
---|---|
CN107431763B (zh) | 2020-02-28 |
JP6240811B2 (ja) | 2017-11-29 |
CN107431763A (zh) | 2017-12-01 |
US20180047139A1 (en) | 2018-02-15 |
US10269101B2 (en) | 2019-04-23 |
JPWO2016167189A1 (ja) | 2018-03-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9906732B2 (en) | Image processing device, image capture device, image processing method, and program | |
US9633417B2 (en) | Image processing device and image capture device performing restoration processing using a restoration filter based on a point spread function | |
JP5750558B2 (ja) | 撮像装置及び合焦制御方法 | |
JP5851650B2 (ja) | 復元フィルタ生成装置及び方法、画像処理装置、撮像装置、復元フィルタ生成プログラム並びに記録媒体 | |
US9965833B2 (en) | Optical system characteristic data storing device, method, and program for image restoration filtering | |
JP5903528B2 (ja) | 撮像装置及び画像処理方法 | |
JPWO2014155755A1 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム並びに記録媒体 | |
US10249028B2 (en) | Imaging device, image processing device, image processing method, program, and recording medium | |
JP5870231B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
WO2013168493A1 (ja) | 信号処理装置、撮像装置、信号補正方法 | |
US10559068B2 (en) | Image processing device, image processing method, and program processing image which is developed as a panorama | |
WO2017056557A1 (ja) | 合焦制御装置、撮像装置、合焦制御方法、及び合焦制御プログラム | |
JP6042034B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
WO2016038935A1 (ja) | 撮像光学系及び撮像装置 | |
JP2019009822A (ja) | 画像処理装置及び画像処理方法 | |
JP6240811B2 (ja) | 撮像装置、画像処理装置、画像処理方法、プログラム及び記録媒体 | |
WO2014098143A1 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム | |
JP6446599B2 (ja) | 合焦制御装置、レンズ装置、撮像装置、合焦制御方法、合焦制御プログラム | |
WO2017110261A1 (ja) | 撮像装置、合焦制御方法、及び合焦制御プログラム | |
WO2013145887A1 (ja) | 撮像装置及び撮像方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 16779980 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2017512512 Country of ref document: JP Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 16779980 Country of ref document: EP Kind code of ref document: A1 |