WO2020105201A1 - 撮像装置及び電子機器 - Google Patents
撮像装置及び電子機器Info
- Publication number
- WO2020105201A1 WO2020105201A1 PCT/JP2019/007601 JP2019007601W WO2020105201A1 WO 2020105201 A1 WO2020105201 A1 WO 2020105201A1 JP 2019007601 W JP2019007601 W JP 2019007601W WO 2020105201 A1 WO2020105201 A1 WO 2020105201A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- polarizer
- unit
- imaging
- polarization
- repeating unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/042—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by a proximal camera, e.g. a CCD camera
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00006—Operational features of endoscopes characterised by electronic signal processing of control signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00147—Holding or positioning arrangements
- A61B1/00149—Holding or positioning arrangements using articulated arms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00163—Optical arrangements
- A61B1/00188—Optical arrangements with focusing or zooming features
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/043—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0638—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/26—Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B11/00—Filters or other obturators specially adapted for photographic purposes
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
- G03B35/08—Stereoscopic photography by simultaneous recording
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two two-dimensional [2D] image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more two-dimensional [2D] image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/257—Colour aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/05—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0661—Endoscope light sources
- A61B1/0669—Endoscope light sources at proximal end of an endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0661—Endoscope light sources
- A61B1/0684—Endoscope light sources using light emitting diodes [LED]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/07—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements using light-conductive means, e.g. optical fibres
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/107—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
Definitions
- the present technology relates to an imaging device and electronic equipment.
- Patent Document 1 a technique related to an image processing device that generates normal line information on the surface of a subject by capturing an image of the subject has been proposed (for example, see Patent Document 1).
- Patent Document 1 may not be able to further improve the accuracy of distance information.
- the present technology has been made in view of such a situation, and it is an object of the present invention to provide an imaging device capable of further improving the accuracy of distance information, and an electronic device equipped with the imaging device.
- the main purpose is an imaging device capable of further improving the accuracy of distance information, and an electronic device equipped with the imaging device.
- the present inventors succeeded in further improving the accuracy of distance information and completed the present technology.
- the stereo image capturing unit includes a plurality of sensors, Each of the plurality of sensors has an imaging unit composed of a plurality of repeating units, The imaging unit comprises a polarizer having at least one polarization principal axis angle, There is provided an imaging device that combines at least two unit images obtained by each of the plurality of imaging units, acquires polarization information in at least three directions, and generates normal line information.
- the imaging device among the plurality of imaging units, a polarizer having the at least one type of polarization principal axis angle of one imaging unit, and the plurality of imaging units,
- the at least one kind of polarization principal axis angle of each of all imaging units other than one imaging unit may be different from each other in the polarization principal axis angle, All of the imaging units other than the one imaging unit may not have a polarizer having at least one kind of polarization principal axis angle of the one imaging unit.
- the plurality of unit images may be reconstructed based on a stereo correspondence.
- each of the plurality of imaging units may include a polarizer having two or less types of polarization main axis angles.
- each of the plurality of imaging units may include two types of polarizers having the polarization principal axis angles, In each of the plurality of imaging units, the two types of polarization main axis angles may have an orthogonal relationship.
- one imaging unit of the plurality of imaging units has a polarizer having a polarization principal axis angle of 22.5 degrees and a polarization principal axis angle of 112.5 degrees.
- each of the plurality of imaging units may include a polarizer having one type of polarization principal axis angle,
- the angle difference between the polarization main axis angles of the polarizer of each of the plurality of imaging units may be 5 degrees or more and 85 degrees or less.
- each of the plurality of imaging units may include a repeating unit that includes a polarizer and a repeating unit that does not include a polarizer, and each of the plurality of imaging units.
- the ratio of the repeating unit containing the polarizer to the repeating unit not containing the polarizer may be substantially the same.
- each of the plurality of imaging units may include a repeating unit that includes a polarizer and a repeating unit that does not include a polarizer, and each of the plurality of imaging units.
- the arrangement pattern of the repeating unit containing the polarizer and the arrangement pattern of the repeating unit not containing the polarizer may be substantially the same.
- the stereo image capturing unit includes a first sensor and a second sensor,
- the first sensor has a first imaging unit composed of a plurality of repeating units
- the second sensor has a second imaging unit composed of a plurality of repeating units
- the first imaging unit has a polarizer with at least one polarization principal axis angle
- the second imaging unit has a polarizer with at least one polarization principal axis angle
- the first unit image obtained by the first image pickup unit and the second unit image obtained by the second image pickup unit are combined to obtain polarization information in at least three directions to obtain normal line information.
- An imaging device for generating is provided.
- a polarizer having the at least one kind of polarization principal axis angle of the first imaging unit and the at least one kind of polarization principal axis of the second imaging unit may be different from each other in the polarization main axis angle,
- the second imaging unit may not have the polarizer having the at least one polarization principal axis angle that the first imaging unit has.
- the first unit image and the second unit image may be reconstructed based on a stereo correspondence.
- the first imaging unit may include a polarizer having two or less types of polarization principal axis angles
- the second imaging unit may have a polarizer having two or less types of polarization principal axis angles.
- the first imaging unit may include a polarizer having two types of polarization principal axis angles, and the two types of polarization in the first imaging unit may be included.
- the spindle angles may be orthogonal
- the second imaging unit may have a polarizer having two types of polarization principal axis angles, and in the second imaging unit, the two types of polarization principal axis angles may have an orthogonal relationship.
- the first imaging unit includes a polarizer having a polarization principal axis angle of 22.5 degrees and a polarizer having a polarization principal axis angle of 112.5 degrees.
- the second imaging unit may include a polarizer having a polarization principal axis angle of 67.5 degrees and a polarizer having a polarization principal axis angle of 157.5 degrees.
- the first imaging unit may include a polarizer having one kind of polarization principal axis angle
- the second imaging unit may have a polarizer with one polarization principal axis angle
- a difference between the polarization principal axis angle of the polarizer included in the first imaging unit and the polarization principal axis angle of the polarizer included in the second imaging unit may be 5 degrees or more and 85 degrees or less.
- the first imaging unit may include a repeating unit containing a polarizer and a repeating unit not containing a polarizer
- the second imaging unit may have a repeating unit containing a polarizer and a repeating unit not containing a polarizer, A ratio of a repeating unit containing the polarizer to a repeating unit not containing the polarizer in the first imaging unit;
- the repeating unit containing the polarizer and the repeating unit not containing the polarizer in the second imaging unit may have substantially the same ratio.
- the first imaging unit may include a repeating unit containing a polarizer and a repeating unit not containing a polarizer
- the second imaging unit may have a repeating unit containing a polarizer and a repeating unit not containing a polarizer
- the arrangement pattern of the repeating unit containing the polarizer and the repeating unit not containing the polarizer in the second imaging unit may be substantially the same.
- an electronic device in which the first side image capturing device or the second side image capturing device according to the present technology is mounted.
- composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of an imaging device to which this art is applied. It is a figure showing an example of composition of
- FIG. 1 It is a figure which shows an example of a schematic structure of an endoscopic surgery system. It is a block diagram showing an example of functional composition of a camera head and CCU. It is a block diagram showing an example of a schematic structure of a vehicle control system. It is explanatory drawing which shows an example of the installation position of a vehicle exterior information detection part and an imaging part.
- a polarization sensor can be used to increase the ranging accuracy.
- Highly accurate distance information (3D information) can be obtained from the absolute distance information and the normal information generated from the polarization information.
- Absolute distance information is necessary to eliminate indeterminacy when calculating the normal.
- An imaging device includes a stereo image capturing unit, the stereo image capturing unit includes a plurality of sensors, each of the plurality of sensors has an image capturing unit including a plurality of repeating units, and the image capturing unit is at least A polarizer having one type of polarization principal axis angle, and combining at least two unit images obtained by each of a plurality of imaging units to obtain polarization information in at least three directions to generate normal line information, It is an imaging device. According to the imaging device of the present technology, since the polarization pixels in at least three directions are not arranged in each of the plurality of sensors, it is possible to reduce the number of polarization pixels and allocate them to non-polarization pixels.
- the resolution of normal information can be increased by arranging not the unpolarized pixel but the polarized pixel in the direction to be arranged in each sensor of the plurality of sensors. If the resolution of the line information increases, the accuracy in the distance direction (the accuracy of 3D information) can be increased.
- the imaging device according to the present technology will be described in more detail.
- At least two sensors can be used to get distance (absolute distance) information.
- polarization information in at least three directions is necessary to generate normal line information. It is not necessary to take polarized light in all directions (for example, four polarization directions) required by each sensor of the plurality of sensors, and all directions (for example, four polarization directions) required for the entire imaging device (for example, four polarization directions)
- the polarized light of For example, two sensors of the plurality of sensors may be combined to obtain four polarizations. Since it is not necessary to increase the number of polarization pixels more than necessary, and the number of polarization pixels with reduced sensitivity can be reduced, non-polarization pixels (non-polarization pixels) can be used, and the sensitivity can be increased accordingly.
- the imaging device for example, two sensors in which the directions of the polarizers are different from each other may be arranged and used in the left-right direction.
- the imaging device calculates an absolute distance from a brightness image.
- the imaging device since the number of polarization pixels is small, a non-polarization pixel can be used to increase sensitivity, and normal information is two unit images obtained by two sensors arranged in the left and right directions. Is calculated in combination.
- Two unit images are combined to obtain at least three polarized lights (for example, four polarized lights), and a normal line is calculated and generated.
- the two sensors may be arranged in the left-right direction, but the arrangement state is not limited to that.
- the light receiving area of the sensor may be referred to as an image pickup unit.
- the first imaging unit light receiving area of the first sensor
- the second imaging unit second sensor
- the normal line is generated by using the polarization information of the pixel looking at the same portion of the first image capturing unit (light receiving region of the first sensor) and the second image capturing unit (light receiving region of the second sensor). It can be carried out.
- the brightness of the images obtained from the first imaging unit (light receiving area of the first sensor) and the second imaging unit (light receiving area of the second sensor) is substantially the same ( It is desirable that "substantially the same” is substantially the same.
- the imaging device according to the present technology may combine at least two unit images obtained by each of the plurality of imaging units that configure each of the plurality of sensors, in order to generate the normal information. That is, the imaging device according to an embodiment of the present technology may generate normal line information by combining all the unit images obtained by each of the plurality of imaging units that configure each of the plurality of sensors, or may generate the normal line information. The normal line information may be generated by combining some of the unit images obtained by each of the plurality of imaging units forming each.
- the imaging device of the first embodiment (Example 1 of imaging device) according to the present technology includes a stereo image imaging unit, and the stereo image imaging unit includes a first sensor and a second sensor, and the first sensor Has a first imaging unit composed of a plurality of repeating units, a second sensor has a second imaging unit composed of a plurality of repeating units, and the first imaging unit is at least one kind.
- the imaging device of the first embodiment according to the present technology uses two sensors to acquire polarization information in at least three directions and generate normal line information.
- the imaging device according to the first embodiment of the present technology in order to generate normal line information, it is sufficient to acquire polarization information in at least three directions, and thus polarization information in three directions may be used or polarization information in four directions.
- Information may be used, or polarization information in five or more directions may be used.
- the imaging device of the first embodiment of the present technology it is possible to further improve the accuracy of distance information. More specifically, according to the imaging device of the first embodiment of the present technology, since the polarization pixels in at least three directions are not arranged in each of the plurality (two) of sensors, the number of polarization pixels is reduced, Since this can be assigned to non-polarized pixels, it is possible to increase the sensitivity, and to arrange not the non-polarized pixels but the polarized pixels in the direction desired to be arranged on each of the (two) sensors. Thereby, the resolution of the normal line information can be increased, and if the resolution of the normal line information is increased, the accuracy in the distance direction (the accuracy of the 3D information) can be increased.
- a polarizer having the at least one type of polarization principal axis angle that the first imaging unit has and at least one type of polarization principal axis angle that the second imaging unit has It is preferable that the polarizers that they have are different from each other in the polarization principal axis angle, and that the second imaging unit does not have the polarizer having the at least one kind of polarization principal axis angle that the first imaging unit has. preferable.
- the first unit image and the second unit image are reconfigured based on the stereo correspondence.
- the first imaging unit has a polarizer having a polarization principal axis angle of 2 or less
- the second imaging unit has a polarization of 2 or less. It is preferable to have a polarizer with a principal axis angle.
- the first imaging unit has a polarizer having two types of polarization principal axis angles, and the first imaging unit has two types of polarization principal axis angles.
- the second imaging unit preferably has a polarizer having two types of polarization principal axis angles, and in the second imaging unit, the two types of polarization principal axis angles are in an orthogonal relationship.
- the two types of polarization principal axis angles are in an orthogonal relationship.
- the first imaging unit has a polarizer having a polarization principal axis angle of 22.5 degrees and a polarizer having a polarization principal axis angle of 112.5 degrees.
- the second imaging unit has a polarizer having a polarization principal axis angle of 67.5 degrees and a polarizer having a polarization principal axis angle of 157.5 degrees.
- the first imaging unit has a polarizer having one kind of polarization principal axis angle
- the second imaging unit has one kind of polarization principal axis angle.
- a difference between the polarization main axis angle of the polarizer of the first imaging unit and the polarization main axis angle of the polarizer of the second imaging unit is 5 degrees or more and 85 degrees. The following is preferable.
- the first imaging unit has a repeating unit that includes a polarizer and a repeating unit that does not include the polarizer
- the second imaging unit is a polarization unit. It is preferable to have a repeating unit containing a child and a repeating unit not containing a polarizer, and the ratio of the repeating unit containing the polarizer to the repeating unit containing no polarizer in the first imaging unit and the repeating unit in the second imaging unit It is preferable that the ratio of the repeating unit containing a polarizer and the ratio of the repeating unit not containing a polarizer are substantially the same.
- the first imaging unit has a repeating unit that includes a polarizer and a repeating unit that does not include the polarizer
- the second imaging unit is a polarization unit. It is preferable to have a repeating unit containing a child and a repeating unit not containing a polarizer, and an arrangement pattern of a repeating unit containing a polarizer and a repeating unit not containing a polarizer in the first imaging unit, and a second imaging It is preferable that the arrangement pattern of the repeating unit containing the polarizer and the repeating unit not containing the polarizer in the unit are substantially the same.
- FIGS. 1 to 9 and 11 to 15 are diagrams illustrating a configuration example of the imaging device according to the first embodiment of the present technology.
- 16 to 17 are cross-sectional views showing a configuration example of a sensor that constitutes the image pickup apparatus according to the first embodiment of the present technology, more specifically, an image pickup unit that is a light receiving region of the sensor.
- FIG. 18 is a diagram illustrating an example of an image capturing mode using the image capturing apparatus according to the first embodiment of the present technology.
- FIG. 19 is a flowchart showing the flow of processing by the imaging device according to the first embodiment of the present technology.
- 20 to 24 are diagrams for explaining that normal line information is generated and a distance image (3D information) is obtained by using the image pickup apparatus according to the first embodiment of the present technology.
- FIG. 1 shows an imaging device 1.
- the image pickup apparatus 1 includes a first sensor 1-1 and a second sensor 1-2. That is, the stereo image capturing unit included in the image capturing apparatus 1 includes the first sensor 1-1 and the second sensor 1-2.
- the first sensor 1-1 has one imaging unit 10-1 composed of four repeating units 11-1 to 14-1.
- the repeating unit 11-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 11-1 obtains a polarization luminance value for one pixel.
- the repeating unit 12-1 is composed of one pixel without a polarizer, and the repeating unit 12-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 13-1 is composed of one pixel without a polarizer, and the repeating unit 13-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 14-1 is composed of a polarizer having a polarization principal axis angle of 22.5 degrees and one pixel, and the repeating unit 14-1 obtains a polarization luminance value for one pixel.
- the second sensor 1-2 has one imaging unit 10-2 composed of four repeating units 11-2 to 14-2.
- the repeating unit 11-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 11-2 obtains a polarization luminance value for one pixel.
- the repeating unit 12-2 is composed of one pixel without a polarizer, and the repeating unit 12-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 13-2 is composed of one pixel without a polarizer, and the repeating unit 13-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 14-2 is composed of a polarizer having a polarization principal axis angle of 157.5 degrees and one pixel, and the repeating unit 14-2 obtains a polarization luminance value for one pixel.
- the arrangement of polarized pixels and non-polarized pixels (non-polarized pixels) is the same in both. Since the respective polarizers are symmetrical with respect to the pixels and have the same length, and the luminances of the pixels whose angles are orthogonal to each other can be added, the luminance independent of the polarization can be obtained. Therefore, the imaging units 10-1 and 10-2 The unit images obtained by the above have substantially the same sensitivity, and it is easy to identify the same portion. It is easy to calculate normal information.
- FIG. 2 shows the imaging device 2.
- the image pickup device 2 includes a first sensor 2-1 and a second sensor 2-2. That is, the stereo image capturing unit included in the image capturing device 2 includes the first sensor 2-1 and the second sensor 2-2.
- the first sensor 2-1 has one imaging unit 20-1 composed of four repeating units 21-1 to 24-1.
- the repeating unit 21-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 21-1 obtains a polarization luminance value for one pixel.
- the repeating unit 22-1 is composed of one pixel without a polarizer, and the repeating unit 22-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 23-1 is composed of one pixel without a polarizer, and the repeating unit 23-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 24-1 is composed of a polarizer having a polarization main axis angle of 22.5 degrees and one pixel, and the repeating unit 24-1 obtains a polarization luminance value for one pixel.
- the second sensor 2-2 has one imaging unit 20-2 composed of four repeating units 21-2 to 24-2.
- the repeating unit 21-2 is composed of one pixel without a polarizer, and the repeating unit 21-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 22-2 is composed of a polarizer having a polarization principal axis angle of 157.5 degrees and one pixel, and the repeating unit 22-2 obtains a polarization luminance value for one pixel.
- the repeating unit 23-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 23-2 obtains a polarization luminance value for one pixel.
- the repeating unit 24-2 is composed of one pixel without a polarizer, and the repeating unit 24-2 provides a non-polarized luminance value for one pixel.
- the principal axis angle of the polarizer is the same as that of the image pickup apparatus 1 shown in FIG. 1, but the arrangement of the polarization pixel and the non-polarization pixel is different.
- the effect of the image pickup apparatus 2 is similar to the effect of the image pickup apparatus 1.
- FIG. 3 shows the imaging device 3.
- the image pickup device 3 includes a first sensor 3-1 and a second sensor 3-2. That is, the stereo image capturing unit included in the image capturing apparatus 3 includes the first sensor 3-1 and the first sensor 3-2.
- the first sensor 3-1 has one imaging unit 30-1 composed of four repeating units 31-1 to 34-1.
- the repeating unit 31-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 31-1 obtains a polarization luminance value for one pixel.
- the repeating unit 32-1 is composed of one pixel without a polarizer, and the repeating unit 32-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 33-1 is composed of one pixel without a polarizer, and the repeating unit 23-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 34-1 is composed of a polarizer having a polarization principal axis angle of 157.5 degrees and one pixel, and the repeating unit 34-1 obtains a polarization luminance value for one pixel.
- the second sensor 3-2 has one imaging unit 30-2 composed of four repeating units 31-2 to 34-2.
- the repeating unit 31-2 is composed of one pixel without a polarizer, and the repeating unit 31-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 32-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 32-2 obtains a polarization luminance value for one pixel.
- the repeating unit 33-2 is composed of a polarizer having a polarization principal axis angle of 22.5 degrees and one pixel, and the repeating unit 33-2 obtains a polarization luminance value for one pixel.
- the repeating unit 34-2 is composed of one pixel without a polarizer, and the repeating unit 34-2 provides a non-polarized luminance value for one pixel.
- the configuration of the image pickup device 3 is included in the configuration of the image pickup device 2, but can be realized by rotating one type of sensor. Since the same sensor can be used, the manufacturing cost can be reduced.
- FIG. 4 shows the imaging device 4.
- the image pickup device 4 includes a first sensor 4-1 and a second sensor 4-2. That is, the stereo image capturing unit included in the image capturing device 4 includes the first sensor 4-1 and the second sensor 4-2.
- the first sensor 4-1 has one imaging unit 40-1 composed of four repeating units 41-1 to 44-1.
- the repeating unit 41-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 41-1 obtains a polarization luminance value for one pixel.
- the repeating unit 42-1 is composed of one pixel without a polarizer, and the repeating unit 42-1 obtains a non-polarized luminance value for one pixel.
- the repeating unit 43-1 is composed of one pixel without a polarizer, and the repeating unit 43-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 44-1 is composed of one pixel which is not polarized, and the repeating unit 44-1 obtains a non-polarized luminance value for one pixel.
- the second sensor 4-2 has one imaging unit 40-2 composed of four repeating units 41-2 to 44-2.
- the repeating unit 41-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 41-2 obtains a polarization luminance value for one pixel.
- the repeating unit 42-2 is composed of one pixel without a polarizer, and the repeating unit 42-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 43-2 is composed of one pixel without a polarizer, and the repeating unit 43-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 44-2 is composed of one pixel which is not polarized, and the repeating unit 44-2 obtains a non-polarized luminance value for one pixel.
- FIG. 5 shows the imaging device 5.
- the image pickup device 5 includes a first sensor 5-1 and a second sensor 5-2. That is, the stereo image capturing unit included in the image capturing device 5 includes the first sensor 5-1 and the second sensor 5-2.
- the first sensor 5-1 has one imaging unit 50-1-1 composed of two repeating units 51-1 and 53-1 in the horizontal direction (horizontal direction in FIG. 5).
- the repeating unit 51-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 51-1 obtains a polarization luminance value for one pixel.
- the repeating unit 53-1 is composed of one pixel without a polarizer, and the repeating unit 53-1 provides a non-polarized luminance value for one pixel.
- the first sensor 5-1 has one imaging unit 50-1-2 composed of two repeating units 55-1 and 56-1 in the vertical direction (vertical direction in FIG. 5).
- the repeating unit 55-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 55-1 obtains a polarization luminance value for one pixel.
- the repeating unit 56-1 is composed of one pixel without a polarizer, and the repeating unit 56-1 provides a non-polarized luminance value for one pixel.
- the second sensor 5-2 has one imaging unit 50-2-1 composed of two repeating units 51-2 and 53-2 in the horizontal direction (the horizontal direction in FIG. 5).
- the repeating unit 51-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 51-2 obtains a polarization luminance value for one pixel.
- the repeating unit 53-2 is composed of one pixel without a polarizer, and the repeating unit 53-2 provides a non-polarized luminance value for one pixel.
- the first sensor 5-2 has one imaging unit 50-2-2 composed of two repeating units 55-2 and 56-2 in the vertical direction (vertical direction in FIG. 5).
- the repeating unit 55-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 55-2 obtains a polarization luminance value for one pixel.
- the repeating unit 56-2 is composed of one pixel without a polarizer, and the repeating unit 56-2 provides a non-polarized luminance value for one pixel.
- the number of polarizing pixels is increased from the image pickup device 5 and the image pickup device 4.
- the imaging device 5 can improve the horizontal resolution, the vertical resolution, or both of them with respect to the imaging device 4.
- FIG. 6 shows the imaging device 6.
- the image pickup device 6 includes a first sensor 6-1 and a second sensor 6-2. That is, the stereo image capturing unit included in the image capturing device 6 includes the first sensor 6-1 and the second sensor 6-2.
- the first sensor 6-1 has one imaging unit 60-1 composed of four repeating units 61-1 to 64-1.
- the repeating unit 61-1 is composed of a polarizer having a polarization principal axis angle of 135 degrees and one pixel, and the repeating unit 61-1 obtains a polarization luminance value for one pixel.
- the repeating unit 62-1 is composed of one pixel without a polarizer, and the repeating unit 62-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 63-1 is composed of one pixel without a polarizer, and the repeating unit 63-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 64-1 is composed of a polarizer having a polarization principal axis angle of 45 degrees and one pixel, and the repeating unit 64-1 obtains a polarization luminance value for one pixel.
- the second sensor 6-2 has one imaging unit 60-2 composed of four repeating units 61-2 to 64-2.
- the repeating unit 61-2 is composed of a polarizer having a polarization principal axis angle of 0 degree and one pixel, and the repeating unit 61-2 obtains a polarization luminance value for one pixel.
- the repeating unit 62-2 is composed of one pixel without a polarizer, and the repeating unit 62-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 63-2 is composed of one pixel without a polarizer, and the repeating unit 63-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 64-2 is composed of a polarizer having a polarization principal axis angle of 90 degrees and one pixel, and the repeating unit 64-2 obtains a polarization luminance value for one pixel.
- the image pickup device 6 is arranged such that the polarization main axis angles of the polarizers are orthogonal to the image pickup device 1 in each sensor, and 22.5 degrees / 112.5 degrees and 67.5 degrees / 157.5 degrees are set. The configuration other than degrees is shown. It is possible to take the same variations as those of the image pickup devices 2 to 5 by combining the polarizers.
- FIG. 7 shows the imaging device 7.
- the image pickup device 7 includes a first sensor 7-1 and a second sensor 7-2. That is, the stereo image capturing unit included in the image capturing device 7 includes the first sensor 7-1 and the second sensor 7-2.
- the first sensor 7-1 is composed of 9 (3 ⁇ 3) repeating units 71-1 to 74-1, 77-1, 79-1, 710-1 and 713-1. It has an imaging unit 70-1.
- the repeating unit 71-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 71-1 obtains a polarization luminance value for one pixel.
- the repeating unit 72-1 is composed of one pixel without a polarizer, and the repeating unit 72-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 73-1 is composed of one pixel without a polarizer, and the repeating unit 73-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 74-1 is composed of one pixel without a polarizer, and the repeating unit 74-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 77-1 is composed of one pixel without a polarizer, and the repeating unit 77-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 79-1 is composed of one pixel without a polarizer, and the repeating unit 79-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 710-1 is composed of one pixel without a polarizer, and the repeating unit 710-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 713-1 is composed of a polarizer having a polarization main axis angle of 22.5 degrees and one pixel, and the repeating unit 713-1 obtains a polarization luminance value for one pixel.
- the first sensor 7-2 is composed of 9 (3 ⁇ 3) repeating units 71-2 to 74-2, 77-2, 79-2, 710-2 and 713-2. It has an imaging unit 70-2.
- the repeating unit 71-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 71-2 obtains a polarization luminance value for one pixel.
- the repeating unit 72-2 is composed of one pixel without a polarizer, and the repeating unit 72-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 73-2 is composed of one pixel without a polarizer, and the repeating unit 73-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 74-2 is composed of one pixel without a polarizer, and the repeating unit 74-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 77-2 is composed of one pixel without a polarizer, and the repeating unit 77-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 79-2 is composed of one pixel without a polarizer, and the repeating unit 79-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 710-2 is composed of one pixel without a polarizer, and the repeating unit 710-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 713-2 is composed of a polarizer having a polarization principal axis angle of 157.5 degrees and one pixel, and the repeating unit 713-2 obtains a polarization luminance value for one pixel.
- the imaging device 7 is an example in which the unit image (imaging unit) is 3 ⁇ 3, as described above.
- the sensitivity of the luminance image can be further increased.
- the unit image is not limited to 2 ⁇ 2.
- FIG. 8 shows the imaging device 8.
- the image pickup device 8 includes a first sensor 8-1 and a second sensor 8-2. That is, the stereo image capturing unit included in the image capturing device 8 includes the first sensor 8-1 and the second sensor 8-2.
- the first sensor 8-1 has one imaging unit 80-1 composed of four repeating units 81-1 to 84-1.
- the repeating unit 81-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 81-1 obtains a polarization luminance value for one pixel.
- the repeating unit 82-1 is composed of one pixel without a polarizer, and the repeating unit 82-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 83-1 is composed of one pixel without a polarizer, and the repeating unit 83-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 84-1 is composed of a polarizer having a polarization principal axis angle of 22.5 degrees and one pixel, and the repeating unit 84-1 obtains a polarization luminance value for one pixel.
- the second sensor 8-2 has one imaging unit 80-2 composed of four repeating units 81-2 to 84-2.
- the repeating unit 81-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 81-2 obtains a polarization luminance value for one pixel.
- the repeating unit 82-2 is composed of one pixel without a polarizer, and the repeating unit 82-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 83-2 is composed of one pixel without a polarizer, and the repeating unit 83-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 84-2 is composed of a polarizer having a polarization principal axis angle of 157.5 degrees and one pixel, and the repeating unit 84-2 obtains a polarization luminance value for one pixel.
- the unit pixels are not arranged repeatedly but the unit pixels are arranged at a specific position (pattern).
- the sensitivity of the luminance image can be further increased. In this way, the polarization pixels can be arranged freely.
- FIG. 9 shows the imaging device 9.
- the image pickup device 9 includes a first sensor 9-1 and a second sensor 9-2. That is, the stereo image capturing unit included in the image capturing device 9 includes the first sensor 9-1 and the second sensor 9-2.
- the first sensor 9-1 has one imaging unit 90-1 composed of 16 (4 ⁇ 4) repeating units 91-1 to 916-1.
- the repeating unit 91-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 91-1 obtains a polarization luminance value for one pixel.
- the repeating unit 92-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 92-1 obtains a polarization luminance value for one pixel.
- the repeating unit 93-1 is composed of a polarizer having a polarization main axis angle of 112.5 degrees and one pixel, and the repeating unit 93-1 obtains a polarization luminance value for one pixel.
- the repeating unit 94-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 94-1 obtains a polarization luminance value for one pixel.
- the repeating unit 95-1 is composed of one pixel without a polarizer, and the repeating unit 95-1 obtains a non-polarized luminance value for one pixel.
- the repeating unit 96-1 is composed of one pixel without a polarizer, and the repeating unit 96-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 97-1 is composed of one pixel without a polarizer, and the repeating unit 97-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 98-1 is composed of one pixel without a polarizer, and the repeating unit 98-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 99-1 is composed of one pixel without a polarizer, and the repeating unit 99-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 910-1 is composed of one pixel without a polarizer, and the repeating unit 910-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 911-1 is composed of one pixel without a polarizer, and the repeating unit 911-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 912-1 is composed of one pixel without a polarizer, and the repeating unit 912-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 913-1 is composed of a polarizer having a polarization main axis angle of 22.5 degrees and one pixel, and the repeating unit 913-1 obtains a polarization luminance value for one pixel.
- the repeating unit 914-1 is composed of a polarizer having a polarization principal axis angle of 22.5 degrees and one pixel, and the repeating unit 914-1 obtains a polarization luminance value for one pixel.
- the repeating unit 915-1 is composed of a polarizer having a polarization principal axis angle of 22.5 degrees and one pixel, and the repeating unit 915-1 obtains a polarization luminance value for one pixel.
- the repeating unit 916-1 is composed of a polarizer having a polarization principal axis angle of 22.5 degrees and one pixel, and the repeating unit 916-1 obtains a polarization luminance value for one pixel.
- the second sensor 9-2 has one imaging unit 90-2 composed of 16 (4 ⁇ 4) repeating units 91-2 to 916-2.
- the repeating unit 91-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 91-2 obtains a polarization luminance value for one pixel.
- the repeating unit 92-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 92-2 obtains a polarization luminance value for one pixel.
- the repeating unit 93-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 93-2 obtains a polarization luminance value for one pixel.
- the repeating unit 94-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 94-2 obtains a polarization luminance value for one pixel.
- the repeating unit 95-2 is composed of one pixel without a polarizer, and the repeating unit 95-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 96-2 is composed of one pixel without a polarizer, and the repeating unit 96-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 97-2 is composed of one pixel without a polarizer, and the repeating unit 97-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 98-2 is composed of one pixel without a polarizer, and the repeating unit 98-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 99-2 is composed of one pixel without a polarizer, and the repeating unit 99-2 gives a non-polarized luminance value for one pixel.
- the repeating unit 910-2 is composed of one pixel without a polarizer, and the repeating unit 910-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 911-2 is composed of one pixel without a polarizer, and the repeating unit 911-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 912-2 is composed of one pixel without a polarizer, and the repeating unit 912-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 913-2 is composed of a polarizer having a polarization principal axis angle of 157.5 degrees and one pixel, and the repeating unit 913-2 obtains a polarization luminance value for one pixel.
- the repeating unit 914-2 is composed of a polarizer having a polarization principal axis angle of 157.5 degrees and one pixel, and the repeating unit 914-2 obtains a polarization luminance value for one pixel.
- the repeating unit 915-2 is composed of a polarizer having a polarization principal axis angle of 157.5 degrees and one pixel, and the repeating unit 915-2 obtains a polarization luminance value for one pixel.
- the repeating unit 916-2 is composed of a polarizer having a polarization principal axis angle of 157.5 degrees and one pixel, and the repeating unit 916-2 obtains a polarization luminance value for one pixel.
- the image pickup device 9 has a polarizer arranged in a pixel group. In this way, the polarizers in the same direction can be collectively arranged.
- FIG. 11 shows the imaging device 11.
- the image pickup device 11 includes a first sensor 11-1 and a second sensor 11-2. That is, the stereo image capturing unit included in the image capturing device 11 includes the first sensor 11-1 and the second sensor 11-2.
- the first sensor 11-1 has one imaging unit 110-1-1 composed of two repeating units 111-1 and 113-1 in the horizontal direction (horizontal direction in FIG. 11).
- the repeating unit 111-1 is composed of a polarizer having a polarization principal axis angle of 0 degree and one pixel, and the repeating unit 111-1 obtains a polarization luminance value for one pixel.
- the repeating unit 113-1 is composed of a polarizer having a polarization main axis angle of 90 degrees and one pixel, and the repeating unit 113-1 obtains a polarization luminance value for one pixel.
- the first sensor 11-1 has one imaging unit 110-1-2 composed of two repeating units 115-1 and 116-1 in the vertical direction (vertical direction in FIG.
- the repeating unit 115-1 is composed of a polarizer having a polarization principal axis angle of 0 degree and one pixel, and the repeating unit 115-1 obtains a polarization luminance value for one pixel.
- the repeating unit 116-1 is composed of a polarizer having a polarization principal axis angle of 90 degrees and one pixel, and the repeating unit 116-1 obtains a polarization luminance value for one pixel.
- the second sensor 11-2 has one imaging unit 110-2-1 composed of two repeating units 111-2 and 113-2 in the horizontal direction (the horizontal direction in FIG. 11).
- the repeating unit 111-2 is composed of a polarizer having a polarization principal axis angle of 135 degrees and one pixel, and the repeating unit 111-2 obtains a polarization luminance value for one pixel.
- the repeating unit 113-2 is composed of a polarizer having a polarization principal axis angle of 45 degrees and one pixel, and the repeating unit 113-2 obtains a polarization luminance value for one pixel.
- the first sensor 11-2 has one imaging unit 110-2-2 composed of two repeating units 115-2 and 116-2 in the vertical direction (vertical direction in FIG. 11).
- the repeating unit 115-2 is composed of a polarizer having a polarization main axis angle of 135 degrees and one pixel, and the repeating unit 115-2 obtains a polarization luminance value for one pixel.
- the repeating unit 116-2 is composed of a polarizer having a polarization principal axis angle of 45 degrees and one pixel, and the repeating unit 116-2 obtains a polarization luminance value for one pixel.
- the imaging device 11 is an example in which the present technology is applied to improve the resolution, not the sensitivity. Since each imaging unit does not acquire three or more pieces of polarization information, it is possible to increase the resolution as compared with the conventional technique.
- FIG. 12 shows the imaging device 12.
- the image pickup device 12 includes a first sensor 12-1 and a second sensor 12-2. That is, the stereo image capturing unit included in the image capturing device 12 includes the first sensor 12-1 and the second sensor 12-2.
- the first sensor 12-1 has one imaging unit 120-1-1 composed of two repeating units 121-1 and 123-1 in the horizontal direction (horizontal direction in FIG. 12).
- the repeating unit 121-1 is composed of a polarizer having a polarization principal axis angle of 135 degrees and one pixel, and the repeating unit 121-1 obtains a polarization luminance value for one pixel.
- the repeating unit 123-1 is composed of a polarizer having a polarization principal axis angle of 90 degrees and one pixel, and the repeating unit 123-1 obtains a polarization luminance value for one pixel.
- the first sensor 12-1 has one imaging unit 120-1-2 composed of two repeating units 125-1 and 126-1 in the vertical direction (vertical direction in FIG.
- the repeating unit 125-1 is composed of a polarizer having a polarization principal axis angle of 135 degrees and one pixel, and the repeating unit 125-1 obtains a polarization luminance value for one pixel.
- the repeating unit 126-1 is composed of a polarizer having a polarization main axis angle of 90 degrees and one pixel, and the repeating unit 126-1 obtains a polarization luminance value for one pixel.
- the second sensor 12-2 has one imaging unit 120-2-1 composed of two repeating units 121-2 and 123-2 in the horizontal direction (the horizontal direction in FIG. 12).
- the repeating unit 121-2 is composed of a polarizer having a polarization principal axis angle of 0 degree and one pixel, and the repeating unit 121-2 obtains a polarization luminance value for one pixel.
- the repeating unit 123-2 is composed of a polarizer having a polarization principal axis angle of 45 degrees and one pixel, and the repeating unit 123-2 obtains a polarization luminance value for one pixel.
- the first sensor 12-2 has one imaging unit 120-2-2 composed of two repeating units 125-2 and 126-2 in the vertical direction (vertical direction in FIG. 12).
- the repeating unit 125-2 is composed of a polarizer having a polarization principal axis angle of 0 degree and one pixel, and the repeating unit 125-2 obtains a polarization luminance value for one pixel.
- the repeating unit 126-2 is composed of a polarizer having a polarization principal axis angle of 45 degrees and one pixel, and the repeating unit 126-2 obtains a polarization luminance value for one pixel.
- the imaging device 12 is an example in which the resolution is improved by rotating one type of sensor.
- FIG. 13 shows the imaging device 13.
- the image pickup device 13 includes a first sensor 13-1 and a second sensor 13-2. That is, the stereo image capturing unit included in the image capturing device 13 includes the first sensor 13-1 and the second sensor 13-2.
- the first sensor 13-1 has one imaging unit 130-1R composed of four repeating units 131-1 to 134-1.
- the image pickup unit 130-1R further has a color filter for red light.
- the repeating unit 131-1 is composed of a polarizer having a polarization principal axis angle of 135 degrees and one pixel including a color filter for red light.
- the brightness value is obtained.
- the repeating unit 132-1 is composed of one pixel including a color filter for red light without a polarizer, and the repeating unit 132-1 obtains a color unpolarized luminance value for one pixel.
- Repeating unit 133-1 is composed of one pixel including a color filter for red light without a polarizer, and repeating unit 133-1 provides a color unpolarized luminance value for one pixel.
- the repeating unit 134-1 is composed of a polarizer having a polarization principal axis angle of 90 degrees and one pixel including a color filter for red light. The brightness value is obtained.
- the first sensor 13-1 has an imaging unit 130-1G and an imaging unit 130-1B.
- the image pickup unit 130-1G has a color filter for green light, and is composed of four repeating units. Each repeating unit has the same structure as the repeating unit of the image pickup unit 130-1R described above. Is.
- the imaging unit 130-1B has a color filter for blue light, and is composed of four repeating units. Each repeating unit has the same structure as the repeating unit of the imaging unit 130-1R described above. Is the same as.
- the second sensor 13-2 has one imaging unit 130-2R composed of four repeating units 131-2 to 134-2.
- the imaging unit 130-2R further has a color filter for red light.
- the repeating unit 131-2 is composed of one pixel including a color filter for red light without a polarizer, and the repeating unit 131-2 obtains a color unpolarized luminance value for one pixel.
- the repeating unit 132-2 is composed of a polarizer having a polarization principal axis angle of 0 degree and one pixel including a color filter for red light. The brightness value is obtained.
- the repeating unit 133-2 is composed of a polarizer having a polarization main axis angle of 45 degrees and one pixel including a color filter for red light. The brightness value is obtained.
- Repeating unit 134-2 is composed of one pixel including a color filter for red light without a polarizer, and repeating unit 134-2 provides a color unpolarized luminance value for one pixel.
- the second sensor 13-2 has an imaging unit 130-2G and an imaging unit 130-2B.
- the imaging unit 130-2G has a color filter for green light, and is composed of four repeating units. Each repeating unit has the same structure as the repeating unit of the imaging unit 130-2R described above. Is.
- the imaging unit 130-2B has a color filter for blue light and is composed of four repeating units. Each repeating unit has the same structure as the repeating unit of the imaging unit 130-2R described above. Is the same as.
- the image pickup device 13 is an example in which a color filter is arranged in the sensor (image pickup unit), and the color of the color filter is changed in a unit in which polarization information is uniform. As described above, the imaging device 13 can obtain a color image at the same time as the distance image.
- FIG. 14 shows the imaging device 14.
- the image pickup device 14 includes a first sensor 14-1 and a second sensor 14-2. That is, the stereo image capturing unit included in the image capturing device 14 includes the first sensor 14-1 and the second sensor 14-2.
- the first sensor 14-1 has one imaging unit 140-1 composed of four repeating units 141-1, 142-1R, 143-1G and 144-1.
- the repeating unit 141-1 is composed of a polarizer having a polarization principal axis angle of 135 degrees and one pixel, and the repeating unit 141-1 obtains a polarization luminance value for one pixel.
- the repeating unit 142-1R is composed of one pixel including a color filter for red light, which has no polarizer, and the repeating unit 142-1R obtains a color unpolarized luminance value for one pixel.
- the repeating unit 143-1G is composed of one pixel including a color filter for green light, which has no polarizer, and the repeating unit 143-1G obtains a color unpolarized luminance value for one pixel.
- the repeating unit 144-1 is composed of a polarizer having a polarization main axis angle of 45 degrees and one pixel, and the repeating unit 144-1 obtains a polarization luminance value for one pixel.
- the second sensor 14-2 has one imaging unit 140-2 composed of four repeating units 141-1, 142-2R, 143-2G and 144-2.
- the repeating unit 141-2 is composed of a polarizer having a polarization principal axis angle of 0 degree and one pixel, and the repeating unit 141-2 obtains a polarization luminance value for one pixel.
- the repeating unit 142-2R is composed of one pixel including a color filter for red light without a polarizer, and the repeating unit 142-2R obtains a color unpolarized luminance value for one pixel.
- the repeating unit 143-2G is composed of one pixel including a color filter for green light, which has no polarizer, and the repeating unit 143-2G provides a color unpolarized luminance value for one pixel.
- the repeating unit 144-2 is composed of a polarizer having a polarization principal axis angle of 90 degrees and one pixel, and the repeating unit 144-2 obtains a polarization luminance value for one pixel.
- the image pickup device 14 is an example in which a color filter is arranged in the sensor (image pickup unit), and a color filter for separating colors is arranged only in the non-polarized pixel. Similarly, a color image can be obtained at the same time as the distance image.
- FIG. 15 shows the imaging device 15.
- the image pickup device 15 includes a first sensor 15-1 and a second sensor 15-2. That is, the stereo image capturing unit included in the image capturing device 14 includes the first sensor 15-1 and the second sensor 15-2.
- the first sensor 15-1 has one imaging unit 150-1R composed of two repeating units 151-1R and 153-1R in the horizontal direction (horizontal direction in FIG. 15).
- the image pickup unit 150-1R has a color filter for red light.
- the repeating unit 151-1R is composed of a polarizer having a polarization principal axis angle of 0 degree and one pixel including a color filter for red light.
- the brightness value is obtained.
- the repeating unit 153-1R is composed of a polarizer having a polarization main axis angle of 90 degrees and one pixel including a color filter for red light.
- the repeating unit 153-1R polarizes a color of one pixel. The brightness value is obtained.
- the first sensor 15-1 is one imaging unit including two repeating units 152-1G and 154-1G in the horizontal direction (left and right direction in FIG. 15) below the imaging unit 150-1R. With 150-1G.
- the image pickup unit 150-1G has a color filter for green light.
- the repeating unit 152-1G is composed of a polarizer having a polarization principal axis angle of 90 degrees and one pixel including a color filter for green light.
- the repeating unit 152-1G polarizes a color of one pixel.
- the brightness value is obtained.
- the repeating unit 154-1G is composed of a polarizer having a polarization main axis angle of 0 degree and one pixel including a color filter for green light.
- the repeating unit 154-1G polarizes a color of one pixel.
- the brightness value is obtained.
- the first sensor 15-1 has one imaging unit 150-1G including two repeating units in the horizontal direction (left and right direction in FIG. 15) on the right side of the imaging unit 150-1R.
- the image pickup unit 150-1G on the right side of the image pickup unit 150-1R is obtained by rotating the image pickup unit 150-1G on the lower side of the image pickup unit 150-1R by 180 degrees.
- the first sensor 15-1 has one imaging unit 150-1B composed of two repeating units in the horizontal direction (horizontal direction in FIG. 15) on the lower right side of the imaging unit 150-1R. Have.
- the image pickup unit 150-1B has a color filter for blue color.
- the repeating unit of the imaging unit 150-1B has the same structure as the repeating unit of the imaging unit 150-1G.
- the first sensor 15-2 has one imaging unit 150-2R composed of two repeating units 152-1R and 153-2R in the horizontal direction (horizontal direction in FIG. 15).
- the image pickup unit 150-2R has a color filter for red light.
- the repeating unit 151-2R is composed of a polarizer having a polarization principal axis angle of 135 degrees and one pixel including a color filter for red light, and the repeating unit 151-2R polarizes a color of one pixel.
- the brightness value is obtained.
- the repeating unit 153-2R is composed of a polarizer having a polarization main axis angle of 45 degrees and one pixel including a color filter for red light.
- the repeating unit 153-2R polarizes a color of one pixel.
- the brightness value is obtained.
- the first sensor 15-2 includes one imaging unit below the imaging unit 150-2R, which is composed of two repeating units 152-2G and 154-2G in the horizontal direction (the horizontal direction in FIG. 15). With 150-2G.
- the image pickup unit 150-2G has a color filter for green light.
- the repeating unit 152-2G is composed of a polarizer having a polarization principal axis angle of 45 degrees and one pixel including a color filter for green light. The brightness value is obtained.
- the repeating unit 154-2G is composed of a polarizer having a polarization principal axis angle of 135 degrees and one pixel including a color filter for green light. The brightness value is obtained.
- the second sensor 15-2 has, on the right side of the imaging unit 150-2R, one imaging unit 150-2G including two repeating units in the horizontal direction (the horizontal direction in FIG. 15).
- An image capturing unit 150-2G on the right side of the image capturing unit 150-2R is obtained by rotating the image capturing unit 150-2G on the lower side of the image capturing unit 150-2R by 180 degrees.
- the second sensor 15-2 has one imaging unit 150-2B composed of two repeating units in the horizontal direction (horizontal direction in FIG. 15) on the lower right side of the imaging unit 150-2R.
- the imaging unit 150-2B has a color filter for blue color.
- the repeating unit of the imaging unit 150-2B has the same configuration as the repeating unit of the imaging unit 150-2G.
- the example has the same purpose (concept) as the imaging device 15 and the imaging device 13, but the sensors (imaging units) are all polarization pixels.
- a color filter may be arranged in any of the imaging units 1 to 12.
- FIG. 16 shows the sensor 16-1 that constitutes the imaging device.
- an on-chip lens 161 In the sensor 16-1, an on-chip lens 161, a polarizer 167-1 and 167-2 formed on an insulating film 162, a light shielding material 163, and a semiconductor substrate 164 on which a photodiode 166 is formed in order from the light incident side, A transistor / wiring layer 165 is arranged.
- Polarizers 167-1 and 167-2 and an on-chip lens 161 are arranged on the light receiving side of the photodiode 166.
- the polarizers 167-1 and 167-2 can be formed of, for example, metal thin wires.
- FIG. 17 shows a sensor 17-1 that constitutes the image pickup apparatus.
- the sensor 17-1 includes an on-chip lens 171, a color filter (W light color filter, R light color filter, B light color filter), and a polarizer 177 formed on the insulating film 172 in order from the light incident side. -1 and 177-2, a light shielding material 173, a photodiode 176W for W light, a photodiode 176R for R light, a semiconductor substrate 174 on which photodiodes for B light are formed, and a transistor / wiring layer 175 are arranged.
- 17 is an example in which a color filter that separates colors is arranged only in a non-polarized pixel like the sensor 14-1 or 14-2 shown in FIG. It is also possible to dispose a color filter for separating colors in the polarization pixel, and in that case, the W light may be replaced with a color filter for separating a desired color.
- FIG. 18 is a diagram showing an example of an image capturing mode using the image capturing apparatus according to the first embodiment of the present technology, as described above.
- the imaging device according to the first embodiment of the present technology includes a camera 1000-1 and a camera 1000-2, and the camera 1000-1 includes an imaging unit that is a light receiving area.
- the camera 2000-2 is provided with a sensor 2000-1 including an image pickup unit which is a light receiving area.
- the subject 300 is photographed using the camera 1000-1 and the camera 1000-2, that is, two sensors (sensor 2000-1 and sensor 2000-2).
- FIG. 19 is a flowchart showing the flow of processing for obtaining a high-accuracy range image from the image photographed as shown in FIG. 18, for example.
- step S1-1 an image of the first sensor (eg, the first sensor 1-1 in FIG. 1, the same applies hereinafter) is acquired, and in step S1-2, the second sensor (eg, in FIG. 1) is acquired.
- the image of the first sensor 1-2, and so on.) Is acquired.
- step S2-1 a brightness image of the first sensor is created, and in step S2-3, a brightness image of each polarization direction of the first sensor is created.
- step S2-2 a brightness image of the second sensor is created, and in step S2-4, a brightness image of each polarization direction of the second sensor is created.
- a brightness image in which the unit image obtained by the imaging unit shown in FIGS. 1 to 15 is set as one pixel and a brightness image of only each polarization pixel are created.
- step S3 the luminance images obtained in steps S2-1 and S2-2 are matched.
- a luminance image in which the unit image obtained from the first sensor is 1 pixel and a luminance image in which the unit image obtained from the second sensor is 1 pixel are matched.
- Matching means associating pixels (pixels) that image the same part.
- the matching methods are roughly classified into feature-based matching and region-based matching, but there are also methods that combine both. Any of them can be used.
- a non-patent document 25th Signal Processing Symposium 24th to 26th November 2010 (Nara), “Examination of highly accurate image matching method” can be referred to.
- step S4-1 a range image is created
- step S4-2 polarization information (Imax, Imin, ⁇ ) is calculated from each polarization brightness image at the corresponding position, and in step s5, an azimuth and zenith angle image is created. Then, a highly accurate range image can be created in step S6.
- one is a luminance image in which the unit image obtained from the first sensor is one pixel and the other is a luminance image in which the unit image obtained from the second sensor is one pixel.
- 20 to 24 are views for explaining that normal line information is generated and a range image (3D information) is obtained by using the imaging device of the first embodiment according to the present technology, as described above. Is.
- FIG. 20A shows the relationship between the normal line Q, the zenith angle ⁇ , and the azimuth angle ⁇ in the positional relationship between the Camera 1000, Polarizer 4000, and Object 5000.
- the horizontal axis represents the polarization principal axis angle ⁇ of the polarizer
- the vertical axis represents the brightness I.
- the brightness P1 to P4 of the light transmitted through the four types of polarizers having the polarization main axis angles of 0 degree, 45 degrees, 90 degrees, and 135 degrees form one sinusoidal curve. It has been shown that With this sine function curve, Imax, Imin, and ⁇ can be calculated.
- FIGS. 21 (a) and 21 (b) show how to obtain the azimuth angle ⁇ and the zenith angle ⁇ when the reflected light is specular reflection. Then, FIGS. 21C to 21D show how to determine the azimuth angle ⁇ and the zenith angle ⁇ when the reflected light is diffuse reflection.
- the vertical axis of the graphs of FIGS. 21B and 21D is the polarization degree ⁇ , which can be calculated by Imax ⁇ Imin / Imax + Imin.
- FIG. 22 shows a normal vector Q1 on the surface R1 of the subject, a Q2 on the surface R2 of the subject, and a normal vector Q3 on the surface R3 of the subject.
- the subject distance corresponding to the normal vector Q1 is known in advance from the distance (absolute distance) information.
- the normal pitch R can be obtained by pixel pitch ⁇ subject distance / focal length
- Depth subject unevenness of the subject, 3D information
- Depth normal pitch ⁇ tan (zenith angle ⁇ ). it can.
- An imaging device includes a stereo image capturing unit, and the stereo image capturing unit includes a first sensor, a second sensor, and a third sensor.
- the first sensor has a first imaging unit composed of a plurality of repeating units
- the second sensor has a second imaging unit composed of a plurality of repeating units
- the third sensor is A third imaging unit composed of a plurality of repeating units, the first imaging unit having a polarizer having at least one polarization axis angle, and the second imaging unit having at least one polarization axis.
- a first imaging unit obtained by the first imaging unit, a third imaging unit having a polarizer having at least one polarization principal axis angle, and a second imaging unit Is an imaging device that combines polarization information of at least three directions by combining a second unit image obtained by the above and a third unit image obtained by the third imaging unit to generate normal line information. .. That is, the imaging device according to the second embodiment of the present technology uses three sensors to acquire polarization information in at least three directions and generate normal line information. In the imaging device according to the second embodiment of the present technology, in order to generate normal line information, it is sufficient to acquire polarization information in at least three directions, and thus polarization information in three directions may be used or polarization in four directions. Information may be used, or polarization information in five or more directions may be used.
- the imaging device of the second embodiment according to the present technology it is possible to further improve the accuracy of distance information. More specifically, according to the imaging device of the second embodiment of the present technology, since the polarization pixels in at least three directions are not arranged in each of the plurality (three) of sensors, the number of polarization pixels is reduced, Since that amount can be assigned to non-polarized pixels, it is possible to increase the sensitivity, and to arrange not the non-polarized pixels but the polarized pixels in the direction desired to be arranged on each of the multiple (three) sensors. Thereby, the resolution of the normal line information can be increased, and if the resolution of the normal line information is increased, the accuracy in the distance direction (the accuracy of the 3D information) can be increased.
- a polarizer having the at least one kind of polarization principal axis angle of the first imaging unit and at least one kind of polarization principal axis angle of the second imaging unit are provided. It is preferable that the polarizer and the polarizer having at least one kind of polarization principal axis angle of the third imaging unit are different from each other in polarization principal axis angle, and the second imaging unit is the first imaging unit.
- the third imaging unit has at least one kind of polarization principal axis angle
- the third imaging unit is It is preferable not to have a polarizer having the at least one kind of polarization principal axis angle that one imaging unit has and a polarizer that has at least one kind of polarization principal axis angle that the second imaging unit has.
- the first unit image, the second unit image, and the third unit image are reconfigured based on the stereo correspondence.
- the first imaging unit has a polarizer having a polarization principal axis angle of 2 or less
- the second imaging unit has a polarization of 2 or less.
- the first imaging unit has a polarizer having two types of polarization principal axis angles
- the first imaging unit has two types of polarization principal axis angles.
- the second imaging unit preferably has a polarizer having two types of polarization principal axis angles
- the two types of polarization principal axis angles are in an orthogonal relationship.
- the third imaging unit has a polarizer having two types of polarization principal axis angles
- the two types of polarization principal axis angles preferably have an orthogonal relationship.
- the first imaging unit has a polarizer having a polarization principal axis angle of 22.5 degrees and a polarizer having a polarization principal axis angle of 112.5 degrees.
- the second imaging unit preferably has a polarizer having a polarization principal axis angle of 67.5 degrees and a polarizer having a polarization principal axis angle of 157.5 degrees.
- at least the first imaging unit has a polarizer having a polarization principal axis angle of 22.5 degrees and a polarizer having a polarization principal axis angle of 112.5 degrees.
- the third imaging unit has a polarizer having a polarization principal axis angle of 67.5 degrees and a polarizer having a polarization principal axis angle of 157.5 degrees, and further relates to the present technology.
- at least the second imaging unit may include a polarizer having a polarization principal axis angle of 22.5 degrees and a polarizer having a polarization principal axis angle of 112.5 degrees.
- the third imaging unit has a polarizer having a polarization principal axis angle of 67.5 degrees and a polarizer having a polarization principal axis angle of 157.5 degrees.
- the first imaging unit has a polarizer having one kind of polarization principal axis angle
- the second imaging unit has one kind of polarization principal axis angle
- the third imaging unit has a polarizer having one polarization principal axis angle
- the first imaging unit has a polarization principal axis angle of the polarizer
- the difference between the polarization main axis angle of the polarizer of the image pickup unit and the polarization main axis angle of the polarizer of the third image pickup unit is 5 degrees or more and 85 degrees or less.
- the first imaging unit has a repeating unit that includes a polarizer and a repeating unit that does not include the polarizer
- the second imaging unit is a polarization unit. It is preferable to have a repeating unit containing a child and a repeating unit not containing a polarizer, and the third imaging unit preferably has a repeating unit containing a polarizer and a repeating unit not containing a polarizer.
- the first imaging unit has a repeating unit that includes a polarizer and a repeating unit that does not include the polarizer
- the second imaging unit is a polarization unit. It is preferable to have a repeating unit containing a child and a repeating unit not containing a polarizer, and the third imaging unit preferably has a repeating unit containing a polarizer and a repeating unit not containing a polarizer.
- the arrangement pattern of the repeating unit containing the polarizer and the repeating unit not containing the polarizer in the third imaging unit is preferably substantially the same.
- FIG. 10 is a diagram illustrating a configuration example of the image pickup apparatus according to the second embodiment of the present technology.
- FIG. 10 shows the imaging device 10A.
- the image pickup apparatus 10A includes a first sensor 10A-1, a second sensor 10A-2, and a third sensor 10A-3. That is, the stereo image capturing unit included in the image capturing apparatus 10A includes the first sensor 10A-1, the second sensor 10A-2, and the third sensor 10A-3.
- the first sensor 10A-1 has one imaging unit 100-1 composed of four repeating units 101-1 to 104-1.
- the repeating unit 101-1 is composed of a polarizer having a polarization principal axis angle of 112.5 degrees and one pixel, and the repeating unit 101-1 obtains a polarization luminance value for one pixel.
- the repeating unit 102-1 is composed of one pixel without a polarizer, and the repeating unit 102-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 103-1 is composed of one pixel without a polarizer, and the repeating unit 103-1 provides a non-polarized luminance value for one pixel.
- the repeating unit 104-1 is composed of one pixel that is not polarized, and the repeating unit 104-1 provides a non-polarized luminance value for one pixel.
- the second sensor 10A-2 has one imaging unit 100-2 composed of four repeating units 101-2 to 104-2.
- the repeating unit 101-2 is composed of a polarizer having a polarization principal axis angle of 67.5 degrees and one pixel, and the repeating unit 101-2 obtains a polarization luminance value for one pixel.
- the repeating unit 102-2 is composed of one pixel without a polarizer, and the repeating unit 102-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 103-2 is composed of one pixel without a polarizer, and the repeating unit 103-2 provides a non-polarized luminance value for one pixel.
- the repeating unit 104-2 is composed of one pixel that is not polarized, and the repeating unit 104-2 obtains a non-polarized luminance value for one pixel.
- the third sensor 10A-3 has one imaging unit 100-3 composed of four repeating units 101-3 to 104-3.
- the repeating unit 101-3 is composed of a polarizer having a polarization principal axis angle of 0 degree and one pixel, and the repeating unit 101-3 obtains a polarization luminance value for one pixel.
- the repeating unit 102-3 is composed of one pixel without a polarizer, and the repeating unit 102-3 provides a non-polarized luminance value for one pixel.
- the repeating unit 103-3 is composed of one pixel without a polarizer, and the repeating unit 103-3 provides a non-polarized luminance value for one pixel.
- the repeating unit 104-3 is composed of one pixel which is not polarized, and the repeating unit 104-3 obtains a non-polarized luminance value for one pixel.
- the imaging device according to the second embodiment of the present technology includes the contents related to FIGS. 16 to 22 except for the contents described above, and the column of the imaging device according to the first embodiment of the present technology ⁇ 2.
- the contents described in the first embodiment (example 1 of imaging apparatus)> can be applied as they are.
- the electronic device of the third embodiment according to the present technology is an electronic device in which the imaging device according to the present technology is mounted.
- An imaging device according to an embodiment of the present technology includes, as a first aspect, a stereo image capturing unit, the stereo image capturing unit includes a plurality of sensors, and each of the plurality of sensors includes an imaging unit including a plurality of repeating units. And at least two unit images obtained by each of the plurality of imaging units are combined to obtain polarization information in at least three directions. , An imaging device that generates normal line information.
- the imaging device which concerns on this technique is equipped with a stereo image imaging part as a 2nd side surface, a stereo image imaging part includes a 1st sensor and a 2nd sensor, and a 1st sensor repeats several times.
- Unit has a first imaging unit
- the second sensor has a second imaging unit composed of a plurality of repeating units
- the first imaging unit has at least one polarization principal axis angle.
- the image pickup device is configured to obtain polarization information in at least three directions by combining the generated second unit image with the generated second unit image and generate normal line information.
- the sensors included in the stereo image capturing unit may be two sensors as described above, three sensors, or four or more sensors.
- the electronic apparatus according to the third embodiment of the present technology is equipped with any one of the image pickup apparatuses according to the first to second embodiments of the present technology. It is an electronic device.
- FIG. 23 is a diagram showing a usage example of the imaging devices of the first and second embodiments according to the present technology as an image sensor.
- the image pickup apparatus can be used in various cases for sensing light such as visible light, infrared light, ultraviolet light, and X-rays as described below. .. That is, as shown in FIG. 23, for example, the field of appreciation for shooting images used for appreciation, the field of transportation, the field of home appliances, the field of medical / healthcare, the field of security, the field of beauty, sports, etc. It is possible to use the image pickup apparatus according to any one of the first and second embodiments for an apparatus (for example, the electronic apparatus according to the above-described sixth embodiment) used in the field of the above, the field of agriculture, and the like. it can.
- an apparatus for example, the electronic apparatus according to the above-described sixth embodiment
- a device for taking an image used for appreciation such as a digital camera, a smart phone, or a mobile phone with a camera function
- a device for taking an image used for appreciation such as a digital camera, a smart phone, or a mobile phone with a camera function
- the imaging device of any one of the embodiments can be used.
- in-vehicle sensors for photographing the front and rear of the car, the surroundings, the inside of the car, monitoring the traveling vehicle and the road
- a device used for traffic such as a monitoring camera for monitoring, a distance measuring sensor for measuring a distance between vehicles, etc.
- a device provided for home electric appliances such as a television receiver, a refrigerator, an air conditioner, etc. for photographing a gesture of a user and performing a device operation according to the gesture.
- the imaging device of any one of the second embodiments can be used.
- the first and second embodiments are applied to devices used for medical care and healthcare, such as an endoscope and a device for taking angiography by receiving infrared light.
- the imaging device of any one of the embodiments can be used.
- a device used for security such as a surveillance camera for crime prevention or a camera for person authentication, can be imaged according to any one of the first and second embodiments.
- the device can be used.
- a device used for beauty such as a skin measuring device for photographing the skin or a microscope for photographing the scalp, is used to implement any one of the first and second embodiments.
- Any form of imaging device can be used.
- the image pickup apparatus is used for an apparatus used for sports, such as an action camera or a wearable camera for sports applications. can do.
- a device used for agriculture such as a camera for monitoring the condition of fields or crops, is used as an imaging device according to any one of the first and second embodiments. Can be used.
- the image pickup apparatus according to any one of the first and second embodiments described above is, as the image pickup apparatus 101, a camera system such as a digital still camera or a video camera, or a portable device having an image pickup function. It can be applied to all types of electronic devices having an imaging function such as a telephone.
- FIG. 24 shows a schematic configuration of the electronic device 102 (camera) as an example.
- the electronic device 102 is, for example, a video camera capable of shooting a still image or a moving image, and includes an imaging device 101, an optical system (optical lens) 310, a shutter device 311, and a drive for driving the imaging device 101 and the shutter device 311. It has a unit 313 and a signal processing unit 312.
- the optical system 310 guides image light (incident light) from a subject to the pixel unit 101 a of the image pickup apparatus 101.
- the optical system 310 may be composed of a plurality of optical lenses.
- the shutter device 311 controls a light irradiation period and a light shielding period for the imaging device 101.
- the drive unit 313 controls the transfer operation of the imaging device 101 and the shutter operation of the shutter device 311.
- the signal processing unit 312 performs various kinds of signal processing on the signal output from the solid-state imaging device 101.
- the image-processed video signal Dout is stored in a storage medium such as a memory, or is output to a monitor or the like.
- the present technology can be applied to various products.
- the technology (the technology) according to the present disclosure may be applied to an endoscopic surgery system.
- FIG. 25 is a diagram showing an example of a schematic configuration of an endoscopic surgery system to which the technology according to the present disclosure (the present technology) can be applied.
- FIG. 25 illustrates a situation in which an operator (doctor) 11131 is operating on a patient 11132 on a patient bed 11133 using the endoscopic surgery system 11000.
- the endoscopic surgery system 11000 includes an endoscope 11100, other surgical tools 11110 such as a pneumoperitoneum tube 11111 and an energy treatment tool 11112, and a support arm device 11120 that supports the endoscope 11100.
- a cart 11200 on which various devices for endoscopic surgery are mounted.
- the endoscope 11100 includes a lens barrel 11101 into which a region of a predetermined length from the distal end is inserted into the body cavity of the patient 11132, and a camera head 11102 connected to the base end of the lens barrel 11101.
- the endoscope 11100 configured as a so-called rigid endoscope having the rigid barrel 11101 is illustrated, but the endoscope 11100 may be configured as a so-called flexible mirror having a flexible barrel. Good.
- An opening in which an objective lens is fitted is provided at the tip of the lens barrel 11101.
- a light source device 11203 is connected to the endoscope 11100, and the light generated by the light source device 11203 is guided to the tip of the lens barrel by a light guide extending inside the lens barrel 11101. It is irradiated toward the observation target in the body cavity of the patient 11132 via the lens.
- the endoscope 11100 may be a direct-viewing endoscope, or may be a perspective or side-viewing endoscope.
- An optical system and an image pickup device are provided inside the camera head 11102, and the reflected light (observation light) from the observation target is condensed on the image pickup device by the optical system.
- the observation light is photoelectrically converted by the imaging element, and an electric signal corresponding to the observation light, that is, an image signal corresponding to the observation image is generated.
- the image signal is transmitted to the camera control unit (CCU: Camera Control Unit) 11201 as RAW data.
- the CCU 11201 is composed of a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), and the like, and controls the operations of the endoscope 11100 and the display device 11202 in a centralized manner. Further, the CCU 11201 receives the image signal from the camera head 11102, and performs various image processing such as development processing (demosaic processing) on the image signal for displaying an image based on the image signal.
- image processing such as development processing (demosaic processing)
- the display device 11202 displays an image based on the image signal subjected to the image processing by the CCU 11201 under the control of the CCU 11201.
- the light source device 11203 is composed of a light source such as an LED (Light Emitting Diode), for example, and supplies the endoscope 11100 with irradiation light when photographing a surgical site or the like.
- a light source such as an LED (Light Emitting Diode), for example, and supplies the endoscope 11100 with irradiation light when photographing a surgical site or the like.
- the input device 11204 is an input interface for the endoscopic surgery system 11000.
- the user can input various kinds of information and instructions to the endoscopic surgery system 11000 via the input device 11204.
- the user inputs an instruction to change the imaging conditions (type of irradiation light, magnification, focal length, etc.) by the endoscope 11100.
- the treatment instrument control device 11205 controls driving of the energy treatment instrument 11112 for cauterization of tissue, incision, sealing of blood vessel, or the like.
- the pneumoperitoneum device 11206 is used to inflate the body cavity of the patient 11132 through the pneumoperitoneum tube 11111 in order to inflate the body cavity of the patient 11132 for the purpose of securing the visual field by the endoscope 11100 and the working space of the operator.
- the recorder 11207 is a device capable of recording various information regarding surgery.
- the printer 11208 is a device capable of printing various information regarding surgery in various formats such as text, images, and graphs.
- the light source device 11203 that supplies irradiation light to the endoscope 11100 when imaging a surgical site can be configured by, for example, an LED, a laser light source, or a white light source configured by a combination thereof.
- a white light source is formed by a combination of RGB laser light sources
- the output intensity and output timing of each color (each wavelength) can be controlled with high accuracy, so that the light source device 11203 adjusts the white balance of the captured image. It can be carried out.
- the laser light from each of the RGB laser light sources is time-divided to the observation target, and the drive of the image pickup device of the camera head 11102 is controlled in synchronization with the irradiation timing, so that each of the RGB colors can be handled. It is also possible to take the captured image in time division. According to this method, a color image can be obtained without providing a color filter on the image sensor.
- the drive of the light source device 11203 may be controlled so as to change the intensity of the output light at predetermined time intervals.
- the drive of the image sensor of the camera head 11102 in synchronization with the timing of changing the intensity of the light to acquire an image in a time-division manner and synthesizing the images, a high dynamic without so-called blackout and whiteout. Images of the range can be generated.
- the light source device 11203 may be configured to be able to supply light in a predetermined wavelength band corresponding to special light observation.
- the special light observation for example, the wavelength dependence of the absorption of light in body tissues is used to irradiate a narrow band of light as compared with the irradiation light (that is, white light) at the time of normal observation, so that the mucosal surface layer
- the so-called narrow band imaging is performed in which a predetermined tissue such as blood vessels is imaged with high contrast.
- fluorescence observation in which an image is obtained by fluorescence generated by irradiating the excitation light may be performed.
- the body tissue is irradiated with excitation light to observe the fluorescence from the body tissue (autofluorescence observation), or a reagent such as indocyanine green (ICG) is locally injected into the body tissue and the body tissue is also injected.
- the excitation light corresponding to the fluorescence wavelength of the reagent can be irradiated to obtain a fluorescence image and the like.
- the light source device 11203 can be configured to be capable of supplying narrowband light and / or excitation light compatible with such special light observation.
- FIG. 26 is a block diagram showing an example of the functional configuration of the camera head 11102 and the CCU 11201 shown in FIG.
- the camera head 11102 includes a lens unit 11401, an imaging unit 11402, a driving unit 11403, a communication unit 11404, and a camera head control unit 11405.
- the CCU 11201 has a communication unit 11411, an image processing unit 11412, and a control unit 11413.
- the camera head 11102 and the CCU 11201 are communicably connected to each other via a transmission cable 11400.
- the lens unit 11401 is an optical system provided at the connecting portion with the lens barrel 11101.
- the observation light taken in from the tip of the lens barrel 11101 is guided to the camera head 11102 and enters the lens unit 11401.
- the lens unit 11401 is configured by combining a plurality of lenses including a zoom lens and a focus lens.
- the image pickup unit 11402 includes an image pickup element.
- the number of image pickup elements forming the image pickup section 11402 may be one (so-called single-plate type) or plural (so-called multi-plate type).
- image signals corresponding to RGB are generated by each image pickup element, and a color image may be obtained by combining them.
- the image capturing unit 11402 may be configured to have a pair of image capturing elements for respectively acquiring the image signals for the right eye and the left eye corresponding to 3D (Dimensional) display. By performing the 3D display, the operator 11131 can more accurately grasp the depth of the living tissue in the operation site.
- a plurality of lens units 11401 may be provided corresponding to each image pickup element.
- the image pickup unit 11402 does not necessarily have to be provided in the camera head 11102.
- the imaging unit 11402 may be provided inside the lens barrel 11101 immediately after the objective lens.
- the drive unit 11403 is composed of an actuator, and moves the zoom lens and the focus lens of the lens unit 11401 by a predetermined distance along the optical axis under the control of the camera head control unit 11405. Accordingly, the magnification and focus of the image captured by the image capturing unit 11402 can be adjusted appropriately.
- the communication unit 11404 is composed of a communication device for transmitting and receiving various information to and from the CCU11201.
- the communication unit 11404 transmits the image signal obtained from the imaging unit 11402 as RAW data to the CCU 11201 via the transmission cable 11400.
- the communication unit 11404 receives a control signal for controlling the driving of the camera head 11102 from the CCU 11201 and supplies it to the camera head control unit 11405.
- the control signal includes, for example, information that specifies the frame rate of the captured image, information that specifies the exposure value at the time of capturing, and / or information that specifies the magnification and focus of the captured image. Contains information about the condition.
- the image capturing conditions such as the frame rate, the exposure value, the magnification, and the focus may be appropriately designated by the user, or may be automatically set by the control unit 11413 of the CCU 11201 based on the acquired image signal. Good. In the latter case, the so-called AE (Auto Exposure) function, AF (Auto Focus) function, and AWB (Auto White Balance) function are installed in the endoscope 11100.
- AE Auto Exposure
- AF Auto Focus
- AWB Auto White Balance
- the camera head control unit 11405 controls driving of the camera head 11102 based on a control signal from the CCU 11201 received via the communication unit 11404.
- the communication unit 11411 is composed of a communication device for transmitting and receiving various information to and from the camera head 11102.
- the communication unit 11411 receives the image signal transmitted from the camera head 11102 via the transmission cable 11400.
- the communication unit 11411 transmits a control signal for controlling the driving of the camera head 11102 to the camera head 11102.
- the image signal and the control signal can be transmitted by electric communication, optical communication, or the like.
- the image processing unit 11412 performs various types of image processing on the image signal that is the RAW data transmitted from the camera head 11102.
- the control unit 11413 performs various controls regarding imaging of a surgical site or the like by the endoscope 11100 and display of a captured image obtained by imaging the surgical site or the like. For example, the control unit 11413 generates a control signal for controlling the driving of the camera head 11102.
- control unit 11413 causes the display device 11202 to display a captured image of the surgical site or the like based on the image signal subjected to the image processing by the image processing unit 11412.
- the control unit 11413 may recognize various objects in the captured image using various image recognition techniques.
- the control unit 11413 detects a surgical instrument such as forceps, a specific body part, bleeding, and a mist when the energy treatment instrument 11112 is used by detecting the shape and color of the edge of the object included in the captured image. Can be recognized.
- the control unit 11413 may superimpose and display various types of surgery support information on the image of the operation unit using the recognition result. By displaying the surgery support information in a superimposed manner and presenting it to the operator 11131, the burden on the operator 11131 can be reduced, and the operator 11131 can proceed with the operation reliably.
- the transmission cable 11400 that connects the camera head 11102 and the CCU 11201 is an electric signal cable compatible with electric signal communication, an optical fiber compatible with optical communication, or a composite cable of these.
- wired communication is performed using the transmission cable 11400, but communication between the camera head 11102 and the CCU 11201 may be performed wirelessly.
- the technology according to the present disclosure can be applied to the endoscope 11100, the camera head 11102 (the image capturing unit 11402 thereof), and the like among the configurations described above.
- the solid-state imaging device 111 of the present disclosure can be applied to the imaging unit 10402.
- the endoscopic surgery system has been described as an example, but the technique according to the present disclosure may be applied to other, for example, a microscopic surgery system.
- the technology according to the present disclosure (this technology) can be applied to various products.
- the technology according to the present disclosure is realized as a device mounted on any type of moving body such as an automobile, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, personal mobility, an airplane, a drone, a ship, and a robot. May be.
- FIG. 27 is a block diagram showing a schematic configuration example of a vehicle control system which is an example of a mobile body control system to which the technology according to the present disclosure can be applied.
- the vehicle control system 12000 includes a plurality of electronic control units connected via a communication network 12001.
- the vehicle control system 12000 includes a drive system control unit 12010, a body system control unit 12020, a vehicle exterior information detection unit 12030, a vehicle interior information detection unit 12040, and an integrated control unit 12050.
- a microcomputer 12051, an audio / video output unit 12052, and an in-vehicle network I / F (interface) 12053 are illustrated as a functional configuration of the integrated control unit 12050.
- the drive system control unit 12010 controls the operation of devices related to the drive system of the vehicle according to various programs.
- the drive system control unit 12010 includes a drive force generation device for generating a drive force of a vehicle such as an internal combustion engine or a drive motor, a drive force transmission mechanism for transmitting the drive force to wheels, and a steering angle of the vehicle. It functions as a steering mechanism for adjusting and a control device such as a braking device for generating a braking force of the vehicle.
- the body system control unit 12020 controls the operation of various devices mounted on the vehicle body according to various programs.
- the body system control unit 12020 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as a head lamp, a back lamp, a brake lamp, a winker, or a fog lamp.
- the body system control unit 12020 can be input with radio waves or signals of various switches transmitted from a portable device that substitutes for a key.
- the body system control unit 12020 receives input of these radio waves or signals and controls the vehicle door lock device, power window device, lamp, and the like.
- the vehicle exterior information detection unit 12030 detects information outside the vehicle equipped with the vehicle control system 12000.
- the image pickup unit 12031 is connected to the vehicle exterior information detection unit 12030.
- the vehicle exterior information detection unit 12030 causes the image capturing unit 12031 to capture an image of the vehicle exterior and receives the captured image.
- the vehicle exterior information detection unit 12030 may perform object detection processing or distance detection processing such as people, vehicles, obstacles, signs, or characters on the road surface based on the received image.
- the image pickup unit 12031 is an optical sensor that receives light and outputs an electric signal according to the amount of received light.
- the image pickup unit 12031 can output the electric signal as an image or as distance measurement information.
- the light received by the imaging unit 12031 may be visible light or invisible light such as infrared light.
- the in-vehicle information detection unit 12040 detects in-vehicle information.
- a driver state detection unit 12041 that detects the state of the driver is connected.
- the driver state detection unit 12041 includes, for example, a camera that images the driver, and the in-vehicle information detection unit 12040 determines the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 12041. It may be calculated or it may be determined whether or not the driver is asleep.
- the microcomputer 12051 calculates the control target value of the driving force generation device, the steering mechanism or the braking device based on the information on the inside and outside of the vehicle acquired by the outside information detection unit 12030 or the inside information detection unit 12040, and the drive system control unit.
- a control command can be output to 12010.
- the microcomputer 12051 realizes a function of ADAS (Advanced Driver Assistance System) that includes collision avoidance or impact mitigation of a vehicle, follow-up traveling based on an inter-vehicle distance, vehicle speed maintenance traveling, a vehicle collision warning, or a vehicle lane departure warning. It is possible to perform cooperative control for the purpose.
- ADAS Advanced Driver Assistance System
- the microcomputer 12051 controls the driving force generation device, the steering mechanism, the braking device, or the like on the basis of the information around the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, so that the driver's It is possible to perform cooperative control for the purpose of autonomous driving or the like that autonomously travels without depending on the operation.
- the microcomputer 12051 can output a control command to the body system control unit 12020 based on the information outside the vehicle acquired by the outside information detection unit 12030.
- the microcomputer 12051 controls the headlamp according to the position of the preceding vehicle or the oncoming vehicle detected by the vehicle exterior information detection unit 12030, and performs cooperative control for the purpose of antiglare such as switching the high beam to the low beam. It can be carried out.
- the voice image output unit 12052 transmits an output signal of at least one of a voice and an image to an output device capable of visually or audibly notifying information to a passenger of the vehicle or the outside of the vehicle.
- an audio speaker 12061, a display unit 12062, and an instrument panel 12063 are illustrated as output devices.
- the display unit 12062 may include at least one of an on-board display and a head-up display, for example.
- FIG. 28 is a diagram showing an example of the installation position of the imaging unit 12031.
- the vehicle 12100 has imaging units 12101, 12102, 12103, 12104, 12105 as the imaging unit 12031.
- the imaging units 12101, 12102, 12103, 12104, 12105 are provided at positions such as the front nose of the vehicle 12100, the side mirrors, the rear bumper, the back door, and the upper part of the windshield inside the vehicle.
- the image capturing unit 12101 provided on the front nose and the image capturing unit 12105 provided on the upper part of the windshield in the vehicle interior mainly acquire an image in front of the vehicle 12100.
- the imaging units 12102 and 12103 included in the side mirrors mainly acquire images of the side of the vehicle 12100.
- the image capturing unit 12104 provided in the rear bumper or the back door mainly acquires an image behind the vehicle 12100.
- the front images acquired by the image capturing units 12101 and 12105 are mainly used for detecting a preceding vehicle, a pedestrian, an obstacle, a traffic signal, a traffic sign, a lane, or the like.
- FIG. 28 shows an example of the shooting range of the imaging units 12101 to 12104.
- the imaging range 12111 indicates the imaging range of the imaging unit 12101 provided on the front nose
- the imaging ranges 12112 and 12113 indicate the imaging ranges of the imaging units 12102 and 12103 provided on the side mirrors
- the imaging range 12114 indicates The imaging range of the imaging part 12104 provided in a rear bumper or a back door is shown.
- a bird's-eye view image of the vehicle 12100 viewed from above can be obtained.
- At least one of the imaging units 12101 to 12104 may have a function of acquiring distance information.
- at least one of the image capturing units 12101 to 12104 may be a stereo camera including a plurality of image capturing elements or may be an image capturing element having pixels for phase difference detection.
- the microcomputer 12051 based on the distance information obtained from the imaging units 12101 to 12104, the distance to each three-dimensional object in the imaging range 12111 to 12114 and the temporal change of this distance (relative speed with respect to the vehicle 12100). It is possible to extract the closest three-dimensional object on the traveling path of the vehicle 12100, which is traveling in a substantially same direction as the vehicle 12100 at a predetermined speed (for example, 0 km / h or more), as a preceding vehicle. it can. Further, the microcomputer 12051 can set an inter-vehicle distance to be secured in front of the preceding vehicle in advance, and can perform automatic braking control (including follow-up stop control), automatic acceleration control (including follow-up start control), and the like. In this way, it is possible to perform cooperative control for the purpose of autonomous driving, which autonomously travels without depending on the operation of the driver.
- automatic braking control including follow-up stop control
- automatic acceleration control including follow-up start control
- the microcomputer 12051 uses the distance information obtained from the image capturing units 12101 to 12104 to convert three-dimensional object data regarding a three-dimensional object to other three-dimensional objects such as two-wheeled vehicles, ordinary vehicles, large vehicles, pedestrians, telephone poles, and the like. It can be classified, extracted, and used for automatic avoidance of obstacles. For example, the microcomputer 12051 distinguishes obstacles around the vehicle 12100 into obstacles visible to the driver of the vehicle 12100 and obstacles difficult to see. Then, the microcomputer 12051 determines the collision risk indicating the risk of collision with each obstacle, and when the collision risk is equal to or more than the set value and there is a possibility of collision, the microcomputer 12051 outputs the audio through the audio speaker 12061 and the display unit 12062. A driver can be assisted for avoiding a collision by outputting an alarm to the driver and performing forced deceleration or avoidance steering through the drive system control unit 12010.
- At least one of the image capturing units 12101 to 12104 may be an infrared camera that detects infrared rays.
- the microcomputer 12051 can recognize a pedestrian by determining whether or not the pedestrian is present in the images captured by the imaging units 12101 to 12104. To recognize such a pedestrian, for example, a procedure for extracting a feature point in an image captured by the image capturing units 12101 to 12104 as an infrared camera and pattern matching processing on a series of feature points indicating the contour of an object are performed to determine whether or not the pedestrian is a pedestrian.
- the voice image output unit 12052 causes the recognized pedestrian to have a rectangular contour line for emphasis.
- the display unit 12062 is controlled so as to superimpose. Further, the audio image output unit 12052 may control the display unit 12062 to display an icon indicating a pedestrian or the like at a desired position.
- the technology according to the present disclosure can be applied to, for example, the imaging unit 12031 or the like among the configurations described above.
- the solid-state imaging device 111 of the present disclosure can be applied to the imaging unit 12031.
- the stereo image capturing unit includes a plurality of sensors, Each of the plurality of sensors has an imaging unit composed of a plurality of repeating units, The imaging unit comprises a polarizer having at least one polarization principal axis angle, An imaging device that combines at least two unit images obtained by each of the plurality of imaging units, acquires polarization information in at least three directions, and generates normal line information.
- Each of the plurality of imaging units has a polarizer having two types of polarization principal axis angles, The imaging device according to any one of [1] to [4], wherein the two types of polarization main axis angles are orthogonal to each other in each of the plurality of imaging units.
- One of the plurality of imaging units has a polarizer having a polarization principal axis angle of 22.5 degrees and a polarizer having a polarization principal axis angle of 112.5 degrees; Another one of the plurality of imaging units has a polarizer having a polarization principal axis angle of 67.5 degrees and a polarizer having a polarization principal axis angle of 157.5 degrees, from [1] to [ 5] The image pickup device according to any one of [5].
- Each of the plurality of imaging units has a polarizer with one polarization principal axis angle, The imaging according to any one of [1] to [3], in which a difference in angle between the polarization main axis angles of the polarizer of each of the plurality of imaging units is 5 degrees or more and 85 degrees or less. apparatus.
- Each of the plurality of imaging units has a repeating unit that includes a polarizer and a repeating unit that does not include a polarizer, and includes a repeating unit that includes the polarizer and the polarizer in each of the plurality of imaging units.
- the imaging device according to any one of [1] to [7], in which the ratios of non-repeating units are substantially the same.
- Each of the plurality of imaging units has a repeating unit that includes a polarizer and a repeating unit that does not include a polarizer, and includes a repeating unit that includes the polarizer and the polarizer in each of the plurality of imaging units.
- the image pickup apparatus according to any one of [1] to [8], in which the arrangement patterns of non-repeating units are substantially the same.
- the stereo image capturing unit includes a first sensor and a second sensor,
- the first sensor has a first imaging unit composed of a plurality of repeating units
- the second sensor has a second imaging unit composed of a plurality of repeating units
- the first imaging unit has a polarizer with at least one polarization principal axis angle
- the second imaging unit has a polarizer with at least one polarization principal axis angle
- the first unit image obtained by the first image pickup unit and the second unit image obtained by the second image pickup unit are combined to obtain polarization information in at least three directions to obtain normal line information.
- An imaging device to generate.
- the polarizer having the at least one kind of polarization principal axis angle of the first imaging unit and the polarizer having the at least one kind of polarization principal axis angle of the second imaging unit are at the polarization principal axis angle. Different from each other, The imaging device according to [10], wherein the second imaging unit does not have a polarizer having the at least one kind of polarization principal axis angle that the first imaging unit has. [12] The imaging device according to [10] or [11], in which the first unit image and the second unit image are reconstructed based on a stereo correspondence.
- the first imaging unit has a polarizer having two or less types of polarization principal axis angles
- the imaging device according to any one of [10] to [12], wherein the second imaging unit has a polarizer having two or less types of polarization principal axis angles.
- the first imaging unit has a polarizer having two kinds of polarization principal axis angles, and in the first imaging unit, the two kinds of polarization principal axis angles have an orthogonal relationship, [10] to [13], wherein the second imaging unit has a polarizer having two types of polarization principal axis angles, and the two types of polarization principal axis angles are in an orthogonal relationship in the second imaging unit.
- the imaging device as described in any one.
- the first imaging unit has a polarizer having a polarization principal axis angle of 22.5 degrees and a polarizer having a polarization principal axis angle of 112.5 degrees, Any one of [10] to [14], wherein the second imaging unit has a polarizer having a polarization principal axis angle of 67.5 degrees and a polarizer having a polarization principal axis angle of 157.5 degrees.
- the imaging device according to.
- the first imaging unit has a polarizer with one polarization principal axis angle
- the second imaging unit has a polarizer having one polarization principal axis angle
- the difference between the polarization principal axis angle of the polarizer of the first imaging unit and the polarization principal axis angle of the polarizer of the second imaging unit is 5 degrees or more and 85 degrees or less.
- the first imaging unit has a repeating unit containing a polarizer and a repeating unit not containing a polarizer
- the second imaging unit has a repeating unit containing a polarizer and a repeating unit not containing a polarizer, A ratio of a repeating unit containing the polarizer to a repeating unit not containing the polarizer in the first imaging unit;
- the first imaging unit has a repeating unit containing a polarizer and a repeating unit not containing a polarizer
- the second imaging unit has a repeating unit containing a polarizer and a repeating unit not containing a polarizer
- the arrangement pattern of the repeating unit containing the polarizer and the repeating unit not containing the polarizer in the second imaging unit is substantially the same, according to any one of [10] to [17].
- Imaging device [19] An electronic device equipped with the imaging device according to any one of [1] to [18].
- Imaging device 1-1, 1-2, 2-1, 2-2, 3-1, 3-2, 4-1, 4-2, 5-1, 5-2, 6-1, 6-2, 7- 1, 7-2, 8-1, 8-2, 9-1, 9-2, 10A-1, 10A-2, 10A-3, 11-1, 11-2, 12-1, 12-2, 13-1, 13-2, 14-1, 14-2, 15-1, 15-2, 16-1, 17-1 ...
- Sensor 10 (10-1, 10-2), 20 (20-1, 20-2), 30 (30-1, 30-2), 40 (40-1, 40-2), 50 (50-1, 50-2), 60 (60-1, 60-2), 70 (70-1, 70-2), 80 (80-1, 80-2), 90 (90-1, 90-2), 100 (100-1, 100-2), 110 (110-1-1, 110-1-2, 110-2-1, 110-2-2), 120 (120-1-1, 120-1-2) , 120-2-1, 120-2-2), 130 (130-1R, 130-1G, 130-1B, 130-2R, 130-2G, 130-2B), 140 (140-1, 140-2) ), 150 (150-1R, 150-1G, 150-1B, 150-2R, 150-2G, 150-2B) ... Imaging unit (unit image), 167 (167-1, 167-2), 177 (177-1, 177-2) ... Polarizer
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Optics & Photonics (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Remote Sensing (AREA)
- Theoretical Computer Science (AREA)
- Electromagnetism (AREA)
- Radar, Positioning & Navigation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Measurement Of Optical Distance (AREA)
- Studio Devices (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Image Analysis (AREA)
- Blocking Light For Cameras (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Liquid Crystal Substances (AREA)
Abstract
距離情報の精度の更なる向上を実現することができる撮像装置及びその撮像装置を搭載した電子機器を提供すること。 ステレオ画像撮像部を備え、該ステレオ画像撮像部が複数のセンサを含み、該複数のセンサのそれぞれが複数の繰り返し単位から構成される撮像単位を有し、該撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、複数の該撮像単位のそれぞれによって得られる少なくとも2つの単位画像を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置を提供し、さらに、その撮像装置が搭載された電子機器を提供する。
Description
本技術は、撮像装置及び電子機器に関する。
従来、被写体を撮像することよって、被写体の表面における法線情報を生成する画像処理装置に関する技術が提案されている(例えば、特許文献1を参照。)。
しかしながら、特許文献1で提案された技術では、距離情報の精度の更なる向上を図れないおそれがある。
そこで、本技術は、このような状況に鑑みてなされたものであり、距離情報の精度の更なる向上を実現することができる撮像装置、及びその撮像装置を搭載した電子機器を提供することを主目的とする。
本発明者らは、上述の目的を解決するために鋭意研究を行った結果、距離情報の精度の更なる向上の実現に成功し、本技術を完成するに至った。
すなわち、本技術では、第1の側面として、
ステレオ画像撮像部を備え、
該ステレオ画像撮像部が複数のセンサを含み、
該複数のセンサのそれぞれが複数の繰り返し単位から構成される撮像単位を有し、
該撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
複数の該撮像単位のそれぞれによって得られる少なくとも2つの単位画像を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置を提供する。
ステレオ画像撮像部を備え、
該ステレオ画像撮像部が複数のセンサを含み、
該複数のセンサのそれぞれが複数の繰り返し単位から構成される撮像単位を有し、
該撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
複数の該撮像単位のそれぞれによって得られる少なくとも2つの単位画像を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置を提供する。
本技術に係る第1の側面の撮像装置において、前記複数の撮像単位のうち、1つの撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子と、前記複数の撮像単位のうち、該1つの撮像単位以外の他の全ての撮像単位のそれぞれが有する前記少なくとも1種の偏光主軸角度を有する偏光子とは、前記偏光主軸角度において互いに異種でよく、
該1つの撮像単位以外の他の全ての撮像単位のそれぞれが、該1つの撮像単位が有する少なくとも1種の偏光主軸角度を有する偏光子を有さなくてよい。
本技術に係る第1の側面の撮像装置において、複数の前記単位画像は、ステレオ対応関係に基づいて再構成されてよい。
本技術に係る第1の側面の撮像装置において、前記複数の撮像単位のそれぞれが、2種以下の前記偏光主軸角度を有する偏光子を有してよい。
本技術に係る第1の側面の撮像装置において、前記複数の撮像単位のそれぞれが、2種の前記偏光主軸角度を有する偏光子を有してよく、
前記複数の撮像単位のそれぞれにおいて、該2種の前記偏光主軸角度が直交関係であってよい。
本技術に係る第1の側面の撮像装置において、前記複数の撮像単位のうち1つの撮像単位は、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有してよく、前記複数の撮像単位のうち別の1つの撮像単位は、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有してよい。
該1つの撮像単位以外の他の全ての撮像単位のそれぞれが、該1つの撮像単位が有する少なくとも1種の偏光主軸角度を有する偏光子を有さなくてよい。
本技術に係る第1の側面の撮像装置において、複数の前記単位画像は、ステレオ対応関係に基づいて再構成されてよい。
本技術に係る第1の側面の撮像装置において、前記複数の撮像単位のそれぞれが、2種以下の前記偏光主軸角度を有する偏光子を有してよい。
本技術に係る第1の側面の撮像装置において、前記複数の撮像単位のそれぞれが、2種の前記偏光主軸角度を有する偏光子を有してよく、
前記複数の撮像単位のそれぞれにおいて、該2種の前記偏光主軸角度が直交関係であってよい。
本技術に係る第1の側面の撮像装置において、前記複数の撮像単位のうち1つの撮像単位は、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有してよく、前記複数の撮像単位のうち別の1つの撮像単位は、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有してよい。
本技術に係る第1の側面の撮像装置において、前記複数の撮像単位のそれぞれが、1種の偏光主軸角度を有する偏光子を有してよく、
前記複数の撮像単位のそれぞれが有する前記偏光子の前記偏光主軸角度の互いの角度の差が、5度以上85度以下でよい。
前記複数の撮像単位のそれぞれが有する前記偏光子の前記偏光主軸角度の互いの角度の差が、5度以上85度以下でよい。
本技術に係る第1の側面の撮像装置において、前記複数の撮像単位のそれぞれが、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有してよく、該複数の撮像単位のそれぞれにおける、該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との割合が、互いに略同一であってよい。
本技術に係る第1の側面の撮像装置において、前記複数の撮像単位のそれぞれが、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有してよく、該複数の撮像単位のそれぞれにおける、該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンが、互いに略同一であってよい。
また、本技術では、第2の側面として、
ステレオ画像撮像部を備え、
該ステレオ画像撮像部が第1のセンサと第2のセンサとを含み、
該第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、
該第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、
該第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
該第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
該第1の撮像単位によって得られる第1の単位画像と、該第2の撮像単位によって得られる第2の単位画像とを組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置を提供する。
ステレオ画像撮像部を備え、
該ステレオ画像撮像部が第1のセンサと第2のセンサとを含み、
該第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、
該第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、
該第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
該第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
該第1の撮像単位によって得られる第1の単位画像と、該第2の撮像単位によって得られる第2の単位画像とを組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置を提供する。
本技術に係る第2の側面の撮像装置において、前記第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子と、前記第2の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子とは、前記偏光主軸角度において互いに異種でよく、
前記第2の撮像単位が、前記第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子を有さなくてよい。
本技術に係る第2の側面の撮像装置において、前記第1の単位画像と前記第2の単位画像とは、ステレオ対応関係に基づいて再構成されてよい。
本技術に係る第2の側面の撮像装置において、前記第1の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有してよく、
前記第2の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有してよい。
本技術に係る第2の側面の撮像装置において、前記第1の撮像単位が、2種の偏光主軸角度を有する偏光子を有してよく、前記第1の撮像単位において、該2種の偏光主軸角度が直交関係であってよく、
前記第2の撮像単位が、2種の偏光主軸角度を有する偏光子を有してよく、前記第2の撮像単位において、該2種の偏光主軸角度が直交関係であってよい。
本技術に係る第2の側面の撮像装置において、前記第1の撮像単位が、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有してよく、
前記第2の撮像単位が、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有してよい。
前記第2の撮像単位が、前記第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子を有さなくてよい。
本技術に係る第2の側面の撮像装置において、前記第1の単位画像と前記第2の単位画像とは、ステレオ対応関係に基づいて再構成されてよい。
本技術に係る第2の側面の撮像装置において、前記第1の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有してよく、
前記第2の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有してよい。
本技術に係る第2の側面の撮像装置において、前記第1の撮像単位が、2種の偏光主軸角度を有する偏光子を有してよく、前記第1の撮像単位において、該2種の偏光主軸角度が直交関係であってよく、
前記第2の撮像単位が、2種の偏光主軸角度を有する偏光子を有してよく、前記第2の撮像単位において、該2種の偏光主軸角度が直交関係であってよい。
本技術に係る第2の側面の撮像装置において、前記第1の撮像単位が、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有してよく、
前記第2の撮像単位が、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有してよい。
本技術に係る第2の側面の撮像装置において、前記第1の撮像単位が、1種の偏光主軸角度を有する偏光子を有してよく、
前記第2の撮像単位が、1種の偏光主軸角度を有する偏光子を有してよく、
前記第1の撮像単位が有する該偏光子の該偏光主軸角度と、前記第2の撮像単位が有する該偏光子の該偏光主軸角度との差が、5度以上85度以下であってよい。
前記第2の撮像単位が、1種の偏光主軸角度を有する偏光子を有してよく、
前記第1の撮像単位が有する該偏光子の該偏光主軸角度と、前記第2の撮像単位が有する該偏光子の該偏光主軸角度との差が、5度以上85度以下であってよい。
本技術に係る第2の側面の撮像装置において、前記第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有してよく、
前記第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有してよく、
前記第1の撮像単位における該偏光子を繰り返し単位と該偏光子を含まない繰り返し単位との割合と、
前記第2の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との割合とが、略同一であってよい。
前記第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有してよく、
前記第1の撮像単位における該偏光子を繰り返し単位と該偏光子を含まない繰り返し単位との割合と、
前記第2の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との割合とが、略同一であってよい。
本技術に係る第2の側面の撮像装置において、前記第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有してよく、
前記第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有してよく、
前記第1の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンと、
前記第2の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンとが、略同一であってよい。
前記第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有してよく、
前記第1の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンと、
前記第2の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンとが、略同一であってよい。
さらに、本技術では、第3の側面として、本技術に係る第1の側面の撮像装置又は第2の側面の撮像装置が搭載された、電子機器を提供する。
本技術によれば、距離情報の精度の更なる向上を実現することができる。なお、ここに記載された効果は、必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
以下、本技術を実施するための好適な形態について説明する。以下に説明する実施形態は、本技術の代表的な実施形態の一例を示したものであり、これにより本技術の範囲が狭く解釈されることはない。なお、特に断りがない限り、図面において、「上」とは図中の上方向又は上側を意味し、「下」とは、図中の下方向又は下側を意味し、「左」とは図中の左方向又は左側を意味し、「右」とは図中の右方向又は右側を意味する。また、図面については、同一又は同等の要素又は部材には同一の符号を付し、重複する説明は省略する。
説明は以下の順序で行う。
1.本技術の概要
2.第1の実施形態(撮像装置の例1)
3.第2の実施形態(撮像装置の例2)
4.第3の実施形態(電子機器の例)
5.本技術を適用した撮像装置の使用例
6.内視鏡手術システムへの応用例
7.移動体への応用例
1.本技術の概要
2.第1の実施形態(撮像装置の例1)
3.第2の実施形態(撮像装置の例2)
4.第3の実施形態(電子機器の例)
5.本技術を適用した撮像装置の使用例
6.内視鏡手術システムへの応用例
7.移動体への応用例
<1.本技術の概要>
まず、本技術の概要について説明をする。
まず、本技術の概要について説明をする。
測距精度を上げるために偏光センサを使用することができる。絶対距離の情報と偏光情報とから生成された法線情報とから高精度な距離情報(3D情報)を得ることができる。法線算出時の不定性の解消のために、絶対距離の情報が必要である。ところで、2つの偏光センサを用いる方法は、無偏光画素に比べて、偏光画素は感度が落ちるため、絶対距離算出の感度低下を招くおそれがある。
本技術は上記の事情を鑑みてなされたものである。本技術に係る撮像装置は、ステレオ画像撮像部を備え、ステレオ画像撮像部が複数のセンサを含み、複数のセンサのそれぞれが複数の繰り返し単位から構成される撮像単位を有し、撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、複数の撮像単位のそれぞれによって得られる少なくとも2つの単位画像を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置である。本技術に係る撮像装置によれば、複数のセンサのそれぞれのセンサに少なくとも3方向の偏光画素を配置しないことから、偏光画素を減らして、その分について偏光なし画素に割り当てることができるため、感度を上げることができる。また、本技術に係る撮像装置によれば、偏光なし画素ではなく、複数のセンサのそれぞれのセンサに配置したい方向の偏光画素を配置することにより、法線情報の解像度を上げることができ、法線情報の解像度が上がれば、距離方向の精度(3D情報の精度)を上げることができる。
本技術に係る撮像装置について、更に詳細に説明する。
距離(絶対距離)情報を取るために、少なくとも2つのセンサを使うことができる。一方、法線情報を生成するためには少なくとも3方向の偏光情報が必要である。複数のセンサのそれぞれのセンサで必要な全ての方向(例えば4つの偏光方向)の偏光を取る必要はなく、撮像装置の全体(複数のセンサ)で必要な全ての方向(例えば4つの偏光方向)の偏光を取れればよい。例えば、複数のセンサのうち2つのセンサを組み合わせて4偏光を取れるようにしてもよい。偏光画素を必要以上に増やす必要がなく、感度が落ちる偏光画素を減らせる分、無偏光画素(偏光なし画素)を用いることができて、その分感度を上げることができる。
本技術に係る撮像装置においては、例えば、偏光子の方向が互いに異なる2つのセンサが、左右方向に配置して使用され得る。左右方向に配置された2つのセンサを組み合わせると、法線情報の生成に必要な方向の偏光情報が揃う。さらに詳細に説明をすると、本技術に係る撮像装置は、輝度画像で絶対距離を算出する。本技術に係る撮像装置によれば、偏光画素が少ない分、無偏光画素を用いることができて感度が高くなり、法線情報は左右方向に配置された2つのセンサによって得られる2つの単位画像を組み合わせて算出する。2つの単位画像を組み合わせで少なくとも3偏光(例えば4偏光でよい。)を取得し、法線を算出して生成する。なお、本技術に係る撮像装置において、例えば2つのセンサを用いる場合、左右方向に2つのセンサを配置してもよいが、配置状態について、それに限定されることはない。なお、センサの受光領域は撮像部と称してもよい。
距離(絶対距離)算出には、本技術に係る撮像装置において、例えば2つのセンサを用いる場合、第1の撮像部(第1のセンサの受光領域)及び第2の撮像部(第2のセンサの受光領域)のそれぞれから得られた画像において、同一位置の情報を取得している画素位置を特定する必要がある場合がある。また、法線の生成は第1の撮像部(第1のセンサの受光領域)及び第2の撮像部(第2のセンサの受光領域)の同一部位を見ている画素の偏光情報を使って行うことができる。同一部位の特定(画像マッチング)には、第1の撮像部(第1のセンサの受光領域)及び第2の撮像部(第2のセンサの受光領域)から得られる画像の輝度が略同一(略同一は、実質的に同じともいう。)であることが望ましい。
上記では、本技術に係る撮像装置を構成するセンサが2つである場合を説明したが、それに限定されることなく、本技術に係る撮像装置を構成するセンサは3つでもよいし、あるいは4つ以上でもよい。また、本技術に係る撮像装置は、法線情報を生成するために、複数のセンサのそれぞれを構成する複数の撮像単位のそれぞれによって得られる少なくとも2つの単位画像を組み合わせればよい。すなわち、本技術に係る撮像装置は、複数のセンサのそれぞれを構成する複数の撮像単位のそれぞれによって得られる単位画像の全てを組み合わせて、法線情報を生成してもよいし、複数のセンサのそれぞれを構成する複数の撮像単位のそれぞれによって得られる単位画像の一部を組み合わせて、法線情報を生成してもよい。
次に、本技術を更に具体的に説明するために、以下に、本技術に係る実施の形態について詳細に説明をする。
<2.第1の実施形態(撮像装置の例1)>
本技術に係る第1の実施形態(撮像装置の例1)の撮像装置は、ステレオ画像撮像部を備え、ステレオ画像撮像部が第1のセンサと第2のセンサとを含み、第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第1の撮像単位によって得られる第1の単位画像と、第2の撮像単位によって得られる第2の単位画像と、を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置である。すなわち、本技術に係る第1の実施形態の撮像装置は、2つのセンサを用いて、少なくとも3方向の偏光情報を取得して、法線情報を生成する。本技術に係る第1の実施形態の撮像装置において、法線情報を生成するためには、少なくとも3方向の偏光情報を取得すればよいので、3方向の偏光情報でもよいし、4方向の偏光情報でもよいし、5方向以上の偏光情報でもよい。
本技術に係る第1の実施形態(撮像装置の例1)の撮像装置は、ステレオ画像撮像部を備え、ステレオ画像撮像部が第1のセンサと第2のセンサとを含み、第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第1の撮像単位によって得られる第1の単位画像と、第2の撮像単位によって得られる第2の単位画像と、を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置である。すなわち、本技術に係る第1の実施形態の撮像装置は、2つのセンサを用いて、少なくとも3方向の偏光情報を取得して、法線情報を生成する。本技術に係る第1の実施形態の撮像装置において、法線情報を生成するためには、少なくとも3方向の偏光情報を取得すればよいので、3方向の偏光情報でもよいし、4方向の偏光情報でもよいし、5方向以上の偏光情報でもよい。
本技術に係る第1の実施形態の撮像装置によれば、距離情報の精度の更なる向上を実現することができる。より詳しくは、本技術に係る第1の実施形態の撮像装置によれば、複数(二つ)のセンサのそれぞれのセンサに少なくとも3方向の偏光画素を配置しないことから、偏光画素を減らして、その分について偏光なし画素に割り当てることができるため、感度を上げることができ、また、偏光なし画素ではなく、複数(二つ)のセンサのそれぞれのセンサに配置したい方向の偏光画素を配置することにより、法線情報の解像度を上げることができ、法線情報の解像度が上がれば、距離方向の精度(3D情報の精度)を上げることができる。
本技術に係る第1の実施形態の撮像装置において、第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子と、第2の撮像単位が有する少なくとも1種の偏光主軸角度を有する偏光子とは、偏光主軸角度において互いに異種であることが好ましく、第2の撮像単位が、第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子を有さないことが好ましい。
本技術に係る第1の実施形態の撮像装置において、第1の単位画像と第2の単位画像とは、ステレオ対応関係に基づいて再構成されることが好ましい。
本技術に係る第1の実施形態の撮像装置において、第1の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有することが好ましく、第2の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有することが好ましい。
本技術に係る第1の実施形態の撮像装置において、第1の撮像単位が、2種の偏光主軸角度を有する偏光子を有することが好ましく、第1の撮像単位において、2種の偏光主軸角度が直交関係であることが好ましく、第2の撮像単位が、2種の偏光主軸角度を有する偏光子を有することが好ましく、第2の撮像単位において、2種の偏光主軸角度が直交関係であることが好ましい。
本技術に係る第1の実施形態の撮像装置において、第1の撮像単位が、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有することが好ましく、第2の撮像単位が、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有することが好ましい。
本技術に係る第1の実施形態の撮像装置において、第1の撮像単位が、1種の偏光主軸角度を有する偏光子を有することが好ましく、第2の撮像単位が、1種の偏光主軸角度を有する偏光子を有することが好ましく、第1の撮像単位が有する偏光子の偏光主軸角度と、第2の撮像単位が有する該偏光子の該偏光主軸角度との差が、5度以上85度以下であることが好ましい。
本技術に係る第1の実施形態の撮像装置において、第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有することが好ましく、第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有することが好ましく、第1の撮像単位における偏光子を繰り返し単位と偏光子を含まない繰り返し単位との割合と、第2の撮像単位における偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位との割合とが、略同一であることが好ましい。
本技術に係る第1の実施形態の撮像装置において、第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有することが好ましく、第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有することが好ましく、第1の撮像単位における偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位との配置パターンと、第2の撮像単位における偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位との配置パターンとが、略同一であることが好ましい。
以下、本技術に係る第1の実施形態の撮像装置について、図1~図9及び図11~図22を用いて更に詳細に説明をする。
図1~図9及び図11~図15は、本技術に係る第1の実施形態の撮像装置の構成例を示す図である。図16~図17は、本技術に係る第1の実施形態の撮像装置を構成するセンサ、より詳細には、センサの受光領域である撮像部の構成例を示す断面図である。図18は、本技術に係る第1の実施形態の撮像装置を用いた撮像形態の一例を示す図である。図19は、本技術に係る第1の実施形態の撮像装置による処理の流れを示すフローチャートである。図20~図24は、本技術に係る第1の実施形態の撮像装置を用いて、法線情報を生成して距離画像(3D情報)を得ることを説明するための図である。
まず、図1~図9及び図11~図15を用いて説明する。
図1は、撮像装置1を示す。撮像装置1は第1のセンサ1-1と第2のセンサ1-2とを備える。すなわち、撮像装置1が備えるステレオ画像撮像部は、第1のセンサ1-1と第2のセンサ1-2とから構成される。
第1のセンサ1-1は、4個の繰り返し単位11-1~14-1から構成される1つの撮像単位10-1を有する。繰り返し単位11-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位11-1によって、1画素分の偏光輝度値が得られる。繰り返し単位12-1は、偏光子なしである1個の画素とから構成され、繰り返し単位12-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位13-1は、偏光子なしである1個の画素とから構成され、繰り返し単位13-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位14-1は、22.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位14-1によって、1画素分の偏光輝度値が得られる。
第2のセンサ1-2は、4個の繰り返し単位11-2~14-2から構成される1つの撮像単位10-2を有する。繰り返し単位11-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位11-2によって、1画素分の偏光輝度値が得られる。繰り返し単位12-2は、偏光子なしである1個の画素とから構成され、繰り返し単位12-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位13-2は、偏光子なしである1個の画素とから構成され、繰り返し単位13-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位14-2は、157.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位14-2によって、1画素分の偏光輝度値が得られる。
図1に示されるように、偏光画素と偏光なし画素(無偏光画素)の配置が両方で同じである。各偏光子が画素に対して対象で長さも等しく、かつ、角度が直行関係にある画素同士の輝度を加算すると偏光に依存しない輝度を得ることができるため、撮像単位10-1及び10-2によって得られる単位画像同士の感度が略同じになり、同一部位の特定がしやすい。法線情報の算出もしやすい。
図2は、撮像装置2を示す。撮像装置2は第1のセンサ2-1と第2のセンサ2-2とを備える。すなわち、撮像装置2が備えるステレオ画像撮像部は、第1のセンサ2-1と第2のセンサ2-2とから構成される。
第1のセンサ2-1は、4個の繰り返し単位21-1~24-1から構成される1つの撮像単位20-1を有する。繰り返し単位21-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位21-1によって、1画素分の偏光輝度値が得られる。繰り返し単位22-1は、偏光子なしである1個の画素とから構成され、繰り返し単位22-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位23-1は、偏光子なしである1個の画素とから構成され、繰り返し単位23-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位24-1は、22.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位24-1によって、1画素分の偏光輝度値が得られる。
第2のセンサ2-2は、4個の繰り返し単位21-2~24-2から構成される1つの撮像単位20-2を有する。繰り返し単位21-2は、偏光子なしである1個の画素とから構成され、繰り返し単位21-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位22-2は、157.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位22-2によって、1画素分の偏光輝度値が得られる。繰り返し単位23-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位23-2によって、1画素分の偏光輝度値が得られる。繰り返し単位24-2は、偏光子なしである1個の画素とから構成され、繰り返し単位24-2によって、1画素分の無偏光輝度値が得られる。
図2に示されるように、偏光子の主軸角度は図1に示される撮像装置1と同じであるが、偏光画素と偏光なし画素の配置が異なっている。撮像装置2による効果は撮像装置1による効果と同様である。
図3は、撮像装置3を示す。撮像装置3は第1のセンサ3-1と第2のセンサ3-2とを備える。すなわち、撮像装置3が備えるステレオ画像撮像部は、第1のセンサ3-1と第1のセンサ3-2とから構成される。
第1のセンサ3-1は、4個の繰り返し単位31-1~34-1から構成される1つの撮像単位30-1を有する。繰り返し単位31-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位31-1によって、1画素分の偏光輝度値が得られる。繰り返し単位32-1は、偏光子なしである1個の画素とから構成され、繰り返し単位32-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位33-1は、偏光子なしである1個の画素とから構成され、繰り返し単位23-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位34-1は、157.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位34-1によって、1画素分の偏光輝度値が得られる。
第2のセンサ3-2は、4個の繰り返し単位31-2~34-2から構成される1つの撮像単位30-2を有する。繰り返し単位31-2は、偏光子なしである1個の画素とから構成され、繰り返し単位31-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位32-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位32-2によって、1画素分の偏光輝度値が得られる。繰り返し単位33-2は、22.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位33-2によって、1画素分の偏光輝度値が得られる。繰り返し単位34-2は、偏光子なしである1個の画素とから構成され、繰り返し単位34-2によって、1画素分の無偏光輝度値が得られる。
撮像装置3の構成は撮像装置2の構成に含まれるが、1種類のセンサを回転させることで実現できる。同一センサを使用できるため、製造コストを下げる効果がある。
図4は、撮像装置4を示す。撮像装置4は第1のセンサ4-1と第2のセンサ4-2とを備える。すなわち、撮像装置4が備えるステレオ画像撮像部は、第1のセンサ4-1と第2のセンサ4-2とから構成される。
第1のセンサ4-1は、4個の繰り返し単位41-1~44-1から構成される1つの撮像単位40-1を有する。繰り返し単位41-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位41-1によって、1画素分の偏光輝度値が得られる。繰り返し単位42-1は、偏光子なしである1個の画素とから構成され、繰り返し単位42-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位43-1は、偏光子なしである1個の画素とから構成され、繰り返し単位43-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位44-1は、偏光なしである1個の画素とから構成され、繰り返し単位44-1によって、1画素分の無偏光輝度値が得られる。
第2のセンサ4-2は、4個の繰り返し単位41-2~44-2から構成される1つの撮像単位40-2を有する。繰り返し単位41-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位41-2によって、1画素分の偏光輝度値が得られる。繰り返し単位42-2は、偏光子なしである1個の画素とから構成され、繰り返し単位42-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位43-2は、偏光子なしである1個の画素とから構成され、繰り返し単位43-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位44-2は、偏光なしである1個の画素とから構成され、繰り返し単位44-2によって、1画素分の無偏光輝度値が得られる。
第1のセンサ4-1及び4-2のそれぞれには1種類の偏光子のみ存在し、偏光画素が取得できる成分に対する垂直方向の偏光成分は偏光なし画素と偏光画素の差分から計算する。偏光画素を多く配置させることができるため、輝度画像の感度を上げることができる。
図5は、撮像装置5を示す。撮像装置5は第1のセンサ5-1と第2のセンサ5-2とを備える。すなわち、撮像装置5が備えるステレオ画像撮像部は、第1のセンサ5-1と第2のセンサ5-2とから構成される。
第1のセンサ5-1は、水平方向(図5中の左右方向)の2個の繰り返し単位51-1及び53-1から構成される1つの撮像単位50-1-1を有する。繰り返し単位51-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位51-1によって、1画素分の偏光輝度値が得られる。繰り返し単位53-1は、偏光子なしである1個の画素とから構成され、繰り返し単位53-1によって、1画素分の無偏光輝度値が得られる。また、第1のセンサ5-1は、垂直方向(図5中の上下方向)の2個の繰り返し単位55-1及び56-1から構成される1つの撮像単位50-1-2を有する。繰り返し単位55-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位55-1によって、1画素分の偏光輝度値が得られる。繰り返し単位56-1は、偏光子なしである1個の画素とから構成され、繰り返し単位56-1によって、1画素分の無偏光輝度値が得られる。
第2のセンサ5-2は、水平方向(図5中の左右方向)の2個の繰り返し単位51-2及び53-2から構成される1つの撮像単位50-2-1を有する。繰り返し単位51-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位51-2によって、1画素分の偏光輝度値が得られる。繰り返し単位53-2は、偏光子なしである1個の画素とから構成され、繰り返し単位53-2によって、1画素分の無偏光輝度値が得られる。また、第1のセンサ5-2は、垂直方向(図5中の上下方向)の2個の繰り返し単位55-2及び56-2から構成される1つの撮像単位50-2-2を有する。繰り返し単位55-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位55-2によって、1画素分の偏光輝度値が得られる。繰り返し単位56-2は、偏光子なしである1個の画素とから構成され、繰り返し単位56-2によって、1画素分の無偏光輝度値が得られる。
撮像装置5、撮像装置4から偏光画素(偏光子を有する繰り返し単位)を増やしたものである。撮像装置5は、撮像装置4に対し水平解像度、又は垂直解像度、あるいはその両方を向上させることができる。
図6は、撮像装置6を示す。撮像装置6は第1のセンサ6-1と第2のセンサ6-2とを備える。すなわち、撮像装置6が備えるステレオ画像撮像部は、第1のセンサ6-1と第2のセンサ6-2とから構成される。
第1のセンサ6-1は、4個の繰り返し単位61-1~64-1から構成される1つの撮像単位60-1を有する。繰り返し単位61-1は、135度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位61-1によって、1画素分の偏光輝度値が得られる。繰り返し単位62-1は、偏光子なしである1個の画素から構成され、繰り返し単位62-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位63-1は、偏光子なしである1個の画素から構成され、繰り返し単位63-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位64-1は、45度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位64-1によって、1画素分の偏光輝度値が得られる。
第2のセンサ6-2は、4個の繰り返し単位61-2~64-2から構成される1つの撮像単位60-2を有する。繰り返し単位61-2は、0度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位61-2によって、1画素分の偏光輝度値が得られる。繰り返し単位62-2は、偏光子なしである1個の画素から構成され、繰り返し単位62-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位63-2は、偏光子なしである1個の画素から構成され、繰り返し単位63-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位64-2は、90度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位64-2によって、1画素分の偏光輝度値が得られる。
撮像装置6は撮像装置1に対して、偏光子の偏光主軸角度が直行関係にあるものを各々のセンサに配置して、22.5度/112.5度及び67.5度/157.5度以外の構成を示す。この偏光子の組み合わせで、撮像装置2~5と同様のバリエーションを取ることも可能である。
図7は、撮像装置7を示す。撮像装置7は第1のセンサ7-1と第2のセンサ7-2とを備える。すなわち、撮像装置7が備えるステレオ画像撮像部は、第1のセンサ7-1と第2のセンサ7-2とから構成される。
第1のセンサ7-1は、9個(3個×3個)の繰り返し単位71-1~74-1、77-1、79-1、710-1及び713-1から構成される1つの撮像単位70-1を有する。繰り返し単位71-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位71-1によって、1画素分の偏光輝度値が得られる。繰り返し単位72-1は、偏光子なしである1個の画素から構成され、繰り返し単位72-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位73-1は、偏光子なしである1個の画素から構成され、繰り返し単位73-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位74-1は、偏光子なしである1個の画素から構成され、繰り返し単位74-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位77-1は、偏光子なしである1個の画素から構成され、繰り返し単位77-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位79-1は、偏光子なしである1個の画素から構成され、繰り返し単位79-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位710-1は、偏光子なしである1個の画素から構成され、繰り返し単位710-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位713-1は、22.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位713-1によって、1画素分の偏光輝度値が得られる。
第1のセンサ7-2は、9個(3個×3個)の繰り返し単位71-2~74-2、77-2、79-2、710-2及び713-2から構成される1つの撮像単位70-2を有する。繰り返し単位71-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位71-2によって、1画素分の偏光輝度値が得られる。繰り返し単位72-2は、偏光子なしである1個の画素から構成され、繰り返し単位72-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位73-2は、偏光子なしである1個の画素から構成され、繰り返し単位73-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位74-2は、偏光子なしである1個の画素から構成され、繰り返し単位74-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位77-2は、偏光子なしである1個の画素から構成され、繰り返し単位77-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位79-2は、偏光子なしである1個の画素から構成され、繰り返し単位79-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位710-2は、偏光子なしである1個の画素から構成され、繰り返し単位710-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位713-2は、157.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位713-2によって、1画素分の偏光輝度値が得られる。
撮像装置7は、上述したように、単位画像(撮像単位)を3×3とした例である。輝度画像の感度を更に上げることができる。このように単位画像は2×2に限定されることはない。
図8は、撮像装置8を示す。撮像装置8は第1のセンサ8-1と第2のセンサ8-2とを備える。すなわち、撮像装置8が備えるステレオ画像撮像部は、第1のセンサ8-1と第2のセンサ8-2とから構成される。
第1のセンサ8-1は、4個の繰り返し単位81-1~84-1から構成される1つの撮像単位80-1を有する。繰り返し単位81-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位81-1によって、1画素分の偏光輝度値が得られる。繰り返し単位82-1は、偏光子なしである1個の画素とから構成され、繰り返し単位82-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位83-1は、偏光子なしである1個の画素とから構成され、繰り返し単位83-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位84-1は、22.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位84-1によって、1画素分の偏光輝度値が得られる。
第2のセンサ8-2は、4個の繰り返し単位81-2~84-2から構成される1つの撮像単位80-2を有する。繰り返し単位81-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位81-2によって、1画素分の偏光輝度値が得られる。繰り返し単位82-2は、偏光子なしである1個の画素とから構成され、繰り返し単位82-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位83-2は、偏光子なしである1個の画素とから構成され、繰り返し単位83-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位84-2は、157.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位84-2によって、1画素分の偏光輝度値が得られる。
図8に示されるように。撮像装置8は、単位画素を繰り返し配置ではなく、単位画素を特定の位置(パターン)に配置している。輝度画像の感度を更に上げることができる。このように偏光画素は自由に配置することができる。
図9は、撮像装置9を示す。撮像装置9は第1のセンサ9-1と第2のセンサ9-2とを備える。すなわち、撮像装置9が備えるステレオ画像撮像部は、第1のセンサ9-1と第2のセンサ9-2とから構成される。
第1のセンサ9-1は、16個(4個×4個)の繰り返し単位91-1~916-1から構成される1つの撮像単位90-1を有する。繰り返し単位91-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位91-1によって、1画素分の偏光輝度値が得られる。繰り返し単位92-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位92-1によって、1画素分の偏光輝度値が得られる。繰り返し単位93-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位93-1によって、1画素分の偏光輝度値が得られる。繰り返し単位94-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位94-1によって、1画素分の偏光輝度値が得られる。
繰り返し単位95-1は、偏光子なしである1個の画素から構成され、繰り返し単位95-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位96-1は、偏光子なしである1個の画素から構成され、繰り返し単位96-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位97-1は、偏光子なしである1個の画素から構成され、繰り返し単位97-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位98-1は、偏光子なしである1個の画素から構成され、繰り返し単位98-1によって、1画素分の無偏光輝度値が得られる。
繰り返し単位99-1は、偏光子なしである1個の画素から構成され、繰り返し単位99-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位910-1は、偏光子なしである1個の画素から構成され、繰り返し単位910-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位911-1は、偏光子なしである1個の画素から構成され、繰り返し単位911-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位912-1は、偏光子なしである1個の画素から構成され、繰り返し単位912-1によって、1画素分の無偏光輝度値が得られる。
繰り返し単位913-1は、22.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位913-1によって、1画素分の偏光輝度値が得られる。繰り返し単位914-1は、22.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位914-1によって、1画素分の偏光輝度値が得られる。繰り返し単位915-1は、22.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位915-1によって、1画素分の偏光輝度値が得られる。繰り返し単位916-1は、22.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位916-1によって、1画素分の偏光輝度値が得られる。
第2のセンサ9-2は、16個(4個×4個)の繰り返し単位91-2~916-2から構成される1つの撮像単位90-2を有する。繰り返し単位91-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位91-2によって、1画素分の偏光輝度値が得られる。繰り返し単位92-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位92-2によって、1画素分の偏光輝度値が得られる。繰り返し単位93-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位93-2によって、1画素分の偏光輝度値が得られる。繰り返し単位94-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位94-2によって、1画素分の偏光輝度値が得られる。
繰り返し単位95-2は、偏光子なしである1個の画素から構成され、繰り返し単位95-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位96-2は、偏光子なしである1個の画素から構成され、繰り返し単位96-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位97-2は、偏光子なしである1個の画素から構成され、繰り返し単位97-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位98-2は、偏光子なしである1個の画素から構成され、繰り返し単位98-2によって、1画素分の無偏光輝度値が得られる。
繰り返し単位99-2は、偏光子なしである1個の画素から構成され、繰り返し単位99-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位910-2は、偏光子なしである1個の画素から構成され、繰り返し単位910-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位911-2は、偏光子なしである1個の画素から構成され、繰り返し単位911-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位912-2は、偏光子なしである1個の画素から構成され、繰り返し単位912-2によって、1画素分の無偏光輝度値が得られる。
繰り返し単位913-2は、157.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位913-2によって、1画素分の偏光輝度値が得られる。繰り返し単位914-2は、157.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位914-2によって、1画素分の偏光輝度値が得られる。繰り返し単位915-2は、157.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位915-2によって、1画素分の偏光輝度値が得られる。繰り返し単位916-2は、157.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位916-2によって、1画素分の偏光輝度値が得られる。
撮像装置9は画素群に偏光子を配置している。このように同一方向の偏光子をまとめて配置することもできる。
図11は、撮像装置11を示す。撮像装置11は第1のセンサ11-1と第2のセンサ11-2とを備える。すなわち、撮像装置11が備えるステレオ画像撮像部は、第1のセンサ11-1と第2のセンサ11-2とから構成される。
第1のセンサ11-1は、水平方向(図11中の左右方向)の2個の繰り返し単位111-1及び113-1から構成される1つの撮像単位110-1-1を有する。繰り返し単位111-1は、0度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位111-1によって、1画素分の偏光輝度値が得られる。繰り返し単位113-1は、90度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位113-1によって、1画素分の偏光輝度値が得られる。また、第1のセンサ11-1は、垂直方向(図11中の上下方向)の2個の繰り返し単位115-1及び116-1から構成される1つの撮像単位110-1-2を有する。繰り返し単位115-1は、0度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位115-1によって、1画素分の偏光輝度値が得られる。繰り返し単位116-1は、90度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位116-1によって、1画素分の偏光輝度値が得られる。
第2のセンサ11-2は、水平方向(図11中の左右方向)の2個の繰り返し単位111-2及び113-2から構成される1つの撮像単位110-2-1を有する。繰り返し単位111-2は、135度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位111-2によって、1画素分の偏光輝度値が得られる。繰り返し単位113-2は、45度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位113-2によって、1画素分の偏光輝度値が得られる。また、第1のセンサ11-2は、垂直方向(図11中の上下方向)の2個の繰り返し単位115-2及び116-2から構成される1つの撮像単位110-2-2を有する。繰り返し単位115-2は、135度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位115-2によって、1画素分の偏光輝度値が得られる。繰り返し単位116-2は、45度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位116-2によって、1画素分の偏光輝度値が得られる。
撮像装置11は本技術を感度ではなく、解像度の向上に応用した例である。各々の撮像部で3つ以上の偏光情報を取得していないため、従来の技術より解像度を上げることも可能である。
図12は、撮像装置12を示す。撮像装置12は第1のセンサ12-1と第2のセンサ12-2とを備える。すなわち、撮像装置12が備えるステレオ画像撮像部は、第1のセンサ12-1と第2のセンサ12-2とから構成される。
第1のセンサ12-1は、水平方向(図12中の左右方向)の2個の繰り返し単位121-1及び123-1から構成される1つの撮像単位120-1-1を有する。繰り返し単位121-1は、135度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位121-1によって、1画素分の偏光輝度値が得られる。繰り返し単位123-1は、90度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位123-1によって、1画素分の偏光輝度値が得られる。また、第1のセンサ12-1は、垂直方向(図12中の上下方向)の2個の繰り返し単位125-1及び126-1から構成される1つの撮像単位120-1-2を有する。繰り返し単位125-1は、135度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位125-1によって、1画素分の偏光輝度値が得られる。繰り返し単位126-1は、90度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位126-1によって、1画素分の偏光輝度値が得られる。
第2のセンサ12-2は、水平方向(図12中の左右方向)の2個の繰り返し単位121-2及び123-2から構成される1つの撮像単位120-2-1を有する。繰り返し単位121-2は、0度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位121-2によって、1画素分の偏光輝度値が得られる。繰り返し単位123-2は、45度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位123-2によって、1画素分の偏光輝度値が得られる。また、第1のセンサ12-2は、垂直方向(図12中の上下方向)の2個の繰り返し単位125-2及び126-2から構成される1つの撮像単位120-2-2を有する。繰り返し単位125-2は、0度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位125-2によって、1画素分の偏光輝度値が得られる。繰り返し単位126-2は、45度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位126-2によって、1画素分の偏光輝度値が得られる。
図12に示されるように、撮像装置12は1種類のセンサを回転させることで解像度の向上を実現した例である。
図13は、撮像装置13を示す。撮像装置13は第1のセンサ13-1と第2のセンサ13-2とを備える。すなわち、撮像装置13が備えるステレオ画像撮像部は、第1のセンサ13-1と第2のセンサ13-2とから構成される。
第1のセンサ13-1は、4個の繰り返し単位131-1~134-1から構成される1つの撮像単位130-1Rを有する。撮像単位130-1Rは、更に赤色光用のカラーフィルタを有する。繰り返し単位131-1は、135度の偏光主軸角度を有する偏光子と、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位131-1によって、1画素分のカラーの偏光輝度値が得られる。繰り返し単位132-1は、偏光子なしである、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位132-1によって、1画素分のカラー無偏光輝度値が得られる。繰り返し単位133-1は、偏光子なしである、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位133-1によって、1画素分のカラー無偏光輝度値が得られる。繰り返し単位134-1は、90度の偏光主軸角度を有する偏光子と、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位134-1によって、1画素分のカラーの偏光輝度値が得られる。
第1のセンサ13-1は、撮像単位130-1Gと、撮像単位130-1Bとを有する。撮像単位130-1Gは、緑色光用のカラーフィルタを有し、4個の繰り返し単位から構成され、繰り返し単位のそれぞれの構成は、上記で述べた撮像単位130-1Rの繰り返し単位の構成と同様である。また、撮像単位130-1Bは、青色光用のカラーフィルタを有し、4個の繰り返し単位から構成され、繰り返し単位のそれぞれの構成は、上記で述べた撮像単位130-1Rの繰り返し単位の構成と同様である。
第2のセンサ13-2は、4個の繰り返し単位131-2~134-2から構成される1つの撮像単位130-2Rを有する。撮像単位130-2Rは、更に赤色光用のカラーフィルタを有する。繰り返し単位131-2は、偏光子なしである、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位131-2によって、1画素分のカラー無偏光輝度値が得られる。繰り返し単位132-2は、0度の偏光主軸角度を有する偏光子と、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位132-2によって、1画素分のカラーの偏光輝度値が得られる。繰り返し単位133-2は、45度の偏光主軸角度を有する偏光子と、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位133-2によって、1画素分のカラーの偏光輝度値が得られる。繰り返し単位134-2は、偏光子なしである、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位134-2によって、1画素分のカラー無偏光輝度値が得られる。
第2のセンサ13-2は、撮像単位130-2Gと、撮像単位130-2Bとを有する。撮像単位130-2Gは、緑色光用のカラーフィルタを有し、4個の繰り返し単位から構成され、繰り返し単位のそれぞれの構成は、上記で述べた撮像単位130-2Rの繰り返し単位の構成と同様である。また、撮像単位130-2Bは、青色光用のカラーフィルタを有し、4個の繰り返し単位から構成され、繰り返し単位のそれぞれの構成は、上記で述べた撮像単位130-2Rの繰り返し単位の構成と同様である。
撮像装置13は、はセンサ(撮像部)にカラーフィルタを配置した例であり、偏光情報が揃う単位でカラーフィルタの色を変えている。上述したように、撮像装置13では、距離画像と同時にカラー画像を得ることができる。
図14は、撮像装置14を示す。撮像装置14は第1のセンサ14-1と第2のセンサ14-2とを備える。すなわち、撮像装置14が備えるステレオ画像撮像部は、第1のセンサ14-1と第2のセンサ14-2とから構成される。
第1のセンサ14-1は、4個の繰り返し単位141-1、142-1R、143-1G及び144-1から構成される1つの撮像単位140-1を有する。繰り返し単位141-1は、135度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位141-1によって、1画素分の偏光輝度値が得られる。繰り返し単位142-1Rは、偏光子なしである、赤色光用のカラーフィルタを含む1個の画素から構成され、繰り返し単位142-1Rによって、1画素分のカラーの無偏光輝度値が得られる。繰り返し単位143-1Gは、偏光子なしである、緑色光用のカラーフィルタを含む1個の画素から構成され、繰り返し単位143-1Gによって、1画素分のカラーの無偏光輝度値が得られる。繰り返し単位144-1は、45度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位144-1によって、1画素分の偏光輝度値が得られる。
第2のセンサ14-2は、4個の繰り返し単位141-1、142-2R、143-2G及び144-2から構成される1つの撮像単位140-2を有する。繰り返し単位141-2は、0度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位141-2によって、1画素分の偏光輝度値が得られる。繰り返し単位142-2Rは、偏光子なしである、赤色光用のカラーフィルタを含む1個の画素から構成され、繰り返し単位142-2Rによって、1画素分のカラーの無偏光輝度値が得られる。繰り返し単位143-2Gは、偏光子なしである、緑色光用のカラーフィルタを含む1個の画素から構成され、繰り返し単位143-2Gによって、1画素分のカラーの無偏光輝度値が得られる。繰り返し単位144-2は、90度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位144-2によって、1画素分の偏光輝度値が得られる。
撮像装置14は、センサ(撮像部)にカラーフィルタを配置した例であり、偏光なし画素にのみ色を分離するカラーフィルタを配置している。同じく距離画像と同時にカラー画像を得ることができる。
図15は、撮像装置15を示す。撮像装置15は第1のセンサ15-1と第2のセンサ15-2とを備える。すなわち、撮像装置14が備えるステレオ画像撮像部は、第1のセンサ15-1と第2のセンサ15-2とから構成される。
第1のセンサ15-1は、水平方向(図15中の左右方向)の2個の繰り返し単位151-1R及び153-1Rから構成される1つの撮像単位150-1Rを有する。撮像単位150-1Rは赤色光用のカラーフィルタを有する。繰り返し単位151-1Rは、0度の偏光主軸角度を有する偏光子と、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位151-1Rによって、1画素分のカラーの偏光輝度値が得られる。繰り返し単位153-1Rは、90度の偏光主軸角度を有する偏光子と、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位153-1Rによって、1画素分のカラーの偏光輝度値が得られる。第1のセンサ15-1は、撮像単位150-1Rの下側に、水平方向(図15中の左右方向)の2個の繰り返し単位152-1G及び154-1Gから構成される1つの撮像単位150-1Gを有する。撮像単位150-1Gは緑色光用のカラーフィルタを有する。繰り返し単位152-1Gは、90度の偏光主軸角度を有する偏光子と、緑色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位152-1Gによって、1画素分のカラーの偏光輝度値が得られる。繰り返し単位154-1Gは、0度の偏光主軸角度を有する偏光子と、緑色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位154-1Gによって、1画素分のカラーの偏光輝度値が得られる。また、第1のセンサ15-1は、撮像単位150-1Rの右側に、水平方向(図15中の左右方向)の2個の繰り返し単位から構成される1つの撮像単位150-1Gを有する。撮像単位150-1Rの右側の撮像単位150-1Gは、撮像単位150-1Rの下側の撮像単位150-1Gを180度回転させたものである。さらに、第1のセンサ15-1は、撮像単位150-1Rの右下側に、水平方向(図15中の左右方向)の2個の繰り返し単位から構成される1つの撮像単位150-1Bを有する。撮像単位150-1Bは青色色用のカラーフィルタを有する。撮像単位150-1Bの繰り返し単位の構成は、撮像単位150-1Gの繰り返し単位と同様な構成を有する。
第1のセンサ15-2は、水平方向(図15中の左右方向)の2個の繰り返し単位152-1R及び153-2Rから構成される1つの撮像単位150-2Rを有する。撮像単位150-2Rは赤色光用のカラーフィルタを有する。繰り返し単位151-2Rは、135度の偏光主軸角度を有する偏光子と、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位151-2Rによって、1画素分のカラーの偏光輝度値が得られる。繰り返し単位153-2Rは、45度の偏光主軸角度を有する偏光子と、赤色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位153-2Rによって、1画素分のカラーの偏光輝度値が得られる。第1のセンサ15-2は、撮像単位150-2Rの下側に、水平方向(図15中の左右方向)の2個の繰り返し単位152-2G及び154-2Gから構成される1つの撮像単位150-2Gを有する。撮像単位150-2Gは緑色光用のカラーフィルタを有する。繰り返し単位152-2Gは、45度の偏光主軸角度を有する偏光子と、緑色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位152-2Gによって、1画素分のカラーの偏光輝度値が得られる。繰り返し単位154-2Gは、135度の偏光主軸角度を有する偏光子と、緑色光用のカラーフィルタを含む1個の画素とから構成され、繰り返し単位154-2Gによって、1画素分のカラーの偏光輝度値が得られる。また、第2のセンサ15-2は、撮像単位150-2Rの右側に、水平方向(図15中の左右方向)の2個の繰り返し単位から構成される1つの撮像単位150-2Gを有する。撮像単位150-2Rの右側の撮像単位150-2Gは、撮像単位150-2Rの下側の撮像単位150-2Gを180度回転させたものである。さらに、第2のセンサ15-2は、撮像単位150-2Rの右下側に、水平方向(図15中の左右方向)の2個の繰り返し単位から構成される1つの撮像単位150-2Bを有する。撮像単位150-2Bは青色色用のカラーフィルタを有する。撮像単位150-2Bの繰り返し単位の構成は、撮像単位150-2Gの繰り返し単位と同様な構成を有する。
撮像装置15、撮像装置13と同じ目的(コンセプト)を有するが、センサ(撮像部)が全て偏光画素である例である。ところで、撮像部1~12のいずれにもカラーフィルタが配置されてもよい。
図16は、撮像装置を構成するセンサ16-1を示す。センサ16-1には、光入射側から順に、オンチップレンズ161、絶縁膜162に形成された偏光子167-1及び167-2、遮光材163、フォトダイオード166が形成された半導体基板164、トランジスタ・配線層165が配されている。フォトダイオード166の光を受ける側に偏光子167-1及び167-2とオンチップレンズ161が配置されている。偏光子167-1及び167-2は例えば金属の細線で形成することができる。
図17は、撮像装置を構成するセンサ17-1を示す。センサ17-1には、光入射側から順に、オンチップレンズ171、カラーフィルタ(W光用カラーフィルタ、R光用カラーフィルタ、B光用カラーフィルタ)、絶縁膜172に形成された偏光子177-1及び177-2、遮光材173、W光用フォトダイオード176W、R光用フォトダイオード176R,B光用フォトダイオードが形成された半導体基板174、トランジスタ・配線層175が配されている。図17に示されるセンサ17-1は、図14で示されたセンサ14-1又は14-2のように偏光なし画素にのみ色を分離するカラーフィルタを配置した例である。偏光画素に色を分離するカラーフィルタを配置することも可能であり、その場合は、W光を所望の色を分離するカラーフィルタに置き換えれてもよい。
図18は、上述したように、本技術に係る第1の実施形態の撮像装置を用いた撮像形態の一例を示す図である。図18に示されるように、本技術に係る第1の実施形態の撮像装置は、カメラ1000-1とカメラ1000-2とから構成され、カメラ1000-1には、受光領域である撮像部を含むセンサ2000-1が備えられ、カメラ1000-2には、受光領域である撮像部を含むセンサ2000-2が備えられている。図18に示される撮像形態においては、被写体300に対して、カメラ1000-1及びカメラ1000-2、すなわち、2つのセンサ(センサ2000-1及びセンサ2000-2)を用いて撮影する。
図19は、例えば、図18で示したように撮影した画像から高精度距離画像を得るための処理の流れを示すフローチャートである。
まず、ステップS0で処理を開始する。ステップS1-1で、第1のセンサ(例えば、図1では第1のセンサ1-1、以下同じ。)の画像を取得し、ステップS1-2で、第2のセンサ(例えば、図1では第1のセンサ1-2、以下同じ。)の画像を取得する。
次に、ステップS2-1で、第1のセンサの輝度画像を作成し、ステップS2-3で、第1のセンサの各偏光方向の輝度画像を作成する。そして、ステップS2-2で、第2のセンサの輝度画像を作成し、ステップS2-4で、第2のセンサの各偏光方向の輝度画像を作成する。例えば、図1~図15で示された撮像単位によって得られた単位画像を1ピクセルとした輝度画像と、それぞれの偏光画素のみの輝度画像を作成する。
ステップS3で、ステップS2-1及びS2-2によって得られた輝度画像をマッチングする。例えば、第1のセンサから得られた単位画像を1ピクセルとした輝度画像と第2のセンサから得られた単位画像を1ピクセルとした輝度画像のマッチングを行う。マッチングとは同じ部位を撮像している画素(ピクセル)を対応づけることである。マッチング手法としては特徴ベースマッチングと領域ベースマッチングの2つに大別されるが、その両方を組み合わせるものも存在する。それらのいずれを用いることができる。なお、マッチング手法については、例えば、非特許文献(第25回信号処理シンポジウム 2010年11月24日~26日(奈良)、「高精度な画像マッチング手法の検討」)を参照することができる。
ステップS4-1で距離画像を作成し、ステップS4-2で、対応位置の各偏光輝度画像から偏光情報(Imax、Imin、φ)を算出し、ステップs5で方位角及び天頂角画像の作成をして、ステップS6で高精度な距離画像を作成することができる。
具体的には、上記のマッチング情報を使い、一つは第1のセンサから得られた単位画像を1ピクセルとした輝度画像と第2のセンサから得られた単位画像を1ピクセルとした輝度画像から距離画像を作成する。第1の撮像部と第2の撮像部の距離(基線長と呼ばれている)が既知であれば、マッチング情報でそれぞれの撮像部でずれたピクセル数からDepth方向(2つのセンサから垂直の方向)の距離を計算することができる。そして、偏光情報を算出する。同じ部位を撮像しているそれぞれの偏光の輝度から後述する図20に示されるモデルに当てはめImax、Imin、φを求めることができる。
上記のImax、Imin、φのみでは不定性があり法線ベクトルはわからないが、上述のように作成した距離画像を用いると後述する図21で示されるように、着目点からある方向に移動した時に距離が遠くなるか近くなるかがわかるため、方位角αと天頂角θの角度を確定することができる。求まった法線情報を用いて距離画像を再計算することにより、後述するのように精度の高い距離画像を作成することができる。
図20~図24は、上述したように、本技術に係る第1の実施形態の撮像装置を用いて、法線情報を生成して距離画像(3D情報)を得ることを説明するための図である。
図20(a)には、Camera1000、Polarizer4000及びObject5000の位置関係において、法線Q、天頂角θ及び方位角αの関係が示されている。図20(b)のグラフでは、横軸が偏光子の偏光主軸角度Φであり、縦軸は輝度Iである。図20(b)のグラフには、偏光主軸角度0度、45度、90度、135度の4種類の偏光子を透過した光の輝度P1~P4が1本の正弦関数カーブを形成していることが示されている。この正弦関数カーブにより、Imax、Imin、φを算出することができる。
図21(a)~(b)には、反射光が鏡面反射の場合の方位角α及び天頂角θの求め方が示されている。そして、図21(c)~(d)には、反射光が拡散反射の場合の方位角α及び天頂角θの求め方が示されている。図21(b)及び(d)のグラフの縦軸は偏光度ρであり、Imax-Imin/Imax+Iminで算出することができる。
図22には、被写体の表面R1における法線ベクトルQ1が示され、被写体の表面R2におけるQ2が示され、及び被写体の表面R3における法線ベクトルQ3が示されている。図22では、法線ベクトルQ1に対応する被写体距離は、あらかじめ、距離(絶対距離)情報により既知であることを前提とする。そうすると、法線ピッチRは、画素ピッチ×被写体距離/焦点距離によって求めることができ、Depth(被写体の表面凹凸、3D情報)は、Depth=法線ピッチ・tan(天頂角θ)によって求めることができる。
<3.第2の実施形態(撮像装置の例2)>
本技術に係る第2の実施形態(撮像装置の例2)の撮像装置は、ステレオ画像撮像部を備え、ステレオ画像撮像部が第1のセンサと第2のセンサと第3のセンサとを含み、第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、第3のセンサが複数の繰り返し単位から構成される第3の撮像単位を有し、第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第3の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第1の撮像単位によって得られる第1の単位画像と、第2の撮像単位によって得られる第2の単位画像と、第3の撮像単位によって得られる第3の単位画像とを組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置である。すなわち、本技術に係る第2の実施形態の撮像装置は、3つのセンサを用いて、少なくとも3方向の偏光情報を取得して、法線情報を生成する。本技術に係る第2の実施形態の撮像装置において、法線情報を生成するためには、少なくとも3方向の偏光情報を取得すればよいので、3方向の偏光情報でもよいし、4方向の偏光情報でもよいし、5方向以上の偏光情報でもよい。
本技術に係る第2の実施形態(撮像装置の例2)の撮像装置は、ステレオ画像撮像部を備え、ステレオ画像撮像部が第1のセンサと第2のセンサと第3のセンサとを含み、第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、第3のセンサが複数の繰り返し単位から構成される第3の撮像単位を有し、第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第3の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第1の撮像単位によって得られる第1の単位画像と、第2の撮像単位によって得られる第2の単位画像と、第3の撮像単位によって得られる第3の単位画像とを組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置である。すなわち、本技術に係る第2の実施形態の撮像装置は、3つのセンサを用いて、少なくとも3方向の偏光情報を取得して、法線情報を生成する。本技術に係る第2の実施形態の撮像装置において、法線情報を生成するためには、少なくとも3方向の偏光情報を取得すればよいので、3方向の偏光情報でもよいし、4方向の偏光情報でもよいし、5方向以上の偏光情報でもよい。
本技術に係る第2の実施形態の撮像装置によれば、距離情報の精度の更なる向上を実現することができる。より詳しくは、本技術に係る第2の実施形態の撮像装置によれば、複数(三つ)のセンサのそれぞれのセンサに少なくとも3方向の偏光画素を配置しないことから、偏光画素を減らして、その分について偏光なし画素に割り当てることができるため、感度を上げることができ、また、偏光なし画素ではなく、複数(三つ)のセンサのそれぞれのセンサに配置したい方向の偏光画素を配置することにより、法線情報の解像度を上げることができ、法線情報の解像度が上がれば、距離方向の精度(3D情報の精度)を上げることができる。
本技術に係る第2の実施形態の撮像装置において、第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子と、第2の撮像単位が有する少なくとも1種の偏光主軸角度を有する偏光子と、第3の撮像単位が有する少なくとも1種の偏光主軸角度を有する偏光子とは、偏光主軸角度において互いに異種であることが好ましく、第2の撮像単位が、第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子及び第3の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子を有さないことが好ましく、第3の撮像単位が、第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子及び第2の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子を有さないことが好ましい。
本技術に係る第2の実施形態の撮像装置において、第1の単位画像と第2の単位画像と第3の単位画像とは、ステレオ対応関係に基づいて再構成されることが好ましい。
本技術に係る第2の実施形態の撮像装置において、第1の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有することが好ましく、第2の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有することが好ましく、第3の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有することが好ましい。
本技術に係る第2の実施形態の撮像装置において、第1の撮像単位が、2種の偏光主軸角度を有する偏光子を有することが好ましく、第1の撮像単位において、2種の偏光主軸角度が直交関係であることが好ましく、第2の撮像単位が、2種の偏光主軸角度を有する偏光子を有することが好ましく、第2の撮像単位において、2種の偏光主軸角度が直交関係であることが好ましく、第3の撮像単位が、2種の偏光主軸角度を有する偏光子を有することが好ましく、第3の撮像単位において、2種の偏光主軸角度が直交関係であることが好ましい。
本技術に係る第2の実施形態の撮像装置において、少なくとも、第1の撮像単位が、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有することが好ましく、第2の撮像単位が、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有することが好ましく、また、本技術に係る第2の実施形態の撮像装置において、少なくとも、第1の撮像単位が、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有することが好ましく、第3の撮像単位が、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有することが好ましく、さらに、本技術に係る第2の実施形態の撮像装置において、少なくとも、第2の撮像単位が、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有することが好ましく、第3の撮像単位が、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有することが好ましい。
本技術に係る第2の実施形態の撮像装置において、第1の撮像単位が、1種の偏光主軸角度を有する偏光子を有することが好ましく、第2の撮像単位が、1種の偏光主軸角度を有する偏光子を有することが好ましく、第3の撮像単位が、1種の偏光主軸角度を有する偏光子を有することが好ましく、第1の撮像単位が有する偏光子の偏光主軸角度と、第2の撮像単位が有する該偏光子の該偏光主軸角度と、第3の撮像単位が有する該偏光子の該偏光主軸角度との差が、5度以上85度以下であることが好ましい。
本技術に係る第2の実施形態の撮像装置において、第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有することが好ましく、第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有することが好ましく、第3の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有することが好ましく、第1の撮像単位における偏光子を繰り返し単位と偏光子を含まない繰り返し単位との割合と、第2の撮像単位における偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位との割合と、第3の撮像単位における偏光子を繰り返し単位と偏光子を含まない繰り返し単位との割合が、略同一であることが好ましい。
本技術に係る第2の実施形態の撮像装置において、第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有することが好ましく、第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有することが好ましく、第3の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有することが好ましく、第1の撮像単位における偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位との配置パターンと、第2の撮像単位における偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位との配置パターンと、第3の撮像単位における偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位との配置パターンとが、略同一であることが好ましい。
以下、本技術に係る第2の実施形態の撮像装置について、図10を用いて更に詳細に説明をする。図10は、本技術に係る第2の実施形態の撮像装置の構成例を示す図である。
図10は、撮像装置10Aを示す。撮像装置10Aは第1のセンサ10A-1と第2のセンサ10A-2と第3のセンサ10A-3とを備える。すなわち、撮像装置10Aが備えるステレオ画像撮像部は、第1のセンサ10A-1と第2のセンサ10A-2と第3のセンサ10A-3とから構成される。
第1のセンサ10A-1は、4個の繰り返し単位101-1~104-1から構成される1つの撮像単位100-1を有する。繰り返し単位101-1は、112.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位101-1によって、1画素分の偏光輝度値が得られる。繰り返し単位102-1は、偏光子なしである1個の画素から構成され、繰り返し単位102-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位103-1は、偏光子なしである1個の画素とから構成され、繰り返し単位103-1によって、1画素分の無偏光輝度値が得られる。繰り返し単位104-1は、偏光なしである1個の画素から構成され、繰り返し単位104-1によって、1画素分の無偏光輝度値が得られる。
第2のセンサ10A-2は、4個の繰り返し単位101-2~104-2から構成される1つの撮像単位100-2を有する。繰り返し単位101-2は、67.5度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位101-2によって、1画素分の偏光輝度値が得られる。繰り返し単位102-2は、偏光子なしである1個の画素から構成され、繰り返し単位102-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位103-2は、偏光子なしである1個の画素から構成され、繰り返し単位103-2によって、1画素分の無偏光輝度値が得られる。繰り返し単位104-2は、偏光なしである1個の画素から構成され、繰り返し単位104-2によって、1画素分の無偏光輝度値が得られる。
第3のセンサ10A-3は、4個の繰り返し単位101-3~104-3から構成される1つの撮像単位100-3を有する。繰り返し単位101-3は、0度の偏光主軸角度を有する偏光子と、1個の画素とから構成され、繰り返し単位101-3によって、1画素分の偏光輝度値が得られる。繰り返し単位102-3は、偏光子なしである1個の画素から構成され、繰り返し単位102-3によって、1画素分の無偏光輝度値が得られる。繰り返し単位103-3は、偏光子なしである1個の画素から構成され、繰り返し単位103-3によって、1画素分の無偏光輝度値が得られる。繰り返し単位104-3は、偏光なしである1個の画素から構成され、繰り返し単位104-3によって、1画素分の無偏光輝度値が得られる。
本技術に係る第2の実施形態の撮像装置は、上記で述べた内容以外は、図16~図22に関する内容を含めて、本技術に係る第1の実施形態の撮像装置の欄<2.第1の実施形態(撮像装置の例1)>で述べた内容をそのままで適用することができる。
<4.第3の実施形態(電子機器の例)>
本技術に係る第3の実施形態の電子機器は、本技術に係る撮像装置が搭載された電子機器である。本技術に係る撮像装置は、第1の側面としては、ステレオ画像撮像部を備え、ステレオ画像撮像部が複数のセンサを含み、複数のセンサのそれぞれが複数の繰り返し単位から構成される撮像単位を有し、撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、複数の該撮像単位のそれぞれによって得られる少なくとも2つの単位画像を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置である。また、本技術に係る撮像装置は、第2の側面としては、ステレオ画像撮像部を備え、ステレオ画像撮像部が第1のセンサと第2のセンサとを含み、第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第1の撮像単位によって得られる第1の単位画像と、第2の撮像単位によって得られる第2の単位画像とを組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置である。なお、ステレオ画像撮像部に含まれるセンサは上記に示したように2つのセンサでもよいし、さらに3つのセンサでもよいし、4つ以上のセンサでもよい。
本技術に係る第3の実施形態の電子機器は、本技術に係る撮像装置が搭載された電子機器である。本技術に係る撮像装置は、第1の側面としては、ステレオ画像撮像部を備え、ステレオ画像撮像部が複数のセンサを含み、複数のセンサのそれぞれが複数の繰り返し単位から構成される撮像単位を有し、撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、複数の該撮像単位のそれぞれによって得られる少なくとも2つの単位画像を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置である。また、本技術に係る撮像装置は、第2の側面としては、ステレオ画像撮像部を備え、ステレオ画像撮像部が第1のセンサと第2のセンサとを含み、第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、第1の撮像単位によって得られる第1の単位画像と、第2の撮像単位によって得られる第2の単位画像とを組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置である。なお、ステレオ画像撮像部に含まれるセンサは上記に示したように2つのセンサでもよいし、さらに3つのセンサでもよいし、4つ以上のセンサでもよい。
例えば、本技術に係る第3の実施形態の電子機器は、本技術に係る第1の実施形態~第2の実施形態の撮像装置のうち、いずれか一つ実施形態の撮像装置が搭載された電子機器である。
<5.本技術を適用した撮像装置の使用例>
図23は、イメージセンサとしての本技術に係る第1~第2の実施形態の撮像装置の使用例を示す図である。
図23は、イメージセンサとしての本技術に係る第1~第2の実施形態の撮像装置の使用例を示す図である。
上述した第1~第2の実施形態の撮像装置は、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングするさまざまなケースに使用することができる。すなわち、図23に示すように、例えば、鑑賞の用に供される画像を撮影する鑑賞の分野、交通の分野、家電の分野、医療・ヘルスケアの分野、セキュリティの分野、美容の分野、スポーツの分野、農業の分野等において用いられる装置(例えば、上述した第6の実施形態の電子機器)に、第1~第2の実施形態のいずれか1つの実施形態の撮像装置を使用することができる。
具体的には、鑑賞の分野においては、例えば、デジタルカメラやスマートフォン、カメラ機能付きの携帯電話機等の、鑑賞の用に供される画像を撮影するための装置に、第1~第2の実施形態のいずれか1つの実施形態の撮像装置を使用することができる。
交通の分野においては、例えば、自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置に、第1~第2の実施形態のいずれか1つの実施形態の撮像装置を使用することができる。
家電の分野においては、例えば、ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、テレビ受像機や冷蔵庫、エアーコンディショナ等の家電に供される装置で、第1~第2の実施形態のいずれか1つの実施形態の撮像装置を使用することができる。
医療・ヘルスケアの分野においては、例えば、内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置に、第1~第2の実施形態のいずれか1つの実施形態の撮像装置を使用することができる。
セキュリティの分野においては、例えば、防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置に、第1~第2の実施形態のいずれか1つの実施形態の撮像装置を使用することができる。
美容の分野においては、例えば、肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置に、第1~第2の実施形態のいずれか1つの実施形態の撮像装置を使用することができる。
スポーツの分野において、例えば、スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置に、第1~第2の実施形態のいずれか1つの実施形態の撮像装置を使用することができる。
農業の分野においては、例えば、畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置に、第1~第2の実施形態のいずれか1つの実施形態の撮像装置を使用することができる。
次に、本技術に係る第1~第2の実施形態の撮像装置の使用例を具体的に説明する。例えば、上述で説明をした第1~第2の実施形態のいずれか1つの実施形態の撮像装置は、撮像装置101として、例えばデジタルスチルカメラやビデオカメラ等のカメラシステムや、撮像機能を有する携帯電話など、撮像機能を備えたあらゆるタイプの電子機器に適用することができる。図24に、その一例として、電子機器102(カメラ)の概略構成を示す。この電子機器102は、例えば静止画または動画を撮影可能なビデオカメラであり、撮像装置101と、光学系(光学レンズ)310と、シャッタ装置311と、撮像装置101およびシャッタ装置311を駆動する駆動部313と、信号処理部312とを有する。
光学系310は、被写体からの像光(入射光)を撮像装置101の画素部101aへ導くものである。この光学系310は、複数の光学レンズから構成されていてもよい。シャッタ装置311は、撮像装置101への光照射期間および遮光期間を制御するものである。駆動部313は、撮像装置101の転送動作およびシャッタ装置311のシャッタ動作を制御するものである。信号処理部312は、固体撮像装置101から出力された信号に対し、各種の信号処理を行うものである。信号処理後の映像信号Doutは、メモリなどの記憶媒体に記憶されるか、あるいは、モニタ等に出力される。
<6.内視鏡手術システムへの応用例>
本技術は、様々な製品へ応用することができる。例えば、本開示に係る技術(本技術)は、内視鏡手術システムに適用されてもよい。
本技術は、様々な製品へ応用することができる。例えば、本開示に係る技術(本技術)は、内視鏡手術システムに適用されてもよい。
図25は、本開示に係る技術(本技術)が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
図25では、術者(医師)11131が、内視鏡手術システム11000を用いて、患者ベッド11133上の患者11132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム11000は、内視鏡11100と、気腹チューブ11111やエネルギー処置具11112等の、その他の術具11110と、内視鏡11100を支持する支持アーム装置11120と、内視鏡下手術のための各種の装置が搭載されたカート11200と、から構成される。
内視鏡11100は、先端から所定の長さの領域が患者11132の体腔内に挿入される鏡筒11101と、鏡筒11101の基端に接続されるカメラヘッド11102と、から構成される。図示する例では、硬性の鏡筒11101を有するいわゆる硬性鏡として構成される内視鏡11100を図示しているが、内視鏡11100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
鏡筒11101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡11100には光源装置11203が接続されており、当該光源装置11203によって生成された光が、鏡筒11101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者11132の体腔内の観察対象に向かって照射される。なお、内視鏡11100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド11102の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)11201に送信される。
CCU11201は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡11100及び表示装置11202の動作を統括的に制御する。さらに、CCU11201は、カメラヘッド11102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
表示装置11202は、CCU11201からの制御により、当該CCU11201によって画像処理が施された画像信号に基づく画像を表示する。
光源装置11203は、例えばLED(Light Emitting Diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡11100に供給する。
入力装置11204は、内視鏡手術システム11000に対する入力インタフェースである。ユーザは、入力装置11204を介して、内視鏡手術システム11000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡11100による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示等を入力する。
処置具制御装置11205は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具11112の駆動を制御する。気腹装置11206は、内視鏡11100による視野の確保及び術者の作業空間の確保の目的で、患者11132の体腔を膨らめるために、気腹チューブ11111を介して当該体腔内にガスを送り込む。レコーダ11207は、手術に関する各種の情報を記録可能な装置である。プリンタ11208は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
なお、内視鏡11100に術部を撮影する際の照射光を供給する光源装置11203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置11203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド11102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置11203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド11102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置11203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置11203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
図26は、図25に示すカメラヘッド11102及びCCU11201の機能構成の一例を示すブロック図である。
カメラヘッド11102は、レンズユニット11401と、撮像部11402と、駆動部11403と、通信部11404と、カメラヘッド制御部11405と、を有する。CCU11201は、通信部11411と、画像処理部11412と、制御部11413と、を有する。カメラヘッド11102とCCU11201とは、伝送ケーブル11400によって互いに通信可能に接続されている。
レンズユニット11401は、鏡筒11101との接続部に設けられる光学系である。鏡筒11101の先端から取り込まれた観察光は、カメラヘッド11102まで導光され、当該レンズユニット11401に入射する。レンズユニット11401は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
撮像部11402は、撮像素子で構成される。撮像部11402を構成する撮像素子は、1つ(いわゆる単板式)であってもよいし、複数(いわゆる多板式)であってもよい。撮像部11402が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部11402は、3D(Dimensional)表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者11131は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部11402が多板式で構成される場合には、各撮像素子に対応して、レンズユニット11401も複数系統設けられ得る。
また、撮像部11402は、必ずしもカメラヘッド11102に設けられなくてもよい。例えば、撮像部11402は、鏡筒11101の内部に、対物レンズの直後に設けられてもよい。
駆動部11403は、アクチュエータによって構成され、カメラヘッド制御部11405からの制御により、レンズユニット11401のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部11402による撮像画像の倍率及び焦点が適宜調整され得る。
通信部11404は、CCU11201との間で各種の情報を送受信するための通信装置によって構成される。通信部11404は、撮像部11402から得た画像信号をRAWデータとして伝送ケーブル11400を介してCCU11201に送信する。
また、通信部11404は、CCU11201から、カメラヘッド11102の駆動を制御するための制御信号を受信し、カメラヘッド制御部11405に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてCCU11201の制御部11413によって自動的に設定されてもよい。後者の場合には、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡11100に搭載されていることになる。
カメラヘッド制御部11405は、通信部11404を介して受信したCCU11201からの制御信号に基づいて、カメラヘッド11102の駆動を制御する。
通信部11411は、カメラヘッド11102との間で各種の情報を送受信するための通信装置によって構成される。通信部11411は、カメラヘッド11102から、伝送ケーブル11400を介して送信される画像信号を受信する。
また、通信部11411は、カメラヘッド11102に対して、カメラヘッド11102の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
画像処理部11412は、カメラヘッド11102から送信されたRAWデータである画像信号に対して各種の画像処理を施す。
制御部11413は、内視鏡11100による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部11413は、カメラヘッド11102の駆動を制御するための制御信号を生成する。
また、制御部11413は、画像処理部11412によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置11202に表示させる。この際、制御部11413は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部11413は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具11112の使用時のミスト等を認識することができる。制御部11413は、表示装置11202に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者11131に提示されることにより、術者11131の負担を軽減することや、術者11131が確実に手術を進めることが可能になる。
カメラヘッド11102及びCCU11201を接続する伝送ケーブル11400は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル11400を用いて有線で通信が行われていたが、カメラヘッド11102とCCU11201との間の通信は無線で行われてもよい。
以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、内視鏡11100や、カメラヘッド11102(の撮像部11402)等に適用され得る。具体的には、本開示の固体撮像装置111は、撮像部10402に適用することができる。内視鏡11100や、カメラヘッド11102(の撮像部11402)等に本開示に係る技術を適用することにより、歩留まりを向上させ、製造に係るコストを低減させることが可能となる。
ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。
<7.移動体への応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図27は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図27に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図27の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図28は、撮像部12031の設置位置の例を示す図である。
図28では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図28には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術(本技術)が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部12031等に適用され得る。具体的には、本開示の固体撮像装置111は、撮像部12031に適用することができる。撮像部12031に本開示に係る技術を適用することにより、歩留まりを向上させ、製造に係るコストを低減させることが可能となる。
なお、本技術は、上述した実施形態及び応用例に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
また、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
また、本技術は、以下のような構成も取ることができる。
[1]
ステレオ画像撮像部を備え、
該ステレオ画像撮像部が複数のセンサを含み、
該複数のセンサのそれぞれが複数の繰り返し単位から構成される撮像単位を有し、
該撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
複数の該撮像単位のそれぞれによって得られる少なくとも2つの単位画像を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置。
[2]
前記複数の撮像単位のうち、1つの撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子と、前記複数の撮像単位のうち、該1つの撮像単位以外の他の全ての撮像単位のそれぞれが有する前記少なくとも1種の偏光主軸角度を有する偏光子とは、前記偏光主軸角度において互いに異種であり、
該1つの撮像単位以外の他の全ての撮像単位のそれぞれが、該1つの撮像単位が有する少なくとも1種の偏光主軸角度を有する偏光子を有さない、[1]に記載の撮像装置。
[3]
複数の前記単位画像は、ステレオ対応関係に基づいて再構成される、[1]又は[2]に記載の撮像装置。
[4]
前記複数の撮像単位のそれぞれが、2種以下の前記偏光主軸角度を有する偏光子を有する、[1]から[3]のいずれか1つに記載の撮像装置。
[5]
前記複数の撮像単位のそれぞれが、2種の前記偏光主軸角度を有する偏光子を有して、
前記複数の撮像単位のそれぞれにおいて、該2種の前記偏光主軸角度が直交関係である、[1]から[4]のいずれか1つに記載の撮像装置。
[6]
前記複数の撮像単位のうち1つの撮像単位は、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有し、
前記複数の撮像単位のうち別の1つの撮像単位は、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有する、[1]から[5]のいずれか1つに記載の撮像装置。
[7]
前記複数の撮像単位のそれぞれが、1種の偏光主軸角度を有する偏光子を有し、
前記複数の撮像単位のそれぞれが有する前記偏光子の前記偏光主軸角度の互いの角度の差が、5度以上85度以下である、[1]から[3]のいずれか1つに記載の撮像装置。
[8]
前記複数の撮像単位のそれぞれが、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、該複数の撮像単位のそれぞれにおける、該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との割合が、互いに略同一である、[1]から[7]のいずれか1つに記載の撮像装置。
[9]
前記複数の撮像単位のそれぞれが、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、該複数の撮像単位のそれぞれにおける、該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンが、互いに略同一である、[1]から[8]のいずれか1つに記載の撮像装置。
[10]
ステレオ画像撮像部を備え、
該ステレオ画像撮像部が第1のセンサと第2のセンサとを含み、
該第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、
該第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、
該第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
該第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
該第1の撮像単位によって得られる第1の単位画像と、該第2の撮像単位によって得られる第2の単位画像とを組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置。
[11]
前記第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子と、前記第2の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子とは、前記偏光主軸角度において互いに異種であり、
前記第2の撮像単位が、前記第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子を有さない、[10]に記載の撮像装置。
[12]
前記第1の単位画像と前記第2の単位画像とは、ステレオ対応関係に基づいて再構成される、[10]又は[11]に記載の撮像装置。
[13]
前記第1の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有し、
前記第2の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有する、[10]から[12]のいずれか1つに記載の撮像装置。
[14]
前記第1の撮像単位が、2種の偏光主軸角度を有する偏光子を有して、前記第1の撮像単位において、該2種の偏光主軸角度が直交関係であり、
前記第2の撮像単位が、2種の偏光主軸角度を有する偏光子を有して、前記第2の撮像単位において、該2種の偏光主軸角度が直交関係である、[10]から[13]のいずれか1つに記載の撮像装置。
[15]
前記第1の撮像単位が、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有し、
前記第2の撮像単位が、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有する、[10]から[14]のいずれか1つに記載の撮像装置。
[16]
前記第1の撮像単位が、1種の偏光主軸角度を有する偏光子を有し、
前記第2の撮像単位が、1種の偏光主軸角度を有する偏光子を有し、
前記第1の撮像単位が有する該偏光子の該偏光主軸角度と、前記第2の撮像単位が有する該偏光子の該偏光主軸角度との差が、5度以上85度以下である、[10]から[12]のいずれか1つに記載の撮像装置。
[17]
前記第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第1の撮像単位における該偏光子を繰り返し単位と該偏光子を含まない繰り返し単位との割合と、
前記第2の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との割合とが、略同一である、[10]から[16]のいずれか1つに記載の撮像装置。
[18]
前記第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第1の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンと、
前記第2の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンとが、略同一である、[10]から[17]のいずれか1つに記載の撮像装置。
[19]
[1]から[18]のいずれか1つに記載の撮像装置が搭載された、電子機器。
[1]
ステレオ画像撮像部を備え、
該ステレオ画像撮像部が複数のセンサを含み、
該複数のセンサのそれぞれが複数の繰り返し単位から構成される撮像単位を有し、
該撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
複数の該撮像単位のそれぞれによって得られる少なくとも2つの単位画像を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置。
[2]
前記複数の撮像単位のうち、1つの撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子と、前記複数の撮像単位のうち、該1つの撮像単位以外の他の全ての撮像単位のそれぞれが有する前記少なくとも1種の偏光主軸角度を有する偏光子とは、前記偏光主軸角度において互いに異種であり、
該1つの撮像単位以外の他の全ての撮像単位のそれぞれが、該1つの撮像単位が有する少なくとも1種の偏光主軸角度を有する偏光子を有さない、[1]に記載の撮像装置。
[3]
複数の前記単位画像は、ステレオ対応関係に基づいて再構成される、[1]又は[2]に記載の撮像装置。
[4]
前記複数の撮像単位のそれぞれが、2種以下の前記偏光主軸角度を有する偏光子を有する、[1]から[3]のいずれか1つに記載の撮像装置。
[5]
前記複数の撮像単位のそれぞれが、2種の前記偏光主軸角度を有する偏光子を有して、
前記複数の撮像単位のそれぞれにおいて、該2種の前記偏光主軸角度が直交関係である、[1]から[4]のいずれか1つに記載の撮像装置。
[6]
前記複数の撮像単位のうち1つの撮像単位は、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有し、
前記複数の撮像単位のうち別の1つの撮像単位は、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有する、[1]から[5]のいずれか1つに記載の撮像装置。
[7]
前記複数の撮像単位のそれぞれが、1種の偏光主軸角度を有する偏光子を有し、
前記複数の撮像単位のそれぞれが有する前記偏光子の前記偏光主軸角度の互いの角度の差が、5度以上85度以下である、[1]から[3]のいずれか1つに記載の撮像装置。
[8]
前記複数の撮像単位のそれぞれが、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、該複数の撮像単位のそれぞれにおける、該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との割合が、互いに略同一である、[1]から[7]のいずれか1つに記載の撮像装置。
[9]
前記複数の撮像単位のそれぞれが、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、該複数の撮像単位のそれぞれにおける、該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンが、互いに略同一である、[1]から[8]のいずれか1つに記載の撮像装置。
[10]
ステレオ画像撮像部を備え、
該ステレオ画像撮像部が第1のセンサと第2のセンサとを含み、
該第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、
該第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、
該第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
該第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
該第1の撮像単位によって得られる第1の単位画像と、該第2の撮像単位によって得られる第2の単位画像とを組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置。
[11]
前記第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子と、前記第2の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子とは、前記偏光主軸角度において互いに異種であり、
前記第2の撮像単位が、前記第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子を有さない、[10]に記載の撮像装置。
[12]
前記第1の単位画像と前記第2の単位画像とは、ステレオ対応関係に基づいて再構成される、[10]又は[11]に記載の撮像装置。
[13]
前記第1の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有し、
前記第2の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有する、[10]から[12]のいずれか1つに記載の撮像装置。
[14]
前記第1の撮像単位が、2種の偏光主軸角度を有する偏光子を有して、前記第1の撮像単位において、該2種の偏光主軸角度が直交関係であり、
前記第2の撮像単位が、2種の偏光主軸角度を有する偏光子を有して、前記第2の撮像単位において、該2種の偏光主軸角度が直交関係である、[10]から[13]のいずれか1つに記載の撮像装置。
[15]
前記第1の撮像単位が、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有し、
前記第2の撮像単位が、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有する、[10]から[14]のいずれか1つに記載の撮像装置。
[16]
前記第1の撮像単位が、1種の偏光主軸角度を有する偏光子を有し、
前記第2の撮像単位が、1種の偏光主軸角度を有する偏光子を有し、
前記第1の撮像単位が有する該偏光子の該偏光主軸角度と、前記第2の撮像単位が有する該偏光子の該偏光主軸角度との差が、5度以上85度以下である、[10]から[12]のいずれか1つに記載の撮像装置。
[17]
前記第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第1の撮像単位における該偏光子を繰り返し単位と該偏光子を含まない繰り返し単位との割合と、
前記第2の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との割合とが、略同一である、[10]から[16]のいずれか1つに記載の撮像装置。
[18]
前記第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第1の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンと、
前記第2の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンとが、略同一である、[10]から[17]のいずれか1つに記載の撮像装置。
[19]
[1]から[18]のいずれか1つに記載の撮像装置が搭載された、電子機器。
1、2、3、4、5、6、7、8、9、10A、11、12、13、14、15・・・撮像装置、
1-1、1-2、2-1、2-2、3-1、3-2、4-1、4-2、5-1、5-2、6-1、6-2、7-1、7-2、8-1、8-2、9-1、9-2、10A-1、10A-2、10A-3、11-1、11-2、12-1、12-2、13-1、13-2、14-1、14-2、15-1、15-2、16-1、17-1・・・センサ、
10(10-1、10-2)、20(20-1、20-2)、30(30-1、30-2)、40(40-1、40-2)、50(50-1、50-2)、60(60-1、60-2)、70(70-1、70-2)、80(80-1、80-2)、90(90-1、90-2)、100(100-1、100-2)、110(110-1-1、110-1-2、110-2-1、110-2-2)、120(120-1-1、120-1-2、120-2-1、120-2-2)、130(130-1R、130-1G、130-1B、130-2R、130-2G,130-2B)、140(140-1、140-2)、150(150-1R、150-1G、150-1B、150-2R、150-2G、150-2B)・・・撮像単位(単位画像)、
167(167-1、167-2)、177(177-1、177-2)・・・偏光子
1-1、1-2、2-1、2-2、3-1、3-2、4-1、4-2、5-1、5-2、6-1、6-2、7-1、7-2、8-1、8-2、9-1、9-2、10A-1、10A-2、10A-3、11-1、11-2、12-1、12-2、13-1、13-2、14-1、14-2、15-1、15-2、16-1、17-1・・・センサ、
10(10-1、10-2)、20(20-1、20-2)、30(30-1、30-2)、40(40-1、40-2)、50(50-1、50-2)、60(60-1、60-2)、70(70-1、70-2)、80(80-1、80-2)、90(90-1、90-2)、100(100-1、100-2)、110(110-1-1、110-1-2、110-2-1、110-2-2)、120(120-1-1、120-1-2、120-2-1、120-2-2)、130(130-1R、130-1G、130-1B、130-2R、130-2G,130-2B)、140(140-1、140-2)、150(150-1R、150-1G、150-1B、150-2R、150-2G、150-2B)・・・撮像単位(単位画像)、
167(167-1、167-2)、177(177-1、177-2)・・・偏光子
Claims (20)
- ステレオ画像撮像部を備え、
該ステレオ画像撮像部が複数のセンサを含み、
該複数のセンサのそれぞれが複数の繰り返し単位から構成される撮像単位を有し、
該撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
複数の該撮像単位のそれぞれによって得られる少なくとも2つの単位画像を組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置。 - 前記複数の撮像単位のうち、1つの撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子と、前記複数の撮像単位のうち、該1つの撮像単位以外の他の全ての撮像単位のそれぞれが有する前記少なくとも1種の偏光主軸角度を有する偏光子とは、前記偏光主軸角度において互いに異種であり、
該1つの撮像単位以外の他の全ての撮像単位のそれぞれが、該1つの撮像単位が有する少なくとも1種の偏光主軸角度を有する偏光子を有さない、請求項1に記載の撮像装置。 - 複数の前記単位画像は、ステレオ対応関係に基づいて再構成される、請求項1に記載の撮像装置。
- 前記複数の撮像単位のそれぞれが、2種以下の前記偏光主軸角度を有する偏光子を有する、請求項1に記載の撮像装置。
- 前記複数の撮像単位のそれぞれが、2種の前記偏光主軸角度を有する偏光子を有して、
前記複数の撮像単位のそれぞれにおいて、該2種の前記偏光主軸角度が直交関係である、請求項1に記載の撮像装置。 - 前記複数の撮像単位のうち1つの撮像単位は、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有し、
前記複数の撮像単位のうち別の1つの撮像単位は、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有する、請求項1に記載の撮像装置。 - 前記複数の撮像単位のそれぞれが、1種の偏光主軸角度を有する偏光子を有し、
前記複数の撮像単位のそれぞれが有する前記偏光子の前記偏光主軸角度の互いの角度の差が、5度以上85度以下である、請求項1に記載の撮像装置。 - 前記複数の撮像単位のそれぞれが、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、該複数の撮像単位のそれぞれにおける、該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との割合が、互いに略同一である、請求項1に記載の撮像装置。
- 前記複数の撮像単位のそれぞれが、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、該複数の撮像単位のそれぞれにおける、該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンが、互いに略同一である、請求項1に記載の撮像装置。
- ステレオ画像撮像部を備え、
該ステレオ画像撮像部が第1のセンサと第2のセンサとを含み、
該第1のセンサが複数の繰り返し単位から構成される第1の撮像単位を有し、
該第2のセンサが複数の繰り返し単位から構成される第2の撮像単位を有し、
該第1の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
該第2の撮像単位が少なくとも1種の偏光主軸角度を有する偏光子を有し、
該第1の撮像単位によって得られる第1の単位画像と、該第2の撮像単位によって得られる第2の単位画像とを組み合わせて、少なくとも3方向の偏光情報を取得して、法線情報を生成する、撮像装置。 - 前記第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子と、前記第2の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子とは、前記偏光主軸角度において互いに異種であり、
前記第2の撮像単位が、前記第1の撮像単位が有する前記少なくとも1種の偏光主軸角度を有する偏光子を有さない、請求項10に記載の撮像装置。 - 前記第1の単位画像と前記第2の単位画像とは、ステレオ対応関係に基づいて再構成される、請求項10に記載の撮像装置。
- 前記第1の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有し、
前記第2の撮像単位が、2種以下の偏光主軸角度を有する偏光子を有する、請求項10に記載の撮像装置。 - 前記第1の撮像単位が、2種の偏光主軸角度を有する偏光子を有して、前記第1の撮像単位において、該2種の偏光主軸角度が直交関係であり、
前記第2の撮像単位が、2種の偏光主軸角度を有する偏光子を有して、前記第2の撮像単位において、該2種の偏光主軸角度が直交関係である、請求項10に記載の撮像装置。 - 前記第1の撮像単位が、22.5度の偏光主軸角度を有する偏光子と、112.5度の偏光主軸角度を有する偏光子とを有し、
前記第2の撮像単位が、67.5度の偏光主軸角度を有する偏光子と、157.5度の偏光主軸角度を有する偏光子とを有する、請求項10に記載の撮像装置。 - 前記第1の撮像単位が、1種の偏光主軸角度を有する偏光子を有し、
前記第2の撮像単位が、1種の偏光主軸角度を有する偏光子を有し、
前記第1の撮像単位が有する該偏光子の該偏光主軸角度と、前記第2の撮像単位が有する該偏光子の該偏光主軸角度との差が、5度以上85度以下である、請求項10に記載の撮像装置。 - 前記第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第1の撮像単位における該偏光子を繰り返し単位と該偏光子を含まない繰り返し単位との割合と、
前記第2の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との割合とが、略同一である、請求項10に記載の撮像装置。 - 前記第1の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第2の撮像単位が、偏光子を含む繰り返し単位と偏光子を含まない繰り返し単位とを有し、
前記第1の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンと、
前記第2の撮像単位における該偏光子を含む繰り返し単位と該偏光子を含まない繰り返し単位との配置パターンとが、略同一である、請求項10に記載の撮像装置。 - 請求項1に記載の撮像装置が搭載された、電子機器。
- 請求項10に記載の撮像装置が搭載された、電子機器。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US17/293,733 US11457201B2 (en) | 2018-11-22 | 2019-02-27 | Imaging device and electronic apparatus |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018-219411 | 2018-11-22 | ||
| JP2018219411A JP7325949B2 (ja) | 2018-11-22 | 2018-11-22 | 撮像装置及び電子機器 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2020105201A1 true WO2020105201A1 (ja) | 2020-05-28 |
Family
ID=70774105
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2019/007601 Ceased WO2020105201A1 (ja) | 2018-11-22 | 2019-02-27 | 撮像装置及び電子機器 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US11457201B2 (ja) |
| JP (1) | JP7325949B2 (ja) |
| TW (1) | TWI813646B (ja) |
| WO (1) | WO2020105201A1 (ja) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009162847A (ja) * | 2007-12-28 | 2009-07-23 | Nikon Corp | 撮像装置 |
| WO2013175686A1 (ja) * | 2012-05-22 | 2013-11-28 | パナソニック株式会社 | 撮像処理装置および内視鏡 |
| JP2015114307A (ja) * | 2013-12-16 | 2015-06-22 | ソニー株式会社 | 画像処理装置と画像処理方法および撮像装置 |
| WO2018074064A1 (ja) * | 2016-10-17 | 2018-04-26 | ソニー株式会社 | 画像処理装置と画像処理方法および撮像装置 |
| WO2018142692A1 (ja) * | 2017-01-31 | 2018-08-09 | シャープ株式会社 | 撮像装置、および画像処理装置 |
Family Cites Families (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4435867B2 (ja) | 2008-06-02 | 2010-03-24 | パナソニック株式会社 | 法線情報を生成する画像処理装置、方法、コンピュータプログラム、および、視点変換画像生成装置 |
| JP5899684B2 (ja) * | 2011-07-11 | 2016-04-06 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
| JP5982751B2 (ja) * | 2011-08-04 | 2016-08-31 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
| TWI422866B (zh) * | 2011-10-07 | 2014-01-11 | Univ Minghsin Sci & Tech | 裸眼式且具有三維空間投射影像之矩陣螢幕 |
| CN108780142B (zh) * | 2016-02-29 | 2023-10-31 | 恩耐股份有限公司 | 3d成像系统和方法 |
| US11056518B2 (en) * | 2016-08-18 | 2021-07-06 | Sony Corporation | Imaging apparatus and imaging method |
| JP6422924B2 (ja) * | 2016-09-12 | 2018-11-14 | 株式会社ソニー・インタラクティブエンタテインメント | 撮像装置および被写体情報取得方法 |
| EP3654633A4 (en) * | 2017-07-12 | 2020-05-27 | Sony Corporation | IMAGING DEVICE AND IMAGING METHOD |
-
2018
- 2018-11-22 JP JP2018219411A patent/JP7325949B2/ja active Active
-
2019
- 2019-02-27 US US17/293,733 patent/US11457201B2/en active Active
- 2019-02-27 WO PCT/JP2019/007601 patent/WO2020105201A1/ja not_active Ceased
- 2019-03-18 TW TW108109053A patent/TWI813646B/zh active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009162847A (ja) * | 2007-12-28 | 2009-07-23 | Nikon Corp | 撮像装置 |
| WO2013175686A1 (ja) * | 2012-05-22 | 2013-11-28 | パナソニック株式会社 | 撮像処理装置および内視鏡 |
| JP2015114307A (ja) * | 2013-12-16 | 2015-06-22 | ソニー株式会社 | 画像処理装置と画像処理方法および撮像装置 |
| WO2018074064A1 (ja) * | 2016-10-17 | 2018-04-26 | ソニー株式会社 | 画像処理装置と画像処理方法および撮像装置 |
| WO2018142692A1 (ja) * | 2017-01-31 | 2018-08-09 | シャープ株式会社 | 撮像装置、および画像処理装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2020088565A (ja) | 2020-06-04 |
| TW202020502A (zh) | 2020-06-01 |
| JP7325949B2 (ja) | 2023-08-15 |
| US20220007001A1 (en) | 2022-01-06 |
| TWI813646B (zh) | 2023-09-01 |
| US11457201B2 (en) | 2022-09-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7449317B2 (ja) | 撮像装置 | |
| US11296133B2 (en) | Imaging apparatus and electronic device | |
| JP7229988B2 (ja) | 測距システム、及び、受光モジュール、並びに、バンドパスフィルタの製造方法 | |
| EP3855726B1 (en) | Solid-state imaging system, solid-state imaging device, information processing device, image processing method, information processing method, and program | |
| WO2017163927A1 (ja) | チップサイズパッケージ、製造方法、電子機器、および内視鏡 | |
| EP3445033B1 (en) | Compound-eye camera module and electronic device | |
| WO2018139278A1 (ja) | 撮像素子、製造方法、および電子機器 | |
| US11595551B2 (en) | Camera module, method of manufacturing camera module, imaging apparatus, and electronic apparatus | |
| US20200168650A1 (en) | Image sensor and method for manufacturing image sensor | |
| JP7237595B2 (ja) | 撮像素子、製造方法、および電子機器 | |
| JPWO2018180569A1 (ja) | 固体撮像装置、および電子機器 | |
| WO2018198815A1 (ja) | 撮像装置、電子機器 | |
| US20230246049A1 (en) | Light detection device | |
| JP6869717B2 (ja) | 撮像装置および撮像装置の製造方法、並びに、電子機器 | |
| WO2020079945A1 (ja) | 固体撮像装置及び電子機器 | |
| JP7325949B2 (ja) | 撮像装置及び電子機器 | |
| US20220005859A1 (en) | Solid-state imaging device and electronic apparatus | |
| US20240153978A1 (en) | Semiconductor chip, manufacturing method for semiconductor chip, and electronic device | |
| WO2023074404A1 (ja) | 発光装置及び電子機器 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 19887270 Country of ref document: EP Kind code of ref document: A1 |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 19887270 Country of ref document: EP Kind code of ref document: A1 |