WO2019078339A1 - 電子機器 - Google Patents

電子機器 Download PDF

Info

Publication number
WO2019078339A1
WO2019078339A1 PCT/JP2018/038947 JP2018038947W WO2019078339A1 WO 2019078339 A1 WO2019078339 A1 WO 2019078339A1 JP 2018038947 W JP2018038947 W JP 2018038947W WO 2019078339 A1 WO2019078339 A1 WO 2019078339A1
Authority
WO
WIPO (PCT)
Prior art keywords
pixel
image
imaging
light
unit
Prior art date
Application number
PCT/JP2018/038947
Other languages
English (en)
French (fr)
Inventor
明 徳世
佳孝 宮谷
法明 幸塚
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to KR1020207009788A priority Critical patent/KR20200062220A/ko
Priority to EP18868174.6A priority patent/EP3700182A4/en
Priority to JP2019548814A priority patent/JP7247890B2/ja
Priority to CN201880066131.6A priority patent/CN111201771B/zh
Priority to US16/754,398 priority patent/US11368609B2/en
Publication of WO2019078339A1 publication Critical patent/WO2019078339A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B27/0172—Head mounted characterised by optical features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012—Head tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/62—Control of parameters via user interfaces
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B2027/0178—Eyeglass type
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B25/00—Eyepieces; Magnifying glasses
    • G02B25/001—Eyepieces

Definitions

  • the present disclosure relates to an electronic device, and more particularly to an electronic device having a function of imaging the surroundings of a user.
  • the imaging device which does not use an imaging lens as shown by a nonpatent literature 1 and patent documents 1 and 2 can be miniaturized as there is no imaging lens, and expansion of an application range is expected.
  • the present disclosure has been made in view of such a situation, and enables downsizing of an electronic device having a function of imaging the surroundings of a user.
  • An imaging apparatus is an imaging unit disposed in a position where the surroundings of a user who is wearing or using the electronic device are photographed in an electronic device worn or used by the user, and the imaging lens and The imaging unit includes a plurality of pixel output units that receive incident light from an object incident without passing through any of the pinholes and output one detection signal indicating an output pixel value modulated by the incident angle of the incident light. .
  • the surroundings of the user wearing or using the electronic device are imaged by a plurality of pixel output units, and a detection signal is output.
  • an electronic device having a function of capturing an image of a user's surroundings.
  • FIG. 1 It is a figure for demonstrating the difference in the image quality of a narrow view angle pixel and a wide view angle pixel. It is a figure for demonstrating the difference in the image quality of a narrow view angle pixel and a wide view angle pixel. It is a figure explaining the example which combines the pixel of a several view angle. It is a flowchart explaining the imaging process by the imaging device of FIG. It is a figure explaining the reduction method of processing load. It is a figure explaining the reduction method of processing load. It is a figure explaining the reduction method of processing load. It is a figure explaining the reduction method of processing load. It is a figure explaining the reduction method of processing load. It is a figure explaining the reduction method of processing load. It is a figure explaining the reduction method of processing load. It is a figure explaining the reduction method of processing load. FIG.
  • 21 is a block diagram illustrating a configuration example of an electronic device to which the technology of the present disclosure is applied. It is a figure which shows the example of arrangement
  • the imaging device 51 in which the detection sensitivity of each pixel is made to have incident angle directivity is used.
  • incident angle directivity to the detection sensitivity of each pixel means that the light receiving sensitivity characteristic according to the incident angle of incident light to each pixel is different for each pixel.
  • the light receiving sensitivity characteristics of all the pixels do not have to be completely different, and the light receiving sensitivity characteristics of some pixels may be the same.
  • the object plane 31 of the upper left object in FIG. 1 is composed of the point light source PA to the point light source PC, and the point light source PA to the point light source PC respectively emit a plurality of light rays of light intensity a to light intensity c around It shall be.
  • the imaging device 51 includes pixels (hereinafter, referred to as pixels Pa to Pc) having different incident angle directivity at positions Pa to Pc.
  • rays of the same light intensity emitted from the same point light source are made incident on the respective pixels of the image sensor 51.
  • a light beam of light intensity a emitted from the point light source PA is incident on the pixels Pa to Pc of the imaging device 51, respectively.
  • rays emitted from the same point light source are incident at different incident angles for each pixel.
  • light rays from the point light source PA are incident on the pixels Pa to Pc at different incident angles.
  • the incident angle directivity of the pixels Pa to Pc is different from each other, light rays of the same light intensity emitted from the same point light source are detected with different sensitivities in each pixel. As a result, rays of the same light intensity are detected at different detection signal levels for each pixel. For example, detection signal levels for light rays of light intensity a from the point light source PA have different values in the pixels Pa to Pc.
  • the light receiving sensitivity level of each pixel with respect to the light beam from each point light source is determined by multiplying the light intensity of the light beam by a coefficient indicating the light receiving sensitivity (that is, the incident angle directivity) with respect to the incident angle of the light beam.
  • the detection signal level of the pixel Pa with respect to the light beam from the point light source PA multiplies the light intensity a of the light beam of the point light source PA by a coefficient indicating the incident angle directivity of the pixel Pa with respect to the incident angle of the light beam to the pixel Pa It is determined by
  • the detection signal levels DA, DB, DC of the pixels Pc, Pb, Pa are expressed by the following formulas (1) to (3), respectively.
  • DA ⁇ 1 ⁇ a + ⁇ 1 ⁇ b + ⁇ 1 ⁇ c ...
  • DB ⁇ 2 ⁇ a + ⁇ 2 ⁇ b + ⁇ 2 ⁇ c ...
  • DC ⁇ 3 ⁇ a + ⁇ 3 ⁇ b + ⁇ 3 ⁇ c ...
  • the coefficient ⁇ 1 is a coefficient indicating the incident angle directivity of the pixel Pc with respect to the incident angle of the ray from the point light source PA to the pixel Pc, and is set according to the incident angle. Further, ⁇ 1 ⁇ a indicates the detection signal level of the pixel Pc with respect to the light beam from the point light source PA.
  • the coefficient ⁇ 1 is a coefficient indicating the incident angle directivity of the pixel Pc with respect to the incident angle of a ray from the point light source PB to the pixel Pc, and is set according to the incident angle. Further, ⁇ 1 ⁇ b represents the detection signal level of the pixel Pc with respect to the ray from the point light source PB.
  • the coefficient ⁇ 1 is a coefficient indicating the incident angle directivity of the pixel Pc with respect to the incident angle of the light beam from the point light source PC to the pixel Pc, and is set according to the incident angle. Further, ⁇ 1 ⁇ c indicates the detection signal level of the pixel Pc with respect to the ray from the point light source PC.
  • the detection signal level DA of the pixel Pa includes the light intensities a, b and c of the light rays from the point light sources PA, PB and PC at the pixel Pc, and the incident angle directivity according to the respective incident angles. It is obtained by product-sum with coefficients ⁇ 1, ⁇ 1, and ⁇ 1.
  • the detection signal level DB of the pixel Pb is, as shown in equation (2), the respective light intensities a, b and c of the light rays from the point light sources PA, PB and PC in the pixel Pb It is obtained by the product-sum with the coefficients ⁇ 2, ⁇ 2, and ⁇ 2 indicating the incident angle directivity according to the angle.
  • the detection signal level DC of the pixel Pc is, as shown in the equation (3), the respective light intensities a, b and c of the light rays from the point light sources PA, PB and PC at the pixel Pa and the respective incident angles It is determined by product-sum with the coefficients ⁇ 2, ⁇ 2 and ⁇ 2 indicating the incident angle directivity according to
  • the detection signal levels DA, DB, DC of the pixels Pa, Pb, Pc are light of the light beams emitted from the point light sources PA, PB, PC as shown in the equations (1) to (3).
  • the strengths a, b and c are mixed. Therefore, as shown in the upper right of FIG. 1, the detection signal level in the imaging device 51 is different from the light intensity of each point light source on the object plane 31. Therefore, the image obtained by the imaging device 51 is different from that on which the image of the object plane 31 is formed.
  • a set of coefficients for example, coefficients ⁇ 1, ⁇ 1, ⁇ 1 for each of the equations constituting the simultaneous equations is referred to as a coefficient set.
  • a set of a plurality of coefficient sets corresponding to a plurality of equations included in the simultaneous equations for example, coefficient set ⁇ 1, ⁇ 1, ⁇ 1, coefficient set ⁇ 2, ⁇ 2, ⁇ 2, coefficient set ⁇ 3, ⁇ 3, ⁇ 3) Is called a coefficient set group.
  • Patent Document 1 Non-Patent Document 1
  • Patent Document etc. It is possible to realize an imaging device in which the element 51 is an essential component.
  • the imaging lens, the pinhole, and the optical filter described in the patent document and the like do not become an essential component, the height of the imaging device can be reduced, that is, the thickness in the incident direction of light in the configuration realizing the imaging function. It becomes possible to make it thinner.
  • the essential configuration is only the imaging device 51, it is possible to improve the degree of freedom in design.
  • FIG. 2 is a block diagram showing a configuration example of an imaging device 101 which is a basic imaging device to which the technology of the present disclosure is applied.
  • the imaging device 101 includes an imaging element 121, a restoration unit 122, a control unit 123, an input unit 124, a detection unit 125, an association unit 126, a display unit 127, a storage unit 128, a recording and reproduction unit 129, a recording medium 130, and a communication unit. 131 is provided. Further, signal processing and imaging are performed by the restoration unit 122, the control unit 123, the input unit 124, the detection unit 125, the association unit 126, the display unit 127, the storage unit 128, the recording and reproducing unit 129, the recording medium 130, and the communication unit 131.
  • a signal processing control unit 111 that controls the device 101 is configured. Note that the imaging device 101 does not include an imaging lens (imaging lens free).
  • the imaging device 121, the restoration unit 122, the control unit 123, the input unit 124, the detection unit 125, the association unit 126, the display unit 127, the storage unit 128, the recording and reproduction unit 129, and the communication unit 131 are connected via the bus B1. Are connected to each other, and transmit and receive data via the bus B1.
  • the description of the bus B1 in the case where each unit of the imaging apparatus 101 transmits and receives data via the bus B1 is omitted.
  • the input unit 124 supplies data to the control unit 123 via the bus B1
  • the input unit 124 supplies data to the control unit 123.
  • the image pickup device 121 corresponds to the image pickup device 51 described with reference to FIG. 1 and includes a pixel having incident angle directivity, and an image formed of a detection signal indicating a detection signal level corresponding to the amount of incident light. Are output to the restoration unit 122 or the bus B1.
  • the imaging device 121 may have the same basic structure as that of a general imaging device such as a complementary metal oxide semiconductor (CMOS) image sensor.
  • CMOS complementary metal oxide semiconductor
  • the imaging device 121 has a configuration in which the incident angle directivity is given, as will be described later with reference to FIGS. ing.
  • the image sensor 121 varies (changes) the light reception sensitivity in accordance with the incident angle of incident light for each pixel, and has incident angle directivity with respect to the incident angle of incident light in pixel units.
  • the image output from the imaging element 121 is an image constituted by a detection signal in which the image of the subject is not formed as shown in the upper right of FIG. 1 described above, the subject can be visually recognized. Can not. That is, although the detection image which consists of a detection signal which image sensor 121 outputs is a set of pixel signals, it is an image which can not recognize a subject even if a user looks at a subject (it can not see a subject).
  • an image composed of a detection signal on which the image of the subject is not formed, that is, an image captured by the imaging element 121 is referred to as a detected image.
  • the imaging device 121 may not be configured as a pixel array, and may be configured as, for example, a line sensor.
  • the incident angle directivity does not necessarily have to be all different for each pixel, and the incident angle directivity may include the same pixels.
  • the restoration unit 122 corresponds to the subject distance corresponding to the distance from the imaging device 51 to the subject plane 31 (the subject plane corresponding to the restored image) in FIG. 1, for example, and the coefficients ⁇ 1 to ⁇ 3, ⁇ 1 to ⁇ 3, ⁇ 1 described above.
  • the coefficient set group corresponding to ⁇ 3 is acquired from the storage unit 128.
  • the restoration unit 122 uses the detection signal level of each pixel of the detection image output from the imaging device 121 and the acquired coefficient set group to be represented by the above-described Equations (1) to (3). Make simultaneous equations. Then, the reconstruction unit 122 solves the created simultaneous equations to obtain the pixel values of the respective pixels constituting the image on which the image of the subject shown in the lower right of FIG. 1 is formed.
  • an image from which the user can visually recognize and recognize the subject (and can visually recognize the subject) is restored from the detected image.
  • an image restored from the detected image will be referred to as a restored image.
  • the restored image is not an image that can identify the subject as a normal image, but also in this case the restored image It is called.
  • a restored image which is an image in a state in which an image of a subject is formed, and an image before color separation such as demosaicing processing or synchronization processing is referred to as a RAW image
  • the detected image is distinguished as an image according to the array of color filters but not a RAW image.
  • the number of pixels of the imaging device 121 and the number of pixels of the pixels forming the restored image do not necessarily have to be the same.
  • the restoration unit 122 performs demosaicing processing, ⁇ correction, white balance adjustment, conversion processing to a predetermined compression format, and the like on the restored image as necessary. Then, the restoration unit 122 outputs the restored image to the bus B1.
  • the control unit 123 includes, for example, various processors, and controls each unit of the imaging apparatus 101.
  • the input unit 124 includes an input device (for example, a key, a switch, a button, a dial, a touch panel, a remote controller, and the like) for performing an operation of the imaging apparatus 101, an input of data used for processing, and the like.
  • the input unit 124 outputs an operation signal, input data, and the like to the bus B1.
  • the detection unit 125 includes the imaging device 101 and various sensors used to detect the state of the subject and the like.
  • the detection unit 125 may be an acceleration sensor or a gyro sensor that detects the posture or movement of the imaging device 101, a position detection sensor (for example, a GNSS (Global Navigation Satellite System) receiver) that detects the position of the imaging device 101, an object A distance measuring sensor or the like for detecting a distance is provided.
  • the detection unit 125 outputs a signal indicating the detection result to the bus B1.
  • the associating unit 126 associates the detection image obtained by the imaging device 121 with the metadata corresponding to the detection image.
  • the metadata includes, for example, a coefficient set group for restoring a restored image using a target detection image, an object distance, and the like.
  • the method of associating the detection image with the metadata is not particularly limited as long as the correspondence between the detection image and the metadata can be specified. For example, metadata is added to image data including a detected image, the same ID is added to a detected image and metadata, or the detected image and metadata are recorded on the same recording medium 130. Metadata is associated.
  • the display unit 127 is, for example, a display, and displays various types of information (for example, a restored image and the like). Note that the display unit 127 can also be provided with an audio output unit such as a speaker to output audio.
  • the storage unit 128 includes one or more storage devices such as a read only memory (ROM), a random access memory (RAM), and a flash memory, and stores, for example, programs and data used for processing of the imaging device 101.
  • the storage unit 128 stores coefficient set groups corresponding to the above-described coefficients ⁇ 1 to ⁇ 3, ⁇ 1 to ⁇ 3, and ⁇ 1 to ⁇ 3 in association with various object distances. More specifically, for example, the storage unit 128 stores, for each subject plane 31 at each subject distance, a coefficient set group including a coefficient for each pixel 121a of the image sensor 121 for each point light source set on the subject plane 31. doing.
  • the recording and reproduction unit 129 performs recording of data on the recording medium 130 and reproduction (reading) of data recorded on the recording medium 130.
  • the recording / reproducing unit 129 records the restored image on the recording medium 130 or reads the restored image from the recording medium 130.
  • the recording / reproducing unit 129 records the detection image and the corresponding metadata on the recording medium 130 or reads out from the recording medium 130.
  • the recording medium 130 is made of, for example, any of a hard disk drive (HDD), a solid state drive (SSD), a magnetic disk, an optical disk, a magneto-optical disk, a semiconductor memory, or a combination thereof.
  • HDD hard disk drive
  • SSD solid state drive
  • magnetic disk magnetic disk
  • optical disk magnetic disk
  • magneto-optical disk magnetic disk
  • semiconductor memory or a combination thereof.
  • the communication unit 131 communicates with another device (for example, another imaging device, a signal processing device, and the like) by a predetermined communication method.
  • the communication method of the communication unit 131 may be wired or wireless. Further, the communication unit 131 can also correspond to a plurality of communication methods.
  • FIG. 3 shows a front view of a part of the pixel array portion of the imaging element 121.
  • FIG. 3 shows an example in which the number of pixels in the pixel array portion is 6 vertical pixels ⁇ 6 horizontal pixels, the number of pixels in the pixel array portion is not limited to this.
  • a light shielding film 121b which is one of the modulation elements, is provided for each pixel 121a so as to cover a part of the light receiving area (light receiving surface) of the photodiode. Incident incident light is optically modulated according to the incident angle. Then, for example, by providing the light shielding film 121b in a different range for each pixel 121a, the light receiving sensitivity with respect to the incident angle of incident light differs for each pixel 121a, and each pixel 121a has different incident angle directivity .
  • the light shielding film 121b-1 and the light shielding film 121b-2 provided in the pixel 121a-1 and the pixel 121a-2 have different ranges for shielding the light receiving region of the photodiode (a light shielding region (position), And at least one of the shaded areas). That is, in the pixel 121a-1, the light shielding film 121b-1 is provided so as to shield a part of the left side of the light receiving region of the photodiode by a predetermined width. On the other hand, in the pixel 121a-2, a light shielding film 121b-2 is provided so as to shield a part of the right side of the light receiving region by a predetermined width.
  • the width at which the light shielding film 121b-1 shields the light receiving area of the photodiode may be different from or the same as the width at which the light shielding film 121b-2 shields the light receiving area of the photodiode. .
  • the light shielding films 121b are randomly arranged in the pixel array so as to shield a different range of the light receiving area for each pixel.
  • the amount of light that can be received by the photodiode decreases as the rate at which the light shielding film 121b obscures the light receiving area of each pixel increases. Therefore, it is desirable that the area of the light shielding film 121b be such an area that a desired light quantity can be secured, and for example, a restriction of up to about 3/4 of the light receiving area may be added. By doing this, it is possible to secure a light amount of a desired amount or more. However, it is possible to receive a minimum amount of light if each pixel is provided with an unshielded range having a width corresponding to the wavelength of light to be received. That is, for example, in the case of the B pixel (blue pixel), the wavelength is about 500 nm, but it is possible to receive the minimum light amount unless the light is blocked beyond the width corresponding to this wavelength.
  • the upper part of FIG. 4 is a side cross-sectional view of the first configuration example of the imaging device 121
  • the middle part of FIG. 4 is a top view of the first configuration example of the imaging device 121.
  • the side cross-sectional view of the upper stage of FIG. 4 is an AB cross section in the middle stage of FIG. 4.
  • the lower part of FIG. 4 is a circuit configuration example of the imaging element 121.
  • the adjacent pixels 121a-1 and 121a-2 are so-called back side illumination type in which the wiring layer Z12 is provided in the lowermost layer in the drawing and the photoelectric conversion layer Z11 is provided thereon.
  • the description of the numbers at the end of the reference numerals is omitted and simply referred to as the pixel 121a.
  • the numbers at the end of the reference numerals may be omitted in the same manner for the other configurations.
  • FIG. 4 shows only the side view and the top view of two pixels constituting the pixel array of the image sensor 121, and needless to say, although more pixels 121a are arranged, Is omitted.
  • the pixels 121a-1 and 121a-2 respectively include photodiodes 121e-1 and 121e-2 in the photoelectric conversion layer Z11.
  • on-chip lenses 121c-1 and 121c-2 and color filters 121d-1 and 121d-2 are stacked on the photodiodes 121e-1 and 121e-2, respectively.
  • the on-chip lenses 121c-1 and 121c-2 condense incident light on the photodiodes 121e-1 and 121e-2.
  • the color filters 121d-1 and 121d-2 are optical filters that transmit light of a specific wavelength, such as red, green, blue, infrared, and white. In the case of white, the color filters 121d-1 and 121d-2 may or may not be transparent filters.
  • Light shielding films 121g-1 to 121g-3 are formed at the boundaries between the pixels in the photoelectric conversion layer Z11 of the pixels 121a-1 and 121a-2, and for example, as shown in FIG. L is incident on an adjacent pixel to suppress the occurrence of crosstalk.
  • the light shielding films 121b-1 and 121b-2 shield a part of the light receiving surface S as viewed from the top.
  • different ranges are shielded by the light shielding films 121b-1 and 121b-2, respectively, whereby different incident angles are obtained.
  • the directivity is set independently for each pixel.
  • the light shielding range does not have to be different for all the pixels 121 a of the imaging device 121, and some pixels 121 a may have the same light shielding region.
  • the light shielding film 121b-1 and the light shielding film 121g-1 are connected to each other, and are L-shaped when viewed from the side.
  • the light shielding film 121b-2 and the light shielding film 121g-2 are connected to each other, and are configured in an L shape when viewed from the side.
  • the light shielding film 121b-1, the light shielding film 121b-2, and the light shielding films 121g-1 to 121g-3 are made of metal, and for example, tungsten (W), aluminum (Al), or Al and copper Composed of an alloy with (Cu).
  • the light shielding film 121b-1, the light shielding film 121b-2, and the light shielding films 121g-1 to 121g-3 are simultaneously formed of the same metal as the wiring in the same process as the wiring in the semiconductor process. It may be done.
  • the film thicknesses of the light shielding film 121b-1, the light shielding film 121b-2, and the light shielding films 121g-1 to 121g-3 may not be the same depending on the position.
  • the pixel 121 a includes a photodiode 161 (corresponding to the photodiode 121 e), a transfer transistor 162, an FD (Floating Diffusion: floating diffusion) portion 163, a selection transistor 164, and an amplification transistor 165. And a reset transistor 166, and is connected to the current source 168 via the vertical signal line 167.
  • the anode electrode of the photodiode 161 is grounded, and the cathode electrode is connected to the gate electrode of the amplification transistor 165 via the transfer transistor 162.
  • the transfer transistor 162 is driven according to the transfer signal TG. For example, when the transfer signal TG supplied to the gate electrode of the transfer transistor 162 becomes high level, the transfer transistor 162 is turned on. Thereby, the charge accumulated in the photodiode 161 is transferred to the FD unit 163 via the transfer transistor 162.
  • the amplification transistor 165 is an input portion of a source follower which is a readout circuit for reading out a signal obtained by photoelectric conversion in the photodiode 161, and a pixel signal of a level corresponding to the charge stored in the FD portion 163 is a vertical signal line 167. Output to That is, the amplification transistor 165 has a drain terminal connected to the power supply VDD and a source terminal connected to the vertical signal line 167 via the selection transistor 164, thereby connecting the current source 168 connected to one end of the vertical signal line 167. Configure a source follower.
  • the FD unit 163 is a floating diffusion region having a charge capacity C1 provided between the transfer transistor 162 and the amplification transistor 165, and temporarily accumulates the charge transferred from the photodiode 161 via the transfer transistor 162.
  • the FD unit 163 is a charge detection unit that converts a charge into a voltage, and the charge stored in the FD unit 163 is converted into a voltage by the amplification transistor 165.
  • the selection transistor 164 is driven according to the selection signal SEL, and is turned on when the selection signal SEL supplied to the gate electrode becomes high level, and connects the amplification transistor 165 and the vertical signal line 167.
  • the reset transistor 166 is driven according to the reset signal RST. For example, the reset transistor 166 is turned on when the reset signal RST supplied to the gate electrode becomes high level, discharges the charge stored in the FD unit 163 to the power supply VDD, and resets the FD unit 163.
  • the pixel circuit shown in the lower part of FIG. 4 operates as follows.
  • the reset transistor 166 and the transfer transistor 162 are turned on, the charge stored in the FD unit 163 is discharged to the power supply VDD, and the FD unit 163 is reset.
  • the reset transistor 166 and the transfer transistor 162 are turned off, and during the exposure period, the photodiode 161 accumulates a charge according to the amount of incident light.
  • the reset transistor 166 is turned on and the FD section 163 is reset, and then the reset transistor 166 is turned off.
  • the FD unit 163 is set to the reference potential.
  • the potential of the FD section 163 in a reset state is output from the amplification transistor 165 as a reference potential.
  • the transfer transistor 162 is turned on, and the charge accumulated in the photodiode 161 is transferred to the FD portion 163.
  • the potential of the FD section 163 to which the charge of the photodiode is transferred is output from the amplification transistor 165 as a signal potential.
  • a signal obtained by subtracting the reference potential from the signal potential by CDS is output as a detection signal (pixel signal) of the pixel 121a.
  • the value (output pixel value) of the detection signal is modulated according to the incident angle of incident light from the subject, and the characteristic (directivity) differs depending on the incident angle (having incident angle directivity).
  • FIG. 5 is a diagram showing a second configuration example of the imaging device 121.
  • the upper side of FIG. 5 shows a side cross-sectional view of the pixel 121a of the imaging device 121 which is the second configuration example, and the middle stage of FIG. 5 shows a top view of the imaging device 121.
  • the side cross-sectional view of the upper stage of FIG. Furthermore, the lower part of FIG. 5 is a circuit configuration example of the imaging element 121.
  • the imaging device 121 of FIG. 5 In the imaging device 121 of FIG. 5, four photodiodes 121f-1 to 121f-4 are formed in one pixel 121a, and a light shielding film 121g is formed in a region separating the photodiodes 121f-1 to 121f-4.
  • the configuration is different from that of the imaging device 121 of FIG. That is, in the imaging element 121 of FIG. 5, the light shielding film 121 g is formed in a “+” shape when viewed from the upper surface.
  • symbol same as FIG. 4 is attached
  • the photodiodes 121 f-1 to 121 f-4 are separated by the light shielding film 121 g, so that electrical and optical crosstalk between the photodiodes 121 f-1 to 121 f-4 occurs. It is prevented. That is, the light shielding film 121g of FIG. 5 is for preventing crosstalk similarly to the light shielding film 121g of the imaging device 121 of FIG. 4, and is not for providing incident angle directivity.
  • one FD unit 163 is shared by the four photodiodes 121f-1 to 121f-4.
  • the lower part of FIG. 5 shows an example of a circuit configuration in which one FD portion 163 is shared by four photodiodes 121f-1 to 121f-4. In the lower part of FIG. 5, the description of the same configuration as the lower part of FIG. 4 is omitted.
  • the lower part of FIG. 5 differs from the circuit configuration of the lower part of FIG. 4 in that photodiodes 161-1 to 161- are used instead of the photodiode 161 (corresponding to the photodiode 121e in the upper part of FIG. 4) and the transfer transistor 162. 4 (corresponding to the photodiodes 121f-1 to 121f-4 in the upper part of FIG. 5) and the transfer transistors 162-1 to 162-4 and share the FD section 163.
  • the charge accumulated in the photodiodes 121f-1 to 121f-4 has a predetermined capacitance provided at the connection portion between the photodiodes 121f-1 to 121f-4 and the gate electrode of the amplification transistor 165. It is transferred to the common FD unit 163. Then, a signal corresponding to the level of the charge held in the FD unit 163 is read as a detection signal (pixel signal) (however, the CDS processing is performed as described above).
  • the charges accumulated in the photodiodes 121f-1 to 121f-4 can be selectively contributed to the output of the pixel 121a, that is, the detection signal in various combinations. That is, the photodiodes 121f-1 to 121f-4 are configured to be able to read out the charge independently, and the photodiodes 121f-1 to 121f-4 (the photodiodes 121f-1 to 121f-4 output Different incident angle directivity can be obtained.
  • the incident angle directivity in the left-right direction can be obtained.
  • the incident angle directivity in the vertical direction by transferring the electric charges of the photodiode 121f-1 and the photodiode 121f-3 to the FD portion 163 and adding the signals obtained by reading out each, the incident angle directivity in the left-right direction can be obtained.
  • the incident angle directivity in the vertical direction by transferring the electric charges of the photodiode 121f-1 and the photodiode 121f-2 to the FD portion 163 and adding the signals obtained by reading the respective, it is possible to obtain the incident angle directivity in the vertical direction.
  • a signal obtained based on the charges selectively read out independently from the four photodiodes 121f-1 to 121f-4 is a detection signal corresponding to one pixel constituting the detection image.
  • the contribution of (the charge of) each photodiode 121f to the detection signal is not limited to, for example, whether or not the charge (the detected value) of each photodiode 121f is transferred to the FD unit 163, but also using an electronic shutter function. This can also be realized by resetting the charge accumulated in the photodiode 121 f before transfer to the FD unit 163. For example, if the charge of the photodiode 121f is reset immediately before transfer to the FD portion 163, the photodiode 121f does not contribute to the detection signal at all. On the other hand, by giving time to the charge of the photodiode 121f between the reset and the transfer of the charge to the FD portion 163, the photodiode 121f partially contributes to the detection signal.
  • the combination of the four photodiodes 121 f-1 to 121 f-4 used for the detection signal is changed to have different incident angle directivity for each pixel.
  • the detection signal output from each pixel 121a of the image sensor 121 in FIG. 5 has a value (output pixel value) modulated according to the incident angle of the incident light from the subject, and the characteristic (directivity) according to the incident angle Are different (having incident angle directivity).
  • the pixel output unit includes at least one or more photodiodes, and generally, each pixel 121a of the imaging device 121 corresponds to one pixel output unit.
  • one pixel output unit includes one photodiode 121 e.
  • one pixel 121e constitutes one pixel output unit.
  • the incident angle directivity of each pixel output unit can be made different.
  • incident light to each pixel 121a is optically modulated using the light shielding film 121b, and as a result, the incident angle is directed by the signal output from the photodiode 121e of each pixel 121a.
  • a detection signal for one pixel of the detected image reflecting the polarity is obtained. That is, the image pickup device 121 of FIG. 4 includes a plurality of pixel output units for receiving incident light from an object incident without any of the imaging lens and the pinhole, and each pixel output unit includes one photodiode 121e.
  • the characteristic (incident angle directivity) with respect to the incident angle of incident light from the subject is set for each pixel output unit.
  • one pixel output unit includes four photodiodes 121e. Become. In other words, one pixel output unit is configured by the four photodiodes 121 f. On the other hand, individual pixel output units are not configured by each photodiode 121e alone.
  • the incident angle directivity for each pixel output unit is different. It becomes a thing. That is, in the imaging device 121 of FIG. 5, the range not contributing to the output (detection signal) among the four photodiodes 121f-1 to 121f-4 functions in the same manner as the light-shielded region. Then, by combining the signals output from the photodiodes 121f-1 to 121f-4, a detection signal for one pixel of the detection image reflecting the incident angle directivity is obtained. That is, the imaging device 121 of FIG.
  • each pixel output unit includes a plurality of photodiodes (for example, Characteristics (incident angle directivity) of each pixel output unit with respect to the incident angle of incident light from the subject by providing the photodiodes 121f-1 to 121f-4) and varying (the degree of) the photodiodes contributing to the output Are different from each other.
  • photodiodes for example, Characteristics (incident angle directivity) of each pixel output unit with respect to the incident angle of incident light from the subject by providing the photodiodes 121f-1 to 121f-4) and varying (the degree of) the photodiodes contributing to the output Are different from each other.
  • incident light is incident on all the photodiodes 121f-1 to 121f-4 without being optically modulated, so that the detection signal is a signal obtained by optical modulation. Absent. Further, hereinafter, the photodiode 121 f not contributing to the detection signal is also referred to as a photodiode 121 f not contributing to a pixel output unit or an output.
  • the light receiving surface of the pixel output unit (pixel 121a) is equally divided into four, and photodiodes 121f having the same size as the light receiving surface are arranged in each region, that is, four photodiodes, etc.
  • the division number and division position of the photodiode can be set arbitrarily.
  • the photodiodes do not necessarily have to be equally divided, and the division positions of the photodiodes may be different for each pixel output unit.
  • the incident angle directivity differs between the pixel output units.
  • by setting the number of divisions to be different between pixel output units it is possible to more freely set the incident angle directivity.
  • both the division number and the division position may be made different between pixel output units.
  • each of the image sensor 121 of FIG. 4 and the image sensor 121 of FIG. 5 has a configuration in which each pixel output unit can independently set the incident angle directivity.
  • each pixel output unit of an image sensor does not have the composition which can set up incidence angle directivity independently.
  • the incident angle directivity of each pixel output unit is set by the light shielding film 121 b at the time of manufacture.
  • the image sensor 121 of FIG. 4 the image sensor 121 of FIG.
  • the division number and division position of the photodiode of each pixel output unit are set at the time of manufacture, but the incident angle directivity of each pixel output unit (combination of photodiodes contributing to output) Can be set at the time of use (for example, at the time of imaging).
  • the imaging device 121 of FIG. 4 and the imaging device 121 of FIG. 5 it is not necessary to have a configuration in which all the pixel output units have incident angle directivity.
  • each pixel of the imaging device corresponds to one pixel output unit, but as described later, there may be a case where one pixel output unit is formed by a plurality of pixels. . The following description will be made assuming that each pixel of the imaging device corresponds to one pixel output unit unless otherwise noted.
  • the incident angle directivity of each pixel of the imaging element 121 is generated, for example, according to the principle shown in FIG.
  • the upper left part and the upper right part of FIG. 6 are diagrams for explaining the generation principle of the incident angle directivity in the imaging element 121 of FIG. 4, and the lower left part and the lower right part of FIG. 6 are for the imaging element 121 of FIG. It is a figure explaining the generation
  • Each of the upper left and upper right pixels in FIG. 6 includes one photodiode 121 e.
  • the lower left and lower right pixels in FIG. 6 each include two photodiodes 121 f.
  • an example in which one pixel includes two photodiodes 121 f is shown here, this is for convenience of explanation, and the number of photodiodes 121 f provided in one pixel may be another number. .
  • a light shielding film 121b-11 is formed to shield the right half of the light receiving surface of the photodiode 121e-11. Further, in the pixel at the upper right portion of FIG. 6, a light shielding film 121b-12 is formed so as to shield the left half of the light receiving surface of the photodiode 121e-12. Note that the alternate long and short dash line in the drawing is an auxiliary line which passes through the horizontal center of the light receiving surface of the photodiode 121e and is perpendicular to the light receiving surface.
  • incident light from the upper right direction forming the incident angle ⁇ 1 with respect to the alternate long and short dash line in the drawing is left unshielded by the light shielding film 121b-11 of the photodiode 121e-11. It is easy to receive light by the half range.
  • incident light from the upper left direction forming the incident angle ⁇ 2 with respect to the alternate long and short dash line in the figure is hard to be received by the left half range not blocked by the light shielding film 121b-11 of the photodiode 121e-11. . Therefore, the pixel in the upper left part of FIG. 6 has high incidence sensitivity with respect to incident light from the upper right in the figure and low sensitivity to incident light from the upper left. .
  • incident light from the upper right direction forming the incident angle ⁇ 1 is received by the left half range shielded by the light shielding film 121b-12 of the photodiode 121e-12. Hateful.
  • incident light from the upper left direction forming the incident angle ⁇ 2 is likely to be received by the right half range which is not blocked by the light shielding film 121b-12 of the photodiode 121e-12. Therefore, the pixel in the upper right part of FIG. 6 has low incident sensitivity to incident light from the upper right in the figure and high incident sensitivity to incident light from the upper left. .
  • photodiodes 121f-11 and 121f-12 are provided on the left and right in the drawing, and a light shielding film 121b is provided by reading out one of the detection signals. It is set as the structure which has incident angle directivity.
  • incident angle directivity similar to that of the upper left part in FIG. You can get it. That is, incident light from the upper right direction forming the incident angle ⁇ 1 with respect to the alternate long and short dash line in the figure is incident on the photodiode 121f-11 and a signal corresponding to the amount of light received is read out from the photodiode 121f-11. It contributes to the detection signal output from the pixel.
  • incident light from the upper left direction forming the incident angle ⁇ 2 with respect to the alternate long and short dash line in the figure is incident on the photodiode 121f-12 but is not read out from the photodiode 121f-12. It does not contribute to the output detection signal.
  • incident light from the upper left direction forming the incident angle ⁇ 2 is incident on the photodiode 121f-14, and a signal corresponding to the amount of light received is read out from the photodiode 121f-14, so that it is output from this pixel Contribute to the detection signal.
  • the upper graph in FIG. 7 shows the incident angle directivity of the middle and lower pixels in FIG.
  • the horizontal axis represents the incident angle ⁇
  • the vertical axis represents the detection signal level.
  • the incident angle ⁇ is 0 degrees when the direction of incident light coincides with the alternate long and short dash line in the middle left of FIG. 7, and the middle left incident angle ⁇ 21 in FIG. 7 is a positive direction.
  • the right incident angle ⁇ 22 side is a negative direction. Therefore, with respect to the on-chip lens 121c, the incident angle of the incident light entering from the upper right is larger than the incident angle of the incident light entering from the upper left. That is, the incident angle ⁇ becomes larger as the traveling direction of the incident light leans to the left (larger in the positive direction) and smaller as it leans to the right (larger in the negative direction).
  • the pixels in the middle left part of FIG. 7 are the on-chip lens 121 c-11 for condensing incident light and the color filters 121 d-11 for transmitting light of a predetermined wavelength to the pixels in the upper left part of FIG. Is added. That is, in this pixel, the on-chip lens 121c-11, the color filter 121d-11, the light shielding film 121b-11, and the photodiode 121e-11 are laminated in order from the incident direction of the upper light in the drawing.
  • the pixel at the middle right of FIG. 7, the pixel at the lower left of FIG. 7, and the pixel at the lower right of FIG. 7 are respectively the pixel at the upper right of FIG. 6 and the lower left of FIG.
  • the on-chip lens 121 c-11 and the color filter 121 d-11 or the on-chip lens 121 c-12 and the color filter 121 d-12 are added to the pixel of FIG.
  • the detection signal level (light receiving sensitivity) of the photodiode 121e-11 changes according to the incident angle ⁇ of incident light. That is, the larger the incident angle ⁇ which is the angle formed by the incident light with respect to the alternate long and short dash line in the figure (the larger the incident angle ⁇ in the positive direction (the more inclined in the right direction in the figure)) When the light is collected in the range in which 11 is not provided, the detection signal level of the photodiode 121e-11 is increased.
  • the smaller the incident angle ⁇ of the incident light the larger the incident angle ⁇ in the negative direction (the more inclined in the left direction in the figure)
  • the light is collected in the range in which the light shielding film 121b-11 is provided.
  • the detection signal level of the photodiode 121e-11 decreases.
  • the detection signal level (light receiving sensitivity) of the photodiode 121e-12 changes according to the incident angle ⁇ of incident light.
  • the incident angle ⁇ of the incident light is larger (the incident angle ⁇ is larger in the positive direction)
  • the light is condensed in the range in which the light shielding film 121b-12 is provided, thereby the photodiode 121e-12.
  • the detection signal level increases.
  • the waveforms of the solid line and the dotted line shown in the upper part of FIG. 7 can be changed according to the range of the light shielding film 121 b. Therefore, it is possible to give different incident angle directivity to each other in pixel units by the range of the light shielding film 121b.
  • the incident angle directivity is a characteristic of the light receiving sensitivity of each pixel according to the incident angle ⁇ , but this is a characteristic of the light blocking value according to the incident angle ⁇ in the middle pixel of FIG. It can be said that That is, although the light shielding film 121 b blocks incident light in a specific direction at a high level, incident light from other directions can not be blocked sufficiently.
  • the change of the light shieldable level produces different detection signal levels according to the incident angle ⁇ as shown in the upper part of FIG.
  • the direction in which light can be blocked at the highest level in each pixel is defined as the light blocking direction of each pixel, having different incident angle directivity in pixel units means, in other words, light blocking mutually different in pixel units It means that it has a direction.
  • the middle left pixel in FIG. 7 It is possible to obtain incident angle directivity similar to that of the pixels of a part. That is, when the incident angle ⁇ of the incident light increases (when the incident angle ⁇ increases in the positive direction), the light is collected in the range of the photodiode 121f-11 from which the signal is read, and the detection signal level is large. Become. Conversely, the smaller the incident angle ⁇ of the incident light (the larger the incident angle ⁇ in the negative direction), the more light is collected in the range of the photodiode 121 f-12 from which the signal is not read out, and thus the detection signal level Becomes smaller.
  • the signal of only the photodiode 121 f-14 in the right in FIG. An incident angle directivity similar to that of the pixel in the middle right part of can be obtained. That is, when the incident angle ⁇ of incident light increases (when the incident angle ⁇ increases in the positive direction), light is collected in the range of the photodiode 121 f-13 that does not contribute to the output (detection signal). The level of the unit detection signal decreases.
  • the smaller the incident angle ⁇ of the incident light the larger the incident angle ⁇ in the negative direction
  • the more light is collected in the range of the photodiode 121f-14 that contributes to the output (detection signal)
  • the level of the detection signal in units of pixels is increased.
  • each photodiode has directivity with respect to the incident angle of incident light
  • the on-chip lens 121c is an essential component of each pixel in order to generate incident angle directivity in pixel units.
  • the incident angle directivity it is desirable that the randomness be high in pixel units.
  • the above-described equations (1) to (3) or equations (4) to (6) described later may be the same as each other.
  • the number of equations is insufficient for the unknowns that are solutions of simultaneous equations, which may make it impossible to obtain the pixel values that make up the restored image.
  • the light shielding film 121b that shields the entire light receiving surface of the pixel 121a in the vertical direction and shields the light receiving surface with a predetermined width in the horizontal direction It is called a band type light shielding film 121b.
  • a light shielding film 121b that shields the entire light receiving surface of the pixel 121a in the horizontal direction and shields the light receiving surface at a predetermined height in the vertical direction is referred to as a vertical band type light shielding film 121b.
  • an L-shaped light shielding film 121 b is formed for each pixel of the Bayer arrangement. It may be provided.
  • the black range represents the light shielding film 121b, and the same applies to the following drawings unless otherwise noted.
  • the pixels 121a-21 and 121a-24 of G (green) pixels, the pixels 121a-22 of R (red) pixels, and the pixels 121a-23 of B (blue) pixels, which are in the Bayer array, are provided.
  • L-shaped light shielding films 121b-21 to 121b-24 are provided for each of them.
  • each pixel 121a has incident angle directivity as shown in the right part of FIG. That is, in the right part of FIG. 8, the distribution of the light receiving sensitivity of each pixel 121a is shown, the horizontal axis represents the incident angle ⁇ x in the horizontal direction (x direction) of the incident light, and the vertical axis is the vertical of the incident light
  • the incident angle ⁇ y in the direction (y direction) is represented.
  • the light receiving sensitivity in the range C4 is higher than the outside of the range C4
  • the light receiving sensitivity in the range C3 is higher than the outside of the range C3
  • the light receiving sensitivity in the range C2 is higher than the outside of the range C2.
  • the light reception sensitivity in the range C1 is higher than the outside of the range C1.
  • the detection signal level for the incident light in which the incident angle ⁇ x in the horizontal direction (x direction) and the incident angle ⁇ y in the vertical direction (y direction) fall within the range C1 is the highest. Then, the detection signal level decreases in the order of incident light in which the incident angle ⁇ x and the incident angle ⁇ y fall within the range C2, within the range C3, within the range C4, and outside the range C4.
  • the intensity distribution of the light receiving sensitivity shown in the right part of FIG. 8 is determined by the range shielded by the light shielding film 121b in each pixel 121a regardless of the Bayer arrangement.
  • the light shielding film 121b is generically referred to as an L-shaped light shielding film 121b.
  • the light shielding range in the horizontal direction of the light shielding film 121b is from the left end of the pixel 121a to the position A, and the light shielding range in the vertical direction is from the upper end of the pixel 121a
  • the range is up to B.
  • the weights Wx and Wy change as in the graph of FIG. 9 when ideal conditions are satisfied.
  • the incident angle directivity of each pixel 121a that is, the coefficient corresponding to the light receiving sensitivity characteristic
  • a value obtained by multiplying the weight Wx corresponding to the incident angle ⁇ x of incident light from a certain point light source on the object surface 31 and the weight Wy corresponding to the incident angle ⁇ y is set as the coefficient for the point light source.
  • the inclination (1 / 2 ⁇ ) indicating the change of the weight in the range in which the weight Wx in the horizontal direction and the weight Wy in the vertical direction are around 0.5 is obtained by using the on-chip lens 121c having different focal lengths. It can be set.
  • the focal length of the on-chip lens 121c matches the surface of the light shielding film 121b
  • the focal length of the on-chip lens 121c changes with the curvature of the on-chip lens 121c. Therefore, different incident angle directivity, that is, different light receiving sensitivity characteristics can be obtained by changing the focal length of the on-chip lens 121 c using the on-chip lens 121 c having different curvatures.
  • the incident angle directivity of the pixel 121a can be adjusted by the combination of the range in which the photodiode 121e is shielded by the light shielding film 121b and the curvature of the on-chip lens 121c.
  • the curvature of the on-chip lens may be the same for all the pixels 121 a of the imaging device 121 or may be different for some of the pixels 121 a.
  • each pixel 121a For example, based on the position of each pixel 121a, the shape, position and range of the light shielding film 121b of each pixel 121a, and the curvature of the on-chip lens 121c as an index indicating the incident angle directivity of each pixel 121a of the image sensor 121.
  • the characteristics of the weight Wx and the weight Wy as in the graph of FIG. 9 are set for each pixel 121a.
  • the incident angle of the light beam from the point light source to the pixel 121a is obtained.
  • the coefficient of the pixel 121a with respect to the point light source is determined.
  • the coefficients are obtained as described above to obtain the coefficient sets ⁇ 1 and ⁇ 1 of the equations (1) to (3) described above.
  • the coefficient set group of the image sensor 121 with respect to the object plane 31 can be obtained, such as ⁇ 1, ⁇ 1, coefficient set ⁇ 2, ⁇ 2, ⁇ 2, coefficient set ⁇ 3, ⁇ 3, ⁇ 3.
  • the incident angle of the light beam from each point light source of the subject surface 31 to the imaging device 121 is Because they are different, different coefficient set groups are required for each subject distance.
  • each pixel 121 a needs to be set so as to ensure the independence of the above-described simultaneous equations.
  • the imaging element 121 does not require an optical block or a pinhole formed of an imaging lens, but as described above, the on-chip lens 121 c is provided.
  • the on-chip lens 121c and the imaging lens have different physical actions.
  • the imaging lens 152 is designed to condense diffused light incident at different angles from the point light source P101 at the pixel position P111 and form an image of the point light source P101.
  • the pixel position P111 is specified by the chief ray L101 passing through the point light source P101 and the center of the imaging lens 152.
  • the imaging lens 152 is designed to condense diffused light incident at different angles from the point light source P102 at the pixel position P112 and form an image of the point light source P102.
  • the pixel position P112 is specified by the chief ray L102 passing through the point light source P102 and the center of the imaging lens 152.
  • the imaging lens 152 forms images of point light sources P101 and P102 having different chief rays at different pixel positions P111 and P112 on the imaging element 151.
  • the imaging lens 152 when the point light source P101 is at infinity, a part of the diffused light emitted from the point light source P101 is incident on the imaging lens 152 as parallel light parallel to the chief ray L101.
  • parallel light which is a light ray between the light ray L121 and the light ray L122 parallel to the chief ray L101, enters the imaging lens 152.
  • the parallel light incident on the imaging lens 152 is condensed at the pixel position P111 on the imaging element 151. That is, the imaging lens 152 is designed to condense parallel light from the point light source P101 existing at infinity into the pixel position P111 and form an image of the point light source P101.
  • the imaging lens 152 causes diffused light from a point light source having a chief ray incident angle ⁇ 1 to enter into the pixel (pixel output unit) P1 and has a chief ray incident angle ⁇ 2 different from the chief ray incident angle ⁇ 1. It has a light collecting function of causing diffused light from a light source to be incident on a pixel (pixel output unit) P2 different from the pixel P1. That is, the imaging lens 152 has a light collecting function for causing diffused light from light sources with different incident angles of principal rays to a plurality of pixels (pixel output units) adjacent to each other. However, for example, light from point light sources close to each other or point light sources existing at infinity and substantially close to each other may be incident on the same pixel (pixel output unit).
  • the light passing through the on-chip lens 121c is received by the photodiode 121e or the photodiode 121f constituting the corresponding pixel (pixel output unit). It is incident only on the surface.
  • the on-chip lens 121 c is provided for each pixel (pixel output unit), and condenses incident light incident thereon to only the corresponding pixel (pixel output unit). That is, the on-chip lens 121c does not have a light collecting function for causing light from different point light sources to be incident on different pixels (pixel output units).
  • the incident angle directivity can not be set freely and freely for each pixel.
  • DA ⁇ 1 ⁇ a + ⁇ 1 ⁇ b + ⁇ 1 ⁇ c ...
  • DB ⁇ 2 ⁇ a + ⁇ 2 ⁇ b + ⁇ 2 ⁇ c ...
  • DC ⁇ 3 ⁇ a + ⁇ 3 ⁇ b + ⁇ 3 ⁇ c ...
  • the object surface 31 ′ at which the object distance to the image pickup element 121 is a distance d 2 larger by d than the distance d 1 is a distance d 2 larger by d than the distance d 1
  • the detection signal levels at the pixels Pc, Pb and Pa on the image sensor 121 are the same as the detection signal levels DA, DB and DC as shown in the lower center of FIG. become.
  • the coefficient set group consisting of the coefficient sets ⁇ 11, ⁇ 11, ⁇ 11, the coefficient sets ⁇ 12, ⁇ 12, ⁇ 12, the coefficient sets ⁇ 13, ⁇ 13, ⁇ 13 is the coefficient sets ⁇ 1, ⁇ 1, ⁇ 1 and the coefficient sets ⁇ 2, ⁇ 2 for the object surface 31. , ⁇ 2, and coefficient sets ⁇ 3, ⁇ 3, and ⁇ 3 for the object plane 31 ′.
  • the object plane can be obtained by solving the simultaneous equations of equations (4) to (6) using preset coefficient set groups ⁇ 11, ⁇ 11, ⁇ 11, ⁇ 12, ⁇ 12, ⁇ 13, ⁇ 13, ⁇ 13.
  • the point light source PA ′ of the object surface 31 ′ as shown in the lower right of FIG. 13, in the same manner as in the case of obtaining the light intensities a, b and c of the light from the 31 point light sources PA, PB and PC.
  • the light intensities a ', b' and c 'of the rays from PB' and PC ' can be determined. As a result, it is possible to restore the restored image of the subject surface 31 '.
  • a coefficient set group for each distance (subject distance) from the imaging element 121 to the subject surface is prepared in advance, and the coefficient set group is switched for each subject distance to perform simultaneous equations.
  • the coefficient set group is switched according to the distance to the object surface using the recorded detected image, and the restored image is restored. It is possible to generate a restored image of the object plane.
  • the pixels having incident angle directivity suitable for imaging the subject surface corresponding to the specified subject distance and angle of view without using all the pixels.
  • the detection signal may be used to generate a restored image.
  • a restored image can be generated using detection signals of pixels suitable for imaging the object plane corresponding to the specified object distance and angle of view.
  • FIG. 15 shows an example of the incident angle of incident light from the object plane 31 to the center position C1 of the image sensor 121.
  • FIG. 15 shows an example of the incident angle of incident light in the horizontal direction, the same applies to the vertical direction.
  • the pixels 121a and 121a 'in FIG. 14 are shown.
  • the pixel 121a of FIG. 14 when the pixel 121a of FIG. 14 is disposed at the center position C1 of the imaging element 121, the range of the incident angle of incident light from the object plane 31 to the pixel 121a is an angle as shown in the left part of FIG. It becomes A1. Accordingly, the pixel 121a can receive incident light for the width W1 in the horizontal direction of the object plane 31.
  • the pixel 121a ′ when the pixel 121a 'in FIG. 14 is disposed at the center position C1 of the imaging device 121, the pixel 121a' has a wider range of light shielding than the pixel 121a.
  • the range of the incident angle of the incident light is the angle A2 ( ⁇ A1) as shown in the left part of FIG. Therefore, the pixel 121 a ′ can receive incident light corresponding to the width W 2 ( ⁇ W 1) in the horizontal direction of the object surface 31.
  • the pixel 121 a having a narrow light shielding range is a wide angle of view pixel suitable for imaging a wide range on the object surface 31
  • the pixel 121 a ′ having a wide light shielding range is narrow on the object surface 31. It is a narrow angle-of-view pixel suitable for imaging a range.
  • the wide angle of view pixel and the narrow angle of view pixel are expressions for comparing both of the pixels 121a and 121a 'in FIG. 14 and are not limited to the case of comparing pixels of other angles of view.
  • pixel 121a is used to restore image I1 of FIG.
  • the image I1 is an image of an angle of view SQ1 corresponding to the subject width W1 including the whole of the person H101 as the subject in the upper stage of FIG.
  • the pixel 121a ' is used to restore the image I2 of FIG.
  • the image I2 is an image of an angle of view SQ2 corresponding to the subject width W2 in which the periphery of the face of the person H101 in the upper part of FIG. 16 is zoomed up.
  • the pixel 121a of FIG. 14 is specified in the range ZA surrounded by the dotted line of the imaging device 121, and the pixel 121a ′ is specified in the range ZB surrounded by the dashed dotted line. It is conceivable to collect and arrange each pixel number. Then, for example, when the image of the angle of view SQ1 corresponding to the subject width W1 is restored, the image of the angle of view SQ1 is appropriately restored by using the detection signal of each pixel 121a in the range ZA. it can. On the other hand, when the image of the angle of view SQ2 corresponding to the subject width W2 is restored, the image of the angle of view SQ2 can be appropriately restored by using the detection signal of each pixel 121a 'in the range ZB. .
  • the angle of view SQ2 is narrower than the angle of view SQ1
  • the image of the angle of view SQ2 is restored rather than the image of the angle of view SQ1. It is possible to obtain a higher quality restored image.
  • the right part of FIG. 17 shows a configuration example within the range ZA of the imaging device 121 of FIG.
  • the left part of FIG. 17 shows a configuration example of the pixel 121a in the range ZA.
  • the range shown in black is the light shielding film 121b, and the light shielding range of each pixel 121a is determined, for example, according to the rule shown in the left part of FIG.
  • the main light-shielding portion Z101 in the left part of FIG. 17 is a range in which light is shielded in common in each pixel 121a.
  • the main light shielding portion Z101 has a height in the range of dx1 from the left side and the right side of the pixel 121a and in the range from the upper side and the lower side of the pixel 121a to the inside of the pixel 121a. It is the range of dy1.
  • a rectangular opening Z111 which is not shielded by the light shielding film 121b is provided within the range Z102 inside the main light shielding portion Z101. Therefore, in each pixel 121a, the range other than the opening Z111 is shielded by the light shielding film 121b.
  • the openings Z111 of the pixels 121a are regularly arranged. Specifically, the horizontal position of the opening Z111 in each pixel 121a is the same in the pixels 121a in the same vertical direction. Further, the position in the vertical direction of the opening Z111 in each pixel 121a is the same in the pixels 121a in the same horizontal row.
  • the horizontal position of the opening Z111 in each pixel 121a is shifted at a predetermined interval according to the horizontal position of the pixel 121a. That is, as the position of the pixel 121a advances to the right, the left side of the opening Z111 moves to the position shifted to the right from the left side of the pixel 121a by the widths dx1, dx2,.
  • the distance between the width dx1 and the width dx2, the distance between the width dx2 and the width dx3, ..., the distance between the width dxn-1 and the width dxn is the length obtained by subtracting the width of the opening Z111 from the width of the range Z102 Divided by the number of pixels n-1 in the horizontal direction.
  • the position in the vertical direction of the opening Z111 in each pixel 121a is shifted at a predetermined interval according to the position in the vertical direction of the pixel 121a. That is, as the position of the pixel 121a moves downward, the upper side of the opening Z111 moves downward from the upper side of the pixel 121a by heights dy1, dy2,.
  • the distance between the height dy1 and the height dy2, the distance between the height dy2 and the height dy3, ..., the distance between the height dyn-1 and the height dyn are respectively from the vertical height of the range Z102 to the opening Z111
  • the length obtained by subtracting the height of the image is divided by the number of pixels m-1 in the vertical direction.
  • the right part of FIG. 18 shows a configuration example within the range ZB of the imaging device 121 of FIG.
  • the left part of FIG. 18 shows a configuration example of the pixel 121a 'in the range ZB.
  • the range shown in black is the light shielding film 121b ', and the light shielding range of each pixel 121a' is determined, for example, according to the rule shown in the left part of FIG.
  • the main light shielding portion Z151 at the left part of FIG. 18 is a range in which light is shielded in common in each pixel 121a '. Specifically, the main light shielding portion Z151 goes from the left side and the right side of the pixel 121a 'to the inside of the pixel 121a' and in the range of the width dx1 'and from the upper side and the lower side of the pixel 121a' And the height dy1 '.
  • a rectangular opening Z161 which is not shielded by the light shielding film 121b' is provided in a range Z152 inside the main light shielding portion Z151. Therefore, in each pixel 121a ', the range other than the opening Z161 is shielded by the light shielding film 121b'.
  • the opening Z161 of each pixel 121a ' is regularly arranged similarly to the opening Z111 of each pixel 121a of FIG. Specifically, the horizontal position of the opening Z161 in each pixel 121a 'is the same in the pixels 121a' in the same vertical direction. Further, the vertical position of the opening Z 161 in each pixel 121 a ′ is the same in the pixels 121 a ′ in the same horizontal row.
  • the horizontal position of the opening Z161 in each pixel 121a ' is shifted at a predetermined interval in accordance with the horizontal position of the pixel 121a'. That is, as the position of the pixel 121a 'proceeds to the right, the left side of the opening Z161 moves to the position shifted to the right by the widths dx1', dx2 ', ..., dxn' from the left side of the pixel 121a '. Do.
  • the length obtained by subtracting the width is divided by the number of pixels n-1 in the horizontal direction.
  • the position in the vertical direction of the opening Z161 in each pixel 121a ' is shifted at a predetermined interval according to the position in the vertical direction of the pixel 121a'. That is, as the position of the pixel 121a 'moves downward, the upper side of the opening Z161 is shifted downward by height dy1', dy2 ', ..., dyn' from the upper side of the pixel 121a '.
  • the distance between the height dy1 ′ and the height dy2 ′, the distance between the height dy2 ′ and the height dy3 ′,..., The distance between the height dyn ⁇ 1 ′ and the height dyn ′ are in the vertical direction of the range Z152
  • the length obtained by subtracting the height of the opening Z161 from the height is divided by the number of pixels m-1 in the vertical direction.
  • the length obtained by subtracting the width of the opening Z111 from the width of the range Z102 of the pixel 121a in FIG. 17 is the width of the opening Z161 from the width of the range Z152 of the pixel 121a ′ in FIG. It becomes larger than the width which I pulled. Therefore, the intervals of change in the widths dx1, dx2,..., Dxn in FIG. 17 are larger than the intervals of changes in the widths dx1 ', dx2',.
  • the length obtained by subtracting the height of the opening Z111 from the height in the vertical direction of the range Z102 of the pixel 121a of FIG. 17 is the height of the opening Z161 in the vertical direction of the range Z152 of the pixel 121a ′ of FIG. It is larger than the length minus the height. Accordingly, the change intervals of the heights dy1, dy2... Dyn in FIG. 17 are larger than the change intervals of the heights dy1 ', dy2'.
  • the interval of change of the position in the horizontal direction and the vertical direction of the opening Z111 of the light shielding film 121b of each pixel 121a of FIG. 17 and the horizontal direction of the opening Z161 of the light shielding film 121b ′ of each pixel 121a ′ of FIG. It is different from the interval of change of position in the direction and vertical direction.
  • the difference in this interval is the difference in object resolution (angular resolution) in the restored image. That is, the change in the horizontal and vertical positions of the opening Z161 of the light shielding film 121b 'of each pixel 121a' in FIG. 18 corresponds to the horizontal direction of the opening Z111 of the light shielding film 121b in each pixel 121a of FIG.
  • the restored image restored using the detection signal of each pixel 121a 'in FIG. 18 has a higher subject resolution than the restored image restored using the detection signal of each pixel 121a in FIG. Become.
  • the imaging device 121 including pixels (having various incident angle directivity) of various angles of view is realized. It becomes possible.
  • the pixel 121a and the pixel 121a ′ are divided into the range ZA and the range ZB is described above, this is to simplify the description, and the pixels 121a corresponding to different angles of view are the same. It is desirable to be mixedly arranged in the area.
  • each unit U is a pixel 121a-W with a wide angle of view, a middle angle of view
  • pixels of a pixel 121a-M, a pixel 121a-N with a narrow angle of view, and a pixel 121a-AN with a very narrow angle of view are used.
  • images of intermediate angles of view of four types of angle of view and images of angles of view before and after that may be generated by interpolation from images of four types of angle of view, and images of various angles of view are seamlessly generated By doing this, a pseudo optical zoom may be realized.
  • all wide angle of view pixels may be used, or part of the wide angle of view pixels may be used.
  • all narrow angle of view pixels may be used, or a part of narrow angle of view pixels may be used.
  • Imaging processing by the imaging device 101 in FIG. 2 will be described with reference to the flowchart in FIG.
  • step S1 the imaging element 121 captures an image of a subject.
  • a detection signal indicating a detection signal level corresponding to the light amount of incident light from the subject is output from each pixel 121a of the imaging device 121 having different incident angle directivity, and the imaging device 121 detects each pixel 121a.
  • the detection image composed of a signal is supplied to the restoration unit 122.
  • step S2 the restoration unit 122 obtains a coefficient used for image restoration. Specifically, the restoration unit 122 sets the distance to the object plane 31 to be restored, that is, the object distance. Note that any method can be adopted as a method of setting the subject distance. For example, the restoration unit 122 sets the subject distance input by the user via the input unit 124 or the subject distance detected by the detection unit 125 as the distance to the subject plane 31 to be restored.
  • the restoration unit 122 reads out from the storage unit 128 the coefficient set group associated with the set subject distance.
  • step S3 the restoration unit 122 restores the image using the detected image and the coefficients. Specifically, the restoration unit 122 uses the detection signal level of each pixel of the detection image and the coefficient set group acquired in the process of step S2 to set the above-mentioned equation (1) to equation (3) or The simultaneous equations described with reference to equations (4) to (6) are created. Next, the restoration unit 122 calculates the light intensity of each point light source on the object plane 31 corresponding to the set object distance by solving the created simultaneous equations. Then, the restoration unit 122 arranges the pixels having pixel values according to the calculated light intensity according to the arrangement of the point light sources of the object plane 31 to generate a restored image on which the image of the object is formed.
  • step S4 the imaging apparatus 101 performs various processes on the restored image.
  • the restoration unit 122 performs demosaicing processing, ⁇ correction, white balance adjustment, conversion processing to a predetermined compression format, and the like on the restored image as necessary.
  • the restoration unit 122 supplies, for example, a restored image to the display unit 127 for display, or supplies the restored image to the recording and reproduction unit 129, and records the restored image on the recording medium 130 as needed. , Output to other devices.
  • the example of restoring the restored image from the detected image using the image sensor 121 and the coefficient set group associated with the subject distance has been described, but, for example, as described above in addition to the subject distance
  • the set of coefficients corresponding to the angle of view of the restored image may be further prepared, and the set of coefficients corresponding to the subject distance and the angle of view may be used to restore the restored image.
  • the resolution for the subject distance and the angle of view depends on the number of coefficient set groups prepared.
  • the example using detection signals of all the pixels included in the detected image has been described, but the subject distance specified among the pixels constituting the image sensor 121 And a detection image consisting of detection signals of pixels having incident angle directivity corresponding to the angle of view may be generated and used to restore a restored image.
  • Such processing enables the restored image to be restored with a detected image suitable for the subject distance and angle of view of the restored image to be obtained, and the restoration accuracy and image quality of the restored image are improved. That is, when the image corresponding to the specified subject distance and angle of view is, for example, an image corresponding to the angle of view SQ1 in FIG. 16, the pixel 121a having the incident angle directivity corresponding to the angle of view SQ1 is selected. By restoring the restored image with the detected image obtained from these, it is possible to restore the image of the angle of view SQ1 with high accuracy.
  • the imaging device 101 having the imaging device 121 as an essential component in which each pixel is made to have incident angle directivity.
  • the imaging lens, the pinhole, and the optical filter described in the above-mentioned patent documents and the like become unnecessary, it is possible to increase the degree of freedom in the design of the device, and configured separately from the imaging device 121
  • it becomes unnecessary to use an optical element assumed to be mounted together with the imaging device 121 at the stage of configuring as an imaging device it becomes possible to realize miniaturization of the device with respect to the incident direction of incident light It is possible to reduce the cost.
  • a lens corresponding to an imaging lens for forming an optical image such as a focus lens, is not necessary.
  • a zoom lens for changing the magnification may be provided.
  • a detection image is recorded, for example, without performing a decompression
  • the restored image may be restored using a detected image at a desired timing.
  • restoration of the restored image may be performed by the imaging device 101 or may be performed by another device.
  • a restored image is obtained by solving simultaneous equations created using coefficient set groups according to an arbitrary subject distance and an angle of view, thereby obtaining an restored object for the object plane of an arbitrary subject distance and an angle of view. It is possible to realize refocusing and the like.
  • the imaging apparatus 101 it is possible to restore the restored image of an arbitrary subject distance or angle of view by switching the coefficient set group in this manner, so the focal length (that is, object distance) or angle of view changes variously. This eliminates the need for processing such as repeated imaging while making it happen.
  • the user switches the coefficient set group corresponding to different subject distance and angle of view, and displays the restored image on the display unit 127 while restoring the restored image of the desired subject distance and angle of view. It is also possible to get.
  • Metadata is associated with the detected image. For example, metadata is added to image data including a detected image, the same ID is added to a detected image and metadata, or the detected image and metadata are recorded on the same recording medium 130. Metadata is associated.
  • the detected image and the metadata can be recorded on different recording media, or can be output individually from the imaging apparatus 101.
  • the metadata may or may not include the coefficient set group used for restoration.
  • the subject distance and the angle of view at the time of restoration are included in the metadata, and at the time of restoration, a coefficient set group corresponding to the subject distance and the angle of view is acquired from the storage unit 128 or the like.
  • the restored image is immediately restored at the time of imaging, it is possible to select, for example, an image to be recorded or output to the outside from among the detected image and the restored image.
  • both images may be recorded or output to the outside, or only one of the images may be recorded or output to the outside.
  • the presence or absence of restoration of a restored image and selection of an image to be recorded or output to the outside can be performed for each frame. For example, it is possible to switch the presence or absence of restoration of a restored image for each frame. In addition, for example, it is possible to individually switch the presence / absence of recording of the detected image and the presence / absence of recording of the restored image for each frame. Also, for example, while adding metadata to a detection image of a useful frame that may be used later, the detection images of all the frames may be recorded.
  • an autofocus function as in an imaging apparatus using an imaging lens.
  • the autofocus function can be realized by determining the optimum subject distance by the hill climbing method similar to the contrast AF (Auto Focus) method based on the restored image.
  • the imaging device 121 is an essential component, and for example, the optical filter described in the above-mentioned patent documents and the like are not required. It is possible to realize an imaging device with high environmental resistance without distortion.
  • the imaging lens, the pinhole, and the optical filter described in the above-mentioned patent documents and the like are not required, so the degree of freedom in design of a configuration having an imaging function is improved. It becomes possible.
  • the processing by the restoration unit 122 is performed as the randomness of the difference in the light shielding range increases.
  • the load on the Therefore, the processing load may be reduced by reducing the randomness by setting a part of the change in the light shielding range of the light shielding film 121b of each pixel 121a to be regular.
  • the L-shaped light shielding film 121b is formed by combining the vertical band type and the horizontal band type, and the horizontal band type light shielding film 121b having the same width is combined in a predetermined column direction. In the row direction of, the vertical band type light shielding films 121b of the same height are combined.
  • the light blocking range of the light blocking film 121b of each pixel 121a changes randomly in pixel units while having regularity in the column direction and the row direction.
  • the difference in light blocking range of the light blocking film 121b of each pixel 121a that is, the randomness of the difference in incident angle directivity can be reduced, and the processing load of the restoration unit 122 can be reduced.
  • the horizontal band type light shielding film 121b having the same width X0 is used for all pixels in the same column indicated by the range Z130.
  • a vertical band type light shielding film 121b of the same height Y0 is used for the pixels in the same row indicated by the range Z150.
  • an L-shaped light shielding film 121b in which these are combined is used for the pixels 121a specified in each row and column.
  • the light shielding film 121b of the horizontal band type having the same width X1 is used, and the same row indicated by the range Z151 adjacent to the range Z150.
  • the vertical band type light shielding film 121b of the same height Y1 is used for the pixel of.
  • the light shielding film 121b of the horizontal band type having the same width X2 is used for all pixels in the same row indicated by the range Z152 adjacent to the range Z151.
  • a vertical band type light shielding film 121b of the same height Y2 is used for the pixels 121a specified in each row and column.
  • each element of matrix N of (N ⁇ N) rows ⁇ (N ⁇ N) rows of coefficient sets, and (N ⁇ N) rows ⁇ 1 row vector X representing a restored image It is shown that the result of multiplication of is a vector Y of (N ⁇ N) rows ⁇ 1 column representing a detected image. Then, from this relationship, simultaneous equations corresponding to, for example, the above-described Equation (1) to Equation (3) or Equation (4) to Equation (6) are configured.
  • each element of the first column indicated by the range Z201 of the matrix A corresponds to an element of the first row of the vector X
  • an N ⁇ N column indicated by the range Z202 of the matrix A Indicates that each element of X corresponds to an element of the N ⁇ Nth row of the vector X.
  • the matrix A is a diagonal matrix in which all the down-tilting diagonal components become one.
  • the matrix A does not form a diagonal matrix.
  • the restored image is obtained by solving the simultaneous equations based on the determinant shown in FIG. 22 and finding each element of the vector X.
  • the matrix A can not be accurately determined, the matrix A can not be accurately measured, the basis vector of the matrix A can not be solved in the case near linear dependence, and each element of the detected image It contains noise. And it may not be possible to solve simultaneous equations by any of those reasons or their combination.
  • a t is the transposed matrix of the matrix A
  • I is the identity matrix
  • the matrix A the matrix AL of N rows ⁇ N columns, decomposed into matrix AR T of N rows ⁇ N columns, N rows ⁇ N columns, each representing a restored image
  • the result obtained by multiplying the former stage and the latter stage of the matrix X of X is made to be an N-row ⁇ N-column matrix Y representing a detected image.
  • matrix AL of number of elements is (N ⁇ N)
  • AR T the number of elements of each matrix is 1 / (N ⁇ N).
  • a matrix matrix AL in parentheses of formula (8) is realized by an inverse matrix of the transposed matrix of the matrix A and matrix AR T.
  • the element group Z222 is obtained by multiplying each element group Z221 of the corresponding column of the matrix AL by the element of interest Xp in the matrix X Be Further, by multiplying the elements in the row corresponding to the element of interest Xp the element group Z222 matrix AR T, 2-dimensional response Z224 that corresponds to the element of interest Xp is calculated. Then, the two-dimensional response Z 224 corresponding to all elements of the matrix X is integrated to obtain the matrix Y.
  • the matrix can be made smaller, the capacity of the memory used for calculation can be reduced, and the device cost can be reduced.
  • FIG. 21 shows an example in which the light shielding range (light receiving range) is changed in pixel units while giving predetermined regularity in the horizontal direction and the vertical direction, but in the present disclosure, such an example is shown.
  • the light blocking range (light receiving range) is not completely randomly set in a pixel unit, it is considered that the light blocking range (light receiving range) is also set randomly at some random settings. In other words, in the present disclosure, not only when the light blocking range (light receiving range) is completely set randomly on a pixel basis, but also to a certain degree random (for example, regularity for some of all pixels).
  • the degree of freedom of arrangement of the pixels 121a is high.
  • at least a part of a user wearing or using an electronic device is photographed in various electronic devices by using the degree of freedom of arrangement of each pixel 121a of the imaging device 121.
  • An imaging element 121 is provided at a position, at least a part of the user is imaged, and various application processes are performed using a restored image obtained by the restoration process.
  • At least a part of the user is, for example, any part of the user's body, such as the user's entire body, face, eyes, head, torso, hands, feet and the like.
  • at least a part of the user may be not only outside the user but also inside the user (for example, in the oral cavity, in the viscera, etc.).
  • FIG. 26 is a block diagram illustrating a configuration example of the electronic device 301 according to the first embodiment of the present disclosure.
  • parts corresponding to those of the imaging apparatus 101 in FIG. 2 are assigned the same reference numerals, and the description thereof will be omitted as appropriate.
  • the electronic device 301 includes, for example, a wearable device, a portable information terminal worn or carried by a user such as a smartphone, a tablet, or a portable telephone, a personal computer, a wearable device, a game machine, a video playback device, a music playback device, and the like.
  • a wearable device for example, various methods such as a head-mounted type, a watch type, a bracelet type, a necklace type, and a neck band type mounted on the head of the user can be adopted.
  • the head-mounted wearable devices include, for example, glasses, goggles, head mounts, earphones, headsets, masks, and hats. Note that, for example, depending on the shape of the wearable device, one wearable device may correspond to a plurality of methods (for example, a goggle type and a head mount type).
  • the electronic device 301 includes an imaging unit 311 and a signal processing control unit 312.
  • the imaging unit 311 includes one or more n imaging devices 121-1 to 121-n.
  • Each imaging element 121 supplies a detection signal set including a detection signal output from each pixel 121 a to the restoration unit 321 or outputs it to the bus B2.
  • a detection image is generated by the detection signal set from each imaging element 121. Therefore, when the imaging unit 311 includes only one imaging element 121, a detection image is generated by one detection signal set from the imaging element 121.
  • each imaging element 121 may be installed in the same housing or may be installed in a different housing.
  • the signal processing control unit 312 includes a restoration unit 321, a control unit 322, an input unit 323, a detection unit 324, an association unit 325, an output unit 326, a storage unit 327, a recording and reproduction unit 328, a recording medium 329, and a communication unit 330. Prepare.
  • the restoration unit 321, the control unit 322, the input unit 323, the detection unit 324, the association unit 325, the output unit 326, the storage unit 327, the recording and reproduction unit 328, and the communication unit 330 are mutually connected via the bus B2. And transmit and receive data via the bus B2.
  • the description of the bus B2 in the case where each part of the electronic device 301 transmits and receives data via the bus B2 is omitted.
  • the restoration unit 321 performs restoration processing and the like of a restored image by the same processing as the restoration unit 122 of the imaging apparatus 101 in FIG. 2 using the detection signal set acquired from each of the imaging elements 121.
  • the restoration unit 321 outputs the restored image to the bus B2.
  • the control unit 322 includes, for example, various processors, and performs control of each unit of the electronic device 301, various application processing, and the like.
  • the input unit 323 includes an input device (for example, a key, a switch, a button, a dial, a touch panel, a remote controller, and the like) for performing an operation of the electronic device 301, an input of data used for processing, and the like.
  • the input unit 323 outputs an operation signal, input data, and the like to the bus B2.
  • the associating unit 325 associates the detection signal set of each imaging element 121 with the metadata corresponding to each detection signal set.
  • the output unit 326 includes, for example, an output device that outputs an image such as a display, a speaker, a lamp, a buzzer, and a vibration element, sound, light, vibration, and the like, and outputs various information and data.
  • an output device that outputs an image such as a display, a speaker, a lamp, a buzzer, and a vibration element, sound, light, vibration, and the like, and outputs various information and data.
  • the storage unit 327 includes one or more storage devices such as a ROM, a RAM, and a flash memory, and stores, for example, programs and data used for processing of the electronic device 301.
  • the storage unit 327 stores a coefficient set group corresponding to each imaging device 121.
  • the coefficient set group is prepared, for example, for each assumed subject distance and angle of view.
  • the recording and reproducing unit 328 performs recording of data on the recording medium 329 and reproduction (reading) of data recorded on the recording medium 329.
  • the recording / reproducing unit 328 records the restored image on the recording medium 329 or reads the restored image from the recording medium 329.
  • the recording / reproducing unit 328 records the detection signal set and the corresponding metadata on the recording medium 329 or reads out from the recording medium 329.
  • the recording medium 329 is made of, for example, an HDD, an SSD, a magnetic disk, an optical disk, a magneto-optical disk, a semiconductor memory or the like, or a combination thereof.
  • the communication unit 330 communicates with other devices by a predetermined communication method.
  • the communication method of the communication unit 330 may be wired or wireless. Further, the communication unit 330 can also correspond to a plurality of communication methods.
  • FIG. 27A to 27C show an example in which (the respective pixels 121a of) the imaging element 121 are arranged around the left lens 411L and the right lens 411R which are the eyepieces of the wearable device 401. It is done.
  • the eyepiece portion is a portion close to the eyes of the user who wears or uses the electronic device 301, and includes, for example, an eyepiece lens such as the left lens 411L and the right lens 411R.
  • an eyepiece lens such as the left lens 411L and the right lens 411R.
  • the eyepiece unit is a proximity lens, for example, the user can view an image (for example, an image or an image of an object) through the proximity lens.
  • the imaging element 121-1 is on the back of the frame 412, that is, above the left lens 411L on the surface facing the user's face when the user wears the wearable device 401.
  • the imaging element 121-2 is disposed above the right lens 411R on the back surface of the frame 412.
  • the imaging device 121 is disposed in the vicinity of the bridge on the back surface of the frame 412.
  • the imaging device 121-1 is disposed to surround the periphery of the left lens 411L on the back surface of the frame 412, and the imaging device 121-2 to surround the periphery of the right lens 411R on the back surface of the frame 412. Is arranged.
  • the imaging element 121 can be disposed in the empty space of the frame 412 of the wearable device 401 while suppressing an increase in size and a decrease in design.
  • the imaging element 121 is disposed at a position where the vicinity of both eyes of the user wearing the wearable device 401 is captured, and imaging around both eyes of the user can be performed.
  • each pixel 121a of each imaging element 121 of each of FIGS. 27A to 27C is the eye of the user who is in proximity to the left lens 411L and the right lens 411R when the wearable device 401 is attached. It is desirable that the light receiving sensitivity with respect to the direction be set to be high. As a result, in each pixel 121a, the light reception sensitivity to incident light from the direction of the eye of the user who is the main imaging target becomes high, and it is possible to capture the eye of the user more clearly.
  • FIG. 28A shows a view of the left lens 411L as viewed from the inside (the side facing the user's eyes)
  • FIG. 28B shows a cross-sectional view of the left lens 411L as viewed from the side.
  • the arrows in the figure indicate the tendency of the incident angle directivity of the pixels 121a in the respective regions of the imaging element 121-1. Further, hereinafter, in A of FIG. 28 and B of FIG. 28, the direction from the left lens 421 L to the left eye 421 (the right direction of B of FIG. 28) is taken as the backward direction.
  • the incidence angle directivity of the pixel 121a in the upper area of the imaging element 121-1 is set to the rear and downward direction, and the light reception sensitivity to the direction of the left eye 421L is high.
  • the incident angle directivity of the pixel 121a in the region on the left side of the imaging element 121-1 is set to the diagonally right backward direction, and the light reception sensitivity with respect to the direction of the left eye 421L is high.
  • the incident angle directivity of the pixel 121a in the area on the right side of the image pickup device 121-1 is set to the left diagonal backward direction, and the light reception sensitivity with respect to the direction of the left eye 421L is high.
  • the incident angle directivity of the pixel 121a in the lower area of the imaging element 121-1 is set to the rear upper side, and the light receiving sensitivity with respect to the direction of the left eye 421L is high.
  • the imaging element 121-1 As a result, in the imaging element 121-1, the light reception sensitivity to incident light from the direction of the left eye 421L of the user who is the main imaging target becomes high, and it becomes possible to pick up the left eye 421L more clearly.
  • the incident angle directivity of each pixel 121a is set in the direction of the right eye 421R of the user who is the main imaging target Ru.
  • the light reception sensitivity to the incident light from the right eye 421R of the user becomes high, and it becomes possible to capture the right eye 421R more clearly.
  • the imaging element 121 is disposed as in C in FIG. 27, and the incident angle directivity of each pixel 121a is uneven. It is desirable to use it.
  • the incident angle directivity of each pixel 121a varies, the diversity of coefficient sets with respect to simultaneous equations used for restoration of a restored image is enhanced, and restoration accuracy is improved.
  • the incident angle directivity of all the pixels 121 a does not necessarily have to be set so as to increase the light reception sensitivity with respect to the direction of the user's eyes.
  • the number of pixels 121a having incident angle directivity, in which the light reception sensitivity with respect to the direction of the user's eyes is high may be larger than the number of pixels 121a having other incident angle directivity.
  • a camera 431 is schematically shown as an example of the electronic device 301 in A of FIG. 29 to C of FIG. Although only the periphery of the finder 441 of the camera 431 is illustrated in A of FIG. 29 to C of FIG. 29, for example, a display or a touch panel may be provided on the back of the camera 431 (the same side as the finder 441). And a user operation unit.
  • each of the imaging elements 121 (each pixel 121a of the imaging device 121) is disposed around a finder 441 which is an eyepiece of the camera 431 is shown in A of FIG.
  • the imaging element 121-1 is disposed in the vertically long rectangular area on the left side of the finder 441, and the imaging element 121-2 is disposed in the vertically long rectangular area on the right side of the finder 441. It is arranged.
  • the imaging device 121 is disposed in a horizontally long rectangular area above the finder 441.
  • the imaging element 121 is disposed in the L-shaped area above and to the left of the finder 441.
  • the imaging element 121-1 is disposed in the horizontally long rectangular area above the finder 441, and the imaging element 121-2 is disposed in the horizontally long rectangular area below the finder 441.
  • the imaging device 121 is disposed so as to surround the finder 441.
  • the image pickup device 121 can be disposed in the empty space around the finder 441 of the camera 431 while suppressing the size increase and the design decrease.
  • the image pickup element 121 is disposed at a position where the eye periphery of the user is captured, and performs imaging of the eye periphery of the user be able to.
  • each pixel 121a of each imaging element 121 of each of A to E in FIG. 29 is the direction of the eye of the user approaching the finder 441 when looking through the finder 441 (for example, in front of the finder 441). It is desirable that the light receiving sensitivity to the above be set to be high.
  • a part of a goggle type head mounted display 461 mounted so as to cover the user's eyes is schematically shown in A of FIG.
  • the inner surface of the head mounted display 461 that is, the surface facing the user's face when worn by the user is shown.
  • An example is shown in which 121a) is disposed around the left lens 471L and the right lens 471R which are the eyepieces of the head mounted display 461.
  • the imaging element 121-1 is disposed in the rectangular area on the left side of the left lens 471L, and the imaging element 121-2 is disposed in the rectangular area on the right side of the right lens 471R. ing.
  • the imaging element 121-1 is disposed in the horizontally long rectangular area above the left lens 471L, and the imaging element 121-2 is disposed in the horizontally long rectangular area above the right lens 471R. There is.
  • the imaging element 121-1 is disposed in the horizontally long rectangular area below the left lens 471L, and the imaging element 121-2 is disposed in the rectangular area below the right lens 471R.
  • the imaging element 121 can be disposed in the free space around the left lens 471L and the right lens 471R of the head mounted display 461 while suppressing an increase in size and a decrease in design. Then, for example, it is possible to perform imaging around both eyes of the user wearing the head mounted display 461.
  • each pixel 121a of each imaging element 121 of each of FIGS. 30A to 30C is the same as that of the wearable device 401 of FIG. It is desirable that the light receiving sensitivity with respect to the direction be set to be high.
  • a notebook PC (personal computer) 491 is schematically shown as an example of the electronic device 301 in A of FIG. 31 to C of FIG.
  • a cover provided with the display 501 which is a display unit, and a base provided with a keyboard 503, which is a user operation unit, are rotatably connected by a hinge to open and close the cover. be able to. Then, the display 501 and the keyboard 503 are exposed to the outside in a state in which the lid is opened as illustrated in A to 31C of FIG. 31, and the user can use the PC 491.
  • the display 501 by providing a touch panel on the display 501, the display 501 (strictly speaking, the touch panel) can be used as a user operation unit.
  • FIG. 31A to 31C show an example in which (the respective pixels 121a of) the imaging device 121 are arranged around the display 501.
  • FIG. 31A to 31C show an example in which (the respective pixels 121a of) the imaging device 121 are arranged around the display 501.
  • the imaging device 121 is disposed on the upper side of the bezel 502 around the display 501.
  • the imaging device 121-1 is disposed on the left side of the bezel 502, and the imaging device 121-2 is disposed on the right side of the bezel 502.
  • the imaging element 121 is disposed on four sides of the bezel 502 so as to surround the display 501.
  • the imaging element 121 can be disposed in the empty space of the bezel 502 while suppressing increase in size and reduction in design, and narrowing of the bezel can be realized. Further, the imaging element 121 is disposed at a position facing the user using the keyboard 503 while looking at the display 501 of the PC 491 and at a position where the periphery of the user's face is captured. It can be performed.
  • each pixel 121a of each image sensor 121 of each of FIGS. 31A to 31C corresponds to the direction of the face of the user who is using the keyboard 503 while looking at the display 501 of the PC 491 (for example, display It is desirable that the light receiving sensitivity with respect to the front of 501) be set to be high.
  • step S101 each imaging element 121 of the electronic device 301 performs imaging of the user by the same processing as that of step S1 in FIG.
  • imaging of the area around both eyes of the user wearing the wearable device 401 is performed.
  • Each imaging element 121 supplies the detection signal set including the detection signal of each pixel 121a to the associating unit 325.
  • step S102 the restoration unit 321 obtains a coefficient used for image restoration. Specifically, the restoration unit 321 sets the subject distance by the same process as the process performed by the restoration unit 122 of the imaging apparatus 101 in step S2 of FIG. Then, the restoration unit 321 reads out, from the storage unit 327, the coefficient set group associated with the set subject distance.
  • step S103 the reconstruction unit 321 reconstructs an image using the detection signal set and the coefficients. That is, the restoration unit 321 performs the same processing as the processing performed by the restoration unit 122 of the imaging apparatus 101 in step S3 in FIG. 20, the detection signal set output from each imaging element 121, and the coefficient obtained in the processing in step S102.
  • the set group is used to restore the restored image.
  • step S104 the electronic device 301 performs various processes on the restored image.
  • the restoration unit 321 performs demosaicing processing, ⁇ correction, white balance adjustment, conversion processing to a predetermined compression format, and the like on the restored image as necessary.
  • the restoration unit 321 supplies, for example, a restored image to the output unit 326 for display, or supplies the restored image to the recording and reproduction unit 328, and records the image on the recording medium 329 as needed. , Output to other devices.
  • step S105 the electronic device 301 executes an application process using the restored image (that is, the image of the user).
  • the control unit 322 performs the gaze detection of the user based on the image of the user's eyes in the restored image.
  • arbitrary methods can be used for gaze detection.
  • the control unit 322 generates an operation command corresponding to the movement of the user's line of sight, and transmits the operation command to another electronic device (not shown) via the communication unit 330.
  • the user can operate another electronic device simply by wearing the wearable device 401 and moving his / her eyes.
  • the control unit 322 performs the gaze detection of the user based on the image of the user's eyes in the restored image.
  • arbitrary methods can be used for gaze detection.
  • the control unit 322 controls each unit of the camera 431 to move the position (focus point) of the subject to be focused according to the movement of the user's line of sight, or performs various processes of the camera 431.
  • the user can set the focus point or perform various operations on the camera 431 simply by looking at the finder 441 and moving the line of sight.
  • control unit 322 performs user recognition processing or authentication processing based on the inside of the restored image.
  • the recognition process is, for example, a process of specifying a user or recognizing a feature of the user.
  • the authentication process for example, a user whose user is registered in advance or a legitimate user by, for example, collating a restored image with an image (for example, a face image, an eye image, etc.) registered in advance. It is a process which performs judgment etc. whether it is etc.
  • recognition processing and authentication processing may be partially overlapped without being clearly distinguished.
  • any method can be used for the user recognition process and authentication process. For example, various biometric authentication such as face authentication and iris authentication can be used for recognition processing.
  • control unit 322 causes the display of the output unit 326 to display a user interface screen corresponding to the recognized or authenticated user based on the recognition result or authentication result of the user, or changes the setting of the camera 431.
  • Authorize the use of a specific function eg, playback, etc.
  • the control unit 322 performs the gaze detection of the user based on the image of the user's eyes in the restored image.
  • arbitrary methods can be used for gaze detection.
  • the control unit 322 controls each unit of the head mount display 461 to perform various processes of the head mounted display 461 according to the movement of the user's line of sight.
  • the user can perform various operations on the head mounted display 461 simply by mounting the head mounted display 461 and moving the line of sight.
  • control unit 322 performs user recognition processing or authentication processing based on the image of the user's face in the restored image. Then, for example, the control unit 322 displays a user interface screen corresponding to the recognized or authenticated user on the display of the output unit 326 based on the recognition result or the authentication result of the user, or the setting of the PC 491 (for example, custom setting , Image quality setting, parental control setting, etc., login to a specific account, access to a specific folder or file, and permission to use a specific function.
  • the setting of the PC 491 for example, custom setting , Image quality setting, parental control setting, etc., login to a specific account, access to a specific folder or file, and permission to use a specific function.
  • a coefficient set group corresponding to the angle of view of the restored image may be further prepared, and the restored image may be restored using the coefficient set group corresponding to the subject distance and the angle of view.
  • the imaging element 121 it is possible to dispose the imaging element 121 while suppressing an increase in size and a decrease in design of the electronic device 301, and to image a user who uses the electronic device. Then, the user's image can be restored, and various application processes can be executed based on the restored image.
  • imaging of a user who uses the electronic device 301 is performed, and various application processing is executed using an image of the user obtained by the restoration processing.
  • imaging around the user using the electronic device 301 is performed, and various application processes are executed using images around the user obtained by the restoration process.
  • the electronic device 301 of FIG. 26 is used as in the first embodiment.
  • the imaging device 121 is disposed at a position where the surroundings of the user wearing or using the electronic device 301 are captured.
  • a glasses-type wearable device 601 worn to cover the eyes of the user is schematically shown as an example of the electronic device 301.
  • 33A to 33C show an example in which the imaging element 121 (each pixel 121a of the imaging element 121) is disposed on the surface of the frame 612 exposed to the outside when the wearable device 601 is worn by the user. It is done.
  • the imaging element 121-1 is disposed above the left lens 611L on the surface of the frame 612, and the imaging element 121-2 is disposed above the right lens 611R on the surface of the frame 612. It is arranged.
  • the imaging device 121-1 is disposed on the right side of the left lens 611L on the surface of the frame 612, and the imaging device 121-2 is disposed on the left side of the right lens 611R on the surface of the frame 612.
  • the imaging device 121-1 is disposed to surround the left lens 611L of the surface of the frame 612, and the imaging device 121-2 is disposed to surround the right lens 611R of the surface of the frame 612. Is arranged.
  • the image sensor 121 can be disposed in the empty space of the frame 612 of the wearable device 601 while suppressing the increase in size and the decrease in design. Then, for example, imaging in front of the user wearing the wearable device 601 can be performed.
  • a camera 631 is schematically shown as an example of the electronic device 301 in A of FIG. 34 to C of FIG. Further, an example in which (the respective pixels 121 a of) the imaging element 121 is disposed on the front surface of the casing of the camera 631 is shown.
  • the imaging element 121 is disposed in a vertically long rectangular area on the left side of the mount 641 and near the left end of the camera 631 in the front surface of the main body of the camera 631 There is.
  • the imaging elements 121-1 to 121-4 are respectively disposed in four rectangular areas near the four corners of the mount 641 in the front surface of the main body of the camera 631.
  • the imaging device 121 is disposed on the front surface of the flash built-in portion 642 in which the flash of the camera 631 is built.
  • the imaging device 121 is disposed in a ring-shaped area along the outer periphery of the mount 641 of the camera 631.
  • the imaging element 121 can be disposed in the vacant space on the front surface of the housing of the camera 631 while suppressing the increase in size and the reduction in design. Then, for example, imaging in the imaging direction of the camera 631 can be performed.
  • a goggle type head mounted display 661 mounted so as to cover the user's eyes is schematically shown in A of FIG. 35 to D of FIG. Also, in A to D of FIG. 35, there is an example in which the imaging element 121 (each pixel 121a of the image pickup element 121) is disposed on the front surface of the housing exposed to the outside when the user mounts the head mounted display 661. It is shown.
  • the imaging device 121 is disposed in a horizontally long rectangular area below the front surface of the main body 671.
  • the imaging element 121 is disposed in a horizontally long region at the upper end of the front surface of the main body 671.
  • the imaging element 121 is disposed in the rectangular area on the front surface of the head pad 672.
  • the imaging device 121-1 and the imaging device 121-2 are disposed in the left and right rectangular regions on the front surface of the main body portion 671.
  • the imaging element 121 can be disposed in the empty space on the front surface of the housing of the head mounted display 661 while suppressing an increase in size and a decrease in design. Then, for example, imaging in front of the user wearing the head mounted display 661 can be performed.
  • An overhead type headphone 691 is schematically shown as an example of the electronic device 301 in A to D of FIG. A of FIG. 36 and B of FIG. 36 show perspective views of the headphones 691 as viewed obliquely from the front, and C of FIGS. 37 and D of FIG. 37 show perspective views of the headphones 691 as viewed obliquely from the rear.
  • the imaging device 121-1 is disposed near the front center of the side surface of the left housing 701L, and the imaging device 121-2 is disposed near the front center of the side surface of the right housing 701R.
  • the imaging device 121 is disposed in the area along the front surface of the headset 702.
  • the imaging element 121-1 is disposed near the rear center of the side surface of the left housing 701L, and the imaging element 121-2 is disposed near the rear center of the side surface of the right housing 701R.
  • the imaging device 121 is disposed in the area along the back surface of the headset 702.
  • the image sensor 121 can be disposed in a vacant space on the surface exposed to the outside in a state where the user wears the headphones 691 while suppressing an increase in size and a decrease in design. Then, for example, imaging in front of or behind the user wearing the headphones 691 can be performed.
  • a neck band type headphone 721 is schematically shown as an example of the electronic device 301.
  • the imaging device 121-1 is disposed in front of the side surface of the left housing 731L.
  • the imaging device 121-2 is disposed in front of the side surface of the right housing 731R.
  • the imaging element 121 is disposed in the vicinity of the rear of the neck band 732.
  • the image sensor 121 can be disposed in a vacant space on the surface exposed to the outside in a state where the user wears the headphones 721 while suppressing an increase in size and a decrease in design. Then, for example, imaging in front of or behind the user wearing the headphones 721 can be performed.
  • each imaging element 121 is configured to image other directions (for example, side, upper, lower, etc.) around the user. You may install it.
  • each imaging element 121 of the electronic device 301 performs imaging of the surroundings of the user by the same processing as step S1 in FIG.
  • imaging in front of the user wearing the wearable device 601 is performed.
  • imaging in front of or behind the user wearing the headphone 721 is performed.
  • Each imaging element 121 supplies the detection signal set including the detection signal of each pixel 121a to the associating unit 325.
  • step S202 the restoration unit 321 obtains a coefficient used for image restoration. Specifically, the restoration unit 321 sets the subject distance by the same process as the process performed by the restoration unit 122 of the imaging apparatus 101 in step S2 of FIG. Then, the restoration unit 321 reads out, from the storage unit 327, the coefficient set group associated with the set subject distance.
  • the image sensor 121 When the image sensor 121 is disposed at a deformable portion, such as the headset 702 of the headphone 691 of FIGS. 36 and 37 and the neck band 732 of the headphone 721 of FIG. The relative position between 121a changes.
  • the coefficient set group of simultaneous equations used for restoring the restored image described above is set on the premise that the relative position of each pixel 121a does not change.
  • a coefficient set group corresponding to the degree of deformation is prepared in advance, and the degree of deformation is detected, and the coefficient corresponding to the detected degree of deformation A set group may be used.
  • the deformable portion is a portion that can change its shape when, for example, the electronic device 301 is used or mounted.
  • the type of deformation is not particularly limited, and includes, for example, elongation, contraction, bending, deviation, twisting, separation, and the like.
  • the deformable portion includes, for example, a portion which is deformed by an externally applied force, and a portion which changes its shape by an actuator or the like.
  • a bending sensor may be provided in the headset 702 of the headphone 691 of FIGS. 36 and 37, and a coefficient set group corresponding to the bending condition of the headset detected by the bending sensor may be used.
  • coefficient set groups corresponding to the degree of bending of the three patterns of the bending sensor 751 of FIG. 40A to FIG. 40C are prepared in advance. Then, restoration of a restored image is performed using a coefficient set group corresponding to the bending condition closest to the detection result of the bending sensor 751 when the user wears the headphone 691.
  • step S203 as in the process of step S103 of FIG. 32, the image is restored using the detection signal set and the coefficients.
  • step S204 various processes are performed on the restored image, as in the process of step S104 in FIG.
  • step S205 the electronic device 301 executes application processing using a restored image (that is, an image around the user).
  • the control unit 322 performs recognition processing of the surroundings of the user based on the restored image.
  • arbitrary methods can be used for the recognition process of a user's circumference.
  • the control unit 322 controls the output unit 326 so that the user visually recognizes an image or information corresponding to the environment around the user obtained by the recognition processing through the left lens 611L and the right lens 611R. Superimpose in the field of view to realize AR (Augmented Reality).
  • control unit 322 controls the recording and reproducing unit 328 to record the restored image on the recording medium 329 as the user's life log.
  • the control unit 322 performs tracking processing of the subject, recognition of a scene, and the like by performing recognition processing of the surroundings of the user based on the restored image.
  • arbitrary methods can be used for the recognition process of a user's circumference. Thereby, for example, it is possible to follow the subject even during the shutter operation of an imaging device (not shown) which takes an image through the lens 643 of the camera 631. In addition, for example, a wider range than the lens 643 can be sensed to follow an object or recognize a scene.
  • control unit 322 controls the output unit 326 to superimpose part or all of the restored image in the image viewed by the user.
  • the control unit 322 performs recognition processing of the user's surroundings based on the restored image.
  • arbitrary methods can be used for the recognition process of a user's circumference.
  • the control unit 322 controls the output unit 326 and the like to perform user assistance and the like. For example, when a danger such as the approach of a vehicle is detected, the danger is notified by vibration, voice, etc., assistance is given by voice to people with impaired eyes, the name of the person who recognized is voiced Be notified.
  • control unit 322 controls the recording and reproducing unit 328 to record the restored image on the recording medium 329 as the user's life log.
  • a coefficient set group corresponding to the angle of view of the restored image may be further prepared, and the restored image may be restored using the coefficient set group corresponding to the subject distance and the angle of view.
  • the imaging element 121 it is possible to dispose the imaging element 121 while suppressing the increase in the size and the design of the electronic device 301, and to capture the surroundings of the user who uses the electronic device. Then, the image around the user can be restored, and various application processes can be executed based on the restored image.
  • a detection signal set may be recorded instead of the restored image, and the image may be restored as needed.
  • the detection signal set acquired by each imaging element 121 is associated with the metadata corresponding to each detection signal set.
  • the metadata may or may not include, for example, a coefficient set group at the time of restoration.
  • the metadata includes, for example, a subject distance used at the time of restoration, an angle of view, deformation information of a portion where the imaging device 121 is disposed, and the like.
  • the method of associating the detection signal set with the metadata is not particularly limited as long as the correspondence between the detection signal set and the metadata can be specified.
  • detection is performed by adding metadata to data including a detection signal set, assigning the same ID to the detection signal set and metadata, or recording the detection signal set and metadata on the same recording medium 329.
  • Signal sets and metadata are associated.
  • metadata may be individually associated with each detection signal set, or metadata may be associated with data in which the detection signal sets are combined into one.
  • FIG. 26 shows an example in which one electronic device 301 executes imaging processing of a user or his surroundings, restoration processing of a restored image, and application processing using a restored image, two or more devices perform these processing. You may share and go.
  • the information processing system 801 in FIG. 41 includes an electronic device 811 and a signal processing device 812. Then, the electronic device 811 and the signal processing device 812 may share the imaging process, the restoration process, and the application process.
  • the electronic device 811 may perform imaging processing, and the signal processing device 812 may perform restoration processing and application processing.
  • the electronic device 811 may perform imaging processing and application processing, and the signal processing device 812 may perform restoration processing.
  • the electronic device 811 and the signal processing device 812 may jointly perform some of the imaging process, the restoration process, and the application process.
  • the present disclosure can be applied to an electronic device having a function of imaging the user or the surroundings of the user other than those described above.
  • the imaging element 121 is disposed around the eyepiece unit and the display unit.
  • the imaging element 121 is disposed on the surface exposed to the outside in a state of being worn by the user. Note that the arrangement of the imaging element 121 is not limited to the above-described example, and can be appropriately changed according to the main imaging target and the like.
  • the imaging element 121 may be disposed in the eyepiece unit or the display unit, not around the eyepiece unit or the display unit of the electronic device.
  • the imaging device 121 may be provided on the surface of the left lens 411L and the right lens 411R in FIG. 27, the surface of the finder 441 in FIG. 29, the surface of the left lens 471L and the right lens 471R in FIG. It is possible to arrange.
  • each pixel 121a As the shape of the light shielding film 121b of each pixel 121a, it is possible to adopt a shape other than the above-described horizontal band type, vertical band type, L-shaped type, and a type provided with a rectangular opening.
  • one pixel output unit may include nine photodiodes 121 f.
  • the photodiodes 121f-11, 121f-114, 121f-117 to 121f-119 are substantially made.
  • An incident angle characteristic similar to that of the pixel 121a provided with the L-shaped light shielding film 121b in which the light shielding film 121b is set in the range of -117 to 121f -119 can be obtained.
  • the incident angle directivity can be changed as in the case where the position and the range shielded by the light shielding film 121 b are changed.
  • one pixel output unit is configured by one pixel 121a.
  • one pixel output unit may be configured by a plurality of pixels 121a.
  • each of the pixels 121 a-111 to 121 a-119 includes, for example, one photodiode and does not include an on-chip lens.
  • the incident angle directivity of the pixel output unit 851 b can be realized.
  • the pixel signals of the pixels 121a-112, 121a-113, 121a-115, and 121a-116 are added to generate a detection signal, and the pixels 121a-111, 121a-114, and It is possible to obtain the same incident angle directivity as in the case where the L-shaped light shielding film 121b is provided in the range of the pixels 121a-117 to the pixels 121a-119.
  • the incident angle directivity can be set to different values as in the case where the position and the range shielded by the light shielding film 121b are changed.
  • the range of the pixel output unit can be changed by changing the combination of the pixels 121a.
  • a pixel output unit 851 s can be configured of pixels 121 a-111, pixels 121 a-112, pixels 121 a-114, and pixels 121 a of 2 rows ⁇ 2 columns including the pixels 121 a-115.
  • the range of the pixel output unit later by recording the pixel signals of all the pixels 121a and setting the combination of the pixels 121a later. Furthermore, it is possible to set the incident angle directivity of a pixel output unit later by selecting the pixel 121a which adds a pixel signal to a detection signal among the pixels 121a in the set pixel output unit.
  • FIG. 4 illustrates an example in which different incident angle directivity is given to each pixel by using the light shielding film 121b as the modulation element or changing the combination of photodiodes contributing to the output. Then, for example, as shown in FIG. 44, it is also possible to use an optical filter 902 covering the light receiving surface of the imaging element 901 as a modulation element so that each pixel has incident angle directivity.
  • the optical filter 902 is disposed to cover the entire surface of the light receiving surface 901A at a predetermined interval from the light receiving surface 901A of the imaging element 901.
  • the light from the subject surface 31 is modulated by the optical filter 902, and then enters the light receiving surface 901 ⁇ / b> A of the image sensor 901.
  • optical filter 902BW having a black and white lattice pattern shown in FIG.
  • a white pattern portion that transmits light and a black pattern portion that blocks light are randomly disposed.
  • the size of each pattern is set independently of the size of the pixel of the image sensor 901.
  • FIG. 46 shows the light receiving sensitivity characteristics of the image sensor 901 with respect to light from the point light source PA and the point light source PB on the object plane 31 when the optical filter 902BW is used.
  • the light from the point light source PA and the light from the point light source PB are respectively modulated by the optical filter 902BW, and then enter the light receiving surface 901A of the imaging element 901.
  • the light reception sensitivity characteristic of the image pickup device 901 with respect to the light from the point light source PA becomes like a waveform Sa. That is, since a shadow is generated by the black pattern portion of the optical filter 902BW, a light and dark pattern is generated in the image on the light receiving surface 901A for the light from the point light source PA.
  • the light receiving sensitivity characteristic of the image sensor 901 with respect to the light from the point light source PB becomes like a waveform Sb. That is, since a shadow is generated by the black pattern portion of the optical filter 902BW, a light and dark pattern is generated in the image on the light receiving surface 901A for the light from the point light source PB.
  • each pixel of the image sensor 901 has incident angle directivity with respect to each point light source of the object plane 31.
  • the optical filter 902HW of FIG. 47 may be used instead of the optical filter 902BW.
  • the optical filter 902HW includes a linear polarization element 911A and a linear polarization element 911B having the same polarization direction, and a half wave plate 912.
  • the half wave plate 912 is between the linear polarization element 911A and the linear polarization element 911B. It is pinched.
  • a polarized portion shown by oblique lines is provided, and the white pattern portion and the polarized portion are randomly arranged.
  • the linear polarization element 911A transmits only light of a predetermined polarization direction out of substantially non-polarized light emitted from the point light source PA.
  • the linear polarization element 911A transmits only light whose polarization direction is parallel to the drawing.
  • the polarized light transmitted through the linear polarizing element 911A the polarized light transmitted through the polarizing portion of the half-wave plate 912 is changed in polarization direction in a direction perpendicular to the drawing as the plane of polarization is rotated.
  • the linear polarization element 911A transmits the polarized light transmitted through the white pattern portion, and hardly transmits the polarized light transmitted through the polarized portion. Therefore, the quantity of polarized light transmitted through the polarizing section is smaller than that of polarized light transmitted through the white pattern section. As a result, a pattern of shading similar to that in the case of using the optical filter BW is generated on the light receiving surface 901A of the imaging element 901.
  • optical filter 902LF it is possible to use an optical interference mask as the optical filter 902LF.
  • the light emitted from the point light sources PA and PB of the object plane 31 is irradiated onto the light receiving surface 901A of the imaging element 901 through the optical filter 902LF.
  • corrugation of a wavelength grade is provided in the light-incidence surface of optical filter 902LF, for example.
  • the optical filter 902LF maximizes transmission of light of a specific wavelength emitted from the vertical direction.
  • the optical path length changes.
  • the light weakens when the optical path length is an odd multiple of a half wavelength, and the light strengthens when an even multiple of a half wavelength. That is, the intensity of the transmitted light of the specific wavelength emitted from the point light sources PA and PB and transmitted through the optical filter 902LF is modulated according to the incident angle with respect to the optical filter 902LF as shown in B of FIG.
  • the light is incident on the light receiving surface 901A. Therefore, the detection signal output from each pixel output unit of the imaging element 901 is a signal obtained by combining the light intensity after modulation of each point light source for each pixel output unit.
  • the present disclosure can also be applied to an imaging device and an imaging element that perform imaging of light of wavelengths other than visible light such as infrared light.
  • the restored image is not an image that allows the user to visually recognize the subject, but is an image in which the user can not visually recognize the subject.
  • the present technology is effective, for example, when imaging far infrared light.
  • biometric authentication is performed based on an image obtained by capturing the face and eyes of the user
  • biometric authentication is performed based on an image obtained by capturing another part of the user such as fingerprint authentication. It can be applied to the case where it is performed.
  • the present disclosure can be applied to the case of detecting a movement or a state of the user's eyes other than the line of sight of the user.
  • the present disclosure can be applied to the case where blink detection, sleep detection, or the like is performed based on an image obtained by capturing an eye or a face of a user.
  • the present disclosure can also be applied to, for example, detection of attachment of an electronic device 301 such as a wearable device.
  • the technology according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure is applicable to an imaging unit such as a medical device, for example, an endoscopic surgery system, a capsule endoscope, and the like.
  • FIG. 49 is a diagram showing an example of a schematic configuration of an endoscopic surgery system 5000 to which the technology according to the present disclosure can be applied.
  • an operator (doctor) 5067 is illustrated operating a patient 5071 on a patient bed 5069 using the endoscopic surgery system 5000.
  • the endoscopic surgery system 5000 includes an endoscope 5001, other surgical instruments 5017, a support arm device 5027 for supporting the endoscope 5001, and various devices for endoscopic surgery. And a cart 5037 on which the
  • trockers 5025a to 5025d are punctured in the abdominal wall. Then, the barrel 5003 of the endoscope 5001 and other surgical tools 5017 are inserted into the body cavity of the patient 5071 from the trocars 5025 a to 5025 d.
  • an insufflation tube 5019, an energy treatment instrument 5021 and a forceps 5023 are inserted into the body cavity of the patient 5071 as the other surgical instruments 5017.
  • the energy treatment tool 5021 is a treatment tool that performs incision and peeling of tissue, sealing of a blood vessel, or the like by high-frequency current or ultrasonic vibration.
  • the illustrated surgical tool 5017 is merely an example, and various surgical tools generally used in endoscopic surgery, such as forceps and retractors, may be used as the surgical tool 5017, for example.
  • An image of a surgical site in a body cavity of a patient 5071 captured by the endoscope 5001 is displayed on the display device 5041.
  • the operator 5067 performs a treatment such as excision of the affected area using the energy treatment tool 5021 and the forceps 5023 while viewing the image of the operative part displayed on the display device 5041 in real time.
  • a treatment such as excision of the affected area using the energy treatment tool 5021 and the forceps 5023
  • the insufflation tube 5019, the energy treatment instrument 5021 and the forceps 5023 are supported by the operator 5067 or an assistant during the operation.
  • the support arm device 5027 includes an arm portion 5031 extending from the base portion 5029.
  • the arm unit 5031 includes joints 5033 a, 5033 b, 5033 c, and links 5035 a, 5035 b, and is driven by control from the arm control device 5045.
  • the endoscope 5001 is supported by the arm unit 5031 and the position and posture thereof are controlled. In this way, stable position fixation of the endoscope 5001 can be realized.
  • the endoscope 5001 includes a lens barrel 5003 whose region of a predetermined length from the tip is inserted into a body cavity of a patient 5071 and a camera head 5005 connected to the proximal end of the lens barrel 5003.
  • the endoscope 5001 configured as a so-called rigid endoscope having a rigid barrel 5003 is illustrated, but the endoscope 5001 is configured as a so-called flexible mirror having a flexible barrel 5003 It is also good.
  • the endoscope 5001 may be a straight endoscope, or may be a oblique endoscope or a side endoscope.
  • An optical system and an imaging device are provided inside the camera head 5005, and the reflected light (observation light) from the observation target is condensed on the imaging device by the optical system.
  • the observation light is photoelectrically converted by the imaging element to generate an electric signal corresponding to the observation light, that is, an image signal corresponding to the observation image.
  • the image signal is transmitted as RAW data to a camera control unit (CCU: Camera Control Unit) 5039.
  • the camera head 5005 has a function of adjusting the magnification and the focal length by driving the optical system appropriately.
  • a plurality of imaging devices may be provided in the camera head 5005 in order to cope with, for example, stereoscopic vision (3D display).
  • a plurality of relay optical systems are provided inside the lens barrel 5003 in order to guide observation light to each of the plurality of imaging elements.
  • the CCU 5039 is configured by a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), and the like, and centrally controls the operation of the endoscope 5001 and the display device 5041. Specifically, the CCU 5039 subjects the image signal received from the camera head 5005 to various types of image processing for displaying an image based on the image signal, such as development processing (demosaicing processing). The CCU 5039 provides the display device 5041 with the image signal subjected to the image processing. Also, the CCU 5039 transmits a control signal to the camera head 5005 to control the driving thereof.
  • the control signal may include information on imaging conditions such as magnification and focal length.
  • the display device 5041 displays an image based on the image signal subjected to the image processing by the CCU 5039 under the control of the CCU 5039.
  • the endoscope 5001 corresponds to high resolution imaging such as 4K (horizontal pixel number 3840 ⁇ vertical pixel number 2160) or 8K (horizontal pixel number 7680 ⁇ vertical pixel number 4320), and / or 3D display
  • the display device 5041 corresponds to each of the display devices, those capable of high-resolution display and / or those capable of 3D display may be used.
  • the display device 5041 can have a size of 55 inches or more to obtain a further immersive feeling. Further, a plurality of display devices 5041 different in resolution and size may be provided depending on the application.
  • the light source device 5043 is composed of a light source such as an LED (light emitting diode), for example, and supplies the endoscope 5001 with irradiation light when imaging the surgical site.
  • a light source such as an LED (light emitting diode)
  • the arm control device 5045 is constituted by a processor such as a CPU, for example, and operates in accordance with a predetermined program to control driving of the arm portion 5031 of the support arm device 5027 according to a predetermined control method.
  • the input device 5047 is an input interface to the endoscopic surgery system 5000.
  • the user can input various instructions and input instructions to the endoscopic surgery system 5000 via the input device 5047.
  • the user inputs various information related to surgery, such as physical information of a patient and information on an operation procedure of the surgery, through the input device 5047.
  • the user instructs, via the input device 5047, an instruction to drive the arm unit 5031 or an instruction to change the imaging condition (type of irradiated light, magnification, focal length, etc.) by the endoscope 5001. , An instruction to drive the energy treatment instrument 5021, and the like.
  • the type of the input device 5047 is not limited, and the input device 5047 may be any of various known input devices.
  • a mouse, a keyboard, a touch panel, a switch, a foot switch 5057, and / or a lever may be applied as the input device 5047.
  • the touch panel may be provided on the display surface of the display device 5041.
  • the input device 5047 is a device mounted by the user, for example, a wearable device of glasses type or an HMD (Head Mounted Display), and various types of input according to the user's gesture or line of sight detected by these devices. Is done. Further, the input device 5047 includes a camera capable of detecting the motion of the user, and various inputs are performed in accordance with the user's gesture and the line of sight detected from the image captured by the camera. Furthermore, the input device 5047 includes a microphone capable of collecting the user's voice, and various inputs are performed by voice via the microphone.
  • a wearable device of glasses type or an HMD Head Mounted Display
  • the user for example, the operator 5067
  • the input device 5047 being configured to be able to input various information in a non-contact manner. Is possible.
  • the user can operate the device without releasing his / her hand from the operating tool, the convenience of the user is improved.
  • the treatment tool control device 5049 controls the drive of the energy treatment instrument 5021 for ablation of tissue, incision, sealing of a blood vessel, and the like.
  • the insufflation apparatus 5051 has a gas in the body cavity via the insufflation tube 5019 in order to expand the body cavity of the patient 5071 for the purpose of securing a visual field by the endoscope 5001 and securing a working space of the operator.
  • Send The recorder 5053 is a device capable of recording various types of information regarding surgery.
  • the printer 5055 is a device capable of printing various types of information regarding surgery in various types such as texts, images, and graphs.
  • the support arm device 5027 includes a base portion 5029 which is a base and an arm portion 5031 extending from the base portion 5029.
  • the arm unit 5031 includes a plurality of joints 5033 a, 5033 b and 5033 c and a plurality of links 5035 a and 5035 b connected by the joints 5033 b, but in FIG.
  • the structure of the arm unit 5031 is simplified and illustrated. In practice, the shapes, the number and arrangement of the joints 5033a to 5033c and the links 5035a and 5035b, and the direction of the rotation axis of the joints 5033a to 5033c are appropriately set so that the arm 5031 has a desired degree of freedom. obtain.
  • the arm unit 5031 may be preferably configured to have six or more degrees of freedom.
  • the endoscope 5001 can be freely moved within the movable range of the arm unit 5031. Therefore, the lens barrel 5003 of the endoscope 5001 can be inserted into the body cavity of the patient 5071 from a desired direction. It will be possible.
  • the joints 5033 a to 5033 c are provided with an actuator, and the joints 5033 a to 5033 c are configured to be rotatable around a predetermined rotation axis by driving the actuators.
  • the drive of the actuator is controlled by the arm control device 5045, whereby the rotation angles of the joint portions 5033a to 5033c are controlled, and the drive of the arm portion 5031 is controlled. Thereby, control of the position and posture of the endoscope 5001 can be realized.
  • the arm control device 5045 can control the drive of the arm unit 5031 by various known control methods such as force control or position control.
  • the driving of the arm unit 5031 is appropriately controlled by the arm control device 5045 according to the operation input, and
  • the position and attitude of the endoscope 5001 may be controlled.
  • the endoscope 5001 at the tip of the arm unit 5031 is moved from an arbitrary position to an arbitrary position, the endoscope 5001 can be fixedly supported at the position after the movement.
  • the arm unit 5031 may be operated by a so-called master slave method. In this case, the arm unit 5031 can be remotely controlled by the user via the input device 5047 installed at a location distant from the operating room.
  • the arm control device 5045 receives the external force from the user, and the actuator of each joint 5033 a to 5033 c is moved so that the arm 5031 moves smoothly following the external force. So-called power assist control may be performed. Accordingly, when the user moves the arm unit 5031 while directly touching the arm unit 5031, the arm unit 5031 can be moved with a relatively light force. Therefore, it is possible to move the endoscope 5001 more intuitively and with a simpler operation, and the convenience of the user can be improved.
  • the endoscope 5001 is supported by a doctor called scopist.
  • the support arm device 5027 by using the support arm device 5027, the position of the endoscope 5001 can be more reliably fixed without manual operation, so that an image of the operation site can be stably obtained. , Can be performed smoothly.
  • the arm control device 5045 may not necessarily be provided in the cart 5037. Also, the arm control device 5045 may not necessarily be one device. For example, the arm control device 5045 may be provided at each joint 5033a to 5033c of the arm 5031 of the support arm device 5027, and the arm control devices 5045 cooperate with one another to drive the arm 5031. Control may be realized.
  • the light source device 5043 supplies the endoscope 5001 with irradiation light for imaging the operative part.
  • the light source device 5043 is composed of, for example, a white light source configured of an LED, a laser light source, or a combination thereof.
  • a white light source is configured by a combination of RGB laser light sources
  • the output intensity and output timing of each color (each wavelength) can be controlled with high accuracy. Adjustments can be made.
  • the laser light from each of the RGB laser light sources is irradiated on the observation target in time division, and the drive of the imaging device of the camera head 5005 is controlled in synchronization with the irradiation timing to cope with each of RGB. It is also possible to capture a shot image in time division. According to the method, a color image can be obtained without providing a color filter in the imaging device.
  • the drive of the light source device 5043 may be controlled to change the intensity of the light to be output at predetermined time intervals.
  • the drive of the imaging element of the camera head 5005 is controlled in synchronization with the timing of the change of the light intensity to acquire images in time division, and by combining the images, high dynamic without so-called blackout and whiteout is obtained. An image of the range can be generated.
  • the light source device 5043 may be configured to be able to supply light of a predetermined wavelength band corresponding to special light observation.
  • special light observation for example, the mucous membrane surface layer is irradiated by irradiating narrow band light as compared with irradiation light (that is, white light) at the time of normal observation using the wavelength dependency of light absorption in body tissue.
  • the so-called narrow band imaging is performed to image a predetermined tissue such as a blood vessel with high contrast.
  • fluorescence observation may be performed in which an image is obtained by fluorescence generated by irradiation with excitation light.
  • a body tissue is irradiated with excitation light and fluorescence from the body tissue is observed (autofluorescence observation), or a reagent such as indocyanine green (ICG) is locally injected into the body tissue while being locally injected. What irradiates the excitation light corresponding to the fluorescence wavelength of the reagent, and obtains a fluorescence image etc. can be performed.
  • the light source device 5043 can be configured to be able to supply narrow band light and / or excitation light corresponding to such special light observation.
  • FIG. 50 is a block diagram showing an example of a functional configuration of the camera head 5005 and the CCU 5039 shown in FIG.
  • the camera head 5005 has a lens unit 5007, an imaging unit 5009, a drive unit 5011, a communication unit 5013, and a camera head control unit 5015 as its functions.
  • the CCU 5039 also has a communication unit 5059, an image processing unit 5061, and a control unit 5063 as its functions.
  • the camera head 5005 and the CCU 5039 are communicably connected in both directions by a transmission cable 5065.
  • the lens unit 5007 is an optical system provided at the connection with the lens barrel 5003.
  • the observation light taken in from the tip of the lens barrel 5003 is guided to the camera head 5005 and enters the lens unit 5007.
  • the lens unit 5007 is configured by combining a plurality of lenses including a zoom lens and a focus lens.
  • the optical characteristic of the lens unit 5007 is adjusted so as to condense the observation light on the light receiving surface of the imaging element of the imaging unit 5009.
  • the zoom lens and the focus lens are configured such that the position on the optical axis can be moved in order to adjust the magnification and the focus of the captured image.
  • the imaging unit 5009 includes an imaging element and is disposed downstream of the lens unit 5007.
  • the observation light which has passed through the lens unit 5007 is condensed on the light receiving surface of the imaging device, and an image signal corresponding to the observation image is generated by photoelectric conversion.
  • the image signal generated by the imaging unit 5009 is provided to the communication unit 5013.
  • an imaging element which comprises the imaging part 5009 it is an image sensor of a CMOS (Complementary Metal Oxide Semiconductor) type, for example, and a color imaging
  • CMOS Complementary Metal Oxide Semiconductor
  • photography of the high resolution image of 4K or more may be used, for example.
  • an imaging element constituting the imaging unit 5009 is configured to have a pair of imaging elements for acquiring image signals for right eye and left eye corresponding to 3D display.
  • the 3D display enables the operator 5067 to more accurately grasp the depth of the living tissue at the operation site.
  • the imaging unit 5009 is configured as a multi-plate type, a plurality of lens units 5007 are also provided corresponding to each imaging element.
  • the imaging unit 5009 may not necessarily be provided in the camera head 5005.
  • the imaging unit 5009 may be provided inside the lens barrel 5003 immediately after the objective lens.
  • the drive unit 5011 is configured by an actuator, and moves the zoom lens and the focus lens of the lens unit 5007 along the optical axis by a predetermined distance under the control of the camera head control unit 5015. Thereby, the magnification and the focus of the captured image by the imaging unit 5009 may be appropriately adjusted.
  • the communication unit 5013 is configured of a communication device for transmitting and receiving various types of information to and from the CCU 5039.
  • the communication unit 5013 transmits the image signal obtained from the imaging unit 5009 to the CCU 5039 via the transmission cable 5065 as RAW data.
  • the image signal be transmitted by optical communication in order to display the captured image of the surgical site with low latency.
  • the operator 5067 performs the operation while observing the condition of the affected area by the captured image, so for safer and more reliable operation, the moving image of the operation site is displayed in real time as much as possible It is because that is required.
  • the communication unit 5013 is provided with a photoelectric conversion module which converts an electrical signal into an optical signal.
  • the image signal is converted into an optical signal by the photoelectric conversion module, and then transmitted to the CCU 5039 via the transmission cable 5065.
  • the communication unit 5013 also receives, from the CCU 5039, a control signal for controlling the drive of the camera head 5005.
  • the the control signal for example, information that specifies the frame rate of the captured image, information that specifies the exposure value at the time of imaging, and / or magnification and information, etc. indicating that specifies the focal point of the captured image, captured Contains information about the condition.
  • the communication unit 5013 provides the received control signal to the camera head control unit 5015.
  • the control signal from CCU 5039 may also be transmitted by optical communication.
  • the communication unit 5013 is provided with a photoelectric conversion module that converts an optical signal into an electric signal, and the control signal is converted into an electric signal by the photoelectric conversion module and is then provided to the camera head control unit 5015.
  • the imaging conditions such as the frame rate, the exposure value, the magnification, and the focus described above are automatically set by the control unit 5063 of the CCU 5039 based on the acquired image signal. That is, so-called AE (Auto Exposure) function, AF (Auto Focus) function, and AWB (Auto White Balance) function are installed in the endoscope 5001.
  • AE Auto Exposure
  • AF Automatic Focus
  • AWB Automatic White Balance
  • the camera head control unit 5015 controls the drive of the camera head 5005 based on the control signal from the CCU 5039 received via the communication unit 5013. For example, the camera head control unit 5015 controls the drive of the imaging element of the imaging unit 5009 based on the information to specify the frame rate of the captured image and / or the information to specify the exposure at the time of imaging. Also, for example, the camera head control unit 5015 appropriately moves the zoom lens and the focus lens of the lens unit 5007 via the drive unit 5011 based on the information indicating that the magnification and the focus of the captured image are designated.
  • the camera head control unit 5015 may further have a function of storing information for identifying the lens barrel 5003 and the camera head 5005.
  • the camera head 5005 can have resistance to autoclave sterilization.
  • the communication unit 5059 is configured of a communication device for transmitting and receiving various types of information to and from the camera head 5005.
  • the communication unit 5059 receives an image signal transmitted from the camera head 5005 via the transmission cable 5065.
  • the image signal can be suitably transmitted by optical communication.
  • the communication unit 5059 is provided with a photoelectric conversion module that converts an optical signal into an electrical signal in response to optical communication.
  • the communication unit 5059 provides the image processing unit 5061 with the image signal converted into the electrical signal.
  • the communication unit 5059 transmits a control signal for controlling driving of the camera head 5005 to the camera head 5005.
  • the control signal may also be transmitted by optical communication.
  • An image processing unit 5061 performs various types of image processing on an image signal that is RAW data transmitted from the camera head 5005.
  • image processing for example, development processing, high image quality processing (band emphasis processing, super-resolution processing, NR (noise reduction) processing and / or camera shake correction processing, etc.), and / or enlargement processing (electronic zoom processing) And various other known signal processings.
  • the image processing unit 5061 also performs detection processing on the image signal to perform AE, AF, and AWB.
  • the image processing unit 5061 is configured by a processor such as a CPU or a GPU, and the image processing and the detection processing described above can be performed by the processor operating according to a predetermined program.
  • the image processing unit 5061 is configured by a plurality of GPUs, the image processing unit 5061 appropriately divides the information related to the image signal, and performs image processing in parallel by the plurality of GPUs.
  • the control unit 5063 performs various types of control regarding imaging of the surgical site by the endoscope 5001 and display of the imaged image. For example, the control unit 5063 generates a control signal for controlling the drive of the camera head 5005. At this time, when the imaging condition is input by the user, the control unit 5063 generates a control signal based on the input by the user. Alternatively, when the endoscope 5001 is equipped with the AE function, the AF function, and the AWB function, the control unit 5063 determines the optimum exposure value, focal length, and the like according to the result of the detection processing by the image processing unit 5061. The white balance is appropriately calculated to generate a control signal.
  • control unit 5063 causes the display device 5041 to display an image of the operative site based on the image signal subjected to the image processing by the image processing unit 5061.
  • control unit 5063 recognizes various objects in the surgical site image using various image recognition techniques. For example, the control unit 5063 detects a shape, a color, and the like of an edge of an object included in an operation part image, thereby enabling a surgical tool such as forceps, a specific living part, bleeding, mist when using the energy treatment tool 5021, and the like. It can be recognized.
  • control unit 5063 When the control unit 5063 causes the display device 5041 to display the image of the operation unit, the control unit 5063 superimposes and displays various types of surgery support information on the image of the operation unit, using the recognition result.
  • the operation support information is superimposed and presented to the operator 5067, which makes it possible to proceed with the operation more safely and reliably.
  • a transmission cable 5065 connecting the camera head 5005 and the CCU 5039 is an electrical signal cable compatible with communication of electrical signals, an optical fiber compatible with optical communication, or a composite cable of these.
  • communication is performed by wire communication using the transmission cable 5065, but communication between the camera head 5005 and the CCU 5039 may be performed wirelessly.
  • the communication between the two is performed wirelessly, it is not necessary to lay the transmission cable 5065 in the operating room, so that the movement of the medical staff in the operating room can be eliminated by the transmission cable 5065.
  • the endoscopic surgery system 5000 to which the technology according to the present disclosure can be applied has been described.
  • the endoscopic surgery system 5000 was demonstrated as an example here, the system to which the technique which concerns on this indication can be applied is not limited to this example.
  • the technology according to the present disclosure may be applied to a flexible endoscopic system for examination or a microsurgical system.
  • the technology according to the present disclosure can be suitably applied to the imaging unit 5009.
  • the imaging unit 5009 can be miniaturized.
  • the degree of freedom of arrangement of each pixel of the imaging device is high, it is easy to obtain a surgical site image at a desired position, and it is possible to perform surgery more safely and more reliably.
  • FIG. 51 is a diagram showing an example of a schematic configuration of an in-vivo information acquiring system 5400 to which the technology according to the present disclosure can be applied.
  • the in-vivo information acquisition system 5400 includes a capsule endoscope 5401 and an external control device 5423 that comprehensively controls the operation of the in-vivo information acquisition system 5400.
  • the capsule endoscope 5401 is swallowed by the patient.
  • the capsule endoscope 5401 has an imaging function and a wireless communication function, and moves inside the organ such as the stomach and intestine by peristaltic movement and the like while being naturally discharged from the patient, Images (hereinafter also referred to as in-vivo images) are sequentially captured at predetermined intervals, and information on the in-vivo images is sequentially wirelessly transmitted to the external control device 5423 outside the body.
  • the external control device 5423 generates image data for displaying the in-vivo image on a display device (not shown) based on the received information about the in-vivo image.
  • the in-vivo information acquiring system 5400 it is possible to obtain an image obtained by imaging the appearance of the inside of the patient's body at any time during the period from when the capsule endoscope 5401 is swallowed until it is discharged.
  • the capsule endoscope 5401 includes a light source unit 5405, an imaging unit 5407, an image processing unit 5409, a wireless communication unit 5411, a power feeding unit 5415, a power supply unit 5417, and a state detection in a capsule casing 5403.
  • the functions of the unit 5419 and the control unit 5421 are installed.
  • the light source unit 5405 is formed of, for example, a light source such as a light emitting diode (LED), and emits light to the imaging field of the imaging unit 5407.
  • a light source such as a light emitting diode (LED)
  • the imaging unit 5407 includes an imaging device and an optical system including a plurality of lenses provided in front of the imaging device. Reflected light is irradiated to the body tissue to be observed light (hereinafter, referred to as observation light) is condensed by the optical system and is incident on the imaging element.
  • the imaging device receives the observation light and performs photoelectric conversion to generate an electric signal corresponding to the observation light, that is, an image signal corresponding to the observation image.
  • the image signal generated by the imaging unit 5407 is provided to the image processing unit 5409.
  • an imaging element of the imaging unit 5407 various known imaging elements such as a complementary metal oxide semiconductor (CMOS) image sensor or a charge coupled device (CCD) image sensor may be used.
  • CMOS complementary metal oxide semiconductor
  • CCD charge coupled device
  • the image processing unit 5409 is configured by a processor such as a central processing unit (CPU) or a graphics processing unit (GPU), and performs various signal processing on the image signal generated by the imaging unit 5407.
  • the signal processing may be minimum processing for transmitting the image signal to the external control device 5423 (eg, compression of image data, conversion of frame rate, conversion of data rate, and / or conversion of format, etc.) .
  • the image processing unit 5409 By configuring the image processing unit 5409 to perform only the minimum necessary processing, the image processing unit 5409 can be realized with smaller size and lower power consumption. It is suitable. However, if space in the housing 5403 or the power consumption is sufficient, the image processing unit 5409 may perform additional signal processing (for example, noise removal processing or other high image quality processing). Good.
  • the image processing unit 5409 supplies the image signal subjected to the signal processing to the wireless communication unit 5411 as RAW data.
  • the image processing unit 5409 associates the information with the information to wirelessly transmit the image signal.
  • the communication unit 5411 may be provided. Thereby, the captured image can be associated with the position in the body in which the image is captured, the imaging direction of the image, and the like.
  • the wireless communication unit 5411 is configured of a communication device capable of transmitting and receiving various information to and from the external control device 5423.
  • the communication device includes an antenna 5413 and a processing circuit that performs modulation for transmitting and receiving a signal.
  • the wireless communication unit 5411 performs predetermined processing such as modulation processing on the image signal subjected to the signal processing by the image processing unit 5409, and transmits the image signal to the external control device 5423 through the antenna 5413.
  • the wireless communication unit 5411 receives a control signal related to drive control of the capsule endoscope 5401 from the external control device 5423 via the antenna 5413.
  • the wireless communication unit 5411 provides the received control signal to the control unit 5421.
  • the feeding portion 5415 includes an antenna coil for receiving power, a power regeneration circuit which regenerates power from current generated in the antenna coil, a booster circuit, and the like.
  • power is generated using a so-called contactless charging principle. Specifically, when a magnetic field (electromagnetic wave) of a predetermined frequency is applied to the antenna coil of the feeding portion 5415 from the outside, an induced electromotive force is generated in the antenna coil.
  • the electromagnetic wave may be, for example, a carrier wave transmitted from the external control device 5423 via the antenna 5425. Electric power is regenerated from the induced electromotive force by the electric power regenerating circuit, and the electric potential is appropriately adjusted in the booster circuit to generate electric power for storage.
  • the power generated by the power supply unit 5415 is stored in the power supply unit 5417.
  • the power supply unit 5417 is formed of a secondary battery, and stores the power generated by the power supply unit 5415.
  • an arrow or the like indicating the supply destination of the power from the power supply unit 5417 is omitted to avoid the drawing being complicated, but the power stored in the power supply unit 5417 is the light source unit 5405.
  • the image pickup unit 5407, the image processing unit 5409, the wireless communication unit 5411, the state detection unit 5419, and the control unit 5421 can be used to drive them.
  • the state detection unit 5419 includes a sensor for detecting the state of the capsule endoscope 5401 such as an acceleration sensor and / or a gyro sensor.
  • the state detection unit 5419 can obtain information on the state of the capsule endoscope 5401 from the detection result of the sensor.
  • the state detection unit 5419 provides the image processing unit 5409 with information on the acquired state of the capsule endoscope 5401. In the image processing unit 5409, as described above, information on the state of the capsule endoscope 5401 may be associated with the image signal.
  • the control unit 5421 is configured by a processor such as a CPU, and centrally controls the operation of the capsule endoscope 5401 by operating according to a predetermined program.
  • Control unit 5421 drives light source unit 5405, imaging unit 5407, image processing unit 5409, wireless communication unit 5411, power supply unit 5415, power supply unit 5417, and state detection unit 5419 according to a control signal transmitted from external control device 5423. By appropriately controlling, the functions of the respective units as described above are realized.
  • the external control device 5423 can be a processor such as a CPU or a GPU, or a microcomputer or a control board on which memory elements such as a processor and a memory are mixed.
  • the external control device 5423 has an antenna 5425, and can transmit and receive various types of information to and from the capsule endoscope 5401 via the antenna 5425.
  • the external control device 5423 controls the operation of the capsule endoscope 5401 by transmitting a control signal to the control unit 5421 of the capsule endoscope 5401. For example, with the control signal from the external control device 5423, the irradiation condition of light to the observation target in the light source unit 5405 can be changed.
  • an imaging condition for example, a frame rate in the imaging unit 5407, an exposure value, and the like
  • an imaging condition for example, a frame rate in the imaging unit 5407, an exposure value, and the like
  • the contents of processing in the image processing unit 5409 and conditions (for example, transmission interval, number of transmission images, etc.) under which the wireless communication unit 5411 transmits an image signal may be changed by a control signal from the external control device 5423.
  • the external control device 5423 performs various types of image processing on the image signal transmitted from the capsule endoscope 5401 and generates image data for displaying the captured in-vivo image on the display device.
  • image processing for example, development processing (demosaicing processing), high image quality processing (band emphasis processing, super-resolution processing, NR (noise reduction) processing and / or camera shake correction processing, etc.), and / or enlargement processing ( Various known signal processing may be performed, such as electronic zoom processing).
  • the external control device 5423 controls the drive of the display device (not shown) to display the in-vivo image captured based on the generated image data.
  • the external control device 5423 may cause the recording device (not shown) to record the generated image data, or may cause the printing device (not shown) to print out.
  • the technology according to the present disclosure can be suitably applied to the imaging unit 5407.
  • the capsule endoscope 5401 can be further miniaturized, and thus the burden on the patient can be further reduced.
  • the series of processes described above can be performed by hardware or software.
  • a program that configures the software is installed on a computer.
  • the computer includes a computer (for example, the control unit 123 or the like) incorporated in dedicated hardware.
  • the program executed by the computer can be provided by being recorded in, for example, a recording medium (eg, the recording medium 130 or the like) as a package medium or the like. Also, the program can be provided via a wired or wireless transmission medium such as a local area network, the Internet, or digital satellite broadcasting.
  • a recording medium eg, the recording medium 130 or the like
  • the program can be provided via a wired or wireless transmission medium such as a local area network, the Internet, or digital satellite broadcasting.
  • the program executed by the computer may be a program that performs processing in chronological order according to the order described in this specification, in parallel, or when necessary, such as when a call is made. It may be a program to be processed.
  • a system means a set of a plurality of components (devices, modules (parts), etc.), and it does not matter whether all the components are in the same case. Therefore, a plurality of devices housed in separate housings and connected via a network, and one device housing a plurality of modules in one housing are all systems. .
  • the present technology can have a cloud computing configuration in which one function is shared and processed by a plurality of devices via a network.
  • each step described in the above-described flowchart can be executed by one device or in a shared manner by a plurality of devices.
  • the plurality of processes included in one step can be executed by being shared by a plurality of devices in addition to being executed by one device.
  • the present disclosure can also have the following configurations.
  • the imaging unit is disposed at a position where the surroundings of a user wearing or using the electronic device are captured, and receives incident light from an object that is incident without passing through either the imaging lens or the pinhole,
  • An electronic apparatus comprising: an imaging unit including a plurality of pixel output units for outputting one detection signal indicating an output pixel value modulated by an incident angle of incident light.
  • the electronic device is a headphone
  • the electronic device is a camera.
  • the restoration unit restores the restored image using a plurality of coefficients indicating the incident angle directivity of each pixel output unit.
  • At least a part of the pixel output units are arranged in the deformable part of the electronic device;
  • Electronic device described in. (14) The imaging unit includes one or more imaging devices. The electronic device according to any one of (1) to (13), wherein the plurality of pixel output units are provided in the imaging device. (15) The electronic apparatus according to any one of (1) to (14), wherein each of the pixel output units is disposed in two or more distant regions. (16) The electronic apparatus according to any one of (1) to (15), wherein the plurality of pixel output units have a configuration capable of independently setting the incident angle directivity.
  • the plurality of pixel output units are With one photodiode, An electronic device according to (16), further comprising: a light shielding film configured to block incidence of a part of the incident light to the photodiode.
  • a light shielding film configured to block incidence of a part of the incident light to the photodiode.
  • at least two pixel output units include a plurality of photodiodes, and the photodiodes contributing to the output are different from each other, so that the incident angle directivity differs from each other (16) Electronic device described.
  • the imaging unit has a configuration for causing the incident angle directivity to the incident light of output pixel values of at least two pixel output units among the plurality of pixel output units to be different from each other.
  • the electronic device according to any one of (1) to (18).
  • SYMBOLS 101 imaging apparatus 111 signal processing control part, 121 imaging element, 121a, 121a 'pixel, 121A light receiving surface, 121b light shielding film, 121c on-chip lens, 121e, 121f photodiode, 122 restoration part, 123 control part, 125 detection part , 126 association unit, 301 electronic device, 311 imaging unit, 312 signal processing control unit, 321 restoration unit, 322 control unit, 325 association unit, 326 output unit, 328 recording and reproduction unit, 401 wearable device, 411L, 411R lens, 412 Frame, 431 camera, 441 finder, 461 head mounted display, 471L, 471R lens, 491 PC, 501 display Ray, 502 bezel, 601 wearable device, 611L, 611R lens, 612 frame, 631 camera, 641 mount, 642 flash unit, 643 lens, 661 head mounted display, 671 main unit, 672 head pad, 691 headphones, 701L,

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

本開示は、ユーザの周囲を撮像する機能を有する電子機器を小型化することができるようにする電子機器に関する。 ユーザが装着又は使用する電子機器において、前記電子機器を装着又は使用しているユーザの周囲が写る位置に配置されている撮像部であって、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を複数の備える撮像部を備える。本開示は、例えば、ウエアラブルデバイスに適用することができる。

Description

電子機器
　本開示は、電子機器に関し、特に、ユーザの周囲を撮像する機能を有する電子機器に関する。
　従来、撮像レンズを用いずに、撮像素子の受光面を覆う格子状の光学フィルタや回折格子からなる光学フィルタにより被写体からの光を変調して撮像し、所定の演算処理により被写体の像が結像された画像を復元する撮像装置が提案されている（例えば、非特許文献１、特許文献１、２参照）。
特表２０１６-５１０９１０号公報 国際公開第２０１６／１２３５２９号
　ところで、非特許文献１や特許文献１、２に示されるような撮像レンズを用いない撮像装置は、撮像レンズがない分小型化が可能であり、適用範囲の拡大が期待されている。
　本開示は、このような状況に鑑みてなされたものであり、ユーザの周囲を撮像する機能を有する電子機器を小型化できるようにするものである。
　本開示の一側面の撮像装置は、ユーザが装着又は使用する電子機器において、前記電子機器を装着又は使用しているユーザの周囲が写る位置に配置されている撮像部であって、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を複数備える撮像部を備える。
　本開示の一側面においては、複数の画素出力単位により、電子機器を装着又は使用しているユーザの周囲が撮像され、検出信号が出力される。
　本開示の一側面によれば、ユーザの周囲を撮像する機能を有する電子機器を小型化することができる。
　なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本開示の技術を適用した撮像装置における撮像の原理を説明する図である。 本開示の技術を適用した撮像装置の基本的な構成例を示すブロック図である。 図２の撮像素子の画素アレイ部の構成例を示す図である。 図２の撮像素子の第１の構成例を説明する図である。 図２の撮像素子の第２の構成例を説明する図である。 入射角指向性の発生の原理を説明する図である。 オンチップレンズを利用した入射角指向性の変化を説明する図である。 遮光膜のタイプの例を示す図である。 入射角指向性の設計を説明する図である。 オンチップレンズと撮像レンズとの違いを説明する図である。 オンチップレンズと撮像レンズとの違いを説明する図である。 オンチップレンズと撮像レンズとの違いを説明する図である。 被写体距離と入射角指向性を示す係数との関係を説明する図である。 狭画角画素と広画角画素との関係を説明する図である。 狭画角画素と広画角画素との関係を説明する図である。 狭画角画素と広画角画素との関係を説明する図である。 狭画角画素と広画角画素の画質の違いを説明するための図である。 狭画角画素と広画角画素の画質の違いを説明するための図である。 複数の画角の画素を組み合わせる例を説明する図である。 図２の撮像装置による撮像処理を説明するフローチャートである。 処理負荷の低減方法を説明する図である。 処理負荷の低減方法を説明する図である。 処理負荷の低減方法を説明する図である。 処理負荷の低減方法を説明する図である。 処理負荷の低減方法を説明する図である。 本開示の技術を適用した電子機器の構成例を示すブロック図である。 ウエアラブルデバイスにおける撮像素子の配置例を示す図である。 撮像素子の入射角指向性の例を示す図である。 カメラにおける撮像素子の配置例を示す図である。 ヘッドマウントディスプレイにおける撮像素子の配置例を示す図である。 ＰＣにおける撮像素子の配置例を示す図である。 ユーザ撮像制御処理を説明するフローチャートである。 ウエアラブルデバイスにおける撮像素子の配置例を示す図である。 カメラにおける撮像素子の配置例を示す図である。 ヘッドマウントディスプレイにおける撮像素子の配置例を示す図である。 オーバーヘッド型のヘッドフォンにおける撮像素子の配置例を示す図である。 オーバーヘッド型のヘッドフォンにおける撮像素子の配置例を示す図である。 ネックバンド型のヘッドフォンにおける撮像素子の配置例を示す図である。 ユーザ周囲撮像制御処理を説明するフローチャートである。 撮像素子の設置位置の形状の変形への対応方法を説明する図である。 本開示の技術を適用した情報処理システムの構成例を示すブロック図である。 図５の撮像素子の変形例を示す図である。 画素出力単位の変形例を説明する図である。 撮像素子の変形例を示す図である。 撮像素子の変形例を示す図である。 撮像素子の変形例を示す図である。 撮像素子の変形例を示す図である。 撮像素子の変形例を示す図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 図４９に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。 体内情報取得システムの概略的な構成の一例を示すブロック図である。
　以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を適宜省略する。
　また、以下の順序で説明を行う。
　　１．本開示の撮像装置の概要
　　２．本開示の撮像装置の基本的な構成例
　　３．第１の実施の形態：ユーザを撮像する場合
　　４．第２の実施の形態：ユーザの周囲を撮像する場合
　　５．変形例
　　６．応用例
　　７．その他
　＜＜１．本開示の撮像装置の概要＞＞
　まず、本開示の撮像装置の概要について説明する。
　本開示の撮像装置においては、図１の左上に示されるように、各画素の検出感度に入射角指向性を持たせた撮像素子５１が用いられる。ここで、各画素の検出感度に入射角指向性を持たせるとは、各画素への入射光の入射角度に応じた受光感度特性を画素毎に異なるものとすることである。ただし、全ての画素の受光感度特性が完全に異なるものである必要はなく、一部の画素の受光感度特性が同一であってもよい。
　ここで、例えば、全ての被写体は点光源の集合であり、各点光源からあらゆる方向に光が出射されているものとする。例えば、図１の左上の被写体の被写体面３１が、点光源ＰＡ乃至点光源ＰＣにより構成され、点光源ＰＡ乃至点光源ＰＣが、それぞれ光強度ａ乃至光強度ｃの複数の光線を周囲に発しているものとする。また、以下、撮像素子５１は、位置Ｐａ乃至位置Ｐｃに入射角指向性がそれぞれ異なる画素（以下、画素Ｐａ乃至画素Ｐｃと称する）を備えるものとする。
　この場合、図１の左上に示されるように、同一の点光源より発せられた同一の光強度の光線が、撮像素子５１の各画素に入射される。例えば、点光源ＰＡから発せられた光強度ａの光線が、撮像素子５１の画素Ｐａ乃至画素Ｐｃにそれぞれ入射される。一方、同一の点光源より発せられた光線は、画素毎にそれぞれ異なる入射角度で入射される。例えば、点光源ＰＡからの光線は、画素Ｐａ乃至画素Ｐｃにそれぞれ異なる入射角度で入射される。
　ここで、画素Ｐａ乃至画素Ｐｃの入射角指向性がそれぞれ異なるため、同一の点光源より発せられた同一の光強度の光線が、各画素で異なる感度で検出される。その結果、同一の光強度の光線が画素毎に異なる検出信号レベルで検出される。例えば、点光源ＰＡからの光強度ａの光線に対する検出信号レベルが、画素Ｐａ乃至画素Ｐｃでそれぞれ異なる値になる。
　そして、各点光源からの光線に対する各画素の受光感度レベルは、その光線の光強度に、その光線の入射角度に対する受光感度（すなわち、入射角指向性）を示す係数を乗じることにより求められる。例えば、点光源ＰＡからの光線に対する画素Ｐａの検出信号レベルは、点光源ＰＡの光線の光強度ａに、当該光線の画素Ｐａへの入射角度に対する画素Ｐａの入射角指向性を示す係数を乗じることにより求められる。
　従って、画素Ｐｃ，Ｐｂ，Ｐａの検出信号レベルＤＡ，ＤＢ，ＤＣは、それぞれ以下の式（１）乃至式（３）で表される。
　ＤＡ＝α１×ａ＋β１×ｂ＋γ１×ｃ
　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（１）
　ＤＢ＝α２×ａ＋β２×ｂ＋γ２×ｃ
　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（２）
　ＤＣ＝α３×ａ＋β３×ｂ＋γ３×ｃ
　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（３）
　ここで、係数α１は、点光源ＰＡから画素Ｐｃへの光線の入射角度に対する画素Ｐｃの入射角指向性を示す係数であり、当該入射角度に応じて設定される。また、α１×ａは、点光源ＰＡからの光線に対する画素Ｐｃの検出信号レベルを示している。
　係数β１は、点光源ＰＢから画素Ｐｃへの光線の入射角度に対する画素Ｐｃの入射角指向性を示す係数であり、当該入射角度に応じて設定される。また、β１×ｂは、点光源ＰＢからの光線に対する画素Ｐｃの検出信号レベルを示している。
　係数γ１は、点光源ＰＣから画素Ｐｃへの光線の入射角度に対する画素Ｐｃの入射角指向性を示す係数であり、当該入射角度に応じて設定される。また、γ１×ｃは、点光源ＰＣからの光線に対する画素Ｐｃの検出信号レベルを示している。
　このように、画素Ｐａの検出信号レベルＤＡは、画素Ｐｃにおける点光源ＰＡ，ＰＢ，ＰＣからの光線のそれぞれの光強度ａ，ｂ，ｃと、それぞれの入射角度に応じた入射角指向性を示す係数α１，β１，γ１との積和により求められる。
　同様に、画素Ｐｂの検出信号レベルＤＢは、式（２）に示されるように、画素Ｐｂにおける点光源ＰＡ，ＰＢ，ＰＣからの光線のそれぞれの光強度ａ，ｂ，ｃと、それぞれの入射角度に応じた入射角指向性を示す係数α２，β２，γ２との積和により求められる。また、画素Ｐｃの検出信号レベルＤＣは、式（３）に示されるように、画素Ｐａにおける点光源ＰＡ，ＰＢ，ＰＣからの光線のそれぞれの光強度ａ，ｂ，ｃと、それぞれの入射角度に応じた入射角指向性を示す係数α２，β２，γ２との積和により求められる。
　ただし、画素Ｐａ，Ｐｂ，Ｐｃの検出信号レベルＤＡ、ＤＢ、ＤＣは、式（１）乃至式（３）に示されるように、点光源ＰＡ，ＰＢ，ＰＣのそれぞれより発せられた光線の光強度ａ，ｂ，ｃが入り交じっている。従って、図１の右上に示されるように、撮像素子５１における検出信号レベルは、被写体面３１上の各点光源の光強度とは異なる。従って、撮像素子５１により得られる画像は、被写体面３１の像が結像されたものとは異なるものとなる。
　一方、式（１）乃至式（３）からなる連立方程式を作成し、作成した連立方程式を解くことにより、各点光源ＰＡ乃至点光源ＰＣの光線の光強度ａ乃至光強度ｃが求められる。そして、求めた光強度ａ乃至光強度ｃに応じた画素値を有する画素を点光源ＰＡ乃至点光源ＰＣの配置（相対位置）に合わせて並べることにより、図１の右下に示されるように、被写体面３１の像が結像された復元画像が復元される。
　なお、以下、連立方程式を構成する式毎に係数をまとめたもの（例えば、係数α１、β１、γ１）を係数セットと称する。また、以下、連立方程式に含まれる複数の式に対応する複数の係数セットをまとめたもの（例えば、係数セットα１、β１、γ１、係数セットα２、β２、γ２、係数セットα３、β３、γ３）を係数セット群と称する。
　このようにして、撮像レンズ、ピンホール、並びに、特許文献１及び非特許文献１（以下、特許文献等と称する）に示される光学フィルタを必要とせず、各画素において入射角指向性を有する撮像素子５１を必須構成とする撮像装置を実現することが可能となる。結果として、撮像レンズ、ピンホール、及び、特許文献等に記載の光学フィルタが必須構成とならないので、撮像装置の低背化、すなわち、撮像機能を実現する構成における光の入射方向に対する厚さを薄くすることが可能になる。
　また、必須構成が撮像素子５１のみになるので、設計の自由度を向上させることが可能となる。例えば、従来の撮像レンズを用いた撮像装置では、撮像レンズにより被写体の像が結像される位置に合わせて、撮像素子の画素を２次元のアレイ状に配置する必要があるが、撮像素子５１を用いた撮像装置では、その必要がない。そのため、各画素の配置の自由度が向上し、例えば、被写体からの光が入射する範囲内において、各画素を自由に配置することが可能になる。例えば、各画素を円形の領域内に並べたり、中空方形（ロの字型）の領域内に並べたり、複数の領域に分散して配置したりすることが可能になる。
　そして、各画素の配置に関わらず、被写体面３１上の各点光源からの光線の各画素への入射角度に応じた係数を用いて、上述した式（１）乃至式（３）で示されるような連立方程式を作成し、解くことにより、各点光源からの光線の光強度を求めることができる。そして、求めた各点光源の光強度に応じた画素値を有する画素を被写体面３１上の各点光源の配置に合わせて並べることにより、被写体面３１の像が結像された復元画像を復元することができる。
　＜＜２．本開示の撮像装置の基本的な構成例＞＞
　次に、図２乃至図２５を参照して、本開示の撮像装置の基本的な構成例について説明する。
　＜撮像装置１０１の構成例＞
　図２は、本開示の技術を適用した基本的な撮像装置である撮像装置１０１の構成例を示すブロック図である。
　撮像装置１０１は、撮像素子１２１、復元部１２２、制御部１２３、入力部１２４、検出部１２５、関連付け部１２６、表示部１２７、記憶部１２８、記録再生部１２９、記録媒体１３０、及び、通信部１３１を備える。また、復元部１２２、制御部１２３、入力部１２４、検出部１２５、関連付け部１２６、表示部１２７、記憶部１２８、記録再生部１２９、記録媒体１３０、及び、通信部１３１により、信号処理や撮像装置１０１の制御等を行う信号処理制御部１１１が構成される。なお、撮像装置１０１は、撮像レンズを含まない（撮像レンズフリー）。
　また、撮像素子１２１、復元部１２２、制御部１２３、入力部１２４、検出部１２５、関連付け部１２６、表示部１２７、記憶部１２８、記録再生部１２９、及び、通信部１３１は、バスＢ１を介して相互に接続されており、バスＢ１を介してデータの送受信等を行う。なお、以下、説明を簡単にするために、撮像装置１０１の各部がバスＢ１を介してデータの送受信等を行う場合のバスＢ１の記載を省略する。例えば、入力部１２４がバスＢ１を介して制御部１２３にデータを供給する場合、入力部１２４が制御部１２３にデータを供給すると記載する。
　撮像素子１２１は、図１を参照して説明した撮像素子５１に対応するものであり、入射角指向性を有する画素を含み、入射光の光量に応じた検出信号レベルを示す検出信号からなる画像を復元部１２２又はバスＢ１に出力する撮像素子である。
　より具体的には、撮像素子１２１は、基本的な構造において、一般の、例えば、CMOS（Complementary Metal Oxide Semiconductor）イメージセンサなどの撮像素子からなるものと同様のものであっても良い。ただし、撮像素子１２１は、画素アレイを構成する各画素の構成が一般のものと異なり、例えば、図３乃至図５を参照して後述するように、入射角指向性を持たせる構成を有している。そして、撮像素子１２１は、画素毎に入射光の入射角度に応じて受光感度が異なり（変化し）、画素単位で入射光の入射角度に対する入射角指向性を有している。
　なお、撮像素子１２１が出力する画像は、上述した図１の右上に示されるように被写体の像が結像されていない検出信号により構成される画像となるので、目視により被写体を認識することができない。すなわち、撮像素子１２１が出力する検出信号からなる検出画像は、画素信号の集合ではあるが、ユーザが目視しても被写体を認識できない（被写体を視認不可能な）画像である。
　そこで、以降においては、図１の右上に示されるように被写体の像が結像されていない検出信号より構成される画像、すなわち、撮像素子１２１により撮像される画像を、検出画像と称するものとする。
　尚、撮像素子１２１は、画素アレイとして構成されなくてもよく、例えば、ラインセンサとして構成されてもよい。また、入射角指向性は必ずしも画素単位で全て異なる必要はなく、入射角指向が同じ画素を含んでいてもよい。
　復元部１２２は、例えば、図１における撮像素子５１から被写体面３１（復元画像に対応する被写体面）までの距離に相当する被写体距離に対応し、上述した係数α１乃至α３，β１乃至β３，γ１乃至γ３に相当する係数セット群を記憶部１２８から取得する。また、復元部１２２は、撮像素子１２１から出力される検出画像の各画素の検出信号レベルと、取得した係数セット群とを用いて、上述した式（１）乃至式（３）で示されるような連立方程式を作成する。そして、復元部１２２は、作成した連立方程式を解くことにより、図１の右下に示される被写体の像が結像された画像を構成する各画素の画素値を求める。これにより、ユーザが目視して被写体を認識できる（被写体を視認可能な）画像が検出画像から復元される。以降においては、この検出画像から復元される画像を復元画像と称するものとする。ただし、撮像素子１２１が紫外線などの視認可能な波長帯域以外の光のみに感度を有する場合、復元画像も通常の画像のように被写体を識別できるような画像とはならないが、この場合も復元画像と称する。
　また、以降においては、被写体の像が結像された状態の画像である復元画像であって、デモザイク処理等の色分離や同時化処理前の画像をRAW画像と称し、撮像素子１２１により撮像された検出画像については、色フィルタの配列に従った画像ではあるが、RAW画像ではないものとして区別する。
　尚、撮像素子１２１の画素数と、復元画像を構成する画素の画素数とは、必ずしも同一である必要はない。
　また、復元部１２２は、必要に応じて、復元画像に対してデモザイク処理、γ補正、ホワイトバランス調整、所定の圧縮形式への変換処理等を行う。そして、復元部１２２は、復元画像をバスＢ１に出力する。
　制御部１２３は、例えば、各種のプロセッサを備え、撮像装置１０１の各部を制御する。
　入力部１２４は、撮像装置１０１の操作や、処理に用いるデータの入力等を行うための入力デバイス（例えば、キー、スイッチ、ボタン、ダイヤル、タッチパネル、リモートコントローラ等）を備える。入力部１２４は、操作信号や入力されたデータ等をバスＢ１に出力する。
　検出部１２５は、撮像装置１０１や被写体の状態等の検出に用いる各種のセンサ等を備える。例えば、検出部１２５は、撮像装置１０１の姿勢や動きを検出する加速度センサやジャイロセンサ、撮像装置１０１の位置を検出する位置検出センサ（例えば、ＧＮＳＳ（Global Navigation Satellite System）受信機等）、被写体距離を検出する測距センサ等を備える。検出部１２５は、検出結果を示す信号をバスＢ１に出力する。
　関連付け部１２６は、撮像素子１２１により得られる検出画像と、検出画像に対応するメタデータとの関連付けを行う。メタデータは、例えば、対象となる検出画像を用いて復元画像を復元するための係数セット群や被写体距離等を含む。
　なお、検出画像とメタデータを関連付ける方法は、検出画像とメタデータとの対応関係を特定することができれば、特に限定されない。例えば、検出画像を含む画像データにメタデータを付与したり、検出画像とメタデータに同じＩＤを付与したり、検出画像とメタデータを同じ記録媒体１３０に記録させたりすることにより、検出画像とメタデータが関連付けられる。
　表示部１２７は、例えば、ディスプレイにより構成され、各種の情報（例えば、復元画像等）の表示を行う。なお、表示部１２７が、スピーカ等の音声出力部を備え、音声の出力を行うようにすることも可能である。
　記憶部１２８は、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）、フラッシュメモリ等の記憶装置を１つ以上備え、例えば、撮像装置１０１の処理に用いられるプログラムやデータ等を記憶する。例えば、記憶部１２８は、様々な被写体距離に対応付けて、上述した係数α１乃至α３，β１乃至β３，γ１乃至γ３に相当する係数セット群を記憶している。より具体的には、例えば、記憶部１２８は、各被写体距離における被写体面３１毎に、被写体面３１上に設定した各点光源に対する撮像素子１２１の各画素１２１ａに対する係数を含む係数セット群を記憶している。
　記録再生部１２９は、記録媒体１３０へのデータの記録、及び、記録媒体１３０に記録されているデータの再生（読み出し）を行う。例えば、記録再生部１２９は、復元画像を記録媒体１３０に記録したり、記録媒体１３０から読み出したりする。また、例えば、記録再生部１２９は、検出画像及び対応するメタデータを、記録媒体１３０に記録したり、記録媒体１３０から読み出したりする。
　記録媒体１３０は、例えば、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、磁気ディスク、光ディスク、光磁気ディスク、及び、半導体メモリ等のいずれか、又は、それらの組合せなどからなる。
　通信部１３１は、所定の通信方式により、他の機器（例えば、他の撮像装置や信号処理装置等）と通信を行う。なお、通信部１３１の通信方式は、有線又は無線のいずれであってもよい。また、通信部１３１が複数の通信方式に対応することも可能である。
　＜撮像素子１２１の第１の構成例＞
　次に、図３及び図４を参照して、図２の撮像装置１０１の撮像素子１２１の第１の構成例について説明する。
　図３は、撮像素子１２１の画素アレイ部の一部の正面図を示している。尚、図３においては、画素アレイ部の画素数が縦６画素×横６画素である場合の例を示しているが、画素アレイ部の画素数は、これに限るものではない。
　図３の撮像素子１２１では、画素１２１ａ毎に、そのフォトダイオードの受光領域（受光面）の一部を覆うように変調素子の１つである遮光膜１２１ｂが設けられており、各画素１２１ａに入射する入射光が、入射角度に応じて光学的に変調される。そして、例えば、画素１２１ａ毎に異なる範囲に遮光膜１２１ｂを設けることにより、画素１２１ａ毎に入射光の入射角度に対する受光感度が異なるものとなり、各画素１２１ａが異なる入射角指向性を有するようになる。
　例えば、画素１２１ａ－１と画素１２１ａ－２とでは、設けられている遮光膜１２１ｂ－１と遮光膜１２１ｂ－２とによりフォトダイオードの受光領域を遮光する範囲が異なる（遮光する領域（位置）、および遮光する面積の少なくともいずれかが異なる）。すなわち、画素１２１ａ－１においては、フォトダイオードの受光領域の左側の一部を所定の幅だけ遮光するように遮光膜１２１ｂ－１が設けられている。一方、画素１２１ａ－２においては、受光領域の右側の一部を所定の幅だけ遮光するように遮光膜１２１ｂ－２が設けられている。なお、遮光膜１２１ｂ－１がフォトダイオードの受光領域を遮光する幅と、遮光膜１２１ｂ－２がフォトダイオードの受光領域を遮光する幅とは、異なっていてもよいし、同じであってもよい。その他の画素１２１ａにおいても、同様に、遮光膜１２１ｂが、画素毎に受光領域の異なる範囲を遮光するように、画素アレイ内でランダムに配置されている。
　尚、遮光膜１２１ｂが各画素の受光領域を覆い隠す割合が大きくなるほど、フォトダイオードが受光できる光量が少ない状態となる。従って、遮光膜１２１ｂの面積は、所望の光量が確保できる程度の面積とすることが望ましく、例えば、最大で受光領域の３／４程度までといった制限を加えるようにしてもよい。このようにすることで、所望量以上の光量を確保することが可能となる。ただし、各画素において、受光する光の波長に相当する幅の遮光されていない範囲が設けられていれば、最小限の光量を受光することは可能である。すなわち、例えば、B画素（青色画素）の場合、波長は500nm程度となるが、この波長に相当する幅以上に遮光されていなければ、最小限の光量を受光することは可能である。
　図４の上段は、撮像素子１２１の第１の構成例における側面断面図であり、図４の中段は、撮像素子１２１の第１の構成例における上面図である。また、図４の上段の側面断面図は、図４の中段におけるＡＢ断面となる。さらに、図４の下段は、撮像素子１２１の回路構成例である。
　図４の上段の撮像素子１２１においては、図中の上方から下方に向けて入射光が入射する。隣接する画素１２１ａ－１，１２１ａ－２は、それぞれ図中の最下層に配線層Ｚ１２が設けられており、その上に光電変換層Ｚ１１が設けられている、いわゆる、裏面照射型である。
　尚、画素１２１ａ－１，１２１ａ－２を区別する必要がない場合、符号の末尾の数字の記載を省略し、単に、画素１２１ａと称する。以下、明細書内において、他の構成についても、同様に符号の末尾の数字を省略する場合がある。
　また、図４においては、撮像素子１２１の画素アレイを構成する２画素分の側面図および上面図のみを示しており、いうまでもなく、これ以上の数の画素１２１ａが配置されているが図示が省略されている。
　さらに、画素１２１ａ－１，１２１ａ－２は、それぞれ光電変換層Ｚ１１にフォトダイオード１２１ｅ－１，１２１ｅ－２を備えている。また、フォトダイオード１２１ｅ－１，１２１ｅ－２の上には、それぞれ上からオンチップレンズ１２１ｃ－１，１２１ｃ－２、およびカラーフィルタ１２１ｄ－１，１２１ｄ－２が積層されている。
　オンチップレンズ１２１ｃ－１，１２１ｃ－２は、入射光をフォトダイオード１２１ｅ－１，１２１ｅ－２上に集光させる。
　カラーフィルタ１２１ｄ－１，１２１ｄ－２は、例えば、赤色、緑色、青色、赤外および白色等の特定の波長の光を透過させる光学フィルタである。尚、白色の場合、カラーフィルタ１２１ｄ－１，１２１ｄ－２は、透明のフィルタでもよいし、無くてもよい。
　画素１２１ａ－１，１２１ａ－２の光電変換層Ｚ１１における、それぞれ画素間の境界には、遮光膜１２１ｇ－１乃至１２１ｇ－３が形成されており、例えば、図４に示されるように、入射光Ｌが隣接する画素に入射し、クロストークが発生するのを抑制する。
　また、図４の上段及び中段に示されるように、遮光膜１２１ｂ－１，１２１ｂ－２が、上面から見て受光面Ｓの一部を遮光している。画素１２１ａ－１，１２１ａ－２におけるフォトダイオード１２１ｅ－１，１２１ｅ－２の受光面Ｓにおいては、遮光膜１２１ｂ－１，１２１ｂ－２により、それぞれ異なる範囲が遮光されており、これにより異なる入射角指向性が画素毎に独立に設定される。ただし、遮光される範囲は、撮像素子１２１の全画素１２１ａで異なっている必要はなく、一部で同一の範囲が遮光される画素１２１ａが存在していてもよい。
　なお、図４の上段に示されるように、遮光膜１２１ｂ－１と遮光膜１２１ｇ－１とは互いに接続されており、側面から見てＬ字型に構成されている。同様に、遮光膜１２１ｂ－２と遮光膜１２１ｇ－２とは互いに接続されており、側面から見てＬ字型に構成されている。また、遮光膜１２１ｂ－１、遮光膜１２１ｂ－２、及び、遮光膜１２１ｇ－１乃至１２１ｇ－３は、金属により構成されており、例えば、タングステン（W）、アルミニウム（Al）、またはAlと銅（Cu）との合金により構成される。また、遮光膜１２１ｂ－１、遮光膜１２１ｂ－２、及び、遮光膜１２１ｇ－１乃至１２１ｇ－３は、半導体プロセスにおける配線が形成されるプロセスと同一のプロセスで、配線と同一の金属により同時に形成されるようにしてもよい。尚、遮光膜１２１ｂ－１、遮光膜１２１ｂ－２、及び、遮光膜１２１ｇ－１乃至１２１ｇ－３の膜厚は、位置に応じて同一の厚さにしなくてもよい。
　また、図４の下段に示されるように、画素１２１ａは、フォトダイオード１６１（フォトダイオード１２１ｅに対応する）、転送トランジスタ１６２、ＦＤ（Floating Diffusion：フローティングディフュージョン）部１６３、選択トランジスタ１６４、増幅トランジスタ１６５、およびリセットトランジスタ１６６を備え、垂直信号線１６７を介して電流源１６８に接続されている。
　フォトダイオード１６１は、アノード電極が接地され、カソード電極が、転送トランジスタ１６２を介して増幅トランジスタ１６５のゲート電極に接続されている。
　転送トランジスタ１６２は、転送信号ＴＧに従って駆動する。例えば、転送トランジスタ１６２のゲート電極に供給される転送信号ＴＧがハイレベルになると、転送トランジスタ１６２はオンとなる。これにより、フォトダイオード１６１に蓄積されている電荷が転送トランジスタ１６２を介してＦＤ部１６３に転送される。
　増幅トランジスタ１６５は、フォトダイオード１６１での光電変換によって得られる信号を読み出す読出し回路であるソースフォロワの入力部となり、ＦＤ部１６３に蓄積されている電荷に応じたレベルの画素信号を垂直信号線１６７に出力する。すなわち、増幅トランジスタ１６５は、ドレイン端子が電源ＶＤＤに接続され、ソース端子が選択トランジスタ１６４を介して垂直信号線１６７に接続されることで、垂直信号線１６７の一端に接続される電流源１６８とソースフォロワを構成する。
　ＦＤ部１６３は、転送トランジスタ１６２と増幅トランジスタ１６５との間に設けられる電荷容量Ｃ１を有する浮遊拡散領域であり、転送トランジスタ１６２を介してフォトダイオード１６１から転送される電荷を一時的に蓄積する。ＦＤ部１６３は、電荷を電圧に変換する電荷検出部であって、ＦＤ部１６３に蓄積されている電荷が増幅トランジスタ１６５において電圧に変換される。
　選択トランジスタ１６４は、選択信号ＳＥＬに従って駆動し、ゲート電極に供給される選択信号ＳＥＬがハイレベルになるとオンとなって、増幅トランジスタ１６５と垂直信号線１６７とを接続する。
　リセットトランジスタ１６６は、リセット信号ＲＳＴに従って駆動する。例えば、リセットトランジスタ１６６は、ゲート電極に供給されるリセット信号ＲＳＴがハイレベルになるとオンとなり、ＦＤ部１６３に蓄積されている電荷を電源ＶＤＤに排出して、ＦＤ部１６３をリセットする。
　例えば、図４の下段に示される画素回路は以下のように動作する。
　すなわち、第一動作として、リセットトランジスタ１６６および転送トランジスタ１６２がオンにされ、ＦＤ部１６３に蓄積されている電荷を電源ＶＤＤに排出して、ＦＤ部１６３をリセットする。
　第二動作として、リセットトランジスタ１６６および転送トランジスタ１６２がオフにされ、露光期間となり、フォトダイオード１６１により、入射光の光量に応じた電荷が蓄積される。
　第三動作として、リセットトランジスタ１６６がオンにされて、ＦＤ部１６３がリセットされた後、リセットトランジスタ１６６がオフにされる。この動作により、ＦＤ部１６３が基準電位に設定される。
　第四動作として、リセットされた状態のＦＤ部１６３の電位が、基準電位として増幅トランジスタ１６５より出力される。
　第五動作として、転送トランジスタ１６２がオンにされて、フォトダイオード１６１に蓄積された電荷がＦＤ部１６３に転送される。
　第六動作として、フォトダイオードの電荷が転送されたＦＤ部１６３の電位が、信号電位として増幅トランジスタ１６５より出力される。
　そして、ＣＤＳ（相関二重サンプリング）により信号電位から基準電位が減算された信号が、画素１２１ａの検出信号（画素信号）として出力される。この検出信号の値（出力画素値）は、被写体からの入射光の入射角に応じて変調されており、入射角により特性（指向性）が異なる（入射角指向性を有する）。
　＜撮像素子１２１の第２の構成例＞
　図５は、撮像素子１２１の第２の構成例を示す図である。図５の上段には、第２の構成例である撮像素子１２１の画素１２１ａの側面断面図が示されており、図５の中段には、撮像素子１２１の上面図が示されている。また、図５の上段の側面断面図は、図５の中段におけるＡＢ断面となる。さらに、図５の下段は、撮像素子１２１の回路構成例である。
　図５の撮像素子１２１は、１つの画素１２１ａに４つのフォトダイオード１２１ｆ－１乃至１２１ｆ－４が形成され、遮光膜１２１ｇがフォトダイオード１２１ｆ－１乃至１２１ｆ－４同士を分離する領域に形成されている点で、図４の撮像素子１２１と異なる構成となっている。即ち、図５の撮像素子１２１では、遮光膜１２１ｇは、上面から見て「＋」形状に形成されている。なお、それらの共通の構成については図４と同一の符号を付しており、詳細な説明は省略する。
　図５の撮像素子１２１では、遮光膜１２１ｇによりフォトダイオード１２１ｆ－１乃至１２１ｆ－４が分離されることによって、フォトダイオード１２１ｆ－１乃至１２１ｆ－４間の電気的および光学的なクロストークの発生が防止される。すなわち、図５の遮光膜１２１ｇは、図４の撮像素子１２１の遮光膜１２１ｇと同様にクロストークを防止するためのものであって、入射角指向性を与えるためのものではない。
　また、図５の撮像素子１２１では、１個のＦＤ部１６３が４個のフォトダイオード１２１ｆ－１乃至１２１ｆ－４で共有される。図５の下段は、１個のＦＤ部１６３を４個のフォトダイオード１２１ｆ－１乃至１２１ｆ－４で共有するようにした回路構成例を示している。尚、図５の下段において、図４の下段と同一の構成については、その説明を省略する。
　図５の下段において、図４の下段の回路構成と異なる点は、フォトダイオード１６１（図４の上段におけるフォトダイオード１２１ｅに対応する）および転送トランジスタ１６２に代えて、フォトダイオード１６１－１乃至１６１－４（図５の上段におけるフォトダイオード１２１ｆ－１乃至１２１ｆ－４に対応する）および転送トランジスタ１６２－１乃至１６２－４を設け、ＦＤ部１６３を共有する構成としている点である。
　このような構成により、フォトダイオード１２１ｆ－１乃至１２１ｆ－４に蓄積された電荷は、フォトダイオード１２１ｆ－１乃至１２１ｆ－４と増幅トランジスタ１６５のゲート電極との接続部に設けられる所定の容量を有する共通のＦＤ部１６３に転送される。そして、ＦＤ部１６３に保持されている電荷のレベルに応じた信号が検出信号（画素信号）として読み出される（ただし、上述したようにＣＤＳ処理が行われる）。
　このため、フォトダイオード１２１ｆ－１乃至１２１ｆ－４で蓄積された電荷を様々な組み合わせで選択的に画素１２１ａの出力、すなわち検出信号に寄与させることができる。すなわち、フォトダイオード１２１ｆ－１乃至１２１ｆ－４毎に独立して電荷を読み出すことができる構成とし、出力に寄与するフォトダイオード１２１ｆ－１乃至１２１ｆ－４（フォトダイオード１２１ｆ－１乃至１２１ｆ－４が出力に寄与する度合い）を互いに異ならせることで、異なる入射角指向性を得ることができる。
　例えば、フォトダイオード１２１ｆ－１とフォトダイオード１２１ｆ－３の電荷をＦＤ部１６３に転送し、それぞれを読み出して得られる信号を加算することにより、左右方向の入射角指向性を得ることができる。同様に、フォトダイオード１２１ｆ－１とフォトダイオード１２１ｆ－２の電荷をＦＤ部１６３に転送し、それぞれを読み出して得られる信号を加算することにより、上下方向の入射角指向性を得ることができる。
　また、４つのフォトダイオード１２１ｆ－１乃至１２１ｆ－４より独立して選択的に読み出される電荷に基づいて得られる信号は、検出画像を構成する１画素分に相当する検出信号となる。
　なお、各フォトダイオード１２１ｆ（の電荷）の検出信号への寄与は、例えば、各フォトダイオード１２１ｆの電荷（検出値）をＦＤ部１６３に転送するか否かだけでなく、電子シャッタ機能を用いてＦＤ部１６３への転送前にフォトダイオード１２１ｆに蓄積された電荷をリセットすること等でも実現することができる。例えば、ＦＤ部１６３への転送直前にフォトダイオード１２１ｆの電荷をリセットすれば、そのフォトダイオード１２１ｆは、検出信号に全く寄与しない状態となる。一方、フォトダイオード１２１ｆの電荷をリセットとＦＤ部１６３への電荷の転送との間に時間を持たせることにより、そのフォトダイオード１２１ｆは、部分的に検出信号に寄与する状態となる。
　以上のように、図５の撮像素子１２１の場合、４つのフォトダイオード１２１ｆ－１乃至１２１ｆ－４のうち、検出信号に用いるものの組み合わせを変更することで、画素毎に異なる入射角指向性を持たせることができる。また、図５の撮像素子１２１の各画素１２１ａから出力される検出信号は、被写体からの入射光の入射角に応じて変調された値（出力画素値）となり、入射角により特性（指向性）が異なる（入射角指向性を有する）。
　なお、以下、検出画像の１画素分に相当する検出信号を出力する単位を画素出力単位と称する。画素出力単位は、少なくとも１つ以上のフォトダイオードを備え、通常は、撮像素子１２１の各画素１２１ａが、それぞれ１つの画素出力単位に相当する。
　例えば、図４の撮像素子１２１では、１つの画素１２１ａにそれぞれ１つのフォトダイオード１２１ｅが設けられているため、１つの画素出力単位がそれぞれ１つのフォトダイオード１２１ｅを備えることになる。換言すれば、１つのフォトダイオード１２１ｅにより、１つの画素出力単位が構成される。
　そして、各画素１２１ａの遮光膜１２１ｂによる遮光の状態をそれぞれ異なるものとすることで、各画素出力単位の入射角指向性を異なるものとすることができる。そして、図４の撮像素子１２１では、遮光膜１２１ｂを用いて各画素１２１ａへの入射光が光学的に変調され、その結果、各画素１２１ａのフォトダイオード１２１ｅから出力される信号により、入射角指向性を反映した検出画像の１画素分の検出信号が得られる。すなわち、図４の撮像素子１２１は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光する複数の画素出力単位を備え、各画素出力単位が１つのフォトダイオード１２１ｅを備え、被写体からの入射光の入射角に対する特性（入射角指向性）が画素出力単位毎に設定されている。
　一方、図５の撮像素子１２１では、１つの画素１２１ａにそれぞれ４つのフォトダイオード１２１ｆ－１乃至１２１ｆ－４が設けられているため、１つの画素出力単位がそれぞれ４つのフォトダイオード１２１ｅを備えることになる。換言すれば、４つのフォトダイオード１２１ｆにより、１つの画素出力単位が構成される。一方、各フォトダイオード１２１ｅ単体により、個別の画素出力単位が構成されることはない。
　そして、上述したように４つのフォトダイオード１２１ｆ－１乃至１２１ｆ－４のうち検出信号に寄与するフォトダイオード１２１ｆを画素１２１ａ毎に異なるものとすることで、画素出力単位毎の入射角指向性が異なるものとなる。すなわち、図５の撮像素子１２１では、４個のフォトダイオード１２１ｆ－１乃至１２１ｆ－４のうち出力（検出信号）に寄与しない範囲が遮光された領域と同様に機能する。そして、フォトダイオード１２１ｆ－１乃至１２１ｆ－４から出力される信号の組合せにより、入射角指向性を反映した検出画像の１画素分の検出信号が得られる。すなわち、図５の撮像素子１２１は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光する複数の画素出力単位を備え、各画素出力単位が複数のフォトダイオード（例えば、フォトダイオード１２１ｆ－１乃至１２１ｆ－４）を備え、出力に寄与するフォトダイオード（の度合い）を異ならせることで、被写体からの入射光の入射角に対する各画素出力単位の特性（入射角指向性）が互いに異なる。
　なお、図５の撮像素子１２１では、入射光が光学的に変調されずに全てのフォトダイオード１２１ｆ－１乃至１２１ｆ－４に入射されるため、検出信号は、光学的な変調により得られる信号ではない。また、以降において、検出信号に寄与しないフォトダイオード１２１ｆのことを、画素出力単位又は出力に寄与しないフォトダイオード１２１ｆとも称する。
　なお、図５には、画素出力単位（画素１２１ａ）の受光面を４等分して、各領域にそれぞれ受光面が同じ大きさのフォトダイオード１２１ｆを配置した例、すなわち、フォトダイオードを４等分した例を示しているが、フォトダイオードの分割数や分割位置は任意に設定することが可能である。
　例えば、フォトダイオードを必ずしも等分する必要はなく、画素出力単位毎にフォトダイオードの分割位置を異ならせてもよい。これにより、例えば、複数の画素出力単位間で同じ位置のフォトダイオード１２１ｆを出力に寄与させるようにしたとしても、画素出力単位間で入射角指向性が異なるようになる。また、例えば、画素出力単位間で分割数を異なるものとすることにより、より自由に入射角指向性を設定することが可能になる。さらに、例えば、画素出力単位間で分割数及び分割位置の両方を異ならせるようにしてもよい。
　また、図４の撮像素子１２１及び図５の撮像素子１２１のいずれも、各画素出力単位が入射角指向性を独立に設定可能な構成を有している。一方、上述した非特許文献１や特許文献１、２に示される撮像装置では、撮像素子の各画素出力単位が入射角指向性を独立に設定可能な構成を有していない。なお、図４の撮像素子１２１では、各画素出力単位の入射角指向性が、遮光膜１２１ｂにより製造時に設定される。一方、図５の撮像素子１２１では、各画素出力単位のフォトダイオードの分割数や分割位置は製造時に設定されるが、各画素出力単位の入射角指向性（出力に寄与させるフォトダイオードの組合せ）は使用時（例えば、撮像時）に設定することができる。なお、図４の撮像素子１２１及び図５の撮像素子１２１のいずれにおいても、必ずしも全ての画素出力単位が、入射角指向性を持たせる構成を備える必要はない。
　なお、上述したように、通常は、撮像素子の各画素が、それぞれ１つの画素出力単位に相当するが、後述するように、複数の画素により、１つの画素出力単位が構成される場合もある。以降においては、特に記載がない限り、撮像素子の各画素が、それぞれ１つの画素出力単位に相当するものとして、説明を行う。
　＜入射角指向性を生じさせる原理について＞
　撮像素子１２１の各画素の入射角指向性は、例えば、図６に示されるような原理により発生する。尚、図６の左上部および右上部は、図４の撮像素子１２１における入射角指向性の発生原理を説明する図であり、図６の左下部および右下部は、図５の撮像素子１２１における入射角指向性の発生原理を説明する図である。
　図６の左上部および右上部の画素は、いずれも１個のフォトダイオード１２１ｅを備える。これに対して、図６の左下部および右下部の画素は、いずれも２個のフォトダイオード１２１ｆを備える。尚、ここでは、１画素が２個のフォトダイオード１２１ｆを備える例を示しているが、これは説明の便宜上であり、１画素が備えるフォトダイオード１２１ｆの数は、その他の個数であってもよい。
　図６の左上部の画素においては、フォトダイオード１２１ｅ－１１の受光面の右半分を遮光するように遮光膜１２１ｂ－１１が形成されている。また、図６の右上部の画素においては、フォトダイオード１２１ｅ－１２の受光面の左半分を遮光するように遮光膜１２１ｂ－１２が形成されている。尚、図中の一点鎖線は、フォトダイオード１２１ｅの受光面の水平方向の中心を通り、受光面に対して垂直な補助線である。
　例えば、図６の左上部の画素においては、図中の一点鎖線に対して入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｅ－１１の遮光膜１２１ｂ－１１により遮光されていない左半分の範囲により受光され易い。これに対して、図中の一点鎖線に対して入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｅ－１１の遮光膜１２１ｂ－１１により遮光されていない左半分の範囲により受光されにくい。したがって、図６の左上部の画素は、図中の右上方からの入射光に対して受光感度が高く、左上方からの入射光に対して受光感度が低い入射角指向性を備えることになる。
　一方、例えば、図６の右上部の画素においては、入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｅ－１２の遮光膜１２１ｂ－１２により遮光されている左半分の範囲により受光されにくい。これに対して、入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｅ－１２の遮光膜１２１ｂ－１２により遮光されていない右半分の範囲により受光され易い。したがって、図６の右上部の画素は、図中の右上方からの入射光に対して受光感度が低く、左上方からの入射光に対して受光感度が高い入射角指向性を備えることになる。
　また、図６の左下部の画素は、図中の左右にフォトダイオード１２１ｆ－１１，１２１ｆ－１２が設けられており、いずれか一方の検出信号を読み出すようにすることで、遮光膜１２１ｂを設けることなく入射角指向性を有する構成とされている。
　すなわち、図６の左下部の画素では、図中の左側に設けられたフォトダイオード１２１ｆ－１１の信号のみを読み出すようにすることで、図６の左上部の画素と同様の入射角指向性を得ることができる。すなわち、図中の一点鎖線に対して入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｆ－１１に入射し、受光量に対応する信号がフォトダイオード１２１ｆ－１１から読み出されるため、この画素から出力される検出信号に寄与する。これに対して、図中の一点鎖線に対して入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｆ－１２に入射するが、フォトダイオード１２１ｆ－１２から読み出されないため、この画素から出力される検出信号に寄与しない。
　同様に、図６の右下部の画素のように、２個のフォトダイオード１２１ｆ－１３，１２１ｆ－１４を備える場合、図中の右側に設けられたフォトダイオード１２１ｆ－１４の信号のみを読み出すようにすることで、図６の右上部の画素と同様の入射角指向性を得ることができる。すなわち、入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｆ－１３に入射するが、フォトダイオード１２１ｆ－１３から信号が読み出されないため、この画素から出力される検出信号に寄与しない。これに対して、入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｆ－１４に入射し、受光量に対応する信号がフォトダイオード１２１ｆ－１４から読み出されるため、この画素から出力される検出信号に寄与する。
　尚、図６の上部の画素においては、画素（フォトダイオード１２１ｅの受光面）の水平方向の中心位置で遮光される範囲と遮光されない範囲が分かれる例を示したが、その他の位置で分かれるようにしてもよい。また、図６の下部の画素においては、画素の水平方向の中心位置で、２つのフォトダイオード１２１ｆが分かれる例を示したが、その他の位置で分かれるようにしてもよい。このように、遮光範囲又はフォトダイオード１２１ｆが分かれる位置を変えることにより、異なる入射角指向性を生じさせることができる。
　＜オンチップレンズを含む構成における入射角指向性について＞
　次に、図７を参照して、オンチップレンズ１２１ｃを含めた構成における入射角指向性について説明する。
　図７の上段のグラフは、図７の中段及び下段の画素の入射角指向性を示している。なお、横軸が入射角度θであり、縦軸が検出信号レベルを示している。なお、入射角度θは、入射光の方向が、図７の中段左側の一点鎖線と一致する場合を０度とし、図７の中段左側の入射角度θ２１側を正の方向とし、図７の中段右側の入射角度θ２２側を負の方向とする。したがって、オンチップレンズ１２１ｃに対して、右上方より入射する入射光については、左上方より入射する入射光よりも入射角度が大きくなる。すなわち入射角度θは、入射光の進行方向が左に傾くほど大きくなり（正の方向に大きくなり）、右に傾くほど小さくなる（負の方向に大きくなる）。
　また、図７の中段左部の画素は、図６の上段左部の画素に、入射光を集光するオンチップレンズ１２１ｃ－１１、及び、所定の波長の光を透過させるカラーフィルタ１２１ｄ－１１を追加したものである。すなわち、この画素では、オンチップレンズ１２１ｃ－１１、カラーフィルタ１２１ｄ－１１、遮光膜１２１ｂ－１１、フォトダイオード１２１ｅ－１１が、図中上方の光の入射方向から順に積層されている。
　同様に、図７の中段右部の画素、図７の下段左部の画素、及び、図７の下段右部の画素は、それぞれ、図６の上段右部の画素、図６の下段左部の画素、及び、図６の下段右部の画素に、オンチップレンズ１２１ｃ－１１及びカラーフィルタ１２１ｄ－１１、又は、オンチップレンズ１２１ｃ－１２及びカラーフィルタ１２１ｄ－１２を追加したものである。
　図７の中段左部の画素では、図７の上段の実線の波形で示されるように、入射光の入射角度θに応じてフォトダイオード１２１ｅ－１１の検出信号レベル（受光感度）が変化する。すなわち、図中の一点鎖線に対して入射光のなす角である入射角度θが大きいほど（入射角度θが正の方向に大きいほど（図中の右方向に傾くほど））、遮光膜１２１ｂ－１１が設けられていない範囲に光が集光されることで、フォトダイオード１２１ｅ－１１の検出信号レベルが大きくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど（図中の左方向に傾くほど））、遮光膜１２１ｂ－１１が設けられている範囲に光が集光されることで、フォトダイオード１２１ｅ－１１の検出信号レベルが小さくなる。
　また、図７の中段右部の画素では、図７の上段の点線の波形で示されるように、入射光の入射角度θに応じてフォトダイオード１２１ｅ－１２の検出信号レベル（受光感度）が変化する。すなわち、入射光の入射角度θが大きいほど（入射角度θが正の方向に大きいほど）、遮光膜１２１ｂ－１２が設けられている範囲に光が集光されることで、フォトダイオード１２１ｅ－１２の検出信号レベルが小さくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど）、遮光膜１２１ｂ－１２が設けられていない範囲に光が入射することで、フォトダイオード１２１ｅ－１２の検出信号レベルが大きくなる。
　この図７の上段に示される実線および点線の波形は、遮光膜１２１ｂの範囲に応じて変化させることができる。従って、遮光膜１２１ｂの範囲により、画素単位で相互に異なる入射角指向性を持たせることが可能となる。
　上述したように、入射角指向性とは、入射角度θに応じた各画素の受光感度の特性であるが、これは、図７の中段の画素では、入射角度θに応じた遮光値の特性であるとも言える。すなわち、遮光膜１２１ｂは、特定の方向の入射光は高いレベルで遮光するが、それ以外の方向からの入射光は十分に遮光できない。この遮光できるレベルの変化が、図７の上段に示されるような入射角度θに応じた異なる検出信号レベルを生じさせる。したがって、各画素において最も高いレベルで遮光可能な方向を各画素の遮光方向と定義すると、画素単位で相互に異なる入射角指向性を持つということは、換言すれば、画素単位で相互に異なる遮光方向を持つということになる。
　また、図７の下段左部の画素では、図６の下段左部の画素と同様に、図中左部のフォトダイオード１２１ｆ－１１のみの信号を用いるようにすることで、図７の中段左部の画素と同様の入射角指向性を得ることができる。すなわち、入射光の入射角度θが大きくなると（入射角度θが正の方向に大きくなると）、信号が読み出されるフォトダイオード１２１ｆ－１１の範囲に光が集光されることで、検出信号レベルが大きくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど）、信号が読み出されないフォトダイオード１２１ｆ－１２の範囲に光が集光されることで、検出信号レベルが小さくなる。
　また、同様に、図７の下段右部の画素では、図６の下段右部の画素と同様に、図中右部のフォトダイオード１２１ｆ－１４のみの信号を用いるようにすることで、図７の中段右部の画素と同様の入射角指向性を得ることができる。すなわち、入射光の入射角度θが大きくなると（入射角度θが正の方向に大きくなると）、出力（検出信号）に寄与しないフォトダイオード１２１ｆ－１３の範囲に光が集光されることで、画素単位の検出信号のレベルが小さくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど）、出力（検出信号）に寄与するフォトダイオード１２１ｆ－１４の範囲に光が集光されることで、画素単位の検出信号のレベルが大きくなる。
　なお、図７の下段の画素のように、画素内に複数のフォトダイオードを設け、出力に寄与するフォトダイオードを変更可能な画素において、各フォトダイオードに入射光の入射角に対する指向性を持たせ、画素単位での入射角指向性を生じさせるために、各画素にオンチップレンズ１２１ｃが必須構成となる。
　尚、入射角指向性については、画素単位でランダム性が高い方が望ましい。例えば、隣り合う画素間で同一の入射角指向性を持つと、上述した式（１）乃至式（３）または、後述する式（４）乃至式（６）が相互に同一の式となる恐れがあり、その結果、連立方程式の解となる未知数に対して式の数が不足し、復元画像を構成する画素値を求められなくなる恐れがあるためである。
　なお、以下の説明では、図４の画素１２１ａのように、遮光膜１２１ｂを用いて入射角指向性を実現する画素１２１ａを用いる場合の例を中心に説明する。ただし、遮光膜１２１ｂが必須となる場合を除いて、基本的にフォトダイオードを分割して入射角指向性を実現する画素１２１ａを用いることも可能である。
　＜遮光膜の構成について＞
　以上においては、図３に示されるように、撮像素子１２１の各画素１２１ａの遮光膜１２１ｂの構成として、垂直方向に対しては受光面全体を遮光し、水平方向の遮光幅や位置を変化させる例を示したが、当然のことながら、水平方向に対して受光面全体を遮光し、垂直方向の幅（高さ）や位置を変化させるようにして、各画素１２１ａに入射角指向性を持たせるようにしてもよい。
　尚、以降においては、図３の例のように、垂直方向に対しては画素１２１ａの受光面全体を遮光し、水平方向に対して所定の幅で受光面を遮光する遮光膜１２１ｂを、横帯タイプの遮光膜１２１ｂと称する。また、水平方向に対しては画素１２１ａの受光面全体を遮光し、垂直方向に対して所定の高さで受光面を遮光する遮光膜１２１ｂを、縦帯タイプの遮光膜１２１ｂと称する。
　また、図８の左部に示されるように、縦帯タイプと横帯タイプの遮光膜１２１ｂを組み合わせて、例えば、ベイヤ配列のそれぞれの画素に対して、Ｌ字型のような遮光膜１２１ｂを設けるようにしてもよい。
　尚、図８においては、黒色の範囲が遮光膜１２１ｂを表しており、特に断りがない限り、以降の図面においても同様に表示する。また、図８の例では、ベイヤ配列となるＧ（緑色）画素の画素１２１ａ－２１，１２１ａ－２４、Ｒ（赤色）画素の画素１２１ａ－２２、およびＢ（青色）画素の画素１２１ａ－２３のそれぞれに対して、Ｌ字型の遮光膜１２１ｂ－２１乃至１２１ｂ－２４が設けられている。
　この場合、各画素１２１ａは、図８の右部に示されるような入射角指向性を有することになる。すなわち、図８の右部においては、各画素１２１ａの受光感度の分布が示されており、横軸が入射光の水平方向（ｘ方向）の入射角度θｘを表し、縦軸が入射光の垂直方向（ｙ方向）の入射角度θｙを表している。そして、範囲Ｃ４内の受光感度が、範囲Ｃ４の外よりも高く、範囲Ｃ３内の受光感度が、範囲Ｃ３の外よりも高く、範囲Ｃ２内の受光感度が、範囲Ｃ２の外よりも高く、範囲Ｃ１内の受光感度が、範囲Ｃ１の外よりも高くなる。
　従って、各画素１２１ａにおいて、水平方向（ｘ方向）の入射角度θｘと、垂直方向（ｙ方向）の入射角度θｙとが範囲Ｃ１内となる入射光に対する検出信号レベルが最も高くなる。そして、入射角度θｘと入射角度θｙが範囲Ｃ２内、範囲Ｃ３内、範囲Ｃ４内、および、範囲Ｃ４以外の範囲となる入射光の順に検出信号レベルが低くなる。尚、図８の右部に示される受光感度の強度分布は、ベイヤ配列とは無関係に、各画素１２１ａにおける遮光膜１２１ｂにより遮光される範囲により決定されるものである。
　尚、以降においては、図８のＬ字型の遮光膜１２１ｂ－２１乃至１２１ｂ－２４のように、縦帯タイプの遮光膜と横帯タイプの遮光膜をそれぞれの端部でつなぎ合わせた形状の遮光膜１２１ｂを、Ｌ字タイプの遮光膜１２１ｂと総称するものとする。
　＜入射角指向性の設定方法＞
　次に、図９を参照して、入射角指向性の設定方法の例について説明する。
　例えば、図９の上段に示されるように、遮光膜１２１ｂの水平方向の遮光範囲が、画素１２１ａの左端部から位置Ａまでの範囲とし、垂直方向の遮光範囲が、画素１２１ａの上端部から位置Ｂまでの範囲である場合について考える。
　この場合、各画素の水平方向の中心位置からの入射角度θｘ（ｄｅｇ）に応じた重みであって、水平方向の入射角指向性の指標となる０乃至１の重みＷｘを設定する。より詳細には、位置Ａに対応する入射角度θｘ＝θａにおいて、重みＷｘが０．５になると仮定した場合、入射角度θｘ＜θａ－αにおいて重みＷｘが１となり、θａ－α≦入射角度θｘ≦θａ＋αにおいて、重みＷｘが（－（θｘ－θａ）／２α＋０．５）となり、入射角度θｘ＞θａ＋αにおいて重みＷｘが０となるように重みＷｘを設定する。
　同様に、各画素の垂直方向の中心位置からの入射角度θｙ（ｄｅｇ）に応じた重みであって、垂直方向の入射角指向性の指標となる０乃至１の重みＷｙを設定する。より詳細には、位置Ｂに対応する入射角度θｙ＝θｂにおいて、重みＷｙが０．５になると仮定した場合、入射角度θｙ＜θｂ－αにおいて重みＷｙが０となり、θｂ－α≦入射角度θｙ≦θｂ＋αにおいて、重みＷｙが（（θｙ－θｂ）／２α＋０．５）となり、入射角度θｙ＞θｂ＋αにおいて重みＷｙが１となるように重みＷｙを設定する。
　尚、重みＷｘ及び重みＷｙが、図９のグラフのように変化するのは、理想的な条件が満たされる場合となる。
　そして、このようにして求められた重みＷｘ，Ｗｙを用いることにより、それぞれの画素１２１ａの入射角指向性、すなわち、受光感度特性に対応する係数を求めることができる。例えば、被写体面３１のある点光源からの入射光の入射角度θｘに対応する重みＷｘと、入射角度θｙに対応する重みＷｙとを乗じた値が、その点光源に対する係数に設定される。
　また、このとき、水平方向の重みＷｘおよび垂直方向の重みＷｙが０．５前後となる範囲における重みの変化を示す傾き（１／２α）は、焦点距離の異なるオンチップレンズ１２１ｃを用いることで設定することができる。
　例えば、図９の下段の実線で示されるように、オンチップレンズ１２１ｃの焦点距離が遮光膜１２１ｂの表面に合っている場合、水平方向の重みＷｘ及び垂直方向の重みＷｙの傾き（１／２α）は、急峻になる。すなわち、重みＷｘおよび重みＷｙは、値が０．５付近となる水平方向の入射角度θｘ＝θａ、および、垂直方向の入射角度θｙ＝θｂの境界付近において、急激に０または１に変化する。
　また、例えば、図９の下段の点線で示されるように、オンチップレンズ１２１ｃの焦点距離がフォトダイオード１２１ｅの表面に合っている場合、水平方向の重みＷｘ及び垂直方向の重みＷｙの傾き（１／２α）は、緩やかになる。すなわち、重みＷｘおよび重みＷｙは、値が０．５付近となる水平方向の入射角度θｘ＝θａ、および、垂直方向の入射角度θｙ＝θｂの境界付近において、緩やかに０または１に変化する。
　例えば、オンチップレンズ１２１ｃの焦点距離は、オンチップレンズ１２１ｃの曲率により変化する。従って、曲率の異なるオンチップレンズ１２１ｃを用いて、オンチップレンズ１２１ｃの焦点距離を変化させることで異なる入射角指向性、すなわち、異なる受光感度特性を得ることができる。
　したがって、画素１２１ａの入射角指向性は、遮光膜１２１ｂによりフォトダイオード１２１ｅが遮光される範囲と、オンチップレンズ１２１ｃの曲率との組み合わせにより調整することができる。尚、オンチップレンズの曲率は、撮像素子１２１の全ての画素１２１ａで同一にしてもよいし、一部の画素１２１ａで異なるようにしてもよい。
　例えば、撮像素子１２１の各画素１２１ａの入射角指向性を表す指標として、各画素１２１ａの位置、各画素１２１ａの遮光膜１２１ｂの形状、位置、範囲、オンチップレンズ１２１ｃの曲率等に基づいて、図９のグラフのような重みＷｘ及び重みＷｙの特性が画素１２１ａ毎に設定される。また、所定の被写体距離の被写体面３１上のある点光源と、撮像素子１２１のある画素１２１ａとの位置関係に基づいて、当該点光源から当該画素１２１ａへの光線の入射角度が求められる。そして、求めた入射角度、並びに、当該画素１２１ａの重みＷｘ及び重みＷｙの特性に基づいて、当該点光源に対する当該画素１２１ａの係数が求められる。
　同様に、被写体面３１上の各点光源と撮像素子１２１の各画素１２１ａとの組み合わせについて、上述したように係数を求めることにより、上述した式（１）乃至式（３）の係数セットα１，β１，γ１，係数セットα２，β２，γ２，係数セットα３，β３，γ３のような、被写体面３１に対する撮像素子１２１の係数セット群を求めることができる。
　なお、図１３を参照して後述するように、被写体面３１から撮像素子１２１の受光面までの被写体距離が異なると、被写体面３１の各点光源からの光線の撮像素子１２１への入射角が異なるため、被写体距離毎に異なる係数セット群が必要となる。
　また、同じ被写体距離の被写体面３１であっても、設定する点光源の数や配置が異なると、各点光源からの光線の撮像素子１２１への入射角が異なる。従って、同じ被写体距離の被写体面３１に対して、複数の係数セット群が必要となる場合がある。また、各画素１２１ａの入射角指向性は、上述した連立方程式の独立性を確保できるように設定する必要がある。
　＜オンチップレンズと撮像レンズとの違い＞
　本開示の撮像装置１０１においては、撮像素子１２１は、撮像レンズからなる光学ブロックやピンホールを必要としない構成であるが、上述したように、オンチップレンズ１２１ｃは設けられる。ここで、オンチップレンズ１２１ｃと撮像レンズとは、物理的作用が異なるものである。
　例えば、図１０に示されるように、点光源Ｐ１０１から発せられた拡散光のうち撮像レンズ１５２に入射した光は、撮像素子１５１上の画素位置Ｐ１１１において集光する。すなわち、撮像レンズ１５２は、点光源Ｐ１０１から異なる角度で入射する拡散光を、画素位置Ｐ１１１に集光し、点光源Ｐ１０１の像を結像させるように設計されている。この画素位置Ｐ１１１は、点光源Ｐ１０１と撮像レンズ１５２の中心とを通る主光線Ｌ１０１により特定される。
　また、例えば、図１１に示されるように、点光源Ｐ１０１とは異なる点光源Ｐ１０２から発せられた拡散光のうち撮像レンズ１５２に入射した光は、撮像素子１５１上の画素位置Ｐ１１１とは異なる画素位置Ｐ１１２において集光する。すなわち、撮像レンズ１５２は、点光源Ｐ１０２から異なる角度で入射する拡散光を、画素位置Ｐ１１２に集光し、点光源Ｐ１０２の像を結像させるように設計されている。この画素位置Ｐ１１２は、点光源Ｐ１０２と撮像レンズ１５２の中心とを通る主光線Ｌ１０２により特定される。
　このように、撮像レンズ１５２は、撮像素子１５１上の異なる画素位置Ｐ１１１，Ｐ１１２に、それぞれ主光線が異なる点光源Ｐ１０１，Ｐ１０２の像を結像させる。
　さらに、図１２に示されるように、点光源Ｐ１０１が無限遠に存在する場合、点光源Ｐ１０１から発せられた拡散光の一部が、主光線Ｌ１０１に平行な平行光として撮像レンズ１５２に入射する。例えば、主光線Ｌ１０１に対して平行な光線Ｌ１２１と光線Ｌ１２２の間の光線からなる平行光が撮像レンズ１５２に入射する。そして、撮像レンズ１５２に入射した平行光は、撮像素子１５１上の画素位置Ｐ１１１に集光する。すなわち、撮像レンズ１５２は、無限遠に存在する点光源Ｐ１０１からの平行光を、画素位置Ｐ１１１に集光し、点光源Ｐ１０１の像を結像させるように設計されている。
　従って、撮像レンズ１５２は、例えば、主光線入射角θ１を持つ点光源からの拡散光を画素（画素出力単位）Ｐ１に入射させ、主光線入射角θ１とは異なる主光線入射角θ２を持つ点光源からの拡散光を、画素Ｐ１とは異なる画素（画素出力単位）Ｐ２に入射させる集光機能を持つ。すなわち、撮像レンズ１５２は、主光線の入射角が異なる光源からの拡散光を、互いに隣接する複数の画素（画素出力単位）へ入射させるための集光機能を持つ。ただし、例えば、互いに近接している点光源や、無限遠に存在しており実質的に近接している点光源からの光は、同じ画素（画素出力単位）に入射する場合がある。
　これに対して、例えば、図４，図５を参照して説明したように、オンチップレンズ１２１ｃを通る光は、対応する画素（画素出力単位）を構成するフォトダイオード１２１ｅまたはフォトダイオード１２１ｆの受光面のみに入射される。換言すれば、オンチップレンズ１２１ｃは、画素（画素出力単位）毎に設けられ、自身に入射する入射光を対応する画素（画素出力単位）のみに集光する。すなわち、オンチップレンズ１２１ｃは、異なる点光源からの光を、異なる画素（画素出力単位）へ入射させるための集光機能を持たない。
　なお、ピンホールを用いた場合、各画素（画素出力単位）の位置と光の入射角の関係が一意に定まる。したがって、ピンホールと従来の撮像素子を用いた構成の場合、各画素に対して、入射角指向性を独立して自由に設定することができない。
　＜被写体面と撮像素子との距離の関係＞
　次に、図１３を参照して、被写体面と撮像素子１２１との距離の関係について説明する。
　なお、図１３の左上に示されるように、撮像素子１２１（図１の撮像素子５１と同様）と被写体面３１までの被写体距離が距離ｄ１である場合、撮像素子１２１上の画素Ｐｃ，Ｐｂ，Ｐａにおける検出信号レベルＤＡ，ＤＢ，ＤＣが、上述した式（１）乃至式（３）と同一の式で表されるものとする。
　ＤＡ＝α１×ａ＋β１×ｂ＋γ１×ｃ
　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（１）
　ＤＢ＝α２×ａ＋β２×ｂ＋γ２×ｃ
　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（２）
　ＤＣ＝α３×ａ＋β３×ｂ＋γ３×ｃ
　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（３）
　また、図１３の左下に示されるように、撮像素子１２１との被写体距離が距離ｄ１よりもｄだけ大きな距離ｄ２である被写体面３１’、すなわち、撮像素子１２１から見て、被写体面３１よりも奥の被写体面３１’について考える場合も、撮像素子１２１上の画素Ｐｃ，Ｐｂ，Ｐａにおける検出信号レベルは、図１３の下段中央部に示されるように、検出信号レベルＤＡ，ＤＢ，ＤＣで同様になる。
　しかしながら、この場合、被写体面３１’上の点光源ＰＡ’，ＰＢ’，ＰＣ’からの光強度ａ’，ｂ’，ｃ’の光線が撮像素子１２１の各画素において受光される。また、撮像素子１２１への光強度ａ’，ｂ’，ｃ’の光線の入射角度が異なる（変化する）ので、それぞれ異なる係数セット群が必要となる。従って、各画素Ｐａ，Ｐｂ，Ｐｃにおける検出信号レベルＤＡ，ＤＢ，ＤＣは、例えば、以下の式（４）乃至式（６）で表される。
　ＤＡ＝α１１×ａ’＋β１１×ｂ’＋γ１１×ｃ’
　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（４）
　ＤＢ＝α１２×ａ’＋β１２×ｂ’＋γ１２×ｃ’
　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（５）
　ＤＣ＝α１３×ａ’＋β１３×ｂ’＋γ１３×ｃ’
　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（６）
　ここで、係数セットα１１，β１１，γ１１，係数セットα１２，β１２，γ１２，係数セットα１３，β１３，γ１３からなる係数セット群は、被写体面３１に対する係数セットα１，β１，γ１，係数セットα２，β２，γ２，係数セットα３，β３，γ３に対応する被写体面３１’に対する係数セット群である。
　従って、式（４）乃至式（６）からなる連立方程式を、予め設定された係数セット群α１１，β１１，γ１１，α１２，β１２，γ１２，α１３，β１３，γ１３を用いて解くことで、被写体面３１の点光源ＰＡ，ＰＢ，ＰＣからの光線の光強度ａ，ｂ，ｃを求める場合と同様の手法で、図１３の右下に示されるように、被写体面３１’の点光源ＰＡ’，ＰＢ’，ＰＣ’からの光線の光強度ａ’，ｂ’，ｃ’を求めることができる。その結果、被写体面３１’の復元画像を復元することが可能となる。
　従って、図２の撮像装置１０１においては、撮像素子１２１からの被写体面までの距離（被写体距離）毎の係数セット群を予め用意しておき、被写体距離毎に係数セット群を切り替えて連立方程式を作成し、作成した連立方程式を解くことで、１個の検出画像に基づいて、様々な被写体距離の被写体面の復元画像を得ることが可能となる。例えば、検出画像を１回撮像し、記録した後、記録した検出画像を用いて、被写体面までの距離に応じて係数セット群を切り替えて、復元画像を復元することにより、任意の被写体距離の被写体面の復元画像を生成することが可能である。
　また、被写体距離や画角が特定できるような場合については、全ての画素を用いずに、特定された被写体距離や画角に対応した被写体面の撮像に適した入射角指向性を有する画素の検出信号を用いて、復元画像を生成するようにしてもよい。これにより、特定された被写体距離や画角に対応した被写体面の撮像に適した画素の検出信号を用いて復元画像を生成することができる。
　例えば、図１４の上段に示されるように、４辺のそれぞれの端部から幅ｄ１だけ遮光膜１２１ｂにより遮光されている画素１２１ａと、図１４の下段に示されるように、４辺のそれぞれの端部から幅ｄ２（＞ｄ１）だけ遮光膜１２１ｂにより遮光されている画素１２１ａ’とを考える。
　図１５は、撮像素子１２１の中心位置Ｃ１への被写体面３１からの入射光の入射角度の例を示している。なお、図１５においては、水平方向の入射光の入射角度の例を示しているが、垂直方向についてもほぼ同様となる。また、図１５の右部には、図１４における画素１２１ａ，１２１ａ’が示されている。
　例えば、図１４の画素１２１ａが撮像素子１２１の中心位置Ｃ１に配置されている場合、被写体面３１から画素１２１ａへの入射光の入射角の範囲は、図１５の左部に示されるように角度Ａ１となる。従って、画素１２１ａは、被写体面３１の水平方向の幅Ｗ１分の入射光を受光することができる。
　これに対して、図１４の画素１２１ａ’が撮像素子１２１の中心位置Ｃ１に配置されている場合、画素１２１ａ’は画素１２１ａよりも遮光される範囲が広いため、被写体面３１から画素１２１ａ’への入射光の入射角の範囲は、図１５の左部に示されるように角度Ａ２（＜Ａ１）となる。従って、画素１２１ａ’は、被写体面３１の水平方向の幅Ｗ２（＜Ｗ１）分の入射光を受光することができる。
　つまり、遮光範囲が狭い画素１２１ａは、被写体面３１上の広い範囲を撮像するのに適した広画角画素であるのに対して、遮光範囲が広い画素１２１ａ’は、被写体面３１上の狭い範囲を撮像するのに適した狭画角画素である。尚、ここでいう広画角画素および狭画角画素は、図１４の画素１２１ａ，１２１ａ’の両者を比較する表現であって、その他の画角の画素を比較する上ではこの限りではない。
　従って、例えば、画素１２１ａは、図１４の画像Ｉ１を復元するために用いられる。画像Ｉ１は、図１６の上段の被写体となる人物Ｈ１０１の全体を含み、被写体幅Ｗ１に対応する画角ＳＱ１の画像である。これに対して、例えば、画素１２１ａ’は、図１４の画像Ｉ２を復元するために用いられる。画像Ｉ２は、図１６の上段の人物Ｈ１０１の顔の周辺がズームアップされた被写体幅Ｗ２に対応する画角ＳＱ２の画像である。
　また、例えば、図１６の下段に示されるように、撮像素子１２１の点線で囲まれた範囲ＺＡに、図１４の画素１２１ａを、一点鎖線で囲まれた範囲ＺＢに画素１２１ａ’を、それぞれ所定画素数ずつ集めて配置することが考えられる。そして、例えば、被写体幅Ｗ１に対応する画角ＳＱ１の画像を復元するときには、範囲ＺＡ内の各画素１２１ａの検出信号を用いるようにすることで、適切に画角ＳＱ１の画像を復元することができる。一方、被写体幅Ｗ２に対応する画角ＳＱ２の画像を復元するときには、範囲ＺＢ内の各画素１２１ａ’の検出信号を用いるようにすることで、適切に画角ＳＱ２の画像を復元することができる。
　なお、画角ＳＱ２は、画角ＳＱ１よりも狭いので、画角ＳＱ２と画角ＳＱ１の画像を同一の画素数で復元する場合、画角ＳＱ１の画像よりも、画角ＳＱ２の画像を復元する方が、より高画質な復元画像を得ることができる。
　つまり、同一画素数を用いて復元画像を得ることを考えた場合、より画角の狭い画像を復元する方が、より高画質な復元画像を得ることができる。
　例えば、図１７の右部は、図１６の撮像素子１２１の範囲ＺＡ内の構成例を示している。図１７の左部は、範囲ＺＡ内の画素１２１ａの構成例を示している。
　図１７において、黒色で示された範囲が遮光膜１２１ｂであり、各画素１２１ａの遮光範囲は、例えば、図１７の左部に示される規則に従って決定される。
　図１７の左部の主遮光部Ｚ１０１（図１７の左部の黒色部）は、各画素１２１ａにおいて共通に遮光される範囲である。具体的には、主遮光部Ｚ１０１は、画素１２１ａの左辺及び右辺から画素１２１ａ内に向かって、それぞれ幅ｄｘ１の範囲、並びに、画素１２１ａの上辺及び下辺から画素１２１ａ内に向かって、それぞれ高さｄｙ１の範囲である。そして、各画素１２１ａにおいて、主遮光部Ｚ１０１の内側の範囲Ｚ１０２内に、遮光膜１２１ｂにより遮光されない矩形の開口部Ｚ１１１が設けられる。従って、各画素１２１ａにおいて、開口部Ｚ１１１以外の範囲が、遮光膜１２１ｂにより遮光される。
　ここで、各画素１２１ａの開口部Ｚ１１１は規則的に配置されている。具体的には、各画素１２１ａ内における開口部Ｚ１１１の水平方向の位置は、同じ垂直方向の列の画素１２１ａ内において同一になる。また、各画素１２１ａ内における開口部Ｚ１１１の垂直方向の位置は、同じ水平方向の行の画素１２１ａ内において同一になる。
　一方、各画素１２１ａ内における開口部Ｚ１１１の水平方向の位置は、画素１２１ａの水平方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａの位置が右方向に進むに従って、開口部Ｚ１１１の左辺が、画素１２１ａの左辺からそれぞれ幅ｄｘ１、ｄｘ２、・・・、ｄｘｎだけ右方向にずれた位置に移動する。幅ｄｘ１と幅ｄｘ２の間隔、幅ｄｘ２と幅ｄｘ３の間隔、・・・、幅ｄｘｎ－１と幅ｄｘｎの間隔は、それぞれ範囲Ｚ１０２の水平方向の幅から開口部Ｚ１１１の幅を引いた長さを水平方向の画素数ｎ－１で割った値となる。
　また、各画素１２１ａ内における開口部Ｚ１１１の垂直方向の位置は、画素１２１ａの垂直方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａの位置が下方向に進むに従って、開口部Ｚ１１１の上辺が、画素１２１ａの上辺からそれぞれ高さｄｙ１、ｄｙ２、・・・、ｄｙｎだけ下方向にずれた位置に移動する。高さｄｙ１と高さｄｙ２の間隔、高さｄｙ２と高さｄｙ３の間隔、・・・、高さｄｙｎ－１と高さｄｙｎの間隔は、それぞれ範囲Ｚ１０２の垂直方向の高さから開口部Ｚ１１１の高さを引いた長さを垂直方向の画素数ｍ－１で割った値となる。
　図１８の右部は、図１６の撮像素子１２１の範囲ＺＢ内の構成例を示している。図１８の左部は、範囲ＺＢ内の画素１２１ａ’の構成例を示している。
　図１８において、黒色で示された範囲が遮光膜１２１ｂ’であり、各画素１２１ａ’の遮光範囲は、例えば、図１８の左部に示される規則に従って決定される。
　図１８の左部の主遮光部Ｚ１５１（図１８に左部の黒色部）は、各画素１２１ａ’において共通に遮光される範囲である。具体的には、主遮光部Ｚ１５１は、画素１２１ａ’の左辺及び右辺から画素１２１ａ’内に向かって、それぞれ幅ｄｘ１’の範囲、並びに、画素１２１ａ’の上辺及び下辺から画素１２１ａ’内に向かって、それぞれ高さｄｙ１’の範囲である。そして、各画素１２１ａ’において、主遮光部Ｚ１５１の内側の範囲Ｚ１５２内に、遮光膜１２１ｂ’により遮光されない矩形の開口部Ｚ１６１が設けられる。従って、各画素１２１ａ’において、開口部Ｚ１６１以外の範囲が、遮光膜１２１ｂ’により遮光される。
　ここで、各画素１２１ａ’の開口部Ｚ１６１は、図１７の各画素１２１ａの開口部Ｚ１１１と同様に、規則的に配置されている。具体的には、各画素１２１ａ’内における開口部Ｚ１６１の水平方向の位置は、同じ垂直方向の列の画素１２１ａ’内において同一になる。また、各画素１２１ａ’内における開口部Ｚ１６１の垂直方向の位置は、同じ水平方向の行の画素１２１ａ’内において同一になる。
　一方、各画素１２１ａ’内における開口部Ｚ１６１の水平方向の位置は、画素１２１ａ’の水平方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａ’の位置が右方向に進むに従って、開口部Ｚ１６１の左辺が、画素１２１ａ’の左辺からそれぞれ幅ｄｘ１’、ｄｘ２’、・・・、ｄｘｎ’だけ右方向にずれた位置に移動する。幅ｄｘ１’と幅ｄｘ２’の間隔、幅ｄｘ２’と幅ｄｘ３’の間隔、・・・、幅ｄｘｎ－１’と幅ｄｘｎ’の間隔は、それぞれ範囲Ｚ１５２の水平方向の幅から開口部Ｚ１６１の幅を引いた長さを水平方向の画素数ｎ－１で割った値となる。
　また、各画素１２１ａ’内における開口部Ｚ１６１の垂直方向の位置は、画素１２１ａ’の垂直方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａ’の位置が下方向に進むに従って、開口部Ｚ１６１の上辺が、画素１２１ａ’の上辺からそれぞれ高さｄｙ１’，ｄｙ２’、・・・、ｄｙｎ’だけ下方向にずれた位置に移動する。高さｄｙ１’と高さｄｙ２’の間隔、高さｄｙ２’と高さｄｙ３’の間隔、・・・、高さｄｙｎ－１’と高さｄｙｎ’の間隔は、それぞれ範囲Ｚ１５２の垂直方向の高さから開口部Ｚ１６１の高さを引いた長さを垂直方向の画素数ｍ－１で割った値となる。
　ここで、図１７の画素１２１ａの範囲Ｚ１０２の水平方向の幅から開口部Ｚ１１１の幅を引いた長さは、図１８の画素１２１ａ’の範囲Ｚ１５２の水平方向の幅から開口部Ｚ１６１の幅を引いた幅より大きくなる。従って、図１７の幅ｄｘ１、ｄｘ２・・・ｄｘｎの変化の間隔は、図１８の幅ｄｘ１’、ｄｘ２’・・・ｄｘｎ’の変化の間隔より大きくなる。
　また、図１７の画素１２１ａの範囲Ｚ１０２の垂直方向の高さから開口部Ｚ１１１の高さを引いた長さは、図１８の画素１２１ａ’の範囲Ｚ１５２の垂直方向の高さから開口部Ｚ１６１の高さを引いた長さより大きくなる。従って、図１７の高さｄｙ１、ｄｙ２・・・ｄｙｎの変化の間隔は、図１８の高さｄｙ１’、ｄｙ２’・・・ｄｙｎ’の変化の間隔より大きくなる。
　このように、図１７の各画素１２１ａの遮光膜１２１ｂの開口部Ｚ１１１の水平方向および垂直方向の位置の変化の間隔と、図１８の各画素１２１ａ’の遮光膜１２１ｂ’の開口部Ｚ１６１の水平方向および垂直方向の位置の変化の間隔とは異なる。そして、この間隔の違いが、復元画像における被写体分解能（角度分解能）の違いとなる。すなわち、図１８の各画素１２１ａ’の遮光膜１２１ｂ’の開口部Ｚ１６１の水平方向および垂直方向の位置の変化の間隔の方が、図１７の各画素１２１ａの遮光膜１２１ｂの開口部Ｚ１１１の水平方向および垂直方向の位置の変化の間隔より狭くなる。従って、図１８の各画素１２１ａ’の検出信号を用いて復元される復元画像は、図１７の各画素１２１ａの検出信号を用いて復元される復元画像より、被写体分解能が高くなり、高画質となる。
　このように、主遮光部の遮光範囲と開口部の開口範囲との組み合わせを変化させることで、様々な画角の（様々な入射角指向性を持った）画素からなる撮像素子１２１を実現することが可能となる。
　尚、以上においては、画素１２１ａと画素１２１ａ’を範囲ＺＡと範囲ＺＢに分けて配置する例を示したが、これは説明を簡単にするためであり、異なる画角に対応する画素１２１ａが同じ領域内に混在して配置されることが望ましい。
　例えば、図１９に示されるように、点線で示される２画素×２画素からなる４画素を１個の単位Ｕとして、それぞれの単位Ｕが、広画角の画素１２１ａ－Ｗ、中画角の画素１２１ａ－Ｍ、狭画角の画素１２１ａ－Ｎ、極狭画角の画素１２１ａ－ＡＮの４画素から構成されるようにする。
　この場合、例えば、全画素１２１ａの画素数がＸである場合、４種類の画角ごとにＸ／４画素ずつの検出画像を用いて復元画像を復元することが可能となる。この際、画角毎に異なる４種類の係数セット群が使用されて、４種類の異なる連立方程式により、それぞれ異なる画角の復元画像が復元される。
　従って、復元する復元画像の画角の撮像に適した画素から得られる検出画像を用いて復元画像を復元することで、４種類の画角に応じた適切な復元画像を得ることが可能となる。
　また、４種類の画角の中間の画角や、その前後の画角の画像を、４種類の画角の画像から補間生成するようにしてもよく、様々な画角の画像をシームレスに生成することで、疑似的な光学ズームを実現するようにしてもよい。
　尚、例えば、画角の広い画像を復元画像として得る場合、広画角画素を全て用いるようにしてもよいし、広画角画素の一部を用いるようにしてもよい。また、例えば、画角の狭い画像を復元画像として得る場合、狭画角画素を全て用いるようにしてもよいし、狭画角画素の一部を用いるようにしてもよい。
　＜撮像装置１０１による撮像処理＞
　次に、図２０のフローチャートを参照して、図２の撮像装置１０１による撮像処理について説明する。
　ステップＳ１において、撮像素子１２１は、被写体の撮像を行う。これにより、異なる入射角指向性を備える撮像素子１２１の各画素１２１ａから、被写体からの入射光の光量に応じた検出信号レベルを示す検出信号が出力され、撮像素子１２１は、各画素１２１ａの検出信号からなる検出画像を復元部１２２に供給する。
　ステップＳ２において、復元部１２２は、画像の復元に用いる係数を求める。具体的には、復元部１２２は、復元対象となる被写体面３１までの距離、すなわち被写体距離を設定する。なお、被写体距離の設定方法には、任意の方法を採用することができる。例えば、復元部１２２は、入力部１２４を介してユーザにより入力された被写体距離、又は、検出部１２５により検出された被写体距離を、復元対象となる被写体面３１までの距離に設定する。
　次に、復元部１２２は、設定した被写体距離に対応付けられている係数セット群を記憶部１２８から読み出す。
　ステップＳ３において、復元部１２２は、検出画像及び係数を用いて、画像の復元を行う。具体的には、復元部１２２は、検出画像の各画素の検出信号レベルと、ステップＳ２の処理で取得した係数セット群とを用いて、上述した式（１）乃至式（３）、または、式（４）乃至式（６）を参照して説明した連立方程式を作成する。次に、復元部１２２は、作成した連立方程式を解くことにより、設定した被写体距離に対応する被写体面３１上の各点光源の光強度を算出する。そして、復元部１２２は、算出した光強度に応じた画素値を有する画素を被写体面３１の各点光源の配置に従って並べることにより、被写体の像が結像された復元画像を生成する。
　ステップＳ４において、撮像装置１０１は、復元画像に対して各種の処理を行う。例えば、復元部１２２は、必要に応じて、復元画像に対して、デモザイク処理、γ補正、ホワイトバランス調整、所定の圧縮形式への変換処理等を行う。また、復元部１２２は、例えば、必要に応じて、復元画像を表示部１２７に供給し、表示させたり、記録再生部１２９に供給し、記録媒体１３０に記録させたり、通信部１３１を介して、他の機器に出力したりする。
　その後、撮像処理は終了する。
　尚、以上においては、撮像素子１２１と被写体距離に対応付けられた係数セット群を用いて、検出画像から復元画像を復元する例について説明してきたが、例えば、被写体距離に加えて、上述したように、復元画像の画角に対応する係数セット群をさらに用意して、被写体距離および画角に応じた係数セット群を用いて、復元画像を復元するようにしても良い。尚、被写体距離および画角に対する分解能は、用意される係数セット群の数によるものとなる。
　また、図２０のフローチャートを用いた処理の説明においては、検出画像に含まれる全ての画素の検出信号を用いる例について説明してきたが、撮像素子１２１を構成する画素のうち、特定された被写体距離および画角に対応する入射角指向性を備えた画素の検出信号からなる検出画像を生成し、これを用いて復元画像を復元するようにしても良い。このような処理により、求めようとする復元画像の被写体距離や画角に適した検出画像で復元画像を復元することが可能となり、復元画像の復元精度や画質が向上する。すなわち、特定された被写体距離および画角に対応する画像が、例えば、図１６における画角ＳＱ１に対応する画像である場合、画角ＳＱ１に対応する入射角指向性を備えた画素１２１ａを選択し、これらから得られる検出画像で復元画像を復元することにより、画角ＳＱ１の画像を高い精度で復元することが可能となる。
　以上の処理により、各画素に入射角指向性を持たせるようにした撮像素子１２１を必須構成とした撮像装置１０１を実現することが可能となる。
　結果として、撮像レンズ、ピンホール、及び、上述した特許文献等に記載の光学フィルタが不要となるため、装置の設計の自由度を高めることが可能になると共に、撮像素子１２１と別体で構成され、撮像装置として構成する段階で撮像素子１２１と合わせて搭載されることが想定される光学素子が不要となるため、入射光の入射方向に対する装置の小型化を実現することが可能となり、製造コストを低減することが可能となる。また、フォーカスレンズなどのような、光学像を結像させるための撮像レンズに相当するレンズが不要となる。ただし、倍率を変化させるズームレンズは設けられていてもよい。
　なお、以上においては、検出画像の撮像を行った後、すぐに所定の被写体距離に対応する復元画像を復元する処理について説明したが、例えば、すぐに復元処理を行わずに、検出画像を記録媒体１３０に記録したり、通信部１３１を介して、他の機器に出力したりした後、所望のタイミングで検出画像を用いて、復元画像を復元するようにしてもよい。この場合、復元画像の復元は、撮像装置１０１で行ってもよいし、他の装置で行ってもよい。この場合、例えば、任意の被写体距離や画角に応じた係数セット群を用いて作成した連立方程式を解いて復元画像を求めることで、任意の被写体距離や画角の被写体面に対する復元画像を得ることができ、リフォーカス等を実現することができる。
　例えば、撮像レンズと従来の撮像素子からなる撮像装置を用いた場合、様々な焦点距離や画角の画像を得るためには、焦点距離や画角を様々に変化させながら、撮像しておく必要がある。一方、撮像装置１０１においては、このように係数セット群を切り替えて任意の被写体距離や画角の復元画像を復元させることができるので、焦点距離（すなわち、被写体距離）や画角を様々に変化させながら繰り返し撮像するといった処理が不要になる。
　この場合、例えば、ユーザは、異なる被写体距離や画角に対応する係数セット群を切り替えながら、復元された復元画像をそれぞれ表示部１２７に表示させながら、所望の被写体距離や画角の復元画像を得ることも可能である。
　なお、検出画像を記録する場合、復元時の被写体距離や画角が決まっているとき、復元に用いるメタデータを検出画像と関連付けるようにしてもよい。例えば、検出画像を含む画像データにメタデータを付与したり、検出画像とメタデータに同じＩＤを付与したり、検出画像とメタデータを同じ記録媒体１３０に記録させたりすることにより、検出画像とメタデータが関連付けられる。
　なお、検出画像とメタデータに同じＩＤが付与された場合は、検出画像とメタデータを異なる記録媒体に記録したり、個別に撮像装置１０１から出力したりすることが可能である。
　また、メタデータには、復元に用いる係数セット群を含んでいてもよいし、含んでいなくてもよい。後者の場合、例えば、復元時の被写体距離や画角がメタデータに含まれ、復元時に、その被写体距離や画角に対応する係数セット群が記憶部１２８等から取得される。
　さらに、撮像時にすぐに復元画像の復元を行う場合、例えば、記録したり外部に出力したりする画像を、検出画像及び復元画像の中から選択することが可能である。例えば、両方の画像を記録又は外部に出力してもよいし、一方の画像のみを記録又は外部に出力してもよい。
　また、動画を撮像する場合も同様に、撮像時の復元画像の復元の有無や、記録又は外部に出力する画像の選択が可能である。例えば、動画の撮像を行いながら、各フレームの復元画像をすぐに復元するとともに、復元画像及び復元前の検出画像の両方又は一方を記録したり、外部に出力したりすることが可能である。この場合、撮像時に各フレームの復元画像をスルー画として表示させることも可能である。或いは、例えば、撮像時には復元処理を行わずに、各フレームの検出画像を記録したり、外部に出力したりすることが可能である。
　さらに、動画の撮像時には、例えば、復元画像の復元の有無や、記録又は外部に出力する画像の選択をフレーム毎に行うことができる。例えば、フレーム毎に復元画像の復元の有無を切り替えることが可能である。また、例えば、フレーム毎に、検出画像の記録の有無、及び、復元画像の記録の有無を個別に切り替えることが可能である。また、例えば、後で使用する可能性のある有用なフレームの検出画像にメタデータを付与しながら、全てのフレームの検出画像を記録するようにしてもよい。
　また、撮像レンズを用いる撮像装置のように、オートフォーカス機能を実現することも可能である。例えば、復元画像に基づいてコントラストＡＦ（Auto Focus）方式と同様の山登り方式で最適な被写体距離を決定することで、オートフォーカス機能を実現することができる。
　さらに、上述した特許文献等に記載の光学フィルタと従来の撮像素子とからなる撮像装置などと比較して、画素単位で入射角指向性を持った撮像素子１２１により撮像される検出画像を用いて復元画像を生成することができるので、多画素化を実現したり、高解像度かつ高角度分解能の復元画像を得たりすることが可能となる。一方、光学フィルタと従来の撮像素子とからなる撮像装置では、画素を微細化しても、光学フィルタの微細化が難しいため、復元画像の高解像度化等の実現が難しい。
　また、本開示の撮像装置１０１は、撮像素子１２１が必須構成であり、例えば、上述した特許文献等に記載の光学フィルタ等を必要としないので、使用環境が高温になって、光学フィルタが熱で歪むといったことがなく、環境耐性の高い撮像装置を実現することが可能となる。
　さらに、本開示の撮像装置１０１においては、撮像レンズ、ピンホール、及び、上述した特許文献等に記載の光学フィルタを必要としないので、撮像する機能を備えた構成の設計の自由度を向上させることが可能となる。
　＜処理負荷の低減方法＞
　ところで、撮像素子１２１の各画素１２１ａの遮光膜１２１ｂの遮光範囲（すなわち、入射角指向性）にランダム性を持たせている場合、遮光範囲の違いの乱雑さが大きいほど、復元部１２２による処理の負荷は大きなものとなる。そこで、各画素１２１ａの遮光膜１２１ｂの遮光範囲の変化の一部を規則的なものとして、乱雑さを低減させることで、処理負荷を低減させるようにしてもよい。
　例えば、縦帯タイプと横帯タイプとを組み合わせたＬ字タイプの遮光膜１２１ｂを構成するようにして、所定の列方向に対しては、同一幅の横帯タイプの遮光膜１２１ｂを組み合わせ、所定の行方向に対しては、同一の高さの縦帯タイプの遮光膜１２１ｂを組み合わせる。これにより、各画素１２１ａの遮光膜１２１ｂの遮光範囲が、列方向および行方向で規則性を持ちつつ、画素単位ではランダムに変化するようになる。その結果、各画素１２１ａの遮光膜１２１ｂの遮光範囲の違い、すなわち入射角指向性の違いの乱雑さを低減させ、復元部１２２の処理負荷を低減させることができる。
　具体的には、例えば、図２１の撮像素子１２１’’に示されるように、範囲Ｚ１３０で示される同一列の画素については、いずれも同一の幅Ｘ０の横帯タイプの遮光膜１２１ｂが用いられ、範囲Ｚ１５０で示される同一行の画素については、同一の高さＹ０の縦帯タイプの遮光膜１２１ｂが用いられる。その結果、各行と列で特定される画素１２１ａについては、これらが組み合わされたＬ字タイプの遮光膜１２１ｂが用いられる。
　同様に、範囲Ｚ１３０に隣接する範囲Ｚ１３１で示される同一列の画素については、いずれも同一の幅Ｘ１の横帯タイプの遮光膜１２１ｂが用いられ、範囲Ｚ１５０に隣接する範囲Ｚ１５１で示される同一行の画素については、同一の高さＹ１の縦帯タイプの遮光膜１２１ｂが用いられる。その結果、各行と列で特定される画素１２１ａについては、これらが組み合わされたＬ字タイプの遮光膜１２１ｂが用いられる。
　さらに、範囲Ｚ１３１に隣接する範囲Ｚ１３２で示される同一列の画素については、いずれも同一の幅Ｘ２の横帯タイプの遮光膜１２１ｂが用いられ、範囲Ｚ１５１に隣接する範囲Ｚ１５２で示される同一行の画素については、同一の高さＹ２の縦帯タイプの遮光膜１２１ｂが用いられる。その結果、各行と列で特定される画素１２１ａについては、これらが組み合わされたＬ字タイプの遮光膜１２１ｂが用いられる。 
　このようにすることで、遮光膜１２１ｂの水平方向の幅および位置、並びに、垂直方向の高さおよび位置に規則性を持たせつつ、画素単位で遮光膜の範囲を異なる値に設定することができるので、入射角指向性の変化の乱雑さを抑え込むことができる。結果として、係数セットのパターンを低減させることが可能となり、復元部１２２における演算処理の処理負荷を低減させることが可能となる。
　より詳細には、図２２の右上部に示されるように、Ｎ画素×Ｎ画素の検出画像ＰｉｃからＮ×Ｎ画素の復元画像を求める場合、（Ｎ×Ｎ）行×１列の復元画像の各画素の画素値を要素とするベクトルＸ、（Ｎ×Ｎ）行×１列の検出画像の各画素の画素値を要素とするベクトルＹ、および、係数セット群からなる（Ｎ×Ｎ）行×（Ｎ×Ｎ）列の行列Ａにより、図２２の左部に示されるような関係が成立する。
　すなわち、図２２においては、係数セット群からなる（Ｎ×Ｎ）行×（Ｎ×Ｎ）列の行列Ａの各要素と、復元画像を表す（Ｎ×Ｎ）行×１列のベクトルＸとを乗算した結果が、検出画像を表す（Ｎ×Ｎ）行×１列のベクトルＹとなることが示されている。そして、この関係から、例えば、上述した式（１）乃至式（３）または式（４）乃至式（６）に対応する連立方程式が構成される。
　尚、図２２においては、行列Ａの範囲Ｚ２０１で示される１列目の各要素が、ベクトルＸの１行目の要素に対応しており、行列Ａの範囲Ｚ２０２で示されるＮ×Ｎ列目の各要素が、ベクトルＸのＮ×Ｎ行目の要素に対応していることを示している。
　なお、ピンホールを用いた場合、及び、撮像レンズ等の同じ方向から入射した入射光を互いに隣接する画素出力単位の双方へ入射させるための集光機能を用いた場合、各画素の位置と光の入射角度の関係が一意に定まるので、行列Ａは、右下がりの対角成分が全て１となる対角行列となる。逆に、図２の撮像装置１０１のようにピンホールおよび撮像レンズのいずれも用いない場合、各画素の位置と光の入射角度の関係は一意に定まらないので、行列Ａは対角行列にならない。
　換言すれば、図２２に示される行列式に基づいた連立方程式を解いて、ベクトルＸの各要素を求めることにより復元画像が求められる。
　ところで、一般的に、図２２の行列式は、両辺に行列Ａの逆行列Ａ－１を左から乗じることにより、図２３に示されるように変形され、検出画像のベクトルＹに逆行列Ａ－１を左から乗じることで、検出画像であるベクトルＸの各要素が求められる。
　しかしながら、現実には、行列Ａを正確に求められなかったり、行列Ａを正確に測定できなかったり、行列Ａの基底ベクトルが線形従属に近いケースで解けなかったり、および、検出画像の各要素にノイズが含まれたりする。そして、それらの理由のいずれか、または、それらの組み合わせで、連立方程式を解くことができないことがある。
　そこで、例えば、様々な誤差に対してロバストな構成を考え、正則化最小二乗法の概念を用いた次式（７）が用いられる。
Figure JPOXMLDOC01-appb-M000001
 　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（７）
　ここで、式（７）のｘの上部に「＾」が付されたものはベクトルＸを、Ａは行列Ａを、ＹはベクトルＹを、γはパラメータを、||Ａ||はL2ノルム（二乗和平方根）を表している。ここで、右辺の第一項は、図２２の両辺を最小にするときのノルムであり、右辺の第二項は正則化項である。
　この式（７）をｘについて解くと、以下の式（８）となる。
Figure JPOXMLDOC01-appb-M000002
 　　　　　　　　　　　　　　　　　　　　　　　　　　　　・・・（８）
　ここで、Ａｔは行列Ａの転置行列であり、Ｉは単位行列である。
　しかしながら、行列Ａは、膨大なサイズであるので、計算量や必要なメモリ量が大きくなる。
　そこで、例えば、図２４に示されるように、行列Ａを、Ｎ行×Ｎ列の行列ＡＬと、Ｎ行×Ｎ列の行列ＡＲＴとに分解し、それぞれ復元画像を表すＮ行×Ｎ列の行列Ｘの前段と後段とから掛けた結果が、検出画像を表すＮ行×Ｎ列の行列Ｙとなるようにする。これにより、要素数（Ｎ×Ｎ）×（Ｎ×Ｎ）の行列Ａに対して、要素数が（Ｎ×Ｎ）の行列ＡＬ、ＡＲＴとなり、各行列の要素数が１／（Ｎ×Ｎ）になる。結果として、計算量や必要なメモリ量を低減させることができる。
　図２４に示される行列式は、例えば、式（８）のカッコ内の行列を行列ＡＬとし、行列Ａの転置行列の逆行列を行列ＡＲＴとすることで実現される。
　図２４に示されるような計算では、図２５に示されるように、行列Ｘにおける注目要素Ｘｐに対して、行列ＡＬの対応する列の各要素群Ｚ２２１を乗算することで、要素群Ｚ２２２が求められる。さらに、要素群Ｚ２２２と行列ＡＲＴの注目要素Ｘｐに対応する行の要素とを乗算することで、注目要素Ｘｐに対応する２次元応答Ｚ２２４が求められる。そして、行列Ｘの全要素に対応する２次元応答Ｚ２２４が積算されることで行列Ｙが求められる。
　そこで、例えば、行列ＡＬの各列の要素群Ｚ２２１には、図２１に示される撮像素子１２１の列毎に同一の幅に設定される横帯タイプの画素１２１ａの入射角指向性に対応する係数が用いられる。
　同様に、例えば、行列ＡＲＴの各行の要素群Ｚ２２３には、図２１に示される撮像素子１２１の行毎に同一の高さに設定される縦帯タイプの画素１２１ａの入射角指向性に対応する係数が用いられる。
　この結果、検出画像に基づいて、復元画像を復元する際に使用する行列を小さくすることが可能となるので、計算量が低減し、処理速度を向上させ、計算に係る電力消費を低減させることが可能となる。また、行列を小さくできるので、計算に使用するメモリの容量を低減させることが可能となり、装置コストを低減させることが可能となる。
　尚、図２１には、水平方向、および垂直方向に所定の規則性を持たせつつ、画素単位で遮光範囲（受光範囲）を変化させる例が示されているが、本開示においては、このように画素単位で遮光範囲（受光範囲）が、完全にランダムに設定されてはいないものの、ある程度ランダムに設定されるものについても、ランダムに設定されるものとみなす。換言すれば、本開示においては、画素単位で遮光範囲（受光範囲）が完全にランダムに設定される場合のみならず、ある程度ランダムなもの（例えば、全画素のうち、一部については規則性を持たせた範囲を含むが、その他の範囲はランダムである場合）、または、ある程度規則性がなさそうなもの（全画素のうち、図２１を参照して説明したような規則に従って配置されていることが確認できない配置の場合）についてもランダムであるものとみなす。
　＜＜３．第１の実施の形態＞＞
　次に、図２６乃至図３２を参照して、本開示の第１の実施の形態について説明する。
　上述したように、入射角指向性を有する画素を用いた撮像素子１２１においては、撮像レンズや光学フィルタ等を必要としないため、各画素１２１ａの配置の自由度が高い。本開示の第１の実施の形態は、その撮像素子１２１の各画素１２１ａの配置の自由度を活かして、各種の電子機器において、電子機器を装着又は使用しているユーザの少なくとも一部が写る位置に撮像素子１２１を設け、ユーザの少なくとも一部を撮像し、復元処理により得られる復元画像を用いて、各種のアプリケーション処理を実行するようにするものである。
　ここで、ユーザの少なくとも一部とは、例えば、ユーザの全身、顔、目、頭部、胴体、手、足等のユーザの体の任意の部分である。また、例えば、医療機器等の場合、ユーザの少なくとも一部は、ユーザの外側だけでなく、ユーザの内側（例えば、口腔内、内臓内等）の場合もある。
　＜電子機器３０１の構成例＞
　図２６は、本開示の第１の実施の形態に係る電子機器３０１の構成例を示すブロック図である。なお、図中、図２の撮像装置１０１と対応する部分には同じ符号を付してあり、その説明は適宜省略する。
　電子機器３０１は、例えば、ウエアラブルデバイス、スマートフォン、タブレット、携帯電話機等のユーザが装着又は携帯する携帯情報端末、パーソナルコンピュータ、ウエアラブルデバイス、ゲーム機、動画再生装置、音楽再生装置等により構成される。また、ウエアラブルデバイスには、例えば、ユーザの頭部に装着される頭部装着型、腕時計型、ブレスレット型、ネックレス型、ネックバンド型等の各種の方式を採用することができる。また、頭部装着型のウエアラブルデバイスには、例えば、メガネ型、ゴーグル型、ヘッドマウント側、イヤフォン型、ヘッドセット型、マスク型、帽子型等がある。なお、例えば、ウエアラブルデバイスの形状等により、１つのウエアラブルデバイスが複数の方式（例えば、ゴーグル型とヘッドマウント型）に対応する場合がある。
　電子機器３０１は、撮像部３１１及び信号処理制御部３１２を備える。
　撮像部３１１は、１以上のｎ個の撮像素子１２１－１乃至撮像素子１２１－ｎを備える。
　各撮像素子１２１は、各画素１２１ａから出力される検出信号からなる検出信号セットを復元部３２１に供給したり、バスＢ２に出力したりする。
　なお、各撮像素子１２１からの検出信号セットにより検出画像が生成される。従って、撮像部３１１が１つの撮像素子１２１のみを備える場合、その撮像素子１２１からの１つの検出信号セットにより検出画像が生成される。
　また、各撮像素子１２１は、同じ筺体に設置されてもよいし、異なる筺体に設置されてもよい。
　信号処理制御部３１２は、復元部３２１、制御部３２２、入力部３２３、検出部３２４、関連付け部３２５、出力部３２６、記憶部３２７、記録再生部３２８、記録媒体３２９、及び、通信部３３０を備える。
　復元部３２１、制御部３２２、入力部３２３、検出部３２４、関連付け部３２５、出力部３２６、記憶部３２７、記録再生部３２８、及び、通信部３３０は、バスＢ２を介して相互に接続されており、バスＢ２を介してデータの送受信等を行う。なお、以下、説明を簡単にするために、電子機器３０１の各部がバスＢ２を介してデータの送受信等を行う場合のバスＢ２の記載を省略する。
　復元部３２１は、各撮像素子１２１から取得した検出信号セットを用いて、図２の撮像装置１０１の復元部１２２と同様の処理により、復元画像の復元処理等を行う。復元部３２１は、復元画像をバスＢ２に出力する。
　制御部３２２は、例えば、各種のプロセッサを備え、電子機器３０１の各部の制御や各種のアプリケーション処理等を行う。
　入力部３２３は、電子機器３０１の操作や、処理に用いるデータの入力等を行うための入力デバイス（例えば、キー、スイッチ、ボタン、ダイヤル、タッチパネル、リモートコントローラ等）を備える。入力部３２３は、操作信号や入力されたデータ等をバスＢ２に出力する。
　関連付け部３２５は、各撮像素子１２１の検出信号セットと、各検出信号セットに対応するメタデータとの関連付けを行う。
　出力部３２６は、例えば、ディスプレイ、スピーカ、ランプ、ブザー、振動素子等の画像、音、光、振動等の出力を行う出力デバイスを備え、各種の情報やデータの出力を行う。
　記憶部３２７は、ＲＯＭ、ＲＡＭ、フラッシュメモリ等の記憶装置を１つ以上備え、例えば、電子機器３０１の処理に用いられるプログラムやデータを記憶する。例えば、記憶部３２７は、各撮像素子１２１に対応する係数セット群を記憶している。この係数セット群は、例えば、想定される被写体距離及び画角毎に用意される。
　記録再生部３２８は、記録媒体３２９へのデータの記録、及び、記録媒体３２９に記録されているデータの再生（読み出し）を行う。例えば、記録再生部３２８は、復元画像を記録媒体３２９に記録したり、記録媒体３２９から読み出したりする。また、例えば、記録再生部３２８は、検出信号セット及び対応するメタデータを、記録媒体３２９に記録したり、記録媒体３２９から読み出したりする。
　記録媒体３２９は、例えば、ＨＤＤ、ＳＳＤ、磁気ディスク、光ディスク、光磁気ディスク、及び、半導体メモリ等のいずれか、又は、それらの組合せなどからなる。
　通信部３３０は、所定の通信方式により、他の機器と通信を行う。なお、通信部３３０の通信方式は、有線又は無線のいずれであってもよい。また、通信部３３０が複数の通信方式に対応することも可能である。
　＜撮像素子１２１の配置例＞
　次に、図２７乃至図３１を参照して、電子機器３０１の具体例を挙げながら、撮像素子１２１の配置例について説明する。
　図２７のＡ乃至図２７のＣには、電子機器３０１の例として、ユーザの目を覆うように装着されるメガネ型のウエアラブルデバイス４０１の一部が模式的に示されている。また、図２７のＡ乃至図２７のＣには、ウエアラブルデバイス４０１の接眼部である左レンズ４１１Ｌ及び右レンズ４１１Ｒの周囲に撮像素子１２１（の各画素１２１ａ）が配置されている例が示されている。
　ここで、接眼部とは、電子機器３０１を装着又は使用するユーザの目に近接する部分であり、例えば、左レンズ４１１Ｌ及び右レンズ４１１Ｒのような接眼レンズ等からなる。接眼部が近接レンズからなる場合、例えば、ユーザは、近接レンズを通して像（例えば、被写体の像や映像等）を見ることができる。
　具体的には、図２７のＡの例では、フレーム４１２の裏面、すなわち、ユーザがウエアラブルデバイス４０１を装着した場合にユーザの顔と対向する面の左レンズ４１１Ｌの上方に撮像素子１２１－１が配置され、フレーム４１２の裏面の右レンズ４１１Ｒの上方に撮像素子１２１－２が配置されている。
　図２７のＢの例では、フレーム４１２の裏面のブリッジ付近に撮像素子１２１が配置されている。
　図２７のＣの例では、フレーム４１２の裏面の左レンズ４１１Ｌの周囲を取り囲むように撮像素子１２１－１が配置され、フレーム４１２の裏面の右レンズ４１１Ｒの周囲を取り囲むように撮像素子１２１－２が配置されている。
　このように、サイズの大型化やデザインの低下を抑制しつつ、ウエアラブルデバイス４０１のフレーム４１２の空きスペースに撮像素子１２１を配置することができる。また、撮像素子１２１は、ウエアラブルデバイス４０１を装着しているユーザの両目付近が写る位置に配置されており、そのユーザの両目周辺の撮像を行うことができる。
　なお、図２７のＡ乃至図２７のＣの各撮像素子１２１の各画素１２１ａの入射角指向性は、ウエアラブルデバイス４０１を装着したときに、左レンズ４１１Ｌ及び右レンズ４１１Ｒに近接するユーザの目の方向に対する受光感度が高くなるように設定されることが望ましい。これにより、各画素１２１ａにおいて、主要な撮像対象であるユーザの目の方向からの入射光に対する受光感度が高くなり、ユーザの目をより鮮明に撮像することが可能になる。
　例えば、図２８のＡ及び図２８のＢは、図２７のＣの撮像素子１２１－１の入射角指向性の例を模式的に示している。図２８のＡ及び図２８のＢは、ウエアラブルデバイス４０１を装着した状態のユーザの左目４２１Ｌと左レンズ４１１Ｌ及び撮像素子１２１－１との位置関係を模式的に示している。図２８のＡは、左レンズ４１１Ｌを内側（ユーザの目と対向する面側）から見た図を示し、図２８のＢは、左レンズ４１１Ｌを横から見た断面図を示している。
　なお、図内の矢印は、撮像素子１２１－１の各領域の画素１２１ａの入射角指向性の傾向を示している。また、以下、図２８のＡ及び図２８のＢにおいて、左レンズ４２１Ｌから左目４２１に向かう方向（図２８のＢの右方向）を後ろ方向とする。
　撮像素子１２１－１の上方の領域内の画素１２１ａは、入射角指向性が後ろ斜め下方向に設定されており、左目４２１Ｌの方向に対する受光感度が高くなっている。撮像素子１２１－１の左側の領域内の画素１２１ａは、入射角指向性が右斜め後ろ方向に設定されており、左目４２１Ｌの方向に対する受光感度が高くなっている。撮像素子１２１－１の右側の領域内の画素１２１ａは、入射角指向性が左斜め後ろ方向に設定されており、左目４２１Ｌの方向に対する受光感度が高くなっている。撮像素子１２１－１の下側の領域内の画素１２１ａは、入射角指向性が後ろ斜め上方向に設定されており、左目４２１Ｌの方向に対する受光感度が高くなっている。
　これにより、撮像素子１２１－１において、主要な撮像対象であるユーザの左目４２１Ｌの方向からの入射光に対する受光感度が高くなり、左目４２１Ｌをより鮮明に撮像することが可能になる。
　なお、図示は省略するが、右レンズ４１１Ｒの周囲に配置されている撮像素子１２１－２においても、各画素１２１ａの入射角指向性が主要な撮像対象であるユーザの右目４２１Ｒの方向に設定される。これにより、ユーザの右目４２１Ｒからの入射光に対する受光感度が高くなり、右目４２１Ｒをより鮮明に撮像することが可能になる。
　なお、図２７のＡ乃至図２７のＣの例のうち、復元画像の画質の観点から言えば、図２７のＣのように撮像素子１２１を配置し、各画素１２１ａの入射角指向性をばらつかせる方が望ましい。各画素１２１ａの入射角指向性がばらつくことにより、復元画像の復元に用いる連立方程式に対する係数セット群の多様性が高まり、復元精度が向上するからである。
　なお、必ずしも全ての画素１２１ａの入射角指向性を、ユーザの目の方向に対する受光感度が高くなるように設定する必要はない。例えば、ユーザの目の方向に対する受光感度が高くなる入射角指向性を有する画素１２１ａの数が、他の入射角指向性を有する画素１２１ａの数より多くなっていればよい。
　図２９のＡ乃至図２９のＣには、電子機器３０１の例として、カメラ４３１が模式的に示されている。なお、図２９のＡ乃至図２９のＣには、カメラ４３１のファインダ４４１の周辺のみが図示されているが、例えば、カメラ４３１の背面（ファインダ４４１と同じ側の面）に、ディスプレイやタッチパネル等の表示部及びユーザ操作部が設けられている。
　また、図２９のＡ乃至図２９のＣには、各撮像素子１２１（の各画素１２１ａ）が、カメラ４３１の接眼部であるファインダ４４１の周囲に配置されている例が示されている。
　具体的には、図２９のＡの例では、ファインダ４４１の左側の縦長の矩形の領域に撮像素子１２１－１が配置され、ファインダ４４１の右側の縦長の矩形の領域に撮像素子１２１－２が配置されている。
　図２９のＢの例では、ファインダ４４１の上方の横長の矩形の領域に撮像素子１２１が配置されている。
　図２９のＣの例では、ファインダ４４１の上方及び左側のＬ字型の領域に撮像素子１２１が配置されている。
　図２９のＤの例では、ファインダ４４１の上方の横長の矩形の領域に撮像素子１２１－１が配置され、ファインダ４４１の下方の横長の矩形の領域に撮像素子１２１－２が配置されている。
　図２９のＥの例では、ファインダ４４１の周囲を取り囲むように撮像素子１２１が配置されている。
　このように、サイズの大型化やデザインの低下を抑制しつつ、カメラ４３１のファインダ４４１の周囲の空きスペースに撮像素子１２１を配置することができる。また、撮像素子１２１は、ユーザがカメラ４３１を用いて撮影を行うためにファインダ４４１を覗いた場合に、そのユーザの目周辺が写る位置に配置されており、そのユーザの目周辺の撮像を行うことができる。
　なお、図２９のＡ乃至図２９のＥの各撮像素子１２１の各画素１２１ａの入射角指向性は、ファインダ４４１を覗くときにファインダ４４１に近接するユーザの目の方向（例えば、ファインダ４４１の前方）に対する受光感度が高くなるように設定されることが望ましい。
　図３０のＡ乃至図３０のＣには、電子機器３０１の例として、ユーザの目を覆うように装着されるゴーグル型のヘッドマウントディスプレイ４６１の一部が模式的に示されている。なお、図３０のＡ乃至図３０のＣには、ヘッドマウントディスプレイ４６１の内面、すなわち、ユーザが装着した際にユーザの顔と対向する面が示されており、各撮像素子１２１（の各画素１２１ａ）が、ヘッドマウントディスプレイ４６１の接眼部である左レンズ４７１Ｌ及び右レンズ４７１Ｒの周囲に配置されている例が示されている。
　具体的には、図３０のＡの例では、左レンズ４７１Ｌの左側の矩形の領域に撮像素子１２１－１が配置され、右レンズ４７１Ｒの右側の矩形の領域に撮像素子１２１－２が配置されている。
　図３０のＢの例では、左レンズ４７１Ｌの上方の横長の矩形の領域に撮像素子１２１－１が配置され、右レンズ４７１Ｒの上方の横長の矩形の領域に撮像素子１２１－２が配置されている。
　図３０のＣの例では、左レンズ４７１Ｌの下方の横長の矩形の領域に撮像素子１２１－１が配置され、右レンズ４７１Ｒの下方の矩形の領域に撮像素子１２１－２が配置されている。
　このように、サイズの大型化やデザインの低下を抑制しつつ、ヘッドマウントディスプレイ４６１の左レンズ４７１Ｌ及び右レンズ４７１Ｒの周囲の空きスペースに撮像素子１２１を配置することができる。そして、例えば、ヘッドマウントディスプレイ４６１を装着したユーザの両目周辺の撮像を行うことができる。
　なお、図３０のＡ乃至図３０のＣの各撮像素子１２１の各画素１２１ａの入射角指向性は、図２７のウエアラブルデバイス４０１と同様に、ヘッドマウントディスプレイ４６１を装着した状態のユーザの目の方向に対する受光感度が高くなるように設定されることが望ましい。
　図３１のＡ乃至図３１のＣには、電子機器３０１の例として、ノート型のＰＣ（パーソナルコンピュータ）４９１が模式的に示されている。
　ＰＣ４９１は、表示部であるディスプレイ５０１が設けられている蓋部と、ユーザ操作部であるキーボード５０３が設けられている台部とがヒンジ部により回転可能に接続されており、蓋部を開閉することができる。そして、図３１のＡ乃至図３１のＣに示されるように蓋部を開いた状態において、ディスプレイ５０１及びキーボード５０３が外部に露出され、ユーザはＰＣ４９１を使用することができる。なお、例えば、ディスプレイ５０１にタッチパネルを設けることにより、ディスプレイ５０１（厳密にはタッチパネル）をユーザ操作部とすることも可能である。
　また、図３１のＡ乃至図３１のＣには、ディスプレイ５０１の周囲に撮像素子１２１（の各画素１２１ａ）が配置されている例が示されている。
　図３１のＡの例では、ディスプレイ５０１の周囲のベゼル５０２の上辺に撮像素子１２１が配置されている。
　図３１のＢの例では、ベゼル５０２の左辺に撮像素子１２１－１が配置され、ベゼル５０２の右辺に撮像素子１２１－２が配置されている。
　図３１のＣの例では、ベゼル５０２の４辺にディスプレイ５０１を囲むように撮像素子１２１が配置されている。
　このように、サイズの大型化やデザインの低下を抑制しつつ、ベゼル５０２の空きスペースに撮像素子１２１を配置することができるとともに、狭ベゼル化を実現することができる。また、撮像素子１２１は、ＰＣ４９１のディスプレイ５０１を見ながらキーボード５０３を使用しているユーザと対面する位置であって、ユーザの顔周辺が写る位置に配置されており、そのユーザの顔周辺の撮像を行うことができる。
　なお、図３１のＡ乃至図３１のＣの各撮像素子１２１の各画素１２１ａの入射角指向性は、ＰＣ４９１のディスプレイ５０１を見ながらキーボード５０３を使用しているユーザの顔の方向（例えば、ディスプレイ５０１の前方）に対する受光感度が高くなるように設定されることが望ましい。
　＜ユーザ撮像制御処理＞
　次に、図３２のフローチャートを参照して、電子機器３０１により実行されるユーザ撮像制御処理について説明する。
　ステップＳ１０１において、電子機器３０１の各撮像素子１２１は、図２０のステップＳ１と同様の処理により、ユーザの撮像を行う。
　例えば、図２７のウエアラブルデバイス４０１の場合、ウエアラブルデバイス４０１を装着しているユーザの両目周辺の撮像が行われる。
　図２９のカメラ４３１の場合、ファインダ４４１を覗いているユーザの目周辺の撮像が行われる。
　図３０のヘッドマウントディスプレイ４６１の場合、ヘッドマウントディスプレイ４６１を装着しているユーザの両目周辺の撮像が行われる。
　図３１のＰＣ４９１の場合、ディスプレイ５０１を見ているユーザの顔周辺の撮像が行われる。
　各撮像素子１２１は、各画素１２１ａの検出信号からなる検出信号セットを関連付け部３２５に供給する。
　ステップＳ１０２において、復元部３２１は、画像の復元に用いる係数を求める。具体的には、復元部３２１は、図２０のステップＳ２の撮像装置１０１の復元部１２２による処理と同様の処理により、被写体距離を設定する。そして、復元部３２１は、設定した被写体距離に対応付けられている係数セット群を記憶部３２７から読み出す。
　ステップＳ１０３において、復元部３２１は、検出信号セット及び係数を用いて、画像の復元を行う。すなわち、復元部３２１は、図２０のステップＳ３の撮像装置１０１の復元部１２２による処理と同様の処理により、各撮像素子１２１から出力された検出信号セット、及び、ステップＳ１０２の処理で求めた係数セット群を用いて、復元画像を復元する。
　ステップＳ１０４において、電子機器３０１は、復元画像に対して各種の処理を行う。例えば、復元部３２１は、必要に応じて、復元画像に対して、デモザイク処理、γ補正、ホワイトバランス調整、所定の圧縮形式への変換処理等を行う。また、復元部３２１は、例えば、必要に応じて、復元画像を出力部３２６に供給し、表示させたり、記録再生部３２８に供給し、記録媒体３２９に記録させたり、通信部３３０を介して、他の機器に出力したりする。
　ステップＳ１０５において、電子機器３０１は、復元画像（すなわち、ユーザの画像）を用いたアプリケーション処理を実行する。
　例えば、図２７のウエアラブルデバイス４０１の場合、制御部３２２は、復元画像内のユーザの目の画像に基づいて、ユーザの視線検出を行う。なお、視線検出には、任意の方法を用いることができる。そして、例えば、制御部３２２は、ユーザの視線の動きに対応する操作コマンドを生成し、通信部３３０を介して、他の電子機器（不図示）に送信する。これにより、ユーザは、ウエアラブルデバイス４０１を装着して視線を動かすだけで、他の電子機器の操作を行うことができる。
　例えば、図２９のカメラ４３１の場合、制御部３２２は、復元画像内のユーザの目の画像に基づいて、ユーザの視線検出を行う。なお、視線検出には、任意の方法を用いることができる。そして、例えば、制御部３２２は、カメラ４３１の各部を制御して、ユーザの視線の動きに応じて、フォーカスを合わせる被写体の位置（フォーカスポイント）を移動させたり、カメラ４３１の各種の処理を行ったりする。これにより、ユーザは、ファインダ４４１を覗いて視線を動かすだけで、フォーカスポイントを設定したり、カメラ４３１に対する各種の操作を行ったりすることができる。
　或いは、例えば、制御部３２２は、復元画像内に基づいて、ユーザの認識処理又は認証処理を行う。
　ここで、認識処理とは、例えば、ユーザの特定を行ったり、ユーザの特徴を認識したりする処理である。一方、認証処理とは、例えば、復元画像と予め登録されている画像（例えば、顔画像、目の画像等）との照合等を行うことにより、ユーザが予め登録されているユーザ又は正規のユーザ等であるかの判定等を行う処理である。なお、認識処理と認証処理とは、明確に区別されずに、一部が重複する場合がある。また、ユーザの認識処理及び認証処理には、任意の方法を用いることができる。例えば、認識処理には、顔認証、虹彩認証等の各種の生体認証を用いることができる。
　そして、例えば、制御部３２２は、ユーザの認識結果又は認証結果に基づいて、認識又は認証したユーザに対応するユーザインタフェース画面を出力部３２６のディスプレイに表示させたり、カメラ４３１の設定を変更したり、特定の機能（例えば、再生等）の使用許可を行ったりする。
　例えば、図３０のヘッドマウントディスプレイ４６１の場合、制御部３２２は、復元画像内のユーザの目の画像に基づいて、ユーザの視線検出を行う。なお、視線検出には、任意の方法を用いることができる。そして、例えば、制御部３２２は、ヘッドマウンドディスプレイ４６１の各部を制御して、ユーザの視線の動きに応じて、ヘッドマウントディスプレイ４６１の各種の処理を行う。これにより、ユーザは、ヘッドマウントディスプレイ４６１を装着して視線を動かすだけで、ヘッドマウントディスプレイ４６１に対する各種の操作を行うことができる。
　例えば、図３１のＰＣ４９１の場合、制御部３２２は、復元画像内のユーザの顔の画像に基づいて、ユーザの認識処理又は認証処理を行う。そして、例えば、制御部３２２は、ユーザの認識結果又は認証結果に基づいて、認識又は認証したユーザに対応するユーザインタフェース画面を出力部３２６のディスプレイに表示させたり、ＰＣ４９１の設定（例えば、カスタム設定、画質設定、ペアレンタルコントロール設定）等を変更したり、特定のアカウントへのログイン、特定のフォルダやファイルへのアクセス、及び、特定の機能の使用等の許可を行ったりする。
　その後、ユーザ撮像制御処理は終了する。
　なお、以上においては、撮像素子１２１と被写体距離に対応付けられた係数セット群を用いて、検出信号セットから復元画像を復元する例について説明してきたが、例えば、被写体距離に加えて、上述したように、復元画像の画角に対応する係数セット群をさらに用意して、被写体距離および画角に応じた係数セット群を用いて、復元画像を復元するようにしても良い。
　以上のようにして、電子機器３０１のサイズの大型化やデザインの低下を抑制しつつ撮像素子１２１を配置し、電子機器を使用するユーザを撮像することができる。そして、ユーザの画像を復元し、復元した画像に基づいて、各種のアプリケーション処理を実行することができる。
　＜＜４．第２の実施の形態＞＞
　次に、図３３乃至図４１を参照して、本開示の第２の実施の形態について説明する。
　上述した第１の実施の形態では、電子機器３０１を使用するユーザの撮像を行い、復元処理により得られるユーザの画像を用いて、各種のアプリケーション処理を実行する例を示した。一方、第２の実施の形態では、電子機器３０１を使用するユーザの周囲の撮像が行われ、復元処理により得られるユーザの周囲の画像を用いて、各種のアプリケーション処理が実行される。
　なお、第２の実施の形態では、第１の実施の形態と同様に、図２６の電子機器３０１が用いられる。一方、第２の実施の形態では、第１の実施の形態と異なり、電子機器３０１を装着又は使用しているユーザの周囲が写る位置に撮像素子１２１が配置される。
　＜撮像素子１２１の配置例＞
　ここで、図３３乃至図４０を参照して、電子機器３０１の具体例を挙げながら、撮像素子１２１の配置例について説明する。
　図３３のＡ乃至図３３のＣには、電子機器３０１の例として、ユーザの目を覆うように装着されるメガネ型のウエアラブルデバイス６０１が模式的に示されている。また、図３３のＡ乃至図３３のＣには、ウエアラブルデバイス６０１をユーザが装着した状態において外側に露出するフレーム６１２の表面に撮像素子１２１（の各画素１２１ａ）が配置されている例が示されている。
　具体的には、図３３のＡの例では、フレーム６１２の表面の左レンズ６１１Ｌの上方に撮像素子１２１－１が配置され、フレーム６１２の表面の右レンズ６１１Ｒの上方に撮像素子１２１－２が配置されている。
　図３３のＢの例では、フレーム６１２の表面の左レンズ６１１Ｌの右側に撮像素子１２１－１が配置され、フレーム６１２の表面の右レンズ６１１Ｒの左側に撮像素子１２１－２が配置されている。
　図３３のＣの例では、フレーム６１２の表面の左レンズ６１１Ｌの周囲を取り囲むように撮像素子１２１－１が配置され、フレーム６１２の表面の右レンズ６１１Ｒの周囲を取り囲むように撮像素子１２１－２が配置されている。
　このように、サイズの大型化やデザインの低下を抑制しつつ、ウエアラブルデバイス６０１のフレーム６１２の空きスペースに撮像素子１２１を配置することができる。そして、例えば、ウエアラブルデバイス６０１を装着したユーザの前方の撮像を行うことができる。
　図３４のＡ乃至図３４のＣには、電子機器３０１の例として、カメラ６３１が模式的に示されている。また、カメラ６３１の筐体の前面に撮像素子１２１（の各画素１２１ａ）が配置されている例が示されている。
　具体的には、図３４のＡの例では、カメラ６３１の本体部の前面のうち、マウント６４１の左側であって、カメラ６３１の左端付近の縦長の矩形の領域に撮像素子１２１が配置されている。
　図３４のＢの例では、カメラ６３１の本体部の前面のうち、マウント６４１の四隅付近の４つの矩形の領域内に、撮像素子１２１－１乃至撮像素子１２１－４がそれぞれ配置されている。
　図３４のＣの例では、カメラ６３１のフラッシュが内蔵されているフラッシュ内蔵部６４２の前面に撮像素子１２１が配置されている。
　図３４のＤの例では、カメラ６３１のマウント６４１の外周に沿ったリング状の領域に撮像素子１２１が配置されている。
　このように、サイズの大型化やデザインの低下を抑制しつつ、カメラ６３１の筐体の前面の空きスペースに撮像素子１２１を配置することができる。そして、例えば、カメラ６３１の撮像方向の撮像を行うことができる。
　図３５のＡ乃至図３５のＤには、電子機器３０１の例として、ユーザの目を覆うように装着されるゴーグル型のヘッドマウントディスプレイ６６１が模式的に示されている。また、図３５のＡ乃至図３５のＤには、ヘッドマウントディスプレイ６６１をユーザが装着した状態において外側に露出する筐体の前面に撮像素子１２１（の各画素１２１ａ）が配置されている例が示されている。
　具体的には、図３５のＡの例では、本体部６７１の前面の下方の横長の矩形の領域に撮像素子１２１が配置されている。
　図３５のＢの例では、本体部６７１の前面の上端の横長の領域に撮像素子１２１が配置されている。
　図３５のＣの例では、ヘッドパッド６７２の前面の矩形の領域に撮像素子１２１が配置されている。
　図３５のＤの例では、本体部６７１の前面の左右の矩形の領域に撮像素子１２１－１及び撮像素子１２１－２が配置されている。
　このように、サイズの大型化やデザインの低下を抑制しつつ、ヘッドマウントディスプレイ６６１の筐体の前面の空きスペースに撮像素子１２１を配置することができる。そして、例えば、ヘッドマウントディスプレイ６６１を装着しているユーザの前方の撮像を行うことができる。
　図３６のＡ乃至図３７のＤには、電子機器３０１の例として、オーバーヘッド型のヘッドフォン６９１が模式的に示されている。図３６のＡ及び図３６のＢは、ヘッドフォン６９１を斜め前から見た斜視図を示し、図３７のＣ及び図３７のＤは、ヘッドフォン６９１を斜め後ろから見た斜視図を示している。
　図３６のＡの例では、左側のハウジング７０１Ｌの側面の前方中央付近に撮像素子１２１－１が配置され、右側のハウジング７０１Ｒの側面の前方中央付近に撮像素子１２１－２が配置されている。
　図３６のＢの例では、ヘッドセット７０２の前面に沿った領域に撮像素子１２１が配置されている。
　図３７のＣの例では、左側のハウジング７０１Ｌの側面の後方中央付近に撮像素子１２１－１が配置され、右側のハウジング７０１Ｒの側面の後方中央付近に撮像素子１２１－２が配置されている。
　図３７のＤの例では、ヘッドセット７０２の後面に沿った領域に撮像素子１２１が配置されている。
　このように、サイズの大型化やデザインの低下を抑制しつつ、ユーザがヘッドフォン６９１を装着した状態において外側に露出する面の空きスペースに撮像素子１２１を配置することができる。そして、例えば、ヘッドフォン６９１を装着しているユーザの前方又は後方の撮像を行うことができる。
　図３８のＡ及び図３８のＢには、電子機器３０１の例として、ネックバンド型のヘッドフォン７２１が模式的に示されている。
　図３８のＡの例では、左側のハウジング７３１Ｌの側面の前方に撮像素子１２１－１が配置されている。また、図示は省略するが、右側のハウジング７３１Ｒの側面の前方に撮像素子１２１－２が配置されている。
　図３８のＢの例では、ネックバンド７３２の後方付近に撮像素子１２１が配置されている。
　このように、サイズの大型化やデザインの低下を抑制しつつ、ユーザがヘッドフォン７２１を装着した状態において外側に露出する面の空きスペースに撮像素子１２１を配置することができる。そして、例えば、ヘッドフォン７２１を装着しているユーザの前方又は後方の撮像を行うことができる。
　なお、以上の例では、ユーザの前方又は後方を撮像する例を示したが、ユーザの周囲の他の方向（例えば、側方、上方、下方等）を撮像するように、各撮像素子１２１を設置するようにしてもよい。
　＜ユーザ周囲撮像制御処理＞
　次に、図３９のフローチャートを参照して、電子機器３０１により実行されるユーザ周囲撮像制御処理について説明する。
　ステップＳ２０１において、電子機器３０１の各撮像素子１２１は、図２０のステップＳ１と同様の処理により、ユーザの周囲の撮像を行う。
　例えば、図３３のウエアラブルデバイス６０１の場合、ウエアラブルデバイス６０１を装着しているユーザの前方の撮像が行われる。
　図３４のカメラ６３１の場合、カメラ６３１の撮像方向の撮像が行われる。
　図３５のヘッドマウントディスプレイ６６１の場合、ヘッドマウントディスプレイ６６１を装着しているユーザの前方の撮像が行われる。
　図３６及び図３７のヘッドフォン６９１の場合、ヘッドフォン６９１を装着しているユーザの前方又は後方の撮像が行われる。
　図３８のヘッドフォン７２１の場合、ヘッドフォン７２１を装着しているユーザの前方又は後方の撮像が行われる。
　各撮像素子１２１は、各画素１２１ａの検出信号からなる検出信号セットを関連付け部３２５に供給する。
　ステップＳ２０２において、復元部３２１は、画像の復元に用いる係数を求める。具体的には、復元部３２１は、図２０のステップＳ２の撮像装置１０１の復元部１２２による処理と同様の処理により、被写体距離を設定する。そして、復元部３２１は、設定した被写体距離に対応付けられている係数セット群を記憶部３２７から読み出す。
　なお、図３６及び図３７のヘッドフォン６９１のヘッドセット７０２や、図３８のヘッドフォン７２１のネックバンド７３２のように、変形可能な部分に撮像素子１２１が配置されている場合、変形に伴い、各画素１２１ａ間の相対位置が変化する。
　一方、上述した復元画像の復元に用いる連立方程式の係数セット群は、各画素１２１ａの相対位置が変化しないことを前提にして設定されている。
　そこで、電子機器３０１の変形可能な部分に撮像素子１２１が配置される場合、変形具合に応じた係数セット群を予め用意しておくとともに、変形具合を検出し、検出した変形具合に応じた係数セット群を用いるようにしてもよい。
　ここで、変形可能な部分とは、例えば電子機器３０１を使用したり、装着したりする場合等に形を変わり得る部分である。なお、変形の種類は、特に限定されるものではなく、例えば、伸び、縮み、曲がり、ずれ、ねじれ、分離等が含まれる。また、変形可能な部分には、例えば、外から与えられる力により変形する部分、及び、アクチュエータ等により自らが形を変える部分がある。
　例えば、図３６及び図３７のヘッドフォン６９１のヘッドセット７０２に曲げセンサを設け、曲げセンサにより検出されるヘッドセットの曲げ具合に対応する係数セット群を用いるようにしてもよい。
　例えば、図４０のＡ乃至図４０のＣの曲げセンサ７５１の３つのパターンの曲げ具合に対応する係数セット群が予め用意される。そして、ユーザがヘッドフォン６９１を装着した場合の曲げセンサ７５１の検出結果に最も近い曲げ具合に対応する係数セット群を用いて、復元画像の復元が行われる。
　ステップＳ２０３において、図３２のステップＳ１０３の処理と同様に、検出信号セット及び係数を用いて、画像の復元が行われる。
　ステップＳ２０４において、図３２のステップＳ１０４の処理と同様に、復元画像に対して各種の処理が実行される。
　ステップＳ２０５において、電子機器３０１は、復元画像（すなわち、ユーザの周囲の画像）を用いたアプリケーション処理を実行する。
　例えば、図３３のウエアラブルデバイス６０１の場合、制御部３２２は、復元画像に基づいて、ユーザの周囲の認識処理を行う。なお、ユーザの周囲の認識処理には、任意の方法を用いることができる。そして、例えば、制御部３２２は、出力部３２６を制御して、認識処理により得られたユーザの周囲の環境に対応する画像や情報を、左レンズ６１１Ｌ及び右レンズ６１１Ｒを介してユーザが視認する視野内に重畳し、ＡＲ（Augmented Reality）を実現する。
　或いは、例えば、制御部３２２は、記録再生部３２８を制御して、ユーザのライフログとして、復元画像を記録媒体３２９に記録させる。
　例えば、図３４のカメラ６３１の場合、制御部３２２は、復元画像に基づいて、ユーザの周囲の認識処理を行うことにより、被写体の追従やシーンの認識等を行う。なお、ユーザの周囲の認識処理には、任意の方法を用いることができる。これにより、例えば、カメラ６３１のレンズ６４３を介して撮像する撮像素子（不図示）のシャッタ動作中においても被写体の追従を行うことができる。また、例えば、レンズ６４３より広い範囲をセンシングして、被写体の追従やシーンの認識を行うことができる。
　例えば、図３５のヘッドマウントディスプレイ６６１の場合、制御部３２２は、出力部３２６を制御して、復元画像の一部又は全部を、ユーザが視認している画像内に重畳させる。
　例えば、図３６及び図３７のヘッドフォン６９１、又は、図３８のヘッドフォン７２１の場合、制御部３２２は、復元画像に基づいて、ユーザの周囲の認識処理を行う。なお、ユーザの周囲の認識処理には、任意の方法を用いることができる。そして、制御部３２２は、認識結果に基づいて、出力部３２６等を制御してユーザの補助等を行う。例えば、車両の接近等の危険が検出された場合、振動や音声等により危険が通知されたり、目が不自由な方への音声等による支援が行われたり、認識した人の名前が音声で通知されたりする。
　或いは、例えば、制御部３２２は、記録再生部３２８を制御して、ユーザのライフログとして、復元画像を記録媒体３２９に記録させる。
　その後、ユーザ周囲撮像制御処理は終了する。
　なお、以上においては、撮像素子１２１と被写体距離に対応付けられた係数セット群を用いて、検出信号セットから復元画像を復元する例について説明してきたが、例えば、被写体距離に加えて、上述したように、復元画像の画角に対応する係数セット群をさらに用意して、被写体距離および画角に応じた係数セット群を用いて、復元画像を復元するようにしても良い。
　以上のようにして、電子機器３０１のサイズの大型化やデザインの低下を抑制しつつ撮像素子１２１を配置し、電子機器を使用するユーザの周囲を撮像することができる。そして、ユーザの周囲の画像を復元し、復元した画像に基づいて、各種のアプリケーション処理を実行することができる。
　なお、以上においては、ライフログとして復元画像を記録する例を示したが、復元画像の代わりに検出信号セットを記録しておき、必要に応じて画像の復元を行うようにしてもよい。
　この場合、例えば、各撮像素子１２１により取得された検出信号セットと、各検出信号セットに対応するメタデータとの関連付けが行われる。
　なお、メタデータには、例えば、復元時の係数セット群を含んでいてもよいし、含んでいなくてもよい。後者の場合、例えば、復元時に用いられる被写体距離、画角、撮像素子１２１が配置されている部分の変形情報等がメタデータに含まれる。
　また、検出信号セットとメタデータを関連付ける方法は、検出信号セットとメタデータとの対応関係を特定することができれば、特に限定されない。例えば、検出信号セットを含むデータにメタデータを付与したり、検出信号セットとメタデータに同じＩＤを付与したり、検出信号セットとメタデータを同じ記録媒体３２９に記録させたりすることにより、検出信号セットとメタデータが関連付けられる。また、各検出信号セットに個別にメタデータを関連付けてもよいし、検出信号セットを１つにまとめたデータにメタデータを関連付けてもよい。
　＜＜５．変形例＞＞
　以下、上述した本開示の実施の形態の変形例について説明する。
　＜システムの構成例に関する変形例＞
　図２６では、１つの電子機器３０１が、ユーザ又はユーザの周囲の撮像処理、復元画像の復元処理、復元画像を用いたアプリケーション処理を実行する例を示したが、これらの処理を２以上の装置により分担して行ってもよい。
　例えば、図４１の情報処理システム８０１は、電子機器８１１及び信号処理装置８１２を備えている。そして、電子機器８１１及び信号処理装置８１２が、撮像処理、復元処理、アプリケーション処理を分担して行ってもよい。
　例えば、電子機器８１１が、撮像処理を行い、信号処理装置８１２が、復元処理及びアプリケーション処理を行ってもよい。或いは、例えば、電子機器８１１が、撮像処理及びアプリケーション処理を行い、信号処理装置８１２が、復元処理を行ってもよい。或いは、撮像処理、復元処理、及び、アプリケーション処理のうちのいくつかの処理を、電子機器８１１と信号処理装置８１２が共同で行ってもよい。
　また、本開示は、上述した以外のユーザ又はユーザの周囲を撮像する機能を有する電子機器に適用することができる。ユーザを撮像する機能を有する電子機器においては、例えば、上述した例のように、接眼部や表示部の周囲に撮像素子１２１が配置される。また、ユーザの周囲を撮像する機能を有する電子機器においては、例えば、上述した例のように、ユーザが装着した状態において、外側に露出する面に撮像素子１２１が配置される。なお、撮像素子１２１の配置は、上述した例に限定されるものではなく、主要な撮像対象等に応じて適宜変更することが可能である。
　なお、電子機器の接眼部の周囲や表示部の周囲ではなく、例えば、接眼部や表示部に撮像素子１２１を配置するようにすることも可能である。例えば、図２７の左レンズ４１１Ｌ及び右レンズ４１１Ｒの表面、図２９のファインダ４４１の表面、図３０の左レンズ４７１Ｌ及び右レンズ４７１Ｒの表面、図３１のディスプレイ５０１の表面等に、撮像素子１２１を配置することが可能である。
　＜撮像装置及び撮像素子に関する変形例＞
　また、例えば、各画素１２１ａの遮光膜１２１ｂの形状には、上述した横帯タイプ、縦帯タイプ、Ｌ字タイプ、矩形の開口部を設けたタイプ以外の形状を採用することが可能である。
　さらに、例えば、図５を参照して上述した撮像素子１２１では、１つの画素１２１ａ内に２行×２列の４つのフォトダイオード１２１ｆを設ける例を示したが、フォトダイオード１２１ｆの数や配置は、この例に限定されるものではない。
　例えば、図４２に示されるように、１つの画素１２１ａにおいて、１個のオンチップレンズ１２１ｃに対して、３行×３列に並べられた９個のフォトダイオード１２１ｆ－１１１乃至１２１ｆ－１１９を設けるようにしてもよい。すなわち、１つの画素出力単位が、９個のフォトダイオード１２１ｆを備えるようにしてもよい。
　そして、例えば、フォトダイオード１２１ｆ－１１１，１２１ｆ－１１４，１２１ｆ－１１７乃至１２１ｆ－１１９の５画素の信号を読み出さないようにすることで、実質的に、フォトダイオード１２１ｆ－１１１，１２１ｆ－１１４，１２１ｆ－１１７乃至１２１ｆ－１１９の範囲に遮光膜１２１ｂが設定されたＬ字タイプの遮光膜１２１ｂを備える画素１２１ａと同様の入射角特性を得ることができる。
　このようにして、遮光膜１２１ｂを設けることなく、遮光膜１２１ｂを設けた場合と同様の入射角特性を得ることができる。また、信号を読み出さないフォトダイオード１２１ｆのパターンを切り替えることにより、遮光膜１２１ｂにより遮光される位置と範囲を変えた場合と同様に、入射角指向性を変化させることができる。
　また、以上の説明では、１つの画素１２１ａにより１つの画素出力単位が構成される例を示したが、複数の画素１２１ａにより１つの画素出力単位を構成することも可能である。
　例えば、図４３に示されるように、３行×３列に並べられた画素１２１ａ－１１１乃至画素１２１ａ－１１９により１つの画素出力単位８５１ｂを構成することが可能である。なお、画素１２１ａ－１１１乃至画素１２１ａ－１１９は、例えば、それぞれ１つのフォトダイオードを備え、オンチップレンズを備えていない。
　例えば、各画素１２１ａからの画素信号を加算することにより、検出画像の１画素分の検出信号を生成するともに、一部の画素１２１ａからの画素信号の出力を停止したり、加算しないようにすることにより、画素出力単位８５１ｂの入射角指向性を実現することができる。例えば、画素１２１ａ－１１２、画素１２１ａ－１１３、画素１２１ａ－１１５、及び、画素１２１ａ－１１６の画素信号を加算して検出信号を生成することにより、画素１２１ａ－１１１、画素１２１ａ－１１４、及び、画素１２１ａ－１１７乃至画素１２１ａ－１１９の範囲にＬ字タイプの遮光膜１２１ｂを設けた場合と同様の入射角指向性を得ることができる。
　また、画素信号を検出信号に加算する画素１２１ａのパターンを切り替えることにより、遮光膜１２１ｂにより遮光される位置と範囲を変えた場合と同様に、入射角指向性を異なる値に設定することができる。
　また、この場合、例えば、画素１２１ａの組合せを変更することにより、画素出力単位の範囲を変更することが可能である。例えば、画素１２１ａ－１１１、画素１２１ａ－１１２、画素１２１ａ－１１４、及び、画素１２１ａ－１１５からなる２行×２列の画素１２１ａにより画素出力単位８５１ｓを構成することができる。
　さらに、例えば、全ての画素１２１ａの画素信号を記録しておき、画素１２１ａの組合せを後で設定することにより、画素出力単位の範囲を後で設定することが可能である。さらに、設定した画素出力単位内の画素１２１ａのうち、画素信号を検出信号に加算する画素１２１ａを選択することにより、画素出力単位の入射角指向性を後で設定することが可能である。
　また、図４では、変調素子として遮光膜１２１ｂを用いたり、出力に寄与するフォトダイオードの組合せを変更したりすることにより画素毎に異なる入射角指向性を持たせる例を示したが、本開示では、例えば、図４４に示されるように、撮像素子９０１の受光面を覆う光学フィルタ９０２を変調素子として用いて、各画素に入射角指向性を持たせるようにすることも可能である。
　具体的には、光学フィルタ９０２は、撮像素子９０１の受光面９０１Ａから所定の間隔を空けて、受光面９０１Ａの全面を覆うように配置されている。被写体面３１からの光は、光学フィルタ９０２で変調されてから、撮像素子９０１の受光面９０１Ａに入射する。
　例えば、光学フィルタ９０２には、図４５に示される白黒の格子状のパターンを有する光学フィルタ９０２ＢＷを用いることが可能である。光学フィルタ９０２ＢＷには、光を透過する白パターン部と光を遮光する黒パターン部がランダムに配置されている。各パターンのサイズは、撮像素子９０１の画素のサイズとは独立して設定されている。
　図４６は、光学フィルタ９０２ＢＷを用いた場合の被写体面３１上の点光源ＰＡ及び点光源ＰＢからの光に対する撮像素子９０１の受光感度特性を示している。点光源ＰＡ及び点光源ＰＢからの光は、それぞれ光学フィルタ９０２ＢＷで変調されてから、撮像素子９０１の受光面９０１Ａに入射する。
　例えば、点光源ＰＡからの光に対する撮像素子９０１の受光感度特性は、波形Ｓａのようになる。すなわち、光学フィルタ９０２ＢＷの黒パターン部により影が生じるため、点光源ＰＡからの光に対する受光面９０１Ａ上の像に濃淡のパターンが生じる。同様に、点光源ＰＢからの光に対する撮像素子９０１の受光感度特性は、波形Ｓｂのようになる。すなわち、光学フィルタ９０２ＢＷの黒パターン部により影が生じるため、点光源ＰＢからの光に対する受光面９０１Ａ上の像に濃淡のパターンが生じる。
　なお、点光源ＰＡからの光と点光源ＰＢからの光とは、光学フィルタ９０２ＢＷの各白パターン部に対する入射角度が異なるため、受光面に対する濃淡のパターンの現れ方にズレが生じる。従って、撮像素子９０１の各画素は、被写体面３１の各点光源に対して入射角指向性を持つようになる。
　この方式の詳細は、例えば、上述した非特許文献１に開示されている。
　なお、光学フィルタ９０２ＢＷの代わりに、図４７の光学フィルタ９０２ＨＷを用いるようにしてもよい。光学フィルタ９０２ＨＷは、偏光方向が等しい直線偏光素子９１１Ａと直線偏光素子９１１Ｂ、及び、１／２波長板９１２を備え、１／２波長板９１２は、直線偏光素子９１１Ａと直線偏光素子９１１Ｂの間に挟まれている。１／２波長板９１２には、光学フィルタ９０２ＢＷの黒パターン部の代わりに、斜線で示される偏光部が設けられ、白パターン部と偏光部がランダムに配置されている。
　直線偏光素子９１１Ａは、点光源ＰＡから出射されたほぼ無偏光の光のうち、所定の偏光方向の光のみを透過する。以下、直線偏光素子９１１Ａが、偏光方向が図面に平行な光のみを透過するものとする。直線偏光素子９１１Ａを透過した偏光光のうち、１／２波長板９１２の偏光部を透過した偏光光は、偏光面が回転されることにより、偏光方向が図面に垂直な方向に変化する。一方、直線偏光素子９１１Ａを透過した偏光光のうち、１／２波長板９１２の白パターン部を透過した偏光光は、偏光方向が図面に平行な方向のまま変化しない。そして、直線偏光素子９１１Ｂは、白パターン部を透過した偏光光を透過し、偏光部を透過した偏光光をほとんど透過しない。従って、偏光部を透過した偏光光は、白パターン部を透過した偏光光より光量が減少する。これにより、光学フィルタＢＷを用いた場合とほぼ同様の濃淡のパターンが、撮像素子９０１の受光面９０１Ａ上に生じる。
　また、図４８のＡに示されるように、光干渉マスクを光学フィルタ９０２ＬＦとして用いることが可能である。被写体面３１の点光源ＰＡ，ＰＢから出射された光は、光学フィルタ９０２ＬＦを介して撮像素子９０１の受光面９０１Ａに照射される。図４８のＡの下方の拡大図に示されるように、光学フィルタ９０２ＬＦの例えば光入射面には、波長程度の凹凸が設けられている。また、光学フィルタ９０２ＬＦは、鉛直方向から照射された特定波長の光の透過が最大となる。被写体面３１の点光源ＰＡ，ＰＢから出射された特定波長の光の光学フィルタ９０２ＬＦに対する入射角の変化（鉛直方向に対する傾き）が大きくなると光路長が変化する。ここで、光路長が半波長の奇数倍であるときは光が弱めあい、半波長の偶数倍であるときは光が強めあう。すなわち、点光源ＰＡ，ＰＢから出射されて光学フィルタ９０２ＬＦを透過した特定波長の透過光の強度は、図４８のＢに示すように、光学フィルタ９０２ＬＦに対する入射角に応じて変調されて撮像素子９０１の受光面９０１Ａに入射する。したがって、撮像素子９０１の各画素出力単位から出力される検出信号は、画素出力単位毎に各点光源の変調後の光強度を合成した信号となる。
　この方式の詳細は、例えば、上述した特許文献１に開示されている。
　なお、特許文献１及び非特許文献１の方式では、上述した図４の画素１２１ａ又は図５の画素１２１ａを用いた撮像素子１２１のように、隣接する画素に影響することなく画素１２１ａ単位で入射角指向性を独立して設定することができない。従って、例えば、光学フィルタ９０２ＢＷのパターン、又は、光学フィルタ９０２ＬＦの回折格子のパターンが異なると、撮像素子９０１の少なくとも隣接する複数の画素の入射角指向性が共に異なるものとされることになる。また、近い位置にある画素１２１ａ間で、互いに近い入射角指向性を有することになる。
　また、本開示は、赤外光等可視光以外の波長の光の撮像を行う撮像装置や撮像素子にも適用することが可能である。この場合、復元画像は、ユーザが目視して被写体を認識できる画像とはならず、ユーザが被写体を視認できない画像となる。なお、通常の撮像レンズは遠赤外光を透過することが困難であるため、本技術は、例えば、遠赤外光の撮像を行う場合に有効である。
　＜その他の変形例＞
　以上の説明では、ユーザの顔や目を撮像した画像に基づいて生体認証を行う例を示したが、本開示は、指紋認証等のユーザの他の部位を撮像した画像に基づいて生体認証を行う場合にも適用することができる。
　また、本開示は、ユーザの視線以外のユーザの目の動き又は状態等を検出する場合にも適用することができる。例えば、ユーザの目や顔を撮像した画像に基づいて、瞬き検出や睡眠検出等を行う場合にも、本開示を適用することができる。さらに、本開示は、例えば、ウエアラブルデバイス等の電子機器３０１の装着等の検出を行う場合にも適用することができる。
　また、例えば、ディープラーニング等の機械学習を適用することにより、復元後の復元画像を用いずに、復元前の検出画像や検出信号セットを用いて画像認識等を行うようにすることも可能である。
　＜＜６．応用例＞＞
　本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、医療機器、例えば、内視鏡手術システム、カプセル内視鏡等の撮像部に適用可能である。
　図４９は、本開示に係る技術が適用され得る内視鏡手術システム５０００の概略的な構成の一例を示す図である。図４９では、術者（医師）５０６７が、内視鏡手術システム５０００を用いて、患者ベッド５０６９上の患者５０７１に手術を行っている様子が図示されている。図示するように、内視鏡手術システム５０００は、内視鏡５００１と、その他の術具５０１７と、内視鏡５００１を支持する支持アーム装置５０２７と、内視鏡下手術のための各種の装置が搭載されたカート５０３７と、から構成される。
　内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５０２５ａ～５０２５ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５０２５ａ～５０２５ｄから、内視鏡５００１の鏡筒５００３や、その他の術具５０１７が患者５０７１の体腔内に挿入される。図示する例では、その他の術具５０１７として、気腹チューブ５０１９、エネルギー処置具５０２１及び鉗子５０２３が、患者５０７１の体腔内に挿入されている。また、エネルギー処置具５０２１は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５０１７はあくまで一例であり、術具５０１７としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
　内視鏡５００１によって撮影された患者５０７１の体腔内の術部の画像が、表示装置５０４１に表示される。術者５０６７は、表示装置５０４１に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５０２１や鉗子５０２３を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５０１９、エネルギー処置具５０２１及び鉗子５０２３は、手術中に、術者５０６７又は助手等によって支持される。
　（支持アーム装置）
　支持アーム装置５０２７は、ベース部５０２９から延伸するアーム部５０３１を備える。図示する例では、アーム部５０３１は、関節部５０３３ａ、５０３３ｂ、５０３３ｃ、及びリンク５０３５ａ、５０３５ｂから構成されており、アーム制御装置５０４５からの制御により駆動される。アーム部５０３１によって内視鏡５００１が支持され、その位置及び姿勢が制御される。これにより、内視鏡５００１の安定的な位置の固定が実現され得る。
　（内視鏡）
　内視鏡５００１は、先端から所定の長さの領域が患者５０７１の体腔内に挿入される鏡筒５００３と、鏡筒５００３の基端に接続されるカメラヘッド５００５と、から構成される。図示する例では、硬性の鏡筒５００３を有するいわゆる硬性鏡として構成される内視鏡５００１を図示しているが、内視鏡５００１は、軟性の鏡筒５００３を有するいわゆる軟性鏡として構成されてもよい。
　鏡筒５００３の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５００１には光源装置５０４３が接続されており、当該光源装置５０４３によって生成された光が、鏡筒５００３の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５０７１の体腔内の観察対象に向かって照射される。なお、内視鏡５００１は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
　カメラヘッド５００５の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera　Control　Unit）５０３９に送信される。なお、カメラヘッド５００５には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
　なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５００５には撮像素子が複数設けられてもよい。この場合、鏡筒５００３の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
　（カートに搭載される各種の装置）
　ＣＣＵ５０３９は、ＣＰＵ（Central　Processing　Unit）やＧＰＵ（Graphics　Processing　Unit）等によって構成され、内視鏡５００１及び表示装置５０４１の動作を統括的に制御する。具体的には、ＣＣＵ５０３９は、カメラヘッド５００５から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５０３９は、当該画像処理を施した画像信号を表示装置５０４１に提供する。また、ＣＣＵ５０３９は、カメラヘッド５００５に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
　表示装置５０４１は、ＣＣＵ５０３９からの制御により、当該ＣＣＵ５０３９によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５００１が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５０４１としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５０４１として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５０４１が設けられてもよい。
　光源装置５０４３は、例えばＬＥＤ（light　emitting　diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５００１に供給する。
　アーム制御装置５０４５は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５０２７のアーム部５０３１の駆動を制御する。
　入力装置５０４７は、内視鏡手術システム５０００に対する入力インタフェースである。ユーザは、入力装置５０４７を介して、内視鏡手術システム５０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５０４７を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５０４７を介して、アーム部５０３１を駆動させる旨の指示や、内視鏡５００１による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５０２１を駆動させる旨の指示等を入力する。
　入力装置５０４７の種類は限定されず、入力装置５０４７は各種の公知の入力装置であってよい。入力装置５０４７としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５０５７及び／又はレバー等が適用され得る。入力装置５０４７としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５０４１の表示面上に設けられてもよい。
　あるいは、入力装置５０４７は、例えばメガネ型のウエアラブルデバイスやＨＭＤ（Head　Mounted　Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５０４７は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５０４７は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５０４７が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５０６７）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
　処置具制御装置５０４９は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５０２１の駆動を制御する。気腹装置５０５１は、内視鏡５００１による視野の確保及び術者の作業空間の確保の目的で、患者５０７１の体腔を膨らめるために、気腹チューブ５０１９を介して当該体腔内にガスを送り込む。レコーダ５０５３は、手術に関する各種の情報を記録可能な装置である。プリンタ５０５５は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
　以下、内視鏡手術システム５０００において特に特徴的な構成について、更に詳細に説明する。
　（支持アーム装置）
　支持アーム装置５０２７は、基台であるベース部５０２９と、ベース部５０２９から延伸するアーム部５０３１と、を備える。図示する例では、アーム部５０３１は、複数の関節部５０３３ａ、５０３３ｂ、５０３３ｃと、関節部５０３３ｂによって連結される複数のリンク５０３５ａ、５０３５ｂと、から構成されているが、図４９では、簡単のため、アーム部５０３１の構成を簡略化して図示している。実際には、アーム部５０３１が所望の自由度を有するように、関節部５０３３ａ～５０３３ｃ及びリンク５０３５ａ、５０３５ｂの形状、数及び配置、並びに関節部５０３３ａ～５０３３ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５０３１は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５０３１の可動範囲内において内視鏡５００１を自由に移動させることが可能になるため、所望の方向から内視鏡５００１の鏡筒５００３を患者５０７１の体腔内に挿入することが可能になる。
　関節部５０３３ａ～５０３３ｃにはアクチュエータが設けられており、関節部５０３３ａ～５０３３ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５０４５によって制御されることにより、各関節部５０３３ａ～５０３３ｃの回転角度が制御され、アーム部５０３１の駆動が制御される。これにより、内視鏡５００１の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５０４５は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５０３１の駆動を制御することができる。
　例えば、術者５０６７が、入力装置５０４７（フットスイッチ５０５７を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５０４５によってアーム部５０３１の駆動が適宜制御され、内視鏡５００１の位置及び姿勢が制御されてよい。当該制御により、アーム部５０３１の先端の内視鏡５００１を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５０３１は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５０３１は、手術室から離れた場所に設置される入力装置５０４７を介してユーザによって遠隔操作され得る。
　また、力制御が適用される場合には、アーム制御装置５０４５は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５０３１が移動するように、各関節部５０３３ａ～５０３３ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５０３１に触れながらアーム部５０３１を移動させる際に、比較的軽い力で当該アーム部５０３１を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５００１を移動させることが可能となり、ユーザの利便性を向上させることができる。
　ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５００１が支持されていた。これに対して、支持アーム装置５０２７を用いることにより、人手によらずに内視鏡５００１の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
　なお、アーム制御装置５０４５は必ずしもカート５０３７に設けられなくてもよい。また、アーム制御装置５０４５は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５０４５は、支持アーム装置５０２７のアーム部５０３１の各関節部５０３３ａ～５０３３ｃにそれぞれ設けられてもよく、複数のアーム制御装置５０４５が互いに協働することにより、アーム部５０３１の駆動制御が実現されてもよい。
　（光源装置）
　光源装置５０４３は、内視鏡５００１に術部を撮影する際の照射光を供給する。光源装置５０４３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５０４３において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５００５の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
　また、光源装置５０４３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５００５の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
　また、光源装置５０４３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow　Band　Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５０４３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
　（カメラヘッド及びＣＣＵ）
　図５０を参照して、内視鏡５００１のカメラヘッド５００５及びＣＣＵ５０３９の機能についてより詳細に説明する。図５０は、図４９に示すカメラヘッド５００５及びＣＣＵ５０３９の機能構成の一例を示すブロック図である。
　図５０を参照すると、カメラヘッド５００５は、その機能として、レンズユニット５００７と、撮像部５００９と、駆動部５０１１と、通信部５０１３と、カメラヘッド制御部５０１５と、を有する。また、ＣＣＵ５０３９は、その機能として、通信部５０５９と、画像処理部５０６１と、制御部５０６３と、を有する。カメラヘッド５００５とＣＣＵ５０３９とは、伝送ケーブル５０６５によって双方向に通信可能に接続されている。
　まず、カメラヘッド５００５の機能構成について説明する。レンズユニット５００７は、鏡筒５００３との接続部に設けられる光学系である。鏡筒５００３の先端から取り込まれた観察光は、カメラヘッド５００５まで導光され、当該レンズユニット５００７に入射する。レンズユニット５００７は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５００７は、撮像部５００９の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
　撮像部５００９は撮像素子によって構成され、レンズユニット５００７の後段に配置される。レンズユニット５００７を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５００９によって生成された画像信号は、通信部５０１３に提供される。
　撮像部５００９を構成する撮像素子としては、例えばＣＭＯＳ（Complementary　Metal　Oxide　Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５０６７は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
　また、撮像部５００９を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５０６７は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５００９が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５００７も複数系統設けられる。
　また、撮像部５００９は、必ずしもカメラヘッド５００５に設けられなくてもよい。例えば、撮像部５００９は、鏡筒５００３の内部に、対物レンズの直後に設けられてもよい。
　駆動部５０１１は、アクチュエータによって構成され、カメラヘッド制御部５０１５からの制御により、レンズユニット５００７のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５００９による撮像画像の倍率及び焦点が適宜調整され得る。
　通信部５０１３は、ＣＣＵ５０３９との間で各種の情報を送受信するための通信装置によって構成される。通信部５０１３は、撮像部５００９から得た画像信号をＲＡＷデータとして伝送ケーブル５０６５を介してＣＣＵ５０３９に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５０６７が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５０１３には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５０６５を介してＣＣＵ５０３９に送信される。
　また、通信部５０１３は、ＣＣＵ５０３９から、カメラヘッド５００５の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５０１３は、受信した制御信号をカメラヘッド制御部５０１５に提供する。なお、ＣＣＵ５０３９からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５０１３には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５０１５に提供される。
　なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５０３９の制御部５０６３によって自動的に設定される。つまり、いわゆるＡＥ（Auto　Exposure）機能、ＡＦ（Auto　Focus）機能及びＡＷＢ（Auto　White　Balance）機能が内視鏡５００１に搭載される。
　カメラヘッド制御部５０１５は、通信部５０１３を介して受信したＣＣＵ５０３９からの制御信号に基づいて、カメラヘッド５００５の駆動を制御する。例えば、カメラヘッド制御部５０１５は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５００９の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５０１５は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５０１１を介してレンズユニット５００７のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５０１５は、更に、鏡筒５００３やカメラヘッド５００５を識別するための情報を記憶する機能を備えてもよい。
　なお、レンズユニット５００７や撮像部５００９等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５００５について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
　次に、ＣＣＵ５０３９の機能構成について説明する。通信部５０５９は、カメラヘッド５００５との間で各種の情報を送受信するための通信装置によって構成される。通信部５０５９は、カメラヘッド５００５から、伝送ケーブル５０６５を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５０５９には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５０５９は、電気信号に変換した画像信号を画像処理部５０６１に提供する。
　また、通信部５０５９は、カメラヘッド５００５に対して、カメラヘッド５００５の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
　画像処理部５０６１は、カメラヘッド５００５から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise　reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５０６１は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。
　画像処理部５０６１は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５０６１が複数のＧＰＵによって構成される場合には、画像処理部５０６１は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。
　制御部５０６３は、内視鏡５００１による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５０６３は、カメラヘッド５００５の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５０６３は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５００１にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５０６３は、画像処理部５０６１による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
　また、制御部５０６３は、画像処理部５０６１によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５０４１に表示させる。この際、制御部５０６３は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５０６３は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５０２１使用時のミスト等を認識することができる。制御部５０６３は、表示装置５０４１に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５０６７に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
　カメラヘッド５００５及びＣＣＵ５０３９を接続する伝送ケーブル５０６５は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
　ここで、図示する例では、伝送ケーブル５０６５を用いて有線で通信が行われていたが、カメラヘッド５００５とＣＣＵ５０３９との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５０６５を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５０６５によって妨げられる事態が解消され得る。
　以上、本開示に係る技術が適用され得る内視鏡手術システム５０００の一例について説明した。なお、ここでは、一例として内視鏡手術システム５０００について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
　本開示に係る技術は、以上説明した構成のうち、撮像部５００９に好適に適用され得る。撮像部５００９に本開示に係る技術を適用することにより、撮像部５００９を小型化することができる。また、撮像素子の各画素の配置の自由度が高いため、所望の位置の術部画像が得やすくなり、手術をより安全にかつより確実に行うことが可能になる。
　図５１は、本開示に係る技術が適用され得る体内情報取得システム５４００の概略的な構成の一例を示す図である。図５１を参照すると、体内情報取得システム５４００は、カプセル型内視鏡５４０１と、体内情報取得システム５４００の動作を統括的に制御する外部制御装置５４２３と、から構成される。検査時には、カプセル型内視鏡５４０１が患者によって飲み込まれる。カプセル型内視鏡５４０１は、撮像機能及び無線通信機能を有し、患者から自然排出されるまでの間、胃や腸等の臓器の内部を蠕動運動等によって移動しつつ、当該臓器の内部の画像（以下、体内画像ともいう）を所定の間隔で順次撮像し、その体内画像についての情報を体外の外部制御装置５４２３に順次無線送信する。外部制御装置５４２３は、受信した体内画像についての情報に基づいて、表示装置（図示せず）に当該体内画像を表示するための画像データを生成する。体内情報取得システム５４００では、このようにして、カプセル型内視鏡５４０１が飲み込まれてから排出されるまでの間、患者の体内の様子を撮像した画像を随時得ることができる。
　カプセル型内視鏡５４０１と外部制御装置５４２３の構成及び機能についてより詳細に説明する。図示するように、カプセル型内視鏡５４０１は、カプセル型の筐体５４０３内に、光源部５４０５、撮像部５４０７、画像処理部５４０９、無線通信部５４１１、給電部５４１５、電源部５４１７、状態検出部５４１９及び制御部５４２１の機能が搭載されて構成される。
　光源部５４０５は、例えばＬＥＤ（light　emitting　diode）等の光源から構成され、撮像部５４０７の撮像視野に対して光を照射する。
　撮像部５４０７は、撮像素子、及び当該撮像素子の前段に設けられる複数のレンズからなる光学系から構成される。観察対象である体組織に照射された光の反射光（以下、観察光という）は、当該光学系によって集光され、当該撮像素子に入射する。当該撮像素子は、観察光を受光して光電変換することにより、観察光に対応した電気信号、すなわち観察像に対応した画像信号を生成する。撮像部５４０７によって生成された画像信号は、画像処理部５４０９に提供される。なお、撮像部５４０７の撮像素子としては、ＣＭＯＳ（Complementary　Metal　Oxide　Semiconductor）イメージセンサ又はＣＣＤ（Charge　Coupled　Device）イメージセンサ等、各種の公知の撮像素子が用いられてよい。
　画像処理部５４０９は、ＣＰＵ（Central　Processing　Unit）やＧＰＵ（Graphics　Processing　Unit）等のプロセッサによって構成され、撮像部５４０７によって生成された画像信号に対して各種の信号処理を行う。当該信号処理は、画像信号を外部制御装置５４２３に伝送するための最小限の処理（例えば、画像データの圧縮、フレームレートの変換、データレートの変換及び／又はフォーマットの変換等）であってよい。画像処理部５４０９が必要最小限の処理のみを行うように構成されることにより、当該画像処理部５４０９を、より小型、より低消費電力で実現することができるため、カプセル型内視鏡５４０１に好適である。ただし、筐体５４０３内のスペースや消費電力に余裕がある場合であれば、画像処理部５４０９において、更なる信号処理（例えば、ノイズ除去処理や他の高画質化処理等）が行われてもよい。画像処理部５４０９は、信号処理を施した画像信号を、ＲＡＷデータとして無線通信部５４１１に提供する。なお、画像処理部５４０９は、状態検出部５４１９によってカプセル型内視鏡５４０１の状態（動きや姿勢等）についての情報が取得されている場合には、当該情報と紐付けて、画像信号を無線通信部５４１１に提供してもよい。これにより、画像が撮像された体内における位置や画像の撮像方向等と、撮像画像とを関連付けることができる。
　無線通信部５４１１は、外部制御装置５４２３との間で各種の情報を送受信可能な通信装置によって構成される。当該通信装置は、アンテナ５４１３と、信号の送受信のための変調処理等を行う処理回路等から構成される。無線通信部５４１１は、画像処理部５４０９によって信号処理が施された画像信号に対して変調処理等の所定の処理を行い、その画像信号を、アンテナ５４１３を介して外部制御装置５４２３に送信する。また、無線通信部５４１１は、外部制御装置５４２３から、カプセル型内視鏡５４０１の駆動制御に関する制御信号を、アンテナ５４１３を介して受信する。無線通信部５４１１は、受信した制御信号を制御部５４２１に提供する。
　給電部５４１５は、受電用のアンテナコイル、当該アンテナコイルに発生した電流から電力を再生する電力再生回路、及び昇圧回路等から構成される。給電部５４１５では、いわゆる非接触充電の原理を用いて電力が生成される。具体的には、給電部５４１５のアンテナコイルに対して外部から所定の周波数の磁界（電磁波）が与えられることにより、当該アンテナコイルに誘導起電力が発生する。当該電磁波は、例えば外部制御装置５４２３からアンテナ５４２５を介して送信される搬送波であってよい。当該誘導起電力から電力再生回路によって電力が再生され、昇圧回路においてその電位が適宜調整されることにより、蓄電用の電力が生成される。給電部５４１５によって生成された電力は、電源部５４１７に蓄電される。
　電源部５４１７は、二次電池によって構成され、給電部５４１５によって生成された電力を蓄電する。図５１では、図面が煩雑になることを避けるために、電源部５４１７からの電力の供給先を示す矢印等の図示を省略しているが、電源部５４１７に蓄電された電力は、光源部５４０５、撮像部５４０７、画像処理部５４０９、無線通信部５４１１、状態検出部５４１９及び制御部５４２１に供給され、これらの駆動に用いられ得る。
　状態検出部５４１９は、加速度センサ及び／又はジャイロセンサ等の、カプセル型内視鏡５４０１の状態を検出するためのセンサから構成される。状態検出部５４１９は、当該センサによる検出結果から、カプセル型内視鏡５４０１の状態についての情報を取得することができる。状態検出部５４１９は、取得したカプセル型内視鏡５４０１の状態についての情報を、画像処理部５４０９に提供する。画像処理部５４０９では、上述したように、当該カプセル型内視鏡５４０１の状態についての情報が、画像信号と紐付けられ得る。
　制御部５４２１は、ＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することによりカプセル型内視鏡５４０１の動作を統括的に制御する。制御部５４２１は、光源部５４０５、撮像部５４０７、画像処理部５４０９、無線通信部５４１１、給電部５４１５、電源部５４１７及び状態検出部５４１９の駆動を、外部制御装置５４２３から送信される制御信号に従って適宜制御することにより、以上説明したような各部における機能を実現させる。
　外部制御装置５４２３は、ＣＰＵ、ＧＰＵ等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイコン若しくは制御基板等であり得る。外部制御装置５４２３は、アンテナ５４２５を有し、当該アンテナ５４２５を介して、カプセル型内視鏡５４０１との間で各種の情報を送受信可能に構成される。具体的には、外部制御装置５４２３は、カプセル型内視鏡５４０１の制御部５４２１に対して制御信号を送信することにより、カプセル型内視鏡５４０１の動作を制御する。例えば、外部制御装置５４２３からの制御信号により、光源部５４０５における観察対象に対する光の照射条件が変更され得る。また、外部制御装置５４２３からの制御信号により、撮像条件（例えば、撮像部５４０７におけるフレームレート、露出値等）が変更され得る。また、外部制御装置５４２３からの制御信号により、画像処理部５４０９における処理の内容や、無線通信部５４１１が画像信号を送信する条件（例えば、送信間隔、送信画像数等）が変更されてもよい。
　また、外部制御装置５４２３は、カプセル型内視鏡５４０１から送信される画像信号に対して、各種の画像処理を施し、撮像された体内画像を表示装置に表示するための画像データを生成する。当該画像処理としては、例えば現像処理（デモザイク処理）、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise　reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が行われてよい。外部制御装置５４２３は、表示装置（図示せず）の駆動を制御して、生成した画像データに基づいて撮像された体内画像を表示させる。あるいは、外部制御装置５４２３は、生成した画像データを記録装置（図示せず）に記録させたり、印刷装置（図示せず）に印刷出力させてもよい。
　以上、本開示に係る技術が適用され得る体内情報取得システム５４００の一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部５４０７に好適に適用され得る。撮像部５４０７に本開示に係る技術を適用することにより、カプセル型内視鏡５４０１をより小型化できるため、患者の負担を更に軽減することができる。
　＜＜７．その他＞＞
　上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータ（例えば、制御部１２３等）などが含まれる。
　コンピュータが実行するプログラムは、例えば、パッケージメディア等としての記録媒体（例えば、記録媒体１３０等）に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
　なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
　また、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。
　さらに、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
　例えば、本技術は、１つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
　また、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。
　さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
　尚、本開示は、以下のような構成も取ることができる。
（１） 
　ユーザが装着又は使用する電子機器において、
　前記電子機器を装着又は使用しているユーザの周囲が写る位置に配置されている撮像部であって、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を複数備える撮像部を
　備える電子機器。
（２）
　各前記画素出力単位は、前記電子機器が前記ユーザに装着されている状態において、前記電子機器の外側に露出する面に配置されている
　前記（１）に記載の電子機器。
（３） 
　前記電子機器は、前記ユーザの頭部に装着される
　前記（２）に記載の電子機器。
（４）
　前記電子機器は、メガネ型又はゴーグル型である
　前記（３）に記載の電子機器。
（５）
　前記電子機器は、ヘッドフォンである
　前記（３）に記載の電子機器。
（６）
　前記電子機器は、カメラである
　前記（１）に記載の電子機器。
（７）
　各前記画素出力単位からの複数の前記検出信号を用いて復元画像を復元する復元部を
　さらに備える前記（１）乃至（６）のいずれかに記載の電子機器。
（８）
　前記復元部は、各前記画素出力単位の前記入射角指向性を示す複数の係数を用いて、前記復元画像を復元する
　前記（７）に記載の電子機器。
（９）
　少なくとも一部の前記画素出力単位が、前記電子機器の変形可能な部分に配置されており、
　前記復元部は、前記変形可能な部分の変形具合に基づいて、前記復元画像の復元に用いる前記係数を選択する
　前記（８）に記載の電子機器。
（１０）
　前記復元画像に基づいて、所定の処理を実行する制御部を
　さらに備える前記（７）又は（８）に記載の電子機器。
（１１）
　前記制御部は、前記復元画像に基づいて、前記ユーザの周囲の認識処理を行う
　前記（１０）に記載の電子機器。
（１２）
　前記復元画像の記録を制御する記録部を
　さらに備える前記（１１）に記載の電子機器。
（１３）
　複数の前記検出信号を含む前記検出信号セットと、前記検出信号セットを用いて復元画像を復元する場合に用いられるメタデータとを関連付ける関連付け部を
　さらに備える前記（１）乃至（１１）のいずれかに記載の電子機器。
（１４）
　前記撮像部は、１以上の撮像素子を備え、
　複数の前記画素出力単位は、前記撮像素子に設けられている
　前記（１）乃至（１３）のいずれかに記載の電子機器。
（１５）
　各前記画素出力単位は、２以上の離れた領域に配置されている
　前記（１）乃至（１４）のいずれかに記載の電子機器。
（１６） 
　前記複数の画素出力単位は、前記入射角指向性を独立に設定可能な構成を有する
　前記（１）乃至（１５）のいずれかに記載の電子機器。
（１７） 
　前記複数の画素出力単位は、
　　１つのフォトダイオードと、
　　前記入射光の一部の前記フォトダイオードへの入射を遮る遮光膜と
　をそれぞれ備える前記（１６）に記載の電子機器。
（１８） 
　前記複数の画素出力単位のうち少なくも２つの画素出力単位は、複数のフォトダイオードを備え、出力に寄与するフォトダイオードを互いに異ならせることで、前記入射角指向性が互いに異なる
　前記（１６）に記載の電子機器。
（１９）
　前記撮像部は、前記複数の画素出力単位のうちの少なくとも２つの画素出力単位の出力画素値の、前記入射光に対する入射角指向性が、互いに異なる特性となるようにするための構成を有する
　前記（１）乃至（１８）のいずれかに記載の電子機器。
　なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
　１０１　撮像装置，　１１１　信号処理制御部，　１２１　撮像素子，　１２１ａ，１２１ａ’　画素，　１２１Ａ　受光面，　１２１ｂ　遮光膜，　１２１ｃ　オンチップレンズ，　１２１ｅ，１２１ｆ　フォトダイオード，　１２２　復元部，　１２３　制御部，　１２５　検出部，　１２６　関連付け部，　３０１　電子機器，　３１１　撮像部，　３１２　信号処理制御部，　３２１　復元部，　３２２　制御部，　３２５　関連付け部，　３２６　出力部,　３２８　記録再生部，　４０１　ウエアラブルデバイス，　４１１Ｌ，４１１Ｒ　レンズ，　４１２　フレーム，　４３１　カメラ，　４４１　ファインダ，　４６１　ヘッドマウントディスプレイ，　４７１Ｌ，４７１Ｒ　レンズ，　４９１　ＰＣ，　５０１　ディスプレイ，　５０２　ベゼル，　６０１　ウエアラブルデバイス，　６１１Ｌ，６１１Ｒ　レンズ，　６１２　フレーム，　６３１　カメラ，　６４１　マウント，　６４２　フラッシュ内蔵部，　６４３　レンズ，　６６１　ヘッドマウントディスプレイ，　６７１　本体部，　６７２　ヘッドパッド，　６９１　ヘッドフォン，　７０１Ｌ，７０１Ｒ　ハウジング，　７０２　ヘッドセット，　７２１　ヘッドフォン，　７３１Ｌ，７３１Ｒ　ハウジング，　７３２　ネックバンド，　７５１　曲げセンサ，　８０１　情報処理システム，　８１１　電子機器，　８１２　信号処理装置，　９０１ｂ，９０１ｓ　画素出力単位

Claims (19)

  1. 　ユーザが装着又は使用する電子機器において、
    　前記電子機器を装着又は使用しているユーザの周囲が写る位置に配置されている撮像部であって、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を複数備える撮像部を
    　備える電子機器。
  2. 　各前記画素出力単位は、前記電子機器が前記ユーザに装着されている状態において、前記電子機器の外側に露出する面に配置されている
    　請求項１に記載の電子機器。
  3. 　前記電子機器は、前記ユーザの頭部に装着される
    　請求項２に記載の電子機器。
  4. 　前記電子機器は、メガネ型又はゴーグル型である
    　請求項３に記載の電子機器。
  5. 　前記電子機器は、ヘッドフォンである
    　請求項３に記載の電子機器。
  6. 　前記電子機器は、カメラである
    　請求項１に記載の電子機器。
  7. 　各前記画素出力単位からの複数の前記検出信号を用いて復元画像を復元する復元部を
    　さらに備える請求項１に記載の電子機器。
  8. 　前記復元部は、各前記画素出力単位の前記入射角指向性を示す複数の係数を用いて、前記復元画像を復元する
    　請求項７に記載の電子機器。
  9. 　少なくとも一部の前記画素出力単位が、前記電子機器の変形可能な部分に配置されており、
    　前記復元部は、前記変形可能な部分の変形具合に基づいて、前記復元画像の復元に用いる前記係数を選択する
    　請求項８に記載の電子機器。
  10. 　前記復元画像に基づいて、所定の処理を実行する制御部を
    　さらに備える請求項７に記載の電子機器。
  11. 　前記制御部は、前記復元画像に基づいて、前記ユーザの周囲の認識処理を行う
    　請求項１０に記載の電子機器。
  12. 　前記復元画像の記録を制御する記録部を
    　さらに備える請求項１１に記載の電子機器。
  13. 　複数の前記検出信号を含む前記検出信号セットと、前記検出信号セットを用いて復元画像を復元する場合に用いられるメタデータとを関連付ける関連付け部を
    　さらに備える請求項１に記載の電子機器。
  14. 　前記撮像部は、１以上の撮像素子を備え、
    　複数の前記画素出力単位は、前記撮像素子に設けられている
    　請求項１に記載の電子機器。
  15. 　各前記画素出力単位は、２以上の離れた領域に配置されている
    　請求項１に記載の電子機器。
  16. 　前記複数の画素出力単位は、前記入射角指向性を独立に設定可能な構成を有する
    　請求項１に記載の電子機器。
  17. 　前記複数の画素出力単位は、
    　　１つのフォトダイオードと、
    　　前記入射光の一部の前記フォトダイオードへの入射を遮る遮光膜と
    　をそれぞれ備える請求項１６に記載の電子機器。
  18. 　前記複数の画素出力単位のうち少なくも２つの画素出力単位は、複数のフォトダイオードを備え、出力に寄与するフォトダイオードを互いに異ならせることで、前記入射角指向性が互いに異なる
    　請求項１６に記載の電子機器。
  19. 　前記撮像部は、前記複数の画素出力単位のうちの少なくとも２つの画素出力単位の出力画素値の、前記入射光に対する入射角指向性が、互いに異なる特性となるようにするための構成を有する
    　請求項１に記載の電子機器。
PCT/JP2018/038947 2017-10-19 2018-10-19 電子機器 WO2019078339A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020207009788A KR20200062220A (ko) 2017-10-19 2018-10-19 전자 기기
EP18868174.6A EP3700182A4 (en) 2017-10-19 2018-10-19 ELECTRONIC DEVICE
JP2019548814A JP7247890B2 (ja) 2017-10-19 2018-10-19 電子機器及び信号処理装置
CN201880066131.6A CN111201771B (zh) 2017-10-19 2018-10-19 电子仪器
US16/754,398 US11368609B2 (en) 2017-10-19 2018-10-19 Electronic apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017202863 2017-10-19
JP2017-202863 2017-10-19

Publications (1)

Publication Number Publication Date
WO2019078339A1 true WO2019078339A1 (ja) 2019-04-25

Family

ID=66173720

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/038947 WO2019078339A1 (ja) 2017-10-19 2018-10-19 電子機器

Country Status (6)

Country Link
US (1) US11368609B2 (ja)
EP (1) EP3700182A4 (ja)
JP (1) JP7247890B2 (ja)
KR (1) KR20200062220A (ja)
CN (1) CN111201771B (ja)
WO (1) WO2019078339A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7562282B2 (ja) 2019-06-28 2024-10-07 キヤノン株式会社 撮像表示装置、およびウェアラブルデバイス

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11470247B2 (en) 2018-03-29 2022-10-11 Sony Corporation Information processing device, information processing method, program, and information processing system
US12008157B2 (en) * 2021-03-01 2024-06-11 Qualcomm Incorporated Movement detection of a head mounted device

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012029209A (ja) * 2010-07-27 2012-02-09 Hitachi Ltd 音処理システム
JP2016510910A (ja) 2013-03-05 2016-04-11 ラムバス・インコーポレーテッド 高解像度レンズなし光学検知の奇対称を有する位相格子
JP2016092413A (ja) * 2014-10-29 2016-05-23 株式会社半導体エネルギー研究所 撮像装置および電子機器
WO2016123529A1 (en) 2015-01-29 2016-08-04 William Marsh Rice University Lensless imaging system using an image sensor with one or more attenuating layers
WO2017056865A1 (ja) * 2015-09-29 2017-04-06 大日本印刷株式会社 レンズシート、レンズシートユニット、撮像モジュール、撮像装置

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060125945A1 (en) * 2001-08-07 2006-06-15 Satoshi Suzuki Solid-state imaging device and electronic camera and shading compensaton method
US7236285B2 (en) * 2004-02-12 2007-06-26 Seiko Epson Corporation Light modulation device and optical display device, and light modulation method and image display method
US9658473B2 (en) * 2005-10-07 2017-05-23 Percept Technologies Inc Enhanced optical and perceptual digital eyewear
US11428937B2 (en) * 2005-10-07 2022-08-30 Percept Technologies Enhanced optical and perceptual digital eyewear
JP4661912B2 (ja) * 2008-07-18 2011-03-30 ソニー株式会社 固体撮像素子およびカメラシステム
EP3836215A1 (en) 2008-07-25 2021-06-16 Cornell University Light field image sensor, method and applications
US20150309316A1 (en) * 2011-04-06 2015-10-29 Microsoft Technology Licensing, Llc Ar glasses with predictive control of external device based on event input
US8466530B2 (en) * 2011-06-30 2013-06-18 Taiwan Semiconductor Manufacturing Company, Ltd. Co-implant for backside illumination sensor
JP6120508B2 (ja) 2011-10-03 2017-04-26 キヤノン株式会社 撮像素子および撮像装置
US9389420B2 (en) * 2012-06-14 2016-07-12 Qualcomm Incorporated User interface interaction for transparent head-mounted displays
US8958005B1 (en) * 2012-08-30 2015-02-17 Google Inc. Single pixel camera
US10430985B2 (en) * 2014-03-14 2019-10-01 Magic Leap, Inc. Augmented reality systems and methods utilizing reflections
US9465991B2 (en) * 2014-08-11 2016-10-11 Microsoft Technology Licensing, Llc Determining lens characteristics
JP2016123529A (ja) 2014-12-26 2016-07-11 株式会社大都技研 遊技台
US9728010B2 (en) * 2014-12-30 2017-08-08 Microsoft Technology Licensing, Llc Virtual representations of real-world objects
US9779512B2 (en) * 2015-01-29 2017-10-03 Microsoft Technology Licensing, Llc Automatic generation of virtual materials from real-world materials
US9558760B2 (en) * 2015-03-06 2017-01-31 Microsoft Technology Licensing, Llc Real-time remodeling of user voice in an immersive visualization system
US10165949B2 (en) * 2015-06-14 2019-01-01 Facense Ltd. Estimating posture using head-mounted cameras
US10261584B2 (en) * 2015-08-24 2019-04-16 Rambus Inc. Touchless user interface for handheld and wearable computers
JP2017063393A (ja) 2015-09-25 2017-03-30 日本電産コパル株式会社 撮像素子、及びカメラ
WO2019078336A1 (ja) * 2017-10-19 2019-04-25 ソニー株式会社 撮像装置および信号処理装置
JP7180609B2 (ja) * 2017-10-19 2022-11-30 ソニーグループ株式会社 情報処理装置と情報処理方法および撮像装置とプログラム
RU2020112459A (ru) * 2017-10-19 2021-09-27 Сони Корпорейшн Устройство и способ получения изображения, устройство и способ обработки изображения
JP7160044B2 (ja) * 2017-10-19 2022-10-25 ソニーグループ株式会社 電子機器
EP3700187B1 (en) * 2017-10-19 2023-04-12 Sony Group Corporation Signal processing device and imaging device
CN111201783B (zh) * 2017-10-19 2022-09-16 索尼公司 成像装置和方法以及图像处理装置和方法
CN111201780B (zh) * 2017-10-19 2022-09-16 索尼公司 成像装置和方法以及图像处理装置和方法
EP3700195A4 (en) * 2017-10-19 2020-12-16 Sony Corporation INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD, IMAGING DEVICE AND PROGRAM

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012029209A (ja) * 2010-07-27 2012-02-09 Hitachi Ltd 音処理システム
JP2016510910A (ja) 2013-03-05 2016-04-11 ラムバス・インコーポレーテッド 高解像度レンズなし光学検知の奇対称を有する位相格子
JP2016092413A (ja) * 2014-10-29 2016-05-23 株式会社半導体エネルギー研究所 撮像装置および電子機器
WO2016123529A1 (en) 2015-01-29 2016-08-04 William Marsh Rice University Lensless imaging system using an image sensor with one or more attenuating layers
WO2017056865A1 (ja) * 2015-09-29 2017-04-06 大日本印刷株式会社 レンズシート、レンズシートユニット、撮像モジュール、撮像装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
M. SALMAN ASIF: "Flatcam: Replacing lenses with masks and computation", 2015 IEEE INTERNATIONAL CONFERENCE ON COMPUTER VISION WORKSHOP (ICCVW, 2015, pages 663 - 666, XP032865019, DOI: 10.1109/ICCVW.2015.89
See also references of EP3700182A4

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7562282B2 (ja) 2019-06-28 2024-10-07 キヤノン株式会社 撮像表示装置、およびウェアラブルデバイス

Also Published As

Publication number Publication date
JPWO2019078339A1 (ja) 2020-11-19
CN111201771B (zh) 2022-08-30
US20200314306A1 (en) 2020-10-01
CN111201771A (zh) 2020-05-26
EP3700182A1 (en) 2020-08-26
US11368609B2 (en) 2022-06-21
EP3700182A4 (en) 2020-12-30
KR20200062220A (ko) 2020-06-03
JP7247890B2 (ja) 2023-03-29

Similar Documents

Publication Publication Date Title
JP7322708B2 (ja) 撮像素子
JP7160044B2 (ja) 電子機器
CN106796344B (zh) 锁定在感兴趣对象上的放大图像的系统、布置和方法
JP7226325B2 (ja) 焦点検出装置および方法、並びにプログラム
JP6996518B2 (ja) 分岐光学系、撮像装置、及び撮像システム
JP7247890B2 (ja) 電子機器及び信号処理装置
JP7238887B2 (ja) 情報処理装置、プログラム、及び、情報処理システム
JPWO2019035374A1 (ja) 撮像素子および撮像装置
JP6915615B2 (ja) 撮像素子、撮像装置、電子機器
WO2018221041A1 (ja) 医療用観察システム及び医療用観察装置
CN110945399B (zh) 信号处理设备、成像设备、信号处理方法和存储器
JP2008097328A (ja) 画像入力装置、個人認証装置及び電子機器
CN115136593A (zh) 成像装置、成像方法和电子装置
JP2009223526A (ja) 画像入力装置及び個人認証装置
US20240073564A1 (en) Region of interest sampling and retrieval for artificial reality systems
US20240094390A1 (en) Indirect time of flight sensor with parallel pixel architecture
JP2010092148A (ja) 画像入力装置及び個人認証装置
JP2014016687A (ja) 画像処理装置、画像処理方法、およびプログラム
CN118210148A (zh) 具有显示记录能力的头戴式电子设备
JP2021006070A (ja) 内視鏡システム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18868174

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2019548814

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2018868174

Country of ref document: EP

Effective date: 20200519