JPWO2019078336A1 - 撮像装置および信号処理装置 - Google Patents

撮像装置および信号処理装置 Download PDF

Info

Publication number
JPWO2019078336A1
JPWO2019078336A1 JP2019548811A JP2019548811A JPWO2019078336A1 JP WO2019078336 A1 JPWO2019078336 A1 JP WO2019078336A1 JP 2019548811 A JP2019548811 A JP 2019548811A JP 2019548811 A JP2019548811 A JP 2019548811A JP WO2019078336 A1 JPWO2019078336 A1 JP WO2019078336A1
Authority
JP
Japan
Prior art keywords
pixel
light
image pickup
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019548811A
Other languages
English (en)
Other versions
JP7259756B2 (ja
Inventor
光昭 喜多
光昭 喜多
佳孝 宮谷
佳孝 宮谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2019078336A1 publication Critical patent/JPWO2019078336A1/ja
Application granted granted Critical
Publication of JP7259756B2 publication Critical patent/JP7259756B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/76—Television signal recording
    • H04N5/765—Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14603—Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14605—Structural or functional details relating to the position of the pixel elements, e.g. smaller pixel elements in the center of the imager compared to pixel elements at the periphery
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/1462—Coatings
    • H01L27/14623—Optical shielding
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14625—Optical elements or arrangements associated with the device
    • H01L27/14627—Microlenses
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/1463—Pixel isolation structures
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00095—Systems or arrangements for the transmission of the picture signal
    • H04N1/00103—Systems or arrangements for the transmission of the picture signal specially adapted for radio transmission, e.g. via satellites
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/65—Control of camera operation in relation to power supply
    • H04N23/651—Control of camera operation in relation to power supply for reducing power consumption by affecting camera operations, e.g. sleep mode, hibernation mode or power off of selective parts of the camera
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95—Computational photography systems, e.g. light-field imaging systems
    • H04N23/957—Light-field or plenoptic cameras or camera modules
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/41—Extracting pixel data from a plurality of image sensors simultaneously picking up an image, e.g. for increasing the field of view by combining the outputs of a plurality of sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/702—SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/025—Systems for the transmission of digital non-picture data, e.g. of text during the active part of a television frame
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/79—Processing of colour television signals in connection with recording
    • H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00—Stereoscopic photography
    • G03B35/08—Stereoscopic photography by simultaneous recording
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/1464—Back illuminated imager structures
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14601—Structural or functional details thereof
    • H01L27/14641—Electronic components shared by two or more pixel-elements, e.g. one amplifier shared by two pixel elements
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144—Devices controlled by radiation
    • H01L27/146—Imager structures
    • H01L27/14643—Photodiode arrays; MOS imagers
    • H01L27/14645—Colour imagers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00—Still video cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077—Types of the still picture apparatus
    • H04N2201/0084—Digital still camera
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3204—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to a user, sender, addressee, machine or electronic recording medium
    • H04N2201/3205—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to a user, sender, addressee, machine or electronic recording medium of identification information, e.g. name or ID code
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3252—Image capture parameters, e.g. resolution, illumination conditions, orientation of the image capture device
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3253—Position information, e.g. geographical position at time of capture, GPS data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Astronomy & Astrophysics (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Exposure Control For Cameras (AREA)
  • Cameras In General (AREA)

Abstract

本開示は、撮像装置の適用範囲を拡大することができるようにする撮像装置および信号処理装置に関する。撮像装置は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を１以上備え、１以上の前記検出信号を含む検出信号セットを出力する撮像素子と、前記検出信号セット、並びに、位置及び姿勢のうち少なくとも１つを示す位置姿勢データを含む撮像データを無線通信により通信装置に送信する通信部とを備える。本開示は、例えば、監視システムに適用することができる。

Description

本開示は、撮像装置および信号処理装置に関し、特に、撮像装置の適用範囲を拡大できるようにした撮像装置および信号処理装置に関する。
従来、撮像レンズを用いずに、撮像素子の受光面を覆う格子状の光学フィルタや回折格子からなる光学フィルタにより被写体からの光を変調して撮像し、所定の演算処理により被写体の像が結像された画像を復元する撮像装置が提案されている（例えば、非特許文献１、特許文献１、２参照）。
特表２０１６-５１０９１０号公報 国際公開第２０１６／１２３５２９号
ところで、非特許文献１や特許文献１、２に示されるような撮像レンズを用いない撮像装置は、撮像レンズがない分小型化が可能であり、適用範囲の拡大が期待されている。
本開示は、このような状況に鑑みてなされたものであり、撮像装置の適用範囲を拡大できるようにするものである。
本開示の第１の側面の撮像装置は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を１以上備え、１以上の前記検出信号を含む検出信号セットを出力する撮像素子と、前記検出信号セット、並びに、位置及び姿勢のうち少なくとも１つを示す位置姿勢データを含む撮像データを無線通信により通信装置に送信する通信部とを備える。
本開示の第２の側面の信号処理装置は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を１以上備え、１以上の前記検出信号からなる検出信号セットを出力する撮像素子をそれぞれ備える複数の撮像装置からの複数の撮像データにそれぞれ含まれる複数の前記検出信号セットを用いて、復元画像を復元する復元部を備える。
本開示の第１の側面においては、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光が受光され、前記入射光の入射角によって変調された出力画素値を示す１以上の検出信号を含む検出信号セットが出力され、前記検出信号セット、並びに、位置及び姿勢のうち少なくとも１つを示す位置姿勢データを含む撮像データが無線通信により通信装置に送信される。
本開示の第２の側面においては、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を１以上備え、１以上の前記検出信号からなる検出信号セットを出力する撮像素子をそれぞれ備える複数の撮像装置からの複数の撮像データにそれぞれ含まれる複数の前記検出信号セットを用いて、復元画像が復元される。
本開示の第１の側面又は第２の側面によれば、撮像装置の適用範囲を拡大することができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本開示の技術を適用した撮像装置における撮像の原理を説明する図である。 本開示の技術を適用した撮像装置の基本的な構成例を示すブロック図である。 図２の撮像素子の画素アレイ部の構成例を示す図である。 図２の撮像素子の第１の構成例を説明する図である。 図２の撮像素子の第２の構成例を説明する図である。 入射角指向性の発生の原理を説明する図である。 オンチップレンズを利用した入射角指向性の変化を説明する図である。 遮光膜のタイプの例を示す図である。 入射角指向性の設計を説明する図である。 オンチップレンズと撮像レンズとの違いを説明する図である。 オンチップレンズと撮像レンズとの違いを説明する図である。 オンチップレンズと撮像レンズとの違いを説明する図である。 被写体距離と入射角指向性を示す係数との関係を説明する図である。 狭画角画素と広画角画素との関係を説明する図である。 狭画角画素と広画角画素との関係を説明する図である。 狭画角画素と広画角画素との関係を説明する図である。 狭画角画素と広画角画素の画質の違いを説明するための図である。 狭画角画素と広画角画素の画質の違いを説明するための図である。 複数の画角の画素を組み合わせる例を説明する図である。 図２の撮像装置による撮像処理を説明するフローチャートである。 処理負荷の低減方法を説明する図である。 処理負荷の低減方法を説明する図である。 処理負荷の低減方法を説明する図である。 処理負荷の低減方法を説明する図である。 処理負荷の低減方法を説明する図である。 本開示の技術を適用した撮像システムの構成例を示すブロック図である。 図２６の撮像システムの使用方法の例を説明する図である。 図２６の撮像装置の第１の実施の形態を示すブロック図である。 図２６の撮像装置の第１の実施の形態の外観の構成例を示す模式図である。 図２８の撮像素子の画素アレイ部のパターンの例を示す図である。 図２８の撮像素子の画素アレイ部のパターンの例を示す図である。 図２８の撮像素子の画素アレイ部のパターンの例を示す図である。 図２６の信号処理装置の構成例を示すブロック図である。 図２６の信号処理部の処理の第１の実施の形態を説明するフローチャートである。 撮像データのパケットのデータ構造の第１の例を示す図である。 図２８の撮像装置の処理を説明するフローチャートである。 図２６の撮像装置の第２の実施の形態を示すブロック図である。 図２６の撮像装置の第３の実施の形態を示すブロック図である。 撮像装置の位置と点光源からの光線の入射角度の関係を説明する図である。 入射角指向性の例を示すグラフである。 図２６の撮像装置の第４の実施の形態を示すブロック図である。 撮像装置の傾きの検出方向を示す図である。 図２６の信号処理部の処理の第２の実施の形態を説明するフローチャートである。 撮像データのパケットのデータ構造の第２の例を示す図である。 図４１の撮像装置の処理を説明するフローチャートである。 画素の向きと受光感度特性の関係を説明する図である。 図２６の撮像装置の第５の実施の形態を示すブロック図である。 撮像データのパケットのデータ構造の第３の例を示す図である。 図２６の撮像装置の第６の実施の形態を示すブロック図である。 図２６の信号処理部の処理の第３の実施の形態を説明するフローチャートである。 撮像データのパケットのデータ構造の第４の例を示す図である。 図４９の撮像装置の処理を説明するフローチャートである。 図２６の撮像装置の第７の実施の形態の外観の構成例を示す模式図である。 電力が不足する場合の対策の例を説明する図である。 図５の撮像素子の変形例を示す図である。 画素出力単位の変形例を説明する図である。 撮像素子の変形例を示す図である。 撮像素子の変形例を示す図である。 撮像素子の変形例を示す図である。 撮像素子の変形例を示す図である。 撮像素子の変形例を示す図である。 本開示の技術を適用した撮像システムの第１の変形例を示すブロック図である。 本開示の技術を適用した撮像システムの第２の変形例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を適宜省略する。
また、以下の順序で説明を行う。
１．本開示の撮像装置の概要
２．本開示の撮像装置の基本的な構成例
３．第１の実施の形態
４．第２の実施の形態：電源部を設けた例
５．第３の実施の形態：太陽光発電を行う電源部を設けた例
６．第４の実施の形態：撮像装置の位置及び傾きを検出するようにした例
７．第５の実施の形態：撮像装置の向きを検出するようにした例
８．第６の実施の形態：撮像装置を位置及び姿勢を変更可能にした例
９．第７の実施の形態：撮像装置の両面に受光面を設けた例
１０．変形例
１１．その他
＜＜１．本開示の撮像装置の概要＞＞
まず、本開示の撮像装置の概要について説明する。
本開示の撮像装置においては、図１の左上に示されるように、各画素の検出感度に入射角指向性を持たせた撮像素子５１が用いられる。ここで、各画素の検出感度に入射角指向性を持たせるとは、各画素への入射光の入射角度に応じた受光感度特性を画素毎に異なるものとすることである。ただし、全ての画素の受光感度特性が完全に異なるものである必要はなく、一部の画素の受光感度特性が同一であってもよい。
ここで、例えば、全ての被写体は点光源の集合であり、各点光源からあらゆる方向に光が出射されているものとする。例えば、図１の左上の被写体の被写体面３１が、点光源ＰＡ乃至点光源ＰＣにより構成され、点光源ＰＡ乃至点光源ＰＣが、それぞれ光強度ａ乃至光強度ｃの複数の光線を周囲に発しているものとする。また、以下、撮像素子５１は、位置Ｐａ乃至位置Ｐｃに入射角指向性がそれぞれ異なる画素（以下、画素Ｐａ乃至画素Ｐｃと称する）を備えるものとする。
この場合、図１の左上に示されるように、同一の点光源より発せられた同一の光強度の光線が、撮像素子５１の各画素に入射される。例えば、点光源ＰＡから発せられた光強度ａの光線が、撮像素子５１の画素Ｐａ乃至画素Ｐｃにそれぞれ入射される。一方、同一の点光源より発せられた光線は、画素毎にそれぞれ異なる入射角度で入射される。例えば、点光源ＰＡからの光線は、画素Ｐａ乃至画素Ｐｃにそれぞれ異なる入射角度で入射される。
ここで、画素Ｐａ乃至画素Ｐｃの入射角指向性がそれぞれ異なるため、同一の点光源より発せられた同一の光強度の光線が、各画素で異なる感度で検出される。その結果、同一の光強度の光線が画素毎に異なる検出信号レベルで検出される。例えば、点光源ＰＡからの光強度ａの光線に対する検出信号レベルが、画素Ｐａ乃至画素Ｐｃでそれぞれ異なる値になる。
そして、各点光源からの光線に対する各画素の受光感度レベルは、その光線の光強度に、その光線の入射角度に対する受光感度（すなわち、入射角指向性）を示す係数を乗じることにより求められる。例えば、点光源ＰＡからの光線に対する画素Ｐａの検出信号レベルは、点光源ＰＡの光線の光強度ａに、当該光線の画素Ｐａへの入射角度に対する画素Ｐａの入射角指向性を示す係数を乗じることにより求められる。
従って、画素Ｐｃ，Ｐｂ，Ｐａの検出信号レベルＤＡ，ＤＢ，ＤＣは、それぞれ以下の式（１）乃至式（３）で表される。
ＤＡ＝α１×ａ＋β１×ｂ＋γ１×ｃ
・・・（１）
ＤＢ＝α２×ａ＋β２×ｂ＋γ２×ｃ
・・・（２）
ＤＣ＝α３×ａ＋β３×ｂ＋γ３×ｃ
・・・（３）
ここで、係数α１は、点光源ＰＡから画素Ｐｃへの光線の入射角度に対する画素Ｐｃの入射角指向性を示す係数であり、当該入射角度に応じて設定される。また、α１×ａは、点光源ＰＡからの光線に対する画素Ｐｃの検出信号レベルを示している。
係数β１は、点光源ＰＢから画素Ｐｃへの光線の入射角度に対する画素Ｐｃの入射角指向性を示す係数であり、当該入射角度に応じて設定される。また、β１×ｂは、点光源ＰＢからの光線に対する画素Ｐｃの検出信号レベルを示している。
係数γ１は、点光源ＰＣから画素Ｐｃへの光線の入射角度に対する画素Ｐｃの入射角指向性を示す係数であり、当該入射角度に応じて設定される。また、γ１×ｃは、点光源ＰＣからの光線に対する画素Ｐｃの検出信号レベルを示している。
このように、画素Ｐａの検出信号レベルＤＡは、画素Ｐｃにおける点光源ＰＡ，ＰＢ，ＰＣからの光線のそれぞれの光強度ａ，ｂ，ｃと、それぞれの入射角度に応じた入射角指向性を示す係数α１，β１，γ１との積和により求められる。
同様に、画素Ｐｂの検出信号レベルＤＢは、式（２）に示されるように、画素Ｐｂにおける点光源ＰＡ，ＰＢ，ＰＣからの光線のそれぞれの光強度ａ，ｂ，ｃと、それぞれの入射角度に応じた入射角指向性を示す係数α２，β２，γ２との積和により求められる。また、画素Ｐｃの検出信号レベルＤＣは、式（３）に示されるように、画素Ｐａにおける点光源ＰＡ，ＰＢ，ＰＣからの光線のそれぞれの光強度ａ，ｂ，ｃと、それぞれの入射角度に応じた入射角指向性を示す係数α２，β２，γ２との積和により求められる。
ただし、画素Ｐａ，Ｐｂ，Ｐｃの検出信号レベルＤＡ、ＤＢ、ＤＣは、式（１）乃至式（３）に示されるように、点光源ＰＡ，ＰＢ，ＰＣのそれぞれより発せられた光線の光強度ａ，ｂ，ｃが入り交じっている。従って、図１の右上に示されるように、撮像素子５１における検出信号レベルは、被写体面３１上の各点光源の光強度とは異なる。従って、撮像素子５１により得られる画像は、被写体面３１の像が結像されたものとは異なるものとなる。
一方、式（１）乃至式（３）からなる連立方程式を作成し、作成した連立方程式を解くことにより、各点光源ＰＡ乃至点光源ＰＣの光線の光強度ａ乃至光強度ｃが求められる。そして、求めた光強度ａ乃至光強度ｃに応じた画素値を有する画素を点光源ＰＡ乃至点光源ＰＣの配置（相対位置）に合わせて並べることにより、図１の右下に示されるように、被写体面３１の像が結像された復元画像が復元される。
なお、以下、連立方程式を構成する式毎に係数をまとめたもの（例えば、係数α１、β１、γ１）を係数セットと称する。また、以下、連立方程式に含まれる複数の式に対応する複数の係数セットをまとめたもの（例えば、係数セットα１、β１、γ１、係数セットα２、β２、γ２、係数セットα３、β３、γ３）を係数セット群と称する。
このようにして、撮像レンズ、ピンホール、並びに、特許文献１及び非特許文献１（以下、特許文献等と称する）に示される光学フィルタを必要とせず、各画素において入射角指向性を有する撮像素子５１を必須構成とする撮像装置を実現することが可能となる。結果として、撮像レンズ、ピンホール、及び、特許文献等に記載の光学フィルタが必須構成とならないので、撮像装置の低背化、すなわち、撮像機能を実現する構成における光の入射方向に対する厚さを薄くすることが可能になる。
また、必須構成が撮像素子５１のみになるので、設計の自由度を向上させることが可能となる。例えば、従来の撮像レンズを用いた撮像装置では、撮像レンズにより被写体の像が結像される位置に合わせて、撮像素子の画素を２次元のアレイ状に配置する必要があるが、撮像素子５１を用いた撮像装置では、その必要がない。そのため、各画素の配置の自由度が向上し、例えば、被写体からの光が入射する範囲内において、各画素を自由に配置することが可能になる。例えば、各画素を円形の領域内に並べたり、中空方形（ロの字型）の領域内に並べたり、複数の領域に分散して配置したりすることが可能になる。
そして、各画素の配置に関わらず、被写体面３１上の各点光源からの光線の各画素への入射角度に応じた係数を用いて、上述した式（１）乃至式（３）で示されるような連立方程式を作成し、解くことにより、各点光源からの光線の光強度を求めることができる。そして、求めた各点光源の光強度に応じた画素値を有する画素を被写体面３１上の各点光源の配置に合わせて並べることにより、被写体面３１の像が結像された復元画像を復元することができる。
＜＜２．本開示の撮像装置の基本的な構成例＞＞
次に、図２乃至図２５を参照して、本開示の撮像装置の基本的な構成例について説明する。
＜撮像装置１０１の構成例＞
図２は、本開示の技術を適用した基本的な撮像装置である撮像装置１０１の構成例を示すブロック図である。
撮像装置１０１は、撮像素子１２１、復元部１２２、制御部１２３、入力部１２４、検出部１２５、関連付け部１２６、表示部１２７、記憶部１２８、記録再生部１２９、記録媒体１３０、及び、通信部１３１を備える。また、復元部１２２、制御部１２３、入力部１２４、検出部１２５、関連付け部１２６、表示部１２７、記憶部１２８、記録再生部１２９、記録媒体１３０、及び、通信部１３１により、信号処理や撮像装置１０１の制御等を行う信号処理制御部１１１が構成される。なお、撮像装置１０１は、撮像レンズを含まない（撮像レンズフリー）。
また、撮像素子１２１、復元部１２２、制御部１２３、入力部１２４、検出部１２５、関連付け部１２６、表示部１２７、記憶部１２８、記録再生部１２９、及び、通信部１３１は、バスＢ１を介して相互に接続されており、バスＢ１を介してデータの送受信等を行う。なお、以下、説明を簡単にするために、撮像装置１０１の各部がバスＢ１を介してデータの送受信等を行う場合のバスＢ１の記載を省略する。例えば、入力部１２４がバスＢ１を介して制御部１２３にデータを供給する場合、入力部１２４が制御部１２３にデータを供給すると記載する。
撮像素子１２１は、図１を参照して説明した撮像素子５１に対応するものであり、入射角指向性を有する画素を含み、入射光の光量に応じた検出信号レベルを示す検出信号からなる画像を復元部１２２又はバスＢ１に出力する撮像素子である。
より具体的には、撮像素子１２１は、基本的な構造において、一般の、例えば、CMOS（Complementary Metal Oxide Semiconductor）イメージセンサなどの撮像素子からなるものと同様のものであっても良い。ただし、撮像素子１２１は、画素アレイを構成する各画素の構成が一般のものと異なり、例えば、図３乃至図５を参照して後述するように、入射角指向性を持たせる構成を有している。そして、撮像素子１２１は、画素毎に入射光の入射角度に応じて受光感度が異なり（変化し）、画素単位で入射光の入射角度に対する入射角指向性を有している。
なお、撮像素子１２１が出力する画像は、上述した図１の右上に示されるように被写体の像が結像されていない検出信号により構成される画像となるので、目視により被写体を認識することができない。すなわち、撮像素子１２１が出力する検出信号からなる検出画像は、画素信号の集合ではあるが、ユーザが目視しても被写体を認識できない（被写体を視認不可能な）画像である。
そこで、以降においては、図１の右上に示されるように被写体の像が結像されていない検出信号より構成される画像、すなわち、撮像素子１２１により撮像される画像を、検出画像と称するものとする。
尚、撮像素子１２１は、画素アレイとして構成されなくてもよく、例えば、ラインセンサとして構成されてもよい。また、入射角指向性は必ずしも画素単位で全て異なる必要はなく、入射角指向が同じ画素を含んでいてもよい。
復元部１２２は、例えば、図１における撮像素子５１から被写体面３１（復元画像に対応する被写体面）までの距離に相当する被写体距離に対応し、上述した係数α１乃至α３，β１乃至β３，γ１乃至γ３に相当する係数セット群を記憶部１２８から取得する。また、復元部１２２は、撮像素子１２１から出力される検出画像の各画素の検出信号レベルと、取得した係数セット群とを用いて、上述した式（１）乃至式（３）で示されるような連立方程式を作成する。そして、復元部１２２は、作成した連立方程式を解くことにより、図１の右下に示される被写体の像が結像された画像を構成する各画素の画素値を求める。これにより、ユーザが目視して被写体を認識できる（被写体を視認可能な）画像が検出画像から復元される。以降においては、この検出画像から復元される画像を復元画像と称するものとする。ただし、撮像素子１２１が紫外線などの視認可能な波長帯域以外の光のみに感度を有する場合、復元画像も通常の画像のように被写体を識別できるような画像とはならないが、この場合も復元画像と称する。
また、以降においては、被写体の像が結像された状態の画像である復元画像であって、デモザイク処理等の色分離や同時化処理前の画像をRAW画像と称し、撮像素子１２１により撮像された検出画像については、色フィルタの配列に従った画像ではあるが、RAW画像ではないものとして区別する。
尚、撮像素子１２１の画素数と、復元画像を構成する画素の画素数とは、必ずしも同一である必要はない。
また、復元部１２２は、必要に応じて、復元画像に対してデモザイク処理、γ補正、ホワイトバランス調整、所定の圧縮形式への変換処理等を行う。そして、復元部１２２は、復元画像をバスＢ１に出力する。
制御部１２３は、例えば、各種のプロセッサを備え、撮像装置１０１の各部を制御する。
入力部１２４は、撮像装置１０１の操作や、処理に用いるデータの入力等を行うための入力デバイス（例えば、キー、スイッチ、ボタン、ダイヤル、タッチパネル、リモートコントローラ等）を備える。入力部１２４は、操作信号や入力されたデータ等をバスＢ１に出力する。
検出部１２５は、撮像装置１０１や被写体の状態等の検出に用いる各種のセンサ等を備える。例えば、検出部１２５は、撮像装置１０１の姿勢や動きを検出する加速度センサやジャイロセンサ、撮像装置１０１の位置を検出する位置検出センサ（例えば、ＧＮＳＳ（Global Navigation Satellite System）受信機等）、被写体距離を検出する測距センサ等を備える。検出部１２５は、検出結果を示す信号をバスＢ１に出力する。
関連付け部１２６は、撮像素子１２１により得られる検出画像と、検出画像に対応するメタデータとの関連付けを行う。メタデータは、例えば、対象となる検出画像を用いて復元画像を復元するための係数セット群や被写体距離等を含む。
なお、検出画像とメタデータを関連付ける方法は、検出画像とメタデータとの対応関係を特定することができれば、特に限定されない。例えば、検出画像を含む画像データにメタデータを付与したり、検出画像とメタデータに同じＩＤを付与したり、検出画像とメタデータを同じ記録媒体１３０に記録させたりすることにより、検出画像とメタデータが関連付けられる。
表示部１２７は、例えば、ディスプレイにより構成され、各種の情報（例えば、復元画像等）の表示を行う。なお、表示部１２７が、スピーカ等の音声出力部を備え、音声の出力を行うようにすることも可能である。
記憶部１２８は、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）、フラッシュメモリ等の記憶装置を１つ以上備え、例えば、撮像装置１０１の処理に用いられるプログラムやデータ等を記憶する。例えば、記憶部１２８は、様々な被写体距離に対応付けて、上述した係数α１乃至α３，β１乃至β３，γ１乃至γ３に相当する係数セット群を記憶している。より具体的には、例えば、記憶部１２８は、各被写体距離における被写体面３１毎に、被写体面３１上に設定した各点光源に対する撮像素子１２１の各画素１２１ａに対する係数を含む係数セット群を記憶している。
記録再生部１２９は、記録媒体１３０へのデータの記録、及び、記録媒体１３０に記録されているデータの再生（読み出し）を行う。例えば、記録再生部１２９は、復元画像を記録媒体１３０に記録したり、記録媒体１３０から読み出したりする。また、例えば、記録再生部１２９は、検出画像及び対応するメタデータを、記録媒体１３０に記録したり、記録媒体１３０から読み出したりする。
記録媒体１３０は、例えば、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、磁気ディスク、光ディスク、光磁気ディスク、及び、半導体メモリ等のいずれか、又は、それらの組合せなどからなる。
通信部１３１は、所定の通信方式により、他の機器（例えば、他の撮像装置や信号処理装置等）と通信を行う。なお、通信部１３１の通信方式は、有線又は無線のいずれであってもよい。また、通信部１３１が複数の通信方式に対応することも可能である。
＜撮像素子１２１の第１の構成例＞
次に、図３及び図４を参照して、図２の撮像装置１０１の撮像素子１２１の第１の構成例について説明する。
図３は、撮像素子１２１の画素アレイ部の一部の正面図を示している。尚、図３においては、画素アレイ部の画素数が縦６画素×横６画素である場合の例を示しているが、画素アレイ部の画素数は、これに限るものではない。
図３の撮像素子１２１では、画素１２１ａ毎に、そのフォトダイオードの受光領域（受光面）の一部を覆うように変調素子の１つである遮光膜１２１ｂが設けられており、各画素１２１ａに入射する入射光が、入射角度に応じて光学的に変調される。そして、例えば、画素１２１ａ毎に異なる範囲に遮光膜１２１ｂを設けることにより、画素１２１ａ毎に入射光の入射角度に対する受光感度が異なるものとなり、各画素１２１ａが異なる入射角指向性を有するようになる。
例えば、画素１２１ａ−１と画素１２１ａ−２とでは、設けられている遮光膜１２１ｂ−１と遮光膜１２１ｂ−２とによりフォトダイオードの受光領域を遮光する範囲が異なる（遮光する領域（位置）、および遮光する面積の少なくともいずれかが異なる）。すなわち、画素１２１ａ−１においては、フォトダイオードの受光領域の左側の一部を所定の幅だけ遮光するように遮光膜１２１ｂ−１が設けられている。一方、画素１２１ａ−２においては、受光領域の右側の一部を所定の幅だけ遮光するように遮光膜１２１ｂ−２が設けられている。なお、遮光膜１２１ｂ−１がフォトダイオードの受光領域を遮光する幅と、遮光膜１２１ｂ−２がフォトダイオードの受光領域を遮光する幅とは、異なっていてもよいし、同じであってもよい。その他の画素１２１ａにおいても、同様に、遮光膜１２１ｂが、画素毎に受光領域の異なる範囲を遮光するように、画素アレイ内でランダムに配置されている。
尚、遮光膜１２１ｂが各画素の受光領域を覆い隠す割合が大きくなるほど、フォトダイオードが受光できる光量が少ない状態となる。従って、遮光膜１２１ｂの面積は、所望の光量が確保できる程度の面積とすることが望ましく、例えば、最大で受光領域の３／４程度までといった制限を加えるようにしてもよい。このようにすることで、所望量以上の光量を確保することが可能となる。ただし、各画素において、受光する光の波長に相当する幅の遮光されていない範囲が設けられていれば、最小限の光量を受光することは可能である。すなわち、例えば、B画素（青色画素）の場合、波長は500nm程度となるが、この波長に相当する幅以上に遮光されていなければ、最小限の光量を受光することは可能である。
図４の上段は、撮像素子１２１の第１の構成例における側面断面図であり、図４の中段は、撮像素子１２１の第１の構成例における上面図である。また、図４の上段の側面断面図は、図４の中段におけるＡＢ断面となる。さらに、図４の下段は、撮像素子１２１の回路構成例である。
図４の上段の撮像素子１２１においては、図中の上方から下方に向けて入射光が入射する。隣接する画素１２１ａ−１，１２１ａ−２は、それぞれ図中の最下層に配線層Ｚ１２が設けられており、その上に光電変換層Ｚ１１が設けられている、いわゆる、裏面照射型である。
尚、画素１２１ａ−１，１２１ａ−２を区別する必要がない場合、符号の末尾の数字の記載を省略し、単に、画素１２１ａと称する。以下、明細書内において、他の構成についても、同様に符号の末尾の数字を省略する場合がある。
また、図４においては、撮像素子１２１の画素アレイを構成する２画素分の側面図および上面図のみを示しており、いうまでもなく、これ以上の数の画素１２１ａが配置されているが図示が省略されている。
さらに、画素１２１ａ−１，１２１ａ−２は、それぞれ光電変換層Ｚ１１にフォトダイオード１２１ｅ−１，１２１ｅ−２を備えている。また、フォトダイオード１２１ｅ−１，１２１ｅ−２の上には、それぞれ上からオンチップレンズ１２１ｃ−１，１２１ｃ−２、およびカラーフィルタ１２１ｄ−１，１２１ｄ−２が積層されている。
オンチップレンズ１２１ｃ−１，１２１ｃ−２は、入射光をフォトダイオード１２１ｅ−１，１２１ｅ−２上に集光させる。
カラーフィルタ１２１ｄ−１，１２１ｄ−２は、例えば、赤色、緑色、青色、赤外および白色等の特定の波長の光を透過させる光学フィルタである。尚、白色の場合、カラーフィルタ１２１ｄ−１，１２１ｄ−２は、透明のフィルタでもよいし、無くてもよい。
画素１２１ａ−１，１２１ａ−２の光電変換層Ｚ１１における、それぞれ画素間の境界には、遮光膜１２１ｇ−１乃至１２１ｇ−３が形成されており、例えば、図４に示されるように、入射光Ｌが隣接する画素に入射し、クロストークが発生するのを抑制する。
また、図４の上段及び中段に示されるように、遮光膜１２１ｂ−１，１２１ｂ−２が、上面から見て受光面Ｓの一部を遮光している。画素１２１ａ−１，１２１ａ−２におけるフォトダイオード１２１ｅ−１，１２１ｅ−２の受光面Ｓにおいては、遮光膜１２１ｂ−１，１２１ｂ−２により、それぞれ異なる範囲が遮光されており、これにより異なる入射角指向性が画素毎に独立に設定される。ただし、遮光される範囲は、撮像素子１２１の全画素１２１ａで異なっている必要はなく、一部で同一の範囲が遮光される画素１２１ａが存在していてもよい。
なお、図４の上段に示されるように、遮光膜１２１ｂ−１と遮光膜１２１ｇ−１とは互いに接続されており、側面から見てＬ字型に構成されている。同様に、遮光膜１２１ｂ−２と遮光膜１２１ｇ−２とは互いに接続されており、側面から見てＬ字型に構成されている。また、遮光膜１２１ｂ−１、遮光膜１２１ｂ−２、及び、遮光膜１２１ｇ−１乃至１２１ｇ−３は、金属により構成されており、例えば、タングステン（W）、アルミニウム（Al）、またはAlと銅（Cu）との合金により構成される。また、遮光膜１２１ｂ−１、遮光膜１２１ｂ−２、及び、遮光膜１２１ｇ−１乃至１２１ｇ−３は、半導体プロセスにおける配線が形成されるプロセスと同一のプロセスで、配線と同一の金属により同時に形成されるようにしてもよい。尚、遮光膜１２１ｂ−１、遮光膜１２１ｂ−２、及び、遮光膜１２１ｇ−１乃至１２１ｇ−３の膜厚は、位置に応じて同一の厚さにしなくてもよい。
また、図４の下段に示されるように、画素１２１ａは、フォトダイオード１６１（フォトダイオード１２１ｅに対応する）、転送トランジスタ１６２、ＦＤ（Floating Diffusion：フローティングディフュージョン）部１６３、選択トランジスタ１６４、増幅トランジスタ１６５、およびリセットトランジスタ１６６を備え、垂直信号線１６７を介して電流源１６８に接続されている。
フォトダイオード１６１は、アノード電極が接地され、カソード電極が、転送トランジスタ１６２を介して増幅トランジスタ１６５のゲート電極に接続されている。
転送トランジスタ１６２は、転送信号ＴＧに従って駆動する。例えば、転送トランジスタ１６２のゲート電極に供給される転送信号ＴＧがハイレベルになると、転送トランジスタ１６２はオンとなる。これにより、フォトダイオード１６１に蓄積されている電荷が転送トランジスタ１６２を介してＦＤ部１６３に転送される。
増幅トランジスタ１６５は、フォトダイオード１６１での光電変換によって得られる信号を読み出す読出し回路であるソースフォロワの入力部となり、ＦＤ部１６３に蓄積されている電荷に応じたレベルの画素信号を垂直信号線１６７に出力する。すなわち、増幅トランジスタ１６５は、ドレイン端子が電源ＶＤＤに接続され、ソース端子が選択トランジスタ１６４を介して垂直信号線１６７に接続されることで、垂直信号線１６７の一端に接続される電流源１６８とソースフォロワを構成する。
ＦＤ部１６３は、転送トランジスタ１６２と増幅トランジスタ１６５との間に設けられる電荷容量Ｃ１を有する浮遊拡散領域であり、転送トランジスタ１６２を介してフォトダイオード１６１から転送される電荷を一時的に蓄積する。ＦＤ部１６３は、電荷を電圧に変換する電荷検出部であって、ＦＤ部１６３に蓄積されている電荷が増幅トランジスタ１６５において電圧に変換される。
選択トランジスタ１６４は、選択信号ＳＥＬに従って駆動し、ゲート電極に供給される選択信号ＳＥＬがハイレベルになるとオンとなって、増幅トランジスタ１６５と垂直信号線１６７とを接続する。
リセットトランジスタ１６６は、リセット信号ＲＳＴに従って駆動する。例えば、リセットトランジスタ１６６は、ゲート電極に供給されるリセット信号ＲＳＴがハイレベルになるとオンとなり、ＦＤ部１６３に蓄積されている電荷を電源ＶＤＤに排出して、ＦＤ部１６３をリセットする。
例えば、図４の下段に示される画素回路は以下のように動作する。
すなわち、第一動作として、リセットトランジスタ１６６および転送トランジスタ１６２がオンにされ、ＦＤ部１６３に蓄積されている電荷を電源ＶＤＤに排出して、ＦＤ部１６３をリセットする。
第二動作として、リセットトランジスタ１６６および転送トランジスタ１６２がオフにされ、露光期間となり、フォトダイオード１６１により、入射光の光量に応じた電荷が蓄積される。
第三動作として、リセットトランジスタ１６６がオンにされて、ＦＤ部１６３がリセットされた後、リセットトランジスタ１６６がオフにされる。この動作により、ＦＤ部１６３が基準電位に設定される。
第四動作として、リセットされた状態のＦＤ部１６３の電位が、基準電位として増幅トランジスタ１６５より出力される。
第五動作として、転送トランジスタ１６２がオンにされて、フォトダイオード１６１に蓄積された電荷がＦＤ部１６３に転送される。
第六動作として、フォトダイオードの電荷が転送されたＦＤ部１６３の電位が、信号電位として増幅トランジスタ１６５より出力される。
そして、ＣＤＳ（相関二重サンプリング）により信号電位から基準電位が減算された信号が、画素１２１ａの検出信号（画素信号）として出力される。この検出信号の値（出力画素値）は、被写体からの入射光の入射角に応じて変調されており、入射角により特性（指向性）が異なる（入射角指向性を有する）。
＜撮像素子１２１の第２の構成例＞
図５は、撮像素子１２１の第２の構成例を示す図である。図５の上段には、第２の構成例である撮像素子１２１の画素１２１ａの側面断面図が示されており、図５の中段には、撮像素子１２１の上面図が示されている。また、図５の上段の側面断面図は、図５の中段におけるＡＢ断面となる。さらに、図５の下段は、撮像素子１２１の回路構成例である。
図５の撮像素子１２１は、１つの画素１２１ａに４つのフォトダイオード１２１ｆ−１乃至１２１ｆ−４が形成され、遮光膜１２１ｇがフォトダイオード１２１ｆ−１乃至１２１ｆ−４同士を分離する領域に形成されている点で、図４の撮像素子１２１と異なる構成となっている。即ち、図５の撮像素子１２１では、遮光膜１２１ｇは、上面から見て「＋」形状に形成されている。なお、それらの共通の構成については図４と同一の符号を付しており、詳細な説明は省略する。
図５の撮像素子１２１では、遮光膜１２１ｇによりフォトダイオード１２１ｆ−１乃至１２１ｆ−４が分離されることによって、フォトダイオード１２１ｆ−１乃至１２１ｆ−４間の電気的および光学的なクロストークの発生が防止される。すなわち、図５の遮光膜１２１ｇは、図４の撮像素子１２１の遮光膜１２１ｇと同様にクロストークを防止するためのものであって、入射角指向性を与えるためのものではない。
また、図５の撮像素子１２１では、１個のＦＤ部１６３が４個のフォトダイオード１２１ｆ−１乃至１２１ｆ−４で共有される。図５の下段は、１個のＦＤ部１６３を４個のフォトダイオード１２１ｆ−１乃至１２１ｆ−４で共有するようにした回路構成例を示している。尚、図５の下段において、図４の下段と同一の構成については、その説明を省略する。
図５の下段において、図４の下段の回路構成と異なる点は、フォトダイオード１６１（図４の上段におけるフォトダイオード１２１ｅに対応する）および転送トランジスタ１６２に代えて、フォトダイオード１６１−１乃至１６１−４（図５の上段におけるフォトダイオード１２１ｆ−１乃至１２１ｆ−４に対応する）および転送トランジスタ１６２−１乃至１６２−４を設け、ＦＤ部１６３を共有する構成としている点である。
このような構成により、フォトダイオード１２１ｆ−１乃至１２１ｆ−４に蓄積された電荷は、フォトダイオード１２１ｆ−１乃至１２１ｆ−４と増幅トランジスタ１６５のゲート電極との接続部に設けられる所定の容量を有する共通のＦＤ部１６３に転送される。そして、ＦＤ部１６３に保持されている電荷のレベルに応じた信号が検出信号（画素信号）として読み出される（ただし、上述したようにＣＤＳ処理が行われる）。
このため、フォトダイオード１２１ｆ−１乃至１２１ｆ−４で蓄積された電荷を様々な組み合わせで選択的に画素１２１ａの出力、すなわち検出信号に寄与させることができる。すなわち、フォトダイオード１２１ｆ−１乃至１２１ｆ−４毎に独立して電荷を読み出すことができる構成とし、出力に寄与するフォトダイオード１２１ｆ−１乃至１２１ｆ−４（フォトダイオード１２１ｆ−１乃至１２１ｆ−４が出力に寄与する度合い）を互いに異ならせることで、異なる入射角指向性を得ることができる。
例えば、フォトダイオード１２１ｆ−１とフォトダイオード１２１ｆ−３の電荷をＦＤ部１６３に転送し、それぞれを読み出して得られる信号を加算することにより、左右方向の入射角指向性を得ることができる。同様に、フォトダイオード１２１ｆ−１とフォトダイオード１２１ｆ−２の電荷をＦＤ部１６３に転送し、それぞれを読み出して得られる信号を加算することにより、上下方向の入射角指向性を得ることができる。
また、４つのフォトダイオード１２１ｆ−１乃至１２１ｆ−４より独立して選択的に読み出される電荷に基づいて得られる信号は、検出画像を構成する１画素分に相当する検出信号となる。
なお、各フォトダイオード１２１ｆ（の電荷）の検出信号への寄与は、例えば、各フォトダイオード１２１ｆの電荷（検出値）をＦＤ部１６３に転送するか否かだけでなく、電子シャッタ機能を用いてＦＤ部１６３への転送前にフォトダイオード１２１ｆに蓄積された電荷をリセットすること等でも実現することができる。例えば、ＦＤ部１６３への転送直前にフォトダイオード１２１ｆの電荷をリセットすれば、そのフォトダイオード１２１ｆは、検出信号に全く寄与しない状態となる。一方、フォトダイオード１２１ｆの電荷をリセットとＦＤ部１６３への電荷の転送との間に時間を持たせることにより、そのフォトダイオード１２１ｆは、部分的に検出信号に寄与する状態となる。
以上のように、図５の撮像素子１２１の場合、４つのフォトダイオード１２１ｆ−１乃至１２１ｆ−４のうち、検出信号に用いるものの組み合わせを変更することで、画素毎に異なる入射角指向性を持たせることができる。また、図５の撮像素子１２１の各画素１２１ａから出力される検出信号は、被写体からの入射光の入射角に応じて変調された値（出力画素値）となり、入射角により特性（指向性）が異なる（入射角指向性を有する）。
なお、以下、検出画像の１画素分に相当する検出信号を出力する単位を画素出力単位と称する。画素出力単位は、少なくとも１つ以上のフォトダイオードを備え、通常は、撮像素子１２１の各画素１２１ａが、それぞれ１つの画素出力単位に相当する。
例えば、図４の撮像素子１２１では、１つの画素１２１ａにそれぞれ１つのフォトダイオード１２１ｅが設けられているため、１つの画素出力単位がそれぞれ１つのフォトダイオード１２１ｅを備えることになる。換言すれば、１つのフォトダイオード１２１ｅにより、１つの画素出力単位が構成される。
そして、各画素１２１ａの遮光膜１２１ｂによる遮光の状態をそれぞれ異なるものとすることで、各画素出力単位の入射角指向性を異なるものとすることができる。そして、図４の撮像素子１２１では、遮光膜１２１ｂを用いて各画素１２１ａへの入射光が光学的に変調され、その結果、各画素１２１ａのフォトダイオード１２１ｅから出力される信号により、入射角指向性を反映した検出画像の１画素分の検出信号が得られる。すなわち、図４の撮像素子１２１は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光する複数の画素出力単位を備え、各画素出力単位が１つのフォトダイオード１２１ｅを備え、被写体からの入射光の入射角に対する特性（入射角指向性）が画素出力単位毎に設定されている。
一方、図５の撮像素子１２１では、１つの画素１２１ａにそれぞれ４つのフォトダイオード１２１ｆ−１乃至１２１ｆ−４が設けられているため、１つの画素出力単位がそれぞれ４つのフォトダイオード１２１ｅを備えることになる。換言すれば、４つのフォトダイオード１２１ｆにより、１つの画素出力単位が構成される。一方、各フォトダイオード１２１ｅ単体により、個別の画素出力単位が構成されることはない。
そして、上述したように４つのフォトダイオード１２１ｆ−１乃至１２１ｆ−４のうち検出信号に寄与するフォトダイオード１２１ｆを画素１２１ａ毎に異なるものとすることで、画素出力単位毎の入射角指向性が異なるものとなる。すなわち、図５の撮像素子１２１では、４個のフォトダイオード１２１ｆ−１乃至１２１ｆ−４のうち出力（検出信号）に寄与しない範囲が遮光された領域と同様に機能する。そして、フォトダイオード１２１ｆ−１乃至１２１ｆ−４から出力される信号の組合せにより、入射角指向性を反映した検出画像の１画素分の検出信号が得られる。すなわち、図５の撮像素子１２１は、撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光する複数の画素出力単位を備え、各画素出力単位が複数のフォトダイオード（例えば、フォトダイオード１２１ｆ−１乃至１２１ｆ−４）を備え、出力に寄与するフォトダイオード（の度合い）を異ならせることで、被写体からの入射光の入射角に対する各画素出力単位の特性（入射角指向性）が互いに異なる。
なお、図５の撮像素子１２１では、入射光が光学的に変調されずに全てのフォトダイオード１２１ｆ−１乃至１２１ｆ−４に入射されるため、検出信号は、光学的な変調により得られる信号ではない。また、以降において、検出信号に寄与しないフォトダイオード１２１ｆのことを、画素出力単位又は出力に寄与しないフォトダイオード１２１ｆとも称する。
なお、図５には、画素出力単位（画素１２１ａ）の受光面を４等分して、各領域にそれぞれ受光面が同じ大きさのフォトダイオード１２１ｆを配置した例、すなわち、フォトダイオードを４等分した例を示しているが、フォトダイオードの分割数や分割位置は任意に設定することが可能である。
例えば、フォトダイオードを必ずしも等分する必要はなく、画素出力単位毎にフォトダイオードの分割位置を異ならせてもよい。これにより、例えば、複数の画素出力単位間で同じ位置のフォトダイオード１２１ｆを出力に寄与させるようにしたとしても、画素出力単位間で入射角指向性が異なるようになる。また、例えば、画素出力単位間で分割数を異なるものとすることにより、より自由に入射角指向性を設定することが可能になる。さらに、例えば、画素出力単位間で分割数及び分割位置の両方を異ならせるようにしてもよい。
また、図４の撮像素子１２１及び図５の撮像素子１２１のいずれも、各画素出力単位が入射角指向性を独立に設定可能な構成を有している。一方、上述した非特許文献１や特許文献１、２に示される撮像装置では、撮像素子の各画素出力単位が入射角指向性を独立に設定可能な構成を有していない。なお、図４の撮像素子１２１では、各画素出力単位の入射角指向性が、遮光膜１２１ｂにより製造時に設定される。一方、図５の撮像素子１２１では、各画素出力単位のフォトダイオードの分割数や分割位置は製造時に設定されるが、各画素出力単位の入射角指向性（出力に寄与させるフォトダイオードの組合せ）は使用時（例えば、撮像時）に設定することができる。なお、図４の撮像素子１２１及び図５の撮像素子１２１のいずれにおいても、必ずしも全ての画素出力単位が、入射角指向性を持たせる構成を備える必要はない。
なお、上述したように、通常は、撮像素子の各画素が、それぞれ１つの画素出力単位に相当するが、後述するように、複数の画素により、１つの画素出力単位が構成される場合もある。以降においては、特に記載がない限り、撮像素子の各画素が、それぞれ１つの画素出力単位に相当するものとして、説明を行う。
＜入射角指向性を生じさせる原理について＞
撮像素子１２１の各画素の入射角指向性は、例えば、図６に示されるような原理により発生する。尚、図６の左上部および右上部は、図４の撮像素子１２１における入射角指向性の発生原理を説明する図であり、図６の左下部および右下部は、図５の撮像素子１２１における入射角指向性の発生原理を説明する図である。
図６の左上部および右上部の画素は、いずれも１個のフォトダイオード１２１ｅを備える。これに対して、図６の左下部および右下部の画素は、いずれも２個のフォトダイオード１２１ｆを備える。尚、ここでは、１画素が２個のフォトダイオード１２１ｆを備える例を示しているが、これは説明の便宜上であり、１画素が備えるフォトダイオード１２１ｆの数は、その他の個数であってもよい。
図６の左上部の画素においては、フォトダイオード１２１ｅ−１１の受光面の右半分を遮光するように遮光膜１２１ｂ−１１が形成されている。また、図６の右上部の画素においては、フォトダイオード１２１ｅ−１２の受光面の左半分を遮光するように遮光膜１２１ｂ−１２が形成されている。尚、図中の一点鎖線は、フォトダイオード１２１ｅの受光面の水平方向の中心を通り、受光面に対して垂直な補助線である。
例えば、図６の左上部の画素においては、図中の一点鎖線に対して入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｅ−１１の遮光膜１２１ｂ−１１により遮光されていない左半分の範囲により受光され易い。これに対して、図中の一点鎖線に対して入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｅ−１１の遮光膜１２１ｂ−１１により遮光されていない左半分の範囲により受光されにくい。したがって、図６の左上部の画素は、図中の右上方からの入射光に対して受光感度が高く、左上方からの入射光に対して受光感度が低い入射角指向性を備えることになる。
一方、例えば、図６の右上部の画素においては、入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｅ−１２の遮光膜１２１ｂ−１２により遮光されている左半分の範囲により受光されにくい。これに対して、入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｅ−１２の遮光膜１２１ｂ−１２により遮光されていない右半分の範囲により受光され易い。したがって、図６の右上部の画素は、図中の右上方からの入射光に対して受光感度が低く、左上方からの入射光に対して受光感度が高い入射角指向性を備えることになる。
また、図６の左下部の画素は、図中の左右にフォトダイオード１２１ｆ−１１，１２１ｆ−１２が設けられており、いずれか一方の検出信号を読み出すようにすることで、遮光膜１２１ｂを設けることなく入射角指向性を有する構成とされている。
すなわち、図６の左下部の画素では、図中の左側に設けられたフォトダイオード１２１ｆ−１１の信号のみを読み出すようにすることで、図６の左上部の画素と同様の入射角指向性を得ることができる。すなわち、図中の一点鎖線に対して入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｆ−１１に入射し、受光量に対応する信号がフォトダイオード１２１ｆ−１１から読み出されるため、この画素から出力される検出信号に寄与する。これに対して、図中の一点鎖線に対して入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｆ−１２に入射するが、フォトダイオード１２１ｆ−１２から読み出されないため、この画素から出力される検出信号に寄与しない。
同様に、図６の右下部の画素のように、２個のフォトダイオード１２１ｆ−１３，１２１ｆ−１４を備える場合、図中の右側に設けられたフォトダイオード１２１ｆ−１４の信号のみを読み出すようにすることで、図６の右上部の画素と同様の入射角指向性を得ることができる。すなわち、入射角θ１を成す右上方向からの入射光は、フォトダイオード１２１ｆ−１３に入射するが、フォトダイオード１２１ｆ−１３から信号が読み出されないため、この画素から出力される検出信号に寄与しない。これに対して、入射角θ２を成す左上方向からの入射光は、フォトダイオード１２１ｆ−１４に入射し、受光量に対応する信号がフォトダイオード１２１ｆ−１４から読み出されるため、この画素から出力される検出信号に寄与する。
尚、図６の上部の画素においては、画素（フォトダイオード１２１ｅの受光面）の水平方向の中心位置で遮光される範囲と遮光されない範囲が分かれる例を示したが、その他の位置で分かれるようにしてもよい。また、図６の下部の画素においては、画素の水平方向の中心位置で、２つのフォトダイオード１２１ｆが分かれる例を示したが、その他の位置で分かれるようにしてもよい。このように、遮光範囲又はフォトダイオード１２１ｆが分かれる位置を変えることにより、異なる入射角指向性を生じさせることができる。
＜オンチップレンズを含む構成における入射角指向性について＞
次に、図７を参照して、オンチップレンズ１２１ｃを含めた構成における入射角指向性について説明する。
図７の上段のグラフは、図７の中段及び下段の画素の入射角指向性を示している。なお、横軸が入射角度θであり、縦軸が検出信号レベルを示している。なお、入射角度θは、入射光の方向が、図７の中段左側の一点鎖線と一致する場合を０度とし、図７の中段左側の入射角度θ２１側を正の方向とし、図７の中段右側の入射角度θ２２側を負の方向とする。したがって、オンチップレンズ１２１ｃに対して、右上方より入射する入射光については、左上方より入射する入射光よりも入射角度が大きくなる。すなわち入射角度θは、入射光の進行方向が左に傾くほど大きくなり（正の方向に大きくなり）、右に傾くほど小さくなる（負の方向に大きくなる）。
また、図７の中段左部の画素は、図６の上段左部の画素に、入射光を集光するオンチップレンズ１２１ｃ−１１、及び、所定の波長の光を透過させるカラーフィルタ１２１ｄ−１１を追加したものである。すなわち、この画素では、オンチップレンズ１２１ｃ−１１、カラーフィルタ１２１ｄ−１１、遮光膜１２１ｂ−１１、フォトダイオード１２１ｅ−１１が、図中上方の光の入射方向から順に積層されている。
同様に、図７の中段右部の画素、図７の下段左部の画素、及び、図７の下段右部の画素は、それぞれ、図６の上段右部の画素、図６の下段左部の画素、及び、図６の下段右部の画素に、オンチップレンズ１２１ｃ−１１及びカラーフィルタ１２１ｄ−１１、又は、オンチップレンズ１２１ｃ−１２及びカラーフィルタ１２１ｄ−１２を追加したものである。
図７の中段左部の画素では、図７の上段の実線の波形で示されるように、入射光の入射角度θに応じてフォトダイオード１２１ｅ−１１の検出信号レベル（受光感度）が変化する。すなわち、図中の一点鎖線に対して入射光のなす角である入射角度θが大きいほど（入射角度θが正の方向に大きいほど（図中の右方向に傾くほど））、遮光膜１２１ｂ−１１が設けられていない範囲に光が集光されることで、フォトダイオード１２１ｅ−１１の検出信号レベルが大きくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど（図中の左方向に傾くほど））、遮光膜１２１ｂ−１１が設けられている範囲に光が集光されることで、フォトダイオード１２１ｅ−１１の検出信号レベルが小さくなる。
また、図７の中段右部の画素では、図７の上段の点線の波形で示されるように、入射光の入射角度θに応じてフォトダイオード１２１ｅ−１２の検出信号レベル（受光感度）が変化する。すなわち、入射光の入射角度θが大きいほど（入射角度θが正の方向に大きいほど）、遮光膜１２１ｂ−１２が設けられている範囲に光が集光されることで、フォトダイオード１２１ｅ−１２の検出信号レベルが小さくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど）、遮光膜１２１ｂ−１２が設けられていない範囲に光が入射することで、フォトダイオード１２１ｅ−１２の検出信号レベルが大きくなる。
この図７の上段に示される実線および点線の波形は、遮光膜１２１ｂの範囲に応じて変化させることができる。従って、遮光膜１２１ｂの範囲により、画素単位で相互に異なる入射角指向性を持たせることが可能となる。
上述したように、入射角指向性とは、入射角度θに応じた各画素の受光感度の特性であるが、これは、図７の中段の画素では、入射角度θに応じた遮光値の特性であるとも言える。すなわち、遮光膜１２１ｂは、特定の方向の入射光は高いレベルで遮光するが、それ以外の方向からの入射光は十分に遮光できない。この遮光できるレベルの変化が、図７の上段に示されるような入射角度θに応じた異なる検出信号レベルを生じさせる。したがって、各画素において最も高いレベルで遮光可能な方向を各画素の遮光方向と定義すると、画素単位で相互に異なる入射角指向性を持つということは、換言すれば、画素単位で相互に異なる遮光方向を持つということになる。
また、図７の下段左部の画素では、図６の下段左部の画素と同様に、図中左部のフォトダイオード１２１ｆ−１１のみの信号を用いるようにすることで、図７の中段左部の画素と同様の入射角指向性を得ることができる。すなわち、入射光の入射角度θが大きくなると（入射角度θが正の方向に大きくなると）、信号が読み出されるフォトダイオード１２１ｆ−１１の範囲に光が集光されることで、検出信号レベルが大きくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど）、信号が読み出されないフォトダイオード１２１ｆ−１２の範囲に光が集光されることで、検出信号レベルが小さくなる。
また、同様に、図７の下段右部の画素では、図６の下段右部の画素と同様に、図中右部のフォトダイオード１２１ｆ−１４のみの信号を用いるようにすることで、図７の中段右部の画素と同様の入射角指向性を得ることができる。すなわち、入射光の入射角度θが大きくなると（入射角度θが正の方向に大きくなると）、出力（検出信号）に寄与しないフォトダイオード１２１ｆ−１３の範囲に光が集光されることで、画素単位の検出信号のレベルが小さくなる。逆に、入射光の入射角度θが小さいほど（入射角度θが負の方向に大きいほど）、出力（検出信号）に寄与するフォトダイオード１２１ｆ−１４の範囲に光が集光されることで、画素単位の検出信号のレベルが大きくなる。
なお、図７の下段の画素のように、画素内に複数のフォトダイオードを設け、出力に寄与するフォトダイオードを変更可能な画素において、各フォトダイオードに入射光の入射角に対する指向性を持たせ、画素単位での入射角指向性を生じさせるために、各画素にオンチップレンズ１２１ｃが必須構成となる。
尚、入射角指向性については、画素単位でランダム性が高い方が望ましい。例えば、隣り合う画素間で同一の入射角指向性を持つと、上述した式（１）乃至式（３）または、後述する式（４）乃至式（６）が相互に同一の式となる恐れがあり、その結果、連立方程式の解となる未知数に対して式の数が不足し、復元画像を構成する画素値を求められなくなる恐れがあるためである。
なお、以下の説明では、図４の画素１２１ａのように、遮光膜１２１ｂを用いて入射角指向性を実現する画素１２１ａを用いる場合の例を中心に説明する。ただし、遮光膜１２１ｂが必須となる場合を除いて、基本的にフォトダイオードを分割して入射角指向性を実現する画素１２１ａを用いることも可能である。
＜遮光膜の構成について＞
以上においては、図３に示されるように、撮像素子１２１の各画素１２１ａの遮光膜１２１ｂの構成として、垂直方向に対しては受光面全体を遮光し、水平方向の遮光幅や位置を変化させる例を示したが、当然のことながら、水平方向に対して受光面全体を遮光し、垂直方向の幅（高さ）や位置を変化させるようにして、各画素１２１ａに入射角指向性を持たせるようにしてもよい。
尚、以降においては、図３の例のように、垂直方向に対しては画素１２１ａの受光面全体を遮光し、水平方向に対して所定の幅で受光面を遮光する遮光膜１２１ｂを、横帯タイプの遮光膜１２１ｂと称する。また、水平方向に対しては画素１２１ａの受光面全体を遮光し、垂直方向に対して所定の高さで受光面を遮光する遮光膜１２１ｂを、縦帯タイプの遮光膜１２１ｂと称する。
また、図８の左部に示されるように、縦帯タイプと横帯タイプの遮光膜１２１ｂを組み合わせて、例えば、ベイヤ配列のそれぞれの画素に対して、Ｌ字型のような遮光膜１２１ｂを設けるようにしてもよい。
尚、図８においては、黒色の範囲が遮光膜１２１ｂを表しており、特に断りがない限り、以降の図面においても同様に表示する。また、図８の例では、ベイヤ配列となるＧ（緑色）画素の画素１２１ａ−２１，１２１ａ−２４、Ｒ（赤色）画素の画素１２１ａ−２２、およびＢ（青色）画素の画素１２１ａ−２３のそれぞれに対して、Ｌ字型の遮光膜１２１ｂ−２１乃至１２１ｂ−２４が設けられている。
この場合、各画素１２１ａは、図８の右部に示されるような入射角指向性を有することになる。すなわち、図８の右部においては、各画素１２１ａの受光感度の分布が示されており、横軸が入射光の水平方向（ｘ方向）の入射角度θｘを表し、縦軸が入射光の垂直方向（ｙ方向）の入射角度θｙを表している。そして、範囲Ｃ４内の受光感度が、範囲Ｃ４の外よりも高く、範囲Ｃ３内の受光感度が、範囲Ｃ３の外よりも高く、範囲Ｃ２内の受光感度が、範囲Ｃ２の外よりも高く、範囲Ｃ１内の受光感度が、範囲Ｃ１の外よりも高くなる。
従って、各画素１２１ａにおいて、水平方向（ｘ方向）の入射角度θｘと、垂直方向（ｙ方向）の入射角度θｙとが範囲Ｃ１内となる入射光に対する検出信号レベルが最も高くなる。そして、入射角度θｘと入射角度θｙが範囲Ｃ２内、範囲Ｃ３内、範囲Ｃ４内、および、範囲Ｃ４以外の範囲となる入射光の順に検出信号レベルが低くなる。尚、図８の右部に示される受光感度の強度分布は、ベイヤ配列とは無関係に、各画素１２１ａにおける遮光膜１２１ｂにより遮光される範囲により決定されるものである。
尚、以降においては、図８のＬ字型の遮光膜１２１ｂ−２１乃至１２１ｂ−２４のように、縦帯タイプの遮光膜と横帯タイプの遮光膜をそれぞれの端部でつなぎ合わせた形状の遮光膜１２１ｂを、Ｌ字タイプの遮光膜１２１ｂと総称するものとする。
＜入射角指向性の設定方法＞
次に、図９を参照して、入射角指向性の設定方法の例について説明する。
例えば、図９の上段に示されるように、遮光膜１２１ｂの水平方向の遮光範囲が、画素１２１ａの左端部から位置Ａまでの範囲とし、垂直方向の遮光範囲が、画素１２１ａの上端部から位置Ｂまでの範囲である場合について考える。
この場合、各画素の水平方向の中心位置からの入射角度θｘ（ｄｅｇ）に応じた重みであって、水平方向の入射角指向性の指標となる０乃至１の重みＷｘを設定する。より詳細には、位置Ａに対応する入射角度θｘ＝θａにおいて、重みＷｘが０．５になると仮定した場合、入射角度θｘ＜θａ−αにおいて重みＷｘが１となり、θａ−α≦入射角度θｘ≦θａ＋αにおいて、重みＷｘが（−（θｘ−θａ）／２α＋０．５）となり、入射角度θｘ＞θａ＋αにおいて重みＷｘが０となるように重みＷｘを設定する。
同様に、各画素の垂直方向の中心位置からの入射角度θｙ（ｄｅｇ）に応じた重みであって、垂直方向の入射角指向性の指標となる０乃至１の重みＷｙを設定する。より詳細には、位置Ｂに対応する入射角度θｙ＝θｂにおいて、重みＷｙが０．５になると仮定した場合、入射角度θｙ＜θｂ−αにおいて重みＷｙが０となり、θｂ−α≦入射角度θｙ≦θｂ＋αにおいて、重みＷｙが（（θｙ−θｂ）／２α＋０．５）となり、入射角度θｙ＞θｂ＋αにおいて重みＷｙが１となるように重みＷｙを設定する。
尚、重みＷｘ及び重みＷｙが、図９のグラフのように変化するのは、理想的な条件が満たされる場合となる。
そして、このようにして求められた重みＷｘ，Ｗｙを用いることにより、それぞれの画素１２１ａの入射角指向性、すなわち、受光感度特性に対応する係数を求めることができる。例えば、被写体面３１のある点光源からの入射光の入射角度θｘに対応する重みＷｘと、入射角度θｙに対応する重みＷｙとを乗じた値が、その点光源に対する係数に設定される。
また、このとき、水平方向の重みＷｘおよび垂直方向の重みＷｙが０．５前後となる範囲における重みの変化を示す傾き（１／２α）は、焦点距離の異なるオンチップレンズ１２１ｃを用いることで設定することができる。
例えば、図９の下段の実線で示されるように、オンチップレンズ１２１ｃの焦点距離が遮光膜１２１ｂの表面に合っている場合、水平方向の重みＷｘ及び垂直方向の重みＷｙの傾き（１／２α）は、急峻になる。すなわち、重みＷｘおよび重みＷｙは、値が０．５付近となる水平方向の入射角度θｘ＝θａ、および、垂直方向の入射角度θｙ＝θｂの境界付近において、急激に０または１に変化する。
また、例えば、図９の下段の点線で示されるように、オンチップレンズ１２１ｃの焦点距離がフォトダイオード１２１ｅの表面に合っている場合、水平方向の重みＷｘ及び垂直方向の重みＷｙの傾き（１／２α）は、緩やかになる。すなわち、重みＷｘおよび重みＷｙは、値が０．５付近となる水平方向の入射角度θｘ＝θａ、および、垂直方向の入射角度θｙ＝θｂの境界付近において、緩やかに０または１に変化する。
例えば、オンチップレンズ１２１ｃの焦点距離は、オンチップレンズ１２１ｃの曲率により変化する。従って、曲率の異なるオンチップレンズ１２１ｃを用いて、オンチップレンズ１２１ｃの焦点距離を変化させることで異なる入射角指向性、すなわち、異なる受光感度特性を得ることができる。
したがって、画素１２１ａの入射角指向性は、遮光膜１２１ｂによりフォトダイオード１２１ｅが遮光される範囲と、オンチップレンズ１２１ｃの曲率との組み合わせにより調整することができる。尚、オンチップレンズの曲率は、撮像素子１２１の全ての画素１２１ａで同一にしてもよいし、一部の画素１２１ａで異なるようにしてもよい。
例えば、撮像素子１２１の各画素１２１ａの入射角指向性を表す指標として、各画素１２１ａの位置、各画素１２１ａの遮光膜１２１ｂの形状、位置、範囲、オンチップレンズ１２１ｃの曲率等に基づいて、図９のグラフのような重みＷｘ及び重みＷｙの特性が画素１２１ａ毎に設定される。また、所定の被写体距離の被写体面３１上のある点光源と、撮像素子１２１のある画素１２１ａとの位置関係に基づいて、当該点光源から当該画素１２１ａへの光線の入射角度が求められる。そして、求めた入射角度、並びに、当該画素１２１ａの重みＷｘ及び重みＷｙの特性に基づいて、当該点光源に対する当該画素１２１ａの係数が求められる。
同様に、被写体面３１上の各点光源と撮像素子１２１の各画素１２１ａとの組み合わせについて、上述したように係数を求めることにより、上述した式（１）乃至式（３）の係数セットα１，β１，γ１，係数セットα２，β２，γ２，係数セットα３，β３，γ３のような、被写体面３１に対する撮像素子１２１の係数セット群を求めることができる。
なお、図１３を参照して後述するように、被写体面３１から撮像素子１２１の受光面までの被写体距離が異なると、被写体面３１の各点光源からの光線の撮像素子１２１への入射角が異なるため、被写体距離毎に異なる係数セット群が必要となる。
また、同じ被写体距離の被写体面３１であっても、設定する点光源の数や配置が異なると、各点光源からの光線の撮像素子１２１への入射角が異なる。従って、同じ被写体距離の被写体面３１に対して、複数の係数セット群が必要となる場合がある。また、各画素１２１ａの入射角指向性は、上述した連立方程式の独立性を確保できるように設定する必要がある。
＜オンチップレンズと撮像レンズとの違い＞
本開示の撮像装置１０１においては、撮像素子１２１は、撮像レンズからなる光学ブロックやピンホールを必要としない構成であるが、上述したように、オンチップレンズ１２１ｃは設けられる。ここで、オンチップレンズ１２１ｃと撮像レンズとは、物理的作用が異なるものである。
例えば、図１０に示されるように、点光源Ｐ１０１から発せられた拡散光のうち撮像レンズ１５２に入射した光は、撮像素子１５１上の画素位置Ｐ１１１において集光する。すなわち、撮像レンズ１５２は、点光源Ｐ１０１から異なる角度で入射する拡散光を、画素位置Ｐ１１１に集光し、点光源Ｐ１０１の像を結像させるように設計されている。この画素位置Ｐ１１１は、点光源Ｐ１０１と撮像レンズ１５２の中心とを通る主光線Ｌ１０１により特定される。
また、例えば、図１１に示されるように、点光源Ｐ１０１とは異なる点光源Ｐ１０２から発せられた拡散光のうち撮像レンズ１５２に入射した光は、撮像素子１５１上の画素位置Ｐ１１１とは異なる画素位置Ｐ１１２において集光する。すなわち、撮像レンズ１５２は、点光源Ｐ１０２から異なる角度で入射する拡散光を、画素位置Ｐ１１２に集光し、点光源Ｐ１０２の像を結像させるように設計されている。この画素位置Ｐ１１２は、点光源Ｐ１０２と撮像レンズ１５２の中心とを通る主光線Ｌ１０２により特定される。
このように、撮像レンズ１５２は、撮像素子１５１上の異なる画素位置Ｐ１１１，Ｐ１１２に、それぞれ主光線が異なる点光源Ｐ１０１，Ｐ１０２の像を結像させる。
さらに、図１２に示されるように、点光源Ｐ１０１が無限遠に存在する場合、点光源Ｐ１０１から発せられた拡散光の一部が、主光線Ｌ１０１に平行な平行光として撮像レンズ１５２に入射する。例えば、主光線Ｌ１０１に対して平行な光線Ｌ１２１と光線Ｌ１２２の間の光線からなる平行光が撮像レンズ１５２に入射する。そして、撮像レンズ１５２に入射した平行光は、撮像素子１５１上の画素位置Ｐ１１１に集光する。すなわち、撮像レンズ１５２は、無限遠に存在する点光源Ｐ１０１からの平行光を、画素位置Ｐ１１１に集光し、点光源Ｐ１０１の像を結像させるように設計されている。
従って、撮像レンズ１５２は、例えば、主光線入射角θ１を持つ点光源からの拡散光を画素（画素出力単位）Ｐ１に入射させ、主光線入射角θ１とは異なる主光線入射角θ２を持つ点光源からの拡散光を、画素Ｐ１とは異なる画素（画素出力単位）Ｐ２に入射させる集光機能を持つ。すなわち、撮像レンズ１５２は、主光線の入射角が異なる光源からの拡散光を、互いに隣接する複数の画素（画素出力単位）へ入射させるための集光機能を持つ。ただし、例えば、互いに近接している点光源や、無限遠に存在しており実質的に近接している点光源からの光は、同じ画素（画素出力単位）に入射する場合がある。
これに対して、例えば、図４，図５を参照して説明したように、オンチップレンズ１２１ｃを通る光は、対応する画素（画素出力単位）を構成するフォトダイオード１２１ｅまたはフォトダイオード１２１ｆの受光面のみに入射される。換言すれば、オンチップレンズ１２１ｃは、画素（画素出力単位）毎に設けられ、自身に入射する入射光を対応する画素（画素出力単位）のみに集光する。すなわち、オンチップレンズ１２１ｃは、異なる点光源からの光を、異なる画素（画素出力単位）へ入射させるための集光機能を持たない。
なお、ピンホールを用いた場合、各画素（画素出力単位）の位置と光の入射角の関係が一意に定まる。したがって、ピンホールと従来の撮像素子を用いた構成の場合、各画素に対して、入射角指向性を独立して自由に設定することができない。
＜被写体面と撮像素子との距離の関係＞
次に、図１３を参照して、被写体面と撮像素子１２１との距離の関係について説明する。
なお、図１３の左上に示されるように、撮像素子１２１（図１の撮像素子５１と同様）と被写体面３１までの被写体距離が距離ｄ１である場合、撮像素子１２１上の画素Ｐｃ，Ｐｂ，Ｐａにおける検出信号レベルＤＡ，ＤＢ，ＤＣが、上述した式（１）乃至式（３）と同一の式で表されるものとする。
ＤＡ＝α１×ａ＋β１×ｂ＋γ１×ｃ
・・・（１）
ＤＢ＝α２×ａ＋β２×ｂ＋γ２×ｃ
・・・（２）
ＤＣ＝α３×ａ＋β３×ｂ＋γ３×ｃ
・・・（３）
また、図１３の左下に示されるように、撮像素子１２１との被写体距離が距離ｄ１よりもｄだけ大きな距離ｄ２である被写体面３１’、すなわち、撮像素子１２１から見て、被写体面３１よりも奥の被写体面３１’について考える場合も、撮像素子１２１上の画素Ｐｃ，Ｐｂ，Ｐａにおける検出信号レベルは、図１３の下段中央部に示されるように、検出信号レベルＤＡ，ＤＢ，ＤＣで同様になる。
しかしながら、この場合、被写体面３１’上の点光源ＰＡ’，ＰＢ’，ＰＣ’からの光強度ａ’，ｂ’，ｃ’の光線が撮像素子１２１の各画素において受光される。また、撮像素子１２１への光強度ａ’，ｂ’，ｃ’の光線の入射角度が異なる（変化する）ので、それぞれ異なる係数セット群が必要となる。従って、各画素Ｐａ，Ｐｂ，Ｐｃにおける検出信号レベルＤＡ，ＤＢ，ＤＣは、例えば、以下の式（４）乃至式（６）で表される。
ＤＡ＝α１１×ａ’＋β１１×ｂ’＋γ１１×ｃ’
・・・（４）
ＤＢ＝α１２×ａ’＋β１２×ｂ’＋γ１２×ｃ’
・・・（５）
ＤＣ＝α１３×ａ’＋β１３×ｂ’＋γ１３×ｃ’
・・・（６）
ここで、係数セットα１１，β１１，γ１１，係数セットα１２，β１２，γ１２，係数セットα１３，β１３，γ１３からなる係数セット群は、被写体面３１に対する係数セットα１，β１，γ１，係数セットα２，β２，γ２，係数セットα３，β３，γ３に対応する被写体面３１’に対する係数セット群である。
従って、式（４）乃至式（６）からなる連立方程式を、予め設定された係数セット群α１１，β１１，γ１１，α１２，β１２，γ１２，α１３，β１３，γ１３を用いて解くことで、被写体面３１の点光源ＰＡ，ＰＢ，ＰＣからの光線の光強度ａ，ｂ，ｃを求める場合と同様の手法で、図１３の右下に示されるように、被写体面３１’の点光源ＰＡ’，ＰＢ’，ＰＣ’からの光線の光強度ａ’，ｂ’，ｃ’を求めることができる。その結果、被写体面３１’の復元画像を復元することが可能となる。
従って、図２の撮像装置１０１においては、撮像素子１２１からの被写体面までの距離（被写体距離）毎の係数セット群を予め用意しておき、被写体距離毎に係数セット群を切り替えて連立方程式を作成し、作成した連立方程式を解くことで、１個の検出画像に基づいて、様々な被写体距離の被写体面の復元画像を得ることが可能となる。例えば、検出画像を１回撮像し、記録した後、記録した検出画像を用いて、被写体面までの距離に応じて係数セット群を切り替えて、復元画像を復元することにより、任意の被写体距離の被写体面の復元画像を生成することが可能である。
また、被写体距離や画角が特定できるような場合については、全ての画素を用いずに、特定された被写体距離や画角に対応した被写体面の撮像に適した入射角指向性を有する画素の検出信号を用いて、復元画像を生成するようにしてもよい。これにより、特定された被写体距離や画角に対応した被写体面の撮像に適した画素の検出信号を用いて復元画像を生成することができる。
例えば、図１４の上段に示されるように、４辺のそれぞれの端部から幅ｄ１だけ遮光膜１２１ｂにより遮光されている画素１２１ａと、図１４の下段に示されるように、４辺のそれぞれの端部から幅ｄ２（＞ｄ１）だけ遮光膜１２１ｂにより遮光されている画素１２１ａ’とを考える。
図１５は、撮像素子１２１の中心位置Ｃ１への被写体面３１からの入射光の入射角度の例を示している。なお、図１５においては、水平方向の入射光の入射角度の例を示しているが、垂直方向についてもほぼ同様となる。また、図１５の右部には、図１４における画素１２１ａ，１２１ａ’が示されている。
例えば、図１４の画素１２１ａが撮像素子１２１の中心位置Ｃ１に配置されている場合、被写体面３１から画素１２１ａへの入射光の入射角の範囲は、図１５の左部に示されるように角度Ａ１となる。従って、画素１２１ａは、被写体面３１の水平方向の幅Ｗ１分の入射光を受光することができる。
これに対して、図１４の画素１２１ａ’が撮像素子１２１の中心位置Ｃ１に配置されている場合、画素１２１ａ’は画素１２１ａよりも遮光される範囲が広いため、被写体面３１から画素１２１ａ’への入射光の入射角の範囲は、図１５の左部に示されるように角度Ａ２（＜Ａ１）となる。従って、画素１２１ａ’は、被写体面３１の水平方向の幅Ｗ２（＜Ｗ１）分の入射光を受光することができる。
つまり、遮光範囲が狭い画素１２１ａは、被写体面３１上の広い範囲を撮像するのに適した広画角画素であるのに対して、遮光範囲が広い画素１２１ａ’は、被写体面３１上の狭い範囲を撮像するのに適した狭画角画素である。尚、ここでいう広画角画素および狭画角画素は、図１４の画素１２１ａ，１２１ａ’の両者を比較する表現であって、その他の画角の画素を比較する上ではこの限りではない。
従って、例えば、画素１２１ａは、図１４の画像Ｉ１を復元するために用いられる。画像Ｉ１は、図１６の上段の被写体となる人物Ｈ１０１の全体を含み、被写体幅Ｗ１に対応する画角ＳＱ１の画像である。これに対して、例えば、画素１２１ａ’は、図１４の画像Ｉ２を復元するために用いられる。画像Ｉ２は、図１６の上段の人物Ｈ１０１の顔の周辺がズームアップされた被写体幅Ｗ２に対応する画角ＳＱ２の画像である。
また、例えば、図１６の下段に示されるように、撮像素子１２１の点線で囲まれた範囲ＺＡに、図１４の画素１２１ａを、一点鎖線で囲まれた範囲ＺＢに画素１２１ａ’を、それぞれ所定画素数ずつ集めて配置することが考えられる。そして、例えば、被写体幅Ｗ１に対応する画角ＳＱ１の画像を復元するときには、範囲ＺＡ内の各画素１２１ａの検出信号を用いるようにすることで、適切に画角ＳＱ１の画像を復元することができる。一方、被写体幅Ｗ２に対応する画角ＳＱ２の画像を復元するときには、範囲ＺＢ内の各画素１２１ａ’の検出信号を用いるようにすることで、適切に画角ＳＱ２の画像を復元することができる。
なお、画角ＳＱ２は、画角ＳＱ１よりも狭いので、画角ＳＱ２と画角ＳＱ１の画像を同一の画素数で復元する場合、画角ＳＱ１の画像よりも、画角ＳＱ２の画像を復元する方が、より高画質な復元画像を得ることができる。
つまり、同一画素数を用いて復元画像を得ることを考えた場合、より画角の狭い画像を復元する方が、より高画質な復元画像を得ることができる。
例えば、図１７の右部は、図１６の撮像素子１２１の範囲ＺＡ内の構成例を示している。図１７の左部は、範囲ＺＡ内の画素１２１ａの構成例を示している。
図１７において、黒色で示された範囲が遮光膜１２１ｂであり、各画素１２１ａの遮光範囲は、例えば、図１７の左部に示される規則に従って決定される。
図１７の左部の主遮光部Ｚ１０１（図１７の左部の黒色部）は、各画素１２１ａにおいて共通に遮光される範囲である。具体的には、主遮光部Ｚ１０１は、画素１２１ａの左辺及び右辺から画素１２１ａ内に向かって、それぞれ幅ｄｘ１の範囲、並びに、画素１２１ａの上辺及び下辺から画素１２１ａ内に向かって、それぞれ高さｄｙ１の範囲である。そして、各画素１２１ａにおいて、主遮光部Ｚ１０１の内側の範囲Ｚ１０２内に、遮光膜１２１ｂにより遮光されない矩形の開口部Ｚ１１１が設けられる。従って、各画素１２１ａにおいて、開口部Ｚ１１１以外の範囲が、遮光膜１２１ｂにより遮光される。
ここで、各画素１２１ａの開口部Ｚ１１１は規則的に配置されている。具体的には、各画素１２１ａ内における開口部Ｚ１１１の水平方向の位置は、同じ垂直方向の列の画素１２１ａ内において同一になる。また、各画素１２１ａ内における開口部Ｚ１１１の垂直方向の位置は、同じ水平方向の行の画素１２１ａ内において同一になる。
一方、各画素１２１ａ内における開口部Ｚ１１１の水平方向の位置は、画素１２１ａの水平方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａの位置が右方向に進むに従って、開口部Ｚ１１１の左辺が、画素１２１ａの左辺からそれぞれ幅ｄｘ１、ｄｘ２、・・・、ｄｘｎだけ右方向にずれた位置に移動する。幅ｄｘ１と幅ｄｘ２の間隔、幅ｄｘ２と幅ｄｘ３の間隔、・・・、幅ｄｘｎ−１と幅ｄｘｎの間隔は、それぞれ範囲Ｚ１０２の水平方向の幅から開口部Ｚ１１１の幅を引いた長さを水平方向の画素数ｎ−１で割った値となる。
また、各画素１２１ａ内における開口部Ｚ１１１の垂直方向の位置は、画素１２１ａの垂直方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａの位置が下方向に進むに従って、開口部Ｚ１１１の上辺が、画素１２１ａの上辺からそれぞれ高さｄｙ１、ｄｙ２、・・・、ｄｙｎだけ下方向にずれた位置に移動する。高さｄｙ１と高さｄｙ２の間隔、高さｄｙ２と高さｄｙ３の間隔、・・・、高さｄｙｎ−１と高さｄｙｎの間隔は、それぞれ範囲Ｚ１０２の垂直方向の高さから開口部Ｚ１１１の高さを引いた長さを垂直方向の画素数ｍ−１で割った値となる。
図１８の右部は、図１６の撮像素子１２１の範囲ＺＢ内の構成例を示している。図１８の左部は、範囲ＺＢ内の画素１２１ａ’の構成例を示している。
図１８において、黒色で示された範囲が遮光膜１２１ｂ’であり、各画素１２１ａ’の遮光範囲は、例えば、図１８の左部に示される規則に従って決定される。
図１８の左部の主遮光部Ｚ１５１（図１８に左部の黒色部）は、各画素１２１ａ’において共通に遮光される範囲である。具体的には、主遮光部Ｚ１５１は、画素１２１ａ’の左辺及び右辺から画素１２１ａ’内に向かって、それぞれ幅ｄｘ１’の範囲、並びに、画素１２１ａ’の上辺及び下辺から画素１２１ａ’内に向かって、それぞれ高さｄｙ１’の範囲である。そして、各画素１２１ａ’において、主遮光部Ｚ１５１の内側の範囲Ｚ１５２内に、遮光膜１２１ｂ’により遮光されない矩形の開口部Ｚ１６１が設けられる。従って、各画素１２１ａ’において、開口部Ｚ１６１以外の範囲が、遮光膜１２１ｂ’により遮光される。
ここで、各画素１２１ａ’の開口部Ｚ１６１は、図１７の各画素１２１ａの開口部Ｚ１１１と同様に、規則的に配置されている。具体的には、各画素１２１ａ’内における開口部Ｚ１６１の水平方向の位置は、同じ垂直方向の列の画素１２１ａ’内において同一になる。また、各画素１２１ａ’内における開口部Ｚ１６１の垂直方向の位置は、同じ水平方向の行の画素１２１ａ’内において同一になる。
一方、各画素１２１ａ’内における開口部Ｚ１６１の水平方向の位置は、画素１２１ａ’の水平方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａ’の位置が右方向に進むに従って、開口部Ｚ１６１の左辺が、画素１２１ａ’の左辺からそれぞれ幅ｄｘ１’、ｄｘ２’、・・・、ｄｘｎ’だけ右方向にずれた位置に移動する。幅ｄｘ１’と幅ｄｘ２’の間隔、幅ｄｘ２’と幅ｄｘ３’の間隔、・・・、幅ｄｘｎ−１’と幅ｄｘｎ’の間隔は、それぞれ範囲Ｚ１５２の水平方向の幅から開口部Ｚ１６１の幅を引いた長さを水平方向の画素数ｎ−１で割った値となる。
また、各画素１２１ａ’内における開口部Ｚ１６１の垂直方向の位置は、画素１２１ａ’の垂直方向の位置に応じて所定の間隔でずれている。すなわち、画素１２１ａ’の位置が下方向に進むに従って、開口部Ｚ１６１の上辺が、画素１２１ａ’の上辺からそれぞれ高さｄｙ１’，ｄｙ２’、・・・、ｄｙｎ’だけ下方向にずれた位置に移動する。高さｄｙ１’と高さｄｙ２’の間隔、高さｄｙ２’と高さｄｙ３’の間隔、・・・、高さｄｙｎ−１’と高さｄｙｎ’の間隔は、それぞれ範囲Ｚ１５２の垂直方向の高さから開口部Ｚ１６１の高さを引いた長さを垂直方向の画素数ｍ−１で割った値となる。
ここで、図１７の画素１２１ａの範囲Ｚ１０２の水平方向の幅から開口部Ｚ１１１の幅を引いた長さは、図１８の画素１２１ａ’の範囲Ｚ１５２の水平方向の幅から開口部Ｚ１６１の幅を引いた幅より大きくなる。従って、図１７の幅ｄｘ１、ｄｘ２・・・ｄｘｎの変化の間隔は、図１８の幅ｄｘ１’、ｄｘ２’・・・ｄｘｎ’の変化の間隔より大きくなる。
また、図１７の画素１２１ａの範囲Ｚ１０２の垂直方向の高さから開口部Ｚ１１１の高さを引いた長さは、図１８の画素１２１ａ’の範囲Ｚ１５２の垂直方向の高さから開口部Ｚ１６１の高さを引いた長さより大きくなる。従って、図１７の高さｄｙ１、ｄｙ２・・・ｄｙｎの変化の間隔は、図１８の高さｄｙ１’、ｄｙ２’・・・ｄｙｎ’の変化の間隔より大きくなる。
このように、図１７の各画素１２１ａの遮光膜１２１ｂの開口部Ｚ１１１の水平方向および垂直方向の位置の変化の間隔と、図１８の各画素１２１ａ’の遮光膜１２１ｂ’の開口部Ｚ１６１の水平方向および垂直方向の位置の変化の間隔とは異なる。そして、この間隔の違いが、復元画像における被写体分解能（角度分解能）の違いとなる。すなわち、図１８の各画素１２１ａ’の遮光膜１２１ｂ’の開口部Ｚ１６１の水平方向および垂直方向の位置の変化の間隔の方が、図１７の各画素１２１ａの遮光膜１２１ｂの開口部Ｚ１１１の水平方向および垂直方向の位置の変化の間隔より狭くなる。従って、図１８の各画素１２１ａ’の検出信号を用いて復元される復元画像は、図１７の各画素１２１ａの検出信号を用いて復元される復元画像より、被写体分解能が高くなり、高画質となる。
このように、主遮光部の遮光範囲と開口部の開口範囲との組み合わせを変化させることで、様々な画角の（様々な入射角指向性を持った）画素からなる撮像素子１２１を実現することが可能となる。
尚、以上においては、画素１２１ａと画素１２１ａ’を範囲ＺＡと範囲ＺＢに分けて配置する例を示したが、これは説明を簡単にするためであり、異なる画角に対応する画素１２１ａが同じ領域内に混在して配置されることが望ましい。
例えば、図１９に示されるように、点線で示される２画素×２画素からなる４画素を１個の単位Ｕとして、それぞれの単位Ｕが、広画角の画素１２１ａ−Ｗ、中画角の画素１２１ａ−Ｍ、狭画角の画素１２１ａ−Ｎ、極狭画角の画素１２１ａ−ＡＮの４画素から構成されるようにする。
この場合、例えば、全画素１２１ａの画素数がＸである場合、４種類の画角ごとにＸ／４画素ずつの検出画像を用いて復元画像を復元することが可能となる。この際、画角毎に異なる４種類の係数セット群が使用されて、４種類の異なる連立方程式により、それぞれ異なる画角の復元画像が復元される。
従って、復元する復元画像の画角の撮像に適した画素から得られる検出画像を用いて復元画像を復元することで、４種類の画角に応じた適切な復元画像を得ることが可能となる。
また、４種類の画角の中間の画角や、その前後の画角の画像を、４種類の画角の画像から補間生成するようにしてもよく、様々な画角の画像をシームレスに生成することで、疑似的な光学ズームを実現するようにしてもよい。
尚、例えば、画角の広い画像を復元画像として得る場合、広画角画素を全て用いるようにしてもよいし、広画角画素の一部を用いるようにしてもよい。また、例えば、画角の狭い画像を復元画像として得る場合、狭画角画素を全て用いるようにしてもよいし、狭画角画素の一部を用いるようにしてもよい。
＜撮像装置１０１による撮像処理＞
次に、図２０のフローチャートを参照して、図２の撮像装置１０１による撮像処理について説明する。
ステップＳ１において、撮像素子１２１は、被写体の撮像を行う。これにより、異なる入射角指向性を備える撮像素子１２１の各画素１２１ａから、被写体からの入射光の光量に応じた検出信号レベルを示す検出信号が出力され、撮像素子１２１は、各画素１２１ａの検出信号からなる検出画像を復元部１２２に供給する。
ステップＳ２において、復元部１２２は、画像の復元に用いる係数を求める。具体的には、復元部１２２は、復元対象となる被写体面３１までの距離、すなわち被写体距離を設定する。なお、被写体距離の設定方法には、任意の方法を採用することができる。例えば、復元部１２２は、入力部１２４を介してユーザにより入力された被写体距離、又は、検出部１２５により検出された被写体距離を、復元対象となる被写体面３１までの距離に設定する。
次に、復元部１２２は、設定した被写体距離に対応付けられている係数セット群を記憶部１２８から読み出す。
ステップＳ３において、復元部１２２は、検出画像及び係数を用いて、画像の復元を行う。具体的には、復元部１２２は、検出画像の各画素の検出信号レベルと、ステップＳ２の処理で取得した係数セット群とを用いて、上述した式（１）乃至式（３）、または、式（４）乃至式（６）を参照して説明した連立方程式を作成する。次に、復元部１２２は、作成した連立方程式を解くことにより、設定した被写体距離に対応する被写体面３１上の各点光源の光強度を算出する。そして、復元部１２２は、算出した光強度に応じた画素値を有する画素を被写体面３１の各点光源の配置に従って並べることにより、被写体の像が結像された復元画像を生成する。
ステップＳ４において、撮像装置１０１は、復元画像に対して各種の処理を行う。例えば、復元部１２２は、必要に応じて、復元画像に対して、デモザイク処理、γ補正、ホワイトバランス調整、所定の圧縮形式への変換処理等を行う。また、復元部１２２は、例えば、必要に応じて、復元画像を表示部１２７に供給し、表示させたり、記録再生部１２９に供給し、記録媒体１３０に記録させたり、通信部１３１を介して、他の機器に出力したりする。
その後、撮像処理は終了する。
尚、以上においては、撮像素子１２１と被写体距離に対応付けられた係数セット群を用いて、検出画像から復元画像を復元する例について説明してきたが、例えば、被写体距離に加えて、上述したように、復元画像の画角に対応する係数セット群をさらに用意して、被写体距離および画角に応じた係数セット群を用いて、復元画像を復元するようにしても良い。尚、被写体距離および画角に対する分解能は、用意される係数セット群の数によるものとなる。
また、図２０のフローチャートを用いた処理の説明においては、検出画像に含まれる全ての画素の検出信号を用いる例について説明してきたが、撮像素子１２１を構成する画素のうち、特定された被写体距離および画角に対応する入射角指向性を備えた画素の検出信号からなる検出画像を生成し、これを用いて復元画像を復元するようにしても良い。このような処理により、求めようとする復元画像の被写体距離や画角に適した検出画像で復元画像を復元することが可能となり、復元画像の復元精度や画質が向上する。すなわち、特定された被写体距離および画角に対応する画像が、例えば、図１６における画角ＳＱ１に対応する画像である場合、画角ＳＱ１に対応する入射角指向性を備えた画素１２１ａを選択し、これらから得られる検出画像で復元画像を復元することにより、画角ＳＱ１の画像を高い精度で復元することが可能となる。
以上の処理により、各画素に入射角指向性を持たせるようにした撮像素子１２１を必須構成とした撮像装置１０１を実現することが可能となる。
結果として、撮像レンズ、ピンホール、及び、上述した特許文献等に記載の光学フィルタが不要となるため、装置の設計の自由度を高めることが可能になると共に、撮像素子１２１と別体で構成され、撮像装置として構成する段階で撮像素子１２１と合わせて搭載されることが想定される光学素子が不要となるため、入射光の入射方向に対する装置の小型化を実現することが可能となり、製造コストを低減することが可能となる。また、フォーカスレンズなどのような、光学像を結像させるための撮像レンズに相当するレンズが不要となる。ただし、倍率を変化させるズームレンズは設けられていてもよい。
なお、以上においては、検出画像の撮像を行った後、すぐに所定の被写体距離に対応する復元画像を復元する処理について説明したが、例えば、すぐに復元処理を行わずに、検出画像を記録媒体１３０に記録したり、通信部１３１を介して、他の機器に出力したりした後、所望のタイミングで検出画像を用いて、復元画像を復元するようにしてもよい。この場合、復元画像の復元は、撮像装置１０１で行ってもよいし、他の装置で行ってもよい。この場合、例えば、任意の被写体距離や画角に応じた係数セット群を用いて作成した連立方程式を解いて復元画像を求めることで、任意の被写体距離や画角の被写体面に対する復元画像を得ることができ、リフォーカス等を実現することができる。
例えば、撮像レンズと従来の撮像素子からなる撮像装置を用いた場合、様々な焦点距離や画角の画像を得るためには、焦点距離や画角を様々に変化させながら、撮像しておく必要がある。一方、撮像装置１０１においては、このように係数セット群を切り替えて任意の被写体距離や画角の復元画像を復元させることができるので、焦点距離（すなわち、被写体距離）や画角を様々に変化させながら繰り返し撮像するといった処理が不要になる。
この場合、例えば、ユーザは、異なる被写体距離や画角に対応する係数セット群を切り替えながら、復元された復元画像をそれぞれ表示部１２７に表示させながら、所望の被写体距離や画角の復元画像を得ることも可能である。
なお、検出画像を記録する場合、復元時の被写体距離や画角が決まっているとき、復元に用いるメタデータを検出画像と関連付けるようにしてもよい。例えば、検出画像を含む画像データにメタデータを付与したり、検出画像とメタデータに同じＩＤを付与したり、検出画像とメタデータを同じ記録媒体１３０に記録させたりすることにより、検出画像とメタデータが関連付けられる。
なお、検出画像とメタデータに同じＩＤが付与された場合は、検出画像とメタデータを異なる記録媒体に記録したり、個別に撮像装置１０１から出力したりすることが可能である。
また、メタデータには、復元に用いる係数セット群を含んでいてもよいし、含んでいなくてもよい。後者の場合、例えば、復元時の被写体距離や画角がメタデータに含まれ、復元時に、その被写体距離や画角に対応する係数セット群が記憶部１２８等から取得される。
さらに、撮像時にすぐに復元画像の復元を行う場合、例えば、記録したり外部に出力したりする画像を、検出画像及び復元画像の中から選択することが可能である。例えば、両方の画像を記録又は外部に出力してもよいし、一方の画像のみを記録又は外部に出力してもよい。
また、動画を撮像する場合も同様に、撮像時の復元画像の復元の有無や、記録又は外部に出力する画像の選択が可能である。例えば、動画の撮像を行いながら、各フレームの復元画像をすぐに復元するとともに、復元画像及び復元前の検出画像の両方又は一方を記録したり、外部に出力したりすることが可能である。この場合、撮像時に各フレームの復元画像をスルー画として表示させることも可能である。或いは、例えば、撮像時には復元処理を行わずに、各フレームの検出画像を記録したり、外部に出力したりすることが可能である。
さらに、動画の撮像時には、例えば、復元画像の復元の有無や、記録又は外部に出力する画像の選択をフレーム毎に行うことができる。例えば、フレーム毎に復元画像の復元の有無を切り替えることが可能である。また、例えば、フレーム毎に、検出画像の記録の有無、及び、復元画像の記録の有無を個別に切り替えることが可能である。また、例えば、後で使用する可能性のある有用なフレームの検出画像にメタデータを付与しながら、全てのフレームの検出画像を記録するようにしてもよい。
また、撮像レンズを用いる撮像装置のように、オートフォーカス機能を実現することも可能である。例えば、復元画像に基づいてコントラストＡＦ（Auto Focus）方式と同様の山登り方式で最適な被写体距離を決定することで、オートフォーカス機能を実現することができる。
さらに、上述した特許文献等に記載の光学フィルタと従来の撮像素子とからなる撮像装置などと比較して、画素単位で入射角指向性を持った撮像素子１２１により撮像される検出画像を用いて復元画像を生成することができるので、多画素化を実現したり、高解像度かつ高角度分解能の復元画像を得たりすることが可能となる。一方、光学フィルタと従来の撮像素子とからなる撮像装置では、画素を微細化しても、光学フィルタの微細化が難しいため、復元画像の高解像度化等の実現が難しい。
また、本開示の撮像装置１０１は、撮像素子１２１が必須構成であり、例えば、上述した特許文献等に記載の光学フィルタ等を必要としないので、使用環境が高温になって、光学フィルタが熱で歪むといったことがなく、環境耐性の高い撮像装置を実現することが可能となる。
さらに、本開示の撮像装置１０１においては、撮像レンズ、ピンホール、及び、上述した特許文献等に記載の光学フィルタを必要としないので、撮像する機能を備えた構成の設計の自由度を向上させることが可能となる。
＜処理負荷の低減方法＞
ところで、撮像素子１２１の各画素１２１ａの遮光膜１２１ｂの遮光範囲（すなわち、入射角指向性）にランダム性を持たせている場合、遮光範囲の違いの乱雑さが大きいほど、復元部１２２による処理の負荷は大きなものとなる。そこで、各画素１２１ａの遮光膜１２１ｂの遮光範囲の変化の一部を規則的なものとして、乱雑さを低減させることで、処理負荷を低減させるようにしてもよい。
例えば、縦帯タイプと横帯タイプとを組み合わせたＬ字タイプの遮光膜１２１ｂを構成するようにして、所定の列方向に対しては、同一幅の横帯タイプの遮光膜１２１ｂを組み合わせ、所定の行方向に対しては、同一の高さの縦帯タイプの遮光膜１２１ｂを組み合わせる。これにより、各画素１２１ａの遮光膜１２１ｂの遮光範囲が、列方向および行方向で規則性を持ちつつ、画素単位ではランダムに変化するようになる。その結果、各画素１２１ａの遮光膜１２１ｂの遮光範囲の違い、すなわち入射角指向性の違いの乱雑さを低減させ、復元部１２２の処理負荷を低減させることができる。
具体的には、例えば、図２１の撮像素子１２１’’に示されるように、範囲Ｚ１３０で示される同一列の画素については、いずれも同一の幅Ｘ０の横帯タイプの遮光膜１２１ｂが用いられ、範囲Ｚ１５０で示される同一行の画素については、同一の高さＹ０の縦帯タイプの遮光膜１２１ｂが用いられる。その結果、各行と列で特定される画素１２１ａについては、これらが組み合わされたＬ字タイプの遮光膜１２１ｂが用いられる。
同様に、範囲Ｚ１３０に隣接する範囲Ｚ１３１で示される同一列の画素については、いずれも同一の幅Ｘ１の横帯タイプの遮光膜１２１ｂが用いられ、範囲Ｚ１５０に隣接する範囲Ｚ１５１で示される同一行の画素については、同一の高さＹ１の縦帯タイプの遮光膜１２１ｂが用いられる。その結果、各行と列で特定される画素１２１ａについては、これらが組み合わされたＬ字タイプの遮光膜１２１ｂが用いられる。
さらに、範囲Ｚ１３１に隣接する範囲Ｚ１３２で示される同一列の画素については、いずれも同一の幅Ｘ２の横帯タイプの遮光膜１２１ｂが用いられ、範囲Ｚ１５１に隣接する範囲Ｚ１５２で示される同一行の画素については、同一の高さＹ２の縦帯タイプの遮光膜１２１ｂが用いられる。その結果、各行と列で特定される画素１２１ａについては、これらが組み合わされたＬ字タイプの遮光膜１２１ｂが用いられる。
このようにすることで、遮光膜１２１ｂの水平方向の幅および位置、並びに、垂直方向の高さおよび位置に規則性を持たせつつ、画素単位で遮光膜の範囲を異なる値に設定することができるので、入射角指向性の変化の乱雑さを抑え込むことができる。結果として、係数セットのパターンを低減させることが可能となり、復元部１２２における演算処理の処理負荷を低減させることが可能となる。
より詳細には、図２２の右上部に示されるように、Ｎ画素×Ｎ画素の検出画像ＰｉｃからＮ×Ｎ画素の復元画像を求める場合、（Ｎ×Ｎ）行×１列の復元画像の各画素の画素値を要素とするベクトルＸ、（Ｎ×Ｎ）行×１列の検出画像の各画素の画素値を要素とするベクトルＹ、および、係数セット群からなる（Ｎ×Ｎ）行×（Ｎ×Ｎ）列の行列Ａにより、図２２の左部に示されるような関係が成立する。
すなわち、図２２においては、係数セット群からなる（Ｎ×Ｎ）行×（Ｎ×Ｎ）列の行列Ａの各要素と、復元画像を表す（Ｎ×Ｎ）行×１列のベクトルＸとを乗算した結果が、検出画像を表す（Ｎ×Ｎ）行×１列のベクトルＹとなることが示されている。そして、この関係から、例えば、上述した式（１）乃至式（３）または式（４）乃至式（６）に対応する連立方程式が構成される。
尚、図２２においては、行列Ａの範囲Ｚ２０１で示される１列目の各要素が、ベクトルＸの１行目の要素に対応しており、行列Ａの範囲Ｚ２０２で示されるＮ×Ｎ列目の各要素が、ベクトルＸのＮ×Ｎ行目の要素に対応していることを示している。
なお、ピンホールを用いた場合、及び、撮像レンズ等の同じ方向から入射した入射光を互いに隣接する画素出力単位の双方へ入射させるための集光機能を用いた場合、各画素の位置と光の入射角度の関係が一意に定まるので、行列Ａは、右下がりの対角成分が全て１となる対角行列となる。逆に、図２の撮像装置１０１のようにピンホールおよび撮像レンズのいずれも用いない場合、各画素の位置と光の入射角度の関係は一意に定まらないので、行列Ａは対角行列にならない。
換言すれば、図２２に示される行列式に基づいた連立方程式を解いて、ベクトルＸの各要素を求めることにより復元画像が求められる。
ところで、一般的に、図２２の行列式は、両辺に行列Ａの逆行列Ａ−１を左から乗じることにより、図２３に示されるように変形され、検出画像のベクトルＹに逆行列Ａ−１を左から乗じることで、検出画像であるベクトルＸの各要素が求められる。
しかしながら、現実には、行列Ａを正確に求められなかったり、行列Ａを正確に測定できなかったり、行列Ａの基底ベクトルが線形従属に近いケースで解けなかったり、および、検出画像の各要素にノイズが含まれたりする。そして、それらの理由のいずれか、または、それらの組み合わせで、連立方程式を解くことができないことがある。
そこで、例えば、様々な誤差に対してロバストな構成を考え、正則化最小二乗法の概念を用いた次式（７）が用いられる。
Figure 2019078336
 ・・・（７）
ここで、式（７）のｘの上部に「＾」が付されたものはベクトルＸを、Ａは行列Ａを、ＹはベクトルＹを、γはパラメータを、||Ａ||はL2ノルム（二乗和平方根）を表している。ここで、右辺の第一項は、図２２の両辺を最小にするときのノルムであり、右辺の第二項は正則化項である。
この式（７）をｘについて解くと、以下の式（８）となる。
Figure 2019078336
 ・・・（８）
ここで、Ａｔは行列Ａの転置行列であり、Ｉは単位行列である。
しかしながら、行列Ａは、膨大なサイズであるので、計算量や必要なメモリ量が大きくなる。
そこで、例えば、図２４に示されるように、行列Ａを、Ｎ行×Ｎ列の行列ＡＬと、Ｎ行×Ｎ列の行列ＡＲＴとに分解し、それぞれ復元画像を表すＮ行×Ｎ列の行列Ｘの前段と後段とから掛けた結果が、検出画像を表すＮ行×Ｎ列の行列Ｙとなるようにする。これにより、要素数（Ｎ×Ｎ）×（Ｎ×Ｎ）の行列Ａに対して、要素数が（Ｎ×Ｎ）の行列ＡＬ、ＡＲＴとなり、各行列の要素数が１／（Ｎ×Ｎ）になる。結果として、計算量や必要なメモリ量を低減させることができる。
図２４に示される行列式は、例えば、式（８）のカッコ内の行列を行列ＡＬとし、行列Ａの転置行列の逆行列を行列ＡＲＴとすることで実現される。
図２４に示されるような計算では、図２５に示されるように、行列Ｘにおける注目要素Ｘｐに対して、行列ＡＬの対応する列の各要素群Ｚ２２１を乗算することで、要素群Ｚ２２２が求められる。さらに、要素群Ｚ２２２と行列ＡＲＴの注目要素Ｘｐに対応する行の要素とを乗算することで、注目要素Ｘｐに対応する２次元応答Ｚ２２４が求められる。そして、行列Ｘの全要素に対応する２次元応答Ｚ２２４が積算されることで行列Ｙが求められる。
そこで、例えば、行列ＡＬの各列の要素群Ｚ２２１には、図２１に示される撮像素子１２１の列毎に同一の幅に設定される横帯タイプの画素１２１ａの入射角指向性に対応する係数が用いられる。
同様に、例えば、行列ＡＲＴの各行の要素群Ｚ２２３には、図２１に示される撮像素子１２１の行毎に同一の高さに設定される縦帯タイプの画素１２１ａの入射角指向性に対応する係数が用いられる。
この結果、検出画像に基づいて、復元画像を復元する際に使用する行列を小さくすることが可能となるので、計算量が低減し、処理速度を向上させ、計算に係る電力消費を低減させることが可能となる。また、行列を小さくできるので、計算に使用するメモリの容量を低減させることが可能となり、装置コストを低減させることが可能となる。
尚、図２１には、水平方向、および垂直方向に所定の規則性を持たせつつ、画素単位で遮光範囲（受光範囲）を変化させる例が示されているが、本開示においては、このように画素単位で遮光範囲（受光範囲）が、完全にランダムに設定されてはいないものの、ある程度ランダムに設定されるものについても、ランダムに設定されるものとみなす。換言すれば、本開示においては、画素単位で遮光範囲（受光範囲）が完全にランダムに設定される場合のみならず、ある程度ランダムなもの（例えば、全画素のうち、一部については規則性を持たせた範囲を含むが、その他の範囲はランダムである場合）、または、ある程度規則性がなさそうなもの（全画素のうち、図２１を参照して説明したような規則に従って配置されていることが確認できない配置の場合）についてもランダムであるものとみなす。
＜＜３．第１の実施の形態＞＞
次に、図２６乃至図３６を参照して、本開示の第１の実施の形態について説明する。
上述したように、入射角指向性を有する画素を用いた撮像素子１２１においては、撮像レンズ、ピンホール、及び、上述した特許文献等に記載の光学フィルタを必要としないため、各画素１２１ａの配置の自由度が高い。
そこで、この第１の実施の形態では、入射角指向性を有する撮像素子を備える複数の撮像装置により被写体の撮像を行い、各撮像装置により得られる検出信号を用いて復元画像の復元を行うようにする。
＜撮像システム３０１の構成例＞
図２６は、本開示の第１の実施の形態に係る撮像システム３０１の構成例を示すブロック図である。
撮像システム３０１は、撮像部３１１及び信号処理部３１２を備える。
撮像部３１１は、１以上のｎ台の撮像装置３２１−１乃至撮像装置３２１−ｎを備える。なお、以下、撮像装置３２１−１乃至撮像装置３２１−ｎを個々に区別する必要がない場合、単に撮像装置３２１と称する。
各撮像装置３２１は、上述した入射角指向性を有する撮像素子１２１をそれぞれ１以上備える。各撮像装置３２１は、例えば、図２７に示されるように、空間内に離散的に配置することが可能である。すなわち、各撮像装置３２１は、必ずしも空間内に整列して配置する必要はなく、間隔を空けて無造作に配置することが可能である。
各撮像装置３２１は、例えば、ＲＦＩＤ（Radio Frequency IDentifier）等の技術を用いて、信号処理部３１２のリーダライタ３３１と近距離無線通信を行い、各撮像素子１２１により得られる１以上の検出信号を含む検出信号セットを、リーダライタ３３１に送信する。また、各撮像装置３２１は、リーダライタ３３１から送信される電磁波を電力に変換し、変換した電力により駆動される。換言すれば、各撮像装置３２１は、リーダライタ３３１から送信される電磁波による起電力により駆動される。
信号処理部３１２は、各撮像装置３２１による撮像を制御することにより、各撮像装置３２１から検出信号セットを取得し、取得した検出信号セットを用いて、復元画像の復元処理等を行う。信号処理部３１２は、リーダライタ３３１、及び、信号処理装置３３２を備える。
リーダライタ３３１は、上述したように、例えば、ＲＦＩＤ等の技術を用いて、各撮像装置３２１と近距離無線通信を行うとともに、各撮像装置３２１に電力を供給する。
信号処理装置３３２は、図２７に示されるように、リーダライタ３３１を介して各撮像装置３２１から受信した検出信号セットに基づいて、復元画像の復元処理等を行う。
なお、以下では、撮像装置３２１の実施の形態に応じて、撮像装置３２１Ａ、撮像装置３２１Ｂのように符号の末尾に異なるアルファベットを付与するが、特にそれらを区別する必要がない場合、単に撮像装置３２１と称する。
＜撮像装置３２１Ａの構成例＞
図２８は、図２６の撮像装置３２１の第１の実施の形態である撮像装置３２１Ａの構成例を示すブロック図である。なお、図中、図２の撮像装置１０１と対応する部分には同じ符号を付してあり、その説明は適宜省略する。
撮像装置３２１Ａは、撮像素子１２１、制御部４１１、関連付け部４１２、記憶部４１３、及び、通信部４１４を備える。また、制御部４１１、関連付け部４１２、記憶部４１３、及び、通信部４１４により、信号処理制御部４０１Ａが構成される。なお、撮像装置３２１Ａは、撮像レンズを含まない。
また、撮像素子１２１、制御部４１１、関連付け部４１２、記憶部４１３、及び、通信部４１４は、バスＢ２を介して相互に接続されており、バスＢ２を介してデータの送受信等を行う。なお、以下、説明を簡単にするために、撮像装置３２１Ａの各部がバスＢ２を介してデータの送受信等を行う場合のバスＢ２の記載を省略する。
撮像素子１２１は、各画素１２１ａから出力される１以上の検出信号からなる検出信号セットをバスＢ２に出力する。
制御部４１１は、例えば、各種のプロセッサを備え、撮像装置３２１Ａの各部を制御する。
関連付け部４１２は、信号処理装置３３２の関連付け部５０４（図３３）と協調して、或いは、単独で、撮像素子１２１により得られる検出信号セットと、検出信号セットに対応するメタデータとの関連付けを行う。
記憶部４１３は、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）、フラッシュメモリ等の記憶装置を１つ以上備え、例えば、撮像装置３２１Ａの処理に用いられるプログラムやデータ等を記憶する。記憶部４１３は、例えば、撮像装置３２１Ａを一意に識別するためのＩＤを記憶している。
通信部４１４は、リーダライタ３３１と近距離無線通信を行うとともに、リーダライタ３３１から電磁波により送信される電力を受信する。通信部４１４は、送受信部４２１及びアンテナ４２２を備える。
送受信部４２１は、リーダライタ３３１に対応した近距離無線通信方式により、アンテナ４２２を介して、リーダライタ３３１とデータの送受信を行う。
アンテナ４２２は、リーダライタ３３１のアンテナ（不図示）との間の電磁波の送受信を行う。また、アンテナ４２２によりリーダライタ３３１から受信した電磁波が電力に変換され、その電力により撮像装置３２１Ａが駆動される。
図２９は、撮像装置３２１Ａの外観の構成例を模式的に示している。図２９の上段には、撮像装置３２１Ａの表面の構成例が模式的に示され、下段には、撮像装置３２１Ａの裏面の構成例が模式的に示されている。
撮像装置３２１Ａにおいては、中央の縦長の矩形の本体部４３１の左右に矩形のアンテナ４２２が設けられている。本体部４３１には、撮像素子１２１、制御部４１１、関連付け部４１２、記憶部４１３、及び、送受信部４２１が内蔵されている。また、本体部４３１の表面のほぼ中央には、撮像素子１２１の受光面１２１Ａが配置されている。
図３０乃至図３２は、各撮像装置３２１Ａの撮像素子１２１の画素アレイ部のパターンの例を示している。なお、図３０乃至図３２の黒色の部分は、遮光膜１２１ｂによる遮光範囲を示している。
図３０は、各撮像装置３２１Ａの撮像素子１２１が１つの画素１２１ａを備える場合の例を示している。
パターンＰｔ１乃至パターンＰｔ４においては、それぞれ白色、赤色、緑色、又は、青色の異なる色のカラーフィルタ１２１ｄが設けられるとともに、右半分が遮光されている。尚、白色の場合、カラーフィルタ１２１ｄは、透明のフィルタでもよいし、無くてもよい。従って、パターンＰｔ１乃至パターンＰｔ４の４つの撮像装置３２１Ａを用いることにより、入射角指向性が同じで色（検出波長）が異なる検出信号を取得することができる。そして、例えば、各色の遮光範囲が異なる撮像装置３２１Ａを複数用いることにより、各色について、入射角指向性の異なる複数の検出信号が取得されるようになる。
図３１は、各撮像装置３２１Ａの撮像素子１２１が３つの画素１２１ａを備える場合の例を示している。
パターンＰｔ１１においては、各画素１２１ａが水平方向に並べられるとともに、各画素１２１ａに、それぞれ赤色、緑色、又は、青色の異なる色のカラーフィルタ１２１ｄが設けられている。また、各画素１２１ａの右半分が遮光されている。従って、パターンＰｔ１１の撮像装置３２１Ａを用いることにより、入射角指向性が同じで色（検出波長）が異なる検出信号を一度に取得することができる。そして、例えば、パターンＰｔ１１と同じ色配列であって、遮光範囲が異なる撮像装置３２１Ａを複数用いることにより、各色について、入射角指向性の異なる複数の検出信号が取得されるようになる。
パターンＰｔ１２においては、パターンＰｔ１１と同様に、画素１２１ａが水平方向に並べられるとともに、各画素１２１ａに、それぞれ赤色、緑色、又は、青色の異なる色のカラーフィルタ１２１ｄが設けられている。また、赤色の画素１２１ａ及び青色の画素１２１ａにおいては、右半分が遮光され、緑色の画素１２１ａにおいては、左半分が遮光されている。従って、パターンＰｔ１２の撮像装置３２１Ａを用いることにより、入射角指向性及び色（検出波長）が異なる検出信号を一度に取得することができる。そして、例えば、パターンＰｔ１２と同じ色配列であって、遮光範囲が異なる撮像装置３２１Ａを複数用いることにより、各色について、入射角指向性の異なる複数の検出信号が取得されるようになる。
図３２は、各撮像装置３２１Ａの撮像素子１２１が４つの画素１２１ａを備える例を示している。
パターンＰｔ２１においては、各画素１２１ａが水平方向に並べられるとともに、各画素１２１ａに、それぞれ赤色、緑色、青色、又は、白色の異なる色のカラーフィルタ１２１ｄが設けられている。尚、白色の場合、カラーフィルタ１２１ｄは、透明のフィルタでもよいし、無くてもよい。また、各画素１２１ａの右半分が遮光されている。従って、パターンＰｔ２１の撮像装置３２１Ａを用いることにより、入射角指向性が同じで色（検出波長）が異なる検出信号を一度に取得することができる。そして、例えば、パターンＰｔ２１と同じ色配列であって、遮光範囲が異なる撮像装置３２１Ａを複数用いることにより、各色について、入射角指向性の異なる複数の検出信号が取得されるようになる。
パターンＰｔ２２においては、各画素１２１ａが２行×２列に並べられるとともに、各画素１２１ａに、それぞれ赤色、緑色、青色、又は、白色の異なる色のカラーフィルタ１２１ｄが設けられている。尚、白色の場合、カラーフィルタ１２１ｄは、透明のフィルタでもよいし、無くてもよい。また、各画素１２１ａの右半分が遮光されている。従って、パターンＰｔ２２の撮像装置３２１Ａを用いることにより、入射角指向性が同じで色（検出波長）が異なる検出信号を一度に取得することができる。そして、例えば、パターンＰｔ２２と同じ色配列であって、遮光範囲が異なる撮像装置３２１Ａを複数用いることにより、各色について、入射角指向性の異なる複数の検出信号が取得されるようになる。
パターンＰｔ２３においては、各画素１２１ａが２行×２列に並べられるとともに、各画素１２１ａの色配列がベイヤ配列に従っている。また、各画素１２１ａの遮光範囲がそれぞれ異なっている。従って、パターンＰｔ２３の撮像装置３２１Ａを用いることにより、入射角指向性及び色（検出波長）が異なる検出信号を一度に取得することができる。そして、例えば、パターンＰｔ２３と同じ色配列であって、遮光範囲が異なる撮像装置３２１Ａを複数用いることにより、各色について、入射角指向性の異なる複数の検出信号が取得されるようになる。
パターンＰｔ２４においては、各画素１２１ａが２行×２列に並べられるとともに、各画素１２１ａに同じ色（この例では、白色）のカラーフィルタ１２１ｄが設けられている。尚、白色の場合、カラーフィルタ１２１ｄは、透明のフィルタでもよいし、無くてもよい。また、各画素１２１ａの遮光範囲がそれぞれ異なっている。従って、パターンＰｔ２３の撮像装置３２１Ａを用いることにより、入射角指向性が異なり色（検出波長）が同じ検出信号を一度に取得することができる。
＜信号処理装置３３２の構成例＞
図３３は、図２６の信号処理装置３３２の構成例を示すブロック図である。信号処理装置３３２は、復元部５０１、制御部５０２、入力部５０３、関連付け部５０４、表示部５０５、記憶部５０６、記録再生部５０７、記録媒体５０８、及び、通信部５０９を備える。
復元部５０１、制御部５０２、入力部５０３、表示部５０５、記憶部５０６、記録再生部５０７、及び、通信部５０９は、バスＢ３を介して相互に接続されており、バスＢ３を介してデータの送受信等を行う。なお、以下、説明を簡単にするために、信号処理装置３３２の各部がバスＢ３を介してデータの送受信等を行う場合のバスＢ３の記載を省略する。
復元部５０１は、リーダライタ３３１を介して、各撮像装置３２１から受信した検出信号セットを用いて、図２の撮像装置１０１の復元部１２２と同様の処理により、復元画像の復元処理等を行う。復元部５０１は、復元画像をバスＢ３に出力する。
制御部５０２は、例えば、各種のプロセッサを備え、信号処理装置３３２の各部を制御する。
入力部５０３は、信号処理装置３３２の操作や、処理に用いるデータの入力等を行うための入力デバイス（例えば、キー、スイッチ、ボタン、ダイヤル、タッチパネル、リモートコントローラ等）を備える。入力部５０３は、操作信号や入力されたデータ等をバスＢ３に出力する。
関連付け部５０４は、撮像装置３２１Ａの関連付け部４１２と協調して、又は、単独で、各撮像装置３２１Ａから取得した検出信号セットと、各検出信号セットに対応するメタデータとの関連付けを行う。
表示部５０５は、例えば、ディスプレイにより構成され、各種の情報（例えば、復元画像等）の表示を行う。なお、表示部５０５が、スピーカ等の音声出力部を備え、音声の出力を行うようにすることも可能である。
記憶部５０６は、ＲＯＭ、ＲＡＭ、フラッシュメモリ等の記憶装置を１つ以上備え、例えば、信号処理装置３３２の処理に用いられるプログラムやデータを記憶する。例えば、記憶部５０６は、各撮像装置３２１Ａの位置（例えば、緯度及び経度等）、並びに、姿勢（例えば、向き及び傾き等）等を含む設置情報を記憶している。また、記憶部５０６は、例えば、現在の各撮像装置３２１Ａの設置状態における各撮像装置３２１Ａの撮像素子１２１に対応する係数セット群を記憶している。この係数セット群は、例えば、想定される被写体距離及び画角毎に用意される。
記録再生部５０７は、記録媒体５０８へのデータの記録、及び、記録媒体５０８に記録されているデータの再生（読み出し）を行う。例えば、記録再生部５０７は、復元画像を記録媒体５０８に記録したり、記録媒体５０８から読み出したりする。また、例えば、記録再生部５０７は、検出信号セット及び対応するメタデータを、記録媒体５０８に記録したり、記録媒体５０８から読み出したりする。
記録媒体５０８は、例えば、ＨＤＤ、ＳＳＤ、磁気ディスク、光ディスク、光磁気ディスク、及び、半導体メモリ等のいずれか、又は、それらの組合せなどからなる。
通信部５０９は、所定の通信方式により、他の機器（例えば、リーダライタ３３１や他の信号処理装置等）と通信を行う。なお、通信部５０９の通信方式は、有線又は無線のいずれであってもよい。また、通信部５０９が複数の通信方式に対応することも可能である。
＜撮像システム３０１の処理＞
次に、図３４乃至図３６を参照して、撮像システム３０１の処理について説明する。
＜信号処理部３１２の処理＞
まず、図３４のフローチャートを参照して、信号処理部３１２の処理について説明する。
ステップＳ１０１において、信号処理部３１２は、撮像コマンドを送信する。
具体的には、信号処理装置３３２の制御部５０２は、撮像コマンドを生成し、生成した撮像コマンドを符号化する。制御部５０２は、符号化した撮像コマンドを、通信部５０９を介してリーダライタ３３１に供給する。
リーダライタ３３１は、電磁波からなる搬送波の送信を開始するともに、符号化された撮像コマンドにより搬送波を変調することにより、各撮像装置３２１に撮像コマンドを送信する。
各撮像装置３２１は、後述する図３６のステップＳ１５１において、撮像コマンドを受信し、ステップＳ１５３において、撮像データを送信する。
ステップＳ１０２において、信号処理部３１２は、各撮像装置３２１Ａから撮像データを受信する。
具体的には、リーダライタ３３１は、送信した電磁波の反射波からなる搬送波を変調することにより各撮像装置３２１から送信されてくる撮像データを受信する。
撮像データは、例えば、図３５に示されるパケットを用いて送信される。各パケットは、開始符号、ＩＤ、検出信号、及び、終了符号を含む。
開始符号には、パケットの先頭を示す所定の符号が設定される。
ＩＤは、パケットに含まれる検出信号を出力した撮像装置３２１Ａ及び画素１２１ａを識別するためのＩＤであり、例えば、各撮像装置３２１Ａを識別するためのＩＤと、撮像素子１２１内の各画素１２１ａを識別するためのＩＤとを組み合わせたＩＤとなる。これにより、パケットに含まれる検出信号を出力した撮像装置３２１Ａ及び画素１２１ａが特定される。
検出信号には、送信対象となる検出信号の値（すなわち、検出信号レベル）が設定される。
終了符号には、パケットの末尾を示す所定の符号が設定される。
なお、例えば、ＩＤ及び検出信号は、必要に応じて符号化される。
例えば、１つの検出信号につき１つのパケットが生成され、各検出信号が異なるパケットにより送信される。従って、各撮像装置３２１Ａから、少なくとも検出信号の数分のパケットが送信される。そして、１以上のパケットにより、各撮像装置３２１Ａの撮像素子１２１から出力される１以上の検出信号を含む検出信号セット、及び、検出信号セットに対応するメタデータ（例えば、ＩＤ等）が送信される。
なお、例えば、１つのパケットにＩＤと検出信号の組み合わせを複数含めることにより、複数の検出信号を一度に送信するようにしてもよい。この場合、例えば、１つのパケットに全ての検出信号を含めて送信するのであれば、検出信号の並び順を固定することにより、各画素１２１ａのＩＤの送信を省略し、１つのパケット内に１つだけ撮像装置３２１ＡのＩＤを含めるようにすることも可能である。
リーダライタ３３１は、各撮像装置３２１Ａから受信した撮像データの各パケットを復調し、信号処理装置３３２に供給する。信号処理装置３３２の復元部５０１は、通信部５０９を介して、復調された各パケットを取得し、各パケットに含まれるＩＤ及び検出信号を復号する。
また、リーダライタ３３１は、所定の時間が経過した後、電磁波からなる搬送波の送信を停止する。
ステップＳ１０３において、復元部５０１は、画像の復元に用いる係数を求める。具体的には、復元部５０１は、図２０のステップＳ２の撮像装置１０１の復元部１２２による処理と同様の処理により、被写体距離を設定する。そして、復元部１２２は、設定した被写体距離に対応付けられている係数セット群を記憶部５０６から読み出す。
ステップＳ１０４において、復元部５０１は、検出信号セット及び係数を用いて、画像の復元を行う。すなわち、復元部５０１は、図２０のステップＳ３の撮像装置１０１の復元部１２２による処理と同様の処理により、各撮像装置３２１Ａから受信した撮像データに含まれる検出信号セット、及び、ステップＳ１０３の処理で求めた係数セット群を用いて、復元画像を復元する。
ステップＳ１０５において、信号処理装置３３２は、復元画像に対して各種の処理を行う。例えば、復元部５０１は、必要に応じて、復元画像に対して、デモザイク処理、γ補正、ホワイトバランス調整、所定の圧縮形式への変換処理等を行う。また、復元部５０１は、例えば、必要に応じて、復元画像を表示部５０５に供給し、表示させたり、記録再生部５０７に供給し、記録媒体５０８に記録させたり、通信部５０９を介して、他の機器に出力したりする。
その後、信号処理部３１２の処理は終了する。
次に、図３６のフローチャートを参照して、図３４の信号処理部３１２の処理に対応して、各撮像装置３２１Ａにより実行される処理について説明する。
ステップＳ１５１において、撮像装置３２１Ａは、撮像コマンドを受信する。具体的には、撮像装置３２１Ａのアンテナ４２２は、図３４のステップＳ１０１において、リーダライタ３３１から送信が開始される電磁波を受信し、受信した電磁波を電力に変換し、撮像装置３２１Ａの各部に供給する。これにより、撮像装置３２１Ａの各部が起動する。
次に、送受信部４２１は、アンテナ４２２を介してリーダライタ３３１から受信した電磁波を復調し、その結果得られた符号化データを制御部４１１に供給する。
制御部４１１は、符号化データを復号することにより、撮像コマンドを取得する。
ステップＳ１５２において、撮像素子１２１は、図２０のステップＳ１の処理と同様に、被写体の撮像を行う。撮像素子１２１は、各画素１２１ａの検出信号からなる検出信号セットを関連付け部４１２に供給する。
ステップＳ１５３において、撮像装置３２１Ａは、撮像データを送信する。
具体的には、関連付け部４１２は、検出信号セットに含まれる検出信号毎に、図３５を参照して上述したパケットを生成する。これにより、各検出信号にＩＤが付与される。関連付け部４１２は、生成した各パケットを送受信部４２１に供給する。
送受信部４２１は、例えば、アンテナ４２２を介して、リーダライタ３３１から受信した電磁波の反射波からなる搬送波を各パケットのデータにより変調することにより、リーダライタ３３１にパケット単位で撮像データを送信する。
その後、リーダライタ３３１が電磁波の送信を停止することにより、リーダライタ３３１からの電力の供給が終了し、撮像装置３２１Ａがオフし、処理が終了する。
以上のように、複数の撮像装置３２１Ａで分担して撮像を行うことにより、撮像装置３２１Ａをさらに小型化したり、消費電力を削減したり、撮像データの送信に係るデータ通信量を削減したりすることができる。また、撮像装置３２１Ａは、小型であり、バッテリ等の電源を必要とせず、無線通信により撮像データを送信するため、設置位置の自由度が高い。従って、撮像装置３２１Ａの適用範囲を拡大することができる。
例えば、撮像システム３０１を農業の監視システムに適用し、農地内の複数の場所に撮像装置３２１Ａを配置し、上述した処理を行うことにより、遠隔地から天候や作物の状態を把握することが可能である。
また、小型の撮像装置３２１Ａを分散して配置することにより、景観を損ねずに、撮像を行うことが可能になる。例えば、撮像システム３０１を建物の監視システムに適用し、建物の壁等に複数の撮像装置３２１Ａを分散して配置することにより、景観を損ねずに、建物の周辺を撮像し、遠隔地からの監視を行うことが可能である。また、この場合、撮像装置３２１Ａの存在に気付かれにくいという効果もある。
さらに、撮像装置３２１Ａは、小型の機器や、機器の湾曲した部分にも設置することができるため、適用可能な機器の範囲が拡大する。例えば、各種のウエラブル端末、内視鏡カメラや眼底カメラ等の医療機器、カード型の装置等に、撮像装置３２１Ａを適用することができる。
＜＜４．第２の実施の形態＞＞
次に、図３７を参照して、本開示の第２の実施の形態について説明する。
＜撮像装置３２１Ｂの構成例＞
本開示の第２の実施の形態では、図２６の撮像システム３０１において、撮像装置３２１の第２の実施の形態である図３７の撮像装置３２１Ｂが用いられる。なお、図３７において、図２８の撮像装置３２１Ａと対応する部分には同じ符号を付してあり、その説明は適宜省略する。また、図３７において、電源部４５１から撮像装置３２１Ｂの各部に電力を供給する電源線の図示を省略している。
撮像装置３２１Ｂは、撮像装置３２１Ａと比較して、電源部４５１が設けられている点が異なる。
電源部４５１は、例えば、バッテリ、又は、ＡＣ／ＤＣ電源により構成され、撮像装置３２１Ｂの各部に駆動用の電力を供給する。なお、電源部４５１がＡＣ／ＤＣ電源の場合、電源部４５１は、外部の交流電源から供給される電力を直流に変換した後、撮像装置３２１Ｂの各部に電力を供給する。
このように、電源部４５１を設けることにより、撮像装置３２１Ｂは、リーダライタ３３１から電力が供給されなくても、自律して撮像処理を行い、撮像データを送信することができる。
これに対して、信号処理装置３３２は、各撮像装置３２１Ｂに撮像コマンドを送信することなく、各撮像装置３２１から送信されてくる撮像データを受信し、受信した撮像データを用いて、復元画像を復元することができる。
＜＜５．第３の実施の形態＞＞
次に、図３８を参照して、本開示の第３の実施の形態について説明する。
＜撮像装置３２１Ｃの構成例＞
本開示の第３の実施の形態では、図２６の撮像システム３０１において、撮像装置３２１の第３の実施の形態である図３８の撮像装置３２１Ｃが用いられる。なお、図３８において、図２８の撮像装置３２１Ａと対応する部分には同じ符号を付してあり、その説明は適宜省略する。また、図３８において、電源部４６１から撮像装置３２１Ｃの各部に電力を供給する電源線の図示を省略している。
撮像装置３２１Ｃは、撮像装置３２１Ａと比較して、電源部４６１が設けられている点が異なる。
電源部４６１は、太陽光発電により電力を生成する電源である。電源部４６１は、光電変換部４７１及び蓄電部４７２を備える。
光電変換部４７１は、例えば、フォトダイオードを備え、受光した光を電荷に変換し、得られた電荷を蓄電部４７２に供給する。
蓄電部４７２は、光電変換部４７１で変換された電荷を蓄積し、蓄積した電荷による電力を撮像装置３２１Ｃの各部に供給する。
これにより、撮像装置３２１Ｃは、外部から電力の供給を受けたり、バッテリを交換したりしなくても、自ら発電し、その電力により動作することができる。
なお、例えば、撮像素子１２１のフォトダイオードと光電変換部４７１のフォトダイオードを同じ半導体基板上に形成することにより、光電変換部４７１を撮像素子１２１と一体化させることが可能である。これにより、撮像装置３２１Ｃを小型化したり、製造工程を簡略化したりすることができる。
＜＜６．第４の実施の形態＞＞
次に、図３９乃至図４５を参照して、本開示の第４の実施の形態について説明する。
撮像装置３２１は、上述したように小型かつ設置位置の自由度が高いため、予め決められた場所以外の任意の場所に置いて使用されることが想定される。例えば、複数の撮像装置３２１を無秩序にばらまいて使用することも想定される。
一方、撮像装置３２１の位置及び姿勢が変化すると、復元対象となる被写体面に対する撮像素子１２１の受光面の傾きが変化し、被写体面の各点光源からの光線の入射角度が変化する。例えば、図３９に示されるように、撮像装置３２１が点線の位置から実線の位置に移動すると、被写体面３１の点光源Ｐからの光線の撮像装置３２１（の撮像素子１２１の受光面）への入射角度が変化する。
一方、上述したように、撮像素子１２１の各画素１２１ａは、入射角指向性を有している。例えば、図４０は、撮像素子１２１のある画素１２１ａの水平方向の入射角度θｘに対する受光感度の例を示している。図４０の横軸は、水平方向の入射角度θｘを示し、縦軸は検出信号レベルを示している。
例えば、被写体面３１の点光源Ｐから入射角度が０°で光線が入射している場合に、撮像素子１２１の水平方向の傾きがΔθｘだけ大きくなると、この図に示されるように、検出信号レベルが大きくなる。
従って、撮像装置３２１の位置や姿勢が変化した場合、復元画像の復元に用いる係数を調整する必要がある。
そこで、第４の実施の形態では、各撮像装置３２１の位置及び傾きを各撮像装置３２１で検出し、信号処理装置３３２が、検出結果に基づいて復元画像の復元に用いる係数を求めて、復元画像の復元を行うようにするものである。
＜撮像装置３２１Ｄの構成例＞
第４の実施の形態では、図２６の撮像システム３０１において、撮像装置３２１の第４の実施の形態である図４１の撮像装置３２１Ｄが用いられる。なお、図４１において、図２８の撮像装置３２１Ａと対応する部分には同じ符号を付してあり、その説明は適宜省略する。
撮像装置３２１Ｄは、撮像装置３２１Ａと比較して、信号処理制御部４０１Ａの代わりに、信号処理制御部４０１Ｄが設けられている点が異なる。信号処理制御部４０１Ｄは、信号処理制御部４０１Ａと比較して、検出部６１１Ａが追加されている点が異なる。
検出部６１１Ａは、位置検出部６２１及び傾き検出部６２２を備える。
位置検出部６２１は、例えば、ＧＮＳＳ受信機等を備え、撮像装置３２１Ｄの現在位置（例えば、緯度及び経度で表される絶対位置）を検出する。位置検出部６２１は、検出した位置情報をバスＢ２に出力する。
傾き検出部６２２は、例えば、加速度センサ又は傾斜センサを備え、重力の向きに対して垂直な平面に対する撮像素子１２１の受光面の傾きを検出する。例えば、図４２に示されるように、重力の方向をＺ軸とし、Ｚ軸に垂直で東西に延びる方向をＸ軸とし、Ｚ軸に垂直で南北に延びる方向をＹ軸とした場合、傾き検出部６２２は、傾きＸθ及び傾きＹθを検出する。傾きＸθは、Ｘ−Ｚ平面におけるＹ軸周りの傾きである。傾きＹθは、Ｙ−Ｚ平面におけるＸ軸周りの傾きである。傾き検出部６２２は、検出した傾き情報をバスＢ２に出力する。
＜撮像システム３０１の処理＞
次に、図４３乃至図４５を参照して、撮像システム３０１の処理について説明する。
＜信号処理部３１２の処理＞
まず、図４３のフローチャートを参照して、信号処理部３１２の処理について説明する。
ステップＳ２０１において、図３４のステップＳ１０１の処理と同様に、撮像コマンドが送信される。
ステップＳ２０２において、図３４のステップＳ１０２の処理と同様に、各撮像装置３２１Ｄから撮像データが受信される。ただし、図３４のステップＳ１０２の処理と、撮像データのパケットのデータ構成が異なっている。
図４４は、第４の実施の形態で用いられる撮像データのパケットのデータ構成の例を示している。
図４４のパケットのデータ構成を、図３５のパケットのデータ構成と比較すると、傾きＸθ、傾きＹθ、緯度、及び、経度が追加されている点が異なる。
傾きＸθ及び傾きＹθには、撮像装置３２１Ｄの傾き検出部６２２により検出される撮像素子１２１の受光面の傾きＸθ及び傾きＹθがそれぞれ設定される。
緯度及び経度には、撮像装置３２１Ｄの位置検出部６２１により検出される撮像装置３２１Ｄの現在位置の緯度及び経度がそれぞれ設定される。
ステップＳ２０３において、復元部５０１は、画像の復元に用いる係数を求める。具体的には、復元部５０１は、図３４のステップＳ１０３の処理と同様に、被写体距離を設定する。
次に、復元部５０１は、各撮像装置３２１Ｄ毎に、設定した被写体距離の被写体面（復元対象となる被写体面）に対する撮像素子１２１の受光面の傾きの変化量を算出する。すなわち、復元部５０１は、各撮像装置３２１Ｄが所定の基準位置から現在の位置に移動することに伴う被写体面に対する撮像素子１２１の受光面の傾きの変化量を算出する。
以下、撮像装置３２１Ｄが基準位置に設置されている場合に撮像素子１２１の受光面と被写体面とが互いに対向し、かつ、ともに重力方向に垂直な面であるものとする。また、以下、基準位置の緯度及び経度をそれぞれ基準緯度及び基準経度と称する。なお、基準位置は、例えば、各撮像装置３２１Ｄ毎に予め設定される。
この場合、撮像装置３２１Ｄの緯度及び経度、並びに、傾きＸθ及び傾きＹθが基準位置から変化した場合、被写体面の各点光源からの撮像素子１２１の受光面への光線のＸ軸方向の入射角度θｘの変化量Δθｘ、及び、Ｙ軸方向の入射角度θｙの変化量Δθｙは、次式（９）及び式（１０）で表される。
Δθｘ＝ａｔａｎ（（移動後の経度−基準経度）／被写体距離）＋Ｘθ
・・・（９）
Δθｙ＝ａｔａｎ（（移動後の緯度−基準緯度）／被写体距離）＋Ｙθ
・・・（１０）
すなわち、被写体面の各点光源からの撮像素子１２１の受光面への光線のＸ軸方向の入射角度θｘ及びＹ軸方向の入射角度θｙが、それぞれΔθｘ及びΔθｙだけ大きくなる。
なお、以下、入射角度θｘの変化量Δθｘを入射角変化量Δθｘと称し、入射角度θｙの変化量Δθｙを入射角変化量Δθｙと称する。
そこで、復元部５０１は、各撮像装置３２１Ｄの緯度、経度、傾きＸθ、及び、傾きＹθに基づいて、設定した被写体距離の被写体面３１に対する各撮像装置３２１Ｄの入射角変化量Δθｘ及び入射角変化量Δθｙを算出する。この入射角変化量Δθｘ及び入射角変化量Δθｙは、各撮像装置３２１Ｄが所定の基準位置に設置されている場合を基準とする入射角度θｘ及び入射角度θｙの変化量である。
このとき、例えば、記憶部５０６は、各撮像装置３２１Ｄが基準位置に設置されている場合の各被写体距離の被写体面に対する係数セット群だけでなく、各被写体面に対する入射角変化量Δθｘ及び入射角変化量Δθｙ毎の係数セット群も記憶している。そして、復元部５０１は、各撮像装置３２１Ｄに対応する係数セット群として、設定した被写体距離、並びに、算出した入射角変化量Δθｘ及び入射角変化量Δθｙに対応する係数セット群を記憶部５０６から読み出す。
或いは、例えば、復元部５０１は、図９を参照して上述した重みＷｘ及び重みＷｙの特性を用いて係数を求める場合、撮像装置３２１Ｄが基準位置に設置されている場合の被写体面の各点光源からの入射光の入射角度θｘ及び入射角度θｙに、算出した入射角変化量Δθｘ及び入射角変化量Δθｙをそれぞれ加算した入射角度に対する重みＷｘ及び重みＷｙに基づいて、係数を求めるようにしてもよい。
ステップＳ２０４において、図３４のステップＳ１０４の処理と同様に、検出信号セット及び係数を用いて、画像の復元が行われる。
ステップＳ２０５において、図３４のステップＳ１０５の処理と同様に、復元画像に対して各種の処理が行われる。
その後、信号処理部３１２の処理は終了する。
＜撮像装置３２１Ｄの処理＞
次に、図４５のフローチャートを参照して、図４３の信号処理部３１２の処理に対応して、各撮像装置３２１Ｄにより実行される処理について説明する。
ステップＳ２５１において、図３６のステップＳ１５１の処理と同様に、撮像コマンドが受信される。
ステップＳ２５２において、図３６のステップＳ１５２の処理と同様に、被写体の撮像が行われる。
ステップＳ２５３において、検出部６１１Ａは、位置及び姿勢を検出する。具体的には、位置検出部６２１は、撮像装置３２１Ｄの現在位置の緯度及び経度を検出し、検出した位置情報をバスＢ２に出力する。傾き検出部６２２は、撮像装置３２１Ｄの撮像素子１２１の受光面の傾きＸθ及び傾きＹθを検出し、検出した傾き情報をバスＢ２に出力する。
ステップＳ２５４において、図３６のステップＳ１５３の処理と同様に、撮像データが送信される。ただし、ステップＳ１５３の処理と異なり、撮像データが、図４４のパケットを用いて送信される。
その後、撮像装置３２１Ｄの処理は終了する。
このように、各撮像装置３２１Ｄが、自分の位置及び姿勢を検出し、信号処理装置３３２に通知することにより、事前の設定処理等を行わずに、各撮像装置３２１Ｄを自由に設置したり、動かしたりして、撮像処理を行うことができる。
＜＜７．第５の実施の形態＞＞
次に、図４６乃至図４８を参照して、本開示の第５の実施の形態について説明する。
図４６の上段及び下段は、図８の右部と同様に、撮像素子１２１のある画素１２１ａの入射光の入射角に対する受光感度特性を示している。図４６の上段は、回転前の画素１２１ａの受光感度特性を示し、下段は、画素１２１ａが基準点（０，０）を中心に角度αだけ回転した後の画素１２１ａの受光感度特性を示している。
例えば、被写体面３１の点光源Ｐから回転前の画素１２１ａに対して入射角度（θｘ１、θｙ１）で入射していた入射光は、回転後の画素１２１ａに対して入射角度（θｘ２、θｙ２）で入射するようになる。これにより、回転前と回転後で入射光に対する画素１２１ａの受光感度が変化し、検出信号レベルが変化する。
従って、撮像装置３２１（撮像素子１２１）の向きが変化した場合にも、係数の調整を行う必要がある。
そこで、第５の実施の形態では、さらに各撮像装置３２１の向きを各撮像装置３２１で検出し、信号処理装置３３２が、検出結果に基づいて復元画像の復元に用いる係数を求めて、復元画像の復元を行うようにするものである。
＜撮像装置３２１Ｅの構成例＞
第５の実施の形態では、図２６の撮像システム３０１において、撮像装置３２１の第５の実施の形態である図４７の撮像装置３２１Ｅが用いられる。なお、図４７において、図４１の撮像装置３２１Ｄと対応する部分には同じ符号を付してあり、その説明は適宜省略する。
撮像装置３２１Ｅは、撮像装置３２１Ｄと比較して、信号処理制御部４０１Ｄの代わりに、信号処理制御部４０１Ｅが設けられている点が異なる。信号処理制御部４０１Ｅは、信号処理制御部４０１Ｄと比較して、検出部６１１Ａの代わりに検出部６１１Ｂが設けられている点が異なる。
検出部６１１Ｂは、検出部６１１Ａと比較して、地磁気検出部６２３が追加されている点が異なる。
地磁気検出部６２３は、東西南北などの撮像装置３２１Ｅの向きを検出する。例えば、撮像装置３２１Ｅの撮像素子１２１の受光面に平行な所定の軸の向きが、撮像装置３２１Ｅの向きとして検出される。地磁気検出部６２３は、検出した向きを示す方向情報をバスＢ２に出力する。
図４８は、各撮像装置３２１Ｅから送信される撮像データのパケットのデータ構成の例を示している。
図４８のパケットのデータ構成を、図４４のパケットのデータ構成と比較すると、方向が追加されている点が異なる。
方向には、撮像装置３２１Ｅの地磁気検出部６２３により検出される撮像装置３２１Ｅの向きが設定される。
例えば、撮像装置３２１Ｅが、基準位置に設置されている場合を基準にして、角度αだけ向きが変化した場合、復元対象となる被写体面の各点光源からの撮像素子１２１の受光面への光線のＸ軸方向の入射角度θｘの変化量Δθｘ’、及び、Ｙ軸方向の入射角度θｙの変化量Δθｙ’は、上述した式（９）の入射角変化量Δθｘ及び式（１０）の入射角変化量Δθｙを用いて、次式（１１）及び式（１２）で表される。
Δθｘ’=Δθｘ×ｃｏｓα−Δθｙ×ｓｉｎα
・・・（１１）
Δθｙ’=Δθｘ×ｓｉｎα＋Δθy×ｃｏｓα
・・・（１２）
そして、信号処理装置３３２の復元部５０１は、式（９）の入射角変化量Δθｘ及び式（１０）の入射角変化量Δθｙの代わりに、式（１１）の入射角変化量Δθｘ’及び式（１２）の入射角変化量Δθｙ’を用いて、係数セット群を求め、求めた係数セット群を用いて、復元画像の復元を行う。これにより、より適切な係数を用いて復元画像の復元が行われるようになり、復元画像の復元精度や画質が向上する。
＜＜８．第６の実施の形態＞＞
次に、図４９乃至図５２を参照して、本開示の第６の実施の形態について説明する。
＜撮像装置３２１Ｆの構成例＞
本開示の第６の実施の形態では、図２６の撮像システム３０１において、撮像装置３２１の第６の実施の形態である図４９の撮像装置３２１Ｆが用いられる。なお、図４９において、図４７の撮像装置３２１Ｅと対応する部分には同じ符号を付してあり、その説明は適宜省略する。
撮像装置３２１Ｆは、撮像装置３２１Ｅと比較して、信号処理制御部４０１Ｅの代わりに、信号処理制御部４０１Ｆが設けられている点が異なる。信号処理制御部４０１Ｆは、信号処理制御部４０１Ｅと比較して、検出部６１１Ｂの代わりに検出部６１１Ｃが設けられ、駆動部６５１が追加されている点が異なる。
検出部６１１Ｃは、検出部６１１Ｂと比較して、高度検出部６２４が追加されている点が異なる。
高度検出部６２４は、例えば、高度センサを備える。高度検出部６２４は、撮像装置３２１Ｆが設置されている位置の高度を検出し、検出した高度を示す高度情報をバスＢ２に出力する。
駆動部６５１は、例えば、撮像装置３２１Ｆの位置や姿勢を移動（変化）させる駆動機構を備える。例えば、駆動部６５１は、撮像装置３２１Ｆを陸上移動させる車輪、空中移動させるプロペラ等を備える。或いは、例えば、駆動部６５１は、撮像装置３２１Ｆの向きや傾きを移動させるアクチュエータ等を備える。この駆動部６５１により、撮像装置３２１Ｆは、自分で位置や姿勢を変えることができる。
＜撮像システム３０１の処理＞
次に、図５０乃至図５２を参照して、撮像システム３０１の処理について説明する。
＜信号処理部３１２の処理＞
まず、図５０を参照して、信号処理部３１２の処理について説明する。
ステップＳ３０１において、信号処理部３１２は、駆動コマンドを送信する。
具体的には、信号処理装置３３２の制御部５０２は、駆動コマンドを生成し、生成した駆動コマンドを符号化する。駆動コマンドは、例えば、駆動対象となる撮像装置３２１Ｆの位置及び姿勢のうち少なくとも１つの移動に関する移動指令、並びに、駆動対象となる撮像装置３２１ＦのＩＤを含む。
なお、移動指令は、絶対的な位置及び姿勢により示されてもよいし、相対的な位置及び姿勢により示されてもよい。前者の場合、例えば、撮像装置３２１Ｆを移動させる位置又は姿勢が、絶対的な数値（例えば、緯度、経度、方角、重力方向に対する角度等）により示される。後者の場合、例えば、現在の撮像装置３２１Ｆの位置又は姿勢に対する移動方向及び移動量が示される。
制御部５０２は、符号化した駆動コマンドを、通信部５０９を介してリーダライタ３３１に供給する。
リーダライタ３３１は、電磁波からなる搬送波の送信を開始するともに、符号化した駆動コマンドにより搬送波を変調することにより、各撮像装置３２１Ｆに駆動コマンドを送信する。
なお、１つの駆動コマンドに複数の撮像装置３２１Ｆに対する移動指令を含むようにしてもよいし、駆動対象となる撮像装置３２１Ｆ毎に個別に駆動コマンドを送信するようにしてもよい。後者の場合、例えば、複数の撮像装置３２１Ｆの位置又は姿勢を変更するとき、ステップＳ３０１において、複数の駆動コマンドが送信される。
駆動対象となった撮像装置３２１Ｆは、後述する図５２のステップＳ３５３において、駆動コマンドによる指令に従って、位置又は姿勢を変更する。
なお、各撮像装置３２１Ｆの位置及び姿勢を変更する必要がない場合、ステップＳ３０１の処理は省略することが可能である。
ステップＳ３０２において、図３４のステップＳ１０１の処理と同様に、撮像コマンドが送信される。
ステップＳ３０３において、図３４のステップＳ１０２の処理と同様に、各撮像装置３２１Ｆから撮像データが受信される。ただし、図３４のステップＳ１０２の処理と、撮像データのパケットのデータ構成が異なっている。
図５１は、第６の実施の形態で用いられる撮像データのパケットのデータ構成の例を示している。
図５１のパケットのデータ構成を、図４８のパケットのデータ構成と比較すると、高度が追加されている点が異なる。
高度には、撮像装置３２１Ｆの高度検出部６２４により検出される撮像装置３２１Ｆの高度が設定される。
ステップＳ３０４において、図４３のステップＳ２０３の処理と同様に、画像の復元に用いる係数が求められる。ただし、復元部５０１は、例えば、上述した式（９）及び式（１０）の代わりに、次式（１３）及び式（１４）を用いて、撮像装置３２１Ｆの高度をさらに考慮して、入射角変化量Δθｘ及び入射角変化量Δθｙを算出する。
Δθｘ＝ａｔａｎ（（移動後の経度−基準経度）／（被写体距離−高度））＋Ｘθ
・・・（１３）
Δθｙ＝ａｔａｎ（（移動後の緯度−基準緯度）／（被写体距離−高度））＋Ｙθ
・・・（１４）
さらに、復元部５０１は、上述した式（１１）及び式（１２）を用いて、入射角変化量Δθｘ’及び入射角変化量Δθｙ’を算出する。そして、復元部５０１は、設定した被写体距離、並びに、入射角変化量Δθｘ’及び入射角変化量Δθｙ’に対応する係数セット群を記憶部５０６から読み出す。
ステップＳ３０５において、図３４のステップＳ１０４の処理と同様に、検出信号セット及び係数を用いて、画像の復元が行われる。
ステップＳ３０６において、図３４のステップＳ１０５の処理と同様に、復元画像に対して各種の処理が行われる。
その後、信号処理部３１２の処理は終了する。
＜撮像装置３２１Ｆの処理＞
次に、図５２のフローチャートを参照して、図５０の信号処理部３１２の処理に対応して、各撮像装置３２１Ｆにより実行される処理について説明する。
ステップＳ３５１において、撮像装置３２１Ｆは、駆動コマンドを受信する。具体的には、撮像装置３２１Ｆのアンテナ４２２は、図５０のステップＳ３０１において、リーダライタ３３１から送信が開始される電磁波を受信し、受信した電磁波を電力に変換し、撮像装置３２１Ｆの各部に供給する。これにより、撮像装置３２１Ｆの各部が起動する。
次に、送受信部４２１は、アンテナ４２２を介してリーダライタ３３１から受信した電磁波を復調し、その結果得られた符号化データを制御部４１１に供給する。
制御部４１１は、符号化データを復号することにより、駆動コマンドを取得する。
ステップＳ３５２において、制御部４１１は、位置又は姿勢の変更が指示されたか否かを判定する。例えば、制御部４１１は、駆動コマンドに含まれる駆動対象となる撮像装置のＩＤが自分のＩＤと一致する場合、位置又は姿勢の変更が指示されたと判定し、処理はステップＳ３５３に進む。
ステップＳ３５３において、撮像装置３２１Ｆは、位置又は姿勢の変更を行う。具体的には、制御部４１１は、駆動部６５１を制御して、駆動コマンドに含まれる移動指令に従って、撮像装置３２１Ｆの位置又は姿勢を移動させる。
その後、処理はステップＳ３５４に進む。
一方、ステップＳ３５２において、例えば、制御部４１１は、駆動コマンドに含まれる駆動対象となる撮像装置のＩＤが自分のＩＤと一致しない場合、位置又は姿勢の変更が指示されていないと判定し、ステップＳ３５３の処理はスキップされ、処理はステップＳ３５４に進む。
ステップＳ３５４において、図３６のステップＳ１５１の処理と同様に、撮像コマンドが受信される。
ステップＳ３５５において、図３６のステップＳ１５２の処理と同様に、被写体の撮像が行われる。
ステップＳ３５６において、検出部６１１Ｃは、位置及び姿勢を検出する。具体的には、位置検出部６２１は、撮像装置３２１Ｆの現在位置の緯度及び経度を検出し、検出した位置情報をバスＢ２に出力する。傾き検出部６２２は、撮像装置３２１Ｆの撮像素子１２１の受光面の傾きＸθ及び傾きＹθを検出し、検出した傾き情報をバスＢ２に出力する。地磁気検出部６２３は、撮像装置３２１Ｆの向きを検出し、検出した方向情報をバスＢ２に出力する。高度検出部６２４は、撮像装置３２１Ｆの高度を検出し、検出した高度情報をバスＢ２に出力する。
ステップＳ３５７において、図３６のステップＳ１５３の処理と同様に、撮像データが送信される。ただし、ステップＳ１５３の処理と異なり、撮像データが、図５１のパケットを用いて送信される。
その後、撮像装置３２１Ｆの処理は終了する。
以上のようにして、遠隔操作により各撮像装置３２１Ｆの位置や姿勢を移動させながら、所望の被写体を撮像することが可能になる。
また、撮像装置３２１Ｆの高度をさらに考慮して、係数を求めるため、より適切な係数を用いて復元画像の復元が行われるようになり、復元画像の復元精度や画質が向上する。
なお、以上の説明では、駆動コマンドと撮像コマンドが連続して送信される例を示したが、駆動コマンドと撮像コマンドが異なるタイミングで送信されてもよい。すなわち、各撮像装置３２１Ｆの位置又は姿勢の移動と、撮像処理とが異なるタイミングで行われてもよい。
また、例えば、各撮像装置３２１Ｆが、信号処理部３１２からの指示によらずに、自律的に位置又は姿勢を変更できるようにしてもよい。この場合、各撮像装置３２１Ｆは、リーダライタ３３１から電力の供給を受けずに動作できるようにする必要がある。
そこで、例えば、各撮像装置３２１Ｆに図３７の電源部４５１又は図３８の電源部４６１を設けるようにしてもよい。或いは、例えば、各撮像装置３２１Ｆに外付けの直流電源を装着したり、外部から電源線を介して電力を供給したりするようにしてもよい。
＜＜９．第７の実施の形態＞＞
次に、図５３を参照して、本開示の第７の実施の形態について説明する。
＜撮像装置３２１Ｇの構成例＞
この第７の実施の形態では、図２６の撮像システム３０１の撮像装置３２１として、撮像装置３２１の第７の実施の形態である図５３の撮像装置３２１Ｇが用いられる。
上述したように、撮像装置３２１は、無秩序にばらまいて使用することも想定される。しかし、撮像装置３２１をばらまいた場合、必ずしも撮像素子１２１の受光面１２１Ａが表を向くとは限らない。例えば、撮像素子１２１の受光面１２１Ａが地面の方向を向いてしまうと、その撮像装置３２１からは有効な検出信号セットを得ることができなくなる。
そこで、例えば、撮像素子１２１の受光面１２１Ａが必ず表を向くように、撮像装置３２１の裏面に重りをつける等の対策が考えられる。しかし、撮像装置３２１に重りをつけても、必ず撮像素子１２１の受光面１２１Ａが表を向くとは限らないし、また、撮像装置３２１のサイズや重量が大きくなってしまう。
これに対して、撮像装置３２１Ｇでは、表面の撮像素子１２１の受光面１２１Ａに加えて、裏面（表面と反対の面）に撮像素子１２１と同様の構成を有する撮像素子７０１（不図示）の受光面７０１Ａが設けられている。これにより、撮像装置３２１Ｆは、表面及び裏面のどちらが表を向いたとしても、被写体を撮像し、有効な検出信号セットを得ることができる。
なお、撮像装置３２１Ｇは、撮像素子１２１と撮像素子７０１のいずれが有効であるかを判定し、有効と判定した方の撮像素子の検出信号セットのみを含む撮像データを送信するようにしてもよい。例えば、撮像装置３２１Ｇは、２つの撮像素子の検出信号セットのうち検出信号レベルの平均値が大きい方の撮像素子を有効であると判定し、有効と判定した撮像素子の検出信号セットのみを含む撮像データを送信するようにしてもよい。
或いは、撮像装置３２１Ｇは、常に両方の撮像素子の検出信号セットを含む撮像データを送信し、信号処理装置３３２が、どちらの検出信号セットが有効であるかを判定するようにしてもよい。
また、撮像素子１２１と撮像素子７０１を１つの撮像素子により構成するようにしてもよい。この場合、例えば、撮像素子は、１８０°に折り曲げられた構成を有し、一方の面の画素アレイ部と他方の面の画素アレイ部が、独立して動作することが可能とされる。
さらに、撮像装置３２１Ｆを正四面体や正六面体等の方向が異なる３面以上の面を有する多面体により構成し、各面に撮像素子の受光面を設けるようにしてもよい。
＜＜１０．変形例＞＞
以下、上述した本開示の実施の形態の変形例について説明する。
＜撮像装置及び撮像素子に関する変形例＞
上述した撮像装置３２１Ａ乃至撮像装置３２１Ｆの特徴は、可能な範囲で組み合わせることが可能である。
例えば、図４７の撮像装置３２１Ｅに、図４９の撮像装置３２１Ｆの高度検出部６２４を追加することが可能である。或いは、例えば、図４１の撮像装置３２１Ｄ、図４７の撮像装置３２１Ｅ、又は、図４９の撮像装置３２１Ｆに、図３７の撮像装置３２１Ｂの電源部４５１、又は、図３８の撮像装置３２１Ｃの電源部４６１を設けることが可能である。
また、例えば、リーダライタ３３１から供給される電力、或いは、太陽光発電による電力により撮像装置３２１が駆動される場合、十分な電力が得られない場合が想定される。これに対して、十分な電力が得られない場合、一部の画素１２１ａを無効にするようにしてもよい。
例えば、図５４の上段及び下段は、撮像素子１２１の画素アレイ部のパターンの例を示している。この例では、赤色のカラーフィルタが設けられたＲ画素、緑色のカラーフィルタが設けられたＧ画素、青色のカラーフィルタが設けられたＢ画素、及び、白色のカラーフィルタが設けられたＷ画素の１行×４列の画素ブロックを１単位とし、その画素ブロックが３行×２列に並べられている。また、各画素１２１ａの黒色の部分は、遮光膜１２１ｂを示している。なお、この例では、全ての画素１２１ａの遮光膜１２１ｂの遮光範囲が同じ範囲に設定されているが、必ずしも同じ範囲に設定する必要はない。
例えば、電力の供給が十分な場合、上段に示されるように、全ての画素１２１ａが有効とされる。すなわち、全ての画素１２１ａの検出信号が読み出され、外部に送信される。
一方、電力の供給が不十分な場合、上段に示されるように、一部の画素１２１ａが無効とされる。この例では、太線の枠で囲まれた５つの画素ブロック内の画素１２１ａが無効とされている。
ここで、画素１２１ａを無効にするとは、例えば、その画素１２１ａの検出信号の読み出しを停止することである。例えば、無効な画素１２１ａの検出信号のＡＤ変換を停止することにより、検出信号の読み出しが停止される。
なお、無効な画素１２１ａの検出信号を、外部に送信するようにしてもよいし、外部に送信しないようにしてもよい。外部に送信する場合には、例えば、所定のダミーの値の信号が、無効な画素１２１ａの検出信号として送信される。
これにより、電力の供給が不足している場合でも、検出信号の一部を信号処理装置３３２に供給することができ、画像の復元を継続することが可能になる。
なお、電力の不足量に応じて、無効にする画素１２１ａの数を変更するようにしてもよい。
また、例えば、各画素１２１ａの遮光膜１２１ｂの形状には、上述した横帯タイプ、縦帯タイプ、Ｌ字タイプ、矩形の開口部を設けたタイプ以外の形状を採用することが可能である。
さらに、例えば、図５を参照して上述した撮像素子１２１では、１つの画素１２１ａ内に２行×２列の４つのフォトダイオード１２１ｆを設ける例を示したが、フォトダイオード１２１ｆの数や配置は、この例に限定されるものではない。
例えば、図５５に示されるように、１つの画素１２１ａにおいて、１個のオンチップレンズ１２１ｃに対して、例えば、３行×３列に並べられた９個のフォトダイオード１２１ｆ−１１１乃至１２１ｆ−１１９を設けるようにしてもよい。すなわち、１つの画素出力単位が、９個のフォトダイオード１２１ｆを備えるようにしてもよい。
そして、例えば、フォトダイオード１２１ｆ−１１１，１２１ｆ−１１４，１２１ｆ−１１７乃至１２１ｆ−１１９の５画素の信号を読み出さないようにすることで、実質的に、フォトダイオード１２１ｆ−１１１，１２１ｆ−１１４，１２１ｆ−１１７乃至１２１ｆ−１１９の範囲に遮光膜１２１ｂが設定されたＬ字タイプの遮光膜１２１ｂを備える画素１２１ａと同様の入射角特性を得ることができる。
このようにして、遮光膜１２１ｂを設けることなく、遮光膜１２１ｂを設けた場合と同様の入射角特性を得ることができる。また、信号を読み出さないフォトダイオード１２１ｆのパターンを切り替えることにより、遮光膜１２１ｂにより遮光される位置と範囲を変えた場合と同様に、入射角指向性を変化させることができる。
また、以上の説明では、１つの画素１２１ａにより１つの画素出力単位が構成される例を示したが、複数の画素１２１ａにより１つの画素出力単位を構成することも可能である。
例えば、図５６に示されるように、３行×３列に並べられた画素１２１ａ−１１１乃至画素１２１ａ−１１９により１つの画素出力単位８０１ｂを構成することが可能である。なお、画素１２１ａ−１１１乃至画素１２１ａ−１１９は、例えば、それぞれ１つのフォトダイオードを備え、オンチップレンズを備えていない。
例えば、各画素１２１ａからの画素信号を加算することにより、検出画像の１画素分の検出信号を生成するともに、一部の画素１２１ａからの画素信号の出力を停止したり、加算しないようにすることにより、画素出力単位８０１ｂの入射角指向性を実現することができる。例えば、画素１２１ａ−１１２、画素１２１ａ−１１３、画素１２１ａ−１１５、及び、画素１２１ａ−１１６の画素信号を加算して検出信号を生成することにより、画素１２１ａ−１１１、画素１２１ａ−１１４、及び、画素１２１ａ−１１７乃至画素１２１ａ−１１９の範囲にＬ字タイプの遮光膜１２１ｂを設けた場合と同様の入射角指向性を得ることができる。
また、画素信号を検出信号に加算する画素１２１ａのパターンを切り替えることにより、遮光膜１２１ｂにより遮光される位置と範囲を変えた場合と同様に、入射角指向性を異なる値に設定することができる。
また、この場合、例えば、画素１２１ａの組合せを変更することにより、画素出力単位の範囲を変更することが可能である。例えば、画素１２１ａ−１１１、画素１２１ａ−１１２、画素１２１ａ−１１４、及び、画素１２１ａ−１１５からなる２行×２列の画素１２１ａにより画素出力単位８０１ｓを構成することができる。
さらに、例えば、全ての画素１２１ａの画素信号を記録しておき、画素１２１ａの組合せを後で設定することにより、画素出力単位の範囲を後で設定することが可能である。さらに、設定した画素出力単位内の画素１２１ａのうち、画素信号を検出信号に加算する画素１２１ａを選択することにより、画素出力単位の入射角指向性を後で設定することが可能である。
また、図４では、変調素子として遮光膜１２１ｂを用いたり、出力に寄与するフォトダイオードの組合せを変更したりすることにより画素毎に異なる入射角指向性を持たせる例を示したが、本開示では、例えば、図５７に示されるように、撮像素子９０１の受光面を覆う光学フィルタ９０２を変調素子として用いて、各画素に入射角指向性を持たせるようにすることも可能である。
具体的には、光学フィルタ９０２は、撮像素子９０１の受光面９０１Ａから所定の間隔を空けて、受光面９０１Ａの全面を覆うように配置されている。被写体面３１からの光は、光学フィルタ９０２で変調されてから、撮像素子９０１の受光面９０１Ａに入射する。
例えば、光学フィルタ９０２には、図５８に示される白黒の格子状のパターンを有する光学フィルタ９０２ＢＷを用いることが可能である。光学フィルタ９０２ＢＷには、光を透過する白パターン部と光を遮光する黒パターン部がランダムに配置されている。各パターンのサイズは、撮像素子９０１の画素のサイズとは独立して設定されている。
図５９は、光学フィルタ９０２ＢＷを用いた場合の被写体面３１上の点光源ＰＡ及び点光源ＰＢからの光に対する撮像素子９０１の受光感度特性を示している。点光源ＰＡ及び点光源ＰＢからの光は、それぞれ光学フィルタ９０２ＢＷで変調されてから、撮像素子９０１の受光面９０１Ａに入射する。
例えば、点光源ＰＡからの光に対する撮像素子９０１の受光感度特性は、波形Ｓａのようになる。すなわち、光学フィルタ９０２ＢＷの黒パターン部により影が生じるため、点光源ＰＡからの光に対する受光面９０１Ａ上の像に濃淡のパターンが生じる。同様に、点光源ＰＢからの光に対する撮像素子９０１の受光感度特性は、波形Ｓｂのようになる。すなわち、光学フィルタ９０２ＢＷの黒パターン部により影が生じるため、点光源ＰＢからの光に対する受光面９０１Ａ上の像に濃淡のパターンが生じる。
なお、点光源ＰＡからの光と点光源ＰＢからの光とは、光学フィルタ９０２ＢＷの各白パターン部に対する入射角度が異なるため、受光面に対する濃淡のパターンの現れ方にズレが生じる。従って、撮像素子９０１の各画素は、被写体面３１の各点光源に対して入射角指向性を持つようになる。
この方式の詳細は、例えば、上述した非特許文献１に開示されている。
なお、光学フィルタ９０２ＢＷの黒パターン部の代わりに、図６０の光学フィルタ９０２ＨＷを用いるようにしてもよい。光学フィルタ９０２ＨＷは、偏光方向が等しい直線偏光素子９１１Ａと直線偏光素子９１１Ｂ、及び、１／２波長板９１２を備え、１／２波長板９１２は、直線偏光素子９１１Ａと直線偏光素子９１１Ｂの間に挟まれている。１／２波長板９１２には、光学フィルタ９０２ＢＷの黒パターン部の代わりに、斜線で示される偏光部が設けられ、白パターン部と偏光部がランダムに配置されている。
直線偏光素子９１１Ａは、点光源ＰＡから出射されたほぼ無偏光の光のうち、所定の偏光方向の光のみを透過する。以下、直線偏光素子９１１Ａが、偏光方向が図面に平行な光のみを透過するものとする。直線偏光素子９１１Ａを透過した偏光光のうち、１／２波長板９１２の偏光部を透過した偏光光は、偏光面が回転されることにより、偏光方向が図面に垂直な方向に変化する。一方、直線偏光素子９１１Ａを透過した偏光光のうち、１／２波長板９１２の白パターン部を透過した偏光光は、偏光方向が図面に平行な方向のまま変化しない。そして、直線偏光素子９１１Ｂは、白パターン部を透過した偏光光を透過し、偏光部を透過した偏光光をほとんど透過しない。従って、偏光部を透過した偏光光は、白パターン部を透過した偏光光より光量が減少する。これにより、光学フィルタＢＷを用いた場合とほぼ同様の濃淡のパターンが、撮像素子９０１の受光面９０１Ａ上に生じる。
また、図６１のＡに示されるように、光干渉マスクを光学フィルタ９０２ＬＦとして用いることが可能である。被写体面３１の点光源ＰＡ，ＰＢから出射された光は、光学フィルタ９０２ＬＦを介して撮像素子９０１の受光面９０１Ａに照射される。図６１のＡの下方の拡大図に示されるように、光学フィルタ９０２ＬＦの例えば光入射面には、波長程度の凹凸が設けられている。また、光学フィルタ９０２ＬＦは、鉛直方向から照射された特定波長の光の透過が最大となる。被写体面３１の点光源ＰＡ，ＰＢから出射された特定波長の光の光学フィルタ９０２ＬＦに対する入射角の変化（鉛直方向に対する傾き）が大きくなると光路長が変化する。ここで、光路長が半波長の奇数倍であるときは光が弱めあい、半波長の偶数倍であるときは光が強めあう。すなわち、点光源ＰＡ，ＰＢから出射されて光学フィルタ９０２ＬＦを透過した特定波長の透過光の強度は、図６１のＢに示すように、光学フィルタ９０２ＬＦに対する入射角に応じて変調されて撮像素子９０１の受光面９０１Ａに入射する。したがって、撮像素子９０１の各画素出力単位から出力される検出信号は、画素出力単位毎に各点光源の変調後の光強度を合成した信号となる。
この方式の詳細は、例えば、上述した特許文献１に開示されている。
なお、特許文献１及び非特許文献１の方式では、上述した図４の画素１２１ａ又は図５の画素１２１ａを用いた撮像素子１２１のように、隣接する画素に影響することなく画素１２１ａ単位で入射角指向性を独立して設定することができない。従って、例えば、光学フィルタ９０２ＢＷのパターン、又は、光学フィルタ９０２ＬＦの回折格子のパターンが異なると、撮像素子９０１の少なくとも隣接する複数の画素の入射角指向性が共に異なるものとされることになる。また、近い位置にある画素１２１ａ間で、互いに近い入射角指向性を有することになる。
また、本開示は、赤外光等の可視光以外の波長の光の撮像を行う撮像装置や撮像素子にも適用することが可能である。この場合、復元画像は、ユーザが目視して被写体を認識できる画像とはならず、ユーザが被写体を視認できない画像となる。なお、通常の撮像レンズは遠赤外光を透過することが困難であるため、本技術は、例えば、遠赤外光の撮像を行う場合に有効である。したがって、復元画像は遠赤外光の画像であっても良く、また、遠赤外光に限らず、その他の可視光や非可視光の画像であっても良い。
＜信号処理部に関する変形例＞
例えば、信号処理装置３３２の関連付け部５０４が、各撮像装置３２１から取得した検出信号セットと、各検出信号セットに対応するメタデータとの関連付けを行うようにしてもよい。この場合、例えば、図２８、図３７、図３８、図４１、図４７、及び、図４９の関連付け部４１２を設けないようにすることも可能である。
また、メタデータには、例えば、復元時の係数セット群を含んでいてもよいし、含んでいなくてもよい。後者の場合、例えば、メタデータに復元時の被写体距離、画角、各撮像装置３２１の撮像時の位置や姿勢を示すデータ（例えば、緯度、経度、傾きＸθ、傾きＹθ、向き、高度等）が含まれる。
なお、検出信号セットとメタデータを関連付ける方法は、検出信号セットとメタデータとの対応関係を特定することができれば、特に限定されない。例えば、検出信号セットを含むデータにメタデータを付与したり、検出信号セットとメタデータに同じＩＤを付与したり、検出信号セットとメタデータを同じ記録媒体５０８に記録させたりすることにより、検出信号セットとメタデータが関連付けられる。また、各検出信号セットに個別にメタデータを関連付けてもよいし、検出信号セットを１つにまとめたデータにメタデータを関連付けてもよい。
さらに、復元画像の復元に、必ずしも全ての撮像装置３２１の検出信号セットを用いる必要はなく、例えば、復元部５０１が、一部の撮像装置３２１の検出信号セットを用いて、復元画像を復元するようにしてもよい。
例えば、撮像装置３２１毎に異なる被写体距離や画角の被写体面の撮像に適した撮像素子１２１を設けるようにしてもよい。そして、例えば、被写体距離や画角が特定できるような場合、復元部５０１が、全ての撮像装置３２１の検出信号セットを用いずに、特定された被写体距離や画角の撮像に適した撮像装置３２１の検出信号セットのみを用いて、復元画像を復元するようにしてもよい。この場合、必ずしも全ての撮像装置３２１において、適切な被写体距離や画角を異ならせる必要はなく、一部の撮像装置３２１で同じであってもよい。
また、例えば、復元部５０１が、簡易的に復元した復元画像（以下、簡易復元画像と称する）に基づいて、復元画像の復元に用いる検出信号セットを選択するようにしてもよい。
具体的には、まず、復元部５０１は、全ての撮像装置３２１の検出信号セットを用いて、復元画像を簡易的に復元する。例えば、復元部５０１は、各検出信号セットに含まれる各画素１２１ａの検出信号のうち、所定の画素１２１ａの検出信号を間引き、少ない画素数で簡易的に復元処理を行う。或いは、復元部５０１は、例えば、演算量（例えば、反復演算の回数等）を制限することにより、簡易的に復元処理を行う。
次に、復元部５０１は、例えば、簡易復元画像に基づいて、主被写体を設定する。主被写体の設定方法は任意である。例えば、復元部５０１は、簡易復元画像内で最も大きな被写体、又は、簡易復元画像内の所定の種類の被写体（例えば、人等）を主被写体に設定する。或いは、例えば、ユーザが、簡易復元画像を視認し、簡易復元画像内の所望の被写体を主被写体に設定するようにしてもよい。
次に、復元部５０１は、復元画像の復元に用いる検出信号セットを選択する。
具体的には、各撮像装置３２１の各画素１２１ａの現実世界における撮像範囲は、例えば、各撮像装置３２１の位置及び姿勢、並びに、各画素１２１ａの遮光範囲に基づいて推定することが可能である。また、主被写体の現実世界における位置は、例えば、簡易復元画像内の主被写体の位置等に基づいて推定することが可能である。そこで、復元部５０１は、各画素１２１ａの現実世界における撮像範囲、及び、主被写体の現実世界における位置に基づいて、全ての撮像装置３２１の検出信号セットの中から、主被写体を含む（主被写体が写っている）検出信号セットを抽出し、復元画像の復元に用いる検出信号セットに選択する。
或いは、例えば、復元部５０１は、マスタとなる撮像素子１２１（以下、マスタセンサと称する）を選択する。例えば、復元部５０１は、各画素１２１ａの現実世界における撮像範囲、及び、主被写体の現実世界における位置に基づいて、各撮像装置３２１の撮像素子１２１の撮像範以内における主被写体のサイズ及び位置を推定する。そして、復元部５０１は、主被写体のサイズ及び位置が最も適切な撮像素子１２１をマスタセンサに選択する。
なお、主被写体の適切なサイズや位置は、主被写体の種類や、撮像するシーン等により異なる。
次に、復元部５０１は、例えば、マスタセンサを除く撮像素子１２１の中から、撮像範囲がマスタセンサの撮像範囲と重なる領域の割合が所定の閾値以上となる撮像素子１２１を抽出する。復元部５０１は、マスタセンサの検出信号セット、及び、抽出した撮像素子１２１の検出信号セットを、復元画像の復元に用いる検出信号セットに選択する。
そして、復元部５０１は、選択した検出信号セットを用いて、復元画像の復元処理を行う。例えば、復元部５０１は、選択した検出信号セットを取得した各撮像装置３２１の各画素１２１ａに対応する係数セットを用いて、上述した連立方程式を作成し、解くことにより、復元画像を復元する。
これにより、復元画像における主被写体の画質（例えば、解像度等）を良好に保ちつつ、復元処理の負荷を軽減することができる。
なお、選択した撮像装置３２１の画素１２１ａの中から、さらに復元画像の復元に用いる画素１２１ａを選択するようにしてもよい。例えば、復元部５０１が、選択した検出信号セットの中から、撮像範囲が主被写体と重なる画素１２１ａの検出信号を選択し、選択した検出信号を用いて、復元画像を復元するようにしてもよい。
また、以上の説明では、式（９）乃至式（１４）の計算に用いる座標系（以下、基準座標系と称する）が、所定の基準位置（基準緯度、基準経度）に基づいて設定される例を示したが、基準位置は可変でもよい。
例えば、主被写体の位置に基づいて、基準位置が設定されるようにしてよい。例えば、主被写体の所定の位置（例えば、重心）の現実世界における位置が、基準位置に設定されるようにしてもよい。
或いは、例えば、マスタセンサの位置に基づいて、基準位置が設定されるようにしてもよい。例えば、マスタセンサの所定の位置（例えば、中央、左上隅等）の画素が、基準位置に設定されるようにしてもよい。
この場合、例えば、マスタセンサに基づいて、基準座標系が設定されるようにしてもよい。例えば、マスタセンサの画素領域の座標系に基づいて、基準座標系のＸ軸及びＹ軸を設定し、マスタセンサの受光面に垂直な軸を基準座標系のＺ軸に設定するようにしてもよい。
さらに、例えば、復元画像の被写体距離及び画角が、主被写体に基づいて設定されるようにしてもよい。例えば、主被写体の画質が最も良好になるように、復元画像の被写体距離が設定されるようにしてもよい。また、例えば、復元画像において主被写体が適切な大きさになるように、復元画像の画角が設定されるようにしてもよい。
なお、例えば、撮像システム３０１が無限遠を前提に設計されている場合、被写体距離は常に無限遠に設定される。
＜システムの構成に関する変形例＞
図２６の撮像システム３０１の構成は、変更することが可能である。
例えば、リーダライタ３３１と信号処理装置３３２を一体化したり、信号処理装置３３２の機能の一部をリーダライタ３３１に設けるようにしたりすることが可能である。
また、一部の撮像装置にリーダライタ３３１の機能や信号処理装置３３２の機能を設けるようにしてもよい。
図６２は、撮像システムの第１の変形例である撮像システム１００１の構成例を示している。なお、図中、図２６の撮像システム３０１と対応する部分には、同じ符号を付してあり、その説明は適宜省略する。
撮像システム１００１は、撮像システム３０１と比較して、撮像部３１１の代わりに、撮像部１０１１が設けられ、リーダライタ３３１が削除されている点が異なる。撮像部１０１１は、撮像部３１１と比較して、撮像装置１０２１が追加されている点が異なる。
撮像装置１０２１は、リーダライタ３３１の機能を備えている。すなわち、撮像装置１０２１は、各撮像装置３２１と近距離無線通信を行うとともに、各撮像装置３２１に電力を供給する。そして、撮像装置１０２１は、各撮像装置３２１に撮像コマンドを送信して、各撮像装置３２１による被写体の撮像の制御を行うとともに、自らも被写体の撮像を行う。そして、撮像装置１０２１は、各撮像装置３２１から撮像データを受信し、各撮像装置３２１から受信した撮像データ、及び、自らが撮像することにより取得した撮像データを信号処理装置３３２に送信する。すなわち、撮像装置１０２１は、各撮像装置３２１からの撮像データを信号処理装置３３２に中継する役割を果たす。
なお、撮像装置１０２１は、例えば、図３７の撮像装置３２１Ｂの電源部４５１、又は、図３８の撮像装置３２１Ｃの電源部４６１と同様の電源部を備え、リーダライタ３３１からの電力の供給がなくても動作することが可能である。
また、撮像システム１００１においては、撮像装置３２１の数は１台でもよい。
図６３は、撮像システムの第２の変形例である撮像システム１１０１の構成例を示している。なお、図中、図２６の撮像システム３０１と対応する部分には、同じ符号を付してあり、その説明は適宜省略する。
撮像システム１１０１は、撮像システム３０１と比較して、撮像部３１１の代わりに、撮像部１１１１が設けられ、リーダライタ３３１及び信号処理装置３３２が削除されている点が異なる。撮像部１１１１は、撮像部３１１と比較して、撮像装置１１２１が追加されている点が異なる。
撮像装置１１２１は、図６２の撮像装置１０２１と同様の機能、及び、図２６の信号処理装置３３２と同様の機能を備える。そして、撮像装置１１２１は、各撮像装置３２１から受信した撮像データ、及び、自らが撮像することにより取得した撮像データに基づいて、復元画像の復元処理等を行う。
なお、撮像システム１１０１においては、撮像装置３２１の数は１台でもよい。
＜その他の変形例＞
また、以上の説明では、各撮像装置３２１が、自分の位置や姿勢を検出して、検出結果を信号処理部３１２に通知する例を示したが、例えば、各撮像装置３２１の位置や姿勢を外部から検出するようにしてもよい。例えば、各撮像装置３２１が設置されている領域を外部から撮像し、撮像した画像に基づいて、各撮像装置３２１の位置や姿勢を検出するようにしてもよい。また、例えば、そのような検出機能を、リーダライタ３３１又は信号処理装置３３２が備えるようにしてもよい。
さらに、上述した例では、撮像装置３２１の位置及び姿勢として、位置（絶対位置）、傾き、向き、及び、高さを検出する例を示したが、この組み合わせは自由に変更することが可能である。また、撮像装置３２１の位置又は姿勢を示す別のデータを検出するようにしてもよい。さらに、例えば、撮像装置３２１の位置及び姿勢のうちいずれか一方のみを検出するようにしてもよい。
また、例えば、ディープラーニング等の機械学習を適用することにより、復元後の復元画像を用いずに、復元前の検出画像や検出信号セットを用いて画像認識等を行うようにすることも可能である。この場合も、本技術を用いることにより、復元前の検出画像を用いた画像認識の精度が向上する。換言すれば、復元前の検出画像の画質が向上する。
＜＜１１．その他＞＞
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータ（例えば、制御部１２３等）などが含まれる。
コンピュータが実行するプログラムは、例えば、パッケージメディア等としての記録媒体（例えば、記録媒体１３０等）に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。
さらに、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本技術は、１つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
尚、本開示は、以下のような構成も取ることができる。
（１）
撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を１以上備え、１以上の前記検出信号を含む検出信号セットを出力する撮像素子と、
前記検出信号セット、並びに、位置及び姿勢のうち少なくとも１つを示す位置姿勢データを含む撮像データを無線通信により通信装置に送信する通信部と
を備える撮像装置。
（２）
少なくとも１つの前記画素出力単位が、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を有する
前記（１）に記載の撮像装置。
（３）
前記撮像素子は、検出波長がそれぞれ異なる複数の前記画素出力単位を備える
前記（２）に記載の撮像装置。
（４）
各前記画素出力単位の前記入射角指向性が同じである
前記（３）に記載の撮像装置。
（５）
前記撮像素子は、検出波長が同じ複数の前記画素出力単位を備え、
各前記画素出力単位の前記入射角指向性がそれぞれ異なる
前記（２）に記載の撮像装置。
（６）
前記撮像装置の位置及び姿勢のうち少なくとも１つを検出する検出部を
さらに備える前記（１）乃至（５）のいずれかに記載の撮像装置。
（７）
前記位置姿勢データは、前記撮像装置の絶対位置、傾き、向き、及び、高度のうち少なくとも１つを含む
前記（６）に記載の撮像装置。
（８）
前記通信装置から送信されてくる指令により、前記撮像装置の位置及び姿勢のうち少なくとも１つを変更する駆動部を
さらに備える前記（６）又は（７）に記載の撮像装置。
（９）
前記撮像データは、前記撮像装置を識別するための識別情報を含む
前記（１）乃至（８）のいずれかに記載の撮像装置。
（１０）
方向が異なる複数の受光面を備える
前記（１）乃至（９）のいずれかに記載の撮像装置。
（１１）
各前記受光面をそれぞれ備える複数の前記撮像素子を
備える前記（１０）に記載の撮像装置。
（１２）
前記通信部は、複数の前記撮像素子のうち有効な前記撮像素子の前記検出信号を含む撮像データを送信する
前記（１１）に記載の撮像装置。
（１３）
前記撮像装置の第１の面に設けられた第１の受光面と、
前記撮像装置の第１の面と反対の第２の面に設けられた第２の受光面と
を備える前記（１０）乃至（１２）のいずれかに記載の撮像装置。
（１４）
前記通信部は、前記通信装置から電磁波により供給される電力を受信する
前記（１）乃至（１３）のいずれかに記載の撮像装置。
（１５）
前記撮像素子は、２以上の前記画素出力単位を備え、前記通信装置から供給される電力に応じて、一部の前記画素出力単位を無効にする
前記（１４）に記載の撮像装置。
（１６）
前記撮像素子及び前記通信部を駆動する電力を供給する電源部を
さらに備える前記（１）乃至（１３）のいずれかに記載の撮像装置。
（１７）
前記電源部は、発電機能を有する
前記（１６）に記載の撮像装置。
（１８）
前記電源部は、太陽光により発電し、
前記電源部の光電変換部と前記撮像素子の光電変換部とが、同じ半導体基板に形成されている
前記（１７）に記載の撮像装置。
（１９）
撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を１以上備え、１以上の前記検出信号からなる検出信号セットを出力する撮像素子をそれぞれ備える複数の撮像装置からの複数の撮像データにそれぞれ含まれる複数の前記検出信号セットを用いて、復元画像を復元する復元部を
備える信号処理装置。
（２０）
各前記撮像データは、各前記撮像装置の位置及び姿勢のうち少なくとも１つを示す位置姿勢データを含み、
前記復元部は、さらに各前記撮像装置の前記位置姿勢データを用いて、前記復元画像を復元する
前記（１９）に記載の信号処理装置。
（２１）
前記復元部は、各前記画素出力単位の前記検出信号、及び、前記被写体からの入射光の入射角に対する各前記画素出力単位の指向性を示す複数の係数を用いて、前記復元画像を復元する
前記（１９）又は（２０）に記載の信号処理装置。
（２２）
前記複数の撮像装置から前記複数の撮像データを無線通信により受信し、前記複数の撮像装置のうちの１以上に電磁波により電力を供給する通信部を
さらに備える前記（１９）乃至（２１）のいずれかに記載の信号処理装置。
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
１０１ 撮像装置， １１１ 信号処理制御部， １２１ 撮像素子， １２１ａ，１２１ａ’ 画素， １２１Ａ 受光面， １２１ｂ 遮光膜， １２１ｃ オンチップレンズ， １２１ｅ，１２１ｆ フォトダイオード， １２２ 復元部， １２３ 制御部， １２５ 検出部， １２６ 関連付け部， ３０１ 撮像システム， ３１１ 撮像部， ３１２ 信号処理部， ３２１，３２１Ａ乃至３２１Ｇ 撮像装置， ３３１ リーダライタ， ３３２ 信号処理装置， ４０１Ａ乃至４０１Ｆ 信号処理制御部， ４１１ 制御部， ４１２ 関連付け部, ４１４ 通信部， ４２１ 送受信部， ４２２ アンテナ， ４５１，４６１ 電源部， ４７１ 光電変換部， ４７２ 蓄電部， ５０１ 復元部， ５０２ 制御部， ５０４ 関連付け部， ６１１Ａ乃至６１１Ｃ 検出部， ６２１ 位置検出部， ６２２ 傾き検出部， ６２３ 地磁気検出部， ６２４ 高度検出部， ６５１ 駆動部， ７０１ 撮像素子， ７０１Ａ 受光面， ８０１ｂ，８０１ｓ 画素出力単位， ９０１ 撮像素子， ９０１Ａ 受光面， ９０２，９０２ＢＷ， ９０２Ｆ 光学フィルタ， １００１ 撮像システム， １０１１ 撮像部， １０２１ 撮像装置， １１０１ 撮像システム， １１１１ 撮像部， １１２１ 撮像装置

Claims (22)

  1. 撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を１以上備え、１以上の前記検出信号を含む検出信号セットを出力する撮像素子と、
    前記検出信号セット、並びに、位置及び姿勢のうち少なくとも１つを示す位置姿勢データを含む撮像データを無線通信により通信装置に送信する通信部と
    を備える撮像装置。
  2. 少なくとも１つの前記画素出力単位が、前記入射光の入射角に対する指向性を示す入射角指向性を独立に設定可能な構成を有する
    請求項１に記載の撮像装置。
  3. 前記撮像素子は、検出波長がそれぞれ異なる複数の前記画素出力単位を備える
    請求項２に記載の撮像装置。
  4. 各前記画素出力単位の前記入射角指向性が同じである
    請求項３に記載の撮像装置。
  5. 前記撮像素子は、検出波長が同じ複数の前記画素出力単位を備え、
    各前記画素出力単位の前記入射角指向性がそれぞれ異なる
    請求項２に記載の撮像装置。
  6. 前記撮像装置の位置及び姿勢のうち少なくとも１つを検出する検出部を
    さらに備える請求項１に記載の撮像装置。
  7. 前記位置姿勢データは、前記撮像装置の絶対位置、傾き、向き、及び、高度のうち少なくとも１つを含む
    請求項６に記載の撮像装置。
  8. 前記通信装置から送信されてくる指令により、前記撮像装置の位置及び姿勢のうち少なくとも１つを変更する駆動部を
    さらに備える請求項６に記載の撮像装置。
  9. 前記撮像データは、前記撮像装置を識別するための識別情報を含む
    請求項１に記載の撮像装置。
  10. 方向が異なる複数の受光面を備える
    請求項１に記載の撮像装置。
  11. 各前記受光面をそれぞれ備える複数の前記撮像素子を
    備える請求項１０に記載の撮像装置。
  12. 前記通信部は、複数の前記撮像素子のうち有効な前記撮像素子の前記検出信号を含む撮像データを送信する
    請求項１１に記載の撮像装置。
  13. 前記撮像装置の第１の面に設けられた第１の受光面と、
    前記撮像装置の第１の面と反対の第２の面に設けられた第２の受光面と
    を備える請求項１０に記載の撮像装置。
  14. 前記通信部は、前記通信装置から電磁波により供給される電力を受信する
    請求項１に記載の撮像装置。
  15. 前記撮像素子は、２以上の前記画素出力単位を備え、前記通信装置から供給される電力に応じて、一部の前記画素出力単位を無効にする
    請求項１４に記載の撮像装置。
  16. 前記撮像素子及び前記通信部を駆動する電力を供給する電源部を
    さらに備える請求項１に記載の撮像装置。
  17. 前記電源部は、発電機能を有する
    請求項１６に記載の撮像装置。
  18. 前記電源部は、太陽光により発電し、
    前記電源部の光電変換部と前記撮像素子の光電変換部とが、同じ半導体基板に形成されている
    請求項１７に記載の撮像装置。
  19. 撮像レンズ及びピンホールのいずれも介さず入射する被写体からの入射光を受光し、前記入射光の入射角によって変調された出力画素値を示す検出信号を１つ出力する画素出力単位を１以上備え、１以上の前記検出信号からなる検出信号セットを出力する撮像素子をそれぞれ備える複数の撮像装置からの複数の撮像データにそれぞれ含まれる複数の前記検出信号セットを用いて、復元画像を復元する復元部を
    備える信号処理装置。
  20. 各前記撮像データは、各前記撮像装置の位置及び姿勢のうち少なくとも１つを示す位置姿勢データを含み、
    前記復元部は、さらに各前記撮像装置の前記位置姿勢データを用いて、前記復元画像を復元する
    請求項１９に記載の信号処理装置。
  21. 前記復元部は、各前記画素出力単位の前記検出信号、及び、前記被写体からの入射光の入射角に対する各前記画素出力単位の指向性を示す複数の係数を用いて、前記復元画像を復元する
    請求項１９に記載の信号処理装置。
  22. 前記複数の撮像装置から前記複数の撮像データを無線通信により受信し、前記複数の撮像装置のうちの１以上に電磁波により電力を供給する通信部を
    さらに備える請求項１９に記載の信号処理装置。
JP2019548811A 2017-10-19 2018-10-19 撮像装置および信号処理装置 Active JP7259756B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017202861 2017-10-19
JP2017202861 2017-10-19
PCT/JP2018/038943 WO2019078336A1 (ja) 2017-10-19 2018-10-19 撮像装置および信号処理装置

Publications (2)

Publication Number Publication Date
JPWO2019078336A1 true JPWO2019078336A1 (ja) 2020-12-17
JP7259756B2 JP7259756B2 (ja) 2023-04-18

Family

ID=66173307

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019548811A Active JP7259756B2 (ja) 2017-10-19 2018-10-19 撮像装置および信号処理装置

Country Status (5)

Country Link
US (1) US11431911B2 (ja)
EP (1) EP3700192B1 (ja)
JP (1) JP7259756B2 (ja)
CN (1) CN111201779B (ja)
WO (1) WO2019078336A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200062220A (ko) * 2017-10-19 2020-06-03 소니 주식회사 전자 기기
CN112106343A (zh) * 2018-03-29 2020-12-18 索尼公司 信息处理装置、信息处理方法、程序和信息处理系统
JP2020182139A (ja) * 2019-04-26 2020-11-05 ソニー株式会社 撮像システム及び撮像素子
DE112022002630T5 (de) * 2021-05-17 2024-03-14 Sony Semiconductor Solutions Corporation Bildgebungselement und elektronische vorrichtung
JP2023042368A (ja) * 2021-09-14 2023-03-27 株式会社東芝 固体撮像素子、及び固体撮像装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012186674A (ja) * 2011-03-07 2012-09-27 Hitachi Kokusai Electric Inc 監視カメラシステム
JP2013132139A (ja) * 2011-12-21 2013-07-04 Nikon Corp 電子機器、撮像装置、および電子機器の制御プログラム
WO2016009688A1 (ja) * 2014-07-16 2016-01-21 株式会社リコー システム、機械、制御方法、プログラム
JP2016092413A (ja) * 2014-10-29 2016-05-23 株式会社半導体エネルギー研究所 撮像装置および電子機器

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6731305B1 (en) * 2000-07-17 2004-05-04 Imove, Inc. Camera system which records camera identification in image file
JP4141800B2 (ja) * 2002-11-01 2008-08-27 株式会社リコー デジタルカメラ
JP2006229583A (ja) * 2005-02-17 2006-08-31 Eastman Kodak Co 通信システム及びデジタルカメラ並びにドック装置
GB2434934A (en) 2006-02-06 2007-08-08 Qinetiq Ltd Processing coded aperture image data by applying weightings to aperture functions and data frames
JP2009200752A (ja) * 2008-02-20 2009-09-03 Panasonic Corp カメラモジュール
US8862987B2 (en) 2009-03-31 2014-10-14 Intel Corporation Capture and display of digital images based on related metadata
JP5277063B2 (ja) * 2009-04-20 2013-08-28 パナソニック株式会社 集光素子、集光素子群および固体撮像装置
US9237317B2 (en) * 2009-05-02 2016-01-12 Steven J. Hollinger Throwable camera and network for operating the same
JP5496794B2 (ja) * 2010-07-01 2014-05-21 パナソニック株式会社 固体撮像装置
JP5682473B2 (ja) * 2011-06-21 2015-03-11 コニカミノルタ株式会社 広角歪補正処理を有する画像処理方法、画像処理装置及び撮像装置
JP5600812B2 (ja) * 2011-12-28 2014-10-01 富士フイルム株式会社 撮像装置
CN104854496B (zh) * 2012-11-22 2017-04-12 富士胶片株式会社 摄像装置、散焦量运算方法及摄像光学系统
US9971078B2 (en) 2013-03-05 2018-05-15 Rambus Inc. Phase gratings with odd symmetry for high-resolution lensless optical sensing
US9432568B2 (en) 2014-06-30 2016-08-30 Semiconductor Components Industries, Llc Pixel arrangements for image sensors with phase detection pixels
EP3251338A1 (en) 2015-01-29 2017-12-06 William Marsh Rice University Lensless imaging system using an image sensor with one or more attenuating layers
JP6632239B2 (ja) * 2015-07-22 2020-01-22 キヤノン株式会社 無線通信可能な電子機器、その制御方法、プログラム
US20180035046A1 (en) * 2016-07-29 2018-02-01 Xin Yuan Block-based lensless compressive image acquisition
US10462377B2 (en) * 2016-07-29 2019-10-29 Nokia Of America Corporation Single-aperture multi-sensor lensless compressive image acquisition
US10616516B2 (en) * 2016-09-30 2020-04-07 Planet Labs Inc. Systems and methods for implementing time delay integration imaging techniques in conjunction with distinct imaging regions on a monolithic charge-coupled device image sensor
CN110140348B (zh) * 2016-12-27 2020-12-25 富士胶片株式会社 摄像装置及摄像模块
WO2019075335A1 (en) * 2017-10-13 2019-04-18 Trustees Of Boston University LENS-FREE COMPOSITE EYE CAMERAS BASED ON ANGLE-SENSITIVE METASURFACES
US10594914B2 (en) * 2018-04-10 2020-03-17 The Boeing Company Paint applied camera system
US10984287B2 (en) * 2018-05-14 2021-04-20 Panasonic Intellectual Property Management Co., Ltd. Learning device, learning method, and storage medium

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012186674A (ja) * 2011-03-07 2012-09-27 Hitachi Kokusai Electric Inc 監視カメラシステム
JP2013132139A (ja) * 2011-12-21 2013-07-04 Nikon Corp 電子機器、撮像装置、および電子機器の制御プログラム
WO2016009688A1 (ja) * 2014-07-16 2016-01-21 株式会社リコー システム、機械、制御方法、プログラム
JP2016092413A (ja) * 2014-10-29 2016-05-23 株式会社半導体エネルギー研究所 撮像装置および電子機器

Also Published As

Publication number Publication date
US20200358959A1 (en) 2020-11-12
EP3700192B1 (en) 2023-08-30
JP7259756B2 (ja) 2023-04-18
WO2019078336A1 (ja) 2019-04-25
EP3700192A4 (en) 2020-11-18
EP3700192A1 (en) 2020-08-26
CN111201779A (zh) 2020-05-26
CN111201779B (zh) 2022-11-01
US11431911B2 (en) 2022-08-30

Similar Documents

Publication Publication Date Title
JP7259756B2 (ja) 撮像装置および信号処理装置
JP7259757B2 (ja) 撮像装置、並びに、画像処理装置および方法
JP2016533695A (ja) センサの全解像度における複数のタイプのデータを測定するためにアレイセンサを使用する方法
JP7238887B2 (ja) 情報処理装置、プログラム、及び、情報処理システム
KR20200074101A (ko) 촬상 장치 및 방법, 및, 화상 처리 장치 및 방법
US11460666B2 (en) Imaging apparatus and method, and image processing apparatus and method
JP7552746B2 (ja) 撮像装置及び信号処理装置
US11375103B2 (en) Imaging device, image processing apparatus, and image processing method
JPWO2019078333A1 (ja) 撮像装置、露出制御方法、プログラム、及び、撮像素子
JP7147841B2 (ja) 撮像装置および方法、画像処理装置および方法、並びに、撮像素子
JPWO2019189099A1 (ja) 撮像素子、撮像装置、並びに、情報処理方法
KR102708579B1 (ko) 촬상 소자, 촬상 장치, 및 정보 처리 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210827

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220913

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230307

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230320

R151 Written notification of patent or utility model registration

Ref document number: 7259756

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151