JP2018511253A - 分散して空間的符号化画像を作成する画像を伴う撮像素子 - Google Patents

分散して空間的符号化画像を作成する画像を伴う撮像素子 Download PDF

Info

Publication number
JP2018511253A
JP2018511253A JP2017550115A JP2017550115A JP2018511253A JP 2018511253 A JP2018511253 A JP 2018511253A JP 2017550115 A JP2017550115 A JP 2017550115A JP 2017550115 A JP2017550115 A JP 2017550115A JP 2018511253 A JP2018511253 A JP 2018511253A
Authority
JP
Japan
Prior art keywords
image
sensor
image capture
sensor array
lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017550115A
Other languages
English (en)
Other versions
JP6725526B2 (ja
Inventor
ラジェシュ メノン,
ラジェシュ メノン,
ペン ファン,
ペン ファン,
Original Assignee
ザ ユニバーシティ オブ ユタ リサーチ ファウンデイション
ザ ユニバーシティ オブ ユタ リサーチ ファウンデイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ザ ユニバーシティ オブ ユタ リサーチ ファウンデイション, ザ ユニバーシティ オブ ユタ リサーチ ファウンデイション filed Critical ザ ユニバーシティ オブ ユタ リサーチ ファウンデイション
Publication of JP2018511253A publication Critical patent/JP2018511253A/ja
Application granted granted Critical
Publication of JP6725526B2 publication Critical patent/JP6725526B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0208Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using focussing or collimating elements, e.g. lenses or mirrors; performing aberration correction
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/12Generating the spectrum; Monochromators
    • G01J3/18Generating the spectrum; Monochromators using diffraction elements, e.g. grating
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/30Measuring the intensity of spectral lines directly on the spectrum itself
    • G01J3/36Investigating two or more bands of a spectrum by separate detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • G01J3/51Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters
    • G01J3/513Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters having fixed filter-detector pairs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • G01J2003/2826Multispectral imaging, e.g. filter imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J2003/283Investigating the spectrum computer-interfaced
    • G01J2003/284Spectral construction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values

Landscapes

  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Diffracting Gratings Or Hologram Optical Elements (AREA)
  • Lenses (AREA)

Abstract

画像捕捉素子(202)は、センサ配置(210)、中間像(235)から第1の距離にて配置されたレンズ(230)、及びレンズ(230)から第2の距離にて配置されたポリクロマト(220)を含むことができる。ポリクロマト(220)は、変換関数(207)に従って中間像(235)を回折し、センサ配列(210)上に分散したセンサ像(215)を発生させ得る。分散したセンサ像(215)は、中間像(235)の空間的符号化を表示することができる。【選択図】図2A

Description

関連出願
本出願は、その全体が参考として組み込まれる、2015年3月24日に出願された同時係属米国特許仮出願第62/137,702、表題:「撮像素子」に対する優先権を主張する。
本出願は、その全体が参考として組み込まれる、2015年11月4日に出願された同時係属米国特許仮出願第62/251,010、表題:「撮像素子」に対する優先権を主張する。
像を捕捉するために、カラーカメラなどの撮像素子を使用することができる。像は、従前どおりビデオ又は映画などの写真又は動画であることができる。撮像素子は、可視スペクトル内の光又は電磁スペクトルのその他の一部の光を使用して操作することができる。このような装置をイメージセンサに使用して光を捕捉し、かつ光学像を、次に記憶することができ、あるいは別の方法で送達して電子像を組み立てることが可能な、電子信号へと変換することができる。イメージセンサの例としては、電荷結合素子(CCD)イメージセンサ又は相補型金属酸化膜半導体(CMOS)イメージセンサを挙げることができる。
在来型の結像系は、対象体空間における一点を像空間の一点へと写像させる。画像化した点の空間的拡張、点像分布関数(PSF)は、本質的に系内に存在する遠視野回折及び収差によって決定される。歴史的には、多くのタイプの収差を最小化して回折限界PSFを得るよう、高度レンズの設計及び製造技術が開発された。過去10年間、PSFの物理的寸法を収縮させること、又はPSFの形状に関する事前知識による統計的推定を使用することのいずれかにより、超解像顕微鏡におけるサブ回折特性を解明するために、いくつかの方法が広く研究されてきた。
電子センサは、通常は光強度を検出できるのみである。色を識別するために、吸収性カラーフィルタ配列(一般にべイヤーフィルタと称する)がセンサの上部に置かれる。そのようなものであるから、3色(青、緑及び赤)のみが測定される。しかし、自然情景は、多数のマシンビジョン用途に有益であり得るマルチスペクトル情報を含んでいる。従来のマルチスペクトル撮像観測装置(multi-spectral imagers,MSI)は、費用がかかりかつ扱いにくい。一般のMSIはプッシュブルーム方式にて作動し、かつプリズム又は回折格子を利用して光を分散させる。このようなMSI用の光学的設計は、大変複雑であり得る。MSIの第2の種類は、液晶波長可変フィルタ又は音響光学的可変フィルタのどちらかを用いて、時間の経過とともに入力スペクトルを変調させる。後者が高価でありかつ高い消費電力を有する一方、前者のフィルタは処理能力の減少及び低速度に悩んでいる。
したがって、デジタル画像センサ及びシステムにおける素晴らしい進歩であるにもかかわらず、このような素子は不十分な低光量及び貧弱な多スペクトル性能に悩まされている。
本技術の実施形態は、センサ配列、中間像から第1の距離に配列されたレンズ、及びレンズから第2の距離に配置されたポリクロマトを含む画像捕捉素子を開示する。ポリクロマトは、変換関数に従って中間像を回折し、センサ配列上に分散されるセンサ像、中間像の空間的符号化を表す分散したセンサ像を発生させるよう構成され得る。
このように、以降の詳細な説明が一層理解され得るように、かつ、当技術分野へのこの貢献が一層評価され得るように、本発明のより重要な特徴を幾分大まかに略述した。本発明の他の特徴は、添付の図面及び特許請求の範囲と合わせた、以下の本発明の詳細な説明により明確となるか、又は本発明の実施により教示され得る。
本発明の特徴及び利点は、実施例、本発明の特徴により続けて示す添付図面とともに記載される、次の詳細な説明により明らかとなるであろう。
本発明の実施形態による、イメージング素子を示す。 本発明の実施形態による、イメージング素子を示す。 本発明の実施形態による、イメージング素子を示す。 本発明の実施形態による、イメージング素子を示す。 本発明の実施形態による、イメージング素子を示す。 本発明の実施形態による、イメージング素子を示す。 本発明の実施形態による、撮像素子の概略図である。 は、本発明の実施形態による、撮像素子の追加の概略図である。 本発明の実施形態による、撮像素子の測定を示す。 本発明の実施形態による、撮像素子への入射光の入射角を示す。 本発明の実施形態による、ポリクロマトの分布である。 本発明の実施形態による、種々の波長及び角度におけるポリクロマトの感度を表す複数の点像分布関数を示す。 本発明の実施形態による、種々の波長及び角度におけるポリクロマトの感度を表す複数の点像分布関数を示す。 本発明の実施形態による、種々の波長及び角度におけるポリクロマトの感度を表す複数の点像分布関数を示す。 本発明の実施形態による、対象体の分光角度分布を示す。 本発明の実施形態による、対象体の分光情報及び角度情報を含む合成像を示す。 本発明の実施形態による、対象体の元の分光角度分布を示す。 本発明の実施形態による、直接バイナリサーチ(DBS)アルゴリズムを使用して抽出した、対象体の分光角度分布を示す。 本発明の実施形態による対象体の、分光情報及び角度情報を含む合成像を示す。 本発明の実施形態による、再生輝度画像を示す。 本発明の実施形態による、対象体の元の分光角度分布と対象物の抽出した分光角度分布との間の誤差を表す、エラーマップを示す。 は、本発明の実施形態による、対象物の抽出した分光角度分布と対象体の元の分光角度分布との間の、反復時間に関する二乗平均平方根(RMS)誤差を示す。 本発明の実施形態による、対象体の元の分光角度分布を示す。 本発明の実施形態による、マルチレベルサーチ(MLS)アルゴリズムを使用して抽出した、対象体の分光角度分布を示す。 本発明の実施形態による、対象体の分光情報及び角度情報を含む合成像を示す。 本発明の実施形態による、再生輝度画像を示す。 本発明の実施形態による、対象体の元の分光角度分布と対象物の抽出した分光角度分布との間の誤差を表す、エラーマップを示し、また 本発明の実施形態による、対象物の抽出した分光角度分布と対象体の元の分光角度分布との間の、反復時間に関する二乗平均平方根(RMS)誤差を示す。 本発明の実施形態による、単色センサ配列の前面に広帯域の回折素子(ポリクロマト)を備える、回折カラーセンサの概略図である。 本発明の実施形態による、ポリクロマトとレンズとの間に配向されたピンホール測定アセンブリを含む、画像捕捉素子を図解したものである。 本発明の実施形態による、1つ以上の集束光学系を含む、代替のピンホール測定アセンブリを示す概略図である。 本発明の実施形態による、回折フィルタ配列(DFA)を含む撮像素子を示す。 本発明の実施形態による、点像分布関数(PSF)における空間的変動を示す。 本発明の実施形態による、点像分布関数(PSF)における空間的変動を示す。 本発明の実施形態による、点像分布関数(PSF)における空間的変動を示す。 本発明の実施形態による、点像分布関数(PSF)における空間的変動を示す。 本発明の実施形態による、マルチスペクトル画像又はハイパースペクトル画像の算定手法を示す。 本発明の実施形態による、マルチスペクトル画像又はハイパースペクトル画像の算定手法を示す。 本発明の実施形態による、マルチスペクトル画像又はハイパースペクトル画像の算定手法を示す。 本発明の実施形態による、測定値を確認して、画像を再生する過程中に点像分布関数(PSF)マトリックスの行列階数を上昇させる手法を示す。 本発明の実施形態による、測定値を確認して、画像を再生する過程中に点像分布関数(PSF)マトリックスの行列階数を上昇させる手法を示す。 本発明の実施形態による、測定値を確認して、画像を再生する過程中に点像分布関数(PSF)マトリックスの行列階数を上昇させる手法を示す。 本発明の実施形態による、測定値を確認して、画像を再生する過程中に点像分布関数(PSF)マトリックスの行列階数を上昇させる手法を示す。 本発明の実施形態による、測定値を確認して、画像を再生する過程中に点像分布関数(PSF)マトリックスの行列階数を上昇させる手法を示す。 本発明の実施形態による、測定値を確認して、画像を再生する過程中に点像分布関数(PSF)マトリックスの行列階数を上昇させる手法を示す。 一実施例での回折フィルタ及びセンサ配列の概略像である。 本発明の実施形態に従い形成された、回折フィルタの顕微鏡写真である。 図24Bの回折フィルタの一部の、原子間力顕微鏡写真である。 ここにおいて、参照は示される代表的実施形態に対して行われ、同様のものを記述するために、特定の言語が本明細書内で用いられるであろう。にもかかわらず、それによって本発明の範囲の限定が意図されないことが理解されるであろう。
本発明を説明し、特許請求する際に、以下の用語を使用する。
単数形「a」、「an」、及び「the」は、その内容について別段の明確な指示がない限り、複数の指示対象を含む。したがって、例えば「画素」への言及は、1つ以上のこのような特徴への言及を含み、また「指示」への言及は、1つ以上のこのような工程を指す。
特定の性質又は状況に関して本明細書で使用する場合、「実質的に」とは、ばらつきが、特定の性質又は状況から測定され得る程に外れるようなものではなく、十分わずかなものであることを意味する。許容され得るばらつきの正確な程度は、場合によっては具体的な文脈に依存し得る。
本明細書で使用する場合、複数の項目、構造要素、構成要素、及び/又は材料は、便宜上、共通の一覧で示され得る。しかしながら、これらの一覧は、あたかも一覧の各要素が、別個の独自の要素として個々に認識されるように解釈されるべきである。したがって、かかる一覧の個々の要素は、別途記載のない限り、共通の群のなかでのこれらの提示のみに基づき、同じ一覧の任意の他の要素の事実上の均等物として解釈されるべきでない。
本明細書で使用する場合、用語「のうちの少なくとも1つ」は、「1つ以上の」と同義語であることを意図される。例えば、「A、B、及びCのうちの少なくとも1つ」は明示的に、Aのみ、Bのみ、Cのみ、及びそれぞれの組み合わせを含む。
量及びその他の数値データは、本明細書において範囲の形式で提示され得る。かかる範囲の形式は単に、便宜上及び簡潔性のために用いられることを理解されたく、かつ、範囲の限定として明示的に列挙される数値を含むだけでなく、あたかも各数値及び部分範囲が明示的に列挙されているかのように、その範囲内に包含されている個々の数値又は部分範囲全ても含むと柔軟に解釈されるべきである。例えば、約1〜約4.5の数的範囲は、1〜約4.5の明示的に列挙された限界だけでなく、2、3、4等の個々の数字、及び1〜3、2〜4等の副範囲も含むと解釈されるべきである。同じ原理は、「約4.5未満」等の1つの数的値のみを列挙する範囲に適用され、これは、上で列挙される値及び範囲の全てを含むと解釈されるべきである。更に、記載されている範囲の幅又は特性に関係なく、かかる解釈を適用するべきである。
任意の方法又はプロセスの請求項で列挙した任意の工程は、任意の順序で実行してよく、特許請求の範囲に提示される順序に限定されるべきでない。ミーンズ・プラス・ファンクション又はステップ・プラス・ファンクションの限定は、特定の請求項の限定に対し、以下の条件の全て:a)「〜のための手段(means for)」又は「〜のための工程(step for)」が明示的に列挙され、かつb)対応する機能が明示的に列挙される場合にのみ、用いられるであろう。ミーンズ・プラス・ファンクションを支える構造、材料又は動作は、本明細書における説明で明示的に列挙される。したがって、本発明の範囲は、単に本明細書で与えられる説明及び実施例ではなく、添付の特許請求の範囲及びこれらの法的均等物によってのみ決定されるべきである。
低光量状態でカラーイメージングを有効に実施し得る、撮像素子のための技術について記載している。撮像素子は、レンズ、回折光学素子、及びセンサ配列を含むことができる。撮像素子は、カラーカメラを含むことができる。回折光学素子は、回折フィルタ、ポリクロマト、又はクロマティックフィルタと呼ばれることもあり、また広帯域の回折光学素子である。撮像素子は、複数の波長を用いたイメージング(即ち、ハイパースペクトルイメージング)又は複数のスペクトルバンドを用いたイメージング(即ち、マルチスペクトルイメージング)を行うことができる。本撮像素子は、低光量状態にて、撮像素子の効果的なイメージング実施を許容可能にするロス量の減少により、メージングを行うことができる。ほぼ吸収損なしで色情報を得ることができるため、低光量イメージングを達成することができる。撮像素子用の回折フィルタは、ロールツーロールインプリンティング、エンボッシング、UV硬化エンボッシング、熱エンボッシング、成形、インプリントリソグラフィ、ソフトリソグラフィ、ミクロ接触プリンティング、光投影リソグラフィ、フォトリソグラフィ、極端紫外線リソグラフィ、水浸フォトリソグラフィなどと同様の、大容量の方法を使用して製造することができる故に、撮像素子を光学素子の総数の減少に利用することができ、また費用を低減させて生産することができる。撮像素子は、信号対雑音比の増大と同様に色及び空間分解能の増大を可能にすることができる。空間分解能は、像において回線がどれくらい綿密に分解できるかの尺度であり得る。なお、撮像素子は、ベイヤーフィルタなどの従来の吸収カラーフィルタと比較して、色と空間分解能との間の、トレードオフの低下をもたらすことができる。
原理に一致して、画像捕捉素子は、センサ配列、レンズ、及びポリクロマト(即ち、回折フィルタ)を含むことができる。レンズは、中間像から第1の距離にて配置され得る。ポリクロマトはレンズから第2の距離にて配置され得、ここで前記ポリクロマトは変換関数に従って中間像を回折して、センサ配列上に分散したセンサ像を発生させるよう構成される。分散したセンサ像は、中間像の空間的符号化を表している。
空間的符号化は、波長又は色のうち少なくとも1つの空間的強度の表示であり得る。場合によっては、中間像はカラー画像である。一実施例では、中間像はO(x’,y’,λ)として表され、またセンサ像はI(x,y)として表され、ここで(x’,y’)は中間像の空間座標であり、λは波長であり、かつ(x,y)はセンサ配列の空間座標である。
伝達関数は、空間的符号化を発生させる及び/又は表すのに使用可能な、任意の好適な変換形であり得る。一実施例では、伝達関数は実際の空間変換である。あるいは、伝達関数はフーリエ変換であり得る。更に別の代替形では、伝達関数はスカラ−フレネル−キルヒホフの回折式であり得る。更に別の例では、伝達関数はマックスウェルの方程式に基づく厳密な波動伝播関数であり得る。例えば、センサ上のポリクロマトにわたる像の比率は、マックスウェルの方程式を使用して模範してよい。したがって、フレネル−キルヒホフの回折式に代えて、これらを使用することができる。これは、光のベクトル特性(例えば、偏光)を確認することが重要である場合に、有用であり得る。これはまた、回折フィルタにおける特徴が対象の波長より小さい場合に、有用である。
一具体例では、中間像からセンサ配列への伝達関数はP(x,y;x’y’λ)として表され、ここで(x’,y’)は中間像の空間座標であり、(x,y)はセンサ配列の空間座標であり、かつλは波長である。
場合によっては、伝達関数は中間像を再生させるために校正される。別の具体例では、中間像はO(x’,y’,λ)=[P(x,y;x’,y’,λ)−1I(x,y)]を使用して再生される。場合によっては、5次元(5D)の明視野スペクトル像を再生するために空間的符号化を使用することができる。このようなしたがって、明視野スペクトル像はO(x’,y’,θ,θ,λ)=[P(x,y;x’,y’,θx,θy,λ)]−1I(x,y)を使用して再生され得れ、ここでO(x’,y’θ,θ,λ)は未知の5次元明視野スペクトル像であり、I(x,y)はセンサ配列を表し、またP(x,y;x’,y’,θ,θ,λ)は校正された伝達関数である。
必須ではないが、空間的符号化は、センサ配列を形成する場合に実質的に全ての有効な光子の使用を可能にする。
別の実施例では、センサ像はI(x,y)=O(x’,y’,λ)として表すことができる。P(x,y;x’,y’,λ)=Σam,n,kP(x,y;x’,y’,λ)であり、ここでO(x’,y’,λ)は中間像を表し、P(x,y;x’,y’,λ)は中間像からセンサ配列への伝達関数を表し、m,n,kは座標(x’,y’,λ)における中間像の未知値である。
有利には、センサ像は、画像捕捉素子が低光量状態で作動する場合に、規定された画質水準と一致する。色精度、画像鮮明度、ホワイトバランス精度、ダイナミック・レンジ、空間分解能及びスペクトル分解能、スペクトル精度などの、種々の標準基準値の使用を含む様々な方法で画質を確定してよい。
一実施例では、第1の距離はレンズの前側焦点距離に等しい。別の実施例では、第2の距離はレンズの後側焦点距離に等しい。
以下でより詳細に説明のとおり、本素子は低光量の画像収集を可能にする。これは、少なくとも部分的にカラーフィルタの省略を許容する、素子の構成故である。したがって、通常は、像捕捉素子はセンサ像を発生させるための吸収カラーフィルタを含まない。更に、複数の波長を使用、及び/又は複数のスペクトルバンドを用いてイメージングが実施可能である。
回折フィルタ又はポリクロマトはパターニングすることができ、かつ透明又は半透明な基板であり得る。回折フィルタは、本明細書に記載されるように、変化することにより入射光への特定の回折効果を決定する物理的高さをそれぞれが有する画素の、配列を更に含むことができる。回折フィルタは、一般に3以上の回折画素高さを含むマルチレベル回折素子であり得る。しかし、場合によっては、回折フィルタは2つの回折画素の高さを有するバイナリ回折素子であることができる。このフィルタはセンサ配列上に直接組み込まれてよい。あるいは、フィルタを個別に製造してよく、またセンサ配列に極めて接近させて定置及び並置してよい。一般的な指針として、回折フィルタ、又はポリクロマトは、センサ配列から10nm〜2000μm、及びほとんどの場合、10nm〜50μmに配向され得る。種々の構造が使用可能であるにもかかわらず、一実施例では、回折フィルタは、0μm〜15μm、及びほとんどの場合、0μm〜9μmの範囲の画素高さを有することができる。同様に、回折フィルタは、約0.01μm〜約15μm、及び多くの場合約0.5μm〜約5μmの画素幅(例えば、正方画素と想定)を有することができる。なお、画素高さは、連続的に変更可能な画素高さも更に使用することができるにもかかわらず、3〜10の高さなどの、マルチ−レベルの高さを含むことができる。画素の配列は、相補的センサ配列(例えば、有効なセンサ配列に基づいて1〜32MP又はそれより高い)に対応した所望の数の画素を含むことができる。設計が変更し得るにもかかわらず、1〜64の回折画素が各センサ配列画素に対応し得、通常は任意の二乗数の回折画素が使用される(例えば、4、9、16、25、36、49、64、81、等)にもかかわらず、場合によってはセンサ配列画素当たり4〜16の回折画素である。場合によっては、回折画素配列は1D配列であり得る。例えば、カメラがコンベヤーベルト上の検査品目である場合、又はカメラが地域を超えてドローン飛行にある場合、1Dは有用であり得る。これらの実施例では、観察される対象体に対するカメラの相対運動は、1D配列の直交方向に像を生成する。この場合、回折フィルタを介した分散は1Dのみであり、かつ再生も大幅に容易になり得る。
場合によっては、回折フィルタ全体が独自の回折パターンを有し得る。しかし、ほとんどの場合、回折フィルタは、2つの次元で繰り返しの回折パターンを含むことができ、ここで回折パターンの副単位が回折フィルタを越えるx及びy次元で繰り返される。
所望の周波数の透過を許容する任意の好適な透過性材料にて、回折フィルタを形成することができる。好適な材料の非限定例としては、ガラス、プラスチック、フォトレジスト、ポリマー、ポリスチレン、ポリ−メチルメタクリレート、ポリカーボネート、PDMS、SU−8、3Dプリントが可能なポリマー、光活性ポリマー、石英、シリコン、窒化ケイ素、酸化アルミニウム、窒化アルミニウム、HOQ、電子ビームレジスト、PET、ナノ−インプリントレジスト、等を挙げることができる。
素子は、伝達関数を使用した、分散したセンサ像からの中間像の再生に適合したデータ処理装置を、追加的に含むことができる。データ処理装置は、本明細書での開示に一致した、検知した画像再生への命令により符号化されたメモリを更に含む、又は伴うことができる。
マルチスペクトル撮像素子は、人間及び従来のカメラが知覚できない情報を明らかにする。本技術の実施形態では、圧縮型単安定素子マルチスペクトルビデオイメージングカメラは、超小形構造回折フィルタを画像センサに近接させて定置することにより、作成される。回折フィルタは、分光情報をセンサ画素上で空間的符号化に変換する。校正段階に続いて、正規化系の線形代数を介して符号化を反転させ、マルチスペクトル画像を計算することができる。
選択したパラメータに基づいて解像度を変更することができるにもかかわらず、一実施形態では、可視帯内(430nm〜718nm)で9.6nmのスペクトル分解能を得ることができる。一実施形態では、回折フィルタなしで同一の光学素子及びセンサを用いた場合と比較して、本技術を使用することにより、空間分解能が30%超強化される。本技術の実施形態において吸収カラーフィルタを利用しない故に、同様に感度が保たれる。光学リソグラフィ及び複写技術を使用して、回折フィルタを容易に製造することができる。
これらの原理の導入の一例として、図1Aは、カラーカメラなどの撮像素子内の、代表的なカラーフィルタ配列(CFA)及びセンサ配列を示す。撮像素子は、画像センサチップ102を含むことができる。一連のセンサ画素104を、画像センサチップ102の上部に配置することができる。一連のセンサ画素104は、画像センサチップ102の上部に配置されたセンサ配列の一部であることができる。センサ配列は、相補性金属酸化膜半導体(CMOS)センサ又は電荷結合素子(CCD)センサなどのセンサを含むことができるが、これらに限定されない。
一実施例では、一連のカラーフィルタ(又はカラーフィルタモザイク)を、撮像素子内のセンサ配列の前面に配置することができる。一連のカラーフィルタを、センサ画素104にわたって配置し、色情報を捕捉することができる。一連のカラーフィルタは、カラーフィルタ配列(CFA)の一部であることができる。一実施形態では、CFAは4つの正方形−2つの緑色の正方形、1つの青色の正方形、及び1つの赤色の正方形で構成されることができる。別の実施形態では、カラーフィルタは、べイヤーフィルタ配列106の一部であることができる。典型的な感光素子が、わずかな波長特異性を伴う又は波長特異性を伴わない光強度を検出する故にカラーフィルタを使用することができ、またしたがって、色情報を分離することができない。分離した濾光強度が光の色に関する情報を含むことができるように、カラーフィルタは波長帯により光を濾光することができる。
画像の各空間画素は、2×2(又は4)のカラーサブピクセルから構成される。カラーサブピクセルは、吸収により色を検知することができる。例えば、赤色フィルタ領域が青色及び緑色の光子を吸収するが、赤色の光子が透過するのを許容する故に、赤色のカラーサブピクセルは空間画素内の赤色の量を決定することができる。同様に、緑色フィルタ領域が赤色及び青色の光子を吸収するが、緑色の光子が透過するのを許容する故に、緑色のカラーサブピクセルは空間画素内の緑色の量を決定することができる。同様に、青色フィルタ領域が緑色及び赤色の光子を吸収するが、青色の光子が透過するのを許容する故に、青色のカラーサブピクセルは空間画素内の青色の量を決定することができる。したがって、カラーフィルタ配列は、赤色、緑色及び青色(RGB)の波長領域における、光の強度に関する情報を提供することができる。画像センサにより捕捉される生画像データは、カラーフィルタの各種類について必要に応じて調整される、デモザイクアルゴリズムを使用することにより、完全なカラー画像(各画素にて表される全ての三原色の強度を伴う)へと変換することができる。
図1Bは、代表的な撮像素子を示す。撮像素子は、画像センサチップ102及び画像センサチップ102の上部に配置されたセンサ配列107を含むことができる。撮像素子は、センサ配列107の上部に配置された回折フィルタ108を含むことができる。回折フィルタ108は吸収カラーフィルタ用の代用品であり得る、又はこのようなカラーフィルタに加えて使用可能である。一実施例では、回折フィルタ108はマルチレベル回折構造体であり得る。なお、回折フィルタ108は、捕捉されかつ像が造られるよう、波長に対して透明又は半透明の材料で製造することができる。
図1Cは、別の代表的な撮像素子を示す。撮像素子は、画像センサチップ102及び画像センサチップ102の上部に配置されたセンサ配列109を含むことができる。撮像素子は、センサ配列109の上部に配置された回折フィルタ110を含むことができる。図示されている本実施例では、回折フィルタ110はバイナリ回折構造体であり得る。確認することができるように、場合によっては、回折フィルタは、フィルタを越えて連続的であるベース層、及び異なる高さを伴う不連続な画素特徴の配列を有する画素層、とを含むことができる。一実施例では、画素層は入射光に面することができる(即ち、センサ配列から離れている)。あるいは、画素層はセンサ配列に面することができる。一般に、センサに可能な限り近くパターン領域を配置することは、距離を低減させることができ、したがって光を伝搬する。センサ配列から離れて面する平坦な基板の表面は、損傷からトポグラフィカルパターンを保護することができる。別の任意の態様では、回折フィルタのトポグラフィカルパターンはまた、異なる屈折率を有する材料でパターンを十分に満たすことにより、保護され得る。例えば、ガラス又は窒化ケイ素を、保護層として使用することが可能である。
図1Dは、更に別の代表的な撮像素子を示す。撮像素子は、画像センサチップ102、画像センサチップ102の上部に配置されたセンサ配列111、センサ配列111の上部に配置された吸収カラーフィルタ配列112、及び画像センサチップ102にわたって配置された(即ち、センサ配列111及び吸収カラーフィルタ112にわたって配置された)回折フィルタ113を含むことができる。回折フィルタ113はマルチレベル回折構造体であり得る。撮像素子は、単一素子による可視イメージング及び赤外線(IR)イメージングの実施において有用であり得、ここで可視イメージングは吸収カラーフィルタ配列112(即ち、従来のカラーフィルタ)を使用して実施され、またIRイメージングは本明細書で記載される計算手法を介して得られる。この場合、希望するとおりIR光子が分散される一方、回折フィルタ113が可視画像を混乱させないことを確実にするように、回折フィルタ113が設計される。より具体的には、回折フィルタ113は、回折構造体(例えば、回折フィルタ副単位)の周期性を選択することにより、最小の対象IR波長よりも大きいが、最長の対象可視波長より小さくなるよう設計され得る。一実施例では、本技術は、可視及びIR以外のスペクトル帯域に適用することができる。
図1Eは、依然として別の代表的な撮像素子を示す。撮像素子は、画像センサチップ102、画像センサチップ102の上部に配置されたセンサ配列114、センサ配列114の上部に配置された吸収カラーフィルタ配列115、及び画像センサチップ102にわたって配置された(即ち、センサ配列114及び吸収カラーフィルタ115にわたって配置された)回折フィルタ116を含むことができる。この場合、回折フィルタ116はバイナリ−レベル回折構造体であり得る。
吸収により色を検知するカラーサブピクセルの伝統的な手法は非効率であり得、同一規格の白黒カメラと比較すると、低光量条件下ではカラーカメラに不十分な作動をもたらすことがある。白黒カメラにおける各センサ画素は異なる空間画素を表し(即ち、白黒カメラではCFAが存在しない)、特に低光量条件下では、カラーカメラに対して空間分解能が優れることができる。本明細書で記載される技術は、カラーカメラが低光量条件において同様に機能することを可能にし(即ち、信号対雑音比の増大)、また白黒カメラと比較して同様の空間分解能を実現することを可能にする。
低光量カラーカメラは、セキュリティイメージング、交通カメラ及び料金所カメラ、工業イメージング、農産物及び薬剤類の検査、屋外イメージング、消費者カメラ、等において重要な用途を有することができる。低光量性能の観点から白黒カメラと同様の機能を提供することが可能であるカラーセンサは、カラーカメラにおいて広く使用することができる。なお、このようなカメラは、フラッシュライトの使用を回避又は低減させることができ、これはカメラの消費電力を低減させることができる。
図1Fは、カラーカメラなどの撮像素子内の、カラーフィルタ配列(CFA)150及びセンサ配列160を示す。CFA 150(又はカラーフィルタモザイク)を、撮像素子内のセンサ配列160の前面に配置することができる。CFA 150は、大多数のカラーカメラにて利用される吸収カラーフィルタである。CFA 150は、画像センサの画素センサにわたって配置され、色情報を捕捉する、カラーフィルタのモザイクであり得る。典型的な感光素子が、わずかな波長特異性を伴う又は波長特異性を伴わない光強度を検出する故にカラーフィルタを使用することができ、またしたがって、色情報を分離することができない。分離した濾光強度が光の色に関する情報を含むことができるように、カラーフィルタは波長帯により光を濾光することができる。
一実施例では、CFA 150はべイヤーカラーフィルタであり得る。センサ配列160は、相補性金属酸化膜半導体(CMOS)センサ又は電荷結合素子(CCD)センサなどのセンサを含むことができる。CFA 150は4つの正方形−2つの緑色の正方形、1つの青色の正方形、及び1つの赤色の正方形で構成されることができる。
画像の各空間画素は、2×2(又は4)のカラーサブピクセルから構成される。カラーサブピクセルは、吸収により色を検知することができる。例えば、赤色フィルタ領域が青色及び緑色の光子を吸収するが、赤色の光子が透過するのを許容する故に、赤色のカラーサブピクセルは空間画素内の赤色の量を決定することができる。同様に、緑色フィルタ領域が赤色及び青色の光子を吸収するが、緑色の光子が透過するのを許容する故に、緑色のカラーサブピクセルは空間画素内の緑色の量を決定することができる。同様に、青色フィルタ領域が緑色及び赤色の光子を吸収するが、青色の光子が透過するのを許容する故に、青色のカラーサブピクセルは空間画素内の青色の量を決定することができる。したがって、CFA 150は、赤色、緑色及び青色(RGB)の波長領域における、光の強度に関する情報を提供することができる。画像センサにより捕捉される生画像データは、カラーフィルタの各種類について必要に応じて調整される、デモザイクアルゴリズムを使用することにより、完全なカラー画像(各画素にて表される全ての三原色の強度を伴う)へと変換することができる。
図2Aは、代表的な撮像素子202の概略図である。撮像素子202は、センサ配列210、ポリクロマト220、及びレンズ230を含むことができる。従来のカメラでは、カメラ内のレンズ230などのレンズにより画像を形成することができ、またセンサを画面内に配置することができる。図2Aにて示すように、像平面(中間像235とも称される)から前側焦点距離に等しい距離でレンズ230を配置することができる。中間像235はO(x’,y’)として表すことができ、ここで(x’,y’)は空間座標であり、またλは波長である。レンズ230から後側焦点距離203に等しい距離で、ポリクロマト220を配置することができる。換言すれば、ポリクロマト220とレンズ230との間の距離は、後側焦点距離203によって表すことが可能であり、またレンズ230と中間像235との間の距離は、前側焦点距離202によって表すことが可能である。ポリクロマト220とレンズ230との間の平面で、像のフーリエ変換を形成することができる。ポリクロマト220はフーリエ変換処理が可能であり、かつセンサ配列210上に分散した像(即ち、センサ像215)を形成する。センサ像215はI(x,y)として表すことができる。
中間像235(又は中間像平面)からセンサ配列210への伝達関数207は、P(x,y;x’y’,λ)として表すことができる。伝達関数207が校正される場合(以下の更なる詳細に記載のとおり)、次に種々のアルゴリズムをフルカラー像の再生に適用することができる。一形態では、ポリクロマト220は完全に透明であり得、また吸収フィルタを使用する代わりに空間的符号化型として色情報を得ることができる。その結果、撮像素子202のための理想的な低光量性能を実現することが可能な、実質的に全ての有効な光子が使用可能である。なお、上記のべイヤーカラーフィルタとは対照的に、各センサ画素のビットを利用して高分解能なグレースケールデータを得ることができる故に、空間分解能と色解像度との間でトレードオフがない。一実施例では、ポリクロマト220と中間像との間の距離は、ポリクロマト220とセンサ配列210との間の距離と同様に、撮像素子202に対して低光量状態で効果的に作用するのに重要ではない。これらの距離は、後側焦点距離203及び前側焦点距離205と異ってよい。校正が適切に実施される限り、カラー画像の再生は精密であり得る。したがって、センサ配列で受信した像は、典型的には通常の像として空間的に画素化されない。むしろ、センサ配列は、空間像へと再生され得る分散した像(即ち、センサ像215)を受信する。
センサ像215(即ち、センサ配列210上の像)は、中間像235における各点の応答の、線形結合によって所与され得る。離散的形式では、中間像235は
O(x’,y’,λ)=Σam,n,kδ(x’−x’,y’−y’,λ−λ)(方程式1)によって表すことが可能であり、
ここでam,n,kは、座標(x’,y’,λ)におけるカラー中間像235の未知値である。測定したセンサ像210は、
I(x,y)=O(x’,y’,λ).P(x,y;x’y’,λ)(方程式2)によって表すことが可能であり、
これは、
Σam,n,kP(x,y;x’,y’,λ)(方程式3)に等しく、
ここで(x,y)はセンサ配列210上の座標であり、(x’,y’)は中間像平面における座標であり、またP(x,y;x’,y’,λ)は中間像235(又は中間像平面)からセンサ配列210への伝達関数207である。換言すれば、伝達関数207は、ポリクロマト220及びレンズ230を含むシステムを表すことができる。中間像235は、
O(x’,y’,λ)=[P(x,y;x’,y’,λ)]−1I(x,y)(方程式4)を使用して再生させることができ、
これは、方程式2の形式である。
方程式2が一次方程式である故に、例えば、直接バイナリサーチ法又は正規系のマトリックス反転法などの様々な手法を使用して、方程式3に包含される逆問題を解くことができる。
図2Bは、別の代表的な撮像素子204の概略図である。図2A示す撮像素子202とは対照的に、撮像素子204はレンズを含まない。その結果、図2Bに示す撮像素子204は、より薄く、より簡素かつより安価である。撮像素子204は、センサ配列240及びポリクロマト250を含むことができる。ポリクロマト250は、像平面(中間像255とも称される)からの距離を確定し得る。中間像255はO(x’,y’λ)として表すことができ、ここで(x’,y’)は空間座標であり、またλは波長である。ポリクロマト240はカラー画像のフーリエ変換処理が可能であり、かつセンサ配列245上に分散した像(即ち、センサ像245)を形成する。センサ像245はI(x,y)として表すことができる。しかし、中間像255(又は中間像平面)からセンサ配列245への伝達関数は、撮像素子202と比較すると、撮像素子204の場合異なる。この場合、中間像255はポリクロマト250により回折される。伝達関数を校正することができ、また方程式3を介して中間像255を再生することができる。換言すれば、カラー画像の詳細を提供するために方程式3を解くことができる。
画像捕捉素子は、伝達関数の測定及び/又は空間的に符号化されたセンサ像からの像の再生を可能にする、ピンホール測定アセンブリを選択的に含むことができる。ピンホール測定アセンブリは、レンズとセンサ配列との間に配向された転写可能なピンホール素子を含むことができる。ピンホール測定アセンブリは、所望により、転写可能なピンホール素子とポリクロマトとの間に配向された、少なくとも1つの校正レンズを含むことができる。特に、画像捕捉素子のいくつかの場合では、第1の距離が第2の距離より長くなるように、センサ配列とポリクロマトとの間にレンズを有しない。
画像捕捉素子は、レンズとセンサ配列との間に配向された転写可能なピンホール素子の配列を包含することができる、ピンホール測定アセンブリを含むことができる。配列における転写可能なピンホール素子(複数)間の間隔は、2つの隣接した転写可能なピンホール素子間の回折信号がセンサ配列上で重なり合わないように、選択され得る。配列における転写可能なピンホール素子からの伝達関数を収集して、校正データを得ることができる。
一例として、図3は撮像素子302の校正を示す。撮像素子302は、センサ配列310、ポリクロマト320、及びレンズ330を含むことができる。センサ配列、ポリクロマト320及びレンズ330は、レンズ−ポリクロマト−センササブシステムと呼ばれることもある。代替的な構成では、撮像素子302は、センサ配列310及びポリクロマト320のみ(即ち、ポリクロマト−センサシステム)を含むことができる。前記代替的な構成では、レンズ330は含まれない。
撮像素子302(例えば、カラーカメラ)が低光量状態で効果的に作動するために、中間像(又は中間像平面)からセンサ配列310への伝達関数P(x,y;x’,y’,λ)は、校正される。
校正を実施するために、レンズ−ポリクロマト−センササブシステムを高精度X−Yステージ上に取り付けることができ、X軸及びY軸でステップすることができる。(x’,y’)の各位置で、波長、平行入射光線305のλを走査することができる。広帯域源350へと取り付けられている従来のモノクロメータ340を使用して(又は波長可変フィルタにより)、走査を実施することができる。いくつかの実施例では、広帯域源350は、ランプ、超連続レーザー、広帯域(超放射)発光ダイオード、又は任意の他の広帯域形態若しくは狭帯域照明(例えば、レーザー、LED、ランプ、OLED、量子ドット等)を含むことができる。図3にて示すように、モノクロメータ340を使用して、広帯域源350からの入射光線305を走査することができる。(x’,y)の各位置についての入射光線305を走査することができる。(x’,y,λ)の各値でのセンサ像を、収集して記憶させることができる。これらのセンサ像のデータセットは、測定された伝達関数、P(x,y;x’,y’,λ)を表すことができる。一実施例では、類似した走査技術を三次元(3D)イメージングに利用することができる。別の実施例では、類似した走査技術を明視野スペクトルイメージングに利用することができる。
一実施例では、ポリクロマト320は透明基板又は半透明基板であり得る。種々の基板材料が使用可能であるにもかかわらず、非限定的例としては、ガラス、透明プラスチック、PMMA、PET、TAC、ポリスチレン、UV硬化性ポリマー、熱硬化性ポリマー、窒化ケイ素、シリコン酸化物、二酸化ケイ素、酸化アルミニウム、透明伝導性酸化物、透明酸化物、インジウムスズ酸化物、フォトレジスト、透明ポリマーなどが挙げられる。ポリクロマト320をパターニングして、各点(x’,y’,λ)により形成される像が、センサ配列310上で一意性となるように光を回折することができる。ポリクロマト320は、確定パターン又はランダムパターンを有することができる。遠視野回折又は準近視野回折を使用してポリクロマト320を作用させることができる。別の実施例では、近視野回折にてポリクロマト320を作用させることができる。現在の技術では、カラー画像の空間分解能及びスペクトル分解能を最大化させるために、ポリクロマト320は明瞭に設計されている。カラー画像の空間分解能及びスペクトル分解能は、伝達関数P(x,y;x’,y’,λ)の行列が対角化され得ることを確実にすることにより、最大化することができる。換言すれば、センサ配列310上の各点(x’,y’,λ)が、接近して間隔を開けた点(x’+∂x’,y’+∂y’,λ+∂λ)とは異なることを確実とすることである。ポリクロマト320は、遺伝的アルゴリズム、焼きなまし法、直接バイナリサーチ等の適用を含む、非線形最適法を使用して設計することができる。
撮像素子302におけるポリクロマト320の設計に使用される代表的パラメータは、以下に示すように、表1にて図示されている。これらのパラメータは代表であり、またその他の代替値も同様に利用することができる。
Figure 2018511253
図4Aは、撮像素子への、入射光402の入射角を示す。例えば、入射光はポリクロマトの前面にあるレンズを突き通ることができる。入射角は、シータ(θ)により表すことが可能であり、方位角は、ファイ(φ)により表すことができる。入射角とは、表面上への光線入射と、入射点における表面への線状の垂線(法線とも称される)との間の角度を意味し得る。方位角とは、投影ベクトルと標準ベクトルとの間の角度を意味し得る。換言すれば、方位角は、光が光源から入射する、そこからの羅針方位である。
一実施例では、入射角は、中間像における位置(x’,y’)に関連し得る。センサ配列、ポリクロマト、及びレンズを含む撮像素子(図2にて示す)の構成に関して、次の方程式を使用することができる。(x’/f)=(1/tanθcosφ)及び(y’/f)=(1/tanθcosφ)であって、ここで中間像平面の位置が(x’,y’)により表され、θが入射角を表し、φが方位角を表し、またfはレンズの焦点距離である。
図4Bは、代表的なポリクロマト404のプロファイルである。前述したように、ポリクロマト404は、低光量状態で作動が可能な撮像素子内に含まれることができる。ポリクロマト404は、各画素が3μmの寸法を有することができる、100×100の正方画素を測定することができる。したがって、ポリクロマトの総寸法は300μm×300μmであり得る。なお、各画素は、(例えば)0〜1500μmの間の高さ値を伴うことができ、ここで値0は黒であり、また値1500は白である。0〜任意の値まで、通常は数重ミクロンまで、高さ値を変えることができる。しかし、センサの寸法及びセンサの任意の必要条件に適合するよう、ポリクロマト404を設計することができる。
図5〜7は、種々の波長及び角度におけるポリクロマトの感度を表す、複数の点像分布関数の実施例を示す。点像分布関数は、上記の撮像素子用の参照表を形成することができる。点像分布関数は、一点対象体の像である。換言すれば、点像分布関数は、結像系の点対象体(点光源)への応答について述べている。点対象体の像における伝搬の程度(即ち、ぶれ)は、結像系の品質に関して測定される。
図5〜7に示すように、波長及び種々の角度に関して、複数の空間的スペクトル点像分布関数が定義される。図5〜7は、それぞれ450ナノメートル(nm)、550nm、及び650nmの波長に関する、空間的スペクトル点像分布関数を示す。各点像分布関数に関する方位角(φ)は、0、90、180又は270度のうち1つであり得る。なお、各点像分布関数に関する入射角(θ)は、0、10又は20度のうち1つであり得る。角度スペクトル情報からの記述では、画像の色及び画像の明視野は、計算的に再生することができる。
一実施例では、画像の疑似再生が実施可能である。画像は対象体のものであり得る(例えば、任意の対象体又は人工の色対象体)。人工の色対象体は、以下の表2に示すように、ランダムな角度スペクトル係数を使用して合成することができる。
Figure 2018511253
図8Aは、対象体(又は人工の色対象体)の分光角度分布を示す。換言すれば、図8Aは、合成対象体の波長及び角スペクトルを示す。波長は、50nmの間隔にて400nm〜700nmの範囲であり得る。したがって、波長は400nm、450nm、500nm、550nm、600nm、650nm、及び700nmであり得る。角度は、表2に示す入射角(シータ)及び方位角(ファイ)の9つの組み合わせから誘導することができる。入射角は、0度、10度又は20度のうち1つであり得る。図8Aにて示すように、角度1は0度に等しいシータ及び0度に等しいファイを表すことができ、角度2は10度に等しいシータ及び0度に等しいファイを表すことができ、角度3は10度に等しいシータ及び90度に等しいファイなどを表すことができる。方位角は、0度、90度、180度又は270度のうち1つであり得る。図8Aにて示すように、角度と波長との各組(例えば、確度7と波長600nm)を表すために、0と1との間の値を使用することができる。
図8Bは、対象体の分光情報及び角度情報を含む合成像を示す。単色の撮像素子により、合成像を記録することができる。合成像は、300μm×300μmのイメージング領域を有することができる。合成像は、各画素が3μmの寸法を有することができる、100×100の正方画素を測定することができる。各画素の輝度レベルは、0〜1の間の値を有するよう正規化され得る。したがって、合成像は、疑似対象体(又は人工色の対象体)の分光情報及び角度情報の両方を、符号化することができる。したがって、このようなカメラは、情景の吸収されない色だけではなく明視野情報をも提供することができる。
一実施例では、直接バイナリサーチ(DBS)アルゴリズムを使用して、像の疑似再生が実施可能である。画像再生の実行に使用される可能なパラメータを、下表3に示す。
Figure 2018511253
図9Aは、対象体(人工色の対象体又は疑似対象体としても知られている)の、元の分光角度分布を示す。換言すれば、図9Aは、疑似対象体の波長及び角スペクトルを示す。波長は、50nmの間隔にて400nm〜700nmの範囲であり得る。角度は、入射角(即ち、0、10度、20度)及び方位角(0、90度、180度、270度)との、9つの組み合わせから誘導される。図9Aにて示すように、角度と波長との各組(例えば、確度2と波長450nm)を表すために、0と1との間の値を使用することができる。
図9Bは、対象体の抽出した分光角度分布を示す。対象体の分光角度分布は、図8Bの合成像(即ち、単色センサにより記録された合成像)に、数値的に基づくことができる。直接バイナリサーチ(DBS)アルゴリズムを使用して、対象体の抽出した分光角度分布を得ることができる。図9Bにて示すように、複数の角度及び波長用の、再生した分光角度分布が提供される。
図10Aは、対象体の分光情報及び角度情報を含む合成像を示す。合成像は、図8Bにて示すものと同じである。合成像(又は元のカメラ記憶画像)は、疑似の分光角度分布を形成することができる。単色の撮像素子により、合成像を記録することができる。合成像は、300μm×300μmのイメージング領域を有することができる。合成像は、各画素が3μmの寸法を有することができる、100×100の正方画素を測定することができる。各画素の輝度レベルは、0〜1の間の値を有するよう正規化され得る。したがって、合成像は、疑似対象体(又は人工色の対象体)の分光情報及び角度情報の両方を、符号化することができる。
図10Bは、抽出した分光角度分布(図9Bにて示すように)と、種々の角度での抽出した疑似の空間的スペクトル点像分布関数(図5〜7にて示すように)とを乗じることによって再生されている、輝度画像を示す。輝度画像は、300μm×300μmのイメージング領域を有することができる。輝度画像は、各画素が3μmの寸法を有することができる、100×100の正方画素を測定することができる。なお、各画素の輝度レベルは、0〜1の間の値を有するよう正規化され得る。
図11は、対象体の元の分光角度分布(図9Aにて示すように)と、対象体の抽出した分光角度分布(図9Bにて示すように)との間の、エラーマップを示す。エラーマップは、対象体の元の分光角度分布と、対象体の抽出した分光角度分布との間の、誤差(又は差)を示すことができる。エラーマップは、再生画像が元の対象体にどれくらい近く関連しているかを示すことができる。換言すれば、再生画像と対象体との間の差を、エラーマップをプロットすることにより数量化することができる。エラーマップは、角度と波長との各組(例えば、角度5と波長550nm)についてのエラー値を示す。誤差値は、−1〜1の間の値を有するよう正規化され得る。
図12は、対象物の抽出した分光角度分布と対象体の元の分光角度分布との間の、反復時間に関する二乗平均平方根(RMS)誤差を示す。対象体の抽出した分光角度分布を9Bにて示し、また対象体の元の分光角度分布を図9Aにて示す。抽出した分光角度分布と元の分光角度分布との間のRMS誤差を、直接バイナリサーチ(DBS)に基づいた抽出アルゴリズムにて、反復時間でプロットすることができる。DBSが反復アルゴリズムである故に、反復回数応じてRMS誤差をプロットすることができる。図12にて示すように、約70反復にて解を収束させることができる。RMS誤差は、約70反復後も安定して、おおよそ0.02のままであり得る。
先に説明したように、直接バイナリサーチ(DBS)アルゴリズムによる、画像再生に関する第1の手法が実施可能である。なお、マルチレベルサーチ(MLS)法による、画像再生に関する第2の手法が実施可能である。MLSでは、DBSと比較してより包括的なサーチを実施するために、単一反復における複数の高さレベルを越えたサーチ法を利用する。
MLSでの単一反復の間、波長−角度マップにおける各画素を、順不同に選択することができる。各画素の値は、1000レベル(即ち、0.001の単位摂動)に分けることができる。摂動を利用するDBSとは対照的に、画素の全ての可能値の数値が求められる。例えば、画素に関して、値0、0.001、0.002、...0.999、1.000の数値が求められる。これらの値の全てにおける実際の画像と再生画像との間のRMS誤差のベクトルが、生じる。最小のRMS誤差が選択され、かつ対応する値が最適値としてこの画素に割り当てられる。波長−角度マップにおける全ての画素がトラバース法で測定されるまで、本工程が繰り返される。したがって、単一反復後、全ての画素について、終了条件が満たされるまで(例えば、2つの反復間での最小のRMS改善又は画素の最小数が変化するまで)同一工程が繰り返される。
マルチレベルサーチの実行に使用される可能なパラメータを、下表4に示す。
Figure 2018511253
図13Aは、対象体(人工色の対象体又は疑似対象体としても知られている)の、元の分光角度分布を示す。換言すれば、図13Aは、疑似対象体の波長及び角スペクトルを示す。波長は、50nmの間隔にて400nm〜700nmの範囲であり得る。角度は、入射角(即ち、0、10度、20度)及び方位角(0、90度、180度、270度)との、9つの組み合わせから誘導される。図13Aにて示すように、角度と波長との各組(例えば、確度2と波長450nm)を表すために、0と1との間の値を使用することができる。
図13Bは、対象体の抽出した分光角度分布を示す。対象体の分光角度分布は、図8Bの合成像(即ち、単色カメラにより記録された合成像)に、数値的に基づくことができる。マルチレベルサーチ(MLS)アルゴリズムを使用して、対象体の抽出した分光角度分布を得ることができる。図13Bにて示すように、複数の角度及び波長用の、再生した分光角度分布が提供される。
図14Aは、対象体の分光情報及び角度情報を含む合成像を示す。合成像(又は元のカメラ記憶画像)は、疑似の分光角度分布を形成することができる。単色センサにより、合成像を記録することができる。合成像は、300μm×300μmのイメージング領域を有することができる。合成像は、各画素が3μmの寸法を有することができる、100×100の正方画素を測定することができる。各画素の輝度レベルは、0〜1の間の値を有するよう正規化され得る。したがって、合成像は、疑似対象体(又は人工色の対象体)の分光情報及び角度情報の両方を、符号化することができる。
図14Bは、抽出した分光角度分布(図13Bにて示すように)と、種々の角度での抽出した疑似の空間的スペクトル点像分布関数(図5〜7にて示すように)とを乗じることによって再生されている、輝度画像を示す。輝度画像は、300μm×300μmのイメージング領域を有することができる。輝度画像は、各画素が3μmの寸法を有することができる、100×100の正方画素を測定することができる。なお、各画素の輝度レベルは、0〜1の間の値を有するよう正規化され得る。
図15は、対象体の元の分光角度分布(図13Aにて示すように)と、対象体の抽出した分光角度分布(図13Bにて示すように)との間の、エラーマップを示す。エラーマップは、対象体の元の分光角度分布と、対象体の抽出した分光角度分布との間の、誤差(又は差)を示すことができる。エラーマップは、再生画像が元の対象体にどれくらい近く関連しているかを示すことができる。換言すれば、再生画像と対象体との間の差を、エラーマップをプロットすることにより数量化することができる。エラーマップは、角度と波長との各組(例えば、角度1と波長400nm)についてのエラー値を示す。誤差値は、−1〜1の間の値を有するよう正規化され得る。
図16は、対象物の抽出した分光角度分布と対象体の元の分光角度分布との間の、反復時間に関する二乗平均平方根(RMS)誤差を示す。対象体の抽出した分光角度分布を13Bにて示し、また対象体の元の分光角度分布を図13Aにて示す。抽出した分光角度分布と元の分光角度分布との間のRMS誤差を、マルチレベルサーチ(MLS)に基づいた抽出アルゴリズムにて、反復時間でプロットすることができる。より大域的なサーチ方法論(DBSと比較して)故に、減少した反復回数で解を収束することができる。図16にて示すように、DBSアルゴリズムを使用する場合の約70反復とは対照的に、RMS誤差は約16反復後も安定して、おおよそ0.02のままであり得る。
本発明の1つの実施形態によれば、画像捕捉素子が開示される。画像捕捉素子は、センサ配列を含むことができる。画像捕捉素子は、中間像から第1の距離にて配置されるレンズを含むことができる。画像捕捉素子は、レンズから第2の距離にて配置されるポリクロマトを含むことができ、本ポリクロマトは、空間的グレースケール符号化を使用してレンズ上に形成される中間像から色情報を得るよう構成され、また分散したセンサ像をセンサ配列上に形成するために、中間像のフーリエ変換処理する。
一形態では、センサ像はカラー画像である。別の形態では、センサ像は単色像である。別の形態では、中間像はO(x’,y’,λ)として表され、またセンサ像は(x,y)として表され、ここで(x’,y’)は中間像の空間座標であり、λは波長であり、かつ(x,y)はセンサ配列の空間座標である。更に別の形態では、中間像からセンサ配列への伝達関数はP(x,y;x’y’,λ)として表され、ここで(x’,y’)は中間像の空間座標であり、(x,y)はセンサ配列の空間座標であり、かつλは波長である。
一実施例では、伝達関数は中間像を再生させるために校正される。別の例の実施例では、O(x’,y’,θ,θ,λ)=[P(x,y;x’,y’,θx,θy,λ)]−1I(x,y)を使用して中間像が再生され、ここでI(x,y)はセンサ像を表す。更に別の実施例では、空間的符号化は、センサ配列を形成する場合に実質的に全ての有効な光子の使用を可能にする。なお、センサ像は、I(x,y)=O(x’,y’,λ)として表される。P(x,y;x’y’,λ)=Σam,n,kP(x,y;x’,y’,λ)であり、ここでO(x’,y’,λ)は中間像を表し、P(x,y;x,’y’,λ)は中間像からセンサ配列への伝達関数を表し、またaは座標(x’,y’,λ)における中間像の未知の値である。
一形態では、センサ像は、画像捕捉素子が低光量状態で作動する場合に、規定された画質水準と一致する。別の形態では、第1の距離はレンズの前側焦点距離に等しい。更に別の形態では、第2の距離はレンズの後側焦点距離に等しい。
一実施例では、像捕捉素子はセンサ像を発生させるための吸収カラーフィルタを含まない。別の実施例では、複数の波長を使用、又は複数のスペクトルバンドを用いてイメージングが実施される。更に別の実施例では、ポリクロマトは模様付き及び透明又は半透明の基板である。
変換関数は多くの場合、3D(即ち、明視野カメラ)において特に有用であり得るフーリエ変換であり得る。しかし、フーリエ変換は計算的に集約的であり得る。したがって、場合によっては、実際の空間において変換を利用するのが望ましくあり得る。対象体の適用では、色情報を計算的に得られる。これは、参照表としてのデータの特性決定及び大量のデータの記憶などに関連する。これは、フーリエ空間における画像処理が生じる場合である。別の実施形態は同様の結果を実現するが、色情報処理が実際の空間にて生じる。これは、点像分布関数(又はシステムの伝達関数)に関する校正データを非常にわずかにし、かつ処理を数値的により容易にする。圧縮センシング及び関連する分野で使用する種々のアルゴリズムを適用して、次に色情報及び画像輝度情報を得ることができる。
本実施形態では、センサ系は従来の単色センサ(カラーフィルタ配列を有しない)及びポリクロマトから構成される。センサ配列とポリクロマトとの間の空隙部はdであり、また数十ナノメートルから数mmのどこであってもよい。しかし、一度この空隙部が選択されると(空間分解能及びスペクトル分解能の選択のため、また混信を回避するため、等)、本空隙部は固定される。任意の結像系(カメラ、望遠鏡、顕微鏡等)におけるような結像光学素子は、図17に記載のごとく、最終像がポリクロマト平面上に形成されるように、本センサ−ポリクロマトアセンブリの前面に置くことができる。ポリクロマト1704は、本画像からの光を、センサ配列1702上にて回折する。十分注意して校正することにより、後述のように、異なる各画像点から光がどのように回折するかを計算することができ、次に画像の色詳細及び空間的詳細を計算することができる。画像を、センサ配列1704の平面1706上に形成してよい。一実施形態では、ポリクロマト1704とセンサ配列1702との間の距離1706は、0.05mm〜5mmの範囲である。本画像を、センサ配列1704の平面1706上に形成してよい。光学素子1708は、レンズなどの従来の結像光学素子を表す。
本アセンブリの校正に対する1つの容易なアプローチは、図18にて示すように、ポリクロマトに極めて接近させてピンホールを定置することである。広帯域白色光源などの光源により、本ピンホールに光を当てた。源の帯域幅は、色結像系の目的の作動帯域幅に及ぶべきである。示すような校正の間、レンズ1802を使用してより多くの光を採取してよいが、これは必須ではない。レンズ1802に入射する入射光線1804は、レンズ1802が存在しない場合、ピンホール1806に直接入射してよい。ピンホール1806(及び、使用する場合、レンズ1802)は、XY(焦点はずれが校正される必要がある場合、XYZ)ステージ上に取り付けられている。ステージはXY平面及び各位置にステップされ、センサ配列1810上の回折画像が捕捉される。当業者が認めるように、回折画像は、ピンホールの中央へと位置合わせされるセンサ画素に高度に集中する。したがって、センサ配列1810上で捕捉した画像はまばらとなる。本データは、次にポリクロマト−センサアセンブリの伝達関数を表す。前述のとおり、これは様々な手法を使用して数値的に伝達関数を反転させ、任意の画像の詳細(色及び輝度)を得ることができる。
図18にて示すように、場合により、ピンホール1806をポリクロマト1808に極めて接近させて移動させることが困難な場合がある。この場合、図19に図示されているように、画像中継システム1902が使用可能であり、ここで4f系は、ポリクロマト平面1906上にピンホール1912の画像を中継する。一実施形態では、4f系においてレンズ1908及び1910は焦点距離を有し、かつ長さ2fにより互いに分離されている。レンズ1910は、fの長さでピンホール1912から分離されてよく、またレンズ1908は、fの長さによりポリクロマト平面1906から分離されている。したがって、示すように、4f系は4fの長さを有する。4f系におけるレンズ1908及び1910は、図において同等のものとして示されているが、これは必須ではない。それらの焦点距離が異なる場合、拡大又は縮小という結果をもたらし、これはある種の用途のためには有利であり得る。しかし、画像詳細を計算する場合に伝達関数の反転を行う一方、本拡大及び縮小要因を考慮に入れなければならない。
一形態では、単一のピンホールの代わりにピンホール配列を使用することにより、時間を減らしてアセンブリを校正することができる。ピンホール配列は、一次元ピンホール配列又は二次元ピンホール配列であり得る。一実施例では、配列におけるピンホール(複数)との間の空隙部は、2つの接近した間隙を介したピンホール(例えば、隣接したピンホール)からの回折信号が、センサ配列1904上で重なり合わないように、選択することができる。次に、ピンホール(複数)との間の空隙部により決定される領域にわたって、ピンホール配列を走査することができる。本データを捕捉した後、配列におけるピンホールからの伝達関数を収集して、アセンブリ用の校正データを得ることができる。校正データは、画像捕捉素子の視界全体からのものであり得る。したがって、ピンホール配列を使用することは、アセンブリ用の校正処理速度を速めることができる。
図20は、超格子回折フィルタ配列と呼ばれることもある回折フィルタ配列(DFA)2004を含む、代表的な撮像素子2002を示す。より具体的には、図20は、回折伝搬の拡張を計算するための幾何学的配列について記載する。一実施形態では、正方形2006は、DFA2004の1つの超格子を表す。回折フィルタ配列(DFA)2004は、周期的な様式で設計することができる。超格子周期は、回折伝搬の最大拡張により決定することができる。回折角度であるθは、回折格子の方程式−sin(θ)+sin(α)=λ/Pにより決定され、ここでλは目的の最も長い波長であり、αは最大の軸外光線角であり、またPはDFA画素の2倍のサイズである。
非限定的実施例として、λ=750nm、α=30、及びP=2μm、次にθ=約7である。別の非限定的実施例として、ギャップ(g)=10μm、次に回折伝搬、δ=tan(θ)g=1.26μmであり、これは約1センサ画素である。
一実施例では、本DFA 2004の点像分布関数は、空間可変型である。換言すれば、回折パターンは波長に依存しているだけではなく、センサ配列2008上のセンサ画素の位置にも依存している。後者は、異なるセンサ位置から異なる軸外光線角度を見ることができるという要因のためである。換言すれば、α(即ち、最大の軸外光線角度)は、考察中のセンサ画素の位置ごとに変えることができる。2010は、超格子の境界線を表す。
図21Aは、点像分布関数(PSF)における空間的集散を伴う、結像系2102の一例を示す。結像系2102は、レンズ2104及び回折フィルタ配列(DFA)2106を具備する。図21Aは、レンズ2104を貫通した後、各点A’及びB’のように、どのように点A及び点BがDFA1206に入射するかを示す。
図21Bは、DFA 2108及びセンサ2110を具備する結像系2102を示し、ここで角度αは、所与のセンサ画素用のA’の位置を示している。図21Cは、考察中のセンサ画素B’の位置によるA’と比較して、どのように角度αが変化するかを示しており、また軸外光線は回折パターンを外れることができる。PSFを校正し、対象体情報(x’,y’,λ)と同様に、センサ画素の位置の関数(x,y)として記憶させることができる。
図21Dに図示されているように、光学系2114における対称2116及びセンサ2110は、PSFデータ量の減少をもたらすことができる。対称原理を、データ量の減少に適用することができる。ほとんどの光学系は回転的に対称性であり、センサ画素そのものは矩形対称を有する。したがって、記憶されるPSFの量を(四分の一まで)減らすことができる。なお、DFA 2108が超格子に基づいて周期的な場合、対象体の中央点に関してPSFを校正することができる。次に、任意のその他の点について、点の位置及び光学系2114の設計に従って回折パターンをはずす(回転させる)ことができ、データ全体の記憶に代わって実時間にて計算することができ、それにより記憶が必要なデータ量の著しい減少をもたらす。したがって、PSFは、センサ画素の位置及び対象体情報の関数として計算可能である。
図22A〜Cは、実時間イメージングのための超並列方式における、マルチスペクトル画像又はハイパースペクトル画像の代表的な算定手法を示す。本手法では、一度に回折パターンの非ゼロ要素のみを考えることができる。(従来の結像系におけるような、特定の対象体画素に対応する)各センサ画素について、図22Aにて図示されているように、波長Lに対応するL PSF 2202行列が存在する。サイズm X nにより規定される、PSFマトリックスの非ゼロ要素(回折素子により決定される)のみが使用される。図では、m=n=3であるが、これらはただ単に非限定例である。場合によっては、m及びnは等しくない値であり得る。図22Bにて示すように、センサ画素2204及び伝搬の範囲はセンサ画素配列2206上にグレーで示され、また対象体のセンサ画素は黒で示される。
第一段階2208では、m X nセンサ画素内の色は一定であり得る。中央画素(黒で示される)に関する方程式の線状システムは、I=OPと定義され、ここでIは測定された画像サイズ(m X n)であり、Оは、画素がサイズ(1 X L)であることに対応する対象体の点であり、かつPはPSFのサイズ(L X m X n)のマトリックスである。図22Bにて示すように、隣接する画素に依存せずに線状システムを解することができる。mn>=Lにて線状システムを解することができる。等式を適用する場合、行列は正方形でありかつ十分な階数である。法則では、センサ全体に対する全ての独立した方程式の線状システムは、このようにして解することができる。前述のとおり、図21A〜Dで図示されているように、PSFマトリックスは考察中の各センサ画素(黒にて示す)を変化させる。得られた代表画像は、図22Bの2210上でプロットされる。図22Cにて示すように、本プロセスは、次に各センサ画素について適切な超格子境界の移動(PSFに関する周期的境界条件と想定する)により、またPSFの適切な調整(入力円すい角における変化と想定する)により、m X n集合内で繰り返される。各場合では、図22Bに示すものに類似した画像が得られる。これらの全てのm X n X Lの画像を組み合わせることにより、完全なマルチスペクトル画像又はハイパースペクトル画像を得ることができる。
一実施例では、隣接した画素の近接効果を説明することができる。直接バイナリサーチなどの1つのアプローチが、非線形最適化に関する初期条件として組み合わされた画像に使用される。この最終段階は、オフライン(即ち、非実時間にて)で実施可能である。
図23A〜Fは、測定値を確認して、画像を再生する過程中に点像分布関数(PSF)マトリックスの行列階数を上昇させる代表的手法を示す。一実施例では、活性撮像素子を使用することにより、画像再生プロセスを改良することができる。例えば、画像再生プロセスを簡略化するために、PSFマトリックスの階数を増やすことができる。これは、より多くの測定値を得ることにより、実現することができる。図23に図示されているように、様々な手法を適用してこれを実現することができる。図23にて示すように、各手法を伴い、多数の未知数に相当する多数の測定値(方程式)を得ることができる。
図23Aにて示すように、加工DFAに代えて液晶(LC)セル2303が使用され、またセンサ2302とともに使用される。LCセル2303は、画素化された方法で移動する電気制御の位相を導入する。したがって、Lの異なる位相パターンを作成することができ、またセンサ配列上のLの異なる画像を捕捉することができる。次に、総測定値数はM、X、N、X、Lとなり、ここでM、X、Nは総センササイズである。目下、方程式の数(M、X、N、X)は未知数(M、X、N、X、L)の数と等しくなり、また本線状システムを解することができる。
図23Bは、LCセル2303の両側に直交線状偏光子2305を定置させることによる振幅変調を使用して、多重測定を達成することができる実施例を示す。この手法は、従来のLCディスプレイに類似し得る。しかし、この場合、偏光子2305の低透過率故に、若干の光が失われる。
図23Cは、X及びY2306におけるDFA2304の変換により得ることができる、多重測定の実施例を示す。変換は、サイズにおいてはサブピクセル又はスーパーピクセルであり得る。変換は、高速振動の形態であることができる。
図23Cは、Z方向2308(光軸に沿う)におけるDFA2304の変換により得ることができる、多重測定の実施例を示す。焦点はずれは回折パターンを変化させ、したがって各フレームに関するL固有の測定を行うことを許容する。図23Eは、DFA2304が長手方向軸線2310の周りを回転して、多重測定を得る実施例を示す。図23Fは、DFA2304が横手方向軸線2312の周りを回転して、多重測定を得る実施例を示す。これらの全ての場合について、測定のために使用される各L構成に関するPSFデータを記憶することができる。なお、対称性及び計算を、データ量の減少に使用することができる。
一般に図2Aに示すような、画像捕捉素子を構成した。図24Aは、回折フィルタ2402及びセンサ配列2404の一部の、概略図を示す。回折フィルタは、幅3μm及び周期18μm(即ち、画素あたりの副単位)の特徴を有する。単色CMOSセンサ配列2404は、6μmの画素サイズを有した。図24Bは、作製された回折フィルタの顕微鏡写真である。傾斜照明を適用して、コントラストを強めた(挿入写真は、より大きい倍率の像である)。図24Cは、ブラックボックスにより区切られた、図24Bの回折素子の一部の、原子間力顕微鏡写真である。構造体は最大画素高さ1.2μmを有し、またマルチレベルの画素高さの素子である。3μmの画素サイズを標識し、また1つの周期(即ち副単位)は白いダッシュドボックスにより取り囲まれている。グレースケールリソグラフィを介して溶融石英基板上にコーティングした透明の誘電材料(シップリー1813フォトレジスト)により、回折素子を形成した。市販用のレンズ(MVL12WA、Thorlabs)を、回折フィルタの前面に定置させた。
波長可変帯域フィルタを伴うグリッドに沿って階段状になったピンホール系を使用してシステムを校正し、照明波長を選択した。校正は一度のみ実施される必要があり、同一のシステムを使用して任意の画像再生にて使用可能である。
このシステムにより、計算型の再焦点合わせ及び3Dマルチスペクトルイメージングへの拡張を得ることができる。焦点が合っている対象体の平面からずれた種々の平面にて、焦点深度の測定と同様に、マルチスペクトルPSFsを測定した。次に、焦点が合っている対象体の平面から20mmまでシフトした平面にて、マルチスペクトル対象体の像を造った。予想どおり、焦点が合っているPSFデータを使用して計算されたマルチスペクトル画像は、重大な色誤差及びカラーノイズにより変形する。しかし、単に焦点はずれ平面からのPSFデータを使用することにより(+20mm)、計算的に正確なマルチスペクトル画像を得ることができる。したがって、本システムは、マルチスペクトルPSFデータを使用した3D空間の校正による3Dマルチスペクトル画像の生成にて、使用可能である。
したがって、単に回折フィルタを従来のセンサ配列の頂上に定置させて、一次再生アルゴリズムを適用することによりペクトル分解能と空間分解能の両方を維持する、計算によるマルチスペクトルビデオイメージングが提供される。システムは、スペクトル及び空間的集散PSFを示し、各マルチスペクトル対象体の点(x,y,λ)をセンサ画素(x’,y’)のセットへとマップする。この一対多数のマッピングは、一次伝達関数であるが故に正規化を介して反転させることができる。反転プロセスはマルチスペクトル画像の計算を可能にする。従来のカメラにより達成され得るものよりも高い、実証されたスペクトル分解能9.6nm及び空間分解能4.2周期/mmもまた、示されている。
回折フィルタはあらゆる光をも吸収しないので、センサは全ての入射光子を利用する。これは、従来のカラーカメラと対照的であり、べイヤーフィルタに吸収される故に、平均で、2/3rdsの光が使用されない。べイヤーフィルタを移動させることにより、CMOSセンサは電子工学で一般的なシリコン製造プロセスと完全に適合し得る。なお、計算上の3Dマルチスペクトルイメージングは、マルチスペクトル明視野の計算上の捕捉への拡張により、実現することができる。本手法は、センサ配列が十分な感度を実証する限り、あらゆる電磁領域の部分に等しく適用可能である。
前述の実施例が、1つ以上の特定用途において本発明の原理の例証となる一方、形態における多数の変更、実施における使用法及び詳細が、本発明に関わる権限の権利の行使なしに、また本発明の原則及び概念から逸脱することなく成され得るであろうことが、当業者には明白である。したがって、本発明は、以下に記述されている請求項によるものを除き、限定されないことが意図されている。

Claims (27)

  1. 画像捕捉素子であって、
    センサ配列、
    中間像から第1の距離にて配置されたレンズ、及び
    レンズから第2の距離にて配置されるポリクロマトであって、前記ポリクロマトが変換関数に従って中間像を回折して前記センサ配列上に分散したセンサ像を発生させるよう構成され、前記分散したセンサ像が前記中間像の空間的符号化を表すポリクロマト、とを含む画像捕捉素子。
  2. 前記空間的符号化が、波長及び色のうち少なくとも1つの空間的強度の表示である、請求項1に記載の画像捕捉素子。
  3. 前記中間像がカラー画像である、請求項1に記載の画像捕捉素子。
  4. 前記中間像がO(x’,y’,λ)として表され、また前記センサ像がI(x,y)として表され、(x’,y’)が前記中間像の空間座標であり、λが波長であり、かつ(x,y)が前記センサ配列の空間座標である、請求項1に記載の画像捕捉素子。
  5. 前記伝達関数が実際の空間変換である、請求項1に記載の画像捕捉素子。
  6. 前記伝達関数がフーリエ変換である、請求項1に記載の画像捕捉素子。
  7. 前記伝達関数がスカラ−フレネル−キルヒホフの回折式である、請求項1に記載の画像捕捉素子。
  8. 前記伝達関数が、マクスウェルの方程式に基づいた厳密な光伝搬関数である、請求項1に記載の画像捕捉素子。
  9. 前記中間像から前記センサ配列への前記伝達関数がP(x,y;x’y’λ)として表され、(x’,y’)が前記中間像の空間座標であり、(x,y)が前記センサ配列の空間座標であり、かつλが波長である、請求項1に記載の画像捕捉素子。
  10. 前記中間像を再生させるために、前記伝達関数が測定される、請求項9に記載の画像捕捉素子。
  11. 前記センサ像がI(x,y)=O(x’,y’,λ)、P(x,y;x’y’,λ)=Σam,n,kP(x,y;x’,y’,λ)として表され、О(x’,y’,λ)が前記中間像を表し、P(x,y,;x’,y’,λ)が前記中間像から前記センサ配列への伝達関数を表し、aが座標(x’,y’,λ)における前記中間像の未知値である、請求項1に記載の画像捕捉素子。
  12. 前記第1の距離がレンズの前側焦点距離に等しい、請求項1に記載の画像捕捉素子。
  13. 前記第2の距離がレンズの後側焦点距離に等しい、請求項1に記載の画像捕捉素子。
  14. 前記画像捕捉素子が、センサ像を発生させるための吸収カラーフィルタを含まない、請求項1に記載の画像捕捉素子。
  15. 複数の波長又は複数のスペクトルバンドを使用してイメージングを実施する、請求項1に記載の画像捕捉素子。
  16. 前記ポリクロマトが、模様付き及び透明又は半透明の基板である、請求項1に記載の画像捕捉素子。
  17. 前記レンズと前記センサ配列との間に配向された転写可能なピンホール素子を含む、ピンホール測定アセンブリを更に具備する、請求項1に記載の画像捕捉素子。
  18. 前記ピンホール測定アセンブリが、前記転写可能なピンホール素子と前記ポリクロマトとの間に配向された少なくとも1つの校正レンズを更に含む、請求項17に記載の画像捕捉素子。
  19. 前記第1の距離が前記第2の距離より長くなるように、前記センサ配列と前記ポリクロマトとの間にレンズを有しない、請求項18に記載の画像捕捉素子。
  20. 前記ポリクロマトが、マルチレベル回折素子又はバイナリ回折素子である、請求項1に記載の画像捕捉素子。
  21. 前記レンズと前記センサ配列との間に配向された、転写可能なピンホール素子の配列を含む、ピンホール測定アセンブリを更に具備する、請求項1に記載の画像捕捉素子。
  22. 前記配列における転写可能なピンホール素子(複数)間の間隔が、2つの隣接した転写可能なピンホール素子間の回折信号が、前記センサ配列上で重なり合わないように選択される、請求項21に記載の画像捕捉素子。
  23. 回折伝搬値の計算にて使用する回折フィルタ配列(DFA)を更に含み、前記DFAの点像分布関数(PSF)が空間可変型であり、前記DFAが超格子に基づいて周期的である、請求項1に記載の画像捕捉素子。
  24. 前記PSFが、センサ画素の位置及び対象体情報の関数として計算される、請求項23に記載の画像捕捉素子。
  25. マルチスペクトル画像又はハイパースペクトル画像が、回折パターンの非ゼロ要素に基づいて計算される、請求項23に記載の画像捕捉素子。
  26. 追加の測定を行ってPSFマトリックスの行列階数を上昇させることにより、画像再生が実施される、請求項23に記載の画像捕捉素子。
  27. 画像捕捉素子用のコンポーネントであって、
    レンズからの距離で配置されたポリクロマトであって、前記ポリクロマトが変換関数に従って中間像を回折してセンサ配列上に分散したセンサ像を発生させるよう構成され、前記分散したセンサ像が中間像の空間的符号化を表すポリクロマト、を含む、画像捕捉素子用のコンポーネント。
JP2017550115A 2015-03-24 2016-03-24 分散して空間的符号化画像を作成する画像を伴う撮像素子 Active JP6725526B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201562137702P 2015-03-24 2015-03-24
US62/137,702 2015-03-24
US201562251010P 2015-11-04 2015-11-04
US62/251,010 2015-11-04
PCT/US2016/024029 WO2016154445A1 (en) 2015-03-24 2016-03-24 Imaging device with image dispersing to create a spatially coded image

Publications (2)

Publication Number Publication Date
JP2018511253A true JP2018511253A (ja) 2018-04-19
JP6725526B2 JP6725526B2 (ja) 2020-07-22

Family

ID=56978956

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017550115A Active JP6725526B2 (ja) 2015-03-24 2016-03-24 分散して空間的符号化画像を作成する画像を伴う撮像素子

Country Status (7)

Country Link
US (1) US11300449B2 (ja)
EP (1) EP3274673B1 (ja)
JP (1) JP6725526B2 (ja)
KR (1) KR102624537B1 (ja)
CN (1) CN107615022A (ja)
AU (1) AU2016235072A1 (ja)
WO (1) WO2016154445A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020241427A1 (ja) * 2019-05-31 2020-12-03 ソニー株式会社 撮像装置、電子機器、情報処理方法及びプログラム
WO2021192891A1 (ja) * 2020-03-26 2021-09-30 パナソニックIpマネジメント株式会社 信号処理方法、信号処理装置、および撮像システム
WO2022162801A1 (ja) * 2021-01-27 2022-08-04 日本電信電話株式会社 撮像装置及び光学素子
WO2022162800A1 (ja) * 2021-01-27 2022-08-04 日本電信電話株式会社 撮像装置及び光学素子

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107121709B (zh) * 2017-06-01 2023-07-25 华南师范大学 一种基于压缩感知的对象成像系统及其成像方法
WO2019003752A2 (en) * 2017-06-29 2019-01-03 Sony Corporation SYSTEM, METHOD, AND COMPUTER PROGRAM PRODUCT FOR MEDICAL IMAGING
US11678035B2 (en) * 2017-10-05 2023-06-13 University Of Utah Research Foundation Translucent imaging systems and related methods
FI3832359T3 (fi) * 2019-01-29 2023-04-25 Korea Advanced Inst Sci & Tech Menetelmä ja laite linssittömän hyperspektraalisen kuvan kuvantamiseksi
KR20200094058A (ko) * 2019-01-29 2020-08-06 한국과학기술원 렌즈리스 초분광 영상 이미징 방법 및 그 장치
CN110262045B (zh) * 2019-06-18 2020-10-02 天津大学 一种无衍射二维光学晶格周期快速连续调节方法
US11237053B2 (en) * 2020-02-03 2022-02-01 Viavi Solutions Inc. Optical sensor device
CN112985601B (zh) * 2021-02-04 2022-02-11 浙江大学 一种基于衍射的长焦光谱编码成像系统和方法
CN113155284B (zh) * 2021-04-20 2022-07-26 浙江大学 一种折衍射混合的光谱编码成像系统和方法
CN113984206A (zh) * 2021-10-21 2022-01-28 北京航天创智科技有限公司 一种基于多台阶衍射滤光器的快照式光谱成像系统
CN114526816B (zh) * 2021-12-29 2024-03-15 光沦科技(深圳)有限公司 一种微型多光谱-3d多模式相机系统及成像方法
US20240177278A1 (en) * 2022-06-08 2024-05-30 Samsung Electronics Co., Ltd. Restoring Images Using Deconvolution

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS55146405A (en) * 1979-04-09 1980-11-14 Rca Corp Diffraction color filter
JPH07234309A (ja) * 1993-12-23 1995-09-05 Xerox Corp バイナリ回折光学素子ビーム分割器
WO2005069216A1 (ja) * 2004-01-15 2005-07-28 Matsushita Electric Industrial Co., Ltd. 光学的伝達関数の測定方法、画像復元方法、およびデジタル撮像装置
JP2006078546A (ja) * 2004-09-07 2006-03-23 Univ Of Yamanashi 高密度光くし型フィルタ及びその作製方法
JP2008545974A (ja) * 2005-06-06 2008-12-18 デューク ユニヴァーシティー オーバーラップした画像を用いる光学分光法
US20090180115A1 (en) * 2008-01-11 2009-07-16 Wilson Daniel W Single-lens computed tomography imaging spectrometer and method of capturing spatial and spectral information
JP2013104789A (ja) * 2011-11-14 2013-05-30 Ricoh Co Ltd 撮像装置及び撮像方法
JP2016156801A (ja) * 2014-11-19 2016-09-01 パナソニックIpマネジメント株式会社 撮像装置および分光システム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5046827C1 (en) 1989-07-20 2001-08-07 Honeywell Inc Optical reconstruction filter for color mosaic displays
JP2861525B2 (ja) 1991-09-10 1999-02-24 松下電器産業株式会社 波長選択性位相格子光学的ローパスフィルタ
US6101034A (en) 1996-02-09 2000-08-08 Cox; James Allen Tunable multispectral optical filter and imaging apparatus
US6781701B1 (en) * 2001-04-10 2004-08-24 Intel Corporation Method and apparatus for measuring optical phase and amplitude
US6654521B2 (en) * 2002-01-23 2003-11-25 Teraxion Inc. Diffraction compensation of FBG phase masks for multi-channel sampling applications
US7031054B2 (en) 2002-10-09 2006-04-18 The Regent Of The University Of Colorado Methods and systems for reducing depth of field of hybrid imaging systems
US8351031B2 (en) * 2009-06-05 2013-01-08 Spectral Sciences, Inc. Single-shot spectral imager
EP2488840A4 (en) * 2009-10-14 2015-05-13 Univ Sydney INTEGRATED PHOTONIC SPECTROGRAPH
FR2959903B1 (fr) 2010-05-04 2012-07-27 Astrium Sas Procede d'imagerie polychrome
CN105717652A (zh) * 2010-09-27 2016-06-29 麻省理工学院 超高效率色彩组合装置和方法
EP2631619A1 (en) * 2012-02-27 2013-08-28 Nederlandse Organisatie voor toegepast -natuurwetenschappelijk onderzoek TNO Spectral imager
US9723230B2 (en) * 2012-11-30 2017-08-01 University Of Utah Research Foundation Multi-spectral imaging with diffractive optics
US10395134B2 (en) * 2013-07-26 2019-08-27 University Of Utah Research Foundation Extraction of spectral information

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS55146405A (en) * 1979-04-09 1980-11-14 Rca Corp Diffraction color filter
JPH07234309A (ja) * 1993-12-23 1995-09-05 Xerox Corp バイナリ回折光学素子ビーム分割器
WO2005069216A1 (ja) * 2004-01-15 2005-07-28 Matsushita Electric Industrial Co., Ltd. 光学的伝達関数の測定方法、画像復元方法、およびデジタル撮像装置
JP2006078546A (ja) * 2004-09-07 2006-03-23 Univ Of Yamanashi 高密度光くし型フィルタ及びその作製方法
JP2008545974A (ja) * 2005-06-06 2008-12-18 デューク ユニヴァーシティー オーバーラップした画像を用いる光学分光法
US20090180115A1 (en) * 2008-01-11 2009-07-16 Wilson Daniel W Single-lens computed tomography imaging spectrometer and method of capturing spatial and spectral information
JP2013104789A (ja) * 2011-11-14 2013-05-30 Ricoh Co Ltd 撮像装置及び撮像方法
JP2016156801A (ja) * 2014-11-19 2016-09-01 パナソニックIpマネジメント株式会社 撮像装置および分光システム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020241427A1 (ja) * 2019-05-31 2020-12-03 ソニー株式会社 撮像装置、電子機器、情報処理方法及びプログラム
US11863883B2 (en) 2019-05-31 2024-01-02 Sony Group Corporation Imaging device, electronic device, and information processing method
WO2021192891A1 (ja) * 2020-03-26 2021-09-30 パナソニックIpマネジメント株式会社 信号処理方法、信号処理装置、および撮像システム
WO2022162801A1 (ja) * 2021-01-27 2022-08-04 日本電信電話株式会社 撮像装置及び光学素子
WO2022162800A1 (ja) * 2021-01-27 2022-08-04 日本電信電話株式会社 撮像装置及び光学素子

Also Published As

Publication number Publication date
US11300449B2 (en) 2022-04-12
KR102624537B1 (ko) 2024-01-12
EP3274673B1 (en) 2024-07-03
JP6725526B2 (ja) 2020-07-22
AU2016235072A1 (en) 2017-10-19
US20180052050A1 (en) 2018-02-22
EP3274673A1 (en) 2018-01-31
WO2016154445A1 (en) 2016-09-29
CN107615022A (zh) 2018-01-19
KR20170131526A (ko) 2017-11-29
EP3274673A4 (en) 2019-05-01

Similar Documents

Publication Publication Date Title
JP6725526B2 (ja) 分散して空間的符号化画像を作成する画像を伴う撮像素子
KR102543392B1 (ko) 깊이 획득을 위한 명시야 이미지 처리 방법
JP7328232B2 (ja) フルカラー撮像のためのメタ表面およびシステムならびに撮像の方法
JP6064290B2 (ja) 撮像装置、分光システム、および分光方法
Wang et al. Computational multispectral video imaging
CN111426381B (zh) 一种基于超构透镜阵列的超紧凑型光谱光场相机系统
CN108780142A (zh) 3d成像系统和方法
CN108152997A (zh) 宽频超颖光学装置
US7894058B2 (en) Single-lens computed tomography imaging spectrometer and method of capturing spatial and spectral information
US9426383B1 (en) Digital camera for capturing spectral and spatial information
US11640040B2 (en) Simultaneous focal length control and achromatic computational imaging with quartic metasurfaces
US20220086372A1 (en) Multi-Modal Computational Imaging via Metasurfaces
US9343491B2 (en) Spectral imaging sensors and methods
EP3700197B1 (en) Imaging device and method, and image processing device and method
Lapray et al. Energy balance in Spectral Filter Array camera design
US20220206205A1 (en) Systems and methods for parallel polarization analysis
Kittle et al. Design and fabrication of an ultraviolet-visible coded aperture snapshot spectral imager
Horstmeyer et al. Modified light field architecture for reconfigurable multimode imaging
Brady et al. Compressive optical MONTAGE photography
Rueda et al. Compressive spectral imaging based on colored coded apertures
WO2022162800A1 (ja) 撮像装置及び光学素子
WO2021252209A1 (en) Systems and methods for diffraction line imaging
Fu et al. Compound eye inspired flat lensless imaging with spatially-coded Voronoi-Fresnel phase
Rueda et al. Colored coded aperture compressive spectral imaging: design and experimentation
Wang et al. Dispersion control of broadband super-Rayleigh speckles for snapshot spectral ghost imaging

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191210

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200409

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200625

R150 Certificate of patent or registration of utility model

Ref document number: 6725526

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250