JP6677696B2 - 位相シフトのホログラムを用いたレンズフリーイメージセンサ - Google Patents

位相シフトのホログラムを用いたレンズフリーイメージセンサ Download PDF

Info

Publication number
JP6677696B2
JP6677696B2 JP2017214953A JP2017214953A JP6677696B2 JP 6677696 B2 JP6677696 B2 JP 6677696B2 JP 2017214953 A JP2017214953 A JP 2017214953A JP 2017214953 A JP2017214953 A JP 2017214953A JP 6677696 B2 JP6677696 B2 JP 6677696B2
Authority
JP
Japan
Prior art keywords
phase
green
phase shift
hologram image
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017214953A
Other languages
English (en)
Other versions
JP2019033467A (ja
Inventor
國峰 林
國峰 林
錦全 謝
錦全 謝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
VisEra Technologies Co Ltd
Original Assignee
VisEra Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by VisEra Technologies Co Ltd filed Critical VisEra Technologies Co Ltd
Publication of JP2019033467A publication Critical patent/JP2019033467A/ja
Application granted granted Critical
Publication of JP6677696B2 publication Critical patent/JP6677696B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/0005Adaptation of holography to specific applications
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/26Processes or apparatus specially adapted to produce multiple sub- holograms or to obtain images from them, e.g. multicolour technique
    • G03H1/2645Multiplexing processes, e.g. aperture, shift, or wavefront multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/01Circuitry for demodulating colour component signals modulated spatially by colour striped filters by phase separation
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • G03H2001/045Fourier or lensless Fourier arrangement
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • G03H2001/0454Arrangement for recovering hologram complex amplitude
    • G03H2001/0458Temporal or spatial phase shifting, e.g. parallel phase shifting method
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H2226/00Electro-optic or electronic components relating to digital holography
    • G03H2226/11Electro-optic recording means, e.g. CCD, pyroelectric sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof

Description

本発明は、イメージセンサに関し、特に、位相シフトのホログラムを用いたレンズフリーイメージセンサに関するものである。
技術の進展に伴い、カメラを備えた電子機器が非常に人気となっている。しかしながら、従来のカメラのモジュラー型レンズ、a.k.a.密着イメージセンサ(CIS)デバイスは、一般的に、入射光を取り込み、取り込んだ光をデジタル画像に変換する。しかしながら、従来の画像化技術の制限により、画像は、レンズで形成され、且つモジュラー型レンズは、カメラ内の利用可能な空間の大部分を占める。携帯型電子機器のサイズは、ますます小型化されてきているため、大きなサイズのモジュラー型レンズは、これらの電子機器に適さない。
従って、カメラの大きさを減少するレンズフリーイメージセンサの需要がある。
位相シフトのホログラムを用いたレンズフリーイメージセンサを提供する。
イメージセンサが提供される。イメージセンサは、入射光を受光する複数の光電素子を含む。光電素子は、複数のユニットセル内に配置され、各ユニットセルは、第1の光電素子および第2の光電素子を含む。各ユニットセルの第1の光電素子は、第1の位相の第1の画素を撮像し、各ユニットセルの第2の光電素子は、第2の位相の第2の画素を撮像し、第1の位相は、第2の位相と異なる。
位相シフトデジタルホログラフィ装置の概略図である。 本発明の実施形態に係る、イメージセンサの側面図である。 図2Aの実施形態に係る、イメージセンサの上面図である。 図2Aの実施形態に係るイメージセンサの斜視図である。 本発明のもう1つの実施形態に係る、イメージセンサの斜視図である。 本発明の実施形態に係る、イメージセンサに用いる4ステップ位相シフトデジタルホログラフィ法のフローチャートである。 本発明のもう1つの実施形態に係る、イメージセンサの上面図である。 図4Aの実施形態に係る、イメージセンサの斜視図である。 本発明の実施形態に係る、カラーイメージセンサの側面図である。 図5Aの実施形態に係る、カラーイメージセンサの上面図である。 図5Aの実施形態に係るカラーイメージセンサの斜視図である。 図5Aの実施形態に係る詳細な側面図の部分である。 図5Aの実施形態に係る詳細な側面図のもう1つの部分である。 本発明の実施形態に係る、カラーイメージセンサに用いる4ステップ位相シフトデジタルホログラフィ法のフローチャートである。 本発明の実施形態に係る、カラーイメージセンサの側面図である。 図7Aの実施形態に係る、イメージセンサの上面図である。 図7Aの実施形態に係るイメージセンサの斜視図である。 本発明のもう1つの実施形態に係る、イメージセンサの斜視図である。 本発明のもう1つの実施形態に係る、カラーイメージセンサの側面図である。 図8Aの実施形態に係る、カラーイメージセンサの上面図である。
以下の説明は、本発明を実施するベストモードが開示されている。この説明は、本発明の一般原理を例示する目的のためのもので本発明を限定するものではない。
図1は、位相シフトデジタルホログラフィ装置の概略図である。図1に示されるように、位相シフトデジタルホログラフィ装置100は、レーザー光源110、ビームエミッタ111、ビームスプリッタ101と103、ピエゾ(piezoelectric transducer;PZT)鏡102、ミラー104、およびセンサアレイ120を含む。レーザー光源110から出射したレーザー光は、ビームエミッタ111で更に増強され、ビームエミッタ111から出射した光は、ビームスプリッタ101によって物体光と参照光に分けられる。参照光は、光を位相変調するPZT鏡102によって反射される。一定の位相を参照光にシフトすることにより、異なるホログラムが物体波の複素振幅を求めるために得られる。
例えば、参照波の初期位相は、ゼロであり、各ステップでπ/2ずつ変化する。4ステップ位相シフトデジタルホログラフィのアルゴリズムが用いられる場合、0、π/2、π、および3π/2などの異なる位相の干渉パターンの強度は、式(1)〜(4)でそれぞれ表されることができる:
Figure 0006677696
位相0、π/2、π、および3π/2の干渉パターンの強度を得た後、物体光の複素振幅は、以下の式で与えられる。
Figure 0006677696
物体光の複素振幅は、デジタル逆伝播を行うことによってΨ0から物体面の物体光の振幅分布を求める(retrieve)ことができるため、複素ホログラムと呼ぶこともある。
よって、参照光の複素振幅は、物体波を計算するために分かっていなければならない。通常、参照光は、平面波または球面波であるため、その位相は、測定なしでも知られている。当業者にとっては、異なる位相で物体波を用いて物体像(object image)を再構成する技術が理解されるだろう。従って、詳細はここでは省略する。
留意すべきことは、図1の実施形態に示された位相シフトデジタルホログラフィ装置100は、位相を各ステップで変えなければならず、位相を変える、干渉パターンの強度の計算をする、且つ物体像の再構成をするのに時間がかかる。従って、現在市場で販売されている携帯型電子機器に装置100を用いるのは、実用的でない。
しかしながら、位相シフトデジタルホログラフィのアルゴリズムの位相遅延の概念は、本発明のイメージセンサに用いられることができる。図2Aは、本発明の実施形態に係るイメージセンサの側面図である。説明の目的のために、イメージセンサ200は、例えば、モノカラーのイメージセンサである。図2に示されるように、イメージセンサ200は、センサアレイ220を含む。センサアレイ220は、入射光を受光する複数の光電素子221を含む。光電素子221は、半導体製造プロセスによって基板230(図2Cおよび図2Dに示されるように)の上に実装されることができる。留意すべきことは、イメージセンサ200にレンズは用いられず、且つ説明の目的のために、図2Aのセンサアレイ220は、センサアレイの光電素子の相対的な高さ(即ち、厚さ)を示さないことである。
図2Bは、図2Aの実施形態に係る、イメージセンサの上面図である。図2Cは、図2Aの実施形態に係るイメージセンサの斜視図である。
図2Bに示されるように、センサアレイ220は、複数のユニットセル250を含み、各ユニットセルは、2×2のアレイに配置された4つの光電素子を有する。例えば、光電素子251、252、253、および254は、異なる高さであり、各光電素子251、252、253、および254の高さは、対応するホログラムの特定の位相を表している。光電素子251〜254の高さは、以下の式を用いて計算することができる。
Figure 0006677696
λは、特定の波長を示し、nは、光電素子の材料の屈折率を示し、且つδは、与えられた位相値、例えば、0、π/2、π、および3π/2を示している。留意すべきことは、センサアレイ220の全ての光電素子は、同じ材料で実装されることができるため、同じ屈折率を有することができる。特に、4ステップ位相シフトデジタルホログラフィ法は、イメージセンサ200の構造に用いられる。例えば、光電素子251〜254の高さは、位相δ、δ、δ、およびδにそれぞれ対応するd、d、d、およびdである。δ、δ、δ、およびδの値は、それぞれ0、π/2、π、および3π/2である。高さd〜dが式(6)と整合するため、d、d、d、およびdの値は、0、λ/4n、λ/2n、および3λ/4nとしてそれぞれ計算されることができる。光電素子251〜254の高さの違いは、図2Cに示されている。留意すべきことは、ユニットセル250は、センサアレイに繰り返し配置され、各ユニットセル250の各光電素子は、4つの異なる位相の個別の位相の画素を撮像することができる。例えば、各ユニットセル250の光電素子251、252、253、および254は、第1の位相の第1の画素、第2の位相の第2の画素、第3の位相の第3の画素、および第4の位相の第4の画素をそれぞれ撮像することができる。第1の画素、第2の画素、第3の画素、および第4の画素は、各ユニットセル250の光電素子251〜254によって撮像されるため、第1の画素、第2の画素、第3の画素、および第4の画素の位置は、実質的に同じである。例えば、δのホログラム画像は、各ユニットセル250の光電素子251の撮像された画素から得られることができる。同様に、δ、δ、およびδのホログラム画像は、各ユニットセル250の光電素子251、252、253の撮像された画素からそれぞれ得られることができる。
4つの位相のホログラム画像を得た後、フーリエ領域(domain)の物体波は、式(5)を用いて得ることができる。次いで、逆フーリエ変換が物体波に行われ、空間領域の物体像を再構成する。また、フーリエ領域の物体波を空間領域の物体像に変換する変換関数H(x、y)は、予め推定されることができ、よって、物体波と変換関数との畳み込みが物体像を得るために行われることができる。
図2Dは、本発明のもう1つの実施形態に係る、イメージセンサの斜視図である。他の実施形態では、ユニットセル250の光電素子251〜254の位置は、図2Bのそれらと同じであるが、図2Dに示されるように、ユニットセル250の光電素子251〜254の高さは、同じである。例えば、光電素子251〜254は、異なる屈折率を有する異なる材料からできている。具体的に言うと、各光電素子の材料の屈折率は、以下の式に従わなければならない。
Figure 0006677696
式(7)に示すように、高さdは、一定であり、屈折率nは、可変である。4ステップ位相シフトホログラフィがここで用いられることもできる例えば、4ステップ位相シフトホログラフィ法の位相は、π/4、3π/4、5π/8、および7π/8である。高さdが0.5λと等しいとした場合、光電素子251〜254の材料の屈折率は、0.5〜1.2の範囲である。
図3は、本発明の実施形態に係る、イメージセンサに用いる4ステップ位相シフトデジタルホログラフィ法のフローチャートである。ステップS310では、異なる位相の4つの位相シフトのホログラム画像が得られる。例えば、図2Cまたは図2Dに示される画像センサ200を用いることができる。説明の目的のために、図2Cのイメージセンサが次の実施形態に用いられる。具体的に言うと、4つの位相シフトのホログラム画像が位相0、π/2、π、および3π/2に対応する。
ステップS320では、フーリエ変換の物体波は、異なる位相の4つの位相シフトのホログラム画像に基づいて計算される。例えば、0、π/2、π、および3π/2などの異なる位相のホログラムの強度は、式(1)〜(4)を用いて計算されることができ、物体波は式(5)を用いて計算されることができる。しかしながら、物体波の計算を簡易化するために、物体波φは、以下の式を用いておおよそ計算されることができる。
Figure 0006677696
ステップS330では、物体像は、物体波に基づいて再構成される。例えば、物体波φは、フーリエ領域にあり、物体像は、空間領域にあり、よって、逆フーリエ変換が物体波φに施され、物体像を再構成する。また、フーリエ領域の物体波を空間領域の物体像に変換する変換関数H(x、y)は、予め推定されることができ、よって、物体波と変換関数との畳み込みが物体像を得るために行われることができる。
図4Aは、本発明のもう1つの実施形態に係る、イメージセンサの上面図である。図4Bは、図4Aの実施形態に係る、イメージセンサの斜視図である。図2Bの実施形態に示されるように、各ユニットセルは、2×2のアレイに配置された4つの光電素子を含む。図4Aに示されるように、もう1つの実施形態では、センサアレイ220は、複数のマクロユニットセルを含み、各マクロユニットセルは、2×2のユニットセルアレイで配置された4つのユニットセルを含む。具体的に言うと、各マクロユニットセルは、4×4のアレイで配置された16の光電素子を含む。
例えば、マクロユニットセル450は、ユニットセル410、420、430、および440を含み、各ユニットセルは、4つの光電素子を含み、各ユニットセルの各光電素子は、4つの異なる位相の個別の位相の画素を撮像する。ユニットセル410、420、430、および440の光電素子の高さは、例えば、位相0、π/2、π、および3π/2が用いられている、上述のような4ステップ位相シフトホログラフィ法に従う。また、マクロユニットセル450のユニットセル410、420、430、および440の2つは、回転される。具体的に言うと、モアレ効果が各撮像されたホログラム画像、およびイメージセンサの対応する斜視図に生じるのを防ぐために、ユニットセル430は、ユニットセル410に対して反時計回りに90度回転され、ユニットセル440は、ユニットセル420に対して時計回りに90度回転される。
留意すべきことは、図4Aに示されたユニットセル430と440の回転は一例であり、本発明を限定するものではない。マクロユニットセル450の1つ以上のユニットセルは、モアレ効果を防ぐために、所定の配置(例えば、1つ以上の所定の角度)に回転されることができる。
図5Aは、本発明の実施形態に係る、カラーイメージセンサの側面図である。カラーイメージセンサ500は、フィルターアレイ510およびセンサアレイ520を含む。フィルターアレイ510は、赤色フィルター511、緑色フィルター512、および青色フィルター513などの複数のカラーフィルターを含む。例えば、2つの緑色フィルター、1つの赤色フィルター、および1つの青色フィルターは、ベイヤーパターンの2×2のカラーフィルターアレイに配置される。センサアレイ520は、フィルターアレイ510によって入射光を受光する複数の光電素子521を含む。光電素子521は、複数のユニットセル内に配置される。説明の目的のために、図5Aのセンサアレイ520は、センサアレイ520の光電素子の相対的な高さを示していない。
図5Bは、図5Aの実施形態に係る、カラーイメージセンサの上面図である。図5Cは、図5Aの実施形態に係る、カラーイメージセンサの斜視図である。図5Bに示されるように、2×2のアレイに配置されたユニットセル530、540、550、および560は、フィルターアレイ510の2×2のカラーフィルターアレイに対応する2×2のアレイに配置される。従って、ユニットセル530、540、550、および560は、緑色光、青色光、および赤色光を受光し、緑色光は、フィルターアレイ510の2×2のカラーフィルターアレイをそれぞれ通過する。具体的に言うと、マクロユニットセル570の4つのユニットセル530、540、550、および560は、0、π/2、π、および3π/2などの4つの異なる位相の緑色、青色、赤色、および緑色画素を撮像するように構成される。ユニットセル530、540、550、および560の光電素子531〜534、541〜544、551〜554、および561〜564の高さの設計は、センサアレイ520の光電素子が同じ材料でできているとき、上述の式(6)に従うことができる。従って、詳細はここでは省略する。しかしながら、式(6)は、固定波長で単色用に設計されている。
λ、λ、およびλが赤色光、緑色光、および青色光の波長をそれぞれ表すとした場合、赤色光、緑色光、および青色光の中で赤色光が最長波長を有し、青色光が最短波長を有するため、波長間の関係は、λ>λ>λであると結論されることができる。よって、センサアレイ520の光電素子が同じ材料でできている場合、赤色光を受光するユニットセル550の光電素子551〜554は、マクロユニットセル570の他のユニットセルの光電素子よりも相対的に大きい高さを有する。即ち、各ユニットセルの光電素子の高さは、受光した光の波長に比例する。
例えば、図5Cに示すように、赤色光を受光するユニットセル550の光電素子551〜554の高さは、同一場所に配置された緑色光を受光するユニットセル530の光電素子531〜534(即ち、同じ位相)の高さよりも相対的に高い。
図5Dは、図5Aの実施形態に係る詳細な側面図の部分である。図5Eは、図5Aの実施形態に係る詳細な側面図のもう1つの部分である。図5Dの側面図は、緑色光を受光するユニットセル530の光電素子531〜532と、赤色光を受光するユニットセル550の光電素子551〜552の相対的な高さを示している。同じ位相では、光電素子551は、光電素子531より大きな高さを有し、光電素子552は、光電素子532より大きな高さを有する。
図5Eの側面図は、緑色光を受光するユニットセル530の光電素子531〜532と、青色光を受光するユニットセル540の光電素子541〜542の相対的な高さを示している。同じ位相では、光電素子531は、光電素子541より大きな高さを有し、光電素子532は、光電素子542より大きな高さを有する。
マクロユニットセル570は、センサアレイ520に繰り返し配置されるため、4つの位相シフトのホログラム画像は、センサアレイ520のマクロユニットセルの各ユニットセル530、540、550、および560によって撮像された画素を組み合わせることによって得られ、よって、全ての16の位相シフトのホログラム画像を得ることができる。留意すべきことは、ユニットセル530によって撮像された緑色の位相シフトのホログラム画像は、ユニットセル560によって撮像されたホログラム画像と異なることである。例えば、全ての16の位相シフトのホログラム画像は、(Rδ、Rδ、Rδ、Rδ)、(Gδ、Gδ、Gδ、Gδ)、(Bδ、Bδ、Bδ、Bδ)、および(Gδ、Gδ、Gδ、Gδ)であることができる。緑色の位相シフトのホログラム画像(Gδ、Gδ、Gδ、Gδ)は、ユニットセル560によって撮像される。
図6は、本発明の実施形態に係る、カラーイメージセンサに用いる4ステップ位相シフトデジタルホログラフィ法のフローチャートである。図3のフローチャートと異なり、図6のフローチャートは、カラーイメージセンサに用いられるものである。ステップS610では、異なるカラーチャネルおよび異なる位相の16の位相シフトのホログラム画像が得られる。例えば、図5に示されたイメージセンサ500がもちいられることができる。16の位相シフトのホログラム画像は、上述のように、(Rδ、Rδ、Rδ、Rδ)、(Gδ、Gδ、Gδ、Gδ)、(Bδ、Bδ、Bδ、Bδ)、および(Gδ、Gδ、Gδ、Gδ)である。
ステップS620では、フーリエ領域の各カラーチャネルの物体波は、異なるカラーチャネルおよび異なる位相の16のホログラム画像に基づいて計算される。
ステップS630では、各カラーチャネルの物体像は、各カラーチャネルの物体波に基づいて再構成される。特に、カラーイメージセンサの1つの赤色チャネル、1つの青色チャネル、および2つの緑色チャネルなどの4つのカラーチャネルがあり、単一のカラーチャネルの物体波の計算および物体像の構成の動作は、図3の実施形態において参照でき、詳細はここでは繰り返されない。
従って、1つの赤色チャネル、1つの青色チャネル、および2つの緑色チャネルを表す4つの物体像は、ステップS330の後に得られ、カラーイメージセンサ500に結合された画像信号処理装置(図示されていない)は、4つの物体像を用いて元のカラーイメージを再構成することができる。
図7Aは、本発明の実施形態に係る、イメージセンサの側面図である。説明の目的のために、例えば、イメージセンサ700は、単色イメージセンサである。図7Aに示されるように、イメージセンサ700は、センサアレイ720を含む。センサアレイ720は、入射光を受光する複数の光電素子721を含む。光電素子721は、半導体製造プロセスによって基板730の上に実装されることができる。留意すべきことは、イメージセンサ700にレンズは用いられず、且つ説明の目的のために、図7Aのセンサアレイ720は、センサアレイの光電素子の相対的な高さ(即ち、厚さ)を示さないことである。
図7Bは、図7Aの実施形態に係る、イメージセンサの上面図である。
図7Cは、図7Aの実施形態に係るイメージセンサの斜視図である。
図7Bに示されるように、センサアレイ720は、複数のユニットセル750を含み、各ユニットセルは、2×1アレイに配置された2つの光電素子を有する。例えば、光電素子751と752は、異なる高さであり、各光電素子751と752の高さは、対応するホログラムの特定の位相を表している。例えば、2ステップの直交位相シフトホログラフィ法がセンサアレイ720に用いられ、2つの異なる位相は、0とπ/2であることができる。位相0とπ/2の干渉パターンの強度を得た後、物体光の複素振幅は、以下の式で与えられる。
Figure 0006677696
例えば、光電素子751と752の高さは、以下の式によって計算されることができる:
Figure 0006677696
λは、特定の波長を示し、nは、光電素子の材料の屈折率を示し、且つδは、与えられた位相値、例えば、0、およびπ/2(またはπおよび3π/2)を示している。留意すべきことは、センサアレイ720の全ての光電素子は、同じ材料で実装されることができるため、同じ屈折率を有することができる。特に、2ステップ位相シフトデジタルホログラフィ法は、イメージセンサ700の構造に用いられる。例えば、光電素子752と752の高さは、位相δとδにそれぞれ対応するdとdである。δ、およびδの値は、それぞれ0とπ/2(またはπおよび3π/2)である。高さd〜dが式(10)と整合するため、dとdの値は、0とλ/4nとしてそれぞれ計算されることができる。光電素子751と752の高さの違いは、図7Cに示されている。留意すべきことは、ユニットセル750は、センサアレイ720に繰り返し配置され、各ユニットセル750の各光電素子は、2つの異なる位相の個別の位相の画素を撮像することができる。例えば、各ユニットセル750の光電素子751と752は、第1の位相の第1の画素、第2の位相の第2の画素をそれぞれ撮像することができる。第1の画素および第4の画素は、各ユニットセル750の光電素子751と752によって撮像されるため、第1の画素および第2の画素は、実質的に同じである。例えば、δのホログラム画像は、各ユニットセル750の光電素子751の撮像された画素から得られることができる。同様に、δのホログラム画像は、各ユニットセル750の光電素子752の撮像された画素からそれぞれ得られることができる。
2つの位相のホログラム画像を得た後、フーリエ領域(domain)の物体波は、式(9)を用いて得ることができる。次いで、逆フーリエ変換が物体波に行われ、空間領域の物体像を再構成する。また、フーリエ領域の物体波を空間領域の物体像に変換する変換関数H(x、y)は、予め推定されることができ、よって、物体波と変換関数との畳み込みが物体像を得るために行われることができる。
図7Dは、本発明のもう1つの実施形態に係る、イメージセンサの斜視図である。他の実施形態では、ユニットセル750の光電素子751と752の位置は、図7Bのそれらと同じであるが、図7Dに示されるように、ユニットセル750の光電素子751と752の高さは、同じである。例えば、光電素子751と752は、異なる屈折率を有する異なる材料からできている。具体的に言うと、各光電素子の材料の屈折率は、以下の式に従わなければならない。
Figure 0006677696
式(11)に示すように、高さdは、一定であり、屈折率nは、可変である。2ステップ位相シフトホログラフィがここで用いられることもできる例えば、2ステップ位相シフトホログラフィ法の位相は、0とπ/2(またはπと3π/2)である。高さdが0.5λと等しいとした場合、光電素子751と752の材料の屈折率は、式(11)を用いて計算されることができる。
図8Aは、本発明のもう1つの実施形態に係る、カラーイメージセンサの側面図である。カラーイメージセンサ800は、フィルターアレイ810およびセンサアレイ820を含む。フィルターアレイ810は、赤色フィルター、緑色フィルター、および青色フィルターなどの複数のカラーフィルターを含む。例えば、2つの緑色フィルター、1つの赤色フィルター、および1つの青色フィルターは、ベイヤーパターンの2×2のカラーフィルターアレイに配置される。センサアレイ820は、フィルターアレイ810によって光を受光する複数のユニットセル821を含む。説明の目的のために、図8Aのセンサアレイ820は、センサアレイ820の光電素子の相対的な高さを示していない。
図8Bは、図8Aの実施形態に係る、カラーイメージセンサの上面図である。図7Bに示されるように、ユニットセル830、840、850、および860は、緑色光、青色光、赤色光、および緑色光をそれぞれ受光する。各ユニットセル830、840、850、および860は、2つの光電素子を有し、対応するカラーフィルターを有する。例えば、ユニットセル830、840、850、および860は、フィルターアレイ810によって緑色光、青色光、赤色光、および緑色光を受光する。特に、ベイヤーパターンの方式のマクロユニットセル870は、ユニットセル830、840、850、および860を用いて形成されることができる。
実施形態では、2ステップ位相シフトホログラフィ法が用いられる。例えば、各ユニットセルの2つの光電素子は、例えば0およびπ/2などの異なる位相の画素を受けるように設計された異なる高さを有する。
ユニットセル830、840、850、および860の光電素子831〜832、841〜842、851〜853、および861〜862の高さの設計は、センサアレイ820の光電素子が同じ材料でできているとき、上述の式(6)に従うことができる。従って、詳細はここでは省略する。しかしながら、式(6)は、固定波長で単色用に設計されている。
λ、λ、およびλが赤色光、緑色光、および青色光の波長をそれぞれ表すとした場合、赤色光、緑色光、および青色光の中で赤色光が最長波長を有し、青色光が最短波長を有するため、波長間の関係は、λ>λ>λであると結論されることができる。よって、センサアレイ820の光電素子が同じ材料でできている場合、赤色光を受光するユニットセル850の光電素子851〜852は、マクロユニットセル870の他のユニットセルの光電素子よりも相対的に大きい高さを有する。
図5のセンサアレイ520と比較すると、マクロユニットセルのサイズがセンサアレイ820で4×2であり、マクロユニットセルのサイズがセンサアレイ520で4×4であるため、垂直方向の解像度は、センサアレイ820を用いたとき、2倍である。しかしながら、センサアレイ820を用いて物体波を得る演算量の複雑さは、高くなっている。例えば、2ステップ位相シフトホログラフィ法の物体波は、以下の式を用いて計算されることができる。
Figure 0006677696
このことから、レンズフリーイメージセンサが提供される。4ステップ位相シフトホログラフィのアルゴリズムの異なる位相で設計された、異なる高さを有する光電素子をセンサアレイ内に配置することにより、物体像は、光電素子によって撮像された位相シフトのホログラム画像を用いて再構成されることができる。従って、モジュラー型レンズは、レンズフリーイメージセンサを用いたカメラモジュールに必要でないため、全体的なカメラモジュールのコストを減少することができ、カメラモジュールの厚さは、薄くすることができる。
本発明は、例として及び望ましい実施の形態によって記述されているが、本発明は開示された実施形態に限定されるものではない。逆に、当業者には自明の種々の変更及び同様の配置をカバーするものである。よって、添付の特許請求の範囲は、最も広義な解釈が与えられ、全てのこのような変更及び同様の配置を含むべきである。
100 位相シフトデジタルホログラフィ装置
101、103 ビームスプリッタ
102 ピエゾ鏡
104 ミラー
110 レーザー光源
111 ビームエミッタ
120 センサアレイ
200 イメージセンサ
220 センサアレイ
221 光電素子
230 基板
250 ユニットセル
251、252、253、254 光電素子
410、420、430、440 ユニットセル
411〜414 光電素子
421〜424 光電素子
431〜434 光電素子
441〜444 光電素子
450 マクロセルユニット
500 カラーイメージセンサ
510 フィルターアレイ
511 赤色フィルター
512 緑色フィルター
513 青色フィルター
520 センサアレイ
521 光電素子
530、540、550、560 ユニットセル
531〜534 光電素子
541〜544 光電素子
551〜554 光電素子
561〜564 光電素子
570 マクロユニットセル
700 イメージセンサ
720 センサアレイ
721 光電素子
730 基板
750 ユニットセル
751 光電素子
752 光電素子
800 カラーイメージセンサ
810 フィルターアレイ
820 センサアレイ
821 ユニットセル
830、840、850、860 ユニットセル
831〜832 光電素子
841〜842 光電素子
851〜853 光電素子
861〜862 光電素子
870 マクロユニットセル

Claims (11)

  1. 入射光を受光する複数の光電素子を含み、
    前記光電素子は、複数のユニットセル内に配置され、各前記ユニットセルは、第1の光電素子および第2の光電素子を含み、
    各前記ユニットセルの前記第1の光電素子は、第1の位相の第1の画素を撮像し、各前記ユニットセルの前記第2の光電素子は、第2の位相の第2の画素を撮像し、
    前記第1の位相は、前記第2の位相と異なり、
    各前記ユニットセルは、第3の位相の第3の画素を撮像する第3の光電素子および第4の位相の第4の画素を撮像する第4の光電素子を更に含み、
    前記第1の位相、前記第2の位相、前記第3の位相、および前記第4の位相は異なり、
    各前記ユニットセルの前記第1の光電素子、前記第2の光電素子、前記第3の光電素子、および前記第4の光電素子は、特定の材料でできており、且つ異なる高さであり、
    前記第1の位相、前記第2の位相、前記第3の位相、および前記第4の位相は、それぞれ0、π/2、π、および3π/2であるイメージセンサ。
  2. 第1の位相シフトのホログラム画像および第2の位相シフトのホログラム画像は、前記ユニットセルによって撮像された前記第1の位相の前記第1の画素と前記第2の位相の前記第2の画素をそれぞれ組み合わせることによって得られ、
    物体波は、前記第1の位相シフトのホログラム画像および前記第2の位相シフトのホログラム画像に基づいて計算され、物体像は、逆変換を前記物体波に行うことにより再構成される請求項1に記載のイメージセンサ。
  3. 第1の位相シフトのホログラム画像、第2の位相シフトのホログラム画像、第3の位相シフトのホログラム画像、および第4の位相シフトのホログラム画像は、前記ユニットセルによって撮像された前記第1の位相の前記第1の画素、前記第2の位相の前記第2の画素、前記第3の位相の前記第3の画素、および前記第4の位相の前記第4の画素をそれぞれ組み合わせることによって得られ、
    物体波は、前記第1の位相シフトのホログラム画像、前記第2の位相シフトのホログラム画像、前記第3の位相シフトのホログラム画像、および前記第4の位相シフトのホログラム画像に基づいて計算され、物体像は、逆変換を前記物体波に行うことにより再構成される請求項に記載のイメージセンサ。
  4. 前記ユニットセルは、複数のマクロユニットセル内に配置され、各前記マクロユニットセルは、2×2のアレイに配置された4つのユニットセルを含み、各前記マクロユニットセルの前記4つのユニットセルの中の少なくとも1つは、それぞれの所定の角度によって回転されることができる請求項に記載のイメージセンサ。
  5. 入射光から緑色光を抽出する第1の緑色フィルターおよび第2の緑色フィルター、
    前記入射光から赤色光を抽出する赤色フィルター、および
    前記入射光から青色光を抽出する青色フィルターを含むフィルターアレイを更に含む請求項1に記載のイメージセンサ。
  6. 前記ユニットセルは、複数のマクロユニットセル内に配置され、各前記マクロユニットセルは、2×2のアレイに配置された第1のユニットセル、第2のユニットセル、第3のユニットセル、および第4のユニットセルを含み、
    各前記マクロユニットセルの前記第1のユニットセル、前記第2のユニットセル、前記第3のユニットセル、および前記第4のユニットセルは、前記第1の緑色フィルター、前記第2の緑色フィルター、前記赤色フィルター、および前記青色フィルターによって、前記緑色光、前記緑色光、前記赤色光、および前記青色光をそれぞれ受光し、
    前記第1の緑色フィルター、前記第2の緑色フィルター、前記赤色フィルター、および前記青色フィルターは、ベイヤーパターンに配置され、
    各前記マクロユニットセルの前記第1のユニットセル、前記第2のユニットセル、前記第3のユニットセル、および前記第4のユニットセルの前記第1の光電素子と前記第2の光電素子の高さは、前記緑色光、前記緑色光、前記赤色光、および前記青色光の波長にそれぞれ比例する請求項に記載のイメージセンサ。
  7. 前記ユニットセルは、複数のマクロユニットセル内に配置され、各前記マクロユニットセルは、2×2のアレイに配置された第1のユニットセル、第2のユニットセル、第3のユニットセル、および第4のユニットセルを含み、
    各前記マクロユニットセルの前記第1のユニットセル、前記第2のユニットセル、前記第3のユニットセル、および前記第4のユニットセルは、前記第1の緑色フィルター、前記第2の緑色フィルター、前記赤色フィルター、および前記青色フィルターによって、前記緑色光、前記緑色光、前記赤色光、および前記青色光をそれぞれ受光し、
    各前記ユニットセルは、第3の位相の第3の画素を撮像する第3の光電素子および第4の位相の第4の画素を撮像する第4の光電素子を更に含み、
    前記第1の位相、前記第2の位相、前記第3の位相、および前記第4の位相は異なる請求項に記載のイメージセンサ。
  8. 第1の緑色位相シフトのホログラム画像、第2の緑色位相シフトのホログラム画像、第3の緑色位相シフトのホログラム画像、および第4の緑色位相シフトのホログラム画像は、前記第1のユニットセルによって撮像された前記第1の位相の前記第1の画素、前記第2の位相の前記第2の画素、前記第3の位相の前記第3の画素、および前記第4の位相の前記第4の画素をそれぞれ組み合わせることによって得られ、
    第5の緑色位相シフトのホログラム画像、第6の緑色位相シフトのホログラム画像、第7の緑色位相シフトのホログラム画像、および第8の緑色位相シフトのホログラム画像は、前記第2のユニットセルによって撮像された前記第1の位相の前記第1の画素、前記第2の位相の前記第2の画素、前記第3の位相の前記第3の画素、および前記第4の位相の前記第4の画素をそれぞれ組み合わせることによって得られ、
    第1の赤色位相シフトのホログラム画像、第2の赤色位相シフトのホログラム画像、第3の赤色位相シフトのホログラム画像、および第4の赤色位相シフトのホログラム画像は、前記第3のユニットセルによって撮像された前記第1の位相の前記第1の画素、前記第2の位相の前記第2の画素、前記第3の位相の前記第3の画素、および前記第4の位相の前記第4の画素をそれぞれ組み合わせることによって得られ、
    第1の青色位相シフトのホログラム画像、第2の青色位相シフトのホログラム画像、第3の青色位相シフトのホログラム画像、および第4の青色位相シフトのホログラム画像は、前記第4のユニットセルによって撮像された前記第1の位相の前記第1の画素、前記第2の位相の前記第2の画素、前記第3の位相の前記第3の画素、および前記第4の位相の前記第4の画素をそれぞれ組み合わせることによって得られる請求項に記載のイメージセンサ。
  9. 第1の緑色の物体波は、前記第1の緑色の位相シフトのホログラム画像、前記第2の緑色の位相シフトのホログラム画像、前記第3の緑色の位相シフトのホログラム画像、および前記第4の緑色の位相シフトのホログラム画像に基づいて計算され、第1の緑色の物体像は、逆変換を前記第1の緑色の物体波に行うことにより再構成され、
    第2の緑色の物体波は、前記第6の緑色の位相シフトのホログラム画像、前記第6の緑色の位相シフトのホログラム画像、前記第7の緑色の位相シフトのホログラム画像、および前記第8の緑色の位相シフトのホログラム画像に基づいて計算され、第2の緑色の物体像は、前記逆変換を前記第2の緑色の物体波に行うことにより再構成され、
    赤色の物体波は、前記第1の赤色の位相シフトのホログラム画像、前記第2の赤色の位相シフトのホログラム画像、前記第3の赤色の位相シフトのホログラム画像、および前記第4の赤色の位相シフトのホログラム画像に基づいて計算され、赤色の物体像は、前記逆変換を前記赤色の物体波に行うことにより再構成され、
    青色の物体波は、前記第1の青色の位相シフトのホログラム画像、前記第2の青色の位相シフトのホログラム画像、前記第3の青色の位相シフトのホログラム画像、および前記第4の青色の位相シフトのホログラム画像に基づいて計算され、青色の物体像は、前記逆変換を前記青色の物体波に行うことにより再構成される請求項に記載のイメージセンサ。
  10. 各前記マクロユニットセルの前記第1のユニットセル、前記第2のユニットセル、前記第3のユニットセル、および前記第4のユニットセルの前記第1の光電素子、前記第2の光電素子、前記第3の光電素子、および前記第4の光電素子の高さは、前記緑色光、前記緑色光、前記赤色光、および前記青色光の波長にそれぞれ比例する請求項に記載のイメージセンサ。
  11. 入射光を受光する複数の光電素子を含み、
    前記光電素子は、複数のユニットセル内に配置され、各前記ユニットセルは、第1の光電素子および第2の光電素子を含み、
    各前記ユニットセルの前記第1の光電素子は、第1の位相の第1の画素を撮像し、各前記ユニットセルの前記第2の光電素子は、第2の位相の第2の画素を撮像し、
    前記第1の位相は、前記第2の位相と異なり、
    各前記ユニットセルは、第3の位相の第3の画素を撮像する第3の光電素子および第4の位相の第4の画素を撮像する第4の光電素子を更に含み、
    前記第1の位相、前記第2の位相、前記第3の位相、および前記第4の位相は異なり、
    各前記ユニットセルの前記第1の光電素子、前記第2の光電素子、前記第3の光電素子、および前記第4の光電素子は、異なる材料でできており、且つ同じ高さであり、
    前記第1の位相、前記第2の位相、前記第3の位相、および前記第4の位相は、それぞれπ/4、3π/4、5π/8、および7π/8であるイメージセンサ。
JP2017214953A 2017-08-04 2017-11-07 位相シフトのホログラムを用いたレンズフリーイメージセンサ Active JP6677696B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/669,548 US10423122B2 (en) 2017-08-04 2017-08-04 Lens-free image sensor using phase-shifting hologram
US15/669,548 2017-08-04

Publications (2)

Publication Number Publication Date
JP2019033467A JP2019033467A (ja) 2019-02-28
JP6677696B2 true JP6677696B2 (ja) 2020-04-08

Family

ID=65229527

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017214953A Active JP6677696B2 (ja) 2017-08-04 2017-11-07 位相シフトのホログラムを用いたレンズフリーイメージセンサ

Country Status (4)

Country Link
US (1) US10423122B2 (ja)
JP (1) JP6677696B2 (ja)
CN (1) CN109388049B (ja)
TW (1) TWI661283B (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11317039B1 (en) * 2021-01-06 2022-04-26 Visera Technologies Company Limited Image-sensing device
TWI811109B (zh) * 2022-09-16 2023-08-01 國立中正大學 全息圖檢測方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4188870B2 (ja) 2004-04-06 2008-12-03 三星電子株式会社 ホログラム媒体記録再生装置およびホログラム媒体再生装置
JP4455215B2 (ja) * 2004-08-06 2010-04-21 キヤノン株式会社 撮像装置
CN101953154B (zh) * 2007-12-17 2016-09-07 豪威科技有限公司 具有集成闪光灯的可回焊相机模块
JP2010152176A (ja) * 2008-12-25 2010-07-08 Mitsubishi Electric Corp 投写型表示装置
JP5639654B2 (ja) 2009-10-20 2014-12-10 ザ リージェンツ オブ ザ ユニバーシティ オブ カリフォルニア オンチップでの非干渉性のレンズフリーのホログラフィおよび顕微鏡法
TWI420662B (zh) * 2009-12-25 2013-12-21 Sony Corp 半導體元件及其製造方法,及電子裝置
JP5644177B2 (ja) * 2010-05-07 2014-12-24 ソニー株式会社 固体撮像装置、および、その製造方法、電子機器
JP6179902B2 (ja) 2012-08-31 2017-08-16 国立大学法人京都工芸繊維大学 デジタルホログラフィ装置およびデジタルホログラフィ再生方法
US9549099B2 (en) 2013-03-12 2017-01-17 Apple Inc. Hybrid image sensor
EP2778601A1 (en) * 2013-03-15 2014-09-17 Siemens Healthcare Diagnostics Inc. Optical metrology by light beam analysis
US9224881B2 (en) 2013-04-04 2015-12-29 Omnivision Technologies, Inc. Layers for increasing performance in image sensors
WO2015135003A2 (en) * 2014-03-04 2015-09-11 California Institute Of Technology Directional optical receiver
CN104252844B (zh) 2014-09-23 2017-04-05 京东方科技集团股份有限公司 像素电路及其驱动方法、有机发光显示面板及显示装置
TWI552594B (zh) 2014-10-27 2016-10-01 聯詠科技股份有限公司 用於影像感測裝置的色彩濾波陣列及其製造方法
JP6686323B2 (ja) 2015-08-13 2020-04-22 大日本印刷株式会社 ホログラム構造体
KR102414030B1 (ko) 2015-11-18 2022-06-29 에스케이하이닉스 주식회사 이미지 센서
JP2017110991A (ja) * 2015-12-16 2017-06-22 セイコーエプソン株式会社 計測システム、計測方法、ロボット制御方法、ロボット、ロボットシステムおよびピッキング装置

Also Published As

Publication number Publication date
US10423122B2 (en) 2019-09-24
JP2019033467A (ja) 2019-02-28
TW201910941A (zh) 2019-03-16
CN109388049A (zh) 2019-02-26
US20190041794A1 (en) 2019-02-07
TWI661283B (zh) 2019-06-01
CN109388049B (zh) 2021-01-01

Similar Documents

Publication Publication Date Title
EP3129813B1 (en) Low-power image change detector
JP6725526B2 (ja) 分散して空間的符号化画像を作成する画像を伴う撮像素子
EP3423858A1 (en) 3d imaging system and method
JP2018504577A (ja) 厚膜サンプル用落射照明フーリエタイコグラフィ撮像
US20110193956A1 (en) Apparatus and a method for performing a difference measurement of an object image
KR101592380B1 (ko) 푸리에 변환 광학 패턴의 공간 필터링을 위한, 유연하게 결합되고, 중첩되며, 피드백되지 않는 광학 시스템
JPWO2018221025A1 (ja) 撮像装置、画像処理装置、撮像システム、画像処理方法、及び記録媒体
JP6677696B2 (ja) 位相シフトのホログラムを用いたレンズフリーイメージセンサ
JP7373015B2 (ja) 撮像方法
FR3071342A1 (fr) Capteur d'image a matrice de bayer
EP2681604B1 (fr) Systeme d'imagerie a haute resolution
EP3994529A1 (en) Calibration-free phase shifting procedure for self-interference holography
FR2641091A1 (ja)
KR102578652B1 (ko) 이미지-감지 디바이스
KR20180119428A (ko) 위상광학 이미지 획득 장치 및 방법
EP3777129B1 (fr) Capteur d'images aeroporte realisant des prises de vue matricielle par decalage temporel et sommation multi-spectrales
Jacquot et al. Digital holography with improved resolution by spatial sampling of holograms
TW202217236A (zh) 三維測量裝置
JP2021184002A (ja) インコヒーレントディジタルホログラム用撮像素子、撮像装置およびその撮像素子の製造方法
FR2860119A1 (fr) Dispositif et procede pour produire la representation d'une scene objet
De Leon et al. Spectral characterization of a volume holographic imaging system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190129

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190924

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20200109

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200313

R150 Certificate of patent or registration of utility model

Ref document number: 6677696

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250