JP2022180800A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2022180800A JP2022180800A JP2021087496A JP2021087496A JP2022180800A JP 2022180800 A JP2022180800 A JP 2022180800A JP 2021087496 A JP2021087496 A JP 2021087496A JP 2021087496 A JP2021087496 A JP 2021087496A JP 2022180800 A JP2022180800 A JP 2022180800A
- Authority
- JP
- Japan
- Prior art keywords
- image
- imaging device
- row
- image sensor
- column
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
- Blocking Light For Cameras (AREA)
- Diffracting Gratings Or Hologram Optical Elements (AREA)
Abstract
【課題】簡単な構成で画質を向上させた撮像装置を提供する。【解決手段】本発明の撮像装置は、光を電気信号に変換し、センサ画像を生成する画像センサと、前記画像センサ上に投影される光を変調する光変調部と、前記センサ画像に基づいて像を復元する画像処理部と、を有し、前記光変調部には内部領域と外部領域があり、前記内部領域を通過かつ前記画像センサ上に投影される光の平均輝度と、前記外部領域を通過かつ前記画像センサ上に投影される光の平均輝度と、が略等しい。【選択図】図19
Description
本発明は、撮像装置に関する。
スマートフォンなどに搭載するデジタルカメラは、薄型化が必要である。この種のデジタルカメラの薄型化技術として、レンズを用いることなく物体像を得るものがある。この技術は、画像センサ上に、パターンが形成された変調部を設け、変調部を透過する光が画像センサ上で生じる射影パターンから、入射光の入射角を相互相関演算により求めることで、外界の物体の像を得るものである。また、例えば特許文献1には、射影パターンを複数の互いに重ならない同心円パターンとすることで、簡単な計算で外界の物体の像を得ることが開示されている。
上述した特許文献1では、複数の同心円パターンの境界における非連続性が原因となり、撮像結果が劣化する可能性がある。
本発明の目的は、簡単な構成で画質を向上させた撮像装置を提供することにある。
上記課題を解決するために、本発明の撮像装置は、光を電気信号に変換し、センサ画像を生成する画像センサと、前記画像センサ上に投影される光を変調する光変調部と、前記センサ画像に基づいて像を復元する画像処理部と、を有し、前記光変調部には内部領域と外部領域があり、前記内部領域を通過かつ前記画像センサ上に投影される光の平均輝度と、前記外部領域を通過かつ前記画像センサ上に投影される光の平均輝度と、が略等しい。
本発明によれば、簡単な構成で画質を向上させた撮像装置を提供できる。上記した以外の課題、構成および効果は、以下の発明を実施するための形態の説明により明らかにされる。
以下、図面を参照して本発明の実施形態を説明する。実施例は、本発明を説明するための例示であって、説明の明確化のため、適宜、省略および簡略化がなされている。本発明は、他の種々の形態でも実施することが可能である。特に限定しない限り、各構成要素は単数でも複数でも構わない。
図面において示す各構成要素の位置、大きさ、形状、範囲などは、発明の理解を容易にするため、実際の位置、大きさ、形状、範囲などを表していない場合がある。このため、本発明は、必ずしも、図面に開示された位置、大きさ、形状、範囲などに限定されない。
実施例において、プログラムを実行して行う処理について説明する場合がある。ここで、計算機は、プロセッサ(例えばCPU、GPU)によりプログラムを実行し、記憶資源(例えばメモリ)やインターフェースデバイス(例えば通信ポート)等を用いながら、プログラムで定められた処理を行う。そのため、プログラムを実行して行う処理の主体を、プロセッサとしても良い。同様に、プログラムを実行して行う処理の主体が、プロセッサを有するコントローラ、装置、システム、計算機、ノードであってもよい。プログラムを実行して行う処理の主体は、演算部であれば良く、特定の処理を行う専用回路を含んでいても良い。ここで、専用回路とは、例えばFPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated Circuit)、CPLD(Complex Programmable Logic Device)等である。
プログラムは、プログラムソースから計算機にインストールされても良い。プログラムソースは、例えば、プログラム配布サーバまたは計算機が読み取り可能な記憶メディアであっても良い。プログラムソースがプログラム配布サーバの場合、プログラム配布サーバはプロセッサと配布対象のプログラムを記憶する記憶資源を含み、プログラム配布サーバのプロセッサが配布対象のプログラムを他の計算機に配布しても良い。また、実施例において、2以上のプログラムが1つのプログラムとして実現されても良いし、1つのプログラムが2以上のプログラムとして実現されても良い。
まず、実施例1について説明する。
〈基本構成〉
図1は、実施例1に係る撮像装置101の構成の一例を示す図である。撮像装置101は、結像させるレンズを用いることなく、外界の物体の画像を取得するものであり、図1に示すように、撮像部102と、画像処理部105と、コントローラ106と、を備えている。
図1は、実施例1に係る撮像装置101の構成の一例を示す図である。撮像装置101は、結像させるレンズを用いることなく、外界の物体の画像を取得するものであり、図1に示すように、撮像部102と、画像処理部105と、コントローラ106と、を備えている。
図2は、撮像部102の一例を示す図である。図2に示すように、撮像部102は、画像センサ103と、光変調部104と、を有する。光変調部104は、画像センサ103の受光面に密着して固定されており、外界からの入射光を変調し、画像センサ103の受光面上に所望の輝度パターンの投影像を形成する。光変調部104は、例えばガラスやプラスティックなどの可視光に対して透明な材料に、アルミニウム、クロムなどの金属を蒸着することで、蒸着されたパターンと蒸着されていないパターンによって濃淡をつけ、外界からの入射光に対して強度変調を加える。なお、光変調部104は、金属の蒸着による濃淡をつける方法に限定されるものでなく、例えば、インクジェットプリンタによる印刷などによって濃淡をつける方法でも良い。このように、光変調部104が強度変調型の場合、比較的容易に形成できる利点がある。
また、図3に示した撮像部102のように、光変調部104は、同心円状にシリンドリカルレンズを並べたもので、入射光に対して位相変調を加え、画像センサ103の受光面上に輝度パターン301を形成しても良い。このように、光変調部104が位相変調型の場合、微細なパターンを形成できるので、高い解像度を得やすい利点がある。さらに、光変調部104は、画像センサ103の受光面上に所望の輝度パターンを形成する手段であれば、これ以外の構成であっても良い。また、ここでは可視光を例に説明したが、例えば遠赤外線の撮影を行う際には、光変調部104は例えばゲルマニウム、シリコン、カルコゲナイドなどの遠赤外線に対して透明な材料とするなど、撮影対象となる波長に対して透明な材料を用いれば良い。
画像センサ103の表面には、受光素子である画素103aが格子状に規則的に配置されている。この画像センサ103は、画素103aが受光した光画像を電気信号である画像信号に変換し、センサ画像を生成する。画像センサ103から出力されたセンサ画像は、画像処理部105によって画像処理されて出力される。画像処理部105は、現像用パターンおよびセンサ画像に基づいて像を復元する。
以上の構成において、撮影する場合には、光変調部104を透過する光は、光強度もしくは位相が変調され、透過した光は画像センサ103にて受光される。画像センサ103から出力されたセンサ画像は、画像処理部105によって画像処理され、処理されたデータがコントローラ106に出力される。コントローラ106は、画像処理部105の出力をホストコンピュータや外部記録媒体に出力する場合には、USB等のインターフェイスに適合するようデータ形式を変換し出力する。
続いて、撮像装置101における画像撮影原理について説明する。なお、図4に示すように、光変調部104は、撮影用パターン401が形成された厚さdのパターン基板であり、入射光に強度変調(具体的には透過率変調)を加えるものとして説明するが、光変調部104が、入射光に位相変調を加える場合でも同様に考えることができる。
まず、光変調部104が入射光に対して加える透過率変調は、中心からの半径に対して反比例してピッチが細かくなる同心円状のパターンであり、同心円の中心である基準座標からの半径r、係数β、透過率分布の初期位相Φ、を用いて、(式1)のように定義される。
このような縞を持つプレートは、ガボールゾーンプレートやフレネルゾーンプレートと呼ばれる。図5に(式1)のガボールゾーンプレート、図6に(式1)を閾値1で2値化したフレネルゾーンプレート、の例を示す。以下、簡単化のためにx軸方向についてのみ数式で説明するが、同様にy軸方向について考慮することで2次元に展開して考えることが可能である。
撮影用パターン401が形成された厚さdのパターン基板に、図4に示すようにx軸方向に角度θ0で平行光が入射したとする。光変調部104中の屈折角をθとして幾何光学的には、撮影用パターン401の透過率が乗じられた輝度パターン402が、k=d・tanθだけずれて画像センサ103の受光面上に投影される。このとき、輝度パターン402は、(式2)で示すような強度分布を有する投影像となる。
(式2)のように、輝度パターン402は、撮影用パターン401がkシフトして投影されたものとなり、これが撮像部102の出力となる。
撮影した画像の現像では、輝度パターン402(図7)と現像用パターン801(図8)との相互相関関数を画像処理部105が演算することにより、シフト量kの輝点(図9)を得る。なお、一般的に相互相関演算を2次元畳み込み演算で行うと演算量が大きくなることから、フーリエ変換を用いて演算する例に関し、数式を用いて原理を説明する。まず、現像用パターン801は、撮影用パターン401と同様にガボールゾーンプレートやフレネルゾーンプレートを用いるため、現像用パターン801は、(式3)と表せる。
現像用パターン801は、画像処理で使用するため、(式1)のように1でオフセットさせる必要はなく、負の値を有していても問題ない。(式2)のフーリエ変換は、(式4)となる。
また、(式3)のフーリエ変換は、(式5)となる。
ここで、Fはフーリエ変換の演算を表し、uはx方向の周波数座標、括弧を伴うδはデルタ関数である。(式4)および(式5)で重要なことは、フーリエ変換後の式もまたフレネルゾーンプレートやガボールゾーンプレートとなっている点である。よって、(式4)および(式5)に基づいて、フーリエ変換後の現像用パターン801を直接的に生成してもよい。これにより演算量を低減可能である。次に、(式4)および(式5)を乗算すると、(式6)となる。
(式6)における指数関数で表された項exp(-iku)が信号成分であり、この項をフーリエ変換すると、(式7)のようになり、元のx軸においてkの位置に輝点を得ることができる。
この輝点が無限遠の光束を示しており、図1の撮像装置101による撮影像にほかならない。
なお、図24に示すように、撮影用パターン401と輝度パターン402のシフト量が、画像センサ103の1辺あたりの長さSに対して略半分以下であれば、良好な現像結果が得られる。このため、外界からの入射角をθ0_maxとすると、撮像装置の水平方向および垂直方向の画角は2θ0_maxとなる。
なお、相関現像方式ではパターンの自己相関関数が単一のピークを有するものであれば、フレネルゾーンプレートやガボールゾーンプレートに限定されないパターン、例えばランダムなパターンで実現しても良い。
〈ノイズキャンセル〉
前述の(式6)から(式7)への変換においては、信号成分に着目して説明したが、実際には、信号成分以外の項が現像を阻害する。そこで、フリンジスキャンに基づくノイズキャンセルを行う。フリンジスキャンのためには、撮影用パターン401として初期位相Φの異なる複数のパターンを使用する必要がある。図10に、複数のパターンの例を示す。ここでは、Φ=0、π/2、π、3π/2となる4位相を用いて撮影したセンサ画像を、(式8)に従って演算すると、複素数のセンサ画像(複素センサ画像)が得られる。
前述の(式6)から(式7)への変換においては、信号成分に着目して説明したが、実際には、信号成分以外の項が現像を阻害する。そこで、フリンジスキャンに基づくノイズキャンセルを行う。フリンジスキャンのためには、撮影用パターン401として初期位相Φの異なる複数のパターンを使用する必要がある。図10に、複数のパターンの例を示す。ここでは、Φ=0、π/2、π、3π/2となる4位相を用いて撮影したセンサ画像を、(式8)に従って演算すると、複素数のセンサ画像(複素センサ画像)が得られる。
ここで、複素数の現像用パターン801は、(式9)で表せる。
現像用パターン801は、フリンジスキャン処理内で使用するため、複素数であっても問題ない。複素センサ画像のフーリエ変換は(式10)のようになる。
また、現像用パターン801のフーリエ変換は、(式11)のようになる。
次に、(式10)および(式11)を乗算すると、(式12)となる。
(式12)における指数関数で表された項exp(-iku)が信号成分であり、(式6)のような不要な項が発生せず、ノイズキャンセルされていることが分かる。なお、以上の例では、4位相の複数のパターンを使用して説明したが、Φは0~2πの間の角度を等分するように設定すれば良く、この位相に限定するものではない。
このように、フリンジスキャンでは、撮影用パターン401として初期位相の異なる複数のパターンを使用する必要がある。本実施例では、空間分割でパターンを切り替えることでこれを実現する。
空間分割フリンジスキャンを実現する場合、図11に示す複数の初期位相を有するパターン1101を備えた撮影用パターン401が使用される。1枚の画像を取得後、画像処理部105は、それぞれの初期位相のパターンに対応して4枚に分割した後、フリンジスキャン演算を実施する。
空間分割フリンジスキャンを実施する場合、1枚の画像を4分割するため、それぞれの初期位相パターンに対応する画像センサのサイズは1辺あたり1/2となる。このため、図24において長さSを画像センサ103の1辺あたりの長さの1/2と置き換えると、空間分割フリンジスキャンを用いる撮像装置101における水平方向および垂直方向の画角は2θ0_maxとして表される。
なお、空間分割フリンジスキャンでは、投影される撮影用パターンの中心位置が被写体までの距離に応じて変化するため、フリンジスキャンを機能させるためには、中心位置変化の補正が必要である。よって、後述のピント位置の設定に応じて、画像処理部105における画像分割の分割領域を変えても良い。また、画像処理部105における画像分割の分割領域は一定のまま、後述のピント位置の設定に応じて、現像用パターンの中心座標をシフトさせることで、中心位置変化を補正しても良い。
<空間分割フリンジスキャンの問題点>
以上の構成で撮影を行う際、図4のように入射光が光変調部104に対して斜めに入射すると、画像センサ103の受光面上に形成される輝度パターン402は、図12に示すように撮影用パターン401が左にシフトしたパターンとなる。このようにして取得した画像を、画像処理部105にてそれぞれの初期位相のパターンに対応して4枚に分割すると、図13に示すような4枚の画像に分割される。分割画像1301および1304は、対応する初期位相のパターンの投影像である信号成分に加え、それぞれの初期位相パターンの右隣に隣接した初期位相のパターンが投影される。このような隣接する初期位相パターンの映り込みを以降、クロストーク成分と称する。一方、分割画像1302および1303は、それぞれに対応する初期位相パターンの右隣にはパターンが描画されていないため、クロストーク成分は発生せず、このセンサ領域の輝度値はゼロとなる。
以上の構成で撮影を行う際、図4のように入射光が光変調部104に対して斜めに入射すると、画像センサ103の受光面上に形成される輝度パターン402は、図12に示すように撮影用パターン401が左にシフトしたパターンとなる。このようにして取得した画像を、画像処理部105にてそれぞれの初期位相のパターンに対応して4枚に分割すると、図13に示すような4枚の画像に分割される。分割画像1301および1304は、対応する初期位相のパターンの投影像である信号成分に加え、それぞれの初期位相パターンの右隣に隣接した初期位相のパターンが投影される。このような隣接する初期位相パターンの映り込みを以降、クロストーク成分と称する。一方、分割画像1302および1303は、それぞれに対応する初期位相パターンの右隣にはパターンが描画されていないため、クロストーク成分は発生せず、このセンサ領域の輝度値はゼロとなる。
このようにクロストーク成分の有無に差がある画像を用いてフリンジスキャンにより現像処理を行うと、以下に述べる理由で現像画像には輝度ムラが発生し、画質が大幅に劣化してしまう。図25は、センサ画像中の信号成分とクロストーク成分を一次元上にプロットした図である。破線2501は図13の点線1305に沿ってプロットしたもので、実線2502は図13の点線1306に沿ってプロットしたものである。複素センサ画像の実部はこれら2つの差分に相当するので、複素センサ画像中の信号成分とクロストーク成分を一次元上にプロットした図は図26の実線2601のようになる。図26によれば、複素センサ画像中の信号成分は値ゼロを中心とした信号であるのに対して、クロストーク成分は平均値がゼロからずれており、信号成分とクロストーク成分の間で一点鎖線2602のように平均値がステップ的に変化することが分かる。このようにクロストーク成分の影響で複素センサ画像中に輝度ムラが生じた結果、現像画像には輝度ムラが発生する。例えば、図14のような被写体を撮影および現像すると、図15のような現像画像が生成される。
<クロストーク成分有無の影響抑制方法>
前述のような画質劣化を抑制するため、光変調部104に形成される撮影用パターン401は、図19のように内部領域1901と外部領域1902からなるものとする。ここで、内部領域1901には、図11で示した複数の初期位相を有するパターン1101が描画されているものとする。すなわち、内部領域を通過する入射光が画像センサ103上に投影する輝度パターンは4つの同心円パターンからなり、4つの同心円パターンは、それぞれ中心座標からの距離に対してピッチが反比例して細かくなり、互いに重ならない。同心円形状なので製造や計算処理が容易であり、互いに重ならなので干渉ノイズの発生を防止できる。
前述のような画質劣化を抑制するため、光変調部104に形成される撮影用パターン401は、図19のように内部領域1901と外部領域1902からなるものとする。ここで、内部領域1901には、図11で示した複数の初期位相を有するパターン1101が描画されているものとする。すなわち、内部領域を通過する入射光が画像センサ103上に投影する輝度パターンは4つの同心円パターンからなり、4つの同心円パターンは、それぞれ中心座標からの距離に対してピッチが反比例して細かくなり、互いに重ならない。同心円形状なので製造や計算処理が容易であり、互いに重ならなので干渉ノイズの発生を防止できる。
また、外部領域1902を透過し、かつ、画像センサ103の受光面上に投影される入射光の平均輝度は、内部領域1901を透過し、かつ、画像センサ103の受光面上に投影される入射光の平均輝度と、略等しい輝度とする。ここで、略等しい輝度とは、それぞれの平均輝度が完全に一致している場合だけでなく、内部領域1901の平均輝度に対して、外部領域1902の平均輝度が90%以上110%以下の範囲にある場合も含まれる。
光変調部104が金属蒸着を用いた透過率変調型の場合、外部領域1902は所望の一様な透過率を有するように加工すれば良い。例えば、内部領域1901において、透過率が略0%の領域と透過率が略100%の領域がデューティ比1:1で配置されている場合、外部領域1902の透過率は略50%とする。このように、外部領域1902は、外部領域1902を通過する入射光に対して一様な透過率とすることで、光変調部104の加工が容易になる。一方、光変調部104がシリンドリカルレンズなどを用いた位相変調型の場合、外部領域1902はシリンドリカルレンズと同一の材質で形成された平行平板を用いることで実現できる。
外部領域1902の輝度をこのようにすることで、センサ画像中の信号成分とクロストーク成分を一次元上にプロットした図は、図27に示すようになる。破線2701は図13の点線1305に沿ってプロットしたもので、実線2702は図13の点線1306に沿ってプロットしたものである。複素センサ画像の実部はこれら2つの差分に相当するので、複素センサ画像中の信号成分とクロストーク成分を一次元上にプロットした図は図28のようになる。図28によれば、複素センサ画像中の信号成分とクロストーク成分はともに値ゼロを中心とした信号となり、図26で示したような平均値のステップ的な変化は生じていないことが分かる。
図19の撮影用パターン401を使用した撮像装置101で図14の被写体を撮影および現像すると、図16に示した現像画像1601が取得できる。この結果から、内部領域1901と外部領域1902を透過し、画像センサ103の受光面上に投影される入射光の輝度を略等しくすることで、クロストーク成分の有無の差を抑制し、現像画像の画質が向上することが分かる。
但し、現像画像1601には依然輝度ムラが残存している。これは、センサ画像に生じるクロストーク成分が、一様な透過率の外部領域1902を透過した入射光(一様クロストーク成分)と、内部領域1901を透過した、撮影用パターンで変調された入射光(高周波クロストーク成分)と、からなるためと考えられる。すなわち、前述の構成で取得したセンサ画像を4分割し、フリンジスキャンで複素センサ画像を生成すると、複素センサ画像に、以下の3種類のクロストーク成分が混在するため、現像画像に輝度ムラが残存すると考えられる。第1は、一様クロストーク成分同士の差分であり、第2は、高周波クロストーク成分同士の差分であり、第3は、一様クロストーク成分と高周波クロストーク成分間の差分、である。そこで、図33の処理フローで示したように、画像処理部105は、画像取得後にハイパスフィルタ処理を行った後、画像分割処理、フリンジスキャン処理、現像用パターンと相互相関演算による現像処理、をそれぞれ行う。このようにハイパスフィルタ処理を行うことで、センサ画像の輝度ムラを除去し、図16の現像画像1602に示すように、さらに輝度ムラを抑制した現像画像が得られる。
センサ画像のハイパスフィルタ処理では、センサ画像に対して所望の重み付け係数で移動平均を算出したり、所望のフィルタカーネルとの畳み込み計算をフーリエ変換で実現したりする。なお、センサ画像中の低周波信号の強度を減衰させることができれば、どのようにハイパスフィルタ処理であっても良い。例えば、図6に示すように撮影用パターン内の輝度パターンの最大ピッチをWmaxとした場合、センサ画像中で空間周波数が2π/Wmaxをカットオフ周波数とし、カットオフ周波数以下の成分を低周波信号、カットオフ周波数以上の成分を高周波信号とする。これにより、高周波信号に影響を与えずに、低周波信号を減衰させることができる。
なお、撮像装置101の画角全体で良好な現像画像を取得するには、図24に示すように、輝度パターン402が最大でS/2シフトした場合においてクロストーク成分の有無の差を抑制する必要がある。このため、光変調部104の外部領域1902は内部領域1901の周囲を幅S/2で囲むように配置すればよい。例えば、内部領域1901の縦方向の長さをL1、横方向の長さをL2とし、画像センサ103の縦方向の長さと横方向の長さが内部領域1901の縦方向の長さと横方向の長さと略等しい場合、図19に示すように、内部領域1901の左右両側に幅L2/4以上の外部領域1902を、内部領域1901の上下両側に幅L1/4以上の外部領域1902を、設ければ良い。
以上の構成によれば、空間分割フリンジスキャンを用いて、クロストーク成分の有無の影響を受けずに撮影可能なレンズレス撮像装置を実現することができる。
さらに、図32に示すように、内部領域1901内のパターン同士、および内部領域1901と外部領域1902、を区切る仕切り3201を、光変調部104と画像センサ103の間に配置することで遮光し、クロストーク成分の影響を抑制することも可能である。但し、画像センサ103は一般的に受光面の上にカバーガラスなどが配置されており、仕切り3201と画像センサ103の受光面を密着させることができず、一部のクロストーク成分はセンサ画像内に残留してしまう。この場合も、本実施例の構成によってクロストーク成分の有無の影響を抑制することで、センサ画像内に残留したクロストーク成分の影響を抑制できる。
なお、光変調部104が金属蒸着などによる2値の透過率変調パターンとする場合、一様な透過率変調で、外部領域1902を透過した入射光の平均輝度を、内部領域1901を透過した入射光の平均輝度と一致させるには、外部領域1902が、内部領域1901における2値の透過率の中間の透過率を有するように加工する必要がある。このような3値以上の透過率変調は、金属蒸着を用いる場合、膜厚の変更で透過率を変更することができるが、製造時のコスト増加につながるという欠点がある。このため、外部領域1902における透過率変調は、一様な透過率変調の代わりに、2値のランダムな透過率パターンや2値の格子状の透過率パターンとし、これらのパターンのデューティ比を適切な値に設定することで、製造コストを抑制しつつ所望の透過率変調を実現しても良い。
例えば、外部領域1902の透過率略50%にするには、図29に示したように、透過率略100%の領域と透過率略0%の領域をデューティ比1:1でランダムに配置すれば良い。その他にも、図30に示したように、透過率略100%の領域と透過率略0%の領域をデューティ比3:1でランダムに配置し、透過率略75%の外部領域1902を実現しても良いし、図31に示したように、透過率略100%の領域と透過率略0%の領域をデューティ比1:3でランダムに配置し、透過率略25%の外部領域1902を実現しても良い。また、外部領域1902における透過率変調が格子状のパターンの場合、例えば図34~図36に示すようなパターンを用い、内部領域1901を透過かつ画像センサ103の受光面上に投影される入射光の平均輝度に基づいて、透過率略100%の領域と透過率略0%の領域のデューティ比を決定すれば良い。
実施例1では、光変調部104の外部領域1902は一様の透過率を有することで、クロストーク成分の有無の影響を抑制した。したがって、実施例1において良好な現像画像を取得するには、画像処理部105でセンサ画像にハイパスフィルタ処理を適用する必要があった。
実施例2は、内部領域1901における同心円パターンと同様の同心円パターンを、外部領域1902にも敷き詰めるなどにより、外部領域1902が入射光に対して加える変調と、内部領域1901が入射光に対して加える変調と、の間の差を低減する。具体的には、図20に示すように、外部領域1902を通過する入射光が画像センサ103上に投影する輝度パターンが12個の同心円パターンからなり、12個の同心円パターンは、それぞれの中心座標からの距離に対してピッチが反比例して細かくなり、互いに重ならない。このような構成とすることで、複素センサ画像中に生じるクロストーク成分を高周波クロストーク成分同士の差分のみの1種類に揃えることができ、センサ画像にハイパスフィルタ処理を適用せずとも、良好な画質の現像画像を取得することが可能となる。
図17に、実施例2の光変調部104を用いて撮影および現像した結果を示す。このように、複素センサ画像中のクロストーク成分の種類を揃えることで、ハイパスフィルタ処理を適用せずとも良好な画質の現像画像が取得できることが分かる。
なお、外部領域1902が入射光に対して加える変調は、内部領域1901が加える変調そのものである必要はなく、異なる初期位相を有するパターンの変調を加えることで実現しても良い。
実施例2では、外部領域1902が入射光に対して加える変調パターンの初期位相は任意のものとした。実施例3では、クロストーク成分の影響を最小限に抑制するために、初期位相の配置を工夫する。
クロストーク成分の影響を最小限に抑制するためには、フリンジスキャン処理で分割したセンサ画像同士の差分を取り、複素センサ画像を生成する際に、クロストーク成分同士の差分がゼロとなる組み合わせの数を最大化すれば良い。
図21は、複素センサ画像を生成する際に、クロストーク成分同士の差分がゼロとなる組み合わせの数を最大化する、変調パターンの配置の一例を示す。図22は、図21の変調パターンの初期位相の配置を図示したものである。変調パターンは、4×4の領域に分割されており、それぞれ特定の初期位相のパターンで入射光を変調する。4×4の領域のうち内側の2×2の領域は、内部領域1901に相当し、4つの同心円パターンの中心座標はそれぞれの領域の中心に位置している。また、内部領域1901の各領域のパターンの初期位相は、左上が0、右上がπ/2、右下がπ、左下が3π/2であり、隣接したパターン同士の初期位相の差がπ/2となっているため、隣接するパターン同士の影響が抑えられる。一方、外側の12個の領域は、外部領域1902に相当し、左上から時計回りにそれぞれ、0、π/2、0、π/2、π、π/2、π、3π/2、π、3π/2、0、3π/2の初期位相パターンで入射光を変調する。すなわち、外部領域1902についても、12個の領域のうち隣接した領域の同心円パターンは、初期位相が互いにπ/2異なるので、隣接するパターン同士の影響が抑えられる。
したがって、本実施例では、4×4の領域のうち、1行1列目、1行3列目、2行2列目および3行1列目の領域を透過する入射光が画像センサ103上に投影する同心円パターンは、初期位相が等しくなる。また、4×4の領域のうち、1行2列目、1行4列目、2行3列目および3行4列目の領域を透過する入射光が前記画像センサ上に投影する同心円パターンも、初期位相が等しくなる。さらに、4×4の領域のうち、2行4列目、3行3列目、4行2列目および4行4列目の領域を透過する入射光が前記画像センサ上に投影する同心円パターンも、初期位相が等しくなる。そして、4×4の領域のうち、2行1列目、3行2列目、4行1列目および4行3列目を透過する入射光が前記画像センサ上に投影する同心円パターンも、初期位相が等しくなる。なお、4×4の領域は、等サイズの四角形に分割されて形成されているので、内部領域1901および外部領域1902に無駄なく敷き詰めることができる。
前述の構成で取得したセンサ画像は、画像処理部105で分割され、フリンジスキャン処理が行われる。図23における、配列2301、2302、2304および2305は、それぞれ初期位相0、π、3π/2、π/2に対応する分割後のセンサ画像内に含まれる信号成分とクロストーク成分とそれらの位置関係を図示したものである。3×3の各配列における、中心の配列要素は信号成分の初期位相に対応し、外側の配列要素はクロストーク成分に対応する。フリンジスキャン処理では、初期位相0の信号成分と初期位相πの信号成分の差分を算出することで、実部信号成分を生成し、初期位相3π/2の信号成分と初期位相π/2の信号成分の差分を算出することで、虚部信号成分を生成する。このため、複素センサ画像は、実部が配列2303、虚部が配列2306でそれぞれ示した信号成分と、クロストーク成分と、を有することとなる。このように、複素センサ画像の実部および虚部に含まれるクロストーク成分の大半は差分算出時に打ち消しあい、実部および虚部を併せて75%のクロストーク成分を打ち消すことができる。
図18に、実施例3の光変調部104を用いて撮影および現像した結果を示す。図18に示すように、複素センサ画像に含まれるクロストーク成分の大半が打ち消しあう初期位相パターンの配置をとることで、実施例2の方法で得られる現像画像である図17よりもさらに良好な画質の現像画像を取得できる。
なお、光変調部104が入射光に対して加える変調パターンの配置は、本実施例に示したものに限らず、内部領域1901内の互いに隣接しあった初期位相パターンの位相がπ/2ずつ異なり、外部領域1902内の初期位相パターンと内部領域の初期位相パターンのうち同じ初期位相パターンが図22と同様の位置関係で配置されていれば、どのようなパターンであっても良い。
なお、本発明は上記の実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。さらに、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
101・・・撮像装置、102・・・撮像部、103・・・画像センサ、103a・・・画素、104・・・光変調部、105・・・画像処理部、106・・・コントローラ、301・・・輝度パターン、401・・・撮影用パターン、402・・・輝度パターン、801・・・現像用パターン、1101・・・複数の初期位相を有するパターン、1301~1304・・・分割画像、1601,1602・・・現像画像、1901・・・内部領域、1902・・・外部領域、3201・・・仕切り
Claims (14)
- 光を電気信号に変換し、センサ画像を生成する画像センサと、
前記画像センサ上に投影される光を変調する光変調部と、
前記センサ画像に基づいて像を復元する画像処理部と、を有し、
前記光変調部には内部領域と外部領域があり、前記内部領域を通過かつ前記画像センサ上に投影される光の平均輝度と、前記外部領域を通過かつ前記画像センサ上に投影される光の平均輝度と、が略等しいことを特徴とする撮像装置。 - 請求項1に記載の撮像装置において、
前記光変調部は、前記内部領域を通過する入射光に対して強度変調を加えることを特徴とする撮像装置。 - 請求項1に記載の撮像装置において、
前記光変調部は、前記内部領域を通過する入射光に対して位相変調を加えることを特徴とする撮像装置。 - 請求項1に記載の撮像装置において、
前記外部領域は、前記外部領域を通過する入射光に対して一様な透過率であることを特徴とする撮像装置。 - 請求項2に記載の撮像装置において、
前記外部領域を通過する入射光に対してランダムまたは格子状の透過率パターンで強度変調を加え、
前記透過率パターンのデューティ比は、前記内部領域を通過かつ前記画像センサ上に投影される光の平均輝度に基づいて決定されることを特徴とする撮像装置。 - 請求項4に記載の撮像装置において、
前記画像処理部は、前記センサ画像に対してハイパスフィルタ処理を行うことを特徴とする撮像装置。 - 請求項6に記載の撮像装置において、
前記ハイパスフィルタ処理のカットオフ周波数は、前記内部領域を通過する入射光が前記画像センサ上に投影する輝度パターンの最大ピッチに基づいて決定されることを特徴とする撮像装置。 - 請求項1に記載の撮像装置において、
前記内部領域の縦方向の長さをL1、横方向の長さをL2としたとき、前記外部領域は、前記内部領域の縦方向両側に幅L1/4以上の長さ、前記内部領域の横方向両側にL2/4以上の長さ、を有することを特徴とする撮像装置。 - 請求項1に記載の撮像装置において、
前記内部領域を通過する入射光が前記画像センサ上に投影する輝度パターンは4つの同心円パターンからなり、
前記4つの同心円パターンは、それぞれの中心座標からの距離に対してピッチが反比例して細かくなり、互い重ならないことを特徴とする撮像装置。 - 請求項9に記載の撮像装置において、
前記外部領域を通過する入射光が前記画像センサ上に投影する輝度パターンは12個の同心円パターンからなり、
前記12個の同心円パターンは、それぞれの中心座標からの距離に対してピッチが反比例して細かくなり、互い重ならないことを特徴とする撮像装置。 - 請求項9に記載の撮像装置において、
前記内部領域は等サイズの4つの領域に分割され、
前記4つの同心円パターンの中心座標はそれぞれ前記4つの領域の中心に位置し、
前記4つの領域のうち互いに隣接した領域の同心円パターンは、初期位相が互いにπ/2異なることを特徴とする撮像装置。 - 請求項1に記載の撮像装置において、
前記光変調部は4×4の等サイズの四角形の領域に分割され、
前記4×4の等サイズの四角形の領域のうち内側の2×2の領域を前記内部領域とし、
前記4×4の等サイズの四角形の領域のうち外側の12個の領域を前記外部領域とし、
前記4×4の等サイズの四角形の領域それぞれを通過する入射光が前記画像センサ上に投影する輝度パターンは、前記4×4の等サイズの四角形の領域それぞれの中心座標からの距離に対してピッチが反比例して細かくなる同心円パターンであり、
前記4×4の等サイズの四角形の領域のうち、互いに隣接した領域を透過する入射光が前記画像センサ上に投影する前記同心円パターンの初期位相は互いにπ/2異なることを特徴とする撮像装置。 - 請求項12に記載の撮像装置において、
前記4×4の等サイズの四角形の領域のうち、1行1列目、1行3列目、2行2列目および3行1列目の領域を透過する入射光が前記画像センサ上に投影する前記同心円パターンは初期位相が等しく、
前記4×4の等サイズの四角形の領域のうち、1行2列目、1行4列目、2行3列目および3行4列目の領域を透過する入射光が前記画像センサ上に投影する前記同心円パターンは初期位相が等しく、
前記4×4の等サイズの四角形の領域のうち、2行4列目、3行3列目、4行2列目および4行4列目の領域を透過する入射光が前記画像センサ上に投影する前記同心円パターンは初期位相が等しく、
前記4×4の等サイズの四角形の領域のうち、2行1列目、3行2列目、4行1列目および4行3列目を透過する入射光が前記画像センサ上に投影する前記同心円パターンは初期位相が等しいことを特徴とする撮像装置。 - 請求項1に記載の撮像装置において、
前記内部領域を通過する入射光が前記画像センサ上に投影する輝度パターンは複数の同心円パターンからなり、
前記光変調部と前記画像センサの間には仕切りがあり、
前記仕切りは、前記内部領域の前記同心円パターン同士、および、前記内部領域と前記外部領域、を区切るように配置されていることを特徴とする撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021087496A JP2022180800A (ja) | 2021-05-25 | 2021-05-25 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021087496A JP2022180800A (ja) | 2021-05-25 | 2021-05-25 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022180800A true JP2022180800A (ja) | 2022-12-07 |
Family
ID=84327557
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021087496A Pending JP2022180800A (ja) | 2021-05-25 | 2021-05-25 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022180800A (ja) |
-
2021
- 2021-05-25 JP JP2021087496A patent/JP2022180800A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6685887B2 (ja) | 撮像装置 | |
JP6820908B2 (ja) | 撮像装置 | |
JP6491332B2 (ja) | 撮像装置 | |
JP6721698B2 (ja) | 撮像装置 | |
US20180095200A1 (en) | Imaging Device and Imaging Method | |
JP6646619B2 (ja) | 撮像装置 | |
CN110324513B (zh) | 摄像装置,摄像模块和摄像方法 | |
JP2023016864A (ja) | 撮像装置および方法 | |
JP6864604B2 (ja) | 撮像装置 | |
JP7097787B2 (ja) | 撮像装置および撮像方法 | |
JP6947891B2 (ja) | 携帯情報端末 | |
JP2022180800A (ja) | 撮像装置 | |
JP6770164B2 (ja) | 撮像装置 | |
JP2019149674A (ja) | 撮像装置、撮像方法、および画像処理装置 | |
JP2019029681A (ja) | 撮像装置及び撮像方法 | |
JP7389195B2 (ja) | 画像生成方法 | |
JP6636663B2 (ja) | 撮像装置及び画像生成方法 | |
CN110278350B (zh) | 摄像装置 | |
JP2021064000A (ja) | 撮像装置 | |
JP2020098963A (ja) | 撮像装置 |