JP2021064000A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2021064000A
JP2021064000A JP2021000058A JP2021000058A JP2021064000A JP 2021064000 A JP2021064000 A JP 2021064000A JP 2021000058 A JP2021000058 A JP 2021000058A JP 2021000058 A JP2021000058 A JP 2021000058A JP 2021064000 A JP2021064000 A JP 2021064000A
Authority
JP
Japan
Prior art keywords
image
grid
light
sensor
lattice
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021000058A
Other languages
English (en)
Inventor
島野 健
Takeshi Shimano
健 島野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2021000058A priority Critical patent/JP2021064000A/ja
Publication of JP2021064000A publication Critical patent/JP2021064000A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】 光利用効率の低下を軽減し、相互の同心円格子パターンの干渉ノイズが生じない撮像装置を提供する。【解決手段】 撮像装置は、結像レンズを用いない撮像装置であって、第1の格子パターンを用いて前記第1の格子パターンの影を作ることにより光の強度を変調する変調部と、前記変調部を透過した光を電気信号に変換し、センサ画像を生成する画像センサと、前記画像センサより出力された出力画像に対して画像処理を施す画像処理部と、を備え、前記第1の格子パターンは、複数の同心円パターンで構成され、前記同心円パターンは、基準座標からの距離に対してピッチが反比例して細かくなる複数の同心円からそれぞれ構成されており、複数の前記同心円パターンは、前記第1の格子パターン内で互いに重ならず、前記第1の格子パターンは、前記結像レンズとは異なるシリンドリカルレンズによって形成され、回折によるぼけを軽減することを特徴とする。【選択図】 図1

Description

本発明は撮像カメラなどの撮像装置、および特にその薄型化に関する。
スマートフォンなどに搭載するカメラや、360°センシングが必要となりつつある車載カメラでは薄型化が必要であり、米国特許出願US2014/0253781A1(特許文献1)などでは、画像センサに特殊な回折格子基板を貼り付け、レンズを用いることなく、回折格子基板を透過する光がセンサ上で生じる射影パターンから、入射光の入射角を逆問題演算により求めることで、外界の物体の像を得る方法について記載されている。
また米国特許出願US2015/0219808A1(特許文献2)などでは、前記回折格子基板として中心から外側に向けてピッチが細かくなる同心円状の格子パターンを用いることが記載されている。
米国特許出願US2014/0253781A1 米国特許出願US2015/0219808A1
特許文献1では、画像センサに貼り付ける基板上面に形成する回折格子のパターンが渦巻き状などの特殊な格子パターンであり、センサで受光される射影パターンから、像を再生するための逆問題を解く演算が複雑になるという問題点があった。
特許文献2では、前記同心円状格子パターンが複数オーバーラップしている回折格子を用いているため、透過率が低下するとともに、相互の同心円格子パターンが干渉し、再生画像のノイズ増大を招く懸念がある。
そこで本発明では、光線の入射角度の検出の容易な技術を提供するとともに、その時の光利用効率の低下を軽減し、相互の同心円格子パターンの干渉ノイズが生じない撮像装置を提供することを目的とする。
上記課題を解決するための、本発明の一態様に係る撮像装置は、結像レンズを用いない撮像装置であって、第1の格子パターンを用いて前記第1の格子パターンの影を作ることにより光の強度を変調する変調部と、前記変調部を透過した光を電気信号に変換し、センサ画像を生成する画像センサと、前記画像センサより出力された出力画像に対して画像処理を施す画像処理部と、を備え、前記第1の格子パターンは、複数の同心円パターンで構成され、前記同心円パターンは、基準座標からの距離に対してピッチが反比例して細かくなる複数の同心円からそれぞれ構成されており、複数の前記同心円パターンは、前記第1の格子パターン内で互いに重ならず、前記第1の格子パターンは、前記結像レンズとは異なるシリンドリカルレンズによって形成され、回折によるぼけを軽減することを特徴とする。
本発明によれば、高速フーリエ変換(FFT)などの簡単な演算で外界の物体像を得ることができる。また光の透過率の低下を軽減し、再生画像に残留する相互にオーバーラップする同心円格子パターンの干渉ノイズをなくすことができる。
レンズを用いないので、レンズの経時的な劣化やずれなどに起因した画質低下が懸念される車載カメラや監視カメラなどのメンテナンスフリー化にも有効である。
上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
本発明の基本的な実施形態を示す図 本発明の基本的な実施形態により外界の物体の映像を撮影する様子を示す図 斜め入射平行光による格子基板表面から裏面への射影像が面内ずれを生じることを説明する図 格子基板両面の格子の軸がそろった場合のモアレ縞の生成と周波数スペクトルを説明する模式図 表面格子と裏面格子の軸をずらして配置する場合の模式図 格子基板両面の格子をずらして配置する場合のモアレ縞の生成と周波数スペクトルを説明する模式図 垂直入射平面波とその他9個の異なる入射角の平面波の計10個の光で照射したときの空間周波数スペクトル像の計算結果を示す図 垂直入射平面波とその他9個の異なる入射角の平面波の計10個の光で照射したときの空間周波数スペクトル像の計算結果を示す鳥瞰図 物体を構成する各点からの光がセンサに対してなす角を説明する図 2枚の格子パターンを横方向にずらす場合の空間周波数スペクトルを示す図 2枚の格子パターンを縦方向にずらす場合の空間周波数スペクトルを示す図 裏面側格子パターンをセンサ感度分布で実現する場合の実施例を示す図 結像する物体が有限距離にある場合に表側格子パターンの裏面への射影が表側格子パターンより拡大されることを示す図 表面格子パターンを液晶素子によりサイズ可変で表示させる実施例を示す図 表側格子をシリンドリカルレンズアレイによって実現する場合の実施例を示す図 本発明の撮像装置を搭載したスマートフォンの実施例を示す図 実施例1の画像処理回路ブロック図 実施例3の画像処理回路ブロック図 実施例4の画像処理回路ブロック図 実施例7の3×3分割の格子パターンを示す図 実施例7の3×3分割の格子パターンの両面の初期位相の配置を示す図 実施例7の3×3分割の両面格子に単一点光源からの光が入射して生じるモアレ縞の画像を示す図 実施例7によるノイズ低減画像処理を施して得られたモアレ縞の画像を示す図 実施例7の画像処理回路ブロック図 実施例8の2×2分割の格子パターンを示す図 実施例8によるノイズ低減画像処理を施して得られたモアレ縞の画像を示す図 実施例8の画像処理回路ブロック図 本発明の撮像装置を車載カメラとして搭載した自動車の実施例を示す図
以下、図面を用いて実施例を説明する。
<実施例1>
図1は、本発明の基本的な構成図である。撮像装置101は、両面格子基板102、画像センサ103、画像処理回路106から構成される。両面格子基板102は画像センサ103の受光面に密着して固定されており、両面格子基板102の表面には、外に向かうほど中心からの半径に反比例して格子間隔(ピッチ)が狭くなる同心円状の格子パターン104が形成されている。また裏面の、画像センサ103の受光面に接する面にも、同様の格子パターン105が形成されている。これらの格子パターンを透過する光は、その格子パターンによってその強度が変調される。透過した光は画像センサ103で受光され、その画像信号は、画像処理回路106によって画像処理され、モニタディスプレイ107などに出力される。通常の撮像装置はセンサの前に結像のためのレンズが必要であるが、本発明ではレンズを必要とせずに外界の物体の画像を取得することができる。このとき同心円状格子パターン104は、同心円を構成する各リングパターンに同じ面内で交差する他の格子パターンがなく、格子パターン間の不要な干渉を生じず、光利用効率の低下を抑えることができる。
図2は、図1の撮像装置で実際に被写体201を撮影してモニタディスプレイ107に出力している様子を示している。被写体201に対して両面格子基板102の格子面を正対させて撮影する。
図17は、画像処理回路106の処理の内容を示すブロック図である。入力するモアレ縞画像に対して、カラーのRGB各成分ごとに2次元FFT演算を行い、周波数スペクトルを求める。その片側周波数のデータを切り出し、強度計算を行う。さらに得られた画像に対してノイズ除去、コントラスト強調処理などを行い、カラーバランスを調整し、撮影画像として出力する。
以下、撮影原理について説明する。
まず中心からの半径に対して反比例してピッチが細かくなる同心円状の格子パターンを、以下のように定義する。レーザー干渉計などにおいて、平面波に近い球面波と、参照光として用いる平面波を干渉させる場合を想定する。同心円の中心の基準座標からの半径をr、そこでの球面波の位相をφ(r)とするとき、これを波面の曲がりの大きさを決める係数βを用いて
Figure 2021064000
と表せる。球面波にも関わらず、半径rの2乗で表されているのは、平面波に近い球面波のため、展開の最低次のみで近似できるからである。この位相分布を持った光に平面波を干渉させると、
Figure 2021064000
のような干渉縞の強度分布が得られる。これは
Figure 2021064000
を満たす半径位置で明るい線を持つ同心円の縞となる。縞のピッチをpとすると、
Figure 2021064000
が得られ、ピッチは半径に対して反比例して狭くなっていくことがわかる。このような縞はフレネルゾーンプレートと呼ばれる。このように定義される強度分布に比例した透過率分布をもった格子パターンを、図1に示した格子パターン104、105として用いる。
このような格子が両面に形成された厚さtの基板に、図3に示すように角度θ0で平行光が入射したとすると、基板中の屈折角をθとして幾何光学的には表面の格子の透過率が乗じられた光が、δ=t・tanθだけずれて裏面に入射し、仮に2つの同心円格子の中心がそろえて形成されていたとすると、裏面の格子の透過率がδだけずれて掛け合わされることになる。このとき、
Figure 2021064000
のような強度分布が得られる。この展開式の第4項が、2つの格子のずれの方向にまっすぐな等間隔の縞模様を、重なり合った領域一面に作ることがわかる。このような縞と縞の重ね合わせによって相対的に低い空間周波数で生じる縞はモアレ縞と呼ばれる。このようにまっすぐな等間隔の縞は、検出画像の2次元フーリエ変換によって得られる空間周波数分布に鋭いピークを生じる。その周波数の値からδの値、すなわち光線の入射角θを求めることが可能となる。このような全面で一様に等間隔で得られるモアレ縞は、同心円状の格子配置の対称性から、ずれの方向によらず同じピッチで生じることは明らかである。
このような縞が得られるのは、格子パターンをフレネルゾーンプレートで形成したことによるものであり、これ以外の格子パターンで、全面で一様な縞を得るのは不可能と考えられる。第2項でもフレネルゾーンプレートの強度がモアレ縞で変調された縞が生じることがわかるが、2つの縞の積の周波数スペクトルは、それぞれのフーリエスペクトルのコンボリューションとなるため、鋭いピークは得られない。(5)式から鋭いピークを持つ成分のみを
Figure 2021064000
のように取り出すと、そのフーリエスペクトルは、
Figure 2021064000
のようになる。ただしここで、Fはフーリエ変換の演算を表し、u、vはx、y方向の空間周波数座標、括弧を伴うδはデルタ関数である。この結果から、検出画像の空間周波数スペクトルにおいて、モアレ縞の空間周波数のピークがu=±δβ/πの位置に生じることがわかる。
その様子を図4に示す。図は左から光線と基板の配置図、モアレ縞、空間周波数スペクトルの模式図であり、上が(a)垂直入射、中段が(b)左側から角度θで光線が入射する場合、下段が(c)右側から角度θで光線が入射する場合である。格子基板102上の表側格子104と裏側格子105は軸がそろっている。(a)では表側格子104と裏側格子の影が一致するのでモアレ縞は生じない。(b)と(c)では表側格子104と裏側格子のずれが等しいため、同じモアレが生じ、空間周波数スペクトルのピーク位置も一致し、空間周波数スペクトルからは光線の入射角が(b)なのか(c)なのかを判別することができなくなる。
これを避けるためには、基板に垂直に入射する光線に対しても2つの格子の影がずれて重なるよう、図5に示すように、あらかじめ2つの格子は光軸に対して相対的にずらしておくことが必要である。軸上の垂直入射平面波に対して2つの格子の影の相対的なずれをδ0とするとき、入射角θの平面波によって生じるずれδは
Figure 2021064000
のように表せる。このとき、入射角θの光線のモアレ縞の空間周波数スペクトルのピークは周波数のプラス側では
Figure 2021064000
の位置となる。画像センサの大きさをS、x、y各方向の画素数を共にNとすると、高速フーリエ変換(FFT)による離散画像の空間周波数スペクトルは、−N/(2S)から+N/(2S)の範囲で得られることから、プラス側の入射角とマイナス側の入射角を均等に受光することを考えれば、垂直入射平面波(θ=0)によるモアレ縞のスペクトルピーク位置は原点(DC)位置と、例えば+側端の周波数位置との中央位置、すなわち
Figure 2021064000
の空間周波数位置とするのが妥当である。したがって、2つの格子の相対的な中心位置ずれは
Figure 2021064000
とするのが妥当である。
あらかじめ表側格子104と裏側格子105をずらした場合の、光線と基板の配置、およびモアレ縞とその空間周波数スペクトルの模式図を図6に示す。図4と同様にして左側に光線と基板の配置図、中央列がモアレ縞、右側が空間周波数スペクトル、上段が光線が(a)垂直入射の場合、中段が(b)左側から角度θで入射する場合、下段が(c)右側から角度θで入射する場合である。表側格子104と裏側格子105はあらかじめδ0だけずらして配置されているため、(a)でもモアレ縞が生じ、空間周波数スペクトルにピークが現れる。そのずらし量δ0は上記したとおり、ピーク位置が原点から片側のスペクトル範囲の中央に現れるように設定されている。このとき(b)ではずれδがさらに大きくなる方向、(c)では小さくなる方向となっているため、図4と異なり(b)と(c)の違いがスペクトルのピーク位置から判別できる。このピークのスペクトル像がすなわち無限遠の光束を示す輝点であり、本発明の撮像装置による撮影像にほかならない。
受光できる平行光の入射角の最大角度をθmaxとすると、
Figure 2021064000
より、本発明の撮像装置で受光できる最大画角は
Figure 2021064000
で与えられる。通常のレンズを用いた結像との類推から、画角θmaxの平行光をセンサの端で焦点を結んで受光すると考えると、レンズを用いない本願の結像光学系の実効的な焦点距離は、
Figure 2021064000
に相当すると考えることができる。
なお(2)式で示したように格子の透過率分布は、基本的に正弦波的な特性があることを想定しているが、格子の基本周波数成分としてそのような成分があれば、格子の透過率を2値化して、透過率が高い格子領域と低い領域のdutyを変えて、透過率の高い領域の幅を広げて透過率を高めることも考えられる。
以上の説明では、いずれも入射光線は同時には1つの入射角度だけであったが、実際に本願発明がカメラとして作用するためには、複数の入射角度の光が同時に入射する場合を想定しなければならない。このような複数の入射角の光は裏側格子に入射する時点ですでに複数の表側格子104の像を重なり合わせることになる。もしこれらが相互にモアレ縞を生じると、信号成分である裏面格子とのモアレ縞の検出を阻害するノイズとなることが懸念される。しかし実際は表側格子104の像どうしの重なりはモアレ像のピークを生じず、ピークを生じるのは裏側格子との重なりだけになる。その理由について以下、説明する。まず、複数の入射角の光線による表側格子104の影どうしの重なりは積ではなく和であることが大きな違いである。1つの入射角の光による表側格子104の影と裏側格子105の重なりでは、表側の影である光の強度分布に、裏側格子105の透過率を乗算することで、裏側格子105を透過したあとの光強度分布が得られる。これに対して、表側格子104に複数入射する角度の異なる光による影どうしの重なりは、光の重なり合いなので、積ではなく、和になるのである。和の場合は
Figure 2021064000
のように、もとのフレネルゾーンプレートの格子の分布に、モアレ縞の分布を乗算した分布となる。したがってその周波数スペクトルはそれぞれの周波数スペクトルの重なり積分で表されるため、たとえモアレのスペクトルが単独で鋭いピークをもったとしても、実際上その位置にフレネルゾーンプレートの周波数スペクトルのゴーストが生じるだけである。つまりスペクトルに鋭いピークは生じない。したがって複数の入射角の光を入れても検出されるモアレ像のスペクトルは常に表側格子104と裏側格子105の積のモアレだけであり、裏側格子105が単一である以上、検出されるスペクトルのピークは1つの入射角に対して1つだけとなるのである。
以下、原理を確認するために、行ったシミュレーションの結果を図7、図8に示す。
いずれもセンササイズ20ミリメートル四方、視野角θmax=±70°、入射側および出射側格子係数β=50(rad/mm2)、δ0=0.8mm、画素数1024×1024、基板厚さ1mm、基板屈折率1.5のときに、垂直入射平面波と、θx=50°、θy=30°の入射光と、θx=−30°、θy=70°の入射光と、θx=10°、θy=−20°の入射光と、θx=20°、θy=30°の入射光と、θx=30°、θy=−40°の入射光と、θx=−10°、θy=40°の入射光と、θx=−20°、θy=−30°の入射光と、θx=−30°、θy=0°の入射光と、θx=40°、θy=50°の入射光と、の合計10個の平面波を入射させたときのスペクトルである。図7はスペクトル画像の白黒反転像、図8はスペクトル画像の輝度の鳥瞰図である。元のモアレ像自体は、格子ピッチも細かく、本明細書図面として表示しても視認できないため省略した。図中、中心がDC成分、周辺が±N/2Sの空間周波数スペクトル領域の全域を表示している。DC成分は値が大きいため、マスキングをして取り除き、検出すべきピーク成分のみを表示している。さらにそのままではスペクトルのピーク幅が狭く、視認しにくいため、コントラストを強調している。また図7では当該信号ピークの位置を○印で囲んで表示している。図8の鳥瞰図はそのままでは描線がピークを通らずに表示できないので、メッシュサイズの平均化フィルタをかけた結果を表示している。いずれも基本的に10本のピークが原点を挟んで正負両側に計20本のピークとして検出できていることを示している。本実施例では格子パターンの最外周のピッチが約6μm、実効的焦点距離は12.4mmであった。
ここで、これまで検出することを説明してきた平行光と、実際の物体からの光との対応を図9を用いて模式的に説明する。物体201を構成する各点からの光は、厳密には点光源からの球面波として、本発明の撮像装置の格子センサ一体基板901に入射する。このとき物体に対して格子センサ一体基板901が十分に小さい場合や、十分に遠い場合には、各点から、格子センサ一体基板901を照明する光の入射角が同じとみなすことができる。(9)式から求められる微小角度変位Δθに対するモアレの空間周波数変位Δuが、センサの空間周波数の最小解像度である1/S以下となる関係から、Δθが平行光とみなせる条件は
Figure 2021064000
のように表せる。これから、たとえば本実施例の条件においてはΔθ<0.18°であり、これは20mmのセンササイズであれば被写体から6m離れれば実現できる条件である。
以上の結果の類推から、無限遠の物体に対して本発明の撮像装置で結像が可能であることがわかる。
<実施例2>
本実施例では出力画像を横長とする場合について説明する。前述の実施例では、図10に示すように表側格子104と裏側格子105を左右にずらしていた。このときセンサの形状を正方形としており、その画素ピッチもx方向とy方向で同じとすると、図の右側に示すように、センサ出力の空間周波数スペクトルはx、y両方±N/Sの周波数範囲内で、像が左右に分離して再生されていることになる。しかし、これだと、像の画像は基本的に縦長のエリアに限定されることになる。一般にカメラで取得される画像は横長の長方形であるので、それに適した配置としては図11のようにするのが望ましい。このとき、表側格子104と裏側格子105は上下にずれており、センサ出力の空間周波数空間に形成される画像は上下に分離することになる。このようにすれば出力画像は横長とすることができる。
<実施例3>
本実施例では処理画像の中で仮想的にモアレを生じさせる場合について説明する。前述の実施例では、格子基板の表側と裏側に同一の格子を互いにずらして配置することにより、入射する平行光の角度をモアレ縞の空間周波数スペクトルから検知して、像を構成していた。本実施例の違いは構成上裏面格子105はなく、裏側格子105の役割を画像処理部で行うことである。裏側の格子はセンサに密着して入射する光の強度を変調する光学素子であるため、センサの感度を実効的に裏側の格子の透過率を加味して設定することで、処理画像の中で仮想的にモアレを生じさせることができる。図12は、格子基板の裏面に裏面格子105がない場合の実施形態である。このようにすると形成する格子を1面減らすことができるので、素子の製造コストを減じることができる。しかしこのとき、センサの画素ピッチは格子ピッチを十分再現できる程度に細かいか、格子ピッチがセンサの画素ピッチで再現できる程度に粗いことが必要である。格子を基板の両面に形成する場合は、必ずしも格子のピッチがセンサの画素で解像できる必要はなく、そのモアレ像だけが解像できればよいので、センサピッチとは独立に格子ピッチを決めることができる。しかし、センサで格子を再現する場合は、格子とセンサの解像度は同等である必要がある。画像処理回路1201には、図18に示すように、センサ出力画像に対してモアレを生成するための裏面格子に相当する裏面格子強度変調の処理が入るため、この処理を行う強度変調回路も必要となる。
このように格子を可変にする、すなわち同心円の大きさを可変にすることができると、検出光は必ずしも平行光でなくてもよくすることが可能である。図13に示すように、物体を構成する点1301からの球面波が表側格子104を照射し、その影1302が下の面に投影される場合、下の面に投影される像はほぼ一様に拡大される。そのため、平行光に対して設計された下面格子の透過率分布をそのまま乗じたのでは、等間隔な直線状のモアレ縞は生じなくなる。しかし、一様に拡大された上面格子の影に合わせて、下面の格子を拡大するならば、拡大された影1302に対して再び、等間隔な直線状のモアレ縞を生じさせることができる。これにより、必ずしも無限遠でない距離の物点1301からの光を選択的に再生することができる。したがってこれにより焦点合わせが可能となる。
<実施例4>
本実施例では表側基板の格子について液晶素子を用いている。実施例3と同様に表側基板の格子も液晶素子などを用いると可変とすることができる。図14は液晶層1401を挟み、液晶基板1402で封入した液晶素子により、表側基板の可変格子1403を表示している様子を示す図である。液晶基板1402、および格子基板102には透明電極が形成されており、図示していない電極を介して、任意の格子像を表示させることができる。基本的に無限遠より近い、有限距離の物点1301からの光は発散光であるので、裏面格子105と裏面で同じ大きさになるためには表面でやや縮小して表示すればよいことになる。画像処理回路1404には図19に示すように、液晶駆動回路が内蔵され、外部からのピント指定入力に応じて表面格子パターンを生成し、それに応じて液晶駆動回路を駆動することで、センサと一体となった液晶素子に任意のピント位置に対応した表面格子パターンを表示させる。このように表側基板の格子について液晶素子を用いることで、表側基板の格子を可変、すなわち同心円の大きさを可変にすることができる。
<実施例5>
本実施例では図15の様に入射側格子の各格子をシリンドリカルレンズ1501とした場合の実施例である。各格子線がすべてシリンドリカルレンズとして、アレイ状に形成されている。これにより濃淡格子の遮蔽部による光量損失を低減し、本発明の撮像装置の光利用効率を向上させることができる。
<実施例6>
本実施例では図16の様に本発明の撮像装置をスマートフォンに搭載した場合の実施例を示す。撮像装置を薄くしたままで、開口を大きくできるので、(14)式にしたがって、実効的な焦点距離を長くできるので、従来のスマートフォン用カメラのように開口が小さくなって焦点距離が短くなるため像がのっぺりとしてぼけ味が出ない、という問題点を解消することができる。側面にはピント調整つまみ1602がついており、センサに一体として内蔵している液晶素子に表示する裏面格子パターンを入力するピント指定に応じて可変とし、任意の距離にある物体の像を撮影できる。
<実施例7>
前記実施例1の原理説明で、(5)式において信号の鋭いピークが得られるのは、第4項のモアレ縞の周波数のみであることを説明したが、光学系や被写体の条件によっては、第2、第3項がノイズとなって再生画像の画質に影響を与える場合がありえる。そこでそれらのノイズを除去する構成について説明する。
本実施例における処理フローのブロック図は図24に本示されており、図17に加えて、モアレ縞ノイズ除去のプロセスが加わっている。
ノイズの除去のために、本実施例では、表側格子104と裏側格子105を図20に示すように、3×3以上に分割したエリアでそれぞれ独立のゾーンプレートを形成する。ただしそれぞれのゾーンプレートは重なることなく並べる。このとき、表側格子104では、上段、中段、下段、裏側格子105では左側、左右中間、右側でそれぞれ格子の初期位相をφ1、φ2、φ3に揃える。これらは図21に示すように、表側格子104の位相と裏側格子の位相が、互いに独立にすべての組み合わせで重ねあわされる様に配置されている。このときセンサ面上の光強度Isは、
Figure 2021064000
のように表すことができる。Ikはk番目の点光源による表側格子104の影の光強度分布、Iが裏側格子105の透過率分布である。表側格子104の初期位相φF、裏側格子105の初期位相φBはそれぞれ、上記したようにφ1、φ2、φ3の3つの値をとる。表側格子104を照らすk番目の点光源はAkの強度で発光し、δkのずれをもって表側格子104の影をセンサ上に形成するものと仮定している。(17)式の下段の式の{}内の第2項は表側格子の影、第3項は裏側格子の強度変調、第4項は2つの格子の和周波成分、第5項が差周波成分であり、本発明の信号成分であるモアレ縞の項である。したがってこのφF−φBの付加位相を持つ成分だけを抽出すればよいことになる。
(17)式をφFとφBに着目して
Figure 2021064000
のように表すと、三角関数の直交性を用いてcosφB、sinφBの係数を
Figure 2021064000
Figure 2021064000
のように抜き出すことができる。さらにこれから、cosφBcosφF、sinφBsinφFの項を抜き出すと
Figure 2021064000
Figure 2021064000
のように表すことができる。これらを辺々加えると、
Figure 2021064000
が得られるが、これは結局、
Figure 2021064000
のように(17)式におけるモアレ成分のみを抜き出したことに対応する。この演算は表側格子104の位相と裏側格子105の位相の両方を2次元に走査して積分することに対応する。この積分を最低限のサンプリング点数である3点で離散化するため、図20、図21に説明した3×3の両面フレネルゾーンプレートを用いている。単一の点光源によるこの3×3の両面格子によって得られたモアレ縞を図22に示す。複数のフレネルゾーンプレートが交差しているように見えるが、これは交差のない両面のフレネルゾーンプレートに入射した光によってセンサ状に形成された光強度分布である。さらに(24)式を用いてこの3×3の各セルからのモアレ縞を合成して得られたモアレ縞を図23に示す。モアレ縞以外の不要なノイズが大幅に低減されている。これによって撮影画像の品質を向上させることができる。
<実施例8>
図25にさらに別の表側格子104の実施例を示す。本実施例における処理フローのブロック図は図27に示されており、図18に比べて、モアレ縞ノイズ除去のプロセスが加わっている。これは裏側格子105を固定格子とせず、センサ感度を仮想的にフレネルゾーンプレート状に与える場合や、液晶素子などを用いる場合を想定している。表側格子は2×2のエリアに分かれており、それぞれのフレネルゾーンプレートの初期位相は90°ずつずらしてある。実施例7では、列または行で位相をずらしたが、本実施例では領域すべてで位相を変えている。図26に単一点光源によるモアレ縞の再生像を示す。図23に比べてさらにノイズが低減している。このようにして、裏側の仮想ゾーンプレートの位相を全領域で90°ずつ4ステップ位相を変えてモアレ縞を生成することにより、両面格子とも4位相での積分演算が可能となる。また分割が細かくなることにより、ノイズ低減効果のさらなる向上が期待できる。
<実施例9>
図28は本願発明の撮像装置を自動車2801の周囲360°のセンシングに活用する実施例を示す。本発明の撮像装置101はレンズを用いないため、薄く、経時的なずれや劣化などにも強く、価格も安価になることが期待される。そのため、視野2802が、自動車の周囲全域をカバーするように、多数配置することができ、運転者の死角をなくし、安心安全社会の実現に寄与できると考える。
なお、本発明は上記の実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。
また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。
また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
101・・・撮像装置、102・・・両面格子基板、103・・・画像センサ、104・・・表側格子、105・・・裏側格子、106、1201・・・画像処理回路、107・・・モニタディスプレイ、201・・・被写体、901・・・格子センサ一体基板、1301・・・物体を構成する点、1302・・・表側格子の影、1401・・・液晶層、1402・・・液晶基板、1403・・・可変表側格子、1501・・・シリンドリカルレンズ格子、1601・・・スマートフォン、1602・・・ピント調整つまみ、2801・・・自動車、2802・・・撮像装置の視域

Claims (1)

  1. 結像レンズを用いない撮像装置であって、
    第1の格子パターンを用いて前記第1の格子パターンの影を作ることにより光の強度を変調する変調部と、
    前記変調部を透過した光を電気信号に変換し、センサ画像を生成する画像センサと、
    前記画像センサより出力された出力画像に対して画像処理を施す画像処理部と、を備え、
    前記第1の格子パターンは、複数の同心円パターンで構成され、
    前記同心円パターンは、基準座標からの距離に対してピッチが反比例して細かくなる複数の同心円からそれぞれ構成されており、
    複数の前記同心円パターンは、前記第1の格子パターン内で互いに重ならず、
    前記第1の格子パターンは、前記結像レンズとは異なるシリンドリカルレンズによって形成され、回折によるぼけを軽減する
    ことを特徴とする撮像装置。
JP2021000058A 2021-01-04 2021-01-04 撮像装置 Pending JP2021064000A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021000058A JP2021064000A (ja) 2021-01-04 2021-01-04 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021000058A JP2021064000A (ja) 2021-01-04 2021-01-04 撮像装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018501517A Division JP6820908B2 (ja) 2016-02-26 2016-02-26 撮像装置

Publications (1)

Publication Number Publication Date
JP2021064000A true JP2021064000A (ja) 2021-04-22

Family

ID=75487924

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021000058A Pending JP2021064000A (ja) 2021-01-04 2021-01-04 撮像装置

Country Status (1)

Country Link
JP (1) JP2021064000A (ja)

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63249125A (ja) * 1987-04-03 1988-10-17 Citizen Watch Co Ltd 可変焦点光学系
JPH01242033A (ja) * 1988-03-23 1989-09-27 Toshiba Corp 計測内視鏡装置
JP2009008758A (ja) * 2007-06-26 2009-01-15 Fujinon Corp 撮像デバイス、およびカメラモジュールならびに携帯端末機器
JP2009290268A (ja) * 2008-05-27 2009-12-10 Sony Corp 撮像装置
JP2009544036A (ja) * 2006-07-18 2009-12-10 セルオプティック、インコーポレイテッド 受信電磁放射線から物体の3次元情報を抽出するシステム、装置および方法
US20120211644A1 (en) * 2011-01-07 2012-08-23 California Institute Of Technology Light-field pixel
JP2013225417A (ja) * 2012-04-20 2013-10-31 Minebea Co Ltd 面状照明装置
CN103439859A (zh) * 2013-07-22 2013-12-11 秦皇岛视听机械研究所 基于二向异性鱼眼镜头的环幕放映/投影系统单元
US20150219808A1 (en) * 2013-08-28 2015-08-06 Rambus Inc. Patchwork fresnel zone plates for lensless imaging
WO2015166539A1 (ja) * 2014-04-28 2015-11-05 日立マクセル株式会社 光学部品およびそれを用いた撮像装置
JP2016510910A (ja) * 2013-03-05 2016-04-11 ラムバス・インコーポレーテッド 高解像度レンズなし光学検知の奇対称を有する位相格子
WO2016203573A1 (ja) * 2015-06-17 2016-12-22 日立マクセル株式会社 撮像装置
JP2017092679A (ja) * 2015-11-09 2017-05-25 株式会社ニコン 電子機器、光学素子、および撮像素子
WO2017145348A1 (ja) * 2016-02-26 2017-08-31 株式会社日立製作所 撮像装置
JP2018195870A (ja) * 2017-05-12 2018-12-06 株式会社日立製作所 撮像装置

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63249125A (ja) * 1987-04-03 1988-10-17 Citizen Watch Co Ltd 可変焦点光学系
JPH01242033A (ja) * 1988-03-23 1989-09-27 Toshiba Corp 計測内視鏡装置
JP2009544036A (ja) * 2006-07-18 2009-12-10 セルオプティック、インコーポレイテッド 受信電磁放射線から物体の3次元情報を抽出するシステム、装置および方法
JP2009008758A (ja) * 2007-06-26 2009-01-15 Fujinon Corp 撮像デバイス、およびカメラモジュールならびに携帯端末機器
JP2009290268A (ja) * 2008-05-27 2009-12-10 Sony Corp 撮像装置
US20120211644A1 (en) * 2011-01-07 2012-08-23 California Institute Of Technology Light-field pixel
JP2013225417A (ja) * 2012-04-20 2013-10-31 Minebea Co Ltd 面状照明装置
JP2016510910A (ja) * 2013-03-05 2016-04-11 ラムバス・インコーポレーテッド 高解像度レンズなし光学検知の奇対称を有する位相格子
CN103439859A (zh) * 2013-07-22 2013-12-11 秦皇岛视听机械研究所 基于二向异性鱼眼镜头的环幕放映/投影系统单元
US20150219808A1 (en) * 2013-08-28 2015-08-06 Rambus Inc. Patchwork fresnel zone plates for lensless imaging
WO2015166539A1 (ja) * 2014-04-28 2015-11-05 日立マクセル株式会社 光学部品およびそれを用いた撮像装置
WO2016203573A1 (ja) * 2015-06-17 2016-12-22 日立マクセル株式会社 撮像装置
JP2017092679A (ja) * 2015-11-09 2017-05-25 株式会社ニコン 電子機器、光学素子、および撮像素子
WO2017145348A1 (ja) * 2016-02-26 2017-08-31 株式会社日立製作所 撮像装置
JP2018195870A (ja) * 2017-05-12 2018-12-06 株式会社日立製作所 撮像装置

Similar Documents

Publication Publication Date Title
JP6820908B2 (ja) 撮像装置
JP6491332B2 (ja) 撮像装置
JP6721698B2 (ja) 撮像装置
WO2018110120A1 (ja) 撮像装置
JP6646619B2 (ja) 撮像装置
JP6864604B2 (ja) 撮像装置
WO2020059181A1 (ja) 撮像装置および撮像方法
JP6947891B2 (ja) 携帯情報端末
JP6770164B2 (ja) 撮像装置
JP2023016864A (ja) 撮像装置および方法
JP2021064000A (ja) 撮像装置
JP7389195B2 (ja) 画像生成方法
JP6636663B2 (ja) 撮像装置及び画像生成方法
JP2020098963A (ja) 撮像装置
JP2022180800A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210104

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211222

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220118