JP2019161574A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2019161574A
JP2019161574A JP2018049062A JP2018049062A JP2019161574A JP 2019161574 A JP2019161574 A JP 2019161574A JP 2018049062 A JP2018049062 A JP 2018049062A JP 2018049062 A JP2018049062 A JP 2018049062A JP 2019161574 A JP2019161574 A JP 2019161574A
Authority
JP
Japan
Prior art keywords
imaging
pattern
image sensor
image
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018049062A
Other languages
English (en)
Other versions
JP6814762B2 (ja
Inventor
和幸 田島
Kazuyuki Tajima
和幸 田島
悠介 中村
Yusuke Nakamura
悠介 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2018049062A priority Critical patent/JP6814762B2/ja
Priority to CN201910057632.4A priority patent/CN110278350B/zh
Priority to US16/289,790 priority patent/US10812734B2/en
Publication of JP2019161574A publication Critical patent/JP2019161574A/ja
Application granted granted Critical
Publication of JP6814762B2 publication Critical patent/JP6814762B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Diffracting Gratings Or Hologram Optical Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 画像センサが有する画素数を活かした高解像度化を実現する。【解決手段】 撮像装置は、複数の受光素子から成り、受光した光を前記受光素子が光電変換することによってセンサ画像を生成する画像センサと、前記画像センサの受光面から所定の距離に設けられた撮像用パターンにより前記画像センサが受光する前記光の強度を変調する変調部と、を備え、前記変調部に設けられた前記撮像用パターンの開口部の幅は、前記所定の距離と前記画像センサの2次元方向サイズとに基づいて決定されていることを特徴とする。【選択図】 図1

Description

本発明は、撮像装置に関する。
スマートフォン等に搭載するデジタルカメラや車載カメラ等に対しては薄型化や高機能化が求められている。カメラを薄型化する技術としては、例えば特許文献1に「撮像面にアレイ状に配列された複数の画素に取り込まれた光学像を画像信号に変換して出力する画像センサと、前記画像センサの受光面に設けられ、光の強度を変調する変調部と、前記画像センサより出力された出力画像に対して画像処理を施す画像処理部と、を備え、前記変調部は格子基板と、前記画像センサの受光面に近接する前記格子基板の第1の面に形成される第1の格子パターンと、を有し、前記格子パターンは、基準座標からの距離に対してピッチが反比例して細かくなる複数の同心円からそれぞれ構成されており、複数の前記同心円は前記格子パターン内で互いに重ならないことを特徴とする撮像装置」が記載されている。
国際公開第2017/145348号
特許文献1に記載の撮像装置は、中心からの距離に対してピッチが反比例して細かくなる単一の同心円状の格子パターンが形成され、それを透過した光に再び、中心からの距離に対してピッチが反比例して細かくなる同心円状の強度変調を行い、その結果得られる変調像の2次元フーリエ変換像から外界の物体の像を得るように構成されている。しかしながら、同心円状の格子パターンが細かすぎると、それを透過した光が画像センサ上で重畳して格子パターンの影を得られないため、画像センサが有する画素数を活かすことができず、撮像装置の高解像度化が実現できないことがある。
本発明は、このような状況に鑑みてなされたものであり、画像センサが有する画素数を活かした高解像度化を実現できるようにすることを目的とする。
本願は、上記課題の少なくとも一部を解決する手段を複数含んでいるが、その例を挙げるならば、以下のとおりである。上記課題を解決すべく、本発明の一態様に係る撮像装置は、複数の受光素子から成り、受光した光を前記受光素子が光電変換することによってセンサ画像を生成する画像センサと、前記画像センサの受光面から所定の距離に設けられた撮像用パターンにより前記画像センサが受光する前記光の強度を変調する変調部と、を備え、前記変調部に設けられた前記撮像用パターンの開口部の幅は、前記所定の距離と前記画像センサの2次元方向サイズとに基づいて決定されている。
本発明によれば、画像センサが有する画素数を活かした高解像度化を実現することができる。
上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
本発明に係る一実施の形態である撮像装置の構成例を示す図である。 撮像装置における撮像部の構成例を示す図である。 撮像装置における撮像部の他の構成例を示す図である。 撮像用パターンの例を示す図である。 撮像用パターンの他の例を示す図である。 斜め入射平行光のパターン基板における屈折を示す図である。 図5の撮像用パターンに対応する投影像の例を示す図である。 図5の撮像用パターンに対応する現像用パターンを示す図である。 相関現像方式による現像画像の例を示す図である。 モアレ現像方式によるモアレ縞の例を示す図である。 モアレ現像方式による現像画像の例を示す図である。 フリンジスキャンにおける初期位相の組合せの例を示す図である。 初期位相が異なる複数の同心円を含む撮像用パターンの例を示す図である。 相関現像方式による画像処理の一例を説明するフローチャートである。 モアレ現像方式による画像処理の一例を説明するフローチャートである。 モアレ現像方式による解像度を加味した現像画像の例を示す図である。 モアレ現像方式におけるフーリエ変換による解像度を示す図である。 開口部にて回折した光が画像センサに投影された状態を示す図である。 隣接した開口部にて回折した光が画像センサに投影された状態の例を示す図である。 画像センサ及び撮像用パターンの側面図である。 画像センサの一般的な入射角特性の一例を示す図である。 理論画角と画像センサの入射角特性によって決まる撮像装置の視野範囲を示す図である。 開口部と非開口部の幅が1:1でない撮像用パターンの隣接した開口部にて回折した光が画像センサに投影された状態の例を示す図である。
以下に説明する本発明に係る一実施の形態においては便宜上その必要があるときは、複数のセクションまたは実施の形態に分割して説明するが、特に明示した場合を除き、それらはお互いに無関係なものではなく、一方は他方の一部または全部の変形例、詳細、補足説明等の関係にある。また、各実施の形態において、要素の数等(個数、数値、量、範囲等を含む)に言及する場合、特に明示した場合および原理的に明らかに特定の数に限定される場合等を除き、その特定の数に限定されるものではなく、特定の数以上でも以下でもよい。
さらに、本発明に係る一実施の形態において、その構成要素(要素ステップ等も含む)は、特に明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。同様に、各実施の形態において、構成要素等の形状、位置関係等に言及するときは特に明示した場合および原理的に明らかにそうではないと考えられる場合等を除き、実質的にその形状等に近似または類似するもの等を含むものとする。このことは、上記数値および範囲についても同様である。また、各実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。
以下、本発明に係る一実施の形態(以下、本実施の形態と称する)である撮像装置について図面を用いて説明する。
<本実施の形態である撮像装置の構成例>
図1は、本実施の形態である撮像装置の構成例を示している。該撮像装置101は、被写体の光学像を画像センサ上に結像させる光学レンズを用いることなく、被写体が写った撮像画像を取得するものである。
撮像装置101は、撮像部102、画像処理部106、及びコントローラ107を備える。
図2は、撮像部102の構成例を示している。撮像部102は、画像センサ103、パターン基板104、及び撮像用パターン105から成る。
画像センサ103の表面には、複数の受光素子(画素)103aが格子状に規則的に配置されている。画像センサ103は、各受光素子103aが入射光を画素信号に光電変換することにより、複数の画素から成るセンサ画像を生成して画像処理部106に出力する。
パターン基板104は、例えばガラス、プラスティック等の可視光を透過する材料から成り、その一面(以下、裏面と称する)が画像センサ103の受光面に密着して固定されており、画像センサ103に密着された面の反対側の面(以下、表面と称する)に撮像用パターン105が形成されている。なお、撮像用パターン105が形成された状態のパターン基板104が本発明の変調部に相当する。
撮像用パターン105は、パターン基板104の表面に、例えば半導体プロセスに用いられるスパッタリング法等によってアルミニウム、クロム等の金属を蒸着することによって形成されている。なお、撮像用パターン105には、アルミニウム等が蒸着されている部分と蒸着されていない部分とから成り、これによって濃淡がつけられている。
なお、撮像用パターン105の形成は、上述した方法に限定されるものでなく、例えばインクジェットプリンタ等による印刷等によって濃淡をつける等、どのように形成して構わない。
また、本実施の形態では、可視光を例に説明しているが、不可視光である例えば遠赤外線の撮影を行う際には、パターン基板104を、例えばゲルマニウム、シリコン、カルコゲナイド等の遠赤外線に対して透明な材料とする等、撮影対象となる波長に対して透明な材料を用いるようにし、撮像用パターン105は遠赤外線を遮断する材料で形成すればよい。
以上のように構成される撮像部102では、撮像用パターン105を透過する光が、撮像用パターン105の濃淡によって光強度が変調されて画像センサ103に入射される。
次に、図3は、撮像部102の他の構成例を示している。図3の構成例では、パターン基板104の表面に撮像用パターン105を形成する代わりに、撮像用パターン105を薄膜によって形成し、支持部材301により、撮像用パターン105と画像センサ103と距離を確保するように構成されている。
なお、撮像装置101において、撮影画角は、画像センサ103と撮像用パターン105との距離によって変化する。したがって、図3に示された構成例を撮像部102に採用し、支持部材301の長さを調整できるようにすれば、画角を変更して撮像を行うことが可能となる。
図1に戻る。画像処理部106は、撮像部102が出力するセンサ画像に現像処理を行い、その結果得られる撮像画像をコントローラ107に出力する。コントローラ107は、画像処理部106から入力される撮像画像を、後段のホストコンピュータ、外部記録媒体等に出力するに際し、ホストコンピュータ等を接続するUSB等のインターフェイスに適合するようにデータ形式を変換して出力する。
<撮像装置101における撮像原理>
次に、撮像装置101における撮像原理について説明する。
はじめに、撮像用パターン105を、中心からの距離が遠くなるに従ってピッチが細かくなる同心円状のパターンであり、同心円の中心である基準座標からの半径r、係数βを用いた次式(1)によって定義する。
Figure 2019161574
撮像用パターン105は、式(1)に従って透過率変調されているものとする。このような縞模様の撮像用パターン105は、ガボールゾーンプレートやフレネルゾーンプレート等と称される。
図4は、式(1)に対応するガボールゾーンプレートの例を示す。図5は、式(1)を、閾値を1として2値化したフレネルゾーンプレートの例を示す。
なお、以下の説明では、簡単化のためにx軸方向についてのみ数式を用いて言及するが、y軸方向についてもx軸方向と同様に扱うことにより2次元に展開して考えることが可能である。
次に、図6は、斜め方向から入射した平行光のパターン基板104の中における屈折を示す図である。
図6においては、厚さdのパターン基板104の表面に形成された撮像用パターン105に、x軸方向に角度θで平行光が入射した場合を示している。パターン基板104の中における光の屈折角をθとして、幾何光学的には、表面に形成された撮像用パターン105の透過率が乗じられた光が、k(=d・tanθ)だけずれて画像センサ103に入射する。この場合、画像センサ103上では、次式(2)に示す強度分布を持つ投影像が検出される。式(2)におけるΦは、式(1)の透過率分布の初期位相である。
Figure 2019161574
図7は、撮像用パターン105を透過した光に基づいて画像センサ103から出力されるセンサ画像の例を示している。同図に示されるように、センサ画像は、式(2)と同様に、撮像用パターン105がkだけシフトされたものとなる。
画像処理部106では、撮像部102から出力されるセンサ画像に現像処理が行われる。現像処理は相関現像方式またはモアレ現像方式によって行われる。
まず、相関現像方式による現像処理(以下、単に相関現像方式と称する)について説明する。
図8は、相関現像方式にて用いる現像用パターン801を示している。現像用パターン801には、撮像用パターン105と同様にガボールゾーンプレートやフレネルゾーンプレートが採用される。図9は、相関現像方式の結果得られる現像画像を示している。
相関現像方式では、撮像用パターン105を透過した光に基づくセンサ画像(図7)と、現像用パターン801(図8)との相互相関関数を演算することにより、シフト量kの輝点(図9)を含む現像画像を得ることができる。
なお、一般的に相互相関演算を2次元畳込み演算で行うと演算量が大きくなるので、本実施の形態では、相互相関演算を、フーリエ変換を用いて演算することにする。
以下、相互相関演算を、フーリエ変換を用いて演算する原理について説明する。まず、現像用パターン801は、撮像用パターン105と同様にガボールゾーンプレートやフレネルゾーンプレートを用いるため、現像用パターン801は初期位相Φを用いて、次式(3)に示すように表すことができる。
Figure 2019161574
なお、現像用パターン801は、画像処理(現像処理)内で使用するため、式(1)のように1だけオフセットさせる必要はなく、負の値を有していても構わない。
式(2),(3)のフーリエ変換はそれぞれ次式(4),(5)のように表される。
Figure 2019161574
Figure 2019161574
なお、式(4),(5)におけるFはフーリエ変換の演算を表し、uはx方向の周波数座標、δ()はデルタ関数である。
式(4),(5)で重要なことはフーリエ変換後もまたフレネルゾーンプレートやガボールゾーンプレートとなっている点である。よって、式(5)に基づいてフーリエ変換後の現像用パターン801を直接的に生成してもよい。これにより演算量を低減可能である。
次に、式(4)と式(5)を乗算すると次式(6)を得る。
Figure 2019161574
式(6)において指数関数で表された項exp(−iku)が信号成分であり、この項をフーリエ変換すると、次式(7)にように変換され、元のx軸においてkの位置に輝点を得ることができる。
Figure 2019161574
この輝点は無限遠の光束を示しており、図1の撮像装置101による撮像画像に他ならない。
なお、相関現像方式では、撮像用パターン105や現像用パターン801として、自己相関関数が単一のピークを有するものであれば、フレネルゾーンプレートやガボールゾーンプレートに限定されないパターン、例えばランダムなパターンを採用してもよい。
次に、モアレ現像方式による現像処理(以下、単にモアレ現像方式と称する)について説明する。
モアレ現像方式では、撮像用パターン105に基づくセンサ画像(図7)と現像用パターン801(図8)を乗算することにより、図10に示されるモアレ縞を生成し、フーリエ変換することにより、図11に示されるように、シフト量kβ/πの輝点を含む現像画像を得ることができる。
このモアレ縞は、次式(8)に示されるとおりである。
Figure 2019161574
式(8)の展開式の第3項が信号成分であり、2つのパターンのずれの方向にまっすぐな等間隔の縞模様が重なり合った領域の全面に生じることがわかる。このような縞と縞の重ね合わせによって相対的に低い空間周波数で生じる縞をモアレ縞と称する。この第3項の2次元フーリエ変換は、次式(9)に示されるとおりである。
Figure 2019161574
式(9)におけるFはフーリエ変換の演算を表し、uはx方向の周波数座標、δ()はデルタ関数である。式(9)から、モアレ縞の空間周波数スペクトルにおいて、空間周波数のピークがu=±kβ/πの位置に生じることがわかる。この輝点が無限遠の光束を示しており、図1の撮像装置101による撮像画像に他ならない。
なお、モアレ現像方式では、撮像用パターン105や現像用パターン801として、パターンのシフトによって得られるモアレ縞が単一の周波数を有するものであれば、フレネルゾーンプレートやガボールゾーンプレートに限定されないパターン、例えば楕円状のパターンを採用してもよい。
<ノイズキャンセル>
上述した相関現像方式における式(6)から式(7)への変換、また、モアレ現像方式における式(8)から式(9)への変換においては、信号成分に着目して説明したが、実際には信号成分以外の項が現像処理を阻害してノイズを発生させ得る。そこで、フリンジスキャンに基づくノイズキャンセルを行う。ノイズキャンセルは、三角関数の直交性を利用する。
相関現像方式では、次式(10)に示されるように、式(6)の乗算結果をΦに関して積分すると、ノイズ項がキャンセルされて信号項の定数倍が残ることになる。
Figure 2019161574
同様に、モアレ現像方式では、次式(11)に示されるように、式(8)の乗算結果をΦに関して積分すると、ノイズ項がキャンセルされて信号項の定数倍が残ることになる。
Figure 2019161574
なお、式(10),(11)は積分の形で示しているが、実際には、フリンジスキャンの異なる複数種類の初期位相Φの組合せの総和を計算することによっても同様の効果を得ることができる。異なる複数種類の初期位相Φの組合せは、初期位相Φを0〜2πの間で等分するように設定すればよい。
図12は、フリンジスキャンに用いる、異なる4種類の初期位相Φの組合せの例を示しており、左側から順に、初期位相Φ=0,π/2,π,3π/2の撮像用パターン105を示している。
以上で説明したフリンジスキャンでは、撮像用パターン105として初期位相Φが異なる複数のパターンを使用する必要がある。これを実現するには、撮像用パターン105を時分割で切り替える方法と、空間分割で切り替える方法がある。
時分割フリンジスキャンの場合、例えば図12に示された複数の初期位相Φを電気的に切り替えて表示することが可能な液晶表示素子等を、図1における撮像用パターン105として使用すればよい。そして。撮像部102が、該液晶表示素子の切替タイミングと画像センサ103のシャッタタイミングを同期して制御し4枚の画像を取得後、画像処理部106においてフリンジスキャン演算を実施するようにする。
一方、空間分割フリンジスキャンの場合、初期位相Φが異なる複数のパターンを含む撮像用パターン105を使用する。図13は、初期位相Φが0,π/2,π,3π/2の4種類のパターンを含む撮像用パターン105の例を示している。そして、撮像部102が、該撮像用パターン105を用いて取得された1枚のセンサ画像を取得後、画像処理部106において、1枚のセンサ画像を初期位相Φが異なる領域毎に分割し、フリンジスキャン演算を実施するようにする。
以上で、撮像装置101における撮像原理の説明を終了する。
<撮像原理に基づく画像処理の概略>
次に、上述した撮像原理に基づく画像処理部106による現像処理について説明する。
図14は、画像処理部106において相関現像方式を採用した場合における現像処理の一例を説明するフローチャートである。
まず、画像処理部106は、時分割フリンジスキャンの場合、撮像部102の画像センサ103から出力される、撮像用パターン105の初期位相が異なる複数のセンサ画像を取得し、各センサ画像に対して2次元高速フーリエ変換(FFT(Fast Fourier Transform))演算を実施する(ステップS1)。なお、空間分割フリンジスキャンの場合、撮像部102の画像センサ103から出力される1枚のセンサ画像を取得して4分割し、分割した各センサ画像に対して2次元高速フーリエ変換演算を実施すればよい。
次に、画像処理部106は、現像処理に使用する現像用パターン801を生成し(ステップS2)、式(10)に基づいてフリンジスキャン演算を実施し(ステップS3)、さらに、逆2次元FFT演算を実施する(ステップS4)。
次に、画像処理部106は、ステップS4の演算結果が複素数であるため、絶対値化するか、または実部を抽出して撮影対象の像を実数化して現像する(ステップS5)。この後、画像処理部106は、得られた画像に対してコントラスト強調処理を行い(ステップS6)、さらにカラーバランス調整処理等を実施し(ステップS7)、撮像画像として出力する。以上で画像処理部106による現像処理が終了される。
次に、図15は、画像処理部106においてモアレ現像方式を採用した場合における現像処理の一例を説明するフローチャートである。
まず、画像処理部106は、時分割フリンジスキャンの場合、撮像部102の画像センサ103から出力される、撮像用パターン105の初期位相が異なる複数のセンサ画像を取得するとともに、現像処理に使用する現像用パターン801を生成する(ステップS11)。なお、空間分割フリンジスキャンの場合、撮像部102の画像センサ103から出力される1枚のセンサ画像を取得して4分割するとともに、現像処理に使用する現像用パターン801を生成すればよい。
次に、画像処理部106は、式(11)に基づいて各センサ画像のフリンジスキャン演算を実施し(ステップS12)、さらに2次元FFT演算により周波数スペクトルを求め(ステップS13)、この周波数スペクトルのうち、必要な周波数領域のデータを切り出す(ステップS14)。
次に、画像処理部106は、ステップS14で切り出したデータが複素数であるため、絶対値化するか、または実部を抽出して撮影対象の像を実数化して現像する(ステップS15)。この後、画像処理部106は、得られた画像に対してコントラスト強調処理を行い(ステップS16)、さらにカラーバランス調整処理等を実施し(ステップS17)、撮像画像として出力する。以上で画像処理部106による現像処理が終了される。
<実施例1>
<同心円状パターンの係数βの決定方法>
次に、式(1)に示されたように定義した同心円状パターンの係数βの決定方法について説明する。
まず、係数βの理論限界を考えるため、画像センサ103のピクセル数をN×N、2次元方向サイズをS×Sと仮定する。この場合、図11に示された現像画像は、図16に示すようにx軸方向の両端がN/2Sピクセルとなる。
輝点の位置範囲を制約する要因は2つあり、第1の要因は画像センサ103の性能(ピクセル数と2次元方向サイズ)によって定められる±N/2Sの範囲である。第2の要因は係数βによって定められるものであり、シフト量kが取り得る最大の値がSであるので、輝点位置が取り得る範囲は±βS/πとなる。
この状態における解像度を求めるには、2次元FFT演算を実施した後の周波数空間における分解能を考えれば良く、その大きさは画像センサ103のサイズSによって決定される。
図17は、画像センサ103のサイズSによって計算される周波数空間の分解能を示しており、その半値全幅は1/Sとなる。輝点の位置範囲をこの分解能で除算すると解像度を計算することができ、画像センサ103の性能によって定められる値はN、係数βによって定められるものは2βS/πとなる。解像度の大きさは2つの要因のうち、より小さいものに制約を受けるため、2つの範囲が一致する係数βの同心円状パターンを用いることで画像センサ103の性能を有効に活用することが可能となる。
この場合、係数βの値は次式(12)に示されるように計算でき、その場合における解像度はN×Nとなる。
Figure 2019161574
<撮像用パターン105における回折の影響>
以上の説明では、同心円状パターンから成る撮像用パターン105を通過した光はそのまま(回折することなく)画像センサ103上に投影されることが前提であった。しかしながら、実際には、光は撮像用パターン105にて回折し、ぼけたパターンが画像センサ103上に投影される。
図18は、光の回折を考慮し、同心円状パターンから成る撮像用パターン105の1つの開口部1051を通過する光が回折して画像センサ103上に投影される様子を示している。
同図において、入射光線1801は、撮像用パターン105の開口部1051を透過する際、その開口幅qに応じた回折角Wθで拡がり、画像センサ103上ではWの幅で投影されることになる。撮像用パターン105と画像センサ103の距離をdとし、入射光線1801の波長をλとした場合、幅Wは近似を用いて次式(13)に示すように計算できる。
Figure 2019161574
この幅Wが大きい領域では画像センサ103上に同心円状パターンが投影されず、結果的に撮像用パターン105の一部しか使えないので解像度の低下に繋がってしまう。仮に、画像センサ103のサイズSに対して同心円状パターンが投影される領域がS’となった場合、式(12)から分かるように、実効的な係数βの大きさはS’/Sの2乗で小さくなり、その大きさに比例して解像度も低下することになる。
そこで、実効的な係数βを下げずに解像度を向上させる方法を考える。
図19は、撮像用パターン105における隣接する開口部1051を透過した光が互いに影響を及ぼす場合を示している。ここで、開口部1051とそれに隣接する非開口部1052の幅はともにqであり、同心円状パターン中心からの距離rと係数βを用いた次式(14)によって計算できる。
Figure 2019161574
なお、開口部1051の幅は同心円状パターン中心からの距離rに応じて変化するため、隣接する2つの開口部1051の幅は厳密には異なるが、その差分が十分に小さく同一幅と仮定できる。この場合、画像センサ103上では中心間距離が2qだけ離れた2つの開口部1051を透過した光が投影されることになる。この2つの開口部1051からの投影パターンが重なると、投影されたパターンが同心円パターンとして扱えなくなり、解像度の低下を引き起こすことになる。
そこで、係数βの値を適した値として、投影パターンの混ざり合いを防ぐことで解像度を向上させる。隣接する2つの光源から回折した2つの光が分解できる限界を求めるため、例えばレイリー限界を用いる方法が知られている。レイリー限界とは、同等の明るさを有する光源が近くに見えているとき、それを2つの光源であると認識できる限界を示したものであり、その定義は、第1の光源から回折した第1の暗線が、第2の光源の中心に到達したときである。これを同心円状パターンに適用すると、1つの開口部1051から投影されたパターンの幅が4qに到達した場合が解像できる限界となり、その関係性は次式(15)によって計算することができる。
Figure 2019161574
さらに、式(14)を用いれば、解像限界のピッチを持つ同心円状のパターンに対応する係数βは、次式(16)に示されるように計算できる。
Figure 2019161574
式(16)から分かるように、係数βの最適な値はSとdに依存する。つまり、式(16)に基づき、撮像装置101を構成する画像センサ103の2次元方向サイズS、及び撮像用パターン105と画像センサ103の距離dによって係数βを変動させることによって、撮像装置101の解像度を有効に活用することが可能となる。なお、この場合の解像度は、2βS/πまたはNの小さい方によって決定されることになる。
なお、図13に示されたように、撮像用パターン105が4種類の同心円状パターンを含む場合、画像センサ103の2次元方向サイズSを各同心円状パターンのサイズ(図13の場合、S/2)と読み替えて、各同心円状パターンについて係数βを決定するようにする。
<実施例2>
<画像センサ103の入射角特性を考慮した解像度の向上方法>
次に説明する実施例2では、画像センサ103の入射角特性を考慮した解像度の向上方法について説明する。
まず、撮像装置101が撮影可能な画角について、図20を参照して説明する。図20は、撮像部102を構成する画像センサ103及び撮像用パターン105の側面図を示している。
撮像装置101の画角2θは、画像センサ103の両端と撮像用パターン105の中心を結んだ線によって定義され、その値は次式(17)に示されるように計算できる。
Figure 2019161574
一方、画像センサ103の一般的な入射角特性として、図21に示すように、垂直に入射する光の受光感度が最大であって、光の入射角度が大きくなるにつれて受光感度が減衰することが知られている。
ここで、画像センサ103の受光感度が最大値の1/2になる入射角度を、画像センサ103の受光できる限界入射角度θ’と定義した場合、画像センサ103によって決まる画角は2θ’になる。
この入射角特性は画像センサ103のピクセル構造や配線等によって変化するため、撮像装置101を構成する画像センサ103特有のものとなる。仮に、式(17)によって計算される画角2θよりも画像センサ103によって決まる画角2θ’が大きい場合、解像度の低下は発生せず、その場合の解像度は式(16)によって計算された係数βによって決定される。
反対に、式(17)によって計算される画角2θよりも画像センサ103によって決まる画角2θ’が小さい場合、撮像装置101の画角2θの範囲に撮影できない領域が発生し、解像度の低下に繋がることになる。
次に、図22は、撮像装置101の画角2θによる視野範囲と、画像センサ103によって決まる画角2θ’による視野範囲を比較した図である。
同図に示されるように、撮像用パターン105からdの距離にある平面状の被写体2201を撮影する場合、その視野範囲はそれぞれ2dtanθと2dtanθ’とになる。
視野範囲が2dtanθから2dtanθ’に変化する場合、解像度の低下の度合いは、式(17)を用いれば、2dtanθ’/Sと計算することができる。
式(16)によれば、距離dが小さいほど係数βが大きくなり解像度が高くなることを示していたが、画像センサ103の入射角特性を考えた場合には、画像センサ103の限界入射角度θ’の大きさによって距離dの最適値が変わることになる。
つまり、画像センサ103の入射角特性を考えた場合には、撮像装置101を構成する画像センサ103のサイズSおよび入射角特性θ’、撮像用パターン105と画像センサ103の距離dによって係数βを変動させることによって、撮像装置101の解像度を有効に活用することが可能となる。
したがって、画像センサ103の入射角特性に応じてピッチの粗い撮像用パターン105を用いれば、撮像装置101の解像度の向上が可能となる。結果として撮像用パターン105の最小開口幅qから画像センサ103に投影される幅の影は4q以下の大きさとなる。
<実施例3>
<撮像用パターン105の開口部1051と非開口部1052の幅の比率>
上述した実施例1,2では、撮像用パターン105の開口部1051と非開口部1052の幅の比が1:1であることを前提としていた。以下、実施例3として、撮像用パターン105の開口部1051と非開口部1052の幅の比率を変えることで解像度を上げる方法について説明する。
図23は、同心円状パターンから成る撮像用パターン105の隣接する2つの開口部1051の幅をq、隣接する2つの開口部の間の非開口部1052の幅をmqとした場合において、光が撮像用パターン105で回折して画像センサ103上に投影される様子を示している。
この場合、画像センサ103に到達した光の強度は、その平均値を閾値とすれば、閾値を下回る暗い部分の強度と閾値を上回る明るい部分の強度との比が1:1にはならない。また、撮像用パターン105の開口部1051の幅qは、画像センサ103に到達した光の強度の平均値を閾値とすれば、前記閾値を下回るくらい部分の強度と閾値を上回る明るい部分の強度との比率に基づいて決定されることになる。
同図において、実施例1と同様にレイリー限界を利用すると、1つの開口部1051から投影されたパターンの幅が2q+2mqに到達した状態が解像できる限界となり、その関係性は次式(18)に示されるように計算できる。
Figure 2019161574
また、この場合、開口部1051の幅qとその隣の非開口部1052の幅mqは、同心円状パターンの中心からの距離rと係数βによって次式(19)に示されるように計算できる。
Figure 2019161574
さらに、解像限界のピッチを持つ同心円状のパターンに対応する係数βは、次式(20)に示されるように計算できる。
Figure 2019161574
式(20)から分かるように、係数βの最適な値は、S、d、及びmによって変動する。つまり、撮像装置101を構成する画像センサ103の2次元方向サイズSと、撮像用パターン105と画像センサ103の距離dと、撮像用パターン105の開口部1051と非開口部1052の比率mとによって係数βを変動させることで、撮像装置101の解像度を最大限に活用することが可能となる。なお、この場合の解像度は、2βS/πまたはNの小さい方によって決定されることになる。
<実施例4>
<空間分割フリンジスキャンを採用した場合の補足>
上述した実施例1〜3では、撮像用パターン105の係数βを最適化する方法として、画像センサ103の2次元方向サイズSを用いた。しかしながら、上述した空間分割フリンジスキャンを行う場合には撮像用パターン105には複数の同心円パターンが含まれているので、係数βを決定する要因として、画像センサ103の2次元方向サイズではなく、撮像用パターン105に含まれる複数の同心円パターンの2次元方向サイズを用いることが望ましい。
撮像用パターン105に含まれる複数の同心円パターンの2次元方向サイズをΨとした場合、上述した式(16)および式(20)は、それぞれ式(21)および式(22)のように表すことができる。
Figure 2019161574
Figure 2019161574
また、撮像用パターン105にサイズが異なる複数の同心円パターンが含まれる場合には、同心円パターンごとに異なる係数βを用いることで撮像装置101の解像度を有効に活用することが可能となる。
なお、本発明は、上述した実施の形態に限定されるものではなく、様々な変形が可能である。例えば、上述した実施の形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
101・・・撮像装置、102・・・撮像部、103・・・画像センサ、103a・・・画素、104・・・パターン基板、105・・・撮像用パターン、1051・・・開口部、1052・・・非開口部、106・・・画像処理部、107・・・コントローラ、301・・・支持部材、801・・・現像用パターン、1801・・・入射光線、2201・・・被写体

Claims (9)

  1. 複数の受光素子から成り、受光した光を前記受光素子が光電変換することによってセンサ画像を生成する画像センサと、
    前記画像センサの受光面から所定の距離に設けられた撮像用パターンにより前記画像センサが受光する前記光の強度を変調する変調部と、
    を備え、
    前記変調部に設けられた前記撮像用パターンの開口部の幅は、前記所定の距離と前記画像センサの2次元方向サイズとに基づいて決定されている
    ことを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置であって、
    前記センサ画像と現像用パターンとを用いた現像処理により、被写体が写された撮像画像を生成する画像処理部を、
    備えることを特徴とする撮像装置。
  3. 請求項1に記載の撮像装置であって、
    前記変調部に設けられた前記撮像用パターンは、基準座標からの距離が遠くなるに従って前記開口部の幅が細かくなる同心円状パターンから構成されている
    ことを特徴とする撮像装置。
  4. 請求項3に記載の撮像装置であって、
    前記変調部に設けられた前記撮像用パターンは、複数の前記同心円状パターンを含む
    ことを特徴とする撮像装置。
  5. 請求項4に記載の撮像装置であって、
    前記撮像用パターンが含む前記複数の同心円状パターンのそれぞれは、前記開口部の幅が、前記所定の距離と各同心円状パターンの2次元方向サイズとに基づいて決定されている
    ことを特徴とする撮像装置。
  6. 請求項1に記載の撮像装置であって、
    前記撮像用パターンの1つの前記開口部にて回折された1次回折光が前記画像センサに到達したときの幅は、前記開口部の幅の4倍以下である
    ことを特徴とする撮像装置。
  7. 請求項1に記載の撮像装置であって、
    前記撮像用パターンの1つの前記開口部にて回折された1次回折光が前記画像センサに到達したときの幅は、前記開口部の幅の4倍である
    ことを特徴とする撮像装置。
  8. 請求項1に記載の撮像装置であって、
    前記変調部の前記撮像用パターンを介して前記画像センサに到達した光の強度は、その平均値を閾値とした場合、前記閾値を下回る値と前記閾値を上回る値の比が1:1ではない
    ことを特徴とする撮像装置。
  9. 請求項8に記載の撮像装置であって、
    前記変調部の前記撮像用パターンの前記開口部の幅は、前記閾値を下回る値と閾値を上回る値の比率に基づいて決定されている
    ことを特徴とする撮像装置。
JP2018049062A 2018-03-16 2018-03-16 撮像装置 Active JP6814762B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018049062A JP6814762B2 (ja) 2018-03-16 2018-03-16 撮像装置
CN201910057632.4A CN110278350B (zh) 2018-03-16 2019-01-22 摄像装置
US16/289,790 US10812734B2 (en) 2018-03-16 2019-03-01 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018049062A JP6814762B2 (ja) 2018-03-16 2018-03-16 撮像装置

Publications (2)

Publication Number Publication Date
JP2019161574A true JP2019161574A (ja) 2019-09-19
JP6814762B2 JP6814762B2 (ja) 2021-01-20

Family

ID=67904271

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018049062A Active JP6814762B2 (ja) 2018-03-16 2018-03-16 撮像装置

Country Status (3)

Country Link
US (1) US10812734B2 (ja)
JP (1) JP6814762B2 (ja)
CN (1) CN110278350B (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017149687A1 (ja) * 2016-03-02 2017-09-08 株式会社日立製作所 撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008010773A (ja) * 2006-06-30 2008-01-17 Matsushita Electric Ind Co Ltd 固体撮像素子およびその製造方法
JP5283371B2 (ja) * 2007-11-29 2013-09-04 パナソニック株式会社 固体撮像素子
JP2009252978A (ja) * 2008-04-04 2009-10-29 Panasonic Corp 固体撮像素子およびその製造方法
WO2011043051A1 (ja) * 2009-10-07 2011-04-14 パナソニック株式会社 撮像装置および固体撮像素子
JP2015177034A (ja) * 2014-03-14 2015-10-05 キヤノン株式会社 固体撮像装置、その製造方法、及びカメラ
WO2015195417A1 (en) * 2014-06-20 2015-12-23 Rambus Inc. Systems and methods for lensed and lensless optical sensing
JP6397048B2 (ja) * 2014-11-20 2018-10-03 富士フイルム株式会社 撮像装置、撮像方法及び画像処理プログラム
WO2016159032A1 (ja) * 2015-03-30 2016-10-06 株式会社ニコン 撮像素子および撮像装置
JP6491332B2 (ja) * 2015-06-17 2019-03-27 マクセル株式会社 撮像装置
US10911643B2 (en) 2016-02-26 2021-02-02 Hitachi, Ltd. Imaging device modulating intensity of light with grating pattern

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017149687A1 (ja) * 2016-03-02 2017-09-08 株式会社日立製作所 撮像装置

Also Published As

Publication number Publication date
CN110278350A (zh) 2019-09-24
JP6814762B2 (ja) 2021-01-20
US10812734B2 (en) 2020-10-20
US20190289184A1 (en) 2019-09-19
CN110278350B (zh) 2021-06-15

Similar Documents

Publication Publication Date Title
TWI658432B (zh) Camera
US10551532B2 (en) Imaging device and imaging method
WO2017145348A1 (ja) 撮像装置
JP6721698B2 (ja) 撮像装置
CN110324513B (zh) 摄像装置,摄像模块和摄像方法
US10887504B2 (en) Distance measurement device and distance measurement method
JP6646619B2 (ja) 撮像装置
WO2020059181A1 (ja) 撮像装置および撮像方法
CN110198391B (zh) 摄像装置、摄像方法和图像处理装置
JP2023016864A (ja) 撮像装置および方法
JP6807286B2 (ja) 撮像装置及び撮像方法
CN110278350B (zh) 摄像装置
JP2019087796A (ja) 撮像装置
JP7159118B2 (ja) 撮像装置
JP7146698B2 (ja) 撮像装置、撮像方法、撮像システムの送信装置、及び撮像システムの受信装置
JP7065761B2 (ja) 距離計測装置および距離計測方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201221

R151 Written notification of patent or utility model registration

Ref document number: 6814762

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151