JP2011128024A - 3次元撮像装置 - Google Patents

3次元撮像装置 Download PDF

Info

Publication number
JP2011128024A
JP2011128024A JP2009286991A JP2009286991A JP2011128024A JP 2011128024 A JP2011128024 A JP 2011128024A JP 2009286991 A JP2009286991 A JP 2009286991A JP 2009286991 A JP2009286991 A JP 2009286991A JP 2011128024 A JP2011128024 A JP 2011128024A
Authority
JP
Japan
Prior art keywords
light
distance
information
signal
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2009286991A
Other languages
English (en)
Inventor
Keiji Nagase
圭司 永瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2009286991A priority Critical patent/JP2011128024A/ja
Publication of JP2011128024A publication Critical patent/JP2011128024A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

【課題】一つの撮像装置で距離情報と色情報の導出を実現できて立体カラー撮像画像を得る。
【解決手段】3次元撮像装置1は、光源手段2からの投射光L1として近赤外光が被計測物Aに照射され、この投射光L1の被計測物Aからの反射光L2を受光手段3で受光し、受光手段3の受光情報に基づいて被計測物Aまでの距離情報を信号処理部4により導出する距離情報導出手段52と、自然光または照明光による被計測物Aからの反射光L2を受光手段3で受光して、この受光手段3の受光情報に基づいて被計測物AのR(赤),G(緑)およびB(青)の色情報を信号処理手段4により導出する色情報導出手段53とを有して3次元画像を撮像する。
【選択図】図1

Description

本発明は、一つの撮像装置にて立体カラー撮像が可能となり、被計測物に対して奥行方向の距離情報と被計測物(面)の色情報を取得可能とする3次元撮像装置に関する。
距離計測手法の従来技術の一つとして、TOF(Time of Flight)原理を用いた距離センサが特許文献1に開示されている。このTOF原理を用いたセンサ全体のブロック図を図15に示し、センサ画素部の断面構造図を図16に示し、センサ駆動のタイミング図を図17に示している。
図15において、光源101から対象物Aに照射されたパルス投射光L1は、対象物Aで反射されてパルス反射光L2となり、レンズ102を透過してTOF画素回路103に入射される。
このTOF画素回路103において単位画素構造を図16に示している。
図16において、対象物Aからのパルス反射光L2は、フォトゲート電極104,105を透過し、フィールド酸化膜である絶縁層106下の光電変換領域である受光層107に入射される。この受光層107で入射光から光電変換された信号電荷は、図17に示されるセンサ駆動タイミングに従って、TX1,TX2のトランスファーゲートにより電荷振分け動作が実行されて、最終的に図15に示される出力端子V1,V2より各電圧値として外部に出力される。求めるべき対象物Aまでの距離値は、後述する数6(式6)より算出可能である。
なお、108はP型シリコン基板などの半導体基板、109,110は浮遊拡散層、111,112はポリシリコンゲート、113は、受光層107の上方に開口する開口部113aを持つ遮光部、114,115はMOSトランジスタである。
このように、特許文献1では、TOF原理を用いて観測すべきパラメータである光の飛行時間(図17ではTd)を、TOF画素回路103(センサ)からの出力電圧V1,V2を観測することにより、TOF原理による距離計測を実現させている。つまり、観測すべき光の飛行時間Tdは、光源101からのパルス光の点灯時間T0とセンサからの出力電圧V1とV2が確定すれば求められる。パルス光の点灯時間のT0は設定値であるため既知であり、未知数はセンサからの出力電圧のV1,V2のみであることから、センサからの出力電圧V1,V2のみを観測することにより、求めるべき対象物Aまでの距離計測が可能となる。
次に、別の距離計測手法として、ステレオカメラによる距離計測精度の向上を図ったものとして、レンズ特性バラツキなどに起因した視差検出誤差に対する補正により、距離計測精度を向上させたステレオカメラが特許文献2に開示されている。
特許文献2に開示されているステレオカメラの距離計測原理として、2個のカメラで撮像した画像に対して、左右の画像(一方の画像を基準画像と定義、残る他方を比較画像と定義)内に存在する同一物体での一致度を判定するパターンマッチング処理により、視差(左右の画像に存在する同一物体での位置のズレ量)を確定させ、確定させたズレ量を基に、三角測量の原理を用いて被写体Aまでの距離を算出するものである。
このように、ステレオカメラでは、2個のカメラで撮像した左右の画像内に存在する同一物体に対するパターンマッチング処理が不成立の場合、距離計測ができないという致命的な課題がある。
また、パターンマッチング処理が不成立に至らないにしても、2個のカメラで用いるレンズ特性のバラツキなどにより、確定した視差データに誤差が生じ、得られる距離値の精度が低下するという課題も有している。
このようなレンズ特性バラツキなどによる距離精度低下の課題に対しては、特許文献2では、予め用意した画角修正比テーブルを用いて視差を補正して距離精度の向上を図っている。
また、用いる2個のカメラは、カラーフィルタ搭載のイメージセンサでもよく、カラー表示に必要な色情報の導出も可能となる。
特許第4280822号公報(特開2005−235893号公報) 特許第3261115号公報(特開2001−91245号公報)
しかしながら、上記従来の特許文献1では、フィールド酸化膜下を光電変換された信号電荷の転送チャネルとして使用しているため、本質的に結晶欠陥に起因した界面捕獲準位(原子配列が不規則となる界面でのキャリアの再結合・生成準位)によるノイズを低減させることが困難であった。このノイズは、暗電流として顕著に観測することができる。具体的には、センサ受光部を完全に遮光して距離計測を行った場合、期待される計測距離値は全ての画素で同一であるべきであるが、得られる計測距離値は全ての画素で同一でなく、画素によって計測距離値にばらつきがある。また、この暗電流は温度依存性があるため、センサ動作状態によって距離計測値が異なるという課題も有している。このため、この距離センサによる計測距離精度は高くない。
また、上記従来の特許文献1では、光源101からの投射光L1による距離計測手法については、その具体的な実現手法の記載があるものの、カラー表示で必要となる色情報の導出については、その記載が全くなく、カラー表示のための色情報の導出が不可能であると言える。
即ち、特許文献1に記載の距離センサでは、用いる画素構造が本質的にノイズを低減できない構造であるため、距離センサで重要となる距離精度の向上が困難であるという課題と、カラー表示で必要となる色情報の良好な導出が不可能であるという課題とを有している。
次に、上記従来の特許文献2では、距離値導出の必須条件として、2個のカメラにより取得した基準画像と比較画像との間で、同一物体に対するパターンマッチング処理による視差確定がある。しかしながら、物体の陰になって一方のカメラでは見えるが、もう一方のカメラには見えない場合(オクルージョン)、視差不確定により距離値の導出できないという致命的な課題がある。
また、視差確定のためのパターンマッチング処理は計算リソースを必要とするため、高い動画応答性が要求される高速被写体の計測用途に対しては、適用が困難であるという課題がある。
さらに、2個のカメラで取得した画像を用いて視差を確定させ、三角測量の原理により距離を導出するため、広範囲な距離計測を行う場合、2個のカメラの配置間隔(基線長)が長くなり、距離計測装置としてのサイズが大きくなるという課題もある。
即ち、特許文献2に記載のステレオカメラでは、距離計測には2個のカメラが必要であり、パターンマッチングによる視差確定が不可の場合、距離計測ができないという致命的な課題と、パターンマッチング処理が計算リソースを必要とするため、高速被写体への距離計測へ適用ができないという課題と、距離計測原理に三角測量を用いているため、高範囲な距離計測を行う場合には、装置自体のサイズが大きくなってしまうとういう課題を有している。
本発明は、上記従来の問題を解決するもので、一つの撮像装置で距離情報と色情報の導出を実現できて立体カラー撮像画像を得ることができる3次元撮像装置を提供することを目的とする。
本発明の3次元撮像装置は、投射光を被計測物に照射し、該投射光の該被計測物からの反射光を受光してその受光情報に基づいて該被計測物までの距離情報を導出する距離情報導出手段と、該投射光以外の光による該被計測物からの反射光を受光してその受光情報に基づいて該被計測物の色情報を導出する色情報導出手段とを有してカラー3次元画像を得るものであり、そのことにより上記目的が達成される。
また、好ましくは、本発明の3次元撮像装置における距離情報導出手段は、前記投射光を照射する光源手段と、該投射光の投射空間からの反射光を受光して、該投射空間の前記被計測物までの距離に応じた受光情報を得る複数の距離画素部が配設された受光手段と、該受光情報から該被計測物までの距離情報を算出する距離情報算出手段とを有する。
さらに、好ましくは、本発明の3次元撮像装置における複数の距離画素部はそれぞれTOF(タイム・オブ・フライト)式距離画像センサである。
さらに、好ましくは、本発明の3次元撮像装置における色情報導出手段は、色情報導出用の色画素部が所定の色配列で周期的に配置された受光手段と、該受光手段からの受光情報に基づいて色情報を算出する色情報算出手段とを有する。
さらに、好ましくは、本発明の3次元撮像装置における受光手段は、距離情報導出用の距離画素部が周期的に配置され、該距離画素部以外の色情報導出用の色画素部が所定の色配列で周期的に配置されている。
さらに、好ましくは、本発明の3次元撮像装置における受光手段の距離画素部は、1画素当り2つの信号出力を得るべく、光電変換用の1つの埋め込みフォトダイオードと、該埋め込みフォトダイオードで光電変換された信号電荷をフローティング領域に電荷転送する信号転送手段、電荷転送前に該フローティング領域を基準電位にリセットするリセット手段、電荷転送後の該フローティング領域の電位に基づいて信号増幅する信号増幅手段および、該信号増幅手段で信号増幅した信号を選択出力する選択手段を各々2つから成る素子構成とを、距離情報導出の基本画素構成とし、該基本画素構成が画素アレイ部に周期的に配置されている。
さらに、好ましくは、本発明の3次元撮像装置における受光手段の距離画素部は、距離導出精度向上のために光電変換領域に埋め込みフォトダイオードが用いられている。
さらに、好ましくは、本発明の3次元撮像装置における受光手段の距離画素部は、空乏層幅が拡大するように該埋め込みフォトダイオードの基板深さ方向での不純物濃度が制御されて電荷捕獲効率が高められている。
さらに、好ましくは、本発明の3次元撮像装置における2つの信号出力の電荷振り分け動作を高速に行うべく、前記埋め込みフォトダイオードに隣接配置した信号転送用トランジスタの信号電荷転送チャネル領域に、多段の不純物濃度勾配により急峻な電位勾配が設けられた。
さらに、好ましくは、本発明の3次元撮像装置における2つの信号出力の電荷振り分け動作を高速に行うべく、前記埋め込みフォトダイオードに隣接配置した信号転送用トランジスタの信号電荷転送チャネル領域に対して該埋め込みチャネルにより半導体表面での散乱による移動度低下が低減されている。
さらに、好ましくは、本発明の3次元撮像装置における埋め込みフォトダイオードに電荷排出端子が設けられ、距離情報導出で不要となる前記光源手段がオフ期間に光源以外からの光により光電変換された電荷を、光源オフ期間背景光成分の不要電荷として該電荷排出端子から排出させる。
さらに、好ましくは、本発明の3次元撮像装置における光源手段がオン期間に全ての光成分により光電変換された電荷(光源オン期間全光成分)を読出し、次に、該光源手段をオフさせかつ該光源手段のオン期間と同一時間幅で光源以外からの光により光電変換された電荷(光源オフ期間背景光成分)を読出し、該光源オン期間全光成分から該光源オフ期間背景光成分を減算処理することにより、距離情報導出で不要となる該光源手段がオン期間に光源以外からの光により光電変換された不要電荷を除去する。
さらに、好ましくは、本発明の3次元撮像装置における受光手段の色画素部は、1画素当り1つの信号出力を得るべく、光電変換用の1つの埋め込みフォトダイオードと、該埋め込みフォトダイオードで光電変換された信号電荷をフローティング領域に電荷転送する信号転送手段、電荷転送前に該フローティング領域を基準電位にリセットするリセット手段、電荷転送後の該フローティング領域の電位に基づいて信号増幅する信号増幅手段および、該信号増幅手段で信号増幅した信号を選択出力する選択手段を各々1つから成る素子構成とを、色情報導出の基本画素構成とし、該基本画素構成が画素アレイ部に周期的に配置したことにより、計測面での色情報導出の基となる輝度情報を取得する。
さらに、好ましくは、本発明の3次元撮像装置において、距離情報導出と色情報導出を1つの撮像装置で実現させるべく、距離情報導出用の距離画素上には距離情報導出で用いる投射光の近赤外光帯域のみを透過する近赤外光バンドパスフィルタを用い、各色情報導出用の色画素上には色情報導出で用いる光であるR(赤),G(緑),B(青)光帯域のみを透過するR(赤),G(緑),B(青)光バンドパスフィルタを画素選択的に各々積層形成する。
さらに、好ましくは、本発明の3次元撮像装置において、距離情報導出用の距離画素で欠落するR(赤),G(緑),B(青)の色情報を補間させるべく、距離情報導出用の距離画素から得られる近赤外光波長帯域での輝度情報と、隣接のR(赤),G(緑),B(青)の色情報導出用の色画素の輝度情報とに基づいて、R(赤),G(緑),B(青)の色情報を補間する。
上記構成により、以下、本発明の作用を説明する。
本発明においては、投射光を被計測物に照射し、投射光の被計測物からの反射光を受光してその受光情報に基づいて被計測物までの距離情報を導出する距離情報導出手段と、投射光以外の光による被計測物からの反射光を受光してその受光情報に基づいて被計測物の色情報を導出する色情報導出手段とを有して3次元画像を撮像する。
これによって、一つの撮像装置で距離情報と色情報の導出を実現できて立体カラー撮像画像を得ることが可能となる。
また、受光手段の距離画素部は、距離導出精度向上のために光電変換領域に埋め込みフォトダイオードを用いているので、ノイズの低減により距離精度の向上が図られる。
以上により、本発明によれば、一つの撮像装置にて、被計測物までの距離情報の導出手段と、被計測物の色情報の導出手段により、被計測物に対するカラー立体撮像画像を、低コストでかつ小型に実現することができる。また、受光手段の距離画素部が、距離導出精度向上のために光電変換領域に埋め込みフォトダイオードを用いているため、撮像装置内の画素部のノイズ低減により、計測距離精度とカラー画質を向上させることもできる。
本発明の3次元撮像装置を説明するための概念図である。 本発明の実施形態1を示す3次元撮像装置における要部構成例を示すブロック図である。 図2の画素アレイにおいて距離画素と色画素の配置例を示す平面模式図である。 図2の画素アレイにおける距離画素の単位基本構成例を模式的に示す縦断面図および回路図である。 図2の画素アレイにおける距離画素の駆動タイミングを示す波形図である。 図2の画素アレイにおいて距離画素での信号転送を説明するための図である。 図2の画素アレイにおける距離画素の平面構成例を模式的に示す拡大平面図である。 図2の画素アレイにおける距離画素の埋め込みチャネル型電荷転送ゲートを模式的に示す図である。 図2の距離情報算出部において不要信号を除去する場合の概念説明図である。 図2の距離情報算出部において光源オン期間の背景成分を除去する場合の距離画素Dの駆動タイミングを示す波形図である。 図2の距離情報算出部において距離画素Dに不要電荷転送ゲートを設けた平面構成例を模式的に示す拡大平面図である。 図2の画素アレイにおける色情報導出用の色画素の単位基本構成例を模式的に示す縦断面図および回路図である。 透過波長帯域を設定可能な光学バンドパスフィルタの画素選択的形成方法を示す図である。 図2の画素アレイにおける距離画素で欠落するR,G,Bの色情報の補間で用いるテーブルを示す図である。 特許文献1に開示されている従来のTOF方式距離センサのブロック図である。 図15の従来のTOF方式距離センサの単位センサ画素部の構造図であって、(a)はその単位センサ画素部の縦断面図、(b)はその単位センサ画素部の平面図である。 図15の従来のTOF方式距離センサのセンサ駆動タイミングを示す信号波形図である。 距離情報に基づいた3次元座標表示を示す図である。 立体表示の視差バリア方式を説明するための図である。
以下に、本発明の3次元撮像装置の実施形態1〜3について具体的に説明する前に、一つの撮像装置により、距離情報導出手段と色情報導出手段とを有する3次元撮像装置の概念について説明する。
図1は、本発明の3次元撮像装置を説明するための概念図である。
図1において、本発明の3次元撮像装置1は、一つの撮像装置内に、パルス状の近赤外線の投射光L1を被計測物Aに向けて光投射する光源手段2と、被計測物Aから反射された反射光L2である近赤外線光と自然光または照明光を受光して光電変換を行う受光手段3と、近赤外線光と自然光または照明光から光電変換されたキャリアに対して信号処理を行う信号処理手段4とを設け、この信号処理手段4により距離情報の導出と色情報の導出とを行う。
即ち、本発明の3次元撮像装置1は、光源手段2からの投射光L1として近赤外光が被計測物Aに照射され、この投射光L1の被計測物Aからの反射光L2を受光手段3で受光し、受光手段3の受光情報に基づいて被計測物Aまでの距離情報を信号処理部4により導出する距離情報導出手段52と、自然光または照明光による被計測物Aからの反射光L2を受光手段3で受光して、この受光手段3の受光情報に基づいて被計測物AのR(赤),G(緑)およびB(青)の色情報を信号処理手段4により導出する色情報導出手段53とを有して3次元カラー画像を撮像する。
距離情報導出手段52は、投射光L1を照射する光源手段2と、投射光L1の投射空間からの反射光L2を受光して、投射空間の被計測物Aまでの距離に応じた受光情報を得る複数の距離画素D(または距離画素部)が配設された受光手段3と、この受光情報から被計測物Aまでの距離情報を算出する距離情報算出手段としての距離情報算出部413とを有している。
色情報導出手段53は、色情報導出用の色画素(または色画素部)が所定の色配列で周期的に配置された受光手段3と、受光手段3からの受光情報に基づいて色情報を算出する色情報算出手段としての色情報算出部414とを有している。
(実施形態1)
本実施形態1では、本発明の3次元撮像装置1の距離情報導出手段の一例について、図面を参照しながら詳細に説明する。
図2は、本発明の実施形態1を示す3次元撮像装置における要部構成例を示すブロック図である。
本実施形態1の3次元撮像装置10は、パルス状の近赤外線光を被計測物Aに向けて光投射する光源手段2としての発光モジュール21と、被計測物Aからの反射光および自然光を受け、この受光情報に基づいて、被計測物Aまでの距離情報および色情報を導出する受光手段3および信号処理手段4で構成された受光・信号処理モジュール5とを有してカラー3次元画像を得る。
光源手段2としての発光モジュール21は、後述する信号処理ユニット41のタイミング制御部411により投射光の発光タイミングが制御されるパワーLED駆動回路ユニット211と、パワーLED駆動回路ユニット211により駆動されて複数のパワーLED212aから投射光を発光するパワーLEDユニット212と、少なくとも1つ以上のパワーLED212aが設けられたパワーLED駆動回路ユニット212の前方位置に配置されて対象物体Aに対する投射光の放射角を調整可能とする放射光角調整レンズ213とを有している。
このように、発光モジュール21は、パワーLED駆動回路ユニット211、パワーLEDユニット212および放射光角調整レンズ213とから構成され、受光・信号処理モジュール5内の信号処理ユニット41のタイミング制御部411により生成されるパワーLED駆動用信号に基づいて、近赤外光線を被計測物Aに対して各パワーLED212aからパルス状に投射させている。
ここで、パワーLED駆動回路ユニット211は、パワーLEDユニット212内にアレイ状に配置させたパワーLEDチップに対して、駆動に必要な定電流を、パワーLED駆動用信号に基づいて一定周期の矩形波を与えている。また、放射角調整レンズ213の画角は、受光・信号処理モジュール5内の入射角調整レンズ51の画角と一致するように調整させている。これは、光源手段2としての発光モジュール21から投射させた近赤外光線が被計測物Aで反射させ、受光手段3としての受光センシングユニット31に入射させる反射光の経路において、この反射光の利用効率を向上させるという観点から重要である。その結果として、本実施形態1の3次元撮像装置10の主要性能である計測距離精度を維持しながら、現時点ではコスト的に高いパワーLEDユニット212のコスト抑制が可能となっている。
受光・信号処理モジュール5は、入射光角調整レンズ51、受光センシングユニット31および信号処理ユニット41を有している。
受光手段3としての受光センシングユニット31は、各画素を構成する複数の受光部である画素アレイ311と、各画素(受光部)からの信号読出用のタイミング信号を生成するタイミング生成回路312と、各画素(受光部)を垂直方向に走査する垂直走査回路313および、各画素(受光部)を水平方向に走査する水平走査回路314と、このタイミング信号を用いて垂直走査回路313および水平走査回路314を制御して各画素(受光部)からの信号読み出しを駆動する画素駆動回路315と、画素駆動回路315により画素アレイ311から読み出された画像信号に対してノイズキャンセル処理を行うノイズキャンセル回路316と、ノイズキャンセル回路316からの出力信号をA/D変換して信号出力するADC回路317と、ADC回路317からのデジタル信号を増幅して出力する出力増幅回路318とを有している。
信号処理手段4としての信号処理ユニット41は、3次元撮像装置10全体を制御するために必要な各種制御部から構成されており、パワーLEDドライバ21および受光センシングユニット31の各駆動タイミングをそれぞれ制御するタイミング制御手段としてのタイミング制御部411と、各種システムと交信するためのインターフェイス手段としてのインターフェイス部412と、受光センシングユニット31からの受光情報(物体までの距離に関する情報)に基づいて距離情報を算出する距離情報算出手段としての距離情報算出部413と、受光センシングユニット31からの受光情報(物体の色に関する情報)に基づいて色情報を算出する色情報算出手段としての色情報算出部414と、ホワイトバランス処理を行うホワイトバランス部415と、表示画面に対応したγ補正部416とを有して、受光センシングユニット31からの受光情報に基づいて距離情報と色情報を求める。
ここで、本実施形態1の3次元撮像装置1における距離情報導出手段52の一例について詳細に説明する。
まず、被計測物Aで反射された発光モジュール21からの近赤外線パルス光は、入射角調整レンズ51を通して受光センシングユニット31内の画素アレイ311に入射される。画素アレイ311には、距離情報導出用の画素(以下、距離画素Dという)が、図3に示すように周期的に配置されている。また、R,G,Bと示される画素が色情報導出用の画素(以下、色画素という)であり、Bが青色、Gが緑色、Rが赤色の色情報導出用の色画素をそれぞれ示している。
このように、画素アレイ311において、距離情報導出用の距離画素Dが周期的に複数配置され、距離画素D以外の色情報導出用の色画素部が所定の色配列(例えばベイヤー配列)で周期的に配置している。複数の距離画素Dはそれぞれ、詳細に後述するが、TOF(タイム・オブ・フライト)式距離画像センサで構成されている。この距離画素Dの基本画素構成(模式図)と回路図を図4に示している。
図4に示すように、距離画素Dの中央に配置された埋め込みフォトダイオードBPDに入射された近赤外線パルス光は、ここで、光電変換されて光子から半導体内キャリアとしての電子へと変換される。図4に示される光電変換領域である埋め込みフォトダイオードBPDは、高濃度p型基板上に低濃度pエピタキシャル層、低濃度n層とシリコン最表面にp型層を積層させた埋め込みフォトダイオードを用いることによって、フォトゲート方式(特許文献1の光電変換領域に採用している方式)やフォトダイオード方式で課題となる結晶欠陥起因のノイズ発生を抑制している。また、距離画素の埋め込みフォトダイオードBPDに入射する近赤外線光の波長は可視光に比べて長いため、シリコン基板内部まで入射する。このため、光電変換領域である埋め込みフォトダイオードBPDでの電荷捕獲効率を高めるために、基板深さ方向での空乏層幅を拡大させるために、pn接合での低濃度pエピタキシャル層と低濃度n層の濃度制御を、次の数1(式1)に示される空乏層幅xdと、p,n層の不純物濃度NA,NDの関係式などを用いて制御する。これによって、画素アレイ311の距離画素Dは、空乏層幅が拡大するように埋め込みフォトダイオードBPDの基板深さ方向での不純物濃度が制御されて電荷捕獲効率が高められている。
この場合、qは電子の電荷量,ε0は真空の誘電率,εSはシリコンの比誘電率,Vbは拡散電位,VRは逆バイアス電圧をそれぞれ表している。
光電変換された電子は、図5の距離画素Dの駆動タイミング図に示されるタイミングに従って、浮遊拡散層FD1,FD2上に設けた出力端子V1,V2から距離画素D内の信号増幅手段としての信号増幅トランジスタMA1,MA2をそれぞれ経て、更に選択手段としての選択トランジスタMS1,MS2をそれぞれ経て各列信号線にそれぞれ接続されたノイズキャンセル回路316にそれぞれ入力される。
さらに、距離画素D内での駆動タイミングを、図4および図5を用いて具体的に説明する。
図5に示すように、1フレーム期間は、信号電荷蓄積期間と信号電荷読出期間とから成る。また、信号電荷蓄積期間は複数回の露光期間から成り、1露光期間は、信号電荷転送期間と不要電荷排出期間から成っている。信号電荷転送期間は、被計測物Aからの反射光により埋め込みフォトダイオードBPDにて光電変換された信号電荷の電子を、転送ゲートTx1,Tx2を用いて電荷蓄積領域である浮遊拡散層FD1,FD2に対して電荷転送する期間である。
浮遊拡散層FD1,FD2への電荷転送は、転送ゲートTx1,Tx2の位相反転駆動(ある時点に着目すれば、どちらか一方の転送ゲートのみがオンされた状態)により実行される。これによって、被計測物Aまでの距離に応じて生じる遅延時間(パルス光の飛行時間Td)は、上述した信号電荷の転送による電荷振り分け動作にて間接的に観測することが可能になる。また、不要電荷排出期間では、図7の距離画素Dの平面構造図に示されるように、埋め込みフォトダイオードBPDに隣接配置した電荷排出ゲートCD1,CD2を上下にそれぞれ用いて、近赤外線パルス光源を消灯させた期間に背景光などにより発生する不要電荷を電荷排出ゲートCD1,CD2から排出させている。
さらに、距離画素D内での信号電荷の動きを、図5および図6の距離画素Dの信号転送図を用いて、V1端子方向への電荷転送に着目して具体的に説明する。
図6に示すように、信号電荷蓄積期間前(図6の状態1)のフローティング領域としての浮遊拡散層FD1の電位は基準電位である電源電圧Vddに固定化されていないため、1フレームの開始に当っては浮遊拡散層FD1の電位をリセット手段としてのリセットトランジスタMR1のオンにより基準電圧の電源電圧Vddに固定化する(図6の状態2)。
続いて、リセット・トランジスタMR1をオフして浮遊拡散層FD1の電位を信号増幅手段としての信号増幅トランジスタMA1に与え、リセット信号として受光センシングユニット31内のノイズキャンセル回路316に入力させる(図6の状態3)。
さらに、信号電荷蓄積期間内に複数回実行される埋め込みフォトダイオードBPDから浮遊拡散層FD1への信号電荷転送について説明する。
埋め込みフォトダイオードBPDに入射した近赤外線パルス光は、光電変換により信号電荷の電子へ変換され、転送ゲートMTX1のオンにより電位の高い浮遊拡散層FD1へ電荷転送される(図6の状態4)。
シリコン半導体内でのキャリアの輸送を考慮すると、キャリア電子の転送経路内での位置をx,電位をV(x),キャリア電子の移動度をμとすると、キャリア電子の速度v(x)とキャリア電子にかかる電界E(x)はそれぞれ、次の数2(式2)および数3(式3)で表すことができる。
これらの式2および式3により、キャリアを高速に転送しようとすれば、移動度μと電界Eを高めればよいことがわかる。図6に示すように、転送ゲート下のキャリア電子の転送チャネル部分に対して、ポケット注入を用いて不純物濃度Pが、P1>P2>P3となるように濃度制御を行い、埋め込みフォトダイオードBPDから浮遊拡散層方向への電位勾配にて電界を高め、高速なキャリア電子の電荷転送を実現させている。このように、2つの信号出力の電荷振り分け動作を高速に行うべく、埋め込みフォトダイオードBPDに隣接配置した信号転送用トランジスタMTX1の信号電荷転送チャネル領域に、多段の不純物濃度勾配(P1>P2>P3)により急峻な電位勾配が設けられている。
また、キャリア電子の移動度は、転送チャネルがシリコン表面層に形成されると、表面散乱による移動度の低下が生じる。図8に示されるように、転送ゲート下のシリコン表面層に対してイオン注入によりn層を形成し、キャリア転送チャネルをシリコン表面から少し内部に入ったところに形成することにより、表面散乱による移動度の低下を低減させ、高速なキャリア電子の電荷転送を実現させている。このように、V1端子およびV2端子からの2つの信号出力の電荷振り分け動作を高速に行うべく、埋め込みフォトダイオードBPDに隣接配置した信号転送用トランジスタMTX1の信号電荷転送チャネル領域に対して埋め込みチャネルにより半導体表面での散乱による移動度低下が低減されている。
上述した電荷転送を信号電荷蓄積期間に複数回実行し、信号電荷読出期間に、パルス光信号+リセット信号の電位を信号増幅トランジスタMA1へ与え、パルス光信号+リセット信号として列信号線を通してノイズキャンセル回路316に入力させる(図6の状態5)。V2端子方向への電荷転送については、V1端子方向への電荷転送と同様な方法で実行される。
受光センシングユニット31内のノイズキャンセル回路316以降の信号処理については、当業者(イメージャ関連)としては公知の技術を用いて、アナログ信号をデジタル信号に変換させて出力させる。例えば、差動型ノイズ除去方式アナログCDSによりノイズキャンセル処理されたアナログ信号を、シングルスロープ型カラムのADC回路317によりデジタル信号に変換して、出力増幅回路318を経て後段のデジタル信号処理ユニット41に信号を出力させる。
以上のように、距離画素Dは、1画素当り2つの信号出力(V1端子およびV2端子からの2つの信号出力)を得るべく、光電変換用の1つの埋め込みフォトダイオードBPDと、埋め込みフォトダイオードBPDで光電変換された信号電荷をフローティング領域FD1、FD2(浮遊拡散層)に電荷転送する信号転送手段としての信号転送トランジスタMTX1、MTX2、電荷転送前にフローティング領域FD1、FD2を基準電位(電源VDD電位)にリセットするリセット手段としてのリセットトランジスタ、電荷転送後のフローティング領域FD1、FD2の電位に基づいて信号増幅する信号増幅手段としての信号増幅トランジスタMA1、MA2、および、信号増幅トランジスタMA1、MA2で信号増幅した増幅信号を選択出力する選択手段としての選択トランジスタを各々2つから成る素子構成とを、距離情報導出の基本画素構成とし、この基本画素構成が画素アレイ311に周期的に配置されている。
上述の通り、発光モジュールから投射された近赤外パルス光は、被計測物Aで反射され受光センシングユニット31内の画素アレイ311に入射し、埋め込みフォトダイオードBPDにて信号電荷としての電子へ変換される。変換された電子は、埋め込みフォトダイオードBPDに隣接配置させた2つの転送ゲートTX1、TX2を位相反転駆動させることにより、被計測物Aまでの距離に応じて生じる遅延時間Td(パルス光の飛行時間)を、信号電荷振り分け動作にて間接的に観測することが可能となる。
次に、上述したV1端子およびV2端子からの2つの信号出力として電荷振り分けされた信号(距離に応じた受光情報)に対して、距離情報算出部413が距離情報の導出において実行する信号処理について以下に具体的に説明する。
受光センシングユニット31から出力される信号(距離に応じた受光情報)において、一つの距離画素Dからの出力値は、2つのV1端子およびV2端子からの信号電圧値Vout1および信号電圧値Vout2である。信号処理ユニット41内の距離情報算出部413では、各距離画素Dから出力されるこれらの信号電圧値Vout1およびVout2を用いて、下記算出式により被計測物Aまでの距離値を算出する。なお、以下の説明では、一つの距離画素Dに着目して被計測物Aまでの距離算出について説明するが、受光センシングユニット31の画素アレイ311内には周期的に距離画素Dを複数配置させているため、同時に被計測物Aの複数の点に対する3次元空間における立体的な距離計測が可能となる。つまり、被計測物Aの面に対する立体的な距離計測が可能となっている。
図5に示されるように、投射光L1のパルス光点灯時間をT0、投射光L1が被計測物Aで反射して受光センシングユニット31の受光面である画素アレイ311に到達するまでの時間(以下、パルス光飛行時間または遅延時間という)をTd、被計測物Aからの反射光L2が距離画素D内の埋め込みフォトダイオードBPDで光電変換により出力端子へ流れる信号電荷の光電流をIph、光の速度をc、出力端子V1,V2に接続された浮遊拡散層FD1,FD2での容量をC1,C2とすると、単位時間内(例えば、1露光期間)にV1,V2端子にて検出される信号電荷量のQ1,Q2は、次の数4(式4)および数5(式5)で求められる。
上記の場合において、求める被計測物Aまでの距離をLとすれば、既知である光の速度cを用いて、次の数6(式6)のように表すことができる。
また、図4および図7に示されるように、信号電荷の転送経路は、埋め込みフォトダイオードBPDを中心として、形状および濃度プロファイルが対称であるため、次の数7(式7)の条件が成り立つ。
よって、上記式4〜式7を用いて、求めようとする距離Lは、各式4〜式7を整理し直して、次の数8(式8)のように表すことができる。
上述した通り、式8を用いて、各距離画素Dから出力される信号電圧値Vout1および信号電圧値Vout2により、被計測物Aまでの距離Lを求めることができる。
(実施形態2)
上記実施形態1で説明した距離情報導出手段52では、距離値算出に用いる信号電圧値Vout1およびVout2には信号成分の近赤外線パルス光以外に、不要な信号成分である太陽光や照明光(以下背景光という)などが含まれているが、本実施形態2では、距離値算出に用いる信号電圧値Vout1およびVout2から不要な信号成分である背景光成分などを除去し、この背景光の不要電荷除去によって距離計測精度を向上させた距離情報導出手段52の他の事例(ここでは図2の3次元撮像装置10Aの距離情報算出部413A)について、図面を参照しながら詳細に説明する。
図9は、図2の距離情報算出部413Aにおいて不要信号を除去する場合の概念説明図である。
図9(a)に示すように、距離画素Dにより読出される信号電圧値Vout1およびVout2には必ず背景光などによる不要な信号成分が含まれている。微小な時間領域で考えた場合、読出される不要な信号成分は、図9(b)に示すように、時間的に変動しない成分(時間不変動ノイズ;背景光や画素固有の暗電流ノイズなどに起因)と、時間的に変動する成分(時間変動ノイズ;信号読み出し経路内に存在する素子によるリセットノイズや光ショットノイズなどに起因)に分けられる。この不要な信号成分では、時間的に変動しない信号成分が支配的であり、その中でも、背景光成分による比率が最も高い。この時間的に変動しない不要信号成分は、図9(c)に示されるように、同一画素において、隣接するフレーム間の差分により、完全に除去することが可能であり、残る不要信号は時間的に変動する成分のみとなる。
上述した不要信号成分の除去に関する概念に基づいて、読み出し信号に含まれる不要信号の背景光成分などの除去を、図10の光源オン期間背景光成分除去での距離画素駆動タイミング図と、図11の不要電荷転送ゲートBGを設けた距離画素の平面構造図(模式図)を用いて説明する。なお、基本的な処理は、上記実施形態1で説明した距離情報導出部413での距離情報導出処理を踏襲しているため、追加された処理部分に着目して、以下にこれのみ説明する。
図11に示されるように、距離画素Dに不要電荷転送ゲートBGを一つ隣接配置させ、光源オン期間の背景光成分による不要信号を読出す。具体的には、図10に示されるように、露光期間内のパルス光を消灯させている期間にて、パルス光信号電荷転送期間(TX1またはTX2)と同一の時間幅でパルス信号光以外の背景光信号電荷の転送を、背景光信号電荷用浮遊拡散層に対して行う。背景光信号電荷用浮遊拡散層に蓄積された背景光信号の読み出し処理は、本実施形態1の場合と同様な処理となる。上記処理にて距離画素Dにより背景光信号は、Vout3の信号電圧値として後段の信号処理ユニット41へ出力する。
ここで、本実施形態2の3次元撮像装置10Aにおいて、信号処理ユニット41の距離情報算出部413Aで行われる背景光の不要信号を除去した距離値の算出処理について説明する。
パルス光信号電荷用浮遊拡散層から出力される光源オン期間全光成分信号電圧値をVout1,Vout2、背景光信号電荷用浮遊拡散層から出力される光源オフ期間背景光成分信号電圧値をVout3とすると、背景光成分の不要信号を除去した光源オン期間パルス光成分信号電圧値Vout1′,Vout2′は、次の数10(式10)および数11(式11)で表わすことができる。この背景光の不要信号を除去した距離の算出は、上記数8(式8)のVout1,Vout2、上記式10および式11に置き換えて算出すればよい。
即ち、距離情報算出部413Aにおいて、光源オン期間に全ての光成分により光電変換された電荷(光源オン期間全光成分;信号電圧値Vout1,Vout2)を読出し、次に、光源オフ期間でかつ光源オン期間と同一時間幅で光源以外からの光により光電変換された電荷(光源オフ期間背景光成分;信号電圧値Vout3)を読出し、光源オン期間全光成分から光源オフ期間背景光成分を減算処理することにより、距離情報導出で不要となる光源オン期間に光源以外からの光により光電変換された不要電荷を除去することができる。
(実施形態3)
上記実施形態1,2では、距離情報導出手段52の2つの具体的例について詳細に説明したが、本実施形態3では、R(赤),G(緑),B(青)の色情報導出手段53の具体例について、図面を参照しながら詳細に説明する。
図1に示されるように、色情報導出手段53は、色情報導出用の色画素が所定の色配列(例えばベイヤ配列)で周期的に配置された受光手段3と、詳細に後述するが、受光手段3からの受光情報に基づいて色情報を算出する色情報算出部414Bとを有していてもよい。
先ず、R(赤),G(緑),B(青)の色情報導出は、自然光(太陽光)または照明光が3次元撮像装置10B内の受光手段3に入射し、受光手段3で光電変換された撮像信号に対して信号処理手段414Bにより所定の信号処理をして色情報を導出する。
図12は、図2の画素アレイ311における色情報導出用の色画素を模式的に示す基本断面構造図およびその回路図である。
図12に示されるように、この色情報の導出は、距離画素Dと同様に、高濃度p基板に低濃度pエピタキシャル層を形成し、この基板上に、光電変換用の埋め込みフォトダイオードBPDと、光電変換された信号電荷に対する信号読出し、基準電位リセット、行選択,信号増幅用トランジスタの各々1つから成る素子構成により、色画素を形成させる。上記画素構造のR(赤),G(緑),B(青)の各色画素を、図3に示されるように、画素アレイ311上に周期的に配置させる。上記色画素からの信号読出以降の処理については、当業者(イメージャ関連)としては公知の技術を用いて、アナログ信号をデジタル信号に変換させて出力させる。例えば、受光センシングユニット31内の差動型ノイズ除去方式アナログCDSによりノイズキャンセル処理されたアナログ信号を、シングルスロープ型カラムのADC回路317によりデジタル信号へ変換させ、出力増幅回路318を経て後段のデジタル信号処理ユニット41に信号出力する。
この場合、色画素は、1画素当り1つの信号出力を得るべく、光電変換用の1つの埋め込みフォトダイオードBPDと、埋め込みフォトダイオードBPDで光電変換された信号電荷をフローティング領域FDに電荷転送する信号転送手段としての信号転送トランジスタMT、電荷転送前にフローティング領域FDを基準電位(電源VDD電位)にリセットするリセット手段としてのリセットトランジスタ、電荷転送後のフローティング領域FDの電位に基づいて信号増幅する信号増幅手段としての信号増幅トランジスタMAおよび、信号増幅トランジスタMAで信号増幅した信号を選択出力する選択手段としての選択トランジスタを各々1つから成る素子構成とを、色情報導出の基本画素構成とし、この基本画素構成が画素アレイ311に周期的に配置したことにより、計測面での色情報導出の基となる輝度情報が取得される。
信号処理ユニット41では、色情報算出部414Bにより、受光センシングユニット41から出力されるR,G,Bの撮像信号に対して、リニアマトリックス回路からホワイトバランス回路415でホワイトバランス処理を行い、さらに、γ補正回路416でγ補正処理を行って、リニア信号からRGB特性調整を行ってYUVデジタル信号として本装置外へ信号出力される。
受光センシングユニット31から出力される色情報とは、R,G,B画素での輝度に対する電圧値(デジタル値)である。色情報算出部414Bは、これを用いてリニアマトリックス処理と色補間処理を行っている。また、受光センシングユニット31から出力されるD画素での受光情報は、電荷振分けされた信号電圧値のV1,V2(デジタル値)である。この場合、V1+V2が赤外線の輝度値となる。距離情報算出部413Aは、受光センシングユニット31からの受光情報(物体までの距離に関する信号電圧値V1,V2)に基づいて背景光の不要信号を除去して距離情報を算出する。
本願発明の目的は、前述したように、一つの撮像装置で距離情報と色情報の導出を実現できて立体カラー撮像画像を得ることである。図18に3次元座標表示を示している。ここでは色の違いで距離の違いを表現している。表示部の信号処理部において、色情報算出部414Bで取得した色情報をX軸とY軸にとって2次元座標表示とし、距離情報算出部413Aで取得した距離情報をZ軸にとって2次元座標表示情報に合成して3次元座標表示情報とし、これを図18に示す3次元座標表示とすることができる。この3次元座標表示情報を表示部の3Dディスプレイに表示すると、立体カラー撮像画像が得られる。3Dディスプレイに表示する視差バリア方式を図19に簡単に示している。距離情報算出部413Aで取得した距離情報に基づいて、左眼用画像と右眼用画像をそれぞれ作成し、3Dディスプレイ上に立体表示することができる。この表示部の信号処理部は表示部の3Dディスプレイ側にあってもよいし、信号処理ユニット41側にあってもよい。
次に、距離画素DとR(赤),G(緑),B(青)の各色画素に入射させる光の透過波長帯域の制御方法について説明する。
図13に、任意の透過光波長帯域制御に用いる光学バンドパスフィルタの画素選択的形成方法を示している。
本実施形態3の3次元撮像装置10Bでは、画素アレイ311内に配置させた色画素毎に、透過させる光の透過波長帯域を制御する必要がある。色画素の青色画素Bには青色波長帯域のみ、緑色画素Gには緑色波長帯域のみ、赤色画素Rには赤色波長帯域のみ、距離画素Dには近赤外波長帯域のみを光透過させる。上記光学バンドパスフィルタを、例えば、シリコン酸化膜の低屈折率層と酸化チタンの高屈折率層を周期的に積層形成した光学多層膜に、光学的周期性に乱れを生じさせる欠陥層を導入し、この欠陥層の膜厚にて透過光波長帯域を制御させている。
距離情報導出と色情報導出を1つの撮像装置で実現させるべく、距離情報導出用の距離画素D上には距離情報導出で用いる投射光の近赤外光帯域のみを透過する近赤外光バンドパスフィルタを用い、各色情報導出用の色画素上には色情報導出で用いる光であるR(赤),G(緑),B(青)光帯域のみを透過するR(赤),G(緑),B(青)光バンドパスフィルタを画素選択的に各々積層形成する。
次に、距離画素Dで欠落するR(赤),G(緑),B(青)の色情報を補間させるために、距離画素Dから得られる近赤外線光波長帯域での輝度値と、隣接のR(赤),G(緑),B(青)の色画素の輝度値を基に、R(赤),G(緑),B(青)の色情報補間させる方法について説明する。
図14は、距離画素Dで欠落するR,G,Bの色情報の補間に用いるテーブルを示した図である。
予め距離画素Dで計測される輝度値(具体的には式10および式11で表されるVout1′+Vout2′)毎に、距離画素Dに隣接するR,G,Bの各色画素に対して、各色画素での複数画素からの平均値にて欠落するR,G,Bの推定輝度値を求めておき、この値を図14に示されるテーブルへ保管し、テーブルルックアップ処理にて欠落するR,G,Bの色情報の補間を行う。ここでは、距離画素Dの計測輝度値に対して、隣接色画素からの推定R輝度値、隣接色画素からの推定G輝度値および隣接色画素からの推定B輝度値のルックアップテーブルである。
距離情報導出用の距離画素で欠落するR(赤),G(緑),B(青)の色情報を補間させるべく、距離情報導出用の距離画素Dから得られる近赤外光波長帯域での輝度情報と、隣接のR(赤),G(緑),B(青)の色情報導出用の色画素の輝度情報とに基づいて、R(赤),G(緑),B(青)の色情報を補間する。
以上により、本実施形態1〜3によれば、3次元撮像装置1は、光源手段2からの投射光L1として近赤外光が被計測物Aに照射され、この投射光L1の被計測物Aからの反射光L2を受光手段3で受光し、受光手段3の受光情報に基づいて被計測物Aまでの距離情報を信号処理部4により導出する距離情報導出手段52と、自然光または照明光による被計測物Aからの反射光L2を受光手段3で受光して、この受光手段3の受光情報に基づいて被計測物AのR(赤),G(緑)およびB(青)の色情報を信号処理手段4により導出する色情報導出手段53とを有することにより、一つの撮像装置で距離情報と色情報の導出を実現できて立体カラー撮像画像を撮像することができる。また、受光手段3の距離画素Dは、距離導出精度向上のために光電変換領域に埋め込みフォトダイオードを用いているため、ノイズの低減により距離精度の向上を図ることができる。
以上のように、本発明の好ましい実施形態1〜3を用いて本発明を例示してきたが、本発明は、この実施形態1〜3に限定して解釈されるべきものではない。本発明は、特許請求の範囲によってのみその範囲が解釈されるべきであることが理解される。当業者は、本発明の具体的な好ましい実施形態1〜3の記載から、本発明の記載および技術常識に基づいて等価な範囲を実施することができることが理解される。本明細書において引用した特許、特許出願および文献は、その内容自体が具体的に本明細書に記載されているのと同様にその内容が本明細書に対する参考として援用されるべきであることが理解される。
本発明は、一つの撮像装置にて立体カラー撮像が可能となり、被計測物に対して奥行方向の距離情報と被計測物(面)の色情報を取得可能とする3次元撮像装置の分野において、被計測物に対して奥行方向の距離情報と被計測物(面)の色情報が同時に取得可能な3次元撮像装置である為、1つの撮像装置にて立体カラー撮像が可能となる。よって、カメラ用途全般に対して好適であるが、特に撮像データを基に各種制御を行う、監視カメラ,車載カメラや人の体の動きで各種入力操作を行うジェスチャー検知カメラ等への応用が期待できる。また、撮像データ内に被写体までの距離データが存在するため、カメラのオートフォーカス技術への応用も期待できる。
1、10、10A、10B 3次元撮像装置
2 光源手段
21 発光モジュール
211 パワーLED駆動回路ユニット
212a パワーLED
212 パワーLEDユニット
213 放射光角調整レンズ
3 受光手段
31 受光センシングユニット
311 画素アレイ
312 タイミング生成回路
313 垂直走査回路
314 水平走査回路
315 画素駆動回路
316 ノイズキャンセル回路
317 ADC回路
318 出力増幅回路
4 信号処理手段
41 信号処理ユニット
411 タイミング制御部
412 インターフェイス部
413、413A 距離情報算出部
414、414B 色情報算出部
415 ホワイトバランス部
416 γ補正部
5 受光・信号処理モジュール
51 入射角調整レンズ
L1 投射光
L2 反射光
A 被計測物

Claims (15)

  1. 投射光を被計測物に照射し、該投射光の該被計測物からの反射光を受光してその受光情報に基づいて該被計測物までの距離情報を導出する距離情報導出手段と、該投射光以外の光による該被計測物からの反射光を受光してその受光情報に基づいて該被計測物の色情報を導出する色情報導出手段とを有してカラー3次元画像を得る3次元撮像装置。
  2. 前記距離情報導出手段は、前記投射光を照射する光源手段と、該投射光の投射空間からの反射光を受光して、該投射空間の前記被計測物までの距離に応じた受光情報を得る複数の距離画素部が配設された受光手段と、該受光情報から該被計測物までの距離情報を算出する距離情報算出手段とを有する請求項1に記載の3次元撮像装置。
  3. 前記複数の距離画素部はそれぞれTOF(タイム・オブ・フライト)式距離画像センサである請求項2に記載の3次元撮像装置。
  4. 前記色情報導出手段は、色情報導出用の色画素部が所定の色配列で周期的に配置された受光手段と、該受光手段からの受光情報に基づいて色情報を算出する色情報算出手段とを有する請求項1に記載の3次元撮像装置。
  5. 前記受光手段は、距離情報導出用の距離画素部が周期的に配置され、該距離画素部以外の色情報導出用の色画素部が所定の色配列で周期的に配置されている請求項2に記載の3次元撮像装置。
  6. 前記受光手段の距離画素部は、1画素当り2つの信号出力を得るべく、光電変換用の1つの埋め込みフォトダイオードと、該埋め込みフォトダイオードで光電変換された信号電荷をフローティング領域に電荷転送する信号転送手段、電荷転送前に該フローティング領域を基準電位にリセットするリセット手段、電荷転送後の該フローティング領域の電位に基づいて信号増幅する信号増幅手段および、該信号増幅手段で信号増幅した信号を選択出力する選択手段を各々2つから成る素子構成とを、距離情報導出の基本画素構成とし、該基本画素構成が画素アレイ部に周期的に配置されている請求項2または5に記載の3次元撮像装置。
  7. 前記受光手段の距離画素部は、距離導出精度向上のために光電変換領域に埋め込みフォトダイオードが用いられている請求項5に記載の3次元撮像装置。
  8. 前記受光手段の距離画素部は、空乏層幅が拡大するように該埋め込みフォトダイオードの基板深さ方向での不純物濃度が制御されて電荷捕獲効率が高められている請求項5に記載の3次元撮像装置。
  9. 前記2つの信号出力の電荷振り分け動作を高速に行うべく、前記埋め込みフォトダイオードに隣接配置した信号転送用トランジスタの信号電荷転送チャネル領域に、多段の不純物濃度勾配により急峻な電位勾配が設けられた請求項6に記載の3次元撮像装置。
  10. 前記2つの信号出力の電荷振り分け動作を高速に行うべく、前記埋め込みフォトダイオードに隣接配置した信号転送用トランジスタの信号電荷転送チャネル領域に対して該埋め込みチャネルにより半導体表面での散乱による移動度低下が低減されている請求項6に記載の3次元撮像装置。
  11. 前記埋め込みフォトダイオードに電荷排出端子が設けられ、距離情報導出で不要となる前記光源手段がオフ期間に光源以外からの光により光電変換された電荷を、光源オフ期間背景光成分の不要電荷として該電荷排出端子から排出させる請求項6に記載の3次元撮像装置。
  12. 前記光源手段がオン期間に全ての光成分により光電変換された電荷(光源オン期間全光成分)を読出し、次に、該光源手段をオフさせかつ該光源手段のオン期間と同一時間幅で光源以外からの光により光電変換された電荷(光源オフ期間背景光成分)を読出し、該光源オン期間全光成分から該光源オフ期間背景光成分を減算処理することにより、距離情報導出で不要となる該光源手段がオン期間に光源以外からの光により光電変換された不要電荷を除去する請求項2または5に記載の3次元撮像装置。
  13. 前記受光手段の色画素部は、1画素当り1つの信号出力を得るべく、光電変換用の1つの埋め込みフォトダイオードと、該埋め込みフォトダイオードで光電変換された信号電荷をフローティング領域に電荷転送する信号転送手段、電荷転送前に該フローティング領域を基準電位にリセットするリセット手段、電荷転送後の該フローティング領域の電位に基づいて信号増幅する信号増幅手段および、該信号増幅手段で信号増幅した信号を選択出力する選択手段を各々1つから成る素子構成とを、色情報導出の基本画素構成とし、該基本画素構成が画素アレイ部に周期的に配置したことにより、計測面での色情報導出の基となる輝度情報を取得する請求項2または4に記載の3次元撮像装置。
  14. 距離情報導出と色情報導出を1つの撮像装置で実現させるべく、距離情報導出用の距離画素上には距離情報導出で用いる投射光の近赤外光帯域のみを透過する近赤外光バンドパスフィルタを用い、各色情報導出用の色画素上には色情報導出で用いる光であるR(赤),G(緑),B(青)光帯域のみを透過するR(赤),G(緑),B(青)光バンドパスフィルタを画素選択的に各々積層形成する請求項1または4に記載の3次元撮像装置。
  15. 距離情報導出用の距離画素で欠落するR(赤),G(緑),B(青)の色情報を補間させるべく、距離情報導出用の距離画素から得られる近赤外光波長帯域での輝度情報と、隣接のR(赤),G(緑),B(青)の色情報導出用の色画素の輝度情報とに基づいて、R(赤),G(緑),B(青)の色情報を補間する請求項1または4に記載の3次元撮像装置。
JP2009286991A 2009-12-17 2009-12-17 3次元撮像装置 Withdrawn JP2011128024A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009286991A JP2011128024A (ja) 2009-12-17 2009-12-17 3次元撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009286991A JP2011128024A (ja) 2009-12-17 2009-12-17 3次元撮像装置

Publications (1)

Publication Number Publication Date
JP2011128024A true JP2011128024A (ja) 2011-06-30

Family

ID=44290769

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009286991A Withdrawn JP2011128024A (ja) 2009-12-17 2009-12-17 3次元撮像装置

Country Status (1)

Country Link
JP (1) JP2011128024A (ja)

Cited By (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013068606A (ja) * 2011-08-19 2013-04-18 Semiconductor Energy Lab Co Ltd 半導体装置の駆動方法
WO2013099537A1 (en) * 2011-12-26 2013-07-04 Semiconductor Energy Laboratory Co., Ltd. Motion recognition device
WO2013133143A1 (en) * 2012-03-09 2013-09-12 Semiconductor Energy Laboratory Co., Ltd. Method for driving semiconductor device
JP2013224931A (ja) * 2012-03-21 2013-10-31 Semiconductor Energy Lab Co Ltd 距離測定装置、距離測定システム
WO2014132767A1 (ja) * 2013-02-28 2014-09-04 株式会社テクノロジーハブ 距離画像センサ
JP2014185995A (ja) * 2013-03-25 2014-10-02 National Univ Corp Shizuoka Univ 画素回路及び撮像素子
WO2017079536A1 (en) * 2015-11-06 2017-05-11 Artilux Corporation High-speed light sensing apparatus
WO2017098725A1 (ja) * 2015-12-08 2017-06-15 パナソニックIpマネジメント株式会社 固体撮像装置、距離測定装置および距離測定方法
JP2017133931A (ja) * 2016-01-27 2017-08-03 倉敷紡績株式会社 画像生成装置、ならびに距離画像およびカラー画像の生成方法
US9786715B2 (en) 2015-07-23 2017-10-10 Artilux Corporation High efficiency wide spectrum sensor
US9893112B2 (en) 2015-08-27 2018-02-13 Artilux Corporation Wide spectrum optical sensor
US9954016B2 (en) 2015-08-04 2018-04-24 Artilux Corporation Germanium-silicon light sensing apparatus
KR20190019035A (ko) * 2016-06-15 2019-02-26 소니 주식회사 촬영 장치, 촬영 방법, 프로그램
JP2019109240A (ja) * 2017-12-19 2019-07-04 三星電子株式会社Samsung Electronics Co.,Ltd. ピクセル及びイメージセンサーの動作方法並びにシステム
US10418407B2 (en) 2015-11-06 2019-09-17 Artilux, Inc. High-speed light sensing apparatus III
JP2019529957A (ja) * 2016-10-03 2019-10-17 ゼノマティクス ナムローゼ フェンノートシャップ 物体までの距離を測定するためのシステム
JP2019529958A (ja) * 2016-10-03 2019-10-17 ゼノマティクス ナムローゼ フェンノートシャップ 物体までの距離を決定するためのシステム及び方法
US10534072B2 (en) 2014-02-24 2020-01-14 Nec Corporation Object detection device, POS terminal device, object detection method, program, and program recording medium
US10564718B2 (en) 2015-08-04 2020-02-18 Artilux, Inc. Eye gesture tracking
US10707260B2 (en) 2015-08-04 2020-07-07 Artilux, Inc. Circuit for operating a multi-gate VIS/IR photodiode
US10741598B2 (en) 2015-11-06 2020-08-11 Atrilux, Inc. High-speed light sensing apparatus II
US10739443B2 (en) 2015-11-06 2020-08-11 Artilux, Inc. High-speed light sensing apparatus II
JP2020524258A (ja) * 2017-02-28 2020-08-13 エスアールアイ インターナショナルSRI International 光測距システム用シストリックプロセッサシステム
US10777692B2 (en) 2018-02-23 2020-09-15 Artilux, Inc. Photo-detecting apparatus and photo-detecting method thereof
US10794695B2 (en) 2015-06-24 2020-10-06 Murata Manufacturing Co., Ltd. Range sensor
WO2020222477A1 (ko) * 2019-04-29 2020-11-05 엘지이노텍 주식회사 카메라 모듈
US10854770B2 (en) 2018-05-07 2020-12-01 Artilux, Inc. Avalanche photo-transistor
US10861888B2 (en) 2015-08-04 2020-12-08 Artilux, Inc. Silicon germanium imager with photodiode in trench
US10886309B2 (en) 2015-11-06 2021-01-05 Artilux, Inc. High-speed light sensing apparatus II
US10886311B2 (en) 2018-04-08 2021-01-05 Artilux, Inc. Photo-detecting apparatus
JPWO2021005659A1 (ja) * 2019-07-05 2021-01-14
US10969877B2 (en) 2018-05-08 2021-04-06 Artilux, Inc. Display apparatus
US11105928B2 (en) 2018-02-23 2021-08-31 Artilux, Inc. Light-sensing apparatus and light-sensing method thereof
WO2022185967A1 (ja) * 2021-03-05 2022-09-09 凸版印刷株式会社 距離画像撮像装置及び距離画像撮像方法
US11482553B2 (en) 2018-02-23 2022-10-25 Artilux, Inc. Photo-detecting apparatus with subpixels
US11574942B2 (en) 2018-12-12 2023-02-07 Artilux, Inc. Semiconductor device with low dark noise
US11652184B2 (en) 2019-08-28 2023-05-16 Artilux, Inc. Photo-detecting apparatus with low dark current
US11874374B2 (en) 2016-12-30 2024-01-16 Xenomatix Nv System for characterizing surroundings of a vehicle

Cited By (86)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013068606A (ja) * 2011-08-19 2013-04-18 Semiconductor Energy Lab Co Ltd 半導体装置の駆動方法
WO2013099537A1 (en) * 2011-12-26 2013-07-04 Semiconductor Energy Laboratory Co., Ltd. Motion recognition device
JP2013175160A (ja) * 2011-12-26 2013-09-05 Semiconductor Energy Lab Co Ltd 動作認識装置
US9264693B2 (en) 2011-12-26 2016-02-16 Semiconductor Energy Laboratory Co., Ltd. Motion recognition device
US9082676B2 (en) 2012-03-09 2015-07-14 Semiconductor Energy Laboratory Co., Ltd. Method for driving semiconductor device
WO2013133143A1 (en) * 2012-03-09 2013-09-12 Semiconductor Energy Laboratory Co., Ltd. Method for driving semiconductor device
JP2013217911A (ja) * 2012-03-09 2013-10-24 Semiconductor Energy Lab Co Ltd 半導体装置の駆動方法
CN107340509A (zh) * 2012-03-09 2017-11-10 株式会社半导体能源研究所 半导体装置的驱动方法
CN104160295A (zh) * 2012-03-09 2014-11-19 株式会社半导体能源研究所 半导体装置的驱动方法
JP2017223697A (ja) * 2012-03-21 2017-12-21 株式会社半導体エネルギー研究所 距離測定装置、距離測定システム
KR102249850B1 (ko) 2012-03-21 2021-05-10 가부시키가이샤 한도오따이 에네루기 켄큐쇼 거리 측정 장치, 거리 측정 시스템
KR20200123053A (ko) * 2012-03-21 2020-10-28 가부시키가이샤 한도오따이 에네루기 켄큐쇼 거리 측정 장치, 거리 측정 시스템
JP2020109416A (ja) * 2012-03-21 2020-07-16 株式会社半導体エネルギー研究所 距離測定装置の距離測定方法
JP2013224931A (ja) * 2012-03-21 2013-10-31 Semiconductor Energy Lab Co Ltd 距離測定装置、距離測定システム
JP6025081B2 (ja) * 2013-02-28 2016-11-16 株式会社テクノロジーハブ 距離画像センサ
JPWO2014132767A1 (ja) * 2013-02-28 2017-02-02 株式会社テクノロジーハブ 距離画像センサ
WO2014132767A1 (ja) * 2013-02-28 2014-09-04 株式会社テクノロジーハブ 距離画像センサ
JP2014185995A (ja) * 2013-03-25 2014-10-02 National Univ Corp Shizuoka Univ 画素回路及び撮像素子
US10534072B2 (en) 2014-02-24 2020-01-14 Nec Corporation Object detection device, POS terminal device, object detection method, program, and program recording medium
US10794695B2 (en) 2015-06-24 2020-10-06 Murata Manufacturing Co., Ltd. Range sensor
US10615219B2 (en) 2015-07-23 2020-04-07 Artilux, Inc. High efficiency wide spectrum sensor
US9786715B2 (en) 2015-07-23 2017-10-10 Artilux Corporation High efficiency wide spectrum sensor
US11335725B2 (en) 2015-07-23 2022-05-17 Artilux, Inc. High efficiency wide spectrum sensor
US10269862B2 (en) 2015-07-23 2019-04-23 Artilux Corporation High efficiency wide spectrum sensor
US10256264B2 (en) 2015-08-04 2019-04-09 Artilux Corporation Germanium-silicon light sensing apparatus
US10761599B2 (en) 2015-08-04 2020-09-01 Artilux, Inc. Eye gesture tracking
US10964742B2 (en) 2015-08-04 2021-03-30 Artilux, Inc. Germanium-silicon light sensing apparatus II
US10269838B2 (en) 2015-08-04 2019-04-23 Artilux Corporation Germanium-silicon light sensing apparatus
US10056415B2 (en) 2015-08-04 2018-08-21 Artilux Corporation Germanium-silicon light sensing apparatus
US9954016B2 (en) 2015-08-04 2018-04-24 Artilux Corporation Germanium-silicon light sensing apparatus
US10707260B2 (en) 2015-08-04 2020-07-07 Artilux, Inc. Circuit for operating a multi-gate VIS/IR photodiode
US10861888B2 (en) 2015-08-04 2020-12-08 Artilux, Inc. Silicon germanium imager with photodiode in trench
US10756127B2 (en) 2015-08-04 2020-08-25 Artilux, Inc. Germanium-silicon light sensing apparatus
US10685994B2 (en) 2015-08-04 2020-06-16 Artilux, Inc. Germanium-silicon light sensing apparatus
US11755104B2 (en) 2015-08-04 2023-09-12 Artilux, Inc. Eye gesture tracking
US10564718B2 (en) 2015-08-04 2020-02-18 Artilux, Inc. Eye gesture tracking
US11756969B2 (en) 2015-08-04 2023-09-12 Artilux, Inc. Germanium-silicon light sensing apparatus
US9893112B2 (en) 2015-08-27 2018-02-13 Artilux Corporation Wide spectrum optical sensor
US10770504B2 (en) 2015-08-27 2020-09-08 Artilux, Inc. Wide spectrum optical sensor
US10739443B2 (en) 2015-11-06 2020-08-11 Artilux, Inc. High-speed light sensing apparatus II
US10886309B2 (en) 2015-11-06 2021-01-05 Artilux, Inc. High-speed light sensing apparatus II
WO2017079536A1 (en) * 2015-11-06 2017-05-11 Artilux Corporation High-speed light sensing apparatus
US11747450B2 (en) 2015-11-06 2023-09-05 Artilux, Inc. High-speed light sensing apparatus
US11749696B2 (en) 2015-11-06 2023-09-05 Artilux, Inc. High-speed light sensing apparatus II
US10418407B2 (en) 2015-11-06 2019-09-17 Artilux, Inc. High-speed light sensing apparatus III
US10353056B2 (en) 2015-11-06 2019-07-16 Artilux Corporation High-speed light sensing apparatus
US11637142B2 (en) 2015-11-06 2023-04-25 Artilux, Inc. High-speed light sensing apparatus III
US10795003B2 (en) 2015-11-06 2020-10-06 Artilux, Inc. High-speed light sensing apparatus
US11579267B2 (en) 2015-11-06 2023-02-14 Artilux, Inc. High-speed light sensing apparatus
US10310060B2 (en) 2015-11-06 2019-06-04 Artilux Corporation High-speed light sensing apparatus
US11131757B2 (en) 2015-11-06 2021-09-28 Artilux, Inc. High-speed light sensing apparatus
US10741598B2 (en) 2015-11-06 2020-08-11 Atrilux, Inc. High-speed light sensing apparatus II
US10886312B2 (en) 2015-11-06 2021-01-05 Artilux, Inc. High-speed light sensing apparatus II
US10254389B2 (en) 2015-11-06 2019-04-09 Artilux Corporation High-speed light sensing apparatus
US10838066B2 (en) 2015-12-08 2020-11-17 Panasonic Intellectual Property Management Co., Ltd. Solid-state imaging device, distance measurement device, and distance measurement method
JPWO2017098725A1 (ja) * 2015-12-08 2018-09-20 パナソニックIpマネジメント株式会社 固体撮像装置、距離測定装置および距離測定方法
WO2017098725A1 (ja) * 2015-12-08 2017-06-15 パナソニックIpマネジメント株式会社 固体撮像装置、距離測定装置および距離測定方法
JP2017133931A (ja) * 2016-01-27 2017-08-03 倉敷紡績株式会社 画像生成装置、ならびに距離画像およびカラー画像の生成方法
KR20190019035A (ko) * 2016-06-15 2019-02-26 소니 주식회사 촬영 장치, 촬영 방법, 프로그램
KR102301744B1 (ko) * 2016-06-15 2021-09-14 소니그룹주식회사 촬영 장치, 촬영 방법, 프로그램
JP2019529958A (ja) * 2016-10-03 2019-10-17 ゼノマティクス ナムローゼ フェンノートシャップ 物体までの距離を決定するためのシステム及び方法
JP2019529957A (ja) * 2016-10-03 2019-10-17 ゼノマティクス ナムローゼ フェンノートシャップ 物体までの距離を測定するためのシステム
JP7028878B2 (ja) 2016-10-03 2022-03-02 ゼノマティクス ナムローゼ フェンノートシャップ 物体までの距離を測定するためのシステム
US11513199B2 (en) 2016-10-03 2022-11-29 Xenomatix Nv System and method for determining a distance to an object
US11874374B2 (en) 2016-12-30 2024-01-16 Xenomatix Nv System for characterizing surroundings of a vehicle
JP2020524258A (ja) * 2017-02-28 2020-08-13 エスアールアイ インターナショナルSRI International 光測距システム用シストリックプロセッサシステム
JP7100049B2 (ja) 2017-02-28 2022-07-12 エスアールアイ インターナショナル 光測距システム用シストリックプロセッサシステム
JP2019109240A (ja) * 2017-12-19 2019-07-04 三星電子株式会社Samsung Electronics Co.,Ltd. ピクセル及びイメージセンサーの動作方法並びにシステム
US12013463B2 (en) 2018-02-23 2024-06-18 Artilux, Inc. Light-sensing apparatus and light-sensing method thereof
US11482553B2 (en) 2018-02-23 2022-10-25 Artilux, Inc. Photo-detecting apparatus with subpixels
US11105928B2 (en) 2018-02-23 2021-08-31 Artilux, Inc. Light-sensing apparatus and light-sensing method thereof
US11630212B2 (en) 2018-02-23 2023-04-18 Artilux, Inc. Light-sensing apparatus and light-sensing method thereof
US10777692B2 (en) 2018-02-23 2020-09-15 Artilux, Inc. Photo-detecting apparatus and photo-detecting method thereof
US10886311B2 (en) 2018-04-08 2021-01-05 Artilux, Inc. Photo-detecting apparatus
US11329081B2 (en) 2018-04-08 2022-05-10 Artilux, Inc. Photo-detecting apparatus
US10854770B2 (en) 2018-05-07 2020-12-01 Artilux, Inc. Avalanche photo-transistor
US10969877B2 (en) 2018-05-08 2021-04-06 Artilux, Inc. Display apparatus
US11574942B2 (en) 2018-12-12 2023-02-07 Artilux, Inc. Semiconductor device with low dark noise
WO2020222477A1 (ko) * 2019-04-29 2020-11-05 엘지이노텍 주식회사 카메라 모듈
US11863735B2 (en) 2019-04-29 2024-01-02 Lg Innotek Co., Ltd. Camera module
WO2021005659A1 (ja) * 2019-07-05 2021-01-14 パナソニックセミコンダクターソリューションズ株式会社 情報処理システム、センサシステム、情報処理方法及びプログラム
JPWO2021005659A1 (ja) * 2019-07-05 2021-01-14
JP7372970B2 (ja) 2019-07-05 2023-11-01 ヌヴォトンテクノロジージャパン株式会社 情報処理システム、センサシステム、情報処理方法及びプログラム
US11652184B2 (en) 2019-08-28 2023-05-16 Artilux, Inc. Photo-detecting apparatus with low dark current
US11777049B2 (en) 2019-08-28 2023-10-03 Artilux, Inc. Photo-detecting apparatus with low dark current
WO2022185967A1 (ja) * 2021-03-05 2022-09-09 凸版印刷株式会社 距離画像撮像装置及び距離画像撮像方法

Similar Documents

Publication Publication Date Title
JP2011128024A (ja) 3次元撮像装置
US10658405B2 (en) Solid-state image sensor, electronic apparatus, and imaging method
KR101508410B1 (ko) 거리 화상 센서, 및 촬상 신호를 비행시간법에 의해 생성하는 방법
US10690755B2 (en) Solid-state imaging device having increased distance measurement accuracy and increased distance measurement range
JP5521854B2 (ja) 撮像装置及び画像入力装置
JP6145826B2 (ja) 撮像装置及びその駆動方法
CN108291969B (zh) 具有共享像素读出电路系统的成像传感器
TWI618233B (zh) 用於附接之三維資訊之堆疊嵌入式矽光子雪崩二極體影像感測器
US8569700B2 (en) Image sensor for two-dimensional and three-dimensional image capture
US10666875B2 (en) Solid-state imaging device
US9231005B2 (en) Pixel array
Kim et al. A CMOS image sensor based on unified pixel architecture with time-division multiplexing scheme for color and depth image acquisition
Kim et al. A three-dimensional time-of-flight CMOS image sensor with pinned-photodiode pixel structure
US9167230B2 (en) Image sensor for simultaneously obtaining color image and depth image, method of operating the image sensor, and image processing system including the image sensor
US10734424B2 (en) Image sensing device
US10048380B2 (en) Distance-measuring imaging device and solid state imaging element
CN109155323A (zh) 拍摄元件以及拍摄装置
KR20110012031A (ko) 싱글 게이트 픽셀 및 싱글 게이트 픽셀 동작 방법
JP6716902B2 (ja) 電子機器
US20130215300A1 (en) Image pickup device
TW201523849A (zh) 固態影像感測裝置
JP6362511B2 (ja) 撮像装置及びその制御方法
US20190258025A1 (en) Image sensor, focus detection apparatus, and electronic camera
US20190371847A1 (en) Image sensor, focus detection apparatus, and electronic camera
JPWO2018142878A1 (ja) 3次元モーション取得装置、及び3次元モーション取得方法

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20130305