以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.本開示の実施の形態
1.1,概要
1.2.センサチップの構成例
1.3.距離画像センサの具体的構成例
2.まとめ
<1.本開示の実施の形態>
[1.1.概要]
まず、本開示の実施の形態の概要について説明する。
上述したように、ToFカメラシステムは、光源から光を放ち、物体で反射されて戻って来るまでの時間を解析することによって、物体までの距離に関する情報を導き出すシステムである。ToFカメラシステムの1つの適用例は、シーンの3次元(3D)画像、すなわち、2次元情報および深さすなわち距離情報を取り込むことが可能なカメラである。そのようなカメラシステムは、固定点からの深さすなわち距離情報が判定される必要がある多くの適用例において利用される。一般に、深さすなわち距離情報はToFカメラシステムから測定される。
ToFカメラシステムの測距方式は、時間を直接計ることで測距するダイレクト方式と、露光量に置き換えて間接的に測距するインダイレクト方式とがある。精度が良いのはインダイレクト方式であり、今後はインダイレクト方式を採用したToFカメラシステムが広く普及するものと考えられる。
本件開示者は、以下で説明するように、従来のインダイレクト方式を採用したToFカメラシステムを改良し、簡易な構成で測距の精度を高めうる、インダイレクト方式を採用したToFカメラシステム及びToFカメラシステムに用いられる構成を考案するに至った。
[1.2.センサチップの構成例]
<センサチップの第1の構成例>
図1は、本技術を適用したセンサチップの第1の実施の形態の構成例を示すブロック図である。
図1に示すように、センサチップ11は、ピクセルアレイ部12、グローバル制御回路13、ローリング制御回路14、カラムADC(Analog-to-Digital Converter)15、および、入出力部16が、半導体基板に配置されて構成される。
ピクセルアレイ部12は、センサチップ11の機能に応じた様々なセンサ素子が、例えば、光を光電変換する光電変換素子が、アレイ状に配置された矩形形状の領域である。図1に示す例では、ピクセルアレイ部12は、横方向に長辺が設けられ、縦方向に短辺が設けられた横長の長方形の領域となっている。
グローバル制御回路13は、ピクセルアレイ部12に配置される複数のセンサ素子が略同一のタイミングで一斉に(同時的に)駆動するように制御するグローバル制御信号を出力する制御回路である。図1に示す構成例では、グローバル制御回路13は、その長手方向がピクセルアレイ部12の長辺に沿うように、ピクセルアレイ部12の上辺側に配置される。従って、センサチップ11では、グローバル制御回路13から出力されるグローバル制御信号をピクセルアレイ部12のセンサ素子に供給する制御線21は、ピクセルアレイ部12に行列状に配置されるセンサ素子の列ごとに、ピクセルアレイ部12の上下方向に向かって配置される。
ローリング制御回路14は、ピクセルアレイ部12に配置される複数のセンサ素子が行ごとに次々と順番に(逐次的に)駆動するように制御するローリング制御信号を出力する制御回路である。図1に示す構成例では、ローリング制御回路14は、その長手方向がピクセルアレイ部12の短辺に沿うように、ピクセルアレイ部12の右辺側に配置される。
カラムADC15は、ピクセルアレイ部12のセンサ素子から出力されるアナログのセンサ信号を列ごとに並列的にデジタル値にAD(Analog-to-Digital)変換する。このとき、カラムADC15は、例えば、センサ信号に対してCDS(Correlated Double Sampling:相関2重サンプリング)処理を施すことによって、センサ信号に含まれるリセットノイズを除去することができる。
入出力部16には、センサチップ11と外部回路との間で入出力を行うための端子が設けられており、例えば、入出力部16を介して、グローバル制御回路13の駆動に必要な電力がセンサチップ11に入力される。図1に示す構成例では、入出力部16は、グローバル制御回路13に隣接するように、グローバル制御回路13に沿って配置される。例えば、グローバル制御回路13は消費電力が大きいことより、IRドロップ(電圧降下)の影響を低減するために、入出力部16はグローバル制御回路13の近傍に配置することが好ましい。
このようにセンサチップ11は構成されており、グローバル制御回路13がピクセルアレイ部12の長辺に沿うように配置されるレイアウトが採用される。これにより、センサチップ11は、グローバル制御回路13から制御線21の遠端(図1の例では下端)に配置されるセンサ素子までの距離を、例えば、グローバル制御回路13がピクセルアレイ部12の短辺に沿うように配置されるレイアウトよりも短くすることができる。
従って、センサチップ11は、グローバル制御回路13から出力されるグローバル制御信号に発生する遅延量およびスルーレートを改善することができるため、より高速にセンサ素子に対する制御を行うことができる。特に、センサチップ11がグローバルシャッタ駆動を行うイメージセンサである場合、画素に供給する転送信号やリセット信号、オーバーフローゲート信号などの高速制御が可能となる。また、センサチップ11がToFセンサである場合には、MIX信号の高速制御が可能となる。
例えば、ToFセンサや蛍光発光検出センサなどでは、グローバル制御信号のスルーレートや、駆動素子からの距離に応じて発生するグローバル制御信号の遅延量などが、センサ素子ごとに違うものになると、検出誤差となってしまう。これに対し、センサチップ11は、上述したように、グローバル制御信号に発生する遅延量およびスルーレートを改善することができるので、そのような検出誤差を抑制することができる。
また、センサチップ11がToFセンサや蛍光発光検出センサなどである場合、露光期間に100回を超えるような複数回のオン/オフ制御が必要になるだけでなく、トグル周波数が高いため消費電流が大きくなってしまう。これに対し、センサチップ11は、上述したように入出力部16をグローバル制御回路13の近傍に配置して、電源を独立した配線とすることができる。
また、センサチップ11では、露光期間において、グローバル制御回路13が動作することが多いのに対し、ローリング制御回路14は停止している。一方、センサチップ11では、読み出し期間において、ローリング制御回路14が動作しているのに対し、グローバル制御回路13が停止していることが多い。そのため、センサチップ11では、グローバル制御回路13とローリング制御回路14とを独立して制御することが求められる。さらに、センサチップ11では、面内同時性を担保するために、グローバル制御回路13において、後述の図2Cに示すようなクロックツリー構造を採用することが一般的であるため、ローリング制御回路14とは独立して配置することが好ましい。
従って、センサチップ11のように、より高速な制御を行うことが求められる場合、グローバル制御回路13とローリング制御回路14とを独立して個別に配置するレイアウトとすることで、より良好な制御を行うことができる。なお、グローバル制御回路13とローリング制御回路14とが独立して個別に配置されていれば、同一方向に沿うようなレイアウト、および、互いに直交するようなレイアウトのどちらを採用してもよい。
なお、本実施の形態では、図示する構成例に従って、図の上側をピクセルアレイ部12の上辺とし、図の下側をピクセルアレイ部12の下辺として説明するが、例えば、グローバル制御回路13は、ピクセルアレイ部12の長辺に沿うように配置されていれば、その上辺側および下辺側のどちらに配置されていても同様の作用効果を得ることができる。また、ピクセルアレイ部12およびカラムADC15についても同様である。
図2を参照して、グローバル制御回路13の構成について説明する。
図2Aには、グローバル制御回路13の第1の構成例が示されており、図2Bには、グローバル制御回路13の第2の構成例が示されており、図2Cには、グローバル制御回路13の第3の構成例が示されている。なお、グローバル制御回路13は、ピクセルアレイ部12に配置されるセンサ素子の列数に応じたグローバル制御信号を同時的に出力するように構成されているが、図2においては、その一部として、8つのグローバル制御信号を同時的に出力する構成が概略的に図示されている。
図2Aに示すグローバル制御回路13は、1個の内部バッファ31と、8個の駆動素子32a乃至32hとを備えて構成される。
図示するように、グローバル制御回路13は、長手方向に沿って設けられる内部配線の一端に内部バッファ31が接続され、図1の制御線21の位置に応じて一方向に向かって、駆動素子32a乃至32hが内部配線に接続される接続構成となっている。従って、グローバル制御回路13に入力されるグローバル制御信号は、内部バッファ31を介して内部配線の一端側(図2の例では左側)から駆動素子32a乃至32hに供給され、それぞれに接続される制御線21に同時的に出力される。
図2Bに示すグローバル制御回路13Aは、2個の内部バッファ31aおよび31bと、8個の駆動素子32a乃至32hとを備えて構成される。
図示するように、グローバル制御回路13Aは、グローバル制御回路13Aの長手方向に沿って設けられる内部配線の両端に内部バッファ31aおよび31bが接続され、図1の制御線21の位置に応じて一方向に向かって、駆動素子32a乃至32hが内部配線に接続される接続構成となっている。従って、グローバル制御回路13Aに入力されるグローバル制御信号は、内部バッファ31aおよび31bを介して内部配線の両端から駆動素子32a乃至32hに供給され、それぞれに接続される制御線21に同時的に出力される。
図2Cに示すグローバル制御回路13Bは、7個の内部バッファ31a乃至31gと、8個の駆動素子32a乃至32hとを備えて構成される。
図示するように、グローバル制御回路13Bは、内部バッファ31a乃至31gによりクロックツリー構造が構成され、最終段において、制御線21の位置に応じて一方向に向かって配置される駆動素子32a乃至32hに接続される接続構成となっている。例えば、クロックツリー構造は、1段目において、1つの内部バッファ31の出力が2つの内部バッファ31に入力され、2段目において、それらの2つの内部バッファ31の入力が4つの内部バッファ31に入力されるという構成が、複数段において繰り返される構造である。従って、グローバル制御回路13Bに入力されるグローバル制御信号は、内部バッファ31a乃至31gからなるクロックツリー構造を介して駆動素子32a乃至32hに供給され、それぞれに接続される制御線21に同時的に出力される。
このような構成のグローバル制御回路13Bは、駆動素子32a乃至32hどうしの間における遅延の発生を回避することができ、例えば、グローバル制御回路13および13Aと比較して、面内均一性を担保することができる。即ち、グローバル制御回路13Bは、駆動素子32が並ぶ方向に亘って、同時性が強く求められる用途に採用することが好適である。
図3を参照して、ローリング制御回路14の構成について説明する。
図3Aには、ローリング制御回路14の第1の構成例が示されており、図3Bには、ローリング制御回路14の第2の構成例が示されている。なお、ローリング制御回路14は、ピクセルアレイ部12に配置されるセンサ素子の行数に応じたローリング制御信号を逐次的に出力するように構成されているが、図3においては、その一部として、8つのローリング制御信号を逐次的に出力する構成が概略的に図示されている。
図3Aに示すローリング制御回路14は、シフトレジスタ方式を採用しており、2個の内部バッファ41および42、8個のレジスタ43a乃至43h、並びに8個の駆動素子44a乃至44hを備えて構成される。なお、簡易化のため、2個の内部バッファ41および42が配置されている構成例を示しているが、内部バッファの配線長などに応じて、複数個の内部バッファを配置する構成を採用してもよい。
図示するように、ローリング制御回路14は、長手方向に沿って設けられる内部配線の一端に内部バッファ41が接続され、ピクセルアレイ部12に配置されるセンサ素子の行の位置に応じて、その内部配線にレジスタ43a乃至43hが接続される接続構成となっている。また、ローリング制御回路14は、内部バッファ42がレジスタ43aに接続され、レジスタ43a乃至43hが順次接続されるとともに、レジスタ43a乃至43hに駆動素子44a乃至44hがそれぞれ接続される接続構成となっている。
従って、ローリング制御回路14では、内部バッファ42を介してレジスタ43aに供給されるスタートパルスが、内部バッファ41を介して供給されるクロックに従って、レジスタ43a乃至43hに順次シフトされ、レジスタ43a乃至43hそれぞれに接続される駆動素子44a乃至44hからローリング制御信号として逐次的に出力される。
図3Bに示すローリング制御回路14Aは、デコーダ方式を採用しており、2個の内部バッファ41および42、デコーダ45、8個のANDゲート46a乃至46h、並びに8個の駆動素子44a乃至44hを備えて構成される。なお、デコーダ45には、ラッチを含む方式、および、ラッチを含まない方式のどちらを用いてもよい。例えば、デコーダ45が、信号をラッチする方式では、アドレスを1度で送る方式や、アドレスを分割して送る方式などを採用することができる。
図示するように、ローリング制御回路14Aは、内部バッファ41がデコーダ45に接続されており、内部バッファ42がANDゲート46a乃至46hの入力端に接続されるとともに、デコーダ45が行ごとにANDゲート46a乃至46hの入力端に接続される。そして、ローリング制御回路14Aは、ANDゲート46a乃至46hの出力端が、それぞれ駆動素子44a乃至44hに接続される接続構成となっている。
従って、ローリング制御回路14Aでは、内部バッファ42を介してANDゲート46a乃至46hに供給されるパルスが、内部バッファ41を介してデコーダ45に供給されるアドレスで指定された行の駆動素子44a乃至44hからローリング制御信号として逐次的に出力される。
図2および図3を参照して説明したように、グローバル制御回路13およびローリング制御回路14は、それぞれ異なる回路構成となっている。
図4は、図1に示したセンサチップ11の第1の変形例を示すブロック図である。なお、図4に示すセンサチップ11−aを構成するブロックのうち、図1のセンサチップ11と共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図4に示すように、センサチップ11−aは、ピクセルアレイ部12、ローリング制御回路14、カラムADC15、および、入出力部16の配置は、図1のセンサチップ11と共通する構成となっている。
一方、センサチップ11−aは、2個のグローバル制御回路13−1および13−2がピクセルアレイ部12の上辺および下辺にそれぞれ沿うように配置されており、制御線21の両端に駆動素子32−1および32−2が接続される点で、図1のセンサチップ11と異なる構成となっている。即ち、センサチップ11−aは、グローバル制御回路13−1が有する駆動素子32−1が制御線21の上端からグローバル制御信号を供給し、グローバル制御回路13−2が有する駆動素子32−2が制御線21の下端からグローバル制御信号を供給するように構成される。
このように構成されるセンサチップ11−aは、2個の駆動素子32−1および駆動素子32−2間のスキューを抑制することができ、制御線21を介して伝播されるグローバル制御信号に発生する遅延時間のバラツキを解消することができる。これにより、センサチップ11−aでは、より高速にセンサ素子に対する制御を行うことができる。なお、センサチップ11−aでは、貫通電流が発生することがないようにグローバル制御信号の出力の遅延差が大きくなることを回避するように制御を行う必要がある。
図5は、図1に示したセンサチップ11の第2の変形例を示すブロック図である。なお、図5に示すセンサチップ11−bを構成するブロックのうち、図1のセンサチップ11と共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図5に示すように、センサチップ11−bは、ピクセルアレイ部12、ローリング制御回路14、カラムADC15、および、入出力部16の配置は、図1のセンサチップ11と共通する構成となっている。
一方、センサチップ11−bは、2個のグローバル制御回路13−1および13−2がピクセルアレイ部12の上辺および下辺にそれぞれ沿うように配置されるとともに、ピクセルアレイ部12に行列状に配置されるセンサ素子の列の中央で分離されるように、2本の制御線21−1および21−2が配置される点で、図1のセンサチップ11と異なる構成となっている。そして、センサチップ11−bでは、制御線21−1の上端に駆動素子32−1が接続され、制御線21−2の下端に駆動素子32−2が接続されている。
従って、センサチップ11−bは、ピクセルアレイ部12の中央より上側に配置されるセンサ素子には、グローバル制御回路13−1が有する駆動素子32−1が制御線21−1の上端からグローバル制御信号を供給するように構成される。また、センサチップ11−bは、ピクセルアレイ部12の中央より下側に配置されるセンサ素子には、グローバル制御回路13−2が有する駆動素子32−2が制御線21−2の下端からグローバル制御信号を供給するように構成される。
このように構成されるセンサチップ11−bは、駆動素子32−1から制御線21−1の遠端(図5の例では下端)に配置されるセンサ素子までの距離、および、駆動素子32−2から制御線21−2の遠端(図5の例では上端)に配置されるセンサ素子までの距離を、例えば、図1のセンサチップ11よりも短くすることができる。これにより、センサチップ11−bは、グローバル制御回路13−1および13−2から出力されるグローバル制御信号に発生する遅延量およびスルーレートをさらに低減することができるため、さらに高速にセンサ素子に対する制御を行うことができる。
<センサチップの第2の構成例>
図6を参照して、本技術を適用したセンサチップの第2の実施の形態について説明する。なお、図6に示すセンサチップ11Aを構成するブロックのうち、図1のセンサチップ11と共通する構成については、同一の符号を付し、その詳細な説明は省略する。
図6に示すように、センサチップ11Aは、ピクセルアレイ部12A、グローバル制御回路13A、ローリング制御回路14A、カラムADC15A、および、入出力部16Aが、半導体基板に配置されて構成される。
そして、センサチップ11Aでは、ピクセルアレイ部12Aが、縦方向に長辺が設けられ、横方向に短辺が設けられた縦長の長方形の領域となっている点で、図1のセンサチップ11と異なる構成となっている。従って、センサチップ11Aでは、グローバル制御回路13Aおよび入出力部16Aが、ピクセルアレイ部12Aの長辺に沿うように、ピクセルアレイ部12Aの左辺側に配置される。これに伴い、制御線21Aは、ピクセルアレイ部12Aに行列状に配置されるセンサ素子の行ごとに、ピクセルアレイ部12Aの左右方向に向かって配置される。
また、センサチップ11Aでは、ローリング制御回路14Aが、ピクセルアレイ部12Aの長辺に沿うように、ピクセルアレイ部12Aの右辺側(グローバル制御回路13Aと対向する側)に配置されている。なお、グローバル制御回路13Aおよびピクセルアレイ部12Aを、ピクセルアレイ部12Aに対して同一側に配置してもよいが、この場合、いずれか一方の配線長が長くなることが想定されるため、図示するような配置とすることが好ましい。
また、センサチップ11Aでは、カラムADC15Aが、ピクセルアレイ部12Aの短辺に沿うように、ピクセルアレイ部12Aの下辺側に配置される。このように、ローリング制御回路14Aに対して直交する方向にカラムADC15Aが配置されているのは、カラムADC15Aは、1つのADコンバータに接続されるセンサ素子を1つずつオンする必要があるためであり、それぞれの配線が重なるようなレイアウトとなるのを回避している。
このように構成されるセンサチップ11Aは、図1のセンサチップ11と同様に、グローバル制御回路13Aがピクセルアレイ部12Aの長辺に沿うように配置されるレイアウトにより、制御線21Aの配線長を短くすることができる。従って、センサチップ11Aは、図1のセンサチップ11と同様に、より高速にセンサ素子に対する制御を行うことができる。
<センサチップの第3の構成例>
図7乃至10を参照して、本技術を適用したセンサチップの第3の実施の形態について説明する。なお、図7乃至10に示すセンサチップ11Bを構成するブロックのうち、図1のセンサチップ11と共通する構成については、同一の符号を付し、その詳細な説明は省略する。
図7には、センサチップ11Bの斜視図が示されており、図8には、センサチップ11Bのブロック図が示されている。
図7に示すように、センサチップ11Bは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている。そして、センサチップ11Bは、平面的に見たときにピクセルアレイ部12と重ならないセンサチップ11Bの周辺領域において、センサ基板51の制御線21と、ロジック基板52のグローバル制御回路13とが接続される接続構成となっている。即ち、図7に示す例では、センサチップ11Bは、ピクセルアレイ部12に行列状に配置されるセンサ素子の列方向に沿って配置される複数の制御線21が、センサ基板51の上辺側においてグローバル制御回路13側に接続されている。
従って、センサチップ11Bでは、グローバル制御回路13から出力されるグローバル制御信号は、図7において白抜きの矢印で示すように、センサ基板51の上辺側からピクセルアレイ部12のセンサ素子に供給される。このとき、グローバル制御回路13の長手方向が、ピクセルアレイ部12の長辺に沿うように配置されており、センサチップ11Bは、グローバル制御回路13からピクセルアレイ部12のセンサ素子まで最短距離となるような構成となっている。
図8を参照して、センサチップ11Bの構成について、さらに説明する。
センサ基板51には、ピクセルアレイ部12、および、TSV(Through Silicon Via)領域53−1乃至53−3が配置されている。ロジック基板52には、グローバル制御回路13、ローリング制御回路14、カラムADC15、ロジック回路17、およびTSV領域54−1乃至54−3が配置されている。例えば、センサチップ11Bでは、ピクセルアレイ部12のセンサ素子から出力されるセンサ信号はカラムADC15でAD変換され、ロジック回路17において各種の信号処理が施された後、外部に出力される。
TSV領域53−1乃至53−3およびTSV領域54−1乃至54−3は、センサ基板51およびロジック基板52を電気的に接続するための貫通電極が形成される領域であり、例えば、制御線21ごとに貫通電極が配置されている。従って、TSV領域53−1乃至53−3およびTSV領域54−1乃至54−3は、センサ基板51およびロジック基板52を積層したときに重なり合うように配置される。なお、TSV領域54において貫通電極を利用して接続を行う他、例えば、マイクロバンプや銅(Cu-Cu)接続などを利用することができる。
このように構成されるセンサチップ11Bは、図1のセンサチップ11と同様に、グローバル制御回路13がピクセルアレイ部12の長辺に沿うように配置されるレイアウトにより、制御線21の配線長を短くすることができる。従って、センサチップ11Bは、図1のセンサチップ11と同様に、より高速にセンサ素子に対する制御を行うことができる。
図9は、図8に示したセンサチップ11Bの第1の変形例を示すブロック図である。なお、図9に示すセンサチップ11B−aを構成するブロックのうち、図8のセンサチップ11Bと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図9に示すように、センサチップ11B−aは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている点で、図8のセンサチップ11Bと共通する構成となっている。
一方、センサチップ11B−aは、2個のグローバル制御回路13−1および13−2がピクセルアレイ部12の上辺および下辺にそれぞれ沿うようにロジック基板52に配置されるとともに、ピクセルアレイ部12に行列状に配置されるセンサ素子の列の中央で分離されるように、2本の制御線21−1および21−2が配置される点で、図8のセンサチップ11Bと異なる構成となっている。
即ち、センサチップ11B−aは、図5に示したセンサチップ11−bと同様に、制御線21−1の上端に駆動素子32−1が接続され、制御線21−2の下端に駆動素子32−2が接続されている。従って、センサチップ11B−aは、ピクセルアレイ部12の中央より上側に配置されるセンサ素子には、グローバル制御回路13−1が有する駆動素子32−1が制御線21−1の上端からグローバル制御信号を供給するように構成される。また、センサチップ11B−aは、ピクセルアレイ部12の中央より下側に配置されるセンサ素子には、グローバル制御回路13−2が有する駆動素子32−2が制御線21−2の下端からグローバル制御信号を供給するように構成される。
このように構成されるセンサチップ11B−aは、駆動素子32−1から制御線21−1の遠端(図9の例では下端)に配置されるセンサ素子までの距離、および、駆動素子32−2から制御線21−2の遠端(図9の例では上端)に配置されるセンサ素子までの距離を、例えば、図8のセンサチップ11Bよりも短くすることができる。これにより、センサチップ11B−aは、グローバル制御回路13−1および13−2から出力されるグローバル制御信号に発生する遅延量およびスルーレートをさらに低減することができるため、さらに高速にセンサ素子に対する制御を行うことができる。
図10は、図8に示したセンサチップ11Bの第2の変形例を示すブロック図である。なお、図10に示すセンサチップ11B−bを構成するブロックのうち、図8のセンサチップ11Bと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図10に示すように、センサチップ11B−bは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている点で、図8のセンサチップ11Bと共通する構成となっている。
一方、センサチップ11B−bは、2個のグローバル制御回路13−1および13−2がピクセルアレイ部12の上辺および下辺にそれぞれ沿うようにロジック基板52に配置されるとともに、制御線21の両端に駆動素子32−1および32−2が接続される点で、図8のセンサチップ11Bと異なる構成となっている。
即ち、センサチップ11B−bは、図4に示したセンサチップ11−aと同様に、グローバル制御回路13−1が有する駆動素子32−1が制御線21の上端からグローバル制御信号を供給し、グローバル制御回路13−2が有する駆動素子32−2が制御線21の下端からグローバル制御信号を供給するように構成される。
このように構成されるセンサチップ11B−bは、2個の駆動素子32−1および駆動素子32−2間のスキューを抑制することができ、制御線21を介して伝播されるグローバル制御信号に発生する遅延時間のバラツキを解消することができる。これにより、センサチップ11B−bでは、より高速にセンサ素子に対する制御を行うことができる。なお、センサチップ11B−bでは、貫通電流が発生することがないようにグローバル制御信号の出力の遅延差が大きくなることを回避するように制御を行う必要がある。
以上のように構成されるセンサチップ11Bでは、ロジック基板51およびセンサ基板52が積層されたスタック構造において、図1のセンサチップ11と同様に、より高速にセンサ素子に対する制御を行うことができる。
なお、図8乃至図10に示した構成例では、カラムADC15は、下辺に配置されているTSV領域53−3およびTSV領域54−3を介してピクセルアレイ部12の下端側からセンサ信号を読み出すように構成されている。このような構成の他、例えば、2個のカラムADC15を上辺近傍および下辺近傍に配置して、それぞれピクセルアレイ部12の上端側および下端側からセンサ信号を読み出すように構成してもよい。
<センサチップの第4の構成例>
図11を参照して、本技術を適用したセンサチップの第4の実施の形態について説明する。なお、図11に示すセンサチップ11Cを構成するブロックのうち、図8のセンサチップ11Bと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図11に示すように、センサチップ11Cは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている点で、図8のセンサチップ11Bと共通する構成となっている。
一方、センサチップ11Cは、図6に示したセンサチップ11Aのピクセルアレイ部12Aと同様に、ピクセルアレイ部12Cが、縦長の長方形の領域となっている点で、図8のセンサチップ11Bと異なる構成となっている。従って、センサチップ11Cでは、グローバル制御回路13Cが、ピクセルアレイ部12Cの長辺に沿うように、ロジック基板52の左辺側に配置される。これに伴い、制御線21Cは、ピクセルアレイ部12Cに行列状に配置されるセンサ素子の行ごとに、ピクセルアレイ部12Cの左右方向に向かって配置される。
また、センサチップ11Cでは、ローリング制御回路14Cが、ピクセルアレイ部12Cの長辺に沿うように、ロジック基板52の右辺側(グローバル制御回路13Cと対向する側)に配置されている。なお、グローバル制御回路13Cおよびピクセルアレイ部12Cを、ロジック基板52の同一側に配置してもよいが、この場合、いずれか一方の配線長が長くなることが想定されるため、図示するような配置とすることが好ましい。
また、センサチップ11Cでは、カラムADC15Cが、ピクセルアレイ部12Cの短辺に沿うように、ロジック基板52の下辺側に配置される。このように、ローリング制御回路14Cに対して直交する方向にカラムADC15Cが配置されているのは、カラムADC15Cは、1つのADコンバータに接続されるセンサ素子を1つずつオンする必要があるためであり、それぞれの配線が重なるようなレイアウトとなるのを回避している。
このように構成されるセンサチップ11Cは、図8のセンサチップ11Bと同様に、グローバル制御回路13Cがピクセルアレイ部12Cの長辺に沿うように配置されるレイアウトにより、制御線21Cの配線長を短くすることができる。従って、センサチップ11Cは、図8のセンサチップ11Bと同様に、より高速にセンサ素子に対する制御を行うことができる。
<センサチップの第5の構成例>
図12を参照して、本技術を適用したセンサチップの第5の実施の形態について説明する。なお、図12に示すセンサチップ11Dを構成するブロックのうち、図8のセンサチップ11Bと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図12に示すように、センサチップ11Dは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている点で、図8のセンサチップ11Bと共通する構成となっている。
一方、センサチップ11Dは、ロジック基板52において、センサ基板51のピクセルアレイ部12が形成される領域に対応して、複数のADC15が、図12の例では、12個のADC15−1乃至15−12が配置されている点で、図8のセンサチップ11Bと異なる構成となっている。
例えば、センサチップ11Dは、ピクセルアレイ部12の所定領域ごとに、ADC15が配置されて構成される。図示するように12個のADC15−1乃至15−12を使用する場合には、ピクセルアレイ部12を12等分した領域ごとに、ADC15が配置され、それぞれの領域に設けられるセンサ素子から出力されるセンサ信号のAD変換が並列的に行われる。なお、ピクセルアレイ部12の所定領域ごとにADC15を配置する構成の他、例えば、ピクセルアレイ部12が有する1つのセンサ素子ごとに1個のADC15を配置する構成としてもよい。
このように構成されるセンサチップ11Dは、図8のセンサチップ11Bと同様に、グローバル制御回路13がピクセルアレイ部12の長辺に沿うように配置されるレイアウトにより、制御線21の配線長を短くすることができる。従って、センサチップ11Dは、図8のセンサチップ11Bと同様に、より高速にセンサ素子に対する制御を行うことができる。
さらに、センサチップ11Dは、ローリング制御回路14とADC15との位置関係は、図8に示したカラムADC15のような制約に限定されることがなくなる。例えば、図12に示すセンサチップ11Dでは、ロジック基板52の右辺側にローリング制御回路14が配置されているが、ローリング制御回路14は、上辺側または下辺側のどちらに配置してもよい。つまり、センサチップ11Dに対するピクセルアレイ部12の配置位置(例えば、光学的な中心に対するセンサチップ11Dの中心位置)などの制限がなければ、ローリング制御回路14をどこに配置してもよい。
または、例えば、光学的な中心とセンサチップ11Dの中心位置とに強い制限がある場合には、グローバル制御回路13に対してADC15が配置されている領域の反対側となる位置にローリング制御回路14を配置することで、レイアウトをバランス良くすることができる。これにより、センサチップ11Dの特性を向上させることができる。
<センサチップの第6の構成例>
図13乃至22を参照して、本技術を適用したセンサチップの第6の実施の形態について説明する。なお、図13乃至22に示すセンサチップ11Eを構成するブロックのうち、図7および図8のセンサチップ11Bと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
図13に示すように、センサチップ11Eは、図7に示したセンサチップ11Bと同様に、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている。そして、センサチップ11Eは、平面的に見たときにピクセルアレイ部12の中央に重なるようにグローバル制御回路13が配置されており、ピクセルアレイ部12の中央部においてグローバル制御回路13が制御線21に接続される接続構成となっている。
例えば、センサチップ11Eは、配線を構成する銅(Cu)どうしの接続や、マイクロバンプまたはTSVを利用した接続などにより、ピクセルアレイ部12において接続可能である場合、駆動素子32から制御線21の遠端に配置されるセンサ素子までの距離を短くすることができる。
図14を参照して、センサチップ11Eの構成について、さらに説明する。
図14に示すように、センサ基板51において、ピクセルアレイ部12は、横方向に長辺が設けられ、縦方向に短辺が設けられた横長の長方形の領域となっている。従って、ロジック基板52において、グローバル制御回路13は、その長手方向がピクセルアレイ部12の長辺に沿うように配置される。そして、グローバル制御回路13の駆動素子32から出力される配線が、ピクセルアレイ部12の上下方向に向かって配置される制御線21の中央に接続されるように、グローバル制御回路13がロジック基板52の略中央に配置される。なお、平面的に見て、グローバル制御回路13から直接的にピクセルアレイ部12に向かって、駆動素子32から出力される配線が基板を貫通するような構成としてもよい。
このように構成されるセンサチップ11Eでは、駆動素子32から制御線21の両端に配置されるセンサ素子までの距離を短くすることができる。従って、センサチップ11Eは、グローバル制御信号の遅延量およびスルーレートを改善することができるため、より高速にセンサ素子に対する制御を行うことができる。
また、センサチップ11Eに示すような構成は、例えば、ToFセンサに適用するのに好適である。
図15は、図14に示したセンサチップ11Eの第1の変形例を示すブロック図である。なお、図15に示すセンサチップ11E−aを構成するブロックのうち、図14のセンサチップ11Eと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図15に示すように、センサチップ11E−aは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている点で、図14のセンサチップ11Eと共通する構成となっている。
一方、センサチップ11E−aは、センサ基板51において、ピクセルアレイ部12に行列状に配置されるセンサ素子の1行に対し、中央で分割された2本の制御線21−1および21−2が配置される点で、図14のセンサチップ11Eと異なる構成となっている。また、センサチップ11E−aは、ロジック基板52において、グローバル制御回路13が、センサ素子の1行に対して2個の駆動素子32−1および32−2を備える点で、図14のセンサチップ11Eと異なる構成となっている。
そして、センサチップ11E−aでは、制御線21−1の中央側の端部に駆動素子32−1が接続されるとともに、制御線21−2の中央側の端部に駆動素子32−2が接続される接続構成となっている。即ち、センサチップ11E−aは、ピクセルアレイ部12の1行に配置される複数のセンサ素子のうち、中央より上側に配置されるセンサ素子は制御線21−1を介して駆動素子32−1により駆動され、中央より下側に配置されるセンサ素子は制御線21−2を介して駆動素子32−2により駆動されるように構成される。
このように構成されるセンサチップ11E−aは、図14のセンサチップ11Eと同様に、駆動素子32−1から制御線21−1の遠端に配置されるセンサ素子までの距離、および、駆動素子32−2から制御線21−2の遠端に配置されるセンサ素子までの距離を短くすることができる。従って、センサチップ11E−aは、図14のセンサチップ11Eと同様に、グローバル制御信号の遅延量およびスルーレートを改善することができる。
さらに、センサチップ11E−aは、1個の駆動素子32あたりの負荷を削減することができるので、図14のセンサチップ11Eよりも、駆動素子32のサイズを小型化することができる。さらに、センサチップ11E−aは、センサ素子の1列に対して2個の駆動素子32を配置する構成とすることで、駆動素子32のレイアウトが一カ所に集積されることになり、全体のレイアウト構造を簡易化することができる。
図16は、図14に示したセンサチップ11Eの第2の変形例を示すブロック図である。なお、図16に示すセンサチップ11E−bを構成するブロックのうち、図14のセンサチップ11Eと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図16に示すセンサチップ11E−bは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている点で、図14のセンサチップ11Eと共通する構成となっている。
一方、センサチップ11E−bは、センサ基板51において、ピクセルアレイ部12に行列状に配置されるセンサ素子の1行に対し、中央で分割された2本の制御線21−1および21−2が配置されている点で、図14のセンサチップ11Eと異なる構成となっている。また、センサチップ11E−bは、ロジック基板52において、2個のグローバル制御回路13−1および13−2が配置される点で、図14のセンサチップ11Eと異なる構成となっている。
そして、センサチップ11E−bでは、制御線21−1の中央に駆動素子32−1が接続されるとともに、制御線21−2の中央に駆動素子32−2が接続される接続構成となっている。即ち、センサチップ11E−bは、ピクセルアレイ部12の1行に配置される複数のセンサ素子のうち、中央より上側に配置されるセンサ素子は制御線21−1を介して駆動素子32−1により駆動され、中央より下側に配置されるセンサ素子は制御線21−2を介して駆動素子32−2により駆動されるように構成される。
このように構成されるセンサチップ11E−bは、図14のセンサチップ11Eと比較して、駆動素子32−1から制御線21−1の遠端に配置されるセンサ素子までの距離、および、駆動素子32−2から制御線21−2の遠端に配置されるセンサ素子までの距離を短くすることができる。これにより、センサチップ11E−bは、図14のセンサチップ11Eよりも、より高速な駆動が可能となり、グローバル制御信号の遅延量およびスルーレートのさらなる改善を図ることができる。
また、図16に示すように、センサチップ11E−bでは、グローバル制御回路13−1および13−2を分割して配置することができるので、それらの間となる中央箇所にロジック回路17を配置することができる。なお、図示しないが、グローバル制御回路13−1および13−2の間となる中央箇所にカラムADC15を配置してもよい。
また、センサチップ11E−bに示すような構成は、例えば、ToFセンサに適用するのに好適である。
図17は、図14に示したセンサチップ11Eの第3の変形例を示すブロック図である。なお、図17に示すセンサチップ11E−cを構成するブロックのうち、図14のセンサチップ11Eと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図17に示すセンサチップ11E−cは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている点で、図14のセンサチップ11Eと共通する構成となっている。
一方、センサチップ11E−cは、センサ基板51において、ピクセルアレイ部12に行列状に配置されるセンサ素子の1行に対し、中央で分割された2本の制御線21−1および21−2が配置されている点で、図14のセンサチップ11Eと異なる構成となっている。また、センサチップ11E−cは、ロジック基板52において、2個のグローバル制御回路13−1および13−2が配置される点で、図14のセンサチップ11Eと異なる構成となっている。
そして、センサチップ11E−cでは、図16のセンサチップ11E−bと同様に、制御線21−1の中央に駆動素子32−1が接続されるとともに、制御線21−2の中央に駆動素子32−2が接続される接続構成となっている。従って、センサチップ11E−cは、図16のセンサチップ11E−bと同様に、図14のセンサチップ11Eよりも、より高速な駆動が可能となり、グローバル制御信号の遅延量およびスルーレートのさらなる改善を図ることができる。
さらに、センサチップ11E−cは、ロジック基板52の上辺側にカラムADC15−1が配置されるとともに、ロジック基板52の下辺側にカラムADC15−2が配置されている。このように構成されるセンサチップ11E−cは、レイアウトを上下に対象となる構造となり対称性が向上する結果、センサチップ11E−cの特性を向上させることができる。
図18は、図14に示したセンサチップ11Eの第4の変形例を示すブロック図である。なお、図18に示すセンサチップ11E−dを構成するブロックのうち、図14のセンサチップ11Eと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図18に示すセンサチップ11E−dは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている点で、図14のセンサチップ11Eと共通する構成となっている。
一方、センサチップ11E−dは、ロジック基板52において、2個のグローバル制御回路13−1および13−2が配置されており、グローバル制御回路13−1が制御線21の上側半分の略中央に接続されるとともに、グローバル制御回路13−2が制御線21の下側半分の略中央に接続されるような接続構成となっている点で、図14のセンサチップ11Eと異なる構成となっている。つまり、センサチップ11E−dは、図17の制御線21−1および21−2が接続された1本の制御線21が用いられる構成となっている。
このように構成されるセンサチップ11E−dは、2個の駆動素子32−1および駆動素子32−2間のスキューを抑制することができ、制御線21を介して伝播されるグローバル制御信号に発生する遅延時間のバラツキを解消することができる。これにより、センサチップ11E−dでは、より高速にセンサ素子に対する制御を行うことができる。なお、センサチップ11E−dでは、貫通電流が発生することがないようにグローバル制御信号の出力の遅延差が大きくなることを回避するように制御する必要がある。
図19は、図14に示したセンサチップ11Eの第5の変形例を示すブロック図である。なお、図19に示すセンサチップ11E−eを構成するブロックのうち、図14のセンサチップ11Eと共通する構成については、同一の符号を付し、その詳細な説明は省略する。また、図19に示すセンサチップ11E−eでは、図が煩雑になることを回避するために、センサチップ11E−eを構成する一部のブロックの図示が省略されている。
即ち、図19に示すセンサチップ11E−eは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている点で、図14のセンサチップ11Eと共通する構成となっている。
一方、センサチップ11E−eは、センサ基板51において、ピクセルアレイ部12に行列状に配置されるセンサ素子の1行に対し、4分割された制御線21−1乃至21−4が配置されている点で、図14のセンサチップ11Eと異なる構成となっている。また、センサチップ11E−eは、ロジック基板52において、4個のグローバル制御回路13−1乃至13−4が配置される点で、図14のセンサチップ11Eと異なる構成となっている。
そして、センサチップ11E−eでは、制御線21−1乃至21−4それぞれの中央にグローバル制御回路13−1乃至13−4の駆動素子32−1乃至32−4が接続される接続構成となっている。従って、センサチップ11E−eは、駆動素子32−1乃至32−4それぞれから制御線21−1乃至21−4の遠端に配置されるセンサ素子までの距離を、さらに短くすることができる。これにより、センサチップ11E−eは、センサ素子に対する制御のさらなる高速化を図ることができる。なお、センサチップ11E−eでは、カラムADC15Aやロジック回路17などが分離されて配置されることが想定されるが、そのような場合でも特性に影響を与えないようなレイアウトを採用することが必要となる。
なお、図19に示す構成例では、4本に分割された制御線21−1乃至21−4を用いて説明を行っているが、制御線21を3本に分割したり、5本以上に分割したりしてもよい。そして、分割された制御線21の略中央に、それぞれ対応するグローバル制御回路13が接続されるような構成とすることができる。
図20は、図14に示したセンサチップ11Eの第6の変形例を示すブロック図である。なお、図20に示すセンサチップ11E−fを構成するブロックのうち、図14のセンサチップ11Eと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図20に示すセンサチップ11E−fは、ピクセルアレイ部12が形成されるセンサ基板51と、グローバル制御回路13が形成されるロジック基板52とが積層される積層構造となっている点で、図14のセンサチップ11Eと共通する構成となっている。
一方、センサチップ11E−fは、ロジック基板52において、4個のグローバル制御回路13−1乃至13−4が配置されており、グローバル制御回路13−1乃至13−4が、制御線21に対して均等な間隔で接続されるような接続構成となっている点で、図14のセンサチップ11Eと異なる構成となっている。つまり、センサチップ11E−dは、図19の制御線21−1乃至21−4が接続された1本の制御線21が用いられる構成となっている。
このように構成されるセンサチップ11E−fは、4個の駆動素子32−1乃至32−4間のスキューを抑制することができ、制御線21を介して伝播されるグローバル制御信号に発生する遅延時間のバラツキを解消することができる。これにより、センサチップ11E−fでは、より高速にセンサ素子に対する制御を行うことができる。なお、センサチップ11E−fでは、貫通電流が発生することがないようにグローバル制御信号の出力の遅延差が大きくなることを回避するように制御する必要がある。
図21は、図14に示したセンサチップ11Eの第7の変形例を示すブロック図である。なお、図21に示すセンサチップ11E−gを構成するブロックのうち、図19のセンサチップ11E−eと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、センサチップ11E−gは、1個のグローバル制御回路13を備えて構成され、図19のセンサチップ11E−eのグローバル制御回路13−2乃至13−4に替えて、バッファ回路55−1乃至55−3を備えて構成される。バッファ回路55−1乃至55−3は、それぞれバッファ56−1乃至56−3を有しており、グローバル制御回路13の駆動素子32の出力がバッファ56−1乃至56−3それぞれで分岐されて、4分割された制御線21−1乃至21−4に接続されている。
このように構成されるセンサチップ11E−gにおいても、図19のセンサチップ11E−eと同様に、センサ素子に対する制御のさらなる高速化を図ることができる。
図22は、図14に示したセンサチップ11Eの第8の変形例を示すブロック図である。なお、図22に示すセンサチップ11E−hを構成するブロックのうち、図20のセンサチップ11E―fと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、センサチップ11E−gは、1個のグローバル制御回路13を備えて構成され、図20のセンサチップ11E―fのグローバル制御回路13−2乃至13−4に替えて、バッファ回路55−1乃至55−3を備えて構成される。バッファ回路55−1乃至55−3は、それぞれバッファ56−1乃至56−3を有しており、グローバル制御回路13の駆動素子32の出力がバッファ56−1乃至56−3それぞれで分岐されて、制御線21に接続されている。
このように構成されるセンサチップ11E−hにおいても、図20のセンサチップ11E―fと同様に、センサ素子に対する制御のさらなる高速化を図ることができる。
<センサチップの第7の構成例>
図23乃至25を参照して、本技術を適用したセンサチップの第7の実施の形態について説明する。なお、図23乃至25に示すセンサチップ11Fを構成するブロックのうち、図13のセンサチップ11Eと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、図23に示すセンサチップ11Fは、センサ基板51と、2枚のロジック基板52−1および52−2とが積層される積層構造となっている。即ち、本技術は、3枚の半導体基板が積層される構造に適用することができる。
図23に示すように、センサチップ11Fは、1層目のセンサ基板51にピクセルアレイ部12が形成され、2層目のロジック基板52−1に、グローバル制御回路13と、メモリ61−1および61−2とが形成され、3層目のロジック基板52−2に、例えば、図示しないカラムADC15やロジック回路17などが形成されて構成される。
このように構成されるセンサチップ11Fにおいても、センサ基板51のピクセルアレイ部12の長手方向に沿って、ロジック基板52−1にグローバル制御回路13を配置することで、図13のセンサチップ11Eと同様に、より高速にセンサ素子に対する制御を行うことができる。
また、センサ基板51、ロジック基板52−1、およびロジック基板52−2の順番で積層されるセンサチップ11Fは、グローバル制御回路13は、センサ基板51およびロジック基板52−2の間に積層されるロジック基板52−1の中央に配置することが好ましい。これにより、グローバル制御回路13から制御線21の遠端に配置されるセンサ素子までの距離を短くすることができる。もちろん、グローバル制御回路13から制御線21の遠端に配置されるセンサ素子までの距離を短くすることができれば、図23に示すようなレイアウトに限定されることはない。
図24は、図23に示したセンサチップ11Fの第1の変形例を示す斜視図である。
図24に示すように、センサチップ11F−aでは、1層目のセンサ基板51にピクセルアレイ部12が形成され、2層目のロジック基板52−1に、メモリ61−1および61−2が形成され、3層目のロジック基板52−2に、例えば、グローバル制御回路13や、図示しないカラムADC15およびロジック回路17などが形成されて構成される。
このように構成されるセンサチップ11F−aにおいても、センサ基板51のピクセルアレイ部12の長手方向に沿って、ロジック基板52−2にグローバル制御回路13を配置することで、図13のセンサチップ11Eと同様に、より高速にセンサ素子に対する制御を行うことができる。
図25は、図23に示したセンサチップ11Fの第2の変形例を示す斜視図である。
図25に示すように、センサチップ11F−bでは、1層目のセンサ基板51にピクセルアレイ部12が形成され、2層目のロジック基板52−1に、メモリ61が形成され、3層目のロジック基板52−2に、例えば、グローバル制御回路13や、図示しないカラムADC15およびロジック回路17などが形成されて構成される。なお、センサチップ11F−bでは、例えば、図8のセンサチップ11Bと同様に、センサチップ11F−bの周辺領域に形成されるTSV領域を利用して、グローバル制御回路13に制御線21が接続される接続構成となっている。
このように構成されるセンサチップ11F−bにおいても、センサ基板51のピクセルアレイ部12の長手方向に沿って、ロジック基板52−2にグローバル制御回路13を配置することで、図13のセンサチップ11Eと同様に、より高速にセンサ素子に対する制御を行うことができる。
なお、例えば、3枚以上の半導体基板を積層してもよく、上述の図16に示したように2カ所にグローバル制御回路13を配置したり、2カ所以上の複数個所にグローバル制御回路13を配置したりしてもよい。この場合、メモリ61が配置される半導体基板や、メモリ61の配置位置または分割数を、グローバル制御回路13の配置に応じて適切にレイアウトすることができる。
例えば、1層目の半導体基板にピクセルアレイ部12を配置し、2層目の半導体基板にカラムADC15やロジック回路17などを配置し、3層目の半導体基板にメモリ61を配置する構成を採用してもよい。このような構成においても、2層目の半導体基板にグローバル制御回路13を配置することで、配線長を短くすることができるが、メモリ61が配置される半導体基板にグローバル制御回路13を配置してもよい。
<センサチップの第8の構成例>
図26を参照して、本技術を適用したセンサチップの第8の実施の形態について説明する。なお、図26に示すセンサチップ11Gを構成するブロックのうち、図14のセンサチップ11Eと共通する構成については、同一の符号を付し、その詳細な説明は省略する。
即ち、センサチップ11におけるグローバル制御回路13の配置は、上述した各実施の形態で説明したものに限定されることなく、図26に示すような様々なレイアウトを採用することができる。もちろん、いずれの配置においても、ピクセルアレイ部12の長辺に沿うようにグローバル制御回路13が配置されていれば、図示されていないようなレイアウトを採用してもよい。
図26Aに示すように、センサチップ11Gは、センサ基板51にピクセルアレイ部12およびグローバル制御回路13が配置され、ロジック基板52にローリング制御回路14、カラムADC15、およびロジック回路17が配置されたレイアウトとなっている。そして、センサチップ11Gでは、グローバル制御回路13は、ピクセルアレイ部12の長辺に沿うように、ピクセルアレイ部12の下辺側に配置されている。
図26Bに示すように、センサチップ11G−aは、センサ基板51にピクセルアレイ部12およびグローバル制御回路13が配置され、ロジック基板52にローリング制御回路14、カラムADC15、およびロジック回路17が配置されたレイアウトとなっている。そして、センサチップ11G−aでは、グローバル制御回路13は、ピクセルアレイ部12の長辺に沿うように、ピクセルアレイ部12の上辺側に配置されている。
図26Cに示すように、センサチップ11G−bは、センサ基板51にピクセルアレイ部12、並びに、グローバル制御回路13−1および13−2が配置され、ロジック基板52にローリング制御回路14、カラムADC15、およびロジック回路17が配置されたレイアウトとなっている。そして、センサチップ11G−bでは、グローバル制御回路13−1および13−2は、ピクセルアレイ部12の長辺に沿うように、ピクセルアレイ部12の上辺側および下辺側にそれぞれ配置されている。
図26Dに示すように、センサチップ11G−cは、センサ基板51にピクセルアレイ部12、並びに、グローバル制御回路13−1および13−2が配置され、ロジック基板52にローリング制御回路14、カラムADC15、およびロジック回路17が配置されたレイアウトとなっている。そして、センサチップ11G−cでは、グローバル制御回路13−1および13−2は、ピクセルアレイ部12の長辺に沿うように、ピクセルアレイ部12の上辺側および下辺側にそれぞれ配置されているとともに、ピクセルアレイ部12に行列状に配置されるセンサ素子の列の中央で分離されるように、2本の制御線21−1および21−2が配置されている。
図26Eに示すように、センサチップ11G−dは、センサ基板51にピクセルアレイ部12、並びに、グローバル制御回路13−1および13−2が配置され、ロジック基板52にローリング制御回路14、カラムADC15、およびロジック回路17が配置されたレイアウトとなっている。さらに、センサチップ11G−dでは、ピクセルアレイ部12の長辺に沿うように、ロジック基板52に入出力部16が配置されている。
例えば、センサチップ11G−dは、入出力部16からTSV領域54−1およびTSV領域53−1を介してグローバル制御回路13へ電源を供給するように構成される。なお、TSVを利用する他、配線を構成する銅(Cu)どうしの接続や、マイクロバンプなどを利用して、グローバル制御回路13へ電源を供給するようにしてもよい。また、グローバル制御回路13へ電力を供給する配線は、制御線21と同一の接続方法を用いてもよいし、他の組み合わせの接続方法を用いてもよい。また、2層の半導体基板が積層される構成の他、3層の半導体基板が積層される構成であっても同様に、入出力部16の近傍にグローバル制御回路13を配置することが好ましい。
なお、図26に示した各種のレイアウトでは、カラムADC15はロジック基板52の片側に配置された例が示されているが、カラムADC15がロジック基板52の上下両側に配置されるレイアウトを採用してもよい。また、カラムADC15やロジック回路17の位置は、図26に示したような配置に限定されることはない。
以上のように、センサチップ11に積層型の構造を適用することで、グローバル制御回路13を様々なレイアウトで配置することができ、レイアウトの自由度が増すとともに、グローバル制御回路13とローリング制御回路14とを個別に制御する効果が大きくなる。
<距離画像センサの構成例>
図27は、センサチップ11を利用した電子機器である距離画像センサの構成例を示すブロック図である。
図27に示すように、距離画像センサ201は、光学系202、センサチップ203、画像処理回路204、モニタ205、およびメモリ206を備えて構成される。そして、距離画像センサ201は、光源装置211から被写体に向かって投光され、被写体の表面で反射された光(変調光やパルス光)を受光することにより、被写体までの距離に応じた距離画像を取得することができる。
光学系202は、1枚または複数枚のレンズを有して構成され、被写体からの像光(入射光)をセンサチップ203に導き、センサチップ203の受光面(センサ部)に結像させる。
センサチップ203としては、上述した各実施の形態のセンサチップ11が適用され、センサチップ203から出力される受光信号(APD OUT)から求められる距離を示す距離信号が画像処理回路204に供給される。
画像処理回路204は、センサチップ203から供給された距離信号に基づいて距離画像を構築する画像処理を行い、その画像処理により得られた距離画像(画像データ)は、モニタ205に供給されて表示されたり、メモリ206に供給されて記憶(記録)されたりする。
このように構成されている距離画像センサ201では、上述したセンサチップ11を適用することで、より高速な制御を行うことによって、例えば、より正確な距離画像を取得することができる。
[1.3.距離画像センサの具体的構成例]
インダイレクト方式を採用したToFカメラシステムでは、光をパルス状に照射するが、そのパルスを生成するパルス生成器が設けられる。既存のパルス生成器は、分周してからシフトレジスタで位相を作っている。従って、分周の設定で位相の分解能が決まってしまう。例えば800MHzの周波数の信号を8分周すると、作れる位相は8つだけになる。また既存のパルス生成器は、作れる分周や位相のステップは2の倍数に限られてしまう。従って、10分周させて36度の位相を作ることが出来ない。インダイレクト方式を採用したToFカメラシステムは、レンジによって周波数をアダプティブに変えるため、幅広い設定ができる方が望ましい。また既存のパルス生成器は、細かい設定をするためには、PLLの周波数を変更する必要があるが、PLLの周波数を変更すると、周波数が安定化するまでに時間がかかる(応答時間を待つ必要がある)。
また既存のパルス生成器は、フリップフロップの数が多く、面積効率が悪い。例えば32分周器ではフリップフロップが32個必要になり、また、32ステップのシフトレジスタにもフリップフロップが32個必要となる。従って、32分周器及び32ステップのシフトレジスタからなるパルス生成器にはフリップフロップが64個必要となる。
そこで本件開示者は、上述した点に鑑み、特にインダイレクト方式を採用したToFカメラシステムに用いられるパルス生成器であって、簡易な構成で様々な周波数や位相の設定に対応することが可能なパルス生成器の技術について鋭意検討を行った。その結果、本件開示者は、以下で説明するように、特にインダイレクト方式を採用したToFカメラシステムに用いられるパルス生成器であって、簡易な構成でありながら、様々な周波数や位相の設定に対応することが可能なパルス生成器を考案するに至った。
続いて、本開示の実施の形態に係る、特にインダイレクト方式を採用したToFカメラシステムで用いられるパルス生成器の構成例について説明する。図28は、本開示の実施の形態に係るパルス生成器300の機能構成例を示す説明図である。図28に示したパルス生成器300は、例えば、図27に示した距離画像センサ201に設けられるパルス生成器である。以下、図28を用いて本開示の実施の形態に係るパルス生成器300の機能構成例について説明する。
図28に示したように、本開示の実施の形態に係るパルス生成器300は、カウンタ310、340と、Dフリップフロップ320と、ANDゲート330と、を含んで構成される。
カウンタ310は、パルス生成器300に入力されるクロック、例えばPLLで生成されるクロックをカウントするプログラマブルカウンタである。カウンタ310は、位相を設定するためのカウンタであり、例えば、入力されるクロックの立ち上がりのタイミングで値を加算するカウンタである。パルス生成器300の外部から位相設定がカウンタ310に送られる。カウンタ310の出力はDフリップフロップ320の入力に送られる。
Dフリップフロップ320は、カウンタ310の出力をクロックCKとし、クロックCKに基づいて入力Dの値を出力Qから出力する。Dフリップフロップ320の出力はANDゲート330に送られる。
ANDゲート330は、パルス生成器300に入力されるクロックと、Dフリップフロップ320の出力との論理積(AND)をとって、カウンタ340に出力する。
カウンタ340は、ANDゲート330の出力クロックをカウントするプログラマブルカウンタである。カウンタ340は、分周を設定するためのカウンタであり、例えば、入力されるクロックの立ち上がりのタイミングで値を加算するカウンタである。
カウンタ310、340として用いられるカウンタは、プログラマブルカウンタであればどのようなものであっても良い。プログラマブルカウンタの構成要素は、多ビットカウンタであること、多ビットのデータ入力があること、入力データとカウント値との比較器を持つこと、である。そのようなカウンタとして、パルススワロカウンタ、パルスフォロワカウンタ、バイナリカウンタ、グレイコードカウンタ、ジョンソンカウンタなどがある。
図29は、パルス生成器300に入力される信号、パルス生成器300の内部で生成される信号、パルス生成器300が出力する信号の波形例を示す説明図である。
図29において「クロック」はパルス生成器300に入力されるクロックを示し、「カウンタ(位相)」はカウンタ310によるカウント値を示す。「1stCNO」はDフリップフロップ320の出力を示し、「2stCNI」はANDゲート330の出力を示す。「カウンタ(分周)」はカウンタ340によるカウント値を示し、「OUT」はカウンタ340の出力を示す。
図29に示した例では、カウンタ310によるカウント値が「6」になるとDフリップフロップ320の出力がローからハイになるように切り替わっている。そして、カウンタ340によるカウント値が「8」になるとカウンタ340の出力がローからハイ、またはハイからローになるように切り替わっている。すなわち、このカウンタ310、340の設定を変化させることで、パルス生成器300から出力するクロックの位相及び周波数の調節が可能になる。
このパルス生成器300から出力されるクロックを、光源の駆動及びセンサチップの画素の駆動に用いることで、光源の駆動タイミング及びセンサチップの画素の駆動タイミングを柔軟に調節することが可能となる。例えば、位相設定として28を設定可能となり、分周設定として28を設定可能となる。この場合に、フリップフロップの数は、カウンタごとに8個、合計16個で実現することが可能となる。従って、従来のパルス生成器ではフリップフロップが64個必要であったのに比べて、本開示の実施の形態に係るパルス生成器は、回路規模を大きく低減させることが可能となる。
なお、図28に示したパルス生成器300は、位相を設定するためのカウンタ310の後段に、周波数を設定するためのカウンタ340が設けられているが、本開示は係る例に限定されるものでは無い。本実施形態に係るパルス生成器300は、周波数を設定するためのカウンタの後段に位相を設定するためのカウンタを設けても良い。
図30は、本開示の実施の形態に係るパルス生成器を用いた距離画像センサの概略構成例を示す説明図である。図30には、パルス生成器300a、300bと、PLL350と、光源ドライバ352と、光源354と、画素変調ドライバ356と、画素358と、が示されている。画素358は、1画素内に1つのトランジスタが設けられる1タップ画素である。
PLL350から出力されるクロックMCKは、それぞれパルス生成器300a、300bに送られる。そしてパルス生成器300aには光源354のための位相設定が入力され、パルス生成器300bには画素358のための位相設定が入力される。すなわち、パルス生成器300aから出力される信号(光源出力信号)と、パルス生成器300bから出力される信号(画素変調信号)との位相差を設定するために、パルス生成器300a、300bにはそれぞれ独自の位相設定が入力される。またパルス生成器300a、300bには、共通の変調周波数設定が入力される。これにより、パルス生成器300a、300bからは同一の周波数のパルスが出力される。
図31は、パルス生成器300a、300bから出力される信号及びパルス生成器300a、300bに入力される位相設定の例を示す説明図である。図31に示した例では、パルス生成器300aに入力される光源位相設定は、カウンタ310aのカウント値が「6」になるとDフリップフロップ320aの出力がローからハイになるように切り替わる設定となっている。また、図31に示した例では、パルス生成器300bに入力される画素位相設定は、カウンタ310bのカウント値が「9」になるとDフリップフロップ320bの出力がローからハイになるように切り替わる設定となっている。このような設定とすることで、パルス生成器300aから出力される光源出力信号と、パルス生成器300bから出力される画素変調信号との位相差を90度に設定することができる。
別の例を示す。図32は、本開示の実施の形態に係るパルス生成器を用いた距離画像センサの概略構成例を示す説明図である。図32には、パルス生成器300a、300bと、PLL350と、光源ドライバ352と、光源354と、インバータ355と、画素変調ドライバ356a、356bと、画素358’と、が示されている。画素358’は、1画素内に2つのトランジスタが設けられる2タップ画素であり、それぞれのトランジスタにパルス生成器300bからの信号が入力される構成となっている。
図32に示した例では、図30に示した例と同様に、パルス生成器300aから出力される信号(光源出力信号)と、パルス生成器300bから出力される信号(画素変調信号)との位相差を設定するために、パルス生成器300a、300bにはそれぞれ独自の位相設定が入力される。またパルス生成器300a、300bには、共通の変調周波数設定が入力される。そして図32に示した例では、パルス生成器300bの出力を2つに分岐させ、一方の出力はそのまま画素変調ドライバ356aへ出力し、他方の出力はインバータ355で反転させた後に画素変調ドライバ356bへ出力する。これにより、パルス生成器300bからの出力信号から、180度位相が異なる2つの信号(画素変調信号A、B)を生成している。
図33は、パルス生成器300a、300bから出力される信号及びパルス生成器300a、300bに入力される位相設定の例を示す説明図である。図33に示した例では、パルス生成器300aに入力される光源位相設定は、カウンタ310aのカウント値が「6」になるとDフリップフロップ320aの出力がローからハイになるように切り替わる設定となっている。また、図33に示した例では、パルス生成器300bに入力される画素位相設定は、カウンタ310bのカウント値が「9」になるとDフリップフロップ320bの出力がローからハイになるように切り替わる設定となっている。このような設定とすることで、パルス生成器300aから出力される光源出力信号と、パルス生成器300bから出力される画素変調信号Aとの位相差を90度に設定することができる。そして、パルス生成器300bの出力を2つに分岐させ、一つをインバータ355で反転させた後に画素変調ドライバ356bへ出力しているので、画素変調信号Aと画素変調信号Bとの位相差を180度に設定することができる。
別の例を示す。図34は、本開示の実施の形態に係るパルス生成器を用いた距離画像センサの概略構成例を示す説明図である。図34には、パルス生成器300a、300b、300cと、PLL350と、光源ドライバ352と、光源354と、画素変調ドライバ356a、356bと、画素358’と、が示されている。画素358’は、1画素内に2つのトランジスタが設けられる2タップ画素であり、それぞれのトランジスタにパルス生成器300bからの信号が入力される構成となっている。
図34に示した例では、パルス生成器300aからの信号(光源出力信号)は光源354に出力される点は図32に示した構成例と変わらない。一方、図34に示した例では、画素358’に出力する信号を、パルス生成器300b、300cで生成している点で図32に示した構成例と異なっている。すなわち、パルス生成器300aから出力される信号(光源出力信号)と、パルス生成器300bから出力される信号(画素変調信号A)と、パルス生成器300cから出力される信号(画素変調信号B)との位相差を設定するために、パルス生成器300a、300b、300cにはそれぞれ独自の位相設定が入力される。
図35は、パルス生成器300a、300b、300cから出力される信号及びパルス生成器300a、300bに入力される位相設定の例を示す説明図である。図35に示した例では、パルス生成器300aに入力される光源位相設定は、カウンタ310aのカウント値が「6」になるとDフリップフロップ320aの出力がローからハイになるように切り替わる設定となっている。また、図35に示した例では、パルス生成器300bに入力される画素位相設定は、カウンタ310bのカウント値が「9」になるとDフリップフロップ320bの出力がローからハイになるように切り替わる設定となっている。また、図35に示した例では、パルス生成器300cに入力される画素位相設定は、カウンタ310cのカウント値が「15」になるとDフリップフロップ320cの出力がローからハイになるように切り替わる設定となっている。このような設定とすることで、パルス生成器300aから出力される光源出力信号と、パルス生成器300bから出力される画素変調信号Aとの位相差を90度に設定することができ、また、パルス生成器300aから出力される光源出力信号と、パルス生成器300cから出力される画素変調信号Bとの位相差を270度に設定することができる。
このように画素位相設定をパルス生成器に入力する構成とすることで、システム遅延を補正することが出来る。ここでいうシステム遅延とは、パルス生成器から画素変調信号を出力してから、実際に画素変調信号が画素に入力されるまでの時間の遅延である。図36は、パルス生成器から出力される信号及びパルス生成器に入力される位相設定の例を示す説明図である。図36に示したように、画素用のパルス生成器に入力する画素位相設定にオフセットを与えることで、光源用のパルス生成器に入力する画素位相設定の設定を変えずに、画素変調信号にオフセットを加算できる。すなわち、光源用のパルス生成器と、画素用のパルス生成器の少なくともいずれか一方を調整することで、光源ドライバと画素変調ドライバとを同期させるためのキャリブレーションが可能となる。
本実施形態に係るパルス生成器を備える距離画像センサは、速い周波数、例えば100MHz程度の周波数での動作を可能とする。既存のToF方式の距離画像センサは、例えば20MHz程度の遅い周波数で動作している。20MHz程度で動作する場合には、光源の駆動と画素の駆動との間に2〜3nsec等のずれがあっても影響が少ないが、100MHz程度の場合には、2nsecずれると25%程度の損失となり影響が多い。本実施形態に係るパルス生成器を備える距離画像センサは、光源位相設定と画素位相設定とを独自に設定可能であるため、上述したように光源用のパルス生成器と、画素用のパルス生成器の少なくともいずれか一方を調整することで、光源ドライバと画素変調ドライバとを同期させるためのキャリブレーションが可能となる。
続いて、光源のデューティを任意の値に設定出来るToF方式の距離画像センサについて説明する。上述したように、パルス生成器300はデューティが50%の光源出力信号を生成している。図37は、パルス生成器300が生成するデューティが50%の光源出力信号の波形の例を示す説明図である。
しかし、このデューティが50%の光源出力信号に基づいて発光させると、測距原理(コンティニュアス方式)によるサイクリックエラーが発生し、このサイクリックエラーによって測距誤差が発生しうる。図38は、サイクリックエラーによって測距誤差が発生する様子を示す説明図である。上段は、光源からの発光の波形が正弦波の場合を示し、下段は、光源からの発光の波形が方形波の場合を示している。それぞれのグラフは横軸に遅延量をとっており、値が100のときに遅延量が360度となるようにしている。コンティニュアス方式は、信号を理想サイン波として計算する。サイン波の光源出力信号で発光させる場合であれば、上段右側のグラフのように、位相遅延量に歪みは生じない。一方、方形波の光源出力信号で発光させる場合では、下段右側のグラフのように位相遅延量に歪みが生じる。この歪みは、そのまま測距のリニアリティを悪化させる原因となる。既存の距離画像センサは、ソフトウェア的にこの歪みを補正することで対処しているが、長距離の測距ほど、サイクリックエラーによる誤差が大きくなるために、影響が大きくなる。
そこで本件開示者は、上述した点に鑑み、特にインダイレクト方式を採用したToFカメラシステムに用いられる技術であって、簡易な構成でサイクリックエラーによって測距誤差を低減させることが可能な技術について鋭意検討を行った。その結果、本件開示者は、以下で説明するように、特にインダイレクト方式を採用したToFカメラシステムに用いられる技術であって、簡易な構成でサイクリックエラーによって測距誤差を低減させることが可能な構成を考案するに至った。
本実施形態に係る距離画像センサは、光源出力信号のデューティを変化させることで、具体的には、光源出力信号のデューティを50%より小さくすることで、このサイクリックエラーを低減させる。そのために本実施形態に係る距離画像センサは、デューティを50%より小さくした光源出力信号を生成するパルス生成器を設ける。図39は、デューティが50%より小さい、30%及び25%の光源出力信号の波形の例を示す説明図である。
このように、デューティが50%より小さい、30%及び25%の光源出力信号を出力するための構成を説明する。図40は、本開示の実施の形態に係る距離画像センサにおける、光源出力信号を出力するための構成例を示す説明図である。図40には、パルス生成器300a、300bと、パルス生成器300aの出力を反転させた上でパルス生成器300aの出力とパルス生成器300bの出力とのAND(論理積)をとるANDゲート410と、セレクタ420と、が示されている。パルス生成器300a、300bは、いずれも光源を発光させるための信号を生成する。
パルス生成器300aは、デューティが50%の光源出力信号を生成することを目的としたパルス生成器である。そしてパルス生成器300bは、位相設定を調整することで、パルス生成器300aが生成する信号と、パルス生成器300bが生成する信号との組み合わせによりデューティを50%より小さくした光源出力信号を生成することを目的としたパルス生成器である。
図41は、デューティを50%より小さくした光源出力信号の生成の概要を示す説明図である。図41の「MAIN」はパルス生成器300aが生成する信号の波形の例であり、「SUB」はパルス生成器300aが生成する信号の波形の例である。そして「LSR」はパルス生成器300aが生成する信号と、パルス生成器300bが生成する信号との組み合わせによりデューティを50%より小さくした光源出力信号の波形の例である。
図41に示したように、パルス生成器300aが生成する信号の波形と、パルス生成器300aが生成する信号の波形とには位相差がある。この状態で、パルス生成器300aが生成する信号の波形を反転させた上で、パルス生成器300bが生成する信号との論理積をとると、「LSR」のようにデューティを50%より小さくした光源出力信号を生成することが可能となる。
セレクタ420は、パルス生成器300aの出力と、ANDゲート410の出力とのいずれか一方を選択して出力する。セレクタ420にはモード切替信号が供給され、セレクタ420は、モード切替信号の内容に応じてパルス生成器300aの出力、すなわちデューティが50%の信号と、ANDゲート410の出力、すなわちデューティが50%未満の信号とのいずれか一方を選択して出力する。
図40に示した構成を有することで、本開示の実施の形態に係るToF方式の距離画像センサは、異なるデューティで光源から発光させることができる。そして本開示の実施の形態に係るToF方式の距離画像センサは、光源出力信号のデューティを変化させることで、具体的には、デューティを50%より小さくすることで、このサイクリックエラーを低減させることができる。
図42は、パルス生成器300a、300bに設定する光源位相設定の例を示す説明図である。図42に示したように、パルス生成器300aに設定する光源位相設定と、パルス生成器300bに設定する光源位相設定とを変えることで、パルス生成器300aが生成する信号の波形(LSR)と、パルス生成器300aが生成する信号(LSR_SUB)の波形とに位相差をつけることができる。そして、上述したようにパルス生成器300aが生成する信号の波形を反転させた上で、パルス生成器300bが生成する信号との論理積をとると、「LSR_OUT」のようにデューティを50%より小さくした光源出力信号を生成することが可能となる。
もちろん、パルス生成器300bが生成する信号の位相を、パルス生成器300aが生成する信号の位相より早めても良い。図43は、パルス生成器300a、300bが生成する信号及びパルス生成器300a、300bが生成する信号に基づいて生成する光源出力信号の波形例を示す説明図である。
このように、異なるデューティの信号を切り替えて選択して光源出力信号とすることで、例えば、遠距離の物体を測距する場合と、近距離の物体を測距する場合とで、異なる周波数で光源を発光させて、かつ、デューティを50%より小さくして、サイクリックエラーを低減させることができる。
なお、本実施形態では、光源出力信号のデューティを50%と、50%未満の数字との中から選択する例を示したが、本開示は係る例に限定されるものでは無い。
図44は、本開示の実施の形態に係るToF方式の距離画像センサの駆動例を示す説明図である。図44に示したのは、遠距離の物体の測距と、近距離の物体の測距とで、光源からの発光の周波数及びデューティを変化させている例である。
図44に示した例では、遠距離の物体の測距の際には、20MHzの周波数で、デューティ32%で光源から発光させ、近距離の物体の測距の際には、80MHzの周波数で、デューティ32%で光源から発光させている。そして図44に示した例では、遠距離の物体の測距と、近距離の物体の測距とにおいて、それぞれ0度、90度、180度、270度の4相での測距を行っている。
本開示の実施の形態に係るToF方式の距離画像センサは、このように光源から発光させることでサイクリックエラーを低減させることができる。
図45は、本開示の実施の形態に係るToF方式の距離画像センサの動作例を示す流れ図である。距離画像センサは、測距対象の物体が遠距離(所定の距離以上遠距離)にあるかどうか判定する(ステップS101)。遠距離であれば、低い周波数での測距を実施し(ステップS102)、遠距離のデプスマップを生成する(ステップS103)。距離画像センサは、この測距において光源を50%より小さいデューティで発光させる。そして距離画像センサは、遠距離のデプスマップに基づき、測距対象の物体の位置を推定(演算)する(ステップS104)。
一方、距離画像センサは、測距対象の物体が近距離にあれば、高い周波数での測距を実施し(ステップS105)、近距離のデプスマップを生成する(ステップS106)。距離画像センサは、この測距において光源を50%より小さいデューティで発光させる。そして距離画像センサは、近距離のデプスマップに基づき、測距対象の物体の位置を推定(演算)する(ステップS107)。
このように、本開示の実施の形態に係るToF方式の距離画像センサは、光源から発光させる際に、設定により異なるデューティで発光させることが出来る。この際、光源を50%より小さいデューティで発光させることで、本開示の実施の形態に係るToF方式の距離画像センサは、サイクリックエラーの影響を低減させて、測距の精度を高めることが可能となる。
続いて、単フレーム内で変調周波数の設定を変化させて測距を行うToF方式の距離画像センサについて説明する。
インダイレクトToF方式の距離画像センサでは、変調周波数と測距誤差は反比例の関係にある。精度を上げて測距を行うには変調周波数を上げる必要があるが、変調周波数を上げると、測距範囲が狭くなってしまう。
既存のインダイレクトToF方式の距離画像センサでは、2種類の変調周波数を用いて測距する場合、画素へ蓄積と蓄積されたデータの読出しのサイクルでのみ、変調周波数の設定の変更が可能であった。そのため、2種類の変調周波数を用いて測距する場合、デプス算出のために必要なフレームが増加することで、測距完了までの時間が長くなってしまう。また蓄積期間中に変調周波数の設定を変更しようとすると、設定遷移中のデッドタイムが長くなり、無効信号の割合が増加してしまう。
図46は、単フレーム内の蓄積期間中で同一の変調周波数を用いて測距を行う際の、インダイレクトToF方式の距離画像センサの動作例を示す説明図である。図46の例では、変調周波数60MHzで位相を変化させながら測距を行い、その後、変調周波数20MHzで位相を変化させながら測距を行う例が示されている。この場合、周波数を変える場合には、PLLの設定を変える必要があるが、PLLの安定化のための期間が必要となり、即時に周波数を変更することが困難である。従って、変調周波数の切替に時間を要し、測距完了までの時間が長くなってしまう。
図47は、単フレーム内の蓄積期間中で同一の変調周波数を用いて測距を行う際の、インダイレクトToF方式の距離画像センサの動作例を示す説明図である。図47の例では、変調周波数60MHzでの測距、20MHzでの測距をワンサイクルとして、ワンサイクル終了後に位相を変化させながら測距を行う例が示されている。この場合、変調周波数の切替に時間を要し、測距完了までの時間が長くなってしまう。また、画素からの読出し回数についても図46に示した例と同じく、測距完了までに8回の読出しを要する。
そこで本実施形態では、上述したような、プログラマブルカウンタを2つ組み合わせたパルス生成器を用いて、単フレーム内の蓄積期間中に、短時間で変調周波数の設定を変更し、その設定の変更を反映させることが可能なインダイレクトToF方式の距離画像センサを示す。なお、フレームとは、イメージセンサの蓄積開始から読出し完了までの間の期間を指すものとする。
図48は、本開示の実施の形態に係る、インダイレクトToF方式の距離画像センサの駆動例を示す説明図である。本実施形態では、単フレーム内の蓄積期間中に、変調周波数60MHz及び20MHzでの駆動を実行し、それぞれの駆動の結果を画素からの1度の読出し動作で取得している。このように単フレーム内の蓄積期間中に異なる変調周波数で駆動させることで、本開示の実施の形態に係る、インダイレクトToF方式の距離画像センサは、読出し回数を削減することが出来る。また本開示の実施の形態に係る、インダイレクトToF方式の距離画像センサは、読出し時間を節約できて、フレームレートを向上させることができる。なお、変調周波数の設定を変更するタイミングでデッドタイムが生じるが、当該デッドタイムの期間は、上述したPLLの安定化のための期間に比べて極めて短い。
図49は、本開示の実施の形態に係る、インダイレクトToF方式の距離画像センサの駆動の具体例を示す説明図である。図49には、上述のパルス生成器300に対する設定として、周波数設定、画素位相設定、光源位相設定に、それぞれ2種類の設定を設けている例が示されている。位相設定を2種類設けているのは、変調周波数が変わると、位相の設定も当然に変わるからである。
図49には、さらに、設定変更のトリガ信号を示している。図49の例では、トリガ信号がローの場合では変調周波数を60MHzとし、ハイの場合では変調周波数を40MHzとしている。すなわち、設定変更のトリガ信号の状態によって、パルス生成器300に対する設定が切り替わる。その際、パルス生成器300は、設定変更のトリガ信号の状態が変化したことを検出するとカウンタの値をリセットし、変更後の設定に基づいたパルスを出力する。図49の下段には、設定変更のトリガ信号の変化によって、画素変調信号及び光源出力信号の周波数が変化している様子が示されている。
図50は、本開示の実施の形態に係るインダイレクトToF方式の距離画像センサで用いられる構成の例を示す説明図である。図50には、変調周波数を設定するためのカウンタ340、クロックを出力するPLL350、カウンタ340の出力を同期信号として受信するタイミングコントローラ341、およびカウンタ340への設定を出力するセレクタ342が示されている。
タイミングコントローラ341は、設定変更トリガ信号の状態の変化を検出する。設定変更トリガ信号の状態が変化したことを検出すると、タイミングコントローラ341は、分周設定を切り替えるため、スイッチ信号をセレクタ342に出力するとともに、カウンタ値のリセットのためのリセット信号をカウンタ340に出力する。セレクタ342は、タイミングコントローラ341からのスイッチ信号に基づいて、2つの分周設定の中から1つを選択してカウンタ340に出力する。
例えば、分周設定1でカウンタ340が動作している際に、設定変更トリガ信号の状態が変化したことをタイミングコントローラ341が検出したとする。タイミングコントローラ341は、設定変更トリガ信号を、内部で同期信号とラッチし、変調信号がローの期間において、スイッチ信号及びリセット信号を出力する。スイッチ信号を受信したセレクタ342は、カウンタ340への出力を分周設定1から分周設定2に切り替える。そしてカウンタ340は、リセット信号に基づいてカウンタ値をリセットし、分周設定2でのカウントを開始することで、分周設定2に基づいて変調信号を出力する。
本実施形態では、上述したようにプログラマブルカウンタを2つ組み合わせたパルス生成器を用いて、単フレーム内の蓄積期間中に、短時間で変調周波数の設定を変更し、その設定の変更を反映させることが可能なインダイレクトToF方式の距離画像センサを提供することができる。単フレーム内の蓄積期間中に、短時間で変調周波数の設定を変更し、その設定の変更を反映させることで、本実施形態に係るインダイレクトToF方式の距離画像センサは、測距完了までの読み出し回数を削減することができ、低消費電力化を図ることができる。また本実施形態に係るインダイレクトToF方式の距離画像センサは、PLLの設定を変えることで変調周波数の設定を変化させる場合に比べて短時間で測距を完了させることが可能である。PLLを複数設ければ、PLLを切り替えることで変調周波数の設定を変化させることも可能ではあるが、PLLを複数設けることで回路規模の増大に繋がる。本実施形態に係るインダイレクトToF方式の距離画像センサは、回路規模を増大させることなく、変調周波数の設定を変化させることが可能となる。
図50に示したような構成を有することで、本開示の実施の形態に係るインダイレクトToF方式の距離画像センサは、設定変更のトリガ信号の変化によって、画素変調信号及び光源出力信号の変調周波数を変化させることが出来る。そして本開示の実施の形態に係るインダイレクトToF方式の距離画像センサは、単フレーム内の蓄積期間中に異なる変調周波数で駆動することができる。
続いて、複数のカメラが同一対象を測距した際の誤測距を回避するための、インダイレクトToF方式の距離画像センサについて説明する。
アクティブ型の測距方式では、光源から光を発射し、測距対象の物体で反射された光を検出することで測距対象に対する測距を行っている。このアクティブ型の測距方式では、複数のカメラが同一の対象を測距すると、互いの信号が混信し、誤測距を引き起こす。図51は、複数の光源から同一の測距対象に光が放射され、あるイメージセンサがそれぞれの光を受光する様子を示す説明図である。本来、図51に示したイメージセンサは、光源Aからの光を受光するよう動作することが望ましいが、別の光源Bからの光を受光する場合も考えられる。図52は、光源Aと光源Bとで、発光時間(変調時間)がバッティングする様子を示す説明図である。このように、光源Aと光源Bとで、発光時間(変調時間)がバッティングすると、イメージセンサは異なる光源からの光を同時に受光することになり、コンタミネーションが発生する。
アクティブ型の測距方式で、複数のカメラで同一の対象を測距する場合には、発光タイミングを時間方向に乱数化することで、このバッティングの確率を下げる手法が考えられている。図53は、光源Aと光源Bとで、発光タイミングをランダムにずらしている様子を示す説明図である。しかし、発光タイミングをランダムにずらしても、バッティングを完全に防ぐことは困難である。
そこで本実施形態では、擬似ランダム生成されたトグル信号をトリガに位相を180度反転させて、混信防止のために変調を暗号化する。本実施形態に係るToF方式の距離画像センサは、イメージセンサで受光すべき光の変調パターンは予め分かるので、そのパターンとは異なるパターンで変調された光は測距に寄与しない無効信号として扱うことができる。
図54は、本実施形態に係るToF方式の距離画像センサで用いられうる画素変調信号の例を示す説明図であり、擬似ランダム生成されたビットに基づいたパルス(擬似ランダムパルス)の状態の遷移のタイミングで画素変調信号の位相を180度反転させた例を示す説明図である。擬似ランダムパルスは、擬似ランダム生成されたビットが0の時をローとし、1の時とハイとする。図54には、擬似ランダムパルスがローからハイ、またはハイからローに遷移したタイミングで画素変調信号の位相が180度遷移している。本実施形態に係るToF方式の距離画像センサは、この擬似ランダムパルスを変調信号の生成に用いることで、異なるパターンで状態が変化するパルスに基づいた光は、測距には用いないようにすることができる。
図55は、本実施形態で用いる擬似ランダムパルスの生成について説明する説明図である。図55では、1フレーム中に4回の受光及び読み出しを行う場合を示している。図55に示した変数は、Nが擬似ランダムのパターン長を示し、Lが変調信号のコード化サイクル長を示し、Mが擬似ランダムパルスをロジック周波数で規格化したサイクルを示す。変数Nは15ビットのビット長を有し、Lは4、8、16、32の値のいずれかを取りうる。そして変数Mは9ビットのビット長を有する。例えば、変調周波数が60MHzであるとすると、N=3、L=8、L=16である。
擬似ランダムパルスは、例えば、上述のセンサチップ11の内部において生成される。例えば、擬似ランダムパルスは、ロジック回路17において生成されうる。
図56は、擬似ランダム生成されたビットに基づいて生成された擬似ランダムパルス(PSKTRIG)及び、その擬似ランダムパルスの状態遷移により位相が180度反転した信号(MIX signal)の例を示す説明図である。図56の例では、一度の読み出しの間に、11ビットの擬似ランダム生成されたビットに基づく擬似ランダムパルスの状態遷移によって、変調信号の位相を変化させている。
続いて、擬似ランダムパルスの状態遷移により変調信号の位相を反転させる構成を説明する。図57は、本開示の実施の形態に係る、インダイレクトToF方式の距離画像センサで用いられる構成例を示す説明図である。図57には、パルス生成器300a、300b、300dと、PLL350と、パルスエッジ検出回路360と、が示されている。パルス生成器300aは光源変調信号を出力するパルス生成器である。パルス生成器300bは画素変調信号を出力するパルス生成器である。パルス生成器300dは基準パルスを出力するパルス生成器である。
パルス生成器300dは出力する基準パルスはパルスエッジ検出回路360に送られる。またパルスエッジ検出回路360には擬似ランダムパルスも送られる。パルスエッジ検出回路360は、パルスのエッジを検出することで擬似ランダムパルスの状態遷移が生じたことを検出する。そしてパルスエッジ検出回路360は、擬似ランダムパルスの状態遷移が生じたことを検出すると、パルス生成器300a、300bが出力する信号の位相を反転させるための位相反転信号をセレクタ370a、370bに出力する。
セレクタ370a、370bは、パルスエッジ検出回路360から位相反転信号が送られていなければパルス生成器300a、300bが出力する信号をそのまま出力する。セレクタ370a、370bは、パルスエッジ検出回路360から位相反転信号が送られてくれば、パルス生成器300a、300bが出力する信号の位相を、インバータ371a、371bで反転させた信号を出力する。
図58は、擬似ランダムパルスの状態遷移に基づいて変調信号の位相が変化する例を示す説明図である。擬似ランダムパルスの状態がローの場合では、変調信号は、基準パルスと同位相の信号(0deg信号)である。擬似ランダムパルスの状態がハイに変わると、直後の基準パルスの状態が遷移したタイミングで変調信号の位相が反転する。その後、擬似ランダムパルスの状態がローに変わると、直後の基準パルスの状態が遷移したタイミングで変調信号の位相が反転する。
図59は、擬似ランダムパルスの状態遷移に基づいて変調信号の位相が変化する例を示す説明図である。図59に示した信号は、上から順に、擬似ランダムパルス、暗号化していないデューティ50%の0度の信号、暗号化したデューティ50%の0度の信号、暗号化していないデューティ25%の0度の信号、暗号化したデューティ25%の0度の信号、暗号化していないデューティ50%の90度の信号、暗号化したデューティ50%の90度の信号、暗号化していないデューティ25%の90度の信号、暗号化したデューティ25%の90度の信号、である。
上述したように、本開示の実施の形態に係るインダイレクトToF方式の距離画像センサは、パルス生成器300が生成するパルスのデューティを変化させることができる。特に、上述したように、光源出力信号のデューティを50%より小さくすることで、サイクリックエラーを低減させることができる。従って、図59における、デューティ50%の信号を画素変調信号とし、デューティ25%の信号を光源出力信号とすることで、本開示の実施の形態に係るインダイレクトToF方式の距離画像センサは、サイクリックエラーを低減させつつ、イメージセンサが複数の光源からの光を受光した場合にも、測距に用いるべき光を判別することが可能となる。
本実施形態に係るインダイレクトToF方式の距離画像センサは、図59に示したように、画素変調信号及び光源出力信号の位相をシフトさせるタイミングを同期させる。画素変調信号及び光源出力信号の位相をシフトさせるタイミングを同期させることで、イメージセンサが複数の光源からの光を受光した場合にも、測距に用いるべき光を判別することが可能となる。
図60は、擬似ランダムパルスの状態遷移に基づいて変調信号の位相が変化する例を示す説明図である。図60に示した信号は、上から順に、暗号化されてない変調信号、擬似ランダムパルス、画素変調信号A、画素変調信号B、暗号化されてない変調信号と同位相の光源出力信号、暗号化されてない変調信号、擬似ランダムパルス、画素変調信号A、画素変調信号B、暗号化されてない変調信号と90度位相がずれている光源出力信号、である。図60に示した光源出力信号のデューティは50%である。
図61は、擬似ランダムパルスの状態遷移に基づいて変調信号の位相が変化する例を示す説明図である。図61に示した信号は、上から順に、暗号化されてない変調信号、擬似ランダムパルス、画素変調信号A、画素変調信号B、暗号化されてない変調信号と同位相の光源出力信号、暗号化されてない変調信号、擬似ランダムパルス、画素変調信号A、画素変調信号B、暗号化されてない変調信号と90度位相がずれている光源出力信号、である。図61に示した光源出力信号のデューティは50%である。
図62は、2つのパルス生成器300a、300bから、デューティ比が異なる2種類の信号を選択して出力する構成の例を示す説明図である。上述したように、2つのパルス生成器300a、300bの信号の位相を異ならせることで、デューティが50%より小さい信号を生成することが出来る。その際、信号DUTYONの状態によって、デューティが50%の信号と、デューティが50%より小さい信号とのいずれかが光源変調信号として出力される。
図63は、パルス生成器300a、300bから生成される、デューティが50%より小さい信号LSRと、擬似ランダムパルスに基づいて信号LSRの位相が反転している信号LSR_PSKの波形の例が示されている。本実施形態では、擬似ランダムパルスに基づくトリガ信号PSKTRIGに基づいて、デューティが50%より小さい信号として、信号LSRと、信号LSR_PSKのいずれか一方が選択される。
本開示の実施の形態に係るインダイレクトToF方式の距離画像センサは、このように擬似ランダムパルスを生成し、その擬似ランダムパルスに基づいて光源出力信号及び画素変調信号の位相を変化させる、言い換えれば位相を反転させることができる。擬似ランダムパルスに基づいて光源出力信号及び画素変調信号の位相を変化させることで、本開示の実施の形態に係るインダイレクトToF方式の距離画像センサは、同時に同一の対象を測距する他の距離画像センサが存在する場合であっても、イメージセンサで受光した光が、自らの光源が発した光を受光したものか否かを判別することが可能となる。
<内視鏡手術システムへの応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
図64は、本開示に係る技術(本技術)が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
図64では、術者(医師)11131が、内視鏡手術システム11000を用いて、患者ベッド11133上の患者11132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム11000は、内視鏡11100と、気腹チューブ11111やエネルギー処置具11112等の、その他の術具11110と、内視鏡11100を支持する支持アーム装置11120と、内視鏡下手術のための各種の装置が搭載されたカート11200と、から構成される。
内視鏡11100は、先端から所定の長さの領域が患者11132の体腔内に挿入される鏡筒11101と、鏡筒11101の基端に接続されるカメラヘッド11102と、から構成される。図示する例では、硬性の鏡筒11101を有するいわゆる硬性鏡として構成される内視鏡11100を図示しているが、内視鏡11100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
鏡筒11101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡11100には光源装置11203が接続されており、当該光源装置11203によって生成された光が、鏡筒11101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者11132の体腔内の観察対象に向かって照射される。なお、内視鏡11100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド11102の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)11201に送信される。
CCU11201は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡11100及び表示装置11202の動作を統括的に制御する。さらに、CCU11201は、カメラヘッド11102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
表示装置11202は、CCU11201からの制御により、当該CCU11201によって画像処理が施された画像信号に基づく画像を表示する。
光源装置11203は、例えばLED(Light Emitting Diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡11100に供給する。
入力装置11204は、内視鏡手術システム11000に対する入力インタフェースである。ユーザは、入力装置11204を介して、内視鏡手術システム11000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡11100による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示等を入力する。
処置具制御装置11205は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具11112の駆動を制御する。気腹装置11206は、内視鏡11100による視野の確保及び術者の作業空間の確保の目的で、患者11132の体腔を膨らめるために、気腹チューブ11111を介して当該体腔内にガスを送り込む。レコーダ11207は、手術に関する各種の情報を記録可能な装置である。プリンタ11208は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
なお、内視鏡11100に術部を撮影する際の照射光を供給する光源装置11203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置11203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド11102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置11203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド11102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置11203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置11203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
図65は、図64に示すカメラヘッド11102及びCCU11201の機能構成の一例を示すブロック図である。
カメラヘッド11102は、レンズユニット11401と、撮像部11402と、駆動部11403と、通信部11404と、カメラヘッド制御部11405と、を有する。CCU11201は、通信部11411と、画像処理部11412と、制御部11413と、を有する。カメラヘッド11102とCCU11201とは、伝送ケーブル11400によって互いに通信可能に接続されている。
レンズユニット11401は、鏡筒11101との接続部に設けられる光学系である。鏡筒11101の先端から取り込まれた観察光は、カメラヘッド11102まで導光され、当該レンズユニット11401に入射する。レンズユニット11401は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
撮像部11402は、撮像素子で構成される。撮像部11402を構成する撮像素子は、1つ(いわゆる単板式)であってもよいし、複数(いわゆる多板式)であってもよい。撮像部11402が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部11402は、3D(Dimensional)表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者11131は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部11402が多板式で構成される場合には、各撮像素子に対応して、レンズユニット11401も複数系統設けられ得る。
また、撮像部11402は、必ずしもカメラヘッド11102に設けられなくてもよい。例えば、撮像部11402は、鏡筒11101の内部に、対物レンズの直後に設けられてもよい。
駆動部11403は、アクチュエータによって構成され、カメラヘッド制御部11405からの制御により、レンズユニット11401のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部11402による撮像画像の倍率及び焦点が適宜調整され得る。
通信部11404は、CCU11201との間で各種の情報を送受信するための通信装置によって構成される。通信部11404は、撮像部11402から得た画像信号をRAWデータとして伝送ケーブル11400を介してCCU11201に送信する。
また、通信部11404は、CCU11201から、カメラヘッド11102の駆動を制御するための制御信号を受信し、カメラヘッド制御部11405に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてCCU11201の制御部11413によって自動的に設定されてもよい。後者の場合には、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡11100に搭載されていることになる。
カメラヘッド制御部11405は、通信部11404を介して受信したCCU11201からの制御信号に基づいて、カメラヘッド11102の駆動を制御する。
通信部11411は、カメラヘッド11102との間で各種の情報を送受信するための通信装置によって構成される。通信部11411は、カメラヘッド11102から、伝送ケーブル11400を介して送信される画像信号を受信する。
また、通信部11411は、カメラヘッド11102に対して、カメラヘッド11102の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
画像処理部11412は、カメラヘッド11102から送信されたRAWデータである画像信号に対して各種の画像処理を施す。
制御部11413は、内視鏡11100による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部11413は、カメラヘッド11102の駆動を制御するための制御信号を生成する。
また、制御部11413は、画像処理部11412によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置11202に表示させる。この際、制御部11413は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部11413は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具11112の使用時のミスト等を認識することができる。制御部11413は、表示装置11202に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者11131に提示されることにより、術者11131の負担を軽減することや、術者11131が確実に手術を進めることが可能になる。
カメラヘッド11102及びCCU11201を接続する伝送ケーブル11400は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル11400を用いて有線で通信が行われていたが、カメラヘッド11102とCCU11201との間の通信は無線で行われてもよい。
以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、内視鏡11100や、カメラヘッド11102(の撮像部11402)、CCU11201(の画像処理部11412)等に適用され得る。
なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。
<移動体への応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図66は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図66に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図66の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図67は、撮像部12031の設置位置の例を示す図である。
図67では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図67には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部12031等に適用され得る。
<2.まとめ>
以上説明したように本開示の実施の形態によれば、特にインダイレクト方式を採用したToFカメラシステムに用いられる構成であって、簡易な構成でサイクリックエラーの発生を抑えることが可能な構成が提供される。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
測距対象に光を照射する光源に供給するパルスを生成する第1のパルス生成器と、
前記測距対象で反射された光を受光する画素に供給するパルスを生成する第2のパルス生成器と、
前記第1のパルス生成器が出力する信号のデューティを、第1のデューティと、前記第1のデューティと異なる第2のデューティとから選択して出力する信号選択部と、
を備える、信号生成装置。
(2)
前記第1のデューティは固定であり、前記第2のデューティは可変である、前記(1)の信号生成装置。
(3)
前記第1のデューティは50%であり、前記第2のデューティは50%未満である、前記(2)に記載の信号生成装置。
(4)
前記第1のパルス生成器は、主パルス生成器及びサブパルス生成器を含み、
前記第1のデューティの信号は、前記主パルス生成器が生成する信号であり、
前記第2のデューティの信号は、前記主パルス生成器が生成する信号と前記サブパルス生成器が生成する信号とから生成する、前記(1)〜(3)のいずれかに記載の信号生成装置。
(5)
前記主パルス生成器及び前記サブパルス生成器は、
入力信号を用いて、前記パルスの位相を決定する第1のカウンタと、
前記入力信号を用いて、前記パルスの周波数を決定する第2のカウンタと、
を備え、
前記第1のカウンタに対する設定が前記主パルス生成器と前記サブパルス生成器とで異なる、前記(4)に記載の信号生成装置。
(6)
前記信号選択部は、前記測距対象との距離に応じてデューティを選択する、前記(1)〜(5)のいずれかに記載の信号生成装置。
(7)
間接方式の測距センサに用いる、前記(1)〜(6)のいずれかに記載の信号生成装置。