(実施形態1)
本実施形態のジェスチャースイッチは、図1に示すような構成であって、検知対象エリアに存在する物体Obまでの距離値を画素値とする距離画像を連続的に生成する距離画像センサDSと、距離画像センサDSで生成された距離画像に基づいて検知対象エリアに存在する人の特定部位を抽出する特定部位抽出部5と、特定部位抽出部5により抽出された特定部位の形状の時系列的なデータに基づいて特定空間内での所定のジェスチャーを認識するジェスチャー認識部6と、ジェスチャー認識部6により認識されたジェスチャーに予め対応付けられた制御出力を制御対象機器(図示せず)へ与える制御部7とを備える。ここにおいて、距離画像センサDSは、例えば、図2(a)に示すように部屋Rの天井131に設置したり、同図(b)に示すように部屋Rの天井131側の角に設置したり、同図(c)に示すように部屋Rの壁132に設置すればよいが、距離画像センサDSの設置場所は特に限定するものではなく、特定部位抽出部5において抽出したい特定部位に応じて適宜決めればよい(特定部位の例については図3を参照して後述する)。なお、図2(a)(b)(c)中の一点鎖線で囲まれた空間Eは距離画像センサDSの検知対象エリアを模式的に示している。
距離画像センサDSは、検知対象エリア(対象空間)Eに光を照射する発光源2を備えるとともに、対象空間からの光を受光し受光光量を反映した出力値の電気出力が得られる光検出素子1を備える。対象空間に存在する物体Obまでの距離は、発光源2から対象空間に光が照射されてから物体Obでの反射光が光検出素子1に入射する(到達する)までの時間(「飛行時間」と呼ぶ)によって求める。ただし、飛行時間はナノ秒レベルの非常に短い時間であるから、対象空間に照射する光の強度が一定周期で周期的に変化するように変調した強度変調光を用い、強度変調光を受光したときの位相を用いて飛行時間を求める。
すなわち、図5(a)に示すように、発光源2から空間に放射する光の強度が曲線イのように変化し、光検出素子1で受光した受光光量が曲線ロのように変化するとすれば、位相差ψが飛行時間に相当するから、位相差ψを求めることにより物体Obまでの距離を求めることができる。また、位相差ψは、曲線イの複数のタイミングで求めた曲線ロの受光光量を用いて計算することができる。例えば、曲線イにおける位相が0度、90度、180度、270度のタイミングで求めた曲線ロの受光光量がそれぞれA0、A1、A2、A3であるとする(受光光量A0、A1、A2、A3を斜線部で示している)。ただし、各位相における受光光量A0、A1、A2、A3は、瞬時値ではなく所定の時間Twで積算した受光光量を用いる。いま、受光光量A0、A1、A2、A3を求める間に、位相差ψが変化せず(つまり、物体Obまでの距離が変化せず)、かつ物体Obの反射率にも変化がないものとする。また、発光源2から放射する光の強度を正弦波で変調し、時刻tにおいて光検出素子1で受光される光の強度がA・sin(ωt+δ)+Bで表されるものとする。ここに、Aは振幅、Bは外光成分、ωは角振動数、δは位相である。光検出素子1で受光する受光光量A0、A1、A2、A3を時間Twの積算値ではなく瞬時値とすれば、受光光量A0、A1、A2、A3は、次のように表すことができる。
A0=A・sin(δ)+B
A1=A・sin(π/2+δ)+B
A2=A・sin(π+δ)+B
A3=A・sin(3π/2+δ)+B
ここに、δ=−ψであるから、A0=−A・sin(ψ)+B、A1=A・cos(ψ)+B、A2=A・sin(ψ)+B、A3=−A・cos(ψ)+Bであり、結果的に、各受光光量A0、A1、A2、A3と位相差ψとの関係は、次式のようになる。
ψ=tan−1{(A2−A0)/(A1−A3)} …(式1)
式1では受光光量A0、A1、A2、A3の瞬時値を用いているが、受光光量A0、A1、A2、A3として時間Twにおける積算値を用いても式1で位相差ψを求めることができる。
上述のように対象空間に照射する光の強度を変調するために、発光源2としては、例えば多数個の発光ダイオードを一平面上に配列したものや半導体レーザと発散レンズとを組み合わせたものなどを用いる。また、発光源2は、制御回路部3から出力される所定の変調周波数である変調信号によって駆動され、発光源2から放射される光は変調信号により強度が変調される。制御回路部3では、例えば20MHzの正弦波で発光源2から放射する光の強度を変調する。なお、発光源2から放射する光の強度は正弦波で変調する以外に、三角波、鋸歯状波などで変調してもよく、要するに、一定周期で強度を変調するのであれば、どのような構成を採用してもよい。
光検出素子1は、規則的に配列された複数個の感光部11を備える。また、感光部11への光の入射経路には受光光学系8が配置される。感光部11は光検出素子1において対象空間からの光が受光光学系8を通して入射する部位であって、感光部11において受光光量に応じた量の電荷を生成する。また、感光部11は、平面格子の格子点上に配置され、例えば垂直方向(つまり、縦方向)と水平方向(つまり、横方向)とにそれぞれ等間隔で複数個ずつ並べたマトリクス状に配列される。
受光光学系8は、光検出素子1から対象空間を見るときの視線方向と各感光部11とを対応付ける。すなわち、受光光学系8を通して各感光部11に光が入射する範囲を、受光光学系8の中心を頂点とし各感光部11ごとに設定された頂角の小さい円錐状の視野とみなすことができる。したがって、発光源2から放射され対象空間に存在する物体Obで反射された反射光が感光部11に入射すれば、反射光を受光した感光部11の位置により、受光光学系8の光軸を基準方向として物体Obの存在する方向を知ることができる。
受光光学系8は一般に感光部11を配列した平面に光軸を直交させるように配置されるから、受光光学系8の中心を原点とし、感光部11を配列した平面の垂直方向と水平方向と受光光学系8の光軸とを3軸の方向とする直交座標系を設定すれば、対象空間に存在する物体Obの位置を球座標で表したときの角度(いわゆる方位角と仰角)が各感光部11に対応する。なお、受光光学系8は、感光部11を配列した平面に対して光軸が90度以外の角度で交差するように配置することも可能である。
本実施形態では、上述のように、物体Obまでの距離を求めるために、発光源2から対象空間に照射される光の強度変化に同期する4点のタイミングで受光光量A0、A1、A2、A3を求めている。したがって、目的の受光光量A0、A1、A2、A3を得るためのタイミングの制御が必要である。また、発光源2から対象空間に照射される光の強度変化の1周期において感光部11で発生する電荷の量は少ないから、複数周期に亘って電荷を集積することが望ましい。そこで、図1のように各感光部11で発生した電荷をそれぞれ集積する複数個の電荷集積部13を設けるとともに、各感光部11において利用できる電荷を生成する領域の面積を変化させることにより各感光部11の感度をそれぞれ調節する複数個の感度制御部12を設けている。
各感度制御部12では、感度制御部12に対応する感光部11の感度を上述した4点のうちのいずれかのタイミングで高め、感度が高められた感光部11では当該タイミングの受光光量A0、A1、A2、A3に対応する電荷を主として生成するから、当該受光光量A0、A1、A2、A3に対応する電荷を当該感光部11に対応する電荷集積部13に集積させることができる。
ところで、感度制御部12は感光部11において利用できる電荷を生成する領域の面積(実質的な受光面積)を変化させることにより各期間の電荷の生成量を変化させるものであるから、電荷集積部13に集積された電荷は必ずしも受光光量A0、A1、A2、A3
が得られる期間に生成された電荷だけではなく、他の期間に生成された電荷も混入することになる。いま、感度制御部12において、受光光量A0、A1、A2、A3に対応した電荷を生成する期間の感度をα、それ以外の期間の感度をβとし、感光部11は受光光量に比例する電荷を生成するものとする。この条件では、受光光量A0に対応した電荷を集積する電荷集積部13には、αA0+β(A1+A2+A3)+βAx(Axは受光光量A0、A1、A2、A3が得られる期間以外の受光光量)に比例する電荷が蓄積され、受光光量A2に対応した電荷を集積する電荷集積部13には、αA2+β(A0+A1+A3)+βAxに比例する電荷が蓄積される。上述したように、位相差ψを求める際には(A2−A0)を求めており、A2−A0=(α−β)(A2−A0)になり、同様にしてA1−A3=(α−β)(A1−A3)になるから、(A2−A0)/(A1−A3)は電荷の混入の有無によらず理論上は同じ値になるのであって、電荷が混入しても求める位相差ψは同じ値になる。
感光部11と感度制御部12と電荷集積部13とを備える光検出素子1は1つの半導体装置として構成され、光検出素子1には電荷集積部13に集積された電荷を半導体装置の外部に取り出すために電荷取出部14が設けられる。電荷取出部14はCCDイメージセンサにおける垂直転送部および水平転送部と同様の構成を有する。
上述したように各感光部11では受光光量に応じた量の電荷を生成するから、上述した各受光光量A0、A1、A2、A3は物体Obの明るさを反映している。つまり、受光光量A0、A1、A2、A3の加算値あるいは平均値は濃淡画像における濃度値に相当する。換言すれば、各感光部11での受光光量A0、A1、A2、A3から物体Obまでの距離を求めるほか、物体Obの濃度値も得ることが可能になる。しかも、同じ位置の感光部11を用いて物体Obの距離と濃度値とを求めるから、同じ位置について濃度値と距離との両方の情報を得ることが可能になる。
電荷取出部14から取り出された電荷は画像生成部4に画像信号として与えられ、画像生成部4において対象空間内の物体Obまでの距離が上述した式1を用いて受光光量A0、A1、A2、A3から算出される。すなわち、画像生成部4では各感光部11に対応した各方向における物体Obまでの距離が算出され、対象空間の三次元情報が算出される。この三次元情報を用いると、対象空間の各方向に一致する画素の画素値が距離値である距離画像を生成することができる。また、画像生成部4では各感光部11で得られた濃度値に基づいて対象空間の濃淡画像を生成する。すなわち、画像生成部4は濃淡画像と距離画像とを生成する。なお、濃淡画像は受光光量A0、A1、A2、A3の平均値を濃淡値に用いるようにすれば、発光源2からの光の影響を除去できる。
この構成によって、光検出素子1に設けた感光部11での受光光量A0、A1、A2、A3から対象空間の濃淡値と距離値とを求めることができ、ほぼ同時刻の濃淡画像と距離画像とを得ることができる。しかも濃淡画像と距離画像との各画素は対象空間の同じ方向の情報を持つから、濃淡画像と距離画像とから得られる情報を併せて用いることにより、濃淡画像のみを用いる場合よりも対象空間に関して多くの情報を得ることができる。
以下に光検出素子1の具体的構造例を説明する。図6に示す光検出素子1は、複数個(例えば、100×100個)の感光部11をマトリクス状に配列したものであって、1枚の半導体基板上に形成される。感光部11のうち垂直方向の各列では一体に連続する半導体層21を共用するとともに半導体層21を垂直方向への電荷(本実施形態では、電子を用いる)の転送経路として用い、さらに各列の半導体層21の一端から電荷を受け取って水平方向に電荷を転送するCCDである水平転送部Th(図7参照)を半導体基板に設ける構成を採用することができる。
すなわち、図7に示すように、半導体層21が感光部11と電荷の転送経路とに兼用された構造であって、フレーム・トランスファ(FT)方式のCCDイメージセンサと類似した構造になる。また、FT方式のCCDイメージセンサと同様に、感光部11を配列した撮像領域Daに隣接して遮光された蓄積領域Dbを設けてあり、蓄積領域Dbに蓄積した電荷を水平転送部Thに転送する。撮像領域Daから蓄積領域Dbへの電荷の転送は垂直ブランキング期間に一気に行い、水平転送部Thでは1水平期間に1水平ライン分の電荷を転送する。図1に示した電荷取出部14は、半導体層21における垂直方向への電荷の転送経路としての機能とともに水平転送部Thを含む機能を表している。ただし、電荷集積部13は蓄積領域Dbを意味するのではなく、撮像領域Daにおいて電荷を集積する機能を表している。言い換えると、蓄積領域Dbは電荷取出部14に含まれる。
半導体層21は不純物が添加してあり、半導体層21の主表面は酸化膜からなる絶縁膜22により覆われ、半導体層21に絶縁膜22を介して複数個の制御電極23を配置している。この光検出素子1はMIS素子として知られた構造であるが、1個の光検出素子1として機能する領域に複数個(図示例では5個)の制御電極23を備える点が通常のMIS素子とは異なる。絶縁膜22および制御電極23は発光源2から対象空間に照射される光と同波長の光が透過するように材料が選択され、絶縁膜22を通して半導体層21に光が入射すると、半導体層21の内部に電荷が生成される。図示例の半導体層21の導電形はn形であり、光の照射により生成される電荷として電子eを利用する。図6は1個の感光部11に対応する領域のみを示したものであり、半導体基板(図示せず)には上述したように図6の構造を持つ領域が複数個配列されるとともに電荷取出部14となる構造が設けられる。電荷取出部14として設ける垂直転送部は、図6の左右方向に電荷を転送することを想定しているが、図6の面に直交する方向に電荷を転送する構成を採用することも可能である。また、電荷を図6の左右方向に転送する場合には、制御電極23の左右方向の幅寸法を1μm程度に設定するのが望ましい。
この構造の光検出素子1では、制御電極23に正の制御電圧+Vを印加すると、半導体層21には制御電極23に対応する部位に電子eを集積するポテンシャル井戸(空乏層)24が形成される。つまり、半導体層21にポテンシャル井戸24を形成するように制御電極23に制御電圧を印加した状態で光が半導体層21に照射されると、ポテンシャル井戸24の近傍で生成された電子eの一部はポテンシャル井戸24に捕獲されてポテンシャル井戸24に集積され、残りの電子eは半導体層21の深部でのホールとの再結合により消滅する。また、ポテンシャル井戸24から離れた場所で生成された電子eも半導体層21の深部でのホールとの再結合により消滅する。
ポテンシャル井戸24は制御電圧を印加した制御電極23に対応する部位に形成されるから、制御電圧を印加する制御電極23の個数を変化させることによって、半導体層21の主表面に沿ったポテンシャル井戸24の面積(言い換えると、受光面において利用できる電荷を生成する領域の面積)を変化させることができる。つまり、制御電圧を印加する制御電極23の個数を変化させることは感度制御部12における感度の調節を意味する。例えば、図6(a)のように3個の制御電極23に制御電圧+Vを印加する場合と、図6(b)のように1個の制御電極23に制御電圧+Vを印加する場合とでは、ポテンシャル井戸24が受光面に占める面積が変化するのであって、図6(a)の状態のほうがポテンシャル井戸24の面積が大きいから、図6(b)の状態に比較して同光量に対して利用できる電荷の割合が多くなり、実質的に感光部11の感度を高めたことになる。このように、感光部11および感度制御部12は半導体層21と絶縁膜22と制御電極23とにより構成されていると言える。ポテンシャル井戸24は光照射により生成された電荷を保持するから電荷集積部13として機能する。
ポテンシャル井戸24から電荷を取り出すには、FT方式のCCDと同様の技術を採用
すればよく、ポテンシャル井戸24に電子eが集積された後に、電荷の集積時とは異なる印加パターンの制御電圧を制御電極23に印加することによってポテンシャル井戸24に集積された電子eを一方向(例えば、図6の右方向)に転送することができる。つまり、半導体層21をCCDの垂直転送部と同様に電荷の転送経路に用いることができる。さらに、電荷は図7に示した水平転送部Thを転送され、半導体基板に設けた図示しない電極から光検出素子1の外部に取り出される。要するに、制御電極23への制御電圧の印加パターンを制御することにより、各感光部11ごとの感度を制御するとともに、光照射により生成された電荷を集積し、さらに集積された電荷を転送することができる。
本実施形態における感度制御部12は、利用できる電荷を生成する領域の面積を大小2段階に切り換えることにより感光部11の感度を高低2段階に切り換えるのであって、受光光量A0、A1、A2、A3のいずれかに対応する電荷を感光部11で生成しようとする期間にのみ高感度とし(電荷を生成する領域の面積を大きくし)、他の期間には低感度にする。高感度にする期間と低感度にする期間とは、発光源2を駆動する変調信号に同期させて設定される。また、変調信号の複数周期に亘ってポテンシャル井戸24に電荷を集積した後に電荷取出部14を通して光検出素子1の外部に電荷を取り出すようにしている。変調信号の複数周期に亘って電荷を集積しているのは、変調信号の1周期内では感光部11が利用可能な電荷を生成する期間が短く(例えば、変調信号の周波数を20MHzとすれば50nsの4分の1以下)、生成される電荷が少ないからである。つまり、変調信号の複数周期分の電荷を集積することにより、信号電荷(発光源2から照射された光に対応する電荷)と雑音電荷(外光成分および光検出素子1の内部で発生するショットノイズに対応する電荷)との比を大きくとることができ、大きなSN比が得られる。
ところで、位相差ψを求めるのに必要な4種類の受光光量A0、A1、A2、A3に対応する電荷を1個の感光部11で生成するとすれば、視線方向に関する分解能は高くなるが、各受光光量A0、A1、A2、A3に対応する電荷を求める時間差が大きくなるという問題が生じる。一方、各受光光量A0、A1、A2、A3に対応する電荷を4個の感光部11でそれぞれ生成するとすれば、各受光光量A0、A1、A2、A3に対応する電荷を求める時間差は小さくなるが、4種類の電荷を求める視線方向にずれが生じ視線方向に関する分解能は低下する。そこで、本実施形態では、2個の感光部11を用いることにより、変調信号の1周期内で受光光量A0、A1、A2、A3に対応する電荷を2種類ずつ生成する構成を採用している。つまり、2個の感光部11を組にして用い、組になる2個の感光部11に同じ視線方向からの光が入射するようにしている。
上述の構成を採用することにより、視線方向の分解能を比較的高くし、かつ受光光量A0、A1、A2、A3に対応する電荷を生成する時間差を少なくすることができる。つまり、受光光量A0、A1、A2、A3に対応する電荷を生成する時間差を少なくしていることにより、対象空間の中で移動している物体Obについても距離の検出精度を比較的高く保つことができる。なお、本実施形態の構成では、1個の感光部11で4種類の受光光量A0、A1、A2、A3に対応する電荷を生成する場合よりも視線方向の分解能が低下するが、視線方向の分解能については感光部11の小型化や受光光学系8の設計によって向上させることが可能である。
以下に動作を具体的に説明する。図6に示した例では、1個の感光部11について5個の制御電極23を設けた例を示しているが、両側の2個の制御電極23は、感光部11で電荷(電子e)を生成している間に隣接する感光部11に電荷が流出するのを防止するためのポテンシャルの障壁を形成するものであって、2個の感光部11を組にして用いる場合には隣接する感光部11のポテンシャル井戸24の間には、いずれかの感光部11で障壁が形成されるから、各感光部11には3個ずつの制御電極23を設けるだけで足りることになる。この構成によって、感光部11の1個当たりの占有面積が小さくなり、2個の
感光部11を組にして用いながらも視線方向の分解能の低下を抑制することが可能になる。
ここでは、図8に示すように、組にした2個の感光部11にそれぞれ設けた3個ずつの制御電極23を区別するために各制御電極23に(1)〜(6)の数字を付す。(1)〜(6)の数字を付与した制御電極23を有する2個の感光部11は、1つの視線方向に対応しておりイメージセンサにおける画素を構成する。なお、1画素ずつの感光部11に対応付けて、それぞれオーバフロードレインを設けるのが望ましい。
図8(a)(b)はそれぞれ制御電極23に異なる印加パターンで制御電圧+Vを印加した状態(半導体基板に設けた図示しない基板電極と制御電極23との間に制御電圧+Vを印加した状態)を示しており、ポテンシャル井戸24の形状からわかるように、図8(a)では1画素となる2個の感光部11のうち制御電極(1)〜(3)に正の制御電圧+Vを印加するとともに、残りの制御電極(4)〜(6)のうちの中央の制御電極(5)に正の制御電圧+Vを印加している。また、図8(b)では制御電極(1)〜(3)のうちの中央の制御電極(2)に正の制御電圧+Vを印加するとともに、残りの制御電極(4)〜(6)に正の制御電圧+Vを印加している。つまり、1画素を構成する2個の感光部11に印加する制御電圧+Vの印加パターンを交互に入れ換えている。2個の感光部11に印加する制御電圧+Vの印加パターンを入れ換えるタイミングは、変調信号における逆位相の(位相が180度異なる)タイミングになる。なお、各感光部11に設けた3個の制御電極23に同時に制御電圧+Vを印加している期間以外は、各感光部11に設けた中央部の1個の制御電極23(つまり、制御電極(2)(5))にのみ制御電圧+Vを印加し、他の制御電極23は0Vに保つ状態とする。
例えば、1画素を構成する2個の感光部11において受光光量A0、A2に対応する電荷を交互に生成する場合は、図5のように、一方の感光部11で受光光量A0に対応する電荷を生成するために3個の制御電極(1)〜(3)に制御電圧+Vを印加している間に、他方の感光部11では受光光量A2に対応する電荷を保持するために1個の制御電極(5)にのみ制御電圧+Vを印加する。同様にして、一方の感光部11で受光光量A2に対応する電荷を生成するために3個の制御電極(4)〜(6)に制御電圧+Vを印加している間には、他方の感光部11では受光光量A0に対応する電荷を保持するために1個の制御電極(2)にのみ制御電圧+Vを印加する。また、受光光量A0、A2に対応する電荷を生成する期間以外では制御電極(2)(5)にのみ制御電圧+Vを印加する。図5(b)(c)に受光光量A0、A2に対応する電荷を蓄積する際の各制御電極(1)〜(6)に対する制御電圧+Vの印加のタイミングを示す。図5(b)(c)において斜線部が制御電圧+Vを印加している状態を示し、空白部が制御電極(1)〜(6)に電圧を印加していない状態を示している。
1画素を構成する2個の感光部11において受光光量A1、A3に対応する電荷を生成する場合も同様であって、受光光量A0、A2に対応する電荷を生成する場合とは制御電極23に制御電圧+Vを印加するタイミングが、変調信号の位相における90度異なる点が相違するだけである。また、受光光量A0、A1に対応する電荷を生成する期間と、受光光量A1、A3に対応する電荷を生成する期間との間で撮像領域Daから蓄積領域Dbに電荷を転送する。つまり、受光光量A0に対応する電荷が制御電極(1)〜(3)に対応するポテンシャル井戸24に蓄積されるとともに、受光光量A2に対応する電荷が制御電極(4)〜(6)に対応するポテンシャル井戸24に蓄積されると、これらの受光光量A0、A2に対応する電荷を外部に取り出す。次に、受光光量A1に対応する電荷が制御電極(1)〜(3)に対応するポテンシャル井戸24に蓄積されるとともに、受光光量A3に対応する電荷が制御電極(4)〜(6)に対応するポテンシャル井戸24に蓄積されると、これらの受光光量A1、A3に対応する電荷を外部に取り出す。このような動作を
繰り返すことによって、4区間の受光光量A0、A1、A2、A3に対応する電荷を2回の読出動作で光出力素子1の外部に取り出すことができ、取り出した電荷を用いて位相差ψを求めることが可能になる。なお、例えば30フレーム毎秒の画像を得るためには、受光光量A0、A2に対応する電荷を生成する期間と受光光量A1、A3に対応する電荷を生成する期間とは60分の1秒よりも短い期間とする。
上述の例では3個の制御電極23((1)〜(3)または(4)〜(6))に同時に印加する制御電圧と、1個の制御電極23((2)または(5))にのみ印加する制御電圧とを等しくしているから、ポテンシャル井戸24の面積は変化するもののポテンシャル井戸24の深さは等しくなっている。この場合、制御電圧を印加していない制御電極23((1)(3)または(4)(6))において生成された電荷は、同程度の確率でポテンシャル井戸24に流れ込む。つまり、感光部11を構成する3個の制御電極23のうちの1個にのみ制御電圧+Vを印加することによって電荷集積部13として機能している領域と、3個の制御電極23のすべてに制御電圧+Vを印加している領域との両方に同程度の量の電荷が流れ込む。つまり、電荷を保持しているポテンシャル井戸24に流れ込む雑音成分が比較的多いものであるから、ダイナミックレンジを低下させる原因になる。
そこで、図9のように、小面積のポテンシャル井戸24の深さを大面積のポテンシャル井戸24の深さよりも小さく設定するのが望ましく、組になる2個の感光部11に設けた各3個の制御電極(1)〜(3)または(4)〜(6)に同時に印加する制御電圧が、1個の制御電極(2)または(5)にのみ印加する制御電圧よりも高くなるように設定するのが望ましい。このように、主として電荷(電子e)を生成しているポテンシャル井戸24を、主として電荷の保持を行っているポテンシャル井戸24よりも深くすることにより、制御電圧を印加していない制御電極(1)(3)または(4)(6)に対応する部位で生じた電荷は、深いほうのポテンシャル井戸24に流れ込みやすくなる。つまり、制御電極23に一定の制御電圧+Vを印加する場合に比較すると、電荷を保持するポテンシャル井戸24に流れ込む雑音成分を低減することができる。
なお、上述した距離画像センサDSの構成例では、受光光量A0、A1、A2、A3に対応する4期間を変調信号の1周期内で位相の間隔が90度ずつになるように設定しているが、変調信号に対する位相が既知であれば4期間は90度以外の適宜の間隔で設定することが可能である。ただし、間隔が異なれば位相差ψを求める算式は異なる。また、4期間の受光光量に対応した電荷を取り出す周期は、物体Obの反射率および外光成分が変化せず、かつ位相差ψも変化しない時間内であれば、変調信号の1周期内で4個の信号電荷を取り出すことも必須ではない。さらに、太陽光や照明光のような外乱光の影響があるときには、発光源2から放射される光の波長のみを透過させる光学フィルタを感光部11の前に配置するのが望ましい。図8、図9を用いて説明した構成例では、感光部11ごとに3個ずつの制御電極23を対応付けているが、制御電極23を4個以上設けるようにしてもよい。また、上述の例ではFT方式のCCDイメージセンサと同様の構成を採用しているが、インターライン・トランスファ(IT)方式、フレーム・インターライン・トランスファ(FIT)方式と同様の構成を採用することも可能である。
次に、上述した距離画像センサDSで生成された距離画像に基づいて検知対象エリアに存在する人の特定部位を抽出する特定部位抽出部5について説明する。ここでは、距離画像を生成する際の光検出素子1への外光成分の入射を低減するために、発光源2から赤外線を対象空間に照射し、光検出素子1の前方に赤外線透過フィルタを配置しているものとする。したがって、濃淡画像は赤外線に対する濃淡画像になる。
本実施形態のジェスチャースイッチでは、図1に示すように、距離画像センサDSの画像生成部4で生成された距離画像は特定部位抽出部5に与えられ、特定部位抽出部5では
、距離画像に基づいて検知対象エリアに存在する人の特定部位が抽出され、ジェスチャー認識部6では、特定部位抽出部5から出力されるデータに基づいて特定空間(ここにおいて、特定空間は、検知対象エリアと同じ空間、つまり、距離画像の全範囲として規定してもよいし、検知対象エリア内の一部の空間、つまり、距離画像の一部の小領域として規定してもよい)内での所定のジェスチャーが認識される。要するに、本実施形態のジェスチャースイッチでは、検知対象エリアEに存在する物体Obまでの距離値を画素値とする距離画像を連続的に生成する1つの距離画像センサDSで生成された距離画像に基づいて検知対象エリアEに存在する人の特定部位が特定部位抽出部5にて連続的に抽出され、ジェスチャー認識部6において特定部位抽出部5から出力されるデータに基づいて特定空間内での人の所定のジェスチャーが認識されるので、制御対象機器や制御対象機器の制御用のスイッチなどを設置場所へ行って触れる必要がなくて、しかも、人が何も装着する必要がなくて使い勝手が良く、且つ、検知対象エリアEの背景に影響されずに人の特定部位を抽出することが可能となる。
上述のように距離画像センサDSの画像生成部4で生成された距離画像は距離画像センサDSから物体Obまでの距離値を画素値とするものであり、特定部位抽出部5では、距離画像から人の特定部位を抽出するにあたって、距離画像毎に最小の距離値に所定値を加算した値を閾値として距離画像を2値化し、閾値以下となる領域を特定部位として抽出するようになっている。したがって、所定値を適宜設定することにより、例えば、距離画像センサDSへ手をかざして手首よりも先の部分でジェスチャーを行うようにして使用する場合、人の手の手首よりも先の部分を特定部位として容易に抽出することが可能となる。この場合、距離画像センサDSから特定部位抽出部5へ図3(a)に示すような距離画像(距離画像データ)が与えられたとすると、特定部位抽出部5では図3(b)に示すような2値化画像が得られ(距離画像において距離値が閾値以下の画素では2値化画像の画素を白とし、距離画像において距離値が閾値よりも大きな画素では2値化画像の画素を黒としてある)、このような2値化画像から白領域Wを特定部位(手の手首よりも先の部分)として抽出する。図3(a)の距離画像は、距離値に応じて画素の色を4段階に変化させた例を示しており、画像生成部4において基準距離値としてL1、L2、L3、L4、L5(L1<L2<L3<L4<L5)を設定し、距離値が基準距離値L1以下の画素からなる領域をF1、距離値が基準距離値L1よりも大きく基準距離値L2以下の画素からなる領域をF2、距離値が基準距離値L2よりも大きく基準距離値L3以下の画素からなる領域をF3、距離値が基準距離値L3よりも大きく基準距離値L4以下の画素からなる領域をF4、距離値が基準距離値L4よりも大きな画素からなる領域をF5とすれば、領域F1が白色、領域F5が黒色、領域F2が白色に近い灰色、領域F4が黒に近い灰色、領域F3が領域F2と領域F4との中間的な灰色となるような距離画像を生成している(なお、図3(a)中の点Pは距離値が最小となる画素の位置を示している)。一方、図3(b)の2値化画像は、人の手の手首よりも先の部分が白領域Wとなるように上記所定値を設定してあるときの2値化画像を示している。
ところで、特定部位抽出部5において距離画像から人の特定部位を抽出する方法は上述の例に限らず、例えば、距離画像を所定の閾値で2値化し、閾値以下となる領域を人体の輪郭として抽出するようすれば、閾値を適宜設定することにより、例えば、人の全身や上半身などを上記特定部位として抽出することが可能となり、人の全身や上半身を使ったジェスチャーの認識が可能となる。また、特定部位抽出部5が、距離画像において最小の距離値となる画素の周囲領域に関して閾値以下となる画素の数が一定値となるように上記閾値を調整して上記距離画像を上記閾値で2値化し、上記閾値以下となる領域を特定部位として抽出するようにすれば、例えば、距離画像センサDSへ手をかざして手首よりも先の部分でジェスチャーを行うようにして使用する場合、人の手の手首よりも先の部分を特定部位として安定して抽出することが可能となる。この場合の特定部位抽出部5では、以下の流れ(a)〜(e)で閾値が調整される。
(a)距離画像から距離値が最小値となる画素を探し基準画素とする処理を行う。
(b)閾値の初期値を上記最小値とする処理を行う。
(c)上記距離画像において上記基準画素の周辺領域で距離値が閾値以下となる画素の画素数を調べる処理を行う。
(d)画素数が所定の一定値以下の場合には、閾値に値1を加算して(c)の処理に戻り、一定値を超えている場合には、次の処理へ移行する。
(e)画素数>上記一定値となる直前の閾値を最終的な閾値として決定する。
また、特定部位抽出部5が距離画像における特定の入力判定領域についてのみ2値化を行って上記閾値との比較結果に基づいて上記特定部位の抽出を行うようにすれば、距離画像における全画素について2値化を行う場合に比べて、特定部位抽出部5の処理速度の高速化を図れる。
ジェスチャー認識部6では、例えば、特定部位抽出部5において抽出された特定部位に関する形状(情報)の時系列データに基づいてジェスチャーを認識する。この場合、ジェスチャー認識部6において、ジェスチャーを認識するにあたっては、例えば、図4に示すような特定部位の形状における手の5本の指の3D重心O1〜O5および手のひらの3D重心O6を特徴量として特徴量の時系列データをHMM(Hidden Markov Model)により学習してジェスチャーを認識するようにすれば、距離画像センサDSへ手をかざして手首よりも先の部分でジェスチャーを行うようにして使用するにあたって、ジェスチャー認識部6におけるジェスチャーの認識性能(ジェスチャー認識の精度)を向上させることができる。なお、上述の特徴量としては、指の3D重心に限らず、指の傾きや、指の数などを特徴量として規定してもよい。また、ジェスチャーの認識方法も上述の方法以外の周知の方法を採用してもよく、特定部位抽出部5において抽出された特定部位に関する形状の時系列データに基づいてジェスチャーを認識するにあたって、例えば、指の数が時間経過とともに1本→2本→3本と変化した場合(つまり、特定部位の形状が時系列的に変化した場合)に所定のジェスチャーが行われたと認識するようにしてもよいし、また、所定の形状(例えば、一般的に片手でじゃんけんをするときの「ぐう」、「ちょき」、「ぱあ」などの形状)が規定時間以上継続された場合に所定のジェスチャーが行われたと認識するようにし、且つ、所定の形状が上記規定時間未満しか継続されない場合にはジェスチャーとは認識しないようにしてもよい。ここで、上記規定時間を適宜設定しておけば、制御対象機器の制御を意図していない手の動きがジェスチャーとして認識されて制御対象機器へ制御出力が与えられるのを防止することができる。
制御部7は、ジェスチャーと制御出力とをあらかじめ対応付けたテーブルを記憶したメモリ(図示せず)を備えており、ジェスチャー認識部6にて認識されたジェスチャーに対応する制御出力を制御対象機器へ与えるようになっている。ここにおいて、図10(a)に示すように、距離画像センサDSの検知対象エリアE内に所定のジェスチャーによる入力を受けつけるための空間として2つの入力空間(ここでは、上述の特定空間)G1,G2を設定しておき、人Mが入力空間G2近傍で所定のジェスチャーを行った場合、制御部7が、図10(b)に示すように距離画像において入力空間G2に対応する入力領域H2(図示例では、入力空間G1に対応する入力領域H1は黒領域となっている)の画素数に対する特定部位の画素(閾値以下となる領域であって白領域Wとなっている)の画素数の割合が規定値を超えているときに上記制御出力を制御対象機器へ与えるようにすれば、上記特定空間以外の空間での人の制御対象機器の制御を意図しない動きがジェスチャーとして認識されても制御対象機器へ制御出力が与えられるのを防止することができる。人Mが入力空間G1の近傍でジェスチャーを行った場合も同様であるから、入力空間G1,G2とを互いに異なる制御対象機器へ割り当てることも可能となる。また、図11に示すように、距離画像センサDSの検知対象エリアE内に所定のジェスチャーによる入力を受けつけるための空間である1つの入力空間(ここでは、特定空間)Gを設定しておき、人Mが
入力空間G近傍でジェスチャーを行った場合にも、制御部7が、距離画像において入力空間Gに対応する入力領域の画素数に対する特定部位の画素数の割合が規定値を超えているときに上記制御出力を制御対象機器へ与えるようにすれば、上記特定空間以外の空間での人の制御対象機器の制御を意図しない動きがジェスチャーとして認識されても制御対象機器へ制御出力が与えられるのを防止することができる。
なお、図12(a)に示すように距離画像センサDSの検知対象エリアEが設定される部屋Rに、図12(b)に示すように仮想の立体空間にあるマニプレータ50を画面に表示する表示装置Uを設け、人Mの手Hを特定部位として特定部位抽出部5により抽出し、表示装置Uの画面上に上記マニプレータ50を操作する仮想の手H’を表示させて人Mの手Hの動きに仮想の手H’の動きを同調させるようにしてもよい(図12(a)(b)中の矢印はそれぞれ手H,H’の動く方向を示している)。要するに、特定部位抽出部5により抽出された手Hの動きを、仮想空間の制御対象機器の操作の動きとして利用してもよい。
(実施形態2)
本実施形態のジェスチャースイッチの基本構成は実施形態1と略同じであって、感度制御部12の具体的な構成において、電荷集積部13に与える電荷の割合を調節する技術として、感光部11から電荷集積部13への通過率を調節する技術と、感光部11から電荷を廃棄する廃棄率を調節する技術との両方の技術を用いている点が相違する。他の構成は実施形態1と同じなので図示および説明を省略する。
感度制御部12において通過率と廃棄率とを調節する技術では、図13に示すように、感光部11と電荷集積部13との間にゲート電極12aを設け、ゲート電極12aに印加する通過電圧を変化させることにより、感光部11から電荷集積部13への電荷の移動(つまり、通過率)を制御する。また、電荷廃棄部12cを設け、電荷廃棄部12cに付設した廃棄電極12bに印加する廃棄電圧を変化させることにより、感光部11から電荷廃棄部12cへの電荷の移動(つまり、廃棄率)を制御する。電荷集積部13は感光部11ごとに一対一に対応するように設けられ、電荷廃棄部12cは複数個の感光部11に共通させて一対多に対応するように設けられる。図示例では、光検出素子1のすべての感光部11で1組の廃棄電極12bおよび電荷廃棄部12cを共用している。
感度を制御するために、感光部11からの電荷の廃棄を行わずに感光部11から電荷集積部13への通過率の制御のみを行うことが考えられるが、電荷の廃棄を行わなければ感光部11において電荷が暫時残留するから、感光部11で生成された電荷のうち不要な残留電荷が、利用する電荷(以下、信号電荷という)に雑音成分として混入する。したがって、信号電荷への残留電荷の混入を防止するために、ゲート電極12aに印加する通過電圧だけでなく廃棄電極12bに印加する廃棄電圧を制御する。なお、電荷集積部13には発光源2から空間に照射される光の変調信号の複数周期(数万〜数十万周期)において変調信号に同期する特定の区間の受光光量A0,A1,A2,A3に相当する電荷を集積し、各区間の電荷の集積毎に集積した信号電荷を取り出して次の区間の電荷を集積する。ここで、電荷集積部13に得られた信号電荷は実施形態1と同様に電荷取出部14(図1参照)により取り出される。
図13に示した感度制御部12を備える光検出素子1は、オーバーフロードレインを備えたCCDイメージセンサにより実現することができ、CCDイメージセンサにおける電荷の転送方式としてはインターライントランスファ(IT)方式を採用している。
図14に縦型オーバーフロードレインを備えるインターライントランスファ方式のCCDイメージセンサの構成を示す。図示例は、感光部11となるフォトダイオード41を水
平方向と垂直方向とに複数個ずつ(図では3×4個)配列した2次元イメージセンサであって、垂直方向に配列したフォトダイオード41の各列の右側方にCCDからなる垂直転送レジスタ42を備え、フォトダイオード41および垂直転送レジスタ42が配列された領域の下方にCCDからなる水平転送レジスタ43を備える。垂直転送レジスタ42は各フォトダイオード41ごとに2個ずつの転送電極42a,42bを備え、水平転送レジスタ43は各垂直転送レジスタ42ごとに2個ずつの転送電極43a,43bを備える。
フォトダイオード41と垂直転送レジスタ42と水平転送レジスタ43とは1枚の半導体基板40上に形成され、半導体基板40の主表面には、フォトダイオード41と垂直転送レジスタ42と水平転送レジスタ43との全体を囲む形でアルミニウム電極であるオーバーフロー電極44が、半導体基板40の全周に亘って絶縁膜を介さずに半導体基板40に直接接触するように設けられる。オーバーフロー電極44に半導体基板40に対して正極性になる適宜の廃棄電圧を印加すればフォトダイオード41で生成された電子(電荷)はオーバーフロー電極44を通して廃棄される。オーバーフロー電極44は、感光部11であるフォトダイオード41において生成した電荷のうち不要電荷を廃棄する際に廃棄電圧が印加されるから廃棄電極12bとして機能し、オーバーフロー電極44に廃棄電圧を印加する電源が感光部11で生成された電子(電荷)を廃棄する電荷廃棄部12cとして機能する。半導体基板40の表面はフォトダイオード41に対応する部位を除いて遮光膜46(図15参照)により覆われる。
図14に示したCCDイメージセンサについて、1個のフォトダイオード41に関連する部分を切り出して図15に示す。半導体基板40にはn形半導体を用い、半導体基板40の主表面にはフォトダイオード41と垂直転送レジスタ42とに跨る領域にp形半導体からなるウェル領域31を形成している。ウェル領域31は、フォトダイオード41に対応する領域に比較して垂直転送レジスタ42に対応する領域の厚み寸法が大きくなるように形成してある。ウェル領域31のうちフォトダイオード41に対応する領域にはn+形半導体層32を重ねて設けてあり、ウェル領域31とn+形半導体層32とのpn接合によってフォトダイオード41が形成される。フォトダイオード41の表面にはp+形半導体からなる表面層33を積層してある。表面層33はフォトダイオード41で生成された電荷を垂直転送レジスタ42に移動させる際に、n+形半導体層32の表面付近が電荷の通過経路にならないように制御する目的で設けてある。このような構造は、埋込フォトダイオードとして知られている。
ウェル領域31のうち垂直転送レジスタ42に対応する領域にはn形半導体からなる蓄積転送層34を重ねて設けてある。蓄積転送層34の表面と表面層33の表面とは略同一平面であって、蓄積転送層34の厚み寸法は表面層33の厚み寸法よりも大きくしてある。蓄積転送層34は、表面層33とは接触しているが、n+形半導体層32との間には、表面層33と不純物濃度が等しいp+形半導体からなる分離層35が介在する。蓄積転送層34の表面には、絶縁膜45を介して転送電極42a,42bが配置される。転送電極42a,42bは1個のフォトダイオード41に対して2個ずつ設けられ、垂直方向において2個の転送電極42a,42bのうちの一方は他方よりも広幅に形成される。具体的には、図16のように、1個のフォトダイオード41に対応する2個の転送電極42a,42bのうち狭幅の転送電極42bは平板状に形成されており、広幅の転送電極42aは、幅狭の転送電極42bと同一平面上に配列され一対の転送電極42bの間に配置される平板状の部分と、平板状の部分の垂直方向(図16の左右方向)における両端部からそれぞれ延長され転送電極42bの上に重複する湾曲した部分とを備える。ここに、絶縁膜45はSiO2により形成され、また転送電極42a,42bはポリシリコンにより形成され、各転送電極42a,42bは絶縁膜45を介して互いに絶縁されている。さらに、フォトダイオード41に光を入射させる部位を除いて光検出素子1の表面は遮光膜46により覆われる。ウェル領域31において垂直転送レジスタ42に対応する領域および蓄積転
送層34は垂直転送レジスタ42の全長に亘って形成され、したがって、蓄積転送層34には広幅の転送電極42aと狭幅の転送電極42bとが交互に配列される。
上述した光検出素子1では、フォトダイオード41が感光部11に相当し、転送電極42aがゲート電極12aに相当し、オーバーフロー電極44が廃棄電極12bに相当し、垂直転送レジスタ42が電荷集積部13および電荷取出部14の一部として機能する。また、水平転送レジスタ43も電荷取出部14の一部になる。すなわち、フォトダイオード41に光が入射すれば電荷が生成され、フォトダイオード41で生成された電荷のうち垂直転送レジスタ42に信号電荷として引き渡される電荷の割合は転送電極42aに印加する通過電圧とオーバーフロー電極44に印加する廃棄電圧との関係によって決めることができる。転送電極42aに通過電圧を印加すると蓄積転送層34にポテンシャル井戸が形成され、通過電圧の制御によりポテンシャル井戸の深さを制御することができる。したがって、ポテンシャル井戸の深さおよび通過電圧を印加する時間とを制御すれば、フォトダイオード41から垂直転送レジスタ42に引き渡される電荷の割合を調節することができる。また、オーバーフロー電極44に印加する廃棄電圧を制御すれば、フォトダイオード41と半導体基板40との間の電位勾配を制御することができるから、電位勾配と廃棄電圧を印加する時間とを制御すれば、垂直転送レジスタ42に引き渡される電荷の割合を調節することができる。
フォトダイオード41から垂直転送レジスタ42に引き渡された信号電荷は、上述した4区間の受光光量A0,A1,A2,A3のうちの各1区間の受光光量A0,A1,A2,A3に相当する信号電荷が集積されるたびに読み出される。例えば、受光光量A0に相当する信号電荷が各フォトダイオード41に対応して形成されるポテンシャル井戸に集積されると信号電荷を読み出し、次に受光光量A1に相当する信号電荷がポテンシャル井戸に集積されると再び信号電荷を読み出すという動作を繰り返す。