JP3785148B2 - 画像抽出装置 - Google Patents
画像抽出装置 Download PDFInfo
- Publication number
- JP3785148B2 JP3785148B2 JP2003032768A JP2003032768A JP3785148B2 JP 3785148 B2 JP3785148 B2 JP 3785148B2 JP 2003032768 A JP2003032768 A JP 2003032768A JP 2003032768 A JP2003032768 A JP 2003032768A JP 3785148 B2 JP3785148 B2 JP 3785148B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- image
- reflected light
- target object
- reflected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Input (AREA)
- User Interface Of Digital Computer (AREA)
Description
【発明の属する技術分野】
本発明は注目すべき対象物体を発光手段により照明して得た像と、照明しない像とを撮影し、両画像の差の画像を求めてこれより当該対象物体を抽出する画像抽出装置に関するものである。
【0002】
【従来の技術】
コンピュータへの入力デバイスとしては種々のものがあるが、その中でもマウスはキーボードと並んで最もポピュラーな入力デバイスの一つとして広く使用されている。しかしながら、マウスで操作できることは、カーソルの移動と、メニューの選択などであり、あくまでも2次元のポインティングデバイスとしての役目を担うに過ぎない。つまり、マウスで扱えるのは、せいぜい2次元の情報であり、3次元空間のなかの物体など奥行きがあるものを選択することは難しい。そして、例えば、コンピュータでアニメーションを作成する場合を考えてみると、キャラクタの動きをつけるのに、マウスのような入力デバイスによる操作情報の入力操作では、自然な動きをつけることが難しい。
【0003】
また、マルチモーダルの分野で、ゼスチャー、すなわち、手の仕草や体の動き、そして、姿勢などを操作情報として入力することで、音声やキーボード、そして、マウスやトラックボールなどの入力情報と相補い合って人間の自然なコミュニケーションに近い形で装置を扱えるようにしたいという要望もある。
【0004】
そこで、近年、3次元空間でのポインティングの難点を補い、また、マルチモーダル分野などにおいて多様な入力操作を可能にする技術の一つとして、人間の自然なゼスチャーを認識できるようにする3次元ポインティングデバイスが開発されている。
【0005】
例えば、図25のような提案である。このデバイスは、本体中央にボール状操作部があり、また、周辺部にテンキーを備えて構成したものであって、ボール状操作部部分の“前方を押す”、“中央を押す”、“後方を押す”、ボール状操作部部分の“全体を持ち上げる”、“全体を右に回す”、“左に回す”というように、6通りの操作が可能であり、6自由度ある。
【0006】
そして、この6自由度を割り振ることで、3次元空間内のカーソルの位置(x.y,z)と向き(x軸,y軸,z軸)制御したり、あるいは、3次元空間に対する視点位置(x,y,z)と向き(x軸,y軸,z軸)を制御できる。
【0007】
しかし、この3次元ポイティングデバイスはかなりの熟練が必要であって、実際に操作してみると、カーソルや視点の制御が思うようにはできないという問題がある。例えば、左右に回そうとすると、前方あるいは後方を押してしまい、思わぬ方向にカーソルが動いたり、視点が動いたりしてしまうといった具合である。
【0008】
このような3次元ポインティングデバイスに対して、手振りや身ぶりを使って入力するデバイスも開発されている。データグローブやデータスーツ、サイバーグローブと呼ばれるものである。これらのうち、例えば、データグローブは手袋状のデバイスであって、表面に光ファイバが走つている。この光ファイバは、指の関節まで通っており、指を曲げることにより、光の導通が変わることを利用している。そして、この光の導通量を計測することで、各指の関節がどの程度曲がっているかを知るようにするものである。
【0009】
手自体の3次元空間内の位置は、手の甲に設けた磁気センサによって計測するようになっている。そのため、人差し指をたてれば、「前進する」といった具合に、身ぶりとそれに対応する指示を決めておけば、データグローブを使って、3次元空間内を種々に視点を変えて、ちょうど、歩き回るかのように(ウォークスルーという)操作することができる。
【0010】
しかし、このような3次元ポインティングデバイスにも問題点がいくつかある。
第1には、価格が高価であり、家庭用などに使用することは難しいという点である。
【0011】
また、第2には、指の関節の角度を計測しているので、誤認識が避けられないという点である。例えば、人差し指だけ伸ばし、他の指は曲げた状態を前進指示と定義したとする。実際に指を伸ばすといっても、人差し指の第2関節の角度が180度に完全になっていることは少ないので、遊び分を設定しておかないと、指を伸ばしきったとき以外は、「伸ばしている」と認識することができない。
【0012】
また、操作者にはデータグローブを装着することになるので、自然な操作が阻害され、装着するたびに、手の開いた状態と閉じた状態において、光の導通状態を校正せねばならないので、手軽に使用することができない。また、光ファイバを使っているため、継続的に使用していると、ファイバが断絶するなど消耗品に近いという問題がある。
【0013】
また、このように、高価で、手間がかかるデバイスである割には、手袋の大きさが、ぴったり合っていないと、使っているうちにずれたりして校正した値からずれるために、細かな手振りを認識することは難しいという問題もある。
【0014】
このように、種々の問題を抱えているために、データグローブは、VR(バーチャルリアリティ)技術のトリガーとなったデバイスであったにもかかわらず、当初の期待ほど、普及しておらず、また、低価格化もなされておらず、使い勝手の点で問題が多い。
【0015】
そこで、このデータグローブのような特殊な装置を装着することなく、手振りや身ぶりを入力しようとする試みが、いくつかなされている。例えば、ビデオ映像などの動画像を解析して、手の形を認識するといった技術である。しかし、これは背景画像から目的とする画像を切り出す技術が必要であり、従って、手振りの認識の場合には、手のみを切り出すことが必要であって、これが技術的にかなり難しいという問題がある。
【0016】
例えば、画像中の手の部分を、色情報を条件に切り出す場合を考えてみる。手の色は肌色であるので、肌色の画像情報を持つ画素部分のみを切り出すような方式が考えられるが、背景にベージュ色の洋服や、壁があったりすると、手の部分に相当する肌色の画素のみを識別することはできない。また、調整を行って、ベージュと肌色を区別できるようにしても、照明が変われば、色調が変化してしまうために、定常的に切り出すことは困難である。
【0017】
このような問題を回避するために、背景にブルーマットをおくというように、背景画像に制限を置き、切り出しを容易にする方策も採られている。あるいは、指先に背景からの切り出しが容易になるような色をつける、あるいは色のついた指輪をはめるというような方策も採られている。しかし、このような制限は現実的でなく、実験的には利用されているものの、実用化には至っていない。
【0018】
ところで、手の仕草を認識するに利用可能な別の技術として、レンジファインダと呼ばれる、距離画像を入力する装置の応用が考えられる。このレジンジファインダの代表的な原理は、スポット光あるいはスリット光を対象物体に照射し、その反射光の受光位置から三角測量の原理で求めるといったものである。
【0019】
そして、2次元的な距離情報を求めるために、スポット光あるいはスリット光を機械的に走査している。この装置は非常に高精度な距離画像を生成することができるが、その反面、装置の構成が大掛かりになり、高コストになる。また入力に時間がかかり、実時間で処埋を行わせるのは困難である。また、手や身体の一部に色マーカーや発光部を取り付け、画像によりそれらを検出し、手・身体の形、動きなどを捉える装置もあり、一部実用化されている。しかし使用者の利便性を考えると、操作の度に装置を装着しなくてはならないというのは大きなデメリットであり、応用範囲を非常に制約する。また、データグローブの例に見られるように、装置を手などの可動部に装着して使用する装置は耐久性が問題になりやすい。
【0020】
次に、以上のような入力デバイスとは別に、カメラ技術の従来技術についての問題点を述べる。従来のカメラ技術では、背景に対して、キャラクタの合成(クロマキー)を行うには、予め、ブルーバックでキャラクタを撮影して、キャラクタの切り出しを容易にする必要があった。
【0021】
このため、ブルーバックで撮影ができるスタジオなど、撮影場所に制限があった。または、ブルーバックでない状態で撮影した映像から、キャラクタを切り出すには、コマ毎にキャラクタの切り出し範囲を人手で編集せねばならないので、非常な手間がかかっていた。同様に、キャラクタを3次元空間の中に生成するには、予め3次元のモデルをつくっておき、そこにキャラクタの写真を貼り付ける(テクスチャマッピング)を行うような方式をとっている。しかし、3次元モデルの生成、および、テクスチャマッピングには手間がかかり、映画制作など経費がかかってもよい用途以外では、事実上ほとんど使えなかった。
【0022】
【発明が解決しようとする課題】
このように従来では、特殊な装置を装着することなく、簡易にジェスチャや動きを入力できる直接指示型の入カデバイスが存在しなかった。特に、3次元空間でのポインティングや視点の変更を容易に行える簡易なデバイスは存在しなかった。また、ユーザのジェスチャや動きをそのまま使って、アニメーションのキャラクタなどに自然な動きをつけたりすることができなかった。さらに、従来のカメラでは、特定のキャラクタだけを切り出したり、キャラクタの奥行き情報を容易に入力できなかった。
【0023】
このような背景から、本発明者等は所定時間だけ照明光を対象物体に照射して得た画像と、外光のみの光があたる環境下で得た対象物体の画像との差の成分の画像を得、この差の成分の画像から対象物体のみの画像を抽出する技術を開発し、更に、この抽出した対象物体のみの画像を元に、その形状、動き、距離情報などを算出し、これらを情報として利用することで仕草や、3次元操作情報などを簡易に与えることができるようにした技術を開発し、特許出願した(特願平8−275949号参照)。
【0024】
この技術の考え方は、照明光を対象物体に照射して得た画像と、外光のみの光があたる環境下で得た対象物体の画像との差の成分の画像を得ると、背景などが遠い場合、それは対象物体のみの画像成分となることに着目して、対象物体部分の画像切り出しを簡易に行えるようにしたこと、つまり、物体が存在している場所からの反射光はある程度の値を持ち、遠い背景からの反射光はほとんど無いため、反射光の画像をしきい値で分けることにより、物体の形状を抽出することが出来ること、また、その形状から様々な特徴量を抽出することが出来ること、そして、このような形状の時間的連なりを解析することで、物体の動きや変形などを捉えることが出来ること、さらには物体の凹凸を反射光量の違いとして捉えられるため、対象物体の立体構造を得ることも出来るなどのことから、対象物体の切り出しが容易にできれば、その対象物体の様々な情報を演算で求めることができる。
そのため、仕草を操作指令情報として与えたり、3次元操作情報を身振り手振りで入力するなどのことが容易に実現できるようになる。
【0025】
しかしながら、ここで解決しておかなければならない問題が一つある。それは、外光の変動による対象物体の切り出し精度への影響である。外光は自然光であったり、室内照明光であったり、環境により様々である。しかも、これらは、安定したものであれば問題がないが、緩やかな変化を伴う場合、あるいは細かく短い周期で変化する場合などが普通であり、このような変化を伴う外光を利用しなければならない場合に、外光による画像と、照明光照射をした画像とを、漠然と一定の時間ずつ撮像するのでは、抽出された画像は誤差の多い画像となってしまう。
従って、外光の変動があっても、抽出対象(切り出し対象)の物体の画像を容易に高精度で抽出可能な技術の確立が強く嘱望される。
【0026】
また、光は距離の2乗に反比例して減衰する。そのため、対象物体の像を受光して得る受光手段と対象物体との距離が定まっていないと、その遠近により対象物体からの反射光量が変わり、最適状態での画像の抽出ができない。この問題も解決する必要がある。
【0027】
そこで、この発明の第1の目的とするところは、外光の変動のある環境において、特定の対象物体を容易に高精度に抽出することができるようにした画像抽出装置を提供することにある。
【0028】
また、第2の目的は、対象物体と受光手段との距離が変わっても、最適状態の画像抽出が可能な画像抽出装置を提供することにある。
【0029】
【課題を解決するための手段】
上記目的を達成するため、本発明に係る第1の画像抽出装置は、対象物体に照明光を照射する発光手段と、前記照明光の照射時及び非照射時における前記対象物体の画像の差分を求めることにより、前記照明光による前記対象物体からの反射光のみを画像として獲得する反射光画像獲得手段と、前記照明光の発生する波長成分の光を除去する除去手段と、前記対象物体のおかれる環境下での光量を前記除去手段を介して検出する検出手段と、前記検出手段による検出出力から前記対象物体のおかれる環境の明るさの状態を判断して前記反射光画像獲得手段が獲得した画像の採否を決める手段とを具備する。
【0030】
本発明に係る第2の画像抽出装置は、対象物体に照明光を照射する発光手段と、前記発光手段と同期的に動作して前記照明光に基づく前記対象物体からの反射光と外光とを受光する第1の受光手段と、前記発光手段と同期的に動作して前記外光のみを受光する第2の受光手段と、前記第1及び第2の受光手段の出力の差分を求めることにより、前記照明光による前記対象物体からの反射光のみを画像として獲得する差分演算手段と、前記照明光の発生する波長成分の光を除去する除去手段と、前記対象物体のおかれる環境下での光量を前記除去手段を介して検出する検出手段と、前記検出手段による検出出力から前記対象物体のおかれる環境の明るさの状態を検出し、該明るさの変動周期を示す周期情報を出力する手段と、前記周期情報により示される変動周期に同期して前記発光手段と前記第1及び第2の受光手段を駆動制御する手段とを具備する。
【0035】
第1の画像抽出装置では、照明光の発生する波長成分の光を除去する除去手段を介して検出手段は前記対象物体の置かれる環境下での光量を検出する。これにより環境下での光量の監視が可能になる。検出手段のこの検出出力から前記対象物体のおかれる環境の明るさの状態を判断して前記受光手段により得た前記差成分の画像の採否を決める。
【0036】
その結果、環境下の光変動の大きさが画質に影響を及ぼす程度のものとなっている状態で取得された差成分の画像は採用しないようにし、画質に支障のない範囲の光変動のときの画像のみを取捨選択して利用できるようになる。
【0037】
第2の画像抽出装置では、照明光の発生する波長成分の光を除去する除去手段を介して、検出手段により前記対象物体のおかれる環境下での光量を検出する。この検出出力から前記対象物体のおかれる環境の明るさの状態を検出し、変動の周期情報を得る。そして、この変動の周期情報に基づく変動周期に同期して前記発光手段と前記受光手段を駆動制御する。
【0038】
この結果、環境下の光に周期的変動があった場合に、その変動周期に同期した発光手段の発光と、受光手段による画像取得ができ、従って、発光手段による対象物体からの反射光成分による画像を精度良く取得できるようになる。
【0043】
予備発光で画像の状態を調べ、最適な画像が取得可能な発光モードを決定してそのモードで本番での発光手段の発光を行い、得られた画像から差分の画像の取得をするようにしたので、対象物体と受光手段との距離が変わっても、最適状態の画像抽出が可能な画像抽出装置を提供できる。
【0046】
【発明の実施の形態】
本発明は、光源より発光して対象物体に光をあて、この対象物体による反射光を画像として捉えることにより、その形状、動き、距離などの情報を得ることができるようにした装置において、この発明では発光と電荷蓄積の動作パターンを複数種、用意しておき、外光の状況に応じて使い分けることにより、どのような外光状態にあっても精度良く反射光画像が得られるようにしたもので、以下、詳細を説明する。
【0047】
はじめに本発明を適用する装置の基本構成を説明する。
<情報入力生成装置の構成例>図1は、本発明を適用する対象の一つとしての情報入力生成装置の構成例である。図1に示すように本装置は、発光手段101、反射光抽出手段102、特徴情報生成手段103、タイミング信号生成手段104、とからなる。
【0048】
これらのうち、発光手段101はタイミング信号生成手段104によって生成されるタイミング信号に従って時間的に強度変動する光を発光する。この光は発光手段101の前方にある対象物体に照射される。また、反射光抽出手段102は、この発光手段101が発した光の対象物体による反射光を抽出する。これはさらに好適には、反射光の空間的な強度分布を抽出する。この反射光の空間的な強度分布は画像として捉えることが出来るので、以下では反射光画像と呼ぶ。
【0049】
反射光抽出手段102は、対象物体からの反射光を抽出するものであり、光の量を検出する受光部を持つが、当該受光部は一般的に、発光手段101の光の前記対象物体による反射光だけでなく、照明光や太陽光などの外光も同時に受光する。そこで反射光抽出手段102は、発光手段101が発光しているときに受光した光の量と、発光手段101が発光していないときに受光した光の量の差をとることによって、発光手段101からの光の前記対象物体による反射光の成分だけを取り出す。このことは言い換えれば、発光手段101を制御する信号を生成するタイミング信号生成手段104によって、反射光抽出手段102もまた制御されることを示す。
【0050】
特徴情報生成手段103は、反射光画像より様々な特徴情報を抽出するものである。この特徴情報あるいは特徴情報の抽出方法は様々考えられる。これにより例えば、対象物体が手であったとして、当該手の反射光画像の特徴情報から、ジェスチャーやポインティングなどの情報を得ることができることになって、この得られた情報によりコンピュータなどの操作を行うことができる。また対象物体の立体情報を抽出し、利用することもできる。なお、当該特徴情報生成手段103は、必ずしも必要ではなく、例えば反射光抽出手段102で得られた反射光画像そのものを入力したり利用したりすることもできる。
【0051】
本発明の目的を明確にするために、本発明が改善しようとした技術対象としての情報入力生成装置について詳しく述べる。図2は、情報入力生成装置のより具体的な構成例である。
図2を参照して説明すると、発光手段101より発光された光は、対象物体106に反射して、受光光学系107により、反射光抽出手段102の受光面上に結像する。反射光抽出手段102は、この反射光の強度分布、すなわち反射光画像を検出する。反射光抽出手段102は、第1の受光手段109、第2の受光手段110および差分演算部111からなる。
【0052】
第1の受光手段109と第2の受光手段110は、それぞれ上記受光面に結像された光学像を検出して受光量対応の画像信号に変換するものであり、それぞれ異なるタイミングで受光動作を行う。そして第1の受光手段109が受光状態にあるときに発光手段101を発光させ、第2の受光手段110が受光しているときには発光手段101を発光させないように、タイミング制御手段112がこれらの動作タイミングを制御する。これにより第1の受光手段109は発光手段101からの光の物体による反射光と、それ以外の太陽光、照明光などの外光とを受光してその受光量を検出する。
【0053】
一方、第2の受光手段110は外光のみを受光する。両者が受光するタイミングは異なっているが近いので、この間における外光の変動は無視できる。従って、第1の受光手段109で受光した像と第2の受光手段110で受光した像の差分をとれば、これは発光手段101の光の物体による反射光の成分に対応するものであり、これによって発光手段101の出力光の、物体による反射光成分対応画像が抽出されることになる。
【0054】
そして、この差分を得るのが差分演算部111であり、この差分演算部111が第1の受光手段109と第2の受光手段110で受光した像の差分を計算して出力する。反射光抽出手段102については、さらに詳細な構成について後述する。
【0055】
反射光抽出手段102は反射光画像の各画素の反射光量をシーケンシャルに出力する。反射光抽出手段102からの出力はアンプ113によって増幅され、アナログ信号をディジタルデータに変換するA/D変換器ll4によってデジタルデータに変換された後、メモリ115に蓄えられる。そして、しかるべきタイミングでこのメモリ115より当該蓄えられたデータが読み出され、特徴情報生成手段103において処理される。
これら全体の制御はタイミング制御手段112が行う。
【0056】
検出の対象物体が人間の手である場合、発光手段101としては人間の目に見えない、近赤外光を分光する発光装置を用いるようにすると良い。この場合、人間には発光手段101からの光が見えないため、眩しさを感じずに済む。また、発光手段101を近赤外光発光の装置とした場合、受光光学系107には図示しない近赤外光通過フィルタを設ける。このフィルタは、発光波長である近赤外光を通過し、可視光、遠赤外光を遮断する。従つて、外光の多くをカットしている。
【0057】
ところで物体からの反射光は、物体の距離が大きくなるにつれ大幅に減少する。物体の表面が一様に光を散乱する場合、受光側でみた場合、反射光画像1画素あたりの光量は、物体までの距離の2乗に反比例して小さくなる。従って、本発明の多次元情報入力生成装置の前に対象物体106を置いたとき、背景からの反射光はほぼ無視できるくらいに小さくなり、物体のみからの反射光画像を得ることが出来る。例えば、多次元情報入力装置の前に対象物体106である手を持ってきた場合、その手からの反射光画像のみが得られることになる。
【0058】
この時、反射光画像の各画素値は、その画素に対応する単位受光部で受光した反射光の量を表す。反射光量は、物体の性質(光を鏡面反射する、散乱する、吸収する、など)、物体面の向き、物体の距離、などに影響されるが、物体全体が一様に光を散乱する物体である場合、その反射光量は物体までの距離と密接な関係を持つ。
【0059】
手などはこのような性質を持つため、手を差し出した場合の反射光画像は、手の距離、手の傾き(部分的に距離が異なる)、などを反映する。従ってこれらの特徴情報を抽出することによって、様々な情報の入力・生成が可能になる。
【0060】
立体形状を抽出したい場合には、距離情報が高い分解能で求められる方が良い。このような場合、アンプ113としては対数アンプを用いると良い。受光部の受光量は物体までの距離の2乗に反比例するが、対数アンプを用いると、その出力は、距離に反比例するようになる。このようにすることで、ダイナミックレンジを有効に使うことができる。
【0061】
<反射光抽出手段102の詳細な説明>
図3は、反射光抽出手段102の構成の一例をさらに詳細に表したものである。図3に示す反射光抽出手段102はCMOSセンサと呼ばれる受光素子を示しており、この反射光抽出手段102は反射光の強度分布を捉えることができるようにするために、複数の単位受光部PDを備えていて、ひとつの単位受光部PDと反射光画像の一画素が対応している。この図では簡単のため2×2画素の構成で示す。点線で囲まれた部分117が一画素分の単位受光部PDであり、一画素分の単位受光部PDの概略構成を図4に示す。
【0062】
先の例との対応を取ると、第1の受光手段109の一画素分と第2の受光手段110の一画素分で、1つの単位受光部PDを構成している。1つの単位受光部PDは1つの光電変換部118と、2つの電荷蓄積部119、120を持っている。光電変換部118と電荷蓄積部119、120の間にはいくつかのゲート(この例では122,123)があり、これらのゲートの制御によつて光電変換部118で発生した電荷を、二つの電荷蓄積部119,120のうちのいずれの電荷蓄積部に導くかを選択できるようになっている。このゲートの制御信号と発光部の発光制御信号を同期させる。
【0063】
発光制御パルス128は発光手段を制御する信号である。ここではパルス発光を行う。発光制御パルスのレベルが“HIGH”のとき発光手段101が発光し、“LOW”のときは発光しない。
【0064】
この発光制御信号に対し、実際の光は発光手段101の発光源として用いられている発光素子の時間応答によってなまり、図5に符号129を付して示す波形のように変化する。受光部には、SAMPLE1(符号131を付して示す波形)、SAMPLE2(符号132を付して示す波形)、TRANSFER,RESET(符号130を付して示す波形)の制御信号が与えられる。
【0065】
TRANSFERは、光電変換部118で発生した電荷を次段に転送するためのゲートを制御する信号であり、この信号が“HIGH”のとき、光電変換部118に蓄積された電荷が転送される。電荷蓄積後、出力部へ電荷転送するときは、このゲートが閉じ、光電変換部118で発生した電荷が出力ゲートへ流れないようにする。RESET130はリセット制御信号である。
【0066】
TRANSFERが“HIGH”の時、RESETが“HIGH”になると、リセットゲート124が開き、光電変換部118にたまっていた電荷は、トランスファー・ゲート121、リセット・ゲート124を経て、排出される。SAMPLE1、SAMPLE2の2つの制御信号は、2つの電荷蓄積部119、120に、光電変換部118からの電荷を導くためのゲート122,123を制御する信号である。
【0067】
これらの制御信号の変化と、単位受光部PDの動作を次に説明する。
単位受光部PDでは、電荷蓄積期間においては、トランスファー・ゲート121は開き続けている。まず、リセット・ゲート124を開くことにより、光電変換部118とサンプル・ゲート122、123の間にたまった不要電荷を排出する。リセット・ゲート124を閉じることで、光電変換部118とサンプル・ゲートの間に、光電変換されてできた電荷が蓄積されはじめる。
【0068】
一定時間の後、第1のサンプル・ゲート122が開くと、蓄積されていた電荷が、第1の電荷蓄積部119に転送される。従って、RESET130が“LOW”になってから、SAMPLE1131が“LOW”になるまでの蓄積期間である図5上の“蓄積期間1”の間に光電変換された電荷が、第1の電荷蓄積部119に蓄積される。第1のサンプル・ゲート122が閉じた後、再びリセット・ゲート124を開いて不要電荷を排出した後、リセット・ゲートを閉じ、一定時間の後に今度は第2のサンプル・ゲート123を開き、第2の電荷蓄積部120に、光電変換で生成された電荷を転送する。この時も同様に、RESETが“LOW”になってからSAMPLE2が“LOW”になるまでの蓄積期間である図5上の“蓄積期間2”の間に光電変換された電荷が第2の電荷蓄積部120に蓄積される。このとき“蓄積期間1”と“蓄積期間2”は同じ長さの時間である。
【0069】
ここで、“蓄積期間1”なる電荷蓄積期間においては、発光手段105が発光しており、“蓄積期間2”なる電荷蓄積期間においては、発光手段105は発光しない。
このことにより、第1の電荷蓄積部119には、発光手段101からの光が物体に反射した光と、照明光、太陽光などの外光の両方によって生成された電荷が蓄積され、一方、第2の電荷蓄積部120には、外光のみによって生成された電荷が蓄積される。
【0070】
“蓄積期間1”なる電荷蓄積期間と“蓄積期間2”なる電荷蓄積期間は時間的に近いので、この間での外光の大きさの変動は十分に小さいと考えてよい。従って、第1の電荷蓄積部119と第2の電荷蓄積部120の、電荷量の差が、発光手段101からの光が対象物体106に反射した光で発生した電荷量であるとみなしてよい。
【0071】
上記SAMPLE1,SAMPLE2,RESET,TRANSFERは、すべての単位受光部PDに同じ信号が与えられるため、すべての単位受光部PDにおいて、同期的に電荷の蓄積が行われる。このことは、1フレーム分の反射光画像を得るために1度の発光だけで済むことを示している。従って、発光のための電力を小さくすることができる。また、発光手段として用いることのできるLEDは、発光パルスのDUTY比が小さいほど(1つのパルス幅に比べて、パルスとパルスの間隔が長いほど)、瞬間的には強く発光できる性質を持つため発光電力を効率的に利用することができる。
【0072】
電荷蓄積後、電荷の取り出しを行う。まずV系選択回路135で1行を選択する。各行の単位受光部PDから、第1の電荷蓄積部119と第2の電荷蓄積部120に蓄積された電荷が順に取り出され、差分回路133の中でその差分が収り出される。H系シフトレジスタで列を選択することで、取り出す。
【0073】
なお、この例においては、電荷取り出し時には、シフトレジスタで取り出しセルのアドレスを指定するため、出力の順番が決まっている(シーケンシャルな出力)が、任意のアドレスを生成できるようにすればランダムアクセスが可能になる。このようにすると、受光部全体のうち、一部分だけを取り出すことができ、センサの動庁周波数を低下させる、あるいは、反射光画像のフレームレートを上げることができるなど゛の効果がある。例えば画像の一部しか占めないような小さな物体を検出して、その動きを追跡させるような場合は、あるフレームでの位置の周辺だけで探索すればよいため、画像の一部だけを取り出すだけで良い。
【0074】
また、発光源として、近赤外光を用いた例を示したが、必ずしもこれに限定しない。人の目に眩しくない条件でなら(例えば、発光量がそれほど大きくない、人の目に直接入らない向きを向いている、など)、可視光であっても良い。あるいは、光に限らず、電磁波、超音波などを用いることも可能である。近赤外光通過フィルタも、外光の影響を考えなくてよいなどの条件下であれば省くこともできる。
【0075】
ところで、受光手段としてCMOSセンサではなく、通常の撮像用のCCDイメージセンサを用いても、これに類することを実現することもできるが、その性能、あるいはコストパフォーマンスにおいて本構成の方が優れている。
【0076】
例えば、CCDイメージセンサと光源を用いることもできる。しかし、CCDはl/60秒毎に1回の撮像しかできない(フィールド単位)。従って、はじめの1/60秒で、発光部を発光させ、次のl/60秒で発光部を消灯させ、その差分をとっても、1/60秒の時間差かあると、外光の大きさが変動してしまい、差分=反射光量とならなくなってしまう。蛍光灯などはl/100秒の周期でその強さが変動しているので、このようなことが起こってしまう。CCDイメージセンサを使った通常の撮像においても、撮像周期と、外光の変動周期のすれに起因して、画面の明るさがちらつく現象がおきることがあり、これはフリッカと呼ばれている。
【0077】
CMOSセンサを受光手段として採用した本装置においては、CMOSセンサの構成上の特徴として、画素単位で任意に受光(電荷蓄積)と読み出しの制御ができ、それは1/10000秒程度、あるいはそれ以下まで時間を小さくしたり、あるいは十分長い時間に設定して使用することができるので、外光の変動に応じて最適値を選べば、外光変動の影響を受けなくて済む。CCDイメージセンサによる撮像の場合、フリッカを防ぐために、電荷蓄積時間をl/100秒と蛍光灯の周期と一致させる方法が取られることがあるが、発光部と同期させる場合においても、電荷蓄積時間をl/100秒にする、あるいはCCDの駆動信号を変えてしまい、1フィールドをl/100秒にしてしまう、というような方法により、外光の影響を抑えることもできる。この場合は別の問題が発生する。対象物体である手が動いている場合、発光時の撮像と消灯時の撮像において手の位置が微妙にずれてしまう。
【0078】
この状態で差分を取ってしまうと、特に物体(手)のエッジ部分において、反射光画像が大きく乱れてしまう。また、構成のコンパクトさでも大きく異なる。CCDを用いる場合、少なくとも、A/D変換器と、1フレーム分のデータを蓄えるメモリ、差分画像を求める演算回路が必要である。またCCDを用いる場合には、ドライバ−ICを別に用意する必要がある。
【0079】
一方、単位受光部PDを複数個二次元配列した構成の本装置(すなわち、受光素子としてCMOSセンサを用いた本装置)においては、CMOSセンサのべース(CMOSセンサの形成基板上)に各種回路を作り込むことができるので、ドライバーを同一チップ内に収めてしまうことができる。また、センサ内で発光時、非発光時の差をとれるので、差分演算回路は不要である。また、A/D変換部やメモリ、制御部まで1チップ内に収めてしまうこともできるので、非常に低コスト化できる。
【0080】
ここまでの説明では、対象物体のみの像(反射光画像)を抽出するところまでの構成を述べた。ここまでの構成でも十分製品として利用価値がある。しかし、実際の利用形態としては、得られた反射光画像に何らかの加工を施して、使用者の目的に合った使い方をすることが多い。例えば、手の反射光画像を入力することにより、ポインティングやジェスチャー入力を行うことが出来る。このために反射光画像から有用な情報を抽出するのが、特徴情報生成手段である。ここで、特徴量を抽出したり、加工したり、そこから別の情報を生成したりしている。
【0081】
反射光画像の加工の仕方の代表例は、距離情報の抽出と、領域抽出である。先にも述べたように、物体が一様で均質な散乱面を持つ物体であれば、反射光画像は距離画像と見なすことができる。従って、物体の立体形状を抽出することができる。物体が手であれば、手のひらの傾きなどが検出できる。手のひらの傾きは部分的な距離の違いとして現れる。また、手を移動させたときに画素値が変われば、距離が移動したと見ることができる。また、背景のように遠い物体からの反射光はほとんどないため、反射光画像からあるしきい値以上の領域を切り出すという処埋で、物体の形状を簡単に切り出すことができる。例えば、物体が手であれば、そのシルエット像を切り出すのは極めて容易である。距離情報を用いる場合でも、一度しきい値によって領域抽出をしておいてから、その領域内の距離情報を用いる、という場合が多い。
このようにして、対象物体の像を簡易に抽出できるようになったことにより、その対象物体の像を用いて様々な情報入力操作、指示操作などを行う途が拓けることになる。
【0082】
ところで、本発明はCMOSセンサを受光手段として採用しており、上述したように、CMOSセンサの構成上の特徴として、画素単位で任意に受光(電荷蓄積)と読み出しの制御ができ、それは1/10000秒程度、あるいはそれ以下まで時間を小さくしたり、あるいは十分長い時間に設定して使用することができるので、外光の変動に応じて最適値を選べば、外光変動の影響を受けなくて済む。しかし、これを外光の変動状況に応じてどのようにして最適に設定するかが課題である。そこで、次にこのことについてその具体例を説明する。
【0083】
上述の情報入力生成装置は発光部(発光手段)と受光撮像系(反射光画像獲得手段)を有し、発光部の発光した光の物体による反射光を画像化して出力することにより、ジェスチャ認識などを可能にしており、反射光画像獲得手段は発光部の発光時と非発光時に、前記物体の像の受光による光電変換素子の発生電荷を蓄積し、その差をとることで、外光成分による像を相殺し、発光部の発光による前記物体の反射光のみによる像である反射光画像を獲得する構成であることは詳しく述べた。
【0084】
そして、外光には太陽光のようなものの他、蛍光灯のように安定動作状態であっても規則的(周期的)に変動するものがあり、しかも、蛍光灯には通常の蛍光灯やインバータ蛍光灯など、種々のものがあって、その変動周期にも幅がある。
【0085】
そして、発光手段101の発光時での画像取得(電荷蓄積)動作と、非発光時での画像取得(電荷蓄積)動作にはそれぞれ同一時間幅分があてられているが、それぞれでの外光に、変動があったときはその差の大きさ如何によって差分像の品位の低下、すなわち、得られた反射光画像の劣化の問題を残す。
【0086】
外光はその変動が不規則な場合と、規則的な場合があり、それぞれの場合での対処法が異なる。
不規則な変動の場合は反射光画像を得てみないと劣化の度合いがわからず、そして、規則的な変動のある場合ではその変動周期に対する上記2つの画像取得動作のタイミングの影響が反射光画像の画質に関わりを持つことになる。
【0087】
反射光画像に外光の変動分の影響が残っていると、この外光変動分の大きさによっては発光手段101による光照射のもとでの対象物体106の反射光だけを精度良く取り出すという目的を達成できない。
【0088】
従って、これに対処する具体例を次に説明する。最初に、外光が不規則な変動をする場合の対処手法を説明する。
<外光の変動の影響を抑制する具体例1>
本具体例では、外光のみの大きさを検出し、この検出された外光のレベルから外光の状態を判定し、反射光画像の採否を決定するようにした例を説明する。
【0089】
図6に本装置の構成例を示す。
図6において、101は発光手段、102は反射光画像獲得手段、201は外光光源、202はフィルタ、203は外光検出手段、204は外光状態判定手段、205は受発光動作制御手段であり、106は対象物体である。
【0090】
前述したように発光手段101は対象物体106に照明をあてるための光源であり、反射光画像の光源である。この発光手段101としては例えば、赤外領域の波長の光を発生するLEDが使用される。この発光手段101は受発光動作制御手段205により制御される。外光光源201は屋内や屋外など対象物体106の置かれる環境下の光源であり、対象物体106はこの外光光源201の光を常に受ける。
【0091】
フィルタ202は発光手段101からの赤外線領域の照明光を遮断するフィルタであり、外光成分のみを抽出するためのフィルタである。外光検出手段203はフィルタ202を介して取り込まれた外光のレベルを検出するためのもので、入射する外光の強度対応の検出出力を出す構成である。
【0092】
外光状態判定手段204は、この外光検出手段203の検出出力を入力とし、外光の大きさや時間的変動などを監視するものであって、反射光画像に大きな影響を与える可能性のある状態を検出するものである。
【0093】
受発光動作制御手段205は、外光状態判定手段204の出力結果に応じた動作をするように、各種タイミング信号の制御を行うものであって、タイミング信号生成手段104に該当するものである。ここでは、受発光動作制御手段205は、外光状態判定手段204が反射光画像に大きな影響を与える可能性のある外光変動があったと判断した場合に再度、外光のみの画像の取得と発光手段101を発光させた場合の画像の取得を実施し、その差成分である反射光画像を抽出する操作を行うに必要なタイミング信号の生成を行うべくシステムを制御する動作を行うが、一定時間経過時点ではこれを行わずに、反射光画像の品質が悪いことを示す信号(外光状態の非許容信号)を発生して反射光画像獲得手段102に与える機能を有する。
【0094】
反射光画像獲得手段102は、受発光動作制御手段205のタイミング信号に応動して発光手段101の発光に伴う照明を与えた際の画像と、発光させないで外光のみの環境下での受光による画像とを得て両者の差成分を求め、反射光画像として得てこれを出力するものであり、外光状態判定手段204が非許容信号を発生したときはリセットして再度、画像取得と差成分の抽出処理をはじめから行い、反射光画像を得る処理を行う機能を有する。
【0095】
このような構成の本装置において、反射光画像獲得手段102は、発光手段101の発光による照明をあてた対象物体106の画像と、当該照明をあてない外光のみによる当該対象物体106の画像とを受発光動作制御手段205の制御の基に取得し、両者の差の成分である反射光画像を得る。
【0096】
一方、反射光画像獲得手段102の画像取得タイミングにおいて、外光検出手段203は環境下の光のレベルをそれぞれ検出する。この外光検出手段203の前部には発光手段101が発する光の対象物体106による反射光を遮断するフィルタ202が設けられており、外光のみが外光検出手段203によって検出される。そして、この検出出力は外光状態判定手段204に与えられる。
【0097】
外光状態判定手段204は、この検出出力を基に、外光の大きさや時間的変動などを監視しており、反射光画像に大きな影響を与える可能性のある状態を検出する。例えば、反射光画像に大きな影響を与える可能性のある状態を検出したときは非許容信号を発生し、それ以外の状態の時は非許容信号は発生しない。
【0098】
この受発光動作制御手段205からの当該非許容信号を含め、タイミング信号に基づいて受発光動作制御手段205は、画像の取得とその取得画像の差成分である反射光画像を取得するが、外光状態判定手段204の出力結果(非許容信号の有無)があるときは再度、外光のみの画像の取得と、照明光をあてた画像をの取得を行い、差成分を求めて反射光画像を得るといった動作をする。
【0099】
図6には図示していないが、反射光画像獲得手段102の後段には反射光画像処理手段を設けて外光状態判定手段204の出力を基に、反射光画像の扱いを決めるようにしてもよい。
【0100】
本発明は,CMOSセンサを反射光画像獲得手段102の受光部に採用し、対象物体106の画像をリアルタイムで取得するが、この取得した画像の差成分、すなわち、反射光画像は動画像の画像信号として出力される。
そして、CMOSセンサの1 フレームの動作は、大きく分けて受光・電荷の蓄積と、それらの出力の繰り返しである。
【0101】
図7はその動作の様子を説明するための図であり、(a)は光パルス(発光手段101の発光、つまり、照明光の照射)、(b)はCMOSセンサの動作を示している。“R”、“1”、“2”はそれぞれ、“蓄積電荷をリセット”、“第1の電荷蓄積部へ蓄積”(図1の110、図4の120への蓄積に該当)、“第2の電荷蓄積部へ蓄積”(図1の109、図4の119への蓄積に該当)、を表す。
【0102】
図7に沿って動作を説明する。1フレームの期間内において“R”のタイミングで受光部及び第1及び第2の電荷蓄積部の電荷をリセットし、次に“1”のタイミングで第1 の電荷蓄積部へ所定期間蓄積(対象物体画像の受光実施)する。このとき同時に同期間にわたり、発光部(発光手段101)が発光する。
【0103】
そして、再び登場する次の“R”のタイミングで受光部の電荷の電荷をリセットし、次に“2”のタイミングで第2の電荷蓄積部へ所定期間蓄積(対象物体画像の受光実施)する。このときは、発光部(発光手段101)は発光させない。このようして得た2枚の画像の差成分を求めて反射光画像とし、1フレーム期間の後半にこの反射光画像を後段に出力する。反射光画像出力時には、これのように2枚の画像、正確には,CMOSセンサの場合、単位画素の2つの電荷蓄積部の蓄積電荷の差を出力することにより、発光部からの光の物体による反射光成分のみを出力する。
【0104】
第1、第2の電荷蓄積1回で無事反射光画像を取得できる図7の如きタイミングで動作している場合、電荷蓄積に使用している時間はわずかであり、データ出力までには余裕がある。しかし、反射光画像に雑音成分が多く含まれて信頼性が問題になる状況、つまり、外光の変動の大きい状態の時はこのようにはいない。
【0105】
すなわち、本システムでは反射光画像獲得手段102による反射光画像獲得動作と並行して、別の外光検出手段、つまり外光検出手段203が外光レベル(図8の(a))を検出する。このとき、発光手段101の発光源に例えば近赤外LEDを用いたとすると、この場合は、外光検出手段203の前方(検出側の入り口)に近赤外光遮断フィルタ202を取り付けておくことにより、外光検出手段203には発光源からの光の反射光は入らないことになる。
【0106】
外光状態判定手段204は、外光検出手段203の検出出力をもとに、外光レベルを監視していて、外光レベルの変動が大きく、その結果、反射光画像に影響を与えそうである場合にそれを検出する。図8の(b)がその検出結果を知らせる信号であり、この信号が論理レベル“H(HIGH)”になっている領域は外光の状態が悪い(反射光画像に悪影響を与える可能性がある)と判断される。
この判断は例えば、外光の変動が急である場合(前半の“H”)、外光のレベルが非常に高い場合(後半の“H”)などである。
【0107】
外光の変動が急であると、反射光画像獲得手段(反射光抽出手段)102の構成要素である第1 の電荷蓄積部(図1の110、図4の120に該当)と第2の電荷蓄積部(図1の109、図4の119に該当)に蓄積される外光分の光の量の差が大きく、両者の差を取ったときに、反射光成分だけでなく、外光の変動分が大きく含まれてしまう。
つまり、外光のレベルが非常に大きい環境下であったときは、外光に対する反射光の割合が非常に小さくなり、S/N(信号対雑音比)が悪くなる。
故に、この場合に外光の変動があると、雑音成分が大きく、精度良く対象物体106の抽出をすることができない。
【0108】
図8の例の場合、1フレーム期間内において上述のように第1回目の発光動作と蓄積動作が行われたが、この動作が終了した時点で、蓄積動作中に外光状態が悪かったことが分かった(図8(b)t1)。そこで、一旦、この動作をキャンセルし、再び、やり直す。
【0109】
つまり、蓄積された電荷を再びリセットし(“R”)、再度、第1 の電荷蓄積部への蓄積(“1”)、第2 の電荷蓄積部への蓄積(“2”)をやり直す。2回目の動作中には外光状態は正常であったので((b)の信号がHではなく、Lの状態である)、得られた差成分(反射光画像)は、このまま、データ出力する。
【0110】
反射光画像の抽出と、この抽出した反射光画像の出力操作は所定の周期(1フレーム期間内)で行うようにしているため、蓄積動作のやり直しをあまり何回も行うと、データ出力タイミングと重なってしまう。そこで、やり直しができる最大回数を、予め定めておき、それ以上はやり直せないようにする。
【0111】
そして、最後まで正常な反射光画像が得られなかった場合、すなわち、データ出力軒間の到来時点までに正常な反射光画像が得られなかった場合は、最後に得られた信頼性の低いデータをそのまま出力するが、このとき別系統でこの反射光画像の信頼性が低いことを示す信号を合わせて出力する。以上の処理をフローで示すと、図9の如きとなる。
【0112】
以上、図6に示した例では、外光状態判定手段204の出力で、外光変動の状態対応に受発光動作制御手段205を直接制御して画像取得と差分(反射光画像)の取得のやり直しをするようにした。しかし、このようなやり直しをせずに反射光画応獲得手段102から出力されてくる反射光画像の取捨選択を外光状態判定手段204の出力を基に後段で行うようにして信頼性のない反射光画像については利用しないようにしても良い。
【0113】
その例を次に図10を参照して説明する。
図10の例では1フレーム期間内毎に受発光動作制御手段205に発光手段101による照明をあてた画像の取得と、外光のみによる画像の取得をさせ、更に両画像の差成分を得て、反射光画像を得るという処理を1回だけ行わせ、この得た反射光画像は出力期間内に外部に出力させる構成としている。
【0114】
また、反射光画像獲得手段102の当該反射光画像は反射光画像処理手段103にて受けるが、この反射光画像処理手段103は外光状態判定手段204の出力を得て、その状態に応じてその受けた反射光画像を使用するか廃棄するかを決める機能を持たせてある。その他、反射光画像処理手段103の機能は図1で説明したものと同じである。
【0115】
このように、外光状態判定手段204の出力で反射光画像獲得手段102や発光手段101を制御せず、反射光画像処理手段102には当該外光常置判定手段204の出力で反射光画像の取捨選択を行わせる機能を設けた構成とした。
【0116】
反射光画像処理手段102は、出力された反射光画像を扱う部分であるが、同時に外光状態判定手段204の出力(これは2 値とは限らない)を得て、それによって反射光画像の扱いを変えるようにした。
【0117】
例えば、外光状態が非常に悪いときは、その反射光画像を捨てて利用しない、あるいは、前フレームを利用して現フレームを予測するいった具合である。予測する際には、外光状態の悪さを、現フレームの信頼性の低さとしてパラメータにして、予測のし方をコントロールしたりすると一層良い。
【0118】
以上、この例は発光手段による照明のもとに得た対象物体の像と、外光のみによる対象物体の像をそれぞれ取得し、両者の差成分の画像である反射光画像を得、また、外光のみを検出する検出手段を設けて外光の変動を監視し、外光の変動が対象物体の反射光画像の信頼性に影響を与える場合に、再度、画像の取得とそれに基づく反射光画像の再取得を行うなうようにしたものである。あるいは、発光手段による照明のもとに得た対象物体の像と、外光のみによる対象物体の像をそれぞれ取得し、両者の差成分の画像である反射光画像を得、また、外光のみを検出する検出手段を設けて外光の変動を監視し、外光の変動が対象物体の反射光画像の信頼性に影響を与える場合に、これを知らせるようにしたものである。
【0119】
そのため、対象物体の反射光画像を得るに当たり、外光変動の悪影響が大きい場合に、その状態での取得反射光画像を使用しないで済むようになり、対象物体のみの高品質な画像を、容易に取得できるようになって、対象物体によるゼスチャー情報の取得や、3次元操作情報の取得を高精度で行えるようになる。
【0120】
以上は、外光のレベルを監視して、外光変動の影響あるタイミングでの反射光画像は利用しないようにした技術であった。
しかし、この場合、外光変動がいつまでも続く不安定な環境下であったときは利用できる反射光画像が得られないことになり、また、インバータ式の蛍光灯のように短い周期で常に光量が変動している環境下では、場合によっては利用できる反射光画像がいつまでも得られない心配が残る。また、テレビ画像のように1秒間に30フレームもの速度で反射光画像を抽出する必要のある場合、あるいはそれ以上の速度で反射光画像を抽出する必要のある場合などでは、蛍光灯のちらつきがまともに外光変動として影響し、反射光画像を取得できない心配が残る。そこで、次にような周期性を以て常に変動する外光が与えられるような環境下で利用すると最適な具体例を説明する。
【0121】
<外光の変動の影響を抑制する具体例2>ここでは、周期性を持って常に変動する外光の影響を排除して反射光画像をリアルタイムに得ることができるようにした例を説明する。
【0122】
ここでは外光のみの変動を監視する検出手段を設け、これによって外光の変動周期を検出して、この外光の変動周期をもとに、受発光動作制御を行う構成とする。図1を参照して本システムの構成を説明する。図において、101は発光手段、102は反射光画像獲得手段、201は外光光源、202はフィルタ、203は外光検出手段、301は外光変動周期検出手段、205は受発光動作制御手段であり、106は対象物体である。
【0123】
前述したように発光手段101は対象物体106に照明をあてるための光源であり、反射光画像の光源である。この発光手段101としては例えば、赤外領域の波長の光を発生するLEDが使用される。この発光手段101は受発光動作制御手段205により制御される。外光光源201は屋内や屋外など対象物体106の置かれる環境下の光源であり、対象物体106はこの外光光源201の光を常に受ける。
【0124】
フィルタ202は発光手段101からの赤外線領域の照明光を遮断するフィルタであり、外光成分のみを抽出するためのフィルタである。外光検出手段203はフィルタ202を介して取り込まれた外光のレベルを検出するためのもので、入射する外光の強度対応の検出出力を出す構成である。
外光変動周期検出手段301は、この外光検出手段203の検出出力を入力とし、外光の大きさや時間的変動などを監視するものであって、外光の変動周期を検出するものである。
【0125】
受発光動作制御手段205は、外光変動周期検出手段301の検出した変動周期情報をもとに、この変動周期に同期するように各種タイミング信号の制御を行うものであって、タイミング信号生成手段104に該当するものである。ここでは、受発光動作制御手段205は、外光の変動周期に同期して発光手段101の発光制御と、反射光画像獲得手段102における第1の電荷蓄積を行わせ、次に外光の変動周期に同期して外光のみの画像を得るべく、発光手段101の発光は停止した状態として反射光画像獲得手段102における第2の電荷蓄積を行なわせるといった制御のためのタイミング信号を発生させる。
【0126】
反射光画像獲得手段102は、受発光動作制御手段205のタイミング信号に応動して発光手段101の発光に伴う照明を与えた際の画像(第1の電荷蓄積による蓄積電荷)と、発光手段101を発光させないで外光のみの環境下での受光による画像(第2の電荷蓄積による蓄積電荷)とを得て両者の差成分を求め、反射光画像として得てこれを出力するものである。
【0127】
このような構成の本装置において、反射光画像獲得手段102は、発光手段101の発光による照明をあてた対象物体106の画像と、当該照明をあてない外光のみによる当該対象物体106の画像とを受発光動作制御手段205の制御の基に取得し、両者の差の成分である反射光画像を得る。
【0128】
一方、外光の状態は外光検出手段203により監視されている。すなわち、外光検出手段203の光検出側前部に発光手段101が発する光を受けた対象物体106からの反射光についてはこれを遮断するフィルタ202が設けてあり、これによって外光のみが外光検出手段203によって検出される。フィルタ202としては発光手段101が赤外光を発光するものであったとすれば、赤外線遮蔽フィルタを用いることで実現される。
【0129】
外光検出手段202の検出出力は外光変動周期検出手段301に与えられる。すると、この外光の変動周期検出手段301は、当該検出信号から外光の時間的変動周期を検出する。そして、この検出した変動周期の情報を受発光動作制御手段205に与える。
【0130】
受発光動作制御手段205は、外光変動周期検出手段301で得られた外光周期に同期するように、受発光動作の制御信号を生成する。
【0131】
図12に外光変動が規則的に生じる場合の例を示す。図12(a)にこのときの外光レベル(外光検出手段203の出力)を、図12(b)に外光信号をパルスに整形したもの(外光変動周期検出手段301の出力)をそれそれ示す。また、図12(c)は発光手段101を発光させるパルス信号であり、発光手段101はこのパルスの期間、発光する。図12の(d)は蓄積動作を制御する信号であり、図7で説明した如きのものである。
【0132】
図12(c)のパルス信号と図12の(d)の蓄積動作を制御する信号は、図12の(b)の信号を基に作られる。つまり、反射光画像獲得手段102の第1電荷蓄積部(図2の110、図4の120)に電荷が蓄積されるタイミングと第2の電荷蓄積部(図2の109、図4の119)に電荷が蓄積されるタイミングは、外光の変動周期に対し、同じ位相になっている。従って、第1及び第2の電荷蓄積の計2回の蓄積動作によって蓄積される電荷にそれぞれ含まれる外光分の大きさは等しくなる。従って、第1の電荷蓄積部と第2の電荷蓄積部の蓄積電荷の差分に、外光の変動分はほとんどないことになり、規則的に変動する外光のもとで、精度良く反射光画像が抽出できることがわかる。
【0133】
次に電荷蓄積時間に対して外光の変動周期が短く規則的である場合の例を図13に示す。
本システムでは第1の電荷蓄積、第2の電荷蓄積の計2回の電荷蓄積により得た画像からその差分の像を得るが、外光の変動周期に同期してこれを実施すると共に、その蓄積時間はそれぞれ外光の変動1周期分を単位に、そのn倍に対応させる。すなわち、図13 に示す例は、蓄積時間に対し、外光の変動周期が短い場合において、常に外光の変動周期2つ分の時間(n=2)で蓄積動作を行っていることを示している。
【0134】
そのため、先の例と同様、やはり、2回の蓄積動作によって蓄積される電荷にそれぞれ含まれる外光分の大きさは等しくなる。なお、図13では蓄積時間は外光の変動周期の整数倍になっているが、これに限らない。例えば、1.5倍、2.7倍、3.3倍、といった具合であっても良い。ただし、位相は正しく一致していることが必要である。
【0135】
このように、外光変動を検出してそれに同期させて所要の時間幅単位で、画像の取得を行うようにしたので、外光が周期性を以て常に変動する環境下においても、その影響を排除して反射光画像をリアルタイムに得ることができるようになる。
【0136】
以上は、外光の変動に対応して反射光画像のもととなる画像の取得タイミングを制御するものであったが、外光が室内灯のように人為的に制御可能である場合も少なくない。その場合に最適な例を次に説明する。
【0137】
<外光の変動の影響を抑制する具体例3>
この例は、外光の光源自体を制御して反射光画像に外光の影響がでないようにしたものである。
図14に本システムの具体例を示す。図中、101は発光手段、102は反射光画像獲得手段、205は受発光動作制御手段、201は外光光源で、例えば、室内の照明灯などである。また、402はこの照明の駆動装置であり、401は照明制御信号生成手段である。
【0138】
発光手段101は対象物体106に照明をあてるための光源であり、反射光画像の光源である。照明201は外光光源であって、対象物体106の置かれる環境下の光源であり、対象物体106はこの外光光源201の光を常に受ける。
【0139】
照明駆動装置402はこの照明201の発光駆動を行うものであって、与えられる制御信号対応に照明201の光量を制御する機能を有する。
受発光動作制御手段205は、発光手段101および反射光画像獲得手段102を制御する信号を生成する。照明制御信号生成手段401は、反射光画像獲得手段102における2回の電荷蓄積動作(発光手段101の発光下での画像の取得と外光のみによる画像の取得)において、外光分の受光量が等しくなるような、照明制御信号を生成する。これに従って、外部の照明(外光光源)201が動作する。
【0140】
反射光画像獲得手段102は、受発光動作制御手段205のタイミング信号に応動して発光手段101の発光に伴う照明を与えた際の画像と、発光させないで外光のみの環境下での受光による画像とを得て両者の差成分を求め、反射光画像として得てこれを出力するものである。
【0141】
このような構成の本装置は、受発光動作制御手段205の制御のもとに発光手段101、反射光画像獲得手段102、そして、照明制御信号生成手段401が制御されて、所定タイミングでの発光手段101の発光、反射光が像獲得手段102による画像の取得(第1の電荷蓄積と第2の電荷蓄積)が行われ反射光画像の抽出が行われる。
【0142】
一方、照明制御信号生成手段401は、反射光画像獲得手段102における2の電荷蓄積動作(発光手段101の発光下での画像の取得と外光のみによる画像の取得)において、外光分の受光量が等しくなるような、照明制御信号を生成する。これに従って、照明駆動装置402は外部の照明(外光光源)201を点灯制御するので、外光は上記2回の電荷蓄積動作の期間、それぞれにおいて外光光量が等しくなるように点灯されることになる。
【0143】
それ故、反射光画像獲得手段102が、受発光動作制御手段205のタイミング信号に応動して発光手段101の発光に伴う照明を与えた際の画像と、発光させないで外光のみの環境下での受光による画像とを得た際に、それぞれにおいて照明201から環境下に与えられた光量は等しいから、両画像の差成分を求めることにより、得られた反射光画像は精度の良いものとなる。
【0144】
図15に、この場合の一例としての反射光画像獲得手段102の動作パターン(図15(c))、発光手段101の制御信号(図15(b))、外部照明を制御するための信号(図15(a))を示す。
【0145】
受発光動作制御手段205は、反射光画像獲得手段102が図15(c)のような動作パターンで動作するような制御信号を生成するとともに、図15(b)のような発光パルスを発光手段101に与える。一方、これと同時に、照明制御信号生成手段401は図15(a)の照明制御信号を生成し、照明はこれに従って動作する。
【0146】
例えば、照明制御信号のレベルが“H”の時、照明が点灯し、レベルが“L”の時、消灯するようなパターンで点滅を繰り返す。この動作はもちろん高速で繰り返されているので、人間の目には一定の明るさで光っているようにみえる。
【0147】
しかし、電荷蓄積を行っているときには瞬間的に明るさが低くなるという変動であるから、反射光画像を得るにあたって、外光の影響を受けることなく高精度な反射光画像が得られるようになる。
【0148】
この例では、発光量が周期的に強度変化する外部照明(例えば、蛍光灯)が反射光画像に影響しないよう、外部照明を直接コントロールしてしまうものであった。逆に、外部照明を光源として利用してしまう方法もある。つまり、外部照明自体を光源(発光手段)としてしまい、この外部照明からの照射光の対象物体による反射光を受光手段で検出するのである。この場合、照明と受光手段の位置関係によっては、反射光量が距離の2乗に反比例するという関係が崩れるので、距離情報の獲得は難しくなるが、対象物体の形状の切り出しなどは問題なく行える。この構成はアミューズメントパークなど、部屋自体をコミュニケーションの空間として作ることができるような場合に、効果的である。
【0149】
以上は、環境下の光量変動に与える反射光画像の劣化を抑制する手法であったが、環境下の光量がたとえ安定していたとしても、対象物体106からの反射光光量が、環境下の光量に比べてあまり高くない場合、S/Nが悪いことから、得られる反射光画像の品質が低くなることになる。
【0150】
例えば、反射光画像獲得手段102のCMOSセンサのダイナミックレンジが、その入射光学系の前方所定距離範囲にある対象物体からの反射光量を検出するに最適な状態に設定されている場合などでこのようなことが起こり易い。なぜなら、光の強度は距離の二乗に反比例するからであり、本システムをパソコンなどに搭載して、操作入力として利用うする際などで、ユーザ自身の手を対象物とするようなとき、ユーザは自己本位でこれを行おうとするのが普通であるから、手の位置は設計者の意図した範囲内で操作してくれないからである。
【0151】
そこで、次にこのような状況下に対処できるようにした例を説明する。
<対象物体の距離に応じて発光量を調整することにより反射光画像の劣化を抑制する技術>反射物体があり、この反射物体からの反射光をセンサで検出する場合、その検出される反射光の量は対象物体までの距離の2乗に反比例する。したがって、対象物体がセンサから遠ざかると、対象物体からの反射光量が急激に減少する。例えば、センサから10cmの距離に対象物体があるときに比べ、30cmの距離に対象物体があるときの検出される反射光量は1/9になる。
【0152】
つまり、10cmの距離範囲の物体測定に最適な状態に測定範囲(測定レンジ)を設定した場合には30cm程度離れた位置にある物体の測定精度は、受光量自体が1/9になるために急激に低くなる。測定レンジを変更せずに、30cm程度の距離にある対象物体を高い精度で測定できようにするためには、発光手段の発光強度を上げて、当該対象物体からの反射光の量を増やすようにすれば良い。しかし、このようにすると、今度は10cm程度の距離の物体からの反射光は大きくなり過ぎてしまい、測定レンジを超えてしまう。これは取得する画像の画質劣化に、大きく影響する。
【0153】
繰り返すが、本発明の前提となる技術は、外光のみを受けた物体の像と、外光を受けた状態でしかも発光手段からの光をあてた像をそれぞれ取得し、両画像の差成分を求めてこれを発光手段による光の照射による反射成分としての画像すなわち、外光成分を除外した対象物体の反射光画像として得るというものである。
【0154】
そして、この得られた反射光画像から種々の情報を得るものであり、例えば、対象物体として手を想定した場合、反射光画像として得られた手の像から、その仕草、指の位置情報、といった情報を抽出して操作入力などとして使用するなど、複雑な三次元操作入力を可能にする。
【0155】
そのため、対象物体はセンサの位置に対してその測定レンジに合わせて最適位置において撮像することが難しい場合が多い。それは、対象物体が手であった時に、手をいろいろな形に動かすことになるが、夢中になればセンサ位置(反射光画像獲得手段の受光部位置)との距離を予定の範囲に留めることを、人はつい忘れてしまうからである。
【0156】
そこで、このような場合にも対処できて、距離位置が変動しても対象物体の反射光画像を精度良く抽出することができるようにした装置の具体例を次に説明する。
ここでは、センサ(反射光画像獲得手段の受光部)と対象物体との距離に応じて発光手段の発光光量を制御することで、対象物体の反射光画像を精度良く得るようにする。
【0157】
すなわち、物体が存在している距離に応じて、反射光の量が適切になるように制御することで、物体がどの距離に来ても、十分な精度で距離が測定できるようにする。また、発光量を変えて何度か反射光画像を獲得し、合成することで、ダイナミックレンジの広い反射光画像が得られるようにする。
【0158】
以下で述べる具体例のシステムの基本構成と、そのバリエーションを示す。
<基本構成>次の3要素を備える。
(1)物体の距離に関する情報を検出する検出手段。
(2)検出手段の検出結果より、反射光の増減の程度を決定する決定手段。
(3)決定手段の決定に基づき、反射光を増減させるための制御(発光量の制御、アンプの制御、A/Dの制御)を行う手段。
【0159】
<具体例>上記3要素の実現手段はそれぞれいくつか、考えられる。
(1)物体の距離(あるいはそれに類する情報)を検出する手段。
[i]物体の距離はセルアレイの出力(アナログ信号)より検出。最大値検出回路により、最大値を求める。
[ii]LPFを通過させることにより、平均的な信号量を得る。
[iii]A/D変換後のデジタルデータから検出。最大値を検出する。
[iv]最大値は平均値と分散などから計算する。
【0160】
(2)上記(1)の手段で得た結果より、反射光の増減の程度を決定する手段。決定した内容に基づき、発光手段の光量を制御する(リニアに制御/段階的に制御)。
[i]段階的に制御する手法においては、標準の状態に比べ、例えば2倍、3倍、4倍、というように段階的に反射光量が変化するように制御。
[ii]リニアに制御する手法は、任意のx倍に制御する。
【0161】
(3)決定する手段の決定に基づき、反射光を増減させるための制御(発光量の制御、アンプの制御、A/D の制御)を行う手段。
[i]発光手段を構成するLED(発光素子)の発光を制御する。
[ii]発光手段を構成するLEDの発光パワー(発光電流)を制御する。
[iii]発光手段を構成するLEDの発光パルスの数を制御する。
[vi]発光手段を構成するLEDの発光駆動用パルスのパルス長を制御する。
[v]アンプのゲインを制御する。
[iv]A/D変換器の入力電圧幅を制御する。
【0162】
以上のようなバリエーションがあるが、その詳細を以下、説明する。
[対象物体の距離の変動による反射光画像の画質への影響を抑制する例であって、対象物体の距離に応じて発光量を調整することにより反射光画像の劣化を抑制する具体例]
この例は、(1)[iii]、(2)[i]、(3)[iii]に対応するもので、対象物体からの反射光量の検出値に応じて数段階のレベルに分類し、その分類した段階対応に、発光手段の駆動用のパルス数を変えるようにして、発光量を調整するものである。
【0163】
具体的には、例えば、入力装置の前方20cmの距離位置に対象物体としての手を配置したとして、この状態におけるCMOSセンサの受光出力電圧(蓄積電荷電圧)1[V]を出力する状態を“状態1”、その半分の電圧、1/4 の電圧を出力する状態をそれぞれ“状態2”、“状態3”とする。
【0164】
そして、この状態対応に発光手段の発光量を切り替える。これは、発光手段を駆動する発光パルス数で行う。“状態1”はパルスを4回繰り返す、“状態2”はパルス2個、“状態3”はパルス1個である。
【0165】
細かい調整制御は次のようにして行う。CMOSセンサからの画像信号(反射光画像)をデジタル化し、このデジタル化された反射光画像から、画素値の最大値(もっとも反射光量が大きいところ、すなわち、最も近いところ)を求める。デジタル出力は例えば、8bit構成、256階調とする。
【0166】
デジタル出力を監視し、最大値が“250”を超えたとき、状態を1つ下げる(例えば、“状態1”→“状態2”)。また、最大値が“100”を下回ったとき、状態を1つ上げる(例えば、“状態3”→“状態2”)にするといった具合である。ただし、物体らしきものがないときは、状態の遷移はしない。
【0167】
ここでは、“状態1”、“状態2”、“状態3”での反射光量はちょうど倍ずつ違うのように設定したので、距離の換算が楽となる。
【0168】
詳細を説明する。
ここで、反射光量の性質と発光量制御の必要性についてふれておく。
本装置は、対象物体に対して発光手段101から光を発して、その物体からの反射光の大きさを測定(検出)する。そして、これにより得た反射光量の分布を画像、すなわち、上記対象物体の反射光画像として獲得する。物体表面が一様な散乱面であれば、反射光量(反射光画像の各画素の値)は距離を反映している。各画素の値(反射光量)は物体までの距離の2乗に反比例している。対象物体までの距離と反射光量の関係をグラフにあらわすと図16のようになる。
この図から、距離が大きくなるほど反射光量は小さくなり、また距離分解能が落ちることがわかる。
【0169】
遠い距離を十分に測定できるようにするには発光手段101の発光量を増やせば良い。しかし、発光量を増大させれば、今度は逆に近くに物体がある場合、反射光量が大き過ぎてしまい、測定可能範囲を超えてしまう弊害が生じる。従って、物体の距離に応じて発光手段101の発光量を制御し、反射光量の変化を抑制することが、広い距離範囲にわたって精度よく距離測定する解決方法となる。
【0170】
この点を念頭におき、ここでは図17のようにシステムを構成する。すなわち、図において、101は発光手段であり、102は反射光画像獲得手段、103は反射光画像処理手段である。また、500は最大画素値検出手段、501は受光状態決定手段である。
【0171】
発光手段101は、外光下にある対象物体に対する照明をする装置であり、反射光画像獲得手段102は、発光手段101による照明をあてた状態での対象物体からの反射光をCMOSセンサで検出してその第1の電荷蓄積部に蓄積し、つぎにこの発光を行わない状態で対象物体からの反射光をCMOSセンサで検出して素の第2の電荷蓄積部に蓄積し、その後、両者の差を得て反射光画像として出力するものである。
【0172】
最大画素検出手段500は、反射光画像のデータから、その最大値を検出するものである。また、発光状態決定手段501は、発光手段101の発光状態を適宜に設定するものであって、前記最大画素検出手段500によって得られた最大画素値に従って、発光手段101の発光状態を変更するかどうか決定する機能もある。発光手段101の発光状態は、“状態1”、“状態2”、“状態3の3通りのいずれかを取り得る。これを上記の最大画素値対応に、選択してその状態対応に定めたパルス数での発光手段101の発光を行わせることができる。
【0173】
反射光画像処理手段103は反射光画像獲得手段102の得た反射光画像をもとに、仕草や状態を解析して3次元操作情報などを得るもので、図1の特徴情報生成手段に該当する。
【0174】
このような構成の本装置は、発光手段101は、外光下にある対象物体に対する照明をする。反射光画贈獲得手段102は、発光手段101による照明をあてた状態での対象物体からの反射光をCMOSセンサで検出してその第1の電荷蓄積部に蓄積し、つぎにこの発光を行わない状態で対象物体からの反射光をCMOSセンサで検出してその第2の電荷蓄積部に蓄積し、その後、両者の差を得て反射光画像として出力する。
【0175】
反射光画像獲得手段102は発光手段101と同期して動作し、発光手段101からの光が前方にある物体に反射して帰ってきた光の量の分布、すなわち、反射光画像を獲得する。
【0176】
反射光画像獲得手段102は受光セルのアレイ構造を持っている。各受光セルが、発光手段101が発光しているときと、発光していないときに同じ時間だけ受光して電荷蓄積し、その差として反射光量を検出する。また反射光画像獲得手段102は、その反射光量をデジタルデータに変換し、出力する手段を含む。つまり、A/D変換部を備える。
【0177】
このA/D変換部は0〜1Vの入力電圧を、“0”から“255”までの8bbitデジタルデータに変換する。従って、反射光画像獲得手段102からは、反射光量の分布、すなわち、反射光画像の各画素値がデジタルデータとして出力される。
【0178】
最大画素検出手段500は、この一連の反射光画像データから、その最大値を検出する。そして、発光状態決定手段501にその検出値を渡す。これを受けた発光状態決定手段501はこの検出値をもとに、3種の発光状態のいずれが最適かを判別し、“状態1”、“状態2”、“状態3”の3通りの状態値のうち、最適な状態値を決定する。
【0179】
(3つの発光状態)
最適な状態値は次のようにして決定する。すなわち、発光状態決定手段501は、得られた最大画素値に従って、発光状態を変更するかどうか決定する。今、発光手段101の発光状態は、“状態1”、“状態2”、“状態3”の3りを取り得る。これらのうち、“状態1”は、最も多くの反射光が得られるモードで、対象物体である手が距離20cmにあるときに、A/D変換部の入力電圧が約1[V]になるように設定される。ただし、反射光量の大きさから、絶対的な距離値は求まらないので、これは目安である。
【0180】
例えば、手の色や、表面の状態(乾いている、湿っている)によってばらつきはある。
【0181】
“状態2”は“状態1”に比べ、約半分の反射光量が得られるモードである。“状態3”はさらに半分、つまり“状態1”の1/4の反射光量が得られるモードである。
【0182】
ここで、反射光量が倍増える方向へ状態を変えることを、「状態を1つ上げる」、反射光量が半分に減る方向へ状態を変えることを「状態を1つ下げる」、と呼ぶことにする。つまり、“状態1”から“状態2”へ下げる、“状態3”から“状態2”へ上げる、といった具合に表現することとする。
【0183】
(発光状態の決定)発光状態決定手段501は、次のようにして、発光状態を制御する。最大画素値が“250”のとき、発光状態を1つ下げる。つまり、現在の状態に対し、手が近づきすぎたとき、発光量を下げることによって、反射光量を下げ、A/D変換機の入力信号が飽和しないようにする。
【0184】
逆に、最大画素値が“100”以下になったとき、発光状態を1つ上げる。つまり現在の状態に対し、手の位置が遠すぎて、反射光量が小さい場合、発光状態を上げて、反射光量を増やす。ただし、“状態1”の時はそれ以上は上げられないし、“状態3”の時はそれ以上下げられない。この状態遷移の様子を図18に示す。
【0185】
(状態を変化させるしきい値の設定について)今、最大画素値が“250”以上で状態を下げ、最大画素値が“100”以下で状態を上げると述べたが、値はこれに限らない。最もシンプルな場合は“255 (つまり最大値)”で状態を下げ、“127(最大値の半分)”で上げることである。
【0186】
しかし、この場合は、状態を下げる前に一度A/Dの入力信号が飽和することになる(飽和してから状態が下がる)。また、最大画素値255の時、状態を一つ下げると、出力は“128”(もしくは“127”)になるが、ここで再びほんの少し反射光量が下がり、“127”を割るとまた状態が上がる。
【0187】
このように、状態を上げるしきい値を、状態を下げるしきい値のちょうど半分程度に設定しておくと、しきい値近傍に反射光量が留まっているとき、状態が頻繁に変わることになる。
【0188】
そこで、状態が上がるしきい値を状態が下がるしきい値の半分よりやや少なく設定し、状態変移にヒステリシス特性を持たせるようにすることにより、状態が頻繁に変わることを防ぐことができる。本例では、状態を下げるしきい値を“20”以上にし、飽和する直前に状態を下げるようにしている。また“250”で状態が下がると、値が“125”程度に下がるが、これより低い“100に、状態を上げるしきい値を設定している。
【0189】
(状態の数)本例では状態の数を3つにした。そして、状態を変えることによって、反射光量が倍あるいは半分になるように制御している。しかし、状態の数を増やすことによって、もう少し、きめの細かい制御をすることもできる。
【0190】
(発光パルスと蓄積制御)発光状態の違いは、発光パルスの数で制御する。図19(a)に示すように、“状態1”では4つの発光パルスを、図19(b)に示すように“状態2”では2つの発光パルス、図19(c)に示すように“状態3”では1つの発光パルスを駆動する。
【0191】
図19に示すように、各発光パルスa−1,b−1,c−1の長さは等しいので、“状態2”は“状態3”の倍の、“状態1”は“状態2”の倍の反射光量が得られることが分かる。この発光パルスに対し、電荷蓄積制御は次のようになっている。
【0192】
各発光パルスa−1,b−1,c−1の下に示すのが蓄積制御の様子を示すチャートである。
【0193】
「1」は図3,図4に示す構成のCMOSセンサを利用した反射画像獲得手段102における当該CMOSセンサの第1の電荷蓄積部に電荷を蓄積していることを示し、「2」は第2の電荷蓄積部に電荷を蓄積していることを示し、「R」は発生電荷を電源に逃がし、リセットしていることを示している。
【0194】
すなわち、図3、図4で説明したようにCMOSセンサは単位受光部PDをn×n画素配列した構成であり、単位受光部PDは1つの光電変換部118と、2つの電荷蓄積部119、120を持っている。光電変換部118と電荷蓄積部119、120の間にはいくつかのゲート(この例では122,123)があり、これらのゲートの制御によつて光電変換部118で発生した電荷を、二つの電荷蓄積部119,120のうちのいずれの電荷蓄積部に導くかを選択できるようになっている。そして、このゲートの制御信号と発光手段101の発光制御信号を同期させる。そして、二つの電荷蓄積部の蓄積電荷の差を得ることで、反射光画像の当該画素での成分とする。
【0195】
図19(c)に示す“状態3”の蓄積制御の様子を見てみると、まず、リセットした後、発光パルスと同期して、光電変換部118の発生電荷をCMOSセンサの第1 の電荷蓄積部に蓄積する。
【0196】
次にもう一度リセットした後、今度は発光していないときに、光電変換部118の発生電荷を第2 の電荷蓄積部に蓄積する。第2の電荷蓄積部には照明光や太陽光などの外光による発生電荷が蓄積されており、第1の電荷蓄積部には外光に加えて発光部からの発光が物体に反射して戻ってきた光、すなわち反射光による発生電荷が蓄積されている。従って、第1の電荷蓄積部と第2の電荷蓄積部に蓄積された電荷量の差を取ることによって、反射光量が求められる。
【0197】
“状態2”は電荷蓄積を各々2 回ずつ行っているので、反射光は約2倍になる。“状態3”は電荷蓄積を4回繰り返す。
【0198】
なお、本具体例ではパルスの数で発光量を制御したが、これに限らない。例えば、図20に示すように、状態対応に、発光パルスのパルス長を2倍、4倍、にして、3つの状態を作り出すようにしてもよい。この場合は“状態1”、“状態2”、“状態3”いずれの場合も電荷蓄積制御は、第1、第2の電荷蓄積部に各1回ずつ蓄積し、その蓄積時間が異なるだけである。
【0199】
発光手段101の状態別総発光時間は図19の場合と同じであるので、反射光量は前の例とほぼ同じである。ただし、外光が変動している場合、長い光パルスを1回出すよりは、短い光パルスを複数回出した方が、外光の影響を受けにくい。
【0200】
(他の発光量制御のバリエーション)反射光量を制御する方法は上述の例の他にもまだある。例えば、発光手段101の発光の強さそのものを変えてしまう方法である。すなわち、発光電流を変えるのである。また、発光手段101として、複数の光源を用いている場合、発光させる光源の数を変えるようにする方法もある。
【0201】
また、反射光量を制御する方法ではないが、A/D変換された後のデジタルデータの大きさの変動を押さえるためのいくつかの方法がある。例えば、A/D変換器の前段のアンプにおいて、その増幅率をダイナミックに変化させる方法がある。また、A/D変換器には0レベルの出力とフルスケール出力に対応する入力電圧をリファレンスとして与えるが、このリファレンス電圧を変化させることによっても、デジタルデータが適切な範囲に収まるように制御することができる。
【0202】
(対数アンプ)A/D変換器の前段に対数アンプなどを挿入することによって、距離の変化に対する信号の変化を抑制することができることから、1つのモードで測定できる範囲は広くなる。そのため、場合によっては上述の処理を省くこともできる。しかし、対数アンプを用いる場合でも、上記処理を用いれば、対象物体である手が、遠い距離にあるときでも、近いときと同じ程度のS/Nで測定できるようになる。
【0203】
(状態決定のバリエーション)上述の例では、反射光画像の画素値の最大値だけで発光状態を決定したが、他の方法もある。例えば、“250”以上の画素値を持つ画素が10個以上となったならば状態を下げる、“100”以下の画素値を持つ画素が10個以上になったならば状態を上げる、という具合に、しきい値の条件を満たす画素数で状態を決定するようにしても良い。この場合、ノイズによって部分的に“250”以上の画素ができたときに状態が変わってしまわないという効果がある。
【0204】
また、画素値の平均値を併用する方法もある。この方法は、ある値以上の(すなわち背景でない)画素の画素値平均を求め、最大値が“250”以上、かつ画素値平均が“150”以上の時、状態を下げる、といった具合である。この方法によれば、最大値だけが突出しているが、それ以外の値は割合小さくて、状態を下げると大部分の分解能が落ちてしまうという場合に、その不具合を防止できる効果がある。
【0205】
また、反射光量をA/D変換する前のアナログ信号レベルで状態決定してしまうこともできる。A/D変換前のアナログ信号をローパスフィルタに通過させると、平均的な信号量が得られる。これを比較回路に入れ、その出力で発光状態を決定する。あるいは、ローパスフィルタの替わりに最大値保持回路に入力すると、入力信号の最大値が分かる。これを基に状態決定する。
【0206】
(アナログ量での発光制御)これまでの例では、発光状態を発光パルス数やパルス幅などによってステップ状に変化させるようにした。つまり、光量制御に発光パルス数やパルス幅を変化させることで発光手段101の発光光量を変えるようにしていた。この場合、きめ細かい光量制御がしにくい面が残る。きめの細かい制御をするにはやはりリニアに光量制御できるようにする必要がある。
【0207】
従って、ここでは発光状態をリニアに変化させる例を述べる。
【0208】
ここでは、A/D変換手段601によるディジタル変換の前のアナログ信号からアナログフィードバック回路を構成し、発光電流、すなわち、発光パワーそのものを制御する。
【0209】
構成例を図22に示す。反射光画像獲得手段102はこの図においては、アナログ信号を出力する。これをローパスフィルタ(LPF)602に通すことにより、フレームのDC成分(直流成分)を抽出する。このDC成分がある値より大きいときは発光量を下げ、小さいときは発光量を上げるようなフィードバックループを発光量決定手段603の中に構成しておく。
【0210】
このことによって、反射光画像の平均が常に一定になるように発光手段101の発光量が自動的に調整される。
【0211】
図22ではアナログ信号からフレームのDC成分を抽出するのに、LPFを用いるようにしたが、これに限らず、例えば、最大値検出回路を使えば、常に反射光画像の最大値が一定になるように制御できる。また、発光電流を制御する替わりに、発光パルス長をリニアに制御するなどしてもよい。
【0212】
この方法では、反射光画像の平均(または最大値)が常に一定になるように自動的に発光量が制御されてしまうため、手全体の距離が替わったときにそれを検出することができない。従って、自動的に発光量を制御することを優先し、距離の絶対値は必要ないときに用いると効果的である。また、距離の絶対値は求まらないが、相対距離情報は求まるので、形だけを検出したいときにも適する。また、発光量を何らかの形で反射光画像処理手段103に渡すようにしておけば、得られた反射光画像と発光量から距離画像を復元できる。
【0213】
以上は、発光手段の発光量を制御することで、対象物体の位置する距離の遠近に伴う反射光画像の画質に及ぼす影響を抑制するようにした例を説明した。
【0214】
これに対して、発光手段の発光の強さを変えながら、何枚か反射光画像を取り、これを合成することでもダイナミックレンジの広い反射光画像を生成取得することが可能である。そして、これにより、良質の反射光画像を得ることができ、近いところから遠いところまで、精度良く距離検出できる。この例を次に説明する。
【0215】
[対象物体の距離変動による反射光画像の画質への影響を抑制する具体例]
図23を参照して具体例を説明する。この装置は発光手段101、反射光画像獲得手段102、フレームバッファ701、反射光画像合成手段702、制御手段703、発光状態制御手段704にて構成される。
【0216】
発光状態制御手段704は発光手段101がいくつかの発光モードで発光するようにこれを制御する。具体的には例えば、発光状態制御手段704は、発光手段101がそれにしたがって発光する発光パルスを生成するものとし、何パターンかの発光パルスを順に生成する。同時に、反射光画像獲得手段102に対し、蓄積制御信号を与える。反射光画像獲得手段102における電荷蓄積動作は発光動作と同期している必要があるため、発光状態制御手段704がこれを同時に制御する。
【0217】
反射光画像獲得手段102から出力された反射光画像のデータは、フレームバッファ701に蓄積される。規定のフレーム数のデータがフレームバッファ701に蓄積されると、反射光画像合成手段702がこれを読み出し、合成処理を行う。制御手段703はこれら全体のタイミング制御を行う。
【0218】
(合成アルゴリズムの説明)
反射光画像合成手段702の処理をさらに詳細に説明する。
今、発光状態制御手段704は、図17を参照して説明した具体例1において述べた“状態1”、“状態2”、“状態3”の各動作を順に行うものとする。つまり、最初にある発光パワーで発光し、次にその半分の発光パワーで発光し、最後にさらにその半分(最初の1/4)の発光パワーで発光する。
【0219】
その発光動作に同期して反射光画像獲得手段102による反射光画像獲得処理が行われ、フレームバッファ701には3フレームの反射光画像が蓄積される。この3フレームの反射光画像を用いて反射光画像合成手段702が処理を行う。
【0220】
“状態1”、“状態2”、“状態3”に対応する反射光画像をそれぞれ“反射光画像1”、“反射光画像2”、“反射光画像3”と呼ぶことにする。
“反射光画像2”は“反射光画像3”の倍の画素値を、“反射光画像1”は“反射光画像3”の4倍の画素値を持っている。ただし、最大で255である。そこで、次のようなアルゴリズムで反射光画像を合成する。各座標(x、y)について、“反射光画像1”、“反射光画像2”、“反射光画像3”の座標(x,y)の画素値を、それぞれP1(x,y)、P2(x,y)、P3(x,)とし、合成画像の画素値をP(x,y)とする。
【0221】
今、ある画素(x,y)について、P1(x,y)が255未満であれば、P(x,y)=P1(x,y)、そして、P1(x,y)=255かつP(x,y)<255であれば、P(x,y)=P2(x,y)×2、また、P11(x,y)=P2(x,y)=255であれば、P(x,y)=P3(x,y×4とする。
【0222】
この処理の流れをまとめると図24のフローチャートの如きとなる。
(合成アルゴリズムのバリエーション)
上述のアルゴリズムは“反射光画像1”、“反射光画像2”、“反射光画像3”の画素値がきちんと倍々に増えていることを前提としているが、実際には、回路の非線型性や電荷蓄積容量の性質などによって、多少の誤差が生ずる。
【0223】
次にこの誤差の補正方法を説明する。
“反射光画像2”が“反射光画像3”の何倍か(理想的には2倍)、“反射光画像1”が“反射光画像2”の何倍か(理想的には2倍)をきちんと求める。
まず、“反射光画像2”の中で、“255”未満の画素値を持つ画素をすべて取り出し、対応する“反射光画像3”の画素値との比をとる。この比の平均α23が、“反射光画像2”の“反射光画像3”に対する倍率であるとみなしてよい。
【0224】
前出のフローチャートのP(x,y)=P2(x,y)×2の2の替わりにα23を用いる。“反射光画像1”の“反射光画像2”に対する比α12も同様に求め、P(x,y)=P3(x,y)×4の4の替わりに、α12×α23を用いる。
【0225】
今は“反射光画像2”において“255”未満の画素値すべてについて、“反射光画像3”との比を求めたが、あまり値が小さい場合は、比の計算誤差が大きいので、“255”未満“100”以上の画素値というように、ある程度の大きさの画素だけを選択して、演算の対象にしてもよい。
【0226】
以上、種々の具体例を説明したが、要するに本発明は、外光のみにより対象物体の画像を得(第1の受光)、また、発光手段により光を発光して対象物にあて、その対象物体による反射光を画像として捉える(第2の受光)と共にその差成分を得て(反射光画像)、これより前記対象物体の画像を抽出する装置において、第1には、前記照明光の発生する波長成分の光を除去する除去手段と、前記対象物体の置かれる環境下での光量を前記除去手段を介して検出する検出手段と、この検出手段による検出出力から前記対象物体のおかれる環境の明るさの状態を判断して前記受光手段により得た前記差成分の画像の採否を決める手段とを備えたものである。
【0227】
また、第2には、前記照明光の発生する波長成分の光を除去する除去手段と、前記対象物体のおかれる環境下での光量を前記除去手段を介して検出する検出手段と、この検出手段による検出出力から前記対象物体のおかれる環境の明るさの状態を検出し、変動の周期情報を出力する手段と、この変動の周期情報に基づく変動周期に同期して前記発光手段と前記受光手段を駆動制御する手段とを備えたものである。
【0228】
また、第3には、前記対象物体のおかれる環境を常時、照明する照明手段と、この照明手段の光量を制御する手段とを備えたものである。
【0229】
また、第4には、前記発光手段の発光量を異ならせた複数種の発光モードを持ち、決定された発光モードで前記発光手段の発光を実施させるべく制御する手段と、前記発光手段を前記いずれかの発光モードで予備発光させる手段と、前記受光手段より前記予備発光時の前記対象物体の画像情報を得て、この画像情報から、最適となる発光モードを決定し、前記制御手段に与える決定手段とを備えたものである。
【0230】
そして、第5には、前記発光手段の発光量を異ならせた複数種の発光モードを持ち、これらの発光モードを順次選択して、その発光モードで前記発光手段の発光を実施させるべく制御する手段と、前記各種の発光モードでの発光動作時にそれぞれ前記受光手段から得た差成分の画像を合成する手段とを備えたものである。
【0231】
本発明は、対象物体に照明光を照射する発光手段と、前記対象物体の画像を得る受光手段とを有し、発光手段による照明光の非照射時での前記対象物体の画像と、発光手段による照明光の照射時での前記対象物体の画像を前記受光手段によりそれぞれ所定の同一検出時間を以て得ると共に、得られた両画像の差成分を求めることにより、前記対象物体の画像を抽出する場合に、外光の変動のある環境において、特定の対象物体を容易に高精度に抽出することができるようにするという第1の目的を達成すべく、上記第1乃至第3の構成を採用した。
【0232】
そして、第1の構成の場合、照明光の発生する波長成分の光を除去する除去手段を介して検出手段は前記対象物体の置かれる環境下での光量を検出する。これにより環境下での光量の監視が可能になる。検出手段のこの検出出力から前記対象物体のおかれる環境の明るさの状態を判断して前記受光手段により得た前記差成分の画像の採否を決める。
【0233】
その結果、環境下の光変動の大きさが画質に影響を及ぼす程度のものとなっている状態で取得された差成分の画像は採用しないようにし、画質に支障のない範囲の光変動のときの画像のみを取捨選択して利用できるようになる。
【0234】
また、第2の構成の場合、照明光の発生する波長成分の光を除去する除去手段を介して、検出手段により前記対象物体のおかれる環境下での光量を検出する。この検出出力から前記対象物体のおかれる環境の明るさの状態を検出し、変動の周期情報を得る。そして、この変動の周期情報に基づく変動周期に同期して前記発光手段と前記受光手段を駆動制御する。
【0235】
この結果、環境下の光に周期的変動があった場合に、その変動周期に同期した発光手段の発光と、受光手段による画像取得ができ、従って、発光手段による対象物体からの反射光成分による画像を精度良く取得できるようになる。
【0236】
また、第3の構成の場合、対象物体のおかれる環境を常時、照明する照明手段を光量制御する手段を設けたことで、安定した光量の環境下での画像取得ができ、従って、発光手段による対象物体からの反射光成分による画像を精度良く取得できるようになる。
【0237】
差成分(差分画像)を取得するにあたり、外光のみの環境下での対象物体の画像と、照明光を照射させて得た対象物体の画像とを得るが、これらの画像はそれぞれ同じ所定の期間、撮像装置である受光手段の検出出力(画像信号を電荷として蓄積したもの)を得るが、外光の状況に変動があると外光のみの環境下での取得画像と、照明光を当てて得た段階での取得画像中それぞれでの外光成分が異なったものとなってしまい、これは雑音成分となり、対象物体のみの画像の抽出精度に影響を与える。本発明によれば、これを解消できる。
【0238】
また、本発明は、対象物体に照明光を照射する発光手段と、前記対象物体の画像を得る受光手段とを有し、発光手段による照明光の非照射時での前記対象物体の画像と、発光手段による照明光の照射時での前記対象物体の画像を前記受光手段によりそれぞれ所定の同一検出時間を以て得ると共に、得られた両画像の差成分を求めることにより、前記対象物体の画像を抽出する場合に、対象物体と受光手段との距離が変わっても、最適状態の画像抽出が可能な画像抽出装置とすることができるようにするという第2の目的を達成すべく、上記第4及び第5の構成を採用した。
【0239】
そして、第4の構成の場合、発光手段の発光量を異ならせた複数種の発光モードを用意し、そして、最初に発光手段に予備発光をさせ、このときの対象物体の画像を取得して、その画像の状態から、上記複数種の発光モードのうちから、現状で最適の状態の画像が取得し得る最適発光モードを決定し、この決定された発光モードで前記発光手段の発光を実施させるべく制御するようにした。
【0240】
予備発光で画像の状態を調べ、最適な画像が取得可能な発光モードを決定してそのモードで本番での発光手段の発光を行い、得られた画像から差分の画像の取得をするようにしたので、対象物体と受光手段との距離が変わっても、最適状態の画像抽出が可能な画像抽出装置を提供できる。
【0241】
また、第5の構成の場合、発光手段の発光量を異ならせた複数種の発光モードを用意する。そして、これらの発光モードを順次選択して、その発光モードで前記発光手段の発光を実施させる。そして、これら各種の発光モードでの発光動作時にそれぞれ前記受光手段から得た差成分の画像を合成し、対象物体の差成分の画像として用いるようにする。その結果、対象物体と受光手段との距離が変わっても、最適状態の画像抽出ができる画像抽出装置を提供できる。
【0242】
差成分(差分画像)を取得するにあたり、外光のみの環境下での対象物体の画像と、照明光を照射させて得た対象物体の画像とを得るが、これらの画像はそれぞれ同じ所定の期間、撮像装置である受光手段の検出出力(画像信号を電荷として蓄積したもの)を得る。そして、光の強さは距離の2乗に反比例するので、対象物体の距離の変動は得た差分画像の品質に影響を与える。本発明によれば、これを解消できる。
【0243】
なお、本発明は上述した具体例に限定されることなく、種々変形して実施し得る。
【0244】
【発明の効果】
以上、詳述したように、本発明によれば、外光の影響を抑制できて、特定の対象物体を容易に高精度に抽出することができるようになり、また、対象物体の位置が種々変わってもこれに影響されることなくなって、、特定対象物体の形状、動き、距離情報などを得るにあたり、その元となる特定の対象物体を画像中から精度よく抽出するできるようなる画像抽出装置を提供できる。
【図面の簡単な説明】
【図1】本発明を適用する対象の一具体例の全体構成を示すブロック図。
【図2】図1の装置のより具体的な構成例を示す図。
【図3】図1の装置における反射光抽出手段102の構成例の詳細図。
【図4】図3に示す反射光抽出手段の一画素分の単位受光部PDの概略構成を示す図。
【図5】図3,図4の回路中の受光部におけるゲートなどの制御信号と発光制御信号、および光の強さの時間的変化を示す図。
【図6】本発明の具体例を説明するためのブロック図。
【図7】図6の構成の本システムの動作例を説明するための図。
【図8】図6の構成の本システムの動作例を説明するための図。
【図9】図6の構成の本システムの動作例を説明するフローチャート。
【図10】本発明の別の具体例を説明するためのブロック図。
【図11】本発明の別の具体例を説明するためのブロック図。
【図12】図11の構成の本システムの動作例を説明するための図。
【図13】図11の構成の本システムの別の動作例を説明するための図。
【図14】本発明の別の具体例を説明するためのブロック図。
【図15】図14の構成の本システムの別の動作例を説明するための図。
【図16】図距離をパラメータとしたときの対象物体とその検出光量の関係を示す特性図。
【図17】本発明の別の具体例を説明するためのブロック図。
【図18】図17の装置における各状態モードの遷移を説明する図。
【図19】図17の構成の装置の動作例を説明するための図。
【図20】図17の構成の装置の別の動作例を説明するための図。
【図21】線形アンプと対数アンプの特性例を示す図。と
【図22】対象物体の距離の変動による反射光画像の画質への影響を抑制する本発明装置の別の具体例を説明するブロック図。
【図23】対象物体の距離の変動による反射光画像の画質への影響を抑制する本発明装置の別の具体例を説明するブロック図。
【図24】図23の装置の処理内容を説明するフローチャート。
【図25】従来例を説明するための図であって、従来の3次元ポインティングデバイスの一例を示す図。
【符号の説明】
101…発光手段
102…反射光画像獲得手段(反射光抽出手段)
103…特徴情報生成手段(反射光画像処理手段)
104…受発光制御信号生成手段(タイミング信号生成手段)
106…対象物体
201…外光光源
202…フィルタ
203…外光検出手段
204…外光状態判定手段
205…受発光動制御手段
401…照明制御信号生成手段
500…最大画素値検出手段
501…発光状態決定手段
601…A/D変換器
602…ローパスフィルタ(LPF)
603…発光量決定手段
604…反射光画像処理手段
701…フレームバッファ
702…反射光画像合成手段
703…制御手段
704…発光状態制御手段
Claims (3)
- 対象物体に照明光を照射する発光手段と、
前記照明光の照射時及び非照射時における前記対象物体の画像の差分を求めることにより、前記照明光による前記対象物体からの反射光のみを画像として獲得する反射光画像獲得手段と、
前記照明光の発生する波長成分の光を除去する除去手段と、
前記対象物体のおかれる環境下での光量を前記除去手段を介して検出する検出手段と、
前記検出手段による検出出力から前記対象物体のおかれる環境の明るさの状態を判断して前記反射光画像獲得手段が獲得した画像の採否を決める手段とを具備する画像抽出装置。 - 対象物体に照明光を照射する発光手段と、
前記発光手段と同期的に動作して前記照明光に基づく前記対象物体からの反射光と外光とを受光する第1の受光手段と、
前記発光手段と同期的に動作して前記外光のみを受光する第2の受光手段と、前記第1及び第2の受光手段の出力の差分を求めることにより、前記照明光による前記対象物体からの反射光のみを画像として獲得する差分演算手段と、
前記照明光の発生する波長成分の光を除去する除去手段と、
前記対象物体のおかれる環境下での光量を前記除去手段を介して検出する検出手段と、
前記検出手段による検出出力から前記対象物体のおかれる環境の明るさの状態を検出し、該明るさの変動周期を示す周期情報を出力する手段と、
前記周期情報により示される変動周期に同期して前記発光手段と前記第1及び第2の受光手段を駆動制御する手段とを具備する画像抽出装置。 - 前記反射光画像獲得手段は、前記発光手段と同期的に動作して前記照明光に基づく前記対象物体からの反射光と外光とを受光する第1の受光手段と、前記発光手段と同期的に動作して前記外光のみを受光する第2の受光手段と、前記第1及び第2の受光手段の出力の差分を求める差分演算手段とを有する請求項1または2のいずれか1項に記載の画像抽出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003032768A JP3785148B2 (ja) | 2003-02-10 | 2003-02-10 | 画像抽出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003032768A JP3785148B2 (ja) | 2003-02-10 | 2003-02-10 | 画像抽出装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP01939797A Division JP3410919B2 (ja) | 1996-10-18 | 1997-01-31 | 画像抽出装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005351166A Division JP2006127539A (ja) | 2005-12-05 | 2005-12-05 | 画像抽出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003296721A JP2003296721A (ja) | 2003-10-17 |
JP3785148B2 true JP3785148B2 (ja) | 2006-06-14 |
Family
ID=29398096
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003032768A Expired - Fee Related JP3785148B2 (ja) | 2003-02-10 | 2003-02-10 | 画像抽出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3785148B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006087812A1 (ja) * | 2005-02-18 | 2006-08-24 | Fujitsu Limited | 画像処理方法、画像処理システム、画像処理装置及びコンピュータプログラム |
JP5149641B2 (ja) * | 2008-02-06 | 2013-02-20 | パナソニック株式会社 | 撮像装置 |
JP2012117893A (ja) * | 2010-11-30 | 2012-06-21 | Lixil Corp | 物体検知センサ |
KR101180027B1 (ko) | 2011-03-10 | 2012-09-06 | 디나스트 | 광센서 및 이를 이용한 감지 방법 |
JP6630511B2 (ja) | 2015-07-31 | 2020-01-15 | 理想科学工業株式会社 | 画像読取装置 |
-
2003
- 2003-02-10 JP JP2003032768A patent/JP3785148B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003296721A (ja) | 2003-10-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3410919B2 (ja) | 画像抽出装置 | |
JP3321053B2 (ja) | 情報入力装置及び情報入力方法及び補正データ生成装置 | |
US6144366A (en) | Method and apparatus for generating information input using reflected light image of target object | |
JP4831267B2 (ja) | 情報処理装置、情報処理方法、プログラム及び電子装置 | |
JP2000222097A (ja) | 固体撮像装置 | |
US20190392247A1 (en) | Enhanced Contrast for Object Detection and Characterization By Optical Imaging Based on Differences Between Images | |
US8269868B2 (en) | Systems and methods for imaging | |
JP3471201B2 (ja) | 撮像モジュール、および撮像装置 | |
JPWO2015001770A1 (ja) | 複数の光源を有するモーションセンサ装置 | |
TWI516990B (zh) | 具有可調整追蹤參數的導航裝置 | |
JP2016501426A (ja) | 可変視野照明装置を用いた物体検出及び追跡 | |
JP2015526927A (ja) | カメラ・パラメータのコンテキスト駆動型調整 | |
US10616561B2 (en) | Method and apparatus for generating a 3-D image | |
JPWO2014174779A1 (ja) | 複数の光源を有するモーションセンサ装置 | |
US20120274606A1 (en) | Optical navigation system with object detection | |
JP3625349B2 (ja) | 画像入力装置および画像入力方法 | |
JP3785148B2 (ja) | 画像抽出装置 | |
JP2006127539A (ja) | 画像抽出装置 | |
CN103139472B (zh) | 数字拍摄设备及其控制方法 | |
JP2011188023A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP3591808B2 (ja) | 画像入力装置および方法および記録媒体 | |
JP3625390B2 (ja) | 画像取得装置および方法 | |
JP7222391B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP2018085118A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2000221574A (ja) | 切り替え手段を備えた撮像モジュール |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050926 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20051004 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051205 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060314 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060316 |
|
LAPS | Cancellation because of no payment of annual fees |