JP3631325B2 - 3D image input device - Google Patents

3D image input device Download PDF

Info

Publication number
JP3631325B2
JP3631325B2 JP17719096A JP17719096A JP3631325B2 JP 3631325 B2 JP3631325 B2 JP 3631325B2 JP 17719096 A JP17719096 A JP 17719096A JP 17719096 A JP17719096 A JP 17719096A JP 3631325 B2 JP3631325 B2 JP 3631325B2
Authority
JP
Japan
Prior art keywords
dimensional image
light
light source
sensitivity
image sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP17719096A
Other languages
Japanese (ja)
Other versions
JPH109834A (en
Inventor
明人 小田切
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP17719096A priority Critical patent/JP3631325B2/en
Publication of JPH109834A publication Critical patent/JPH109834A/en
Application granted granted Critical
Publication of JP3631325B2 publication Critical patent/JP3631325B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
この発明は、2次元距離画像とその輝度画像とが同時に入力可能な2次元撮像素子を用いた3次元画像入力装置に関する。
【0002】
【従来の技術】
2次元距離画像とその輝度画像の同時入力を目的とした従来の技術としては、例えば特願平7−146949号において提案されているような“2次元距離センサ”がある。次に、上記出願において提案されている従来の技術について説明する。図4は上記出願において提案されている2次元距離センサ(3次元画像入力装置)を示すブロック構成図である。図4において、101 は2次元撮像素子103 の感度を変調するための感度変調駆動部、102 は2次元撮像素子駆動部、104 は制御信号発生器、105 は信号処理部、106 は光源109 により放射される光の波長のみを透過させる光学バンドフィルタ、107 は結像光学系、108 は光源109 を変調する光源駆動部、110 は被写体(対象物体)を示している。感度変調が可能な2次元撮像素子103 としては、例えば、CMD(Charge Modulation Device)撮像素子がある。
【0003】
次に、このような構成の3次元画像入力装置の動作を、図5に示すタイミングチャートを用いて説明する。図5において、Φは計測開始パルス、ΦSMは2次元撮像素子103 の受光感度を変調するパルス、ΦLDは光源109 を駆動するパルス、Φref は光源109 から出射され、有限の距離にある被写体110 によって反射され2次元撮像素子103 の受光面上に結像された戻り光、ΦRDは2次元撮像素子103 からデータを読み出すための読み出し駆動パルス群、ΦDATAは2次元撮像素子103 から読み出されたデータ(信号電荷)を表している。図5における時刻tにおいて、事前に2次元撮像素子103 の信号電荷は全てはき捨てられており、時刻tに計測開始パルスΦが入る。これを起点として測距装置が動作し始める。一方、光源109 がOFFしている状態で、制御信号発生器104 からの制御信号ΦLDにより光源駆動部108 は光源109 の輝度変調を開始し、また2次元撮像素子103 の感度変調駆動部101 も、制御信号発生器104 からの制御信号ΦSMにより、前記輝度変調と同一の周波数で、2次元撮像素子103 の感度変調を開始する。
【0004】
この3次元画像入力装置は、光源の輝度変調と2次元撮像素子の感度変調を同期させて測距を行っているが、更に、説明を簡単にするため、輝度変調並びに感度変調は、周期Tf ,デューティー50%の矩形波でなされており、且つ変調された輝度の最低レベルは輝度0,また変調された感度の最高レベルを1,最低レベルを感度0に設定されるものと仮定する。また、感度変調しない時の感度を有した状態の感度レベルも1と規定する。また、ここで言う輝度変調とは、光源109 をある設定周波数でON−OFFさせることにより、2次元撮像素子103 の電荷蓄積を制御することを言う。一方、感度変調とは、ある設定周波数で2次元撮像素子103 の感度を変化させることを言う。
【0005】
次に、距離情報の求め方と3次元画像入力装置の動作を合わせて説明する。距離zにある被写体110 を考えると、光源109 から投光された光は、距離zを走行して被写体110 に投影されて反射し、再び距離zを走行して2次元撮像素子103 に結像される。この距離zにある被写体110 からの入射光は、次式(1)で表されるtだけ光源109 からの発光より遅れて、2次元撮像素子103 に入射する。
=(2×z)/c ・・・・・・・・・・(1)
但し、cは光速である。このため1周期の輝度変調期間に、2次元撮像素子103 の画素部に生成可能な信号電荷数の比率ηは、距離z=0にある被写体の場合をη=1と規格化すれば、次式(2)で表される。
η=1−(2×t)/Tf ・・・・・・・(2)
つまり、当該画素の出力を計測すれば、式(2)に示すように既知の周期Tf と計測したηとから、tを求めることができ、更に(1)を用いれば、次式(1)′により被写体110 までの距離zを算出することが可能となる。
z=(c×t)/2 ・・・・・・・・・・(1)′
【0006】
信号蓄積期間Ta が終了した時点で、2次元撮像素子103 上の各画素部には、信号蓄積期間Ta 中に光源109 からの戻り光の輝度を持った期間と2次元撮像素子103 の感度を有した期間の重なった時間に発生した信号電荷が蓄積されている。この2次元撮像素子103 に蓄積した信号電荷を期間Ra で読み出す。ここで読み出された信号電荷はHa として読み出される。この信号電荷Ha は、次式(3)で表される。
Ha (x,y)=(k/2)・η(z)・I(x,y)・Ta ・・・(3)
ここで、k;輝度変調にかかわる比例定数、デューティー50%で変調してるので1/2倍している。
η(z);感度変調にかかわる項
I(x,y);被写体の反射光の強度で、このI(x,y)には被写体までの距離に応じて減少する光源の照度の影響も含まれている。
【0007】
前記のように信号蓄積期間Ta が終了した後、2次元撮像素子103 を駆動して、これらの信号電荷を読み出し、信号処理部105 の中に設けた図示しないメモリに格納する。読み出しと同時に、またはその後に、各画素の信号電荷をクリアーする。次に時刻tにおいて、再び制御信号発生器104 からの制御信号ΦLDにより光源駆動部108 は光源109 の輝度変調を開始し、また感度変調駆動部101 は、2次元撮像素子103 の感度を一定の状態に維持しながら信号電荷を蓄積可能にする(図5,期間Tb )。この時、信号蓄積期間Ta とTb の時間は等しく設定する。何故ならば、後に信号蓄積期間Ta とTb の信号電荷を比較して、被写体までの距離情報を算出するためである。また期間Tb においては、感度変調をせず一定感度(通常の撮像モード)なので、(3)式の感度変調に伴う因子は定数であり、この感度を有した状態を1と規定する。したがって、期間Tb が終了した時点で2次元撮像素子103 の各画素部には、次式(4)で示される信号電荷が蓄積されていることになる。
Hb (x,y)=(k/2)・I(x,y)・Tb ・・・・・・・(4)
【0008】
期間Tb の終了後、時刻t直前の動作と同様に、期間Rb において2次元撮像素子103 を駆動して、これらの信号電荷をHb として読み出し、信号処理部105 の中に設けた図示しないメモリのうち、信号蓄積期間Ta の終了の後に書き込んだものとは別のメモリに、式(4)で示される情報(信号電荷)が格納される。その後、時刻t以前に2次元撮像素子103 の信号電荷をはき捨て、時刻tに計測開始パルスΦが入り、時刻tの時と同様にして測距が開始する。この時刻tからtまでが測距の1サイクルであり、実際の測距はこの手順の繰り返しによって行われることになる。このようにして信号処理部105 の中に設けた図示しないメモリに格納されている(3)式で表される信号電荷Ha と、(4)式で表される信号電荷Hb から、2次元撮像素子103 の通常駆動時の信号電荷Hb に対する感度変調駆動時の信号電荷Ha の比が、次式(5)により求められる。
η={Ha (x,y)/Ta }/{Hb (x,y)/Tb }・・・・(5)
この信号電荷比率ηと既知のTf とから、(2)式によりtが求められ、ここで求めたtを(1)′式に代入すると、被写体110 までの距離zが得られることになる。
【0009】
【発明が解決しようとする課題】
ところで、従来の構成の3次元画像入力装置(2次元距離センサ)により測距をする場合、測距可能な距離範囲zは、t≦(Tf /2)という条件を満たさなければならない。したがって、(1)′式より次式(6)が得られる。
z≦(c×Tf )/4 ・・・・・・・・・・(6)
したがって、測距範囲を拡大するには輝度変調周期Tf を大きく(輝度変調周波数を低く)する必要がある。また、測距精度を向上させるには輝度変調周期Tf を小さく(輝度変調周波数を高く)する必要がある。このことから、測距精度と測距範囲が両立しないことがわかる。
【0010】
以上のように、先の出願で提案した従来構成の3次元画像入力装置(2次元距離センサ)では、単一光源であるから測距精度と測距範囲を両立させることは不可能である。例えば、光源の輝度変調周波数を10MHz とすると、(6)式より測距可能範囲は7.50mとなり、仮に測距を8ビット階調(256 階調)で行うとすれば、測距範囲7.50mを256 階調に分割すると1階調の測距範囲(分解能)は 2.9cmとなる。一方、光源の輝度変調周波数が 100MHz であれば、1輝度変調周期当たりの測距範囲は0.75mに縮小されるので、8ビット階調において1階調当たりの測距範囲は0.29cmとなる。これは言い換えると、分解能が1桁向上したことと等価である。
【0011】
本発明は、先に提案した2次元距離センサ(3次元画像入力装置)における上記問題点を解消するためなされたもので、測距精度と測距範囲が両立可能な3次元画像入力装置を提供することを目的とする。
【0012】
【課題を解決するための手段】
上記問題点を解決するため、本発明は、所定の周波数、持続時間及び繰り返し時間で輝度変調された光ビームを対象物体に投光する光源と、該光源からの光ビームで照明された対象物体の像を結像する結像光学系と、該結像光学系の結像面に設置された光電変換の感度変調が可能な2次元撮像素子と、該撮像素子の感度を決定する電極端子を前記周波数で変調する駆動部と、前記撮像素子の各画素において生成された信号電荷に対応した信号を取り出す読み出し手段とを備え、前記対象物体の2次元距離情報を前記2次元撮像素子の信号電荷の分布から得るようにした3次元画像入力装置において、前記光源からの光ビームは、輝度変調周波数の異なる複数の波長の光ビームにより構成されていることを特徴とするものである。
【0013】
このように、光源からの光ビームを、輝度変調周波数の異なる複数の波長で構成し、該光ビームを分配する光学的分配器を設けると共に、該分割された複数の光ビームをそれぞれ受光する複数の2次元撮像素子を設けることにより、異なる輝度変調周波数による3次元撮像を同時に且つ並列的に行うことが可能となる。これにより、測距に要する時間は従来と変わらずに、且つ測距範囲も縮小せずに、測距精度を向上させることが可能となる。
【0014】
【発明の実施の形態】
次に実施の形態について説明する。図1は、本発明に係る3次元画像入力装置の実施の形態を示すブロック構成図である。この実施の形態においては、説明を簡単にするために用いる光源は2種としている。この実施の形態の3次元画像入力装置が図1に示した先に提案したものと異なる点は、光波長、輝度変調周波数の異なる2種の光源を用いて、これら2光源の被写体からの戻り光を同時観測するようにした点である。2種の光源のうち、一方の光源にはある所定の光波長、輝度変調周期を設定し、他方の光源には前記一方の光源とは異なる光波長であり、該一方の光源に対して輝度変調周期を短く(輝度変調周波数を高く)設定するものとしている。
【0015】
先に、測距をする場合、測距可能な距離範囲zは、t≦(Tf /2)という条件を満たさなければならないと述べたが、まずこの理由について説明する。図4に示した従来例で記述したように、測距の際、2次元撮像素子103 上の各画素部には、信号蓄積期間Ta 中に光源109 からの戻り光の輝度を持った期間(Φref のONしている期間)と2次元撮像素子103 の感度を有している期間(ΦSMのONしている期間)の重複した期間に発生した信号電荷が蓄積する。よって、tが、0≦t≦(Tf /2)の期間には、2次元撮像素子103 に蓄積する信号電荷Ha は、t=0の時をHa =1と規定すれば、tが増すにつれてΦref とΦSMのONしている期間の重複する期間が減少するので、Ha の値は減少してゆき、t=(Tf /2)の時Ha =0となる。一方、(Tf /2)<t<Tf の期間については、t=(Tf /2)の時のHa =0を境に、再び信号電荷Ha は増加に転じ、tの時間の増加と共にΦref とΦSMのONしている期間の重複する期間が増加するので、Ha の値は増加してゆき、t=Tf の時のHa =1(t=0の時と等価)まで増加し続けることになる。本測距の距離情報は、蓄積信号電荷から算出しているので、(Tf /2)<t<Tf の期間の蓄積信号電荷を測距データとして用いようとしても、0≦t≦(Tf /2)の期間に得られたものか否かの判別ができない。このため、測距可能な距離範囲zを規定する式(6)には、t≦(Tf /2)という条件が含まれることになる。
【0016】
なお、次式(7)が成立するときも、検出される信号電荷は前記周期の繰り返しになる。
≦(n・Tf )+(Tf /2)・・・・・(7)
但し、nは正の整数である。しかし、実際には(7)式において、nが1以上では被写体からの戻り光の強度は距離の2乗に比例して弱くなるから、現実的にはn=0のデータを用いることが望ましい。
【0017】
次に、図1に示した実施の形態の具体的な構成について説明する。図1において、1は被写体からの戻り光(反射光)の結像面を2つ形成するためのハーフミラー、2,3はそれぞれ背景光の影響を除去し、輝度変調された光源の波長帯域の反射光の波長付近の光のみを透過させる第1及び第2の光学バンドパスフィルタ、4,5は第1及び第2の2次元撮像素子、6は2次元撮像素子4,5の感度を変調するための感度変調駆動部、7は2次元撮像素子駆動部、8は制御信号発生器、9は信号処理部、10は光源駆動部、11は光源11a,11bを搭載した照明装置、12は結像光学系、13は被写体(対象物体)を示している。なお、第1のバンドパスフィルタ2は光源11aの光の波長のみを透過し、第2の光学バンドパスフィルタ3は光源11bの光の波長のみを透過するように設定されている。
【0018】
この実施の形態が図4に示した先に提案したものと異なる点は、先に述べたように、2種の光源を用いて、光源11aと光波長、輝度変調周波数の異なる光源11bの被写体13からの戻り光を、光源11aの被写体13からの戻り光と同時観測するように構成した点であるが、次に、2種の光源を用いた際、異なる光波長と輝度変調周波数にする理由について述べる。異なる輝度変調周波数を用いる理由は、測距範囲と測距精度の両立を図るためである。次に、異なる光波長を用いる理由について述べる。これは、測定系の制約によるものである。照明装置11から出射した2種の光(変調光)が被写体13から戻ってきた際、第1,第2の2次元撮像素子4,5に入射する前に、ハーフミラー1で分配される。この光を第1,第2の2次元撮像素子4,5の前面にそれぞれ設置された光学バンドパスフィルタ2,3で、第1,第2の2次元撮像素子4,5がそれぞれ受光する光成分のみに選別する。このように変調周波数の異なる光の分離を可能にするために、異なる光波長の光源を用いることが必要になる。
【0019】
次に、このように構成した3次元画像入力装置の動作を、図2に示したタイミングチャートを参照しながら説明する。まず、光源11aにおける被写体13からの戻り光を測距する測定系に限って、その動作タイミングについて説明する。図2において、Φは計測開始パルス、ΦSM1 は第1の2次元撮像素子4の感度を変調するパルス、ΦLD1 は光源11aを駆動するパルス、Φref1は光源11aから出射され、有限の距離にある被写体13によって反射されハーフミラー1を介して第1の2次元撮像素子4の受光面上に結像された戻り光、ΦRD1 は第1の2次元撮像素子4から蓄積信号電荷を読み出すための読み出し駆動パルス群、ΦDATA1 は第1の2次元撮像素子4から読み出された蓄積信号電荷を表している。
【0020】
次に、光源11aによる被写体13からの戻り光を観測する測定系の動作について説明する。ここで説明を簡単にするため、輝度変調並びに感度変調は、期間Tfg,デューティー50%の矩形波でなされており、且つ変調された輝度の最低レベルは輝度0,また変調された感度の最低レベルは感度0に設定されるものと仮定する。また、感度変調しない時の感度を有している状態の感度レベルも1と規定する。
【0021】
まず、時刻tでは、事前に第1の2次元撮像素子4の信号電荷は全てはき捨てられており、時刻tに計測開始パルスΦが入る。これを起点として測距装置が動作し始める。光源11aは、OFFしている状態で、制御信号発生器8からの制御信号ΦLD1 により、光源駆動部10は光源11aの輝度変調を開始する。また第1の2次元撮像素子4の感度変調駆動部6も制御信号発生器8からの制御信号ΦSM1 により、前記輝度変調周波数と同一の周波数で、第1の2次元撮像素子4の感度変調駆動を開始する(図2の信号蓄積期間Tag)。距離zにある被写体13へ光源11aから投光された光は、距離zを走行して被写体13に投影されて反射し、再び距離zを走行して第1の2次元撮像素子4に結像される。このため距離zにある被写体13からの戻り光Φref1は、tdgだけ光源11aの発光時間より遅れて、第1の2次元撮像素子4へ入射する。
【0022】
信号蓄積期間Tagの終了の後、期間Ragにおいて第1の2次元撮像素子4を駆動して、これらの信号を信号電荷Hagとして読み出し、信号処理部9の内部に設けた図示しないメモリagに格納する。読み出しと同時に、又はその後に各画素の信号電荷をクリアする。次に時刻tにおいて、再び、制御信号発生器8からの制御信号ΦLD1 により光源駆動部10は光源11aの輝度変調を開始し、一方第1の2次元撮像素子4の感度変調駆動部6は、第1の2次元撮像素子4が受光状態で且つ一定感度(通常駆動)を維持する(図2の期間Tbg)。
【0023】
この時には、2次元撮像素子の感度変調をさせないので、期間Tbg中に各画素内で発生した電荷が全て蓄積することになる。但し、戻り光Φref1の遅延時間tdgを考慮し、ΦSM1 の立ち下がりのタイミングは期間Tbgの終了後、Tfg/2以上経過時点に設定する。
【0024】
期間Tbgが終了の後、期間Rbgにおいて第1の2次元撮像素子4を駆動して、これらの蓄積信号電荷を読み出し、信号処理部9の内部に設けた図示しないメモリのうち、信号蓄積期間Tagの終了後に書き込んだメモリagとは別のメモリbgに格納する。その後、時刻t以前に第1の2次元撮像素子4の信号電荷をはき捨て、時刻tに計測開始パルスΦが入り、時刻tの時と同様にして測距が開始する。この時刻tからtまでが測距の1サイクルであり、実際の測距はこの手順の繰り返しによって行われることになる。上記信号処理部内の各メモリag,bgには、それぞれ信号蓄積期間Tag,Tbg中の情報(信号電荷)が記憶されており、2次元距離情報は従来例と同様にして簡単に求められる。
【0025】
以上は、光源11aによる被写体13からの戻り光を観測する場合について説明したが、次に、光源11bにおける被写体13からの戻り光を測距する測定系に限って、その動作タイミングについて説明する。図2において、Φは計測開始パルス、ΦLD2 は光源11bを駆動するパルス、ΦSM2 は第2の2次元撮像素子5の感度を変調するパルス、Φref2は光源11bから出射され、有限の距離にある被写体13によって反射され、ハーフミラー1を介して第2の2次元撮像素子5の受光面上に結像された戻り光、ΦRD2 は第2の2次元撮像素子5からデータ(蓄積信号電荷)を読み出すための読み出し駆動パルス群、ΦDATA2 は第2の2次元撮像素子5から読み出されたデータ(蓄積信号電荷)を表している。
【0026】
次に、光源11bによる被写体13からの戻り光を観測する測定系の動作について説明する。基本的な動作は光源11aの被写体13からの戻り光の観測系と同様である。また、検出された信号電荷から2次元距離情報を得る方法も従来例と同様である。異なる点は、光源11bの波長、光源11bを駆動するΦLD2 の輝度変調周波数と、第2の2次元撮像素子5を駆動するΦSM2 の感度変調周波数であり、光源11bからの戻り光Φref2は、ΦLD2 の輝度変調周波数が異なるので、それに伴ってΦref1とは異なった変調になっている。(ΦLD2 の輝度変調周波数と等価)。なお、信号蓄積期間TagとTbg,TahとTbhは、同一期間に設定しなければならない。また、信号蓄積期間Tag(Tbg)とTah(Tbh)も同一期間に設定するものとする。なお、図2においてtdhはtdgに対応する遅延時間、TfhはTfgに対応する期間、Rah,RbhはRag,Rbgに対応する期間、Hah,HbhはHag,Hbgに対応する信号電荷をそれぞれ示している。
【0027】
次に、このようにして、2種の光源を用いて2つの2次元撮像素子から観測された信号電荷をどのように処理するか、その概念について図3を用いて説明する。図3は、横軸が光源から被写体までの距離zを表し、右縦軸は信号電荷比率η,左縦軸は検出階調を表している。なお、説明を簡単にするため、便宜上、検出階調を8階調と仮定している。この1階調範囲内の距離は識別不可能である。よって、ある階調とある階調の範囲内に被写体までの距離zが存在する時は、その距離を上位階調と認識するか下位階調と認識するかは予め定義しておく。また、信号電荷比率ηに関しては、t=0のとき得られる信号電荷を1に規格化している。
【0028】
図3において、aが変調周波数の低い光源の測距結果の信号電荷比率の周期を表し、bはaの10倍の変調周波数を持つ光源の測距結果の信号電荷比率周期を表している。また、aの測距範囲は(6)式より図3に示す通り(c・T10)/4であり、bの測距範囲は(c・T100 )/4である。ここで、T10,T100 は、それぞれ変調周波数10MHz , 100MHz の変調周期を示している。
【0029】
次に、処理手順について説明する。まず、変調周波数の低い一方の光源の被写体までの距離を、測定された信号電荷比率より大雑把につかむ。その後に、他方の変調周波数の高い光源において、測定された信号電荷比率から先に求めた結果より精度の良い距離を求める。図3においては、まずaにおいて被写体までの距離zを信号電荷比率から求める。aからは被写体までの距離zはz〜zの範囲に存在することがわかる。次に、いま求めた結果を基に、bで得られた信号電荷比率より光源から被写体までの距離zを算出する。この時zは、z〜zの範囲に存在することがわかる。このように、zは先に求めた結果より良い精度で求められることになる。
【0030】
次に、これを実際にどのようにして求めるかについて説明する。例えば、aの光源の輝度変調周波数を10MHz ,信号電荷比率をη=0.65, 256階調の測距、という3つの仮定をした時、(2)式よりt=17.5〔ns〕となり、(1)′式より被写体までの距離は、z=2.61〜2.64(m)の範囲に存在することがわかる。これをもとにして、bの輝度変調周波数を 100MHz に設定した光源の被写体からの戻り光を 256階調で測距したデータを比較、算出する。この結果より被写体までの距離がz=2.624 〜2.625 (m)の範囲内に存在することがわかる。この例では、輝度変調周波数が10MHz と 100MHz の1桁異なる2つの光源による2つの測距結果を組み合わせることにより、輝度変調周波数10MHz の光源からの戻り光の測距範囲7.50mを維持したままで、輝度変調周波数 100MHz の光源からの戻り光の測距によって、分解能を1桁向上した測距が可能となることを示している。もし、単一光源で輝度変調周波数 100MHz の光源からの戻り光の測距を行った場合には、測距精度は輝度変調周波数10MHz の場合に比べ1桁向上するものの、この光源の測距範囲は輝度変調周波数10MHz の場合の1/10になってしまう。しかし、本発明による構成をとることにより、測距範囲の低下を防ぐことができる。
【0031】
このように、従来の測距に要する時間を変化させずに、且つ測距範囲を縮小させることなく、測距精度を向上させることを可能にすることができる。なお、本発明に係る3次元画像入力装置においては、測距範囲は用いている光源のなかで最も低い輝度変調周波数で規定され、測距精度は用いている光源のなかで最も高い輝度変調周波数で規定されることになる。
【0032】
上記実施の形態では、光源を2つ用いる場合について示したが、言うまでもなく光源の数を2つに限る必要はない。また、本発明の基礎は、光源の輝度変調周波数と同期して2次元撮像素子の感度を変調するところにある。したがって、基板電位あるいは受光面に存在する電極電位により、感度が変化する撮像素子全般に、本発明が適用可能である。
【0033】
【発明の効果】
以上実施の形態に基づいて説明したように、本発明によれば、複数の2次元撮像素子の感度変調を、光波長、輝度変調周波数の異なる複数の光源の各々の輝度変調に対応させて同期化し、対象物体の2次元距離情報の同時測定を行うように構成しているので、従来の測距に要する時間を変化させずに、且つ測距範囲を縮小させることなく、測距精度を向上させることが可能となる。また、本発明によれば、光の多重性を利用することにより、各波長の光源位置及び撮像素子までの光軸及び距離を揃えることが可能となり、複数の輝度変調周波数の光による並列測定においても、幾何学的精度を保つことが可能になる。
【図面の簡単な説明】
【図1】本発明に係る3次元画像入力装置の実施の形態を示すブロック構成図である。
【図2】図1に示した実施の形態の動作を説明するためのタイミングチャートである。
【図3】図1に示した実施の形態における測距処理手順を説明するための概念図である。
【図4】先に提案した3次元画像入力装置を示すブロック構成図である。
【図5】図4に示した3次元画像入力装置の動作を説明するためのブロック構成図である。
【符号の説明】
1 ハーフミラー
2 第1の光学バンドパスフィルタ
3 第2の光学バンドパスフィルタ
4 第1の2次元撮像素子
5 第2の2次元撮像素子
6 感度変調駆動部
7 2次元撮像素子駆動部
8 制御信号発生器
9 信号処理部
10 光源駆動部
11 照明装置
11a,11b 光源
12 結像光学系
13 被写体
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a three-dimensional image input apparatus using a two-dimensional image sensor capable of simultaneously inputting a two-dimensional distance image and its luminance image.
[0002]
[Prior art]
As a conventional technique for simultaneously inputting a two-dimensional distance image and its luminance image, for example, there is a “two-dimensional distance sensor” as proposed in Japanese Patent Application No. 7-146949. Next, a conventional technique proposed in the above application will be described. FIG. 4 is a block diagram showing a two-dimensional distance sensor (three-dimensional image input device) proposed in the above application. In FIG. 4, 101 is a sensitivity modulation driving unit for modulating the sensitivity of the two-dimensional image sensor 103, 102 is a two-dimensional image sensor driving unit, 104 is a control signal generator, 105 is a signal processing unit, and 106 is a light source 109. An optical band filter that transmits only the wavelength of the emitted light, 107 is an imaging optical system, 108 is a light source driving unit that modulates the light source 109, and 110 is a subject (target object). As the two-dimensional image sensor 103 capable of sensitivity modulation, for example, there is a CMD (Charge Modulation Device) image sensor.
[0003]
Next, the operation of the three-dimensional image input apparatus having such a configuration will be described with reference to the timing chart shown in FIG. In FIG. S Is the measurement start pulse, Φ SM Is a pulse that modulates the light receiving sensitivity of the two-dimensional image sensor 103, Φ LD Is the pulse that drives the light source 109, Φ ref Is returned from the light source 109, reflected by the subject 110 at a finite distance and imaged on the light receiving surface of the two-dimensional image sensor 103, Φ RD Is a read drive pulse group for reading data from the two-dimensional image sensor 103, Φ DATA Represents data (signal charge) read from the two-dimensional image sensor 103. Time t in FIG. 0 , All the signal charges of the two-dimensional image sensor 103 are discarded in advance, and the time t 0 Measurement start pulse Φ S Enters. With this as a starting point, the distance measuring apparatus starts to operate. On the other hand, the control signal Φ from the control signal generator 104 in a state where the light source 109 is OFF. LD As a result, the light source driving unit 108 starts luminance modulation of the light source 109, and the sensitivity modulation driving unit 101 of the two-dimensional image sensor 103 also controls the control signal Φ from the control signal generator 104. SM Thus, the sensitivity modulation of the two-dimensional image sensor 103 is started at the same frequency as the luminance modulation.
[0004]
This three-dimensional image input apparatus performs distance measurement by synchronizing the luminance modulation of the light source and the sensitivity modulation of the two-dimensional image sensor. To further simplify the description, the luminance modulation and the sensitivity modulation are performed with a period Tf. , And the lowest level of the modulated luminance is set to 0, the highest level of the modulated sensitivity is set to 1, and the lowest level is set to 0. In addition, the sensitivity level in a state having sensitivity when sensitivity modulation is not performed is defined as 1. The luminance modulation referred to here means controlling the charge accumulation of the two-dimensional image sensor 103 by turning on and off the light source 109 at a certain set frequency. On the other hand, sensitivity modulation refers to changing the sensitivity of the two-dimensional image sensor 103 at a certain set frequency.
[0005]
Next, how to obtain the distance information and the operation of the 3D image input apparatus will be described together. Considering the subject 110 1 at a distance z, the light projected from the light source 109 travels the distance z, is projected and reflected on the subject 110 1, travels the distance z again, and forms an image on the two-dimensional image sensor 103 1. Is done. Incident light from the subject 110 1 at this distance z is expressed by the following equation (1). d Only after the light emission from the light source 109 is incident on the two-dimensional image sensor 103.
t d = (2 × z) / c (1)
Where c is the speed of light. For this reason, the ratio η of the number of signal charges that can be generated in the pixel portion of the two-dimensional image sensor 103 during one luminance modulation period is as follows if the subject at the distance z = 0 is normalized to η = 1. It is represented by Formula (2).
η = 1− (2 × t d ) / Tf (2)
In other words, when the output of the pixel is measured, as shown in the equation (2), from the known period Tf and the measured η, t d Further, if (1) is used, the distance z to the subject 110 can be calculated by the following equation (1) ′.
z = (c × t d ) / 2 (1) '
[0006]
At the end of the signal accumulation period Ta 1, each pixel portion on the two-dimensional image sensor 103 has a period during which the brightness of the return light from the light source 109 during the signal accumulation period Ta and the sensitivity of the two-dimensional image sensor 103 are set. The signal charge generated at the time that overlaps the existing period is accumulated. The signal charge accumulated in the two-dimensional image sensor 103 is read out during the period Ra. The signal charge read here is read as Ha. This signal charge Ha is expressed by the following equation (3).
Ha (x, y) = (k / 2) · η (z) · I (x, y) · Ta (3)
Here, k is a proportionality constant related to luminance modulation, and is modulated with a duty of 50%, so it is multiplied by 1/2.
η (z); term related to sensitivity modulation
I (x, y): The intensity of reflected light from the subject, and this I (x, y) includes the influence of the illuminance of the light source that decreases according to the distance to the subject.
[0007]
After the signal accumulation period Ta is completed as described above, the two-dimensional image sensor 103 is driven to read out these signal charges and store them in a memory (not shown) provided in the signal processing unit 105. Simultaneously with or after reading, the signal charge of each pixel is cleared. Next time t 1 Again, the control signal Φ from the control signal generator 104 LD Thus, the light source driving unit 108 starts luminance modulation of the light source 109, and the sensitivity modulation driving unit 101 enables signal charges to be accumulated while maintaining the sensitivity of the two-dimensional image sensor 103 (FIG. 5, period). Tb). At this time, the signal accumulation periods Ta and Tb are set to be equal. This is because information on the distance to the subject is calculated by comparing the signal charges in the signal accumulation periods Ta and Tb later. In the period Tb, since sensitivity is not modulated and the sensitivity is constant (normal imaging mode), the factor accompanying the sensitivity modulation in the equation (3) is a constant, and the state having this sensitivity is defined as 1. Therefore, when the period Tb ends, the signal charge represented by the following equation (4) is accumulated in each pixel portion of the two-dimensional image sensor 103.
Hb (x, y) = (k / 2) · I (x, y) · Tb (4)
[0008]
At the end of period Tb, time t 1 Similar to the previous operation, the two-dimensional imaging device 103 is driven in the period Rb to read out these signal charges as Hb, and the end of the signal accumulation period Ta 1 in the memory (not shown) provided in the signal processing unit 105 1 is completed. The information (signal charge) represented by the equation (4) is stored in a memory different from the one written after. Then time t 2 Previously, the signal charge of the two-dimensional image sensor 103 was discarded, and the time t 2 Measurement start pulse Φ S Entered, time t 0 Ranging starts in the same way as in. This time t 0 To t 2 This is one cycle of distance measurement, and actual distance measurement is performed by repeating this procedure. Thus, two-dimensional imaging is performed from the signal charge Ha represented by the expression (3) and the signal charge Hb represented by the expression (4) stored in the memory (not shown) provided in the signal processing unit 105. The ratio of the signal charge Ha 1 at the time of sensitivity modulation driving to the signal charge Hb at the time of normal driving of the element 103 is obtained by the following equation (5).
η = {Ha (x, y) / Ta} / {Hb (x, y) / Tb} (5)
From this signal charge ratio η and the known Tf, t d T was obtained here. d Is substituted into the equation (1) ′, the distance z to the subject 110 is obtained.
[0009]
[Problems to be solved by the invention]
By the way, when the distance is measured by the conventional three-dimensional image input device (two-dimensional distance sensor), the distance range z that can be measured is t d The condition of ≦ (Tf / 2) must be satisfied. Therefore, the following equation (6) is obtained from the equation (1) ′.
z ≦ (c × Tf) / 4 (6)
Therefore, in order to expand the distance measurement range, it is necessary to increase the luminance modulation period Tf (lower the luminance modulation frequency). In order to improve distance measurement accuracy, it is necessary to reduce the luminance modulation period Tf (increase the luminance modulation frequency). This shows that the distance measurement accuracy and the distance measurement range are not compatible.
[0010]
As described above, since the conventional three-dimensional image input device (two-dimensional distance sensor) proposed in the previous application is a single light source, it is impossible to achieve both distance measurement accuracy and distance measurement range. For example, if the luminance modulation frequency of the light source is 10 MHz, the distance measurement possible range is 7.50 m from the equation (6). If the distance measurement is performed with 8-bit gradation (256 gradations), the distance measurement range 7 When .50 m is divided into 256 gradations, the distance measurement range (resolution) for one gradation is 2.9 cm. On the other hand, if the luminance modulation frequency of the light source is 100 MHz, the distance measurement range per luminance modulation period is reduced to 0.75 m, so the distance measurement range per gradation in an 8-bit gradation is 0.29 cm. Become. In other words, this is equivalent to an improvement in resolution by one digit.
[0011]
The present invention has been made to solve the above-mentioned problems in the previously proposed two-dimensional distance sensor (three-dimensional image input device), and provides a three-dimensional image input device capable of satisfying both distance measurement accuracy and distance measurement range. The purpose is to do.
[0012]
[Means for Solving the Problems]
In order to solve the above-described problems, the present invention provides a light source that projects a light beam whose luminance is modulated at a predetermined frequency, duration, and repetition time onto a target object, and a target object that is illuminated with the light beam from the light source. An imaging optical system that forms an image of the image, a two-dimensional imaging device that is installed on the imaging surface of the imaging optical system and capable of modulating the sensitivity of photoelectric conversion, and an electrode terminal that determines the sensitivity of the imaging device A drive unit that modulates at the frequency; and a reading unit that extracts a signal corresponding to the signal charge generated in each pixel of the image sensor; and the two-dimensional distance information of the target object is the signal charge of the two-dimensional image sensor In the three-dimensional image input apparatus obtained from the above distribution, the light beam from the light source is composed of light beams having a plurality of wavelengths having different luminance modulation frequencies.
[0013]
In this way, the light beam from the light source is configured with a plurality of wavelengths having different luminance modulation frequencies, and an optical distributor for distributing the light beam is provided, and a plurality of light beams that respectively receive the divided light beams. By providing the two-dimensional imaging element, it becomes possible to perform three-dimensional imaging with different luminance modulation frequencies simultaneously and in parallel. Thereby, it is possible to improve the distance measurement accuracy without changing the time required for the distance measurement, and without reducing the distance measurement range.
[0014]
DETAILED DESCRIPTION OF THE INVENTION
Next, embodiments will be described. FIG. 1 is a block configuration diagram showing an embodiment of a three-dimensional image input apparatus according to the present invention. In this embodiment, two types of light sources are used to simplify the description. The three-dimensional image input apparatus of this embodiment is different from the previously proposed one shown in FIG. 1 in that two types of light sources having different light wavelengths and luminance modulation frequencies are used, and these two light sources are returned from the subject. This is the point where light is observed simultaneously. Of the two types of light sources, one light source has a predetermined light wavelength and a luminance modulation period, and the other light source has a light wavelength different from that of the one light source. The modulation period is set short (the luminance modulation frequency is high).
[0015]
When the distance is measured first, the distance range z that can be measured is t d Although it has been stated that the condition of ≦ (Tf / 2) must be satisfied, the reason for this will be described first. As described in the conventional example shown in FIG. 4, during distance measurement, each pixel portion on the two-dimensional image sensor 103 has a period (in the signal accumulation period Ta) with the brightness of the return light from the light source 109 ( Φ ref During which the two-dimensional image sensor 103 is sensitive (Φ SM The signal charges generated during the overlapping period of (ON period) are accumulated. Therefore, t d Is 0 ≦ t d In the period of ≦ (Tf / 2), the signal charge Ha accumulated in the two-dimensional image sensor 103 is t d If it is defined that Ha = 1 when t = 0, t d Φ with increasing ref And Φ SM Since the overlapping period of the ON period decreases, the value of Ha decreases and t d When Ha == (Tf / 2), Ha = 0. On the other hand, (Tf / 2) <t d <For the period of Tf, t d Signal charge Ha starts to increase again at the boundary of Ha = 0 when == (Tf / 2), and t d Φ with increasing time ref And Φ SM Since the overlapping period of the ON period increases, the value of Ha increases and t d = Ha when Tf = 1 (t d = 0) (equivalent to when 0). Since the distance information of this distance measurement is calculated from the accumulated signal charge, (Tf / 2) <t d Even if the accumulated signal charge during the period of <Tf is used as the distance measurement data, 0 ≦ t d It is not possible to determine whether or not it is obtained during the period of ≦ (Tf / 2). Therefore, the expression (6) that defines the distance range z that can be measured includes t d The condition of ≦ (Tf / 2) is included.
[0016]
Even when the following equation (7) is satisfied, the detected signal charge is repeated in the above cycle.
t d ≦ (n · Tf) + (Tf / 2) (7)
However, n is a positive integer. However, in reality, in the formula (7), when n is 1 or more, the intensity of the return light from the subject becomes weaker in proportion to the square of the distance. .
[0017]
Next, a specific configuration of the embodiment shown in FIG. 1 will be described. In FIG. 1, reference numeral 1 denotes a half mirror for forming two imaging surfaces of return light (reflected light) from an object, and reference numerals 2 and 3 denote wavelength bands of light sources whose luminance is modulated by removing the influence of background light. The first and second optical bandpass filters that transmit only light in the vicinity of the reflected light wavelength, 4 and 5 are the first and second two-dimensional image sensors, and 6 is the sensitivity of the two-dimensional image sensors 4 and 5. Sensitivity modulation drive unit for modulation, 7 is a two-dimensional image sensor drive unit, 8 is a control signal generator, 9 is a signal processing unit, 10 is a light source drive unit, 11 is an illumination device equipped with light sources 11a and 11b, 12 Indicates an imaging optical system, and 13 indicates a subject (target object). The first band pass filter 2 is set to transmit only the wavelength of light from the light source 11a, and the second optical band pass filter 3 is set to transmit only the wavelength of light from the light source 11b.
[0018]
The difference between this embodiment and the previously proposed one shown in FIG. 4 is that, as described above, two types of light sources are used, and the subject of the light source 11b having a light wavelength and a luminance modulation frequency different from those of the light source 11a. 13 is configured such that the return light from 13 is simultaneously observed with the return light from the subject 13 of the light source 11a. Next, when two types of light sources are used, different light wavelengths and luminance modulation frequencies are set. Describe the reason. The reason for using different luminance modulation frequencies is to achieve both the distance measurement range and the distance measurement accuracy. Next, the reason for using different light wavelengths will be described. This is due to measurement system limitations. When two types of light (modulated light) emitted from the illumination device 11 return from the subject 13, the light is distributed by the half mirror 1 before entering the first and second two-dimensional imaging elements 4 and 5. The light received by the first and second two-dimensional image sensors 4 and 5 by the optical bandpass filters 2 and 3 respectively installed on the front surfaces of the first and second two-dimensional image sensors 4 and 5. Select only ingredients. Thus, in order to enable separation of light having different modulation frequencies, it is necessary to use light sources having different light wavelengths.
[0019]
Next, the operation of the three-dimensional image input apparatus configured as described above will be described with reference to the timing chart shown in FIG. First, the operation timing will be described only in the measurement system that measures the return light from the subject 13 in the light source 11a. In FIG. S Is the measurement start pulse, Φ SM1 Is a pulse that modulates the sensitivity of the first two-dimensional image sensor 4, Φ LD1 Is a pulse for driving the light source 11a, Φ ref1 Is returned from the light source 11a, reflected by the subject 13 at a finite distance, and imaged on the light receiving surface of the first two-dimensional image sensor 4 via the half mirror 1, Φ RD1 Is a read drive pulse group for reading the accumulated signal charge from the first two-dimensional image pickup device 4, Φ DATA1 Represents the accumulated signal charge read from the first two-dimensional image sensor 4.
[0020]
Next, the operation of the measurement system for observing the return light from the subject 13 by the light source 11a will be described. In order to simplify the description here, the luminance modulation and the sensitivity modulation are performed by a rectangular wave having a period Tfg and a duty of 50%, and the lowest level of the modulated luminance is zero and the lowest level of the modulated sensitivity. Is assumed to be set to zero sensitivity. Also, the sensitivity level in the state where the sensitivity is obtained when the sensitivity is not modulated is defined as 1.
[0021]
First, time t 0 Then, all the signal charges of the first two-dimensional imaging device 4 are discarded in advance, and the time t 0 Measurement start pulse Φ S Enters. With this as a starting point, the distance measuring apparatus starts to operate. The light source 11a is in the OFF state, and the control signal Φ from the control signal generator 8 LD1 Thus, the light source driving unit 10 starts luminance modulation of the light source 11a. Further, the sensitivity modulation driving unit 6 of the first two-dimensional image pickup device 4 is also controlled by the control signal Φ from the control signal generator 8. SM1 Thus, the sensitivity modulation driving of the first two-dimensional image sensor 4 is started at the same frequency as the luminance modulation frequency (signal accumulation period Tag in FIG. 2). The light projected from the light source 11 a to the subject 13 at the distance z travels the distance z, is projected and reflected on the subject 13, travels the distance z again, and forms an image on the first two-dimensional imaging device 4. Is done. Therefore, the return light Φ from the subject 13 at the distance z ref1 T dg Only after the light emission time of the light source 11a, the light enters the first two-dimensional image sensor 4.
[0022]
After the end of the signal accumulation period Tag, the first two-dimensional imaging device 4 is driven in the period Rag to read out these signals as signal charges Hag and store them in a memory ag (not shown) provided in the signal processing unit 9. To do. Simultaneously with or after reading, the signal charge of each pixel is cleared. Next time t 1 Again, the control signal Φ from the control signal generator 8 LD1 As a result, the light source driving unit 10 starts luminance modulation of the light source 11a, while the sensitivity modulation driving unit 6 of the first two-dimensional imaging device 4 is in the light receiving state and has a constant sensitivity (normal driving). ) Is maintained (period Tbg in FIG. 2).
[0023]
At this time, since the sensitivity modulation of the two-dimensional image sensor is not performed, all charges generated in each pixel during the period Tbg are accumulated. However, return light Φ ref1 Delay time t dg Φ SM1 The falling timing of is set at the time when Tfg / 2 or more has elapsed after the end of the period Tbg.
[0024]
After the period Tbg ends, in the period Rbg, the first two-dimensional imaging device 4 is driven to read out these accumulated signal charges, and among the memory (not shown) provided in the signal processing unit 9, the signal accumulation period Tag Is stored in a memory bg that is different from the memory ag that has been written. Then time t 2 Previously, the signal charge of the first two-dimensional image sensor 4 was discarded, and the time t 2 Measurement start pulse Φ S Entered, time t 0 Ranging starts in the same way as in. This time t 0 To t 2 This is one cycle of distance measurement, and actual distance measurement is performed by repeating this procedure. Information (signal charge) in the signal accumulation periods Tag and Tbg is stored in the memories ag and bg in the signal processing unit, respectively, and the two-dimensional distance information can be easily obtained in the same manner as in the conventional example.
[0025]
The case where the return light from the subject 13 is observed by the light source 11a has been described above. Next, the operation timing will be described only in the measurement system for measuring the return light from the subject 13 in the light source 11b. In FIG. 2, Φ S Is the measurement start pulse, Φ LD2 Is a pulse for driving the light source 11b, Φ SM2 Is a pulse that modulates the sensitivity of the second two-dimensional image sensor 5, Φ ref2 Is returned from the light source 11b, reflected by the subject 13 at a finite distance, and imaged on the light receiving surface of the second two-dimensional image sensor 5 via the half mirror 1, Φ RD2 Is a read drive pulse group for reading data (accumulated signal charge) from the second two-dimensional image sensor 5, Φ DATA2 Represents the data (accumulated signal charge) read from the second two-dimensional image sensor 5.
[0026]
Next, the operation of the measurement system for observing the return light from the subject 13 by the light source 11b will be described. The basic operation is the same as the observation system of the return light from the subject 13 of the light source 11a. The method for obtaining the two-dimensional distance information from the detected signal charge is the same as in the conventional example. The differences are the wavelength of the light source 11b and the Φ driving the light source 11b. LD2 Brightness modulation frequency and Φ for driving the second two-dimensional image sensor 5 SM2 , And the return light Φ from the light source 11b. ref2 Is Φ LD2 The brightness modulation frequency of ref1 The modulation is different. (Φ LD2 Equivalent to the luminance modulation frequency). The signal accumulation periods Tag and Tbg, Tah and Tbh must be set to the same period. The signal accumulation periods Tag (Tbg) and Tah (Tbh) are also set to the same period. In FIG. 2, t dh Is t dg , Tfh is a period corresponding to Tfg, Rah and Rbh are periods corresponding to Rag and Rbg, and Hah and Hbh are signal charges corresponding to Hag and Hbg, respectively.
[0027]
Next, how the signal charges observed from the two two-dimensional imaging elements are processed using two kinds of light sources in this way will be described with reference to FIG. In FIG. 3, the horizontal axis represents the distance z from the light source to the subject, the right vertical axis represents the signal charge ratio η, and the left vertical axis represents the detected gradation. For simplicity, it is assumed that the detected gradation is 8 gradations for convenience. The distance within this one gradation range cannot be identified. Therefore, when the distance z to the subject exists within a certain gradation and a certain gradation range, it is defined in advance whether the distance is recognized as the upper gradation or the lower gradation. As for the signal charge ratio η, t d The signal charge obtained when = 0 is normalized to 1.
[0028]
In FIG. 3, a represents the signal charge ratio period of the distance measurement result of the light source having a low modulation frequency, and b represents the signal charge ratio period of the distance measurement result of the light source having a modulation frequency 10 times as large as a. Also, the distance measurement range of a is as shown in FIG. 10 ) / 4, and the distance measurement range of b is (c · T 100 ) / 4. Where T 10 , T 100 Are modulation periods of modulation frequencies of 10 MHz and 100 MHz, respectively.
[0029]
Next, the processing procedure will be described. First, the distance to the subject of one light source with a low modulation frequency is roughly grasped from the measured signal charge ratio. After that, in the other light source with a high modulation frequency, a distance with higher accuracy is obtained from the result obtained previously from the measured signal charge ratio. In FIG. 3, first, the distance z to the subject at a is obtained from the signal charge ratio. The distance z from a to the subject is z 1 ~ Z 2 It can be seen that it exists in the range of. Next, based on the obtained result, the distance z from the light source to the subject is calculated from the signal charge ratio obtained in b. At this time, z is z 3 ~ Z 4 It can be seen that it exists in the range of. Thus, z is obtained with better accuracy than the result obtained previously.
[0030]
Next, how this is actually obtained will be described. For example, when three assumptions are made: the luminance modulation frequency of the light source a is 10 MHz, the signal charge ratio is η = 0.65, and the distance measurement is 256 gradations, t d = 17.5 [ns], and it can be seen from the equation (1) ′ that the distance to the subject is in the range of z = 2.61 to 2.64 (m). Based on this, the data obtained by measuring the return light from the subject of the light source with the luminance modulation frequency of b set to 100 MHz in 256 gradations are compared and calculated. From this result, it can be seen that the distance to the subject is in the range of z = 2.624 to 2.625 (m). In this example, by combining two distance measurement results from two light sources having luminance modulation frequencies of 10 MHz and 100 MHz, which are different by one digit, the distance measurement range of the return light from the light source having the luminance modulation frequency of 10 MHz is maintained. Thus, it is shown that distance measurement with a resolution improved by an order of magnitude is possible by distance measurement of return light from a light source having a luminance modulation frequency of 100 MHz. If the distance of the return light from a light source with a luminance modulation frequency of 100 MHz is measured with a single light source, the ranging accuracy is improved by one digit compared with the case of the luminance modulation frequency of 10 MHz. Becomes 1/10 of the luminance modulation frequency of 10 MHz. However, by adopting the configuration according to the present invention, it is possible to prevent the distance measurement range from being lowered.
[0031]
As described above, it is possible to improve the distance measurement accuracy without changing the time required for the conventional distance measurement and without reducing the distance measurement range. In the three-dimensional image input apparatus according to the present invention, the distance measurement range is defined by the lowest luminance modulation frequency among the light sources used, and the distance measurement accuracy is the highest luminance modulation frequency among the light sources used. It will be specified in.
[0032]
Although the case where two light sources are used has been described in the above embodiment, it is needless to say that the number of light sources is not limited to two. The basis of the present invention is to modulate the sensitivity of the two-dimensional image sensor in synchronization with the luminance modulation frequency of the light source. Therefore, the present invention can be applied to any imaging device whose sensitivity changes depending on the substrate potential or the electrode potential existing on the light receiving surface.
[0033]
【The invention's effect】
As described above based on the embodiments, according to the present invention, the sensitivity modulation of a plurality of two-dimensional imaging devices is synchronized with the luminance modulation of each of a plurality of light sources having different light wavelengths and luminance modulation frequencies. The distance measurement accuracy can be improved without changing the time required for conventional distance measurement and reducing the distance measurement range. It becomes possible to make it. In addition, according to the present invention, it is possible to align the light source position of each wavelength and the optical axis and distance to the image sensor by using the multiplicity of light, and in parallel measurement using light of a plurality of luminance modulation frequencies. However, it becomes possible to maintain the geometric accuracy.
[Brief description of the drawings]
FIG. 1 is a block configuration diagram showing an embodiment of a three-dimensional image input apparatus according to the present invention.
FIG. 2 is a timing chart for explaining the operation of the embodiment shown in FIG. 1;
FIG. 3 is a conceptual diagram for explaining a distance measurement processing procedure in the embodiment shown in FIG. 1;
FIG. 4 is a block diagram showing a previously proposed three-dimensional image input apparatus.
FIG. 5 is a block diagram for explaining the operation of the three-dimensional image input apparatus shown in FIG. 4;
[Explanation of symbols]
1 half mirror
2 First optical bandpass filter
3 Second optical bandpass filter
4 First two-dimensional image sensor
5 Second two-dimensional image sensor
6 Sensitivity modulation drive
7 Two-dimensional image sensor drive unit
8 Control signal generator
9 Signal processor
10 Light source drive
11 Lighting device
11a, 11b Light source
12 Imaging optics
13 Subject

Claims (2)

所定の周波数、持続時間及び繰り返し時間で輝度変調された光ビームを対象物体に投光する光源と、該光源からの光ビームで照明された対象物体の像を結像する結像光学系と、該結像光学系の結像面に設置された光電変換の感度変調が可能な2次元撮像素子と、該撮像素子の感度を決定する電極端子を前記周波数で変調する駆動部と、前記撮像素子の各画素において生成された信号電荷に対応した信号を取り出す読み出し手段とを備え、前記対象物体の2次元距離情報を前記2次元撮像素子の信号電荷の分布から得るようにした3次元画像入力装置において、前記光源からの光ビームは、輝度変調周波数の異なる複数の波長の光ビームにより構成されていることを特徴とする3次元画像入力装置。A light source that projects a light beam whose luminance is modulated at a predetermined frequency, duration, and repetition time onto a target object; and an imaging optical system that forms an image of the target object illuminated with the light beam from the light source; A two-dimensional image pickup device capable of modulating the sensitivity of photoelectric conversion installed on the image forming surface of the image forming optical system; a drive unit for modulating an electrode terminal for determining the sensitivity of the image pickup device with the frequency; and the image pickup device A three-dimensional image input device comprising: a reading unit that extracts a signal corresponding to the signal charge generated in each pixel of the pixel; and obtaining the two-dimensional distance information of the target object from the signal charge distribution of the two-dimensional image sensor. 3. The three-dimensional image input apparatus according to claim 1, wherein the light beam from the light source is composed of light beams having a plurality of wavelengths having different luminance modulation frequencies. 前記対象物体からの戻り光の結像面を複数形成する光学的分配器を備え、該複数の結像面にはそれぞれ光学的バンドパスフィルタを介して2次元撮像素子を配設し、前記光学的バンドパスフィルタは前記光ビームに含まれる波長成分のうち少なくともひとつの波長の光を透過させると共に、前記2次元撮像素子の感度変調周期は、対応するバンドパスフィルタを透過する波長の光の変調周期と一致するように構成されていることを特徴とする請求項1記載の3次元画像入力装置。An optical distributor for forming a plurality of imaging planes of return light from the target object is provided, and a two-dimensional image sensor is disposed on each of the plurality of imaging planes via an optical bandpass filter. The optical bandpass filter transmits light having at least one wavelength among the wavelength components included in the light beam, and the sensitivity modulation period of the two-dimensional image sensor is modulation of light having a wavelength transmitted through the corresponding bandpass filter. The three-dimensional image input device according to claim 1, wherein the three-dimensional image input device is configured to coincide with a cycle.
JP17719096A 1996-06-19 1996-06-19 3D image input device Expired - Fee Related JP3631325B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP17719096A JP3631325B2 (en) 1996-06-19 1996-06-19 3D image input device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP17719096A JP3631325B2 (en) 1996-06-19 1996-06-19 3D image input device

Publications (2)

Publication Number Publication Date
JPH109834A JPH109834A (en) 1998-01-16
JP3631325B2 true JP3631325B2 (en) 2005-03-23

Family

ID=16026757

Family Applications (1)

Application Number Title Priority Date Filing Date
JP17719096A Expired - Fee Related JP3631325B2 (en) 1996-06-19 1996-06-19 3D image input device

Country Status (1)

Country Link
JP (1) JP3631325B2 (en)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3840341B2 (en) 1998-10-15 2006-11-01 浜松ホトニクス株式会社 Three-dimensional information detection method and apparatus
FR2832892B1 (en) * 2001-11-27 2004-04-02 Thomson Licensing Sa SPECIAL EFFECTS VIDEO CAMERA
JP4673674B2 (en) * 2005-06-06 2011-04-20 株式会社リコー Shape measuring device
DE102005056265A1 (en) * 2005-11-14 2007-05-16 Pilz Gmbh & Co Kg Device and method for monitoring a room area, in particular for securing a danger zone of an automated system
JP2010175435A (en) * 2009-01-30 2010-08-12 Nippon Hoso Kyokai <Nhk> Three-dimensional information detecting apparatus and three-dimensional information detecting method
US8531651B2 (en) 2009-03-05 2013-09-10 Panasonic Corporation Distance measuring device, distance measuring method, program, and integrated circuit
KR20130129358A (en) * 2010-07-29 2013-11-28 와이카토링크 리미티드 Apparatus and method for measuring the distance and/or intensity characteristics of objects
KR101030763B1 (en) * 2010-10-01 2011-04-26 위재영 Image acquisition unit, acquisition method and associated control unit
EP2890125B1 (en) * 2013-12-24 2021-10-13 Sony Depthsensing Solutions A time-of-flight camera system
US20170074652A1 (en) * 2014-04-22 2017-03-16 Basf Se Detector for optically detecting at least one object
CN107370913B (en) 2016-05-11 2021-03-16 松下知识产权经营株式会社 Imaging device, imaging system, and light detection method

Also Published As

Publication number Publication date
JPH109834A (en) 1998-01-16

Similar Documents

Publication Publication Date Title
EP3615959B1 (en) A pixel structure
JP3631325B2 (en) 3D image input device
JP4623843B2 (en) 3D image input device
US7428997B2 (en) Method and apparatus for illuminating a field-of-view and capturing an image
US7009690B2 (en) Three-dimensional measurement device and three-dimensional measurement method
US9894347B2 (en) 3D image acquisition apparatus and method of driving the same
US20230204724A1 (en) Reducing interference in an active illumination environment
JP2002315022A (en) Three-dimensional image detector
JP2000121339A (en) Method and apparatus for detecting three-dimensional information
JP3574607B2 (en) 3D image input device
CN102722076B (en) Projection device and projection method
JP2002039716A (en) Depth map input device
CN106646510A (en) Photon marking based first photon laser imaging system
JP5271643B2 (en) Control method and system for optical time-of-flight range image sensor
US20160065942A1 (en) Depth image acquisition apparatus and method of acquiring depth information
US5434612A (en) Duo-frame normalization technique
US20060257140A1 (en) Device and method for generating images
US20210325514A1 (en) Time of flight apparatus and method
US20210103054A1 (en) Distance measurement device and distance measurement system
US7375311B2 (en) Scanned-beam imager with phase offset photon emission imaging
US20210063579A1 (en) Method and device for distance measurement
US20190293797A1 (en) 3d imaging system and method of 3d imaging
CN115986556A (en) VCSEL array driving device and binocular TOF depth sensing system
US11470261B2 (en) Three-dimensional distance measuring method and device
CN114236504A (en) dToF-based detection system and light source adjusting method thereof

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041216

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081224

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081224

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091224

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees