JP4369574B2 - 3次元画像検出装置 - Google Patents

3次元画像検出装置 Download PDF

Info

Publication number
JP4369574B2
JP4369574B2 JP32957299A JP32957299A JP4369574B2 JP 4369574 B2 JP4369574 B2 JP 4369574B2 JP 32957299 A JP32957299 A JP 32957299A JP 32957299 A JP32957299 A JP 32957299A JP 4369574 B2 JP4369574 B2 JP 4369574B2
Authority
JP
Japan
Prior art keywords
charge
signal
light
distance
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP32957299A
Other languages
English (en)
Other versions
JP2001148867A (ja
Inventor
伸一 垣内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Priority to JP32957299A priority Critical patent/JP4369574B2/ja
Publication of JP2001148867A publication Critical patent/JP2001148867A/ja
Application granted granted Critical
Publication of JP4369574B2 publication Critical patent/JP4369574B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Automatic Focus Adjustment (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、光伝播時間測定法を用いて被写体の3次元形状等を検出する3次元画像検出装置に関する。
【0002】
【従来の技術】
従来3次元画像入力装置における3次元計測では、光伝播時間測定法を利用したものが知られている。「Measurement Science and Technology」(S. Christie 他、vol.6, p1301-1308, 1995 年)に記載された3次元画像入力装置では、パルス変調されたレーザ光が被計測物体(被写体)に照射され、その反射光がイメージインテンシファイアが取付けられた2次元CCDセンサによって受光され、電気信号に変換される。イメージインテンシファイアはレーザ光のパルス発光に同期したゲートパルスによってシャッタ制御される。また、国際公開97/01111号公報に開示された装置では、パルス変調されたレーザ光等の光が被計測物体に照射され、その反射光はメカニカル又は液晶素子等から成り測距光のパルスとは異なるタイミングで制御される電気光学的シャッタと組み合わされた2次元CCDセンサによって受光され、電気信号に変換される。これらの構成によれば、遠い被計測物体からの反射光による受光量は近い被計測物体からの反射光による受光量に比べて小さいので、被計測物体の距離に応じた出力がCCDの各画素毎に得られる。
【0003】
【発明が解決しようとする課題】
しかし、上述の方法で検出された距離情報には、被写体(被計測物体)の表面における反射率の違い等による誤差が含まれている。従って、検出精度の高い距離情報を得るには、これら誤差を補正する必要がある。反射率の違いによる誤差を補正するには、反射率に関する情報(反射率情報)を検出する必要がある。しかし、反射率情報の信号レベルは、距離情報の信号レベルに比べ高いため、反射率情報の信号レベルにA/D変換器の動作範囲を設定すると、距離情報に対する量子化S/N比が劣化してしまう。
【0004】
本発明は、距離情報に対する量子化S/N比を劣化させることなく、精度の高い距離情報を検出可能な3次元画像検出装置を得ることを目的としている。
【0005】
【課題を解決するための手段】
本発明の3次元画像検出装置は、被写体に測距光を照射し、被写体からの反射光を撮像部において所定の蓄積期間内に受光し、これによって生じる第1の信号電荷を各画素毎に蓄積する第1の電荷蓄積手段と、第1の電荷蓄積手段をN回繰り返し駆動し、各駆動において蓄積される第1の信号電荷を各画素毎に積分することにより第1の積分電荷を蓄積する第1の信号電荷積分手段と、被写体に測距光を照射し、被写体からの反射光を撮像部において受光することにより、受光された反射光の全光量に対応する第2の信号電荷を各画素毎に蓄積する第2の電荷蓄積手段と、第2の電荷蓄積手段をM回繰り返し駆動し、各駆動において蓄積される第2の信号電荷を各画素毎に積分することにより第2の積分電荷を蓄積する第2の信号電荷積分手段と、第1の積分電荷と第2の積分電荷とが、被写体の被計測領域に対応する画素において略同じ大きさとなるように第1の信号電荷積分手段における繰り返し回数または第2の信号電荷積分手段における繰り返し回数を調整する繰返回数調整手段とを備え、第1の積分電荷と第2の積分電荷とに基づいて被写体までの距離が各画素毎に検出されることを特徴としている。
【0006】
好ましくは繰返回数調整手段は、予め被写体までの距離を概ね計測するプリ測距の結果に基づいて繰り返し回数の調整を行なう。このとき好ましくはプリ測距は、第1および第2の信号電荷積分手段における繰り返し回数を同一にして第1および第2の信号電荷積分手段を駆動することにより行なわれる。これにより、より適正に繰り返し回数の調整を行なうことができる。
【0007】
より好ましくは繰返回数調整手段は、プリ測距において検出され、被写体の被計測領域に対応する画素を代表する1以上の標本画素における第1および第2の積分電荷に基づいて繰り返し回数の調整を行なう。このとき例えば、繰返回数調整手段は、1つの標本画素における第1の積分電荷と第2の積分電荷との比が1対1になるように繰り返し回数の調整を行なう。これにより迅速かつ簡単に繰り返し回数を調整することができる。
【0008】
好ましくは、繰返回数調整手段は、第1の電荷積分手段における繰り返し回数を一定にし、第2の電荷積分手段における繰り返し回数を減ずることにより調整される。
【0009】
3次元画像検出装置は好ましくは、光学系の像面照度を調整するための開口絞りを備え、プリ測距を行なう際には、繰返回数調整手段と第1および第2の信号電荷積分手段を駆動して被写体までの距離を計測する本測距に比べ開口絞りを絞った状態で計測を行なう。
【0010】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。
図1は、本発明の一実施形態であるカメラ型の3次元画像検出装置の斜視図である。
【0011】
カメラ本体10の前面において、撮影レンズ11の左上にはファインダ窓12が設けられ、右上にはストロボ13が設けられている。カメラ本体10の上面において、撮影レンズ11の真上には、測距光であるレーザ光を照射する発光装置(光源)14が配設されている。発光装置14の左側にはレリーズスイッチ15、液晶表示パネル16が設けられ、右側にはモード切替ダイヤル17とV/Dモード切替スイッチ18が設けられている。カメラ本体10の側面には、ICメモリカード等の記録媒体を挿入するためのカード挿入口19が形成され、またビデオ出力端子20、インターフェースコネクタ21が設けられている。
【0012】
図2は図1に示すカメラの回路構成を示すブロック図である。
撮影レンズ11の中には絞り25が設けられている。絞り25の開度はアイリス駆動回路26によって調整される。撮影レンズ11の焦点調節動作およびズーミング動作はレンズ駆動回路27によって制御される。
【0013】
撮影レンズ11の光軸上にはCCD(撮像部)28が配設されている。CCD28には、撮影レンズ11によって被写体像が形成され、被写体像に対応した電荷が発生する。CCD28における電荷の蓄積動作、電荷の読出動作等の動作はCCD駆動回路30によって制御される。CCD28から読み出された電荷信号すなわち画像信号はアンプ31において増幅され、A/D変換器32においてアナログ信号からデジタル信号に変換される。デジタルの画像信号は撮像信号処理回路33においてガンマ補正等の処理を施され、画像メモリ34に一時的に格納される。アイリス駆動回路26、レンズ駆動回路27、撮像信号処理回路33はシステムコントロール回路35によって制御される。
【0014】
CCD駆動回路30は、V/D切替回路29から出力されるパルス信号に従って制御される。V/D切替回路29から出力されるパルス信号は、通常駆動パルス発生回路24から出力されるパルス信号または3D駆動パルス発生回路22で生成され、パルス数変換回路23を介して出力されるパルス信号であり、V/Dモード切替スイッチ18(図1)の設定に合わせて選択的にCCD駆動回路30へ出力される。通常駆動パルス発生回路24から出力されるパルス信号は、CCD28において通常の撮影動作を行なうためのものである。一方、3D駆動パルス発生回路22から出力されるパルス信号は、CCD28において距離情報を検出する際に用いられるパルス信号である。パルス数変換回路23では、システムコントロール回路35からの信号指令に基づいて、3D駆動パルス発生回路22から出力されるパルス信号のパルス数を制御する。3D駆動パルス発生回路22、通常駆動パルス発生回路24およびパルス数変換回路23は、システムコントロール回路35により制御される。
【0015】
画像メモリ34に一時的に記憶された画像信号は、画像メモリ34から読み出され、LCD駆動回路36に供給される。LCD駆動回路36は画像信号に応じて動作し、これにより画像表示LCDパネル37には、画像信号に対応した画像が表示される。
【0016】
カメラをカメラ本体10の外部に設けられたモニタ装置39とケーブルで接続すれば、画像メモリ34から読み出された画像信号はTV信号エンコーダ38、ビデオ出力端子20を介してモニタ装置39に伝送可能である。またシステムコントロール回路35はインターフェース回路40に接続されており、インターフェース回路40はインターフェースコネクタ21に接続されている。したがってカメラをカメラ本体10の外部に設けられたコンピュータ41とインターフェースケーブルを介して接続すれば、画像メモリ34から読み出された画像信号をコンピュータ41に伝送可能である。システムコントロール回路35は、記録媒体制御回路42を介して画像記録装置43に接続されている。したがって画像メモリ34から読み出された画像信号は、画像記録装置43に装着されたICメモリカード等の記録媒体Mに記録可能である。
【0017】
発光装置14は発光素子14aと照明レンズ14bにより構成され、発光素子14aの発光動作は発光素子制御回路44によって制御される。発光素子14aはレーザダイオード(LD)であり、照射されるレーザ光は被写体の距離を検出するための測距光として用いられる。このレーザ光は照明レンズ14bを介して被写体の全体に照射される。被写体において反射した光は撮影レンズ11に入射する。この光をCCD28によって検出することにより、後述するように被写体の表面形状に関する距離情報が3次元画像として得られる。
【0018】
発光素子制御回路44は、パルス数変換回路23から出力されるパルス信号にしたがって制御される。発光素子制御回路44へ出力されるパルス信号は、V/D切替回路29を介してCCD駆動回路30へ出力されるパルス信号と同様、3D駆動パルス発生回路22において生成されたパルス信号に基づくものであり、システムコントロール回路35の信号指令により、そのパルス数が変換されたものである。これにより発光素子14aから照射される発光パルスの数が調整される。
【0019】
システムコントロール回路35には、レリーズスイッチ15、モード切替ダイヤル17、V/Dモード切替スイッチ18から成るスイッチ群45と、液晶表示パネル(表示素子)16とが接続されている。
【0020】
次に図3を参照して、本実施形態における撮影動作について説明する。図3は、撮影動作プログラムのフローチャートである。
【0021】
ステップ101においてレリーズスイッチ15が全押しされていることが確認されるとステップ102が実行され、ビデオ(V)モードと距離測定(D)モードのいずれが選択されているかが判定される。これらのモード間における切替はV/Dモード切替スイッチ18を操作することによって行なわれる。
【0022】
ステップ102においてDモードが選択されていると判定されると、ステップ103において本測距(ステップ105)の予備計測であるプリ測距が、アイリス25を本測距のFナンバーよりも絞った(例えば、本測距でのFナンバーから2段絞り込む)状態で行われ、被写体までの距離情報や被写体の表面における反射率等の違いに起因する誤差を補正するための反射率情報などが検出される。
【0023】
ステップ104では、ステップ103において検出された距離情報と反射率情報とに基づいて、本測距(ステップ105)での反射率情報の検出において照射される測距光のパルスの数が算出される。ステップ105の本測距では、あらためて被写体までの距離情報と、反射率情報が検出されるが、反射率情報の検出では、ステップ104において算出された測距光のパルス数に従って測距光であるパルス光が照射される。これは、後に述べるように距離情報の信号に対する量子化S/N比の劣化を防ぐためであり、これによって距離情報を検出する際にCCD28から出力される信号のレベルが、反射率情報を検出する際にCCD28から出力される信号のレベルと略等しくなる。その後ステップ106において得られた距離データが記録媒体Mに保存され、この撮影動作のプログラムは終了する。なおプリ測距の距離情報の検出と反射率情報の検出とでは、被写体に照射される測距光のパルスの数は同じである。
【0024】
一方、ステップ102において設定モードがVモードであると判定されると、ステップ107において測距光の制御がオフ状態に定められるとともに、ステップ108においてCCDのビデオ制御がオン状態に定められる。すなわち、被写体の画像情報(画像データ)がCCDの通常の撮影動作により検出される。ステップ109において、検出された画像データが記録媒体Mに保存され、この撮影動作のプログラムは終了する。
【0025】
次に図4および図5を参照して、本実施形態における距離測定の原理について説明する。なお図5において横軸は時間tである。
【0026】
距離測定装置Bから出力された測距光は被写体Sにおいて反射し、図示しないCCDによって受光される。測距光は所定のパルス幅Hを有するパルス状の光であり、したがって被写体Sからの反射光も、同じパルス幅Hを有するパルス状の光である。また反射光のパルスの立ち上がりは、測距光のパルスの立ち上がりよりも時間δ・t(δは遅延係数)だけ遅れる。測距光と反射光は距離測定装置Bと被写体Sの間の2倍の距離rを進んだことになるから、その距離rは
r=δ・t・C/2 ・・・(1)
により得られる。ただしCは光速である。
【0027】
例えば測距光のパルスの立ち上がりから反射光を検知可能な状態に定め、反射光のパルスが立ち下がる前に検知不可能な状態に切換えるようにすると、すなわち反射光検知期間Tを設けると、この反射光検知期間Tにおける受光量Aは距離rの関数である。すなわち受光量Aは、距離rが大きくなるほど(時間δ・tが大きくなるほど)小さくなる。
【0028】
本実施形態では上述した原理を利用して、CCD28に設けられ、2次元的に配列された複数のフォトダイオードにおいてそれぞれ受光量Aを検出することにより、カメラ本体10から被写体Sの表面の各点までの距離をそれぞれ検出し、被写体Sの表面形状に関する3次元画像のデータを一括して入力している。
【0029】
図6は、CCD28に設けられるフォトダイオード51と垂直転送部52の配置を示す図である。図7は、CCD28を基板53に垂直な平面で切断して示す断面図である。このCCD28は従来公知のインターライン型CCDであり、不要電荷の掃出しにVOD(縦型オーバーフロードレイン)方式を用いたものである。
【0030】
フォトダイオード51と垂直転送部52はn型基板53の面に沿って形成されている。フォトダイオード51は2次元的に格子状に配列され、垂直転送部52は所定の方向(図6において上下方向)に1列に並ぶフォトダイオード51に隣接して設けられている。垂直転送部52は、1つのフォトダイオード51に対して4つの垂直転送電極52a,52b,52c,52dを有している。したがって垂直転送部52では、4つのポテンシャルの井戸が形成可能であり、従来公知のように、これらの井戸の深さを制御することによって、信号電荷をCCD28から出力することができる。なお、垂直転送電極の数は目的に応じて自由に変更できる。
【0031】
基板53の表面に形成されたp型井戸の中にフォトダイオード51が形成され、p型井戸とn型基板53の間に印加される逆バイアス電圧によってp型井戸が完全空乏化される。この状態において、入射光(被写体からの反射光)の光量に応じた電荷がフォトダイオード51において蓄積される。基板電圧Vsub を所定値以上に大きくすると、フォトダイオード51に蓄積した電荷は、基板53側に掃出される。これに対し、転送ゲート部54に電荷転送信号(電圧信号)が印加されたとき、フォトダイオード51に蓄積した電荷は垂直転送部52に転送される。すなわち電荷掃出信号によって電荷を基板53側に掃出した後、フォトダイオード51に蓄積した信号電荷が、電荷転送信号によって垂直転送部52側に転送される。このような動作を繰り返すことにより、垂直転送部52において信号電荷が積分され、いわゆる電子シャッタ動作が実現される。
【0032】
図8は、ステップ103のプリ測距およびステップ105の本測距において実行される距離情報検出動作のタイミングチャートである。図1、図2、図6〜図8を参照して本実施形態における距離情報検出動作について説明する。なお本実施形態の距離情報検出動作では、図5を参照して行なった距離測定の原理の説明とは異なり、外光の影響による雑音を低減するために測距光のパルスの立ち下がりから反射光を検知可能な状態に定め、反射光のパルスが立ち下がった後に検知不可能な状態に切換えるようにタイミングチャートを構成しているが原理的には何ら異なるものではない。
【0033】
垂直同期信号(図示せず)の出力に同期して電荷掃出し信号(パルス信号)S1が出力され、これによりフォトダイオード51に蓄積していた不要電荷が基板53の方向に掃出され、フォトダイオード51における蓄積電荷量はゼロになる(符号S2)。電荷掃出し信号S1の出力の開始の後、一定のパルス幅を有するパルス状の測距光S3が出力される。測距光S3が出力される期間(パルス幅)は調整可能であり、図示例では、電荷掃出し信号S1の出力と同時に測距光S3がオフするように調整されている。
【0034】
測距光S3は被写体において反射し、CCD28に入射する。すなわちCCD28によって被写体からの反射光S4が受光されるが、電荷掃出し信号S1が出力されている間は、フォトダイオード51において電荷は蓄積されない(符号S2)。電荷掃出し信号S1の出力が停止されると、フォトダイオード51では、反射光S4の受光によって電荷蓄積が開始され、反射光S4と外光とに起因する信号電荷S5が発生する。反射光S4が消滅すると(符号S6)フォトダイオード51では、反射光に基く電荷蓄積は終了するが(符号S7)、外光のみに起因する電荷蓄積が継続する(符号S8)。
【0035】
その後、電荷転送信号S9が出力されると、フォトダイオード51に蓄積された電荷が垂直転送部52に転送される。この電荷転送は、電荷転送信号の出力の終了(符号S10)によって完了する。すなわち、外光が存在するためにフォトダイオード51では電荷蓄積が継続するが、電荷転送信号の出力が終了するまでフォトダイオード51に蓄積されていた信号電荷S11が垂直転送部52へ転送される。電荷転送信号の出力終了後に蓄積している電荷S14は、そのままフォトダイオード51に残留する。
【0036】
このように電荷掃出し信号S1の出力の終了から電荷転送信号S9の出力が終了するまでの期間TU1の間、フォトダイオード51には、被写体までの距離に対応した信号電荷が蓄積される。そして、反射光S4の受光終了(符号S6)までフォトダイオード51に蓄積している電荷が、被写体の距離情報と対応した信号電荷S12(斜線部)として垂直転送部52へ転送され、その他の信号電荷S13は外光のみに起因するものである。
【0037】
電荷転送信号S9の出力から一定時間が経過した後、再び電荷掃出し信号S1が出力され、垂直転送部52への信号電荷の転送後にフォトダイオード51に蓄積された不要電荷が基板53の方向へ掃出される。すなわち、フォトダイオード51において新たに信号電荷の蓄積が開始する。そして、上述したのと同様に、電荷蓄積期間TU1が経過したとき、信号電荷は垂直転送部52へ転送される。
【0038】
このような信号電荷S11の垂直転送部52への転送動作は、次の垂直同期信号が出力されるまで、繰り返し実行される。これにより垂直転送部52において、信号電荷S11が積分され、1フィールドの期間(2つの垂直同期信号によって挟まれる期間)に積分された信号電荷S11は、その期間被写体が静止していると見做せれば、被写体までの距離情報に対応している。
【0039】
以上説明した信号電荷S11の検出動作は1つのフォトダイオード51に関するものであり、全てのフォトダイオード51においてこのような検出動作が行なわれる。1フィールドの期間における検出動作の結果、各フォトダイオード51に隣接した垂直転送部52の各部位には、そのフォトダイオード51によって検出された距離情報が保持される。この距離情報は垂直転送部52における垂直転送動作および図示しない水平転送部における水平転送動作によってCCD28から出力される。
【0040】
しかしCCD28により検出された反射光は、被写体の表面の反射率の影響を受けている。したがって、この反射光を介して得られた距離情報は反射率に起因する誤差を含んでいる。また、CCD28により検出された反射光には、被写体からの反射光以外に外光等の成分も含まれており、これに起因する誤差も存在する。これらの誤差を補正する方法について、次の距離測定動作のフローチャートを参照して説明する。
【0041】
図12と図13はステップ103のプリ測距およびステップ105の本測距(図3参照)において実行される距離測定動作のフローチャートである。図1、図2、図8〜図13を参照して、本実施形態における距離測定動作について説明する。なお図9〜図11は、距離補正情報、反射率情報および反射率補正情報の検出動作におけるタイミングチャートである。
【0042】
ステップ201では、垂直同期信号が出力されるとともに測距光制御が開始される。すなわち発光装置14が駆動され、パルス状の測距光S3が断続的に出力される。次いでステップ202が実行され、CCD28による検知制御が開始される。すなわち図8を参照して説明した距離情報検出動作が開始され、電荷掃出し信号S1と電荷転送信号S9が交互に出力されて、距離情報の信号電荷S11が垂直転送部52において積分される。
【0043】
ステップ203では、距離情報検出動作の開始から1フィールド期間が終了したか否か、すなわち新たに垂直同期信号が出力されたか否かが判定される。1フィールド期間が終了すると、1フィールド期間にわたる信号電荷S11の積分が完了し、積分された信号電荷がステップ204においてCCD28から出力される。この積分された信号電荷は距離情報に対応し、ステップ205において画像メモリ34に一時的に記憶される。ステップ206では測距光制御がオフ状態に切換えられ、発光装置14の発光動作が停止する。
【0044】
ステップ207〜210では、距離補正情報の検出動作(図9参照)が行なわれる。まずステップ207では、垂直同期信号が出力されるとともにCCD28による検知制御が開始される。すなわち発光装置14の発光動作が行なわれることなく、光源が消灯された状態で、電荷掃出し信号S21と電荷転送信号S22が交互に出力される。電荷蓄積時間TU1は図8に示す距離情報検出動作と同じであるが、被写体に測距光が照射されないため(符号S23)、反射光は存在せず(符号S24)。したがって、距離情報の信号電荷は発生しないが、CCD28には外光等の外乱成分が入射するため、この外乱成分に対応した信号電荷S25が発生し、電荷転送信号S22の出力によって、それまでフォトダイオードに蓄積していた信号電荷S26が垂直転送部へ転送される。この信号電荷S26は、外乱成分が距離情報に及ぼす影響を補正するための、電荷蓄積時間TU1に対する距離補正情報に対応している。
【0045】
ステップ208では、距離補正情報の検出動作の開始から1フィールド期間が終了したか否か、すなわち新たに垂直同期信号が出力されたか否かが判定される。1フィールド期間が終了すると信号電荷S26の1フィールド期間にわたる積分が完了し、ステップ209においてこの積分された信号電荷がCCD28から出力される。この積分された信号電荷は距離補正情報に対応し、ステップ210において画像メモリ34に一時的に記憶される。
【0046】
ステップ211〜216では、反射率情報の検出動作(図10参照)が行なわれる。ステップ211では、垂直同期信号が出力されるとともに測距光制御が開始され、パルス状の測距光S33が断続的に出力される。ステップ212では、CCD28による検知制御が開始され、電荷掃出し信号S31と電荷転送信号S35が交互に出力される。電荷掃出し信号S31が出力されることによって、フォトダイオードにおける蓄積電荷量はゼロになる(符号S32)。電荷掃出し信号S31の出力が終了すると、測距光S33が出力され、CCDには反射光S34が入射する。反射光S34が消滅した後、電荷転送信号S35が出力される。すなわち反射率情報の検出動作は、電荷掃出し信号S31の出力が終了してから電荷転送信号S35の出力が終了するまでの電荷蓄積期間TU2内に、反射光S34の全てが受光されるように制御される。
【0047】
このようにフォトダイオード51では、 反射光S34を受光している間は反射光S34と外光に起因する信号電荷S36が蓄積され、また、反射光S34を受光していない間は外光のみに起因する信号電荷S37、S38が蓄積される。そして電荷転送信号S35の出力により、それまでのフォトダイオードに蓄積されていた信号電荷S39が垂直転送部へ転送される。この信号電荷S39は反射率情報に対応し、外光に基く成分S’39を含んでいる。
【0048】
ステップ213では、反射率情報検出動作の開始から1フィールド期間が終了したか否か、すなわち新たに垂直同期信号が出力されたか否かが判定される。1フィールド期間が終了すると信号電荷S39の1フィールド期間にわたる積分が完了し、ステップ214においてこの積分された信号電荷がCCD28から出力される。この積分された信号電荷は反射率情報に対応し、ステップ215において画像メモリ34に一時的に記憶される。ステップ216では測距光制御がオフ状態に切換えられ、発光装置14の発光動作が停止する。
【0049】
ステップ217〜220では、反射率補正情報の検出動作(図11参照)が行なわれる。ステップ217では、垂直同期信号が出力されるとともにCCD28による検知制御が開始される。すなわち発光装置14の発光動作が行なわれることなく、光源が消灯された状態で、電荷掃出し信号S41と電荷転送信号S42が交互に出力される。電荷蓄積時間TU2は図10に示す反射率情報検出動作と同じであるが、被写体に測距光が照射されないため(符号S43)、反射光は存在せず(符号S44)。したがって、反射率情報の信号電荷は発生しないが、CCD28には外光等の外乱成分に対応した信号電荷S46が発生する。この信号電荷S46は、外乱成分が電荷蓄積時間TU2に対する反射率情報に及ぼす影響を補正するための反射率補正情報に対応している。
【0050】
ステップ218では、反射率補正情報の検出動作の開始から1フィールド期間が終了したか否か、すなわち新たに垂直同期信号が出力されたか否かが判定される。1フィールド期間が終了すると信号電荷S47の1フィールド期間にわたる積分が完了し、ステップ219においてこの積分された信号電荷がCCD28から出力される。この積分された信号電荷は反射率補正情報に対応し、ステップ220において画像メモリ34に一時的に記憶される。
【0051】
ステップ221では、ステップ201〜220において得られた距離情報、距離補正情報、反射率情報および反射率補正情報を用いて距離データの演算処理が行なわれ、この距離測定動作のサブルーチンは終了する。
【0052】
次にステップ221において実行される演算処理の内容を図8〜図11を参照して説明する。
反射率Rの被写体が照明され、この被写体が輝度Iの2次光源と見做されてCCDに結像された場合を想定する。このとき、電荷蓄積時間tの間にフォトダイオード51に発生した電荷が積分されて得られる出力Snは、
Sn=k・R・I・t ・・・(2)
で表される。ここでkは比例定数で、撮影レンズのFナンバーや倍率等によって変化する。
【0053】
被写体がレーザ等の光源からの光で照明される場合、輝度Iはその光源による輝度IS と背景光による輝度IB との合成されたものとなり、
I=IS +IB ・・・(3)
と表せる。
【0054】
図8に示されるように電荷蓄積時間をTU1、測距光S3のパルス幅をTS 、距離情報の信号電荷S12のパルス幅をTD とし、1フィールド期間中のその電荷蓄積時間がN回繰り返されるとすると、得られる出力SM10は、
Figure 0004369574
となる。なお、パルス幅TD
Figure 0004369574
と表せる。
【0055】
図10に示されるように電荷蓄積時間TU2が、パルス状の測距光S33の期間(パルス幅)TS よりも十分大きく、反射光の単位受光時間を全部含むように制御された場合に得られる出力SM20は、
Figure 0004369574
となる。
【0056】
図9に示されるように発光を止めて、図8と同じ時間幅でのパルス状の電荷蓄積を行なった場合に得られる出力SM11は、
Figure 0004369574
となる。同様に、図11に示されるような電荷蓄積を行なった場合に得られる出力SM21は、
Figure 0004369574
となる。
【0057】
(4)、(6)、(7)、(8)式から、
Figure 0004369574
が得られる。
【0058】
上述したように測距光S3と反射光S4にはそれぞれ外光等の外乱成分(背景光による輝度IB )が含まれている。(9)式のTD /TS は、測距光S3を照射したときの被写体からの反射光S4の光量を、測距光S3の光量によって正規化したものであり、これは、測距光S3の光量(図8の信号電荷S11に相当)から外乱成分(図9の信号電荷S26に相当)を除去した値と、反射光S4の光量(図10の信号電荷S39に相当)から外乱成分(図11の信号電荷S’39に相当)を除去した値との比に等しい。
【0059】
(9)式の各出力値SM10、SM11、SM20、SM21はステップ205、210、215、220において、距離情報、距離補正情報、反射率情報、反射率補正情報として格納されている。したがって、これらの情報に基いて、TD /TS が得られる。パルス幅Ts は既知であるから、(5)式とTD /TS から距離rが得られる。すなわち
2r=C・TS ・(SM10−SM11)/(SM20−SM21) (10)
と表すことができる。
【0060】
次に図14〜図15を参照して図3のステップ104において算出される測距光のパルス数について説明する。
【0061】
図14はプリ測距において、ある画素が受光するパルス光(受光パルス)と蓄積期間との関係を表している。図14(a)は、距離情報を検出する際に、CCD28で受光されるパルス光(受光パルス)と蓄積期間TU1の関係を表したものであり、図14(b)は、反射率情報を検出する際に、CCD28で受光されるパルス光(受光パルス)と蓄積期間TU2の関係を表したものである。なお図14(a)、図14(b)において外光の影響は省略されている。また、蓄積期間はパルス状の波形で表されており、パルスが立っている期間が蓄積期間に対応している。
【0062】
距離情報の検出では、受光パルスの一部である斜線部A1のみが蓄積期間TU1内に受光され信号電荷として蓄積される(図14(a))。受光パルスのパルス高さをhとすると、距離情報の検出において蓄積された信号電荷は斜線部分A1の面積h×TD に対応しており、被写体までの距離情報を表している。また反射率情報の検出では、蓄積期間TU2内に受光パルスの全てが受光され信号電荷として蓄積される。このとき蓄積される信号電荷は、斜線部(受光パルス全体)A2の面積h×TS に対応しており、反射率情報を表している。前述したように信号電荷の蓄積動作は、1フィールド期間に渡って所定回数(例えばN回)繰り返し行われ、垂直転送部52において積分される。積分された信号電荷は信号電位に変換され、アンプ31を介してA/D変換器32へと出力される。
【0063】
(4)式のSM10および(6)式のSM20において外光の影響を無視すると、それぞれの式は、
Figure 0004369574
と表される(ただし、h=k・R・IS )。したがって、積分された信号電荷に対する信号電位のレベル(信号レベル)は、斜線部A1、A2の面積(h・TD 、h・TS )と積分回数Nに比例する。
【0064】
斜線部A2は受光パルス全体であるのに対し、斜線部A1は受光パルスの一部であるため、斜線部A1に対応する距離情報の信号電荷が、斜線部A2に対応する反射率情報の信号電荷に比べ著しく小さくなる場合が存在する。このとき積分回数Nが各々の検出において一定であると、A/D変換器32へ出力される距離情報の信号レベルは、反射率情報の信号レベルに比べ著しく小さいものとなる。A/D変換器32に対して反射率情報の信号レベルが過負荷とならないようにA/D変換器32の入力レベルを設定すると、距離情報の信号レベルに対する有効ビット数が相対的に減ることとなり、距離情報に対する量子化S/N比が劣化する。例えば、反射率情報の信号レベルが0〜Vボルトであり距離情報の信号レベルがそのn分の1、すなわち0〜V/nボルトであるとき、Pビットの線形量子化を行なうA/D変換器の動作範囲を距離情報の信号レベルに合わせて0〜Vボルトに設定すると、反射率情報はPビットで量子化されるが、距離情報はP−Int(log2 n)ビットで量子化されることとなり、距離情報に対する量子化S/N比が劣化する。なお、ここでInt( )は括弧内の数値の小数部を切り捨て整数に変換する関数である。
【0065】
距離情報に対する量子化S/N比の劣化を防止するには、A/D変換器32へ出力される反射率情報の信号レベルと距離情報の信号レベルとを合わせる必要がある。距離情報の信号レベルと反射率情報の信号レベルは、積分された信号電荷(出力)SM10、SM20にそれぞれ相関するので、距離情報、反射率情報の信号のレベルを等しくするには、出力SM10、SM20を略等しくすればよい。ここで出力SM10、SM20が略等しいとは出力SM20が出力SM10の例えば2倍以内であるような場合である。本測距では、反射率情報を検出する際の積分回数を制御することにより、この調整を行なっている。
【0066】
図15は本測距において、ある画素が受光するパルス光(受光パルス)と蓄積期間との関係を表している。図15(a)は、距離情報を検出する際に、CCD28で受光されるパルス光(受光パルス)と蓄積期間TU1の関係を表したものであり、図15(b)は、反射率情報を検出する際に、CCD28で受光されるパルス光(受光パルス)と蓄積期間TU2の関係を表したものである。なお、本図においても図14と同様に外光の影響は省略されており、蓄積期間はパルス状の波形で表されている。
【0067】
プリ測距の結果から、各画素に対して出力SM10と出力SM20との比TD :TS が算出される。被写体の被計測領域において、出力SM10、SM20が略等しくなるようにするため、被写体の被計測領域に対応する画素を代表する1つの画素(標本画素)においてSM10=SM20となるように反射率情報を検出する際の積分回数を決定する。すなわち、反射率情報を検出するときの積分回数をN’、距離情報を検出するときの積分回数をNとし、SM10とSM20とをプリ測距における標本画素からの出力とすると、
Figure 0004369574
によって積分回数N’が算出される。本測距での反射率情報の検出では、算出されたN’回しか信号電荷の蓄積を行なわないので、図15(b)のように、図15(a)の距離情報の検出のときよりも積分回数が少なく、斜線部A1’の面積の総和と斜線部A2’の面積の総和は等しい。これにより本測距において距離情報および反射率情報を検出する際に、被計測領域に対応する画素から出力される信号レベルが略等しくなり、距離情報に対する量子化S/N比の劣化を防ぐことができる。
【0068】
次に、プリ測距および本測距における絞り(アイリス25)の設定の違いについて図14、図15を参照して説明する。
【0069】
A/D変換器32の動作範囲は、本測距での信号レベル(出力SM10の信号レベル)に合わせて設定されているので、プリ測距で反射率情報を検出する際、その出力SM20がA/D変換器32に対して過負荷となる可能性がある。したがって、プリ測距では予めFナンバーが大き目に設定され、反射光のCCD28における像面照度が本測距のときよりも抑えられている。
【0070】
以上のように、本実施形態によれば、プリ測距を行いその計測結果に基づいて、反射率情報を検出するときの信号電荷の積分回数を制御することにより、距離情報に対する量子化S/N比を劣化させることなく、反射率情報を考慮した精度の高い距離情報を検出できる。また、プリ測距でのFナンバーを本測距でのFナンバーよりも大き目に設定しておくことにより、プリ測距での反射率情報の信号レベルがA/D変換器に対して過負荷となることなく、A/D変換器の動作範囲を本測距での信号レベルに設定することができる。
【0071】
なお、本実施形態では、標本画素として1つの画素を用いたが、標本画素として複数の画素を用い、標本画素全体におけるTD /TS の平均値から積分回数N’を算出してもよい。
【0072】
【発明の効果】
以上のように本発明によれば、距離情報に対する量子化S/N比を劣化させることなく、精度の高い距離情報を検出可能な3次元画像検出装置を得ることができる。
【図面の簡単な説明】
【図1】本発明の実施形態であるカメラ型の3次元画像検出装置の斜視図である。
【図2】図1に示すカメラの回路構成を示すブロック図である。
【図3】本実施形態で実行される撮影動作のプログラムのフローチャートである。
【図4】測距光による距離測定の原理を説明するための図である。
【図5】測距光、反射光、ゲートパルス、およびCCDが受光する光量分布を示す図である。
【図6】CCDに設けられるフォトダイオードと垂直転送部の配置を示す図である。
【図7】CCDを基板に垂直な平面で切断して示す断面図である。
【図8】距離情報を検出する際のタイミングチャートである。
【図9】距離補正情報を検出する際のタイミングチャートである。
【図10】反射率情報を検出する際のタイミングチャートである。
【図11】反射率補正情報を検出する際のタイミングチャートである。
【図12】距離測定動作に関するプログラムのフローチャートの前半部である。
【図13】距離測定動作に関するプログラムのフローチャートの後半部である。
【図14】プリ測距において距離情報、反射率情報を検出するときの受光パルスと蓄積期間との関係を示す図である。
【図15】本測距において距離情報、反射率情報を検出するときの受光パルスと蓄積期間との関係を示す図である。
【符号の説明】
14 発光装置(光源)
23 パルス数変換回路
28 CCD(撮像部)

Claims (7)

  1. 被写体に測距光を照射し、前記被写体からの反射光を撮像部において所定の蓄積期間内に受光し、これによって生じる第1の信号電荷を各画素毎に蓄積する第1の電荷蓄積手段と、
    前記第1の電荷蓄積手段をN回繰り返し駆動し、各駆動において蓄積される前記第1の信号電荷を前記各画素毎に積分することにより第1の積分電荷を蓄積する第1の信号電荷積分手段と、
    前記被写体に測距光を照射し、前記被写体からの反射光を前記撮像部において受光することにより、受光された前記反射光の全光量に対応する第2の信号電荷を前記各画素毎に蓄積する第2の電荷蓄積手段と、
    前記第2の電荷蓄積手段をM回繰り返し駆動し、各駆動において蓄積される前記第2の信号電荷を前記各画素毎に積分することにより第2の積分電荷を蓄積する第2の信号電荷積分手段と、
    前記第1の積分電荷と前記第2の積分電荷とが、前記被写体の被計測領域に対応する画素において略同じ大きさとなるように前記第1の信号電荷積分手段における繰り返し回数または前記第2の信号電荷積分手段における繰り返し回数を調整する繰返回数調整手段とを備え、
    前記第1の積分電荷と前記第2の積分電荷とに基づいて前記被写体までの距離が前記各画素毎に検出される
    ことを特徴とする3次元画像検出装置。
  2. 前記繰返回数調整手段が、予め前記被写体までの距離を概ね計測するプリ測距の結果に基づいて繰り返し回数の調整を行なうことを特徴とする請求項1に記載の3次元画像検出装置。
  3. 前記プリ測距が、前記第1および第2の信号電荷積分手段における繰り返し回数を同一にして前記第1および第2の信号電荷積分手段を駆動することにより行なわれることを特徴とする請求項2に記載の3次元画像検出装置。
  4. 前記繰返回数調整手段が、前記プリ測距において検出され、前記被写体の被計測領域に対応する画素を代表する1以上の標本画素における第1および第2の積分電荷に基づいて繰り返し回数の調整を行なうことを特徴とする請求項3に記載の3次元画像検出装置。
  5. 前記繰返回数調整手段が、1つの標本画素における前記第1の積分電荷と前記第2の積分電荷との比が1対1になるように繰り返し回数の調整を行なうことを特徴とする請求項4に記載の3次元画像検出装置。
  6. 前記繰返回数調整手段が、前記第1の電荷積分手段における繰り返し回数を一定にし、前記第2の電荷積分手段における繰り返し回数を減ずることにより調整されることを特徴とする請求項1に記載の3次元画像検出装置。
  7. 光学系の像面照度を調整するための開口絞りを備え、前記プリ測距を行なう際には、前記繰返回数調整手段と前記第1および第2の信号電荷積分手段を駆動して被写体までの距離を計測する本測距に比べ前記開口絞りを絞った状態で計測を行なうことを特徴とする請求項2に記載の3次元画像検出装置。
JP32957299A 1999-11-19 1999-11-19 3次元画像検出装置 Expired - Fee Related JP4369574B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP32957299A JP4369574B2 (ja) 1999-11-19 1999-11-19 3次元画像検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP32957299A JP4369574B2 (ja) 1999-11-19 1999-11-19 3次元画像検出装置

Publications (2)

Publication Number Publication Date
JP2001148867A JP2001148867A (ja) 2001-05-29
JP4369574B2 true JP4369574B2 (ja) 2009-11-25

Family

ID=18222858

Family Applications (1)

Application Number Title Priority Date Filing Date
JP32957299A Expired - Fee Related JP4369574B2 (ja) 1999-11-19 1999-11-19 3次元画像検出装置

Country Status (1)

Country Link
JP (1) JP4369574B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11812173B2 (en) 2019-02-15 2023-11-07 Nuvoton Technology Corporation Japan Imaging apparatus and distance information calculation method

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003066321A (ja) 2001-08-29 2003-03-05 Mega Chips Corp Af制御装置およびaf制御方法
JP2009047475A (ja) * 2007-08-15 2009-03-05 Hamamatsu Photonics Kk 固体撮像素子
JP6435513B2 (ja) * 2013-06-26 2018-12-12 パナソニックIpマネジメント株式会社 測距撮像装置及びその測距方法、固体撮像素子
JP6320132B2 (ja) * 2014-04-04 2018-05-09 キヤノン株式会社 撮像システム
JPWO2018181250A1 (ja) * 2017-03-30 2020-02-06 パナソニックIpマネジメント株式会社 距離画像生成装置及び距離画像生成方法
JP6846708B2 (ja) * 2017-03-30 2021-03-24 パナソニックIpマネジメント株式会社 画像認識装置および距離画像生成方法
CN112513671A (zh) 2018-08-02 2021-03-16 新唐科技日本株式会社 摄像装置及在该摄像装置中使用的固体摄像元件

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11812173B2 (en) 2019-02-15 2023-11-07 Nuvoton Technology Corporation Japan Imaging apparatus and distance information calculation method

Also Published As

Publication number Publication date
JP2001148867A (ja) 2001-05-29

Similar Documents

Publication Publication Date Title
JP4530571B2 (ja) 3次元画像検出装置
US20190007592A1 (en) Imaging device and solid-state imaging element used in same
JP3574607B2 (ja) 3次元画像入力装置
US20070212045A1 (en) Electronic blur correction device and electronic blur correction method
JP3820087B2 (ja) 3次元画像検出装置
JP4010779B2 (ja) 画像検出装置と絞り装置
JP4105801B2 (ja) 3次元画像入力装置
JP4391643B2 (ja) 3次元画像入力装置
JP4369574B2 (ja) 3次元画像検出装置
JP4398562B2 (ja) 3次元画像検出装置の焦点調節機構
JP3574602B2 (ja) 3次元画像入力装置
JP4369575B2 (ja) 3次元画像検出装置
JP4303354B2 (ja) 3次元画像入力装置
JP4157223B2 (ja) 3次元画像入力装置
JP4369573B2 (ja) 3次元画像検出装置
JP4250281B2 (ja) 3次元画像検出装置
JP4428831B2 (ja) 3次元画像検出装置
US6778219B1 (en) Three-dimensional image capturing device
JP3892632B2 (ja) 静止物体画像検出装置と静止物体画像検出方法
US6982761B1 (en) Device for capturing three-dimensional images with independently controllable groups of photoelectric conversion elements
JP4136195B2 (ja) 3次元画像入力装置
JP3954300B2 (ja) 3次元画像検出装置
JP2001008233A (ja) 3次元画像入力装置
JP2000023014A (ja) 画像入力装置
JP2001033221A (ja) 3次元画像検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061018

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080425

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090813

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090825

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090828

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120904

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120904

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120904

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130904

Year of fee payment: 4

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees