JP5512675B2 - ローリングカメラシステム - Google Patents
ローリングカメラシステム Download PDFInfo
- Publication number
- JP5512675B2 JP5512675B2 JP2011521680A JP2011521680A JP5512675B2 JP 5512675 B2 JP5512675 B2 JP 5512675B2 JP 2011521680 A JP2011521680 A JP 2011521680A JP 2011521680 A JP2011521680 A JP 2011521680A JP 5512675 B2 JP5512675 B2 JP 5512675B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- photosensitive surface
- scene
- imaging system
- gate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005096 rolling process Methods 0.000 title claims description 50
- 238000003384 imaging method Methods 0.000 claims description 79
- 230000005540 biological transmission Effects 0.000 claims description 17
- 238000000034 method Methods 0.000 claims description 10
- 238000005259 measurement Methods 0.000 description 25
- 238000010606 normalization Methods 0.000 description 19
- 230000003287 optical effect Effects 0.000 description 14
- 238000002310 reflectometry Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 235000008733 Citrus aurantifolia Nutrition 0.000 description 1
- 235000011941 Tilia x europaea Nutrition 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000004571 lime Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/2224—Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
- H04N5/2226—Determination of depth image, e.g. for foreground/background separation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/531—Control of the integration time by controlling rolling shutters in CMOS SSIS
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
Description
【0001】
本発明は、撮像に関し、より詳細にはシーンの画像およびシーンにおける領域までの距離の測定値を提供するカメラに関する。
【背景技術】
【0002】
3次元すなわち「3D」カメラは、撮像されるシーンにおける特徴までの距離の測定値を提供する。3Dカメラは、製品のプロファイル検査、医学映像、CAD検証、ロボットビジョン、地理的測量、およびフィルム制作特殊効果など、距離に応じて対象を撮像することが望まれる多くの異なる用途に使用される。
【0003】
「TOF(time of flight:飛行時間)」として知られる3次元画像を取得する1つの方法において、1つまたは複数の光パルスが光源から対象のシーンに向かって放射される。放射された光パルスは、一般に、赤外線(IR)など不可視の光である。光パルスは、シーンにおける様々な対象に反射する。反射されたパルスのそれぞれの一部は、3Dカメラに戻る。光が対象からカメラまで戻るのにかかる時間が使用されて、対象までの距離を決定する。カメラにより近い対象に反射する光パルスは、遠くに配置された対象に反射するものより早くカメラに戻る。
【0004】
TOF測定に使用される3Dカメラは、一般に、光感応面(以下「感光面」または「感光性表面」と呼ばれる)および感光面をゲートオンまたはゲートオフするためのゲート制御手段の両方を含む。放射された光パルスごとに、光パルスが放射された時点から正確に予め定められた遅延の後、カメラは、ある期間の間ゲートオンされ、これは以下「ゲート」と呼ばれる。シーンにおける対象から反射される光パルスは、ゲートの間にカメラによって受信される場合、感光面上に画像を残す。パルスの放射とゲートのゲートオンとの間の既知の遅延時間に、これらの光パルスが対象に移動し、戻るため、また光の速度もわかっているため、対象までの距離が計算され得る。ゲート遅延時間の範囲にわたってこのプロセスを繰り返すことによって、カメラからの様々な距離のところにあるシーンにおける特徴までの距離が取得され得る。
【0005】
いくつかの3Dカメラにおいて、単に光パルスとゲートとの間のタイミングを考えるのではなく、カメラがゲートオンされる時間の間に感光面上に記録される光の量も、シーンにおける対象までの距離を決定するために使用される。この手法は一般に、シーンからの光の測定を3つ行うことを必要とする。
【0006】
「タイミング」測定は、光パルスをシーンに送信し、オプションで光パルスの幅である比較的短いゲートでシーンが撮像される感光面をゲートオンすることによって行われる。ゲートの間に感光面の画素に記録される光の量は、画素上に結像されるシーンのある領域のカメラからの距離に応じて決まる。タイミング測定は、画素によって撮像される領域の反射率によっても影響を受ける。反射率が高い領域は、送信パルスをより反射し、反射率が低い領域は、送信パルスをあまり反射しない。したがって、反射率が異なるカメラから等距離の特徴は、カメラから様々な距離に配置されているように見える。
【0007】
タイミング測定は、第2の正規化測定を行うことによって、反射率の差について補正され得る。この測定は、光パルスを送信し、比較的長いゲート、オプションで光パルスの幅の3倍で、シーンを撮像する感光面をゲート制御することを伴う。ゲートが長いことによって、感光面は、シーンにおけるある領域によってカメラに到達する光パルスから反射される実質的にすべての光を記録することができる。3Dカメラは、タイミング測定を各画素の正規化測定で割ることによって正規化された距離測定値を取得する。
【0008】
第3の測定は、背景光を測定する。これは、シーンに存在し、タイミング測定および正規化測定に存在する周辺光である。背景光は反射光パルスから生じないため、こうした測定があまり正確ではなくなる。送信光パルスからの光が存在しないとき、感光面をゲートオンし、感光面上に記録する光を記録することによって背景光が測定される。補正するために、3Dカメラは、背景光の測定を各画素のタイミング測定および正規化測定から差し引く。
【0009】
一般に、様々な測定値を取得するために、複数の感光面が使用される。いくつかの3Dカメラにおいて、3つの感光面が使用されており、タイミング測定、正規化測定、および背景測定のそれぞれに異なる感光面が使用される。
【0010】
3Dカメラは、シーンにおける特徴までの距離情報と共に結像されているシーンのピクチャを取得および/または表示する撮像システム(以下、「3D撮像システム」と呼ばれる)の構成要素として使用されることが多い。いくつかの3D撮像システムは、結像されているシーンのピクチャを記録するために、距離測定値を提供するために使用されるものに加えて、感光面を使用する。したがってこうしたシステムは、4つの感光面を有していてもよく、すなわちシーンのピクチャのためのもの、シーンにおける特徴までの距離を計算するために必要なタイミングデータ、正規化データ、および背景データのためのものである。
【0011】
3D撮像システムに使用される感光面は、ゲート制御手段またはシャッター、フィルタ、および様々な複雑度の光学装置など、他のタイプの構成要素を使用する。ゲート制御手段には、例えば電気光学シャッターまたはゲート制御型映像増倍管などがあり得る。赤外光によって撮像感光面が記録する画像のゆがみを防ぐために、撮像感光面と共にIRフィルタがよく使用される。例えば、距離測定感光面に赤外光のみを通すために、他のフィルタが使用されてもよい。光学装置は、ビームスプリッタ、光をリフォーカスし、または中継するための様々なレンズ、絞り、プリズムなどのアイテムを含む。
【0012】
シーンにおける特徴までの距離を決定するために、画素に記録される光の量を使用するゲート制御型3D撮像システムの例がPCT公開WO01/18563号に示されており、その開示は、参照により本明細書に組み込まれる。示された構成のそれぞれは、シーンの画像を提供するためのビデオカメラまたは感光面、および距離(すなわちタイミング)、背景、および正規化情報をそれぞれ提供するための「D」、「B」、および「N」と表記された3つの他の感光面の両方を含む。PCT公開WO01/18563号の図1において、システムは、ビームスプリッタ、2つのリフォーカスレンズ系、三面プリズム、および各感光面に個別のシャッターを含む。同じ特許において、図3の構成は、四面プリズムを使用して、入来中の光を分け、方向付けする。
【発明の概要】
【発明が解決しようとする課題】
【0001】
本発明は、感光面(22,24)における画素によって記録された(registered)光の量に応じてシーン(36)までの距離を決定することを課題とする。
【課題を解決するための手段】
【0013】
本発明の一部の実施形態の一態様は、距離マップおよびシーンのピクチャを取得するための改良された3D撮像システムを提供することに関する。
【0014】
本発明の一部の実施形態の一態様によれば、シーンを撮像し、シーンの特徴までの距離を決定するために、少なくとも1つのローリングシャッター感光面が使用される。
【0015】
ローリングシャッター感光面は、通常、多くの従来のカメラに使用されており、比較的安価である。ローリングシャッターは、感光面における画素の帯域を順次ゲートオンおよびゲートオフして、シーンの画像からの光を記録し、取得する。一般に、各画素帯域は、前の画素帯域のゲートオンの後、以下「読み取り時間」と呼ばれる遅延期間の後、光に感じやすくなるようにゲートオンされる。読み取り時間は、前の画素帯域がゲートオンされた時間の間、前の画素帯域における画素によって記録される光の量を読み取るために必要な時間である。このように、ゲート制御された画素は、感光面全体がシーンに露光されるまで、感光面を横断して移動する、または「転がる」。提示の便宜上、ローリングシャッターによって画素の帯域をゲートオンすることは、画素帯域を「開く」と言われ、ローリングシャッターによって画素の帯域をゲートオフすることは、画素帯域を「閉じる」と言われる。
【0016】
通常デジタルカメラに使用されている比較的安価で簡単なローリングシャッター感光面は、シーンの奥行きマップを取得するために本発明の一実施形態に従って適切にゲート制御され得ると本発明者は判断した。本発明の一実施形態による3D撮像システムにおけるローリングシャッター感光面の使用は、シーンの画像およびシーンの奥行きマップの両方を取得する比較的簡単で安価な3D撮像システムを提供する。
【0017】
本発明の一部の実施形態において、3D撮像システムは、オプションで「グローバルな」第1および第2のシャッターによってそれぞれシャッター操作される第1および第2の照準調整ローリングシャッター(boresighted rolling shutter)感光面を含む。各グローバルシャッターは、そのそれぞれの感光面のエリアの実質的にすべてに対する光の送信をブロックおよびブロック解除し、それによって感光面をゲートオンおよびゲートオフするように制御可能である。提示の便宜上、グローバルシャッターによる感光面への光のブロックおよびブロック解除は、それぞれ感光面を「ゲートオフする」および「ゲートオンする」と言われる。グローバルシャッターに使用される「ゲートオフする」および「ゲートオンする」という用語は、画素の帯域をゲートオフするおよびゲートオンするのに「閉じる」および「開く」が使用されるローリングシャッターの操作とグローバルシャッターの操作とを区別することに留意されたい。オプションで、第1および第2の感光面は、RGB感光面である。オプションで、第1の感光面は、実質的にIR波長の比較的狭い帯域においてのみ波長を有する光を送信する狭帯域通過フィルタによって遮蔽される。
【0018】
シーンの3Dマップおよびシーンの画像を取得するために、本発明の一実施形態によれば、IR帯域通過フィルタによって通過される波長を有するIR光パルス列が、シーンを照らすために送信される。パルス列の送信の間、各ローリングシャッター感光面は、感光面の関連のグローバルシャッターを通過する光に露光されるように、感光面における画素帯域が順次開閉されるローリングシャッター露光モードで動作される。しかし、本発明の一実施形態によれば、第1および第2の感光面における画素の同種の帯域は、実質的に同時にオンおよびオフされる。また、パルス列における各光パルスの送信後、第1のグローバルシャッターは、比較的短い「タイミング」ゲートの間、第1の感光面をゲートオンするように制御される。タイミングゲートの間、第1のシャッターにおける画素の「開いた」帯域における画素は、シーンについての距離情報を取得する。また、オプションで、各光パルスの送信後、第2のグローバルシャッターは、比較的長い「正規化」ゲートの間、第2の感光面をゲートオンするように制御される。正規化ゲートの間、第2の感光面における画素の開いた帯域における画素は、第1の感光面における同種の画素によって取得される距離データを正規化するためにデータを取得する。第1および第2の感光面における画素の同種の帯域は実質的に同時に開くため、正規化データおよびタイミングデータは、実質的に同時に取得される。
【0019】
オプションで、タイミングデータおよび正規化データの取得後、第1および第2のグローバルシャッターはそれぞれ、少なくとも1つの背景ゲートの間、第1および第2のローリングシャッター感光面をゲートオンするように制御される。少なくとも1つの背景ゲートの間、タイミングおよび/または正規化データを取得するために、シーンを照らすために送信されるIR光のパルスからの光が3D撮像システムに到達しないとき、各ローリングシャッター感光面は、シーンからの光に露光される。第1の感光面は、IR帯域通過フィルタによって遮蔽され、したがって背景IR光を記録し、第2の感光面は、シーンからのRGBおよび背景IR光を記録する。
【0020】
本発明の一実施形態によれば、それぞれタイミングゲートおよび正規化ゲートの間に第1および第2の感光面によって取得されたデータ、およびシーンを照らすIRパルスからの光が3Dシステムに到達しないとき第1および第2の感光面によって取得されたデータは、シーンの奥行きマップを提供するために使用される。IRパルスからの光が3D撮像システムに到達しないとき、第2の感光面、およびオプションで第1の感光面によって取得されるデータは、シーンのRGB画像を提供するために使用される。
【0021】
したがって、本発明の一実施形態によれば、画素を有する第1および第2のローリングシャッター感光面と、第1の感光面をゲートオンおよびゲートオフするように動作可能な第1のシャッターと、シーンを照らすために光パルス列を送信するように制御可能な光源と、光パルスの送信時間に応じて第1の感光面をゲートオンおよびゲートオフするように第1のシャッターを制御し、シーンによって光パルスから反射された光を記録するために、感光面における画素の帯域を開閉するコントローラと、感光面における画素によって記録された光の量に応じてシーンまでの距離を決定するプロセッサとを備える3D撮像システムが提供される。
【0022】
オプションで、コントローラは、同じ送信光パルスから3Dカメラに到達する光を記録するために、第1および第2の感光面における画素の帯域を開閉する。さらに、または代わりに、コントローラは、オプションで、第1の感光面をゲートオンおよびゲートオフするようにシャッターを制御し、第1の感光面における画素の帯域をオンおよびオフして、光パルスからの光が3D撮像システムに到達しない期間の間にシーンからの光を記録する。
【0023】
本発明の一部の実施形態において、プロセッサは、領域によって光パルスから反射され、第1の感光面によって記録された光の量から、光パルスからの光が3D撮像システムに到達しない期間の間に第1の感光面によって記録された光の量を減じたものに応じてシーンの領域までの距離を決定する。さらに、または代わりに、コントローラは、オプションで、第2の感光面における画素の帯域をオンおよびオフして、光パルスからの光が3D撮像システムに到達しない期間の間にシーンからの光を記録する。さらに、または代わりに、コントローラは、オプションで、第2の感光面における画素の帯域をオンおよびオフして、光パルスからの光が3D撮像システムに到達しない期間の間にシーンからの光を記録する。オプションで、コントローラは、第1および第2の感光面における画素の帯域をオンおよびオフして、光パルスからの光が3D撮像システムに到達しない同じ期間の間にシーンからの光を記録する。オプションで、プロセッサは、実質的に、光パルスからの光が3D撮像システムに到達しない期間の間に第2の感光面によって記録されたシーンからの光の量のみに応じてシーンの画像を提供する。さらに、または代わりに、プロセッサは、オプションで、実質的に、光パルスからの光が3D撮像システムに到達しない期間の間に第2の感光面によって記録されたシーンからの光の量から、光パルスからの光が3D撮像システムに到達しない期間の間に第1の感光面によって記録された光の量を減じたもののみに応じてシーンの画像を提供する。
【0024】
本発明の一部の実施形態において、プロセッサは、領域によって光パルスから反射され、第2の感光面によって記録された光の量から、光パルスからの光が3D撮像システムに到達しない期間の間に第2の感光面によって記録された光の量を減じたものに応じてシーンの領域までの距離を決定する。
【0025】
本発明の一部の実施形態において、3D撮像システムは、第2の感光面をゲートオンおよびゲートオフするように動作可能である第2のシャッターを備える。
【0026】
本発明の一部の実施形態において、第1の感光面は、実質的に、光波の狭帯域における光のみに感じやすい。オプションで、第1の感光面が感じやすい光は、IR光である。さらに、または代わりに、第2の感光面は、オプションで、光波の狭帯域における光に感じやすい。オプションで、第2の感光面は、RGB光に感じやすい。
【0027】
本発明の一実施形態によれば、シーンを照らすために光パルス列を送信するステップと、シーンによって光パルスから反射される光を記録するために光パルス列における光パルスが送信される時間に応じてローリングシャッター感光面をゲートオンおよびゲートオフするステップと、追加の感光面でシーンを撮像するステップと、ローリングシャッター感光面および追加の感光面によって記録される光を使用して、シーンの奥行きマップおよびシーンの画像を提供するステップとを含む、シーンを3D撮像する方法がさらに提供される。
【0028】
本発明は、以下の実施形態の説明を本明細書に添付の図面と併せ読めば、より明確に理解されよう。図において、複数の図に表示される同じ構造、要素、または部分は、それらが表示されるすべての図に同じ番号で表記される。図に示される構成要素および特徴の大きさは、便宜上、また提示を明瞭にするために選択されており、必ずしも等倍に示されるものではない。図が以下に列挙される。
【図面の簡単な説明】
【0029】
【図1】図1Aは、本発明の一実施形態による、2つのローリングシャッター感光面を含む3D撮像システムを示す概略図である。図1Bは、本発明の一実施形態による、図1Aの3D撮像システムを示す概略透視図である。
【図2】図2Aは、本発明の一実施形態による、2つのローリングシャッター感光面を含む3D撮像システムを示す概略図である。図2Bは、本発明の一実施形態による、図2Aの3D撮像システムを示す概略透視図である。
【図3】本発明の一実施形態による図1Aの3D撮像システムを示すタイミング図である。
【図4】本発明の一実施形態による図1Aの3D撮像システムを示すタイミング図である。
【発明を実施するための形態】
【0030】
図1Aは、本発明の一実施形態による3D撮像システム20を概略的に示す。3D撮像システム20は、オプションで、第1のローリングシャッター感光面22、第2のローリングシャッター感光面24、制御可能光源26、光学装置類28、およびコントローラ30を備える。感光面22は、グローバルシャッター122によってシャッター操作され、感光面24は、グローバルシャッター124によってシャッター操作される。オプションで、シャッター124は省略され、感光面24は、グローバルシャッターによってシャッター操作されないようになっている。コントローラ30は、両方のシャッターに接続されるが、明瞭にするために、図1Aには、シャッター122への接続のみが示されている。
【0031】
グローバルシャッター122および124は、それぞれ感光面22および24への光の送信のブロックおよびブロック解除を行うように制御可能である。シャッター122および124は、それらがシャッター操作する感光面とは別のものとして概略的に示されているが、当分野で知られている任意の適したシャッターとすることができ、感光面と統合されてもよい。グローバルシャッター122は、オプションでナノ秒以上の速度でゲート制御することができる高速シャッターである。グローバルシャッター124は、オプションで、よりゆっくりゲートオンおよびゲートオンし、例えば、約1ミリ秒でゲートオンおよびゲートオフすることができる。一般に、感光面124をシャッター操作するためには高速シャッターは必要とされないため、本発明の一部の実施形態において、感光面をシャッター操作するためにシャッター124などのグローバルシャッターは必要とされない。距離測定値を提供するために感光面をシャッター操作することは、感光面のローリングシャッター機能を使用して画素の帯域を開閉することによって達成される。感光面22および24は、オプションで同種である。同種の感光面において、各感光面における同じ相対位置に対応する画素は、実質的にシーンの同じ領域から光を受信する。3D撮像システム20の構成要素は、オプションで、破線の境界線32によって概略的に表される同じハウジング内に配置される。
【0032】
第1のローリングシャッター感光面22は、オプションで、実質的にIR光のみに感じやすい画素を含む。図1Aは、概略的にIR光のみがその感光面の画素上に記録されることを示すために、感光面22の前にIRフィルタ31を示す。第2のローリングシャッター感光面24は、IR光および可視光に感じやすい画素を含む。可視光の感度は、カラー(RGB)または白黒に対するものとすることができる。図1AにおけるIR光は、概略的に単一線矢印33によって表され、可視光はブロック矢印34によって表される。
【0033】
画素は、概ね感光面22および24上に四角のアレイに配列されるが、本発明の一部の実施形態に従って他の配列も企図される。画素のアレイのサイズ、および個々の画素自体のサイズは、特定の用途のために必要に応じて変わり得る。一般に、所望の範囲の視野および画像解像度を提供するために、アレイは、かなり大きいサイズとし、個々の画素はかなり小さいサイズとするものとする。
【0034】
光源26は、シーン36を示すために、矢印33によって概略的に表される少なくとも1つの、一般にIRの光パルス列を送信するように制御可能である。コントローラ30は、光パルスの送信を停止したり開始したりするように光源26を制御する。光学装置類28は、シーン36から光を集め、集められた光を感光面に合焦する。光学装置類28は、オプションで、レンズ27によって表されるレンズまたはレンズ系、およびビームスプリッタ29を備える。
【0035】
IR光33は、シーン36における特徴に反射し、可視光34と共に3D撮像システム20に戻る。両方のタイプの光は、光学装置類28を通過し、光学装置類は、オプションで、感光面22および24のそれぞれに光の半分を向ける。3D撮像システム20は、本発明の一実施形態に従って、感光面に入射する光から取得されたデータを使用して、シーン36の距離マップ(以下、「奥行きマップ」とも呼ばれる)を決定し、シーンのピクチャを提供する。
【0036】
「ローリングシャッター」という用語は、感光面における画素の帯域を選択的に開閉することができる感光面の機能を指す。図1Aにおいて、各感光面のローリングシャッターは、概略的に「ローリング式」の絞り23および25によって表される。コントローラ30は、両方のシャッターに接続されるが、明瞭にするために、図1Aには、ローリングシャッター23への接続のみが示されている。
【0037】
図1Bは、図1Aに示される3D撮像システム20の概略透視図を示すが、シャッター124は、オプションで削除されてもよいことを示すために破線で示され、ローリングシャッター感光面24は、グローバルシャッターによってゲート制御されないようになっている。明瞭にするために、光源26およびコントローラ30は、図1Bに示されていない。
図1Bは、各感光面上の画素のアレイを示し、シーン36からレンズ27、ビームスプリッタ29、およびグローバルシャッター122および124を通過して、感光面22および24に突き当たるように波状の矢印35によって概略的に表される光波を示す。
【0038】
3D撮像システム20が図1Bに示されるとき、各ローリングシャッター感光面22および24は、感光面の上の2行を含む画素の陰付きで示される開いた帯域38を有する。画素の帯域における画素によって記録される光の量を読み取るために必要な読み取り時間の後、ローリングシャッター感光面は、画素の同種の帯域40の次の「対」を開き、実質的に各感光面22および24のすべてがシーン36からの光に露光されるまで続行する。シーン36におけるサンプル領域Xは、画素の同種の帯域が開くと、それぞれの画素帯域38におけるX’と表記された画素上に結像され、サンプルポイントYは、同様に、同種の感光面22および24の各画素帯域40におけるY’と表記された画素上に結像される。
【0039】
3D奥行きマップおよびシーン36画像を取得するためにグローバルシャッター122および124、およびそれによって感光面22および24をゲート制御することは、コントローラ30によって制御される。上述したように、コントローラ30は、オプションでIRの光パルス列33を送信するように光源26を制御する。本発明の一実施形態において、各IR光パルス後の指定された遅延の後、コントローラ30は、タイミングゲートの間、感光面22をゲートオンするようにグローバルシャッター122を制御する。オプションで、各タイミングゲートの間、コントローラ30は、正規化ゲートの間に実質的に同時に感光面24をゲートオンするようにシャッター124も制御する。さらに、光パルス33が送信される期間の間、感光面における同種の画素帯域の対は、タイミングゲートおよび正規化ゲートの間に送信パルスからシーン36によって反射される光を記録するために、コントローラ30によって同時に順次開かれる。
【0040】
タイミングゲートおよび正規化ゲートの間の光の記録後、感光面22および24における画素帯域は開かれ、実質的に光源26によって送信されたIR光パルスからの光が撮像システム20に到達しないとき、背景ゲートの間に、グローバルシャッター122および124は、感光面22および24をゲートオンするように制御される。したがって、背景ゲートの間、感光面22は、IR背景の測定値を取得し、感光面24は、IR背景の測定値およびRGB光をシーン36から取得する。
【0041】
コントローラ30は、それに応じて、シーン36における特徴までの距離を提供するために必要なタイミング、正規化、および背景の測定値、および従ってシーンの奥行きマップが取得され得るように、光源26、グローバルシャッター122および124およびローリング感光面22および24を調整するように構成される。
【0042】
図2Aは、本発明の一実施形態による、3D撮像システム220の概略平面図である。図2Aの実施形態は、レンズ27、グローバルシャッター122、IRフィルタ31、およびローリングシャッター感光面22を備える第1のカメラ221、並びにレンズ37、グローバルシャッター124、およびローリングシャッター感光面24を備える第2のカメラ222を有する「2カメラ」システムである。感光面22および24のローリングシャッターの態様は、それぞれローリング式絞り23および25によって表される。光源26は、コントローラ30の制御下で、シーン36を照らすために少なくとも1つのIR光パルス33を送信する。図示するように、コントローラ30は、グローバルシャッター122および124、第1のカメラ221のローリングシャッター23、並びに第2のカメラ222のシャッター124およびローリングシャッター25にも接続され、それらを制御する。
【0043】
図2Bは、図2Aに示される3D撮像システム220の概略透視図を示すが、シャッター124は、オプションで削除されてもよいことを示すために破線で示され、ローリングシャッター感光面24は、グローバルシャッターによってゲート制御されないようになっている。さらに明瞭にするために、光源26およびコントローラ30は、図2Bに示されていない。
【0044】
図2Bは、各感光面上の画素のアレイを示し、シーン36からレンズ27および37を通過する波状の矢印35によって概略的に表される光波を示す。レンズ27を通過する光は、実質的にIR光のみが感光面24に突き当たるように、グローバルシャッター122によってシャッター操作され、IRフィルタ31によってフィルタ処理される。レンズ37を通過する光は、グローバルシャッター124によってシャッター操作され、フィルタ処理されずに感光面24に突き当たる。上記の図1Bに示される処理と同様に、同種の画素帯域38および40、およびその後の画素帯域は、適切な読み取り時間の後、実質的に感光面22および24のすべてがシーン36からの光に露光されるまで順次開かれる。サンプルポイントXおよびYは、各同種の画素の帯域が露光されるにつれて、それぞれ画素帯域38および40上にX’およびY’として結像する。
【0045】
図3および図4は、本発明の一実施形態による、シーン36の奥行きマップを取得するために感光面22および24をゲート制御することを示すタイムグラフまたはライムラインのグラフを示す。ライムライン41は、時刻T1,T2,・・・Tnにおけるシーン36を照らすためのオプションでIRの光パルス列33の送信、および3D撮像システム20(または220)に到達する光パルスの反射45を概略的に示す。タイムライン42および43は、それぞれ、ライムライン41に沿って示されるIR光パルス列におけるパルスが送信される時間に対するグローバルシャッター122および124による第1および第2の感光面22および24のゲート制御を概略的に表し、また、各感光面によって集められ、撮像される光を概略的に示す。さらに明瞭にするために、それぞれタイムライン42および43におけるシャッター122および124のゲート制御は、太線で示される。
【0046】
タイムライン42に沿った基準面55は、シーン36から3D撮像システム20に到達する周囲のIR背景光を表すためにゼロより上にある。タイムライン43より上にある基準面56は、シーン36から3D撮像システム20に到達する背景IR光+RGB可視光を表す。タイムライン43における基準面56は、RGB可視光およびIR光を含むため、タイムライン42における基準面55より高いレベルで示される。
【0047】
また、図3は、タイミングゲートおよび正規化ゲートの間に帯域における画素がグローバルシャッター122および124を介して送信された光を記録することができるように、感光面における画素帯域の開閉を示すためのローリングシャッター感光面22および24の表現も含む。この例において、各ローリングシャッター23および25によって露光される画素の帯域のサイズは、2行になるように任意に選択される。
【0048】
コントローラ30は、シーンを照らすためにオプションでIRの光パルス列33を送信するように光源26を制御し、オプションで各感光面22および24上の画素帯域58をオンすることによってシーン36の3D画像を取得するプロセスを開始する。画素帯域58は、太い四角の境界によって示される。複数の光パルス33が送信されてシーン36を照らす期間の間、画素帯域58が開いており、その間、各光パルスの後、グローバルシャッター122は、短いゲート48の間、感光面22および24をゲートオンするように制御される。この同じ期間において、シャッター124は、オプションで比較的長い単一の連続ゲート62の間ゲートオンされる。
【0049】
図3において、送信光パルス33は、時刻T1,T2,・・・Tnに送信され、持続時間Tを有する実線の光パルス列としてタイムライン41に沿ってグラフ表示されている。列におけるパルスの数「n」は、任意の数字とすることができ、一部の実施形態では、1,000または10,000パルスである。送信光パルス33から反射された光のパルス45は、破線で示される。説明の便宜上、この例におけるすべての光パルスは、振幅が等しく示されている。送出中の送信光パルス33は、光パルスが3D撮像システム20(または220)から「送出中」であることを図示する左から右に向く矢印を上に有する。反射光パルス45は、光パルスが撮像システム20に入射中であることを示す右から左に向く矢印を上に有する。
【0050】
上述したように、タイムライン42は、グローバルシャッター122による感光面22のゲート制御を示す。最初の比較的短い「タイミング」ゲート48の間にシャッターに入射するシーン36からの光がシャッターを通過し、感光面22に突き当たることができるように、各光パルス33後の最初の予め定められた時間間隔46の後、コントローラ30は、グローバルシャッター122をゲートオンする。ゲート48は、ゲート幅50を有し、光パルス33の送信時刻T1,T2,・・・Tnに対応する時刻TX1,TX2,・・・TX3で開始するものとして概略的に示される。時間間隔46およびゲート幅50は、予め定められたシーン36「片」内に存在する特徴によって送信光パルスから反射された光が少なくとも一部分最初のゲート48の間に捕捉されるように、コントローラ30によって選択される。オプションで、ゲート幅50は、送信光パルス33および反射光パルス45のパルス幅Tに実質的に等しい。
【0051】
図3において、各タイミングゲート48内の陰付きエリア52は、一例として、タイミングゲートの間、第1の感光面22の特定の画素上に記録されるIR光を表す。感光面22上の各画素は、シーン36における対応する領域を撮像する。陰付きエリア52の光は、2つの部分、すなわち背景光53および反射光54を含む。背景光53は、記録された周辺IR光であり、反射光54は、画素に結像されるシーン36における対応する領域によって送信パルス33から反射された光パルス45からの記録されたIR光である。
【0052】
図では、背景光53は、タイムライン43のゼロラインと基準面55との間の記録された陰付きエリア52の光の一部である。記録された光54は、反射パルス45とタイミングゲート48との時間的な交差点の結果であり、図では、基準面55より上の記録された陰付きエリア52の光の一部である。
【0053】
上述したように、感光面22における画素帯域58は、複数の光パルス33が送信されてシーン36を照らす期間の間開いており、その間、各送信光パルスの後、グローバルシャッター122は、短いゲート48の間、感光面22をゲートオンするように制御される。その結果、感光面22における画素帯域58が開いている期間の間、画素帯域における各画素は、画素上に結像されるシーン36の領域によって複数の光パルス33から反射される光、例えば反射光パルス45における光を「蓄積」し、記録する。
【0054】
画素帯域58が開かれ、タイミング情報を記録する前の感光面22および画素帯域58が、タイムライン42に沿って第1のゲート48の左に図示されている。最初に開かれたとき、画素帯域における画素は、光を記録しておらず、画素帯域におけるすべての画素が「空白」の状態で示されている。また、複数のゲート48の間に複数の対応する反射パルス45から光を蓄積した後の、および画素帯域における画素によって取得されるタイミング情報が読み取り時間の間に読み取られる時点の感光面22および画素帯域58が、時刻Tnに送信された光パルス33に対して起動された最後の「n番目」のゲート48の右に図示される。画素帯域58の画素に結像されたシーン36の一部に関連する蓄積されたタイミング情報は、画素帯域の陰によって図示される。
【0055】
上述したように、ローリングシャッター感光面24のゲート制御は、タイムライン43に沿って示される。タイムラインに示されるように、時刻T1の最初の光パルス33の送信後予め定められた時間60の後、コントローラ30は、時刻TY1にグローバルシャッター124をゲートオンして、1秒間、オプションでゲート幅64を有する「正規化」ゲート62の間、感光面24をゲートオンする。ゲート62内の陰付き領域66は、ゲート間に反射光パルス45から捕捉されたIR光33およびRGB可視光34を図示する。陰付き領域66は、IR背景およびRGB可視光67、および反射光パルス45からの光68を含む。図では、反射光68は、反射光パルス45と正規化ゲート62との交差点である。正規化ゲート64の幅は、正規化ゲート62の間に感光面24に向けられる感光面24上に結像されたシーン36の領域から3D撮像システム20に到達するすべての反射光パルス45からの実質的にすべての光が感光面24の画素帯域58における画素に記録されるほど、かなり大きい。感光面22と同様に、画素帯域が開かれたすぐ後、その画素が光を記録する前の感光面24およびその画素帯域58がゲート62の左に図示され、光を記録した後、その画素が読み取られるすぐ前の感光面24およびその画素帯域58がゲート62の右に図示されている。画素帯域58によって取得される正規化データは、画素帯域が閉じられた後、画素帯域の読み取り時間中に読み取られる。
【0056】
タイミングゲート48が開始された、予め定められた時間46の最初の使用、および正規化ゲート62が開始された予め定められた時間60はいずれも、最初のIR光パルス33の同じ開始時刻T1を基準にして測定されることを理解されよう。したがって、本発明の一実施形態によれば、2つの感光面における同種の帯域が光を記録し、同じ照射するIR光パルス33から同時に、タイミングデータおよび正規化データをそれぞれ取得するように、3D撮像システム20は、感光面22および24をゲート制御し、感光面における画素帯域を開く。各感光面のエリアの実質的にすべてが露光されるまで、上記のプロセスが繰り返され、各ローリングシャッター感光面はその都度、画素のそのアレイの同種の画素帯域を順次露光する。
【0057】
図4は、各感光面の画素帯域59が露光されるプロセスのサンプルの反復を示す。コントローラ30は、感光面のどの部分が露光されたか、およびどの部分がまだ露光されていないかを追跡する。3D撮像システム20のコントローラ30は、一般に、画素帯域58が開かれた後、画素帯域の読み取り時間に実質的に等しい遅延の後、感光面22および24における帯域59をオンにすることに留意されたい。したがって、一般に、異なる画素帯域が同時に開かれ、したがって感光面における画素の異なる帯域における画素が同じ光パルス33に応じてタイミングデータおよび正規化データを同時に取得することに留意されたい。
【0058】
本発明の一実施形態による背景光データの取得も図3および図4に示される。オプションで、タイミングデータおよび正規化データが取得された後(すなわち、タイミングデータおよび正規化データのフレームが感光面から取得された後)、光パルス33の送信後のTXb時に、パルス33からの光が実質的に3D撮像システム20に入射されないとき、コントローラ30は、「背景」ゲート72の間、感光面22をゲートオンおよびゲートオフするようにグローバルシャッター122を制御し、ゲートの間光を記録するために画素帯域58を開く。オプションで、ゲート72は、タイミングゲート48のゲート幅50のn倍、すなわちn×Tに等しいゲート幅74を有し、式中、nは画素の帯域がタイミング情報を取得するために開くときに行われるタイミングゲートの数である。ゲート72の間に感光面22の画素帯域58における画素によって記録される光は、そのゲートにおける陰付き領域76によって図示される。同様に、オプションで正規化ゲート62のものと等しいゲート幅64を有する背景ゲート80の間に画素の帯域が光を受信するように、時刻TYbに、シャッター124は、感光面24をゲートオンし、画素帯域58を開く。ゲート80の間、感光面24の画素帯域58における画素は、ゲートにおける陰付きの帯域84によって図示される光を記録する。オプションで、ゲート72およびゲート80は、実質的に同時である。
【0059】
背景ゲート72および80の間、反射光パルス45からのIR光はない。したがって、ゲート72の間に記録された実質的にすべての光76は、シーン36からのIR背景光であり、ゲート80の間に記録された実質的にすべての光84は、シーン36からのIR背景光およびRGB可視光である。図4は同様に、各感光面の露出された画素帯域59についての背景光の取得を示す。
【0060】
感光面22および24のすべての画素帯域についてのタイミングデータ、正規化データ、および背景データの取得後、本発明の一実施形態によるシーン36の奥行きマップおよびピクチャが決定される。感光面22および24における同種の画素の各対について、
(1)タイミングゲート48の間に感光面22の画素に入射する陰付きエリア52のIR光
(2)正規化ゲート62の間に感光面24に入射する陰付き領域66のRGB+IR光
(3)背景ゲート72の間に感光面22に入射するIR光76
(4)背景ゲート80の間に感光面24に入射するRGB+IR光84
の4組のデータが取得された。
【0061】
本発明の一実施形態において、3D撮像システム20は、感光面について記録された上述した「(1)」から「(4)」の光の量を使用して感光面22および24における所与の対の画素に結像されるシーン36の特徴までの距離「D」を決定する。オプションで、シーン36の特徴までの距離は、以下の式によって定義される商Qに応じて決定される。
【0062】
【数1】
【0063】
Qの上記の式(1)では、短いゲート48の帯域幅50(図3および図4)は、パルス33のパルス幅Tに等しく、背景ゲート74は、nTに等しいゲート幅を有すると仮定し、上述したように、「n」は、画素の帯域、例えば帯域58または59(図3)が開いたまま維持されている間に行われる短いゲート48の数に等しいと仮定する。また、式(1)では、背景ゲート80および正規化ゲート62が等しい同じゲート幅を有すると仮定する。前の2つの文に示した条件を満たさないゲート幅については、Qの式は、蓄積された電荷を同じ長さの露光時間に正規化するように変更されなければならない。
【0064】
画素の対に結像された特徴までの距離Dは、以下の形の式に従って本発明の一実施形態で決定される。
【0065】
【数2】
【0066】
式中、cは、光の速度であり、T46は、光パルス33が送信された時間と、短いゲート48が開始する時間との間の予め定められた遅延時間間隔46を表す。式(2)における±記号に関して、マイナス記号は、光パルス33における最後のフォトンが短いゲート48の間に受信された場合に使用され、プラス記号は、光パルスにおける最初のフォトンがゲートの間に受信された場合に使用される。「+」または「−」がいつ使用されるべきかを決定するために、参照によりその開示が本明細書に組み込まれる、オプションでPCT出願第PCT/IL2007/001571号に記載されるゲート制御方法など、当分野で知られている様々なゲート制御方法が本発明の実践で使用されてもよい。
【0067】
本発明の一実施形態において、シーン36のRGB画像は、感光面24における画素によって記録される光の量に応じて提供される。オプションで、シーン36のRGB画像における所与の画素のRGB強度「IRGB」は、
IRGB=(4)−(3)[ゲート幅64/ゲート幅74](3)
であり、これは、Qの式(1)の適用下での条件では
IRGB=(4)−(3) (4)
となる。
【0068】
シーンの3D映像の撮像は、オプションでシステム20によって提供される。一般に、リアルタイムの3D撮像は、少なくとも30の奥行きマップおよび1秒当たりのシーンの対応する画像を提供することを必要とする。このレートを提供するために、感光面22および感光面24のそれぞれから1秒当たりデータの少なくとも60フレームが取得されなければならず、したがって、感光面についてのフレーム取得時間は、約16ms未満でなければならない。記載されたフレーム取得時間は、十分に従来の市販のローリングシャッター感光面の性能内である。
【0069】
本出願の説明および特許請求の範囲において、「備える」、「含む」、および「有する」という単語のそれぞれ、およびその形は、単語が関連付けられ得るリストにおける構成部材に必ずしも限定されない。
【0070】
本発明は、例として提供されるその実施形態の様々な詳細な説明を使用して説明されており、本発明の範囲を限定するものではない。記載された実施形態は、異なる特徴を含んでいてもよく、そのすべてが本発明のすべての実施形態で必要であるとは限らない。本発明の一部の実施形態は、特徴の一部のみまたは特徴の可能な組合せを使用する。記載された本発明の実施形態の変形および記載された実施形態に示された特徴の様々な特徴の組合せを含む本発明の実施形態は、当業者であれば思いつくであろう。本発明の範囲は、特許請求の範囲によってのみ限定され、特許請求の範囲は、すべてのこうした変更および組合せを含むものと解釈されるものとする。
Claims (14)
- RGB可視光の存在下における3D撮像(imaging)システム(20)であって、
画素(pixels)を有する第1および第2の感光面(photosurfaces)(22,24)と、
シーン(scene)(36)を照らすために光パルス(33)列(a train of light pulses)を送信するように制御可能な光源(26)と、
前記感光面(22,24)における画素によって記録された(registered)光の量に応じて前記シーン(36)までの距離を決定するプロセッサと、
前記第1の感光面(22)をゲートオン(gate on)およびゲートオフ(gate off)するように動作可能な第1のシャッター(122)と、
前記第2の感光面(24)をゲートオン(gate on)およびゲートオフ(gate off)するように動作可能な第2のシャッター(124)と、
前記光パルス(33)の送信時間(transmission times)に応じて前記第1の感光面(22)及び前記第2の感光面(24)をゲートオンおよびゲートオフするように前記第1のシャッター(122)及び前記第2のシャッター(124)を制御し、前記シーン(36)によって前記光パルス(33)から反射された光(52,66)を記録するために、前記第1の及び第2の感光面(22,24)における同種の画素の帯域(bands of pixels)(58)を開閉する、コントローラ(30)と、
を備え、
前記第1の及び第2の感光面(22,24)は、ローリングシャッタ感光面である3D撮像システム。 - 前記コントローラ(30)が、同じ送信光パルス(33)から(from)前記3Dカメラに到達する8reaches)光を記録するために、前記第1および第2の感光面(22,24)における画素の帯域(38,40)を開閉する請求項1に記載の3D撮像システム。
- 前記コントローラ(30)が、前記第1のシャッター(122)を制御して、前記第1の感光面(22)をゲートオン及びゲートオフし、及び、前記第1の感光面(22)の画素の帯域を開閉して、前記光パルス(33)からの光が前記3D撮像システム(20)に到達しない期間の間に、前記シーン(20)からの光を記録するように構成される、
請求項1又は2に記載の3D撮像システム。 - 前記プロセッサが、領域によって前記光パルス(33)から反射され、前記第1の感光面(22)によって記録された光の量(52)から、前記光パルス(33)からの光が前記3D撮像システム(20)に到達しない期間の間に前記第1の感光面(22)によって記録された光の量(amount)(76)を減じた(minus)ものに応じて前記シーン(36)の前記領域までの距離を決定する請求項3に記載の3D撮像システム。
- 前記コントローラ(30)が、前記第2の感光面(24)における画素の帯域(58)をオンおよびオフして、前記光パルス(33)からの光が前記3D撮像システム(20)に到達しない期間の間に前記シーン(36)からの光(84)を記録するように構成される請求項1から4のいずれかに記載の3D撮像システム。
- 前記コントローラ(30)が、前記第1および第2の感光面(22,24)における画素の帯域(58)をオンおよびオフして、前記光パルス(33)からの光が前記3D撮像システム(20)に到達しない同じ期間の間に前記シーン(36)からの光(76,84)を記録するように構成される請求項5に記載の3D撮像システム。
- 前記プロセッサが、実質的に、前記光パルス(33)からの光が前記3D撮像システム(20)に到達しない期間の間に前記第2の感光面(24)によって記録される前記シーンからの光の量(84)のみに応じて前記シーン(36)の画像を提供する(provides)請求項5に記載の3D撮像システム。
- 前記プロセッサが、実質的に、前記光パルス(33)からの光が前記3D撮像システム(20)に到達しない期間の間に前記第2の感光面(24)によって記録された前記シーンからの光の量(84)から、前記光パルス(33)からの光が前記3D撮像システム(20)に到達しない期間の間に前記第1の感光面(22)によって記録された光の量(76)を減じたもののみに応じて前記シーン(36)の画像を提供する請求項5または請求項6に記載の3D撮像システム。
- 前記プロセッサが、[前記領域によって前記光パルス(33)から反射され、前記第2の感光面(24)によって記録された光の量(66)]−[前記光パルス(33)からの光が前記3D撮像システム(20)に到達しない期間の間に前記第2の感光面(24)によって記録された光の量(84)]に応じて前記シーン(36)の領域までの距離を決定する請求項5から8のいずれかに記載の3D撮像システム。
- 前記第1の感光面(22)が、実質的に光波(light waves)の狭帯域(narrow band)における光のみに感じやすい請求項1から9のいずれかに記載の3D撮像システム。
- 前記第1の感光面(22)が感じやすい(sensitive)前記光がIR光である請求項10に記載の3D撮像システム。
- 前記第2の感光面(24)が光波の前記狭帯域における光に感じやすい請求項10または請求項11に記載の3D撮像システム。
- 前記第2の感光面(24)がRGB光に感じやすい請求項12に記載の3D撮像システム。
- RGB可視光の存在下においてシーン(36)を3D撮像する方法であって、
前記シーン(36)を照らすために光パルス(33)列(train of light pulses)を送信するステップと、
前記シーン(36)によって前記光パルスから反射される光(52)を記録するために前記光パルス(33)列における光パルスが送信される時間に応じて第1のローリングシャッター感光面(22)及び第2のローリングシャッター感光面(24)をゲートオンおよびゲートオフするステップと、
前記第1の及び第2の感光面(22,24)における同種の画素の帯域(58)を開閉して、前記シーンによって前記光パルス(33)から反射された光(52,66)を記録するステップと、
前記第2のローリングシャッター感光面(24)で前記シーン(36)を撮像するステップと、
前記第1のローリングシャッター感光面(22)および前記第2のローリングシャッター感光面(24)によって記録される光(52,66)を使用して、前記シーン(36)の奥行きマップ(a depth map)および前記シーン(36)の画像(image)を提供するステップと
を含む方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/IL2008/001063 WO2010016047A1 (en) | 2008-08-03 | 2008-08-03 | Rolling camera system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011530097A JP2011530097A (ja) | 2011-12-15 |
JP5512675B2 true JP5512675B2 (ja) | 2014-06-04 |
Family
ID=39800544
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011521680A Active JP5512675B2 (ja) | 2008-08-03 | 2008-08-03 | ローリングカメラシステム |
Country Status (5)
Country | Link |
---|---|
US (1) | US8593507B2 (ja) |
EP (1) | EP2311251B1 (ja) |
JP (1) | JP5512675B2 (ja) |
CN (1) | CN102113309B (ja) |
WO (1) | WO2010016047A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11341771B2 (en) * | 2017-10-18 | 2022-05-24 | Sony Semiconductor Solutions Corporation | Object identification electronic device |
US11403872B2 (en) * | 2018-06-11 | 2022-08-02 | Sray-Tech Image Co., Ltd. | Time-of-flight device and method for identifying image using time-of-flight device |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI407081B (zh) | 2009-09-23 | 2013-09-01 | Pixart Imaging Inc | 利用成像位置差異以測距之測距裝置及其校正方法 |
US9645681B2 (en) | 2009-09-23 | 2017-05-09 | Pixart Imaging Inc. | Optical touch display system |
TWI443308B (zh) * | 2009-12-03 | 2014-07-01 | Pixart Imaging Inc | 測距裝置、3d影像感測裝置以及光學式觸控系統 |
US8638425B2 (en) * | 2009-12-03 | 2014-01-28 | Pixart Imaging Inc. | Distance-measuring device with increased signal-to-noise ratio and method thereof |
TWI408331B (zh) * | 2009-12-17 | 2013-09-11 | Ind Tech Res Inst | 雙面光學膜片量測裝置與方法 |
KR101737085B1 (ko) | 2010-11-05 | 2017-05-17 | 삼성전자주식회사 | 3차원 카메라 |
US20120154535A1 (en) * | 2010-12-15 | 2012-06-21 | Microsoft Corporation | Capturing gated and ungated light in the same frame on the same photosurface |
DE102011106453A1 (de) * | 2011-07-04 | 2013-01-10 | Carl Zeiss Ag | Verfahren und Vorrichtung zum zeitsequentiellen Aufnehmen dreidimensionaler Bilder |
JP2013200603A (ja) * | 2012-03-23 | 2013-10-03 | Hitachi Automotive Systems Ltd | 車載用画像処理装置及び方法 |
KR101858577B1 (ko) | 2012-10-10 | 2018-05-16 | 삼성전자주식회사 | 결상 광학계 및 이를 포함하는 3차원 영상 획득 장치 |
US9402067B2 (en) | 2012-10-22 | 2016-07-26 | Samsung Electronics Co., Ltd. | Imaging optical system for 3D image acquisition apparatus, and 3D image acquisition apparatus including the imaging optical system |
CN104049257B (zh) * | 2014-06-04 | 2016-08-24 | 西安电子科技大学 | 一种多相机空间目标激光立体成像装置及方法 |
CN104023179B (zh) * | 2014-06-27 | 2017-08-15 | 北京智谷睿拓技术服务有限公司 | 成像控制方法和设备 |
US9454689B2 (en) * | 2014-12-19 | 2016-09-27 | Honeywell International, Inc. | Rolling shutter bar code imaging |
US10627494B2 (en) * | 2016-09-16 | 2020-04-21 | Analog Devices, Inc. | Interference handling in time-of-flight depth sensing |
JP6333921B2 (ja) | 2016-11-09 | 2018-05-30 | ファナック株式会社 | 撮像装置及び撮像方法 |
US10788360B2 (en) * | 2018-01-30 | 2020-09-29 | Truventic, LLC | Scene generation using surface plasmon polaritons |
JP7297891B2 (ja) | 2018-07-19 | 2023-06-26 | アクティブ サージカル, インコーポレイテッド | 自動化された外科手術ロボットのためのビジョンシステム内の深度のマルチモード感知のためのシステムおよび方法 |
US11172142B2 (en) * | 2018-09-25 | 2021-11-09 | Taiwan Semiconductor Manufacturing Co., Ltd. | Image sensor for sensing LED light with reduced flickering |
KR20220021920A (ko) | 2019-04-08 | 2022-02-22 | 액티브 서지컬, 인크. | 의료 이미징을 위한 시스템 및 방법 |
CN113126105A (zh) * | 2019-12-30 | 2021-07-16 | 睿镞科技(北京)有限责任公司 | 三维测距方法和装置 |
CN111551948B (zh) * | 2020-05-20 | 2022-08-16 | 炬佑智能科技(苏州)有限公司 | 一种tof设备的控制方法、计算机存储介质 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6373557B1 (en) * | 1997-12-23 | 2002-04-16 | Siemens Aktiengesellschaft | Method and apparatus for picking up a three-dimensional range image |
JP2000146523A (ja) * | 1998-09-02 | 2000-05-26 | Sony Corp | 距離測定装置および方法 |
DE69827529T2 (de) | 1998-09-28 | 2005-11-10 | 3Dv Systems Ltd. | Entfernungsmessung mittels kamera |
US6323942B1 (en) * | 1999-04-30 | 2001-11-27 | Canesta, Inc. | CMOS-compatible three-dimensional image sensor IC |
US7224384B1 (en) * | 1999-09-08 | 2007-05-29 | 3Dv Systems Ltd. | 3D imaging system |
AU2001218821A1 (en) * | 2000-12-14 | 2002-06-24 | 3Dv Systems Ltd. | 3d camera |
JP3766326B2 (ja) * | 2001-12-10 | 2006-04-12 | 日本電信電話株式会社 | 光照射受光装置 |
US7112774B2 (en) * | 2003-10-09 | 2006-09-26 | Avago Technologies Sensor Ip (Singapore) Pte. Ltd | CMOS stereo imaging system and method |
US8139141B2 (en) * | 2004-01-28 | 2012-03-20 | Microsoft Corporation | Single chip red, green, blue, distance (RGB-Z) sensor |
US7978245B2 (en) | 2004-06-24 | 2011-07-12 | Hewlett-Packard Development Company, L.P. | Method and apparatus for controlling color balance in a digital imaging device |
WO2006130734A2 (en) | 2005-06-01 | 2006-12-07 | Canesta, Inc. | Method and system to increase x-y resolution in a depth (z) camera using red, blue, green (rgb) sensing |
JP2007067708A (ja) * | 2005-08-30 | 2007-03-15 | Kyocera Corp | 撮像装置およびその画像生成方法 |
JP2007178314A (ja) | 2005-12-28 | 2007-07-12 | Institute Of Physical & Chemical Research | 固体撮像素子を用いた三次元画像取得方法 |
JP2008011298A (ja) * | 2006-06-30 | 2008-01-17 | Fujitsu Ltd | 固体撮像装置及びその制御方法 |
-
2008
- 2008-08-03 JP JP2011521680A patent/JP5512675B2/ja active Active
- 2008-08-03 WO PCT/IL2008/001063 patent/WO2010016047A1/en active Application Filing
- 2008-08-03 EP EP08789739.3A patent/EP2311251B1/en active Active
- 2008-08-03 CN CN2008801306784A patent/CN102113309B/zh active Active
- 2008-08-03 US US13/057,265 patent/US8593507B2/en active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11341771B2 (en) * | 2017-10-18 | 2022-05-24 | Sony Semiconductor Solutions Corporation | Object identification electronic device |
US11403872B2 (en) * | 2018-06-11 | 2022-08-02 | Sray-Tech Image Co., Ltd. | Time-of-flight device and method for identifying image using time-of-flight device |
Also Published As
Publication number | Publication date |
---|---|
CN102113309B (zh) | 2013-11-06 |
US20110134222A1 (en) | 2011-06-09 |
WO2010016047A1 (en) | 2010-02-11 |
EP2311251B1 (en) | 2020-01-01 |
CN102113309A (zh) | 2011-06-29 |
US8593507B2 (en) | 2013-11-26 |
EP2311251A1 (en) | 2011-04-20 |
JP2011530097A (ja) | 2011-12-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5512675B2 (ja) | ローリングカメラシステム | |
US7224384B1 (en) | 3D imaging system | |
US11212512B2 (en) | System and method of imaging using multiple illumination pulses | |
EP3195042B1 (en) | Linear mode computational sensing ladar | |
JP4931288B2 (ja) | 画像検出装置と絞り装置 | |
JP4808684B2 (ja) | 改善された光学測距カメラ | |
EP2405663A1 (en) | Method of driving an image sensor | |
JP2011529576A (ja) | 撮像システム | |
US20180224552A1 (en) | Compressed-sensing ultrafast photography (cup) | |
US20020114531A1 (en) | Technique for removing blurring from a captured image | |
CN106464858A (zh) | 用于3d成像中的深度感测的耐用且延伸的照明波形的方法和系统 | |
JP2015510586A (ja) | 3dズーム撮像装置 | |
JP2002039716A (ja) | 距離画像入力装置 | |
JP2021532648A (ja) | ハイブリッド飛行時間型イメージャモジュール | |
CN106970024A (zh) | 基于相机和可控频闪光源的限界检测测距方法及系统 | |
CN107836112B (zh) | 投影系统 | |
US20200200873A1 (en) | Reducing interference in an active illumination environment | |
JP4010779B2 (ja) | 画像検出装置と絞り装置 | |
JP6948407B2 (ja) | 表面トポロジおよび関連する色を決定するための装置および方法 | |
JPH08112262A (ja) | 血流計 | |
CN103558160A (zh) | 一种提高光谱成像空间分辨率的方法和系统 | |
JP2004028602A (ja) | 監視用レーザレーダシステム及び撮像方法 | |
US20210014401A1 (en) | Three-dimensional distance measuring method and device | |
CN211179888U (zh) | 基于粒子图像测速及快门开关的加速度测量装置 | |
Golitsyn et al. | The implementation of gated-viewing system based on CCD image sensor |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130304 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130624 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130911 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131031 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140225 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140326 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5512675 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |