JP2022091104A - イメージセンシング装置、その動作方法、及びイメージセンシング方法 - Google Patents
イメージセンシング装置、その動作方法、及びイメージセンシング方法 Download PDFInfo
- Publication number
- JP2022091104A JP2022091104A JP2021145140A JP2021145140A JP2022091104A JP 2022091104 A JP2022091104 A JP 2022091104A JP 2021145140 A JP2021145140 A JP 2021145140A JP 2021145140 A JP2021145140 A JP 2021145140A JP 2022091104 A JP2022091104 A JP 2022091104A
- Authority
- JP
- Japan
- Prior art keywords
- phase
- signal
- control signal
- depth
- offset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 19
- 230000003287 optical effect Effects 0.000 claims abstract description 58
- 230000003111 delayed effect Effects 0.000 claims description 37
- 238000006243 chemical reaction Methods 0.000 claims description 32
- 230000004044 response Effects 0.000 claims description 23
- 238000012545 processing Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 claims description 3
- 230000001678 irradiating effect Effects 0.000 claims description 2
- 238000002366 time-of-flight method Methods 0.000 description 21
- 230000007704 transition Effects 0.000 description 21
- 230000005540 biological transmission Effects 0.000 description 19
- 238000010586 diagram Methods 0.000 description 18
- 102100022769 POC1 centriolar protein homolog B Human genes 0.000 description 13
- 101710125069 POC1 centriolar protein homolog B Proteins 0.000 description 13
- 102100022778 POC1 centriolar protein homolog A Human genes 0.000 description 12
- 101710125073 POC1 centriolar protein homolog A Proteins 0.000 description 12
- SNLFYGIUTYKKOE-UHFFFAOYSA-N 4-n,4-n-bis(4-aminophenyl)benzene-1,4-diamine Chemical compound C1=CC(N)=CC=C1N(C=1C=CC(N)=CC=1)C1=CC=C(N)C=C1 SNLFYGIUTYKKOE-UHFFFAOYSA-N 0.000 description 9
- 230000008859 change Effects 0.000 description 6
- 101100328883 Arabidopsis thaliana COL1 gene Proteins 0.000 description 4
- 230000004913 activation Effects 0.000 description 4
- 238000009792 diffusion process Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000003990 capacitor Substances 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000003071 parasitic effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/32—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
- G01S17/36—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated with phase comparison between the received signal and the contemporaneously transmitted signal
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/491—Details of non-pulse systems
- G01S7/4911—Transmitters
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/491—Details of non-pulse systems
- G01S7/4912—Receivers
- G01S7/4915—Time delay measurement, e.g. operational details for pixel components; Phase measurement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
- H04N25/705—Pixels for depth measurement, e.g. RGBZ
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/75—Circuitry for providing, modifying or processing image signals from the pixel array
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Measurement Of Optical Distance (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Abstract
【課題】光発信機から出力される信号と光受信機を制御するための信号との間の初期位相オフセットを調整するイメージセンシング装置を提供する。【解決手段】変調信号MSを被写体に照射する光発信機110と、位相制御信号に応じて被写体からの反射信号RSに対応するピクセル信号PIXを生成する光受信機120と、ピクセル信号に基づいて深さ位相を算出し、位相オフセット信号OFF_PHに応じて深さ位相を補償して深さ情報TOF_OUTとして出力するイメージプロセッサ140と、変調信号の位相に対応する位相制御信号を生成し、位相オフセット信号に応じて位相制御信号と変調信号との初期位相差を設定する駆動制御回路130と、複数の基準位相を設定し、設定された基準位相のうち深さ位相に最も近接した基準位相を選択し、選択された基準位相と深さ位相との位相差に対応する位相オフセット信号を算出するオフセット算出回路150とを備える。【選択図】図2
Description
本発明は、半導体設計技術に関し、より具体的には、TOF方式にて深さ情報を取得するイメージセンシング装置に関する。
飛行時間型(Time Of Flight、TOF)方式は、光または信号などの飛行時間、すなわち、光または信号を射って被写体に反射されてくる時間を測定して距離を計算する方式をいう。TOFセンサは、TOF方式を利用して対象とカメラとの間の距離(distance)に基づいて対象の深さ(depth)に関する情報を含むイメージを取得できる。従来のイメージセンサが事物の色、形状などを表す2次元イメージを出力したならば、TOFセンサは、対象の色、形状だけでなく、深さ(depth)を表す3次元イメージを出力できる。
本発明の実施形態は、TOF方式にて取得された深さ情報に基づいて光発信機から出力される変調信号と光受信機を制御するための位相制御信号との間の初期位相オフセットを調整できるイメージセンシング装置及びその動作方法を提供する。
本発明の一側面によれば、イメージセンシング装置は、変調信号MSを被写体に照射する光発信機110と、位相制御信号PCTRLに応じて前記被写体から反射される反射信号RSに対応するピクセル信号PIXを生成する光受信機120と、前記ピクセル信号に基づいて深さ位相TOP_PHを算出し、位相オフセット信号OFF_PHに応じて前記深さ位相を補償して深さ情報TOF_OUTとして出力するイメージプロセッサ140と、前記変調信号の位相に対応する前記位相制御信号を生成し、前記位相オフセット信号に応じて前記位相制御信号と前記変調信号との初期位相差を設定する駆動制御回路130と、複数の基準位相を設定し、設定された基準位相のうち、前記深さ位相に最も近接した基準位相を選択し、選択された基準位相と前記深さ位相との位相差に対応する前記位相オフセット信号を算出するオフセット算出回路150とを備えることができる。
本発明の一側面によれば、イメージセンシング方法は、光受信機が変調信号を被写体に照射するステップと、光発信機が位相制御信号に応じて前記被写体から反射される反射信号に対応するピクセル信号を生成するステップと、前記ピクセル信号に基づいて深さ位相を生成するステップと、複数の基準位相を設定し、設定された基準位相のうち、前記深さ位相に最も近接した基準位相を選択し、選択された基準位相と前記深さ位相との位相差に対応する位相オフセット信号を算出するステップと、前記位相オフセット信号に応じて前記位相制御信号と前記変調信号との初期位相差を設定するステップと、前記位相オフセット信号に応じて前記深さ位相を補償して深さ情報として出力するステップとを含むことができる。
本発明の一側面によれば、イメージセンシング装置の駆動方法は、ソース信号を生成してターゲットに照射するステップと、前記ターゲットから反射される前記ソース信号である反射信号を受信するステップと、オフセット信号OFF_PHに応じて指定される特定量Tdの分だけ前記ソース信号に対して遅延される位相(lagging phase)を有する制御信号PCTRLを生成するステップと、前記制御信号を介して単位ピクセルを制御し、前記反射信号に基づいてピクセル信号PIXを生成するステップと、前記ピクセル信号に応じて深さ位相を算出するステップと、前記オフセット信号に応じて前記深さ位相を補償して深さ情報TOF_OUTを生成するステップと、複数の基準位相のうち、前記深さ情報から最も小さいオフセットを有する基準位相を選択するステップと、前記最も小さいオフセットに対応するオフセット信号をアップデートするステップとを含むことができる。
本発明の実施形態は、TOF方式を利用して深さ情報を取得するイメージセンシング装置において、深さ情報に基づいて変調信号と位相制御信号との間の初期位相オフセットを設定した後、取得された深さ情報を設定された初期位相オフセットを用いて最終的に補償することにより深さエラーを最小化し、正確な深さ情報を取得できるという効果がある。
以下、本発明の属する技術分野における通常の知識を有する者が本発明の技術的思想を容易に実施できる程度に詳細に説明するために、本発明の実施形態を添付図面を参照して説明する。
そして、明細書全体において、ある部分が他の部分と「接続」されているとするとき、これは、「直接的に接続」されている場合だけでなく、その中間に他の回路を挟んで「電気的に接続」されている場合も含む。また、ある部分がある構成要素を「含む」または「備える」とするとき、これは、特に反対される記載がない限り、他の構成要素を除くことでなく、他の構成要素をさらに含むか、備えることができるということを意味する。また、明細書全体の記載において、一部構成要素を単数型に記載したとして、本発明がそれに限定されるものではなく、当該構成要素が複数個からなり得ることが分かるであろう。
図1は、TOF方式のイメージセンシング装置10を説明するための図である。
図1に示すように、TOF方式のイメージセンシング装置10は、被写体20との距離を測定できる。イメージセンシング装置10は、種々の産業分野及び消費者市場における自動化開発に極めて重要な要素のうち1つになることができる。消費者が使用する装置は、イメージセンシング装置10を介して周辺環境を認識したり、周辺環境における装置の位置を認識できる。イメージセンシング装置10を含むカメラは、3次元環境に含まれた事物等の色、形態、距離を判断して3次元ビジョン技術を提供できる。
イメージセンシング装置10は、被写体20との距離を測定するために、変調信号(modulation signal)を出力する発信機12と変調信号(modulation signal)が被写体20に反射されて戻ってくる反射信号(reflected signal)を受信する受信機14とを備えることができる。発信機12が出力する変調信号(modulation signal)が予め設定されたパターンで周辺環境に発散され、周辺環境にある種々の事物、対象から反射された反射信号(reflected signal)が受信機14を介して受信されれば、変調信号と反射信号との相関関係(例えば、位相差)を介して距離を決定できる。一方、変調信号と反射信号との相関関係を介して距離を決定するとき、周辺光(ambient light)などによる雑音を除去するための動作が行われ得る。
図2は、本発明の第1実施形態に係るTOF方式のイメージセンシング装置100を説明するためのブロック図である。
図2に示すように、イメージセンシング装置100は、TOF方式を利用して被写体200との距離を表す深さ情報TOF_OUTを生成できる。例えば、イメージセンシング装置100は、被写体200に出力される変調信号MSと被写体200から反射される反射信号RSとの位相差を検出することにより深さ情報TOF_OUTを生成できる。
イメージセンシング装置100は、光発信機110、光受信機120、駆動制御回路130、イメージプロセッサ140、及びオフセット算出回路150を備えることができる。
光発信機110は、ソース信号である変調制御信号MCに応じて被写体200に変調信号MSを出力できる。例えば、変調信号MSは、周期的にトグリングする周期信号(例えば、クロック信号)であることができる。実施形態によって、光発信機110は、互いに異なる位相を有する変調信号MSを順次被写体200に照射することができる。例えば、変調信号MSは、0度(すなわち、360度)の位相、90度の位相、180度の位相、270度の位相のうち、少なくとも2つの位相を有することができる。以下において、0度は、360度と同じ意味を有することができる。光発信機110は、発光ダイオード(Light Emitting Diode:LED)またはレーザダイオード(Laser Diode:LD)で構成されることができる。光発信機110から出力される変調信号MSは、3次元環境に含まれた事物等の色、形態などを決定するのに使用される可視光線の領域でない、赤外線あるいは紫外線領域に属する周波数を有することができる。例えば、光発信機110は、特定波長の光(例、850nmの近赤外線)を照射することができる。
光受信機120は、被写体200から反射される反射信号RSを受信することができる。反射信号RSは、変調信号MSから飛行時間に対応する遅延時間後に光受信機120に入力されることができる。光受信機120は、反射信号RSに対応するピクセル信号PIXsを生成できるピクセルアレイ121を備えることができる。光受信機120は、反射信号RSから周辺光(ambient light)などによる雑音を除去し、雑音が除去された反射信号RSをピクセルアレイ121に提供することができる。特に、本発明の実施形態において、ピクセルアレイ121は、TOFセンサを構成できる。図2では、光受信機120がピクセルアレイ121を備えることと図示されたが、ピクセルアレイ121は、光受信機120と別個の構成で配置されることができる。
ピクセルアレイ121は、ロー制御信号RCTRL及び位相制御信号PCTRLに応じて反射信号RSを測定、収集、あるいは決定してピクセル信号PIXsを生成できる。ピクセルアレイ121は、被写体200との距離を測定するための少なくとも1つの単位ピクセル(図示せず、図3のPX)を含むことができる。単位ピクセルPXは、少なくとも2つのピクセル(図示せず、図3のTAPA、TAPB)を含むことができる。例えば、単位ピクセルPXは、ロー制御信号RCTRLに応じて選択されて、位相制御信号PCTRLに応じて反射信号RSに対応する第1及び第2のピクセル信号PIX1、PIX2を生成できる。ピクセルアレイ121の詳細構成は、図3を参照して説明する。
駆動制御回路130は、イメージセンシング装置100と連動する外部装置あるいはユーザインターフェースなどから距離測定のための要請RQに応答して変調制御信号MC、ロー制御信号RCTRL、及び位相制御信号PCTRLを生成できる。駆動制御回路130は、要請RQに応答して変調信号MSの周期を調整するための変調制御信号MCを生成し、変調信号MSの位相に対応する位相制御信号PCTRLを生成できる。特に、駆動制御回路130は、オフセット信号である位相オフセット信号OFF_PHに応じて位相制御信号PCTRLと前記変調信号MSとの初期位相差(すなわち、初期位相オフセット)を設定できる。例えば、駆動制御回路130は、位相オフセット信号OFF_PHに応じて位相制御信号PCTRLの初期位相を調整(例えば、遅延)して位相制御信号PCTRLと前記変調信号MSとの初期位相オフセットを設定できる。これにより、反射信号RSと位相制御信号PCTRLとの間の位相差がターゲット値に設定されることができる。このとき、ターゲット値は、深さ位相TOF_PHに対して深さエラーが最小になる値に設定されることができ、望ましくは、0度、90度、180度、あるいは270度のうち1つに選択されることができる。
実施形態によって、駆動制御回路130は、変調コントローラ132、位相変換回路134、発信駆動部136、及びセンサ駆動部138を備えることができる。
変調コントローラ132は、外部要請RQに応答して第1の駆動制御信号DRV_Mを生成できる。変調コントローラ132は、光発信機110が周辺光(Ambient light)とは区別され得る所定周期の変調信号MSを生成できるように、第1の駆動制御信号DRV_Mを生成することができる。変調コントローラ132は、第1の駆動制御信号DRV_Mを発信駆動部136及び位相変換回路134に提供することができる。
発信駆動部136は、第1の駆動制御信号DRV_Mに応じて変調制御信号MCを生成できる。実施形態によって、発信駆動部136は、光発信機110内に含まれるか、光発信機110が変調コントローラ132により直接駆動及び制御されることもできる。
位相変換回路134は、第1の駆動制御信号DRV_Mに応じて動作する発信駆動部136の動作時点に連動されて、センサ駆動部138が動作するように第2の駆動制御信号DRV_DDを生成できる。位相変換回路134は、第1の駆動制御信号DRV_Mを介して変調制御信号MCに対する特性を既に知っているので、変調信号MSに対応する互いに異なる位相(例えば、0度、90度、180度、あるいは270度)を決定できる。例えば、位相変換回路134は、第1の駆動制御信号DRV_Mに基づき、変調信号MSの位相を変化(例えば、シフト)させて、互いに異なる位相(例えば、変調信号MSの0度、90度、180度、あるいは270度)を有する位相情報PFCを生成し、生成された位相情報PFCを第2の駆動制御信号DRV_DDに含めて出力することができる。特に、第1実施形態において、位相変換回路134は、位相オフセット信号OFF_PHに応じて位相制御信号PCTRLの初期位相が遅延時間Tdの分だけ遅延されるように位相情報PFCを変更できる。これにより、反射信号RSと位相制御信号PCTRLとの間の位相差がターゲット値に設定され得る。
センサ駆動部138は、第2の駆動制御信号DRV_DDに応じてピクセルアレイ121をロー別に制御するためのロー制御信号RCTRLを生成できる。例えば、センサ駆動部138は、ピクセルアレイ121の第1のローに配列された単位ピクセルPXを制御するための第1のロー制御信号を生成でき、ピクセルアレイ121の第nのローに配列された単位ピクセルPXを制御するための第nのロー制御信号を生成できる(「n」は、2より大きい自然数)。また、センサ駆動部138は、第2の駆動制御信号DRV_DDに応じてピクセルアレイ121の単位ピクセルの動作タイミングを制御するための位相制御信号PCTRLを生成できる。実施形態によって、位相制御信号PCTRLは、位相オフセット信号OFF_PHにより指定される遅延量の分だけ変調信号MSに対して遅延(lagging)位相を有する制御信号であることができる。センサ駆動部138は、第2の駆動制御信号DRV_DDに含まれた位相情報PFCに基づいて、位相オフセット信号OFF_PHに対応する遅延時間Tdの分だけ変調信号MSの位相に対して遅延された位相制御信号PCTRLを生成できる。位相制御信号PCTRLは、単位ピクセルPX内のピクセルTAPA、TAPBに各々対応し、互いに異なる位相を有する複数の位相遷移信号(図示せず、図3のMIXA、MIXB)を含むことができる。例えば、センサ駆動部138は、位相情報PFCに基づいて、変調信号MSの0度と180度に対応する第1及び第2の位相遷移信号MIXA、MIXBと、変調信号MSの90度と270度に対応する第1及び第2の位相遷移信号MIXA、MIXBとを順次生成して光受信機120を駆動することができる。このとき、位相オフセット信号OFF_PHに応じて位相情報PFCが変更されたので、第1及び第2の位相遷移信号MIXA、MIXBの初期位相は、変調信号MSより遅延されることができる。実施形態によって、センサ駆動部138は、光受信機120内に含まれるか、光受信機120がセンサ駆動部138により直接駆動及び制御されることもできる。
イメージプロセッサ140は、ピクセル信号PIXsに基づいて被写体200との距離を表す深さ情報TOF_OUTを生成できる。例えば、イメージプロセッサ140は、単位ピクセルPXから提供される第1及び第2のピクセル信号PIX1、PIX2に基づいて深さ位相TOF_PHを算出し、深さ位相TOF_PHに対応する深さ情報TOF_OUTを生成できる。イメージプロセッサ140は、算出された深さ位相TOF_PHをオフセット算出回路150に提供することができる。特に、イメージプロセッサ140は、位相オフセット信号OFF_PHが入力されれば、位相オフセット信号OFF_PHに応じて深さ位相TOF_PHを補償し、補償された深さ位相TOF_PHに対応する深さ情報TOF_OUTを算出できる。
実施形態によって、イメージプロセッサ140は、信号変換回路142及び信号処理回路144を備えることができる。
信号変換回路142は、光受信機120から出力された第1及び第2のピクセル信号PIX1、PIX2をデジタル形態のデータDDに変換することができる。例えば、光受信機120から出力される第1及び第2のピクセル信号PIX1、PIX2は、アナログ形態のデータであることができ、信号変換回路142を介して変換された出力は、デジタル形態のデータDDであることができる。
信号処理回路144は、信号変換回路142から伝達されたデータDDに所定の演算過程を行って深さ位相TOF_PHを算出し、光の速度cと変調信号MSの周波数(周期)とに基づいて算出された深さ位相TOF_PHに対応する深さ情報TOF_OUTを生成できる。生成された深さ情報TOF_OUTは、イメージセンシング装置100と被写体200との間の距離(すなわち、深さ)を表す情報として出力されることができる。また、信号処理回路144は、位相オフセット信号OFF_PHを深さ位相TOF_PHに反映して位相変換回路134で変更された位相の分だけ深さ位相TOF_PHを補償し、補償された深さ位相に対応する深さ情報TOF_OUTを算出できる。
オフセット算出回路150は、イメージプロセッサ140からフィードバックされる深さ位相TOF_PHに基づいて位相オフセット信号OFF_PHを算出できる。オフセット算出回路150は、複数の基準位相を設定し、設定された基準位相のうち、深さ位相TOF_PHに最も近接した基準位相を選択し、選択された基準位相と深さ位相TOF_PHとの位相差に対応する位相オフセット信号OFF_PHを生成できる。参考として、複数の基準位相は、深さ位相TOF_PHに対して深さエラーが最小になる位相であって、0度、90度、180度、あるいは270度の位相に設定されることができる。
図3は、本発明の第1実施形態に係る図2のピクセルアレイ121の詳細構成を説明するための図である。
図3に示すように、ピクセルアレイ121は、複数の単位ピクセルPXがアレイ形態に配置されることができる。例えば、1つの単位ピクセルPXは、第1及び第2のピクセルTAPA、TAPBを含むことができる。第1及び第2のピクセルTAPA、TAPBは、ロー制御信号RCTRLに応じて選択され、位相制御信号PCTRLに応じて反射信号RSに対応する第1及び第2のピクセル信号PIX1、PIX2を生成できる。参考として、図3において、ロー制御信号RCTRLは、リセット信号RX、伝達信号TX、及び選択信号SXに対応し、位相制御信号PCTRLは、第1及び第2の位相遷移信号MIXA、MIXBに対応することができる。すなわち、第1及び第2のピクセルTAPA、TAPBは、位相制御信号PCTRLの互いに異なる位相で動作することができる。
第1のピクセルTAPAは、リセット信号RX、伝達信号TX、選択信号SX、及び第1の位相遷移信号MIXAに応じて第1のピクセル信号PIX1を生成できる。例えば、第1のピクセルTAPAは、第1のセンシング回路P1、第1のリセット回路RT1、第1の伝達回路TT1、第1の電荷蓄積回路C1、第1の駆動回路DT1、及び第1の選択回路ST1を備えることができる。第1のセンシング回路P1は、第1のノードN1と低電圧端との間に連結されて、第1の位相遷移信号MIXAに応じて電荷を生成できる。第1のセンシング回路P1は、フォートダイオードを備えることができる。第1のリセット回路RT1は、高電圧端と第1のノードN1との間に連結されて、リセット信号RXに応じて第1のセンシング回路P1と第1の電荷蓄積ノードC1とをリセットすることができる。第1の伝達回路TT1は、第1のノードN1と第1のフローティング拡散(floating diffusion)ノードFD1との間に連結されて、伝達信号TXに応じて第1の電荷蓄積回路C1をリセットし、第1のセンシング回路P1から生成された電荷を第1の電荷蓄積回路C1に伝達することができる。第1の電荷蓄積回路C1は、第1のフローティング拡散ノードFD1と低電圧端との間に連結されることができる。第1の電荷蓄積回路C1は、寄生キャパシタであることができる。第1の駆動回路DT1は、高電圧端と第1の選択回路ST1との間に連結されて、第1のフローティング拡散ノードFD1にかかった電圧により高電圧端を介して供給される高電圧で第1のコラムラインCOL1を駆動できる。第1の選択回路ST1は、第1の駆動回路DT1と第1のコラムラインCOL1との間に連結されて、選択信号SXに応じて第1の駆動回路DT1と第1のコラムラインCOL1とを選択的に連結することができる。
上記の構造により、第1のピクセルTAPAは、次のように動作することができる。リセット信号RXに応じて決定されるリセット区間の間、第1のリセット回路RT1は、第1の電荷蓄積回路C1と第1のセンシング回路P1とをリセットすることができる。伝達信号TXと第1の位相遷移信号MIXAとにより決定される伝達区間の間、第1のセンシング回路P1は、第1の位相遷移信号MIXAに応じて電荷を生成し、第1の電荷蓄積回路C1は、電荷を蓄積することができる。選択信号SXに応じて決定される読み出し区間の間、第1の駆動回路DT1及び第1の選択回路ST1は、電荷に対応する第1のピクセル信号PIX1を第1のコラムラインCOL1を介してイメージプロセッサ140に読み出すことができる。
第2のピクセルTAPBは、リセット信号RX、伝達信号TX、選択信号SX、及び第2の位相遷移信号MIXBに応じて第2のピクセル信号PIX2を生成できる。第2のピクセルTAPBの詳細構成及び動作は、第1のピクセルTAPAと実質的に同様であるので、詳細な説明は省略する。
図4は、一般的なTOF方式のイメージセンシング装置の動作を説明するためのタイミング図である。図4は、図3のオフセット算出回路150から提供される位相オフセット信号OFF_PHが反映されない場合を示している。
図4に示すように、光発信機110が所定周期にトグリングする変調信号MSを被写体200に照射すれば、変調信号MSは、被写体200に反射された後、反射信号RSとして受信されることができる。このとき、変調信号MSと反射信号RSとは、飛行時間に対応する位相差φを有することができる。
位相変換回路134は、変調信号MSの位相を90度間隔でシフトして変調信号MSの0度、90度、180度、270度の位相情報PFCを生成できる。センサ駆動部138は、位相情報PFCに基づいて変調信号MSの位相に対応する位相制御信号PCTRLを生成できる。センサ駆動部138は、変調信号MSの0度と180度に対応する第1及び第2の位相遷移信号MIXA、MIXBと、変調信号MSの90度と270度に対応する第1及び第2の位相遷移信号MIXA、MIXBとを順次生成して光受信機120を駆動できる。
順次入力される第1及び第2の位相遷移信号MIXA、MIXBに対応して受信される反射信号RSの量(光量によって発生した電荷の量)は、Q1、Q2、Q3、Q4であることができる。このとき、反射信号RSの量Q1、Q3は、図3の第1のピクセル信号PIX1に対応し、反射信号RSの量Q2、Q4は、図3の第2のピクセル信号PIX2に対応することができる。イメージプロセッサ140は、単位ピクセルPXから提供される第1及び第2のピクセル信号PIX1、PIX2に基づいて深さ位相TOF_PHを算出し、深さ位相TOF_PHに対応する深さ情報TOF_OUTを生成できる。
一方、TOF方式にて深さ情報を取得するイメージセンシング装置では、深さが深くなるほど、すなわち、距離が遠くなるほど、発生する深さエラーが大きくなることがある。このとき、理想的な場合には、被写体200との距離が遠くなるほど、深さエラーが線形的に(linearly)増加しなければならないが、光受信機及び発信機の性能、単位ピクセル内のピクセルのミスマッチ、ピクセル内の素子(例えば、トランジスタ)のミスマッチなどの理由により、イメージセンシング装置別(A、B)に非線形的な深さエラーが発生するようになる。例えば、図5Aのグラフのように、仮りに、ターゲット深さが1000mmである場合、A装置の深さエラーがB装置の深さエラーより大きくなるようになる。これにより、深さエラーを一括的に補償し難く、各装置別に深さ情報を取得する度に深さエラーを計算して反映しなければならないという困難があった。
また、反射信号RSの量Q1、Q2、Q3、Q4に対応するピクセル信号PIX1、PIX2に応じて深さ情報TOF_OUTを生成するとき、信号対雑音比(SNR)の観点から見ると、位相制御信号PCTRLの活性化区間で反射信号RSの量Q1、Q2、Q3、Q4が占める区間が50:50または100:0になるとき、イメージプロセッサの性能が最も最適化されることができる。すなわち、図5Bのグラフのように、反射信号RSと位相制御信号PCTRLとの位相差が0度、90度、180度、270度に該当する地点で、信号対雑音比(SNR)が50:50または100:0になり、深さエラーが最小になることができる。
したがって、本発明の実施形態では、オフセット算出回路150を用いて位相制御信号PCTRLの初期位相を遅延させ、反射信号RSと位相制御信号PCTRLとの位相差が0度、90度、180度、270度になるように設定することにより深さエラーを最小化させることができる。すなわち、本発明の実施形態において、オフセット算出回路150は、0度、90度、180度、270度を第1ないし第4の基準位相に設定し、設定された第1ないし第4の基準位相のうち、深さ位相TOF_PHに最も近接した基準位相を選択し、選択された基準位相と深さ位相TOF_PHとの位相差に対応する位相オフセット信号OFF_PHを生成できる。例えば、図6Aに示すように、位相オフセット信号OFF_PHを反映しなかったデフォルト状態のイメージプロセッサ140からフィードバックされる深さ位相TOF_PHが108度であると仮定する。この場合、0度、90度、180度、270度の第1ないし第4の基準位相のうち、108度の深さ位相TOF_PHに最も近接した基準位相は90度であるから、オフセット算出回路150は、90度の選択された基準位相と108度の深さ位相TOF_PHとの位相差(すなわち、18度)に対応する位相オフセット信号OFF_PHを生成できる。その後、駆動制御回路130は、位相オフセット信号OFF_PHに応じて位相制御信号PCTRLの初期位相を遅延させて、反射信号RSと位相制御信号PCTRLとの位相差が90度になるように設定することにより深さエラーを最小化させることができる。
また、本発明の実施形態において、イメージプロセッサ140は、位相オフセット信号OFF_PHが入力されれば、位相オフセット信号OFF_PHに応じて深さ位相TOF_PHを補償し、補償された深さ位相TOF_PHに対応する深さ情報TOF_OUTを算出できる。例えば、図6Bに示すように、イメージセンシング装置100が0~1500mmまで測定可能な場合、0度、90度、180度、270度の第1ないし第4の基準位相に対応する深さは、各々0mm、375mm、750mm、1125mmになることができる。イメージプロセッサ140は、測定された深さ位相TOF_PH(理想的には、90度)に位相オフセット信号OFF_PHを反映して、108度に対応する深さ情報TOF_OUTとして450mm(すなわち、1500×108/360)を算出できる。
図7は、本発明の第1実施形態に係る図2のイメージセンシング装置100の動作を説明するためのタイミング図である。
図7に示すように、光発信機110が所定周期にトグリングする変調信号MSを被写体200に照射すれば、変調信号MSは、被写体200に反射された後、反射信号RSとして受信されることができる。このとき、変調信号MSと反射信号RSとは、飛行時間に対応する位相差φを有することができる。
位相変換回路134は、変調信号MSの位相を90度間隔でシフトして変調信号MSの0度、90度、180度、270度の位相情報PFCを生成できる。位相変換回路134は、位相オフセット信号OFF_PHに応じて位相制御信号PCTRLの位相が遅延されるように位相情報PFCを変更できる。例えば、位相オフセット信号OFF_PHが18度に算出された場合、位相変換回路134は、位相制御信号PCTRLの位相が18度遅延されるように位相情報PFCを変更できる。
センサ駆動部138は、位相情報PFCに基づいて変調信号MSの位相に対応する位相制御信号PCTRLを生成できる。センサ駆動部138は、変調信号MSの0度と180度に対応する第1及び第2の位相遷移信号MIXA、MIXBと、変調信号MSの90度と270度に対応する第1及び第2の位相遷移信号MIXA、MIXBとを順次生成して光受信機120を駆動できる。このとき、センサ駆動部138は、第1及び第2の位相遷移信号MIXA、MIXBの初期位相を位相オフセット信号OFF_PHに対応する遅延時間Tdの分だけ遅延させることができる。これにより、反射信号RSと位相制御信号PCTRLとの間の位相差が0度、90度、180度、270度のうち1つに設定されることができる。結果的に、位相制御信号PCTRLの活性化区間で反射信号RSの量Q1、Q2、Q3、Q4が占める区間は、50:50または100:0になる。したがって、信号対雑音比(SNR)が最大になり、深さエラーが最小になることができる。
イメージプロセッサ140は、単位ピクセルPXから提供される第1及び第2のピクセル信号PIX1、PIX2に基づいて深さ位相TOF_PHを算出し、深さ位相TOF_PHに対応する深さ情報TOF_OUTを生成できる。イメージプロセッサ140は、位相オフセット信号OFF_PHが入力されれば、位相オフセット信号OFF_PHに応じて深さ位相TOF_PHを補償し、補償された深さ位相TOF_PHに対応する深さ情報TOF_OUTを算出できる。
以下、図2~図8を参照して本発明の実施形態に係るイメージセンシング装置100の動作を説明する。
図8は、本発明の実施形態に係るイメージセンシング装置100の動作を説明するための順序図である。
図8に示すように、まず、位相オフセット信号OFF_PHを反映しなかったデフォルト状態のイメージプロセッサ140からフィードバックされる深さ位相TOF_PHを受信することができる。
より詳細に、駆動制御回路130は、要請RQに応答して変調信号MSの周期を調整するための変調制御信号MCを生成し、ロー制御信号RCTRL及び変調信号MSの位相に対応する位相制御信号PCTRLを生成する(S810)。光発信機110は、変調制御信号MCに応じて被写体200に変調信号MSを照射する(S820)。光受信機120のピクセルアレイ121は、ロー制御信号RCTRL及び位相制御信号PCTRLに応じて被写体200から反射される反射信号RSに対応するピクセル信号PIXsを生成する(S830)。イメージプロセッサ140は、ピクセル信号PIXsに基づいて深さ位相TOF_PHを算出する(S840)。
位相オフセット信号OFF_PHが設定されなかった場合(S850のNO)、オフセット算出回路150は、イメージプロセッサ140からフィードバックされる深さ位相TOF_PHに基づいて位相オフセット信号OFF_PHを算出できる(S860)。すなわち、オフセット算出回路150は、複数の基準位相(例えば、0度、90度、180度、あるいは270度)を設定し、設定された基準位相のうち、深さ位相TOF_PHに最も近接した基準位相を選択し、選択された基準位相と深さ位相TOF_PHとの位相差に対応する位相オフセット信号OFF_PHを生成できる。駆動制御回路130は、位相オフセット信号OFF_PHに応じて位相制御信号PCTRLの位相を調整できる(S870)。
その後、光発信機110は、変調制御信号MCに応じて被写体200に変調信号MSを照射(S820)し、ピクセルアレイ121は、ロー制御信号RCTRL及び位相制御信号PCTRLに応じて被写体200から反射される反射信号RSに対応するピクセル信号PIXsを生成する(S830)。このとき、反射信号RSと位相制御信号PCTRLとの間の位相差が、0度、90度、180度、270度のうち1つに設定されているので、信号対雑音比(SNR)が最大になり、深さエラーが最小になることができる。
その後、イメージプロセッサ140は、ピクセル信号PIXsに基づいて深さ位相TOF_PHを算出する(S840)。位相オフセット信号OFF_PHが設定された場合(S850のYES)、イメージプロセッサ140は、位相オフセット信号OFF_PHに応じて深さ位相TOF_PHを補償し、補償された深さ位相TOF_PHに対応する深さ情報TOF_OUTを算出できる(S880)。
一方、上記の第1実施形態では、位相オフセット信号OFF_PHを用いて位相制御信号PCTRLの位相を遅延させる点を説明したが、提案発明は、これに限定されない。以下、図9及び図10を参照して位相オフセット信号OFF_PHを用いて変調信号MSの位相を調整する点を説明する。
図9は、本発明の第2実施形態に係るTOF方式のイメージセンシング装置300を説明するためのブロック図である。
図9に示すように、イメージセンシング装置300は、光発信機310、光受信機320、駆動制御回路330、イメージプロセッサ340、及びオフセット算出回路350を備えることができる。図9の光発信機310、光受信機320、イメージプロセッサ340、及びオフセット算出回路350は、図2の構成等と実質的に同様であるので、詳細な説明は省略する。
駆動制御回路330は、要請RQに応答して変調信号MSの周期を調整するための変調制御信号MCを生成し、変調信号MSの位相に対応する位相制御信号PCTRLを生成できる。駆動制御回路330は、位相オフセット信号OFF_PHに応じて変調信号MSと位相制御信号PCTRLとの初期位相オフセットを設定できる。このとき、第2実施形態に係る駆動制御回路330は、位相オフセット信号OFF_PHに応じて変調信号MSの初期位相が調整(例えば、遅延)されるように変調制御信号MCを生成できる。これにより、反射信号RSと位相制御信号PCTRLとの間の位相差がターゲット値である0度、90度、180度、あるいは270度のうち1つに設定されることができる。
実施形態によって、駆動制御回路330は、変調コントローラ332、位相変換回路334、発信駆動部336、及びセンサ駆動部338を備えることができる。
変調コントローラ332は、外部要請RQに応答して光発信機310が周辺光(Ambient light)とは区別され得る所定周期の変調信号MSを生成できるように第1の駆動制御信号DRV_Mを出力できる。変調コントローラ332は、第1の駆動制御信号DRV_Mを位相変換回路334に提供することができる。特に、第2実施形態において、変調コントローラ332は、位相オフセット信号OFF_PHに応じて第1の駆動制御信号DRV_Mを調整し、調整された第1の駆動制御信号DRV_MDを生成できる。例えば、変調コントローラ332は、位相オフセット信号OFF_PHに応じて第1の駆動制御信号DRV_Mを遅延させ、遅延された第1の駆動制御信号DRV_MDを生成できる。変調コントローラ332は、調整された第1の駆動制御信号DRV_MDを発信駆動部336に提供することができる。
発信駆動部336は、調整された第1の駆動制御信号DRV_MDに応じて変調信号MSの初期位相が遅延されるように変調制御信号MCを生成できる。これにより、反射信号RSと位相制御信号PCTRLとの間の位相差がターゲット値に設定されることができる。
位相変換回路334は、第1の駆動制御信号DRV_Mに応じて動作する発信駆動部336の動作時点に連動されてセンサ駆動部338が動作するように第2の駆動制御信号DRV_Dを生成できる。位相変換回路334は、第1の駆動制御信号DRV_Mに基づき、変調信号MSの位相を変化(例えば、シフト)させて、互いに異なる位相(例えば、(初期位相が調整されるか、遅延されなかった)変調信号MSの0度、90度、180度、あるいは270度)を有する位相情報PFCを生成し、生成された位相情報PFCを第2の駆動制御信号DRV_Dに含めて出力することができる。
センサ駆動部338は、第2の駆動制御信号DRV_Dに応じてピクセルアレイ321を制御するためのロー制御信号RCTRL及び位相制御信号PCTRLを生成できる。
図10は、本発明の第2実施形態に係る図9のイメージセンシング装置300の動作を説明するためのタイミング図である。
図10に示すように、駆動制御回路330は、位相オフセット信号OFF_PHに応じて変調信号MSの初期位相が調整(例えば、遅延)されるように変調制御信号MCを生成できる。これにより、光発信機310は、所定周期にトグリングするものの、初期位相が位相オフセット信号OFF_PHに対応する遅延時間Tdの分だけ遅延された変調信号MSを被写体に照射することができる。変調信号MSは、被写体に反射された後、反射信号RSとして受信されることができる。このとき、変調信号MSと反射信号RSとは、飛行時間に対応する位相差φを有することができる。
位相変換回路334は、変調信号MSの位相を90度間隔でシフトして変調信号MSの0度、90度、180度、270度の位相情報PFCを生成できる。
センサ駆動部338は、位相情報PFCに基づいて変調信号MSの位相に対応する位相制御信号PCTRLを生成できる。センサ駆動部338は、変調信号MSの0度と180度に対応する第1及び第2の位相遷移信号MIXA、MIXBと、変調信号MSの90度と270度に対応する第1及び第2の位相遷移信号MIXA、MIXBとを順次生成して光受信機320を駆動できる。
このとき、変調信号MSの初期位相が遅延されることにより反射信号RSの初期位相も遅延されて、結果的に、反射信号RSと位相制御信号PCTRLとの間の位相差が0度、90度、180度、270度のうち1つに設定されることができる。これにより、位相制御信号PCTRLの活性化区間で反射信号RSの量Q1、Q2、Q3、Q4が占める区間は、50:50または100:0になることで、信号対雑音比(SNR)が最大になり、深さエラーが最小になることができる。
イメージプロセッサ340は、単位ピクセルPXから提供される第1及び第2のピクセル信号PIX1、PIX2に基づいて深さ位相TOF_PHを算出し、深さ位相TOF_PHに対応する深さ情報TOF_OUTを生成できる。イメージプロセッサ340は、位相オフセット信号OFF_PHが入力されれば、位相オフセット信号OFF_PHに応じて深さ位相TOF_PHを補償し、補償された深さ位相TOF_PHに対応する深さ情報TOF_OUTを算出できる。
以下、図11及び図12を参照し、位相オフセット信号OFF_PHを用いて変調信号MS及び位相制御信号PCTRLの位相を共に調整する点を説明する。
図11は、本発明の第3実施形態に係るTOF方式のイメージセンシング装置400を説明するためのブロック図である。
図11に示すように、イメージセンシング装置400は、光発信機410、光受信機420、駆動制御回路430、イメージプロセッサ440、及びオフセット算出回路450を備えることができる。図11の光発信機410、光受信機420、イメージプロセッサ440、及びオフセット算出回路450は、図2の構成等と実質的に同様であるので、詳細な説明は省略する。
駆動制御回路430は、要請RQに応答して変調信号MSの周期を調整するための変調制御信号MCを生成し、変調信号MSの位相に対応する位相制御信号PCTRLを生成できる。駆動制御回路430は、位相オフセット信号OFF_PHに応じて変調信号MSと位相制御信号PCTRLとの初期位相オフセットを設定できる。このとき、第3実施形態に係る駆動制御回路430は、位相オフセット信号OFF_PHに応じて変調信号MS及び位相制御信号PCTRLの初期位相を共に調整(例えば、遅延)するように制御することができる。これにより、反射信号RSと位相制御信号PCTRLとの間の位相差がターゲット値である0度、90度、180度、あるいは270度のうち1つに設定されることができる。
実施形態によって駆動制御回路430は、変調コントローラ432、位相変換回路434、発信駆動部436、及びセンサ駆動部438を備えることができる。
変調コントローラ432は、外部要請RQに応答して光発信機410が周辺光(Ambient light)とは区別され得る所定周期の変調信号MSを生成できるように第1の駆動制御信号DRV_MDを出力できる。このとき、第3実施形態において、変調コントローラ432は、位相オフセット信号OFF_PHに応じて変調信号MSの初期位相が遅延されるように第1の駆動制御信号DRV_MDを変更できる。変調コントローラ432は、第1の駆動制御信号DRV_MDを発信駆動部436及び位相変換回路434に提供することができる。
発信駆動部436は、第1の駆動制御信号DRV_MDに応じて第1の遅延時間Td1の分だけ変調信号MSの初期位相が遅延されるように変調制御信号MCを生成できる。
位相変換回路434は、第1の駆動制御信号DRV_MDに応じて第2の駆動制御信号DRV_DDを生成できる。位相変換回路434は、第1の駆動制御信号DRV_MDに基づき、変調信号MSの位相を変化(例えば、シフト)させて、互いに異なる位相(例えば、0度、90度、180度、あるいは270度)を有する位相情報PFCを生成し、生成された位相情報PFCを第2の駆動制御信号DRV_DDに含めて出力することができる。特に、第3実施形態において、位相変換回路434は、位相オフセット信号OFF_PHに応じて第2の遅延時間Td2の分だけ位相制御信号PCTRLの初期位相が遅延されるように位相情報PFCを変更できる。
センサ駆動部438は、第2の駆動制御信号DRV_DDに応じてロー制御信号RCTRL及び位相制御信号PCTRLを生成できる。センサ駆動部438は、第2の駆動制御信号DRV_DDに含まれた位相情報PFCに基づいて、変調信号MSの位相に対応する位相制御信号PCTRLを生成できる。このとき、位相オフセット信号OFF_PHに応じて位相情報PFCが変更されたので、位相制御信号PCTRLの初期位相は、変調信号MSに比べて第2の遅延時間Td2の分だけ遅延されることができる。
第3実施形態において、変調信号MSの遅延された初期位相と位相制御信号PCTRLの遅延された初期位相との差が、第1実施形態における位相制御信号PCTRLの遅延された初期位相または第2実施形態の変調信号MSの遅延された初期位相に各々対応することができる。
図12は、本発明の第3実施形態に係る図11のイメージセンシング装置400の動作を説明するためのタイミング図である。
図12に示すように、駆動制御回路430は、位相オフセット信号OFF_PHに応じて変調信号MSの初期位相が調整(例えば、遅延)されるように変調制御信号MCを生成できる。これにより、光発信機410は、所定周期にトグリングするものの、初期位相が位相オフセット信号OFF_PHに対応する第1の遅延時間Td1の分だけ遅延された変調信号MSを被写体に照射することができる。変調信号MSは、被写体に反射された後、反射信号RSとして受信されることができる。このとき、変調信号MSと反射信号RSとは、飛行時間に対応する位相差φを有することができる。
位相変換回路434は、変調信号MSの位相を90度間隔でシフトして変調信号MSの0度、90度、180度、270度の位相情報PFCを生成できる。位相変換回路434は、位相制御信号PCTRLの初期位相が位相オフセット信号OFF_PHが反映された第2の遅延時間Td2の分だけ遅延されるように位相情報PFCを変更できる。
センサ駆動部438は、位相情報PFCに基づいて変調信号MSの位相に対応する位相制御信号PCTRLを生成できる。センサ駆動部438は、変調信号MSの0度と180度に対応する第1及び第2の位相遷移信号MIXA、MIXBと、変調信号MSの90度と270度に対応する第1及び第2の位相遷移信号MIXA、MIXBとを順次生成して光受信機420を駆動できる。このとき、センサ駆動部438は、第1及び第2の位相遷移信号MIXA、MIXBの初期位相を位相オフセット信号OFF_PHに対応する第2の遅延時間Td2の分だけ遅延させることができる。
このとき、第1の遅延時間Td1は、コース(coarse)遅延時間と定義し、第2の遅延時間Td2は、ファイン(fine)遅延時間と定義することができる。すなわち、第1の遅延時間Td1を用いて変調信号MSの初期位相を概略的に調整した後、第2の遅延時間Td2を用いて位相制御信号PCTRLの初期位相を微細に調整することができる。第1の遅延時間Td1及び第2の遅延時間Td2の差は、第1または第2実施形態における遅延時間Tdに対応することができる。これにより、反射信号RSと位相制御信号PCTRLとの間の位相差が0度、90度、180度、270度のうち1つに設定されることができる。結果的に、位相制御信号PCTRLの活性化区間で反射信号RSの量Q1、Q2、Q3、Q4が占める区間は、50:50または100:0になる。したがって、信号対雑音比(SNR)が最大になり、深さエラーが最小になることができる。
イメージプロセッサ440は、単位ピクセルPXから提供される第1及び第2のピクセル信号PIX1、PIX2に基づいて深さ位相TOF_PHを算出し、深さ位相TOF_PHに対応する深さ情報TOF_OUTを生成できる。イメージプロセッサ440は、位相オフセット信号OFF_PHが入力されれば、位相オフセット信号OFF_PHに応じて深さ位相TOF_PHを補償し、補償された深さ位相TOF_PHに対応する深さ情報TOF_OUTを算出できる。
このような本発明の実施形態等によれば、TOF方式を利用して深さ情報を取得するイメージセンシング装置において、取得された深さ情報に基づいて変調信号と位相制御信号との間の初期位相オフセットを設定することで、反射信号と位相制御信号との間の位相差が、深さエラーが最小になる位相として設定されることができる。また、設定された初期位相オフセットを用いて取得された深さ情報を最終的に補償することにより深さエラーを最小化し、正確な深さ情報を取得できるという効果がある。
本発明の技術思想は、上記実施形態によって具体的に記述されたが、以上で説明した実施形態は、その説明のためのものであり、その制限のためのものでないことに注意すべきである。また、本発明の技術分野の通常の専門家であれば、本発明の技術思想の範囲内で種々の置換、変形、及び変更により様々な実施形態が可能であることが理解できるであろう。
Claims (18)
- 変調信号を被写体に照射する光発信機と、
位相制御信号に応じて前記被写体から反射される反射信号に対応するピクセル信号を生成する光受信機と、
前記ピクセル信号に基づいて深さ位相を算出し、位相オフセット信号に応じて前記深さ位相を補償して深さ情報として出力するイメージプロセッサと、
前記変調信号の位相に対応する前記位相制御信号を生成し、前記位相オフセット信号に応じて前記位相制御信号と前記変調信号との初期位相差を設定する駆動制御回路と、
複数の基準位相を設定し、設定された基準位相のうち、前記深さ位相に最も近接した基準位相を選択し、選択された基準位相と前記深さ位相との位相差に対応する前記位相オフセット信号を算出するオフセット算出回路と、
を備えるイメージセンシング装置。 - 前記複数の基準位相は、
0度の位相、90度の位相、180度の位相、270度の位相を含む請求項1に記載のイメージセンシング装置。 - 前記駆動制御回路は、
前記位相オフセット信号に応じて前記位相制御信号の初期位相を遅延させる請求項1に記載のイメージセンシング装置。 - 前記駆動制御回路は、
外部要請に応答して、前記光発信機が周辺光(Ambient light)とは区別され得る前記変調信号を生成できるように第1の駆動制御信号を生成する変調コントローラと、
前記第1の駆動制御信号に基づき、前記変調信号の位相を変化させて、前記位相制御信号を生成するための位相情報を生成し、前記位相制御信号の初期位相が遅延されるように前記位相オフセット信号を生成する位相変換回路と、
を備える請求項1に記載のイメージセンシング装置。 - 前記駆動制御回路は、
前記位相オフセット信号に応じて前記変調信号の初期位相を遅延させる請求項1に記載のイメージセンシング装置。 - 前記駆動制御回路は、
外部要請に応答して、前記光発信機が周辺光(Ambient light)とは区別され得る前記変調信号を生成できるように第1の駆動制御信号を生成し、前記位相オフセット信号に応じて前記変調信号の初期位相が遅延されるように前記第1の駆動制御信号を調整する変調コントローラと、
前記第1の駆動制御信号に基づき、前記変調信号の位相を変化させて、前記位相制御信号を生成するための位相情報を生成する位相変換回路と、
を備える請求項1に記載のイメージセンシング装置。 - 前記駆動制御回路は、
前記位相オフセット信号に応じて前記変調信号及び前記位相制御信号の初期位相を共に遅延させる請求項1に記載のイメージセンシング装置。 - 前記駆動制御回路は、
外部要請に応答して、前記光発信機が周辺光とは区別され得る前記変調信号を生成できるように第1の駆動制御信号を生成し、前記位相オフセット信号に応じて前記変調信号の初期位相が遅延されるように前記第1の駆動制御信号を調整する変調コントローラと、
前記第1の駆動制御信号に基づき、前記変調信号の位相を変化させて、前記位相制御信号を生成するための位相情報を生成し、前記位相オフセット信号に応じて前記位相制御信号の初期位相が遅延されるように前記位相情報を変更する位相変換回路と、
を備える請求項1に記載のイメージセンシング装置。 - 前記イメージプロセッサは、
前記ピクセル信号をデジタル形態のデータに変換する信号変換回路と、
前記データに所定の演算過程を行って前記深さ位相を算出し、前記位相オフセット信号を前記深さ位相に反映して前記深さ情報を算出する信号処理回路と、
を備える請求項1に記載のイメージセンシング装置。 - 前記光受信機は、
複数の単位ピクセルがアレイ形態に配置されたピクセルアレイを含み、
前記各単位ピクセルは、前記位相制御信号の互いに異なる位相で動作する少なくとも2つのピクセルを含む請求項1に記載のイメージセンシング装置。 - 光受信機が変調信号を被写体に照射するステップと、
光発信機が位相制御信号に応じて前記被写体から反射される反射信号に対応するピクセル信号を生成するステップと、
前記ピクセル信号に基づいて深さ位相を生成するステップと、
複数の基準位相を設定し、設定された基準位相のうち、前記深さ位相に最も近接した基準位相を選択し、選択された基準位相と前記深さ位相との位相差に対応する位相オフセット信号を算出するステップと、
前記位相オフセット信号に応じて前記位相制御信号と前記変調信号との初期位相差を設定するステップと、
前記位相オフセット信号に応じて前記深さ位相を補償して深さ情報として出力するステップと、
を含むイメージセンシング方法。 - 前記複数の基準位相は、
0度の位相、90度の位相、180度の位相、270度の位相に設定される請求項11に記載のイメージセンシング方法。 - 前記初期位相差を設定するステップは、
前記位相オフセット信号に応じて前記位相制御信号の初期位相を遅延させる請求項11に記載のイメージセンシング方法。 - 前記初期位相差を設定するステップは、
前記位相オフセット信号に応じて前記変調信号の初期位相を遅延させる請求項11に記載のイメージセンシング方法。 - 前記初期位相差を設定するステップは、
前記位相オフセット信号に応じて前記変調信号及び前記位相制御信号の初期位相を共に遅延させる請求項11に記載のイメージセンシング方法。 - 前記深さ位相を補償して深さ情報として出力するステップは、
前記ピクセル信号をデジタル形態のデータに変換するステップと、
前記データに所定の演算過程を行って前記深さ位相を算出し、前記位相オフセット信号を前記深さ位相に反映して前記深さ情報を算出するステップと、
を含む請求項11に記載のイメージセンシング方法。 - 前記光発信機は、複数の単位ピクセルがアレイ形態に配置されたピクセルアレイを含み、
前記各単位ピクセルは、前記位相制御信号の互いに異なる位相で動作する少なくとも2つのピクセルを含む請求項11に記載のイメージセンシング方法。 - ソース信号を生成してターゲットに照射するステップと、
前記ターゲットから反射される前記ソース信号である反射信号を受信するステップと、
オフセット信号に応じて指定される特定量の分だけ前記ソース信号に対して遅延される位相(lagging phase)を有する制御信号を生成するステップと、
前記制御信号を介して単位ピクセルを制御し、前記反射信号に基づいてピクセル信号を生成するステップと、
前記ピクセル信号に応じて深さ位相を算出するステップと、
前記オフセット信号に応じて前記深さ位相を補償して深さ情報を生成するステップと、
複数の基準位相のうち、前記深さ情報から最も小さいオフセットを有する基準位相を選択するステップと、
前記最も小さいオフセットに対応するオフセット信号をアップデートするステップと、
を含むイメージセンシング装置の駆動方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200170495A KR20220081056A (ko) | 2020-12-08 | 2020-12-08 | 이미지 센싱 장치 및 그의 동작 방법 |
KR10-2020-0170495 | 2020-12-08 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022091104A true JP2022091104A (ja) | 2022-06-20 |
Family
ID=81848918
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021145140A Pending JP2022091104A (ja) | 2020-12-08 | 2021-09-07 | イメージセンシング装置、その動作方法、及びイメージセンシング方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11675079B2 (ja) |
JP (1) | JP2022091104A (ja) |
KR (1) | KR20220081056A (ja) |
CN (1) | CN114609647A (ja) |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101565969B1 (ko) * | 2009-09-01 | 2015-11-05 | 삼성전자주식회사 | 깊이 정보를 추정할 수 있는 방법과 장치, 및 상기 장치를 포함하는 신호 처리 장치 |
US9109888B2 (en) * | 2012-03-21 | 2015-08-18 | Honda Motor Co., Ltd. | Distance measuring system |
US9488722B2 (en) * | 2013-06-05 | 2016-11-08 | Samsung Electronics Co., Ltd. | Time-of-flight ranging system and method with extended range |
CN106997582A (zh) | 2016-01-22 | 2017-08-01 | 北京三星通信技术研究有限公司 | 飞行时间三维传感器的运动模糊消除方法和设备 |
US10191154B2 (en) * | 2016-02-11 | 2019-01-29 | Massachusetts Institute Of Technology | Methods and apparatus for time-of-flight imaging |
US10416296B2 (en) * | 2016-10-19 | 2019-09-17 | Infineon Technologies Ag | 3DI sensor depth calibration concept using difference frequency approach |
US10382736B1 (en) * | 2018-02-09 | 2019-08-13 | Infineon Technologies Ag | Two frequency time-of-flight three-dimensional image sensor and method of measuring object depth |
WO2020089057A1 (en) * | 2018-10-31 | 2020-05-07 | Sony Semiconductor Solutions Corporation | Electronic device, method and computer program |
US11543523B2 (en) * | 2018-12-28 | 2023-01-03 | Texas Instruments Incorporated | Multi frequency long range distance detection for amplitude modulated continuous wave time of flight cameras |
WO2020214914A1 (en) * | 2019-04-19 | 2020-10-22 | Sense Photonics, Inc. | Single frame distance disambiguation |
US11955494B2 (en) * | 2019-05-21 | 2024-04-09 | Sony Semiconductor Solutions Corporation | Power supply contact sharing for imaging devices |
WO2021005102A1 (en) * | 2019-07-09 | 2021-01-14 | Sony Semiconductor Solutions Corporation | Electronic device and method for time-of-flight measurement |
US11906628B2 (en) * | 2019-08-15 | 2024-02-20 | Apple Inc. | Depth mapping using spatial multiplexing of illumination phase |
US11619723B2 (en) * | 2019-09-23 | 2023-04-04 | Microsoft Technology Licensing, Llc | Multiple-mode frequency sharing for time-of-flight camera |
-
2020
- 2020-12-08 KR KR1020200170495A patent/KR20220081056A/ko active Search and Examination
-
2021
- 2021-05-19 US US17/324,635 patent/US11675079B2/en active Active
- 2021-09-03 CN CN202111030427.2A patent/CN114609647A/zh active Pending
- 2021-09-07 JP JP2021145140A patent/JP2022091104A/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
KR20220081056A (ko) | 2022-06-15 |
US20220179073A1 (en) | 2022-06-09 |
CN114609647A (zh) | 2022-06-10 |
US11675079B2 (en) | 2023-06-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3525005B1 (en) | Two frequency time-of-flight treee-dimensional image sensor and method of measuring object depth | |
US7759624B2 (en) | Image data generating device and light receiving device | |
US11378690B2 (en) | Time of flight sensor, a three-dimensional imaging device using the same, and a method for driving the three-dimensional imaging device | |
CN106461760B (zh) | 固态lidar电路 | |
KR101565969B1 (ko) | 깊이 정보를 추정할 수 있는 방법과 장치, 및 상기 장치를 포함하는 신호 처리 장치 | |
KR20200013795A (ko) | 확장된 다이내믹 레인지를 갖는 디지털 픽셀 | |
CN108267749A (zh) | 校准飞行时间光学系统的光检测器 | |
KR20150054568A (ko) | 깊이 센서, 및 이의 동작 방법 | |
WO2019241238A1 (en) | Pixel cell with multiple photodiodes | |
US20220365214A1 (en) | On-chip monitoring and calibration circuits for frequency modulated continuous wave lidar | |
US20220050201A1 (en) | Fmcw imaging lidar based on coherent pixel array | |
EP0944185B1 (en) | Space optical transmission apparatus and space optical transmission method | |
US20210173086A1 (en) | Time of flight sensing system and image sensor used therein | |
CN110574364A (zh) | 三维图像传感器以及相关三维图像传感模组及手持装置 | |
CN105556650A (zh) | 晶片检验系统内的衬底表面的高速高度控制的方法及系统 | |
JP2022091104A (ja) | イメージセンシング装置、その動作方法、及びイメージセンシング方法 | |
US20220018946A1 (en) | Multi-function time-of-flight sensor and method of operating the same | |
US20210173085A1 (en) | Time of flight sensing system and image sensor used therein | |
EP3971614A1 (en) | System and method for determining a range of a scene using fmcw lidar imaging | |
US11849223B2 (en) | Time of flight camera data processing system | |
JP4675870B2 (ja) | 光制御型ビーム形成回路 | |
JPH0550710B2 (ja) | ||
TWI773791B (zh) | 具有擴展動態範圍的數位像素 | |
JP2017133931A (ja) | 画像生成装置、ならびに距離画像およびカラー画像の生成方法 | |
JPH10123250A (ja) | 光波測距システムおよび光波測距方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240606 |