JP2017505907A - 深さ情報抽出装置および方法 - Google Patents

深さ情報抽出装置および方法 Download PDF

Info

Publication number
JP2017505907A
JP2017505907A JP2016549148A JP2016549148A JP2017505907A JP 2017505907 A JP2017505907 A JP 2017505907A JP 2016549148 A JP2016549148 A JP 2016549148A JP 2016549148 A JP2016549148 A JP 2016549148A JP 2017505907 A JP2017505907 A JP 2017505907A
Authority
JP
Japan
Prior art keywords
light
unit
depth information
region
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016549148A
Other languages
English (en)
Other versions
JP6693880B2 (ja
Inventor
ウク リ、ミョン
ウク リ、ミョン
キ チョン、ソン
キ チョン、ソン
ソク リ、キ
ソク リ、キ
ハ ハン、キョン
ハ ハン、キョン
ソン ソ、ウン
ソン ソ、ウン
キョ リ、セ
キョ リ、セ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Innotek Co Ltd
Original Assignee
LG Innotek Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020140011596A external-priority patent/KR102117561B1/ko
Priority claimed from KR1020140011590A external-priority patent/KR102106080B1/ko
Application filed by LG Innotek Co Ltd filed Critical LG Innotek Co Ltd
Publication of JP2017505907A publication Critical patent/JP2017505907A/ja
Priority to JP2020073440A priority Critical patent/JP6910499B2/ja
Application granted granted Critical
Publication of JP6693880B2 publication Critical patent/JP6693880B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4814Constructional features, e.g. arrangements of optical elements of transmitters alone
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4865Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/579Depth or shape recovery from multiple images from motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/586Depth or shape recovery from multiple images from multiple light sources, e.g. photometric stereo
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/388Volumetric displays, i.e. systems where the image is built up from picture elements distributed through a volume
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)
  • Holo Graphy (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【解決手段】本発明の一実施例に係る深さ情報抽出装置は、IR(InfraRed)光を出力する光出力部、前記光出力部から出力された後、物体から反射した光が入力される光入力部、前記物体を含む第1領域に光が照射されるように光の角度を調節した後、第2領域に光が照射されるように光の角度を調節する光調節部、そして前記第1領域に対して入力される光および前記第2領域に対して入力される光の中の少なくとも一つを利用して前記物体の動きを推定する制御部を含む。【選択図】図1

Description

本発明は深さ情報抽出に関するもので、より詳細にはTOF(Time of Flight)方式を利用して深さ情報を抽出する装置および方法に関するものである。
撮影装置を利用して3次元映像を獲得する技術が発展している。3次元映像を獲得するためには深さ情報(Depth Map)が必要である。深さ情報は空間上の距離を表す情報であり、2次元映像の一地点に対して他の地点の遠近情報を表す。
深さ情報を獲得する方法中の一つは、IR(Infrared)構造光を客体に投射して、客体から反射した光を解釈して深さ情報を抽出する方式である。IR構造光方式によれば、動く客体に対して所望の水準の深さ分解能(Depth resolution)を得ることが難しい問題がある。
IR構造光方式を代替する技術としてTOF(Time of Flight)方式が注目を集めている。TOF方式によれば、飛行時間、すなわち光を照射して反射してくる時間を測定することによって物体との距離を計算する。
一般的に、TOF方式によるカメラは光の角度を調節して物体の前面に光を照射する。このようなTOFカメラは光効率が低いため、演算量が多い問題がある。
本発明が達成しようとする技術的課題は、TOF方式を利用して深さ情報を抽出する深さ情報抽出装置および方法を提供するところにある。
本発明の一実施例に係る深さ情報抽出装置はIR(InfraRed)光を出力する光出力部、前記光出力部から出力された後、物体から反射した光が入力される光入力部、前記物体を含む第1領域に光が照射されるように光の角度を調節した後、前記第1領域の一部である第2領域に光が照射されるように光の角度を調節する光調節部、そして前記第2領域に対して時間に沿って順次入力される光を利用して前記第2領域内の動きを推定する制御部を含む。
前記第1領域は前記物体を含む全体領域であり、前記第2領域は前記第1領域から抽出され、前記物体内の所定領域を含む部分領域であり得る。
前記制御部は前記光出力部から出力された光が前記第2領域に照射された後、反射して前記光入力部に入力されるまでかかる飛行時間を計算することができる。
前記制御部は第1時間で入力される光を利用して計算された第1飛行時間、前記第1時間以前に入力される光を利用して計算された第2飛行時間および前記第2時間以後に入力される光を利用して計算された第3飛行時間を利用して前記第2領域内の動きを推定することができる。
前記制御部は前記第1飛行時間、前記第2飛行時間および前記第3飛行時間間の相対的な差を利用して前記第2領域内の動きを推定した後、補間(interpolation)技法を利用して補正することができる。
前記光入力部はそれぞれが第1受信ユニットおよび第2受信ユニットを含む複数のピクセルを含み、前記制御部は前記第1受信ユニットおよび前記第2受信ユニットに入力される光量の差を利用して前記飛行時間を計算することができる。
前記光調節部はMEMS(Micro Electo Mechanical System)およびMEMS制御ユニットを含むことができる。
前記制御部は、前記光出力部、前記光調節部および前記光入力部の時間を制御するタイミング制御ユニット、前記光入力部を通じて入力された電気信号をデジタル信号に変換する変換ユニット、そして前記第2領域に対して時間に沿って順次入力される光の飛行時間を計算し、動きを推定し、深さ情報を抽出する信号処理ユニットを含むことができる。
本発明の一実施例に係る深さ情報抽出方法は、物体を含む第1領域にIR(InfraRed)光を照射する段階、前記第1領域の一部である第2領域にIR光を照射する段階、そして前記第2領域に対して時間に沿って順次入力される光を利用して前記第2領域内の動きを推定する。
前記推定する段階は、第1時間で入力される光に対する第1飛行時間、前記第1時間以前に入力される光に対する第2飛行時間および前記第2時間以後に入力される光に対する第3飛行時間を計算する段階、そして前記第1飛行時間、前記第2飛行時間および前記第3飛行時間間の相対的な差を利用して前記第2領域内の動きを推定する段階を含むことができる。
本発明の他の実施例に係る深さ情報抽出装置は、物体に光を照射する光源、前記光源と前記物体の間に配置され、前記光源の照射領域を調節するホログラフィック素子、第1および第2フレーム周期での前記照射領域が互いに異なるように、前記ホログラフィック素子を駆動するアクチュエーター、前記物体によって反射する反射光を受光する受光レンズ、前記受光レンズを通じて前記反射光を受光し、前記第1および第2フレーム周期のそれぞれに同期化して第1および第2映像信号を出力するセンサ部、前記第1および第2映像信号を信号処理して第1および第2フレームを生成する信号処理部、そして前記第1および第2フレームを結合して深さ映像を生成するデインターレーサー(De−interlacer)を含む。
本発明のさらに他の実施例に係る深さ情報抽出装置は、互いに離隔配置され、物体に光を照射する第1および第2光源、前記第1および第2の光源と前記物体の間にそれぞれ配置され、前記第1および第2光源の照射領域が互いに異なるように、前記第1および第2光源の照射領域を調節する第1および第2ホログラフィック素子、第1フレーム周期には前記第1光源が発光し、第2フレーム周期には前記第2光源が発光するように、前記第1および第2光源の点灯を制御する制御部、前記物体によって反射する反射光を受光する受光レンズ、前記受光レンズを通じて前記反射光を受光し、前記第1および第2フレーム周期のそれぞれに同期化して第1および第2映像信号を出力するセンサ部、前記第1および第2映像信号を信号処理して第1および第2フレームを生成する信号処理部、そして前記第1および第2フレームを結合して深さ映像を生成するデインターレーサーを含む。
本発明の実施例によれば、演算量が少なく、深さ分解能が優秀な深さ情報抽出装置を得ることができる。したがって、深さ情報抽出装置の消費電力を節減することができ、物体の距離を精密に抽出することができる。
本発明の一実施例に係る深さ情報抽出システムのブロック図を示す。 本発明の一実施例に係る深さ情報抽出装置の光入力部の構造を示す。 本発明の一実施例に係る深さ情報抽出装置の深さ情報抽出原理を示す。 時間に沿って順次撮影された全体領域および部分領域を示す。 本発明の一実施例に係る深さ情報抽出装置の深さ情報抽出方法を示すフローチャートである。 本発明の一実施例に係る深さ情報抽出装置の深さ情報抽出方法を示すフローチャートである。 本発明の他の実施例に係る深さ情報抽出装置を概略的に図示したブロック図である。 本発明の他の実施例に係る深さ情報抽出装置がホログラフィック素子によって発散角を制御する一例を説明するための図面である。 本発明の他の実施例に係る深さ情報抽出装置がフレーム周期に同期化してフレームを生成する方法を説明するための図面である。 本発明の他の実施例に係る深さ情報抽出装置が奇数フレームおよび偶数フレームを結合して深さ映像を生成する図面である。 本発明の他の実施例に係る深さ情報抽出装置の深さ情報抽出方法を図示したフローチャートである。 本発明のさらに他の実施例に係る深さ情報抽出装置を概略的に図示したブロック図である。 本発明のさらに他の実施例に係る深さ情報抽出装置が深さ情報を抽出する方法を説明するための図面である。 本発明のさらに他の実施例に係る深さ情報抽出装置で深さ情報を抽出する方法を図示したフローチャートである。
本発明は多様な変更を加えることができ、様々な実施例を有することができるところ、特定実施例を図面に例示して説明する。しかし、これは本発明を特定の実施形態に限定しようとするものではなく、本発明の思想および技術範囲に含まれるすべての変更、均等物ないし代替物を含むものと理解されるべきである。
第2、第1などのように序数を含む用語は多様な構成要素の説明に用いることができるが、前記構成要素は前記用語によって限定されるものではない。前記用語は一つの構成要素を他の構成要素から区別する目的にのみ用いられる。例えば、本発明の権利範囲を逸脱することなく第2構成要素を第1構成要素と命名することができ、同様に第1構成要素も第2構成要素と命名することができる。および/またはという用語は複数の関連する記載された項目の組合せまたは複数の関連する記載された項目の中のいずれか一つの項目を含む。
ある構成要素が他の構成要素に「連結されて」あるまたは「接続されて」あると言及された時には、その他の構成要素に直接的に連結されているかまたは接続されていることもあり得るが、中間に他の構成要素が存在することもあると理解されるべきである。反面、ある構成要素が他の構成要素に「直接連結されて」あるまたは「直接接続されて」あると言及された時には、中間に他の構成要素が存在しないものと理解されるべきである。
本出願に用いられた用語は単に特定の実施例を説明するために用いられたもので、本発明を限定しようとする意図ではない。単数の表現は文脈上明白に異なることを意味しない限り、複数の表現を含む。本出願において、「含む」または「有する」などの用語は明細書上に記載された特徴、数字、段階、動作、構成要素、部品またはこれらを組み合わせたのが存在することを指定しようとするものであり、一つまたはそれ以上の他の特徴や数字、段階、動作、構成要素、部品またはこれらを組み合わせたものなどの存在または付加可能性をあらかじめ排除しないものと理解されるべきである。
特に定義されない限り、技術的または科学的な用語を含めてここで用いられるすべての用語は、本発明が属する技術分野で通常の知識を有した者によって一般的に理解されるものと同じ意味を有している。一般的に用いられる辞書に定義されているような用語は、関連技術の文脈上有する意味と一致する意味を有すると解釈されるべきであり、本出願で明白に定義しない限り、理想的または過度に形式的な意味と解釈されない。
以下、添付された図面を参照して実施例を詳細に説明するものの、図面符号にかかわらず同一であるかまたは対応する構成要素は同じ参照番号を付与し、これに対する重複する説明は省略する。
本発明の実施例によれば、照射される光の角度を調節して深さ分解能を高めようとする。
本発明の一実施例によれば、物体を含む全体領域に対して光を照射した後、全体領域から部分領域を抽出し、抽出した部分領域に対して光を繰り返し照射して部分領域内の深さ情報を抽出しようとする。
図1は本発明の一実施例に係る深さ情報抽出システムのブロック図を示し、図2は本発明の一実施例に係る深さ情報抽出装置の光入力部の構造を示し、図3は本発明の一実施例に係る深さ情報抽出装置の深さ情報抽出原理を示す。
図1を参照すると、深さ情報抽出システムは、深さ情報抽出装置100およびPC200を含む。深さ情報抽出装置は3次元映像カメラまたはその一部であり得る。
深さ情報抽出装置100は光出力部110、光調節部120、光入力部130および制御部140を含む。
光出力部110はIR(infrared)光を出力する。IR光は、例えば800nm以上の波長帯域を有する光であり得る。光出力部110は光源112および光変換ユニット114を含む。光源は赤外線を投射する少なくとも一つのレーザーダイオード(Laser Diode)または発光ダイオード(Light Emitting Diode、LED)を含むことができる。そして、光変換ユニット114は光源112から出力された光を変調(modulation)することができる。光変換ユニット114は、例えば光源112から出力された光をパルス(pulse)変調または位相(phase)変調することができる。これによって、光出力部110は所定間隔で光源を点滅させて出力することができる。
光調節部120は物体を含む領域に光が照射されるように光の角度を調節する。このために、光調節部120はMEMS(Micro Electo Mechanical System、122)およびMEMS制御ユニット124を含むことができる。
光調節部120は物体を含む全体領域に光が照射されるように光の角度を調節することができる。例えば、図4(a)のように、人を含む全体領域に光が照射されるように光の角度を調節することができる。これによって、光出力部110から出力された光は全体領域をピクセルまたはライン単位でスキャンすることができる。そして、光調節部120は全体領域の一部である部分領域に光が照射されるように光の角度を調節することもできる。例えば、図4(b)のように、全体領域のうち手を含む部分領域に光が照射されるように光の角度を調節することができる。これによって、光出力部110から出力された光はの部分領域だけをピクセルまたはライン単位でスキャンすることができる。
一方、光入力部130は光出力部110から出力された後、物体によって反射した光の入力を受ける。光入力部130は入力を受けた光を電気信号に変換することができる。光入力部130は、フォトダイオード(photo diode、PD)またはCMOS(complementary metal−oxide semiconductor)を含むイメージセンサであり得る。図2のように、光入力部130は配列された複数のピクセル(pixel)132を含むことができる。各ピクセルはIn Phase受信ユニット132−1およびOut Phase受信ユニット132−2を含むことができる。
制御部140は深さ情報抽出装置100を全般的に制御し、深さ情報を抽出する。制御部140はコントローラチップ(controller chip)で具現され得る。制御部140はタイミング制御ユニット142、変換ユニット144、信号処理ユニット146およびインタフェースコントローラ148を含むことができる。タイミング制御ユニット142は光出力部110、光調節部120、光入力部130の時間を制御する。例えば、タイミング制御ユニット142は光出力部110の点滅周期を制御することができる。変換ユニット144は光入力部130を通じて入力された電気信号をデジタル信号に変換する。
そして、信号処理ユニット146は部分領域に対して時間に沿って順次入力される光の飛行時間を計算し、動きを推定し、深さ情報を抽出する。このとき、光の飛行時間はIn Phase受信ユニット132−1およびOut Phase受信ユニット132−2に入力された光量の差を利用して計算され得る。すなわち、図3のように、In Phase受信ユニット132−1は光源がオンとなる間活性化され、Out Phase受信ユニット132−2は光源がオフとなる間活性化され得る。このように、In Phase受信ユニット132−1およびOut Phase受信ユニット132−2が時間差を置いて活性化されると、光の飛行時間、すなわち物体との距離によって受信される光量に差が発生することになる。例えば、物体が深さ情報抽出装置の手前にある場合(すなわち、距離=0である場合)には、光出力部110から光が出力された後、反射してくるまでかかる時間が0であるため、光源の点滅周期はそのまま光の受信周期となる。したがって、In Phase受信ユニット132−1だけが光を受信し、Out Phase受信ユニット132−2は光を受信できなくなる。他の例として、物体が深さ情報抽出装置と所定距離離れて位置する場合、光出力部110から光が出力された後、物体に反射してくるまで時間がかかるため、光源の点滅周期は光の受信周期と差が発生する。したがって、In Phase受信ユニット132−1とOut Phase受信ユニット132−2が受信する光の量に差が発生することになる。
インタフェースコントローラ148はPC200などのミドルウェアとのインターフェースを制御する。例えば、インタフェースコントローラ148は全体領域を照射した後、光入力部130を通じて入力された光に対する情報をPC200などのミドルウェアで伝達することができる。そして、PC200などのミドルウェアによって抽出された部分領域に対する情報をPC200などのミドルウェアから受信した後、光調節部120などに伝達することができる。
図5〜図6は本発明の一実施例に係る深さ情報抽出装置の深さ情報抽出方法を示すフローチャートである。図1〜図3と重複した内容は説明を省略する。
図5を参照すると、深さ情報抽出装置100の光出力部110はIR光を出力し(S500)、出力された光は光調節部120の調節によって物体を含む全体領域を照射する(S502)。
そして、光入力部130を通じて物体部から反射した光が入力され(S504)、制御部140は光入力部130から受信したアナログ信号をデジタル信号に変換した後(S506)、PC200に伝達する(S508)。
PC200は深さ情報抽出装置100から受信した信号を利用して全体領域内の部分領域を抽出する(S510)。部分領域は応用アプリケーションを実現するために必要な関心対象を含む領域であり得る。例えば、応用アプリケーションが指のジェスチャーーによりTVチャネルを変更する場合、全体領域が人の全身を含むとすると、部分領域は指だけを含むことができる。
PC200は抽出した部分領域に関する情報を深さ情報抽出装置100に伝達する(S512)。
一方、深さ情報抽出装置100の光出力部110はIR光を出力し(S514)、出力された光は光調節部120の調節によって全体領域から抽出された部分領域だけを照射する(S516)。
そして、光入力部130を通じて物体部から反射した光が入力され(S518)、制御部140は光入力部130から受信したアナログ信号をデジタル信号に変換し(S520)、信号処理して深さ情報を抽出する(S522)。
本発明の一実施例によれば、深さ情報抽出装置100は全体領域を1回スキャンすることができる時間に部分領域を数回スキャンすることができる。これに伴い、段階S514〜段階S520が数回繰り返され、段階S522では数回繰り返された結果を利用して深さ情報の精密度を高めることができる。これについて図6を参照して詳細に説明する。
図6を参照すると、深さ情報抽出装置の制御部140は部分領域に対して、時間T1で光入力部130を通じて入力された光の飛行時間を計算し(S600)、T2で光入力部130を通じて入力された光の飛行時間を計算し(S602)、T3で光入力部130を通じて入力された光の飛行時間を計算する(S604)。ここで、T1、T2、T3は互いに同じ時間間隔を有することができ、図5での段階S514〜段階S520がT1、T2、T3でそれぞれ繰り返され得る。光の飛行時間は図3で説明した通り、光入力部のピクセル内のIn Phase受信ユニットとOut Phase受信ユニット間の光量の差によって計算され得る。
そして、制御部140は時間T1〜時間T3での飛行時間に基づいて部分領域の動きを推定(motion estimation)し(S606)、動き推定結果により深さ情報を抽出する(S608)。このとき、動き推定および深さ情報抽出過程はスーパーレゾリューションアルゴリズム(Super Resolution(SR) Algorithm)により遂行され得る。すなわち、図4(b)のように、T1〜Tnでの部分領域を撮影した後、それぞれの飛行時間を計算し、時間による相対的な動きを推定することができる。そして、推定された動きは補間(Interpolation)技法によって補正された後、復元(restoration)され、ノイズ除去(noise reduction)され得る。
このように、全体領域から部分領域を検出し、部分領域に対する深さ情報を抽出すると、計算の複雑度を減らすことができる。また、部分領域に対して時間に沿って順次入力される情報に対する相対的な差を利用して動き情報を推定するため、高い深さ分解能を得ることができる。また、全体領域を1回スキャンする時間に部分領域を数回スキャンすることができるため、深さ情報抽出の時間および計算の複雑度を減らすことができる。
本発明の他の実施例によれば、物体を含む一部領域に対して光を照射した後、光の角度を調節して残りの領域に対して光を照射する過程を繰り返すことによって、深さ情報を抽出しようとする。
図7は本発明の他の実施例に係る深さ情報抽出装置を概略的に図示したブロック図である。図8は本発明の他の実施例に係る深さ情報抽出装置がホログラフィック素子によって発散角を制御する一例を説明するための図面である。図9は本発明の他の実施例に係る深さ情報抽出装置がフレーム周期に同期化してフレームを生成する方法を説明するための図面である。図10は奇数フレームと偶数フレームを併合して深さ映像を生成する図面である。図1〜6と重複する内容は説明を省略する。
図7を参照すると、本発明の他の実施例に係る深さ情報抽出装置は深さセンサモジュール10、信号処理部31およびデインターレーサー(De−interlacer、32)を含むことができる。図7に図示された構成要素は必須のものではなく、本発明の一実施例に係る深さ情報抽出装置はそれより多いか少ない構成要素を含むことができる。
深さセンサモジュール10は飛行時間(Time Of Flight、TOF)センサモジュールであって、発光部と受光部を含むことができる。
深さセンサモジュール10の発光部は光源11、レンズ12、ホログラフィック(Holograhic)素子13、アクチュエーター(actuator、14)および制御部15を含むことができる。ここで、光源11は光出力部と混用され得、ホログラフィック素子13およびアクチュエーター14は光調節部と混用され得る。
光源11は発光素子を含み、発光素子を駆動して一定の位相を有する光を物体(OB)に照射する機能を遂行する。光源11は既設定されたフレーム周期に同期化して点滅を繰り返すように動作することができる。
光源11に含まれる発光素子としては、レーザー(Laser)、レーザーダイオード(Laser Diode)などが含まれ得るが、その他の種類の光源も使用することができる。
レーザーまたはレーザーダイオードから照射される光は、発光ダイオード(Light Emitting Diode、LED)から照射される光に比べて相対的に指向性が優秀な特性がある。したがって、レーザーまたはレーザーダイオードを光源11として使用する場合、発散角および照射領域調節が容易である。
光源11から照射される光の波長は赤外線(Infrared Ray)帯域に含まれ得るが、その他の波長帯域に含まれることもある。
レンズ12は光源11から照射される光の経路上に配置され、点光源である光源11から照射される光を面光源化する機能を遂行する。レーザーの場合、指向性は優秀であるが、相対的に発散角が小さい特性がある。したがって、深さ映像を獲得するためには物体(OB)全体に均一に光を照射するようにレンズ12を使用することができる。
ホログラフィック素子13は光源11と物体(OB)の間、またはレンズ12と物体(OB)の間に配置され、光源11から照射される光の発散角および照射領域を制御する機能を遂行する。
図8の(a)は、光源(LED)から照射される光がホログラフィック素子13なしに物体(OB)に照射される場合を図示したもので、図8の(b)は光源(LED)から照射される光がホログラフィック素子13により発散角が調節されて物体(OB)に照射される場合を図示したものである。
図8の(a)を参照すると、LEDから照射される光はセンサーに像が写る領域以外の他の領域(a1、a2)にも照射されるため、光効率が低下する。
反面、図8の(b)を参照すると、LEDから照射される光は、ホログラフィック素子13によりセンサーに像が写る領域(画角)を大きく外れないように発散角が調節され、光の無駄が最小化され、光効率が向上され得る。
一方、レンズ12は必須のものではないため、ホログラフィック素子13により照度均一度が確保される場合には省略することもできる。
再び、図7を参照すると、ホログラフィック素子13はコンピュータホログラム(Computer Generated Hologram、CGH)方式で製造され得る。ホログラム(hologram)は、物体から散乱される情報が入った物体波(signal wave)と可干渉参照波(reference wave)から発生する干渉パターンで、CGHはコンピュータを利用してこのような干渉パターンを数学的に計算して作る方式である。
ホログラフィック素子13はコンピュータによって計算された干渉パターンを記録媒質に記録して形成され得る。
ホログラフィック素子13で干渉パターンが記録される記録媒質は感光材料で形成された基板を含むことができる。感光材料としては、フォトポリマー(photopolymer)、UVフォトポリマー、フォトレジスト(photoresist)、シルバーパーライトエマルジョン(silver halide emulsion)、重クロム酸ゼラチン(dichromated gelatin)、フォトグラフィックエマルジョン(photographic emulsion)、フォトサーモプラスチック(photothermoplastic)、光回折(photorefractive)材料などが使用され得る。
ホログラフィック素子13は、体積ホログラフィック(volume holographic)素子または表面ホログラフィック(surface holographic)素子であり得る。
体積ホログラフィック素子は、物体波と参照波の干渉で空間に形成されている干渉パターンを記録媒質に3次元的に記録したホログラフィック光学素子である。反面、表面ホログラフィック素子は物体波と参照波の干渉で空間に形成されている干渉パターンを記録媒質の表面に記録したホログラフィック光学素子である。
ホログラフィック素子13が表面ホログラフィック素子である場合、干渉パターンは光源11から入射した光が出射する出射面に形成され得る。
ホログラフィック素子13はアクチュエーター14に連結され、アクチュエーター14により位置、傾き(tilting)などが調節され得る。
アクチュエーター14は、ホログラフィック素子13を駆動する駆動装置であって、光源11の光軸(Optic Axis)を基準としてホログラフィック素子13の位置、傾き(tilting)などを調節することができる。
ホログラフィック素子13の位置、傾きなどが変更されると、ホログラフィック素子13を通過した光が物体(OB)に照射される照射領域が移動(shift)し、これによって物体(OB)により反射した光がセンサ部22の各セルに写る領域も移動する。
アクチュエーター14は制御部15の制御信号に基づいて、ホログラフィック素子13の照射領域がスイッチングされるようにホログラフィック素子13を駆動させることができる。すなわち、アクチュエーター14は、奇数番目のフレーム周期にホログラフィック素子13の照射領域が、偶数番目のフレーム周期でのホログラフィック素子13の照射領域と異なるようにホログラフィック素子13を駆動することができる。
奇数番目のフレーム周期でのホログラフィック素子13の照射領域は、偶数番目のフレーム周期でのホログラフィック素子13の照射領域に比べて、センサ部22の一つのセルにマッチングされる領域だけ上または下へ移動した領域であり得る。すなわち、ホログラフィック素子13の照射領域は、奇数番目のフレーム周期でのセンサ部22のセルに写る位置と、偶数番目のフレーム周期でのセンサ部22のセルに写る位置が一つのセルだけ差があるように、毎フレーム周期ごとに調節され得る。これに伴い、同じ地点で反射した光であっても奇数番目のフレーム周期でセンサ部22のセルに写る位置と、偶数番目のフレーム周期でセンサ部22のセルに写る位置が一つのセルだけ差があり得る。
アクチュエーター14はVCM(Voice Coil Moto)アクチュエーターまたはMEMS(Microelectromechanical Systems)アクチュエーターであり得る。
制御部15は既設定されたフレーム(frame)周期に基づいて光源11のオン(On)/オフ(Off)を制御することができる。
図9を例にすると、制御部15は毎フレーム周期ごとに光源11が点滅するように、光源11を周期的にオン(On)/オフ(Off)することができる。すなわち、制御部15はフレーム周期(T1、T2)が始まると光源11をオンして光を照射し、所定時間が経つと光源11をオフしてフレーム周期(T1、T2)が終了するまで光照射を中断するように制御する動作を、毎フレーム周期(T1、T2)ごとに遂行することができる。
制御部15は毎フレーム周期ごとにホログラフィック素子13の照射領域がスイッチングされるようにアクチュエーター14を制御することができる。
深さセンサモジュール10の受光部は受光レンズ21およびセンサ部22を含むことができる。本明細書において、受光部は光入力部と混用され得る。
受光レンズ21は物体(OB)とセンサ部22の間に配置され、物体(OB)側から反射する反射光を受光してセンサ部22に入射させる機能を遂行する。
センサ部22は受光レンズ21を通じて物体(OB)から反射する反射光を受光し、これを電気信号に変換して映像信号を出力する。
センサ部22は複数のセルからなり、各セルはフレームを構成する各ピクセル(pixel)に対応することができる。センサ部22はセル単位で光を受光し、セル単位で映像信号を出力することができる。
センサ部22を構成する各セルは、光を電気信号に変換する素子を含むことができる。各セルはこれに限定されるものではないか、金属酸化物半導体(Metal−Oxide Semiconductor、MOS)、電荷結合素子(Charge Coupled Device、CCD)などを含むことができる。
センサ部22は既設定されたフレーム周期に同期化して反射光を受光し、これを映像信号に変換して出力することができる。
一方、ホログラフィック素子13により毎フレーム周期ごとに照射領域がスイッチングされることによって、センサ部22に像が写る位置も毎フレーム周期ごとにスイッチングされ得る。
ホログラフィック素子13はアクチュエーター14により奇数番目のフレーム周期と偶数番目のフレーム周期で互いに異なる領域に光を照射する。これによって、物体(OB)の同じ位置で反射した光であっても奇数番目のフレーム周期でセンサ部22に像が写る位置と偶数番目のフレーム周期でセンサ部22に像が写る位置が異なり得る。
奇数番目のフレーム周期にセンサ部22に写る像は偶数番目のフレーム周期にセンサ部22に写る像に比べて、一つのセルだけ上/下に移動して写り得る。
信号処理部31はセンサ部22から出力される映像信号に対してサンプリング(sampling)などの信号処理を遂行してフレームを生成する。ここで、フレームは複数のピクセルを含み、各ピクセルのピクセル値は各ピクセルに対応する映像信号から獲得することができる。
信号処理部31はフレーム周期に対応してセンサ部22から出力される映像信号をフレームに変換して出力することができる。
図9を例にすると、信号処理部31は毎フレーム周期ごと(T1、T2)に映像信号をフレーム5a、5bに変換して出力し、奇数番目のフレーム周期(T1)と偶数番目のフレーム周期(T2)にそれぞれ同期化して奇数フレーム5aと偶数フレーム5bを出力することができる。
信号処理部31はセンサ部22の各セルを通じて受光した光と光源11により照射された光との位相差に基づいて各セル、すなわち、各ピクセルに対応する深さ情報を算出することもできる。算出した深さ情報はフレームを構成する各ピクセルに対応して貯蔵される。
デインターレーサー32は、信号処理部31から奇数フレームと偶数フレームをそれぞれ受信し、二つのフレームを結合して一つの深さ映像を生成することができる。
デインターレーサー32は、信号処理部31から出力される奇数フレームと偶数フレームを行(line)単位で交互に挿入することによって、解像度がセンサ部22の解像度より2倍に増加した深さ映像を生成することができる。図10を例にすると、奇数フレームと偶数フレームは、それぞれ10(行)×10(列)ピクセルの解像度を有し、二つのフレームを行単位で交差結合した深さ映像の解像度は20(行)×10(列)ピクセルであり、垂直方向解像度がセンサ部22の解像度より2倍増加した。図7の制御部15、信号処理部31およびデインターレーサー32は図1の制御部140に対応することができる。
図11は本発明の他の実施例に係る深さ情報抽出装置の深さ情報抽出方法を図示したフローチャートである。
図11を参照すると、深さセンサモジュール10は奇数番目のフレーム周期に同期化して光を照射するように光源11を制御する(S101)。
前記S101段階で、光源11から照射された光はホログラフィック素子13により照射領域が制御され得る。
光源11から照射された光が物体から反射してセンサ部22に入射することによって、センサ部22はこれに対応する映像信号を各ピクセル単位で生成する。また、信号処理部31はセンサ部22から出力される映像信号を信号処理して奇数フレームを生成する(S102)。
奇数フレームが獲得されると、深さセンサモジュール10はホログラフィック素子13を制御して物体に光が照射される照射領域を移動させる(S103)。
前記S103段階で、深さセンサモジュール10はアクチュエーター14を制御してホログラフィック素子13の傾きを調節することによって、照射領域を移動させることができる。
偶数番目のフレーム周期が始まると、深さセンサモジュール10はこれに同期化して物体に光を照射するように光源11を制御する(S104)。
前記S104段階で、光源11から照射された光はホログラフィック素子13により偶数番目のフレーム周期と照射領域が異なり得る。
光源11から照射された光が物体から反射してセンサ部22に入射することによって、センサ部22はこれに対応する映像信号を各ピクセル単位で生成する。また、信号処理部31はセンサ部22から出力される映像信号を信号処理して偶数フレームを生成する(S105)。
デインターレーサー32はフレームを構成するピクセルアレイの行単位で奇数フレームと偶数フレームを結合して深さ映像を生成する(S106)。
前記S106段階で、デインターレーサー32は奇数フレームと偶数フレームのピクセル行を順次交差結合することによって、深さ映像を生成することができる。
以下、図12〜図14を参照して、本発明のさらに他の実施例に係る深さ情報抽出方法およびこれを遂行するための深さ情報抽出装置について詳細に説明する。
図12は本発明のさらに他の実施例に係る深さ情報抽出装置を概略的に図示したブロック図である。図13は本発明のさらに他の実施例に係る深さ情報抽出装置が深さ情報を抽出する方法を説明するための図面である。
以下では重複説明を避けるために、図7を参照して説明した深さ情報抽出装置とその機能が同一の構成要素については詳細な説明を省略する。
図12を参照すると、本発明のさらに他の実施例に係る深さ情報抽出装置は深さセンサモジュール10、信号処理部31およびデインターレーサー32を含むことができる。図12に図示された構成要素は必須のものではなく、本発明のさらに他の実施例に係る深さ情報抽出装置はそれより多いか少ない構成要素を含むことができる。
深さセンサモジュール10はTOFセンサモジュールであって、複数の発光部と受光部を含むことができる。
深さセンサモジュール10を構成する複数の発光部は、光源11a、11b、レンズ12a、12bおよびホログラフィック素子13a、13bをそれぞれ含むことができる。複数の発光部は制御部15をさらに含むことができる。ここで、光源11a、11bは光出力部と混用され得、ホログラフィック素子13a、13bは光調節部と混用され得る。
複数の光源11a、11bは互いに所定間隙離隔して配置され得る。複数の光源11a、11bの間には深さセンサモジュール10のセンサ部22が配置され得る。
以下では説明の便宜のために、複数の発光部をそれぞれ第1および第2発光部と命名して使用し、第1発光部を構成する構成要素を第1光源11a、第1レンズ12aおよび第1ホログラフィック素子13aと命名して使用する。また、第2発光部を構成する構成要素を第2光源11b、第2レンズ12bおよび第2ホログラフィック素子13bと命名して使用する。しかし、前記構成要素は第1、第2などのように序数を含む用語によって限定されない。
第1および第2光源11a、11bは互いに所定間隙離隔して配置され、発光素子を駆動して一定の位相を有する光を物体(OB)に照射する機能を遂行する。
第1および第2光源11a、11bに含まれる発光素子としては、レーザー、レーザーダイオードなどが含まれ得るが、その他の種類の光源も使用することができる。第1および第2光源11a、11bから照射される光の波長は赤外線帯域に含まれ得るが、その他の波長帯域に含まれることもある。
第1および第2光源11a、11bは互いに異なるフレーム周期に発光するように点滅が制御され得る。例えば、第1光源11aは奇数番目のフレーム周期に同期化して発光し、第2光源11bは偶数番目のフレーム周期に同期化して発光することができる。
第1レンズ12aは第1光源11aから照射される光の経路上に配置され、点光源である第1光源11aから照射される光を面光源化する機能を遂行する。また、第2レンズ12bは第2光源12bから照射される光の経路上に配置され、点光源である第2光源11bから照射される光を面光源化する機能を遂行する。
第1ホログラフィック素子13aは第1光源11aと物体(OB)の間、または第1レンズ12aと物体(OB)の間に配置され、第1光源11aから照射される光の発散角および照射領域を制御する機能を遂行する。また、第2ホログラフィック素子13bは第2光源11bと物体(OB)の間、または第2レンズ12bと物体(OB)の間に配置され、第2光源11bから照射される光の発散角および照射領域を制御する機能を遂行する。
一方、第1および第2レンズ12a、12bは必須のものではなく、第1および第2ホログラフィック素子13a、13bにより照度均一度が確保される場合には省略することもできる。
第1および第2ホログラフィック素子13a、13bはCGH方式で製造され得る。
第1および第2ホログラフィック素子13a、13bはコンピュータによって計算された干渉パターンを記録媒質に記録して形成され、干渉パターンが記録される記録媒質はフォトポリマー、UVフォトポリマー、フォトレジスト、シルバーパーライトエマルジョン、重クロム酸ゼラチン、フォトグラフィックエマルジョン、フォトサーモプラスチック、光回折材料などの感光材料を使用することができる。
第1および第2ホログラフィック素子13a、13bは体積ホログラフィック素子または表面ホログラフィック素子であり得る。
第1および第2ホログラフィック素子13a、13bに記録される干渉パターンは、第1光源11aおよび第2光源11bにより照射された光が物体(OB)の互いに異なる領域に照射されるように形成され得る。
例えば、第1光源11aから出射される光が照射される領域と、第2光源11bから出射される光が照射される領域が、互いにセンサ部22の一つのセルにマッチングされる領域だけ差があるように第1ホログラフィック素子13aと第2ホログラフィック素子13bの干渉パターンが形成され得る。
制御部15は既設定されたフレーム(frame)周期に基づいて第1および第2光源11a、11bのオン/オフを制御することができる。図13を例にすると、制御部15は奇数番目のフレーム周期(T1)に同期化して第1光源11aが発光し、偶数番目のフレーム周期(T2)に同期化して第2光源11bが発光するように第1および第2光源11a、11bのオン/オフを制御することができる。
これによって、毎フレーム周期ごとに物体(OB)に光を照射する光源がスイッチングされ、第1および第2ホログラフィック素子13a、13bにより光が照射される領域も光源のスイッチングに対応してスイッチングされ得る。
深さセンサモジュール10の受光部は受光レンズ21およびセンサ部22を含むことができる。
受光レンズ21は物体(OB)とセンサ部22の間に配置され、物体(OB)側から反射する反射光を受光してセンサ部22に入射させる機能を遂行する。
センサ部22は複数のセルからなり、各セルはフレームを構成する各ピクセル(pixel)に対応することができる。センサ部22はセル単位で光を受光し、セル単位で映像信号を出力することができる。
センサ部22を構成する各セルは、これに限定されるものではないか、MOS、CCDなどを含むことができる。
センサ部22は既設定されたフレーム周期に同期化して反射光を受光し、これを映像信号に変換して出力することができる。
毎フレーム周期ごとに物体(OB)に光を照射する光源がスイッチングされることによって、センサ部22に像が写る位置も毎フレーム周期ごとにスイッチングされ得る。すなわち、光源のスイッチングによって、奇数番目のフレーム周期での光照射領域と偶数番目のフレーム周期での光照射領域がそれぞれ異なり、これによって奇数番目のフレーム周期にセンサ部22に写る像と偶数番目のフレーム周期にセンサ部22に写る像は若干の位置差が発生する可能性がある。例えば、奇数番目のフレーム周期にセンサ部22に写る像は、偶数番目のフレーム周期にセンサ部22に写る像に比べて、一つのセルだけ上/下に移動して写り得る。
信号処理部31はフレーム周期に対応してセンサ部22から出力される映像信号をフレームに変換して出力することができる。
図13を例にすると、信号処理部31は毎フレーム周期(T1、T2)ごとに映像信号をフレーム5a、5bに変換して出力し、奇数番目のフレーム周期(T1)と偶数番目のフレーム周期(T2)にそれぞれ同期化して奇数フレーム5aと偶数フレーム5bを出力することができる。
信号処理部31はセンサ部22の各セルを通じて受光した光と第1および第2光源11a、11bにより照射された光との位相差に基づいて、各セル、すなわち、各ピクセルに対応する深さ情報を算出することもできる。算出した深さ情報はフレームを構成する各ピクセルに対応して貯蔵される。
デインターレーサー32は信号処理部31から奇数フレームと偶数フレームをそれぞれ受信し、二つのフレームを結合して一つの深さ映像を生成することができる。
デインターレーサー32は図10に図示された通り、信号処理部31から出力される奇数フレームと偶数フレームを行単位で交互に挿入することによって、解像度がセンサ部22の解像度より2倍に増加した深さ映像を生成することができる。
図14は本発明のさらに他の実施例に係る深さ情報抽出装置で深さ情報を抽出する方法を図示したフローチャートである。
図14を参照すると、深さセンサモジュール10は奇数番目のフレーム周期に同期化して光を照射するように第1光源11aを制御する(S201)。
前記S201段階で、第1光源11aで照射された光は第1ホログラフィック素子13aにより照射領域が制御され得る。
第1光源11aから照射された光が物体から反射してセンサ部22に入射することによって、センサ部22はこれに対応する映像信号を各ピクセル単位で生成する。また、信号処理部31はセンサ部22から出力される映像信号を信号処理して奇数フレームを生成する(S202)。
次に、深さセンサモジュール10は偶数番目のフレーム周期に同期化して光を照射するように第2光源11bを制御する(S203)。
前記S203段階で、第2光源11bから照射された光は第2ホログラフィック素子13bにより前記S201段階での照射領域から上または下の方向に移動して照射され得る。
第2光源11bから照射された光が物体から反射してセンサ部22に入射することによって、センサ部22はこれに対応する映像信号を各ピクセル単位で生成する。また、信号処理部31はセンサ部22から出力される映像信号を信号処理して偶数フレームを生成する(S204)。
光源11から照射された光が物体から反射してセンサ部22に入射することによって、センサ部22はこれに対応する映像信号を各ピクセル単位で生成する。また、信号処理部31はセンサ部22から出力される映像信号を信号処理して偶数フレームを生成する(S204)。
デインターレーサー32はフレームを構成するピクセルアレイの行単位で奇数フレームと偶数フレームを結合して深さ映像を生成する(S205)。
前記S106段階で、デインターレーサー32は奇数フレームと偶数フレームのピクセル行を順次交差結合することによって深さ映像を生成することができる。
本発明の実施例によれば、ホログラフィック素子を使用して奇数フレーム周期と偶数フレーム周期の光源の照射領域を異なるように調節し、これによって得られる奇数フレームと偶数フレームを結合して一つの深さ映像を生成することによって深さ映像の解像度を向上させる効果がある。
また、ホログラフィック素子を利用して光発散角を調節することによって、光効率を向上させる効果がある。
前記では本発明の好ましい実施例を参照して説明したが、該当技術分野の熟練した当業者は下記の特許請求の範囲に記載された本発明の思想および領域から逸脱しない範囲内で本発明を多様に修正および変更できることが理解できるであろう。

Claims (12)

  1. IR(InfraRed)光を出力する光出力部、
    前記光出力部から出力された後、物体から反射した光が入力される光入力部、
    前記物体を含む第1領域に光が照射されるように光の角度を調節した後、第2領域に光が照射されるように光の角度を調節する光調節部、そして
    前記第1領域に対して入力される光および前記第2領域に対して入力される光の中の少なくとも一つを利用して前記物体の動きを推定する制御部を含む、深さ情報抽出装置。
  2. 前記第1領域は前記物体を含む全体領域であり、前記第2領域は前記第1領域から抽出され、前記物体内の所定領域を含む部分領域である、請求項1に記載の深さ情報抽出装置。
  3. 前記制御部は前記光出力部から出力された光が前記第2領域に照射された後、反射して前記光入力部に入力されるまでかかる飛行時間を計算する、請求項2に記載の深さ情報抽出装置。
  4. 前記制御部は第1時間で入力される光を利用して計算された第1飛行時間、前記第1時間以前に入力される光を利用して計算された第2飛行時間および前記第2時間以後に入力される光を利用して計算された第3飛行時間を利用して前記第2領域内の動きを推定する、請求項3に記載の深さ情報抽出装置。
  5. 前記制御部は前記第1飛行時間、前記第2飛行時間および前記第3飛行時間間の相対的な差を利用して前記第2領域内の動きを推定した後、補間(interpolation)技法を利用して補正する、請求項4に記載の深さ情報抽出装置。
  6. 前記光入力部はそれぞれが第1受信ユニットおよび第2受信ユニットを含む複数のピクセルを含み、
    前記制御部は前記第1受信ユニットおよび前記第2受信ユニットに入力される光量の差を利用して前記飛行時間を計算する、請求項3に記載の深さ情報抽出装置。
  7. 前記光調節部はMEMS(Micro Electo Mechanical System)およびMEMS制御ユニットを含む、請求項1に記載の深さ情報抽出装置。
  8. 前記制御部は、
    前記光出力部、前記光調節部および前記光入力部の時間を制御するタイミング制御ユニット、
    前記光入力部を通じて入力された電気信号をデジタル信号に変換する変換ユニット、そして
    前記第2領域に対して時間に沿って順次入力される光の飛行時間を計算し、動きを推定し、深さ情報を抽出する信号処理ユニットを含む、請求項1に記載の深さ情報抽出装置。
  9. 前記光調節部は前記光出力部と前記物体の間に配置されるホログラフィック素子、そして前記ホログラフィック素子を駆動するアクチュエーターを含む、請求項1に記載の深さ情報抽出装置。
  10. 前記第1領域と前記第2領域は互いに重ならない領域であり、
    前記光調節部はフレーム周期ごとに光が照射される領域が変わるように光の角度を調節する、請求項1に記載の深さ情報抽出装置。
  11. 深さ情報抽出装置の深さ情報抽出方法において、
    物体を含む第1領域にIR(InfraRed)光を照射する段階、
    第2領域にIR光を照射する段階、そして
    前記第1領域および前記第2領域のうち少なくとも一つに対して時間に沿って順次入力される光を利用して前記物体の動きを推定する、深さ情報抽出方法。
  12. 前記推定する段階は、
    第1時間で入力される光に対する第1飛行時間、前記第1時間以前に入力される光に対する第2飛行時間および前記第2時間以後に入力される光に対する第3飛行時間を計算する段階、そして
    前記第1飛行時間、前記第2飛行時間および前記第3飛行時間間の相対的な差を利用して前記第2領域内の動きを推定する段階を含む、請求項11に記載の深さ情報抽出方法。
JP2016549148A 2014-01-29 2015-01-28 深さ情報抽出装置および方法 Active JP6693880B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020073440A JP6910499B2 (ja) 2014-01-29 2020-04-16 深さ情報抽出装置および方法

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR10-2014-0011590 2014-01-29
KR1020140011596A KR102117561B1 (ko) 2014-01-29 2014-01-29 센서 모듈 및 이를 포함하는 3차원 영상
KR1020140011590A KR102106080B1 (ko) 2014-01-29 2014-01-29 깊이 정보 추출 장치 및 방법
KR10-2014-0011596 2014-01-29
PCT/KR2015/000911 WO2015115797A1 (ko) 2014-01-29 2015-01-28 깊이 정보 추출 장치 및 방법

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020073440A Division JP6910499B2 (ja) 2014-01-29 2020-04-16 深さ情報抽出装置および方法

Publications (2)

Publication Number Publication Date
JP2017505907A true JP2017505907A (ja) 2017-02-23
JP6693880B2 JP6693880B2 (ja) 2020-05-13

Family

ID=53757326

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2016549148A Active JP6693880B2 (ja) 2014-01-29 2015-01-28 深さ情報抽出装置および方法
JP2020073440A Active JP6910499B2 (ja) 2014-01-29 2020-04-16 深さ情報抽出装置および方法
JP2021111252A Active JP7237114B2 (ja) 2014-01-29 2021-07-05 深さ情報抽出装置

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2020073440A Active JP6910499B2 (ja) 2014-01-29 2020-04-16 深さ情報抽出装置および方法
JP2021111252A Active JP7237114B2 (ja) 2014-01-29 2021-07-05 深さ情報抽出装置

Country Status (5)

Country Link
US (3) US10338221B2 (ja)
EP (1) EP3101382A4 (ja)
JP (3) JP6693880B2 (ja)
CN (2) CN106030239B (ja)
WO (1) WO2015115797A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020153796A (ja) * 2019-03-19 2020-09-24 株式会社リコー 測距装置、及び測距方法
WO2021106624A1 (ja) * 2019-11-29 2021-06-03 ソニーセミコンダクタソリューションズ株式会社 測距センサ、測距システム、および、電子機器
WO2021106623A1 (ja) * 2019-11-29 2021-06-03 ソニーセミコンダクタソリューションズ株式会社 測距センサ、測距システム、および、電子機器
JP2021527236A (ja) * 2018-06-07 2021-10-11 エルジー イノテック カンパニー リミテッド カメラモジュールおよびその深さ情報抽出方法
WO2024004582A1 (ja) * 2022-06-30 2024-01-04 株式会社デンソー 制御装置、センシングシステム、制御方法、制御プログラム
JP7467562B1 (ja) 2022-10-07 2024-04-15 本田技研工業株式会社 外界認識装置

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6693880B2 (ja) 2014-01-29 2020-05-13 エルジー イノテック カンパニー リミテッド 深さ情報抽出装置および方法
US11972586B2 (en) 2015-02-13 2024-04-30 Carnegie Mellon University Agile depth sensing using triangulation light curtains
US11493634B2 (en) 2015-02-13 2022-11-08 Carnegie Mellon University Programmable light curtains
US11747135B2 (en) * 2015-02-13 2023-09-05 Carnegie Mellon University Energy optimized imaging system with synchronized dynamic control of directable beam light source and reconfigurably masked photo-sensor
US11425357B2 (en) 2015-02-13 2022-08-23 Carnegie Mellon University Method for epipolar time of flight imaging
CN111682039B (zh) 2016-09-23 2021-08-03 苹果公司 堆叠式背面照明spad阵列
DE102016220232A1 (de) * 2016-10-17 2018-04-19 Robert Bosch Gmbh Optisches Element für ein Lidar-System
CA3051102A1 (en) * 2017-01-20 2018-07-26 Carnegie Mellon University Method for epipolar time of flight imaging
US10962628B1 (en) 2017-01-26 2021-03-30 Apple Inc. Spatial temporal weighting in a SPAD detector
CN106954058B (zh) * 2017-03-09 2019-05-10 深圳奥比中光科技有限公司 深度图像获取系统和方法
WO2019014494A1 (en) * 2017-07-13 2019-01-17 Apple Inc. EARLY-DELAYED PULSE COUNTING FOR DEPTH SENSORS EMITTING LIGHT
CN110687516B (zh) * 2018-07-06 2022-10-04 江苏慧光电子科技有限公司 光束扫描的控制方法、装置、系统及相应的介质
KR102473494B1 (ko) 2018-08-17 2022-12-02 삼성전자주식회사 심도센싱장치 및 심도센싱장치의 동작 방법
KR102553555B1 (ko) * 2018-09-21 2023-07-10 엘지이노텍 주식회사 카메라 모듈
US11233966B1 (en) 2018-11-29 2022-01-25 Apple Inc. Breakdown voltage monitoring for avalanche diodes
US11885884B2 (en) 2019-03-11 2024-01-30 Lg Innotek Co., Ltd. Camera module
JP2020153715A (ja) 2019-03-18 2020-09-24 株式会社リコー 測距装置および測距方法
KR20200132319A (ko) * 2019-05-16 2020-11-25 엘지이노텍 주식회사 카메라 모듈
KR20200136148A (ko) * 2019-05-27 2020-12-07 엘지이노텍 주식회사 카메라 모듈
WO2021231947A1 (en) * 2020-05-15 2021-11-18 Lumileds Llc Imaging arrangement and corresponding methods and systems for depth map generation
US20240175988A1 (en) * 2021-03-26 2024-05-30 Pioneer Corporation Sensor device, control device, control method, program, and storage medium
CN117441342A (zh) * 2021-07-06 2024-01-23 三星电子株式会社 用于图像处理的电子装置及其操作方法
US20240230863A9 (en) * 2022-10-20 2024-07-11 Gm Cruise Holdings Llc Time-of-flight motion misalignment artifact correction

Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10153653A (ja) * 1996-11-25 1998-06-09 Honda Access Corp 車載用レーザレーダ装置及びこれに応用可能なホログラムスキャナ
JP2002031516A (ja) * 2000-07-18 2002-01-31 Asahi Optical Co Ltd 3次元画像入力装置
JP2003272061A (ja) * 2002-03-13 2003-09-26 Omron Corp 監視装置
JP2006030147A (ja) * 2004-07-22 2006-02-02 Hitachi Ltd 環境認識システムおよび移動機構
JP2006258604A (ja) * 2005-03-17 2006-09-28 Sanyo Electric Co Ltd 検出装置
JP2010256291A (ja) * 2009-04-28 2010-11-11 Toyota Motor Corp 距離画像撮影装置
US20100290674A1 (en) * 2009-05-14 2010-11-18 Samsung Electronics Co., Ltd. 3D image processing apparatus improving depth accuracy of region of interest and method
JP2011053137A (ja) * 2009-09-03 2011-03-17 Nippon Signal Co Ltd:The 光測距装置
JP2011089874A (ja) * 2009-10-22 2011-05-06 Toyota Central R&D Labs Inc 距離画像データ取得装置
JP2011243862A (ja) * 2010-05-20 2011-12-01 Sony Corp 撮像デバイス及び撮像装置
JP2013015338A (ja) * 2011-06-30 2013-01-24 Fujitsu Ltd 監視装置および監視方法
JP2013156138A (ja) * 2012-01-30 2013-08-15 Ihi Corp 移動物体検出装置
JP2013156139A (ja) * 2012-01-30 2013-08-15 Ihi Corp 移動物体検出装置及び移動物体検出方法
WO2013121267A1 (en) * 2012-02-15 2013-08-22 Mesa Imaging Ag Time of flight camera with stripe illumination
WO2014014838A2 (en) * 2012-07-15 2014-01-23 2R1Y Interactive illumination for gesture and/or object recognition
WO2015075926A1 (ja) * 2013-11-20 2015-05-28 パナソニックIpマネジメント株式会社 測距撮像システム

Family Cites Families (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62195579A (ja) * 1986-02-24 1987-08-28 Hitachi Ltd 車両用障害物検知装置
JPS6448687U (ja) 1987-09-22 1989-03-27
JPH06308239A (ja) 1993-04-22 1994-11-04 Mitsubishi Electric Corp 車両用光レーダ装置
JP3322489B2 (ja) 1994-11-01 2002-09-09 三洋電機株式会社 自動時刻設定装置
JPH08129064A (ja) * 1994-11-02 1996-05-21 Yazaki Corp 車間距離測定装置
JP2002039716A (ja) * 2000-07-25 2002-02-06 Olympus Optical Co Ltd 距離画像入力装置
JP2004125739A (ja) * 2002-10-07 2004-04-22 Omron Corp 物体検知装置および方法
US7064810B2 (en) * 2003-09-15 2006-06-20 Deere & Company Optical range finder with directed attention
JP4578797B2 (ja) * 2003-11-10 2010-11-10 パナソニック株式会社 撮像装置
JP2006329971A (ja) * 2005-04-27 2006-12-07 Sanyo Electric Co Ltd 検出装置
KR100915273B1 (ko) * 2005-06-01 2009-09-03 페톤 가부시끼가이샤 레이저 가공장치 및 레이저 가공방법
US8471812B2 (en) * 2005-09-23 2013-06-25 Jesse C. Bunch Pointing and identification device
JP4872948B2 (ja) 2008-02-27 2012-02-08 パルステック工業株式会社 3次元形状測定装置および3次元形状測定方法
US8298339B2 (en) * 2008-08-04 2012-10-30 Xunlight Corporation Roll-to-roll continuous thin film PV manufacturing process and equipment with real time online IV measurement
KR101020999B1 (ko) * 2009-01-05 2011-03-09 엘지이노텍 주식회사 촬영 장치 및 이의 영상 제어방법
US8849616B2 (en) * 2009-08-04 2014-09-30 Microsoft Corporation Method and system for noise simulation analysis useable with systems including time-of-flight depth systems
KR20110021500A (ko) * 2009-08-26 2011-03-04 유지상 이동객체의 실시간 추적과 거리 측정 방법 및 그 장치
JP5469446B2 (ja) 2009-12-22 2014-04-16 パナソニック株式会社 物体検知装置
US8279418B2 (en) * 2010-03-17 2012-10-02 Microsoft Corporation Raster scanning for depth detection
EP2378310B1 (en) * 2010-04-15 2016-08-10 Rockwell Automation Safety AG Time of flight camera unit and optical surveillance system
CN101866056A (zh) * 2010-05-28 2010-10-20 中国科学院合肥物质科学研究院 基于led阵列共透镜tof深度测量的三维成像方法和系统
US8587771B2 (en) 2010-07-16 2013-11-19 Microsoft Corporation Method and system for multi-phase dynamic calibration of three-dimensional (3D) sensors in a time-of-flight system
US8803952B2 (en) * 2010-12-20 2014-08-12 Microsoft Corporation Plural detector time-of-flight depth mapping
EP2477043A1 (en) * 2011-01-12 2012-07-18 Sony Corporation 3D time-of-flight camera and method
JP2012168049A (ja) * 2011-02-15 2012-09-06 Stanley Electric Co Ltd 距離画像生成装置および距離画像生成方法
KR101854188B1 (ko) 2011-10-25 2018-05-08 삼성전자주식회사 3차원 영상 획득 장치 및 3차원 영상 획득 장치에서 깊이 정보 산출 방법
KR101896307B1 (ko) 2012-01-10 2018-09-10 삼성전자주식회사 깊이 영상을 처리하는 방법 및 장치
US9651417B2 (en) * 2012-02-15 2017-05-16 Apple Inc. Scanning depth engine
KR20130098042A (ko) 2012-02-27 2013-09-04 삼성전자주식회사 깊이 정보 생성 장치 및 이를 포함하는 촬영 장치
US20130241762A1 (en) 2012-03-16 2013-09-19 Nikon Corporation Light-beam scanning for laser radar and other uses
KR102038533B1 (ko) 2012-06-14 2019-10-31 한국전자통신연구원 레이저 레이더 시스템 및 목표물 영상 획득 방법
JP6109496B2 (ja) * 2012-06-19 2017-04-05 株式会社Trホールディングス キャップ付き容器
JP2014009997A (ja) * 2012-06-28 2014-01-20 Ricoh Co Ltd 測距装置
KR102008233B1 (ko) * 2012-06-29 2019-08-07 삼성전자주식회사 거리 측정 장치 및 상기 거리 측정 장치를 이용한 거리 측정 방법
KR101909630B1 (ko) * 2012-10-30 2018-10-18 삼성전자주식회사 동작 인식 방법 및 동작 인식 장치
JP5887326B2 (ja) * 2013-12-12 2016-03-16 モレックス エルエルシー コネクタ
JP6693880B2 (ja) * 2014-01-29 2020-05-13 エルジー イノテック カンパニー リミテッド 深さ情報抽出装置および方法

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10153653A (ja) * 1996-11-25 1998-06-09 Honda Access Corp 車載用レーザレーダ装置及びこれに応用可能なホログラムスキャナ
JP2002031516A (ja) * 2000-07-18 2002-01-31 Asahi Optical Co Ltd 3次元画像入力装置
JP2003272061A (ja) * 2002-03-13 2003-09-26 Omron Corp 監視装置
JP2006030147A (ja) * 2004-07-22 2006-02-02 Hitachi Ltd 環境認識システムおよび移動機構
JP2006258604A (ja) * 2005-03-17 2006-09-28 Sanyo Electric Co Ltd 検出装置
JP2010256291A (ja) * 2009-04-28 2010-11-11 Toyota Motor Corp 距離画像撮影装置
US20100290674A1 (en) * 2009-05-14 2010-11-18 Samsung Electronics Co., Ltd. 3D image processing apparatus improving depth accuracy of region of interest and method
JP2011053137A (ja) * 2009-09-03 2011-03-17 Nippon Signal Co Ltd:The 光測距装置
JP2011089874A (ja) * 2009-10-22 2011-05-06 Toyota Central R&D Labs Inc 距離画像データ取得装置
JP2011243862A (ja) * 2010-05-20 2011-12-01 Sony Corp 撮像デバイス及び撮像装置
JP2013015338A (ja) * 2011-06-30 2013-01-24 Fujitsu Ltd 監視装置および監視方法
JP2013156138A (ja) * 2012-01-30 2013-08-15 Ihi Corp 移動物体検出装置
JP2013156139A (ja) * 2012-01-30 2013-08-15 Ihi Corp 移動物体検出装置及び移動物体検出方法
WO2013121267A1 (en) * 2012-02-15 2013-08-22 Mesa Imaging Ag Time of flight camera with stripe illumination
WO2014014838A2 (en) * 2012-07-15 2014-01-23 2R1Y Interactive illumination for gesture and/or object recognition
WO2015075926A1 (ja) * 2013-11-20 2015-05-28 パナソニックIpマネジメント株式会社 測距撮像システム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021527236A (ja) * 2018-06-07 2021-10-11 エルジー イノテック カンパニー リミテッド カメラモジュールおよびその深さ情報抽出方法
JP7286682B2 (ja) 2018-06-07 2023-06-05 エルジー イノテック カンパニー リミテッド カメラモジュールおよびその深さ情報抽出方法
JP2020153796A (ja) * 2019-03-19 2020-09-24 株式会社リコー 測距装置、及び測距方法
US11703592B2 (en) 2019-03-19 2023-07-18 Ricoh Company, Ltd. Distance measurement apparatus and distance measurement method
WO2021106624A1 (ja) * 2019-11-29 2021-06-03 ソニーセミコンダクタソリューションズ株式会社 測距センサ、測距システム、および、電子機器
JP2021085822A (ja) * 2019-11-29 2021-06-03 ソニーセミコンダクタソリューションズ株式会社 測距センサ、測距システム、および、電子機器
WO2021106623A1 (ja) * 2019-11-29 2021-06-03 ソニーセミコンダクタソリューションズ株式会社 測距センサ、測距システム、および、電子機器
WO2024004582A1 (ja) * 2022-06-30 2024-01-04 株式会社デンソー 制御装置、センシングシステム、制御方法、制御プログラム
JP7467562B1 (ja) 2022-10-07 2024-04-15 本田技研工業株式会社 外界認識装置

Also Published As

Publication number Publication date
WO2015115797A1 (ko) 2015-08-06
US10338221B2 (en) 2019-07-02
US11680789B2 (en) 2023-06-20
JP7237114B2 (ja) 2023-03-10
CN112180397B (zh) 2023-07-25
JP2021165749A (ja) 2021-10-14
CN106030239A (zh) 2016-10-12
JP2020126060A (ja) 2020-08-20
CN106030239B (zh) 2020-10-09
US20160349369A1 (en) 2016-12-01
JP6910499B2 (ja) 2021-07-28
CN112180397A (zh) 2021-01-05
EP3101382A1 (en) 2016-12-07
JP6693880B2 (ja) 2020-05-13
US20200408915A1 (en) 2020-12-31
EP3101382A4 (en) 2017-08-30
US20190277971A1 (en) 2019-09-12
US10802148B2 (en) 2020-10-13

Similar Documents

Publication Publication Date Title
JP6910499B2 (ja) 深さ情報抽出装置および方法
CN106997603B (zh) 基于vcsel阵列光源的深度相机
KR102486385B1 (ko) 깊이 정보 획득 장치 및 방법
KR102696783B1 (ko) 센서 모듈 및 이를 포함하는 3차원 영상
KR102372088B1 (ko) 영상 획득 장치 및 영상 획득 방법
US8783874B1 (en) Compressive optical display and imager
KR102117561B1 (ko) 센서 모듈 및 이를 포함하는 3차원 영상
EP2899583A2 (en) Periodic fringe imaging with structured pattern illumination and electronic rolling shutter detection
US20140354778A1 (en) Integrated three-dimensional vision sensor
JP6580578B2 (ja) カメラ装置
US10466458B2 (en) Image acquisition device, image acquisition method, and spatial light modulation unit
KR102194237B1 (ko) 깊이 영상 촬영 장치 및 깊이 정보 획득 방법
US20220155059A1 (en) Depth data measuring head, measurement device and measuring method
CN117999457A (zh) 三维成像系统
CN114127583A (zh) 用于在飞行时间成像系统中使用的方法和装置
US11501408B2 (en) Information processing apparatus, information processing method, and program
KR102251115B1 (ko) 깊이 정보 추출 장치 및 방법
CN112823511A (zh) 摄像头模组
KR20150090779A (ko) 깊이 정보 추출 장치
KR102106080B1 (ko) 깊이 정보 추출 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180105

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180928

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191002

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200317

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200416

R150 Certificate of patent or registration of utility model

Ref document number: 6693880

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250