CN102547156B - 在相同光敏面上的相同帧中捕捉门控和非门控光 - Google Patents

在相同光敏面上的相同帧中捕捉门控和非门控光 Download PDF

Info

Publication number
CN102547156B
CN102547156B CN201110443241.XA CN201110443241A CN102547156B CN 102547156 B CN102547156 B CN 102547156B CN 201110443241 A CN201110443241 A CN 201110443241A CN 102547156 B CN102547156 B CN 102547156B
Authority
CN
China
Prior art keywords
gate
light
image capture
capture area
time section
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201110443241.XA
Other languages
English (en)
Other versions
CN102547156A (zh
Inventor
G·叶海弗
S·费尔岑式特恩
E·拉里
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of CN102547156A publication Critical patent/CN102547156A/zh
Application granted granted Critical
Publication of CN102547156B publication Critical patent/CN102547156B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4861Circuits for detection, sampling, integration or read-out
    • G01S7/4863Detector arrays, e.g. charge-transfer gates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/148Charge coupled imagers
    • H01L27/14806Structural or functional details thereof
    • H01L27/14812Special geometry or disposition of pixel-elements, address lines or gate-electrodes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/441Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading contiguous pixels from selected rows or columns of the array, e.g. interlaced scanning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/533Control of the integration time by using differing integration times for different sensor regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

本发明涉及在相同光敏面上的相同帧中捕捉门控和非门控光。控制门控3D相机的图像传感器的光敏表面(以下称为光敏面)以获取其表面不同区域上相同帧中的门控和非门控光。光敏面的一个图像捕捉区域在门控时间段期间获取门控光,而另一个图像捕捉区域出于图像数据捕捉目的而被关闭。在非门控时间段期间,相同光敏面的其他图像捕捉区域捕捉非门控光作为图像数据。通常,门控和非门控时间段在相同的帧时间段期间是交错的。

Description

在相同光敏面上的相同帧中捕捉门控和非门控光
技术领域
本发明涉及捕捉门控光和非门控光,尤其是在相同光敏面上的相同帧中捕捉门控和非门控光。
相关申请的交叉引用
本专利申请通过援引2010年2月3日提交的专利申请号为12/699,074,题为“Fast Gating Photosurface”(快速选通光敏面),发明人为Giora Yahav、Shlomo Felzenshtein和Eli Larry的美国专利申请而纳入于此。
背景技术
例如飞行时间(TOF)相机的门控三维(3D)相机通过对场景进行照明并且捕捉来自照明的反射光来提供对场景中的对象的距离测量。捕捉光是接收光并存储表示光的图形数据。距离测量构成场景的深度地图,根据该深度地图生成场景的3D图像。
门控3D相机包括通常使用光脉冲串照明场景的光源。门控3D相机还包括带有光敏表面(以下称为“光敏面”)的图像传感器。光敏面包括通常称为像素的光敏或光敏传感器以及用于存储所感测到的图形数据的存储介质。
在某些门控3D相机中,距离测量仅基于光是否是在相机的光敏面上被捕捉到,以及在光发射和由光敏面捕捉到的来自场景的它的反射之间流逝的时间。在其他门控3D相机中,被称为门控光(gated light)的一定量的光被光敏面捕捉,并且通常针对对象的反射率、暗电流和背景光通过与被称为非门控光(ungated light)的其他测量的归一化而被校正,该非门控光捕捉来自对象的反射光的总量。在一个示例中,归一化将门控测量除以非门控测量以创建用于深度地图的归一化的门控光测量。
为了确定到移动对象的距离,捕捉在时间上接近的门控和非门控光改进了距离测量的准确性。一般而言,已经使用两个光敏面来减少延迟时间。一个光敏面获取门控光,而另一个光敏面基本同时地获取非门控光。
在其他实例中,在相同光敏面的不同帧中捕捉门控和非门控光,导致至少等于帧读出时间段的延迟时间。对于场景中的移动对象,门控和非门控光的帧的获取时间之间的延迟可能导致“不匹配”,其中光敏面的相同光敏像素捕捉来自场景中的不同对象而不是相同对象、或者来自与相机相距不同距离处的相同对象的门控和非门控光。不匹配在根据像素提供的图像所确定的距离测量中生成误差。
发明内容
提供了用于控制图像传感器的光敏面以在光敏面的相同的帧时间段中捕捉来自场景的门控和非门控光的技术。该技术的一个实施例提供包括图像传感器的光敏面的系统,该光敏面在其表面上包括至少第一图像捕捉区域以及在相同的光敏面上的至少第二图像捕捉区域。在门控光正被捕捉的门控时间段期间,第二图像捕捉区域处于图像数据未被捕捉(即接收并存储)的关闭状态。控制电路在此时间段期间控制第一图像捕捉区域对门控光的捕捉。在非门控光正被捕捉的非门控时间段期间,第一图像捕捉区域处于关状态,并且控制电路在此期间控制第二图像捕捉区域对非门控光的捕捉。在另一个系统实施例中,图像捕捉区域包括以下被称为光像素的各组光传感像素元件行,以及用于将光像素感测到的光存储为图像数据的各个图像数据存储介质。
通常,门控和非门控时间段在相同的帧时间段期间是交错的,这进一步将对于场景中运动的相同对象的门控和非门控光之间的获取延迟最小化。该技术的另一个实施例提供用于在相同的帧时间段内在相同的光敏面上捕捉来自场景的交错的门控和非门控光的方法。在方法的一个实施例中,门控光被第一图像捕捉区域在持续时间少于或等于10微秒的门控时间段期间捕捉,而第二图像捕捉区域被转为关状态。类似地,方法通过第二图像捕捉区域在持续时间约等于10微秒的非门控时间段期间来捕捉非门控光。控制光敏面以在1或2微秒内交替对门控光的捕捉和对非门控光的捕捉。
该技术的各个实施例还对光敏面的相应捕捉区域在开状态和关状态之间进行选通,而区域在相应的门控或非门控时间段内捕捉光。如前所述,光脉冲串可用于照亮场景。门控时间段包括也称为选通的一个或多个短捕捉时间段。在一个实施例中,每个短捕捉时间段被设置为持续约一个光脉冲的脉宽。示例脉宽可以是10或20纳秒。类似地,非门控时间段包括一个或多个长捕捉时间段,并且每个长捕捉时间段长于每个短捕捉时间段。在非门控时间段期间,非门控光的图像捕捉区域试图捕捉到达非门控图像捕捉区域的由场景从脉冲反射的全部光以供对门控光图像数据的归一化。在短捕捉时间段为10纳秒脉冲宽度的示例中,对应的长捕捉时间段可以是约30纳秒。同样,对于20纳秒脉宽的示例,对应的长捕捉时间段可以是约60纳秒。
本技术可以在例如3D飞行时间相机的3D相机内部操作。
提供本发明内容以便以简化形式介绍在以下具体实施方式中进一步描述的一些概念。本发明内容并非旨在标识所要求保护的主题的关键特征或必要特征,也不旨在用于帮助确定所要求保护的主题的范围。
附图说明
参考附图进一步说明根据本说明书的用于控制光敏面以在相同的帧时间段捕捉来自场景的门控和非门控光的技术。
图1示出了本技术的各实施例可在其中操作的目标识别、分析和跟踪系统的示例实施例。
图2示出可用于技术的各实施例可在其中操作的目标识别、分析和跟踪系统的捕捉设备的示例的框图。
图3示意地示出可用于测量到场景的距离的门控3D相机的实施例。
图4示出用于控制包括至少两个图像捕捉区域(一个在门控时间段期间使用,而另一个在非门控时间段期间使用)的图像传感器的光敏面的系统。
图5是在相同的帧时间段内在相同的光敏面上捕捉来自场景的交错的门控和非门控光的方法的实施例的流程图。
图6A示意地示出在非门控时间段的长捕捉时间段期间隔行电荷耦合器件(CCD)光敏面实施例的一部分的高度简化的横截面图。
图6B示意地示出在长捕捉时间段以外并在相同的非门控时间段以内的时间段中图6A的隔行CCD光敏面实施例的一部分的高度简化的横截面图。
图7示出用于控制包括至少两个图像捕捉区域的互补金属氧化物半导体(CMOS)的光敏面的系统实施例,一个图像捕捉区域用于在门控时间段期间捕捉光,并且另一个图像捕捉区域用于在非门控时间段期间捕捉光。
图8A是示出包括电荷传感元件的基本单位晶格(cell)的体系结构的实施例的俯视平面图,CMOS光选通像素由电荷传感元件形成。
图8B是跨图8A中X-X线的电荷传感元件实施例之一的截面图。
图8C是跨图8A中Y-Y线的电荷传感元件实施例之一的截面图。
图8D示出与图8A的基本单位晶格实施例使用的晶格控制和读出电路的示例。
图9是包括两个基本单位晶格的基本像素构建块的实施例的示意图。
图10是图8A的基本单位晶格实施例的示例性时序图。
具体实施方式
光敏面在相同的帧时间段期间在其表面的不同捕捉区域上捕捉门控和非门控光二者。如以下实施例中所示,对门控光进行成像的时间段与对非门控光进行成像的时间段之间的时间延迟显著地少于获取帧所需要的时间。例如,在某些实施例中,延迟是约一微秒的量级,而帧时间段是毫秒的量级。例如,普通的帧时间段是25到30毫秒,而门控时间段与非门控时间段之间的转移延迟可以是约1或2微秒,并且每个门控和非门控时间段约为10微秒。
光敏面包括至少两个图像捕捉区域,一个用于捕捉门控光,并且一个用于捕捉非门控光。图像捕捉区域可以采用很多形状和形式。例如,图像捕捉区域可以是隔行CCD中的一组行。在其他实施例中,捕捉区域可以采用不同的几何形状,例如六边形、正方形、矩形等。
跟踪3D中的移动目标是门控3D相机的普通应用。图1A提供了当前技术提供的快速选通光敏面在其中可能有用的上下文示例。图1示出了控制光敏面以在相同帧中捕捉门控和非门控光的本技术实施例可在其中操作的目标识别、分析和跟踪系统10的示例实施例。目标识别、分析和跟踪系统10可用来识别、分析和/或跟踪诸如用户18等的人类目标。目标识别、分析和跟踪系统10的各实施例包括用于执行游戏或其他应用的计算环境12,以及用于从游戏或其他应用提供音频和视觉表示的视听设备16。系统10还包括用于捕捉3D中的位置和由用户所执行的移动的捕捉设备20,计算环境12接收、解释并使用这些位置和移动来控制游戏或其他应用程序。
在示例实施例中,在计算环境12中执行的应用可以是带有实时交互的游戏,诸如用户18正在播放的拳击游戏。例如,计算环境12可使用视听设备16来向用户18提供拳击对手15的视觉表示。计算环境12还可使用视听设备16来提供用户18可通过他的或她的移动来控制的玩家化身13的视觉表示。例如,用户18可在物理空间中挥拳猛击,这使得玩家化身13在游戏空间中挥拳猛击。由此,根据示例实施例,捕捉设备20使用此处描述的技术来捕捉物理空间中重拳的3D表示。捕捉设备中的处理器(参见图2)和目标识别、分析和跟踪系统10的计算环境12可用于识别并分析用户18在物理空间中的重拳,从而使得该重拳可被实时地解释为对游戏空间中的玩家化身13的姿势或游戏控制。
图2示出了可以在目标识别、分析和跟踪系统10中使用的捕捉设备20的示例的框图视图。在示例实施例中,捕捉设备20可以被配置为经由任何合适的技术来捕捉具有可以包括深度值的深度图像的视频,这些技术包括例如飞行时间、结构化光、立体图像等。根据一个实施例,捕捉设备20可将所计算的深度信息组织为“Z层”,或与从深度相机沿其视轴延伸的Z轴垂直的层。
如图2所示,根据一示例实施例,图像捕捉设备20包括图像相机组件22,该图像相机组件22可包括可用于捕捉场景的深度图像的IR光组件24、三维(3D)相机26和RGB相机28。例如,RGB相机可以捕捉反差图象。在飞行时间分析中,捕捉设备20的IR光组件24可以将红外光发射到场景上,并且然后可使用相机26的光敏面上的传感器来感测从场景中的一个或多个目标和对象的表面反向散射的光以获得深度图像。
在示例实施例中,捕捉设备20还可以包括可与图像相机组件22进行可操作的通信的处理器32。处理器32可包括标准化处理器、专用处理器、微处理器等,它们可执行用于接收深度图像、判断合适的目标是否可被包括在深度图像中、将合适的目标的图像转换为目标的骨架表示或模型的指令,或任何其他适合的指令。另外,如图3中所示,处理器可以发送可以是硬件、固件或软件信号的帧消息的开始和结束。
捕捉设备20还可以包括存储器组件34,该存储器组件34可以存储可以由处理器32执行的指令、由3-D相机或RGB相机捕捉到的图像或图像的帧、或任何其他合适的信息、图像等。根据一个示例实施例,存储器组件34可包括随机存取存储器(RAM)、只读存储器(ROM)、高速缓存、闪存、硬盘或任何其他合适的存储组件。如图2所示,在一个实施例中,存储器组件34可以是与图像相机组件22和处理器32进行通信的分开的组件。根据另一个实施例,存储器组件34可以被集成到处理器32和/或图像相机组件22中。
如图2所示,捕获设备20可以经由通信链路36与计算环境12通信。通信链路36可以是包括例如USB连接、火线连接、以太网电缆连接等的有线连接和/或诸如无线802.11b、802.11g、802.11a或802.11n连接等的无线连接。
另外,捕捉设备20可以通过通信链路36向计算环境12提供深度信息和由例如3D相机26和RGB相机28捕捉到的图像,以及可以由捕捉设备20生成的骨架模型。存在用于判断由捕捉设备20检测到的目标或对象是否与人类目标相对应的各种已知技术。骨架映射技术可随后用于确定该用户的骨架上的各个人体部分。其他技术包括将图像转换为人的人体模型表示以及将图像转换为人的网格模型表示。
骨架模型然后可被提供给计算环境12,使得计算环境可跟踪骨架模型并呈现与该骨架模型相关联的化身。在姿势识别引擎软件190的控制下,计算环境12还可基于,例如从骨架模型的各部分的三维移动中已经识别出的用户的姿势,来确定在计算机环境上执行的应用程序中要执行哪些控制命令。
图3示意地示出可用于测量到场景130的距离的门控3D图像相机组件22的实施例,该场景130具有由对象131和132示意地表示的对象。示意性地表示的相机组件22包括由透镜121表示的透镜系统、具有至少两个捕捉区域的光敏面300和合适的光源24,透镜系统将场景成像在捕捉区域上。以下示出并讨论用于图4的CCD实施例和图7的CMOS实施例的不同的图像捕捉区域的实施例。合适的光源的某些示例是激光或LED或激光和/或LED的阵列,其可由控制电路124来控制以光脉冲对场景130进行照明。
光源24的脉冲以及对光敏面300的不同图像捕捉区域的选通由控制电路124同步并控制。在一个实施例中,控制电路124包括时钟逻辑或可以访问时钟以生成同步所必要的时序。控制电路124包括激光或LED驱动电路,该激光或LED驱动电路使用例如驱动电子电路的电流或电压来以预定的脉宽来驱动光源24。控制电路124还可以访问电源(未示出)以及用于生成所需的不同电压电平的逻辑。控制电路124可以另外地或另选地访问不同的电压电平和用于确定时序和导电通路的逻辑,向该导电通路施加不同的电压电平以打开和关闭相应的图像捕捉区域。
为了获取场景130的3D图像,控制电路124控制光源24来发射由具有脉宽的方形光脉冲141的串140示意性地表示的光脉冲串,以对场景130进行照明。通常使用光脉冲串,因为光源可能无法在单个光脉冲中提供足够的能量,使得足够的光被场景中的对象从该光脉冲反射并且回到相机以提供到对象的令人满意的距离测量。设置光脉冲的强度、及其在光脉冲串中的数量,使得从该串中的所有光脉冲捕捉的反射光的量足以提供可接受的到场景中的对象的距离测量。通常,辐射的光脉冲是红外(IR)或近红外(NIR)光脉冲。
在门控时间段期间,短捕捉时间段可以具有约等于脉宽的持续时间。在一个示例中,短捕捉时间段可以是10-15纳秒,并且脉宽可以约为10纳秒。在此示例中,长捕捉时间段可以是30-45纳秒。在另一个示例中,短捕捉时间段可以是20纳秒,并且长捕捉时间段可以约为60纳秒。这些时间段仅作为示例,并且各实施例中的时间段可以在这些范围和值以外变化。
在预定时间流逝或延迟T后,在每个光脉冲141的发射时间之后,控制电路124基于门控或非门控时间段是否开始来打开或选通地开启光敏面300相应的图像捕捉区域。例如,行304和行305可被包括在构成图像捕捉区域之一的交替行的相同组中。(例如参见图7)。在另一个示例中,行304和305可以在不同的行组中,每个行组构成不同的图像捕捉区域。(例如参见图4)。图像捕捉区域被选通开启时,诸如光像素的光敏元件或光感测元件捕捉光。对光的捕捉是指接收光并存储它的电表示。
在一个示例中,对于门控时间段的每个脉冲,控制电路124将短捕捉时间段设置为等于光脉宽的持续时间。光脉宽、短捕捉时间段持续时间、和延迟时间T定义了由最小和最大边界距离界定的场景130的空间“成像片”。相机仅针对位于下限距离和上限距离之间的场景的对象来捕捉在门控捕捉时间段期间从该场景反射的光。在非门控时间段期间,相机试图捕捉由场景从脉冲所反射的到达相机的全部光以供对门控光图像数据的归一化。
对于场景130的若干区域131和132,来自光脉冲141的由场景130中的对象所反射的光由光脉冲146的串145来示意性地表示。来自位于成像片的场景130中的对象的反射光脉冲146由透镜系统121聚焦,并且在光敏面300的选通开启的区域的光敏像素(或光像素)302上成像。来自反射脉冲串145的光的量在光敏面300的光像素302上成像,并在捕捉时间段期间被存储以用于确定到场景130的对象的距离,以提供场景的3D图像。
在此示例中,控制电路124通信地耦合到图像捕捉设备20的处理器32以传递关于帧时序和帧传输的消息。帧捕捉时间段结束时,光敏面300所捕捉的已存储的图像数据被读出到存储器34中的帧缓冲区以供进一步处理,诸如由图2所示的目标识别、分析和跟踪系统10的处理器32和计算环境12。
图4示出控制包括至少两个图像捕捉区域作为交替行组的隔行CCD光敏面400的系统的示例。该系统可用于图3所示的系统中。在此实施例中,CCD光敏面400包括与线性阵列中的存储像素403相对齐的光敏像素或光像素402。在此示例中,区域是包括奇数行光像素416及其伴随存储像素417的非门控捕捉区域,以及包括偶数行光像素418及其伴随存储像素419的门控捕捉区域。
光像素402感测光,并且在光敏面的捕捉时间段期间入射到光敏面的光在光像素中生成光电荷。存储像素对光不敏感,并且入射到光敏面的光不在存储像素中生成光电荷。存储像素用于累积并且存储在光敏面的捕捉时间段期间在光像素中创建的光电荷。在此实施例中,每行存储像素403可被认为是垂直寄存器。存储像素403可以访问顺序地读出每行存储像素以传输到帧缓冲区34的水平移位寄存器404。
每行存储像素和每行光像素包括其自己的电极(参见图6A和6B中的631和641)。光像素和存储像素的运作通过控制施加到它们各自的电极的电压来控制。控制电路124使用光源24来生成光脉冲141。在此示例中,控制电路124使用电压(例如,Vevenl(V偶数行)428、Vevens(V偶数存储)426、Voddl(V奇数行)427、Vodds 425(V奇数存储)和Vsub(V衬底)424)来使一个图像捕捉区域在门控时间段422期间捕捉来自脉冲141的反射光,并且另一个图像捕捉区域在非门控捕捉时间段420期间捕捉来自脉冲141的反射光146。在此实施例中,控制电路124控制半导体设备的衬底电压Vsub 424、连接到奇数行中的光像素的电极的电压值Voddl 427、连接到奇数行中的存储像素的电极的电压值Vodds 425、连接到偶数行中的光像素的电极的电压值Vevenl 428、和连接到偶数行中的存储像素的电极的电压值Vevens 426。控制电路124可以具体化用于控制光敏面400和光源24的单独的控制区域,但是,光敏面中像素的捕捉能力的打开和关闭应当与用于为距离测量捕捉数据的光脉冲的发射同步。
图4还示出门控捕捉时间段422和非门控捕捉时间段420,每个时间段捕捉来自光脉冲141的反射光146。如示例性非门控捕捉时间段420内所见,来自光脉冲141的反射光146具有相对长捕捉时间段410,其中与诸如背景光之类的从其他源反射的光一起回到CCD光敏面400。而对示例性门控捕捉时间段422,偶数行418和419具有捕捉串145中从光脉冲141反射回到光敏面的光146的相对短捕捉时间段408。如上所述,例如,如果短捕捉时间段408是针对来自激光的20纳秒脉冲宽度的20纳秒,那么长捕捉时间段410可以是40到60纳秒。在另一个示例中,如果短捕捉时间段408是10-15纳秒,那么长捕捉时间段410是20-45纳秒。这些捕捉时间段仅作为示例,并且在其他实施例中可以变化,只要非门控捕捉时间段420中的长捕捉时间段410足够长以捕捉适合于对在短的捕捉时间段408或门控捕捉时间段422中的选通期间捕捉的光进行归一化的光。
在光脉冲串中可能需要多至一千个光脉冲,使得从场景到达相机的反射光的量足以提供帧中可接受的距离测量。为了将成像时间、和/或可能的图像模糊降低到可接受的水平,光脉冲的重复速率和对应的捕捉时间段的重复速率可有利地高达至少每秒107次或更多,并且因此具有约100纳秒或更短的重复时间段。此外,光脉冲宽度和短捕捉时间段的持续时间可等于约30纳秒或更短。运动捕捉相机的普通帧速率是每秒30帧,因此如果光敏面能够尽可能快地打开和关闭它的图像捕捉区域,那么短和长捕捉时间段越短,可以捕捉的门控和非门控时间段就越多。
在门控时间段中的每个重复的短捕捉时间段期间,像素的偶数行中的像素(存储和光像素二者)被控制处于“开(ON)”状态412。在开状态期间,光像素402将其累积的电荷传输到光敏面400中它们相应的存储像素403中。在整个门控时间段期间,奇数像素行中的像素被控制成处于“关(OFF)”状态,以禁止光像素将电荷传输到光敏面中它们相应的存储像素中。在非门控时间段中每个重复的长捕捉时间段期间,奇数行中的光像素402被控制成处于它们将其累积的电荷传输到它们相应的存储像素403的“开”状态414。偶数行中的像素被控制处于关状态以禁止整个非门控时间段期间的电荷传输。
以下讨论光敏面的不同的实施例,它们可在相同帧中门控时间段和非门控时间段被选通开启和选通关闭。无论使用哪种类型的技术,例如CCD或CMOS传感器(见图7),任一种可以使用诸如图5所描述的实施例的操作方法。
图5是在相同的帧时间段内在相同的光敏面上捕捉来自场景的交错的门控和非门控光的方法500的实施例的流程图。仅出于说明性而非限制性的目的,按照之前的实施例讨论图5。方法实施例500始于步骤502,以控制电路124可从捕捉设备20的处理器32接收的帧通知作为开始。在步骤504中,控制电路124开始门控光时间段。在步骤506中,控制电路124与光脉冲的生成同步地打开或关闭光敏面的第一图像捕捉区域以生成短捕捉时间段,以便在帧时间段内的门控时间段的每个短捕捉时间段期间捕捉门控光。如图3和4之前描述的,控制电路124控制光源24以及光敏面(300或400)的不同的捕捉区域,并且因此电路可以提供同步的控制信号。在步骤510的门控时间段422的结尾处,控制电路124在步骤512中关闭第一图像捕捉区域。在某些实施例中,控制电路124在门控时间段的结尾使所捕捉的图像数据从第一图像捕捉区域被传输到诸如捕捉设备20的存储器34之类的存储器。在其他实施例中,在帧的门控时间段期间捕捉到的图像数据在帧的结尾被传输到帧缓冲区存储器34。
在步骤516中,控制电路124开始相同帧时间段内的非门控时间段,控制电路124在步骤518中与光脉冲的生成同步地打开或关闭光敏面的第二图像捕捉区域以生成长捕捉时间段,以便在非门控时间段的每个长捕捉时间段期间捕捉非门控光。
对于在步骤522的非门控光时间段的结尾,控制电路在步骤524中关闭第二图像捕捉区域。同样在某些实施例中,控制电路124在非门控时间段的结尾使所捕捉的图像数据从第二图像捕捉区域被传输到诸如存储器34的存储器。同样,在其他实施例中,在非门控时间段期间捕捉到的图像数据在帧的结尾被传输到帧缓冲区存储器34。
控制电路在步骤526中可以确定帧的结尾是否出现。该判断可以基于来自处理器36的中断信号,或者在另一个示例中,控制电路可以监控帧时钟。如果帧的结尾尚未出现,则控制电路124继续再次在步骤504中开始另一个门控光时间段。如果帧的结尾已经出现,则控制电路124继续在步骤502中开始一个新的帧,并且再次开始门控和非门控时间段的交错或交替。对于新的帧的开始,在一个示例中存在诸如更新帧数量和帧时钟的开始的某些处理。
在图5的实施例中,门控和非门控时间段的交错始于门控时间段,但在其他实施例中顺序可以被颠倒。
图6A和6B的实施例仅出于说明目的在图4的实施例的上下文中被讨论,并且不旨在于是限制性的。在图6A的示例中,所示的操作的当前状态是在门控时间段的短捕捉时间段期间。对于此示例,在门控时间段期间激活偶数行402e、403e,并且在整个门控时间段期间关闭奇数行像素402o、403o。在非门时间段期间,以与偶数行像素相同的方式操作奇数行像素402o、403o。在另一个示例中,奇数行可以是门控时间段期间使用的指定集,并且在非门控时间段期间是偶数行。为了便于描述,对“偶数”像素的引用是指偶数行中的存储或光像素,并且对“奇数”像素的引用是指奇数行中的存储或光像素。
图6A示意地示出隔行CCD光敏面400的一个实施例的一部分的高度简化的横截面图。该部分如下示出两组代表性的光像素和存储像素:光像素402e和403e分别是光敏面400的偶数行418和419的;并且光像素402o和存储像素403o分别是奇数行416和417的。如由垂直虚线所指示的,任一类型的每个像素由光敏面中的区域的电气特性和大小将在操作期间将在其内改变的各个层构成。虚线不是不同类型的像素之间的精确分界,但是旨在辅助附图的观看者标识与不同像素相关联的光敏面的区域。
为方便呈现,假定隔行CCD 400被配置有掺杂架构,使得它捕捉下文称为“光电子”的电子,而不是来自入射光所生成的电子-空穴对的空穴。在其他实施例中,可以向CCD 400提供捕捉来自入射光所生成的电子一穴对的空穴的掺杂架构。
在该示例实施例中,CCD光敏面400包括硅p++掺杂衬底621、p掺杂外延层622、以及n掺杂层623。层623覆盖有二氧化硅绝缘层624。导电电极631(此示例中是多晶硅)形成在CCD光敏面的包括具有np结638的光像素402的区域上。在此示例中,多晶硅电极641也形成在CCD 400的包括具有np结648的存储像素403的区域上。向存储像素403传播的光60不在存储像素中创建光电子,因为该光由于存储像素被覆盖有“掩模”层644而被阻止进入存储像素。掩模层644的材料的示例是金属,该金属对光60是不透明的并且阻挡存储像素电极641下的区域被暴露于光60。在某些实施例中,电极641由对于光60不透明的导电材料形成,且电极提供了存储像素403的掩模来代替掩模层644或增强由掩模层所提供的掩模。
在此示例中,每个光像素402与其右侧的存储像素403相关联,且与其左侧的存储像素403电绝缘。光像素与其左侧的存储像素403的隔离例如可以通过注入合适的掺杂物、或通过形成由阴影区域647示意性地表示的浅沟道隔离区来实现。
如将在以下具体示例中讨论的,通常,光像素电极631和存储像素电极641相对于彼此偏置,使得当开电压值在长或短捕捉时间段期间被施加时,来自场景的光在光像素中所生成的光电荷快速地传输到该光像素的存储像素并在其中累积和存储。当闭电压值被施加到光像素电极631时,来自场景的光在光像素中所生成的光电荷排空到衬底,并且不从光像素传输到存储像素并在其中累积。光像素电极相对于存储像素电极的偏置对于光敏面的捕捉时间段和非捕捉时间段基本维持相同。
控制电路124在像素电连接的导电通路(例如金属线)上提供Vevenl 428、Vevens 426、Voddl 427和Vodds 425的开或关电压值。偶数存储像素403e在通路419上接收电压Vevens 426,而偶数光像素402e在通路418上接收电压Vevenl 428。类似地,奇数存储像素403o在通路417上接收电压Vodds 425,而奇数光像素402o在通路416上接收电压Voddl 427。控制电路124向衬底621提供基准电压Vsub 424,该基准电压Vsub 424将与开和关电压一同用于创建电势电压差以按需偏置像素,以便存储和不存储光电子或光电荷所表示的图像数据。
在图6A中,对于门控时间段内的短捕捉时间段,与偶数存储像素403e一样打开偶数光像素402e。电压Vsub 424、Vevenl 428和Vevens 426提供对分别位于光像素402e和存储像素403e的电极631e和641e下的np结638e和648e进行反偏置的电压差。电压在光像素402e和存储像素403e中生成各自的势阱632e和642e。存储像素电极641下的势阱642e比光像素电极631e下的势阱632e更深。
作为势阱632e与642e的深度差别的结果,在光像素402e及其对应的存储像素403e之间创建电场,如箭头所指示的,该电场将光像素中所生成的光电子驱动到存储像素。掺杂区647担任势垒以防止在光像素(例如402e)中形成的电子向左面漂移,并且进入位于左面的存储像素列(例如403o)。入射到光像素402e上的光所生成的光电子由阴影圈650表示,并被连续且快速地从光像素402e传输到该光像素的相关联的存储像素403e并在其中累积和存储。
该场使得在光像素402e中创建了光电子650之后基本立即将它们传输到该光像素的相关联的存储像素403e。光电荷从光像素中其被生成的位置传输到存储像素花费的时间由该光电荷的漂移速度以及从其被生成的位置到存储像素的距离来确定。该漂移速度是在光电子上运行的场的强度的函数,该强度是势阱632e和642e之间的电势差的函数。对于几伏特的典型电势差以及小于或等于约100微米的像素间距,光电子在可以小于或约等于几纳秒、或小于或约等于一纳秒的时间中传输到存储像素。
在反偏置np结638e和648e的一个示例中,Vsub 424从控制电路124接收开电压,该开电压由衬底层621接收。控制电路124经由导电路径418将偶数光像素402e的电极631e通上Vevenl 428的开电压。Vevenl 428比Vsub更正。经由导电通路419将存储像素403e上的电极641e通上Vevens 426的开电压值。Vevenl 426比电压Vsub424正得多。Vsub 424的开电压的示例是10伏,偶数光像素402e的开电压是15伏,偶数存储像素403e的开电压是30伏。
在图6A中,奇数像素402o和403o处于禁止图像捕捉的关状态。奇数光像素402o具有足以正偏置光像素402o中的np结638o的Vsub 424和Voddl 427之间的电压差。例如,如果Vsub 424是10伏,那么Voddl 427可以是15伏。然而,Vsub 424和Vodds 425之间的电压差不足以正偏置存储像素403o中的np结648o。例如,如果Vsub 424是10伏,那么Voddl 425可被设置为0伏或者负5伏。因此,尽管存储像素403o中的势阱642o可能在深度上被减少已降低的电压差,但是它们保持足够深以维持其在长捕捉时间段的先前非门控时间段期间奇数存储像素403o是活动的时间期间累积的光电荷。奇数光像素中的np结638o的正偏压使电荷从光像素中排空,并且使入射到光像素402o的光60所生成的光电子停止移动到存储像素403o,但被吸引到并且吸收到衬底621中。
对于奇数像素,无论是否在每个非门控时间段之后或在帧时间段中的全部非门控时间段之后为帧数据传输非门控时间段的已存储的光电子650,控制电路124在奇数像素行为整个门控时间段被选通关闭时控制电压值Voddl 427和Vodds 425。例如,在Vsub 424设置为10伏的情况下,Voddl 427可被设置为15伏,并且Vodds 425可被设置为0伏。如果来自每个非门控时间段的光电子650被累积并且每帧一次全部被传输,那么对于势阱642o的Vsub的当前值,Vodds 425足够正以保持足够深来维持它们在CCD 400的奇数像素行被选通开启的时间期间累积的光电荷。
如果每个非门控时间段的光电子650在长捕捉时间段的每个非门控时间段之后被传输到帧缓冲区,那么在门控时间段期间维持已累积的电荷不是问题。
在图6B中,在门控时间段内的短捕捉时间段之间的时间段打开偶数存储像素403e。在关状态中,偶数光像素402e和存储像素403e处于与奇数光像素402o和存储像素403o相同的状态。光像素402e正流向衬底621,并且势阱642e不接受电荷但是足够深以维持对光像素402e在门控时间段的之前的短捕捉时间段408期间所传输的光电子650的存储。在一个示例中,衬底电压Vsub 424具有比Vsub 424的开电压正得多的关电压,导致被正偏置的np结638e通过衬底621对光电子650进行放电,而图6B的存储像素的势阱642e具有维持光电子650的存储但不接受更多光电子的深度。在此示例中,导电通路416和417上由Voddl 427和Vodds 425控制的奇数像素402o、403o上的电压可以与导电通路418和419上的电压Vevenl 428和Vevens 426相同。Vsub 424关电压的示例是30伏,并且Voddl 427、Vodds 425、Vevenl 428和Vevens 426的电压被设置为15伏。
在另一个示例中,Vsub 424可以是在门控和非门控时间段二者期间维持的基准电压(例如15伏),并且奇数和偶数像素导电通路上的开和关电压可被改变以选通开启和选通关闭或打开和关闭相应的像素行。为了在短捕捉时间段408打开偶数像素402e、403e,使偶数光像素402e的电极631e通上比Vsub 424(例如15伏)更正的Vevenl 428(例如20伏),并且使偶数存储像素403e的电极641e通上比电压Vevenl 428正得多的电压Vevens 426(例如30伏)。
在此相同的门控时间段期间,如上所述,相同的Vsub 424(例如15伏)正被施加到其上形成有奇数光像素和奇数存储像素以及偶数光像素和偶数存储像素的衬底621上。对于奇数行的光像素402o和存储像素403o,虽然足以在奇数光像素402o中正偏置np结638o,但Voddl 427可以与Vevenl 428相同(例如20伏)或需要时比其小。然而,Vodds 425被设置为比Vevens 426(例如30伏)更低的电压值(例如0伏),Vevens 426生成影响势阱的大小尤其是存储像素403o的势阱642o的更小的电压差。Vodds 425值不如Vevens 426正在接收的开值正,导致不正向偏置奇数存储像素403o的np结648o。在门控时间段期间将奇数像素保持在关状态的相同的电压值Voddl 427和Vodds 425可用于电压值Vevenl 428和Vevens 426,以便在门控时间段中的短捕捉时间段408之间的时间段分别关闭或选通关闭偶数光像素402e和存储像素403e。
如上所述,奇数行光像素402o和存储像素403o在整个门控时间段为关,无论在短捕捉时间段期间还是它们之间的时间段。因此,奇数光像素402o接收Voddl 427上为关的相同的电压值,而偶数光像素在门控时间段422内短捕捉时间段408以外的时间段期间接收开Vevenl 428。类似地,在门控时间段422内长捕捉时间段408以外的时间段期间Vodds 425与Vevens 426相同。
可以快速地改变奇数(416、417)和偶数(418、419)电压导电通路上的开和关电压值Voddl 427、Vodds 425、Vevenl 428、Vevens 426以便电子地遮挡CCD 400。具体地,该遮挡足够迅速,使得CCD 400可足够快地被电子地选通以便在选通3D相机中用来测量到场景中的对象的距离,而不必具有附加的外部快速快门。在一个实施例中,切换开和关电压值以选通开启CCD用于具有少于或等于100纳秒的持续时间的长(410)和短(408)捕捉时间段。可任选地,短或长捕捉时间段具有小于或等于70纳秒的持续时间。在某些实施例中,短捕捉时间段具有小于35纳秒的持续时间。在某些实施例中,短捕捉时间段(408)具有小于或等于20纳秒的持续时间。
注意的是,本技术的实施例的实践不限于隔行CCD光敏面和包括隔行CCD光敏面的相机。例如,光敏面可以基于CMOS技术而不是CCD技术。
图7示出用于控制包括两个图像捕捉区域的CMOS光敏面700的系统实施例,在此示例中是偶数行和奇数行,一个在门控时间段期间使用,并且另一个在非门控时间段期间使用。在此示例中,不需要单独行的存储像素。在一个示例中,与每个光敏CMOS像素702相关联的控制和读出电路可以位于半导体光敏面的相应像素的区域内。在另一个示例中,用于像素的整个行或区域的控制和读出电路可以位于光敏面的行的部分中。CMOS布局的其他示例也可用于其他实施例中。
如在图4的CCD光敏面实施例400中,控制电路124控制光源24以生成光脉冲141。在此实施例中,它另外地为CMOS光敏面设备700提供源电压Vdd 724,经由导电通路718的偶数行电压728集,以及经由导电通路716的奇数行电压727。电压被设置为分别在非门控和门控时间段期间选通合适的行组。在此示例中,如奇数像素行开714所指示的,奇数像素行在门控时间段422是活动的,并且如偶数像素行开712所指示的,偶数像素行在非门控时间段420是活动的。如前所述,奇数行像素可以容易地被指定在非门控时间段期间使用,而偶数行像素被指定在门控时间段期间使用。
在图8A中示出可用于诸如图7的实施例的实施例中的CMOS像素技术的示例,图8A示出CMOS光选通技术的基本单位晶格的一个实施例820。基本单位晶格820包括在通道植入物(implant)内形成并被环状结构826a和826b围绕的两个浮动扩散822a和822b,结构826a和826b是浮动扩散822a和822b的传输选通并被称为传输选通环。传输选通不必是环,例如,它可以是六边形或其他围绕形状,只要该形状提供用于电荷传输的基本一致的360度电场分布。浮动扩散及其相关联的传输选通环的合成以下被称为“电荷传感元件”。
除用于以下附图的基本单位晶格820的结构和操作的讨论以外,可以在2009年7月17日提交的题为“CMOS Photogate 3D Camera System HavingImproved Charge Sensing Cell and Pixel Geometry”(具有改进的电荷感测单元和像素几何结构的CMOS光选通3D相机系统)的PCT申请PCT/IB2009/053113中找到关于该CMOS示例的更多信息,上述PCT申请通过引用合并于此。
根据PCT/IB2009/053113,由这些晶格形成的光像素由低电容来表征,并且因此可以提供对电荷累积中的微小变化的改进的敏感度。同时,施加到光选通的电压创建的电场在传感元件周围是基本方位对称的,并且已经发现从由通电的光选通本体定义的电荷累积区域穿过通道传播到浮动扩散的电子基本上没有经历作为传播方向的函数的阻挡。这可导致改进的传输特性。
光像素和由电荷传感元件形成的像素阵列也展示显著改进的填充因子。填充因子的60%或者更多是可以实现的。
图8A以平面图并且图8B和8C以横截面图示出基本单位晶格820的体系结构,根据技术的一个实施例,根据该体系结构形成一种类型的光像素,光选通像素。在图8A的俯视图中,单位晶格820包括三个基本上是圆形的N+浮动扩散822a、822b和822d。传输选通826a、826b和826d是分别围绕822a、822b和822d的环的形式。
浮动扩散822a和传输选通826a、以及浮动扩散822b和传输选通826b分别构成第一和第二电荷感测元件832a和832b。浮动扩散822d和传输选通826d构成提供背景照明取消的背景电荷排空元件832d。与电荷排空元件相关联的传输选通在发射照明脉冲之间的间隔期间被激励。在某些实施例中,不包括背景电荷排空元件832d。可以使用输出驱动器电路来代替以执行背景电荷排空。
一般而言,环形孔(circular aperture)836a、836b和836d与电荷传感元件832a和832b以及背景电荷排空元件832d相对齐。孔836a、836b和836d提供合适的间隙以暴露供方便布线访问的这些元件,并且为电荷传输提供基本上一致的360度电场分布。多晶硅光选通834还被形成为基本上覆盖晶格820上表面的全部区域的连续基本平面层。
图8B是跨图8A的X-X线的电荷传感元件832a的截面图,并且图8C是图8A的Y-Y线的电荷传感元件832a的截面图。结合图8B和8C,可以理解的是,仅示出电荷传感元件832a的几何形状,但电荷传感元件832b和电荷排空元件832d是基本相同的。还可以理解的是,浮动扩散822a和822b被连接到合适的输出电路(未示出),并且浮动扩散822d被连接到排空偏置电势Vdd。(在附图中,排空元件也被标识为“D”,并且电荷传感元件被标识为“A”和“B”。)在该实施例中,除电荷传感元件832a和832b、背景电荷排空元件832d和光选通834以外,单位晶格820的部分的基本结构可以是普通CMOS结构。单位包括例如位于P-外延层838上的N-掩埋通道植入物824,以及所需的金属漏及源平面和布线(未示出),P-外延层838在P+硅衬底840上分层。或者,可以采用任何其他合适且所需的体系结构。
多晶硅传输选通826a位于形成于N-掩埋通道植入物层824上的氧化物层828上。多晶硅光选通834还作为覆盖晶格820上表面基本上全部区域的连续基本平面层在氧化物层828上形成。如上所述,孔836a通过通道植入物层824为电荷传输提供基本一致的360度电场分布。
基本上是圆形的N+浮动扩散822a在N-掩埋通道植入物824内形成。多晶硅环状传输选通826a位于氧化物层828上。浮动扩散位于被埋通道植入物824内,并且因此氧化物层上的“围绕”传输选通形成可被认作是“光晕(halo)”,而不是划界边界。然而,为简单起见,将使用术语“围绕”来指代电荷传感晶格排列。
在操作中,在已知时间由合适电压的应用来激励与传出照明有关的光选通834(例如图3中的光脉冲141),并且保持激励达设置电荷收集间隔。从施加到光选通834的电压产生的电场在掩埋通道植入物层824创建电荷累积区域,并且从被成像的对象反射的光子穿过光选通834进入通道植入物层824,可导致光子在那里被释放。
随后交替激励环状传输选通826a达预定的集成间隔,在该集成间隔期间,通过通道824将已收集的电荷传输到浮动扩散822a。该电荷产生电压,该电压可被测量并用于确定到像素702对其成像的对象的一部分的距离。随后根据浮动扩散822a上的电荷产生的电压、光选通834和传输选通826a的时序的已知激活、以及光速确定飞行时间。由此,浮动扩散822a是CMOS光选通传感像素的传感节点。
图8C还示出包括在氧化物层828下的通道层824中形成并且重叠在P-阱837上的P+扩散区835的停止通道结构或“通道停止”。如果通道未被突然地终止,则从距离已激活传输选通最远的通道824的一端传输的电荷可能是不受控制并且有噪声。通道停止在通道层824的一端提供明确定义的终止以帮助促进受控电荷转移到浮动扩散822a。
图8D示出与基本单位晶格使用的晶格控制和读出电路的示例。也可以适用其他普通的CMOS控制和读出电路设计。用于光选通偏置842、传输选通A844a和传输选通B 844b的信号通路分别激励光选通834和传输选通A和B(例如,图8A中的826a和826b)。
输出电路846a和输出电路846b分别提供各个电荷传感元件832a和832b的浮动扩散822a和822b上的电荷产生的电压的输出A 845和输出B 847的读出电压。这些读出电路846a、846b可与基本单位晶格820形成在集成电路芯片上。向输出电路846a和846b提供选择848和重置850信号通路。
在采用脉冲照明的系统中,背景照射可在照射脉冲之间的间隔期间导致感测晶格832a、832b中的电荷累积。排空照明脉冲之间的这种电荷累积可能是有利的。关于使用TOF相机像素晶格的背景照射取消的更多信息,参见IEEESensors Journal的Kawahito等人的A CMOS Time-of-Flight Range Image Sensor(CMOS飞行时间范围图像传感器),2007年12月,第1578页。浮动扩散822d被连接到Vdd 849以提供放电通路,并且信号通路D 844d在发射照明脉冲之间的间隔期间激励传输选通D(例如图8B中的826d)以激活电荷的累积的放电。
可以按需组合基本单位晶格180以为特定的应用提供光收集能力。图9是包括两个基本单位晶格的基本光像素构建块的实施例的示意图。为了简明期间,省略了选通控制和读出电路、以及其他普通特征。
图9示出包括如虚线划界的两个基本晶格852和854的基本多晶格构建快850。晶格852包括传感元件856a和856b、以及背景电荷排空元件856d。晶格854包括传感元件858a和858b、以及背景电荷排空元件858d。如所见的,构建块850由具有暴露电荷传感和背景电荷排空元件的孔862的单个连续光选通860形成。
根据PCT申请PCT/IB2009/053113,基于发明人所执行的模拟研究,并假定3.3伏的最大选通激励、0.18微米CMOS制造技术、和70埃选通氧化物厚度,可以确定合适的近似晶格组件尺寸可以在以下范围内:光选通孔眼间隔(通道长度):1.0-6.0μ(例如3.0μ);传输选通环形宽度:0.3-1.0μm(例如,0.6μm);光选通孔眼到传输选通间隙:0.25-0.4μm(例如0.25μm);浮动扩散的直径:0.6-1.5μm(例如,0.6μm)。然而,应当理解,对本领域技术人员将是显而易见的是,合适的尺寸可以依赖于应用、制造技术的进步和其他因素,并且以上所述的参数不旨在是限制性的。
图10是如此处描述的使用单独的背景电荷排空元件来提供背景取消的基本单位晶格的示例性时序图。线(a)示出照明周期。线(b)和(c)示出用于“A”和“B”浮动扩散的纳秒范围内的集成时间,并且该集成时间由相应的“A”和“B”传输选通的激活时间来定义。线(d)示出由电荷排空元件传输选通的激活时间来定义的背景取消间隔。图10所示的时序也适用于没有背景取消的操作,或者使用电荷传感元件传输选通和/或光选通来激活背景电荷排空的实施例。
技术也可在可能具有与隔行CCD或CMOS光敏面不同的非线性结构的光敏面实施例中操作。也可以适用成像区域的其他配置或几何形状。例如,可以使用列代替行。取决于控制和读出电路的排列,每个其他像素可以在一个集合中,并且其他像素在另一个集合中。另外,如果需要可以指定多于两个成像区域。
尽管用结构特征和/或方法动作专用的语言描述了本主题,但可以理解,所附权利要求书中定义的主题不必限于上述具体特征或动作。更确切而言,上述具体特征和动作是作为实现权利要求的示例形式公开的。

Claims (10)

1.一种用于控制光敏面(300、400)以在相同的帧时间段中捕捉来自的场景的门控和非门控光的系统(22),所述帧时间段是获取一帧图像的时间段,所述系统包括:
图像传感器的光敏面(300、400);
所述光敏面的第一图像捕捉区域(416);
相同光敏面的第二图像捕捉区域(418);
用于控制所述第一图像捕捉区域(416)在所述帧时间段内的门控时间段(420)期间捕捉门控光作为图像数据的控制电路(124);
所述第二图像捕捉区域(418)在门控时间段(420)期间处于不捕捉图像数据的关状态;
用于控制所述第二图像捕捉区域(418)在相同的帧时间段内的非门控时间段(422)期间捕捉非门控光作为图像数据的控制电路(124);以及
所述第一图像捕捉区域(416)在非门控时间段(422)期间处于不捕捉图像数据的关状态,
其中在2微秒以内在相同光敏面上交替捕捉门控光和捕捉非门控光。
2.如权利要求1所述的系统,其特征在于,所述门控和非门控时间段在相同的帧时间段期间是交错的。
3.如权利要求2所述的系统,其特征在于,还包括:
所述门控时间段包括一个或多个短捕捉时间段,每个短捕捉时间段持续少于50纳秒的光脉冲的脉宽;
用于通过在于每个短捕捉时间段内捕捉图像数据的开状态与不捕捉图像数据的关状态之间对所述第一图像捕捉区域进行选通来控制所述第一图像捕捉区域的捕捉的控制电路;
所述非门控时间段包括一个或多个长捕捉时间段,每个长捕捉时间段长于每个短捕捉时间段以捕捉来自场景的更多的反射光,以供在所述门控时间段捕捉的所述图像数据的归一化,每个长捕捉时间段持续少于100纳秒;以及
用于通过在每个长捕捉时间段的开状态和关状态之间对所述第二图像捕捉区域进行选通来控制所述第二图像捕捉区域的捕捉的控制电路。
4.如权利要求3所述的系统,其特征在于,所述第一图像捕捉区域包括像素交替行的区域,并且所述第二图像捕捉区域包括不同的像素交替行的区域。
5.如权利要求1所述的系统,其特征在于,所述光敏面是由以下各项构成的组之一:
电荷耦合器件CCD;或者
互补金属氧化物半导体CMOS设备。
6.一种用于在相同的帧时间段内在相同的光敏面上捕捉来自场景的交错的门控和非门控光的方法,所述帧时间段是获取一帧图像的时间段,所述方法包括:
图像传感器的光敏面(300、400)的第一图像捕捉区域(416)在帧时间段内的门控时间段(420)期间捕捉门控光作为图像数据(504);
相同的光敏面(300、400)的第二图像捕捉区域(418)在相同的帧时间段内的非门控时间段(422)期间捕捉非门控光作为图像数据(518);
将所述第二图像捕捉区域转为所述第二图像捕捉区域(418)在所述门控时间段内不捕捉图像数据的关状态(524);
将所述第一图像捕捉区域转为所述第一图像捕捉区域(416)在所述非门控时间段内不捕捉图像数据的关状态(512);以及
在2微秒以内在相同光敏面上交替捕捉门控光和捕捉非门控光。
7.如权利要求6所述的方法,其特征在于,还包括:
所述门控时间段包括一个或多个短捕捉时间段,每个短捕捉时间段的持续时间少于50纳秒;
第一图像捕捉区域在帧时间段内的门控时间段期间捕捉门控光作为图像数据包括在每个短捕捉时间段捕捉数据的开状态和不捕捉图像数据的关状态之间对所述第一图像捕捉区域进行选通;
所述非门控时间段包括一个或多个长捕捉时间段,每个长捕捉时间段长于每个短捕捉时间段并且持续时间少于100纳秒;以及
第二图像捕捉区域在相同的帧时间段内的非门控时间段期间捕捉非门控光作为图像数据包括在每个长捕捉时间段的开状态与关状态之间对所述第二图像捕捉区域进行选通。
8.如权利要求7所述的方法,其特征在于:
第一图像捕捉区域在帧时间段内的门控时间段期间捕捉门控光作为图像数据还包括在帧的每个门控时间段期间在所述一个或多个短捕捉时间段将图像数据存储在与所述第一图像捕捉区域相关联的图像存储介质中;以及
所述第二图像捕捉区域在帧时间段内的非门控时间段期间捕捉非门控光作为图像数据还包括在帧的每个非门控时间段期间在所述一个或多个长捕捉时间段将图像数据存储在与所述第二图像捕捉区域相关联的图像存储介质中。
9.在三维3D飞行时间相机系统(20)中,一种用于控制光敏面(300、400)以在相同的帧时间段中捕捉来自的场景的门控和非门控光的系统(20),所述帧时间段是获取一帧图像的时间段,所述系统包括:
相同光敏面(300、400)包括第一图像捕捉区域(416)和第二图像捕捉区域(418),所述第一图像捕捉区域包括第一组光像素(402)行以及用于在帧时间段内的门控时间段(420)期间捕捉门控光作为图像数据的图像数据存储介质(403),所述第二图像捕捉区域包括第二组光像素(402)行以及用于在相同帧时间段内的非门控时间段(422)期间捕捉非门控光作为图像数据的图像数据存储介质(403);以及
控制电路(124),其被电连接到所述图像捕捉区域以便:
在门控时间段(420)期间使所述第一捕捉区域(416)的各个图像数据存储介质存储所述第一组光像素行感测到的图像数据(506),
对于整个门控时间段(420),使所述第二图像捕捉区域处于图像数据未被存储在所述第二组光像素行的相应的图像数据存储介质中的关状态(524),
在非门控时间段(422)期间使所述第二捕捉区域(418)的相应的图像数据存储介质存储所述第二组光像素行感测到的图像数据(518),以及
对于整个非门控时间段(422),使所述第一图像捕捉区域处于图像数据未被存储在所述第一组光像素行的相应的图像数据存储介质中的关状态(512),
其中在2微秒以内在相同光敏面上交替捕捉门控光和捕捉非门控光。
10.如权利要求9所述的系统,其特征在于,所述门控和非门控时间段在相同的帧时间段期间是交错的。
CN201110443241.XA 2010-12-15 2011-12-14 在相同光敏面上的相同帧中捕捉门控和非门控光 Expired - Fee Related CN102547156B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US12/968,775 US20120154535A1 (en) 2010-12-15 2010-12-15 Capturing gated and ungated light in the same frame on the same photosurface
US12/968,775 2010-12-15

Publications (2)

Publication Number Publication Date
CN102547156A CN102547156A (zh) 2012-07-04
CN102547156B true CN102547156B (zh) 2015-01-07

Family

ID=46233858

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201110443241.XA Expired - Fee Related CN102547156B (zh) 2010-12-15 2011-12-14 在相同光敏面上的相同帧中捕捉门控和非门控光

Country Status (8)

Country Link
US (1) US20120154535A1 (zh)
EP (1) EP2652956A4 (zh)
JP (1) JP5898692B2 (zh)
KR (1) KR20130137651A (zh)
CN (1) CN102547156B (zh)
CA (1) CA2820226A1 (zh)
IL (1) IL226723A (zh)
WO (1) WO2012082443A2 (zh)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9083905B2 (en) * 2011-04-26 2015-07-14 Semiconductor Components Industries, Llc Structured light imaging system
KR101823347B1 (ko) * 2011-07-08 2018-02-01 삼성전자주식회사 센서와 이를 포함하는 데이터 처리 시스템
US9516248B2 (en) 2013-03-15 2016-12-06 Microsoft Technology Licensing, Llc Photosensor having enhanced sensitivity
EP2835973B1 (de) * 2013-08-06 2015-10-07 Sick Ag 3D-Kamera und Verfahren zur Erfassung von dreidimensionalen Bilddaten
US9462253B2 (en) * 2013-09-23 2016-10-04 Microsoft Technology Licensing, Llc Optical modules that reduce speckle contrast and diffraction artifacts
US9826214B2 (en) * 2014-09-08 2017-11-21 Microsoft Technology Licensing, Llc. Variable resolution pixel
US9608027B2 (en) * 2015-02-17 2017-03-28 Omnivision Technologies, Inc. Stacked embedded SPAD image sensor for attached 3D information
US10062201B2 (en) 2015-04-21 2018-08-28 Microsoft Technology Licensing, Llc Time-of-flight simulation of multipath light phenomena
US9945936B2 (en) 2015-05-27 2018-04-17 Microsoft Technology Licensing, Llc Reduction in camera to camera interference in depth measurements using spread spectrum
GB201516701D0 (en) * 2015-09-21 2015-11-04 Innovation & Business Dev Solutions Ltd Time of flight distance sensor
US10151838B2 (en) 2015-11-24 2018-12-11 Microsoft Technology Licensing, Llc Imaging sensor with shared pixel readout circuitry
US9760837B1 (en) 2016-03-13 2017-09-12 Microsoft Technology Licensing, Llc Depth from time-of-flight using machine learning
CN106231213B (zh) * 2016-09-29 2023-08-22 北方电子研究院安徽有限公司 一种可消除smear效应的带快门ccd像元结构
US10917626B2 (en) 2016-11-23 2021-02-09 Microsoft Technology Licensing, Llc Active illumination 3D imaging system
US10430958B2 (en) 2017-07-11 2019-10-01 Microsoft Technology Licensing, Llc Active illumination 3D zonal imaging system
US10901073B2 (en) 2017-07-11 2021-01-26 Microsoft Technology Licensing, Llc Illumination for zoned time-of-flight imaging
US10942274B2 (en) 2018-04-11 2021-03-09 Microsoft Technology Licensing, Llc Time of flight and picture camera
CN112461154B (zh) * 2019-09-09 2023-11-10 睿镞科技(北京)有限责任公司 3d成像方法、装置和深度相机

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4935616A (en) * 1989-08-14 1990-06-19 The United States Of America As Represented By The Department Of Energy Range imaging laser radar
CN1844852A (zh) * 1995-06-22 2006-10-11 3Dv系统有限公司 生成景物的混合图象的方法
US7224384B1 (en) * 1999-09-08 2007-05-29 3Dv Systems Ltd. 3D imaging system

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2976242B2 (ja) * 1989-09-23 1999-11-10 ヴィエルエスアイ ヴィジョン リミテッド 集積回路とその集積回路を用いたカメラ並びに該集積回路技術を用いて作製されたイメージセンサへの副次的な入射光線を検出する方法
US5949483A (en) * 1994-01-28 1999-09-07 California Institute Of Technology Active pixel sensor array with multiresolution readout
AU6136096A (en) * 1995-06-22 1997-01-22 3Dv Systems Ltd. Telecentric 3d camera and method
US6044170A (en) * 1996-03-21 2000-03-28 Real-Time Geometry Corporation System and method for rapid shape digitizing and adaptive mesh generation
EP1040366B1 (de) * 1997-12-23 2003-10-08 Siemens Aktiengesellschaft Verfahren und vorrichtung zur aufnahme eines dreidimensionalen abstandsbildes
DE69827529T2 (de) * 1998-09-28 2005-11-10 3Dv Systems Ltd. Entfernungsmessung mittels kamera
JP2002071309A (ja) * 2000-08-24 2002-03-08 Asahi Optical Co Ltd 3次元画像検出装置
AU2001218821A1 (en) * 2000-12-14 2002-06-24 3Dv Systems Ltd. 3d camera
US6721094B1 (en) * 2001-03-05 2004-04-13 Sandia Corporation Long working distance interference microscope
WO2005036372A2 (en) * 2003-10-09 2005-04-21 Honda Motor Co., Ltd. Systems and methods for determining depth using shuttered light pulses
US8134637B2 (en) 2004-01-28 2012-03-13 Microsoft Corporation Method and system to increase X-Y resolution in a depth (Z) camera using red, blue, green (RGB) sensing
JP2009047475A (ja) * 2007-08-15 2009-03-05 Hamamatsu Photonics Kk 固体撮像素子
US8004502B2 (en) * 2007-10-05 2011-08-23 Microsoft Corporation Correcting for ambient light in an optical touch-sensitive device
EP2311251B1 (en) * 2008-08-03 2020-01-01 Microsoft Technology Licensing, LLC Rolling shutter camera system and method
US8681321B2 (en) * 2009-01-04 2014-03-25 Microsoft International Holdings B.V. Gated 3D camera

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4935616A (en) * 1989-08-14 1990-06-19 The United States Of America As Represented By The Department Of Energy Range imaging laser radar
CN1844852A (zh) * 1995-06-22 2006-10-11 3Dv系统有限公司 生成景物的混合图象的方法
US7224384B1 (en) * 1999-09-08 2007-05-29 3Dv Systems Ltd. 3D imaging system

Also Published As

Publication number Publication date
IL226723A (en) 2016-11-30
KR20130137651A (ko) 2013-12-17
CN102547156A (zh) 2012-07-04
JP5898692B2 (ja) 2016-04-06
CA2820226A1 (en) 2012-06-21
WO2012082443A3 (en) 2012-10-04
EP2652956A4 (en) 2014-11-19
WO2012082443A2 (en) 2012-06-21
US20120154535A1 (en) 2012-06-21
EP2652956A2 (en) 2013-10-23
JP2014509462A (ja) 2014-04-17

Similar Documents

Publication Publication Date Title
CN102547156B (zh) 在相同光敏面上的相同帧中捕捉门控和非门控光
US8717469B2 (en) Fast gating photosurface
US10277850B2 (en) Solid-state imaging device for a distance sensor transferring charges from one pixel while resetting another pixel in a same period
CN106688099B (zh) 可变分辨率像素
KR101508410B1 (ko) 거리 화상 센서, 및 촬상 신호를 비행시간법에 의해 생성하는 방법
US10764518B2 (en) Pixel structure
CN104396226B (zh) 用于提供白天场景和夜间场景的改进的图像的系统
CN104603574B (zh) 具有多个光源的运动传感器装置
CN105144698B (zh) 具有增强的感光度的光电传感器
CN106165399A (zh) 高分辨率、高帧率、低功率的图像传感器
WO2009147862A1 (ja) 撮像装置
US20090040502A1 (en) Spatial information detecting device and photodetector suitable therefor
JP5518667B2 (ja) 距離センサ及び距離画像センサ
CN106210570A (zh) 具有改进的起始信令的飞行时间成像
CN109791204A (zh) 用于确定到对象的距离的系统
CN102714702A (zh) 摄像装置和固态图像传感器的驱动方法
US20180219035A1 (en) Solid state imaging device
US8576319B2 (en) Image sensor, semiconductor device and image sensing method
KR102663646B1 (ko) 거리 측정을 위해 픽셀에서 spad + ppd 또는 커패시터를 사용하는 시간 분해형 센서
JP4534670B2 (ja) カメラ装置およびそれを用いたテレビインターホン用子機
TW200305712A (en) Method and apparatus for resolving relative times-of-arrival of light pulses
Golitsyn et al. The implementation of gated-viewing system based on CCD image sensor
CN114829970A (zh) 飞行时间成像电路、飞行时间成像系统和飞行时间成像方法
CN111034178B (zh) 固体摄像装置及具备该固体摄像装置的摄像装置
JP3954300B2 (ja) 3次元画像検出装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: MICROSOFT TECHNOLOGY LICENSING LLC

Free format text: FORMER OWNER: MICROSOFT CORP.

Effective date: 20150423

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20150423

Address after: Washington State

Patentee after: Micro soft technique license Co., Ltd

Address before: Washington State

Patentee before: Microsoft Corp.

CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20150107

Termination date: 20181214

CF01 Termination of patent right due to non-payment of annual fee