CN115668971A - 具有多个电源域的可编程像素阵列 - Google Patents

具有多个电源域的可编程像素阵列 Download PDF

Info

Publication number
CN115668971A
CN115668971A CN202180037463.3A CN202180037463A CN115668971A CN 115668971 A CN115668971 A CN 115668971A CN 202180037463 A CN202180037463 A CN 202180037463A CN 115668971 A CN115668971 A CN 115668971A
Authority
CN
China
Prior art keywords
memory
power state
power
pixel cells
state control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180037463.3A
Other languages
English (en)
Inventor
安德鲁·塞缪尔·贝尔科维奇
什洛莫·阿尔卡雷
汉斯·雷瑟霍夫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Meta Platforms Technologies LLC
Original Assignee
Meta Platforms Technologies LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Meta Platforms Technologies LLC filed Critical Meta Platforms Technologies LLC
Publication of CN115668971A publication Critical patent/CN115668971A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/709Circuitry for control of the power supply
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Dram (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

在一些示例中,一种装置包括像素单元阵列以及与该像素单元阵列中的多个像素单元块相关联且与第一分级电源域相关联的多个处理电路。该装置还包括多个存储器器件组,每个存储器器件组与像素单元块相关联,以存储相关联的像素单元块的量化结果,该多个存储器器件组还与第二分级电源域相关联。该装置还包括处理电路电源状态控制电路和存储器电源状态控制电路,该处理电路电源状态控制电路被配置为基于针对每个像素单元块的编程数据、以及多个全局处理电路电源状态控制信号,控制多个处理电路的电源状态,该存储器电源状态控制电路被配置为基于该编程数据和多个全局存储器电源状态控制信号,控制多个存储器器件组的电源状态。

Description

具有多个电源域的可编程像素阵列
相关申请
本专利申请要求于2020年5月20日提交的、名称为“用于图像传感器的细粒度电源门控”的第63/027,820号美国临时专利申请以及于2020年10月7日提交的、名称为“用于图像传感器的细粒度电源门控”的第63/088,807号美国临时专利申请的优先权,上述申请已转让给其受让人,并且出于所有目的通过引用将上述申请的全部内容并入本文。
背景技术
本公开总体上涉及图像传感器,并且更具体地,涉及包括可编程像素阵列的图像传感器。
典型的图像传感器包括像素单元阵列。每个像素单元可以包括光电二极管,该光电二极管通过将多个光子转换为电荷(例如,多个电子或多个空穴)来感测光。可以将每个像素单元处转换的电荷量化为数字像素值,并且可以根据数字像素值阵列生成图像。许多应用可能需要图像传感器提供高分辨率图像和/或以高帧率提供图像。
发明内容
本公开涉及图像传感器。更具体且非限制性地,本公开涉及一种具有可编程像素单元阵列的图像传感器。
在一些示例中,提供了一种装置。该装置包括:像素单元阵列、多个处理电路、多个存储器器件组、处理电路电源状态控制电路、存储器电源状态控制电路以及像素单元阵列控制电路;该像素单元阵列中的每个像素单元包括一个或多个光电二极管,该一个或多个光电二极管被配置为检测光;该多个处理电路与像素单元阵列中的多个像素单元块相关联,处理电路被配置为对由相关联的像素单元块中的一个或多个光电二极管检测到的光的强度进行量化,以生成量化结果,该多个处理电路还与包括处理电路电源域和多个处理电路电源子域的第一分级电源域相关联,其中,与不同像素单元块相关联的多个处理电路与不同处理电路电源子域相关联;每个存储器器件组与像素单元块相关联,该存储器器件组被配置为存储相关联的像素单元块的量化结果,该多个存储器器件组还与包括存储器电源域和多个存储器电源子域的第二分级电源域相关联,其中,与不同像素单元块相关联的多个存储器器件组与不同存储器电源子域相关联;该处理电路电源状态控制电路被配置为控制多个处理电路的电源状态;该存储器电源状态控制电路被配置为控制多个存储器器件组的电源状态;该像素单元阵列控制电路被配置为:接收像素阵列编程映射,该像素阵列编程映射包括针对像素单元阵列中的每个像素单元块的编程数据;向每个目标像素单元块发送编程数据,以单独配置与不同处理电路电源子域相关联的多个处理电路的第一电源状态,并且单独配置与不同存储器电源子域相关联的多个存储器组的第二电源状态;使用处理电路电源状态控制电路来发送全局处理电路电源状态控制信号,以将处理电路电源域的多个处理电路配置为从第一电源状态切换到同一第三电源状态;以及使用存储器电源状态控制电路来发送全局存储器电源状态控制信号,以将存储器电源域的多个存储器器件组配置为从第二电源状态切换到同一第四电源状态。
在一些方面,每个像素单元块包括像素单元,其中,与该像素单元块相关联的处理电路和存储器器件组为该像素单元的一部分。
在一些方面,每个像素单元块包括多个像素单元,其中,该块中的每个像素单元依次访问与该像素单元块相关联的处理电路和存储器器件组。
在一些方面,处理电路电源域与每个像素单元块的处理电路相关联。第一分级电源域还包括多个第一级处理电路电源子域和多个第二级处理电路电源子域。每个第一级处理电路电源子域与同一列像素单元块的处理电路相关联。每个第二级处理电路电源子域与像素单元块的处理电路相关联。
在一些方面,处理电路电源状态控制电路包括全局处理电路电源状态控制电路和多个列处理电路电源状态控制电路;该全局处理电路电源状态控制电路被配置为设置处理电路电源域的所有处理电路的电源状态;该多个列处理电路电源状态控制电路被配置为单独设置与每个第一级处理电路电源域相关联的每列像素单元块的处理电路的电源状态。每个像素单元块包括局部处理电路电源状态控制电路,该局部处理电路电源状态控制电路被配置为设置与第二级处理电路电源域相关联的像素单元块的处理电路的电源状态。
在一些方面,全局处理电路电源状态控制电路被配置为向每个列处理电路电源状态控制电路发送全局处理电路电源状态控制信号,以设置处理电路电源域的所有处理电路的电源状态的上限。每个列处理电路电源状态控制电路被配置为基于全局处理电路电源状态控制信号,向该列的每个像素单元块发送列处理电路电源状态控制信号,以设置该列的所有处理电路的电源状态的上限。每个像素单元块的局部处理电路电源状态控制电路被配置为基于列处理电路电源状态控制信号和编程数据,设置该像素单元块的处理电路的电源状态。
在一些方面,存储器电源域与每个像素单元块的存储器器件组相关联。第二分级电源域还包括多个第一级存储器电源子域和多个第二级存储器电源子域。每个第一级存储器电源子域与同一列像素单元块的存储器器件组相关联。每个第二级存储器电源子域与像素单元块的存储器器件组相关联。
在一些方面,第二分级电源域还包括多个第三级存储器电源子域,该多个第三级存储器电源子域与存储器器件组内的不同存储器器件子集相关联。
在一些方面,存储器电源状态控制电路包括:全局存储器电源状态控制电路和多个列存储器电源状态控制电路;该全局存储器电源状态控制电路被配置为设置存储器电源域的所有存储器器件组的电源状态,该多个列存储器电源状态控制电路被配置为单独设置与每个第一级存储器电源域相关联的每列像素单元块的存储器器件组的电源状态。每个像素单元块包括局部存储器电源状态控制电路,该局部存储器电源状态控制电路被配置为设置该像素单元块的存储器器件组中的不同存储器器件子集的电源状态,该不同存储器器件子集与该像素单元块的第二级存储器电源域的不同第三级存储器电源域相关联。
在一些方面,全局存储器电源状态控制电路被配置为向每个列存储器电源状态控制电路发送全局存储器电源状态控制信号,以设置存储器电源域的所有存储器器件组的电源状态的上限。每个列存储器电源状态控制电路被配置为基于全局存储器电源状态控制信号,向该列的每个像素单元块发送列存储器电源状态控制信号,以设置该列的所有存储器组的电源状态的上限。每个像素单元块的局部存储器电源状态控制电路被配置为基于列存储器电源状态控制信号和编程数据,设置该像素单元块的存储器器件组中的不同存储器器件子集的电源状态。
在一些方面,编程数据对于每个像素单元块指示以下各项中的一项:像素单元块被完全启用、像素单元块被停用、或像素单元块的性能模式。
在一些方面,与像素单元块相关联的处理电路包括量化器。编程数据指示量化器的量化分辨率。量化器被配置为基于编程数据或全局处理电路电源状态控制信号中的至少一者,以该量化分辨率生成量化结果。与像素单元块关联的存储器器件组中的存储器器件子集被配置为,基于编程数据或全局存储器电源状态控制信号中的至少一者,存储具有量化分辨率的量化结果。
在一些方面,量化器被配置为基于对偏置电流进行设置,以该量化分辨率生成量化结果,偏置电流基于编程数据或全局处理电路电源状态控制信号中的至少一者。
在一些方面,存储器器件组被配置为基于全局存储器电源状态控制信号以以下各种模式中的一种模式运行:完全停用模式、支持读取和写入访问操作的完全运行模式、以及保留存储的数据但是不支持读取和写入访问操作的部分运行模式。
在一些方面,该装置还包括第一分级多路复用器网络和第二分级多路复用器网络。全局处理电路电源状态控制信号经由第一分级多路复用器网络来传输。全局存储器电源状态控制信号经由第二分级多路复用器网络来传输。
在一些方面,该装置还包括偏压发生器、数字斜坡电路和模拟阈值生成电路,该偏压发生器被配置为向处理电路供应偏置电压,该数字斜坡电路和模拟阈值生成电路被配置为向处理电路供应用于支持处理电路生成量化结果的信号。偏压发生器、数字斜坡电路和模拟阈值生成电路与处理电路电源域中的不同处理电路电源子域相关联。像素单元阵列控制电路被配置为:发送编程数据以启用像素单元块子集;在曝光周期的第一部分内,发送第一全局处理电路电源状态控制信号和第一全局存储器电源状态控制信号,以停用处理电路电源域的所有处理电路、偏压发生器、数字斜坡电路和模拟阈值生成电路、以及存储器电源域的所有存储器器件组;在曝光周期的第二部分内,发送第二全局存储器电源状态控制信号,以使像素单元块子集的处理电路以低功率模式运行、并且启用模拟阈值生成电路以向处理电路供应静态阈值,以确定像素单元阵列是否接收到阈值强度的光;在量化周期内,发送第二全局处理电路电源状态控制信号和第三全局存储器电源状态控制信号,以启用处理电路、数字斜坡电路、模拟阈值生成电路和像素单元块子集的存储器器件组,以基于编程数据生成并存储量化结果;以及在量化周期结束后,发送第三全局处理电路电源状态控制信号,以停用像素单元块子集中的处理电路、并且以停用数字斜坡电路和模拟阈值生成电路。
在一些方面,该装置还包括接口电路,接口电路被配置为将数据从存储器器件组传输到外部主机设备。像素单元阵列控制电路还被配置为:在量化周期之后的读出周期的第一部分内,发送第四全局存储器电源状态控制信号,以使像素单元块子集的存储器器件组保留量化结果,并且停用接口电路;在读出周期的第二部分内,将第五全局存储器电源状态控制信号顺序地传输到多列像素单元块,以执行从该多列像素单元块中的每列像素单元块的存储器器件组的读出操作,并且启用接口电路,以将从读出操作获得的数据传输到主机设备;以及在对于该列的读出操作完成之后,将第六全局存储器电源状态控制信号顺序地传输到该多列像素单元块,以停用该多列像素单元块中的每列像素单元块的存储器器件组、并且停用接口电路。
在一些方面,存储器器件组包括多个动态随机存取存储器(dynamic randomaccess memory,DRAM)器件。对于每列像素单元块,该装置还包括预充电电路,该预充电电路被配置为在读出操作之前对该列的存储器器件组进行预充电,一列的每个预充电电路与作为该列的存储器器件组的存储器电源子域相关联;其中,第五全局存储器电源状态控制信号在对于每个列的读出操作之前顺序地启用该列的预充电电路;其中,第六全局存储器电源状态控制信号在对于每个列的读出操作完成之后停用该列的预充电电路。
在一些示例中,提供了一种方法。该方法包括:接收像素阵列编程映射,该像素阵列编程映射包括针对图像传感器的像素单元阵列中的每个像素单元块的编程数据,该图像传感器还包括多个处理电路和多个存储器器件组,该多个处理电路和该多个存储器器件组与像素单元阵列中的多个像素单元块相关联,该多个处理电路还与包括处理电路电源域和多个处理电路电源子域的第一分级电源域相关联,该多个存储器器件组还与包括存储器电源域和多个存储器电源子域的第二分级电源域相关联,其中,与不同像素单元块相关联的多个处理电路与不同处理电路电源子域相关联,并且其中,与不同像素单元块相关联的多个存储器器件组与不同存储器电源子域相关联;向每个目标像素单元块发送编程数据,以单独配置与不同处理电路电源子域相关联的多个处理电路的第一电源状态,并且单独配置与不同存储器电源子域相关联的多个存储器组的第二电源状态;发送全局处理电路电源状态控制信号,以将处理电路电源域的多个处理电路配置为从第一电源状态切换到同一第三电源状态;以及发送全局存储器电源状态控制信号,以将存储器电源域的多个存储器器件组配置为从第二电源状态切换到同一第四电源状态。
在一些方面中,发送编程数据以启用像素单元块子集。该方法还包括:在曝光周期的第一部分内,发送第一全局处理电路电源状态控制信号和第一全局存储器电源状态控制信号,以停用处理电路电源域的所有处理电路和存储器电源域的所有存储器器件组;在曝光周期的第二部分内,发送第二全局存储器电源状态控制信号,以使该像素单元块子集的处理电路以低功率模式运行,从而确定像素单元阵列是否接收到阈值强度的光;在量化周期内,发送第二全局处理电路电源状态控制信号和第三全局存储器电源状态控制信号,以启用该像素单元块子集的处理电路和存储器器件组,从而基于编程数据生成并存储量化结果;以及在量化周期结束后,发送第三全局处理电路电源状态控制信号,以停用该像素单元块子集的处理电路。
在一些方面中,该方法还包括:在量化周期之后的读出周期的第一部分内,发送第四全局存储器电源状态控制信号,以使像素单元块子集的存储器器件组保留量化结果;在读出周期的第二部分内,将第五全局存储器电源状态控制信号顺序地传输到多列像素单元块,以执行从该多列像素单元块的每列像素单元块的存储器器件组的读出操作;以及在读出操作完成之后,将第六全局存储器电源状态控制信号顺序地传输到该多列像素单元块,以停用该多列像素单元块中的每列像素单元块的存储器器件组。
附图说明
参考以下附图对说明性实施例进行描述。
图1A和图1B为近眼显示器的实施例的示意图。
图2为近眼显示器的横截面的实施例。
图3示出了具有单个源组件的波导显示器的实施例的等距视图。
图4示出了波导显示器的实施例的横截面。
图5为包括近眼显示器的系统的实施例的框图。
图6A、图6B、图6C、图6D、图6E和图6F示出了图像传感器及其操作的示例。
图7A、图7B和图7C示出了图像处理系统及其操作的示例。
图8A、图8B和图8C示出了图7A至图7E的图像处理系统中的示例部件。
图9A、图9B和图9C示出了图7A至图7E的图像传感器中的分级电源域的示例。
图10A、图10B、图10C和图10D示出了图7A至图7C的图像传感器中的示例部件。
图11A、图11B、图11C、图11D和图11E示出了图7A至图7C的图像传感器中的示例部件。
图12示出了基于图7A至图11E中描述的示例技术的示例图像传感器的示例操作。
图13示出了用于生成图像数据的示例过程的流程图。
附图描绘了本公开的示例,仅供说明之用。本领域技术人员将从以下描述中容易地认识到,在不脱离本公开的原理或本公开所宣称的益处的情况下,可以采用所示出的结构的替代实施例和所示出的方法的替代实施例。
在附图中,相似的部件和/或特征可以具有相同的参考标记。此外,可以通过在参考标记后跟随连接号和区分多个相似部件的第二标记,来区分相同类型的各个部件。如果说明书中仅使用了第一参考标记,则该描述可适用于具有相同第一参考标记的多个相似部件中的任一个,而不考虑第二参考标记。
具体实施方式
在以下描述中,出于解释的目的,阐述了具体细节以便提供对某些发明示例的透彻理解。然而,将显而易见的是,可以在没有这些具体细节的情况下来实践各种实施例。这些附图和描述并不意味着是限制性的。
典型的图像传感器包括像素单元阵列。每个像素单元包括光电二极管,该光电二极管通过将多个光子转换为电荷(例如,多个电子或多个空穴)来感测入射光。然后,可以由模数转换器(analog-to-digital converter,ADC)将由像素单元阵列中的多个光电二极管产生的电荷量化为多个数字值。ADC可以通过例如使用比较器将代表电荷的电压与一个或多个量化电平进行比较,来对电荷进行量化;并且可以基于比较结果生成数字值。然后,可以将多个数字值存储在存储器中以生成图像。
来自图像传感器的图像数据可以支持各种可穿戴应用程序,这些可穿戴应用程序例如为,2D和3D感测的融合、对象识别和追踪、位置追踪等。这些应用程序可以从图像的像素子集中提取特征信息,以执行计算。例如,为了执行3D感测,应用程序可以识别反射结构光(例如,点)的像素,将从这些像素中提取的图案与透射结构光进行比较,并且基于该比较来执行深度计算。该应用程序还可以识别来自相同像素单元(这些相同像素单元提供了所提取的结构光图案)的2D像素数据,以执行2D和3D感测的融合。为了执行对象识别和追踪,应用程序也可以识别对象的图像特征的像素,从这些像素中提取图像特征,并基于多个提取结果执行识别和追踪。通常在主机处理器上执行这些应用程序,该主机处理器可以与图像传感器电连接,并且经由互连件接收像素数据。主机处理器、图像传感器和互连件可以是可穿戴设备的部件。
所有这些应用程序都可以从高分辨率图像和/或高帧率中获益。较高分辨率图像允许应用程序提取更详细的特征/图案(例如,更精细的反射结构光图案、更详细的图像特征等),而提供以高帧率生成的图像使得应用程序能够以较高采样速率追踪对象的位置、可穿戴设备的位置等,这两者均可以提高这些应用程序的性能。
然而,高分辨率图像和高帧率会导致大量像素数据的生成、传输和处理,这会带来许多挑战。例如,以高数据速率传输和处理大量像素数据会导致图像传感器、互连件和主机处理器处的高功耗。此外,图像传感器和主机处理器可能对大量像素数据的生成和处理施加带宽限制并增加延迟。对于由于外形因素和安全考虑而趋向于以相对低的功率和相对低的速度运行的可穿戴设备来说,高功率和高带宽要求尤其可能会出现问题。
本公开涉及一种图像传感器,该图像传感器可解决上述问题中的至少一些问题。图像传感器包括像素单元阵列、多个处理电路、多个存储器、和控制器。每个像素单元可以包括一个或多个光电二极管,以检测光并且将光转换成电荷。处理电路可以包括电荷测量器件。每个电荷测量器件可以包括电荷存储器件(例如,浮置扩散)和源极跟随器,以将电荷转换为电压。处理电路还可以包括比较器,以对由像素单元输出的电压进行量化,以生成量化结果,而存储器可以包括存储器器件组,以存储该量化结果。图像传感器还可以包括其他电路,例如用于生成模拟阈值电压(该模拟阈值电压可以是模拟斜坡电压、静态阈值电压等)的模拟阈值生成电路以及用于生成数字斜坡的数字斜坡电路(例如,计数器),以支持处理电路的量化操作。
在一些示例中,多个处理电路和多个存储器组可以被划分成多个量化单元,其中,每个量化单元可以被一组像素单元共享,其中,每组像素单元包括像素单元、像素单元块(例如,像素单元子阵列)、一行像素单元或一列像素单元。在一些示例中,每个像素单元可以包括量化单元,该量化单元包括比较器和存储器器件组。模拟阈值生成电路和计数器可以由阵列内的所有像素单元或一行/列像素单元共享。
该多个处理电路可以与处理电路电源域相关联,而该多个存储器可以与存储器电源域相关联。处理电路电源域和存储器电源域中的每个还包括分级的多个电源子域。控制器可以分别控制处理电路电源域和存储器电源域、以及它们的分级的多个电源子域,以设置处理电路的第一电源状态和存储器的第二电源状态。
在一些示例中,通过对处理电路电源域和存储器电源域进行控制,控制器可以执行空间电源状态控制操作,在该空间电源状态控制操作中,控制器可以在高功率模式下选择性地启用或操作像素单元的第一子集,并且在低功率模式下(或在停用模式下)选择性地启用或操作像素单元阵列的第二子集,以减小图像传感器的功耗。可以执行空间电源状态控制操作以支持稀疏图像感测操作,在该稀疏图像感测操作中,像素单元的第一子集可以与场景中提供了应用程序可以以较高精度/频率处理的重要信息的感兴趣区域(region ofinterest,ROI)相关联,而来自像素单元阵列的第二子集的输出可以被忽略,或者由应用程序以较低精度/频率处理。
通过使像素单元子集以全功率运行来执行光强度测量操作,同时停用(或以低功率状态运行)其余像素单元,图像传感器可以生成包含应用感兴趣的信息的稀疏图像。同时,不生成或以低速度/低分辨率生成应用不感兴趣的信息,这可以减小图像传感器的功耗并且提高图像传感器的电源效率。此外,控制器可以执行时间性电源状态控制操作,在该时间性电源状态控制操作中,控制器可以关于时间而改变处理电路和/或存储器(包括多个处理电路和/或多个存储器中的被像素单元的第一子集使用的部分)的电源状态,以进一步减小图像传感器的功耗并且提高图像传感器的电源效率。
此外,可以基于分级的多个电源子域进一步划分该多个处理电路和多个存储器,其中,每个电源子域可以由控制器单独控制。例如,由不同组像素单元(例如,不同行的像素单元/不同列的像素单元/不同像素单元块)使用的不同量化单元中的多个处理电路、或由不同像素单元使用的不同量化单元中的多个处理电路可以与不同处理电路电源子域相关联。在一些示例中,多个量化单元中的多个处理电路还可以与同一处理电路电源子域相关联。在一些示例中,模拟斜坡发生器和数字斜坡发生器可以各自与一不同处理电路电源子域相关联。控制器可以将多个处理电路电源子域单独设置成不同的电源状态。在一些示例中,控制器可以将处理电路电源域/处理电路电源子域设置为多种电源状态中的一种电源状态,这些电源状态例如为完全开启状态、完全关闭状态、以及量化电路单元以低功率模式运行的中间状态。
可以基于量化电路单元的性能模式,选择处理电路电源状态。例如,控制器可以将第一处理电路电源子域设置为处于完全开启状态(例如,高电源电压、高电源电流等),以使与第一处理电路子域相关联的量化电路能够以高性能模式运行,该高性能模式具有例如较高的输入摆幅、较高的带宽、较高的分辨率、较高的线性度、较低的噪声等。控制器还可以将第二处理电路电源子域设置为处于低功率状态或完全关闭状态,以使与第二处理电路子域相关联的量化电路能够以低性能模式运行、或者以停用这些量化电路,该低性能模式具有例如较低的输入摆幅、较低的带宽、较低的分辨率、较低的线性度、较高的噪声等。在一些示例中,第一处理电路电源子域可以与和感兴趣区域相对应的像素单元的第一子集的量化电路单元相关联,而第二处理电路电源子域可以与感兴趣区域之外的像素单元阵列的第二子集的量化电路单元相关联。
此外,可以以不同的方式将多个存储器划分为与不同存储器电源子域有关。例如,由不同组像素单元(例如,不同行的像素单元/不同列的像素单元/不同像素单元块)使用或由不同像素单元使用的不同量化单元中的多个存储器器件组可以与不同存储器电源子域相关联。如果例如第一存储器电源子域的多个第一存储器器件组被与感兴趣区域相对应的像素单元的第一子集使用,那么控制器可以启用该多个第一存储器器件组,并且停用(或以较低功率状态操作)其它存储器器件组。在一些示例中,可以将一组像素单元(或像素单元)使用的存储器器件组划分为与多个存储器电源子域相关。存储器器件组的不同位组可以与不同存储器电源子域相关联,并且控制器可以基于例如待存储在存储器器件组处的量化结果的分辨率,控制不同位组的电源状态。例如,当量化单元以高分辨率(例如,12位(bit)量化)运行时,控制器可以完全开启存储器器件组的12位以存储12位量化结果。当量化电路以具有降低的量化分辨率(例如,8位、4位、1位等)的低功率状态运行时,控制器可以停用该存储器器件组的不用于存储量化结果的多个位组,以减小存储器的漏电流和总功耗。
在一些示例中,控制器还可以将存储器电源域/存储器电源子域设置为多种电源状态中的一种电源状态,这些电源状态例如为完全开启状态、完全关闭状态、以及存储器以低功率模式运行时的中间状态。在完全开启状态下,可以将向存储器提供的电源电压设置为处于支持读取和写入操作的水平。在完全关闭状态下,可以将向存储器提供的电源电压降到零,这会失去读取/写入能力和存储的数据,但还具有最小的漏电流。此外,在低功率模式下,可以降低向存储器提供的电源电压,以使得存储器无法支持读取和写入操作,但是仍然可以保留存储的数据。
控制器可以执行时间性电源状态控制操作,在该时间性电源状态控制操作中,控制器可以关于时间改变不同处理电路电源子域的电源状态和不同存储器电源子域的电源状态,以进一步减小功耗。例如,可以将帧周期分为多个阶段。在第一阶段中,控制器可以停用量化单元中的存储器,并且以低功率状态操作该量化单元中的处理电路,以检测光并且以非常低的分辨率(例如,1位)生成量化结果。在第二阶段中,如果量化结果指示存在光,则控制器可以以完全开启状态操作该量化单元,以生成并存储量化结果。在第三状态中,在量化结果被存储之后,控制器可以关闭该量化单元内的处理电路,并且以低功率状态操作该量化单元中的存储器,以在保留存储的数据的同时减少漏电。在存储的数据被从存储器读出之后,控制器可以停用整个量化单元,直到下一个帧周期开始。
图像传感器可以包括分级电源控制电路,以实现对处理电路电源域/电源子域的电源状态和存储器电源域/电源子域的电源状态的设置。每个电源控制电路可以包括例如电源选通(power gate)、多路复用器等,以将电路(例如,量化电路单元、一个或多个存储器位等)与电源、偏置电压等选择性地连接或断开,从而启用/停用该电路。每个电源控制电路还可以包括可编程电流源以设置例如处理电路的偏置电流,从而调整处理电路的性能模式(例如,带宽、线性度、分辨率等)以及处理电路的功耗。在一些示例中,图像传感器可以包括位于全部处理电路的电源电压端子和全部存储器的电源电压端子与图像传感器的电源系统之间的全局电源控制电路(例如,全局电源选通),以启用或停用图像传感器的整个处理电路电源域和/或整个存储器电源域。另外,图像传感器可以包括位于不同电源子域内的局部电源控制电路,以调整特定处理电路电源子域/特定存储器电源子域的电源状态,局部电源控制电路例如位于由一组像素单元或由像素单元使用的量化单元处。
控制器可以基于各种信号传递设置,控制分级电源控制电路。在一些示例中,像素单元阵列中的每个像素单元(或像素单元块)可以连接到行总线和列总线,该行总线和该列总线各自由控制器驱动,并且图像传感器可以包括连接到多个像素单元的多条行总线和多条列总线。每个像素单元(或像素单元块)可以由行总线和列总线上的信号单独可寻址,继而像素单元可以控制与该像素单元相关联的处理电路和存储器器件组的电源状态。控制器可以接收编程映射(该编程映射包括用于每个像素单元的编程数据),从编程映射中提取用于每个像素单元的编程数据,并且经由多条行总线和多条列总线上的信号传递,针对不同像素单元发送不同编程数据。编程数据可以指定与特定像素单元/特定像素单元块相关联的电路的电源状态和/或存储器器件组的电源状态。然后,接收编程数据的像素单元(或像素单元块)可以基于该编程数据,设置相关联的电路的电源状态和/或相关联的存储器器件组的电源状态,这继而允许对不同电源子域的量化电路单元的电源状态和/或存储器的电源状态进行单独设置。编程数据还可以对多个像素单元的其它操作进行配置,这些操作例如为曝光周期的持续时间。同时,量化电路的电源电压端子和存储器的电源电压端子可以经由全局电源选通连接到图像传感器的电源,该全局电源选通可以由控制器提供的全局信号控制,以设置处理电路电源域的电源状态和存储器电源域的电源状态。
在一些示例中,控制器可以在将编程数据传输到目标像素单元之后,使用附加行信号/列信号的组合来控制分级电源控制电路。这可以减少待被传输以执行时间性电源状态控制操作的不同编程数据集的数量。例如,在对于由一行像素单元使用的存储器,读出操作完成之后,控制器可以向该行像素单元发送行控制信号以使存储器断电,而不是发送新的编程数据集以单独设置该行中每个像素单元的存储器的电源状态。作为另一示例,控制器可以使用行总线/列总线来传输用于量化电路单元的偏置电压,并且可以由局部电源控制电路基于编程数据对该偏置电压进行选通,以基于编程数据来选择性地关断由感兴趣区域之外的像素单元所使用的个别量化电路。在量化操作完成并且量化结果被存储在存储器中之后,控制器可以将由行总线/列总线供应的偏置电压切换到地,以关断所有量化电路单元,从而减小功率。
利用所公开的技术,图像传感器可以单独设置不同处理电路和存储器电源域/电源子域的电源状态,并且选择性地使在稀疏图像感测操作中不使用的量化电路和存储器断电(或以低功率状态操作量化电路和存储器)。由于量化器和存储器通常消耗了图像传感器内的大部分功率,因此停用感兴趣区域中的像素单元不使用的量化电路和存储器可以使得功耗大幅减小且使用电源效率提高。此外,通过将多个像素、多个像素块、存储器的不同位、和/或量化电路单元中的不同电路元件与不同电源子域相关联,可以在空间和时间这二者上提供对功耗的细粒度控制。这些设置可以改进图像传感器中的在任何给定时间被启用或停用的元件的列表,以支持稀疏图像感测操作,这可以进一步提高图像传感器的电源效率。所有这些均可以提高图像传感器的性能,尤其是考虑到诸如可穿戴设备等移动设备施加的功率约束、以及依赖于图像传感器的输出的应用的性能。
所公开的技术可以包括人工现实系统(artificial reality system)、或结合人工现实系统而被实现。人工现实是在呈现给用户之前已经以某些方式进行了调整的现实形式,该人工现实可以包括例如虚拟现实(virtual reality,VR)、增强现实(augmentedreality,AR)、混合现实(mixed reality,MR)、混合现实(hybrid reality),或它们的一些组合和/或衍生物。人工现实内容可以包括完全生成的内容或与采集到的(例如,真实世界)内容相结合而生成的内容。人工现实内容可以包括视频、音频、触觉反馈或它们的一些组合,以上任何一种都可以在单通道或多通道(例如,给观看者带来三维效果的立体视频)中被呈现。此外,在一些实施例中,人工现实还可以与应用、产品、附件、服务或它们的一些组合相关联,这些应用、产品、附件、服务或它们的一些组合用于例如在人工现实中创建内容,和/或以其他方式用于人工现实中(例如,在人工现实中执行动作)。提供人工现实内容的人工现实系统可以在各种平台上实现,这些平台包括连接到主控计算机系统的头戴式显示器(head-mounted display,HMD)、独立HMD、移动设备或计算系统、或能够向一位或多位观看者提供人工现实内容的任何其他硬件平台。
图1A为近眼显示器100的实施例的示意图。近眼显示器100向用户呈现媒体。由近眼显示器100呈现的媒体的示例包括一幅或多幅图像、视频和/或音频。在一些实施例中,经由外部设备(例如,扬声器和/或耳机)来呈现音频,该外部设备接收来自近眼显示器100、控制台、或近眼显示器100和控制台这两者的音频信息,并基于该音频信息呈现音频数据。近眼显示器100通常被配置为作为虚拟现实(VR)显示器运行。在一些实施例中,近眼显示器100被调整为,作为增强现实(AR)显示器和/或混合现实(MR)显示器运行。
近眼显示器100包括框架105和显示器110。框架105与一个或多个光学元件结合。显示器110被配置为供用户观看由近眼显示器100呈现的内容。在一些实施例中,显示器110包括波导显示组件,该波导显示组件用于将来自一幅或多幅图像的光引导到用户的眼睛。
近眼显示器100还包括图像传感器120a、120b、120c和120d。图像传感器120a、120b、120c和120d中的各个图像传感器可以包括,被配置为生成表示沿不同方向的不同视场的图像数据的像素阵列。例如,传感器120a和120b可以被配置为提供表示沿Z轴朝向方向A的两个视场的图像数据,而传感器120c可以被配置为提供表示沿X轴朝向方向B的视场的图像数据,并且传感器120d可以被配置为提供表示沿X轴朝向方向C的视场的图像数据。
在一些实施例中,传感器120a至120d可以作为输入设备而被配置为控制或影响近眼显示器100的显示内容,以向佩戴近眼显示器100的用户提供交互式VR/AR/MR体验。例如,传感器120a至120d可以生成用户所处的物理环境的物理图像数据。可以将物理图像数据提供给位置追踪系统,以追踪用户在物理环境中的位置和/或运动路径。然后,系统可以基于例如用户的位置和朝向,更新提供给显示器110的图像数据,以提供交互式体验。在一些实施例中,位置追踪系统可以运行SLAM算法,以在用户在物理环境中运动时追踪物理环境中和用户的视场内的对象集。位置追踪系统可以基于对象集来构建和更新物理环境的地图,并且追踪用户在地图内的位置。通过提供与多个视场对应的图像数据,传感器120a至120d可以向位置追踪系统提供更全面的物理环境的视图,这可以使得在地图的构建和更新中包括更多的对象。利用这种设置,可以提高对用户在物理环境内的位置进行追踪的准确性和鲁棒性。
在一些实施例中,近眼显示器100还可以包括一个或多个有源的照明器130,以将光投射到物理环境中。所投射的光可以与不同频谱(例如,可见光、红外光、紫外光等)相关联,并且可以用于各种目的。例如,照明器130可以在黑暗环境中(或者在具有低强度的红外光、紫外光等的环境中)投射光,以协助传感器120a至120d采集黑暗环境内的不同对象的图像,从而实现例如用户的位置追踪。照明器130可以将某些标记投射到环境内的多个对象上,以协助位置追踪系统识别这些对象,从而用于地图构建/更新。
在一些实施例中,照明器130也可以实现立体成像。例如,传感器120a或120b中的一个或多个传感器可以包括用于感测可见光的第一像素阵列和用于感测红外(infra-red,IR)光的第二像素阵列这二者。第一像素阵列可以覆盖有滤色器(例如,拜耳滤色器(Bayerfilter)),其中,第一像素阵列中的每个像素被配置为测量与特定颜色(例如,红色、绿色或蓝色中的一种颜色)相关联的光的强度。第二像素阵列(用于感测IR光)也可以覆盖有仅允许IR光通过的滤光器,其中,第二像素阵列中的每个像素被配置为测量IR光的强度。这些像素阵列可以生成对象的RGB图像和IR图像,其中,IR图像中的每个像素被映射到RGB图像中的每个像素。照明器130可以将一组IR标记投影到对象上,可以由IR像素阵列采集该对象的图像。基于图像中示出的对象的这些IR标记的分布,系统可以估计该对象的不同部分与IR像素阵列之间的距离,并基于这些距离生成该对象的立体图像。基于该对象的立体图像,系统可以确定例如该对象相对于用户的相对位置,并且可以基于相对位置信息来更新提供给近眼显示器100的图像数据,从而提供交互式体验。
如上面论述的,可以在与非常宽的光强度范围相关联的环境中操作近眼显示器100。例如,可以在室内环境或室外环境中、和/或在一天的不同时间操作近眼显示器100。近眼显示器100还可以在有源的照明器130被开启或未被开启的情况下运行。因此,图像传感器120a至120d可能需要具有宽的动态范围,以能够在与近眼显示器100的不同操作环境相关联的非常宽的光强度范围内正常运行(例如,以产生与入射光的强度相关的输出)。
图1B为近眼显示器100的另一实施例的示意图。图1B示出了近眼显示器100的面向佩戴近眼显示器100的用户的一个或多个眼球135的一侧。如图1B所示,近眼显示器100还可以包括多个照明器140a、140b、140c、140d、140e和140f。近眼显示器100还包括多个图像传感器150a和150b。照明器140a、140b和140c可以朝向方向D(该方向D与图1A中的方向A相反)发射特定频率范围(例如,近红外(NIR))的光。所发射的光可以与特定图案相关联,并且可以被用户的左眼球反射。图像传感器150a可以包括像素阵列,以接收反射光并生成反射图案的图像。类似地,照明器140d、140e和140f可以发射携带图案的NIR光。NIR光可以被用户的右眼球反射,并且可以被图像传感器150b接收。图像传感器150b也可以包括像素阵列,以生成反射图案的图像。基于来自图像传感器150a和150b的反射图案的图像,系统可以确定用户的注视点,并基于所确定的注视点来更新提供给近眼显示器100的图像数据,以为用户提供交互式体验。
如上面论述的,为了避免损害用户的眼球,照明器140a、140b、140c、140d、140e和140f通常被配置为输出非常低强度的光。在图像传感器150a和150b包括与图1A中的图像传感器120a至120d相同的传感器器件的情况下,当入射光的强度非常低时,图像传感器120a至120d可能需要能够产生与入射光的强度相关的输出,这可能进一步增加了这些图像传感器的动态范围要求。
此外,图像传感器120a至120d可能需要能够高速产生输出,以追踪眼球的运动。例如,用户的眼球可以进行非常快速的运动(例如,扫视运动),在该运动中,可以从一个眼球位置快速跳跃到另一个眼球位置。为了追踪用户的眼球的快速运动,图像传感器120a至120d需要高速生成眼球的图像。例如,图像传感器生成图像帧的速率(帧率)需要至少与眼球的运动速度相匹配。高帧率需要生成图像帧时所涉及的所有像素单元的总曝光时间短,且需要传感器输出转换为用于图像生成的数字值的速度高。此外,如上面论述的,这些图像传感器还需要能够在具有低的光强度的环境下运行。
图2为图1中示出的近眼显示器100的横截面200的实施例。显示器110包括至少一个波导显示组件210。出射光瞳230是当用户佩戴近眼显示器100时用户的单个眼球220位于眼动范围区域(eyebox region)中的位置。出于说明的目的,图2示出了与眼球220和单个波导显示组件210相关联的横截面200,而第二波导显示器用于用户的第二只眼睛。
波导显示组件210被配置为将图像光引导到位于出射光瞳230处的眼动范围并且将图像光引导至眼球220。波导显示组件210可以由具有一种或多种折射率的一种或多种材料(例如,塑料、玻璃等)构成。在一些实施例中,近眼显示器100包括位于波导显示组件210与眼球220之间的一个或多个光学元件。
在一些实施例中,波导显示组件210包括一个波导显示器或叠置的多个波导显示器,该一个波导显示器或叠置的多个波导显示器包括但不限于叠置式波导显示器、变焦波导显示器等。叠置式波导显示器是通过将多个波导显示器(其各自的单色源具有不同的颜色)叠置而产生的多色显示器(例如,红-绿-蓝(RGB)显示器)。叠置式波导显示器还是可以被投影在多个平面上的多色显示器(例如,多平面彩色显示器)。在一些配置中,叠置式波导显示器是可以被投影在多个平面上的单色显示器(例如,多平面单色显示器)。变焦波导显示器是可以对波导显示器发射的图像光的焦点位置进行调整的显示器。在可选的实施例中,波导显示组件210可以包括叠置式波导显示器和变焦波导显示器。
图3示出了波导显示器300的实施例的等距视图。在一些实施例中,波导显示器300是近眼显示器100中的部件(例如,波导显示组件210)。在一些实施例中,波导显示器300是将图像光引导到特定位置的某个其它近眼显示器或其它系统中的一部分。
波导显示器300包括源组件310、输出波导320和控制器330。出于说明的目的,图3示出了与单个眼球220相关联的波导显示器300,但是在一些实施例中,与波导显示器300分开或部分分开的另一个波导显示器向用户的另一只眼睛提供图像光。
源组件310生成图像光355。源组件310生成图像光355并且将该图像光输出到位于输出波导320的第一侧370-1上的耦合元件350。输出波导320是向用户的眼球220输出扩展后的图像光340的光波导。输出波导320在位于第一侧370-1上的一个或多个耦合元件350处接收图像光355,并且将接收到的输入的图像光355引导到引导元件(directing element)360。在一些实施例中,耦合元件350将来自源组件310的图像光355耦合到输出波导320中。耦合元件350可以是例如衍射光栅、全息光栅、一个或多个级联反射器、一个或多个棱柱表面元件、和/或全息反射器阵列。
引导元件360使接收到的输入的图像光355转向到解耦元件365,使得接收到的输入的图像光355通过解耦元件365从输出波导320分离出来。引导元件360是输出波导320的第一侧370-1的一部分,或者附着到该输出波导的第一侧。解耦元件365是输出波导320的第二侧370-2的一部分,或者附着到该输出波导的第二侧,使得引导元件360与解耦元件365相对。引导元件360和/或解耦元件365可以是例如衍射光栅、全息光栅、一个或多个级联反射器、一个或多个棱柱表面元件、和/或全息反射器阵列。
第二侧370-2表示沿x维度和y维度的平面。输出波导320可以由促进图像光355的全内反射的一种或多种材料构成。输出波导320可以由例如硅、塑料、玻璃和/或聚合物构成。输出波导320具有相对小的形状因子。例如,输出波导320沿x维度可以约为50mm(毫米)宽,沿y维度约为30mm长,沿z维度约为0.5mm至1mm厚。
控制器330控制源组件310的扫描操作。控制器330确定用于源组件310的扫描指令。在一些实施例中,输出波导320以大视场(field of view,FOV)向用户的眼球220输出扩展后的图像光340。例如,以60度和/或大于60度、和/或150度和/或小于150度的对角FOV(在x和y上)将扩展后的图像光340提供给用户的眼球220。输出波导320被配置为提供具有20mm或大于20mm、和/或等于或小于50mm的长度,和/或10mm或大于10mm、和/或等于或小于50mm的宽度的眼动范围。
此外,控制器330还基于图像传感器370提供的图像数据,控制由源组件310生成的图像光355。图像传感器370可以位于第一侧370-1上,并且可以包括例如图1A中的图像传感器120a至120d,以生成用户前方的物理环境的图像数据(例如,用于位置确定)。图像传感器370也可以位于第二侧370-2上,并且可以包括图1B中的图像传感器150a和150b,以产生用户的眼球220的图像数据(例如,用于注视点确定)。图像传感器370可以与未位于波导显示器300内的远程控制台交互。图像传感器370可以向远程控制台提供图像数据,该远程控制台可以确定例如用户的位置、用户的注视点等,并且确定待显示给用户的图像的内容。远程控制台可以向控制器330发送与所确定的内容相关的指令。基于这些指令,控制器330可以控制源组件310对图像光355的生成和输出。
图4示出了波导显示器300的横截面400的实施例。横截面400包括源组件310、输出波导320和图像传感器370。在图4的示例中,图像传感器370可以包括位于第一侧370-1上的一组像素单元402,以生成用户前方的物理环境的图像。在一些实施例中,可以在该组像素单元402和物理环境之间插入机械快门404,以控制该组像素单元402的曝光。在一些实施例中,如下面将要论述的,可以由电子快门选通取代机械快门404。多个像素单元402中的每个像素单元可以与图像中的一个像素对应。尽管在图4中没有示出,但将理解的是,多个像素单元402中的每个像素单元还可以覆盖有滤光器,以控制待被这些像素单元感测的光的频率范围。
在接收到来自远程控制台的指令之后,机械快门404可以在曝光周期内打开并曝光该组像素单元402。在曝光周期期间,图像传感器370可以获得入射在该组像素单元402上的光的样本,并且基于该组像素单元402检测到的入射光样本的强度分布,生成图像数据。然后,图像传感器370可以将图像数据提供给远程控制台,该远程控制台确定显示内容,并将显示内容信息提供给控制器330。然后,控制器330可以基于该显示内容信息确定图像光355。
源组件310根据来自控制器330的指令,生成图像光355。源组件310包括源410和光学系统415。源410为生成相干光或部分相干光的光源。源410可以是例如激光二极管、垂直腔面发射激光器、和/或发光二极管。
光学系统415包括约束来自源410的光的一个或多个光学元件。约束来自源410的光可以包括:例如根据来自控制器330的指令,扩展、准直和/或调整方向。该一个或多个光学元件可以包括一个或多个透镜、一个或多个液体透镜、一个或多个反射镜、一个或多个光阑、和/或一个或多个光栅。在一些实施例中,光学系统415包括具有多个电极的液体透镜,该液体透镜允许以扫描角度的阈值来扫描光束,以将该光束移位到液体透镜之外的区域。从光学系统415(再者是源组件310)出射的光被称为图像光355。
输出波导320接收图像光355。耦合元件350将来自源组件310的图像光355耦合到输出波导320中。在耦合元件350为衍射光栅的实施例中,衍射光栅的间距被选择为使得在输出波导320中发生全内反射,并且图像光355在输出波导320内部(例如,通过全内反射)朝向解耦元件365传播。
引导元件360将图像光355转向解耦元件365,以便从输出波导320离开。在引导元件360为衍射光栅的实施例中,该衍射光栅的间距被选择为使得入射的图像光355相对于解耦元件365的表面以一种或多种倾斜角度离开输出波导320。
在一些实施例中,引导元件360和/或解耦元件365在结构上类似。离开输出波导320的扩展后的图像光340是沿一个或多个维度被扩展的(例如,可以是沿x维度被延长的)。在一些实施例中,波导显示器300包括多个源组件310和多个输出波导320。每个源组件310发射与原色(例如,红色、绿色或蓝色)相对应的特定波长带的单色图像光。各个输出波导320可以以分隔距离叠置在一起,以输出多色的扩展后的图像光340。
图5为包括近眼显示器100的系统500的实施例的框图。系统500包括近眼显示器100、成像设备535、输入/输出接口540、以及各自耦合到控制电路510的图像传感器120a至120d和150a至150b。系统500可以被配置成头戴式设备、可穿戴设备等。
近眼显示器100是向用户呈现媒体的显示器。由近眼显示器100呈现的媒体的示例包括一幅或多幅图像、视频和/或音频。在一些实施例中,经由外部设备(例如,扬声器和/或耳机)来呈现音频,该外部设备接收来自近眼显示器100和/或控制电路510的音频信息,并且基于该音频信息,将音频数据呈现给用户。在一些实施例中,近眼显示器100还可以充当AR眼镜镜片。在一些实施例中,近眼显示器100利用计算机生成的元素(例如,图像、视频、声音等)来增强物理的、真实世界的环境的视图。
近眼显示器100包括波导显示组件210、一个或多个位置传感器525、和/或惯性测量单元(inertial measurement unit,IMU)530。波导显示组件210包括源组件310、输出波导320和控制器330。
IMU 530是基于从一个或多个位置传感器525接收到的测量信号而生成快速校准数据的电子设备,该快速校准数据指示近眼显示器100的、相对于近眼显示器100的初始位置的估计位置。
成像设备535可以生成用于各种应用的图像数据。例如,成像设备535可以根据从控制电路510接收到的校准参数,生成图像数据,以提供慢速校准数据。成像设备535可以包括例如图1A中的、用于生成用户所处物理环境的图像数据的图像传感器120a至120d,以便执行用户的位置追踪。成像设备535还可以包括例如图1B中的、用于生成用于确定用户的注视点的图像数据的图像传感器150a至150b,以识别用户感兴趣的对象。
输入/输出接口540是允许用户向控制电路510发送动作请求的设备。动作请求是执行特定动作的请求。例如,动作请求可以是启动或结束应用程序或执行应用程序内的特定动作。
控制电路510根据从成像设备535、近眼显示器100和输入/输出接口540中的一个或多个接收到的信息,向近眼显示器100提供媒体,以便向用户呈现。在一些示例中,控制电路510可以容纳在被配置作为头戴式设备的系统500内。在一些示例中,控制电路510可以是与系统500中的其他部件通信耦合的独立控制台设备。在图5示出的示例中,控制电路510包括应用程序商店545、追踪模块550和引擎555。
应用程序商店545存储了一个或多个应用程序,该一个或多个应用程序由控制电路510执行。应用程序是指令组,该指令组在被处理器执行时,生成用于呈现给用户的内容。应用程序的示例包括游戏应用程序、会议应用程序、视频播放应用程序或其他合适的应用程序。
追踪模块550使用一个或多个校准参数来校准系统500,并且可以调整一个或多个校准参数以减小确定近眼显示器100的位置时的误差。
追踪模块550使用来自成像设备535的慢速校准信息,来追踪近眼显示器100的运动。追踪模块550还使用来自快速校准信息的位置信息,来确定近眼显示器100的参考点的位置。
引擎555执行系统500内的应用程序,并且接收来自追踪模块550的近眼显示器100的位置信息、加速度信息、速度信息和/或预测的未来位置。在一些实施例中,引擎555接收到的信息可以用于产生指向波导显示组件210的信号(例如,显示指令),该信号确定呈现给用户的内容类型。例如,为了提供交互式体验,引擎555可以基于用户的位置(例如,由追踪模块550提供)或用户的注视点(例如,基于由成像设备535提供的图像数据)、对象与用户之间的距离(例如,基于由成像设备535提供的图像数据),确定待呈现给用户的内容。
图6A、图6B、图6C、图6D、图6E和图6F示出了图像传感器600及其操作的示例。如图6A所示,图像传感器600可以包括像素单元阵列(该像素单元阵列包括像素单元601),并且可以生成与图像中的像素对应的数字强度数据。像素单元601可以是图4中的多个像素单元402的一部分。如图6A所示,像素单元601可以包括一个或多个光电二极管602、电子快门选通603、转移选通604、复位选通605、电荷存储器件606和量化器607。光电二极管602可以包括例如P-N二极管、P-I-N二极管、钉扎二极管(pinned diode)等,而电荷存储器件606可以是转移选通604的浮置扩散节点。光电二极管602可以在曝光周期内接收到光时生成并积累电荷,并且在曝光周期内生成的电荷量可以与光的强度成比例。可以基于控制电子快门选通603的AB信号的时序、以及基于控制转移选通604的TX信号的时序,来定义曝光周期,电子快门选通在被启用时可以将光电二极管602生成的电荷引导走,转移选通在被启用时可以将光电二极管602生成的电荷转移到电荷存储器件606。例如,参考图6B,可以在时间T0处拉低AB信号,以允许光电二极管602生成电荷并且积累这些电荷中的至少一些作为残余电荷,直到光电二极管602饱和为止。T0可以标记曝光周期的开始。TX信号可以将转移选通604设置为处于部分开启状态,以将光电二极管602在饱和之后生成的额外电荷(例如,溢出电荷)转移到电荷存储器件606。在时间T1处,可以拉高TG信号,以将残余电荷转移到电荷存储器件606,使得电荷存储器件606可以存储光电二极管602从曝光周期在时间T0处的起点以来生成的所有电荷。在时间T2处,可以拉低TX信号,以将电荷存储器件606与光电二极管602隔离开,而可以拉高AB信号,以将光电二极管602生成的电荷引导走。时间T2可以标记曝光周期的结束。在时间T2处电荷存储器件606两端的模拟电压可以表示存储在电荷存储器件606中的电荷总量,该电荷总量可以与光电二极管602在曝光周期内生成的电荷总量对应。TX信号和AB信号均可以由控制器(图6A中未示出)生成,该控制器可以是像素单元601的一部分。在对模拟电压进行量化之后,可通过RST信号启用复位选通605以移除电荷存储器件606中的电荷,以准备下一次测量。
图6C示出了像素单元601中的额外元件。如图6C所示,像素单元601可以包括源极跟随器610,该源极跟随器可以对电荷存储器件606处的电压进行缓冲,并且将该电压输出到量化器607。电荷存储器件606和源极跟随器610可以形成电荷测量单元612。源极跟随器610可以包括由偏置电压VBIAS控制的电流源611,该电流源设定流经源极跟随器610的电流。量化器607可以包括比较器。电荷测量单元612和量化器607可以一起形成处理电路614。比较器还与存储器616耦合,该存储器用于存储量化输出作为像素值608。存储器616可以包括存储器器件组(bank of memory devices),存储器器件例如为静态随机存取存储器(static random access memory,SRAM)器件,其中,每个存储器器件被配置作为位单元。该组中的存储器器件的数量可以基于量化输出的分辨率。例如,如果量化输出具有10位分辨率,则存储器616可以包括由十个SRAM位单元组成的组。在像素单元601包括用于检测不同波长通道的光的多个光电二极管的情况下,存储器616可以包括多个SRAM位单元组。
量化器607可以被控制器控制,以在时间T2之后对模拟电压进行量化,从而生成像素值608。图6D示出了由量化器607执行的示例量化操作。如图6D所示,量化器607可以将源极跟随器610输出的模拟电压与斜坡参考电压(在图6C和图6D中被标记为“VREF”)进行比较,以产生比较判定(在图6C和图6D中被标记为“Latch”)。判定跳闸(trip)所花费的时间可以由计数器测量,以表示模拟电压的量化结果。在一些示例中,该时间可以由自运行计数器测量,该自运行计数器在斜坡参考电压处于起始点时开始计数。自运行计数器可以基于时钟信号(在图6D中被标记为“clock”)并且随着斜坡参考电压上升(或下降)而周期性地更新其计数值。当斜坡参考电压达到模拟电压时,比较器输出跳闸。比较器输出的跳闸可以使计数值存储在存储器614中。计数值可以表示模拟电压的量化输出。返回参考图6C,存储在存储器614中的计数值可以被读出作为像素值608。
在图6A和图6C中,像素单元601被示出为包括处理电路614(包括电荷测量单元612和量化器607)和存储器616。在一些示例中,处理电路614和存储器616可以位于像素单元601的外部。例如,像素单元块可以共享和依次访问处理电路614和存储器612,以对每个像素单元中的一个或多个光电二极管生成的电荷进行量化并存储量化结果。
图6E示出了图像传感器600中的额外部件。如图6E所示,图像传感器600包括以行和列排列的多个像素单元601,例如像素单元601a0至601a3、601a4至601a7、601b0至601b3、601b4至601b7等。每个像素单元可以包括一个或多个光电二极管602。图像传感器600还包括多个量化单元620(例如,量化单元620a0、620a1、620b0、620b1等),量化单元620包括处理电路614(例如,电荷测量单元612和比较器/量化器607)和存储器616。在图6E的示例中,由四个像素单元组成的块可以经由多路复用器(图6E中未示出)共享量化单元620,其中,每个像素单元依次访问量化单元620以量化电荷。例如,像素单元601a0至601a3共享量化单元620a0,像素单元601a4至601a7共享量化单元621a1,像素单元601b0至601b3共享量化单元620b0,而像素单元601b4至601b7共享量化单元620b1。在一些示例中,每个像素单元可以包括或具有其专用的量化单元。
另外,图像传感器600还包括其它电路,例如计数器620(例如,计数器620a、620b等)、各自被配置作为模拟阈值生成电路的数模转换器(digital-to-analog converter,DAC)622(例如,DAC 622a、622b等)、预充电电路624(例如,预充电电路624a、624b等)、偏压发生器626等。计数器620可以被配置作为数字斜坡电路,以向存储器614提供计数值。这些计数值也可以被提供给DAC 622,以生成模拟斜坡(例如,图6C和图6D中的VREF),该模拟斜坡可以被提供给量化器607以执行量化操作。每列像素单元601块和/或每列量化单元620可以共享计数器620和DAC 622。例如,第一列中的量化单元620a0、620a1等共享计数器620a和DAC 622a,而第二列中的量化单元620b0、620b1等共享计数器620b和DAC 622b。另外,在存储器616被实施作为多个动态随机存取存储器(dynamic random access memory,DRAM)器件的情况下,预充电电路624可以在读取操作之前,对这些动态随机存取存储器(DRAM)器件进行预充电。对于每列像素单元,图像传感器600可以包括预充电电路624,例如用于对第一列像素单元的存储器616进行预充电的预充电电路624a、用于对第二列像素单元的存储器616进行预充电的预充电电路624b等。此外,偏压发生器626可以包括其他电路,以产生用于处理电路614的偏置电压(例如,VBIAS),这些电路例如为电流镜、电流基准、电压基准、数模转换器(DAC)等。
来自图像传感器600的图像数据可以被传输到主机处理器(图6A至图6E中未示出),以支持不同应用程序,例如识别和追踪对象652、执行对象652相对于图像传感器600的深度感测等。对于所有这些应用程序,仅像素单元子集提供相关信息(例如,对象612的像素数据),而其余像素单元不提供相关信息。例如,参考图6F,在时间T0处,图像传感器600的一组像素单元650接收对象612反射的光,而在时间T6处,对象652可能已经移位(例如,由于对象612的运动、图像传感器600的运动、或上述运动这两者),并且图像传感器600的一组像素单元670接收对象612反射的光。在时间T0和T6这两者处,图像传感器600可以仅将来自多组像素单元660和670的像素数据作为稀疏图像帧传输到主机处理器,以减少正在传输的像素数据量。这种设置可以允许以较高的帧率来传输较高分辨率的图像。例如,可以使用包括更多像素单元的较大像素单元阵列来对对象652进行成像,以提高图像分辨率,同时,在仅像素单元子集(包括提供对象652的像素数据的像素单元)向主机处理器发送像素数据时,可以减小提供提高的图像分辨率所需的带宽和功率。类似地,图像传感器600可以被操作为以较高帧率生成图像,但当每幅图像仅包括该像素单元子集输出的像素值时,可以降低带宽和功率的增加。在3D感测的情况下,图像传感器600可以采用类似的技术。
图7A、图7B、图7C、图7D和图7E示出了图像处理系统700及其操作的示例。图像处理系统700包括主机设备702和图像传感器704。主机设备702可以包括主机处理器706,该主机处理器可以运行应用程序708,该应用程序可以对由图像传感器704生成的图像710执行包括诸如2D和3D感测的融合、对象识别和追踪、位置追踪等操作。在一些示例中,图像处理系统700可以位于可穿戴设备中。在一些示例中,处理系统700可以被分成多个单独的设备。例如,主机设备702可以是个人计算机(personal computer,PC)、智能电话、摄像头基站、或者诸如中央处理单元(central processing unit,CPU)、现场可编程门阵列(field-programmable gate array,FPGA)、微控制器单元(micro controller unit,MCU)等集成电路。主机设备702和图像传感器704可以经由互连件(图7A中未示出)电连接,该互连件例如为与移动产业处理器接口(Mobile Industry Processor Interface,MIPI)标准兼容的互连件。
参考图7A,图像传感器704包括像素单元阵列控制电路716和像素单元阵列718。像素单元阵列718中的每个像素单元可以包括与图6A和图6C中的像素单元601类似的、诸如光电二极管602、电子快门选通603、转移选通604、处理电路614和存储器616等部件,以执行光测量操作,从而生成像素数据。也可以是像素单元块共享如图6E中示出的包括处理电路614和存储器616的量化单元620。图像传感器704还包括其它电路,例如图6E中示出的计数器620和DAC 622。在一些示例中,像素单元阵列718和像素单元阵列控制电路716可以形成叠置结构,以使图像传感器704的光接收表面最大化,这允许像素单元阵列718包括更多像素单元,以提高分辨率。
像素单元阵列718中的每个像素单元可以包括配置存储器,该配置存储器可以是像素单元的一部分或者位于像素单元的外部,以存储用于对每个像素单元处或多个像素单元块处的光测量操作进行配置/编程的编程数据。每个像素单元中的配置存储器可以是可单独寻址的,这允许像素单元阵列控制电路716基于像素阵列编程映射720对每个像素单元处或像素单元块处的光测量操作进行单独编程。在一些示例中,主机处理器706可以生成像素阵列编程映射720,作为作用在图像710上的对象追踪操作的结果。在一些示例中,像素单元阵列控制电路716也可以包括编程映射生成器721,以基于图像710生成像素阵列编程映射720。像素单元阵列控制电路716可以从像素阵列编程映射720中提取编程数据,并且将编程数据以控制信号722和724的形式发送给像素单元阵列718。编程数据可以从配置存储器中被读出以配置光测量操作。
如下面将要详细描述的,在像素单元处的光测量操作的配置可以包括例如,设置由像素单元访问/关联的不同电路部件的电源状态,这些电路部件例如为量化单元620。该配置还可以包括光测量操作的其它方面,例如设置用于光测量操作的曝光周期、设置量化分辨率/位深度等。
像素阵列编程映射720可以包括针对像素单元阵列中的每个像素单元的编程数据。图7B示出了像素阵列编程映射720的示例。如图7B所示,像素阵列编程映射720可以包括编程数据所形成的二维阵列,其中,二维阵列中的每个编程数据条目针对像素单元阵列718中的像素单元。例如,在像素单元阵列718具有M个像素的宽度(例如,M列像素)和N个像素的高度(例如,N行像素)的情况下,像素阵列编程映射720也具有M个条目的宽度(例如,M列条目)和N个条目的高度(例如,N行条目)。像素阵列编程映射720中的条目(0,0)处的编程数据A00针对像素单元阵列718中的像素位置(0,0)处的像素单元P00,而像素阵列编程映射720中的条目(0,1)处的编程数据A01针对像素单元阵列718中的像素位置(0,1)处的像素单元P01。在一些示例中,可以遵循预定扫描模式顺序传输像素阵列编程映射720中的每个条目的编程数据,以形成串行数据流,该预定扫描模式例如为,从左到右遍历一行(例如,A00、A01、……、A0i),接着从左到右遍历下一行(例如,A10、A11、……、A1i)。可以基于扫描模式和条目被接收的顺序,从串行数据流中提取和识别每个条目的编程数据。在一些示例中,仅当需要在多帧之间更新某些编程数据时,才可以发送像素阵列编程映射720,并且该像素阵列编程映射720仅包括需要被更新的编程数据。在一些示例中,像素阵列编程映射720中的每个条目也可以针对像素单元块(例如,2×2像素单元阵列、4×4像素单元阵列等)。
取决于配置操作,像素阵列编程映射720中的每个条目可以包括二进制编程数据或非二进制编程数据。图7C示出了像素阵列编程映射720a和720b的示例。如图7C所示,像素阵列编程映射720a包括二进制编程数据0和1。在一些示例中,像素阵列编程映射720a的每个条目处的二进制编程数据可以使得在对应于该条目的像素单元处能够(例如,将编程数据设置为1)生成像素数据或不能(例如,将编程数据设置为0)生成像素数据。二进制编程数据还可以设置像素单元所使用的量化单元620的电源状态。例如,如果编程数据指示:像素单元将不生成像素数据,则包括在该像素单元所使用的量化单元中的处理电路和存储器可以被断电。
另外,像素阵列编程映射720b可以包括诸如-1、0、1或其他值等非二进制编程数据。如图7C所示,像素阵列编程映射720b中的非二进制编程数据可以用于例如设置曝光周期、设置量化分辨率等。例如,编程值-1可以指示:在帧周期期间像素单元和量化单元被停用;编程值0可以指示:像素单元和量化单元以低分辨率模式运行;而编程值1可以指示:像素单元和量化单元以全分辨率模式运行。然后,像素单元可以相应地设置量化单元中的处理电路和存储器的电源状态。
在一些示例中,像素阵列编程映射720a/720b可以由在主机设备702处运行的应用程序(例如,应用程序708)或像素单元阵列控制电路716中的映射生成器721生成,该应用程序或映射生成器消耗来自像素单元阵列718的像素数据。例如,应用程序708/映射生成器721可以从图像中识别出包含相关信息的像素,并确定包括这些像素的感兴趣区域(regionof interest,ROI)。然后,可以识别生成与该ROI对应的像素数据的像素单元。作为说明性示例,返回参考图6F中的示例,应用程序708/映射生成器721可以识别出包括一组像素单元620(如提供时间T0处的图像中的相关信息(例如,对象612的像素数据))的ROI。然后,应用程序708/映射生成器721可以基于例如对象652相对于图像传感器600的运动方向和运动速度,预测时间T0和T6之间的ROI的变化。然后,应用程序708/映射生成器721可以基于该组像素单元660在时间T0处的图像位置和所预测的变化,预测ROI在时间T6处的新的图像位置(包括一组像素单元630)。基于该组像素单元630在时间T6处的图像位置,应用程序708/映射生成器721可以通过将与该组像素单元670对应的条目的编程数据设置为一、同时将其余条目的编程数据设置为零,来生成像素阵列编程映射720a,使得仅该组像素单元670向主机设备702发送像素数据。在一些示例中,这些ROI还可以用于设置非均匀空间采样率,使得与这些ROI对应的每个像素单元发送像素数据,而在ROI之外,选择稀疏分布的像素单元集以发送像素数据。选择哪些像素单元来发送像素数据可以被编码在像素阵列编程映射720a中。
在一些示例中,应用程序708/映射生成器721可以基于先前的图像维持正被追踪的对象所处的环境的模型,并基于环境模型,对可能提供该对象在当前图像中的像素数据的像素单元进行预测。在一些示例中,图像传感器704或者其它处理电路(为与图像传感器704所处的同一芯片中的一部分)还可以计算固定基元(fixed primitive)(例如,时间对比度或空间对比度),并基于那些基元估计相关信息在何处出现,并且基于估计生成像素阵列编程映射720a。
图8A和图8B示出了图像传感器704的像素单元阵列控制电路716和像素单元阵列718中的示例部件。如图8A所示,像素单元阵列控制电路716可以包括编程映射解析器802、列控制电路804、行控制电路806和像素数据输出电路807。编程映射解析器802可以对像素阵列编程映射720(其可以为串行数据流的形式)进行解析,以识别用于每个像素单元(或像素单元块)的编程数据。编程数据的识别可以基于:例如,二维像素阵列编程映射被转换为串行格式所使用的预定扫描模式、以及编程映射解析器802从串行数据流接收编程数据的顺序。编程映射解析器802可以基于针对多个像素单元的编程数据,来创建这些像素单元的行地址、这些像素单元的列地址和一个或多个配置信号之间的映射。基于该映射,编程映射解析器802可以向列控制电路804发送包括这些列地址和这些配置信号的多个控制信号808,以及向行控制电路806发送包括这些配置信号以及映射到这些列地址的这些行地址的多个控制信号810。在一些示例中,这些配置信号也可以分给多个控制信号808和多个控制信号810,或作为多个控制信号810的一部分被发送到行控制电路806。
列控制电路804和行控制电路806被配置为将从编程映射解析器802接收到的配置信号转发到像素单元阵列718的每个像素单元中的配置存储器。在图8A中,标记为Pij的每个方框(例如,P00、P01、P10、P11等)可以表示像素单元或像素单元块(例如,2×2像素单元阵列、4×4像素单元阵列等),并且可以包括图6E中的量化单元620(包括处理电路614和存储器616)或可以与该量化单元相关联。如图8A所示,列控制电路804驱动多组列总线C0、C1、……、Ci。每组列总线包括一条或多条总线,并且可以用于将图7A中的控制信号722(其可以包括列选择信号和/或其它配置信号)传输到一列像素单元。例如,一条或多条列总线C0可以传输列选择信号808a以选择一列像素单元(或一列像素单元块)p00、p01、……、p0j,一条或多条列总线C1可以传输列选择信号808b以选择一列像素单元(或一列像素单元块)p10、p11、……、p1j等。
此外,行控制电路806驱动被标记为R0、R1、……、Rj的多组行总线。每组行总线也包括一条或多条总线,并且可以用于将图7A中的控制信号724(其可以包括行选择信号和/或其它配置信号)传输到一行像素单元或一行像素单元块。例如,一条或多条行总线R0可以传输行选择信号810a以选择一行像素单元(或一行像素单元块)p00、p10、……、pi0,一条或多条行总线R1可以传输行选择信号810b以选择一行像素单元(或一行像素单元块)p01、p11、……、pi1等。可以基于行选择信号与列信号的组合,选择像素单元阵列718内的任何像素单元(或像素单元块)来接收配置信号。如上所述,行选择信号、列选择信号和配置信号(如果存在)基于来自编程映射解析器802的控制信号808和810而同步。每列像素单元可以共享一组输出总线,以将像素数据传输到像素数据输出模块807。例如,一列像素单元(或一列像素单元块)p00、p01、……、p0j可以共享多条输出总线D0,一列像素单元(或一列像素单元块)p10、p11、……、p1j可以共享多条输出总线D1等。
像素数据输出模块807可以接收来自多条总线的像素数据,将像素数据转换为一个或多个串行数据流(例如,使用移位寄存器),并且在诸如MIPI等预定协议下将数据流传输到主机设备702。数据流可以来自于与每个像素单元(或像素单元块)相关联的量化单元620(例如,处理电路614和存储器616),作为稀疏图像帧的一部分。另外,像素数据输出模块807还可以接收来自编程映射解析器802的控制信号808和810,以确定例如哪个像素单元不输出像素数据、每个像素单元输出的像素数据的位宽度等,然后,相应地调整串行数据流的生成。例如,像素数据输出模块807可以控制移位寄存器在生成串行数据流时跳过多个位,以考虑例如多个像素单元之间的输出像素数据的可变位宽、在某些像素单元处像素数据输出的停用等。
另外,像素单元阵列控制电路716还包括全局电源状态控制电路820、列电源状态控制电路822、行电源状态控制电路824、以及在每个像素单元或每个像素单元块处的局部电源状态控制电路826(图8A中未示出),这些电源状态控制电路形成分级电源状态控制电路。全局电源状态控制电路820可以是层级中的最高级别,接着是行电源状态控制电路824/列电源状态控制电路822,而局部电源状态控制电路826处于层级中的最低级别。
分级电源状态控制电路可以在控制图像传感器704的电源状态时,提供不同粒度。例如,全局电源状态控制电路820可以控制图像传感器704中的所有电路的全局电源状态,这些电路包括所有像素单元的处理电路614和存储器616、图6E中的DAC 622和计数器620等。行电源状态控制电路822可以单独控制每行像素单元(或每行像素单元块)的处理电路614的电源状态和存储器616的电源状态,而列电源状态控制电路824可以单独控制每列像素单元(或每列像素单元块)的处理电路614的电源状态和存储器616的电源状态。一些示例可以包括行电源状态控制电路822而不包括列电源状态控制电路824,或者反之亦然。另外,局部电源状态控制电路826可以是像素单元的一部分或像素单元块的一部分,并且可以控制像素单元或像素单元块的处理电路614的电源状态和存储器616的电源状态。
图8B示出了分级电源状态控制电路的内部部件及其操作的示例。具体地,全局电源状态控制电路820可以输出全局电源状态信号832,该全局电源状态信号可以是设置图像传感器704的全局电源状态的偏置电压、偏置电流、电源电压或编程数据的形式。此外,列电源状态控制电路822(或行电源状态控制电路824)可以输出列/行电源状态信号834,该列/行电源状态信号设置图像传感器704中的一列/一行像素单元(或一列/一行像素单元块)的电源状态。列/行电源状态信号834可以作为行信号810和列信号808被传输到像素单元。此外,局部电源状态控制电路826可以输出局部电源状态信号836,该局部电源状态信号设置像素单元(或像素单元块)的电源状态,该像素单元(或像素单元块)包括相关联的处理电路614和存储器616。局部电源状态信号836可以被输出到像素单元的处理电路614和存储器616,以控制它们的电源状态。
在分级电源状态控制电路838中,上级电源状态信号可以设置下级电源状态信号的上限。例如,全局电源状态信号832可以是列/行电源状态信号834的上级电源状态信号,并且可以设置列/行电源状态信号834的上限。此外,列/行电源状态信号834可以是局部电源状态信号836的上级电源状态信号,并且可以设置局部电源状态信号836的上限。例如,如果全局电源状态信号832指示低功率状态,则列/行电源状态信号834和局部电源状态信号836也可以指示低功率状态。
全局电源状态控制电路820、列电源状态控制电路822/行电源状态控制电路824、和局部电源状态控制电路826中的每个可以包括电源状态信号发生器,而列电源状态控制电路822/行电源状态控制电路824和局部电源状态控制电路826可以包括门控逻辑,以执行由上级电源状态信号所施加的上限。具体地,全局电源状态控制电路820可以包括全局电源状态信号发生器821,以生成全局电源状态信号832。全局电源状态信号发生器821可以基于例如外部配置信号840(例如,来自主机设备702)、全局电源状态的预定时间序列等,生成全局电源状态信号832。
另外,列电源状态控制电路822/行电源状态控制电路824可以包括列/行电源状态信号发生器823和门控逻辑825。列/行电源状态信号发生器823可以基于例如外部配置信号842(例如,来自主机设备702)、行/列电源状态的预定时间序列等,生成中间列/行电源状态信号833。门控逻辑825可以选择全局电源状态信号832或中间列/行电源状态信号833中表示较低功率状态的一个作为列/行电源状态信号834。
此外,局部电源状态控制电路826可以包括局部电源状态信号发生器827和门控逻辑829。局部电源状态信号发生器827可以基于例如外部配置信号844(其可以来自像素阵列编程映射)、行/列电源状态的预定时间序列等,生成中间局部电源状态信号835。门控逻辑829可以选择中间局部电源状态信号835或列/行电源状态信号834中表示较低功率状态的一个作为局部电源状态信号836。
图8C示出了像素单元阵列718的额外细节,这些额外细节包括每个像素单元(或每个像素单元块)中的局部电源状态控制电路826(例如,在图8C中被标记为“PWR”的826a、826b、826c和826d)和配置存储器850(例如,在图8C中被标记为“Config”的850a、850b、850c和850d)。配置存储器850可以存储第一编程数据,以控制像素单元(或像素单元块)的光测量操作(例如,曝光周期持续时间、量化分辨率等)。此外,配置存储器850还可以存储第二编程数据,该第二编程数据可以被局部电源状态控制电路826用来设置处理电路614和存储器616的电源状态。配置存储器850可以被实现为静态随机存取存储器(static randomaccess memory,SRAM)。尽管图8C示出了局部电源状态控制电路826和配置存储器850位于每个像素单元的内部,但是将理解的是,配置存储器850也可以位于每个像素单元的外部,例如在局部电源状态控制电路826和配置存储器850被用于像素单元块时。
如图8C所示,每个像素单元中的配置存储器850经由晶体管S(例如S00、S10、S10、S11等)与列总线C和行总线R耦合。在一些示例中,每组列总线(例如,C0、C1等)和每组行总线(例如,R0、R1等)可以包括多个位。例如,在图8C中,每组列总线和每组行总线可以携带N+1位。将理解的是,在一些示例中,每组列总线和每组行总线也可以携带单个数据位。每个像素单元还与晶体管T(例如T00、T10、T10、T11等)电连接,以控制配置信号到像素单元(或像素单元块)的传输。每个像素单元中的一个或多个晶体管S可以被行选择信号和列选择信号驱动,以启用(或停用)相应的晶体管T,从而将配置信号传输到像素单元。在一些示例中,列控制电路804和行控制电路806可以由单个写入指令(例如,来自主机设备702)编程,以同时写入到多个像素单元中的配置存储器850。然后,列控制电路804和行控制电路806可以控制行总线和列总线,以写入到像素单元中的配置存储器。
在一些示例中,局部电源状态控制电路826也可以直接接收来自多个晶体管T的配置信号,而不用将配置信号存储在配置存储器850中。例如,如上所述,局部电源状态控制电路826可以接收行/列电源状态信号834,以控制像素单元的电源状态和像素单元所使用的处理电路和/或存储器的电源状态,该行/列电源状态信号可以是诸如电压偏置信号、电源电压等模拟信号。
另外,每个像素单元还包括晶体管O(例如O00、O10、O10、O11等),以控制输出总线D在一列像素单元之间的共享。每行中的多个晶体管O可以由读取信号(例如,read_R0、read_R1等)控制,以实现对像素数据的逐行读取,使得一行像素单元通过输出总线D0、D1、……、Di输出像素数据,接着是下一行像素单元。
在一些示例中,可以将像素单元阵列718中的包括处理电路614和存储器616、计数器620、DAC 622等的电路部件组织成由分级电源状态控制电路838管理的分级电源域。分级电源域可以包括分级的多个电源域及电源子域。分级电源状态控制电路可以单独设置每个电源域的电源状态、以及每个电源域下的每个电源子域的电源状态。这种设置允许对图像传感器704的功耗进行细粒度控制,并且支持各种空间和时间性电源状态控制操作,从而进一步提高图像传感器704的电源效率。
图9A、图9B和图9C示出了分级电源域900的示例。如图9A所示,分级电源域900包括作为分级电源域900内的最高级别的全局电源域902。全局电源域902与例如像素单元阵列718中的所有像素单元的处理电路614和存储器616、以及图像传感器704中的诸如计数器620和DAC 622等其它电路相关联。设置全局电源域902的电源状态可以设置这些电路中的每个电路的电源状态。
分级电源域900的第二级包括处理电路电源域和904和存储器电源域906。处理电路电源域904可以与像素单元阵列718中的所有像素单元的处理电路614、以及计数器620、DAC 622和偏压发生器626相关联,而存储器电源域906可以与像素单元阵列718中的所有像素单元的存储器616、以及预充电电路624相关联。可以单独地设置处理电路电源域904的电源状态和存储器电源域906的电源状态。如下面将要描述的,这种设置允许处理电路614在量化完成之后断电,而存储器616可以保持通电,从而在所存储的量化结果被主机设备702读出之前保留该所存储的量化结果,以减小功耗。
分级电源域900的第三级包括在处理电路电源域904和存储器电源域906中的各个电源域下的多个级别1(level 1,L1)电源子域。例如,处理电路电源域904可以包括L1电源子域908a至908n,而存储器电源域906可以包括L1电源子域910a至910n。处理电路电源域904中的每个L1电源子域906可以与例如一行或一列像素单元(或一行或一列像素单元块)的处理电路614、计数器620、DAC 622、预充电电路624、偏压发生器626和其它支持电路(例如,时钟电路、感测放大电路、诸如移动产业处理器接口(MIPI)接口电路的接口电路等)相关联。此外,存储器电源域906中的每个L1电源子域910可以与一行或一列像素单元(或一行或一列像素单元块)的存储器616相关联。
分级电源域900的第四级包括在处理电路电源域904的多个L1电源子域908和存储器电源域906的多个L1电源子域910中的一些电源子域下的级别2(level 2,L2)电源子域。例如,在图9A中,L1电源子域908b可以具有L2电源子域912a、912b等,而L1电源子域910b可以具有L2电源子域914a、914b等。L2电源子域可以与由L1电源子域908/910表示的一行或一列内的像素单元或像素单元块相关联。例如,L2电源子域912a和912b可以与和L1电源子域908b相关联的一行或一列像素单元/像素单元块内的不同像素单元(或不同像素单元块)的处理电路614、以及用于特定行/列的预充电电路624(例如,预充电电路624a、预充电电路624b等)相关联,而L2电源子域914a和914b可以与和L1电源子域910b相关联的一行或一列像素单元/像素单元块内的不同像素单元(或不同像素单元块)的存储器616相关联。
此外,分级电源域900还可以包括在存储器电源域906下的一些或全部L2电源子域914之下的第五级,该第五级由L3电源子域916a、916b等表示。多个L3电源子域可以与存储器616的不同位子集相关联。如下面将要描述的,可以基于待存储在存储器616的量化结果的位数(该位数可以基于处理电路614的量化分辨率),单独地启用/停用存储器616的多个位子集(例如,最高有效位(most significant bit,MSB)、最低有效位(least significantbit,LSB)等)。而该量化分辨率可以基于对处理电路614的电源状态的设置。
分级电源状态控制电路838中的不同部件可以设置分级电源域900中的不同级别的电源状态。例如,全局电源状态控制电路820可以设置全局电源域902的电源状态、处理电路电源域904的电源状态和存储器电源域906的电源状态。此外,列电源状态控制电路822/行电源状态控制电路824可以设置L1电源子域908的电源状态,而局部电源状态控制电路826可以设置L2电源子域的电源状态和L3电源子域的电源状态。
图9B和图9C示出了全局电源状态控制电路820、列电源状态控制电路822和局部电源状态控制电路826中用于管理分级电源域900中的不同级别的内部部件的示例。如图9B所示,全局电源状态控制电路820可以包括全局存储器电源状态控制电路920和全局处理电路电源状态控制电路922,以分别控制存储器电源域906和处理电路电源域904。全局存储器电源状态控制电路920和全局处理电路电源状态控制电路922中的各个可以包括图8B中的全局电源状态信号发生器821。全局存储器电源状态控制电路920可以发送用于设置存储器电源域906的电源状态的全局存储器电源状态信号940,并且发送用于设置处理电路电源域904的电源状态的全局处理电路电源信号942。
另外,用于每列的列电源状态控制电路822(例如,822a、822b等)可以包括列存储器电源状态控制电路924和列处理电路电源状态控制电路926,以分别控制用于特定列像素单元的处理电路L1电源子域(例如,908a)和存储器电源L1子域(例如,910a)。列存储器电源状态控制电路924和列处理电路电源状态控制电路926中的各个可以包括图8B中的列/行电源状态信号发生器823和门控逻辑825。列存储器电源状态控制电路924可以生成列存储器电源状态信号950(例如,950a、950b),而列处理电路电源状态控制电路926可以生成列处理电路电源状态信号952(例如,952a、952b)。如上所述,利用门控逻辑825,列存储器电源状态控制电路924可以生成具有由全局存储器电源状态信号940施加的上限的列存储器电源状态信号950,而列处理电路电源状态控制电路926可以生成具有由全局处理电路电源状态信号942施加的上限的列处理电路电源状态信号952。
此外,每个局部电源状态控制电路826(在像素单元(或像素单元块)处)可以包括局部存储器电源状态控制电路928(图9C中被标记为“Mem PWR”)以及局部处理电路电源状态控制电路930(图9C中被标记为“PC PWR”),以分别控制与像素单元/像素单元块相关联的量化单元620(例如,620a0、620a1、620b0、620b1等)中的处理电路L2电源子域(例如,912a)以及存储器L2电源子域(例如,914a)。局部存储器电源状态信号和局部处理电路电源状态信号可以利用分别由列存储器电源状态信号950和列处理电路电源状态信号952施加的上限来生成。此外,如图9C所示,局部存储器电源状态控制电路928可以生成局部存储器电源状态信号960,以进一步控制存储器L3电源子域以例如启用/停用量化单元处的存储器616的位子集。
图10A、图10B、图10C和图10D示出了图像传感器704中用于设置电源状态的内部电路部件的示例。如图10A所示,图像传感器704可以包括分级多路复用器网络1000,以将模拟信号(例如电源电压VSUPPLY或偏置电压VBIAS)选择性地传输到与不同电源子域相关联的电路。图像传感器704可以包括两个分级多路复用器网络1000,一个用于处理电路电源域904和该处理电路电源域中的较低级别的电源子域908和912,另一个用于存储器电源域906和该存储器电源域中的较低级别的电源子域910、914和916。在分级多路复用器网络1000中,多路复用器1002可以处于最高级别,以基于来自全局存储器电源状态控制电路920或全局处理电路电源状态控制电路922的全局电源状态信号(在图10A中被标记为“global_pwr_on”),选择性地将VSUPPLY/VBIAS电压或接地电压传递到被提供给每行或每列像素单元(或每行或每列像素单元块)的全局网络1004。
分级多路复用器网络1000还包括处于第二级别的多路复用器1012(例如1012a、1012b等)。在多列像素单元被分组到不同的L1电源子域908的情况下,每个多路复用器1012可以选择性地将VSUPPLY/VBIAS电压或接地电压从多路复用器1002传递到例如连接到一列像素单元(或一列像素单元块)的列信号线1014。例如,多路复用器1012a可以基于指示第一列(C0)像素单元的处理电路614和存储器616是被启用还是被停用的列使能信号C0en,控制列信号线1014a。此外,多路复用器1012b可以基于指示第二列(C1)像素单元的处理电路614和存储器616是被启用还是被停用的列使能信号C1en,控制列信号线1014b。列使能信号C0en和C1en由列存储器电源状态控制电路924或列处理电路电源状态控制电路926生成。在多行像素单元被分组到不同的L1电源子域908的情况下,每个多路复用器1012可以选择性地将VSUPPLY/VBIAS电压或接地电压传递到行总线/行信号线。
分级多路复用器网络1000还包括处于第三级的多路复用器1022(例如,1022a0、1022b0、1022a1、1022b1等)。每个多路复用器1022可以基于用于每个像素单元的选择信号,选择性地将VSUPPLY/VBIAS电压或接地电压从多路复用器1012传递到该像素单元(或像素单元块)。例如,多路复用器1022a0可以基于P00en信号,选择性地将VSUPPLY/VBIAS电压或接地电压从多路复用器1012a传递到第一列中的像素单元(或像素单元块)P00,而多路复用器1022a1可以基于P01en信号,选择性地将VSUPPLY/VBIAS电压或接地电压从多路复用器1012a传递到第一列中的像素单元(或像素单元块)P01。此外,多路复用器1022a1可以基于P10en信号,选择性地将VSUPPLY/VBIAS电压或接地电压从多路复用器1012b传递到第二列中的像素单元(或像素单元块)P10,而多路复用器1022b1可以基于P11en信号,选择性地将VSUPPLY/VBIAS电压或接地电压从多路复用器1012b传递到第二列中的像素单元(或像素单元块)P11。P00en、P01en、P10en和P11en信号由局部存储器电源状态控制电路928或局部处理电路电源状态控制电路930基于例如像素阵列编程映射(例如,像素阵列编程映射720)生成。
图10B、图10C和图10D示出了用于控制处理电路614和存储器616的电源状态的电路部件的示例。如图10B所示,量化器/比较器607可以包括差分放大器1030和输出级1032,该差分放大器在源极跟随器610的输出和VREF之间进行比较,该输出级用于生成比较器的输出。源极跟随器610和量化器/比较器607可以接收来自多个多路复用器1022中一个多路复用器的电源电压VSUPPLY-PC,该多路复用器可以传递作为VSUPPLY-PC的非零电压或零电压。另外,源极跟随器610、差分放大器1030和输出级1032中的各个可以包括设定带宽和增益的可开关电流源。例如,源极跟随器610包括可开关电流源1034,差分比较器1030包括可开关电流源1036,而输出级1032包括可开关电流源1038。每个电流源可以通过断开电流源与地的连接(如图10B所示)或者通过断开偏置电压VBIAS与电流源的连接而接通/断开。源极跟随器610的可开关电流源1034可以由SWSF信号控制,而可开关电流源1036和1038可以由SWADC信号控制。SWSF和SWADC信号这两者可以由局部电源状态控制电路826基于例如来自列处理电路电源状态控制电路926的列/行电源状态信号834以及来自例如像素阵列编程映射720的外部配置信号844而生成。
除了SWSF信号和SWADC信号之外,局部电源状态控制电路826还可以生成SWMEM信号,以启用或停用存储器616。在一些示例中,SWMEM可以启用/停用像素单元(或像素单元块)中的整个存储器616。在一些示例中,SWMEM信号可以包括[0:N]阵列,该[0:N]阵列可以启用/停用存储器616的位子集。
图10C示出了包括N+1个SRAM位单元的存储器616的示例,该N+1个SRAM位单元包括位单元1040_0、1040_1、1040_2、……、1040_n,其中,每个位单元包括允许启用或停用相应位单元的电源选通。例如,位单元1040_0包括由SWMEM[0]信号控制的电源选通1042_0,以使位单元1040_0与电源电压VSUPPLY-MEM连接或断开连接,该电源电压VSUPPLY-MEM可以由多个多路复用器1022中的一个多路复用器提供,该多路复用器可以传递作为VSUPPLY-MEM的非零电压或零电压。此外,位单元1040_1包括由SWMEM[1]信号控制的电源选通1042_1,以使位单元1040_1与VSUPPLY-MEM连接或断开连接。此外,位单元1040_2包括由SWMEM[2]信号控制的电源选通1042_2,以使位单元1040_2与VSUPPLY-MEM连接或断开连接。位单元1040_n包括由SWMEM[n]信号控制的电源选通1042_n,以使位单元1040_n与VSUPPLY-MEM连接或断开连接。图10C允许每个位单元单独与VSUPPLY-MEM连接或与VSUPPLY-MEM断开连接。
图10D示出了用于控制存储器616的电源状态的电路部件的另一示例。如图10D所示,存储器616包括两个位单元集,这两个位单元集包括位单元1040_0至1040_m-1和位单元1040_m至1040_n。位单元1040_0至1040_m-1可以与最高有效位(most significant bit,MSB)对应,而位单元1040_m至1040_n可以与最低有效位(least significant bit,LSB)对应。MSB可以通过电源选通1044a与VSUPPLY-MEM连接或断开连接,该电源选通1044a可以由SWMEM[1]信号控制。此外,LSB可以通过电源选通1044b与VSUPPLY-MEM连接或断开连接,该电源选通1044b可以由SWMEM[0]信号控制。
图10C和图10D中的设置允许,基于由量化器/比较器607得到的量化分辨率来启用或停用存储器616中的位单元子集。如下面将要描述的,在量化器/比较器607的偏置电流可变以设置量化分辨率的情况下,存储器616中的被启用的位单元的数量可以匹配该量化分辨率。例如,如果量化器/比较器607的偏置电流被设置为支持2位量化分辨率(例如,位于最大10位量化分辨率中),则局部存储器电源状态控制电路928可以停用存储器616中的除了前两个位单元(例如,位单元1040_0和1040_1)之外的所有位单元,以减小功率。
图11A、图11B、图11C、图11D和图11E示出了用于控制处理电路614的电源状态和存储器616的电源状态的电路部件的附加示例。在图11A中,源极跟随器610包括可编程电流源1102,差分放大器1030包括可编程电流源1104,而输出级1032包括可编程电流源1106。这些可编程电流源可以调整源极跟随器610的电源状态和量化器/比较器607的电源状态,其中,低电流导致低功率状态,反之亦然。可编程电流源1102所供应的电流可以经由currentSF信号来控制,而可编程电流源1104和1106所供应的电流可以经由currentADC信号来控制。currentSF信号和currentADC信号这两者可以由局部电源状态控制电路826来生成。
由这些电流源供应的电流还可以调整源极跟随器610的性能和量化器/比较器607的性能。例如,较低的电流可以使得源极跟随器610的性能和量化器/比较器607的性能降低(例如,噪声增加、带宽减小、量化分辨率降低等),而较高的电流可以使得性能提高(例如,量化分辨率提高)。
图11B示出了由可编程电流源1104和1106供应的总电流与量化分辨率之间的映射表1110的示例。如表1110所示,在总电流处于IQ0、IQ1、IQ2、IQ3和IQ4的情况下,由量化器/比较器607提供的量化分辨率分别处于1位分辨率、2位分辨率、4位分辨率、8位分辨率和16位分辨率。在一些示例中,局部处理电路电源状态控制电路930可以参考映射表1110,以基于目标量化分辨率来设置currentADC信号,而该目标量化分辨率可以基于目标电源状态/配置。此外,如上所述,局部存储器电源状态控制电路928还可以基于量化分辨率,选择性地启用存储器616中的位单元子集。例如,如果总电流处于IQ2且比较器607仅可以提供4位分辨率,则局部存储器电源状态控制电路928可以停用除了用于存储4位量化结果的四个位单元之外的所有位单元。
图11C示出了可编程电流源1112的示例,该可编程电流源1112可以是图11A中的可编程电流源1102、1104和1106中的一部分。如图11C所示,可编程电流源1112可以包括多个可开关电流源,例如1114、1114b、1114n等。由编程电流源1112供应的、被标记为IT的总电流取决于多个可开关电流中有多少个可开关电流源被启用。每个可开关电流源可通过例如使该电流源连接到偏置电压VBIAS/与偏置电压VBIAS断开连接而被启用/停用。可编程电流源1112可以接收编程位EN的数组(例如,EN[0]、EN[1]、EN[n]等),其中,每个编程位用于控制电流源是连接到偏置电压还是与偏置电压断开连接。当所有电流源被停用时,接收来自可编程电流1112的电流的电路可以被停用。
在一些示例中,存储器616也可以包括可编程电流源。例如,参考图11D,每个位单元(例如,1040_0、1040_1、1040_2、1040_n等)可以连接到可编程电流源(例如,1114_0、1114_1、1114_2、1114_n),以控制流经每个位单元的电流。每个可编程电流源可以基于单独的currentMEM信号(例如,用于位单元1040_0的currentMEM[0],用于位单元1040_1的currentMEM[1],用于位单元1040_n的currentMEM[n]等)而被编程。在一些示例中,可编程电流源也可以设置以与图10D类似的方式流经多个位单元(例如MSB和LSB)的总电流。返回参考图11A,currentMEM信号可以由局部存储器电源状态控制电路928提供。
可编程电流源可以控制存储器616的运行模式。图11E示出了映射表1120。如图11E所示,每个位单元(或位单元集)可以基于由可编程电流源供应的总电流,以三种模式之一运行。例如,当可编程电流源被完全停用并且没有电流被供应至位单元时,位单元可以被停用并且不支持存储操作。在该模式下,位单元的主要功耗是由于漏电流的流动而导致。此外,当可编程电流源被编程为提供电流IM0时,位单元可以以部分运行模式运行,其中,位单元保留了先前存储的数据但是无法支持读取/写入访问。此外,当可编程电流源被编程为提供高于IM0的电流IM1时,位单元可以以完全运行模式运行,在该完全运行模式下,位单元支持完整的读取/写入访问。
返回参考图11A,可编程电流源1102至1106以及由量化器/比较器607提供的可编程量化分辨率可以支持时间性电源状态控制操作,在该时间性电源状态控制操作中,控制电路可以关于时间来改变不同处理电路电源子域和不同存储器电源子域的电源状态,以进一步减小功耗。例如,可以将由量化器/比较器607提供的量化分辨率和存储器616中已启用的位单元的数量初始设置为支持低分辨率操作,以检测光的存在。一旦检测到光,就可以增加由量化器/比较器607提供的量化分辨率以及存储器616中已启用的位单元的数量,以提供光强度的高分辨率测量。时间性电源状态控制操作还可以涉及像素映射编程数据和行/列级别电源状态信号的组合。
图12示出了将要基于图7A至图11E中描述的技术在图像传感器704中的像素单元(或像素单元块)处执行的时间性电源状态控制操作时序1200的示例。时间性电源状态控制操作时序将要在时间T0和T6之间的帧周期内被执行以生成帧。
在时间T0处或在时间T0之前,像素单元可以接收来自像素阵列编程映射的、外部配置信号844形式的编程数据,该像素阵列编程映射选择该像素单元来执行光测量操作。在编程数据指示像素单元将被停用的情况下,该像素单元的处理电路614和存储器616可以在整个帧周期内被停用。
像素单元的曝光周期位于时间T0和时间T2之间。在曝光周期期间,一个或多个光电二极管(例如,光电二极管602)可以检测光并且响应于光而生成电荷,并且该电荷可以存储在电荷存储器件606(例如,浮动扩散)处。在时间T0和时间T1之间,如果在曝光周期期间没有执行量化操作,则处理电路614和存储器616这两者均可以被停用以减小功率。该停用可以基于例如列状态控制电路822将列电源状态信号834传输至一列像素单元,该列电源状态信号834可以携带用于处理电路614的零电源电压VSUPPLY-PC和用于存储器616的零电源电压VSUPPLY-MEM、零偏置电压VBIAS等、或者表示零VSUPPLY-PC、零VSUPPLY-MEM和/或零VBIAS的数字编码。局部电源状态控制电路826还可以基于列电源状态信号834生成局部信号(例如,SWSF、currentSF、SWADC、currentADC、SWMEM、CurrentMEM等)。还可以将其它电路断电,这些电路例如为预充电电路624和偏压发生器626、时钟电路、感测放大电路、MIPI接口电路等。
在时间T1与时间T2之间,在曝光周期即将结束时,像素单元中的局部处理电路电源状态控制电路930可以将处理电路614控制为以最低量化模式(例如,具有1位量化分辨率)运行。处理电路614可以以最低量化模式运行,以检测由光电二极管接收到的光的强度(由在电荷存储器件606处的电压表示)是否超过阈值。如果未超过阈值,则这可以表明图像传感器704在没有图像帧将要被生成的黑暗环境中运行,并且可以在帧周期的其余时间内继续停用处理电路和存储器。但是如果光的强度超过阈值,则局部处理电路电源状态控制电路930可以在曝光周期结束之后开始量化操作。当列状态控制电路822调节列电源状态信号834以传输完整的VSUPPLY和VBIAS信号时,局部处理电路电源状态控制电路930可以控制处理电路614进入最低量化模式,同时,局部处理电路电源状态控制电路930可以基于图11B中的表1110选择currentSF信号和currentADC信号。此外,可以启用DAC 622以提供该阈值,并且还可以启用偏压发生器626。同时,可以在曝光周期期间保持停用存储器616和计数器620,直到时间T2为止。
如果像素单元在曝光周期内接收到的光的强度超过阈值,则局部电源状态控制电路826可以在时间T2和时间T3之间的量化周期内开始量化操作。在量化周期内,局部处理电路电源状态控制电路930可以为处理电路614选择currentSF信号和currentADC信号,以实现由例如来自像素阵列编程映射的编程数据所指定的目标量化分辨率。局部存储器电源状态控制电路928还可以基于该目标量化分辨率而启用存储器616中的位单元子集(或全部位单元)来存储量化结果。同时,列电源状态控制电路922还可以启用用于每列的其他电路(例如DAC 622和计数器620),以支持用于该列中的像素单元的量化操作。例如,可以启用计数器620以生成计数值,这些计数值可以被馈送到存储器616作为数字斜坡,并且被馈送到DAC622以生成用于VREF的模拟斜坡。可以在量化周期结束时将来自计数器620的表示量化结果的计数值存储在存储器616处。还可以启用支持量化操作和存储操作的其它电路,例如时钟电路,而可以保持停用感测放大电路和MIPI接口电路。
当在时间T3处量化操作完成之后,可以在时间T3和时间T6之间的整个读出周期内停用处理电路614,在该读出周期内,通过像素数据输出电路807依次读出存储在每列(或每行)的存储器616中的量化结果。处理电路614的停用可以基于例如列状态控制电路822将用于处理电路614的列电源状态信号834传输到一列像素单元,该列电源状态信号834可以携带零电源电压VSUPPLY-PC、零偏置电压VBIAS等、或者表示零VSUPPLY-PC和/或零VBIAS的数字编码。局部电源状态控制电路826还可以基于列电源状态信号834生成局部信号(例如,SWSF、currentSF、SWADC、currentADC等)。此外,还可以停用支持量化操作的电路,例如计数器620、DAC 622和偏压发生器626。
在此期间,每列中的存储器616可以在读出周期期间循环经历多个电源状态。例如,在时间T3和时间T4之间,当一列中的存储器616等待被读出时,局部存储器电源状态控制电路928可以控制存储器616中的存储量化结果的位单元子集进入低功率模式,使得这些位单元可以保留所存储的数据,但是不提供读取/写入访问。在时间T4和T4之间,当轮到存储器被读出时,局部存储器电源状态控制电路928可以控制存储器616中的该位单元子集进入全功率模式以允许读取访问。此外,在存储器616包括多个DRAM器件的情况下,还可以在读出操作之前启用用于每列的预充电电路624,以对这些DRAM器件进行预充电。在时间T5和时间T6之间,在所存储的数据被读出并被传输到主机设备之后,局部存储器电源状态控制电路928可以停用存储器616以及预充电电路624。
也可以基于列状态控制电路822为存储器616传输另一个列电源状态信号834,来控制存储器616的多个电源状态。例如,在时间T3和时间T4之间,列状态控制电路822可以传输指示低电源电压VSUPPLY-MEM、由currentMEM表示的低偏置电流等的列电源状态信号834,以使得存储器616以低功率模式运行。在时间T4和时间T5之间,列状态控制电路822可以传输指示高电源电压VSUPPLY-MEM、由currentMEM表示的高偏置电流等的更新后的列电源状态信号834,以使得存储器616以高功率模式运行。然后,在时间T5和时间T6之间,列状态控制电路822可以传输指示零电源电压VSUPPLY-MEM和/或零偏置电流的进一步更新后的列电源状态信号834,以停用存储器616。
此外,在读出期间内,还启用感测放大电路与MIPI接口电路,以实现从存储器读出的数据到主机设备的传输。在来自存储器的数据的读出操作和传输完成之后,可以停用这些电路。
图13是用于生成图像数据的示例方法1300的流程图。方法1300可以由例如图像传感器704中的像素单元阵列控制电路716执行。如上所述,图像传感器704可以包括像素单元阵列716、处理电路614和多个存储器616。处理电路还可以包括比较器,以对由像素单元输出的电压进行量化,从而生成量化结果,而存储器可以包括存储器器件组,以存储量化结果。图像传感器还可以包括其它电路,这些电路例如为,用于生成模拟阈值电压(例如,模拟斜坡、静态阈值电压等)的模拟阈值生成电路、用于生成数字斜坡的数字斜坡电路(例如,计数器),以支持处理电路的量化操作,以及用于生成处理电路的偏置电压的偏压发生器。
在一些示例中,多个处理电路和多个存储器器件可以被分为多个量化单元,其中,每个量化单元可以被一组像素单元共享,其中,每组像素单元包括像素单元块(例如,子阵列)、一行像素单元或一列像素单元。在一些示例中,每个像素单元可以包括量化单元,该量化单元包括比较器和存储器器件组。模拟阈值生成电路和计数器可以被阵列内的所有像素单元共享或被一行/列像素单元共享。
处理电路可以与处理电路电源域相关联,而存储器可以与存储器电源域相关联。处理电路电源域和存储器电源域中的各个电源域还包括分级的电源子域。例如,参考图9A至图9C,多个第一级处理电路电源子域可以与不同列像素单元的处理电路614相关联,而多个第二级处理电路电源子域可以与不同像素单元的处理电路614相关联。模拟阈值生成电路、计数器和偏压生成器可以各自与不同的第一级或第二级处理电路电源子域相关联。此外,多个第一级存储器电源子域可以与不同列像素单元的存储器616相关联,多个第二级存储器电源子域可以与不同像素单元的存储器616相关联,而多个第三级存储器电源子域可以与像素单元的存储器616的存储器器件组中的不同位单元子集相关联。
在步骤1302中,像素单元阵列控制电路716可以接收像素阵列编程映射,该像素阵列编程映射包括针对图像传感器的像素单元阵列中的每个像素单元块的编程数据。如上所述,像素阵列编程映射(例如,像素阵列编程映射720)可以包含针对每个像素单元块的编程数据,以例如启用像素单元块来测量光的强度并生成量化结果,或者停用该像素单元块。编程映射可以启用该阵列中的像素单元子集来执行稀疏成像操作。编程数据还可以对于每个像素单元块设置测量和量化操作的其它属性,例如量化分辨率、曝光周期的长度等。如上所述,每个像素单元块可以包括像素单元或像素单元子阵列。
在步骤1304中,像素单元阵列控制电路716可以向每个目标像素单元块发送编程数据,以单独配置与不同处理电路电源子域相关联的多个处理电路的第一电源状态,并且单独配置与不同存储器电源子域相关联的多个存储器组的第二电源状态。
具体地,每个像素单元块处的局部电源状态控制电路826可以接收外部配置信号844(表示针对该像素单元块的编程数据),并且基于该外部配置信号844确定像素单元块的处理电路的第一电源状态和像素单元块的存储器器件组的第二电源状态。例如,如果编程数据指示像素单元块将要被停用,则局部电源状态控制电路826可以将处理电路电源子域和存储器器件组电源子域设置为处于停用状态。在另一方面,如果编程数据指示像素单元块将要被启用,则局部电源状态控制电路826可以将处理电路电源子域和存储器器件组电源子域设置为处于启用状态。编程数据还可以指示量化分辨率,并且局部电源状态控制电路826可以基于量化分辨率设置处理电路电源子域和存储器器件组电源子域。例如,局部电源状态控制电路826可以基于量化分辨率,使用图11A至图11E中描述的技术为处理电路设置偏置电流。局部电源状态控制826还可以基于量化分辨率来启用/停用存储器中的位单元子集。
在步骤1306中,像素单元阵列控制电路716可以发送全局处理电路电源状态控制信号,以将处理电路电源域中的处理电路配置为从第一电源状态切换到同一第三电源状态。
具体地,全局处理电路电源状态控制信号可以设置与全局处理电路电源域相关联的所有处理电路的电源状态的上限。例如,如果全局处理电路电源状态控制信号示意所有处理电路被停用,则这可以改写针对每个像素单元块的编程数据,并且停用所有处理电路,这些处理电路包括由编程数据启用的那些处理电路。全局处理电路电源状态控制信号可以是偏置电压、电源电压等形式。像素单元阵列控制电路716可以调制全局处理电路电源状态控制信号,以支持时间性电源状态控制操作。参考图12,在曝光周期期间,全局处理电路电源状态控制信号可以停用所有处理电路,这些处理电路包括像素单元子集的、被启用以执行光测量操作的处理电路。此外,在量化周期期间,全局处理电路电源状态控制信号可以启用多个像素单元块的、由编程数据选择以执行光测量操作的所有处理电路。此外,在量化周期结束之后,全局处理电路电源状态控制信号可以再次停用所有处理电路。
在步骤1308中,像素单元阵列控制电路716可以发送全局存储器电源状态控制信号,以将存储器电源域中的存储器配置为从第二电源状态切换到同一第四电源状态。
具体地,全局存储器电源状态控制信号可以设置与全局存储器电源域相关联的所有存储器器件的电源状态的上限。例如,如果全局存储器电源状态控制信号示意所有存储器器件被停用,则这可以改写针对每个像素单元块的编程数据,并且停用所有存储器器件,这些存储器器件包括由编程数据启用的那些存储器器件。全局存储器电源状态控制信号也可以是偏置电压、电源电压等形式。像素单元阵列控制电路716可以调制全局存储器电源状态控制信号以支持时间性电源状态控制操作。参考图12,在曝光周期期间,全局电路电源状态控制信号可以停用所有存储器器件,这些存储器器件包括像素单元子集的、被启用来执行光测量操作的存储器器件。此外,在量化周期期间,全局电路电源状态控制信号可以基于由编程数据指定的量化分辨率,启用通过编程数据选择来执行光测量操作的多个像素单元块的所有存储器器件或存储器器件子集。此外,在量化周期结束之后,可以调制全局存储器电源状态控制信号以在低功率模式下操作这些存储器器件来保留所存储的数据,随后是在高功率模式下操作这些存储器器件来支持读出操作,并且在读出操作完成之后,操作这些存储器器件进入停用模式。像素单元阵列控制电路716可以基于调制用于每列的列存储器电源状态控制信号,顺序地设置每列像素单元的存储器的电源状态以及设置支持该列的存储器读出操作的支持电路(例如,预充电电路)的电源状态。
本描述的某些部分在对信息操作的算法和符号表示方面描述了本公开的实施例。这些算法描述和表示通常被数据处理领域的技术人员用来向本领域的其他技术人员有效地传达其工作的实质内容。尽管在功能上、计算上或逻辑上对这些操作进行了描述,但这些操作应当被理解为由计算机程序或等效电路、或微代码等实现。此外,事实证明,在不失一般性的情况下,有时将这些操作布置称为模块也很方便。所描述的操作和它们的相关联的模块可以体现在软件、固件和/或硬件中。
所描述的步骤、操作或过程可以使用一个或多个硬件或软件模块单独或者与其他设备结合来执行或实现。在一些实施例中,使用包括计算机可读介质的计算机程序产品实现软件模块,该计算机可读介质包含计算机程序代码,计算机程序代码可以被计算机处理器执行,以执行所描述的步骤、操作或过程中的任何或全部。
本公开的实施例还可以涉及一种用于执行所描述的操作的装置。该装置可以为所需目的而专门构造,和/或该装置可以包括由存储在计算机中的计算机程序选择性地激活或重新配置的通用计算设备。这种计算机程序可以存储在可以耦接到计算机系统总线的非暂态有形计算机可读存储介质、或者适合于存储电子指令的任何类型的介质中。此外,本说明书中提到的任何计算系统可以包括单个处理器,或者可以是使用多个处理器设计以增加计算能力的架构。
本公开的实施例还可以涉及一种由本文所描述的计算过程产生的产品。这种产品可以包括从计算过程中产生的信息,其中,该信息存储在非暂态有形计算机可读存储介质上并且可以包括计算机程序产品或本文所描述的其它数据组合的任何实施例。
说明书中所使用的语言主要是为了可读性和指导目的而选择的,并且该语言可能不是为了划定或限制本发明主题而选择的。因此,旨在本公开的范围不受该详细描述的限制,而应受基于本文的申请公布的任何权利要求的限制。因此,实施例的公开旨在对本公开的范围进行说明而不是限制,本公开的范围在所附权利要求中得到阐述。

Claims (20)

1.一种装置,包括:
像素单元阵列,所述像素单元阵列中的每个像素单元包括一个或多个光电二极管,所述一个或多个光电二极管被配置为检测光;
多个处理电路,所述多个处理电路与所述像素单元阵列中的多个像素单元块相关联,所述处理电路被配置为对由相关联的像素单元块中的一个或多个光电二极管检测到的光的强度进行量化,以生成量化结果,所述多个处理电路还与包括处理电路电源域和多个处理电路电源子域的第一分级电源域相关联,其中,与不同像素单元块相关联的多个所述处理电路与不同处理电路电源子域相关联;
多个存储器器件组,每个存储器器件组与像素单元块相关联,所述存储器器件组被配置为存储相关联的像素单元块的量化结果,所述多个存储器器件组还与包括存储器电源域和多个存储器电源子域的第二分级电源域相关联,其中,与不同像素单元块相关联的多个所述存储器器件组与不同存储器电源子域相关联;
处理电路电源状态控制电路,所述处理电路电源状态控制电路被配置为控制所述多个处理电路的电源状态;
存储器电源状态控制电路,所述存储器电源状态控制电路被配置为控制所述多个存储器器件组的电源状态;以及
像素单元阵列控制电路,所述像素单元阵列控制电路被配置为:
接收像素阵列编程映射,所述像素阵列编程映射包括针对所述像素单元阵列中的每个像素单元块的编程数据;
向每个目标像素单元块发送所述编程数据,以单独配置与不同处理电路电源子域相关联的多个处理电路的第一电源状态,并且单独配置与不同存储器电源子域相关联的多个存储器组的第二电源状态;
使用所述处理电路电源状态控制电路来发送全局处理电路电源状态控制信号,以将所述处理电路电源域的多个处理电路配置为从所述第一电源状态切换到同一第三电源状态;以及
使用所述存储器电源状态控制电路来发送全局存储器电源状态控制信号,以将所述存储器电源域的多个存储器器件组配置为从所述第二电源状态切换到同一第四电源状态。
2.根据权利要求1所述的装置,其中,每个像素单元块包括像素单元,其中,与所述像素单元块相关联的处理电路和存储器器件组为所述像素单元的一部分。
3.根据权利要求1所述的装置,其中,每个像素单元块均包括多个像素单元,其中,所述块中的各个像素单元依次访问与所述像素单元块相关联的处理电路和存储器器件组。
4.根据权利要求1所述的装置,其中,所述处理电路电源域与每个像素单元块的处理电路相关联;
其中,所述第一分级电源域还包括多个第一级处理电路电源子域和多个第二级处理电路电源子域;
其中,每个第一级处理电路电源子域与同一列像素单元块的处理电路相关联;以及
其中,每个第二级处理电路电源子域与像素单元块的处理电路相关联。
5.根据权利要求4所述的装置,其中,所述处理电路电源状态控制电路包括:
全局处理电路电源状态控制电路,所述全局处理电路电源状态控制电路被配置为设置所述处理电路电源域的所有处理电路的电源状态;以及
多个列处理电路电源状态控制电路,所述多个列处理电路电源状态控制电路被配置为单独设置与每个第一级处理电路电源域相关联的每列像素单元块的处理电路的电源状态;
以及
其中,每个像素单元块包括局部处理电路电源状态控制电路,所述局部处理电路电源状态控制电路被配置为设置与第二级处理电路电源域相关联的像素单元块的处理电路的电源状态。
6.根据权利要求5所述的装置,其中,所述全局处理电路电源状态控制电路被配置为向每个列处理电路电源状态控制电路发送所述全局处理电路电源状态控制信号,以设置所述处理电路电源域的所有处理电路的电源状态的上限;
其中,每个列处理电路电源状态控制电路被配置为基于所述全局处理电路电源状态控制信号,向该列中的每个像素单元块发送列处理电路电源状态控制信号,以设置所述列的所有处理电路的电源状态的上限;以及
其中,每个像素单元块的局部处理电路电源状态控制电路被配置为基于所述列处理电路电源状态控制信号和所述编程数据,设置所述像素单元块的处理电路的电源状态。
7.根据权利要求1所述的装置,其中,所述存储器电源域与每个像素单元块的存储器器件组相关联;
其中,所述第二分级电源域还包括多个第一级存储器电源子域和多个第二级存储器电源子域;
其中,每个第一级存储器电源子域与同一列像素单元块的存储器器件组相关联;以及
其中,每个第二级存储器电源子域与像素单元块的存储器器件组相关联。
8.根据权利要求7所述的装置,其中,所述第二分级电源域还包括与一存储器器件组内的不同存储器器件子集相关联的多个第三级存储器电源子域。
9.根据权利要求8所述的装置,其中,所述存储器电源状态控制电路包括:
全局存储器电源状态控制电路,所述全局存储器电源状态控制电路被配置为设置所述存储器电源域的所有存储器器件组的电源状态;以及
多个列存储器电源状态控制电路,所述多个列存储器电源状态控制电路被配置为单独设置与每个第一级存储器电源域相关联的每列像素单元块的存储器器件组的电源状态;以及
其中,每个像素单元块包括局部存储器电源状态控制电路,所述局部存储器电源状态控制电路被配置为设置所述像素单元块的存储器器件组中的不同存储器器件子集的电源状态,所述不同存储器器件子集与所述像素单元块的第二级存储器电源域的不同第三级存储器电源域相关联。
10.根据权利要求9所述的装置,其中,所述全局存储器电源状态控制电路被配置为向每个列存储器电源状态控制电路发送所述全局存储器电源状态控制信号,以设置所述存储器电源域的所有存储器器件组的电源状态的上限;
其中,每个列存储器电源状态控制电路被配置为基于所述全局存储器电源状态控制信号,向该列中的每个像素单元块发送列存储器电源状态控制信号,以设置所述列的所有存储器器件组的电源状态的上限;以及
其中,每个像素单元块的局部存储器电源状态控制电路被配置为基于所述列存储器电源状态控制信号和所述编程数据,设置所述像素单元块的存储器器件组中的不同存储器器件子集的电源状态。
11.根据权利要求1所述的装置,其中,所述编程数据对于每个像素单元块指示以下各项中的一项:所述像素单元块被完全启用、所述像素单元块被停用、或所述像素单元块的性能模式。
12.根据权利要求11所述的装置,其中,与像素单元块相关联的处理电路包括量化器;
其中,所述编程数据指示所述量化器的量化分辨率;以及
其中,所述量化器被配置为基于所述编程数据或所述全局处理电路电源状态控制信号中的至少一者,以所述量化分辨率生成所述量化结果;以及
其中,与所述像素单元块相关联的存储器器件组中的存储器器件子集被配置为,基于所述编程数据或所述全局存储器电源状态控制信号中的至少一者,存储具有所述量化分辨率的所述量化结果。
13.根据权利要求12所述的装置,其中,所述量化器被配置为基于对偏置电流进行设置,以所述量化分辨率生成所述量化结果,所述偏置电流基于所述编程数据或所述全局处理电路电源状态控制信号中的所述至少一者。
14.根据权利要求1所述的装置,其中,所述存储器器件组被配置为基于所述全局存储器电源状态控制信号以以下各种模式中的一种模式运行:完全停用模式、支持读取和写入访问操作的完全运行模式、以及保留存储的所述数据但是不支持读取和写入访问操作的部分运行模式。
15.根据权利要求1所述的装置,还包括:
偏压发生器,所述偏压发生器被配置为向所述处理电路供应偏置电压;以及
数字斜坡电路和模拟阈值生成电路,所述数字斜坡电路和所述模拟阈值生成电路被配置为向所述处理电路供应用于支持所述处理电路生成所述量化结果的信号;
其中,所述偏压发生器、所述数字斜坡电路和所述模拟阈值生成电路与所述处理电路电源域中的不同处理电路电源子域相关联;
以及
其中,所述像素单元阵列控制电路被配置为:
发送所述编程数据以启用像素单元块子集;
在曝光周期的第一部分内,发送第一全局处理电路电源状态控制信号和第一全局存储器电源状态控制信号,以停用所述处理电路电源域的所有处理电路、所述偏压发生器、所述数字斜坡电路和所述模拟阈值生成电路、以及所述存储器电源域的所有存储器器件组;
在所述曝光周期的第二部分内,发送第二全局存储器电源状态控制信号,以使所述像素单元块子集的处理电路以低功率模式运行、并且以启用所述模拟阈值生成电路以向所述处理电路供应静态阈值,以确定所述像素单元阵列是否接收到阈值强度的光;
在量化周期内,发送第二全局处理电路电源状态控制信号和第三全局存储器电源状态控制信号,以启用所述处理电路、所述数字斜坡电路、所述模拟阈值生成电路和所述像素单元块子集的存储器器件组,以基于所述编程数据生成并存储量化结果;以及
在所述量化周期结束后,发送第三全局处理电路电源状态控制信号,以停用所述像素单元块子集的处理电路、并且以停用所述数字斜坡电路和所述模拟阈值生成电路。
16.根据权利要求15所述的装置,还包括接口电路,所述接口电路被配置为将数据从所述存储器器件组传输到外部主机设备;
其中,所述像素单元阵列控制电路还被配置为:
在所述量化周期之后的读出周期的第一部分内,发送第四全局存储器电源状态控制信号,以使所述像素单元块子集的存储器器件组保留所述量化结果,并且停用所述接口电路;
在所述读出周期的第二部分内,将第五全局存储器电源状态控制信号顺序地传输到多列像素单元块,以执行从所述多列像素单元块中的每列像素单元块的存储器器件组的读出操作,并且启用所述接口电路,以将从所述读出操作获得的数据传输到所述主机设备;以及
在对于该列的所述读出操作完成之后,将第六全局存储器电源状态控制信号顺序地传输到所述多列像素单元块,以停用所述多列像素单元块中的每列像素单元块的存储器器件组、并且停用所述接口电路。
17.根据权利要求16所述的装置,其中,所述存储器器件组包括多个动态随机存取存储器(DRAM)器件;以及
其中,对于每列像素单元块,所述装置还包括预充电电路,所述预充电电路被配置为在读出操作之前对该列的存储器器件组进行预充电,一列的每个预充电电路与作为所述列的存储器器件组的存储器电源子域相关联;
其中,所述第五全局存储器电源状态控制信号在对于每个列的读出操作之前顺序地启用所述列的预充电电路;以及
其中,所述第六全局存储器电源状态控制信号在对于每个列的读出操作完成之后停用所述列的预充电电路。
18.一种方法,包括:
接收像素阵列编程映射,所述像素阵列编程映射包括针对图像传感器的像素单元阵列中的每个像素单元块的编程数据,所述图像传感器还包括多个处理电路和多个存储器器件组,所述多个处理电路和所述多个存储器器件组与所述像素单元阵列中的多个像素单元块相关联,所述多个处理电路还与包括处理电路电源域和多个处理电路电源子域的第一分级电源域相关联,所述多个存储器器件组还与包括存储器电源域和多个存储器电源子域的第二分级电源域相关联,其中,与不同像素单元块相关联的多个处理电路与不同处理电路电源子域相关联,并且其中,与不同像素单元块相关联的多个存储器器件组与不同存储器电源子域相关联;
向每个目标像素单元块发送所述编程数据,以单独配置与不同处理电路电源子域相关联的多个处理电路的第一电源状态,并且单独配置与不同存储器电源子域相关联的多个存储器组的第二电源状态;
发送全局处理电路电源状态控制信号,以将所述处理电路电源域的多个处理电路配置为从所述第一电源状态切换到同一第三电源状态;以及
发送全局存储器电源状态控制信号,以将所述存储器电源域的多个存储器器件组配置为从所述第二电源状态切换到同一第四电源状态。
19.根据权利要求18所述的方法,其中,发送所述编程数据以启用像素单元块子集;以及
其中,所述方法还包括:
在曝光周期的第一部分内,发送第一全局处理电路电源状态控制信号和第一全局存储器电源状态控制信号,以停用所述处理电路电源域的所有处理电路和所述存储器电源域的所有存储器器件组;
在所述曝光周期的第二部分内,发送第二全局存储器电源状态控制信号,以使所述像素单元块子集的处理电路以低功率模式运行,从而确定所述像素单元阵列是否接收到阈值强度的光;
在量化周期内,发送第二全局处理电路电源状态控制信号和第三全局存储器电源状态控制信号,以启用所述像素单元块子集的处理电路和存储器器件组,从而基于所述编程数据生成并存储量化结果;以及
在所述量化周期结束后,发送第三全局处理电路电源状态控制信号,以停用所述像素单元块子集的处理电路。
20.根据权利要求19所述的方法,还包括:
在所述量化周期之后的读出周期的第一部分内,发送第四全局存储器电源状态控制信号,以使所述像素单元块子集的存储器器件组保留所述量化结果;
在所述读出周期的第二部分内,将第五全局存储器电源状态控制信号顺序地传输到多列像素单元块,以执行从所述多列像素单元块的每列像素单元块的存储器器件组的读出操作;以及
在所述读出操作完成之后,将第六全局存储器电源状态控制信号顺序地传输到所述多列像素单元块,以停用所述多列像素单元块中的每列像素单元块的存储器器件组。
CN202180037463.3A 2020-05-20 2021-05-20 具有多个电源域的可编程像素阵列 Pending CN115668971A (zh)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US202063027820P 2020-05-20 2020-05-20
US63/027,820 2020-05-20
US202063088807P 2020-10-07 2020-10-07
US63/088,807 2020-10-07
US17/324,803 2021-05-19
US17/324,803 US11825228B2 (en) 2020-05-20 2021-05-19 Programmable pixel array having multiple power domains
PCT/US2021/033321 WO2021236880A1 (en) 2020-05-20 2021-05-20 Programmable pixel array having multiple power domains

Publications (1)

Publication Number Publication Date
CN115668971A true CN115668971A (zh) 2023-01-31

Family

ID=78608598

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180037463.3A Pending CN115668971A (zh) 2020-05-20 2021-05-20 具有多个电源域的可编程像素阵列

Country Status (7)

Country Link
US (1) US11825228B2 (zh)
EP (1) EP4154518A1 (zh)
JP (1) JP2023525983A (zh)
KR (1) KR20230012510A (zh)
CN (1) CN115668971A (zh)
TW (1) TW202201951A (zh)
WO (1) WO2021236880A1 (zh)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10686996B2 (en) 2017-06-26 2020-06-16 Facebook Technologies, Llc Digital pixel with extended dynamic range
US10598546B2 (en) 2017-08-17 2020-03-24 Facebook Technologies, Llc Detecting high intensity light in photo sensor
US20190363118A1 (en) * 2018-05-25 2019-11-28 Facebook Technologies, Llc Programmable pixel array
US11906353B2 (en) 2018-06-11 2024-02-20 Meta Platforms Technologies, Llc Digital pixel with extended dynamic range
US11463636B2 (en) 2018-06-27 2022-10-04 Facebook Technologies, Llc Pixel sensor having multiple photodiodes
US10897586B2 (en) 2018-06-28 2021-01-19 Facebook Technologies, Llc Global shutter image sensor
US10931884B2 (en) 2018-08-20 2021-02-23 Facebook Technologies, Llc Pixel sensor having adaptive exposure time
US11956413B2 (en) 2018-08-27 2024-04-09 Meta Platforms Technologies, Llc Pixel sensor having multiple photodiodes and shared comparator
US11595602B2 (en) 2018-11-05 2023-02-28 Meta Platforms Technologies, Llc Image sensor post processing
US11888002B2 (en) 2018-12-17 2024-01-30 Meta Platforms Technologies, Llc Dynamically programmable image sensor
US11962928B2 (en) 2018-12-17 2024-04-16 Meta Platforms Technologies, Llc Programmable pixel array
US11218660B1 (en) 2019-03-26 2022-01-04 Facebook Technologies, Llc Pixel sensor having shared readout structure
US11943561B2 (en) 2019-06-13 2024-03-26 Meta Platforms Technologies, Llc Non-linear quantization at pixel sensor
US11936998B1 (en) 2019-10-17 2024-03-19 Meta Platforms Technologies, Llc Digital pixel sensor having extended dynamic range
US11935291B2 (en) 2019-10-30 2024-03-19 Meta Platforms Technologies, Llc Distributed sensor system
US11948089B2 (en) 2019-11-07 2024-04-02 Meta Platforms Technologies, Llc Sparse image sensing and processing
US11902685B1 (en) 2020-04-28 2024-02-13 Meta Platforms Technologies, Llc Pixel sensor having hierarchical memory
US11825228B2 (en) 2020-05-20 2023-11-21 Meta Platforms Technologies, Llc Programmable pixel array having multiple power domains
US11910114B2 (en) 2020-07-17 2024-02-20 Meta Platforms Technologies, Llc Multi-mode image sensor
US11956560B2 (en) 2020-10-09 2024-04-09 Meta Platforms Technologies, Llc Digital pixel sensor having reduced quantization operation
US11935575B1 (en) 2020-12-23 2024-03-19 Meta Platforms Technologies, Llc Heterogeneous memory system

Family Cites Families (215)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4121896A (en) 1976-03-24 1978-10-24 Shepherd Thomas H Apparatus for the production of contact lenses
JPH09142031A (ja) 1995-11-22 1997-06-03 Fujicopian Co Ltd 熱転写記録材料
US6486504B1 (en) 1999-10-26 2002-11-26 Eastman Kodak Company CMOS image sensor with extended dynamic range
US6384905B1 (en) 2000-07-07 2002-05-07 The United States Of America As Represented By The Secretary Of The Navy Optic flow sensor with fused elementary motion detector outputs
US7079178B2 (en) 2001-02-20 2006-07-18 Jaroslav Hynecek High dynamic range active pixel CMOS image sensor and data processing system incorporating adaptive pixel reset
US6854045B2 (en) 2001-06-29 2005-02-08 Intel Corporation Hardware emulation of parallel ATA drives with serial ATA interface
JP4175828B2 (ja) 2002-04-18 2008-11-05 抱 石井 撮像カメラ装置及びイメージャの画像データ読取り方法
ATE432535T1 (de) 2003-01-10 2009-06-15 Scherrer Inst Paul Photonenzähl-abbildungseinrichtung
CN1759492B (zh) 2003-03-10 2010-04-28 丰田合成株式会社 固体元件装置的制造方法
US7280143B2 (en) 2003-04-14 2007-10-09 Micron Technology, Inc. CMOS image sensor with active reset and 4-transistor pixels
US7283105B2 (en) 2003-04-24 2007-10-16 Displaytech, Inc. Microdisplay and interface on single chip
US7362355B1 (en) 2003-08-04 2008-04-22 Pixim, Inc. Digital CMOS image sensor incorporating a programmable multi-functional lookup table
JP4241259B2 (ja) 2003-08-06 2009-03-18 セイコーエプソン株式会社 マイクロレンズの製造方法
US6853579B1 (en) 2003-09-09 2005-02-08 Taiwan Semiconductor Manufacturing Co., Ltd. Non-refresh four-transistor memory cell
US6885331B2 (en) 2003-09-15 2005-04-26 Micron Technology, Inc. Ramp generation with capacitors
US6934182B2 (en) 2003-10-03 2005-08-23 International Business Machines Corporation Method to improve cache capacity of SOI and bulk
JP4228876B2 (ja) 2003-10-23 2009-02-25 富士フイルム株式会社 磁気記録媒体
JP4317115B2 (ja) 2004-04-12 2009-08-19 国立大学法人東北大学 固体撮像装置、光センサおよび固体撮像装置の動作方法
EP1701546A4 (en) 2004-04-23 2010-09-15 Sumitomo Electric Industries CODING METHOD AND DECODING METHOD FOR MOVABLE IMAGE DATA, FINAL DEVICE FOR CARRYING OUT THE METHOD AND BIDIRECTIONAL INTERACTIVE SYSTEM
GB0416496D0 (en) 2004-07-23 2004-08-25 Council Of The Central Lab Of Imaging device
KR20070053230A (ko) 2004-08-23 2007-05-23 소니 가부시끼 가이샤 촬상 장치, 촬상 결과의 처리 방법 및 집적회로
US7603514B2 (en) 2005-03-31 2009-10-13 Intel Corporation Method and apparatus for concurrent and independent data transfer on host controllers
TW201101476A (en) 2005-06-02 2011-01-01 Sony Corp Semiconductor image sensor module and method of manufacturing the same
JP2006348085A (ja) 2005-06-13 2006-12-28 Nissan Motor Co Ltd イオン性液体を用いたクッションアクチュエータ、及びそれからなる車両用部品
US7359275B1 (en) 2005-09-08 2008-04-15 Integrated Device Technology, Inc. Reduced size dual-port SRAM cell
KR100775058B1 (ko) 2005-09-29 2007-11-08 삼성전자주식회사 픽셀 및 이를 이용한 이미지 센서, 그리고 상기 이미지센서를 포함하는 이미지 처리 시스템
US7659925B2 (en) * 2005-10-04 2010-02-09 Alexander Krymski High speed CMOS image sensor circuits with memory readout
JP4238898B2 (ja) 2006-08-30 2009-03-18 ソニー株式会社 光学素子の製造装置
JP2008228232A (ja) 2007-03-15 2008-09-25 Canon Inc 撮像装置、撮像方法、プログラム、及び記憶媒体
JP2008270500A (ja) 2007-04-19 2008-11-06 Sharp Corp 固体撮像素子およびその製造方法、電子情報機器
US7920409B1 (en) 2007-06-05 2011-04-05 Arizona Board Of Regents For And On Behalf Of Arizona State University SRAM cell with intrinsically high stability and low leakage
JP5067850B2 (ja) 2007-08-02 2012-11-07 キヤノン株式会社 システム、頭部装着型表示装置、その制御方法
US7956914B2 (en) 2007-08-07 2011-06-07 Micron Technology, Inc. Imager methods, apparatuses, and systems providing a skip mode with a wide dynamic range operation
US8441535B2 (en) 2008-03-05 2013-05-14 Omnivision Technologies, Inc. System and method for independent image sensor parameter control in regions of interest
EP2104234B1 (en) 2008-03-21 2011-08-31 STMicroelectronics Limited Analog-to-digital conversion in image sensors
US8098955B2 (en) 2008-03-25 2012-01-17 Point Grey Research Inc. Efficient selection and application of regions of interest in digital imaging
US8339567B2 (en) 2008-07-04 2012-12-25 Lg Chem, Ltd. Radial-shaped liquid crystal compound, and optical film and liquid crystal display device comprising the same
US8809893B2 (en) 2008-11-14 2014-08-19 Samsung Electronics Co., Ltd. Semiconductor light emitting device
US7969759B1 (en) 2008-12-19 2011-06-28 Suvolta, Inc. Method and apparatus for improving SRAM write operations
KR20100089389A (ko) 2009-02-03 2010-08-12 삼성전자주식회사 점착 조성물 및 이로부터 제조되는 점착 필름
KR101627725B1 (ko) 2009-02-03 2016-06-07 삼성전자 주식회사 광경화형 화합물
US8625012B2 (en) 2009-02-05 2014-01-07 The Hong Kong University Of Science And Technology Apparatus and method for improving dynamic range and linearity of CMOS image sensor
US8329306B2 (en) 2009-03-03 2012-12-11 Fujifilm Corporation Barrier laminate, gas barrier film, and device using the same
KR101581222B1 (ko) 2009-03-30 2015-12-30 삼성전자주식회사 디지털 촬영 장치, 그 제어 방법 및 컴퓨터 판독가능 저장매체
US8868821B2 (en) 2009-08-26 2014-10-21 Densbits Technologies Ltd. Systems and methods for pre-equalization and code design for a flash memory
WO2011030391A1 (ja) 2009-09-11 2011-03-17 パナソニック株式会社 アナログ・デジタル変換器、イメージセンサシステム、カメラ装置
US8174868B2 (en) 2009-09-30 2012-05-08 Taiwan Semiconductor Manufacturing Co., Ltd. Embedded SRAM structure and chip
WO2011078999A1 (en) 2009-12-24 2011-06-30 Imagerlabs Inc. Adjustable cmos sensor array
US20150309316A1 (en) 2011-04-06 2015-10-29 Microsoft Technology Licensing, Llc Ar glasses with predictive control of external device based on event input
US20120200499A1 (en) 2010-02-28 2012-08-09 Osterhout Group, Inc. Ar glasses with event, sensor, and user action based control of applications resident on external devices with feedback
KR20110100974A (ko) 2010-03-05 2011-09-15 동우 화인켐 주식회사 착색 감광성 수지 조성물, 이를 포함하는 컬러필터 및 액정표시장치
IT1400749B1 (it) 2010-06-30 2013-07-02 St Microelectronics Srl Cella sram configurabile dinamicamente per funzionamento a bassa tensione
IT1400750B1 (it) 2010-06-30 2013-07-02 St Microelectronics Srl Memoria sram 5t per applicazioni a bassa tensione
JP5630146B2 (ja) 2010-08-23 2014-11-26 ソニー株式会社 撮像装置、撮像装置の制御方法およびプログラム。
US8183639B2 (en) 2010-10-07 2012-05-22 Freescale Semiconductor, Inc. Dual port static random access memory cell layout
US20120240007A1 (en) 2010-10-20 2012-09-20 Stec, Inc. Ldpc decoding for solid state storage devices
US8773577B2 (en) 2010-10-27 2014-07-08 Qualcomm Incorporated Region of interest extraction
US8698843B2 (en) 2010-11-02 2014-04-15 Google Inc. Range of focus in an augmented reality application
US20120113119A1 (en) 2010-11-05 2012-05-10 Nova Research, Inc. Super resolution infrared imaging system
US9030598B2 (en) 2010-11-24 2015-05-12 Nokia Corporation Optically refracting surfaces
TWI462265B (zh) 2010-11-30 2014-11-21 Ind Tech Res Inst 影像擷取裝置
KR101453769B1 (ko) 2010-12-24 2014-10-22 제일모직 주식회사 감광성 수지 조성물 및 이를 이용한 컬러 필터
US8631294B2 (en) 2011-02-02 2014-01-14 Seagate Technology Llc Methods and devices to increase memory device data reliability
US8587501B2 (en) 2011-02-17 2013-11-19 Global Oled Technology Llc Electroluminescent display device with optically communicating chiplets
KR101241704B1 (ko) 2011-04-14 2013-03-19 엘지이노텍 주식회사 픽셀, 픽셀 어레이, 이를 포함하는 이미지센서 및 그 구동방법
US20190331914A1 (en) 2011-07-20 2019-10-31 Google Llc Experience Sharing with Region-Of-Interest Selection
JP5868065B2 (ja) 2011-08-05 2016-02-24 キヤノン株式会社 撮像装置
JP2013043383A (ja) 2011-08-24 2013-03-04 Fujifilm Corp バリア性積層体、ガスバリアフィルムおよびこれらを用いたデバイス
JP5901186B2 (ja) 2011-09-05 2016-04-06 キヤノン株式会社 固体撮像装置及びその駆動方法
US20130056809A1 (en) 2011-09-07 2013-03-07 Duli Mao Image Sensor with Reduced Noiseby Blocking Nitridation Over Selected Areas
US8223024B1 (en) 2011-09-21 2012-07-17 Google Inc. Locking mechanism based on unnatural movement of head-mounted display
US8890047B2 (en) 2011-09-21 2014-11-18 Aptina Imaging Corporation Stacked-chip imaging systems
WO2013047523A1 (ja) 2011-09-26 2013-04-04 富士フイルム株式会社 バリア性積層体および新規な重合性化合物
GB201117319D0 (en) 2011-10-06 2011-11-16 Isis Innovation Active pixel image sensor
US10598929B2 (en) 2011-11-09 2020-03-24 Google Llc Measurement method and system
KR20130062188A (ko) 2011-12-02 2013-06-12 삼성전자주식회사 이미지 센서 및 이를 포함하는 이미지 처리 장치
KR20130084492A (ko) 2012-01-17 2013-07-25 삼성전자주식회사 비휘발성 메모리 시스템
US20130180841A1 (en) 2012-01-17 2013-07-18 Esat Yilmaz Sensor Stack with Opposing Electrodes
US8735795B2 (en) 2012-01-20 2014-05-27 Omnivision Technologies, Inc. Image sensor with integrated ambient light detection
RU2623708C2 (ru) 2012-01-24 2017-06-28 Дзе Аризона Борд Оф Риджентс Он Бехаф Оф Дзе Юниверсити Оф Аризона Компактный наголовный дисплей с отслеживанием движения глаз
KR101990971B1 (ko) 2012-01-30 2019-06-19 삼성전자 주식회사 메모리, 메모리 시스템, 및 메모리에 대한 에러 검출/정정 방법
JP6110595B2 (ja) 2012-02-07 2017-04-05 イーエイチエス レンズ フィリピン インク 眼鏡用偏光プラスチックレンズの製造方法
US9185307B2 (en) 2012-02-21 2015-11-10 Semiconductor Components Industries, Llc Detecting transient signals using stacked-chip imaging systems
TW201340708A (zh) 2012-03-19 2013-10-01 Sony Corp 固體攝像裝置及電子機器
JP5749678B2 (ja) 2012-03-29 2015-07-15 富士フイルム株式会社 ガスバリアフィルム
JP5934544B2 (ja) 2012-03-29 2016-06-15 富士フイルム株式会社 ガスバリアフィルム
US9723233B2 (en) 2012-04-18 2017-08-01 Brightway Vision Ltd. Controllable gated sensor
US8957358B2 (en) 2012-04-27 2015-02-17 Taiwan Semiconductor Manufacturing Company, Ltd. CMOS image sensor chips with stacked scheme and methods for forming the same
US9350928B2 (en) 2012-05-02 2016-05-24 Semiconductor Components Industries, Llc Image data compression using stacked-chip image sensors
US9233511B2 (en) 2012-05-10 2016-01-12 Optiz, Inc. Method of making stamped multi-layer polymer lens
US8779346B2 (en) 2012-05-14 2014-07-15 BAE Systems Imaging Solutions Inc. Digital pixel sensor with reduced noise
US9058281B2 (en) 2012-06-01 2015-06-16 Seagate Technology Llc Allocating memory usage based on quality metrics
KR20140024707A (ko) 2012-08-21 2014-03-03 삼성전자주식회사 이미지 센서 및 이를 포함하는 전자 기기
KR101384332B1 (ko) 2012-09-06 2014-04-10 현대모비스 주식회사 차량 영상처리 장치 및 방법과 이를 이용한 차량 영상처리 시스템
KR101965632B1 (ko) 2012-09-07 2019-04-05 삼성전자 주식회사 아날로그-디지털 변환 회로, 이를 포함하는 이미지 센서, 및 그 동작 방법
US9667898B2 (en) 2012-10-05 2017-05-30 Rambus Inc. Conditional-reset, multi-bit read-out image sensor
JP6369911B2 (ja) 2013-01-25 2018-08-08 テレダイン・イノバシオネス・ミクロエレクトロニカス・ソシエダッド・リミターダ・ユニパーソナルTeledyne Innovaciones Microelectronicas,Slu 画像センサ用の自動関心領域機能
EP2969258A4 (en) 2013-03-13 2016-11-30 Harvard College COMPRESSIVE COMPOSITION FOR PREPARING GLOSSY SURFACES WITH LIQUID INFUSION AND METHOD OF USE
GB2513579A (en) 2013-04-29 2014-11-05 Tobii Technology Ab Power efficient image sensing apparatus, method of operating the same and eye/gaze tracking system
JP2014236183A (ja) 2013-06-05 2014-12-15 株式会社東芝 イメージセンサ装置及びその製造方法
JP6303297B2 (ja) 2013-06-14 2018-04-04 富士通株式会社 端末装置、視線検出プログラムおよび視線検出方法
JP6188451B2 (ja) 2013-06-27 2017-08-30 オリンパス株式会社 アナログデジタル変換器および固体撮像装置
WO2015038569A2 (en) 2013-09-10 2015-03-19 Rambus Inc. Oversampled image sensor with conditional pixel readout
US9410850B2 (en) 2013-09-20 2016-08-09 Vlad Joseph Novotny Infrared imager readout electronics
CA2888943C (en) 2013-10-03 2015-08-18 Sulon Technologies Inc. Augmented reality system and method for positioning and mapping
KR102210539B1 (ko) 2013-12-26 2021-02-01 삼성전자주식회사 상관 이중 샘플링 회로, 이를 포함하는 아날로그-디지털 컨버터, 및 이미지 센서
US20160018645A1 (en) 2014-01-24 2016-01-21 Osterhout Group, Inc. See-through computer display systems
JP6338385B2 (ja) 2014-01-31 2018-06-06 キヤノン株式会社 撮像装置、撮像システム、撮像装置の制御方法および撮像装置を有する撮影装置
JP6336286B2 (ja) 2014-01-31 2018-06-06 キヤノン株式会社 撮像装置、撮像システム、撮像装置の制御方法および撮像装置を有する撮影装置
WO2015120328A1 (en) 2014-02-07 2015-08-13 Rambus Inc. Feedthrough-compensated image sensor
US20160011422A1 (en) 2014-03-10 2016-01-14 Ion Virtual Technology Corporation Method and system for reducing motion blur when experiencing virtual or augmented reality environments
EP2924979B1 (en) 2014-03-25 2023-01-18 IMEC vzw Improvements in or relating to imaging sensors
TWI656631B (zh) 2014-03-28 2019-04-11 日商半導體能源研究所股份有限公司 攝像裝置
JP2015195235A (ja) 2014-03-31 2015-11-05 ソニー株式会社 固体撮像素子、電子機器、および撮像方法
KR102246553B1 (ko) 2014-04-24 2021-04-30 엘지전자 주식회사 Hmd 및 그 제어 방법
US9672416B2 (en) 2014-04-29 2017-06-06 Microsoft Technology Licensing, Llc Facial expression tracking
US20190307313A1 (en) 2014-05-09 2019-10-10 Jack Wade Systems and methods for medical imaging
US10007350B1 (en) 2014-06-26 2018-06-26 Leap Motion, Inc. Integrated gestural interaction and multi-user collaboration in immersive virtual reality environments
US9247162B2 (en) 2014-06-27 2016-01-26 Omnivision Technologies, Inc. System and method for digital correlated double sampling in an image sensor
KR102192088B1 (ko) 2014-07-18 2020-12-16 삼성전자주식회사 인지센서 및 이의 구동방법
US10165209B2 (en) 2014-07-25 2018-12-25 Rambus Inc. Low-noise, high dynamic-range image sensor
KR20160032586A (ko) 2014-09-16 2016-03-24 삼성전자주식회사 관심영역 크기 전이 모델 기반의 컴퓨터 보조 진단 장치 및 방법
US10515284B2 (en) 2014-09-30 2019-12-24 Qualcomm Incorporated Single-processor computer vision hardware control and application execution
CN107113387B (zh) 2014-11-12 2020-09-18 索尼公司 固态成像装置及电子设备
JP6432606B2 (ja) 2014-12-03 2018-12-05 株式会社ニコン 電子機器
US9332200B1 (en) 2014-12-05 2016-05-03 Qualcomm Incorporated Pixel readout architecture for full well capacity extension
WO2016095057A1 (en) 2014-12-19 2016-06-23 Sulon Technologies Inc. Peripheral tracking for an augmented reality head mounted device
US9819882B2 (en) 2015-06-05 2017-11-14 Caeleste Cvba Global shutter high dynamic range sensor
JP6966943B2 (ja) 2015-06-10 2021-11-17 アップル インコーポレイテッドApple Inc. ディスプレイパネルの冗長スキーム
US10524667B2 (en) 2015-06-14 2020-01-07 Facense Ltd. Respiration-based estimation of an aerobic activity parameter
US9743024B2 (en) 2015-07-01 2017-08-22 Massachusetts Institute Of Technology Method and apparatus for on-chip per-pixel pseudo-random time coded exposure
WO2017003477A1 (en) 2015-07-01 2017-01-05 Tyrrell Brian M Method and apparatus for on-chip per-pixel pseudo-random time coded exposure
JPWO2017013806A1 (ja) 2015-07-23 2018-05-10 オリンパス株式会社 固体撮像装置
US10274730B2 (en) 2015-08-03 2019-04-30 Facebook Technologies, Llc Display with an embedded eye tracker
US10607413B1 (en) 2015-09-08 2020-03-31 Ultrahaptics IP Two Limited Systems and methods of rerendering image hands to create a realistic grab experience in virtual reality/augmented reality environments
GB2598525B (en) 2015-09-16 2022-06-01 Canon Kk Image sensor and image capturing apparatus
GB2596029B (en) 2015-09-16 2022-07-27 Canon Kk Image sensor and image capturing apparatus
US9735131B2 (en) 2015-11-10 2017-08-15 Taiwan Semiconductor Manufacturing Company, Ltd. Multi-stack package-on-package structures
JP2017108397A (ja) * 2015-11-30 2017-06-15 株式会社半導体エネルギー研究所 信号処理回路、及び該信号処理回路を有する半導体装置
DE102015122055B4 (de) 2015-12-17 2018-08-30 Carl Zeiss Ag Optisches System sowie Verfahren zum Übertragen eines Quellbildes
US10216703B2 (en) 2016-02-08 2019-02-26 Spero Devices, Inc. Analog co-processor
JP6736911B2 (ja) 2016-02-29 2020-08-05 セイコーエプソン株式会社 光束径拡大素子及び画像表示装置
US10715824B2 (en) 2016-03-17 2020-07-14 Facebook Technologies, Llc System and method for data compressing optical sensor data prior to transferring to a host system
US10420523B2 (en) 2016-03-21 2019-09-24 The Board Of Trustees Of The Leland Stanford Junior University Adaptive local window-based methods for characterizing features of interest in digital images and systems for practicing same
US10003726B2 (en) 2016-03-25 2018-06-19 Microsoft Technology Licensing, Llc Illumination module for near eye-to-eye display system
US10594974B2 (en) 2016-04-07 2020-03-17 Tobii Ab Image sensor for vision based on human computer interaction
EP3440831B1 (en) 2016-04-07 2020-11-18 Tobii AB Mage sensor for computer vision based human computer interaction
US9646681B1 (en) 2016-04-25 2017-05-09 Qualcomm Incorporated Memory cell with improved write margin
US9885870B2 (en) 2016-04-25 2018-02-06 Microsoft Technology Licensing, Llc Diffractive optical elements with analog modulations and switching
US9967472B2 (en) 2016-05-17 2018-05-08 JVC Kenwood Corporation Image sensor combining high dynamic range techniques
US20180027174A1 (en) 2016-07-19 2018-01-25 Qualcomm Incorporated Signaling camera configuration changes using metadata defined for a camera command set
JP6806494B2 (ja) 2016-08-24 2021-01-06 キヤノン株式会社 撮像装置、撮像システム、移動体及び撮像装置の駆動方法
WO2018045409A1 (en) 2016-09-06 2018-03-15 The Australian National University A method for fabricating lenses
JP2018046430A (ja) 2016-09-15 2018-03-22 ソニー株式会社 情報処理装置および方法、並びにプログラム
US9859245B1 (en) 2016-09-19 2018-01-02 Taiwan Semiconductor Manufacturing Co., Ltd. Chip package structure with bump and method for forming the same
US10484628B2 (en) 2016-10-21 2019-11-19 The Johns Hopkins University Flexible pixel-wise exposure control and readout
KR102563846B1 (ko) 2016-11-16 2023-08-03 매직 립, 인코포레이티드 머리-장착 디스플레이 시스템들을 위한 다해상도 디스플레이 어셈블리
KR20180056962A (ko) * 2016-11-21 2018-05-30 삼성전자주식회사 전원 제어 회로를 포함하는 이벤트 기반 센서
GB2556910A (en) 2016-11-25 2018-06-13 Nokia Technologies Oy Virtual reality display
US10395111B2 (en) 2016-12-01 2019-08-27 Varjo Technologies Oy Gaze-tracking system and method
US10984235B2 (en) 2016-12-16 2021-04-20 Qualcomm Incorporated Low power data generation for iris-related detection and authentication
US9955091B1 (en) 2016-12-20 2018-04-24 Omnivision Technologies, Inc. High dynamic range image sensor read out architecture using in-frame multi-bit exposure control
KR102621752B1 (ko) 2017-01-13 2024-01-05 삼성전자주식회사 Mram을 포함한 씨모스 이미지 센서
US10218923B2 (en) 2017-02-17 2019-02-26 Semiconductor Components Industries, Llc Methods and apparatus for pixel binning and readout
US10838110B2 (en) 2017-03-03 2020-11-17 Microsoft Technology Licensing, Llc Metasurface optical coupling elements for a display waveguide
JP2018148528A (ja) 2017-03-09 2018-09-20 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置および電子機器
US10360732B2 (en) 2017-03-23 2019-07-23 Intel Corporation Method and system of determining object positions for image processing using wireless network angle of transmission
CN106955120B (zh) 2017-03-31 2020-12-29 北京东软医疗设备有限公司 成像方法及成像系统
WO2018231962A1 (en) 2017-06-13 2018-12-20 Drinksavvy, Inc. Colorimetric sensors and methods of manufacturing the same
US10395376B2 (en) 2017-07-19 2019-08-27 Qualcomm Incorporated CMOS image sensor on-die motion detection using inter-pixel mesh relationship
US11568609B1 (en) 2017-07-25 2023-01-31 Meta Platforms Technologies, Llc Image sensor having on-chip compute circuit
US20210264679A1 (en) 2017-07-25 2021-08-26 Facebook Technologies, Llc Smart sensor
US10726627B2 (en) 2017-07-25 2020-07-28 Facebook Technologies, Llc Sensor system based on stacked sensor layers
US10090342B1 (en) 2017-08-01 2018-10-02 Semiconductor Components Industries, Llc Stacked image sensor capacitors and related methods
JP7072362B2 (ja) 2017-09-26 2022-05-20 ブリルニクス シンガポール プライベート リミテッド 固体撮像装置、固体撮像装置の駆動方法、および電子機器
US10506217B2 (en) 2017-10-09 2019-12-10 Facebook Technologies, Llc Head-mounted display tracking system
KR102467845B1 (ko) 2017-10-24 2022-11-16 삼성전자주식회사 적층형 씨모스 이미지 센서
US11039092B2 (en) 2017-11-15 2021-06-15 Nvidia Corporation Sparse scanout for image sensors
WO2019111528A1 (ja) 2017-12-06 2019-06-13 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、固体撮像装置の制御方法およびコンピュータプログラム
US11112613B2 (en) 2017-12-18 2021-09-07 Facebook Technologies, Llc Integrated augmented reality head-mounted display for pupil steering
US10708529B2 (en) 2017-12-20 2020-07-07 Semiconductor Components Industries, Llc Image sensors with low-voltage transistors
US10999539B2 (en) 2017-12-26 2021-05-04 Waymo Llc Adjustable vertical field of view
JP6951967B2 (ja) 2017-12-28 2021-10-20 日本電産サンキョー株式会社 レンズユニット及び金型の製造方法
WO2019133008A1 (en) 2017-12-30 2019-07-04 Intel Corporation Ultra-thin, hyper-density semiconductor packages
US11057581B2 (en) 2018-01-24 2021-07-06 Facebook Technologies, Llc Digital pixel array with multi-stage readouts
US20190246036A1 (en) 2018-02-02 2019-08-08 Futurewei Technologies, Inc. Gesture- and gaze-based visual data acquisition system
KR102469080B1 (ko) 2018-02-13 2022-11-23 에스케이하이닉스 주식회사 비교 장치 및 그에 따른 씨모스 이미지 센서
US11971549B2 (en) 2018-03-12 2024-04-30 Magic Leap, Inc. Very high index eyepiece substrate-based viewing optics assembly architectures
US20190363118A1 (en) 2018-05-25 2019-11-28 Facebook Technologies, Llc Programmable pixel array
KR20190139082A (ko) 2018-06-07 2019-12-17 삼성전자주식회사 메모리 장치의 비트 에러율 균등화 방법
US10684681B2 (en) 2018-06-11 2020-06-16 Fotonation Limited Neural network image processing apparatus
US11067848B1 (en) 2018-06-22 2021-07-20 Facebook Technologies, Llc Switchable reflective devices including first and second optically transparent materials with different refractive indexes and methods and systems for fabrication thereof
US10345447B1 (en) 2018-06-27 2019-07-09 Luminar Technologies, Inc. Dynamic vision sensor to direct lidar scanning
US10897586B2 (en) 2018-06-28 2021-01-19 Facebook Technologies, Llc Global shutter image sensor
JP6725733B2 (ja) 2018-07-31 2020-07-22 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置および電子機器
US10708522B2 (en) 2018-08-10 2020-07-07 International Business Machines Corporation Image sensor with analog sample and hold circuit control for analog neural networks
JP6635221B1 (ja) 2018-08-31 2020-01-22 ソニー株式会社 撮像装置、撮像システム、撮像方法および撮像プログラム
US10915995B2 (en) 2018-09-24 2021-02-09 Movidius Ltd. Methods and apparatus to generate masked images based on selective privacy and/or location tracking
WO2020077283A1 (en) 2018-10-12 2020-04-16 Supermem, Inc. Error correcting memory systems
KR102599047B1 (ko) 2018-11-13 2023-11-06 삼성전자주식회사 데이터 신뢰성을 향상한 메모리 컨트롤러, 이를 포함하는 메모리 시스템 및 메모리 컨트롤러의 동작방법
JP2020088723A (ja) 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
US11888002B2 (en) 2018-12-17 2024-01-30 Meta Platforms Technologies, Llc Dynamically programmable image sensor
US11962928B2 (en) 2018-12-17 2024-04-16 Meta Platforms Technologies, Llc Programmable pixel array
US10755128B2 (en) 2018-12-18 2020-08-25 Slyce Acquisition Inc. Scene and user-input context aided visual search
US10867655B1 (en) 2019-07-08 2020-12-15 Micron Technology, Inc. Methods and apparatus for dynamically adjusting performance of partitioned memory
US11010327B2 (en) 2019-07-23 2021-05-18 Qualcomm Incorporated I3C point to point
US11018113B2 (en) 2019-10-17 2021-05-25 Taiwan Semiconductor Manufacturing Company, Ltd. Memory module, semiconductor package including the same, and manufacturing method thereof
US11948089B2 (en) 2019-11-07 2024-04-02 Meta Platforms Technologies, Llc Sparse image sensing and processing
US11394905B2 (en) * 2019-12-13 2022-07-19 Sony Semiconductor Solutions Corporation Dynamic region of interest and frame rate for event based sensor and imaging camera
JP7455588B2 (ja) * 2020-01-17 2024-03-26 キヤノン株式会社 撮像装置
US11825228B2 (en) 2020-05-20 2023-11-21 Meta Platforms Technologies, Llc Programmable pixel array having multiple power domains
US11910114B2 (en) 2020-07-17 2024-02-20 Meta Platforms Technologies, Llc Multi-mode image sensor
US10970619B1 (en) 2020-08-21 2021-04-06 Moffett Technologies Co., Limited Method and system for hierarchical weight-sparse convolution processing
US20220076726A1 (en) 2020-09-04 2022-03-10 Micron Technology, Inc. Methods and apparatus for probabilistic refresh in volatile memory devices
US11620818B2 (en) 2020-10-01 2023-04-04 Intel Corporation Spatially sparse neural network accelerator for multi-dimension visual analytics

Also Published As

Publication number Publication date
KR20230012510A (ko) 2023-01-26
US20210368124A1 (en) 2021-11-25
EP4154518A1 (en) 2023-03-29
WO2021236880A1 (en) 2021-11-25
JP2023525983A (ja) 2023-06-20
TW202201951A (zh) 2022-01-01
US11825228B2 (en) 2023-11-21

Similar Documents

Publication Publication Date Title
CN115668971A (zh) 具有多个电源域的可编程像素阵列
TWI810304B (zh) 用於產生影像圖框之設備及方法
US11888002B2 (en) Dynamically programmable image sensor
US11910114B2 (en) Multi-mode image sensor
US11956413B2 (en) Pixel sensor having multiple photodiodes and shared comparator
US11974044B2 (en) Pixel sensor having adaptive exposure time
US11948089B2 (en) Sparse image sensing and processing
US11962928B2 (en) Programmable pixel array
US20230239582A1 (en) On-sensor image processor utilizing contextual data
US20210044742A1 (en) Dynamically programmable image sensor
US20230105527A1 (en) Noise-reduction circuit for an image sensor
WO2023146969A1 (en) On-sensor image processor utilizing contextual data
CN118077214A (zh) 用于图像传感器的降噪电路
WO2023059538A1 (en) Noise-reduction circuit for an image sensor

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination