CN206506600U - 含有成像设备的系统 - Google Patents

含有成像设备的系统 Download PDF

Info

Publication number
CN206506600U
CN206506600U CN201720151888.8U CN201720151888U CN206506600U CN 206506600 U CN206506600 U CN 206506600U CN 201720151888 U CN201720151888 U CN 201720151888U CN 206506600 U CN206506600 U CN 206506600U
Authority
CN
China
Prior art keywords
pixel
image
picture signal
read
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201720151888.8U
Other languages
English (en)
Inventor
本多秀成
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Semiconductor Components Industries LLC
Original Assignee
Semiconductor Components Industries LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Semiconductor Components Industries LLC filed Critical Semiconductor Components Industries LLC
Application granted granted Critical
Publication of CN206506600U publication Critical patent/CN206506600U/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/445Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by skipping some contiguous pixels within the read portion of the array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • H04N23/651Control of camera operation in relation to power supply for reducing power consumption by affecting camera operations, e.g. sleep mode, hibernation mode or power off of selective parts of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

公开了含有成像设备的系统。一种含有成像设备的系统包括:中央处理单元;存储器;输入‑输出电路;和该成像设备,该成像设备包括:生成图像信号的、包括第一组像素和第二组像素的像素阵列;将光引导到该像素阵列上的镜头;读出由该第一组像素和该第二组像素所生成的图像信号的像素读出电路,其中来自所述第一组像素的第一数量的图像信号被合并而生成第一结合图像信号,其中来自所述第二组像素的第二数量的图像信号被合并而生成第二结合图像信号,并且其中所述第一数量大于所述第二数量;以及图像信号处理电路,所述图像信号处理电路基于所述第一结合图像信号和所述第二结合图像信号来生成图像。

Description

含有成像设备的系统
本分案申请是基于申请号为201620854200.8,申请日为2016年8月9日,实用新型名称为“含有成像设备的系统”的中国专利申请的分案申请。
技术领域
本公开整体涉及成像设备,并且更具体地讲,涉及具有选择性图像信号读出和处理能力的成像设备。
背景技术
图像传感器常在电子设备,例如,移动电话、相机和计算机中用来捕获图像。在典型布置方式中,电子设备设置有被布置成像素行和像素列的图像像素阵列。图像像素包含光电二极管以便响应于图像光而生成电荷。通常将电路耦合到各个像素列以用于读出来自图像像素的图像信号。
在某些应用中,可能希望读出和/或处理来自图像像素阵列中的仅一些图像像素的图像信号(即,“跳过”来自像素阵列中的一些图像像素的图像信号),以降低成像系统的功耗。在常规成像系统中,来自其的图像信号被读出和处理的图像像素与被“跳过”的图像像素的比率在整个图像像素阵列中是恒定的(即,阵列中的每两个图像像素当中仅对来自其中之一的图像信号进行读出和处理,或者每十个图像像素当中仅对来自其中之一的图像信号进行读出和处理,或者阵列中的每十五个图像像素当中仅对来自其中之一的图像信号进行读出和处理,等等)。
然而,在诸如在汽车应用中具有数字相机“环视”图像捕获的广角图像捕获的应用中,图像数据可在图像的一些部分中更丰富,而图像的其他部分包括更少图像数据。在这些应用中,可能希望对在包括更丰富数据的图像部分中生成图像数据的像素使用不同跳过比率,同时对在包括较不丰富图像数据的图像部分中生成图像数据的像素使用不同跳过比率。然而,由于常规图像传感器对整个图像帧仅使用一种跳过比率,来自其的图像信号被读出和处理的图像像素的数量在具有丰富图像数据的图像部分中将保持较高,以提高具有较不丰富图像数据的图像部分的分辨率。但这会增加成像系统的功耗。作为另外一种选择,将减少来自其的图像信号被读出和处理的图像像素的数量,以降低成像系统的总功耗。但这会降低具有较不丰富图像数据的图像部分的分辨率。
因此希望能够提供具有像素读出能力改善的成像系统。
实用新型内容
根据本实用新型的一个方面,一种含有成像设备的系统包括:中央处理单元;存储器;输入-输出电路;以及所述成像设备,其中所述成像设备包括:生成图像信号的、包括第一组像素和第二组像素的像素阵列;将光引导到所述像素阵列上的镜头;读出由所述第一组像素和所述第二组像素所生成的所述图像信号的像素读出电路,其中来自所述第一组像素的第一数量的图像信号被合并而生成第一结合图像信号,其中来自所述第二组像素的第二数量的图像信号被合并而生成第二结合图像信号,并且其中所述第一数量大于所述第二数量;以及图像信号处理电路,所述图像信号处理电路基于所述第一结合图像信号和所述第二结合图像信号来生成图像。
在一个实施例中,所述第一组像素和所述第二组像素响应于从场景的第一部分和第二部分接收到的光而生成所述图像信号,其中所述场景的所述第一部分与所述场景的所述第二部分相比离所述系统更近,并且其中所述第一百分比大于所述第二百分比。
在一个实施例中,所述镜头为宽视角镜头,所述宽视角镜头被配置为将来自所述场景的第三部分的额外光引导到所述像素阵列,其中第三组像素响应于从所述场景的所述第三部分接收到的所述光而生成图像信号,其中所述像素读出电路读出由所述第三组像素所生成的所述图像信号,其中所述像素读出电路跳过对所述第三组中的所述像素的第三百分比的像素的图像信号读出,并且其中所述第三百分比小于所述第一百分比和所述第二百分比。
在一个实施例中,所述中央处理单元、所述像素读出电路和所述图像信号处理电路中的至少一者被配置为对所述图像执行透视校正操作,以减轻因所述场景的所述第一部分与所述场景的所述第二部分相比离所述系统更近而致所述图像中的透视失真。
在一个实施例中,来自所述第一组像素的第一数量的图像信号被合并而生成第一结合图像信号,其中来自所述第二组像素的第二数量的图像信号被合并而生成第二结合图像信号,并且其中所述第一数量大于所述第二数量。
在一个实施例中,所述第一数量的图像信号中的所述图像信号在被所述像素读出电路读出之前被结合为所述第一结合信号。
在一个实施例中,所述第一数量的图像信号中的所述图像信号在被结合为所述第一结合信号之前被所述像素读出电路读出。
附图说明
图1为根据本实用新型实施方案的示例性电子设备的示意图,该电子设备具有图像传感器和处理电路以便使用具有图像信号跳过和/或合并能力的像素阵列来捕获图像。
图2为根据本实用新型实施方案的示例性像素阵列和相关读出电路的示意图,所述读出电路用于从像素阵列读出图像信号。
图3为根据本实用新型实施方案的示例性像素阵列的示意图,所述像素阵列具有被布置成行和列的图像像素。
图4A和5A为根据本实用新型实施方案的示例性原始图像的示意图,所述原始图像通过图3所示类型的像素阵列捕获。
图4B和5B为根据本实用新型实施方案的图3所示类型的图像像素阵列的示意图,所述图像像素阵列分别叠加在了图4A和5A中所示类型的原始图像上。
图4C和5C为根据本实用新型实施方案的示例性校正图像的示意图,所述校正图像通过分别将透视校正操作施加于图4A和5A中所示类型的图像而生成。
图6为根据本实用新型实施方案的示例性步骤的流程图,这些步骤可在使用加权跳过像素读出方法生成图像时执行。
图7为根据本实用新型实施方案的示例性步骤的流程图,这些步骤可在使用加权合并像素读出方法生成图像时执行。
图8是根据本实用新型实施方案的采用图1至图7的实施方案的示例性处理器系统的框图。
具体实施方式
电子设备,例如,数字相机、计算机、移动电话和其他电子设备可包括图像传感器,所述图像传感器收集入射光以捕获图像。图像传感器可包括图像像素阵列。图像传感器中的像素可包括光敏元件,例如,将入射光转换为图像信号的光电二极管。图像传感器可具有任何数量(如,数百或数千或更多)的像素。典型的图像传感器可(例如)具有数十万或数百万像素(如,百万像素)。图像传感器可包括控制电路(例如,用于操作图像像素的电路)和用于读出图像信号的读出电路,所述图像信号与光敏元件所生成的电荷相对应。
图1为示例性成像系统(例如,电子设备)的示意图,该成像系统使用图像传感器捕获图像。图1的电子设备10可为便捷式电子设备,诸如相机、移动电话、平板计算机、网络相机、摄像机、视频监控系统、汽车成像系统、具有成像能力的视频游戏系统或者捕获数字图像数据的任何其他所需成像系统或设备。相机模块12可用于将入射光转换成数字图像数据。相机12可包括一个或多个镜头14以及一个或多个对应的图像传感器16。镜头14可包括固定镜头和/或可调镜头,并且可包括形成于图像传感器16的成像表面上的微镜头。在图像捕获操作期间,可通过镜头14将来自场景的光聚焦到图像传感器16上。图像传感器16可包括用于将模拟像素数据转换成要提供给存储和处理电路18的对应数字图像数据的电路。如果需要,相机模块12可设置有镜头14的阵列和对应图像传感器16的阵列。
存储和处理电路18可包括一个或多个集成电路(如,图像处理电路、微处理器、诸如随机存取存储器和非易失性存储器的存储设备等),并且可使用与相机模块12分开和/或形成相机模块12的一部分的组件(如,形成包括图像传感器16的集成电路或者与图像传感器16相关的模块12内的集成电路的一部分的电路)来实施。可使用处理电路18处理和存储已被相机模块12捕获的图像数据(如,使用处理电路18上的图像处理引擎、使用处理电路18上的成像模式选择引擎等)。可根据需要使用耦合至处理电路18的有线和/或无线通信路径将经过处理的图像数据提供给外部设备(如,计算机、外部显示器或其他设备)。
如图2所示,图像传感器16可包括含有被布置成行和列的图像传感器像素22(有时在本文称为图像像素或像素)的像素阵列20以及控制和处理电路24(其可包括(例如)图像信号处理电路)。阵列20可包含(例如)几百或几千行以及几百或几千列图像传感器像素22。控制电路24可耦合至行控制电路26和图像读出电路28(有时称为列控制电路、读出电路、处理电路或列解码器电路)。行控制电路26可从控制电路24接收行地址,并且通过行控制路径30将对应的行控制信号,例如,复位控制信号、行选择控制信号、电荷传输控制信号、双转换增益控制信号和读出控制信号提供给像素22。可将一根或多根导线(例如,列线32)耦合至阵列20中的各列像素22。列线32可用于读出来自像素22的图像信号以及用于将偏置信号(如,偏置电流或偏置电压)提供给像素22。如果需要,在像素读出操作期间,可使用行控制电路26选择阵列20中的像素行,并且可沿列线32读出由该像素行中的图像像素22生成的图像信号。
图像读出电路28可通过列线32接收图像信号(如,由像素22生成的模拟像素值)。图像读出电路28可包括用于对从阵列20读出的图像信号进行采样和暂时存储的采样保持电路、放大器电路、模拟/数字转换(ADC)电路、偏置电路、列存储器、用于选择性启用或禁用列电路的闩锁电路或者耦合至阵列20中的一个或多个像素列以用于操作像素22以及用于读出来自像素22的图像信号的其他电路。读出电路28中的ADC电路可将从阵列20接收的模拟像素值转换成对应的数字像素值(有时称为数字图像数据或数字像素数据)。图像读出电路28可针对一个或多个像素列中的像素通过路径25将数字像素数据提供给控制和处理电路24和/或处理器18(图1)。
如果需要,可在阵列20中的光敏区域上方形成滤色器阵列,使得在相关像素22的光敏区域的上表面上方形成滤色器阵列中的预期滤色器元件。可在滤色器阵列的上表面上方形成微镜头,以将入射光聚焦到与该像素22相关的光敏区域上。入射光可由微镜头聚焦到光敏区域上,并且可穿过滤色器元件,使得在光敏区域处仅捕获对应颜色的光。如果需要,对于阵列20中的一个或多个像素22而言,可在滤色器元件与微镜头之间插置任选的掩蔽层。在另一个合适的布置方式中,对于阵列20中的一个或多个像素22而言,可在滤色器元件与光敏区域之间插置任选的掩蔽层。掩蔽层可包括金属掩蔽层或其他滤光层,其阻止图像光的一部分在光敏区域处被接收到。掩蔽层可被(例如)提供给一些图像像素22,以调节对应图像像素22的有效曝光水平(例如,相对于无掩蔽层的图像像素22而言,具有掩蔽层的图像像素22可捕获更少光)。如果需要,图像像素22可被形成为不具有任何掩蔽层。
如果需要,图2的阵列20中的像素22可设置有各自通过一种或多种颜色的光的滤色器元件的阵列。像素22中的全部或一些可设置有滤色器元件。像素22的滤色器元件可为红色滤色器元件(如,使红光通过同时将其他颜色的光反射和/或吸收的光阻材料)、蓝色滤色器元件(如,使蓝光通过同时将其他颜色的光反射和/或吸收的光阻材料)和/或绿色滤色器元件(如,使绿光通过同时将其他颜色的光反射和/或吸收的光阻材料)。滤色器元件也可被配置为过滤人可见光谱之外的光。例如,滤色器元件可被配置为过滤紫外光或红外光(如,滤色器元件可仅允许红外光或紫外光到达光电二极管)。滤色器元件可将图像像素22配置为仅检测特定波长或波长范围(有时在本文称作波段)的光,并且可被配置为允许多个波长的光通过,同时阻挡某些其他波长的光(例如,其波长对应于某个可见颜色和/或红外波长或紫外波长的光)。
使两种或更多种颜色的光(如,选自包含红光、蓝光和绿光的集合的两种或更多种颜色的光)通过的滤色器元件有时在本文称为“宽带”滤色器元件。例如,被配置为使红光和绿光通过的黄色滤色器元件以及被配置为使红光、绿光和蓝光通过的透明色滤色器元件在本文可称为宽带滤波器器元件或宽带滤色器元件。被配置为使红光和蓝光通过的洋红色滤色器元件在本文也可称为宽带滤波器元件或宽带滤色器元件。相似地,包括宽带滤色器元件(如,黄色、洋红色或透明色滤色器元件)并且因此对两种或更多种颜色的光敏感(如,响应于检测到选自包括红光、蓝光和绿光的集合的两种或更多种颜色的光捕获图像信号)的图像像素有时在本文可称为宽频像素或宽频图像像素。由宽带图像像素生成的图像信号有时在本文可称为宽带图像信号。宽带图像像素可具有天然灵敏度,该天然灵敏度由形成宽带滤色器元件的材料和/或形成图像传感器像素的材料(如,硅)限定。在另一个合适的布置方式中,宽带图像像素可被形成为不具有任何滤色器元件。如果需要,可通过使用诸如颜料的光吸收剂调整宽带图像像素的灵敏度以获得更佳的颜色再现特性和/或噪声特性。相比之下,“着色”像素在本文可用于指代主要对一种颜色的光(如,红光、蓝光、绿光或任何其他合适颜色的光)敏感的图像像素。着色像素有时在本文可称为窄带图像像素,因为着色像素具有比宽带图像像素更窄的光谱响应。
如果需要,未被配置为对红外光敏感的窄带像素和/或宽带像素可设置有结合了NIR辐射吸收剂的滤色器。阻挡近红外光的滤色器可最大程度减小红外光对既包含可见光辐射又包含红外辐射的光源中的颜色再现的影响。
例如,诸如阵列20中的图像像素的图像传感器像素可设置有滤色器阵列,该滤色器阵列允许单个图像传感器使用被布置成拜耳马赛克图案的对应的红色、绿色和蓝色图像传感器像素对红光、绿光和蓝光(RGB)进行采样。拜耳马赛克图案由重复的2×2个图像像素的单元格组成,其中两个绿色图像像素沿对角线彼此相对,并且邻近与蓝色图像像素沿对角线相对的红色图像像素。然而,与拜耳马赛克图案相关的信噪比(SNR)的限制使得诸如图像传感器16的图像传感器的尺寸难以降低。因此可能希望能够提供具有改善的捕获图像的方式的图像传感器。在另一个合适的实施例中,拜耳图案中的绿色像素被替换为具有宽带滤色器元件的宽带图像像素。这些实施例仅仅是示例性的,并且一般来讲,可在任何所需数量的图像像素22上方形成任何所需颜色和任何所需图案的滤色器元件。
具有被布置成行(A-H)和列(1-8)的图像像素22的示例性像素阵列20的示意图示于图3中。在图像捕获操作期间,像素阵列20中的每个像素22可接收来自场景的光。不同部分的场景可获得不同量的图像数据,具体取决于(例如)相对于像素阵列20的位置而言场景中的物体的位置。例如,在图像捕获操作期间离像素阵列20较近的场景中的物体可反射和/或发射被阵列20中相对较大数量的像素22接收到的光。由于相对较大数量的像素接收来自近距离物体的光,近距离物体所处的图像部分可获得相对较大量的图像数据。然而,在图像捕获操作期间远离像素阵列20的场景中的物体可反射和/或发射被阵列20中相对较少像素22接收到的光。由于相对较小数量的像素接收来自远处物体的光,远处物体所处的图像部分可获得相对较少量的图像数据。
可被结合图3所示和所述的类型的图像像素阵列20捕获的图像34的示例性例子示于图4A中。图4A的例子示出了朝建筑物顶部仰视时从地面捕获的建筑物的图像(通过(例如)用户操作相机模块12)。如图4A所示,在执行图像捕获操作时,建筑物的最低楼层(示于图像的底部)离图像像素阵列20相对较近。在捕获图像时,建筑物的最高楼层(示于图像的顶部)离图像像素阵列20相对较远。在一个合适的例子中,可使用广角镜头捕获图4A中所示类型的图像34,以增加可在单个图像帧中捕获的场景的量(例如,以捕获建筑物的整体或大部分)。
图4B为示例性示意图,其包括叠加在图4A的图像34上的图3的图像像素阵列20,以示出从图4A的图像中捕获的场景接收到过光的像素阵列20中的相应图像像素22。如图4B所示,像素阵列20中的几乎整行像素22(像素H1-H8)接收到来自建筑物底部的光,并且响应于所接收到的光而生成电信号,所述电信号被转换为图像数据并用于生成图像。换句话讲,整行图像像素生成建筑物第一楼层的图像数据,使得该楼层可获得相对较大量的图像数据。图4B还示出了像素阵列20中的大约两个像素22(像素A4和A5)接收到来自建筑物顶部的光,并且响应于所接收到的光而生成电信号,所述电信号被转换为图像数据并用于生成图像。换句话讲,仅两个图像像素生成建筑物顶部楼层的图像数据,使得建筑物的该楼层仅获得相对较少量的图像数据(即使顶部楼层和底部楼层的实际尺寸基本上相同)。
图像捕获操作可能对电子设备10提出处理和功率要求。在一些适当情境下,可能希望通过执行改进的图像捕获操作,尝试降低对图像传感器16和/或相机模块12的处理和功率要求。在一个合适的例子中,来自图像像素阵列20中的仅一些像素22的电信号可被读出并用于生成图像,以降低图像捕获过程的功率和处理需求。从阵列20中的仅一些图像像素22读出图像信号可称为跳过操作。
在常规跳过过程中,被跳过的像素与被读出的像素的比率在整个像素阵列中是恒定的。应用于图4B的例子时,常规跳过过程可使得行A-H中的像素每隔一个被读出,行A-H中的像素每隔两个被读出,阵列20的像素每十个当中有一个被读出等等。换句话讲,常规跳过过程将相同跳过比率应用于整个图像像素阵列,而不论阵列中的每个像素所捕获的场景的部分或响应于来自场景的给定部分的光而生成图像数据的像素的数量如何。
在一些适当情境下,可能希望对诸如图4A和4B中所示图像的图像执行透视校正操作。一般来讲,透视校正操作可包括应用透视控制以使现实中(例如,在现实世界场景中)竖直的所有线条在图像中都是竖直的,并且使所有平行线(例如,水平边缘)相交于一点。透视校正可用于消除透视失真,例如,在从地面拍摄高耸物体时发生的“脱散”效应(例如,物体的顶部看起来变得更小)和/或图像的更大部分被物体填充(例如,高耸物体的顶部可被跨越图像“拉伸”)。由于与常规镜头相比,广角镜头可将更多来自场景边缘的光引导至图像传感器,透视失真在使用广角镜头捕获的图像中可能特别明显。在一些场景中,可能希望使用常规(或其他)镜头布置捕获包括来自相对较宽视野的光的图像。此类情形可包括数字摄影或汽车应用,在这些应用中希望使用一个或多个相机捕获环绕汽车内部或外部的三百六十度视图(例如,三百六十度监视或环视成像)。这些情形当中捕获的图像可能经历透视失真。可能希望对使用宽视角(或其他)镜头捕获的图像执行透视校正操作,以尝试减轻透视失真。然而,如果不小心,透视校正操作可导致附加的图像失真和降低的分辨率。
虽然常规跳过过程可节省功率和处理,但在整个图像像素阵列中应用均匀跳过比率可使得贡献图像数据稀少的场景部分(例如,远离物体)的图像数据的图像像素被跳过,而贡献图像数据丰富的场景部分的图像数据的图像像素被读出。例如,在图4A中的图像的捕获期间将常规跳过过程(例如,其中的像素每隔一个被跳过)应用于像素阵列20将导致阵列20中的仅(大约)一个图像像素生成建筑物顶部楼层的图像数据,而(大约)四个图像像素将生成底部楼层的图像数据。在后续的透视校正操作(例如,将建筑物的远处部分调节到其实际尺寸的透视校正操作)中,可能难以生成建筑物顶部的适当校正图像,其中对场景该部分捕获的图像数据中仅一半可用于处理。因此希望能够为图像传感器提供改善的跳过操作。
在一个合适的实施例中,可在图像捕获和读出操作期间使用加权跳过操作。例如,加权跳过操作可包括使用第一跳过模式从阵列中的第一组图像像素读出图像信号,并且使用第二跳过模式从阵列中的第二组像素读出图像信号。如果需要,使用第一跳过模式可包括从接收来自场景第一部分的光的第一组像素中的第一百分比的像素(子组)读出图像信号。使用第一跳过模式可包括从第一子组读出图像信号,而不从属于第一组但不属于第一子组的像素读出图像信号(例如,仅从第一子组读出图像信号并有效跳过不属于第一子组的那些像素的读出操作)。如果需要,使用第二跳过模式可包括从接收来自场景第二部分的光的第二组图像像素中的第二百分比的像素(子组)读出图像信号。使用第二跳过模式可包括从第二子组读出图像信号,而不从属于第二组但不属于第二子组的像素读出图像信号(例如,仅从第二子组读出图像信号并有效跳过不属于第二子组的那些像素的读出操作)。场景的第一部分可为离图像捕获设备(例如,相机模块12)相对较近的场景部分,并且场景的第二部分可为离图像捕获设备相对较远的场景部分。第一百分比可相对较小(例如,10%),因为图像的第一部分可能有相对较大量的图像数据可用。第二百分比可相对较大(例如,90%),因为图像的第二部分可能只有相对较少量的图像数据可用。换句话讲,第一子组可包含第一组中的图像像素的第一比例(例如,每两个中有一个,每四个中有一个,每十个中有一个,每十五个中有一个等),并且第二子组可包含第二组中的图像像素的第二比例(例如,每两个中有一个,每四个中有一个,每十个中有一个,每十五个中有一个等)。与第一子组和第二子组对应的比例(百分比)可相同或不同,并且/或者第一子组和第二子组中的像素数量可相同或不同。如果需要,第一组和第二组每一者中的像素数量可相同或不同(例如,第一组和第二组可对应于场景的不同部分)。跳过操作和处理操作(例如,透视校正处理)可能必须随视野位置而变化,以遏制图像伪影。
在一个合适的实施例中,像素阵列可具有其中来自每个像素的图像信号均被读出以生成图像的顶部区域(例如,上部)、其中的像素(仅)每隔一个被读出图像信号以生成图像的中间区域(例如,中央部分)、以及其中每十五个图像像素中(仅)一个图像像素被读出图像信号以生成图像的下部区域(例如,底部)。这种布置方式可用于(例如)用一个或多个图像捕获设备生成图像,这些图像可一起组合或呈现以提供环绕物体的区域的视图(例如,环绕汽车的三百六十度视图)。
在另一个合适的布置方式中,像素阵列可具有来自每个图像像素的图像像素信号均被读出以生成图像的左区域和右区域(例如,周边部分),以及其中的每两个图像像素中(仅)一个图像像素被读出图像信号以生成图像的中间区域(例如,中央部分)。这种布置方式可用于(例如)采用数字相机的广角图像捕获操作。
虽然本文所述的一些例子在每者具有对应子组的两组像素的背景中阐述,但这仅仅是示例性的。如果需要,像素阵列可包括两组、三组、四组或更多组图像像素。每组可具有来自其的图像信号被读出的对应子组(例如,第一、第二、第三和第四子组)的像素,而来自未包括于子组中的像素的图像信号可不被读出。例如,可仅从组中还包括于给定子组中的图像像素读出图像信号,而不从组中不属于给定子组的图像像素读出图像信号。对于每组而言,组中被跳过的图像像素的跳过比率(模式、百分比、比例、部分或份数)可相同或不同。可根据需要改变跳过比率(有时在本文称为跳过模式)。在一种适当的情形当中,用户可以能够选择图像像素阵列将被划分成的各个组,并选择每个组的对应跳过比率。如果需要,可基于图像捕获模式的类型,对区域和跳过比率进行预先编程(例如,广角图像捕获模式可对应于预先设定的区域和跳过比率),或可基于将在图像中捕获的场景来确定组和子组。例如,图像传感器可使用阵列中的一些或所有像素(例如,采用低功率模式,其中仅一些像素为活动的)以响应于来自场景的光而生成第一图像信号,处理第一图像信号以测定场景各个部分中的可得图像数据的量,并且基于处理来调节用于读出阵列各个部分中的像素的跳过模式。这样,可使用适当数量的图像像素生成针对场景的各个部分读出的图像信号。
在图4B的例子中,上述加权跳过操作可包括从行E-H(例如,包含从某些图像部分接收光的图像像素的行,所述图像部分离像素阵列相对较近,并且因此可获得相对较大量的图像数据)中每四个像素中的一个像素读出图像信号,以及读出行A-D(例如,包含从某些图像部分接收光的图像像素的行,所述图像部分离像素阵列相对较近,并且因此可获得相对较少量的图像数据)中每两个像素中的一个像素。
如果需要,可执行加权跳过操作,使得在行E-H(例如,与图像的第一部分对应的行)每一者中读出列1到4中的一个像素和列5到8中的一个像素。例如,可在行E中读出像素E1和E5,可在行F中读出像素F2和F6,可在行G中读出像素G3和G7,并且可在行H中读出像素H4和H7。如果需要,可在行E中读出像素E1和E2,可在行F中读出像素F3和F4,可在行G中读出像素G5和G6,并且可在行H中读出像素H7和H8。如果需要,行E-H中其余像素的读出操作可被跳过。在一个合适布置方式中,行E和G中的所有像素可被读出,而行F和H中可没有任何像素被读出(或反之亦然)。如果需要,仅给定列中的像素可被读出。例如,对于行E-H而言,仅列3和6(或任何其他的所需列)中的像素可被读出,而其余列中的可没有任何图像像素被读出(例如,其余列可被跳过)。在一个合适布置方式中,给定行中的一些或所有像素可被跳过。例如,仅行E和G、行F和H、行G、F和E、或任何其他合适的行组合中的像素可被读出,而不从阵列给定部分中的所选其他行读出任何图像信号。一般来讲,图像的第一部分的跳过比率可为一比二、一比十、一比十五、一比一百、或任何其他合适的比率。
如果需要,可执行加权跳过操作,使得行A-D(例如,与图像的第二部分对应的行)每一者中的像素每隔一个被读出。如果需要,其余像素(例如,未被读出的那些像素)可被跳过。例如,在行A中可读出像素A1、A3、A5和A7,在行B中可读出像素B2、B4、B6和B8,在行C中可读出像素C1、C3、C5和C7,并且在行D中可读出像素D2、D4、D6和D8,等等。如果需要,可读出每行中的四个相邻像素。例如,在行A中可读出像素A2-A4,像在行B中可读出素B2-B4,在行C中可读出像素C2-C4,并且在行D中可读出像素D2-D4。如果需要,可读出行A-D中的每个图像像素。在一个合适布置方式中,仅行A和C、行B和D、行A、B和D、或任何其他合适的行组合中的像素可被读出,而不从阵列中的所选其他行读出任何图像信号(例如,所选其他行可被跳过)。在一个合适布置方式中,行A-D中每隔一列的图像信号可被读出(例如,列1、3、5和7)和/或仅来自所选列的图像信号可被读出(例如,仅列4和5)。一般来讲,图像的第二部分的跳过比率可为一比二、一比十、一比十五、一比一百、或任何其他合适的比率。
虽然上文讨论了特定的跳过模式和比率,但这些布置方式仅仅是示例性的。虽然以上实施例已使用8×8像素阵列进行阐述,但可用包括更大数量(例如,数千或数百万)的图像传感器像素的像素阵列执行跳过操作。换句话讲,上述像素阵列、像素、图像传感器的区域/部分的数量和尺寸以及情形仅仅是示例性的,并且可能未按与实践中可采用的布置方式相同的尺度示出和/或描述。上文描述的对图像的两个不同部分采用两种不同的跳过比率的实施例仅仅是示例性的。如果需要,三个不同跳过比率可用于图像传感器的三个不同部分(例如,其会生成不同量的可用图像数据),四个不同跳过比率可用于图像传感器的四个不同部分,等等。如果需要,图像传感器的每个部分可包含相同或不同数量的像素。一般来讲,任何合适的跳过比率可以任何合适的组合用于图像的采取任何合适配置或布置方式的任何部分。
可使用加权跳过操作,例如,使用上文所描述的那些加权跳过操作从充足数量的像素读出图像数据,从而为各个区域获得足够图像数据。例如,在图4B的例子中,可从行A-D中的列3-6中的像素(例如,该图像区域中的50%的像素)的每一者读出图像信号。这样,建筑物顶部的基本上所有图像数据可被读出(例如,数据稀少的图像部分的大多数或所有可用图像数据被读出)。在这种情形当中,可从行E-H每一者中的列3和6中的像素读出图像信号。这样,不会花费过多功率和处理来读出图像数据丰富的图像部分的图像信号,同时仍然提供足够图像数据以生成图像。
可对使用上述加权跳过操作所捕获的图像执行透视校正操作。对使用加权跳过操作所捕获的图像采取透视校正操作而生成的校正图像的例子示于图4C中,该图示出了可使用仅来自阵列的一定比例像素的图像数据生成透视校正图像36。由于建筑物顶部的基本上所有图像数据被读出,建筑物顶部可在透视校正图像中以相对较高分辨率重现(例如,来自图像该部分的足够可用图像数据被读出,以允许在透视校正操作期间“拉伸”或对图像数据做其他修改)。虽然建筑物底部的仅一定比例图像数据被读出,但图像该部分中的图像数据的丰富性允许该减少的读出用于产生分辨率至少与建筑物顶部的分辨率相当的透视校正图像。这样,成像设备可以通过在功率和处理方面有效率的方式生成透视校正图像(例如,图像36)。
图5A示出了在沿着建筑物的两侧往下看时从建筑物拐角捕获的建筑物的示例性图像38(通过(例如)用户操作相机模块12)。如图5A所示,在执行图像捕获操作时,建筑物的拐角(示于图像的中间)离图像像素阵列20相对较近。在图像捕获时,朝任一侧向拐角后面延伸的建筑物墙壁(例如,向页面内延伸,其被示为建筑物的分别朝图像内的左侧和右侧延伸的部分)逐渐远离图像像素阵列20。在一个合适的实施例中,可使用广角镜头捕获图5A的图像38,以增加可在单个图像帧中捕获的场景的量(例如,以捕获从拐角延伸的墙壁的更大部分,如图5A所示)。
图5B为示例性示意图,其包括叠加在图5A的图像38上的图3的图像像素阵列20,以示出从捕获于图5A的图像中的场景接收过光的像素阵列20中的相应图像像素22。如图5B所示,像素阵列20中的几乎整列像素22(列4)接收到过来自建筑物拐角左侧的光,并且响应于所接收到的光而生成了电信号,所述电信号被转换为图像数据并用于生成图像。换句话讲,几乎整行图像像素生成了建筑物拐角部分的左侧的图像数据。即,建筑物拐角的左侧可获得相对较大量的图像数据。图5B还示出了像素阵列20中的大约两个像素22(像素D1和E1)接收到过来自建筑物最左部分的光,并且响应于所接收到的光而生成了电信号,所述电信号被转换为图像数据并用于生成图像。即,建筑物最左部分可获得相对较少量的图像数据,即使建筑物的左拐角部分和最左部分的实际尺寸基本上相同也是如此。
应用于图5B的例子时,这种常规跳过过程(如上所述)将使得列1-8中的像素每隔一个被读出,列1-8中的像素每隔两个被读出,阵列20中的像素每十个当中有一个被读出,等等(作为实施例)。换句话讲,常规跳过过程可使得贡献图像数据稀少的场景部分(例如,远距离物体)的图像数据的图像像素被跳过,而贡献图像数据丰富的场景部分的图像数据的图像像素被读出。
例如,在图5A中的图像的捕获期间将常规跳过过程(其中例如每隔一个像素跳过一个像素)应用于像素阵列20将导致阵列20中的仅(大约)一个图像像素生成建筑物最左部分的图像数据,而(大约)三个图像像素将生成与拐角相邻的建筑物部分的图像数据。在后续的透视校正操作(例如,将建筑物的远距离部分调节到其实际尺寸的透视校正操作)中,可能难以生成建筑物最左部分的适当校正图像,其中对场景该部分捕获的图像数据中仅一半可用于处理。因此可能希望在捕获图5A所示类型的图像时应用加权跳过方法(例如,上文结合图4A-4C所述的那些)。
在图5B的例子中,加权跳过操作可包括从列3-6(例如,包含从某些图像部分接收光的图像像素的列,所述图像部分离像素阵列相对较近,并且因此有相对较大量的图像数据可用)中每四个像素中的一个像素读出图像信号,以及读出列1、2、7和8(例如,包含从某些图像部分接收光的图像像素的列,所述图像部分离像素阵列相对较近,并且因此有相对较少量的图像数据可用)中每两个像素中的一个像素。
如果需要,可执行加权跳过操作,使得在列3-6(例如,与图像的第一部分对应的列)的每者中读出行A-D中的一个像素和行E-H中的一个像素。例如,在列3中可读出像素D3和E3,在列4中可读出像素B4和G4,在列5中可读出像素C5和F5,并且在列6中可读出像素D6和F6。如果需要,在列3中可读出像素C3和D3,在列4中可读出像素E4和F4,在列5中可读出像素C5和F5,并且在列6中可读出像素E6和F6。在一个合适布置方式中,列3-6的一些行中的像素可被读出,而其他被跳过。例如,列3-6的行A、C、E和G中的像素可被读出,而行B、D、F和H中的像素可被跳过(或反之亦然)。如果需要,列3-6中某些列的像素可被读出,而其他被跳过。例如,列4和5中的像素可被读出,而列3和6中的像素可被跳过(或反之亦然)。一般来讲,图像的第一部分的跳过比率可为一比二、一比十、一比十五、一比一百、或任何其他合适的比率。
如果需要,可执行加权跳过操作,使得列1、2、7和8(例如,与图像的第二部分对应的列)每一者中的像素每隔一个被读出。例如,在列1中可读出像素A1、C1、E1和G1,在列2中可读出像素B2、D2、F2和H2,在列7中可读出像素A7、C7、E7和G7,并且在列8中可读出像素B8、D8、F8和H8。如果需要,可读出每行中的四个相邻像素。例如,在列1中可读出像素C1-F1,在列2中可读出像素C2-F2,在列7中可读出像素C7-F7,并且在列8中可读出像素C8-F8。在一个合适布置方式中,行1、2、7和8中的每个像素可被读出。如果需要,列1、2、7和/或8的行A、C、E和G中的像素可被读出,而行B、D、F和H中的像素被跳过(或反之亦然)。在一个合适布置方式中,列1和7中的像素可被读出,而列2和8中的像素可被跳过(或反之亦然)。一般来讲,图像的第一部分的跳过比率可为一比二、一比十、一比十五、一比一百、或任何其他合适的比率。
虽然上文讨论了特定的跳过模式和比率,但这些布置方式仅仅是示例性的。虽然已使用8×8像素阵列阐述了上面的例子,但可使用包括更大数量(例如,数千或数百万)的图像传感器像素的像素阵列执行跳过操作。换句话讲,上述像素阵列、像素、图像传感器的区域/部分的数量和尺寸以及情形仅仅是示例性的,并且可能未按与实践中可采用的布置方式相同的尺度示出/描述。上文描述的对图像的两个不同部分采用两种不同的跳过比率的实施例仅仅是示例性的。如果需要,三个不同跳过比率可用于图像传感器的三个不同部分(例如,其会生成不同量的可用图像数据),四个不同跳过比率可用于图像传感器的四个不同部分,等等。如果需要,图像传感器的每个部分可包含相同或不同数量的像素。一般来讲,任何合适的跳过比率可以任何合适的组合用于图像的采取任何合适配置或布置方式的任何部分。
可使用加权跳过操作,例如,使用上文描述的那些加权跳过操作从充足数量的像素读出图像数据,从而获得场景各个区域的足够图像数据。例如,在图5B的例子中,可从列1、2、7和8中的行C-D中的像素(例如,图像最左和最右区域中的50%的像素)的每一者读出图像信号。这样,建筑物最左和最右部分的基本上所有图像数据可被读出(例如,数据稀少的图像部分的大多数或所有可用图像数据被读出)。在这种情形当中,可从列3-6每一者中的行C和F中的像素读出图像信号。这样,不会花费过多功率和处理来读出图像数据丰富的图像部分的图像信号,同时仍然提供足够图像数据以生成图像。
在一些合适的情形当中,可能希望对诸如图5A中所示的图像的图像38执行透视校正操作。对使用加权跳过所捕获的图像采取透视校正操作而生成的校正图像40的例子示于图5C中,该图示出了可使用仅来自阵列的一定比例像素的图像数据生成透视校正图像40。由于建筑物最左和最右部分的基本上所有图像数据被读出,建筑物最左和最右部分可在透视校正图像中以相对较高分辨率重现(例如,来自图像该部分的足够可用图像数据被读出,以允许在透视校正操作期间“拉伸”或对图像数据做其他修改)。虽然建筑物拐角的仅一定比例的图像数据被读出,但图像该部分中的图像数据的丰富性允许该减少的读出用于产生分辨率至少与建筑物最左和最右部分的分辨率相当的透视校正图像。这样,成像设备可以通过在功率和处理方面有效率的方式生成透视校正图像。
其中阵列20中的一些像素22被跳过而阵列20中的其他像素22被读出的上述示例性跳过操作仅仅是示例性的。如果需要,可使用合并(结合)操作以作为跳过操作的补充和/或替代。一般来讲,合并操作可包括将从多个像素读出的信号(图像数据)结合成单个合并(结合)信号。通过对来自多个像素的图像信号合并,可简化处理和/或读出过程,从而需要更少功率。由于合并操作可包括读出阵列20中的相当大一部分像素22(例如,阵列中的所有像素)的电信号(例如,生成图像像素信号和/或数字图像数据),与跳过操作(其仅读出/生成阵列中一定比例像素的图像数据)相比,合并操作可提供更多用于处理(例如,透视校正操作)的图像数据以及更高质量的最终图像。
在一个合适布置方式中,合并操作可包括将电信号从阵列20中的多个像素22传输到共同浮动扩散(FD)节点。重新参见图3的例子,例如,合并过程可包括响应于用阵列20中的每个图像像素22从场景中接收到的光而生成电信号。然后可将来自多个像素的电信号传输到共享浮动扩散节点,以生成结合信号。例如,可将来自像素A1、A2、B1和B2的电信号传输到共享浮动扩散节点并同时存储在共享浮动扩散节点上,以生成结合电信号。然后可从共享浮动扩散节点读出结合电信号并进行处理(例如,使用透视校正处理操作)。在这个例子中,必须读出和处理的信号数量减至了四分之一,从而可降低与图像捕获和处理操作相关的功率和处理需求。诸如这些合并操作的合并操作可被描述为模拟合并操作,因为信号是在模拟域中结合的(例如,在这些信号被列控制和读出电路28或其他合适处理电路中的ADC读出并转换为数字信号之前)。
如果需要,可通过数字方式执行合并操作。例如,数字合并操作可包括从阵列20中的每个接收来自场景的光(并响应于所述光而生成电信号)的图像像素22读出电信号。然后可通过像素控制和读出电路28中的ADC从每个像素读出电信号,并将电信号转换为相应数字信号(例如,图像数据)。在后续处理步骤之前,可将源自多个像素的数字图像数据结合(合并)成单个结合数字图像数据信号。重新参见图3的例子,例如,合并操作可包括将源自像素A1、C1、E1和F1的数字图像数据结合成单个结合数字图像信号。可通过列控制和读出电路28、控制和处理电路24、或电子设备10中的其他合适处理电路(例如,图像信号处理电路)执行诸如这些合并操作的合并操作。然后可接着通过列控制和读出电路28、控制和处理电路24、或电子设备10中的其他合适处理电路(或与电子设备10分隔开的处理电路)处理所述结合数字图像数据(例如,使用透视校正处理操作)。在这个例子中,必须处理的信号数量降至了四分之一,从而可降低与图像捕获和处理操作相关的功率和处理需求。诸如这些合并操作的合并操作可被描述为数字合并操作,因为信号是在数字域中结合的(例如,在这些信号被列控制和读出电路28或其他合适处理电路中的ADC读出并转换为数字信号之后)。
在常规合并过程中,来自其的图像信号被结合而生成结合图像信号的像素的数量在整个像素阵列中是恒定的。应用于图4B的例子时,这种常规跳过过程可使得来自各个四像素组的图像信号被合并,来自各个两图像像素组的图像信号被合并,来自共同行或列中的交替图像像素的图像信号被合并,等等。换句话讲,常规跳过过程将相同合并因子应用于整个图像像素阵列,而不论阵列中的每个像素所捕获的场景的部分或响应于来自场景的给定部分的光而生成图像数据的像素的数量如何。
虽然常规合并过程可节省功率和处理,但在整个图像像素阵列中应用均匀合并因子可使得贡献图像数据稀少的场景部分(例如,远离物体)的图像数据的图像像素被按照与贡献图像数据丰富的场景部分的图像数据的图像像素相同的速率合并。例如,在图4B中的图像的捕获期间将常规合并过程(例如,其中对各个四像素组合并)应用于像素阵列20将使得建筑物最上两个楼层的仅产生两个结合图像像素信号(例如,如果像素A3、A4、B3和B4被合并,并且像素A5、A6、B5和B6被合并),而针对底部楼层将生成四个结合图像像素信号(例如,如果像素G1、G2、H1和H2被合并,像素G3、G4、H3和H4被合并,像素G5、G6、H5和H6被合并,并且像素G7、G8、H7和H8被合并)。在后续的透视校正操作(例如,将建筑物的远距离部分调节到其实际尺寸的透视校正操作)中,可能难以借助有限数量的结合图像信号生成建筑物顶部的适当校正图像。因此希望能够为图像传感器提供改善的合并操作。
在根据本实用新型一个实施方案的一个合适实施例中,可在图像捕获操作期间使用加权合并操作。例如,加权合并操作可包括将来自从场景的第一部分接收光的像素的图像信号合并为每者具有第一数量的像素的第一像素组,以及将来自从场景的第二部分接收光的图像像素的图像信号合并为具有第二数量的像素的第二像素组。场景的第一部分可为离图像捕获设备(例如,相机模块12)相对较近的场景部分,并且场景的第二部分可为离图像捕获设备相对较远的场景部分。第一组中的像素的数量可相对较大(例如,四个像素),因为图像的第一部分可能有相对较大量的图像数据可用。第二组中的像素的数量可相对较小(例如,两个像素),因为图像的第二部分可能只有相对较少量的图像数据可用。合并操作和处理操作(例如,透视校正处理)可能必须随视野位置而变化,以控制图像伪影。
在图4B的例子中,上述加权合并操作可包括对来自像素阵列的诸如行E-H(例如,包含从某些图像部分接收光的图像像素的行,所述图像部分离像素阵列相对较近,并且因此可获得相对较大量的图像数据)的第一区域中的各个四图像像素组的图像信号进行合并,以及对来自像素阵列的诸如行A-D(例如,包含从某些图像部分接收光的图像像素的行,所述图像部分离像素阵列相对较近,并且因此可获得相对较少量的图像数据)的第二区域中的各个两像素组的图像信号进行合并。
在一个示例性实施例中,像素E1、E2、F1和F2可被合并以生成结合图像信号,像素E3、E4、F3和F4可被合并以生成结合图像信号,像素G1、G2、H1和H2可被合并以生成结合图像信号,像素G3、G4、H3和H4可被合并以生成结合图像信号,等等。如果需要,可对行E-H中的所有像素执行类似合并操作。在这个例子中,八个结合图像信号将由行E-H的合并操作得出。
如果需要,像素A1和B1可被合并以生成结合图像信号,像素A2和B2可被合并以生成结合图像信号,像素A3和B3可被合并以生成结合图像信号,像素A4和B4可被结合以生成结合图像信号,像素C1和D1可被合并以生成结合图像信号,像素C2和D2可被合并以生成结合图像信号,像素C3和D3可被合并以生成结合图像信号,像素C4和D4可被结合以生成结合图像信号,等等。如果需要,可对行A-D中的所有像素执行类似合并操作。在这个例子中,十六个结合图像信号将由行A-D的合并操作得出。
虽然上文讨论了特定的合并模式和因子(比率),但这些布置方式仅仅是示例性的。虽然以上实施例已使用8×8像素阵列进行阐述,但可用包括更大数量(例如,数千或数百万)的图像传感器像素的像素阵列执行合并操作。换句话讲,上述像素阵列、像素、图像传感器的区域/部分的数量和尺寸以及情形仅仅是示例性的,并且可能未按与实践中可采用的布置方式相同的尺度示出和/或描述。上文所述的对图像的两个不同部分采用两种不同的合并因子的实施例仅仅是示例性的。如果需要,三个不同合并因子可用于图像传感器的三个不同部分(例如,其会生成不同量的可用图像数据),四个不同合并因子可用于图像传感器的四个不同部分,等等。如果需要,图像传感器的每个部分可包含相同或不同数量的像素。一般来讲,任何合适的合并模式可以任何合适的组合用于图像的采取任何合适配置或布置方式的任何部分。
使用诸如上文所述的那些加权合并操作的加权合并操作,可生成充足数量的结合图像信号,从而获得场景各个区域的足够图像数据。例如,在图4B的实施例中,来自行A-D中的各个两像素组的图像信号可被合并。这样,建筑物顶部的基本上所有图像数据可被读出(例如,数据稀少的图像部分的大多数或所有可用图像数据被读出)。在这种情形当中,来自行E-H每者的各个四像素组的图像信号可被合并。这样,不会花费过多功率和处理来读出图像数据丰富和/或冗余的图像部分的大量结合图像信号,同时仍然提供足够图像数据以生成图像。如果需要,可对图像执行透视校正处理,以生成图4C所示类型的透视校正图像36。由于相对较大数量的结合图像信号通过对图像数据稀少的图像部分(例如,建筑物顶部)实施合并操作而生成,因而透视校正过程可以能够在生成校正图像时更好地保持这些部分的分辨率。
在图5B的例子中,加权合并操作可包括对来自图像传感器像素阵列的诸如列3-6(例如,包含从某些图像部分接收光的图像像素的列,所述图像部分离像素阵列相对较近,并且因此有相对较大量的图像数据可用)的第一部分中的各个八像素组的图像信号进行合并,以及对来自图像传感器的诸如列1、2、7和8(例如,包含从某些图像部分接收光的图像像素的列,所述图像部分离像素阵列相对较远,并且因此有相对较少量的图像数据可用)的第二部分中的各个四像素组的图像信号进行合并。
在一个合适的例子中,可执行加权跳过操作,使得来自像素A1、A2、B1和B2的图像信号被结合而生成结合图像信号,来自像素C1、C2、D1和D2的图像信号被结合而生成结合图像信号,来自像素A7、A8、B7和B8的图像信号被结合而生成图像信号,来自像素C7、C8、D7和D8的图像信号被结合而生成结合图像信号,等等。如果需要,可对列1、2、7和8中的所有像素执行这种类别的合并操作。在这样的实施例中,将对列1、2、7和8中的像素生成八个结合图像信号。
如果需要,加权跳过操作可包括对由列3中的像素生成的所有图像信号进行合并以生成结合图像信号,对由列4中的像素生成的所有图像信号进行合并以生成结合图像信号,对由列5中的像素生成的所有图像信号进行合并以生成结合图像信号,以及对由列6中的像素生成的所有图像信号进行合并以生成结合图像信号(作为实施例)。在这样的实施例中,将对列3-6中的像素生成四个结合图像信号。
使用诸如上文所述的那些加权合并操作的加权合并操作,可生成充足数量的结合图像信号,从而获得场景各个区域的足够图像数据。例如,在图5B的例子中,来自列1、2、7和8中的每个像素的图像信号可具有其自身的仓(例如,可不发生合并)。这样,建筑物最左和最右部分的基本上所有图像数据可被读出(例如,在分辨率几乎没有降低或没有降低的情况下,获得数据稀少的图像部分的大多数或所有可用图像数据)。在这种情形当中,来自列3-6每列中各个四像素组的图像信号可被合并。这样,不会花费过多功率和处理来读出图像数据丰富和/或冗余的图像部分的大量结合图像信号,同时仍然提供足够图像数据以生成图像。如果需要,可对图像执行透视校正处理,以生成图5C所示类型的透视校正图像40。由于相对较大数量的结合图像信号通过对图像数据稀少的图像部分(例如,建筑物最左和最右侧)的合并操作而生成,因而透视校正过程可以能够在生成校正图像时更好地保持这些部分的分辨率。
虽然上文讨论了特定的合并模式和因子(比率),但这些布置方式仅仅是示例性的。虽然以上实施例已使用8×8像素阵列进行阐述,但可用包括更大数量(例如,数千或数百万)的图像传感器像素的像素阵列执行合并操作。换句话讲,上述像素阵列、像素、图像传感器的区域/部分=的数量和尺寸以及情形仅仅是示例性的,并且可能未按与实践中可采用的布置方式相同的尺度示出和/或描述。上文所述的对图像的两个不同部分采用两种不同合并因子的实施例仅仅是示例性的。如果需要,三个不同合并因子可用于图像传感器的三个不同部分(例如,其会生成不同量的可用图像数据),四个不同合并因子可用于图像传感器的四个不同部分,等等。如果需要,图像传感器的每个部分可包含相同或不同数量的像素。一般来讲,任何合适的合并模式可以任何合适的组合用于图像的采取任何合适配置或布置方式的任何部分。
可在使用上文结合图4A-C和5A-C所述的加权跳过方法生成图像时执行的示例性步骤的流程图示于图6中。
在步骤600中,包括具有多个像素的图像像素阵列的图像传感器可接收来自场景的光。所述像素可响应于所接收到的光而生成图像像素电信号。
在步骤602中,可使用第一跳过模式读出来自第一组像素的图像信号(例如,可读出从场景的第一部分捕获光的像素中的第一百分比的像素,而不会读出不包括在所述第一百分比中的图像像素)。可使用与第一跳过模式不同的第二跳过模式读出来自第二组像素的图像信号(例如,可读出从场景的第二部分捕获光的像素中的第二百分比的像素,而不会读出不包括在所述第二百分比中的图像像素)。场景的第一部分可离图像传感器相对较近,而场景的第二部分可离图像传感器相对较远。第一百分比可小于第二百分比。换句话讲,对图像数据稀少的场景部分生成图像信号的图像传感器像素中有较大比例可被读出,而对图像数据丰富的场景部分生成图像信号的图像传感器像素中有较小比例可被读出。
在步骤604中,处理电路可基于从第一组和第二组像素读出的图像信号而生成图像。
在任选步骤606中,处理电路可对图像执行透视校正操作以生成透视校正图像(例如,属于图4C和/或5C所示的类型)。如果需要,可省略步骤606。
可在使用上文结合图4A-C和5A-C所述的加权合并方法生成图像时执行的示例性步骤的流程图示于图7中。
在步骤700中,包括具有第一组和第二组图像像素的图像像素阵列的图像传感器可接收来自场景的光。第一组和第二组中的图像像素可响应于所接收到的光而生成图像像素电信号。可预先确定阵列中的每个图像像素所“属于”的组,或可基于图像像素生成的图像像素电信号对图像像素进行分组(例如,可采用处理操作确定哪些图像像素和对应电信号归入每组中)。如果需要,第一组像素可包括响应于来自图像数据稀少的场景部分(例如,场景的远距离部分)的光而生成图像像素信号的图像像素。第二组像素可包括响应于来自图像数据丰富的场景部分(例如,场景的近距离部分)的光而生成图像像素信号的图像像素。然而,这仅仅是示例性的。一般来讲,第一组和第二组图像像素可包括像素的任何所需组合。
在步骤702中,可使用模拟或数字合并操作对来自第一组图像像素中的第一子组图像像素的图像信号进行合并,以生成第一合并图像信号。第一子组图像像素可包括第一数量的像素。
在步骤704中,可使用模拟或数字合并操作对来自第二组图像像素中的第二子组图像像素的图像信号进行合并,以生成第二合并图像信号。第二子组图像像素可包括第二数量的像素。如果需要,第一子组图像像素可包含比第二子组图像像素更少的像素,使得来自生成“稀少”图像数据的图像像素的相对较少图像信号被合并为结合的第一结合信号,而来自生成“丰富”图像数据的图像像素的相对较多图像信号被合并为第二结合信号。以这种方式执行合并操作可有助于保持“稀少”图像数据的质量(分辨率)。
在步骤706中,第一合并图像信号和第二合并图像信号可被结合而生成图像。
在任选步骤708中,可对图像执行透视校正操作以生成校正图像(例如,属于图4C和/或5C所示的类型)。如果需要,可省略步骤708。
图8以简化形式示出了典型处理器系统300,例如,数字相机,该处理器系统300包括成像设备200(如,诸如图1-7的具有像素阵列的设备10的成像设备200,所述像素阵列具有可用于使用透视校正操作生成透视校正图像的加权跳过和/或合并能力)。处理器系统300是可包括成像设备200的具有数字电路的示例性系统。在不进行限制的前提下,这种系统可包括计算机系统、静态或视频摄像机系统、扫描仪、机器视觉、车辆导航、视频电话、监控系统、自动对焦系统、星体跟踪器系统、运动检测系统、图像稳定系统以及其他采用成像设备的系统。
处理器系统300通常包括镜头396,该镜头用于在快门释放按钮397被按下时,将图像聚焦到设备200的像素阵列20上;中央处理单元(CPU)395,例如,控制相机功能以及一个或多个图像流功能的微处理器,所述中央处理单元通过总线393与一个或多个输入/输出(I/O)设备391通信。成像设备200也通过总线393与CPU 395通信。系统300还包括随机存取存储器(RAM)392并且可包括可移动存储器394,例如闪存,该存储器也通过总线393与CPU395通信。成像设备200可在单个集成电路或不同芯片上与CPU相组合,无论是否具有存储器。尽管总线393被示为单总线,但该总线也可以是一个或多个总线或桥接器或其他用于互连系统组件的通信路径。
已描述了说明电子设备(参见例如图1的设备10)的各种实施方案,该电子设备包括成像系统。一种成像系统可包括一个或多个图像传感器。每个图像传感器可包括形成在半导体衬底上的图像像素阵列。每个图像像素可包括一个或多个光敏元件,这些光敏元件被配置为将入射光转换成电荷。成像系统可包括像素控制和读出电路,以便读出图像像素所生成的电荷。作为成像系统的一部分或以其他方式包括在设备10中的图像信号处理电路可基于图像像素所读出的图像信号来生成图像。
根据本实用新型的各种实施例,成像系统可包括被分成至少第一组和第二组的像素阵列。如果需要,像素阵列可被分成三组或更多组。图像像素可响应于入射光而生成图像信号。可使用不同跳过模式从每组读出图像信号。在一个合适布置方式中,跳过模式可指组中被读出的像素的数量与该组中未被读出(例如,跳过)的像素的数量的比率。如果需要,跳过模式可指阵列中来自其的图像信号被读出的图像像素的物理图案。例如,跳过模式可指以棋盘状图案从图像像素读出图像信号而不从其他像素读出图像信号,可指从像素阵列的每隔一行和/或列中的图像像素读出图像信号而不从其他像素读出图像信号,可指仅从像素阵列的某些列、行或其他部分中的图像像素读出图像信号,等等。应用于每组像素的跳过图案可相同或不同。例如,图像像素阵列可被分成三部分(组)像素,并且可将不同跳过模式应用于每部分中的像素。如果需要,三个跳过模式中的两者可为相同的。可基于图像传感器所捕获的场景部分的可得图像数据的量,确定所应用的跳过模式。较高跳过比率(例如,跳过较多像素)可应用于对图像数据丰富的场景部分生成像素信号的像素阵列部分中的像素,而较低跳过比率(例如,跳过较少像素)可应用于对图像数据稀少的场景部分生成像素信号的像素阵列部分中的像素。换句话讲,被跳过的图像像素的百分比在像素阵列的一些部分中可比其他部分中更高。处理电路可基于从像素读出的图像信号而生成图像。透视校正操作可应用于图像以校正透视失真。上述加权跳过操作可有助于确保有足够图像数据可用于对整个图像执行透视校正操作。
根据本实用新型的各种实施例,加权图像信号合并操作可结合或替代加权跳过操作使用。加权合并操作可包括基于像素在阵列中的位置对来自像素的图像信号进行合并。在对有大量图像数据可用的场景部分生成图像信号的阵列部分中,较大数量的图像信号可被合并。在对有少量图像数据可用的场景部分生成图像信号的阵列部分中,较少数量的图像信号可被合并。图像信号可在由图像像素读出电路读出之前或之后合并(例如,可使用模拟或数字合并对图像信号合并)。图像信号可被合并而生成结合(合并)图像信号,所述信号可用于生成图像。透视校正操作可应用于图像。上述加权合并操作可有助于确保有足够图像数据可用于对整个图像执行透视校正操作。
根据本实用新型的各种实施例,一种系统可包括中央处理单元、存储器、输入-输出电路和成像设备。成像设备可包括像素阵列及相关像素读出和图像信号处理电路,以便使用加权合并和/或跳过操作读出图像信号,从而生成图像。可使用成像设备中或系统其他地方的图像信号处理电路生成图像。镜头可为宽视角镜头,其将来自场景的额外光引导到像素阵列上。可使用成像系统中的处理电路或使用系统其他地方的处理电路执行透视校正操作。
前述内容仅是对本实用新型原理的示例性说明,因此本领域技术人员可以在不脱离本实用新型的精神和范围的前提下进行多种修改。上述实施例可单独地或以任意组合方式实施。

Claims (8)

1.一种含有成像设备的系统,其特征在于所述系统包括:
中央处理单元;
存储器;
输入-输出电路;以及
所述成像设备,其中所述成像设备包括:
生成图像信号的、包括第一组像素和第二组像素的像素阵列;
将光引导到所述像素阵列上的镜头;
读出由所述第一组像素和所述第二组像素所生成的所述图像信号的像素读出电路,其中来自所述第一组像素的第一数量的图像信号被合并而生成第一结合图像信号,其中来自所述第二组像素的第二数量的图像信号被合并而生成第二结合图像信号,并且其中所述第一数量大于所述第二数量;以及
图像信号处理电路,所述图像信号处理电路基于所述第一结合图像信号和所述第二结合图像信号来生成图像。
2.根据权利要求1所述的系统,其特征在于所述第一数量的图像信号中的所述图像信号在被所述像素读出电路读出之前被合并而生成所述第一结合图像信号。
3.根据权利要求2所述的系统,其特征在于所述第一组像素还包括:
共享浮动扩散节点,其中所述第一数量的图像信号在所述共享浮动扩散节点上被合并而生成所述第一结合图像信号,并且其中所述第一结合图像信号是由所述像素读出电路从所述共享浮动扩散节点读出的。
4.根据权利要求1所述的系统,其特征在于所述第一数量的图像信号中的所述图像信号在被合并而生成所述第一结合图像信号之前被所述像素读出电路读出。
5.根据权利要求1所述的系统,其特征在于所述第一组像素和所述第二组像素响应于从场景的第一部分和第二部分分别接收到的光而生成所述图像信号,其中所述场景的所述第一部分与所述场景的所述第二部分相比离所述系统更近。
6.根据权利要求5所述的系统,其特征在于所述镜头为宽视角镜头,所述宽视角镜头被配置为将来自所述场景的第三部分的额外光引导到所述像素阵列,其中第三组像素响应于从所述场景的所述第三部分接收到的所述光而生成图像信号,其中所述像素读出电路读出由所述第三组像素所生成的所述图像信号,其中来自所述第三组像素的第三数量的图像信号被合并而生成第三结合图像信号,并且其中所述第三数量小于所述第一数量和所述第二数量。
7.根据权利要求5所述的系统,其特征在于所述中央处理单元、所述像素读出电路和所述图像信号处理电路中的至少一者被配置为对所述图像执行透视校正操作,以减轻因所述场景的所述第一部分与所述场景的所述第二部分相比离所述系统更近而致所述图像中的透视失真。
8.根据权利要求1所述的系统,其特征在于所述中央处理单元、所述像素读出电路和所述图像信号处理电路中的至少一者被配置为对所述图像执行透视校正操作,以减轻所述图像中的透视失真。
CN201720151888.8U 2015-08-20 2016-08-09 含有成像设备的系统 Expired - Fee Related CN206506600U (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/831,437 US9749554B2 (en) 2015-08-20 2015-08-20 Systems and methods for weighted image signal readout
US14/831,437 2015-08-20
CN201620854200.8U CN206004798U (zh) 2015-08-20 2016-08-09 含有成像设备的系统

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201620854200.8U Division CN206004798U (zh) 2015-08-20 2016-08-09 含有成像设备的系统

Publications (1)

Publication Number Publication Date
CN206506600U true CN206506600U (zh) 2017-09-19

Family

ID=58157999

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201720151888.8U Expired - Fee Related CN206506600U (zh) 2015-08-20 2016-08-09 含有成像设备的系统
CN201620854200.8U Expired - Fee Related CN206004798U (zh) 2015-08-20 2016-08-09 含有成像设备的系统

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN201620854200.8U Expired - Fee Related CN206004798U (zh) 2015-08-20 2016-08-09 含有成像设备的系统

Country Status (2)

Country Link
US (1) US9749554B2 (zh)
CN (2) CN206506600U (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10048696B2 (en) 2015-12-22 2018-08-14 Uber Technologies, Inc. Intelligent lens masking system for an autonomous vehicle
US10438332B2 (en) * 2017-05-18 2019-10-08 Semiconductor Components Industries, Llc Methods and apparatus for selective pixel readout for image transformation
US11570384B2 (en) 2020-09-03 2023-01-31 Samsung Electronics Co., Ltd. Image sensor employing varied intra-frame analog binning
US11863884B2 (en) * 2021-09-16 2024-01-02 Qualcomm Incorporated Systems and methods for controlling an image sensor

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5886703A (en) * 1995-02-01 1999-03-23 Virtus Corporation Perspective correct texture mapping system and methods with intelligent subdivision
US6873732B2 (en) 2001-07-09 2005-03-29 Xerox Corporation Method and apparatus for resolving perspective distortion in a document image and for calculating line sums in images
JP3854826B2 (ja) * 2001-08-08 2006-12-06 キヤノン株式会社 撮像装置
US7224392B2 (en) * 2002-01-17 2007-05-29 Eastman Kodak Company Electronic imaging system having a sensor for correcting perspective projection distortion
US7417670B1 (en) 2005-01-12 2008-08-26 Ambarella, Inc. Digital video camera with binning or skipping correction
JP4816336B2 (ja) * 2006-02-07 2011-11-16 日本ビクター株式会社 撮像方法及び撮像装置
US20080024618A1 (en) 2006-07-31 2008-01-31 Suk Hwan Lim Adaptive binning method and apparatus
GB2461912A (en) 2008-07-17 2010-01-20 Micron Technology Inc Method and apparatus for dewarping and/or perspective correction of an image
US8780238B2 (en) 2011-01-28 2014-07-15 Aptina Imaging Corporation Systems and methods for binning pixels
KR101739380B1 (ko) * 2011-04-11 2017-06-08 삼성전자주식회사 디지털 영상 촬영 장치 및 방법

Also Published As

Publication number Publication date
CN206004798U (zh) 2017-03-08
US9749554B2 (en) 2017-08-29
US20170054925A1 (en) 2017-02-23

Similar Documents

Publication Publication Date Title
CN111614886B (zh) 图像传感器和电子设备
CN205792895U (zh) 成像系统
CN102365861B (zh) 在产生数字图像时曝光像素组
CN103327342B (zh) 具有透明滤波器像素的成像系统
US9888198B2 (en) Imaging systems having image sensor pixel arrays with sub-pixel resolution capabilities
US10136107B2 (en) Imaging systems with visible light sensitive pixels and infrared light sensitive pixels
US9681059B2 (en) Image-capturing device
US9531976B2 (en) Systems and methods for operating image sensor pixels having different sensitivities and shared charge storage regions
EP2664153B1 (en) Imaging system using a lens unit with longitudinal chromatic aberrations and method of operating
CN102197639B (zh) 用于形成图像的方法以及数字成像设备
EP2624569B1 (en) Method for correcting image data from an image sensor having image pixels and non-image pixels, and image sensor implementing the same
CN205726019U (zh) 成像系统、成像设备和图像传感器
CN206506600U (zh) 含有成像设备的系统
US20150312537A1 (en) Image sensor with scaled filter array and in-pixel binning
CN102369721A (zh) 具有合成全色图像的彩色滤光器阵列(cfa)图像
AU2011220758A1 (en) Increasing the resolution of color sub-pixel arrays
WO2010141056A1 (en) Imager having global and rolling shutter processes
WO2009025825A1 (en) Image sensor having a color filter array with panchromatic checkerboard pattern
US9368530B2 (en) Image sensor and color filter array including multiple selectable meshed filter sets
CN111989916A (zh) 成像设备和方法、图像处理设备和方法以及成像元件
WO2011076976A1 (en) Determining color information using a binary sensor
Chhabria CMOS Image Sensor: System-on-chip
Nakamura Appendix A Number of Incident Photons per Lux with a Standard Light Source
Zhang Architecture of triple sensitive color digital sensors with the integration of image fusion techniques

Legal Events

Date Code Title Description
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170919