CN115529427A - 图像处理装置、电子装置以及用于噪声降低的装置的操作方法 - Google Patents

图像处理装置、电子装置以及用于噪声降低的装置的操作方法 Download PDF

Info

Publication number
CN115529427A
CN115529427A CN202210388944.5A CN202210388944A CN115529427A CN 115529427 A CN115529427 A CN 115529427A CN 202210388944 A CN202210388944 A CN 202210388944A CN 115529427 A CN115529427 A CN 115529427A
Authority
CN
China
Prior art keywords
image data
image
weight
conversion gain
generate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210388944.5A
Other languages
English (en)
Inventor
金大煐
金建东
金宗遇
李秀永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of CN115529427A publication Critical patent/CN115529427A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/59Control of the dynamic range by controlling the amount of charge storable in the pixel, e.g. modification of the charge conversion ratio of the floating node capacitance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/77Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase

Abstract

公开的是一种图像处理装置、电子装置以及用于噪声降低的装置的操作方法。图像处理装置包括:图像传感器,图像传感器包括像素阵列,像素阵列被配置为从共享浮置扩散区的像素生成与第一转换增益相对应的第一像素信号和与第二转换增益相对应的第二像素信号,并且图像传感器被配置为分别基于第一像素信号和第二像素信号生成第一图像数据和第二图像数据;以及图像信号处理器,图像信号处理器基于第一图像数据和第二图像数据生成输出图像。图像信号处理器包括:标称化电路,标称化电路基于第二图像数据的动态范围标称化第一图像数据以生成第三图像数据;以及混合电路,混合电路基于第二图像数据和第三图像数据生成输出图像。

Description

图像处理装置、电子装置以及用于噪声降低的装置的操作 方法
相关申请的交叉引用
本申请要求于2021年6月25日在韩国知识产权局提交的韩国专利申请No.10-2021-0083080的优先权,该韩国专利申请的公开内容通过引用整体地并入本文。
技术领域
本文描述的本公开的示例实施例涉及电子装置,并且更具体地,涉及用于使用双转换增益的噪声降低的图像处理装置及其操作方法。
背景技术
图像传感器包括电荷耦合器件(CCD)图像传感器、互补金属氧化物半导体(CMOS)图像传感器(CIS)等。CMOS图像传感器包括由CMOS晶体管组成的像素并且通过使用包括在每个像素中的光电转换元件(或器件)来将光能转换成电信号。CMOS图像传感器通过使用由每个像素生成的电信号来获得关于捕获/拍摄的图像的信息。
同时,随着对包括在智能电话中的CMOS图像传感器的需求增加和对高质量图像的需求增加,正在开发用于输出图像的噪声降低的各种技术。特别地,有必要充分地保证在曝光时间受限制的低照度环境中拍摄的图像的亮度并且还有必要降低由于放大而导致的噪声。
发明内容
本公开的示例实施例提供了用于通过使用双转换增益来降低输出图像的噪声的图像处理装置及其操作方法。
根据实施例,用于使用双转换增益的噪声降低的装置包括:图像传感器,所述图像传感器包括像素阵列,所述像素阵列被配置为从共享浮置扩散区的像素生成与第一转换增益相对应的第一像素信号并且生成与第二转换增益相对应的第二像素信号,并且所述图像传感器被配置为分别基于所述第一像素信号和所述第二像素信号生成第一图像数据和第二图像数据;以及图像信号处理器,所述图像信号处理器基于所述第一图像数据和所述第二图像数据生成输出图像。所述图像信号处理器包括:标称化电路,所述标称化电路基于所述第二图像数据的动态范围标称化所述第一图像数据以生成第三图像数据;以及混合电路,所述混合电路基于所述第二图像数据和所述第三图像数据生成所述输出图像。
根据实施例,用于使用双转换增益的噪声降低的装置包括:透镜,所述透镜接收从对象反射的光;图像传感器,所述图像传感器包括像素阵列,所述像素阵列被配置为从共享浮置扩散区的像素生成与第一转换增益相对应的第一像素信号和与第二转换增益相对应的第二像素信号,并且所述图像传感器被配置为从所述透镜接收光并且分别基于所述第一像素信号和所述第二像素信号生成第一图像数据和第二图像数据;图像信号处理器,所述图像信号处理器基于所述第一图像数据和所述第二图像数据生成输出图像;以及主处理器,所述主处理器基于所述输出图像生成视频流。所述图像信号处理器包括:标称化电路,所述标称化电路基于所述第二图像数据的动态范围标称化所述第一图像数据以生成第三图像数据;以及混合电路,所述混合电路基于所述第二图像数据和所述第三图像数据生成所述输出图像。
根据实施例,用于使用双转换增益的噪声降低的装置的操作方法包括:生成与第一转换增益相对应的第一图像数据和与第二转换增益相对应的第二图像数据;基于所述第二图像数据的动态范围标称化所述第一图像数据以生成第三图像数据;基于所述第二图像数据和所述第三图像数据生成输出图像;以及基于所述输出图像生成视频流。
附图说明
本公开的上述及其他目的和特征将通过参考附图详细地描述本公开的实施例而变得容易理解。
图1示出了根据本公开的一些示例实施例的图像处理块的配置的示例。
图2示出了图1的图像传感器的配置的示例。
图3是示出了图2的像素阵列的像素组之一的示例的电路图。
图4A是示出了当图3的双转换晶体管关断时的浮置扩散区的电路图。
图4B是示出了当图3的双转换晶体管导通时的浮置扩散区的电路图。
图5是示出了图2的像素阵列的像素组之一的另一示例的电路图。
图6示出了取决于图像传感器120的快门时间和转换增益而确定是否执行使用双转换增益的噪声降低的示例。
图7示出了根据参考图6描述的确定是否执行使用双转换增益的噪声降低的结果的输出图像的示例。
图8概念地示出了根据本公开的一些示例实施例的标称化和混合操作。
图9示出了根据本公开的一些示例实施例的包括图像处理块的电子装置的配置的示例。
图10是示出了根据本公开的一些示例实施例的用于使用双转换增益的噪声降低的方法的流程图。
图11示出了包括实现了根据本公开的一些示例实施例的用于噪声降低的装置的相机模块的电子装置的配置的示例。
图12示出了图11的相机模块的配置的示例。
具体实施方式
在下面,将详细地且清楚地描述本公开的示例实施例,使得本领域技术人员容易地实行本公开。
在详细描述中,参考术语“单元”、“模块”、“块”、“~者或~器”等描述的部件以及附图中示出的功能块将用例如以下各项实现:包括逻辑电路的硬件;硬件/软件组合,诸如运行软件的处理器;或它们的组合。例如,处理电路系统更具体地可以包括但不限于中央处理单元(CPU)、算术逻辑单元(ALU)、数字信号处理器、微计算机、现场可编程门阵列(FPGA)、片上系统(SoC)、可编程逻辑单元、微处理器、专用集成电路(ASIC)等。例如,硬件可以包括电路、电子电路、处理器、计算机、集成电路、集成电路核心、压力传感器、惯性传感器、微机电系统(MEMS)、无源元件或它们的组合。
图1示出了根据本公开的一些示例实施例的图像处理块100的配置的示例。可以将图像处理块100实现为诸如智能电话、数码相机、膝上型计算机和/或台式计算机的各种电子装置的一部分。图像处理块100可以包括透镜110、图像传感器120和图像信号处理器130。
光可以被作为拍摄目标的对象、风景等反射,并且透镜110可以接收反射光。图像传感器120可以基于通过透镜110接收到的光生成电信号。例如,图像传感器120可以用互补金属氧化物半导体(CMOS)图像传感器等实现。例如,图像传感器120可以是具有双像素结构或四单元结构的多像素图像传感器。
图像传感器120可以包括像素阵列。像素阵列的像素可以将光转换成电信号以生成像素信号。可以将光被转换成电信号(例如,电压)的比率定义为“转换增益”。特别地,像素阵列可以通过使用转换增益即双转换增益的变化在低转换增益条件和高转换增益条件下生成像素信号。
另外,图像传感器120可以包括模数转换(ADC)电路以用于对像素值执行相关双采样(CDS)以便将其转换成电信号。详细地,本公开的ADC电路可以输出与从像素阵列生成的像素信号当中的在低转换增益条件下生成的像素信号相对应的第一图像数据IDAT1,并且可以输出与像素信号当中的在高转换增益条件下生成的像素信号相对应的第二图像数据IDAT2。将参考图2更详细地描述图像传感器120的配置,并且将参考图3、图4A和图4B更详细地描述与双转换增益相关联的像素阵列的配置。
图像信号处理器130可以适当地处理从图像传感器120输出的第一图像数据IDAT1和/或第二图像数据IDAT2并且因此可以生成与所拍摄的对象或风景相关联的输出图像IOUT。例如,输出图像IOUT可以是静止图像,或者可以是构成视频的每个视频帧的图像。为此,图像信号处理器130可以执行各种处理,诸如色彩校正、自动白平衡、伽玛校正、色彩饱和度校正、坏像素校正、色调校正、噪声降低等。
本公开的图像处理块100可以基于对象的环境照度在第一操作模式或第二操作模式下操作。例如,图像处理块100在图像传感器120未能充分地接收光的低照度环境中可以在第一操作模式下操作,而在图像传感器120充分地接收光的高照度环境中可以在第二操作模式下操作。
在第一操作模式下,图像传感器120可以输出与低转换增益相对应的第一图像数据IDAT1和与高转换增益相对应的第二图像数据IDAT2,并且图像信号处理器130可以通过使用双转换增益来执行噪声降低。详细地,在第一操作模式下,图像信号处理器130可以混合(blend)与低转换增益相对应的第一图像数据IDAT1和与高转换增益相对应的第二图像数据IDAT2,从而可以生成噪声降低的输出图像IOUT。为此,图像信号处理器130可以包括标称化(normalization,也称归一化)电路131和混合(blending)电路132。
与低转换增益相对应的第一图像数据IDAT1指示的图像的亮度可以比与高转换增益相对应的第二图像数据IDAT2指示的图像的亮度暗。换句话说,第一图像数据IDAT1的动态范围和第二图像数据IDAT2的动态范围可以是不同的。因此,为了使第一图像数据IDAT1的动态范围和第二图像数据IDAT2的动态范围相匹配,标称化电路131可以取决于第二图像数据IDAT2的动态范围而标称化第一图像数据IDAT1的亮度值,从而可以生成第三图像数据IDAT3。
然而,本公开不限于此。例如,标称化电路131可以取决于第一图像数据IDAT1的动态范围而标称化第二图像数据IDAT2的亮度值,从而可以生成第三图像数据IDAT3。在下面,为了使描述变得清楚,假定了标称化电路131标称化第一图像数据IDAT1的亮度值以生成第三图像数据IDAT3。
混合电路132可以混合第二图像数据IDAT2和第三图像数据IDAT3以生成噪声降低的输出图像IOUT。例如,可以通过将第三图像数据IDAT3的值和第一权重一起相乘并且将第二图像数据IDAT2的值和第二权重一起相乘来生成输出图像IOUT。也就是说,输出图像IOUT可以指示通过使用双转换增益与第一图像数据IDAT1至第三图像数据IDAT3相比噪声降低的图像。
第一权重和第二权重可以是预先或在计算时确定要分配给图像数据的任意值。例如,可以将第一权重设置为“a”即介于“0”与“1”之间的值,并且可以将第二权重设置为“1-a”即从“1”中减去第一权重的值。然而,本公开不限于此。例如,可以通过使用基于第一图像数据IDAT1至第三图像数据IDAT3的各种方案来生成输出图像IOUT。
例如,可以执行根据本公开的一些示例实施例的使用双转换增益的噪声降低以降低图像的时间噪声。然而,本公开不限于此。还可以执行使用双转换增益的噪声降低以降低不同种类的噪声(例如,空间噪声和固定图案噪声)。
可以相对于静止图像执行上述使用双转换增益的噪声降低,并且还可以相对于构成视频帧的图像执行上述使用双转换增益的噪声降低。可以通过执行使用双转换增益的噪声降低来改善图像传感器120的信噪比(SNR)。
同时,在第二操作模式下,图像传感器120可以仅输出与低转换增益相对应的第一图像数据IDATl,并且图像信号处理器130可以通过在不经由标称化电路131和混合电路132的上述操作的情况下处理第一图像数据IDATl来生成输出图像IOUT。
图像处理块100是在第一操作模式下操作还是在第二操作模式下操作可以通过放置在图像处理块100外部的照度传感器(未示出)感测的对象的环境照度自动地确定,或者可以响应于用户的输入而确定。将参考图9对此进行更详细的描述。
在图1中示出了一个透镜110和一个图像传感器120。然而,在一些示例实施例中,图像处理块100可以包括多个透镜和多个图像传感器。在这种情况下,多个透镜可以具有不同视场。另外,多个图像传感器可以具有不同的功能、不同的性能和/或不同的特性,并且可以分别包括不同配置的像素阵列。
图2示出了图1的图像传感器120的配置的示例。图像传感器120可以包括像素阵列121、行驱动器122、斜坡信号生成器123、ADC电路124、定时控制器125和缓冲器126。在下面,将与图1一起描述图2。
像素阵列121可以包括以矩阵的形式沿着行和列布置的多个像素。多个像素中的每一个像素可以包括光电转换元件。例如,光电转换元件可以包括光电二极管、光电晶体管、光电门、钳位(pinned)光电二极管等。
像素阵列121可以包括多个像素组PG。每个像素组PG可以包括两个或更多个像素,即,多个像素。构成像素组PG的多个像素可以共享一个浮置扩散区或多个浮置扩散区。在图2中示出了像素阵列121包括以四行和四列布置的像素组PG(即,4×4像素组PG)的示例。然而,本公开不限于此,并且可以使用不同大小的像素组和浮置扩散区。
像素组PG可以包括相同颜色的像素。例如,像素组PG可以包括用于将红色光谱的光转换成电信号的红色像素、用于将绿色光谱的光转换成电信号的绿色像素、或用于将蓝色光谱的光转换成电信号的蓝色像素。例如,可以以四拜耳图案的形式布置构成像素阵列121的像素。
在一些示例实施例中,像素阵列121可以包括多个像素组PG,并且多个像素组PG中的至少一个像素组可以具有滤色器。例如,像素组PG可以包括用于将光转换成红色光谱的红色滤色器、或用于将光转换成绿色光谱的绿色滤色器、或用于将光转换成蓝色光谱的蓝色滤色器。
像素阵列121的像素可以取决于从外部接收到的光的强度或量通过列线CL1至CL4输出像素信号。例如,像素信号可以是与从外部接收到的光的强度或量相对应的模拟信号。
当图像处理块100在第一操作模式下(例如,在低照度环境的情况下)操作时,像素阵列121可以在低转换增益条件下输出像素信号并且可以在高转换增益条件下输出像素信号。在操作中,当图像处理块100在第二操作模式下(例如,在高照度环境的情况下)操作时,像素阵列121可以在低转换增益条件下输出像素信号。像素信号可以通过电压缓冲器(例如,源极跟随器),然后可以通过列线CL1至CL4被提供给ADC电路124。
行驱动器122可以选择并驱动像素阵列121的行。行驱动器122可以对由定时控制器125生成的地址和/或控制信号进行解码并且可以生成用于选择并驱动像素阵列121的行的控制信号。例如,控制信号可以包括用于选择像素的信号、用于驱动双转换晶体管的信号、用于复位浮置扩散区的信号等。
斜坡信号生成器123可以在定时控制器125的控制下生成斜坡信号。例如,斜坡信号生成器123可以响应于诸如斜坡使能信号的控制信号而操作。当斜坡使能信号被激活时,斜坡信号生成器123可以取决于预设的(或者,期望的)值(例如,开始电平、结束电平和斜率)而生成斜坡信号。换句话说,斜坡信号可以是在特定时间期间沿着预设的(或者,期望的)斜率增加或减小的信号。可以将图像信号提供给ADC电路124。
ADC电路124可以通过列线CLl至CL4从像素阵列121的多个像素接收像素信号,并且可以从斜坡信号生成器123接收斜坡信号。ADC电路124可以基于相关双采样(CDS)技术操作以便从接收到的像素信号获得复位信号和图像信号并且提取复位信号与图像信号之间的差异作为有效信号分量。ADC电路124可以包括多个比较器COMP和多个计数器CNT。
详细地,每一个比较器COMP可以比较像素信号的复位信号和斜坡信号,可以比较像素信号的图像信号和斜坡信号,并且可以对比较结果执行相关双采样(CDS)。每一个计数器CNT可以对经历相关双采样的信号的脉冲进行计数并且可以将计数结果作为数字信号输出。
例如,每个计数器CNT可以包括向上/向下计数器、逐位反转计数器等。逐位计数器的操作可以类似于向上/向下计数器的操作。例如,逐位计数器可以执行仅执行向上计数的功能以及在对其输入特定信号时可以执行转换计数器的所有内部位以获得1的补码的功能。逐位计数器可以执行复位计数,然后可以使复位计数结果反转以便转换成1的补码,即负值。
例如,在第一操作模式下,每一个计数器CNT可以独立地输出与低转换增益相对应的数字信号和与高转换增益相对应的数字信号。相比之下,在第二操作模式下,每一个计数器CNT可以生成与低转换增益相对应的数字信号。在图2中示出了ADC电路124包括四个比较器COMP和四个计数器CNT的示例,但是本公开不限于此。
定时控制器125可以生成用于控制行驱动器122、斜坡信号生成器123和ADC电路124中的每一者的操作和/或定时的控制信号和/或时钟。
缓冲器126可以包括存储器MEM和读出放大器SA。存储器MEM可以存储从ADC电路124的对应计数器CNT输出的数字信号。读出放大器SA可以感测并放大存储在存储器MEM中的数字信号。读出放大器SA可以将经放大后的数字信号作为图像数据IDAT1或IDAT2输出。
例如,在数字信号对应于低转换增益的情况下,经放大后的数字信号可以作为第一图像数据IDATl被输出;在数字信号对应于高转换增益的情况下,经放大后的数字信号可以作为第二图像数据IDAT2被输出。换句话说,读出放大器SA在第一操作模式下可以输出第一图像数据IDAT1和第二图像数据IDAT2两者,而在第二操作模式下可以仅输出第一图像数据IDAT1。
图3是示出了图2的像素阵列121的像素组PG之一的示例的电路图。图4A是示出了当图3的双转换晶体管DC关断时的浮置扩散区FD1的电路图。图4B是示出了当图3的双转换晶体管DC导通时的浮置扩散区FD1和FD2的电路图。
例如,像素组PG可以包括像素PXl至PX4、光电转换元件PDl至PD4、转移晶体管Txl至Tx4、复位晶体管RST、双转换晶体管DC、驱动晶体管Dx和选择晶体管SEL。在图3中示出了像素组PG具有其中四个像素PX1至PX4分别包括光电转换元件PD1至PD4的四单元结构的示例,但是本公开不限于此。例如,像素组PG可以被实现为具有各种不同的结构。
第一像素PXl可以包括第一光电转换元件PDl和第一转移晶体管Txl,而剩余像素PX2、PX3和PX4中的每一者也可以包括类似的部件/元件。像素PX1至PX4可以共享复位晶体管RST、双转换晶体管DC、驱动晶体管Dx和选择晶体管SEL。另外,像素PX1至PX4可以共享第一浮置扩散区FD1。
第一浮置扩散区FDl或第二浮置扩散区FD2可以对与入射光的量相对应的电荷进行累积(或积分)。当转移晶体管Tx1至Tx4分别由转移信号VT1至VT4导通时,第一浮置扩散区FD1或第二浮置扩散区FD2可以对从光电转换元件PD1至PD4供应的电荷进行累积(或积分)。因为第一浮置扩散区FD1与作为源极跟随器放大器操作的驱动晶体管Dx的栅极端子连接,所以可以形成与在第一浮置扩散区FD1处累积的电荷相对应的电压。例如,第一浮置扩散区FD1的电容被描绘为第一电容CFD1。
双转换晶体管DC可以由双转换信号VDC驱动。当双转换晶体管DC关断时,第一浮置扩散区FD1的电容可以对应于第一电容CFD1。也就是说,第一浮置扩散区FD1可以具有可以对应于第一电容CFD1的电容值。在一般环境例如低照度环境中,因为第一浮置扩散区FD1不容易饱和,所以不需要增加第一浮置扩散区FD1的电容(即,CFD1)。在这种情况下,双转换晶体管DC可以关断。在一些示例实施例中,双转换晶体管DC可以关断,因此在第一操作模式下,第一电容CFD1可以对应于第一浮置扩散区FD1。
然而,在高照度环境中,第一浮置扩散区FDl可能容易饱和。为了防止或减少饱和,可以使双转换晶体管DC导通,使得第一浮置扩散区FD1和第二浮置扩散区FD2电连接。在这种情况下,可以将浮置扩散区FD1的电容(电容值)增加到第一电容CFD1和第二电容CFD2之和。在一些示例实施例中,可以使双转换晶体管DC导通,因此在第二操作模式下,第一电容CFD1可以对应于第一浮置扩散区FD1和第二浮置扩散区FD2。在一些示例实施例中,第一浮置扩散区FD1和第二浮置扩散区FD2中的至少一者可以是电容器。
转移晶体管Txl至Tx4可以分别由转移信号VTl至VT4驱动,并且可以将由光电转换元件PDl至PD4生成(或积分)的电荷转移到第一浮置扩散区FDl或第二浮置扩散区FD2。例如,转移晶体管Tx1至Tx4的第一端可以分别与光电转换元件PD1至PD4连接,并且其第二端可以与第一浮置扩散区FD1共同连接。
复位晶体管RST可以由复位信号VRST驱动并且可以向第一浮置扩散区FDl或第二浮置扩散区FD2提供电源电压VDD。因此,在第一浮置扩散区FD1或第二浮置扩散区FD2处累积的电荷可以移动到电源电压VDD的端子,并且第一浮置扩散区FD1或第二浮置扩散区FD2的电压可以被复位。
驱动晶体管Dx可以放大第一浮置扩散区FD1或第二浮置扩散区FD2的电压并且可以生成与放大的结果相对应的像素信号PIX。选择晶体管SEL可以由选择信号VSEL驱动并且可以选择要以行为单位读取的像素。当选择晶体管SEL导通时,可以通过列线CL将像素信号PIX输出到图2的ADC电路124。
根据本公开的一些示例实施例,在第一操作模式下(例如,在低照度环境的情况下),像素阵列121可以使双转换晶体管DC导通或关断,使得转换增益被改变并且因此可以分别在低转换增益条件和高转换增益条件下输出像素信号。详细地,低转换增益条件可以对应于双转换晶体管DC导通的情况(图4B),而高转换增益条件可以对应于双转换晶体管DC关断的情况(图4A的细实线)。
因此,图像传感器120可以输出与低转换增益相对应的第一图像数据IDATl和与高转换增益相对应的第二图像数据IDAT2,并且图像信号处理器130可以基于第一图像数据IDAT1和第二图像数据IDAT2执行使用双转换增益的噪声降低。
同时,上述描述是在对构成像素组PG的像素应用相同的曝光时间的假定下参考图1至图3、图4A和图4B给出的;在一些示例实施例中,可以对构成像素组PG的像素应用不同的曝光时间。换句话说,可以在长曝光时间期间驱动(或控制)像素的第一部分,而可以在短曝光时间期间驱动(或控制)像素的第二部分。例如,当在长曝光时间期间驱动的像素的数目和在短曝光时间期间驱动的像素的数目相同时,可以执行使用双转换增益的噪声降低,但是本公开不限于此。
图5是示出了图2的像素阵列的像素组之一的另一示例的电路图。参考图5,像素组PG可以包括三个单位像素组UPG,并且每个单位像素组UPG包括三个像素PX1至PX3。第一像素PX1可以包括第一光电转换元件PD1和第一转移晶体管Tx1,而剩余像素PX2和PX3中的每一者也可以包括类似的部件/元件。像素PX1至PX3可以共享复位晶体管RST、双转换晶体管DC、驱动晶体管Dx和选择晶体管SEL。另外,像素PX1至PX3可以共享第一浮置扩散区FD1。
由双转换晶体管DC对第一浮置扩散区FDl的电容的扩大、转移晶体管Txl至Tx3的操作、以及复位晶体管RST、驱动晶体管Dx、选择晶体管SEL的操作可以几乎与参考图3描述的那些类似,因此,将省略附加描述以避免冗余。
第二浮置扩散区FD2可以通过连接线ILl与相邻单位像素组(未示出)的浮置扩散区电连接。在这种情况下,可以进一步增加(或扩大)第一浮置扩散区FD1的电容。尽管在附图中未示出,但是单元像素组UPG还可以包括用于将第二浮置扩散区FD2与相邻单位像素组的浮置扩散区电连接的开关元件(例如,诸如双转换晶体管DC的元件)。
像参考图3给出的描述一样,根据本公开的一些示例实施例,在第一操作模式下(例如,在低照度环境的情况下),像素阵列121可以使双转换晶体管DC导通或关断,使得转换增益被改变,从而可以分别在低转换增益条件和高转换增益条件下输出像素信号。因此,图像传感器120可以输出与低转换增益相对应的第一图像数据IDAT1和与高转换增益相对应的第二图像数据IDAT2,并且图像信号处理器130可以基于第一图像数据IDAT1和第二图像数据IDAT2执行使用双转换增益的噪声降低。
另外,图5的每个单位像素组UPG可以取决于是使所对应的双转换晶体管DC导通还是关断而具有不同的转换增益(例如,第一转换增益至第三转换增益)。例如,第一转换增益至第三转换增益中的每一者可以对应于低转换增益或高转换增益中的一者。在这种情况下,图像传感器120可以基于分别与第一转换增益至第三转换增益相对应的第一图像数据至第三图像数据执行使用双转换增益的噪声降低。
图6示出了取决于图像传感器120的快门时间和转换增益而确定是否执行使用双转换增益的噪声降低DC GNR的示例。快门时间或快门速度指示图像传感器120接收光期间的时间,并且转换增益指示图像传感器120将光转换成电信号的比率。在下面,将与图1一起描述图6。
如参考图1描述的,在图像传感器120未能充分地接收光的低照度环境中,可以由图像信号处理器130执行使用双转换增益的噪声降低。详细地,在低照度环境下即使图像传感器120的快门时间增加也无法充分地保证图像的亮度的情况下,图像传感器120的转换增益可以变得更高以获得明亮图像。随着转换增益增加,图像传感器120的信噪比也可以增加。特别地,在视频拍摄的情况下,因为快门时间被限制以保证充足的帧速率,所以在输出视频帧时信噪比的改进可能变得更加重要。
因此,图像处理块100可以出于在低照度环境中充分地保证图像的亮度的同时改进图像传感器120的信噪比的目的在第一操作模式下操作。在第一操作模式下,图像传感器120可以输出与低转换增益相对应的图像数据(例如,图1的第一图像数据IDAT1)以及与高转换增益相对应的图像数据(例如,图1的第二图像数据IDAT2)。此后,图像信号处理器130可以通过参考图1描述的标称化和混合操作(例如,标称化电路131和混合电路132的操作)来执行使用双转换增益的噪声降低。
相比之下,在图像传感器120充分地接收光并且不需要高转换增益的高照度环境中,图像处理块100可以在第二操作模式下操作。在第二操作模式下,图像传感器120可以仅输出与低转换增益相对应的图像数据(例如,图1的第一图像数据IDAT1),并且图像信号处理器130可以不执行参考图1描述的标称化和混合操作。
图7示出了根据参考图6描述的确定是否执行使用双转换增益的噪声降低DCG NR的结果的输出图像的示例。在下面,将与图1一起描述图7。
在低照度环境中,也就是说,在图像处理块100在第一操作模式下操作的情况下,输出图像可以是通过混合与低转换增益相对应的图像和与高转换增益相对应的图像来生成的图像。相比之下,在高照度环境中,也就是说,在图像处理块100在第二操作模式下操作的情况下,输出图像可以是基于与低转换增益相对应的图像生成的图像。
图8概念地示出了根据本公开的一些示例实施例的标称化和混合操作。如参考图1描述的,为了使与低转换增益相对应的第一图像数据IDAT1的动态范围和与高转换增益相对应的第二图像数据IDAT2的动态范围相匹配,标称化电路131可以取决于第二图像数据IDAT2的动态范围而标称化第一图像数据IDAT1的亮度值并且因此可以生成第三图像数据IDAT3。
混合电路132可以通过将第三图像数据IDAT3和预先或在计算时确定的第一权重一起相乘并且将第二图像数据IDAT2和预先或在计算时确定的第二权重一起相乘来输出噪声降低的输出图像IOUT。例如,可以将第一权重设置为“a”即介于“0”与“1”之间的值,并且可以将第二权重设置为“1-a”即从“1”中减去第一权重的值。
图9示出了根据本公开的一些示例实施例的包括图像处理块100的电子装置10的配置的示例。电子装置10可以包括图像处理块100、主处理器200和显示装置300。图像处理块100的操作与参考图1描述的操作相同,因此,将省略附加描述以避免冗余。
主处理器200可以执行用于控制电子装置10的整体操作的各种操作。例如,主处理器200可以用通用处理器、专用处理器或应用处理器(AP)实现,并且可以包括一个或更多个处理器核心。主处理器200可以为了获得输出图像IOUT而控制图像处理块100。
特别地,基于要由照度传感器(未示出)感测的对象的环境照度,根据本公开的一些示例实施例的主处理器200可以确定图像处理块100是在第一操作模式下操作还是在第二操作模式下操作。主处理器200可以基于照度传感器的感测结果向图像处理块100发送控制信号CTRL。
例如,控制信号CTRL可以通过控制参考图4A和图4B描述的双转换信号VDC来控制双转换晶体管DC的导通或关断。例如,可以响应于低照度环境而启用控制信号CTRL。图像处理块100可以响应于已启用的控制信号CTRL而在第一操作模式下操作,而在控制信号CTRL未被启用时可以在第二操作模式下操作。
另外,主处理器200可以接收基于对象的环境照度确定第一操作模式或第二操作模式的用户输入。另外,主处理器200可以基于对象的环境照度并且基于接收到用户输入来确定要激活混合电路132的操作。
如参考图1描述的,输出图像IOUT可以是静止图像,或者可以是构成视频的每个视频帧的图像。主处理器200可以将基于所获得的输出图像IOUT的静止图像或视频流存储在诸如UFS卡、嵌入式UFS存储器、SD卡、SSD和/或eMMC的存储装置中,并且可以将静止图像或视频流提供给显示装置300。
显示装置300可以将基于输出图像IOUT的静止图像或视频流提供给用户。例如,显示装置300可以包括有机LED(OLED)显示装置、有源矩阵OLED(AMOLED)显示装置、发光二极管(LED)显示装置、液晶显示(LCD)装置等,但是本公开不限于此。
例如,在由图像信号处理器130执行使用双转换增益的噪声降低的情况下,提供给显示装置300的静止图像或视频流也可以是经历上述使用双转换增益的噪声降低的静止图像或视频流。另外,在输出图像IOUT是构成每个视频帧的图像的情况下,显示装置300可以将基于输出图像IOUT的视频流作为预览图像提供给用户。
因此,基于经历使用双转换增益的噪声降低的输出图像IOUT的静止图像或视频帧可以由主处理器200存储在存储装置中。另外,可以将基于经历使用双转换增益的噪声降低的输出图像IOUT的视频帧作为显示装置300上的预览图像提供给用户。换句话说,可以执行根据本公开的一些示例实施例的使用双转换增益的噪声降低以生成各种类型的图像,诸如静止图像、视频流和预览图像。
图10是示出了根据本公开的一些示例实施例的用于使用双转换增益的噪声降低的方法的流程图。将参考图1和图9描述图10。
在操作S110中,图像传感器120可以生成与低转换增益相对应的第一图像数据IDAT1和与高转换增益相对应的第二图像数据IDAT2。在操作S120中,图像信号处理器130的标称化电路131可以取决于第二图像数据IDAT2的动态范围而标称化第一图像数据IDAT1的亮度值,从而可以生成第三图像数据IDAT3。
在操作S130中,图像信号处理器130的混合电路132可以混合第二图像数据IDAT2和第三图像数据IDAT3以生成输出图像IOUT。例如,可以通过将第三图像数据IDAT3的值和第一权重(例如,作为介于“0”与“1”之间的值的“a”)一起相乘并且将第二图像数据IDAT2的值和第二权重(例如,“1-a”)一起相乘来生成输出图像IOUT。也就是说,输出图像IOUT可以指示通过使用双转换增益与第一图像数据IDAT1至第三图像数据IDAT3相比噪声降低的图像。
在操作S140中,主处理器200可以生成基于输出图像IOUT的静止图像或视频流,可以将静止图像或视频流存储在存储装置中,并且可以将静止图像或视频流提供给显示装置300。另外,在输出图像IOUT是构成每个视频帧的图像的情况下,在操作S150,显示装置300可以将基于输出图像IOUT的视频流作为预览图像提供给用户。也就是说,可以执行根据本公开的一些示例实施例的使用双转换增益的噪声降低以生成各种类型的图像,诸如静止图像、视频流和预览图像,并且因此,可以改进图像传感器120的噪声比。
图11示出了包括实现了根据本公开的一些示例实施例的用于噪声降低的装置的相机模块的电子装置的配置的示例。图12示出了图11的相机模块的配置的示例。
参考图11,电子装置1000可以包括相机模块组1100、应用处理器1200、PMIC 1300和外部存储器1400。
相机模块组1100可以包括多个相机模块1100a、1100b和1100c。在图11中示出了包括三个相机模块1100a、1100b和1100c的电子装置,但是本公开不限于此。在一些示例实施例中,可以修改相机模块组1100以包括仅两个相机模块。
在下面,将参考图12更全面地描述相机模块1100b的详细配置,但是以下描述可以同样地适用于剩余相机模块1100a和1100c。
参考图12,相机模块1100b可以包括棱镜1105、光路折叠元件(OPFE)1110、致动器1130、图像感测装置1140和存储部(storage)1150。
棱镜1105可以包括光反射材料的反射平面1107并且可以改变从外部入射的光“L”的路径。
在一些示例实施例中,棱镜1105可以将在第一方向“X”上入射的光“L”的路径改变到与第一方向“X”垂直的第二方向“Y”。另外,棱镜1105可以通过使光反射材料的反射平面1107绕中心轴线1106在方向“A”上旋转或者使中心轴线1106在方向“B”上旋转来将在第一方向“X”上入射的光“L”的路径改变到与第一方向“X”垂直的第二方向“Y”。在这种情况下,OPFE 1110可以在与第一方向“X”和第二方向“Y”垂直的第三方向“Z”上移动。
在一些示例实施例中,如图所示,棱镜1105在方向“A”上的最大旋转角度在正A方向上可以等于或小于15度而在负A方向上可以大于15度,但是本公开不限于此。
在一些示例实施例中,棱镜1105可以在正或负B方向上的大约20度内、在10度与20度之间、或在15度与20度之间移动;这里,棱镜1105可以在正或负B方向上以相同角度移动或者可以在大约1度内以类似角度移动。
在一些示例实施例中,棱镜1105可以在与中心轴线1106延伸的方向平行的第三方向(例如,Z方向)上移动光反射材料的反射平面1107。
例如,OPFE 1110可以包括由“m”个组(m是自然数)组成的光学透镜。这里,“m”个透镜可以在第二方向“Y”上移动以改变相机模块1100b的光学变焦比。例如,当相机模块1100b的默认光学变焦比是“Z”时,可以通过移动包括在OPFE 1110中的“m”个光学透镜来将相机模块1100b的光学变焦比改变为3Z、5Z或5Z以上的光学变焦比。OPFE 1110还可以在上述“m”个透镜前面包括“n”组光学透镜(n是自然数)。
致动器1130可以将OPFE 1110或光学透镜(在下文中被称为“光学透镜”)移动到特定位置。例如,致动器1130可以调整光学透镜的位置,使得图像传感器1142被放置在光学透镜的焦距处以获得准确的感测。
图像感测装置1140可以包括图像传感器1142、控制逻辑1144和存储器1146。图像传感器1142可以通过使用通过光学透镜提供的光“L”来感测感测目标的图像。控制逻辑1144可以控制相机模块1100b的整体操作。例如,控制逻辑1144可以基于通过控制信号线CSLb提供的控制信号来控制相机模块1100b的操作。
存储器1146可以存储相机模块1100b的操作所必需的信息,诸如校准数据1147。校准数据1147可以包括相机模块1100b通过使用从外部提供的光“L”来生成图像数据所必需的信息。校准数据1147可以包括例如关于上述旋转程度的信息、关于焦距的信息、关于光轴的信息等。在以焦距取决于光学透镜的位置而变化的多状态相机的形式实现相机模块1100b的情况下,校准数据1147可以包括光学透镜的每个位置(或状态)的焦距值和关于自动聚焦的信息。
存储部1150可以存储通过图像传感器1142感测的图像数据。存储部1150可以设置在图像感测装置1140外部并且可以以存储部1150和构成图像感测装置1140的传感器芯片被堆叠的形状实现。在一些示例实施例中,存储部1150可以用电可擦除可编程只读存储器(EEPROM)实现,但是本公开不限于此。
一起参考图11和图12,在一些示例实施例中,多个相机模块1100a、1100b和1100c中的每一者可以包括致动器1130。因此,可以取决于多个相机模块1100a、1100b和1100c中的致动器1130的操作而在所述多个相机模块中包括相同的校准数据1147或不同的校准数据1147。
在一些示例实施例中,多个相机模块1100a、1100b和1100c当中的一个相机模块(例如,1100b)可以是在其中包括上述棱镜1105和OPFE1110的折叠透镜形状的相机模块,而剩余相机模块(例如,1100a和1100c)可以是在其中不包括上述棱镜1105和OPFE 1110的垂直形状的相机模块;然而,本公开不限于此。
在一些示例实施例中,多个相机模块1100a、1100b和1100c当中的一个相机模块(例如,1100c)可以是例如通过使用红外线(IR)来提取深度信息的垂直形状的深度相机。在这种情况下,应用处理器1200可以合并从深度相机提供的图像数据和从任何其他相机模块(例如,1100a或1100b)提供的图像数据并且可以生成三维(3D)深度图像。
在一些示例实施例中,多个相机模块1100a、1100b和1100c当中的至少两个相机模块(例如,1100a和1100b)可以具有不同的视场。在这种情况下,多个相机模块1100a、1100b和1100c当中的至少两个相机模块(例如,1100a和1100b)可以包括不同的光学透镜,但不限于此。
另外,在一些示例实施例中,多个相机模块1100a、1100b和1100c的视场可以是不同的。在这种情况下,多个相机模块1100a、1100b和1100c可以包括不同的光学透镜,但不限于此。
在一些示例实施例中,多个相机模块1100a、1100b和1100c可以被设置为彼此物理上分离。也就是说,多个相机模块1100a、1100b和1100c可以不使用一个图像传感器1142的感测区域,而是多个相机模块1100a、1100b和1100c可以分别在其中包括独立图像传感器1142。
返回到图11,应用处理器1200可以包括图像处理装置1210、存储器控制器1220和内部存储器1230。可以将应用处理器1200实现为与多个相机模块1100a、1100b和1100c分离。例如,应用处理器1200以及多个相机模块1100a、1100b和1100c可以通过单独的半导体芯片实现。
图像处理装置1210可以包括多个子图像处理器1212a、1212b和1212c、图像生成器1214以及相机模块控制器1216。
图像处理装置1210可以包括多个子图像处理器1212a、1212b和1212c,其数目对应于多个相机模块1100a、1100b和1100c的数目。
分别从相机模块1100a、1100b和1100c生成的图像数据可以通过分离的图像信号线ISLa、ISLb和ISLc被分别提供给所对应的子图像处理器1212a、1212b和1212c。例如,从相机模块1100a生成的图像数据可以通过图像信号线ISLa被提供给子图像处理器1212a,从相机模块1100b生成的图像数据可以通过图像信号线ISLb被提供给子图像处理器1212b,而从相机模块1100c生成的图像数据可以通过图像信号线ISLc被提供给子图像处理器1212c。可以例如通过使用基于MIPI(移动工业处理器接口)的相机串行接口(CSI)来执行这种图像数据传输,但是本公开不限于此。
同时,在一些示例实施例中,一个子图像处理器可以被设置为对应于多个相机模块。例如,子图像处理器1212a和子图像处理器1212c可以被一体地实现,而不是如图12所示的那样彼此分离;在这种情况下,可以通过选择元件(例如,复用器)来选择分别从相机模块1100a和相机模块1100c提供的多条图像数据之一,并且可以将所选择的图像数据提供给集成的子图像处理器。
例如,子图像处理器1212a、1212b和1212c中的每一者可以取决于与高转换增益相对应的图像数据的动态范围而标称化与低转换增益相对应的图像数据的亮度值,并且可以通过混合标称化的图像数据和与高转换增益相对应的图像数据来执行使用双转换增益的噪声降低。
可以将分别提供给子图像处理器1212a、1212b和1212c的图像数据提供给图像生成器1214。图像生成器1214可以取决于图像生成信息或模式信号而通过使用分别从子图像处理器1212a、1212b和1212c提供的图像数据来生成输出图像。
详细地,图像生成器1214可以取决于图像生成信息或模式信号而通过合并分别从具有不同视场的相机模块1100a、1100b和1100c生成的图像数据的至少一部分来生成输出图像。另外,图像生成器1214可以取决于图像生成信息或模式信号而通过选择分别从具有不同视场的相机模块1100a、1100b和1100c生成的图像数据之一来生成输出图像。
在一些示例实施例中,图像生成信息可以包括变焦信号或变焦因子。另外,在一些示例实施例中,模式信号可以是例如基于从用户选择的模式的信号。
在图像生成信息是变焦信号(或变焦因子)并且相机模块1100a、1100b和1100c具有不同可视视场的情况下,图像生成器1214可以取决于变焦信号的种类而执行不同操作。例如,在变焦信号是第一信号的情况下,图像生成器1214可以合并从相机模块1100a输出的图像数据和从相机模块1100c输出的图像数据并且可以通过使用经合并后的图像数据和在合并操作中不使用的从相机模块1100b输出的图像数据来生成输出图像。在变焦信号是与第一信号不同的第二信号的情况下,在没有图像数据合并操作的情况下,图像生成器1214可以选择分别从相机模块1100a、1100b和1100c输出的图像数据中的一者并且可以将所选择的图像数据作为输出图像输出。然而,本公开不限于此,并且必要时,可以修改处理图像数据的方式而不受限制。
在一些示例实施例中,图像生成器1214可以通过从多个子图像处理器1212a、1212b和1212c中的至少一者接收不同曝光时间的多个图像数据并且对多个图像数据执行高动态范围(HDR)处理来生成具有增加的动态范围的合并后的图像数据。另外,图像生成器1214可以从多个子图像处理器1212a、1212b和1212c中的至少一个子图像处理器当中接收经历使用双转换增益的噪声降低的图像数据。
相机模块控制器1216可以分别向相机模块1100a、1100b和1100c提供控制信号。从相机模块控制器1216生成的控制信号可以通过彼此分离的控制信号线CSLa、CSLb和CSLc被分别提供给所对应的相机模块1100a、1100b和1100c。
多个相机模块1100a、1100b和1100c中的一者可以取决于包括变焦信号的图像生成信息或模式信号而被指定为主相机(例如,1100b),而剩余相机模块(例如,1100a和1100c)可以被指定为从相机。上述指定信息可以被包括在控制信号中,并且包括指定信息的控制信号可以通过彼此分离的控制信号线CSLa、CSLb和CSLc被分别提供给所对应的相机模块1100a、1100b和1100c。
可以取决于变焦因子或操作模式信号而改变作为主设备和从设备操作的相机模块。例如,在相机模块1100a的视场比相机模块1100b的视场宽并且变焦因子指示低变焦比的情况下,相机模块1100b可以作为主设备操作,而相机模块1100a可以作为从设备操作。相反,在变焦因子指示高变焦比的情况下,相机模块1100a可以作为主设备操作,而相机模块1100b可以作为从设备操作。
在一些示例实施例中,从相机模块控制器1216提供给相机模块1100a、1100b和1100c中的每一者的控制信号可以包括同步使能信号。例如,在相机模块1100b被用作主相机而相机模块1100a和1100c被用作从相机的情况下,相机模块控制器1216可以将同步使能信号传送到相机模块1100b。被提供有同步使能信号的相机模块1100b可以基于所提供的同步使能信号生成同步信号,并且可以通过同步信号线SSL将所生成的同步信号提供给相机模块1100a和1100c。相机模块1100b以及相机模块1100a和1100c可以通过同步信号被同步以向应用处理器1200传送图像数据。
在一些示例实施例中,从相机模块控制器1216提供给相机模块1100a、1100b和1100c中的每一者的控制信号可以包括根据模式信号的模式信息。基于模式信息,多个相机模块1100a、1100b和1100c可以关于感测速度在第一操作模式和第二操作模式下操作。
在第一操作模式下,多个相机模块1100a、1100b和1100c可以以第一速度生成图像信号(例如,可以以第一帧速率生成图像信号),可以以第二速度对图像信号进行编码(例如,可以以高于第一帧速率的第二帧速率对图像信号进行编码),并且将经编码的图像信号传送到应用处理器1200。在这种情况下,第二速度可以是第一速度的30倍或更少。
应用处理器1200可以将所接收到的图像信号即经编码的图像信号存储在其中提供的内部存储器1230或放置在应用处理器1200外部的外部存储器1400中。此后,应用处理器1200可以从内部存储器1230或外部存储器1400读取经编码的图像信号并且对其进行解码,并且可以显示基于经解码的图像信号而生成的图像数据。例如,图像处理装置1210的子图像处理器1212a、1212b和1212c当中的对应一者可以执行解码并且还可以对经解码的图像信号执行图像处理。
在第二操作模式下,多个相机模块1100a、1100b和1100c可以以第三速度生成图像信号(例如,可以生成低于第一帧速率的第三帧速率的图像信号),并且将图像信号传送到应用处理器1200。提供给应用处理器1200的图像信号可以是未被编码的信号。应用处理器1200可以对所接收到的图像信号执行图像处理或者可以将图像信号存储在内部存储器1230或外部存储器1400中。
PMIC 1300可以分别向多个相机模块1100a、1100b和1100c供应电力,例如电源电压。例如,在应用处理器1200的控制下,PMIC 1300可以通过电力信号线PSLa向相机模块1100a供应第一电力,可以通过电力信号线PSLb向相机模块1100b供应第二电力,并且可以通过电力信号线PSLc向相机模块1100c供应第三电力。
响应于来自应用处理器1200的功率控制信号PCON,PMIC 1300可以生成与多个相机模块1100a、1100b和1100c中的每一个相机模块相对应的功率并且可以调整功率的电平。功率控制信号PCON可以包括针对多个相机模块1100a、1100b和1100c的每种操作模式的功率调整信号。例如,操作模式可以包括低功率模式。在这种情况下,功率控制信号PCON可以包括关于在低功率模式下操作的相机模块的信息和设置功率电平。分别提供给多个相机模块1100a、1100b和1100c的功率的电平可以彼此相同或者可以彼此不同。另外,可以动态地改变功率的电平。
根据本公开的一些示例实施例,可以改进图像传感器的信噪比。特别地,根据本公开的一些示例实施例,可以在视频拍摄模式下有效地降低输出信号的噪声。
虽然已经参考本公开的一些示例实施例描述了本公开,但是对本领域的普通技术人员而言将显而易见的是,在不脱离如所附权利要求中阐述的本公开的精神和范围的情况下,可以对本公开做出各种改变和修改。

Claims (20)

1.一种图像处理装置,所述图像处理装置包括:
图像传感器,所述图像传感器包括像素阵列,所述像素阵列被配置为:
从共享浮置扩散区的像素生成与第一转换增益相对应的第一像素信号,并且生成与第二转换增益相对应的第二像素信号,并且
所述图像传感器被配置为分别基于所述第一像素信号和所述第二像素信号生成第一图像数据和第二图像数据;以及
图像信号处理器,所述图像信号处理器被配置为基于所述第一图像数据和所述第二图像数据生成输出图像,所述图像信号处理器包括:
标称化电路,所述标称化电路被配置为基于所述第二图像数据的动态范围标称化所述第一图像数据以生成第三图像数据;以及
混合电路,所述混合电路被配置为基于所述第二图像数据和所述第三图像数据生成所述输出图像。
2.根据权利要求1所述的图像处理装置,其中,
所述第一像素信号对应于存储在具有第一电容值的所述浮置扩散区的电荷,并且
所述第二像素信号对应于存储在具有第二电容值的所述浮置扩散区的电荷。
3.根据权利要求2所述的图像处理装置,其中,所述像素阵列包括与所述浮置扩散区连接以使得所述浮置扩散区具有所述第二电容值的电容器。
4.根据权利要求1所述的图像处理装置,其中,所述混合电路被配置为:
向所述第三图像数据分配第一权重,并且
向所述第二图像数据分配第二权重。
5.根据权利要求4所述的图像处理装置,其中,所述第一权重和所述第二权重中的每一者具有介于“0”与“1”之间的值,并且所述第一权重与所述第二权重之和是“1”。
6.根据权利要求1所述的图像处理装置,其中,所述像素阵列的像素包括基于第一曝光时间控制的第一像素和基于第二曝光时间控制的第二像素,并且
其中,基于所述第一像素的数目和所述第二像素的数目相等,所述混合电路被配置为基于所述第二图像数据和所述第三图像数据生成所述输出图像。
7.一种电子装置,所述电子装置包括:
透镜,所述透镜被配置为接收从对象反射的光;
图像传感器,所述图像传感器包括像素阵列,所述像素阵列被配置为:
从共享浮置扩散区的像素生成与第一转换增益相对应的第一像素信号和与第二转换增益相对应的第二像素信号,并且
所述图像传感器被配置为从所述透镜接收光并且分别基于所述第一像素信号和所述第二像素信号生成第一图像数据和第二图像数据;
图像信号处理器,所述图像信号处理器被配置为基于所述第一图像数据和所述第二图像数据生成输出图像;以及
主处理器,所述主处理器被配置为基于所述输出图像生成视频流,
所述图像信号处理器包括:
标称化电路,所述标称化电路被配置为基于所述第二图像数据的动态范围标称化所述第一图像数据以生成第三图像数据;以及
混合电路,所述混合电路被配置为基于所述第二图像数据和所述第三图像数据生成所述输出图像。
8.根据权利要求7所述的电子装置,其中,
所述第一像素信号对应于存储在具有第一电容值的所述浮置扩散区的电荷,并且
所述第二像素信号对应于存储在具有第二电容值的所述浮置扩散区的电荷。
9.根据权利要求8所述的电子装置,其中,所述像素阵列包括与所述浮置扩散区连接使得所述浮置扩散区具有所述第二电容值的电容器。
10.根据权利要求7所述的电子装置,其中,所述混合电路被配置为向所述第三图像数据分配第一权重并且向所述第二图像数据分配第二权重。
11.根据权利要求10所述的电子装置,其中,所述第一权重和所述第二权重中的每一者具有介于“0”与“1”之间的值,并且所述第一权重与所述第二权重之和是“1”。
12.根据权利要求7所述的电子装置,其中,所述主处理器进一步被配置为基于所述对象的环境照度或者基于接收到用户输入来确定要激活所述混合电路的操作。
13.根据权利要求7所述的电子装置,其中,所述主处理器还被配置为将所述视频流作为噪声降低的预览图像输出到所述电子装置的显示装置。
14.根据权利要求7所述的电子装置,其中,
所述像素阵列的像素包括基于第一曝光时间控制的第一像素和基于第二曝光时间控制的第二像素,并且
基于所述第一像素的数目和所述第二像素的数目相等,所述混合电路被配置为基于所述第二图像数据和所述第三图像数据生成所述输出图像。
15.一种用于噪声降低的装置的操作方法,所述方法包括:
生成与第一转换增益相对应的第一图像数据和与第二转换增益相对应的第二图像数据;
基于所述第二图像数据的动态范围标称化所述第一图像数据以生成第三图像数据;
基于所述第二图像数据和所述第三图像数据生成输出图像;以及
基于所述输出图像生成视频流。
16.根据权利要求15所述的方法,其中,所述第一转换增益小于所述第二转换增益。
17.根据权利要求15所述的方法,其中,所述生成所述输出图像包括:
分别向所述第三图像数据和所述第二图像数据分配第一权重和第二权重。
18.根据权利要求17所述的方法,其中,所述第一权重和所述第二权重中的每一者具有介于“0”与“1”之间的值,并且所述第一权重与所述第二权重之和是“1”。
19.根据权利要求15所述的方法,所述方法还包括:
基于与所述第一图像数据和所述第二图像数据相对应的对象的环境照度,确定要执行所述第三图像数据的生成和所述输出图像的生成。
20.根据权利要求15所述的方法,所述方法还包括:
将所述视频流作为噪声降低的预览图像输出到显示装置。
CN202210388944.5A 2021-06-25 2022-04-13 图像处理装置、电子装置以及用于噪声降低的装置的操作方法 Pending CN115529427A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210083080A KR20230000673A (ko) 2021-06-25 2021-06-25 듀얼 컨버전 게인을 이용한 노이즈 감소를 위한 이미지 처리 장치 및 그 동작 방법
KR10-2021-0083080 2021-06-25

Publications (1)

Publication Number Publication Date
CN115529427A true CN115529427A (zh) 2022-12-27

Family

ID=84542874

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210388944.5A Pending CN115529427A (zh) 2021-06-25 2022-04-13 图像处理装置、电子装置以及用于噪声降低的装置的操作方法

Country Status (3)

Country Link
US (1) US11722795B2 (zh)
KR (1) KR20230000673A (zh)
CN (1) CN115529427A (zh)

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7075049B2 (en) 2003-06-11 2006-07-11 Micron Technology, Inc. Dual conversion gain imagers
US11282891B2 (en) * 2003-11-26 2022-03-22 Samsung Electronics Co., Ltd. Image sensor with a gated storage node linked to transfer gate
US9402039B2 (en) 2014-01-10 2016-07-26 Omnivision Technologies, Inc. Dual conversion gain high dynamic range sensor
US11614322B2 (en) 2014-11-04 2023-03-28 Pixart Imaging Inc. Camera having two exposure modes and imaging system using the same
US10326908B2 (en) 2015-03-16 2019-06-18 Mitsubishi Electric Corporation Image reading apparatus and image reading method
WO2016197010A1 (en) * 2015-06-05 2016-12-08 Flir Systems, Inc. Systems and methods for enhanced dynamic range infrared imaging
CN110036630B (zh) 2016-12-08 2021-08-20 新唐科技日本株式会社 固体摄像装置以及摄像装置、输送设备的反射镜
JP2020043391A (ja) 2018-09-06 2020-03-19 キヤノン株式会社 撮像装置およびその制御方法
JP2020115604A (ja) 2019-01-17 2020-07-30 キヤノン株式会社 撮像装置およびその制御方法
JP7353783B2 (ja) 2019-04-16 2023-10-02 キヤノン株式会社 撮像装置とその制御方法及び撮像素子とその制御方法

Also Published As

Publication number Publication date
US20220417457A1 (en) 2022-12-29
US11722795B2 (en) 2023-08-08
KR20230000673A (ko) 2023-01-03

Similar Documents

Publication Publication Date Title
US11825227B2 (en) CDS circuit, operating method thereof, and image sensor including CDS circuit
US11950011B2 (en) Image sensor
KR20220098587A (ko) 이미지 센서, 픽셀 및 픽셀의 동작 방법
US11750942B2 (en) Image sensor, an imaging device and a method of operating the same
CN115037890A (zh) 图像传感器
US20220334357A1 (en) Image sensor for zoom processing and electronic device including the same
US20220116557A1 (en) Pixel array and image sensor including the same
CN115529427A (zh) 图像处理装置、电子装置以及用于噪声降低的装置的操作方法
US20240040281A1 (en) Image sensor, operating method of the same, and pixel including plurality of photodiodes
US20220408038A1 (en) Image sensing device
US20230154945A1 (en) Image sensor
US20240098387A1 (en) Image sensor, mobile device, and image sensor operation method for reducing data transmission latency
US20230023853A1 (en) Image sensor, image processing apparatus, and image processing method
US20230011310A1 (en) Image sensor including pixel array
US20230011827A1 (en) Image sensor using transfer gate signal having three voltage levels, and method of operating the same
US20230269501A1 (en) Image sensor, image sensing system, and image sensing method
US20230008501A1 (en) Image sensor and operating method thereof
US20220201237A1 (en) Image sensor, image sensing device including same, and operating method
CN115278129A (zh) 使用输出信号反馈的模数转换电路及其操作方法
TW202408215A (zh) 執行選擇性多重採樣的影像感測器及其操作方法
KR20220148697A (ko) 출력 신호 피드백을 이용하는 아날로그 디지털 변환 회로 및 그것의 동작 방법
TW202329678A (zh) 影像感測器以及其操作方法
CN114390192A (zh) 用于提高图像分辨率的装置及其操作方法
KR20220047140A (ko) 픽셀 어레이 및 이를 포함하는 이미지 센서
KR20220144014A (ko) 카메라 모듈 및 카메라 모듈의 동작 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination