CN111225135B - 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 - Google Patents
图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 Download PDFInfo
- Publication number
- CN111225135B CN111225135B CN202010060363.XA CN202010060363A CN111225135B CN 111225135 B CN111225135 B CN 111225135B CN 202010060363 A CN202010060363 A CN 202010060363A CN 111225135 B CN111225135 B CN 111225135B
- Authority
- CN
- China
- Prior art keywords
- pixel
- signal
- value
- signals
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/46—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
本申请公开了一种图像传感器、成像装置、电子设备、图像处理系统及信号处理方法。图像传感器用于:生成纹理图像信号,纹理图像信号中的多个纹理像素信号均具有第一颜色通道的值;处理纹理图像信号以获取目标纹理方向,目标纹理方向用于指示图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。本申请实施方式的图像传感器、成像装置、电子设备、图像处理系统及信号处理方法基于目标纹理方向指示的插值方向对中间图像信号中的像素信号进行插值,中间图像信号中像素信号的插值更为准确,最终获得的彩色图像的色彩还原效果更好,彩色图像中的纹理与拍摄场景的纹理的一致性更高。
Description
优先权信息
本申请请求2019年3月7日向中国国家知识产权局提交的专利申请号为PCT/CN2019/077338的专利申请的优先权和权益,并且通过参照将其全文并入此处。
技术领域
本申请涉及影像技术领域,特别涉及一种图像传感器、成像装置、电子设备、图像处理系统及信号处理方法。
背景技术
为了实现彩色图像的采集,图像传感器中通常会设置以拜耳(Bayer)阵列形式排布的滤光片阵列,以使得图像传感器中的多个像素能够接收穿过对应的滤光片的光线,从而生成具有不同色彩通道的像素信号。其中,每个像素仅能输出一种颜色通道的值的像素信号,其余颜色通道的值的像素信号需要通过插值来获取。然而,采用现有插值算法计算的像素的其余颜色通道的值的准确度不高,导致色彩还原不够准确。
发明内容
本申请实施方式提供了一种图像传感器。所述图像传感器用于:生成纹理图像信号,所述纹理图像信号中的多个纹理像素信号均具有第一颜色通道的值;处理所述纹理图像信号以获取目标纹理方向,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
本申请实施方式的成像装置包括图像传感器。所述图像传感器用于:生成纹理图像信号,所述纹理图像信号中的多个纹理像素信号均具有第一颜色通道的值;处理所述纹理图像信号以获取目标纹理方向,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
本申请实施方式的电子设备包括成像装置。所述成像装置包括图像传感器。所述图像传感器用于:生成纹理图像信号,所述纹理图像信号中的多个纹理像素信号均具有第一颜色通道的值;处理所述纹理图像信号以获取目标纹理方向,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
本申请实施方式的图像处理系统包括电子设备。所述电子设备包括成像装置。所述成像装置包括图像传感器。所述图像传感器用于:生成纹理图像信号,所述纹理图像信号中的多个纹理像素信号均具有第一颜色通道的值;处理所述纹理图像信号以获取目标纹理方向,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
本申请实施方式的信号处理方法用于图像传感器。所述信号处理方法包括:生成纹理图像信号,所述纹理图像信号中的多个纹理像素信号均具有第一颜色通道的值;处理所述纹理图像信号以获取目标纹理方向,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
本申请实施方式的图像传感器、成像装置、电子设备、图像处理系统及信号处理方法基于目标纹理方向指示的插值方向对中间图像信号中的像素信号进行插值,中间图像信号中像素信号的插值更为准确,最终获得的彩色图像的色彩还原效果更好,彩色图像中的纹理与拍摄场景的纹理的一致性更高。
本申请实施方式的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。
附图说明
本申请的上述和/或附加的方面和优点可以从结合下面附图对实施方式的描述中将变得明显和容易理解,其中:
图1和图2是本申请某些实施方式的图像传感器的部分结构示意图;
图3至图6是图1或图2所示图像传感器中部分滤光片的排布示意图;
图7至图13是本申请某些实施方式的图像传感器的工作原理示意图;
图14是本申请某些实施方式的成像装置的示意图;
图15是本申请某些实施方式的电子设备的示意图;
图16是本申请某些实施方式的图像处理系统的示意图;
图17是本申请某些实施方式的信号处理方法的流程示意图;
图18是本申请某些实施方式的计算机设备中的图像处理电路的示意图。
具体实施方式
下面详细描述本申请的实施方式,所述实施方式的示例在附图中示出,其中,相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的,仅用于解释本申请的实施方式,而不能理解为对本申请的实施方式的限制。
请参阅图8及图14,本申请提供一种图像传感器。图像传感器用于生成纹理图像信号及处理纹理图像信号以获取目标纹理方向。其中,纹理图像信号中的多个纹理像素信号均具有第一颜色通道的值。目标纹理方向用于指示图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
下面结合附图对本申请的图像传感器作进一步说明。
在一个例子中,如图1和图3所示,图像传感器10包括滤光片阵列11及像素阵列12。滤光片阵列11包括多个第一滤光片组111和多个第二滤光片组112。第一滤光片组111包括数量相同的多个第一颜色滤光片A和多个第二颜色滤光片B。第二滤光片组112包括数量相同的多个第一颜色滤光片A和多个第三颜色滤光片C。像素阵列12包括多个像素120,每个像素120对应滤光片阵列11的一个滤光片110。像素120用于接收穿过对应的滤光片110的光线以生成电信号。图像传感器10用于将第一滤光片组111对应的像素120产生的电信号合并生成第一像素信号和第三像素信号,第一像素信号用于表征作用于第一滤光片组111对应像素120的光线的第一颜色通道的值,第三像素信号用于表征作用于第一滤光片组111对应像素120的光线的第二颜色通道的值。图像传感器10用于将第二滤光片组112对应的像素产生的电信号合并生成第二像素信号和第四像素信号,第二像素信号用于表征作用于第二滤光片组112对应像素120的光线的第一颜色通道的值,第四像素信号用于表征作用于第二滤光片组112对应像素120的光线的第三颜色通道的值。
具体地,请参阅图1和图2,图像传感器10包括微透镜阵列13、滤光片阵列11、及像素阵列12。沿图像传感器10的收光方向,微透镜阵列13、滤光片阵列11、及像素阵列12依次设置。
滤光片阵列11包括多个第一滤光片组111和多个第二滤光片组112。第一滤光片组111包括数量相同的多个第一颜色滤光片A和多个第二颜色滤光片B。第二滤光片组112包括数量相同的多个第一颜色滤光片A和多个第三颜色滤光片C。
像素阵列12包括多个像素120,每个像素120对应滤光片阵列11的一个滤光片110,像素120用于接收穿过对应的滤光片110的光线以生成电信号。
微透镜阵列13包括多个微透镜组131。微透镜阵列13中的一个微透镜组131对应一个滤光片组113(第一滤光片组111或第二滤光片组112),并与该一个滤光片组113对应的多个像素120对应。在一个例子中,如图1所示,每个微透镜组131均包括多个微透镜130,每个微透镜130对应一个滤光片110及一个像素120。在另一个例子中,如图2所示,每个微透镜组131均包括一个微透镜130,每个微透镜130对应一个滤光片组113,并与该一个滤光片组113对应的多个像素120对应。
图3至图6是本申请多个实施例的滤光片阵列11中部分滤光片110的排布示意图。图3至图6所示的滤光片阵列11中,每个滤光片阵列11均包括多个第一滤光片组111和多个第二滤光片组112。每个第一滤光片组111包括数量相同的多个第一颜色滤光片A和多个第二颜色滤光片B。每个第二滤光片组112包括数量相同的多个第一颜色滤光片A和多个第三颜色滤光片C。
其中,第一颜色滤光片A、第二颜色滤光片B、第三颜色滤光片C的颜色组成方式可以有多种。例如第一颜色滤光片A可以为绿色滤光片G,第二颜色滤光片B可以为红色滤光片R,第三颜色滤光片C可以为蓝色滤光片Bu;再例如,第一颜色滤光片A可以为黄色滤光片Y,第二颜色滤光片B可以为红色滤光片R,第三颜色滤光片C可以为蓝色滤光片Bu。第一颜色滤光片A、第二颜色滤光片B、第三颜色滤光片C的颜色组成方式不限于上述两个示例所示的组成方式。
其中,多个第一滤光片组111可以设置在第一对角线方向D1,多个第二滤光片组112可以设置在第二对角线方向D2,第一对角线方向D1与第二对角线方向D2不同。在一个例子中,当多个第一滤光片组111设置在第一对角线方向D1,多个第二滤光片组112设置在第二对角线方向D2时,第一滤光片组111与第二滤光片组112可以在图像传感器10的垂直方向V和水平方向H相邻布置。
其中,第一滤光片组111中的滤光片110的数量均为N*N,第二滤光片组112中的滤光片110的数量均为N*N,其中,N为大于或等于2的整数。示例地,N的取值可以为2、3、4、5、6、7、8、9、10、15、20等等,在此不作限制。
其中,每个第一滤光片组111中的多个滤光片110的排布方式可以是:(1)请参阅图3,多个第一颜色滤光片A及多个第二颜色滤光片B在图像传感器10(图1所示)的垂直方向V和水平方向H相邻布置;(2)请参阅图4,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同;(3)请参阅图5,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同。当然,每个第一滤光片组111中多个滤光片110的排布方式并不限于此。
其中,每个第二滤光片组112中的多个滤光片110的排布方式可以是:(1)请参阅图3,多个第一颜色滤光片A及多个第三颜色滤光片C在图像传感器10(图1所示)的垂直方向V和水平方向H相邻布置;(2)请参阅图4,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同;(3)请参阅图5,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同。当然,每个第二滤光片组112中多个滤光片110的排布方式并不限于此。
图3是本申请一个实施例的滤光片阵列11中部分滤光片110的排布示意图。图3所示的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。请参阅图3,部分滤光片110的排布方式为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为2*2,每个第二滤光片组112中的滤光片110的数量均为2*2。
如图3所示,多个第一滤光片组111设置在第一对角线方向D1(例如图3中滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如图3中滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
需要说明的是,第一对角线方向D1和第二对角线方向D2并不局限于对角线,还包括平行于对角线的方向。这里的“方向”并非单一指向,可以理解为指示排布的“直线”的概念,可以有直线两端的双向指向。此外,在其他实施例中,第一对角线方向D1也可以是滤光片阵列11的左下角与右上角连接的方向,第二对角线方向D2也可以是滤光片阵列11的左上角与右下角连接的方向,此时,第一滤光片组111及第二滤光片组112的位置对应对角线方向的变换做变换。
如图3所示,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列(从上至下来看,下同),多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列(从左至右来看,下同)。
如图3所示,在第一滤光片组111中,多个第一颜色滤光片A及多个第二颜色滤光片B在垂直方向V和水平方向H上相邻布置。也即,在垂直方向V上,第一颜色滤光片A和第二颜色滤光片B交替排列,且在水平方向H上,第一颜色滤光片A和第二颜色滤光片B交替排列。在第二滤光片组112中,多个第一颜色滤光片A及多个第三颜色滤光片C在垂直方向V和水平方向H上相邻布置。也即,在垂直方向V上,第一颜色滤光片A和第三颜色滤光片C交替排列,且在水平方向H上,第一颜色滤光片A和第三颜色滤光片C交替排列。
在某些实施方式中,滤光片阵列11中部分滤光片110的排布方式还可以为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为3*3,每个第二滤光片组112中的滤光片110的数量均为3*3。将此排布方式的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。
在此排布方式下,多个第一滤光片组111设置在第一对角线方向D1(例如滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
在此排布方式下,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
在此排布方式下,在第一滤光片组111中,多个第一颜色滤光片A及多个第二颜色滤光片B在垂直方向V和水平方向H上相邻布置。也即,在垂直方向V上,第一颜色滤光片A和第二颜色滤光片B交替排列,且在水平方向H上,第一颜色滤光片A和第二颜色滤光片B交替排列。在第二滤光片组112中,多个第一颜色滤光片A及多个第三颜色滤光片C在垂直方向V和水平方向H上相邻布置。也即,在垂直方向V上,第一颜色滤光片A和第三颜色滤光片C交替排列,且在水平方向H上,第一颜色滤光片A和第三颜色滤光片C交替排列。
在某些实施方式中,滤光片阵列11中部分滤光片110的排布方式还可以为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为4*4,每个第二滤光片组112中的滤光片110的数量均为4*4。将此排布方式的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。
在此排布方式下,多个第一滤光片组111设置在第一对角线方向D1(例如滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
在此排布方式下,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
在此排布方式下,在第一滤光片组111中,多个第一颜色滤光片A及多个第二颜色滤光片B在垂直方向V和水平方向H上相邻布置。也即,在垂直方向V上,第一颜色滤光片A和第二颜色滤光片B交替排列,且在水平方向H上,第一颜色滤光片A和第二颜色滤光片B交替排列。在第二滤光片组112中,多个第一颜色滤光片A及多个第三颜色滤光片C在垂直方向V和水平方向H上相邻布置。也即,在垂直方向V上,第一颜色滤光片A和第三颜色滤光片C交替排列,且在水平方向H上,第一颜色滤光片A和第三颜色滤光片C交替排列。
图4是本申请又一个实施例的滤光片阵列11中部分滤光片110的排布示意图。图4所示的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。请参阅图4,部分滤光片110的排布方式为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为2*2,每个第二滤光片组112中的滤光片110的数量均为2*2。
如图4所示,多个第一滤光片组111设置在第一对角线方向D1(例如图4中滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如图4中滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
如图4所示,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
如图4所示,在第一滤光片组111中,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同,例如,第一行的多个滤光片110均为第一颜色滤光片A,第二行的多个滤光片110均为第二颜色滤光片B。在第二滤光片组112中,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同,例如,第一行的多个滤光片110均为第一颜色滤光片A,第二行的多个滤光片110均为第三颜色滤光片C。
在某些实施方式中,滤光片阵列11中部分滤光片110的排布方式还可以为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为3*3,每个第二滤光片组112中的滤光片110的数量均为3*3。将此排布方式的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。
在此排布方式下,多个第一滤光片组111设置在第一对角线方向D1(例如滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
在此排布方式下,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
在此排布方式下,在第一滤光片组111中,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同,例如,第一行的多个滤光片110均为第一颜色滤光片A,第二行的多个滤光片110均为第二颜色滤光片B,第三行的多个滤光片110均为第一颜色滤光片A。在第二滤光片组112中,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同,例如,第一行的多个滤光片110均为第一颜色滤光片A,第二行的多个滤光片110均为第三颜色滤光片C,第三行的多个滤光片110均为第一颜色滤光片A。
在某些实施方式中,滤光片阵列11中部分滤光片110的的排布方式还可以为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为4*4,每个第二滤光片组112中的滤光片110的数量均为4*4。将此排布方式的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。
在此排布方式下,多个第一滤光片组111设置在第一对角线方向D1(例如滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
在此排布方式下,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
在此排布方式下,在第一滤光片组111中,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同,例如,第一行的多个滤光片110均为第一颜色滤光片A,第二行的多个滤光片110均为第二颜色滤光片B,第三行的多个滤光片110均为第一颜色滤光片A,第四行的多个滤光片110均为第二颜色滤光片B。在第二滤光片组112中,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同,例如,第一行的多个滤光片110均为第一颜色滤光片A,第二行的多个滤光片110均为第三颜色滤光片C,第三行的多个滤光片110均为第一颜色滤光片A,第四行的多个滤光片110均为第三颜色滤光片C。
图5是本申请又一个实施例的滤光片阵列11中部分滤光片110的排布示意图。图5所示的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。请参阅图5,部分滤光片110的排布方式为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为2*2,每个第二滤光片组112中的滤光片110的数量均为2*2。
如图5所示,多个第一滤光片组111设置在第一对角线方向D1(例如图5中滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如图5中滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
如图5所示,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
如图5所示,在第一滤光片组111中,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同,例如,第一列的多个滤光片110均为第一颜色滤光片A,第二列的多个滤光片110均为第二颜色滤光片B。在第二滤光片组112中,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同,例如,第一列的多个滤光片110均为第一颜色滤光片A,第二列的多个滤光片110均为第三颜色滤光片C。
在某些实施方式中,滤光片阵列11中部分滤光片110的排布方式还可以为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为3*3,每个第二滤光片组112中的滤光片110的数量均为3*3。将此排布方式的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。
在此排布方式下,多个第一滤光片组111设置在第一对角线方向D1(例如中滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
在此排布方式下,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
在此排布方式下,在第一滤光片组111中,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同,例如,第一列的多个滤光片110均为第一颜色滤光片A,第二列的多个滤光片110均为第二颜色滤光片B,第三列的多个滤光片110均为第一颜色滤光片A。在第二滤光片组112中,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同,例如,第一列的多个滤光片110均为第一颜色滤光片A,第二列的多个滤光片110均为第三颜色滤光片C,第三列的多个滤光片110均为第一颜色滤光片A。
在某些实施方式中,滤光片阵列11中部分滤光片110的排布方式还可以为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为4*4,每个第二滤光片组112中的滤光片110的数量均为4*4。将此排布方式的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。
在此排布方式下,多个第一滤光片组111设置在第一对角线方向D1(例如滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
在此排布方式下,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
在此排布方式下,在第一滤光片组111中,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同,例如,第一列的多个滤光片110均为第一颜色滤光片A,第二列的多个滤光片110均为第二颜色滤光片B,第三列的多个滤光片110均为第一颜色滤光片A,第四列的多个滤光片110均为第二颜色滤光片B。在第二滤光片组112中,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同,例如,第一列的多个滤光片110均为第一颜色滤光片A,第二列的多个滤光片110均为第三颜色滤光片C,第三列的多个滤光片110均为第一颜色滤光片A,第四列的多个滤光片110均为第三颜色滤光片C。
图6是本申请又一个实施例的滤光片阵列11中部分滤光片110的排布示意图。图6所示的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。请参阅图6,部分滤光片110的排布方式为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为2*2,每个第二滤光片组112中的滤光片110的数量均为2*2。
如图6所示,多个第一滤光片组111设置在第一对角线方向D1(例如图6中滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如图6中滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
如图6所示,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
如图6所示,在第一滤光片组111中,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同,例如,第一列的多个滤光片110均为第一颜色滤光片A,第二列的多个滤光片110均为第二颜色滤光片B。在第二滤光片组112中,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同,例如,第一行的多个滤光片110均为第一颜色滤光片A,第二行的多个滤光片110均为第三颜色滤光片C。
在某些实施方式中,滤光片阵列11中部分滤光片110的排布方式还可以为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为3*3,每个第二滤光片组112中的滤光片110的数量均为3*3。将此排布方式的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。
在此排布方式下,多个第一滤光片组111设置在第一对角线方向D1(例如中滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如中滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
在此排布方式下,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
在此排布方式下,在第一滤光片组111中,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同,例如,第一行的多个滤光片110均为第一颜色滤光片A,第二行的多个滤光片110均为第二颜色滤光片B,第三行的多个滤光片110均为第一颜色滤光片A。在第二滤光片组112中,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同,例如,第一列的多个滤光片110均为第一颜色滤光片A,第二列的多个滤光片110均为第三颜色滤光片C,第三列的多个滤光片110均为第一颜色滤光片A。
在某些实施方式中,滤光片阵列11中部分滤光片110的排布方式还可以为:
其中,A为第一颜色滤光片,B为第二颜色滤光片,C为第三颜色滤光片。每个第一滤光片组111中的滤光片110的数量均为4*4,每个第二滤光片组112中的滤光片110的数量均为4*4。将此排布方式的部分滤光片110在行和列上均多次复制即可形成滤光片阵列11。
在此排布方式下,多个第一滤光片组111设置在第一对角线方向D1(例如滤光片阵列11的左上角与右下角连接的方向),多个第二滤光片组112设置在第二对角线方向D2(例如滤光片阵列11的左下角与右上角连接的方向),第一对角线方向D1与第二对角线方向D2不同,例如,第一对角线方向D1与第二对角线方向D2垂直。
在此排布方式下,第一滤光片组111与第二滤光片组112在图像传感器10(图1所示)的垂直方向V上相邻布置,且在水平方向H上也相邻布置。也即,多个滤光片组113在垂直方向V上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111及第二滤光片组112的顺序或第二滤光片组112及第一滤光片组111的顺序呈周期性排列。
在此排布方式下,在第一滤光片组111中,多个滤光片110逐列排列,且同一列中的多个滤光片110的颜色相同,例如,第一列的多个滤光片110均为第一颜色滤光片A,第二列的多个滤光片110均为第二颜色滤光片B,第三列的多个滤光片110均为第一颜色滤光片A,第四列的多个滤光片110均为第二颜色滤光片B。在第二滤光片组112中,多个滤光片110逐行排列,且同一行中的多个滤光片110的颜色相同,例如,第一行的多个滤光片110均为第一颜色滤光片A,第二行的多个滤光片110均为第三颜色滤光片C,第三行的多个滤光片110均为第一颜色滤光片A,第四行的多个滤光片110均为第三颜色滤光片C。
在另一个例子中,图像传感器包括滤光片阵列及像素阵列。滤光片阵列包括多个滤光片组,每个滤光片组均包括多个第一颜色滤光片。多个滤光片组包括两类。第一类滤光片组还包括多个第二颜色滤光片,第二类滤光片组还包括多个第三颜色滤光片。像素阵列包括多个像素,每个像素对应滤光片阵列的一个滤光片。像素用于接收穿过对应的滤光片的光线以生成电信号。图像传感器工作在合并模式下时,每个第一类滤光片组对应的像素作为一个第一类合并像素,每个第二类滤光片组对应的像素作为一个第二类合并像素。图像传感器用于将第一类合并像素中的像素产生的电信号合并生成第一像素信号,第一像素信号用于表征作用于第一类合并像素中的像素的光线的第一颜色通道的值。图像传感器用于将第二类合并像素中的像素产生的电信号合并生成第二像素信号,第二像素信号用于表征作用于第二类合并像素中的像素的光线的第一颜色通道的值。本实施例的图像传感器中微透镜阵列的结构与图像传感器10(图1或图2所示)中微透镜阵列13(图1或图2所示)的结构相同,滤光片阵列的结构与图像传感器10中滤光片阵列11(图3-6所示)的结构相同,像素阵列的结构与图像传感器10中像素阵列11(图1或图2所示)的结构相同,在此不再赘述。
在又一个例子中,图像传感器包括滤光片阵列及控制电路。滤光片阵列设置在像素阵列上。滤光片阵列包括多个第一滤光片组和多个第二滤光片组。第一滤光片组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光片。第二滤光片组包括数量相同的多个第一颜色滤光片和多个第三颜色滤光片。控制电路设置在具有像素阵列的衬底上。控制电路用于将第一滤光片组对应的像素产生的电信号合并生成第一像素信号和第三像素信号,第一像素信号用于表征作用于第一滤光片组对应像素的光线的第一颜色通道的值,第三像素信号用于表征作用于第一滤光片组对应像素的光线的第二颜色通道的值。控制电路用于将第二滤光片组对应的像素产生的电信号合并生成第二像素信号和第四像素信号,第二像素信号用于表征作用于第二滤光片组对应像素的光线的第一颜色通道的值,第四像素信号用于表征作用于第二滤光片组对应像素的光线的第三颜色通道的值。本实施例的图像传感器中微透镜阵列的结构与图像传感器10(图1或图2所示)中微透镜阵列13(图1所示)的结构相同,滤光片阵列的结构与图像传感器10中滤光片阵列11(图3-6所示)的结构相同,像素阵列的结构与图像传感器10中像素阵列11(图1或图2所示)的结构相同,在此不再赘述。
在再一个例子中,图像传感器包括滤光片阵列及像素阵列。滤光片阵列包括多个第一颜色滤光片、多个第二颜色滤光片、及多个第三颜色滤光片。滤光片以两个第一颜色滤光片、一个第二颜色滤光片、一个第三颜色滤光片为一个单位,且每个单位中的两个第一颜色滤光片不相邻,一个第二颜色滤光片与一个第三颜色滤光片不相邻。在第一方向和第二方向上,多个单位均呈周期性排列,其中,第一方向与第二方向垂直。像素阵列包括多个像素,每个像素对应滤光片阵列的一个滤光片。像素用于接收穿过对应的滤光片的光线以生成电信号。图像传感器用于将位于同一区域的多个第一颜色滤光片对应像素和多个第二颜色滤光片对应像素产生的电信号合并生成第一像素信号和第三像素信号,第一像素信号用于表征作用于第一颜色滤光片对应像素的光线的第一颜色通道的值,第三像素信号用于表征作用于第二颜色滤光片对应像素的光线的第二颜色通道的值。图像传感器用于将位于同一区域的多个第一颜色滤光片对应像素和多个第三颜色滤光片对应像素产生的电信号合并生成第二像素信号和第四像素信号,第二像素信号用于表征作用于第一颜色滤光片对应像素的光线的第一颜色通道的值,第四像素信号用于表征作用于第三颜色滤光片对应像素的光线的第三颜色通道的值。本实施例的图像传感器中微透镜阵列的结构与图像传感器10(图1或图2所示)中微透镜阵列13(图1或图2所示)的结构相同,滤光片阵列的结构与图像传感器10中滤光片阵列11(图3所示)的结构相同,像素阵列的结构与图像传感器10中像素阵列11(图1所示)的结构相同,在此不再赘述。
上述任意一项实施方式所述的图像传感器均可以生成第一像素信号、第二像素信号、第三像素信号、及第四像素信号。下面以图1所示的图像传感器10为例进行说明。
请结合图1至图6,本申请实施方式的图像传感器10中,每一个第一滤光片组111对应的多个像素120产生的电信号均可以合并生成第一像素信号和第三像素信号。每一个第二滤光片组112对应的多个像素120产生的电信号均可以合并生成第二像素信号和第四像素信号。
以图3所示的每个滤光片组113均包括2*2个滤光片110为例,此时每个滤光片组113对应四个像素120。请结合图1、图3和图7,第一滤光片组111对应的四个像素120中,两个像素120能够接收穿过第一颜色滤光片A的光线以生成两个电信号,另外两个像素120能够接收穿过第二颜色滤光片B的光线以生成两个电信号。图像传感器10将接收穿过第一颜色滤光片A的光线的两个像素120生成的电信号合并以得到第一像素信号,并将接收穿过第二颜色滤光片B的光线的两个像素120生成的电信号合并以得到第三像素信号。其中,第一像素信号用于表征作用于第一滤光片组111对应像素120的光线的第一颜色通道的值,第三像素信号用于表征作用于第一滤光片组111对应像素120的光线的第二颜色通道的值。第二滤光片组112对应的四个像素120中,两个像素120能够接收穿过第一颜色滤光片A的光线以生成两个电信号,另外两个像素120能够接收穿过第三颜色滤光片C的光线以生成两个电信号。图像传感器10将接收穿过第一颜色滤光片A的光线的两个像素120生成的电信号合并以得到第二像素信号,将接收穿过第三颜色滤光片C的光线的两个像素120生成的电信号合并以得到第四像素信号。其中,第二像素信号用于表征作用于第二滤光片组112对应像素120的光线的第一颜色通道的值,第四像素信号用于表征作用于第二滤光片组112对应像素120的光线的第三颜色通道的值。由此,每个第一滤光片组111对应的四个像素120可以组成一个第一合并像素,每个第一合并像素均可以生成第一像素信号及第三像素信号。每个第二滤光片组112对应的四个像素120可以组成一个第二合并像素,每个第二合并像素均可以生成第二像素信号及第四像素信号。
由于每个合并像素均可以输出具有第一颜色通道的值的像素信号(第一像素信号或第二像素信号),则多个合并像素输出的多个具有第一颜色通道的值的像素信号可以形成纹理图像信号。纹理图像信号中包括多个纹理像素信号,多个纹理像素信号由多个第一像素信号及多个第二像素信号组成,所有纹理像素信号均具有第一颜色通道的值。图像传感器10(图1所示)可以根据纹理图像信号来获取目标纹理方向。目标纹理方向可以用于指示图像传感器10输出至处理器(图14所示)的中间图像信号中的像素信号的插值方向。其中,目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种。也即是说,目标纹理方向可以是水平方向、垂直方向、对角方向、反对角方向、及平面方向中的任意一种;或者,目标纹理方向也可以是水平方向和垂直方向两种;或者,目标纹理方向也可以是垂直方向、对角方向、及反对角方向三种等。
在处理纹理图像信号以获取目标纹理方向时,图像传感器10首先计算在每个待选纹理方向上两两相邻的纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,其中,待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向。随后,图像传感器10根据多个纹理像素信号差值计算对应的待选纹理方向的特征值。随后,图像传感器10根据多个待选纹理方向的特征值确定对应纹理图像信号的目标纹理方向。需要说明的是,两个纹理像素信号相邻实际上指的是两个纹理像素信号对应的两个像素120(图1所示)相邻,下文描述的相邻的像素信号也指代此种意思,在下文不再对相邻的像素信号进行解释。
在一个例子中,图像传感器10可以将纹理图像信号划分为多个区域纹理信号,其中,每个区域纹理信号包括多个纹理像素信号。对于每个区域纹理信号,图像传感器10计算在每个待选纹理方向上两两相邻的纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值。随后,图像传感器10根据多个纹理像素信号差值计算对应的待选纹理方向的特征值。最后,图像传感器10根据多个待选纹理方向的特征值确定对应的区域纹理信号的目标纹理方向。其中,在根据多个待选纹理方向的特征值确定对应的区域纹理信号的目标纹理方向时,图像传感器10从多个特征值中选取值最大的特征值,并判断最大的特征值与剩余的所有特征值之间的差值是否均大于预定阈值。若最大的特征值与剩余的所有特征值之间的差值均大于预定阈值,则图像传感器10确定最大的特征值对应的待选纹理方向为目标纹理方向。若最大的特征值与剩余的所有特征值之间的差值中存在一个差值小于预定阈值,则图像传感器10确定目标纹理方向为平面方向。
具体地,如图8所示,图像传感器10(图1所示)将纹理图像信号划分为多个区域纹理信号S1。每个区域纹理信号S1中均包括3*3个具有第一颜色通道的值的纹理像素信号。图像传感器10根据每个区域纹理信号S1中的3*3个纹理像素信号计算与对应的区域纹理信号S1对应的目标纹理方向。图像传感器10需要分别计算出每个区域纹理信号S1在各个待选纹理方向上的特征值。具体地,待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向。假设区域纹理信号S1中的3*3个纹理像素信号分别为P00、P01、P02、P10、P11、P12、P20、P21、P22,那么:(1)对于水平方向的特征值Diff_H,图像传感器10计算P00与P01的差值的绝对值、P01与P02的差值的绝对值、P10与P11的差值的绝对值、P11与P12的差值的绝对值、P20与P21的差值的绝对值、P21与P22的差值的绝对值,并计算这六个绝对值的均值,该均值即为水平方向的特征值Diff_H。(2)对于垂直方向的特征值Diff_V,图像传感器10计算P00与P10的差值的绝对值、P10与P20的差值的绝对值、P01与P11的差值的绝对值、P11与P21的差值的绝对值、P02与P12的差值的绝对值、P12与P22的差值的绝对值,并计算这六个绝对值的均值,该均值即为垂直方向的特征值Diff_V。(3)对于对角方向的特征值Diff_D,图像传感器10计算P00与P11的差值的绝对值、P01与P12的差值的绝对值、P10与P21的差值的绝对值、P11与P22的差值的绝对值,并计算这四个绝对值的均值,该均值即为对角方向的特征值Diff_D。(4)对于反对角方向的特征值Diff_AD,图像传感器10计算P01与P10的差值的绝对值、P02与P11的差值的绝对值、P11与P20的差值的绝对值、P12与P21的差值的绝对值,并计算这四个绝对值的均值,该均值即为反对角方向的特征值Diff_AD。在获得四个待选纹理方向的特征值后,图像传感器10可以根据四个特征值来确定出目标纹理方向。示例地,图像传感器10从四个特征值中选取最大的特征值:(1)假设最大的特征值为Diff_H,预定阈值为Diff_PV,若Diff_H-Diff_V≥Diff_PV、Diff_H-Diff_D≥Diff_PV、且Diff_H-Diff_AD≥Diff_PV,则图像传感器10确定目标纹理方向为垂直方向,即当最大的特征值为水平方向的特征值时,与最大特征值对应的待选纹理方向为垂直方向;(2)假设最大的特征值为Diff_V,预定阈值为Diff_PV,若Diff_V-Diff_H≥Diff_PV、Diff_V-Diff_D≥Diff_PV、且Diff_V-Diff_AD≥Diff_PV,则图像传感器10确定目标纹理方向为水平方向,即当最大特征值为垂直方向特征值时,与最大特征值对应的待选纹理方向为水平方向;(3)假设最大的特征值为Diff_D,预定阈值为Diff_PV,若Diff_D-Diff_H≥Diff_PV、Diff_D-Diff_V≥Diff_PV、且Diff_D-Diff_AD≥Diff_PV,则图像传感器10确定目标纹理方向为反对角方向,即当最大特征值为对角方向特征值时,与最大特征值对应的待选纹理方向为反对角方向;(4)假设最大的特征值为Diff_AD,预定阈值为Diff_PV,若Diff_AD-Diff_H≥Diff_PV、Diff_AD-Diff_V≥Diff_PV、且Diff_AD-Diff_D≥Diff_PV,则图像传感器10确定目标纹理方向为对角方向,即当最大特征值为反对角方向特征值时,与最大特征值对应的待选纹理方向为对角方向。无论最大的特征值是哪一个待选纹理方向的特征值,只要该最大的特征值与其余的所有特征值的差值中,存在一个差值小于预定阈值,图像传感器10就确定目标纹理方向为平面方向。区域纹理信号S1的目标纹理方向为平面方向表示区域纹理信号S1对应的拍摄场景可能为纯色场景。需要说明的是,图8所示的区域纹理信号S1仅包括3*3个纹理像素信号,在其他实施例中,区域纹理信号S1也可以包括4*4个纹理像素信号、5*5个纹理像素信号、10*10个纹理像素信号、50*50个纹理像素信号、100*100个纹理像素信号、500*500个纹理像素信号等,在此不作限制。
在另一个例子中,图像传感器10也可以不对纹理图像信号进行区域的划分,此时,整个包括M*N个纹理像素信号的纹理图像信号可以被看作一个包括M*N个区域纹理信号S1。图像传感器10仍旧可以采用前述的目标纹理方向的确定方式来确定出该包括M*N个纹理像素信号的区域纹理信号S1的目标纹理方向。
如此,图像传感器10可以根据多个特征值确定出纹理图像信号的至少一个目标纹理方向。目标纹理方向可以用于指示图像传感器10输出至处理器(图14所示)的中间图像信号中的像素信号的插值方向。如此,中间图像信号中像素信号的插值更为准确,最终获得的彩色图像的色彩还原效果更好,彩色图像中的纹理与拍摄场景的纹理的一致性更高。
图像传感器10可以输出多个第一像素信号、多个第二像素信号、多个第三像素信号、及多个第四像素信号至处理器(图14所示),多个第一像素信号、多个第二像素信号、多个第三像素信号、及多个第四像素信号共同形成中间图像信号,该中间图像信号由处理器进一步处理以生成彩色图像。中间图像信号包括两种类型,一类是包含多个图像信号单元的中间图像信号,另一类是不包括多个图像信号单元的中间图像信号。
请参阅图7、图9和图14,在图像传感器10工作在动态模式(即预览模式/录像模式)下时,图像传感器10传输到处理器的中间图像信号为包括多个图像信号单元的中间图像信号。其中,图像传感器10可以先对多个第一像素信号、多个第二像素信号、多个第三像素信号、及多个第四像素信号进行处理以得到中间图像信号。该中间图像信号包括多个图像信号单元,每个图像信号单元均包括四个像素信号,其中两个像素信号具有第一颜色通道的值,另一个像素信号具有第二颜色通道的值,剩余一个像素信号具有第三颜色通道的值,四个像素信号对应的颜色通道呈拜耳阵列排布。
请参阅图7、图13和图14,在图像传感器10工作在静态模式(即拍摄静态图像的模式)下时,图像传感器10传输到处理器的中间图像信号为不包括多个图像信号单元的中间图像信号。图像传感器10直接将多个第一像素信号、多个第三像素信号、多个第二像素信号、及多个第四像素输出至处理器,由处理器对多个第一像素信号、多个第二像素信号、多个第三像素信号、及多个第四像素信号共同形成的中间图像信号进行处理以生成彩色图像。
下面介绍包括多个图像信号单元的中间图像信号的形成过程。多个第一像素信号及多个第二图像信号可以形成第一原始图像信号,多个第三像素信号可以形成第二原始图像信号,多个第四像素信号可以形成第三原始图像信号。图像传感器10可以根据第一插值策略及第二插值策略对第二原始图像信号做插值处理,以使插值处理后的第二原始图像信号中的每一个像素信号均具有第二颜色通道的值。图像传感器10还可以根据第一插值策略及第二插值策略对第三原始图像信号做插值处理,以使插值处理后的第三原始图像信号中的每一个像素信号均具有第三颜色通道的值。图像传感器10还可以根据第一原始图像信号、插值处理后的第二原始图像信号、插值处理后的第三原始图像信号获取中间图像信号。其中,第一插值策略为根据具有相同颜色通道的值的多个像素信号及目标纹理方向指示的插值方向对对应的原始图像信号做插值处理,第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的原始图像信号做插值处理。第一插值策略和第二插值策略用在第二原始图像信号中时,第一插值策略为根据多个第三像素信号及目标纹理方向指示的插值方向对第二原始图像信号中不具有第二颜色通道的值的部分像素信号进行插值处理,第二插值策略为根据多个第三像素信号对第二原始图像信号中不具有第二颜色通道的值的另一部分像素信号进行插值处理。第一插值策略和第二插值策略用在第三原始图像信号中时,第一插值策略为根据多个第四像素信号及目标纹理方向指示的插值方向对第三原始图像信号中不具有第三颜色通道的值的部分像素信号进行插值处理,第二插值策略为根据多个第四像素信号对第三原始图像信号中不具有第三颜色通道的值的另一部分像素信号进行插值处理。
具体地,如图9和图10所示,多个第一像素信号及多个第二像素信号形成第一原始图像信号M1,多个第三像素信号形成第二原始图像信号M2,多个第四像素信号形成第三原始图像信号M3。图像传感器10需要对第二原始图像信号M2插值处理得到插值处理后的第二原始图像信号M2’,并对第三原始图像信号M3进行插值处理得到插值处理后的第三原始图像信号M3’。第三原始图像信号M3的插值处理过程与第二原始图像信号M2的插值处理过程一致,本申请实施例以第二原始图像信号M2的插值处理过程为例进行说明。假设计算目标纹理方向时,图像传感器10将纹理图像信号划分为多个区域纹理信号,那么,在第二原始图像信号M2插值过程中,图像传感器10首先将第二原始图像信号M2划分为多个区域原始信号S2。其中,每个区域原始信号S2在第二原始图像信号M2中的位置与一个区域纹理信号在纹理图像信号中的位置对应,每个区域原始信号S2对应的图像的尺寸与对应的区域纹理信号对应的图像尺寸一致,在图10所示例子中,每个区域原始信号对应的图像的尺寸均为4*4。每个区域纹理信号的目标纹理方向可以用于指示对应该区域纹理信号的区域原始信号S2的插值方向。
其中,当图10所示的区域原始信号S2对应的区域纹理信号的目标纹理方向为水平方向时,对于区域原始信号S2中不具有第二颜色通道的值的像素信号(即区域原始信号S2中缺少像素信号的空白位置,包括像素信号P12、P14、P21、P23、P32、P34、P41、P43),图像传感器10在区域原始信号S2中寻找在水平方向上与该空白位置对应的像素信号相邻的两个具有第二颜色通道的值的像素信号(即区域原始信号S2中未缺少像素信号的图案位置,包括P11、P13、P22、P24、P31、P33、P42、P44)。若能够在区域原始信号S2中找到在水平方向上与空白位置对应的像素信号相邻的两个具有第二颜色通道的值的像素信号,则根据第一插值策略对该空白位置对应的像素信号进行插值处理。若未能够在区域原始信号S2中找到在水平方向上与空白位置对应的像素信号相邻的两个具有第二颜色通道的值的像素信号,则根据第二插值策略对该空白位置对应的像素信号进行插值处理。例如,像素信号P12为不具有第二颜色通道的值的像素信号,在区域原始信号S2中能够找到在水平方向上与P12相邻的两个具有第二颜色通道的值的像素信号,即P11及P13,则P12=(P11+P13)/2(图10中虚线样式的黑色箭头所示)。例如,像素信号P21为不具有第二颜色通道的值的像素信号,在区域原始信号S2中只能够找到在水平方向上与P21相邻的一个具有第二颜色通道的值的像素信号P22,那么,根据第二插值策略,需要借助与当前的区域原始信号S2相邻的其他区域原始信号S2中具有第二颜色通道的值的像素信号来计算出P21,图10中的P20即为与当前的区域原始信号S2相邻的其他区域原始信号S2中具有第二颜色通道的值的像素信号,且P20与P21在水平方向上相邻,则P21=(P20+P22)/2(图10中虚线样式的灰色箭头所示)。需要说明的是,在当前的区域原始信号S2处于第二原始图像信号M2的边缘位置时,当前的区域原始信号S2在上下左右的至少一个方向上可能找不到相邻的其他的区域原始信号S2,此时可能导致在当前的区域原始信号S2中的未能通过第一插值策略进行计算的不具有第二颜色通道的值的像素信号也无法在相邻的其他区域原始信号S2中找到用于辅助插值的具有第二颜色通道的值的像素信号。因此,在划分第二原始图像信号M2为多个区域原始信号S2前,需要在第二原始图像信号M2的上下左右四个方向上各留出至少一列(例如一列、两列、三列等)像素信号以作为边距区域的像素信号。在确定出边距区域后,图像传感器10再对除边距区域内的像素信号以外的多个像素信号进行区域划分以得到的多个区域原始信号S2。在后续插值过程中,若当前的区域原始信号S2处于第二原始图像信号M2的边缘位置,则当前的区域原始信号S2中未能够通过第一插值策略进行计算的不具有第二颜色通道的值的像素信号可以在边距区域中寻找与该不具有第二颜色通道的值的像素信号在水平方向上相邻且具有第二颜色通道的值的像素信号来进行辅助插值。例如,当图10中的像素信号P21所处的区域原始信号S2位于第二原始图像信号M2的边缘位置时,用于辅助插值的像素信号P20即为位于边距区域的像素信号。如此,对于目标纹理方向为水平方向的区域原始信号S2,部分像素信号可以根据第一插值策略得到,其余部分像素信号可以根据第二插值策略得到,插值处理后的区域原始信号S2中每一个像素信号均具有第二颜色通道的值。
当图10所示的区域原始信号S2对应的区域纹理信号的目标纹理方向为垂直方向时,对于区域原始信号S2中不具有第二颜色通道的值的像素信号(即区域原始信号S2中缺少像素信号的空白位置,包括像素信号P12、P14、P21、P23、P32、P34、P41、P43),图像传感器10在区域原始信号S2中寻找在垂直方向上与该空白位置对应的像素信号相邻的两个具有第二颜色通道的值的像素信号(即区域原始信号S2中未缺少像素信号的图案位置,包括P11、P13、P22、P24、P31、P33、P42、P44)。若能够在区域原始信号S2中找到在垂直方向上与空白位置对应的像素信号相邻的两个具有第二颜色通道的值的像素信号,则根据第一插值策略对该空白位置对应的像素信号进行插值处理。若未能够在区域原始信号S2中找到在垂直方向上与空白位置对应的像素信号相邻的两个具有第二颜色通道的值的像素信号,则根据第二插值策略对该空白位置对应的像素信号进行插值处理。例如,像素信号P21为不具有第二颜色通道的值的像素信号,在区域原始信号S2中能够找到在垂直方向上与P21相邻的两个具有第二颜色通道的值的像素信号,即P11及P31,则P21=(P11+P31)/2(图10中虚线样式的黑色箭头所示)。例如,像素信号P12为不具有第二颜色通道的值的像素信号,在区域原始信号S2中只能够找到在垂直方向上与P12相邻的一个具有第二颜色通道的值的像素信号P22,那么,根据第二插值策略,需要借助与当前的区域原始信号S2相邻的其他区域原始信号S2中具有第二颜色通道的值的像素信号来计算出P12,图10中的P02即为与当前的区域原始信号S2相邻的其他区域原始信号S2中具有第二颜色通道的值的像素信号,且P02的与P12在垂直方向上相邻,则P12=(P02+P22)/2(图10中虚线样式的灰色箭头所示)。需要说明的是,在当前的区域原始信号S2处于第二原始图像信号M2的边缘位置时,当前的区域原始信号S2在上下左右的至少一个方向上可能找不到相邻的其他的区域原始信号S2,此时可能导致在当前的区域原始信号S2中的未能通过第一插值策略进行计算的不具有第二颜色通道的值的像素信号也无法在相邻的其他区域原始信号S2中找到用于辅助插值的具有第二颜色通道的值的像素信号。因此,在划分第二原始图像信号M2为多个区域原始信号S2前,需要在第二原始图像信号M2的上下左右四个方向上各留出至少一列(例如一列、两列、三列等)像素信号以作为边距区域的像素信号。在确定出边距区域后,图像传感器10再对除边距区域内的像素信号以外的多个像素信号进行区域划分以得到的多个区域原始信号S2。在后续插值过程中,若当前的区域原始信号S2处于第二原始图像信号M2的边缘位置时,当前的区域原始信号S2中未能够通过第一插值策略进行计算的不具有第二颜色通道的值的像素信号可以在边距区域中寻找与该不具有第二颜色通道的值的像素信号在垂直方向上相邻且具有第二颜色通道的值的像素信号来进行辅助插值。例如,当图10中的像素信号P12所处的区域原始信号S2位于第二原始图像信号M2的边缘位置时,用于辅助插值的像素信号P02即为位于边距区域的像素信号。如此,对于目标纹理方向为垂直方向的区域原始信号S2,部分像素信号可以根据第一插值策略得到,其余部分像素信号可以根据第二插值策略得到,插值处理后的区域原始信号S2中每一个像素信号均具有第二颜色通道的值。
当图10所示的区域原始信号S2对应的区域纹理信号的目标纹理方向为水平/对角/反对角方向时,对于区域原始信号S2中不具有第二颜色通道的值的像素信号(即区域原始信号S2中缺少像素信号的空白位置,包括像素信号P12、P14、P21、P23、P32、P34、P41、P43),图像传感器10在区域原始信号S2中寻找在水平方向及垂直方向上与该空白位置对应的像素信号相邻的四个具有第二颜色通道的值的像素信号(即区域原始信号S2中未缺少像素信号的图案位置,包括P11、P13、P22、P24、P31、P33、P42、P44)。若能够在区域原始信号S2中找到在水平方向及垂直方向上与空白位置对应的像素信号相邻的四个具有第二颜色通道的值的像素信号,则根据第一插值策略对该空白位置对应的像素信号进行插值处理。若未能够在区域原始信号S2中找到在水平方向及垂直方向上与空白位置对应的像素信号相邻的四个具有第二颜色通道的值的像素信号,则根据第二插值策略对该空白位置对应的像素信号进行插值处理。例如,像素信号P23为不具有第二颜色通道的值的像素信号,在区域原始信号S2中能够找到在水平方向及垂直方向上与P23相邻的四个具有第二颜色通道的值的像素信号,即P13、P22、P24及P33,则P21=(P13+P22+P24+P33)/4(图10中虚线样式的黑色箭头所示)。例如,像素信号P12为不具有第二颜色通道的值的像素信号,在区域原始信号S2中只能够找到在水平方向及垂直方向上与P12相邻的三个具有第二颜色通道的值的像素信号P11、P13及P22,那么,根据第二插值策略,需要借助与当前的区域原始信号S2相邻的其他区域原始信号S2中具有第二颜色通道的值的像素信号来计算出P12,图10中的P02即为与当前的区域原始信号S2相邻的其他区域原始信号S2中具有第二颜色通道的值的像素信号,且P02与P12在垂直方向上相邻,则P12=(P02+P11+P13+P22)/4(图10中虚线样式的灰色箭头所示)。需要说明的是,在当前的区域原始信号S2处于第二原始图像信号M2的边缘位置时,当前的区域原始信号S2在上下左右的至少一个方向上可能找不到相邻的其他的区域原始信号S2,此时可能导致在当前的区域原始信号S2中的未能够通过第一插值策略进行计算的不具有第二颜色通道的值的像素信号也无法在相邻的其他区域原始信号S2中找到用于辅助插值的具有第二颜色通道的值的像素信号。因此,在划分第二原始图像信号M2为多个区域原始信号S2时,需要在第二原始图像信号M2的上下左右四个方向上各留出至少一列(例如一列、两列、三列等)像素信号以作为边距区域的像素信号。在确定出边距区域后,图像传感器10再对除边距区域内的像素信号以外的多个像素信号进行区域划分以得到的多个区域原始信号S2。在后续插值过程中,若当前的区域原始信号S2处于第二原始图像信号M2的边缘位置时,则当前的区域原始信号S2中未能够通过第一插值策略进行计算的不具有第二颜色通道的值的像素信号可以在边距区域中寻找与该不具有第二颜色通道的值的像素信号在水平方向上或垂直方向上相邻且具有第二颜色通道的值的像素信号来进行辅助插值。例如,当图10中的像素信号P12所处的区域原始信号S2位于第二原始图像信号M2的边缘位置时,用于辅助插值的像素信号P02即为位于边距区域的像素信号。如此,对于目标纹理方向为垂直方向的区域原始信号S2,部分像素信号可以根据第一插值策略得到,其余部分像素信号可以根据第二插值策略得到,插值处理后的区域原始信号S2中每一个像素信号均具有第二颜色通道的值。
如此,第二原始图像信号M2和第三原始图像信号M3中的至少部分像素信号均可以借助目标纹理方向指示的插值方向来进行插值,插值处理后的第二原始图像信号M2’中的像素信号及插值处理后的第三原始图像信号M3’中的像素信号更为准确。
如图9所示,图像传感器10获取到第一原始图像信号M1、插值处理后的第二原始图像信号M2’、及插值处理后的第三原始图像信号M3’后,图像传感器10可以从插值处理后的第二原始图像信号M2’中选出多个具有第二颜色通道的值的像素信号,从第一原始图像信号M1中选出多个具有第一颜色通道的值的像素信号,从插值处理后的第三原始图像信号M3’中选出多个具有第三颜色通道的值的像素信号。由此,多个具有第一颜色通道的值的像素信号、多个具有第二颜色通道的值的像素信号、多个具有第三颜色通道的值的像素信号形成一中间图像信号,该中间图像信号包括多个图像信号单元U。每个图像信号单元U均包括四个像素信号,其中两个像素信号具有第一颜色通道的值,一个像素信号具有第二颜色通道的值,剩余一个像素信号具有第三颜色通道的值。如此,每个图像信号单元U中的四个像素信号对应的颜色通道均呈拜耳阵列排布。中间图像信号输出至处理器(图14所示)后,处理器可以直接对中间图像信号进行处理。
请参阅图14,本申请还提供一种成像装置。成像装置包括上述任意一项实施方式所述的图像传感器。
在某些实施方式中,成像装置还包括处理器。处理器可以用于处理表征作用于图像传感器中第一颜色滤光片A对应像素的光线的第一颜色通道的值的第一像素信号、用于表征作用于图像传感器中第一颜色滤光片A对应像素的光线的第一颜色通道的值的第二像素信号、用于表征作用于图像传感器中第二颜色滤光片B对应像素的光线的第二颜色通道的值的第三像素信号、及用于表征作用于图像传感器中第三颜色滤光片C对应像素的光线的第三颜色通道的值的第四像素信号以生成彩色图像。下面以图1所示的图像传感器10为例进行说明。
在一个例子中,在图像传感器10工作在动态模式(预览模式/录像模式)下时,图像传感器10可以输出包括多个图像信号单元的中间图像信号至处理器,每个图像信号单元均具有四个对应的颜色通道呈拜耳阵列排布的像素信号的图像信号单元U。该中间图像信号包括第一中间图像信号、第二中间图像信号、及第三中间图像信号。多个第一像素信号及多个第二像素信号形成第一中间图像信号,多个第三像素信号形成第二中间图像信号,多个第四像素信号形成第三中间图像信号。处理器可以用于根据第一插值策略及第二插值策略对多个第一中间图像信号做插值处理,以使插值处理后的第一中间图像信号中的每一个像素信号均具有第一颜色通道的值。处理器还可以用于根据第二插值策略对多个第二中间图像信号做插值处理,以使插值处理后的第二中间图像信号中的每一个像素信号均具有第二颜色通道的值。处理器还可以用于根据第二插值策略对多个第三中间图像信号做插值处理,以使插值处理后的第三中间图像信号中的每一个像素信号均具有第三颜色通道的值。处理器还可以用于处理插值处理后的第一中间图像信号、插值处理后的第二中间图像信号、插值处理后的第三中间图像信号以生成彩色图像。其中,第一插值策略为根据具有相同颜色通道的值的多个像素信号及目标纹理方向指示的插值方向对对应的中间图像信号做插值处理,第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的中间图像信号做插值处理。第一插值策略和第二插值策略用在第一中间图像信号中时,第一插值策略为根据多个第一像素信号、多个第二像素信号及目标纹理方向指示的插值方向对第一中间图像信号中不具有第一颜色通道的值的部分像素信号进行插值处理,第二插值策略为根据多个第一像素信号及多个第二像素信号对第一中间图像信号中不具有第一颜色通道的值的另一部分像素信号进行插值处理。第二插值策略用在第二中间图像信号中时,第二插值策略为根据多个第三像素信号对第二中间图像信号中不具有第二颜色通道的值的所有像素信号进行插值处理。第二插值策略用在第三中间图像信号中时,第二插值策略为根据多个第四像素信号对第三中间图像信号中不具有第三颜色通道的值的所有像素信号进行插值处理。
具体地,如图11和图12所示,包括多个图像信号单元U的中间图像信号中的多个第一像素信号及多个第二像素信号形成第一中间图像I1,多个第三像素信号形成第二中间图像I2,多个第四像素信号形成第三中间图像I3。图像传感器10需要对第一中间图像I1插值处理得到插值处理后的第一中间图像I1’,对第二中间图像I2进行插值处理得到插值处理后的第二中间图像I2’,并对第三中间图像I3进行插值处理得到插值处理后的第二中间图像I3’。其中,第一中间图像I1的插值处理过程与图10所示的第二原始图像M2的插值处理过程相同,在此不再赘述。第二中间图像I2与第三中间图像I3的插值处理过程相同,本申请实施例以第二中间图像I2的插值处理过程为例进行说明。如图12所示,第二中间图像I3中不具有第二颜色通道的值的像素信号(即第二中间图像I3中缺少像素信号的空白位置)包括三类:①在水平方向及垂直方向上均不存在与该不具有第二颜色通道的值的像素信号相邻的具有第二颜色通道的值的像素信号;②仅在水平方向存在与该不具有第二颜色通道的值的像素信号相邻的两个具有第二颜色通道的值的像素信号;③仅在垂直方向存在与该不具有第二颜色通道的值的像素信号相邻的两个具有第二颜色通道的值的像素信号。那么,对于每一类不具有第二颜色通道的值的像素信号,以该不具有第二颜色通道的值的像素信号为中心点向四周扩展预定区域,并基于该预定区域中的多个具有第一颜色通道的值的像素信号(即第二中间图像I2中未缺少像素信号的图案位置)来辅助该不具有第二颜色通道的值的像素信号的插值。示例地,对于第一类不具有第二颜色通道的值的像素信号,如图12所示的像素信号P12,以P12为中心点向四周扩散得到3*3尺寸的预定区域,该预定区域中包括在对角方向或反对角方向上与P12相邻的四个具有第一颜色通道的值的像素信号,分别为P01、P03、P21及P23,则P12=(P01+P03+P21+P23)/4。示例地,对于第二类不具有第二颜色通道的值的像素信号,如图12所示的像素信号P22,以P22为中心点向四周扩散得到5*3尺寸的预定区域,该预定区域中包括六个具有第一颜色通道的值的像素信号,分别为P01、P03、P21、P23、P41及P43,则P22=(1*P01+1*P03+6*P21+6*P23+1*P41+1*P43)/6,其中,每个具有第二颜色通道的值的像素信号前面的系数表示的是权重,距离P22越近的具有第二颜色通道的值的像素信号具有更高的权重。示例地,对于第三类不具有第二颜色通道的值的像素信号,如图12所示的像素信号P13,以P13为中心点向四周扩散得到3*5尺寸的预定区域,该预定区域中包括六个具有第一颜色通道的值的像素信号,分别为P01、P03、P05、P21、P23及P25,则P13=(1*P01+6*P03+1*P05+1*P21+6*P23+1*P25)/6,其中,每个具有第二颜色通道的值的像素信号前面的系数表示的是权重,距离P13越近的具有第二颜色通道的值的像素信号具有更高的权重。
如图11所示,图像传感器10获取到插值处理后的第一中间图像信号I1’、插值处理后的第二中间图像信号I2’、及插值处理后的第三中间图像信号I3’后,即可对插值处理后的第一中间图像信号I1’、插值处理后的第二中间图像信号I2’、及插值处理后的第三中间图像信号I3’进行融合处理以生成彩色图像。彩色图像中的每个像素信号均具有第一颜色通道的值、第二颜色通道的值、及第三颜色通道的值。需要说明的是,图11中的A+B+C仅表示每个像素信号由第一颜色通道的值、第二颜色通道的值及第三通道的值组成,并不表示三个颜色通道的值的直接相加。
由于在包含图像信号单元U的中间图像信号中,第一中间图像信号I1中的至少部分像素信号均可以借助目标纹理方向指示的插值方向来进行插值,插值处理后的第一中间图像信号I1’中的像素信号更为准确。如此,有利于改善彩色图像的色彩还原度,并能够准确地表现出拍摄场景的纹理。
在另一个例子中,在图像传感器10工作在静态模式(拍摄静态图像的模式)下时,图像传感器10可以输出未包括多个图像信号单元的中间图像信号至处理器。像素阵列12(图1所示)输出多个第一像素信号、多个第二像素信号、多个第三像素信号、及多个第四像素信号后,图像传感器10直接将多个第一像素信号、多个第二像素信号、多个第三像素信号、及多个第四像素信号输出至处理器。此时的中间图像信号包括第一中间图像信号、第二中间图像信号及第三中间图像信号。多个第一像素信号及多个第二像素信号形成第一中间图像信号,多个第三像素信号形成第二中间图像信号,多个第四像素信号形成第三中间图像信号。处理器可以用于根据第一插值策略及第二插值策略对第二中间图像信号做插值处理,以使插值处理后的第二中间图像信号中的每一个像素信号均具有第二颜色通道的值。处理器还可以用于根据第一插值策略及第二插值策略对第三中间图像信号做插值处理,以使插值处理后的第三中间图像信号中的每一个像素信号均具有第三颜色通道的值。处理器还可以用于处理第一中间图像信号、插值处理后的第二中间图像信号、插值处理后的第三中间图像信号以生成彩色图像。其中,第一插值策略为根据具有相同颜色通道的值的多个像素信号及目标纹理方向指示的插值方向对对应的中间图像信号做插值处理,第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的中间图像信号做插值处理。第一插值策略和第二插值策略用在第二中间图像信号中时,第一插值策略为根据多个第三像素信号及目标纹理方向指示的插值方向对第二中间图像信号中不具有第二颜色通道的值的部分像素信号进行插值处理,第二插值策略为根据多个第三像素信号对第二中间图像信号中不具有第二颜色通道的值的另一部分像素信号进行插值处理。第一插值策略和第二插值策略用在第三中间图像信号中时,第一插值策略为根据多个第四像素信号及目标纹理方向指示的插值方向对第三中间图像信号中不具有第三颜色通道的值的部分像素信号进行插值处理,第二插值策略为根据多个第四像素信号对第三中间图像信号中不具有第三颜色通道的值的另一部分像素信号进行插值处理。
具体地,如图13所示,多个第一像素信号及多个第二像素信号形成第一中间图像信号I4,多个第三像素信号形成第二中间图像信号I5,多个第四像素信号形成第三中间图像信号I6。由于第一中间图像信号I4中每个像素信号均具有第一颜色通道的值,因此,图像传感器10只需要对第二中间图像信号I5插值处理得到插值处理后的第二中间图像信号I5’,并对第三中间图像信号I6进行插值处理得到插值处理后的第三中间图像信号I6’。其中,第二中间图像信号I5的插值处理过程与图10所示的第二原始图像信号M2的插值处理过程一致,第三中间图像信号I6的插值处理过程与图10所示的第二原始图像信号M2的插值处理过程也一致,在此不再对第二中间图像信号I5及第三中间图像信号I6的插值处理过程进行赘述。
处理器获取到第一中间图像信号I4、插值后的第二中间图像信号I5’、及插值后的第三中间图像信号I6’后,即可对第一中间图像信号I4、插值后的第二中间图像信号I5’、及插值后的第三中间图像信号I6’进行处理以生成彩色图像。彩色图像中每一个像素信号均具有第一颜色通道的值、第二颜色通道的值、及第三颜色通道的值。需要说明的是,图11中的A+B+C仅表示每个像素信号由第一颜色通道的值、第二颜色通道的值及第三通道的值组成,并不表示三个颜色通道的值的直接相加。
由于图像传感器10输出的是未包括多个图像信号单元的中间图像信号,在这一类中间图像信号中,第一中间图像信号的每个像素信号均具有第一颜色通道的值,因此,第一颜色通道的值不需要进行插值处理,最终生成的彩色图像的色彩还原度会更加准确。此外,第二中间图像信号的部分像素信号及第三中间图像信号的部分像素信号的插值处理是根据目标纹理方向指示的插值方向来进行的,第二颜色通道的值及第三颜色通道的值的插值结果更为准确,可以进一步改善彩色图像的色彩还原度,并能够准确地表现出拍摄场景的纹理。
本申请实施方式的成像装置中,当图像传感器处于静态模式时,图像传感器10(图1所示)可以直接输出包括第一中间图像信号I4、第二中间图像信号I5及第三中间图像信号I6的中间图像信号(图13所示),处理器处理该中间图像信号以生成彩色图像。如此,在彩色图像的生成过程中,第一颜色通道的值不需要进行插值处理,彩色图像的色彩还原度更加准确,图像细节表达更佳。当图像传感器处于动态模式时,图像传感器10可以直接输出包括第一中间图像信号I1、第二中间图像信号I2及第三中间图像信号I3的,处理器处理该中间图像信号以生成彩色图像。如此,在彩色图像的生成过程中,呈拜耳阵列排布的图像对应的中间图像信号是在图像传感器10这一硬件中处理得到的,无需在处理器中利用软件处理图像信号以得到呈拜耳阵列排布的图像对应的图像信号,可以减少彩色图像的生成时间,提升彩色图像的获取速度。
请参阅图15,本申请还提供一种电子设备。电子设备可以是手机、平板电脑、笔记本电脑、智能手表、智能手环、智能头盔、智能眼镜、无人设备(例如无人机、无人车、无人船)等,在此不作限制。电子设备包括成像装置。成像装置包括上述任意一个实施方式所述的图像传感器。电子设备还包括处理器。电子设备的处理器可以执行与图14所示成像装置中的处理器所能执行的功能相同的功能,在此不做赘述。
请参阅图16,本申请还提供一种图像处理系统。图像处理系统包括电子设备。电子设备包括成像装置。成像装置包括上述任意一个实施方式所述的图像传感器。图像处理系统还包括处理器。图像处理系统的处理器可以执行与图14所示成像装置中的处理器所能执行的功能相同的功能,在此不做赘述。
其中,处理器可以位于负责云计算的服务器中,也可以位于负责边缘计算的服务器中。如此,图像传感器输出的像素信号的后续处理可以卸载到服务器中执行,可以节约成像装置或电子设备的功耗。
请参阅图17,本申请还提供一种信号处理方法。信号处理方法用于上述任意一个实施方式所述的图像传感器。信号处理方法包括:
01:生成纹理图像信号,纹理图像信号中的多个纹理像素信号均具有第一颜色通道的值;及
02:处理纹理图像信号以获取目标纹理方向,目标纹理方向用于指示图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
请参阅图1及图3,在某些实施方式中,图像传感器10包括滤光片阵列11及像素阵列12。滤光片阵列11包括多个第一滤光片组111和多个第二滤光片组112。第一滤光片组111包括数量相同的多个第一颜色滤光片A和多个第二颜色滤光片B,第二滤光片组112包括数量相同的多个第一颜色滤光片A和多个第三颜色滤光片C。像素阵列12包括多个像素120。每个像素120对应滤光片阵列11的一个滤光片110。像素120用于接收穿过对应的滤光片110的光线以生成电信号。信号处理方法在步骤01前还包括:将第一滤光片组111对应的像素120产生的电信号合并生成第一像素信号和第三像素信号,第一像素信号用于表征作用于第一滤光片组111对应像素120的光线的第一颜色通道的值,第三像素信号用于表征作用于第一滤光片组111对应像素120的光线的第二颜色通道的值;将第二滤光片组112对应的像素120产生的电信号合并生成第二像素信号和第四像素信号,第二像素信号用于表征作用于第二滤光片组112对应像素120的光线的第一颜色通道的值,第四像素信号用于表征作用于第二滤光片组112对应像素120的光线的第三颜色通道的值。其中,纹理图像信号中的多个纹理像素信号包括多个第一像素信号及多个第二像素信号。
在某些实施方式中,图像传感器包括滤光片阵列及像素阵列。滤光片阵列包括多个滤光片组。每个滤光片组均包括多个第一颜色滤光片。多个滤光片组包括两类,第一类滤光片组还包括多个第二颜色滤光片,第二类滤光片组还包括多个第三颜色滤光片。像素阵列包括多个像素。每个像素对应滤光片阵列的一个滤光片。图像传感器工作在合并模式下时,每个第一类滤光片组对应的像素作为一个第一类合并像素,每个第二类滤光片组对应的像素作为一个第二类合并像素。像素用于接收穿过对应的滤光片的光线以生成电信号。信号处理方法在步骤01前还包括:将第一类合并像素中的像素产生的电信号合并生成第一像素信号,第一像素信号用于表征作用于第一类合并像素中的像素的光线的第一颜色通道的值,第二类合并像素中的像素产生的电信号合并生成第二像素信号,第二像素信号用于表征作用于第二类合并像素中的像素的光线的第一颜色通道的值。其中,纹理图像信号中的多个纹理像素信号包括多个第一像素信号及多个第二像素信号。
在某些实施方式中,图像传感器包括滤光片阵列,滤光片阵列设置在像素阵列上。滤光片阵列包括多个第一滤光片组和多个第二滤光片组。第一滤光片组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光片。第二滤光片组包括数量相同的多个第一颜色滤光片和多个第三颜色滤光片。信号处理方法在步骤01前还包括:将第一滤光片组对应的像素产生的电信号合并生成第一像素信号和第三像素信号,第一像素信号用于表征作用于第一滤光片组对应像素的光线的第一颜色通道的值,第三像素信号用于表征作用于第一滤光片组对应像素的光线的第二颜色通道的值;将第二滤光片组对应的像素产生的电信号合并生成第二像素信号和第四像素信号,第二像素信号用于表征作用于第二滤光片组对应像素的光线的第一颜色通道的值,第四像素信号用于表征作用于第二滤光片组对应像素的光线的第三颜色通道的值。其中,纹理图像信号中的多个纹理像素信号包括多个第一像素信号及多个第二像素信号。
在某些实施方式中,图像传感器包括滤光片阵列及像素阵列。滤光片阵列包括多个第一颜色滤光片、多个第二颜色滤光片、及多个第三颜色滤光片。滤光片以两个第一颜色滤光片、一个第二颜色滤光片、一个第三颜色滤光片为一个单位,且每个单位中的两个第一颜色滤光片不相邻,一个第二颜色滤光片与一个第三颜色滤光片不相邻。在第一方向和第二方向上,多个单位均呈周期性排列,其中,第一方向与第二方向垂直。像素阵列包括多个像素。每个像素对应滤光片阵列的一个滤光片。像素用于接收穿过对应的滤光片的光线以生成电信号;信号处理方法在步骤01前还包括:将位于同一区域的多个第一颜色滤光片对应像素和多个第二颜色滤光片对应像素产生的电信号合并生成第一像素信号和第三像素信号,第一像素信号用于表征作用于第一颜色滤光片对应像素的光线的第一颜色通道的值,第三像素信号用于表征作用于第二颜色滤光片对应像素的光线的第二颜色通道的值;将位于同一区域的多个第一颜色滤光片对应像素和多个第三颜色滤光片对应像素产生的电信号合并生成第二像素信号和第四像素信号,第二像素信号用于表征作用于第一颜色滤光片对应像素的光线的第一颜色通道的值,第四像素信号用于表征作用于第三颜色滤光片对应像素的光线的第三颜色通道的值。其中,纹理图像信号中的多个纹理像素信号包括多个第一像素信号及多个第二像素信号。
在某些实施方式中,目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种。
在某些实施方式中,步骤02包括:计算在每个待选纹理方向上两两相邻的纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,其中,待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向;根据多个纹理像素信号差值计算对应的待选纹理方向的特征值;根据多个待选纹理方向的特征值确定对应纹理图像信号的目标纹理方向。
在某些实施方式中,步骤02还包括:划分纹理图像信号为至少一个部分以得到至少一个区域纹理图像信号,每个区域纹理图像信号包括多个纹理像素信号。步骤计算在每个待选纹理方向上两两相邻的纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,包括:对于每个区域纹理图像信号,计算在每个待选纹理方向上两两相邻的纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值。步骤根据多个待选纹理方向的特征值确定对应纹理图像信号的目标纹理方向,包括:根据多个待选纹理方向的特征值确定对应的区域纹理图像信号的目标纹理方向。
在某些实施方式中,步骤根据多个待选纹理方向的特征值确定对应的区域纹理图像信号的目标纹理方向,包括:从多个特征值中选取值最大的特征值;在最大的特征值与剩余的所有特征值之间的差值均大于预定阈值时,确定值最大的特征值对应的待选纹理方向为目标纹理方向;在最大的特征值与剩余的所有特征值之间的差值中存在一个差值小于预定阈值时,则确定目标纹理方向为平面方向。
在某些实施方式中,信号处理方法在步骤02后还包括:处理用于表征作用于图像传感器中的第一颜色滤光片对应像素的光线的第一颜色通道的值的第一像素信号、用于表征作用于图像传感器中的第一颜色滤光片对应像素的光线的第一颜色通道的值的第二像素信号、用于表征作用于图像传感器中的第二颜色滤光片对应像素的光线的第二颜色通道的值的第三像素信号、及用于表征作用于图像传感器中的第三颜色滤光片对应像素的光线的第三颜色通道的值的第四像素信号以生成彩色图像。
在某些实施方式中,在图像传感器工作在静态模式时,中间图像信号包括第一中间图像信号、第二中间图像信号及第三中间图像信号,多个第一像素信号及多个第二像素信号形成第一中间图像信号,多个第三像素信号形成第二中间图像信号,多个第四像素信号形成第三中间图像信号。步骤处理第一像素信号、第二像素信号、第三像素信号、及第四像素信号以生成彩色图像,包括:根据第一插值策略及第二插值策略对第二中间图像信号做插值处理,以使插值处理后的第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;
根据第一插值策略及第二插值策略对第三中间图像信号做插值处理,以使插值处理后的第三中间图像信号中的每一个像素信号均具有第三颜色通道的值;处理第一中间图像信号、插值处理后的第二中间图像信号、插值处理后的第三中间图像信号以生成彩色图像。其中,第一插值策略为根据具有相同颜色通道的值的多个像素信号及目标纹理方向指示的插值方向对对应的中间图像信号做插值处理,第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的中间图像信号做插值处理。
在某些实施方式中,步骤根据第一插值策略及第二插值策略对第二中间图像信号做插值处理,包括:根据多个第三像素信号及目标纹理方向指示的插值方向对第二中间图像信号中不具有第二颜色通道的值的部分像素信号进行插值处理,根据多个第三像素信号对第二中间图像信号中不具有第二颜色通道的值的另一部分像素信号进行插值处理。步骤根据第一插值策略及第二插值策略对第三中间图像信号做插值处理,包括:根据多个第四像素信号及目标纹理方向指示的插值方向对第三中间图像信号中不具有第三颜色通道的值的部分像素信号进行插值处理,根据多个第四像素信号对第三中间图像信号中不具有第三颜色通道的值的另一部分像素信号进行插值处理。
在某些实施方式中,图像传感器工作在动态模式时,信号处理方法还包括:处理第一像素信号、第二像素信号、用于表征作用于第二颜色滤光片对应像素的光线的值的第三像素信号、及用于表征作用于第三颜色滤光片对应像素的光线的值的第四像素信号以输出中间图像信号。其中,中间图像信号包括多个图像信号单元,每个图像信号单元均包括四个像素信号,其中两个像素信号具有第一颜色通道的值,另一个像素信号具有第二颜色通道的值,剩余一个像素信号具有第三颜色通道的值,四个像素信号对应的颜色通道呈拜耳阵列排布。
在某些实施方式中,多个第一像素信号及多个第二像素信号形成第一原始图像信号,多个第三像素信号形成第二原始图像信号,多个第四像素信号形成第三原始图像信号。步骤处理第一像素信号、第二像素信号、第三像素信号、及第四像素信号以输出中间图像信号,包括:根据第一插值策略及第二插值策略对第二原始图像信号做插值处理,以使插值处理后的第二原始图像信号中的每一个像素信号均具有第二颜色通道的值;根据第一插值策略及第二插值策略对第三原始图像信号做插值处理,以使插值处理后的第三原始图像信号中的每一个像素信号均具有第三颜色通道的值;根据第一原始图像信号、插值处理后的第二原始图像信号、插值处理后的第三原始图像信号获取中间图像信号。其中,第一插值策略为根据具有相同颜色通道的值的多个像素信号及目标纹理方向指示的插值方向对对应的原始图像信号做插值处理,第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的原始图像信号做插值处理。
在某些实施方式中,步骤根据第一插值策略及第二插值策略对第二原始图像信号做插值处理,包括:根据多个第三像素信号及目标纹理方向指示的插值方向对第二原始图像信号中不具有第二颜色通道的值的部分像素信号进行插值处理,根据多个第三像素信号对第二原始图像信号中不具有第二颜色通道的值的另一部分像素信号进行插值处理。骤根据第一插值策略及第二插值策略对第三原始图像信号做插值处理,包括:根据多个第四像素信号及目标纹理方向指示的插值方向对第三原始图像信号中不具有第三颜色通道的值的部分像素信号进行插值处理,根据多个第四像素信号对第三原始图像信号中不具有第三颜色通道的值的另一部分像素信号进行插值处理。
在某些实施方式中,中间图像信号包括第一中间图像信号、第二中间图像信号、及第三中间图像信号,多个第一像素信号及多个第二像素信号形成第一中间图像信号,多个第三像素信号形成第二中间图像信号,多个第四像素信号形成第三中间图像信号。步骤处理第一像素信号、第二像素信号、第三像素信号、及第四像素信号以生成彩色图像,包括:根据第一插值策略及第二插值策略对多个第一中间图像信号做插值处理,以使插值处理后的第一中间图像信号中的每一个像素信号均具有第一颜色通道的值;根据第二插值策略对第二中间图像信号做插值处理,以使插值处理后的第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;根据第二插值策略对第三中间图像信号做插值处理,以使插值处理后的第三中间图像信号中的每一个像素信号均具有第三颜色通道的值;处理插值处理后的第一中间图像信号、插值处理后的第二中间图像信号、插值处理后的第三中间图像信号以生成彩色图像。其中,第一插值策略为根据具有相同颜色通道的值的多个像素信号及目标纹理方向指示的插值方向对对应的中间图像信号做插值处理,第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的中间图像信号做插值处理。
在某些实施方式中,步骤根据第一插值策略及第二插值策略对第一中间图像信号做插值处理,包括:根据多个第一像素信号、多个第二像素信号及目标纹理方向指示的插值方向对第一中间图像信号中不具有第一颜色通道的值的部分像素信号进行插值处理,根据多个第一像素信号及多个第二像素信号对第一中间图像信号中不具有第一颜色通道的值的另一部分像素信号进行插值处理。步骤根据第二插值策略对第二中间图像信号做插值处理,包括:根据多个第三像素信号对第二中间图像信号中不具有第二颜色通道的值的所有像素信号做插值处理,以使插值处理后的第二中间图像信号中的每一个像素信号均具有第二颜色通道的值。步骤根据第二插值策略对第三中间图像信号做插值处理,包括:根据多个第四像素信号对第三中间图像信号中不具有第三颜色通道的值的所有像素信号做插值处理,以使插值处理后的第三中间图像信号中的每一个像素信号均具有第三颜色通道的值。
上述任意一个实施方式所述的信号处理方法的具体执行过程与前述介绍图像传感器10的功能及成像装置中的处理器的功能时描述的执行过程相同,在此不再赘述。
本申请实施方式还提供一种计算机设备。计算机设备可以是上述任意一项实施方式所述的电子设备(图15所示)。例如,计算机设备可以是包括上述任意一项实施方式所述的图像传感器(图15所示)的电子设备。
上述计算机设备中包括图像处理电路,图像处理电路可以利用硬件和/或软件组件实现,可包括定义ISP(Image Signal Processing,图像信号处理)管线的各种处理单元。图18为一个实施例中图像处理电路的示意图。如图18所示,为便于说明,仅示出与本申请实施例相关的图像处理技术的各个方面。
如图18所示,图像处理电路包括ISP处理器940和控制逻辑器950。其中,ISP处理器940可以应用在电子设备中,以作为电子设备中的处理器。其中,电子设备可以是图15所示的电子设备。
成像装置910捕捉的图像数据首先由ISP处理器940处理,ISP处理器940对图像数据进行分析以捕捉可用于确定和/或成像装置910的一个或多个控制参数的图像统计信息。成像装置910可包括具有一个或多个透镜912和图像传感器914的照相机。其中,图像传感器914可以是图像传感器10(图1所示)。图像传感器914可包括滤光片阵列,图像传感器914可获取由图像传感器914的每个像素捕捉的光强度和波长信息,并提供可由ISP处理器940处理的一组图像数据,例如多个第一像素信号、多个第二像素信号、多个第三像素信号、及多个第四像素信号组成的图像数据。图像传感器914还可以提供可由ISP处理器940处理的额外数据,如目标纹理方向等。传感器920(如陀螺仪)可基于传感器920接口类型把采集的图像处理的参数(如防抖参数)提供给ISP处理器940。传感器920接口可以利用SMIA(StandardMobile Imaging Architecture,标准移动成像架构)接口、其它串行或并行照相机接口或上述接口的组合。
此外,图像传感器914也可将图像数据发送给传感器920,传感器920可基于传感器920接口类型把图像数据提供给ISP处理器940,或者传感器920将图像数据存储到图像存储器930中。
ISP处理器940按多种格式逐个像素地处理图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,ISP处理器940可对图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。
ISP处理器940还可从图像存储器930接收图像数据。例如,传感器920接口将图像数据发送给图像存储器930,图像存储器930中的图像数据再提供给ISP处理器940以供处理。图像存储器930可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储器,并可包括DMA(Direct Memory Access,直接直接存储器存取)特征。
当接收到来自图像传感器914接口或来自传感器920接口或来自图像存储器930的图像数据时,ISP处理器940可进行一个或多个图像处理操作,例如时域滤波;再例如,处理第一像素信号、第二像素信号、第三像素信号、第四像素信号获取彩色图像等。处理后的图像数据(例如彩色图像)可发送给图像存储器930,以便在被显示之前进行另外的处理。ISP处理器940从图像存储器930接收处理数据,并对所述处理数据进行原始域中以及RGB和YCbCr颜色空间中的图像数据处理。ISP处理器940处理后的图像数据可输出给显示器970,以供用户观看和/或由图形引擎或GPU(Graphics Processing Unit,图形处理器)进一步处理。此外,ISP处理器940的输出还可发送给图像存储器930,且显示器970可从图像存储器930读取图像数据。在一个实施例中,图像存储器930可被配置为实现一个或多个帧缓冲器。此外,ISP处理器940的输出可发送给编码器/解码器960,以便编码/解码图像数据。编码的图像数据可被保存,并在显示于显示器970设备上之前解压缩。编码器/解码器960可由CPU或GPU或协处理器实现。示例地,当计算机设备处于预览模式或录像模式下时,ISP处理器940可以处理包括多个图像信号单元U(图9所示)的中间图像信号以生成彩色图像这一图像数据。ISP处理器940可以将彩色图像发送给编码器/解码器960以编码彩色图像。编码的彩色图像可以被保存到图像存储器930中,还可以在显示器970上显示。
ISP处理器940确定的统计数据可发送给控制逻辑器950。例如,统计数据可包括自动曝光、自动白平衡、自动聚焦、闪烁检测、黑电平补偿、透镜912阴影校正等图像传感器914统计信息。控制逻辑器950可包括执行一个或多个例程(如固件)的处理器和/或微控制器,一个或多个例程可根据接收的统计数据,确定成像装置910的控制参数及ISP处理器940的控制参数。例如,成像装置910的控制参数可包括传感器920控制参数(例如增益、曝光控制的积分时间、防抖参数等)、照相机闪光控制参数、透镜912控制参数(例如聚焦或变焦用焦距)、或这些参数的组合。ISP控制参数可包括用于自动白平衡和颜色调整(例如,在RGB处理期间)的增益水平和色彩校正矩阵,以及透镜912阴影校正参数。
在本说明书的描述中,参考术语“一个实施方式”、“一些实施方式”、“示意性实施方式”、“示例”、“具体示例”或“一些示例”等的描述意指结合所述实施方式或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施方式或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
尽管上面已经示出和描述了本申请的实施方式,可以理解的是,上述实施方式是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施方式进行变化、修改、替换和变型。
Claims (29)
1.一种图像传感器,其特征在于,所述图像传感器包括:
滤光片阵列,所述滤光片阵列包括多个第一滤光片组和多个第二滤光片组,所述第一滤光片组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光片,所述第二滤光片组包括数量相同的多个所述第一颜色滤光片和多个第三颜色滤光片;及
像素阵列,所述像素阵列包括多个像素,每个所述像素对应所述滤光片阵列的一个滤光片,所述像素用于接收穿过对应的所述滤光片的光线以生成电信号;
所述图像传感器用于将所述第一滤光片组对应的像素产生的电信号合并生成第一像素信号和第三像素信号,所述第一像素信号用于表征作用于所述第一滤光片组对应像素的光线的第一颜色通道的值,所述第三像素信号用于表征作用于所述第一滤光片组对应像素的光线的第二颜色通道的值,所述图像传感器用于将所述第二滤光片组对应的像素产生的电信号合并生成第二像素信号和第四像素信号,所述第二像素信号用于表征作用于所述第二滤光片组对应像素的光线的第一颜色通道的值,所述第四像素信号用于表征作用于所述第二滤光片组对应像素的光线的第三颜色通道的值;
所述图像传感器还用于:
生成纹理图像信号,所述纹理图像信号中的多个纹理像素信号包括多个所述第一像素信号及多个所述第二像素信号;及
计算在每个待选纹理方向上两两相邻的所述纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,其中,所述待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向;
根据多个所述纹理像素信号差值计算对应的所述待选纹理方向的特征值;及
根据多个所述待选纹理方向的特征值确定对应所述纹理图像信号的目标纹理方向,所述目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
2.一种图像传感器,其特征在于,所述图像传感器包括:
滤光片阵列,所述滤光片阵列包括多个滤光片组,每个所述滤光片组均包括多个第一颜色滤光片,多个所述滤光片组包括两类,第一类所述滤光片组还包括多个第二颜色滤光片,第二类所述滤光片组还包括多个第三颜色滤光片;及
像素阵列,所述像素阵列包括多个像素,每个所述像素对应所述滤光片阵列的一个滤光片,所述像素用于接收穿过对应的所述滤光片的光线以生成电信号;
其中,所述图像传感器工作在合并模式下时,每个第一类所述滤光片组对应的所述像素作为一个第一类合并像素,每个第二类所述滤光片组对应的所述像素作为一个第二类合并像素,所述图像传感器用于将所述第一类合并像素中的像素产生的电信号合并生成第一像素信号,所述第一像素信号用于表征作用于所述第一类合并像素中的像素的光线的第一颜色通道的值,所述图像传感器用于将所述第二类合并像素中的像素产生的电信号合并生成第二像素信号,所述第二像素信号用于表征作用于所述第二类合并像素中的像素的光线的第一颜色通道的值;
所述图像传感器还用于:
生成纹理图像信号,所述纹理图像信号中的多个纹理像素信号包括多个所述第一像素信号及多个所述第二像素信号;及
计算在每个待选纹理方向上两两相邻的所述纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,其中,所述待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向;
根据多个所述纹理像素信号差值计算对应的所述待选纹理方向的特征值;及
根据多个所述待选纹理方向的特征值确定对应所述纹理图像信号的目标纹理方向,所述目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
3.一种图像传感器,其特征在于,所述图像传感器包括:
滤光片阵列,所述滤光片阵列设置在像素阵列上,所述滤光片阵列包括多个第一滤光片组和多个第二滤光片组,所述第一滤光片组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光片,所述第二滤光片组包括数量相同的多个所述第一颜色滤光片和多个第三颜色滤光片;
控制电路,所述控制电路设置在具有所述像素阵列的衬底上,所述控制电路用于将所述第一滤光片组对应的像素产生的电信号合并生成第一像素信号和第三像素信号,所述第一像素信号用于表征作用于所述第一滤光片组对应像素的光线的第一颜色通道的值,所述第三像素信号用于表征作用于所述第一滤光片组对应像素的光线的第二颜色通道的值,所述控制电路用于将所述第二滤光片组对应的像素产生的电信号合并生成第二像素信号和第四像素信号,所述第二像素信号用于表征作用于所述第二滤光片组对应像素的光线的第一颜色通道的值,所述第四像素信号用于表征作用于所述第二滤光片组对应像素的光线的第三颜色通道的值;
所述图像传感器还用于:
生成纹理图像信号,所述纹理图像信号中的多个纹理像素信号包括多个所述第一像素信号及多个所述第二像素信号;及
计算在每个待选纹理方向上两两相邻的所述纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,其中,所述待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向;
根据多个所述纹理像素信号差值计算对应的所述待选纹理方向的特征值;及
根据多个所述待选纹理方向的特征值确定对应所述纹理图像信号的目标纹理方向,所述目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
4.一种图像传感器,其特征在于,所述图像传感器包括:
滤光片阵列,所述滤光片阵列包括多个第一颜色滤光片、多个第二颜色滤光片、及多个第三颜色滤光片,滤光片以两个所述第一颜色滤光片、一个所述第二颜色滤光片、一个所述第三颜色滤光片为一个单位,且每个所述单位中的两个所述第一颜色滤光片不相邻,一个所述第二颜色滤光片与一个所述第三颜色滤光片不相邻,在第一方向和第二方向上,多个所述单位均呈周期性排列,其中,所述第一方向与所述第二方向垂直;及
像素阵列,所述像素阵列包括多个像素,每个所述像素对应所述滤光片阵列的一个所述滤光片,所述像素用于接收穿过对应的所述滤光片的光线以生成电信号;
所述图像传感器用于将位于同一区域的多个所述第一颜色滤光片对应像素和多个所述第二颜色滤光片对应像素产生的电信号合并生成第一像素信号和第三像素信号,所述第一像素信号用于表征作用于所述第一颜色滤光片对应像素的光线的第一颜色通道的值,所述第三像素信号用于表征作用于所述第二颜色滤光片对应像素的光线的第二颜色通道的值,所述图像传感器用于将位于同一区域的多个所述第一颜色滤光片对应像素和多个所述第三颜色滤光片对应像素产生的电信号合并生成第二像素信号和第四像素信号,所述第二像素信号用于表征作用于所述第一颜色滤光片对应像素的光线的第一颜色通道的值,所述第四像素信号用于表征作用于所述第三颜色滤光片对应像素的光线的第三颜色通道的值;
所述图像传感器还用于:
生成纹理图像信号,所述纹理图像信号中的多个纹理像素信号包括多个所述第一像素信号及多个所述第二像素信号;及
计算在每个待选纹理方向上两两相邻的所述纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,其中,所述待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向;
根据多个所述纹理像素信号差值计算对应的所述待选纹理方向的特征值;及
根据多个所述待选纹理方向的特征值确定对应所述纹理图像信号的目标纹理方向,所述目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
5.根据权利要求1-4任意一项所述的图像传感器,其特征在于,所述图像传感器还用于:
从多个所述特征值中选取值最大的所述特征值;
在最大的所述特征值与剩余的所有所述特征值之间的差值均大于预定阈值时,确定值最大的所述特征值对应的所述待选纹理方向为所述目标纹理方向,其中当最大的特征值为水平方向的特征值,则与最大的特征值对应的待选纹理方向为垂直方向;当最大的特征值为垂直方向的特征值,则与最大的特征值对应的待选纹理方向为水平方向;当最大的特征值为对角方向的特征值,则与最大的特征值对应的待选纹理方向为反对角方向;当最大的特征值为反对角方向的特征值,则与最大的特征值对应的待选纹理方向为对角方向;
在最大的所述特征值与剩余的所有所述特征值之间的差值中存在一个所述差值小于所述预定阈值时,则确定所述目标纹理方向为平面方向。
6.根据权利要求1-4任意一项所述的图像传感器,其特征在于,所述图像传感器工作在动态模式时,所述图像传感器还用于处理所述第一像素信号、所述第二像素信号、用于表征作用于所述第二颜色滤光片对应像素的光线的值的第三像素信号、及用于表征作用于所述第三颜色滤光片对应像素的光线的值的第四像素信号以输出所述中间图像信号;所述中间图像信号包括多个图像信号单元,每个所述图像信号单元均包括四个像素信号,其中两个所述像素信号具有第一颜色通道的值,另一个所述像素信号具有第二颜色通道的值,剩余一个所述像素信号具有第三颜色通道的值,四个所述像素信号对应的颜色通道呈拜耳阵列排布;所述目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种。
7.根据权利要求6所述的图像传感器,其特征在于,多个所述第一像素信号及多个所述第二像素信号形成第一原始图像信号,多个所述第三像素信号形成第二原始图像信号,多个所述第四像素信号形成第三原始图像信号;所述图像传感器还用于:
根据第一插值策略及第二插值策略对所述第二原始图像信号做插值处理,以使插值处理后的所述第二原始图像信号中的每一个像素信号均具有第二颜色通道的值;
根据所述第一插值策略及所述第二插值策略对所述第三原始图像信号做插值处理,以使插值处理后的所述第三原始图像信号中的每一个像素信号均具有第三颜色通道的值;及
根据所述第一原始图像信号、插值处理后的所述第二原始图像信号、插值处理后的所述第三原始图像信号获取所述中间图像信号;
其中,所述第一插值策略为根据具有相同颜色通道的值的多个像素信号及所述目标纹理方向指示的插值方向对对应的原始图像信号做插值处理,所述第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的所述原始图像信号做插值处理。
8.根据权利要求7所述的图像传感器,其特征在于,所述图像传感器还用于:
根据多个所述第三像素信号及所述目标纹理方向指示的插值方向对所述第二原始图像信号中不具有第二颜色通道的值的部分像素信号进行插值处理,根据多个所述第三像素信号对所述第二原始图像信号中不具有第二颜色通道的值的另一部分像素信号进行插值处理;及
根据多个所述第四像素信号及所述目标纹理方向指示的插值方向对所述第三原始图像信号中不具有第三颜色通道的值的部分像素信号进行插值处理,根据多个所述第四像素信号对所述第三原始图像信号中不具有第三颜色通道的值的另一部分像素信号进行插值处理。
9.一种成像装置,其特征在于,包括权利要求1-8任意一项所述的图像传感器。
10.根据权利要求9所述的成像装置,其特征在于,所述成像装置还包括所述处理器,所述处理器用于处理用于表征作用于所述图像传感器中的第一颜色滤光片对应像素的光线的第一颜色通道的值的第一像素信号、用于表征作用于所述图像传感器中的第一颜色滤光片对应像素的光线的第一颜色通道的值的第二像素信号、用于表征作用于所述图像传感器中的第二颜色滤光片对应像素的光线的第二颜色通道的值的第三像素信号、及用于表征作用于所述图像传感器中的第三颜色滤光片对应像素的光线的第三颜色通道的值的第四像素信号以生成彩色图像。
11.根据权利要求10所述的成像装置,其特征在于,在所述图像传感器工作在静态模式时,所述中间图像信号包括第一中间图像信号、第二中间图像信号及第三中间图像信号,多个所述第一像素信号及多个所述第二像素信号形成所述第一中间图像信号,多个所述第三像素信号形成所述第二中间图像信号,多个所述第四像素信号形成所述第三中间图像信号;所述处理器还用于:
根据第一插值策略及第二插值策略对所述第二中间图像信号做插值处理,以使插值处理后的所述第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;
根据所述第一插值策略及所述第二插值策略对所述第三中间图像信号做插值处理,以使插值处理后的所述第三中间图像信号中的每一个像素信号均具有第三颜色通道的值;及
处理所述第一中间图像信号、插值处理后的所述第二中间图像信号、插值处理后的所述第三中间图像信号以生成所述彩色图像;
其中,所述第一插值策略为根据具有相同颜色通道的值的多个像素信号及所述目标纹理方向指示的插值方向对对应的所述中间图像信号做插值处理,所述第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的所述中间图像信号做插值处理。
12.根据权利要求11所述的成像装置,其特征在于,所述处理器还用于:
根据多个所述第三像素信号及所述目标纹理方向指示的插值方向对所述第二中间图像信号中不具有第二颜色通道的值的部分像素信号进行插值处理,根据多个所述第三像素信号对所述第二中间图像信号中不具有第二颜色通道的值的另一部分像素信号进行插值处理;
根据多个所述第四像素信号及所述目标纹理方向指示的插值方向对所述第三中间图像信号中不具有第三颜色通道的值的部分像素信号进行插值处理,根据多个所述第四像素信号对所述第三中间图像信号中不具有第三颜色通道的值的另一部分像素信号进行插值处理。
13.根据权利要求10所述的成像装置,其特征在于,在所述图像传感器工作在动态模式时,所述中间图像信号包括多个具有四个对应的颜色通道呈拜耳阵列排布的像素信号的图像信号单元;所述中间图像信号包括第一中间图像信号、第二中间图像信号、及第三中间图像信号,多个所述第一像素信号及多个所述第二像素信号形成所述第一中间图像信号,多个所述第三像素信号形成所述第二中间图像信号,多个所述第四像素信号形成所述第三中间图像信号;所述处理器还用于:
根据第一插值策略及第二插值策略对多个所述第一中间图像信号做插值处理,以使插值处理后的所述第一中间图像信号中的每一个像素信号均具有第一颜色通道的值;
根据所述第二插值策略对所述第二中间图像信号做插值处理,以使插值处理后的所述第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;
根据所述第二插值策略对所述第三中间图像信号做插值处理,以使插值处理后的所述第三中间图像信号中的每一个像素信号均具有第三颜色通道的值;及
处理插值处理后的所述第一中间图像信号、插值处理后的所述第二中间图像信号、插值处理后的所述第三中间图像信号以生成所述彩色图像;
其中,所述第一插值策略为根据具有相同颜色通道的值的多个像素信号及所述目标纹理方向指示的插值方向对对应的所述中间图像信号做插值处理,所述第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的所述中间图像信号做插值处理。
14.根据权利要求13所述的成像装置,其特征在于,所述处理器还用于:
根据多个所述第一像素信号、多个所述第二像素信号及所述目标纹理方向指示的插值方向对所述第一中间图像信号中不具有第一颜色通道的值的部分像素信号进行插值处理,根据多个所述第一像素信号及多个所述第二像素信号对所述第一中间图像信号中不具有第一颜色通道的值的另一部分像素信号进行插值处理;
根据多个所述第三像素信号对所述第二中间图像信号中不具有第二颜色通道的值的所有像素信号做插值处理,以使插值处理后的所述第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;
根据多个所述第四像素信号对所述第三中间图像信号中不具有第三颜色通道的值的所有像素信号做插值处理,以使插值处理后的所述第三中间图像信号中的每一个像素信号均具有第三颜色通道的值。
15.一种电子设备,其特征在于,包括成像装置,所述成像装置包括权利要求1-10任意一项所述的图像传感器。
16.一种图像处理系统,其特征在于,包括电子设备,所述电子设备包括成像装置,所述成像装置包括权利要求1-8任意一项所述的图像传感器。
17.一种信号处理方法,用于图像传感器,其特征在于,所述图像传感器包括滤光片阵列及像素阵列;所述滤光片阵列包括多个第一滤光片组和多个第二滤光片组,所述第一滤光片组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光片,所述第二滤光片组包括数量相同的多个所述第一颜色滤光片和多个第三颜色滤光片;所述像素阵列包括多个像素,每个所述像素对应所述滤光片阵列的一个滤光片,所述像素用于接收穿过对应的所述滤光片的光线以生成电信号;所述信号处理方法还包括:
将所述第一滤光片组对应的像素产生的电信号合并生成第一像素信号和第三像素信号,所述第一像素信号用于表征作用于所述第一滤光片组对应像素的光线的第一颜色通道的值,所述第三像素信号用于表征作用于所述第一滤光片组对应像素的光线的第二颜色通道的值;及
将所述第二滤光片组对应的像素产生的电信号合并生成第二像素信号和第四像素信号,所述第二像素信号用于表征作用于所述第二滤光片组对应像素的光线的第一颜色通道的值,所述第四像素信号用于表征作用于所述第二滤光片组对应像素的光线的第三颜色通道的值;
所述信号处理方法包括:
生成纹理图像信号,所述纹理图像信号中的多个所述纹理像素信号包括多个所述第一像素信号及多个所述第二像素信号;及
计算在每个待选纹理方向上两两相邻的所述纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,其中,所述待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向;
根据多个所述纹理像素信号差值计算对应的所述待选纹理方向的特征值;及
根据多个所述待选纹理方向的特征值确定对应所述纹理图像信号的目标纹理方向,所述目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
18.一种信号处理方法,用于图像传感器,其特征在于,所述图像传感器包括滤光片阵列及像素阵列;所述滤光片阵列包括多个滤光片组,每个所述滤光片组均包括多个第一颜色滤光片,多个所述滤光片组包括两类,第一类所述滤光片组还包括多个第二颜色滤光片,第二类所述滤光片组还包括多个第三颜色滤光片;所述像素阵列包括多个像素,每个所述像素对应所述滤光片阵列的一个滤光片,所述像素用于接收穿过对应的所述滤光片的光线以生成电信号;所述图像传感器工作在合并模式下时,每个第一类所述滤光片组对应的所述像素作为一个第一类合并像素,每个第二类所述滤光片组对应的所述像素作为一个第二类合并像素;所述信号处理方法包括:
将所述第一类合并像素中的像素产生的电信号合并生成第一像素信号,所述第一像素信号用于表征作用于所述第一类合并像素中的像素的光线的第一颜色通道的值;及
将所述第二类合并像素中的像素产生的电信号合并生成第二像素信号,所述第二像素信号用于表征作用于所述第二类合并像素中的像素的光线的第一颜色通道的值;
所述信号处理方法还包括:
生成纹理图像信号,所述纹理图像信号中的多个所述纹理像素信号包括多个所述第一像素信号及多个所述第二像素信号;及
计算在每个待选纹理方向上两两相邻的所述纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,其中,所述待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向;
根据多个所述纹理像素信号差值计算对应的所述待选纹理方向的特征值;及
根据多个所述待选纹理方向的特征值确定对应所述纹理图像信号的目标纹理方向,所述目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
19.一种信号处理方法,用于图像传感器,其特征在于,所述图像传感器包括滤光片阵列;所述滤光片阵列设置在像素阵列上,所述滤光片阵列包括多个第一滤光片组和多个第二滤光片组,所述第一滤光片组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光片,所述第二滤光片组包括数量相同的多个所述第一颜色滤光片和多个第三颜色滤光片;所述信号处理方法包括:
将所述第一滤光片组对应的像素产生的电信号合并生成第一像素信号和第三像素信号,所述第一像素信号用于表征作用于所述第一滤光片组对应像素的光线的第一颜色通道的值,所述第三像素信号用于表征作用于所述第一滤光片组对应像素的光线的第二颜色通道的值;及
将所述第二滤光片组对应的像素产生的电信号合并生成第二像素信号和第四像素信号,所述第二像素信号用于表征作用于所述第二滤光片组对应像素的光线的第一颜色通道的值,所述第四像素信号用于表征作用于所述第二滤光片组对应像素的光线的第三颜色通道的值;
所述信号处理方法还包括:
生成纹理图像信号,所述纹理图像信号中的多个所述纹理像素信号包括多个所述第一像素信号及多个所述第二像素信号;及
计算在每个待选纹理方向上两两相邻的所述纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,其中,所述待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向;
根据多个所述纹理像素信号差值计算对应的所述待选纹理方向的特征值;及
根据多个所述待选纹理方向的特征值确定对应所述纹理图像信号的目标纹理方向,所述目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
20.一种信号处理方法,用于图像传感器,其特征在于,所述图像传感器包括滤光片阵列及像素阵列;所述滤光片阵列包括多个第一颜色滤光片、多个第二颜色滤光片、及多个第三颜色滤光片,滤光片以两个所述第一颜色滤光片、一个所述第二颜色滤光片、一个所述第三颜色滤光片为一个单位,且每个所述单位中的两个所述第一颜色滤光片不相邻,一个所述第二颜色滤光片与一个所述第三颜色滤光片不相邻,在第一方向和第二方向上,多个所述单位均呈周期性排列,其中,所述第一方向与所述第二方向垂直;所述像素阵列包括多个像素,每个所述像素对应所述滤光片阵列的一个所述滤光片,所述像素用于接收穿过对应的所述滤光片的光线以生成电信号;所述信号处理方法包括:
将位于同一区域的多个所述第一颜色滤光片对应像素和多个所述第二颜色滤光片对应像素产生的电信号合并生成第一像素信号和第三像素信号,所述第一像素信号用于表征作用于所述第一颜色滤光片对应像素的光线的第一颜色通道的值,所述第三像素信号用于表征作用于所述第二颜色滤光片对应像素的光线的第二颜色通道的值;及
将位于同一区域的多个所述第一颜色滤光片对应像素和多个所述第三颜色滤光片对应像素产生的电信号合并生成第二像素信号和第四像素信号,所述第二像素信号用于表征作用于所述第一颜色滤光片对应像素的光线的第一颜色通道的值,所述第四像素信号用于表征作用于所述第三颜色滤光片对应像素的光线的第三颜色通道的值;
所述信号处理方法还包括:
生成纹理图像信号,所述纹理图像信号中的多个所述纹理像素信号包括多个所述第一像素信号及多个所述第二像素信号;及
计算在每个待选纹理方向上两两相邻的所述纹理像素信号之间的差值的绝对值以得到多个纹理像素信号差值,其中,所述待选纹理方向包括水平方向、垂直方向、对角方向、及反对角方向;
根据多个所述纹理像素信号差值计算对应的所述待选纹理方向的特征值;及
根据多个所述待选纹理方向的特征值确定对应所述纹理图像信号的目标纹理方向,所述目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种,所述目标纹理方向用于指示所述图像传感器输出至处理器的中间图像信号中的像素信号的插值方向。
21.根据权利要求17-20任意一项所述的信号处理方法,其特征在于,所述根据多个所述待选纹理方向的特征值确定对应所述纹理图像信号的所述目标纹理方向,包括:
从多个所述特征值中选取值最大的所述特征值;
在最大的所述特征值与剩余的所有所述特征值之间的差值均大于预定阈值时,确定值最大的所述特征值对应的所述待选纹理方向为所述目标纹理方向,其中当最大的特征值为水平方向的特征值,则与最大的特征值对应的待选纹理方向为垂直方向;当最大的特征值为垂直方向的特征值,则与最大的特征值对应的待选纹理方向为水平方向;当最大的特征值为对角方向的特征值,则与最大的特征值对应的待选纹理方向为反对角方向;当最大的特征值为反对角方向的特征值,则与最大的特征值对应的待选纹理方向为对角方向;
在最大的所述特征值与剩余的所有所述特征值之间的差值中存在一个所述差值小于所述预定阈值时,则确定所述目标纹理方向为平面方向。
22.根据权利要求17-20任意一项所述的信号处理方法,其特征在于,所述信号处理方法还包括:
处理用于表征作用于所述图像传感器中的第一颜色滤光片对应像素的光线的第一颜色通道的值的第一像素信号、用于表征作用于所述图像传感器中的第一颜色滤光片对应像素的光线的第一颜色通道的值的第二像素信号、用于表征作用于所述图像传感器中的第二颜色滤光片对应像素的光线的第二颜色通道的值的第三像素信号、及用于表征作用于所述图像传感器中的第三颜色滤光片对应像素的光线的第三颜色通道的值的第四像素信号以生成彩色图像;所述目标纹理方向包括水平方向、垂直方向、对角方向、反对角方向、及平面方向中的至少一种。
23.根据权利要求22所述的信号处理方法,其特征在于,在所述图像传感器工作在静态模式时,所述中间图像信号包括第一中间图像信号、第二中间图像信号及第三中间图像信号,多个所述第一像素信号及多个所述第二像素信号形成所述第一中间图像信号,多个所述第三像素信号形成所述第二中间图像信号,多个所述第四像素信号形成所述第三中间图像信号;处理所述第一像素信号、所述第二像素信号、所述第三像素信号、及所述第四像素信号以生成所述彩色图像,包括:
根据第一插值策略及第二插值策略对所述第二中间图像信号做插值处理,以使插值处理后的所述第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;
根据所述第一插值策略及所述第二插值策略对所述第三中间图像信号做插值处理,以使插值处理后的所述第三中间图像信号中的每一个像素信号均具有第三颜色通道的值;及
处理所述第一中间图像信号、插值处理后的所述第二中间图像信号、插值处理后的所述第三中间图像信号以生成所述彩色图像;
其中,所述第一插值策略为根据具有相同颜色通道的值的多个像素信号及所述目标纹理方向指示的插值方向对对应的所述中间图像信号做插值处理,所述第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的所述中间图像信号做插值处理。
24.根据权利要求23所述的信号处理方法,其特征在于,所述根据第一插值策略及第二插值策略对所述第二中间图像信号做插值处理,包括:
根据多个所述第三像素信号及所述目标纹理方向指示的插值方向对所述第二中间图像信号中不具有第二颜色通道的值的部分像素信号进行插值处理,根据多个所述第三像素信号对所述第二中间图像信号中不具有第二颜色通道的值的另一部分像素信号进行插值处理;
所述根据所述第一插值策略及所述第二插值策略对所述第三中间图像信号做插值处理,包括:
根据多个所述第四像素信号及所述目标纹理方向指示的插值方向对所述第三中间图像信号中不具有第三颜色通道的值的部分像素信号进行插值处理,根据多个所述第四像素信号对所述第三中间图像信号中不具有第三颜色通道的值的另一部分像素信号进行插值处理。
25.根据权利要求22所述的信号处理方法,其特征在于,所述图像传感器工作在动态模式时,所述信号处理方法还包括:
处理所述第一像素信号、所述第二像素信号、用于表征作用于所述第二颜色滤光片对应像素的光线的值的第三像素信号、及用于表征作用于所述第三颜色滤光片对应像素的光线的值的第四像素信号以输出所述中间图像信号;
其中,所述中间图像信号包括多个图像信号单元,每个所述图像信号单元均包括四个像素信号,其中两个所述像素信号具有第一颜色通道的值,另一个所述像素信号具有第二颜色通道的值,剩余一个所述像素信号具有第三颜色通道的值,四个所述像素信号对应的颜色通道呈拜耳阵列排布。
26.根据权利要求25所述的信号处理方法,其特征在于,多个所述第一像素信号及多个所述第二像素信号形成第一原始图像信号,多个所述第三像素信号形成第二原始图像信号,多个所述第四像素信号形成第三原始图像信号;处理所述第一像素信号、所述第二像素信号、所述第三像素信号、及所述第四像素信号以输出所述中间图像信号,包括:
根据第一插值策略及第二插值策略对所述第二原始图像信号做插值处理,以使插值处理后的所述第二原始图像信号中的每一个像素信号均具有第二颜色通道的值;
根据所述第一插值策略及所述第二插值策略对所述第三原始图像信号做插值处理,以使插值处理后的所述第三原始图像信号中的每一个像素信号均具有第三颜色通道的值;及
根据所述第一原始图像信号、插值处理后的所述第二原始图像信号、插值处理后的所述第三原始图像信号获取所述中间图像信号;
其中,所述第一插值策略为根据具有相同颜色通道的值的多个像素信号及所述目标纹理方向指示的插值方向对对应的原始图像信号做插值处理,所述第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的所述原始图像信号做插值处理。
27.根据权利要求26所述的信号处理方法,其特征在于,所述根据第一插值策略及第二插值策略对所述第二原始图像信号做插值处理,包括:
根据多个所述第三像素信号及所述目标纹理方向指示的插值方向对所述第二原始图像信号中不具有第二颜色通道的值的部分像素信号进行插值处理,根据多个所述第三像素信号对所述第二原始图像信号中不具有第二颜色通道的值的另一部分像素信号进行插值处理;
所述根据所述第一插值策略及所述第二插值策略对所述第三原始图像信号做插值处理,包括:
根据多个所述第四像素信号及所述目标纹理方向指示的插值方向对所述第三原始图像信号中不具有第三颜色通道的值的部分像素信号进行插值处理,根据多个所述第四像素信号对所述第三原始图像信号中不具有第三颜色通道的值的另一部分像素信号进行插值处理。
28.根据权利要求25所述的信号处理方法,其特征在于,所述中间图像信号包括第一中间图像信号、第二中间图像信号、及第三中间图像信号,多个所述第一像素信号及多个所述第二像素信号形成所述第一中间图像信号,多个所述第三像素信号形成所述第二中间图像信号,多个所述第四像素信号形成所述第三中间图像信号;处理所述第一像素信号、所述第二像素信号、所述第三像素信号、及所述第四像素信号以生成所述彩色图像,包括:
根据第一插值策略及第二插值策略对多个所述第一中间图像信号做插值处理,以使插值处理后的所述第一中间图像信号中的每一个像素信号均具有第一颜色通道的值;
根据所述第二插值策略对所述第二中间图像信号做插值处理,以使插值处理后的所述第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;
根据所述第二插值策略对所述第三中间图像信号做插值处理,以使插值处理后的所述第三中间图像信号中的每一个像素信号均具有第三颜色通道的值;及
处理插值处理后的所述第一中间图像信号、插值处理后的所述第二中间图像信号、插值处理后的所述第三中间图像信号以生成所述彩色图像;
其中,所述第一插值策略为根据具有相同颜色通道的值的多个像素信号及所述目标纹理方向指示的插值方向对对应的所述中间图像信号做插值处理,所述第二插值策略为根据具有相同颜色通道的值的多个像素信号对对应的所述中间图像信号做插值处理。
29.根据权利要求28所述的信号处理方法,其特征在于,所述根据第一插值策略及第二插值策略对所述第一中间图像信号做插值处理,包括:
根据多个所述第一像素信号、多个所述第二像素信号及所述目标纹理方向指示的插值方向对所述第一中间图像信号中不具有第一颜色通道的值的部分像素信号进行插值处理,根据多个所述第一像素信号及多个所述第二像素信号对所述第一中间图像信号中不具有第一颜色通道的值的另一部分像素信号进行插值处理;
所述根据所述第二插值策略对所述第二中间图像信号做插值处理,包括:
根据多个所述第三像素信号对所述第二中间图像信号中不具有第二颜色通道的值的所有像素信号做插值处理,以使插值处理后的所述第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;
所述根据所述第二插值策略对所述第三中间图像信号做插值处理,包括:
根据多个所述第四像素信号对所述第三中间图像信号中不具有第三颜色通道的值的所有像素信号做插值处理,以使插值处理后的所述第三中间图像信号中的每一个像素信号均具有第三颜色通道的值。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CNPCT/CN2019/077338 | 2019-03-07 | ||
PCT/CN2019/077338 WO2020177123A1 (en) | 2019-03-07 | 2019-03-07 | Color imaging system |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111225135A CN111225135A (zh) | 2020-06-02 |
CN111225135B true CN111225135B (zh) | 2021-07-16 |
Family
ID=70828353
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980077996.7A Active CN113170061B (zh) | 2019-03-07 | 2019-11-26 | 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 |
CN202010043131.3A Active CN111669483B (zh) | 2019-03-07 | 2020-01-15 | 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 |
CN202010060363.XA Active CN111225135B (zh) | 2019-03-07 | 2020-01-19 | 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 |
Family Applications Before (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980077996.7A Active CN113170061B (zh) | 2019-03-07 | 2019-11-26 | 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 |
CN202010043131.3A Active CN111669483B (zh) | 2019-03-07 | 2020-01-15 | 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11659294B2 (zh) |
EP (1) | EP3902242B1 (zh) |
CN (3) | CN113170061B (zh) |
WO (2) | WO2020177123A1 (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111968037A (zh) * | 2020-08-28 | 2020-11-20 | 维沃移动通信有限公司 | 数码变焦方法、装置和电子设备 |
KR20220043571A (ko) * | 2020-09-29 | 2022-04-05 | 에스케이하이닉스 주식회사 | 이미지 센싱 장치 및 그의 동작 방법 |
CN112822366B (zh) * | 2020-12-31 | 2022-07-01 | 维沃移动通信有限公司 | 电子设备及其摄像模组 |
CN113573030B (zh) * | 2021-07-01 | 2023-11-10 | Oppo广东移动通信有限公司 | 图像生成方法、装置、电子设备和计算机可读存储介质 |
CN113840067B (zh) * | 2021-09-10 | 2023-08-18 | Oppo广东移动通信有限公司 | 图像传感器、图像生成方法、装置和电子设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1964500A (zh) * | 2006-12-12 | 2007-05-16 | 北京中星微电子有限公司 | 一种色彩滤波阵列插值方法和装置 |
CN101001387A (zh) * | 2006-01-11 | 2007-07-18 | 华晶科技股份有限公司 | 利用多数决判断影像局部信息变化最少方向的方法 |
CN101557532A (zh) * | 2008-04-02 | 2009-10-14 | 英属开曼群岛商恒景科技股份有限公司 | 图案内插装置及方法 |
CN102938843A (zh) * | 2012-11-22 | 2013-02-20 | 华为技术有限公司 | 图像处理方法、装置以及成像设备 |
CN106303474A (zh) * | 2016-09-29 | 2017-01-04 | 杭州雄迈集成电路技术有限公司 | 一种基于g模式色彩滤波阵列的去马赛克方法及装置 |
US10565681B2 (en) * | 2014-09-15 | 2020-02-18 | Sj Dji Technology Co., Ltd. | System and method for image demosaicing |
Family Cites Families (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7623168B2 (en) * | 2000-07-13 | 2009-11-24 | Eastman Kodak Company | Method and apparatus to extend the effective dynamic range of an image sensing device |
KR20080106585A (ko) * | 2006-03-27 | 2008-12-08 | 엔엑스피 비 브이 | 컬러 비디오 신호 생성 방법 및 장치 |
JP2009004605A (ja) * | 2007-06-22 | 2009-01-08 | Fujifilm Corp | 撮像素子及び撮像装置 |
JP5247397B2 (ja) * | 2008-12-05 | 2013-07-24 | キヤノン株式会社 | 撮像装置及び撮像方法 |
US8068153B2 (en) * | 2009-03-27 | 2011-11-29 | Omnivision Technologies, Inc. | Producing full-color image using CFA image |
JP5359465B2 (ja) * | 2009-03-31 | 2013-12-04 | ソニー株式会社 | 固体撮像装置、固体撮像装置の信号処理方法および撮像装置 |
US8189080B2 (en) * | 2009-04-03 | 2012-05-29 | Sony Corporation | Orientation-based approach for forming a demosaiced image, and for color correcting and zooming the demosaiced image |
JP2011030213A (ja) * | 2009-07-01 | 2011-02-10 | Hoya Corp | 撮像素子 |
US8638342B2 (en) * | 2009-10-20 | 2014-01-28 | Apple Inc. | System and method for demosaicing image data using weighted gradients |
WO2011063347A2 (en) * | 2009-11-20 | 2011-05-26 | Pelican Imaging Corporation | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
JP5044673B2 (ja) * | 2010-03-25 | 2012-10-10 | 株式会社東芝 | 固体撮像装置および画像記録装置 |
JP5501448B2 (ja) * | 2010-04-20 | 2014-05-21 | 富士フイルム株式会社 | 撮像装置及び固体撮像素子の駆動方法 |
BR112012029513A2 (pt) | 2011-03-09 | 2016-12-06 | Fujifilm Corp | elemento de imageamento de cor. |
JP5425343B2 (ja) | 2011-06-30 | 2014-02-26 | 富士フイルム株式会社 | 撮像装置、撮像装置の制御方法、及び撮像装置の制御プログラム |
JP2013066157A (ja) * | 2011-08-31 | 2013-04-11 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP2013143730A (ja) * | 2012-01-12 | 2013-07-22 | Sony Corp | 撮像素子、撮像装置、電子機器および撮像方法 |
US9258549B2 (en) * | 2012-05-14 | 2016-02-09 | Intuitive Surgical Operations, Inc. | Single-chip sensor multi-function imaging |
JP6003316B2 (ja) | 2012-07-12 | 2016-10-05 | ソニー株式会社 | 固体撮像装置、電子機器 |
WO2014022965A1 (zh) * | 2012-08-07 | 2014-02-13 | 展讯通信(上海)有限公司 | 一种基于bayer格式图像的处理方法及装置 |
KR102178335B1 (ko) * | 2014-01-02 | 2020-11-12 | 삼성전자주식회사 | 이미지 센서의 비닝 방법 및 이미지 센서 |
JP6305169B2 (ja) * | 2014-04-07 | 2018-04-04 | キヤノン株式会社 | 固体撮像素子、撮像装置及びその制御方法、プログラム、記憶媒体 |
US9438866B2 (en) * | 2014-04-23 | 2016-09-06 | Omnivision Technologies, Inc. | Image sensor with scaled filter array and in-pixel binning |
US9888198B2 (en) * | 2014-06-03 | 2018-02-06 | Semiconductor Components Industries, Llc | Imaging systems having image sensor pixel arrays with sub-pixel resolution capabilities |
US9793306B2 (en) * | 2015-04-08 | 2017-10-17 | Semiconductor Components Industries, Llc | Imaging systems with stacked photodiodes and chroma-luma de-noising |
US9635325B2 (en) * | 2015-05-29 | 2017-04-25 | Semiconductor Components Industries, Llc | Systems and methods for detecting ultraviolet light using image sensors |
CN105430361B (zh) * | 2015-12-18 | 2018-03-20 | 广东欧珀移动通信有限公司 | 成像方法、图像传感器、成像装置及电子装置 |
CN105611258A (zh) * | 2015-12-18 | 2016-05-25 | 广东欧珀移动通信有限公司 | 图像传感器的成像方法、成像装置和电子装置 |
US10764515B2 (en) * | 2016-07-05 | 2020-09-01 | Futurewei Technologies, Inc. | Image sensor method and apparatus equipped with multiple contiguous infrared filter elements |
CN108419022A (zh) * | 2018-03-06 | 2018-08-17 | 广东欧珀移动通信有限公司 | 控制方法、控制装置、计算机可读存储介质和计算机设备 |
-
2019
- 2019-03-07 WO PCT/CN2019/077338 patent/WO2020177123A1/en active Application Filing
- 2019-11-26 WO PCT/CN2019/121074 patent/WO2020177407A1/zh active Application Filing
- 2019-11-26 CN CN201980077996.7A patent/CN113170061B/zh active Active
- 2019-11-26 EP EP19918351.8A patent/EP3902242B1/en active Active
-
2020
- 2020-01-15 CN CN202010043131.3A patent/CN111669483B/zh active Active
- 2020-01-19 CN CN202010060363.XA patent/CN111225135B/zh active Active
-
2021
- 2021-08-18 US US17/405,445 patent/US11659294B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101001387A (zh) * | 2006-01-11 | 2007-07-18 | 华晶科技股份有限公司 | 利用多数决判断影像局部信息变化最少方向的方法 |
CN1964500A (zh) * | 2006-12-12 | 2007-05-16 | 北京中星微电子有限公司 | 一种色彩滤波阵列插值方法和装置 |
CN101557532A (zh) * | 2008-04-02 | 2009-10-14 | 英属开曼群岛商恒景科技股份有限公司 | 图案内插装置及方法 |
CN102938843A (zh) * | 2012-11-22 | 2013-02-20 | 华为技术有限公司 | 图像处理方法、装置以及成像设备 |
US10565681B2 (en) * | 2014-09-15 | 2020-02-18 | Sj Dji Technology Co., Ltd. | System and method for image demosaicing |
CN106303474A (zh) * | 2016-09-29 | 2017-01-04 | 杭州雄迈集成电路技术有限公司 | 一种基于g模式色彩滤波阵列的去马赛克方法及装置 |
Non-Patent Citations (2)
Title |
---|
Color Filter Array Demosaicking Using High-Order Interpolation Techniques With a Weighted Median Filter for Sharp Color Edge Preservation;J.S.J.Li and S.Randhawa;《IEEE Transactions on Image Processing》;20090930;第8卷(第9期);全文 * |
基于结构保持的去马赛克算法研究;刘巧珍;《硕士学位论文》;20160131;全文 * |
Also Published As
Publication number | Publication date |
---|---|
WO2020177407A1 (zh) | 2020-09-10 |
CN111669483B (zh) | 2022-01-28 |
EP3902242B1 (en) | 2024-02-07 |
US20210392279A1 (en) | 2021-12-16 |
WO2020177123A1 (en) | 2020-09-10 |
EP3902242A4 (en) | 2022-03-23 |
CN113170061A (zh) | 2021-07-23 |
CN111669483A (zh) | 2020-09-15 |
CN113170061B (zh) | 2023-07-04 |
CN111225135A (zh) | 2020-06-02 |
US11659294B2 (en) | 2023-05-23 |
EP3902242A1 (en) | 2021-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111225135B (zh) | 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 | |
CN213279832U (zh) | 图像传感器、相机和终端 | |
JP6021541B2 (ja) | 画像処理装置及び方法 | |
CN108419028B (zh) | 图像处理方法、装置、计算机可读存储介质和电子设备 | |
CN110930301B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US9369693B2 (en) | Stereoscopic imaging device and shading correction method | |
CN107395991B (zh) | 图像合成方法、装置、计算机可读存储介质和计算机设备 | |
US20230007191A1 (en) | Image sensor, imaging apparatus, electronic device, image processing system, and signal processing method | |
CN111711755A (zh) | 图像处理方法及装置、终端和计算机可读存储介质 | |
CN113676708B (zh) | 图像生成方法、装置、电子设备和计算机可读存储介质 | |
CN107194901B (zh) | 图像处理方法、装置、计算机设备和计算机可读存储介质 | |
CN114125242A (zh) | 图像传感器、摄像模组、电子设备、图像生成方法和装置 | |
CN103621070B (zh) | 摄像装置及摄像装置的控制方法 | |
CN110930440B (zh) | 图像对齐方法、装置、存储介质及电子设备 | |
CN108769510B (zh) | 图像处理方法、装置、计算机可读存储介质和电子设备 | |
JP2018046324A (ja) | 撮像センサ及びその制御方法、撮像装置 | |
CN112866554B (zh) | 对焦方法和装置、电子设备、计算机可读存储介质 | |
JP2017204787A (ja) | 画像処理装置およびその制御方法、撮像装置、プログラム | |
CN113132692B (zh) | 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 | |
US20230222765A1 (en) | Image processing device, image processing method, and storage medium | |
WO2021143670A1 (zh) | 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 | |
JP2009164779A (ja) | 撮像装置 | |
CN113888439A (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
CN116055896A (zh) | 图像生成方法、装置及电子装置 | |
KR20230067491A (ko) | 이미지 센서, 어플리케이션 프로세서 및 이미지 센싱 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |