CN111683233B - Rgbw图像传感器、合并方法以及计算机可读介质 - Google Patents

Rgbw图像传感器、合并方法以及计算机可读介质 Download PDF

Info

Publication number
CN111683233B
CN111683233B CN202010160687.0A CN202010160687A CN111683233B CN 111683233 B CN111683233 B CN 111683233B CN 202010160687 A CN202010160687 A CN 202010160687A CN 111683233 B CN111683233 B CN 111683233B
Authority
CN
China
Prior art keywords
pixels
pixel
merging
white
red
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010160687.0A
Other languages
English (en)
Other versions
CN111683233A (zh
Inventor
闵桐基
金茂永
金智惠
柳钟珉
李侊铉
任俊爀
郑盛煐
玄恩帝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020190027615A external-priority patent/KR102680865B1/ko
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of CN111683233A publication Critical patent/CN111683233A/zh
Application granted granted Critical
Publication of CN111683233B publication Critical patent/CN111683233B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/447Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by preserving the colour pattern with or without loss of information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)

Abstract

提供了RGBW图像传感器、图像传感器中的合并方法以及用于执行该方法的计算机可读介质,该图像传感器中的合并方法包括:为构成具有一致阵列图案的RGBW图像传感器的像素阵列的红色像素、绿色像素、蓝色像素和白色像素中的每一个选择一个或多个合并目标像素;基于对应于合并目标像素的多条像素数据为红色像素、绿色像素、蓝色像素和白色像素中的每一个生成合并像素数据;以及重新排列由合并像素数据表示的像素,使其等于一致阵列图案的全部或部分,并且彼此等距间隔。

Description

RGBW图像传感器、合并方法以及计算机可读介质
相关专利的交叉引用
本申请要求于2019年3月11日在韩国知识产权局提交的韩国专利申请第10-2019-0027615号的优先权,其全部公开内容通过引用合并于此。
技术领域
与一个或多个示例实施例一致的装置和方法涉及RGBW图像传感器、图像传感器中的合并方法以及用于执行该方法的计算机可读介质。
背景技术
随着图像传感器的分辨率增加,由图像传感器生成的图像数据的大小增加。然而,随着由图像传感器生成的图像数据的大小增加,在视频模式下维持高帧速率变得越来越困难,并且功耗也增加。为了解决这种情况,通常通过使用相邻像素的数据生成单个像素来应用合并以减小图像数据的大小。
发明内容
一个或多个示例实施例的一个方面提供了一种图像传感器中的合并方法以及执行该方法的RGBW图像传感器,当将合并应用于RGBW图像传感器时,该合并方法能够减少由之字形现象引起的噪声。
根据示例实施例的一方面,提供了一种图像传感器中的合并方法,该合并方法包括:为构成具有一致阵列(uniform array)图案的RGBW图像传感器的像素阵列的红色像素、绿色像素、蓝色像素和白色像素中的每一个选择一个或多个合并目标像素;基于与所选择的一个或多个合并目标像素相对应的多条像素数据,为红色像素、绿色像素、蓝色像素和白色像素中的每一个生成合并像素数据;以及将由合并像素数据表示的像素重新排列为等于一致阵列图案的全部或部分,并且彼此等距间隔。
根据另一示例实施例的一方面,提供了一种RGBW图像传感器,包括:合并目标像素选择器,被配置为:为构成具有一致阵列图案的像素阵列的红色像素、绿色像素、蓝色像素和白色像素中的每一个选择一个或多个合并目标像素;合并像素数据生成器,被配置为基于与所选择的一个或多个合并目标像素相对应的多条像素数据,为红色像素、绿色像素、蓝色像素和白色像素中的每一个生成合并像素数据;以及重新排列器,被配置为将由合并像素数据表示的像素重新排列为等于一致阵列图案的全部或部分,并且彼此等距间隔。
根据另一示例实施例的一方面,提供了一种非暂时性计算机可读介质,其上记录有用于一个或多个程序的计算机程序代码,该计算机程序代码可由至少一个处理器运行以执行合并方法。
附图说明
通过结合附图进行的以下详细描述,将更清楚地理解上述及其他方面、特征和其他优点,其中:
图1是示出RGBW图案结构的示例的示图;
图2是示出像素阵列中包括的单位像素的示例的电路图;
图3是提供用于解释模拟域中的合并的概念的电路图;
图4是示出根据示例实施例的图像传感器中的合并方法的流程图;
图5是示出根据示例实施例的以一致的RGBW图案执行的合并方法的示图;
图6是示出根据示例实施例的通过将图像传感器中的合并方法应用于图5所示的RGBW图案来重新排列的结果的示图;
图7至图9是示出根据示例实施例的在图像传感器中的合并方法中关于红色像素的合并方法的各种示例实施例的示图;
图10是示出根据图9中示出的示例实施例的通过在图像传感器中应用合并方法来重新排列的结果的示图;
图11是示出根据另一示例实施例的以一致的RGBW图案执行的合并方法的示图;
图12是示出根据示例实施例的通过将图像传感器中的合并方法应用于图11所示的RGBW图案来重新排列的结果的示图;
图13至图15是示出根据示例实施例的在图像传感器中应用合并方法的效果的示图;
图16至图19是示出根据一个或多个示例实施例的图像传感器中的合并方法的示图;以及
图20是示出根据示例实施例的RGBW图像传感器的框图。
具体实施方式
图1是示出RGBW图案结构的示例的示图。
为了解决由像素缩小引起的灵敏度问题,除了现有技术的红色(R)、绿色(G)和蓝色(B)滤色器阵列(CFA)之外,如图1所示,还可以使用能够接收所有波段的光的白色CFA。
同时,图像传感器可以执行合并以通过使用低功率在诸如视频模式下获得高质量图像等。这里,即使在仅使用R、G和B像素的现有技术的拜耳(Bayer)结构中,也提供了用于执行合并的方法。在示例实施例中,提供了在除了红色像素、绿色像素和蓝色像素之外还使用白色像素的RGBW图像传感器中的合并方法,以及执行该方法的RGBW图像传感器。
图2是示出像素阵列中包括的单位像素20的示例的电路图,并且图3是示出模拟域中的合并概念的电路图。参考图2,单位像素20可以包括光电二极管21、转移晶体管23、电容器24、复位晶体管25、感测晶体管27和行选择晶体管29。
在如图3所示的模拟域中的合并中,为了在生成视频等时的低功率操作,可以在模拟域中接通转移晶体管23-1至23-4的所有栅极,因此存储在光电二极管21-1至21-4中的电子可以在电容器24中被组合并且可以被源极跟随器读取。
在数字域中的合并可以是这样一种方法:其中相对应的像素被模数转换并被读取,然后可以被相加。这里,在极低光条件下的功耗或噪声可能很高。
图4是示出根据示例实施例的图像传感器中的合并方法的流程图,图5是示出根据示例实施例的以一致的(uniform)RGBW图案执行的合并方法的示图,图6是示出通过将根据示例实施例的图像传感器中的合并方法应用于图5所示的RGBW图案来重新排列的结果的示图。
参考图4,根据示例实施例的图像传感器中的合并方法可以包括:为构成像素阵列的红色像素、绿色像素、蓝色像素和白色像素中的每一个选择一个或多个合并目标像素(操作S100);基于与合并目标像素相对应的多条像素数据,为红色像素、绿色像素、蓝色像素和白色像素的每一个生成合并像素数据(操作S200);以及将由合并像素数据所表示的像素重新排列为等于一致阵列图案的全部或部分,并且彼此等距间隔(操作S300)。
操作S100可以是用于为红色像素、绿色像素、蓝色像素和白色像素中的每一个选择合并目标像素的方法,并且可以取决于图像传感器的像素阵列所具有的阵列图案来应用任何其他选择方法。在本说明书中,将以示例的方式描述两个阵列图案(如图5和图11所示),尽管应当理解,例如,如权利要求中所定义的,其他阵列图案也可以被应用,并且被认为是在本公开的范围内。
在操作S200中,基于与合并目标像素相对应的多条像素数据,为红色像素、绿色像素、蓝色像素和白色像素中的每一个生成合并像素数据。这里,合并像素数据可以是多条像素数据的算术平均值或总和。
详细地,在操作S100中,当为特定颜色选择的合并目标像素包括两个或更多个合并目标像素时,可以获得与所选择的合并目标像素相对应的多条像素数据的算术平均值或总和,并且可以将其算术平均值或其总和作为合并像素数据来提供。当在操作S100中为特定颜色选择的合并目标像素是单个合并目标像素时,对应像素具有的像素数据可以被提供作为合并像素数据。
在操作S300中,由合并像素数据表示的像素被重新排列为等于一致阵列图案的全部或部分,并且彼此等距间隔。这将在下面详细描述。
图5中示出的RGBW图案可以包括顺序排列的第一行、第二行、第三行和第四行。第一行、第二行、第三行和第四行可以在RGBW图案中重复且顺序地彼此相邻地排列。在第一行中,顺序排列绿色像素、白色像素、绿色像素和白色像素。在第二行中,顺序排列白色像素、红色像素、白色像素和蓝色像素。在第三行中,顺序排列绿色像素、白色像素、绿色像素和白色像素。在第四行中,顺序排列白色像素、蓝色像素、白色像素和红色像素。
当在根据示例实施例的合并方法的操作S300中重新排列由所生成的合并像素数据表示的像素时,所有像素可以被排列为等于像素阵列最初具有的阵列图案,或者至少部分像素被重新排列为与像素阵列最初具有的阵列图案彼此相等,同时新的重新排列的像素需要被排列为彼此等距间隔。
详细地,如图5的示例中所示,当图像传感器的像素阵列具有阵列图案(其第一行中顺序排列绿色像素、白色像素、绿色像素和白色像素,第二行中顺序排列白色像素、红色像素、白色像素和蓝色像素,第三行中顺序排列绿色像素、白色像素、绿色像素和白色像素,第四行中顺序排列白色像素、蓝色像素、白色像素和红色像素)时,在操作S300中重新排列的图案的全部或部分也可以被重新排列为具有相同的阵列图案。
图6示出了根据示例实施例的通过将图像传感器中的合并方法应用于图5所示的RGBW图案来重新排列的结果。这里,参考图6中的重新排列的图案,在第一行中,可以排列绿色像素G2、白色像素W1和绿色像素G5,并且白色像素W36和红色像素Rb在下一个像素中重叠。在第二行中,可以排列白色像素W2、蓝色像素B1和白色像素W3,并且要被填充下一个像素的位置b是空的。在第三行中,可以顺序排列绿色像素G4、白色像素W4、绿色像素G7和白色像素W9,其中白色像素W4和红色像素Ra重叠。在第四行中,可以顺序排列白色像素W7、白色像素W10和蓝色像素B3,并且第二像素位于其中的位置a为空。
可以确认的是,如图6所示重新排列的图案除了至少一部分以外具有与图5所示的原始像素阵列相同的图案。所述图案的不相同的部分可以仅位于第一和第三行中红色和白色重叠的位置以及在第二和第四行中为空的位置。同时,其余图案可以与原始RGBW图像传感器的像素阵列具有的阵列图案相同。
在操作S100中,可以为构成像素阵列的红色像素、绿色像素、蓝色像素和白色像素中的每一个选择一个或多个合并目标像素。在图5和图6所示的示例实施例中,用于绿色像素、蓝色像素和白色像素中的每一个的合并目标像素可以包括从具有相同颜色的像素所位于的最接近的两行或三行中选择的具有相同颜色的四个像素。
详细地,在绿色像素的情况下,例如,可以选择图5中所示的g1、g2、g3和g4作为单个合并目标像素组,并且可以执行合并。具有相同颜色的四个像素g1、g2、g3和g4的合并性能结果在图6中被示为G2。此外,可以选择图5中所示的g5、g6、g7和g8作为另一个合并目标像素组,并且可以执行合并。具有相同颜色的四个像素g5、g6、g7和g8的合并性能结果在图6中被示为G5。以类似的方式,可以对G4和G7执行合并。
在白色像素的情况下,例如,可以选择图5中所示的w1、w2、w3和w4作为单个合并目标像素组,并且可以执行合并。具有相同颜色的四个像素w1、w2、w3和w4的合并性能结果在图6中被示为W1。此外,可以选择图5中所示的w5、w6、w7和w8作为另一个合并目标像素组,并且可以执行合并。这里,具有相同颜色的四个像素w5、w6、w7和w8的合并性能结果在图6中被示为W2。以类似的方式,可以选择图5中所示的w9、w10、w11和w12作为另一个合并目标像素组,并且可以执行合并。这里,具有相同颜色的四个像素w9、w10、w11和w12的合并性能结果在图6中被示为W3。以类似的方式,可以对W9、W7、W10等执行合并。
在蓝色像素的情况下,例如,可以选择图5中所示的b1、b2、b3和b4作为单个合并目标像素组,并且可以执行合并。具有相同颜色的四个像素b1、b2、b3和b4的合并性能结果在图6中被示为B1。以类似的方式,可以对B3等执行合并。
在图5和图6所示的示例实施例中,在将由合并像素数据表示的像素重新排列为等于一致阵列图案的全部或部分并且彼此等距间隔(操作S300)时,可以确认图像被重新排列的位置是具有相同颜色的四个像素的重心的位置,其中该图像由基于与用于绿色像素、蓝色像素和白色像素中的每一个的合并目标像素相对应的多条像素数据所生成的合并像素数据来表示。
然而,在图5和图6所示的示例性实施例中,操作S300的重新排列的结果可能与原始图像传感器的像素阵列的阵列图案不完全相同。在这方面,在红色像素的情况下,当可以以与绿色像素、蓝色像素和白色像素中的每一个的合并方法相同的方式将重新排列位置排列为具有相同颜色的四个像素的重心的位置时,按预期,要排列的位置可能与图6中的a或b位置不同。详细地,在图5中,四个红色像素r1、r2、r3和r4的重心的位置可以与放置指示具有不同颜色的像素的合并结果数据的像素的位置重叠。红色像素r1、r2、r3和r4的合并性能结果可以被放置在图6的a中。然而,如果将合并性能结果重新排列到四个红色像素r1、r2、r3和r4的重心的位置,则它可能不与图6中的a重叠而与W4的位置重叠。
然而,如上所述,即使当重新排列操作的结果可能与原始图像传感器的像素阵列的阵列图案不完全相同时,在根据示例实施例的操作S300中执行的重新排列也会导致彼此等距间隔的像素。在这方面,可以不会发生在现有技术中可能出现的之字形现象。下面将参考图13至图15对此进行描述。此外,即使在具有图5所示的阵列图案的像素阵列的情况下,排列方法也可以变化,使得其可以与原始图像传感器的像素阵列的阵列图案完全相同。下面将参考图10对此进行描述。
图7至图9是示出根据示例实施例的图像传感器中的合并方法中的关于红色像素的合并方法的各种示例实施例的示图。图10是示出根据图9中示出的示例实施例的通过在图像传感器中应用合并方法来重新排列的结果的示图。
在操作S100(图4)中,在选择要作为合并的目标的红色像素时,可以考虑模拟域中的电路配置的困难。图7至图9是概括其中各个像素在模拟域中彼此连接并且像素的阵列图案与例如图5所示的像素阵列图案相同的状态的示图。
在图7至图9中,图7示出了示例实施例,其中选择四个像素,即红色像素r1、r2、r3和r4作为合并目标像素以生成图6中的Ra。换句话说,当在图5中r1所在的行被称为顶行时,将r2和r3所在的行称为中间行,将r4所在的行称为底行,四个红色像素r1、r2、r3和r4可以被选择为一个来自顶行、两个来自中间行并且一个来自底行以作为合并目标像素。在这种情况下,图像被重新排列的位置可以是如上所述的四个红色像素的重心的位置,其中该图像由基于与用于每个红色像素的合并目标像素相对应的多条像素数据而生成的合并像素数据来表示。
另一方面,考虑到模拟电路配置的困难,r2和r3可能不容易与r1和r4捆绑在一起作为单个合并目标像素组。因此,在操作S100中,其中一个选自顶行以及另一个选自底行的两个红色像素可以被选择作为用于红色像素的合并目标像素。例如,在从图5所示的示例实施例中的阵列图案中选择用于红色像素的合并目标像素时,如图8所示,红色像素r2和r3除外,可以仅选择红色像素r1和r4,并且可以仅对两个红色像素执行合并,使得可以生成Ra。此外,在这种情况下,图像Ra被重新排列的位置可以是两个红色像素的中间位置,该图像Ra由基于与用于每个红色像素的合并目标像素相对应的多条像素数据而生成的合并像素数据来表示。
此外,如图9所示,在顶行、中间行和底行中,从底行中选择的单个红色像素可以被选择作为用于红色像素的合并目标像素。在这种情况下,图像被重新排列的位置可以与红色像素的位置相同,该图像由基于与用于每个红色像素的合并目标像素相对应的多条像素数据而生成的合并像素数据来表示。换句话说,在四个红色像素r1、r2、r3和r4中,从底行中选择的r4可以是被选为合并目标像素的唯一一个。在这种情况下,图像Ra被重新排列的位置可以与r4的位置相同,该图像Ra由基于用于r4的多条像素数据而生成的合并像素数据来表示。在这种情况下,具有图5所示的阵列图案的像素阵列被排列为图10所示的像素阵列,并且图10中示出的阵列图案可以与构成原始像素阵列的阵列图案完全相同。
总之,在为构成像素阵列的红色像素、绿色像素、蓝色像素和白色像素的每一个选择一个或多个合并目标像素时(操作S100),用于红色像素的合并目标像素可以是从红色像素所位于的最接近的三行中的一个或多个中选择的红色像素。
图13至图15是示出根据示例实施例的在图像传感器中应用合并方法的效果的示图。图13至图15中的每个图的最左边的示图共同地示出了根据现有技术的以RGB图案执行合并的结果,图13至图15中的每个图的中心的示图示出了根据图7中示出的示例实施例的合并性能结果,而图13至图15中的每个图的最右边的示图示出了根据图8中示出的示例实施例的合并性能结果。
根据如在图13至图15中的每个图的最左边的示图中所示的基于现有技术的以RGB图案执行合并的结果,由于诸如由之字形现象引起的噪声的问题,与图13至图15中的每个图的中心示图和最右边的示图相比,可以共同地确认图像质量下降。另一方面,如图7所示的通过选择四个红色像素作为合并目标像素来执行合并的结果和如图8所示的通过选择两个红色像素作为合并目标像素来执行合并的结果相互比较。作为比较的结果,如通过图13至15中的中心示图和最右边的示图所确认的,没有显著差异。
图11是示出根据另一示例实施例的以一致的RGBW图案执行的合并方法的示图。图12是示出根据示例实施例的通过将图像传感器中的合并方法应用于图11所示的RGBW图案来重新排列的结果的示图。
图11中所示的RGBW阵列图案与图5所示的阵列图案不同。详细地,可以顺序且重复地布置如下行:第一行,其中绿色像素、白色像素、红色像素和白色像素顺序排列;第二行,其中白色像素、绿色像素、白色像素和红色像素顺序排列;第三行,其中蓝色像素、白色像素、绿色像素和白色像素顺序排列;以及第四行,其中白色像素、蓝色像素、白色像素和绿色像素顺序排列。
作为根据示例实施例的对具有阵列图案的像素阵列执行合并的结果,可以执行重新排列操作S300(图4),以允许整体或部分等于原始阵列图案并且彼此等距间隔。
为此,在由合并像素数据表示的、要等于一致阵列图案的全部或部分并且彼此等距间隔的重新排列像素中(操作S300),其中图像被重新排列的位置可以被确定为在以下位置当中的一个:合并目标像素所位于的相同位置、在对角线方向上接近合并目标像素的位置、以及多个合并目标像素的重心的位置。
详细地,在白色像素的情况下,例如,选择图11中所示的w1、w2、w3和w4作为单个合并目标像素组,并且可以执行合并。具有相同颜色的四个像素w1、w2、w3和w4的合并性能结果在图12中被示为W0。此外,可以选择图11中所示的w5、w6、w7和w8作为另一个合并目标像素组,并且可以执行合并。这里,具有相同颜色的四个像素w5、w6、w7和w8的合并性能结果在图12中被示为W39。以类似的方式,可以选择图11中所示的w9、w10、w11和w12作为另一个合并目标像素组,并且可以执行合并。这里,具有相同颜色的四个像素w9、w10、w11和w12的合并性能结果在图12中被示为W2。以类似的方式,可以对W4、W5、W6、W7等执行合并。根据示例实施例,在对阵列图案中的白色像素执行合并之后图像被重新排列到的位置可以是多个合并目标像素的重心的位置。
在绿色像素的情况下,例如,可以选择图11所示的g1、g2和g3作为单个合并目标像素组,并且可以执行合并。具有相同颜色的三个像素g1、g2和g3的合并性能结果在图12中被示为G1。此外,可以选择图11中所示的g5、g6和g7作为单个合并目标像素组,并且可以执行合并。这里,具有相同颜色的三个像素g5、g6和g7的合并性能结果在图12中被示为G3。以类似的方式,可以对G2、G4等执行合并。根据示例实施例,在对阵列图案中的绿色像素执行合并之后,图像被重新排列到的位置可以与所选择的合并目标像素所位于的位置相同,或者与在对角线方向上接近所述合并目标像素的位置相同。
在蓝色像素的情况下,例如,可以选择图11所示的b5作为合并目标像素组,并且可以执行合并。像素b5的合并性能结果在图12中被示为B1。另外,可以选择图11所示的b6作为合并目标像素组,并且可以执行合并。这里,像素b6的合并性能结果在图12中被示为B3。
在红色像素的情况下,以类似的方式,例如,可以选择图11中所示的r2作为合并目标像素组,并且可以执行合并。像素r2的合并性能结果在图12中被示为R1。此外,可以选择图11中所示的r6作为合并目标像素组,并且可以执行合并。这里,像素r6的合并性能结果在图12中被示为R3。
根据示例实施例,在对阵列图案中的蓝色像素和红色像素执行合并之后图像被重新排列到的位置是在对角线方向上接近所选择的合并目标像素的位置。
图16至图19是示出根据一个或多个示例实施例的图像传感器中的合并方法的示图。
首先,参考图16,可以从图像传感器的像素阵列30生成合并像素阵列40。像素阵列30的像素可以以RGBW的形式排列。根据示例实施例,图像传感器选择像素阵列30中至少部分的像素作为合并目标像素,重新排列从合并目标像素获得的合并像素数据,并且因此构成合并像素阵列40。合并像素阵列40中包括的像素可以被排列为具有一致的图案。
以下,参考图17至图19,将描述选择合并目标像素并且构成合并像素阵列40的各种示例实施例。然而,应当理解,参考图17至图19描述的示例实施例仅是示例,并且可以基于本公开的方面附加地得出各种修改。
首先,参考图17,选择像素阵列30中在对角线方向上彼此相邻的一些蓝色像素作为合并目标像素b0、b3、b10和b14,以构成合并像素阵列40的蓝色像素B0和B1。合并像素阵列40中的每个蓝色像素B0和B1的位置可以是用于构成每个蓝色像素B0和B1的合并目标像素b0、b3、b10和b14的中点。即,合并像素阵列40中的蓝色像素B0的位置可以是合并目标像素b0和b3的中点,合并像素阵列40中的蓝色像素B1的位置可以是合并目标像素b10和b14的中点。
在图17所示的本示例实施例中,合并像素阵列40的红色像素R0和R1、绿色像素G0至G3以及白色像素W0至W7可以以类似于蓝色像素B0和B1的方法构成。例如,可以通过选择在像素阵列30中的对角线方向上彼此相邻的一些红色像素作为合并目标像素r1、r5、r11和r14来确定红色像素R0和R1。
接下来,参考图18,在合并像素阵列40中,蓝色像素B0和B1、红色像素R0和R1以及绿色像素G0至G3可以以与参考图17描述的示例实施例类似的方法来构成。然而,在图18所示的示例实施例中,可以通过基于在白色像素W0至W7中的每一个的位置处在对角线方向上彼此相邻的四个合并目标像素来生成白色像素W0至W7。
例如,合并像素阵列40的第一白色像素W0可以由在第一白色像素W0的位置处在对角线方向上彼此相邻的四个合并目标像素w2、w4、w14和w16构成。以类似的方式,第二白色像素W1可以由在第二白色像素W1的位置处在对角线方向上彼此相邻的四个合并目标像素w13、w15、w25和w27构成。
在图19中示出的示例实施例中,合并像素阵列40的蓝色像素B0和B1、红色像素R0和R1以及绿色像素G0至G3可以使用与图17和图18所示的示例实施例类似的方法来形成。然而,在图19所示的示例实施例中,通过将与白色像素W0至W7中的每一个的位置相对应的目标像素与在白色像素W0至W7中的每一个的位置处在对角线方向上彼此相邻的四个合并目标像素合并,可以生成白色像素W0至W7。换句话说,白色像素W0至W7中的每一个可以由从五个合并目标像素获得的数据构成。
例如,合并像素阵列40的第一白色像素W0可以由位于第一白色像素W0的位置的单个合并目标像素w5和在第一白色像素W0的位置处在对角线方向上彼此相邻的四个合并目标像素w2、w4、w14和w16构成。以类似的方式,第三白色像素W2可以由位于第三白色像素W2的位置的单个合并目标像素w11,以及在第三白色像素W2的位置处在对角线方向上彼此相邻的四个合并目标像素w8、w10、w20和w22构成。
图20是示出根据示例实施例的RGBW图像传感器10的框图。RGBW图像传感器10可以包括合并目标像素选择单元100(例如,合并目标像素选择器)、合并像素数据生成单元200(例如,合并像素数据生成器)和重新排列单元300(例如,重新排列器)。
合并目标像素选择单元100为红色像素、绿色像素、蓝色像素和白色像素中的每一个选择一个或多个合并目标像素,其中红色像素、绿色像素、蓝色像素和白色像素构成具有一致阵列图案的像素阵列。
合并像素数据生成单元200基于与合并目标像素相对应的多条像素数据,为红色像素、绿色像素、蓝色像素和白色像素中的每一个生成合并像素数据。
重新排列单元300将由所生成的合并像素数据表示的像素重新排列为等于一致阵列图案的全部或部分,同时彼此等距间隔。
合并目标像素选择单元100的操作对应于图4中的操作S100和对应的描述,合并像素数据生成单元200的操作对应于图4中的操作S200和对应的描述,重新排列单元300的操作对应于图4中的操作S300和对应的描述。因此,可以参考图4至图15以及详细描述的对应部分来理解合并目标像素选择单元100、合并像素数据生成单元200和重新排列单元300的具体技术说明和效果,因此,这里将省略其冗余描述以避免重复。
应当理解,在本说明书中使用的术语“单元”是指软件和/或硬件组件,例如现场可编程门阵列(FPGA)或专用集成电路(ASIC),并且该单元执行某些功能。但是,单元不限于软件或硬件。单元可以被配置为在可寻址存储介质上或被配置为由一个或多个处理器运行。因此,作为一个示例,单元包括组件,诸如软件组件、面向对象的软件组件、类组件和任务组件,以及处理、功能、属性、过程、子例程、程序代码段、驱动器、固件、微代码、电路、数据、数据库、数据结构、表、数组和变量。在组件和单元内提供的功能可以组合为较少数量的组件和单元,或进一步分离为其他组件和单元。另外,可以将组件和单元实现为在一个或多个处理器(例如,设备中的中央处理单元(CPU))上运行。
此外,根据一个或多个示例实施例,作为包括用于一个或多个程序的计算机程序代码的计算机可读介质,计算机可读介质中包括的计算机程序代码可以被配置为由至少一个处理器根据图4及对应的描述中描述的操作S100至操作S300在图像传感器中执行合并方法。
如上所述,当在根据示例实施例的RGBW图像传感器中应用合并时,根据示例实施例的图像传感器中的合并方法以及用于执行该方法的计算机可读介质,可以减少由之字形现象引起的噪声。
尽管上面已经示出和描述了示例实施例,但是对于本领域技术人员而言显而易见的是,在不脱离由所附权利要求限定的本公开的范围的情况下,可以做出修改和变化。

Claims (18)

1.一种图像传感器中的合并方法,包括:
为构成具有一致阵列图案的RGBW图像传感器的像素阵列的红色像素、绿色像素、蓝色像素和白色像素中的每一个选择一个或多个合并目标像素;
基于与所选择的一个或多个合并目标像素相对应的多条像素数据,为红色像素、绿色像素、蓝色像素和白色像素中的每一个生成合并像素数据;以及
将由合并像素数据表示的像素重新排列为等于一致阵列图案的全部或部分,并且彼此等距间隔,
其中,重新排列的像素包括红色、绿色、蓝色和白色像素,
在重新排列像素时,将像素被重新排列的位置确定为以下位置当中的一个:与合并目标像素所在的位置相同的位置、在对角线方向上接近合并目标像素的位置以及多个合并目标像素的重心的位置;
一致阵列图案是在其中第一行、第二行、第三行和第四行被顺序排列的阵列图案;以及
在第一行中顺序排列绿色像素、白色像素、绿色像素和白色像素,在第二行中顺序排列白色像素、红色像素、白色像素和蓝色像素,在第三行中顺序排列绿色像素、白色像素、绿色像素和白色像素,并且在第四行中顺序排列白色像素、蓝色像素、白色像素和红色像素。
2.根据权利要求1所述的合并方法,其中,在选择所述一个或多个合并目标像素时,用于绿色像素、蓝色像素和白色像素中的每一个的所述一个或多个合并目标像素包括从具有相同颜色的像素所在的最接近的两行或最接近的三行中选择的、具有相同颜色的四个像素。
3.根据权利要求2所述的合并方法,其中,在重新排列像素时,图像被重新排列的位置是具有相同颜色的四个像素的重心的位置,其中该图像由基于与用于绿色像素、蓝色像素和白色像素中的每一个的合并目标像素相对应的多条像素数据而生成的合并像素数据来表示。
4.根据权利要求1所述的合并方法,其中,在选择所述一个或多个合并目标像素时,用于红色像素的合并目标像素是从红色像素所位于的最接近的三行中的一个或多个行中选择的红色像素。
5.根据权利要求4所述的合并方法,其中,用于红色像素的合并目标像素包括四个红色像素,该四个红色像素被选择为来自所述最接近的三行的顶行中的一个、来自所述最接近的三行的中间行中的两个、来自所述最接近的三行的底行中的一个。
6.根据权利要求5所述的合并方法,其中,在重新排列像素时,图像被重新排列的位置是四个红色像素的重心的位置,其中,该图像由基于与用于每个红色像素的合并目标像素相对应的多条像素数据而生成的合并像素数据来表示。
7.根据权利要求4所述的合并方法,其中,用于红色像素的合并目标像素包括两个红色像素,该两个红色像素被选择为来自所述最接近的三行的顶行中的一个以及来自所述最接近的三行的底行中的一个。
8.根据权利要求7所述的合并方法,其中,在重新排列像素时,图像被重新排列的位置是两个红色像素的中间位置,其中,该图像由基于与用于每个红色像素的合并目标像素相对应的多条像素数据而生成的合并像素数据来表示。
9.根据权利要求4所述的合并方法,其中,用于红色像素的合并目标像素包括从所述最接近的三行的底行中选择的单个红色像素。
10.根据权利要求9所述的合并方法,其中,在重新排列像素时,图像重新排列的位置是与单个红色像素的位置相同的位置,其中,该图像由基于与用于红色像素的合并目标像素相对应的多条像素数据而生成的合并像素数据来表示。
11.根据权利要求1所述的合并方法,其中,在生成合并像素数据时,合并像素数据是所述多条像素数据的算术平均值或总和。
12.一种图像传感器中的合并方法,包括:
为构成具有一致阵列图案的RGBW图像传感器的像素阵列的红色像素、绿色像素、蓝色像素和白色像素中的每一个选择一个或多个合并目标像素;
基于与所选择的一个或多个合并目标像素相对应的多条像素数据,为红色像素、绿色像素、蓝色像素和白色像素中的每一个生成合并像素数据;以及
将由合并像素数据表示的像素重新排列为等于一致阵列图案的全部或部分,并且彼此等距间隔,
其中,重新排列的像素包括红色、绿色、蓝色和白色像素,
在重新排列像素时,将像素被重新排列的位置确定为以下位置当中的一个:与合并目标像素所在的位置相同的位置、在对角线方向上接近合并目标像素的位置以及多个合并目标像素的重心的位置;
一致阵列图案是在其中第一行、第二行、第三行和第四行被顺序排列的阵列图案;以及
在第一行中顺序排列绿色像素、白色像素、红色像素和白色像素,在第二行中顺序排列白色像素、绿色像素、白色像素和红色像素,在第三行中顺序排列蓝色像素、白色像素、绿色像素和白色像素,并且在第四行中顺序排列白色像素、蓝色像素、白色像素和绿色像素。
13.根据权利要求12所述的合并方法,其中,在选择所述一个或多个合并目标像素时,用于白色像素的合并目标像素包括从具有相同颜色的像素所位于的最接近的两行中选择的四个白色像素。
14.根据权利要求13所述的合并方法,其中,在重新排列像素时,图像被重新排列的位置是四个白色像素的重心的位置,其中,该图像由基于与用于白色像素的合并目标像素相对应的多条像素数据而生成的合并像素数据来表示。
15.根据权利要求14所述的合并方法,其中,在重新排列像素时,图像被重新排列的位置是从白色像素的重心位置开始沿垂直方向或水平方向隔开单个像素距离的位置,该图像由基于与用于绿色像素、蓝色像素和红色像素中的每一个的合并目标像素相对应的多条像素数据而生成的合并像素数据来表示。
16.根据权利要求15所述的合并方法,其中,在选择所述一个或多个合并目标像素时,用于绿色像素、蓝色像素和红色像素中的每一个的合并目标像素是基于图像被重新排列的位置从位于对角线方向上紧邻的像素中选择的、具有相同颜色的一个或两个像素,该图像由基于与用于绿色像素、蓝色像素和红色像素中的每一个的合并目标像素相对应的多条像素数据而生成的合并像素数据来表示。
17.一种RGBW图像传感器,包括:
合并目标像素选择器,被配置为为构成具有一致阵列图案的像素阵列的红色像素、绿色像素、蓝色像素和白色像素中的每一个选择一个或多个合并目标像素;
合并像素数据生成器,被配置为基于与所选择的一个或多个合并目标像素相对应的像素数据,为红色像素、绿色像素、蓝色像素和白色像素中的每一个生成合并像素数据;以及
重新排列器,被配置为将由合并像素数据表示的像素重新排列为等于一致阵列图案的全部或部分,并且彼此等距间隔,
其中,重新排列的像素包括红色、绿色、蓝色和白色像素,
重新排列器将像素被重新排列的位置确定为以下位置当中的一个:与合并目标像素所在的位置相同的位置、在对角线方向上接近合并目标像素的位置以及多个合并目标像素的重心的位置;
一致阵列图案是在其中第一行、第二行、第三行和第四行被顺序排列的阵列图案;以及
在第一行中顺序排列绿色像素、白色像素、绿色像素和白色像素,在第二行中顺序排列白色像素、红色像素、白色像素和蓝色像素,在第三行中顺序排列绿色像素、白色像素、绿色像素和白色像素,并且在第四行中顺序排列白色像素、蓝色像素、白色像素和红色像素。
18.一种非暂时性计算机可读介质,其上记录了用于一个或多个程序的计算机程序代码,计算机程序代码可由至少一个处理器运行以用于执行权利要求1所述的方法。
CN202010160687.0A 2019-03-11 2020-03-10 Rgbw图像传感器、合并方法以及计算机可读介质 Active CN111683233B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020190027615A KR102680865B1 (ko) 2019-03-11 Rgbw 이미지 센서, 이미지 센서의 비닝 방법 및 그 방법을 수행하기 위한 기록 매체
KR10-2019-0027615 2019-03-11

Publications (2)

Publication Number Publication Date
CN111683233A CN111683233A (zh) 2020-09-18
CN111683233B true CN111683233B (zh) 2024-06-18

Family

ID=72423436

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010160687.0A Active CN111683233B (zh) 2019-03-11 2020-03-10 Rgbw图像传感器、合并方法以及计算机可读介质

Country Status (2)

Country Link
US (1) US11089242B2 (zh)
CN (1) CN111683233B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220125103A (ko) * 2021-03-04 2022-09-14 삼성전자주식회사 이미지 센서 및 이의 동작 방법
US11350048B1 (en) 2021-07-25 2022-05-31 Shenzhen GOODIX Technology Co., Ltd. Luminance-adaptive processing of hexa-deca RGBW color filter arrays in CMOS image sensors
US11778337B2 (en) 2021-11-09 2023-10-03 Samsung Electronics Co., Ltd. Image sensor and method for sensing image
CN116132812A (zh) 2021-11-12 2023-05-16 三星电子株式会社 图像传感器和图像传感器的操作方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150013454A (ko) * 2012-05-14 2015-02-05 소니 주식회사 촬상 장치 및 촬상 방법, 전자 기기, 및 프로그램
KR20150080870A (ko) * 2014-01-02 2015-07-10 삼성전자주식회사 이미지 센서의 비닝 방법 및 이미지 센서

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5323233A (en) 1990-07-31 1994-06-21 Canon Kabushiki Kaisha Image signal processing apparatus having a color filter with offset luminance filter elements
JP2002320235A (ja) 2001-04-19 2002-10-31 Fujitsu Ltd 空間解像度の低下を抑えて縮小画像信号を生成するcmosイメージセンサ
US7893976B2 (en) * 2006-12-01 2011-02-22 Eastman Kodak Company Light sensitivity in image sensors
US8237808B2 (en) * 2007-01-17 2012-08-07 Sony Corporation Solid state imaging device and imaging apparatus adjusting the spatial positions of pixels after addition by controlling the ratio of weight values during addition
JP4359634B2 (ja) * 2007-06-21 2009-11-04 シャープ株式会社 カラー固体撮像装置、および画素信号の読み出し方法
US8169521B2 (en) 2008-05-20 2012-05-01 Sywe Neng Lee Image sampling method and image processing method thereof
KR101086501B1 (ko) 2008-11-26 2011-11-25 주식회사 하이닉스반도체 이미지 데이터 프로세싱 방법, 이미지센서 및 집적회로
US8525895B2 (en) 2010-07-29 2013-09-03 Apple Inc. Binning compensation filtering techniques for image signal processing
US8780238B2 (en) * 2011-01-28 2014-07-15 Aptina Imaging Corporation Systems and methods for binning pixels
US9521338B2 (en) 2011-11-08 2016-12-13 Rambus Inc. Image sensor sampled at non-uniform intervals
KR20130104756A (ko) 2012-03-15 2013-09-25 삼성전자주식회사 영상 촬영 장치 및 이에 포함된 이미지 센서
CN104205809B (zh) * 2012-03-28 2016-06-15 富士胶片株式会社 固体摄像元件、摄像装置及固体摄像元件的驱动方法
KR20150099716A (ko) * 2012-12-25 2015-09-01 소니 주식회사 고체 촬상 소자 및 그 구동 방법, 및 전자 기기
JP2015195550A (ja) * 2014-03-28 2015-11-05 パナソニックIpマネジメント株式会社 撮像素子および撮像装置
US9686485B2 (en) * 2014-05-30 2017-06-20 Apple Inc. Pixel binning in an image sensor

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150013454A (ko) * 2012-05-14 2015-02-05 소니 주식회사 촬상 장치 및 촬상 방법, 전자 기기, 및 프로그램
KR20150080870A (ko) * 2014-01-02 2015-07-10 삼성전자주식회사 이미지 센서의 비닝 방법 및 이미지 센서

Also Published As

Publication number Publication date
KR20200108953A (ko) 2020-09-22
US11089242B2 (en) 2021-08-10
US20200295096A1 (en) 2020-09-17
CN111683233A (zh) 2020-09-18

Similar Documents

Publication Publication Date Title
CN111683233B (zh) Rgbw图像传感器、合并方法以及计算机可读介质
US11308897B2 (en) Display device, display control method and driving device
US7929807B2 (en) Colour binning of a digital image to reduce the image resolution
JP2007518117A5 (zh)
JP4098438B2 (ja) カラー撮像素子及びカラー撮像装置
US20100149393A1 (en) Increasing the resolution of color sub-pixel arrays
US9767742B2 (en) Image display device
KR101086501B1 (ko) 이미지 데이터 프로세싱 방법, 이미지센서 및 집적회로
KR20070065112A (ko) 색 보정 장치 및 방법
US20090102768A1 (en) Imaging device and display apparatus
JP2008064771A (ja) 表示パネルの駆動装置、それを備えた表示装置及び表示パネルの駆動方法、並びにプログラム、記録媒体
JP2003108999A5 (zh)
US9549161B2 (en) Image and video in mosaic formats
JP6934283B2 (ja) ディスプレイの画像表示方法、及びディスプレイ
US8970748B2 (en) Imaging device, storage medium storing a control program for imaging device, and control method for imaging device
KR102680865B1 (ko) Rgbw 이미지 센서, 이미지 센서의 비닝 방법 및 그 방법을 수행하기 위한 기록 매체
JP6662764B2 (ja) イメージセンサ、電子装置
RU2547140C1 (ru) Устройство формирования изображений и способ управления устройством формирования изображений
JP7371129B2 (ja) カラーフィルタアレイ装置
JP5335566B2 (ja) 高精細映像信号処理装置
JP4119566B2 (ja) カラー撮像素子及びカラー撮像装置
JP4997167B2 (ja) 画像分割処理用の画像信号処理装置、方法及びプログラム
CN112042185B (zh) 图像传感器以及相关电子装置
JP6903824B2 (ja) 投影装置とその制御方法及び制御プログラム
JP2005532004A (ja) 信号処理方法、信号処理装置、コンピュータプログラムプロダクト、コンピュータシステム、およびカメラ

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant