CN110663252B - 使用双图像传感器进行图像处理的方法和设备 - Google Patents
使用双图像传感器进行图像处理的方法和设备 Download PDFInfo
- Publication number
- CN110663252B CN110663252B CN201880033047.4A CN201880033047A CN110663252B CN 110663252 B CN110663252 B CN 110663252B CN 201880033047 A CN201880033047 A CN 201880033047A CN 110663252 B CN110663252 B CN 110663252B
- Authority
- CN
- China
- Prior art keywords
- sensor
- detected
- data
- wavelength region
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/13—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with multiple sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
- H04N25/136—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Human Computer Interaction (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
本公开涉及利用IoT来融合5G通信系统以支持超4G系统的更高数据速率的通信技术及其系统。本公开可以应用于基于5G通信技术和基于IoT相关技术的智能服务(例如,智能家居、智能建筑、智慧城市、智能汽车、联网汽车、医疗保健、数字教育、智能零售、安保和安全相关服务等)。此外,本发明提供了一种使用双图像传感器进行图像处理的方法和设备,更具体地,提供了一种使用具有不同光量的图像传感器进行图像处理的方法和设备。
Description
技术领域
本公开涉及使用双图像传感器的图像处理方法和装置,并且更具体地涉及使用能够检测不同光量的图像传感器的图像处理方法和装置。
背景技术
为了满足对自4G通信系统的部署以来对无线数据业务的不断增长的需求,已经努力开发改进的5G或pre-5G通信系统。因此,5G或pre-5G通信系统也被称作“Beyond 4G网络”或“Post LTE系统”。5G无线通信系统被认为实现于较高的频率(mmWave)频段(例如,60GHz频段)中,以便实现更高的数据速率。为了减轻减少无线电波的路径损失并增加传输距离,在5G无线通信系统中讨论了波束成形、大规模多输入多输出(MIMO)、全维MIMO(FD-MIMO)、阵列天线、模拟波束成形和大型天线技术。另外,在5G通信系统中,正在基于高级小型小区、云无线接入网络(RAN)、超密集网络、设备到设备(D2D)通信、无线回程、移动网络、协作通信、协同多点(CoMP)、接收端干扰消除等进行对系统网络改进的开发。在5G系统中,已经开发了作为高级编码调制(ACM)的混合FSK和QAM调制(FQAM)和滑动窗口叠加编码(SWSC),以及作为高级接入技术的滤波器组多载波(FBMC)、非正交多址接入(NOMA)和稀疏码多址接入(SCMA)。
互联网从人类生成和消费信息的以人为中心的连接网络演变成物联网(IoT),在物联网中,诸如事物的分布式实体在不需要人为干预的情况下交换或处理信息。通过与云服务器的连接将大数据处理技术与IoT技术相结合的万物互联(IoE)已经出现。为了实现IOT,需要诸如“感测技术”、“有线/无线通信和网络基础设施”、“服务接口技术”和“安全技术”等技术元素,近来对传感器网络、机器到机器(M2M)通信、机器类型通信(MTC)等进行了研究。这种IoT环境可以提供智能互联网技术服务:通过收集和分析在所连接的事物之间生成的数据来为人类生活创造新的价值。通过现有信息技术(IT)与各种行业应用之间的融合和结合,IoT可以应用于包括智能家居、智能建筑、智慧城市、智能汽车或联网汽车、智能电网、医疗保健、智能家电和高级医疗服务的各个领域。
与此一致,已经进行了各种尝试以将5G通信系统应用于IoT网络。例如,可以通过波束成形、MIMO和阵列天线来实现诸如传感器网络、机器类型通信(MTC)、机器到机器(M2M)通信的技术。作为上述的大数据处理技术的云RAN应用也可以被认为是5G技术与IoT技术之间融合的示例。
通常,用于应用了5G技术或IoT技术的终端和相机设备的图像传感器可以使用应用了拜耳图案的RGB传感器来获得图像的方案。在这种情况下,RGB传感器仅使每个像素接收的红/绿/蓝光中的所需颜色区域通过,使用光电二极管将通过的颜色区域转换为电信号,并存储该电信号。
发明内容
技术问题
通过RGB传感器的光可以通过为每个颜色区域应用的滤镜,因此RGB传感器可以获得接收到的光量的1/3。
因此,为了在弱光环境下获得图像,RGB传感器的SN特征劣化。因此,难以获得高质量的图像。
问题的解决方案
根据本公开的一方面,提供了一种支持双图像传感器系统的电子设备的图像处理方法,包括:通过设置在所述电子设备中的第一传感器和第二传感器检测数据;以及基于所述第一传感器检测到的数据和所述第二传感器检测到的数据来合成图像,其中,所述第一传感器和所述第二传感器是颜色传感器,并且所述第二传感器检测到的光量大于所述第一传感器检测到的光量。
所述第一传感器和所述第二传感器包括多个单位单元,并且所述第一传感器和所述第二传感器的相应单位单元检测到的波长区域彼此不重叠。
所述第一传感器使用带通滤波器来检测数据,并且所述第二传感器使用带阻滤波器来检测数据。
所述第一传感器检测与预定的第一波长区域、预定的第二波长区域或预定的第三波长区域相关联的数据,并且所述第二传感器检测与预定的第四波长区域、预定的第五波长区域或预定的第六波长区域相关联的数据,并且所述第二传感器检测到的光量是所述第一传感器检测到的光量的两倍。
所述图像合成操作包括:将所述第二传感器检测到的数据的域转换为所述第一传感器检测到的数据的域;以及基于被转换了域的所述第二传感器数据和所述第一传感器检测到的数据来合成图像。
所述图像合成操作包括:对被转换了域的所述第二传感器数据进行视差校正;以及基于视差校正后的第二传感器数据和所述第一传感器检测到的数据来合成所述图像。
根据本公开的一个方面,一种支持双图像传感器系统的电子设备,包括:设置在所述电子设备中的第一传感器;设置在所述电子设备中的第二传感器;以及控制器,所述控制器被配置为基于所述第一传感器检测到的数据和所述第二传感器检测到的数据来合成图像,其中,所述第一传感器和所述第二传感器是颜色传感器,并且所述第二传感器检测到的光量大于所述第一传感器检测到的光量。
所述第一传感器和所述第二传感器包括多个单位单元,并且所述第一传感器和所述第二传感器的相应单位单元检测到的波长区域彼此不重叠。
所述第一传感器包括带通滤波器,所述第二传感器包括带阻滤波器。
所述第一传感器检测与第一波长区域、第二波长区域或第三波长区域相关联的数据,并且所述第二传感器检测与第四波长区域、第五波长区域或第六波长区域相关联的数据,并且所述第二传感器检测到的光量是所述第一传感器检测到的光量的两倍。
所述控制器被配置为将所述第二传感器检测到的数据的域转换为所述第一传感器检测到的数据的域,并基于所述第二传感器的被转换了域的数据和所述第一传感器检测到的数据来合成图像。
所述控制器对被转换了域的所述第二传感器数据进行视差校正,并基于所述第二传感器的视差校正后的数据和所述第一传感器检测到的数据来合成所述图像。
根据本公开的一个方面,一种支持双透镜系统的终端,包括:第一透镜,所述第一透镜包括第一传感器;第二透镜,所述第二透镜包括第二传感器;以及控制器,所述控制器被配置为基于所述第一透镜检测到的数据和所述第二透镜检测到的数据来合成图像,其中,所述第一传感器和所述第二传感器是颜色传感器,并且所述第二传感器检测到的光量大于所述第一传感器检测到的光量。所述第一传感器和所述第二传感器包括多个单位单元,并且所述第一传感器和所述第二传感器的相应单位单元检测到的波长区域彼此不重叠。
所述第一传感器包括带通滤波器,所述第二传感器包括带阻滤波器。
所述第一传感器检测与第一波长区域、第二波长区域或第三波长区域相关联的数据,并且所述第二传感器检测与第四波长区域、第五波长区域或第六波长区域相关联的数据,并且所述第二传感器检测到的光量是所述第一传感器检测到的光量的两倍。
所述控制器被配置为将所述第二透镜检测到的数据的域转换为所述第一透镜检测到的数据的域,并基于所述第二透镜的被转换了域的数据和所述第一透镜检测到的数据来合成图像。
所述控制器对被转换了域的所述第二透镜数据进行视差校正,并基于第二透镜的视差校正后的数据和所述第一透镜检测到的数据来合成所述图像。
本发明的有益效果
根据实施例,与通过常规RGB传感器获得的光量相比,通过图像传感器获得的光量可以增加,因此,可以改善在弱光环境下获得的图像的SN特征。
另外,通过两个彩色图像传感器获得图像,因此,可以提高图像深度信息的准确性。
附图说明
图1是RGB传感器的波长特性的曲线图;
图2a是示出RGB传感器检测到的图像的视图;
图2b是示出单色传感器检测到的图像的视图;
图2c是示出RGB传感器检测到的亮度信息的视图;
图2d是示出单色传感器检测到的亮度信息的视图;
图3是示出根据本公开的实施例的第一传感器和第二传感器检测到的光源的视图;
图4是示出根据本公开的实施例的图像处理方法的流程图;
图5是示出根据本公开的实施例的电子设备的配置的视图;以及
图6是示出根据本公开的实施例的终端的配置的视图。
具体实施方式
在解释本公开的示例性实施例时,将省略对本公开所属领域中公知的并且与本公开不直接相关联的技术内容的说明。省略不必要的解释是为了更加清楚地传达本公开的主题而不是模糊它。
出于同样的原因,附图中的一些元件可能被夸大、省略或简要说明。此外,各个元件的尺寸不完全反映其实际尺寸。在附图中,相同或相应的元件具有相同的附图标记。
通过对参考附图详细描述的实施例进行参考,本公开的优点和特征以及实现它们的方法将是显而易见的。然而,本公开不限于下文所公开的实施例,并且本公开可以以各种形式实现。提供以下实施例仅是为了完全地公开本公开并将本公开的范围告知本领域技术人员,并且本公开被仅限定在所附权利要求的范围内。在整个说明书中,相同或相似的附图标记表示相同或相似的元件。
在此,将理解的是,流程图图示的每个块以及流程图图示中的块的组合可以由计算机程序指令实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器以产生机器,使得经由计算机或其他可编程数据处理装置的处理器执行的指令创建用于实现流程图块或块中指定的功能的装置。这些计算机程序指令也可以存储在计算机可用或计算机可读存储器中,其可以指示计算机或其他可编程数据处理装置以特定方式起作用,使得存储在计算机可用或计算机可读存储器中的指令产生包含指令装置的制品,该指令装置实现流程图块或块中指定的功能。计算机程序指令也可以加载到计算机或其他可编程数据处理装置上,以使得在计算机或其他可编程装置上执行一系列操作步骤,从而产生计算机实现的过程,使得在计算机或其他可编程装置上执行的指令提供用于实现流程图块或块中指定的功能的步骤。
而且,流程图图示的每个块可以表示代码的模块、段或部分,该代码包括用于实现指定的逻辑功能的一个或更多个可执行指令。还应当注意,在某些替代实施方式中,块中提到的功能可以不按顺序发生。例如,连续示出的两个块实际上可以基本上同时地执行,或者这些块有时可以以相反的顺序执行,这取决于所涉及的功能。
如本文使用的“单元”表示执行预定功能的软件组件或硬件组件,例如现场可编程门阵列(FPGA)或专用集成电路(ASIC)。然而,“单元”并不意味着限于软件或硬件。该“单元”可以被配置为存储在可寻址存储介质中或者被配置为执行一个或更多个处理器。因此,作为示例,“单元”可以包括:软件组件、面向对象的软件组件、类组件或任务组件、进程、函数、属性、过程、子例程、程序代码段、驱动程序、固件、微代码、电路、数据、数据库、数据结构、表、阵列和参数。组件和“单元”提供的功能可以组合成更少的组件和“单元”或者进一步分成更多的组件和“单元”。此外,组件和“单元”可以被实现为再现设备或安全多媒体卡内的一个或更多个CPU。同样,在实施例中,“〜单元”可以包括一个或更多个处理器。
图像传感器是被配置为将从外部输入的光转换为电信号并执行图像处理的设备。也就是说,图像传感器是用于检测光学图像的强度和颜色并将检测到的数据转换成数字图像数据的设备。
图像传感器被用作便携式电话相机和数码相机的必要组件,并且可以根据图像感测方案而被分类为电荷耦合器件(CCD)图像传感器和CMOS图像传感器。
CCD图像传感器包括大量的光学二极管器件。如果将光发射到光学二极管器件,则可以根据光量产生电子,并且根据产生的电子的数量来产生图像。也就是说,CCD图像传感器照原样输出由光引起的电子,并且可以包括低噪声并且图像质量高。
相反,CMOS图像传感器将产生的电子转换成电压并将其输出,因此,处理速度快并且消耗的电量低。另外,生产的单位成本低,并且CMOS图像传感器作为片上生产,因此,易于集成并且以较小的尺寸制造。因此,适用于便携式电子设备,例如,便携式电话相机和数码相机。
但是,CMOS图像传感器在弱光环境中不稳定,并且捕获的图像中的噪声可能会增加。
然而,尽管存在弱点,但考虑到其有竞争力的价格和较小的尺寸,CMOS图像传感器的使用率仍在增加。因此,需要一种弥补CMOS图像传感器的弱点的方法。
代表性地,使用拜耳图案的RGB传感器可以是CMOS图像传感器的示例。
红色(R)、绿色(G)和蓝色(B)滤波器中的一个滤波器与应用了拜耳图案的RGB传感器的单个传感器单元组合在一起。RGB传感器具有网格形式的阵列。特别地,在RGB传感器中,G、R以及B以网格的形式设置,并且G占据整个单元区域的50%,并且R和B中的每个占据整个单元区域的25%。
本公开提供一种使用两个图像传感器来处理图像的方法,作为弥补所公开的CMOS图像传感器(即,RGB传感器)的弱点的方法。
图1是RGB传感器的波长特性的曲线图。
如上所述,在RGB传感器的情况下,为每个传感器单元包括带通滤波器。特别地,如图1的曲线图所示,可以应用带通滤波器,带通滤波器的波长具有大约470nm、530nm和600nm的中心带。
具有对应于470nm的中心带的带通滤波器可以感测蓝色数据。具有对应于530nm的中心带的带通滤波器可以感测绿色数据。具有对应于600nm的中心带的带通滤波器可以感测红色数据。
也就是说,RGB传感器可以包括带通滤波器,每个带通滤波器仅使红色、绿色、蓝色数据中的一种数据通过,并且RGB传感器检测到的光量可以约为发射光量的1/3。
因此,RGB传感器可能无法在弱光环境中感应到足够量的光用于图像处理,并且在合成的图像中可能存在大量的噪点。
为了克服上述问题,可以考虑使用两个RGB传感器的双图像传感器系统。但是,即使使用了两个RGB传感器,在弱光环境下的图像中的噪声也没有得到明显改善。因此,需要一种新的解决方案。
如上所述,在弱光环境下产生噪声的原因是传感器检测到的光量不足以合成图像。因此,使用能够检测大量光的传感器的方案可以解决上述问题。
因此,可以考虑将能够检测所有发射的光的单色传感器与RGB传感器一起用作双图像传感器的方案。将参考图2a至图2d提供其详细描述。
图2a是示出RGB传感器检测到的图像的视图。图2b是示出单色传感器检测到的图像的视图。
更特别地,图2a和图2b是示出从RGB传感器和单色传感器获得的麦克白图表数据的图,并且麦克白图表指示用于颜色测量和比较的颜色表。
此处,单色传感器是不包括带通滤波器的传感器,并且可以感测较宽的波长范围(400 nm至700 nm的范围)内的光。因此,在弱光环境下可以进行无噪声的图像处理。
单色传感器将图像的倍率和色差检测为亮度信息。因此,可以降低彩色图像的清晰度,并且,通常来说,倍率和色差是不可校正的。
因此,如果使用单色传感器,则不管在弱光环境下传感器的SN性能是否得到改善,由于单色传感器中的颜色分离的不一致,可以降低彩色图像的清晰度。
在图2a中用虚线表示的部分(即与RGB传感器相关联的麦克白图表)中,共存在三个单元区域a1、a2和a3,并且这些单元区域彼此的颜色不同。
相反,单色传感器可以在与RGB传感器相关联的麦克白图表相同的区域(由虚线表示的部分)中具有相同的单元图像(或相同的颜色)。
根据实施例,RGB传感器可以将由虚线表示的部分中的区域a1区分为蓝色区域,将区域a2区分为红色区域,并且将区域a3区分为黑色区域。相反,单色传感器可以将区域a1、a2和a3感测为相同的图像区域。
如上所述,单色传感器将图像的色差检测为亮度信息。将参考图2c至图2d提供其详细描述。
图2c是示出RGB传感器检测到的亮度信息的视图。图2d是示出单色传感器检测到的亮度信息的视图。
图2c和2d中的虚线表示的部分可以与图2a和2b中的虚线表示的部分相同。也就是说,如图2a所示,虚线表示的部分中包括的区域a1、a2和a3可以具有不同的颜色。
根据实施例,RGB传感器检测到的区域a1、a2和a3的亮度值可以彼此不同。因此,RGB传感器可以仅使用亮度信息来区分区域a1、a2和a3。根据实施例,可以通过组合亮度信息和色差信息来合成图像。
相反,单色传感器在由虚线表示的区域a1、a2和a3中检测到的亮度信息可以具有与图2d所示相同的值。根据实施例,以相同的亮度示出了图2d中的虚线表示的三个区域。也就是说,仅使用亮度信息合成图像的单色传感器可以将虚线表示的区域a1、a2和a3感测为相同的图像区域。
因此,通过考虑图2a至2d的RGB传感器与单色传感器之间的特性差异,将RGB传感器和单色传感器用作双图像传感器的方案是不合适的,因为单色传感器无法区分颜色。
因此,为了将一传感器与RGB传感器一起用作双图像传感器,这个传感器需要能够区分颜色,并且需要能够检测到比RGB传感器更大的光量,从而在弱光环境下具有出色的SN特性。
因此,本公开提供了一种双图像传感器系统,该双图像传感器系统使用包括带阻滤波器的互补传感器以及RGB传感器。
特别地,根据本公开,包括在双图像传感器系统中的第一传感器可以感测与预定的第一波长区域、预定的第二波长区域或预定的第三波长区域相关联的数据。第二传感器可以感测与第四波长区域、第五波长区域或第六波长区域相关联的数据。
在此,第一波长区域、第二波长区域和第三波长区域可以是与RGB传感器的红色、绿色和蓝色相对应的波长区域。例如,第一波长区域是中心为600nm的波长区域。第二波长区域是中心为530nm的波长区域。第三波长区域是中心为470nm的波长。
通过相同的方式,第四波长区域、第五波长区域和第六波长区域可以是与互补传感器的品红色、黄色和青色相对应的波长区域。因此,本公开的第一传感器可以包括RGB传感器,并且第二传感器可以包括互补传感器。
图3是示出根据本公开的实施例的第一传感器和第二传感器检测到的光源的视图。
根据本公开,第一传感器可以感测与第一波长区域、第二波长区域或第三波长区域相关联的数据。也就是说,可以检测与光学三原色(红色、绿色或蓝色)相关联的数据。第一传感器能够检测与光学三原色相关联的数据的原因是,第一传感器包括如图1的描述中提到的带通滤波器。可以根据通过带通滤波器的波长区域来确定检测到的数据的颜色信息。
通过相同的方式,第二传感器可以感测与第四波长区域、第五波长区域或第六波长区域相关联的数据。也就是说,可以检测与色彩三原色(品红色、黄色或青色)相关联的数据。在此,色彩三原色表示通过物体的反射而获得的颜色。
具有预定颜色的物体可以吸收与其他颜色相关联的光(波长),并且可以反射与预定颜色相关联的光(波长)。例如,具有绿色的颜色的物体可以吸收与红色和蓝色相关联的光(波长),并且可以反射与绿色相关联的光(波长)。
因此,如图3所示,物体可以吸收与对应于红色和蓝色的组合的品红色相关联的光。通过相同的方式,可以通过组合红色和绿色来获得黄色。可以通过组合绿色和蓝色获得青色。
因此,考虑到图3的光学三原色(红色、绿色和蓝色)与色彩三原色(品红色、黄色和青色)之间的关系,可以确定可以使用能去除具有预定波长的带阻滤波器实现检测色彩三原色的第二传感器。
例如,可以使用能去除600nm的波长区域(即红色的波长区域)的带阻滤波器来实现检测与品红色相关联的数据的第二传感器。
而且,第一传感器和第二传感器可以包括多个单位单元。在这种情况下,第一传感器和第二传感器的相应单位单元检测到的波长区域彼此不重叠。
例如,如果第一传感器的第一单元能够仅检测中心为470nm的第一波长区域,并且能够检测与蓝色相关联的数据,则第二传感器的第一单元可能能够检测不包括中心为470nm的波长的第四波长区域,并且能够检测与黄色相关联的数据。
图4是示出根据本公开的实施例的图像处理方法的流程图。
在操作S410,可以检测与第一传感器和第二传感器相关联的数据。如上所述,第一传感器可以感测与作为光学三原色的第一波长区域、第二波长区域或第三波长区域(红色、绿色或蓝色)相关联的数据,并且RGB传感器可以包括在第一传感器中。
通过相同的方式,第二传感器可以感测与作为色彩三原色的第四波长区域、第五波长区域或第六波长区域(黄色、品红色或青色)相关联的数据,并且互补传感器可以包括在第二传感器中。
第一传感器可以经由仅允许预定波长区域通过的带通滤波器来感测数据,并且第二传感器可以经由仅去除预定波长区域的带阻滤波器来感测数据。
因此,第二传感器能够检测到比第一传感器更大的光量,并且可以改善包括第一传感器和第二传感器的电子设备的SN性能。
例如,如果第一传感器使红色的波长区域通过,并去除绿色和蓝色的波长区域,并且第二传感器去除红色的波长区域,并且使绿色和蓝色的波长区域通过,则第二传感器检测到的量可以是第一传感器检测到的光量的两倍。因此,可以将包括第一传感器和第二传感器的电子设备的SN性能提高倍。
在操作S420,控制器将第二传感器检测到的数据的域转换为第一传感器检测到的数据的域。
如上所述,第二传感器检测到的数据的域与品红色、黄色和青色相关联,因此该域可以与第一传感器检测到的数据的域不同。
因此,在将第一传感器检测到的数据和第二数据检测到的数据进行组合之前,可以将第二传感器检测到的数据的域转换成第一传感器数据的域。
具体地,在操作S420,基于等式1,可以将第二传感器检测到的数据的域转换为第一传感器检测到的数据的域。
[等式1]
R=(Y+M-C)/2, G=(Y-M+C)/2, B=(-Y+M+C)/2
R为第一传感器检测到的第一波长区域的光量,G为第一传感器检测到的第二波长区域的光量,B为第一传感器检测到的第三波长区域的光量,Y为第二传感器检测到的第四波长区域的光量,M为第二传感器检测到的第五波长区域的光量,C为第二传感器检测到的第六波长区域的光量。
根据等式1,可以将第二传感器检测到的与品红色、黄色和青色相关联的数据转换为与红色、绿色和蓝色相关联的数据。
随后,在操作S430,控制器可以对被转换了域的第二传感器数据执行视差校正。
通常,设置在电子设备中的第一传感器和第二传感器可以不设置在相同的位置并且可以彼此不重叠。因此,尽管检测到相同的图像,但是与第一传感器检测到的图像相关联的数据信息和与第二传感器检测到的图像相关联的数据信息可以彼此不同。
因此,如果将第一传感器获得的数据和第二传感器获得的数据进行组合,则可能发生错误。因此,为了防止发生错误,可以对第二传感器检测到的数据进行视差校正。
视差校正的方法可以根据在电子设备中设置第一传感器和第二传感器的位置来确定,并且可以根据第一传感器和第二传感器的类型来确定该方法。
在操作S440,可以基于视差校正后的第二传感器数据和第一传感器检测到的数据来合成图像。
因此,根据本公开,由两个彩色图像传感器获得的目标物体的颜色成分信息可以用作图像的深度信息。因此,可以提高深度信息的准确性。
尽管在本公开中仅公开了支持双图像传感器系统的电子设备的图像处理方法,但是本公开的权利的范围不限于此,并且可以包括支持两个或更多个图像传感器的电子设备的图像处理方法。特别地,本公开的权利的范围可以包括支持能够检测不同光量的多个图像传感器的电子设备的图像处理方法。
图5是示出根据本公开的实施例的电子设备的配置的视图。
根据本公开的电子设备500可以包括:设置在电子设备500中的第一传感器510;设置在电子设备500中的第二传感器520;以及控制器530,该控制器530被配置为基于第一传感器510检测到的数据和第二传感器520检测到的数据来合成图像。第一传感器510和第二传感器520是颜色传感器,并且第二传感器520检测到的光量可以大于第一传感器510检测到的光量。
第一传感器510和第二传感器520可以包括多个单位单元,并且第一传感器510和第二传感器520的相应单位单元检测到的波长可以不重叠。
第一传感器510可以包括带通滤波器530,第二传感器520可以包括带阻滤波器540。
另外,第一传感器510可以感测与第一波长区域、第二波长区域或第三波长区域相关联的数据。第二传感器520可以感测第四波长区域、第五波长区域或第六波长区域。第二传感器检测到的光量可以是第一传感器检测到的光量的两倍。
第一传感器510可以感测与第一波长区域、第二波长区域或第三波长区域(红色、绿色或蓝色)相关联的数据。第二传感器520可以感测与第四波长区域、第五波长区域或第六波长区域(黄色、品红色或青色)相关联的数据。RGB传感器可以包括在第一传感器510中,并且互补传感器可以包括在第二传感器520中。
控制器530可以将第二传感器520检测到的数据的域转换为第一传感器510检测到的数据的域,可以对转换了域的第二传感器520的数据执行视差校正,并且可以基于被转换了域的第二传感器520的视差校正后的数据和第一传感器510检测到的数据来合成图像。
具体地,控制器530可以基于等式2将第二传感器检测到的数据的域转换为第一传感器检测到的数据的域。
[等式2]
R=(Y+M-C)/2, G=(Y-M+C)/2, B=(-Y+M+C)/2
R为第一传感器检测到的第一波长区域的光量,G为第一传感器检测到的第二波长区域的光量,B为第一传感器检测到的第三波长区域的光量,Y为第二传感器检测到的第四波长区域的光量,M为第二传感器检测到的第五波长区域的光量,C为第二传感器检测到的第六波长区域的光量。
图6是示出根据本公开的实施例的终端的配置的视图。
根据本公开的终端600可以包括:第一透镜610,该第一透镜610包括第一传感器615;第二透镜620,该第二透镜620包括第二传感器625;控制器630,该控制器630被配置为基于第一透镜610检测到的数据和二透镜620检测到的数据来合成图像;以及被配置为显示合成图像的显示单元640。
第一透镜610和第二透镜620可以设置在如图6所示的不同位置。例如,图6示出了其中第一透镜610和第二透镜620设置在其上设置有显示器640的终端的前侧中的情况。第一透镜610或第二透镜620可以与附图不同地设置在终端的后侧。
而且,第一传感器615和第二传感器625是颜色传感器。第二传感器625检测到的光量可以大于第一传感器615检测到的光量。
第一传感器615和第二传感器625可以包括多个单位单元,并且第一传感器615和第二传感器625的相应单位单元检测到的波长可以不重叠。
第一传感器615可以包括带通滤波器(未示出),并且第二传感器625可以包括带阻滤波器(未示出)。
另外,第一传感器615可以感测与第一波长区域、第二波长区域或第三波长区域(红色、绿色或蓝色)相关联的数据。第二传感器625可以感测与第四波长区域、第五波长区域或第六波长区域(黄色、品红色或青色)相关联的数据。RGB传感器可以包括在第一传感器615中,并且互补传感器可以被包括在第二传感器625中。而且,第二传感器625检测到的光量可以是第一传感器615检测到的光量的两倍。
控制器630可以将第二透镜620检测到的数据的域转换成第一透镜610检测到的数据的域,可以对被转换了域的第二透镜620的数据执行视差校正,并且可以基于第二透镜620的视差校正后的数据和第一透镜610检测到的数据来合成图像。
特别地,基于等式3,控制器630可以将第二透镜620检测到的数据的域转换为第一透镜610检测到的数据的域。
[等式3]
R=(Y+M-C)/2, G=(Y-M+C)/2, B=(-Y+M+C)/2
R为第一传感器检测到的第一波长区域的光量,G为第一传感器检测到的第二波长区域的光量,B为第一传感器检测到的第三波长区域的光量,Y为第二传感器检测到的第四波长区域的光量,M为第二传感器检测到的第五波长区域的光量,C为第二传感器检测到的第六波长区域的光量。
同时,已经给出了在说明书和附图中公开的本公开的实施例,以容易地解释本公开的技术内容并帮助理解本公开,并且不限制本公开的范围。也就是说,对于本公开所属领域的技术人员而言显而易见的是,基于本公开的技术精神可以实现不同的修改。此外,如果需要,可以将上述各个实施例组合使用。例如,将本公开的实施例1、实施例2和实施例3的部分组合以采用基站和终端。另外,以上实施例是基于LTE系统给出的,但是基于实施例的技术精神的其他修改可以在诸如5G或NR系统等的其他系统中实现。
Claims (7)
1.一种支持双图像传感器系统的电子设备的图像处理方法,所述方法包括:
通过设置在所述电子设备中的第一传感器和第二传感器来检测数据;以及
基于所述第一传感器检测到的数据和所述第二传感器检测到的数据来合成图像,
其中,所述第一传感器和所述第二传感器是颜色图像传感器,所述颜色图像传感器检测光学图像的强度和颜色并将检测到的数据转换成数字图像数据,并且所述第二传感器检测到的光量大于所述第一传感器检测到的光量,
其中,所述第一传感器使用带通滤波器来检测数据,所述带通滤波器中的每一个使红、绿、蓝数据通过,所述第一传感器检测到的光量为发射光量的1/3,所述第二传感器使用带阻滤波器来检测数据,
其中,所述带通滤波器中的每一个使预定波长区域通过,并且所述带阻滤波器中的每一个去除所述预定波长区域,
其中,所述第一传感器检测与预定的第一波长区域、预定的第二波长区域或预定的第三波长区域相关联的数据,所述第二传感器检测与预定的第四波长区域、预定的第五波长区域或预定的第六波长区域相关联的数据,并且
其中,合成所述图像包括:
将所述第二传感器检测到的数据的颜色空间转换为所述第一传感器检测到的数据的颜色空间;以及
基于所述第二传感器检测到的所述颜色空间被转换的数据和所述第一传感器检测到的数据来合成所述图像。
2.根据权利要求1所述的方法,其中,转换所述颜色空间包括:
基于以下等式,将所述第二传感器检测到的数据的颜色空间转换为所述第一传感器检测到的数据的颜色空间:
R=(Y+M-C)/2, G=(Y-M+C)/2, B=(-Y+M+C)/2,
其中,R为所述第一传感器检测到的所述第一波长区域的光量,G为所述第一传感器检测到的所述第二波长区域的光量,B为所述第一传感器检测到的所述第三波长区域的光量,Y为所述第二传感器检测到的所述第四波长区域的光量,M为所述第二传感器检测到的所述第五波长区域的光量,C为所述第二传感器检测到的所述第六波长区域的光量。
3.根据权利要求1所述的方法,其中,合成所述图像包括:
对被转换了颜色空间的所述第二传感器数据进行视差校正,并基于视差校正后的第二传感器数据和所述第一传感器检测到的数据来合成图像。
4.一种支持双图像传感器系统的电子设备,所述电子设备包括:
设置在所述电子设备中的第一传感器;
设置在所述电子设备中的第二传感器;以及
控制器,所述控制器被配置为基于所述第一传感器检测到的数据和所述第二传感器检测到的数据来合成图像,
其中,所述第一传感器和所述第二传感器是颜色图像传感器,所述颜色图像传感器检测光学图像的强度和颜色并将检测到的数据转换成数字图像数据,并且所述第二传感器检测到的光量大于所述第一传感器检测到的光量,
其中,所述第一传感器包括带通滤波器,所述带通滤波器中的每一个使红、绿、蓝数据通过,所述第一传感器检测到的光量为发射光量的1/3,所述第二传感器包括带阻滤波器,
其中,所述带通滤波器中的每一个使预定波长区域通过,并且所述带阻滤波器中的每一个去除所述预定波长区域,
其中,所述第一传感器检测与第一波长区域、第二波长区域或第三波长区域相关联的数据,所述第二传感器检测与第四波长区域、第五波长区域或第六波长区域相关联的数据,并且
其中,所述控制器还被配置为:
将所述第二传感器检测到的数据的颜色空间转换为所述第一传感器检测到的数据的颜色空间;以及
基于所述第二传感器检测到的所述颜色空间被转换的数据和所述第一传感器检测到的数据来合成所述图像。
5.根据权利要求4所述的电子设备,其中,基于以下等式,所述控制器将所述第二传感器检测到的数据的颜色空间转换为所述第一传感器检测到的数据的颜色空间:
R=(Y+M-C)/2, G=(Y-M+C)/2, B=(-Y+M+C)/2,
其中,R为所述第一传感器检测到的所述第一波长区域的光量,G为所述第一传感器检测到的所述第二波长区域的光量,B为所述第一传感器检测到的所述第三波长区域的光量,Y为所述第二传感器检测到的所述第四波长区域的光量,M为所述第二传感器检测到的所述第五波长区域的光量,C为所述第二传感器检测到的所述第六波长区域的光量。
6.根据权利要求4所述的电子设备,其中,所述控制器对被转换了颜色空间的第二传感器数据进行视差校正,并基于视差校正后的第二传感器数据和所述第一传感器检测到的数据来合成图像。
7.一种支持双透镜系统的终端,所述终端包括:
第一透镜,所述第一透镜在第一传感器上;
第二透镜,所述第二透镜在第二传感器上;以及
控制器,所述控制器被配置为基于所述第一传感器检测到的数据和所述第二传感器检测到的数据来合成图像,
其中,所述第一传感器和所述第二传感器是颜色图像传感器,所述颜色图像传感器检测光学图像的强度和颜色并将检测到的数据转换成数字图像数据,并且所述第二传感器检测到的光量大于所述第一传感器检测到的光量,
其中,所述第一传感器包括带通滤波器,所述带通滤波器中的每一个使红、绿、蓝数据通过,所述第一传感器检测到的光量为发射光量的1/3,所述第二传感器包括带阻滤波器,
其中,所述带通滤波器中的每一个使预定波长区域通过,并且所述带阻滤波器中的每一个去除所述预定波长区域,
其中,所述第一传感器检测与第一波长区域、第二波长区域或第三波长区域相关联的数据,所述第二传感器检测与第四波长区域、第五波长区域或第六波长区域相关联的数据,并且
其中,所述控制器还被配置为:
将所述第二传感器检测到的数据的颜色空间转换为所述第一传感器检测到的数据的颜色空间;以及
基于所述第二传感器检测到的所述颜色空间被转换的数据和所述第一传感器检测到的数据来合成所述图像。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170063330A KR102362447B1 (ko) | 2017-05-23 | 2017-05-23 | 듀얼 이미지 센서를 이용한 이미지 처리 방법 및 장치 |
KR10-2017-0063330 | 2017-05-23 | ||
PCT/KR2018/005497 WO2018216937A1 (ko) | 2017-05-23 | 2018-05-14 | 듀얼 이미지 센서를 이용한 이미지 처리 방법 및 장치 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110663252A CN110663252A (zh) | 2020-01-07 |
CN110663252B true CN110663252B (zh) | 2022-06-03 |
Family
ID=64396785
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880033047.4A Active CN110663252B (zh) | 2017-05-23 | 2018-05-14 | 使用双图像传感器进行图像处理的方法和设备 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11277572B2 (zh) |
EP (1) | EP3614664B1 (zh) |
KR (1) | KR102362447B1 (zh) |
CN (1) | CN110663252B (zh) |
WO (1) | WO2018216937A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102584573B1 (ko) | 2021-11-24 | 2023-10-04 | 주식회사 유엑스팩토리 | 복합 센서 정보를 이용하여 영상 화질을 개선하는 통합 영상 처리 장치 및 그 방법 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR0169376B1 (ko) | 1995-10-10 | 1999-03-20 | 김광호 | 멀티미디어 대응 가능한 씨씨디 카메라 시스템 |
EP1686810A4 (en) | 2003-11-11 | 2009-06-03 | Olympus Corp | DEVICE FOR ENTERING MULTISPECTRAL IMAGES |
US8115825B2 (en) | 2008-02-20 | 2012-02-14 | Apple Inc. | Electronic device with two image sensors |
KR101531709B1 (ko) * | 2008-10-17 | 2015-07-06 | 삼성전자 주식회사 | 고감도 컬러 영상을 제공하기 위한 영상 처리 장치 및 방법 |
JP5308523B2 (ja) * | 2009-06-01 | 2013-10-09 | パナソニック株式会社 | 立体画像表示装置 |
JP2011239259A (ja) | 2010-05-12 | 2011-11-24 | Sony Corp | 画像処理装置、画像処理方法及びプログラム |
US8493482B2 (en) * | 2010-08-18 | 2013-07-23 | Apple Inc. | Dual image sensor image processing system and method |
JP5816015B2 (ja) * | 2011-07-15 | 2015-11-17 | 株式会社東芝 | 固体撮像装置及びカメラモジュール |
KR20150029897A (ko) | 2013-09-11 | 2015-03-19 | 엘지전자 주식회사 | 촬영 장치 및 그의 동작 방법 |
US9699393B2 (en) * | 2014-06-26 | 2017-07-04 | Semiconductor Components Industries, Llc | Imaging systems for infrared and visible imaging with patterned infrared cutoff filters |
KR102219784B1 (ko) | 2014-12-15 | 2021-02-24 | 에스케이하이닉스 주식회사 | 컬러 필터 어레이 및 이를 구비한 이미지 센서 |
US20160269715A1 (en) * | 2015-03-13 | 2016-09-15 | Sensors Unlimited, Inc. | Parallax correction of imaging system |
KR102480600B1 (ko) * | 2015-10-21 | 2022-12-23 | 삼성전자주식회사 | 이미지 처리 장치의 저조도 화질 개선 방법 및 상기 방법을 수행하는 이미지 처리 시스템의 동작 방법 |
-
2017
- 2017-05-23 KR KR1020170063330A patent/KR102362447B1/ko active IP Right Grant
-
2018
- 2018-05-14 CN CN201880033047.4A patent/CN110663252B/zh active Active
- 2018-05-14 EP EP18805605.5A patent/EP3614664B1/en active Active
- 2018-05-14 WO PCT/KR2018/005497 patent/WO2018216937A1/ko unknown
- 2018-05-14 US US16/614,620 patent/US11277572B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
EP3614664A4 (en) | 2020-05-06 |
US11277572B2 (en) | 2022-03-15 |
KR20180128168A (ko) | 2018-12-03 |
EP3614664A1 (en) | 2020-02-26 |
US20200186725A1 (en) | 2020-06-11 |
WO2018216937A1 (ko) | 2018-11-29 |
EP3614664B1 (en) | 2022-12-07 |
CN110663252A (zh) | 2020-01-07 |
KR102362447B1 (ko) | 2022-02-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10366475B2 (en) | Imaging device, and image processing method and program for imaging device | |
US10136107B2 (en) | Imaging systems with visible light sensitive pixels and infrared light sensitive pixels | |
EP3054675B1 (en) | Imaging systems with clear filter pixels | |
CN107851306B (zh) | 用于可配置解调制的系统及方法 | |
EP2523160A1 (en) | Image processing device, image processing method, and program | |
CN113472989A (zh) | 多孔径成像系统以及通过多孔径成像系统获取图像的方法 | |
US10516860B2 (en) | Image processing method, storage medium, and terminal | |
US20200336684A1 (en) | Pattern configurable pixel correction | |
CN112822466A (zh) | 图像传感器、摄像模组和电子设备 | |
CN114693580B (zh) | 图像处理方法及其相关设备 | |
CN112291479B (zh) | 图像处理模组、图像处理方法、摄像头组件及移动终端 | |
CN104365090A (zh) | 图像处理系统、发送侧装置及接收侧装置 | |
CN113516607A (zh) | 图像处理方法、图像处理装置、电子设备及存储介质 | |
CN110663252B (zh) | 使用双图像传感器进行图像处理的方法和设备 | |
KR102285756B1 (ko) | 전자 시스템 및 영상 처리 방법 | |
US10593717B2 (en) | Image processing apparatus, image processing method, and imaging apparatus | |
CN115205159A (zh) | 图像处理方法及装置、电子设备、存储介质 | |
CN115550575A (zh) | 图像处理方法及其相关设备 | |
CN103167183B (zh) | 一种半透明取景框处理方法、系统及移动终端 | |
CN110235441B (zh) | 用于低照度的多摄像头系统 | |
KR20210158201A (ko) | 이미지 센서를 포함하는 전자 장치 및 이에 대한 제어 방법 | |
US20230154132A1 (en) | Method for providing image and electronic device supporting the same | |
CN115442536B (zh) | 一种曝光参数的确定方法、装置、影像系统和电子设备 | |
US20240095962A1 (en) | Image data re-arrangement for improving data compression effectiveness | |
US20240071041A1 (en) | Apparatus and method for mapping raw images between different camera sensors under arbitrary illuminations |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |