CN115293998A - 图像处理方法、装置、电子设备和计算机可读存储介质 - Google Patents
图像处理方法、装置、电子设备和计算机可读存储介质 Download PDFInfo
- Publication number
- CN115293998A CN115293998A CN202210459096.2A CN202210459096A CN115293998A CN 115293998 A CN115293998 A CN 115293998A CN 202210459096 A CN202210459096 A CN 202210459096A CN 115293998 A CN115293998 A CN 115293998A
- Authority
- CN
- China
- Prior art keywords
- image
- view
- correction
- field
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 218
- 238000003672 processing method Methods 0.000 title claims abstract description 19
- 238000012937 correction Methods 0.000 claims abstract description 510
- 238000000034 method Methods 0.000 claims abstract description 45
- 238000007499 fusion processing Methods 0.000 claims abstract description 23
- 238000013507 mapping Methods 0.000 claims description 88
- 238000001914 filtration Methods 0.000 claims description 25
- 230000008569 process Effects 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 18
- 230000004927 fusion Effects 0.000 claims description 10
- 230000000007 visual effect Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 2
- 238000003705 background correction Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 241000282326 Felis catus Species 0.000 description 1
- 241000023320 Luma <angiosperm> Species 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 229910021389 graphene Inorganic materials 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/40—Image enhancement or restoration using histogram techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
本申请涉及一种图像处理方法、装置、电子设备和计算机可读存储介质。所述方法包括:获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,所述第一摄像头对应的视场不同于所述第二摄像头对应的视场;根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像;所述全局校正包括亮度校正和颜色校正中的至少一种;基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,所述局部校正包括位置校正;将所述中间图像和所述全局校正图像进行融合处理,得到目标图像。采用本方法能够减少图像中的伪色,避免图像颜色失真的问题。
Description
技术领域
本申请涉及影像技术领域,特别是涉及一种图像处理方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术
随着影像技术的发展,电子设备往往具备多个用于拍摄的摄像头,通过将电子设备的多摄像头各自采集的图像进行融合,生成最终的图像。
然而,不同的摄像头所采集的图像在画质上存在一定差异,容易导致融合生成的图像出现颜色失真的问题。
发明内容
本申请实施例提供了一种图像处理方法、装置、电子设备、计算机可读存储介质和计算机程序产品,可以有效减少伪色,提升图像画质。
一种图像处理方法,包括:
获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,所述第一摄像头对应的视场不同于所述第二摄像头对应的视场;
根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像;所述全局校正包括亮度校正和颜色校正中的至少一种;
基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,所述局部校正包括位置校正;
将所述中间图像和所述全局校正图像进行融合处理,得到目标图像。
一种图像处理装置,包括:
获取模块,用于获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,所述第一摄像头对应的视场不同于所述第二摄像头对应的视场;
全局校正模块,用于根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像;所述全局校正包括亮度校正和颜色校正中的至少一种;
局部校正模块,用于基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,所述局部校正包括位置校正;
融合模块,用于将所述中间图像和所述全局校正图像进行融合处理,得到目标图像。
一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如下步骤:
获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,所述第一摄像头对应的视场不同于所述第二摄像头对应的视场;
根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像;所述全局校正包括亮度校正和颜色校正中的至少一种;
基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,所述局部校正包括位置校正;
将所述中间图像和所述全局校正图像进行融合处理,得到目标图像。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如下步骤:
获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,所述第一摄像头对应的视场不同于所述第二摄像头对应的视场;
根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像;所述全局校正包括亮度校正和颜色校正中的至少一种;
基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,所述局部校正包括位置校正;
将所述中间图像和所述全局校正图像进行融合处理,得到目标图像。
一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如下步骤:
获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,所述第一摄像头对应的视场不同于所述第二摄像头对应的视场;
根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像;所述全局校正包括亮度校正和颜色校正中的至少一种;
基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,所述局部校正包括位置校正;
将所述中间图像和所述全局校正图像进行融合处理,得到目标图像。
上述图像处理方法、装置、电子设备、计算机可读存储介质和计算机程序产品,通过获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,第一摄像头对应的视场不同于第二摄像头对应的视场,根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像,全局校正包括亮度校正和颜色校正中的至少一种,亮度校正可以有效减少多摄像头采集的图像间的亮度差异,颜色校正可以有效减少多摄像头采集的图像间的颜色差异,使得有效减少各图像的整体差异。基于第一视场图像对全局校正图像进行局部校正处理,得到中间图像,该局部校正包括位置校正,位置校正可以进一步减少多摄像头采集的图像间在局部区域上的亮度和差异,使得校正更精准,从而进一步减少伪色。将中间图像和全局校正图像进行融合处理得到目标图像,避免了融合图像颜色失真的问题,从而有效提升图像画质。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中电子设备的图像处理电路示意图;
图2为一个实施例中图像处理方法的流程图;
图3为另一个实施例中图像处理方法的流程图;
图4为一个实施例中宽视图、窄视图和全局校正图像的界面示意图;
图5为一个实施例中宽视图、窄视图和目标图像的界面示意图;
图6为一个实施例中图像处理装置的结构框图;
图7为一个实施例中电子设备的结构框图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请实施例中的图像处理方法可应用于电子设备。该电子设备可为带有至少两个摄像头的各种个人计算机、笔记本电脑、智能手机、平板电脑、物联网设备和便携式可穿戴设备,物联网设备可为智能音箱、智能电视、智能空调、智能车载设备等。便携式可穿戴设备可为智能手表、智能手环、头戴设备等。
在一个实施例中,上述电子设备中可包括图像处理电路,图像处理电路可以利用硬件和/或软件组件实现,可包括定义ISP(Image Signal Processing,图像信号处理)管线的各种处理单元。图1为一个实施例中图像处理电路的示意图。如图1所示,为便于说明,仅示出与本申请实施例相关的图像处理技术的各个方面。
如图1所示,提供了带有至少两个摄像头的电子设备的图像处理电路。该图像处理电路包括第一ISP处理器130、第二ISP处理器140和控制逻辑器150。第一摄像头110包括一个或多个第一透镜112和第一图像传感器114。第一图像传感器114可包括色彩滤镜阵列(如Bayer滤镜),第一图像传感器114可获取用第一图像传感器114的每个成像像素捕捉的光强度和波长信息,并提供可由第一ISP处理器130处理的一组图像数据。第二摄像头120包括一个或多个第二透镜122和第二图像传感器124。第二图像传感器124可包括色彩滤镜阵列(如Bayer滤镜),第二图像传感器124可获取用第二图像传感器124的每个成像像素捕捉的光强度和波长信息,并提供可由第二ISP处理器140处理的一组图像数据。
第一摄像头110采集的第一视场图像传输给第一ISP处理器130进行处理,第一ISP处理器130处理第一视场图像后,可将第一图像的统计数据(如图像的亮度、图像的反差值、图像的颜色等)发送给控制逻辑器150,控制逻辑器150可根据统计数据确定第一摄像头110的控制参数,从而第一摄像头110可根据控制参数进行自动对焦、自动曝光等操作。第一视场图像经过第一ISP处理器130进行处理后可存储至图像存储器160中,第一ISP处理器130也可以读取图像存储器160中存储的图像以对进行处理。另外,第一视场图像经过ISP处理器130进行处理后可直接发送至显示器170进行显示,显示器170也可以读取图像存储器160中的图像以进行显示。
其中,第一ISP处理器130按多种格式逐个像素地处理图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,第一ISP处理器130可对图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。
图像存储器160可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储器,并可包括DMA(Direct Memory Access,直接直接存储器存取)特征。
当接收到来自第一图像传感器114接口的图像数据时,第一ISP处理器130可进行一个或多个图像处理操作,如时域滤波。处理后的图像数据可发送给图像存储器160,以便在被显示之前进行另外的处理。第一ISP处理器130从图像存储器160接收处理数据,并对处理数据进行RGB和YCbCr颜色空间中的图像数据处理。第一ISP处理器130处理后的图像数据可输出给显示器170,以供用户观看和/或由图形引擎或GPU(Graphics Processing Unit,图形处理器)进一步处理。此外,第一ISP处理器130的输出还可发送给图像存储器160,且显示器170可从图像存储器160读取图像数据。在一个实施例中,图像存储器160可被配置为实现一个或多个帧缓冲器。
第一ISP处理器130确定的统计数据可发送给控制逻辑器150。例如,统计数据可包括自动曝光、自动白平衡、自动聚焦、闪烁检测、黑电平补偿、第一透镜112阴影校正等第一图像传感器114统计信息。控制逻辑器150可包括执行一个或多个例程(如固件)的处理器和/或微控制器,一个或多个例程可根据接收的统计数据,确定第一摄像头110的控制参数及第一ISP处理器130的控制参数。例如,第一摄像头110的控制参数可包括增益、曝光控制的积分时间、防抖参数、闪光控制参数、第一透镜112控制参数(例如聚焦或变焦用焦距)、或这些参数的组合等。ISP控制参数可包括用于自动白平衡和颜色调整(例如,在RGB处理期间)的增益水平和色彩校正矩阵,以及第一透镜112阴影校正参数。
同样地,第二摄像头120采集的第二视场图像传输给第二ISP处理器140进行处理,第二ISP处理器140处理第二视场图像后,可将第二视场图像的统计数据(如图像的亮度、图像的反差值、图像的颜色等)发送给控制逻辑器150,控制逻辑器150可根据统计数据确定第二摄像头120的控制参数,从而第二摄像头120可根据控制参数进行自动对焦、自动曝光等操作。第二视场图像经过第二ISP处理器140进行处理后可存储至图像存储器160中,第二ISP处理器140也可以读取图像存储器160中存储的图像以对进行处理。另外,第二视场图像经过ISP处理器140进行处理后可直接发送至显示器170进行显示,显示器170也可以读取图像存储器160中的图像以进行显示。第二摄像头120和第二ISP处理器140也可以实现如第一摄像头110和第一ISP处理器130所描述的处理过程。
在一个实施例中,第一摄像头110对应的视场不同于第二摄像头120对应的视场。第一ISP处理器130和第二ISP处理器140可为同一ISP处理器。
电子设备可通过第一摄像头110和第二摄像头120对任意场景进行图像采集,得到第一摄像头110对应的第一视场图像,以及第二摄像头120对应的第二视场图像。控制逻辑器150将所述原始压缩图像和所述第一视场图像进行融合处理,得到融合结果。控制逻辑器150根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像,该全局校正包括亮度校正和颜色校正中的至少一种。控制逻辑器150基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,所述局部校正包括位置校正,将所述中间图像和所述全局校正图像进行融合处理,得到目标图像,从而能够通过对多摄像头采集的图像进行亮度校正和颜色校正,有效减少多摄像头采集的图像间的亮度差异和颜色差异,使得有效减少各图像的整体差异,避免了融合图像颜色失真的问题,有效提升图像画质和视觉效果。
在一个实施例中,如图2所示,提供了一种图像处理方法,以该方法应用于图1中的电子设备为例进行说明,包括以下步骤:
步骤202,获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,第一摄像头对应的视场不同于第二摄像头对应的视场。
其中,视场代表摄像头能够观察到的最大范围,通常以角度来表示,视场越大,观测范围越大。例如有些摄像头的视场是50度,有些是58度,58度的视场相比50度的视场在同等距离的情况下能拍摄到更大的景物范围。
第一视场图像和第二视场图像均可以是RGB(Red,Green,Blue)图像、RAW图像、灰度图像、深度图像、YUV图像等其中的任意一种。其中,RAW图像是图像感应器将捕捉到的光源信号转化为数字信号的原始数据。YUV图像中的“Y”表示明亮度(Luminance或Luma),也就是灰阶值,“U”和“V”表示的则是色度(Chrominance或Chroma),作用是描述影像色彩及饱和度,用于指定像素的颜色。
第一视场图像和第二视场图像可以是对任意场景采集得到的图像,例如人物图像、风景图像或工业器件图像等,但不限于此。可以理解的是,第一视场图像和第二视场图像是第一摄像头和第二摄像头对相同场景采集所各自获得的图像。
可以理解的是第一视场图像和第二视场图像可以是完整的图像,也可以是图像中的部分图像区域,例如在其他实施例中,第一视场图像为第一摄像头采集的原始视场图像中的第一主体区域,第二视场图像为第二摄像头采集的原始视场图像中的第二主体区域。
具体地,电子设备通过第一摄像头和第二摄像头对任意场景进行图像采集,得到第一摄像头对应的第一视场图像,以及第二摄像头对应的第二视场图像。第一摄像头对应的视场不同于第二摄像头对应的视场,则第一视场图像对应的视场不同于第二视场图像对应的视场。
在一个实施例中,第一摄像头对应的视场不同于第二摄像头对应的视场,可以是第一摄像头对应的视场大于第二摄像头对应的视场,则第一视场图像对应的视场大于第二视场图像对应的视场。例如,第一视场图像为宽视场图像,对应视场为58度,第二视场图像为窄视场图像,对应视场为50度。
步骤204,根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像;该全局校正包括亮度校正和颜色校正中的至少一种。
具体地,电子设备可根据第一视场图像对第二视场图像进行亮度校正处理和颜色校正处理中的至少一种,得到全局校正图像。
本实施例中,电子设备可根据第一视场图像对第二视场图像进行亮度校正处理,得到全局校正图像。进一步地,根据第一视场图像的亮度信息对第二视场图像的亮度信息进行亮度校正处理,得到全局校正图像。
本实施例中,电子设备可根据第一视场图像对第二视场图像进行颜色校正处理,得到全局校正图像。进一步地,电子设备可根据第一视场图像的颜色信息对第二视场图像的颜色信息进行颜色校正处理,得到全局校正图像。
本实施例中,电子设备可根据第一视场图像对第二视场图像进行亮度校正处理和颜色校正处理,得到全局校正图像。进一步地,电子设备可根据第一视场图像对第二视场图像进行亮度校正处理;根据第一视场图像对亮度校正处理所得到的图像进行颜色校正处理,得到全局校正图像。或者,电子设备可根据第一视场图像对第二视场图像进行颜色校正处理;根据第一视场图像对颜色校正处理所得到的图像进行亮度校正处理,得到全局校正图像。
步骤206,基于第一视场图像对全局校正图像进行局部校正处理,得到中间图像,该局部校正包括位置校正。
其中,局部校正是指对全局校正图像中的局部区域进行校正。进一步地,局部校正包括位置校正,是指对全局校正图像中的多个位置所形成的局部区域进行校正。局部区域的校正通过该局部区域中的多个位置对应的像素点的校正实现。
具体地,电子设备可确定全局校正图像中需要进行校正的第二局部区域,并从第一视场图像中确定相对应的第一局部区域,基于第一局部区域对第二局部区域进行校正处理,得到中间图像。
在全局校正图像中存在多个第二局部区域的情况下,电子设备可从第一视场图像中确定与每个第二局部区域相对应的第一局部区域,基于第一局部区域对相应第二局部区域进行校正处理,对全局校正图像中的各个第二局部区域校正完成后,即可得到中间图像。
在一个实施例中,在根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像之后,还包括:基于第一视场图像对全局校正图像进行配准处理,得到对应的配准图像;
基于第一视场图像对全局校正图像进行局部校正处理,得到中间图像,包括:基于第一视场图像对配准图像进行局部校正处理,得到中间图像;
将中间图像和全局校正图像进行融合处理,得到目标图像,包括:将中间图像和配准图像进行融合处理,得到目标图像。
步骤208,将中间图像和全局校正图像进行融合处理,得到目标图像。
其中,融合处理可以是全局融合处理或局部融合处理,全局融合处理是指将中间图像的全局信息和全局校正图像中全局信息融合。局部融合处理是指将中间图像的局部信息和全局校正图像中的局部信息融合,或者使用中间图像的局部信息替换掉全局校正图像中的局部信息等。
具体地,电子设备可从中间图像选择局部信息,并从全局校正图像中选择相对应的局部信息,以基于所选择的局部信息生成目标图像。进一步地,电子设备可将全局校正图像中所选择局部内容,替换为从中间图像选择的相对应的局部信息,得到目标图像。
在本实施例中,局部信息可以是低频信息,电子设备可确定中间图像对应的低频信息和全局校正图像对应的低频信息,根据全局校正图像、全局校正图像对应的低频信息和中间图像对应的低频信息,生成目标图像。
在其他实施例中,全局信息包括图像中的所有像素点对应的像素值,电子设备将中间图像和全局校正图像中相互匹配的像素点所对应的像素值,进行求均值处理或求加权平均处理,得到目标像素值。基于各像素点对应的目标像素值即可得到目标图像。
上述图像处理方法中,通过获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,第一摄像头对应的视场不同于第二摄像头对应的视场,根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像,全局校正包括亮度校正和颜色校正中的至少一种,亮度校正可以有效减少多摄像头采集的图像间的亮度差异,颜色校正可以有效减少多摄像头采集的图像间的颜色差异,使得有效减少各图像的整体差异。基于第一视场图像对全局校正图像进行局部校正处理,得到中间图像,该局部校正包括位置校正,位置校正可以进一步减少多摄像头采集的图像间在局部区域上的亮度和差异,使得校正更精准,从而进一步减少伪色。将中间图像和全局校正图像进行融合处理得到目标图像,避免了融合图像颜色失真的问题,从而有效提升图像画质和视觉效果。
在一个实施例中,根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像,包括:
根据第一视场图像对第二视场图像进行亮度校正处理,得到亮度校正图像;
根据第一视场图像对亮度校正图像进行颜色校正处理,得到全局校正图像。
具体地,电子设备可获取第一视场图像的亮度信息和第二视场图像的亮度信息,根据第一视场图像的亮度信息对第二视场图像的亮度信息进行亮度校正处理,得到亮度校正图像。进一步地,电子设备可获取第一视场图像在亮度通道上的亮度信息和第二视场图像在亮度通道上的亮度信息,根据第一视场图像在亮度通道上的亮度信息对第二视场图像在亮度通道上的亮度信息进行亮度校正处理,得到亮度校正图像。
电子设备可获取第一视场图像的颜色信息和亮度校正图像的颜色信息,根据第一视场图像的颜色信息对亮度校正图像的颜色信息进行颜色校正处理,得到全局校正图像。进一步地,电子设备可获取第一视场图像在颜色通道上的颜色信息和第二视场图像在颜色通道上的颜色信息,根据第一视场图像在颜色通道上的颜色信息对第二视场图像在颜色通道上的颜色信息进行颜色校正处理,得到全局校正图像。
在本实施例中,亮度信息可通过亮度通道的直方图信息表征,颜色信息可通过颜色通道的直方图信息表征。亮度通道可以包括YUV图像中的“Y”通道,颜色通道可以包括红色通道、绿色通道和蓝色通道中的至少一种。
在其他实施例中,根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像,包括:根据第一视场图像对第二视场图像进行颜色校正处理,得到颜色校正图像;根据第一视场图像对亮度校正图像进行亮度校正处理,得到全局校正图像。
具体地,电子设备可获取第一视场图像的颜色信息和第二视场图像的颜色信息,根据第一视场图像的颜色信息对第二视场图像的颜色信息进行颜色校正处理,得到颜色校正图像。电子设备可获取第一视场图像的亮度信息和颜色校正图像的亮度信息,根据第一视场图像的亮度信息对亮度校正图像的亮度信息进行亮度校正处理,得到全局校正图像。
类似地,电子设备也可以先对第二视场图像进行颜色校正处理,在颜色校正之后再进行亮度信息,同样可以减少不同摄像头采集的图像间的颜色差异和亮度差异。
本实施例中,将第一视场图像的亮度信息作为参照,根据第一视场图像对第二视场图像进行亮度校正处理,可以有效减少第一摄像头和第二摄像头所采集的两张图像之间的亮度差异,使得第二视场图像的亮度信息调整至与第一视场图像的亮度信息一致。在亮度校正之后,将第一视场图像的颜色信息作为参照,根据第一视场图像对亮度校正图像进行颜色校正处理,能够将亮度校正图像的颜色信息调整至与第一视场图像的颜色信息一致,可以有效减少不同摄像头采集的图像间的颜色差异。
在一个实施例中,根据第一视场图像对第二视场图像进行亮度校正处理,得到亮度校正图像,包括:
统计第一视场图像的亮度通道的第一直方图信息,并统计第二视场图像的亮度通道的第二直方图信息;根据第一直方图信息和第二直方图信息,确定第一视场图像和第二视场图像之间的亮度映射关系;通过亮度映射关系对第二视场图像进行亮度校正处理,得到亮度校正图像。
其中,图像直方图(Image Histogram)是用以表示数字图像中亮度分布的直方图,标绘了图像中每个亮度值的像素数。例如,一张图像的灰度值为0-255,则灰度值的范围包含256个值,可按一定规律将这个范围分割成多个子区域,该子区域称为bin。亮度映射关系是指第一视场图像和第二视场图像在亮度通道上的映射关系。
具体地,电子设备可统计第一视场图像的亮度通道的直方图信息,得到对应的第一直方图信息,电子设备可统计第二视场图像的亮度通道的直方图信息,得到对应的第二直方图信息。
在本实施例中,根据第一直方图信息和第二直方图信息,确定第一视场图像和第二视场图像之间的亮度映射关系,包括:
将第一直方图信息和第二直方图信息进行划分,得到第一直方图信息对应的多个第一子区域,以及第二直方图信息对应的多个第二子区域;根据多个第一子区域和多个第二子区域,确定第一视场图像和第二视场图像之间的亮度映射关系。
具体地,电子设备可将第一直方图信息和第二直方图信息按照相同划分方式进行划分,得到第一直方图信息对应的多个第一子区域,以及第二直方图信息对应的多个第二子区域。
第一子区域中包括第一视场图像的亮度通道上多个亮度值,例如256个值划分为8个第一子区域,则每个第一子区域中包括32个亮度值。或者,256个值划分为32个第一子区域,则每个第一子区域中包括8个亮度值。可以理解的是,划分的数量可根据具体需求设置,在此不做过多限定。第二子区域中包括第二视场图像的亮度通道上多个亮度值,第一子区域的数量与第二子区域的数量相同,每个第一子区域对应一个第二子区域,即每个第一子区域存在相匹配的第二子区域。
电子设备可根据多个第一子区域和多个第二子区域,确定第一视场图像和第二视场图像之间的亮度映射关系,包括:从每个第一子区域中选择多个第一亮度值,并从第二子区域中筛选出与相应第一亮度值匹配的第二亮度值,基于多个第一亮度值和相匹配的第二亮度值,可计算出第一视场图像的亮度通道和第二视场图像的亮度通道之间的亮度映射关系。
第一亮度值是指第一子区域中的亮度值,第二亮度值是指第二子区域中的亮度值。第一视场图像和第二视场图像中相互匹配的像素点在亮度通道上的亮度值也相互匹配,例如,首个第一子区域中的最大亮度值与首个第二子区域中的最大亮度值相匹配。
例如,选择每个第一子区域中的最大值和最小值,以及每个第二子区域中的最大值和最小值;基于每个第一子区域中的最大值和最小值,以及每个第二子区域中的最大值和最小值,确定第一视场图像的亮度通道和第二视场图像的亮度通道之间的亮度映射关系。
在得到亮度映射关系后,电子设备可通过亮度映射关系对第二视场图像的亮度通道进行亮度校正处理,得到亮度校正图像。进一步地,电子设备可通过亮度映射关系对第二视场图像的每个像素点在亮度通道上的亮度值进行亮度校正处理,得到亮度校正图像。
可以理解的是,电子设备也可以从每个第二子区域中选择多个第二亮度值,并从第一子区域中筛选出与相应第二亮度值匹配的第一亮度值,基于多个第一亮度值和相匹配的第二亮度值,可计算出第一视场图像的亮度通道和第二视场图像的亮度通道之间的亮度映射关系。
本实施例中,电子设备可基于从第二子区域和第一子区域中选择的多个第二亮度值和多个第一亮度值,计算出第二子区域和第一子区域之间的亮度映射关系,通过该亮度映射关系可对第二视场图像中相应区域的亮度通道上的通道值进行亮度校正处理。按照相同的处理方式,可得到每个第二子区域和相应第一子区域之间的亮度映射关系,从而基于各个亮度映射关系,可对第二视场图像中各个区域的亮度通道上的通道值进行亮度校正处理,从而得到亮度校正图像。
在本实施例中,电子设备可分别对第一视场图像的亮度通道和第二视场图像的亮度通道进行导向滤波处理,再分别统计滤波处理后第一视场图像的亮度通道的第一直方图信息,以及滤波处理后第二视场图像的亮度通道的第二直方图信息,通过导向滤波处理可降低噪声影响。
本实施例中,统计第一视场图像的亮度通道的第一直方图信息,并统计第二视场图像的亮度通道的第二直方图信息,以通过直方图表征第一视场图像和第二视场图像的亮度分布情况,从而根据第一直方图信息和第二直方图信息,确定第一视场图像的亮度通道和第二视场图像亮度通道之间的亮度映射关系,使得可以通过亮度映射关系对第二视场图像进行亮度校正处理,以最大程度地将第二视场图像的亮度信息调整至与第一视场图像的亮度一致,从而减少两张图像之间的亮度差异。
在一个实施例中,根据第一视场图像对颜色校正图像进行颜色校正处理,得到全局校正图像,包括:
分别统计第一视场图像和第二视场图像在第一颜色空间的各个颜色通道上的直方图信息;根据第一视场图像和第二视场图像在每个颜色通道上的直方图信息,确定第一视场图像和第二视场图像在相应颜色通道上的颜色映射关系;
通过每个颜色通道所对应的颜色映射关系,对第二视场图像的相应颜色通道进行颜色校正处理,得到全局校正图像。
其中,直方图还可以用于表示数字图像中颜色分布,标绘了图像中每个颜色范围的像素数。
具体地,第一颜色空间对应多个颜色通道。电子设备可分别统计第一视场图像在第一颜色空间中的每个颜色通道的直方图信息,并分别统计第二视场图像在第一颜色空间中的每个颜色通道的直方图信息。例如,分别统计第一视场图像在红色通道、绿色通道和蓝色通道上的直方图信息,以及第二视场图像在红色通道、绿色通道和蓝色通道上的直方图信息。
电子设备根据第一视场图像和第二视场图像在同一颜色通道上的直方图信息,确定第一视场图像和第二视场图像在同一颜色通道上的颜色映射关系,例如,根据第一视场图像和第二视场图像在红色通道上的直方图信息,确定第一视场图像和第二视场图像在红色通道上的颜色映射关系。
按照相同处理,可得到第一视场图像和第二视场图像在每个颜色通道上的颜色映射关系,并通过每个颜色通道所对应的颜色映射关系,对第二视场图像的相应颜色通道进行颜色校正处理,得到全局校正图像。例如,通过红色通道对应的颜色映射关系,对第二视场图像的红色通道进行颜色校正处理、通过绿色通道对应的颜色映射关系,对第二视场图像的绿色通道进行颜色校正处理、通过蓝色通道对应的颜色映射关系,对第二视场图像的蓝色通道进行颜色校正处理,得到全局校正图像。
在本实施例中,根据第一视场图像和第二视场图像在每个颜色通道上的直方图信息,确定第一视场图像和第二视场图像在相应颜色通道上的颜色映射关系,包括:
将第一视场图像和第二视场图像在每个颜色通道上的直方图信息进行划分,得到第一视场图像在每个颜色通道上分别对应的多个第三子区域,以及第二视场图像在每个颜色通道上分别对应的多个第四子区域;根据同一颜色通道的多个第三子区域和多个第四子区域,确定第一视场图像和第二视场图像在相应颜色通道上的颜色映射关系。
具体地,电子设备可将第一视场图像在每个颜色通道上的直方图信息按照相同划分方式进行划分,得到第一视场图像在每个颜色通道上对应的多个第三子区域。例如,第一视场图像在红色通道上对应的多个第三子区域、在绿色通道上对应的多个第三子区域和在蓝色通道上对应的多个第三子区域。
电子设备可将第二视场图像在每个颜色通道上的直方图信息按照相同划分方式进行划分,得到第二视场图像在每个颜色通道上对应的多个第三子区域。例如,第二视场图像在红色通道上对应的多个第三子区域、在绿色通道上对应的多个第三子区域和在蓝色通道上对应的多个第三子区域。
第三子区域中包括第一视场图像的一个颜色通道上多个颜色值,例如红色通道的颜色范围为0-255,共256个颜色值,将256个值划分为32个第三子区域,则红色通道对应的每个第三子区域中包括8个颜色值。可以理解的是,划分的数量可根据具体需求设置,在此不做过多限定。第四子区域中包括第二视场图像的颜色通道上多个颜色值,同一颜色通道对应的第三子区域的数量与第四子区域的数量相同,同一颜色通道的每个第三子区域对应一个第四子区域,即同一颜色通道的每个第三子区域存在相匹配的第四子区域。
本实施例中,根据同一颜色通道的多个第三子区域和多个第四子区域,确定第一视场图像和第二视场图像在相应颜色通道上的颜色映射关系,包括:对于每个颜色通道,从相应颜色通道的每个第三子区域中选择多个第一颜色值,并从第四子区域中筛选出与每个第一颜色值匹配的第二颜色值,基于多个第一颜色值和相匹配的第二颜色值,可计算出第一视场图像和第二视场图像在相应颜色通道上对应的颜色映射关系,以得到第一视场图像和第二视场图像在每个颜色通道上分别对应的颜色映射关系。
第一颜色值是指第三子区域中的颜色值,第二颜色值是指第四子区域中的颜色值。第一视场图像和第二视场图像中相互匹配的像素点在同一颜色通道上的颜色值也相互匹配,例如,红色通道对应的首个第三子区域中的最大颜色值与首个第四子区域中的最大颜色值相匹配。
例如,选择红色通道的每个第三子区域中的最大值和最小值,以及红色通道的每个第四子区域中的最大值和最小值;基于红色通道的每个第三子区域中的最大值和最小值,以及每个第四子区域中的最大值和最小值,确定第一视场图像和第二视场图像在红色通道上对应的颜色映射关系。
在得到每个颜色通道分别对应的颜色映射关系后,电子设备可通过每个颜色通道分别对应的颜色映射关系对第二视场图像的相应颜色通道进行颜色校正处理,得到颜色校正图像。进一步地,电子设备可通过每个颜色通道分别对应的颜色映射关系对第二视场图像的每个像素点在相应颜色通道上的颜色值进行颜色校正处理,得到颜色校正图像。
可以理解的是,对于每个颜色通道,电子设备也可以从相应颜色通道的每个第四子区域中选择多个第二颜色值,并从相应颜色通道所对应的第三子区域中筛选出与每个第二颜色值匹配的第一颜色值,基于多个第一颜色值和相匹配的第二颜色值,可计算出第一视场图像和第二视场图像在相应颜色通道上对应的颜色映射关系,以得到第一视场图像和第二视场图像在每个颜色通道上分别对应的颜色映射关系。
本实施例中,电子设备可基于从同一颜色通道的第四子区域和第三子区域中选择的多个第二颜色值和多个第一颜色值,计算出同一颜色通道的第四子区域和第三子区域之间的颜色映射关系,通过该颜色映射关系可对第二视场图像中相应区域的相同应颜色通道上的颜色值进行颜色校正处理。按照相同的处理方式,可得到每个第四子区域和相应第三子区域之间的颜色映射关系,从而基于各个颜色映射关系,可对第二视场图像中各个区域的相同颜色通道上的颜色值进行颜色校正处理。并且,按照相同处理方式,对每个颜色通道的第四子区域和第三子区域进行处理,以对第二视场图像中各个区域的每个颜色通道上的颜色值进行颜色校正处理,从而得到全局校正图像。
在本实施例中,电子设备可分别对第一视场图像和第二视场图像在每个颜色通道上的直方图信息进行均值滤波处理,再基于各自均值滤波处理所得到的直方图信息,确定第一视场图像和第二视场图像在相应颜色通道上的颜色映射关系,通过均值滤波处理可避免相近的像素值之间映射差异过大。
本实施例中,分别统计第一视场图像和第二视场图像在第一颜色空间的各个颜色通道上的直方图信息,以通过直方图表征第一视场图像和第二视场图像的颜色分布情况,从而根据第一视场图像和第二视场图像在每个颜色通道上的直方图信息,确定第一视场图像和第二视场图像在每个颜色通道上的颜色映射关系使得可以通过颜色映射关系对第二视场图像的每个颜色通道的颜色信息进行颜色校正处理,以最大程度地将第二视场图像的颜色信息调整至与第一视场图像的颜色一致,从而减少两张图像之间的颜色差异。
在一个实施例中,基于第一视场图像对全局校正图像进行局部校正处理,得到中间图像,包括:
确定第一视场图像和全局校正图像之间的差异图像;基于第一视场图像和全局校正图像,对差异图像进行非线性映射处理,得到对应的中间图像。
其中,差异图像是指第一视场图像和全局校正图像中相互匹配的像素点之间的像素差异所构成的图像。各像素差异作为像素值,以生成差异图像。非线性映射处理是指基于差异图像中的像素值,将第一视场图像和全局校正图像中的多个像素点映射至同一张图像中,即可形成中间图像。
具体地,电子设备将第一视场图像和全局校正图像进行匹配处理,以确定第一视场图像和全局校正图像中相互匹配的像素点。相互匹配的像素点可形成像素点对。
电子设备可确定相互匹配的像素点在各自所属的图像中的像素值,根据相互匹配的像素点在各自所属的图像中的像素值,确定相互匹配的像素点之间的像素差异。例如,将相互匹配的像素点在各自所属的图像中的像素值之间的差值或差值的绝对值作为像素差异。按照相同的处理方式,电子设备可确定所有相互匹配的像素点对所对应的像素差异,将各个像素差异作为相应像素值,以生成差异图像。该差异图像中的各像素值为对应的像素差异。
第一视场图像、全局校正图像和差异图像具有相互匹配的像素点。电子设备基于第一视场图像和全局校正图像中相互匹配的像素点,对差异图像中的相应像素点进行非线性映射处理,得到对应的中间图像。
进一步地,对于差异图像中的单个像素点所对应的像素值,电子设备将像素值分别和第一差异阈值、第二差异阈值进行对比,得到该像素值对应的对比结果。根据对比结果,以及与该像素值对应的像素点对,生成该单个像素点所对应的中间像素点。按照相同的处理方式,电子设备可得到差异图像中的每个像素点分别对应的中间像素点,所有中间像素点即可构成中间图像。
本实施例中,根据第一视场图像和全局校正图像之间的差异形成对应的差异图像,能够通过差异图像中的各像素直观体现第一视场图像和全局校正图像在相应位置上存在的像素差异。基于第一视场图像和全局校正图像,对差异图像进行非线性映射处理,能够基于差异图像中的像素值,将第一视场图像和全局校正图像中的多个像素点映射至同一张图像中,即可形成中间图像,使得所生成的中间图像融合了第一视场图像更清晰更丰富和全局校正图像中更清晰更丰富的信息,能够进一步减少伪色,提升图像视觉效果。
在一个实施例中,确定第一视场图像和全局校正图像之间的差异图像,包括:
将第一视场图像和全局校正图像进行匹配处理,得到第一视场图像和全局校正图像中相互匹配的像素点;确定相互匹配的像素点在第二颜色空间的各预设通道上分别对应的通道差异;基于相互匹配的像素点对应各预设通道的通道差异,生成第一视场图像和全局校正图像之间的差异图像。
具体地,第一视场图像和全局校正图像均为第二颜色空间定义的图像。电子设备将第一视场图像和全局校正图像进行匹配处理,以确定第一视场图像和全局校正图像中相互匹配的像素点。第二颜色空间的一个像素值由多个预设通道上的通道值形成,例如第二颜色空间是YUV颜色空间,多个预设通道是Y通道、U通道和V通道,像素值由Y通道的通道值、U通道的通道值和V通道的通道值构成。
电子设备可确定相互匹配的像素点在第二颜色空间的每个预设通道上分别对应的通道值,并基于每个预设通道上分别对应的通道值,计算出在相应预设通道上的通道差异。电子设备基于相互匹配的像素点对应各预设通道的通道差异,确定相互匹配的像素点所对应的像素差异。按照相同处理方式,电子设备可计算出所有相互匹配的像素点分别对应的像素差异,基于所有所有相互匹配的像素点分别对应的像素差异,生成第一视场图像和全局校正图像之间的差异图像。
本实施例中,电子设备可将相互匹配的像素点在同一预设通道上的通道值的差值,作为相互匹配的像素点在同一预设通道上的通道差异,从而得到相互匹配的像素点分别在每个预设通道上的通道差异。或者,将差值的绝对值作为通道差异。
本实施例中,基于相互匹配的像素点对应各预设通道的通道差异,生成第一视场图像和全局校正图像之间的差异图像,包括:基于相互匹配的像素点对应各预设通道的通道差异,确定相互匹配的像素点所对应的像素差异;
基于相互匹配的像素点所对应的像素差异,生成第一视场图像和全局校正图像之间的差异图像。具体地,电子设备将相互匹配的像素点对应各预设通道的通道差异求和,得到相互匹配的像素点所对应的像素差异。按照相同处理方式,电子设备可计算出所有相互匹配的像素点分别对应的像素差异,将像素差异作为像素值,通过所得到的所有像素值即可生成差异图像。
在一个实施例中,在第一视场图像和全局校正图像均为第一颜色空间定义的图像的情况下,电子设备将第一视场图像和全局校正图像从第一颜色空间转换至第二颜色空间,得到在第二颜色空间下的第一视场图像和全局校正图像。电子设备将第二颜色空间下的第一视场图像和全局校正图像进行匹配处理,得到第一视场图像和全局校正图像中相互匹配的像素点。第一颜色空间不同于第二颜色空间,第一颜色空间可以是RGB颜色空间或SRGB颜色空间等,第二颜色空间可以是YUV颜色空间。
本实施例中,将第一视场图像和全局校正图像进行匹配处理,以确定第一视场图像和全局校正图像中相互匹配的像素点。根据确定相互匹配的像素点在第二颜色空间的各预设通道上分别对应的通道差异,能够生成第一视场图像和全局校正图像之间的差异图像,以通过差异图像中的各像素更直观、更精准地体现第一视场图像和全局校正图像在相应位置上存在的差异。
在一个实施例中,第一视场图像对应的视场大于第二视场图像对应的视场;基于第一视场图像和全局校正图像,对差异图像进行非线性映射处理,得到对应的中间图像,包括:
对于差异图像中的每个像素差异,若像素差异小于第一差异阈值,则从像素差异对应的像素点对中选取属于第一视场图像的像素点,作为中间像素点;该像素差异表征差异图像中像素点对应的像素值,像素差异基于各预设通道的通道差异得到,该像素点对表征第一视场图像和全局校正图像中相互匹配的像素点;
若像素差异大于或等于第一差异阈值、且像素差异小于第二差异阈值,则根据像素差异对应的像素点对,生成对应的中间像素点;若像素差异大于或等于第二差异阈值,则从像素差异对应的像素点对中选取属于全局校正图像的像素点,作为中间像素点;基于各中间像素点生成中间图像。
具体地,该像素差异表征差异图像中像素点对应的像素值,像素差异基于各预设通道的通道差异得到,该像素点对表征第一视场图像和全局校正图像中相互匹配的像素点。电子设备可获取第一差异阈值和第二差异阈值,该第二差异阈值大于第一差异阈值。第一差异阈值和第二差异阈值通过多摄系统曝光等多变量耦合联调得到。
对于差异图像中的单个像素点所对应的像素差异,将像素差异分别和第一差异阈值、第二差异阈值进行对比,若像素差异小于第一差异阈值,则确定与该像素差异对应的像素点对,并确定该像素点对中属于第一视场图像的像素点,将属于第一视场图像的像素点,作为中间像素点。
若像素差异大于或等于第二差异阈值,确定与该像素差异对应的像素点对,并确定该像素点对中属于全局校正图像的像素点,将属于全局校正图像的像素点,作为中间像素点。
若像素差异大于或等于第一差异阈值、且像素差异小于第二差异阈值,则电子设备根据像素差异对应的像素点对,生成对应的中间像素点。进一步地,若像素差异大于或等于第一差异阈值、且像素差异小于第二差异阈值,则电子设备根据像素差异对应的像素点对中每个像素点各自对应的权重和各自的像素值,生成对应的中间像素点。例如,可将像素点对中每个像素点各自对应的权重和各自的像素值相乘并求和,得到像素之和,该像素点对中的各像素点在所属图像中的位置,即为该像素之和在差异图像中的位置,则可到对应的中间像素点。
按照相同的处理方式遍历差异图像中的每个像素差异,则电子设备可确定差异图像中的每个像素差异所对应的中间像素点,基于所有中间像素点可生成中间图像。
本实施例中,将差异图像中的像素差异和两个差异阈值的对比结果作为生成中间图像的中间像素点的条件。遍历差异图像中的每个像素差异,若像素差异小于第一差异阈值,表示第一视场图像和全局校正图像在相应位置的像素差异小,则从像素差异对应的像素点对中选取属于第一视场图像的像素点,作为中间像素点,使得对于差异小的位置,可直接采用第一视场图像的相应像素点。
若像素差异大于或等于第一差异阈值、且像素差异小于第二差异阈值,则根据像素差异对应的像素点对,生成对应的中间像素点,则表示第一视场图像和全局校正图像在相应位置的像素差异适中,可对相应像素点对进行加权,即对中间区域进行加权,以融合像素点对的信息。若像素差异大于或等于第二差异阈值,表示第一视场图像和全局校正图像在相应位置的像素差异过大,则从像素差异对应的像素点对中选取属于全局校正图像的像素点,以将全局校正图像的相应像素点作为窄视场的补充信息进行保留,使得所生成的中间图像融合了第一视场图像和全局校正图像中的更清晰更丰富的信息,并且所得到中间图像进一步减少了颜色差异。
在一个实施例中,在根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像之后,还包括:基于第一视场图像对全局校正图像进行配准处理,得到对应的配准图像;
基于第一视场图像对全局校正图像进行局部校正处理,得到中间图像,包括:基于第一视场图像对配准图像进行局部校正处理,得到中间图像;
将中间图像和全局校正图像进行融合处理,得到目标图像,包括:将中间图像和配准图像进行融合处理,得到目标图像。
其中,配准处理是指将两张或多张图像在空间位置的对准,以将不同时间、不同成像设备或不同条件下获取的两幅或多幅图像进行匹配、叠加的过程。
具体地,电子设备将第一视场图像和全局校正图像进行匹配处理,以确定第一视场图像和全局校正图像中相互匹配的像素点。基于相互匹配的像素点,确定第一视场图像和全局校正图像之间的图像映射关系,通过图像映射关系对全局校正图像进行配准处理,得到对应的配准图像。
接着,电子设备可确定配准图像中需要进行校正的第二局部区域,并从第一视场图像中确定相对应的第一局部区域,基于第一局部区域对第二局部区域进行校正处理,得到中间图像。
电子设备可从中间图像选择局部信息,并从配准图像中选择相对应的局部信息,以基于所选择的局部信息生成目标图像。进一步地,电子设备可将配准图像中所选择局部内容,替换为从中间图像选择的相对应的局部信息,得到目标图像。
本实施例中,电子设备可采用第一摄像头的标定参数和第二摄像头的标定参数对全局校正图像进行配准处理,得到对应的配准图像。
本实施例中,在根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像之后,可以提高拟合度与泛化度,增加图像配准的性能。基于第一视场图像对全局校正图像进行配准处理,得到对应的配准图像,能够以第一视场图像作为参照,将全局校正图像从第二摄像头的视场转换至第一摄像头的视场下,使得经过配准后,不同摄像头所对应的图像的视差得到补偿。接着再基于第一视场图像对配准图像进行局部校正处理,能够进一步减小亮度和颜色差异,解决颜色异常的问题。将中间图像和配准图像进行融合处理得到目标图像,避免了融合图像颜色失真的问题,从而有效提升图像画质和视觉效果。
在一个实施例中,将中间图像和全局校正图像进行融合处理,得到目标图像,包括:
对中间图像和全局校正图像进行滤波处理,得到中间图像对应的低频信息和全局校正图像对应的低频信息;根据全局校正图像、全局校正图像对应的低频信息和中间图像对应的低频信息,生成目标图像。
其中,图像包括高频信息和低频信息。高频信息显示图像边缘,高频是指变化频率高的部位。低频信息显示边缘内的内容,边缘内的内容就是图像的大部分信息,即图像的近似信息。低频是指颜色缓慢地变化,也就是灰度缓慢变化的区域。
具体地,电子设备分别对中间图像和全局校正图像进行滤波处理,得到中间图像对应的低频信息和全局校正图像对应的低频信息,进一步地,电子设备分别对中间图像和全局校正图像进行均值滤波处理,以得到各自对应的低频信息。其中,均值滤波也称为线性滤波,线性滤波的是用均值代替原图像中的各个像素值,具体是指在图像上对目标像素给一个模板,该模板包括了目标像素周围的临近像素(即以目标像素为中心的周围8个像素,构成一个滤波模板,不包括目标像素本身),再用模板中的全体像素的平均值来代替原像素值。
电子设备将全局校正图像中的低频信息替换为中间图像对应的低频信息,得到目标图像。
在其他实施例中,电子设备可获取全局校正图像的低频信息和中间图像的低频信息各自对应的权重,基于各自的权重将中间图像的低频信息融合到全局校正图像的低频信息中,得到目标图像。
本实施例中,对中间图像和全局校正图像进行滤波处理,得到中间图像对应的低频信息和全局校正图像对应的低频信息,以根据全局校正图像、全局校正图像对应的低频信息和中间图像对应的低频信息,生成目标图像,能够将中间图像对应的低频信息融合到全局校正图像中,从而替换全局校正图像中的低频信息,能够进一步降低差异,减小伪色。
在一个实施例中,该第一视场图像为第一摄像头采集的原始视场图像中的第一主体区域,第二视场图像为第二摄像头采集的原始视场图像中的第二主体区域;将中间图像和全局校正图像进行融合处理,得到目标图像,包括:
将中间图像、全局校正图像和第二视场图像中的非主体区域进行融合处理,得到目标图像。
具体地,电子设备通过第一摄像头和第二摄像头对任意场景进行图像采集,得到第一摄像头对应的原始视场图像,以及第二摄像头对应的原始视场图像。电子设备对第一摄像头对应的原始视场图像进行主体识别,得到第一主体区域。电子设备对第二摄像头对应的原始视场图像进行主体识别,得到第二主体区域和非主体区域。其中,主体识别即主体检测(salient object detection),是指面对一个场景时,自动地对感兴趣区域进行处理而选择性的忽略不感兴趣区域。感兴趣区域称为主体区域。主体是指各种对象,如人、花、猫、狗、牛、蓝天、白云、背景等,但不限于此。
电子设备根据第一主体区域对第二主体区域进行全局校正处理,得到全局校正图像,再基于第一主体区域对全局校正图像进行局部校正处理,得到中间图像。
电子设备对中间图像和全局校正图像进行滤波处理,得到中间图像对应的低频信息和全局校正图像对应的低频信息。电子设备将全局校正图像中的低频信息替换为中间图像对应的低频信息,得到新的主体区域,将该新的主体区域和第二视场图像中的非主体区域进行合成,得到目标图像。
本实施例中,该第一视场图像为第一摄像头采集的原始视场图像中的第一主体区域,第二视场图像为第二摄像头采集的原始视场图像中的第二主体区域,从而能够单独对图像中的主体区域进行校正,以有效减少多摄像头采集的图像间在主体区域的亮度差异和颜色差异,使得有效减少各主体区域的整体差异,得到经过全局校正和局部校正处理后的主体区域,即中间图像。将校正处理后所得到的主体区域和第二视场图像中的非主体区域进行融合处理,而非主体区域不是关键区域,可不进行处理,以节省处理时间,提高处理效率。
在其他实施例中,电子设备可对第一摄像头采集的原始视场图像进行主体识别,得到第一主体区域和第一非主体区域。对第二摄像头采集的原始视场图像进行主体识别,得到第二主体区域和第二非主体区域。根据第一主体区域对第二主体区域进行全局校正处理,再基于第一主体区域对全局校正处理所得到的图像进行局部校正处理,得到第一中间图像。根据第一非主体区域对第二非主体区域进行全局校正处理,再基于第一非主体区域对全局校正处理所得到的图像进行局部校正处理,得到第二中间图像。第一中间图像为主体区域,第二中间图像为非主体区域,将第一中间图像和第二中间图像融合即可得到目标图像。通过将多个摄像头采集的各图像中的主体区域和非主体区域分别进行校正,以基于语义分割单独校正主体区域的亮度差异、颜色差异,以及非主体区域的亮度差异、颜色差异,单独处理能够进一步提高校正的精准性。
在一个实施例中,提供了一种图像处理方法,如图3所示,宽视场图像即第一视场图像,简称宽视图,窄视场图像即第二视场图像,简称窄视图。根据非对称光学系统焦距的差异,裁剪出的宽视场图像显示出与远视场图像相似的视场,将裁剪后的两张图像信息宽视图wide、窄视图tele作为输入,对窄视图进行全局校正处理,即进行全局的亮度和颜色校正,得到全局校正图像。具体地,对宽视图和窄视图的亮度Y通道进行直方图匹配计算,再转化到RGB空间进行R通道、B通道和B通道的颜色直方图匹配,经过两次非线性映射可以提高拟合度与泛化度,增加图像配准的性能。基于宽视图对全局校正图像进行配准处理,得到配准后的全局校正图像,即配准图像。经过配准后,双摄图像的视差得到补偿,然后对配准后的全局校正图像进行局部校正进一步减小亮度和颜色差异,解决颜色异常。具体地,局部校正基于宽视图和配准后的全局校正图像之间的差异,对配准后的全局校正图像进行非线性拉伸,再通过均值滤波分解出高低频信息,将拉伸后的中间图像的低频信息替换给全局校正后的窄视场图,得到最终的校正图像,即目标图像。
具体地,全局校正处理包括亮度校正和颜色校正,亮度校正即亮度直方图匹配,颜色校正即颜色直方图匹配。
亮度直方图匹配处理如下:
(1)首先对宽视图wide、窄视图tele的亮度通道进行导向滤波处理以降低噪声影响,再分别统计在亮度通道的直方图信息;
(2)为了提高映射拟合能力,将直方图均匀分布成32个bin,每32个bin构成一个bin区间,并设置数量控制阈值避免过曝影响。将两张图像中对应的bin区间里的最大值和最小值进行对应,对于其他像素值进行插值得到映射关系;
(3)将映射关系作用于窄视图tele的亮度通道,得到全局亮度映射校正图,即全局校正图像。
颜色直方图匹配处理如下:
(1)首先将宽视图和全局校正图像从YUV颜色空间转换到RGB空间,再分别统计三个颜色通道的直方图信息,同样将直方图均匀分布成32个bin,对每一个直方柱加上一定的数量避免局部过曝过暗的影响;
(2)对直方图进行均值滤波,避免相近的像素值之间映射差异过大,然后将两图三个颜色通道bin里的最大像素值最小像素值分别进行对应,对于其他像素值同样进行插值得到映射关系;
(3)将三个颜色通道的映射关系分别作用于窄视图tele对应的颜色通道得到最终的全局校正图像。
如4所示,通过图像中的填充背景表示亮度信息和颜色信息,从图4中可看出,宽视图的亮度信息、颜色信息与窄视图的亮度信息、颜色信息存在一定差异。基于宽视图对窄视图进行全局校正处理后,能够校正窄视图中的亮度信息和颜色信息,使得全局校正处理所得到的全局校正图像的亮度信息、颜色信息基本与宽视图的亮度信息、颜色信息之间的差异明显减小,使得全局校正图像和宽视图的亮度、颜色尽可能保持一致。
图像配准处理:
基于宽视图tele对全局校正图像进行配准处理,得到配准后的全局校正图像,即配准图像tele′。
局部校正处理如下:
(1)计算宽视图wide与配准图像tele′之间的差异图像
diff=|ywide-ytele′|+|uwide-utele′|+|vwide-vtele′|
其中,diff为差异图像中的像素点对应的像素值。
(2)利用差异图像进行非线性映射,得到中间图像P。非线性映射如下所示:
w=(thres2-diff)/(thres2-thres1)
其中,p为中间图像P中像素点的像素值。差异阈值thres1和thres2是通过双摄系统曝光等多变量耦合联调得到。对于差异小的部分,直接采用宽视场图像信息,差异过大的部分看作窄视场的补充信息进行保留,对中间区域进行加权。
(2)窄视场的远视图主要能够提升宽视场图像的纹理细节。因此,对中间图图像P以及配准图像tele′进行均值滤波得到各自对应的低频信息lowfP、lowftele′,将配准图像中的低频信息lowfP替换为中间图像P中的lowftele′,以进一步减小伪色、降低差异,得到如图5所示的最终校正图像(即目标图像),处理方式如下:
tele″=tele′-lowftele′+lowfP
本实施例中,图像的亮度和颜色校正基于直方图匹配进行多次非线性拟合计算,可以有效减少双摄图像间的颜色亮度差异,有利于提升双摄图像的配准的性能和融合效果。并且,针对双摄系统及多摄系统需求,基于基于多次非线性拟合与低频替换,进一步降低成像差异带来的误差,提升图像视觉效果。
在一个实施例中,提供了一种图像处理方法,应用于电子设备,包括:
获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,第一摄像头对应的视场大于第二摄像头对应的视场。
接着,统计第一视场图像的亮度通道的第一直方图信息,并统计第二视场图像的亮度通道的第二直方图信息;亮度通道即YUV颜色空间对应的Y通道。
接着,根据第一直方图信息和第二直方图信息,确定第一视场图像的亮度通道和第二视场图像的亮度通道之间的亮度映射关系。
接着,通过亮度映射关系对第二视场图像的亮度通道进行亮度校正处理,得到亮度校正图像。
进一步地,分别统计第一视场图像在红色通道、绿色通道和蓝色通道上的直方图信息,以及第二视场图像在红色通道、绿色通道和蓝色通道上的直方图信息。
接着,根据第一视场图像和第二视场图像在红色通道、绿色通道和蓝色通道上的直方图信息,分别确定第一视场图像和第二视场图像在红色通道、绿色通道和蓝色通道上的颜色映射关系。
进一步地,通过红色通道、绿色通道和蓝色通道分别对应的颜色映射关系,对第二视场图像的红色通道、绿色通道和蓝色通道各自进行颜色校正处理,得到全局校正图像。
接着,基于第一视场图像对全局校正图像进行配准处理,得到对应的配准图像。
接着,将第一视场图像和配准图像进行匹配处理,得到第一视场图像和配准图像中相互匹配的像素点;确定相互匹配的像素点在YUV颜色空间的Y通道、U通道和V通道上分别对应的通道差异。
接着,基于相互匹配的像素点在Y通道、U通道和V通道上分别对应的通道差异,确定相互匹配的像素点所对应的像素差异;根据所有相互匹配的像素点所对应的像素差异,生成第一视场图像和配准图像之间的差异图像。该像素差异作为差异图像中像素点对应的像素值,第一视场图像和配准图像中相互匹配的像素点形成像素点对。
进一步地,对于差异图像中的每个像素差异,若像素差异小于第一差异阈值,则从像素差异对应的像素点对中选取属于第一视场图像的像素点,作为中间像素点。
可选地,若像素差异大于或等于第一差异阈值、且像素差异小于第二差异阈值,则根据像素差异对应的像素点对,生成对应的中间像素点。
可选地,若像素差异大于或等于第二差异阈值,则从像素差异对应的像素点对中选取属于配准图像的像素点,作为中间像素点。
进一步地,基于各中间像素点生成中间图像。
接着,对中间图像和配准图像进行滤波处理,得到中间图像对应的低频信息和配准图像对应的低频信息。
进一步地,将配准图像中的低频信息替换为中间图像对应的低频信息,得到目标图像。
本实施例中,统计第一视场图像的亮度通道的第一直方图信息,并统计第二视场图像的亮度通道的第二直方图信息,以通过直方图表征第一视场图像和第二视场图像的亮度分布情况,从而根据第一直方图信息和第二直方图信息,确定第一视场图像的亮度通道和第二视场图像亮度通道之间的亮度映射关系,使得可以通过亮度映射关系对第二视场图像进行亮度校正处理,以最大程度地将第二视场图像的亮度信息调整至与第一视场图像的亮度一致,从而减少两张图像之间的亮度差异。
分别统计第一视场图像和第二视场图像在第一颜色空间的各个颜色通道上的直方图信息,以通过直方图表征第一视场图像和第二视场图像的颜色分布情况,从而根据第一视场图像和第二视场图像在每个颜色通道上的直方图信息,确定第一视场图像和第二视场图像在每个颜色通道上的颜色映射关系使得可以通过颜色映射关系对第二视场图像的每个颜色通道的颜色信息进行颜色校正处理,以最大程度地将第二视场图像的颜色信息调整至与第一视场图像的颜色一致,从而减少两张图像之间的颜色差异。
基于第一视场图像对全局校正图像进行配准处理,得到对应的配准图像,能够以第一视场图像作为参照,将全局校正图像从第二摄像头的视场转换至第一摄像头的视场下,使得两张图像处于相同视场下,使得经过配准后,不同摄像头所对应的图像的视差得到补偿。
将第一视场图像和配准图像进行匹配处理,以确定第一视场图像和配准图像中相互匹配的像素点。根据确定相互匹配的像素点在第二颜色空间的各预设通道上分别对应的通道差异,能够生成第一视场图像和配准图像之间的差异图像,以通过差异图像中的各像素更直观、更精准地体现第一视场图像和配准图像中的每个位置上存在的差异。
将差异图像中的像素差异和两个差异阈值的对比结果作为生成中间图像的中间像素点的条件。遍历差异图像中的每个像素差异,若像素差异小于第一差异阈值,表示第一视场图像和配准图像在相应位置的像素差异小,则从像素差异对应的像素点对中选取属于第一视场图像的像素点,作为中间像素点,使得对于差异小的位置,可直接采用第一视场图像的相应像素点。若像素差异大于或等于第一差异阈值、且像素差异小于第二差异阈值,则根据像素差异对应的像素点对,生成对应的中间像素点,则表示第一视场图像和配准图像在相应位置的像素差异适中,可对相应像素点对进行加权,即对中间区域进行加权,以融合像素点对的信息。若像素差异大于或等于第二差异阈值,表示第一视场图像和配准图像在相应位置的像素差异过大,则从像素差异对应的像素点对中选取属于配准图像的像素点,以将配准图像的相应像素点作为窄视场的补充信息进行保留,使得所生成的中间图像融合了第一视场图像和配准图像中的更清晰更丰富的信息,并且所得到中间图像进一步减少了颜色差异。
对中间图像和配准图像进行滤波处理,得到中间图像对应的低频信息和配准图像对应的低频信息,以根据配准图像、配准图像对应的低频信息和中间图像对应的低频信息,生成目标图像,能够将中间图像对应的低频信息融合到配准图像中,从而替换配准图像中的低频信息,能够进一步降低差异,减小伪色,从而有效提升所生成的图像的画质和视觉效果。
应该理解的是,虽然如上的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的图像处理方法的图像处理装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个图像处理装置实施例中的具体限定可以参见上文中对于图像处理方法的限定,在此不再赘述。
在一个实施例中,如图6所示,提供了一种图像处理装置600,包括:获取模块602、全局校正模块604、局部校正模块606和融合模块608,其中:
获取模块602,用于获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,第一摄像头对应的视场不同于第二摄像头对应的视场。
全局校正模块604,用于根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像;全局校正包括亮度校正和颜色校正中的至少一种。
局部校正模块606,用于基于第一视场图像对全局校正图像进行局部校正处理,得到中间图像,局部校正包括位置校正。
融合模块608,用于将中间图像和全局校正图像进行融合处理,得到目标图像。
本实施例中,通过获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,第一摄像头对应的视场不同于第二摄像头对应的视场,根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像,全局校正包括亮度校正和颜色校正中的至少一种,亮度校正可以有效减少多摄像头采集的图像间的亮度差异,颜色校正可以有效减少多摄像头采集的图像间的颜色差异,使得有效减少各图像的整体差异。基于第一视场图像对全局校正图像进行局部校正处理,得到中间图像,该局部校正包括位置校正,位置校正可以进一步减少多摄像头采集的图像间在局部区域上的亮度和差异,使得校正更精准,从而进一步减少伪色。将中间图像和全局校正图像进行融合处理得到目标图像,避免了融合图像颜色失真的问题,从而有效提升图像画质和视觉效果。
在一个实施例中,该全局校正模块604,还用于根据第一视场图像对第二视场图像进行亮度校正处理,得到亮度校正图像;根据第一视场图像对亮度校正图像进行颜色校正处理,得到全局校正图像。
本实施例中,将第一视场图像的亮度信息作为参照,根据第一视场图像对第二视场图像进行亮度校正处理,可以有效减少第一摄像头和第二摄像头所采集的两张图像之间的亮度差异,使得第二视场图像的亮度信息调整至与第一视场图像的亮度信息一致。在亮度校正之后,将第一视场图像的颜色信息作为参照,根据第一视场图像对亮度校正图像进行颜色校正处理,能够将亮度校正图像的颜色信息调整至与第一视场图像的颜色信息一致,可以有效减少不同摄像头采集的图像间的颜色差异。
在一个实施例中,该全局校正模块604,还用于统计第一视场图像的亮度通道的第一直方图信息,并统计第二视场图像的亮度通道的第二直方图信息;根据第一直方图信息和第二直方图信息,确定第一视场图像和第二视场图像之间的亮度映射关系;通过亮度映射关系对第二视场图像进行亮度校正处理,得到亮度校正图像。
本实施例中,统计第一视场图像的亮度通道的第一直方图信息,并统计第二视场图像的亮度通道的第二直方图信息,以通过直方图表征第一视场图像和第二视场图像的亮度分布情况,从而根据第一直方图信息和第二直方图信息,确定第一视场图像的亮度通道和第二视场图像亮度通道之间的亮度映射关系,使得可以通过亮度映射关系对第二视场图像进行亮度校正处理,以最大程度地将第二视场图像的亮度信息调整至与第一视场图像的亮度一致,从而减少两张图像之间的亮度差异。
在一个实施例中,该全局校正模块604,还用于分别统计第一视场图像和第二视场图像在第一颜色空间的各个颜色通道上的直方图信息;根据第一视场图像和第二视场图像在每个颜色通道上的直方图信息,确定第一视场图像和第二视场图像在相应颜色通道上的颜色映射关系;通过每个颜色通道所对应的颜色映射关系,对第二视场图像的相应颜色通道进行颜色校正处理,得到全局校正图像。
本实施例中,分别统计第一视场图像和第二视场图像在第一颜色空间的各个颜色通道上的直方图信息,以通过直方图表征第一视场图像和第二视场图像的颜色分布情况,从而根据第一视场图像和第二视场图像在每个颜色通道上的直方图信息,确定第一视场图像和第二视场图像在每个颜色通道上的颜色映射关系使得可以通过颜色映射关系对第二视场图像的每个颜色通道的颜色信息进行颜色校正处理,以最大程度地将第二视场图像的颜色信息调整至与第一视场图像的颜色一致,从而减少两张图像之间的颜色差异。
在一个实施例中,该局部校正模块606,还用于确定第一视场图像和全局校正图像之间的差异图像;基于第一视场图像和全局校正图像,对差异图像进行非线性映射处理,得到对应的中间图像。
本实施例中,根据第一视场图像和全局校正图像之间的差异形成对应的差异图像,能够通过差异图像中的各像素直观体现第一视场图像和全局校正图像在相应位置上存在的像素差异。基于第一视场图像和全局校正图像,对差异图像进行非线性映射处理,能够基于差异图像中的像素值,将第一视场图像和全局校正图像中的多个像素点映射至同一张图像中,即可形成中间图像,使得所生成的中间图像融合了第一视场图像更清晰更丰富和全局校正图像中更清晰更丰富的信息,能够进一步减少伪色,提升图像视觉效果。
在一个实施例中,该局部校正模块606,还用于将第一视场图像和全局校正图像进行匹配处理,得到第一视场图像和全局校正图像中相互匹配的像素点;确定相互匹配的像素点在第二颜色空间的各预设通道上分别对应的通道差异;基于相互匹配的像素点对应各预设通道的通道差异,生成第一视场图像和全局校正图像之间的差异图像。
本实施例中,将第一视场图像和全局校正图像进行匹配处理,以确定第一视场图像和全局校正图像中相互匹配的像素点。根据确定相互匹配的像素点在第二颜色空间的各预设通道上分别对应的通道差异,能够生成第一视场图像和全局校正图像之间的差异图像,以通过差异图像中的各像素更直观、更精准地体现第一视场图像和全局校正图像在相应位置上存在的差异。
在一个实施例中,第一视场图像对应的视场大于第二视场图像对应的视场;该局部校正模块606,还用于对于差异图像中的每个像素差异,若像素差异小于第一差异阈值,则从像素差异对应的像素点对中选取属于第一视场图像的像素点,作为中间像素点;像素差异表征差异图像中像素点对应的像素值,像素差异基于各预设通道的通道差异得到,像素点对表征第一视场图像和全局校正图像中相互匹配的像素点;若像素差异大于或等于第一差异阈值、且像素差异小于第二差异阈值,则根据像素差异对应的像素点对,生成对应的中间像素点;若像素差异大于或等于第二差异阈值,则从像素差异对应的像素点对中选取属于全局校正图像的像素点,作为中间像素点;基于各中间像素点生成中间图像。
本实施例中,将差异图像中的像素差异和两个差异阈值的对比结果作为生成中间图像的中间像素点的条件。遍历差异图像中的每个像素差异,若像素差异小于第一差异阈值,表示第一视场图像和全局校正图像在相应位置的像素差异小,则从像素差异对应的像素点对中选取属于第一视场图像的像素点,作为中间像素点,使得对于差异小的位置,可直接采用第一视场图像的相应像素点。
若像素差异大于或等于第一差异阈值、且像素差异小于第二差异阈值,则根据像素差异对应的像素点对,生成对应的中间像素点,则表示第一视场图像和全局校正图像在相应位置的像素差异适中,可对相应像素点对进行加权,即对中间区域进行加权,以融合像素点对的信息。
若像素差异大于或等于第二差异阈值,表示第一视场图像和全局校正图像在相应位置的像素差异过大,则从像素差异对应的像素点对中选取属于全局校正图像的像素点,以将全局校正图像的相应像素点作为窄视场的补充信息进行保留,使得所生成的中间图像融合了第一视场图像和全局校正图像中的更清晰更丰富的信息,并且所得到中间图像进一步减少了颜色差异。
在一个实施例中,该装置还包括配准模块;该配准模块,用于基于第一视场图像对全局校正图像进行配准处理,得到对应的配准图像;
局部校正模块606,还用于基于第一视场图像对配准图像进行局部校正处理,得到中间图像;
该融合模块608,还用于将中间图像和配准图像进行融合处理,得到目标图像。
本实施例中,在根据第一视场图像对第二视场图像进行全局校正处理,得到全局校正图像之后,可以提高拟合度与泛化度,增加图像配准的性能。基于第一视场图像对全局校正图像进行配准处理,得到对应的配准图像,能够以第一视场图像作为参照,将全局校正图像从第二摄像头的视场转换至第一摄像头的视场下,使得经过配准后,不同摄像头所对应的图像的视差得到补偿。接着再基于第一视场图像对配准图像进行局部校正处理,能够进一步减小亮度和颜色差异,解决颜色异常的问题。
在一个实施例中,该融合模块608,还用于对中间图像和全局校正图像进行滤波处理,得到中间图像对应的低频信息和全局校正图像对应的低频信息;根据全局校正图像、全局校正图像对应的低频信息和中间图像对应的低频信息,生成目标图像。
本实施例中,对中间图像和全局校正图像进行滤波处理,得到中间图像对应的低频信息和全局校正图像对应的低频信息,以根据全局校正图像、全局校正图像对应的低频信息和中间图像对应的低频信息,生成目标图像,能够将中间图像对应的低频信息融合到全局校正图像中,从而替换全局校正图像中的低频信息,能够进一步降低差异,减小伪色。
在一个实施例中,第一视场图像为第一摄像头采集的原始视场图像中的第一主体区域,第二视场图像为第二摄像头采集的原始视场图像中的第二主体区域;该融合模块608,还用于将中间图像、全局校正图像和第二视场图像中的非主体区域进行融合处理,得到目标图像。
本实施例中,该第一视场图像为第一摄像头采集的原始视场图像中的第一主体区域,第二视场图像为第二摄像头采集的原始视场图像中的第二主体区域,从而能够单独对图像中的主体区域进行校正,以有效减少多摄像头采集的图像间在主体区域的亮度差异和颜色差异,使得有效减少各主体区域的整体差异,得到经过全局校正和局部校正处理后的主体区域,即中间图像。将校正处理后所得到的主体区域和第二视场图像中的非主体区域进行融合处理,而非主体区域不是关键区域,可不进行处理,以节省处理时间,提高处理效率。
上述图像处理装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种电子设备,该电子设备可以是终端,其内部结构图可以如图7所示。该计算机设备包括处理器、存储器、输入/输出接口、通信接口、显示单元和输入装置。其中,处理器、存储器和输入/输出接口通过系统总线连接,通信接口、显示单元和输入装置通过输入/输出接口连接到系统总线。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的输入/输出接口用于处理器与外部设备之间交换信息。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、移动蜂窝网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种图像处理方法。该计算机设备的显示单元用于形成视觉可见的画面,可以是显示屏、投影装置或虚拟现实成像装置。显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图7中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
本申请实施例还提供了一种计算机可读存储介质。一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当所述计算机可执行指令被一个或多个处理器执行时,使得所述处理器执行图像处理方法的步骤。
本申请实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行图像处理方法。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric Random Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。
Claims (14)
1.一种图像处理方法,其特征在于,包括:
获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,所述第一摄像头对应的视场不同于所述第二摄像头对应的视场;
根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像;所述全局校正包括亮度校正和颜色校正中的至少一种;
基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,所述局部校正包括位置校正;
将所述中间图像和所述全局校正图像进行融合处理,得到目标图像。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像,包括:
根据所述第一视场图像对所述第二视场图像进行亮度校正处理,得到亮度校正图像;
根据所述第一视场图像对所述亮度校正图像进行颜色校正处理,得到全局校正图像。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一视场图像对所述第二视场图像进行亮度校正处理,得到亮度校正图像,包括:
统计所述第一视场图像的亮度通道的第一直方图信息,并统计所述第二视场图像的亮度通道的第二直方图信息;
根据所述第一直方图信息和所述第二直方图信息,确定所述第一视场图像和所述第二视场图像之间的亮度映射关系;
通过所述亮度映射关系对所述第二视场图像进行亮度校正处理,得到亮度校正图像。
4.根据权利要求2所述的方法,其特征在于,所述根据所述第一视场图像对所述亮度校正图像进行颜色校正处理,得到全局校正图像,包括:
分别统计所述第一视场图像和所述第二视场图像在第一颜色空间的各个颜色通道上的直方图信息;
根据所述第一视场图像和所述第二视场图像在每个所述颜色通道上的直方图信息,确定所述第一视场图像和所述第二视场图像在相应颜色通道上的颜色映射关系;
通过每个所述颜色通道所对应的颜色映射关系,对所述第二视场图像的相应颜色通道进行颜色校正处理,得到全局校正图像。
5.根据权利要求1所述的方法,其特征在于,所述基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,包括:
确定所述第一视场图像和所述全局校正图像之间的差异图像;
基于所述第一视场图像和所述全局校正图像,对所述差异图像进行非线性映射处理,得到对应的中间图像。
6.根据权利要求5所述的方法,其特征在于,所述确定所述第一视场图像和所述全局校正图像之间的差异图像,包括:
将所述第一视场图像和所述全局校正图像进行匹配处理,得到所述第一视场图像和所述全局校正图像中相互匹配的像素点;
确定所述相互匹配的像素点在第二颜色空间的各预设通道上分别对应的通道差异;
基于所述相互匹配的像素点对应各所述预设通道的通道差异,生成所述第一视场图像和所述全局校正图像之间的差异图像。
7.根据权利要求6所述的方法,其特征在于,所述第一视场图像对应的视场大于所述第二视场图像对应的视场;所述基于所述第一视场图像和所述全局校正图像,对所述差异图像进行非线性映射处理,得到对应的中间图像,包括:
对于所述差异图像中的每个像素差异,若像素差异小于第一差异阈值,则从所述像素差异对应的像素点对中选取属于所述第一视场图像的像素点,作为中间像素点;所述像素差异表征所述差异图像中像素点对应的像素值,所述像素差异基于各所述预设通道的通道差异得到,所述像素点对表征所述第一视场图像和所述全局校正图像中相互匹配的像素点;
若所述像素差异大于或等于第一差异阈值、且所述像素差异小于第二差异阈值,则根据所述像素差异对应的像素点对,生成对应的中间像素点;
若所述像素差异大于或等于所述第二差异阈值,则从所述像素差异对应的像素点对中选取属于所述全局校正图像的像素点,作为中间像素点;
基于各所述中间像素点生成中间图像。
8.根据权利要求1所述的方法,其特征在于,在所述根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像之后,还包括:
基于所述第一视场图像对所述全局校正图像进行配准处理,得到对应的配准图像;
所述基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,包括:
基于所述第一视场图像对所述配准图像进行局部校正处理,得到中间图像;
所述将所述中间图像和所述全局校正图像进行融合处理,得到目标图像,包括:
将所述中间图像和所述配准图像进行融合处理,得到目标图像。
9.根据权利要求1至8任一项所述的方法,其特征在于,所述将所述中间图像和所述全局校正图像进行融合处理,得到目标图像,包括:
对所述中间图像和所述全局校正图像进行滤波处理,得到所述中间图像对应的低频信息和所述全局校正图像对应的低频信息;
根据所述全局校正图像、所述全局校正图像对应的低频信息和所述中间图像对应的低频信息,生成目标图像。
10.根据权利要求1所述的方法,其特征在于,所述第一视场图像为所述第一摄像头采集的原始视场图像中的第一主体区域,所述第二视场图像为所述第二摄像头采集的原始视场图像中的第二主体区域;所述将所述中间图像和所述全局校正图像进行融合处理,得到目标图像,包括:
将所述中间图像、所述全局校正图像和所述第二视场图像中的非主体区域进行融合处理,得到目标图像。
11.一种图像处理装置,其特征在于,包括:
获取模块,用于获取第一摄像头采集的第一视场图像和第二摄像头采集的第二视场图像,所述第一摄像头对应的视场不同于所述第二摄像头对应的视场;
全局校正模块,用于根据所述第一视场图像对所述第二视场图像进行全局校正处理,得到全局校正图像;所述全局校正包括亮度校正和颜色校正中的至少一种;
局部校正模块,用于基于所述第一视场图像对所述全局校正图像进行局部校正处理,得到中间图像,所述局部校正包括位置校正;
融合模块,用于将所述中间图像和所述全局校正图像进行融合处理,得到目标图像。
12.一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,其特征在于,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至10中任一项所述的方法的步骤。
13.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至10中任一项所述的方法的步骤。
14.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至10中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210459096.2A CN115293998A (zh) | 2022-04-26 | 2022-04-26 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210459096.2A CN115293998A (zh) | 2022-04-26 | 2022-04-26 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115293998A true CN115293998A (zh) | 2022-11-04 |
Family
ID=83820980
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210459096.2A Pending CN115293998A (zh) | 2022-04-26 | 2022-04-26 | 图像处理方法、装置、电子设备和计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115293998A (zh) |
-
2022
- 2022-04-26 CN CN202210459096.2A patent/CN115293998A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108055452B (zh) | 图像处理方法、装置及设备 | |
CN106210501B (zh) | 图像合成方法与图像处理装置 | |
DE102019106252A1 (de) | Verfahren und System für Lichtquellenschätzung zur Bildverarbeitung | |
US11431915B2 (en) | Image acquisition method, electronic device, and non-transitory computer readable storage medium | |
WO2021057474A1 (zh) | 主体对焦方法、装置、电子设备和存储介质 | |
CN108154514B (zh) | 图像处理方法、装置及设备 | |
CN107590840B (zh) | 基于网格划分的颜色阴影校正方法及其校正系统 | |
CN107395991B (zh) | 图像合成方法、装置、计算机可读存储介质和计算机设备 | |
CN110958401B (zh) | 一种超级夜景图像颜色校正方法、装置和电子设备 | |
CN109685853B (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
CN107704798B (zh) | 图像虚化方法、装置、计算机可读存储介质和计算机设备 | |
CN110572637B (zh) | 图像异常的检测方法、终端设备及存储介质 | |
CN112004029B (zh) | 曝光处理方法、装置、电子设备、计算机可读存储介质 | |
CN113170061B (zh) | 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法 | |
EP3836532A1 (en) | Control method and apparatus, electronic device, and computer readable storage medium | |
CN108259754B (zh) | 图像处理方法及装置、计算机可读存储介质和计算机设备 | |
CN114862735A (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
CN108600631B (zh) | 图像处理方法、装置、计算机可读存储介质和电子设备 | |
CN107464225B (zh) | 图像处理方法、装置、计算机可读存储介质和移动终端 | |
CN109040598B (zh) | 图像处理方法、装置、计算机可读存储介质和电子设备 | |
CN109218604B (zh) | 影像撷取装置、影像亮度调变方法及影像处理装置 | |
KR102285756B1 (ko) | 전자 시스템 및 영상 처리 방법 | |
CN109300186B (zh) | 图像处理方法和装置、存储介质、电子设备 | |
WO2023151210A1 (zh) | 图像处理方法、电子设备及计算机可读存储介质 | |
CN115293998A (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |