CN114119399A - 图像处理方法和装置 - Google Patents

Abstract

本申请公开了一种图像处理方法和装置，属于电子设备应用技术领域。该方法包括：获取基准帧图像和参考帧图像；在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域；根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式；根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像。

Description

图像处理方法和装置

技术领域

本申请属于图像处理技术领域，具体涉及一种图像处理方法和装置。

背景技术

杂散光是存在于图像中的、会影响图像的色彩、反差和清晰度的光，光学镜头在成像时不可避免的会存在杂散光，尤其是在拍摄夜景以及逆光拍摄的场景中。

目前，可以采用物理手段降低杂散光的亮度和鲜艳度，例如，调整光学结构设计，使用低反射率镀膜等方式。但使用超低反射率镀膜会增加成本，且现有的方案只能降低杂散光的亮度，并不能去除杂散光，影响成像效果。

发明内容

本申请实施例的目的是提供一种图像处理方法和装置，能够去除图像中的杂散光，使得到的图像画面清晰，色彩更加真实。

第一方面，本申请实施例提供了一种图像处理方法，所述方法包括：

获取基准帧图像和参考帧图像；

在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域；

根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式；

根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像。

第二方面，本申请实施例提供了一种图像处理装置，所述装置包括：

获取模块，用于获取基准帧图像和参考帧图像；

第一确定模块，用于在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域；

第二确定模块，用于根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式；

处理模块，用于根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像。

第三方面，本申请实施例提供了一种电子设备，该电子设备包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如第一方面所述的方法的步骤。

第四方面，本申请实施例提供了一种可读存储介质，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如第一方面所述的方法的步骤。

第五方面，本申请实施例提供了一种芯片，所述芯片包括处理器和通信接口，所述通信接口和所述处理器耦合，所述处理器用于运行程序或指令，实现如第一方面所述的方法。

在本申请实施例中，通过获取基准帧图像和参考帧图像；在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域；根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式；根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像。从而利用杂散光的特性，通过参考帧图像对基准帧图像中的杂散光进行去除，得到画面清晰，色彩更加真实的图像，提高成像效果，进而提升了用户体验。

附图说明

图1是本申请实施例的图像处理方法的流程示意图；

图2a～图2d是本申请实施例的图像处理方法中第一去除方式的示意图；

图3a～图3b为本申请实施例的图像处理方法中第二去除方式的示意图；

图4为本申请实施例的图像处理装置的结构示意图；

图5是本申请实施例的电子设备的结构示意图；

图6为实现本申请实施例的一种电子设备的硬件结构示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员获得的所有其他实施例，都属于本申请保护的范围。

本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象，而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施，且“第一”、“第二”等所区分的对象通常为一类，并不限定对象的个数，例如第一对象可以是一个，也可以是多个。此外，说明书以及权利要求中“和/或”表示所连接对象的至少其中之一，字符“/”，一般表示前后关联对象是一种“或”的关系。

下面结合附图，通过具体的实施例及其应用场景对本申请实施例提供的图像处理方法进行详细地说明。

图1是本申请实施例的图像处理方法的流程示意图。本申请实施例的图像处理方法例如可以由图像处理装置执行，该图像处理装置可以设置于电子设备如智能手机、平板电脑、智能手表中。

如图1所示，本实施例的图像处理方法可以包括如下步骤1100～步骤1400：

步骤1100，获取基准帧图像和参考帧图像。

需要说明的是，杂散光的形态和位置对图像的拍摄角度非常敏感，在镜头模组的拍摄角度发生小幅度运动时，杂散光的形态和位置会发生非常明显的变化，如图2a和图2b中所示，杂散光相对于背景物体的位移非常大。

基于杂散光的这一特性，在本实施例中，在拍摄图像时，基于拍摄者手持电子设备拍摄时产生的轻微抖动，或者通过光学防抖、传感器防抖和微云台等主动方式获取一系列拍摄角度有差异的图像序列。

具体的，从所述图像序列中选取一帧图像作为基准帧，将所述图像序列中的其他帧图像作为参考帧图像。可选地，在选取基准帧图像时，可以选择最接近按压快门瞬间的一帧图像，例如，所述基准帧可以是图像序列中的第一帧图像。

需要说明的是，本实施例中，将基准帧图像作为最终输出的目标图像的画面构图标准，参考帧图像用于作为去除基准帧图像中杂散光的参考图像。可以理解的是，在其他可行的实现方式中，所述基准帧图像和参考帧图像的确定也可以根据实际需求设置，在此不作具体限定。

在获取所述基准帧图像和所述参考帧图像后，执行步骤1200：

步骤1200，在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域。

在本步骤中，首先需要检测所述基准帧图像中是否存在杂散光，在检测所述基准帧图像中不存在杂散光的情况下，不需要对基准帧图像进行。在检测所述基准帧图像中存在杂散光的情况下，才执行根据所述参考帧图像去除所述基准帧图像中的杂散光操作。

具体的，检测所述基准帧图像中是否存在杂散光的步骤可以包括：将所述基准帧图像与所述参考帧图像进行像素点比对；根据比对结果确定所述基准帧图像中是否存在杂散光。

示例性的，可以采用光流法获取像素点在帧图像中的运动轨迹，根据运动轨迹来确定所述基准帧图像中是否存在杂散光。可以理解的是，在一些其他的实现方式中，也可以采用其他方式来确定所述基准帧图像中是佛存在杂散光，在此不作具体限定。

本实施例中，在检测所述基准帧图像中存在杂散光的情况下，还需要确定杂散光所在的区域，以便于后续处理。因此，在确定所述基准帧图像中存在杂散光的情况下，所述电子设备可以进一步确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域。

在确定所述第一目标区域和所述第二目标区域后，执行步骤1300：

步骤1300，根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式。

示例性的，在所述第一目标区域与所述第二目标区域不重叠的情况下，可以确定对应的杂散光去除方式为第一去除方式；在所述第一目标区域与所述第二目标区域重叠的情况下，可以确定对应的杂散光去除方式为第二去除方式。

步骤1400，根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像。

示例性的，在所述第一目标区域与所述第二目标区域不重叠的情况下，所确定的对应的杂散光去除方式为第一去除方式。具体的，所述第一去除方式可以是：在参考帧图像中找到未被杂散光影响的画面，从而对基准帧图像中的杂散光进行处理，得到目标图像。例如，可以使用第二画面对所述第一目标区域中的第一画面进行替换，得到所述目标图像。其中，所述第二画面是所述参考帧图像中与所述第一目标区域对应位置处的画面。

如图2a～图2d中所示，图2a为基准帧图像，被框出来的是第一目标区域，第一目标区域中存在杂散光，图2b是参考帧图像，杂散光在参考帧图像的第二目标区域中，可以看出，第一目标区域与第二目标区域并未重叠，因此采用第一去除方式去除所述基准帧图像中的杂散光。

如图2c所示，从所述参考帧图像中获取与所述第一目标区域对应位置处的第二画面，并使用第二画面对所述第一目标区域中的第一画面进行替换。可选地，在使用第二画面对所述第一目标区域中的第一画面进行替换之后，还可以对所述第二画面进行第一预设处理，所述第一预设处理包括区域对齐处理和亮度匹配处理，即，将第二画面与第一目标区域进行对齐，并在对齐后调整第二画面的亮度，以使所述第二画面处的亮度与所述基准帧图像的其他区域相同，以得到没有杂散光的目标图像，如图2d所示。

示例性的，在所述第一目标区域与所述第二目标区域重叠的情况下，所确定的对应的杂散光去除方式为第二去除方式。具体的，所述第二去除方式可以是：通过降低杂散光的亮度和色彩来降低杂散光对图像的影响。其中，所述第一目标区域与所述第二目标区域重叠包括部分重叠和完全重叠，在此不作具体限定。

具体的，使用第二去除方式去除所述基准帧图像中的杂散光，得到所述目标图像，包括：对所述第一目标区域中的第一画面进行第二预设处理，以得到所述目标图像；其中，所述第二预设处理包括降低饱和度处理、降低亮度处理以及色彩匹配处理。

如图3a所示，所述基准帧图像和所述参考帧图像的第一目标区域和第二目标区域重合，都受到杂散光的干扰，此时，可以根据杂散光的色彩和亮度，对第一画面进行降低饱和度处理、降低亮度处理，并根据基准帧图像其他区域的色彩，对第一画面的色彩进行调整，以降低杂散光对基准帧图像的影响，从而得到所述目标图像，如图3b所示。

本申请实施例的图像处理方法，通过获取基准帧图像和参考帧图像；在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域；根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式；根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像。从而利用杂散光的特性，通过参考帧图像对基准帧图像中的杂散光进行去除，得到画面清晰，色彩更加真实的图像，提高成像效果，进而提升了用户体验。

需要说明的是，本申请实施例提供的图像处理方法，执行主体可以为图像处理装置，或者该图像处理装置中的用于执行图像处理方法的控制模块。本申请实施例中以图像处理装置执行图像处理方法为例，说明本申请实施例提供的图像处理装置。

图4为本申请实施例的图像处理装置的结构示意图。如图4所示，本申请实施例的图像处理装置4000可以包括：获取模块4100，第一确定模块4200，第二确定模块4300和处理模块4400。

其中，获取模块4100，用于获取基准帧图像和参考帧图像。

第一确定模块4200，用于在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域。

第二确定模块4300，用于根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式。

处理模块4400，用于根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像。

在一个实施例中，所述第二确定模块4300具体用于：在所述判断结果为所述第一目标区域与所述第二目标区域不重叠的情况下，确定对应的杂散光去除方式为第一去除方式。

在一个实施例中，所述处理模块4400具体用于：使用第二画面对所述第一目标区域中的第一画面进行替换，得到所述目标图像；其中，所述第二画面是所述参考帧图像中与所述第一目标区域对应位置处的画面。

在一个实施例中，所述处理模块4400还用于：对所述第二画面进行第一预设处理，所述第一预设处理包括区域对齐处理和亮度匹配处理。

在一个实施例中，所述第二确定模块4300具体用于：在所述判断结果为所述第一目标区域与所述第二目标区域重叠的情况下，确定对应的杂散光去除方式为第二去除方式。

本实施例的图像处理装置，通过设置用于获取基准帧图像和参考帧图像的获取模块；用于在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域的第一确定模块，用于根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式的第二确定模块，以及用于根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像的处理模块。从而利用杂散光的特性，通过参考帧图像对基准帧图像中的杂散光进行去除，得到画面清晰，色彩更加真实的图像，提高成像效果，进而提升了用户体验。

本申请实施例中的图像处理装置可以是装置，也可以是终端中的部件、集成电路、或芯片。该装置可以是移动电子设备。示例性的，移动电子设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载电子设备、可穿戴设备、超级移动个人计算机(ultra-mobilepersonal computer，UMPC)、上网本或者个人数字助理(personal digital assistant，PDA)等，本申请实施例不作具体限定。

本申请实施例中的图像处理装置可以为具有操作系统的装置。该操作系统可以为安卓(Android)操作系统，可以为ios操作系统，还可以为其他可能的操作系统，本申请实施例不作具体限定。

本申请实施例提供的图像处理装置能够实现图1的方法实施例实现的各个过程，为避免重复，这里不再赘述。

可选地，如图5所示，本申请实施例还提供一种电子设备5000，包括处理器5100，存储器5200，存储在存储器5200上并可在所述处理器5100上运行的程序或指令，该程序或指令被处理器5100执行时实现上述图1所示的图像处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

需要说明的是，本申请实施例中的电子设备包括上述所述的移动电子设备。

图6为实现本申请实施例的一种电子设备的硬件结构示意图。

该电子设备600包括但不限于：射频单元601、网络模块602、音频输出单元603、输入单元604、传感器605、显示单元606、用户输入单元607、接口单元608、存储器609、以及处理器610等部件。

本领域技术人员可以理解，电子设备600还可以包括给各个部件供电的电源(比如电池)，电源可以通过电源管理系统与处理器610逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。图6中示出的电子设备结构并不构成对电子设备的限定，电子设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置，在此不再赘述。

其中，处理器610用于获取基准帧图像和参考帧图像；在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域；根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式；根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像。

在一个实施例中，处理器610具体用于在所述判断结果为所述第一目标区域与所述第二目标区域不重叠的情况下，确定对应的杂散光去除方式为第一去除方式。

在一个实施例中，处理器610具体用于使用第二画面对所述第一目标区域中的第一画面进行替换，得到所述目标图像；其中，所述第二画面是所述参考帧图像中与所述第一目标区域对应位置处的画面。

在一个实施例中，处理器610还用于对所述第二画面进行第一预设处理，所述第一预设处理包括区域对齐处理和亮度匹配处理。

在一个实施例中，处理器610具体用于在所述判断结果为所述第一目标区域与所述第二目标区域重叠的情况下，确定对应的杂散光去除方式为第二去除方式。

本申请实施例的电子设备，可用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，在此不再赘述。

应理解的是，本申请实施例中，输入单元604可以包括图形处理器(GraphicsProcessing Unit，GPU)6041和麦克风6042，图形处理器6041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。显示单元606可包括显示面板6061，可以采用液晶显示器、有机发光二极管等形式来配置显示面板6061。用户输入单元607包括触控面板6071以及其他输入设备6072。触控面板6071，也称为触摸屏。触控面板6071可包括触摸检测装置和触摸控制器两个部分。其他输入设备6072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆，在此不再赘述。存储器609可用于存储软件程序以及各种数据，包括但不限于应用程序和操作系统。处理器610可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器610中。

本申请实施例还提供一种可读存储介质，所述可读存储介质上存储有程序或指令，该程序或指令被处理器执行时实现上述图1所示的图像处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

其中，所述处理器为上述实施例中所述的电子设备中的处理器。所述可读存储介质，包括计算机可读存储介质，如计算机只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等。

本申请实施例另提供了一种芯片，所述芯片包括处理器和通信接口，所述通信接口和所述处理器耦合，所述处理器用于运行程序或指令，实现上述图1所示的图像处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

应理解，本申请实施例提到的芯片还可以称为系统级芯片、系统芯片、芯片系统或片上系统芯片等。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。此外，需要指出的是，本申请实施方式中的方法和装置的范围不限按示出或讨论的顺序来执行功能，还可包括根据所涉及的功能按基本同时的方式或按相反的顺序来执行功能，例如，可以按不同于所描述的次序来执行所描述的方法，并且还可以添加、省去、或组合各种步骤。另外，参照某些示例所描述的特征可在其他示例中被组合。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以计算机软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，或者网络设备等)执行本申请各个实施例所述的方法。

上面结合附图对本申请的实施例进行了描述，但是本申请并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本申请的启示下，在不脱离本申请宗旨和权利要求所保护的范围情况下，还可做出很多形式，均属于本申请的保护之内。

Claims (10)

1.一种图像处理方法，其特征在于，所述方法包括：

获取基准帧图像和参考帧图像；

在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域；

根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式；

根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像。

2.根据权利要求1所述的方法，其特征在于，所述根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式，包括：

在所述判断结果为所述第一目标区域与所述第二目标区域不重叠的情况下，确定对应的杂散光去除方式为第一去除方式。

3.根据权利要求2所述的方法，其特征在于，所述根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到所述目标图像，包括：

使用第二画面对所述第一目标区域中的第一画面进行替换，得到所述目标图像；其中，所述第二画面是所述参考帧图像中与所述第一目标区域对应位置处的画面。

4.根据权利要求3所述的方法，其特征在于，所述使用第二画面对所述第一目标区域中的第一画面进行替换之后，所述方法还包括：

对所述第二画面进行第一预设处理，所述第一预设处理包括区域对齐处理和亮度匹配处理。

5.根据权利要求1所述的方法，其特征在于，所述根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式，包括：

在所述判断结果为所述第一目标区域与所述第二目标区域重叠的情况下，确定对应的杂散光去除方式为第二去除方式。

6.一种图像处理装置，其特征在于，所述装置包括：

获取模块，用于获取基准帧图像和参考帧图像；

第一确定模块，用于在检测所述基准帧图像中存在杂散光的情况下，确定所述基准帧图像中杂散光所在的第一目标区域，以及所述参考帧图像中杂散光所在的第二目标区域；

第二确定模块，用于根据所述第一目标区域与所述第二目标区域是否重叠的判断结果，确定对应的杂散光去除方式；

处理模块，用于根据所述杂散光去除方式去除所述基准帧图像中的杂散光，得到目标图像。

7.根据权利要求6所述的装置，其特征在于，所述第二确定模块具体用于：

在所述判断结果为所述第一目标区域与所述第二目标区域不重叠的情况下，确定对应的杂散光去除方式为第一去除方式。

8.根据权利要求7所述的装置，其特征在于，所述处理模块具体用于：使用第二画面对所述第一目标区域中的第一画面进行替换，得到所述目标图像；其中，所述第二画面是所述参考帧图像中与所述第一目标区域对应位置处的画面。

9.根据权利要求8所述的装置，其特征在于，所述处理模块还用于：对所述第二画面进行第一预设处理，所述第一预设处理包括区域对齐处理和亮度匹配处理。

10.根据权利要求6所述的装置，其特征在于，所述第二确定模块具体用于：在所述判断结果为所述第一目标区域与所述第二目标区域重叠的情况下，确定对应的杂散光去除方式为第二去除方式。

Images