CN113364964A - 图像处理方法、图像处理装置、存储介质与终端设备 - Google Patents

Abstract

本公开提供了一种图像处理方法、图像处理装置、存储介质与终端设备，涉及图像处理技术领域。所述方法包括：获取第一图像，其中，所述第一图像经至少一张预览图像合成；获取第二图像，所述第二图像的像素高于所述第一图像；将所述第二图像中亮度满足预设条件的区域确定为高亮度区域；根据所述高亮度区域，将所述第一图像与所述第二图像进行融合，生成目标图像。本公开可以在保留图像细节信息的同时，改善高亮度区域过曝的问题，提高图像质量，具有较高的实用性。

Description

图像处理方法、图像处理装置、存储介质与终端设备

技术领域

本公开涉及图像处理技术领域，尤其涉及一种图像处理方法、图像处理装置、计算机可读存储介质与终端设备。

背景技术

随着人们对拍照需求的不断提高，提高图像像素与细节表现是业界普遍的发展方向，例如手机上通常采用百万甚至千万级别像素的图像传感器，可以支持拍摄出超高清的照片。但是，在产品迭代过程中，实际感光面积的增长速度远低于像素的增长速度，导致像素密度大大增加，单位像素的感光面积越来越小。在实际的拍摄过程中，如果曝光时间较短，则最终拍摄的图像可能会出现信噪比较差的问题，而曝光时间较长，拍摄的图像中高亮度区域又会出现过曝的情况。

因此，如何在提高像素的同时使图像高亮度区域具有更好的显示效果，是现有技术所亟待解决的。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开提供了一种图像处理方法、图像处理装置、计算机可读存储介质与终端设备，进而至少在一定程度上改善现有的拍摄图像中高亮度区域显示效果不理想的问题。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的第一方面，提供一种图像处理方法，所述方法包括：获取第一图像，其中，所述第一图像经至少一张预览图像合成；获取第二图像，所述第二图像的像素高于所述第一图像；将所述第二图像中亮度满足预设条件的区域确定为高亮度区域；根据所述高亮度区域，将所述第一图像与所述第二图像进行融合，生成目标图像。

根据本公开的第二方面，提供一种图像处理装置，所述装置包括：第一图像获取模块，用于获取第一图像，其中，所述第一图像经至少一张预览图像合成；第二图像获取模块，用于获取第二图像，所述第二图像的像素高于所述第一图像；高亮区域确定模块，用于将所述第二图像中亮度满足预设条件的区域确定为高亮度区域；目标图像生成模块，用于根据所述高亮度区域，将所述第一图像与所述第二图像进行融合，生成目标图像。

根据本公开的第三方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述图像处理方法。

根据本公开的第四方面，提供一种终端设备，包括：处理器；存储器，用于存储所述处理器的可执行指令；以及四拜耳图像传感器，用于获取原始拜耳图像；其中，所述处理器配置为经由执行所述可执行指令来执行上述图像处理方法，以对所述原始拜耳图像进行处理，得到对应的目标图像。

本公开的技术方案具有以下有益效果：

根据上述图像处理方法、图像处理装置、存储介质和终端设备，获取第一图像，其中，所述第一图像经至少一张预览图像合成；获取第二图像，第二图像的像素高于第一图像；将第二图像中亮度满足预设条件的区域确定为高亮度区域；根据高亮度区域，将第一图像与第二图像进行融合，生成目标图像。一方面，第一图像为至少一张像素较低的预览图像合成的，而预览图像对高亮度区域具有较好的表现效果，第二图像的像素数较高，清晰度较高，图像细节较为丰富，融合第一图像和第二图像，可以在保留第二图像细节信息的同时，改善高亮度区域过曝的问题，提高图像质量；另一方面，通过将第一图像与第二图像进行融合，可以提高目标图像的信噪比，特别在图像的中低亮度区域，具有良好的表现效果；再一方面，本示例性实施例基于预览图像的合成，融合第二图像生成目标图像，其过程较为简单，硬件方面的成本较低，具有较高的实用性。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施方式，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出本示例性实施方式中一种用于实现图像处理方法的终端设备；

图2示出本示例性实施方式中一种图像处理方法的流程图；

图3示出本示例性实施方式中第一图像与第二图像的一种对比示意图；

图4示出本示例性实施方式中第一图像与第二图像的另一种对比示意图；

图5示出本示例性实施方式中滤色阵列的示意图；

图6示出本示例性实施方式中获得预览图像的示意图；

图7示出本示例性实施方式中获得第二图像的示意图；

图8示出本示例性实施方式中一种图像处理方法的子流程图；

图9示出本示例性实施方式中一种图像处理装置的结构框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

本公开的示例性实施方式提供一种用于实现图像处理方法的电子设备。该电子设备至少包括处理器和存储器，存储器用于存储处理器的可执行指令，处理器配置为经由执行可执行指令来执行图像处理方法。

电子设备可以以各种形式来实施，例如可以包括手机、平板电脑、笔记本电脑、个人数字助理(Personal Digital Assistant，PDA)、导航装置、可穿戴设备等移动设备，以及台式电脑、智能电视等固定设备。下面以图1中的终端设备100为例，对电子设备的构造进行示例性说明。本领域技术人员应当理解，除了特别用于移动目的的部件之外，图1中的构造也能够应用于固定类型的设备。在另一些实施方式中，终端设备100可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件、软件或软件和硬件的组合实现。各部件间的接口连接关系只是示意性示出，并不构成对终端设备100的结构限定。在另一些实施方式中，终端设备100也可以采用与图1不同的接口连接方式，或多种接口连接方式的组合。

如图1所示，终端设备100具体可以包括：处理器110、内部存储器121、外部存储器接口122、通用串行总线(Universal Serial Bus，USB)接口130、充电管理模块140、电源管理模块141、电池142、天线1、天线2、移动通信模块150、无线通信模块160、音频模块170、扬声器171、受话器172、麦克风173、耳机接口174、传感器模块180、显示屏190、摄像模组191、指示器192、按键193以及用户标识模块(SubscriberIdentification Module，SIM)卡接口194等。其中传感器模块180可以包括深度传感器1801、压力传感器1802等。

处理器110可以包括一个或多个处理单元，例如：处理器110可以包括应用处理器(Application Processor，AP)、调制解调处理器、图形处理器(Graphics ProcessingUnit，GPU)、图像信号处理器(Image Signal Processor，ISP)、控制器、视频编解码器、数字信号处理器(Digital Signal Processor，DSP)、基带处理器和/或神经网络处理器(Neural-Network Processing Unit，NPU)等。其中，不同的处理单元可以是独立的器件，也可以集成在一个或多个处理器中。

控制器可以根据指令操作码和时序信号，产生操作控制信号，完成取指令和执行指令的控制。

处理器110中还可以设置存储器，用于存储指令和数据。存储器可以存储用于实现六个模块化功能的指令：检测指令、连接指令、信息管理指令、分析指令、数据传输指令和通知指令，并由处理器110来控制执行。在一些实施方式中，处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据，可从存储器中直接调用。避免了重复存取，减少了处理器110的等待时间，因而提高了系统的效率。

在一些实施方式中，处理器110可以包括一个或多个接口。接口可以包括集成电路(Inter-Integrated Circuit，I2C)接口、集成电路内置音频(Inter-Integrated CircuitSound，I2S)接口、脉冲编码调制(Pulse Code Modulation，PCM)接口、通用异步收发传输器(Universal Asynchronous Receiver/Transmitter，UART)接口、移动产业处理器接口(Mobile Industry Processor Interface，MIPI)、通用输入输出(General-PurposeInput/Output，GPIO)接口、用户标识模块(Subscriber Identity Module，SIM)接口和/或通用串行总线(Universal Serial Bus，USB)接口等。通过不同的接口和终端设备100的其他部件形成连接。

USB接口130是符合USB标准规范的接口，具体可以是MiniUSB接口，MicroUSB接口，USBTypeC接口等。USB接口130可以用于连接充电器为终端设备100充电，也可以连接耳机，通过耳机播放音频，还可以用于终端设备100连接其他电子设备，例如连接电脑、外围设备等。

充电管理模块140用于从充电器接收充电输入。其中，充电器可以是无线充电器，也可以是有线充电器。在一些有线充电的实施方式中，充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施方式中，充电管理模块140可以通过终端设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时，还可以通过电源管理模块141为电子设备供电。

电源管理模块141用于连接电池142、充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入，为处理器110、内部存储器121、显示屏190、摄像模组191和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量，电池循环次数，电池健康状态(漏电，阻抗)等参数。在其他一些实施方式中，电源管理模块141也可以设置于处理器110中。在另一些实施方式中，电源管理模块141和充电管理模块140也可以设置于同一个器件中。

终端设备100的无线通信功能可以通过天线1、天线2、移动通信模块150、无线通信模块160、调制解调处理器以及基带处理器等实现。

天线1和天线2用于发射和接收电磁波信号。终端设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用，以提高天线的利用率。例如：可以将天线1复用为无线局域网的分集天线。在另外一些实施方式中，天线可以和调谐开关结合使用。

移动通信模块150可以提供应用在终端设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器，开关，功率放大器，低噪声放大器(Low Noise Amplifier，LNA)等。移动通信模块150可以由天线1接收电磁波，并对接收的电磁波进行滤波、放大等处理，传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大，经天线1转为电磁波辐射出去。在一些实施方式中，移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施方式中，移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。

调制解调处理器可以包括调制器和解调器。其中，调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后，被传递给应用处理器。应用处理器通过音频设备(不限于扬声器171，受话器172等)输出声音信号，或通过显示屏190显示图像或视频。在一些实施方式中，调制解调处理器可以是独立的器件。在另一些实施方式中，调制解调处理器可以独立于处理器110，与移动通信模块150或其他功能模块设置在同一个器件中。

无线通信模块160可以提供应用在终端设备100上的包括无线局域网(WirelessLocal Area Networks，WLAN)(如无线保真(Wireless Fidelity，Wi-Fi)网络)、蓝牙(Bluetooth，BT)、全球导航卫星系统(Global Navigation Satellite System，GNSS)、调频(Frequency Modulation，FM)、近距离无线通信技术(Near Field Communication，NFC)、红外技术(Infrared，IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波，将电磁波信号调频以及滤波处理，将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号，对其进行调频，放大，经天线2转为电磁波辐射出去。

终端设备100通过GPU、显示屏190及应用处理器等实现显示功能。GPU为微处理器，连接显示屏190和应用处理器。GPU用于执行数学和几何计算，用于图形渲染。处理器110可包括一个或多个GPU，其执行程序指令以生成或改变显示信息。

显示屏190用于显示图像，视频等。显示屏190包括显示面板。显示面板可以采用液晶显示屏(Liquid Crystal Display，LCD)，有机发光二极管(Organic Light-EmittingDiode，OLED)，有源矩阵有机发光二极体或主动矩阵有机发光二极体(Active-MatrixOrganic Light Emitting Diode，AMOLED)，柔性发光二极管(Flexlight-Emitting Diode，FLED)，Miniled，MicroLed，Micro-oLed，量子点发光二极管(Quantum dot Light EmittingDiodes，QLED)等。在一些实施方式中，终端设备100可以包括1个或N个显示屏190，N为大于1的正整数。

终端设备100可以通过ISP、摄像模组191、视频编解码器、GPU、显示屏190及应用处理器等实现拍摄功能。

ISP用于处理摄像模组191反馈的数据。例如，拍照时，打开快门，光线通过镜头被传递到摄像头感光元件上，光信号转换为电信号，摄像头感光元件将电信号传递给ISP处理，转化为肉眼可见的图像。ISP还可以对图像的噪点，亮度，肤色进行算法优化。ISP还可以对拍摄场景的曝光，色温等参数优化。在一些实施方式中，ISP可以设置在摄像模组191中。

摄像模组191用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(Charge Coupled Device，CCD)或互补金属氧化物半导体(Complementary Metal-Oxide-Semiconductor，CMOS)光电晶体管。感光元件把光信号转换成电信号，之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB，YUV等格式的图像信号。在一些实施方式中，终端设备100可以包括1个或N个摄像模组191，N为大于1的正整数，若终端设备100包括N个摄像头，N个摄像头中有一个是主摄像头。

数字信号处理器用于处理数字信号，除了可以处理数字图像信号，还可以处理其他数字信号。例如，当终端设备100在频点选择时，数字信号处理器用于对频点能量进行傅里叶变换等。

视频编解码器用于对数字视频压缩或解压缩。终端设备100可以支持一种或多种视频编解码器。这样，终端设备100可以播放或录制多种编码格式的视频，例如：动态图像专家组(Moving Picture Experts Group，MPEG)1，MPEG2，MPEG3，MPEG4等。

外部存储器接口122可以用于连接外部存储卡，例如Micro SD卡，实现扩展终端设备100的存储能力。外部存储卡通过外部存储器接口122与处理器110通信，实现数据存储功能。例如将音乐，视频等文件保存在外部存储卡中。

内部存储器121可以用于存储计算机可执行程序代码，可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中，存储程序区可存储操作系统，至少一个功能所需的应用程序(比如声音播放功能，图像播放功能等)等。存储数据区可存储终端设备100使用过程中所创建的数据(比如音频数据，电话本等)等。此外，内部存储器121可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件，闪存器件，通用闪存存储器(Universal Flash Storage，UFS)等。处理器110通过运行存储在内部存储器121的指令和/或存储在设置于处理器中的存储器的指令，执行终端设备100的各种功能应用以及数据处理。

终端设备100可以通过音频模块170、扬声器171、受话器172、麦克风173、耳机接口174及应用处理器等实现音频功能。例如音乐播放、录音等。

音频模块170用于将数字音频信息转换成模拟音频信号输出，也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。扬声器171，也称“喇叭”，用于将音频电信号转换为声音信号。受话器172，也称“听筒”，用于将音频电信号转换成声音信号。麦克风173，也称“话筒”，“传声器”，用于将声音信号转换为电信号。耳机接口174用于连接有线耳机。

深度传感器1801用于获取景物的深度信息。在一些实施方式中，深度传感器可以设置于摄像模组191。

压力传感器1802用于感受压力信号，可以将压力信号转换成电信号。在一些实施方式中，压力传感器1802可以设置于显示屏190。压力传感器1802的种类很多，如电阻式压力传感器，电感式压力传感器，电容式压力传感器等。

此外，根据实际需要，还可以在传感器模块180中设置其他功能的传感器，例如磁传感器、加速度传感器、距离传感器、接近光传感器、指纹传感器、温度传感器、触摸传感器、环境光传感器、骨传导传感器等等。

按键193包括开机键，音量键等。按键193可以是机械按键。也可以是触摸式按键。终端设备100可以接收按键输入，产生与终端设备100的用户设置以及功能控制有关的键信号输入。

指示器192可以是指示灯，可以用于指示充电状态，电量变化，也可以用于指示消息，未接来电，通知等。

SIM卡接口194用于连接SIM卡。SIM卡可以通过插入SIM卡接口194，或从SIM卡接口194拔出，实现和终端设备100的接触和分离。终端设备100可以支持1个或N个SIM卡接口，N为大于1的正整数。SIM卡接口194可以支持Nano SIM卡，Micro SIM卡，SIM卡等。同一个SIM卡接口194可以同时插入多张卡。多张卡的类型可以相同，也可以不同。SIM卡接口194也可以兼容不同类型的SIM卡。SIM卡接口194也可以兼容外部存储卡。终端设备100通过SIM卡和网络交互，实现通话以及数据通信等功能。在一些实施方式中，终端设备100采用eSIM，即：嵌入式SIM卡。eSIM卡可以嵌在终端设备100中，不能和终端设备100分离。

本公开的示例性实施方式首先提供了一种图像处理方法，可以应用于手机、平板电脑、数码相机等具有拍照功能的终端设备。该终端设备可以配置一个或多个摄影模组，摄像模组中包括图像传感器，用于采集图像。其中，图像传感器可以通过设置不同的硬件寄存器来实现拍摄6400万像素和1600万像素的原始图像数据。

图2示出了本示例性实施方式的一种流程，可以包括以下步骤S210～S240：

步骤S210，获取第一图像，其中，第一图像经至少一张预览图像合成。

其中，预览图像是指用户在打开终端设备的摄像机后，显示界面所呈现的可以对被拍摄对象进行预览的图像。考虑到预览图像旨在为用户呈现当前的拍照效果，因此，可以设置较短的曝光时间，获取低像素的图像，例如1600万像素的图像等。在实际拍摄中，本示例性实施例，可以将获取的至少一张预览图像进行合成，得到第一图像。合成第一图像的不同的预览图像可以具有不同的曝光时间，即第一图像可以是高动态图像。高动态图像，相比于普通的图像，可以提供更多的动态范围和图像细节，本示例性实施例根据不同曝光时间的预览图像，通过利用每个曝光时间相对应最佳细节的预览图像合成第一图像，能够更好的反映真实环境中的视觉效果。

步骤S220，获取第二图像，第二图像的像素高于第一图像。

在本示例性实施例中，第二图像是指终端设备通过图像传感器采集到的图像。具体可以是指当终端设备接收到用户输入的拍照指令时，采集到的拍照图像。通常，拍照图像具有较长的曝光时间或较高的像素数，例如6400万像素的图像等。其中，拍照指令是指终端设备接收到的，用户希望进行拍照的操作信息，其可以是用户在触控界面对特定的拍照选项进行触控操作，例如在显示界面的拍照按钮进行单击或长按等操作；也可以是用户在终端设备的物理按键进行按压操作，例如物理按键“音量增加”按键可以控制拍照，用户通过按压该物理按键可以输入拍照指令；另外，拍照指令还可以是语音指令或手势指令等，本公开对此不做具体限定。

在本示例性实施例中，第一图像和第二图像所拍摄的区域为相同区域，即第一图像与第二图像中被拍摄对象为相同对象，其内容是相同的，不同之处在于像素数，第二图像的像素数高于第一图像，例如第一图像可以是1600万像素数，第二图像可以是6400万像素数。因此，在本示例性实施例中，第二图像相比于第一图像具有更高的清晰度，其细节呈现较好，例如如图3所示，左图为6400万像素的第二图像，右图为1600万像素的第一图像，第二图像相比于第一图像，相同区域中树木的细节表现更为真实、清晰。

另外，由于第二图像的曝光时间相比于预览图像的曝光时间较长，可以让一部分高亮度区域过饱和使得暗处细节获得充足的曝光时间，从而提升中低亮度区域的信噪比，然而这样却会使得部分高亮度区域出现过曝的情况。图4示出了本示例性实施例中第一图像与第二图像的对比示意图，参考图4所示，左图示出了6400万像素下低动态的第二图像，右图示出了1600万像素下高动态的第一图像，第一图像与第二图像为相同的拍摄区域，其中天空区域410为高亮度区域，由于第二图像曝光时间较长，使得天空区域410呈现出过曝的效果，而第一图像中天空区域410表现正常。

在另一种实施方式中，终端设备可以配置两个不同像素的图像传感器，例如目前很多手机配置有双摄像头。其中，像素较高的图像传感器用于拍摄第二图像，像素较低的图像传感器用于拍摄预览图像，例如采用低像素的摄像模组采集1600万像素的预览图像，采用高像素的摄像模组采集6400万像素的第二图像等。由于两图像传感器的图像采集过程是在一次拍摄中完成的，其曝光的程度是相近的，因此第二图像的分辨率更高，但受到感光量的影响，其噪点可能更多，预览图像反之。

本公开也可以通过相同的图像传感器采集预览图像和第二图像。具体的，该图像传感器可以是四拜耳(Quad Bayer)图像传感器，四拜耳图像传感器是指采用四拜耳滤色阵列的图像传感器。参考图5所示，左图示出了标准拜耳滤色阵列，其滤光片的单元阵列排布为GRBG(或BGGR、GBRG、RGGB)，大部分图像传感器采用标准拜耳滤色阵列；图5中右图示出了四拜耳滤色阵列，其滤光片的单元阵列中相邻四个单元为相同颜色，目前一部分高像素的图像传感器采用四拜耳滤色阵列。基于此，步骤S210中获取多张预览图像可以具体通过以下步骤实现：

在预览状态下，获取由四拜耳图像传感器采集的基于四拜耳滤色阵列的至少一张原始拜耳预览图像；

对每张原始拜耳预览图像分别进行像素四合一处理和去马赛克处理，得到至少一张预览图像；

将至少一张预览图像进行合成，得到第一图像。

其中，拜耳图像是指RAW格式的图像，是图像传感器将采集到的光信号转化为数字信号后的图像数据，在拜耳图像中，每个像素点只有RGB中的一种颜色。本示例性实施方式中，利用四拜耳图像传感器采集图像后，得到的原始图像数据即上述原始拜耳预览图像，该图像中像素的颜色排列如图5中右图所示，相邻四个像素为相同颜色。

可以参考图6所示，首先对原始拜耳预览图像P进行像素“四合一”处理，即把2*2个单元内的同颜色像素合并为一个像素，合并像素后的拜耳预览图像Q1也是基于标准拜耳滤色阵列的排布，再对Q1进行去马赛克处理(Demosaic)，得到RGB格式的预览图像IMG1，其中，去马赛克处理是指将拜耳图像融合为完整的RGB图像的过程。当然也可以根据实际需求将RGB格式进一步转换为灰度或其他颜色模式的预览图像。然后，通过对多张预览图像进行合成，可以得到与预览图像具有相同像素数的第一图像。

在一示例性实施例中，上述步骤S220中获取第二图像，可以通过以下步骤实现：

在拍照状态下，获取由四拜耳图像传感器采集的基于四拜耳滤色阵列的原始拜耳拍照图像；

对原始拜耳拍照图像进行解马赛克处理和去马赛克处理，得到第二图像；

其中，第二图像的像素为第一图像的四倍。

其中，解马赛克处理(Remosaic)是指将基于四拜耳滤色阵列的原始拜耳图像融合为基于标准拜耳滤色阵列的拜耳图像。结合图7所示，可以对原始拜耳拍照图像S进行解马赛克处理，得到基于标准拜耳滤色阵列的拜耳图像Q2；再对基于标准拜耳滤色阵列的拜耳图像Q2进行去马赛克处理，得到RGB格式的第二图像IMG2。解马赛克和去马赛克可以通过不同的插值算法实现，也可以通过神经网络等其他相关算法实现，本公开对此不做限定。终端设备中通常配置和图像传感器配套的ISP(Image Signal Processing，图像信号处理)单元，以执行上述解马赛克和去马赛克处理过程。第二图像IMG2的每个像素都具有RGB三个通道的像素值，以C表示。此外，也可以将解马赛克和去马赛克的处理过程合并为一次插值过程，即基于原始拜耳拍照图像中的像素数据，直接对每个像素点进行插值，以得到缺失的颜色通道的像素值，例如可以采用线性插值、均值插值等算法实现，从而获得第二图像。相比于图6中的Q1，Q2的像素增大4倍，同时每个像素的面积减小为1/4，这样每个像素的进光量减小；可见，第二图像的像素数为第一图像的四倍。

在本示例性实施例中，第一图像IMG1和第二图像IMG2可以采用相同的颜色模式，但是两者的像素不同。假设原始拜耳预览图像P和原始拜耳拍照图像S的像素尺寸均为W*H，则第二图像IMG2的像素尺寸为W*H，预览图像IMG1的像素尺寸为W/2*H/2，相应的第一图像的像素尺寸也为W/2*H/2。

步骤S230，将第二图像中亮度满足预设条件的区域确定为高亮度区域。

步骤S240，根据高亮度区域，将第一图像与第二图像进行融合，生成目标图像。

通常，在拍摄照片时，图像中会包含多种对象，例如建筑、植物、天空或者车辆等，这些对象在图像中会呈现出不同的亮度效果，例如天空相比于建筑物的阴影面具有较高的亮度。因此，如果第二图像中同时存在天空和建筑物时，曝光时间过长，则会使得天空区域出现过曝的情况，而曝光时间过短，则会使得建筑物的细节表现不清楚，因此，本示例性实施例可以通过确定第二图像中的高亮度区域，并根据高亮度区域，融合第一图像与第二图像来生成目标图像。

由上可知，第一图像和第二图像所拍摄的内容相同，第一图像的像素虽然较低，但由于其为高动态图像，对于高亮度区域的表现较高，第二图像的像素数较高，但曝光时间较长，高亮度区域的表现较差。因此，可以对第一图像和第二图像进行融合，以综合两图像中的优势，得到质量较高的目标图像。目标图像可以是最终输出的图像，例如用户在使用手机拍照时，图像传感器在初始采集到图像数据后，手机通过执行上述步骤S210～S240，输出目标图片以显示在手机的屏幕上，目标图像还可以是存储于相册的图像或者上传云端的图像等等。

在本示例性实施例中，可以通过提取第二图像中的亮度特征，来确定亮度区域，例如将第二图像划分为多个规则或不规则的区域，计算每个区域的亮度平均值，将亮度平均值高于一预设阈值的区域确定为高亮度区域，或者确定每个区域的亮度最大值，将亮度最大值高于一预设阈值的区域确定为高亮度区域等。另外，还可以结合第二图像中的图像特征进行确定，例如提取第二图像中的图像特征，通过对图像特征进行分析，确定可能是高亮度区域的部分，针对该部分，再提取其亮度参数，具体确定高亮度区域等，确定第二图像中高亮度区域可以包括多种方式，本公开对此不做具体限定。

综上，本示例性实施方式中，获取第一图像，其中，所述第一图像经至少一张预览图像合成；获取第二图像，第二图像的像素高于第一图像；将第二图像中亮度满足预设条件的区域确定为高亮度区域；根据高亮度区域，将第一图像与第二图像进行融合，生成目标图像。一方面，第一图像为至少一张像素较低的预览图像合成的，而预览图像对高亮度区域具有较好的表现效果，第二图像的像素数较高，清晰度较高，图像细节较为丰富，融合第一图像和第二图像，可以在保留第二图像细节信息的同时，改善高亮度区域过曝的问题，提高图像质量；另一方面，通过将第一图像与第二图像进行融合，可以提高目标图像的信噪比，特别在图像的中低亮度区域，具有良好的表现效果；再一方面，本示例性实施例基于预览图像的合成，融合第二图像生成目标图像，其过程较为简单，硬件方面的成本较低，具有较高的实用性。

在一示例性实施例中，上述步骤S230可以包括以下步骤：

将第二图像划分为多个区域，判断每个区域的亮度是否超过预设阈值；

将亮度超过预设阈值的区域确定为高亮度区域。

本示例性实施例可以将第二图像按照特定的尺寸，或者不规则尺寸划分为多个区域。需要注意的是，由于第二图像与第一图像拍摄的是相同区域的图像，因此，为了便于进行融合，在划分第二图像时，也可以对第一图像按照相同的划分位置进行区域划分，第一图像中的区域和第二图像中的区域一一对应。

预设阈值是指用于进行区域亮度判断的条件，其可以是系统预设的值，也可以是用户自定义设置的值等。在一示例性实施例中，预设阈值可以设置为L＝Lmax*0.95；Lmax为所述高亮度区域的亮度上限。即当区域亮度超过区域最大亮度的0.95倍时，可以将区域确定为高亮度区域。需要说明的是，不同的图像格式、显示设备或装置下，区域最大亮度值可能会有所差异，例如10bit raw格式下的图像最大亮度值为1023，因此，本公开对此不做具体限定。

在本示例性实施例中，区域的亮度可以通过多种参数进行确定，举例而言，可以通过将第二图像的RGB图像转换为HSL(Hue,Saturation,Lightness，色相，饱和度，亮度)，然后提取L参数作为亮度参数进行判断；也可以将第二图像转换为灰度图像，基于灰度值，确定其亮度区域，灰度值越高的区域，则亮度值越大等，此外，还可以有其他能够确定区域亮度的方式，本公开对此不做具体限定。

本公开还可以通过生成第二图像的掩模图像，进行图像融合，具体的，在一示例性实施例中，如图8所示，上述步骤S240可以包括以下步骤：

步骤S810，根据高亮度区域生成掩模图像；

步骤S820，利用掩模图像，从第一图像中提取第一子图像；

步骤S830，利用掩模图像的反掩模图像，从第二图像中提取第二子图像；

步骤S840，拼接第一子图像和第二子图像，生成目标图像。

本示例性实施例可以使用特定的图像、图形或物体，对第二图像中的高亮度区域进行遮挡，遮挡区域可以用1表示，未遮挡区域可以用0表示，基于此，生成高亮度区域的掩模图像。进一步，通过将掩模图像与第一图像相乘，可以提取出包含高亮度区域的区域，即第一子图像。由于第二图像与第一图像所包含的拍摄内容相同，因此可以通过掩模图像的反掩模图像，从第二图像中提取除了高亮度区域以外的区域图像。其中，反掩模图像的原理与掩模图像相似，即将高亮度区域对应的区域设置为0，其他区域设置为1，使用反掩模图像与第二图像相乘，即可以完成第二子图像的提取。最后，将第一子图像与第二子图像进行拼接，可以生成最终的目标图像。

在一示例性实施例中，在拼接第一子图像和第二子图像前，图像处理方法还可以包括：

对第一子图像进行上采样，使上采样后的第一子图像和第二子图像具有相同的像素。

本示例性实施例可以对第一子图像进行上采样处理，即将第一子图像进行图像放大，使其能够在更高分辨率的显示设备上进行显示。具体的，可以通过在第一子图像的图像像素的基础上，在像素点之间采用合适的插值算法(如双线性内插算法)插入新的像素点，以将第一子图像进行放大，换而言之，即将第一图像中进行像素融合的区域中的一个像素点替换为四个像素点。另外，上述上采样的方法还可以包括其他多种方式，例如最邻近元法、三次内插法等插值方法、转置卷积、上采样或上池化等方法，本公开对此不做具体限定。在将第一子图像转换为与第二子图像的像素数相同的图像后，可以完成第二图像与第一图像的融合，得到图像表现更好的目标图像。

本公开的示例性实施方式还提供了一种图像处理装置。如图9所示，该图像处理装置900可以包括：第一图像获取模块910，用于获取第一图像，其中，所述第一图像经至少一张预览图像合成；第二图像获取模块920，用于获取第二图像，第二图像的像素高于第一图像；高亮区域确定模块930，用于将第二图像中亮度满足预设条件的区域确定为高亮度区域；目标图像生成模块940，用于根据高亮度区域，将第一图像与第二图像进行融合，生成目标图像。

在一示例性实施例中，上述装置应用于包括四拜耳图像传感器的终端设备；第一图像获取模块，包括：预览图像获取单元，用于在预览状态下，获取由四拜耳图像传感器采集的基于四拜耳滤色阵列的至少一张原始拜耳预览图像；第一处理单元，用于对原始拜耳预览图像分别进行像素四合一处理和去马赛克处理，得到至少一张预览图像；图像合成单元，用于将至少一张预览图像进行合成，得到第一图像。

在一示例性实施例中，第二图像获取模块，包括：拍照图像获取单元，用于在拍照状态下，获取由四拜耳图像传感器采集的基于四拜耳滤色阵列的原始拜耳拍照图像；第二处理单元，用于对原始拜耳拍照图像进行解马赛克处理和去马赛克处理，得到第二图像；其中，第二图像的像素为第一图像的四倍。

在一示例性实施例中，高亮区域确定模块，包括：区域划分单元，用于将第二图像划分为多个区域，判断每个区域的亮度是否超过预设阈值；区域确定单元，用于将亮度超过预设阈值的区域确定为高亮度区域。

在一示例性实施例中，上述预设阈值为L＝Lmax*0.95；Lmax为高亮度区域的亮度上限。

在一示例性实施例中，目标图像生成模块，包括：掩模图像生成单元，用于根据高亮度区域生成掩模图像；第一子图像提取单元，用于利用掩模图像，从第一图像中提取第一子图像；第二子图像提取单元，用于利用掩模图像的反掩模图像，从第二图像中提取第二子图像；图像拼接单元，用于拼接第一子图像和第二子图像，生成目标图像。

在一示例性实施例中，图像处理方法还包括：上采样模块，用于在拼接第一子图像和第二子图像前，对第一子图像进行上采样，使上采样后的第一子图像和第二子图像具有相同的像素。

在一示例性实施例中，预览图像的曝光时间低于第二图像的曝光时间。

在一示例性实施例中，第一图像经多张预览图像合成，多张预览图像具有不同的曝光时间，第一图像为多张预览图像合成的高动态图像。

上述装置中各模块的具体细节在方法部分实施方式中已经详细说明，未披露的细节内容可以参见方法部分的实施方式内容，因而不再赘述。

所属技术领域的技术人员能够理解，本公开的各个方面可以实现为系统、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

本公开的示例性实施方式还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤，例如可以执行图2、图3或图4中任意一个或多个步骤。

此外，本公开的示例性实施例中还提供了一种用于实现上述方法的程序产品，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本公开的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施方式。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施方式仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。

Claims (12)

1.一种图像处理方法，其特征在于，包括：

获取第一图像，其中，所述第一图像经至少一张预览图像合成；

获取第二图像，所述第二图像的像素高于所述第一图像；

将所述第二图像中亮度满足预设条件的区域确定为高亮度区域；

根据所述高亮度区域，将所述第一图像与所述第二图像进行融合，生成目标图像。

2.根据权利要求1所述的方法，其特征在于，所述方法应用于包括四拜耳图像传感器的终端设备；

所述获取第一图像，其中，所述第一图像经至少一张预览图像合成，包括：

在预览状态下，获取由所述四拜耳图像传感器采集的基于四拜耳滤色阵列的至少一张原始拜耳预览图像；

对每张所述原始拜耳预览图像分别进行像素四合一处理和去马赛克处理，得到所述至少一张预览图像；

将所述至少一张预览图像进行合成，得到所述第一图像。

3.根据权利要求2所述的方法，其特征在于，所述获取第二图像，包括：

在拍照状态下，获取由所述四拜耳图像传感器采集的基于四拜耳滤色阵列的原始拜耳拍照图像；

对所述原始拜耳拍照图像进行解马赛克处理和去马赛克处理，得到所述第二图像；

其中，所述第二图像的像素为所述第一图像的四倍。

4.根据权利要求1所述的方法，其特征在于，所述将所述第二图像中亮度满足预设条件的区域确定为高亮度区域，包括：

将所述第二图像划分为多个区域，判断每个所述区域的亮度是否超过预设阈值；

将亮度超过所述预设阈值的所述区域确定为高亮度区域。

5.根据权利要求4所述的方法，其特征在于，所述预设阈值为L＝Lmax*0.95；Lmax为所述高亮度区域的亮度上限。

6.根据权利要求1所述的方法，其特征在于，所述根据所述高亮度区域，将所述第一图像与所述第二图像进行融合，生成目标图像，包括：

根据所述高亮度区域生成掩模图像；

利用所述掩模图像，从所述第一图像中提取第一子图像；

利用所述掩模图像的反掩模图像，从所述第二图像中提取第二子图像；

拼接所述第一子图像和所述第二子图像，生成所述目标图像。

7.根据权利要求6所述的方法，其特征在于，在拼接所述第一子图像和所述第二子图像前，所述方法还包括：

对所述第一子图像进行上采样，使上采样后的所述第一子图像和所述第二子图像具有相同的像素。

8.根据权利要求1至7任一项所述的方法，其特征在于，所述预览图像的曝光时间低于所述第二图像的曝光时间。

9.根据权利要求1至7任一项所述的方法，其特征在于，所述第一图像经多张预览图像合成，所述多张预览图像具有不同的曝光时间，所述第一图像为所述多张预览图像合成的高动态图像。

10.一种图像处理装置，其特征在于，包括：

第一图像获取模块，用于获取第一图像，其中，所述第一图像经至少一张预览图像合成；

第二图像获取模块，用于获取第二图像，所述第二图像的像素高于所述第一图像；

高亮区域确定模块，用于将所述第二图像中亮度满足预设条件的区域确定为高亮度区域；

目标图像生成模块，用于根据所述高亮度区域，将所述第一图像与所述第二图像进行融合，生成目标图像。

11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至9任一项所述的方法。

12.一种终端设备，其特征在于，包括：

处理器；

存储器，用于存储所述处理器的可执行指令；以及

四拜耳图像传感器，用于获取原始拜耳图像；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1至9任一项所述的方法，以对所述原始拜耳图像进行处理，得到对应的目标图像。

Images