CN113472980A - 一种图像处理方法、装置、设备、介质和芯片 - Google Patents

Abstract

本申请公开了一种图像处理方法、装置、设备、介质和芯片，其中，该方法包括：处理器获取图像传感器输出的第一图像数据；当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为非高亮场景时，处理器根据第一图像数据确定第二图像数据；处理器根据第二图像数据与多曝光图像数据，确定第三图像数据，多曝光图像数据是图像传感器基于自动曝光控制AE Ctrl算法输出的。通过该方法，可以提高图像数据的动态范围、图像质量和信噪比。

Description

一种图像处理方法、装置、设备、介质和芯片

技术领域

本申请涉及计算机技术领域，尤其涉及一种图像处理方法、装置、设备、介质和芯片。

背景技术

在自然场景中用户用手机拍照的时候，拍摄的内容往往涵盖亮区域内容(如天空)和暗区域内容(如绿植阴影区域)，而一般手机常用的互补金属氧化物半导体(Complementary Metal Oxide Semiconductor，CMOS)传感器(Sensor)，其所能输出的数据位宽只有10比特(bit)，使得手机能够呈现的图像动态范围非常有限。此外，在低亮度场景下，由于像素尺寸(pixel size)、光圈大小、环境亮度等因素影响，导致在低亮度场景下，手机拍摄得到的图像质量较差。

在现有手机拍照方案中，在高动态场景下，为了解决图像动态范围的限制，往往采用高动态范围(High Dynamic Range，HDR)方案，即多帧不同曝光的数据通过算法融合，得到高动态图像。在低亮度场景下，为了提升图像信噪比，往往采用单曝光多帧融合算法提升图像质量，如HDR+方案等。

低亮度高动态场景下，HDR方案由于帧率限制和鬼影(ghost)影响，长曝光不能太长，同时短曝光数据在低亮度环境下信噪比较低，导致在低亮度高动态场景下的成像质量较差。而HDR+方案采用单曝光多帧融合算法提升图像质量，由于受帧数限制的影响，可提升的图像动态范围非常有限，无法解决极强高动态场景下的动态范围问题。同时，HDR+方案获取的帧数较多，导致拍照时延较长。并且，HDR+方案为了提升图像的动态范围，需要对图像进行欠曝处理，此时图像数据无法进行预览(Preview)使用，影响用户体验。

发明内容

本申请公开了一种图像处理方法、装置、设备、介质和芯片，可以提高图像数据的动态范围、图像质量和信噪比。

第一方面，本申请实施例提供了一种图像处理方法，应用于终端设备，终端设备包括图像传感器和具有图像处理方法的处理器，该方法包括：

处理器获取图像传感器输出的第一图像数据；

当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为非高亮场景时，处理器根据第一图像数据确定第二图像数据；

处理器根据第二图像数据与多曝光图像数据，确定第三图像数据，多曝光图像数据是图像传感器基于自动曝光控制AE Ctrl算法输出的。

在一实施方式中，第一图像数据是从缓冲存储器中获取的，第一图像数据为多帧图像数据；多曝光图像数据为多帧图像数据；第二图像数据为单帧图像数据；第三图像数据为单帧图像数据。

在一实施方式中，处理器通过AE Ctrl算法向图像传感器输出多个不同曝光参数，多个不同曝光参数用于指示多个不同曝光类型，多个不同曝光类型用于指示图像传感器通过不同的曝光类型确定多曝光图像数据。

在一实施方式中，当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为高亮场景时，处理器根据第一图像数据与多曝光图像数据，确定第四图像数据，第一图像数据为单帧图像数据，第四图像数据为单帧图像数据。

在一实施方式中，当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为非高亮场景时，处理器根据第一图像数据确定第五图像数据；第一图像数据为多帧图像数据，第五图像数据为单帧图像数据。

在一实施方式中，当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为高亮场景时，处理器根据第一图像数据，确定第六图像数据，第一图像数据为单帧图像数据，第六图像数据为单帧图像数据。

第二方面，本申请实施例提供了一种图像处理装置，包括：

获取单元，用于获取图像传感器输出的第一图像数据；

处理单元，用于当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为非高亮场景时，处理器根据第一图像数据确定第二图像数据；

该处理单元还用于处理器根据第二图像数据与多曝光图像数据，确定第三图像数据，多曝光图像数据是图像传感器基于自动曝光控制AE Ctrl算法输出的。

第三方面，本申请实施例提供了一种终端设备，包括处理器、存储器，存储器用于存储计算机程序，计算机程序包括程序指令，处理器被配置用于调用程序指令，执行如第一方面描述的图像处理方法。

第四方面，本申请实施例提供了一种计算机可读存储介质，计算机可读存储介质存储有一条或多条指令，一条或多条指令适于由处理器加载并执行如第一方面描述的图像处理方法。

第五方面，本申请实施例提供了一种芯片，该芯片用于执行如第一方面描述的图像处理方法。

第六方面，本申请实施例提供了一种芯片模组，该芯片模组包括存储装置、芯片、通信接口，芯片用于执行如第一方面描述的图像处理方法。

本申请实施例中，终端设备的处理器可以获取图像传感器输出的第一图像数据；当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为非高亮场景时，处理器根据第一图像数据确定第二图像数据；处理器根据第二图像数据与多曝光图像数据，确定第三图像数据，多曝光图像数据是图像传感器基于自动曝光控制AE Ctrl算法输出的。通过该方法，可以提高图像数据的动态范围、图像质量和信噪比。

附图说明

为了更清楚地说明本申请实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例提供的一种移动终端的硬件结构示意图；

图2为本申请实施例提供的一种通信网络系统架构图；

图3为本申请实施例提供的一种图像处理方法的流程示意图；

图4为本申请实施例提供的一种终端设备的图像传感器输出图像数据的示意图；

图5为本申请实施例提供的一种多种图像处理的流程示意图；

图6为本申请实施例提供的又一种图像处理方法的流程示意图；

图7为本申请实施例提供的又一种图像处理方法的流程示意图；

图8为本申请实施例提供的又一种图像处理方法的流程示意图；

图9为本申请实施例提供的一种图像处理装置的单元示意图；

图10为本申请实施例提供的一种终端设备的实体结构简化示意图；

图11为本申请实施例提供的一种芯片模组的简化示意图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素，此外，本申请不同实施例中具有同样命名的部件、特征、要素可能具有相同含义，也可能具有不同含义，其具体含义需以其在该具体实施例中的解释或者进一步结合该具体实施例中上下文进行确定。

应当理解，尽管在本文可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本文范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语"如果"可以被解释成为"在……时"或"当……时"或"响应于确定"。再者，如同在本文中所使用的，单数形式“一”、“一个”和“该”旨在也包括复数形式，除非上下文中有相反的指示。应当进一步理解，术语“包含”、“包括”表明存在所述的特征、步骤、操作、元件、组件、项目、种类、和/或组，但不排除一个或多个其他特征、步骤、操作、元件、组件、项目、种类、和/或组的存在、出现或添加。此处使用的术语“或”和“和/或”被解释为包括性的，或意味着任一个或任何组合。因此，“A、B或C”或者“A、B和/或C”意味着“以下任一个：A；B；C；A和B；A和C；B和C；A、B和C”。仅当元件、功能、步骤或操作的组合在某些方式下内在地互相排斥时，才会出现该定义的例外。

应该理解的是，虽然本申请实施例中的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

需要说明的是，在本文中，采用了诸如110、120等步骤代号，其目的是为了更清楚简要地表述相应内容，不构成顺序上的实质性限制，本领域技术人员在具体实施时，可能会先执行120后执行110等，但这些均应在本申请的保护范围之内。

在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本申请的说明，其本身没有特定的意义。因此，“模块”、“部件”或“单元”可以混合地使用。

本文中的装置可以应用于终端设备，终端设备可以以各种形式来实施。例如，本申请中描述的终端设备可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant，PDA)、便捷式媒体播放器(Portable Media Player，PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端，以及诸如数字TV、台式计算机等固定终端。

后续描述中将以移动终端为例进行说明，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本申请的实施方式的构造也能够应用于固定类型的终端。

请参阅图1，其为实现本申请各个实施例的一种移动终端的硬件结构示意图，该移动终端100可以包括：RF(Radio Frequency，射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图1中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

下面结合图1对移动终端的各个部件进行具体的介绍：

射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将基站的下行信息接收后，给处理器110处理；另外，将上行的数据发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于GSM(Global System of Mobile communication，全球移动通讯系统)、GPRS(General Packet Radio Service，通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000，码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access，时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution，频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution，分时双工长期演进)等。

WiFi属于短距离无线传输技术，移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102，但是可以理解的是，其并不属于移动终端的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。

音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。

A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。

移动终端100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在移动终端100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。

显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。

用户输入单元107可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)，并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，并能接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种，具体此处不做限定。

进一步的，触控面板1071可覆盖显示面板1061，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中，触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能，具体此处不做限定。

接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。

存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器110是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的数据，执行移动终端的各种功能和处理数据，从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元；优选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。

移动终端100还可以包括给各个部件供电的电源111(比如电池)，优选的，电源111可以通过电源管理系统与处理器110逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

尽管图1未示出，移动终端100还可以包括蓝牙模块等，在此不再赘述。

为了便于理解本申请实施例，下面对本申请的移动终端所基于的通信网络系统进行描述。

请参阅图2，图2为本申请实施例提供的一种通信网络系统架构图，该通信网络系统为通用移动通信技术的LTE系统，该LTE系统包括依次通讯连接的UE(User Equipment，用户设备)201，E-UTRAN(Evolved UMTS Terrestrial Radio Access Network，演进式UMTS陆地无线接入网)202，EPC(Evolved Packet Core，演进式分组核心网)203和运营商的IP业务204。

具体地，UE201可以是上述终端100，此处不再赘述。

E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中，eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接，eNodeB2021连接到EPC203，eNodeB2021可以提供UE201到EPC203的接入。

EPC203可以包括MME(Mobility Management Entity，移动性管理实体)2031，HSS(Home Subscriber Server，归属用户服务器)2032，其它MME2033，SGW(Serving Gate Way，服务网关)2034，PGW(PDN Gate Way，分组数据网络网关)2035和PCRF(Policy andCharging Rules Function，政策和资费功能实体)2036等。其中，MME2031是处理UE201和EPC203之间信令的控制节点，提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能，并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送，PGW2035可以提供UE 201的IP地址分配以及其它功能，PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点，它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。

IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem，IP多媒体子系统)或其它IP业务等。

虽然上述以LTE系统为例进行了介绍，但本领域技术人员应当知晓，本申请不仅仅适用于LTE系统，也可以适用于其他无线通信系统，例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等，此处不做限定。

基于上述移动终端硬件结构以及通信网络系统，提出本申请各个实施例。

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述。

本申请实施例公开了一种图像处理方法及终端，用于对图像传感器输出的图像进行处理。其中，本申请实施例中的图像处理终端可以应用于终端设备，该终端设备可以是智能手机(如Android手机等)、平板电脑、移动互联网设备(Mobile Internet Devices，MID)、计算机等。

请参见图3，图3为本申请实施例提供的一种图像处理方法的流程示意图，该方法对应的图像处理终端可以应用于终端设备，故本申请实施例的执行主体可以是终端设备，具体可以是终端设备中的处理器。其中，该方法包括：

310、处理器获取图像传感器输出的第一图像数据。

其中，该处理器可以是终端设备中用于对图像数据进行处理的部件，该处理器可以是中央处理单元(central processing unit，CPU)，该处理器还可以是其他通用处理器、数字信号处理器(digital signal processor，DSP)、专用集成电路(applicationspecific integrated circuit，ASIC)、现成可编程门阵列(field programmable gatearray，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。

如图4所示为一种终端设备的图像传感器(Image Sensor)输出图像数据的示意图。其中，终端设备可以持续地输出正常曝光图像数据，并且可以将输出的正常曝光图像数据存储至缓冲存储器。其中，正常曝光图像数据指的是图像传感器不对获取图像数据时的曝光参数进行调整，而根据预设的曝光参数来获取的图像数据。该预设的曝光参数可以是终端设备预先配置好的，可以认为一段时间内的多帧正常曝光图像数据都是相同曝光的图像数据。缓冲存储器中的正常曝光图像数据可以是多帧的，正常曝光图像数据可以显示在终端设备的屏幕上，供用户预览使用；进一步地，由于显示用的正常曝光图像数据是在缓冲存储器中获取的，所以不需要处理器进行过多的处理，这样可以使在预览时显示在屏幕上的正常曝光图像数据的帧率较高。

需要说明的是，缓冲存储器存储的图像数据不会被保存太久，因为图像传感器在不停地输出正常曝光图像数据，所以缓冲存储器保存某个图像数据达到预设时长后，可以将该图像数据删除。可以理解的是，缓冲存储器保存的图像数据可以是实时的。

其中，第一图像数据可以是正常曝光图像数据中的最新或较新的一帧或多帧图像数据。也就是说，处理器可以根据一帧第一图像数据判断其所包括的场景的类型，也可以通过多帧第一图像数据进行判断。

可选地，该第一图像数据可以是用户按下拍照按钮后，正常曝光图像数据中的最新或较新的一帧或多帧图像数据。

可选地，当第一图像数据为一帧时，由于后续需要根据该第一图像数据进行场景的类型判断，所以终端设备可以不将该第一图像数据存储至缓冲存储器中。

可选地，当第一图像数据为多帧时，处理器可以根据该第一图像数据中的某一帧图像数据，例如“第一图像数据1”，来判断其所包括的场景的类型。而除了该“第一图像数据1”，其他的第一图像数据都可以被存储至缓冲存储器中。

可选地，当第一图像数据为多帧时，处理器可以根据多帧的第一图像数据来判断其所包括的场景的类型，并且处理器可以将最近所有的第一图像数据都存储至缓冲存储器中。

320、当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为非高亮场景时，处理器根据第一图像数据确定第二图像数据。

如图5所示为一种多种图像处理的流程示意图。其中，如图5所示，处理器可以先判断第一图像数据所包括的场景是否为高动态场景，若是，则可以继续判断该第一图像数据所包括的场景是否为高亮场景。处理器可以通过对该第一图像数据对应的直方图来判断第一图像数据所包括的场景是否为高动态场景，以及第一图像数据所包括的场景是否为高亮场景，本申请实施例不对具体的判断方法进行限定。

其中，处理器判断该第一图像数据所包括的场景为高动态场景后，可以通过自动曝光算法(Automatic Exposure，AE)控制(Ctrl)算法控制图像传感器通过不同的曝光参数继续获取图像数据。此时，图像传感器可以对获取到的图像数据进行不同的曝光处理，得到多曝光图像数据，即图像传感器可以根据曝光参数1处理得到图像数据1，根据曝光参数2处理得到图像数据2，以此类推。可以理解的是，多曝光图像数据指的是多帧不同曝光的图像数据。

具体地，处理器可以通过AE Ctrl算法向图像传感器输出多个不同曝光参数，该多个不同曝光参数用于指示多个不同曝光类型，多个不同曝光类型用于指示图像传感器通过不同的曝光类型确定多曝光图像数据。其中，曝光类型可以包括长曝光、短曝光、二曝光、三曝光等，本申请实施例不作限定。

处理器之所以通过AE ctrl算法控制图像传感器通过不同的曝光参数继续获取图像数据，是因为第一图像数据所包括的场景为高动态场景，需要通过不同曝光融合算法来让最终生成的图像数据尽可能地展现出高动态这一特性，而不同曝光融合算法就需要输入多帧不同曝光的图像数据。

进一步地，处理器判断第一图像数据所包括的场景为高动态场景后，需要继续判断该第一图像数据所包括的场景是否为高亮场景。若否，则处理器可以根据该第一图像数据确定第二图像数据。由于此时的场景为非高亮场景，单帧的第一图像数据可能会出现图像质量低、信噪比低的情况，因此在非高亮场景下需要多帧相同曝光的图像数据进行融合，以提高最终生成的图像的图像质量和信噪比。所以在非高亮场景下，该第一图像数据是多帧的图像数据。而处理器可以对该多帧的第一图像数据通过相同曝光多帧融合算法进行融合处理，得到第二图像数据，该第二图像数据是单帧图像数据。该相同曝光多帧融合算法可以是RAW域算法，也可以是YUV域算法，本申请实施例不作限定。另外，由于多帧的第一图像数据中，可能各个第一图像数据之间存在信噪比的差异，例如有的第一图像数据的某个图像区域的图像质量和/或信噪比较高，有的第一图像数据的另一个图像区域的图像质量和/或信噪比较高。因此，通过相同曝光多帧融合算法的融合处理后，第二图像数据的图像质量和信噪比就较第一图像数据得到了提高。

330、处理器根据第二图像数据与多曝光图像数据，确定第三图像数据，该多曝光图像数据是图像传感器基于自动曝光控制AE Ctrl算法输出的。

由于经过了对多曝光图像数据和第二图像数据的融合处理，该第三图像数据的动态范围、信噪比和图像质量都得到了提升。

最后，处理器可以将该第三图像数据输入到图像信号处理(Image SignalProcessing，ISP)线程(Pipeline)中进行处理，并通过联合摄影专家组(JointPhotographic Experts Group，JPEG)编码处理，得到最终的结果，该最终的结果就是最终保存在终端设备中的图像数据。

通过本申请实施例，终端设备的处理器可以获取图像传感器输出的第一图像数据，当该第一图像数据所包括的场景为高动态场景且为非高亮场景时，处理器可以根据第一图像数据确定第二图像数据。其中，该第一图像数据是多帧图像数据，该第二图像数据的图像质量和信噪比相比第一图像数据更高。进一步地，处理器可以根据第二图像数据与多曝光图像数据，确定第三图像数据。这样，该第三图像数据就可以结合第二图像数据的高图像质量和高信噪比，以及多曝光图像数据融合后的高动态范围。因此，通过该方法，可以提高图像数据的动态范围、图像质量和信噪比。

请参见图6，图6为本申请实施例提供的又一种图像处理方法的流程示意图，该方法对应的图像处理终端可以应用于终端设备，故本申请实施例的执行主体可以是终端设备，具体可以是终端设备中的处理器。其中，该方法包括：

610、处理器获取图像传感器输出的第一图像数据。

其中，本步骤与上述的步骤310相同，此处不做赘述。

620、当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为高亮场景时，处理器根据第一图像数据与多曝光图像数据，确定第四图像数据。

具体地，处理器可以先确定该第一图像数据所包括的场景是否为高动态场景，若是，则进一步判断第一图像数据所包括的场景是否为高亮场景。并且，处理器也会通过AECtrl算法控制图像传感器输出多曝光图像数据。当处理器确定第一图像数据所包括的场景是高亮场景时，说明当前场景的亮度足够，一帧第一图像数据就可以有足够的图像质量和信噪比。那么处理器就可以将第一图像数据与多曝光图像数据通过不同曝光融合算法进行融合处理，得到第四图像数据。最后，处理器可以将该第四图像数据输入到图像信号处理(Image Signal Processing，ISP)线程(Pipeline)中进行处理，并通过联合摄影专家组(Joint Photographic Experts Group，JPEG)编码处理，得到最终的结果。

通过该方法，可以提高高动态高亮场景下图像数据的动态范围。

请参见图7，图7为本申请实施例提供的又一种图像处理方法的流程示意图，该方法对应的图像处理终端可以应用于终端设备，故本申请实施例的执行主体可以是终端设备，具体可以是终端设备中的处理器。其中，该方法包括：

710、处理器获取图像传感器输出的第一图像数据。

其中，本步骤与上述的步骤310相同，此处不做赘述。

720、当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为非高亮场景时，处理器根据第一图像数据确定第五图像数据。

具体地，处理器可以先确定该第一图像数据所包括的场景是否为高动态场景，若否，则进一步判断第一图像数据所包括的场景是否为高亮场景。其中，因为当前场景为非高动态场景，不需要进行多帧不同曝光的图像数据的融合来提高动态范围，所以处理器可以不通过AE Ctrl算法控制图像传感器输出多曝光图像数据。当处理器确定第一图像数据所包括的场景是非高亮场景时，说明当前场景下拍出的单帧图像数据可能会出现图像质量或者信噪比不足的情况，所以此时的第一图像数据应为多帧图像数据。进而处理器可以通过相同曝光多帧融合算法对多帧的第一图像数据进行处理，确定出第五图像数据。最后，处理器可以将该第五图像数据输入到图像信号处理(Image Signal Processing，ISP)线程(Pipeline)中进行处理，并通过联合摄影专家组(Joint Photographic Experts Group，JPEG)编码处理，得到最终的结果。

通过该方法，可以提高非高动态非高亮场景下图像数据的图像质量和信噪比。

请参见图8，图8为本申请实施例提供的又一种图像处理方法的流程示意图，该方法对应的图像处理终端可以应用于终端设备，故本申请实施例的执行主体可以是终端设备，具体可以是终端设备中的处理器。其中，该方法包括：

810、处理器获取图像传感器输出的第一图像数据。

其中，本步骤与上述的步骤310相同，此处不做赘述。

820、当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为高亮场景时，处理器根据第一图像数据，确定第六图像数据。

具体地，处理器可以先确定该第一图像数据所包括的场景是否为高动态场景，若否，则进一步判断第一图像数据所包括的场景是否为高亮场景。其中，因为当前场景为非高动态场景，不需要进行多帧不同曝光的图像数据的融合来提高动态范围，所以处理器可以不通过AE Ctrl算法控制图像传感器输出多曝光图像数据。当处理器确定第一图像数据所包括的场景是高亮场景时，说明当前场景的亮度足够，一帧第一图像数据就可以有足够的图像质量和信噪比，因此第一图像数据可以是单帧图像数据。那么处理器就可以直接该第一图像数据输入到图像信号处理(Image Signal Processing，ISP)线程(Pipeline)中进行处理，并通过联合摄影专家组(Joint Photographic Experts Group，JPEG)编码处理，得到最终的结果，该最终的结果可以第六图像数据。

通过该方法，有利于输出非高动态高亮场景下的图像数据。

请参见图9，图9为本申请实施例提供的一种图像处理装置的单元示意图。图5所示的图像处理装置可以用于执行上述图3、图6、图7和图8所描述的方法实施例中的部分或全部功能。该装置可以是终端设备，也可以是终端设备中的装置，或者是能够和终端设备匹配使用的装置。

该装置的逻辑结构可包括：获取单元910和处理单元920，其中，当该装置应用于终端设备时：

获取单元910，用于获取图像传感器输出的第一图像数据；

处理单元920，用于当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为非高亮场景时，处理单元920根据第一图像数据确定第二图像数据；

该处理单元还用于处理单元920根据第二图像数据与多曝光图像数据，确定第三图像数据，多曝光图像数据是图像传感器基于自动曝光控制AE Ctrl算法输出的。

在一种可能的实现方式中，第一图像数据是从缓冲存储器中获取的，第一图像数据为多帧图像数据；多曝光图像数据为多帧图像数据；第二图像数据为单帧图像数据；第三图像数据为单帧图像数据。

在一种可能的实现方式中，处理单元920通过AE Ctrl算法向图像传感器输出多个不同曝光参数，多个不同曝光参数用于指示多个不同曝光类型，多个不同曝光类型用于指示图像传感器通过不同的曝光类型确定多曝光图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为高亮场景时，处理单元920根据第一图像数据与多曝光图像数据，确定第四图像数据，第一图像数据为单帧图像数据，第四图像数据为单帧图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为非高亮场景时，处理单元920根据第一图像数据确定第五图像数据；第一图像数据为多帧图像数据，第五图像数据为单帧图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为高亮场景时，处理单元920根据第一图像数据，确定第六图像数据，第一图像数据为单帧图像数据，第六图像数据为单帧图像数据。

请参见图10，图10为本申请实施例提供的一种终端设备的实体结构简化示意图，该通信设备包括处理器1010、存储器1020和通信接口1030，该处理器1010、存储器1020以及通信接口1030通过一条或多条通信总线连接。该终端设备可以包括芯片、或芯片模组等。

处理器1010被配置为支持通信设备执行上述图3、图6、图7和图8中方法相应的功能。应理解，本申请实施例中，所述处理器1010可以为中央处理单元(central processingunit，简称CPU)，该处理器还可以是其他通用处理器、数字信号处理器(digital signalprocessor，简称DSP)、专用集成电路(application specific integrated circuit，简称ASIC)、现成可编程门阵列(field programmable gate array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

存储器1020用于存储程序代码等。本申请实施例中的存储器1020可以是易失性存储器或非易失性存储器，或可包括易失性和非易失性存储器两者。其中，非易失性存储器可以是只读存储器(read-only memory，简称ROM)、可编程只读存储器(programmable ROM，简称PROM)、可擦除可编程只读存储器(erasable PROM，简称EPROM)、电可擦除可编程只读存储器(electrically EPROM，简称EEPROM)或闪存。易失性存储器可以是随机存取存储器(random access memory，简称RAM)，其用作外部高速缓存。通过示例性但不是限制性说明，许多形式的随机存取存储器(random access memory，简称RAM)可用，例如静态随机存取存储器(static RAM，简称SRAM)、动态随机存取存储器(DRAM)、同步动态随机存取存储器(synchronous DRAM，简称SDRAM)、双倍数据速率同步动态随机存取存储器(double datarate SDRAM，简称DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM，简称ESDRAM)、同步连接动态随机存取存储器(synchlink DRAM，简称SLDRAM)和直接内存总线随机存取存储器(direct rambus RAM，简称DR RAM)。

通信接口1030用于收发数据、信息或消息等，也可以描述为收发器、收发电路等。

在本申请实施例中，该处理器1010调用存储器1020中存储的程序代码以执行以下操作：

处理器1010调用存储器1020中存储的程序代码获取图像传感器输出的第一图像数据；

处理器1010调用存储器1020中存储的程序代码当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为非高亮场景时，处理单元920根据第一图像数据确定第二图像数据；

该处理单元还用于处理器1010调用存储器1020中存储的程序代码根据第二图像数据与多曝光图像数据，确定第三图像数据，多曝光图像数据是图像传感器基于自动曝光控制AE Ctrl算法输出的。

在一种可能的实现方式中，第一图像数据是从缓冲存储器中获取的，第一图像数据为多帧图像数据；多曝光图像数据为多帧图像数据；第二图像数据为单帧图像数据；第三图像数据为单帧图像数据。

在一种可能的实现方式中，处理器1010调用存储器1020中存储的程序代码0通过AE Ctrl算法向图像传感器输出多个不同曝光参数，多个不同曝光参数用于指示多个不同曝光类型，多个不同曝光类型用于指示图像传感器通过不同的曝光类型确定多曝光图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为高亮场景时，处理器1010调用存储器1020中存储的程序代码根据第一图像数据与多曝光图像数据，确定第四图像数据，第一图像数据为单帧图像数据，第四图像数据为单帧图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为非高亮场景时，处理器1010调用存储器1020中存储的程序代码根据第一图像数据确定第五图像数据；第一图像数据为多帧图像数据，第五图像数据为单帧图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为高亮场景时，处理器1010调用存储器1020中存储的程序代码根据第一图像数据，确定第六图像数据，第一图像数据为单帧图像数据，第六图像数据为单帧图像数据。

本申请实施例还提供了一种芯片，该芯片也可以包含于芯片模组中。

当该芯片应用于终端设备时：

该芯片用于获取图像传感器输出的第一图像数据；

该芯片还用于当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为非高亮场景时，该芯片还用于根据第一图像数据确定第二图像数据；

该处理单元还用于该芯片还用于根据第二图像数据与多曝光图像数据，确定第三图像数据，多曝光图像数据是图像传感器基于自动曝光控制AE Ctrl算法输出的。

在一种可能的实现方式中，第一图像数据是从缓冲存储器中获取的，第一图像数据为多帧图像数据；多曝光图像数据为多帧图像数据；第二图像数据为单帧图像数据；第三图像数据为单帧图像数据。

在一种可能的实现方式中，该芯片还用于通过AE Ctrl算法向图像传感器输出多个不同曝光参数，多个不同曝光参数用于指示多个不同曝光类型，多个不同曝光类型用于指示图像传感器通过不同的曝光类型确定多曝光图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为高亮场景时，该芯片还用于根据第一图像数据与多曝光图像数据，确定第四图像数据，第一图像数据为单帧图像数据，第四图像数据为单帧图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为非高亮场景时，该芯片还用于根据第一图像数据确定第五图像数据；第一图像数据为多帧图像数据，第五图像数据为单帧图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为高亮场景时，该芯片还用于根据第一图像数据，确定第六图像数据，第一图像数据为单帧图像数据，第六图像数据为单帧图像数据。

请参见图11，图11为本申请实施例提供的一种芯片模组的简化示意图，该芯片模组包括存储装置1110、芯片1120、通信接口130，当该芯片模组应用于终端设备时，其中：

该芯片1120用于获取图像传感器输出的第一图像数据；

该芯片1120还用于当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为非高亮场景时，该芯片1120还用于根据第一图像数据确定第二图像数据；

该处理单元还用于该芯片1120还用于根据第二图像数据与多曝光图像数据，确定第三图像数据，多曝光图像数据是图像传感器基于自动曝光控制AE Ctrl算法输出的。

在一种可能的实现方式中，第一图像数据是从缓冲存储器中获取的，第一图像数据为多帧图像数据；多曝光图像数据为多帧图像数据；第二图像数据为单帧图像数据；第三图像数据为单帧图像数据。

在一种可能的实现方式中，该芯片1120还用于通过AE Ctrl算法向图像传感器输出多个不同曝光参数，多个不同曝光参数用于指示多个不同曝光类型，多个不同曝光类型用于指示图像传感器通过不同的曝光类型确定多曝光图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为高动态场景且第一图像数据所包括的场景为高亮场景时，该芯片1120还用于根据第一图像数据与多曝光图像数据，确定第四图像数据，第一图像数据为单帧图像数据，第四图像数据为单帧图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为非高亮场景时，该芯片1120还用于根据第一图像数据确定第五图像数据；第一图像数据为多帧图像数据，第五图像数据为单帧图像数据。

在一种可能的实现方式中，当第一图像数据所包括的场景为非高动态场景且第一图像数据所包括的场景为高亮场景时，该芯片1120还用于根据第一图像数据，确定第六图像数据，第一图像数据为单帧图像数据，第六图像数据为单帧图像数据。

需要说明的是，在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详细描述的部分，可以参见其他实施例的相关描述。

本发明实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。

本发明实施例处理设备中的单元可以根据实际需要进行合并、划分和删减。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时，全部或部分地产生按照本申请实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质，(例如，软盘、存储盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态存储盘Solid State Disk(SSD))等。

最后应说明的是：以上各实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述各实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。

Claims (11)

1.一种图像处理方法，其特征在于，应用于终端设备，所述终端设备包括图像传感器和具有所述图像处理方法的处理器；所述方法包括：

所述处理器获取所述图像传感器输出的第一图像数据；

当所述第一图像数据所包括的场景为高动态场景且所述第一图像数据所包括的场景为非高亮场景时，所述处理器根据所述第一图像数据确定第二图像数据；

所述处理器根据所述第二图像数据与多曝光图像数据，确定第三图像数据，所述多曝光图像数据是所述图像传感器基于自动曝光控制AE Ctrl算法输出的。

2.根据权利要求1所述的方法，其特征在于，

所述第一图像数据是从缓冲存储器中获取的，所述第一图像数据为多帧图像数据；

所述多曝光图像数据为多帧图像数据；

所述第二图像数据为单帧图像数据；

所述第三图像数据为单帧图像数据。

3.根据权利要求1所述的方法，其特征在于，所述方法还包括：

所述处理器通过所述AE Ctrl算法向所述图像传感器输出多个不同曝光参数，所述多个不同曝光参数用于指示多个不同曝光类型，所述多个不同曝光类型用于指示所述图像传感器通过不同的曝光类型确定所述多曝光图像数据。

4.根据权利要求1或3所述的方法，其特征在于，所述方法还包括：

当所述第一图像数据所包括的场景为高动态场景且所述第一图像数据所包括的场景为高亮场景时，所述处理器根据所述第一图像数据与所述多曝光图像数据，确定第四图像数据，所述第一图像数据为单帧图像数据，所述第四图像数据为单帧图像数据。

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：

当所述第一图像数据所包括的场景为非高动态场景且所述第一图像数据所包括的场景为非高亮场景时，所述处理器根据所述第一图像数据确定第五图像数据；

所述第一图像数据为多帧图像数据，所述第五图像数据为单帧图像数据。

6.根据权利要求1所述的方法，其特征在于，所述方法还包括：

当所述第一图像数据所包括的场景为非高动态场景且所述第一图像数据所包括的场景为高亮场景时，所述处理器根据所述第一图像数据，确定第六图像数据，所述第一图像数据为单帧图像数据，所述第六图像数据为单帧图像数据。

7.一种图像处理装置，其特征在于，包括：

获取单元，用于所述处理器获取所述图像传感器输出的第一图像数据；

处理单元，用于当所述第一图像数据所包括的场景为高动态场景且所述第一图像数据所包括的场景为非高亮场景时，所述处理器根据所述第一图像数据确定第二图像数据；

所述处理单元还用于所述处理器根据所述第二图像数据与多曝光图像数据，确定第三图像数据，所述多曝光图像数据是所述图像传感器基于自动曝光控制AE Ctrl算法输出的。

8.一种终端设备，其特征在于，包括处理器、存储器，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行如权利要求1至6中任一项所述的图像处理方法。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有一条或多条指令，所述一条或多条指令适于由处理器加载并执行如权利要求1至6中任一项所述的图像处理方法。

10.一种芯片，其特征在于，所述芯片用于执行如权利要求1至6中任一项所述的图像处理方法。

11.一种芯片模组，其特征在于，所述芯片模组包括存储装置、芯片、通信接口，所述芯片用于执行如权利要求1至6中任一项所述的图像处理方法。

Images