CN115696067A - 终端的图像处理方法、装置和终端设备 - Google Patents

Abstract

本申请实施例提供一种终端的图像处理方法、装置和终端设备，上述终端包括黑白摄像头、彩色摄像头、超广角摄像头和长焦摄像头，上述终端的图像处理方法中，在终端设备的拍照功能运行之后，获取当前的变焦倍数，获取拍摄指令之后，响应于上述拍摄指令，获取彩色摄像头采集的彩色RAW图像，并根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像，然后将上述彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像，从而可以实现在用户调节变焦倍数的场景下，提升不同焦段下图像的细节效果，提升图像的整体清晰度，提高用户体验。

Description

终端的图像处理方法、装置和终端设备

技术领域

本申请实施例涉及智能终端技术领域，特别涉及一种终端的图像处理方法、装置和终端设备。

背景技术

随着智能手机的发展，手机摄像在用户手机中的功能越来越重要，由单摄逐渐发展成双摄、三摄乃至更多摄像头，达到媲美单反的效果。摄像头体型小、变焦范围大是当前手机摄像的两大重要功能。利用光学镜头实现光学变焦，虽然能获得高质量的变焦图像，但不可避免地会增加摄像头的体型，并且实现成本也大大增加；而普通的单摄数码变焦，虽然能控制摄像头的体型、降低实现成本，但是采用单摄数码变焦的方案，所获得图像的质量较差。

于是，利用不同焦距的多摄像头模拟实现光学变焦的技术应运而生，举例来说，终端设备可以设置彩色摄像头、黑白摄像头、超广角摄像头和长焦摄像头，由于不同摄像头本身硬件参数(例如：光学中心、焦距、视场角(field of view，FOV)和/或畸变等硬件参数)不同，且在模组的安装排布不同(例如：排布的基线、相对角度和/或位置等)，使得同一模组上的超广角摄像头和长焦摄像头在拍摄同一物体时，必然得到不同FOV、不同相对位置和不同遮挡的图像。

发明内容

本申请实施例提供了一种终端的图像处理方法、装置、服务器和终端设备，本申请实施例还提供一种计算机可读存储介质，以实现终端设备根据相机当前的变焦倍数，将彩色摄像头采集的彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像，从而可以在用户调节变焦倍数的场景下提高拍摄获得的图像质量，提高用户体验。

第一方面，本申请提供了一种终端的图像处理方法，上述终端包括黑白摄像头、彩色摄像头、超广角摄像头和长焦摄像头，上述方法包括：在终端的拍照功能运行之后，获取当前的变焦倍数；获取拍摄指令之后，响应于上述拍摄指令，获取彩色摄像头采集的彩色RAW图像，并根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像；将上述彩色RAW图像与所述黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像。

其中一种可能的实现方式中，根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像可以为：如果当前的变焦倍数小于1倍焦距，则获取超广角摄像头采集的超广角RAW图像；如果当前的变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距，则获取黑白摄像头采集的黑白RAW图像；如果当前的变焦倍数大于N倍焦距，则获取长焦摄像头采集的长焦RAW图像；其中，N为正数，N>1。

其中一种可能的实现方式中，将彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像可以为：如果当前的变焦倍数小于1倍焦距，则在获取超广角RAW图像之后，通过拜耳域处理算法链路对上述超广角RAW图像进行处理，获得超广角YUV图像；以及对彩色RAW图像进行处理，获得彩色YUV图像；将上述超广角YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像。

其中一种可能的实现方式中，获取当前的变焦倍数之后，如果当前的变焦倍数小于1倍焦距，则在预览过程中，获取超广角摄像头采集的超广角RAW图像；通过图像处理前端对预览过程中采集的超广角RAW图像进行处理；在预览过程中显示处理后的超广角RAW图像。

其中一种可能的实现方式中，将超广角YUV图像与彩色YUV图像进行融合，获得目标彩色图像可以为：将超广角YUV图像和彩色YUV图像的尺寸对齐；从对齐尺寸后的超广角YUV图像和对齐尺寸后的彩色YUV图像中，获取超广角YUV图像中需要融合的区域和彩色YUV图像中需要融合的区域；将超广角YUV图像需要融合的区域中的像素与所述彩色YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；对上述对应关系进行错误检测，对发生错误的对应关系进行校正；将超广角YUV图像需要融合的区域和彩色YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

其中一种可能的实现方式中，将彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像可以为：如果当前的变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距，则获取黑白RAW图像之后，通过拜耳域处理算法链路对上述黑白RAW图像进行处理，获得黑白YUV图像；以及对彩色RAW图像进行RAW域处理，获得彩色YUV图像；将黑白YUV图像与彩色YUV图像进行融合，获得目标彩色图像。

其中一种可能的实现方式中，将黑白YUV图像与彩色YUV图像进行融合，获得目标彩色图像可以为：将彩色YUV图像和黑白YUV图像的尺寸对齐；从对齐尺寸后的彩色YUV图像和对齐尺寸后的黑白YUV图像中，获取彩色YUV图像中需要融合的区域和黑白YUV图像中需要融合的区域；将彩色YUV图像需要融合的区域中的像素与黑白YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；对上述对应关系进行错误检测，对发生错误的对应关系进行校正；将彩色YUV图像需要融合的区域和黑白YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

其中一种可能的实现方式中，将彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像可以为：如果当前的变焦倍数大于N倍焦距，则在获取所述长焦RAW图像之后，通过拜耳域处理算法链路对长焦RAW图像进行处理，获得长焦YUV图像；以及对所述彩色RAW图像进行处理，获得彩色YUV图像；将上述长焦YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像。

其中一种可能的实现方式中，将长焦YUV图像与彩色YUV图像进行融合，获得目标彩色图像可以为：将长焦YUV图像和彩色YUV图像的尺寸对齐；从对齐尺寸后的长焦YUV图像和对齐尺寸后的彩色YUV图像中，获取长焦YUV图像中需要融合的区域和彩色YUV图像中需要融合的区域；将长焦YUV图像需要融合的区域中的像素与彩色YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；对上述对应关系进行错误检测，对发生错误的对应关系进行校正；将上述长焦YUV图像需要融合的区域和上述彩色YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

其中一种可能的实现方式中，获取当前的变焦倍数之后，如果当前的变焦倍数大于N倍焦距，则在预览过程中，获取彩色摄像头采集的彩色RAW图像；通过图像处理前端对预览过程中采集的彩色RAW图像进行处理；在预览过程中显示处理后的彩色RAW图像。

其中一种可能的实现方式中，对彩色RAW图像进行处理，获得彩色YUV图像可以为：通过拜耳域处理算法链路对彩色RAW图像进行线性化和坏点校正处理，对进行线性化和坏点校正处理后的彩色RAW图像进行RAW域处理，获得彩色YUV图像。

第二方面，本申请实施例提供一种终端的图像处理装置，该装置包含在终端设备中，该装置具有实现第一方面及第一方面的可能实现方式中终端设备行为的功能。功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。硬件或软件包括一个或多个与上述功能相对应的模块或单元。例如，接收模块或单元、处理模块或单元、发送模块或单元等。

第三方面，本申请实施例提供一种终端设备，包括黑白摄像头、彩色摄像头、超广角摄像头和长焦摄像头；一个或多个处理器；存储器；多个应用程序；以及一个或多个计算机程序，其中一个或多个计算机程序被存储在存储器中，一个或多个计算机程序包括指令，当上述指令被终端设备执行时，使得终端设备执行以下步骤：在终端设备的拍照功能运行之后，获取当前的变焦倍数；获取拍摄指令之后，响应于上述拍摄指令，获取彩色摄像头采集的彩色RAW图像，并根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像；将彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像。

其中一种可能的实现方式中，当上述指令被终端设备执行时，使得终端设备执行根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像的步骤可以为：如果当前的变焦倍数小于1倍焦距，则获取超广角摄像头采集的超广角RAW图像；如果当前的变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距，则获取黑白摄像头采集的黑白RAW图像；如果当前的变焦倍数大于N倍焦距，则获取长焦摄像头采集的长焦RAW图像；其中，N为正数，N>1。

其中一种可能的实现方式中，当上述指令被终端设备执行时，使得终端设备执行将彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像的步骤可以为：如果当前的变焦倍数小于1倍焦距，则在获取超广角RAW图像之后，通过拜耳域处理算法链路对超广角RAW图像进行处理，获得超广角YUV图像；以及对彩色RAW图像进行处理，获得彩色YUV图像；将上述超广角YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像。

其中一种可能的实现方式中，当上述指令被终端设备执行时，使得终端设备执行获取当前的变焦倍数的步骤之后，还执行以下步骤：如果当前的变焦倍数小于1倍焦距，则在预览过程中，获取超广角摄像头采集的超广角RAW图像；通过图像处理前端对预览过程中采集的超广角RAW图像进行处理；在预览过程中显示处理后的超广角RAW图像。

其中一种可能的实现方式中，当上述指令被终端设备执行时，使得终端设备执行将超广角YUV图像与彩色YUV图像进行融合，获得目标彩色图像的步骤可以为：将超广角YUV图像和彩色YUV图像的尺寸对齐；从对齐尺寸后的超广角YUV图像和对齐尺寸后的彩色YUV图像中，获取超广角YUV图像中需要融合的区域和彩色YUV图像中需要融合的区域；将超广角YUV图像需要融合的区域中的像素与彩色YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；对上述对应关系进行错误检测，对发生错误的对应关系进行校正；将超广角YUV图像需要融合的区域和彩色YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

其中一种可能的实现方式中，当上述指令被终端设备执行时，使得终端设备执行将彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像的步骤可以为：如果当前的变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距，则获取黑白RAW图像之后，通过拜耳域处理算法链路对上述黑白RAW图像进行处理，获得黑白YUV图像；以及对上述彩色RAW图像进行RAW域处理，获得彩色YUV图像；将上述黑白YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像。

其中一种可能的实现方式中，当上述指令被终端设备执行时，使得终端设备执行将上述黑白YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像的步骤可以为：将彩色YUV图像和黑白YUV图像的尺寸对齐；从对齐尺寸后的彩色YUV图像和对齐尺寸后的黑白YUV图像中，获取彩色YUV图像中需要融合的区域和黑白YUV图像中需要融合的区域；将彩色YUV图像需要融合的区域中的像素与黑白YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；对上述对应关系进行错误检测，对发生错误的对应关系进行校正；将上述彩色YUV图像需要融合的区域和上述黑白YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

其中一种可能的实现方式中，当上述指令被终端设备执行时，使得终端设备执行将彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像的步骤可以为：如果当前的变焦倍数大于N倍焦距，则在获取上述长焦RAW图像之后，通过拜耳域处理算法链路对上述长焦RAW图像进行处理，获得长焦YUV图像；以及对上述彩色RAW图像进行处理，获得彩色YUV图像；将上述长焦YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像。

其中一种可能的实现方式中，当上述指令被终端设备执行时，使得终端设备执行将上述长焦YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像的步骤可以为：将上述长焦YUV图像和上述彩色YUV图像的尺寸对齐；从对齐尺寸后的长焦YUV图像和对齐尺寸后的彩色YUV图像中，获取长焦YUV图像中需要融合的区域和彩色YUV图像中需要融合的区域；将上述长焦YUV图像需要融合的区域中的像素与上述彩色YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；对上述对应关系进行错误检测，对发生错误的对应关系进行校正；将上述长焦YUV图像需要融合的区域和上述彩色YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

其中一种可能的实现方式中，当上述指令被终端设备执行时，使得终端设备执行获取当前的变焦倍数的步骤之后，还执行以下步骤：如果当前的变焦倍数大于N倍焦距，则在预览过程中，获取彩色摄像头采集的彩色RAW图像；通过图像处理前端对预览过程中采集的彩色RAW图像进行处理；在上述预览过程中显示处理后的彩色RAW图像。

其中一种可能的实现方式中，当上述指令被终端设备执行时，使得终端设备执行对彩色RAW图像进行处理，获得彩色YUV图像的步骤可以为：通过拜耳域处理算法链路对彩色RAW图像进行线性化和坏点校正处理，对进行线性化和坏点校正处理后的彩色RAW图像进行RAW域处理，获得彩色YUV图像。

应当理解的是，本申请实施例的第二方面和第三方面与本申请实施例的第一方面的技术方案一致，各方面及对应的可行实施方式所取得的有益效果相似，不再赘述。

第四方面，本申请实施例提供一种计算机可读存储介质，上述计算机可读存储介质中存储有计算机程序，当其在计算机上运行时，使得计算机执行第一方面提供的方法。

第五方面，本申请实施例提供一种计算机程序，当上述计算机程序被计算机执行时，用于执行第一方面提供的方法。

在一种可能的设计中，第五方面中的程序可以全部或者部分存储在与处理器封装在一起的存储介质上，也可以部分或者全部存储在不与处理器封装在一起的存储器上。

附图说明

图1为本申请一个实施例提供的终端设备的结构示意图；

图2为本申请一个实施例提供的终端的图像处理方法的流程图；

图3为本申请一个实施例提供的不同变焦倍数下图像融合示意图；

图4为本申请另一个实施例提供的终端的图像处理方法的流程图；

图5为本申请再一个实施例提供的终端的图像处理方法的流程图；

图6为本申请再一个实施例提供的终端的图像处理方法的流程图；

图7为本申请另一个实施例提供的终端设备的结构示意图。

具体实施方式

本申请的实施方式部分使用的术语仅用于对本申请的具体实施例进行解释，而非旨在限定本申请。

当前在从超广角到广角以及到长焦变化的过程中，没有充分利用多摄像头间的协同工作，从而在部分焦段无法充分恢复图像细节，基于以上问题，本申请实施例提供一种终端的图像处理方法，终端设备根据相机当前的变焦倍数，将彩色摄像头采集的彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像，可以提升不同焦段下图像的细节效果，提升图像的整体清晰度，提高用户体验。

本申请实施例提供的终端的图像处理方法可以应用于终端设备，其中，上述终端设备可以为智能手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality，AR)/虚拟现实(virtual reality，VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer，UMPC)、上网本或个人数字助理(personal digitalassistant，PDA)等设备；本申请实施例对终端设备的具体类型不作任何限制。

示例性的，图1为本申请一个实施例提供的终端设备的结构示意图，如图1所示，终端设备100可以包括处理器110，外部存储器接口120，内部存储器121，通用串行总线(universal serial bus，USB)接口130，充电管理模块140，电源管理模块141，电池142，天线1，天线2，移动通信模块150，无线通信模块160，音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，传感器模块180，按键190，马达191，指示器192，摄像头193，显示屏194，以及用户标识模块(subscriber identification module，SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A，陀螺仪传感器180B，气压传感器180C，磁传感器180D，加速度传感器180E，距离传感器180F，接近光传感器180G，指纹传感器180H，温度传感器180J，触摸传感器180K，环境光传感器180L，骨传导传感器180M等。

可以理解的是，本申请实施例示意的结构并不构成对终端设备100的具体限定。在本申请另一些实施例中，终端设备100可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件，软件或软件和硬件的组合实现。

处理器110可以包括一个或多个处理单元，例如：处理器110可以包括应用处理器(application processor，AP)，调制解调处理器，图形处理器(graphics processingunit，GPU)，图像信号处理器(image signal processor，ISP)，控制器，视频编解码器，数字信号处理器(digital signal processor，DSP)，基带处理器，和/或神经网络处理器(neural-network processing unit，NPU)等。其中，不同的处理单元可以是独立的器件，也可以集成在一个或多个处理器中。

控制器可以根据指令操作码和时序信号，产生操作控制信号，完成取指令和执行指令的控制。

处理器110中还可以设置存储器，用于存储指令和数据。在一些实施例中，处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据，可从所述存储器中直接调用。避免了重复存取，减少了处理器110的等待时间，因而提高了系统的效率。

在一些实施例中，处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit，I2C)接口，集成电路内置音频(inter-integrated circuitsound，I2S)接口，脉冲编码调制(pulse code modulation，PCM)接口，通用异步收发传输器(universal asynchronous receiver/transmitter，UART)接口，移动产业处理器接口(mobile industry processor interface，MIPI)，通用输入输出(general-purposeinput/output，GPIO)接口，用户标识模块(subscriber identity module，SIM)接口，和/或通用串行总线(universal serial bus，USB)接口等。

I2C接口是一种双向同步串行总线，包括一根串行数据线(serial data line，SDA)和一根串行时钟线(derail clock line，DCL)。在一些实施例中，处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K，充电器，闪光灯，摄像头193等。例如：处理器110可以通过I2C接口耦合触摸传感器180K，使处理器110与触摸传感器180K通过I2C总线接口通信，实现终端设备100的触摸功能。

I2S接口可以用于音频通信。在一些实施例中，处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合，实现处理器110与音频模块170之间的通信。在一些实施例中，音频模块170可以通过I2S接口向无线通信模块160传递音频信号，实现通过蓝牙耳机接听电话的功能。

PCM接口也可以用于音频通信，将模拟信号抽样，量化和编码。在一些实施例中，音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中，音频模块170也可以通过PCM接口向无线通信模块160传递音频信号，实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。

UART接口是一种通用串行数据总线，用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中，UART接口通常被用于连接处理器110与无线通信模块160。例如：处理器110通过UART接口与无线通信模块160中的蓝牙模块通信，实现蓝牙功能。在一些实施例中，音频模块170可以通过UART接口向无线通信模块160传递音频信号，实现通过蓝牙耳机播放音乐的功能。

MIPI接口可以被用于连接处理器110与显示屏194，摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface，CSI)，显示屏串行接口(displayserial interface，DSI)等。在一些实施例中，处理器110和摄像头193通过CSI接口通信，实现终端设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信，实现终端设备100的显示功能。

GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号，也可被配置为数据信号。在一些实施例中，GPIO接口可以用于连接处理器110与摄像头193，显示屏194，无线通信模块160，音频模块170，传感器模块180等。GPIO接口还可以被配置为I2C接口，I2S接口，UART接口，MIPI接口等。

USB接口130是符合USB标准规范的接口，具体可以是Mini USB接口，Micro USB接口，USB Type C接口等。USB接口130可以用于连接充电器为终端设备100充电，也可以用于终端设备100与外围设备之间传输数据。也可以用于连接耳机，通过耳机播放音频。该接口还可以用于连接其他电子设备，例如AR设备等。

可以理解的是，本申请实施例示意的各模块间的接口连接关系，只是示意性说明，并不构成对终端设备100的结构限定。在本申请另一些实施例中，终端设备100也可以采用上述实施例中不同的接口连接方式，或多种接口连接方式的组合。

充电管理模块140用于从充电器接收充电输入。其中，充电器可以是无线充电器，也可以是有线充电器。在一些有线充电的实施例中，充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中，充电管理模块140可以通过终端设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时，还可以通过电源管理模块141为终端设备100供电。

电源管理模块141用于连接电池142，充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入，为处理器110，内部存储器121，显示屏194，摄像头193，和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量，电池循环次数，电池健康状态(漏电，阻抗)等参数。在其他一些实施例中，电源管理模块141也可以设置于处理器110中。在另一些实施例中，电源管理模块141和充电管理模块140也可以设置于同一个器件中。

终端设备100的无线通信功能可以通过天线1，天线2，移动通信模块150，无线通信模块160，调制解调处理器以及基带处理器等实现。

天线1和天线2用于发射和接收电磁波信号。终端设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用，以提高天线的利用率。例如：可以将天线1复用为无线局域网的分集天线。在另外一些实施例中，天线可以和调谐开关结合使用。

移动通信模块150可以提供应用在终端设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器，开关，功率放大器，低噪声放大器(low noise amplifier，LNA)等。移动通信模块150可以由天线1接收电磁波，并对接收的电磁波进行滤波，放大等处理，传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大，经天线1转为电磁波辐射出去。在一些实施例中，移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中，移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。

调制解调处理器可以包括调制器和解调器。其中，调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后，被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A，受话器170B等)输出声音信号，或通过显示屏194显示图像或视频。在一些实施例中，调制解调处理器可以是独立的器件。在另一些实施例中，调制解调处理器可以独立于处理器110，与移动通信模块150或其他功能模块设置在同一个器件中。

无线通信模块160可以提供应用在终端设备100上的包括无线局域网(wirelesslocal area networks，WLAN)(如无线保真(wireless fidelity，Wi-Fi)网络)，蓝牙(bluetooth，BT)，全球导航卫星系统(global navigation satellite system，GNSS)，调频(frequency modulation，FM)，近距离无线通信技术(near field communication，NFC)，红外技术(infrared，IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波，将电磁波信号调频以及滤波处理，将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号，对其进行调频，放大，经天线2转为电磁波辐射出去。

在一些实施例中，终端设备100的天线1和移动通信模块150耦合，天线2和无线通信模块160耦合，使得终端设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications，GSM)，通用分组无线服务(general packet radio service，GPRS)，码分多址接入(codedivision multiple access，CDMA)，宽带码分多址(wideband code division multipleaccess，WCDMA)，时分码分多址(time-division code division multiple access，TD-SCDMA)，长期演进(long term evolution，LTE)，BT，GNSS，WLAN，NFC，FM，和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system，GPS)，全球导航卫星系统(global navigation satellite system，GLONASS)，北斗卫星导航系统(beidounavigation satellite system，BDS)，准天顶卫星系统(quasi-zenith satellitesystem，QZSS)和/或星基增强系统(satellite based augmentation systems，SBAS)。

终端设备100通过GPU，显示屏194，以及应用处理器等实现显示功能。GPU为图像处理的微处理器，连接显示屏194和应用处理器。GPU用于执行数学和几何计算，用于图形渲染。处理器110可包括一个或多个GPU，其执行程序指令以生成或改变显示信息。

显示屏194用于显示图像，视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display，LCD)，有机发光二极管(organic light-emittingdiode，OLED)，有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的，AMOLED)，柔性发光二极管(flex light-emittingdiode，FLED)，Miniled，MicroLed，Micro-oLed，量子点发光二极管(quantum dot lightemitting diodes，QLED)等。在一些实施例中，终端设备100可以包括1个或N个显示屏194，N为大于1的正整数。

终端设备100可以通过ISP，摄像头193，视频编解码器，GPU，显示屏194以及应用处理器等实现拍摄功能。

ISP用于处理摄像头193反馈的数据。例如，拍照时，打开快门，光线通过镜头被传递到摄像头感光元件上，光信号转换为电信号，摄像头感光元件将所述电信号传递给ISP处理，转化为肉眼可见的图像。ISP还可以对图像的噪点，亮度，肤色进行算法优化。ISP还可以对拍摄场景的曝光，色温等参数优化。在一些实施例中，ISP可以设置在摄像头193中。

摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device，CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor，CMOS)光电晶体管。感光元件把光信号转换成电信号，之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB，YUV等格式的图像信号。在一些实施例中，终端设备100可以包括N个摄像头193，N为大于1的正整数。本申请实施例中，N个摄像头193中包括黑白摄像头、彩色摄像头、超广角摄像头和长焦摄像头。

具体地，在拍摄过程中，用户打开相机，光线通过镜头(可以对应于之前描述的摄像头193)被传递到感光元件上，换言之，镜头可以将环境光信号投射到感光元件的感光区域后，感光元件经过光电转换，将光信号转化为肉眼可见的图像。感光元件再将内部原始图像(Bayer格式，也称为拜尔格式或拜耳格式)传送给ISP模块，ISP模块经过算法处理，输出RGB空间域的图像给后端的采集单元，显示在终端设备100的图像预览区域或者终端设备100的显示屏上。在这个过程中，处理器通过运行在其上的固件程序对镜头、感光元件和ISP模块，进行相应控制，进而完成图像预览或者拍摄功能。

数字信号处理器用于处理数字信号，除了可以处理数字图像信号，还可以处理其他数字信号。例如，当终端设备100在频点选择时，数字信号处理器用于对频点能量进行傅里叶变换等。

视频编解码器用于对数字视频压缩或解压缩。终端设备100可以支持一种或多种视频编解码器。这样，终端设备100可以播放或录制多种编码格式的视频，例如：动态图像专家组(moving picture experts group，MPEG)1，MPEG2，MPEG3，MPEG4等。

NPU为神经网络(neural-network，NN)计算处理器，通过借鉴生物神经网络结构，例如借鉴人脑神经元之间传递模式，对输入信息快速处理，还可以不断的自学习。通过NPU可以实现终端设备100的智能认知等应用，例如：图像识别，人脸识别，语音识别，文本理解等。

外部存储器接口120可以用于连接外部存储卡，例如Micro SD卡，实现扩展终端设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信，实现数据存储功能。例如将音乐，视频等文件保存在外部存储卡中。

内部存储器121可以用于存储计算机可执行程序代码，所述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中，存储程序区可存储操作系统，至少一个功能所需的应用程序(比如声音播放功能，图像播放功能等)等。存储数据区可存储终端设备100使用过程中所创建的数据(比如音频数据，电话本等)等。此外，内部存储器121可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件，闪存器件，通用闪存存储器(universal flash storage，UFS)等。处理器110通过运行存储在内部存储器121的指令，和/或存储在设置于处理器中的存储器的指令，执行终端设备100的各种功能应用以及数据处理。

终端设备100可以通过音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，以及应用处理器等实现音频功能。例如音乐播放，录音等。

音频模块170用于将数字音频信息转换成模拟音频信号输出，也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中，音频模块170可以设置于处理器110中，或将音频模块170的部分功能模块设置于处理器110中。

扬声器170A，也称“喇叭”，用于将音频电信号转换为声音信号。终端设备100可以通过扬声器170A收听音乐，或收听免提通话。

受话器170B，也称“听筒”，用于将音频电信号转换成声音信号。当终端设备100接听电话或语音信息时，可以通过将受话器170B靠近人耳接听语音。

麦克风170C，也称“话筒”，“传声器”，用于将声音信号转换为电信号。当拨打电话或发送语音信息时，用户可以通过人嘴靠近麦克风170C发声，将声音信号输入到麦克风170C。终端设备100可以设置至少一个麦克风170C。在另一些实施例中，终端设备100可以设置两个麦克风170C，除了采集声音信号，还可以实现降噪功能。在另一些实施例中，终端设备100还可以设置三个，四个或更多麦克风170C，实现采集声音信号，降噪，还可以识别声音来源，实现定向录音功能等。

耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130，也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform，OMTP)标准接口，美国蜂窝电信工业协会(cellular telecommunications industry association of the USA，CTIA)标准接口。

压力传感器180A用于感受压力信号，可以将压力信号转换成电信号。在一些实施例中，压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多，如电阻式压力传感器，电感式压力传感器，电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A，电极之间的电容改变。终端设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194，终端设备100根据压力传感器180A检测所述触摸操作强度。终端设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中，作用于相同触摸位置，但不同触摸操作强度的触摸操作，可以对应不同的操作指令。例如：当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时，执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时，执行新建短消息的指令。

陀螺仪传感器180B可以用于确定终端设备100的运动姿态。在一些实施例中，可以通过陀螺仪传感器180B确定终端设备100围绕三个轴(即，x，y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的，当按下快门，陀螺仪传感器180B检测终端设备100抖动的角度，根据角度计算出镜头模组需要补偿的距离，让镜头通过反向运动抵消终端设备100的抖动，实现防抖。陀螺仪传感器180B还可以用于导航，体感游戏场景。

气压传感器180C用于测量气压。在一些实施例中，终端设备100通过气压传感器180C测得的气压值计算海拔高度，辅助定位和导航。

磁传感器180D包括霍尔传感器。终端设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中，当终端设备100是翻盖机时，终端设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态，设置翻盖自动解锁等特性。

加速度传感器180E可检测终端设备100在各个方向上(一般为三轴)加速度的大小。当终端设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态，应用于横竖屏切换，计步器等应用。

距离传感器180F，用于测量距离。终端设备100可以通过红外或激光测量距离。在一些实施例中，拍摄场景，终端设备100可以利用距离传感器180F测距以实现快速对焦。

接近光传感器180G可以包括例如发光二极管(LED)和光检测器，例如光电二极管。发光二极管可以是红外发光二极管。终端设备100通过发光二极管向外发射红外光。终端设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时，可以确定终端设备100附近有物体。当检测到不充分的反射光时，终端设备100可以确定终端设备100附近没有物体。终端设备100可以利用接近光传感器180G检测用户手持终端设备100贴近耳朵通话，以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式，口袋模式自动解锁与锁屏。

环境光传感器180L用于感知环境光亮度。终端设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合，检测终端设备100是否在口袋里，以防误触。

指纹传感器180H用于采集指纹。终端设备100可以利用采集的指纹特性实现指纹解锁，访问应用锁，指纹拍照，指纹接听来电等。

温度传感器180J用于检测温度。在一些实施例中，终端设备100利用温度传感器180J检测的温度，执行温度处理策略。例如，当温度传感器180J上报的温度超过阈值，终端设备100执行降低位于温度传感器180J附近的处理器的性能，以便降低功耗实施热保护。在另一些实施例中，当温度低于另一阈值时，终端设备100对电池142加热，以避免低温导致终端设备100异常关机。在其他一些实施例中，当温度低于又一阈值时，终端设备100对电池142的输出电压执行升压，以避免低温导致的异常关机。

触摸传感器180K，也称“触控器件”。触摸传感器180K可以设置于显示屏194，由触摸传感器180K与显示屏194组成触摸屏，也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器，以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中，触摸传感器180K也可以设置于终端设备100的表面，与显示屏194所处的位置不同。

骨传导传感器180M可以获取振动信号。在一些实施例中，骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏，接收血压跳动信号。在一些实施例中，骨传导传感器180M也可以设置于耳机中，结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号，解析出语音信号，实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息，实现心率检测功能。

按键190包括开机键，音量键等。按键190可以是机械按键。也可以是触摸式按键。终端设备100可以接收按键输入，产生与终端设备100的用户设置以及功能控制有关的键信号输入。

马达191可以产生振动提示。马达191可以用于来电振动提示，也可以用于触摸振动反馈。例如，作用于不同应用(例如拍照，音频播放等)的触摸操作，可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作，马达191也可对应不同的振动反馈效果。不同的应用场景(例如：时间提醒，接收信息，闹钟，游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。

指示器192可以是指示灯，可以用于指示充电状态，电量变化，也可以用于指示消息，未接来电，通知等。

SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195，或从SIM卡接口195拔出，实现和终端设备100的接触和分离。终端设备100可以支持1个或N个SIM卡接口，N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡，Micro SIM卡，SIM卡等。同一个SIM卡接口195可以同时插入多张卡。所述多张卡的类型可以相同，也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。终端设备100通过SIM卡和网络交互，实现通话以及数据通信等功能。在一些实施例中，终端设备100采用eSIM，即：嵌入式SIM卡。eSIM卡可以嵌在终端设备100中，不能和终端设备100分离。

为了便于理解，在此先对以下实施例中提到的拜耳域和RAW域进行说明。

1、拜耳域：数码相机上的每个镜头都带有一个光传感器，用以测量光线的明亮程度，但若要获得一幅全彩图像，一般需要有三个光传感器分别获得红、绿、蓝三基色信息，而为了降低数码相机的成本与体积，生产厂商通常会采用CCD或CMOS图像传感器，通常的，CMOS图像传感器输出的原始图像为拜尔域RGB格式，单个像素点只包含一种颜色值，要得到图像的灰度值，需要先插补完整各像素点的颜色信息，再计算各像素点的灰度值。也就是说，拜耳域是指数码相机内部的一种原始图片格式。

2、RAW域：RAW域图像，即原始图像包含从数码相机、扫描器或电影胶片扫描仪的图像传感器所处理的数据。之所以这样命名，是因为RAW域图像尚未被处理，未被打印或用于编辑。RAW域图像包含了图像最原始的信息，未经过ISP过程中的非线性处理。

本申请以下实施例将以具有图1所示结构的终端设备为例，结合附图和应用场景，对本申请实施例提供的终端的图像处理方法进行具体阐述。

图2为本申请一个实施例提供的终端的图像处理方法的流程图，如图2所示，上述终端的图像处理方法可以包括：

步骤201，在终端设备100的拍照功能运行之后，终端设备100获取当前的变焦倍数。

步骤202，终端设备100获取拍摄指令之后，响应于上述拍摄指令，获取彩色摄像头采集的彩色RAW图像，并根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像。

具体地，根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像可以为：如果当前的变焦倍数小于1倍焦距，则获取超广角摄像头采集的超广角RAW图像；如果当前的变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距，则获取黑白摄像头采集的黑白RAW图像；如果当前的变焦倍数大于N倍焦距，则获取长焦摄像头采集的长焦RAW图像；其中，N为正数，N>1。

具体实现时，N的大小可以根据系统性能和/或实现需求等自行设定，本实施例对N的大小不作限定，举例来说，N可以为1.8。

步骤203，终端设备100将上述彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像。

具体地，参见图3，图3为本申请一个实施例提供的不同变焦倍数下图像融合示意图。如图3所示，如果当前的变焦倍数小于1倍焦距，则终端设备100获取彩色摄像头采集的彩色RAW图像和超广角摄像头采集的超广角RAW图像，然后将彩色RAW图像与超广角RAW图像进行融合，利用彩色图像填充超广角图像中间部分的细节，增强超广角照片的画质；

如果当前的变焦倍数大于或等于1倍焦距，小于或等于N倍焦距，则终端设备100获取彩色摄像头采集的彩色RAW图像和黑白摄像头采集的黑白RAW图像，然后将彩色RAW图像与黑白RAW图像进行融合，利用黑白图像补充彩色图像的画面细节，增强彩色图像的画质；

如果当前的变焦倍数大于N倍焦距，则终端设备100获取彩色摄像头采集的彩色RAW图像和长焦摄像头采集的长焦RAW图像，然后将彩色RAW图像与长焦RAW图像进行融合，利用彩色图像填充长焦图像中间部分的细节，增强长焦图像的画质。

具体实现时，在不同变焦倍数下，终端设备100可以按照表1所示的策略，进行图像融合。

表1

表1中，W代表彩色摄像头，即主摄；Mono代表黑白摄像头；UW代表超广角摄像头；Tele代表长焦摄像头。需要说明的是，表1中列出的变焦倍数、等效焦距、模组融合方案、预览流模组使用策略、拍照模组组合策略、场景类别和/或图像融合策略等均为具体示例，不作为对本申请实施例的限定。

上述终端的图像处理方法中，在终端设备100的拍照功能运行之后，终端设备100获取当前的变焦倍数，获取拍摄指令之后，响应于上述拍摄指令，获取彩色摄像头采集的彩色RAW图像，并根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像，然后将上述彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像，从而可以实现终端设备100根据相机当前的变焦倍数，将彩色摄像头采集的彩色RAW图像与黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像，从而可以在用户调节变焦倍数的场景下，提升不同焦段下图像的细节效果，提升图像的整体清晰度，提高用户体验。

图4为本申请另一个实施例提供的终端的图像处理方法的流程图，本实施例对表1中变焦倍数为[0.4x,0.9x)时，图像的融合方式进行说明。

如图4所示，本申请图2所示实施例中，步骤203可以包括：

步骤401，如果当前的变焦倍数小于1倍焦距，则在获取超广角RAW图像之后，通过拜耳域处理算法链路对上述超广角RAW图像进行处理，获得超广角YUV图像；以及对上述彩色RAW图像进行处理，获得彩色YUV图像。

具体他，参见图4，步骤401中，通过拜耳域处理算法链路分别对上述超广角RAW图像和彩色RAW图像进行处理之后，可以采用YUV域增强算法，如多帧超分辨率(SuperResolution，SR)算法来提升各自图像的清晰度，同时降低噪声。

步骤402，将上述超广角YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像。

具体地，将上述超广角YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像可以为：将超广角YUV图像和彩色YUV图像的尺寸对齐；从对齐尺寸后的超广角YUV图像和对齐尺寸后的彩色YUV图像中，获取超广角YUV图像中需要融合的区域和彩色YUV图像中需要融合的区域；将上述超广角YUV图像需要融合的区域中的像素与彩色YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；对上述对应关系进行错误检测，对发生错误的对应关系进行校正；然后，将超广角YUV图像需要融合的区域和彩色YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

进一步地，步骤201之后，还可以包括：

步骤403，如果当前的变焦倍数小于1倍焦距，则在预览过程中，获取超广角摄像头采集的超广角RAW图像。

步骤404，通过图像处理前端对预览过程中采集的超广角RAW图像进行处理。

步骤405，在预览过程中显示处理后的超广角RAW图像。

本实施例可以实现当变焦倍数小于1倍焦距时，将彩色摄像头采集的彩色RAW图像与超广角摄像头采集的超广角RAW图像进行融合，获得目标彩色图像，从而可以在用户调节变焦倍数的场景下提高拍摄获得的图像质量，提高用户体验。

图5为本申请再一个实施例提供的终端的图像处理方法的流程图，本实施例对表1中变焦倍数为[1x，1.8x]时，图像的融合方式进行说明。

如图5所示，本申请图2所示实施例中，步骤203可以包括：

步骤501，如果当前的变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距，则获取黑白RAW图像之后，通过拜耳域处理算法链路对所述黑白RAW图像进行处理，获得黑白YUV图像；以及对彩色RAW图像进行RAW域处理，获得彩色YUV图像。

具体他，参见图5，步骤501中，通过拜耳域处理算法链路分别对上述黑白RAW图像和彩色RAW图像进行处理之后，可以采用YUV域增强算法，如多帧SR算法来提升各自图像的清晰度，同时降低噪声。

步骤502，将黑白YUV图像与彩色YUV图像进行融合，获得目标彩色图像。

具体地，将黑白YUV图像与彩色YUV图像进行融合，获得目标彩色图像可以为：将彩色YUV图像和黑白YUV图像的尺寸对齐；从对齐尺寸后的彩色YUV图像和对齐尺寸后的黑白YUV图像中，获取彩色YUV图像中需要融合的区域和黑白YUV图像中需要融合的区域；将彩色YUV图像需要融合的区域中的像素与黑白YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；对上述对应关系进行错误检测，对发生错误的对应关系进行校正；最后，将彩色YUV图像需要融合的区域和黑白YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

本实施例可以实现当变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距时，将彩色摄像头采集的彩色RAW图像与黑白摄像头采集的黑白RAW图像进行融合，获得目标彩色图像，从而可以在用户调节变焦倍数的场景下提高拍摄获得的图像质量，提高用户体验。

图6为本申请再一个实施例提供的终端的图像处理方法的流程图，本实施例对表1中变焦倍数为(1.8x,3.5x)时，图像的融合方式进行说明。

如图6所示，本申请图2所示实施例中，步骤203可以包括：

步骤601，如果当前的变焦倍数大于N倍焦距，则在获取长焦RAW图像之后，通过拜耳域处理算法链路对上述长焦RAW图像进行处理，获得长焦YUV图像；以及对彩色RAW图像进行处理，获得彩色YUV图像。

具体他，参见图6，步骤601中，通过拜耳域处理算法链路分别对上述长焦RAW图像和彩色RAW图像进行处理之后，可以采用YUV域增强算法，如多帧SR算法来提升各自图像的清晰度，同时降低噪声。

步骤602，将上述长焦YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像。

具体地，将上述长焦YUV图像与上述彩色YUV图像进行融合，获得目标彩色图像可以为：将长焦YUV图像和彩色YUV图像的尺寸对齐；从对齐尺寸后的长焦YUV图像和对齐尺寸后的彩色YUV图像中，获取长焦YUV图像中需要融合的区域和彩色YUV图像中需要融合的区域；将上述长焦YUV图像需要融合的区域中的像素与彩色YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；对上述对应关系进行错误检测，对发生错误的对应关系进行校正；然后，将长焦YUV图像需要融合的区域和彩色YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

进一步地，步骤201之后，还可以包括：

步骤603，如果当前的变焦倍数大于N倍焦距，则在预览过程中，获取彩色摄像头采集的彩色RAW图像。

步骤604，通过图像处理前端对预览过程中采集的彩色RAW图像进行处理。

步骤605，在上述预览过程中显示处理后的彩色RAW图像。

本实施例可以实现当变焦倍数大于N倍焦距时，将彩色摄像头采集的彩色RAW图像与长焦摄像头采集的长焦RAW图像进行融合，获得目标彩色图像，从而可以在用户调节变焦倍数的场景下提高拍摄获得的图像质量，提高用户体验。

另外，需要说明的是，本申请图4～图6所示实施例中，对彩色RAW图像进行处理，获得彩色YUV图像可以为：通过拜耳域处理算法链路对彩色RAW图像进行线性化和坏点校正处理，对进行线性化和坏点校正处理后的彩色RAW图像进行RAW域处理，获得彩色YUV图像。

可以理解的是，上述实施例中的部分或全部步骤或操作仅是示例，本申请实施例还可以执行其它操作或者各种操作的变形。此外，各个步骤可以按照上述实施例呈现的不同的顺序来执行，并且有可能并非要执行上述实施例中的全部操作。

可以理解的是，终端设备为了实现上述功能，其包含了执行各个功能相应的硬件和/或软件模块。结合本申请所公开的实施例描述的各示例的算法步骤，本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行，取决于技术方案的特定应用和设计约束条件。本领域技术人员可以结合实施例对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

本实施例可以根据上述方法实施例对终端设备进行功能模块的划分，例如，可以对应各个功能划分各个功能模块，也可以将两个或两个以上的功能集成在一个模块中。上述集成的模块可以采用硬件的形式实现。需要说明的是，本实施例中对模块的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

图7为本申请另一个实施例提供的终端设备的结构示意图，在采用对应各个功能划分各个功能模块的情况下，图7示出了上述实施例中涉及的终端设备700的一种可能的组成示意图，如图7所示，该终端设备700可以包括：接收单元701、处理单元702和发送单元703；

其中，处理单元702可以用于支持终端设备700实现本申请图2～图6所示实施例所描述的技术方案。

需要说明的是，上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能模块的功能描述，在此不再赘述。

本实施例提供的终端设备700，用于执行上述终端的图像处理方法，因此可以达到与上述方法相同的效果。

应当理解的是，终端设备700可以对应于图1所示的终端设备100。其中，接收单元701和发送单元703的功能可以由图1所示的终端设备100中处理器110、天线1和移动通信模块150，和/或，由处理器110、天线2和无线通信模块160实现；处理单元702的功能可以由图1所示的终端设备100中的处理器110实现。

在采用集成的单元的情况下，终端设备700可以包括处理模块、存储模块和通信模块。

其中，处理模块可以用于对终端设备700的动作进行控制管理，例如，可以用于支持终端设备700执行上述接收单元701、处理单元702和发送单元703执行的步骤。存储模块可以用于支持终端设备700存储程序代码和数据等。通信模块，可以用于支持终端设备700与其他设备的通信。

其中，处理模块可以是处理器或控制器，其可以实现或执行结合本申请公开内容所描述的各种示例性的逻辑方框、模块和电路。处理器也可以是实现计算功能的组合，例如包含一个或多个微处理器组合，数字信号处理(digital signal processing，DSP)和微处理器的组合等等。存储模块可以是存储器。通信模块具体可以为射频电路、蓝牙芯片和/或Wi-Fi芯片等与其他电子设备交互的设备。

在一个实施例中，当处理模块为处理器，存储模块为存储器时，本实施例所涉及的终端设备700可以为具有图1所示结构的设备。

本申请实施例还提供一种计算机可读存储介质，该计算机可读存储介质中存储有计算机程序，当其在计算机上运行时，使得计算机执行本申请图2～图5所示实施例提供的方法。

本申请实施例还提供一种计算机程序产品，该计算机程序产品包括计算机程序，当其在计算机上运行时，使得计算机执行本申请图2～图5所示实施例提供的方法。

本申请实施例中，“至少一个”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示单独存在A、同时存在A和B、单独存在B的情况。其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项”及其类似表达，是指的这些项中的任意组合，包括单项或复数项的任意组合。例如，a，b和c中的至少一项可以表示：a，b，c，a和b，a和c，b和c或a和b和c，其中a，b，c可以是单个，也可以是多个。

本领域普通技术人员可以意识到，本文中公开的实施例中描述的各单元及算法步骤，能够以电子硬件、计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，任一功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(read-only memory，ROM)、随机存取存储器(random access memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本申请的具体实施方式，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。本申请的保护范围应以所述权利要求的保护范围为准。

Claims (24)

1.一种终端的图像处理方法，其特征在于，所述终端包括黑白摄像头、彩色摄像头、超广角摄像头和长焦摄像头，所述方法包括：

在所述终端的拍照功能运行之后，获取当前的变焦倍数；

获取拍摄指令之后，响应于所述拍摄指令，获取彩色摄像头采集的彩色RAW图像，并根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像；

将所述彩色RAW图像与所述黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像。

2.根据权利要求1所述的方法，其特征在于，所述根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像包括：

如果当前的变焦倍数小于1倍焦距，则获取超广角摄像头采集的超广角RAW图像；

如果当前的变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距，则获取黑白摄像头采集的黑白RAW图像；

如果当前的变焦倍数大于N倍焦距，则获取长焦摄像头采集的长焦RAW图像；其中，N为正数，N>1。

3.根据权利要求2所述的方法，其特征在于，所述将所述彩色RAW图像与所述黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像包括：

如果当前的变焦倍数小于1倍焦距，则在获取超广角RAW图像之后，通过拜耳域处理算法链路对所述超广角RAW图像进行处理，获得超广角YUV图像；以及对所述彩色RAW图像进行处理，获得彩色YUV图像；

将所述超广角YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像。

4.根据权利要求3所述的方法，其特征在于，所述获取当前的变焦倍数之后，还包括：

如果当前的变焦倍数小于1倍焦距，则在预览过程中，获取超广角摄像头采集的超广角RAW图像；

通过图像处理前端对预览过程中采集的超广角RAW图像进行处理；

在所述预览过程中显示处理后的超广角RAW图像。

5.根据权利要求3所述的方法，其特征在于，所述将所述超广角YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像包括：

将所述超广角YUV图像和所述彩色YUV图像的尺寸对齐；

从对齐尺寸后的超广角YUV图像和对齐尺寸后的彩色YUV图像中，获取超广角YUV图像中需要融合的区域和彩色YUV图像中需要融合的区域；

将所述超广角YUV图像需要融合的区域中的像素与所述彩色YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；

对所述对应关系进行错误检测，对发生错误的对应关系进行校正；

将所述超广角YUV图像需要融合的区域和所述彩色YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

6.根据权利要求2所述的方法，其特征在于，所述将所述彩色RAW图像与所述黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像包括：

如果当前的变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距，则获取所述黑白RAW图像之后，通过拜耳域处理算法链路对所述黑白RAW图像进行处理，获得黑白YUV图像；以及对所述彩色RAW图像进行RAW域处理，获得彩色YUV图像；

将所述黑白YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像。

7.根据权利要求6所述的方法，其特征在于，所述将所述黑白YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像包括：

将所述彩色YUV图像和所述黑白YUV图像的尺寸对齐；

从对齐尺寸后的彩色YUV图像和对齐尺寸后的黑白YUV图像中，获取彩色YUV图像中需要融合的区域和黑白YUV图像中需要融合的区域；

将所述彩色YUV图像需要融合的区域中的像素与所述黑白YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；

对所述对应关系进行错误检测，对发生错误的对应关系进行校正；

将所述彩色YUV图像需要融合的区域和所述黑白YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

8.根据权利要求2所述的方法，其特征在于，所述将所述彩色RAW图像与所述黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像包括：

如果当前的变焦倍数大于N倍焦距，则在获取所述长焦RAW图像之后，通过拜耳域处理算法链路对所述长焦RAW图像进行处理，获得长焦YUV图像；以及对所述彩色RAW图像进行处理，获得彩色YUV图像；

将所述长焦YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像。

9.根据权利要求8所述的方法，其特征在于，所述将所述长焦YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像包括：

将所述长焦YUV图像和所述彩色YUV图像的尺寸对齐；

从对齐尺寸后的长焦YUV图像和对齐尺寸后的彩色YUV图像中，获取长焦YUV图像中需要融合的区域和彩色YUV图像中需要融合的区域；

将所述长焦YUV图像需要融合的区域中的像素与所述彩色YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；

对所述对应关系进行错误检测，对发生错误的对应关系进行校正；

将所述长焦YUV图像需要融合的区域和所述彩色YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

10.根据权利要求8所述的方法，其特征在于，所述获取当前的变焦倍数之后，还包括：

如果当前的变焦倍数大于N倍焦距，则在预览过程中，获取彩色摄像头采集的彩色RAW图像；

通过图像处理前端对预览过程中采集的彩色RAW图像进行处理；

在所述预览过程中显示处理后的彩色RAW图像。

11.根据权利要求3、6或8所述的方法，其特征在于，所述对所述彩色RAW图像进行处理，获得彩色YUV图像包括：

通过所述拜耳域处理算法链路对所述彩色RAW图像进行线性化和坏点校正处理，对进行线性化和坏点校正处理后的彩色RAW图像进行RAW域处理，获得彩色YUV图像。

12.一种终端的图像处理装置，其特征在于，用于执行如权利要求1至11任一所述的方法。

13.一种终端设备，其特征在于，包括黑白摄像头、彩色摄像头、超广角摄像头和长焦摄像头；一个或多个处理器；存储器；多个应用程序；以及一个或多个计算机程序，其中所述一个或多个计算机程序被存储在所述存储器中，所述一个或多个计算机程序包括指令，当所述指令被所述终端设备执行时，使得所述终端设备执行以下步骤：

在所述终端设备的拍照功能运行之后，获取当前的变焦倍数；

获取拍摄指令之后，响应于所述拍摄指令，获取彩色摄像头采集的彩色RAW图像，并根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像；

将所述彩色RAW图像与所述黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像。

14.根据权利要求13所述的终端设备，其特征在于，当所述指令被所述终端设备执行时，使得所述终端设备执行所述根据当前的变焦倍数获取黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像的步骤包括：

如果当前的变焦倍数小于1倍焦距，则获取超广角摄像头采集的超广角RAW图像；

如果当前的变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距，则获取黑白摄像头采集的黑白RAW图像；

如果当前的变焦倍数大于N倍焦距，则获取长焦摄像头采集的长焦RAW图像；其中，N为正数，N>1。

15.根据权利要求14所述的终端设备，其特征在于，当所述指令被所述终端设备执行时，使得所述终端设备执行所述将所述彩色RAW图像与所述黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像的步骤包括：

如果当前的变焦倍数小于1倍焦距，则在获取超广角RAW图像之后，通过拜耳域处理算法链路对所述超广角RAW图像进行处理，获得超广角YUV图像；以及对所述彩色RAW图像进行处理，获得彩色YUV图像；

将所述超广角YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像。

16.根据权利要求15所述的终端设备，其特征在于，当所述指令被所述终端设备执行时，使得所述终端设备执行所述获取当前的变焦倍数的步骤之后，还执行以下步骤：

如果当前的变焦倍数小于1倍焦距，则在预览过程中，获取超广角摄像头采集的超广角RAW图像；

通过图像处理前端对预览过程中采集的超广角RAW图像进行处理；

在所述预览过程中显示处理后的超广角RAW图像。

17.根据权利要求15所述的终端设备，其特征在于，当所述指令被所述终端设备执行时，使得所述终端设备执行所述将所述超广角YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像的步骤包括：

将所述超广角YUV图像和所述彩色YUV图像的尺寸对齐；

从对齐尺寸后的超广角YUV图像和对齐尺寸后的彩色YUV图像中，获取超广角YUV图像中需要融合的区域和彩色YUV图像中需要融合的区域；

将所述超广角YUV图像需要融合的区域中的像素与所述彩色YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；

对所述对应关系进行错误检测，对发生错误的对应关系进行校正；

将所述超广角YUV图像需要融合的区域和所述彩色YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

18.根据权利要求14所述的终端设备，其特征在于，当所述指令被所述终端设备执行时，使得所述终端设备执行所述将所述彩色RAW图像与所述黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像的步骤包括：

如果当前的变焦倍数大于或等于1倍焦距，并且小于或等于N倍焦距，则获取所述黑白RAW图像之后，通过拜耳域处理算法链路对所述黑白RAW图像进行处理，获得黑白YUV图像；以及对所述彩色RAW图像进行RAW域处理，获得彩色YUV图像；

将所述黑白YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像。

19.根据权利要求18所述的终端设备，其特征在于，当所述指令被所述终端设备执行时，使得所述终端设备执行所述将所述黑白YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像的步骤包括：

将所述彩色YUV图像和所述黑白YUV图像的尺寸对齐；

从对齐尺寸后的彩色YUV图像和对齐尺寸后的黑白YUV图像中，获取彩色YUV图像中需要融合的区域和黑白YUV图像中需要融合的区域；

将所述彩色YUV图像需要融合的区域中的像素与所述黑白YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；

对所述对应关系进行错误检测，对发生错误的对应关系进行校正；

将所述彩色YUV图像需要融合的区域和所述黑白YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

20.根据权利要求14所述的终端设备，其特征在于，当所述指令被所述终端设备执行时，使得所述终端设备执行所述将所述彩色RAW图像与所述黑白摄像头、超广角摄像头和长焦摄像头之一采集的RAW图像进行融合，获得目标彩色图像的步骤包括：

如果当前的变焦倍数大于N倍焦距，则在获取所述长焦RAW图像之后，通过拜耳域处理算法链路对所述长焦RAW图像进行处理，获得长焦YUV图像；以及对所述彩色RAW图像进行处理，获得彩色YUV图像；

将所述长焦YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像。

21.根据权利要求20所述的终端设备，其特征在于，当所述指令被所述终端设备执行时，使得所述终端设备执行所述将所述长焦YUV图像与所述彩色YUV图像进行融合，获得目标彩色图像的步骤包括：

将所述长焦YUV图像和所述彩色YUV图像的尺寸对齐；

从对齐尺寸后的长焦YUV图像和对齐尺寸后的彩色YUV图像中，获取长焦YUV图像中需要融合的区域和彩色YUV图像中需要融合的区域；

将所述长焦YUV图像需要融合的区域中的像素与所述彩色YUV图像需要融合的区域中的像素进行映射，获得像素之间的对应关系；

对所述对应关系进行错误检测，对发生错误的对应关系进行校正；

将所述长焦YUV图像需要融合的区域和所述彩色YUV图像需要融合的区域中的清晰像素，融合到对应的模糊像素上。

22.根据权利要求20所述的终端设备，其特征在于，当所述指令被所述终端设备执行时，使得所述终端设备执行所述获取当前的变焦倍数的步骤之后，还执行以下步骤：

如果当前的变焦倍数大于N倍焦距，则在预览过程中，获取彩色摄像头采集的彩色RAW图像；

通过图像处理前端对预览过程中采集的彩色RAW图像进行处理；

在所述预览过程中显示处理后的彩色RAW图像。

23.根据权利要求15、18或20所述的终端设备，其特征在于，当所述指令被所述终端设备执行时，使得所述终端设备执行所述对所述彩色RAW图像进行处理，获得彩色YUV图像的步骤包括：

通过所述拜耳域处理算法链路对所述彩色RAW图像进行线性化和坏点校正处理，对进行线性化和坏点校正处理后的彩色RAW图像进行RAW域处理，获得彩色YUV图像。

24.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，当其在计算机上运行时，使得计算机执行如权利要求1-11任一项所述的方法。

Images