CN112954251B - 视频处理方法、视频处理装置、存储介质与电子设备 - Google Patents

Abstract

本公开提供了一种视频处理方法、视频处理装置、存储介质与电子设备，涉及视频处理技术领域。该视频处理方法包括：获取原始视频和参考帧图像，所述原始视频为第一分辨率，所述参考帧图像为第二分辨率，所述第一分辨率低于所述第二分辨率；从所述原始视频中提取与所述参考帧图像对应的原始帧图像；根据所述参考帧图像和对应的所述原始帧图像，确定插值参数；利用所述插值参数对所述原始视频进行插值，生成目标视频，所述目标视频为所述第二分辨率。本公开可以提高拍摄视频的分辨率，并减少噪点问题，实现高质量的视频拍摄。

Description

视频处理方法、视频处理装置、存储介质与电子设备

技术领域

本公开涉及视频处理技术领域，尤其涉及一种视频处理方法、视频处理装置、计算机可读存储介质与电子设备。

背景技术

目前，在可拍照/摄像的电子设备上，提高摄像头的分辨率/像素数是业界普遍的发展方向，例如手机上通常采用百万甚至千万级别像素的高分辨率摄像头，可以支持拍摄出超高清的照片。

然而，随着分辨率的提高，单个像素的感光面积减小，更容易出现噪点的问题。在拍摄视频时，由于每一帧的拍摄时间很短，曝光时间不足，导致高分辨率视频中噪点非常严重。相关技术中，通常采用分辨率较低的摄像头(如副摄像头)拍摄视频，或者主动降低视频的分辨率，以缓解噪点的问题。因此，所拍摄的视频分辨率普遍较低，没有充分地利用高分辨率摄像头的优势，用户体验较低。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开提供了一种视频处理方法、视频处理装置、计算机可读存储介质与电子设备，进而至少在一定程度上改善相关技术中拍摄视频分辨率较低的问题。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的第一方面，提供一种视频处理方法，包括：获取原始视频和参考帧图像，所述原始视频为第一分辨率，所述参考帧图像为第二分辨率，所述第一分辨率低于所述第二分辨率；从所述原始视频中提取与所述参考帧图像对应的原始帧图像；根据所述参考帧图像和对应的所述原始帧图像，确定插值参数；利用所述插值参数对所述原始视频进行插值，生成目标视频，所述目标视频为所述第二分辨率。

根据本公开的第二方面，提供一种视频处理装置，包括：获取模块，用于获取原始视频和参考帧图像，所述原始视频为第一分辨率，所述参考帧图像为第二分辨率，所述第一分辨率低于所述第二分辨率；原始帧提取模块，用于从所述原始视频中提取与所述参考帧图像对应的原始帧图像；插值参数确定模块，用于根据所述参考帧图像和对应的所述原始帧图像，确定插值参数；目标视频生成模块，用于利用所述插值参数对所述原始视频进行插值，生成目标视频，所述目标视频为所述第二分辨率。

根据本公开的第三方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述视频处理方法。

根据本公开的第四方面，提供一种电子设备，包括：处理器；以及存储器，用于存储所述处理器的可执行指令；其中，所述处理器配置为经由执行所述可执行指令来执行上述视频处理方法。

本公开的技术方案具有以下有益效果：

根据上述视频处理方法、视频处理装置、存储介质和电子设备，获取原始视频和参考帧图像，从原始视频中提取与参考帧图像对应的原始帧图像，根据参考帧图像和对应的原始帧图像确定插值参数，并利用插值参数对原始视频进行插值，生成目标视频。一方面，在采集视频的过程中，采用较低的第一分辨率，可以减少视频噪点问题，后期通过插值生成第二分辨率的目标视频，可以提高视频的分辨率和清晰度，从而实现高质量的视频拍摄。另一方面，本方案为软件算法的实现过程，无需对硬件配置进行改进，应用成本较低，实用性较高。

在本公开的一些实施方式中，采用低分辨率的摄像头拍摄视频，采用高分辨率的摄像头拍摄参考帧图像，通过插值得到目标视频，等同于高分辨率摄像头拍摄的视频，发挥了高分辨率摄像头的优势，并且改善了噪点问题，此外还降低了高分辨率摄像头长时间开启所带来的功耗，用户体验较好。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施方式，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出本示例性实施方式的一种系统架构的示意图；

图2示出本示例性实施方式的电子设备的示意图；

图3示出本示例性实施方式的一种视频处理方法的流程图；

图4示出本示例性实施方式的滤色阵列的示意图；

图5示出本示例性实施方式的一种视频处理方法的子流程图；

图6示出本示例性实施方式处理原始视频图像的示意图；

图7示出本示例性实施方式处理参考帧图像的示意图；

图8示出本示例性实施方式的另一种视频处理方法的子流程图；

图9示出本示例性实施方式的视频处理方法的示意性流程；

图10示出本示例性实施方式的一种视频处理装置的结构框图；

图11示出本示例性实施方式的计算机可读存储介质的示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

图1示出了本公开示例性实施方式的一种系统架构的示意图。如图1所示，该系统架构100可以包括：终端110、网络120和服务器130。终端110可以是具有视频拍摄功能的各种电子设备，包括但不限于手机、平板电脑、数码相机、个人电脑等。网络120用以在终端110和服务器130之间提供通信链路的介质，可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等。应该理解，图1中的终端、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端、网络和服务器。比如服务器130可以是多个服务器组成的服务器集群等。

本公开实施方式所提供的视频处理方法可以由终端110执行，例如在终端110拍摄视频后，对视频进行处理；也可以由服务器130执行，例如终端110拍摄视频后，上传到服务器130，使服务器130对视频进行处理。本公开对此不做限定。

本公开的示例性实施方式提供一种用于实现视频处理方法的电子设备，其可以是图1中的终端110或服务器130。该电子设备至少包括处理器和存储器，存储器用于存储处理器的可执行指令，处理器配置为经由执行可执行指令来执行视频处理方法。

电子设备可以以各种形式来实施，例如可以包括手机、平板电脑、笔记本电脑、个人数字助理(Personal Digital Assistant，PDA)、导航装置、可穿戴设备、无人机等移动设备，以及台式电脑、智能电视等固定设备。下面以图2中的移动终端200为例，对电子设备的构造进行示例性说明。本领域技术人员应当理解，除了特别用于移动目的的部件之外，图2中的构造也能够应用于固定类型的设备。在另一些实施方式中，移动终端200可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件、软件或软件和硬件的组合实现。各部件间的接口连接关系只是示意性示出，并不构成对移动终端200的结构限定。在另一些实施方式中，移动终端200也可以采用与图2不同的接口连接方式，或多种接口连接方式的组合。

如图2所示，移动终端200具体可以包括：处理器210、内部存储器221、外部存储器接口222、通用串行总线(Universal Serial Bus，USB)接口230、充电管理模块240、电源管理模块241、电池242、天线1、天线2、移动通信模块250、无线通信模块260、音频模块270、扬声器271、受话器272、麦克风273、耳机接口274、传感器模块280、显示屏290、摄像模组291、指示器292、马达293、按键294以及用户标识模块(Subscriber Identification Module，SIM)卡接口295等。其中传感器模块280可以包括深度传感器2801、压力传感器2802、陀螺仪传感器2803、气压传感器2804等。

处理器210可以包括一个或多个处理单元，例如：处理器210可以包括应用处理器(Application Processor，AP)、调制解调处理器、图形处理器(Graphics ProcessingUnit，GPU)、图像信号处理器(Image Signal Processor，ISP)、控制器、视频编解码器、数字信号处理器(Digital Signal Processor，DSP)、基带处理器和/或神经网络处理器(Neural-etwork Processing Unit，NPU)等。其中，不同的处理单元可以是独立的器件，也可以集成在一个或多个处理器中。

控制器可以根据指令操作码和时序信号，产生操作控制信号，完成取指令和执行指令的控制。

处理器210中还可以设置存储器，用于存储指令和数据。存储器可以存储用于实现六个模块化功能的指令：检测指令、连接指令、信息管理指令、分析指令、数据传输指令和通知指令，并由处理器210来控制执行。在一些实施方式中，处理器210中的存储器为高速缓冲存储器。该存储器可以保存处理器210刚用过或循环使用的指令或数据。如果处理器210需要再次使用该指令或数据，可从所述存储器中直接调用。避免了重复存取，减少了处理器210的等待时间，因而提高了系统的效率。

在一些实施方式中，处理器210可以包括一个或多个接口。接口可以包括集成电路(Inter-Integrated Circuit，I2C)接口、集成电路内置音频(Inter-Integrated CircuitSound，I2S)接口、脉冲编码调制(Pulse Code Modulation，PCM)接口、通用异步收发传输器(Universal Asynchronous Receiver/Rransmitter，UART)接口、移动产业处理器接口(Mobile Industry Processor Interface，MIPI)、通用输入输出(General-PurposeInput/Output，GPIO)接口、用户标识模块(Subscriber Identity Module，SIM)接口和/或通用串行总线(Universal Serial Bus，USB)接口等。通过不同的接口和移动终端200的其他部件形成连接。

USB接口230是符合USB标准规范的接口，具体可以是MiniUSB接口，MicroUSB接口，USBTypeC接口等。USB接口230可以用于连接充电器为移动终端200充电，也可以连接耳机，通过耳机播放音频，还可以用于移动终端200连接其他电子设备，例如连接电脑、外围设备等。

充电管理模块240用于从充电器接收充电输入。其中，充电器可以是无线充电器，也可以是有线充电器。在一些有线充电的实施方式中，充电管理模块240可以通过USB接口230接收有线充电器的充电输入。在一些无线充电的实施方式中，充电管理模块240可以通过移动终端200的无线充电线圈接收无线充电输入。充电管理模块240为电池242充电的同时，还可以通过电源管理模块241为电子设备供电。

电源管理模块241用于连接电池242、充电管理模块240与处理器210。电源管理模块241接收电池242和/或充电管理模块240的输入，为处理器210、内部存储器221、显示屏290、摄像模组291和无线通信模块260等供电。电源管理模块241还可以用于监测电池容量，电池循环次数，电池健康状态(漏电，阻抗)等参数。在其他一些实施方式中，电源管理模块241也可以设置于处理器210中。在另一些实施方式中，电源管理模块241和充电管理模块240也可以设置于同一个器件中。

移动终端200的无线通信功能可以通过天线1、天线2、移动通信模块250、无线通信模块260、调制解调处理器以及基带处理器等实现。

天线1和天线2用于发射和接收电磁波信号。移动终端200中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用，以提高天线的利用率。例如：可以将天线1复用为无线局域网的分集天线。在另外一些实施方式中，天线可以和调谐开关结合使用。

移动通信模块250可以提供应用在移动终端200上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块250可以包括至少一个滤波器，开关，功率放大器，低噪声放大器(Low Noise Amplifier，LNA)等。移动通信模块250可以由天线1接收电磁波，并对接收的电磁波进行滤波、放大等处理，传送至调制解调处理器进行解调。移动通信模块250还可以对经调制解调处理器调制后的信号放大，经天线1转为电磁波辐射出去。在一些实施方式中，移动通信模块250的至少部分功能模块可以被设置于处理器210中。在一些实施方式中，移动通信模块250的至少部分功能模块可以与处理器210的至少部分模块被设置在同一个器件中。

调制解调处理器可以包括调制器和解调器。其中，调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后，被传递给应用处理器。应用处理器通过音频设备(不限于扬声器271，受话器272等)输出声音信号，或通过显示屏290显示图像或视频。在一些实施方式中，调制解调处理器可以是独立的器件。在另一些实施方式中，调制解调处理器可以独立于处理器210，与移动通信模块250或其他功能模块设置在同一个器件中。

无线通信模块260可以提供应用在移动终端200上的包括无线局域网(WirelessLocal Area Networks，WLAN)(如无线保真(Wireless Fidelity，Wi-Fi)网络)、蓝牙(Bluetooth，BT)、全球导航卫星系统(Global Navigation Satellite System，GNSS)、调频(Frequency Modulation，FM)、近距离无线通信技术(Near Field Communication，NFC)、红外技术(Infrared，IR)等无线通信的解决方案。无线通信模块260可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块260经由天线2接收电磁波，将电磁波信号调频以及滤波处理，将处理后的信号发送到处理器210。无线通信模块260还可以从处理器210接收待发送的信号，对其进行调频，放大，经天线2转为电磁波辐射出去。

在一些实施方式中，移动终端200的天线1和移动通信模块250耦合，天线2和无线通信模块260耦合，使得移动终端200可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(Global System for Mobilecommunications，GSM)，通用分组无线服务(General Packet Radio Service，GPRS)，码分多址接入(Code Division Multiple Access，CDMA)，宽带码分多址(Wideband CodeDivision Multiple Access，WCDMA)，时分码分多址(Time-Division Code DivisionMultiple Access，TDSCDMA)，长期演进(Long Term Evolution，LTE)，新空口(New Radio，NR)，BT，GNSS，WLAN，NFC，FM，和/或IR技术等。所述GNSS可以包括全球卫星定位系统(GlobalPositioning System，GPS)，全球导航卫星系统(Global Navigation Satellite System，GLONASS)，北斗卫星导航系统(Beidou avigation satellite system，BDS)，准天顶卫星系统(Quasi-Zenith Satellite System，QZSS)和/或星基增强系统(Satellite BasedAugmentation Systems，SBAS)。

移动终端200通过GPU、显示屏290及应用处理器等实现显示功能。GPU为图像处理的微处理器，连接显示屏290和应用处理器。GPU用于执行数学和几何计算，用于图形渲染。处理器210可包括一个或多个GPU，其执行程序指令以生成或改变显示信息。

显示屏290用于显示图像，视频等。显示屏290包括显示面板。显示面板可以采用液晶显示屏(Liquid Crystal Display，LCD)，有机发光二极管(Organic Light-EmittingDiode，OLED)，有源矩阵有机发光二极体或主动矩阵有机发光二极体(Active-MatrixOrganic Light Emitting Diode，AMOLED)，柔性发光二极管(Flexlight-Emitting Diode，FLED)，Miniled，MicroLed，Micro-oLed，量子点发光二极管(Quantum dot Light EmittingDiodes，QLED)等。在一些实施方式中，移动终端200可以包括1个或N个显示屏290，N为大于1的正整数。

移动终端200可以通过ISP、摄像模组291、视频编解码器、GPU、显示屏290及应用处理器等实现拍摄功能。

ISP用于处理摄像模组291反馈的数据。例如，拍照时，打开快门，光线通过镜头被传递到摄像头感光元件上，光信号转换为电信号，摄像头感光元件将所述电信号传递给ISP处理，转化为肉眼可见的图像。ISP还可以对图像的噪点，亮度，肤色进行算法优化。ISP还可以对拍摄场景的曝光，色温等参数优化。在一些实施方式中，ISP可以设置在摄像模组291中。

摄像模组291用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(Charge Coupled Device，CCD)或互补金属氧化物半导体(Complementary Metal-Oxide-Semiconductor，CMOS)光电晶体管。感光元件把光信号转换成电信号，之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB，YUV等格式的图像信号。在一些实施方式中，移动终端200可以包括1个或N个摄像模组291，N为大于1的正整数，若移动终端200包括N个摄像头，N个摄像头中有一个是主摄像头。

数字信号处理器用于处理数字信号，除了可以处理数字图像信号，还可以处理其他数字信号。例如，当移动终端200在频点选择时，数字信号处理器用于对频点能量进行傅里叶变换等。

视频编解码器用于对数字视频压缩或解压缩。移动终端200可以支持一种或多种视频编解码器。这样，移动终端200可以播放或录制多种编码格式的视频，例如：动态图像专家组(Moving Picture Experts Group，MPEG)1，MPEG2，MPEG3，MPEG4等。

NPU为神经网络(Neural-Network，NN)计算处理器，通过借鉴生物神经网络结构，例如借鉴人脑神经元之间传递模式，对输入信息快速处理，还可以不断的自学习。通过NPU可以实现移动终端200的智能认知等应用，例如：图像识别，人脸识别，语音识别，文本理解等。

外部存储器接口222可以用于连接外部存储卡，例如Micro SD卡，实现扩展移动终端200的存储能力。外部存储卡通过外部存储器接口222与处理器210通信，实现数据存储功能。例如将音乐，视频等文件保存在外部存储卡中。

内部存储器221可以用于存储计算机可执行程序代码，所述可执行程序代码包括指令。内部存储器221可以包括存储程序区和存储数据区。其中，存储程序区可存储操作系统，至少一个功能所需的应用程序(比如声音播放功能，图像播放功能等)等。存储数据区可存储移动终端200使用过程中所创建的数据(比如音频数据，电话本等)等。此外，内部存储器221可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件，闪存器件，通用闪存存储器(Universal Flash Storage，UFS)等。处理器210通过运行存储在内部存储器221的指令和/或存储在设置于处理器中的存储器的指令，执行移动终端200的各种功能应用以及数据处理。

移动终端200可以通过音频模块270、扬声器271、受话器272、麦克风273、耳机接口274及应用处理器等实现音频功能。例如音乐播放、录音等。

音频模块270用于将数字音频信息转换成模拟音频信号输出，也用于将模拟音频输入转换为数字音频信号。音频模块270还可以用于对音频信号编码和解码。在一些实施方式中，音频模块270可以设置于处理器210中，或将音频模块270的部分功能模块设置于处理器210中。

扬声器271，也称“喇叭”，用于将音频电信号转换为声音信号。移动终端200可以通过扬声器271收听音乐，或收听免提通话。

受话器272，也称“听筒”，用于将音频电信号转换成声音信号。当移动终端200接听电话或语音信息时，可以通过将受话器272靠近人耳接听语音。

麦克风273，也称“话筒”，“传声器”，用于将声音信号转换为电信号。当拨打电话或发送语音信息时，用户可以通过人嘴靠近麦克风273发声，将声音信号输入到麦克风273。移动终端200可以设置至少一个麦克风273。在另一些实施方式中，移动终端200可以设置两个麦克风273，除了采集声音信号，还可以实现降噪功能。在另一些实施方式中，移动终端200还可以设置三个，四个或更多麦克风273，实现采集声音信号，降噪，还可以识别声音来源，实现定向录音功能等。

耳机接口274用于连接有线耳机。耳机接口274可以是USB接口230，也可以是3.5mm的开放移动电子设备平台(Open Mobile Terminal Platform，OMTP)标准接口，美国蜂窝电信工业协会(Cellular Telecommunications Industry Association of the USA，CTIA)标准接口。

深度传感器2801用于获取景物的深度信息。在一些实施方式中，深度传感器可以设置于摄像模组291。

压力传感器2802用于感受压力信号，可以将压力信号转换成电信号。在一些实施方式中，压力传感器2802可以设置于显示屏290。压力传感器2802的种类很多，如电阻式压力传感器，电感式压力传感器，电容式压力传感器等。

陀螺仪传感器2803可以用于确定移动终端200的运动姿态。在一些实施方式中，可以通过陀螺仪传感器2803确定移动终端200围绕三个轴(即，x，y和z轴)的角速度。陀螺仪传感器2803可以用于拍摄防抖。示例性的，当按下快门，陀螺仪传感器2803检测移动终端200抖动的角度，根据角度计算出镜头模组需要补偿的距离，让镜头通过反向运动抵消移动终端200的抖动，实现防抖。陀螺仪传感器2803还可以用于导航，体感游戏场景。

气压传感器2804用于测量气压。在一些实施方式中，移动终端200通过气压传感器2804测得的气压值计算海拔高度，辅助定位和导航。

此外，根据实际需要，还可以在传感器模块280中设置其他功能的传感器，例如磁传感器、加速度传感器、距离传感器、接近光传感器、指纹传感器、温度传感器、触摸传感器、环境光传感器、骨传导传感器等等。

按键294包括开机键，音量键等。按键294可以是机械按键。也可以是触摸式按键。移动终端200可以接收按键输入，产生与移动终端200的用户设置以及功能控制有关的键信号输入。

马达293可以产生振动提示，例如来电、闹钟、接收信息等的振动提示，也可以用于触摸振动反馈，例如作用于不同应用(如拍照、游戏、音频播放等)的触摸操作，或者作用于显示屏290不同区域的触摸操作，可以对应不同的振动反馈效果。触摸振动反馈效果可以支持自定义。

指示器292可以是指示灯，可以用于指示充电状态，电量变化，也可以用于指示消息，未接来电，通知等。

SIM卡接口295用于连接SIM卡。SIM卡可以通过插入SIM卡接口295，或从SIM卡接口295拔出，实现和移动终端200的接触和分离。移动终端200可以支持1个或N个SIM卡接口，N为大于1的正整数。SIM卡接口295可以支持Nano SIM卡，Micro SIM卡，SIM卡等。同一个SIM卡接口295可以同时插入多张卡。多张卡的类型可以相同，也可以不同。SIM卡接口295也可以兼容不同类型的SIM卡。SIM卡接口295也可以兼容外部存储卡。移动终端200通过SIM卡和网络交互，实现通话以及数据通信等功能。在一些实施方式中，移动终端200采用eSIM，即：嵌入式SIM卡。eSIM卡可以嵌在移动终端200中，不能和移动终端200分离。

下面对本公开示例性实施方式的视频处理方法和视频处理装置进行具体说明。

图3示出了本示例性实施方式中视频处理方法的流程，可以包括以下步骤S310至S340：

步骤S310，获取原始视频和参考帧图像。

其中，原始视频可以是初始拍摄的视频，为第一分辨率；参考帧图像可以是在原始视频拍摄过程中采集的一帧或多帧图像，为第二分辨率。第一分辨率低于第二分辨率。需要说明的是，分辨率和像素数均为度量图像/视频清晰度的指标，且两者一般成正比，因而在下文中不做特别区分。

在一种实施方式中，电子设备可以包括第一摄像头和第二摄像头，例如图2所示的移动终端200，其摄像模组291可以配置双摄像头。其中，第一摄像头为第一分辨率，第二摄像头为第二分辨率。步骤S310可以包括：控制第一摄像头采集原始视频，并在第一摄像头采集原始视频的过程中，控制第二摄像头采集参考帧图像。具体而言，在用户拍摄视频的过程中，全程开启第一摄像头，作为主摄像头采集原始视频，同时，间断性开启第二摄像头，采集一帧或多帧的参考帧图像。

在另一种实施方式中，电子设备可以包括四拜耳(Quad Bayer，或称4Cell 1)图像传感器。四拜耳图像传感器是指采用四拜耳滤色阵列的图像传感器。图4中左图示出了标准拜耳滤色阵列，其滤光片的单元阵列排布为GRBG(或BGGR、GBRG、RGGB)，大部分图像传感器采用标准拜耳滤色阵列；图4中右图示出了四拜耳滤色阵列，其滤光片的单元阵列中相邻四个单元为相同颜色。参考图4所示，步骤S310可以具体包括以下步骤S501至S503：

步骤S501，控制四拜耳图像传感器采集基于四拜耳滤色阵列的原始拜耳图像序列；

步骤S502，对原始拜耳图像序列中的每一帧进行像素合并和去马赛克处理，得到原始视频；

步骤S503，对原始拜耳图像序列中的参考帧进行解马赛克处理和去马赛克处理，得到参考帧图像。

其中，拜耳图像是指RAW格式的图像，是图像传感器将采集到的光信号转化为数字信号后的图像数据，在拜耳图像中，每个像素点只有RGB中的一种颜色。本示例性实施方式中，利用四拜耳图像传感器采集视频时，最初得到的每一帧原始图像数据即原始拜耳图像，其像素排列如图1中右图所示，相邻四个像素为相同颜色。原始图像数据按照视频帧排列，即原始拜耳图像序列。

步骤S502的处理过程可以参考图6所示，首先对每一帧原始拜耳图像RAW进行像素“四合一”处理，即把2*2个单元内的同颜色像素合并为一个像素，合并像素后的拜耳图像Q1；再对Q1进行去马赛克(Demosaic)处理，去马赛克是指将拜耳图像处理为完整的RGB图像，这样可以得到RGB格式每一帧图像Frame。

步骤S503的处理过程可以参考图7所示，首先选取参考帧，例如可以每隔固定的帧数选取一帧为参考帧；然后对参考帧的原始拜耳图像RAW进行解马赛克(Remosaic)处理，解马赛克处理是指将基于四拜耳滤色阵列的原始拜耳图像处理为基于标准拜耳滤色阵列的拜耳图像，这样可以得到基于标准拜耳滤色阵列的拜耳图像Q2；对基Q2再进行去马赛克处理，得到RGB格式的参考帧图像Ref。

本示例性实施方式中，解马赛克和去马赛克可以通过不同的插值算法实现，例如线性插值、均值插值等，也可以通过神经网络等其他相关算法实现，本公开对此不做限定。原始视频中的每一帧图像Frame和参考帧图像Ref中，每个像素都具有RGB三个通道的像素值，以C表示。当然也可以根据实际需求，将RGB格式进一步转换为灰度或其他颜色模式。

由图6和图7可见，参考帧图像Ref的像素数为视频中每一帧图像Frame的4倍，即第一分辨率可以是第二分辨率的1/4，例如采用6400万像素的四拜耳图像传感器，在拍摄视频时，通过像素合并后，实际得到的原始视频为1600万像素，通过解马赛克处理得到的参考帧图像可以保留6400万像素。

步骤S320，从原始视频中提取与参考帧图像对应的原始帧图像。

由上可知，参考帧图像和原始视频中的某一帧或多帧具有对应关系，本示例性实施方式中，将这一帧或多帧提取出来，与参考帧图像组成图像对，每一个图像对包括一个参考帧图像和对应的一个原始帧图像。

在一种实施方式中，可以利用帧图像的时间戳，从原始视频中提取与参考帧图像具有相同时间戳的原始帧图像。一般的，参考帧图像的时间戳为绝对时间，即采集参考帧图像的时间；在原始视频中，每一帧图像的时间戳可能为相对时间，即在视频中的时间序列，可以根据原始视频的拍摄时间(一般是开始拍摄时间)，加上相对时间，以计算出每一帧的绝对时间。因此可以找出和参考帧图像的时间戳相同的原始帧图像。

在另一种实施方式中，可以将参考帧图像分别和原始视频中的每一帧图像进行匹配，如果图像内容重合度较高，超过一定的阈值(如95％、98％等)，则判定为相同图像，具有对应关系，从而提取出对应的原始帧图像。

步骤S330，根据参考帧图像和对应的原始帧图像，确定插值参数。

从原始视频中提取的原始帧图像，和原始视频的分辨率相同，即原始帧图像为第一分辨率，因此参考帧图像的分辨率(即第二分辨率)高于原始帧图像。通俗来说，原始帧图像是较为模糊的图像，参考帧图像是较为清晰的图像，两图像的内容是相同。可以将原始帧图像看作是参考帧图像下采样的结果，或者将参考帧图像看作是原始帧图像上采样的结果。根据两图像的像素级差别，确定从原始帧图像插值为参考帧图像的插值参数。

在一种可选的实施方式中，步骤S330可以包括：

对比参考帧图像和对应的原始帧图像的像素值，得到插值矩阵。

其中，插值矩阵包括每个像素位置的插值参数。举例来说，假设第一分辨率为第二分辨率的1/4，即原始帧图像中的一个像素对应于参考帧图像中的四个像素，以Frame(x,y)表示原始帧图像Frame中坐标为(x,y)的像素，其对应于参考帧图像Ref中的四个像素：Ref(2x-1,2y-1)、Ref(2x-1,2y)、Ref(2x,2y-1)、Ref(2x,2y)；用Frame(x,y)的像素值和Ref中的四个像素的像素值分别求差，可以得到2*2的插值参数；将每个像素位置的插值参数按照像素位置排列，可以得到插值矩阵。

在一种可选的实施方式中，当参考帧图像的数量为两个或两个以上时，参考图8所示，步骤S330可以具体包括以下步骤S801至S803：

步骤S801，将每个参考帧图像及其对应的原始帧图像组成参考图像对；

步骤S802，根据每个参考图像对中的参考帧图像与原始帧图像确定参考帧的插值参数；

步骤S803，基于任意相邻两参考帧的插值参数，生成两参考帧之间的插值序列，以得到原始视频对应的插值序列。

举例来说，假设一共有n个参考帧图像，其对应于原始视频中的帧时间戳分别为f1、f2、…、fn，记n个参考帧图像分别为Ref(f1)、Ref(f2)、…、Ref(fn)，其对应的原始帧图像分别为Frame(f1)、Frame(f2)、…、Frame(fn)。将Ref(f1)和Frame(f1)组成一个参考图像对，将Ref(f2)和Frame(f2)组成一个参考图像对，…，将Ref(fn)和Frame(fn)组成一个参考图像对。然后计算每个参考图像对中的插值参数，例如可以通过上述像素值求差的方式，得到参考帧的插值参数，例如Ref(f1)和Frame(f1)计算出的插值参数，为f1帧的插值矩阵，记为Diff(f1)；同理可得Diff(f2)、…、Diff(fn)。除了参考帧以外，原始视频中还有大量的普通帧，如f1和f2之间的帧。可以计算由Diff(f1)到Diff(f2)之间的变化趋势，利用线性插值、多项式插值等方式生成f1和f2之间的普通帧的插值参数，以线性插值为例：

计算f2-f1＝k帧；

对于f1到f2之间的任意帧，以f1+i帧表示(i<k)，其插值矩阵为：

Diff(f1+i)＝Diff(f1)+[Diff(f2)-Diff(f1)]·i/k；

由此可以得到f1到f2之间每一帧的插值参数。同理还可以生成f2到f3之间、…、fn-1到fn之间每一帧的插值参数。即，对于原始视频中的每一帧，得到对应的插值参数，将其按照帧序排列，得到插值序列。若原始视频的总帧数为m，则插值序列中包含m个元素，两者是一一对应的。

步骤S340，利用插值参数对原始视频进行插值，生成目标视频。

本示例性实施方式中，对原始视频进行插值，是指对原始视频中的每一帧图像进行插值，从第一分辨率插值为第二分辨率，等同于对整个视频进行了插值。目标视频为第二分辨率，高于原始视频的第一分辨率，因此实现了视频清晰化的效果。

下面提供几个原始视频插值的实施方式，但下述内容不应对本公开的保护范围造成限定。

(1)如果参考帧图像的数量为1，在步骤S330中，得到一组插值参数，对于原始视频中的每一帧，均采用该插值参数进行插值。

(2)如果参考帧图像的数量≥2，在步骤S330中，得到至少两组插值参数，可以采用分段插值的方式：记参考帧分别为f1、f2、…、fn，对应的插值参数分别为Diff(f1)、Diff(f2)、…、Diff(fn)；对于原始视频中的帧图像，第1帧到第

帧，均采用Diff(f1)进行插值；第

帧到第

帧，均采用Diff(f2)进行插值；…；第

帧到最后一帧，均采用Diff(fn)进行插值。应当理解，上述分段插值是在相邻两参考帧的中点处设置分段的节点，也可以将分段的节点设置在其他位置，例如每个参考帧处等。

(3)如果参考帧图像的数量≥2，通过图8所示的方式生成了插值序列，则利用插值序列对原始视频中的每一帧进行插值，具体而言，用插值序列中的第一个插值参数对原始视频中的第一帧进行插值，第二个插值参数对第二帧进行插值，并以此类推。插值序列中的插值参数较为平滑，采用这种插值方式可以保证目标视频中相邻两帧之间的平滑性，防止画面突变的情况。

在一种可选的实施方式中，在用户拍摄视频时，可以采集并存储原始视频和参考帧图像，例如存储到电子设备的非易失性存储中(如手机的内存卡)。此后，响应于用户输入视频播放指令，生成并播放目标视频。其中，视频播放指令是指用户点击(或触摸等其他方式)播放原始视频的操作，电子设备通过执行本示例性实施方式的视频处理方法，由原始视频和参考帧图像生成目标视频，然后播放目标视频。这样无需存储数据量较大的目标视频，每次播放时通过软件还原出目标视频并进行播放显示，节约存储资源。

图9示出了视频处理方法的示意性流程。如图9所示，分别获取原始视频和参考帧图像，原始视频的分辨率低于参考帧图像，参考帧图像对应于原始视频中的参考帧f1、f2等；从原始视频中提取参考帧图像对应的原始帧图像，形成参考图像对；对每个参考图像对，计算插值参数，得到参考帧的插值参数Diff(f1)、Diff(f2)、…、Diff(fn)；然后根据相邻参考帧的关系，生成插值序列，包含每一帧对应的插值参数Diff(1)、Diff(2)、…、Diff(m)；利用插值序列对原始视频进行插值，得到目标视频。

综上所述，本示例性实施方式中，获取原始视频和参考帧图像，从原始视频中提取与参考帧图像对应的原始帧图像，根据参考帧图像和对应的原始帧图像确定插值参数，并利用插值参数对原始视频进行插值，生成目标视频。一方面，在采集视频的过程中，采用较低的第一分辨率，可以减少视频噪点问题，后期通过插值生成第二分辨率的目标视频，可以提高视频的分辨率和清晰度，从而实现高质量的视频拍摄。另一方面，本方案为软件算法的实现过程，无需对硬件配置进行改进，应用成本较低，实用性较高。

在本公开的一些实施方式中，采用低分辨率的摄像头拍摄视频，采用高分辨率的摄像头拍摄参考帧图像，通过插值得到目标视频，等同于高分辨率摄像头拍摄的视频，发挥了高分辨率摄像头的优势，并且改善了噪点问题，此外还降低了高分辨率摄像头长时间开启所带来的功耗，用户体验较好。

图10示出本示例性实施方式的视频处理装置。如图10所示，该视频处理装置1000可以包括：

获取模块1010，用于获取原始视频和参考帧图像，原始视频为第一分辨率，参考帧图像为第二分辨率，第一分辨率低于第二分辨率；

原始帧提取模块1020，用于从原始视频中提取与参考帧图像对应的原始帧图像；

插值参数确定模块1030，用于根据参考帧图像和对应的原始帧图像，确定插值参数；

目标视频生成模块1040，用于利用插值参数对原始视频进行插值，生成目标视频，目标视频为第二分辨率。

在一种可选的实施方式中，视频处理装置1000可以配置于电子设备，该电子设备包括第一摄像头和第二摄像头，第一摄像头为第一分辨率，第二摄像头为第二分辨率。获取模块1010，用于控制第一摄像头采集原始视频，并在第一摄像头采集原始视频的过程中，控制第二摄像头采集参考帧图像。

在一种可选的实施方式中，视频处理装置1000可以配置于电子设备，该电子设备包括四拜耳图像传感器。获取模块1010，用于控制四拜耳图像传感器采集基于四拜耳滤色阵列的原始拜耳图像序列，对原始拜耳图像序列中的每一帧进行像素合并和去马赛克处理，得到原始视频，以及对原始拜耳图像序列中的参考帧进行解马赛克处理和去马赛克处理，得到参考帧图像。

在一种可选的实施方式中，原始帧提取模块1020，用于从原始视频中提取与参考帧图像具有相同时间戳的原始帧图像。

在一种可选的实施方式中，插值参数确定模块1030，用于对比参考帧图像和对应的原始帧图像的像素值，得到插值矩阵，插值矩阵包括每个像素位置的插值参数。

在一种可选的实施方式中，插值参数确定模块1030可以包括：

参考图像对生成单元，用于将每个参考帧图像及其对应的原始帧图像组成参考图像对；

插值参数确定单元，用于根据每个参考图像对中的参考帧图像与原始帧图像确定参考帧的插值参数；

插值序列生成单元，用于基于任意相邻两参考帧的插值参数，生成两参考帧之间的插值序列，以得到原始视频对应的插值序列。

在一种可选的实施方式中，获取模块1010，还用于存储原始视频和参考帧图像；目标视频生成模块1040，还用于响应于用户输入视频播放指令，生成并播放目标视频。

上述装置中各模块/单元的具体细节在方法部分实施方式中已经详细说明，未披露的细节内容可以参见方法部分的实施方式内容，因而不再赘述。

所属技术领域的技术人员能够理解，本公开的各个方面可以实现为系统、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

本公开的示例性实施方式还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤，例如可以执行图3、图5或图8中任意一个或多个步骤。

参考图7所示，描述了根据本公开的示例性实施方式的用于实现上述方法的程序产品700，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本公开的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施方式。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施方式仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。

Claims (10)

1.一种视频处理方法，其特征在于，包括：

获取原始视频和参考帧图像，所述原始视频为第一分辨率，所述参考帧图像为第二分辨率，所述第一分辨率低于所述第二分辨率；

从所述原始视频中提取与所述参考帧图像对应的原始帧图像；

根据所述参考帧图像和对应的所述原始帧图像，确定插值参数；

利用所述插值参数对所述原始视频进行插值，生成目标视频，所述目标视频为所述第二分辨率；

其中，所述根据所述参考帧图像和对应的所述原始帧图像，确定插值参数，包括：

对比所述参考帧图像和对应的所述原始帧图像的像素值，得到插值矩阵，所述插值矩阵包括每个像素位置的插值参数。

2.根据权利要求1所述的方法，其特征在于，所述方法应用于电子设备，所述电子设备包括第一摄像头和第二摄像头，所述第一摄像头为第一分辨率，所述第二摄像头为第二分辨率；

所述获取原始视频和参考帧图像，包括：

控制所述第一摄像头采集原始视频，并在所述第一摄像头采集原始视频的过程中，控制所述第二摄像头采集参考帧图像。

3.根据权利要求1所述的方法，其特征在于，所述方法应用于电子设备，所述电子设备包括四拜耳图像传感器；

所述获取原始视频和参考帧图像，包括：

控制所述四拜耳图像传感器采集基于四拜耳滤色阵列的原始拜耳图像序列；

对所述原始拜耳图像序列中的每一帧进行像素合并和去马赛克处理，得到所述原始视频；

对所述原始拜耳图像序列中的参考帧进行解马赛克处理和去马赛克处理，得到所述参考帧图像。

4.根据权利要求1所述的方法，其特征在于，所述从所述原始视频中提取与所述参考帧图像对应的原始帧图像，包括：

从所述原始视频中提取与所述参考帧图像具有相同时间戳的原始帧图像。

5.根据权利要求1所述的方法，其特征在于，所述从所述原始视频中提取与所述参考帧图像对应的原始帧图像，包括：

将所述参考帧图像与所述原始视频中的每一帧图像计算图像内容重合度，若所述图像内容重合度超过预定的阈值，则从所述原始视频中提取所述图像内容重合度对应的图像，以作为所述参考帧图像对应的原始帧图像。

6.根据权利要求1所述的方法，其特征在于，所述参考帧图像的数量为两个或两个以上；所述根据所述参考帧图像和对应的所述原始帧图像，确定插值参数，包括：

将每个所述参考帧图像及其对应的所述原始帧图像组成参考图像对；

根据每个参考图像对中的参考帧图像与原始帧图像确定参考帧的插值参数；

基于任意相邻两参考帧的插值参数，生成所述两参考帧之间的插值序列，以得到所述原始视频对应的插值序列。

7.根据权利要求1至6任一项所述的方法，其特征在于，所述方法还包括：

存储所述原始视频和所述参考帧图像；

响应于用户输入视频播放指令，生成并播放所述目标视频。

8.一种视频处理装置，其特征在于，包括：

获取模块，用于获取原始视频和参考帧图像，所述原始视频为第一分辨率，所述参考帧图像为第二分辨率，所述第一分辨率低于所述第二分辨率；

原始帧提取模块，用于从所述原始视频中提取与所述参考帧图像对应的原始帧图像；

插值参数确定模块，用于根据所述参考帧图像和对应的所述原始帧图像，确定插值参数；

目标视频生成模块，用于利用所述插值参数对所述原始视频进行插值，生成目标视频，所述目标视频为所述第二分辨率；

其中，所述根据所述参考帧图像和对应的所述原始帧图像，确定插值参数，包括：

对比所述参考帧图像和对应的所述原始帧图像的像素值，得到插值矩阵，所述插值矩阵包括每个像素位置的插值参数。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7任一项所述的方法。

10.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1至7任一项所述的方法。

Images