CN112437341A - 一种视频流处理方法及电子设备 - Google Patents

Abstract

本申请涉及分布式硬件能力、视频技术领域，具体涉及一种视频流处理方法及电子设备。所述方法包括：电子设备在第一进程下从远端的第一设备接收视频流；所述电子设备在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据；所述电子设备在所述第一进程下向运行在所述电子设备上的第二进程传递所述第一图像数据的副本或者，将所述第一图像数据的副本转换为第二图像数据，并向运行在所述电子设备上的第二进程传递所述第二图像数据。

Description

一种视频流处理方法及电子设备

技术领域

本申请涉及分布式硬件能力、视频技术领域电子设备技术领域，具体涉及一种视频流处理方法及电子设备。

背景技术

在当前互联互通、数据融合的时代，经常会出现需要把应用(application，APP)A的从其他设备获取的数据共享给同一终端上应用B，使得应用B可以把数据分享给其他设备的场景。例如，参阅图3，用户A和用户B正在通过视频电话应用正在进行视频电话，用户A想要把通过无人机厂商提供的应用接收的无人机拍摄的画面，共享给视频电话应用，使得用户B可以通过视频电话应用看到该无人机拍摄的画面。再例如，用户C和用户D正在通过即时通讯应用(例如微信等)正在进行视频通话，用户C想要把通过监控摄像头厂商提供的APP获取的监控摄像头拍摄的画面，共享给即时通讯应用，使得用户B可以通过视频电话应用看到该无人机拍摄的画面。

根据一种方案，参阅图4，在终端同过应用A将从无人机或监控摄像头拍摄的画面对应视频流数据解码后，将解码得到视频数据分别用于渲染显示和格式转换。其中，格式转换后的视频数据传递给应用B。

一般而言，应用A如要完成解码得到的视频数据的格式转换，需要在其安装包集成视频格式转换工具包，使得安装包体积增大。另外，视频格式转换工具包一般有C++语言实现，需要运行在中央处理器(central processing unit，CPU)。而对于安卓系统下的应用，其由java实现。因此，在进行视频数据的格式转换时，需要从java--》C++--》java，转换效率不高，并且功耗较大。

发明内容

本申请实施例提供了一种视频流处理方法及电子设备，可以利用第一进程渲染后的图像数据除了用于显示外，进行不同进程间数据共享，节省了因对未渲染的视频数据进行格式转换而导致的系统功耗。

第一方面，本申请实施例提供了一种视频流处理方法，所述方法包括：电子设备在第一进程下从远端的第一设备接收视频流；所述电子设备在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据；所述电子设备在所述第一进程下向运行在所述电子设备上的第二进程传递所述第一图像数据的副本，或者，将所述第一图像数据的副本转换为第二图像数据，并向运行在所述电子设备上的第二进程传递所述第二图像数据。

结合第一方面，在第一方面第一种可能的实现方式中，所述电子设备在所述第一进程下向运行在所述电子设备上的第二进程传递所述第一图像数据的副本，或者，将所述第一图像数据的副本转换为第二图像数据，并向运行在所述电子设备上的第二进程传递所述第二图像数据包括：所述电子设备在所述第一进程下向第一共享内存写入所述第一图像数据的副本或所述第二图像数据，以使所述电子设备在第二进程下从所述第一共享内存中读取所述第一图像数据的副本或所述第二图像数据，其中，所述第一共享内存是映射到所述第一进程的地址空间和所述第二进程的地址空间的共享内存。

在该实现方式中，第一进程和第二进程通过共享内存进行通信，提高了传输效率。

结合第一方面第一种可能的实现方式，在第一方面第二种可能的实现方式中，所述方法还包括：所述电子设备在第二进程下在内存中创建所述第一共享内存；所述电子设备在第二进程下将所述第一共享内存的地址发送给所述第一进程，以使建立所述第一进程的地址空间和所述第一共享内存之间的映射。

在该实现方式中，第二进程可以创建共享内存，并将共享内存的地址发送给第一进程，从而可以建立述第一进程的地址空间和第一共享内存之间的映射，从而建立第一进程和第二进程的共享内存。

结合第一方面第一种可能的实现方式，在第一方面第三种可能的实现方式中，所述方法还包括：当所述第一图像数据的副本或所述第二图像数据写入到所述第一共享内存中时，所述第一进程向所述第二进程发送读取通知，以使所述第二进程从所述第一共享内存中读取所述第一图像数据的副本或所述第二图像数据。

在该实现方式中，在第一进程将相关数据写入到共享内存时，可以通知第二进程，使得第二进程可及时读取共享内存中的数据，实现了第一进程和第二进程之间的数据高效传递。

结合第一方面，在第一方面第四种可能的实现方式中，所述电子设备配置有图形处理器；所述电子设备在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据包括：所述电子设备在所述第一进程下将所述视频流解码为至少一帧视频数据；所述电子设备在所述第一进程下使用所述图形处理器渲染所述至少一帧视频数据中的第一视频数据，以得到所述第一图像数据。

在该实现方式中，可以实现图像处理器解码并渲染视频流，得到可显示的图像数据，提高了渲染视频数据的效率。

结合第一方面第四种可能的实现方式，在第一方面第五种可能的实现方式中，所述第二图像数据为所述电子设备对所述第一图像数据的副本进行图像格式转换得到的图像数据。

在该实现方式中，可以对渲染得到的图像数据进行格式转换，以得到适合于第二进程的图像数据。

结合第一方面第五种可能的实现方式，在第一方面第六种可能的实现方式中，所述电子设备配置有图形处理器；所述方法还包括：所述电子设备向显存中的第一缓冲空间写入所述第一图像数据的副本，以使所述电子设备使用所述图像处理器对所述第一图像数据的副本进行图像格式转换，得到所述第二图像数据。

在该实现方式中，可利用图形处理器并行计算能力对可显示的图像数据进行格式转换，提升了格式转换的效率，并且降低了CPU的负载，减少了系统功耗。

结合第一方面，在第一方面第七种可能的实现方式中，所述第一图像数据对应的图像格式为ARGB格式或RGB格式；所述第二图像数据对应的图像格式为YUV格式。

在该实现方式中，可显示的图像数据的图像格式为ARGB格式或RGB格式，可得到较佳的画面显示效果；并且，可将ARGB格式或RGB格式的图像数据转换为YUV格式的图像数据，当第二进程向其他设备发送的图像数据时，可以减少传输的数据量，节省网络开销。

结合第一方面，在第一方面第八种可能的实现方式中，所述方法还包括：所述电子设备在显示屏上显示所述第一图像数据。

在该实现方式中，处理得到的可显示的图像数据即可用于在显示屏上显示，也可以传递给第二进程，提高了可显示的图像数据的利用率，降低CPU负载，降低系统功耗。

结合第一方面，在第一方面第九种可能的实现方式中，所述第一进程为第一应用对应的进程；所述第一设备为所述第一应用对应的摄像头或所述第一应用对应的云端服务器，所述第一应用视频监控类应用或无人机对应的应用；所述第二进程为即时通讯应用对应的进程或所述电子设备的系统进程。

在该实现方式中，可实现了在不同进程间共享从云端服务器或摄像头获取的视频流对应的图像数据，进而使得用户可向其他用户分享摄像头拍摄的画面。

结合第一方面，在第一方面第十种可能的实现方式中，所述方法还包括：所述电子设备在所述第二进程下向第三设备发送所述第一图像数据的副本或所述第二图像数据。

在该实现方式中，第二进程在从第一进程获取了图像数据后，可以向其他电子设备发送该图像数据，从而可实现在不同设备间分享显示画面。

结合第一方面，在第一方面第十一种可能的实现方式中，所述方法还包括：当所述电子设备在所述第一进程下向运行在所述电子设备上的第二进程传递所述第一图像数据的副本时，所述电子设备在所述第二进程下将所述第一图像数据的副本转换为第二图像数据。

在该实现方式中，第二进程在获取了第一进程渲染的图像数据后，可以对该图像数据进行转换，以得到满足第二进程对图像数据的格式的要求。

结合第一方面，在第一方面第十二种可能的实现方式中，所述视频流为加密视频流；所述电子设备在所述第一进程下处理所述视频流，以得到可用于显示的第一图像数据包括：所述电子设备在所述第一进程下解密所述加密视频流。

在该实现方式中，视频流为加密视频流，从而避免了信息的泄露或减少了信息的泄露的可能性。

第二方面，本申请实施例提供了一种视频流处理方法，所述方法包括：电子设备在第一进程下从远端的第一设备接收视频流；所述电子设备在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据；所述电子设备在所述第一进程下向其他电子设备发送所述第一图像数据的副本或，将所述第一图像数据的副本转换为第二图像数据，并向其他电子设备发送所述第二图像数据。

第三方面，本申请实施例提供了一种视频流处理装置，所述装置包括：

接收单元，用于在第一进程下从远端的第一设备接收视频流；

解码并渲染单元，用于在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据；

传递单元，用于在所述第一进程下向第二进程传递所述第一图像数据的副本，或者，将所述第一图像数据的副本转换为第二图像数据，并向第二进程传递所述第二图像数据。

第四方面，本申请实施例提供了一种视频流处理装置，所述装置包括：

接收单元，用于在第一进程下从远端的第一设备接收视频流；

解码并渲染单元，用于在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据；

发送单元，用于在所述第一进程下向其他电子设备发送所述第一图像数据的副本或，将所述第一图像数据的副本转换为第二图像数据，并向其他电子设备发送所述第二图像数据。

第五方面，本申请实施例提供了一种电子设备，包括处理器、存储器、收发器；其中，所述存储器用于存储计算机执行指令；当所述电子设备运行时，所述处理器执行所述存储器存储的所述计算机执行指令，以使所述电子设备执行第一方面所述的方法或第二方面所述的方法。

第六方面，本申请实施例提供了一种计算机存储介质，所述计算机存储介质包括计算机指令，当所述计算机指令在电子设备上运行时，使得所述电子设备执行第一方面所述的方法或第二方面所述的方法。

第七方面，本申请实施例提供了一种计算机程序产品，所述计算机程序产品包含的程序代码被电子设备中的处理器执行时，实现第一方面所述的方法或第二方面所述的方法。

通过本申请实施例可以将渲染后的可显示的图像数据传递给其他进程，从而实现了在向其他进程传递图像数据时，无须对未渲染的视频数据进行格式转换，降低了CPU的负载以及系统功耗；并且，可以将渲染后的可显示的图像数据转换为其他格式的图像，例如YUV格式的图像，相比将未渲染的视频数据转换为YUV格式的图像数据，将可显示的图像数据转换为YUV格式的图像数据，无须利用视频格式转换工具包，从而在图像格式转换时无须进行java--》C++--》java等一系列的转换，图像格式转换的速度快、系统功耗消耗低。

附图说明

图1为本申请实施例提供的一种电子设备的硬件结构示意图；

图2为本申请实施例提供的一种电子设备的软件结构框图；

图3为本申请实施例提供的一种视频流处理方法的应用场景示意图

图4为一种视频流处理方法流程图；

图5为本申请实施例提供的一种视频流处理方法流程图；

图6为本申请实施例提供的一种视频流处理方法流程图；

图7为本申请实施例提供的一种视频流处理装置示意性框图；

图8为本申请实施例提供的一种电子设备的示意性框图。

具体实施方式

下面将结合附图，对本发明实施例中的技术方案进行描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。

在本说明书的描述中“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。

其中，在本说明书的描述中，除非另有说明，“/”表示或的意思，例如，A/B可以表示A或B；本文中的“和/或”仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，在本申请实施例的描述中，“多个”是指两个或多于两个。

在本说明书的描述中，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。

本申请实施例的视频流处理方法可以应用于电子设备。电子设备可以为手机、平板电脑、数码相机、个人数字助理(personal digitalassistant，PDA)、可穿戴设备、膝上型计算机(laptop)等便携式电子设备。便携式电子设备的示例性实施例包括但不限于搭载iOS、android、microsoft或者其他操作系统的便携式电子设备。上述便携式电子设备也可以是其他便携式电子设备，诸如具有触敏表面(例如触控面板)的膝上型计算机(laptop)等。还应当理解的是，在本申请其他一些实施例中，电子设备也可以不是便携式电子设备，而是具有触敏表面(例如触控面板)的台式计算机。本申请实施例对电子设备的类型不做具体限定。

图1示出了电子设备100的结构示意图。

电子设备100可以包括处理器110，外部存储器接口120，内部存储器121，通用串行总线(universal serial bus，USB)接口130，充电管理模块140，电源管理模块141，电池142，天线1，天线2，移动通信模块150，无线通信模块160，音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，传感器模块180，按键190，马达191，指示器192，摄像头193，显示屏194，以及用户标识模块(subscriber identification module，SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A，陀螺仪传感器180B，气压传感器180C，磁传感器180D，加速度传感器180E，距离传感器180F，接近光传感器180G，指纹传感器180H，温度传感器180J，触摸传感器180K，环境光传感器180L，骨传导传感器180M等。

可以理解的是，本发明实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中，电子设备100可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件，软件或软件和硬件的组合实现。

处理器110可以包括一个或多个处理单元，例如：处理器110可以包括应用处理器(application processor，AP)，调制解调处理器，图形处理器(graphics processingunit，GPU)，图像信号处理器(image signal processor，ISP)，控制器，视频编解码器，数字信号处理器(digital signal processor，DSP)，基带处理器，和/或神经网络处理器(neural-network processing unit，NPU)等。其中，不同的处理单元可以是独立的器件，也可以集成在一个或多个处理器中。

控制器可以根据指令操作码和时序信号，产生操作控制信号，完成取指令和执行指令的控制。

处理器110中还可以设置存储器，用于存储指令和数据。在一些实施例中，处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据，可从所述存储器中直接调用。避免了重复存取，减少了处理器110的等待时间，因而提高了系统的效率。

在一些实施例中，处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit，I2C)接口，集成电路内置音频(inter-integrated circuitsound，I2S)接口，脉冲编码调制(pulse code modulation，PCM)接口，通用异步收发传输器(universal asynchronous receiver/transmitter，UART)接口，移动产业处理器接口(mobile industry processor interface，MIPI)，通用输入输出(general-purposeinput/output，GPIO)接口，用户标识模块(subscriber identity module，SIM)接口，和/或通用串行总线(universal serial bus，USB)接口等。

I2C接口是一种双向同步串行总线，包括一根串行数据线(serial data line，SDA)和一根串行时钟线(derail clock line，SCL)。在一些实施例中，处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K，充电器，闪光灯，摄像头193等。例如：处理器110可以通过I2C接口耦合触摸传感器180K，使处理器110与触摸传感器180K通过I2C总线接口通信，实现电子设备100的触摸功能。

I2S接口可以用于音频通信。在一些实施例中，处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合，实现处理器110与音频模块170之间的通信。在一些实施例中，音频模块170可以通过I2S接口向无线通信模块160传递音频信号，实现通过蓝牙耳机接听电话的功能。

PCM接口也可以用于音频通信，将模拟信号抽样，量化和编码。在一些实施例中，音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中，音频模块170也可以通过PCM接口向无线通信模块160传递音频信号，实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。

UART接口是一种通用串行数据总线，用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中，UART接口通常被用于连接处理器110与无线通信模块160。例如：处理器110通过UART接口与无线通信模块160中的蓝牙模块通信，实现蓝牙功能。在一些实施例中，音频模块170可以通过UART接口向无线通信模块160传递音频信号，实现通过蓝牙耳机播放音乐的功能。

MIPI接口可以被用于连接处理器110与显示屏194，摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface，CSI)，显示屏串行接口(displayserial interface，DSI)等。在一些实施例中，处理器110和摄像头193通过CSI接口通信，实现电子设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信，实现电子设备100的显示功能。

GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号，也可被配置为数据信号。在一些实施例中，GPIO接口可以用于连接处理器110与摄像头193，显示屏194，无线通信模块160，音频模块170，传感器模块180等。GPIO接口还可以被配置为I2C接口，I2S接口，UART接口，MIPI接口等。

USB接口130是符合USB标准规范的接口，具体可以是Mini USB接口，Micro USB接口，USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电，也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机，通过耳机播放音频。该接口还可以用于连接其他电子设备，例如AR设备等。

可以理解的是，本发明实施例示意的各模块间的接口连接关系，只是示意性说明，并不构成对电子设备100的结构限定。在本申请另一些实施例中，电子设备100也可以采用上述实施例中不同的接口连接方式，或多种接口连接方式的组合。

充电管理模块140用于从充电器接收充电输入。其中，充电器可以是无线充电器，也可以是有线充电器。在一些有线充电的实施例中，充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中，充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时，还可以通过电源管理模块141为电子设备供电。

电源管理模块141用于连接电池142，充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入，为处理器110，内部存储器121，显示屏194，摄像头193，和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量，电池循环次数，电池健康状态(漏电，阻抗)等参数。在其他一些实施例中，电源管理模块141也可以设置于处理器110中。在另一些实施例中，电源管理模块141和充电管理模块140也可以设置于同一个器件中。

电子设备100的无线通信功能可以通过天线1，天线2，移动通信模块150，无线通信模块160，调制解调处理器以及基带处理器等实现。

天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用，以提高天线的利用率。例如：可以将天线1复用为无线局域网的分集天线。在另外一些实施例中，天线可以和调谐开关结合使用。

移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器，开关，功率放大器，低噪声放大器(low noise amplifier，LNA)等。移动通信模块150可以由天线1接收电磁波，并对接收的电磁波进行滤波，放大等处理，传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大，经天线1转为电磁波辐射出去。在一些实施例中，移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中，移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。

调制解调处理器可以包括调制器和解调器。其中，调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后，被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A，受话器170B等)输出声音信号，或通过显示屏194显示图像或视频。在一些实施例中，调制解调处理器可以是独立的器件。在另一些实施例中，调制解调处理器可以独立于处理器110，与移动通信模块150或其他功能模块设置在同一个器件中。

无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks，WLAN)(如无线保真(wireless fidelity，Wi-Fi)网络)，蓝牙(bluetooth，BT)，全球导航卫星系统(global navigation satellite system，GNSS)，调频(frequency modulation，FM)，近距离无线通信技术(near field communication，NFC)，红外技术(infrared，IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波，将电磁波信号调频以及滤波处理，将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号，对其进行调频，放大，经天线2转为电磁波辐射出去。

在一些实施例中，电子设备100的天线1和移动通信模块150耦合，天线2和无线通信模块160耦合，使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications，GSM)，通用分组无线服务(general packet radio service，GPRS)，码分多址接入(codedivision multiple access，CDMA)，宽带码分多址(wideband code division multipleaccess，WCDMA)，时分码分多址(time-division code division multiple access，TD-SCDMA)，长期演进(long term evolution，LTE)，第五代，新空口(new radio，NR)，BT，GNSS，WLAN，NFC，FM，和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioningsystem，GPS)，全球导航卫星系统(global navigation satellite system，GLONASS)，北斗卫星导航系统(beidou navigation satellite system，BDS)，准天顶卫星系统(quasi-zenith satellite system，QZSS)和/或星基增强系统(satellite based augmentationsystems，SBAS)。

电子设备100通过GPU，显示屏194，以及应用处理器等实现显示功能。GPU为图像处理的微处理器，连接显示屏194和应用处理器。GPU用于执行数学和几何计算，用于图形渲染。处理器110可包括一个或多个GPU，其执行程序指令以生成或改变显示信息。

显示屏194用于显示图像，视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display，LCD)，有机发光二极管(organic light-emittingdiode，OLED)，有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的，AMOLED)，柔性发光二极管(flex light-emittingdiode，FLED)，Miniled，MicroLed，Micro-oLed，量子点发光二极管(quantum dot lightemitting diodes，QLED)等。在一些实施例中，电子设备100可以包括1个或N个显示屏194，N为大于1的正整数。

在本申请的一些实施例中，当显示面板采用OLED、AMOLED、FLED等材料时，显示屏194可以被弯折，即电子设备100可以配置有可折叠显示屏。这里，显示屏194可以被弯折是指显示屏可以在固定部位或者任意部位被弯折到任意角度，并可以在该角度保持。可折叠显示屏具有两种模式：展开状态和折叠状态。其中，可折叠显示屏弯折时形成的弯折角度大于预设值时可看作处于展开状态，可折叠显示屏弯折时形成的弯折角度小于预设值时可看作处于折叠状态。弯折角度可以是指可折叠屏不用于显示内容的一面在弯折部位形成的角度。预设值可以预先定义，例如可以为90度、80度等。在一些实施例中，可折叠显示屏的弯折位置处可以设置有角度传感器，电子设备可以通过该角度传感器检测该弯折角度，并可根据该弯折角度判断可折叠显示屏是处于展开状态或者折叠状态。

可折叠显示屏处于展开状态时，可以全屏显示电子设备的操作系统所提供的用户界面。全屏显示用户界面可以是指该用户界面占用可折叠显示屏的全部显示区域，也可以是指用户界面占用显示屏的大部分显示区域，例如当可折叠显示屏为异形切割屏(Notch屏)时，异形切割屏的中间部分显示该用户界面，一侧或两侧边缘部分黑屏时，也可看作该可折叠显示屏全屏显示该用户界面。

可折叠显示屏处于折叠状态时，电子设备可以仅在该可折叠显示屏的其中一个显示屏上显示操作系统所提供的用户界面，也可以在该可折叠显示屏的两个显示屏上都显示电子设备的操作系统提供的用户界面，本申请实施例不做限制。

在一些实施例中，当可折叠显示屏由展开状态变换为折叠状态时，电子设备可以从在可折叠显示屏上全屏显示用户界面变换为在该可折叠显示屏上的其中一个显示屏上显示该用户界面。

在本申请的另一些实施例中，电子设备100可以配置有两个独立的显示屏，两个显示屏分别位于电子设备100的两面。当电子设备100配置有两个显示屏时，该两个显示屏可以具有相同的配置，也可以具有不同的配置。例如，该两个显示屏可以采用相同或不同的材料，可以具有相同或不同的屏幕尺寸，比如，一个显示屏是6英寸的OLED屏幕，一个显示屏是3.3英寸的LCD屏幕，本申请实施例不做限制。

电子设备100可以通过ISP，摄像头193，视频编解码器，GPU，显示屏194以及应用处理器等实现拍摄功能。

ISP用于处理摄像头193反馈的数据。例如，拍照时，打开快门，光线通过镜头被传递到摄像头感光元件上，光信号转换为电信号，摄像头感光元件将所述电信号传递给ISP处理，转化为肉眼可见的图像。ISP还可以对图像的噪点，亮度，肤色进行算法优化。ISP还可以对拍摄场景的曝光，色温等参数优化。在一些实施例中，ISP可以设置在摄像头193中。

摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device，CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor，CMOS)光电晶体管。感光元件把光信号转换成电信号，之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB，YUV等格式的图像信号。在一些实施例中，电子设备100可以包括1个或N个摄像头193，N为大于1的正整数。

数字信号处理器用于处理数字信号，除了可以处理数字图像信号，还可以处理其他数字信号。例如，当电子设备100在频点选择时，数字信号处理器用于对频点能量进行傅里叶变换等。

视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样，电子设备100可以播放或录制多种编码格式的视频，例如：动态图像专家组(moving picture experts group，MPEG)1，MPEG2，MPEG3，MPEG4等。

NPU为神经网络(neural-network，NN)计算处理器，通过借鉴生物神经网络结构，例如借鉴人脑神经元之间传递模式，对输入信息快速处理，还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用，例如：图像识别，人脸识别，语音识别，文本理解等。

外部存储器接口120可以用于连接外部存储卡，例如Micro SD卡，实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信，实现数据存储功能。例如将音乐，视频等文件保存在外部存储卡中。

内部存储器121可以用于存储计算机可执行程序代码，所述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中，存储程序区可存储操作系统，至少一个功能所需的应用程序(比如声音播放功能，图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据，电话本等)等。此外，内部存储器121可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件，闪存器件，通用闪存存储器(universal flash storage，UFS)等。处理器110通过运行存储在内部存储器121的指令，和/或存储在设置于处理器中的存储器的指令，执行电子设备100的各种功能应用以及数据处理。

电子设备100可以通过音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，以及应用处理器等实现音频功能。例如音乐播放，录音等。

音频模块170用于将数字音频信息转换成模拟音频信号输出，也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中，音频模块170可以设置于处理器110中，或将音频模块170的部分功能模块设置于处理器110中。

扬声器170A，也称“喇叭”，用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐，或收听免提通话。

受话器170B，也称“听筒”，用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时，可以通过将受话器170B靠近人耳接听语音。

麦克风170C，也称“话筒”，“传声器”，用于将声音信号转换为电信号。当拨打电话或发送语音信息时，用户可以通过人嘴靠近麦克风170C发声，将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中，电子设备100可以设置两个麦克风170C，除了采集声音信号，还可以实现降噪功能。在另一些实施例中，电子设备100还可以设置三个，四个或更多麦克风170C，实现采集声音信号，降噪，还可以识别声音来源，实现定向录音功能等。

耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130，也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform，OMTP)标准接口，美国蜂窝电信工业协会(cellular telecommunications industry association of the USA，CTIA)标准接口。

压力传感器180A用于感受压力信号，可以将压力信号转换成电信号。在一些实施例中，压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多，如电阻式压力传感器，电感式压力传感器，电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A，电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194，电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中，作用于相同触摸位置，但不同触摸操作强度的触摸操作，可以对应不同的操作指令。例如：当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时，执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时，执行新建短消息的指令。在一些实施例中，压力传感器180A可以检测到用户的手指接触显示屏194的检测信号而确定手指接触显示屏194的接触面积和接触区域，进而可以确定手指是否夹在折叠形态下的电子设备100之间。

陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中，可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即，x，y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的，当按下快门，陀螺仪传感器180B检测电子设备100抖动的角度，根据角度计算出镜头模组需要补偿的距离，让镜头通过反向运动抵消电子设备100的抖动，实现防抖。陀螺仪传感器180B还可以用于导航，体感游戏场景。

气压传感器180C用于测量气压。在一些实施例中，电子设备100通过气压传感器180C测得的气压值计算海拔高度，辅助定位和导航。

磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中，当电子设备100是翻盖机时，电子设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态，设置翻盖自动解锁等特性。

加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态，应用于横竖屏切换，计步器等应用。

距离传感器180F，用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中，拍摄场景，电子设备100可以利用距离传感器180F测距以实现快速对焦。

接近光传感器180G可以包括例如发光二极管(LED)和光检测器，例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时，可以确定电子设备100附近有物体。当检测到不充分的反射光时，电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180G检测用户手持电子设备100贴近耳朵通话，以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式，口袋模式自动解锁与锁屏。

环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合，检测电子设备100是否在口袋里，以防误触。

指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁，访问应用锁，指纹拍照，指纹接听来电等。

温度传感器180J用于检测温度。在一些实施例中，电子设备100利用温度传感器180J检测的温度，执行温度处理策略。例如，当温度传感器180J上报的温度超过阈值，电子设备100执行降低位于温度传感器180J附近的处理器的性能，以便降低功耗实施热保护。在另一些实施例中，当温度低于另一阈值时，电子设备100对电池142加热，以避免低温导致电子设备100异常关机。在其他一些实施例中，当温度低于又一阈值时，电子设备100对电池142的输出电压执行升压，以避免低温导致的异常关机。

触摸传感器180K，也称“触控器件”。触摸传感器180K可以设置于显示屏194，由触摸传感器180K与显示屏194组成触摸屏，也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器，以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中，触摸传感器180K也可以设置于电子设备100的表面，与显示屏194所处的位置不同。

骨传导传感器180M可以获取振动信号。在一些实施例中，骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏，接收血压跳动信号。在一些实施例中，骨传导传感器180M也可以设置于耳机中，结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号，解析出语音信号，实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息，实现心率检测功能。

按键190包括开机键，音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入，产生与电子设备100的用户设置以及功能控制有关的键信号输入。

马达191可以产生振动提示。马达191可以用于来电振动提示，也可以用于触摸振动反馈。例如，作用于不同应用(例如拍照，音频播放等)的触摸操作，可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作，马达191也可对应不同的振动反馈效果。不同的应用场景(例如：时间提醒，接收信息，闹钟，游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。

指示器192可以是指示灯，可以用于指示充电状态，电量变化，也可以用于指示消息，未接来电，通知等。

SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195，或从SIM卡接口195拔出，实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口，N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡，Micro SIM卡，SIM卡等。同一个SIM卡接口195可以同时插入多张卡。所述多张卡的类型可以相同，也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备100通过SIM卡和网络交互，实现通话以及数据通信等功能。在一些实施例中，电子设备100采用eSIM，即：嵌入式SIM卡。eSIM卡可以嵌在电子设备100中，不能和电子设备100分离。

电子设备100的软件系统可以采用分层架构，事件驱动架构，微核架构，微服务架构，或云架构。本发明实施例以分层架构的Android系统为例，示例性说明电子设备100的软件结构。

图2是本发明实施例的电子设备100的软件结构框图。

分层架构将软件分成若干个层，每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中，将Android系统分为四层，从上至下分别为应用程序层，应用程序框架层，安卓运行时(Android runtime)和系统库，以及内核层。

应用程序层可以包括一系列应用程序包。

如图2所示，应用程序包可以包括相机，图库，日历，通话，地图，导航，WLAN，蓝牙，音乐，视频，短信息等应用程序。

应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface，API)和编程框架。应用程序框架层包括一些预先定义的函数。

如图2所示，应用程序框架层可以包括窗口管理器，内容提供器，视图系统，电话管理器，资源管理器，通知管理器等。

窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小，判断是否有状态栏，锁定屏幕，截取屏幕等。

内容提供器用来存放和获取数据，并使这些数据可以被应用程序访问。所述数据可以包括视频，图像，音频，拨打和接听的电话，浏览历史和书签，电话簿等。

视图系统包括可视控件，例如显示文字的控件，显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如，包括短信通知图标的显示界面，可以包括显示文字的视图以及显示图片的视图。

电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通，挂断等)。

资源管理器为应用程序提供各种资源，比如本地化字符串，图标，图片，布局文件，视频文件等等。

通知管理器使应用程序可以在状态栏中显示通知信息，可以用于传达告知类型的消息，可以短暂停留后自动消失，无需用户交互。比如通知管理器被用于告知下载完成，消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知，例如后台运行的应用程序的通知，还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息，发出提示音，电子设备振动，指示灯闪烁等。

Android Runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。

核心库包含两部分：一部分是java语言需要调用的功能函数，另一部分是安卓的核心库。

应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理，堆栈管理，线程管理，安全和异常的管理，以及垃圾回收等功能。

系统库可以包括多个功能模块。例如：表面管理器(surface manager)，媒体库(media libraries)，三维图形处理库(例如：OpenGL ES)，2D图形引擎(例如：SGL)等。

表面管理器用于对显示子系统进行管理，并且为多个应用程序提供了2D和3D图层的融合。

媒体库支持多种常用的音频，视频格式回放和录制，以及静态图像文件等。媒体库可以支持多种音视频编码格式，例如:MPEG4，H.264，MP3，AAC，AMR，JPG，PNG等。

三维图形处理库用于实现三维图形绘图，图像渲染，合成，和图层处理等。

2D图形引擎是2D绘图的绘图引擎。

内核层是硬件和软件之间的层。内核层至少包含显示驱动，摄像头驱动，音频驱动，传感器驱动。

硬件层可以包括各类传感器，例如本申请实施例涉及的角度传感器、压力传感器等。

下面结合捕获拍照场景，示例性说明电子设备100软件以及硬件的工作流程。

当触摸传感器180K接收到触摸操作，相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标，触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件，识别该输入事件所对应的控件。以该触摸操作是触摸单击操作，该单击操作所对应的控件为相机应用图标的控件为例，相机应用调用应用框架层的接口，启动相机应用，进而通过调用内核层启动摄像头驱动，通过摄像头193捕获静态图像或视频。

本申请实施例提供了一种视频流处理方法，可应用于电子设备，该电子设备可以参考上文对电子设备100的介绍。接下来，结合图5，对本申请实施例提供的视频流处理方法进行介绍。

如图5所示，本申请实施例提供的视频流处理方法包括步骤500。

步骤500，电子设备在第一进程下从远端的第一设备接收视频流。

在一些实施例中，第一设备可以为监控类摄像头。摄像头与电子设备可通过网络连接，例如可以通过LTE通信技术、第五代通信技术、Wi-Fi等连接。在一些示例中，摄像头具体可以为监控摄像头，例如华为安居智能摄像机、中兴智能摄像头等等。在一些示例中，摄像头具体可以为安装在无人机上的摄像头。等等。

在一些实施例中，第一设备可以为无人机，该无人机安装有摄像头。

容易理解，若要通过电子设备观看监控类摄像头或无人机拍摄的画面，需要在该电子设备上安装该监控类摄像头或无人机的生成商或供应商提供的APP。该APP可以为视频监控类APP，也可以为无人机APP。该APP对应的进程可以称为第一进程。电子设备可以通过该APP从远端的第一设备接收视频流，即电子设备可以在第一进程下从远端的第一设备接收视频流。

需要说明的是，在本申请实施例中，

电子设备在第一进程下接收视频流，是指电子设备的第一进程为接收视频流的主体。

进程(process)是计算机中的程序关于数据集合上的一次运行活动，是系统进行资源分配和调度的基本单位，是操作系统结构的基础。一个进程可以由一个或多个线程，同一进程下的各个线程之间共享该进程的内存空间(包括代码段，数据集，堆等)。不同的进程相互独立。不同的进程可以通过共享内存进行通信。

容易理解，进程只是操作系统领域的一个广泛适用的定义，但是在实际产品中可能有不同的称呼。

当电子设备接收到视频流后，可执行步骤502。

步骤502，电子设备在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据。

在一些实施例中，从第一设备接收的视频流可以为第一格式的视频流。第一格式具体为一种数字视频压缩格式，例如H.264、H.265等。

电子设备在第一进程下，对第一格式的视频流进行解码，可以得到一帧或多帧视频数据。

具体地，以H.264格式的视频流为例，其解码过程可以包括帧间和帧内预测(estimation)，变换(transform)和反变换，量化(quantization)和反量化，环路滤波(loopfilter)熵编码(entropy coding)。

解码得到的视频数据为一种视频图像数据，例如某一种YUV格式的视频图像数据。视频图像数据其需要进一步渲染为可显示的图像数据，例如ARGB格式或RGB格式的图像数据，以在显示屏上显示。

在一些实施例中，从第一设备接收的视频流可以为加密视频流。电子设备在第一进程下，可以对该加密视频流进行解密。然后，电子设备在第一进程下对解密后的视频流进行解码，可以得到一帧或多帧视频数据。

在一些实施例中，对视频流的解码具体可以为软解码。电子设备在第一进程下可以使用CPU对视频流进行解码。

在一些实施例中，对视频流的解码具体可以为硬解码。在一个例子中，电子设备在第一进程下可以使用DSP对视频流进行解码。

解码后得到的视频数据并不能在显示屏上显示，需要进一步渲染。因此，在步骤502中，电子设备在第一进程下渲染该一帧或多帧视频数据，得到一个或多个可显示的图像数据。对于多帧视频数据，其中的各帧视频数据可由电子设备在第一进程下依次渲染，以得到多个可显示的图像数据。可显示的图像数据是指可直接用于在显示屏显示图像的数据。

在一些实施例中，电子设备配置有图形处理器。电子设备在第一进程下可以使用图形处理器渲染该一帧或多帧视频数据，得到一个或多个可显示的图像数据。

在一些实施例中，电子设备配置有神经网络处理器。电子设备在第一进程下可以使用神经网络处理器渲染该一帧或多帧视频数据，得到一个或多个可显示的图像数据。

在一些实施例中，电子设备配置有图像信号处理器。电子设备在第一进程下可以使用图像信号处理器渲染该一帧或多帧视频数据，得到一个或多个可显示的图像数据。

在一些实施例中，电子设备可以在第一进行下在显示屏上显示该一个或多个可显示的图像数据，以显示相关画面。对于多个可显示的图像数据，其中的各个图像数据可由电子设备在第一进程下在显示屏上逐一显示。更具体地，每当渲染得到一个可显示的图像数据时，该图像数据可由电子设备在第一进程下在显示屏上显示。

在这些实施例的一个示例中，电子设备配置有图形处理器。图形处理器可以对解码得到的视频数据逐一进行渲染，其中将渲染得到的可显示的图像数据写入到显存中的第一缓冲空间。该第一缓冲空间中的可显示的图像数据用于在显示屏上显示。该第一缓冲空间的大小可以为可显示的图像数据的数据量大小的整数倍。

在一个例子中，该第一缓冲空间的大小等于可显示的图像数据的数据量大小，即一个第一缓冲空间可容纳一个可显示的图像数据。

在一个例子中，该第一缓冲空间的大小为可显示的图像数据的大小的N倍，N为＞1的整数，即在该例子中，一个第一缓冲空间的大小可同时容纳N个可显示的图像数据。

在一些实施例中，通过步骤502得到可以显示的图像数据后，电子设备可执行步骤504a。

步骤504a，所述电子设备在所述第一进程下向运行在所述电子设备上的第二进程传递所述第一图像数据的副本。

在电子设备运行第一进程的同时，电子设备也可以运行第二进程，第二进程可以获取电子设备在第一进程下渲染得到的可显示图像数据。

在这些实施例的一个示例中，在步骤504a中，电子设备在所述第一进程下向第一共享内存写入所述第一图像数据的副本，以使所述电子设备在第二进程下从所述第一共享内存中读取所述第一图像数据的副本。第一共享内存是映射到第一进程的地址空间和第二进程的地址空间的共享内存。

在一个例子中，电子设备在第一进程下，在渲染得到任意可显示的图像数据时，例如第一图像数据，可以将第一图像数据写入第一缓冲空间中，并将第一图像数据的副本写入第一共享内存。第二进程可以从第一共享内存读取该第一图像数据的副本。在一个具体的例子中，可以将第一图像数据的副本写入第一共享内存中的第三缓冲空间。第三缓冲空间大小可以为第一图像数据的副本的大小的整数倍。在一个具体例子中，第三缓冲空间大小可以为第一图像数据的副本的大小的1倍。在一个具体例子中，电子设备在第一进程下将第一图像数据的副本写入第一共享内存后，可以通过第一进程和第二进程之间的应用程序数据通道向第二进程发送读取通知，使得第二进程从第一共享内存中读取第一图像数据的副本。

在一个具体例子中，可以设定第二进程先于第一进程启动，当第一进程启动时，电子设备可以建立第一进程和第二进程之间的应用程序数据通道。在一个具体例子中，可以设定第一进程先于第二进程启动，当第二进程启动时，电子设备可以建立第一进程和第二进程之间的应用程序数据通道。在一个具体例子中，在第一进程和第二进程同时运行时，电子设备可以响应于用户对第二进程或第一进程的运行界面的操作，建立第一进程和第二进程之间的应用程序数据通道。在一个例子中，该应用程序数据通道具体可以为套接字(socket)。

在该例子中，第二进程可以为视频电话应用，也可以为即时通讯应用，例如微信、QQ等。第二进程也可以为电子设备的系统进程。以第二进程为即时通讯应用对应的进程为例，可以设定在进行通过即时通讯类应用和家人进行视频通话时，启动第一进程。例如，可以在视频通话窗口非最大化的状态下，点击第一进程对应的第一应用的图标，以启动第一进程，进而可以从远端的第一设备接收视频流，并在显示屏上显示视频流对应的画面。在显示屏上显示视频流对应的相关画面可以参考上文介绍，在此不再赘述。

用户想要将显示屏上显示的从第一设备接收的视频流对应的画面分享给家人。用户可以操作即时通讯应用，将视频通话中用户侧的画面替换为视频流对应的画面，从而实现了将第一设备接收的视频流对应的画面分享给家人。具体地，响应于用户对即时通讯应用的操作，电子设备在第二进程下在内存中创建第一共享内存，并将第一共享内存的地址通过第一进程和第二进程之间的应用程序数据通道(例如套接字(socket))发送给第一进程，使得第一进程可以建立第一进程的地址空间和第一共享内存之间的映射。第二进程也可以建立第二进程的地址空间和第一共享内存之间的映射。

在该示例中，通过建立第一进程和第二进程的共享内存，使第一进程将图像数据写入共享内存中的缓冲空间，第二进程可从共享内存中的缓冲空间读取图像数据，可以提高第一进程和第二进程之间的传输效率。

在该示例的一个例子中，在第二进程读取了第一图像数据后，可以对第一图像数据进行图像格式的转换。具体可以根据第二进程所需要的图像数据格式来进行转换。第二进程和第一进程可以预先约定第二进程所需要的图像数据格式。例如，第二进程所需要的图像数据格式为一种YUV格式，第一图像数据的图像格式为ARGB或RGB，可以将第一图像数据转换为YUV格式的图像数据。

需要说明的是，如上所述，对视频流解码后得到的视频数据可能也为一种YUV格式的图像数据。YUV格式有多种，例如YUV444,YUV422,YUV420,YV12,NV12,NV21等。一般而言，解码后得到的视频数据与第二进程所需要的图像数据格式不同，例如解码得到的视频数据的格式为YUV444，而第二进程所需要的图像数据格式为NV12。

如果利用解码后得到的视频数据进行格式转换，来得到第二进程所需的图像数据格式，则借助视频格式转换工具包，调用CPU来进行转换。特别是在安卓系统下，应用程序的语言为java，而视频格式转换工具包的语音为C++，因此，在进行转换时进行java--》C++--》java等一系列的转换。

而在本申请实施例中，使用渲染的可显示的图像格式来进行格式转换，无须借助视频格式转换工具包，也无须调用CPU，利用GPU并向计算能力，就可实现格式转换。因此，相比将未渲染的视频数据转换为YUV格式的图像数据，将图像格式为ARGB或RGB的图像数据转换为YUV格式的图像数据，无须利用视频格式转换工具包，从而在图像格式转换时进行java--》C++--》java等一系列的转换。因此，在本申请实施例中，图像格式转换的速度快、系统功耗消耗低。

在这些实施例的一个示例中，在步骤504a中，第一进程可以通过第一进程和第二进程之间的数据通道，向第二进程传递第一图像数据的副本。

在一些实施例中，在通过步骤502得到可以显示的图像数据后，电子设备可执行步骤504b和506。

步骤504b，电子设备在所述第一进程下对所述第一图像数据的副本进行图像格式转换，得到第二图像数据。

在一个例子中，电子设备在所述第一进程下使用图形处理器进行第一图像数据的副本进行图像格式转换。

在一个例子中，电子设备在所述第一进程下使用神经网络处理器进行第一图像数据的副本进行图像格式转换。

在一个例子中，电子设备在所述第一进程下使用图像信号处理器进行第一图像数据的副本进行图像格式转换。

在一个例子中，电子设备在第一进程下，在渲染得到任意可显示的图像数据时，例如第一图像数据，可以将第一图像数据写入第一缓冲空间中，并将第一图像数据的副本写入第二缓冲空间。然后电子设备在第一进程下对第二缓冲空间中的第一图像数据的副本进行图像格式的转换，得到第二图像数据。例如，第一图像数据的副本的图像格式可以为ARGB或RGB，可以将其转换为YUY这一图像格式的图像数据。在一个具体例子中，若电子设备在第一进程下使用图形处理器渲染得到第一图像数据以及对第一图像数据的副本进行图像格式转换时，第一缓冲空间和第二缓冲空间可以为显存中的空间。在该例子中，第一缓冲空间中的第一图像数据可用于在显示屏上显示，第二缓冲空间中的第一图像数据的副本用于进行图像格式的转换，以得到第二图像数据。使得电子设备在第一进程下可以同时进行图像数据的显示和图像数据的格式转换，并且这两个任务互不影响。

在该例子中，相比将未渲染的视频数据转换为YUV格式的图像数据，将图像格式为ARGB或RGB的图像数据转换为YUV格式的图像数据，无须利用视频格式转换工具包，从而在图像格式转换时无须进行java--》C++--》java等一系列的转换。因此，在本申请实施例中，图像格式转换的速度快、系统功耗消耗低。

步骤506，所述电子设备在所述第一进程下向运行在所述电子设备上的第二进程传递所述第二图像数据。

在这些实施例的一个示例中，电子设备在所述第一进程下向第一共享内存写入所述第二图像数据，以使电子设备在第二进程下从第一共享内存读取所述第二图像数据。

电子设备在第一进程下可将步骤504b得到的第二图像数据写入第一共享内存，并向第二进程发送读取通知，使得第二进程可以从第一共享内存读取第二图像数据。第一共享内存的创建方法可以参考上文介绍，在此不再赘述。

在一个例子中，可以将第二图像数据写入第一共享内存中的第三缓冲空间。第三缓冲空间的大小可以为第二图像数据的整数倍，在一个例子中，第三缓冲空间的大小为第二图像数据的1倍。

在该示例中，通过建立第一进程和第二进程的共享内存，使第一进程和第二进程可以进行通信，可以无须分别为第一进程和第二进程创建用于写入第二图像数据的缓冲空间，可以提高第一进程和第二进程之间的传输效率。

在这些实施例的一个示例中，在步骤506中，第一进程可以通过第一进程和第二进程之间的数据通道，向第二进程传递第二图像数据。数据通道的建立可以参考上文介绍，此处不再赘述。

需要说明的是，上文以第一进程和第二进程为独立的两个进程为例，介绍本申请实施例提供的视频流处理方法。在一些实施例中，第一进程和第二进程可以替换为同一进程下的两个线程，例如进程A中的第一线程可以执行上文中第一进程执行的相关动作，进程A中的第二线程可以执行上文第二进程执行的相关动作。如上所述，同一进程下的各个线程可以共享该进程的内存空间，因此，当同一进程中的两个线程来执行本申请实施例提供的视频流处理方法时，可以省略上文所介绍的不同进程之间的通信。

本申请实施例提供的视频流处理方法可以将渲染后的可显示的图像数据传递给其他进程，从而实现了在向其他进程传递图像数据时，无须对未渲染的视频数据进行格式转换，降低了CPU的负载以及系统功耗；并且，可以将渲染后的可显示的图像数据转换为其他格式的图像，例如YUV格式的图像，相比将未渲染的视频数据转换为YUV格式的图像数据，将可显示的图像数据转换为YUV格式的图像数据，无须利用视频格式转换工具包，从而在图像格式转换时无须进行java--》C++--》java等一系列的转换，图像格式转换的速度快、系统功耗消耗低。

参阅图6，在一个实施例中，对本申请实施例提供的视频流处理方法进行举例说明。在本实施例中，该方法可应用于配置有图形处理器的电子设备。进程A和进程B为运行在电子设备上的两个不相关的进程。

进程A可获取视频渲染数据，并利用图形处理器的并行计算能力转换视频渲染数据的数据格式。

具体地，进程A接收到加密的视频流数据(视频流一般为加密的H.264或H.265格式)，经过解密、解码后，将该帧视频数据流渲染到buffer1中(buffer1从GPU显存中分配，渲染到buffer1中的为可显示的图像数据，该图像数据一般为ARGB图像格式，buffer1大小为width*height*4，width为该图像数据的宽度数据量，height为该图像数据的高度度数据量)，buffer1中的图像数据供显示输出使用。buffer1中的图像数据在显示屏上显示，显示屏具体可以为LCD显示屏。对视频数据流渲染具体可以为在GPU对解码后得到视频流数据进行纹理渲染。

在buffer2(从GPU显存中分配，大小为width*height*4)写入是buffer1中的可显示的图像数据的拷贝。进程A和进程B之间通过共享内存通信，在共享内存中分配buffer3(大小为width*height*1.5)。进程A根据RGB转YUV的公式，利用GPU的并行计算能力，将buffer2中的图像数据，从ARGB图像数据格式转换成YUV图像格式，存放在buffer3中。

进程A将转换后的数据写入共享buffer，通知进程B读取。进程B收到buffer3被填充的通知，开始读取YUV格式数据。进程A，B进入下一次循环中，直至视频流结束或用户选择退出。

在本实施例中，直接利用了已解码的视频流渲染显示数据，并充分利用了GPU强大的并行能力进行格式转换，并直接填充到进程间共享buffer中，极大的降低系统中CPU的负载，从而降低系统功耗。

本申请实施例提供了一种视频流处理装置700。参阅图7，所述装置700包括：

接收单元710，用于在第一进程下从远端的第一设备接收视频流；

解码并渲染单元720，用于在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据；

传递单元730，用于在所述第一进程下向第二进程传递所述第一图像数据的副本，或者，将所述第一图像数据的副本转换为第二图像数据，并向第二进程传递所述第二图像数据。

装置700的各功能单元的功能可以参照图5所示的方法实施例实现，此次不再赘述。

本申请实施例提供的装置可以将渲染后的可显示的图像数据传递给其他进程，从而实现了在向其他进程传递图像数据时，无须对未渲染的视频数据进行格式转换，降低了CPU的负载以及系统功耗；并且，可以将渲染后的可显示的图像数据转换为其他格式的图像，例如YUV格式的图像，相比将未渲染的视频数据转换为YUV格式的图像数据，将可显示的图像数据转换为YUV格式的图像数据，无须利用视频格式转换工具包，从而在图像格式转换时无须进行java--》C++--》java等一系列的转换，图像格式转换的速度快、系统功耗消耗低。

上文主要从方法流程的角度对本申请实施例提供的装置进行了介绍。可以理解的是，各个电子设备为了实现上述功能，其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

本申请实施例可以根据图5所示的各方法实施例对电子设备等进行功能模块的划分，例如，可以对应各个功能划分各个功能模块，也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。需要说明的是，本申请实施例中对模块的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

本申请实施例提供了提供了一种电子设备。参阅图8，该电子设备包括处理器810、存储器820、收发器830。其中，所述存储器用于存储计算机执行指令；当所述电子设备运行时，所述处理器810执行所述存储器820存储的所述计算机执行指令，以使所述电子设备执行图4所示的方法。其中，收发器830用于在第一进程下从远端的第一设备接收视频流；处理器810用于在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据；处理器810用于在所述第一进程下向运行在所述电子设备上的第二进程传递所述第一图像数据的副本，或者，将所述第一图像数据的副本转换为第二图像数据，并向运行在所述电子设备上的第二进程传递所述第二图像数据。

在一些实施例中，该电子设备还包括通信总线840，其中，处理器810可通过通信总线840与存储器820、收发器830连接，从而可实现根据存储器820存储的计算机执行指令，对收发器830进行相应控制。

本申请实施例的电子设备端各个部件/器件的具体实施方式，可参照上文如图5所示的各方法实施例实现，此处不再赘述。

由此，电子设备可以将渲染后的可显示的图像数据传递给其他进程，从而实现了在向其他进程传递图像数据时，无须对未渲染的视频数据进行格式转换，降低了CPU的负载以及系统功耗；并且，可以将渲染后的可显示的图像数据转换为其他格式的图像，例如YUV格式的图像，相比将未渲染的视频数据转换为YUV格式的图像数据，将可显示的图像数据转换为YUV格式的图像数据，无须利用视频格式转换工具包，从而在图像格式转换时无须进行java--》C++--》java等一系列的转换，图像格式转换的速度快、系统功耗消耗低。

可以理解的是，本申请的实施例中的处理器可以是中央处理单元(centralprocessing unit，CPU)，还可以是其他通用处理器、数字信号处理器(digital signalprocessor，DSP)、专用集成电路(application specific integrated circuit，ASIC)、现场可编程门阵列(field programmable gate array，FPGA)或者其他可编程逻辑器件、晶体管逻辑器件，硬件部件或者其任意组合。通用处理器可以是微处理器，也可以是任何常规的处理器。

本申请的实施例中的方法步骤可以通过硬件的方式来实现，也可以由处理器执行软件指令的方式来实现。软件指令可以由相应的软件模块组成，软件模块可以被存放于随机存取存储器(random access memory，RAM)、闪存、只读存储器(read-only memory，ROM)、可编程只读存储器(programmable rom，PROM)、可擦除可编程只读存储器(erasable PROM，EPROM)、电可擦除可编程只读存储器(electrically EPROM，EEPROM)、寄存器、硬盘、移动硬盘、CD-ROM或者本领域熟知的任何其它形式的存储介质中。一种示例性的存储介质耦合至处理器，从而使处理器能够从该存储介质读取信息，且可向该存储介质写入信息。当然，存储介质也可以是处理器的组成部分。处理器和存储介质可以位于ASIC中。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者通过所述计算机可读存储介质进行传输。所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘(solid state disk，SSD))等。

可以理解的是，在本申请的实施例中涉及的各种数字编号仅为描述方便进行的区分，并不用来限制本申请的实施例的范围。

Claims (17)

1.一种视频流处理方法，其特征在于，所述方法包括：

电子设备在第一进程下从远端的第一设备接收视频流；

所述电子设备在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据；

所述电子设备在所述第一进程下向运行在所述电子设备上的第二进程传递所述第一图像数据的副本，或者，将所述第一图像数据的副本转换为第二图像数据，并向运行在所述电子设备上的第二进程传递所述第二图像数据。

2.根据权利要求1所述的方法，其特征在于，所述电子设备在所述第一进程下向运行在所述电子设备上的第二进程传递所述第一图像数据的副本或者，将所述第一图像数据的副本转换为第二图像数据，并向运行在所述电子设备上的第二进程传递所述第二图像数据包括：

所述电子设备在所述第一进程下向第一共享内存写入所述第一图像数据的副本，以使所述电子设备在第二进程下从所述第一共享内存中读取所述第一图像数据的副本或所述第二图像数据，其中，所述第一共享内存是映射到所述第一进程的地址空间和所述第二进程的地址空间的共享内存。

3.根据权利要求2所述的方法，其特征在于，所述方法还包括：

所述电子设备在第二进程下在内存中创建所述第一共享内存；

所述电子设备在第二进程下将所述第一共享内存的地址发送给所述第一进程，以使建立所述第一进程的地址空间和所述第一共享内存之间的映射。

4.根据权利要求2所述的方法，其特征在于，所述方法还包括：

当所述第一图像数据的副本或所述第二图像数据写入到所述第一共享内存中时，所述第一进程向所述第二进程发送读取通知，以使所述第二进程从所述第一共享内存中读取所述第一图像数据的副本或所述第二图像数据。

5.根据权利要求1所述的方法，其特征在于，所述电子设备配置有图形处理器；所述电子设备在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据包括：

所述电子设备在所述第一进程下将所述视频流解码为至少一帧视频数据；

所述电子设备在所述第一进程下使用所述图形处理器渲染所述至少一帧视频数据中的第一视频数据，以得到所述第一图像数据。

6.根据权利要求5所述的方法，其特征在于，所述第二图像数据为所述电子设备对所述第一图像数据的副本进行图像格式转换得到的图像数据。

7.根据权利要求6所述的方法，其特征在于，所述电子设备配置有图形处理器；所述将所述第一图像数据转换为第二图像数据包括：

所述电子设备向显存中的第一缓冲空间写入所述第一图像数据的副本，以使所述电子设备使用所述图像处理器对所述第一图像数据的副本进行图像格式转换，得到所述第二图像数据。

8.根据权利要求1所述的方法，其特征在于，所述第一图像数据对应的图像格式为ARGB格式或RGB格式；所述第二图像数据对应的图像格式为YUV格式。

9.根据权利要求1所述的方法，其特征在于，所述方法还包括：所述电子设备在显示屏上显示所述第一图像数据。

10.根据权利要求1所述的方法，其特征在于，所述第一进程为第一应用对应的进程；所述第一设备为所述第一应用对应的摄像头或所述第一应用对应的云端服务器，所述第一应用视频监控类应用或无人机对应的应用；

所述第二进程为即时通讯应用对应的进程或所述电子设备的系统进程。

11.根据权利要求1所述的方法，其特征在于，所述方法还包括：所述电子设备在所述第二进程下向第三设备发送所述第一图像数据的副本或所述第二图像数据。

12.根据权利要求1所述的方法，其特征在于，所述方法还包括：当所述电子设备在所述第一进程下向运行在所述电子设备上的第二进程传递所述第一图像数据的副本时，所述电子设备在所述第二进程下将所述第一图像数据的副本转换为第二图像数据。

13.根据权利要求1所述的方法，其特征在于，所述视频流为加密视频流；

所述电子设备在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据包括：

所述电子设备在所述第一进程下解密所述加密视频流。

14.一种视频流处理装置，其特征在于，所述装置包括：

接收单元，用于在第一进程下从远端的第一设备接收视频流；

解码并渲染单元，用于在所述第一进程下解码并渲染所述视频流，以得到可用于显示的第一图像数据；

传递单元，用于在所述第一进程下向第二进程传递所述第一图像数据的副本，或者，将所述第一图像数据的副本转换为第二图像数据，并向第二进程传递所述第二图像数据。

15.一种电子设备，其特征在于，包括处理器、存储器、收发器；

所述存储器用于存储计算机执行指令，当所述电子设备运行时，所述处理器执行所述存储器存储的所述计算机执行指令，以使所述电子设备执行权利要求1-13任一项所述的方法。

16.一种计算机存储介质，其特征在于，所述计算机存储介质包括计算机指令，当所述计算机指令在电子设备上运行时，使得所述电子设备执行权利要求1-13任一项所述的方法。

17.一种计算机程序产品，其特征在于，所述计算机程序产品包含的程序代码被电子设备中的处理器执行时，实现权利要求1-13任一项所述的方法。

Images