CN111147801A - 一种视联网终端的视频数据处理方法和装置 - Google Patents

一种视联网终端的视频数据处理方法和装置 Download PDF

Info

Publication number
CN111147801A
CN111147801A CN201911421788.2A CN201911421788A CN111147801A CN 111147801 A CN111147801 A CN 111147801A CN 201911421788 A CN201911421788 A CN 201911421788A CN 111147801 A CN111147801 A CN 111147801A
Authority
CN
China
Prior art keywords
video
module
video stream
filter
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911421788.2A
Other languages
English (en)
Inventor
岳晓峰
杨传坤
周新海
杨春晖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Visionvera Information Technology Co Ltd
Original Assignee
Visionvera Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Visionvera Information Technology Co Ltd filed Critical Visionvera Information Technology Co Ltd
Priority to CN201911421788.2A priority Critical patent/CN111147801A/zh
Publication of CN111147801A publication Critical patent/CN111147801A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/15—Conference systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440218—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by transcoding between formats or standards, e.g. from MPEG-2 to MPEG-4
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本发明实施例提供了一种视联网终端的视频数据处理方法和装置，该方法包括：视频采集模块采集原始编码的视频流；视频解码模块对原始编码的视频流进行解码，得到解码后的视频流；视频处理模块对解码后的视频流进行第一处理，得到第一视频流；第一处理包括至少一种图像处理；滤镜处理模块截获视频处理模块输出的第一视频流，对第一视频流进行第二处理得到第二视频流，并将第二视频流输出到视频输出模块；第二处理包括渲染处理。上述方案通过新增了滤镜处理模块，实现了在视联网终端对视频流数据进行实时渲染的功能，能够扩展视联网终端的能力，改善视频输出质量，提升观感效果，为用户提供丰富的、个性化的图像效果输出。

Description

一种视联网终端的视频数据处理方法和装置
技术领域
本发明涉及数据处理技术领域，特别是涉及一种视联网终端的视频数据处理方法和一种视联网终端的视频数据处理装置。
背景技术
视频图像渲染可实时实现多种不同的特效和功能，例如对视频图像进行明暗度调整，实现美颜、浮雕、蒙版、局部缩放等效果，对视频中的人脸、物体进行动态识别等。
但由于视频编解码的复杂性和计算量，以及实时性的要求，除了一些专用设备和PC端外，目前市面上的视频会议系统的终端设备，画面输出比较单调，可调节能力差，都不具备根据需要进行实时视频任意渲染的能力，且由于会议终端仅在硬件上支持多路原始视频的解码输出，因此当原始视频因为拍摄环境等因素影响导致观感质量较差时，很难做出调整，其功能也相对单调。
视联网是一个实时网络，能够实现目前互联网无法实现的全网高清视频实时传输。视联网终端以其直观、准确、及时和信息内容丰富而广泛应用于许多场合。但目前的视联网终端也存在上述不足，例如，视联网会议终端在原有的应用模式下，使用本身的CPU和编解码硬件进行视频处理时，由于这些模块性能较弱、功能单一，并不具备灵活、实时的视频渲染能力。
发明内容
鉴于上述问题，提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种视联网终端的视频数据处理方法和相应的一种视联网终端的视频数据处理装置。
为了解决上述问题，本发明实施例公开了一种视联网终端的视频数据处理方法，其特征在于，所述视联网终端包括：视频采集模块、视频解码模块、视频处理模块、滤镜处理模块以及视频输出模块，所述方法包括：
所述视频采集模块采集原始编码的视频流；
所述视频解码模块对所述原始编码的视频流进行解码，得到解码后的视频流；
所述视频处理模块对所述解码后的视频流进行第一处理，得到第一视频流；所述第一处理包括至少一种图像处理；
所述滤镜处理模块截获所述视频处理模块输出的第一视频流，对所述第一视频流进行第二处理得到第二视频流，并将所述第二视频流输出到所述视频输出模块；所述第二处理包括渲染处理。
可选地，所述滤镜处理模块包括滤镜参数模块和滤镜主模块，所述滤镜处理模块对所述第一视频流进行第二处理得到第二视频流包括：
所述滤镜参数模块获取滤镜参数；
所述滤镜主模块根据所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流。
可选地，所述滤镜处理模块截获所述视频处理模块输出的第一视频流包括：
所述滤镜主模块截获所述视频处理模块输出的第一视频流。
可选地，所述滤镜处理模块还包括滤镜加载模块和滤镜子模块，所述滤镜主模块根据所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流包括：
所述滤镜主模块控制所述滤镜加载模块加载与所述滤镜参数适配的滤镜子模块；
所述滤镜子模块采用所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流数据。
可选地，所述视联网终端包括图形二维加速引擎TDE加速模块和图形处理器GPU加速模块，所述滤镜子模块采用所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流数据包括：
所述滤镜子模块调用所述TDE加速模块将所述第一视频流数据转换为红、绿、蓝色彩空间RGB格式的第一视频流数据；
所述滤镜子模块调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据进行第二处理，生成RGB格式的第二视频流数据；以及将所述RGB格式的第二视频流数据转换为亮度参量和色度参量分开表示的像素格式YUV格式的第二视频流数据。
可选地，所述滤镜子模块调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据进行第二处理包括：
所述滤镜子模块调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据按照视频帧图像顺序依次进行第二处理。
可选地，所述滤镜处理模块将所述第二视频流输出到所述视频输出模块包括：
所述滤镜子模块将所述第二视频流输出到所述视频输出模块。
相应的，本发明实施例还公开了一种视联网终端，包括：视频采集模块、视频解码模块、视频处理模块、滤镜处理模块以及视频输出模块：
所述视频采集模块用于采集原始编码的视频流；
所述视频解码模块用于对所述原始编码的视频流进行解码，得到解码后的视频流；
所述视频处理模块用于对所述解码后的视频流进行第一处理，得到第一视频流；所述第一处理包括至少一种图像处理；
所述滤镜处理模块用于截获所述视频处理模块输出的第一视频流，对所述第一视频流进行第二处理得到第二视频流，并将所述第二视频流输出到所述视频输出模块；所述第二处理包括渲染处理。
可选地，所述滤镜处理模块包括滤镜参数模块和滤镜主模块：
所述滤镜参数模块用于获取滤镜参数；
所述滤镜主模块用于根据所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流。
可选地，所述滤镜主模块用于截获所述视频处理模块输出的第一视频流。
可选地，所述滤镜处理模块还包括滤镜加载模块和滤镜子模块：
所述滤镜主模块用于控制所述滤镜加载模块加载与所述滤镜参数适配的滤镜子模块；
所述滤镜子模块用于采用所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流数据。
可选地，所述视联网终端包括图形二维加速引擎TDE加速模块和图形处理器GPU加速模块：
所述滤镜子模块用于调用所述TDE加速模块将所述第一视频流数据转换为红、绿、蓝色彩空间RGB格式的第一视频流数据；
所述滤镜子模块用于调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据进行第二处理，生成RGB格式的第二视频流数据；以及将所述RGB格式的第二视频流数据转换为亮度参量和色度参量分开表示的像素格式YUV格式的第二视频流数据。
可选地，所述滤镜子模块用于调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据按照视频帧图像顺序依次进行第二处理。
可选地，所述滤镜子模块用于将所述第二视频流输出到所述视频输出模块。
相应的，本发明实施例还公开了一种装置，包括：处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如上述的视联网终端的视频数据处理方法的步骤。
相应的，本发明实施例还公开了一种计算机可读存储介质，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如上述的视联网终端的视频数据处理方法的步骤。
本发明实施例包括以下优点：
本发明实施例通过视频采集模块采集原始编码的视频流；视频解码模块对原始编码的视频流进行解码，得到解码后的视频流；视频处理模块对解码后的视频流进行第一处理，第一处理包括至少一种图像处理，得到第一视频流；滤镜处理模块截获视频处理模块输出的第一视频流，对第一视频流进行第二处理得到第二视频流，并将第二视频流输出到视频输出模块；所述第二处理包括渲染处理。上述方案通过新增了滤镜处理模块，实现了在视联网终端对视频流数据进行实时渲染的功能，能够扩展视联网终端的能力，改善视频输出质量，提升观感效果，为视联网设备增加更多有益的功能，为用户提供丰富的、个性化的图像效果输出。
另外，本发明实施例还通过滤镜子模块调用TDE加速模块将第一视频流数据转换为RGB格式的第一视频流数据；滤镜子模块调用预置的嵌入式系统的开放图形库，通过使用GPU加速模块，采用滤镜参数，对RGB格式的第一视频流数据按照视频帧图像顺序依次进行第二处理，生成RGB格式的第二视频流数据，然后将RGB格式的第二视频流数据转换为YUV格式的第二视频流数据进行输出显示。上述方案通过引入嵌入式系统的开放图形库，结合视联网终端内部的TDE、GPU等加速硬件模块，对视频流数据按照视频帧图像顺序依次进行渲染处理，利用软硬件结合实现了对视频流数据进行实时渲染的功能，在充分发挥内建硬件能力的基础上，降低了视频帧处理延时，在保证一定帧率的条件下，实现了滤镜渲染后的视频输出。
附图说明
图1是本发明的一种视联网终端的视频数据处理方法实施例一的步骤流程图；
图2是本发明的一种视联网终端的视频数据处理方法实施例二的步骤流程图；
图3是本发明的一种视联网终端滤镜系统的设计结构框图；
图4是本发明的一种滤镜功能模块架构图；
图5是本发明的一种滤镜子模块处理流程图；
图6是本发明的一种视联网终端实施例的结构框图；
图7是本发明的一种视联网的组网示意图；
图8是本发明的一种节点服务器的硬件结构示意图；
图9是本发明的一种接入交换机的硬件结构示意图；
图10是本发明的一种以太网协转网关的硬件结构示意图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。
本发明实施例的核心构思之一在于，针对目前视联网终端并不具备灵活、实时的视频渲染功能的问题，本发明通过新增滤镜处理模块，通过滤镜处理模块截获视频处理模块输出的第一视频流，对第一视频流进行第二处理得到第二视频流进行输出显示，在视联网终端新增了对视频流数据进行实时渲染的功能。
另外，针对现有的视联网终端若要新增对视频流数据进行实时渲染的功能，需要满足在充分利用内建硬件的条件下，降低视频帧处理延时，在保证一定帧率的条件下，实现滤镜后的视频输出的问题。本发明通过TDE加速模块将第一视频流数据转换为RGB格式的第一视频流数据；GPU加速模块调用预置的嵌入式系统的开放图形库，采用滤镜参数，对RGB格式的第一视频流数据按照视频帧图像顺序依次进行第二处理，生成RGB格式的第二视频流数据，然后将RGB格式的第二视频流数据转换为YUV格式的第二视频流数据进行输出显示。由于上述方案引入嵌入式系统的开放图形库，并结合视联网终端内部的TDE、GPU等加速硬件模块，对视频流数据按照视频帧图像顺序依次进行渲染处理，可以在充分发挥内建硬件能力的基础上，降低视频帧处理延时，在保证一定帧率的条件下，实现滤镜渲染后的视频输出。
参照图1，示出了本发明的一种视联网终端的视频数据处理方法实施例一的步骤流程图，所述视联网终端包括：视频采集模块、视频解码模块、视频处理模块、滤镜处理模块以及视频输出模块，所述方法具体可以包括如下步骤：
步骤101，所述视频采集模块采集原始编码的视频流；
视频采集模块可以采集拍摄设备或通过网络传输的视频流，但并不局限于此。
在日常场景实施过程中，可以通过视频采集模块采集原始编码的视频流。
步骤102，所述视频解码模块对所述原始编码的视频流进行解码，得到解码后的视频流；
在日常场景实施过程中，可以通过视频解码模块对原始编码的视频流进行解码，得到解码后的视频流。在解码后才可以对视频流进行处理。
步骤103，所述视频处理模块对所述解码后的视频流进行第一处理，得到第一视频流；所述第一处理包括至少一种图像处理；
第一处理可以包括至少一种图像处理，但第一处理并不涉及视频渲染处理。具体图像处理功能可以包括FRC(FrameRate Control帧率控制)、Crop(裁剪)、NR(Noise Reduce降噪)、LDC(Lens Distortion Correction图像畸变矫正)、Rotate(旋转)、Cover/Overlay(覆盖/叠加)、Scale(缩放)、Mirror/Flip(镜像/翻转)、FishEye(鱼眼处理)、图像增强、滤波等，但并不局限于此。
在日常场景实施过程中，可以通过视频处理模块对解码后的视频流进行第一处理，得到第一视频流。
步骤104，所述滤镜处理模块截获所述视频处理模块输出的第一视频流，对所述第一视频流进行第二处理得到第二视频流，并将所述第二视频流输出到所述视频输出模块；所述第二处理包括渲染处理。
渲染处理可以为亮度调整、增加浮雕、美颜、对视频中的人脸进行识别等处理，但并不局限于此。例如在会议模式，当视频亮度不合适时可以调整亮度，在直播模式，可以增加浮雕、美颜等特效，也可以对视频中的人脸进行识别，并以此为基础增加更多应用功能。
在日常场景实施过程中，可以通过滤镜处理模块截获视频处理模块输出的第一视频流，对第一视频流进行第二处理得到第二视频流，并将第二视频流输出到视频输出模块；第二处理包括渲染处理。
视联网终端产品，可以包括：
VI：视频采集模块，采集原始编码的视频流。
VPSS：视频处理模块或视频处理平台子系统，具有图像增强、滤波、缩放、叠加等视频处理功能的硬件模块。
VO：视频输出硬件模块，结合高清视频层VHDx设备，输出图像到物理端口的模块。
VDEC、VENC：视频解码、编码硬件模块。
本发明实施例通过视频采集模块采集原始编码的视频流；视频解码模块对原始编码的视频流进行解码，得到解码后的视频流；视频处理模块对解码后的视频流进行第一处理，得到第一视频流；滤镜处理模块截获视频处理模块输出的第一视频流，对第一视频流进行第二处理得到第二视频流，并将第二视频流输出到视频输出模块；所述第二处理包括渲染处理。上述方案通过新增了滤镜处理模块，实现了在视联网终端对视频流数据进行实时渲染的功能，能够扩展视联网终端的能力，改善视频输出质量，提升观感效果，为视联网设备增加更多有益的功能，为用户提供丰富的、个性化的图像效果输出。
参照图2，示出了本发明的一种视联网终端的视频数据处理方法实施例二的步骤流程图，所述视联网终端包括：视频采集模块、视频解码模块、视频处理模块、滤镜处理模块、视频输出模块、图形二维加速引擎TDE加速模块和图形处理器GPU加速模块，所述滤镜处理模块包括滤镜参数模块、滤镜主模块、滤镜加载模块和滤镜子模块，所述方法具体可以包括如下步骤：
步骤201，所述视频采集模块采集原始编码的视频流；
在日常场景实施过程中，可以通过视频采集模块采集原始编码的视频流。
步骤202，所述视频解码模块对所述原始编码的视频流进行解码，得到解码后的视频流；
在日常场景实施过程中，可以通过视频解码模块对原始编码的视频流进行解码，得到解码后的视频流。
步骤203，所述视频处理模块对所述解码后的视频流进行第一处理，得到第一视频流；所述第一处理包括至少一种图像处理；
在日常场景实施过程中，可以通过视频处理模块对解码后的视频流进行第一处理，得到第一视频流。第一处理可以包括至少一种图像处理。
步骤204，所述滤镜主模块截获所述视频处理模块输出的第一视频流；
在日常场景实施过程中，可以通过滤镜主模块截获视频处理模块输出的第一视频流。
步骤205，所述滤镜参数模块获取滤镜参数；
滤镜参数是指与视频渲染相关的参数，可以由用户终端设置或者通过控制端传输等，对此并不局限。
在日常场景实施过程中，可以通过滤镜参数模块获取滤镜参数。
步骤206，所述滤镜主模块控制所述滤镜加载模块加载与所述滤镜参数适配的滤镜子模块；
每种滤镜子模块对应一种渲染处理，如亮度调整滤镜子模块、增加浮雕滤镜子模块、美颜滤镜子模块、对视频中的人脸进行识别滤镜子模块等，但并不局限于此。
在日常场景实施过程中，可以通过滤镜主模块控制滤镜加载模块加载与滤镜参数适配的滤镜子模块。
步骤207，所述滤镜子模块调用所述TDE加速模块将所述第一视频流数据转换为RGB格式的第一视频流数据；
TDE加速模块(Two-dimensional Engine，图形二维加速引擎)，是二维图形加速模块，它利用硬件加速对二维图形图像进行处理。
RGB格式(Red、Green、Blue，红、绿、蓝色彩空间)，是以红、绿、蓝色彩空间对一种颜色进行编码的方法。RGB的本质是将色度分解为R、G、B三部分，然后记录下亮度数据，方便数字化表达，广泛用于数字化彩色显示器，计算机编程等领域。
GPU加速模块(Graphics Processing Unit，图形处理器)，是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上进行图像运算工作的微处理器，能够利用硬件加速对图像进行处理。
由于嵌入式系统的开放图形库和GPU模块只能处理以像素为单位的RGB格式数据，因此上述流程中，需要将利用TDE加速模块先将第一视频流数据转换为RGB格式，以此格式作为GPU滤镜渲染格式。
在日常场景实施过程中，滤镜子模块可以调用TDE加速模块将第一视频流数据转换为RGB格式的第一视频流数据。
步骤208，所述滤镜子模块调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据按照视频帧图像顺序依次进行第二处理；所述第二处理包括渲染处理；
嵌入式系统的开放图形库(Open Graphics Library for Embedded Systems，OpenGL ES)，是一种视频加速渲染技术，嵌入式领域的3D图形库，它是OpenGL三维图形API的子集，针对手机、PDA和游戏主机等嵌入式设备而设计。它是Khronos组织基于桌面OpenGL标准裁减而来。
众所周知，视频就是利用人类视觉暂留的原理通过播放一系列的图片，使人眼产生运动的感觉，其中每一幅静止的图片，我们称之为视频帧。通过对整个视频流数据按照视频帧图像顺序依次逐帧进行渲染操作，才能达到相应的显示效果。在本发明中，在一个视频帧渲染完成后，会将该视频帧输出显示，在其输出显示的同时会对下一视频帧进行渲染处理。
在日常场景实施过程中，滤镜子模块可以调用预置的嵌入式系统的开放图形库，通过使用GPU加速模块，采用滤镜参数，对RGB格式的第一视频流数据按照视频帧图像顺序依次进行第二处理。第二处理可以包括渲染处理。
步骤209，所述滤镜子模块调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块将所述RGB格式的第二视频流数据转换为YUV格式的第二视频流数据。
YUV格式(Y：明亮度(灰度值)；UV：色彩及饱和度(指定像素的颜色值))，是亮度参量和色度参量分开表示的像素格式。YUV也是一种色彩空间，Y表示亮度，U和V表示色度。YUV和RGB的相同点是：都是用来表达颜色的数学方法；不同点是：对颜色的描述思路和方法不同。RGB将一个颜色拆解为3个纯色的亮度组合，YUV将一个颜色分解为一个亮度和2个色度的组合。
由于视频输出模块也需要YUV格式进行输出，因此渲染完成后，需要RGB格式的第二视频流数据转换为YUV格式。
在日常场景实施过程中，滤镜子模块可以调用预置的嵌入式系统的开放图形库，通过使用GPU加速模块将所述RGB格式的第二视频流数据转换为YUV格式的第二视频流数据。
步骤210，所述滤镜子模块将所述第二视频流输出到所述视频输出模块。
在日常场景实施过程中，可以通过滤镜子模块将第二视频流输出到视频输出模块。
本发明实施例通过视频采集模块采集原始编码的视频流；视频解码模块对原始编码的视频流进行解码，得到解码后的视频流；视频处理模块对解码后的视频流进行第一处理，得到第一视频流；滤镜处理模块截获视频处理模块输出的第一视频流，对第一视频流进行第二处理得到第二视频流，并将第二视频流输出到视频输出模块；所述第二处理包括渲染处理。上述方案通过新增了滤镜处理模块，实现了在视联网终端对视频流数据进行实时渲染的功能，能够扩展视联网终端的能力，改善视频输出质量，提升观感效果，为视联网设备增加更多有益的功能，为用户提供丰富的、个性化的图像效果输出。
另外，本发明实施例还通过滤镜子模块调用TDE加速模块将第一视频流数据转换为RGB格式的第一视频流数据；滤镜子模块调用预置的嵌入式系统的开放图形库，通过使用GPU加速模块，采用滤镜参数，对RGB格式的第一视频流数据按照视频帧图像顺序依次进行第二处理，生成RGB格式的第二视频流数据，然后将RGB格式的第二视频流数据转换为YUV格式的第二视频流数据进行输出显示。上述方案通过引入嵌入式系统的开放图形库，结合视联网终端内部的TDE、GPU等加速硬件模块，对视频流数据按照视频帧图像顺序依次进行渲染处理，利用软硬件结合实现了对视频流数据进行实时渲染的功能，在充分发挥内建硬件能力的基础上，降低了视频帧处理延时，在保证一定帧率的条件下，实现了滤镜渲染后的视频输出。
为了使本领域技术人员能够更好地理解本发明实施例，参照图3，示出了本发明的一种视联网终端滤镜系统的设计结构框图，下面对该框图加以说明：
原有的应用模式下的视联网终端，以视联网会议终端为例：
VI采集模块采集摄像设备上原始编码的视频数据流，通过专用硬件VDEC解码、VPSS视频处理后，转交给VO视频输出设备进行信号转换，最终由物理HDMI端口输出到用户终端显示。
即原有的应用模式下的视联网终端是无法进行视频渲染。
针对原有的应用模式下的视联网终端没有视频渲染功能的问题，本发明通过在上述Hi3536的硬件编解码流程上，断开VPSS到VO的直接视频关联(图3中虚线箭头)，截获输出的视频数据流，转入滤镜模块处理，对图像进行加工后在返回给VO输出(图3中空心线头)。
即本发明的应用模式下的视联网终端，以视联网会议终端为例：
VI采集模块采集摄像设备上原始编码的视频数据流，通过专用硬件VDEC解码、VPSS视频处理后，截获VPSS输出的视频数据流至滤镜处理模块块；通过控制端经视联网将滤镜配置参数发送至滤镜参数配置模块，滤镜处理模块根据滤镜参数配置模块获取的滤镜配置参数，对截获的视频流进行渲染处理后，获得特效视频流数据，输出到VO视频输出硬件进行信号转换，最终输出图像到物理HDMI端口显示。
参照图4，示出了本发明的一种滤镜功能模块架构图，下面对该图加以说明：
1、滤镜主模块截获视频处理模块输出的视频流；
2、通过滤镜配置管理器提供的配置管理接口接收用户设置的滤镜参数，滤镜配置管理器根据接收到的用户设置的滤镜参数，对其滤镜配置参数库中默认的滤镜参数进行修改；
3、滤镜模块加载管理器根据滤镜配置参数库中修改的滤镜参数即用户设置的滤镜参数，加载不同滤镜子模块对截获的视频数据流进行滤镜渲染，获得特效视频流数据后，输出显示。
视联网会议终端可以采用多种输入数据源，本发明并不改变原有的视频采集、编解码流程，而是在内部模块VPSS到VO之间进行截获处理，将截获的视频流转入滤镜处理模块，滤镜处理模块再利用TDE、GPU等加速硬件，结合OpenGL ES技术，按照每帧图像依次进行滤镜渲染，渲染结果再返回到原有正常流程输出显示。
在图4滤镜功能模块的设计中，采用滤镜主模块进行控制，可以根据用户的设置，选择加载不同的滤镜库和滤镜配置参数，实现不同的滤镜渲染效果，由主模块、加载模块、参数配置模块构成运行框架，形成可扩展结构，动态加载不同滤镜子模块，实现个性化、多样化的特效选择。
参照图5，示出了本发明的一种滤镜子模块处理流程图，下面对该图加以说明：
1、视频帧(格式YUV420sp)输入；
2、YUV420sp格式转换->YUV420p；
3、YUV纹理加载；
4、TDE转换为RGB格式；
5、OpenGL ES对RGB做滤镜渲染(GPU模块)；
6、OpenGL ES转换渲染结果为YUV格式(GPU模块)；
7、输出。
上述流程中，由于VPSS实时输入的视频流，其编码格式为YUV420sp格式，视频输出层也需要此格式，但OpenGL ES和GPU模块只能处理以像素为单位的RGB格式数据，因此上述流程中，需要将YUV420sp格式的视频帧，利用TDE二维数据处理硬件，先转换为RGB格式，以此格式作为GPU滤镜渲染格式，渲染完成后，再转换为YUV420sp格式输出到VO硬件进行显示。
需要说明的是，对于方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明实施例并不受所描述的动作顺序的限制，因为依据本发明实施例，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作并不一定是本发明实施例所必须的。
参照图6，示出了本发明的一种视联网终端实施例的结构框图，所述终端具体可以包括如下模块：
视频采集模块601，用于采集原始编码的视频流；
视频解码模块602，用于对所述原始编码的视频流进行解码，得到解码后的视频流；
视频处理模块603，用于对所述解码后的视频流进行第一处理，得到第一视频流；所述第一处理包括至少一种图像处理；
滤镜处理模块604，用于截获所述视频处理模块输出的第一视频流，对所述第一视频流进行第二处理得到第二视频流，并将所述第二视频流输出到所述视频输出模块；所述第二处理包括渲染处理。
在本发明的一种可选实施例中，所述滤镜处理模块包括滤镜参数模块和滤镜主模块：
所述滤镜参数模块用于获取滤镜参数；
所述滤镜主模块用于根据所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流。
在本发明的一种可选实施例中，所述滤镜主模块用于截获所述视频处理模块输出的第一视频流。
在本发明的一种可选实施例中，所述滤镜处理模块还包括滤镜加载模块和滤镜子模块：
所述滤镜主模块用于控制所述滤镜加载模块加载与所述滤镜参数适配的滤镜子模块；
所述滤镜子模块用于采用所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流数据。
在本发明的一种可选实施例中，所述视联网终端包括图形二维加速引擎TDE加速模块和图形处理器GPU加速模块：
所述滤镜子模块用于调用所述TDE加速模块将所述第一视频流数据转换为红、绿、蓝色彩空间RGB格式的第一视频流数据；
所述滤镜子模块用于调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据进行第二处理，生成RGB格式的第二视频流数据；以及将所述RGB格式的第二视频流数据转换为亮度参量和色度参量分开表示的像素格式YUV格式的第二视频流数据。
在本发明的一种可选实施例中，所述滤镜子模块用于调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据按照视频帧图像顺序依次进行第二处理。
在本发明的一种可选实施例中，所述滤镜子模块用于将所述第二视频流输出到所述视频输出模块。
对于装置实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
本发明实施例还提供了一种装置，包括：
包括处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的计算机程序，该计算机程序被处理器执行时实现上述视联网终端的视频数据处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。
本发明实施例还提供了一种计算机可读存储介质，计算机可读存储介质上存储计算机程序，计算机程序被处理器执行时实现上述视联网终端的视频数据处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。
视联网是网络发展的重要里程碑，是一个实时网络，能够实现高清视频实时传输，将众多互联网应用推向高清视频化，高清面对面。
视联网采用实时高清视频交换技术，可以在一个网络平台上将所需的服务，如高清视频会议、视频监控、智能化监控分析、应急指挥、数字广播电视、延时电视、网络教学、现场直播、VOD点播、电视邮件、个性录制(PVR)、内网(自办)频道、智能化视频播控、信息发布等数十种视频、语音、图片、文字、通讯、数据等服务全部整合在一个系统平台，通过电视或电脑实现高清品质视频播放。
为使本领域技术人员更好地理解本发明实施例，以下对视联网进行介绍：
视联网所应用的部分技术如下所述：
网络技术(Network Technology)
视联网的网络技术创新改良了传统以太网(Ethernet)，以面对网络上潜在的巨大视频流量。不同于单纯的网络分组包交换(Packet Switching)或网络电路交换(CircuitSwitching)，视联网技术采用Packet Switching满足Streaming需求。视联网技术具备分组交换的灵活、简单和低价，同时具备电路交换的品质和安全保证，实现了全网交换式虚拟电路，以及数据格式的无缝连接。
交换技术(Switching Technology)
视联网采用以太网的异步和包交换两个优点，在全兼容的前提下消除了以太网缺陷，具备全网端到端无缝连接，直通用户终端，直接承载IP数据包。用户数据在全网范围内不需任何格式转换。视联网是以太网的更高级形态，是一个实时交换平台，能够实现目前互联网无法实现的全网大规模高清视频实时传输，将众多网络视频应用推向高清化、统一化。
服务器技术(Server Technology)
视联网和统一视频平台上的服务器技术不同于传统意义上的服务器，它的流媒体传输是建立在面向连接的基础上，其数据处理能力与流量、通讯时间无关，单个网络层就能够包含信令及数据传输。对于语音和视频业务来说，视联网和统一视频平台流媒体处理的复杂度比数据处理简单许多，效率比传统服务器大大提高了百倍以上。
储存器技术(Storage Technology)
统一视频平台的超高速储存器技术为了适应超大容量和超大流量的媒体内容而采用了最先进的实时操作系统，将服务器指令中的节目信息映射到具体的硬盘空间，媒体内容不再经过服务器，瞬间直接送达到用户终端，用户等待一般时间小于0.2秒。最优化的扇区分布大大减少了硬盘磁头寻道的机械运动，资源消耗仅占同等级IP互联网的20％，但产生大于传统硬盘阵列3倍的并发流量，综合效率提升10倍以上。
网络安全技术(Network Security Technology)
视联网的结构性设计通过每次服务单独许可制、设备与用户数据完全隔离等方式从结构上彻底根除了困扰互联网的网络安全问题，一般不需要杀毒程序、防火墙，杜绝了黑客与病毒的攻击，为用户提供结构性的无忧安全网络。
服务创新技术(Service Innovation Technology)
统一视频平台将业务与传输融合在一起，不论是单个用户、私网用户还是一个网络的总合，都不过是一次自动连接。用户终端、机顶盒或PC直接连到统一视频平台，获得丰富多彩的各种形态的多媒体视频服务。统一视频平台采用“菜谱式”配表模式来替代传统的复杂应用编程，可以使用非常少的代码即可实现复杂的应用，实现“无限量”的新业务创新。
视联网的组网如下所述：
视联网是一种集中控制的网络结构，该网络可以是树型网、星型网、环状网等等类型，但在此基础上网络中需要有集中控制节点来控制整个网络。
如图7所示，视联网分为接入网和城域网两部分。
接入网部分的设备主要可以分为3类：节点服务器，接入交换机，终端(包括各种机顶盒、编码板、存储器等)。节点服务器与接入交换机相连，接入交换机可以与多个终端相连，并可以连接以太网。
其中，节点服务器是接入网中起集中控制功能的节点，可控制接入交换机和终端。节点服务器可直接与接入交换机相连，也可以直接与终端相连。
类似的，城域网部分的设备也可以分为3类：城域服务器，节点交换机，节点服务器。城域服务器与节点交换机相连，节点交换机可以与多个节点服务器相连。
其中，节点服务器即为接入网部分的节点服务器，即节点服务器既属于接入网部分，又属于城域网部分。
城域服务器是城域网中起集中控制功能的节点，可控制节点交换机和节点服务器。城域服务器可直接连接节点交换机，也可直接连接节点服务器。
由此可见，整个视联网络是一种分层集中控制的网络结构，而节点服务器和城域服务器下控制的网络可以是树型、星型、环状等各种结构。
形象地称，接入网部分可以组成统一视频平台(虚线圈中部分)，多个统一视频平台可以组成视联网；每个统一视频平台可以通过城域以及广域视联网互联互通。
视联网设备分类
1.1本发明实施例的视联网中的设备主要可以分为3类：服务器，交换机(包括以太网网关)，终端(包括各种机顶盒，编码板，存储器等)。视联网整体上可以分为城域网(或者国家网、全球网等)和接入网。
1.2其中接入网部分的设备主要可以分为3类：节点服务器，接入交换机(包括以太网网关)，终端(包括各种机顶盒，编码板，存储器等)。
各接入网设备的具体硬件结构为：
节点服务器：
如图8所示，主要包括网络接口模块801、交换引擎模块802、CPU模块803、磁盘阵列模块804；
其中，网络接口模块801，CPU模块803、磁盘阵列模块804进来的包均进入交换引擎模块802；交换引擎模块802对进来的包进行查地址表805的操作，从而获得包的导向信息；并根据包的导向信息把该包存入对应的包缓存器806的队列；如果包缓存器806的队列接近满，则丢弃；交换引擎模802轮询所有包缓存器队列，如果满足以下条件进行转发：1)该端口发送缓存未满；2)该队列包计数器大于零。磁盘阵列模块804主要实现对硬盘的控制，包括对硬盘的初始化、读写等操作；CPU模块803主要负责与接入交换机、终端(图中未示出)之间的协议处理，对地址表805(包括下行协议包地址表、上行协议包地址表、数据包地址表)的配置，以及，对磁盘阵列模块804的配置。
接入交换机：
如图9所示，主要包括网络接口模块(下行网络接口模块901、上行网络接口模块902)、交换引擎模块903和CPU模块904；
其中，下行网络接口模块901进来的包(上行数据)进入包检测模块905；包检测模块905检测包的目地地址(DA)、源地址(SA)、数据包类型及包长度是否符合要求，如果符合，则分配相应的流标识符(stream-id)，并进入交换引擎模块903，否则丢弃；上行网络接口模块902进来的包(下行数据)进入交换引擎模块903；CPU模块904进来的数据包进入交换引擎模块903；交换引擎模块903对进来的包进行查地址表906的操作，从而获得包的导向信息；如果进入交换引擎模块903的包是下行网络接口往上行网络接口去的，则结合流标识符(stream-id)把该包存入对应的包缓存器907的队列；如果该包缓存器907的队列接近满，则丢弃；如果进入交换引擎模块903的包不是下行网络接口往上行网络接口去的，则根据包的导向信息，把该数据包存入对应的包缓存器907的队列；如果该包缓存器907的队列接近满，则丢弃。
交换引擎模块903轮询所有包缓存器队列，在本发明实施例中分两种情形：
如果该队列是下行网络接口往上行网络接口去的，则满足以下条件进行转发：1)该端口发送缓存未满；2)该队列包计数器大于零；3)获得码率控制模块产生的令牌；
如果该队列不是下行网络接口往上行网络接口去的，则满足以下条件进行转发：1)该端口发送缓存未满；2)该队列包计数器大于零。
码率控制模块908是由CPU模块904来配置的，在可编程的间隔内对所有下行网络接口往上行网络接口去的包缓存器队列产生令牌，用以控制上行转发的码率。
CPU模块904主要负责与节点服务器之间的协议处理，对地址表906的配置，以及，对码率控制模块908的配置。
以太网协转网关：
如图10所示，主要包括网络接口模块(下行网络接口模块1001、上行网络接口模块1002)、交换引擎模块1003、CPU模块1004、包检测模块1005、码率控制模块1008、地址表1006、包缓存器1007和MAC添加模块1009、MAC删除模块1010。
其中，下行网络接口模块1001进来的数据包进入包检测模块1005；包检测模块1005检测数据包的以太网MAC DA、以太网MAC SA、以太网length or frame type、视联网目地地址DA、视联网源地址SA、视联网数据包类型及包长度是否符合要求，如果符合则分配相应的流标识符(stream-id)；然后，由MAC删除模块1010减去MAC DA、MAC SA、length orframe type(2byte)，并进入相应的接收缓存，否则丢弃；
下行网络接口模块1001检测该端口的发送缓存，如果有包则根据包的视联网目地地址DA获知对应的终端的以太网MAC DA，添加终端的以太网MAC DA、以太网协转网关的MACSA、以太网length or frame type，并发送。
以太网协转网关中其他模块的功能与接入交换机类似。
终端：
主要包括网络接口模块、业务处理模块和CPU模块；例如，机顶盒主要包括网络接口模块、视音频编解码引擎模块、CPU模块；编码板主要包括网络接口模块、视音频编码引擎模块、CPU模块；存储器主要包括网络接口模块、CPU模块和磁盘阵列模块。
1.3城域网部分的设备主要可以分为2类：节点服务器，节点交换机，城域服务器。其中，节点交换机主要包括网络接口模块、交换引擎模块和CPU模块；城域服务器主要包括网络接口模块、交换引擎模块和CPU模块构成。
2、视联网数据包定义
2.1接入网数据包定义
接入网的数据包主要包括以下几部分：目的地址(DA)、源地址(SA)、保留字节、payload(PDU)、CRC。
如下表所示，接入网的数据包主要包括以下几部分：
DA SA Reserved Payload CRC
其中：
目的地址(DA)由8个字节(byte)组成，第一个字节表示数据包的类型(例如各种协议包、组播数据包、单播数据包等)，最多有256种可能，第二字节到第六字节为城域网地址，第七、第八字节为接入网地址；
源地址(SA)也是由8个字节(byte)组成，定义与目的地址(DA)相同；
保留字节由2个字节组成；
payload部分根据不同的数据报的类型有不同的长度，如果是各种协议包的话是64个字节，如果是单组播数据包话是32+1024＝1056个字节，当然并不仅仅限于以上2种；
CRC有4个字节组成，其计算方法遵循标准的以太网CRC算法。
2.2城域网数据包定义
城域网的拓扑是图型，两个设备之间可能有2种、甚至2种以上的连接，即节点交换机和节点服务器、节点交换机和节点交换机、节点交换机和节点服务器之间都可能超过2种连接。但是，城域网设备的城域网地址却是唯一的，为了精确描述城域网设备之间的连接关系，在本发明实施例中引入参数：标签，来唯一描述一个城域网设备。
本说明书中标签的定义和MPLS(Multi-Protocol Label Switch，多协议标签交换)的标签的定义类似，假设设备A和设备B之间有两个连接，那么数据包从设备A到设备B就有2个标签，数据包从设备B到设备A也有2个标签。标签分入标签、出标签，假设数据包进入设备A的标签(入标签)是0x0000，这个数据包离开设备A时的标签(出标签)可能就变成了0x0001。城域网的入网流程是集中控制下的入网过程，也就意味着城域网的地址分配、标签分配都是由城域服务器主导的，节点交换机、节点服务器都是被动的执行而已，这一点与MPLS的标签分配是不同的，MPLS的标签分配是交换机、服务器互相协商的结果。
如下表所示，城域网的数据包主要包括以下几部分：
DA SA Reserved 标签 Payload CRC
即目的地址(DA)、源地址(SA)、保留字节(Reserved)、标签、payload(PDU)、CRC。其中，标签的格式可以参考如下定义：标签是32bit，其中高16bit保留，只用低16bit，它的位置是在数据包的保留字节和payload之间。
基于视联网的上述特性，提出了本发明实施例的核心构思之一，遵循视联网的协议，针对目前视联网终端并不具备灵活、实时的视频渲染功能的问题，通过新增滤镜处理模块，通过滤镜处理模块截获视频处理模块输出的第一视频流，对第一视频流进行第二处理得到第二视频流进行输出显示，在视联网终端新增了对视频流数据进行实时渲染的功能。另外通过TDE加速模块将第一视频流数据转换为RGB格式的第一视频流数据；GPU加速模块调用预置的嵌入式系统的开放图形库OpenGL ES，采用滤镜参数，对RGB格式的第一视频流数据按照视频帧图像顺序依次进行第二处理，生成RGB格式的第二视频流数据，然后将RGB格式的第二视频流数据转换为YUV格式的第二视频流数据进行输出显示，引入OpenGL ES视频加速渲染技术，并结合视联网终端内部的TDE、GPU等加速硬件模块，对视频流数据按照视频帧图像顺序依次进行渲染处理，可以在充分发挥内建硬件能力的基础上，降低视频帧处理延时，在保证一定帧率的条件下，实现滤镜渲染后的视频输出。
本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白，本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此，本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上，使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明实施例的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本发明所提供的一种视联网终端的视频数据处理方法和一种视联网终端的视频数据处理装置，进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种视联网终端的视频数据处理方法，其特征在于，所述视联网终端包括：视频采集模块、视频解码模块、视频处理模块、滤镜处理模块以及视频输出模块，所述方法包括：
所述视频采集模块采集原始编码的视频流；
所述视频解码模块对所述原始编码的视频流进行解码，得到解码后的视频流；
所述视频处理模块对所述解码后的视频流进行第一处理，得到第一视频流；所述第一处理包括至少一种图像处理；
所述滤镜处理模块截获所述视频处理模块输出的第一视频流，对所述第一视频流进行第二处理得到第二视频流，并将所述第二视频流输出到所述视频输出模块；所述第二处理包括渲染处理。
2.根据权利要求1所述的方法，其特征在于，所述滤镜处理模块包括滤镜参数模块和滤镜主模块，所述滤镜处理模块对所述第一视频流进行第二处理得到第二视频流包括：
所述滤镜参数模块获取滤镜参数；
所述滤镜主模块根据所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流。
3.根据权利要求2所述的方法，其特征在于，所述滤镜处理模块截获所述视频处理模块输出的第一视频流包括：
所述滤镜主模块截获所述视频处理模块输出的第一视频流。
4.根据权利要求2所述的方法，其特征在于，所述滤镜处理模块还包括滤镜加载模块和滤镜子模块，所述滤镜主模块根据所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流包括：
所述滤镜主模块控制所述滤镜加载模块加载与所述滤镜参数适配的滤镜子模块；
所述滤镜子模块采用所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流数据。
5.根据权利要求4所述的方法，其特征在于，所述视联网终端包括图形二维加速引擎TDE加速模块和图形处理器GPU加速模块，所述滤镜子模块采用所述滤镜参数，对所述第一视频流数据进行第二处理得到第二视频流数据包括：
所述滤镜子模块调用所述TDE加速模块将所述第一视频流数据转换为红、绿、蓝色彩空间RGB格式的第一视频流数据；
所述滤镜子模块调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据进行第二处理，生成RGB格式的第二视频流数据；以及将所述RGB格式的第二视频流数据转换为亮度参量和色度参量分开表示的像素格式YUV格式的第二视频流数据。
6.根据权利要求5所述的方法，其特征在于，所述滤镜子模块调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据进行第二处理包括：
所述滤镜子模块调用预置的嵌入式系统的开放图形库，通过使用所述GPU加速模块，采用所述滤镜参数，对所述RGB格式的第一视频流数据按照视频帧图像顺序依次进行第二处理。
7.根据权利要求1所述的方法，其特征在于，所述滤镜处理模块将所述第二视频流输出到所述视频输出模块包括：
所述滤镜子模块将所述第二视频流输出到所述视频输出模块。
8.一种视联网终端，其特征在于，包括：视频采集模块、视频解码模块、视频处理模块、滤镜处理模块以及视频输出模块：
所述视频采集模块用于采集原始编码的视频流；
所述视频解码模块用于对所述原始编码的视频流进行解码，得到解码后的视频流；
所述视频处理模块用于对所述解码后的视频流进行第一处理，得到第一视频流；所述第一处理包括至少一种图像处理；
所述滤镜处理模块用于截获所述视频处理模块输出的第一视频流，对所述第一视频流进行第二处理得到第二视频流，并将所述第二视频流输出到所述视频输出模块；所述第二处理包括渲染处理。
9.一种装置，其特征在于，包括：处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1-7中任一项所述的视联网终端的视频数据处理方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的视联网终端的视频数据处理方法的步骤。
CN201911421788.2A 2019-12-31 2019-12-31 一种视联网终端的视频数据处理方法和装置 Pending CN111147801A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911421788.2A CN111147801A (zh) 2019-12-31 2019-12-31 一种视联网终端的视频数据处理方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911421788.2A CN111147801A (zh) 2019-12-31 2019-12-31 一种视联网终端的视频数据处理方法和装置

Publications (1)

Publication Number Publication Date
CN111147801A true CN111147801A (zh) 2020-05-12

Family

ID=70523030

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911421788.2A Pending CN111147801A (zh) 2019-12-31 2019-12-31 一种视联网终端的视频数据处理方法和装置

Country Status (1)

Country Link
CN (1) CN111147801A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112866814A (zh) * 2020-12-30 2021-05-28 广州虎牙科技有限公司 一种音视频加工的方法及装置
CN113766146A (zh) * 2021-09-07 2021-12-07 北京百度网讯科技有限公司 音视频处理方法、装置、电子设备、存储介质及程序产品
CN113949820A (zh) * 2020-07-15 2022-01-18 北京破壁者科技有限公司 特效处理方法、装置、电子设备和存储介质
CN115379207A (zh) * 2022-08-24 2022-11-22 中国第一汽车股份有限公司 摄像头模拟方法、装置、电子设备及可读介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104244087A (zh) * 2014-09-19 2014-12-24 青岛海信移动通信技术股份有限公司 一种视频渲染的方法及设备
CN105872496A (zh) * 2016-07-01 2016-08-17 黄岩 一种超高清视频融合方法
CN107277436A (zh) * 2016-04-09 2017-10-20 上海久畅信息技术有限公司 基于网络视频流的画面处理方法及系统
CN108134916A (zh) * 2016-12-01 2018-06-08 北京视联动力国际信息技术有限公司 一种4k终端和4k终端的数据处理方法
CN108337465A (zh) * 2017-02-09 2018-07-27 腾讯科技（深圳）有限公司 视频处理方法和装置
CN109361945A (zh) * 2018-10-18 2019-02-19 广州市保伦电子有限公司 一种快速传输及同步的会议视听系统及其控制方法
CN109840879A (zh) * 2017-11-28 2019-06-04 腾讯科技（深圳）有限公司 图像渲染方法、装置、计算机存储介质及终端
CN110149306A (zh) * 2019-04-02 2019-08-20 视联动力信息技术股份有限公司 一种媒体数据的处理方法及装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104244087A (zh) * 2014-09-19 2014-12-24 青岛海信移动通信技术股份有限公司 一种视频渲染的方法及设备
CN107277436A (zh) * 2016-04-09 2017-10-20 上海久畅信息技术有限公司 基于网络视频流的画面处理方法及系统
CN105872496A (zh) * 2016-07-01 2016-08-17 黄岩 一种超高清视频融合方法
CN108134916A (zh) * 2016-12-01 2018-06-08 北京视联动力国际信息技术有限公司 一种4k终端和4k终端的数据处理方法
CN108337465A (zh) * 2017-02-09 2018-07-27 腾讯科技（深圳）有限公司 视频处理方法和装置
CN109840879A (zh) * 2017-11-28 2019-06-04 腾讯科技（深圳）有限公司 图像渲染方法、装置、计算机存储介质及终端
CN109361945A (zh) * 2018-10-18 2019-02-19 广州市保伦电子有限公司 一种快速传输及同步的会议视听系统及其控制方法
CN110149306A (zh) * 2019-04-02 2019-08-20 视联动力信息技术股份有限公司 一种媒体数据的处理方法及装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113949820A (zh) * 2020-07-15 2022-01-18 北京破壁者科技有限公司 特效处理方法、装置、电子设备和存储介质
CN112866814A (zh) * 2020-12-30 2021-05-28 广州虎牙科技有限公司 一种音视频加工的方法及装置
CN113766146A (zh) * 2021-09-07 2021-12-07 北京百度网讯科技有限公司 音视频处理方法、装置、电子设备、存储介质及程序产品
JP2022111205A (ja) * 2021-09-07 2022-07-29 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド オーディオ／ビデオの処理方法、処理装置、電子機器、記憶媒体およびコンピュータプログラム
CN113766146B (zh) * 2021-09-07 2022-09-16 北京百度网讯科技有限公司 音视频处理方法、装置、电子设备及存储介质
US11863842B2 (en) 2021-09-07 2024-01-02 Beijing Baidu Netcom Science Technology Co., Ltd. Method and apparatus for processing audio and video, electronic device and storage medium
CN115379207A (zh) * 2022-08-24 2022-11-22 中国第一汽车股份有限公司 摄像头模拟方法、装置、电子设备及可读介质

Similar Documents

Publication Publication Date Title
CN111147801A (zh) 一种视联网终端的视频数据处理方法和装置
CN109495713B (zh) 一种基于视联网的视频会议控制方法和装置
CN109302455B (zh) 一种视联网的数据处理方法和装置
CN114600468B (zh) 将复合视频流中的视频流与元数据组合的组合器系统、接收器设备、计算机实现的方法和计算机可读介质
CN110049271B (zh) 一种视联网会议信息展示方法及装置
CN111107299A (zh) 一种多路视频合成的方法及装置
CN111510759A (zh) 视频显示方法、装置及可读存储介质
CN111131754A (zh) 一种会议管理系统的控制分屏方法及装置
CN113194278A (zh) 一种会议控制方法、装置及计算机可读存储介质
CN111124333A (zh) 电子白板显示内容同步的方法、装置、设备以及存储介质
CN112866725A (zh) 一种直播控制方法及装置
CN110049268B (zh) 一种可视电话连接方法及装置
CN111210462A (zh) 一种报警方法及装置
CN110769179B (zh) 一种音视频数据流的处理方法和系统
CN110830750A (zh) 一种基于视联网的数据传输方法和装置
CN110659080B (zh) 页面显示方法、装置、电子设备及存储介质
CN109768964B (zh) 音视频显示方法和装置
CN108632635B (zh) 一种基于视联网的数据处理方法和装置
CN108881793B (zh) 一种视联网的数据处理方法和装置
CN111246153A (zh) 视频会议建立方法、装置、电子设备及可读存储介质
CN108989737B (zh) 一种数据播放方法、装置和电子设备
CN110795008B (zh) 图片传输方法、装置及计算机可读存储介质
CN110572608B (zh) 一种帧率设置方法、装置、电子设备及存储介质
CN113315940A (zh) 一种视频通话方法、装置及计算机可读存储介质
CN110139061B (zh) 一种视频流分屏展示方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20200512

RJ01 Rejection of invention patent application after publication