CN117119223B - 基于多通道传输的视频流播放控制方法及系统 - Google Patents

基于多通道传输的视频流播放控制方法及系统 Download PDF

Info

Publication number
CN117119223B
CN117119223B CN202311369252.7A CN202311369252A CN117119223B CN 117119223 B CN117119223 B CN 117119223B CN 202311369252 A CN202311369252 A CN 202311369252A CN 117119223 B CN117119223 B CN 117119223B
Authority
CN
China
Prior art keywords
video stream
frame
video
processed
damaged
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311369252.7A
Other languages
English (en)
Other versions
CN117119223A (zh
Inventor
冯啸
庞志斌
郭智欣
安彤
魏永鹏
石晓莹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianjin Hualai Technology Co Ltd
Original Assignee
Tianjin Hualai Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin Hualai Technology Co Ltd filed Critical Tianjin Hualai Technology Co Ltd
Priority to CN202311369252.7A priority Critical patent/CN117119223B/zh
Publication of CN117119223A publication Critical patent/CN117119223A/zh
Application granted granted Critical
Publication of CN117119223B publication Critical patent/CN117119223B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2385Channel allocation; Bandwidth allocation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2402Monitoring of the downstream path of the transmission network, e.g. bandwidth available
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/647Control signaling between network components and server or clients; Network processes for video distribution between server and clients, e.g. controlling the quality of the video stream, by dropping packets, protecting content from unauthorised alteration within the network, monitoring of network load, bridging between two different networks, e.g. between IP and wireless
    • H04N21/64723Monitoring of network processes or resources, e.g. monitoring of network load
    • H04N21/64738Monitoring network characteristics, e.g. bandwidth, congestion level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Security & Cryptography (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明涉及视频播放控制技术领域,公开了一种基于多通道传输的视频流播放控制方法及系统,用于提高视频流播放控制的准确率。包括:将多个待处理视频流发送至多个视频流传输通道进行视频流传输,对至少一个损坏帧视频流进行填充帧生成,得到至少一个损坏帧视频流对应的填充帧数据;对至少一个损坏帧视频流进行填充帧插入,得到至少一个填充视频流;将每个视频流传输通道的带宽数据及丢包率输入解码速率预测模型进行解码速率预测,得到每个目标视频流的第一解码速率及至少一个填充视频流的第二解码速率;对每个目标视频流进行解码渲染,基于至少一个填充视频流的第二解码速率对至少一个填充视频流进行解码渲染。

Description

基于多通道传输的视频流播放控制方法及系统
技术领域
本发明涉及视频播放控制技术领域,尤其涉及一种基于多通道传输的视频流播放控制方法及系统。
背景技术
目前市面上的家用智能摄像机等设备广泛应用于实时监控、家庭安全、婴儿监护等场景。用户通常使用智能手机或电脑等设备通过互联网实时观看家中或其他地方的实时音视频流。为了实现这一功能,通常需要使用第三方播放器来解码和渲染实时音视频流。
在传统播放方式下,实时音视频流的传输和解码过程可能引发较高的延迟。这会导致用户观看实时画面时存在明显的时间滞后,不符合实时监控的要求。 由于网络带宽波动或丢包等原因,实时音视频流在传输过程中可能出现花屏或画质模糊等问题,降低了观看体验。
发明内容
有鉴于此,本发明实施例提供了一种基于多通道传输的视频流播放控制方法及系统,用于提高视频流播放控制的准确率。
本发明提供了一种基于多通道传输的视频流播放控制方法,包括:
基于预设的视频源数量,从预置的多个视频源采集多个待处理视频流,同时,对多个所述待处理视频流进行帧头信息解析,得到每个所述待处理视频流的目标帧头信息;基于所述视频源数量构建多个视频流传输通道,并将多个所述待处理视频流发送至多个所述视频流传输通道进行视频流传输,同时,在视频流传输过程中实时监测每个所述视频流传输通道的网络性能参数,其中,每个所述视频流传输通道的网络性能参数包括:每个所述视频流传输通道的带宽数据以及丢包率;通过每个所述待处理视频流的目标帧头信息对每个所述待处理视频流进行损坏帧检测,得到每个所述待处理视频流的损坏帧检测结果;当至少一个所述待处理视频流存在损坏帧时,标定至少一个损坏帧视频流以及多个目标视频流,同时,通过预置的填充帧生成策略对至少一个所述损坏帧视频流进行填充帧生成,得到至少一个所述损坏帧视频流对应的填充帧数据;通过至少一个所述损坏帧视频流对应的填充帧数据,对至少一个所述损坏帧视频流进行填充帧插入,得到至少一个填充视频流;将每个所述视频流传输通道的带宽数据以及丢包率输入预置的解码速率预测模型进行解码速率预测,得到每个所述目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率;基于每个所述目标视频流的第一解码速率分别对每个所述目标视频流进行解码并渲染,同时,基于至少一个填充视频流的第二解码速率对至少一个填充视频流进行解码并渲染。
在本发明中,所述基于预设的视频源数量,从预置的多个视频源采集多个待处理视频流,同时,对多个所述待处理视频流进行帧头信息解析,得到每个所述待处理视频流的目标帧头信息步骤,包括:通过所述视频源数量,从多个所述视频源采集多个待处理视频流;对多个所述待处理视频流进行帧类型分析,得到每个所述待处理视频流的视频帧类型;对多个所述待处理视频流进行帧大小分析,得到每个所述待处理视频流的帧大小数据集;对多个所述待处理视频流进行时间戳提取,得到每个所述待处理视频流的时间戳数据;分别将每个所述待处理视频流的视频帧类型、每个所述待处理视频流的帧大小数据集以及每个所述待处理视频流的时间戳数据进行数据合并,得到每个所述待处理视频流的目标帧头信息。
在本发明中,所述基于所述视频源数量构建多个视频流传输通道,并将多个所述待处理视频流发送至多个所述视频流传输通道进行视频流传输,同时,在视频流传输过程中实时监测每个所述视频流传输通道的网络性能参数,其中,每个所述视频流传输通道的网络性能参数包括:每个所述视频流传输通道的带宽数据以及丢包率步骤,包括:基于所述视频源数量构建多个候选视频流传输通道;通过每个所述待处理视频流分别对每个所述视频流传输通道进行传输协议匹配,得到每个所述候选视频流传输通道的目标传输协议;基于每个所述候选视频流传输通道的目标传输协议,分别对每个所述候选视频流传输通道进行协议配置,得到多个所述视频流传输通道,并将多个所述待处理视频流发送至多个所述视频流传输通道进行视频流传输;对每个所述视频流传输通道进行监测点构建,得到每个所述视频流传输通道的多个网络监测点;基于每个所述视频流传输通道的多个网络监测点,对每个所述视频流传输通道进行网络数据包采集,得到每个所述视频流传输通道的网络数据包;对每个所述视频流传输通道的网络数据包进行网络性能参数提取,得到每个所述视频流传输通道的网络性能参数,其中,每个所述视频流传输通道的网络性能参数包括:每个所述视频流传输通道的带宽数据以及丢包率。
在本发明中,所述通过每个所述待处理视频流的目标帧头信息对每个所述待处理视频流进行损坏帧检测,得到每个所述待处理视频流的损坏帧检测结果步骤,包括:通过预置的循环冗余检查算法,对每个所述待处理视频流的视频帧类型、每个所述待处理视频流的帧大小数据集以及每个所述待处理视频流的时间戳数据进行校验和值计算,得到每个所述待处理视频流的待比对校验和值;对每个所述待处理视频流的视频帧类型、每个所述待处理视频流的帧大小数据集以及每个所述待处理视频流的时间戳数据进行校验和值提取,得到每个所述待处理视频流的当前校验和值;对每个所述待处理视频流的待比对校验和值以及每个所述待处理视频流的当前校验和值进行数据比对,得到数据比对结果;基于所述数据比对结果生成每个所述待处理视频流的损坏帧检测结果。
在本发明中,所述当至少一个所述待处理视频流存在损坏帧时,标定至少一个损坏帧视频流以及多个目标视频流,同时,通过预置的填充帧生成策略对至少一个所述损坏帧视频流进行填充帧生成,得到至少一个所述损坏帧视频流对应的填充帧数据步骤,包括:当至少一个所述待处理视频流存在损坏帧时,标定至少一个所述损坏帧视频流以及多个目标视频流;对至少一个所述损坏帧视频流进行损坏帧定位,得到至少一个所述损坏帧视频流对应的损坏帧位置信息;基于至少一个所述损坏帧视频流对应的损坏帧位置信息,对至少一个所述损坏帧视频流进行相邻帧提取,得到至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据;基于至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据,通过所述填充帧生成策略对至少一个所述损坏帧视频流的损坏帧进行模拟帧生成,得到至少一个所述损坏帧视频流的填充帧数据。
在本发明中,所述基于至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据,通过所述填充帧生成策略对至少一个所述损坏帧视频流的损坏帧进行模拟帧生成,得到至少一个所述损坏帧视频流的填充帧数据步骤,包括:对至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据进行帧内元数据提取,得到至少一个所述损坏帧视频流对应的帧内元数据;对至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据进行颜色信息提取,得到至少一个所述损坏帧视频流对应的颜色数据;对至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据进行运动向量分析,得到至少一个所述损坏帧视频流对应的运动向量数据;基于至少一个所述损坏帧视频流对应的帧内元数据、至少一个所述损坏帧视频流对应的颜色数据以及至少一个所述损坏帧视频流对应的运动向量数据,通过所述填充帧生成策略对至少一个所述损坏帧视频流的损坏帧进行模拟帧生成,得到至少一个所述损坏帧视频流的填充帧数据。
在本发明中,所述将每个所述视频流传输通道的带宽数据以及丢包率输入预置的解码速率预测模型进行解码速率预测,得到每个所述目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率步骤,包括:将每个所述视频流传输通道的带宽数据以及丢包率输入所述解码速率预测模型的特征提取层进行特征提取,得到对应的特征向量集合;将所述特征向量集合输入所述解码速率预测模型的第一卷积层进行卷积处理,得到第一映射特征集合;将所述特征向量集合输入所述解码速率预测模型的第二卷积层进行卷积处理,得到第二映射特征集合;将所述第二映射特征集合输入所述解码速率预测模型的池化层进行最大池化处理,得到池化特征集合;将所述映射特征集合输入所述解码速率预测模型的全连接层进行解码速率预测,得到每个所述目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率。
本发明还提供了一种基于多通道传输的视频流播放控制系统,包括:
解析模块,用于基于预设的视频源数量,从预置的多个视频源采集多个待处理视频流,同时,对多个所述待处理视频流进行帧头信息解析,得到每个所述待处理视频流的目标帧头信息;
传输模块,用于基于所述视频源数量构建多个视频流传输通道,并将多个所述待处理视频流发送至多个所述视频流传输通道进行视频流传输,同时,在视频流传输过程中实时监测每个所述视频流传输通道的网络性能参数,其中,每个所述视频流传输通道的网络性能参数包括:每个所述视频流传输通道的带宽数据以及丢包率;
检测模块,用于通过每个所述待处理视频流的目标帧头信息对每个所述待处理视频流进行损坏帧检测,得到每个所述待处理视频流的损坏帧检测结果;
生成模块,用于当至少一个所述待处理视频流存在损坏帧时,标定至少一个损坏帧视频流以及多个目标视频流,同时,通过预置的填充帧生成策略对至少一个所述损坏帧视频流进行填充帧生成,得到至少一个所述损坏帧视频流对应的填充帧数据;
插入模块,用于通过至少一个所述损坏帧视频流对应的填充帧数据,对至少一个所述损坏帧视频流进行填充帧插入,得到至少一个填充视频流;
预测模块,用于将每个所述视频流传输通道的带宽数据以及丢包率输入预置的解码速率预测模型进行解码速率预测,得到每个所述目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率;
渲染模块,用于基于每个所述目标视频流的第一解码速率分别对每个所述目标视频流进行解码并渲染,同时,基于至少一个填充视频流的第二解码速率对至少一个填充视频流进行解码并渲染。
本发明提供的技术方案中,采集多个待处理视频流,对多个待处理视频流进行帧头信息解析,得到每个待处理视频流的目标帧头信息;构建多个视频流传输通道,将多个待处理视频流发送至多个视频流传输通道进行视频流传输,在视频流传输过程中实时监测每个视频流传输通道的网络性能参数,对每个待处理视频流进行损坏帧检测,得到每个待处理视频流的损坏帧检测结果;标定至少一个损坏帧视频流及多个目标视频流,通过填充帧生成策略对至少一个损坏帧视频流进行填充帧生成,得到至少一个损坏帧视频流对应的填充帧数据;对至少一个损坏帧视频流进行填充帧插入,得到至少一个填充视频流;将每个视频流传输通道的带宽数据及丢包率输入解码速率预测模型进行解码速率预测,得到每个目标视频流的第一解码速率及至少一个填充视频流的第二解码速率;对每个目标视频流进行解码渲染,基于至少一个填充视频流的第二解码速率对至少一个填充视频流进行解码渲染。在本申请方案中,通过实时监测每个视频流传输通道的网络性能参数,可以及时发现网络问题,例如带宽波动或丢包情况,从而采取相应措施来保证视频传输的稳定性和质量。对每个待处理视频流进行损坏帧检测,可以有效地识别并过滤掉传输中可能出现的损坏帧,从而提高了最终视频的质量和观看体验。通过填充帧生成策略对损坏帧视频流进行填充帧生成,可以在播放视频时避免出现突兀的画面跳动或停滞,提供更加平滑的观看体验。通过输入带宽数据和丢包率到解码速率预测模型,可以智能地调整解码速率,以适应当前网络条件,从而保证目标视频流的连续播放,并确保填充视频流的填充帧数据也能够及时解码渲染。基于至少一个填充视频流的第二解码速率,可以更好地分配资源,以确保目标视频流的优先渲染,同时也保证填充视频流的渲染质量。这有助于提供更平滑、更高质量的观看体验,减少用户感知到的卡顿或画质问题。能够同时处理多个待处理视频流,通过构建多个视频流传输通道,可以更有效地传输多个视频流,减少了传输时的拥塞和延迟,提高了数据传输的效率以及视频播放控制的准确率。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例中一种基于多通道传输的视频流播放控制方法的流程图。
图2为本发明实施例中基于视频源数量构建多个视频流传输通道的流程图。
图3为本发明实施例中一种基于多通道传输的视频流播放控制系统的示意图。
附图标记:
301、解析模块;302、传输模块;303、检测模块;304、生成模块;305、插入模块;306、预测模块;307、渲染模块。
具体实施方式
下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
此外,下面所描述的本发明不同实施方式中所涉及的技术特征只要彼此之间未构成冲突就可以相互结合。
为便于理解,下面对本发明实施例的具体流程进行描述,请参阅图1,图1是本发明实施例的一种基于多通道传输的视频流播放控制方法的流程图,如图1所示,包括以下步骤:
S101、基于预设的视频源数量,从预置的多个视频源采集多个待处理视频流,同时,对多个待处理视频流进行帧头信息解析,得到每个待处理视频流的目标帧头信息;
需要说明的是,视频源可以是摄像头、网络摄像头、文件等。从预置的视频源中采集的视频数据流。每个视频源可能产生一个或多个待处理视频流,具体数量取决于源的类型和配置。进而对每个视频流中的帧头数据进行解析,最终得到每个待处理视频流的目标帧头信息。其中,目标帧头信息包含关于视频帧的元数据,如分辨率、帧率、时间戳等。
S102、基于视频源数量构建多个视频流传输通道,并将多个待处理视频流发送至多个视频流传输通道进行视频流传输,同时,在视频流传输过程中实时监测每个视频流传输通道的网络性能参数,其中,每个视频流传输通道的网络性能参数包括:每个视频流传输通道的带宽数据以及丢包率;
具体的, 根据视频源数量,构建多个视频流传输通道。每个通道用于传输一个待处理视频流。需要说明的是,视频流传输通道可以是网络连接、数据流通道或其他通信通道。将每个待处理视频流发送至相应的视频流传输通道,以进行视频流传输。在视频流传输过程中,实时监测每个视频流传输通道的网络性能参数,包括带宽数据和丢包率。
例如,假设建立了一个视频会议系统,其中有4个参与者,每个参与者都有一个本地摄像头。系统需要将每个参与者的视频流发送给其他参与者,并在传输过程中监测网络性能参数。根据参与者数量,构建4个视频流传输通道,每个通道用于传输一个参与者的视频流。这些通道可以是网络连接或专用传输通道。每个参与者的本地摄像头产生一个待处理视频流。这些视频流被发送到相应的视频流传输通道,以便在会议中传输给其他参与者。在视频流传输过程中,实时监测每个视频流传输通道的网络性能参数。这包括:使用网络监测工具或协议来测量每个通道上的带宽利用率。例如,通道1有10 Mbps的带宽,通道2有8Mbps,通道3有12 Mbps,通道4有9 Mbps。
S103、通过每个待处理视频流的目标帧头信息对每个待处理视频流进行损坏帧检测,得到每个待处理视频流的损坏帧检测结果;
首先,从每个待处理视频流中提取帧头数据,这些数据通常包含了有关视频帧的元信息,例如帧类型、帧大小和时间戳。使用预置的循环冗余检查 (CRC) 算法,对每个待处理视频流的帧类型、帧大小数据集和时间戳数据进行校验和值计算。这将产生一个待比对的校验和值。对于每个待处理视频流,从帧头数据中提取当前校验和值。这是在帧传输过程中计算的实际校验和值。将待比对的校验和值与当前校验和值进行比对。如果它们匹配,表明该帧在传输过程中没有受损或丢失。如果不匹配,表明该帧在传输中发生了损坏或丢失。基于数据比对结果,生成每个待处理视频流的损坏帧检测结果。如果数据比对失败,帧被标记为损坏,否则被标记为正常。
S104、当至少一个待处理视频流存在损坏帧时,标定至少一个损坏帧视频流以及多个目标视频流,同时,通过预置的填充帧生成策略对至少一个损坏帧视频流进行填充帧生成,得到至少一个损坏帧视频流对应的填充帧数据;
具体的, 需要检测待处理视频流中是否存在损坏帧。如果至少一个待处理视频流包含损坏帧,就需要标定这些损坏帧视频流以及多个目标视频流。标定的目的是确定哪些视频流中的帧需要进行填充。对于标定的损坏帧视频流,需要进一步进行损坏帧定位,以确定每个损坏帧的具体位置信息。对于每个损坏帧,需要提取其相邻帧数据。相邻帧是在时间上紧邻损坏帧的正常帧。定义预置的填充帧生成策略,填充帧生成策略是根据相邻帧数据和损坏帧位置信息来生成填充帧。填充帧的生成可以采用插值、复制相邻帧数据等方法,以尽量减少损坏帧的影响。根据填充帧生成策略,对每个损坏帧视频流的损坏帧进行模拟帧生成,得到相应的填充帧数据。这些填充帧将用于替代损坏帧,以提供连续的视频流。
S105、通过至少一个损坏帧视频流对应的填充帧数据,对至少一个损坏帧视频流进行填充帧插入,得到至少一个填充视频流;
首先,选择至少一个损坏帧视频流,这是帧数据已经损坏的视频流。然后,准备好与这个损坏帧视频流对应的填充帧数据,将选择的填充帧数据插入到损坏帧视频流中,以替代损坏的帧。这可以通过将填充帧的数据插入到视频流的适当位置来实现。将经过填充帧插入处理的视频流称为填充视频流。这个填充视频流包含了填充帧数据,以及原始视频流中的正常帧。
S106、将每个视频流传输通道的带宽数据以及丢包率输入预置的解码速率预测模型进行解码速率预测,得到每个目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率;
具体的,从每个视频流传输通道中获取带宽数据和丢包率数据。将带宽数据和丢包率数据输入解码速率预测模型的特征提取层。在这一步,将原始数据转换为模型可以理解的特征向量。这些特征向量包括带宽、丢包率等网络性能参数的表示。将特征向量集合输入解码速率预测模型的第一卷积层进行卷积处理。卷积层用于提取特征的空间信息和关联性。将特征向量集合输入解码速率预测模型的第二卷积层进行更深层次的卷积处理。这有助于进一步提取特征,使模型能够理解输入数据中的更多信息。将卷积处理后的特征集合输入解码速率预测模型的池化层进行最大池化处理。这一步将减少数据的维度,同时保留最重要的信息,以提高模型的效率。将池化特征集合输入解码速率预测模型的全连接层进行解码速率预测。在全连接层中,模型将学习如何根据输入的网络性能参数来预测每个目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率。从模型中获取预测的解码速率结果,这将包括每个目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率。
S107、基于每个目标视频流的第一解码速率分别对每个目标视频流进行解码并渲染,同时,基于至少一个填充视频流的第二解码速率对至少一个填充视频流进行解码并渲染。
需要说明的是,解码是将视频流的编码数据转换回原始图像数据的过程。在视频传输中,视频流通常以压缩格式(如H.264)编码,解码是将这些压缩数据还原为可显示的图像和声音。渲染是将解码后的图像数据显示在屏幕上或以其他方式呈现给用户的过程。这包括将图像进行缩放、颜色校正和处理,以适应显示设备并提供良好的观看体验。
具体的,基于每个目标视频流的第一解码速率和至少一个填充视频流的第二解码速率,执行以下操作:使用目标视频流的第一解码速率,将目标视频流进行解码,然后将解码后的图像数据渲染到屏幕上或其他显示设备上。这确保了目标视频流以最高质量显示给用户。使用至少一个填充视频流的第二解码速率,将填充视频流进行解码,然后将解码后的图像数据渲染到屏幕上。填充视频流通常以较低的解码速率传输,因为它的内容相对不那么重要,但仍然需要渲染以保持整体观看体验的连续性。
通过执行上述步骤,采集多个待处理视频流,对多个待处理视频流进行帧头信息解析,得到每个待处理视频流的目标帧头信息;构建多个视频流传输通道,将多个待处理视频流发送至多个视频流传输通道进行视频流传输,在视频流传输过程中实时监测每个视频流传输通道的网络性能参数,对每个待处理视频流进行损坏帧检测,得到每个待处理视频流的损坏帧检测结果;标定至少一个损坏帧视频流及多个目标视频流,通过填充帧生成策略对至少一个损坏帧视频流进行填充帧生成,得到至少一个损坏帧视频流对应的填充帧数据;对至少一个损坏帧视频流进行填充帧插入,得到至少一个填充视频流;将每个视频流传输通道的带宽数据及丢包率输入解码速率预测模型进行解码速率预测,得到每个目标视频流的第一解码速率及至少一个填充视频流的第二解码速率;对每个目标视频流进行解码渲染,基于至少一个填充视频流的第二解码速率对至少一个填充视频流进行解码渲染。在本申请方案中,通过实时监测每个视频流传输通道的网络性能参数,可以及时发现网络问题,例如带宽波动或丢包情况,从而采取相应措施来保证视频传输的稳定性和质量。对每个待处理视频流进行损坏帧检测,可以有效地识别并过滤掉传输中可能出现的损坏帧,从而提高了最终视频的质量和观看体验。通过填充帧生成策略对损坏帧视频流进行填充帧生成,可以在播放视频时避免出现突兀的画面跳动或停滞,提供更加平滑的观看体验。通过输入带宽数据和丢包率到解码速率预测模型,可以智能地调整解码速率,以适应当前网络条件,从而保证目标视频流的连续播放,并确保填充视频流的填充帧数据也能够及时解码渲染。基于至少一个填充视频流的第二解码速率,可以更好地分配资源,以确保目标视频流的优先渲染,同时也保证填充视频流的渲染质量。这有助于提供更平滑、更高质量的观看体验,减少用户感知到的卡顿或画质问题。能够同时处理多个待处理视频流,通过构建多个视频流传输通道,可以更有效地传输多个视频流,减少了传输时的拥塞和延迟,提高了数据传输的效率以及视频播放控制的准确率。
在一具体实施例中,执行步骤S101的过程可以具体包括如下步骤:
(1)通过视频源数量,从多个视频源采集多个待处理视频流;
(2)对多个待处理视频流进行帧类型分析,得到每个待处理视频流的视频帧类型;
(3)对多个待处理视频流进行帧大小分析,得到每个待处理视频流的帧大小数据集;
(4)对多个待处理视频流进行时间戳提取,得到每个待处理视频流的时间戳数据;
(5)分别将每个待处理视频流的视频帧类型、每个待处理视频流的帧大小数据集以及每个待处理视频流的时间戳数据进行数据合并,得到每个待处理视频流的目标帧头信息。
具体的,从多个视频源中获取多个待处理视频流。这可以通过网络传输、摄像头捕捉、文件读取等方式实现。对每个待处理视频流进行帧类型分析,以确定每个视频帧的类型。视频帧类型通常包括关键帧(I帧)、预测帧(P帧)、参考帧(B帧)等。这有助于理解视频编码结构。对每个待处理视频流进行帧大小分析,以获取每个视频帧的大小数据集。这表示每个帧在字节或位数上占用的空间大小。从每个待处理视频流中提取时间戳数据。时间戳通常表示每个视频帧的时间信息,用于确定视频帧的播放顺序和同步。将之前分析得到的视频帧类型、帧大小数据集和时间戳数据合并为每个待处理视频流的目标帧头信息。这意味着为每个视频帧建立了一个包含帧类型、帧大小和时间戳的数据结构,以供后续处理使用。
假设正在处理两个待处理视频流,一个来自摄像头1,另一个来自网络摄像头2。以下是示例数据:
视频流1:
帧1:类型为I帧,大小为500 KB,时间戳为0 ms;
帧2:类型为P帧,大小为200 KB,时间戳为40 ms;
帧3:类型为P帧,大小为180 KB,时间戳为80 ms。
视频流2:
帧1:类型为I帧,大小为550 KB,时间戳为0 ms;
帧2:类型为P帧,大小为220 KB,时间戳为40 ms;
帧3:类型为P帧,大小为190 KB,时间戳为80 ms。
通过分析这两个视频流的帧类型、帧大小和时间戳,合并数据并获得每个待处理视频流的目标帧头信息。
在一具体实施例中,如图2所示,执行步骤S102的过程可以具体包括如下步骤:
S201、基于视频源数量构建多个候选视频流传输通道;
S202、通过每个待处理视频流分别对每个视频流传输通道进行传输协议匹配,得到每个候选视频流传输通道的目标传输协议;
S203、基于每个候选视频流传输通道的目标传输协议,分别对每个候选视频流传输通道进行协议配置,得到多个视频流传输通道,并将多个待处理视频流发送至多个视频流传输通道进行视频流传输;
S204、对每个视频流传输通道进行监测点构建,得到每个视频流传输通道的多个网络监测点;
S205、基于每个视频流传输通道的多个网络监测点,对每个视频流传输通道进行网络数据包采集,得到每个视频流传输通道的网络数据包;
S206、对每个视频流传输通道的网络数据包进行网络性能参数提取,得到每个视频流传输通道的网络性能参数,其中,每个视频流传输通道的网络性能参数包括:每个视频流传输通道的带宽数据以及丢包率。
需要说明的是,首先需要考虑系统中可用的视频源数量。视频源可以是各种媒体源,例如摄像头、文件、网络流等。根据视频源数量,创建相应数量的候选视频流传输通道。这些通道可以看作是潜在的传输路径,等待与待处理视频流进行匹配和配置。例如,假设有两个视频源:一个是网络摄像头,另一个是本地文件。如果预设的视频源数量为2,创建两个候选视频流传输通道,分别用于处理这两个视频源。
进而,对每个待处理视频流进行传输协议匹配。不同的视频流可能需要不同的传输协议,例如RTMP、HTTP、UDP等。匹配过程通常基于视频流的特性和需求。一旦匹配完成,会确定每个候选视频流传输通道的目标传输协议。例如,假设有一个待处理视频流来自网络摄像头,并且该视频流的特性适合使用RTMP协议传输。将匹配这个视频流与一个候选通道,并确定这个通道的目标传输协议为RTMP。
进一步的,根据每个候选视频流传输通道的目标传输协议,进行协议配置。这包括设置传输参数、建立连接等操作。协议配置的目标是确保能够正常传输待处理视频流。继续上面的例子,对于使用RTMP协议的通道,配置该通道以适应RTMP传输,并建立与网络摄像头的连接。对于其他视频源和通道也会进行类似的配置。一旦配置完成,多个待处理视频流将被发送到相应的视频流传输通道,从而启动视频流传输。
进而在每个视频流传输通道上建立多个监测点。监测点是用于实时监测网络性能参数的关键组成部分。这些监测点可以位于不同的网络节点,以全面了解网络性能。监测点的建立可以涵盖多个方面,包括网络延迟、带宽利用率、数据包丢失率等。这些监测点的数量和位置通常根据系统的需求和复杂性而定。
通过监测点,可以实时采集每个视频流传输通道上的网络数据包。这些数据包包括传输的视频数据、传输时间戳等信息。数据包采集是为了获取有关网络性能的详细信息,以便后续的网络性能参数分析。采集的网络数据包将在后续的步骤中用于计算网络性能参数,例如带宽利用率和丢包率。这些步骤的实现可以帮助系统有效地管理多个视频流传输通道,并确保视频流的顺畅传输。同时,通过监测网络性能,系统能够实时调整传输策略,以提供最佳的视听体验。
在一具体实施例中,执行步骤S103的过程可以具体包括如下步骤:
(1)通过预置的循环冗余检查算法,对每个待处理视频流的视频帧类型、每个待处理视频流的帧大小数据集以及每个待处理视频流的时间戳数据进行校验和值计算,得到每个待处理视频流的待比对校验和值;
(2)对每个待处理视频流的视频帧类型、每个待处理视频流的帧大小数据集以及每个待处理视频流的时间戳数据进行校验和值提取,得到每个待处理视频流的当前校验和值;
(3)对每个待处理视频流的待比对校验和值以及每个待处理视频流的当前校验和值进行数据比对,得到数据比对结果;
(4)基于数据比对结果生成每个待处理视频流的损坏帧检测结果。
具体的,首先,针对每个待处理视频流,需要计算一个待比对的校验和值。通常,这个校验和值可以使用循环冗余检查(CRC)算法计算得出。CRC是一种错误检测算法,它通过对数据流进行多项式除法运算来生成一个校验和值,以确保数据的完整性。例如,假设有一个待处理视频流,其中包含三个视频帧,每个帧都有不同的视频帧类型、帧大小数据集和时间戳数据。对于每个帧,将应用CRC算法来计算待比对的校验和值。
接下来,对于每个待处理视频流,需要提取当前的校验和值。这个当前的校验和值通常是在传输或存储过程中附加到视频数据中的。例如,假设待处理视频流的第一个帧的当前校验和值是0x1234。这个值表示了帧在传输或存储过程中的校验和。将待比对的校验和值与当前校验和值进行比对。如果这两个值不相等,那么说明视频帧在传输或存储过程中发生了错误或损坏。例如,继续前面的示例,如果待比对的校验和值为0x2345,而当前校验和值为0x1234,这两个值不相等,表示视频帧受损。
最后,根据数据比对的结果,可以生成每个待处理视频流的损坏帧检测结果。如果数据比对成功,表示视频帧没有损坏;如果数据比对失败,表示视频帧受损。对于示例视频流,如果发现待比对的校验和值与当前校验和值不相等,那么生成的损坏帧检测结果将是“受损”。
需要说明的是,CRC算法是一种基于多项式除法的错误检测算法,循环冗余检查(CRC)算法工作原理为使用一个固定的生成多项式来计算数据流的校验和值。
CRC算法的工作原理具体如下:
将生成多项式与数据流进行二进制异或运算。
计算结果再进行一系列位移和异或操作,直到数据流末尾。
最终的结果就是校验和值,附加到数据流中。
这个校验和值可以用于检测数据是否在传输或存储中受损。
综上所述,上述方案通过CRC算法来计算和比对校验和值,以检测每个待处理视频流是否受损。这种方法可用于确保数据的完整性,特别是在视频传输或存储过程中。
在一具体实施例中,执行步骤S104步骤的过程可以具体包括如下步骤:
(1)当至少一个待处理视频流存在损坏帧时,标定至少一个损坏帧视频流以及多个目标视频流;
(2)对至少一个损坏帧视频流进行损坏帧定位,得到至少一个损坏帧视频流对应的损坏帧位置信息;
(3)基于至少一个损坏帧视频流对应的损坏帧位置信息,对至少一个损坏帧视频流进行相邻帧提取,得到至少一个损坏帧视频流的损坏帧对应的相邻帧数据;
(4)基于至少一个损坏帧视频流的损坏帧对应的相邻帧数据,通过填充帧生成策略对至少一个损坏帧视频流的损坏帧进行模拟帧生成,得到至少一个损坏帧视频流的填充帧数据。
具体的,首先检测视频流中是否存在损坏帧。一旦检测到至少一个损坏帧,就需要标定哪些视频流是损坏帧视频流,哪些是目标视频流。这可以通过分析帧头数据或其他元数据来完成。例如,某个帧头数据字段可以指示该帧是否损坏。例如:假设有两个视频流A和B,其中视频流A的帧头数据中的一个标志位表示该视频流包含损坏帧,而视频流B没有这个标志位。
一旦确定了损坏帧视频流,下一步是定位每个损坏帧的位置。可以通过帧头信息或其他数据字段来完成。通常,帧头中会包含有关帧的序号或时间戳,用于确定损坏帧的位置。例如:假设视频流A包含了10个帧,其中第3帧和第7帧是损坏的。帧头数据中包含每个帧的时间戳,因此可以轻松确定第3帧和第7帧是损坏的。
进一步的,对于每个损坏帧,提取其相邻帧的数据。这些相邻帧可以是前一帧和后一帧,用于填充损坏帧。例如:对于视频流A中的第3帧,可以提取第2帧和第4帧的数据作为相邻帧数据,以便后续填充损坏帧。
一旦获得了相邻帧数据,使用填充帧生成策略来创建损坏帧的填充帧数据。这种策略可以采用各种技术,例如插值、复制相邻帧等,以尽量减少损坏帧对视频质量的影响。例如:对于视频流A中的第3帧,可以使用插值技术基于第2帧和第4帧的数据生成填充帧,以替代损坏的第3帧。
综上所述,这个方案通过识别、定位和修复损坏的视频帧来提高视频流的质量。每个步骤都有特定的任务,以确保最终视频流的连续性和可观看性。算法的具体实现取决于具体的应用和需求,可以采用不同的技术来生成填充帧,例如线性插值、帧复制、运动补偿等。
在一具体实施例中,执行基于至少一个损坏帧视频流的损坏帧对应的相邻帧数据,通过填充帧生成策略对至少一个损坏帧视频流的损坏帧进行模拟帧生成,得到至少一个损坏帧视频流的填充帧数据步骤的过程可以具体包括如下步骤:
(1)对至少一个损坏帧视频流的损坏帧对应的相邻帧数据进行帧内元数据提取,得到至少一个损坏帧视频流对应的帧内元数据;
(2)对至少一个损坏帧视频流的损坏帧对应的相邻帧数据进行颜色信息提取,得到至少一个损坏帧视频流对应的颜色数据;
(3)对至少一个损坏帧视频流的损坏帧对应的相邻帧数据进行运动向量分析,得到至少一个损坏帧视频流对应的运动向量数据;
(4)基于至少一个损坏帧视频流对应的帧内元数据、至少一个损坏帧视频流对应的颜色数据以及至少一个损坏帧视频流对应的运动向量数据,通过填充帧生成策略对至少一个损坏帧视频流的损坏帧进行模拟帧生成,得到至少一个损坏帧视频流的填充帧数据。
具体的,为了提取帧内元数据,首先获取损坏帧前后的完整帧(相邻帧)。这些相邻帧可能是在传输中的前一帧和后一帧,或者根据视频编解码算法的特性,也可以是隔几帧的关键帧(I帧)。当获取到相邻帧数据之后,开始提取帧内元数据。元数据包括图像分辨率、颜色空间、帧类型(I帧、P帧、B帧)、时间戳信息、压缩参数等。
对于至少一个损坏帧视频流,需要从其相邻帧数据中提取颜色信息。这可以包括颜色通道的数据,例如红色、绿色和蓝色通道的信息。例如:从视频流A的第2帧和第4帧中提取颜色信息,以了解损坏帧的颜色属性。进而,需要对至少一个损坏帧视频流的相邻帧数据进行运动向量分析。运动向量表示了相邻帧之间像素的位移信息,有助于了解损坏帧的内容和位置。例如:分析视频流A的第2帧和第4帧,计算损坏帧的运动向量,以了解损坏帧的位移情况。
最后,基于帧内元数据、颜色信息和运动向量数据,可以使用填充帧生成策略来生成损坏帧的填充帧数据。这个策略可以采用各种技术,如插值、运动补偿等,以生成填充帧,以替代损坏帧。例如:使用帧内元数据、颜色信息和运动向量数据,可以采用插值技术生成填充帧,以替代视频流A中的损坏第3帧。
综上所述,这个方案通过提取相邻帧的帧内元数据、颜色信息和运动向量数据,然后使用填充帧生成策略来模拟生成填充帧,以修复损坏的视频帧。这有助于提高视频流的连贯性和观看体验。
在一具体实施例中,执行步骤S106的过程可以具体包括如下步骤:
(1)将每个视频流传输通道的带宽数据以及丢包率输入解码速率预测模型的特征提取层进行特征提取,得到对应的特征向量集合;
(2)将特征向量集合输入解码速率预测模型的第一卷积层进行卷积处理,得到第一映射特征集合;
(3)将特征向量集合输入解码速率预测模型的第二卷积层进行卷积处理,得到第二映射特征集合;
(4)将第二映射特征集合输入解码速率预测模型的池化层进行最大池化处理,得到池化特征集合;
(5)将映射特征集合输入解码速率预测模型的全连接层进行解码速率预测,得到每个目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率。
需要说明的是,首先,从每个视频流传输通道中获取带宽数据和丢包率数据。这些数据将被输入解码速率预测模型的特征提取层,以提取有关网络性能的相关特征。特征提取可以包括统计特征、频域特征、时域特征等。例如:对于视频流A的传输通道,带宽数据为10 Mbps,丢包率为2%。
特征向量集合经过第一卷积层的卷积处理,以学习数据中的空间特征。卷积核用于检测不同的特征模式。例如:第一卷积层的卷积核可以检测到带宽和丢包率之间的复杂关系。特征向量集合再经过第二卷积层的卷积处理,以进一步提取高级特征。这一步有助于理解不同特征之间的相互作用。例如:第二卷积层可以检测出某些丢包率模式与带宽模式的相关性。
池化层对卷积特征图进行最大池化处理,以减小特征图的大小并保留最重要的信息。这有助于降低模型复杂度并提高泛化性能。例如:最大池化层可减小特征集合的维度,提取出重要的网络性能特征。最后,将经过卷积和池化处理的特征向量集合输入全连接层,以进行解码速率预测。模型将预测每个目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率。这些速率可以用于调整视频解码参数,以适应不同的网络性能。例如:模型预测视频流A的第一解码速率为8 Mbps,填充视频流的第二解码速率为4 Mbps。
本发明实施例还提供了一种基于多通道传输的视频流播放控制系统,如图3所示,该一种基于多通道传输的视频流播放控制系统具体包括:
解析模块301,用于基于预设的视频源数量,从预置的多个视频源采集多个待处理视频流,同时,对多个所述待处理视频流进行帧头信息解析,得到每个所述待处理视频流的目标帧头信息;
传输模块302,用于基于所述视频源数量构建多个视频流传输通道,并将多个所述待处理视频流发送至多个所述视频流传输通道进行视频流传输,同时,在视频流传输过程中实时监测每个所述视频流传输通道的网络性能参数,其中,每个所述视频流传输通道的网络性能参数包括:每个所述视频流传输通道的带宽数据以及丢包率;
检测模块303,用于通过每个所述待处理视频流的目标帧头信息对每个所述待处理视频流进行损坏帧检测,得到每个所述待处理视频流的损坏帧检测结果;
生成模块304,用于当至少一个所述待处理视频流存在损坏帧时,标定至少一个损坏帧视频流以及多个目标视频流,同时,通过预置的填充帧生成策略对至少一个所述损坏帧视频流进行填充帧生成,得到至少一个所述损坏帧视频流对应的填充帧数据;
插入模块305,用于通过至少一个所述损坏帧视频流对应的填充帧数据,对至少一个所述损坏帧视频流进行填充帧插入,得到至少一个填充视频流;
预测模块306,用于将每个所述视频流传输通道的带宽数据以及丢包率输入预置的解码速率预测模型进行解码速率预测,得到每个所述目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率;
渲染模块307,用于基于每个所述目标视频流的第一解码速率分别对每个所述目标视频流进行解码并渲染,同时,基于至少一个填充视频流的第二解码速率对至少一个填充视频流进行解码并渲染。
通过上述各个模块的协同工作,采集多个待处理视频流,对多个待处理视频流进行帧头信息解析,得到每个待处理视频流的目标帧头信息;构建多个视频流传输通道,将多个待处理视频流发送至多个视频流传输通道进行视频流传输,在视频流传输过程中实时监测每个视频流传输通道的网络性能参数,对每个待处理视频流进行损坏帧检测,得到每个待处理视频流的损坏帧检测结果;标定至少一个损坏帧视频流及多个目标视频流,通过填充帧生成策略对至少一个损坏帧视频流进行填充帧生成,得到至少一个损坏帧视频流对应的填充帧数据;对至少一个损坏帧视频流进行填充帧插入,得到至少一个填充视频流;将每个视频流传输通道的带宽数据及丢包率输入解码速率预测模型进行解码速率预测,得到每个目标视频流的第一解码速率及至少一个填充视频流的第二解码速率;对每个目标视频流进行解码渲染,基于至少一个填充视频流的第二解码速率对至少一个填充视频流进行解码渲染。在本申请方案中,通过实时监测每个视频流传输通道的网络性能参数,可以及时发现网络问题,例如带宽波动或丢包情况,从而采取相应措施来保证视频传输的稳定性和质量。对每个待处理视频流进行损坏帧检测,可以有效地识别并过滤掉传输中可能出现的损坏帧,从而提高了最终视频的质量和观看体验。通过填充帧生成策略对损坏帧视频流进行填充帧生成,可以在播放视频时避免出现突兀的画面跳动或停滞,提供更加平滑的观看体验。通过输入带宽数据和丢包率到解码速率预测模型,可以智能地调整解码速率,以适应当前网络条件,从而保证目标视频流的连续播放,并确保填充视频流的填充帧数据也能够及时解码渲染。基于至少一个填充视频流的第二解码速率,可以更好地分配资源,以确保目标视频流的优先渲染,同时也保证填充视频流的渲染质量。这有助于提供更平滑、更高质量的观看体验,减少用户感知到的卡顿或画质问题。能够同时处理多个待处理视频流,通过构建多个视频流传输通道,可以更有效地传输多个视频流,减少了传输时的拥塞和延迟,提高了数据传输的效率以及视频播放控制的准确率。
以上实施例仅用以说明本发明的技术方案而非对其限制,尽管参照实施例对本发明进行了详细的说明,所属领域的普通技术人员应当理解:依然可以对本发明的具体实施方式进行修改或者等同替换,而未脱离本发明精神和范围的任何修改或者等同替换,其均应涵盖在本发明的权利要求范围当中。

Claims (8)

1.一种基于多通道传输的视频流播放控制方法,其特征在于,包括:
基于预设的视频源数量,从预置的多个视频源采集多个待处理视频流,同时,对多个所述待处理视频流进行帧头信息解析,得到每个所述待处理视频流的目标帧头信息;
基于所述视频源数量构建多个视频流传输通道,并将多个所述待处理视频流发送至多个所述视频流传输通道进行视频流传输,同时,在视频流传输过程中实时监测每个所述视频流传输通道的网络性能参数,其中,每个所述视频流传输通道的网络性能参数包括:每个所述视频流传输通道的带宽数据以及丢包率;
通过每个所述待处理视频流的目标帧头信息对每个所述待处理视频流进行损坏帧检测,得到每个所述待处理视频流的损坏帧检测结果;
当至少一个所述待处理视频流存在损坏帧时,标定至少一个损坏帧视频流以及多个目标视频流,同时,通过预置的填充帧生成策略对至少一个所述损坏帧视频流进行填充帧生成,得到至少一个所述损坏帧视频流对应的填充帧数据;
通过至少一个所述损坏帧视频流对应的填充帧数据,对至少一个所述损坏帧视频流进行填充帧插入,得到至少一个填充视频流;
将每个所述视频流传输通道的带宽数据以及丢包率输入预置的解码速率预测模型进行解码速率预测,得到每个所述目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率;
基于每个所述目标视频流的第一解码速率分别对每个所述目标视频流进行解码并渲染,同时,基于至少一个填充视频流的第二解码速率对至少一个填充视频流进行解码并渲染。
2.根据权利要求1所述的基于多通道传输的视频流播放控制方法,其特征在于,所述基于预设的视频源数量,从预置的多个视频源采集多个待处理视频流,同时,对多个所述待处理视频流进行帧头信息解析,得到每个所述待处理视频流的目标帧头信息步骤,包括:
通过所述视频源数量,从多个所述视频源采集多个待处理视频流;
对多个所述待处理视频流进行帧类型分析,得到每个所述待处理视频流的视频帧类型;
对多个所述待处理视频流进行帧大小分析,得到每个所述待处理视频流的帧大小数据集;
对多个所述待处理视频流进行时间戳提取,得到每个所述待处理视频流的时间戳数据;
分别将每个所述待处理视频流的视频帧类型、每个所述待处理视频流的帧大小数据集以及每个所述待处理视频流的时间戳数据进行数据合并,得到每个所述待处理视频流的目标帧头信息。
3.根据权利要求1所述的基于多通道传输的视频流播放控制方法,其特征在于,所述基于所述视频源数量构建多个视频流传输通道,并将多个所述待处理视频流发送至多个所述视频流传输通道进行视频流传输,同时,在视频流传输过程中实时监测每个所述视频流传输通道的网络性能参数,其中,每个所述视频流传输通道的网络性能参数包括:每个所述视频流传输通道的带宽数据以及丢包率步骤,包括:
基于所述视频源数量构建多个候选视频流传输通道;
通过每个所述待处理视频流分别对每个所述视频流传输通道进行传输协议匹配,得到每个所述候选视频流传输通道的目标传输协议;
基于每个所述候选视频流传输通道的目标传输协议,分别对每个所述候选视频流传输通道进行协议配置,得到多个所述视频流传输通道,并将多个所述待处理视频流发送至多个所述视频流传输通道进行视频流传输;
对每个所述视频流传输通道进行监测点构建,得到每个所述视频流传输通道的多个网络监测点;
基于每个所述视频流传输通道的多个网络监测点,对每个所述视频流传输通道进行网络数据包采集,得到每个所述视频流传输通道的网络数据包;
对每个所述视频流传输通道的网络数据包进行网络性能参数提取,得到每个所述视频流传输通道的网络性能参数,其中,每个所述视频流传输通道的网络性能参数包括:每个所述视频流传输通道的带宽数据以及丢包率。
4.根据权利要求2所述的基于多通道传输的视频流播放控制方法,其特征在于,所述通过每个所述待处理视频流的目标帧头信息对每个所述待处理视频流进行损坏帧检测,得到每个所述待处理视频流的损坏帧检测结果步骤,包括:
通过预置的循环冗余检查算法,对每个所述待处理视频流的视频帧类型、每个所述待处理视频流的帧大小数据集以及每个所述待处理视频流的时间戳数据进行校验和值计算,得到每个所述待处理视频流的待比对校验和值;
对每个所述待处理视频流的视频帧类型、每个所述待处理视频流的帧大小数据集以及每个所述待处理视频流的时间戳数据进行校验和值提取,得到每个所述待处理视频流的当前校验和值;
对每个所述待处理视频流的待比对校验和值以及每个所述待处理视频流的当前校验和值进行数据比对,得到数据比对结果;
基于所述数据比对结果生成每个所述待处理视频流的损坏帧检测结果。
5.根据权利要求1所述的基于多通道传输的视频流播放控制方法,其特征在于,所述当至少一个所述待处理视频流存在损坏帧时,标定至少一个损坏帧视频流以及多个目标视频流,同时,通过预置的填充帧生成策略对至少一个所述损坏帧视频流进行填充帧生成,得到至少一个所述损坏帧视频流对应的填充帧数据步骤,包括:
当至少一个所述待处理视频流存在损坏帧时,标定至少一个所述损坏帧视频流以及多个目标视频流;
对至少一个所述损坏帧视频流进行损坏帧定位,得到至少一个所述损坏帧视频流对应的损坏帧位置信息;
基于至少一个所述损坏帧视频流对应的损坏帧位置信息,对至少一个所述损坏帧视频流进行相邻帧提取,得到至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据;
基于至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据,通过所述填充帧生成策略对至少一个所述损坏帧视频流的损坏帧进行模拟帧生成,得到至少一个所述损坏帧视频流的填充帧数据。
6.根据权利要求5所述的基于多通道传输的视频流播放控制方法,其特征在于,所述基于至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据,通过所述填充帧生成策略对至少一个所述损坏帧视频流的损坏帧进行模拟帧生成,得到至少一个所述损坏帧视频流的填充帧数据步骤,包括:
对至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据进行帧内元数据提取,得到至少一个所述损坏帧视频流对应的帧内元数据;
对至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据进行颜色信息提取,得到至少一个所述损坏帧视频流对应的颜色数据;
对至少一个所述损坏帧视频流的损坏帧对应的相邻帧数据进行运动向量分析,得到至少一个所述损坏帧视频流对应的运动向量数据;
基于至少一个所述损坏帧视频流对应的帧内元数据、至少一个所述损坏帧视频流对应的颜色数据以及至少一个所述损坏帧视频流对应的运动向量数据,通过所述填充帧生成策略对至少一个所述损坏帧视频流的损坏帧进行模拟帧生成,得到至少一个所述损坏帧视频流的填充帧数据。
7.根据权利要求1所述的基于多通道传输的视频流播放控制方法,其特征在于,所述将每个所述视频流传输通道的带宽数据以及丢包率输入预置的解码速率预测模型进行解码速率预测,得到每个所述目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率步骤,包括:
将每个所述视频流传输通道的带宽数据以及丢包率输入所述解码速率预测模型的特征提取层进行特征提取,得到对应的特征向量集合;
将所述特征向量集合输入所述解码速率预测模型的第一卷积层进行卷积处理,得到第一映射特征集合;
将所述特征向量集合输入所述解码速率预测模型的第二卷积层进行卷积处理,得到第二映射特征集合;
将所述第二映射特征集合输入所述解码速率预测模型的池化层进行最大池化处理,得到池化特征集合;
将所述映射特征集合输入所述解码速率预测模型的全连接层进行解码速率预测,得到每个所述目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率。
8.一种基于多通道传输的视频流播放控制系统,用以执行如权利要求1至7任一项所述的基于多通道传输的视频流播放控制方法,其特征在于,包括:
解析模块,用于基于预设的视频源数量,从预置的多个视频源采集多个待处理视频流,同时,对多个所述待处理视频流进行帧头信息解析,得到每个所述待处理视频流的目标帧头信息;
传输模块,用于基于所述视频源数量构建多个视频流传输通道,并将多个所述待处理视频流发送至多个所述视频流传输通道进行视频流传输,同时,在视频流传输过程中实时监测每个所述视频流传输通道的网络性能参数,其中,每个所述视频流传输通道的网络性能参数包括:每个所述视频流传输通道的带宽数据以及丢包率;
检测模块,用于通过每个所述待处理视频流的目标帧头信息对每个所述待处理视频流进行损坏帧检测,得到每个所述待处理视频流的损坏帧检测结果;
生成模块,用于当至少一个所述待处理视频流存在损坏帧时,标定至少一个损坏帧视频流以及多个目标视频流,同时,通过预置的填充帧生成策略对至少一个所述损坏帧视频流进行填充帧生成,得到至少一个所述损坏帧视频流对应的填充帧数据;
插入模块,用于通过至少一个所述损坏帧视频流对应的填充帧数据,对至少一个所述损坏帧视频流进行填充帧插入,得到至少一个填充视频流;
预测模块,用于将每个所述视频流传输通道的带宽数据以及丢包率输入预置的解码速率预测模型进行解码速率预测,得到每个所述目标视频流的第一解码速率以及至少一个填充视频流的第二解码速率;
渲染模块,用于基于每个所述目标视频流的第一解码速率分别对每个所述目标视频流进行解码并渲染,同时,基于至少一个填充视频流的第二解码速率对至少一个填充视频流进行解码并渲染。
CN202311369252.7A 2023-10-23 2023-10-23 基于多通道传输的视频流播放控制方法及系统 Active CN117119223B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311369252.7A CN117119223B (zh) 2023-10-23 2023-10-23 基于多通道传输的视频流播放控制方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311369252.7A CN117119223B (zh) 2023-10-23 2023-10-23 基于多通道传输的视频流播放控制方法及系统

Publications (2)

Publication Number Publication Date
CN117119223A CN117119223A (zh) 2023-11-24
CN117119223B true CN117119223B (zh) 2023-12-26

Family

ID=88795024

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311369252.7A Active CN117119223B (zh) 2023-10-23 2023-10-23 基于多通道传输的视频流播放控制方法及系统

Country Status (1)

Country Link
CN (1) CN117119223B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101030951A (zh) * 2007-02-08 2007-09-05 华为技术有限公司 一种丢包补偿方法及装置
CN102006476A (zh) * 2010-11-19 2011-04-06 厦门雅迅网络股份有限公司 一种传输和接收实时视频数据的优化处理方法
CN109743600A (zh) * 2019-01-15 2019-05-10 国网河南省电力公司 基于可穿戴的现场运维自适应视频流传输速率控制方法
CN111193956A (zh) * 2018-11-15 2020-05-22 深圳市茁壮网络股份有限公司 一种视频数据处理方法及视频播放设备
WO2020241308A1 (ja) * 2019-05-31 2020-12-03 日本電信電話株式会社 同期制御装置、同期制御方法及び同期制御プログラム
CN113905196A (zh) * 2021-08-30 2022-01-07 浙江大华技术股份有限公司 视频帧管理方法、视频录像机和计算机可读存储介质
CN113965786A (zh) * 2021-09-29 2022-01-21 杭州当虹科技股份有限公司 精准控制视频输出播放的方法
CN115103228A (zh) * 2022-06-16 2022-09-23 深圳市欢太科技有限公司 视频流传输方法、装置、电子设备、存储介质及产品
CN115243052A (zh) * 2022-07-22 2022-10-25 浙江宇视科技有限公司 一种视频流的处理方法、装置、电子设备和存储介质
CN115567661A (zh) * 2022-09-23 2023-01-03 上海微创医疗机器人(集团)股份有限公司 视频数据的处理方法、系统、计算机设备和存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140286440A1 (en) * 2013-03-19 2014-09-25 Nvidia Corporation Quality of service management system and method of forward error correction
US11064204B2 (en) * 2014-05-15 2021-07-13 Arris Enterprises Llc Automatic video comparison of the output of a video decoder
US11544029B2 (en) * 2020-02-21 2023-01-03 Userful Corporation System and method for synchronized streaming of a video-wall
US11967345B2 (en) * 2021-04-16 2024-04-23 Grass Valley Limited System and method for rendering key and fill video streams for video processing

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101030951A (zh) * 2007-02-08 2007-09-05 华为技术有限公司 一种丢包补偿方法及装置
CN102006476A (zh) * 2010-11-19 2011-04-06 厦门雅迅网络股份有限公司 一种传输和接收实时视频数据的优化处理方法
CN111193956A (zh) * 2018-11-15 2020-05-22 深圳市茁壮网络股份有限公司 一种视频数据处理方法及视频播放设备
CN109743600A (zh) * 2019-01-15 2019-05-10 国网河南省电力公司 基于可穿戴的现场运维自适应视频流传输速率控制方法
WO2020241308A1 (ja) * 2019-05-31 2020-12-03 日本電信電話株式会社 同期制御装置、同期制御方法及び同期制御プログラム
CN113905196A (zh) * 2021-08-30 2022-01-07 浙江大华技术股份有限公司 视频帧管理方法、视频录像机和计算机可读存储介质
CN113965786A (zh) * 2021-09-29 2022-01-21 杭州当虹科技股份有限公司 精准控制视频输出播放的方法
CN115103228A (zh) * 2022-06-16 2022-09-23 深圳市欢太科技有限公司 视频流传输方法、装置、电子设备、存储介质及产品
CN115243052A (zh) * 2022-07-22 2022-10-25 浙江宇视科技有限公司 一种视频流的处理方法、装置、电子设备和存储介质
CN115567661A (zh) * 2022-09-23 2023-01-03 上海微创医疗机器人(集团)股份有限公司 视频数据的处理方法、系统、计算机设备和存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
无线Mesh网络中的P2P流媒体性能评估;刘婷婷;杨维;王玉柱;;计算机工程与应用(第16期);全文 *
无线移动网络中可分级编码视频的仿真平台;梁建胜;乐江源;;实验室研究与探索(第06期);全文 *

Also Published As

Publication number Publication date
CN117119223A (zh) 2023-11-24

Similar Documents

Publication Publication Date Title
CN107147942B (zh) 视频信号传输方法、设备、装置以及存储介质
US7873727B2 (en) System and method for evaluating streaming multimedia quality
Hameed et al. A decision-tree-based perceptual video quality prediction model and its application in FEC for wireless multimedia communications
EP2234406A1 (en) A three dimensional video communication terminal, system and method
Yang et al. Bitstream-based quality assessment for networked video: a review
US9723329B2 (en) Method and system for determining a quality value of a video stream
WO2020006912A1 (zh) 网络传输质量分析方法、装置、计算机设备和存储介质
KR100612691B1 (ko) 동영상 화질 평가시스템 및 방법
CN107333133B (zh) 一种码流接收设备的码流编码的方法及装置
CN107835424A (zh) 一种基于数据感知的媒体同步传输播放方法
CN113748683A (zh) 用于在压缩视频文件中保存带内元数据的系统和方法
JP4787210B2 (ja) 映像品質推定方法、装置、およびプログラム
CN110691238A (zh) 一种视频重建质量测试方法、装置、设备及可读存储介质
CN112565224B (zh) 一种视频处理方法及装置
CN103339930A (zh) 合作媒体系统中管理多个终端设备上内容分配的方法和装置
CN117119223B (zh) 基于多通道传输的视频流播放控制方法及系统
EP2736261A1 (en) Method For Assessing The Quality Of A Video Stream
JP4787303B2 (ja) 映像品質推定装置、方法、およびプログラム
CN101296166B (zh) 基于索引的多媒体数据的测量方法
Erman et al. Analysis and realization of IPTV service quality
CN114470745A (zh) 一种基于srt的云游戏实现方法、装置及系统
JP2009171023A (ja) 画質評価装置、画質評価方法、画質評価用プログラム、及び映像受信端末
da Silva Cruz et al. Quality monitor for 3-D video over hybrid broadcast networks
Exarchakos et al. Can Skype be used beyond video calling?
Laniewski et al. On the Impact of Burst Loss for QoE-Based Performance Evaluations for Video Streaming

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant