CN109756789A - 一种音视频数据包的丢包处理方法和系统 - Google Patents

一种音视频数据包的丢包处理方法和系统 Download PDF

Info

Publication number
CN109756789A
CN109756789A CN201811627113.9A CN201811627113A CN109756789A CN 109756789 A CN109756789 A CN 109756789A CN 201811627113 A CN201811627113 A CN 201811627113A CN 109756789 A CN109756789 A CN 109756789A
Authority
CN
China
Prior art keywords
audio
data packet
video data
queue
packet
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811627113.9A
Other languages
English (en)
Other versions
CN109756789B (zh
Inventor
王子强
古明敏
王艳辉
杨春晖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Visionvera Information Technology Co Ltd
Original Assignee
Visionvera Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Visionvera Information Technology Co Ltd filed Critical Visionvera Information Technology Co Ltd
Priority to CN201811627113.9A priority Critical patent/CN109756789B/zh
Publication of CN109756789A publication Critical patent/CN109756789A/zh
Application granted granted Critical
Publication of CN109756789B publication Critical patent/CN109756789B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明实施例提供了一种音视频数据包的丢包处理方法和系统,其中,所述方法包括:第一视联网设备获取音视频数据包中的音频数据包和视频数据包,将音频数据包存入音频队列,将视频数据包存入视频队列,计算音频队列中第一帧音频数据包与最后一帧音频数据包之间的第一时间间隔,计算视频队列中第一帧视频数据包与最后一帧视频数据包之间的第二时间间隔;根据第一时间间隔和第一策略对音频队列中的音频数据包进行丢包处理,根据第二时间间隔和第二策略对视频队列中的视频数据包进行丢包处理;将经过丢包处理后的音频数据包和经过丢包处理后的视频数据包发送至第二视联网设备。本发明实施例解决了接收方音视频数据包播放卡顿、不流畅的问题。

Description

一种音视频数据包的丢包处理方法和系统
技术领域
本发明涉及视联网技术领域,特别是涉及一种音视频数据包的丢包处理方法和一种音视频数据包的丢包处理系统。
背景技术
随着网络科技的快速发展,视频会议、视频教学、音视频点播等双向通信在用户的生活、工作、学习等方面广泛普及。
在通信过程中,若音视频数据包的发送方与接收方之间的网络状态不佳,音视频数据包传输速度下降,进而在发送方堆积大量的音视频数据包,接收方无法接收足够的音视频数据包,出现音频数据播放卡顿、不流畅的问题。
发明内容
鉴于上述问题,提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种音视频数据包的丢包处理方法和相应的一种音视频数据包的丢包处理系统。
为了解决上述问题,本发明实施例公开了一种音视频数据包的丢包处理方法,所述方法应用于视联网中,所述视联网包括第一视联网设备和第二视联网设备,所述第一视联网设备与所述第二视联网设备进行通信,所述方法包括:所述第一视联网设备获取音视频数据包中的音频数据包和视频数据包;所述第一视联网设备将所述音频数据包存入预设的音频队列,并将所述视频数据包存入预设的视频队列;所述第一视联网设备计算所述音频队列中第一帧音频数据包与最后一帧音频数据包之间的第一时间间隔,并计算所述视频队列中第一帧视频数据包与最后一帧视频数据包之间的第二时间间隔;所述第一视联网设备根据所述第一时间间隔和预设的第一策略对所述音频队列中的音频数据包进行丢包处理,并根据所述第二时间间隔和预设的第二策略对所述视频队列中的视频数据包进行丢包处理;所述第一视联网设备将所述音频队列中经过丢包处理后的音频数据包和所述视频队列中经过丢包处理后的视频数据包发送至所述第二视联网设备;其中,所述第一视联网设备为视联网节点服务器时,所述第二视联网设备为视联网终端,所述第一视联网设备为所述视联网终端时,所述第二视联网设备为所述视联网节点服务器。
可选地,所述第一视联网设备根据所述第一时间间隔和预设的第一策略对所述音频队列中的音频数据包进行丢包处理的步骤,包括:所述第一视联网设备判断所述第一时间间隔是否大于预设的第一时间门限值,并判断所述音频队列中存储的音频数据包的数量是否大于预设的数量门限值;所述第一视联网设备在所述第一时间间隔大于所述第一时间门限值,且所述音频队列中存储的音频数据包的数量大于所述数量门限值时,删除所述音频队列中前N个音频数据包,以便所述音频队列中剩余的音频数据包的数量小于或等于所述数量门限值。
可选地,所述第一视联网设备根据所述第二时间间隔和预设的第二策略对所述视频队列中的视频数据包进行丢包处理的步骤,包括:所述第一视联网设备判断所述第二时间间隔是否大于预设的第二时间门限值;所述第一视联网设备在所述第二时间间隔大于所述第二时间门限值时,删除所述视频队列中的帧内编码帧视频数据包或帧间预测编码帧视频数据包。
可选地,所述第一视联网设备在所述第二时间间隔大于所述第二时间门限值时,删除所述视频队列中的帧内编码帧视频数据包或帧间预测编码帧视频数据包的步骤,包括:所述第一视联网设备在所述第二时间间隔大于所述第二时间门限值,且小于或等于预设的第三时间门限值时,删除所述视频队列中第一个帧内编码帧视频数据包至最后一个帧内编码帧视频数据包之间的全部帧间预测编码帧视频数据包,所述第三时间门限值大于所述第二时间门限值。
可选地,所述第一视联网设备在所述第二时间间隔大于所述第二时间门限值时,删除所述视频队列中的帧内编码帧视频数据包或帧间预测编码帧视频数据包的步骤,包括:所述第一视联网设备在所述第二时间间隔大于所述第三时间门限值时,删除所述视频队列中前M个帧内编码帧视频数据包;其中,所述前M个帧内编码帧视频数据包中的每个帧内编码帧视频数据包与最后一个帧内编码帧视频数据包之间的第三时间间隔均大于或等于预设的帧间隔。
本发明实施例还公开了一种音视频数据包的丢包处理系统,所述系统应用于视联网中,所述视联网包括第一视联网设备和第二视联网设备,所述第一视联网设备与所述第二视联网设备进行通信,所述第一视联网设备包括:获取模块,用于获取音视频数据包中的音频数据包和视频数据包;存储模块,用于将所述音频数据包存入预设的音频队列,并将所述视频数据包存入预设的视频队列;计算模块,用于计算所述音频队列中第一帧音频数据包与最后一帧音频数据包之间的第一时间间隔,并计算所述视频队列中第一帧视频数据包与最后一帧视频数据包之间的第二时间间隔;丢包模块,用于根据所述第一时间间隔和预设的第一策略对所述音频队列中的音频数据包进行丢包处理,并根据所述第二时间间隔和预设的第二策略对所述视频队列中的视频数据包进行丢包处理;发送模块,用于将所述音频队列中经过丢包处理后的音频数据包和所述视频队列中经过丢包处理后的视频数据包发送至所述第二视联网设备;其中,所述第一视联网设备为视联网节点服务器时,所述第二视联网设备为视联网终端,所述第一视联网设备为所述视联网终端时,所述第二视联网设备为所述视联网节点服务器。
可选地,所述丢包模块,包括:第一判断模块,用于判断所述第一时间间隔是否大于预设的第一时间门限值,并判断所述音频队列中存储的音频数据包的数量是否大于预设的数量门限值;第一删除模块,用于在所述第一时间间隔大于所述第一时间门限值,且所述音频队列中存储的音频数据包的数量大于所述数量门限值时,删除所述音频队列中前N个音频数据包,以便所述音频队列中剩余的音频数据包的数量小于或等于所述数量门限值。
可选地,所述丢包模块,包括:第二判断模块,用于判断所述第二时间间隔是否大于预设的第二时间门限值;第二删除模块,用于在所述第二时间间隔大于所述第二时间门限值时,删除所述视频队列中的帧内编码帧视频数据包或帧间预测编码帧视频数据包。
可选地,所述第二删除模块,用于在所述第二时间间隔大于所述第二时间门限值,且小于或等于预设的第三时间门限值时,删除所述视频队列中第一个帧内编码帧视频数据包至最后一个帧内编码帧视频数据包之间的全部帧间预测编码帧视频数据包,所述第三时间门限值大于所述第二时间门限值。
可选地,所述第二删除模块,用于在所述第二时间间隔大于所述第三时间门限值时,删除所述视频队列中前M个帧内编码帧视频数据包;其中,所述前M个帧内编码帧视频数据包中的每个帧内编码帧视频数据包与最后一个帧内编码帧视频数据包之间的第三时间间隔均大于或等于预设的帧间隔。
本发明实施例包括以下优点:
本发明实施例应用于视联网中,视联网可以包括第一视联网设备和第二视联网设备,第一视联网设备可以与第二视联网设备进行通信,进而在第一视联网设备和第二视联网设备之间传输音视频数据包。
本发明实施例中,第一视联网设备在向第二视联网设备传输音视频数据包时,遇到网络状态不佳的情况,需要对音视频数据包进行丢包处理,具体地,第一视联网设备可以获取音视频数据包中的音频数据包和视频数据包,然后将音频数据包存入预设的音频队列,将视频数据包存入预设的视频队列,再计算音频队列中第一帧音频数据包与最后一帧音频数据包之间的第一时间间隔,并计算视频队列中第一帧视频数据包与最后一帧视频数据包之间的第二时间间隔。根据第一时间间隔和预设的第一策略对音频队列中的音频数据包进行丢包处理,并根据第二时间间隔和预设的第二策略对视频队列中的视频数据包进行丢包处理,最终,第一视联网设备将音频队列中经过丢包处理后的音频数据包和视频队列中经过丢包处理后的视频数据包发送至第二视联网设备。其中,第一视联网设备为视联网节点服务器时,第二视联网设备为视联网终端,第一视联网设备为视联网终端时,第二视联网设备为视联网节点服务器。
本发明实施例应用视联网的特性,在网络状态不佳时,将发送方的音视频数据包中的音频数据包和视频数据包分别按照不同的策略进行丢包处理,缓解了发送方的音视频数据包的堆积情况,保证音视频数据包的传输速度,令接收方可以接收到足够的音视频数据包,解决了接收方音视频数据包播放卡顿、不流畅的问题。
附图说明
图1是本发明的一种视联网的组网示意图;
图2是本发明的一种节点服务器的硬件结构示意图;
图3是本发明的一种接入交换机的硬件结构示意图;
图4是本发明的一种以太网协转网关的硬件结构示意图;
图5是本发明的一种音视频数据包的丢包处理方法实施例的步骤流程图;
图6是本发明的一种音视频数据包的丢包处理方法中第一策略的操作示例图;
图7是本发明的一种音视频数据包的丢包处理方法中第二策略的操作示例图;
图8是本发明的一种音视频数据包的丢包处理系统实施例中第一视联网设备的结构框图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
视联网是网络发展的重要里程碑,是一个实时网络,能够实现高清视频实时传输,将众多互联网应用推向高清视频化,高清面对面。
视联网采用实时高清视频交换技术,可以在一个网络平台上将所需的服务,如高清视频会议、视频监控、智能化监控分析、应急指挥、数字广播电视、延时电视、网络教学、现场直播、VOD点播、电视邮件、个性录制(PVR)、内网(自办)频道、智能化视频播控、信息发布等数十种视频、语音、图片、文字、通讯、数据等服务全部整合在一个系统平台,通过电视或电脑实现高清品质视频播放。
为使本领域技术人员更好地理解本发明实施例,以下对视联网进行介绍:
视联网所应用的部分技术如下所述:
网络技术(Network Technology)
视联网的网络技术创新改良了传统以太网(Ethernet),以面对网络上潜在的巨大视频流量。不同于单纯的网络分组交换(Packet Switching)或网络电路交换(CircuitSwitching),视联网技术采用网络分组交换满足Streaming(译为成流、流、连续播送,是一种数据传送技术,把收到的数据变成一个稳定连续的流,源源不断地送出,使用户听到的声音或看到的图像十分平稳,而且用户在整个数据传送完之前就可以开始在屏幕上进行浏览)需求。视联网技术具备分组交换的灵活、简单和低价,同时具备电路交换的品质和安全保证,实现了全网交换式虚拟电路,以及数据格式的无缝连接。
交换技术(Switching Technology)
视联网采用以太网的异步和包交换两个优点,在全兼容的前提下消除了以太网缺陷,具备全网端到端无缝连接,直通用户终端,直接承载IP数据包。用户数据在全网范围内不需任何格式转换。视联网是以太网的更高级形态,是一个实时交换平台,能够实现目前互联网无法实现的全网大规模高清视频实时传输,将众多网络视频应用推向高清化、统一化。
服务器技术(Server Technology)
视联网和统一视频平台上的服务器技术不同于传统意义上的服务器,它的流媒体传输是建立在面向连接的基础上,其数据处理能力与流量、通讯时间无关,单个网络层就能够包含信令及数据传输。对于语音和视频业务来说,视联网和统一视频平台流媒体处理的复杂度比数据处理简单许多,效率比传统服务器大大提高了百倍以上。
储存器技术(Storage Technology)
统一视频平台的超高速储存器技术为了适应超大容量和超大流量的媒体内容而采用了最先进的实时操作系统,将服务器指令中的节目信息映射到具体的硬盘空间,媒体内容不再经过服务器,瞬间直接送达到用户终端,用户等待一般时间小于0.2秒。最优化的扇区分布大大减少了硬盘磁头寻道的机械运动,资源消耗仅占同等级IP互联网的20%,但产生大于传统硬盘阵列3倍的并发流量,综合效率提升10倍以上。
网络安全技术(Network Security Technology)
视联网的结构性设计通过每次服务单独许可制、设备与用户数据完全隔离等方式从结构上彻底根除了困扰互联网的网络安全问题,一般不需要杀毒程序、防火墙,杜绝了黑客与病毒的攻击,为用户提供结构性的无忧安全网络。
服务创新技术(Service Innovation Technology)
统一视频平台将业务与传输融合在一起,不论是单个用户、私网用户还是一个网络的总合,都不过是一次自动连接。用户终端、机顶盒或PC直接连到统一视频平台,获得丰富多彩的各种形态的多媒体视频服务。统一视频平台采用“菜谱式”配表模式来替代传统的复杂应用编程,可以使用非常少的代码即可实现复杂的应用,实现“无限量”的新业务创新。
视联网的组网如下所述:
视联网是一种集中控制的网络结构,该网络可以是树型网、星型网、环状网等等类型,但在此基础上网络中需要有集中控制节点来控制整个网络。
如图1所示,视联网分为接入网和城域网两部分。
接入网部分的设备主要可以分为3类:节点服务器,接入交换机,终端(包括各种机顶盒、编码板、存储器等)。节点服务器与接入交换机相连,接入交换机可以与多个终端相连,并可以连接以太网。
其中,节点服务器是接入网中起集中控制功能的节点,可控制接入交换机和终端。节点服务器可直接与接入交换机相连,也可以直接与终端相连。
类似的,城域网部分的设备也可以分为3类:城域服务器,节点交换机,节点服务器。城域服务器与节点交换机相连,节点交换机可以与多个节点服务器相连。
其中,节点服务器即为接入网部分的节点服务器,即节点服务器既属于接入网部分,又属于城域网部分。
城域服务器是城域网中起集中控制功能的节点,可控制节点交换机和节点服务器。城域服务器可直接连接节点交换机,也可直接连接节点服务器。
由此可见,整个视联网络是一种分层集中控制的网络结构,而节点服务器和城域服务器下控制的网络可以是树型、星型、环状等各种结构。
形象地称,接入网部分可以组成统一视频平台(圈中部分),多个统一视频平台可以组成视联网;每个统一视频平台可以通过城域以及广域视联网互联互通。
视联网设备分类
1.1本发明实施例的视联网中的设备主要可以分为3类:服务器,交换机(包括以太网网关),终端(包括各种机顶盒,编码板,存储器等)。视联网整体上可以分为城域网(或者国家网、全球网等)和接入网。
1.2其中接入网部分的设备主要可以分为3类:节点服务器,接入交换机(包括以太网网关),终端(包括各种机顶盒,编码板,存储器等)。
各接入网设备的具体硬件结构为:
节点服务器:
如图2所示,主要包括网络接口模块201、交换引擎模块202、CPU模块203、磁盘阵列模块204。
其中,网络接口模块201,CPU模块203、磁盘阵列模块204进来的包均进入交换引擎模块202;交换引擎模块202对进来的包进行查地址表205的操作,从而获得包的导向信息;并根据包的导向信息把该包存入对应的包缓存器206的队列;如果包缓存器206的队列接近满,则丢弃;交换引擎模202轮询所有包缓存器队列,如果满足以下条件进行转发:1)该端口发送缓存未满;2)该队列包计数器大于零。磁盘阵列模块204主要实现对硬盘的控制,包括对硬盘的初始化、读写等操作;CPU模块203主要负责与接入交换机、终端(图中未示出)之间的协议处理,对地址表205(包括下行协议包地址表、上行协议包地址表、数据包地址表)的配置,以及,对磁盘阵列模块204的配置。
接入交换机:
如图3所示,主要包括网络接口模块(下行网络接口模块301、上行网络接口模块302)、交换引擎模块303和CPU模块304。
其中,下行网络接口模块301进来的包(上行数据)进入包检测模块305;包检测模块305检测包的目的地址(DA)、源地址(SA)、数据包类型及包长度是否符合要求,如果符合,则分配相应的流标识符(stream-id),并进入交换引擎模块303,否则丢弃;上行网络接口模块302进来的包(下行数据)进入交换引擎模块303;CPU模块204进来的数据包进入交换引擎模块303;交换引擎模块303对进来的包进行查地址表306的操作,从而获得包的导向信息;如果进入交换引擎模块303的包是下行网络接口往上行网络接口去的,则结合流标识符(stream-id)把该包存入对应的包缓存器307的队列;如果该包缓存器307的队列接近满,则丢弃;如果进入交换引擎模块303的包不是下行网络接口往上行网络接口去的,则根据包的导向信息,把该数据包存入对应的包缓存器307的队列;如果该包缓存器307的队列接近满,则丢弃。
交换引擎模块303轮询所有包缓存器队列,在本发明实施例中分两种情形:
如果该队列是下行网络接口往上行网络接口去的,则满足以下条件进行转发:1)该端口发送缓存未满;2)该队列包计数器大于零;3)获得码率控制模块产生的令牌。
如果该队列不是下行网络接口往上行网络接口去的,则满足以下条件进行转发:1)该端口发送缓存未满;2)该队列包计数器大于零。
码率控制模块208是由CPU模块204来配置的,在可编程的间隔内对所有下行网络接口往上行网络接口去的包缓存器队列产生令牌,用以控制上行转发的码率。
CPU模块304主要负责与节点服务器之间的协议处理,对地址表306的配置,以及,对码率控制模块308的配置。
以太网协转网关
如图4所示,主要包括网络接口模块(下行网络接口模块401、上行网络接口模块402)、交换引擎模块403、CPU模块404、包检测模块405、码率控制模块408、地址表406、包缓存器407和MAC添加模块409、MAC删除模块410。
其中,下行网络接口模块401进来的数据包进入包检测模块405;包检测模块405检测数据包的以太网MAC DA、以太网MAC SA、以太网length or frame type、视联网目的地址DA、视联网源地址SA、视联网数据包类型及包长度是否符合要求,如果符合则分配相应的流标识符(stream-id);然后,由MAC删除模块410减去MAC DA、MAC SA、length or frame type(2byte),并进入相应的接收缓存,否则丢弃;
下行网络接口模块401检测该端口的发送缓存,如果有包则根据包的视联网目的地址DA获知对应的终端的以太网MAC DA,添加终端的以太网MAC DA、以太网协转网关的MACSA、以太网length or frame type,并发送。
以太网协转网关中其他模块的功能与接入交换机类似。
终端:
主要包括网络接口模块、业务处理模块和CPU模块;例如,机顶盒主要包括网络接口模块、视音频编解码引擎模块、CPU模块;编码板主要包括网络接口模块、视音频编码引擎模块、CPU模块;存储器主要包括网络接口模块、CPU模块和磁盘阵列模块。
1.3城域网部分的设备主要可以分为3类:节点服务器,节点交换机,城域服务器。其中,节点交换机主要包括网络接口模块、交换引擎模块和CPU模块;城域服务器主要包括网络接口模块、交换引擎模块和CPU模块构成。
2、视联网数据包定义
2.1接入网数据包定义
接入网的数据包主要包括以下几部分:目的地址(DA)、源地址(SA)、保留字节、payload(PDU)、CRC。
如下表所示,接入网的数据包主要包括以下几部分:
DA SA Reserved Payload CRC
目的地址(DA)由8个字节(byte)组成,第一个字节表示数据包的类型(例如各种协议包、组播数据包、单播数据包等),最多有256种可能,第二字节到第六字节为城域网地址,第七、第八字节为接入网地址。
源地址(SA)也是由8个字节(byte)组成,定义与目的地址(DA)相同。
保留字节由2个字节组成。
payload部分根据不同的数据报的类型有不同的长度,如果数据报的类型是各种协议包,则payload部分的长度是64个字节,如果数据报的类型是单组播数据包,则payload部分的长度是32+1024=1056个字节,当然并不仅仅限于以上2种。
CRC有4个字节组成,其计算方法遵循标准的以太网CRC算法。
2.2城域网数据包定义
城域网的拓扑是图型,两个设备之间可能有2种、甚至2种以上的连接,即节点交换机和节点服务器、节点交换机和节点交换机、节点交换机和节点服务器之间都可能超过2种连接。但是,城域网设备的城域网地址却是唯一的,为了精确描述城域网设备之间的连接关系,在本发明实施例中引入参数:标签,来唯一描述一个城域网设备。
本说明书中标签的定义和多协议标签交换(Multi-Protocol Label Switch,MPLS)的标签的定义类似,假设设备A和设备B之间有两个连接,那么数据包从设备A到设备B就有2个标签,数据包从设备B到设备A也有2个标签。标签分入标签、出标签,假设数据包进入设备A的标签(入标签)是0x0000,这个数据包离开设备A时的标签(出标签)可能就变成了0x0001。城域网的入网流程是集中控制下的入网过程,也就意味着城域网的地址分配、标签分配都是由城域服务器主导的,节点交换机、节点服务器都是被动的执行而已,这一点与MPLS的标签分配是不同的,MPLS的标签分配是交换机、服务器互相协商的结果。
如下表所示,城域网的数据包主要包括以下几部分:
DA SA Reserved 标签 Payload CRC
即目的地址(DA)、源地址(SA)、保留字节(Reserved)、标签、payload(PDU)、CRC。其中,标签的格式可以参考如下定义:标签是32bit,其中高16bit保留,只用低16bit,它的位置是在数据包的保留字节和payload之间。
基于视联网的上述特性,提出了本发明实施例的核心构思之一,遵循视联网的协议,音视频数据的发送方根据音频队列中第一帧音频数据包和最后一帧音频数据包之间的第一时间间隔,以及,预设的第一策略对音频队列中的音频数据包进行丢包处理,并根据视频队列中第一帧视频数据包和最后一帧视频数据包之间的第二时间间隔,以及,预设的第二策略对视频队列中的视频数据包进行丢包处理。
参照图5,示出了本发明的一种音视频数据包的丢包处理方法实施例的步骤流程图,该方法可以应用于视联网中,视联网可以包括第一视联网设备和第二视联网设备,其中,第一视联网设备与第二视联网设备进行通信,进而将音视频数据包在第一视联网设备和第二视联网设备之间进行传输。该方法具体可以包括如下步骤:
步骤501,第一视联网设备获取音视频数据包中的音频数据包和视频数据包。
本发明实施例中,第一视联网设备可以从音视频数据包中提取出音频数据包和视频数据包。在实际应用中,第一视联网设备可以从音视频数据包的不同轨道中分别提取出音频数据包和视频数据包,具体地,第一视联网设备可以对音视频数据包进行解析得到音频轨道信息和视频轨道信息,进而,根据音频轨道信息提取出音频数据包,根据视频轨道信息提取出视频数据包。除此之外,第一视联网设备还可以利用常见的音视频数据包提取算法、神经网络模型或应用程序等从音视频数据包中得到音频数据包和视频数据包,本发明实施例对第一视联网设备获取音频数据包和视频数据包所采用的技术手段等不作具体限制。
步骤502,第一视联网设备将音频数据包存入预设的音频队列,并将视频数据包存入预设的视频队列。
本发明实施例中,在第一视联网设备中可以预先设置音频队列和视频队列,其中,音频队列用于临时存储音频数据包,视频队列用于临时存储视频数据包。通常,音频队列中的音频数据包和视频队列中的视频数据包均按照先入先出的原则传输出去。而且,音频队列中临时存储的音频数据包和视频队列中临时存储的视频数据包均有数量限制,如5或10等,本发明实施例对音频队列和视频队列的相关信息等不作具体限制。
第一视联网设备可以按照解析得到音频数据包和视频数据包的顺序,依次将音频数据包和视频数据包对应地存入音频队列和视频队列,而且,音频队列中的音频数据包与视频队列中的视频数据包可以通过各自的时间戳进行同步或关联。
步骤503,第一视联网设备计算音频队列中第一帧音频数据包与最后一帧音频数据包之间的第一时间间隔,并计算视频队列中第一帧视频数据包与最后一帧视频数据包之间的第二时间间隔。
本发明实施例中,若对音频队列中音频数据包和视频队列中的视频数据包进行丢包处理,需要先确定音频队列中第一时间间隔和视频队列中的第二时间间隔。其中,第一时间间隔可以理解为音频队列中第一帧音频数据包与最后一帧音频数据包之间的时间间隔。该第一帧音频数据包可以为音频队列中当前的音频数据包中,最先存入音频队列的音频数据包。该最后一帧音频数据包可以为音频队列中当前的音频数据包中,最后存入音频队列的音频数据包。第二时间间隔可以理解为视频队列中第一帧视频数据包与最后一帧视频数据包之间的时间间隔。该第一帧视频数据包可以为视频队列中当前的视频数据包中,最先存入视频队列的视频数据包。该最后一帧视频数据包可以为视频队列中当前的视频数据包中,最后存入视频队列的视频数据包。
第一视联网设备在计算第一时间间隔和第二时间间隔时,可以将最后一帧音频数据包的时间戳减去第一帧音频数据包的时间戳得到第一时间间隔,可以将最后一帧视频数据包的时间戳减去第一帧视频数据包的时间戳得到第二时间间隔。本发明实施例中,第一时间间隔和第二时间间隔均可以为正数,本发明实施例对第一时间间隔和第二时间间隔的数值和单位等不作具体限制。
步骤504,第一视联网设备根据第一时间间隔和预设的第一策略对音频队列中的音频数据包进行丢包处理,并根据第二时间间隔和预设的第二策略对视频队列中的视频数据包进行丢包处理。
本发明实施例中,第一视联网设备在计算得到第一时间间隔和第二时间间隔之后,可以分别将第一时间间隔和第二时间间隔与对应的时间门限值进行比较,进而根据比较结果确定是否对音频队列中的音频数据包和视频队列中的视频数据包进行丢包处理。
在本发明的一种优选实施例中,针对音频队列中的音频数据包的丢包处理,在实际应用中具体可以为:第一视联网设备判断第一时间间隔是否大于预设的第一时间门限值,并判断音频队列中存储的音频数据包的数量是否大于预设的数量门限值,若第一时间间隔大于第一时间门限值,且音频队列中存储的音频数据包的数量大于数量门限值,则第一视联网设备删除音频队列中前N个音频数据包,以便音频队列中剩余的音频数据包的数量小于或等于数量门限值。例如,第一时间间隔为t1,第一时间门限值为a1,音频队列中存储有m个音频数据包,数量门限值为s1,若t1大于a1,且m大于s1,则第一视联网设备删除N个音频数据包,使得m-N小于或等于s1。若第一时间间隔小于或等于第一时间门限值,和/或音频队列中存储的音频数据包的数量小于或等于数量门限值,则第一视联网设备不对音频队列中的音频数据包进行丢包处理。接上例,若t1小于或等于a1,和/或m小于或等于s1,则第一视联网设备不对音频队列中的音频数据包进行丢包处理。本发明实施例对上述第一时间间隔、第一时间门限值、音频队列中存储的音频数据包的数量、数量门限值和删除的音频数据包的数量的数值和单位等不作具体限制。
在本发明的一种优选实施例中,针对视频队列中的视频数据包的丢包处理,在实际应用中具体可以为:第一视联网设备判断第二时间间隔是否大于预设的第二时间门限值,若第二时间间隔大于第二时间门限值,则第一视联网设备删除视频队列中的帧内编码帧视频数据包或帧间预测编码帧视频数据包。其中,帧内编码帧又称为I帧,I帧表示关键帧。I帧具有如下特点:1.是一个全帧压缩编码帧。将全帧图像信息进行JPEG压缩编码及传输;2.解码时仅用I帧的数据就可重构完整图像;3.I帧描述了图像背景和运动主体的详情;4.I帧不需要参考其他画面而生成;5.I帧是帧间预测编码帧和双向预测编码帧的参考帧(其质量直接影响到同组中以后各帧的质量);6.I帧是帧组GOP的基础帧(第一帧),在一组中只有一个I帧;7.I帧不需要考虑运动矢量;8.I帧所占数据的信息量比较大。帧间预测编码帧又称为P帧,需要参考前面的I帧才能进行编码。表示的是当前帧画面与前一帧(前一帧可能是I帧也可能是P帧)的差别。解码时需要用之前缓存的画面叠加上本帧定义的差别,生成最终画面。与I帧相比,P帧通常占用更少的数据位,但不足是,由于P帧对前面的P帧和I帧有着复杂的依耐性,因此对传输错误非常敏感。
针对第二时间间隔大于第二时间门限值的情况,又可以进一步划分为:第二时间间隔大于第二时间门限值,且小于或等于预设的第三时间门限值,以及,第二时间间隔大于第三时间门限值两种情况,其中,第三时间门限值大于第二时间门限值。对于情况一:第二时间间隔大于第二时间门限值,且小于或等于预设的第三时间门限值,第一视联网设备可以删除视频队列中第一个帧内编码帧视频数据包至最后一个帧内编码帧视频数据包之间的全部帧间预测编码帧视频数据包。例如,第二时间间隔为t2,第二时间门限值为s2,第三时间门限值为s3,若t2大于s2且小于或等于s3,则第一视联网设备可以删除视频队列中第一个帧内编码帧视频数据包d至最后一个帧内编码帧视频数据包d’之间的全部帧间预测编码帧视频数据包。对于情况二:第二时间间隔大于第三时间门限值,第一视联网设备删除视频队列中前M个帧内编码帧视频数据包;其中,前M个帧内编码帧视频数据包中的每个帧内编码帧视频数据包与最后一个帧内编码帧视频数据包之间的第三时间间隔均大于或等于预设的帧间隔。。接上例,第二时间间隔为t2,第三时间门限值为s3,若t2大于s3,则第一视联网设备从视频队列的头部开始,计算帧内编码帧视频数据包与最后一个帧内编码帧视频数据包之间的第三时间间隔t3,若某个帧内编码帧视频数据包f与最后一个帧内编码帧视频数据包之间的第三时间间隔t3大于或等于预设的帧间隔c1,则第一视联网设备删除该帧内编码帧视频数据包f;若某个帧内编码帧视频数据包e与最后一个帧内编码帧视频数据包之间的第三时间间隔t3小于帧间隔c1,则第一视联网设备保留该帧内编码帧视频数据包e,删除操作结束。
在本发明的一种优选实施例中,若第二时间间隔小于或等于第二时间门限值,则第一视联网设备不对视频队列中的视频数据包进行丢包处理。
步骤505,第一视联网设备将音频队列中经过丢包处理后的音频数据包和视频队列中经过丢包处理后的视频数据包发送至第二视联网设备。
第一视联网设备可以将音频队列中经过丢包处理后剩余的音频数据包和视频队列中经过丢包处理后剩余的视频数据包,按照同步或关联关系组成音频数据包和视频数据包的组合,将音频数据包和视频数据包的组合发送至第二视联网设备,第一视联网设备也可以将音频队列中经过丢包处理后剩余的音频数据包和视频队列中经过丢包处理后剩余的视频数据包,按照同步或关联关系合成为音视频数据包之后,将合成的音视频数据包发送至第二视联网设备。
需要说明的是,本发明实施例中的第一视联网设备和第二视联网设备可以为视联网节点服务器或视联网终端,当第一视联网设备为视联网节点服务器时,第二视联网设备为视联网终端;当第一视联网设备为视联网终端时,第二视联网设备为视联网节点服务器。
若第一视联网设备为视联网节点服务器,第二视联网设备为视联网终端,则第一视联网设备可以按照对第二视联网设备配置的下行通信链路发送音频数据包和视频数据包的组合或者合成的音视频数据包。
在实际应用中,视联网为具有集中控制功能的网络,包括主控服务器和下级网络设备,该下级网络设备包括终端,视联网的核心构思之一在于,通过由主控服务器通知交换设备针对当次服务的下行通信链路配表,然后基于该配置的表进行数据包的传送。
即,视联网中的通信方法包括:
主控服务器配置当次服务的下行通信链路;
将源终端发送的当次服务的数据包,按照下行通信链路传送至目标终端(如视联网终端)。
在本发明实施例中,配置当次服务的下行通信链路包括:通知当次服务的下行通信链路所涉及的交换设备配表。
进一步而言,按照下行通信链路传送包括:查询所配置的表,交换设备对所接收的数据包通过相应端口进行传送。
在具体实现中,服务包括单播通信服务和组播通信服务。即无论是组播通信还是单播通信,都可以采用上述配表—用表的核心构思实现视联网中的通信。
如前所述,视联网包括接入网部分,在接入网中,该主控服务器为节点服务器,下级网络设备包括接入交换机和终端。
对于接入网中的单播通信服务而言,主控服务器配置当次服务的下行通信链路的步骤可以包括以下步骤:
子步骤S11,主控服务器依据源终端发起的服务请求协议包,获取当次服务的下行通信链路信息,下行通信链路信息包括,参与当次服务的主控服务器和接入交换机的下行通信端口信息。
子步骤S12,主控服务器依据下行通信端口信息,在其内部的数据包地址表中设置当次服务的数据包所导向的下行端口;并依据接入交换机的下行通信端口信息,向相应的接入交换机发送端口配置命令。
子步骤S13,接入交换机依据端口配置命令在其内部的数据包地址表中,设置当次服务的数据包所导向的下行端口。
对于接入网中的组播通信服务(如视频会议)而言,主控服务器获取当次服务的下行通信链路信息的步骤可以包括以下子步骤:
子步骤S21,主控服务器获得目标终端发起的申请组播通信服务的服务请求协议包,服务请求协议包中包括服务类型信息、服务内容信息和目标终端的接入网地址;其中,服务内容信息中包括服务号码。
子步骤S22,主控服务器依据服务号码在预置的内容-地址映射表中,提取源终端的接入网地址。
子步骤S23,主控服务器获取源终端对应的组播地址,并分配给目标终端;以及,依据服务类型信息、源终端和目标终端的接入网地址,获取当次组播服务的通信链路信息。
参照图6,本发明实施例中的上述第一策略可以简单概括为:判断第一时间间隔是否大于第一时间门限值,若第一时间间隔小于或等于第一门限值,则不删除音频数据包;若第一时间间隔大于第一时间门限值,进一步判断音频队列中音频数据包的数量是否大于数量门限值,若音频数据包的数量大于数量门限值,则删除音频队列中靠前的音频数据包,使得剩余的音频数据包的数量不超过数量门限值;若音频数据包的数量小于或等于数量门限值,则不删除音频数据包。
参照图7,本发明实施例中的上述第二策略可以简单概括为:判断第二时间间隔是否大于第二时间门限值,若第二时间间隔小于或等于第二时间门限值,则不删除视频数据包;若第二时间间隔大于第二时间门限值,且小于第三时间门限值,则删除视频队列中第一个I帧视频数据包和最后一个I帧视频数据包之间的所有P帧视频数据包;若第二时间间隔大于或等于第三时间门限值,则从视频队列头部删除部分I帧视频数据包,直到某I帧视频数据包的时间戳与帧间隔之和大于最后一个I帧视频数据包的时间戳时为止,即保证将要被删除的I帧视频数据包和最后一个I帧视频数据包的时间戳差值在帧间隔范围内。
本发明实施例应用于视联网中,视联网可以包括第一视联网设备和第二视联网设备,第一视联网设备可以与第二视联网设备进行通信,进而在第一视联网设备和第二视联网设备之间传输音视频数据包。
本发明实施例中,第一视联网设备在向第二视联网设备传输音视频数据包时,遇到网络状态不佳的情况,需要对音视频数据包进行丢包处理,具体地,第一视联网设备可以获取音视频数据包中的音频数据包和视频数据包,然后将音频数据包存入预设的音频队列,将视频数据包存入预设的视频队列,再计算音频队列中第一帧音频数据包与最后一帧音频数据包之间的第一时间间隔,并计算视频队列中第一帧视频数据包与最后一帧视频数据包之间的第二时间间隔。根据第一时间间隔和预设的第一策略对音频队列中的音频数据包进行丢包处理,并根据第二时间间隔和预设的第二策略对视频队列中的视频数据包进行丢包处理,最终,第一视联网设备将音频队列中经过丢包处理后的音频数据包和视频队列中经过丢包处理后的视频数据包发送至第二视联网设备。其中,第一视联网设备为视联网节点服务器时,第二视联网设备为视联网终端,第一视联网设备为视联网终端时,第二视联网设备为视联网节点服务器。
本发明实施例应用视联网的特性,在网络状态不佳时,将发送方的音视频数据包中的音频数据包和视频数据包分别按照不同的策略进行丢包处理,缓解了发送方的音视频数据包的堆积情况,保证音视频数据包的传输速度,令接收方可以接收到足够的音视频数据包,解决了接收方音视频数据包播放卡顿、不流畅的问题。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
参照图8,示出了本发明的一种音视频数据包的丢包处理系统实施例中第一视联网设备的结构框图,该系统可以应用于视联网中,视联网包括第一视联网设备和第二视联网设备,第一视联网设备与第二视联网设备进行通信,该第一视联网设备具体可以包括如下模块:
获取模块801,用于获取音视频数据包中的音频数据包和视频数据包。
存储模块802,用于将所述音频数据包存入预设的音频队列,并将所述视频数据包存入预设的视频队列。
计算模块803,用于计算所述音频队列中第一帧音频数据包与最后一帧音频数据包之间的第一时间间隔,并计算所述视频队列中第一帧视频数据包与最后一帧视频数据包之间的第二时间间隔。
丢包模块804,用于根据所述第一时间间隔和预设的第一策略对所述音频队列中的音频数据包进行丢包处理,并根据所述第二时间间隔和预设的第二策略对所述视频队列中的视频数据包进行丢包处理。
发送模块805,用于将所述音频队列中经过丢包处理后的音频数据包和所述视频队列中经过丢包处理后的视频数据包发送至所述第二视联网设备。
其中,所述第一视联网设备为视联网节点服务器时,所述第二视联网设备为视联网终端,所述第一视联网设备为所述视联网终端时,所述第二视联网设备为所述视联网节点服务器。
在本发明的一种优选实施例中,所述丢包模块804,包括:第一判断模块8041,用于判断所述第一时间间隔是否大于预设的第一时间门限值,并判断所述音频队列中存储的音频数据包的数量是否大于预设的数量门限值;第一删除模块8042,用于在所述第一时间间隔大于所述第一时间门限值,且所述音频队列中存储的音频数据包的数量大于所述数量门限值时,删除所述音频队列中前N个音频数据包,以便所述音频队列中剩余的音频数据包的数量小于或等于所述数量门限值。
在本发明的一种优选实施例中,所述丢包模块804,包括:第二判断模块8043,用于判断所述第二时间间隔是否大于预设的第二时间门限值;第二删除模块8044,用于在所述第二时间间隔大于所述第二时间门限值时,删除所述视频队列中的帧内编码帧视频数据包或帧间预测编码帧视频数据包。
在本发明的一种优选实施例中,所述第二删除模块8044,用于在所述第二时间间隔大于所述第二时间门限值,且小于或等于预设的第三时间门限值时,删除所述视频队列中第一个帧内编码帧视频数据包至最后一个帧内编码帧视频数据包之间的全部帧间预测编码帧视频数据包,所述第三时间门限值大于所述第二时间门限值。
在本发明的一种优选实施例中,所述第二删除模块8044,用于在所述第二时间间隔大于所述第三时间门限值时,删除所述视频队列中前M个帧内编码帧视频数据包;其中,所述前M个帧内编码帧视频数据包中的每个帧内编码帧视频数据包与最后一个帧内编码帧视频数据包之间的第三时间间隔均大于或等于预设的帧间隔。
对于系统实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白,本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此,本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本发明所提供的一种音视频数据包的丢包处理方法和一种音视频数据包的丢包处理系统,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种音视频数据包的丢包处理方法,其特征在于,所述方法应用于视联网中,所述视联网包括第一视联网设备和第二视联网设备,所述第一视联网设备与所述第二视联网设备进行通信,所述方法包括:
所述第一视联网设备获取音视频数据包中的音频数据包和视频数据包;
所述第一视联网设备将所述音频数据包存入预设的音频队列,并将所述视频数据包存入预设的视频队列;
所述第一视联网设备计算所述音频队列中第一帧音频数据包与最后一帧音频数据包之间的第一时间间隔,并计算所述视频队列中第一帧视频数据包与最后一帧视频数据包之间的第二时间间隔;
所述第一视联网设备根据所述第一时间间隔和预设的第一策略对所述音频队列中的音频数据包进行丢包处理,并根据所述第二时间间隔和预设的第二策略对所述视频队列中的视频数据包进行丢包处理;
所述第一视联网设备将所述音频队列中经过丢包处理后的音频数据包和所述视频队列中经过丢包处理后的视频数据包发送至所述第二视联网设备;
其中,所述第一视联网设备为视联网节点服务器时,所述第二视联网设备为视联网终端,所述第一视联网设备为所述视联网终端时,所述第二视联网设备为所述视联网节点服务器。
2.根据权利要求1所述的音视频数据包的丢包处理方法,其特征在于,所述第一视联网设备根据所述第一时间间隔和预设的第一策略对所述音频队列中的音频数据包进行丢包处理的步骤,包括:
所述第一视联网设备判断所述第一时间间隔是否大于预设的第一时间门限值,并判断所述音频队列中存储的音频数据包的数量是否大于预设的数量门限值;
所述第一视联网设备在所述第一时间间隔大于所述第一时间门限值,且所述音频队列中存储的音频数据包的数量大于所述数量门限值时,删除所述音频队列中前N个音频数据包,以便所述音频队列中剩余的音频数据包的数量小于或等于所述数量门限值。
3.根据权利要求1所述的音视频数据包的丢包处理方法,其特征在于,所述第一视联网设备根据所述第二时间间隔和预设的第二策略对所述视频队列中的视频数据包进行丢包处理的步骤,包括:
所述第一视联网设备判断所述第二时间间隔是否大于预设的第二时间门限值;
所述第一视联网设备在所述第二时间间隔大于所述第二时间门限值时,删除所述视频队列中的帧内编码帧视频数据包或帧间预测编码帧视频数据包。
4.根据权利要求3所述的音视频数据包的丢包处理方法,其特征在于,所述第一视联网设备在所述第二时间间隔大于所述第二时间门限值时,删除所述视频队列中的帧内编码帧视频数据包或帧间预测编码帧视频数据包的步骤,包括:
所述第一视联网设备在所述第二时间间隔大于所述第二时间门限值,且小于或等于预设的第三时间门限值时,删除所述视频队列中第一个帧内编码帧视频数据包至最后一个帧内编码帧视频数据包之间的全部帧间预测编码帧视频数据包,所述第三时间门限值大于所述第二时间门限值。
5.根据权利要求4所述的音视频数据包的丢包处理方法,其特征在于,所述第一视联网设备在所述第二时间间隔大于所述第二时间门限值时,删除所述视频队列中的帧内编码帧视频数据包或帧间预测编码帧视频数据包的步骤,包括:
所述第一视联网设备在所述第二时间间隔大于所述第三时间门限值时,删除所述视频队列中前M个帧内编码帧视频数据包;
其中,所述前M个帧内编码帧视频数据包中的每个帧内编码帧视频数据包与最后一个帧内编码帧视频数据包之间的第三时间间隔均大于或等于预设的帧间隔。
6.一种音视频数据包的丢包处理系统,其特征在于,所述系统应用于视联网中,所述视联网包括第一视联网设备和第二视联网设备,所述第一视联网设备与所述第二视联网设备进行通信,所述第一视联网设备包括:
获取模块,用于获取音视频数据包中的音频数据包和视频数据包;
存储模块,用于将所述音频数据包存入预设的音频队列,并将所述视频数据包存入预设的视频队列;
计算模块,用于计算所述音频队列中第一帧音频数据包与最后一帧音频数据包之间的第一时间间隔,并计算所述视频队列中第一帧视频数据包与最后一帧视频数据包之间的第二时间间隔;
丢包模块,用于根据所述第一时间间隔和预设的第一策略对所述音频队列中的音频数据包进行丢包处理,并根据所述第二时间间隔和预设的第二策略对所述视频队列中的视频数据包进行丢包处理;
发送模块,用于将所述音频队列中经过丢包处理后的音频数据包和所述视频队列中经过丢包处理后的视频数据包发送至所述第二视联网设备;
其中,所述第一视联网设备为视联网节点服务器时,所述第二视联网设备为视联网终端,所述第一视联网设备为所述视联网终端时,所述第二视联网设备为所述视联网节点服务器。
7.根据权利要求6所述的音视频数据包的丢包处理系统,其特征在于,所述丢包模块,包括:
第一判断模块,用于判断所述第一时间间隔是否大于预设的第一时间门限值,并判断所述音频队列中存储的音频数据包的数量是否大于预设的数量门限值;
第一删除模块,用于在所述第一时间间隔大于所述第一时间门限值,且所述音频队列中存储的音频数据包的数量大于所述数量门限值时,删除所述音频队列中前N个音频数据包,以便所述音频队列中剩余的音频数据包的数量小于或等于所述数量门限值。
8.根据权利要求6所述的音视频数据包的丢包处理系统,其特征在于,所述丢包模块,包括:
第二判断模块,用于判断所述第二时间间隔是否大于预设的第二时间门限值;
第二删除模块,用于在所述第二时间间隔大于所述第二时间门限值时,删除所述视频队列中的帧内编码帧视频数据包或帧间预测编码帧视频数据包。
9.根据权利要求8所述的音视频数据包的丢包处理系统,其特征在于,所述第二删除模块,用于在所述第二时间间隔大于所述第二时间门限值,且小于或等于预设的第三时间门限值时,删除所述视频队列中第一个帧内编码帧视频数据包至最后一个帧内编码帧视频数据包之间的全部帧间预测编码帧视频数据包,所述第三时间门限值大于所述第二时间门限值。
10.根据权利要求9所述的音视频数据包的丢包处理系统,其特征在于,所述第二删除模块,用于在所述第二时间间隔大于所述第三时间门限值时,删除所述视频队列中前M个帧内编码帧视频数据包;
其中,所述前M个帧内编码帧视频数据包中的每个帧内编码帧视频数据包与最后一个帧内编码帧视频数据包之间的第三时间间隔均大于或等于预设的帧间隔。
CN201811627113.9A 2018-12-28 2018-12-28 一种音视频数据包的丢包处理方法和系统 Active CN109756789B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811627113.9A CN109756789B (zh) 2018-12-28 2018-12-28 一种音视频数据包的丢包处理方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811627113.9A CN109756789B (zh) 2018-12-28 2018-12-28 一种音视频数据包的丢包处理方法和系统

Publications (2)

Publication Number Publication Date
CN109756789A true CN109756789A (zh) 2019-05-14
CN109756789B CN109756789B (zh) 2021-10-19

Family

ID=66403258

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811627113.9A Active CN109756789B (zh) 2018-12-28 2018-12-28 一种音视频数据包的丢包处理方法和系统

Country Status (1)

Country Link
CN (1) CN109756789B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110444224A (zh) * 2019-09-09 2019-11-12 深圳大学 一种基于生成式对抗网络的语音处理方法及装置
CN110677394A (zh) * 2019-09-12 2020-01-10 视联动力信息技术股份有限公司 一种多媒体数据的传输方法及系统
CN111093083A (zh) * 2019-12-16 2020-05-01 西安万像电子科技有限公司 数据传输方法及装置
CN111510759A (zh) * 2020-03-17 2020-08-07 视联动力信息技术股份有限公司 视频显示方法、装置及可读存储介质
CN113452946A (zh) * 2021-06-28 2021-09-28 深圳七号家园信息技术有限公司 一种视频电话的音频和视频传输方法及系统
CN114979718A (zh) * 2022-04-14 2022-08-30 海南车智易通信息技术有限公司 音视频同步续播的方法、装置、电子设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130156095A1 (en) * 2011-12-15 2013-06-20 Imerj LLC Networked image/video processing system
CN104113777A (zh) * 2014-08-01 2014-10-22 广州金山网络科技有限公司 一种音频流解码方法及装置
CN104394421A (zh) * 2013-09-23 2015-03-04 贵阳朗玛信息技术股份有限公司 视频帧的处理方法及装置
CN108881931A (zh) * 2017-05-16 2018-11-23 腾讯科技(深圳)有限公司 一种数据缓冲方法及网络设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130156095A1 (en) * 2011-12-15 2013-06-20 Imerj LLC Networked image/video processing system
CN104394421A (zh) * 2013-09-23 2015-03-04 贵阳朗玛信息技术股份有限公司 视频帧的处理方法及装置
CN104113777A (zh) * 2014-08-01 2014-10-22 广州金山网络科技有限公司 一种音频流解码方法及装置
CN108881931A (zh) * 2017-05-16 2018-11-23 腾讯科技(深圳)有限公司 一种数据缓冲方法及网络设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
HAYDER RADHA,等: "Scalable internet video using MPEG-4", 《SIGNAL PROCESSING. IMAGE COMMUNICATION: A PUBLICATION OF THE THE EUROPEAN ASSOCIATION FOR SIGNAL PROCESSING》 *
李少博,等: "基于RTP/RTCP主动丢包的立体视频传输研究", 《计算机工程》 *

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110444224A (zh) * 2019-09-09 2019-11-12 深圳大学 一种基于生成式对抗网络的语音处理方法及装置
CN110444224B (zh) * 2019-09-09 2022-05-27 深圳大学 一种基于生成式对抗网络的语音处理方法及装置
CN110677394A (zh) * 2019-09-12 2020-01-10 视联动力信息技术股份有限公司 一种多媒体数据的传输方法及系统
CN110677394B (zh) * 2019-09-12 2022-03-29 视联动力信息技术股份有限公司 一种多媒体数据的传输方法及系统
CN111093083A (zh) * 2019-12-16 2020-05-01 西安万像电子科技有限公司 数据传输方法及装置
CN111093083B (zh) * 2019-12-16 2022-12-09 西安万像电子科技有限公司 数据传输方法及装置
CN111510759A (zh) * 2020-03-17 2020-08-07 视联动力信息技术股份有限公司 视频显示方法、装置及可读存储介质
CN111510759B (zh) * 2020-03-17 2023-10-13 视联动力信息技术股份有限公司 视频显示方法、装置及可读存储介质
CN113452946A (zh) * 2021-06-28 2021-09-28 深圳七号家园信息技术有限公司 一种视频电话的音频和视频传输方法及系统
CN114979718A (zh) * 2022-04-14 2022-08-30 海南车智易通信息技术有限公司 音视频同步续播的方法、装置、电子设备及存储介质
CN114979718B (zh) * 2022-04-14 2023-09-19 海南车智易通信息技术有限公司 音视频同步续播的方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN109756789B (zh) 2021-10-19

Similar Documents

Publication Publication Date Title
CN109756789A (zh) 一种音视频数据包的丢包处理方法和系统
CN108243153A (zh) 一种在视联网中播放电视节目的方法和装置
CN108810456A (zh) 一种监控视频流调取方法及系统
CN108063745B (zh) 一种基于安卓设备的视频通话方法及其系统
CN108206911A (zh) 一种摄像头远程控制方法及协转服务器
CN109379254A (zh) 一种基于视频会议的网络连接的检测方法和系统
CN109120879A (zh) 一种视频会议的处理方法和系统
CN109963109A (zh) 一种视频会议的处理方法和系统
CN109889779A (zh) 一种报文乱序的处理方法和装置
CN110351506A (zh) 一种视频录制方法、装置、电子设备及可读存储介质
CN109246486A (zh) 一种组帧方法和装置
CN109246135A (zh) 一种流媒体数据的获取方法和系统
CN109218306A (zh) 一种音视频数据流的处理方法和系统
CN108243343A (zh) 一种基于视联网的点位分布统计方法及其服务器
CN108574816A (zh) 一种视联网终端以及基于视联网终端的通信方法、装置
CN108881818A (zh) 一种视频数据的传输方法和装置
CN109491783A (zh) 一种内存利用率的获取方法和系统
CN110401848A (zh) 一种视频播放方法和装置
CN108989850A (zh) 一种视频播放控制方法及控制系统
CN108989831A (zh) 一种多码流的网络录制方法和装置
CN108574819B (zh) 一种终端设备和一种视频会议的方法
CN110263030A (zh) 基于视联网的数据获取方法和装置
CN110149497A (zh) 一种视联网数据传输方法、装置、系统及可读存储介质
CN109617766A (zh) 一种心跳处理方法和装置
CN109361891A (zh) 一种分级会议中的数据同步方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant