CN114640658A - 媒体数据及内容数据传输方法、装置和系统 - Google Patents

媒体数据及内容数据传输方法、装置和系统 Download PDF

Info

Publication number
CN114640658A
CN114640658A CN202011374144.5A CN202011374144A CN114640658A CN 114640658 A CN114640658 A CN 114640658A CN 202011374144 A CN202011374144 A CN 202011374144A CN 114640658 A CN114640658 A CN 114640658A
Authority
CN
China
Prior art keywords
content data
data
transmission
processing
scheme
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011374144.5A
Other languages
English (en)
Inventor
肖蒙
周明才
李扬彦
陈颖
吕思霖
邓思斌
吴炜
卜瑞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN202011374144.5A priority Critical patent/CN114640658A/zh
Publication of CN114640658A publication Critical patent/CN114640658A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

公开了一种媒体数据及内容数据传输方法、装置和系统。根据接收方传输通道状态和第一内容数据的第一数据量,从多种数据处理方案中选择数据处理方案。发送方使用所选数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据,第二内容数据的第二数据量与传输通道状态良好程度正相关。使用传输通道传输第二内容数据。接收方使用所选数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据。其中,数据处理方案的选择依据是,对于第一内容数据,使用所选数据处理方案得到的第三内容数据的质量优于使用多种数据处理方案中其它数据处理方案得到的第三内容数据的质量。由此,能够在确保传输速度的情况下提供尽可能高的输出质量。

Description

媒体数据及内容数据传输方法、装置和系统
技术领域
本公开涉及数据处理和传输,特别涉及图片、音视频等内容数据的处理和传输。
背景技术
在现代通信类应用中,为了节省传输带宽,图片、音频、视频等内容数据一般都需要经过传输前的压缩等前处理、传输、传输后的解压缩等后处理,最后在终端以显示、播放等方式输出。
以图片处理和传输为例,根据压缩后图像的保真度,图像压缩可分为有损压缩和无损压缩。在网络通信中比较常用的是有损压缩格式如jpg、webp等。有损压缩格式可灵活设置质量因子,较小质量因子对应较小的文件大小(也可以称为“文件尺寸”或“数据量”),同时图片质量也较差,反之亦然。
因此,当网络带宽十分受限时,可以牺牲一定的图片质量,采用较小质量因子使得压缩后图片文件更小更有利于传输。
另一种简单的方案是直接把图片缩小以减小文件大小,传输到终端再放大到原图分辨率进行显示,当然放大后的图会比原图模糊。
作为终端用户,希望在能够看到质量尽可能高的图片的同时,传输速度也尽可能快。作为图片提供方,希望在给用户提供同等视觉质量的图片时,图片文件尽可能小以节省带宽成本。
对于音频和视频数据传输,同样存在传输速度和音视频输出质量之间的矛盾。
因此,仍然需要一种能够在确保传输速度的情况下提供尽可能高的输出质量的数据处理和传输方案。
发明内容
本公开要解决的一个技术问题是提供一种媒体数据及内容数据传输方案,其能够在确保传输速度的情况下提供尽可能高的输出质量。
根据本公开的第一个方面,提供了一种媒体数据传输方法,包括:使用根据接收方的传输通道状态和第一媒体数据的第一数据量从多种媒体数据处理方案中选择的媒体数据处理方案的传输前处理方案,对第一媒体数据进行处理,得到第二媒体数据,第二媒体数据的第二数据量与传输通道状态良好程度正相关;以及使用传输通道传输第二媒体数据,其中,使用所选媒体数据处理方案的传输后处理方案对第二媒体数据进行处理能够得到第三媒体数据,并且其中,对于第一媒体数据,使用所选媒体数据处理方案得到的第三媒体数据的质量优于使用多种媒体数据处理方案中其它媒体数据处理方案得到的第三媒体数据的质量。
根据本公开的第二个方面,提供了一种媒体数据传输方法,包括:使用传输通道接收第二媒体数据,第二媒体数据是使用根据接收方的传输通道状态和第一媒体数据的第一数据量从多种媒体数据处理方案中选择的媒体数据处理方案的传输前处理方案对第一媒体数据进行处理而得到的,并且第二媒体数据的第二数据量与传输通道状态良好程度正相关;使用所选媒体数据处理方案的传输后处理方案,对第二媒体数据进行处理,得到第三媒体数据,其中,对于第一媒体数据,使用所选媒体数据处理方案得到的第三媒体数据的质量优于使用多种媒体数据处理方案中其它媒体数据处理方案得到的第三媒体数据的质量。
根据本公开的第三个方面,提供了一种内容数据传输方法,包括:使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据,第二内容数据的第二数据量与传输通道状态良好程度正相关;以及使用传输通道传输第二内容数据。其中,使用所选内容数据处理方案的传输后处理方案对第二内容数据进行处理能够得到第三内容数据,并且其中,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
可选地,该方法还可以包括:确定接收方的传输通道状态,或从接收方接收其传输通道状态信息;以及/或者根据传输通道状态确定第二数据量,或从接收方获取接收方根据传输通道状态确定的第二数据量;以及/或者基于第一数据量和第二数据量从多种内容数据处理方案中选择内容数据处理方案,或从接收方获取接收方基于第一数据量和第二数据量从多种内容数据处理方案中选择内容数据处理方案选择的内容数据处理方案。
根据本公开的第四个方面,提供了一种内容数据传输方法,包括:使用传输通道接收第二内容数据,第二内容数据是使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案对第一内容数据进行处理而得到的,并且第二内容数据的第二数据量与传输通道状态良好程度正相关;使用所选内容数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据。其中,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
可选地,该方法还可以包括:确定接收方的传输通道状态;以及/或者根据传输通道状态确定第二数据量,或向发送方发送接收方根据传输通道状态确定的第二数据量;以及/或者基于第一数据量和第二数据量从多种内容数据处理方案中选择内容数据处理方案,并向发送方发送所选择的内容数据处理方案。
可选地,多种内容数据处理方案包括下述至少两项:内容数据压缩方案,包括传输前的内容数据压缩处理和传输后的内容数据解压缩处理;内容数据压缩失真修复方案,包括传输前的内容数据压缩处理和传输后的内容数据解压缩处理及失真修复处理;内容数据下采样超分辨率重建方案,包括传输前的内容数据下采样处理和内容数据压缩处理以及传输后的内容数据解压缩处理和超分辨率内容数据重建处理。
可选地,内容数据下采样超分辨率重建方案包括下采样比率不同的多种内容数据下采样超分辨率重建方案。
可选地,失真修复处理是使用卷积神经网络执行的;并且/或者超分辨率内容数据重建处理是使用卷积神经网络执行的。
可选地,该方法还可以包括:确定临界数据量。在第二数据量为临界数据量的情况下,基于内容数据下采样超分辨率重建方案得到的第三内容数据与基于内容数据压缩方案或内容数据压缩失真修复方案得到的第三内容数据具有相同的质量评价指标值;在第二数据量大于临界数据量的情况下,选择内容数据压缩方案或内容数据压缩失真修复方案;在第二数据量小于临界数据量的情况下,选择内容数据下采样超分辨率重建方案。
可选地,该方法还可以包括:针对多种内容数据处理方案,分别确定内容数据质量评价指标与第一数据量、第二数据量的对应关系
可选地,所选内容数据处理方案是基于对应关系选择的。
可选地,针对多种内容数据处理方案分别确定内容数据质量评价指标与第一数据量、第二数据量的对应关系的步骤包括:针对各内容数据处理方案,分别确定在给定第一数据量的情况下,在内容数据压缩处理中采用不同质量因子分别得到的第二内容数据的第二数据量和第三内容数据的内容数据质量评价指标之间的对应关系;或者针对各内容数据处理方案,分别确定在内容数据压缩处理中采用不同质量因子分别得到的第二内容数据的第二数据量与第一数据量之比和第三内容数据的内容数据质量评价指标之间的对应关系。
可选地,所选内容数据处理方案的选择过程包括:确定多种内容数据处理方案的多条对应关系曲线的一个或多个交点对应的一个或多个临界数据量;以及基于第二数据量与临界数据量的大小关系和多条对应关系曲线在交点两侧的内容数据质量评价指标变化趋势,选择对应于第二数据量取得更高内容数据质量评价指标值的内容数据处理方案。
可选地,该方法还可以包括:使用内容数据峰值信噪比作为内容数据质量评价指标。
可选地,所选内容数据处理方案是以接收方的传输通道状态和第一内容数据的第一数据量为输入,使用训练好的预测模型,从多种内容数据处理方案中选择的。
可选地,在选择内容数据处理方案的同时,还确定相应的内容数据处理参数。
可选地,内容数据包括图片、音频数据以及视频数据等媒体数据中至少一项,第二数据量是基于接收方的传输通道状态和期望的第二图片传输用时确定的;并且/或者内容数据包括音频数据和/或视频数据,数据量是内容数据的对应于单位时间的数据量,第二数据量是基于接收方的传输通道单位时间能够接收的数据量确定的。
根据本公开的第五个方面,提供了一种内容数据传输方法,包括:向用户提供多种内容数据处理方案分别对应的成本与输出内容数据质量对应关系,多种内容数据处理方案分别具有各自对应的传输数据量和输出内容数据质量;使用用户基于多种内容数据处理方案分别对应的延迟时间和输出内容数据质量对应关系选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据,第二内容数据的第二数据量为所选内容数据处理方案的传输数据量;以及使用传输通道传输第二内容数据,其中,使用所选内容数据处理方案的传输后处理方案对第二内容数据进行处理能够得到第三内容数据,第三内容数据为所选内容数据处理方案的输出内容数据。
根据本公开的第六个方面,提供了一种内容数据传输方法,包括:向用户输出多种内容数据处理方案分别对应的成本与输出内容数据质量对应关系,多种内容数据处理方案分别具有各自对应的传输数据量和输出内容数据质量;接收用户基于对应关系选择的内容数据处理方案信息;向发送方发送所选内容数据处理方案信息;使用传输通道接收第二内容数据,第二内容数据是发送方使用所选内容数据处理方案的传输前处理方案对第一内容数据进行处理而得到的,并且第二内容数据的第二数据量为所选内容数据处理方案的传输数据量;使用所选内容数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据,第三内容数据为所选内容数据处理方案的输出内容数据。
可选地,成本包括延迟时间,该方法还包括:根据接收方的传输通道状态和第一内容数据的第一数据量,确定多种内容数据处理方案分别对应的延迟时间。
可选地,成本包括内容数据处理方案的计算成本和/或网络通信成本和/或服务成本。
可选地,多个内容数据处理方案分别对应的成本与输出内容数据质量对应关系还包括至少一个内容数据处理方案在不同参数下的成本与输出内容数据质量对应关系。
根据本公开的第七个方面,提供了一种内容数据传输装置,包括:传输前处理装置,使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据,第二内容数据的第二数据量与传输通道状态良好程度正相关;以及发送装置,使用传输通道传输第二内容数据。其中,使用所选内容数据处理方案的传输后处理方案对第二内容数据进行处理能够得到第三内容数据,并且其中,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
根据本公开的第八个方面,提供了一种内容数据传输装置,包括:接收装置,使用传输通道接收第二内容数据,第二内容数据是使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案对第一内容数据进行处理而得到的,第二内容数据的第二数据量与传输通道状态良好程度正相关;以及传输后处理装置,使用所选内容数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据。其中,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
根据本公开的第九个方面,提供了一种内容数据传输系统,包括发送方设备和接收方设备。发送方设备使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据,第二内容数据的第二数据量与传输通道状态良好程度正相关,发送方设备使用传输通道向接收方设备传输第二内容数据,接收方设备使用传输通道接收第二内容数据,并使用所选内容数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据。其中,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
根据本公开的第十个方面,提供了一种文件传输系统,包括发送方设备和接收方设备,文件是随传输前和/或传输后不同方式的处理而具有不同传输文件数据量和不同所得文件质量的文件。发送方设备使用根据接收方的传输通道状态和第一文件的第一数据量从多种文件处理方案中选择的文件处理方案的传输前处理方案,对第一文件进行处理,得到第二文件,第二文件的第二数据量与传输通道状态良好程度正相关,发送方设备使用传输通道向接收方设备传输第二文件,接收方设备使用传输通道接收第二文件,并使用所选文件处理方案的传输后处理方案,对第二文件进行处理,得到第三文件。其中,对于第一文件,使用所选文件处理方案得到的第三文件的质量优于使用多种文件处理方案中其它文件处理方案得到的第三文件的质量。
根据本公开的第十一个方面,提供了一种计算设备,包括:处理器;以及存储器,其上存储有可执行代码,当可执行代码被处理器执行时,使处理器执行如上述第一至第六方面所述的方法。
根据本公开的第十二个方面,提供了一种非暂时性机器可读存储介质,其上存储有可执行代码,当可执行代码被电子设备的处理器执行时,使处理器执行如上述第一至第六方面所述的方法。
由此,实现了一种能够在确保传输速度的情况下提供尽可能高的输出质量的媒体数据和/或内容数据处理和传输方案。
附图说明
通过结合附图对本公开示例性实施方式进行更详细的描述,本公开的上述以及其它目的、特征和优势将变得更加明显,其中,在本公开示例性实施方式中,相同的参考标号通常代表相同部件。
图1是根据本公开的传输系统的示意性架构图。
图2是根据本公开的传输方案的示意图。
图3是根据本公开用于发送方的传输设备的示意性框图。
图4是根据本公开用于接收方的传输设备的示意性框图。
图5是根据本公开的传输方法的示意性流程图。
图6是根据本公开实施例的数据处理方案确定方法的示意性流程图。
图7是图6所示方法中数据处理方案选择方法的示例的示意性流程图。
图8是多种数据处理方案对应的质量vs数据量曲线的示意图。
图9是用于执行超分辨率内容数据重建处理的示例模型的示意图。
图10是用于执行失真修复处理的示例模型的示意图。
图11示出了根据本发明一实施例可用于实现上述传输方法的计算设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的优选实施方式。虽然附图中显示了本公开的优选实施方式,然而应该理解,可以以各种形式实现本公开而不应被这里阐述的实施方式所限制。相反,提供这些实施方式是为了使本公开更加透彻和完整,并且能够将本公开的范围完整地传达给本领域的技术人员。
图1是根据本公开的传输系统的示意性架构图。
如图1所示,发送方设备1和接收方设备2通过传输通道进行通信。
传输通道可以是各种能够用于传输数据的通道,可以是有线或无线传输通道;可以是远距离传输通道,也可以是例如蓝牙等短距离传输通道;可以是互联网络,例如3G、4G、5G、6G等移动通信网络,Wi-Fi网络等;可以是卫星通信网络;也可以是电视或广播等的广播数据通信网络。
发送方设备1和接收方设备2则分别是可以使用相应传输通道进行数据传输的发送设备或接收设备。
发送方设备1和接收方设备2都可以包括一个设备或多个设备。
本公开的传输方案能够传输各种内容数据,包括图片数据、音频数据、视频数据等媒体数据中的任何一种或多种。
更一般地,本公开的传输方案可以适用于各种文件,特别是随传输前和/或传输后不同方式的处理而具有不同传输文件数据量和不同所得文件质量的文件。
发送方对期望发送的内容数据进行传输前处理,然后接收方对所接收到的内容数据进行传输后处理,得到最终输出的内容数据。由于传输通道条件的限制,对所传输数据的数据量造成限制。传输通道状态越好,传输数据的数据量可以越大。由此,希望在受传输通道条件限制的传输数据量的前提下,能够最终在接收方输出具有更好质量的内容数据。
一般地,本公开涉及的内容数据处理方案包括传输前处理和传输后处理。发送方对原内容数据(第一内容数据)进行传输前处理,减小其数据量,使其便于传输,得到用于传输的内容数据(第二内容数据)。接收方对所接收的内容数据(第二内容数据)进行传输后处理,恢复其质量(例如清晰度),使其便于对用户输出(例如显示或播放),得到用于对用户输出的内容数据(第三内容数据)。
在各种内容数据处理方案中,传输前处理例如可以涉及一个或多个参数,例如压缩操作中的质量因子或压缩系数等,不同的参数或参数组合,例如质量因子或压缩系数,对应于最终得到的第三内容数据不同的质量,也对应于所传输的第二内容数据不同的第二数据量。换言之,对于每种内容数据处理方案,采用不同的参数或参数组合进行传输前处理,会得到相应不同的第二数据量的第二内容数据,从而在传输后处理之后得到相应不同质量的第三内容数据。
对于不同的内容数据处理方案,在实际传输第二数据量的不同区间,能够提供不同的第三内容数据质量。例如,在传输通道状态不佳,因此期望实际传输的第二内容数据的第二数据量较小时,一些内容数据处理方案最终能够输出的第三内容数据的质量高于另一些内容数据处理方案;而在传输通道状态良好,因此期望实际传输的第二内容数据的第二数据量可以较大时,上述另一些内容数据处理方案最终能够输出的第三内容数据的质量反而高于上述一些内容数据处理方案。因此,还需要根据传输通道状态来选择内容数据处理方案。
下面参考图2简要描述根据本公开的数据传输方案。
图2是根据本公开的传输方案的示意图。
如图2所示,发送方期望发送给接收方的第一内容数据具有第一数据量。
通过对第一内容数据进行传输前处理,得到第二内容数据。一般地,第二内容数据的第二数据量可以小于第一数据量。
然后通过传输通道将第二内容数据传输给接收方。
接收方接收到第二内容数据后对其进行传输后处理,得到第三内容数据。
在本公开的数据处理和传输方案中,基于接收方的传输通道状态和第一内容数据的第一数据量来从多种内容数据处理方案中选择内容数据处理方案,使得在所传输的第二内容数据的第二数据量适应于传输通道状态的情况下,最终得到的第三内容的质量更优。
第二内容数据的第二数据量可以与传输通道状态良好程度正相关。传输通道状态例如可以用接收方设备2在单位时间内能够(例如从发送方设备1)接收的数据量来衡量。例如,第二数据量可以与接收方设备2在单位时间内能够(例如从发送方设备1)接收的数据量成正比。
在以文件形式传输内容数据的情况下,这里的“数据量”也可以称为“文件大小”或“文件尺寸”。
在内容数据为图片的情况下,数据量可以是图片文件的文件大小或文件尺寸,或者也可以以图片像素数和/或分辨率来表示。
在第二数据量表示期望传输的内容数据的总数据量的情况下,第二数据量可以基于接收方的传输通道状态(例如每秒能够接收的数据量)和期望的第二图片传输用时(例如0.5s或1s)来确定。例如,接收方的传输通道当前每秒能够接收1M数据量,期望在0.5s内完成内容数据的传输,则第二数据量例如可以确定为1M/s×0.5s=0.5M。
在内容数据包括音频数据和/或视频数据的情况下,数据量可以是内容数据的对应于单位时间的数据量,例如每秒音频数据或视频数据的数据量。这种情况下,第二数据量可以基于接收方的传输通道单位时间能够接收的数据量,也可以称为“带宽”,来确定。例如,接收方传输通道的数据接收速率为0.5M/s,则第二数据量可以为0.5M/s。
下面进一步描述根据本公开的传输方案。
首先参考图3和图4分别简述可用于实施本公开的传输方案的发送方传输设备和接收方传输设备。
图3是根据本公开用于发送方的传输设备的示意性框图。
如图3所示,发送方传输设备100可以包括传输前处理装置110和发送装置120。
传输前处理装置110使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据。第二内容数据的第二数据量与传输通道状态良好程度正相关。
发送装置120使用传输通道传输第二内容数据。
图4是根据本公开用于接收方的传输设备的示意性框图。
如图4所示,接收方传输设备200可以包括接收装置210和传输后处理装置220。
接收装置210使用传输通道接收第二内容数据。
传输后处理装置220使用所选内容数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据。
这里,从多种内容数据处理方案中选择内容数据传输方案的依据、标准或原则是,使得对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
下面参考图5来进一步描述根据本公开的传输方案。
图5是根据本公开的传输方法的示意性流程图。该方法的发送方部分和接收方部分可以例如分别由图3和图4所示的上述发送方传输设备100和接收方传输设备200来实施。
如图5所示,例如响应于接收方的请求,或者发送方的发送指令(例如推送指令),发送方要将第一内容数据发送给接收方。接收方最终输出第三内容数据。
在步骤S1,发送方可以确定第一内容数据的第一数据量。
在步骤S2,接收方可以确定当前接收方传输通道状态。
于是,在步骤S3,可以基于数据量和接收方传输通道状态,从多种内容数据处理方案中选择一种内容数据处理方案。
如上文所述,这里选择内容数据处理方案的依据、标准或原则是,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
下面参考图6进一步描述根据本公开的一个实施例确定数据处理方案的方法。
图6是根据本公开所示实施例的数据处理方案确定方法的示意性流程图。
如图6所示,在步骤S31,可以先根据接收方传输通道状态来确定要传输的第二内容数据的第二数据量。
如上文所述,第二数据量可以与传输通道状态良好程度正相关。一般地,第二数据量可以小于第一数据量。
然后,在步骤S32,可以基于第一(原)内容数据的第一数据量和第二(待传输)内容数据的第二数据量,从多种内容数据处理方案中选择能够在满足传输通道状态对第二数据量的要求的情况下得到更高质量的第三内容数据的内容数据处理方案。
例如,可以针对多种内容数据处理方案,分别确定相应第三内容数据的内容数据质量评价指标与第一数据量、第二数据量的对应关系。
这样,可以基于这样的对应关系来选择内容数据处理方案。例如,对于给定的第一数据量和第二数据量,可以选择能够给出更高的内容数据质量评价指标(对应于更高质量)的第三内容数据。
这里,各种内容数据处理方案的上述对应关系可以以表格(例如查找表)的形式保存。或者,也可以以对应关系曲线的形式来表示。
例如,在传输前处理包括压缩处理的情况下,针对各内容数据处理方案,分别确定在给定第一数据量的情况下,在内容数据压缩处理中采用不同质量因子或压缩系数分别得到的第二内容数据的第二数据量和第三内容数据的内容数据质量评价指标之间的对应关系。换言之,对于各种内容数据处理方案,可以对多个设定的第一数据量分别预先确定质量评价指标与第二数据量之间的对应关系。
或者,可以认为在采用相同参数例如质量因子或压缩系数的情况下,第二数据量与第一数据量的比值是基本上恒定的。因此,也可以针对各内容数据处理方案,分别确定在内容数据压缩处理中采用不同质量因子分别得到的第二内容数据的第二数据量与第一数据量之比和第三内容数据的内容数据质量评价指标之间的对应关系。
图7是图6所示方法中步骤S32中数据处理方案选择方法的示例的示意性流程图。
在图7所示示例中,使用曲线形式来表示上述对应关系。
首先,可以针对多种内容数据处理方案,分别确定上述(最终输出给用户的第三内容数据的)质量vs(所传输的第二内容数据的)数据量对应关系的曲线。
例如,在从两种内容数据处理方案中选择一种的情况下,如图7所示,在步骤S321,生成第一内容数据处理方案的第一质量vs数据量曲线。在步骤S322,生成第二内容数据处理方案的第一质量vs数据量曲线。
然后,确定多种内容数据处理方案相应的多条对应关系曲线的一个或多个交点,交点对应的数据量坐标值可以作为相应两个对应关系变化趋势的临界数据量。
例如,如图7所示,在步骤S323,确定第一和第二质量vs数据量曲线的交点对应的临界数据量。
所谓临界数据量是指,在该交点处,相应两种内容数据处理方案能够得到相同的第三内容数据质量,而在该交点两侧,分别由两者中不同的内容数据处理方案给出质量更好的第三内容数据。
这样,在步骤S324,可以基于第二数据量与临界数据量的大小关系和多条对应关系曲线在交点两侧的内容数据质量评价指标变化趋势,选择对应于第二数据量取得更高内容数据质量评价指标值的内容数据处理方案。
这里,例如可以使用内容数据峰值信噪比(PSNR)作为内容数据质量评价指标。
在存储对应关系时,还可以记录各个第二数据量或第二数据量与第一数据量之比所对应的处理参数,例如质量因子或压缩系数等,以便于在执行所选择的内容数据处理方案的传输前处理时,采用相应的参数来进行处理。
另外,也可以使用预先训练好的预测模型,来从多种内容数据处理方案中选择内容数据处理方案。
训练时,例如可以以相应的传输通道状态、第一数据量为输入特征,以对应于更高(第三内容数据)质量的内容数据处理方案为标记,得到一个或多个训练样本,对预测模型进行训练。
然后,将当前确定的接收方传输通道状态和发送方要传输的第一内容数据的第一数据量作为输入特征,输入到预测模型中,得到内容数据处理方案选择结果。
同样地,在选择内容数据处理方案的同时,也可以同时确定相应的内容数据处理参数。
应当明白,选择内容数据处理方案的步骤可以在发送方执行,也可以在接收方执行,或者也可以由发送方和接收方相互配合来共同执行。
例如,在由发送方来选择内容数据处理方案的情况下,发送方可以通过各种方案来确定接收方的传输通道状态,或者也可以从接收方接收其传输通道状态信息。
这样,发送方可以根据所获取的接收方传输通道状态来确定第二数据量。
或者,发送方也可以不需要获取接收方传输通道状态,而由接收方根据传输通道状态确定第二数据量,并向发送方发送接收方根据传输通道状态确定的第二数据量。
由此,发送方从接收方获取接收方根据传输通道状态确定的第二数据量。然后,可以基于第一数据量和第二数据量,从多种内容数据处理方案中选择内容数据处理方案。
或者,在由接收方来选择内容数据处理方案的情况下,接收方确定自身一侧的传输通道状态,根据传输通道状态确定第二数据量。然后,可以基于第一数据量和第二数据量,从多种内容数据处理方案中选择内容数据处理方案,并向发送方发送所选择的内容数据处理方案。
这样,发送方也可以直接从接收方获取接收方基于第一数据量和第二数据量从多种内容数据处理方案中选择内容数据处理方案选择的内容数据处理方案。
由此,在步骤S4,发送方可以使用所选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据。
如上文所述,第二内容数据的第二数据量与传输通道状态良好程度正相关。
然后,在步骤S5,发送方可以使用传输通道传输第二内容数据。
相应地,在步骤S6,接收方可以通过传输通道接收第二内容数据。
于是,在步骤S7,接收方可以对第二内容数据进行传输后处理,得到第三内容数据。
从而,在步骤S8,可以输出(例如显示或播放)第三内容数据。
在一些实施例中,接收方接收到第二内容数据之后,可以直接向用户输出第二内容数据,并在向用户输出第二内容数据的同时,对第二内容数据进行传输后处理,以获取具有更高质量的第三内容数据。在获得第三内容数据之后再转而输出第三内容数据。这样,可以使用户感觉下载速度更快、同时也不会感知用于图像增强的传输后处理的耗时,整体体验更流畅。另外,在较短的传输后处理期间,向用户提供质量较差的第二内容数据,用户既能快速看到或听到第二内容数据,又不会对短时较低的质量产生不良情绪。
这样,由于基于传输通道状态来设置了实际传输的第二内容数据的第二数据量,所以可以保证传输速度。另一方面,又基于第二数据量,从多种内容数据处理方案中选择了能够提供质量更优的第三内容数据的内容数据处理方案,从而能够提供尽可能高的输出质量。
随着接收方传输通道状态的变化,还可以自适应地在多种内容数据处理方案之间切换,以便随时切换到能够在保持传输速度的情况下,提供更好的第三内容数据质量的内容数据处理方案。
作为示例,多种内容数据处理方案包括下述至少两项:内容数据压缩方案、内容数据压缩失真修复方案、内容数据下采样超分辨率重建方案。
内容数据压缩方案包括传输前的内容数据压缩处理和传输后的内容数据解压缩处理。
内容数据压缩失真修复方案包括传输前的内容数据压缩处理和传输后的内容数据解压缩处理及失真修复处理。
在例如内容数据为图片数据的情况下,压缩失真修复例如可以去除由于图片压缩带来的斑块、振铃等瑕疵。
失真修复处理可以使用各种内容数据失真修复方案来执行。另外,在一些实施例中,也可以使用卷积神经网络来执行失真修复处理。
内容数据下采样超分辨率(超分)重建方案包括传输前的内容数据下采样处理和内容数据压缩处理以及传输后的内容数据解压缩处理和超分辨率内容数据重建处理。
下采样处理中,按设定的下采样比例K,从内容数据中进行下采样,初步降低数据量。例如在内容数据为图像的情况下,可以将原图像中的K×K个像素转变为1个像素(例如以K×K个像素的像素值的均值作为该1个像素的像素值),从而将数据量(图像尺寸)相应降低为原来的1/K2
超分辨率重建方案例如可以通过软件方法等来提高原内容数据如图片的分辨率,例如可以使其恢复到原来的数据量。
超分辨率内容数据重建处理可以使用各种超分辨率内容数据重建方案来执行。另外,在一些实施例中,也可以使用卷积神经网络来执行超分辨率内容数据重建处理。
另外,内容数据下采样超分辨率重建方案还可以包括下采样比率不同的多种内容数据下采样超分辨率重建方案。
在如上文参考图6和图7所描述的内容数据处理方案选择过程中,对于内容数据下采样超分辨率(超分)重建方案和内容数据压缩方案或内容数据压缩失真修复方案,可以确定临界数据量。在以曲线形式表示对应关系的情况下,临界数据量为相应两条曲线的交点位置对应的数据量。
换言之,临界数据量的含义如下:在第二数据量为临界数据量的情况下,基于内容数据下采样超分辨率重建方案得到的第三内容数据与基于内容数据压缩方案或内容数据压缩失真修复方案得到的第三内容数据具有相同的质量评价指标值。
在第二数据量大于临界数据量的情况下,内容数据压缩方案或内容数据压缩失真修复方案能够提供更好地第三内容数据质量,因此可以选择内容数据压缩方案或内容数据压缩失真修复方案。
而在第二数据量小于临界数据量的情况下,内容数据下采样超分辨率重建方案能够提供更好地第三内容数据质量,因此可以选择内容数据下采样超分辨率重建方案。
下面,以内容数据是图片数据的情形为例,描述根据本公开的内容数据传输方法的一个示例。
首先,描述可用于图片处理的几种方案。
图片压缩方案是在传输前先把原图(第一图片)压缩,得到数据量较小的第二图片,传输第二图片,然后在传输后对第二图片进行解压缩处理,得到最终显示的第三图片。
如前文所述,图像压缩可分为有损压缩和无损压缩。在网络通信中比较常用的是有损压缩格式如jpg、webp等。有损压缩格式可灵活设置质量因子,较小质量因子对应较小的文件大小(也可以称为“文件尺寸”),同时图片质量也较差,反之亦然。
在网络带宽严重受限的情况下,需要使用很小的质量因子对第一图片进行压缩以得到尺寸(数据量)很小的第二图片文件,以满足带宽要求。相应地,最终得到的第三图片会有严重的压缩失真,如斑块效应/振铃效应等,图片视觉质量很差。
图片压缩失真修复方案则是在接收方对所接收到的经过压缩的第二图片解压缩之后,进一步例如通过软件方法来进行失真修复处理,以去除由于图片压缩带来的斑块、振铃等瑕疵,提升图片质量。
而超分辨率方案(或简称为“超分方案”)则是先把原图(第一图片)下采样到原图分辨率的1/K(使像素数为原图的1/K2),必要时还可以进一步进行压缩,得到第二图片,传输第二图片,然后在接收端采用超分辨率技术做K倍分辨率重建得到第三图片后进行显示。这种方法在一定程度上能减轻简单的图片缩小传输放大显示方案产生的模糊。
研究表明,相比这种原图分辨率高度压缩的传输方案,超分方案由于事先做了K倍下采样可将文件大小直接降低到原始的1/K2,之后再使用相对较高的质量因子压缩即可满足文件大小要求(即传输网络状态对应的第二数据量)。在终端做K倍超分重建后通常比严重压缩失真的图片视觉质量要好。
因此,网络带宽严重受限时,超分方案可在传输同等第二图片文件大小(第二数据量)的情况下,提供第三图片更好的视觉质量。相应地,同等质量下更节省传输带宽。
但是,当网络带宽较好时,直接对原图用较高质量因子压缩可能就满足文件大小要求。相应地,图片压缩失真小视觉质量高。而超分方案则由于在下采样时丢失了很多高频信息,即使做了超分重建也比不上直接用较高质量因子压缩的图片质量。因此网络带宽较好时,同等图片文件大小(实际传输的第二图片的第二数据量)下,对原图分辨率直接压缩传输可提供更好的视觉质量。相应地,在同等质量下,超分辨率方案并不能节省带宽。
因此,在网络带宽较好时,所传输的第二图片具有同等图片文件大小的情况下,采用压缩失真修复可提供比原图分辨率直接压缩传输显示更好的(第三图片)视觉质量。相应地,在同等质量下更节省带宽;在此基础上进一步提出通过融合超分辨率和压缩失真修复两项技术,无论网络带宽严重受限还是网络较好,在同等图片文件大小下,均可提供比原图分辨率直接压缩传输更好的视觉质量(即同等质量下更节省带宽)。
图8示意性示出了多种数据处理方案对应的质量vs数据量(PS)曲线。
这里,采用最终向用户显示的第三图片的峰值信噪比(PSNR)作为质量评价指标,横坐标为所传输的第二图片文件的尺寸(第二数据量)。
如图8所示,给定第一图片,以不同的质量因子对原图(第一图片)进行压缩,得到不同文件大小的图片。同时计算和原图之间的PSNR,从而得到图片压缩方案的PS曲线C1。
另一方面,先将第一图片下采样到原图分辨率的1/K,然后以不同的质量因子进行压缩,得到不同文件大小的图片(第二图片),再对这些图片分别做K倍超分辨率重建,并计算重建图片(第三图片)和原图(第一图片)之间的PSNR,得到超分方案的PS曲线C3。
这两条曲线的典型形态如图8所示,曲线C1和曲线C3通常存在交叉点P1,对应的第二图片(所要传输的中间文件)文件大小为Fc。
从图8可看出,当第二图片文件大小为Fc时,超分方案和直接压缩方案可获得相同或相当的视觉质量。
当网络带宽状态较差,期望传输的第二图片文件大小小于Fc时,同等第二图片文件大小下,超分方案可获得更好的视觉质量。相应地,同等质量下使用超分方案可以节省带宽。
与此相反,当网络带宽良好,期望传输的第二图片文件大小大于Fc时,同等第二图片文件大小下,原图分辨率直接压缩方案可获得更好的视觉质量。相应地,同等质量下原图分辨率直接压缩方案比超分分案更能节省带宽。
另外,一般而言,与压缩方案相比,使用压缩失真修复方案,通过失真修复,往往能够获得更好的视觉质量,相应地,在同等质量下比原图分辨率直接压缩更节省带宽。因此,在可能的情况下,在压缩方案和压缩失真修复方案之间,可以选择压缩失真修复方案。
压缩失真修复方案的PS曲线典型形态如图8中曲线C2所示,曲线C2总在曲线C1之上。
曲线C2和曲线C3存在交叉点P2,对应的第二图片(所要传输的中间文件)文件大小为Fm。
从图8可看出,当第二图片文件大小为Fm时,超分方案和压缩失真修复方案可获得相同或相当的视觉质量。
当网络带宽状态较差,期望传输的第二图片文件大小小于Fm时,同等第二图片文件大小下,超分方案可获得更好的视觉质量。相应地,同等质量下使用超分方案可以节省带宽。
与此相反,当网络带宽良好,期望传输的第二图片文件大小大于Fm时,同等第二图片文件大小下,压缩失真修复方案可获得更好的视觉质量。相应地,同等质量下压缩失真修复方案比超分分案更能节省带宽。
为了在无论网络带宽严重受限还是网络较好时,同等图片文件大小下,均可获得比原图分辨率直接压缩传输更好的视觉质量(即同等质量下更节省带宽),可以融合超分辨率与压缩失真修复,根据网络带宽状态来实时自适应切换图片处理方案。
首先,可以先获取上述PS曲线C2和C3。
1)针对给定图片P(对应于第一图片),先将其下采样到原分辨率的1/K,然后以不同的质量因子(或其它参数)进行压缩,得到不同文件大小的图片(对应于第二图片),同时把质量因子(或其它参数)和文件大小对应关系记录到查找表LUT1中;对这些图片分别做K倍超分辨率重建,并计算重建图(对应于第三图片)和原图(对应于第一图片)之间的PSNR,得到超分方案的PS曲线,如图8曲线C3所示。
2)针对给定图片P(对应于第一图片),以不同的质量因子(或其它参数)进行压缩,得到不同文件大小的图片(对应于第二图片),同时把质量因子(或其它参数)和文件大小对应关系记录到查找表LUT2中;对这些图片分别做压缩失真修复,并计算增强图(对应于第三图片)和原图(对应于第一图片)之间的PSNR,得到压缩失真修复的PS曲线,如图8曲线C2所示。
3)找到C2和C3交叉点2对应的文件大小Fm。
4)根据给定目标传输图片(第一图片)文件大小Ft,比较Ft和Fm之间大小关系,若Ft大于Fm,则选择采用压缩失真修复方案,否则选择采用超分方案。
5)若判定为压缩失真修复方案,则直接对原图(第一图片)进行压缩,压缩质量因子(或其它参数)根据Ft值从查找表LUT2中查得。如果LUT2中没有对应Ft值,可通过插值方法得到相应质量因子,得到第二图片。将第二图片传输到终端后进行解压缩预显示,然后做压缩失真修复,得到第三图片,最后更新显示第三图片。
6)若判定为超分方案,则先将原图(第一图片)下采样到原分辨率的1/K,然后对下采样之后的图做压缩,得到第二图片,压缩质量因子(或其它参数)根据Ft值从查找表LUT1中查得。如果LUT1中没有对应Ft值,可通过插值方法得到相应质量因子。将第二图片传输到终端后进行解压缩预显示,然后做K倍超分辨率重建,得到第三图片,最后更新显示第三图片。
通过预先生成超分方案PS曲线C3和压缩失真修复方案PS曲线C2,并找到这两个曲线的交叉点。然后,根据这个交叉点和给定目标传输图片文件的大小(数据量),可快速准确地确定是采用超分更节省传输带宽还是采用压缩失真修复更节省传输带宽。
另外,也可以学习训练一个预测网络,利用该网络直接预测交叉点对应的文件大小Fm,从而避免生成曲线C2和C3,提升效率。
另外,在本公开的技术方案中,图片压缩可以采用传统的压缩方法,比如WEBP,基于解压后的图片做超分或压缩失真修复。
或者,也可以完全抛弃传统压缩方法,直接采用基于深度学习的图像压缩方案,比如用自编码器的编码网络进行编码,而接收端则可以用解码网络对编码信息进行解码得到压缩前的图片。
另外,图片下采样处理可以采用传统算法,例如双三次插值等,然后基于下采样后的图片做超分。
或者,也可以通过基于深度学习网络实现的下采样方案来得到低分辨率图像,以保留更多重要信息。在此基础上再通过超分增强深度学习网络得到高分辨率图像。
为了获得较好的超分增强效果,超分方案可采用基于深度学习的卷积神经网络做超分。一个典型的基于深度学习的超分算法框图如图9所示。算法输入是下采样到原图分辨率1/K的图片,输出是原图分辨率大小的超分图片,核心部分是中间的卷积神经网络(CNN)。这里采用的CNN网络可根据具体需求进行构建。CNN网络的输出与对输入的原图分辨率1/K的图片进行上采样的结果相加,再进行截断处理,得到最终显示的输出图片。图9的h代表原图的高度,w代表原图的宽度,K代表下采样倍数,上采样(Upsampling)可使用双线性或双立方插值进行上采样,截断(Clip)是将结果限制在0到像素最大值例如255之间。
为了获得较好的压缩失真修复效果,压缩失真修复方案也可以采用基于深度学习的卷积神经网络做压缩失真修复。一个典型的基于深度学习的压缩失真修复算法框图如图10所示。算法输入是有压缩失真的原图分辨率大小图片,输出是去除了压缩失真的原图分辨率大小图片,核心部分是中间的卷积神经网络(CNN)。这里采用的CNN网络可根据具体需求进行构建。CNN网络的输出与对输入的有压缩失真的原图分辨率大小图片进行恒等变换(Identity)的结果相加,再进行截断处理,得到最终显示的输出图片。
不论是超分方案还是压缩失真修复方案,通过合理地设计核心的卷积神经网络,都可以实现在移动端快速完成推理计算。
例如针对某个视频封面应用,可以设计压缩失真修复网络,在一些超低端手机上运算340×608的彩色图像也只需200多毫秒。
另外,可以预先显示所接收到的图(第二图片),等做完超分或压缩失真修复再更新显示第三图片的策略,另外,可辅以预下载、预先做好超分/压缩失真修复等策略,可以使用户感觉下载速度更快、同时也不会感知图像增强后处理的耗时,整体体验更流畅。
这样,针对带宽良好时超分辨率方案不能提供比原图分辨率直接压缩更好的视觉质量的缺点,提出使用压缩失真修复方案来获得比原图分辨率直接压缩更好的视觉质量。相应地,同等质量下更节省带宽。
进一步,通过融合超分辨率与压缩失真修复两项技术,无论网络带宽严重受限还是网络较好,在同等图片文件大小下,均可提供比原图分辨率直接压缩传输更好的视觉质量。相应地,同等质量下更节省带宽。
至此,已详细描述了根据本公开的内容数据传输方案。另外,如上文所述,本公开的技术方案还可以适用于各种其它文件的传输,特别是随传输前和/或传输后不同方式的处理而具有不同传输文件数据量和不同所得文件质量的文件。
由此,可以实现一种文件传输系统,包括发送方设备和接收方设备。其中,发送方设备使用根据接收方的传输通道状态和第一文件的第一数据量从多种文件处理方案中选择的文件处理方案的传输前处理方案,对第一文件进行处理,得到第二文件,第二文件的第二数据量与传输通道状态良好程度正相关,发送方设备使用传输通道向接收方设备传输第二文件,接收方设备使用传输通道接收第二文件,并使用所选文件处理方案的传输后处理方案,对第二文件进行处理,得到第三文件。其中,对于第一文件,使用所选文件处理方案得到的第三文件的质量优于使用多种文件处理方案中其它文件处理方案得到的第三文件的质量。
在本公开的一个实施例中,提供了一种媒体数据传输方法,例如可以在发送方实施。
使用根据接收方的传输通道状态和第一媒体数据的第一数据量从多种媒体数据处理方案中选择的媒体数据处理方案的传输前处理方案,对第一媒体数据进行处理,得到第二媒体数据,第二媒体数据的第二数据量与传输通道状态良好程度正相关。然后使用传输通道传输第二媒体数据。
其中,使用所选媒体数据处理方案的传输后处理方案对第二媒体数据进行处理能够得到第三媒体数据。
其中,对于第一媒体数据,使用所选媒体数据处理方案得到的第三媒体数据的质量优于使用多种媒体数据处理方案中其它媒体数据处理方案得到的第三媒体数据的质量。
在本公开的另一个实施例中,提供了一种媒体数据传输方法,例如可以在接收方实施。
使用传输通道接收第二媒体数据,第二媒体数据是使用根据接收方的传输通道状态和第一媒体数据的第一数据量从多种媒体数据处理方案中选择的媒体数据处理方案的传输前处理方案对第一媒体数据进行处理而得到的,并且第二媒体数据的第二数据量与传输通道状态良好程度正相关。
使用所选媒体数据处理方案的传输后处理方案,对第二媒体数据进行处理,得到第三媒体数据。
其中,对于第一媒体数据,使用所选媒体数据处理方案得到的第三媒体数据的质量优于使用多种媒体数据处理方案中其它媒体数据处理方案得到的第三媒体数据的质量。
另外,还可以向用户提供内容数据处理/传输成本与输出内容数据质量之间的对应关系,例如关系曲线等,由用户基于自己能够承受的成本和/或期望的质量来选择内容数据处理方案。
这样,在本公开的一个实施例的内容数据传输方案中,在发送方,向用户提供多种内容数据处理方案分别对应的成本与输出内容数据质量对应关系。多种内容数据处理方案分别具有各自对应的传输数据量和输出内容数据质量。
发送方使用用户基于多种内容数据处理方案分别对应的延迟时间和输出内容数据质量对应关系选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据。这里,第二内容数据的第二数据量即为所选内容数据处理方案的传输数据量。
然后发送方,使用传输通道传输第二内容数据。这样,接收方使用所选内容数据处理方案的传输后处理方案对第二内容数据进行处理能够得到第三内容数据,第三内容数据即为所选内容数据处理方案的输出内容数据,相应具有所述输出内容数据质量。
在本公开的另一个实施例的内容数据传输方案中,在接收方,向用户输出多种内容数据处理方案分别对应的成本与输出内容数据质量对应关系。例如可以在显示屏幕上呈现对应关系曲线图。多种内容数据处理方案分别具有各自对应的传输数据量和输出内容数据质量。
接收方接收用户基于对应关系选择的内容数据处理方案信息,并向发送方发送所选内容数据处理方案的信息,即告知发送方用户选择了哪个内容数据处理方案。
接收方使用传输通道接收第二内容数据。第二内容数据是发送方使用所选内容数据处理方案的传输前处理方案对第一内容数据进行处理而得到的。第二内容数据的第二数据量即为所选内容数据处理方案的传输数据量。
接收方使用所选内容数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据。第三内容数据即为所选内容数据处理方案的输出内容数据,相应具有所述输出内容数据质量。
这里,成本可以包括延迟时间。可以根据接收方的实时传输通道状态和要发送的第一内容数据的第一数据量,确定多种内容数据处理方案分别对应的延迟时间。
或者,成本还可以包括内容数据处理方案所涉及的(服务器和/或云计算的)计算成本和/或网络通信成本和/或服务成本等等。
另外,多个内容数据处理方案分别对应的成本与输出内容数据质量对应关系还可以包括至少一个内容数据处理方案在不同参数下的成本与输出内容数据质量对应关系。
例如,在至少一个涉及压缩和解压缩的内容数据处理方案中,采用不同的质量因子(或压缩比)等参数,可以得到不同的内容数据传输量(第二内容数据的第二数据量)和输出内容数据质量(第三内容数据的质量),如上文所述。
这种情况下,向用户提供的成本与输出内容数占据质量对应关系可以包括这些内容数据处理方案在不同质量因子等参数下分别对应的内容数据传输量和输出内容数据质量(指标)之间的对应关系曲线。
由此,可以使用用户基于所期望的成本与质量之间的折衷选择的内容数据处理方案来进行传输前和传输后的内容数据处理,在硬件环境例如网络状态等限制条件下,更大程度上满足用户的需求和期望。
关于内容数据处理方案、内容数据等方面,上文中参考图1至10详细描述的内容均可以适用于这里描述的实施例的方案。
图11示出了根据本发明一实施例可用于实现上述数据传输方法的计算设备的结构示意图。
参见图11,计算设备1100包括存储器1110和处理器1120。
处理器1120可以是一个多核的处理器,也可以包含多个处理器。在一些实施例中,处理器1120可以包含一个通用的主处理器以及一个或多个特殊的协处理器,例如图形处理器(GPU)、数字信号处理器(DSP)等等。在一些实施例中,处理器1120可以使用定制的电路实现,例如特定用途集成电路(ASIC,Application Specific Integrated Circuit)或者现场可编程逻辑门阵列(FPGA,Field Programmable Gate Arrays)。
存储器1110可以包括各种类型的存储单元,例如系统内存、只读存储器(ROM),和永久存储装置。其中,ROM可以存储处理器1120或者计算机的其他模块需要的静态数据或者指令。永久存储装置可以是可读写的存储装置。永久存储装置可以是即使计算机断电后也不会失去存储的指令和数据的非易失性存储设备。在一些实施方式中,永久性存储装置采用大容量存储装置(例如磁或光盘、闪存)作为永久存储装置。另外一些实施方式中,永久性存储装置可以是可移除的存储设备(例如软盘、光驱)。系统内存可以是可读写存储设备或者易失性可读写存储设备,例如动态随机访问内存。系统内存可以存储一些或者所有处理器在运行时需要的指令和数据。此外,存储器1110可以包括任意计算机可读存储媒介的组合,包括各种类型的半导体存储芯片(DRAM,SRAM,SDRAM,闪存,可编程只读存储器),磁盘和/或光盘也可以采用。在一些实施方式中,存储器1110可以包括可读和/或写的可移除的存储设备,例如激光唱片(CD)、只读数字多功能光盘(例如DVD-ROM,双层DVD-ROM)、只读蓝光光盘、超密度光盘、闪存卡(例如SD卡、min SD卡、Micro-SD卡等等)、磁性软盘等等。计算机可读存储媒介不包含载波和通过无线或有线传输的瞬间电子信号。
存储器1110上存储有可执行代码,当可执行代码被处理器1120处理时,可以使处理器1120执行上文述及的数据传输方法。
上文中已经参考附图详细描述了根据本发明的数据传输方案。
此外,根据本发明的方法还可以实现为一种计算机程序或计算机程序产品,该计算机程序或计算机程序产品包括用于执行本发明的上述方法中限定的上述各步骤的计算机程序代码指令。
或者,本发明还可以实施为一种非暂时性机器可读存储介质(或计算机可读存储介质、或机器可读存储介质),其上存储有可执行代码(或计算机程序、或计算机指令代码),当所述可执行代码(或计算机程序、或计算机指令代码)被电子设备(或计算设备、服务器等)的处理器执行时,使所述处理器执行根据本发明的上述方法的各个步骤。
本领域技术人员还将明白的是,结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。
附图中的流程图和框图显示了根据本发明的多个实施例的系统和方法的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标记的功能也可以以不同于附图中所标记的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本发明的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (27)

1.一种媒体数据传输方法,包括:
使用根据接收方的传输通道状态和第一媒体数据的第一数据量从多种媒体数据处理方案中选择的媒体数据处理方案的传输前处理方案,对第一媒体数据进行处理,得到第二媒体数据,第二媒体数据的第二数据量与传输通道状态良好程度正相关;以及
使用所述传输通道传输第二媒体数据,
其中,使用所选媒体数据处理方案的传输后处理方案对第二媒体数据进行处理能够得到第三媒体数据,并且
其中,对于第一媒体数据,使用所选媒体数据处理方案得到的第三媒体数据的质量优于使用所述多种媒体数据处理方案中其它媒体数据处理方案得到的第三媒体数据的质量。
2.一种媒体数据传输方法,包括:
使用传输通道接收第二媒体数据,第二媒体数据是使用根据接收方的传输通道状态和第一媒体数据的第一数据量从多种媒体数据处理方案中选择的媒体数据处理方案的传输前处理方案对第一媒体数据进行处理而得到的,并且第二媒体数据的第二数据量与传输通道状态良好程度正相关;
使用所选媒体数据处理方案的传输后处理方案,对第二媒体数据进行处理,得到第三媒体数据,
其中,对于第一媒体数据,使用所选媒体数据处理方案得到的第三媒体数据的质量优于使用所述多种媒体数据处理方案中其它媒体数据处理方案得到的第三媒体数据的质量。
3.一种内容数据传输方法,包括:
使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据,第二内容数据的第二数据量与传输通道状态良好程度正相关;以及
使用所述传输通道传输第二内容数据,
其中,使用所选内容数据处理方案的传输后处理方案对第二内容数据进行处理能够得到第三内容数据,并且
其中,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用所述多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
4.根据权利要求3所述的方法,还包括:
确定接收方的传输通道状态,或从接收方接收其传输通道状态信息;以及/或者
根据所述传输通道状态确定第二数据量,或从接收方获取接收方根据所述传输通道状态确定的第二数据量;以及/或者
基于第一数据量和第二数据量从多种内容数据处理方案中选择所述内容数据处理方案,或从接收方获取接收方基于第一数据量和第二数据量从多种内容数据处理方案中选择所述内容数据处理方案选择的内容数据处理方案。
5.一种内容数据传输方法,包括:
使用传输通道接收第二内容数据,第二内容数据是使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案对第一内容数据进行处理而得到的,并且第二内容数据的第二数据量与传输通道状态良好程度正相关;
使用所选内容数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据,
其中,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用所述多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
6.根据权利要求5所述的方法,还包括:
确定接收方的传输通道状态;以及/或者
根据所述传输通道状态确定第二数据量,或向发送方发送接收方根据所述传输通道状态确定的第二数据量;以及/或者
基于第一数据量和第二数据量从多种内容数据处理方案中选择所述内容数据处理方案,并向发送方发送所选择的内容数据处理方案。
7.根据权利要求3至6中任何一项所述的方法,其中,所述多种内容数据处理方案包括下述至少两项:
内容数据压缩方案,包括传输前的内容数据压缩处理和传输后的内容数据解压缩处理;
内容数据压缩失真修复方案,包括传输前的内容数据压缩处理和传输后的内容数据解压缩处理及失真修复处理;
内容数据下采样超分辨率重建方案,包括传输前的内容数据下采样处理和内容数据压缩处理以及传输后的内容数据解压缩处理和超分辨率内容数据重建处理。
8.根据权利要求7所述的方法,其中,
所述内容数据下采样超分辨率重建方案包括下采样比率不同的多种内容数据下采样超分辨率重建方案。
9.根据权利要求7所述的方法,其中,
所述失真修复处理是使用卷积神经网络执行的;并且/或者
所述超分辨率内容数据重建处理是使用卷积神经网络执行的。
10.根据权利要求7所述的方法,还包括:
确定临界数据量,其中,在第二数据量为所述临界数据量的情况下,基于内容数据下采样超分辨率重建方案得到的第三内容数据与基于内容数据压缩方案或内容数据压缩失真修复方案得到的第三内容数据具有相同的质量评价指标值;
在第二数据量大于所述临界数据量的情况下,选择内容数据压缩方案或内容数据压缩失真修复方案;
在第二数据量小于所述临界数据量的情况下,选择内容数据下采样超分辨率重建方案。
11.根据权利要求3至6中任何一项所述的方法,还包括:
针对所述多种内容数据处理方案,分别确定内容数据质量评价指标与第一数据量、第二数据量的对应关系,
其中,所选内容数据处理方案是基于所述对应关系选择的。
12.根据权利要求11所述的方法,其中,针对所述多种内容数据处理方案分别确定内容数据质量评价指标与第一数据量、第二数据量的对应关系的步骤包括:
针对各内容数据处理方案,分别确定在给定第一数据量的情况下,在内容数据压缩处理中采用不同质量因子分别得到的第二内容数据的第二数据量和第三内容数据的内容数据质量评价指标之间的对应关系;或者
针对各内容数据处理方案,分别确定在内容数据压缩处理中采用不同质量因子分别得到的第二内容数据的第二数据量与第一数据量之比和第三内容数据的内容数据质量评价指标之间的对应关系。
13.根据权利要求11所述的方法,其中,所选内容数据处理方案的选择过程包括:
确定所述多种内容数据处理方案的多条对应关系曲线的一个或多个交点对应的一个或多个临界数据量;以及
基于第二数据量与所述临界数据量的大小关系和多条对应关系曲线在所述交点两侧的内容数据质量评价指标变化趋势,选择对应于第二数据量取得更高内容数据质量评价指标值的内容数据处理方案。
14.根据权利要求11所述的方法,还包括:
使用内容数据峰值信噪比作为内容数据质量评价指标。
15.根据权利要求3至6中任何一项所述的方法,其中,
所选内容数据处理方案是以接收方的传输通道状态和第一内容数据的第一数据量为输入,使用训练好的预测模型,从多种内容数据处理方案中选择的。
16.根据权利要求3至6中任何一项所述的方法,其中,
在选择内容数据处理方案的同时,还确定相应的内容数据处理参数。
17.根据权利要求3至6中任何一项所述的方法,其中,
所述内容数据包括图片、音频数据以及视频数据中至少一项,所述第二数据量是基于接收方的传输通道状态和期望的第二图片传输用时确定的;并且/或者
所述内容数据包括音频数据和/或视频数据,所述数据量是内容数据的对应于单位时间的数据量,所述第二数据量是基于接收方的传输通道单位时间能够接收的数据量确定的。
18.一种内容数据传输方法,包括:
向用户提供多种内容数据处理方案分别对应的成本与输出内容数据质量对应关系,所述多种内容数据处理方案分别具有各自对应的传输数据量和输出内容数据质量;
使用用户基于多种内容数据处理方案分别对应的延迟时间和输出内容数据质量对应关系选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据,第二内容数据的第二数据量为所选内容数据处理方案的传输数据量;以及
使用所述传输通道传输第二内容数据,
其中,使用所选内容数据处理方案的传输后处理方案对第二内容数据进行处理能够得到第三内容数据,第三内容数据为所选内容数据处理方案的输出内容数据。
19.一种内容数据传输方法,包括:
向用户输出多种内容数据处理方案分别对应的成本与输出内容数据质量对应关系,所述多种内容数据处理方案分别具有各自对应的传输数据量和输出内容数据质量;
接收用户基于所述对应关系选择的内容数据处理方案信息;
向发送方发送所选内容数据处理方案信息;
使用传输通道接收第二内容数据,第二内容数据是发送方使用所选内容数据处理方案的传输前处理方案对第一内容数据进行处理而得到的,并且第二内容数据的第二数据量为所选内容数据处理方案的传输数据量;
使用所选内容数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据,第三内容数据为所选内容数据处理方案的输出内容数据。
20.根据权利要求18或19所述的方法,其中,
所述成本包括延迟时间,该方法还包括:根据接收方的传输通道状态和第一内容数据的第一数据量,确定多种内容数据处理方案分别对应的延迟时间;并且/或者
所述成本包括内容数据处理方案的计算成本和/或网络通信成本和/或服务成本。
21.根据权利要求18或19所述的方法,其中,
所述多个内容数据处理方案分别对应的成本与输出内容数据质量对应关系还包括至少一个内容数据处理方案在不同参数下的成本与输出内容数据质量对应关系。
22.一种内容数据传输装置,包括:
传输前处理装置,使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据,第二内容数据的第二数据量与传输通道状态良好程度正相关;以及
发送装置,使用所述传输通道传输第二内容数据,
其中,使用所选内容数据处理方案的传输后处理方案对第二内容数据进行处理能够得到第三内容数据,并且
其中,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用所述多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
23.一种内容数据传输装置,包括:
接收装置,使用传输通道接收第二内容数据,第二内容数据是使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案对第一内容数据进行处理而得到的,并且第二内容数据的第二数据量与传输通道状态良好程度正相关;以及
传输后处理装置,使用所选内容数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据,
其中,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用所述多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
24.一种内容数据传输系统,包括发送方设备和接收方设备,其中,
发送方设备使用根据接收方的传输通道状态和第一内容数据的第一数据量从多种内容数据处理方案中选择的内容数据处理方案的传输前处理方案,对第一内容数据进行处理,得到第二内容数据,第二内容数据的第二数据量与传输通道状态良好程度正相关,
发送方设备使用所述传输通道向接收方设备传输第二内容数据,
接收方设备使用所述传输通道接收第二内容数据,并使用所选内容数据处理方案的传输后处理方案,对第二内容数据进行处理,得到第三内容数据,
其中,对于第一内容数据,使用所选内容数据处理方案得到的第三内容数据的质量优于使用所述多种内容数据处理方案中其它内容数据处理方案得到的第三内容数据的质量。
25.一种文件传输系统,包括发送方设备和接收方设备,所述文件是随传输前和/或传输后不同方式的处理而具有不同传输文件数据量和不同所得文件质量的文件,其中,
发送方设备使用根据接收方的传输通道状态和第一文件的第一数据量从多种文件处理方案中选择的文件处理方案的传输前处理方案,对第一文件进行处理,得到第二文件,第二文件的第二数据量与传输通道状态良好程度正相关,
发送方设备使用所述传输通道向接收方设备传输第二文件,
接收方设备使用所述传输通道接收第二文件,并使用所选文件处理方案的传输后处理方案,对第二文件进行处理,得到第三文件,
其中,对于第一文件,使用所选文件处理方案得到的第三文件的质量优于使用所述多种文件处理方案中其它文件处理方案得到的第三文件的质量。
26.一种计算设备,包括:
处理器;以及
存储器,其上存储有可执行代码,当所述可执行代码被所述处理器执行时,使所述处理器执行如权利要求1至21中任何一项所述的方法。
27.一种非暂时性机器可读存储介质,其上存储有可执行代码,当所述可执行代码被电子设备的处理器执行时,使所述处理器执行如权利要求1至21中任何一项所述的方法。
CN202011374144.5A 2020-11-30 2020-11-30 媒体数据及内容数据传输方法、装置和系统 Pending CN114640658A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011374144.5A CN114640658A (zh) 2020-11-30 2020-11-30 媒体数据及内容数据传输方法、装置和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011374144.5A CN114640658A (zh) 2020-11-30 2020-11-30 媒体数据及内容数据传输方法、装置和系统

Publications (1)

Publication Number Publication Date
CN114640658A true CN114640658A (zh) 2022-06-17

Family

ID=81944559

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011374144.5A Pending CN114640658A (zh) 2020-11-30 2020-11-30 媒体数据及内容数据传输方法、装置和系统

Country Status (1)

Country Link
CN (1) CN114640658A (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090001338A (ko) * 2007-06-29 2009-01-08 주식회사 애니빌 휴대 디바이스에 전송되는 멀티미디어 데이터 압축률 자동조절시스템
CN101459616A (zh) * 2009-01-04 2009-06-17 成都市华为赛门铁克科技有限公司 网络接入的方法、客户端及接入系统
CN107071332A (zh) * 2017-05-19 2017-08-18 深圳天珑无线科技有限公司 视频图像传输处理方法和视频图像传输处理装置
CN107682452A (zh) * 2017-10-31 2018-02-09 沈阳东软医疗系统有限公司 一种数据处理方法、装置及系统
CN108769685A (zh) * 2018-06-05 2018-11-06 腾讯科技(深圳)有限公司 检测图像压缩编码效率的方法、装置及存储介质
CN111314335A (zh) * 2020-02-10 2020-06-19 腾讯科技(深圳)有限公司 数据传输方法、装置、终端、存储介质和系统
CN111405296A (zh) * 2020-03-11 2020-07-10 北京邮电大学 视频数据传输方法、视频数据处理方法、装置及电子设备

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090001338A (ko) * 2007-06-29 2009-01-08 주식회사 애니빌 휴대 디바이스에 전송되는 멀티미디어 데이터 압축률 자동조절시스템
CN101459616A (zh) * 2009-01-04 2009-06-17 成都市华为赛门铁克科技有限公司 网络接入的方法、客户端及接入系统
CN107071332A (zh) * 2017-05-19 2017-08-18 深圳天珑无线科技有限公司 视频图像传输处理方法和视频图像传输处理装置
CN107682452A (zh) * 2017-10-31 2018-02-09 沈阳东软医疗系统有限公司 一种数据处理方法、装置及系统
CN108769685A (zh) * 2018-06-05 2018-11-06 腾讯科技(深圳)有限公司 检测图像压缩编码效率的方法、装置及存储介质
CN111314335A (zh) * 2020-02-10 2020-06-19 腾讯科技(深圳)有限公司 数据传输方法、装置、终端、存储介质和系统
CN111405296A (zh) * 2020-03-11 2020-07-10 北京邮电大学 视频数据传输方法、视频数据处理方法、装置及电子设备

Similar Documents

Publication Publication Date Title
TWI663880B (zh) 色度預測的方法和設備
US9734557B2 (en) Method and apparatus for generating 3K-resolution display image for mobile terminal screen
CN108696761B (zh) 一种图片文件处理方法及其设备、系统
US9961365B2 (en) Scalable video encoding method and apparatus using image up-sampling in consideration of phase-shift and scalable video decoding method and apparatus
US9386319B2 (en) Post-process filter for decompressed screen content
CN110300301B (zh) 图像编解码方法和装置
CN103596009B (zh) 解码器及解码方法
US10652583B2 (en) Compression of image assets
CN109151481B (zh) 图片的传输和接收的方法、装置、系统、设备和介质
JP2013500667A (ja) 分散イメージリターゲティング
JP2017508332A (ja) ハイダイナミックレンジ画像を符号化する、および/または、ビットストリームを復号するための方法およびデバイス
CN106412595B (zh) 用于编码高动态范围帧以及施加的低动态范围帧的方法和设备
CN111738951A (zh) 图像处理方法及装置
CN113228664A (zh) 用于可伸缩图像编码的方法、设备、计算机程序和计算机可读介质
CN114640658A (zh) 媒体数据及内容数据传输方法、装置和系统
US20200120349A1 (en) Optimization of downsampling occurring before encoding images during compression
CN113747242B (zh) 图像处理方法、装置、电子设备及存储介质
US20150124873A1 (en) Chroma Down-Conversion and Up-Conversion Processing
US10462478B2 (en) Method of video generation
CN113473132B (zh) 透明视频压缩方法、装置、存储介质以及终端
US20110103705A1 (en) Image encoding method and apparatus, and image decoding method and apparatus
KR102283991B1 (ko) 적응적 개선 메커니즘 전자 시스템 및 이의 동작 방법
US20230028736A1 (en) Configurable image enhancement
JP2019097013A (ja) ディスプレイ適合hdr画像を再構成する方法およびデバイス
JP6990172B2 (ja) Hdr符号化/復号のための色成分サンプルの共に配置される輝度サンプルの決定

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination