CN103875225A - 用于无线显示设备的反馈信道 - Google Patents
用于无线显示设备的反馈信道 Download PDFInfo
- Publication number
- CN103875225A CN103875225A CN201280050386.6A CN201280050386A CN103875225A CN 103875225 A CN103875225 A CN 103875225A CN 201280050386 A CN201280050386 A CN 201280050386A CN 103875225 A CN103875225 A CN 103875225A
- Authority
- CN
- China
- Prior art keywords
- host
- performance information
- media data
- message
- protocol
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000005540 biological transmission Effects 0.000 claims abstract description 69
- 238000012545 processing Methods 0.000 claims abstract description 21
- 238000000034 method Methods 0.000 claims description 50
- 230000008569 process Effects 0.000 claims description 27
- 230000015654 memory Effects 0.000 claims description 22
- 238000013139 quantization Methods 0.000 claims description 7
- 238000009826 distribution Methods 0.000 abstract description 18
- 230000002441 reversible effect Effects 0.000 abstract description 3
- 238000004891 communication Methods 0.000 description 52
- 238000005516 engineering process Methods 0.000 description 42
- 230000002123 temporal effect Effects 0.000 description 17
- 238000012856 packing Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 12
- 238000005259 measurement Methods 0.000 description 11
- 230000004044 response Effects 0.000 description 10
- 238000007906 compression Methods 0.000 description 9
- 230000006835 compression Effects 0.000 description 9
- 238000003860 storage Methods 0.000 description 9
- 230000007423 decrease Effects 0.000 description 8
- 230000001360 synchronised effect Effects 0.000 description 7
- 238000011156 evaluation Methods 0.000 description 6
- 230000006978 adaptation Effects 0.000 description 5
- 230000033228 biological regulation Effects 0.000 description 5
- 238000007726 management method Methods 0.000 description 5
- 238000004091 panning Methods 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 230000011664 signaling Effects 0.000 description 3
- 241001269238 Data Species 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013144 data compression Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000007115 recruitment Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000026676 system process Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0896—Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/22—Parsing or analysis of headers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L1/00—Arrangements for detecting or preventing errors in the information received
- H04L1/004—Arrangements for detecting or preventing errors in the information received by using forward error control
- H04L1/0072—Error control for data other than payload data, e.g. control data
- H04L1/0073—Special arrangements for feedback channel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/61—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
- H04L65/613—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for the control of the source by the destination
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/65—Network streaming protocols, e.g. real-time transport protocol [RTP] or real-time control protocol [RTCP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/762—Media network packet handling at the source
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/16—Implementation or adaptation of Internet protocol [IP], of transmission control protocol [TCP] or of user datagram protocol [UDP]
- H04L69/165—Combined use of TCP and UDP protocols; selection criteria therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Mobile Radio Communication Systems (AREA)
- Circuits Of Receivers In General (AREA)
Abstract
无线显示(WD)系统(100)中的宿设备(160)可以向源设备(120)发送性能信息反馈以便在源设备(120)处调整媒体数据处理。性能信息反馈可以包括WD系统的性能指示符,在宿设备(160)处能够基于所接收的媒体数据或用于调整媒体数据的传输的请求来测量或计算WD系统的性能指示符。例如,性能信息反馈可以包括往返延迟、延迟抖动、分组丢失率、差错分布和接收信号强度指示(RSSI)中的一个或多个。可以在源设备(120)与宿设备(160)之间实现的、被称为用户输入反向信道(UIBC)的反向信道架构上捎带反馈信道。
Description
本申请要求享有于2011年10月14日递交的美国临时申请No.61/547,397和于2012年2月29日递交的美国临时申请No.61/604,674的权益,故以引用方式将这两个美国临时申请的全部内容并入本文。
技术领域
本公开内容涉及媒体数据的传输和回放,更具体地说,涉及对媒体数据的传输和播放的控制。
背景技术
无线显示(WD)系统包括源设备和一个或多个宿设备。源设备可以是能够在无线局域网内发送媒体内容的设备。宿设备可以是能够接收并且呈现媒体内容的设备。源设备和宿设备可以是移动设备或有线设备。作为移动设备,例如,源设备和宿设备可以包括:移动电话、具有无线通信卡的便携式计算机、个人数字助理(PDA)、便携式媒体播放器、数字图像捕获设备(例如照相机或摄像机)、或具有无线通信能力的其它闪存设备(包括所谓的“智能”电话和智能板或平板电脑、或者其它类型的无线通信设备)。作为有线设备,例如,源设备和宿设备可以包括:电视机、台式计算机、监视器、投影仪、打印机、音频放大器、机顶盒、游戏控制台、路由器、数字视频光盘(DVD)播放器和媒体服务器。
源设备可以向参与特定媒体共享会话的一个或多个宿设备发送诸如音频视频(AV)数据之类的媒体数据。既可在源设备的本地显示器处也可在每个宿设备的显示器处回放该媒体数据。更具体地说,每个参与的宿设备呈现所接收的媒体数据以便展示在其屏幕和音频装置上。在某些情况下,宿设备的用户可以向宿设备施加用户输入,例如触摸式输入和远程控制输入。
发明内容
概括地说,本公开内容涉及使得无线显示(WD)系统中的宿设备能够向源设备发送性能信息反馈以便在所述源设备处调整媒体数据(例如音频视频(AV)数据)处理的技术。源设备和宿设备可以实现与诸如WirelessHD、无线家庭数字接口(WHDI)、WiGig、无线USB之类的标准以及当前处于开发下的Wi-Fi显示(WFD)标准相兼容的WD通信技术。在Wi-Fi联盟、“Wi-Fi显示规范草案版本1.31”、Wi-Fi联盟技术委员会、显示任务组中可以找到关于WFD标准的额外信息,其全部内容通过引用的方式被并入本文中。由于分组丢失或在源设备与宿设备之间的信道拥塞,WD系统可能偶尔经历媒体性能下降。源设备能够基于在宿设备处经历的性能下降来调整它的媒体数据处理(例如编码和/或分组传输操作)可能是有利的。然而,当前的WFD标准不包括一种机制,通过这种机制源设备可以从宿设备接收性能信息。
本公开内容的技术可以包括:在WD系统中在源设备和宿设备之间建立反馈信道以允许宿设备向源设备发送性能信息反馈。所述性能信息反馈可以包括WD系统和媒体数据通信信道的性能指示符,在宿设备处能够基于所接收的媒体数据来测量或计算所述性能指示符。例如,所述性能信息反馈可以包括往返延迟、延迟抖动、分组丢失率、差错分布、分组差错率和接收信号强度指示(RSSI)中的一个或多个。在一些例子中,源设备可以基于所述性能信息来对媒体数据的传输作出调整。在其它例子中,宿设备可以提供具有要由源设备执行的对媒体数据的传输的明确调整的性能信息。例如,性能信息消息可以包括用于增加或减少比特速率、或者发送即时解码器刷新(IDR)帧的消息。可以在被称为用户输入反向信道(UIBC)的反向信道架构上捎带反馈信道,所述UIBC被实现用于向源设备传送在宿设备处所接收的用户输入。
在一个例子中,一种用于发送媒体数据的方法包括:向宿设备发送媒体数据,其中媒体数据是根据第一传输协议来传输的;从所述宿设备接收消息,其中所述消息是根据第二传输协议来传输的;至少部分地基于数据分组报头来确定所述消息是否包括用户输入信息或基于数据分组报头的性能信息中的一项;以及基于所述消息来调整媒体数据的传输。
在另一个例子中,一种用于接收媒体数据的方法包括:从源设备接收媒体数据,其中媒体数据是根据第一传输协议来传输的;向所述源设备发送消息,其中所述消息是根据第二传输协议来传输的;以及至少部分地基于数据分组报头来指示所述消息是否包括用户输入信息或性能信息中的一项。
在另一个例子中,一种源设备包括:用于向宿设备发送媒体数据的单元,其中媒体数据是根据第一传输协议来传输的;用于从所述宿设备接收消息的单元,其中所述消息是根据第二传输协议来传输的;用于至少部分地基于数据分组报头来确定所述消息是否包括用户输入信息或性能信息中的一项的单元;以及用于基于所述消息来调整媒体数据的传输的单元。
在另一个例子中,一种宿设备包括:用于从源设备接收媒体数据的单元,其中媒体数据是根据第一传输协议来传输的;用于向所述源设备发送消息的单元,其中所述消息是根据第二传输协议来传输的;以及用于至少部分地基于数据分组报头来指示消息是否包括用户输入信息或性能信息中的一项的单元。
在另一个例子中,一种源设备包括:存储器,其存储媒体数据;以及处理器,其被配置为执行指令以使所述源设备进行以下操作:向宿设备发送媒体数据,其中媒体数据是根据第一传输协议来传输的;处理从所述宿设备接收的消息,其中所述消息是根据第二传输协议来传输的;至少部分地基于数据分组报头来确定所述消息是否包括用户输入信息或性能信息中的一项;以及基于所述消息来调整媒体数据的传输。
在另一个例子中,一种宿设备包括:存储器,其存储媒体数据;以及处理器,其被配置为执行指令以使所述宿设备进行以下操作:传输进而处理从源设备接收的媒体数据,其中媒体数据是根据第一传输协议来传输的;向所述源设备发送消息,其中所述消息是根据第二传输协议来传输的;以及至少部分地基于数据分组报头来指示所述消息是否包括用户输入信息或性能信息中的一项。
在另一个例子中,一种计算机可读介质包括存储在其上的指令,当在源设备中执行所述指令时使处理器进行以下操作:向宿设备发送媒体数据,其中媒体数据是根据第一传输协议来传输的;处理从所述宿设备接收的消息,其中所述消息是根据第二传输协议来传输的;至少部分地基于数据分组报头来确定所述消息是否包括用户输入信息或性能信息中的一项;以及基于所述消息来调整媒体数据的传输。
在一个例子中,一种计算机可读介质包括存储在其上的指令,当在宿设备中执行所述指令时使处理器进行以下操作:处理从源设备接收的媒体数据,其中媒体数据是根据第一传输协议来传输的;向所述源设备发送消息,其中所述消息是根据第二传输协议来传输的;以及至少部分地基于数据分组报头来指示所述消息是否包括用户输入信息或性能信息中的一项。
在附图和下面的描述中阐述本公开内容的一个或多个例子的细节。通过说明书、附图和权利要求书,其它的特征、目的和优点将变得显而易见。
附图说明
图1是示出了包括源设备和宿设备的无线通信系统的框图。
图2是示出了通信参考模型的例子的概念性示图。
图3是示出了被用于从宿设备向源设备以信号形式传送性能信息作为反馈的反馈分组的概念性示图。
图4是示出了基于从宿设备发向源设备的性能信息反馈来适配媒体数据的比特速率的示例性操作的流程图。
图5是示出了在多个不同场景中用于包括在来自图3的反馈分组的有效载荷数据中的用户输入或反馈消息的示例性消息格式的概念性示图。
图6是示出了实现用于基于反馈信息来调整媒体数据的传输的技术的源设备的例子的框图。
图7是示出了实现用于提供反馈信息的技术的宿设备的例子的框图。
图8是示出了用于基于反馈信息来调整媒体数据的传输的技术的流程图。
图9示出了用于提供反馈信息的技术的流程图。
具体实施方式
在当前的WD系统中,传统的反馈消息传送被用于从宿设备向源设备提供反馈。传统的反馈消息传送如下进行:宿设备请求序列参数集(SPS)或图像参数集(PPS);源设备以SPS或PPS来响应;宿设备请求开始流式传输;以及当生成信号时,宿设备发送用户发起的人工接口设备命令(HIDC)用户输入。宿设备还计算通信信道的分组差错率(PER)作为在时间上保持增长的值。当前的WD系统并不向源设备反馈PER值。
根据本公开内容的技术,在宿设备与源设备之间建立反馈信道以允许宿设备向源设备发送性能信息反馈。所述反馈信道可以在定期间隔中将通信信道和宿设备的性能信息发送回源设备。例如,根据所述技术,宿设备可以在同步窗口间隔中而不是通过在时间上增长的值来计算音频或视频信道的PER。所述同步窗口可以被定义为1秒。宿设备因此可以计算每秒的PER并且生成要向源设备发送的反馈消息。本公开内容的技术可以包括:在宿设备处实现的差错管理过程,以由源设备和宿设备两者商定的格式来定义适当的消息并将其发送回源设备。以下对差错管理系统和消息格式进行更详细地说明。
在接收到性能信息反馈后,源设备可以调整它如何处理向宿设备发送的后续的媒体数据。基于来自宿设备的性能信息反馈,源设备可以调整其媒体数据编码操作和/或其分组传输操作。例如,源设备可以以较低的质量来编码后续的媒体数据以避免类似的性能下降。在另一个例子中,源设备可以识别丢失的特定分组并且决定重传所述分组。
图1是示出了包括能够基于性能信息消息来支持对媒体数据的传输的调整的源设备120和宿设备160的无线显示(WD)系统100的例子的框图。如图1中所示出的,WD系统100包括源设备120,源设备120经由通信信道150与宿设备160通信。
源设备120可以包括存储器122、显示器124、扬声器126、音频和/或视频(A/V)编码器128、音频和/或视频(A/V)控制模块130和发射机/接收机(TX/RX)单元132。宿设备160可以包括发射机/接收机单元162、音频和/或视频(A/V)解码器164、显示器166、扬声器168、用户输入(UI)设备170和用户输入处理模块(UIPM)172。所示出的组件仅构成WD系统100的一个示例性配置。其它的配置可以包括比那些示出的组件少的组件,或者除了那些示出的组件,还可以包括额外的组件。
在图1的例子中,源设备120可以在显示器124上显示A/V数据的视频部分以及可以使用扬声器126来输出A/V数据的音频部分。A/V数据可以本地地存储在存储器122上、从外部的存储介质(例如,文件服务器、硬盘驱动器、外部存储器、蓝光光盘、DVD或其它物理存储介质)存取,或者可以经由网络连接(例如互联网)被流式传输到源设备120。在一些实例中,可以通过源设备120的照相机和麦克风来实时捕获A/V数据。A/V数据可以包括诸如电影、电视节目或音乐之类的多媒体内容,但还可以包括由源设备120生成的实时内容。这样的实时内容可以例如由运行在源设备120上的应用产生,或是被捕获的视频数据(例如作为视频电话会话的一部分)。这样的实时内容可以在一些实例中包括可供用户选择的用户输入选项的视频帧。在一些实例中,A/V数据可以包括视频帧,其是不同类型的内容的组合,例如具有在视频帧上覆盖的用户输入选项的电影或TV节目的视频帧。
除了经由显示器124和扬声器126来本地地呈现A/V数据以外,源设备120的A/V编码器128可以编码A/V数据以及发射机/接收机单元132可以在通信信道150上向宿设备160发送经编码的数据。宿设备160的发射机/接收机单元162接收经编码的数据,以及A/V解码器164可以解码经编码的数据并且输出经解码的数据以便展示在显示器166和扬声器168上。以这一方式,由显示器124和扬声器126呈现的音频和视频数据可以同时由显示器166和扬声器168呈现。可以在多个帧中排列音频数据和视频数据,并且音频帧在被呈现时可以与视频帧进行时间同步。
A/V编码器128和A/V解码器164可以实施各种音频和视频压缩标准,例如ITU-T H.264标准(或者被称为MPEG4第10部分)、高级视频编码(AVC)或新兴的高效视频编码(HEVC)标准。也可以使用许多其它类型的专用的或标准化的压缩技术。一般而言,A/V解码器164被配置为执行对A/V编码器128的反向编码操作。虽然在图1中未示出,但在一些方面中,A/V编码器128和A/V解码器164可以各自与音频编码器和解码器相结合,并且可以包括适当的复用-解复用(MUX-DEMUX)单元或其它的硬件和软件,以便处理对公共数据流或单独数据流中的音频和视频两者的编码。
如以下将进行详细描述的,除了实施如上文所描述的视频压缩标准以外,A/V编码器128还可以执行其它的编码功能。例如,在向宿设备160发送A/V数据之前,A/V编码器128可以向A/V数据添加各种类型的元数据。在一些实例中,可以以经编码的形式将A/V数据存储在源设备120上或在源设备120处对其进行接收,从而不需要由A/V编码器128进行进一步的压缩。
虽然图1单独地示出了携带音频有效载荷数据和视频有效载荷数据的通信信道150,但应当理解,在一些实例中,视频有效载荷数据和音频有效载荷数据可以是公共数据流的一部分。如果适用的话,则这些复用-解复用(MUX-DEMUX)单元可以符合ITU H.223复用器协议或诸如用户数据报协议(UDP)之类的其它协议。A/V编码器128和A/V解码器164均可以实现为一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、分立逻辑、软件、硬件、固件或其任意组合。A/V编码器128和A/V解码器164中的每一个可以包括在一个或多个编码器或解码器中,所述编码器或解码器中的任何一个可以被集成作为组合的编码器/解码器(CODEC)的一部分。因此,源设备120和宿设备160中的每一个可以包括被配置为执行本公开内容的一个或多个技术的专用机器。
显示器124和显示器168可以包括各种视频输出设备(例如阴极射线管(CRT)、液晶显示器(LCD)、等离子体显示器、发光二极管(LED)显示器、有机发光二极管(OLED)显示器或其它类型的显示设备)中的任意一种。在这些或其它例子中,显示器124和显示器168均可以是发射式显示器或透射式显示器。显示器124和显示器166还可以是触摸式显示器,使得它们同时既是输入设备也是显示设备。这种触摸式显示器可以是电容型的、电阻型的或允许用户向相应设备提供用户输入的其它类型的触摸式面板。
扬声器126和扬声器168可以包括各种音频输出设备中的任意一种,例如头戴式耳机、单扬声器系统、多扬声器系统或环绕声系统。此外,虽然显示器124和扬声器126被示出为源设备120的一部分以及显示器166和扬声器168被示出为宿设备160的一部分,但源设备120和宿设备160实际可以是具有多个设备的系统。举一个例子,显示器166可以是电视机,扬声器168可以是环绕声系统,而A/V解码器164可以是有线地或无线地连接到显示器166和扬声器168的外置盒的一部分。在其它实例中,宿设备160可以是单个设备,例如平板计算机或智能电话。在其它情况下,源设备120和宿设备160是类似的设备,例如,两者都是智能电话、平板计算机等等。在这种情况下,一个设备可以作为源进行操作,而另一个设备可以作为宿进行操作。在后续的通信会话中这些角色可以交换。在其它情况下,源设备120可以包括移动设备(例如智能电话、膝上型或平板计算机),而宿设备160可以包括更稳定的设备(例如具有AC电源线),在该情况下源设备120可以经由宿设备160传送音频和视频数据,以便呈现给一个或多个观众。
发射机/接收机单元132和发射机/接收机单元162可以各自包括各种混频器、滤波器、放大器和被设计为用于信号调制的其它组件、以及被设计用于发送和接收数据的一个或多个天线和其它组件。通信信道150一般表示用于在源设备120和宿设备160之间传输音频/视频数据、控制数据和反馈的任何适当的通信介质、或不同通信媒体的集合。通信信道150通常是相对短距离的通信信道,并且可以实现与例如实现限定于2.4GHz、3.6GHz、5GHz、60GHz或超宽带(UWB)频带结构的Wi-Fi、蓝牙等相似的物理信道结构。然而,通信信道150不必限于该方面,而可以包括任何无线或有线的通信介质,例如射频(RF)频谱或者一个或多个物理传输线、或无线和有线媒体的任意组合。在其它例子中,通信信道150甚至可以形成基于分组的网络(例如,有线或无线局域网、广域网或诸如互联网的全球网络)的一部分。此外,通信信道150可以由源设备120和宿设备160用于创建对等链路。
源设备120和宿设备160可以根据例如使用实时流式传输协议(RSTP)控制消息的能力协商来建立通信会话。在一个例子中,用于建立通信会话的请求可以由源设备120发送给宿设备160。一旦建立媒体共享会话,源设备120就使用实时传输协议(RTP)来向参与的宿设备160发送媒体数据(例如音频视频(AV)数据)。宿设备160在其显示器和音频装置(在图1中未示出)上呈现所接收的媒体数据。
源设备120和宿设备160随后可以在通信信道150上使用通信协议(例如来自IEEE802.11标准族的标准)进行通信。在一个例子中,通信信道150可以是网络通信信道。在该例子中,通信服务供应商可以使用基站作为网络集线器来集中地操作和管理一个或多个网络。源设备120和宿设备160可以例如根据Wi-Fi直接或Wi-Fi显示(WFD)标准来进行通信,使得源设备120和宿设备160在不使用诸如无线接入点或所谓的热点之类的媒介的情况下直接地互相通信。源设备120和宿设备160还可以建立隧道式直接链路建立(TDLS)以避免或减少网络拥塞。WFD和TDLS旨在建立相对短距离的通信会话。在该上下文中的相对短距离可以是指例如小于约70米,然而在吵闹或受遮挡的环境中,设备之间的距离可能甚至更短,例如,小于约35米或小于约20米。
虽然本公开内容的技术有时候可能是针对WFD来进行描述的,但可预期的是这些技术的方面还可以与其它通信协议相兼容。通过举例而非限制性的方式,在源设备120与宿设备之间的无线通信可以采用正交频分复用(ODFM)技术。还可以使用各种各样的其它无线通信技术,包括但不限于时分多址(TDMA)、频分多址(FDMA)、码分多址(CDMA)、或者OFDM、FDMA、TDMA和/或CDMA的任意组合。
除了解码并呈现从源设备120接收的数据以外,宿设备160还可以从用户输入设备170接收用户输入。用户输入设备170可以例如是键盘、鼠标、轨迹球或触控板、触摸屏、语音命令识别模块或任何其它此种用户输入设备。UIPM172将由用户输入设备170接收的用户输入命令格式化成源设备120能够处理的数据分组结构。这种数据分组由发射机/接收机162通过通信信道150发送给源设备120。发射机/接收机单元132接收数据分组,而A/V控制模块130解析数据分组以解读由用户输入设备170接收的用户输入命令。基于在数据分组中接收到的命令,A/V控制模块130可以更改编码的和发送的内容。以这一方式,宿设备160的用户可以远程地控制由源设备120发送的音频有效载荷数据和视频有效载荷数据而不是直接地与源设备120交互。
此外,宿设备160的用户也许能够启动并控制源设备120上的应用。例如,宿设备160的用户也许能够启动存储在源设备120上的照片编辑应用并且使用该应用来编辑本地地存储在源设备120上的照片。宿设备160可以向用户提供看上去和感觉像是在宿设备160上本地地编辑照片的用户体验,尽管实际是在源设备120上编辑该照片。使用这样的配置,用户也许能够利用一个设备与多个设备一起使用的能力。例如,源设备120可以包括具有大量内存和高端处理能力的智能电话。然而,当观看电影时,用户可能希望在具有更大显示屏的设备上观看电影,在这种情况下宿设备160可以是平板计算机或者甚至是更大的显示设备或电视机。当想要发送电子邮件或回复电子邮件时,用户可能希望使用具有物理键盘的设备,在这种情况下宿设备160可以是笔记本电脑。在这两个实例中,即使用户正在与宿设备160交互,源设备120仍然可以执行大批量的处理。源设备120和宿设备160可以通过发送控制数据(例如用于在通信信道150上任何给定的会话中协商和/或识别设备的能力的数据)来促进双向交互。
在一些配置中,A/V控制模块130可以包括由源设备120的操作系统执行的操作系统进程。然而,在其它配置中,A/V控制模块130可以包括运行在源设备120上的应用的软件进程。在这样的配置中,用户输入命令可以由软件进程解读,使得宿设备160的用户直接与运行在源设备120上的应用进行交互,而不是与运行在源设备120上的操作系统进行交互。通过直接与应用而不是操作系统进行交互,宿设备160的用户可以访问对于源设备120的操作系统来说并非本地的命令库。此外,直接与应用进行交互可以使得命令能够由运行在不同平台上的设备更容易地发送和处理。
可以通过通信信道150将在宿设备160处施加的用户输入发送回源设备120。在一个例子中,可以实施反向信道架构(也被称为用户输入反向信道(UIBC))以使得宿设备160能够向源设备120发送在宿设备160处施加的用户输入。反向信道架构可以包括用于传输用户输入的上层消息和用于在宿设备160和源设备120处协商用户接口能力的下层帧。UIBC可以位于在宿设备160与源设备120之间的互联网协议(IP)传输层上。以这一方式,UIBC可以高于开放系统互连(OSI)通信模型中的传输层。为了促进包含用户输入数据的数据分组的可靠传输和依序传送,UIBC可以被配置为在其它基于分组的通信协议(例如传输控制协议/互联网协议(TCP/IP)或用户数据报协议(UDP))之上运行。UDP和TCP可以在OSI层架构中并行操作。TCP/IP可以使得宿设备160和源设备120能够在分组丢失的情况下实施重传技术。
UIBC可以被设计为传输各种类型的用户输入数据,包括跨平台的用户输入数据。例如,源设备120可以运行操作系统,而宿设备160运行另外的操作系统(例如或)。不管平台如何,UIPM172可以以A/V控制模块130可理解的形式来封装所接收的用户输入。若干个不同类型的用户输入格式可以受UIBC支持,从而允许许多不同类型的源设备和宿设备利用协议,而不管源设备和宿设备是否在不同的平台上进行操作。规定的通用输入格式和平台特定输入格式两者都可受到支持,从而以可在源设备120与宿设备160之间通过UIBC来传送用户输入的方式提供了灵活性。
由于分组丢失或在源设备120与宿设备160之间的信道拥塞,WD系统100可能偶尔经历媒体性能下降。例如,在容易丢失和出错的通信网络上的视频传输容易在传输期间引起差错。对于一些应用来说,可能需要实时地流式传输视频。在这些应用中,差错可能提供不可接受的用户体验。希望在通信会话中早点采取适当的措施来纠正或减少错误,例如在丢失增加到不可接受的或不可管理的水平之前。可以存在多个阶段,在所述多个阶段可以纠正或减少在传输期间引起的差错。当前的WFD标准不包括一种通过其源设备120可以从宿设备160接收性能信息的机制。源设备120能够基于在宿设备160处所体验的性能来调整它的媒体数据处理(例如,编码和/或分组传输操作)以减少由于分组丢失或信道拥塞造成的媒体性能下降将是有利的。
更具体地说,宿设备160可以使用反馈信号以信号形式来向源设备120传送性能信息。源设备120中的A/V控制模块130随后可以解析所接收的信号以识别如何基于性能信息来调整A/V处理。A/V控制模块130可以修改源设备120和/或运行在源设备120上的应用的操作以更改被呈现以及发送给宿设备160的内容的类型。根据本公开内容的技术,源设备120和宿设备160可以基于性能信息消息来支持对媒体数据的传输速率的调整。
图2是示出了WD系统的数据通信模型或协议栈的例子的框图。数据通信模型200示出了在实施的WD系统中在数据与用于在源设备与宿设备之间传输数据的控制协议之间的交互。在一个例子中,WD系统100可以使用数据通信模型200。数据通信模型200包括物理(PHY)层202、介质接入控制(MAC)层(204)、互联网协议(IP)206、用户数据报协议(UDP)208、实时协议(RTP)210、MPEG2传输流(MPEG2-TS)212、内容保护214、打包的基本流(PES)封包216、视频编解码器218、音频编解码器220、传输控制协议(TCP)222、实时流式传输协议(RTSP)224、反馈封包228、人工接口设备常量(constant)230、通用用户输入232和性能分析234。
物理层202和MAC层204可以规定用于WD系统中的通信的物理信令、寻址和信道接入控制。物理层202和MAC层204可以规定用于通信的频带结构,例如,限定于2.4GHz、3.6GHz、5GHz、60GHz或超宽带(UWB)频带结构的联邦通信委员会频段。物理层202和MAC层204还可以规定数据调制技术,例如,模拟和数字幅度调制、频率调制、相位调制技术及其组合。物理层202和MAC层204还可以规定复用技术,例如(举例来说),时分多址(TDMA)、频分多址(FDMA)、码分多址(CDMA)或者OFDM、FDMA、TDMA和/或CDMA的任意组合。在一个例子中,物理层202和介质接入控制层204可以由(例如由WFD提供的)Wi-Fi(例如IEEE802.11-2007和802.11n-2009x)标准规定。在其它例子中,物理层202和介质接入控制层204可以由以下各项中的任意一项来规定:WirelessHD、无线家庭数字接口(WHDI)、WiGig和无线USB。
互联网协议(IP)206、用户数据报协议(UDP)208、实时协议(RTP)210、传输控制协议(TCP)222和实时流式传输协议(RTSP)224规定了在WD系统中所使用的分组结构和封装并且这些协议可以根据由互联网工程任务组(IETF)维护的标准来规定。
RTSP224可以由源设备120和宿设备160用于协商能力、建立会话以及会话维护和管理。源设备120和宿设备160可以使用RTSP消息事务来建立反馈信道以便协商源设备120和宿设备160的能力从而支持UIBC上的反馈信道和反馈输入类别。使用RTSP协商来建立反馈信道可以与使用RTSP协商过程来建立媒体共享会话和/或UIBC相类似。
例如,源设备120可以向宿设备160发送能力请求消息(例如,RTSP获取_参数(GET_PARAMETER)请求消息),能力请求消息指定源设备120感兴趣的能力的列表。根据本公开内容,能力请求消息可以包括用于支持UIBC上的反馈信道的能力。宿设备160可以用能力响应消息(例如RTSP获取_参数响应消息)来响应源设备120,能力响应消息声明其支持反馈信道的能力。举一个例子,如果宿设备160支持UIBC上的反馈信道,则能力响应消息可以指示“是”。源设备120随后可以向宿设备160发送确认请求消息(例如RTSP设置_参数(SET_PARAMETER)请求消息),确认请求消息指示在媒体共享会话期间将使用反馈信道。宿设备160可以用确认响应消息(例如RTSP设置_参数响应消息)来响应源设备120,确认响应消息确认在媒体共享会话期间将使用反馈信道。
视频编解码器218可以规定可由WD系统使用的视频数据编码技术。视频编解码器218可以实施任意数量的视频压缩标准(例如ITU-T H.261、ISO/IEC MPEG-1Visual、ITU-T H.262或ISO/IEC MPEG-2Visual、ITU-TH.263、ISO/IEC MPEG-4Visual、ITU-T H.264(也被称为ISO/IEC MPEG-4AVC)、VP8和高效视频编码(HEVC))。应当注意的是,在一些实例中,WD系统可以使用压缩的或未压缩的视频数据。
音频编解码器220可以规定可由WD系统使用的音频数据编码技术。音频数据可以使用多通道格式(例如那些由杜比(Dolby)和数字影院系统(Digital Theater System)开发的格式)来编码。音频数据可以使用压缩的或未压缩的格式来编码。压缩的音频格式的例子包括MPEG-1、2音频层II和III、AC-3、AAC。未压缩的音频格式的例子包括脉冲编码调制(PCM)音频格式。
打包的基本流(PES)封包216和MPEG2传输流(MPEG2-TS)212可以规定如何打包和发送编码的音频和视频数据。打包的基本流(PES)封包216和MPEG2-TS212可以根据MPEG-2部分1来规定。在其它例子中,可以根据其它的封包和传输流协议来打包和发送音频和视频数据。内容保护214可以提供对音频或视频数据的未授权的复制的防范。在一个例子中,内容保护214可以根据高带宽数字内容保护2.0规范来定义。
反馈封包228可以规定如何打包用户输入和性能信息。图3是示出了被用于从宿设备向源设备以信号形式传送输入或性能信息的反馈分组300的例子的概念性示图。反馈分组300包括数据分组报头302和有效载荷数据304。可以从宿设备160通过由WFD规定的UIBC反向信道架构向源设备120发送反馈分组300。以这一方式,可以在宿设备160与源设备120之间实现的UIBC反向信道架构上捎带反馈信道。为了在UIBC上进行捎带,可以与在WFD中规定的UIBC数据分组报头一起使用被称为“反馈”的新输入类别以指示UIBC分组中的有效载荷数据包括性能信息反馈。基于反馈分组300的数据分组报头302的内容,源设备120可以解析来自宿设备160的有效载荷数据304。基于有效载荷内容304,源设备120可以更改从源设备120向宿设备160发送的媒体数据。
在图3中示出了数据分组报头302的例子。编号0-15标识数据分组报头302内的比特位置,而编号0、16和32标识在数据分组报头302中的单独字段之间的比特偏移。数据分组报头302包括版本字段、时间戳标志(“T”)、保留的字段、反馈类别字段、长度字段和可选的时间戳字段。在图3的例子中,版本字段是3比特字段,其可以指示由宿设备实施的特定通信协议的版本。版本字段中的值可以通知源设备如何解析数据分组报头302中的剩余部分以及如何解析有效载荷数据304。时间戳标志是1比特字段,其指示可选的时间戳字段是否存在于数据分组报头302中。时间戳标志可以例如包括“1”以指示存在时间戳字段,以及可以包括“0”以指示不存在时间戳字段。保留的字段是被保留以供在版本字段中所标识的特定协议的未来版本使用的8比特字段。
在图3的例子中,反馈类别字段是4比特字段以标识用于包含在反馈分组300中的有效载荷数据304的输入类别或性能信息类别。反馈类别字段的值向源设备标识包括在有效载荷数据304中的数据的类型以及如何格式化有效载荷数据304。基于该格式化,源设备确定如何解析有效载荷数据304。举一个例子,反馈类别字段可以标识通用输入类别以指示使用在由源设备和宿设备两者执行的协议中所定义的通用信息元素来格式化有效载荷数据304。举另一个例子,反馈类别字段可以标识人工接口设备命令(HIDC)输入类别以指示基于用户接口的类型来格式化有效载荷数据304,在宿设备处通过所述用户接口来接收输入数据。举另一个例子,反馈类别字段可以标识操作系统(OS)特定输入类别以指示基于由源设备或宿设备使用的OS类型来格式化有效载荷数据304。根据本公开内容的技术,反馈类别字段还可以标识反馈输入类别以指示基于在宿设备处所确定的性能信息的类型来格式化有效载荷数据304。反馈输入类别将反馈分组中的有效载荷数据同通用用户输入和HIDC用户输入区分开。在通用或HIDC用户输入的情况下,用户输入对向宿设备发送的后续的媒体数据的影响通常与在宿设备处如何将媒体数据呈现给用户(例如缩放和平移操作)有关。在反馈用户输入的情况下,用户输入对向宿设备160发送的后续的媒体数据的影响通常与源设备120如何编码媒体数据并将其发送给宿设备160有关。
时间戳字段可以包括可选的16比特字段,当存在时,可选的16比特字段可以包括与由源设备产生的并被发送给宿设备的媒体数据相关联的时间戳。例如,源设备120可以在向宿设备160发送媒体数据分组之前已将时间戳应用于媒体数据分组。当存在时,数据分组报头302中的时间戳字段可以包括时间戳,所述时间戳标识在宿设备160向源设备发送反馈分组300之前在宿设备160处接收的最新媒体数据分组。在其它例子中,时间戳字段可以包括时间戳,所述时间戳标识在宿设备160处接收的不同媒体数据分组。时间戳值可以使得源设备120能够标识哪一个媒体数据分组经历所报告的性能下降以及能够计算WD系统中的往返延迟。
长度字段可以包括16比特字段以指示反馈分组300的长度。基于长度字段的值,源设备120可以识别反馈分组的结束和新的、后续的反馈分组的开始。在图3中所示出的反馈分组300中的字段的编号和大小仅是说明性的。在其它例子中,反馈分组可以包括具有比在图3中所示出的反馈分组300中的字段更大或更小的大小的字段,和/或可以包括比在图3中所示出的反馈分组300更多或更少的字段。
参考回到图2,在HIDC、通用和OS特定用户输入的情况下,这些用户输入通常影响如何将后续的媒体数据在宿设备160处呈现给用户(例如缩放和平移操作)以及源设备120如何处理(例如,编码和/或发送)发往宿设备160的媒体数据。
人工接口设备命令(HIDC)230、通用用户输入232和OS特定用户输入234可以规定如何将用户输入的类型格式化成信息元素。如上文所描述的,可以使用反馈分组300来封装这些信息元素。例如,人工接口设备命令230和通用用户输入232可以基于用户接口类型(例如,鼠标、键盘、触摸、多点触摸、语音、姿势、供应商特定接口等等)和命令(例如,缩放、平移等等)来将输入分类并且确定应当如何将用户输入格式化成信息元素。
在一个例子中,人工接口设备命令230可以基于规定的用户输入设备规范(例如USB、蓝牙和Zigbee)来格式化用户输入数据并生成用户输入值。表1A、表1B和表1C给出了HIDC输入主体格式、HID接口类型和HID类型值的例子。在一个例子中,人工接口设备命令(HIDC)230可以根据WFD来定义。在表1A中,HID接口类型字段指定人工接口设备(HID)类型。在表1B中给出了HID接口类型的例子。HID类型字段指定HID类型。表1C给出了HID类型的例子。长度字段指定以八位字节为单位的HIDC值的长度。HIDC包括可以在诸如蓝牙、Zigbee和USB之类的规范中定义的输入数据。
表1A:HIDC主体格式
表1B:HIDC接口类型
值 | HID接口类型 |
0 | 红外线 |
1 | USB |
2 | 蓝牙 |
3 | Zigbee |
4 | Wi-Fi |
5-254 | 保留的 |
255 | 供应商特定HID接口 |
表1C:HID类型
值 | HID类型 |
0 | 键盘 |
1 | 鼠标 |
2 | 单点触摸 |
3 | 多点触摸 |
4 | 操纵杆 |
5 | 照相机 |
6 | 姿势 |
7 | 远程控制器 |
8-254 | 保留的 |
255 | 供应商特定HID类型 |
在一个例子中,可以在应用层面处理通用用户输入232并且将其格式化为独立于特定用户输入设备的信息元素。通用用户输入232可以由WFD标准来定义。表2A和表2B给出了用于通用用户输入的通用输入主体格式和信息元素的例子。在表2A中,通用IE ID字段指定通用信息元素(IE)ID类型。在表2B中给出了通用IE ID类型的例子。长度字段指定以八位字节为单位的通用IE ID值的长度。所描述的字段指定用户输入的细节。应当注意的是,为了简便起见,虽然还未对在表2A中的所描述的字段中的用户输入的细节进行描述,但是在一些例子中,用户输入的细节可以包括用于鼠标触摸/移动事件的X-Y坐标值、ASCII键代码和控制键代码、缩放值、滚动值和旋转值。在一个例子中,人工接口设备命令(HIDC)230和通用用户输入232可以根据WFD来定义。
表2A:通用输入主体格式
图2B:通用输入主体格式
通用IE ID | 说明 |
0 | 鼠标左键按下/触摸按下 |
1 | 鼠标左键松开/触摸松开 |
2 | 鼠标移动/触摸移动 |
3 | 键按下 |
4 | 键松开 |
5 | 缩放 |
6 | 垂直滚动 |
7 | 水平滚动 |
8 | 旋转 |
9-255 | 保留的 |
OS特定用户输入234是依赖于设备平台的。对于不同的设备平台(例如,Windows和)来说,用户输入的格式可以是不同的。被归类为已解读的用户输入的用户输入可以是独立于设备平台的。可以以标准化的形式来解读这种用户输入以描述可指导清除操作的公共用户输入。无线显示宿和无线显示源可以具有公共供应商特定用户输入接口,公共供应商特定用户输入接口既不由任何设备平台指定也不以已解读的用户输入类别来进行标准化。对于这种情况,无线显示源可以以由供应商库指定的格式来发送用户输入。转发用户输入可以被用于转发并非来源于无线显示宿的消息。有可能的是无线显示宿可以发送来自第三设备的这些消息作为转发用户输入,并且随后可以期望无线显示源在正确的上下文中响应于那些消息。
性能分析236可以定义用于确定性能信息的技术以及可以定义如何将媒体性能数据格式化成信息元素。性能信息可以包括WD系统和媒体数据通信信道的性能指示符,这些性能指示符能够在宿设备160处加以测量或计算。例如,性能信息反馈可以包括往返延迟、延迟抖动、分组丢失率、分组差错率、差错分布和接收信号强度指示(RSSI)中的一个或多个。在另一个例子中,性能信息可以包括显式(explicit)请求,例如对增加或减少比特速率的请求、针对即时解码器刷新帧的请求。
在一个例子中,宿设备160可以基于从源设备120接收的媒体数据分组来确定性能信息。例如,宿设备160可以基于分组丢失和在时间上的RSSI分布来计算在连续接收的媒体数据分组之间的延迟抖动、在应用层面或介质接入控制(MAC)层面的分组丢失、在时间上的差错分布。
在另一个例子中,宿设备160可以计算从源设备120接收的媒体数据分组的延迟抖动。所述延迟抖动包括在分组之间的延迟时间上的变化。延迟抖动可以基于分组间到达时间来计算,由于分组是在固定的间隔上进行发送的,因而到达时间上的差异可以指示延迟时间上的差异。然而,这种计算可能仅在通过一种往返延迟比分组传输时间大得多的网络来发送分组时是精确的,因而分组传输时间的变化将并不显著地影响分组间到达时间。应当注意的是,在一些情况下,分组传输时间可以基于传输的分组的大小而变化很大。
在WD系统在单个链路上传输媒体数据分组的例子中,分组传输时间可能与往返延迟具有相同的量级,使得分组传输时间的变化将显著地影响分组间到达时间。因此,常规的延迟抖动计算可能导致对在单个链路上的信道状况的不精确的测量。根据本公开内容的技术,宿设备160可以测量分组间到达时间以及随后基于从源设备120接收的分组的大小来计算归一化的分组间到达时间。宿设备160随后可以基于归一化的分组间到达时间来计算延迟抖动。举一个例子,宿设备160可以使用以下公式:
X’=(X–max(T–F,0))/L,其中F:=X–max(T–F,0),(1)
在公式(1)中,X’表示归一化的分组间到达时间,X表示所测量的分组间到达时间,T表示分组生成间隔,F表示分组传输间隔,而L表示分组大小。
在另一个例子中,宿设备160可以计算分组丢失以及基于分组丢失的时间上的差错分布,并向源设备120发送时间上的差错分布作为性能信息反馈。在一个例子中,宿设备160可以计算在宿设备160处接收的媒体数据分组序列中的分组丢失。例如,宿设备160可以基于与所接收的媒体数据分组相关联的RTP序列号在应用层面或在MAC层面检测丢失的分组。宿设备160可以基于在应用层面的检测到的分组丢失来计算显式的时间上的差错分布、或者基于在MAC层面检测到的分组丢失来计算隐式的时间上的差错分布。
举一个例子,宿设备160可以基于在应用层面检测到的丢失的分组的RTP序列号来计算显式的时间上的差错分布。在这种情况下,宿设备160可以通过发送未被接收到的RTP序列号来向源设备120通知显式的时间上的差错分布。然而,显式的时间上的差错分布可能缺少粒度,因为当检测丢失的RTP序列号时,它没有考虑链接的或拆开的分组。基于在反馈分组中所接收的RTP序列号,源设备120可以确切地确定哪些媒体数据分组丢失了。
举另一个例子,宿设备160可以基于在MAC层面检测到丢失的分组时的时间来计算隐式的时间上的差错分布。更具体地说,可以使用从在MAC层面检测到的分组丢失起到生成反馈分组时所经过的时间来表示隐式的时间上的差错分布。或者,可以使用在预定的时间间隔期间在MAC层面检测到的丢失的分组的数量来表示隐式的时间上的差错分布。宿设备160可以通过向源设备120发送具有时间戳值的分组丢失定时信息来向源设备通知隐式的时间上的差错分布。所述隐式的时间上的差错分布可以向源设备120提供性能信息的更精细的粒度。基于在反馈分组中所接收的分组丢失定时信息和时间戳值,源设备120可以推断哪一些媒体数据分组丢失了或者经历某些干扰。基于所接收的性能信息反馈,源设备120可以确定哪一些媒体数据分组丢失了以及丢失的分组对整个媒体序列究竟是多重要。如果丢失的分组是非常重要的(例如它包含视频序列的参考帧或I帧),则源设备120可以决定重传所述丢失的分组。在其它情况下,源设备120可以基于差错分布和丢失的媒体数据分组的重要性而针对向宿设备发送的后续媒体数据分组来调整它的媒体数据编码质量。
在另一个例子中,宿设备160可以计算时间上的接收信号强度指示(RSSI)分布以及向源设备120发送时间上的RSSI分布作为性能信息反馈。RSSI测量值指示在接收分组时通信信号究竟是多强。因此,时间上的RSSI分布提供如下指示:当信号强度是低的时,由此在该时间处的任何分组丢失可能是由于低信号强度而非干扰。宿设备160可以基于进行RSSI测量时的时间来计算时间上的RSSI分布。更具体地说,可以使用从RSSI测量起到生成反馈分组时所经过的时间来表示时间上的RSSI分布。在这种情况下,宿设备160可以通过经由反馈信道向源设备120发送具有时间戳值的经过的定时信息来向源设备120通知时间上的RSSI分布。或者,源设备120可以将RSSI测量值与先前的RSSI测量值相比较或者与预定的阈值相比较。当RSSI测量值从先前的RSSI测量值发生变化或者超过了预定的阈值时,宿设备160随后可以向源设备120通知所述RSSI测量值连同时间戳值。在这种情况下,宿设备160不必连同RSSI测量值一起向源设备120发送经过的定时信息。在这两种情况中的任一种情况下,源设备120可以经由反馈信道从宿设备160接收RSSI信息。基于所接收的性能信息反馈,源设备120能够确定先前发送的媒体数据分组的信道状况。当信道状况是弱的时,源设备120可以推断在由时间戳值和/或经过的定时信息指示的时间期间的任何分组丢失可能是由于低信号强度而非干扰。当所接收的RSSI测量值是低的时,因此,宿设备120可以调整它的媒体数据编码并且以较低质量来编码后续的媒体数据以避免进一步的性能下降。
在另一个例子中,除了包括测量值作为性能信息以外或者作为对包括测量值作为性能信息的替代,性能信息可以包括显式的请求(例如用于增加或减少比特速率的请求或针对即时解码器刷新帧的请求)。图4是示出了基于从宿设备到源设备的性能信息反馈来适配媒体数据的比特速率的示例性操作的流程图。如下文针对图5所描述的,用于性能信息反馈的消息格式可以指示反馈信息是与音频信道还是视频信道有关。当性能反馈信息与视频信道有关时,所述消息格式还可以指示所述信息是否包括视频信道的分组差错率(PER)或用于基于视频信道的PER来在源设备处修改对后续视频数据的处理的请求。例如,所述消息格式可以指示编码器参数,所述编码器参数请求增加视频数据的比特速率或减少视频数据的比特速率。在这种情况下,反馈信息包括在宿设备处确定的比特速率上的变化百分比。示出的流程图给出了在源设备120处基于来自宿设备160的反馈信息来适配比特速率的一个示例性的操作。
出于说明的目的,用特定值来定义多个变量和常量。然而,在其它例子中所述变量和常量可以具有不同的值。在示出的例子中,用于比特速率适配的变量和常量定义如下。
绝对最小比特速率:400Kbps AMIN
起始比特速率:4Mbps SBR
绝对最大比特速率:10Mbps AMAX
等待窗口:5秒和10秒 WW
BR:当前比特速率 BR
可以假设比特速率的增加或减少发生在下一个IDR帧的起始处,其通常在大约1秒内。根据本公开内容的技术,可以在宿设备160处计算PER并且可以生成要发送给源设备120的适当的反馈消息。例如,如果PER>10%,则宿设备160可以在反馈消息中请求IDR帧。如果PER>30%,则宿设备160可以请求源设备120在发送IDR帧的同时减少比特速率,将量化参数(QP)增加3或者将比特速率减少原始速率的1/4。如果PER>70%,则宿设备160可以请求源设备120在发送IDR帧的同时减少比特速率并且将比特速率设置为绝对最小比特速率(AMIN)。如果PER=0,则宿设备160可以请求源设备120在10秒上增加比特速率。比特速率增加还是减少可以取决于当前比特速率和在视频信道上流式传输或播放的内容的类型。
在本公开内容中所描述的比特速率适配操作包括可在开环速率适配系统(即不具有任何反馈)中或在闭环速率适配系统(即具有反馈)中使用的一般化的操作。相同的操作可以被用于通过监视适当的参数来在源设备120或宿设备160处确定比特速率上的变化。例如,在开环系统中,源设备120可以监视传输速率、关于已发送的分组和差错分组的统计和RSSI以便基于这些参数来确定适当的比特速率变化。在闭环系统中,根据本公开内容的技术,宿设备160可以监视这些参数并且将这些参数发送回源设备120作为对源设备120的性能信息反馈以确定比特速率变化,或者基于这些参数来确定比特速率变化并且将针对比特速率变化的请求发送回源设备120作为反馈。
当没有任何差错要从宿设备160汇报返回给源设备120时,源设备120可以基于在图4中所示出的操作来增加比特速率。或者,可以在宿设备160处应用图4中所示出的操作以确定比特速率增加量,随后宿设备160可以在反馈信道上向源设备120返回汇报速率变化。
在图4中所示出的例子中,在步骤402,如果当前比特速率(BR)大于绝对最小比特速率(AMIN)并且小于或等于第一比特速率阈值1Mbps,则在步骤404,源设备120可以无差错(PER=0)地在每2秒以5%的步长增加比特速率直到源设备120达到1Mbps(兆比特每秒)或10秒为止(以较早者为准)。在步骤406,如果在无任何差错的情况下达到10秒,则在步骤408直接将比特速率增加到1Mbps。
继续图4的例子,在步骤410,如果当前比特速率(BR)大于1Mbps并且小于或等于第二比特速率阈值2Mbps,则在步骤412,源设备120可以在每5秒以20%的步长增加比特速率。在步骤412,如果当前比特速率(BR)大于2Mbps并且小于或等于第三比特速率阈值4Mbps,则在步骤414,源设备120可以在每5秒以10%的步长增加比特速率。在步骤416,如果当前比特速率(BR)大于4Mbps,则在步骤418,源设备120可以在每10秒以5%的步长增加比特速率直到达到绝对最大比特速率(AMAX)为止。
在图4中示出的示例性操作中所使用的1Mbps的值与以30帧每秒(fps)视频用于无线显示操作的WVGA(宽视频图形阵列)的标称质量等级相对应。取决于视频格式,速率变化在与低质量等级和高质量等级相对应的最小比特速率与最大比特速率之间变化。表3在下文描述了针对各种视频格式的最小比特速率、标称比特速率和最大比特速率。提供表3中的值仅供参考。其它的例子可以包括额外的视频格式和/或与视频格式中的每一个相关联的不同的最小、标称和最大比特速率。图4中所示出的操作可以通过简单的外推而适用于其它视频格式和质量等级。
表3
视频格式 | 最小比特速率 | 标称比特速率 | 最大比特速率 |
WVGA30fps | 400kbps | 1Mbps | 4Mbps |
720p30fps | 2Mbps | 6Mbps | 10Mbps |
1080p30fps | 4Mbps | 10Mbps | 20Mbps |
一般来说,上文针对最小比特速率、标称比特速率、最大比特速率、比特速率增加和比特速率增加的时间段所给出的值是示例性的以用于在图4中所示出的示例性比特速率适配操作。在其它例子中,可以使用不同的值或与本文所使用的值近似相等的值来执行与在图4中所示出的比特速率适配操作相类似的比特速率适配操作。例如,可以对第一比特速率阈值、第二比特速率阈值和第三比特速率阈值进行向上或向下修改以及可以增加或减少与每个阈值相对应的每个时间段。
图3是示出了针对用户输入或反馈消息的示例性消息格式的概念性示图。在多个不同场景中,用户输入或反馈消息可以包括在来自图3的反馈分组300的有效载荷数据304中。示出的消息格式500可以被用于发送与用户输入或反馈有关的消息。反馈消息可以包括与信道状况对音频和/或视频数据的影响有关的信息。当宿设备160请求在源设备120处对媒体数据作出一些修改时,可以使用在图5中示出的消息格式来发送两字节消息。例如,宿设备160可以使用消息格式来向源设备120发送用户输入以修改在宿设备160处将媒体数据呈现给用户的方式(例如缩放和平移操作)。根据本公开内容的技术,宿设备160可以使用消息格式来向源设备120发送性能信息反馈以修改源设备120编码媒体数据和/或将媒体数据发送给宿设备160d的方式。
示出的针对用户输入或反馈消息的消息格式500包括报头(HDR)字段502、消息类型(MSGType)字段504和消息参数(MSGParams)字段506。更具体地说,HDR字段502可以是7比特字段,其包括消息的标准报头以标识所述消息包括针对源设备120的修改信息。MSGType字段504可以是1比特字段,其指示被发送的消息的类型。例如,具有值为0的MSGType字段504指示所述消息是用户输入消息。具有值为1的MSGType字段504指示所述消息是反馈消息。MSGParams字段506可以是16比特字段,其包括所述消息的参数。
在MSGType字段504指示所述消息是用户输入消息的情况下,在MSGParams字段506中的消息参数包括用户输入消息,所述用户输入消息请求源设备120修改在宿设备160处将媒体数据呈现给用户的方式(例如缩放和平移操作)。在MSGType字段504指示所述消息是反馈消息的情况下,在MSGParams字段506中的消息参数包括信道字段508和音频或视频消息510,音频或视频消息510请求源设备120修改编码媒体数据并将其发送给宿设备160的方式。
信道字段508首先指示反馈信息是与音频信道还是视频信道有关。继而音频或视频消息字段510可以分别指定针对音频或视频信道的分组差错率(PER)。宿设备160可以在同步窗口间隔中而不是通过不断增长的值来计算音频或视频信道的PER。同步窗口可以定义为1秒。因此,宿设备160可以计算每秒的PER并且生成要向源设备120发送的反馈消息。或者,音频或视频消息字段510可以基于视频信道的PER来请求在源设备120处修改对后续视频数据的处理。例如,宿设备160可以基于在宿设备160处所计算的视频信道的PER来发送反馈消息以向源设备120请求即时解码器刷新(IDR)帧、增加的比特速率或减少的比特速率。
更具体地说,信道字段508可以包括1比特字段,其指示反馈信息是与音频信道还是视频信道有关。当信道字段508具有指示音频信道的值0时,15比特的音频或视频消息510可以被用于发送音频信道的PER和总的分组数量。在一个例子中,音频信道可以是脉冲编码调制(PCM)格式。
当信道字段508具有指示视频信道的值1时,15比特的音频或视频消息510可以包括视频参数字段和视频消息。视频参数字段可以是4比特字段,其指示包括在视频消息中的信息的类型。视频消息可以是11比特字段,其被用于发送视频信道的PER或源设备120可以直接在其上进行操作的编码器参数。表4在下文给出了包括在视频消息中的针对视频参数字段的不同值的视频消息类型。
表4
当视频参数字段指示请求增加比特速率(BR INC)或减少比特速率(BRDEC)的编码器参数时,随后可以确定比特速率上的变化百分比并且可以使用视频消息的剩余的11比特来发送所述结果。在一个例子中,比特速率适配可以采用针对图4进行更详细描述的技术。当视频参数字段指示请求IDR帧的编码器参数时,视频消息的剩余的11比特可以被忽略或者被用于发送其它性能信息。此外,当视频参数字段指示视频信道的PER时,视频消息的剩余的11比特可以被用于将视频信道的PER信息发送回源设备120。
图6是示出了可实现用于基于性能信息消息来调整媒体数据的传输的技术的源设备的例子的框图。源设备600可以是包括图2中给出的数据通信模型的WD系统的一部分。源设备600可以被配置为对媒体数据进行编码和/或解码以供传输、存储和/或显示。源设备600包括存储器602、显示处理器604、本地显示器606、音频处理器608、扬声器610、视频编码器612、视频打包器614、音频编码器616、音频打包器618、A/V复用器(mux)620、传输模块622、调制解调器624、控制模块626、反馈解包器628和反馈模块630。源设备600的组件可以实现为各种适当的电路中的任意一种,例如一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、分立逻辑、软件、硬件、固件或其任意组合。
存储器602可以以压缩的或未压缩的格式的媒体数据的形式存储A/V可视数据。存储器602可以存储完整的媒体数据文件,或者可以包括简单地存储(例如,从另一个设备或源流式传输的)媒体数据文件的一部分的较小的缓冲器。存储器602可以包括各种各样的易失性存储器或非易失性存储器中的任意一种,包括但不限于:随机存取存储器(RAM)(例如同步动态随机存取存储器(SDRAM))、只读存储器(ROM)、非易失性随机存取存储器(NVRAM)、电可擦除可编程只读存储器(EEPROM)、闪存等等。存储器602可以包括用于存储媒体数据以及其它种类的数据的计算机可读存储介质。存储器602可以额外地存储指令和程序代码,所述指令和程序代码由处理器执行作为执行在本公开内容中所描述的各种技术的一部分。
显示处理器604可以获取捕获的视频帧以及可以处理视频数据以便显示在本地显示器606上。显示器606包括各种显示设备(例如,液晶显示器(LCD)、等离子体显示器、有机发光二极管(OLED)显示器或能够向源设备600的用户呈现视频数据的其它类型的显示设备)中的一种。
音频处理器608可以获取捕获的音频采样以及可以处理音频数据以便输出给扬声器610。扬声器610可以包括各种音频输出设备(例如,耳机、单扬声器系统、多扬声器系统或环绕声系统)中的任意一种。
视频编码器612可以从存储器602获取视频数据并且将视频数据编码为所希望的视频格式。视频编码器612可以是用于实现上文针对图2所描述的视频编解码器218的方面的硬件和软件的组合。视频编码器612可以根据任意数量的视频压缩标准(例如ITU-T H.261、ISO/IEC MPEG-1Visual、ITU-T H.262或ISO/IEC MPEG-2Visual、ITU-T H.263、ISO/IEC MPEG-4Visual、ITU-T H.264(也被称为ISO/IEC MPEG-4AVC)、VP8和高效视频编码(HEVC))来编码视频。应当注意的是,在一些情况下,视频编码器612可以编码视频使得视频数据是使用无损或有损压缩技术来压缩的。
视频打包器614可以打包经编码的视频数据。在一个例子中,视频打包器614可以如根据MPEG-2部分1所规定的来打包经编码的视频数据。在其它例子中,可以根据其它封包协议来打包视频数据。视频打包器614可以是用于实现上文针对图2所描述的打包的基本流(PES)封包216的方面的硬件和软件的组合。
音频编码器616可以从存储器602获取音频数据并且将音频数据编码为所希望的音频格式。音频编码器616可以是用于实现上文针对图2所描述的音频编解码器220的方面的硬件和软件的组合。音频数据可以使用多通道格式(例如那些由杜比(Dolby)和数字影院系统(Digital Theater System)开发的格式)来编码。音频数据可以使用压缩的或未压缩的格式来编码。压缩的音频格式的例子包括MPEG-1、2音频层II和III、AC-3、AAC。未压缩的音频格式的例子包括脉冲编码调制(PCM)音频格式。
音频打包器618可以打包经编码的音频数据。在一个例子中,音频打包器618可以如根据MPEG-2部分1所规定的来打包经编码的音频数据。在其它例子中,可以根据其它封包协议来打包音频数据。音频打包器618可以是用于实现上文针对图2所描述的打包的基本流(PES)封包216的方面的硬件和软件的组合。
A/V复用器620可以应用复用技术来合并视频有效载荷数据和音频有效载荷数据作为公共数据流的一部分。在一个例子中,A/V复用器620可以封装打包的基本视频和音频流作为根据MPEG-2部分1规定的MPEG2传输流。A/V复用器620可以为音频和视频分组提供同步以及纠错技术。
传输模块622可以处理用于传输给宿设备的媒体数据。此外,传输模块622可以处理从宿设备接收的分组使得它们可以被进一步处理。例如,传输模块622可以被配置为使用IP、TCP、UDP、RTP和RSTP来进行传送。例如,传输模块622还可以封装用于向宿设备或在网络上传送的MPEG2-TS。
调制解调器624可以被配置为根据在WD系统中所采用的物理层和MAC层来执行物理层和MAC层处理。如针对图2所描述的,物理层和MAC层可以规定用于WD系统中的通信的物理信令、寻址和信道接入控制。在一个例子中,调制解调器624可以被配置为执行用于由(例如由WFD提供的)Wi-Fi(例如IEEE802.11x)标准规定的物理层和MAC层的物理层和MAC层处理。在其它例子中,调制解调器624可以被配置为执行用于以下各项中的任意一项的物理层和MAC层处理:WirelessHD、WiMedia、无线家庭数字接口(WHDI)、WiGig和无线USB。
控制模块626可以被配置为执行源设备600通信控制功能。通信控制功能可以涉及:与宿设备协商能力、与宿设备建立会话以及会话维护和管理。控制模块626可以使用RTSP来与宿设备通信。此外,控制模块626可以使用RTSP消息事务来建立反馈信道以便协商源设备600和宿设备的能力,从而支持UIBC上的反馈信道和反馈输入类别。使用RTSP协商来建立反馈信道可以与使用RTSP协商过程来建立媒体共享会话和/或UIBC相类似。
反馈解包器628可以解析来自反馈分组的人工接口设备命令(HIDC)、通用用户输入、OS特定用户输入和性能信息。在一个例子中,反馈分组可以使用针对图3所描述的消息格式。在该例子中,反馈解包器628可以至少部分地基于在反馈分组报头中的反馈类别字段的值来确定如何解析反馈分组。举一个例子,反馈类别字段可以标识通用输入类别以指示反馈分组有效载荷数据是使用通用信息元素来格式化的。举另一个例子,反馈类别字段可以标识人工接口设备命令(HIDC)输入类别。举另一个例子,反馈类别字段可以标识操作系统(OS)特定输入类别以指示有效载荷数据是基于由源设备或宿设备使用的OS类型来格式化的。
在另一个例子中,反馈解包器628可以至少部分地基于反馈分组的有效载荷数据来确定如何解析反馈分组。在一个例子中,反馈分组可以使用针对图3所描述的消息格式并且反馈消息有效载荷可以根据图5中的例子来格式化。
反馈模块630从反馈解包器接收性能信息并且处理性能信息,使得源设备600可以基于性能信息消息来调整媒体数据的传输。如上文所描述的,媒体数据的传输可以由以下技术的任意组合来调整:可以调整编码量化参数、可以调整媒体数据的质量、可以调整媒体分组的长度、可以发送即时解码器刷新帧、可以调整编码比特速率或传输比特速率以及可以基于媒体数据分组丢失的概率来发送冗余信息。
图7是示出了实现用于向源设备发送性能信息反馈以便在源设备处调整媒体数据(例如音频视频(AV)数据)处理的技术的宿设备的例子的框图。宿设备700可以是包括图2中给出的数据通信模型的WD系统的一部分。在一个例子中,宿设备700可以与源设备600组成WD系统。宿设备700包括调制解调器702、传输模块704、A/V解复用器(demux)706、视频解包器708、视频解码器710、显示处理器712、显示器714、音频解包器716、音频解码器718、音频处理器720、扬声器722、用户输入模块724、性能分析模块726、反馈打包器728和控制模块730。宿设备700的组件可以各自实现为各种适当的电路中的任意一种,例如一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、分立逻辑、软件、硬件、固件或其任意组合。
调制解调器702可以被配置为根据在WD系统中所采用的物理层和MAC层来执行物理层和MAC层处理。如针对图2所描述的,物理层和MAC层可以规定用于WD系统中的通信的物理信令、寻址和信道接入控制。在一个例子中,调制解调器702可以被配置为执行用于由(例如由WFD提供的)Wi-Fi(例如IEEE802.11x)标准规定的物理层和MAC层的物理层和MAC层处理。在其它例子中,调制解调器702可以被配置为执行用于以下各项中的任意一项的物理层和MAC层处理:WirelessHD、WiMedia、无线家庭数字接口(WHDI)、WiGig和无线USB。
传输模块704可以处理从源设备接收的媒体数据。此外,传输模块704可以处理用于传输给源设备的反馈分组。例如,传输模块704可以被配置为使用IP、TCP、UDP、RTP和RSTP来进行传送。此外,传输模块704可以在IP、TCP、UDP、RTP和RSTP分组的任意组合中包括时间戳值。所述时间戳值可以使得源设备能够标识哪一个媒体数据分组经历所报告的性能下降以及能够计算WD系统中的往返延迟。
A/V解复用器706可以应用解复用技术来从数据流中将视频有效载荷数据和音频有效载荷数据分开。在一个例子中,A/V复用器706可以将根据MPEG-2部分1规定的MPEG2传输流的打包的基本视频和音频流分开。
视频解包器708和视频解码器710可以执行对实施本文所描述的封包和编码技术的视频打包器和视频编码器的反向处理以及将视频输出视频数据输出给显示处理器712。
显示处理器712可以获取捕获的视频帧以及可以处理视频数据以便显示在显示器714上。显示器714可以包括各种显示设备(例如,液晶显示器(LCD)、等离子体显示器、有机发光二极管(OLED)显示器或其它类型的显示器)中的一种。
音频解包器716和音频解码器718可以执行对实施本文所描述的封包和编码技术的音频打包器和音频编码器的反向处理以及将音频数据输出给显示处理器720。
音频处理器720可以从音频解码器获取音频数据以及可以处理音频数据以便输出给扬声器722。扬声器722可以包括各种音频输出设备(例如,耳机、单扬声器系统、多扬声器系统或环绕声系统)中的任意一种。
用户输入模块724可以格式化由用户输入设备(诸如,举例来说,键盘、鼠标、轨迹球或触控板、触摸屏、语音命令识别模块或任何其它此种用户输入设备)接收的用户输入命令。在一个例子中,用户输入模块724可以对符合根据上文针对图2所描述的人工接口设备命令(HIDC)230、通用用户输入232和OS特定用户输入234来定义的格式的用户输入命令进行格式化。
性能分析模块726可以基于从源设备接收的媒体数据分组来确定性能信息。性能信息可以包括:延迟抖动、分组丢失、时间上的差错分布、分组差错率和时间上的RSSI分布,以及本文所描述的其它例子。性能分析模块726可以根据本文所描述的技术中的任意一种来计算性能信息。
反馈打包器728可以打包、可以处理来自用户输入模块724和性能分析模块生成器726的用户输入信息以创建反馈分组。在一个例子中,反馈分组可以使用针对图3所描述的消息格式。此外,反馈打包器728可以在每一个反馈分组中包括时间戳值。所述时间戳值可以使得源设备能够标识哪一个媒体数据分组经历所报告的性能下降以及能够计算WD系统中的往返延迟。
控制模块730可以被配置为执行宿设备700通信控制功能。通信控制功能可以涉及:与源设备协商能力、与源设备建立会话以及会话维护和管理。控制模块730可以使用RTSP来与源设备通信。此外,控制模块730可以使用RTSP消息事务来建立反馈信道以便协商宿设备700和源设备的能力,从而支持UIBC上的反馈信道和反馈输入类别。使用RTSP协商来建立反馈信道可以与使用RTSP协商过程来建立媒体共享会话和/或UIBC相类似。
图8是示出了用于基于反馈信息来调整媒体数据的传输的技术的流程图。源设备向宿设备发送媒体数据(802),源设备和宿设备可以是本文所描述的源设备和宿设备的任意组合。在一个例子中,可以根据UDP来发送媒体数据。源设备从宿设备接收反馈消息(804)。反馈消息可以根据本文所描述的任意消息格式来格式化并且包括本文所描述的任意类型的反馈信息。例如,可以根据针对图3所描述的消息格式来格式化反馈消息。在一个例子中,可以根据TCP来发送所接收的反馈消息。根据本文所描述的技术中的任意一种技术,源设备可以基于反馈消息来调整媒体数据的传输(806)。例如,媒体数据的传输可以由以下技术的任意组合来调整:可以调整编码量化参数、可以调整媒体分组的长度、可以发送即时解码器刷新帧、可以调整编码比特速率或传输比特速率以及可以基于媒体数据分组丢失的概率来发送冗余信息。
图9示出了用于提供反馈信息的技术的流程图。宿设备从源设备接收媒体数据(902)。源设备和宿设备可以是本文所描述的源设备和宿设备的任意组合。在一个例子中,可以根据UDP来发送媒体数据。宿设备指示要向源发送的消息是否包括性能信息(904)。在一个例子中,宿设备可以使用数据分组报头值来指示消息包括性能信息。例如,宿设备可以使用图3中的反馈类别字段和/或图5中的MSGType字段来指定消息中的内容。宿设备可以向源设备发送反馈消息(906)。反馈消息可以根据本文所描述的任意消息格式来格式化并且包括本文所描述的任意类型的反馈信息。在一个例子中,可以根据TCP来发送反馈消息。
在一个或多个例子中,所描述的功能可以在硬件、软件、固件或其任意组合中实现。如果在软件中实现,则所述功能可以作为一个或多个指令或代码存储在计算机可读介质上或者通过其进行传输。计算机可读介质可以包括计算机数据存储介质或通信介质,所述通信介质包括有助于将计算机程序从一个地方传送到另一个地方的任何介质。在一些例子中,计算机可读介质可以包括非暂时性计算可读介质。数据存储介质可以是可由一个或多个计算机或一个或多个处理器访问以获取用于实现在本公开内容中所描述的技术的指令、代码和/或数据结构的任何可用介质。
通过举例而非限制性的方式,这样的计算机可读介质可以包括非暂时性介质,诸如RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储、或其它磁性存储设备、闪存、或者可以用于以指令或数据结构的形式携带或存储期望的程序代码以及可以由计算机来存取的任何其它的介质。此外,任何连接被适当地称为计算机可读介质。如本文所使用的,磁盘和光盘包括压缩光盘(CD)、激光光盘、光盘、数字多功能光盘(DVD)、软盘和蓝光光盘,其中磁盘通常磁性地复制数据,而光盘则利用激光来光学地复制数据。上述的组合也应当包括在计算机可读介质的范围内。
所述代码可以由诸如一个或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、或者其它等效的集成或分立逻辑电路之类的一个或多个处理器来执行。因此,如本文所使用的术语“处理器”可以是指前述结构中的任意一种,或适用于实现本文所描述的技术的任何其它结构。此外,在一些方面中,可以在被配置为用于编码和解码的专用硬件和/或软件模块中提供本文所描述的功能,或者将本文所描述的功能并入到组合的编解码器中。此外,所述技术可以在一个或多个电路或逻辑单元中完全实现。
本公开内容的技术可以在各种各样的设备或装置(包括无线手机、集成电路(IC)或一组IC(例如,芯片组))中实现。在本公开内容中描述各种组件、模块或单元是为了强调被配置为执行所公开的技术的设备的功能方面,而不必要求通过不同的硬件单元来实现。更确切地说,如上文所描述的,各种单元可组合在编解码器硬件单元中或者由互操作硬件单元的集合(包含如上文所描述的一个或多个处理器)结合适当的软件和/或固件来提供。
已描述了本发明的各个实施例。这些和其它的实施例位于所附的权利要求书的范围内。
Claims (48)
1.一种发送媒体数据的方法,所述方法包括:
向宿设备发送媒体数据,其中媒体数据是根据第一传输协议来传输的;
从所述宿设备接收消息,其中所述消息是根据第二传输协议来传输的;
至少部分地基于数据分组报头来确定所述消息是否包括以下各项中的一项:用户输入信息或性能信息;以及
基于所述消息来调整媒体数据的传输。
2.根据权利要求1所述的方法,其中,所述第一传输协议是用户数据协议(UDP),而所述第二传输协议是传输控制协议(TCP)。
3.根据权利要求1所述的方法,还包括:使用实时流式传输协议(RTSP)来确定所述宿设备的能力。
4.根据权利要求1所述的方法,其中,所述消息包括性能信息,其中,所述性能信息至少包括针对在所述宿设备处接收的所述媒体数据的时间戳值。
5.根据权利要求1所述的方法,其中,所述消息包括性能信息,其中,所述性能信息包括分组差错信息,以及其中,基于所述消息来调整媒体数据的传输包括:调整用于编码所述媒体数据的量化参数。
6.根据权利要求1所述的方法,其中,所述消息包括性能信息,其中,所述性能信息包括分组差错信息,以及其中,基于所述消息来调整媒体数据的传输包括:发送即时解码器刷新帧。
7.一种接收媒体数据的方法,所述方法包括:
从源设备接收媒体数据,其中媒体数据是根据第一传输协议来传输的;
至少部分地基于数据分组报头来指示消息是否包括以下各项中的一项:用户输入信息或性能信息;以及
向所述源设备发送所述消息,其中所述消息是根据第二传输协议来传输的。
8.根据权利要求7所述的方法,其中,所述第一传输协议是用户数据协议(UDP),而所述第二传输协议是传输控制协议(TCP)。
9.根据权利要求7所述的方法,还包括:使用实时流式传输协议(RTSP)来发送能力消息。
10.根据权利要求7所述的方法,其中,所述消息包括性能信息,其中,所述性能信息至少包括针对在所述宿设备处接收的所述媒体数据的时间戳值。
11.根据权利要求7所述的方法,其中,所述消息包括性能信息,其中,所述性能信息包括针对所述源设备调整所述媒体数据的传输速率的请求。
12.根据权利要求7所述的方法,其中,所述消息包括性能信息,其中,所述性能信息包括针对所述源设备发送即时解码器刷新帧的请求。
13.一种源设备,包括:
用于向宿设备发送媒体数据的单元,其中媒体数据是根据第一传输协议来传输的;
用于从所述宿设备接收消息的单元,其中所述消息是根据第二传输协议来传输的;
用于至少部分地基于数据分组报头来确定所述消息是否包括以下各项中的一项:用户输入信息或性能信息的单元;以及
用于基于所述消息来调整媒体数据的传输的单元。
14.根据权利要求13所述的源设备,其中,所述第一传输协议是用户数据协议(UDP),而所述第二传输协议是传输控制协议(TCP)。
15.根据权利要求13所述的源设备,还包括:用于使用实时流式传输协议(RTSP)来确定所述宿设备的能力的单元。
16.根据权利要求13所述的源设备,其中,所述消息包括性能信息,其中,所述性能信息至少包括针对在所述宿设备处接收的所述媒体数据的时间戳值。
17.根据权利要求13所述的源设备,其中,所述消息包括性能信息,其中,所述性能信息包括分组差错信息,以及其中,用于基于所述消息来调整媒体数据的传输的单元包括:用于调整用于编码所述媒体数据的量化参数的单元。
18.根据权利要求13所述的源设备,其中,所述消息包括性能信息,其中,所述性能信息包括分组差错信息,以及其中,用于基于所述消息来调整媒体数据的传输的单元包括:用于发送即时解码器刷新帧的单元。
19.一种宿设备,包括:
用于从源设备接收媒体数据的单元,其中媒体数据是根据第一传输协议来传输的;
用于至少部分地基于数据分组报头来指示消息是否包括以下各项中的一项:用户输入信息或性能信息的单元;以及
用于向所述源设备发送所述消息的单元,其中所述消息是根据第二传输协议来传输的。
20.根据权利要求19所述的宿设备,其中,所述第一传输协议是用户数据协议(UDP),而所述第二传输协议是传输控制协议(TCP)。
21.根据权利要求19所述的宿设备,还包括:用于使用实时流式传输协议(RTSP)来发送能力消息的单元。
22.根据权利要求19所述的宿设备,其中,所述消息包括性能信息,其中,所述性能信息至少包括针对在所述宿设备处接收的所述媒体数据的时间戳值。
23.根据权利要求19所述的宿设备,其中,所述消息包括性能信息,其中,所述性能信息包括针对所述源设备调整所述媒体数据的传输速率的请求。
24.根据权利要求19所述的宿设备,其中,所述消息包括性能信息,其中,所述性能信息包括针对所述源设备发送即时解码器刷新帧的请求。
25.一种源设备,包括:
存储器,其存储媒体数据;以及
处理器,其被配置为执行指令以使所述源设备进行以下操作:向宿设备发送媒体数据,其中媒体数据是根据第一传输协议来传输的;处理从所述宿设备接收的消息,其中所述消息是根据第二传输协议来传输的;至少部分地基于数据分组报头来确定所述消息是否包括以下各项中的一项:用户输入信息或性能信息;以及基于所述消息来调整媒体数据的传输。
26.根据权利要求25所述的源设备,其中,所述第一传输协议是用户数据协议(UDP),而所述第二传输协议是传输控制协议(TCP)。
27.根据权利要求25所述的源设备,其中,所述处理器还被配置为使用实时流式传输协议(RTSP)来确定所述宿设备的能力。
28.根据权利要求25所述的源设备,其中,所述消息包括性能信息,其中,所述性能信息至少包括针对在所述宿设备处接收的所述媒体数据的时间戳值。
29.根据权利要求25所述的源设备,其中,所述消息包括性能信息,其中,所述性能信息包括分组差错信息,以及其中,被配置为基于所述消息来调整媒体数据的传输包括:调整用于编码所述媒体数据的量化参数。
30.根据权利要求25所述的源设备,其中,所述消息包括性能信息,其中,所述性能信息包括分组差错信息,以及其中,被配置为基于所述消息来调整媒体数据的传输包括:发送即时解码器刷新帧。
31.一种宿设备,包括:
存储器,其存储媒体数据;以及
处理器,其被配置为执行指令以使所述宿设备进行以下操作:传输进而处理从源设备接收的媒体数据,其中媒体数据是根据第一传输协议来传输的;向所述源设备发送消息,其中所述消息是根据第二传输协议来传输的;以及至少部分地基于数据分组报头来指示所述消息是否包括以下各项中的一项:用户输入信息或性能信息。
32.根据权利要求31所述的宿设备,其中,所述第一传输协议是用户数据协议(UDP),而所述第二传输协议是传输控制协议(TCP)。
33.根据权利要求31所述的宿设备,其中,所述处理器还被配置为使用实时流式传输协议(RTSP)来确定所述宿设备的能力。
34.根据权利要求31所述的宿设备,其中,所述消息包括性能信息,其中,所述性能信息至少包括针对在所述宿设备处接收的所述媒体数据的时间戳值。
35.根据权利要求31所述的宿设备,其中,所述消息包括性能信息,其中,所述性能信息包括针对所述源设备调整所述媒体数据的传输速率的请求。
36.根据权利要求31所述的宿设备,其中,所述消息包括性能信息,其中,所述性能信息包括针对所述源设备发送即时解码器刷新帧的请求。
37.一种计算机可读介质,包括存储在其上的指令,当在源设备的处理器中执行所述指令时使所述源设备进行以下操作:
向宿设备发送媒体数据,其中媒体数据是根据第一传输协议来传输的;
处理从所述宿设备接收的消息,其中所述消息是根据第二传输协议来传输的;
至少部分地基于数据分组报头来确定所述消息是否包括以下各项中的一项:用户输入信息或性能信息;以及
基于所述消息来调整媒体数据的传输。
38.根据权利要求37所述的计算机可读介质,其中,所述第一传输协议是用户数据协议(UDP),而所述第二传输协议是传输控制协议(TCP)。
39.根据权利要求37所述的计算机可读介质,还包括存储在其上的指令,当在源设备中执行所述指令时使可编程处理器使用实时流式传输协议(RTSP)来确定所述宿设备的能力。
40.根据权利要求37所述的计算机可读介质,其中,所述消息包括性能消息,其中,所述性能信息至少包括针对在所述宿设备处接收的所述媒体数据的时间戳值。
41.根据权利要求37所述的计算机可读介质,其中,所述消息包括性能信息,其中,所述性能信息包括分组差错信息,以及其中,基于所述消息来调整媒体数据的传输包括:调整用于编码所述媒体数据的量化参数。
42.根据权利要求37所述的计算机可读介质,其中,所述消息包括性能信息,其中,所述性能信息包括分组差错信息,以及其中,基于所述消息来调整媒体数据的传输包括:发送即时解码器刷新帧。
43.一种计算机可读介质,包括存储在其上的指令,当在宿设备的处理器中执行所述指令时使所述宿设备进行以下操作:
处理从源设备接收的媒体数据,其中媒体数据是根据第一传输协议来传输的;
至少部分地基于数据分组报头来指示消息是否包括以下各项中的一项:用户输入信息或性能信息;以及
向所述源设备发送所述消息,其中所述消息是根据第二传输协议来传输的。
44.根据权利要求43所述的计算机可读介质,其中,所述第一传输协议是用户数据协议(UDP),而所述第二传输协议是传输控制协议(TCP)。
45.根据权利要求43所述的计算机可读介质,还包括存储在其上的指令,当在宿设备中执行所述指令时使可编程处理器使用实时流式传输协议(RTSP)来发送能力消息。
46.根据权利要求43所述的计算机可读介质,其中,所述消息包括性能信息,其中,所述性能信息至少包括针对在所述宿设备处接收的所述媒体数据的时间戳值。
47.根据权利要求43所述的计算机可读介质,其中,所述消息包括性能信息,其中,所述性能信息包括针对所述源设备调整所述媒体数据的传输速率的请求。
48.根据权利要求43所述的宿设备,其中,所述消息包括性能信息,其中,所述性能信息包括针对所述源设备发送即时解码器刷新帧的请求。
Applications Claiming Priority (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201161547397P | 2011-10-14 | 2011-10-14 | |
US61/547,397 | 2011-10-14 | ||
US201261604674P | 2012-02-29 | 2012-02-29 | |
US61/604,674 | 2012-02-29 | ||
US13/563,984 | 2012-08-01 | ||
US13/563,984 US20130195119A1 (en) | 2011-10-14 | 2012-08-01 | Feedback channel for wireless display devices |
PCT/US2012/059929 WO2013056031A1 (en) | 2011-10-14 | 2012-10-12 | Feedback channel for wireless display devices |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103875225A true CN103875225A (zh) | 2014-06-18 |
Family
ID=47178892
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201280050386.6A Pending CN103875225A (zh) | 2011-10-14 | 2012-10-12 | 用于无线显示设备的反馈信道 |
Country Status (7)
Country | Link |
---|---|
US (1) | US20130195119A1 (zh) |
EP (1) | EP2767062A1 (zh) |
JP (2) | JP2015501579A (zh) |
KR (1) | KR20140074398A (zh) |
CN (1) | CN103875225A (zh) |
IN (1) | IN2014CN02178A (zh) |
WO (1) | WO2013056031A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107211257A (zh) * | 2015-02-05 | 2017-09-26 | 高通股份有限公司 | 具有用于WiFi Miracast中的可缩放多媒体数据分发的对等辅助式应用级反馈的集中式应用级多播 |
CN110943972A (zh) * | 2019-10-30 | 2020-03-31 | 西安万像电子科技有限公司 | 数据处理方法及装置 |
CN117544827A (zh) * | 2023-10-31 | 2024-02-09 | 慧之安信息技术股份有限公司 | 基于添加抖动时间来增强单播可靠性的方法和系统 |
Families Citing this family (57)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9198084B2 (en) | 2006-05-26 | 2015-11-24 | Qualcomm Incorporated | Wireless architecture for a traditional wire-based protocol |
US9398089B2 (en) | 2008-12-11 | 2016-07-19 | Qualcomm Incorporated | Dynamic resource sharing among multiple wireless devices |
US9264248B2 (en) | 2009-07-02 | 2016-02-16 | Qualcomm Incorporated | System and method for avoiding and resolving conflicts in a wireless mobile display digital interface multicast environment |
US9582238B2 (en) | 2009-12-14 | 2017-02-28 | Qualcomm Incorporated | Decomposed multi-stream (DMS) techniques for video display systems |
US10135900B2 (en) | 2011-01-21 | 2018-11-20 | Qualcomm Incorporated | User input back channel for wireless displays |
US9065876B2 (en) | 2011-01-21 | 2015-06-23 | Qualcomm Incorporated | User input back channel from a wireless sink device to a wireless source device for multi-touch gesture wireless displays |
US9787725B2 (en) | 2011-01-21 | 2017-10-10 | Qualcomm Incorporated | User input back channel for wireless displays |
US8964783B2 (en) | 2011-01-21 | 2015-02-24 | Qualcomm Incorporated | User input back channel for wireless displays |
US20130013318A1 (en) | 2011-01-21 | 2013-01-10 | Qualcomm Incorporated | User input back channel for wireless displays |
US9413803B2 (en) * | 2011-01-21 | 2016-08-09 | Qualcomm Incorporated | User input back channel for wireless displays |
US10108386B2 (en) | 2011-02-04 | 2018-10-23 | Qualcomm Incorporated | Content provisioning for wireless back channel |
US9503771B2 (en) | 2011-02-04 | 2016-11-22 | Qualcomm Incorporated | Low latency wireless display for graphics |
US9106651B2 (en) * | 2011-09-19 | 2015-08-11 | Qualcomm Incorporated | Sending human input device commands over internet protocol |
US9467297B2 (en) | 2013-08-06 | 2016-10-11 | Bedrock Automation Platforms Inc. | Industrial control system redundant communications/control modules authentication |
US9600434B1 (en) | 2011-12-30 | 2017-03-21 | Bedrock Automation Platforms, Inc. | Switch fabric having a serial communications interface and a parallel communications interface |
US9727511B2 (en) | 2011-12-30 | 2017-08-08 | Bedrock Automation Platforms Inc. | Input/output module with multi-channel switching capability |
US8971072B2 (en) | 2011-12-30 | 2015-03-03 | Bedrock Automation Platforms Inc. | Electromagnetic connector for an industrial control system |
US10834820B2 (en) | 2013-08-06 | 2020-11-10 | Bedrock Automation Platforms Inc. | Industrial control system cable |
US11967839B2 (en) | 2011-12-30 | 2024-04-23 | Analog Devices, Inc. | Electromagnetic connector for an industrial control system |
US8862802B2 (en) | 2011-12-30 | 2014-10-14 | Bedrock Automation Platforms Inc. | Switch fabric having a serial communications interface and a parallel communications interface |
US10834094B2 (en) | 2013-08-06 | 2020-11-10 | Bedrock Automation Platforms Inc. | Operator action authentication in an industrial control system |
US9437967B2 (en) | 2011-12-30 | 2016-09-06 | Bedrock Automation Platforms, Inc. | Electromagnetic connector for an industrial control system |
US9525998B2 (en) * | 2012-01-06 | 2016-12-20 | Qualcomm Incorporated | Wireless display with multiscreen service |
KR102050984B1 (ko) * | 2012-03-11 | 2019-12-02 | 삼성전자주식회사 | 와이-파이 디스플레이 네트워크에서 와이-파이 디스플레이 세션을 제공하는 방법 및 장치, 그리고 그에 따른 시스템 |
EP2859750A4 (en) * | 2012-06-11 | 2016-03-09 | Samsung Electronics Co Ltd | METHOD AND DEVICE FOR NEGOTIATING CAPACITIES IN A WIRELESS COMMUNICATION NETWORK ENVIRONMENT |
EP2800331B1 (en) * | 2013-05-03 | 2019-08-14 | BlackBerry Limited | Input lag estimation for wi-fi display sinks |
KR20140131102A (ko) * | 2013-05-03 | 2014-11-12 | 삼성전자주식회사 | 영상전송장치, 영상수신장치 및 이들의 제어방법 |
US9197680B2 (en) * | 2013-05-23 | 2015-11-24 | Qualcomm Incorporated | Establishing and controlling audio and voice back channels of a Wi-Fi display connection |
WO2014192414A1 (ja) * | 2013-05-31 | 2014-12-04 | ソニー株式会社 | 情報処理装置および情報処理方法 |
EP2816761A1 (en) * | 2013-06-17 | 2014-12-24 | Thomson Licensing | Wifi display compatible network gateway |
US10613567B2 (en) | 2013-08-06 | 2020-04-07 | Bedrock Automation Platforms Inc. | Secure power supply for an industrial control system |
WO2015019793A1 (ja) * | 2013-08-08 | 2015-02-12 | 株式会社リコー | プログラム、通信品質推定方法、情報処理装置、通信品質推定システム及び記憶媒体 |
US9386257B2 (en) * | 2013-08-15 | 2016-07-05 | Intel Corporation | Apparatus, system and method of controlling wireless transmission of video streams |
WO2015083653A1 (ja) * | 2013-12-06 | 2015-06-11 | シャープ株式会社 | 音声無線伝送システム、スピーカ機器、及びソース機器 |
EP3099080B1 (en) * | 2014-01-23 | 2018-08-22 | Sony Corporation | Decoding device, decoding method, encoding device, and encoding method |
US10506071B2 (en) * | 2014-02-28 | 2019-12-10 | Samsung Electronics Co., Ltd | Method and apparatus for playing multimedia contents in a communication |
TWI540864B (zh) * | 2014-03-20 | 2016-07-01 | 緯創資通股份有限公司 | 資訊傳輸方法與無線顯示系統 |
US20150350288A1 (en) * | 2014-05-28 | 2015-12-03 | Qualcomm Incorporated | Media agnostic display for wi-fi display |
JP6516480B2 (ja) * | 2015-01-19 | 2019-05-22 | キヤノン株式会社 | 表示装置、表示システム及び表示方法 |
US20160234032A1 (en) * | 2015-02-05 | 2016-08-11 | Qualcomm Incorporated | Unified Service Discovery with Peer-Assisted Resource Management for Service Mediation and Addressing Control in WiFi-Miracast |
JP7029220B2 (ja) * | 2015-02-09 | 2022-03-03 | ベドロック・オートメーション・プラットフォームズ・インコーポレーテッド | 多チャネル切り替え能力を有する入力/出力モジュール |
US20160345184A1 (en) | 2015-05-20 | 2016-11-24 | International Business Machines Corporation | Signal strength bookmarking for media content |
US9872028B2 (en) * | 2015-06-26 | 2018-01-16 | Intel Corporation | Wireless display adaptations and optimizations based on unfiltered and regional feedback |
US9521648B1 (en) * | 2015-06-26 | 2016-12-13 | Intel Corporation | Location estimation and wireless display device connection method and device |
CN111865906A (zh) | 2015-07-17 | 2020-10-30 | 华为技术有限公司 | 报文传输的方法、装置和系统 |
WO2017155271A1 (ko) | 2016-03-07 | 2017-09-14 | 엘지전자 주식회사 | 무선 통신 시스템에서 트랜스포트를 통해 스트리밍을 제공받는 방법 및 장치 |
US11310298B2 (en) * | 2016-03-07 | 2022-04-19 | Intel Corporation | Technologies for providing hints usable to adjust properties of digital media |
CN110945494B (zh) | 2017-07-28 | 2024-06-21 | 杜比实验室特许公司 | 向客户端提供媒体内容的方法和系统 |
EP3673632B1 (en) * | 2017-08-25 | 2022-04-20 | British Telecommunications public limited company | Optimising multicast video delivery in a wireless network |
FR3082386A1 (fr) * | 2018-06-08 | 2019-12-13 | Orange | Adaptation de debit d'une session de communication en voix sur ip |
CN116980967A (zh) * | 2018-09-28 | 2023-10-31 | 苹果公司 | 基于无线通信信道带宽条件的电子设备内容提供调节 |
US11818419B2 (en) | 2018-09-28 | 2023-11-14 | Apple Inc. | Mobile device content provisioning adjustments based on wireless communication channel bandwidth condition |
KR102560850B1 (ko) * | 2018-10-18 | 2023-07-27 | 삼성전자주식회사 | 복수의 디스플레이장치를 포함하는 시스템과, 디스플레이장치의 제어방법 |
WO2021066377A1 (en) * | 2019-10-04 | 2021-04-08 | Samsung Electronics Co., Ltd. | Electronic device for improving quality of call and operation method thereof |
CN111614682A (zh) * | 2020-05-25 | 2020-09-01 | 国网重庆市电力公司电力科学研究院 | 一种试验数据传输方法、装置及可读存储介质 |
KR20220003812A (ko) * | 2020-07-02 | 2022-01-11 | 삼성전자주식회사 | 호 채널의 상태에 기반하여 필터를 사용하여 전처리된 컨텐츠를 전송하는 전자 장치 및 전자 장치의 동작 방법 |
CN113992967B (zh) * | 2021-10-25 | 2022-11-01 | 北京字节跳动网络技术有限公司 | 一种投屏数据传输方法、装置、电子设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1846420A (zh) * | 2003-09-02 | 2006-10-11 | 诺基亚有限公司 | 嵌入的服务质量相关信息的传送 |
CN101119483A (zh) * | 2006-07-31 | 2008-02-06 | 联想(北京)有限公司 | 一种基于源质量的视频流传输速率调整方法 |
CN101155083A (zh) * | 2006-09-27 | 2008-04-02 | 中兴通讯股份有限公司 | 一种基于丢包率的网络状态估计方法 |
US20110107388A1 (en) * | 2009-11-02 | 2011-05-05 | Samsung Electronics Co., Ltd. | Method and apparatus for providing user input back channel in audio/video system |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2001013579A1 (fr) * | 1999-08-18 | 2001-02-22 | Fujitsu Limited | Systeme et procede de repartition de charge dans un reseau, et support d'enregistrement destine au programme de ce systeme |
JP3769468B2 (ja) * | 2001-03-21 | 2006-04-26 | 株式会社エヌ・ティ・ティ・ドコモ | 通信品質制御方法、通信品質制御システム、パケット解析装置及びデータ送信端末装置 |
EP1453269A1 (en) * | 2003-02-25 | 2004-09-01 | Matsushita Electric Industrial Co., Ltd. | A method of reporting quality metrics for packet switched streaming |
AU2004317109B2 (en) * | 2004-02-12 | 2008-05-22 | Core Wireless Licensing S.A.R.L. | Classified media quality of experience |
AU2004317111B2 (en) * | 2004-02-13 | 2009-01-08 | Nokia Corporation | Timing of quality of experience metrics |
US8010652B2 (en) * | 2004-05-07 | 2011-08-30 | Nokia Corporation | Refined quality feedback in streaming services |
AU2007319261B2 (en) * | 2006-11-14 | 2010-12-16 | Qualcomm Incorporated | Systems and methods for channel switching |
CA2675965C (en) * | 2007-01-18 | 2016-07-05 | Telefonaktiebolaget L M Ericsson (Publ) | Dividing rtcp bandwidth between compound and non-compound rtcp packets |
US20080228912A1 (en) * | 2007-03-16 | 2008-09-18 | Ramakrishna Vedantham | Enhanced Quality Reporting for Transmission Sessions |
US7881335B2 (en) * | 2007-04-30 | 2011-02-01 | Sharp Laboratories Of America, Inc. | Client-side bandwidth allocation for continuous and discrete media |
JP4672081B2 (ja) * | 2007-06-29 | 2011-04-20 | 富士通株式会社 | パケット中継方法及び装置 |
US7987285B2 (en) * | 2007-07-10 | 2011-07-26 | Bytemobile, Inc. | Adaptive bitrate management for streaming media over packet networks |
JP4936542B2 (ja) * | 2007-08-14 | 2012-05-23 | キヤノン株式会社 | 通信制御装置、通信制御方法、及びコンピュータプログラム |
US8265171B2 (en) * | 2008-02-26 | 2012-09-11 | Richwave Technology Corp. | Error resilient video transmission using instantaneous receiver feedback and channel quality adaptive packet retransmission |
US20110164527A1 (en) * | 2008-04-04 | 2011-07-07 | Mishra Rajesh K | Enhanced wireless ad hoc communication techniques |
WO2011153194A1 (en) * | 2010-06-02 | 2011-12-08 | Onmobile Global Limited | Method and apparatus for adapting media |
US9124757B2 (en) * | 2010-10-04 | 2015-09-01 | Blue Jeans Networks, Inc. | Systems and methods for error resilient scheme for low latency H.264 video coding |
US9014277B2 (en) * | 2012-09-10 | 2015-04-21 | Qualcomm Incorporated | Adaptation of encoding and transmission parameters in pictures that follow scene changes |
-
2012
- 2012-08-01 US US13/563,984 patent/US20130195119A1/en not_active Abandoned
- 2012-10-12 IN IN2178CHN2014 patent/IN2014CN02178A/en unknown
- 2012-10-12 KR KR1020147012971A patent/KR20140074398A/ko not_active Application Discontinuation
- 2012-10-12 CN CN201280050386.6A patent/CN103875225A/zh active Pending
- 2012-10-12 WO PCT/US2012/059929 patent/WO2013056031A1/en active Application Filing
- 2012-10-12 EP EP12787204.2A patent/EP2767062A1/en not_active Withdrawn
- 2012-10-12 JP JP2014535915A patent/JP2015501579A/ja active Pending
-
2015
- 2015-08-26 JP JP2015166800A patent/JP2016021763A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1846420A (zh) * | 2003-09-02 | 2006-10-11 | 诺基亚有限公司 | 嵌入的服务质量相关信息的传送 |
CN101119483A (zh) * | 2006-07-31 | 2008-02-06 | 联想(北京)有限公司 | 一种基于源质量的视频流传输速率调整方法 |
CN101155083A (zh) * | 2006-09-27 | 2008-04-02 | 中兴通讯股份有限公司 | 一种基于丢包率的网络状态估计方法 |
US20110107388A1 (en) * | 2009-11-02 | 2011-05-05 | Samsung Electronics Co., Ltd. | Method and apparatus for providing user input back channel in audio/video system |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107211257A (zh) * | 2015-02-05 | 2017-09-26 | 高通股份有限公司 | 具有用于WiFi Miracast中的可缩放多媒体数据分发的对等辅助式应用级反馈的集中式应用级多播 |
CN110943972A (zh) * | 2019-10-30 | 2020-03-31 | 西安万像电子科技有限公司 | 数据处理方法及装置 |
CN117544827A (zh) * | 2023-10-31 | 2024-02-09 | 慧之安信息技术股份有限公司 | 基于添加抖动时间来增强单播可靠性的方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
WO2013056031A1 (en) | 2013-04-18 |
JP2016021763A (ja) | 2016-02-04 |
EP2767062A1 (en) | 2014-08-20 |
IN2014CN02178A (zh) | 2015-05-29 |
KR20140074398A (ko) | 2014-06-17 |
JP2015501579A (ja) | 2015-01-15 |
US20130195119A1 (en) | 2013-08-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103875225A (zh) | 用于无线显示设备的反馈信道 | |
US10911498B2 (en) | User input back channel for wireless displays | |
KR101780300B1 (ko) | 무선 디스플레이 디바이스들에 대한 사용자 입력 제어를 위한 비연결형 전송 | |
JP6092338B2 (ja) | ワイヤレスディスプレイのためのユーザ入力バックチャネル | |
KR101603155B1 (ko) | 무선 디스플레이들을 위한 사용자 입력 백 채널 | |
CN104115466B (zh) | 具有多屏幕服务的无线显示器 | |
US8677029B2 (en) | User input back channel for wireless displays | |
KR101615998B1 (ko) | 무선 디스플레이들을 위한 사용자 입력 백 채널 | |
KR101623895B1 (ko) | 무선 디스플레이들을 위한 사용자 입력 백 채널 | |
US9582239B2 (en) | User input back channel for wireless displays | |
CN104115500A (zh) | 经由用户输入返回信道的双向隧穿用于无线显示 | |
US20100240320A1 (en) | Radio communication device, program and radio communication method | |
KR101533753B1 (ko) | 무선 디스플레이들을 위한 사용자 입력 백 채널 | |
KR101616009B1 (ko) | 무선 디스플레이들을 위한 사용자 입력 백 채널 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20140618 |