CN114449275A - 用于测量视口相关流传输中的运动影响的装置和方法 - Google Patents

用于测量视口相关流传输中的运动影响的装置和方法 Download PDF

Info

Publication number
CN114449275A
CN114449275A CN202111308877.3A CN202111308877A CN114449275A CN 114449275 A CN114449275 A CN 114449275A CN 202111308877 A CN202111308877 A CN 202111308877A CN 114449275 A CN114449275 A CN 114449275A
Authority
CN
China
Prior art keywords
viewport
client device
quality content
sequence
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111308877.3A
Other languages
English (en)
Inventor
沈钢
厄兹古尔·奥曼
安德鲁·阿勒曼
吴新天
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of CN114449275A publication Critical patent/CN114449275A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/57Motion estimation characterised by a search window with variable size or shape

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

本申请提供了一种用于测量视口相关流传输中的运动影响的装置和方法。该装置可以包括接口电路;和处理电路,该处理电路与接口电路耦合并被配置用于:跟踪客户端设备的视口随时间的变化,以生成视口序列;基于经由接口电路在客户端设备处接收的高质量内容序列,计算在客户端设备上呈现的每一帧的高质量内容的覆盖率;并且基于视口序列和每一帧的高质量内容的覆盖率,得到针对视口序列中的每个视口的高质量时间差HQTG,其中,每个视口的HQTG是针对该视口的高质量内容的覆盖率从预定百分比开始降低的时间与针对该视口的高质量内容的覆盖率重新恢复到预定百分比的时间之间的时间差。

Description

用于测量视口相关流传输中的运动影响的装置和方法
技术领域
本公开的实施例总体涉及媒体传输领域,并且具体地涉及用于测量视口相关流传输中的运动影响的装置和方法。
背景技术
利用对虚拟现实(VR)或360度视频内容的视口相关流传输(VDS),服务器仅将视口内的内容传送到客户端设备,并且关于视口的视口信息由客户端设备提供。VDS的优势在于节省带宽,而挑战在于当视口发生变化时服务器能否按时传送内容。换言之,VDS中存在运动到光子(MTP)延迟。用于评估给定VDS应用的质量差距以揭示运动对VDS应用中的用户体验质量(QoE)的影响的方法、装置或系统可能是非常关键的。
发明内容
本公开的一方面提供了一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的装置,包括:接口电路;和处理电路,该处理电路与所述接口电路耦合并被配置用于:跟踪所述客户端设备的视口随时间的变化,以生成视口序列;基于经由所述接口电路在所述客户端设备处接收的高质量内容序列,计算在所述客户端设备上呈现的每一帧的高质量内容的覆盖率;并且基于所述视口序列和所述每一帧的高质量内容的覆盖率,得到针对所述视口序列中的每个视口的高质量时间差HQTG,其中,每个视口的HQTG是针对所述视口的高质量内容的覆盖率从预定百分比开始降低的时间与针对所述视口的高质量内容的覆盖率重新恢复到所述预定百分比的时间之间的时间差。
本公开的另一方面提供了用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的方法,包括:跟踪所述客户端设备的视口随时间的变化,以生成视口序列;基于在所述客户端设备处接收的高质量内容序列,计算在所述客户端设备上呈现的每一帧的高质量内容的覆盖率;并且基于所述视口序列和所述每一帧的高质量内容的覆盖率,得到针对所述视口序列中的每个视口的高质量时间差HQTG,其中,每个视口的HQTG是针对所述视口的高质量内容的覆盖率从预定百分比开始降低的时间与针对所述视口的高质量内容的覆盖率重新恢复到所述预定百分比的时间之间的时间差。
本公开的又一方面提供了一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的系统,包括上述根据本公开的一方面的装置。
本公开的再一方面提供了一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的系统,包括上述根据本公开的一方面的装置,以及经由接口电路与所述装置耦合的机械臂和摄像头,其中机械臂用于握持客户端设备并再现客户端设备的视口随时间的变化,并且摄像头被配置用于捕获并记录在客户端设备的屏幕上呈现的每一帧。
附图说明
在附图中,将通过示例而非限制的方式说明本公开的实施例,其中相同的参考标号指代相似的元件。
图1A是示出了可以实现本公开的各种实施例的示例通信系统的系统图示。
图1B是示出了根据本公开的各种实施例的可以在图1A中所示的通信系统内使用的示例无线发射/接收单元(WTRU)的系统图示。
图1C是示出了根据本公开的各种实施例的可以在图1A中所示的通信系统内使用的示例无线电接入网络(RAN)和示例核心网络(CN)的系统图示。
图1D是示出了根据本公开的各种实施例的可以在图1A中所示的通信系统内使用的另一示例RAN和另一示例CN的系统图示。
图2图示了用于测量运动到高质量(MTHQ)延迟以评估运动对VDS应用中的QoE的影响的一种常用方法。
图3图示了根据本公开的各种实施例的用于在VDS应用中测量运动对QoE的影响的高质量时间差(HQTG)的概念。
图4图示了在VDS应用中用于评估运动对QoE的影响的MTHQ延迟的缺点。
图5图示了根据本公开的各种实施例的用于在VDS应用中基于HQTG测量运动对QoE的影响的示例测试系统。
图6图示了根据本公开的各种实施例的用于在VDS应用中基于HQTG测量运动对QoE的影响的另一示例测试系统。
图7图示了根据本公开的各种实施例的用于在VDS应用中基于HQTG测量运动对QoE的影响的示例方法的流程图。
具体实施方式
将使用本领域技术人员通常采用的术语来描述说明性实施例的各个方面,以将本公开的实质传达给本领域其他技术人员。然而,对于本领域技术人员易于理解的是,可以使用所描述方面的部分来实践许多替代实施例。出于解释的目的,阐述了具体的数字、材料和配置,以提供对说明性实施例的透彻理解。然而,对于本领域技术人员易于理解的是,可以在没有这些具体细节的情况下实践替代实施例。在其他情况下,可以省略或简化众所周知的特征,以避免模糊说明性实施例。
此外,各种操作将以最有助于理解说明性实施例的方式被描述为多个离散操作;然而,描述的顺序不应被解释为暗示这些操作必须依赖于顺序。特别是,这些操作不需要按照呈现的顺序执行。
本文重复使用短语“在实施例中”、“在一种实施例中”和“在一些实施例中”。该短语通常不是指同一实施例;但是,它可能指同一实施例。除非上下文另有规定,否则术语“包含”、“具有”和“包括”是同义词。短语“A或B”和“A/B”表示“(A),(B)或(A和B)”。此外,术语“一”或“一个”,如在专利文件中很常见的,用于包括一个或多个,独立于“至少一个”或“一个或多个”的任何其他实例或用法。
图1A是示出了可以实现本公开的各种实施例的示例通信系统的系统图示。该通信系统100可以是为多个无线用户提供语音、数据、视频、消息传递、广播等内容的多址接入系统。该通信系统100可以通过共享包括无线带宽在内的系统资源而使多个无线用户能够访问此类内容。例如,通信系统100可以使用一种或多种信道接入方法,例如码分多址(CDMA)、时分多址(TDMA)、频分多址(FDMA)、正交FDMA(OFDMA)、单载波FDMA(SC-FDMA)、零尾唯一字DFT扩展OFDM(ZT UW DTS-s OFDM)、唯一字OFDM(UW-OFDM)、资源块过滤OFDM以及滤波器组多载波(FBMC)等等。
如图1A所示,通信系统100可以包括无线发射/接收单元(WTRU)102a、102b、102c、102d、RAN 104/113、CN 106/115、公共交换电话网络(PSTN)108、因特网110以及其他网络112,然而应该了解,所公开的实施例设想了任意数量的WTRU、基站、网络和/或网络部件。每一个WTRU 102a、102b、102c、102d可以是被配置成在无线环境中工作和/或通信的任何类型的设备。举例来说,任一WTRU 102a、102b、102c、102d都可被称为“站”和/或“STA”,其可以被配置成发射和/或接收无线信号,并且可以包括用户设备(UE)、移动站、固定或移动订户单元、基于签约的单元、寻呼机、蜂窝电话、个人数字助理(PDA)、智能电话、膝上型计算机、上网本、个人计算机、无线传感器、热点或Wi-Fi设备、物联网(IoT)设备、手表或其他可穿戴设备、头戴显示器(HMD)、车辆、无人机、医疗设备和应用(例如远程手术)、工业设备和应用(例如机器人和/或在工业和/或自动处理链环境中工作的其他无线设备)、消费类电子设备、以及在商业和/或工业无线网络上工作的设备等等。WTRU 102a、102b、102c、102d可被可交换地称为UE。
通信系统100还可以包括基站114a和/或基站114b。每一个基站114a和/或基站114b可以是被配置成通过以无线方式与WTRU 102a、102b、102c、102d中的至少一个无线对接来促使其接入一个或多个通信网络(例如CN106/115、因特网110、和/或其他网络112)的任何类型的设备。例如,基站114a、114b可以是基地收发信台(BTS)、节点B、e节点B、家庭节点B、家庭e节点B、gNB、NR节点B、站点控制器、接入点(AP)、以及无线路由器等等。虽然每一个基站114a、114b都被描述成了单个部件,然而应该了解,基站114a、114b可以包括任何数量的互连基站和/或网络部件。
基站114a可以是RAN 104/113的一部分,并且所述RAN还可以包括其他基站和/或网络部件(未显示),例如基站控制器(BSC)、无线电网络控制器(RNC)、中继节点等等。基站114a和/或基站114b可被配置成在名为小区(未显示)的一个或多个载波频率上发射和/或接收无线信号。这些频率可以处于授权频谱、无授权频谱或是授权与无授权频谱的组合之中。小区可以为相对固定或者有可能随时间变化的特定地理区域提供无线服务覆盖。小区可被进一步分成小区扇区。例如,与基站114a相关联的小区可被分为三个扇区。由此,在一个实施例中,基站114a可以包括三个收发信机,也就是说,每一个收发信机都对应于小区的一个扇区。在一个实施例中,基站114a可以使用多输入多输出(MIMO)技术,并且可以为小区的每一个扇区使用多个收发信机。例如,通过使用波束成形,可以在期望的空间方向上发射和/或接收信号。
基站114a、114b可以通过空中接口116来与WTRU 102a、102b、102c、102d中的一个或多个进行通信,其中所述空中接口116可以是任何适当的无线通信链路(例如射频(RF)、微波、厘米波、毫米波、红外线(IR)、紫外线(UV)、可见光等等)。空中接口116可以使用任何适当的无线电接入技术(RAT)来建立。
更具体地说,如上所述,通信系统100可以是多址接入系统,并且可以使用一种或多种信道接入方案,例如CDMA、TDMA、FDMA、OFDMA以及SC-FDMA等等。例如,RAN 104/113中的基站114a与WTRU102a、102b、102c可以实施某种无线电技术,例如通用移动电信系统(UMTS)陆地无线电接入(UTRA),其中所述技术可以使用宽带CDMA(WCDMA)来建立空中接口115/116/117。WCDMA可以包括如高速分组接入(HSPA)和/或演进型HSPA(HSPA+)之类的通信协议。HSPA可以包括高速下行链路(DL)分组接入(HSDPA)和/或高速UL分组接入(HSUPA)。
在一个实施例中,基站114a和WTRU 102a、102b、102c可以某种无线电技术,例如演进型UMTS陆地无线电接入(E-UTRA),其中所述技术可以使用长期演进(LTE)和/或先进LTE(LTE-A)和/或先进LTA Pro(LTE-A Pro)来建立空中接口116。
在一个实施例中,基站114a和WTRU 102a、102b、102c可以实施某种无线电技术,例如NR无线电接入,其中所述无线电技术可以使用新型无线电(NR)建立空中接口116。
在一个实施例中,基站114a和WTRU 102a、102b、102c可以实施多种无线电接入技术。例如,基站114a和WTRU 102a、102b、102c可以共同实施LTE无线电接入和NR无线电接入(例如使用双连接(DC)原理)。由此,WTRU 102a、102b、102c使用的空中接口可以通过多种类型的无线电接入技术和/或向/从多种类型的基站(例如eNB和gNB)发送的传输来表征。
在其他实施例中,基站114a和WTRU 102a、102b、102c可以实施以下的无线电技术,例如IEEE 802.11(即无线高保真(WiFi))、IEEE802.16(全球微波接入互操作性(WiMAX))、CDMA2000、CDMA20001X、CDMA2000EV-DO、临时标准2000(IS-2000)、临时标准95(IS-95)、临时标准856(IS-856)、全球移动通信系统(GSM)、用于GSM演进的增强数据速率(EDGE)以及GSM EDGE(GERAN)等等。
图1A中的基站114b可以是无线路由器、家庭节点B、家庭e节点B或接入点,并且可以使用任何适当的RAT来促成局部区域中的无线连接,例如营业场所、住宅、车辆、校园、工业设施、空中走廊(例如供无人机使用)以及道路等等。在一个实施例中,基站114b与WTRU102c、102d可以通过实施IEEE 802.11之类的无线电技术来建立无线局域网络(WLAN)。在一个实施例中,基站114b与WTRU 102c、102d可以通过实施IEEE 802.15之类的无线电技术来建立无线个人局域网(WPAN)。在再一个实施例中,基站114b和WTRU 102c、102d可通过使用基于蜂窝的RAT(例如WCDMA、CDMA2000、GSM、LTE、LTE-A、LTE-A Pro、NR等等)来建立微微小区或毫微微小区。如图1A所示,基站114b可以直连到因特网110。由此,基站114b不需要经由CN 106/115来接入因特网110。
RAN 104/113可以与CN 106/115进行通信,所述CN106/115可以是被配置成向WTRU102a、102b、102c、102d中的一者或多者提供语音、数据、应用和/或借助网际协议语音(VoIP)服务的任何类型的网络。该数据可以具有不同的服务质量(QoS)需求,例如不同的吞吐量需求、时延需求、容错需求、可靠性需求、数据吞吐量需求、以及移动性需求等等。CN106/115可以提供呼叫控制、记账服务、基于移动位置的服务、预付费呼叫、因特网连接、视频分发等等,和/或可以执行用户验证之类的高级安全功能。虽然在图1A中没有显示,然而应该了解,RAN 104/113和/或CN106/115可以直接或间接地和其他那些与RAN 104/113使用相同RAT或不同RAT的RAN进行通信。例如,除了与使用NR无线电技术的RAN104/113相连之外,CN106/115还可以与使用GSM、UMTS、CDMA 2000、WiMAX、E-UTRA或WiFi无线电技术的别的RAN(未显示)通信。
CN 106/115还可以充当供WTRU 102a、102b、102c、102d接入PSTN108、因特网110和/或其他网络112的网关。PSTN 108可以包括提供简易老式电话服务(POTS)的电路交换电话网络。因特网110可以包括使用了公共通信协议(例如TCP/IP网际协议族中的传输控制协议(TCP)、用户数据报协议(UDP)和/或网际协议(IP))的全球性互联计算机网络设备系统。网络112可以包括由其他服务供应商拥有和/或运营的有线或无线通信网络。例如,网络112可以包括与一个或多个RAN相连的另一个CN,其中所述一个或多个RAN可以与RAN 104/113使用相同的RAT或不同的RAT。
通信系统100中一些或所有WTRU 102a、102b、102c、102d可以包括多模能力(例如WTRU 102a、102b、102c、102d可以包括在不同无线链路上与不同无线网络通信的多个收发信机)。例如,图1A所示的WTRU102c可被配置成与使用基于蜂窝的无线电技术的基站114a通信,以及与可以使用IEEE 802无线电技术的基站114b通信。
图1B是示出了示例WTRU 102的系统图示。如图1B所示,WTRU102可以包括处理器118、收发信机120、发射/接收部件122、扬声器/麦克风124、键盘126、显示器/触摸板128、不可移除存储器130、可移除存储器132、电源134、全球定位系统(GPS)芯片组136以及其他周边设备138。应该了解的是,在保持符合实施例的同时,WTRU 102还可以包括前述部件的任何子组合。
处理器118可以是通用处理器、专用处理器、常规处理器、数字信号处理器(DSP)、多个微处理器、与DSP核心关联的一个或多个微处理器、控制器、微控制器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)电路、其他任何类型的集成电路(IC)以及状态机等等。处理器118可以执行信号编码、数据处理、功率控制、输入/输出处理、和/或其他任何能使WTRU102在无线环境中工作的功能。处理器118可以耦合至收发信机120,收发信机120可以耦合至发射/接收部件122。虽然图1B将处理器118和收发信机120描述成单独组件,然而应该了解,处理器118和收发信机120也可以集成在一个电子组件或芯片中。
发射/接收部件122可被配置成经由空中接口116来发射去往基站(例如基站114a)或接收来自所述基站的信号。例如,在一个实施例中,发射/接收部件122可以是被配置成发射和/或接收RF信号的天线。作为示例,在另一个实施例中,发射/接收部件122可以是被配置成发射和/或接收IR、UV或可见光信号的放射器/检测器。在再一个实施例中,发射/接收部件122可被配置成发射和接收RF和光信号。应该了解的是,发射/接收部件122可以被配置成发射和/或接收无线信号的任何组合。
虽然在图1B中将发射/接收部件122描述成是单个部件,但是WTRU102可以包括任何数量的发射/接收部件122。更具体地说,WTRU 102可以使用MIMO技术。由此,在一个实施例中,WTRU 102可以包括两个或多个通过空中接口116来发射和接收无线电信号的发射/接收部件122(例如多个天线)。
收发信机120可被配置成对发射/接收部件122所要传送的信号进行调制,以及对发射/接收部件122接收的信号进行解调。如上所述,WTRU102可以具有多模能力。因此,收发信机120可以包括允许WTRU 102借助多种RAT(例如NR和IEEE 802.11)来进行通信的多个收发信机。
WTRU 102的处理器118可以耦合到扬声器/麦克风124、键盘126和/或显示器/触摸板128(例如液晶显示器(LCD)显示单元或有机发光二极管(OLED)显示单元),并且可以接收来自这些部件的用户输入数据。处理器118还可以向扬声器/麦克风124、键盘126和/或显示器/触摸板128输出用户数据。此外,处理器118可以从诸如不可移除存储器130和/或可移除存储器132之类的任何适当的存储器中访问信息,以及将数据存入这些存储器。不可移除存储器130可以包括随机存取存储器(RAM)、只读存储器(ROM)、硬盘或是其他任何类型的记忆存储设备。可移除存储器132可以包括订户身份模块(SIM)卡、记忆棒、安全数字(SD)记忆卡等等。在其他实施例中,处理器118可以从那些并非实际位于WTRU 102的存储器访问信息,以及将数据存入这些存储器,作为示例,此类存储器可以位于服务器或家庭计算机(未显示)。
处理器118可以接收来自电源134的电力,并且可被配置分发和/或控制用于WTRU102中的其他组件的电力。电源134可以是为WTRU 102供电的任何适当设备。例如,电源134可以包括一个或多个干电池组(如镍镉(Ni-Cd)、镍锌(Ni-Zn)、镍氢(NiMH)、锂离子(Li-ion)等等)、太阳能电池以及燃料电池等等。
处理器118还可以耦合到GPS芯片组136,该芯片组136可被配置成提供与WTRU 102的当前位置相关的位置信息(例如经度和纬度)。作为来自GPS芯片组136的信息的补充或替换,WTRU 102可以经由空中接口116接收来自基站(例如基站114a、114b)的位置信息,和/或根据从两个或多个附近基站接收的信号定时来确定其位置。应该了解的是,在保持符合实施例的同时,WTRU 102可以借助任何适当的定位方法来获取位置信息。
处理器118可以进一步耦合到其他周边设备138,所述周边设备138可以包括提供附加特征、功能和/或有线或无线连接的一个或多个软件和/或硬件模块。例如,周边设备138可以包括加速度计、电子指南针、卫星收发信机、数码相机(用于照片和视频)、通用串行总线(USB)端口、振动设备、电视收发信机、免提耳机、
Figure BDA0003341092080000101
模块、调频(FM)无线电单元、数字音乐播放器、媒体播放器、视频游戏机模块、因特网浏览器、虚拟现实和/或增强现实(VR/AR)设备、以及活动跟踪器等等。周边设备138可以包括一个或多个传感器,所述传感器可以是以下的一个或多个:陀螺仪、加速度计、霍尔效应传感器、磁强计、方位传感器、邻近传感器、温度传感器、时间传感器、地理位置传感器、高度计、光传感器、接触传感器、磁力计、气压计、姿态传感器、生物测定传感器和/或湿度传感器。
WTRU 102可以包括全双工无线电设备,其中对于该无线电设备来说,一些或所有信号(例如与用于UL(例如对传输而言)和下行链路(例如对接收而言)的特定子帧相关联)的接收或传输可以是并发和/或同时的。全双工无线电设备可以包括借助于硬件(例如扼流线圈)或是凭借处理器(例如单独的处理器(未显示)或是凭借处理器118)的信号处理来减小和/或基本消除自干扰的接口管理单元。在一个实施例中,WTRU 102可以包括传送或接收一些或所有信号(例如与用于UL(例如对传输而言)或下行链路(例如对接收而言)的特定子帧相关联)的半双工无线电设备。
图1C是示出了根据一个实施例的RAN 104和CN 106的系统图示。如上所述,RAN104可以通过空中接口116使用E-UTRA无线电技术来与WTRU 102a、102b、102c进行通信。所述RAN 104还可以与CN 106进行通信。
RAN 104可以包括e节点B 160a、160b、160c,然而应该了解,在保持符合实施例的同时,RAN 104可以包括任何数量的e节点B。每一个e节点B 160a、160b、160c都可以包括通过空中接口116与WTRU 102a、102b、102c通信的一个或多个收发信机。在一个实施例中,e节点B 160a、160b、160c可以实施MIMO技术。由此,举例来说,e节点B 160a可以使用多个天线来向WTRU 102a发射无线信号,和/或以及接收来自WTRU 102a的无线信号。
每一个e节点B 160a、160b、160c都可以关联于一个特定小区(未显示),并且可被配置成处理无线电资源管理决策、切换决策、UL和/或DL中的用户调度等等。如图1C所示,e节点B 160a、160b、160c彼此可以通过X2接口进行通信。
图1C显示的CN 106可以包括移动性管理网关(MME)162、服务网关(SGW)164以及分组数据网络(PDN)网关(或PGW)166。虽然前述的每一个部件都被描述成是CN 106的一部分,然而应该了解,这其中的任一部件都可以由CN运营商之外的实体拥有和/或运营。
MME 162可以经由S1接口连接到RAN 104中的每一个e节点B 160a、160b、160c,并且可以充当控制节点。例如,MME 142可以负责验证WTRU 102a、102b、102c的用户,执行承载激活/去激活,以及在WTRU102a、102b、102c的初始附着过程中选择特定的服务网关等等。MME 162还可以提供一个用于在RAN 104与使用其他无线电技术(例如GSM或WCDMA)的其他RAN(未显示)之间进行切换的控制平面功能。
SGW 164可以经由S1接口连接到RAN 104中的每一个e节点B 160a、160b、160c。SGW164通常可以路由和转发去往/来自WTRU 102a、102b、102c的用户数据分组。并且,SGW164还可以执行其他功能,例如在eNB间的切换过程中锚定用户平面,在DL数据可供WTRU102a、102b、102c使用时触发寻呼处理,以及管理并存储WTRU 102a、102b、102c的上下文等等。
SGW 164可以连接到PGW 166,所述PGW166可以为WTRU 102a、102b、102c提供针对分组交换网络(例如因特网110)的接入,以便促成WTRU 102a、102b、102c与启用IP的设备之间的通信。
CN 106可以促成与其他网络的通信。例如,CN 106可以为WTRU102a、102b、102c提供针对电路交换网络(例如PSTN 108)的接入,以便促成WTRU 102a、102b、102c与传统的陆线通信设备之间的通信。例如,CN 106可以包括一个IP网关(例如IP多媒体子系统(IMS)服务器)或与之进行通信,并且该IP网关可以充当CN 106与PSTN 108之间的接口。此外,CN106可以为WTRU 102a、102b、102c提供针对其他网络112的接入,该其他网络112可以包括其他服务供应商拥有和/或运营的其他有线或无线网络。
虽然在图1A-1D中将WTRU描述成了无线终端,然而应该想到的是,在某些典型实施例中,此类终端与通信网络可以使用(例如临时或永久性)有线通信接口。
在典型的实施例中,其他网络112可以是WLAN。
采用基础架构基本服务集(BSS)模式的WLAN可以具有用于所述BSS的接入点(AP)以及与所述AP相关联的一个或多个站(STA)。所述AP可以访问或是对接到分布式系统(DS)或是将业务量送入和/或送出BSS的别的类型的有线/无线网络。源于BSS外部且去往STA的业务量可以通过AP到达并被递送至STA。源自STA且去往BSS外部的目的地的业务量可被发送至AP,以便递送到相应的目的地。处于BSS内部的STA之间的业务量可以通过AP来发送,例如在源STA可以向AP发送业务量并且AP可以将业务量递送至目的地STA的情况下。处于BSS内部的STA之间的业务量可被认为和/或称为点到点业务量。所述点到点业务量可以在源与目的地STA之间(例如在其间直接)用直接链路建立(DLS)来发送。在某些典型实施例中,DLS可以使用802.11e DLS或802.11z隧道化DLS(TDLS)。举例来说,使用独立BSS(IBSS)模式的WLAN不具有AP,并且处于所述IBSS内部或是使用所述IBSS的STA(例如所有STA)彼此可以直接通信。在这里,IBSS通信模式有时可被称为“自组织”通信模式。
在使用802.11ac基础设施工作模式或类似的工作模式时,AP可以在固定信道(例如主信道)上传送信标。所述主信道可以具有固定宽度(例如20MHz的带宽)或是借助信令动态设置的宽度。主信道可以是BSS的工作信道,并且可被STA用来与AP建立连接。在某些典型实施例中,所实施的可以是具有冲突避免的载波感测多址接入(CSMA/CA)(例如在802.11系统中)。对于CSMA/CA来说,包括AP在内的STA(例如每一个STA)可以感测主信道。如果特定STA感测到/检测到和/或确定主信道繁忙,那么所述特定STA可以回退。在指定的BSS中,在任何指定时间都有一个STA(例如只有一个站)进行传输。
高吞吐量(HT)STA可以使用宽度为40MHz的信道来进行通信(例如借助于将宽度为20MHz的主信道与相邻或不相邻的宽度为20MHz的信道相结合来形成宽度为40MHz的信道)。
甚高吞吐量(VHT)STA可以支持宽度为20MHz、40MHz、80MHz和/或160MHz的信道。40MHz和/或80MHz信道可以通过组合连续的20MHz信道来形成。160MHz信道可以通过组合8个连续的20MHz信道或者通过组合两个不连续的80MHz信道(这种组合可被称为80+80配置)来形成。对于80+80配置来说,在信道编码之后,数据可被传递并经过一个分段解析器,所述分段解析器可以将数据分成两个流。在每一个流上可以单独执行反向快速傅里叶变换(IFFT)处理以及时域处理。所述流可被映射在两个80MHz信道上,并且数据可以由传输STA来传送。在接收STA的接收机上,用于80+80配置的上述操作可以是相反的,并且组合数据可被发送至介质访问控制(MAC)。
802.11af和802.11ah支持次1GHz的工作模式。相比于802.11n和802.11ac,在802.11af和802.11ah中使用的信道工作带宽和载波有所缩减。802.11af在TV白空间(TVWS)频谱中支持5MHz、10MHz和20MHz带宽,并且802.11ah支持使用非TVWS频谱的1MHz、2MHz、4MHz、8MHz和16MHz带宽。依照典型实施例,802.11ah可以支持仪表类型控制/机器类型通信(例如宏覆盖区域中的MTC设备)。MTC可以具有某种能力,例如包含了支持(例如只支持)某些和/或有限带宽在内的受限能力。MTC设备可以包括电池,并且该电池的电池寿命高于阈值(例如用于保持很长的电池寿命)。
对于可以支持多个信道和信道带宽的WLAN系统(例如802.11n、802.11ac、802.11af以及802.11ah)来说,这些系统包含了一个可被指定成主信道的信道。所述主信道的带宽可以等于BSS中的所有STA所支持的最大公共工作带宽。主信道的带宽可以由某一个STA设置和/或限制,其中所述STA源自在支持最小带宽工作模式的BSS中工作的所有STA。在关于802.11ah的示例中,即使BSS中的AP和其他STA支持2MHz、4MHz、8MHz、16MHz和/或其他信道带宽工作模式,但对支持(例如只支持)1MHz模式的STA(例如MTC类型的设备)来说,主信道的宽度可以是1MHz。载波感测和/或网络分配矢量(NAV)设置可以取决于主信道的状态。如果主信道繁忙(例如因为STA(其只支持1MHz工作模式)对AP进行传输),那么即使大多数的频带保持空间并且可供使用,也可以认为整个可用频带繁忙。
在美国,可供802.11ah使用的可用频带是902MHz到928MHz。在韩国,可用频带是917.5MHz到923.5MHz。在日本,可用频带是916.5MHz到927.5MHz。依照国家码,可用于802.11ah的总带宽是6MHz到26MHz。
图1D是示出了根据一个实施例的RAN 113和CN 115的系统图示。如上所述,RAN113可以通过空中接口116使用NR无线电技术来与WTRU102a、102b、102c进行通信。RAN 113还可以与CN 115进行通信。
RAN 113可以包括gNB 180a、180b、180c,但是应该了解,在保持符合实施例的同时,RAN 113可以包括任何数量的gNB。每一个gNB 180a、180b、180c都可以包括一个或多个收发信机,以便通过空中接口116来与WTRU 102a、102b、102c通信。在一个实施例中,gNB180a、180b、180c可以实施MIMO技术。例如,gNB 180a、180b、180c可以使用波束成形来向gNB180a、180b、180c发射信号和/或从gNB 180a、180b、180c接收信号。由此,举例来说,gNB180a可以使用多个天线来向WTRU 102a发射无线信号,和/或接收来自WTRU 102a的无线信号。在一个实施例中,gNB180a、180b、180c可以实施载波聚合技术。例如,gNB 180a可以向WTR102a传送多个分量载波(未显示)。这些分量载波的一个子集可以处于无授权频谱上,而剩余分量载波则可以处于授权频谱上。在一个实施例中,gNB 180a、180b、180c可以实施协作多点(CoMP)技术。例如,WTRU102a可以接收来自gNB 180a和gNB 180b(和/或gNB180c)的协作传输。
WTRU 102a、102b、102c可以使用与可扩缩参数配置相关联的传输来与gNB 180a、180b、180c进行通信。例如,对于不同的传输、不同的小区和/或不同的无线传输频谱部分来说,OFDM符号间隔和/或OFDM子载波间隔可以是不同的。WTRU 102a、102b、102c可以使用具有不同或可扩缩长度的子帧或传输时间间隔(TTI)(例如包含了不同数量的OFDM符号和/或持续不同的绝对时间长度)来与gNB 180a、180b、180c进行通信。
gNB 180a、180b、180c可被配置成与采用独立配置和/或非独立配置的WTRU 102a、102b、102c进行通信。在独立配置中,WTRU 102a、102b、102c可以在不接入其他RAN(例如e节点B 160a、160b、160c)的情况下与gNB 180a、180b、180c进行通信。在独立配置中,WTRU102a、102b、102c可以使用gNB 180a、180b、180c中的一个或多个作为移动锚点。在独立配置中,WTRU 102a、102b、102c可以使用无授权频带中的信号来与gNB 180a、180b、180c进行通信。在非独立配置中,WTRU 102a、102b、102c会在与别的RAN(例如e节点B 160a、160b、160c)进行通信/相连的同时与gNB 180a、180b、180c进行通信/相连。举例来说,WTRU 102a、102b、102c可以通过实施DC原理而以基本同时的方式与一个或多个gNB180a、180b、180c以及一个或多个e节点B 160a、160b、160c进行通信。在非独立配置中,e节点B 160a、160b、160c可以充当WTRU 102a、102b、102c的移动锚点,并且gNB 180a、180b、180c可以提供附加的覆盖和/或吞吐量,以便为WTRU 102a、102b、102c提供服务。
每一个gNB 180a、180b、180c都可以关联于特定小区(未显示),并且可以被配置成处理无线电资源管理决策、切换决策、UL和/或DL中的用户调度、支持网络切片、双连接性、NR与E-UTRA之间的互通、路由去往用户平面功能(UPF)184a、184b的用户平面数据、以及路由去往接入和移动性管理功能(AMF)182a、182b的控制平面信息等等。如图1D所示,gNB180a、180b、180c彼此可以通过Xn接口通信。
图1D所示的CN 115可以包括至少一个AMF 182a、182b,至少一个UPF 184a、184b,至少一个会话管理功能(SMF)183a、183b,并且有可能包括数据网络(DN)185a、185b。虽然每一个前述部件都被描述了CN115的一部分,但是应该了解,这其中的任一部件都可以被CN运营商之外的其他实体拥有和/或运营。
AMF 182a、182b可以经由N2接口连接到RAN 113中的gNB 180a、180b、180c中的一者或多者,并且可以充当控制节点。例如,AMF 182a、182b可以负责验证WTRU 102a、102b、102c的用户,支持网络切片(例如处理具有不同需求的不同PDU会话),选择特定的SMF183a、183b,管理注册区域,终止NAS信令,以及移动性管理等等。AMF 182a、182b可以使用网络切片处理,以便基于WTRU 102a、102b、102c使用的服务类型来定制为WTRU 102a、102b、102c提供的CN支持。作为示例,针对不同的用例,可以建立不同的网络切片,例如依赖于超可靠低时延(URLLC)接入的服务、依赖于增强型大规模移动宽带(eMBB)接入的服务、和/或用于机器类型通信(MTC)接入的服务等等。AMF 162可以提供用于在RAN 113与使用其他无线电技术(例如LTE、LTE-A、LTE-A Pro和/或诸如WiFi之类的非3GPP接入技术)的其他RAN(未显示)之间切换的控制平面功能。
SMF 183a、183b可以经由N11接口连接到CN 115中的AMF 182a、182b。SMF 183a、183b还可以经由N4接口连接到CN 115中的UPF 184a、184b。SMF 183a、183b可以选择和控制UPF 184a、184b,并且可以通过UPF184a、184b来配置业务量路由。SMF 183a、183b可以执行其他功能,例如管理和分配UE IP地址、管理PDU会话、控制策略实施和QoS以及提供下行链路数据通知等等。PDU会话类型可以是基于IP的、基于非IP的以及基于以太网的等等。
UPF 184a、184b可以经由N3接口连接到RAN 113中的gNB 180a、180b、180c中的一者或多者,这样可以为WTRU 102a、102b、102c提供针对分组交换网络(例如因特网110)的接入,以便促成WTRU 102a、102b、102c与启用IP的设备之间的通信。UPF 184、184b可以执行其他功能,例如路由和转发分组、实施用户平面策略、支持多宿主PDU会话、处理用户平面QoS、缓冲下行链路分组、以及提供移动性锚定处理等等。
CN 115可以促成与其他网络的通信。例如,CN 115可以包括充当CN115与PSTN108之间的接口的IP网关(例如IP多媒体子系统(IMS)服务器),或者可以与所述IP网关进行通信。此外,CN 115可以为WTRU102a、102b、102c提供针对其他网络112的接入,该其他网络112可以包括其他服务供应商拥有和/或运营的其他有线或无线网络。在一个实施例中,WTRU102a、102b、102c可以经由对接到UPF 184a、184b的N3接口以及介于UPF 184a、184b与DN185a、185b之间的N6接口,并通过UPF 184a、184b连接到本地数据网络(DN)185a、185b。
有鉴于图1A-1D以及关于图1A-1D的相应描述,在这里对照以下的一项或多项描述的一个或多个或所有功能可以由一个或多个仿真设备(未显示)来执行:WTRU 102a-d、基站114a-b、e节点B 160a-c、MME 162、SGW 164、PGW 166、gNB 180a-c、AMF 182a-b、UPF 184a-b、SMF 183a-b、DN185 a-b和/或这里描述的其他任何设备。这些仿真设备可以是被配置成模拟这里一个或多个或所有功能的一个或多个设备。举例来说,这些仿真设备可用于测试其他设备和/或模拟网络和/或WTRU功能。
仿真设备可被设计成在实验室环境和/或运营商网络环境中实施关于其他设备的一项或多项测试。例如,所述一个或多个仿真设备可以在被完全或部分作为有线和/或无线通信网络一部分实施和/或部署的同时执行一个或多个或所有功能,以便测试通信网络内部的其他设备。所述一个或多个仿真设备可以在被临时作为有线和/或无线通信网络的一部分实施/部署的同时执行一个或多个或所有功能。所述仿真设备可以直接耦合到别的设备以执行测试,和/或可以使用空中无线通信来执行测试。
一个或多个仿真设备可以在未被作为有线和/或无线通信网络一部分实施/部署的同时执行包括所有功能在内的一个或多个功能。例如,所述仿真设备可以在测试实验室和/或未被部署(例如测试)的有线和/或无线通信网络的测试场景中使用,以便实施关于一个或多个组件的测试。所述一个或多个仿真设备可以是测试设备。所述仿真设备可以使用直接的RF耦合和/或借助了RF电路(作为示例,该电路可以包括一个或多个天线)的无线通信来发射和/或接收数据。
360度视频是一种在媒体行业中出现的快速发展的格式。由于不断增长的虚拟现实(VR)设备的可用性,360度视频能够被实现。360度视频可以为观看者提供全新的临场感。与直线视频(例如2D或3D)相比,360度视频在视频处理和/或传送方面可能会提出非常困难的工程挑战。实现舒适和/或沉浸式的用户体验可能需要很高的视频质量和/或很低的时延。360度视频的大型视频尺寸可能会妨碍到以考虑质量的方式大规模地传送360度视频。
360度视频应用和/或服务可以将整个360度视频编码到符合标准的流中,以便进行渐进式下载和/或自适应流传输。通过将整个360度视频传送给客户端,能够实现低延迟呈现(例如,客户端可以访问整个360度视频内容,和/或可以在没有进一步约束的情况下选择呈现其期望观看的部分)。从服务器的角度来看,相同的流可以支持可能具有不同视口的多个用户。视频的大小有可能会很高,由此会在传送视频时招致很高的传输带宽(例如,其原因在于整个360度视频都会被高质量编码,例如以每只眼睛4K@60fps或6K@90fps的方式编码)。例如,由于用户可能只观看整个画面的一小部分(例如一个视口),因此,传送过程中的这种高带宽消耗可能是无用的。
在观看360度视频时,该视频的一部分可被呈现给用户。当用户环视和/或缩放视频图像时,该视频部分有可能会发生变化。该视频部分可以基于HMD和/或其他类型的用户接口(例如无线发射/接收单元(WTRU))提供的反馈来改变。整个360度视频的一个空间区域可以称为视口。视口可以被完全或局部呈现给用户。该视口与该360度视频的其他部分有可能具有一个或多个不同的质量。简单来说,在本申请中,每一帧的高质量内容表示在与该帧相关联的当前视口中要呈现给用户的内容,该帧还可以包括低质量内容,该低质量内容表示与当前视口不相关联的内容,例如360度视频的其他部分的内容。
随着对高清VR内容(例如8K及以上)的追求,网络带宽成为流式传输此类高清内容的挑战。视口相关流传输仅传输视口内的内容,因此可以显著地节省带宽。然而,权衡是当视口发生变化时,新视口中的内容需要立即到达,以避免抖动的用户体验。运动到光子(MTP)延迟的概念用于描述视口变化和相应内容呈现之间的时间差。
当前的VDS解决方案(例如在运动图像专家组-1全向媒体格式(MPEG-1OMAF)中指定的)在传送期间除了视口内容(即,高质量内容)流之外通常还包括低质量(或低分辨率)流。由于客户端设备不断接收可以覆盖显示器的低质量流,因此MTP延迟几乎是瞬间的,即客户端设备始终有内容要呈现。运动(视口变化)与相应的高质量内容呈现之间的延迟,即运动到高质量(MTHQ)延迟,对于此类应用QoE而言变得至关重要。因此,用于评估给定VDS应用的质量差距以揭示运动对VDS应用中的QoE的影响的方法、装置或系统可能是非常关键的。
评估MTHQ延迟的当前方法源自MTP延迟的测量,即计算检测到运动的时间与相应内容在客户端设备的显示器上呈现的时间之间的时间差。
图2图示了用于测量MTHQ延迟以评估运动对VDS应用中的QoE的影响的一种常用方法。如图2所示,该方法是测量时间A和时间B之间的时间差。时间A是检测到运动(视口变化)的时间,在时间A处检测到的视口被标记为“VP-A”。时间B是相应的高质量内容被呈现在显示器上的时间,在时间B处检测到的视口被标记为“VP-B”。为了测量MTHQ延迟,假设VP-B与VP-A相同。
MTHQ延迟的测量源自于与视口无关的VR流传输,可能不能完全反映给定的视口相关VR流传输系统的实际用户体验和性能。首先,在实际使用过程中,时间A和时间B之间可能存在视口变化。VP-B很可能与VP-A不同。因此,所测量的MTHQ延迟可能会或可能不会反映质量下降的持续时间。实质上,当前的网络和媒体层处理无法在一帧时间内传送VP-A的内容。其次,在传输“VP-A的内容”时通常会包含一个边缘(margin)区域。较大的边缘区域可能会导致用户观察到的质量差距较小,因为有了边缘区域,已传送的高质量内容仍然可以覆盖VP-B。然而,如图2中所测量的MTHQ延迟不受边缘区域大小的影响。此外,由于视频编解码器中的图片组(GOP)结构,“VP-A的内容”必须是即时解码刷新(IDR)帧。在拉模式(pull mode)下(例如超文本传输协议(HTTP)),客户端设备可能需要请求IDR帧传入;在推送模式(pushmode)下(例如实时传输协议(RTP)),服务器必须等待IDR帧,然后推送“VP-A的内容”。因此,MTHQ延迟的测量值将在一个范围内具有均匀分布。此外,视频流传输管线的模块中可能存在预测算法以减少延迟。这些预测算法可被设计为传送“预测的VP-B的内容”而不是“VP-A的内容”,因此测量MTHQ延迟的方式可能无法反映这些预测算法的有效性。
在当前的视口相关VR流传输中,高质量(高比特率或高分辨率)视口相关内容与全视图低质量内容一起传输。由于低质量内容不依赖视口,客户端设备的屏幕可以随时显示低质量内容,即MTP延迟不是问题。但高质量内容能以多快的速度覆盖新的视口是QoE的关键问题。换言之,在3DoF/3DoF+播放期间,高质量内容的时间差是视口相关VR流传输中的运动影响的指标。相应地,本申请提出了一种新的方法和一套测量工具来针对固定的视口变化序列测量高质量时间差(HQTG),即,在流传输和播放期间呈现在客户端设备的屏幕上的高质量内容的时间差。所提出的HQTG可以更好地量化VDS应用中的运动影响,并准确地反映实际QoE。此外,该方法还可以被修改并应用于3DoF、3DoF+和6DoF用例。
图3图示了根据本公开的各种实施例的用于在VDS应用中测量运动对QoE的影响的HQTG的概念。对于视口无关(即全视图)流传输,高质量内容的覆盖率线应该是水平的,即高质量内容的覆盖率始终为100%。对于视口相关的流媒体,当视口变为新视口时,由于网络延迟或其他因素,高质量内容的覆盖率将从100%开始降低,然后当新视口的高质量内容完全被呈现在客户端设备的屏幕上时其覆盖率重新恢复到100%。如图3所示,每个视口的HQTG可以被测量为针对该视口的高质量内容的覆盖率从预定百分比(例如100%)开始降低的时间与针对该视口的高质量内容的覆盖率重新恢复到预定百分比的时间之间的时间差。例如在时间t1处,HQTG较短,高质量内容的覆盖率迅速恢复到100%。这种情况可能发生在视口变化只是很小的变化时,或者当应用程序/算法实际上使用了更大的边缘区域时,该边缘区域可以在一定程度上覆盖视口变化。
相比之下,根据如图2所示的测量MTHQ延迟的方法,针对小视口变化和大视口变化测量的MTHQ延迟可能是一样的。
图4图示了在VDS应用中用于评估运动对QoE的影响的MTHQ延迟的缺点。如图4所示,假设客户端在时间t1和时间t3进行了两次视口变化,两次视口变化的MTHQ延迟是相同的,即t2-t1=t4-t3,但是取决于视口变化是较小的变化(例如,从视口A0到视口A1的变化,视口A0和视口A1之间有很多重叠)还是较大的变化(例如,从视口A到视口B的变化,视口A和视口B之间的重叠较少或没有重叠),实际的QoE是不同的。当视口变化很小时,现有的高质量内容(t1之前)可能能够在t1和t2之间覆盖视口A的很大比例,直到在t2时新的高质量内容到达并完全覆盖视口A。当视口变化较大时,例如视口变化到视口B时,t3和t4之间的高质量内容的覆盖率会比t1和t2之间的高质量内容覆盖率小很多。这是一个简化的实例,因为其没有考虑视口的连续变化,例如,在时间t2(或t4),t2(或t4)处的确切视口可能与视口A(或B)不同,但该情况已经能够显示使用MTHQ延迟来评估系统性能和QoE的缺点。
因此,很清楚地,HQTG与MTHQ延迟的不同之处在于HQTG直接反映视口变化对屏幕的影响(即QoE)。此外,HQTG会考虑动态变化的视口,而MTHQ延迟仅测量静态的一次性视口变化。
根据本申请的实施例,提出了一种新的方法、装置和系统来测量HQTG以评估运动对VDS应用中的QoE的影响。在HQTG的测量过程中,本质上有两个序列:视口序列和高质量内容序列。在与视口无关的流传输中,内容序列在任何时候都可以覆盖给定的视口。在视口相关的流传输中,通过收集每一帧的高质量内容的覆盖率,可以观察和测量质量下降的时间差。
在一些实施例中,可以重新使用现有的VR服务器和客户端设备。取决于客户端设备中的源代码是否可访问,可能有两种方法来进行针对视口变化的HQTG测试。如果客户端设备中的源代码可访问,则可以利用源代码来再现或捕获两个序列(即视口序列和高质量内容序列)。在这种情况下,可以使用如图5中所示的测试系统来进行测试(在此也称为“白盒测试”系统)。如果源代码不可访问,可以使用机械臂和视频捕获设备来再现或捕获视口序列和高质量内容序列,并且在这种情况下,可以使用如图6中所示的测试系统来进行测试系统(在此也称为“黑盒测试”系统)。
具体地,例如可以为测试准备简单真实媒体产生器(Easy RealMedia Producer,ERP)格式的高质量样本VR或360度视频。由于视口相关的流传输也会传送低质量(低比特率或低分辨率)的内容,因此可以针对高质量流和低质量流应用两种色调,这样在呈现这两个质量流时,在客户端设备的屏幕上,高质量内容可以与低质量内容区分开来。但需要注意的是,高质量内容和低质量内容也可以用相同的色调来呈现,高质量内容和低质量内容的区别可以是分辨率、比特率,或隐含质量差异的类似特征。
视口序列可以作为[时间戳,位姿]向量被记录在文件中。例如,在3DoF情况下,视口序列可以是[时间戳,滚动,俯仰,偏航]向量的列表。时间戳可以是以毫秒为单位的。可以在实际客户端设备使用期间单独捕获视口序列。视口序列可用于再现客户端设备的运动,并且可以通过将逻辑模块写入到客户端设备的源代码中(例如,在白盒测试系统中)或者通过使用机械臂(例如在黑盒测试系统中)来实现客户端设备的运动的再现。
对于高质量内容序列,在白盒测试系统中,可以从服务器接收高质量内容序列并呈现到客户端设备的屏幕上,而在黑盒测试系统中,可以通过指向客户端设备屏幕的摄像头捕获高质量内容序列,并且该高质量内容序列被记录以用于计算每一帧的高质量内容的覆盖率。在捕获高质量内容序列后,可以计算每一帧的高质量内容的覆盖率,并且该覆盖率可以和与该帧相关联的时间戳和当前视口一起来记录。然后,基于视口序列和每一帧的高质量内容的覆盖率,可以得到视口序列中的每个视口的HQTG。
将在下面参考图5至图7对关于HQTG的测量进一步描述。
图5图示了根据本公开的各种实施例的用于在VDS应用中基于HQTG测量运动对QoE的影响的示例测试系统(即,白盒测试系统)。如图5所示,采用白盒测试系统,只需要进行少量的代码修改,添加少量模块/插件即可实现测试。在这种情况下,测量HQTG的装置可以被实现在客户端设备中,客户端设备中的视口生成器、视口跟踪和视口覆盖率计算器是所增加的用于进行测试的插件,而客户端设备和服务器之间的主要的数据/控制流不必改变。
具体地,在服务器侧,可以相应地放置样本视频源文件。如上所述,高质量内容和低质量内容可以被有意识地改变色调,以便在客户端侧一起呈现时可以在视觉上区分它们。例如,客户端设备可以从服务器请求这样的样本视频源文件以用于HQTG的测量。
在客户端设备侧,视口生成器可以根据来自视口跟踪的“视口跟踪文件”中的时间戳和视口位姿信息发布视口序列,视口覆盖率计算器可以计算出从帧呈现器输出的每个被呈现的帧的高质量内容的覆盖率。该计算可以针对不同色调的内容使用蒙特卡罗方法。每一帧的高质量内容的覆盖率可以和与该帧相关联的时间戳和当前视口一起被记录,从而可以得到如图3所示的每个视口的HQTG。
图6图示了根据本公开的各种实施例的用于在VDS应用中基于HQTG测量运动对QoE的影响的另一示例测试系统。
如上所述,当客户端设备的源代码不可访问时,可能需要额外的设备来生成视口序列和捕获被呈现的帧序列。如图6所示,该测试系统可以包括机械臂、测试控制器和摄像头。测试控制器充当视口生成器以生成视口序列。机械臂可用于握持客户端设备(例如电话或HMD)并根据视口序列再现客户端设备的视口随时间的变化。摄像头可以被配置为捕获在客户端设备的屏幕上呈现的每一帧。所捕获的帧可被用于计算每一帧的高质量内容的覆盖率。另外,如果客户端设备的移动使得不方便捕获客户端设备屏幕上的视频,则可以进一步通过高清多媒体接口(HDMI)将客户端设备上呈现的帧投影到大屏幕显示器上,然后投影的帧可以被摄像头捕获,用于计算该帧处的高质量内容的覆盖率。需要注意的是,机械臂的移动动作和摄像头的记录动作应当在测试控制器使用的视口跟踪文件中的同一时间戳序列上进行,以确保视口序列和高质量内容序列基于相同的时间戳序列被记录,从而可以准确计算每个视口的HQTG。
图7图示了根据本公开的各种实施例的用于在VDS应用中基于HQTG测量运动对QoE的影响的示例方法的流程图。该方法可以包括操作710到730。
在操作710处,可以跟踪客户端设备的视口随时间的变化,以生成视口序列。
在操作720处,可以基于在客户端设备处接收的高质量内容序列,计算在客户端设备上呈现的每一帧的高质量内容的覆盖率。
在一些实施例中,视口序列可以包括每个视口的[时间戳,位姿]向量,并且每一帧的高质量内容的覆盖率和与该帧相关联的时间戳和当前视口一起被记录。此外,视口序列和高质量内容序列可以基于相同的时间戳序列被记录。
在一些实施例中,每一帧可以包括低质量内容和高质量内容,并且每一帧的高质量内容用与该帧的低质量内容的色调不同的色调来呈现。
在操作730处,基于视口序列和每一帧的高质量内容的覆盖率,得到针对视口序列中的每个视口的高质量时间差HQTG。根据本申请的实施例,每个视口的HQTG是针对该视口的高质量内容的覆盖率从预定百分比开始降低的时间与针对该视口的高质量内容的覆盖率重新恢复到预定百分比的时间之间的时间差。该预定百分比可以是100%或者根据实际需要预先设定的其它值。
根据本申请的一些实施例,当客户端设备中的源代码可访问时,通过修改源代码,上述方法可以由所述客户端设备执行,并且高质量内容序列可以接收自服务器。
根据本申请的一些实施例,当客户端设备中的源代码不可访问时,上述方法还可以包括:由机械臂握持客户端设备以再现客户端设备的视口随时间的变化,并且由摄像头捕获在客户端设备的屏幕上呈现的每一帧。高质量内容序列可以被呈现在客户端设备的屏幕上并由摄像头捕获。可选地,在客户端设备上呈现的每一帧还可以经由HDMI投影到大屏幕显示器上,并且被投影的帧由摄像头捕获。
以下段落描述各种实施例的示例。
示例1包括一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的装置,包括:接口电路;和处理电路,该处理电路与所述接口电路耦合并被配置用于:跟踪所述客户端设备的视口随时间的变化,以生成视口序列;基于经由所述接口电路在所述客户端设备处接收的高质量内容序列,计算在所述客户端设备上呈现的每一帧的高质量内容的覆盖率;并且基于所述视口序列和所述每一帧的高质量内容的覆盖率,得到针对所述视口序列中的每个视口的高质量时间差HQTG,其中,每个视口的HQTG是针对所述视口的高质量内容的覆盖率从预定百分比开始降低的时间与针对所述视口的高质量内容的覆盖率重新恢复到所述预定百分比的时间之间的时间差。
示例2包括如示例1所述的装置,其中所述视口序列包括每个视口的[时间戳,位姿]向量,并且所述每一帧的高质量内容的覆盖率和与所述帧相关联的时间戳和当前视口一起被记录。
示例3包括如示例1或2所述的装置,其中所述视口序列和所述高质量内容序列基于相同的时间戳序列被记录。
示例4包括如示例1至3中的任一示例所述的装置,其中每一帧包括低质量内容和所述高质量内容,并且每一帧的所述高质量内容用与所述帧的低质量内容的色调不同的色调来呈现。
示例5包括如示例1至4中的任一示例所述的装置,其中所述预定百分比是100%。
示例6包括如示例1至5中的任一示例所述的装置,其中当所述客户端设备中的源代码可访问时,通过修改源代码,所述装置被实现在所述客户端设备中。
示例7包括如示例1至6中的任一示例所述的装置,其中所述高质量内容序列经由所述接口电路接收自所述服务器。
示例8包括如示例1至7中的任一示例所述的装置,其中当所述客户端设备中的源代码不可访问时,所述装置经由所述接口电路与机械臂和摄像头耦合,所述机械臂用于握持所述客户端设备并再现所述客户端设备的视口随时间的变化,并且所述摄像头被配置为捕获在所述客户端设备的屏幕上呈现的每一帧。
示例9包括如示例1至8中的任一示例所述的装置,其中所述处理电路被配置用于跟踪由所述机械臂再现的所述客户端设备的视口随时间的变化。
示例10包括如示例1至9中的任一示例所述的装置,其中所述高质量内容序列被呈现在所述客户端设备的屏幕上,并由所述摄像头捕获以经由所述接口电路传输到所述处理电路。
示例11包括如示例1至10中的任一示例所述的装置,其中在所述客户端设备上呈现的每一帧还经由高清晰度多媒体接口HDMI投影到大屏幕显示器上,并且被投影的帧由所述摄像头捕获以经由所述接口电路传输到所述处理电路。
示例12包括一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的方法,包括:跟踪所述客户端设备的视口随时间的变化,以生成视口序列;基于在所述客户端设备处接收的高质量内容序列,计算在所述客户端设备上呈现的每一帧的高质量内容的覆盖率;并且基于所述视口序列和所述每一帧的高质量内容的覆盖率,得到针对所述视口序列中的每个视口的高质量时间差HQTG,其中,每个视口的HQTG是针对所述视口的高质量内容的覆盖率从预定百分比开始降低的时间与针对所述视口的高质量内容的覆盖率重新恢复到所述预定百分比的时间之间的时间差。
示例13包括如示例12所述的方法,其中所述视口序列包括每个视口的[时间戳,位姿]向量,并且所述每一帧的高质量内容的覆盖率和与所述帧相关联的时间戳和当前视口一起被记录。
示例14包括如示例12或13所述的方法,其中所述视口序列和所述高质量内容序列基于相同的时间戳序列被记录。
示例15包括如示例12至14中的任一示例所述的方法,其中每一帧包括低质量内容和所述高质量内容,并且每一帧的所述高质量内容用与所述帧的低质量内容的色调不同的色调来呈现。
示例16包括如示例12至15中的任一示例所述的方法,其中所述预定百分比是100%。
示例17包括如示例12至16中的任一示例所述的方法,其中当所述客户端设备中的源代码可访问时,通过修改源代码,所述方法由所述客户端设备执行。
示例18包括如示例12至17中的任一示例所述的方法,其中所述高质量内容序列接收自所述服务器。
示例19包括如示例12至18中的任一示例所述的方法,其中当所述客户端设备中的源代码不可访问时,所述方法还包括:由机械臂握持所述客户端设备以再现所述客户端设备的视口随时间的变化,并且由摄像头捕获在所述客户端设备的屏幕上呈现的每一帧。
示例20包括如示例12至19中的任一示例所述的方法,其中所述高质量内容序列被呈现在所述客户端设备的屏幕上并由所述摄像头捕获。
示例21包括如示例12至20中的任一示例所述的方法,其中在所述客户端设备上呈现的每一帧还经由高清晰度多媒体接口HDMI投影到大屏幕显示器上,并且被投影的帧由所述摄像头捕获。
示例22包括一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的系统,包括如示例1至11中任一项所述的装置。
示例23包括一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的系统,包括如示例1至11中任一项所述的装置,以及经由所述接口电路与所述装置耦合的机械臂和摄像头,其中所述机械臂用于握持所述客户端设备并再现所述客户端设备的视口随时间的变化,并且所述摄像头被配置用于捕获并记录在所述客户端设备的屏幕上呈现的每一帧。
示例24包括一种存储有指令的计算机可读介质,其中所述指令在由处理电路执行时使得所述处理电路执行如示例12-21中任一项所述的方法。
示例25包括一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的装置,包括用于执行如示例12-21中任一项所述的方法的操作的部件。
尽管为了描述的目的在本文中说明和描述了某些实施例,但是在不脱离本公开的范围的情况下,为了实现相同目的而规划的各种替代和/或等同实施例或实现方式可以替代所示出和所描述的实施例。本申请旨在涵盖本文所讨论的实施例的任何改编或变化。因此,易于理解的是,本文描述的实施例仅由所附示例及其等同范围限制。

Claims (25)

1.一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的装置,包括:
接口电路;和
处理电路,该处理电路与所述接口电路耦合并被配置用于:
跟踪所述客户端设备的视口随时间的变化,以生成视口序列;
基于经由所述接口电路在所述客户端设备处接收的高质量内容序列,计算在所述客户端设备上呈现的每一帧的高质量内容的覆盖率;并且
基于所述视口序列和所述每一帧的高质量内容的覆盖率,得到针对所述视口序列中的每个视口的高质量时间差HQTG,其中,每个视口的HQTG是针对所述视口的高质量内容的覆盖率从预定百分比开始降低的时间与针对所述视口的高质量内容的覆盖率重新恢复到所述预定百分比的时间之间的时间差。
2.如权利要求1所述的装置,其中所述视口序列包括每个视口的[时间戳,位姿]向量,并且所述每一帧的高质量内容的覆盖率和与所述帧相关联的时间戳和当前视口一起被记录。
3.如权利要求2所述的装置,其中所述视口序列和所述高质量内容序列基于相同的时间戳序列被记录。
4.如权利要求1所述的装置,其中每一帧包括低质量内容和所述高质量内容,并且每一帧的所述高质量内容用与所述帧的低质量内容的色调不同的色调来呈现。
5.如权利要求1所述的装置,其中所述预定百分比是100%。
6.如权利要求1所述的装置,其中当所述客户端设备中的源代码可访问时,通过修改源代码,所述装置被实现在所述客户端设备中。
7.如权利要求6所述的装置,其中所述高质量内容序列经由所述接口电路接收自所述服务器。
8.如权利要求1所述的装置,其中当所述客户端设备中的源代码不可访问时,所述装置经由所述接口电路与机械臂和摄像头耦合,所述机械臂用于握持所述客户端设备并再现所述客户端设备的视口随时间的变化,并且所述摄像头被配置为捕获在所述客户端设备的屏幕上呈现的每一帧。
9.如权利要求8所述的装置,其中所述处理电路被配置用于跟踪由所述机械臂再现的所述客户端设备的视口随时间的变化。
10.如权利要求8所述的装置,其中所述高质量内容序列被呈现在所述客户端设备的屏幕上,并由所述摄像头捕获以经由所述接口电路传输到所述处理电路。
11.如权利要求8所述的装置,其中在所述客户端设备上呈现的每一帧还经由高清晰度多媒体接口HDMI投影到大屏幕显示器上,并且被投影的帧由所述摄像头捕获以经由所述接口电路传输到所述处理电路。
12.一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的方法,包括:
跟踪所述客户端设备的视口随时间的变化,以生成视口序列;
基于在所述客户端设备处接收的高质量内容序列,计算在所述客户端设备上呈现的每一帧的高质量内容的覆盖率;并且
基于所述视口序列和所述每一帧的高质量内容的覆盖率,得到针对所述视口序列中的每个视口的高质量时间差HQTG,其中,每个视口的HQTG是针对所述视口的高质量内容的覆盖率从预定百分比开始降低的时间与针对所述视口的高质量内容的覆盖率重新恢复到所述预定百分比的时间之间的时间差。
13.如权利要求12所述的方法,其中所述视口序列包括每个视口的[时间戳,位姿]向量,并且所述每一帧的高质量内容的覆盖率和与所述帧相关联的时间戳和当前视口一起被记录。
14.如权利要求13所述的方法,其中所述视口序列和所述高质量内容序列基于相同的时间戳序列被记录。
15.如权利要求12所述的方法,其中每一帧包括低质量内容和所述高质量内容,并且每一帧的所述高质量内容用与所述帧的低质量内容的色调不同的色调来呈现。
16.如权利要求12所述的方法,其中所述预定百分比是100%。
17.如权利要求12所述的方法,其中当所述客户端设备中的源代码可访问时,通过修改源代码,所述方法由所述客户端设备执行。
18.如权利要求17所述的方法,其中所述高质量内容序列接收自所述服务器。
19.如权利要求12所述的方法,其中当所述客户端设备中的源代码不可访问时,所述方法还包括:
由机械臂握持所述客户端设备以再现所述客户端设备的视口随时间的变化,并且
由摄像头捕获在所述客户端设备的屏幕上呈现的每一帧。
20.如权利要求19所述的方法,其中所述高质量内容序列被呈现在所述客户端设备的屏幕上并由所述摄像头捕获。
21.如权利要求19所述的方法,其中在所述客户端设备上呈现的每一帧还经由高清晰度多媒体接口HDMI投影到大屏幕显示器上,并且被投影的帧由所述摄像头捕获。
22.一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的系统,包括如权利要求1至11中任一项所述的装置。
23.一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的系统,包括如权利要求1至11中任一项所述的装置,以及经由所述接口电路与所述装置耦合的机械臂和摄像头,其中所述机械臂用于握持所述客户端设备并再现所述客户端设备的视口随时间的变化,并且所述摄像头被配置用于捕获并记录在所述客户端设备的屏幕上呈现的每一帧。
24.一种存储有指令的计算机可读介质,其中所述指令在由处理电路执行时使得所述处理电路执行如权利要求12-21中任一项所述的方法。
25.一种用于测量客户端设备与服务器之间的视口相关流传输中的运动影响的装置,包括用于执行如权利要求12-21中任一项所述的方法的操作的部件。
CN202111308877.3A 2020-11-06 2021-11-05 用于测量视口相关流传输中的运动影响的装置和方法 Pending CN114449275A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US202063110919P 2020-11-06 2020-11-06
US63/110,919 2020-11-06

Publications (1)

Publication Number Publication Date
CN114449275A true CN114449275A (zh) 2022-05-06

Family

ID=81363765

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111308877.3A Pending CN114449275A (zh) 2020-11-06 2021-11-05 用于测量视口相关流传输中的运动影响的装置和方法

Country Status (1)

Country Link
CN (1) CN114449275A (zh)

Similar Documents

Publication Publication Date Title
JP7333802B2 (ja) 360度適応ストリーミングのエクスペリエンスを改善するためのメトリックおよびメッセージ
US11711729B2 (en) User plane relocation
CN110945873B (zh) 下一代网络上的360度视频递送
JP2024063173A (ja) サブピクチャ適応解像度変更のための方法および装置
CN112313712A (zh) 采用用于虚拟现实的预测过满填充的系统和方法
JP2022516433A (ja) 対称的な動きベクトル差分符号化
US20220014973A1 (en) Quality of service adaptation for pc5 reference point communication
US20220377344A1 (en) Systems and methods for versatile video coding
CN113273195A (zh) 图块组划分
US20230029998A1 (en) Methods, apparatus, and systems for resource allocation for multimedia broadcast multicast service (mbms) in wireless systems
TW202116071A (zh) 在串流服務中立體內容成分次位元串流動態適應
TW202143732A (zh) 合併模式、適應性運動向量精密度及轉換跨越語法
JP2022516091A (ja) 履歴ベースの動きベクトル予測
CN114449275A (zh) 用于测量视口相关流传输中的运动影响的装置和方法
US20240155417A1 (en) Integrated sensing coordination with a sensing operation management function
TW202406346A (zh) 具有翻轉的幀內模板匹配
WO2023020982A1 (en) Systems and methods for processing video content based on viewing conditions
WO2023118259A1 (en) Video block partitioning based on depth or motion information
WO2023118289A1 (en) Transform coding based on depth or motion information
TW202404365A (zh) 利用次取樣之模板匹配預測
WO2023057500A1 (en) Depth motion based multi-type tree splitting
WO2023057488A1 (en) Motion vector coding with input motion vector data

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination