CN105794187A - 预测通话品质 - Google Patents

预测通话品质 Download PDF

Info

Publication number
CN105794187A
CN105794187A CN201480062176.8A CN201480062176A CN105794187A CN 105794187 A CN105794187 A CN 105794187A CN 201480062176 A CN201480062176 A CN 201480062176A CN 105794187 A CN105794187 A CN 105794187A
Authority
CN
China
Prior art keywords
call
user
model
quality
technical parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201480062176.8A
Other languages
English (en)
Other versions
CN105794187B (zh
Inventor
M·尼尔松
A·萨巴斯
R·瓦芬
M·瓦尔加马
A·杜米特拉斯
T·塔梅
A·维斯基
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Technology Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Technology Licensing LLC filed Critical Microsoft Technology Licensing LLC
Priority claimed from PCT/US2014/065108 external-priority patent/WO2015073470A1/en
Publication of CN105794187A publication Critical patent/CN105794187A/zh
Application granted granted Critical
Publication of CN105794187B publication Critical patent/CN105794187B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/04Inference or reasoning models
    • G06N5/048Fuzzy inferencing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/147Network analysis or design for predicting network behaviour
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5003Managing SLA; Interaction between SLA and QoS
    • H04L41/5019Ensuring fulfilment of SLA
    • H04L41/5025Ensuring fulfilment of SLA by proactively reacting to service quality change, e.g. by reconfiguration after service quality degradation or upgrade
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5061Network service management, e.g. ensuring proper service fulfilment according to agreements characterised by the interaction between service providers and their network customers, e.g. customer relationship management
    • H04L41/5067Customer-centric QoS measurements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1069Session establishment or de-establishment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/70Media network packetisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/22Arrangements for supervision, monitoring or testing
    • H04M3/2227Quality of service monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/508Network service management, e.g. ensuring proper service fulfilment according to agreements based on type of value added network service under agreement
    • H04L41/509Network service management, e.g. ensuring proper service fulfilment according to agreements based on type of value added network service under agreement wherein the managed service relates to media content delivery, e.g. audio, video or TV

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Fuzzy Systems (AREA)
  • Automation & Control Theory (AREA)
  • Telephonic Communication Services (AREA)

Abstract

本公开涉及用于运行在用户终端上以经由网络进行通话的通信客户端应用。客户端被配置为访问模型,所述模型基于每个通话的技术参数集合对通话的用户体验品质进行建模。该模型本身基于指示由多个用户体验的多个过去通话的主观品质的用户反馈,针对从每一个过去通话采集到的技术参数进行建模。给定其技术参数,模型生成用于预测针对通话的用户体验品质的预测的通话品质得分。基于该过程,通话的一个或多个技术参数能够被适配以试图提高用户体验到的品质。

Description

预测通话品质
背景技术
可能要求诸如在因特网上实现的VoIP系统的通信系统向全世界的人服务数十亿通话分钟数。当今,用户期望高品质的通话体验。满足该高的期望取决于通信系统提供商定义、分析、测量、改善和监控通话品质的能力。这涉及到理解技术状况(由技术参数所测量的)对用户主观通话体验的影响和频率的能力;例如,对在诸如传输品质、服务品质(QoS)、媒体品质(QoM)和体验品质(QoE)等类别中的网络和媒体特性的理解。当前存在多种用于客观地评估媒体品质的方法。
最简单的方法使用基本工程度量,诸如常用于音频的信噪比(SNR)以及用于视频的峰值信噪比(PSNR)。这些简单的度量还能够经过修改以便更多的考虑感觉品质。例如,通过适配视频的空间-时间复杂度来细化PSNR已经被提出,使得与人类感觉更相关。PSNR的替选是结构相似标示(SSIM),其与主观品质具有更高的相关。近期在视频编码方面的工作已经瞄准了使用SSIM作为编码失真度量。
用于音频和视频品质评估的更先进的方法模仿了整体(以及非常复杂的)人类听觉或视觉系统,并且试图预测通过(例如)平均意见得分(MOS)测量的平均用户感觉品质。当今最先进的模型的示例是ITU-TP.863(POLQA)中的语言品质工具和ITU-TJ.247和J.341中的视频品质工具。
客观测试方法能够基于提供给模型的输入而划分成三组:全参考模型,减量参考模型和无参考模型。该分类考虑到模型是否使用原始音频或视频信号作为分析的参考。
在全参考模型中(诸如上述的度量PSNR,SSIM,PQLQA),原始音频或视频信号与处理后的(或所谓的降级的)音频或视频信号进行比较。基于比较,模型预测用户感觉品质。减参考模型仅使用原始信号属性的部分用于品质评估。在该类模型中的示例包括设计用于MPEG-2品质评估的标准化视频品质度量(VQM)。
无参考模型不使用原始音频或视频信号来评估品质。相反,这些模型对原始信号的属性做出假设。可能最公知的无参考模型是设计用于语言品质评估的E模型(ITU-TG.107)。近期出现E模型的扩展(ITU-TG.1070),其包括视频品质(编码、帧率、分组丢失以及显示分辨率)以及音频和视频品质(延时和同步)组合到总品质得分中两者。G.1070中的音频部分是G.107模型的简化版本。这两个模型都设计用于辅助电信运营商进行他们的网络基础结构设计从而确保特定水平的品质。G.107E模型已经从窄带使用和宽带使用朝向超宽带使用扩展,以支持诸如Silk的现代语言编译码器。G.1070模型的进一步的细化还考虑到视频内容,例如空间-时间复杂度。
发明内容
这些现有的模型先前仅用作离线分析工具以为开发者和运营者提供信息,例如,在发布给公众之前在设计阶段中分析编译码器的性能。另一方面,在本公开中,提供了一种模型,该模型从真实通话得到用户反馈得分,将这些与通话的客观技术参数关联来建模,然后将结果动态地输出返回系统,以适于进一步的通话。结果的这种使用被认为是动态的,因为在系统已经部署且并且处于实况的真实操作之后其“在现场”自动地进行。模型接收当前运行于用户终端上的客户端所进行的通话的技术参数,并且作为响应发布用于自动适配通话的信息。
根据本文公开的一个方面,提供了一种通信客户端应用,运行于诸如台式计算机或膝上型计算机、平板设备或智能手机的用户终端上从而经由网络进行一个或多个通话,例如,经由因特网的VoIP通话(其可包含视频)。通信客户端被配置为访问模型,该模型基于每个通话的一技术参数集合对通话的用户体验品质建模。例如,技术参数可以是诸如回波、噪声、分组往返时间、接收带宽、分辨率或帧率的性质的测量。在实施例中,模型寄主于服务器上(包括跨一个或多个站点的一个或多个服务器),并且通过客户端经由网络来访问。然而,还可能的是用户终端可被在本地提供模型的实例,或者模型可实现在对等分布式网络上。
模型本身基于指示多个用户所体验的多个过去通话的主观品质的用户反馈,而针对从每个过去通话采集到的技术参数进行建模。用户反馈可以呈现为对用户所体验到的通话的主观品质进行评价的用户反馈得分的形式。因此,模型能够基于客观技术参数与主观用户反馈得分之间的关联来定义预测用户体验品质的客观度量。用户反馈得分可以例如以五种得分进行评价,例如,用户给通话评一至五个星。预测的得分可试图在该同一标度上预测通话品质,例如,包括一与五之间的离散或连续值的平均意见得分(MOS),或者可选地预测得分可以不同的形式输出,例如,将通话分类为对应于“良好”通话和“差”通话的两个类别。一般地,可以使用任何标度用于用户反馈。
当通话实现时,模型通过从接收侧和/或发送侧接收测量来获得通话的技术参数(和/或如果通话经由服务器寄主,则其可以自身执行一些或全部的测量)。作为响应,这使得模型基于在所讨论的通话的技术参数上的应用来生成预测当前通话的用户体验品质的预测通话品质得分。基于该预测通话品质得分,模型还判定通话的改变是否可以提高预测的用户体验品质,即,通过改变通话的一个或多个技术参数。在通话的至少一次结束时,模型将任何判定的改变的指示返回客户端应用,客户端应用使用该指示来相应地改变通话的一个或多个技术参数。可选地,可能的是模型本身返回预测得分,客户端可使用该预测得分来通过调节一个或多个技术参数进行实验(可能再次返回参考模型以查看变化如何影响预测品质)。通过任一方式,因此基于模型生成预测品质得分来改变当前通话。
在实施例中,该模型可以基于技术参数以及模型本身的一个或多个模型参数,并且模型可基于训练算法对模型参数的训练。
此外,在实施例中,不仅可以动态地改变通话,而且通话可用于获得进一步的用户反馈从而动态地改变模型本身。也即,模型可以实况的方式自动改变,因为在现实系统操作期间或者“在现场”(与仅基于一组在先训练或测试数据预配置不同)采集关于通话的反馈。
因此,根据本文公开的进一步的方面,可以提供一种服务器,包括模型和网络接口,所述网络接口布置成从多个用户接收对多个进一步通话的主观品质进行评价的进一步用户反馈得分,以及获得进一步通话的技术参数。在该方面,模型被配置为动态地合并用户反馈得分和进一步通话的技术参数以及因此随着接收到进一步的用户反馈得分而动态地改变模型。
在实施例中,通信客户端可配置为接收来自用户终端的用户的用于改变后通话的用户反馈得分,以及将该用户反馈得分提交给模型,该用户反馈得分连同相应的通话的技术参数一起并入模型中从而改变模型。当通信客户端随后进行经由网络的第二通话时,模型基于应用于第二通话的技术参数的改变后模型来生成预测第二通话的用户体验品质的预测通话品质得分。因此,第二通话能够基于改变后模型的预测而改变,方式与基于模型的在先版本的预测来改变第一通话是相同的。
在实施例中,该过程可以在多个用户之间进行的许多通话上按这种方式继续:即,改变通话,接收关于改变后通话的用户反馈以改变模型,然后基于改变后模型来改变进一步的通话,接收关于进一步通话的用户反馈以进一步改变模型,然后使用模型的这一版本来改变又进一步的通话,等等;所有这些都是在实况系统操作期间以进行中的方式动态地在现场自动执行。
提供该概述以便以在下面的发明详述中进一步描述的简化形式来介绍概念的选择。该概述不意在确定权利要求主题的关键特征或重要特征,也不意在用于限制权利要求主题的范围。权利要求主题也不限于解决任意或全部特定缺点或者提供本文提到的任意特定优点的实现方式。
附图说明
为辅助理解本公开内容以及显示出如何将实施例投入实用,通过示例的方式参考附图,在附图中:
图1是通信系统的示意性框图;
图2是用户体验品质的示意性表示;
图3是用于给出用户反馈的用户接口的示意性表示;
图4是特征空间中的聚类(clustering)技术参数的示意性表示;以及
图5是在特征空间中的技术参数聚类以及基于该聚类根据模型来预测通话品质的示意性表示。
具体实施方式
图1示出了根据本文公开的实施例的通信系统的示例。通信系统包括多个用户终端102,用户终端102连接到或者能够操作以便连接到网络100,在实施例中,网络是诸如因特网的基于分组的网络。每个用户终端102由相应的用户101来使用。每个用户终端102安装有通信客户端应用103的相应实例,用于经由网络与其它用户终端进行通话,例如VoIP客户端。通话是两个或更多个用户终端之间的实况的、实时的通信,包括一个或多个媒体类型的媒体内容,包括至少一个音频流、视频流或两者。还可能的是通话包括一种或多种其它的媒体,诸如屏幕共享流。
通信系统进一步包括连接到网络100的服务器104。服务器104可由例如VoIP提供商的所讨论的通信系统的提供商或者通过与一个或多个这样的通信提供商相结合操作的第三方提供商来拥有和/或操作。注意,本文所使用的术语服务器不一定限于单个服务器单元或单个物理站点。服务器104包括网络接口105,网络接口布置成用于经由网络100与用户终端102的客户端应用103通信。服务器104还布置成运行通话品质预测模型106。每个客户端103能够操作以经由网络100和接口105来访问模型106。可选地或者另外地,模型106的实例可以本地地提供在一个或多个用户终端102上,例如,并入客户端103中或者提供作为诸如插件的附随应用。
模型106被配置为基于能够密切地接近主观通话品质的客观通话品质度量来自动化通话品质监测;以及利用技术参数和客观品质度量来预测客观通话品质。模型提供了在线(在通话期间)通话品质预测器,其运行于服务器104上或客户端103中,从而识别通话期间的可能的技术权衡和/或其它可起诉项(例如,在视频帧率和分辨率之间权衡或者进行麦克风选择)。
特征选择
通话品质的分析可以从体验品质(QoE)方面来考虑。欧洲多媒体系统和服务体验品质网络(Qualinet)给出的一个关于QoE提议的定义如下:“QoE是应用或服务的用户的愉快或烦扰程度。其源自于他或她关于应用或服务的实用和/或享受的期望就用户的个人和当前状态而言的满足”。对于图1的通信系统,该定义意味着,QoE是用户102在使用客户端103来进行通话时的总的体验。
图2给出了通话品质与通话可靠性组件之间的关系的高级表示。在实施例中,对QoE建模可以涉及到媒体流(QoM)的QoE和传输品质的建模。这意味着,即使通话品质和通话可靠性通常是单独地被研究,事实上通话品质取决于通话可靠性。
各种可观察网络参数贡献于输送到媒体流的服务的品质(QoS)。转而,QoS、情景和媒体栈确定了媒体流(QoM)的QoE。例如,一组可观测网络参数可包括单向网络延时、分组丢失、可用带宽和/或对话延时。情景可包括从中捕获通话媒体的环境的视觉和/或听觉参数,和/或捕获通话媒体的设备的选择(诸如网络照相机、麦克风等)。QoS密切地关联于特定的使用情况或应用,在该公开内容中该特定使用情况或应用包括实施音频和/或视频通信。
各种可观察网络参数还影响传输品质,这些是反映通话可靠性的参数。虽然与媒体处理无关,如上所述,传输品质对主观通话品质具有影响。例如,诸如通话建立时间和掉话次数的传输属性会对用户的体验品质有影响。
QoM和传输品质组合而给出总的QoE。QoM是媒体的QoE并且受各种媒体参数影响。例如,影响音频QoM的参数可以包括与环境或捕获有关的参数,诸如语音水平、噪声、回声、房间反响、和/或麦克风频率响应。影响视频QoM的参数还可以包括与环境(场景)和捕获有关的参数,诸如:噪声(尤其当在弱光中捕获时)、亮度、对比度、颜色、和/或测量捕获的视频内容的性质(例如,视频中的面部相对于其它对象的纹理、运动和/或识别)的参数。影响音频QoM的参数可以包括与编码和译码有关的参数,诸如:音频频率范围(尤其在频率范围相比于期望内容例如语音相对受限的情况下),处理失真和静噪、编码失真、隐藏失真(例如,时间标度语音修正和/或语音外推),延时、和/或测量与视频同步有关的问题的一个或多个参数。影响视频QoM的参数还可以包括与编码和译码有关的参数,诸如:块效应、瞬时振荡、假边沿信号的测量、急动、帧率、冻结(丢失)、延时、和/或测量与音频同步有关的问题的一个或多个参数。影响音频QoM的参数可包括与呈现有关的参数,诸如扬声器频率响应、声音大和/或噪声。影响视频QoM的参数也可以包括与呈现有关的参数,诸如显示器尺寸、分辨率和观看距离。
为对品质进行建模,特定的一组客观技术参数被选择以代表每个通话。本公开的作者实际上已经识别出多达1800个可能的参数,这些参数能够用于描述通话,但是实现实际的模型,这些将缩减至可管理集合,例如,缩减至大约3个参数与150个参数之间的集合。在实施例中,该集合不多于40个参数。关于要选择哪些参数没有正确答案,但是这些参数可被选择以反映通话的各种各样的方面,同时还提供复杂度以及该组对于通话的代表性之间的平衡。
在实施例中,描述每个通话的技术参数集合可以包括:与从中捕获通话的环境有关的一个或多个参数,与通话的通话媒体的捕获有关的一个或多个参数,与通话的媒体内容有关的一个或多个参数,与通话的编码和/或译码有关的一个或多个参数,与经由网络的通话的服务品质有关的一个或多个参数,与通话的通话媒体的呈现有关的一个或多个参数,和/或与通话的发送和/或接收终端的处理资源有关的一个或多个参数。该技术参数集合可包括与通话的视频有关的一个或多个参数,和/或与通话的音频有关的一个或多个参数。
在实施例中,该技术参数集合可包括来自如下一个或多个类别的参数:网络特征(例如,网络延时、带宽、网络接口类型);音频特征(例如,回声、噪声、隐藏使用);以及视频特征(例如,分辨率、帧率)。其它可能的参数可包括客户端的版本、编译码器的指示、和/或传输流类型(其可以具有可能的值,诸如:UDP、UDP中继、TCP和TCP中继)。
在实施例中,该技术参数集合可基于假设QoE≈QoM来进行选择。通过做出该假设,模型不显式地考虑传输品质对QoE的影响。在实施例中,模型可以仅通过使用对应于成功建立的通话和无掉话通话的数据来消除对传输品质的影响(至少在一定程度上)。然而,不排除的是,在其它实施例中,该集合可包括与传输品质(可靠性)有关的一个或多个参数。
一些示例的参数阐述如下。适合的集合可由这些参数中的一些或全部、和/或其它参数的任意组合而构成。
-呈现帧率(接收侧)
-编码流的帧率(另一侧)
-帧冻结时间-即,视频帧之间的延时(接收侧)
-发送、接收或总的带宽
-带宽管理器视频超调(另一侧)
-带宽管理器音频稳定性(另一侧)
-扬声器变化率-例如,扬声器变化帧百分比(两侧)
-回声-例如回声延时或回声近端比(两侧)
-接收分组丢失(接收侧)
-往返时间
-编码流、播出或显示的分辨率
-音频抖动缓冲延时(接收侧)
-音频抖动缓冲外推比(接收侧)
-发送帧率(另一侧)
-回声近端比(两侧)
-发送比特率(两侧)
-双端会话帧百分比
-过载帧百分比
-传输协议
按类别带示例单位列出的一些更具体的示例为:
注意,一般地,技术参数可以是在通话整个过程中以任何适合的粒度级被采样的值,和/或可以是在某些或全部通话上被聚集的聚集参数(例如,在通话结束时被确定)。上述参数中的任一个可以例如从任何适合的点估计来评估,诸如瞬时值、最大值、最小值、均值、中值、模式、方差和/或标准差。
意见得分
除了定义一技术参数集合之外,提供商收集多个过去通话的反馈。客户端应用103别配置成为其相应的用户101提供在通话期间或者恰好在通话之后的某点的用户反馈得分的提示,并且响应于用户输入反馈到客户端103中,其将该反馈提交给模型106。
图3示出了在客户端103的屏幕或窗口302的形式中用于用户反馈的图形提示的示例。在该示例中,用户被提示对来自一星或五星的通话进行评价。因此,如模型106中表示的反馈得分可以是来自集合{1,2,3,4,5}的整数值。然而,其它主观评分度量和标度也是可能的。
模型106从多个过去通话采集用户反馈得分并且将这些存储在数据库中。模型还采集对于每个相应的通话所测量的技术参数,并且将这些与相应的用户反馈得分相关联地存储在数据库中。模型106的作用则是随后提供客观技术参数与主观用户反馈得分之间的关联,从而一旦足够大量的过去通话已被并入模型,则对于后续通话,能够基于其客观的技术参数以量化方式(具有一定合理程度的精确度)预测主观的用户体验品质。如果期望评估精确度,则这可通过任何适合的统计度量来计算,例如(但不限于)均方根误差、平均绝对误差和/或判定系数(用于预测连续变量)或者正确分类率、接收方操作特性(ROC)曲线和/或混淆矩阵(用于预测离散得分)。
预测的得分可以在与用户反馈得分相同的标度上,例如,从1到5的得分(可能有为非整数预测的可能性,如MOS的情况下,例如3.9,即使用户反馈来自一组整数)。或者,预测得分可以在不同的标度上,例如,百分比或者分类成意在解释为“良好”和“差”或者“可接受品质”和“不可接受品质”的仅两个可能的预测得分中的一个。
划分特征空间
参考图4,被测量且存储用于每个通话的参数集合定义了多维特征空间。给定的通话可通过特征空间中的特征向量来描述,即,包括用于该通话的技术参数集合的值的向量。模型106可涉及到特征空间的划分以实现在复杂度方面更加可管控的数据处理。这可以称为聚类。因为采样的参数被聚类成多维聚类或单元402。换言之,在特征空间多维中的每一维中量化特征空间。通过示例说明的方式,图4仅示出了由一组三个技术参数(帧率、分辨率和带宽)限定的三维特征空间,但是将理解的是相同的原理可应用于任意数量的维度的任意参数集合。还注意的是,单元不一定必须是盒状的(也不一定是任意数量维度形状的多维盒)——这仅是一个例子。
为了选择聚类数量而使得其提供(a)相关技术条件的充分表现和(b)适当的平均化、分析简易性和低复杂度之间的良好平衡,分区可被创建而使得单元402中的通话从技术角度看尽可能彼此相似,而单元402本身尽可能彼此不同。换言之,可能期望在最大化单元间方差的同时最小化单元内方差。还可能期望的是能够选择聚类402的数量以及使用简单的度量来评估所得到的聚类的品质。在发现大尺寸和维度的数据集的绝对最优划分可能不切实际时,存在多种用于这种聚类生成的具有良好启发性的聚类算法。聚类算法中的一些示例列于下面——通过笛卡尔积和向量量化(VQ)进行的聚类。
通过笛卡尔积聚类:一种划分特征空间的方法是将单个的技术特征范围简单地划分成间隔且然后通过组合这些间隔来创建聚类。例如,如果帧率范围被划分成三个间隔(例如,0-10,11-20和21-30fps)并且带宽范围被划分成两个间隔(例如,0-200和200+kbps),则通过将两组间隔组合获得了六个子集(聚类)。
该方法类似于典型的现实划分情景,其中用户偏好要针对一些类型的通话进行评估(例如,从用户的视点看,通过评估帧率和分辨率的哪种组合对于给定带宽是最优的)。由于子集的数量随着特征数量而成指数增长(每个有40个特征和10个间隔,将有1040个子集),可能不得不选择较少量的具有代表性的特征和/或间隔。例如,可选择六个特征(六个技术参数的集合),将每个划分成八个间隔。甚至在该情况下,将它们全部组合可能不切实际,因为其创建了86=260000个不同的聚类。因此,可使用特征(技术参数)及其间隔的三或四种元素组合。这样,聚类的总数仍是合理的,同时覆盖了大量的不同降级。
通过向量量化(VQ)的聚类:一种划分输入特征空间的方法利用VQ算法,其中多个算法通过将训练算法应用于训练集来获得最优划分区域和质心。两种常用的聚类算法是k均值和Linde-Buzo-Gray(LBG)。
k均值算法(也称为Lloyd算法)常用于数据聚类。其是迭代算法,其中每个迭代由首先对于给定k个质心来优化k个划分区域以及随后在给定k个划分区域的情况下优化k个质心而构成。迭代(称为Lloyd)继续,直到满足收敛标准。算法的执行取决于初始k个质心的选择。一种常用的变型称为k均值++。在该算法中,初始质心被选择而使得它们极好地散布在输入空间中。
LBG算法,是数据压缩中所公知的,也基于Lloyd迭代。在该算法中,初始质心的选择不同。算法以一个质心为起点,然后将其分裂成两个。然后将Lloyd迭代应用以优化两个质心。然后将两个质心分裂成四个且优化四个质心。该算法以此方式继续,直到k个质心被获得和优化。
模型
模型106本身被选择以用于对通话的技术参数(特征向量)与预测的通话品质得分之间的关系进行建模。初始地,基于用作训练数据的多个过去通话来训练模型106,然后部署用于实现关于进一步通话的实况预测。在实施例中,模型基于如根据如上文论述的技术而限定和/或量化的特征空间来操作。
让xi∈X表示限定了可能的技术配置的空间中的技术状态的特征向量。假设特征向量真实地表示用户正在体验的技术条件,则每个用户将客观技术QoM映射到主观体验(意见)得分yi,例如xi→yi∈[1,2,3,4,5]。平均意见得分(MOS)可定义同一QoM的客观度量
预测可基于下面的近似来实现。首先,显现出非常相似的技术参数的单个通话的测量(客观)用户得分将(很可能)非常相似。其次,具有非常相似技术参数的一组通话的预测(客观)平均意见得分被视为对相应的一组通话的表现,并且等于期望得分第三,当在足够大量的通话上计算时,预测(客观)平均意见得分将针对大量用户(即使不是针对任一个单个的用户)给出合理的平均预测。
可能的技术配置的空间被划分成具有类似客观技术条件的聚类,这继而得到类似的客观QoM。例如,聚类n的质心可以由cn来表示以及相应的Voronoi区域由Vn来表示,并且在给定类似客观QoM的情况下预测的MOS可表达为品质预测器的性能可通过将每个聚类中的平均预测得分(MPS)与每个聚类中的实际的平均意见得分(MOS)(被计算作为用户单独得分的均值)进行比较来测量。期望MPS紧密地匹配MOS,如图5所示。
模型106的输入是从可用数据集(即,每个通话的一技术参数集合的测量)提取的特征向量。输出是预测的意见得分,描述了具有给定技术条件的通话的预测品质。在实施例中,这可以例如为1与5之间的连续值(平均预测得分MPS)或者分类为“良好”或“差”通话。输入与输出之间的关系由映射函数限定,其取决于一组模型参数。函数初始地基于一组训练数据来被训练,即使用技术参数和多个过去通话的用户反馈得分以提供训练输入。在训练中,目标是找到最小化训练数据的预测误差的模型参数。一旦训练到适合的程度,模型106则部署到现场用于关于当前通话的实况预测。在部署中,模型106可被托管于客户端103能够经由网络100访问的服务器104上,或者可选地模型的实例可提供于客户端103本身的新的版本中。
在实施例中,映射函数可以例如基于以下技术中的一种:随机森林(RF)、线性回归(LR)或向量量化(VQ)。
随机森林:这是用于分类和回归的集成学习方法,其基于构建多个决策树,以及取它们的平均(或在分类情况下为模式)作为最终预测。因其学习非线性关系以及对不同标度下的特征稳健的能力,随机森林是最有力的学习方法之一。
线性回归:这是建模方法,其中因变量yi(此处为预测意见得分,例如,预测平均意见得分)被建模为预测器变量x1i,...,xni的线性组合(此处,通话的技术特征):yi=b0+b1x1i+...+bnxni。向量bi包括待学习的未知模型系数。线性回归能够扩展以利用单个预测器变量的任意非线性函数对非线性关系建模。例如,在多项式回归中,因变量与预测器变量之间的关系被建模为n阶多项式。该模型从未知(待学习系数)方面考虑仍是线性的并且能够有效地被计算。
向量量化:该方法常用于数据压缩。其将输入空间划分成区域,并且将代表点与每个区域相关联。代表点通常称为质心,因为它们被选为根据预定义度量最佳近似它们相应的区域中的所有点。每个点是由包含N≥1个值的向量来描述的,其中N称为向量维度。
要将VQ应用于客观平均意见得分预测,首先要训练向量量化器。向量量化器包括分区区域和质心。利用技术参数的N维特征向量来训练该向量量化器,其中N维特征向量中的每一个对应于训练集合中的一个通话。接着,每个区域(聚类)的MOS被计算为从训练集合分配给通话的主观用户得分的均值,主观用户得分的均值被量化到聚类的相应质心。结果,每个聚类由单个MOS值表示。通话的预测(客观)得分是表示相应的聚类的MOS值。注意,通过该方法,被量化到同一质心的全部通话具有相同的预测(客观)得分值。
实况预测&适配
一旦模型106被部署,则运行在系统的用户终端102上的通信客户端应用103能够访问模型106,调用模型106以确定当前由客户端103经由网络100进行的当前通话的预测通话品质(即,在通话仍进行的同时做出预测)。如所述,在实施例中,模型106被托管在服务器104上并且经由网络100来访问。
当其接收到来自用户终端102之一的客户端103的访问请求时,模型106获得设定的技术参数(即,特征向量)的相应的测量。这可包括:接收来自做出请求的客户端103即接收端的测量;或者接收来自通话的另一端的客户端103即发送端的测量;或者可以包括如果其是通话的任意方面的中间者,则取服务器104处的一个或多个测量;或者这些可能的任意组合。注意,在本文通话可描述为具有发送端和接收端。当然,通话媒体可以沿两个方向行进,但是为了当前论述的目的,通话的接收端是指要对其预测用户体验品质的客户端103或者用户101的终端102,并且发送端是指要发送对其预测体验的通话媒体的客户端103或终端102。
然后,模型106将对当前通话的技术参数(特征向量)的测量输入到模型的映射函数,该映射函数在部署之前已经通过训练数据被训练到工作的程度。模型106因此基于当前通话的输入参数(特征向量)以及应用于那些输入参数的模型的训练函数来输出当前通话的预测意见得分,从而生成输出。预测得分可以仅返回到客户端应用103以提供信息给用户101。然而,根据本公开,预测得分可替选地或者另外地用于在当前通话仍进行的同时来适配当前通话。
在实施例中,这可以通过确定托管在服务器104上的模型106处的适配,然后将适配的指示返回给发送和/或接收用户终端102上的客户端应用103来执行,其中相应的客户端103对指示作出反应以适配通话。适配包括适配通话的技术参数集合中的一个或多个技术参数的值。例如,对于能够经由网络100实现的给定比特率可以被确定的是,通过关于帧分辨率权衡帧率或者反之亦然,能够在通话视频中实现更佳品质的用户体验。如果这样,服务器104将这些属性或者这些属性的目标值分别增加和减少的指示返回到发送客户端103和/或接收客户端103(其可以转而对发送客户端做出请求),使得编码的帧率和分辨率能够在通话仍进行的同时被相应地调节。注意,在发送侧做出改变的情况下,接收侧也必须适配接收流的新参数,例如,如果发送器改变用以编码的帧率和分辨率,则接收器将适配其用以译码的帧率和分辨率。
在替代的实施例中,模型106可以本地地实现在一个或多个用户终端102中的每一个上,例如并入客户端应用103的版本中。类似的原理应用于适配通话,除了在服务器104与客户端103之间不必然需要信令之外。
存在多种可以实现模型106的方式,以确定指示给客户端103的调节或目标值。例如模型106可以检查描述当前通话的单元的特征空间中的预定距离内的相邻单元(聚类)402或单元,以便核验任何一个是否将给出较高的预测得分——实际上其查看通话技术参数的可替换候选值,其中候选值沿多维量化特征框架的一个或多个方向上在当前值的一定范围内延伸。如果其发现将增加预测得分的任何值,则其以信号将相应的调节发送到相关的客户端103(可能受制于最小阈值以避免响应于微小变化的快速切换或发信号)。另一可能将是尝试可选的候选参数值的随机选择(特征空间中的可选单元),以核验任何一个是否将给出更佳得分。另一可选方案将是实现分析或经验确定的算法来确定从特征空间中的任意给定点到更高得分的路径或跳跃。
在实施例中,模型106可被配置为仅试图找到在通话的当前预测得分在阈值以下或分类为“差”的条件下的适配,并且一旦已经找到提升预测品质到可接受水平的适配就可以停止。可选地,对于适配的搜索可以是无条件的和/或应用于整个通话过程和/或无论其当前预测品质如何的持续的过程。
上文已经描述了如何可以基于对客观通话参数与用户体验品质之间的关系建模的模型来动态地适配通话。此外,在模型106以实况方式被托管在服务器104上的情况下,模型106本身无需在初始训练和部署之后保持静态。相反,模型106可以继续基于进行中的来自用户的反馈而“在现场”动态地训练。当用户进行后续通话(在部署后)时,则他或她提供的反馈不仅仅被存储用于运营商或开发者的离线分析,而且连同相应通话的技术参数的相应测量一起自动并入实况模型106中。也即,将新的反馈和参数并入训练数据中,使得训练集合本身变成动态实体。当客户端关于第二后续通话请求品质预测时,其将基于包括来自第一后续通话的反馈的当前适配的模型,等等。该反馈将持续地从跨越全局的许多用户提交,使得模型106的精度随着系统的使用而自动持续增长。
另外,同样用于适配通话,动态更新模型可被访问以用于离线预测或分析。例如,VoIP客户端的开发者可使用最新模型——当前基于来自真实用户的最近进行中的反馈而更新的——从而分析VoIP客户端的计划新版本的性能。在另一可能的应用中,动态更新模型可用于测试系统中的实况监测和/或诊断应用。例如,由通信提供商所运行的监测或诊断应用可持续地监测系统且如果存在预测得分的异常减小则自动发出警报。
还要注意的是,服务器104不一定包括一个服务器单元,在实施例中其可以实现在通过网络连接在一起跨越多个站点的多个服务器单元上。在服务器如本文所述的情况下,可以将“云”理解为该点的实施例。
适应用户偏好&随机评分
先前关于图2所论述的QoE、QoS和QoM不一定总能全部囊括。实际上,可能存在更多的因素——用户期望,情绪和/或其它非通话相关因素(例如,UI和/或品牌)也可以起到部分作用。也即,可能存在贡献于图2中的用户组件101的感觉体验或者至少贡献于由该用户101给出的反馈的用户相关倾向。例如,一些用户关于何谓“良好”通话具有不同的期望,而可能有的用户以与其客观品质无关的方式有意图或者未知地对通话评级。因此,由于用户偏好和随机评分,单个的用户意见得分是有噪声的。因此,虽然上述的过程可能给出在一组用户内平均较高的体验通话品质,但是单单根据技术参数来预测单个用户意见得分可能不总是如任何一个单个用户所期望的那样精确。
用户偏好是指一个或多个因素对感觉或报告的通话品质的影响。这些因素可包括例如用户的地理位置(一些用户比其它用户更宽容,取决于它们的地理趋于和/或文化继承)、规律或不规律使用VoIP产品,以及通话的参与者和内容(与一个家庭的通话典型地被感觉为比与陌生人的通话具有更高的品质,而具有好消息的通话被感觉为比离别具有更高的品质)。随机评分是指用户对特定通话品质得分(典型地最高)的选择,而不考虑通话的基础的技术条件如何,例如,从而丢弃了关于通话的技术条件的附加调查问卷。注意,虽然名字上如此,用户得分选择严格地讲不是随机的,在该情况下,而是非因果关系的(因为在通话的技术品质与最终的用户得分之间没有因果关系)。
为解决这些潜在的用户偏好等的影响,在实施例中模型被配置为进一步根据指示所讨论的用户的一个或多个特点的一个或多个用户相关参数来对用户体验品质建模。在实施例中,一个或多个用户相关参数可包括以下各项中的任意项:
-用户选择的国家或地理区域,检测到用户终端所在的国家或地理区域、用户选择的语言,客户端应用的用户接口的语言,和/或用户终端的用户接口的语言(例如,文化或本地气候可能会影响期望或感觉品质);
-用户的年龄(不同年龄的用户会趋于对客户端产品具有不同的期望或者已经具有不同量的体验);
-客户端应用的品牌,和/或用户终端的品牌(品牌会影响用户对产品的感觉);
-客户端中广告的指示,和/或用户终端上广告的指示(广告会烦扰或干扰用户,导致不同的评价);
-通话的长度(进行较长时间通话的用户会具有不同于仅使用客户端进行短时通话的用户的感觉、期望或倾向);
-用户的联系人列表的长度、用户已参与客户端是其一部分且已经进行了建模的通话的通信系统(例如,所讨论的VoIP系统)的时间长度,参与系统的规律性,和/或用户给出的在先反馈的量(参加或参与到更大程度的用户可能具有不同于更加偶然的用户的期望或倾向);和/或
-用户与通话的一个或多个其它参与者之间的关系(例如,与朋友或亲属的通话可能被感觉不同于与陌生人或工作同事的通话或者与陌生人或工作同事的通话具有不同的期望)。
例如,模型可考虑到提供具体通话品质评价的用户跟踪记录,和/或可以仅包含已经使用了VoIP系统一段时间的用户(不是新用户)。作为另一示例,不同的国家或文化趋于利用不同的平均等级对具有相似技术特点的通话评级,并且UI语言已被发现是用户背景和文化的良好的代表。类似的推理可应用于联系人列表大小——更活跃的用户趋于更好地对通话进行评价并且联系人列表大小是用于测量参与度的相对良好的代表。
诸如语言、联系人列表长度、参与者的年龄或类型的信息可以例如根据客户端设置和/或通信系统内的用户属性文件来确定。
用于适应用户偏好或“随机”评分的实施例可例如通过如下来实现:基于单独的训练数据集合来创建模型内的单独的函数,根据一个或多个用户相关参数来对单独的训练数据集合进行划分,例如,在来自不同文化的用户可以具有不同期望的基础上通过用于不同国家或语言的建模关系的不同版本,和/或在更多涉及到通信系统的用户趋于与更少涉及的用户的评分不同的基础上通过用于不同联系人列表长度的建模关系的不同版本。也即,特征空间被划分成用于不同用户特点或这些特点的组合的不同子空间。当客户端应用103将其技术参数提交给模型106时,其仅查询模型内的与其自身用户特点有关的功能或子框架,例如,仅应用于相同的国家、地区、语言、年龄范围和/或联系人列表长度等的关系的版本。预测意见得分和通话适配随后基于应用于模型的该部分的提交的技术参数来确定。
可选地,模型可被配置为协同地一起考虑到全部的技术参数和非技术参数,包括模型中的用户相关参数以及技术参数,即,与技术参数一起包含用户相关参数作为多维特征空间的一个或多个额外维度。在训练阶段,用户相关参数被输入到模型中,并且与技术参数的处理无不同。因此,当客户端应用103提交其技术参数给模型106时,其还提交指示客户端应用的用户101的一个或多个特点的一个或多个用户相关参数。预测意见得分和通话适配随后基于应用于模型的技术参数和用户相关参数来确定,其中用户相关参数连同技术参数一起以与技术参数相同的方式处理(除了用户相关参数不能被适配为结果)。
然而,要注意的是,在全部可能的实施例中都考虑到用户偏好或随机评分不是必要的。当在足够大量的通话上计算时,仅根据技术参数预测的(客观)平均意见得分仍将不趋于显现出单个通话评价的用户噪声和偏好,并且能够用于改善一组通话内的平均体验通话品质。
进一步的实施例
将理解的是,上述实施例仅通过示例的方式来描述,并且对于示范性的实施例的各种添加或变型是可能的。
例如,在上文中,用户反馈采用对通话的主观品质进行评价的显式的用户反馈得分的形式,即,通过用户自身显式地提交的得分,诸如一星到五星的标度上的意见得分。然而,可选方案将是用与通话品质相关的一个或多个其它度量的反馈来取代得分的反馈。示例将是通话持续时间——差的品质趋于暗示一般较短的通话,因为然而更佳品质的通话趋于进行的时间较长。例如,用户可能放弃一个非常差品质的通话,并且拒绝在长时间内进行差品质通话,而良好品质通话可能激励用户保持较长时间在线。该度量能够用于提供关于通话品质的隐式反馈。因此,不是直接询问来自用户的意见得分,而是与一个或多个其它用户品质感觉相关的度量能够被使用,使得用户不(必然地)被要求手动输入评价。
进一步的实施例,注意的是不一定是在所有实施例中,基于用户反馈来估计整个模型。在其它实施例中,可能的是模型的部分基于用户反馈建模,而另一部分可能基于其它方法,诸如手动调谐功能或表格、文献和/或现有的客观品质测试或工具。
在进一步的实施例中,模型可另外地考虑到网络和/或接收终端的先验参数,从而设定通话的初始参数。也即,模型可包括基于在通话开始之前关于网络或终端已知或假设的参数对通话品质建模的附加功能,例如一个或多个潜在或理论网络QoS参数,和/或终端的一个或多个潜在或理论CPU资源。接收终端上的客户端能够访问该功能从而获得对一个或多个初始参数的估计,以便使得通话以例如估计初始分辨率和/或帧率而开始。
一般地,本文描述的任意功能能够利用软件、固件、硬件(例如,固定逻辑电路系统)或者这些实现方式的组合来实现。本文所使用的术语“模块”、“功能”、“组件”和“逻辑”通常表示软件、固件、硬件或它们的组合。在软件实现方式的情况下,模块、功能或逻辑表示当在处理器(例如,一个或多个CPU)上执行时实施规定任务的程序代码。程序代码能够存储在一个或多个计算机可读存储器设备中。本文所描述的技术的特征是平台无关的,意指该技术可实现在具有各种处理器的各种商业计算平台之上。
例如,终端和/或服务器可包括使得终端的硬件执行操作的实体(例如,软件),例如处理器功能块,等等。例如,终端和/或服务器可包括计算机可读介质,其可配置为保持使得终端、更具体地终端的操作系统和关联硬件执行操作的指令。因此,指令起到配置操作系统和关联的硬件来执行操作并且以此方式实现操作系统和关联硬件的变换而实施功能的作用。指令可由计算机可读介质经由各种不同的配置而提供给终端和/或服务器。
计算机可读介质的一种这样的配置是信号承载介质并且因此被配置为将指令(例如,作为载波)发送到计算设备,诸如经由网络。计算机可读介质还可配置为计算机可读存储介质并且因此不是信号承载介质。计算机可读存储介质的示例包括随机存取存储器(RAM)、只读存储器(ROM)、光盘、闪速存储器、硬盘存储器以及其它可使用磁、光和其它技术来存储指令和其它数据的其它存储器设备。
虽然以特定于结构特征和/或方法行为的语言描述了主题,但是应当理解在随附的权利要求中限定的主题不一定限于上文描述的具体特征或行为。相反,上述的特定特征和行为被公开作为实现权利要求的示例形式。

Claims (10)

1.一种通信客户端应用,其包含在计算机可读介质上且被配置为当在用户终端上被执行时执行以下操作:
通过网络进行至少第一通话;以及
访问模型,所述模型基于每个通话的技术参数集合来对通话的用户体验品质进行建模,所述模型基于指示由多个用户体验的多个过去通话的主观品质的用户反馈,针对从所述过去通话中的每个通话采集的技术参数来建模;
其中所述模型基于应用于所述第一通话的技术参数的模型来生成用于预测针对所述第一通话的用户体验品质的预测的通话品质得分;以及
所述通信客户端应用被配置为以基于针对所述第一通话生成所述预测的通话品质得分来适配的所述第一通话的所述技术参数中的一个或多个技术参数,来继续所述第一通话。
2.如权利要求1所述的通信客户端应用,其被配置为当在所述用户终端上被执行时执行如下进一步的操作:
从所述用户终端的用户接收针对所述第一通话的用户反馈,以及将针对所述第一通话的所述用户反馈提交给所述模型,在所述模型中将所述用户反馈和所述第一通话的技术参数并入以适配所述模型;以及
通过所述网络进行第二通话;
其中,所述模型基于应用于所述第二通话的技术参数的所适配后的模型来生成用于预测针对所述第二通话的用户体验品质的预测的通话品质得分;以及
所述通信客户端应用被配置为以基于针对所述第二通话生成所述预测的通话品质得分来适配的所述第二通话的所述技术参数中的一个或多个技术参数,来继续所述第二通话。
3.如权利要求1或2所述的通信客户端,其中,所述模型被实现在服务器上,并且所述通信客户端被配置为通过所述网络来访问所述模型。
4.如任一前述权利要求所述的通信客户端,其中,每个通话的所述技术参数集合包括以下各项中的任意项:
与捕获所述通话的环境有关的一个或多个参数,
与所述通话的通话媒体的捕获有关的一个或多个参数,
与所述通话的媒体内容有关的一个或多个参数,
与所述通话的编码和/或解码有关的一个或多个参数,
与通过所述网络的通话的服务品质有关的一个或多个参数,
与所述通话的通话媒体的播出有关的一个或多个参数,和/或
与所述通话的发送和/或接收终端的处理资源有关的一个或多个参数。
5.如任一前述权利要求所述的通信客户端,其中,所述模型进一步根据作为所述用户终端的用户的特点的一个或多个用户有关参数,来对所述用户体验品质进行建模。
6.如权利要求5所述的通信客户端,其中所述一个或多个用户有关参数包括以下各项中的任意项:
所述用户选择的国家或地理区域,
检测到所述用户终端所在的国家或地理区域,
所述用户选择的语言,
所述客户端应用的用户接口的语言,
所述用户终端的用户接口的语言,
所述用户的年龄,
所述客户端应用的品牌,
所述用户终端的品牌,
所述客户端中的广告的指示,
所述用户终端上的广告的指示,
通话的长度,
所述用户的联系人列表的长度,
所述用户已参与在其上实现所述通话的通信系统的时长,
用户已经参与所述通信系统的规律性,
所述用户给出的先前反馈的量,和/或
所述用户和相应的通话的一个或多个其它参与者之间的关系。
7.如任一前述权利要求所述的通信客户端,其中,所述模型所基于的所述用户反馈包括对由所述多个用户体验的所述多个过去通话的所述主观品质进行评价的显式用户反馈得分。
8.一种包括且被安排为执行任一前述权利要求的通信客户端应用的用户终端。
9.一种包括所述模型和权利要求8所述的用户终端的通信系统。
10.一种服务器,包括:
模型,其被配置为基于每个通话的技术参数集合来对通话的用户体验品质进行建模,所述模型基于指示由多个用户体验的多个过去通话的主观品质的用户反馈,针对从所述过去通话中的每个通话采集的技术参数来建模;
网络接口,其被安排为接收指示来自多个用户的多个进一步通话的主观品质的进一步用户反馈,并接收所述进一步通话的所述技术参数;
其中,所述模型被配置为动态地并入所述用户反馈和所述进一步通话的所述技术参数,并因此随着接收到所述进一步用户反馈而动态地适配所述模型。
CN201480062176.8A 2013-11-15 2014-11-12 预测通话品质 Active CN105794187B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
GB1320216.3 2013-11-15
GBGB1320216.3A GB201320216D0 (en) 2013-11-15 2013-11-15 Predicting call quality
US14/199,752 US9558451B2 (en) 2013-11-15 2014-03-06 Adapting parameters of a call in progress with a model that predicts call quality
US14/199,752 2014-03-06
PCT/US2014/065108 WO2015073470A1 (en) 2013-11-15 2014-11-12 Predicting call quality

Publications (2)

Publication Number Publication Date
CN105794187A true CN105794187A (zh) 2016-07-20
CN105794187B CN105794187B (zh) 2019-11-26

Family

ID=49883688

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480062176.8A Active CN105794187B (zh) 2013-11-15 2014-11-12 预测通话品质

Country Status (5)

Country Link
US (1) US9558451B2 (zh)
EP (1) EP3055983B1 (zh)
KR (1) KR102257261B1 (zh)
CN (1) CN105794187B (zh)
GB (1) GB201320216D0 (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107995370A (zh) * 2017-12-21 2018-05-04 广东欧珀移动通信有限公司 通话控制方法、装置及存储介质和移动终端
CN110505352A (zh) * 2018-05-17 2019-11-26 腾讯科技(深圳)有限公司 通话质量测试方法、系统、计算机设备和计算机存储介质
CN110797046A (zh) * 2018-08-02 2020-02-14 中国移动通信集团广东有限公司 语音质量mos值的预测模型建立方法及装置
CN112151068A (zh) * 2019-06-26 2020-12-29 海德声科有限公司 用于确定经由电信网络传输的语音的质量的方法
CN112188004A (zh) * 2020-09-28 2021-01-05 精灵科技有限公司 基于机器学习的障碍呼叫检测系统及其控制方法
CN114286377A (zh) * 2021-12-28 2022-04-05 中国电信股份有限公司 抑制5g上行空口时延抖动的参数确定方法及相关装置

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10552762B2 (en) * 2015-07-16 2020-02-04 Falkonry Inc. Machine learning of physical conditions based on abstract relations and sparse labels
US10410219B1 (en) * 2015-09-30 2019-09-10 EMC IP Holding Company LLC Providing automatic self-support responses
US10298472B2 (en) 2015-10-08 2019-05-21 Microsoft Technology Licensing, Llc Media connection channel quality testing system
US11044360B1 (en) * 2015-12-17 2021-06-22 8X8, Inc. Dynamic direction of incoming calls
KR20170088745A (ko) * 2016-01-25 2017-08-02 문병진 Sip 네트워크에서 구간별 통화 품질 예측 방법
US10454989B2 (en) * 2016-02-19 2019-10-22 Verizon Patent And Licensing Inc. Application quality of experience evaluator for enhancing subjective quality of experience
WO2017144506A1 (en) * 2016-02-25 2017-08-31 Telefonaktiebolaget Lm Ericsson (Publ) Predicting multimedia session mos
US10827185B2 (en) * 2016-04-07 2020-11-03 Netflix, Inc. Techniques for robustly predicting perceptual video quality
US10454877B2 (en) 2016-04-29 2019-10-22 Cisco Technology, Inc. Interoperability between data plane learning endpoints and control plane learning endpoints in overlay networks
DE102016209032B3 (de) * 2016-05-24 2017-09-14 Siemens Healthcare Gmbh Bildbegebendes Verfahren zum Durchführen einer medizinischen Untersuchung nebst zugehörigem Bildgebenden System und zugehörigem Computerprogrammprodukt
US10091070B2 (en) 2016-06-01 2018-10-02 Cisco Technology, Inc. System and method of using a machine learning algorithm to meet SLA requirements
KR101797870B1 (ko) * 2016-08-12 2017-11-14 라인 가부시키가이샤 영상통화 품질 측정 방법 및 시스템
GB201620317D0 (en) * 2016-11-30 2017-01-11 Microsoft Technology Licensing Llc Audio signal processing
US20180204129A1 (en) * 2017-01-13 2018-07-19 Cisco Technology, Inc. Predicting a user experience metric for an online conference using network analytics
KR102307355B1 (ko) * 2017-03-10 2021-09-30 삼성전자주식회사 잡음 환경의 통화 품질을 개선하는 방법 및 장치
US9977707B1 (en) * 2017-03-30 2018-05-22 Wipro Limited Method and fault detection device for automatic fault detection and analysis in video conferencing systems
US10963813B2 (en) 2017-04-28 2021-03-30 Cisco Technology, Inc. Data sovereignty compliant machine learning
US10477148B2 (en) 2017-06-23 2019-11-12 Cisco Technology, Inc. Speaker anticipation
US10608901B2 (en) 2017-07-12 2020-03-31 Cisco Technology, Inc. System and method for applying machine learning algorithms to compute health scores for workload scheduling
US10091348B1 (en) 2017-07-25 2018-10-02 Cisco Technology, Inc. Predictive model for voice/video over IP calls
WO2019177481A1 (en) * 2018-03-12 2019-09-19 Ringcentral, Inc., (A Delaware Corporation) System and method for evaluating the quality of a communication session
US10867067B2 (en) 2018-06-07 2020-12-15 Cisco Technology, Inc. Hybrid cognitive system for AI/ML data privacy
US10446170B1 (en) 2018-06-19 2019-10-15 Cisco Technology, Inc. Noise mitigation using machine learning
US11115454B2 (en) 2019-09-17 2021-09-07 International Business Machines Corporation Real-time feedback for online collaboration communication quality
US11165648B1 (en) * 2019-09-26 2021-11-02 Juniper Networks, Inc. Facilitating network configuration testing
US10965806B1 (en) 2020-01-31 2021-03-30 Noble Systems Corporation Auto-correcting voice quality in real-time
GB2596131A (en) * 2020-06-18 2021-12-22 Spatialbuzz Ltd Estimating network performance requirements
WO2022029465A1 (en) 2020-08-03 2022-02-10 Telefonaktiebolaget Lm Ericsson (Publ) Correlating network data with instant app feedback for ml-based customer experience management
CN114039955B (zh) * 2021-11-05 2024-04-05 安徽电信规划设计有限责任公司 基于人工智能的通信安全监控系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050182852A1 (en) * 2004-02-14 2005-08-18 David Tinsley Intelligent fabric
CN101188847A (zh) * 2007-11-28 2008-05-28 中讯邮电咨询设计院 基于人工神经网络的移动通信业务用户体验评估方法
US20130148525A1 (en) * 2010-05-14 2013-06-13 Telefonica, S.A. Method for calculating perception of the user experience of the quality of monitored integrated telecommunications operator services

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9118801B2 (en) * 2011-10-24 2015-08-25 T-Mobile Usa, Inc. Optimizing video-call quality of service
WO2014082279A1 (en) * 2012-11-30 2014-06-05 Thomson Licensing Method and apparatus for estimating video quality

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050182852A1 (en) * 2004-02-14 2005-08-18 David Tinsley Intelligent fabric
CN101188847A (zh) * 2007-11-28 2008-05-28 中讯邮电咨询设计院 基于人工神经网络的移动通信业务用户体验评估方法
US20130148525A1 (en) * 2010-05-14 2013-06-13 Telefonica, S.A. Method for calculating perception of the user experience of the quality of monitored integrated telecommunications operator services

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107995370A (zh) * 2017-12-21 2018-05-04 广东欧珀移动通信有限公司 通话控制方法、装置及存储介质和移动终端
CN107995370B (zh) * 2017-12-21 2020-11-24 Oppo广东移动通信有限公司 通话控制方法、装置及存储介质和移动终端
CN110505352A (zh) * 2018-05-17 2019-11-26 腾讯科技(深圳)有限公司 通话质量测试方法、系统、计算机设备和计算机存储介质
CN110797046A (zh) * 2018-08-02 2020-02-14 中国移动通信集团广东有限公司 语音质量mos值的预测模型建立方法及装置
CN110797046B (zh) * 2018-08-02 2022-05-06 中国移动通信集团广东有限公司 语音质量mos值的预测模型建立方法及装置
CN112151068A (zh) * 2019-06-26 2020-12-29 海德声科有限公司 用于确定经由电信网络传输的语音的质量的方法
CN112151068B (zh) * 2019-06-26 2024-04-05 海德声科有限公司 用于确定经由电信网络传输的语音的质量的方法
CN112188004A (zh) * 2020-09-28 2021-01-05 精灵科技有限公司 基于机器学习的障碍呼叫检测系统及其控制方法
CN112188004B (zh) * 2020-09-28 2022-04-05 精灵科技有限公司 基于机器学习的障碍呼叫检测系统及其控制方法
CN114286377A (zh) * 2021-12-28 2022-04-05 中国电信股份有限公司 抑制5g上行空口时延抖动的参数确定方法及相关装置
CN114286377B (zh) * 2021-12-28 2024-02-23 中国电信股份有限公司 抑制5g上行空口时延抖动的参数确定方法及相关装置

Also Published As

Publication number Publication date
KR20160086914A (ko) 2016-07-20
CN105794187B (zh) 2019-11-26
EP3055983B1 (en) 2018-10-17
US9558451B2 (en) 2017-01-31
GB201320216D0 (en) 2014-01-01
EP3055983A1 (en) 2016-08-17
KR102257261B1 (ko) 2021-05-26
US20150142702A1 (en) 2015-05-21

Similar Documents

Publication Publication Date Title
CN105794187B (zh) 预测通话品质
Tsolkas et al. A survey on parametric QoE estimation for popular services
Chen et al. A lightweight end-side user experience data collection system for quality evaluation of multimedia communications
Ghadiyaram et al. Study of the effects of stalling events on the quality of experience of mobile streaming videos
Skorin-Kapov et al. A multi-dimensional view of QoE: the ARCU model
JP5408380B1 (ja) 情報処理プログラム及び情報処理装置
Yang et al. Survey on QoE assessment approach for network service
CN104956359A (zh) 实例加权学习机器学习模型
Liotou et al. A roadmap on QoE metrics and models
US10057420B2 (en) Method and apparatus for identifying a user of a mobile device
Aguiar et al. Video quality estimator for wireless mesh networks
Siris et al. Mobile quality of experience: Recent advances and challenges
Xu et al. On the properties of mean opinion scores for quality of experience management
Dantas Nunes et al. Performance improvement of a non‐intrusive voice quality metric in lossy networks
Wang et al. QoE Management in Wireless Networks
de Fez et al. New objective QoE models for evaluating ABR algorithms in DASH
WO2018192414A1 (zh) QoE的确定方法、装置、存储介质及处理器
Aazam et al. Mapping QoE with resource estimation in IoT
US20230206096A1 (en) Automated machine learning model explanation generation
Huang et al. Personalized QoE enhancement for adaptive video streaming: A digital twin-assisted scheme
Leszczuk Optimising task-based video quality: A journey from subjective psychophysical experiments to objective quality optimisation
Tan et al. An engagement model based on user interest and QoS in video streaming systems
Lima et al. Human Mobility Support for Personalized Data Offloading
Zwickl et al. On the approximation of ISP and user utilities from quality of experience
WO2015073470A1 (en) Predicting call quality

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant