CN105659220B - 数字电视网络中的测量响应趋势 - Google Patents
数字电视网络中的测量响应趋势 Download PDFInfo
- Publication number
- CN105659220B CN105659220B CN201480053304.2A CN201480053304A CN105659220B CN 105659220 B CN105659220 B CN 105659220B CN 201480053304 A CN201480053304 A CN 201480053304A CN 105659220 B CN105659220 B CN 105659220B
- Authority
- CN
- China
- Prior art keywords
- trend
- content
- request
- response message
- message
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/12—Network monitoring probes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
- H04L41/5003—Managing SLA; Interaction between SLA and QoS
- H04L41/5009—Determining service level performance parameters or violations of service level contracts, e.g. violations of agreed response time or mean time between failures [MTBF]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
- H04L41/508—Network service management, e.g. ensuring proper service fulfilment according to agreements based on type of value added network service under agreement
- H04L41/509—Network service management, e.g. ensuring proper service fulfilment according to agreements based on type of value added network service under agreement wherein the managed service relates to media content delivery, e.g. audio, video or TV
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
- H04L43/0817—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking functioning
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Information Transfer Between Computers (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Environmental & Geological Engineering (AREA)
Abstract
多种技术和系统用于提供在内容提供商网络外的趋势服务器,以与所述内容提供商网络进行通信,从而基于从内容提供商网络接收的响应来建立趋势记录,以监控内容提供商网络中的某活动趋势或倾向,并在内容提供商网络表现异常时提供警报。
Description
优先权声明和相关的专利申请
本文要求2013年7月26日递交的名称为“Measuring Response Trends in aDigital Television Network”的序列号为13/952,471的美国专利申请的优先权的权益。上述引用的申请的全部公开内容通过引用而并入作为本PCT申请的说明书的一部分。
技术领域
本文涉及数字内容网络,包括基于消息趋势监控内容网络。
背景技术
随着连接技术诸如万维网(World Wide Web)的出现,多媒体内容普遍存在并且能够从用户可以处于的几乎任何位置访问。为了满足日益增长的用户需求,内容服务提供商已部署了在大小和复杂性上已稳定增大的网络。能够在用户想要的时间和位置提供用户想要的内容以及能够正确地为用户计费,可以向内容服务提供商提供竞争优势。
期望用于针对于任何不规则来监控内容网络的操作的更好的技术。
发明内容
多种技术和系统用于提供在内容提供商网络外的趋势服务器,以与所述内容提供商网络进行通信,从而基于从内容提供商网络接收的响应来建立趋势记录,以监控内容提供商网络中的某活动趋势或倾向,并在内容提供商网络表现异常时提供警报。
在一个公开的方面中,提供了一种用于监控内容提供商网络的状态的方法。该方法可以通过趋势服务器实现,且包括:发送第一请求消息到所述内容提供商网络,其中,所述第一请求消息具有相关联的类型值;接收来自所述内容提供商网络的第一响应消息;通过与针对于与所述第一请求消息相关联的所述类型值的趋势记录比较,来判定所述第一响应消息是否正常;基于所述第一响应消息选择性地更新所述趋势记录;以及当确定所述第一响应消息不正常时,生成警报。
在另一方面中,公开了一种用于监控内容提供商的网络的操作的设备。所述设备包括:状态响应接收模块,所述状态响应接收模块接收来自所述内容提供商的网络的状态响应;响应分类模块,所述响应分类模块针对于每个接收到的状态响应,基于接收所述状态响应所针对的状态请求,指定对应的请求类型;趋势记录保持模块,所述趋势记录保持模块基于先前针对于每个请求类型接收的预定数目的状态响应保持趋势记录;趋势估计模块,所述趋势估计模块基于所述状态响应和用于所述请求类型的用户设定,估计针对于每一请求类型的趋势;趋势检查模块,所述趋势检查模块针对于每个接收到的状态响应,检查接收到的所述状态响应是否在针对于对应的请求类型的趋势内;以及趋势警报模块,所述趋势警报模块在接收到的所述状态响应不在针对于所述对应的请求类型的趋势内时发出警报。
在又一方面中,公开了一种计算机程序产品,所述计算机程序产品包括存储有代码的计算机可读存储介质。所述代码当由处理器执行时使得所述处理器实现监控内容提供商的网络的操作的方法。所述方法包括:接收来自所述内容提供商的网络的第一消息;通过与先前接收的具有与所述第一消息相同的消息类型的消息的趋势相比较,判定所述第一消息是否正常;基于所述第一消息,选择性地更新针对于所述第一消息的消息类型的趋势;以及当所述第一消息被确定为不正常时,生成警报。
在再一方面中,公开了一种用于监控网页服务提供商的操作的系统。所述系统包括:在所述网页服务提供商的管理下的一个或多个网页服务器,所述一个或多个网页服务器位于所述网页服务提供商的网络的内部;以及多个监控服务器,所述多个监控服务器位于所述网页服务提供商的网络的外部并且在地理上相互分开。每个监控服务器被配置成:将同步消息传输到所述一个或多个网页服务器;保持对所述同步消息的期望响应的记录;接收来自所述一个或多个网页服务器的状态响应消息;以及当所述状态响应消息不是期望响应时,发出警报。
下面参照附图进一步描述这些方面以及其它方面。
附图说明
图1示出了内容网络配置的示例。
图2示出了包括趋势服务器的内容网络配置的示例。
图3是内容网络的示例的框图表示。
图4是网页服务网络的示例的框图表示。
图5是由趋势服务器实现的方法的示例的流程图表示。
图6是监控内容网络的方法的示例的流程图表示。
图7是内容网络监控设备的示例的框图表示。
图8是监控内容网络的方法的示例的流程图表示。
图9示出了基于云的趋势监控系统中交换的信号的示例。
图10示出了由趋势服务器监控的网页的示例。
图11、图12、图13、图14和图15示出了在基于趋势服务器的监控系统中传送的消息的内容的示例。
各个附图中的相同的附图标记指示相同的元件。
具体实施方式
随着用户可以使用的用来接收和查看内容的设备的不断增长的可用性,内容服务提供商系统的复杂性稳定地上升。如今,用户可以通过很多网络来访问内容,所述很多网络诸如有线因特网(线缆调制解调器或高速电话)、无线网络(例如,3G/4G蜂窝网络、802.11局域网等)、光纤网络(例如,AT&T U-verse或Verizon FiOS)、数字线缆交付服务等。
为了保持竞争力,内容提供商如今经常在其详细目录中附有数以千计的电影片名、音频名称和电视节目名称,并免费地或使用某收费结构(诸如视使用而定或基于订阅的访问)而使它们对于用户(订阅者或非订阅者)可用。而且,用户请求可以几乎从世界任何地方到达内容提供商的服务器。内容提供商经常基于用户的位置或其它用户信息(例如,年龄)而限制对内容的访问,或者基于用户所处的位置收取不同的费用。例如,最新上映的电影可用于在澳大利亚观看,但不可用于在美国观看。
目前,没有解决方案可用于有效地监控具有广泛的地理范围且具有大量的可用于安全传输给用户的内容名称的内容网络。很多现有的解决方案通常是反应性的—例如,用户使内容提供商关注问题或质疑收费单,然后内容提供商诊断该问题。在内容提供商的网络中包括监控服务器的各种目前部署的监控方案通常具有有限的监控功能(例如,服务器的响应时间或对服务器的吞吐量等)并且倾向于不能检测可以从内容网络的“外部”(例如,从用户的观点)看到的任何问题。
在本文中公开的技术提供了在内容提供商网络的外部的趋势服务器,以与内容提供商网络进行通信,从而基于从内容提供商网络接收的响应来建立趋势记录,从而监控内容提供商网络中的某活动趋势或倾向,并在内容提供商网络表现异常时提供警报。所公开的趋势监控器服务器可以被实现以解决上文讨论的技术限制中的一者或多者以及其它技术限制。在所公开的技术的一些实现中,趋势服务器可以部署在内容提供商的网络的外部。趋势服务器可以被配置成监控用户与内容提供商的交互,并针对于任何不规则而检查从内容提供商去往用户的消息。为了帮助监控响应中的不规则,趋势服务器可以基于先前接收到的响应而自动地获悉响应趋势。趋势服务器可以自动地设置响应中的参数的正常范围的可接受值,或者可以由操作员用预期的上限或下限来编程。在一些实现中,用户设备可以被配置成通过趋势服务器与内容网络进行通信。在一些公开的实施方式中,提供了出于处理异常行为的目的而用于帮助在来自网页服务的响应中检测不期望的趋势的新的软件功能和协议。
下文更详细地公开了这些特征以及其它特征。
图1示出了内容网络架构100,在该内容网络架构100中,服务提供商的网络110和公共可用的网络(诸如因特网112)通过边界104(例如,因特网地址子网络、防火墙等)分开。在服务提供商网络侧,一个或多个应用服务器198可以互连并被配置成执行诸如内容提供、内容分发、计费、用户账户访问等的任务。位于公共网络侧的用户设备104能够使用上述的有线或无线网络106与应用服务器108通信。
在操作期间,用户设备104将与服务提供商的网络110通信,以执行各种任务,诸如请求内容或网页、与应用服务器108交互以下载或上传信息等。在正常操作期间,可以预期服务提供商的网络对来自用户的请求的响应中的某信息。例如,当用户访问顶级域名时,预期将主页发送回用户。类似地,在内容提供商的网络中,当用户访问具体的电影片名时,网页包括图形图像、电影元数据(例如,演员表、剧情、发行年份、运行时间等)以及购买信息。通常,信息类型可以是可预测的,但信息的实际值可能改变。例如,对于电影租赁网页,可预测的是,将显示用于租赁该电影的金额,但直到由应用服务器108分配该网页才能知道实际值。
确定来自面向网页服务的系统的正常响应是什么具有多个复杂性因素:
1)局部依赖度,例如,服务/数据库、硬件、总线/连接性等之间的工作流;
2)外部因素,例如,数据输入供应、同时连接的数量、因特网带宽、域名服务器(DNS)等;
3)上述任一者的导致系统的不期望的行为的意外的或恶意的修改。
检测何时重新获得正常响应也在应用中引入复杂性。有时,无响应也可以是正常响应。例如,特定的网页(例如,用于新的电影片名的租赁网页)可以例如基于用户的地理位置而不对所有的用户设备104可用。因此,“没有找到片名”消息对于在允许的地理区域外的用户而言可以是正常响应,而电影租赁网页对于在允许的地理区域中的另一用户而言将是正常响应。
使用Nagra MediaLive服务传送平台/内容管理系统(Service DeliveryPlatform/Content Management System(SDP/CMS))作为示例,该系统具有以下复杂性:对于流行的视频资产的不正确的数据输入可能快速地级联到正在由呼叫用户呼叫中心的订阅者报告的错误。如果根本原因不立刻明显,且以后不能指示何时解决故障,则导致服务水平协议没有被满足以及故障仍存在时的费用、增大扰动风险、以及客户最终不满意。
在另一操作场景中,基于网页的信息系统(诸如内容网络)的网络安全也可以是复杂的。例如,CMS可将URL提供给公司新闻发布。这样的网页资源通常包含仅仅对于上班时间期间的条款数据的改变。未经检验的或未监控的配置变化可能导致资源被移开,被黑客攻击的系统可能由于篡改内部数据或外部因素(诸如ISP DNS修改(URL重定向)、服务过载(DDoS-分布式拒绝服务))而显示完全不同的网页资源。这样的折中的早期检测是首要的,且对于内部监控系统并不总是明显的。
进行监控网页服务增大整个系统的复杂性,因为这需要与系统的局部连接以避免复杂性(诸如跨源(CORS))或者这增加更多的安全漏洞(黑客点)来支持它。内部系统可能不能看到其自身盒子的外部,或者在外部不可用。
图2示出了内容网络200(一般而言,网页服务网络)的架构的示例。与图1中示出的系统100相比,内容网络200包括趋势服务器202。尽管在图2中没有明确地示出,但在一些实施方式中,多个趋势服务器202可以在广大区域中分散地部署。这样的趋势服务器202位于服务提供商的网络的外部,且与用户设备104在同一侧。例如,外部位置可意味着,在不受服务提供商控制的网络中或基于趋势服务器202的IP地址的网络中或者在控制对服务提供商的网络110的访问的防火墙102的外部。
随着服务提供商解决了对跨设备和网络的无缝多屏幕用户体验的需求,在需求以增长的步伐进展的市场中,很多服务提供商寻求快速的上市时间以及对其成本的完全控制。Nagra工具和产品被设计成满足这些以及其它的需求。例如,Nagra MediaLive服务平台提供了从单个平台管理、保卫并操作跨多个传送网络(广播、管理的IP、OTT(over-the-top)、和移动)、多个设备(机顶盒、连接的TV、PC、平板电脑和电话)以及多个内容类型的广泛的媒体服务的软件工具。MediaLive服务平台跨设备、网络或内容类型以及贯穿从吸取到消耗并报告的整个内容生命周期,而统一服务器侧功能。MediaLive服务平台可以从全世界经由因特网访问,并强制执行关于哪些用户被允许访问哪些内容的操作者的条件访问规则。
MediaLive服务平台支持灵活的服务定义,该灵活的服务定义能够使服务提供商容易地且有效地将其高端娱乐货币化。其管理线性信道以及经由任何网络传递给任何设备的点播内容。其支持从订购、按次计费、按时间计费、“按菜单点菜”到基于事件的购买模型、促销和可寻址广告的广泛的商业模型。
MediaLive服务平台最大化多屏幕服务的设备到达范围。其提供包括个性化和认证的复杂的账户和设备管理能力、包括权利和计费事件管理的统一的交易和内容访问管理、域管理、设备消息传送和更多的功能。MediaLive服务平台使得可以使用从扩展电子节目指南(EPG)、流媒体/推送/拉式媒体/视频点播、节目重温、重新开始、交互式订阅到多商店服务、跨设备购买以及网址收藏、社交网络集成、推荐以及其它交互服务的交互式应用的扩充库。
图3是根据适于基于MediaLive服务平台或其它平台实现内容或应用服务器的系统配置300的功能框和交换的消息的框图表示。内容提供商的网络302(例如其可以由先前描述的Nagra MediaLive启用的网络实现)可以由多个用户设备204、306、308访问。例如,用户设备304可以是数字机顶盒,诸如OpenTV5机顶盒。用户设备304还可以体现于诸如可接收有线电视的电视机或具有返回路径从而能够与内容提供商网络302进行通信的另一消费者设备的设备中。
在给定的部署中,一些机顶盒可以被配置成通过服务提供商的网络与应用服务器302直接传送消息310。例如,这些消息310可以包括内容查看请求或内容购买请求、以及相应内容的下载或广播。一些机顶盒304可以被配置成通过趋势服务器202与应用服务器进行通信。例如,这可以通过将趋势服务器202的IP地址提供为由机顶盒304发出的相应消息的目的地址而实现。趋势服务器202可以接着监控来自机顶盒304的请求,并接收和处理来自应用服务器302的响应、并将从应用服务器302接收的响应转发回到请求的机顶盒304。如本文中所描述的,趋势服务器202中的处理可以包括确定趋势以及针对与正常响应的任何偏差而发出警报。
在一些应用中,系统300可以包括被配置成运行基于网页的应用程序(例如,超文本标记语言版本5(hypertext markup language version 5,HTML5)网络应用程序)的用户设备306。用户设备306可以通过与趋势服务器202的连接312而与应用服务器302进行通信,趋势服务器202还代表用户设备306来通过连接314与应用服务器302进行通信。在一些实施方式中,可以使用网页接口(WebSocket)协议。在一个有利的方面中,WebSocket允许连接保持开放,由此为用户设备306提供接收任何对经由WebSocket接口监控的特定网页的改变的能力。在一些实施方式中,当对正在通过开放的WebSocket连接监控的网页的更新被趋势服务器202视为不规则或者在正常偏差范围外时,在用户设备306上运行的HTML5应用程序能够被来自趋势服务器的消息警告。
在一些应用中,系统300还可以包括配备有由内容服务提供商提供的媒体播放器的用户设备308。例如,设备308可以是用户用来访问内容的无线设备或配套设备。在一些实现中,设备308可以是运行来自Apple或Google的软件平台(iOS或Android)的平板电脑或移动电话。这些用户设备308还可以被配置成类似于用户设备304(其可以是用于配套设备308的主设备)操作。
图4示出了其中网页服务网络(例如内容管理系统402)正由多个用户设备访问的系统配置400。用户可以使用具有网页浏览器或另一合适的应用程序的用户设备404或者使用另一机构(诸如先前描述的基于WebSocket的HTML5机构)来访问由应用服务器402提供的网页服务。对于内容网络中的多个用户设备404、406,一些设备可以被配置成通过中间的趋势服务器202与服务器402进行通信,而其它的设备404、406可以被配置成直接通信,即在通信路径中不使用趋势服务器202。而且,设备404、406可以分布在广泛的地理区域以及多个网络中(例如,一些设备可以是无线的,一些设备可以使用线缆调制解调器接入网络,一些其它的设备可以使用拨号接入网络等)。
当用户向服务器402发起请求时,可以向用户提供网页、可扩展标记语言(extensible markup language,XML)文档等。趋势服务器202可以比较所返回的网页或XML文档与先前针对相同类型的文档或从相同的请求类型接收的文档计算出的趋势之间的任何差异。
从内容提供商的网络返回的消息可以包括各种类型的数据,例如,音频、视频、文本以及其它的多媒体数据、与其它数据(例如,格式化指令)的表示相关的元数据等。
下文描述趋势服务器中的趋势计算的具体示例。
在一些实现中,可以将文本与事件库、事件的频率相比较。
可以将网页中的数值字段中的数值与先前接收到的数值的范围、与数值相关联的含义、以及由用户提供的任何其它输入规则相比较。
可以针对于文件大小、编码参数以及与音频流相关联的其它元数据来检查音频。
可以针对于大小、编码参数(分辨率)、任何嵌入式消息或链接等来检查视频。
可以针对于大小、在网页内的布置、对于图形中的信息识别的图案来检查图形。
在一些实现中,操作员可以通过首先提供基准网页以及某些字段中的值可以如何变化的限制来“播种”趋势。该操作员还可以指定从趋势检查中忽略某些字段。
在各个应用中,趋势服务器可以分布在基于云的架构中,其中,各个趋势服务器能够彼此同步。一种优势在于,服务提供商可以向位于不同的地理区域中的用户提供不同的内容服务。例如,位于澳大利亚的服务提供商可以使澳大利亚的用户免费使用内容,而可以向欧洲的用户收取观看费。另外,内容提供商可以使内容不可用于亚洲的用户。
图5是趋势服务器202的操作的方法500的流程图表示。趋势服务器与用户设备(图5中未示出)建立WebSocket连接。
在502处,方法500解析通过WebSocket从用户设备接收到的HTTP请求。
在504处,方法500判定该HTTP请求是否是熟悉的。例如,方法500使用该请求的某些字段或请求类型来判定是否先前从相同的用户设备或从另一用户设备接收过类似的请求。
当方法500确定该请求是熟悉的,则在504处,该方法访问用于该类型的请求的趋势记录并使该趋势记录附加上来自该请求的参数和值。在一些实现中,该方法还将唯一标识符值指定给该请求以用于以后的追踪和报告生成。
如果方法500确定该请求不是熟悉的,则在506处,通过指定新的趋势记录标识以及提取用以唯一地识别该请求的类型的该请求的参数,来建立用于该请求的新的趋势记录。在一些实施方式中,在该请求中接收到的参数的值用作初始趋势值。
在510处,方法500将初始的HTTP请求传递给HTTP服务器520,诸如MediaLive SDP。在一些实施方式中,初始的HTTP请求被修改成在承载该HTTP请求的数据包的报头中扩展路由信息。
在512处,方法500接收来自HTTP服务器520的响应。
在514处,基于接收到的响应,方法500对用于该响应的趋势记录进行同步。例如,在一些实施方式中,可以通过包括超过在过去的N个(N=合适的整数,例如10到50)该类型的响应中的参数值的范围的平均值,来扩展(或减小)趋势范围。在一些实施方式中,接收到的响应可以包括文本,接收到的文本中的任何新词或消息可以被添加到用于该类型的消息的趋势记录中。在一些实施方式中,接收到的响应可以包括图形,方法500可以更新趋势记录以包括图形的特性(例如,在网页上的布置、分辨率、色深、字节大小等)。
在一些实施方式中,方法500还可将接收到的响应与其他的趋势服务器522同步,趋势服务器522可以分散在广泛的地理位置(例如,其它洲、国家或大州)。
一般而言,接收到的响应可以包括文本、数字、图形和控制命令。不太可能的是,在两个不同的时间接收到的两个响应在该响应的每一位上都是相同的。基于514中的同步,方法500判定当前接收到的响应相对于趋势记录的变化。对于像是“正常的”或“预期的”变化,方法500在518处可以修改趋势记录的表示。例如,在一个响应消息中,网页可以包括包含日期的“最后更新的”字段。在随后接收到的响应消息中,该网页可以包括可包含数据和时间的“最后更新的”字段。因此,方法500可以修改用于该网页的预期的表示从而除了“日期”字段以外还包括“时间”字段。
在524处,方法500将518的结果转达给HTML5网络应用。
图6是用以监控内容提供商网络的状态的计算机实现的方法600的流程图表示。
在602处,方法600将第一请求消息从趋势服务器发送到内容提供商网络,其中,该第一请求消息具有相关联的类型值。在一些实施方式中,该类型值可以基于包括在该请求中的URL而导出。在一些实施方式中,整个URL可以对应于该类型。
在604处,方法600在趋势服务器处接收来自内容提供商网络的第一响应消息。如先前所讨论的,该消息可以被格式化为文档(例如,XML文档)或网页(例如,HTML脚本)等。
在606处,方法600由该趋势服务器通过与用于和该第一请求消息相关联的类型值的趋势记录比较,来判定该第一响应消息是否正常。上文已经披露了由趋势服务器执行判定响应是否正常(即,规则或不规则)的各种可能的处理操作。
在608处,方法600基于该第一响应消息选择性地更新趋势记录。在一些实施方式中,趋势记录可以仅在确定该第一响应消息正常时才被更新。某些字段的可接受的值可以被增补或平均化,以包括最新接收到的。例如,在一些实施方式中,用于某整数字段的先前接收到的值可以在1和5之间的范围中。因此,趋势服务器可以将允许的值视为集合(1,2,3,4,5)。当确定接收到的消息为正常的、但该字段中包含值“6”时,趋势服务器可以将允许值的范围更新为(1,2,3,4,5,6)。
在610处,在确定第一响应消息不正常时,方法600生成警报。例如,如果方法600确定网页中的现在应该具有$0.99到$7.99之间的正常范围的“电影租赁费用”字段具有值$0或$100,则方法600发出警报。该警报可以是针对于接收该响应的用户设备产生的音频/视觉提示的形式。该警报可以是显示给(或发声给)趋势服务器的操作者的消息。该警报可以是在趋势服务器的警报日志中记录的消息。
图7是用于监控内容提供商的网络的操作的设备700的框图表示。
模块702是将多个状态请求传输给内容提供商的网络的状态请求传输模块,每个状态请求具有相关联的请求类型。在一些实施方式中,状态请求可以被格式化为无状态的查询,诸如使用REST协议(表述性状态转移协议)的网页消息。在一些实施方式中,状态请求可以由趋势服务器自主地生成,即无需具有从用户设备接收的在先请求。
模块704用于从内容提供商的网络接收状态响应。如先前所讨论的,状态响应可以使用RSET协议,可以是网页或XML文档,且可以包括音频、视频或其它嵌入式信息。
模块706用于针对于每个接收到的状态响应,基于接收该状态响应所针对的状态请求,指定对应的请求类型。用于指定请求类型的一些技术(例如基于URL字段)已经在本文中公开。
模块708用于保持针对于每个请求类型先前接收的预定数目的状态响应的记录。
模块710用于基于针对于该请求类型的先前的预定数目的状态响应以及针对于该请求类型的用户设定,估计针对于每一请求类型的趋势。例如,在一些实现中,趋势可以基于在接收最新的响应消息之前,针对于同一消息类型的10个先前接收的响应。在一些实现中,趋势可以基于给定类型的所有先前接收到的响应。在一些实现中,趋势可以基于多个先前在给定时间(例如,在周一或早晨等)接收到的响应。
模块712用于针对于每个接收到的状态响应,检查该接收到的状态响应是否在针对于对应的请求类型的趋势内。如先前所讨论的,趋势检查可以针对于不同的数据类型而不同地执行,且可以包括范围检查、比较以及其它处理。
模块714用于在接收到的状态响应不在针对于对应的请求类型的趋势内时发出警报。本文中先前已经讨论了用于发出警报的技术。
图8是用于监控内容提供商的网络的操作的方法800的流程图表示。
在802处,方法800接收来自内容提供商的网络的第一消息。在一些实现中,该第一消息可以是经由在趋势服务器和内容提供商的网络之间开放的WebSocket连接而向方法800通知网页服务器上的变化的消息。
在804处,方法800通过与先前接收到的具有与该第一消息相同的消息类型的消息的趋势进行比较,来判定该第一消息是否正常。
在806处,方法800基于该第一消息选择性地更新针对于该第一消息的消息类型的趋势。在一些实现中,仅在确定该接收到的消息正常时,才执行趋势更新。在一些实现中,无论该接收到的消息是否正常,都可以执行趋势更新。
在808处,方法800在该第一消息被确定为不正常时生成警报。本文中先前已经公开了生成警报的各种实施方式。
在一些实现中,多个趋势服务器可以如下实现。全局趋势服务器可以充当协调器,该协调器协调趋势服务器云中的地理地分布在区域中的多个趋势服务器的活动。全局趋势服务器可以与其它的趋势服务器通信,并提供关于针对趋势监控哪些网页的信息。定期地,每个趋势服务器请求并接收正在被监控的网页。该趋势服务器将其查询的结果传送给全局趋势服务器。例如,该趋势服务器也可以发送其判定该接收到的网页是否正常的结果。可替选地,该趋势服务器还可以将接收到的网页传递给全局趋势服务器,该全局趋势服务器判定该接收到的网页是否正常。
参照图9到图16,作为非限制性示例,悉尼的部署可以监控内容网络的状态。用户设备902,即具有HTML5能力的应用的iPad,可以被配置成监控由其统一资源定位符(URL)表示的某些网页。
图9示出了可以在具有多个趋势服务器的系统中监控网页的示例。在该示例中,网页被格式化为XML文件,该XML文件提供关于可用于租赁的电影的信息且包括多个字段以及其对应的描述元数据。
在用户设备902(例如平板电脑)上运行的监控应用程序可以通过提供某网页的统一资源标识符URI来指示局部趋势服务器904(例如,位于悉尼的、用于悉尼的用户的服务器)来监控该网页(912)。
局部趋势服务器904解析HTTP请求,从趋势数据库定位或创建新的趋势记录。悉尼趋势服务器904接着触发全局趋势服务器云(例如包括趋势服务器1906和趋势服务器2908)来生成针对传递给它的URI数据的HTTP请求(914)。
云中的每个趋势服务器按特定的时间表,基于URI来请求网页的状态(消息916、920、924)。在一些实施方式中,消息916、920、924的请求时间可以被同步化,以同时获得来自不同位置的网页的多个快照。在一些实施方式中,每个趋势服务器可以与其它趋势服务器异步地发送其自己的HTTP请求。
内容网络中的应用服务器(例如Nagra MediaLive SDP)处理该HTTP请求并将响应传递回到每个趋势服务器(分别为响应918、922、926)。
全局趋势服务器云中的每个趋势服务器906、908然后比较接收到的响应并生成趋势报告928、930,该趋势报告928、930然后被转发给局部趋势服务器904。局部趋势服务器904生成其自身的关于该接收到的响应是否正常的报告。
每个趋势服务器基于接收到的响应选择性地更新其趋势记录。
局部趋势服务器904(悉尼趋势服务器)处理来自趋势云的趋势记录更新。
可选地,通过再次触发相同的请求以及确定趋势记录的变化,可以在设定时间之后再次发出网页更新请求。
如果消息912是来自用户设备902的第一请求或者检测到不期望的变化,则经由WebSocket 932通过报告变化来更新监听客户端。
在一些实施方式中,局部趋势服务器发送第一类型的警报消息(例如,在用户设备上的独特的音频音调或视觉提示),以突出来自悉尼、而不是来自任何地方的不期望的变化。在一些实施方式中,局部趋势服务器发送具有其自身的音频-视觉提示的第二类型的警报消息,以指示检测到来自云中的另一趋势服务器的异常。该用户还可以基于报告932中提供的细节研究该异常。
图10示出了由趋势服务器202监控的示例性网页。该网页包括多个字段和对应的值(字母数字字符串),所述多个字段和对应的值用来提供关于可用于从服务提供商的网络中的应用服务器租赁的电影的信息。
图11示出了消息912、914的一些内容的示例。
图12示出了消息928、930、931的一些内容的示例。每个趋势服务器可以使用“trendingserver”参数来识别其身份。而且,趋势服务器可以用针对于值所看到的趋势来注释所观察到的参数值,并明确地列出与正常的任何偏差。
图13示出了消息932的内容的示例。在该示例中,局部趋势服务器指示,从其观点看,网页呈现正常,但趋势云中的某其它趋势服务器已经检测到该网页的变化。例如,由趋势服务器正在监控的网页可能已经使用在因特网服务提供商的缓存服务器处的DNS开发而被篡改,但原始网页(例如,在Nagra CMS的)仍可以原封不动。在这样的情况下,图13可以表示来自监控CMS(且没有看到对网页的任何不规则的改变)的趋势服务器的消息,该消息通过与由正在接收来自篡改的网页的ISP的其网页状态响应(例如,REST响应)的趋势服务器注意到的趋势异常的趋势服务器云同步而变得被知晓。
图14可以表示由正在接收来自篡改的网页的ISP的其网页状态响应(例如,REST响应)且因此注意到监控的网页的不规则变化的趋势服务器注意到的趋势异常。
图15示出了其中用被监控的网页的某些字段的变化来警告用户的消息932的另一示例。
能够理解的是,公开了用于监控网页服务系统(诸如内容服务提供商的网络)的正常操作的技术。在一些实施方式中,从不同的地理区域中的多个位置监控网络。在一些实施方式中,通过与网页的先前趋势比较而生成针对于网页的当前状态的报告,以用于向用户警告网页的任何不期望的或异常的变化。可以从精简的用户设备(例如从在移动设备上运行的应用程序)远程地执行监控。
还能够理解的是,公开了通过以多种方式监控不同的数据类型(例如,数据、音频、视频等)来监控网页的变化的趋势的一些技术。
所公开的以及其它的实施方式、模块和功能性操作、以及在本文中描述的模块可以以数字电子电路、或者计算机软件、固件、或硬件(包括本文中公开的结构及其等同结构)、或者它们中的一者或多者的组合实现。所公开的以及其它的实施方式可以被实现为一个或多个计算机程序产品,即在计算机可读介质上编码以由数据处理设备执行或控制数据处理设备的操作的计算机程序指令的一个或多个模块。计算机可读介质可以是机器可读存储设备、机器可读存储基质、内存设备、实现机器可读的传播信号的物质的组合物、或它们中的一者或多者的组合。术语“数据处理设备”包含用于处理数据的所有的设备、装置以及机器,例如包括可编程处理器、计算机、或多个处理器或多个计算机。除了硬件之外,该数据处理设备还可包括创建用于所讨论的计算机程序的执行环境的代码,例如,构成处理器固件、协议栈、数据库管理系统、操作系统、或它们中的一者或多者的组合的代码。传播信号是人工生成的信号,例如,机器生成的电信号、光信号、或电磁信号,该信号被生成用来对传输至合适的接收器设备的信息进行编码。
计算机程序(也被称为程序、软件、软件应用程序、脚本、或代码)可以以任意形式的编程语言编写,包括编译语言或解释性语言;并且计算机程序可以以任何形式部署,包括作为独立程序或作为模块、部件、子程序、或适于在计算环境中使用的其它单元。计算机程序不一定对应于文件系统中的文件。程序可以被存储在保持其它程序或数据(例如,存储在标记语言文档中的一个或多个脚本)的文件的一部分中、存储在专用于所讨论的程序的单个文件中、或者存储在多个协调的文件(例如,存储一个或多个模块、子程序或代码部分的文件)中。计算机程序可以被部署成在一个计算机上执行或者在位于一个位置或跨多个位置分布并且通过通信网络互连的多个计算机上执行。
本文中描述的方法和逻辑流可以由一个或多个可编程的处理器执行,所述一个或多个可编程的处理器执行一个或多个计算机程序以通过对输入数据进行操作并生成输出而执行功能。方法和逻辑流还可由专用逻辑电路执行,并且设备也可以被实现为专用逻辑电路,所述专用逻辑电路例如为FPGA(现场可编程门阵列)或ASIC(专用集成电路)。
适于执行计算机程序的处理器例如包括通用微处理器以及专用微处理器、以及任何种类的数字计算机的任意一个或多个处理器。通常,处理器将从只读存储器或随机存取存储器或二者接收指令和数据。计算机的必要元件是用于执行指令的处理器以及用于存储指令和数据的一个或多个存储设备。通常,计算机还将包括用于存储数据的一个或多个大容量存储设备,或者被操作性地联接以从用于存储数据的一个或多个大容量存储设备接收数据或将数据转发至用于存储数据的一个或多个大容量存储设备、或者二者皆可,所述大容量存储设备例如为磁盘、磁光盘或光盘。然而,计算机不需要具有这样的设备。适于存储计算机程序指令和数据的计算机可读介质包括所有形式的非易失性存储器、媒介和存储设备,例如包括:半导体存储设备,例如EPROM、EEPROM和闪存设备;磁盘,例如内置硬盘或可拆卸盘;磁光盘;和CD ROM盘和DVD-ROM盘。处理器和存储器可以通过专用逻辑电路增补或并入在专用逻辑电路中。
尽管本文包含很多细节,但这些不应当被视为对所要求保护的或可以要求保护的本发明的范围进行限制,而应当被视为对特定于具体实施方式的特征的描述。在多个独立的实施方式的情况下描述于本文中的某些特征也可以组合在单个实施方式中实现。相反,在单个实施方式的情况下描述的各个特征也可以在多个实施方式中分别实现或者以任意合适的子组合实现。而且,尽管上文中可以将特征描述为在某些组合中作用、甚至这样初始要求保护,但来自所要求保护的组合的一个或多个特征在一些情况下可以从该组合去除,且所要求保护的组合可以指向子组合或子组合的变型。类似地,尽管在附图中以特定顺序示出操作,但这不应当被理解为需要这些操作以所示出的该特定顺序或相继次序执行,或者不应当被理解为需要执行所有示出的操作,以实现所期望的结果。
仅公开了一些示例和实现。可以基于所公开的内容对所描述的示例和实现以及其它实现进行变型、修改和增强。
Claims (17)
1.一种用于监控内容提供商网络的状态的计算机实现的方法,包括:
由趋势服务器监控来自用户设备的请求;
基于所述请求,从所述趋势服务器将请求消息发送到所述内容提供商网络,其中,所述请求消息具有相关联的类型值;
在所述趋势服务器处接收来自所述内容提供商网络的第一响应消息,所述第一响应消息包括内容数据,所述内容数据具有编码在所述第一响应消息中的参数值并定义了所述内容数据自身的特征;
由所述趋势服务器通过针对所述请求消息的相关联的类型值将第一响应消息数据的所述参数值与趋势记录相比较,来判定所述第一响应消息是否是可接受的,所述趋势记录基于从所述内容提供商网络发送至多个客户端设备的通信来定义所述参数值的可接受范围;
基于所述第一响应消息选择性地更新所述趋势记录;以及
基于确定所述第一响应消息不可接受,生成警报。
2.根据权利要求1所述的方法,其中,所述趋势记录基于所述请求的请求类型。
3.根据权利要求1所述的方法,其中,所述趋势记录累积先前接收到的预定数目的具有所述类型值的响应消息。
4.根据权利要求1所述的方法,还包括:
基于所述第一响应消息将第二响应消息提供给发起所述请求消息的用户设备。
5.根据权利要求4所述的方法,其中,所述第二响应消息包括所述第一响应消息,且所述第二响应消息被提供,而与所述第一响应消息是否被判定为可接受无关。
6.根据权利要求4所述的方法,其中,所述第二响应消息包括所述第一响应消息,且当所述第一响应消息被确定为不可接受时还包括警报消息。
7.根据权利要求1所述的方法,其中,所述趋势服务器位于所述内容提供商网络的外部。
8.根据权利要求1所述的方法,还包括:
将所述趋势服务器配置为多个在地理上分开的服务器的一部分,所述多个在地理上分开的服务器被配置为执行趋势化和监控操作,其中,所述多个在地理上分开的服务器中的至少一者在未接收来自所述用户设备的所述请求的情况下执行趋势化和监控。
9.一种用于监控内容提供商网络的操作的趋势服务器,包括:
硬件处理器;
所述硬件处理器的状态请求传输模块,被配置为监控来自至少一个用户设备的多个请求并将多个状态请求传输到所述内容提供商网络,每个状态请求基于来自所述至少一个用户设备的所述请求中的至少一个请求并具有相关联的请求类型;
所述硬件处理器的状态响应接收模块,被配置为接收来自所述内容提供商网络的状态响应,状态响应消息包括内容数据,所述内容数据具有编码在所述状态响应消息中的参数值并定义了所述内容数据自身的特征;
所述硬件处理器的响应分类模块,被配置为针对于每个接收到的状态响应,基于接收所述状态响应所针对的状态请求,指定对应的请求类型;
所述硬件处理器的趋势记录保持模块,被配置为基于先前针对于每个请求类型接收的预定数目的状态响应的参数值保持趋势记录;
所述硬件处理器的趋势估计模块,被配置为基于每个状态响应的所述参数值和用于所述请求类型的用户设定,估计针对于每一请求类型的趋势,所述趋势基于从所述内容提供商网络发送至多个客户端设备的通信来定义所述参数值的可接受范围;
所述硬件处理器的趋势检查模块,被配置为通过将接收到的状态响应的所述参数值与值的所述可接受范围相比较,针对于每个接收到的状态响应,检查接收到的所述状态响应是否在针对于对应的请求类型的趋势内;以及
所述硬件处理器的趋势警报模块,被配置为基于确定所述接收到的状态响应不在针对于所述对应的请求类型的趋势内而发出警报。
10.根据权利要求9所述的趋势服务器,还包括:
所述硬件处理器的趋势用户接口模块,被配置为接收用于所述用户设定的输入,其中,所述输入提供输入请求类型以及用于所述输入请求类型的相关联的趋势。
11.根据权利要求9所述的趋势服务器,其中:
所述状态请求传输模块使用无状态协议传输所述多个状态请求。
12.根据权利要求9所述的趋势服务器,其中,所述状态请求包括购买多媒体程序的请求,对应的状态响应包括代表所述多媒体程序的购买价格的值。
13.根据权利要求9所述的趋势服务器,其中,所述状态请求包括接收网页的请求,对应的状态响应包括所述网页的内容。
14.一种非暂时性计算机可读存储介质,所述非暂时性计算机可读存储介质存储有代码,所述代码当由处理器执行时使得所述处理器实现监控内容提供商网络的操作的方法,所述方法包括:
监控来自用户设备的请求;
基于所述请求,将请求消息发送至内容提供商网络,其中所述请求消息具有相关联的类型值;
接收来自所述内容提供商网络的第一响应消息,所述第一响应消息包括内容数据,所述内容数据具有编码在所述第一响应消息中的参数值并定义了所述内容数据自身的特征;
通过将第一响应消息数据的所述参数值与先前接收的具有与所述第一响应消息相同的相关联的类型值的消息的趋势相比较,判定所述第一响应消息是否可接受,所述趋势记录基于从所述内容提供商网络发送至多个客户端设备的通信来定义所述参数值的可接受范围;
基于所述第一响应消息,选择性地更新针对于所述第一响应消息的消息类型的趋势;以及
基于确定所述第一响应消息为不可接受的,生成警报。
15.根据权利要求14所述的非暂时性计算机可读存储介质,其中,所述方法还包括:
将状态请求消息传输到所述内容提供商网络,其中,响应于所述状态请求消息而接收所述第一响应消息。
16.一种用于监控网页服务提供商的操作的系统,所述系统包括:
在所述网页服务提供商的管理下的一个或多个网页服务器,所述一个或多个网页服务器位于所述网页服务提供商网络的内部;
多个监控服务器,所述多个监控服务器位于所述网页服务提供商网络的外部并且在地理上相互分开;其中,每个监控服务器被配置成:
监控来自用户设备的请求;
将同步消息传输到所述一个或多个网页服务器,至少一个同步消息是基于所述请求的;
保持对所述同步消息的期望响应的记录;
接收来自所述一个或多个网页服务器的状态响应消息,所述状态响应消息包括内容数据,所述内容数据具有编码在所述状态响应消息中的参数值并定义了所述内容数据自身的特征;
通过将所述状态响应消息的所述参数值与预期响应的记录相比较来确定所述状态响应消息是否是预期的响应,预期响应的所述记录基于从所述网页服务提供商网络发送至多个客户端设备的通信来定义所述参数值的可接受范围;
基于确定所述状态响应消息不是期望响应时,发出警报。
17.根据权利要求16所述的系统,其中,每个监控服务器还被配置成当接收到新的状态响应消息时更新所述记录。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910790929.1A CN110708183B (zh) | 2013-07-26 | 2014-07-25 | 数字电视网络中的测量响应趋势 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/952,471 US10063450B2 (en) | 2013-07-26 | 2013-07-26 | Measuring response trends in a digital television network |
US13/952,471 | 2013-07-26 | ||
PCT/US2014/048290 WO2015013672A2 (en) | 2013-07-26 | 2014-07-25 | Measuring response trends in a digital television network |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910790929.1A Division CN110708183B (zh) | 2013-07-26 | 2014-07-25 | 数字电视网络中的测量响应趋势 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105659220A CN105659220A (zh) | 2016-06-08 |
CN105659220B true CN105659220B (zh) | 2019-09-24 |
Family
ID=52391438
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201480053304.2A Active CN105659220B (zh) | 2013-07-26 | 2014-07-25 | 数字电视网络中的测量响应趋势 |
CN201910790929.1A Active CN110708183B (zh) | 2013-07-26 | 2014-07-25 | 数字电视网络中的测量响应趋势 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910790929.1A Active CN110708183B (zh) | 2013-07-26 | 2014-07-25 | 数字电视网络中的测量响应趋势 |
Country Status (10)
Country | Link |
---|---|
US (6) | US10063450B2 (zh) |
EP (1) | EP3025246B1 (zh) |
KR (1) | KR102228338B1 (zh) |
CN (2) | CN105659220B (zh) |
AU (2) | AU2014292925B2 (zh) |
BR (1) | BR112016001720B1 (zh) |
ES (1) | ES2901407T3 (zh) |
MX (1) | MX362309B (zh) |
SG (1) | SG11201600602YA (zh) |
WO (1) | WO2015013672A2 (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9167048B2 (en) * | 2013-03-14 | 2015-10-20 | Motorola Solutions, Inc. | Method and apparatus for filtering devices within a security social network |
US9386050B2 (en) | 2013-03-14 | 2016-07-05 | Motorola Solutions, Inc. | Method and apparatus for filtering devices within a security social network |
US10063450B2 (en) * | 2013-07-26 | 2018-08-28 | Opentv, Inc. | Measuring response trends in a digital television network |
US10743083B2 (en) * | 2015-12-21 | 2020-08-11 | International Business Machines Corporation | Collaborative multi-media, multi-channel cognitive visual analytics rationale authoring and playback |
WO2019114970A1 (en) * | 2017-12-14 | 2019-06-20 | Telefonaktiebolaget Lm Ericsson (Publ) | Failure handling in a cloud environment |
US10481995B1 (en) | 2018-08-17 | 2019-11-19 | Capital One Services, Llc | Methods and systems for measuring user and system metrics |
US10638206B1 (en) | 2019-01-28 | 2020-04-28 | International Business Machines Corporation | Video annotation based on social media trends |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1662901A (zh) * | 2002-06-25 | 2005-08-31 | 国际商业机器公司 | 用于在分布式环境中监视应用性能的方法和系统 |
WO2009076187A2 (en) * | 2007-12-07 | 2009-06-18 | Gallup, Inc | Preserving state information client-server system networked via a stateless protocol |
CN102591321A (zh) * | 2010-12-28 | 2012-07-18 | 三菱电机株式会社 | 监视控制系统 |
CN103038652A (zh) * | 2010-05-25 | 2013-04-10 | 海德沃特合作I有限公司 | 用于保护网络容量的装置辅助服务 |
US8429265B2 (en) * | 2008-09-29 | 2013-04-23 | Amazon Technologies, Inc. | Managing resource consolidation configurations |
Family Cites Families (139)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6085193A (en) * | 1997-09-29 | 2000-07-04 | International Business Machines Corporation | Method and system for dynamically prefetching information via a server hierarchy |
US6487538B1 (en) * | 1998-11-16 | 2002-11-26 | Sun Microsystems, Inc. | Method and apparatus for local advertising |
US7379879B1 (en) * | 1999-02-26 | 2008-05-27 | Sloo Marshall A | Incident reporting system and method |
US6505248B1 (en) * | 1999-03-24 | 2003-01-07 | Gte Data Services Incorporated | Method and system for monitoring and dynamically reporting a status of a remote server |
US6553568B1 (en) * | 1999-09-29 | 2003-04-22 | 3Com Corporation | Methods and systems for service level agreement enforcement on a data-over cable system |
US7281046B1 (en) * | 2000-06-30 | 2007-10-09 | Covad Communications Company | Application program interface for automating high speed network access ordering and provisioning processes |
EP1312007A4 (en) * | 2000-07-17 | 2008-01-02 | Galactic Computing Corp Bvi Ib | PROCESS AND SYSTEM FOR PROVIDING THE MANAGEMENT OF A DYNAMIC HOST SERVICE |
US20020087389A1 (en) * | 2000-08-28 | 2002-07-04 | Michael Sklarz | Value your home |
US7567916B1 (en) * | 2000-09-12 | 2009-07-28 | Capital One Financial Corporation | System and method for performing Web based in-view monitoring |
US6477575B1 (en) * | 2000-09-12 | 2002-11-05 | Capital One Financial Corporation | System and method for performing dynamic Web marketing and advertising |
US7107326B1 (en) * | 2000-10-13 | 2006-09-12 | 3Com Corporation | Method and system for integrating IP address reservations with policy provisioning |
US7068597B1 (en) * | 2000-11-27 | 2006-06-27 | 3Com Corporation | System and method for automatic load balancing in a data-over-cable network |
KR20020062153A (ko) * | 2001-01-19 | 2002-07-25 | 엘지전자주식회사 | 인터넷상에서의 광고 및 전자상거래 방법 |
US6952428B1 (en) * | 2001-01-26 | 2005-10-04 | 3Com Corporation | System and method for a specialized dynamic host configuration protocol proxy in a data-over-cable network |
US7051006B2 (en) * | 2001-02-09 | 2006-05-23 | International Business Machines Corporation | System and method for maintaining customer privacy |
US7398271B1 (en) * | 2001-04-16 | 2008-07-08 | Yahoo! Inc. | Using network traffic logs for search enhancement |
US6738933B2 (en) | 2001-05-09 | 2004-05-18 | Mercury Interactive Corporation | Root cause analysis of server system performance degradations |
US7342489B1 (en) * | 2001-09-06 | 2008-03-11 | Siemens Schweiz Ag | Surveillance system control unit |
US7085306B1 (en) * | 2001-10-30 | 2006-08-01 | 3Com Corporation | System and method for a multi-frequency upstream channel in a computer network |
US7023979B1 (en) * | 2002-03-07 | 2006-04-04 | Wai Wu | Telephony control system with intelligent call routing |
US7720715B1 (en) * | 2002-08-30 | 2010-05-18 | Sprint Communications Company L.P. | Method and system for providing retail-item purchasing data in a computer network environment |
US7222185B1 (en) * | 2002-10-03 | 2007-05-22 | Cisco Technology, Inc. | Methods and apparatus for distributing content within a content delivery system |
US7650638B1 (en) * | 2002-12-02 | 2010-01-19 | Arcsight, Inc. | Network security monitoring system employing bi-directional communication |
US7069233B2 (en) * | 2002-12-31 | 2006-06-27 | Bracken Foster & Associates, Llc | System and method for identification and notification of elevated over-the-counter medication sales with response coordination |
KR100683901B1 (ko) * | 2003-04-11 | 2007-02-15 | 주식회사 이너버스 | 웹 컨텐츠 모니터링 방법과 이를 내장한 컴퓨터가판독가능한 기록 매체 및 이를 수행하기 위한 웹 컨텐츠모니터링 시스템 |
US7584353B2 (en) * | 2003-09-12 | 2009-09-01 | Trimble Navigation Limited | Preventing unauthorized distribution of media content within a global network |
US20050086526A1 (en) * | 2003-10-17 | 2005-04-21 | Panda Software S.L. (Sociedad Unipersonal) | Computer implemented method providing software virus infection information in real time |
US7873708B2 (en) * | 2004-04-28 | 2011-01-18 | At&T Mobility Ii Llc | Systems and methods for providing mobile advertising and directory assistance services |
US20060025931A1 (en) * | 2004-07-30 | 2006-02-02 | Richard Rosen | Method and apparatus for real time predictive modeling for chronically ill patients |
US10748158B2 (en) * | 2004-10-08 | 2020-08-18 | Refinitiv Us Organization Llc | Method and system for monitoring an issue |
US7765481B2 (en) * | 2005-05-03 | 2010-07-27 | Mcafee, Inc. | Indicating website reputations during an electronic commerce transaction |
US8566726B2 (en) * | 2005-05-03 | 2013-10-22 | Mcafee, Inc. | Indicating website reputations based on website handling of personal information |
CA2631270A1 (en) * | 2005-11-29 | 2007-06-07 | Google Inc. | Detecting repeating content in broadcast media |
US7663479B1 (en) * | 2005-12-21 | 2010-02-16 | At&T Corp. | Security infrastructure |
WO2007095266A2 (en) * | 2006-02-10 | 2007-08-23 | Ultra Electronic Audiopack, Inc. | Communication system for heads-up display |
US20090254392A1 (en) * | 2006-03-30 | 2009-10-08 | Zander Van S | Method and system for enterprise network access control and management for government and corporate entities |
US20070244724A1 (en) * | 2006-04-13 | 2007-10-18 | Pendergast John W | Case based outcome prediction in a real-time monitoring system |
US8694016B2 (en) * | 2006-04-14 | 2014-04-08 | Qualcomm Incorporated | Methods and apparatus for use of data object popularity measurements for improved quality of service perception in wireless broadcast systems |
US8364669B1 (en) * | 2006-07-21 | 2013-01-29 | Aol Inc. | Popularity of content items |
US8806045B2 (en) * | 2006-09-01 | 2014-08-12 | Microsoft Corporation | Predictive popular content replication |
US20080201078A1 (en) * | 2006-09-28 | 2008-08-21 | Dudley Fitzpatrick | Apparatuses, Methods and Systems for Determining and Announcing Proximity Between Trajectories |
WO2008046021A2 (en) * | 2006-10-11 | 2008-04-17 | Stewart Jeffrey A | System and method for conveying content changes over a network |
US20080125964A1 (en) * | 2006-11-27 | 2008-05-29 | Carani Sherry L | Tracking System and Method with Automatic Map Selector And Geo Fence Defining Features |
US20080121690A1 (en) * | 2006-11-27 | 2008-05-29 | Carani Sherry L | Ubiquitous Tracking System and Method |
US20080122691A1 (en) * | 2006-11-27 | 2008-05-29 | Carani Sherry L | Tracking system and method with multiple time zone selector, dynamic screens and multiple screen presentations |
US20080122656A1 (en) * | 2006-11-27 | 2008-05-29 | Carani Sherry L | Tracking System and Method with Multiple Language Selector, Dynamic Screens and Multiple Screen Presentations |
US20080125965A1 (en) * | 2006-11-27 | 2008-05-29 | Carani Sherry L | Tracking System and Method with Automatic Map Selector and Geo Fence Defining Features |
US8880615B2 (en) * | 2006-12-15 | 2014-11-04 | International Business Machines Corporation | Managing a workflow using an instant messaging system to gather task status information |
US20080174485A1 (en) * | 2007-01-24 | 2008-07-24 | Carani Sherry L | Tracking System and Method with Asset Tool Bar for Polling, Message, Historic Report, Location, Map and Geo Fence Features |
US9996627B2 (en) * | 2007-03-30 | 2018-06-12 | Excalibur Ip, Llc | Point of presence distribution mechanism for digital content objects |
US7668823B2 (en) * | 2007-04-03 | 2010-02-23 | Google Inc. | Identifying inadequate search content |
US7895227B1 (en) * | 2007-04-27 | 2011-02-22 | Intuit Inc. | System and method for detecting trends in network-based content |
KR100788256B1 (ko) * | 2007-05-29 | 2007-12-27 | 주식회사 비전파워 | 네트워크를 이용한 웹서버 위변조 모니터링 시스템 및모니터링 방법 |
KR100867306B1 (ko) * | 2007-05-31 | 2008-11-06 | (주)위너다임 | 이미지 분석기법을 이용한 홈페이지 변조점검 시스템 및 방법 |
US20090013347A1 (en) * | 2007-06-11 | 2009-01-08 | Gulrukh Ahanger | Systems and methods for reporting usage of dynamically inserted and delivered ads |
US20090138565A1 (en) * | 2007-11-26 | 2009-05-28 | Gil Shiff | Method and System for Facilitating Content Analysis and Insertion |
US20090198820A1 (en) | 2007-12-07 | 2009-08-06 | Gallup, Inc. | Preserving state information client-server system networked via a stateless protocol |
EP2235642A4 (en) * | 2007-12-13 | 2016-08-03 | Highwinds Holdings Inc | CONTENT DELIVERY NETWORK |
US8489731B2 (en) * | 2007-12-13 | 2013-07-16 | Highwinds Holdings, Inc. | Content delivery network with customized tracking of delivery data |
US7949724B1 (en) * | 2007-12-28 | 2011-05-24 | Yahoo! Inc. | Determining attention data using DNS information |
US9043313B2 (en) * | 2008-02-28 | 2015-05-26 | Yahoo! Inc. | System and/or method for personalization of searches |
US8171107B2 (en) * | 2008-03-03 | 2012-05-01 | Kidzui, Inc. | Method and apparatus for editing, filtering, ranking, and approving content |
US20090265704A1 (en) * | 2008-04-17 | 2009-10-22 | Branda Steven J | Application Management for Reducing Energy Costs |
US8725716B1 (en) * | 2008-05-30 | 2014-05-13 | Google Inc. | Customized web summaries and alerts based on custom search engines |
US20090313665A1 (en) * | 2008-06-17 | 2009-12-17 | Tandberg Television Inc. | Digital rights management licensing over third party networks |
US7953850B2 (en) * | 2008-10-03 | 2011-05-31 | Computer Associates Think, Inc. | Monitoring related content requests |
US7992055B1 (en) * | 2008-11-07 | 2011-08-02 | Netapp, Inc. | System and method for providing autosupport for a security system |
US8572736B2 (en) * | 2008-11-12 | 2013-10-29 | YeeJang James Lin | System and method for detecting behavior anomaly in information access |
US8185431B2 (en) * | 2008-11-13 | 2012-05-22 | Kwabena Benoni Abboa-Offei | System and method for forecasting and pairing advertising with popular web-based media |
US8493968B2 (en) * | 2008-12-12 | 2013-07-23 | Verizon Patent And Licensing Inc. | Voice-over-Internet Protocol device load profiling |
US8762195B1 (en) * | 2008-12-23 | 2014-06-24 | Sprint Communications Company L.P. | Dynamically generating pricing information for digital content |
US9351193B2 (en) * | 2009-01-28 | 2016-05-24 | Headwater Partners I Llc | Intermediate networking devices |
US10492102B2 (en) * | 2009-01-28 | 2019-11-26 | Headwater Research Llc | Intermediate networking devices |
US8745191B2 (en) | 2009-01-28 | 2014-06-03 | Headwater Partners I Llc | System and method for providing user notifications |
TWI388953B (zh) * | 2009-03-11 | 2013-03-11 | Inotera Memories Inc | 製程參數的監視方法 |
US8176043B2 (en) * | 2009-03-12 | 2012-05-08 | Comcast Interactive Media, Llc | Ranking search results |
US7917618B1 (en) | 2009-03-24 | 2011-03-29 | Amazon Technologies, Inc. | Monitoring web site content |
WO2010124291A1 (en) * | 2009-04-24 | 2010-10-28 | Level 3 Communications, Llc | Media resource storage and management |
US8645190B1 (en) * | 2009-05-28 | 2014-02-04 | Google Inc. | Providing pricing guidance for content items in publications |
CN101594002B (zh) * | 2009-07-03 | 2010-12-29 | 河海大学 | 城市电网运行的自愈控制方法 |
US8386601B1 (en) * | 2009-07-10 | 2013-02-26 | Quantcast Corporation | Detecting and reporting on consumption rate changes |
US8693368B2 (en) * | 2009-07-22 | 2014-04-08 | Hewlett-Packard Development Company, L.P. | Method and system for remote identification of a network node |
US8938533B1 (en) * | 2009-09-10 | 2015-01-20 | AppDynamics Inc. | Automatic capture of diagnostic data based on transaction behavior learning |
US10110440B2 (en) | 2009-09-30 | 2018-10-23 | Red Hat, Inc. | Detecting network conditions based on derivatives of event trending |
US8886729B2 (en) * | 2009-10-30 | 2014-11-11 | Verizon Patent And Licensing Inc. | Methods, systems and computer program products for a mobile-terminated message SPAM restrictor |
US20110113086A1 (en) * | 2009-11-10 | 2011-05-12 | Kevin Long | System and method for monitoring activity on internet-based social networks |
US20120316916A1 (en) * | 2009-12-01 | 2012-12-13 | Andrews Sarah L | Methods and systems for generating corporate green score using social media sourced data and sentiment analysis |
US8832483B1 (en) * | 2009-12-16 | 2014-09-09 | Applied Micro Cicuits Corporation | System-on-chip with power-save mode processor |
US8892721B2 (en) * | 2009-12-31 | 2014-11-18 | Schneider Electric USA, Inc. | Power monitoring system with proxy server for processing and transforming messages and context-specific caching |
JP5418250B2 (ja) * | 2010-01-26 | 2014-02-19 | 富士通株式会社 | 異常検出装置、プログラム、及び異常検出方法 |
KR101708775B1 (ko) * | 2010-02-11 | 2017-03-08 | 삼성전자주식회사 | 휴대 단말기의 정보 제공 방법 및 장치 |
US9152484B2 (en) * | 2010-02-26 | 2015-10-06 | Red Hat, Inc. | Generating predictive diagnostics via package update manager |
WO2011104574A1 (en) * | 2010-02-27 | 2011-09-01 | Telefonaktiebolaget L M Ericsson (Publ) | Transcoding queue management |
CN101785675B (zh) * | 2010-03-04 | 2014-01-15 | 重庆理工大学 | 一种运动监测装置及其监测方法 |
US9652802B1 (en) * | 2010-03-24 | 2017-05-16 | Consumerinfo.Com, Inc. | Indirect monitoring and reporting of a user's credit data |
US20110320715A1 (en) * | 2010-06-23 | 2011-12-29 | Microsoft Corporation | Identifying trending content items using content item histograms |
EP2407897A1 (en) * | 2010-07-12 | 2012-01-18 | Accenture Global Services Limited | Device for determining internet activity |
US8856545B2 (en) * | 2010-07-15 | 2014-10-07 | Stopthehacker Inc. | Security level determination of websites |
WO2012078316A1 (en) * | 2010-12-09 | 2012-06-14 | Northwestern University | Endpoint web monitoring system and method for measuring popularity of a service or application on a web server |
US8566370B2 (en) * | 2010-12-15 | 2013-10-22 | Verizon Patent And Licensing Inc. | Ranking media content for cloud-based searches |
US20120158461A1 (en) * | 2010-12-17 | 2012-06-21 | Verizon Patent And Licensing Inc. | Content management and advertisement management |
US9235547B1 (en) * | 2010-12-20 | 2016-01-12 | II Richard William Hartman | Messaging system and method with dead man switching |
US8543868B2 (en) * | 2010-12-21 | 2013-09-24 | Guest Tek Interactive Entertainment Ltd. | Distributed computing system that monitors client device request time and server servicing time in order to detect performance problems and automatically issue alerts |
US8583786B2 (en) * | 2011-01-21 | 2013-11-12 | Verizon Patent And Licensing Inc. | Systems and methods for rating a content based on trends |
US8775431B2 (en) * | 2011-04-25 | 2014-07-08 | Disney Enterprises, Inc. | Systems and methods for hot topic identification and metadata |
US8806545B2 (en) * | 2011-05-05 | 2014-08-12 | Motorola Mobility Llc | Method and system for facilitating demand-driven distribution of content |
US8612291B2 (en) * | 2011-05-06 | 2013-12-17 | Google Inc. | Optimized display of ad landing page |
US8510807B1 (en) * | 2011-08-16 | 2013-08-13 | Edgecast Networks, Inc. | Real-time granular statistical reporting for distributed platforms |
US8972569B1 (en) * | 2011-08-23 | 2015-03-03 | John J. D'Esposito | Remote and real-time network and HTTP monitoring with real-time predictive end user satisfaction indicator |
US20130074109A1 (en) * | 2011-09-20 | 2013-03-21 | Sidebar, Inc. | Television listing user interface based on trending |
US8935245B1 (en) * | 2011-09-20 | 2015-01-13 | Google Inc. | Presenting search results |
US8655873B2 (en) | 2011-10-28 | 2014-02-18 | Geofeedr, Inc. | System and method for aggregating and distributing geotagged content |
CN103209398B (zh) * | 2012-01-17 | 2015-12-09 | 阿里巴巴集团控股有限公司 | 灰名单建立的方法和系统以及短信发送的方法和系统 |
US9167049B2 (en) * | 2012-02-02 | 2015-10-20 | Comcast Cable Communications, Llc | Content distribution network supporting popularity-based caching |
CN103246982A (zh) * | 2012-02-07 | 2013-08-14 | 腾讯科技(深圳)有限公司 | 商品发布方法和系统 |
US9225580B2 (en) * | 2012-02-29 | 2015-12-29 | Bradly Freeman Rich | Mechanism for facilitating user-controlled features relating to media content in multiple online media communities and networks |
US8775924B1 (en) * | 2012-03-09 | 2014-07-08 | Google Inc. | Processing web pages based on content quality |
WO2013155208A1 (en) * | 2012-04-10 | 2013-10-17 | Seven Networks, Inc. | Intelligent customer service/call center services enhanced using real-time and historical mobile application and traffic-related statistics collected by a distributed caching system in a mobile network |
US10599545B2 (en) * | 2012-04-24 | 2020-03-24 | International Business Machines Corporation | Correlation based adaptive system monitoring |
US9501849B2 (en) * | 2012-05-11 | 2016-11-22 | Vmware, Inc. | Multi-dimensional visualization tool for browsing and troubleshooting at scale |
US10296409B2 (en) * | 2012-05-15 | 2019-05-21 | International Business Machines Corporation | Forecasting workload transaction response time |
US20130339977A1 (en) * | 2012-06-19 | 2013-12-19 | Jack B. Dennis | Managing task load in a multiprocessing environment |
US20140006406A1 (en) * | 2012-06-28 | 2014-01-02 | Aol Inc. | Systems and methods for analyzing and managing electronic content |
US8909808B2 (en) * | 2012-07-19 | 2014-12-09 | Cisco Technology, Inc. | Redundancy elimination for web caching |
US10997665B2 (en) * | 2012-08-09 | 2021-05-04 | Hartford Fire Insurance Company | Interactive data management system |
US9491253B2 (en) * | 2012-11-27 | 2016-11-08 | Fastly, Inc. | Data storage based on content popularity |
US9497424B2 (en) * | 2012-12-05 | 2016-11-15 | At&T Mobility Ii Llc | System and method for processing streaming media of an event captured by nearby mobile phones |
US8639767B1 (en) * | 2012-12-07 | 2014-01-28 | Geofeedr, Inc. | System and method for generating and managing geofeed-based alerts |
US20140180807A1 (en) * | 2012-12-22 | 2014-06-26 | Coupons.Com Incorporated | Identity resolution for consumers with shared credentials |
US11157954B1 (en) * | 2012-12-22 | 2021-10-26 | Quotient Technology Inc. | Forming and using master records based on consumer transaction data |
US9397902B2 (en) * | 2013-01-28 | 2016-07-19 | Rackspace Us, Inc. | Methods and systems of tracking and verifying records of system change events in a distributed network system |
US10304037B2 (en) * | 2013-02-04 | 2019-05-28 | Haworth, Inc. | Collaboration system including a spatial event map |
JP6013517B2 (ja) * | 2013-02-06 | 2016-10-25 | 株式会社日立製作所 | コンテンツ管理装置及び方法並びに記憶媒体 |
US10601943B2 (en) * | 2013-02-27 | 2020-03-24 | Pavlov Media, Inc. | Accelerated network delivery of channelized content |
US9955227B2 (en) * | 2013-03-13 | 2018-04-24 | Centurylink Intellectual Property Llc | System and method for communicating alerts through a set-top box |
US20140330720A1 (en) * | 2013-05-02 | 2014-11-06 | Jared Wesley Tomlin | System to utilize telecommunications data to authorize and activate equipment |
US9256628B2 (en) * | 2013-05-14 | 2016-02-09 | International Business Machines Corporation | Efficient logging of processing peaks in control systems |
JP6177030B2 (ja) * | 2013-07-04 | 2017-08-09 | クラリオン株式会社 | Poi情報提供システム、poi情報提供装置、poi情報提供方法、及びプログラム |
US10063450B2 (en) * | 2013-07-26 | 2018-08-28 | Opentv, Inc. | Measuring response trends in a digital television network |
-
2013
- 2013-07-26 US US13/952,471 patent/US10063450B2/en active Active
-
2014
- 2014-07-25 MX MX2016001109A patent/MX362309B/es active IP Right Grant
- 2014-07-25 CN CN201480053304.2A patent/CN105659220B/zh active Active
- 2014-07-25 CN CN201910790929.1A patent/CN110708183B/zh active Active
- 2014-07-25 WO PCT/US2014/048290 patent/WO2015013672A2/en active Application Filing
- 2014-07-25 AU AU2014292925A patent/AU2014292925B2/en active Active
- 2014-07-25 SG SG11201600602YA patent/SG11201600602YA/en unknown
- 2014-07-25 ES ES14830008T patent/ES2901407T3/es active Active
- 2014-07-25 EP EP14830008.0A patent/EP3025246B1/en active Active
- 2014-07-25 BR BR112016001720-0A patent/BR112016001720B1/pt active IP Right Grant
- 2014-07-25 KR KR1020167004694A patent/KR102228338B1/ko active IP Right Grant
-
2018
- 2018-07-24 US US16/044,034 patent/US10581714B2/en active Active
-
2020
- 2020-01-06 US US16/734,757 patent/US11146473B2/en active Active
- 2020-01-24 AU AU2020200527A patent/AU2020200527A1/en not_active Abandoned
-
2021
- 2021-09-14 US US17/474,324 patent/US11606280B2/en active Active
-
2023
- 2023-02-08 US US18/107,130 patent/US11855870B2/en active Active
- 2023-11-07 US US18/503,308 patent/US20240129216A1/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1662901A (zh) * | 2002-06-25 | 2005-08-31 | 国际商业机器公司 | 用于在分布式环境中监视应用性能的方法和系统 |
WO2009076187A2 (en) * | 2007-12-07 | 2009-06-18 | Gallup, Inc | Preserving state information client-server system networked via a stateless protocol |
US8429265B2 (en) * | 2008-09-29 | 2013-04-23 | Amazon Technologies, Inc. | Managing resource consolidation configurations |
CN103038652A (zh) * | 2010-05-25 | 2013-04-10 | 海德沃特合作I有限公司 | 用于保护网络容量的装置辅助服务 |
CN102591321A (zh) * | 2010-12-28 | 2012-07-18 | 三菱电机株式会社 | 监视控制系统 |
Also Published As
Publication number | Publication date |
---|---|
CN105659220A (zh) | 2016-06-08 |
EP3025246A2 (en) | 2016-06-01 |
WO2015013672A2 (en) | 2015-01-29 |
BR112016001720A2 (zh) | 2017-09-05 |
US20240129216A1 (en) | 2024-04-18 |
WO2015013672A3 (en) | 2015-11-26 |
EP3025246B1 (en) | 2021-11-24 |
MX2016001109A (es) | 2016-05-16 |
US20150032876A1 (en) | 2015-01-29 |
AU2014292925B2 (en) | 2019-10-24 |
AU2020200527A1 (en) | 2020-02-13 |
US20230246937A1 (en) | 2023-08-03 |
US10063450B2 (en) | 2018-08-28 |
CN110708183B (zh) | 2022-08-23 |
BR112016001720B1 (pt) | 2022-06-28 |
US20190058647A1 (en) | 2019-02-21 |
KR20160036046A (ko) | 2016-04-01 |
SG11201600602YA (en) | 2016-02-26 |
US20200236029A1 (en) | 2020-07-23 |
US11146473B2 (en) | 2021-10-12 |
US11855870B2 (en) | 2023-12-26 |
CN110708183A (zh) | 2020-01-17 |
MX362309B (es) | 2019-01-10 |
ES2901407T3 (es) | 2022-03-22 |
EP3025246A4 (en) | 2017-01-11 |
AU2014292925A1 (en) | 2016-02-11 |
US10581714B2 (en) | 2020-03-03 |
US11606280B2 (en) | 2023-03-14 |
US20220094622A1 (en) | 2022-03-24 |
KR102228338B1 (ko) | 2021-03-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105659220B (zh) | 数字电视网络中的测量响应趋势 | |
US20230291806A1 (en) | Matching and attribution of user device events | |
CN108781311A (zh) | 用于媒体分发和管理平台的视频播放器框架 | |
US11310299B2 (en) | Method, apparatus, and computer program product for controlling content distribution | |
US20140244784A1 (en) | Website Impersonation System and Method | |
CN110998503A (zh) | 捕获内容共享界面 | |
KR101603531B1 (ko) | 클라우드 컴퓨팅 기반 SaaS 형태의 동영상 서비스 시스템 및 그 방법 | |
Ho Ngoc | Single Page Web Application with Restful API and AngularJS: Best Practices with Verto Monitor | |
CN115994258A (zh) | 应用程序的推荐对象预览方法、装置及电子设备 | |
Edition | API Management |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |