CN103151023B - 向远程客户机发送可视内容的方法和系统 - Google Patents
向远程客户机发送可视内容的方法和系统 Download PDFInfo
- Publication number
- CN103151023B CN103151023B CN201310060728.9A CN201310060728A CN103151023B CN 103151023 B CN103151023 B CN 103151023B CN 201310060728 A CN201310060728 A CN 201310060728A CN 103151023 B CN103151023 B CN 103151023B
- Authority
- CN
- China
- Prior art keywords
- content
- change
- content viewable
- viewable
- remote client
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/37—Details of the operation on graphic patterns
- G09G5/377—Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/003—Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
- G09G5/006—Details of the interface to the display terminal
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/14—Display of multiple viewports
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/156—Availability of hardware or computational resources, e.g. encoding based on power-saving criteria
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/10—Special adaptations of display systems for operation with variable images
- G09G2320/103—Detection of image changes, e.g. determination of an index representative of the image change
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/12—Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
- G09G2340/125—Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels wherein one of the images is motion video
Abstract
提供了向远程客户机发送可视内容的方法和系统。讨论用于将包括视频、动画等在内的改变的可视内容作为覆盖图来呈现的技术。可以从包括在可视演示中的其它可视元素中标识包括在该可视演示中的改变的可视内容。可基于与为客户机呈现改变的可视内容作为覆盖图相关联的可用资源来操纵改变的可视内容。
Description
本申请是国际申请日为2008年11月26日、国际申请号为PCT/US2008/084975、中国国家申请日为2010年6月13日、申请号为200880121262.6、发明名称为“改变可视内容通信”的专利申请的分案申请。
技术领域
本申请涉及改变可视内容通信,尤其涉及向远程客户机发送可视内容的方法和系统。
背景技术
在终端服务器会话中传递视频内容可能是效率低下的,因为形成视频内容的相对较大量的数据可以频繁地连同其它可视内容一起更新。例如,视频数据可以与诸如文本等其它屏幕内容一起刷新和传递。附加内容可以与视频内容一起传递,即使该附加内容可能并非以与视频内容相同的速率改变。
发明内容
讨论用于呈现包括视频、动画等在内的改变的可视内容作为覆盖图的技术。可以从包括在可视演示中的其它可视元素中标识包括在该可视演示中的改变的可视内容。可基于与为客户机呈现改变的可视内容作为覆盖图相关联的可用资源来操纵改变的可视内容。
提供本概述是为了以简化的形式介绍将在以下详细描述中进一步描述的一些概念。本概述不旨在标识所要求保护的主题的关键特征或必要特征,也不旨在用于帮助确定所要求保护的主题的范围。
附图说明
参考附图来描述详细描述。在附图中,附图标记中最左边的数字标识该附图标记首次出现的附图。在说明书和附图中的不同的实例中使用相同的附图标记可指示相似或相同的项目。
图1示出了可使用改变的可视内容的示例性实现中的环境。
图2是描绘传递改变的可视内容时的示例性数据流的流程图。
图3是描绘其中传递改变的可视内容的示例性实现中的过程的流程图。
图4是描绘其中将可视内容作为覆盖图来传递的示例性实现中的过程的流程图。
具体实施方式
概览
因此,描述了可准许远程呈现改变的可视内容的技术,改变的可视内容包括基于阈值或与其它可视内容相比频繁地改变的视频内容、动画等。例如,所标识的改变的可视内容可被表示为远程设备上的覆盖图。改变的可视内容可以与未改变、以比改变的可视内容更小的速率改变或未达到改变阈值的其它可视内容不同地对待。将改变的可视内容呈现为覆盖图可允许基于可用资源将形成内容的数据作为改变的内容(例如,视频)来处理。可以操纵和传递改变的可视内容以使得可以高效地使用可用资源。
在各实现中,包括标识模块的系统可标识改变的可视内容。例如,包括超过所设阈值的屏幕更新的动画可基于表示动画内容的位图的宽高比来标识。以此方式,改变的动画可以从其它可视内容中标识并基于此来操纵。所标识的可视内容可取决于可用资源来操纵。操纵可包括压缩形成内容的数据,丢弃更新例如视频帧等,这些可取决于可用于处理改变的可视内容的资源来实现。
示例性环境
图1示出了可远程地呈现改变的可视内容的示例性实现中的环境100。图2示出了可由此处所讨论的示例性实现执行的示例性技术和数据流。服务器系统102可包括用于确定可视内容中是否包括改变的可视内容的视频检测模块104。
例如,如果屏幕更新处理器模块106提供视频内容和其它可视内容(其可能不改变),视频检测模块104可标识所提供的可视内容中改变的视频内容的存在。虽然主要讨论视频内容,但示例性改变的可视内容可包括但不限于可与其它可视数据相比而改变或改变超过所设阈值(例如,不改变)等的动画、过渡(诸如POWERPOINT(华盛顿州雷蒙德市的微软公司)过渡)等。
屏幕更新处理器模块106可将诸如文本、图形对象等其它可视内容转发给远程客户机108以便显示,同时如此处所讨论的那样处理改变的可视内容。例如,其它可视内容可以与视频、动画或其它改变的可视内容相比而较不频繁地更新,如果前一可视分量名义上改变或不改变的话。与对改变的可视内容和其它可视内容应用共同的压缩方案相比,不同地对待其它可视内容可最小化各种压缩方案的影响。
可以包括音频处理器模块110以便获取与改变的可视内容相关联的音频内容。音频内容可以与改变的可视内容分开处理以使得可以按内容专用方式处理该内容。对于未压缩的视频剪辑,可将音频数据与视频数据隔开以便随后使用时间戳来重新组合以便在呈现在远程客户机108上时将音频数据与对应的视频数据同步。
使用视频检测模块104来标识改变的可视内容可准许与其它可视内容不同地处理底层数据。虽然可以按第一方式处理和传递改变的可视内容(诸如试驾视频112),但可以按不同的或第二方式对待未改变或最低限度改变的可视内容以使得其它内容不会过度消耗资源,并可准许以改变的可视内容专用的方式处理改变的可视内容。
视频检测模块104可标识处在未压缩状态中的改变的可视信息。其它可视内容可以按比改变的可视内容小的速率更新并由此最小化所传送的总数据。
视频内容或其它改变的可视内容可基于包括可用于执行任务的通信资源在内的计算资源来编码和/或传递。结果,可以高效地使用系统的编码能力(诸如编码器114-118)和通信资源(例如,网络120)而不使计算资源陷入停顿,同时以改变的可视内容专用的方式处理改变的可视内容。例如,如果显示器包括flash视频以及文本和图形对象,则该文本和图形对象可以不改变或者可以与视频内容或用于将改变的内容与不改变的内容区分开来的阈值更新速率相比很少改变。不改变或最低限度改变的内容的示例可包括但不限于可以不改变或者以与改变的可视内容相比不频繁地改变的文本、图像对象等等。
在一示例中,可以在窗口中呈现试驾视频112,同时可以在该显示画面的其它部分上呈现准许用户联系经销商、接收报价的文本和图形对象122。相比较而言,显示画面的视频部分与其它可视内容或某一准则相比可频繁地改变。文本和图形对象可保持不变或基于类似的比较或预定屏幕更新标准不频繁地改变。
视频检测模块104可标识可视内容正基于各种准则来改变。示例性准则可包括但不限于屏幕更新频率、宽高比、窗口类名、屏幕更新的进程名等。此外,视频内容检测模块104可确定改变的内容是否已经停止播放或已被暂停。如果改变的内容已停止,则视频检测模块104可标识在客户机设备上复制时应终止用于呈现改变的可视内容的窗口。如果仅仅暂停改变的内容的播放,则在客户机设备上呈现改变的内容的覆盖图可以保持,但可以不呈现内容或者可以熄灭(blackout)覆盖图。
屏幕更新频率可根据每秒屏幕更新次数来标识,例如,电影是每秒二十四帧,欧洲电视是每秒二十五帧,美国电视是每秒三十帧等。在各实现中,屏幕更新速率可用作确定可视内容是否正在改变的阈值。上述示例仅仅是示例性的。在各实现中,可以使用准则组合来标识。在其它示例中,可以试探性地标识改变的可视内容。
改变的可视内容宽高比可根据表示该可视内容的位图的宽高比来标识。例如,4:3比率可指示标准电视内容,而16:9比率可指示宽屏改变内容。窗口类名可包括用于呈现将至少部分地覆盖将在其上呈现可视内容的屏幕的窗口的呈现器的名称。如果窗口具有4:3比率并且正以大致每秒二十四帧更新,则可标识改变的可视内容。
可视处理器模块124可引导对所标识的改变的可视内容的操纵。例如,一旦被标识,就可如处理器模块所引导的那样基于可用于包括传递数据的处理的计算资源来操纵动画内容。操纵可包括丢弃帧(对于视频)或屏幕更新(对于动画);压缩内容;不发送改变的可视内容;使用特定编码方案等。例如,可以丢弃表示动画或视频的位图。
例如,如果相对大量带宽可用,则可视处理器模块124可指示一个或多个编码器114-118模块实现简单编码方案(例如,有损编码技术)以最小化用于改变的可视内容的处理器开销。相反,如果可用带宽有限,则可使用资源密集编码技术来最小化带宽消耗。也可考虑因素的组合,包括专用于其它无关任务的资源等。例如,编码器模块“1-N”114-118可实现各种格式,包括但不限于,视频编解码器1(VC1)、运动图像专家组(MPEG)、联合图像专家组(JPEG)等。
可将控制信息与形成可视内容的数据包括在一起。控制信息可包括用于指示将要如何远程呈现改变的可视内容的数据。例如,控制信息可包括将呈现改变的数据的覆盖图的大小、覆盖图在显示器上的位置、时间戳等等(例如,远程客户机108上包括汽车视频136的覆盖图)。一个或多个编码器模块可将控制信息与改变的可视内容编码在一起以便传递至远程客户机。例如,在远程呈现时,包括改变的可视内容的可视内容可反映该可视数据的服务器配置。即,当由服务器屏幕更新处理器模块106获取可视内容时,可以在客户机上呈现覆盖图以及其他可视内容。在其它实现中,控制数据可以单独地发送,在将内容数据和控制数据等转发的数据流的分隔部分中与准许同步音频和可视内容的时间戳一起发送。
资源监视器模块126可监视包括通信资源在内的与远程地呈现可视内容相关联的计算资源的可用性。例如,包括在服务器系统中的资源监视器模块126可向可视处理器模块124发送与在远程客户机上呈现可视内容相关联的计算资源的指示。例如,如果带宽有限,则可视处理器模块124可基于如由资源监视器确定的资源来选择丢弃帧,使用特定编码技术等。相关资源指示可包括但不限于关于以下各项的指示:通信带宽(例如,网络120)的可用性、可用处理器资源(例如,服务器资源和/或客户机资源)、可用编码器等。以此方式,可视处理器模块124可访问用于远程地呈现改变的可视内容的可用资源而不淹没计算资源或过度消耗计算资源。使用资源监视器模块126可根据可用计算资源来定制将要如何传递改变的可视内容、传递什么改变的可视内容等。在将改变的可视内容提供给远程客户机时,资源使用可基于资源可用性而改变。
远程客户机108可包括确定如何呈现已解码的改变的可视内容的客户机处理器模块128。例如,客户机处理器模块128可基于与内容数据一起编码的控制数据将改变的内容(其由客户机解码器“1-N”130-132解码)呈现为覆盖图。以上述方式,客户机处理器模块128可重构改变的可视内容以使得改变的可视内容的呈现匹配服务器系统102处的呈现,就像该内容呈现在与服务器系统102相关联的显示器上那样。例如,可由与改变的视频内容包括在一起的控制数据指定大小、宽高比等。控制数据可包括关于子视频窗口检测、几何结构跟踪等信息,这些信息可对应地由客户机处理器模块在确定要如何呈现改变的可视内容时使用。如果适用,则可使用协调多媒体的时间戳来将音频与改变的可视内容重新组合。
客户机屏幕处理器134可以在适当时从服务器屏幕更新处理器接收其它可视数据。例如,在将视频作为覆盖图呈现在客户机显示器上时,可将文本、图形对象等作为该覆盖图的“背景”来呈现。即,虽然可以个别地隔开和对待视频,但可以在客户机显示器上将大致不改变的可视内容部分与视频内容部分一起呈现在该显示器的至少一部分上。可以安排和配置覆盖图和其它可视内容(如果存在的话)以使得显示在客户机上的内容匹配来自服务器屏幕更新处理器模块106的内容。
一般而言,在此描述的任何功能可使用软件、固件、硬件(例如,固定逻辑电路)、手动处理或这些实现的组合来实现。本文使用的术语“模块”、“功能”和“逻辑”通常表示软件、固件、硬件、或其组合。例如,在软件实现的情况下,模块、功能或逻辑表示当在处理器(例如,一个或多个CPU)上执行时实现指定任务的程序代码。程序代码可被储存在例如有形介质等一个或多个计算机可读存储器设备中。
以下讨论描述了可利用上述系统和设备来实现的各种变换技术。这些过程中每一过程的各方面可用硬件、固件、或软件、或其组合来实现。这些过程被示为指定由一个或多个设备执行的操作的一组框,并且其不必限于所示由各框执行操作的次序。
示例性过程
以下讨论描述了可利用上述系统和设备来实现的方法。这些过程中每一过程的各方面可用硬件、固件、或软件、或其组合来实现。这些过程被示为指定由一个或多个设备执行的操作的一组框,并且其不必限于所示由各框执行操作的次序。也可以考虑各种其他示例。
图3公开了用于将改变的可视数据作为覆盖图来提供的示例性过程。显示与所设标准或其它可视内容相比频繁地改变的改变的可视内容可准许在低层处理形成改变的可视数据的数据,同时根据可用计算资源来定制数据处理。例如,可以在从web服务器访问视频内容的客户机设备上远程地呈现可视演示。
可以在非压缩状态中标识可以与其它可视内容(不改变或以可忽略不计的速率改变)一起作为屏幕更新302的一部分包括的改变的可视内容304。例如,改变的可视内容可包括但不限于以大致规则的间隔更新的视频、过渡、动画等。在适当时,改变的可视内容可以与未改变的可视内容、最低限度改变的内容形成对比,或者可以与某一所设标准(例如,改变或屏幕更新的速率)相比较。改变的可视内容的标识304可以至少部分地基于更新频率、内容的宽高比、窗口标识、进程名等。可以结合标识改变的可视内容适用试探技术。
在各示例中,可以考虑以上准则的组合。改变的可视内容标识304可基于窗口的宽高比是否匹配电影或影片显示画面的宽高比以及传入屏幕更新的进程名是否匹配视频播放器的进程名。例如,如果内容的宽高比为4:3,并且更新的进程名匹配与用于播放电视广播的播放器相关联的进程名,则可将可视内容标识为改变的内容,即使例如该改变的内容的回放播放暂时暂停。示例性进程名可包括但不限于WINDOWSMEDIACENTER(华盛顿州雷蒙德市的微软公司)等等。如果改变的可视内容不存在或者可视内容已经停止流传输,则其它内容的更新可能发生或者可以移除来自停止的改变内容的覆盖图306。
可以评估可用资源308。可根据处理远程演示的计算资源的参数来选择特定操纵和/或压缩方案310。例如,可以评估计算资源以确定可用性308。可以在操纵和/或引导改变的可视内容的编码310时考虑的示例性计算资源参数包括但不限于服务器资源、客户机资源、以及通信资源。例如,如果与可以传递的数据相比相对较少的带宽可用,则可以通过暂停视频312或丢弃帧作为操纵改变的可视内容310的一部分来不发送改变的可视内容。
因此,可基于可用计算资源308来处理改变的视频或动画内容,同时经由其它技术来处理其它可视内容。例如,可以分开地传输最低限度改变的文本和图形对象以便客户机演示。如果适当,则可以按不同的方式处理其它可视内容。例如,最低限度改变的可视内容可以按不同的速率更新或单独传递。以此方式,改变的可视内容可以覆盖在最低限度改变的内容的上方以使得客户机可视演示匹配提供该可视内容的远程源的可视演示。在各实现中,可以重新创建改变的可视内容和其它可视内容(例如,改变的内容在覆盖图中)以使得可视演示匹配在标识时的可视内容的可视演示。在其它情况下,最低限度改变的内容可以覆盖在改变的内容的上方。上述的示例可包括诸如通知弹出窗口(诸如OUTLOOK(华盛顿州雷蒙德市的微软公司)通知弹出窗口)等覆盖在改变的内容的上方的不规则区域。以此方式,改变的内容可以被未改变的内容部分地遮蔽。
可按需操纵所标识的改变的可视内容310。例如,操纵可包括压缩改变的可视内容、对改变的可视内容丢弃帧或屏幕更新,暂停改变的可视内容的播放312等。例如,可以操纵改变的可视内容310以使得覆盖的视频或动画在客户机上出现在显示器上的特定位置,匹配指定大小、宽高比等等。在各实现中,可以在创建覆盖图以呈现改变的可视内容时使用子窗口检测、几何结构跟踪或类似技术。以上技术可准许改变的可视内容的低层遥控。
示例性的资源考虑事项包括但不限于选择特定编码技术或丢弃帧以最小化带宽消耗,基于服务器正在处理的其它任务来操纵改变的可视内容。例如,如果带宽非常珍贵,则可适用有损压缩方案。因此,虽然编码内容310可能较密集,但减少的带宽消耗可以是主要考虑事项。
可以编码改变的可视内容310以便传递至客户机。例如,控制数据和形成改变的可视内容的数据可以经由各种技术来编码以便传递至远程客户机312。在其它情况下,可以分开传递控制数据和内容数据。编码/指示编码可包括使用VC1、MPEG以及用于编码和/或压缩内容以便远程演示的类似技术。
可以单独地处理和传递音频内容。例如,时间戳可以与音频和视频内容相关联并且用于将音频内容的演示与视频、动画或其它改变的可视内容重新同步或匹配。
从客户机的观点来看,改变的可视内容可被呈现为覆盖图,该覆盖图覆盖未改变或以最低限度的方式改变的可视内容。例如,客户机可将供呈现的改变的可视内容314解码为覆盖图。覆盖图可基于提供可视内容的服务器系统所转发的控制信息来重新创建。例如,可使用子窗口跟踪、几何结构跟踪技术来生成和/或重新创建改变的可视内容以使该可视内容如在标识304处所配置和安排的那样出现。
如果音频内容与动画或视频内容(例如,多媒体演示)相关联,则可将该音频与改变的可视内容重新组合316。例如,可使用分别绑定到音频和可视数据的对应的时间戳来重新同步音频和视频以便由客户机呈现。可压缩音频内容以便传输。例如,可以解压在单独的数据流中传输的已压缩的音频内容并且在与视频内容重新组合时使用时间戳。在其它情况下,可以在公共数据流中传输已压缩音频和已压缩改变的视频内容。
图4公开了用于将改变的可视数据作为覆盖图来提供的示例性过程和指令。例如,以下讨论的技术可被实现为用于远程地呈现改变的视频、动画或其它改变的可视内容的一组计算机可执行指令。
可基于包括屏幕更新频率、宽高比、窗口名称的准则来从其它可视分量中标识包括在屏幕更新402中的未压缩的改变的可视内容404,如果屏幕的一部分被窗口覆盖,则也可考虑屏幕更新的进程名。可以考虑以上标识参数或准则的组合。例如,可基于表示视频的位图的帧更新频率来标识视频,而其它可视内容可保持基本不变。可使用试探性学习技术来改进改变的可视内容的标识。如果未标识改变的可视内容,则可将未改变或仅仅最低限度改变的其它可视内容独立地传递至客户机设备406。例如,如果视频已经停止播放,则可更新其它图形元素并且可以移除先前呈现视频的覆盖图406。
在标识404时,可检查涉及远程地传递和呈现可视内容的各种计算资源以确定这些计算资源是否可用于处理改变的可视内容408。资源考虑事项可包括但不限于编码器可用性、网络带宽、客户机参数、可用服务器处理器能力等。如果可用计算资源不足,则可以不传递改变的可视内容412。例如,如果传递内容的网络不具有足够吞吐量,则可以不发送包括视频内容改变的屏幕更新。
如果计算资源可用,则可基于涉及处理和/或传递改变的可视内容的计算资源408来操纵形成该改变的可视内容的未压缩数据410。例如,根据资源可用性,操纵410可包括指示编码器使用特定编码技术、丢弃帧或屏幕更新、不传递改变的可视内容412、压缩改变的可视内容数据、包括控制信息等。
控制信息可包括关于可用于在重新创建改变的可视内容时指示客户机的子窗口检测和/或几何结构跟踪的数据。在各实现中,控制信息可以与形成改变的可视内容一起编码,而在其它情况下,控制数据可以与形成改变的可视内容的数据同延地传递。控制数据可指定客户机应如何重新创建改变的可视内容。例如,控制数据可指示以下各项中的一个或多个:用于呈现视频的覆盖图的大小、覆盖图的宽高比、覆盖图的位置等。
可以单独地处理最低限度改变或不改变的其它可视元素。例如,虽然可以按第一方式处理视频内容,但可以按第二方式处理和/或传递未改变的图形元素。例如,最低限度改变的项目可经由不同的方法、以不同的更新间隔等来传递。
如果音频内容与改变的可视内容相关联,则可以实现时间戳414以便协调改变的可视内容和可以分开处理的音频内容。例如,可将时间戳与视频包括在一起以使得可将音频与客户机设备上的视频覆盖图相匹配。以此方式,音频可以按音频专用方式传递,而改变的可视内容可以如此处所讨论的那样处理和/或传递。
可根据所确定的计算资源来传递已编码的改变的可视内容416。例如,如果相对大量网络带宽可用(与改变的可视内容相比),则可使用较简单的算法,该算法可使用较少的计算资源来编码/解码。相反,如果带宽是非常珍贵的,则可使用较复杂的算法,该算法消耗较少带宽但可能加重编码器和/或解码器的负担。
从客户机侧,客户机可解码改变的可视内容以便呈现为覆盖图418。改变的可视内容可被呈现为覆盖图,该覆盖图覆盖未改变或以最低限度的方式改变的可视内容。覆盖图可基于提供可视内容的服务器系统所转发的控制信息来重新创建。例如,可使用子窗口跟踪、几何结构跟踪技术来生成和/或重新创建改变的可视内容以使该可视内容如在屏幕更新402处所配置和安排的那样出现。诸如未改变或最低限度改变的其它可视内容可以覆盖在改变的可视内容的上方。例如,弹出窗口可遮蔽改变的可视内容覆盖图的一部分。
如果音频内容与动画或视频内容相关联(例如,多媒体演示),则可将该音频与改变的可视内容进行匹配420。例如,可使用分别绑定到音频和可视数据的对应的时间戳来重新同步覆盖图中的音频和视频以便由客户机呈现。
结论
虽然已经用结构特征和/或方法动作特定的语言描述了本发明,但是应该理解在所附权利要求中定义的本发明不必限于所述具体特征或动作。相反,这些具体特征和动作是作为实现要求保护的发明的示例性形式而公开的。
Claims (12)
1.一种在计算系统上实现的用于向远程客户机发送可视内容的方法,包括:
标识所述可视内容,所述可视内容包括改变的可视内容和最小改变的可视内容;
区分所述改变的可视内容与所述最小改变的可视内容;
标识与所述改变的可视内容相关联的音频内容,所述音频内容和所述改变的可视内容包括相应的时间戳;
将所述音频内容以音频专用的方式发送到所述远程客户机;
将所述改变的可视内容以第一方式发送到所述远程客户机;
将所述最小改变的可视内容以第二方式发送到所述远程客户机,
所述相应的时间戳使得所述远程客户机能够将发送的音频内容和发送的改变的可视内容同步。
2.如权利要求1所述的方法,其特征在于,所述改变的可视内容是基于以下中的至少一个来被标识的:
更新频率、宽高比、窗口标识、以及进程名。
3.如权利要求1所述的方法,其特征在于,所述相应的时间戳使得所述远程客户机将发送的改变的可视内容覆盖在发送的音频内容之上。
4.如权利要求1所述的方法,其特征在于,所述改变的可视内容是以下至少之一:
动画、视频内容、以及过渡。
5.如权利要求1所述的方法,其特征在于,发送改变的可视内容进一步包括:
发送控制信息,所述控制信息用于在所述远程客户机处将所述改变的可视内容重新创建为所述最小改变的可视内容上的覆盖图,其中所述控制信息包括以下至少之一:子视频窗口检测数据和几何结构跟踪数据。
6.如权利要求1所述的方法,其特征在于,还包括:
评估可用资源,包括以下中的两个或更多:
评估服务器上可用的资源;
评估将所述服务器和所述远程客户机通信上耦合的网络上可用的资源;
评估所述远程客户机上可用的资源;以及
至少部分地基于对可用资源的评估来操纵所述改变的可视内容。
7.如权利要求6所述的方法,其特征在于,操纵所述改变的可视内容包括以下至少之一:
压缩形成所述改变的可视内容的数据、丢弃屏幕更新、以及丢弃视频帧。
8.一种用于向远程客户机发送可视内容的系统,所述系统包括:
用于接收所述可视内容的装置,所述可视内容包括改变的可视内容和最小改变的可视内容;
用于区分所述改变的可视内容与所述最小改变的可视内容的装置;
用于标识与所述改变的可视内容相关联的音频内容的装置,所述音频内容和所述改变的可视内容包括相应的时间戳;
用于将所述音频内容以音频专用的方式发送到所述远程客户机的装置;
用于将所述改变的可视内容以第一方式发送到所述远程客户机的装置;
用于将所述最小改变的可视内容以第二方式发送到所述远程客户机的装置,
所述相应的时间戳使得所述远程客户机能够将发送的音频内容和发送的改变的可视内容同步。
9.如权利要求8所述的系统,其特征在于,所述改变的可视内容是基于以下中的至少一个来被标识的:
更新频率、宽高比、窗口标识、以及进程名。
10.如权利要求8所述的系统,其特征在于,所述改变的可视内容是通过使用屏幕更新率作为阈值来被标识的。
11.如权利要求8所述的系统,其特征在于,所述相应的时间戳使得所述远程客户机将发送的改变的可视内容覆盖在发送的音频内容之上。
12.如权利要求8所述的系统,其特征在于,还包括:
用于评估可用资源的装置,包括以下中的两个或更多:
用于评估服务器上可用的资源的装置;
用于评估将所述服务器和所述远程客户机通信上耦合的网络上可用的资源的装置;
用于评估所述远程客户机上可用的资源的装置;以及
用于至少部分地基于对可用资源的评估来操纵所述改变的可视内容的装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US11/957,321 | 2007-12-14 | ||
US11/957,321 US8890874B2 (en) | 2007-12-14 | 2007-12-14 | Changing visual content communication |
CN2008801212626A CN101897181B (zh) | 2007-12-14 | 2008-11-26 | 改变可视内容通信 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2008801212626A Division CN101897181B (zh) | 2007-12-14 | 2008-11-26 | 改变可视内容通信 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103151023A CN103151023A (zh) | 2013-06-12 |
CN103151023B true CN103151023B (zh) | 2015-11-18 |
Family
ID=40752619
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2008801212626A Active CN101897181B (zh) | 2007-12-14 | 2008-11-26 | 改变可视内容通信 |
CN201310060728.9A Active CN103151023B (zh) | 2007-12-14 | 2008-11-26 | 向远程客户机发送可视内容的方法和系统 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2008801212626A Active CN101897181B (zh) | 2007-12-14 | 2008-11-26 | 改变可视内容通信 |
Country Status (8)
Country | Link |
---|---|
US (3) | US8890874B2 (zh) |
EP (1) | EP2232858B1 (zh) |
JP (1) | JP2011507401A (zh) |
KR (1) | KR101560850B1 (zh) |
CN (2) | CN101897181B (zh) |
BR (1) | BRPI0820978A2 (zh) |
RU (1) | RU2506715C2 (zh) |
WO (1) | WO2009079190A2 (zh) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8890874B2 (en) | 2007-12-14 | 2014-11-18 | Microsoft Corporation | Changing visual content communication |
US20100023485A1 (en) * | 2008-07-25 | 2010-01-28 | Hung-Yi Cheng Chu | Method of generating audiovisual content through meta-data analysis |
US9854254B2 (en) | 2009-08-04 | 2017-12-26 | Avocent Corporation | Method and system for remote viewing of static and video images |
US20110154214A1 (en) * | 2009-12-18 | 2011-06-23 | Microsoft Corporation | Offloading Content Retrieval And Decoding In Pluggable Content-Handling Systems |
JP5471794B2 (ja) * | 2010-05-10 | 2014-04-16 | 富士通株式会社 | 情報処理装置、画像送信プログラム及び画像表示方法 |
US8493981B2 (en) * | 2010-11-03 | 2013-07-23 | Broadcom Corporation | Switch module |
US9276972B2 (en) | 2010-12-14 | 2016-03-01 | Microsoft Technology Licensing, Llc | Real-time media optimization over remoted sessions |
US8745122B2 (en) | 2011-06-14 | 2014-06-03 | At&T Intellectual Property I, L.P. | System and method for providing an adjunct device in a content delivery network |
US8902248B1 (en) | 2011-07-14 | 2014-12-02 | Vmware, Inc. | Method and system for measuring display performance of a remote application |
US20140046923A1 (en) | 2012-08-10 | 2014-02-13 | Microsoft Corporation | Generating queries based upon data points in a spreadsheet application |
JP2014200074A (ja) * | 2013-03-15 | 2014-10-23 | 株式会社リコー | 配信制御システム、配信制御方法、及びプログラム |
FR3009916A1 (fr) * | 2013-08-26 | 2015-02-27 | Orange | Procede et dispositif d'enrichissement d'une communication |
US9674265B2 (en) * | 2013-11-04 | 2017-06-06 | Vmware, Inc. | Filtering unnecessary display updates for a networked client |
US9674518B2 (en) | 2013-12-20 | 2017-06-06 | Vmware, Inc. | Measuring remote video display with embedded pixels |
US9699247B2 (en) | 2014-06-17 | 2017-07-04 | Vmware, Inc. | User experience monitoring for application remoting |
EP3029943B1 (en) * | 2014-12-04 | 2018-01-31 | Axis AB | Method and device for determining properties of a graphical overlay for a video stream |
US10255021B2 (en) * | 2015-05-28 | 2019-04-09 | Qualcomm Incorporated | Low latency screen mirroring |
CN107613357B (zh) * | 2017-09-13 | 2020-05-19 | 广州酷狗计算机科技有限公司 | 声画同步优化方法、装置及可读存储介质 |
DE102017218201A1 (de) | 2017-10-12 | 2019-04-18 | Robert Bosch Gmbh | Übertragungsverfahren |
DE102017218203A1 (de) | 2017-10-12 | 2019-04-18 | Robert Bosch Gmbh | Verfahren zur Übertragung von Daten von einem Server auf ein Endgerät und entsprechendes Kommunikationssystem |
CN110708591B (zh) * | 2018-07-10 | 2022-04-26 | 杭州海康威视系统技术有限公司 | 一种图像处理方法、装置及电子设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0920219A2 (en) * | 1997-11-26 | 1999-06-02 | Nec Corporation | Audio/video synchronous reproducer enabling accurate synchronization between audio and video data and a method of audio/video synchronous reproduction |
CN1399422A (zh) * | 2001-07-30 | 2003-02-26 | 三星电子株式会社 | 视频/图形数据的远程显示控制 |
CN1507243A (zh) * | 2002-12-10 | 2004-06-23 | Lg������ʽ���� | 移动远程通信终端的视频覆盖装置 |
CN1638456A (zh) * | 2003-09-19 | 2005-07-13 | 微软公司 | 叠加有图形用户界面和缩小图像的全屏图像 |
CN1992890A (zh) * | 2005-10-11 | 2007-07-04 | 美国博通公司 | 提供媒体节目的装置及方法 |
KR20070070534A (ko) * | 2005-12-29 | 2007-07-04 | 삼성테크윈 주식회사 | 실시간 전송 프로토콜을 사용하는 비디오 서버의 제어 방법및 그 기록 매체 |
Family Cites Families (45)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5623588A (en) * | 1992-12-14 | 1997-04-22 | New York University | Computer user interface with non-salience deemphasis |
JP3298029B2 (ja) | 1993-03-16 | 2002-07-02 | 株式会社日立製作所 | 映像表示制御方法、映像表示処理システム |
US5621429A (en) | 1993-03-16 | 1997-04-15 | Hitachi, Ltd. | Video data display controlling method and video data display processing system |
KR100322727B1 (ko) | 1995-10-24 | 2002-06-20 | 윤종용 | 2차원/스테레오영상변환방법및장치 |
US6343313B1 (en) | 1996-03-26 | 2002-01-29 | Pixion, Inc. | Computer conferencing system with real-time multipoint, multi-speed, multi-stream scalability |
US6349301B1 (en) * | 1998-02-24 | 2002-02-19 | Microsoft Corporation | Virtual environment bystander updating in client server architecture |
US6959449B1 (en) | 1998-06-08 | 2005-10-25 | Sony Corporation | System and method for simultaneously accessing video data and internet page data |
US6637031B1 (en) | 1998-12-04 | 2003-10-21 | Microsoft Corporation | Multimedia presentation latency minimization |
US6624761B2 (en) | 1998-12-11 | 2003-09-23 | Realtime Data, Llc | Content independent data compression method and system |
US6564380B1 (en) | 1999-01-26 | 2003-05-13 | Pixelworld Networks, Inc. | System and method for sending live video on the internet |
KR20010036581A (ko) | 1999-10-09 | 2001-05-07 | 손동주 | 실시간 자동 배경 분리 장치 및 그 방법 |
JP4532761B2 (ja) | 2000-03-03 | 2010-08-25 | キヤノン株式会社 | 近接場光による露光方法 |
US20020091762A1 (en) | 2000-03-07 | 2002-07-11 | Yahoo! Inc. | Information display system and methods |
US7274368B1 (en) | 2000-07-31 | 2007-09-25 | Silicon Graphics, Inc. | System method and computer program product for remote graphics processing |
US6704024B2 (en) * | 2000-08-07 | 2004-03-09 | Zframe, Inc. | Visual content browsing using rasterized representations |
WO2002021238A2 (en) | 2000-09-08 | 2002-03-14 | United Virtualities, Inc. | Computerized advertising method and system |
EP1267278A1 (en) | 2001-06-12 | 2002-12-18 | Caplin Systems Limited | Streaming of real-time data to a browser |
CN1399442A (zh) | 2001-07-20 | 2003-02-26 | 方程式资讯股份有限公司 | 网络市场商品搜寻装置与方法 |
US7266616B1 (en) | 2001-08-08 | 2007-09-04 | Pasternak Solutions Llc | Method and system for digital rendering over a network |
US7046269B2 (en) | 2001-10-16 | 2006-05-16 | Sprint Communications Company L.P. | Sharing of prerecorded motion video over an internetwork |
US7562397B1 (en) * | 2002-02-27 | 2009-07-14 | Mithal Ashish K | Method and system for facilitating search, selection, preview, purchase evaluation, offering for sale, distribution, and/or sale of digital content and enhancing the security thereof |
US6957392B2 (en) | 2002-01-16 | 2005-10-18 | Laszlo Systems, Inc. | Interface engine providing a continuous user interface |
WO2003088694A1 (en) | 2002-04-09 | 2003-10-23 | Nortel Networks Limited | Tandem-free operation (tfo) capable communication apparatus |
JP2004056777A (ja) | 2002-05-30 | 2004-02-19 | Matsushita Electric Ind Co Ltd | 無線遠隔操作システム |
JP2004166132A (ja) | 2002-11-15 | 2004-06-10 | Ricoh Co Ltd | 画像送信装置、ネットワークシステム、プログラム及び記憶媒体 |
JP2004166156A (ja) | 2002-11-15 | 2004-06-10 | Ricoh Co Ltd | 画像送信装置、ネットワークシステム、プログラム及び記憶媒体 |
US7039247B2 (en) | 2003-01-31 | 2006-05-02 | Sony Corporation | Graphic codec for network transmission |
US7219127B2 (en) | 2003-03-13 | 2007-05-15 | Oracle International Corporation | Control unit operations in a real-time collaboration server |
US7088374B2 (en) | 2003-03-27 | 2006-08-08 | Microsoft Corporation | System and method for managing visual structure, timing, and animation in a graphics processing system |
EP2426940A1 (en) | 2003-09-15 | 2012-03-07 | The DirecTV Group, Inc. | Method and system for adaptive transcoding and transrating in a video network |
US7839419B2 (en) | 2003-10-23 | 2010-11-23 | Microsoft Corporation | Compositing desktop window manager |
JP2006173962A (ja) | 2004-12-15 | 2006-06-29 | Nec Engineering Ltd | 画像符号化装置 |
US7548657B2 (en) | 2005-06-25 | 2009-06-16 | General Electric Company | Adaptive video compression of graphical user interfaces using application metadata |
US20070028286A1 (en) | 2005-07-28 | 2007-02-01 | Greene David P | Systems, methods, and media for detecting content change in a streaming image system |
US20070112971A1 (en) | 2005-11-14 | 2007-05-17 | Infodraw Ltd. | Real time video streaming and data collaboration over wireless networks |
KR20060031829A (ko) | 2006-03-21 | 2006-04-13 | 뷰웨이 주식회사 | 움직이는 객체 영역 검출을 위한 적응 배경 학습 방법 |
US9395905B2 (en) * | 2006-04-05 | 2016-07-19 | Synaptics Incorporated | Graphical scroll wheel |
US20080270110A1 (en) * | 2007-04-30 | 2008-10-30 | Yurick Steven J | Automatic speech recognition with textual content input |
US8890874B2 (en) | 2007-12-14 | 2014-11-18 | Microsoft Corporation | Changing visual content communication |
US9135024B2 (en) | 2008-11-30 | 2015-09-15 | Red Hat Israel, Ltd. | Playing multimedia content at remote graphics display client |
US9025898B2 (en) | 2009-04-06 | 2015-05-05 | Red Hat Israel, Ltd. | Dynamically selecting compression method for graphics remoting |
US8355585B2 (en) | 2009-05-12 | 2013-01-15 | Red Hat Israel, Ltd. | Data compression of images using a shared dictionary |
US8392596B2 (en) | 2009-05-26 | 2013-03-05 | Red Hat Israel, Ltd. | Methods for detecting and handling video and video-like content in remote display system |
JP2011128792A (ja) | 2009-12-16 | 2011-06-30 | Toshiba Corp | メモリ管理装置 |
US20130039408A1 (en) | 2011-02-07 | 2013-02-14 | Screenovate Technologies Ltd | Method for enhancing compression and transmission process of a screen image |
-
2007
- 2007-12-14 US US11/957,321 patent/US8890874B2/en active Active
-
2008
- 2008-11-26 BR BRPI0820978-2A patent/BRPI0820978A2/pt not_active IP Right Cessation
- 2008-11-26 EP EP08861110.8A patent/EP2232858B1/en active Active
- 2008-11-26 WO PCT/US2008/084975 patent/WO2009079190A2/en active Application Filing
- 2008-11-26 RU RU2010129037/07A patent/RU2506715C2/ru active
- 2008-11-26 CN CN2008801212626A patent/CN101897181B/zh active Active
- 2008-11-26 KR KR1020107014979A patent/KR101560850B1/ko active IP Right Grant
- 2008-11-26 CN CN201310060728.9A patent/CN103151023B/zh active Active
- 2008-11-26 JP JP2010538040A patent/JP2011507401A/ja active Pending
-
2014
- 2014-10-03 US US14/506,111 patent/US9082337B2/en active Active
-
2015
- 2015-06-05 US US14/731,717 patent/US9330634B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0920219A2 (en) * | 1997-11-26 | 1999-06-02 | Nec Corporation | Audio/video synchronous reproducer enabling accurate synchronization between audio and video data and a method of audio/video synchronous reproduction |
CN1399422A (zh) * | 2001-07-30 | 2003-02-26 | 三星电子株式会社 | 视频/图形数据的远程显示控制 |
CN1507243A (zh) * | 2002-12-10 | 2004-06-23 | Lg������ʽ���� | 移动远程通信终端的视频覆盖装置 |
CN1638456A (zh) * | 2003-09-19 | 2005-07-13 | 微软公司 | 叠加有图形用户界面和缩小图像的全屏图像 |
CN1992890A (zh) * | 2005-10-11 | 2007-07-04 | 美国博通公司 | 提供媒体节目的装置及方法 |
KR20070070534A (ko) * | 2005-12-29 | 2007-07-04 | 삼성테크윈 주식회사 | 실시간 전송 프로토콜을 사용하는 비디오 서버의 제어 방법및 그 기록 매체 |
Also Published As
Publication number | Publication date |
---|---|
WO2009079190A2 (en) | 2009-06-25 |
US9082337B2 (en) | 2015-07-14 |
US8890874B2 (en) | 2014-11-18 |
KR20100103558A (ko) | 2010-09-27 |
EP2232858B1 (en) | 2019-01-23 |
RU2010129037A (ru) | 2012-01-20 |
JP2011507401A (ja) | 2011-03-03 |
EP2232858A2 (en) | 2010-09-29 |
US9330634B2 (en) | 2016-05-03 |
CN101897181B (zh) | 2013-03-27 |
EP2232858A4 (en) | 2011-05-11 |
US20090153585A1 (en) | 2009-06-18 |
WO2009079190A3 (en) | 2009-08-13 |
CN101897181A (zh) | 2010-11-24 |
CN103151023A (zh) | 2013-06-12 |
BRPI0820978A2 (pt) | 2015-06-16 |
US20150279337A1 (en) | 2015-10-01 |
RU2506715C2 (ru) | 2014-02-10 |
US20150054835A1 (en) | 2015-02-26 |
KR101560850B1 (ko) | 2015-10-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103151023B (zh) | 向远程客户机发送可视内容的方法和系统 | |
CN102203760B (zh) | 为客户端提供高保真显示和交互性的远程计算平台 | |
CN109510990B (zh) | 图像处理方法及装置、计算机可读存储介质、电子设备 | |
US8438492B2 (en) | Apparatus and method for providing user interface service in a multimedia system | |
US9609338B2 (en) | Layered video encoding and decoding | |
MXPA01000893A (es) | Acceso remoto a computadora. | |
CN105165009B (zh) | 一种多可视化组件屏幕共享的系统,装置,和方法 | |
CN104685873B (zh) | 编码控制设备以及编码控制方法 | |
AU2010260683B2 (en) | Apparatus and method for transmitting and receiving a user interface in a communication system | |
CN112035081A (zh) | 投屏方法、装置、计算机设备及存储介质 | |
CN110636305A (zh) | 图像渲染和编码方法及相关装置 | |
US20110269508A1 (en) | Communication between a server and a terminal | |
KR20020019554A (ko) | Mpeg-4 원격 액세스 단말기를 갖는 통신 시스템 | |
CN101009836A (zh) | 基于双处理器的嵌入式视频播放装置 | |
US20140327698A1 (en) | System and method for hybrid graphics and text rendering and client computer and graphics processing unit incorporating the same | |
CN101622873B (zh) | 由服务器播送音频和视频数据序列的方法 | |
CN110427116B (zh) | 一种降低kvm系统鼠标延迟的方法及kvm系统 | |
CN116781973B (zh) | 视频编解码方法、装置、存储介质和电子设备 | |
CN101411193B (zh) | 更新解码器配置的方法和装置 | |
CN116781973A (zh) | 视频编解码方法、装置、存储介质和电子设备 | |
CN113973206A (zh) | 编码方法和装置、及虚拟化应用系统 | |
CN117201843A (zh) | 井下智能监控视频安全传输方法、系统、设备及其介质 | |
JP5593514B2 (ja) | スクリーンフレームの符号化方法、及び、それを応用した電子装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
ASS | Succession or assignment of patent right |
Owner name: MICROSOFT TECHNOLOGY LICENSING LLC Free format text: FORMER OWNER: MICROSOFT CORP. Effective date: 20150720 |
|
C41 | Transfer of patent application or patent right or utility model | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20150720 Address after: Washington State Applicant after: Micro soft technique license Co., Ltd Address before: Washington State Applicant before: Microsoft Corp. |
|
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |