CN103339600B - 立即远程呈现 - Google Patents

立即远程呈现 Download PDF

Info

Publication number
CN103339600B
CN103339600B CN201180058046.3A CN201180058046A CN103339600B CN 103339600 B CN103339600 B CN 103339600B CN 201180058046 A CN201180058046 A CN 201180058046A CN 103339600 B CN103339600 B CN 103339600B
Authority
CN
China
Prior art keywords
application program
operating system
mobile
desktop
environment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201180058046.3A
Other languages
English (en)
Other versions
CN103339600A (zh
Inventor
W.刘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Flex Electronics Id Co ltd
Original Assignee
Flex Electronics Id Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Flex Electronics Id Co ltd filed Critical Flex Electronics Id Co ltd
Publication of CN103339600A publication Critical patent/CN103339600A/zh
Application granted granted Critical
Publication of CN103339600B publication Critical patent/CN103339600B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • G06F9/452Remote windowing, e.g. X-Window System, desktop virtualisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/393Arrangements for updating the contents of the bit-mapped memory
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/395Arrangements specially adapted for transferring the contents of the bit-mapped memory to the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/399Control of the bit-mapped memory using two or more bit-mapped memories, the operations of which are switched in time, e.g. ping-pong buffers

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Stored Programmes (AREA)
  • User Interface Of Digital Computer (AREA)
  • Information Transfer Between Computers (AREA)
  • Digital Computer Display Output (AREA)
  • Telephonic Communication Services (AREA)

Abstract

一种具有在共享的内核上并发地并且独立地运行的移动操作系统和桌面操作系统而不对其进行可视化的移动计算设备。该移动操作系统为移动计算设备提供了适合于移动环境的用户体验。当该移动计算设备与第二用户环境对接时,该桌面操作系统提供了完全的桌面用户体验。交叉环境呈现和用户交互支持在多操作系统计算环境中提供了无缝的计算体验。通过在桌面操作系统内呈现应用程序的应用程序图形而在桌面操作系统的环境内提供了在移动操作系统中运行的应用程序的实时或者立即显示。桌面操作系统的控制台应用程序可以访问来自共享的存储器的应用程序的表面信息并且在与桌面操作系统相关联的计算环境的控制台窗口内呈现应用程序。移动计算设备可以是在修改的安卓内核上运行安卓移动操作系统和全桌面Linux分布的智能电话。

Description

立即远程呈现
相关申请的交叉引用
本申请是非临时的,并且要求2010年10月1日提交的标题为“Multi-OperatingSystem Portable Docking Device”、序列号为No.61/389,117的美国临时申请,2011年7月13日提交的标题为“Dockable Mobile Software Architecture”、序列号为No.61/507,199的美国临时申请,2011年7月13日提交的标题为“Cross-Environment CommunicationFramework”、序列号为No.61/507,201的美国临时申请,2011年7月13日提交的标题为“Multi-Operating System”、序列号为No.61/507,203的美国临时申请,2011年7月13日提交的标题为“Auto-Configuration of a Docked System in Multi-OS Environment”、序列号为No.61/507,206的美国临时申请,以及2011年7月13日提交的标题为“Auto-Wakingof a Suspended Secondary OS in a Dockable System”、序列号为No.61/507,209的美国临时申请的申请日的权益,其中针对所有目的通过引用在此而并入前述优先权申请的全部内容。
技术领域
本申请总地涉及移动计算环境领域,并且更具体地涉及通过在单个移动计算设备中使用多个操作系统来支持多个用户环境。
背景技术
移动计算设备在当今社会变得无处不在。例如,在2008年年底,百分之九十的美国人拥有移动无线设备。同时,移动设备的能力正在快速进步,包括将高级计算能力与移动电话能力进行集成的智能电话。移动提供商已经基于若干不同平台在最近三年内发布了数以百计的新的智能电话(例如,苹果iPhone,Android,BlackBerry,Palm,以及WindowsMobile)。在美国,智能电话在2010年中期的占有率达到了大约23%,并且在一些年龄段超过了35%。在欧洲,智能电话市场从2009年到2010年增长了41%,仅仅在五个最大的欧洲国家,在2010年7月就有超过6000万智能电话用户。
尽管智能电话在普及度和计算能力方面取得进步,但它们提供了有限的用户体验。具体地,它们典型地具有被修改用于移动设备硬件的操作系统和一组受限制的可用于修改后的操作系统的应用程序。例如,许多智能电话运行Google的Android(安卓)操作系统。Android仅仅运行被专门开发用于在基于Java的虚拟机运行时环境中运行的应用程序。另外,尽管Android是基于修改的Linux内核,但它使用与Linux不同的标准C库、系统管理器和服务。相应地,为Linux编写的应用程序在不进行修改或者移植的情况下不能在Android上运行。类似地,苹果的iPhone使用iOS移动操作系统。同样,尽管iOS起源于Mac OS X,但为OS X开发的应用程序不能在iOS上运行。因此,尽管许多应用程序可用于诸如Android和iOA之类的移动操作系统,但许多其它的用于诸如Linux和Mac OS X之类的桌面操作系统的普通应用程序不可用于移动平台。
相应地,智能电话典型地适合于一组有限的用户体验并且提供主要为移动环境设计的应用程序。具体地,智能电话不提供适合的桌面用户体验,它们也不运行多数普通的桌面应用程序。结果,许多用户携带并且使用多个计算设备,包括智能电话、膝上型计算机,和/或平板计算机。在这种情况下,每个设备具有其自身的CPU、存储器、文件存储设备,和操作系统。
智能电话与其它计算设备之间的连接和文件共享涉及通过无线或者有线连接将一个设备(例如,运行移动OS的智能电话)链接到完全不同的第二个设备(例如,运行桌面OS的笔记本、台式机或者平板计算机)。通过在每个设备上单独运行的应用程序之间进行数据同步而跨越各设备共享信息。被典型地称为“同步”的该过程是麻烦的并且通常需要用户的主动管理。
发明内容
本发明的实施例针对在单个移动计算设备中提供智能电话的移动计算体验和辅助终端环境的合适用户体验。辅助终端环境可以是通过有线(例如USB、Firewire、Thunderbolt等等)或者无线(例如蓝牙、WiFi等等)连接而连接到计算设备的视觉呈现设备(例如,监视器或者显示器)、输入设备(例如,鼠标、触控板、触摸屏、键盘等等),以及其它计算外设(例如,HDD、光盘驱动器、存储棒、相机、打印机等等)的某些组合。在实施例中,与移动环境的用户体验相关联的移动操作系统和与辅助终端环境的用户体验相关联的桌面操作系统并发地(concurrently)并且独立地在共享的内核上运行。
根据与各个实施例一致的一个方面,通过迭代地执行以下步骤来保持第一和第二应用程序的应用程序图形,第一和第二应用程序二者被编译用于第一操作系统并且处于第一操作系统内的活动的并发执行中,所述步骤包括:使用第一操作系统计算对第一应用程序的表面的更新,使用第一操作系统呈现更新的第一应用程序的表面以在第一存储位置生成第一图形帧,使用第一操作系统计算对第二应用程序的表面的更新,在第二存储位置存储更新的第二应用程序的表面,该第二存储位置是在共享的内核上并发地运行的第一操作系统和第二操作系统二者可访问的共享的存储位置,以及使用第二操作系统的控制台应用程序来呈现更新的第二应用程序的表面以便在第三存储位置生成第二图形帧。
根据与各个实施例一致的其它方面,可以向与第一操作系统相关联的第一计算环境的显示器显示来自第一存储位置的第一图形帧;以及可以向与第二操作系统相关联的第二计算环境的显示器显示来自第三存储位置的第二图形帧。可以经由控制台程序向与第二操作系统相关联的第二计算环境的显示器显示来自第三存储位置的第二图形帧。控制台应用程序可以接收指示更新的表面在第二存储位置可用的绘制通知。接收绘制通知可以包括接收第二存储位置的文件描述符。可以通过进程间通信信道接收绘制通知。该方法可以包括:通过将文件描述符映射到控制台应用程序的处理空间来接收对第二存储位置的参考(reference)和/或通过所述参考来读取第二存储位置以呈现更新的第二应用程序的表面。
根据与各个实施例一致的其它方面,该方法可以包括:将控制台应用程序中的渲染器对象实例化,并且在第一操作系统的图形服务器中注册渲染器对象的远程接口以便接收第一应用程序的表面的绘制通知。第一操作系统可以是移动操作系统,第二操作系统可以是桌面操作系统。第二应用程序可以与第二操作系统的图形服务器不兼容。第二应用程序可以是Andriod(安卓)应用程序并且第二操作系统的图形服务器可以是X-windows图形服务器。呈现更新的第二应用程序的表面可以包括通过层顺序来合成更新的表面。
根据与各个实施例一致的其它方面,一种移动计算设备包括在第一操作系统内处于活动并发执行中的第一应用程序和第二应用程序。第一图形表面与第一应用程序相关联,并且第一操作系统的图形服务器可操作地呈现第一图形表面以在第一存储位置生成第一图形帧。第二图形表面与第二应用程序相关联,第二图形表面被存储在第二存储位置中,第二存储位置是可由在共享的内核上并发地运行的第一操作系统和第二操作系统二者访问的共享的存储位置。控制台应用程序在第二操作系统内运行,控制台应用程序可操作地呈现第二图形表面以在第三存储位置生成第二图形帧。
根据与各个实施例一致的其它方面,由控制台应用程序实例化渲染器对象,其包括用于呈现第二图形表面以生成第二图形帧的远程方法。控制台应用程序可以从第一操作系统的图形服务器接收指示第二图形表面已经被更新的绘制通知。第二操作系统的图形服务器可以是X-windows类型的图形服务器,第二应用程序可以使用与第二操作系统的X-windows类型的图形服务器不兼容的第一操作系统的图形库。
附图说明
在参考附图中图示了本发明的实施例,其中类似的标号在整个对图的描述中指代类似的元素。
图1图示了根据各个实施例的提供多个用户计算体验的计算环境。
图2图示了根据各个实施例的用于移动计算设备的示例性的系统架构。
图3图示了根据各个实施例的用于计算环境的操作系统架构。
图4图示了采用实施例的各个方面的示例性的计算环境。
图5图示了根据各个实施例的用于计算环境的操作系统架构的方面。
图6更详细地图示了根据各个实施例的、可以用于配置移动计算设备的操作系统架构的示例性的引导例程。
图7图示了根据各个实施例的、用于提供应用程序和/或用户交互空间的交叉环境呈现的操作系统架构配置。
图8图示了根据各个实施例的具有多个用户环境的计算环境。
图9图示了根据各个实施例的交叉环境远程呈现的方面。
图10示出了根据各个实施例的、一种用于在非扩展的渲染上下文(renderingcontext)中进行交叉环境远程呈现的例示性方法的流程图。
图11图示了根据各个实施例的、一种用于交叉环境远程呈现的注册和绘制过程流程。
图12示出了根据各个实施例的、一种用于在非扩展的渲染上下文中进行交叉环境呈现的另一例示性方法的流程图。
图13图示了根据各个实施例的、用于对交叉环境应用程序提供用户交互支持的操作系统架构配置300b。
图14图示了根据各个实施例的、使用非扩展的图形上下文呈现的交叉环境应用程序的用户交互支持的方面。
图15图示了根据各个实施例的、使用扩展的渲染上下文跨越多个OS进行并发的用户界面支持的方面。
图16示出了根据各个实施例的、一种用于在扩展的渲染上下文中进行交叉环境远程呈现的例示性方法的流程图。
图17示出了根据各个实施例的、另一种用于在扩展的渲染上下文中进行交叉环境呈现的例示性方法的流程图。
图18a图示了根据各个实施例的、在扩展的渲染上下文中在交叉环境呈现时可以采用的用户环境。
图18b图示了根据各个实施例的、在扩展的渲染上下文中在交叉环境呈现时可以采用的扩展的输入队列。
图19图示了根据各个实施例的、在扩展的渲染上下文中在交叉环境呈现时可以采用的一种接收输入事件的方法。
图20示出了根据各个实施例的、一种提供镜像的上下文的交叉环境呈现的例示性方法的流程图。
图21示出了根据各个实施例的、另一种提供镜像的上下文的交叉环境呈现的例示性方法的流程图2100。
图22图示了根据各个实施例的、交叉环境重定向的方面。
图23图示了根据各个实施例的、一种为执行交叉环境重定向的方面可以采用的例示性方法的流程图。
图24图示了根据各个实施例的、另一种为执行交叉环境重定向的方面可以采用的例示性方法的流程图。
具体实施方式
包括计算能力的移动电话设备(即,智能电话、手机、移动站、便携式通信设备等等)日益普及。这些智能电话中的许多包括在移动处理器上运行的移动操作系统(“OS”)。尽管移动处理器和移动OS已经增加了这些设备的能力,但智能电话还没有取代诸如桌面或者笔记本计算机之类的个人计算机(“PC”)环境(即,Windows,Mac OS X,Linux)的趋势,这至少是因为其提供的用户体验有限。具体地,在智能电话上看到的(多个)用户接口设备典型地被裁制为适应移动环境。例如,智能电话典型地使用小的拇指风格的QWERTY键盘、触摸屏显示器、棘轮,和/或滚轮作为用户接口设备。移动OS、以及为移动OS开发的应用程序(即,“Apps”)典型地被设计用于包括移动处理器和在移动设备上存在的(多个)用户接口设备的移动环境的约束条件。因此,已经为PC操作环境开发的许多应用程序不可用于移动OS(即,不能被编译并且不能在移动OS上运行)。另外,对于诸如打字或者编辑文档之类的某些任务,全尺寸键盘和大显示器比典型地在智能电话上看到的用户接口组件更易使用。
相应地,用户典型地使用单独的计算设备用于每种计算体验,包括智能电话、平板计算机、膝上型计算机,和/或桌面计算机。在这种情况下,每个设备具有其自身的CPU、存储器、文件存储设备,和OS。智能电话与其它设备之间的连接和文件共享涉及通过无线或者有线连接将一个设备(例如,运行移动OS的智能电话)链接到完全不同的第二设备(例如,运行桌面OS的笔记本、台式机或者平板计算机)。通过在每个设备上单独运行的应用程序之间进行数据同步而跨越各设备共享信息。典型地被称为“同步”的该过程是麻烦的并且通常需要用户的主动管理。
图1图示了根据各个实施例的计算环境100,其利用包括与单独的用户交互空间(即,用户环境)相关联的多个操作系统的移动设备提供了多种用户计算体验。计算环境100的第一用户交互空间115包括移动计算设备110的(多个)显示器116和I/O设备118。当移动计算设备110作为单机移动设备操作时,移动OS130通过用户交互空间115呈现典型的移动计算用户体验。由移动OS130提供的移动计算体验典型地包括移动电话能力以及适合于包括(多个)显示器116和(多个)I/O设备118的用户交互空间115的图形用户界面(“GUI”)。例如,(多个)显示器116可以是(多个)触摸屏显示器,并且可以使用(多个)触摸屏显示器116主要通过移动OS130的基于手势的GUI来控制在移动OS130上运行的应用程序(即,“Apps”)。
在计算环境100中,移动计算设备110可以与包括I/O设备144、146和/或148的辅助终端环境140对接(dock)。在实施例中,通过将移动计算设备110的端口120连接到辅助终端环境140的端口142而将移动计算设备110与辅助终端环境140对接。在这种情况下,辅助终端环境140呈现计算环境100的第二用户交互空间。在某些情况下,第二用户交互空间可以更适合于桌面计算体验。在这些情况下,桌面OS160可以与辅助终端环境140相关联以便通过第二用户交互空间提供笔记本计算机、平板计算机,或者桌面计算机环境的完整能力。
在实施例中,移动OS130和桌面OS160在移动计算设备110的处理器上的共享内核上并发地运行。在2011年8月24日提交的题为“MULTI-OPERATING SYSTEM”的美国专利申请NO.13/217,108中更详细地描述了在共享的内核上并发执行移动OS和桌面OS,在此通过引用将其并入。以此方式,单个移动计算设备可以通过第一用户交互空间提供移动计算体验并且通过第二用户交互空间提供桌面计算体验。尽管携带一个可以通过单独的用户交互空间并发地执行多个操作系统的移动设备的能力解决了用户的多个问题,但每个用户交互空间(通过并发地运行移动OS和桌面OS)通常提供了单独的一组可用的应用程序和用户功能。
本发明的实施例针对便于在第二OS(例如,桌面OS160)内以看得见的方式执行第一OS(例如移动OS130)中运行的应用程序,其中第一和第二OS在共享的内核上并发地运行。值得注意的,对于被编译用于第一(例如,非兼容的)OS并且在第一OS中运行的应用程序而言,在第二OS中向用户提供输入(例如,输入设备)和输出(例如,显示器、音频等)支持涉及要解决多个问题。当处理并发运行的多个应用程序的显示和交互性时,可能出现附加的问题。
例如,考虑第一和第二应用程序二者被编译用于第一OS并且在第一OS上并发地运行。然而,用户期望通过与第一OS相关联的输入/输出设备(例如使用移动计算环境的触摸屏显示器)观看第一应用程序的图形输出并且与第一应用程序交互,以及通过与第二OS相关联的输入/输出设备(例如使用桌面计算环境的显示器、键盘,以及鼠标)观看第二应用程序的图形输出并且与第二应用程序交互。处理这种情形涉及并发地处理多个显示环境中的图形并且并发地处理全部在单独的(例如非兼容的)操作系统上的单独的应用程序的多个输入/输出流。
相应地,实施例提供了各种新颖的技术用于:在第二OS的用户交互空间内访问第一OS的应用程序,在第二OS的用户交互空间内显示在第一OS中运行的应用程序,以及通过第二OS的用户交互空间处理与那些应用程序的用户交互。实施例包括支持交叉环境应用程序的各种显示和用户交互特征的第二OS的控制台应用程序(console application)。
一组实施例使用所谓的“非扩展的”渲染上下文提供对跨越多个OS计算环境的并发的用户界面支持的技术。另一组实施例使用所谓的“扩展的”渲染上下文提供对跨越多个OS计算环境的并发的用户界面支持的技术。又一组实施例使用所谓的“镜像的”上下文提供对跨越多个OS的并发的用户界面支持的技术。再一组实施例提供从第二OS的用户交互空间到第一OS上可用的应用程序的访问。以下将更充分地描述这些组的实施例中的每一个。
如上所述,计算环境100通过与并发地运行多个操作系统的移动设备相关联的多个用户交互空间来提供多种用户计算体验。具体地,因为移动计算设备110包括多个OS,其中每个OS适合于特定的计算环境,移动计算设备110可用适配于外部I/O设备以便利用单个移动计算设备提供宽范围的用户体验。例如,用户可能具有移动计算设备110和在膝上型外壳内包括键盘、显示器、和/或(多个)定点设备的辅助终端环境140。当移动计算设备110与膝上型类型的辅助终端环境对接时,通过辅助终端环境140可得到桌面OS160的完整能力。
图2图示了根据各个实施例的移动计算环境110的示例性的硬件系统架构。移动计算设备硬件112包括移动处理器114,移动处理器114包括一个或多个CPU核204以及外部显示接口220。通常,移动计算设备硬件112还包括I/O设备118、存储器206、存储设备208、连接到触摸屏显示器116的触摸屏显示器控制器210、连接到电池216的电源管理IC214、蜂窝调制解调器218、通信设备222,和/或通过各种通信信号和接口连接到处理器114的其它设备224。I/O设备118通常包括按钮以及在移动计算设备110中可以采用的其它用户接口组件。例如,I/O设备118可以包括一组按钮(例如,回退、菜单、主屏、搜索等等)、屏外(off-screen)手势区、棘轮、滚轮、QWERTY键盘等等。其它设备224可以包括例如,GPS设备、LAN连接、麦克风、扬声器、相机、加速计,和/或MS/MMC/SD/SDIO卡接口。外部显示接口220可以是任何适合的显示接口(例如,VGA、DVI、HDMI等等)。
处理器114可以是基于ARM的移动处理器。在实施例中,移动处理器114是基于ARM的移动处理器,诸如德州仪器OMAP3430、Marvell PXA320、Freescale iMX51,或者QualcommQSD8650/8250。然而,移动处理器114可以是另一种基于ARM的适合的移动处理器或者基于其它处理器架构(诸如例如基于x86处理器架构或者基于其它RISC处理器架构)的处理器。
尽管图2图示了用于移动计算设备110的一种示例性的硬件实现方式112,但是其它架构也是在本发明的范围之内可以想到的。例如,图2中图示的移动处理器114外部的各种组件可以被集成到移动处理器114中。可选地,图2中所示的被集成到移动处理器114内部的外部显示接口220可以位于移动处理器114的外部。另外,采用系统总线、离散的图形处理器,和/或其它架构性变型的其它计算机架构也适合于采用本发明的方面。
图3图示了根据各个实施例的可以采用来在移动计算设备110上并发地运行移动OS130和桌面OS160的OS架构300。如图3图示的,移动OS130和桌面OS160是独立的操作系统。具体地,移动OS130和桌面OS160可以具有独立并且不兼容的用户库、图形系统,和/或框架层。可以将OS架构300的功能和指令作为计算机程序代码存储在移动计算设备110的有形的计算机可读介质上。例如,可以将OS架构300的指令存储在移动计算设备硬件112的(多个)存储设备208中。
在OS架构300中,移动OS130和桌面OS160在共享的内核320上并发地运行。这意味着移动OS130和桌面OS160同时在共享的内核320上运行。具体地,移动OS130和桌面OS160二者例如通过对共享的内核320进行系统调用而通过同一内核接口322连接到共享的内核320。共享的内核320管理用于移动OS130和桌面OS160二者的处理的任务调度。在这一点上,移动OS130和桌面OS160在共享的内核320上独立地并且并发地运行。另外,如硬件接口312所图示的,共享的内核320直接在移动计算设备硬件112的移动处理器114上运行。具体地,共享的内核320直接管理移动计算设备硬件112的计算资源,诸如CPU调度、存储器访问,和I/O。在这一点上,硬件资源没有被虚拟化,意味着移动OS130和桌面OS160通过内核接口322而不是通过虚拟化的存储器或I/O访问来进行系统调用。
如图3图示,移动OS130具有库层330、应用框架层340,以及应用层350。在移动OS130中,应用352和354在移动OS130的应用框架层340支持的应用层350中运行。应用框架层340包括在移动OS130上运行的应用程序所使用的(多个)管理器342和(多个)服务344。例如,应用框架层340可以包括窗口管理器、活动管理器、分组管理器、资源管理器、电话管理器、手势控制器,和/或用于移动环境的其它管理器和服务。应用框架层340可以包括执行为移动OS130开发的应用程序的移动应用运行时环境。可以针对移动计算资源,诸如低处理功率和/或有限的存储空间,来优化移动应用运行时环境。移动应用运行时环境可能依赖于用于进程隔离、存储器管理以及线程支持的内核。库层330包括实施诸如I/O和字符串操作、图形功能、数据库能力、通信能力,和/或其它功能和能力之类的普通功能的用户库332。
如图3图示的,桌面OS160具有库层360、框架层370,以及应用层380。在桌面OS160中,应用382和384在桌面OS160的应用框架层370支持的应用层380中运行。应用框架层370包括在桌面OS160上运行的应用程序所使用的(多个)管理器372和(多个)服务374。例如,应用框架层370可以包括窗口管理器、活动管理器、分组管理器、资源管理器,和/或桌面环境所共有的其它管理器和服务。库层360可以包括实施诸如I/O和字符串操作、图形功能、数据库能力、通信能力,和/或其它功能和能力之类的普通功能的用户库362。
在本公开的各种实施例中,桌面OS160与移动OS130运行在单独的执行环境中。例如,移动OS130可以运行在根执行环境中,桌面OS160可以运行在根执行环境下建立的次级执行环境中。在移动OS130上运行的处理和应用程序访问根执行环境中的用户库332、(多个)管理器342和(多个)服务344。在桌面OS160上运行的处理和应用程序访问次级执行环境中的用户库362、(多个)管理器372和(多个)服务374。
在实施例中,移动OS130和桌面160是具有不兼容的用户库、图形系统,和/或应用框架的独立的操作系统。因此,为移动OS130开发的应用可能不能直接在桌面OS160上运行,为桌面OS160开发的应用可能不能直接在移动OS130上运行。例如,在移动OS130的应用层350中运行的应用程序352可能与桌面OS160不兼容,这意味着应用程序352不能在桌面OS160上运行。具体地,应用352可能依赖对于桌面OS160的(多个)管理器372、(多个)服务374、和/或库362不可用或者不兼容的移动OS130的(多个)管理器342、(多个)服务344、和/或库332。
结果,移动OS130和桌面OS160可能具有不同组的可用应用程序。在这一点上,OS架构300的移动OS130和桌面OS160通过经由单独的用户交互空间可访问的单独的多组应用程序提供了单独的用户体验。用户可以通过与移动OS130相关联的第一用户交互空间访问移动OS130上可用的(即,被编译用于移动OS130并且被加载到移动OS130的执行环境中的)应用程序,并且通过与桌面OS160相关联的第二用户交互空间访问在桌面OS160上可用的应用程序。
如上所述,移动操作系统典型地不使用与桌面操作系统相同的图形环境。桌面OS的图形环境被设计为针对灵活性和高性能。例如,由某些桌面OS使用的X-window系统以更高的处理和系统资源为代价提供了平台和网络的独立性。相反,移动OS的图形环境被设计为更多地针对效率和移动计算环境的特定用户输入设备而较少地针对灵活性。因为移动OS和桌面OS的图形环境经常不同,所以不能通过将来自移动OS的图形服务器的图形信息重定向到桌面OS的图形服务器而将在移动OS上运行的应用程序重定向为在桌面OS的用户空间中进行显示。
最广泛采用的移动OS是Google(谷歌)的Android(安卓)。尽管Android是基于Linux,但它包括针对移动环境和移动处理器而对内核和其它OS层进行的修改。具体地,尽管Linux内核是针对PC(即,x86)CPU架构设计的,但Android内核是针对基于ARM的移动处理器而修改的。针对在移动硬件架构中典型存在的设备也特别调整了Android设备驱动器,所述移动硬件架构包括触摸屏、移动连接(GSM/EDGE,CDMA,Wi-Fi等等)、电池管理、GPS、加速计,以及相机模块,连同其它设备。另外,Android既不具有原生的X Window System也不支持完整组的标准GNU库,这使得难以将现有的GNU/Linux应用程序或者库移植到Android上。
苹果的(在iPhone上运行的)iOS操作系统和微软的Windows Phone7是针对移动环境和移动硬件架构被类似修改的。例如,尽管从Mac OS X桌面OS中导出iOS,但普通的MacOS X应用程序不能在iOS上原生地运行。具体地,通过标准的开发者套件(“SDK”)开发iOS应用程序以便在iOS的“Cocoa Touch”运行时环境内运行,其对于诸如基于触摸的输入、推送通知和系统服务之类的关键iOS特征提供了基本的应用程序基础结构和支持。因此,为MacOS X编写的应用程序不能在没有移植的情况下在iOS上运行。另外,将Mac OS X应用程序移植到iOS上可能是困难的,这是因为两个OS的用户库和/或应用框架层之间的差异、和/或移动硬件和桌面硬件的系统资源之间的差异。
在与OS架构300一致的一个实施例中,Android移动OS和全Linux OS独立地并且并发地在修改的Android内核上运行。在该实施例中,Android OS可以是修改的Android分布,而Linux OS(“Hydroid”)可以是修改的Debian Linux桌面OS。图4-6更详细地图示了根据各个实施例的可以在OS架构300中采用的Android移动OS430、Android内核520,以及HydroidOS660。
如图4图示的,Android OS430包括通过应用框架层440访问的库层432中的一组C/C++库。库层432包括特别针对Android开发的、要比“glibc”Linux C库更小并更快的“bionic”系统C库439。库层432还包括进程间通信(“IPC”)库436,其包括Android OS的“Binder”IPC机制的基本类。Binder是特别针对Android开发的以便允许进程和服务之间进行通信。图4中的库层432中示出的其它库包括:支持媒体格式的记录和回放的媒体库435、管理对显示子系统的访问以及合成来自多个应用程序的图形层的表面(surface)管理器434、2D和3D图形引擎438,以及轻量关系数据库引擎437。可以被包括在库层432中但是未在图4中画出的其它库包括位图和矢量字体呈现库、公用库、浏览器工具(即,WebKit等等),和/或安全通信库(即,SSL等等)。
Android OS430的应用框架层440提供了开发平台,该开发平台允许开发者使用设备硬件的组件、访问位置信息、运行后台服务、设置警报,向状态栏添加通知,等等。框架层440还允许应用程序公开它们的能力并且使用其它应用程序的所公开的能力。Android移动OS430的应用框架层440的组件包括活动管理器441、资源管理器442、窗口管理器443、对接管理器444、硬件和系统服务445、桌面监视器服务446、多显示器管理器447,以及远程通信服务448。Android移动OS430的框架层440中可以包括的其它组件包括:视图系统、电话管理器、分组管理器、位置管理器,和/或通知管理器,连同其它管理器和服务。
在Android OS430上运行的应用程序在Android面向对象应用框架之上的Android运行时环境433中的Dalvik虚拟机431内运行。Dalvik虚拟机431是基于注册的虚拟机,并且运行被设计用于减少存储器使用和处理需求的紧凑的可执行的格式。在Android OS430上运行的应用程序包括主屏幕451、电子邮件应用程序452、电话应用程序453、浏览器应用程序454,和/或(多个)其它应用程序(“APP(s)”)455。
Android OS图形系统使用客户机/服务器模型。表面管理器(“SurfaceFlinger”)是图形服务器,应用程序是客户机。SurfaceFlinger保持显示器ID的列表并且跟踪向显示器ID分配应用程序。在一个实施例中,移动计算设备110具有多个触摸屏显示器116。在该实施例中,显示器ID0与一个触摸屏显示器116相关联,显示器ID1与另一个触摸屏显示器116相关联。显示器ID2与这两个触摸屏显示器116相关联(即,同时在这两个显示器上显示应用程序)。ID大于2的显示器是虚拟显示器,意味着它们不与在移动计算设备硬件112上物理存在的显示器相关联。
Android应用程序的图形信息包括窗口、视图和画布(canvas)。利用底层表面对象来实现每个窗口、视图,和/或画布。表面对象是双缓冲的(前和后缓冲)并且在绘制的过程中被同步。SurfaceFlinger在共享的存储器池中保持所有的表面,共享的存储器池允许Android内的所有处理访问并且绘制到它们中而不用花费高的拷贝操作并且也不用使用服务器侧的绘制协议,诸如X-Windows。应用程序总是绘制到后缓冲区中,而SurfaceFlinger从前缓冲区进行读取。SurfaceFlinger创建每个表面对象、保持所有的表面对象,并且还为每个应用程序保持表面对象的列表。当应用程序完成在后缓冲区中的绘制时,其向SurfaceFlinger通知事件,这使得后缓冲区互换到前缓冲区,并且将呈现表面信息的任务排队给帧缓冲区。
SurfaceFlinger监视所有的窗口改变事件。当一个或多个窗口改变事件出现时,SurfaceFlinger将表面信息呈现给帧缓冲区用于一个或多个显示。呈现包括合成表面,即,基于表面的维度、透明度、z顺序以及可见性合成最终的图像帧。呈现还可以包括硬件加速(例如,用于图形处理硬件的OpenGL2D和/或3D接口)。SurfaceFlinger在所有的表面对象上循环并且将它们的前缓冲区以其Z顺序呈现给帧缓冲区。
图5更详细地图示了根据各个实施例的修改后的Android内核520。修改后的Android内核520包括触摸屏显示器驱动器521、(多个)相机驱动器522、(多个)蓝牙驱动器523、共享的存储分配器524、(多个)IPC驱动器525、(多个)USB驱动器526、(多个)WiFi驱动器527、(多个)I/O设备驱动器528,和/或功率管理模块530。(多个)I/O驱动器528包括用于外部I/O设备的设备驱动器,所述外部I/O设备包括可以通过端口120连接到移动计算设备110的设备。修改后的Android内核520可以包括其它驱动器和功能块(包括低存储器抑制器(low memory killer)、内核调试器、日志记录能力,和/或其它硬件设备驱动器)。
图6更详细地图示了根据各个实施例的Hydroid OS660。Hydroid是能够运行为标准Linux分布开发的几乎任何应用程序的全Linux OS。具体地,Hydroid OS660的库层662包括支持联网、图形处理、数据库管理、和其它普通程序功能的Linux库。例如,任何库662可以包括“glibc”Linux C库664、Linux图形库662(例如,GTK、OpenGL等等)、Linux公用库661、Linux数据库、和/或其它Linux用户库。应用程序运行在使用X-Server674、窗口管理器673、和/或桌面环境672的X-Windows Linux图形环境内的Hydroid上。图示的应用程序包括字处理器681、电子邮件应用程序682、电子数据表应用程序683、浏览器684和其它(多个)应用程序685。
Linux OS图形系统基于X-windows(或者“X11”)图形系统。X-windows是独立于平台、联网的图形框架。X-windows使用客户机/服务器模型,其中X-server是图形服务器而应用程序是客户机。X-服务器控制与Linux OS相关联的输入/输出硬件,诸如显示器、触摸屏显示器、键盘、(多个)定点设备等等。在这一点上,X-windows提供服务器侧绘制图形架构,即,X-server保持包括窗口和像素映射的可绘制的内容。X-client通过交换用于描述通信信道上的绘制操作的数据分组而与X-server通信。X-client通过标准例程库(“Xlib”)访问X通信协议。例如,X-client可以向X-server发送在客户机窗口上绘制矩形的请求。X-server向X-client发送输入事件,例如键盘或者定点设备输入,和/或窗口移动或者调整大小。输入事件与客户机窗口有关。例如,如果指针在窗口内时用户进行点击,则X-server向与该窗口相关联的X-client发送包括输入事件的分组,所述输入事件包括该动作和与该窗口有关的事件的定位。
因为操作系统框架、图形系统、和/或库中的差异,为Android编写的应用程序通常不能在Hydroid OS660上运行,为标准Linux分布编写的应用程序通常不能在AndroidOS430上运行。在这一点上,Android OS430和Hydroid OS660不是字节码兼容的,这意味着被编译用于其中一个并且对于所述其中一个可执行的程序在另一个上不能运行。
在一个实施例中,Hydroid OS660包括通过共享的内核520便于与Android OS430通信的交叉环境通信框架的组件。这些组件包括IPC库663,其包括Android OS的BinderIPC机制的基础类和远程通信服务671。
在一个实施例中,Hydroid OS660在Android根环境内创建的改变根目录的(chrooted)(利用“chroot”命令创建的)辅助执行环境中运行。在辅助执行环境内运行Hydroid OS660内的处理和应用程序,使得通过这些处理和应用程序看见的外观根目录是辅助执行环境的根目录。以此方式,Hydroid OS660可以在不进行修改的情况下运行为标准Linux发布编写的程序,这是因为Linux用户库662对于在改变根目录的(chrooted)辅助执行环境中的Hydroid OS660上运行的处理是可用的。
参照回到图3,移动OS130和桌面160是在移动设备上共享的内核320上活动并发执行的。移动OS130和桌面OS160可能关于用户库、图形系统,和/或应用框架是不兼容的。因此,移动OS130和桌面OS160具有不同组的可用的应用程序,这意味着至少一些在移动OS130上可用的应用程序在桌面OS160上不可用,反之亦然。相应地,OS架构300的移动OS130和桌面OS160通过经由单独的用户交互空间可访问的不同组的应用程序来提供单独的用户体验。用户可以通过与移动OS130相关联的用户交互空间来访问移动OS130上可用的(即,被编译用于移动OS130并被加载到其执行环境中的)应用程序,并且通过与桌面OS160相关联的用户交互空间访问在桌面OS160上可用的应用程序。
本发明的实施例扩展了OS架构300的功能以便在多OS计算环境中提供更多无缝的计算体验。实施例包括第一操作系统的应用程序和/或用户空间在第二操作系统的用户交互空间中的交叉环境呈现,即便第一操作系统和第二操作系统的图形环境不兼容。实施例还包括交叉环境应用程序的用户交互支持,以及从第二操作系统的用户交互空间访问第一操作系统的应用程序。该功能使得例如在移动OS130上运行的移动OS应用程序能够被与桌面OS160相关联的用户交互空间显示并且与之交互。例如,尽管用户正在通过与桌面OS160相关联的用户交互空间与桌面OS160交互,但用户可能希望访问不可用于桌面OS160(即,不兼容并且不能在其上运行)的移动OS130的特定应用程序。使用以下公开的各个实施例,用户可以通过与桌面OS160相关联的用户交互空间对为移动OS130编译并在其上运行的应用程序进行访问、显示并且与之交互。特别地,实施例向交叉环境交互支持提供了移动OS的任何应用程序,意味着为使用以下的实施例不需要修改移动OS应用程序来包括特定的交换环境支持。
为提供从第二OS(例如,桌面OS160)的用户交互空间对第一OS(例如,移动OS130)的应用程序和/或用户交互空间的无缝交叉环境用户交互支持,可能期望实时地呈现应用程序和/或用户交互空间的图形数据(即,图形上下文或者活动的显示)以供在第二OS的用户交互空间中显示。在该上下文中,实时(或者立即)呈现意味着将应用程序的图形数据足够快地呈现给第二OS的用户交互空间,使得用户可以与应用程序进行交互而不存在由于与图形信息的传递相关联的延迟引起的应用程序性能的明显的或者实质性的降低。在这一点上,如在此所描述的,用于实时(或者立即)交叉环境呈现的技术提供了图形信息的快速传递,例如具有有限的帧数延迟或者与从第一OS到第二OS拷贝或者传递图形信息相关联的其它延迟。然而,这不意味着图形传递不花费任何时间,并且在此公开的交叉环境呈现技术可以被视为是立即的或者实时的,即便在图形信息被显示在第二OS的用户交互空间上之前经过了有限的时间段。
为了实现应用程序的交叉环境呈现,可以从在第一操作系统中运行的应用程序向第二操作系统的图形系统传递潜在的大量图形数据。现有的机制不能够在没有潜在影响显示更新或者帧率的情况下传递所需的图形数据。例如,在移动计算环境的约束条件下直接传递图形数据可能不现实。可以使用压缩技术来减少要传递的总的数据量,但是以增加的压缩和解压缩信息的处理需求为代价。可以使用类似远程桌面的系统来传送矢量图形或者图形更新信息,然而,当传递大量的图形数据或者用于快速改变图形内容时,这些典型地也是缓慢的。
图7图示了根据各个实施例的OS架构配置300a,可以采用该OS架构配置300a来在第二OS的用户交互空间内提供第一OS的应用程序和/或用户交互空间的交叉环境呈现,其中第一OS和第二OS并发地在共享的内核上运行并且与包括单独的显示设备的单独的用户交互空间相关联。OS架构配置300a的组件使得在桌面OS160的用户交互空间内呈现在移动OS130上运行的应用程序和/或移动OS130的图形上下文,其中OS130和桌面OS160在共享的内核320上并发地运行。在各个实施例中,通过桌面OS160的控制台应用程序782在桌面OS160的用户交互空间中的控制台窗口中显示应用程序。在一种实现方式中,控制台应用程序782是通过桌面OS160的X-windows类型图形系统在桌面OS160的用户交互空间内显示的X-windows类型的应用程序。
在OS架构配置300a中,移动OS130包括为移动OS130的应用程序(例如,应用程序752和754)分配和管理表面信息(例如,表面726、727和728)的图形服务器734。在一个实施例中,图形服务器734使用匿名的共享存储器为图形表面分配存储器(即,在进程之间共享被命名的存储器块,这允许内核空闲)。图形服务器734还分配和跟踪移动OS130的显示器,包括移动计算设备硬件112内集成的显示器(即本地显示器)和通过其可以远程显示(即,在另一OS的用户交互空间内的)移动OS130的应用程序的所谓的虚拟显示器。移动OS130还可以包括在与移动OS130相关联的显示屏幕上同时显示多个应用程序的窗口系统。在一个实施例中,移动OS130包括提供用于从桌面OS160访问移动OS130的组件的远程通信信道的服务。
OS架构配置300a包括在移动OS130上运行并且在与移动OS130相关联的第一用户交互空间内显示的第一应用程序752。根据以下描述的实施例,OS架构配置300a包括也在移动OS130上运行但是通过交叉环境呈现而在与桌面OS160相关联的第二用户交互空间内显示的第二应用程序754。在一个实施例中,通过在桌面OS160上运行的控制台应用程序782在第二用户交互空间的控制台窗口内显示应用程序754。
通常,移动OS130的应用程序将用户通过其与应用程序交互的视图实例化(instantiate)。例如,应用程序可以具有组成应用程序窗口的单个视图。在各视图内,应用程序将应用程序界面的特定区域的绘制对象实例化。绘制对象可以被称为画布或者绘制层,并且是应用程序通过其绘制图形信息的对象。当应用程序将画布或者层实例化时,图形服务器734为与画布或者层相关联的表面信息分配存储器并且将绘制对象返回给应用程序,应用程序然后使用其来绘制画布或者层的表面的图形信息。图形服务器734然后监视表面信息并且当表面信息被更新时将表面信息呈现给帧缓冲区(例如,帧缓冲区716)。典型地,用户还通过视图对象与应用程序进行交互。视图对象包括用户在视图对象上执行动作时由移动OS输入队列736调用的事件监听程序(listener)。
如在OS架构300a中图示的,通过图形服务器734在共享的存储器724中分配表面726、727和/或728。共享的存储器724由共享的内核320管理并且通过在移动OS130和桌面OS160上运行的所有进程可访问。如上所述,共享的存储器724可以是被命名的共享存储器。尽管被命名的共享存储器可由在共享的内核320上运行的所有进程访问,但是其它进程不能通过名称来访问被命名的共享存储器的区域。相应地,必须通过进程间通信机制向被命名的共享存储器的区域传送文件描述符以便跨越进程边界向被命名的共享存储器传送参考。共享的内核320还包括IPC驱动器725,其允许移动OS130和桌面OS160中的进程跨越进程边界与另一个进行通信。IPC驱动器725可以是例如Unix域套接字驱动器、AndroidBinder驱动器,和/或网络套接字驱动器。
OS架构配置300a的桌面OS160包括控制台应用程序782和窗口系统774。编译控制台应用程序782并且在桌面OS160上运行,以及在与桌面OS160相关联的用户交互空间中的控制台窗口内显示。窗口系统774可以包括窗口管理器、图形服务器、和/或图形设备接口,所述图形设备接口提供用于表示图形对象并且通过桌面OS帧缓冲区718将图形对象传送给显示设备的基础。例如,窗口系统774可以通过桌面OS帧缓冲区718在桌面OS160的用户交互空间内显示控制台应用程序782。窗口系统774还向控制台应用程序782提供来自与控制台应用程序782相关联的桌面OS160的用户环境的输入事件。例如,窗口系统774可以将来自与桌面OS160相关联的用户交互空间的定点设备位置或者手势信息提供给控制台应用程序782。
在图7中,出于易于图示的原因,将包括共享的存储器724、移动OS帧缓冲区716和桌面OS帧缓冲区718的存储块示为位于共享的内核320内。然而,这些存储块在物理上位于移动计算设备110的有形的存储器存储设备元素内并且由共享的内核320管理。例如,这些存储块可以位于图2中图示的移动计算设备硬件112的处理器114上的RAM中、和/或存储设备206的RAM中。
OS架构配置300a为在与第二操作系统相关联的用户交互空间中交叉环境呈现在共享的内核上运行的第一操作系统的应用程序提供了支持,其中第一和第二操作系统在共享的内核上并发地运行。可以采用OS架构配置300a来提供计算环境中的交叉环境呈现支持,所述计算环境通过多个用户交互空间提供了多种用户计算体验。例如,可以在如图1所图示的计算环境100中使用OS架构配置300a。
图8图示了根据各个实施例的计算环境800。计算环境800具有第一用户环境,该第一用户环境包括移动计算设备硬件112的(多个)触摸屏显示器116和其它I/O设备118。该用户环境表示用户通过其与移动OS130进行交互的第一用户交互空间。计算环境800的第二用户环境包括显示监视器844、键盘846,和/或定点设备848。用户环境840可以通过对接连接器841和对接电缆843连接到移动计算设备110。对接连接器841和对接电缆843可以包括通过对接接口122与移动计算设备110的端口120连接的端口,如图1图示的。在这一点上,用户环境840向移动计算设备110提供了对接的辅助终端环境。在计算环境800中,桌面OS160可以与对接的辅助终端环境840相关联,使得用户可以通过由辅助终端环境840提供的用户交互空间与桌面OS160进行交互。尽管辅助终端环境840被图示为典型的桌面类型的计算环境,但桌面OS160可以通过其它类型的计算环境(包括膝上型、平板,和/或其它类型的计算环境)呈现第二用户交互空间。
可以在计算环境800内使用OS架构配置300a来提供在第一OS(即,移动OS)上运行并在第二OS的用户环境(即,与桌面OS160相关联的用户环境840)中显示的应用程序的交叉环境呈现。例如,可以在桌面OS160的用户交互空间880上的控制台窗口882内显示在移动OS130上运行的应用程序754。用户交互空间880内的其它窗口(包括窗口884和886)可以是在桌面OS160上运行的其它应用程序的窗口。对于用户,计算环境800提供了对应用程序754的无缝的计算体验,这是因为可以在桌面OS160的用户交互空间内使用应用程序754,仿佛它正在桌面OS160上运行,尽管事实上应用程序754正在移动OS130上运行。
图8图示了类似于桌面的辅助终端环境840。在这种情况下,用户可以使用辅助终端环境840的键盘846和鼠标848(即,主要的基于定点设备的GUI)通过控制台窗口882与移动OS的应用程序和/或用户交互空间进行交互。然而,移动OS用户交互空间的应用程序和/或镜像的交叉环境呈现可以用于其它辅助终端环境。例如,桌面OS160可以与包括触摸屏显示器的类似于平板计算机的辅助终端环境相关联。在这种情况下,用户可以以用户典型地与移动OS130的用户交互空间进行交互的非常相同的方式(即,主要基于手势的GUI)与移动OS130的交叉环境应用程序或者镜像的用户交互空间进行交互。
如上所讨论的,本发明的实施例针对在多个OS计算环境中提供对跨越交叉环境应用程序和/或镜像的用户交互空间的并发的用户界面支持。在一个示例中,为交叉环境应用程序提供用户界面支持以便使得通过第二OS的用户交互空间对在第一OS上运行的应用程序进行显示并进行交互,其仿佛实质上原生地在第二操作系统上运行。
非扩展的渲染上下文实施例
一些实施例处理跨越多个OS的并发的用户界面支持,而不扩展第一操作系统的图形渲染上下文。典型地将第一OS(例如,移动OS,Android)配置为定义单个的、活动的用户交互空间。用户交互空间包括活动的显示器(例如,具有相关联的特征,诸如分辨率)以及允许用户与在活动的显示器上显示的元素进行交互的一个或多个活动的输入设备。相应地,第一OS建立渲染上下文,通过该渲染上下文可以呈现正在运行的应用程序的表面信息以供活动显示器进行显示。
然而,如上所描述的,在此描述了用于有效地欺骗第一OS来并发地处理多个用户交互空间的新颖技术。此外,这些技术使得多个用户交互空间与多个计算环境上的不同的(例如不兼容的)操作系统相关联。一些实施例涉及通过交叉环境远程呈现来处理显示器输出的技术。其它实施例涉及用于处理那些上下文中的用户交互的技术。
在交叉环境远程呈现时,在第二OS内呈现在第一OS上运行的并且在与第二OS相关联的计算环境内显示的应用程序的应用程序图形。在一个实施例中,在第二OS上运行的控制台应用程序从共享的存储器中访问应用程序的表面信息并且在与第二OS相关联的计算环境的控制台窗口内呈现该应用程序。
假设日历应用程序和字处理应用程序二者被编译用于移动设备上的第一OS(例如,移动OS130)并且并发地运行在移动设备上的第一OS上。第二OS(例如非移动OS,如桌面OS160)使用共享的内核正在移动设备上并发地运行。用户已经将移动设备与第二计算环境(桌面计算环境)进行对接,并且想要通过桌面计算环境与字处理应用程序进行交互。期望以对于用户而言透明的方式使用移动计算环境(例如,移动设备)的第二OS来处理桌面计算环境的用户交互空间。
图9图示了根据各个实施例的交叉环境远程呈现的方面。在图9图示了应用程序呈现图示900中,第一应用程序910(例如,日历应用程序)计算第一OS内的第一表面912的更新。第一操作系统将第一表面912存储在共享的存储空间中的第一存储位置。例如,第一存储位置可以是被命名的共享存储器的一区域。第一应用程序910更新第一表面912的后缓冲区914。类似地,第二应用程序930(例如,字处理应用程序)使用第一OS计算第二表面932的更新。通过第一OS将第二表面932存储在共享存储空间的第二存储位置中(例如,被命名的共享存储器的第二区域)。
第一OS确定何时要发起呈现序列。例如,第一OS可以在表面912和/或932的表面信息已经改变时发起呈现序列。第一OS可以对包括第一表面912和第二表面932的所有表面执行单循环,确定与特定应用程序相关联的表面信息是否已经改变。在呈现序列中,如果表面912的表面信息已改变,第一OS互换前缓冲区916和后缓冲区914,使得在后缓冲区914中的表面信息现在在前缓冲区916中。第一操作系统将第一表面912呈现到第三存储位置920,以便创建要在与第一OS相关联的第一用户交互空间内显示的最终图像918。
如果第二表面932的表面信息已经改变,则第一OS向第二OS通知第二表面932的表面信息已经改变。具体地,第一OS通过进程间通信信道向第二OS的控制台应用程序发送绘制通知以指示表面932已经被更新。该绘制通知可以包括前图像936的文件描述符,和/或前图像936的共享的存储器空间的其它特征(包括缓冲区大小、层顺序等等)。控制台应用程序将文件描述符映射到其处理空间以获得对第二存储位置的参考。通过对第二存储位置的参考,第二OS的控制台应用程序从前图像缓冲区936中直接读取表面信息并且在与第二OS相关联的第二用户交互空间内的控制台窗口940中呈现第二表面932的前图像936的表面信息。以此方式,控制台应用程序可以实时地在控制台窗口940中呈现第二应用程序930而无须跨越进程拷贝图形帧或者表面信息。取而代之,使用通过进程间通信传送的文件描述符,控制台应用程序通过将第二表面932的共享存储器映射到其自身的处理空间而直接读取表面信息。
图10示出了根据各个实施例的、在非扩展渲染上下文中进行交叉环境远程呈现的例示性方法的流程图1000。实施例保持第一应用程序(例如,日历应用程序)和第二应用程序(例如,字处理应用程序)的应用程序图形的显示,二者被编译用于第一操作系统并处于第一操作系统的活动的并发执行中。
方法1000在块1004开始,使用第一操作系统计算对第一应用程序的表面的更新。计算对表面的更新可能涉及使用应用程序数据来确定哪些表面已经改变并且以何种方式改变。例如,用户交互可能已经使得一些表面改变位置、顺序(例如,一个层可能部分地在另一个层的前面,被另一个层完全隐藏,等等)、大小、颜色、纹理,等等。
在块1008,使用第一操作系统呈现第一应用程序的这些更新的表面以在第一存储位置生成第一图形帧。例如,第一OS的呈现引擎预先建立与显示器相关联的渲染上下文。然后可以通过更新的表面信息进行迭代来呈现图形帧以便根据与渲染上下文相关联的显示器的特征(例如,分辨率)来有效地绘制来自第一应用程序的表面的可见部分的全部或者部分图像。将该图形帧呈现给第一存储位置。存储位置可以是帧缓冲存储器、共享存储器,或者任何其它有用的存储器位置。
在一些实施例中,在块1012,向与第一操作系统相关联的第一计算环境的显示器显示来自第一存储位置的呈现的第一图形帧。例如,将第一图形帧呈现给移动设备的帧缓冲区的后缓冲区部分。结果,帧缓冲区翻转(即,后缓冲区部分变成前缓冲区部分)并且将帧缓冲区的现在的前缓冲区部分显示给移动设备的显示器。
在块1016,使用第一操作系统计算对第二应用程序的表面的更新。这可能与用于第一应用程序的表面的块1004的计算基本上相同地进行。然而,与第一应用程序的更新的表面数据不同,不通过第一OS来呈现第二应用程序的更新的表面信息。相反,在块1020,在第二存储位置存储第二应用程序的更新的表面。该第二存储位置是可由在移动设备的共享内核上并发地运行的第一和第二OS二者访问的共享的存储位置。
在块1024,使用第二操作系统的控制台应用程序来呈现第二应用程序的更新的表面以便在第三存储位置生成第二图形帧。例如,图7的控制台应用程序782可以将应用程序754的更新的表面呈现到(例如与第二计算环境的显示器相关联的)第二OS的帧缓冲存储器中。在一些实施例中,在块1028,向与第二操作系统相关联的第二计算环境的显示器显示来自第三存储位置的第二图形帧。例如,桌面计算环境显示器的显示驱动器访问帧缓冲存储器以便访问和显示第二图形帧。在某些实现方式中,控制台应用程序还保持控制台交互空间,并且将第二图形帧呈现到控制台交互空间。例如,控制台应用程序在桌面显示器上呈现一个或多个窗口,并且在这些窗口之一上显示第二应用程序的图形。
在一些实施例中,方法1000在各块上迭代以便为两个应用程序并发地保持图形环境。例如,移动OS计算对第一应用程序的图形的更新并且向移动帧缓冲存储器呈现这些更新;然后移动OS计算对第二应用程序的图形的更新并且将这些更新存储到共享的存储器中,桌面OS的控制台应用程序从共享的存储器中将这些更新呈现到桌面帧缓冲存储器;然后方法1000对于下一组更新进行重复。特别地,一些实现方式不按顺序和/或并行地执行某些步骤。例如,可能基本上同时计算对第一和第二应用程序的表面的更新(即,基本上并行地执行块1004和1016),尽管仅仅将本地呈现这些更新的表面的一部分(例如在块1008)并且将为远程呈现存储这些更新的表面的其它部分(例如在块1020和1024)。
在一个实施例中,Android移动OS和全Linux OS(例如,Hydroid)正在移动设备的共享内核上并发地运行。当从Hydroid OS660启动Android应用程序时,在Hydroid OS660上启动控制台应用程序并且请求Android OS430启动Android应用程序并向控制台应用程序发送Android应用程序的绘制通知。Android OS430启动Android应用程序,将应用程序与虚拟显示器ID相关联并且注册控制台应用程序以便接收对该应用程序的绘制通知。例如,Android图形服务器(即,SurfaceFlinger)可以分配未使用的虚拟显示器ID并且通过应用程序对象列表将应用程序与虚拟显示器ID相关联。SurfaceFlinger在共享存储器中分配用于Android应用程序的表面信息的存储器,并且注册控制台应用程序以便接收对该Android应用程序的绘制通知。
当SurfaceFlinger确定表面信息被更新时,SurfaceFlinger通过进程间通信信道向控制台应用程序发送绘制通知。例如,SurfaceFlinger可以通过unix域套接字、Binder接口、和/或网络套接字向控制台应用程序发送绘制通知。绘制通知包括表面信息的文件描述符。该文件描述符可以通过SurfaceFlinger基于表面的被命名的共享存储器区域的名称空间(namespace)生成。绘制通知还可以包括数据格式、缓冲区大小、和表面位置信息。控制台应用程序将文件描述符映射到其处理空间并且通过被映射的文件描述符从共享的存储位置进行读取。控制台应用程序然后直接根据表面信息呈现应用程序的图形帧。然后通过桌面OS图形系统(即,通过Hydroid OS600的X-windows图形系统)显示所呈现的图形帧。
图11更详细地图示了根据各个实施例的交叉环境远程呈现的注册和绘制处理流程1100。初始地,在Hydroid OS600上运行的控制台应用程序1102在步骤1106通过共享内核520的IPC信道525请求在Hydroid OS600的用户环境中开始并且显示Android应用程序,或者从Android OS430的用户环境转移到Hydroid OS600的用户环境。Android在步骤1108、1110和1112从SurfaceFlinger434请求应用程序的虚拟显示器ID,开始应用程序,并且为虚拟显示器设置参数。在步骤1114,Android通过IPC信道525向控制台应用程序返回显示器ID。在步骤1116,应用程序请求新表面,SurfaceFlinger在步骤1118通过创建表面类1104的实例而创建该新表面。
控制台应用程序1102在步骤1120对渲染器(renderer)对象进行实例化,这通过Hydroid OS600的X-window系统呈现Android表面信息。在步骤1122,控制台应用程序1102向SurfaceFlinger434注册渲染器对象1124的可远程访问的(remotable)接口以便接收Android应用程序的表面信息的绘制通知。在一个实施例中,渲染器对象的可远程访问的接口包括可以通过IPC信道525调用的draw()和clear()方法。在步骤1126和1128,SurfaceFlinger将IPC对象附接到表面,使得在表面信息已经被更新时将通过可远程访问的接口向控制台应用程序1102进行通知。
步骤1130和1132是处理流程1100的呈现循环的一部分。在呈现循环中,SurfaceFlinger向控制台应用程序1102通知表面信息被更新并且通过IPC信道525将文件描述符传送给表面信息。例如,可以调用控制台应用程序渲染器的绘制方法并且将文件描述符传送给表面。控制台应用程序1102将文件描述符映射到其处理空间,并且访问所参考的共享存储位置以便读取表面信息并呈现要在与Hydroid OS600相关联的第二计算环境的显示器上显示的图形帧。
图12示出了根据各个实施例的、在非扩展渲染上下文中进行交叉环境呈现的另一例示性方法的流程图1200。如同图10的方法1000,实施例保持第一应用程序和第二应用程序的应用程序图形的显示,第一应用程序和第二应用程序二者被编译用于第一操作系统并处于第一操作系统的活动的并发执行中。
方法1200在块1204开始,建立第一操作系统的第一渲染上下文。渲染上下文可以对于与之相关联的显示器是唯一的。例如,移动OS的实现方式可以与具有某个分辨率的移动设备显示器相关联。可以建立渲染上下文来与相关联的显示器的分辨率匹配,使得将针对该分辨率而合适地呈现图形。在块1208,方法1200使用第一操作系统计算对第一应用程序的表面的更新。如上讨论的,计算对表面的更新可能涉及使用应用程序数据来确定哪些表面已经改变并且以何种方式改变。
然后,在块1212使用第一操作系统呈现第一应用程序的更新后的表面,以在第一存储位置生成第一图形帧。呈现典型地涉及将图形原语(primitive)转换为形成用于显示的图形帧的比特(例如,位图)。例如,表面信息在数学上定义每个表面的属性,包括形状、大小、颜色、分层顺序(其在哪些其它表面的前面或后面)、透明度等等。OS的呈现引擎可以解释表面数据以便按照呈现所有表面信息的函数而确定在渲染上下文中的每个位置(例如“X,Y”位置)处显示什么比特(例如使用迭代合成、射线追踪,和/或其它技术)。使用第一渲染上下文可以将第一应用程序的更新的表面呈现为位图以存储到第一存储器位置(例如,帧缓冲存储器、共享存储器,或者其它任何有用的存储位置)中。
在一些实施例中,在块1216,向与第一操作系统相关联的第一计算环境的显示器显示来自第一存储位置的第一图形帧。例如,移动设备显示器的显示驱动器访问相关联的帧缓冲存储器以便显示在第一渲染上下文中生成的位图。在块1220,拆解(disestablish)(例如,“拆卸”)第一渲染上下文。
在块1224,建立第一操作系统的第二渲染上下文。在一些实现方式中,第二渲染上下文与第一渲染上下文相同。然而,还可以根据第二计算环境的显示器(例如桌面显示器)的特征建立第二渲染上下文。在块1228使用第一操作系统计算对第二应用程序的表面的更新。然后,在块1232,在第一操作系统的第二渲染上下文中呈现这些更新以便在第二存储器位置生成第二图形帧。特别地,该第二存储位置是可由正在移动设备的共享内核上并发地运行的第一和第二操作系统二者访问的共享的存储位置。
在一些实施例中,在块1236,向与第二操作系统相关联的第二计算环境的显示器显示来自第二存储位置的第二图形帧。值得注意的,与图10中不同,使用第一OS的呈现引擎来呈现两个应用程序的更新后的图形帧。例如,第二OS的控制台应用程序可以访问第二共享存储位置以便直接取得所呈现的位图以供第二计算环境的显示器显示。在块1240,拆解第二渲染上下文。
在一些实施例中,方法1200在块上迭代以并发地保持两个应用程序的图形环境。例如,移动OS迭代性地建立、使用并且拆卸第一应用程序的渲染上下文;然后,建立、使用并且拆卸第二应用程序的渲染上下文。使用这种技术,可以由一个OS(即,通过第一OS的呈现引擎)执行所有呈现,并且不需要提供或者使用另一OS的呈现功能。然而,该技术涉及与重复地建立并且拆卸渲染上下文相关联的附加开销。
交叉环境呈现的以上实施例描述了使用非扩展的渲染上下文可以在多OS计算环境中的第二OS的用户交互空间的控制台窗口内怎样显示在第一OS上运行的应用程序的图形帧。为了支持与这种交叉环境应用程序的用户交互,实施例以交叉环境应用程序接收输入事件的方式将来自第二OS的用户交互空间的输入事件重定向到第一OS,使得仿佛其来自第一OS的用户交互空间(即,应用程序通过相同的事件句柄(handler)和/或视图接收输入事件,通过事件句柄(handler)和/或视图其将接收如被显示在第一OS的用户交互空间内的用户输入)。
参照返回图7和图8,配置桌面OS160以便通过适合于桌面计算体验的辅助终端环境840来提供第二用户交互空间。如上所述,使用上述的交叉环境呈现的实施例,可以在移动OS130的用户交互空间内显示应用程序752,同时通过在桌面OS160上运行的控制台应用程序782在第二用户交互空间的控制台窗口882中显示在移动OS130上运行的应用程序754。特别地,应用程序752和754可以是为移动OS130编译的、在移动OS运行时环境内运行并通过移动OS框架接收输入事件的任何应用程序,而没有针对显示或者远程交互(不在移动OS130的用户交互空间上)的修改。
图13图示了根据各个实施例的向交叉环境应用程序提供用户交互支持的OS架构配置300b。在OS架构配置300b中,共享内核320中的设备驱动器实现组成辅助终端环境840的I/O设备844、846和/或848的硬件接口。通过设备驱动器,这些设备的输入事件出现在共享内核320的I/O设备1360的设备1364、1366、和/或1368中。因为共享内核320的系统资源对移动OS130和桌面OS160二者可用,移动OS确定输入设备1364、1366、和/或1368上的输入事件是否旨在用于移动OS130。当桌面OS160被配置为提供第二用户交互空间(即,移动计算设备110被对接到辅助终端环境840)时,移动OS130忽略来自与第二用户交互空间相关联的输入设备的输入事件。在OS架构配置300b中,移动OS130忽略来自设备1364、1366、和/或1368的输入事件。在这种情况下,桌面OS160接受来自设备1364、1366、和/或1368的输入事件。
桌面OS160处理来自设备1364、1366、和/或1368的输入事件并且确定在桌面OS160内怎样将事件分发到各种窗口或者GUI元素。例如,桌面OS160的窗口系统774可以接受来自设备1364、1366、和/或1368的输入事件。在一个实施例中,桌面OS160的图形系统是X-windows图形系统。
在一个实例中,用户在控制台应用程序782的控制台窗口882内的屏幕位置处点击定点设备的按钮。对应的输入事件出现在设备1368中并且桌面OS160接收并且处理输入事件。窗口系统774将输入事件指向到控制台应用程序782,通过控制台应用程序782,使用交叉环境呈现的实施例来显示在移动OS130上运行的应用程序754。如上所述,应用程序754是移动应用程序并且使用移动OS130的库来将视图和其它事件句柄实例化,所述移动OS130的库接收来自移动OS130的输入队列736的输入以便接受用户输入。为了以应用程序754将合适地解释输入事件的方式而将输入事件呈现给应用程序754,控制台应用程序782将输入事件映射到移动OS130的图形上下文并且通过虚拟输入设备1370将事件传送给移动OS130的输入队列736。虚拟输入设备1370对于移动OS130表现为具有用于移动OS130的合适的输入事件协议的输入设备。另外,控制台应用程序782将输入事件相对于移动OS130的图形上下文进行格式化。移动OS130将虚拟输入设备1370与应用程序754相关联使得应用程序754从移动OS事件队列中接收输入事件。例如,移动OS130可以将虚拟输入设备1370与应用程序754的虚拟显示器ID相关联。以此方式,应用程序754接收并且处理输入事件,就仿佛通过移动OS130的用户交互空间来显示应用程序754并且与之交互。
图14图示了根据各个实施例的、使用非扩展的图形上下文呈现的交叉环境应用程序的用户交互支持的方面。当从连接到移动计算设备110的输入设备(例如,键盘846、定点设备848)接收输入事件时,方法1400在块1402开始。如上所述,输入事件可以出现在共享内核的输入设备中。在块1404,移动OS确定移动计算设备110是否对接并且桌面OS是否与输入设备相关联。例如,如果移动计算设备110没有与辅助终端环境对接并且桌面OS被挂起(suspend),则移动OS可以确定桌面OS没有与输入设备相关联。如果桌面OS被挂起或者输入设备不是与桌面OS相关联的辅助终端环境的一部分,则在块1406移动OS接受来自输入设备的输入命令。
如果桌面OS没有被挂起并且输入设备是与桌面OS相关联的辅助终端环境的一部分,则移动OS忽略输入设备上的输入事件并且桌面OS在块1408接受输入事件。在块1410,桌面OS将输入事件分发到桌面OS内的合适的窗口或者GUI元素。如果输入事件没有被指向到控制台窗口,则在块1412该输入事件被指向到另一窗口或者GUI元素。如果输入事件被指向到控制台窗口(例如,用户点击控制台窗口区域内的定点设备),则在块1414该输入事件被传送给控制台应用程序作为一输入事件。
在块1416,为来自控制台应用程序的输入事件生成虚拟的输入设备。可以在共享内核中生成虚拟的输入设备或者可以将输入事件直接写入到移动OS输入设备。在块1418,控制台应用程序将输入事件映射到移动OS的图形上下文。例如,控制台应用程序可以将输入事件在控制台应用程序的控制台窗口中的位置映射到移动OS的图形上下文内的位置。控制台应用程序可以针对移动OS的输入格式或者输入模式状态对输入事件进行转译。例如,输入格式可以在桌面OS和移动OS之间不同。即使具有公共的输入格式,桌面OS和移动OS可以具有不同的输入模式状态。例如,桌面OS可以使用非触摸模式输入状态处理输入事件,而移动OS是触摸模式输入状态。在这种情况下,可以对桌面OS用户交互空间中由定点设备生成的输入事件进行转译以便表现为虚拟输入设备中的基于手势的事件。
在块1420,在移动OS中将虚拟输入设备与用于在控制台窗口内显示的应用程序的虚拟显示设备相关联。例如,多个应用程序可能正在移动OS上运行并且在桌面OS的用户交互空间上的不同控制台窗口内显示。在桌面OS的用户交互空间中的单独的控制台窗口内显示的每个应用程序在移动OS内被分配了虚拟显示器ID。因此,当移动OS通过虚拟设备接收到来自桌面OS的控制台应用程序的输入事件时,移动OS可以通过虚拟显示器ID将虚拟设备映射到正确的应用程序。在块1422,输入事件被传送给与虚拟显示器相关联的应用程序并且应用程序可以处理输入事件,仿佛其通过移动OS的用户交互空间出现。特别地,上述方法对移动OS130的任何应用程序起作用,应用程序不需要被具体指定为通过桌面OS的控制台应用程序接受输入事件。
扩展的渲染上下文实施例
一些实施例通过在第一操作系统内建立扩展的渲染上下文来处理跨越多个OS的并发的用户界面支持。如上所讨论的,第一OS(例如,移动OS,Android)典型地被配置为利用单个活动的渲染上下文来定义单个的、活动的用户交互空间。在此描述了新颖的技术,用于通过将多个所谓的“上下文空间”平铺(tile)到单个的、扩展的呈现空间并且将每个上下文空间与不同的显示器相关联来有效地欺骗第一OS并发地处理多个用户交互空间。实施例包括用于处理对多个用户交互空间的显示输出的技术和用于处理这些上下文中的用户交互的技术。
返回到以上参照非扩展的渲染上下文实施例讨论的示例,再次假设日历应用程序和字处理应用程序二者被编译用于第一OS(例如,移动OS,Android OS)并且二者并发地在移动设备上的第一OS内运行。第二OS(例如,非移动OS,如Hydroid)使用共享内核正在移动设备上并发地运行。用户已经将移动设备与第二计算环境(桌面计算环境)对接,并且桌面计算环境与第二OS的用户交互空间相关联并且正在显示第二OS的用户交互空间。用户期望通过第二OS的桌面计算环境与在第一OS上运行的字处理应用程序进行交互。期望以对用户透明的方式使用移动计算环境(即,移动设备)的第二OS来处理桌面计算环境的用户交互空间。
图15图示了根据各个实施例的、使用扩展的渲染上下文跨越多个OS的并发用户界面支持的方面。在图15图示的应用程序呈现图示1500中,第一应用程序1510(例如,日历应用程序)计算对第一OS内第一表面1512的更新。通过第一OS将第一表面1512存储在共享的存储空间中的第一存储位置。具体地,第一应用程序1510更新第一表面1512的后缓冲区1514。类似地,第二应用程序1530(例如,字处理应用程序)使用第一操作系统计算对第二表面1532的更新。再次,使得第二应用程序1530对第二表面1532的更新到后缓冲区1534。通过第一OS将第二表面1532存储在共享的存储空间中的第二存储位置。
第一OS确定表面信息何时被改变并且发起呈现序列。第一OS可以在包括第一表面1512和第二表面1532的所有表面上执行单循环,确定与特定应用程序相关联的表面信息何时已经改变。在呈现序列中,第一OS确定表面信息何时被改变并且互换第一表面1512的前缓冲区1516和后缓冲区1514,以及第二表面1532的前缓冲区1536和后缓冲区1534。第一OS在共享的存储空间中的第三存储位置建立扩展的渲染上下文1520并且将第一表面1512呈现到扩展的渲染上下文1520的第一上下文空间1522。第一OS将第二表面1532呈现到扩展的渲染上下文1520的第二上下文空间1524。
在实施例中,扩展的渲染上下文1520可以在存储空间中与第一OS的帧缓冲区重叠。例如,扩展的渲染上下文1520的第一上下文空间1522的存储位置可以与第一OS的帧缓冲区共同扩张(coextensive)。第一OS向第二OS传送通知在第三存储位置呈现最终图像。例如,第一OS可以通过进程间通信信道向第二OS的控制台应用程序传送对扩展的上下文1520的第二上下文空间1524的共享存储位置的文件描述符。第二OS访问第三存储位置处的扩展的图形上下文的第二部分以便取得呈现的图形帧1538以供在第二OS的控制台窗口1540中显示。例如,第二OS的控制台应用程序可以将文件描述符映射到其处理空间并且从第三存储位置读取呈现的图形帧以供在第二OS的用户交互空间内显示。以此方式,第二OS实时地在其用户交互空间内显示第二应用程序的呈现的图形帧。
图16示出了根据各个实施例的使用扩展的渲染上下文进行交叉环境呈现的例示性的方法的流程图1600。实施例保持了第一应用程序(例如,日历应用程序)和第二应用程序(例如,字处理应用程序)的应用程序图形的显示。假定这两个应用程序被编译用于第一操作系统(例如,Android OS)并且处于第一操作系统内的活动的并发执行中,但是用户期望通过与第二OS相关联的第二计算环境与第二应用程序进行交互。特别地,这些技术可以应用于其中两个OS不兼容(例如,为第一OS编译的应用程序可能不能直接在第二OS上执行)的环境。在一些实现方式中,如上所述,两个OS在移动设备的共享内核上独立地并且并发地运行。
方法1600在块1604开始,建立第一OS的扩展的渲染上下文。如上讨论的,根据单个的活动显示器的特征典型地建立渲染上下文。然而,建立扩展的渲染上下文以便使得第一上下文空间与第一应用程序相关联并且第二上下文空间与第二应用程序相关联。第一和第二上下文空间是非重叠的。
在一些实施例中,通过平铺本地设备的活动显示器(例如,具有共享内核的移动设备的显示器)和任何虚拟显示器(即,与在第二OS的用户交互空间内显示的控制台窗口相关联的第一OS的显示器)来生成扩展的渲染上下文,以形成对于第一OS看上去为一个大的显示器。扩展的渲染上下文的区域被指定为非重叠的上下文空间以便保持它们与其各自的物理或者虚拟显示器的关联性。特别地,在一些实现方式中,不同的上下文空间可能具有不同的分辨率或者其它特征。此外,在某些实施例中,上下文空间不是连续的。例如,以如下方式来建立扩展的上下文,即:在每个未被指定给任何上下文空间的上下文空间之间留出空间。
在块1608,使用第一操作系统来计算对第一应用程序和第二应用程序的表面的更新。然后在块1612使用第一操作系统来呈现更新的表面以在可由(例如可以在共享的内核上并发地运行的)第一操作系统和第二操作系统访问的共享存储位置中生成扩展的图形帧。扩展的图形帧的第一部分与(与第一应用程序相关联的)第一上下文空间相关联以及扩展的图形帧的第二部分与(与第二应用程序相关联的)第二上下文空间相关联。当在块1608进行呈现时,将第一应用程序的更新的表面呈现给扩展的图形帧的第一部分,并且将第二应用程序的更新的表面呈现给扩展的图形帧的第二部分。值得注意的,以此方式,扩展的图形帧有效地包括被平铺到其合适的上下文空间中的两个应用程序的呈现的表面。
在一些实施例中,在块1616,向与第一OS相关联的第一计算环境的(多个)显示器显示来自共享存储位置的与第一上下文空间相关联的扩展的图形帧的第一部分。例如,如上讨论的,共享的存储位置是移动设备的帧缓冲存储器(或者被拷贝到帧缓冲存储器),移动设备的显示设备驱动器访问帧缓冲存储器以便向其(多个)显示器显示扩展的图形帧的第一部分。此外,在一些实施例中,在块1620,向与第二操作系统相关联的第二计算环境的显示器显示来自共享存储位置的与第二运动空间相关联的扩展的图形帧的第二部分。例如,如上讨论的,将共享存储位置拷贝到与第二(例如桌面)计算环境相关联的第二OS的帧缓冲存储器,并且显示设备驱动器将扩展的图形帧的第二部分显示给第二计算环境的显示器。
在参照图12讨论的实施例中,通过第二OS远程地执行对第二应用程序的更新的图形的呈现。在参照图15讨论的实施例中,通过移动设备的呈现引擎本地地执行对两个应用程序的呈现,但是连续地建立并且拆解渲染上下文。关于图16讨论的实施例允许通过移动设备的呈现引擎本地地执行两个应用程序的呈现,同时保留单个的、尽管被扩展的、呈现上下文(即,没有拆解渲染上下文)。
图17示出了根据各个实施例的、使用扩展的渲染上下文进行交叉环境呈现的另一例示性方法的流程图1700。如在图16的方法1600中,实施例保持第一应用程序和第二应用程序的应用程序图形的显示,第一应用程序和第二应用程序二者被编译用于第一操作系统并处于第一操作系统的活动的并发执行中。方法1700通过在块1704建立第一操作系统的扩展的渲染上下文并且在块1708使用第一操作系统计算对第一应用程序和第二应用程序的表面的更新而开始。如上讨论的,建立扩展的渲染上下文以使得第一上下文空间与第一应用程序相关联并且第二上下文空间与第二应用程序相关联。第一和第二上下文空间是非重叠的。在一些实现方式中,以分别与块1604和1608基本上相同的方式来执行块1704和1708。
在块1712,使用第一操作系统根据第一上下文空间呈现第一应用程序的更新的表面,以便在第一操作系统的帧缓冲区中生成第一图形帧。例如,第一上下文空间可以与特定的分辨率、特定的平铺偏移(例如,开始“X”位置)等等相关联。在一些实现方式中,以与图16的方法1600中扩展的图形帧的各个部分的生成基本上相同的方式来生成第一图形帧。在一些实施例中,在块1716,从帧缓冲区向与第一操作系统相关联的第一计算环境的显示器显示与第一上下文空间相关联的第一图形帧。
在块1720,使用第一操作系统呈现第二应用程序的更新的表面,以便在共享的存储位置生成第二图形帧。如上讨论的,共享的存储位置可由(例如,可以在共享的内核上并发地运行的)第一操作系统和第二操作系统访问。在一些实施例中,在块1724,从共享的存储位置向与第二操作系统相关联的第二计算环境的显示器显示与第二运动空间相关联的第二图形帧。
特别地,图16和图17二者的实施例为每个应用程序建立具有上下文空间的扩展的渲染上下文。然而,图16的方法1600将所有的图形更新呈现到单个的扩展位图中,图17的方法1700将图形更新呈现到单独的若干位图中。例如,依赖于如何管理和/或访问存储器,可能期望一种或者其它技术。
如同图12的实施例,在图16和17的实施例中,使用第一OS的呈现引擎呈现两个应用程序的更新的图形帧。使用第一OS的呈现引擎允许两个应用程序使用在第一OS中可用的移动设备的硬件加速能力。例如,在图12、16和/或17的实施例中,可以通过使用2D或者3D硬件辅助呈现来呈现第一和第二应用程序中任一个或者二者。
使用扩展的渲染上下文对第一OS(即,移动OS,Android)上运行的应用程序的图形帧进行远程显示对于第一OS提供了一种用于对使用单个渲染上下文对在多个用户交互空间内显示的多个应用程序提供呈现的方式。然而,扩展的渲染上下文产生了要处理通过扩展的渲染上下文显示的应用程序的输入事件的问题。具体地,必须配置第一OS的输入队列来处理来自通过扩展的渲染上下文的单独的虚拟显示器显示的多个应用程序的多个输入事件。
交叉环境用户交互支持的实施例针对处理在第一OS上运行的并且通过第一OS的扩展的渲染上下文而在多个单独的用户交互空间(即,移动设备用户交互空间和桌面OS用户交互空间)上显示的多个应用程序的用户输入事件。实施例包括扩展的输入队列,其中将来自用于远程显示的应用程序的虚拟输入设备的输入事件映射到输入队列内的单独的运动空间。例如,第一应用程序(例如,日历应用程序)正在第一OS上运行并且正在被显示给与第一设备相关联的第一显示器(例如,第一OS正在其上运行的移动设备的显示器)。第二应用程序(例如,字处理应用程序)也正在与第一应用程序并发地运行,但是被呈现在扩展的渲染上下文的上下文空间(即,虚拟显示器)中并且被显示在第二OS的第二用户交互空间上,第二OS与第一OS在移动设备的共享内核上并发地运行。第一OS通过包括第一上下文空间(即,移动设备显示器)中的第一应用程序和第二上下文空间中的第二应用程序二者的应用程序图形的扩展的渲染上下文来呈现图形帧。通过在第二OS上运行的控制台应用程序在第二OS的用户交互空间上显示第二上下文空间。
通过第二OS(即,桌面OS,Hydroid)接收通过扩展的渲染上下文远程显示的应用程序的输入事件,并且以与以上关于非扩展图形上下文描述的相同的方式通过第二OS的控制台应用程序将其传送给虚拟输入设备。然而,如上所述,在移动OS中从虚拟输入设备接收的输入事件与在第二OS的用户交互空间内显示的控制台窗口有关。虚拟输入设备被映射到与对应于远程显示的应用程序的虚拟显示器相关联的扩展的输入队列内的运动空间。扩展的输入队列允许第一OS使用单个输入队列正确地处理来自旨在用于多个并发执行的应用程序的多个本地和虚拟输入设备的输入。
图18a和图18b图示了根据各个实施例的使用扩展的渲染上下文的交叉环境应用程序的用户交互支持的方面。图18a图示了正在远程地显示在第一OS上运行的应用程序的用户交互空间1810(例如,显示在第一OS上运行的应用程序的第二OS的GUI)。例如,第一、第二和第三应用程序可以正在第一OS上运行(即,在第一OS的活动的并发执行中)。根据上述的实施例,第一OS可以在第一OS的扩展的渲染上下文的第一、第二和第三上下文空间中显示第一、第二和第三应用程序。用户交互空间1810中的控制台窗口1812和1814可以分别显示在第一OS上运行的第二应用程序和第三应用程序。
图18b图示了用于提供对在第一OS上运行的每个应用程序的用户交互支持的第一OS的扩展的输入队列1840。扩展的输入队列1840包括第一运动空间1842、第二运动空间1844,和第三运动空间1846。第一运动空间与第一OS的扩展的渲染上下文的第一上下文空间相关联,其典型地用于呈现第一OS的非虚拟显示器1852(即与移动计算设备110的(多个)显示器116相关联的上下文空间)。第二和第三运动空间分别与虚拟显示器1854和1856相关联,虚拟显示器1854和1856通过第二和第三上下文空间呈现。
当出现要被指向到远程显示的应用程序的控制台窗口的输入事件时,该输入事件被指向到与虚拟显示器相关联的运动空间,通过所述虚拟显示器显示应用程序。例如,如果用户在用户交互空间1810的控制台窗口1812内利用定点设备点击,如输入事件1820所指示的,第二OS的窗口系统将输入事件指向到与控制台窗口1812相关联的控制台应用程序。如上所述,控制台应用程序将输入事件映射到虚拟输入设备。然而,该输入事件与控制台窗口1812有关。如果将输入事件直接馈入到第一OS的输入队列,则该输入事件将不被指向到正确的应用程序事件句柄。因此,来自虚拟输入设备的输入事件1820被重新映射到第二运动空间1844。以此方式,扩展的输入队列将输入事件指向到接收并处理输入事件1820的第二应用程序的事件句柄。
在实施例中,虚拟显示器在移动OS输入队列中被偏移。例如,在图18b中,虚拟显示器1854和1856在移动OS输入队列1840中被偏移了虚拟显示器偏移1858。虚拟显示器偏移1858防止虚拟显示器在输入队列中相邻地出现,虚拟显示器在输入队列中相邻地出现可能导致旨在用于一个虚拟显示器的输入事件被在与不同应用程序相关联的运动空间内解释。虚拟显示器偏移应该足以大到根本不能用作实际的虚拟显示器分辨率参数。在一个实施例中,虚拟显示器偏移1858被选择为10000个像素。
图19图示了根据各个实施例的用于接收通过扩展的渲染上下文显示的交叉环境应用程序的输入事件的方法1900。例如,方法1900可以用于处理在第一OS内运行的第一应用程序和第二应用程序的输入事件,第一应用程序被本地显示在第一OS的用户交互空间上,第二应用程序通过第一OS的扩展的渲染上下文被远程显示在第二OS的用户交互空间中。
方法1900开始于块1902,当在第一OS中接收到第一用户输入时,第一应用程序和第二应用程序处于第一OS内的活动的并发执行中,在与第一OS相关联的第一用户环境内显示第一应用程序,在与第二OS相关联的第二用户环境内显示第二应用程序,第一和第二操作系统在共享的内核上并发地运行,第一OS通过扩展的渲染上下文的第一虚拟显示器呈现第二应用程序的图形帧来保持第二应用程序的应用程序图形。在块1904,第一OS建立包括第一运动空间和第二运动空间的扩展的输入队列,第二运动空间对应于第一虚拟显示器。例如,第一操作系统为第二应用程序分配第一虚拟显示器,建立具有第一上下文空间和第二上下文空间的扩展的渲染上下文,将第一虚拟显示器与第二上下文空间相关联,并且使用上述技术通过扩展的渲染上下文的第二上下文空间来呈现第二应用程序的图形帧。
在块1906,第一OS在第一虚拟输入设备处接收来自第二OS上运行的第一控制台应用程序的第一用户输入事件,通过第二OS正在显示第二应用程序的呈现的图形帧。在块1908,将第一虚拟输入设备映射到第一操作系统的扩展的输入队列的第二运动空间。将第一虚拟输入设备映射到第二运动空间使得第一OS的扩展的输入队列正确地将来自第一虚拟输入设备的输入事件关联到第二应用程序的视图内的事件句柄上。具体地,当输入事件被映射到第二运动空间时,第一OS将输入事件视为出现在扩展的输入队列中与第二应用程序相关联的位置。在块1910,第一OS将第一用户输入事件传送给来自被映射的第一虚拟输入设备的第二应用程序。扩展的输入队列使用被扩展的渲染上下文的平铺的属性以使得输入队列处理来自多个用户交互空间的多个输入事件并且将输入事件指向到想要的应用程序的合适的事件句柄。
镜像的上下文实施例
以上在保持对跨越多个操作系统上的多个应用程序的并发用户交互空间支持的背景下描述了扩展的和非扩展的渲染上下文的实施例。在许多情况下,期望镜像单个用户交互空间的上下文。期望在与第二OS相关联的第二计算环境(例如,与Hydroid OS相关联的桌面环境)中对第一OS进行并发地观看和交互(即,“镜像”交互空间)。通过镜像的用户交互空间,用户可以与第一OS交互,仿佛通过本地设备进行交互(即,用户可以浏览第一OS可用的应用程序、开始和停止应用程序,使用搜索能力,等等)。
第一OS(例如,移动OS,Android)典型地被配置为定义单个的、活动的用户交互空间。用户交互空间包括一活动的显示器(例如,具有相关联的特征,如分辨率)以及一个或多个允许与在活动显示器上显示的元素进行用户交互的活动的输入设备。提出了新颖的技术来使用交叉环境呈现以提供跨越多个OS的一个或多个镜像的用户交互空间。如上讨论的,即使在多个OS不兼容和/或在共享的内核上独立并且并发地运行的情况下,实施例也可操作。
可以使用以上关于保持对交叉环境应用程序的并发用户交互支持所参照的许多相同的系统元素来完成保持具有镜像上下文的并发用户交互支持。例如,参照图7,移动OS130的图形上下文可以是主动地显示应用程序(例如,应用程序752和/或754)和/或移动OS130的主屏幕(例如,Android OS130的主屏幕应用程序451)。用于主动显示的应用程序和/或移动OS的主屏幕的表面信息可以被存储在共享的存储器724内。可以通过控制台应用程序782在桌面OS160的用户交互空间内显示移动OS130的镜像的上下文。
图20示出了根据各个实施例的、用于提供镜像的用户交互空间的图形上下文的交叉环境呈现的例示性方法的流程图2000。方法2000开始于块2004,使用第一操作系统计算对被编译用于第一操作系统并且处于第一操作系统内的活动的执行中的第一应用程序的一组表面的更新。例如,进行计算以确定表面形状、大小、纹理、分层等等的改变。然后使用第一操作系统在块2008呈现表面更新,以便生成图形帧。图形帧可以是反映应用的更新的图形信息的位图。
在块2012,将图形帧存储在第一操作系统和第二操作系统二者可访问的共享的存储位置。在一些实施例中,第一和第二OS正在共享的内核上并发地运行。在块2016,可以使用第一操作系统将图形帧显示给第一计算环境的第一显示器上的第一应用程序的第一应用程序显示。例如,共享的存储位置可以是帧缓冲存储器,或者可以被拷贝到第一操作系统的帧缓冲区。本地设备(例如,正在运行共享内核)的显示设备驱动器访问帧缓冲存储器以便显示位图。
在块2012在共享的存储位置中存储图形帧之后,期望向第二OS通知更新的图形信息可用。在块2020,传送文件描述符,向被编译用于第二OS并且处于第二OS内的活动执行中的控制台应用程序指示共享的存储位置。在一些实现方式中,文件描述符包括共享的存储位置的指示。在其它实现方式中,文件描述符包括附加信息,如指示更新的图形信息对于正被镜像的应用程序的可用性的标志。
如上所述,控制台应用程序可以是X-Windows或者是在第二计算环境中的显示器的窗口内显示的类似类型的应用程序。在块2024,控制台应用程序根据文件描述符访问共享的存储位置处的更新的图形信息(例如,位图),并且将来自共享的存储位置的图形帧显示给第二计算环境的第二显示器上的第一应用程序的第二应用程序显示。在一些实施例中,在第一和第二计算环境二者的显示器上基本上并发地显示应用程序的更新的图形信息。
图21示出了根据各个实施例的、提供镜像的用户交互空间的图形上下文的交叉环境呈现的另一例示性方法的流程图2100。如在图20中,方法2100开始于块2104,使用第一操作系统计算对被编译用于第一操作系统并且处于第一操作系统内的活动的执行中的第一应用程序的一组表面的更新。在块2108,将更新的该组表面存储在(例如,在共享的内核上并发地运行的)第一操作系统和第二操作系统二者可访问的共享的存储位置。
在块2112,利用第一操作系统呈现更新的该组表面以生成第一图形帧。然后,在块2116,可以使用第一操作系统将第一图形帧显示给第一计算环境的第一显示器上的第一应用程序的第一应用程序显示。例如,移动OS130呈现更新的应用程序图形并且将更新的图形显示给移动设备110的(多个)显示器116。
在块2108在共享的存储器中存储更新的该组表面之后的任何时间,期望向第二OS通知更新的图形信息可用。在块2120,传送文件描述符,向被编译用于第二操作系统并且处于第二操作系统内的活动执行中的控制台应用程序指示共享的存储位置。特别地,如在图20的方法2000中在共享的存储器中存储的信息是未被呈现的表面信息(例如,几何原语)而不是呈现后的比特。
相应地,在块2124,通过第二操作系统(例如,根据文件描述符经由控制台应用程序)呈现来自共享的存储位置的更新的该组表面以生成基本上与第一图形帧相同的第二图形帧。在块2128,经由第二操作系统的控制台应用程序将第二图形帧显示给第二计算环境的第二显示器上第一应用程序的第二应用程序显示,使得第二应用程序显示基本上与第一应用程序显示相同。
值得注意的,在第一和第二操作系统二者上复制呈现时,可能涉及附加开销。然而,在许多情况下,这种附加开销是值得的。例如,当不同计算环境的显示器具有略微不同的特征时,可能期望在适合于各个显示器的各个单独的渲染上下文中呈现更新的图形信息。
图20和图21的方法描述了在镜像的图形上下文中利用在第一OS中运行的应用程序的活动显示进行图形上下文的交叉环境镜像。然而,这些方法可以用于其中在图形上下文中没有主动地显示应用程序的情况下。例如,图形上下文可以是显示第一OS的主屏幕或者其它特征(例如,搜索屏幕等等)。在这些情况下,通过第一OS的组件更新图形上下文的表面信息,并且可以执行图20和图21的方法的其它步骤以便在第二应用程序显示中提供镜像的图形上下文。
特别地,可以与应用程序的交叉环境呈现并发地采用图形上下文的交叉环境镜像。例如,可以使用根据图20或图21的方法,使用上述的应用程序的交叉环境呈现的技术,在第二用户环境中显示在第一OS上运行的应用程序的同时,将移动设备的用户交互空间的活动的图形上下文镜像到第二用户环境。为了进行例示,参照图8,可以在第一控制台窗口882内显示移动OS的用户交互空间,而在显示器844上在桌面OS的用户交互空间内的第二控制台窗口884内显示移动OS应用程序。
可以以与在图13、14、18和/或19中图示的对交叉环境应用程序提供用户界面支持基本上相同的方式执行对镜像的图形上下文提供用户交互支持。具体地,可以从第二OS的控制台应用程序向虚拟输入设备提供输入事件。第一OS可以通过扩展的或者非扩展的输入队列接收来自虚拟输入设备的输入事件。
交叉环境重定向实施例
上述技术提供了通过第二操作系统的用户交互空间对第一操作系统的应用程序和图形上下文的交叉环境用户交互支持。为了便于透明交叉环境使用模型,实施例针对从第二操作系统的用户交互空间对第一操作系统的应用程序和/或镜像的上下文提供访问。
参照回到图8,用户可以通过包括移动设备上的交互组件(即,(多个)触摸屏显示器116,(多个)其它I/O设备118)的第一用户交互空间与第一OS(即,移动OS,Android)进行交互。用户还可以通过包括辅助终端环境840的显示器844的第二用户交互空间与第二OS(即,桌面OS,Hydroid)进行交互。如上所述,可用于桌面OS160(即,被编译用于桌面OS160并且加载到桌面OS160的执行环境中)的一组应用程序可以与可用于移动OS130的一组应用程序不同。实施例针对于通过在桌面OS160的用户交互空间的菜单内提供用于移动OS130上可用的应用程序的菜单图标或者菜单列表条目而使得在桌面OS160的用户交互空间内可访问移动OS130的应用程序。
图22图示了根据各个实施例的交叉环境重定向的方面。在图22图示的计算环境2200中,用户通过桌面OS用户交互空间2202与桌面OS160进行交互。在桌面OS用户交互空间2202内,菜单栏2220包括可用的应用程序的图标或者列表。为了启动应用程序,用户从菜单栏、或者菜单栏2220的下拉或弹出列表中选择应用程序名称或者图标。传统地,菜单栏2220仅仅包括在桌面OS160上可用的应用程序的菜单条目或者图标。例如,菜单条目2222、2224、2226,和/或2228可以是桌面OS160上可用的应用程序(例如,被编译用于桌面OS160并且被加载到桌面OS160的执行环境中)。本发明的实施例针对提供从桌面OS用户交互空间2202对移动OS130的应用程序和/或图形上下文的交叉环境访问。例如,菜单条目2232、2234、2236、22367和/或2238可以指示在移动OS130上可用的应用程序和/或移动OS130的图形上下文。
将桌面OS用户交互空间2202显示在与桌面OS160相关联的用户交互空间(例如,辅助终端环境840)内的显示器上。桌面OS160的菜单栏2220包括与被编译用于桌面OS160并且在桌面OS160上加载(例如被编译用于Hydroid/Linux并且被加载到Hydroid OS的执行环境内)的应用程序相关联的菜单条目2222、2224,2226,和/或2228。菜单栏2220还包括与被编译用于移动OS130并且在移动OS130上加载(例如被编译用于Android并且在Android执行环境内加载)的应用程序相关联的菜单条目2234、2236,2237,和/或2238。当用户选择菜单条目2234、2236,和/或2238之一时,在移动OS130上启动相关联的应用程序并且在桌面OS160的控制台窗口内进行显示,例如,在桌面OS用户交互空间2202的窗口2216内显示。菜单条目2232可以与移动OS图形上下文相关联,使得如果选择了菜单条目2232,则在桌面OS160的控制台窗口内显示移动OS的图形上下文。
图23图示了为构建桌面OS160的菜单栏2220可以采用的处理流程2300。在处理流程2300的步骤2302,桌面OS160在移动OS130中查询可用应用程序的列表。在一个实施例中,桌面OS160的系统服务或者启动器(launcher)应用程序在移动OS130的服务中查询所有可启动的移动OS应用程序快捷方式。移动OS130利用可用的应用程序的列表(即,用于可用的移动OS应用程序的可启动的快捷方式)进行响应。可用应用程序的列表可以包括在移动OS130上所有可用的应用程序(所有在移动OS130上加载的并且可执行的应用程序)或者可用的移动OS应用程序的子集。例如,列表可以包括在移动OS GUI的(多个)应用程序菜单屏幕上出现的所有应用程序。在步骤2304,桌面OS160接收来自移动OS130的应用程序的列表。由移动OS130返回的应用程序的列表包括列出的每个应用程序的应用程序分组名称,并且还可以包括列出的每个应用程序的应用程序名称和图标。
桌面OS160通过在块2306、2308和2310上进行迭代对应用程序列表的每个应用程序在菜单栏2220中创建菜单条目。对于每个应用程序,桌面OS160在块2306对菜单栏2220中的应用程序的图标进行实例化,在块2308将图标与桌面OS160的控制台应用程序相关联,并且在块2310将指示应用程序的分组名称的参数与图标相关联。使用上述的交叉环境呈现的实施例,控制台应用程序在桌面OS160上运行并且在桌面OS160内显示应用程序的图形信息。以此方式,当用户选择菜单条目时,在桌面OS160上启动控制台应用程序,并且将应用程序的分组名称传送给控制台应用程序。
桌面OS160可以以各种方式显示与移动OS130的应用程序相关联的菜单条目。菜单条目可以被显示在菜单栏2220中,或者被显示在当选择指示移动OS应用程序是可用的菜单条目时出现的下拉菜单中。在菜单栏2220或者下拉菜单中,可以使用图标或者仅仅应用程序名称来显示菜单条目。在一个实施例中,桌面OS160为移动OS应用程序显示单独的菜单栏。在另一个实施例中,与移动OS应用程序相关联的菜单条目与桌面OS应用程序的菜单条目并排或者混合出现在桌面OS菜单栏2220内。可选地,移动OS菜单条目可以处于定界符2240隔开的菜单栏2220的区域2230中或者以其它方式可被识别为包括移动OS菜单条目。菜单栏2220可以包括移动设备自身的活动显示的菜单条目,即,根据图20和/或图21的方法用户可以在桌面OS的用户环境内选择显示移动OS的用户交互空间的菜单条目。在一个实施例中,在可用应用程序的列表中返回移动OS的主屏幕应用程序并且向其提供相关联的菜单条目。
当用户选择与移动OS应用程序相关联的菜单条目时,桌面OS160启动与菜单条目相关联的控制台应用程序并且将应用程序的分组名称传送给控制台应用程序。控制台应用程序在桌面OS用户交互空间2202内显示窗口(即,控制台应用程序在桌面OS的图形系统内进行显示)。控制台应用程序向移动OS130发送请求以启动应用程序(即,请求移动OS130启动其分组名称作为执行参数被提供给控制台应用程序的应用程序)并且通过控制台应用程序显示应用程序的图形帧。应用程序可以是或者可以不是当前正在移动OS130上运行的。如果应用程序当前正在移动OS130上运行,则可以将应用程序的显示从移动OS130移动到桌面OS用户交互空间2202,或者同时将其显示在移动设备的显示器和用户交互空间2202二者上。使用上述的交叉环境呈现和交叉环境用户界面支持技术的任一种可以为应用程序完成应用程序图形的显示和用户交互支持。
图24图示了响应于用户在桌面OS GUI880的菜单栏2220上选择与移动OS相关联的菜单条目,移动OS130启动应用程序所遵循的处理流程2400。处理流程2400开始于块2402,移动OS130从桌面OS160接收请求以启动被编译用于移动OS并且在移动OS的执行环境内加载的应用程序,以供在桌面OS上进行显示。在块2404,移动OS分配未使用的虚拟显示器ID。例如,移动OS的图形系统可以保存虚拟显示器ID的列表并且将未使用的虚拟显示器ID分配给第一应用程序的处理。在块2406,移动OS在移动OS内启动第一应用程序(即,在移动OS上运行)。在块2408,移动OS130将第一应用程序的刷新通知与虚拟显示器相关联。例如,移动OS的图形服务器可以保存应用程序的列表和它们相关联的虚拟显示器。在块2410和2412,移动OS通过监视第一应用程序的应用程序图形并且在第一应用程序的应用程序图形信息被更新时向桌面OS的控制台应用程序进行通知,来保持第一应用程序的图形信息。块2410和2412可以对应于根据图10、12、16和/或17的方法的保持交叉环境应用程序的应用程序图形。
出于例示和描述的目的,已经提出了前面的描述。此外,该描述不是旨在将本发明的实施例限制为在此公开的形式。尽管以上已经讨论了多个示例性方面和实施例,但本领域技术人员将认识到其某些变型、修改、置换、增加、和子组合。
可以通过能够执行对应功能的任何合适的手段来执行上述的方法的各个操作。这些手段可以包括(多个)各种硬件和/或软件组件和/或(多个)模块,包括但不限于电路、专用集成电路(ASIC),或者处理器。
可以由被设计用于执行在此描述的功能的通用处理器、数字信号处理器(DSP)、ASIC、现场可编程门阵列信号(FPGA),或者其它可编程逻辑器件(PLD)、离散的门电路,或者晶体管逻辑电路、离散的硬件组件,或者其任何组合来实现或者执行所述的各种例示性的逻辑块、模块,以及电路。通用的处理器可以是微处理器,但是作为替换,该处理器可以是任何市场上可得到的处理器、控制器、微控制器,或者状态机。处理器还可以被实现为计算器件的组合,例如,DSP和处理器的组合,多个微处理器,一个或多个连同DSP核的处理器,或者任何其它这样的配置。
可以在硬件、由处理器执行的软件模块,或者二者的组合中直接体现连同本公开描述的方法或者算法的步骤。软件模块可以驻留在任何形式的有形的存储介质中。可以使用的一些存储介质的示例包括随机存取存储器(RAM)、只读存储器(ROM)、闪存存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移除盘、CD-ROM等等。存储介质可以耦接到处理器使得处理器可以从存储介质中读取信息并且将信息写入到存储介质。作为替换,存储介质可以被集成到处理器中。软件模块可以是单指令,或者许多指令,并且可以分布到若干不同的代码段上、不同的程序中,以及多个存储介质上。
在此公开的方法包括用于实现所描述的方法的一个或多个动作。方法和/或动作可以与另一互换,而不脱离权利要求的范围。换言之,除非指定了动作的特定顺序,可以修改特定动作的顺序和/或用途,而不脱离权利要求的范围。
可以以硬件、软件、固件或者其任何组合来实现所描述的功能。如以软件实现,所述功能可以被存储为在有形的计算机可读介质上的一个或多个指令。存储介质可以是能够由计算机访问的任何可用的有形介质。通过示例而不是限制,这种计算机可读的介质可以包括RAM、ROM、EEPROM、CD-ROM、或者其它光盘存储装置、磁盘存储装置,或者其它磁盘存储设备,或者任何其它的可以用于以指令或者数据结构的形式承载或存储期望的程序代码并且可以通过计算机访问的有形介质。如在此使用的,磁盘和光盘包括致密盘(CD)、激光盘、光盘、数字多用途盘(DVD)、软盘,和蓝光○R盘,其中磁盘(disk)通常以磁方式重现数据,而光盘(disc)以激光光学地重现数据。
由此,计算机程序产品可以执行在此提出的操作。例如,这种计算机程序产品可以是其上有形存储(和/或编码)了指令的计算机可读的有形介质,指令可通过一个或多个处理器执行以执行在此描述的操作。计算机程序产品可以包括包装材料。
软件或者指令还可以通过传输介质进行传输。例如,可以使用传输介质,诸如同轴电缆、光缆、双绞线、数字用户(DSL),或者诸如红外、无线电或者微波之类的无线技术,从网站、服务器,或者其它远程源传输软件。
此外,可以下载和/或以其它方式由用户终端和/或基站(在可应用时)获得用于执行在此描述的方法和技术的模块和/或其它合适的部件。例如,这种设备可以耦接到服务器以便于传递用于执行在此描述的方法的部件。可替换地,可以经由存储部件(例如,RAM、ROM、物理存储介质,诸如CD或者软盘等等)来提供在此描述的各种方法,使得在将存储部件耦接到或者提供给设备时,用户终端和/或基站可以获得各种方法。此外,可以利用向设备提供在此描述的方法和技术的任何其它合适的技术。
其它示例和实现方式在本公开和所附的权利要求的范围和精神内。例如,由于软件的特性,可以使用处理器、硬件、固件、硬连线,或者这些中任何组合执行的软件来实现上述的功能。实现功能的特征还可以位于各种位置,包括被分布使得在不同的物理位置处实现一部分功能。此外,如在此使用的,包括在权利要求中,如在以“至少一个”开始的一列条目中使用的“或”指示分离性的列表使得例如“A,B或者C中的至少一个”的列表意味着A或B或C或AB或AC或BC或ABC(即,A和B和C)。此外,用语“示例性”不是意味着所描述的示例是优选的或者比其它示例更好。
可以做出对在此描述的技术的各种改变、替换和更改,而不脱离由所附权利要求定义的教导的技术。此外,本公开和权利要求的范围不限于上述的处理、机器、制造、物质的合成、手段、方法,和动作的特定方面。可以利用与在此描述的对应方面执行基本相同功能或者实现基本相同结果的目前存在的或者随后开发的处理、机器、制造、物质的合成、手段、方法或者动作。相应地,所附的权利要求在它们的范围内包括这种处理、机器、制造、物质的合成、手段、方法或者动作。

Claims (16)

1.一种用于立即远程呈现的方法,包括:
通过迭代地执行以下步骤来保持第一应用程序和第二应用程序的应用程序图形的显示,第一和第二应用程序二者被编译用于第一操作系统并且处于第一操作系统内的活动的并发执行中,所述步骤包括:
使用第一操作系统计算对第一应用程序的表面的更新;
使用第一操作系统呈现更新的第一应用程序的表面以在第一存储位置生成第一图形帧,第一操作系统和第二操作系统在共享的内核上并发地并且独立地运行,其中第一操作系统和第二操作系统的每个通过所述共享的内核而不通过虚拟化的存储器进行系统调用;
使用第一操作系统计算对第二应用程序的表面的更新;
在第二存储位置存储更新的第二应用程序的表面,该第二存储位置是第一操作系统和第二操作系统二者可访问的共享的存储位置;以及
使用第二操作系统的控制台应用程序来呈现更新的第二应用程序的表面以便在第三存储位置生成第二图形帧,其中第一应用程序的表面与移动设备关联并且第二应用程序的表面与桌面计算系统关联,其中第一操作系统和第二操作系统在移动设备上执行。
2.根据权利要求1的方法,还包括:
向与第一操作系统相关联的第一计算环境的显示器显示来自第一存储位置的第一图形帧;以及
向与第二操作系统相关联的第二计算环境的显示器显示来自第三存储位置的第二图形帧。
3.根据权利要求2的方法,其中经由控制台程序向与第二操作系统相关联的第二计算环境的显示器显示来自第三存储位置的第二图形帧。
4.根据权利要求1的方法,还包括:通过控制台应用程序接收指示更新的表面在第二存储位置可用的绘制通知。
5.根据权利要求4的方法,还包括:使用匿名的共享存储器为应用程序的图形表面分配存储器。
6.根据权利要求4的方法,其中,所述共享的内核中的设备驱动器实现硬件接口。
7.根据权利要求4的方法,还包括:通过将文件描述符映射到控制台应用程序的处理空间来接收对第二存储位置的参考。
8.根据权利要求7的方法,其中呈现更新的第二应用程序的表面包括通过所述参考来读取第二存储位置。
9.根据权利要求1的方法,还包括:
将控制台应用程序中的渲染器对象实例化;以及
在第一操作系统的图形服务器中注册渲染器对象的远程接口以便接收第一应用程序的表面的绘制通知。
10.根据权利要求1的方法,其中第二应用程序与第二操作系统的图形服务器不兼容,其中该共享的内核包括进程间通信驱动器,其允许第一操作系统和第二操作系统中的进程彼此通信。
11.根据权利要求1的方法,其中呈现更新的第二应用程序的表面包括通过层顺序来合成更新的表面。
12.一种移动计算设备,包括:
在第一操作系统内的活动的并发执行中的第一应用程序和第二应用程序;
与第一应用程序相关联的第一图形表面;
第一操作系统的图形服务器,其可操作地呈现第一图形表面以在第一存储位置生成第一图形帧;
共享存储器,在第一操作系统和第二操作系统上运行的所有进程可访问该共享存储器并且该共享存储器由共享的内核管理,第一操作系统和第二操作系统在共享的内核上并发地运行,其中第一操作系统和第二操作系统的每个通过所述共享的内核而不通过虚拟化的存储器进行系统调用;
与第二应用程序相关联的第二图形表面,第二图形表面被存储在第二存储位置中,第二存储位置是该共享存储器的共享的存储位置;以及
在第二操作系统内运行的控制台应用程序,控制台应用程序可操作地呈现第二图形表面以在第三存储位置生成第二图形帧,其中第一应用程序的表面与移动设备关联并且第二应用程序的表面与桌面计算系统关联,其中第一操作系统和第二操作系统在移动设备上执行。
13.根据权利要求12的移动计算设备,还包括由控制台应用程序实例化的渲染器对象,其包括用于呈现第二图形表面以生成第二图形帧的远程方法。
14.根据权利要求12的移动计算设备,其中,控制台应用程序从第一操作系统的图形服务器接收指示第二图形表面已经被更新的绘制通知。
15.根据权利要求12的移动计算设备,其中第二操作系统的图形服务器是X-windows类型的图形服务器,并且其中第二应用程序使用与第二操作系统的X-windows类型的图形服务器不兼容的第一操作系统的图形库,其中该共享的内核包括进程间通信驱动器,其允许第一操作系统和第二操作系统中的进程彼此通信。
16.根据权利要求12的移动计算设备,其中,所述共享的内核中的设备驱动器实现硬件接口。
CN201180058046.3A 2010-10-01 2011-09-29 立即远程呈现 Active CN103339600B (zh)

Applications Claiming Priority (15)

Application Number Priority Date Filing Date Title
US38911710P 2010-10-01 2010-10-01
US61/389,117 2010-10-01
US201161507203P 2011-07-13 2011-07-13
US201161507209P 2011-07-13 2011-07-13
US201161507199P 2011-07-13 2011-07-13
US201161507201P 2011-07-13 2011-07-13
US201161507206P 2011-07-13 2011-07-13
US61/507,203 2011-07-13
US61/507,206 2011-07-13
US61/507,199 2011-07-13
US61/507,209 2011-07-13
US61/507,201 2011-07-13
US13/246,665 US9047102B2 (en) 2010-10-01 2011-09-27 Instant remote rendering
US13/246,665 2011-09-27
PCT/US2011/053835 WO2012044738A2 (en) 2010-10-01 2011-09-29 Instant remote rendering

Publications (2)

Publication Number Publication Date
CN103339600A CN103339600A (zh) 2013-10-02
CN103339600B true CN103339600B (zh) 2017-10-31

Family

ID=45893741

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201180058046.3A Active CN103339600B (zh) 2010-10-01 2011-09-29 立即远程呈现

Country Status (7)

Country Link
US (1) US9047102B2 (zh)
EP (1) EP2622463B1 (zh)
JP (1) JP2013546043A (zh)
CN (1) CN103339600B (zh)
BR (1) BR112013007342A2 (zh)
MX (1) MX2013003515A (zh)
WO (1) WO2012044738A2 (zh)

Families Citing this family (81)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8933949B2 (en) 2010-10-01 2015-01-13 Z124 User interaction across cross-environment applications through an extended graphics context
US20130104062A1 (en) 2011-09-27 2013-04-25 Z124 Unified desktop input segregation in an application manager
US20130076592A1 (en) 2011-09-27 2013-03-28 Paul E. Reeves Unified desktop docking behavior for visible-to-visible extension
US9678624B2 (en) 2011-09-27 2017-06-13 Z124 Unified desktop triad control user interface for a phone manager
US9268518B2 (en) 2011-09-27 2016-02-23 Z124 Unified desktop docking rules
US8726294B2 (en) 2010-10-01 2014-05-13 Z124 Cross-environment communication using application space API
US20130024812A1 (en) 2011-07-13 2013-01-24 Z124 Foreground/background assortment of hidden windows
US9405459B2 (en) 2011-08-24 2016-08-02 Z124 Unified desktop laptop dock software operation
US8990713B2 (en) 2011-09-27 2015-03-24 Z124 Unified desktop triad control user interface for an application manager
US9715252B2 (en) 2011-08-24 2017-07-25 Z124 Unified desktop docking behavior for window stickiness
US8819705B2 (en) 2010-10-01 2014-08-26 Z124 User interaction support across cross-environment applications
US20130024778A1 (en) 2011-07-13 2013-01-24 Z124 Dynamic cross-environment application configuration/orientation
US8990712B2 (en) 2011-08-24 2015-03-24 Z124 Unified desktop triad control user interface for file manager
US9047102B2 (en) 2010-10-01 2015-06-02 Z124 Instant remote rendering
US8966379B2 (en) 2010-10-01 2015-02-24 Z124 Dynamic cross-environment application configuration/orientation in an active user environment
US9529494B2 (en) 2011-09-27 2016-12-27 Z124 Unified desktop triad control user interface for a browser
US20040187444A1 (en) 2002-12-27 2004-09-30 Hutchinson Gerald A. Process for the manufacture and filling of flexible pouches
US8698751B2 (en) 2010-10-01 2014-04-15 Z124 Gravity drop rules and keyboard display on a multiple screen device
WO2021099839A1 (en) 2019-11-18 2021-05-27 Roy Mann Collaborative networking systems, methods, and devices
US11410129B2 (en) * 2010-05-01 2022-08-09 Monday.com Ltd. Digital processing systems and methods for two-way syncing with third party applications in collaborative work systems
WO2021161104A1 (en) 2020-02-12 2021-08-19 Monday.Com Enhanced display features in collaborative network systems, methods, and devices
WO2021144656A1 (en) 2020-01-15 2021-07-22 Monday.Com Digital processing systems and methods for graphical dynamic table gauges in collaborative work systems
CN107122168A (zh) 2010-10-01 2017-09-01 Z124 多操作系统
US9372618B2 (en) 2010-10-01 2016-06-21 Z124 Gesture based application management
US8898443B2 (en) 2010-10-01 2014-11-25 Z124 Multi-operating system
US8761831B2 (en) 2010-10-15 2014-06-24 Z124 Mirrored remote peripheral interface
US10983747B2 (en) * 2011-07-15 2021-04-20 Vmware, Inc. Remote desktop mirroring
US20160124698A1 (en) 2011-08-24 2016-05-05 Z124 Unified desktop triad control user interface for an application launcher
US20130104051A1 (en) 2011-09-27 2013-04-25 Z124 Unified desktop big brother application pools
WO2013028202A1 (en) 2011-08-25 2013-02-28 Intel Corporation Collaborative graphics rendering using mobile devices to support remote display
US11416131B2 (en) 2011-09-27 2022-08-16 Z124 Unified desktop input segregation in an application manager
US20130080899A1 (en) 2011-09-27 2013-03-28 Paul E. Reeves Unified desktop big brother applications
US9703468B2 (en) 2011-09-27 2017-07-11 Z124 Unified desktop independent focus in an application manager
US8878794B2 (en) 2011-09-27 2014-11-04 Z124 State of screen info: easel
US20160054757A1 (en) 2012-02-29 2016-02-25 Z124 Unified desktop docking flow
WO2013074897A1 (en) 2011-11-16 2013-05-23 Flextronics Ap, Llc Configurable vehicle console
US9164544B2 (en) 2011-12-09 2015-10-20 Z124 Unified desktop: laptop dock, hardware configuration
US20140354651A1 (en) * 2012-02-20 2014-12-04 Mitsubishi Electric Corporation Graphics data processing apparatus and graphics data processing system
GB2502082B (en) * 2012-05-15 2014-04-16 Displaylink Uk Ltd A display system
JP2014085861A (ja) * 2012-10-24 2014-05-12 Canon Inc 表示システム、端末装置、表示装置、表示システムの制御方法、端末装置の制御方法、及び、表示装置の制御方法
US20140282103A1 (en) * 2013-03-16 2014-09-18 Jerry Alan Crandall Data sharing
US9225799B1 (en) * 2013-05-21 2015-12-29 Trend Micro Incorporated Client-side rendering for virtual mobile infrastructure
CN104375849B (zh) * 2013-08-15 2019-01-11 腾讯科技(深圳)有限公司 加载内核的方法及装置
CN104516703B (zh) * 2013-09-30 2018-02-16 中国电信股份有限公司 在安卓终端上实现虚拟桌面屏幕分辨率自动适配的方法和系统
US9087394B1 (en) 2014-02-13 2015-07-21 Raycast Systems, Inc. Computer hardware architecture and data structures for packet binning to support incoherent ray traversal
US9619120B1 (en) * 2014-06-30 2017-04-11 Google Inc. Picture-in-picture for operating systems
WO2016045070A1 (en) * 2014-09-26 2016-03-31 Intel Corporation Facilitation of guest application display from host operating system
CN105740064B (zh) * 2014-12-12 2019-07-16 龙芯中科技术有限公司 Linux系统中防止服务端重启的方法及装置
CN105979371A (zh) * 2015-07-17 2016-09-28 乐视致新电子科技(天津)有限公司 获取音视频信息的方法及系统
CN105162831B (zh) * 2015-07-27 2018-09-18 北京京东尚科信息技术有限公司 用于实现远程虚拟桌面的移动端和服务端操作方法及装置
CN106406920A (zh) * 2015-07-29 2017-02-15 宋青见 终端设备及其应用程序的执行方法
US10582011B2 (en) * 2015-08-06 2020-03-03 Samsung Electronics Co., Ltd. Application cards based on contextual data
US10956034B2 (en) * 2016-07-25 2021-03-23 Hewlett-Packard Development Company, L.P. Automatic virtual input device
KR102597036B1 (ko) 2016-10-11 2023-11-02 삼성전자주식회사 듀얼 디스플레이를 가지는 전자 장치 및 이의 운용 방법
US20180137840A1 (en) * 2016-11-17 2018-05-17 Fuji Xerox Co., Ltd. Terminal apparatus and non-transitory computer readable medium
US10623460B2 (en) 2016-11-18 2020-04-14 Google Llc Streaming application environment with remote device input synchronization
US11366586B2 (en) 2016-11-18 2022-06-21 Google Llc Streaming application environment with recovery of lost or delayed input events
CN107943459B (zh) * 2017-11-20 2020-12-18 中国运载火箭技术研究院 一种通用化航天器综合电子系统
CN108427545B (zh) * 2018-02-01 2021-07-09 广州视源电子科技股份有限公司 截屏数据的处理方法、装置、系统、存储介质及处理器
CN110389760A (zh) * 2018-04-19 2019-10-29 沪江教育科技(上海)股份有限公司 动态页面的生成方法、装置、存储介质及电子设备
US11698890B2 (en) 2018-07-04 2023-07-11 Monday.com Ltd. System and method for generating a column-oriented data structure repository for columns of single data types
US11436359B2 (en) 2018-07-04 2022-09-06 Monday.com Ltd. System and method for managing permissions of users for a single data type column-oriented data structure
CN109582453A (zh) * 2018-11-29 2019-04-05 北京元心科技有限公司 多系统间协调调度的方法、装置及电子设备
CN110119261B (zh) * 2019-04-29 2022-02-08 深圳达闼科技控股有限公司 文件共享方法、折叠屏终端、计算设备及计算机存储介质
CN110347475B (zh) * 2019-06-19 2022-03-04 东软集团股份有限公司 服务调用方法、服务调用装置及服务调用系统
CN110442389B (zh) * 2019-08-07 2024-01-09 北京技德系统技术有限公司 一种多桌面环境共享使用gpu的方法
US20210150481A1 (en) 2019-11-18 2021-05-20 Monday.Com Digital processing systems and methods for mechanisms for sharing responsibility in collaborative work systems
US20240184989A1 (en) 2020-05-01 2024-06-06 Monday.com Ltd. Digital processing systems and methods for virtualfile-based electronic white board in collaborative work systems systems
EP4143732A1 (en) 2020-05-01 2023-03-08 Monday.com Ltd. Digital processing systems and methods for enhanced collaborative workflow and networking systems, methods, and devices
US11070621B1 (en) * 2020-07-21 2021-07-20 Cisco Technology, Inc. Reuse of execution environments while guaranteeing isolation in serverless computing
CN112379955A (zh) * 2020-11-17 2021-02-19 北京麟卓信息科技有限公司 一种安卓应用在横屏显示器中的显示方法及装置
CN112463273B (zh) * 2020-11-18 2022-01-11 北京麟卓信息科技有限公司 一种安卓应用在pc显示器中的显示方法及装置
US11449668B2 (en) 2021-01-14 2022-09-20 Monday.com Ltd. Digital processing systems and methods for embedding a functioning application in a word processing document in collaborative work systems
CN113467870B (zh) * 2021-06-25 2023-10-03 宁波均联智行科技股份有限公司 基于双系统的app同屏显示方法及系统
CN115705229A (zh) 2021-08-06 2023-02-17 北京小米移动软件有限公司 显示控制方法和系统、移动终端、存储介质
CN115658214B (zh) * 2022-12-09 2023-04-04 北京麟卓信息科技有限公司 一种跨运行环境的输入渲染延迟优化方法
US11741071B1 (en) 2022-12-28 2023-08-29 Monday.com Ltd. Digital processing systems and methods for navigating and viewing displayed content
US11886683B1 (en) 2022-12-30 2024-01-30 Monday.com Ltd Digital processing systems and methods for presenting board graphics
US11893381B1 (en) 2023-02-21 2024-02-06 Monday.com Ltd Digital processing systems and methods for reducing file bundle sizes
CN116339900B (zh) * 2023-05-30 2023-07-18 北京麟卓信息科技有限公司 一种跨运行环境的多窗口融合显示方法
CN117369936B (zh) * 2023-12-04 2024-03-08 武汉凌久微电子有限公司 一种显示内容渲染方法及渲染系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1639686A (zh) * 2001-06-29 2005-07-13 英特尔公司 使用具有图形上下文管理器的图形渲染引擎的装置、方法和系统
US7069519B1 (en) * 1999-09-24 2006-06-27 Hitachi, Ltd. Method, apparatus and navigation apparatus for sharing display by plural operating systems

Family Cites Families (221)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5396630A (en) 1992-10-06 1995-03-07 International Business Machines Corporation Method and system for object management across process boundries in a data processing system
US5673403A (en) 1992-11-13 1997-09-30 International Business Machines Corporation Method and system for displaying applications of different operating systems on a single system using the user interface of the different operating systems
JPH06301555A (ja) 1993-02-26 1994-10-28 Internatl Business Mach Corp <Ibm> マイクロカーネル上の複数の共存オペレーティング・システム・パーソナリティ用のシステム
US5956030A (en) 1993-06-11 1999-09-21 Apple Computer, Inc. Computer system with graphical user interface including windows having an identifier within a control region on the display
JP3437238B2 (ja) 1994-02-04 2003-08-18 キヤノン株式会社 コンピュータ、コンピュータシステム及びその制御方法
JPH08115144A (ja) 1994-10-17 1996-05-07 Toshiba Corp 分離型ワークステーション装置
US6108715A (en) 1994-12-13 2000-08-22 Microsoft Corporation Method and system for invoking remote procedure calls
CA2173695A1 (en) 1995-04-14 1996-10-15 Panagiotis Kougiouris Method and system for providing interoperability among processes written to execute on different operating systems
US6260075B1 (en) 1995-06-19 2001-07-10 International Business Machines Corporation System and method for providing shared global offset table for common shared library in a computer system
JPH0926769A (ja) 1995-07-10 1997-01-28 Hitachi Ltd 画像表示装置
US6477585B1 (en) 1995-08-18 2002-11-05 International Business Machines Corporation Filter mechanism for an event management service
US5874928A (en) 1995-08-24 1999-02-23 Philips Electronics North America Corporation Method and apparatus for driving a plurality of displays simultaneously
US6018340A (en) 1997-01-27 2000-01-25 Microsoft Corporation Robust display management in a multiple monitor environment
US6157959A (en) 1997-07-03 2000-12-05 Tandem Computers, Incorporated Method and apparatus for providing portable kernel-mode support for fast interprocess communication
US6381682B2 (en) 1998-06-10 2002-04-30 Compaq Information Technologies Group, L.P. Method and apparatus for dynamically sharing memory in a multiprocessor system
US6178503B1 (en) 1998-09-11 2001-01-23 Powerquest Corporation Managing multiple operating systems on a single computer
US6507336B1 (en) 1999-02-04 2003-01-14 Palm, Inc. Keyboard for a handheld computer
US7334235B2 (en) 1999-06-16 2008-02-19 Microsoft Corporation Operating system application programming interfaces and methods of using operating systems
US7284203B1 (en) 1999-07-27 2007-10-16 Verizon Laboratories Inc. Method and apparatus for application sharing interface
US7007240B1 (en) 1999-08-03 2006-02-28 Gateway Inc. Method and system for displaying non-overlapping program and auxiliary windows
US6917963B1 (en) 1999-10-05 2005-07-12 Veritas Operating Corporation Snapshot image for the application state of unshareable and shareable data
US20080062625A1 (en) 1999-10-18 2008-03-13 Jeffrey Batio Portable computer for dual, rotatable screens
KR100679809B1 (ko) 1999-12-28 2007-02-07 주식회사 케이티 분산객체간 통신장치 및 방법
JP2001209466A (ja) 2000-01-26 2001-08-03 Internatl Business Mach Corp <Ibm> コンピュータの制御方法、コンピュータ、及び記録媒体
US20100005396A1 (en) 2000-02-18 2010-01-07 Nason D David Method and system for controlling a comlementary user interface on a display surface
JP4402797B2 (ja) 2000-03-02 2010-01-20 株式会社日立製作所 情報処理装置
US7478341B2 (en) 2000-04-19 2009-01-13 Broadcom Corporation Apparatus and method for persistent display interface
US20020158811A1 (en) 2000-06-02 2002-10-31 Davis Terry Glenn Dual-monitor duo-workpad TM device
US7210099B2 (en) 2000-06-12 2007-04-24 Softview Llc Resolution independent vector display of internet content
JP5081345B2 (ja) 2000-06-13 2012-11-28 富士フイルム株式会社 光電変換素子の製造方法
US6728722B1 (en) 2000-08-28 2004-04-27 Sun Microsystems, Inc. General data structure for describing logical data spaces
US20030020954A1 (en) 2001-07-26 2003-01-30 Charlie Udom Versatile printing from portable electronic device
GB0028890D0 (en) 2000-11-27 2001-01-10 Isis Innovation Visual display screen arrangement
US20030017417A1 (en) 2001-07-23 2003-01-23 Goodin Jonathan William Method for obtaining a lithographic printing surface using a metal complex
US6608629B2 (en) 2001-03-16 2003-08-19 Mitsubishi Electric Research Laboratories, Inc. Distance based constraints for adaptively sampled distance fields
TW502210B (en) 2001-04-19 2002-09-11 Asustek Comp Inc Computer system capable of switching operating system
US6961941B1 (en) 2001-06-08 2005-11-01 Vmware, Inc. Computer configuration for resource management in systems including a virtual machine
US8966379B2 (en) 2010-10-01 2015-02-24 Z124 Dynamic cross-environment application configuration/orientation in an active user environment
US8726294B2 (en) 2010-10-01 2014-05-13 Z124 Cross-environment communication using application space API
US8819705B2 (en) 2010-10-01 2014-08-26 Z124 User interaction support across cross-environment applications
US8933949B2 (en) 2010-10-01 2015-01-13 Z124 User interaction across cross-environment applications through an extended graphics context
US9047102B2 (en) 2010-10-01 2015-06-02 Z124 Instant remote rendering
US20130024778A1 (en) 2011-07-13 2013-01-24 Z124 Dynamic cross-environment application configuration/orientation
US6970173B2 (en) 2001-09-14 2005-11-29 Ati Technologies, Inc. System for providing multiple display support and method thereof
KR100763339B1 (ko) 2001-10-17 2007-10-04 벱테크 인코포레이티드 운영 시스템 전반에 대한 통신 방법
US20030079205A1 (en) 2001-10-22 2003-04-24 Takeshi Miyao System and method for managing operating systems
JP2003196096A (ja) 2001-12-07 2003-07-11 Internatl Business Mach Corp <Ibm> コンピュータシステム、その起動制御方法及びプログラム
US20030115443A1 (en) 2001-12-18 2003-06-19 Cepulis Darren J. Multi-O/S system and pre-O/S boot technique for partitioning resources and loading multiple operating systems thereon
US7143417B2 (en) 2002-01-10 2006-11-28 International Business Machines Corporation Notification services within a unified communications service
US20030226116A1 (en) 2002-03-08 2003-12-04 Katie Kuwata Method and system for implementing a historical buffer
WO2003077097A1 (fr) 2002-03-08 2003-09-18 Mitsubishi Denki Kabushiki Kaisha Dispositif de communication mobile, procede de commande d'affichage pour ledit dispositif et programme correspondant
US20030179541A1 (en) 2002-03-21 2003-09-25 Peter Sullivan Double screen portable computer
GB2394799B (en) 2002-07-31 2006-01-25 Hewlett Packard Co Improvements relating to mobile printing
US20070022155A1 (en) 2002-08-22 2007-01-25 Owens David H Method and system for integrating enterprise software applications with desktop software applications
JP2005539326A (ja) 2002-09-17 2005-12-22 キム、シハン マルチディスプレイ装置
US7176943B2 (en) 2002-10-08 2007-02-13 Microsoft Corporation Intelligent windows bumping method and system
US8508643B2 (en) 2003-01-17 2013-08-13 Hewlett-Packard Development Company, L.P. Method and system for processing an image
US8698751B2 (en) 2010-10-01 2014-04-15 Z124 Gravity drop rules and keyboard display on a multiple screen device
US7389512B2 (en) 2003-05-09 2008-06-17 Sun Microsystems, Inc. Interprocess communication within operating system partitions
EP1503286B1 (en) 2003-07-30 2014-09-03 Jaluna SA Multiple operating system networking
US7152186B2 (en) 2003-08-04 2006-12-19 Arm Limited Cross-triggering of processing devices
US7808549B2 (en) 2003-08-21 2010-10-05 Alps Electric Co., Ltd. Electronic device
US7181251B2 (en) 2003-10-22 2007-02-20 Nokia Corporation Mobile communication terminal with multi orientation user interface
TW200525421A (en) 2004-01-30 2005-08-01 Intervideo Digital Technology Corp Structure of shared application program in operating system and method thereof
US7483991B2 (en) 2004-03-25 2009-01-27 Microsoft Corporation Instant messaging communications channel for transporting data between objects executing within a managed code environment
JP2005305867A (ja) 2004-04-22 2005-11-04 Seiko Epson Corp 画像処理システム、画像表示装置、プリンタおよび印刷方法
US7478204B2 (en) 2004-04-29 2009-01-13 International Business Machines Corporation Efficient sharing of memory between applications running under different operating systems on a shared hardware system
US20060031572A1 (en) 2004-05-18 2006-02-09 Microsoft Corporation Event broker
US20070182663A1 (en) 2004-06-01 2007-08-09 Biech Grant S Portable, folding and separable multi-display computing system
JP2005346244A (ja) 2004-06-01 2005-12-15 Nec Corp 情報表示装置及びその操作方法
KR100578592B1 (ko) 2004-06-23 2006-05-12 공정배 서버/클라이언트 기반에서 온라인 이기종 운영 체제 제공 시스템 및 방법
US7996785B2 (en) 2004-06-30 2011-08-09 Microsoft Corporation Systems and methods for integrating application windows in a virtual machine environment
US7424601B2 (en) 2004-07-07 2008-09-09 Yongyong Xu Methods and systems for running multiple operating systems in a single mobile device
JP2008513869A (ja) 2004-09-21 2008-05-01 ノキア コーポレイション 折り畳み式電子装置
US20060082581A1 (en) 2004-10-14 2006-04-20 Microsoft Corporation Encoding for remoting graphics to decoder device
EP1811750A4 (en) 2004-11-09 2009-07-08 Sharp Kk PORTABLE INFORMATION TERMINAL
US7290114B2 (en) 2004-11-17 2007-10-30 Intel Corporation Sharing data in a user virtual address range with a kernel virtual address range
US20060111921A1 (en) 2004-11-23 2006-05-25 Hung-Yang Chang Method and apparatus of on demand business activity management using business performance management loops
EP1662760A1 (en) 2004-11-30 2006-05-31 Sony Ericsson Mobile Communications AB Method for providing alerts in a mobile device and mobile device therefor
JP4738805B2 (ja) 2004-12-16 2011-08-03 株式会社リコー 画面共有システム、画面共有方法、画面共有プログラム
US20060139862A1 (en) 2004-12-23 2006-06-29 Yajun Wang Hinged electronic device with hinged screen
KR100616157B1 (ko) 2005-01-11 2006-08-28 와이더댄 주식회사 애플리케이션 연동 방법 및 그 시스템
TWI267752B (en) 2005-01-17 2006-12-01 Lite On Technology Corp Multi-mode computer system and operating method thereof
US20060183505A1 (en) 2005-02-15 2006-08-17 Willrich Scott Consulting Group, Inc. Digital mobile planner
US7289084B2 (en) 2005-02-22 2007-10-30 John Michael Lesniak Computer display apparatus
GB0504326D0 (en) 2005-03-02 2005-04-06 Symbian Software Ltd Dual mode operating system for a computing device
US20060248471A1 (en) 2005-04-29 2006-11-02 Microsoft Corporation System and method for providing a window management mode
US7565535B2 (en) 2005-05-06 2009-07-21 Microsoft Corporation Systems and methods for demonstrating authenticity of a virtual machine using a security image
WO2007005562A2 (en) 2005-06-30 2007-01-11 Phoenix Technologies Ltd. Shared file system management between independent operating systems
US7950008B2 (en) 2005-07-06 2011-05-24 International Business Machines Corporation Software installation in multiple operating systems
US7870558B2 (en) 2005-07-15 2011-01-11 Microsoft Corporation Handle passing using an inter-process communication
US20070067769A1 (en) 2005-08-30 2007-03-22 Geisinger Nile J Method and apparatus for providing cross-platform hardware support for computer platforms
US20070050751A1 (en) 2005-08-31 2007-03-01 Microsoft Corporation Automatic interoperation with legacy POS service and control objects
US7844301B2 (en) 2005-10-14 2010-11-30 Lg Electronics Inc. Method for displaying multimedia contents and mobile communications terminal capable of implementing the same
US20070136356A1 (en) 2005-12-12 2007-06-14 Microsoft Corporation Mechanism for drivers to create alternate namespaces
WO2007074697A1 (ja) 2005-12-26 2007-07-05 Ibm Japan, Ltd. 複数の表示オブジェクトの表示を操作するための方法、プログラム、データ処理システム
KR20070082691A (ko) 2006-02-17 2007-08-22 삼성전자주식회사 디지털 멀티미디어 장치
FR2899755B1 (fr) 2006-04-10 2008-10-10 Streamezzo Sa Procede de restitution adaptative d'au moins un contenu multimedia sur un dispositif de visualisation orientable d'un terminal
US20090278806A1 (en) 2008-05-06 2009-11-12 Matias Gonzalo Duarte Extended touch-sensitive control area for electronic device
US7987432B1 (en) 2006-04-25 2011-07-26 Parallels Holdings, Ltd. Seamless integration and installation of non-native application into native operating system
US20080282181A1 (en) 2006-05-02 2008-11-13 Siemens Medical Solutions Usa, Inc. Executable Application Configuration Information Processing System
KR100772875B1 (ko) 2006-05-22 2007-11-02 삼성전자주식회사 사용자 선호도에 따른 사용자 인터페이스를 설정하는 장치및 그 방법
US9201703B2 (en) 2006-06-07 2015-12-01 International Business Machines Corporation Sharing kernel services among kernels
US7880728B2 (en) 2006-06-29 2011-02-01 Microsoft Corporation Application switching via a touch screen interface
US20080024388A1 (en) 2006-07-29 2008-01-31 Oscar Bruce Two-sided display monitor apparatus
US9019300B2 (en) 2006-08-04 2015-04-28 Apple Inc. Framework for graphics animation and compositing operations
KR100811794B1 (ko) 2006-10-12 2008-03-10 삼성전자주식회사 휴대단말기의 블루투스 기능을 이용하여 프린터를 제어하는방법
JP4933304B2 (ja) 2006-10-16 2012-05-16 キヤノン株式会社 画像処理装置、その制御方法及びプログラム
WO2008050175A1 (en) 2006-10-27 2008-05-02 Nokia Corporation Method and apparatus for facilitating movement within a three dimensional graphical user interface
KR101144423B1 (ko) 2006-11-16 2012-05-10 엘지전자 주식회사 휴대 단말기 및 휴대 단말기의 화면 표시 방법
US20080119731A1 (en) 2006-11-20 2008-05-22 North American Medical Corporation Portable ultrasound with touch screen interface
US8332866B2 (en) 2006-11-29 2012-12-11 Qualcomm Incorporated Methods, systems, and apparatus for object invocation across protection domain boundaries
US8839105B2 (en) 2006-12-01 2014-09-16 International Business Machines Corporation Multi-display system and method supporting differing accesibility feature selection
US20080155103A1 (en) 2006-12-21 2008-06-26 Kimberly Tekavec Bailey AF UNIX Socket Across Systems in the Same Computer on Computer Systems that Support Multiple Operating System Images
JP5246388B2 (ja) 2007-03-08 2013-07-24 日本電気株式会社 仮想装置構成システム、及びその方法
EP2137629A4 (en) 2007-03-20 2010-12-29 Sanggyu Lee MOBILE VIRTUAL MACHINE IMAGE
US8789063B2 (en) 2007-03-30 2014-07-22 Microsoft Corporation Master and subordinate operating system kernels for heterogeneous multiprocessor systems
JP5596343B2 (ja) 2007-04-13 2014-09-24 日本電気株式会社 仮想計算機システムおよびその最適化方法
WO2008132760A2 (en) * 2007-04-26 2008-11-06 Hewlett-Packard Development Company, L.P. Method and system for allocating memory in a computing environment
US8285259B2 (en) 2007-05-29 2012-10-09 Microsoft Corporation Resource aggregation in an opportunistic network
US8004493B2 (en) 2007-06-08 2011-08-23 Apple Inc. Methods and systems for providing sensory information to devices and peripherals
KR101320504B1 (ko) 2007-07-10 2013-10-22 엘지전자 주식회사 휴대 단말기
US8458612B2 (en) 2007-07-29 2013-06-04 Hewlett-Packard Development Company, L.P. Application management framework for web applications
CA2699565C (en) * 2007-09-20 2014-07-15 C&S Operations, Inc. Computer system with multiple terminals
US9003173B2 (en) 2007-09-28 2015-04-07 Microsoft Technology Licensing, Llc Multi-OS (operating system) boot via mobile device
GB2454030A (en) 2007-10-24 2009-04-29 Plastic Logic Ltd Edgeless display device
US20090158299A1 (en) * 2007-10-31 2009-06-18 Carter Ernst B System for and method of uniform synchronization between multiple kernels running on single computer systems with multiple CPUs installed
KR100883208B1 (ko) 2007-12-13 2009-02-13 성균관대학교산학협력단 가상화 기술을 기반으로 하여 소프트웨어의 업데이트가가능한 이동통신 단말기 및 그 업데이트 방법
TWI358028B (en) 2007-12-25 2012-02-11 Htc Corp Electronic device capable of transferring object b
US20090176571A1 (en) 2008-01-07 2009-07-09 Ippasa, Llc System for and method of operating video game system with control actuator-equipped stylus
US7960945B1 (en) 2008-01-30 2011-06-14 Google Inc. Estimating remaining use time of a mobile device
AU2009209018B2 (en) 2008-01-30 2014-03-20 Google Llc Notification of mobile device events
CN101520745B (zh) 2008-02-27 2012-03-28 联想(北京)有限公司 数据处理设备及其状态切换方法
CN101526836A (zh) 2008-03-03 2009-09-09 鸿富锦精密工业(深圳)有限公司 双屏笔记本电脑
US20100164836A1 (en) 2008-03-11 2010-07-01 Truview Digital, Inc. Digital photo album, digital book, digital reader
US7930328B2 (en) 2008-03-31 2011-04-19 Lenovo (Singapore) Pte. Ltd. Apparatus, system, and method for file system sharing
EP2109080A1 (en) 2008-04-09 2009-10-14 IBBT vzw A method and device for processing and presenting medical images
WO2009126165A1 (en) 2008-04-11 2009-10-15 T-Mobile Usa, Inc. Digital picture frame having communication capabilities
US7949633B1 (en) 2008-05-12 2011-05-24 Adobe Systems Incorporated Shared edit access of electronic content
ATE504155T1 (de) 2008-05-29 2011-04-15 Lg Electronics Inc Transparente anzeige und betriebsverfahren dafür
US8230180B2 (en) 2008-06-11 2012-07-24 Samsung Electronics Co., Ltd. Shared memory burst communications
CN102089729A (zh) 2008-06-12 2011-06-08 卡诺瓦科技有限公司 双屏显示系统
US8359372B2 (en) 2008-06-29 2013-01-22 Microsoft Corporation Automatic transfer of information through physical docking of devices
EP2309368A4 (en) 2008-06-30 2013-05-01 Nec Corp INFORMATION PROCESSING DEVICE, DISPLAY CONTROL METHOD, AND RECORDING MEDIUM
US20090322690A1 (en) 2008-06-30 2009-12-31 Nokia Corporation Screen display
US20100007603A1 (en) 2008-07-14 2010-01-14 Sony Ericsson Mobile Communications Ab Method and apparatus for controlling display orientation
EP2309369B1 (en) 2008-07-25 2016-09-28 NEC Corporation Information processing device, information processing program, and display control method
US8191004B2 (en) 2008-08-06 2012-05-29 Microsoft Corporation User feedback correlated to specific user interface or application features
US20100046026A1 (en) 2008-08-21 2010-02-25 Samsung Electronics Co., Ltd. Image forming apparatus and image forming method
US8613394B2 (en) 2008-08-29 2013-12-24 The Invention Science Fund I, Llc Bendable electronic interface external control system and method
US8860632B2 (en) 2008-09-08 2014-10-14 Qualcomm Incorporated Multi-panel device with configurable interface
US8836611B2 (en) 2008-09-08 2014-09-16 Qualcomm Incorporated Multi-panel device with configurable interface
US8933874B2 (en) 2008-09-08 2015-01-13 Patrik N. Lundqvist Multi-panel electronic device
US9009984B2 (en) 2008-09-08 2015-04-21 Qualcomm Incorporated Multi-panel electronic device
US8803816B2 (en) 2008-09-08 2014-08-12 Qualcomm Incorporated Multi-fold mobile device with configurable interface
US8165558B2 (en) 2008-09-08 2012-04-24 Celio Technology Corporation Client device for cellular telephone as server
US8866840B2 (en) 2008-09-08 2014-10-21 Qualcomm Incorporated Sending a parameter based on screen size or screen resolution of a multi-panel electronic device to a server
US20100064228A1 (en) 2008-09-11 2010-03-11 Ely Tsern Expandable system architecture comprising a handheld computer device that dynamically generates different user environments with secondary devices with displays of various form factors
WO2010030985A1 (en) 2008-09-12 2010-03-18 Gesturetek, Inc. Orienting displayed elements relative to a user
KR101501167B1 (ko) 2008-10-20 2015-03-10 삼성전자주식회사 다중 모뎀을 구비한 이동통신 단말기에서 다중 운용 체제를운용하기 위한 장치 및 방법
JP4935796B2 (ja) 2008-10-30 2012-05-23 富士ゼロックス株式会社 表示制御装置、画像形成装置及びプログラム
US8352967B2 (en) 2008-11-10 2013-01-08 Google Inc. Safe browser plugins using native code modules
US9075457B2 (en) 2008-12-12 2015-07-07 Maxim Integrated Products, Inc. System and method for interfacing applications processor to touchscreen display for reduced data transfer
US7864524B2 (en) 2008-12-24 2011-01-04 Research In Motion Limited Multiple-fold portable electronic device
US8300022B2 (en) 2009-01-09 2012-10-30 International Business Machines Corporation Dynamically reconfigurable touch screen displays
KR101569776B1 (ko) 2009-01-09 2015-11-19 삼성전자주식회사 접히는 표시부를 가지는 휴대 단말기 및 이의 운용 방법
KR20100083640A (ko) 2009-01-14 2010-07-22 삼성전자주식회사 디스플레이 장치, 스캐너, 디스플레이 시스템 및 이를 이용한 디스플레이 방법
KR101608748B1 (ko) 2009-02-18 2016-04-21 삼성전자주식회사 탈부착 가능한 서브 디스플레이부를 구비하는 휴대 단말기
US20100211769A1 (en) 2009-02-19 2010-08-19 Subramonian Shankar Concurrent Execution of a Smartphone Operating System and a Desktop Operating System
US8355755B2 (en) 2009-03-03 2013-01-15 Lg Electronics Inc. Mobile terminal
US8446377B2 (en) 2009-03-24 2013-05-21 Microsoft Corporation Dual screen portable touch sensitive computing system
US20100251233A1 (en) 2009-03-25 2010-09-30 Honeywell International Inc. Embedded computing system user interface emulated on a separate computing device
US8194001B2 (en) 2009-03-27 2012-06-05 Microsoft Corporation Mobile computer device display postures
US8630088B2 (en) 2009-03-27 2014-01-14 Qualcomm Incorporated Portable docking station for a portable computing device
US8707061B2 (en) 2009-03-27 2014-04-22 Qualcomm Incorporated System and method of providing scalable computing between a portable computing device and a portable computing device docking station
US7864517B2 (en) 2009-03-30 2011-01-04 Microsoft Corporation Mobile computer device binding feedback
JP5765224B2 (ja) 2009-03-31 2015-08-19 日本電気株式会社 携帯端末装置、並びに、その制御プログラム及び複数表示画面制御方法
TWI400652B (zh) 2009-06-11 2013-07-01 Insyde Software Corp Dual operating system parallel processing methods, recording media and computer program products
US20100321275A1 (en) 2009-06-18 2010-12-23 Microsoft Corporation Multiple display computing device with position-based operating modes
US8839422B2 (en) 2009-06-30 2014-09-16 George Mason Research Foundation, Inc. Virtual browsing environment
US9348633B2 (en) 2009-07-20 2016-05-24 Google Technology Holdings LLC Multi-environment operating system
US8868899B2 (en) 2009-07-20 2014-10-21 Motorola Mobility Llc System and method for switching between environments in a multi-environment operating system
US9367331B2 (en) * 2009-07-20 2016-06-14 Google Technology Holdings LLC Multi-environment operating system
US9389877B2 (en) 2009-07-20 2016-07-12 Google Technology Holdings LLC Multi-environment operating system
US9372711B2 (en) 2009-07-20 2016-06-21 Google Technology Holdings LLC System and method for initiating a multi-environment operating system
US8847984B2 (en) 2009-07-27 2014-09-30 Disney Enterprises, Inc. System and method for forming a composite image in a portable computing device having a dual screen display
JP2011028673A (ja) 2009-07-29 2011-02-10 Kyocera Corp 携帯端末装置
US20110102314A1 (en) 2009-10-30 2011-05-05 Xerox Corporation Dual-screen electronic reader with tilt detection for page navigation
US20110113329A1 (en) 2009-11-09 2011-05-12 Michael Pusateri Multi-touch sensing device for use with radiological workstations and associated methods of use
US8797268B2 (en) 2009-11-18 2014-08-05 Qualcomm Incorporated Folding mobile device
KR20110092802A (ko) 2010-02-10 2011-08-18 삼성전자주식회사 복수개의 표시부를 가지는 단말기의 데이터 운용 방법 및 이를 지원하는 단말기
US9454304B2 (en) 2010-02-25 2016-09-27 Microsoft Technology Licensing, Llc Multi-screen dual tap gesture
US20110210922A1 (en) 2010-02-26 2011-09-01 Research In Motion Limited Dual-screen mobile device
JP5800501B2 (ja) 2010-03-12 2015-10-28 任天堂株式会社 表示制御プログラム、表示制御装置、表示制御システム、及び、表示制御方法
US20110239142A1 (en) 2010-03-25 2011-09-29 Nokia Corporation Method and apparatus for providing content over multiple displays
EP2553561A4 (en) 2010-04-01 2016-03-30 Citrix Systems Inc INTERACTION WITH REMOTE APPLICATIONS DISPLAYED ON A VIRTUAL DESKTOP OF A TABLET COMPUTER DEVICE
US9213480B2 (en) 2010-04-08 2015-12-15 Nokia Technologies Oy Method, apparatus and computer program product for joining the displays of multiple devices
JP4865053B2 (ja) 2010-04-22 2012-02-01 株式会社東芝 情報処理装置およびドラッグ制御方法
US8400564B2 (en) 2010-05-03 2013-03-19 Microsoft Corporation Image capture
US9851747B2 (en) 2010-05-21 2017-12-26 Peter G. Winsky Electronic book reader with closely juxtaposed display screens
US20110291964A1 (en) 2010-06-01 2011-12-01 Kno, Inc. Apparatus and Method for Gesture Control of a Dual Panel Electronic Device
US8954099B2 (en) 2010-06-16 2015-02-10 Qualcomm Incorporated Layout design of proximity sensors to enable shortcuts
US8589952B2 (en) * 2010-06-30 2013-11-19 Palm, Inc. Dual operating system operation and configuration
US20120005602A1 (en) 2010-07-02 2012-01-05 Nokia Corporation Methods and apparatuses for facilitating task switching
US8397245B2 (en) 2010-07-12 2013-03-12 International Business Machines Corporation Managing loading and unloading of shared kernel extensions in isolated virtual space
KR101688942B1 (ko) 2010-09-03 2016-12-22 엘지전자 주식회사 다중 디스플레이에 기반한 사용자 인터페이스 제공 방법 및 이를 이용하는 이동 단말기
US8700987B2 (en) 2010-09-09 2014-04-15 Sony Corporation Annotating E-books / E-magazines with application results and function calls
US20120066624A1 (en) 2010-09-13 2012-03-15 Ati Technologies Ulc Method and apparatus for controlling movement of graphical user interface objects
US8724696B2 (en) 2010-09-23 2014-05-13 Vmware, Inc. System and method for transmitting video and user interface elements
US9372618B2 (en) 2010-10-01 2016-06-21 Z124 Gesture based application management
US9430122B2 (en) 2010-10-01 2016-08-30 Z124 Secondary single screen mode activation through off-screen gesture area activation
US8898443B2 (en) 2010-10-01 2014-11-25 Z124 Multi-operating system
CN107122168A (zh) 2010-10-01 2017-09-01 Z124 多操作系统
US20130312106A1 (en) 2010-10-01 2013-11-21 Z124 Selective Remote Wipe
US8761831B2 (en) 2010-10-15 2014-06-24 Z124 Mirrored remote peripheral interface
US8369893B2 (en) 2010-12-31 2013-02-05 Motorola Mobility Llc Method and system for adapting mobile device to accommodate external display
US20120176413A1 (en) 2011-01-11 2012-07-12 Qualcomm Incorporated Methods and apparatuses for mobile device display mode selection based on motion direction
US20120278747A1 (en) 2011-04-28 2012-11-01 Motorola Mobility, Inc. Method and apparatus for user interface in a system having two operating system environments
US9354900B2 (en) 2011-04-28 2016-05-31 Google Technology Holdings LLC Method and apparatus for presenting a window in a system having two operating system environments
US8878794B2 (en) 2011-09-27 2014-11-04 Z124 State of screen info: easel
WO2013074897A1 (en) 2011-11-16 2013-05-23 Flextronics Ap, Llc Configurable vehicle console

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7069519B1 (en) * 1999-09-24 2006-06-27 Hitachi, Ltd. Method, apparatus and navigation apparatus for sharing display by plural operating systems
CN1639686A (zh) * 2001-06-29 2005-07-13 英特尔公司 使用具有图形上下文管理器的图形渲染引擎的装置、方法和系统

Also Published As

Publication number Publication date
EP2622463A2 (en) 2013-08-07
JP2013546043A (ja) 2013-12-26
MX2013003515A (es) 2013-09-26
BR112013007342A2 (pt) 2016-11-08
US9047102B2 (en) 2015-06-02
EP2622463B1 (en) 2019-12-25
WO2012044738A2 (en) 2012-04-05
CN103339600A (zh) 2013-10-02
WO2012044738A3 (en) 2012-06-21
EP2622463A4 (en) 2015-03-04
US20120086717A1 (en) 2012-04-12

Similar Documents

Publication Publication Date Title
CN103339600B (zh) 立即远程呈现
CN103329094B (zh) 交叉环境重定向
US8819705B2 (en) User interaction support across cross-environment applications
US8933949B2 (en) User interaction across cross-environment applications through an extended graphics context
CN103370690B (zh) 一种用于配置第一应用和第二应用的方法
US10528210B2 (en) Foreground/background assortment of hidden windows
CN103415834B (zh) 动态跨环境应用配置
TWI585678B (zh) 點對點動態可附加邏輯顯示器
Argue Advanced multi-display configuration and connectivity

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant