CN115004145B - 针对远程内容源设备的子显示屏指定 - Google Patents

针对远程内容源设备的子显示屏指定 Download PDF

Info

Publication number
CN115004145B
CN115004145B CN202080087176.9A CN202080087176A CN115004145B CN 115004145 B CN115004145 B CN 115004145B CN 202080087176 A CN202080087176 A CN 202080087176A CN 115004145 B CN115004145 B CN 115004145B
Authority
CN
China
Prior art keywords
display
sub
source device
content
content source
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202080087176.9A
Other languages
English (en)
Other versions
CN115004145A (zh
Inventor
A·A·哈桑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Technology Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Technology Licensing LLC filed Critical Microsoft Technology Licensing LLC
Priority to CN202410391450.1A priority Critical patent/CN118069002A/zh
Publication of CN115004145A publication Critical patent/CN115004145A/zh
Application granted granted Critical
Publication of CN115004145B publication Critical patent/CN115004145B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0383Remote input, i.e. interface arrangements in which the signals generated by a pointing device are transmitted to a PC at a remote location, e.g. to a PC in a LAN
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04803Split screen, i.e. subdividing the display area or the window area into separate subareas
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/02Networking aspects
    • G09G2370/022Centralised management of display operation, e.g. in a server instead of locally

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

在一些示例中公开了显示系统、方法、设备和机器可读介质,其提供了用于指定在其中示出共享内容的显示屏的区域的基于手势的方法。也公开了用于将显示屏的区域与内容源设备相关联的配对方法、用于在所述区域内共享内容的方法以及用于将来自所述区域的输入提供回所述内容源设备的方法。

Description

针对远程内容源设备的子显示屏指定
背景技术
大型显示屏(诸如覆盖整个墙壁、广告牌和建筑物侧面的那些显示屏)用于在会议、贸易展览、演讲、广告以及其他事件期间提供内容。这些显示屏可以由单个显示屏制成,或者可以由通过硬件和软件相连接的多个较小的显示屏组成以形成一个大的显示屏。在一些示例中,显示屏可以具有诸如通过使用触摸屏或者检测手势和/或触摸事件的相机来检测触摸输入或手势的输入能力。
附图说明
在不一定按比例绘制的附图中,相似的数字可以在不同的视图中描述相似的组件。具有不同字母后缀的相似数字可以表示相似组件的不同实例。附图通过示例而非限制的方式总体图示了在本文档中所讨论的各种实施例。
图1-3图示了根据本公开的一些示例的显示系统。
图4图示了根据本公开的一些示例的使用手势来指定显示屏的子显示屏。
图5图示了根据本公开的一些示例的对子显示屏的基于手势的指定。
图6图示了根据本公开的一些示例的指定和配对过程。
图7图示了根据本公开的一些示例的使用生物特征的指定和配对过程。
图8图示了根据本公开的一些示例的针对远程内容源设备的指定和配对过程。
图9图示了根据本公开的一些示例的物理上不接近显示屏的远程内容源设备的根据本公开的一些示例的数据流,所述远程内容源设备通过通信服务中介在显示屏上共享内容。
图10图示了根据本公开的一些示例的具有两个指定子显示屏(一个用于输入)的显示屏。
图11图示了根据本公开的一些示例的具有通知区域的子显示屏的示例。
图12图示了根据本公开的一些示例的通信应用的图形用户界面(GUI)的示例。
图13图示了根据本公开的一些示例的具有与通信应用的多个通信模态相对应的多个子显示屏的显示屏。
图14图示了根据本公开的一些示例的建议的额外子显示屏的图示。
图15图示了根据本公开的一些示例的建议的子显示屏的数据流。
图16图示了根据本公开的一些示例的建议的显示屏尺寸变化的图示。
图17图示了根据本公开的一些示例的显示屏控制系统的逻辑图。
图18图示了根据本公开的一些示例的服务广告的方法流程。
图19图示了根据本公开的一些示例的用于处理子显示屏创建通知的方法流程。
图20图示了根据本公开的一些示例的用于在显示屏控制系统处处理来自内容源设备的内容的方法的流程图。
图21图示了根据本公开的一些示例的配对操作的流程图。
图22图示了根据本公开的一些示例的将输入路由到内容源设备的方法的流程图。
图23图示了根据本公开的一些示例的向子显示屏提供通知的方法的流程图。
图24图示了根据本公开的一些示例的通知组件处理对通知的输入的方法的流程图。
图25图示了根据本公开的一些示例的显示屏的逻辑图。
图26图示了根据本公开的一些示例的向控制器注册显示屏的方法的流程图。
图27图示了根据本公开的一些示例的由子显示屏创建组件执行的子显示屏创建的方法的流程图。
图28图示了根据本公开的一些示例的内容显示组件使内容被显示的方法的流程图。
图29图示了根据本公开的一些示例的处理指向子显示屏的输入的方法的流程图。
图30图示了根据本公开的一些示例的通知处理程序组件处理来自内容源设备或者显示屏控制系统的通知消息的方法的流程图。
图31图示了根据本公开的一些示例的通知处理程序组件处理指向所述通知区域的手势的方法的流程图。
图32图示了根据本公开的一些示例的内容源设备3210的图。
图33图示了根据本公开的一些示例的在远程显示屏的子显示屏上共享内容的方法的流程图。
图34图示了根据本公开的一些示例的处理来自子显示屏的输入的方法的流程图。
图35图示了根据本公开的一些示例的向子显示屏呈现通知的方法的流程图。
图36图示了处理诸如指向在子显示屏上显示的通知的手势的输入的方法的流程图。
图37图示了根据本公开的一些示例的指定子显示屏的方法的流程图。
图38图示了根据本公开的一些示例的配对的方法的流程图。
图39图示了根据本公开的一些示例的输入子显示屏的方法的流程图。
图40图示了根据本公开的一些示例的提供通知的方法的流程图。
图41图示了根据本公开的一些示例的为物理上不接近显示屏的远程内容源设备指定子显示屏区域的方法的流程图。
图42是图示了可以在其上实现一个或多个实施例的机器的示例的框图。
图43图示了根据本公开的一些示例的内容拆分流程。
具体实施方式
为了指定用于在显示屏上呈现的内容,通常提供在控制器设备(例如,计算设备)上的图形用户界面(GUI)。用户通过所述GUI为所述显示屏选择内容、放置和布局选项。内容从所述控制器设备被发送到所述显示屏,并且根据所选择的布局和放置进行显示。部署这些系统的组织常常具有管理员或者熟悉并且可以访问所述控制器设备的所述GUI的一些其他用户。尽管这些系统常常功能强大并且在布局选项方面提供了灵活性,但是其对于如会议室的共享空间并不实用,在所述共享空间中,预期有许多不同的人员在各种不同的时间与所述显示屏进行交互并且使用所述显示屏。聘请管理员来设置将在特定配置下长时间运行的显示屏(例如,如在数字广告牌或贸易展览中)可能是具有成本效益的,而让管理员随时待命以针对在共享空间(例如,会议室)中的用户定制所述系统不是具有成本效益的。因此,许多组织使显示屏控制系统GUI能供用户公开访问,以针对其个人目的来定制所述布局。这给可能不熟悉所述显示屏控制系统的GUI的用户带来了负担,这可能产生与所述显示屏的次优的体验。
为了解决该问题,其他显示系统已经简化了用于指定内容、放置和布局选项的用户界面。这种简化针对用户而言更容易,因为其为用户进行控制提供了更有限的界面,但是代价是更低的灵活性降。例如,大型电视可能允许在单个屏幕上显示多个不同的内容源,但是这些系统通常仅提供能经由远程控制界面访问的有限数量的预设布局选项。另外,这些系统缺乏复杂的输入处理机制。
当前的大型显示系统因此缺乏灵活性和便易性来使用内容选择、布局和放置选项以允许用户快速并且容易地将内容放置在其想要的显示屏上。如所提到的,当前的显示系统通常以具有最终用户无法使用的静态布局选项的专有界面为特征,或者其可能以在指定用于显示的内容时不允许适当的灵活性的更有限的界面为特征。如在本文中所使用的,内容可以指代以下中的一种或多种:文档、文档数据、视频、音频、屏幕共享数据、应用共享数据(例如,来自应用的视频帧)等。
在一些示例中公开了显示系统、方法、设备和机器可读介质,其提供了用于指定子显示屏(例如显示屏的在其中示出共享内容的区域)的基于手势的方法。也公开了用于将子显示屏与内容源设备相链接(例如,关联)的配对方法、用于在所述区域内共享内容的方法、以及用于将来自所述区域的输入提供回所述内容源设备的方法。
子显示屏是所述显示屏中显示来自特定内容源设备的内容的定义的区域。所述子显示屏可以独立于任何其他子显示屏,因为每个子显示屏的尺寸、形状、位置、设置和内容源设备可以是不同的。用户可以在显示区域上方、在显示区域上或者指向显示区域执行手势以将所述显示屏的该区域指定为用于共享内容的子显示屏。所述手势可以是触摸手势,或者可以是可以由相机检测的空中手势。指定所述子显示屏的所述输入可以指定所述子显示屏在所述显示屏上的坐标和形状。例如,用户可以触摸所述显示屏并且在所述显示屏上拖动其手指以在所述用户触摸的位置处绘制所述子显示屏的轮廓。如在本文中所使用的,子显示屏是较大显示屏的一部分,其可以与内容源设备配对(即,链接)以显示由所述内容源设备选择的内容。每个子显示屏可以在同一显示屏上显示与一个或多个其他子显示屏不同的内容。与所述子显示屏配对的所述内容源设备可以通过直接连接或者通过网络连接而将内容传送到显示屏。来自所述子显示屏的输入可以被引导到与所述子显示屏配对的所述内容源设备。
每个子显示屏可以通过图形轮廓、边框、框架、窗口等以图形方式与周围显示区域(其可以包括其他子显示屏)区分开来。导致对子显示屏的指定的示例性输入包括用户在所述显示屏上方在所述位置处并且以期望的子显示屏的形状来跟踪其手指。所述形状可以是正方形、圆形、三角形、多边形等。其他示例性手势可以包括拖动操作,其中,用户的手指接触所述显示屏的点是所述子显示屏的第一角,并且用户在所述子显示屏的第二角处拖动其手指并且释放其手指——所述第二角与第一角是对角的。所述显示屏被配置为通过使用触摸屏、相机或者其他输入设备来检测手势。
为了在所述子显示屏中显示内容,在指定所述子显示屏之后(或者在一些示例中,在指定所述子显示屏之前),用户可以通过使用PIN、生物特征、QR码或者其他方法将所述子显示屏与提供在所述子显示屏中显示的内容的内容源设备进行配对来指定所述内容源设备。一旦被配对,所述内容源设备就可以将内容发送到所述显示屏以用于在所述子显示屏上共享。对所述子显示屏的所述指定以及子显示屏与一个或多个应用的所述链接都是在不需要利用控制器设备的单独用户界面的情况下完成的。
所公开的显示系统可以允许在单个内容源设备上的一个或多个应用将相同或者不同的内容同时地投射到所述显示屏上的多个子显示屏。类似地,多个内容源设备可以同时地将相同或者不同的内容同时地投射到同一显示屏的多个不同子显示屏。
所公开的显示系统也可以被配置为检测用户输入,包括指向这些子显示屏中的一个或多个子显示屏或者在这些子显示屏中的一个或多个子显示屏内的触摸输入、手势输入等。可以在多个子显示屏上或者在多个子显示屏中同时地检测输入。这些输入可以被发送回在所述内容源设备上被链接到所述子显示屏的应用,并且由在所述内容源设备上的应用(诸如提供在该子显示屏上共享的内容的应用)进行处理。在一些示例中,可以处理所述输入,就好像其是由被直接耦合到所述内容源设备的输入设备产生的输入一样。在一些示例中,子显示屏可以被指定为仅输入子显示屏并且可以与显示内容的任意子显示屏分开。输入子显示屏可以显示任意输入的输入,或者可以隐藏输入的输入以便提供用于针对输入的私人区域。
在一些示例中,到子显示屏中的输入可以由第三设备来提供。例如,内容源设备(例如,膝上型计算机)可以提供在所述子显示屏内显示的内容。内容源设备可以是能够在子显示屏中共享内容的任意计算设备。第三设备(诸如平板计算机)可以允许用户向所述子显示屏中提供输入。为了实现这一点,单独的输入设备(例如,平板计算机)可以与所述子显示屏进行配对(使用与在本文中所公开的用于内容源设备的相同方法)。所述配对可以是仅输入配对或者是输入和/输出配对。来自平板计算机的输入可以由显示屏控制系统发送(或者在一些示例中,显示屏控制系统可以通过将内容源设备的对等(P2P)地址提供到输入设备来促进在输入设备与内容源设备之间的P2P连接)到内容源设备,在内容源设备中,对所述输入进行处理并且反映在被发送到所述显示屏控制系统的内容中的任何变化。
更一般而言,设想到了多个输入和/或输出设备可以与单个子显示屏配对。在多个输出和输入设备的情况下,在所述显示屏控制系统上的用户可配置规则可以管理如何处理冲突的输入和/或输出。例如,不同的内容源可以在所述子显示屏中并排显示。尽管多个输入和/或输出设备可以与单个子显示屏配对,但是在其他示例中,子显示屏可以接受内容并且将输入发送到单个内容源设备。
所述子显示屏也可以在通知区域中显示一个或多个通知。所述通知可以由配对的内容共享设备来发送。通知可以出现在所述子显示屏内,或者可视地附接到子显示屏或者邻近所述子显示屏的通知区域中。用户可以与通知交互,诸如解除通知、回复通知、获得关于与通知相关的事件的更多信息等。
另外,尽管前述指定和配对过程描述了针对与显示屏处在同一房间中的用户的指定和配对,但是在一些示例中,远程用户可以利用中间服务器(诸如通信服务器)和本地用户与和远程用户不处在同一区域中的显示屏的子显示屏来共享内容。
通过利用对子显示屏的基于手势的指定,用户可以快速并且容易地为所述显示屏的一部分指定内容。因为手势是相对于显示屏自身而不是在控制器的用户界面上绘制的,所以用户可以在视觉上对显示屏进行布局,以更自然地实现所需的布局和内容选择。这避免了常规显示屏控制系统用户界面中的问题,其中,当被应用于较大的显示屏(而不是可能在较小屏幕上的用户界面)时可能难以对每个布局选择进行可视化。这也避免了困扰较简单的用户界面的问题,所述用户界面可能提供不太灵活的布局选项,因为在所公开的系统中,每个子显示屏的尺寸和形状是由用户使用手势“绘制”的,并且因此完全在用户的控制之内。
因此,本公开内容公开了用于计算的、诸如用于大型显示屏的经改进的用户界面。所述经改进的显示界面允许用户在所述显示屏上的期望位置和布局中更快速地共享内容源设备的内容。所公开的方法比常规解决方案更快速并且更容易,同时仍然保持灵活性。不是在显示屏控制系统界面中翻阅选项的多个屏幕或者针对更用户友好的界面来处理更有限的选项,在所公开的系统中,用户仅需要在较大的显示屏上绘制子显示屏,选择在其内容共享设备中的共享选项,并且输入配对信息。本公开也消除了针对单独的显示屏控制系统GUI界面的需要,由此简化了所述显示屏控制系统的设计而不牺牲由那些GUI提供的灵活性。因此,本公开通过利用基于手势的输入、配对和内容共享的技术方案解决了在显示屏上布局、组织和选择内容的技术问题。本公开通过提供经改进的用户界面,通过将复杂的布局和设置过程提炼成直观并且易于使用的界面,并且同时通过消除GUI而降低显示屏控制系统的处理负荷——同时保持更复杂系统的灵活性和功能,而改进了计算机系统的功能。
图1图示了根据本公开的一些示例的显示系统100。显示屏120被通信地耦合到显示屏控制系统110。显示屏120和显示屏控制系统110可以通过有线或无线方式进行通信,并且可以被直接耦合或者通过网络(例如,基于分组的网络)相耦合。在一些示例中,显示屏控制系统110可以控制一个或多个显示屏,诸如显示屏120。在一些示例中,显示屏120向显示屏控制系统110注册以由所述显示屏控制。
例如,显示屏控制系统110可以是管理显示屏上的子显示屏的任意计算设备(无论是与显示屏120分离的或者是与显示屏120集成的)。显示屏120可以发送广播消息,在所述消息中的数据指示其是正在寻找控制器的显示屏。所述消息可以被发送到特定定义的端口和特定定义的广播地址。显示屏120然后可以收听这些消息,并且在从其发送所述广播消息的地址处回复显示屏控制系统110。一旦显示屏120和显示屏控制系统110找到彼此并且确定网络或者其他地址,显示屏控制系统110和显示屏120然后可以协商由显示屏控制系统110用于控制显示屏120的一个或多个参数。示例性参数可以包括发送内容的网络地址、输入从显示屏发送到显示屏控制系统的网络地址、如何执行配对、显示屏的参数(例如,显示屏尺寸和能力)等。显示屏控制系统110然后可以将显示屏120注册在受控显示屏的数据库中。例如,显示屏控制系统110可以创建具有显示屏的参数、地址和能力的数据库记录。尽管在以上示例中显示屏控制系统110广播消息,但是在其他示例中,显示屏120广播寻找显示屏控制系统的消息。
显示屏120和/或显示屏控制系统110可以识别指向显示屏120的一个或多个输入以用于创建一个或多个子显示屏。例如,显示屏120可以是触摸屏显示屏。在其他示例中,显示屏120可以具有指向所述显示屏或者指向所述显示屏的用户的相机。所述相机可以被通信地耦合到显示屏120或者可以检测手势的显示屏控制系统110。用户触摸已创建的子显示屏外部的显示屏以及拖动手势可以被识别为创建新子显示屏的命令。所述手势的几何结构可以确定所述子显示屏的几何结构。例如,用户可以勾画期望的子显示屏的轮廓。在一些示例中,该几何结构可以由所述系统校正(例如,用户尝试的具有不均匀线和可变半径的圆可以被校正为具有恒定半径的圆)。
在一些示例中,可以在用户创建子显示屏时向用户提供视觉反馈,所述子显示屏在其被创建时示出所述子显示屏的边界。例如,当用户在显示屏上移动其手指以创建子显示屏时,可以示出当前创建的子显示屏的轮廓。在其他示例中,替代轮廓,可以将子显示屏创建为框,其中,对角是拖动操作中的第一触摸点和最后触摸点。当用户从一个角拖到对角时,显示屏可以显示扩展的窗口或框。
在被通信地耦合到显示屏控制系统110的输入设备识别手势以指定子显示屏的示例中(例如,被耦合到显示屏控制系统110的相机可以拍摄显示屏的视频以检测输入),显示屏控制系统110可以向显示屏120发送指示指定新的子显示屏的输入和该输入的坐标的消息,以用于显示视觉反馈(例如,用于在手势期间显示子显示屏的轮廓或者边界的其他视觉指定)。
一旦对子显示屏的尺寸和形状的指定完成,显示屏120和显示屏控制系统110就可以创建子显示屏,并且将所述子显示屏与内容源设备(诸如内容源设备130)配对。
在显示屏120检测到指定子显示屏的手势的示例中,显示屏120可以记录由用户输入的子显示屏的坐标,并且可以将所述坐标传送到显示屏控制系统110。所述坐标可以是沿着用户的轨迹的采样点,或者可以是由用户通过确定用户首先按下屏幕的第一角和用户将手指抬起离开屏幕的第二角而指定的框的坐标。在被耦合到显示屏控制系统110的输入设备识别手势以指定子显示屏的示例中,显示屏控制系统110可以将坐标发送到显示屏120。一旦子显示屏被指定,额外的用户输入可以移动、调整大小、改变形状(例如,从第一多边形到不同的多边形或圆形)以及关闭子显示屏。
当指定子显示屏时,显示屏120和/或显示屏控制系统110可以创建存储关于所述子显示屏的信息的数据结构。例如,子显示屏的坐标、子显示屏的独有标识符(例如,子显示屏的PIN号)、关于在之上创建子显示屏的显示屏的信息等。一旦内容源设备与子显示屏配对,数据结构就可以具有稍后可以利用关于内容源设备的信息来填充的字段。例如,内容源设备的地址、内容源设备的应用标识符等被用于接受来自内容源设备的内容并且将该内容匹配到子显示屏,并且也路由来自子显示屏的输入并且将其路由到内容源设备上的正确应用。
为了将显示屏120上的子显示屏与内容源设备130配对,可以使用一种或多种配对方法。例如,内容源设备130(例如,计算设备)可以发现显示屏控制系统110。显示屏控制系统110可以广播针对显示服务的广告,并且内容源设备130可以收听这些广告。广播可以指示显示屏控制系统110的地址。内容源设备130可以保存该地址以用于对内容的将来流送以及与显示屏控制系统110的配对。
当创建子显示屏时,显示屏120可以显示PIN、QR码、密码或者子显示屏的其他独有标识符。这可以在图形用户界面中显示,所述图形用户界面位于子显示屏中、靠近子显示屏、视觉上接触但是不与子显示屏重叠等。例如,在低于子显示屏并且视觉上连接但是不与子显示屏重叠的框中。例如,图6示出了子显示屏下方的配对标签630中的PIN。该pin可以由显示屏120或显示屏控制系统110创建。
然后,用户可以将该pin输入到内容源设备130上的应用中。例如,基于对显示服务的发现,所述内容源设备可以向用户提供向显示屏(诸如显示屏120)共享特定应用的内容的选项。例如,通过上下文或共享菜单。然后,所述应用可以将输入的PIN发送到所发现的显示屏控制系统110。显示屏控制系统110然后可以将内容源设备130的应用与显示屏120上的子显示屏相匹配。然后,内容源设备130可以开始通过将所述内容发送到显示屏控制系统110来将内容共享到子显示屏,并且可以经由显示屏控制系统110从显示屏120接收输入。
内容源设备130可以通过各种有线和无线方式与显示屏控制系统110和/或显示屏120通信,包括通过诸如基于分组的网络的网络。尽管示出了显示屏控制系统110,但是本领域普通技术人员将意识到,显示屏控制系统110的功能可以在一个或多个其他设备以及显示屏120中实现。
显示屏120可以是液晶显示屏(LCD)、发光二极管(LED)显示屏、有机LED(OLED)显示屏、等离子显示屏等。显示屏120可以包括触摸屏。显示屏120或显示屏控制系统110也可以被耦合到检测指向显示屏的手势的相机。显示屏控制系统110可以是计算设备,诸如服务器计算设备、膝上型计算机、台式计算机、平板计算机、智能手机、专用硬件控制器等。显示屏控制系统110可以被附接到显示屏120或者与显示屏120相同的设备,并且通过本地连接通信地耦合到显示屏120,或者可以是通过网络通信地耦合到显示屏120的不同设备。内容源设备130可以是计算设备,诸如膝上型计算机、台式计算机、平板计算机、智能手机、智能手表等。
图2图示了根据本公开的一些示例的显示系统200。在图2的图示中,一旦内容源设备130与子显示屏配对,内容源设备130就可以将内容直接发送到显示屏120,而不是如图1中将其发送到显示屏控制系统110。这可以通过显示屏控制系统110在配对期间向内容源设备130提供显示屏120的地址来实现。
图3图示了根据本公开的一些示例的显示系统300。在图3中,所述显示屏控制系统是显示屏120的一部分。在图3中的显示屏120直接与内容源设备130通信以用于发现、配对和内容共享。
子显示屏指定
图4图示了根据本公开的一些示例使用手势指定显示屏120的子显示屏。当用户在第一点410-A处首先触摸显示屏120并且以对角线运动将其手指拖到点410-B和410-C时,图4的手势可以是拖动手势。所指定的子显示屏将是在第一点410-A和用户将其手指从显示屏上移开的点410-C处具有对角顶点的矩形。在一些示例中,在第一点410-A处的第一次触摸和随后朝向点410-B的拖动之后,显示屏120可以提供窗口的轮廓或者其他图形表示,诸如表示420。随着用户移动其手指,所述表示会更新以匹配子显示屏的当前尺寸和形状。尽管在图4中显示了矩形,但是在其他示例中,可以以相同的方式指定其他形状,其大小被缩放以占据边界框,所述边界框的顶点在手势的起点和终点处。
在图4中,还表示了其他子显示屏。例如,示出从内容源设备1共享的内容A的子显示屏430。所述内容可以来自内容源设备1上的特定应用——例如,来自内容源设备1的第一应用。子显示屏440显示来自内容源设备2的内容A,例如来自内容源设备2的第一应用。子显示屏450显示来自内容源设备1的内容B,例如,来自内容源设备1的第二应用的内容。
图5图示了根据本公开的一些示例的子显示屏的其他基于手势的指定。例如,替代由拖动的起点和终点指定对角顶点的拖动操作,用户可以指定子显示屏的轮廓。例如,用户可以勾画正方形、矩形、多边形、圆形等,并且子显示屏可以利用由用户勾画的路径作为子显示屏的坐标。子显示屏形状可以是由用户勾画的确切形状,亦即,其可能不会被更新为平滑的形状,从而用户对形状的勾画的不完美可能会反映在子显示屏中。在其他示例中,系统可以自动地或者响应于用户输入——来校正用户的勾画以匹配来自形状库中的最接近的形状。例如,如在图5中所示的,用户的勾画510被校正为正方形520。用户的勾画530被校正为八边形540,并且用户的勾画550被校正为圆形560。
系统可以通过拉直在用户的勾画中的顶点之间的线来实现所述校正。可以通过识别方向变化,例如,通过计算用户的勾画的连续坐标之间的线的斜率,并且定期比较整个用户的勾画的斜率并且将其与阈值进行比较,来识别顶点。在其他示例中,将完成的形状与形状库进行比较。系统可以计算每个库形状的点和/或顶点与用户勾画的轮廓之间的(x,y)坐标点的总差异。系统可以选择总差异最小的形状。在一些示例中,为了对尺寸进行适当的归一化,可以将由用户勾画的形状缩放为归一化的尺寸以进行比较,或者将形状库中的形状归一化为与用户的勾画相对应的尺寸。
在一些示例中,显示屏可以通过对由用户的勾画绘制的线到校正的几何形状的运动进行动画化来视觉地指示几何校正。子显示屏可以采用由校正的几何形状指示的尺寸和边界。
在一些示例中,所述勾画是否被几何校正可以通过一个或多个设置来设置。可以使用在指定期间无需用户输入而应用于每个子显示屏指定的全局设置。在一些示例中,可以基于每个子显示屏指定来对设置进行设置。例如,用户可以在指定子显示屏之前、期间或之后应用用户输入以指定系统是否应当校正由所述用户绘制的形状。例如,在子显示屏指定期间(例如,在对形状的勾画期间),如果用户利用不同的手指敲击显示屏(同时用户仍然在利用另一手指进行勾画)——则可能会显示允许用户激活几何校正的菜单。在其他示例中,菜单可以允许用户选择要将勾画校正到的形状。
为了使内容符合所选择的形状,内容源设备、显示屏和/或显示屏控制系统可以对内容应用一种或多种变换,诸如对内容调整大小、拉伸内容、倾斜内容、裁剪内容(例如,到子显示屏的形状)、旋转内容等。
配对操作
为了将内容从内容源设备路由到显示屏上的正确子显示屏,内容源设备可以与子显示屏配对(即,链接)。配对(即,链接)在本文中被用于描述用于将内容源设备与特定子显示屏相关联以允许将内容从内容源设备路由到特定子显示屏的过程。所述配对过程可以在指定子显示屏的坐标之前或之后发生。图6图示了根据本公开的一些示例的指定和配对过程的流程图。在图6的示例中,用户通过指定子显示屏的角来指定子显示屏610的坐标。其余坐标由系统基于那两个角进行计算。子显示屏可以包括具有针对子显示屏进行调整大小、最小化、最大化和关闭的控件的GUI窗口。在其他示例中,子显示屏可以是无框的,没有可见控件。受益于申请人的公开内容的本领域普通技术人员将意识到,其他视觉配置也被设想到。
在一些示例中,配对标签630可以被示为与具有配对信息的子显示屏620相邻。如在图6中所示的,配对标签630被连接到一个边缘,但是不与子显示屏重叠。在一些示例中,配对标签630可以被显示在子显示屏620中。在其他示例中,在配对标签630中的配对信息可以作为文本被显示在子显示屏中。例如,如在图6中所示的,子显示屏当前显示文字“请在您的共享应用中输入PIN”。在一些示例中,PIN可以与消息一起显示,或者可以替代消息等显示。在配对标签630中显示的配对信息可以是PIN号。PIN号可以由显示屏、显示屏控制系统等来创建。PIN号可以是向显示屏和/或显示屏控制系统独有地标识该子显示屏的子显示屏标识符。
内容源设备可以正在运行可以允许对内容的投射(即,共享)的应用。例如,通信应用、照片应用、生产力应用(例如,文字处理应用、电子表格应用、绘图应用等)等。示例性通信应用可以是远程会议应用、视频聊天应用、视频回放应用、照片应用等。在一些示例中,内容源设备可以允许共享远程显示设备的显示屏中的一个或多个显示屏。例如,共享远程显示设备的桌面。
为了共享内容,用户可以选择共享内容选项——在具有其希望共享的内容的应用中,或者经由共享实用程序(例如,由远程内容显示设备的操作系统提供的)。可以响应于内容源设备发现显示服务(例如,通过接收由显示屏控制系统发送的广播消息)来启用对显示屏的共享选项。在图6的示例中,示出了根据本公开的一些示例的通信应用的GUI 640。在图6中,所述通信应用正在参与基于网络的通信会话(诸如在线会议),并且用户已经指示用户想要共享窗口。显示允许用户确定在哪里与基于网络的通信会话(“会议”)的其他远程参与者或者在远程显示屏上(“远程显示屏”)共享内容的选项。如果选择了显示屏,则显示允许用户输入在显示屏上所显示的PIN的菜单或窗口。
如已经描述的,在所述内容源设备上的应用(例如,允许内容共享的应用,或者向共享内容的其他应用提供共享服务的操作系统服务)发现由显示屏控制系统广告的显示服务。当发现显示服务时,所述应用使得内容能够共享到显示屏。当用户指示共享内容时,在所述内容源设备上的所述应用或服务向在显示服务的发现过程期间发现的显示屏控制系统地址发送具有输入的PIN的内容共享请求。如果PIN与显示的PIN相匹配,则显示服务可以将内容源设备与子显示屏配对。所显示的PIN可以由显示屏发送到显示屏控制系统。在其他示例中,所显示的PIN可以由显示屏控制系统提供的显示服务来确定(并且被发送到显示屏以用于显示)。例如,所述显示屏控制系统和/或显示屏可以将关于内容源设备的信息记录在描述子显示屏的数据结构中。此外,来自所述内容源设备的内容可以被路由到子显示屏,并且来自子显示屏的输入基于配对被路由到内容源设备。所述显示服务可以向内容源设备发送配对确认。所述内容源设备然后将内容发送到显示屏控制系统或显示屏自身——这取决于实现方式。共享的内容可以是视频、音频、静止图像、应用显示等。一旦显示屏被配对并且流送开始,那么在660处,内容被显示在子显示屏中。
在其他示例中,配对可以相反地操作。亦即,在所述内容源设备上的应用可以指定PIN并且用户可以在显示屏的配对输入区域(诸如配对标签)中输入PIN。在这些示例中,PIN可以由内容源设备发送到显示屏控制系统。然后,将该PIN与输入到子显示屏的配对标签中的PIN匹配。
配对
图7图示了根据本公开的一些示例的使用生物特征的指定和配对过程的流程图。如在图6中,用户通过指定子显示屏710的坐标开始。所显示的子显示屏720可以具有配对标签730。配对标签730可以是生物特征输入区域。例如,指纹输入区域。显示屏可以具有集成的指纹读取器,所述指纹读取器可以允许在显示屏的一个或多个位置中的指纹输入。在一些示例中,显示屏可以具有在整个显示屏上扫描指纹的能力,并且配对标签730可以在显示屏上的任意位置。在一些示例中,配对标签730可以与子显示屏720的边界相邻并且连接。在这些示例中,配对标签730用于通过限制需要扫描到配对标签730的坐标的区域来限制用于扫描指纹所需的处理能力。不是扫描显示屏的整个表面,显示屏仅需要扫描配对标签730中的生物特征。另外,配对标签730用于将子显示屏与扫描的生物特征相链接,使得可以同时地创建和链接多个子显示屏。
当用户尝试与子显示屏配对时,用户在显示屏处(诸如在配对标签730中)输入生物特征。生物特征模板可以被发送到存储生物特征模板并且将其与指定的子显示屏关联(例如,基于哪个子显示屏的配对标签扫描了生物特征)的显示屏控制系统。用户通过选择内容共享应用中的共享选项(诸如通过内容共享应用740的GUI的菜单750)来选择与显示屏共享内容。所述内容源设备可以向显示屏控制系统发送与由内容源设备(在配对时,或者在注册或设置过程期间)采用的相同类型的生物特征模板(例如,指纹扫描)。所述显示服务然后搜索在由内容源设备发送的生物特征模板与被输入到未配对的子显示屏的配对标签(或者其他位置)中的生物特征模板之间的匹配。如果找到匹配,则内容源设备和子显示屏可以被配对,并且可以向内容源设备发送找到匹配并且内容可以开始共享的消息,诸如在GUI760处所示的。
在一些示例中,为了保护用户的隐私,指纹和/或其他生物特征可以使用非标准模板类型,使得如果恶意方要获得生物特征模板(或者被存储在应用中或者具有显示服务),则模板将无法绕过其他服务或应用的生物特征认证。在一些示例中,生物特征模板可以被加密。在一些示例中,被存储在显示屏控制系统处的生物特征模板可以在配对过程之后从控制器中删除。如果没有产生与特定生物特征模板的配对过程,则可以在短时间段之内删除该模板。
在一些示例中,配对标签730可以被用于捕获生物特征,但是在其他示例中,可以利用用于输入生物特征的其他特定位置。例如,视网膜扫描仪可能位于显示屏上的特定位置处。例如,生物特征扫描仪位于中心位置,系统可以限制对子显示屏的创建,使得单个子显示屏可以立即配对。这允许将特定子显示屏与特定捕获的生物特征相链接。在这些示例中的生物特征可以通过用户在显示屏处或者在显示屏附近(例如,在定义的距离内)呈现自己以进行扫描而在显示屏处获得。所述生物特征扫描仪可以在同一房间中、与显示屏相邻(例如,被安装在与显示屏相同的墙壁表面上)、面向显示屏(例如,用户可以转动以使其背面朝向显示屏以进行脸部或眼部扫描)。生物扫描仪可以通过本地接口(诸如通用串行总线接口、串行接口等)来连接,在其他示例中,生物扫描仪可以通过网络接口来连接
在其他示例中,所述系统可以允许利用中央生物特征扫描仪位置同时创建多个子显示屏。在这些示例中,可以利用用于指定生物特征扫描与哪个子显示屏相关联的方法。例如,为该目的,用户可以在扫描生物特征之前或之后将子显示屏的标识名称和/或编号输入到显示屏设置的输入区域中。
远程显示屏共享
尽管在本文中所描述的配对过程被用于在子显示屏指定和配对时对显示屏进行物理访问的内容源设备的用户,但是在其他示例中,在子显示屏指定和配对时不进行物理访问的内容源设备的用户可以在显示屏的子显示屏中共享内容。这些内容源设备在本文中被称为远程内容源设备。远程内容源设备是其用户不物理访问显示屏以与子显示屏配对的内容源设备。
诸如MICROSOFT的通信应用可以允许远程用户在会议室中的显示屏上共享内容以供本地参与者查看和与其交互。在一些示例中,这可以通过本地参与者之一通过通信应用的基于网络的通信会话(例如,在线会议)接收共享内容来实现。本地参与者可以指定显示屏上的子显示屏,并且将在该本地参与者的计算设备上运行的通信应用与子显示屏配对。这导致子显示屏显示本地参与者的设备正在显示的任意内容。因此,如果本地参与者正在查看远程用户在通信应用中的共享内容,则子显示屏也将显示该内容。这种方法有缺点。例如,如果本地参与者离开或者改变配对应用中显示的内容,则这可能会停止或者中断依赖于内容共享的其他本地参与者的内容共享。因此,远程用户的内容的持续显示取决于本地参与者。此外,一些通信应用可能未被设置为允许将一个用户的共享内容重新共享到另一位置。
在一些示例中,系统可以将物理上不接近显示屏的子显示屏的远程内容源设备配对,而不依赖本地计算设备来进行持续的内容递送。物理上不接近意味着远程内容源设备的用户不能够看到显示屏。图8图示了根据本公开的一些示例的针对远程内容源设备的指定和配对过程的流程图。如先前所描述的,物理上接近显示屏的用户首先通过使用手势810来指定子显示屏。然后,系统可以如先前所描述地示出PIN或者其他配对机制,诸如在子显示屏820的配对标签830内。本地计算设备上的本地用户可能正在执行通信应用,诸如应用840。通信应用可以具有选项,诸如在菜单850内,以用于指定远程用户的内容源设备以共享到本地显示屏的子显示屏。在图8中,选项被列为“远程显示共享”,并且在选择该选项时,可以显示第二菜单,所述第二菜单允许用户在创建的子显示屏的第一输入区域860处输入pin并且在第二输入区域870处指定远程用户的内容源设备。在选择这些选项时,可以将通信发送到远程用户的计算设备。
在远程计算设备上运行的通信应用的实例然后允许远程用户选择应用、窗口或者其他内容以与远程显示屏共享,诸如通过GUI 875的菜单890。一旦远程用户选择了要共享的适当内容,远程用户的通信应用就可以将内容流送到显示屏的子显示屏,诸如在880处所示的。在一些示例中,与通信应用相关联的通信服务器可以促进在通信应用的各个实例之间以及与显示屏和/或显示屏控制系统之间的通信。
图9图示了根据本公开的一些示例的物理上不接近显示屏的远程内容源设备的根据本公开的一些示例的数据流,所述远程内容源设备通过通信服务中介在显示屏上共享内容。如先前所描述的,本地计算设备920(其也可以用作不同上下文中的内容源设备)可以在操作902处通过与显示屏控制系统940通信来发现显示服务。作为发现过程的一部分,本地计算设备920可以发现显示屏控制系统940的地址。在一些示例中,由于远程内容源设备910在物理上不接近显示屏控制系统940,所以远程内容源设备910可能无法发现显示屏控制系统940。例如,显示屏控制系统940的广播消息可能无法到达远程内容源设备910,因为其可能仅在特定子网或远程内容源设备910不可访问的其他网络区域上被广播。在其他示例中,广播消息可以是无线的,并且远程内容源设备910可能在无线范围之外。
接下来,在操作904处,本地计算设备920的用户可以使用先前所描述的方法(例如,通过使用手势来绘制子显示屏的轮廓)在显示屏上指定子显示屏。在操作906处,显示屏然后与显示屏控制系统940通信以建立配对信息和子显示屏的记录。例如,通过创建诸如在950处所示的数据结构,其具有子显示屏的坐标、PIN号(其在显示屏上独有地标识所述子显示屏)、内容源设备信息(其在配对之前可能为空)和显示屏标识符(其独有标识显示屏)。如先前在一些示例中所指出的,PIN由显示屏控制系统940指派,但是在其他示例中由显示屏创建。在一些示例中,PIN是针对跨显示屏930的子显示屏的独有标识符,但是在其他示例中,PIN是跨由显示屏控制系统940管理的所有显示屏的独有标识符。在又其他示例中,PIN可以不是独有标识符,而是显示屏控制系统940和/或显示屏930可以指派不同的独有标识符。
然后,如先前所描述的,在操作908处可以将配对信息(例如,PIN)显示在显示屏上。在本地计算设备920处的用户然后可以选择通信应用中的选项以允许内容源设备(例如,远程内容源设备910)的远程用户在指定的子显示屏上共享内容。本地计算设备920的用户可以将子显示屏pin输入到在本地计算设备920上运行的通信应用的GUI元素中以及输入对内容源设备的指定或者对远程用户的指定。在指定远程用户(与远程内容源设备自身相反)的示例中,系统确定用户当前在其上被认证的远程内容源设备。
在操作912处,本地计算设备920上的通信应用然后将具有PIN(或者其他子显示屏标识符)、远程用户id(或者内容源设备id)和关于显示屏控制系统940的信息(例如,地址)的消息发送到通信服务960。通信服务960将通信功能(诸如聊天、视频通话、音频通话、在线会议等)提供给运行通信应用的各种设备——诸如本地计算设备920和远程内容源设备910。
通信服务960接收该消息,并且在操作914处确定由本地计算设备920选择的远程内容源设备910的地址——例如,通过查阅在远程内容源设备910标识符和/或用户标识符与网络地址之间的映射。然后,使用远程内容源设备910的网络地址向在远程内容源设备910上运行的通信应用实例发送通知。在远程内容源设备910上运行的通信应用实例可以提示用户选择要共享的应用或者其他内容(如果用户不希望共享内容,则拒绝共享提议)。一旦远程内容源设备910的用户选择了内容,则在操作916处,远程内容源设备910可以开始将内容流送到通信服务960,通信服务960可以使用由本地计算设备920传输的地址来建立与显示屏控制系统940的连接。
在操作918处,通信服务960可以将流送的内容连同由本地计算设备920上的应用提供的子显示屏的PIN或者其他标识符一起转发到显示屏控制系统940。显示屏控制系统940然后可以将通信服务960与由PIN或者其他标识符识别的子显示屏相关联(例如,利用关于远程内容源设备910或通信服务960的信息来填写内容源设备信息)。在操作918处,从远程内容源设备910发送的内容可以被发送到显示屏930,在显示屏930中,其被显示在所述子显示屏中。
因此,从远程内容源设备910发送的内容可以通过经受通信服务960和显示屏控制系统940而被显示在显示屏930上。如所描述的,PIN或者一些其他独有的子显示屏标识符可以被用于将特定内容与特定子显示屏相关联。通过使用通信服务960作为中介,除了被显示在显示屏930的子显示屏上之外,也可以并行地向基于网络的通信会话(例如,在线会议)的其他参与者发送内容。
在一些示例中,不是具有对远程内容源设备910的指定,当前在基于网络的通信会话(例如,在线会议)中呈现的内容可以由通信服务960自动地发送到显示屏控制系统940。显示屏控制系统940将子显示屏与基于网络的通信会话相关联,并且使得由通信服务960发送的内容被显示。
在图9中,通信服务960被用于促进从远程内容源设备910到显示屏930的内容显示。在其他实现方式中,可以不涉及通信服务960。亦即,可以将具有PIN和显示屏控制系统信息的消息直接从本地计算设备920发送到远程内容源设备910。然后,可以将内容从远程内容源设备910直接发送到显示屏控制系统940。
一旦设置完成,通过将内容与通过本地计算设备920的传递解耦,由本地计算设备920采取的动作就不影响在子显示屏中所显示的内容。本地计算设备920可以离开基于网络的通信会话,并且只要通信会话针对其他参与者继续,内容将继续被显示。
来自子显示屏的输入也可以被递送到远程内容源设备910。例如,所述输入可以通过显示屏控制系统940路由返回,通过通信服务960路由返回,并且最后路由到远程内容源设备910上的应用。因此,由本地用户输入的——在所述显示屏930的子显示屏上的输入可以出现在远程内容源设备910上。在一些示例中,通信服务960和/或通信应用可以具有关于允许哪些输入以及不允许哪些输入的各种规则。尽管图9的示例使用了通信应用和通信服务960,但是受益于本公开的本领域普通技术人员将意识到,如果其他应用和服务实现图9的功能,则可以使用所述其他应用和服务。
如在图9中所示的,本地计算设备920提供了子显示屏的PIN或者其他配对信息。在一些示例中,本地计算设备920可以提供任意配对信息,而不是PIN。例如,生物特征配对。亦即,本地计算设备920的用户可以将其生物特征输入显示屏的配对输入区域。显示屏可以扫描生物特征,并且将生物特征扫描数据发送到显示屏控制系统。显示屏控制系统可以将生物特征扫描数据存储在子显示屏信息950中。通信服务960然后可以通过发送本地计算设备920的用户的生物特征数据而与子显示屏配对。可以在创建子显示屏之前或者当创建子显示屏时由本地计算设备920扫描该生物特征数据。在一些示例中,本地计算设备920的用户的生物特征数据可以被存储在通信服务960处。
如先前所描述的,本地计算设备920可以提供任意配对信息。这可以通过声明本地计算设备920可以提供任意子显示屏标识符来进一步概括。示例性子显示屏标识符包括PIN号、字母数字序列、生物特征信息、子显示屏标题等。
另外,如在图9中所描述的,本地计算设备920可以向通信服务960发送使用广播消息(或者使用一些其他方法)发现的显示屏控制系统940的地址。在其他示例中,通信服务960可能已经具有显示屏控制系统地址。例如,显示屏控制系统940可以是可以向通信服务960注册的室内会议室系统。在一些示例中,通信服务960可能知道多个显示屏控制系统940,并且可以基于本地计算设备920和显示屏930(以及显示屏控制系统940控制的显示屏930)的位置、本地计算设备920的选择等来选择适当的显示屏控制系统以向其发送内容。
在一些示例中,本地计算设备920可能不是图9的流程的一部分。亦即,本地用户可以指定子显示屏,并且从显示屏930的UI中选择远程内容源设备。显示屏930可以将关于子显示屏的信息(包括指定的远程内容源设备910(或者远程内容源设备910的用户))传递到显示屏控制系统940。然后,显示屏控制系统可以向通信服务960发送消息(例如,消息912)。显示屏控制系统940和通信服务960可以是由于显示屏控制系统940向通信服务960注册和/或显示屏控制系统940被准许参加由通信服务960提供的基于网络的通信(例如,在线会议)而进行通信。
输入子显示屏
如先前所描述的,子显示屏可以接受被转发到与子显示屏配对的内容源设备上的应用的输入。在一些示例中,可以指定不显示内容而是专门用于接受输入的子显示屏。在一些示例中,这样的子显示屏可以示出输入(例如,永久地或者临时地——诸如达预定时间),但是在其他示例中,其可能不示出输入。
图10图示了根据本公开的一些示例的具有两个指定的子显示屏的显示屏,一个专门用于输入。子显示屏1040可以是示出由内容源设备1020上的应用A 1030流送的内容的子显示屏。应用A 1030在内容源设备1020上运行。指向子显示屏1040的输入(诸如在子显示屏1040内的触摸手势)可以被发送到应用A 1030。例如,所述输入可以是由应用A 1030处理的输入,就好像其是内容源设备1020本地的输入一样。设备“本地”的输入是由通过本地接口(例如,通用串行总线(USB)、外围组件互连(PCI)等)耦合的输入设备产生的输入。
相反,子显示屏1050可以是仅输入的子显示屏。亦即,来自子显示屏1050的输入可以被发送到在链接的内容源设备(诸如内容源设备1020)上运行的一个或多个应用。这可以包括应用A 1030或者是与应用A 1030不同的应用。在一些示例中,指向子显示屏1050的输入可以以与对子显示屏1040的输入相同的方式来处理——亦即,作为对应用A 1030的本地输入进行处理。在其他示例中,对子显示屏1050的输入可以与被显示在子显示屏1040中由应用A 1030流送的内容相关,但是输入可能不是对该内容的编辑。例如,对子显示屏1050的输入可以编辑补充到在子显示屏1040中显示的内容的内容。补充内容是评论、添加到或者以其他方式补充所显示内容的内容。作为更具体的示例,用户可以在子显示屏1040中显示幻灯片展示演示,并且在子显示屏1050中为每张幻灯片写注释。可以将注释保存在针对每张幻灯片的注释文件中。亦即,所述注释可以被保存在与在子显示屏1040中所示的特定幻灯片相对应的注释文件中。更一般而言,对子显示屏1050的输入可以与在子显示屏1040中示出的特定内容相关。其他具体示例包括关于以下的注释:显示的视频(例如,基于回放时间与视频相关的注释)、正在被编辑的文档(例如,所述输入是在编辑的活跃点处插入的文档中的评论)等。
在其他示例中,内容可能与在子显示屏1040中所显示的内容完全不相关。例如,针对子显示屏1050的输入可以简单地被存储在文件或者内容源设备1020的其他存储装置中。指向子显示屏1050的输入可以被存储在数据存储设备1042中,并且可以与由应用A 1030流送的内容一起存储或者单独地存储。
在一些示例中,指向子显示屏1050的输入可以被显示在子显示屏1050中。在其他示例中,指向子显示屏1050的输入不被显示在子显示屏1050中。在指向子显示屏1050的输入不被显示在子显示屏1050中的示例中,这促进公正的注释,因为输入不被再现以供公众查看。亦即,在演示期间,演示者可以记录关于演示的想法,然后将其保存以供以后使用,而观众无法阅读注释。
在一些示例中,子显示屏的输入的目的地可以是用户可控的。例如,一旦内容源设备1020被链接到给定的子显示屏,用户就可以从关于在任何给定的子显示屏上将输入发送到何处以及是否显示输入的任何输入的多个选项中进行选择。如果所述输入修改了被共享到不同子显示屏的内容(例如,对子显示屏1050的输入修改了在子显示屏1040中共享的内容),则可以通过更新共享的内容来显示输入。然而,不编辑在不同子显示屏上共享的内容的输入可能被显示或者可能不被显示——这取决于实现方式和/或用户偏好。是否显示所述输入的用户选择可以在内容源设备1020上(例如,在与显示屏控制系统(诸如流送应用或操作系统)通信的应用的用户界面中)或者在显示屏上进行。例如,可以在设置子显示屏时、在子显示屏的上下文菜单等中进行选择。
为了创建仅输入子显示屏(诸如仅输入子显示屏1050),用户可以利用不同的手势来创建仅输入子显示屏,可以在创建子显示屏期间调用上下文菜单来指示所述显示屏是仅输入的,可以在子显示屏创建之后将子显示屏改变为仅输入子显示屏,等等。用户也可以选取是否在子显示屏上显示输入。亦即,即使子显示屏1050不显示内容,系统(例如,显示屏、显示屏控制系统或者内容源设备1020)也可以在子显示屏上示出输入。例如,如果用户在仅输入子显示屏中写入注释,则子显示屏可以示出注释。在其他示例中,所述输入未在子显示屏上被示出。
为了路由子显示屏1040或者子显示屏1050的输入,内容源设备1020可以具有将来自特定子显示屏的输入映射到特定动作的表格。例如,规则可以指定指向子显示屏1040的输入将指向应用A1030,就好像其是本地输入一样,并且指向子显示屏1050的输入将指向与由应用A 1030显示的内容的当前显示的项相关联的注释文件。所述表格可以列出子显示屏标识符以及输入将被发送到哪里和/或输入将如何被处理。在接收到来自显示屏1010或显示屏控制系统的输入时,接收到输入的子显示屏的标识符被用于索引所述表格以确定如何处理所述输入。
通知
在一些示例中,子显示屏可以被配置为显示来自所述内容源设备的一个或多个通知。这些通知可以在内容源设备1020处被识别。例如,针对与内容源设备的用户相关联的电子邮件账户的新邮件通知;应用通知;诸如新消息通知的通信通知;来电通知;等等。通知可以由在内容源设备上运行的应用程序生成。在一些示例中,这些通知可能与显示服务无关。通知也可以由在显示通知的子显示屏中共享内容的应用生成,或者可以由不同的应用生成。
通知可以被显示在子显示屏内,也可以被显示在与子显示屏相邻的通知区域等中。图11图示了根据本公开的一些示例的具有通知区域1130的子显示屏1110的示例。通知区域1130可以是拉出、弹出或者其他区域。在一些示例中,通知区域1130可以不是子显示屏的一部分。在其他示例中,通知区域1130可以是子显示屏的一部分。子显示屏1110示出针对内容源设备1的应用A的内容。内容源设备1根据一个或多个应用的指令接收或者以其他方式识别向用户生成通知的信息——例如,经由内容源设备1的操作系统的通知应用编程接口(API)。在一些示例中,内容源设备1可以具有指定将在远程显示屏上向用户显示哪些通知以及如何示出这些通知的规则。例如,内容源设备1可以提供允许用户选取来自哪些应用的哪些通知被显示在远程显示屏上的用户界面。例如,显示哪些通知类型。这些规则可能不同于在第一实例中用于确定何时生成通知的规则。
内容源设备1然后将通知指示符连同通知的内容以及子显示屏标识符(例如,PIN)一起发送到显示屏或显示屏控制系统。所述显示屏或显示屏控制系统然后示出通知——例如,在子显示屏1110中、在通知区域(诸如通知区域1130)中。在一些示例中,所述通知区域可以是视觉上不同的区域,其邻近子显示屏1110的轮廓并且与其共享边界。通知区域1130可以不与子显示屏1110重叠。所述通知可以一直被显示,直到用户通过指向子显示屏上的通知的输入(例如,特定指定类型的手势)进行解除,在内容源设备上解除,或者可以被显示预定时间段。内容源设备也可以向显示屏或显示屏控制系统发送消息以移除或者以其他方式修改所述通知。
在一些示例中,通知区域1130可以允许输入,诸如允许对所述通知采取动作的手势。例如,预定义的手势可能解除所述通知——导致其不再被显示。其他手势可以使得在生成应用的内容源设备上显示应用。响应于特定手势,关于所述通知的信息可以被显示在通知被附接到的子显示屏(在图11中的子显示屏1110)、不同的子显示屏或者新的(自动创建的)子显示屏中。例如,如果所述通知是新电子邮件通知,则特定手势可以打开电子邮件。
在一些示例中,关于通知的信息是否被显示在与通知相关联的子显示屏中、不同的子显示屏中,或者其是否被显示在新的子显示屏中,这些都可以基于手势。一个手势可以打开新的子显示屏,而另一手势可以在已经打开的子显示屏中显示所述信息。例如,如果用户触摸所述通知并且将所述通知拖离所述子显示屏(例如,就像其正在“撕掉”通知一样)——则系统可以打开新的子显示屏以显示关于通知的信息。在其他示例中,如果用户敲击通知,则可以在当前子显示屏(例如,子显示屏1110)中打开关于通知的信息。
在一些示例中,指定的手势可以允许输入对特定通信相关的通知的内联回复。例如,手势可以使得显示输入字段以允许用户在通知区域的输入框中输入文本以回复电子邮件或文本消息。
通知可能是内容敏感的,因为通知上的特定内容可能被模糊化,或者可能不基于内容来显示所述通知。例如,如果通知是电子邮件,则用户可以设置系统使得来自特定用户、具有特定关键字或者以其他方式匹配定义的标准的电子邮件可以被模糊化、不显示等。
除了从内容源设备接收通知指示之外,显示屏和/或显示屏控制系统可以检测由内容源设备共享的内容内的通知窗口。该通知可以被拆分到通知子显示屏中。所述通知子显示屏可以以通知区域1130的形式被停驻到主子显示屏。显示屏控制系统可以修改、裁剪或者以其他方式从共享的内容中移除通知,使得在通知子显示屏中示出的通知是示出的通知的仅有实例。显示屏控制系统可以使用在本文中所描述的用于检测通信模态的方法来检测通知作为特征。
针对不同模态的不同子显示屏
在一些示例中,所述显示系统可以基于在与子显示屏配对的具体内容源设备上运行的活动、应用和/或应用的上下文自动地创建一个或多个子显示屏。例如,所述内容源设备可以正在运行可以提供多种通信模态的通信应用。示例性模态包括基于网络的通信,诸如聊天通信、语音通信(例如,互联网协议语音-VoIP)、视频呼叫、在线会议、文件共享、群聊、基于主题的群聊等。基于主题的群聊可以是由特定主题或群组(例如,团队)组织的与一个或多个人的聊天。
图12示出了根据本公开的一些示例的通信应用的图形用户界面(GUI)1200的示例。命令和搜索栏1210允许用户键入一个或多个命令或者搜索文件、通信、应用特征等。在左侧,存在用于访问由通信应用提供的各种通信模态的各种图标。活动图标1220当被选择时提供涉及用户或者用户所属群组的最近通信的列表。聊天图标1230当被选择时为用户提供发起或者参与与一个或多个其他用户的文本通信的功能。团队图标1240当被选择时向用户提供用于创建、修改、管理和参与主题的、基于群组的通信的功能。会议图标1245当被选择时为用户提供创建、管理和参与基于网络的通信(例如,基于网络的会议)的功能,其中,用户能够与一个或多个用户以及与显示屏共享语音、视频和/或内容。呼叫图标1250当被选择时为用户提供使用VoIP呼叫另一用户和/或视频呼叫其他用户的功能。文件图标1260当被选择时允许用户查看与用户通过通信应用可用的一种或多种其他通信模态相关联的文件。例如,诸如在一个或多个团队中交换的文件、在聊天中的文件、在呼叫或会议期间共享的文件等。在一些示例中,文件图标1260也允许用户在彼此之间共享文件。GUI 1200示出了所选择的会议图标和具有会议控制栏1265的活动会议的GUI。
图13图示了根据本公开的一些示例的具有与通信应用的多个通信模态相对应的多个子显示屏的显示屏1305。如能够意识到的并且如在本文中所公开的,多个独立的子显示屏可以显示来自同一内容源设备的同一应用的不同内容。如在图13中所示的,显示屏1305具有多个子显示屏,所述子显示屏被链接到同一内容源设备上的同一应用并且正在显示所述应用的不同通信模态(例如,不同的内容)。在图13中,图12的通信应用是向不同的子显示屏共享不同的通信模态。例如,子显示屏1310可以示出用户当前参与的会议的主要显示区域的内容。同时,子显示屏1314可以示出针对与会议相对应的聊天会话的聊天窗口。与会议相对应的聊天会话可以是自动设置的聊天会话,其允许会议参与者在呈现内容的同时彼此进行文本聊天。子显示屏1316可以显示与在子显示屏1310中所显示的会议不相关的聊天线程。子显示屏1312可以显示来自通信应用的团队中的一个或多个团队的一个或多个对话。在图13的示例中,来自团队Y的对话。
可以手动地创建示出不同通信模态的子显示屏——例如,用户可以选择通信应用内的不同模态并且使用如在图7中所示的机制将其链接到各种子显示屏,其中,“app”选择可以包括各种通信机制。因此,除了对应用(例如,如在图7中所示的“APP 1”、“APP 2”、“APP3”)的选择之外,选择屏幕可以包括各种通信模态,诸如团队、聊天、会议,等等。另外,用户可以在与通信模态相对应的上下文菜单中具有选项以在子显示屏中共享模态。在选择具体模态时,通信应用提示用户子显示屏的配对信息,并且然后开始在子显示屏上共享通信模态。
在其他示例中,通信应用和/或显示屏控制系统可以自动地创建一个或多个子显示屏以显示各种通信模态中的一个或多个。例如,如果设置被链接到通信应用的第一子显示屏,则可以自动地创建其他子显示屏并且将其链接到通信应用,其中,每个子显示屏显示由通信应用提供的通信模态中的不同通信模态。在一些示例中,系统可以在为一种或多种通信模态自动地创建一个或多个子显示屏之前提示用户,但是在其他示例中,系统可以在没有用户确认或输入的情况下自动地创建子显示屏。
在一些示例中,系统可以为由通信应用提供的每个提供的通信模态创建子显示屏。在其他示例中,系统可以仅为特定通信模态创建子显示屏。例如,可以基于使用历史为通信模态创建子显示屏。在这些示例中,可以为预先指定数量x的最近使用的模态创建子显示屏。在一些示例中,x可以基于显示屏上可用的空间量。亦即,未被子显示屏占用的空闲空间可以被用于确定为针对通信模态打开多少子显示屏,以及子显示屏的大小。所述子显示屏可能基于使用历史而改变。因此,如果示出了前三个最近使用的通信模态,则在三个子显示屏中示出的内容可以随着通信模态的使用变化而变化。因此,最近使用的通信模态的内容可以取代在特定子显示屏中最近较少使用的通信模态的内容。在一些示例中,用户可以“固定”特定模态,使得其不能够被其他通信模态替代。随着显示屏的使用变化(例如,用户关闭子显示屏),x可能随着显示屏上的自由空间增加而增加,并且可以选择额外的模态以用于显示。
在其他示例中,可以利用选取通信模态的其他方法,诸如用户偏好。用户可以设置用于共享所述模态中的一种或多种模态的一个或多个规则。例如,用户可以指定在发现显示屏控制系统并且链接第一模态时,可以自动地显示特定其他模态。在一些示例中,用于确定要显示哪些模态的条件可以包括手动地链接的第一模态(例如,所显示的第一模态可以具有要显示的其他相关联的模态)、模态的通信活动和使用历史、用户的位置、模态的内容(例如,系统可以排除具有特定词语、图像或用户定义的敏感材料的内容)等。
在一些示例中,可以利用用户的过去的子显示屏历史来自动地选择一种或多种模态。例如,如果用户过去创建了三个子显示屏并且链接模态A、B和C,则所述系统可以在识别出用户已经将子显示屏链接到模态A时,自动地创建子显示屏并且链接模态B和C(或者提示用户询问他们是否愿意为模态B和C创建子显示屏)。
可以通过一个或多个机器学习模型来预测用户可能有兴趣在子显示屏上共享哪些模态,所述机器学习模型是利用训练数据进行训练的,所述训练数据可能标记有(或者未标记有)用户手动地与子显示屏配对的模态。训练数据可以是每个用户的、跨所有用户的、跨用户群组的,等等。训练数据可以包括关于可用模式的通信活动,诸如上次活动、总活动、活动频率、最近活动水平等;诸如关键词、图片等的模态的内容;模态的类型;等等。模型可以是逻辑回归、神经网络、决策森林、增强决策树、支持向量机、奇异值分解(SVD)推荐器等。在使用期间,关于模态的当前特征数据——诸如当前通信活动、模态的当前内容等可以被用作对模型的输入,所述模型可以输出可以被自动地创建和/或建议给用户和/或链接到自动创建的子显示屏的模态列表。所述特征数据可以是关于可用模态的当前通信活动,诸如上次活动、总活动、活动频率、最近活动水平等;诸如关键词、图片等的模态的内容;模态的类型;等等。
在一些示例中,自动创建的子显示屏的大小可以是预定的或者可以基于一个或多个特征来确定。例如,每种模态可能具有特定的定义尺寸。在其他示例中,每种模态可以具有特定的最小和/或最大尺寸,其中,实际尺寸基于模态的活动来设置。例如,聊天模态可以具有特定的最小尺寸来显示聊天。另外,可以通过模态的通信历史来设置或修改尺寸,诸如设置子显示屏的尺寸以显示在定义的时间段内接收到的所有消息。在一些示例中,尺寸可以基于显示屏上的可用空间。例如,如果显示屏有足够的空间来打开能够显示十条过去的消息的子显示屏,则可以显示最近接收到的十条消息。
如上文提到的,所述系统可以建议向用户添加或者自动地添加额外的子显示屏,例如,以显示额外的通信模态。更一般而言,上文所描述的相同的过程也可以被应用于在内容源设备上运行的其他内容源。内容源可以包括在相同应用上的多个内容项(诸如不同的通信模态)、不同的应用等。例如,系统可以建议为在内容源设备上运行的另一应用打开子显示屏,或者可以建议为同一应用中的不同内容片段打开子显示屏。因此,如果网络浏览器正在显示两个视频,第一视频在子显示屏中被共享,则系统可以建议在第二子显示屏中共享第二视频。
图14示出了根据本公开的一些示例的建议的额外子显示屏1410的图示。在图14的示例中,系统可以建议显示通信应用的不同内容源(例如,不同通信模态)的另一子显示屏1410。例如,用户可能已经定义了示出会议内容的子显示屏1420和示出聊天线程的子显示屏1430。系统可以基于可用的子显示屏空间与要共享的额外内容的组合来建议另一聊天线程。例如,通过在线程中接收来自另一参与者的消息或者通过用户在线程中发送消息,对话线程可以变得活跃。
如在图14中所示的,所述系统可以通过示出所建议的子显示屏的轮廓或阴影版本来提供建议,并且可以包括将被显示的内容的阴影版本。如在图14中所示的,指定子显示屏的区域以获得用户对接受建议的子显示屏的批准。在一些示例中,如果用户在阈值时间段内不接受,则假定用户不接受建议的子显示屏并且建议的子显示屏1410消失。在其他示例中,显示允许用户拒绝建议的子显示屏的拒绝控件。在一些示例中,用户可以关闭这些建议。
图15图示了根据本公开的一些示例的建议的子显示屏的数据流。显示屏控制系统1540可以确定额外空间在显示屏1530上可用(例如,最小量的空间当前未被子显示屏占用)以用于额外的子显示屏。显示屏控制系统1540可以向内容源设备1520发送关于额外空间可用的通知1502。
作为响应,内容源设备1520可以确定是否有任何额外内容可用于显示以及是否应当显示所述内容(自动地或者向用户建议)。内容源设备1520可以应用上文所提到的模型、规则等来确定建议的内容。内容源设备1520也可以应用可以防止特定内容被显示或建议的用户可选择设置和规则,以防止建议或显示尴尬或敏感的内容。
如果符合用户设置的额外内容可用,则内容源设备1520可以开始将内容流送到显示屏控制系统1540。显示屏控制系统1540可以向显示屏1530发送建议子显示屏的消息1550。所述消息可以提供建议的子显示屏的坐标和大小。显示屏控制系统1540可以为建议的子显示屏创建子显示屏记录(诸如在图9中所描述的)。所述子显示屏记录可以具有一个或多个字段,其指示仅建议所述子显示屏。所述消息也可以包括内容1547的预览。显示屏1530可以显示如在图14中所描述的建议的显示屏。
显示屏1530发送指示用户是否接受建议的子显示屏的响应1549。如果用户接受了建议的子显示屏,则可以改变子显示屏记录以反映其不再是建议的子显示屏,而是实际的子显示屏。显示屏控制系统1540可以开始将额外的内容1545发送到显示屏1530。然后,显示屏可以使得子显示屏与额外的内容1545一起显示。
除了建议用于在子显示屏中显示的内容之外,所述系统可以建议增加或减小已经创建的子显示屏的尺寸。图16示出了根据本公开的一些示例的建议的显示屏尺寸变化的图示。用户已经开始通过触摸显示屏1610的第一左上角来指定显示区域1615。当用户将其手指滑动到子显示屏的右下角1617时,系统识别出额外的空间在显示屏上可用。可以显示弹出框1619,指示额外的空间可用并且提供建议的显示尺寸1620。如果用户没有松开其手指,则他们可以继续滑动其手指以放大子显示屏直到达到建议的尺寸(或者某个其他尺寸),并且然后通过释放其手指,可以将子显示屏创建为矩形,其中相对的顶点作为开始和结束触摸点。在其他示例中,用户可以松开其手指(或者使用另一手指)并且敲击弹出框1619以自动地增加子显示屏的尺寸来匹配建议的子显示屏尺寸。
在其他示例中,可以在已经创建子显示屏之后建议子显示屏尺寸。例如,可以创建子显示屏,并且然后提示可以允许用户通过使用输入字段(例如,屏幕上的按钮)来接受对子显示屏的建议的调整尺寸。可以基于在显示屏上的可用空间和/或当前尺寸对所显示的内容的适合性来做出调整子显示屏尺寸的建议。
例如,如果内容的尺寸使得存在滚动条,或者如果内容在子显示屏中被缩放,并且显示屏上有足够的空间来增加子显示屏的尺寸,使得内容不再被缩放或者不再需要滚动条,则系统可以建议更大的子显示屏。
响应于显示屏通过关闭一个或多个子显示屏而获得空闲空间,建议的子显示屏可以增加。显示屏和/或显示屏控制系统可以监视显示屏,并且基于新的空闲空间和/或在特定子显示屏中显示的内容来建议一个或多个子显示屏增加其尺寸。
在先前的示例中,描述了向用户提供建议以在单独的子显示屏中共享额外通信模态的系统。这些建议由在内容源设备上运行的应用来识别。在额外的示例中,替代内容源设备上的应用识别额外模态,显示屏控制系统可以识别在由内容源设备提供的共享内容中的单独特征(诸如单独模态或通知)。显示屏控制系统可以自动地将那些模态(有或者没有用户批准)拆分成不同的子显示屏。
例如,内容源设备可以在子显示屏上共享通信应用的窗口。显示屏控制系统可以接收该内容,并且在使得显示内容之前确定该内容的一个或多个特征。显示屏控制系统可以将那些特征中的一个或多个特征拆分成其自己的自动创建的单独并且独立的子显示屏。所述决定可以基于检测到的特征、显示屏控制系统的设置、用户设置等。例如,用户设置可以指定将被拆分为其自己的子显示屏的特征和/或这样做的条件(例如,使用若-则规则)。显示屏控制系统也可以使得显示在第一子显示屏中的内容省略被拆分成其自己的子显示屏的特征的视觉表示(例如,通过裁剪掉特征)。亦即,显示屏控制系统可以被训练以检测内容中要被拆分成独立子显示屏的特定特征,并且可以不显示要显示原始内容的子显示屏中的内容中的那些特征。
在一些示例中,可以经由明确的用户偏好来指定要拆分的特征。在其他示例中,过去的用户历史可以被用于确定被拆分的特征。亦即,如果用户经常手动地将通信应用的聊天会话拆分到其自己的子显示屏中,则系统可以预测用户将在这种情况下做同样的事情并且可以自动地执行该动作。例如,系统可以基于检测到的共享内容特征和指示用户过去是否已经将那些特征拆分为其自己的子显示屏的标签来训练机器学习模型。然后,模型可以预测在给定情况下用户是否可能将那些特征拆分为其自己的子显示屏。如果用户可能将那些特征拆分为其自己的子显示屏,则系统可以自动地拆分那些特征——或者询问用户其是否希望系统拆分那些特征。示例性机器学习算法可以包括逻辑回归、神经网络、决策森林、决策树、支持向量机等。
图43图示了根据本公开的一些示例的内容拆分流程。通信应用4320的屏幕由内容源设备共享。屏幕当前示出了具有会议内容的基于网络的会议和具有聊天线程4322的子显示屏。聊天线程4322可以与会议相关或者可以是单独的聊天线程。显示屏控制系统4325可以接收该内容。如先前所提到的,内容可以是关于显示屏的信息(例如,显示屏的图形描述、视频帧等)、用于重新创建显示屏的应用数据、会议内容、聊天内容等。显示屏控制系统4325可以检测聊天线程4322作为内容的特征,并且可以指派聊天线程4322要被显示在显示屏4310上的第二子显示屏4335中。来自通信应用4320的屏幕的其余内容被示出在子显示屏4330中——而没有聊天线程4335。例如,检测到的聊天线程4322可以在显示在子显示屏4330中之前从通信应用4320的屏幕中裁剪掉。在其他示例中,检测到的聊天线程4322可以被校订(例如,涂黑)、从内容中删除,或者以其他方式不显示。在一些示例中,检测到的聊天线程4322仍然可以被显示在子显示屏4330中。
在内容是视频帧内容的示例中,显示屏控制系统可以利用计算机图像识别算法来识别在一个或多个视频帧或图像内的特征(例如,对象)。例如,通过采用各种特征的示例性模型来检测一个或多个特征。特征可以包括通信模态、通知、图形用户界面的不同方面、帮助提示、评论、校订、编辑、个人(例如,在通信应用中显示的不同人)等。例如,系统可以将基于网络的通信(诸如在线会议)的多个不同人或角色(例如,活跃的演讲者角色)的视频馈送拆分到其自己的子显示屏中。例如,系统可以将基于网络的通信中每个个人的视频馈送拆分到其自己的子显示屏中。
用于检测视频中的特征的示例性算法可以包括机器学习方法,所述机器学习方法利用诸如基于Haar特征的Viola-Jones对象检测框架、尺度不变特征变换(SIFT)或者定向梯度直方图(HOG)特征的方法来定义系统寻找的特征。这些技术可以在视频上采用支持向量机分类器来对视频进行分类并且找到特征。其他示例性算法可以包括深度学习方案,诸如神经网络或卷积神经网络。
如先前所描述的,可以检测特征的位置并且将其用作针对独立子显示屏的内容。可以基于所提取出的特征的尺寸来设置独立子显示屏的尺寸。所提取出的特征可以基于显示屏上的可用空间按比例放大和/或缩小。
在内容不是基于视频的内容的其他示例中,显示屏控制系统4325可以在内容中搜索由用户设置、系统设置指定的或者以其他方式指定用于拆分成单独的子显示屏的特征。例如,可以在用于渲染内容的内容的描述(例如,描述用户界面4320的内容)中搜索各种特征指示符,诸如标题或者描绘通知或各种通信模态的其他部分。
尽管上文所描述的特征是通信模态,但是也可以利用其他特征,诸如通知。例如,当用户共享其屏幕并且来自应用的通知弹出到其桌面上时,显示屏控制系统可以检测到通知并且创建新的子显示屏。在一些示例中,新的子显示屏可以以关于图11的1130所示的通知标签的形式“停驻”到旧的子显示屏。根据在本文中的讨论,用户可以向通知提供一个或多个手势和输入。
在一些示例中,在通信模态的情况下,子显示屏可以与提供通信服务的通信服务器配对。亦即,运行与通信服务相关联的通信应用的实例的设备可以将指令输入到通信应用中,以使提供通信服务的通信服务器(或者访问通信会话的一些其他服务器)与子显示屏配对。例如,如在图9的过程中,但是没有远程内容源并且以通信服务960取而代之。通信服务960然后可以在子显示屏上共享与通信会话相关联的各种内容。在这些示例中,通信服务960可以与显示屏控制系统通信以基于能够查看显示屏的用户可能感兴趣的各种通信模态来打开额外的子显示屏。这些预测可以利用与为做出这些预测的通信应用实例所描述的相同的方法和因素以相同的方式做出。
显示屏控制系统
图17图示了根据本公开的一些示例的显示屏控制系统1700的逻辑图。服务广告组件1710可以向显示屏和内容源设备两者提供关于由显示屏控制系统提供的显示服务的广播信息。显示屏注册组件1705可以注册显示屏并且创建显示屏信息数据结构1750。子显示屏创建组件1715可以创建子显示屏信息数据结构1770并且辅助创建子显示屏。内容路由组件1720可以接收内容并且将其路由到正确的子显示屏。输入路由组件1725可以从子显示屏接收输入并且将其路由到特定内容源设备。子显示屏配对1730可以提供与内容源设备的子显示屏配对。通知组件1735可以在显示屏上提供一个或多个通知。建议的子显示屏组件1740可以建议一个或多个额外的子显示屏和/或改变一个或多个子显示屏的尺寸或配置。这些组件中的每个组件将在以下讨论中更详细地讨论。
图18图示了根据本公开的一些示例的服务广告的方法流程。在操作1805处,广告组件1710可以通过网络向广播地址广播服务可用性消息。服务可用性消息可以包含显示屏控制系统的网络地址、显示屏控制系统可用于控制显示屏/或显示屏控制系统可用于向内容源设备提供子显示屏共享服务的指示。
正在寻找显示屏控制系统的显示屏可以利用其能力和由显示屏控制系统1700控制的请求来响应。注意,内容源设备不需要回复广播消息,因为内容源设备仅需要在其与子显示屏配对时与由显示屏控制系统提供的显示服务进行通信。显示屏注册组件1705可以处理来自显示屏的响应。返回参考图18,在操作1810处,显示屏注册组件1705可以从显示屏接收注册消息。显示屏注册组件1705可以在操作1815处通过在显示信息数据结构1750中创建具有显示信息的条目来注册显示屏。在操作1820处,可以向显示屏发送确认消息。
示例性显示信息可以包括跨网络或者在显示屏控制系统1700内独有的显示屏标识符1755。显示屏标识符1755可以由显示屏控制系统1700、显示屏或者一些其他实体来指派。在显示屏控制系统1700与显示屏之间的通信可以包括显示屏标识符1755以允许显示屏控制系统1700查找正确显示屏的显示屏信息数据结构1750。其他示例性显示屏信息可以包括作为显示屏的网络地址的显示屏地址1760、显示屏能力176——诸如分辨率、颜色能力、刷新能力、输入能力、输入类型等。子显示屏信息数据结构1770最初可以是空的,但是一旦创建了这些子显示屏,就可以保存关于子显示屏的信息。
显示屏可以在创建子显示屏时发送通知。显示屏控制系统1700的子显示屏创建组件1715可以处理通知。
图19图示了根据本公开的一些示例的用于处理子显示屏创建通知的方法流程。在操作1905处,显示屏控制系统1700可以从显示屏接收子显示屏创建消息。子显示屏创建组件1715可以在操作1910处通过利用子显示屏创建消息中由显示屏发送的显示屏标识符来确定与所述显示屏相关联的显示屏信息数据结构1750来处理所述消息。在操作1915处,子显示屏创建组件1715可以在与在操作1910处确定的从其接收消息的显示屏相关联的显示屏信息结构内创建子显示屏信息数据结构1770,或者与所述显示屏信息结构链接的子显示屏信息数据结构1770。在操作1920处,子显示屏创建组件1715可以向显示屏发送确认。图9示出了可以存储的子显示屏信息950的示例。
子显示屏配对组件1730可以处理来自内容源设备的配对请求。
图21图示了根据本公开的一些示例的配对操作的流程图。在操作2105处,子显示屏配对组件1730可以从内容源设备接收配对请求。在操作2110处,子显示屏配对组件1730可以将由显示屏提供并且被存储在子显示屏信息数据结构1770中的配对信息与由内容源设备发送的配对信息进行匹配,以确定哪个子显示屏与内容源设备配对。如果未找到匹配,则可以向内容源设备返回错误。如果找到匹配,则在操作2115处,子显示屏配对组件1730可以更新与匹配的子显示屏相对应的子显示屏信息数据结构以存储关于内容源设备的信息。在操作2120处,子显示屏配对组件1730可以向内容源设备发送确认。
如先前所描述的,所述配对信息可以是可以由显示屏创建并且由显示屏在子显示屏创建通知中提供给显示屏控制系统的PIN。替代地,显示屏控制系统1700可以创建PIN并且将其提供给显示屏。由显示屏控制系统1700创建的PIN然后可以在子显示屏创建的确认消息中被传递回显示屏(例如,操作1920),以允许显示屏在配对标签中显示PIN。PIN可以是被用于将内容源设备与特定子显示屏相匹配的独有标识符。
在其他示例中,配对信息可以是基于生物特征的。在这些示例中,由于不再使用PIN号来独有地标识子显示屏,因此子显示屏创建组件1715可以发布子显示屏的独有标识符(ID),将该ID存储在子显示屏信息中,并且将ID提供给显示屏。在子显示屏标识符对于由显示屏控制系统1700管理的所有子显示屏是独有的示例中,显示屏控制系统1700然后可以通过子显示屏标识符独有地识别任意子显示屏。在子显示屏标识符仅对由显示屏控制系统1700管理的每个显示屏独有的示例中,显示屏控制系统1700可以通过子显示屏标识符和显示屏标识符独有地识别任意子显示屏。
在配对信息是生物特征模板的示例中——如关于在图7中的配对标签730更详细讨论的——子显示屏创建通知可以包括第一生物特征扫描信息和子显示屏标识符。生物特征扫描信息(例如,生物特征模板)可以临时被存储在对应的子显示屏信息中。来自内容源设备的配对请求也可以包括第二生物特征扫描信息,该第二生物特征扫描信息可以在内容源设备处的配对过程期间获得,或者可能已经在内容源设备处先前获得——诸如在账户设置过程期间。
在这些示例中,为了将接收到的配对信息与子显示屏信息结构相匹配(例如,操作2110),显示屏控制系统1700可以遍历显示屏信息数据结构1750和子显示屏信息,针对与来自内容源设备的第二生物特征扫描信息相匹配的所存储的生物特征信息来检查未配对的子显示屏信息。如果找到匹配,则内容源设备与具有匹配生物特征扫描信息的子显示屏配对。如果未找到匹配,则可以向内容源设备发送失败消息。
一旦找到匹配的子显示屏,内容源设备地址可以被存储在子显示屏信息中,并且子显示屏标识(如果其不是基于PIN的)和/或显示屏标识符可以被传递回所述内容源设备。
内容路由组件1720可以处理从内容源设备发送的内容并且使得其被显示在子显示屏中。内容可以包括子显示屏标识符和/或显示屏标识符。
图20图示了根据本公开的一些示例的在显示屏控制系统处处理来自内容源设备的内容的方法的流程图。在操作2005处,内容路由组件1720可以从内容源设备接收内容。在操作2010处,所述内容可以包含子显示屏标识符和/或显示屏标识符,其可以被显示屏控制系统用于识别显示屏信息数据结构。如果找到显示屏信息数据结构1750,则可以在操作2015处确定显示屏地址。如果没有找到显示屏信息数据结构1750,则可以向内容源设备返回错误消息。如果找到显示屏信息数据结构1750并且定位了地址,则在操作2020处,可以将内容发送到位于所定位的显示屏处的适当子显示屏。在一些示例中,显示屏控制系统可以通过验证内容的返回地址与子显示屏信息中的内容源设备地址相匹配来验证内容的源是与子显示屏配对的内容源设备。在一些示例中,显示屏控制系统可以验证内容指向显示屏的有效子显示屏。
输入路由组件1725可以接收来自显示屏或输入设备的输入,并且将其路由到内容源设备。
图22图示了根据本公开的一些示例的将输入路由到内容源设备的方法的流程图。在操作2205处,输入路由组件1725可以接收关于子显示屏的输入指示符。所述输入指示符可以由显示屏(如果输入设备被通信地耦合到显示屏)或者经由被耦合到显示屏控制系统的输入设备(例如,相机)发送。所述指示可以包括到控制器的输入的类型(例如,手势类型)、输入在子显示屏内的坐标、子显示屏标识符、显示屏的显示屏标识符等。如果显示屏或输入设备不知道子显示屏的坐标,则指示可以包括显示屏自身内的输入的坐标,由控制器使用所述坐标来确定子显示屏。
针对用于确定所述输入的子显示屏标识符的基于相机的手势识别,子显示屏标识符可以由显示屏显示、在显示屏上显示或者在显示屏中显示。计算机视觉应用能够从显示屏的捕获图像读取显示屏上的子显示屏的子显示屏标识符。所述标识符可以被连续地显示,以便人类能够查看和阅读,或者可以以人类无法阅读但是机器视觉应用能够阅读的方式来显示。例如,通过仅在有限数量的连续帧上显示标识符——例如,如果显示屏的刷新率为每秒60帧,则标识符可以仅在每秒1帧上显示。这对于人眼来说可能太快而无法看到标识符,但是标识符对相机是可见的。在其他示例中,相机可以确定何时创建新的子显示屏并且捕获标识符。然后,相机可以在创建之后跟踪子显示屏的场所和位置。在子显示屏上或者指向子显示屏的手势可以被相机捕捉、识别,并且可以确定对应的子显示屏标识符并且将其发送到控制器。
类似地,如果显示屏自身检测到输入,则显示屏可以存储和跟踪子显示屏标识符和相对于显示屏的子显示屏坐标。当手势输入在子显示屏上、在子显示屏内或指向子显示屏时,显示屏可以将输入发送到显示屏控制系统。
返回到图22,在操作2210处,输入路由组件1725可以根据由输入指示符提供的信息和根据子显示屏信息数据结构1770确定与所述子显示屏配对的内容源设备和内容源设备的网络地址。在操作2215处,控制器可以将输入发送到配对的内容源设备。
通知组件1735可以向子显示屏提供通知功能。
图23图示了根据本公开的一些示例的向子显示屏提供通知的方法的流程图。在操作2305处,通知组件1735可以从内容源设备接收通知指示。所述通知指示可以包括子显示屏标识符、显示屏标识符、通知的文本、与通知一起显示的一个或多个图形、通知的图形布局等。在一些示例中,在操作2310处,通知组件1735可以根据子显示屏信息来确定显示屏信息。在操作2312处,通知组件1735可以创建通知标识符并且将通知标识符与要在其中显示通知的子显示屏的子显示屏信息一起存储。在一些示例中,可以将所述通知标识符发送回为与通知的将来交互提供的内容源设备。这允许利用单个子显示屏显示多个通知以及由内容源设备对所述通知的修改。
在操作2315处,通知组件1735可以将通知转发到显示屏。该通知可以包括通知标识符。在一些示例中,显示屏控制系统或显示屏可以重新格式化所述通知以匹配显示屏和通知区域的显示能力。例如,可以对所述通知调整大小,可以修改颜色信息等。可以基于一系列规则将特定操作应用于所述通知。所述规则可以取决于通知信息、显示信息、可用通知区域等。例如,如果<通知尺寸>大于<通知区域尺寸>,则<缩放所述通知>。
通知组件1735也可以处理针对通知的接收到的输入。
图24图示了根据本公开的一些示例的处理对通知的输入的通知组件1735的流程图。在操作2405处,通知组件1735可以接收指向所述通知的输入的指示。指向所述通知的输入的指示可以包括对控制器的输入的类型(例如,手势类型)、输入在通知区域内的坐标、子显示屏标识符、显示屏的显示屏标识符、通知标识符等。在一些示例中,通知组件1735(或者显示屏)可以直接处理所述输入。例如,通知组件1735可以通过指示显示屏移除通知并且停止显示所述通知区域来处理解除通知的输入。然后,通知组件1735可以在操作2410处确定内容源设备的地址(例如,基于显示屏和/或子显示屏标识符),并且在操作2415处将所述指示发送到内容源设备。在其他示例中,通知组件1735可以将在操作2405处接收到的输入指示发送到内容源设备而不采取任何动作。内容源设备然后可以对通知采取动作(未示出),包括通过发送具有指定期望动作的通知标识符的通知指示来解除通知或者其他动作。
建议的子显示屏组件1740可以监视在一个或多个显示屏上的可用空间,并且可以基于在子显示屏中共享的内容来确定针对子显示屏的建议的增加和/或减少。建议的子显示屏组件1740可以识别用于将内容适配到一个或多个子显示屏中的一个或多个内容变换。建议的子显示屏组件1740可以确定显示屏上有足够的未使用空间(例如,基于相邻子显示屏之间的空间)以使一个或多个子显示屏更大,从而减少或者消除被应用于内容以使内容适配在一个或多个子显示屏中的变换。例如,建议的子显示屏组件1740可以应用一个或多个规则,诸如决策树,以确定用于一个或多个子显示屏的内容的最佳子显示屏尺寸。建议的子显示屏组件1740然后可以利用额外的规则来确定要向用户建议的新尺寸。可以将新尺寸发送到显示屏以向用户建议。如果用户接受,则显示屏和显示屏控制系统可以利用新的尺寸来更新其对子显示屏的记录,并且更新在显示屏上的尺寸。然后,可以基于新的尺寸来调整为适配在子显示屏中的内容而应用的变换。
建议的子显示屏组件1740也可以建议额外的子显示屏。例如,建议的子显示屏组件1740可以发送子显示屏上的空间对内容源设备可用的指示。所述内容源设备然后可以利用内容源设备想要向用户建议的任何额外内容来进行响应,例如,建议显示的内容的预览。建议的子显示屏组件1740将其转发到显示屏以用于向用户显示视觉建议。如果用户批准显示该内容,则建议的子显示屏组件1740从显示屏或者从输入设备接收接受的指示。该指示然后可以使得建议的子显示屏组件1740指示子显示屏创建组件1715创建新的子显示屏和子显示屏配对组件1730以自动地将子显示屏与内容源设备相配对。所述配对可以自动地完成,并且可以跳过配对步骤(例如,显示或者收集配对信息)。然后可以将确认发送回内容源设备——其可以开始共享所述内容。
图25图示了根据本公开的一些示例的显示屏2500的逻辑图。显示屏注册组件2505可以将显示屏注册到显示屏控制系统。子显示屏创建组件2515可以创建子显示屏。输入处理程序2525可以处理对所述显示屏的一个或多个输入。通知处理程序2540可以处理一个或多个接收到的通知。内容显示屏2520可以处理在特定子显示屏中显示内容。建议的子显示屏2530可以处理针对额外子显示屏或者改变现有子显示屏的尺寸或者其他参数的建议。在以下讨论中更详细地描述了这些组件中的每个组件。
图26图示了根据本公开的一些示例的向控制器注册显示屏的方法。在操作2610处,显示屏注册组件2505可以监视在特定网络地址和/或端口处的广播消息。如果在操作2620处接收到服务广播消息,则显示屏可以在操作2630处协商显示屏控制系统以控制显示屏。这可以包括发送注册信息,诸如显示能力和地址。显示屏可以存储关于显示屏控制系统的信息,诸如显示屏控制系统的网络地址。尽管在本文中所提到的示例具有发送广告的显示屏控制系统,但是在其他示例中,显示屏和/或内容源设备可以通过发送其自己的广告和/或显示屏控制系统侦听并且进行响应的发现消息来发现显示屏控制系统。
子显示屏创建组件2515可以识别输入以创建一个或多个子显示屏,并且与显示屏控制系统通信以创建子显示屏。
图27图示了根据本公开的一些示例的由子显示屏创建组件2515执行的子显示屏创建的方法的流程图。在操作2710处,子显示屏创建组件2515可以识别指示子显示屏创建的手势。例如,特定手势指向现有子显示屏的外部区域或者在所述外部区域上。特定手势可以包括手指向下(例如,手指放置并且保持在显示屏上)和拖动。用户的手指在屏幕上的路径指定了子显示屏的坐标。另一手势可以包括第一手指向下以指示第一对角点以及拖动和手指向上(例如,用户抬起其手指向上),其中,手指向上的位置是对角线的对角。如先前所描述的,显示屏可以使子显示屏的创建动画化。手势或者其他输入可以由显示屏的输入设备(诸如触摸屏)或者被通信地耦合到显示屏或控制器(其可以将输入传递到显示屏)的输入设备(诸如相机)来确定。
在完成手势后,显示屏可以创建一个或多个数据结构来存储关于子显示屏的信息并且跟踪子显示屏。在一些示例中,所述数据结构可以包括子显示屏的坐标——包括轮廓的坐标、子显示屏标识符等。在一些示例中,一旦被创建,子显示屏就可以被移动、调整大小、旋转、关闭等。所述数据结构可以跟踪子显示屏在显示屏上的位置。
在操作2720处,显示屏可以确定配对信息。例如,显示屏可以将PIN号或者其他独有标识符指派给子显示屏。在一些示例中,子显示屏的独有标识符是PIN,但是在其他示例中,可以将额外的子显示屏标识符指派给子显示屏。在其他示例中,显示屏可以从显示屏控制系统请求和接收PIN或者其他标识符。在操作2730处,显示屏可以诸如在配对标签内示出配对信息。在配对方法是生物特征配对方法的示例中,操作2720可以简单地确定针对子显示屏的标识符,并且操作2730可以显示指令以供用户输入其生物特征。在这些示例中,可以执行另一操作,由此显示屏与生物特征扫描仪通信以获得用户的生物特征样本。在一些示例中,可以指示生物特征扫描仪仅在显示屏内的特定位置进行扫描——诸如在配对标签处。配对标签的坐标可以被提供给生物特征扫描仪。在操作2730处,可以将子显示屏信息连同任何配对信息和生物计量信息(取决于实现方式)发送到显示屏控制系统。子显示屏信息、坐标、配对(例如,PIN和/或子显示屏标识符)和生物特征信息可以被存储在显示屏的数据结构中。
内容显示组件2520可以为接收到的内容确定正确的子显示屏,并且使该内容被显示在所述子显示屏内。
图28图示了根据本公开的一些示例的内容显示组件2520使得内容被显示的方法的流程图。在操作2810处,显示屏可以例如从内容源设备和/或显示屏控制系统接收内容。所述内容可以包括子显示屏标识符(例如,配对PIN或者对显示屏独有或者对显示屏控制系统独有的一些其他标识符)。在操作2820处,可以基于与内容一起接收到的子显示屏标识符(例如,在分组标头、流标识符等中)和内容源设备的地址等来确定要在其中渲染内容的子显示屏。在操作2830处,基于针对该子显示屏的显示屏的记录,可以确定子显示屏的坐标。在一些示例中,可以重新格式化所述内容以适配在所述子显示屏内。这可以包括缩放、旋转、平移、拉伸、裁剪或者以其他方式变换所述内容。在一些示例中,在变换所述内容和/或显示所述内容之前,可以对所述内容进行解码。例如,可以根据一种或多种编码方案以一种或多种编码格式对所述内容进行编码。显示屏(或者显示屏控制系统)可以将所述内容解码为用于在显示屏上渲染的原生格式。在操作2835处,可以在所述子显示屏中显示所述内容。
建议的子显示屏组件2530可以从控制器的建议的子显示屏组件2530接收一个或多个建议。建议的子显示屏组件2530可以在显示屏上广告用于改变一个或多个子显示屏的尺寸和/或位置的一个或多个建议,并且呈现一个或多个新的子显示屏创建建议。用户可以通过提供输入来接受这些建议。所述建议可以被显示为透明、幻影、虚线或者其他视觉描绘的提示,以预览新的尺寸、位置、形状或者新的子显示屏(包括建议的内容)。用户可以敲击按钮或者其他输入区域来接受改变,并且可以具有另一用户界面区域来拒绝建议的改变。如果用户接受改变,则显示屏调整其一个或多个子显示屏的数据结构以反映所述改变。
输入处理程序组件2525可以处理指向一个或多个子显示屏、在一个或多个子显示屏中、在一个或多个子显示屏内或者在一个或多个子显示屏上的输入。
图29图示了根据本公开的一些示例的处理指向子显示屏的输入的方法的流程图。在操作2910处,所述显示屏可以识别指向一个或多个子显示屏、在一个或多个子显示屏中、在一个或多个子显示屏内或者在一个或多个子显示屏上的输入。例如,显示屏可以检测显示屏的触摸屏组件的一个或多个手势。在其他示例中,被通信地耦合到显示屏的相机可以发送检测到手势或者其他输入的通知。可以确定输入的类型(例如,手势的类型)和手势的坐标。在操作2920处,坐标可以被用于确定输入属于哪个子显示屏。显示屏然后可以将手势相对于完整显示屏(例如,显示屏120)的坐标转换为子显示屏内的相对坐标。在操作2930处,这些坐标、输入类型、输入在子显示屏内的坐标等可以被发送到控制器。
通知处理程序组件2540可以处理从内容源设备和/或显示屏控制系统发送的通知以及处理指向所述通知的输入。
图30图示了根据本公开的一些示例的通知处理程序组件2540处理来自内容源设备或显示屏控制系统的通知消息的方法的流程图。在操作3010处,通知处理器组件2540可以从显示屏控制系统或内容源设备接收通知指示。所述通知指示可以包括用于显示所述通知的内容。所述通知指示可以包括通知标识符和子显示屏标识符。在操作3020处,所述显示屏可以例如根据子显示屏标识符来识别子显示屏。在操作3030处,所述显示屏可以渲染通知区域(例如,通知标签)。在操作3035处,可以在所述通知区域中显示所述通知。
图31图示了根据本公开的一些示例的通知处理程序组件2540处理指向通知区域的手势的方法的流程图。在操作3110处,所述显示屏可以识别指向通知、在通知上、在通知内的手势或者其他输入。在操作3120处,可以识别与所述通知相对应的子显示屏。另外,在操作3130处,可以确定所述通知标识符。这些可以通过将手势的坐标与活跃的子显示屏的坐标和/或活跃的子显示屏的活跃通知区域相匹配来确定。在操作3135处,可以将所述通知发送到显示屏控制系统和/或内容源设备。
图32图示了根据本公开的一些示例的内容源设备3210的图。图32的组件中的一个或多个组件可以是应用的一部分,诸如通信应用。用户界面组件3215可以提供一个或多个用户界面,诸如图形用户界面(GUI),以允许用户选择用于共享、选择远程显示屏以及与远程显示屏配对的内容。用户界面组件3215也可以提供用于选择在远程显示屏上显示哪些通知的GUI。
远程显示屏共享组件3220可以例如基于用户通过用户界面组件3215的选择来识别内容,并且基于由远程显示屏配对组件3225执行的配对操作来将该内容发送到显示屏控制系统或者远程显示屏的子显示屏。
远程显示屏配对组件3225可以通过将通过用户界面组件3215收集的配对信息(PIN、生物特征等)发送到显示屏控制系统或远程显示屏来与远程显示屏配对。在一些示例中,远程显示屏配对组件3225可以发送由内容源设备从用户获取的一个或多个生物特征模板(例如,指纹、眼睛扫描、面部识别扫描等)。这些模板可以在应用设置过程期间、在配对过程之前或者作为配对过程的一部分获取。这些模板可以由显示屏控制系统或远程显示屏与在远程显示屏处获取的模板进行比较。如果模板匹配,则远程显示屏控制系统和/或远程显示屏可以将内容源设备与远程显示屏上的子显示屏配对。
如先前所描述的,配对(即,链接)描述了用于将内容源设备与特定子显示屏相关联以允许将内容从内容源设备路由到特定子显示屏的过程。所述过程需要将在显示屏上输入或示出的一条或多条配对信息(例如,PIN、生物特征模板等)与在内容源设备上输入的一条或多条配对信息相匹配。在一些示例中,所述配对是向内容源设备提供独有标识符的方式,所述独有标识符能够被附加到内容以将所述内容正确地路由到正确的子显示屏。
在其他示例中,所述配对可以另外地在显示屏控制系统或显示屏中创建识别子显示屏(例如,使用PIN或者其他独有标识符)和内容源设备(例如,使用IP地址或者其他独有标识符)和/或内容源设备上的应用的条目,使得来自内容源设备的数据被显示在正确的子显示屏中,并且使得来自子显示屏的输入能够返回到正确的内容源设备和/或内容源设备上的应用。
针对单个内容源设备与多个子显示屏共享内容(例如,不同的应用向不同的子显示屏共享不同的内容)的示例,内容源设备3210可以记录内容源设备上的哪些应用和哪些内容与每个子显示屏相关联。远程显示屏共享组件3220从应用接收内容,查阅数据结构以确定适当的子显示屏和显示屏或显示屏控制系统的地址,并且然后将内容发送到该地址(连同子显示屏的标识符)。
对于返回到内容源设备的输入,内容源设备3210的显示屏输入组件3230可以查询所述数据结构以基于被包含在所述输入中的子显示屏标识符来确定将输入引导到的应用。显示屏输入组件3230然后可以将所述输入转发到所述应用。在一个示例中,所述输入触发应用的事件和/或子例程的方式与使用本地输入设备输入的相同输入的方式相同。本地输入是来自通过本地总线连接到内容源设备的输入设备(例如,鼠标、内容源设备的触摸屏等)的任何输入。
通知组件3235可以检测来自在内容源设备3210上运行的一个或多个应用的一个或多个通知。通知组件3235可以将通知类型、源应用和/或通知组件与指定要在共享内容的一个或多个子显示屏上显示的通知的一个或多个规则的集合进行比较。所述通知可以显示在子显示屏的通知区域中。所述通知可能不是来自在子显示屏中显示内容的同一应用。所述通知可以由通知组件创建,包括通知的图形布局并且包括通知标识符。
对所述通知中的一个或多个通知的输入可以由显示屏和/或显示屏控制系统发送到内容源设备3210,并且可以由通知组件3235处理。所述通知输入指示可以包括通知标识符。通知组件3235可以利用所述通知标识符来识别所述通知并且可以处理所述输入。特定输入可能解除所述通知。特定输入可以在内容源设备3210处启动发送所述通知的应用,在其通知标签显示所述通知的子显示屏中(其内容被显示在所述子显示屏中的应用是否生成通知),或者利用所述通知启动新的子显示屏。特定输入可以在通知标签上生成快速响应输入区域。通知组件3235可以将指令发送回显示屏和/或显示屏控制系统以修改或更新所述通知。例如,响应于针对显示屏或内容源设备上的通知的输入。
显示服务3240可以收听来自显示屏控制系统或显示屏的广告显示屏可用于在一个或多个子显示屏中共享的广播消息。所述广播消息可以包括一个或多个显示屏控制系统的地址。所述服务可以是特定网络本地的。在一些示例中,可以发现多个服务。在配对期间,所述内容源设备可以尝试与所有发现的显示屏控制系统配对(因为内容源设备可能不知道哪个显示屏控制系统控制指定子显示屏所在的期望显示屏)。配对信息不太可能匹配两个不同的未配对子显示屏。在替代方案中,每个显示屏可以具有全局独有标识,所述全局独有标识可以与用户也可以输入的配对信息一起显示或者作为所述配对信息的一部分显示。所述显示屏控制系统可以广播由显示屏控制系统管理的显示屏的显示屏标识符。远程显示屏配对组件3225然后可以使用该广播信息来选择适当的显示屏控制系统。
图33图示了根据本公开的一些示例的在远程显示屏的子显示屏上共享内容的方法的流程图。在操作3310处,所述内容源设备可以从用户接收对要共享的内容的选择。例如,通过由用户界面组件3215提供的用户界面。在操作3315处,所述内容源设备可以识别子显示屏配对信息。例如,用户可以在由用户界面组件3215提供的用户界面元素中输入PIN、扫描QR码、输入密码或者提供在显示屏上(例如,在配对标签中)显示的其他信息。在其他示例中,内容源设备可以识别用户的一个或多个生物特征模板——例如,通过从数据库中将其取回、对生物特征进行新的扫描等。
在操作3320处,所述内容源设备的远程显示屏配对组件3225可以识别显示屏控制系统和显示屏控制系统的地址。如先前所描述的,可以通过监视广播消息来获得所述显示屏控制系统信息。在操作3325处,远程显示屏配对组件3225可以将配对请求消息与配对信息一起发送到显示屏控制系统的地址。一旦建立配对(例如,来自显示屏控制系统的确认消息),远程显示屏共享组件3220可以在操作3330处开始共享内容。如先前所描述的,如果发现多个显示屏控制系统,则所述内容源设备可以将多个配对请求发送到多个显示屏控制系统。
图34图示了根据本公开的一些示例的处理来自子显示屏的输入的方法的流程图。在操作3410处,显示屏输入组件3230可以从显示屏控制系统或显示屏接收输入通知。所述输入通知可以包括与输入相关联的子显示屏的子显示屏标识符、输入类型、位置和其他信息。在操作3415处,显示屏输入组件3230可以识别与输入相关联的应用。例如,通过查找存储在应用与子显示屏标识符之间的关联的数据结构。在操作3420处,所述输入被发送到或者以其他方式递送到所述应用。
图35图示了根据本公开的一些示例的向子显示屏呈现通知的方法的流程图。在操作3510处,通知组件3235可以检测通知。例如,操作系统可以具有应用向其发送通知的通知服务。通知组件3235可以与该组件接口。在操作3515处,通知组件3235可以确定通知设置是否允许将通知发送到子显示屏。如果通知设置不允许发送到一个或多个子显示屏,则可以终止对用于在子显示屏上显示的该通知的处理。
如果所述通知设置允许发送到一个或多个子显示屏,则在操作3520处,通知组件3235可以选择与内容源设备相关联的子显示屏。如果不存在与内容源设备相关联的子显示屏,则可以终止对用于在子显示屏上显示的通知的处理。如果仅有单个子显示屏与所述内容源设备相关联,那么可以选择该子显示屏。如果存在与该内容源设备相关联的多个子显示屏,则可以采用一种或多种选择方法。例如,所述内容源设备可以选择内容源设备最近从其接收输入的子显示屏。在其他示例中,可以选取最大的子显示屏。在又其他示例中,所述显示屏控制系统可以决定与内容源设备相关联的哪个子显示屏来显示所述通知。在又其他示例中,可以利用用户偏好,诸如将特定通知类型与示出特定共享内容的子显示屏相匹配。例如,示出通信应用的子显示屏可以显示特定的与通信相关的通知。
一旦选择了子显示屏,在操作3530处,就可以将所述通知发送到所选择的子显示屏。在一些示例中,标识符与所述通知相关联并且与所述通知一起发送。
图36图示了处理诸如指向在子显示屏上显示的通知的手势的输入的方法的流程图。在操作3610处,通知组件3235可以接收指向由内容源设备发送的通知的输入的指示。如先前所描述的,所述指示可以包括关于输入的信息——诸如输入的类型、输入的位置、通知标识符和其他信息。在操作3615处,通知组件3235可以识别生成所述通知的应用——例如通过使用通知标识符。在操作3620处,可以将所述输入信息发送到在操作3615处识别出的应用。
图37图示了根据本公开的一些示例的指定子显示屏的方法3700的流程图。在操作3710处,显示屏控制系统和/或显示屏可以识别指向显示屏的显示表面的手势输入。所述手势输入可以定义显示屏上的子显示屏的几何结构。所述手势输入定义了涵盖与先前指定的子显示屏不同的坐标的子显示屏。例如,所述显示屏可以确定输入指向现有子显示屏外部的位置,并且响应于检测到指定子显示屏的手势而向显示屏控制系统发送通知。所述指示可以在手势完成之后发生(例如,定义子显示屏几何结构)或者伴随手势而发生。
在操作3720处,响应于所述手势输入,显示屏控制系统和/或显示屏可以创建子显示屏,并且利用如在本文中所描述的链接过程将所述子显示屏链接到内容源设备。例如,所述系统的一个或多个组件可以创建存储关于所述子显示屏的信息的数据结构。在操作3730处,响应于创建子显示屏并且将子显示屏与内容源设备相链接,使得由内容源设备共享的内容被显示在显示屏的子显示屏中。在一些示例中,可以与在先前指定的子显示屏中共享的不同内容同时地共享所述内容。例如,所述显示屏控制系统可以将内容发送到具有子显示屏标识符的显示屏。所述显示屏可以直接从内容源设备或者经由显示屏控制系统从内容源设备接收内容,并且可以在操作3710处建立的几何结构内渲染所述内容。
图38图示了根据本公开的一些示例的配对方法3800的流程图。在操作3810处,显示屏控制系统和/或显示屏可以识别指向显示屏的手势输入,所述手势输入指定子显示屏的几何结构。例如,所述显示屏可以响应于检测到指定所述子显示屏的手势而向显示屏控制系统发送通知。
在操作3820处,响应于手势输入,显示系统可以基于定义的几何结构来创建子显示屏。如先前所描述的,这可能需要创建一个或多个数据结构,并且在一些示例中,在显示屏上可视地指示子显示屏。在操作3830处,显示屏可以渲染和显示配对信息输入区域。例如,允许输入诸如生物特征、PIN码等配对信息的配对标签630、730或830。
在操作3840处,显示屏或者其他输入设备可以检测在配对信息输入区域处的配对信息的输入。所述配对信息可以包括PIN(例如,经由先前描述的反向配对过程,其中,内容源设备确定PIN并且将其显示给将其输入到配对信息输入区域中的用户)、用户的生物特征扫描、用户账户的认证凭证、字母数字值等。该配对信息可以被存储在一个或多个数据结构中,诸如在一个或多个数据存储区域中的子显示屏信息数据结构950。
在操作3850处,所述系统可以基于将在配对输入区域处接收到的第一配对信息与由内容源设备提供的第二配对信息相匹配,来将子显示屏与内容源设备相链接。例如,所述内容源设备可以发送具有第二配对信息的配对请求。与第一配对信息一样,第二配对信息可以是PIN、用户账户的认证凭证、字母数字值、来自由内容源设备进行的生物特征扫描的生物特征扫描信息等。例如,所述系统可以搜索具有匹配配对信息的子显示屏信息数据结构。一旦找到匹配,具有匹配信息的子显示屏就与内容源设备相链接(即,配对)。
在操作3860处,显示屏和/或显示屏控制系统可以使得由内容源设备发送的内容被显示在子显示屏中。例如,所述显示屏控制系统可以将内容发送到具有子显示屏标识符的显示屏。所述显示屏可以直接从内容源设备或者经由显示屏控制系统从内容源设备接收内容,并且可以在操作3810处建立的几何结构内渲染所述内容。
图39图示了根据本公开的一些示例的输入子显示屏的方法3900的流程图。在操作3910处,显示屏控制系统和/或显示屏可以识别指向显示屏的手势输入,所述手势输入指定第一子显示屏的几何结构。例如,显示屏可以响应于检测到指定子显示屏的手势而向显示屏控制系统发送通知。在操作3920处,响应于手势输入,显示屏控制系统和/或显示屏可以创建第一子显示屏。在操作3930处,显示屏和/或显示屏控制系统可以使得由内容源设备发送的内容被显示在第一子显示屏中。例如,显示屏控制系统可以将内容发送到具有子显示屏标识符的显示屏。所述显示屏可以直接从内容源设备或者经由显示屏控制系统从内容源设备接收内容,并且可以在操作3910处建立的几何结构内渲染所述内容。
在操作3940处,可以如先前针对操作3910所描述的那样来识别针对指定第二子显示屏的几何结构的显示屏的第二手势输入。在操作3950处,可以将第二子显示屏链接到内容源设备。在操作3960处,可以识别指向第二子显示屏的输入。例如,通过将输入的坐标与显示屏上的子显示屏的坐标进行比较。在操作3970处,指向第二子显示屏的输入被发送到内容源设备。在一些示例中,所述输入可以被隐藏——亦即,其不被显示在第一子显示屏和/或第二子显示屏上。如先前所描述的,所述输入可以是被显示在第一子显示屏上的内容,或者可以指向被链接到在第一子显示屏上显示的内容的内容。尽管图39示出了在指定和配对输入子显示屏之前创建示出内容的子显示屏和对显示内容的子显示屏与远程内容源设备进行配对的示例,但是在一些示例中,可以首先定义仅输入子显示屏。在其他示例中,可以仅定义仅输入子显示屏。亦即,所公开的方法不需要创建示出内容的子显示屏和对示出内容的子显示屏与远程内容源设备的配对。
图40图示了根据本公开的一些示例的提供通知的方法的流程图4000。在操作4010处,所述显示屏控制系统和/或显示屏可以识别指向显示屏的手势输入,所述手势输入指定第一子显示屏的几何结构,如先前所描述的。在操作4020处,响应于所述手势输入,所述显示屏控制系统和/或显示屏可以创建子显示屏,并且利用如在本文中所描述的链接(即,配对)过程将所述子显示屏链接到内容源设备。在操作4030处,使得由内容源设备发送的内容被显示在子显示屏中,如在本文中别处所描述的。
在操作4040处,所述内容源设备可以发送,并且所述显示屏控制系统可以接收关于内容源设备上的通知的信息,所述通知如果被显示在子显示屏中,则将与内容重叠。例如,由内容源设备发送的用于在子显示屏中显示的内容可以是内容流(例如,屏幕共享),并且可以在屏幕上弹出通知。所述内容源设备可以检测到这一点(例如,通过操作系统的API),并且可以向显示屏控制系统发送通知。所述通知可以包括通知位置下方的内容(例如,被所显示的通知遮挡的内容)。所述内容源设备可以通过访问针对所述内容的渲染管线并且复制显示所述通知处下方的区域——例如,通过操作系统,来获得通知位置下方的内容。在一些示例中,由内容源设备发送的用于在子显示屏中显示的内容可以具有一个或多个层,所述层可以包括要在内容上渲染的通知层。在操作4040处的通知可以向显示屏控制系统指示内容中存在通知层。在又其他示例中,从内容源设备接收到的内容可能不是通知,并且操作4040不是来自内容源设备的消息,而是使用如在本文中所描述的机器视觉技术来检测通知。
在操作4045处,所述显示屏控制系统可以使得显示在操作4040处接收到的或者在通知区域中的内容内的通知。通知区域可以是另一子显示屏(其可以是自动创建的)、通知区域,诸如通知区域1130等。
在操作4050处,使得子显示屏显示由内容源设备发送的内容,而所述通知不与内容重叠。亦即,可以不示出通知层,内容中的通知可以由在通知下方的接收到的内容(例如,来自计算设备)等替代。在一些示例中,所述显示屏控制系统或内容源设备可以基于在通知之前处于该位置中的内容来确定通知下方的内容。在其他示例中,内容源设备不将所述通知包含在被发送用于在子显示屏中显示的内容中,并且所述通知不被显示在其中,而是被显示在通知区域(区)中。
图41图示了根据本公开的一些示例的为物理上不接近显示屏的远程内容源设备指定子显示屏区域的方法4100的流程图。图41可以由提供通信服务的通信服务器(例如,提供MICROSOFT服务的服务器)(例如,通信服务960)来执行。
在操作4110处,所述通信服务器可以通过网络接收第一消息。可以从计算设备(例如,显示屏本地的计算设备)或者显示屏控制系统接收第一消息。在一些示例中,所述第一消息可以包括子显示屏标识符和远程内容源设备的标识符。在未从显示屏控制系统接收到第一消息和/或通信服务器可能尚不知道显示屏控制系统的一些示例中,所述第一消息可以包括显示屏控制系统的地址,所述地址由通信服务器用于到达所述显示屏控制系统。在一些示例中,所述第一消息将子显示屏与远程内容源设备相链接。亦即,所述消息可以是显示屏控制系统已经将子显示屏与远程内容源设备相链接的指示。在其他示例中,所述消息可以间接地使得子显示屏与远程内容源设备相链接(通过稍后的消息传递)。
如所指出的,所述第一消息可以从不是显示屏控制系统的计算设备(例如,指定显示屏的用户的计算设备)接收,或者可以直接从显示屏控制系统(例如,指定子显示屏也可以通过显示屏的U/I输入远程内容源设备的用户)接收。在一些示例中,远程内容源设备的标识符可以是用户标识符——亦即,远程内容源设备由向所述设备认证的用户标识。该认证可以由提供通信服务的通信服务器来确定。
在操作4120处,所述通信服务器可以向远程内容源设备发送第二消息。该消息可以指示所述子显示屏被链接到远程内容源设备。所述远程内容源设备可以接收该消息,并且提示用户选择要共享的内容(或者拒绝共享)。
在操作4130处,由所述服务器从远程内容源设备接收所述内容。在操作4140处,所述通信服务器可以通过在网络上将所述内容发送到显示屏控制系统来使得所述内容显示在所述子显示屏中。所述通信服务器可以包括子显示屏的标识符以及内容。通过在所述内容内包含子显示屏标识符,通信服务器指定在哪个子显示屏中显示该内容。在所述内容内包括所述子显示屏标识符可以包括将子显示屏标识符放置在所述内容内,作为对所述内容的元数据,在与所述内容一起发送的分组的标头中,等等。
图41涵盖了诸如在图9中所示的场景以及诸如本地计算设备920不参与在本文中所描述的流程、而是由显示屏控制系统940发送消息(例如,消息912)的场景。由于显示屏控制系统940参与一个或多个基于网络的通信会话,因此通信服务960可能已知显示屏控制系统940。
如在本文中所使用的,内容共享指代与另一设备共享在第一设备上的一条内容的过程。该共享可以与内容源设备上的内容呈现同时进行,使得其他设备上的内容的呈现可以在内容被显示在内容源设备上或者从内容源设备发送之后的确定时间段内发生。在一些示例中,内容共享可以是内容流送或内容投射。
如在本文中所使用的,通信模态表示不同的通信方法。例如,电子邮件、文本消息传递、聊天消息传递、视频通话、电话都是不同的通信模态。通信应用可以提供多种通信模态,并且甚至可以在同一通信会话期间提供多种通信模态。
如在本文中所使用的,配对信息可以是用于指代用于将特定子显示屏与特定内容源设备相匹配的数字和/或字母序列的PIN。在一些示例中,然后可以提供PIN以及由远程内容源设备发送的内容以独有地识别目的地子显示屏。在其他示例中,一旦完成配对,就可以利用一些其他标识符。例如,显示屏控制系统可以具有通过配对过程(例如,通过请求共享由远程内容共享设备发送的包括PIN的内容)确定的在内容源设备与子显示屏的互联网协议(IP)地址之间的映射。在其他示例中,PIN可能是独有的或者可能不是独有的,并且在配对之后,创建新的独有标识符并且将其传送到内容源设备并且与子显示屏信息一起存储。所述内容源设备可以将该独有标识符附加到所述内容。
例如,当利用生物特征配对时,显示屏控制系统、显示屏和/或内容源设备可以在配对期间为子显示屏创建独有标识符,然后在发送内容或者执行其他显示操作时使用所述独有标识符来引用该子显示屏。在其他示例中,如上文所提到的,内容源设备的IP地址被用于将内容源设备与子显示屏相链接,并且不需要子显示屏的标识符。
在内容源设备发送没有子显示屏标识符的内容的示例中,所述显示屏控制系统在将内容发送到显示屏时仍然可以使用独有的子显示屏标识符以使得显示屏能够在适当的子显示屏中显示内容。在其他示例中,所述显示屏控制系统可以简单地指定在显示屏上显示内容的坐标。
本公开也可以允许用于示出内容和协作的子显示屏。例如,用户可以在显示墙上绘制输入并且将输入发送到内容源设备的虚拟白板。所述内容源设备的其他用户可以在内容源设备上的白板上绘制,并且那些更新可以被反映在显示屏上。当源设备是远程的(例如,图9)时,也可以利用该虚拟共享白板。
受益于本公开的本领域普通技术人员将意识到,尽管各种功能归属于特定设备和那些设备内的特定组件或模块,但是这样的描述是示例性的。其他配置是可能的并且被设想为使得归属于特定设备和/或组件的功能可以由不同的设备和/或组件来执行。
图42图示了可以在其上实现在本文中所讨论的任意一个或多个技术(例如,方法)的示例性机器4200的框图。在替代实施例中,机器4200可以作为独立设备来操作或者可以被连接(例如,联网)到其他机器。在联网部署中,机器4200可以在服务器-客户端网络环境中以服务器机器、客户端机器或者这两者的能力来操作。在示例中,机器4200可以充当在对等(P2P)(或者其他分布式)网络环境中的对等机器。机器4200可以是显示屏、显示屏控制系统、内容源设备、远程内容源设备、计算设备、个人计算机(PC)、平板PC、机顶盒(STB)、个人数字助理(PDA)、移动电话、智能电话、网络设备、网络路由器、交换机或桥,或者能够运行指定机器将采取的动作的指令(顺序或者以其他方式)的任何机器。机器4200可以被配置为实现过程、创建GUI,并且被配置为具有图1-43的组件。此外,尽管仅图示了单台机器,但是术语“机器”也应当被理解为包括个体地或者联合地运行一组(或者多组)指令以执行在本文中所讨论的任意一种或多种方法(诸如云计算、软件即服务(SaaS)、其他计算机集群配置)的任意机器集合。
如在本文中所描述的,示例可以包括逻辑单元或多个组件、模块或机制(下文被称为“模块”)或者可以在其上操作。模块是能够执行所指定的操作的有形实体(例如,硬件),并且可以以特定方式配置或布置。在示例中,可以以特定方式将电路布置为(例如,在内部或者相对于诸如其他电路的外部实体)作为模块。在示例中,一个或多个计算机系统(例如,独立的、客户端或服务器计算机系统)或者一个或多个硬件处理器的全部或部分可以由固件或软件(例如,指令、应用部分或应用)配置为执行所指定的操作的模块。在示例中,软件可以驻留在机器可读介质上。在示例中,软件当由模块的底层硬件运行时,使得硬件执行所指定的操作。
因此,术语“模块”被理解为包含有形实体,即被物理构造、具体配置(例如,硬连线)或临时(例如,暂时)配置(例如,编程)以特定方式操作或者执行在本文中所描述的任何操作的部分或全部的实体。考虑其中临时配置模块的示例,所述模块中的每个模块都不需要在任何时刻被实例化。例如,在模块包括使用软件配置的通用硬件处理器的情况下,通用硬件处理器可以在不同时间被配置为各个不同的模块。软件可以相应地配置硬件处理器,例如,在一个时间实例构成特定模块并且在不同时间实例构成不同模块。
机器(例如,计算机系统)4200可以包括硬件处理器4202(例如,中央处理单元(CPU)、图形处理单元(GPU)、硬件处理器核心或者其任意组合)、主存储器4204和静态存储器4206,其中的一些或全部可以经由互连链路(例如,总线)4208相互通信。机器4200还可以包括显示单元4210、字母数字输入设备4212(例如,键盘)以及用户界面(UI)导航设备4214(例如,鼠标)。在示例中,显示单元4210、输入设备4212和UI导航设备4214可以是触摸屏显示屏。机器4200可以另外地包括存储设备(例如,驱动单元)4216、信号生成设备4218(例如,扬声器)、网络接口设备4220以及一个或多个传感器4221(诸如全球定位系统(GPS)传感器、指南针、加速度计或者其他传感器)。机器4200可以包括输出控制器4228,诸如串行(例如,通用串行总线(USB)、并行或者其他有线或无线(例如,红外(IR)、近场通信(NFC)等)连接以通信或控制一个或多个外围设备(例如,打印机、读卡器等)。
存储设备4216可以包括机器可读介质4222,在其上存储有一组或多组数据结构或指令4224(例如,软件),其体现或者由在本文中所描述的技术或功能中的任意一种或多种技术或功能使用。指令4224也可以在由机器4200运行期间完全或者至少部分地驻留在主存储器4204内、在静态存储器4206内或者在硬件处理器4202内。在示例中,硬件处理器4202、主存储器4204、静态存储器4206或存储设备4216的一个或任何组合可以构成机器可读介质。
尽管机器可读介质4222被图示为单个介质,但是术语“机器可读介质”可以包括被配置为存储一个或多个指令4224的单个介质或多个介质(例如,集中式或分布式数据库,和/或相关联的高速缓存和服务器)。
术语“机器可读介质”可以包括能够存储、编码或者承载用于由机器4200运行的指令并且使得机器4200执行本公开的技术中的任意一种或多种技术的任何介质,或者能够存储、编码或者承载由这样的指令使用或者与这样的指令相关联的数据结构。非限制性机器可读介质示例可以包括固态存储器以及光学和磁性介质。机器可读介质的具体示例可以包括:非易失性存储器,诸如半导体存储器设备(例如,电可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM))和闪存设备;磁盘,诸如内部硬盘和可移动磁盘;磁光盘;随机存取存储器(RAM);固态硬盘(SSD);以及CD-ROM和DVD-ROM磁盘。在一些示例中,机器可读介质可以包括非暂时性机器可读介质。在一些示例中,机器可读介质可以包括不是暂时传播信号的机器可读介质。
指令4224还可以经由网络接口设备4220使用传输介质在通信网络4226上进行发送或接收。机器4200可以利用多种传输协议(例如,帧中继、互联网协议(IP)、传输控制协议(TCP)、用户数据报协议(UDP)、超文本传输协议(HTTP)等)中的任意一种与一个或多个其他机器通信。示例性通信网络可以包括局域网(LAN)、广域网(WAN)、分组数据网络(例如,互联网)、移动电话网络(例如,蜂窝网络)、普通老式电话(POTS)网络和无线数据网络(例如,被称为的电气和电子工程师协会(IEEE)802.11系列标准,被称为/>的IEEE802.16系列标准)、IEEE802.15.4系列标准、长期演进(LTE)系列标准、通用移动电信系统(UMTS)系列标准、对等(P2P)网络等。在示例中,网络接口设备4220可以包括一个或多个物理插孔(例如,以太网、同轴或电话插孔)或者一个或多个天线以连接到通信网络4226。在示例中,网络接口设备4220可以包括多个天线以使用单输入多输出(SIMO)、多输入多输出(MIMO)或多输入单输出(MISO)技术中的至少一种进行无线通信。在一些示例中,网络接口设备4220可以使用多用户MIMO技术进行无线通信。
其他注释和示例
示例l是一种指定子显示屏区域的方法,所述方法包括:使用一个或多个硬件处理器:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的子显示屏的几何结构,所述子显示屏包含与先前指定的子显示屏不同的坐标;响应于识别出所述手势输入,基于所述几何结构来创建子显示屏并且将所述子显示屏与内容源设备相链接;以及响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接,使得与在所述先前指定的子显示屏中共享的不同内容同时地、由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中。
在示例2中,示例1的主题包括:其中,在所述先前指定的子显示屏中共享的所述内容是由第二内容源设备共享的。
在示例3中,示例1-2的主题包括:其中,所述方法还包括:基于由所述子显示屏的所述几何结构产生的第一形状来识别校正的几何形状,所述校正的几何形状是多个校正的几何形状中最类似于所述第一形状的几何形状;并且其中,基于所述几何结构创建所述子显示屏包括使用所述校正的几何形状来创建所述子显示屏。
在示例4中,示例3的主题包括:其中,所述校正的几何形状是具有多于四个边的多边形。
在示例5中,示例3-4的主题包括:其中,所述校正的几何形状为圆形。
在示例6中,示例3-5的主题包括:其中,识别所述校正的几何形状发生在所述手势输入进行中时,并且其中,所述方法包括更新所述手势输入的轮廓以匹配所述校正的几何形状。
在示例7中,示例1-6的主题包括:其中,在所述先前指定的子显示屏中共享的所述不同内容是由所述内容源设备共享的。
在示例8中,示例1-7的主题包括:在与所述子显示屏相对应的位置中识别指向所述显示屏的所述显示表面的输入;并且响应于确定所述输入指向所述子显示屏,基于所述子显示屏与所述内容源设备的所述链接而将所述输入发送到所述内容源设备。
在示例9中,示例8的主题包括:其中,将所述输入发送到所述内容源设备包括将所述子显示屏的标识符发送到所述内容源设备,所述内容源设备基于所述子显示屏标识符而将所述输入路由到应用。
在示例10中,示例1-9的主题包括:识别第一同时输入和第二同时输入,这两者都指向所述显示表面;确定所述第一同时输入指向所述子显示屏;响应于确定所述第一同时输入指向所述子显示屏,将所述第一同时输入发送到所述内容源设备;确定所述第二同时输入指向所述先前指定的子显示屏;并且响应于确定所述第二同时输入指向所述先前指定的子显示屏,将所述第二同时输入发送到被链接到所述先前指定的子显示屏的第二内容源设备。
在示例11中,示例10的主题包括:其中,确定所述第一同时输入指向所述子显示屏包括确定所述第一同时输入在所述显示屏上的坐标与属于所述子显示屏的坐标相对应。
在示例12中,示例1-11的主题包括:使得显示定义所述子显示屏的边界的几何形状。
在示例13中,示例1-12的主题包括:其中,响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接而使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中包括:向所述内容源设备提供所述显示屏的地址,并且其中,所述内容源设备将所述内容发送到所述地址。
在示例14中,示例1-13的主题包括:其中,响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接而使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中包括:接收来自所述内容源设备的所述内容;并且将所述内容发送到所述显示屏。
在示例15中,示例1-14的主题包括:其中,响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接而使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中包括:接收来自所述内容源设备的所述内容;并且在所述显示屏上在所述子显示屏中渲染所述内容。
在示例16中,示例1-15的主题包括:其中,所述一个或多个硬件处理器通过本地总线与所述显示屏通信地耦合。
在示例17中,示例1-16的主题包括:其中,所述一个或多个硬件处理器通过基于分组的互联网协议网络通信地耦合到所述显示屏。
在示例18中,示例1-17的主题包括:其中,所述显示屏是触摸屏显示屏,并且其中,所述手势输入是在所述显示表面上的触摸输入。
在示例19中,示例1-18的主题包括:其中,所述显示表面是投影屏幕,并且所述显示屏是由投影仪提供的。
在示例20中,示例1-19的主题包括:在所述显示屏上显示提示,所述提示指示所述显示屏具有未被所述子显示屏占用的额外空闲空间,所述提示为用户提供自动地增加所述子显示屏的尺寸以填充额外空闲空间的选择;并且响应于接收到增加所述子显示屏的所述尺寸的指示,增加所述子显示屏的所述尺寸。
在示例21中,示例20的主题包括:其中,所述提示是基于确定所述内容正在被缩放以适配在所述子显示屏而被显示的。
在示例22中,示例1-21的主题包括:其中,所述内容是第一来源的内容和来自第二来源的所述不同内容,并且其中,所述方法还包括:在所述显示屏上显示提示,所述提示建议自动地创建具有来自第三来源的内容的新子显示屏,所述第一来源和所述第三来源两者都来自所述内容源设备;以及响应于接收到创建所述新子显示屏的指示,创建所述新子显示屏并且显示来自所述第三来源的所述内容。
在示例23中,示例22的主题包括:其中,所述第一来源和所述第三来源是由在所述内容源设备上运行的通信应用提供的不同通信类型。
在示例24中,示例22-23的主题包括:其中,显示所述提示是响应于确定所述显示屏具有未被所述子显示屏占用的额外空闲空间并且所述内容源设备包括未被显示在子显示屏中的所述第三内容源的。
在示例25中,示例1-24的主题包括:其中,识别所述手势输入包括从所述显示屏接收所述手势输入的指示。
在示例26中,示例1-25的主题包括:其中,识别所述手势输入包括在所述显示屏的触摸屏处检测所述手势输入。
示例27是一种用于指定子显示屏区域的计算设备,所述设备包括:一个或多个硬件处理器;存储器,其包括指令,所述指令当由所述一个或多个硬件处理器运行时,使得所述一个或多个硬件处理器执行包括以下的操作:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的子显示屏的几何结构,所述子显示屏包含与先前指定的子显示屏不同的坐标;响应于识别出所述手势输入,基于所述几何结构创建所述子显示屏并且将所述子显示屏与内容源设备相链接;以及响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接,使得与在所述先前指定的子显示屏中共享的不同内容同时地、由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中。
在示例28中,示例27的主题包括:其中,在所述先前指定的子显示屏中共享的所述内容是由第二内容源设备共享的。
在示例29中,示例27-28的主题包括:其中,所述操作还包括:基于由所述子显示屏的所述几何结构产生的第一形状来识别校正的几何形状,所述校正的几何形状是多个校正的几何形状中最类似于所述第一形状的几何形状;并且其中,基于所述几何结构创建所述子显示屏包括使用所述校正的几何形状来创建所述子显示屏。
在示例30中,示例29的主题包括:其中,所述校正的几何形状是具有多于四个边的多边形。
在示例31中,示例29-30的主题包括:其中,所述校正的几何形状为圆形。
在示例32中,示例29-31的主题包括:其中,识别所述校正的几何形状的所述操作发生在所述手势输入进行中时,并且其中,所述操作还包括更新所述手势输入的轮廓以匹配所述校正的几何形状。
在示例33中,示例27-32的主题包括:其中,在所述先前指定的子显示屏中共享的所述不同内容是由所述内容源设备共享的。
在示例34中,示例27-33的主题包括:其中,所述操作还包括:在与所述子显示屏相对应的位置中识别指向所述显示屏的所述显示表面的输入;并且响应于确定所述输入指向所述子显示屏,基于所述子显示屏与所述内容源设备的所述链接而将所述输入发送到所述内容源设备。
在示例35中,示例34的主题包括:其中,将所述输入发送到所述内容源设备的所述操作包括将所述子显示屏的标识符发送到所述内容源设备,所述内容源设备基于所述子显示屏标识符而将所述输入路由到应用。
在示例36中,示例27-35的主题包括:其中,所述操作还包括:识别第一同时输入和第二同时输入,这两者都指向所述显示表面;确定所述第一同时输入指向所述子显示屏;响应于确定所述第一同时输入指向所述子显示屏,将所述第一同时输入发送到所述内容源设备;确定所述第二同时输入指向所述先前指定的子显示屏;并且响应于确定所述第二同时输入指向所述先前指定的子显示屏,将所述第二同时输入发送到被链接到所述先前指定的子显示屏的第二内容源设备。
在示例37中,示例36的主题包括:其中,确定所述第一同时输入指向所述子显示屏的所述操作包括确定所述第一同时输入在所述显示屏上的坐标与属于所述子显示屏的坐标相对应。
在示例38中,示例27-37的主题包括:其中,所述操作还包括:使得显示定义所述子显示屏的边界的几何形状。
在示例39中,示例27-38的主题包括:其中,响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接而使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的所述操作包括:向所述内容源设备提供所述显示屏的地址,并且其中,所述内容源设备将所述内容发送到所述地址。
在示例40中,示例27-39的主题包括:其中,响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接而使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的所述操作包括:接收来自所述内容源设备的所述内容;并且将所述内容发送到所述显示屏。
在示例41中,示例27-40的主题包括:其中,响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接而使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的所述操作包括:接收来自所述内容源设备的所述内容;并且在所述显示屏上在所述子显示屏中渲染所述内容。
在示例42中,示例27-41的主题包括:其中,所述一个或多个硬件处理器通过本地总线与所述显示屏通信地耦合。
在示例43中,示例27-42的主题包括:其中,所述一个或多个硬件处理器通过基于分组的互联网协议网络通信地耦合到所述显示屏。
在示例44中,示例27-43的主题包括:其中,所述显示屏是触摸屏显示屏,并且其中,所述手势输入是所述显示表面上的触摸输入。
在示例45中,示例27-44的主题包括:其中,所述显示表面是投影屏幕,并且所述显示屏是由投影仪提供的。
在示例46中,示例27-45的主题包括:其中,所述操作还包括:在所述显示屏上显示提示,所述提示指示所述显示屏具有未被子显示屏占用的额外空闲空间,所述提示为用户提供自动地增加所述子显示屏的尺寸以填充所述额外空闲空间的选择;以及响应于接收到增加所述子显示屏的所述尺寸的指示,增加所述子显示屏的所述尺寸。
在示例47中,示例46的主题包括:其中,所述提示是基于确定所述内容正在被缩放以适配在所述子显示屏中而被显示的。
在示例48中,示例27-47的主题包括:其中,所述内容是第一来源的内容和来自第二来源的不同内容,并且其中,所述操作还包括:在所述显示屏上显示提示,所述提示建议自动地创建具有来自第三来源的内容的新子显示屏,所述第一来源和所述第三来源两者都来自所述内容源设备;以及响应于接收到创建所述新子显示屏的指示,创建所述新子显示屏并且显示来自所述第三来源的所述内容。
在示例49中,示例48的主题包括:其中,所述第一来源和所述第三来源是由在所述内容源设备上运行的通信应用提供的不同通信类型。
在示例50中,示例48-49的主题包括:其中,显示所述提示的所述操作是响应于确定所述显示屏具有未被所述子显示屏占用的额外空闲空间并且所述内容源设备包括未被显示在子显示屏中的所述第三内容源的。
在示例51中,示例27-50的主题包括:其中,识别所述手势输入的所述操作包括从所述显示屏接收所述手势输入的指示。
在示例52中,示例27-51的主题包括:其中,识别所述手势输入的所述操作包括在所述显示屏的触摸屏处检测所述手势输入。
示例53是一种机器可读介质,其存储用于指定子显示屏区域的指令,所述指令当由机器运行时使得所述机器执行包括以下的操作:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的子显示屏的几何结构,所述子显示屏包含与先前指定的子显示屏不同的坐标;响应于识别出所述手势输入,基于所述几何结构来创建所述子显示屏并且将所述子显示屏与内容源设备相链接;以及响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接,使得与在所述先前指定的子显示屏中共享的不同内容同时地、由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中。
在示例54中,示例53的主题包括:其中,在所述先前指定的子显示屏中共享的所述内容是由第二内容源设备共享的。
在示例55中,示例53-54的主题包括:其中,所述操作还包括:基于由所述子显示屏的所述几何结构产生的第一形状来识别校正的几何形状,所述校正的几何形状是多个校正的几何形状中最类似于所述第一形状的几何形状;并且其中,基于所述几何结构创建所述子显示屏包括使用所述校正的几何形状来创建所述子显示屏。
在示例56中,示例55的主题包括:其中,所述校正的几何形状是具有多于四个边的多边形。
在示例57中,示例55-56的主题包括:其中,所述校正的几何形状为圆形。
在示例58中,示例55-57的主题包括:其中,识别所述校正的几何形状的所述操作发生在所述手势输入进行中时,并且其中,所述操作还包括更新所述手势输入的轮廓以匹配所述校正的几何形状。
在示例59中,示例53-58的主题包括:其中,在所述先前指定的子显示屏中共享的所述不同内容是由所述内容源设备共享的。
在示例60中,示例53-59的主题包括:其中,所述操作还包括:在与所述子显示屏相对应的位置中识别指向所述显示屏的所述显示表面的输入;以及响应于确定所述输入指向所述子显示屏,基于所述子显示屏与所述内容源设备的所述链接而将所述输入发送到所述内容源设备。
在示例61中,示例60的主题包括:其中,将所述输入发送到所述内容源设备的所述操作包括将所述子显示屏的标识符发送到所述内容源设备,所述内容源设备基于所述子显示屏标识符而将所述输入路由到应用。
在示例62中,示例53-61的主题包括:其中,所述操作还包括:识别第一同时输入和第二同时输入,这两者都指向所述显示表面;确定所述第一同时输入指向所述子显示屏;响应于确定所述第一同时输入指向所述子显示屏,将所述第一同时输入发送到所述内容源设备;确定所述第二同时输入指向所述先前指定的子显示屏;并且响应于确定所述第二同时输入指向所述先前指定的子显示屏,将所述第二同时输入发送到被链接到所述先前指定的子显示屏的第二内容源设备。
在示例63中,示例62的主题包括:其中,确定所述第一同时输入指向所述子显示屏的所述操作包括确定所述第一同时输入在所述显示屏上的坐标与属于所述子显示屏的坐标相对应。
在示例64中,示例53-63的主题包括:其中,所述操作还包括:使得显示定义所述子显示屏的边界的几何形状。
在示例65中,示例53-64的主题包括:其中,响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接而使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的所述操作包括:向所述内容源设备提供所述显示屏的地址,并且其中,所述内容源设备将所述内容发送到所述地址。
在示例66中,示例53-65的主题包括:其中,响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接而使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的所述操作包括:接收来自所述内容源设备的所述内容;并且将所述内容发送到所述显示屏。
在示例67中,示例53-66的主题包括:其中,响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接而使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的所述操作包括:接收来自所述内容源设备的所述内容;并且在所述显示屏上在所述子显示屏中渲染所述内容。
在示例68中,示例53-67的主题包括:其中,所述机器通过本地总线与所述显示屏通信地耦合。
在示例69中,示例53-68的主题包括:其中,所述机器通过基于分组的互联网协议网络被通信地耦合到所述显示屏。
在示例70中,示例53-69的主题包括:其中,所述显示屏是触摸屏显示屏,并且其中,所述手势输入是在所述显示表面上的触摸输入。
在示例71中,示例53-70的主题包括:其中,所述显示表面是投影屏幕,并且所述显示屏是由投影仪提供的。
在示例72中,示例53-71的主题包括:其中,所述操作还包括:在所述显示屏上显示提示,所述提示指示所述显示屏具有未被子显示屏占用的额外空闲空间,所述提示为用户提供自动地增加所述子显示屏的尺寸以填充所述额外空闲空间的选择;并且响应于接收到增加所述子显示屏的所述尺寸的指示,增加所述子显示屏的所述尺寸。
在示例73中,示例72的主题包括:其中,所述提示是基于确定所述内容正在被缩放以适配在所述子显示屏中而被显示的。
在示例74中,示例53-73的主题包括:其中,所述内容是第一来源的内容和来自第二来源的所述不同内容,并且其中,所述操作还包括:在所述显示屏上显示提示,所述提示建议自动地创建具有来自第三来源的内容的新子显示屏,所述第一来源和所述第三来源两者都来自所述内容源设备;以及响应于接收到创建所述新子显示屏的指示,创建所述新子显示屏并且显示来自所述第三来源的所述内容。
在示例75中,示例74的主题包括:其中,所述第一来源和所述第三来源是由在所述内容源设备上运行的通信应用提供的不同通信类型。
在示例76中,示例74-75的主题包括:其中,显示所述提示的所述操作是响应于确定所述显示屏具有未被所述子显示屏占用的额外空闲空间并且所述内容源设备包括未被显示在子显示屏中的所述第三内容源的。
在示例77中,示例53-76的主题包括:其中,识别所述手势输入的所述操作包括从所述显示屏接收所述手势输入的指示。
在示例78中,示例53-77的主题包括:其中,识别所述手势输入的所述操作包括在所述显示屏的触摸屏处检测所述手势输入。
示例79是一种用于指定子显示屏区域的设备,所述设备包括:用于识别指向显示屏的显示表面的手势输入的单元,所述手势输入定义所述显示屏上的子显示屏的几何结构,所述子显示屏包含与先前指定的子显示屏不同的坐标;用于响应于识别出所述手势输入而基于所述几何结构来创建子显示屏并且将所述子显示屏与内容源设备相链接的单元;以及用于响应于创建所述子显示屏并且将所述子显示屏与所述内容源设备相链接而使得与在所述先前指定的子显示屏中共享的不同内容同时地、由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的单元。
在示例80中,示例79的主题包括:其中,在所述先前指定的子显示屏中共享的所述内容是由第二内容源设备共享的。
在示例81中,示例79-80的主题包括:其中,所述设备还包括:用于基于由所述子显示屏的所述几何结构产生的第一形状来识别校正的几何形状的单元,所述校正的几何形状是多个校正的几何形状中最类似于所述第一形状的几何形状;并且其中,基于所述几何结构创建所述子显示屏包括使用所述校正的几何形状来创建所述子显示屏。
在示例82中,示例81的主题包括:其中,所述校正的几何形状是具有多于四个边的多边形。
在示例83中,示例81-82的主题包括:其中,所述校正的几何形状为圆形。
在示例84中,示例81-83的主题包括:其中,用于识别所述校正的几何形状的单元发生在所述手势输入进行中时,并且其中,所述设备还包括用于更新所述手势输入的轮廓以匹配所述校正的几何形状的单元。
在示例85中,示例79-84的主题包括:其中,在所述先前指定的子显示屏中共享的所述不同内容是由所述内容源设备共享的。
在示例86中,示例79-85的主题包括:用于在与所述子显示屏相对应的位置中识别指向所述显示屏的所述显示表面的输入的单元;以及用于响应于确定所述输入指向所述子显示屏而基于所述子显示屏与所述内容源设备的所述链接来将所述输入发送到所述内容源设备的单元。
在示例87中,示例86的主题包括:其中,用于将所述输入发送到所述内容源设备的单元包括用于将所述子显示屏的标识符发送到所述内容源设备的单元,所述内容源设备基于所述子显示屏标识符而将所述输入路由到应用。
在示例88中,示例79-87的主题包括:用于识别第一同时输入和第二同时输入的单元,这两者都指向所述显示表面;用于确定所述第一同时输入指向所述子显示屏的单元;用于响应于确定所述第一同时输入指向所述子显示屏而将所述第一同时输入发送到所述内容源设备的单元;用于确定所述第二同时输入指向所述先前指定的子显示屏的单元;以及用于响应于确定所述第二同时输入指向所述先前指定的子显示屏而将所述第二同时输入发送到被链接到所述先前指定的子显示屏的第二内容源设备的单元。
在示例89中,示例88的主题包括:其中,用于确定所述第一同时输入指向所述子显示屏的单元包括用于确定所述第一同时输入在所述显示屏上的坐标与属于所述子显示屏的坐标相对应的单元。
在示例90中,示例79-89的主题包括:用于使得显示定义所述子显示屏的边界的几何形状的单元。
在示例91中,示例79-90的主题包括:其中,用于使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的单元包括:用于向所述内容源设备提供所述显示屏的地址的单元,并且其中,所述内容源设备将所述内容发送到所述地址。
在示例92中,示例79-91的主题包括:其中,用于使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的单元包括:用于接收来自所述内容源设备的所述内容的单元;以及用于将所述内容发送到所述显示屏的单元。
在示例93中,示例79-92的主题包括:其中,用于使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的单元包括:用于接收来自所述内容源设备的所述内容的单元;以及用于在所述显示屏上在所述子显示屏中渲染所述内容的单元。
在示例94中,示例79-93的主题包括:其中,所述设备通过本地总线与所述显示屏通信地耦合。
在示例95中,示例79-94的主题包括:其中,所述设备通过基于分组的互联网协议网络被通信地耦合到所述显示屏。
在示例96中,示例79-95的主题包括:其中,所述显示屏是触摸屏显示屏,并且其中,所述手势输入是所述显示表面上的触摸输入。
在示例97中,示例79-96的主题包括:其中,所述显示显示表面是投影屏幕,并且所述显示屏是由投影仪提供的。
在示例98中,示例79-97的主题包括:用于在所述显示屏上显示提示的单元,所述提示指示所述显示屏具有未被所述子显示屏占用的额外空闲空间,所述提示为用户提供自动地增加所述子显示屏的尺寸以填充所述额外空闲空间的选择;以及用于响应于接收到增加所述子显示屏的所述尺寸的指示而增加所述子显示屏的所述尺寸的单元。
在示例99中,示例98的主题包括:其中,所述提示是基于确定所述内容正在被缩放以适配在所述子显示屏中而被显示的。
在示例100中,示例79-99的主题包括:其中,所述内容是第一来源的内容和来自第二来源的所述不同内容,并且其中,所述设备还包括:用于在所述显示屏上显示提示的单元,所述提示建议自动地创建具有来自第三来源的内容的新子显示屏,所述第一来源和所述第三来源两者都来自所述内容源设备;以及用于响应于接收到创建所述新子显示屏的指示而创建所述新子显示屏并且显示来自所述第三来源的所述内容的单元。
在示例101中,示例100的主题包括:其中,所述第一来源和所述第三来源是由在所述内容源设备上运行的通信应用提供的不同通信类型。
在示例102中,示例100-101的主题包括:其中,显示所述提示是响应于确定所述显示屏具有未被子显示屏占用的额外空闲空间并且所述内容源设备包括未被显示在子显示屏中的所述第三内容源的。
在示例103中,示例79-102的主题包括:其中,用于识别所述手势输入的单元包括用于从所述显示屏接收所述手势输入的指示的单元。
在示例104中,示例79-103的主题包括:其中,用于识别所述手势输入的单元包括用于在所述显示屏的触摸屏处检测所述手势输入的单元。
示例105是一种用于对指定的子显示屏进行配对的计算设备,所述计算设备包括:一个或多个硬件处理器;存储器,其存储指令,所述指令当由所述一个或多个硬件处理器运行时使得所述一个或多个硬件处理器执行包括以下的操作:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的子显示屏的几何结构,所述子显示屏包含与先前指定的子显示屏不同的坐标;响应于识别出所述手势输入,基于定义的几何结构来创建所述子显示屏;在所述显示屏上显示与所述子显示屏相对应的配对信息输入区域;在所述配对信息输入区域处接收包括第一配对信息的配对输入;基于来自所述配对输入的所述第一配对信息与由所述内容源设备提供的第二配对信息的匹配,将所述子显示屏与内容源设备相链接;以及响应于将所述子显示屏与所述内容源设备相链接,使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中。
在示例106中,示例105的主题包括:其中,所述第一配对信息是第一生物特征扫描数据,并且其中,接收所述配对输入的所述操作包括使得生物特征扫描仪使用显示屏内生物特征扫描仪来扫描所述显示屏中与所述配对信息输入区域相对应的部分以产生所述第一生物特征扫描数据。
在示例107中,示例106的主题包括:其中,所述第二配对信息是与由所述内容源设备发送的配对请求一起接收到的第二生物特征扫描数据,并且其中,基于将所述第一配对信息与所述第二配对信息进行匹配而将所述子显示屏与所述内容源设备相链接的所述操作包括:将所述第一生物特征扫描数据存储在所述子显示屏的记录中;基于将所述第一生物特征扫描数据与所述第二生物特征扫描数据进行匹配,从其他子显示屏的多个其他记录中识别所述子显示屏的所述记录;利用来自所述配对请求的所述内容源设备的地址来更新所述子显示屏的所述记录;并且其中,使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中包括:识别具有来自所述内容源设备的内容的多个分组;通过将所述多个分组中的至少一个分组的标头中的所述地址与被存储在所述子显示屏的所述记录中的所述内容源设备的所述地址进行匹配来识别所述子显示屏;以及使得所述内容被渲染在所述显示屏的所述子显示屏中。
在示例108中,示例106-107的主题包括:其中,所述第一生物特征扫描数据是以下中的一种:指纹扫描数据、人眼扫描数据或者面部识别数据。
在示例109中,示例105-108的主题包括:其中,所述配对信息输入区域包括视觉地附接到所述子显示屏的边界的标签。
在示例110中,示例105-109的主题包括:其中,所述第一配对信息是数字、字母或者字母数字代码。
在示例111中,示例105-110的主题包括:其中,所述第一配对信息是用户账户的登录凭证。
在示例112中,示例105-111的主题包括:其中,所述配对信息输入区域通过将所述子显示屏与所述配对输入相链接来对应于所述子显示屏。
在示例113中,示例112的主题包括:其中,所述配对信息输入区域通过将所述配对信息输入区域与所述子显示屏视觉地相链接来对应于所述子显示屏。
示例114是一种对指定的子显示屏进行配对的方法,所述方法包括:使用一个或多个硬件处理器:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的子显示屏的几何结构,所述子显示屏包含与先前指定的子显示屏不同的坐标;响应于识别出所述手势输入,基于定义的几何结构来创建所述子显示屏;在所述显示屏上显示与所述子显示屏相对应的配对信息输入区域;在所述配对信息输入区域接收包括第一配对信息的配对输入;基于来自所述配对输入的所述第一配对信息与由内容源设备提供的第二配对信息的匹配,将所述子显示屏与所述内容源设备相链接;以及响应于将所述子显示屏与所述内容源设备相链接,使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中。
在示例115中,示例114的主题包括:其中,所述第一配对信息是第一生物特征扫描数据,并且其中,接收所述配对输入包括使得生物特征扫描仪使用显示屏内生物特征扫描仪来扫描所述显示屏中与所述配对信息输入区域相对应的部分以产生所述第一生物特征扫描数据。
在示例116中,示例115的主题包括:其中,所述第二配对信息是与由所述内容源设备发送的配对请求一起接收到的第二生物特征扫描数据,并且其中,基于将所述第一配对信息与所述第二配对信息进行匹配而将所述子显示屏与所述内容源设备相链接包括:将所述第一生物特征扫描数据存储在所述子显示屏的记录中;基于将所述第一生物特征扫描数据与所述第二生物特征扫描数据进行匹配,从其他子显示屏的多个其他记录中识别所述子显示屏的所述记录;利用来自所述配对请求的所述内容源设备的地址来更新所述子显示屏的所述记录;并且其中,使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中包括:识别具有来自所述内容源设备的内容的多个分组;通过将所述多个分组中的至少一个分组的标头中的所述地址与被存储在所述子显示屏的所述记录中的所述内容源设备的所述地址进行匹配来识别所述子显示屏;以及使得所述内容被渲染在所述显示屏的所述子显示屏中。
在示例117中,示例115-116的主题包括:其中,所述第一生物特征扫描数据是以下中的一种:指纹扫描数据、人眼扫描数据或者面部识别数据。
在示例118中,示例114-117的主题包括:其中,所述配对信息输入区域包括视觉地附接到所述子显示屏的边界的标签。
在示例119中,示例114-118的主题包括:其中,所述第一配对信息是数字、字母或者字母数字代码。
在示例120中,示例114-119的主题包括:其中,所述第一配对信息是用户账户的登录凭证。
在示例121中,示例114-120的主题包括:其中,所述配对信息输入区域通过将所述子显示屏与所述配对输入相链接来对应于所述子显示屏。
在示例122中,示例121的主题包括:其中,所述配对信息输入区域通过将所述配对信息输入区域与所述子显示屏视觉地相链接来对应于所述子显示屏。
示例123是一种机器可读介质,其存储用于对指定的子显示屏进行配对的指令,所述指令当由机器运行时使得所述机器执行包括以下的操作:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的子显示屏的几何结构,所述子显示屏包含与先前指定的子显示屏不同的坐标;响应于识别出所述手势输入,基于定义的几何结构来创建所述子显示屏;在所述显示屏上显示与所述子显示屏相对应的配对信息输入区域;在所述配对信息输入区域处接收包括第一配对信息的配对输入;基于将来自所述配对输入的所述第一配对信息与由所述内容源设备提供的第二配对信息进行匹配,将所述子显示屏与所述内容源设备相链接;以及响应于将所述子显示屏与所述内容源设备相链接,使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中。
在示例124中,示例123的主题包括:其中,所述第一配对信息是第一生物特征扫描数据,并且其中,接收所述配对输入的所述操作包括使得生物特征扫描仪使用显示屏内生物特征扫描仪来扫描所述显示屏中与所述配对信息输入区域相对应的部分以产生所述第一生物特征扫描数据。
在示例125中,示例124的主题包括:其中,所述第二配对信息是与由所述内容源设备发送的配对请求一起接收到的第二生物特征扫描数据,并且其中,基于将所述第一配对信息与所述第二配对信息进行匹配而将所述子显示屏与所述内容源设备相链接的所述操作包括:将所述第一生物特征扫描数据存储在所述子显示屏的记录中;基于将所述第一生物特征扫描数据与所述第二生物特征扫描数据进行匹配,从其他子显示屏的多个其他记录中识别所述子显示屏的所述记录;利用来自所述配对请求的所述内容源设备的地址来更新所述子显示屏的所述记录;并且其中,使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中包括:识别具有来自所述内容源设备的内容的多个分组;通过将所述多个分组中的至少一个分组的标头中的所述地址与被存储在所述子显示屏的所述记录中的所述内容源设备的所述地址进行匹配来识别所述子显示屏;以及使得所述内容被渲染在所述显示屏的所述子显示屏中。
在示例126中,示例124-125的主题包括:其中,所述第一生物特征扫描数据是以下中的一种:指纹扫描数据、人眼扫描数据或者面部识别数据。
在示例127中,示例123-126的主题包括:其中,所述配对信息输入区域包括视觉地附接到所述子显示屏的边界的标签。
在示例128中,示例123-127的主题包括:其中,所述第一配对信息是数字、字母或者字母数字代码。
在示例129中,示例123-128的主题包括:其中,所述第一配对信息是用户账户的登录凭证。
在示例130中,示例123-129的主题包括:其中,所述配对信息输入区域通过将所述子显示屏与所述配对输入相链接来对应于所述子显示屏。
在示例131中,示例130主题包括:其中,所述配对信息输入区域通过将所述配对信息输入区域与所述子显示屏视觉地相链接来对应于所述子显示屏。
示例132是一种用于对指定的子显示屏进行配对的设备,所述设备包括:用于识别指向显示屏的显示表面的手势输入的单元,所述手势输入定义所述显示屏上的子显示屏的几何结构,所述子显示屏包含与先前指定的子显示屏不同的坐标;用于响应于识别出所述手势输入而基于定义的几何结构来创建所述子显示屏的单元;用于在所述显示屏上显示与所述子显示屏相对应的配对信息输入区域的单元;用于在所述配对信息输入区域处接收包括第一配对信息的配对输入的单元;用于基于将来自所述配对输入的所述第一配对信息与由所述内容源设备提供的第二配对信息进行匹配而将所述子显示屏与所述内容源设备相链接的单元;以及用于响应于将所述子显示屏与所述内容源设备相链接而使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中的单元。
在示例133中,示例132的主题包括:其中,所述第一配对信息是第一生物特征扫描数据,并且其中,用于接收所述配对输入的单元包括使得生物特征扫描仪使用显示屏内生物特征扫描仪来扫描所述显示屏中与所述配对信息输入区域相对应的部分以产生所述第一生物特征扫描数据。
在示例134中,示例133的主题包括:其中,所述第二配对信息是与由所述内容源设备发送的配对请求一起接收到的第二生物特征扫描数据,并且其中,用于基于将所述第一配对信息与所述第二配对信息进行匹配来将所述子显示屏与所述内容源设备相链接的单元包括:用于将所述第一生物特征扫描数据存储在所述子显示屏的记录中的单元;用于基于将所述第一生物特征扫描数据与所述第二生物特征扫描数据进行匹配而从其他子显示屏的多个其他记录中识别所述子显示屏的所述记录的单元;用于利用来自所述配对请求的所述内容源设备的地址来更新所述子显示屏的所述记录的单元;并且其中,使得由所述内容源设备共享的内容被显示在所述显示屏的所述子显示屏中包括:用于识别具有来自所述内容源设备的内容的多个分组的单元;用于通过将所述多个分组中的至少一个分组的标头中的所述地址与被存储在所述子显示屏的所述记录中的所述内容源设备的所述地址进行匹配来识别所述子显示屏的单元;以及用于使得所述内容被渲染在所述显示屏的所述子显示屏中的单元。
在示例135中,示例133-134的主题包括:其中,所述第一生物特征扫描数据是以下中的一种:指纹扫描数据、人眼扫描数据或者面部识别数据。
在示例136中,示例132-135的主题包括:其中,所述配对信息输入区域包括视觉地附接到所述子显示屏的边界的标签。
在示例137中,示例132-136的主题包括:其中,所述第一配对信息是数字、字母或者字母数字代码。
在示例138中,示例132-137的主题包括:其中,所述第一配对信息是用户账户的登录凭证。
在示例139中,示例132-138的主题包括:其中,所述配对信息输入区域通过将所述子显示屏与所述配对输入相链接来对应于所述子显示屏。
在示例140中,示例139的主题包括:其中,所述配对信息输入区域通过将所述配对信息输入区域与所述子显示屏视觉地相链接来对应于所述子显示屏。
示例141是一种用于指定输入子显示屏区域的设备,所述设备包括:一个或多个硬件处理器;存储器,其存储指令,所述指令当由所述一个或多个硬件处理器运行时,使得所述一个或多个硬件处理器执行包括以下的操作:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的第一子显示屏的几何结构;响应于识别出所述手势输入,基于所述几何结构来创建所述第一子显示屏;使得来自内容源设备的内容被显示在所述显示屏的所述第一子显示屏中;识别指向所述显示屏的所述显示表面的第二手势输入,所述第二手势输入定义所述显示屏上的第二子显示屏的几何结构,所述第二子显示屏具有与所述显示屏上的所述第一子显示屏不同的位置;响应于所述第二手势输入,将所述第二子显示屏链接到所述内容源设备;识别指向所述第二子显示屏的输入;以及使得指向所述第二子显示屏的所述输入被发送到所述内容源设备。
在示例142中,示例141的主题包括:其中,在所述第二子显示屏上不显示任何内容,并且其中,在所述第二子显示屏上输入的所述输入不被显示在所述第二子显示屏上。
在示例143中,示例141-142的主题包括:其中,在所述第二子显示屏上输入的所述输入不被显示在所述第一子显示屏上。
在示例144中,示例141-143的主题包括:其中,所述操作还包括:将识别出的指向所述第二子显示屏的输入发送到所述内容源设备;以及由所述内容源设备将所述输入与来自所述内容源设备的所述内容分开保存。
在示例145中,示例141-144的主题包括:其中,所述操作还包括:将识别出的指向所述第二子显示屏的输入发送到所述内容源设备;以及由所述内容源设备将所述输入保存为来自所述内容源设备的所述内容的补充数据,所述补充数据与来自所述内容源设备的所述内容的特定部分相关。
在示例146中,示例145的主题包括:其中,来自所述内容源设备的所述内容是演示文稿,并且辅助数据是多个注释,所述多个注释中的每个注释与所述演示文稿的特定幻灯片相关联。
在示例147中,示例141-146的主题包括:其中,所述操作还包括:识别指向所述第一子显示屏的第二输入;将所述第二输入发送到所述内容源设备;并且使得在所述第一子显示屏上显示所述第二输入。
在示例148中,示例141-147的主题包括:其中,将所述第二子显示屏链接到所述内容源设备的所述操作包括:将在所述内容源设备上运行的应用链接到所述第二子显示屏,并且其中,使得指向所述第二子显示屏的所述输入被发送到所述内容源设备的所述操作包括使得在所述第二子显示屏上输入的所述输入被发送到所述内容源设备上的所述应用。
在示例149中,示例148的主题包括:其中,第二应用生成在所述第一子显示屏上显示的所述内容。
在示例150中,示例141-149的主题包括:其中,所述输入不被显示在所述显示屏上。
在示例151中,示例141-150的主题包括:其中,识别指向所述第二子显示屏的所述输入的所述操作包括:接收所述显示屏中在所述第二子显示屏内的坐标处对所述显示屏的触摸屏的输入,其中,所述输入是在所述显示屏前方的输入、触摸所述显示屏的手势或者对所述显示屏上的屏幕键盘的输入。
在示例152中,示例141-151的主题包括:其中,将所述第二子显示屏链接到所述内容源设备的所述操作包括将来自所述显示屏的第一子显示屏标识符与来自所述内容源设备的第二子显示屏标识符进行匹配。
在示例153中,示例152的主题包括:其中,使得指向所述第二子显示屏的所述输入被发送到所述内容源设备的所述操作包括:确定所述输入与所述第二子显示屏相对应;基于子显示屏信息数据结构来确定所述内容源设备被链接到所述第二子显示屏;根据所述子显示屏信息数据结构来确定所述内容源设备的地址;以及通过网络将所述输入传输到在所述地址处的所述内容源设备。
在示例154中,示例141-153的主题包括:其中,所述操作还包括:通过将来自所述显示屏的第一子显示屏标识符与来自所述内容源设备的第二子显示屏标识符进行匹配来将所述第一子显示屏链接到所述内容源设备。
示例155是一种指定输入子显示屏区域的方法,所述方法包括:使用一个或多个硬件处理器:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上第一子显示屏的几何结构;响应于识别出所述手势输入,基于所述几何结构来创建所述第一子显示屏;使得来自内容源设备的内容被显示在所述显示屏的所述第一子显示屏中;识别指向所述显示屏的所述显示表面的第二手势输入,所述第二手势输入定义所述显示屏上的第二子显示屏的几何结构,所述第二子显示屏具有与所述显示屏上的所述第一子显示屏不同的位置;响应于所述第二手势输入,将所述第二子显示屏链接到所述内容源设备;识别指向所述第二子显示屏的输入;以及使得指向所述第二子显示屏的所述输入被发送到所述内容源设备。
在示例156中,示例155的主题包括:其中,在所述第二子显示屏上不显示任何内容,并且其中,在所述第二子显示屏上输入的所述输入不被显示在所述第二子显示屏上。
在示例157中,示例155-156的主题包括:其中,在所述第二子显示屏上输入的所述输入不被显示在所述第一子显示屏上。
在示例158中,示例155-157的主题包括:将识别出的指向所述第二子显示屏的输入发送到所述内容源设备;以及由所述内容源设备将所述输入与来自所述内容源设备的所述内容分开保存。
在示例159中,示例155-158的主题包括:将识别出的指向所述第二子显示屏的输入发送到所述内容源设备;以及由所述内容源设备将所述输入保存为来自所述内容源设备的所述内容的补充数据,所述补充数据与来自所述内容源设备的所述内容的特定部分相关。
在示例160中,示例159的主题包括:其中,来自所述内容源设备的所述内容是演示文稿,并且辅助数据是多个注释,所述多个注释中的每个注释与所述演示文稿的特定幻灯片相关。
在示例161中,示例155-160的主题包括:识别指向所述第一子显示屏的第二输入;将所述第二输入发送到所述内容源设备;以及使得在所述第一子显示屏上显示所述第二输入。
在示例162中,示例155-161的主题包括:其中,将所述第二子显示屏链接到所述内容源设备包括:将在所述内容源设备上运行的应用链接到所述第二子显示屏,并且其中,使得指向所述第二子显示屏的所述输入被发送到所述内容源设备包括使得在所述第二子显示屏上输入的所述输入被发送到所述内容源设备上的所述应用。
在示例163中,示例162的主题包括:其中,第二应用生成在所述第一子显示屏上显示的所述内容。
在示例164中,示例155-163的主题包括:其中,所述输入不被显示在所述显示屏上。
在示例165中,示例155-164的主题包括:其中,识别指向所述第二子显示屏的所述输入包括:接收所述显示屏中在所述第二子显示屏内的坐标处对所述显示屏的触摸屏的输入,其中,所述输入是所述显示屏前方的输入、触摸所述显示屏的手势或者对所述显示屏上的屏幕键盘的输入。
在示例166中,示例155-165的主题包括:其中,将所述第二子显示屏链接到所述内容源设备包括将来自所述显示屏的第一子显示屏标识符与来自所述内容源设备的第二子显示屏标识符进行匹配。
在示例167中,示例166的主题包括:其中,使得指向所述第二子显示屏的所述输入被发送到所述内容源设备包括:确定所述输入与所述第二子显示屏相对应;基于子显示屏信息数据结构来确定所述内容源设备被链接到所述第二子显示屏;根据所述子显示屏信息数据结构来确定所述内容源设备的地址;以及通过网络将所述输入传输到在所述地址处的所述内容源设备。
在示例168中,示例155-167的主题包括:其中,所述方法还包括:通过将来自所述显示屏的第一子显示屏标识符与来自所述内容源设备的第二子显示屏标识符进行匹配来将所述第一子显示屏链接到所述内容源设备。
示例169是一种机器可读介质,其存储用于指定输入子显示屏区域的指令,所述指令当由机器运行时使得所述机器执行包括以下的操作:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的第一子显示屏的几何结构;响应于识别出所述手势输入,基于所述几何结构来创建所述第一子显示屏;使得来自内容源设备的内容被显示在所述显示屏的所述第一子显示屏中;识别指向显示屏的显示表面的第二手势输入,所述第二手势输入定义所述显示屏上的第二子显示屏的几何结构,所述第二子显示屏具有与所述显示屏上的所述第一子显示屏不同的位置;响应于所述第二手势输入,将所述第二子显示屏链接到所述内容源设备;识别指向所述第二子显示屏的输入;以及使得指向所述第二子显示屏的所述输入被发送到所述内容源设备。
在示例170中,示例169的主题包括:其中,在所述第二子显示屏上不显示任何内容,并且其中,在所述第二子显示屏上输入的所述输入不被显示在所述第二子显示屏上。
在示例171中,示例169-170的主题包括:其中,在所述第二子显示屏上输入的所述输入不被显示在所述第一子显示屏上。
在示例172中,示例169-171的主题包括:其中,所述操作还包括:将识别出的指向所述第二子显示屏的输入发送到所述内容源设备;以及由所述内容源设备将所述输入与来自所述内容源设备的所述内容分开保存。
在示例173中,示例169-172的主题包括:其中,所述操作还包括:将识别出的指向所述第二子显示屏的输入发送到所述内容源设备;以及由所述内容源设备将所述输入保存为来自所述内容源设备的所述内容的补充数据,所述补充数据与来自所述内容源设备的所述内容的特定部分相关。
在示例174中,示例173的主题包括:其中,来自所述内容源设备的所述内容是演示文稿,并且辅助数据是多个注释,所述多个注释中的每个注释与所述演示文稿的特定幻灯片相关。
在示例175中,示例169-174的主题包括:其中,所述操作还包括:识别指向所述第一子显示屏的第二输入;将所述第二输入发送到所述内容源设备;并且使得在所述第一子显示屏上显示所述第二输入。
在示例176中,示例169-175的主题包括:其中,将所述第二子显示屏链接到所述内容源设备的所述操作包括:将在所述内容源设备上运行的应用链接到所述第二子显示屏,并且其中,使得指向所述第二子显示屏的所述输入被发送到所述内容源设备的所述操作包括使得在所述第二子显示屏上输入的所述输入被发送到所述内容源设备上的所述应用。
在示例177中,示例176的主题包括:其中,第二应用生成在所述第一子显示屏上显示的所述内容。
在示例178中,示例169-177的主题包括:其中,所述输入不被显示在所述显示屏上。
在示例179中,示例169-178的主题包括:其中,识别指向所述第二子显示屏的所述输入的所述操作包括:接收所述显示屏中在所述第二子显示屏内的坐标处对所述显示屏的触摸屏的输入,其中,所述输入是所述显示屏前方的输入、触摸所述显示屏的手势或者对所述显示屏上的屏幕键盘的输入。
在示例180中,示例169-179的主题包括:其中,将所述第二子显示屏链接到所述内容源设备的所述操作包括将来自所述显示屏的第一子显示屏标识符与来自所述内容源设备的第二子显示屏标识符进行匹配。
在示例181中,示例180的主题包括:其中,使得指向所述第二子显示屏的所述输入被发送到所述内容源设备的所述操作包括:确定所述输入与所述第二子显示屏相对应;基于子显示屏信息数据结构来确定所述内容源设备被链接到所述第二子显示屏;根据所述子显示屏信息数据结构来确定所述内容源设备的地址;以及通过网络将所述输入传输到在所述地址处的所述内容源设备。
在示例182中,示例169-181的主题包括:其中,所述操作还包括:通过将来自所述显示屏的第一子显示屏标识符与来自所述内容源设备的第二子显示屏标识符进行匹配来将所述第一子显示屏链接到所述内容源设备。
示例183是一种用于指定输入子显示屏区域的设备,所述设备包括:用于识别指向显示屏的显示表面的手势输入的单元,所述手势输入定义所述显示屏上的第一子显示屏的几何结构;用于响应于识别出所述手势输入而基于所述几何结构来创建所述第一子显示屏的单元;用于使得来自内容源设备的内容被显示在所述显示屏的所述第一子显示屏中的单元;用于识别指向所述显示屏的所述显示表面的第二手势输入的单元,所述第二手势输入定义所述显示屏上的第二子显示屏的几何结构,所述第二子显示屏具有与所述显示屏上的所述第一子显示屏不同的位置;用于响应于所述第二手势输入而将所述第二子显示屏链接到所述内容源设备的单元;用于识别指向所述第二子显示屏的输入的单元;以及用于使得指向所述第二子显示屏的所述输入被发送到所述内容源设备的单元。
在示例184中,示例183的主题包括:其中,在所述第二子显示屏上不显示任何内容,并且其中,在所述第二子显示屏上输入的所述输入不被显示在所述第二子显示屏上。
在示例185中,示例183-184的主题包括:其中,在所述第二子显示屏上输入的所述输入不被显示在所述第一子显示屏上。
在示例186中,示例183-185的主题包括:用于将识别出的指向所述第二子显示屏的输入发送到所述内容源设备的单元;以及用于由所述内容源设备将所述输入与来自所述内容源设备的所述内容分开保存的单元。
在示例187中,示例183-186的主题包括:用于将识别出的指向所述第二子显示屏的输入发送到所述内容源设备的单元;以及用于由所述内容源设备将所述输入保存为来自所述内容源设备的所述内容的补充数据的单元,所述补充数据与来自所述内容源设备的所述内容的特定部分相关。
在示例188中,示例187的主题包括:其中,来自所述内容源设备的所述内容是演示文稿,并且辅助数据是多个注释,所述多个注释中的每个注释与所述演示文稿的特定幻灯片相关。
在示例189中,示例183-188的主题包括:用于识别指向所述第一子显示屏的第二输入的单元;用于将所述第二输入发送到所述内容源设备的单元;以及用于使得在所述第一子显示屏上显示所述第二输入的单元。
在示例190中,示例183-189的主题包括:其中,用于将所述第二子显示屏链接到所述内容源设备的单元包括:将在所述内容源设备上运行的应用链接到所述第二子显示屏,并且其中,用于使得指向所述第二子显示屏的所述输入被发送到所述内容源设备的单元包括使得在所述第二子显示屏上输入的所述输入被发送到所述内容源设备上的所述应用。
在示例191中,示例190的主题包括:其中,第二应用生成在所述第一子显示屏上显示的所述内容。
在示例192中,示例183-191的主题包括:其中,所述输入不被显示在所述显示屏上。
在示例193中,示例183-192的主题包括:其中,用于识别指向所述第二子显示屏的所述输入的单元包括:用于接收所述显示屏中在所述第二子显示屏内的坐标处对所述显示屏的触摸屏的输入的单元,其中,所述输入是所述显示屏前方的输入、触摸所述显示屏的手势或者对所述显示屏上的屏幕键盘的输入。
在示例194中,示例183-193的主题包括:其中,用于将所述第二子显示屏链接到所述内容源设备的单元包括用于将来自所述显示屏的第一子显示屏标识符与来自所述内容源设备的第二子显示屏标识符进行匹配的单元。
在示例195中,示例194的主题包括:其中,用于使得指向所述第二子显示屏的所述输入被发送到所述内容源设备的单元包括:用于确定所述输入与所述第二子显示屏相对应的单元;用于基于子显示屏信息数据结构来确定所述内容源设备被链接到所述第二子显示屏的单元;用于根据所述子显示屏信息数据结构来确定所述内容源设备的地址的单元;以及用于通过网络将所述输入传输到在所述地址处的所述内容源设备的单元。
在示例196中,示例183-195的主题包括:其中,所述设备还包括:用于通过将来自所述显示屏的第一子显示屏标识符与来自所述内容源设备的第二子显示屏标识符进行匹配来将所述第一子显示屏链接到所述内容源设备的单元。
示例197是一种用于为远程内容源设备指定子显示屏区域的计算设备,所述计算设备包括:一个或多个硬件处理器;存储器,其存储指令,所述指令当由所述一个或多个硬件处理器运行时,使得所述一个或多个硬件处理器执行包括以下的操作:通过网络接收第一消息,所述第一消息包括显示屏的子显示屏的标识符和所述远程内容源设备的标识符,所述第一消息将所述子显示屏与所述远程内容源设备相链接,所述子显示屏由指向所述显示屏的显示表面的手势输入来指定;响应于接收到所述第一消息,将第二消息通过所述网络发送到所述远程内容源设备,所述第二消息指示所述子显示屏被链接到所述远程内容源设备;通过所述网络从所述远程内容源设备接收内容;以及通过将所述内容通过所述网络发送到显示屏控制系统来使得在所述子显示屏中显示所述内容,所述内容包含所述子显示屏的所述标识符。
在示例198中,示例197的主题包括:其中,所述第一消息是通过所述网络从第二计算设备接收到的。
在示例199中,示例198的主题包括:其中,所述标识符是由所述第二计算设备的用户输入到在所述第二计算设备上运行的应用中的,并且其中,所述第一消息是由所述应用发送的。
在示例200中,示例198-199的主题包括:其中,所述第一消息包括由所述第二计算设备基于从所述显示屏控制系统接收到的广播消息而发现的所述显示屏控制系统的地址。
在示例201中,示例198-200的主题包括:其中,所述第一消息是作为与所述远程内容源设备的基于网络的通信会话的一部分被接收的。
在示例202中,示例197-201的主题包括:其中,所述操作还包括:向基于网络的通信会话认证所述显示屏控制系统;以及基于所述认证来确定所述显示屏控制系统的地址。
在示例203中,示例197-202的主题包括:其中,所述操作还包括通过在第二计算设备与所述远程内容源设备之间路由一个或多个通信来提供基于网络的通信会话以促进所述基于网络的通信会话。
在示例204中,示例197-203的主题包括:其中,所述第一消息是从所述显示屏控制系统接收到的。
在示例205中,示例197-204的主题包括:其中,使得显示所述内容的所述操作包括将所述内容发送到所述显示屏控制系统,并且其中,所述操作还包括:将所述内容发送到第三计算设备,所述第三计算设备是基于网络的通信会话的参与者。
在示例206中,示例197-205的主题包括:其中,所述显示屏控制系统是与所述显示屏相同的设备。
在示例207中,示例197-206的主题包括:其中,所述远程内容源设备的所述标识符包括用户标识符,并且其中,所述操作还包括:基于在所述远程内容源设备上认证用户,将所述用户标识符映射到所述远程内容源设备。
在示例208中,示例197-207的主题包括:其中,所述操作还包括:接收所述手势输入的指示;以及响应于所述手势输入的所述指示,通过初始化存储所述显示的数据结构来创建所述子显示屏。
示例209是一种为远程内容源设备指定子显示屏区域的方法,所述方法包括:使用计算设备的一个或多个硬件处理器:通过网络接收第一消息,所述第一消息包括显示屏的子显示屏的标识符和所述远程内容源设备的标识符,所述第一消息将所述子显示屏与所述远程内容源设备相链接,所述子显示屏由指向所述显示屏的显示表面的手势输入来指定;响应于接收到所述第一消息,将第二消息通过所述网络发送到所述远程内容源设备,所述第二消息指示所述子显示屏被链接到所述远程内容源设备;通过所述网络从所述远程内容源设备接收内容;以及通过将所述内容通过所述网络发送到显示屏控制系统来使得在所述子显示屏中显示所述内容,所述内容包含所述子显示屏的所述标识符。
在示例210中,示例209的主题包括:其中,所述第一消息是通过所述网络从第二计算设备接收到的。
在示例211中,示例210的主题包括:其中,所述标识符是由所述第二计算设备的用户输入到在所述第二计算设备上运行的应用中的,并且其中,所述第一消息是由所述应用发送的。
在示例212中,示例210-211的主题包括:其中,所述第一消息包括由所述第二计算设备基于从所述显示屏控制系统接收到广播消息而发现的所述显示屏控制系统的地址。
在示例213中,示例210-212的主题包括:其中,所述第一消息是作为与所述远程内容源设备的基于网络的通信会话的一部分被接收的。
在示例214中,示例209-213的主题包括:向基于网络的通信会话认证所述显示屏控制系统;以及基于所述认证来确定所述显示屏控制系统的地址。
在示例215中,示例209-214的主题包括:其中,所述计算设备通过在第二计算设备与所述远程内容源设备之间路由一个或多个通信来提供基于网络的通信会话以促进所述基于网络的通信会话。
在示例216中,示例209-215的主题包括:其中,所述第一消息是从所述显示屏控制系统接收到的。
在示例217中,示例209-216的主题包括:其中,使得显示所述内容包括将所述内容发送到所述显示屏控制系统,并且其中,所述方法还包括:将所述内容发送到第三计算设备,所述第三计算设备是基于网络的通信会话的参与者。
在示例218中,示例209-217的主题包括:其中,所述显示屏控制系统是与所述显示屏相同的设备。
在示例219中,示例209-218的主题包括:其中,所述远程内容源设备的所述标识符包括用户标识符,并且其中,所述方法还包括:基于在所述远程内容源设备上认证用户,将所述用户标识符映射到所述远程内容源设备。
在示例220中,示例209-219的主题包括:接收所述手势输入的指示;以及响应于所述手势输入的所述指示,通过初始化存储所述显示的数据结构来创建所述子显示屏。
示例221是一种机器可读介质,其存储指令,所述指令当由计算设备运行时,使得所述计算设备执行包括以下的操作:通过网络接收第一消息,所述第一消息包括显示屏的子显示屏的标识符和远程内容源设备的标识符,所述第一消息将所述子显示屏与所述远程内容源设备相链接,所述子显示屏是由指向所述显示屏的显示表面的手势输入指定的;响应于接收到所述第一消息,将第二消息通过所述网络发送到所述远程内容源设备,所述第二消息指示所述子显示屏被链接到所述远程内容源设备;通过所述网络从所述远程内容源设备接收内容;以及通过将所述内容通过所述网络发送到显示屏控制系统来使得在所述子显示屏中显示所述内容,所述内容包含所述子显示屏的所述标识符。
在示例222中,示例221的主题包括:其中,第一消息是通过网络从第二计算设备接收到的。
在示例223中,示例222的主题包括:其中,所述标识符是由所述第二计算设备的用户输入到在所述第二计算设备上运行的应用中的,并且其中所述,第一消息是由所述应用发送的。
在示例224中,示例222-223的主题包括:其中,所述第一消息包括由所述第二计算设备基于从所述显示屏控制系统接收到广播消息而发现的所述显示屏控制系统的地址。
在示例225中,示例222-224的主题包括:其中,所述第一消息是作为与所述远程内容源设备的基于网络的通信会话的一部分被接收的。
在示例226中,示例221-225的主题包括:其中,所述操作还包括:向基于网络的通信会话认证所述显示屏控制系统;以及基于所述认证来确定所述显示屏控制系统的地址。
在示例227中,示例221-226的主题包括:其中,所述操作还包括:通过在第二计算设备与所述远程内容源设备之间路由一个或多个通信来提供基于网络的通信会话以促进所述基于网络的通信会话。
在示例228中,示例221-227的主题包括:其中,所述第一消息是从所述显示屏控制系统接收到的。
在示例229中,示例221-228的主题包括:其中,使得显示所述内容的所述操作包括将所述内容发送到所述显示屏控制系统,并且其中,所述操作还包括:将所述内容发送到第三计算设备,所述第三计算设备是基于网络的通信会话的参与者。
在示例230中,示例221-229的主题包括:其中,所述显示屏控制系统是与所述显示屏相同的设备。
在示例231中,示例221-230的主题包括:其中,所述远程内容源设备的所述标识符包括用户标识符,并且其中,所述操作还包括:基于在所述远程内容源设备上认证用户,将所述用户标识符映射到所述远程内容源设备。
在示例232中,示例221-231的主题包括:其中,所述操作还包括:接收所述手势输入的指示;以及响应于所述手势输入的所述指示,通过初始化存储所述显示的数据结构来创建所述子显示屏。
示例233是一种用于为远程内容源设备指定子显示屏区域的计算设备,所述计算设备包括:用于通过网络接收第一消息的单元,所述第一消息包括显示屏的子显示屏的标识符和所述远程内容源设备的标识符,所述第一消息将所述子显示屏与所述远程内容源设备相链接,所述子显示屏是由指向所述显示屏的显示表面的手势输入指定的;用于响应于接收到所述第一消息,将第二消息通过所述网络发送到所述远程内容源设备的单元,所述第二消息指示所述子显示屏被链接到所述远程内容源设备;用于通过所述网络从所述远程内容源设备接收内容的单元;以及用于通过将所述内容通过所述网络发送到显示屏控制系统来使得在所述子显示屏中显示所述内容的单元,所述内容包含所述子显示屏的所述标识符。
在示例234中,示例233的主题包括:其中,所述第一消息是通过所述网络从第二计算设备接收到的。
在示例235中,示例234的主题包括:其中,所述标识符是由所述第二计算设备的用户输入到在所述第二计算设备上运行的应用中的,并且其中,所述第一消息是由所述应用发送的。
在示例236中,示例234-235的主题包括:其中,所述第一消息包括由所述第二计算设备基于从所述显示屏控制系统接收到广播消息而发现的所述显示屏控制系统的地址。
在示例237中,示例234-236的主题包括:其中,所述第一消息是作为与所述远程内容源设备的基于网络的通信会话的一部分被接收的。
在示例238中,示例233-237的主题包括:用于向基于网络的通信会话认证所述显示屏控制系统的单元;以及用于基于所述认证来确定所述显示屏控制系统的地址的单元。
在示例239中,示例233-238的主题包括:其中,所述计算设备通过路由在第二计算设备与所述远程内容源设备之间的一个或多个通信来提供基于网络的通信会话以促进所述基于网络的通信会话。
在示例240中,示例233-239的主题包括:其中,所述第一消息是从所述显示屏控制系统接收到的。
在示例241中,示例233-240的主题包括:其中,用于使得显示所述内容的单元包括将所述内容发送到所述显示屏控制系统,并且其中,所述计算设备还包括:用于将所述内容发送到第三计算设备的单元,所述第三计算设备是基于网络的通信会话的参与者。
在示例242中,示例233-241的主题包括:其中,所述显示屏控制系统是与所述显示屏相同的设备。
在示例243中,示例233-242的主题包括:其中,所述远程内容源设备的所述标识符包括用户标识符,并且其中,所述计算设备还包括:用于基于在所述远程内容源设备上认证用户,将所述用户标识符映射到所述远程内容源设备的单元。
在示例244中,示例233-243的主题包括:用于接收所述手势输入的指示的单元;以及用于响应于所述手势输入的所述指示通过初始化存储所述显示的数据结构来创建所述子显示屏的单元。
示例245是一种用于使得利用子显示屏显示通知的计算设备,所述计算设备包括:一个或多个硬件处理器;存储器,其存储指令,所述指令当被运行时使得所述一个或多个硬件处理器执行包括以下的操作:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的子显示屏的几何结构;响应于所述手势输入,基于所述几何结构来创建所述子显示屏并且将所述子显示屏与内容源设备相链接;使得由所述内容源设备发送的内容被显示在所述显示屏的所述子显示屏中;从所述内容源设备接收消息,所述消息具有关于所述内容源设备上的通知的信息,所述通知如果被显示在所述子显示屏中,则将与所述内容重叠;使得所述通知的所述显示在所述显示屏的通知区域中;以及使得所述显示屏的所述子显示屏显示由所述内容源设备发送的所述内容,而所述通知不与所述内容重叠。
在示例246中,示例245的主题包括:其中,所述通知区域与所述子显示屏的边界相邻。
在示例247中,示例245-246的主题包括:其中,在接收到所述消息之前不渲染所述通知区域。
在示例248中,示例245-247的主题包括:其中,所述通知区域是单独的子显示屏。
在示例249中,示例245-248的主题包括:其中,所述操作还包括:提供具有用于在所述子显示屏上示出不同通知类型的可选选项的用户界面;接收对要在所述子显示屏上显示的第一通知类型的选择;并且其中,使得对所述通知的所述显示包括确定所述通知是所述第一通知类型的。
在示例250中,示例249的主题包括:其中,所述用户界面被显示在所述内容源设备上。
在示例251中,示例249-250的主题包括:其中,所述用户界面被显示在所述显示屏上。
在示例252中,示例245-251的主题包括:其中,所述操作还包括:识别所述显示表面的所述通知区域上的输入,所述输入匹配预定义的手势以解除所述通知;以及响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以解除所述通知,通过从所述显示屏中移除所述通知信息来解除所述通知。
在示例253中,示例252的主题包括:其中,解除所述通知的所述操作包括向所述内容源设备发送消息以解除所述通知。
在示例254中,示例245-253的主题包括:其中,所述操作还包括:识别所述显示表面的所述通知区域上的输入,所述输入匹配预定义的手势以扩展所述通知;并且响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以扩展所述通知,显示与所述子显示屏中由所述内容源设备共享的所述内容上的所述通知相对应的内容。
在示例255中,示例254的主题包括:其中,显示与所述显示屏的所述子显示屏中由所述内容源设备共享的所述内容上的所述通知相对应的内容的所述操作包括:利用与所述通知相对应的所述内容来完全替换所述子显示屏中由所述内容源设备共享的所述内容。
在示例256中,示例245-255的主题包括:其中,所述操作还包括:识别所述显示表面的所述通知区域上的输入,所述输入匹配预定义的手势以扩展所述通知;并且响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以扩展所述通知,在自动创建的第二子显示屏中显示与所述通知相对应的内容,所述第二子显示屏与所述子显示屏处在不同的位置。
在示例257中,示例245-256的主题包括:其中,所述通知不是从生成由所述内容源设备共享的所述内容的应用生成的。
示例258是一种利用子显示屏显示通知的方法,所述方法包括:使用一个或多个硬件处理器:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的子显示屏的几何结构;响应于所述手势输入,基于所述几何结构来创建子显示屏并且将所述子显示屏与内容源设备相链接;使得由所述内容源设备发送的内容被显示在所述显示屏的所述子显示屏中;从所述内容源设备接收消息,所述消息具有关于所述内容源设备上的通知的信息,所述通知如果被显示在所述子显示屏中,则将与所述内容重叠;使得所述通知显示在所述显示屏的通知区域中;以及使得所述显示屏的所述子显示屏显示由所述内容源设备发送的所述内容,而所述通知不与所述内容重叠。
在示例259中,示例258的主题包括:其中,所述通知区域与所述子显示屏的边界相邻。
在示例260中,示例258-259的主题包括:其中,在接收到所述消息之前不渲染所述通知区域。
在示例261中,示例258-260的主题包括:其中,所述通知区域是单独的子显示屏。
在示例262中,示例258-261的主题包括:提供具有用于在所述子显示屏上示出不同通知类型的可选选项的用户界面;接收对要在所述子显示屏上显示的第一通知类型的选择;并且其中,使得显示所述通知包括确定所述通知是所述第一通知类型的。
在示例263中,示例262的主题包括:其中,所述用户界面被显示在所述内容源设备上。
在示例264中,示例262-263的主题包括:其中,所述用户界面被显示在所述显示屏上。
在示例265中,示例258-264的主题包括:识别所述显示表面的所述通知区域上的输入,所述输入匹配预定义的手势以解除所述通知;以及响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以解除所述通知,使得通过从所述显示屏中移除所述通知信息来解除所述通知。
在示例266中,示例265的主题包括:其中,使得解除所述通知包括向所述内容源设备发送消息以解除所述通知。
在示例267中,示例258-266的主题包括:识别所述显示表面的所述通知区域上的输入,所述输入匹配预定义的手势以扩展所述通知;并且响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以扩展所述通知,显示与所述子显示屏中由所述内容源设备共享的所述内容上的所述通知相对应的内容。
在示例268中,示例267的主题包括:其中,显示与所述显示屏的所述子显示屏中由所述内容源设备共享的所述内容上的所述通知相对应的内容包括:利用与所述通知相对应的所述内容来完全替换所述子显示屏中由所述内容源设备共享的所述内容。
在示例269中,示例258-268的主题包括:识别所述显示表面的所述通知区域上的输入,所述输入匹配预定义的手势以扩展所述通知;并且响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以扩展所述通知,在自动创建的第二子显示屏中显示与所述通知相对应的内容,所述第二子显示屏与所述子显示屏处在不同的位置。
在示例270中,示例258-269的主题包括:其中,所述通知不是从生成由所述内容源设备共享的所述内容的应用生成的。
示例271是一种机器可读介质,其存储指令,所述指令当由机器运行时使得所述机器执行包括以下的操作:识别指向显示屏的显示表面的手势输入,所述手势输入定义所述显示屏上的子显示屏的几何结构;响应于所述手势输入,基于所述几何结构来创建所述子显示屏并且将所述子显示屏与内容源设备相链接;使得由所述内容源设备发送的内容被显示在所述显示屏的所述子显示屏中;从所述内容源设备接收消息,所述消息具有关于所述内容源设备上的通知的信息,所述通知如果被显示在所述子显示屏中,则将与所述内容重叠;使得所述通知显示在所述显示屏的通知区域中;以及使得所述显示屏的所述子显示屏显示由所述内容源设备发送的所述内容,而所述通知不与所述内容重叠。
在示例272中,示例271的主题包括:其中,所述通知区域与所述子显示屏的边界相邻。
在示例273中,示例271-272的主题包括:其中,在接收到所述消息之前不渲染所述通知区域。
在示例274中,示例271-273的主题包括:其中,所述通知区域是单独的子显示屏。
在示例275中,示例271-274的主题包括:其中,所述操作还包括:提供具有用于在所述子显示屏上示出不同通知类型的可选选项的用户界面;接收对要在所述子显示屏上显示的第一通知类型的选择;并且其中,使得对所述通知的所述显示包括确定所述通知是所述第一通知类型的。
在示例276中,示例275的主题包括:其中,所述用户界面被显示在所述内容源设备上。
在示例277中,示例275-276的主题包括:其中,所述用户界面被显示在所述显示屏上。
在示例278中,示例271-277的主题包括:其中,所述操作还包括:识别所述显示表面的所述通知区域上的输入,所述输入匹配预定义的手势以解除所述通知;以及响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以解除所述通知,使得通过从所述显示屏中移除所述通知信息来解除所述通知。
在示例279中,示例278的主题包括:其中,使得解除所述通知的所述操作包括向所述内容源设备发送消息以解除所述通知。
在示例280中,示例271-279的主题包括:其中,所述操作还包括:识别所述显示表面的所述通知区域上的输入,所述输入匹配预定义的手势以扩展所述通知;并且响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以扩展所述通知,显示与所述子显示屏中由所述内容源设备共享的所述内容上的所述通知相对应的内容。
在示例281中,示例280的主题包括:其中,显示与所述显示屏的所述子显示屏中由所述内容源设备共享的所述内容上的所述通知相对应的内容的所述操作包括:利用与所述通知相对应的所述内容来完全替换所述子显示屏中由所述内容源设备共享的所述内容。
在示例282中,示例271-281的主题包括:其中,所述操作还包括:识别所述显示表面的所述通知区域上的输入,所述输入匹配预定义的手势以扩展所述通知;并且响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以扩展所述通知,在自动创建的第二子显示屏中显示与所述通知相对应的内容,所述第二子显示屏与所述子显示屏处在不同的位置。
在示例283中,示例271-282的主题包括:其中,所述通知不是从生成由所述内容源设备共享的所述内容的应用生成的。
示例284是一种利用子显示屏显示通知的设备,所述设备包括:用于识别指向显示屏的显示表面的手势输入的单元,所述手势输入定义所述显示屏上的子显示屏的几何结构;用于响应于所述手势输入,基于所述几何结构来创建所述子显示屏并且将所述子显示屏与内容源设备相链接的单元;用于使得由所述内容源设备发送的内容被显示在所述显示屏的所述子显示屏中的单元;用于从所述内容源设备接收消息的单元,所述消息具有关于所述内容源设备上的通知的信息,所述通知如果被显示在所述子显示屏中,则将与所述内容重叠;用于使得所述通知显示在所述显示屏的通知区域中的单元;以及用于使得所述显示屏的所述子显示屏显示由所述内容源设备发送的所述内容而所述通知不与所述内容重叠的单元。
在示例285中,示例284的主题包括:其中,所述通知区域与所述子显示屏的边界相邻。
在示例286中,示例284-285的主题包括:其中,在接收到所述消息之前不渲染所述通知区域。
在示例287中,示例284-286的主题包括:其中,所述通知区域是单独的子显示屏。
在示例288中,示例284-287的主题包括:用于提供具有用于在所述子显示屏上示出不同通知类型的可选选项的用户界面的单元;用于接收对要在所述子显示屏上显示的第一通知类型的选择的单元;并且其中,使得对所述通知的所述显示包括确定所述通知是所述第一通知类型的。
在示例289中,示例288的主题包括:其中,所述用户界面被显示在所述内容源设备上。
在示例290中,示例288-289的主题包括:其中,所述用户界面被显示在所述显示屏上。
在示例291中,示例284-290的主题包括:用于识别所述显示表面的所述通知区域上的输入的单元,所述输入匹配预定义的手势以解除所述通知;以及用于响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以解除所述通知而使得通过从所述显示屏中移除所述通知信息来解除所述通知的单元。
在示例292中,示例291的主题包括:其中,使得解除所述通知包括向所述内容源设备发送消息以解除所述通知。
在示例293中,示例284-292的主题包括:用于识别所述显示表面的所述通知区域上的输入的单元,所述输入匹配预定义的手势以扩展所述通知;以及用于响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以扩展所述通知而显示与所述子显示屏中由所述内容源设备共享的所述内容上的所述通知相对应的内容的单元。
在示例294中,示例293的主题包括:其中,用于显示与所述显示屏的所述子显示屏中由所述内容源设备共享的所述内容上的所述通知相对应的内容的单元包括:用于利用与所述通知相对应的所述内容来完全替换所述子显示屏中由所述内容源设备共享的所述内容的单元。
在示例295中,示例284-294的主题包括:用于识别在所述显示表面的所述通知区域上的输入的单元,所述输入匹配预定义的手势以扩展所述通知;以及用于响应于识别出在所述显示屏的所述通知区域上的所述输入匹配所述预定义的手势以扩展所述通知而在自动创建的第二子显示屏中显示与所述通知相对应的内容的单元,所述第二子显示屏与所述子显示屏处在不同的位置。
在示例296中,示例284-295的主题包括:其中,所述通知不是从生成由所述内容源设备共享的所述内容的应用生成的。
示例297是包括指令的至少一种机器可读介质,所述指令当由处理电路运行时使得处理电路执行操作以实现示例1-296中的任一项。
示例298是一种装置,其包括用于实现示例1-296中的任一项的单元。
示例299是一种实现示例1-296中的任一项的系统。
示例300是一种实现示例1-296中的任一项的方法。

Claims (15)

1.一种用于为远程内容源设备指定子显示屏区域的计算设备,所述计算设备包括:
一个或多个硬件处理器;
存储器,其存储指令,所述指令当由所述一个或多个硬件处理器运行时使得所述一个或多个硬件处理器执行包括以下的操作:
通过网络接收第一消息,所述第一消息包括显示屏的子显示屏的标识符和所述远程内容源设备的标识符,所述第一消息将所述子显示屏与所述远程内容源设备相链接,所述子显示屏是由指向所述显示屏的显示表面的手势输入指定的;
响应于接收到所述第一消息,将第二消息通过所述网络发送到所述远程内容源设备,所述第二消息指示所述子显示屏被链接到所述远程内容源设备;
通过所述网络从所述远程内容源设备接收内容;以及
通过将所述内容通过所述网络发送到显示屏控制系统来使得在所述子显示屏中显示所述内容,所述内容包含所述子显示屏的所述标识符。
2.根据权利要求1所述的计算设备,其中,所述第一消息是通过所述网络从第二计算设备接收到的。
3.根据权利要求2所述的计算设备,其中,所述标识符是由所述第二计算设备的用户输入到在所述第二计算设备上运行的应用中的,并且其中,所述第一消息是由所述应用发送的。
4.根据权利要求2所述的计算设备,其中,所述第一消息包括由所述第二计算设备基于从所述显示屏控制系统接收到广播消息而发现的所述显示屏控制系统的地址。
5.根据权利要求2所述的计算设备,其中,所述第一消息是作为与所述远程内容源设备的基于网络的通信会话的一部分被接收到的。
6.根据权利要求1所述的计算设备,其中,所述操作还包括:
向基于网络的通信会话认证所述显示屏控制系统;以及
基于所述认证来确定所述显示屏控制系统的地址。
7.根据权利要求1所述的计算设备,其中,操作还包括:通过在第二计算设备与所述远程内容源设备之间路由一个或多个通信来提供基于网络的通信会话以促进所述基于网络的通信会话。
8.根据权利要求1所述的计算设备,其中,所述第一消息是从所述显示屏控制系统接收到的。
9.根据权利要求1所述的计算设备,其中,使得显示所述内容的所述操作包括将所述内容发送到所述显示屏控制系统,并且其中,所述操作还包括:
将所述内容发送到第三计算设备,所述第三计算设备是基于网络的通信会话的参与者。
10.根据权利要求1所述的计算设备,其中,所述显示屏控制系统是与所述显示屏相同的设备。
11.根据权利要求1所述的计算设备,其中,所述远程内容源设备的所述标识符包括用户标识符,并且其中,所述操作还包括:基于用户在所述远程内容源设备上被认证,将所述用户标识符映射到所述远程内容源设备。
12.根据权利要求1所述的计算设备,其中,所述操作还包括:
接收所述手势输入的指示;以及
响应于所述手势输入的所述指示,通过初始化存储所述显示屏的数据结构来创建所述子显示屏。
13.一种为远程内容源设备指定子显示屏区域的方法,所述方法包括:
使用计算设备的一个或多个硬件处理器:
通过网络接收第一消息,所述第一消息包括显示屏的子显示屏的标识符和所述远程内容源设备的标识符,所述第一消息将所述子显示屏与所述远程内容源设备相链接,所述子显示屏是由指向所述显示屏的显示表面的手势输入指定的;
响应于接收到所述第一消息,将第二消息通过所述网络发送到所述远程内容源设备,所述第二消息指示所述子显示屏被链接到所述远程内容源设备;
通过所述网络从所述远程内容源设备接收内容;以及
通过将所述内容通过所述网络发送到显示屏控制系统来使得在所述子显示屏中显示所述内容,所述内容包含所述子显示屏的所述标识符。
14.根据权利要求13所述的方法,其中,所述第一消息是通过所述网络从第二计算设备接收到的。
15.根据权利要求13所述的方法,其中,所述第一消息是从所述显示屏控制系统接收到的。
CN202080087176.9A 2019-12-16 2020-11-05 针对远程内容源设备的子显示屏指定 Active CN115004145B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202410391450.1A CN118069002A (zh) 2019-12-16 2020-11-05 针对远程内容源设备的子显示屏指定

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/716,231 US11093046B2 (en) 2019-12-16 2019-12-16 Sub-display designation for remote content source device
US16/716,231 2019-12-16
PCT/US2020/059150 WO2021126394A1 (en) 2019-12-16 2020-11-05 Sub-display designation for remote content source device

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202410391450.1A Division CN118069002A (zh) 2019-12-16 2020-11-05 针对远程内容源设备的子显示屏指定

Publications (2)

Publication Number Publication Date
CN115004145A CN115004145A (zh) 2022-09-02
CN115004145B true CN115004145B (zh) 2024-04-05

Family

ID=73643348

Family Applications (2)

Application Number Title Priority Date Filing Date
CN202410391450.1A Pending CN118069002A (zh) 2019-12-16 2020-11-05 针对远程内容源设备的子显示屏指定
CN202080087176.9A Active CN115004145B (zh) 2019-12-16 2020-11-05 针对远程内容源设备的子显示屏指定

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN202410391450.1A Pending CN118069002A (zh) 2019-12-16 2020-11-05 针对远程内容源设备的子显示屏指定

Country Status (4)

Country Link
US (2) US11093046B2 (zh)
EP (1) EP4078349A1 (zh)
CN (2) CN118069002A (zh)
WO (1) WO2021126394A1 (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109358937A (zh) * 2018-09-30 2019-02-19 上海达龙信息科技有限公司 一种基于虚拟输入装置远程操控pc的方法及系统
CN110442366B (zh) * 2019-08-09 2021-06-15 广州视源电子科技股份有限公司 一种传屏处理方法、装置、设备和存储介质
EP3823292B1 (en) * 2019-11-15 2024-01-24 Samsung Electronics Co., Ltd. Electronic apparatus and control method thereof
US11404028B2 (en) 2019-12-16 2022-08-02 Microsoft Technology Licensing, Llc Sub-display notification handling
US11487423B2 (en) 2019-12-16 2022-11-01 Microsoft Technology Licensing, Llc Sub-display input areas and hidden inputs
US11093046B2 (en) * 2019-12-16 2021-08-17 Microsoft Technology Licensing, Llc Sub-display designation for remote content source device
KR20210112662A (ko) * 2020-03-05 2021-09-15 삼성전자주식회사 외부 전자 장치의 어플리케이션을 제어하는 방법 및 이를 지원하는 전자 장치
US11249715B2 (en) 2020-06-23 2022-02-15 Switchboard Visual Technologies, Inc. Collaborative remote interactive platform
KR20230008825A (ko) * 2020-08-28 2023-01-16 엘지전자 주식회사 알림 ui(user interface)를 표시하는 이동 단말기 및 그 제어 방법
US20220091707A1 (en) 2020-09-21 2022-03-24 MBTE Holdings Sweden AB Providing enhanced functionality in an interactive electronic technical manual
US11967317B2 (en) 2021-02-18 2024-04-23 MBTE Holdings Sweden AB Providing enhanced functionality in an interactive electronic technical manual
US11947906B2 (en) * 2021-05-19 2024-04-02 MBTE Holdings Sweden AB Providing enhanced functionality in an interactive electronic technical manual
US11461480B1 (en) 2022-05-24 2022-10-04 Switchboard Visual Technologies, Inc. Synchronizing private data with reduced trust

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102695032A (zh) * 2011-02-10 2012-09-26 索尼公司 信息处理装置、信息共享方法、程序以及终端设备
CN109906593A (zh) * 2016-11-01 2019-06-18 微软技术许可有限责任公司 用于屏幕共享体验的共享保护

Family Cites Families (103)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1324504C (zh) 2002-04-22 2007-07-04 普莱斯威尔股份有限公司 应用程序共享安全
US8745541B2 (en) 2003-03-25 2014-06-03 Microsoft Corporation Architecture for controlling a computer using hand gestures
US7221331B2 (en) 2003-05-05 2007-05-22 Microsoft Corporation Method and system for auxiliary display of information for a computing device
KR100580245B1 (ko) 2003-06-26 2006-05-16 삼성전자주식회사 동시화면을 디스플레이 하는 장치 및 방법
US10152190B2 (en) 2003-12-15 2018-12-11 Open Invention Network, Llc Systems and methods for improved application sharing in a multimedia collaboration session
JP4377247B2 (ja) 2004-01-08 2009-12-02 日本電信電話株式会社 プロジェクタ投影制御システムおよびプロジェクタ投影制御方法
US20060053194A1 (en) 2004-09-03 2006-03-09 Schneider Ronald E Systems and methods for collaboration
JP2007128288A (ja) * 2005-11-04 2007-05-24 Fuji Xerox Co Ltd 情報表示システム
US20070150924A1 (en) 2005-12-06 2007-06-28 Pioneer Corporation Image display control apparatus, image display system, image display control method, computer program product, sub-display control apparatus for image display system, and image display method
US8125509B2 (en) 2006-01-24 2012-02-28 Lifesize Communications, Inc. Facial recognition for a videoconference
US8196055B2 (en) 2006-01-30 2012-06-05 Microsoft Corporation Controlling application windows in an operating system
US8446454B2 (en) 2007-05-21 2013-05-21 Polycom, Inc. Dynamic adaption of a continuous presence videoconferencing layout based on video content
JP4692529B2 (ja) * 2007-08-07 2011-06-01 セイコーエプソン株式会社 グラフィカルユーザインタフェース装置
KR20100108422A (ko) * 2008-01-07 2010-10-06 스마트 테크놀러지스 유엘씨 멀티 모니터 컴퓨터 시스템에서 다수의 소스 컴퓨터로부터의 비디오 데이터를 디스플레이하기 위한 방법 및 장치
US8136051B2 (en) * 2009-03-13 2012-03-13 Sony Corporation Method and apparatus for automatically updating a primary display area
US20100251127A1 (en) * 2009-03-30 2010-09-30 Avaya Inc. System and method for managing trusted relationships in communication sessions using a graphical metaphor
EP2325737B1 (fr) 2009-10-28 2019-05-08 Orange Procédé et système de gestion d'une interface graphique pour l'affichage de composants graphiques applicatifs
JP5604921B2 (ja) * 2010-03-19 2014-10-15 セイコーエプソン株式会社 画像表示システム、画像表示方法、画像表示装置
US8514263B2 (en) 2010-05-12 2013-08-20 Blue Jeans Network, Inc. Systems and methods for scalable distributed global infrastructure for real-time multimedia communication
US8963961B2 (en) 2010-12-29 2015-02-24 Sap Se Fractal whiteboarding
KR101948645B1 (ko) 2011-07-11 2019-02-18 삼성전자 주식회사 그래픽 오브젝트를 이용한 컨텐츠 제어 방법 및 장치
US20130019150A1 (en) 2011-07-13 2013-01-17 Rony Zarom System and method for automatic and dynamic layout design for media broadcast
JP6180072B2 (ja) * 2011-08-24 2017-08-16 サターン ライセンシング エルエルシーSaturn Licensing LLC 表示装置、表示システム、及び表示方法
US20130067331A1 (en) 2011-09-09 2013-03-14 Screenovate Technologies Ltd. Method and System of Simultaneous Display of Multiple Screens on a Target Display
US8682973B2 (en) 2011-10-05 2014-03-25 Microsoft Corporation Multi-user and multi-device collaboration
US9152376B2 (en) 2011-12-01 2015-10-06 At&T Intellectual Property I, L.P. System and method for continuous multimodal speech and gesture interaction
US8963984B2 (en) * 2011-12-19 2015-02-24 Polycom, Inc. Videoconferencing system using QR codes for interaction
US10147115B1 (en) 2012-03-28 2018-12-04 Vmware, Inc. Displaying supplemental messages including advertisements or security notifications in a virtual desktop environment
US9557878B2 (en) 2012-04-25 2017-01-31 International Business Machines Corporation Permitting participant configurable view selection within a screen sharing session
US9122378B2 (en) 2012-05-07 2015-09-01 Seiko Epson Corporation Image projector device
US9479549B2 (en) * 2012-05-23 2016-10-25 Haworth, Inc. Collaboration system with whiteboard with federated display
US9632648B2 (en) 2012-07-06 2017-04-25 Lg Electronics Inc. Mobile terminal, image display device and user interface provision method using the same
WO2014023432A1 (en) 2012-08-09 2014-02-13 Livestudies Srl Apparatus and method for a collaborative environment using distributed touch sensitive surfaces
CN104885065A (zh) 2012-08-31 2015-09-02 游戏大厅股份有限公司 通过使用远程设备与显示屏进行通信和互动的系统和方法
US9268423B2 (en) 2012-09-08 2016-02-23 Stormlit Limited Definition and use of node-based shapes, areas and windows on touch screen devices
US20140099004A1 (en) * 2012-10-10 2014-04-10 Christopher James DiBona Managing real-time communication sessions
US9575712B2 (en) 2012-11-28 2017-02-21 Microsoft Technology Licensing, Llc Interactive whiteboard sharing
CN103873813B (zh) 2012-12-10 2018-06-01 中兴通讯股份有限公司 一种会议电视多画面切换的方法及系统
KR20140108995A (ko) 2013-03-04 2014-09-15 삼성전자주식회사 페이지의 일부 영역을 이용한 데이터 처리 방법 및 장치
US9781385B2 (en) 2013-03-15 2017-10-03 Blue Jeans Network User interfaces for presentation of audio/video streams
US10728716B2 (en) 2013-06-28 2020-07-28 Blackberry Limited Context sensitive message notifications
JP6024617B2 (ja) 2013-08-15 2016-11-16 富士ゼロックス株式会社 情報処理装置及び情報処理プログラム
KR102071579B1 (ko) 2013-09-02 2020-01-30 삼성전자주식회사 화면 미러링을 이용한 서비스 제공 방법 및 그 장치
KR20150026403A (ko) * 2013-09-03 2015-03-11 삼성전자주식회사 듀얼 모니터링 시스템 및 방법
US9635091B1 (en) 2013-09-09 2017-04-25 Chad Dustin TILLMAN User interaction with desktop environment
KR102078867B1 (ko) * 2013-09-17 2020-02-18 삼성전자주식회사 제어권 관리 방법, 그에 따른 클라이언트 기기 및 그에 따른 마스터 기기
KR101491045B1 (ko) * 2013-09-25 2015-02-10 주식회사 픽스트리 컨텐츠 공유 장치 및 방법
US9507482B2 (en) * 2013-10-07 2016-11-29 Narsys, LLC Electronic slide presentation controller
KR102085181B1 (ko) 2013-10-23 2020-03-05 삼성전자주식회사 데이터 전송 방법, 데이터 수신 방법, 및 디바이스
KR20150067521A (ko) * 2013-12-10 2015-06-18 에스케이플래닛 주식회사 화면 공유 서비스를 위한 장치 및 방법, 이를 위한 화면 공유 시스템
KR102227661B1 (ko) 2014-01-08 2021-03-15 삼성전자주식회사 화면 미러링 방법 및 그에 따른 장치
GB2522453A (en) 2014-01-24 2015-07-29 Barco Nv Dynamic display layout
JP2015158900A (ja) * 2014-01-27 2015-09-03 株式会社リコー 情報処理装置、情報処理方法および情報処理プログラム
CN104954847B (zh) * 2014-03-25 2018-04-10 扬智科技股份有限公司 视频流处理装置、镜像视频显示方法及显示装置
TWI616808B (zh) 2014-06-30 2018-03-01 緯創資通股份有限公司 分享顯示畫面的方法及裝置
JPWO2016021022A1 (ja) 2014-08-07 2017-06-15 日立マクセル株式会社 投写型映像表示装置及びその制御方法
JP2016045623A (ja) 2014-08-21 2016-04-04 ソニー株式会社 情報処理装置および制御方法
WO2016043070A1 (ja) * 2014-09-16 2016-03-24 日本電気株式会社 ウィンドウ制御方法、情報処理装置およびその制御方法と制御プログラム
TWI511104B (zh) * 2014-10-07 2015-12-01 Wistron Corp 互動式電子白板操作方法以及使用該方法的裝置
US10222927B2 (en) 2014-10-24 2019-03-05 Microsoft Technology Licensing, Llc Screen magnification with off-screen indication
US9916122B2 (en) * 2014-12-18 2018-03-13 Google Llc Methods, systems, and media for launching a mobile application using a public display device
TWI604314B (zh) * 2014-12-24 2017-11-01 緯創資通股份有限公司 適用於互動式電子白板系統的裝置連線方法以及主機端裝置
US9992441B2 (en) 2015-01-05 2018-06-05 Lattice Semiconductor Corporation Displaying multiple videos on sink device using display information of source device
CN107077212B (zh) 2015-01-30 2020-03-24 惠普发展公司,有限责任合伙企业 电子显示器照明
KR101651353B1 (ko) 2015-03-24 2016-08-25 충북대학교 산학협력단 N 스크린 기반의 화상 회의 시스템
JP6617422B2 (ja) 2015-03-27 2019-12-11 富士通株式会社 ウィンドウ設定方法、プログラム及び表示制御装置
US10802783B2 (en) 2015-05-06 2020-10-13 Haworth, Inc. Virtual workspace viewport following in collaboration systems
KR102351500B1 (ko) * 2015-05-12 2022-01-17 엘지전자 주식회사 이동단말기 및 그 제어방법
DK179328B1 (en) 2015-06-07 2018-05-07 Apple Inc DEVICES, METHODS AND GRAPHICAL USER INTERFACES FOR PROVIDING AND INTERACTING WITH NOTIFICATIONS
US20160371048A1 (en) * 2015-06-16 2016-12-22 T1V, Inc. Remote gesture control, input monitor, systems including the same, and associated methods
US10198405B2 (en) 2015-07-08 2019-02-05 Microsoft Technology Licensing, Llc Rule-based layout of changing information
WO2017019292A1 (en) * 2015-07-24 2017-02-02 Coscreen, Inc. Frictionless interface for virtual collaboration, communication and cloud computing
US10089001B2 (en) 2015-08-24 2018-10-02 International Business Machines Corporation Operating system level management of application display
US20170075503A1 (en) * 2015-09-10 2017-03-16 International Business Machines Corporation System and method for enhanced collaboration
US10234953B1 (en) * 2015-09-25 2019-03-19 Google Llc Cross-device interaction through user-demonstrated gestures
JP6018281B1 (ja) 2015-11-11 2016-11-02 Line株式会社 表示制御方法、端末、情報処理装置、及びプログラム
JP7042622B2 (ja) 2016-02-12 2022-03-28 株式会社リコー 画像処理装置、画像処理システム、画像処理方法、及び、プログラム
KR102484135B1 (ko) * 2016-02-15 2023-01-04 엘지전자 주식회사 디스플레이 장치 및 그의 동작 방법
KR20170096408A (ko) 2016-02-16 2017-08-24 삼성전자주식회사 어플리케이션을 표시하는 방법 및 이를 지원하는 전자 장치
US10616633B2 (en) * 2016-02-29 2020-04-07 T1V, Inc. System for connecting a mobile device and a common display
CN105657326A (zh) 2016-03-02 2016-06-08 掌赢信息科技(上海)有限公司 一种群视频通话方法、装置及系统
EP3232356B1 (en) 2016-04-15 2018-10-24 Fujitsu Limited Server apparatus, content display control system, and content display control program
KR102490913B1 (ko) * 2016-06-07 2023-01-20 삼성전자주식회사 디스플레이 장치 및 제어 방법
GB201609986D0 (en) * 2016-06-08 2016-07-20 Cyviz As Streamed communications
US10613739B2 (en) 2016-06-11 2020-04-07 Apple Inc. Device, method, and graphical user interface for controlling multiple devices in an accessibility mode
US10558288B2 (en) * 2016-07-07 2020-02-11 Samsung Display Co., Ltd. Multi-touch display panel and method of controlling the same
US10529302B2 (en) 2016-07-07 2020-01-07 Oblong Industries, Inc. Spatially mediated augmentations of and interactions among distinct devices and applications via extended pixel manifold
US20180046425A1 (en) * 2016-08-11 2018-02-15 International Business Machines Corporation Preserving an external display configuration
US10547653B2 (en) * 2016-10-10 2020-01-28 Cisco Technology, Inc. Managing access to communication sessions via a web-based collaboration room service
US10445523B2 (en) 2016-10-14 2019-10-15 Google Llc Information privacy in virtual reality
US10346014B2 (en) 2016-11-16 2019-07-09 Dell Products L.P. System and method for provisioning a user interface for scaling and tracking
US9942519B1 (en) 2017-02-21 2018-04-10 Cisco Technology, Inc. Technologies for following participants in a video conference
EP3545479A1 (en) 2017-03-09 2019-10-02 Google LLC Presentation hierarchy in a notification user interface
US10768693B2 (en) 2017-04-19 2020-09-08 Magic Leap, Inc. Multimodal task execution and text editing for a wearable system
US10445108B2 (en) * 2017-06-29 2019-10-15 Intel IP Corporation Technologies for optimizing resume time for media agnostic USB
US20190251884A1 (en) 2018-02-14 2019-08-15 Microsoft Technology Licensing, Llc Shared content display with concurrent views
US10372402B1 (en) 2018-03-27 2019-08-06 Panoscape Holdings, LLC Multi-panel, multi-communication video wall and system and method for seamlessly isolating one of more panels for individual user interaction
US11477516B2 (en) * 2018-04-13 2022-10-18 Koji Yoden Services over wireless communication with high flexibility and efficiency
US11714543B2 (en) * 2018-10-01 2023-08-01 T1V, Inc. Simultaneous gesture and touch control on a display
US11573694B2 (en) * 2019-02-25 2023-02-07 Haworth, Inc. Gesture based workflows in a collaboration system
EP3823292B1 (en) * 2019-11-15 2024-01-24 Samsung Electronics Co., Ltd. Electronic apparatus and control method thereof
US11093046B2 (en) * 2019-12-16 2021-08-17 Microsoft Technology Licensing, Llc Sub-display designation for remote content source device
US20230143579A1 (en) * 2021-11-10 2023-05-11 Pencil Learning Technologies, Inc. Observation of parallel video collaboration sessions

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102695032A (zh) * 2011-02-10 2012-09-26 索尼公司 信息处理装置、信息共享方法、程序以及终端设备
CN109906593A (zh) * 2016-11-01 2019-06-18 微软技术许可有限责任公司 用于屏幕共享体验的共享保护

Also Published As

Publication number Publication date
CN118069002A (zh) 2024-05-24
US11093046B2 (en) 2021-08-17
WO2021126394A1 (en) 2021-06-24
CN115004145A (zh) 2022-09-02
US20210181853A1 (en) 2021-06-17
US20210382562A1 (en) 2021-12-09
EP4078349A1 (en) 2022-10-26

Similar Documents

Publication Publication Date Title
CN115004145B (zh) 针对远程内容源设备的子显示屏指定
US11487423B2 (en) Sub-display input areas and hidden inputs
US11715444B2 (en) Notification handling in a user interface
US10776103B2 (en) System, method, and computer program product for coordination among multiple devices
KR102630902B1 (ko) 서술적 모델들에 기초한 자동화된 결정들
US20210185520A1 (en) Sub-display pairing
CN109844717B (zh) 用于移动应用程序的实时远程控制的系统和方法
EP2996015B1 (en) Method to use augmented reality to function as hmi display
CN117121470A (zh) 在虚拟会议系统内呈现参与者对话
US9531823B1 (en) Processes for generating content sharing recommendations based on user feedback data
KR102490438B1 (ko) 디스플레이 장치 및 그 제어 방법
CN114830076A (zh) 子显示屏指定和共享
US11288031B2 (en) Information processing apparatus, information processing method, and information processing system
US10712936B2 (en) First electronic device and information processing method applicable to first or second electronic device comprising a first application
US9405964B1 (en) Processes for generating content sharing recommendations based on image content analysis
US11430211B1 (en) Method for creating and displaying social media content associated with real-world objects or phenomena using augmented reality
US20200007948A1 (en) Video subtitle display method and apparatus
CN113632052A (zh) 用于用户接口调整、定制和放置的系统和方法
WO2022169668A1 (en) Integrating artificial reality and other computing devices
US20240073050A1 (en) Presenting captured screen content within a virtual conferencing system
US20220300240A1 (en) Display apparatus, data sharing system, and display control method

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant