CN106537326A - 用于辅助显示器的移动设备输入控制器 - Google Patents

用于辅助显示器的移动设备输入控制器 Download PDF

Info

Publication number
CN106537326A
CN106537326A CN201580040705.9A CN201580040705A CN106537326A CN 106537326 A CN106537326 A CN 106537326A CN 201580040705 A CN201580040705 A CN 201580040705A CN 106537326 A CN106537326 A CN 106537326A
Authority
CN
China
Prior art keywords
touch
output
equipment
interface
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
CN201580040705.9A
Other languages
English (en)
Inventor
B.斯陶伯
R.彭莱
K.施普利
T.肯纳佩尔
I.霍里
P.米科拉
P.德克斯
R.巴拉苏布拉马尼安
K.莫兰
M.K.拉曼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Technology Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Technology Licensing LLC filed Critical Microsoft Technology Licensing LLC
Publication of CN106537326A publication Critical patent/CN106537326A/zh
Withdrawn legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C17/00Arrangements for transmitting signals characterised by the use of a wireless electrical link
    • G08C17/02Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4122Peripherals receiving signals from specially adapted client devices additional display device, e.g. video projector
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41407Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance embedded in a portable device, e.g. video client on a mobile phone, PDA, laptop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42224Touch pad or touch panel provided on the remote control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/43615Interfacing a Home Network, e.g. for connecting the client to a plurality of peripherals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44227Monitoring of local network, e.g. connection or bandwidth variations; Detecting new devices in the local network
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0382Plural input, i.e. interface arrangements in which a plurality of input device of the same type are in communication with a PC
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0383Remote input, i.e. interface arrangements in which the signals generated by a pointing device are transmitted to a PC at a remote location, e.g. to a PC in a LAN
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04803Split screen, i.e. subdividing the display area or the window area into separate subareas
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/90Additional features
    • G08C2201/93Remote control using other portable devices, e.g. mobile phone, PDA, laptop
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/04Display device controller operating with a plurality of display units
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/04Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller
    • G09G2370/042Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller for monitor identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Abstract

示例装置和方法涉及第一设备(例如,电话、平板)控制在第一设备和第二设备(例如,电视、计算机)二者上显示什么。第一设备可以检测第二设备并且建立第一和第二设备之间的通信链接和上下文(例如,控制关系)。第一设备可以提供要在第二设备上显示的输出(例如,浏览器、电影)。第一设备还可以提供要在第二设备上显示的光标。响应于第一设备上的动作(例如,触摸、手势),可以控制在第一设备上运行的应用,其进而可以确定在第二显示器上显示什么。第一设备上的动作可以涉及关于显示在第二设备上的输出对光标的定位或响应。

Description

用于辅助显示器的移动设备输入控制器
背景技术
自2014年7月起,世界上存在将近二十亿台智能电话。世界上还存在将近五亿台平板计算机。用户越来越多地在其自己的移动设备上携带其自己的内容或者通过其移动设备访问其内容。例如,智能电话用户和平板用户可以在其移动设备上存储或访问电影、书籍、视频游戏和其它内容。移动设备的用户还越来越多地在其智能电话、平板、平板手机或其它移动设备上携带或访问生产力应用、演示应用和其它应用。用户还越来越多地在其手持移动设备上执行用于在较大的设备(例如,膝上型计算机、桌上型计算机)上执行的任务。例如,用户浏览互联网、与社交媒体交互、以及在其手持移动设备上玩游戏。
考虑坐在其起居室中的夫妻,其中在墙壁上挂有其大屏幕电视。可能地,大屏幕电视是具有复杂输入设备(例如,键盘、遥控、鼠标)的智能电视。现在想象夫妻想要拥有共享浏览体验以安排傍晚出去。常规地,两个人可以在沙发上挪到一起并且两人均试图观看手持移动设备上的小屏幕或者可以前后递送设备。已经做出一些常规尝试以使用大屏幕电视作为用于较小的手持设备的显示器。然而,这些常规尝试已经是麻烦的或者已经提供“低头”体验,其中手持移动设备的用户必须不断地从大显示器向小显示器转移其注意力。附加地,简单镜像可能没有利用在电视或其它监视器上可获得的整个屏幕。
还考虑科学工作者前去参加会议。科学工作者可以将她的幻灯片演示存储在其智能电话上。尽管移动设备可能擅长在个人规模上存储或访问内容和应用,但是显示屏幕典型地意图用于单独观看。因而,已经做出尝试以促进在较大的显示器上显示从移动设备输出的内容或应用。较大的显示器可以例如由电视、智能电视、计算机、监控器、投影仪或其它设备提供。在这些常规方案中,两个应用可能已经通信以促进显示内容或应用输出并且促进提供用户接口以用于控制内容或应用输出的显示。
常规地,可能已经困难的是(如果甚至可能的话)提供用于协同操作的设备的无缝体验。例如,在移动设备上运行的第一应用可能已经向在外部设备(例如,计算机、智能电视)上运行的第二应用提供内容并且第二应用可能已经显示内容。移动设备具有其用户接口并且外部设备具有其用户接口。附加地,移动设备具有其输入范型(例如,触摸屏)并且外部设备具有其输入范型(例如,遥控、键盘、鼠标)。尽管外部设备可能已经提供较大的屏幕以提供不同的观看体验,但是外部设备还提供用户可能已经必须遵照的附加用户接口和不同输入范型,其在用户试图调和来自多个机器的接口和输入范型时,典型地使设备之间的交互麻烦并且复杂。尽管多个输入设备以及输入设备和系统之间的混合和匹配呈现一种类型的问题,但是当与一些设备交互时可能出现另一种类型的问题。例如,与投影仪交互的用户可能不具有能够与投影仪交互的任何输入设备。
发明内容
提供该发明内容以便以简化形式提供对以下在具体实施方式中进一步描述的概念的选择。该发明内容不意图标识所要求保护的主题的关键特征或必要特征,也不意图用于限制所要求保护的主题的范围。
示例装置和方法通过为与外部显示器交互的移动设备的用户提供更无缝的“抬头”体验而在常规方案之上进行改进。示例装置和方法提供单个用户接口和输入范型,而不是试图在两个设备之间一起修补不便的合作,其常规地要求在两个用户接口和两个输入范型之间划分注意力。例如,“鼠标垫”类体验可以通过使用用户的移动设备(例如,智能电话、平板、平板手机)的触摸或悬停能力作为用于与第二设备相关联的辅助显示器的控制器来提供。与常规系统不同,用户的移动设备控制在其显示器和辅助显示器二者上显示什么。用户在较大的辅助显示器上显示来自其移动设备的信息并且使用用户在其移动设备上所熟悉的相同用户接口和输入范型来与辅助显示器上的内容进行交互。
考虑坐在沙发上的夫妻。他们可以计划傍晚出去。一个人可以使用其平板计算机来针对附近的餐馆而浏览互联网。来自浏览会话的信息可以显示在大屏幕电视上。该人可以使其平板处于其膝盖上并且可以通过在平板上前后刷动其手指而在大屏幕电视上在周围移动光标。附加地,该人可能能够通过在平板上敲击来“点击”所显示的浏览器上的用户接口控件。夫妻可以挑选餐馆,并且然后可以试图得到从其公寓的步行指示。因而,该人可以打开地图应用。该人可以使用捏紧和展开手势(触摸或悬停)在其膝盖上的平板上放大和缩小。一直以来,两个人能够将其注意力保持在大屏幕电视上并且不必向下去看平板。他们的共享浏览会话已经变为抬头共享社交会话,其中其注意力可以是在浏览上并且在彼此上,而不是在用于进行浏览的设备上。使手持移动设备进入其中其控制在辅助设备上显示什么而同时提供与辅助设备交互的能力的控制器模式促进了这种改进的体验。
附图说明
附图图示了本文描述的各种示例装置、方法和其它实施例。将领会到,在图中所图示的元件边界(例如,方框、方框群组或其它形状)表示边界的一个示例。在一些示例中,一个元件可以设计为多个元件或者多个元件可以设计为一个元件。在一些示例中,被示为另一个元件的内部组件的元件可以实现为外部组件并且反之亦然。此外,元件可能没有按照比例绘制。
图1图示了与辅助显示器交互并且控制辅助显示器的示例移动设备。
图2图示了与辅助显示器交互并且控制辅助显示器的示例移动设备。
图3图示了由提供单个显示器的单个移动设备控制的辅助显示器。
图4图示了由提供两个显示器的两个移动设备控制的辅助显示器。
图5图示了与充当用于辅助显示器的输入控制器的移动设备相关联的示例方法。
图6图示了与充当用于辅助显示器的输入控制器的移动设备相关联的示例方法。
图7图示了其中移动设备可以充当用于辅助显示器的输入控制器的示例云操作环境。
图8是描绘了可以充当用于辅助显示器的输入控制器的示例性移动通信设备的系统图。
图9图示了提供辅助显示器的触摸和悬停敏感控制的示例装置。
具体实施方式
随着像电话和平板这样的设备变得甚至更加无处不在,用户关于理应由其“电话”执行的功能的体验已经显著地提升。然而,已经被用作用于辅助显示器的控制器的移动设备典型地已经产生低头体验,其中已经困难的是(如果甚至根本可能的话)以在辅助显示器上显示的事物无缝地工作。低头体验源自于必须向下去看电话或平板以确保用户触摸“正确”位置。“正确”位置典型地已经由提供辅助显示器的辅助设备(例如,计算机、电视)限定或控制。示例装置和方法检测在用户的移动设备(例如,电话、平板)上的i/o接口处执行的动作(例如,触摸动作、悬停动作)并且在“抬头”体验中控制与辅助显示器的交互和显示,其中第一设备控制在两个设备上显示什么。
示例装置和方法可以在辅助显示器上显示用户接口元件(例如,光标、对话框、滚动条、虚拟键盘)。和紧密地耦合用户的移动设备上的用户接口元件与辅助显示器上的用户接口元件的常规系统不同,示例装置和方法可以解耦合或者至少较不紧密地耦合用户接口元件以产生抬头体验。可以关于与用户的触摸或悬停敏感设备(例如,电话、平板)相关联的触摸或悬停空间中的指头(例如,拇指)而建立触摸或悬停点(参考点)。参考点可以用于控制显示在辅助显示器上的光标的存在、位置、外观或功能。例如,当用户在触摸或悬停空间中在x、y或z方向上移动其拇指时,光标可以在辅助显示器上在周围移动。在一个实施例中,用户的设备的表面可以映射到辅助显示器的表面。但是在另一个实施例中,用户的设备的表面可以不映射到辅助显示器的表面,并且触摸或悬停运动可以对光标进行定位而独立于参考点在触摸或悬停空间中位于哪里。触摸或悬停运动可以引起与将由鼠标垫提供的那些类似的输入。尽管使用术语“光标”来指呈现在辅助显示器上的项目,但是更一般地,可以在辅助显示器上呈现触摸或悬停点或其它视觉指示以指示该点在辅助显示器上由触摸或悬停点控制。
用户可能熟悉用于他们自己电视、其自己DVD(数字多用盘)、其自己游戏操控台以及他们与其规律地交互的其它设备的遥控。这些遥控往往具有映射到预限定的控制动作的固定物理按钮。例如,电视遥控上的开/关按钮可能总是处于相同位置并且可能总是执行相同功能。类似地,游戏控制器上的“左触发”和“右触发”按钮可能总是处于相同位置并且可能总是映射到用于应用(例如,游戏)的相同控制动作。常规设备控制器(例如,游戏控制器、键盘、游戏控件)已经具有物理按钮,其为用户提供帮助用户做出期望的输入而不必向下去看其自己的控制器的物理触摸点。使用这些常规控制器可能变为其所有者的第二天性,但是除其所有者之外,这些相同的控制器可能与任何人完全不合(alien)。许多人熟悉的是试图查明如何在其他人的家里打开电视的困惑且受挫的体验。
触摸敏感设备(例如,智能电话、平板)的盛行向用户已经密集的日常生活已经添加了又一个电子设备片段。已经做出尝试以利用触摸敏感设备更换常规、专用、按钮为中心的控制器。然而,智能电话、平板和其它触摸或悬停敏感设备不具有熟悉位置处的熟悉按钮并且因此尚未得出可接受的结果。使用具有其自己的显示器的触摸或悬停敏感设备的常规尝试已经遵循以下模型:其中用于辅助设备的控件显示在触摸或悬停敏感设备上。例如,对于DVD播放器控件,电话可以在电话上显示DVD控件。这导致“低头”操作,其中用户的聚焦点被引导朝向手持触摸或悬停敏感设备而不是辅助显示器。甚至在对应控件显示于辅助显示器和触摸或悬停敏感设备二者上时,对应控件往往在手持设备和辅助显示器之间紧密耦合并且因而用户往往将其聚焦点切换到手持设备以确保他们按压期望按钮。甚至在做出手持设备和外部显示器之间的可用配对时,用户可能仍旧必须导航外部设备本机的用户接口。例如,不同智能TV可以具有不同输入接口、设备或范型。这些用户接口或设备可能对于用户而言不熟悉,并且可能对于用户以其移动设备所遇到的每一个外部设备而言不同。用户仍旧必须了解本机控制器的接口,而不只是使用其自己的设备。
通过不直接地将用户的设备上的位置映射到辅助显示器,示例装置和方法可以允许用户的设备更像控制器而较不像辅助显示器的小型版本那样起作用。在一个实施例中,光标可以最初定位在辅助显示器的中心,而不管在移动设备上哪里建立参考点。由于用户知晓光标将出现在辅助显示器的中间,而无论它们在其移动设备上哪里建立参考点,所以不存在鼓励用户去看其设备。在另一个实施例中,光标可以定位在辅助显示器上的最有可能使用的控件之上,而不管在用户设备上哪里建立参考点。再次,由于用户知晓光标将出现于与在用户设备上哪里建立参考点独立的预限定的位置中,所以不存在鼓励向下去看他们的设备,其推动了抬头体验。在一个实施例中,光标可以最初基于参考点的所映射的位置来放置。当用户在与其移动设备相关联的触摸或悬停空间中在周围移动其拇指时,光标可以在辅助显示器上移动。最终地,用户可能决定通过在将光标定位于按钮之上之后敲击他们的设备来“按压”辅助显示器上的按钮。可能并没有关系的是用户在他们的设备上敲击哪里,可能仅有关系的是用户敲击设备而同时其向辅助显示器提供光标和内容。
考虑其中用户具有电话的情景,该电话具有向辅助屏幕“屏播”屏幕的能力。例如,电话可能能够向辅助屏幕进行多播(Miracast)。辅助屏幕可能已经由其电话或者由另一个设备或过程所启动。示例装置和方法为电话提供使用由其电话提供的触摸或悬停功能性在辅助屏幕上控制输出(例如,内容、光标)的能力。触摸或悬停功能性可以允许用户在他们的电话上运行游戏,在辅助显示器上显示游戏,并且使用电话作为用于游戏的控制器。由电话提供的控制可以允许游戏控件或系统级控件显示在辅助显示器上的游戏上。还可以显示、控制其它应用(例如,浏览器)以及与其交互。
示例装置和方法通过使移动设备控制在其显示器和外部设备的显示器二者上示出什么来提供这种改进的无缝体验。例如,当用户的设备与由示例装置和方法所支持的外部显示器交互时,用户的设备可以提供用于外部显示器的用户接口和内容二者。用户接口可以包括两个控件(例如,按钮、滚动条、菜单)和可移动光标以用于与控件或内容交互。内容可以例如为幻灯片、电影、照片、视频游戏或者来自另一个应用的输出。与常规系统不同,移动设备控制在两个设备上示出什么。
一旦在外部设备上显示来自用户设备的内容,用户就可能想要具有“抬头”体验,其中他们可以使其聚焦点保持在外部设备上的显示器上。示例装置和方法因此使用移动设备本机的用户接口和输入范型而促进使用移动设备作为用于外部显示器的输入设备。例如,在移动设备处做出的触摸或手势可以控制(例如,重新定位)外部设备上的光标。类似地,在移动设备处做出的触摸或手势(例如,滚动、点击、放大、缩小)可以控制外部设备上的内容的显示。
再次考虑夫妻在他们的大屏幕智能电视前方在其沙发中具有共享浏览体验。平板可以用于为夫妻提供鼠标垫类体验。他们可能能够重新定位光标、滚动通过图像、拉下菜单以及做出选择、录入文本、或者通过平板执行其它用户输入动作而同时维持其聚焦于大屏幕电视上。例如,当对他们选择的餐馆进行预约时,对话框可以出现在浏览器中。对话框可能寻找用于预约的姓名。在该示例中,夫妻的平板可以在辅助显示器上显示虚拟键盘以允许使用平板计算机键入姓名。虚拟键盘可以由平板提供和处置。在录入姓名之后,预约可以要求录入时间。可以呈现下拉列表输入,其让用户转动转盘以得到预约时间的小时和分钟。用户可能能够使用平板上的滚动或刷动手势转动转盘,并且然后可以通过敲击控制器而点击提交按钮。下拉列表可以由平板提供。夫妻可能甚至能够在他们共享浏览体验期间前后递送平板。
再次考虑在会议中显示她的幻灯片的科研工作者。她可以将其智能电话放置在她前方的平板上,并且使用它作为关于所显示的幻灯片的鼠标垫类输入设备。科研工作者可以使用她将以智能电话所使用的相同触摸或手势,来操控外部显示器上的光标或内容。通过使智能电话控制在两个设备上显示什么而实现抬头体验,甚至是在外部设备具有其自己的处理器、存储器或其它资源时。当智能电话与外部显示器交互时,智能电话可以决定不再在其自己的显示器上显示幻灯片。
一些实施例可以包括对于触摸和悬停动作二者敏感的电容输入/输出(i/o)接口。电容i/o接口可以检测触摸屏幕的对象(例如,手指、拇指、触笔)。电容i/o接口还可以检测没有触摸屏幕但是位于与屏幕相关联的三维体积(例如,悬停空间)中的对象9(例如,手指、拇指、触笔)。电容i/o接口可能能够同时检测触摸动作和悬停动作。电容i/o接口可能能够检测多个同时的触摸动作和多个同时的悬停动作。第一设备(例如,电话)可以建立第一设备将以其与辅助设备(例如,电视、计算机监控器、游戏监控器)交互的上下文。第一设备可以进入控制器模式,其中第一设备变得负责在两个设备上显示什么。第一设备可以提供悬停接口,其促进在辅助设备上移动光标。第一设备可以控制在第一设备和第二设备二者上显示什么。
尽管目前已经描述了具有单个电话的单个用户,但是示例装置和方法可以针对共享单个辅助显示器或甚至辅助显示器上的多个呈现的多个用户或多个电话而提供辅助显示器上的悬停或触摸点。例如,在玩足球游戏的两个用户可以各自提供有光标,其可以用于控制显示在辅助显示器上的玩家。或者,在面向团队的视频游戏中合作的多个用户可以各自具有显示在公共辅助显示器上的光标,以促进与虚拟控件并且与彼此的交互。返回到我们在沙发上的夫妻,两个人可以具有其平板。一个平板可以变为“主要”控制器并且可以例如在大屏幕电视上呈现浏览器。该平板的持有者可以呈现有浏览器上的第一光标。另一个平板可以变为“辅助”控制器并且可以为第二平板的持有者呈现浏览器上的第二光标。因而,两个用户可能能够同时地在大屏幕电视上进行导航。
在一个实施例中,大屏幕电视上的不动(real estate)部分可以分配给第一用户并且大屏幕电视上的不动不同部分可以分配给第二用户。在该实施例中,第一用户的平板可以控制在大屏幕的第一部分上显示什么并且第二用户的平板可以控制在大屏幕的第二部分上显示什么。例如,第一用户可以具有打开的浏览器会话,其中夫妻在定位餐馆。第二用户可以具有打开的社交媒体应用,其中夫妻使用该应用与朋友协调餐馆就餐。第一用户的移动设备可以提供用于浏览器的光标和其它用户接口功能性,而第二用户的移动设备可以提供用于社交媒体应用的不同光标和其它用户接口功能性。在该实施例中,夫妻享受在常规系统中不可获得的双抬头共享浏览体验。
图1图示了可以是触摸敏感和悬停敏感二者的示例设备100。设备100包括输入/输出(i/o)接口110。I/O接口110可以为触摸敏感和悬停敏感二者。示例设备100控制在示例设备100和辅助显示器170二者上显示什么。设备100可以包括检测对象(例如,指头、具有电容尖端的笔状触笔)何时触摸i/o接口110的触摸检测器。触摸检测器可以就触摸i/o接口110的对象的位置(x、y)、辅助显示器170上的光标的位置、在辅助显示器170上激活的用户接口元件或者其它信息进行报告。触摸检测器还可以就对象在其中移动的方向,对象以其移动的速度,对象是否执行敲击、还是双击、三击或其它敲击动作,对象是否执行可识别手势、或者其它信息进行报告。
设备100还可以包括接近检测器,其检测对象(例如,指头、笔、具有电容尖端的触笔)何时接近但没有触摸i/o接口110。接近检测器可以标识三维悬停空间150中的对象160的位置(x、y、z),其中x和y彼此正交并且处于与接口110的表面平行的平面中并且z垂直于接口110的表面。接近检测器还可以标识对象160的其它属性,包括例如对象160以其在悬停空间150中移动的速度、对象160关于悬停空间150的取向(例如,倾斜、滚动、偏航)、对象160以其关于悬停空间150或设备100移动的方向、由对象160做出的手势、或者对象160的其它属性。尽管图示了单个对象160,但是接近检测器可以检测悬停空间150中的多于一个对象。
在不同示例中,触摸检测器可以使用有源或无源系统。类似地,在不同示例中,接近检测器可以使用有源或无源系统。在一个实施例中,单个装置可以执行触摸检测器和接近检测器功能二者。组合式检测器可以使用感测技术,包括但不限于,电容、电场、电感、霍尔效应、Reed效应、涡流效应、磁阻式、光学阴影、光学视觉光、光学红外(IR)、光学颜色识别、超声、声波发射、雷达、热量、声呐、传导和电阻技术。除其它系统之外,有源系统可以包括红外或超声系统。除其它系统之外,无源系统可以包括电容或光学阴影系统。在一个实施例中,当组合式检测器使用电容技术时,检测器可以包括电容感测节点的集合以检测悬停空间150中或者i/o接口110上的电容改变。电容改变可以例如由触摸电容感测节点或者进入电容感测节点的检测范围内的(多个)指头(例如,手指、拇指)或(多个)其它对象(例如,笔、电容触笔)而引起。
图2图示了与辅助显示器210(例如,电视)交互的触摸或悬停敏感设备200(例如,电话、平板)。设备200可以建立与辅助显示器210的通信链接。一旦已经建立通信并且设备200进入控制器模式,则设备200控制在设备200和辅助显示器210二者上显示什么。例如,控件220的集合可以显示在辅助显示器210上并且虚线圆212可以显示在辅助显示器210上作为光标或者作为用户指头的位置的表示。在一个实施例中,控件220的集合还可以显示在设备200上。显示哪些控件220可以取决于在向显示器210提供内容230(例如,电影、文档、游戏)的设备200上运行的应用。光标212的大小、形状、外观或其它属性也可以取决于该应用。用户然后可以移动触摸或悬停点202以重新定位光标212。如果用户将光标212定位在控件220的成员并且然后与设备200交互,则可能看起来的是,控件220的成员被按压并且与控件220的成员相关联的对应动作可以生成。例如,按压暂停按钮可以暂停内容230的呈现。动作可以控制向显示器210提供内容的应用。在常规系统中,显示在辅助显示器210上的控件由辅助设备提供并且因而用户可能需要使其动作遵照辅助设备。示例装置可以使显示在辅助显示器210上的控件由装置200提供,并且因而用户可以使用他们熟悉的动作与装置200和辅助显示器210交互。
图3图示了通过在辅助显示器300上提供单个显示器320的单个移动设备310控制的辅助显示器300。单个显示器320可以例如为在移动设备310上运行的浏览器。移动设备310可以提供显示器320和光标322二者。光标322可以通过在移动设备310上执行的用户动作(例如,敲击、滚动、手势)来控制。
图4图示了通过提供两个显示器的两个移动设备控制的辅助显示器400。在一个实施例中,两个移动设备可以共享相同大显示器。第一移动设备410可以提供第一显示器420和第一光标422。第一光标422可以通过在移动设备410上执行的动作(例如,触摸、悬停手势)控制。第二移动设备415可以提供第二显示器430和第二光标432。第二光标432可以通过在移动设备415上执行的动作(例如,触摸、悬停手势)控制。返回到以上描述的夫妻,第一个人可以持有设备410(例如,智能电话)并且浏览互联网,并且第二个人可以持有设备415(例如,平板)并且可以与社交媒体应用交互。
尽管将两个移动设备图示为提供两个显示器和两个光标,但是不同数目和组合的移动设备可以提供不同数目和组合的显示器和光标。
结合图3和4描述的功能性可以由系统提供。在一个实施例中,系统可以包括运行第一应用的第一移动设备、第二移动设备、以及具有在第一移动设备和第二移动设备外部并且从其分离的显示器的装置。在该实施例中,第一移动设备控制显示在第一移动设备和显示器上的图像。图像与第一应用相关联。例如,应用可以是浏览器并且图像可以是由浏览器产生的屏幕。
在该实施例中,第一移动设备还提供光标。例如,第一移动设备可以提供用于第一移动设备的第一可移动光标以及用于第二移动设备的第二可移动光标。第一可移动光标响应于在第一可移动设备处执行的动作而在显示器上可移动。例如,当用户在第一设备上周围移动其手指时第一光标也可以周围移动。类似地,第二可移动光标响应于在第二可移动设备处执行的动作而在显示器上可移动。在该实施例中,第一移动设备可以执行所有控制。因而,第一移动设备可以处置涉及第一光标的第一移动设备处的用户输入,并且第一应用也可以处置涉及第二光标和第一应用的第二移动设备处的用户输入。
在另一个实施例中,第二设备还可以运行应用。在该实施例中,第一移动设备可以仍旧行使系统中的几乎所有控制。例如,第一移动设备可以控制显示在显示器上的图像,其中图像与第一应用或第二应用相关联。附加地,第一移动设备可以处置涉及第一光标、第一应用的第一移动设备处的用户输入,并且第一应用还可以处置涉及第二光标的第二应用的第二移动设备处的用户输入。
在另一个实施例中,控制可以更为分布。例如,第二移动设备可以运行第二应用。在该实施例中,第一移动设备可以控制呈现在显示器上、与第一应用相关联的图像,但是第二移动设备可以控制呈现在显示器上、与第二应用相关联的图像。继续分布式控制的方案,第一移动设备可以处置涉及第一光标的第一应用的第一移动设备处的用户输入,并且第二移动设备可以处置涉及第二光标和第二应用的第二移动设备处的用户输入。
在存储器内的数据位上的操作的算法和符号表示方面,呈现接下来的详细描述的一些部分。这些算法描述和表示由本领域技术人员使用,以向其他人传达其工作的实质。算法被视为产生结果的操作的序列。操作可以包括创建和操控物理量,其采取电子值的形式。创建或操控以电子值的形式的物理量产生具体、有形、有用、真实世界的结果。
已经证实方便的是,有时候,原则上出于共同使用的原因,将这些信号称为位、值、元件、符号、字符、项、编号和其它术语。然而,应当谨记的是,这些和类似术语将与适当的物理量相关联并且仅仅是应用于这些量的方便标记。除非特别地以其它方式陈述,否则要领会到,在整个描述中,包括处理、计算和确定的术语是指计算机系统、逻辑、处理器、或者操控和变换表示为物理量(例如,电子值)的数据的类似电子设备的动作和过程。
示例方法可以参照流程图更好地领会。为了简单起见,所图示的方法被示出和描述为一系列框。然而,方法可以不受框的次序所限制,因为在一些实施例中,框可以以与所示出和描述的不同次序而发生。然而,可能要求比所图示的所有框更少的框以实现示例方法。各框可以组合或分离成多个组件。此外,附加或可替换方法可以采用附加的、没有图示的框。
图5图示了与充当用于辅助显示器的控制器的移动设备相关联的示例方法500。方法500可以运行在具有悬停敏感或触摸敏感接口和显示器的第一设备(例如,电话、平板、计算机)上。方法500可以控制第一设备以向第二设备上的显示器提供内容、光标、控件或其它信息。因而,方法500包括在510处检测具有第二显示器的第二设备。第二设备可以例如是电视、监控器、计算机、投影仪、可以插入输出设备中的电子狗或其它设备。
方法500包括在520处建立第一设备与第二设备之间的通信链接。建立通信链接可以包括例如建立有线链接或无线链接。有线链接可以使用例如HDMI(高清晰度多媒体接口)接口、USB(通用串行总线)接口或其它接口来建立。无线链接可以使用例如Miracast接口、蓝牙接口、NFC(近场通信)接口或其它接口来建立。Miracast接口促进了使用WiFi直接连接建立点对点无线屏播连接。蓝牙接口促进了使用ISM(产业、科研、医用)频带中的短波微波传送在短距离上交换数据。
方法500还包括在530处进入控制器模式。进入控制器模式可以是针对第一设备和第二设备之间的交互建立上下文的部分。在“控制器”模式中,第一设备将控制在第一设备和第二显示器二者上显示什么。在一个实施例中,建立上下文包括标识将产生要在第二显示器上显示的内容的应用。应用可以例如是浏览器、社交媒体应用、电影呈现应用、电视呈现应用、视频游戏、生产力应用、幻灯片应用、或者产生可以观看的内容的其它应用。应用将在第一设备上运行或者将由第一设备促进。
建立上下文还可以包括标识可以由第一设备显示在第二显示器上的用户接口元件。某些用户接口元件对于某些应用有意义。例如,DVD类控件对于电视或电影呈现应用有意义,但是对于视频游戏可能没有意义。促进在虚拟世界周围移动角色的用户接口元件可能更适合用于视频游戏。当针对共享浏览体验而呈现浏览器时,可能需要最初显示的仅有用户接口元件是光标。在一个实施例中,所呈现的用户接口元件可以包括“浏览器chrome”,包括例如地址栏、返回按钮、前进按钮、刷新按钮或其它元件。在一个实施例中,当在使用多个第一设备时,可以针对一个移动手持设备(例如,用户的智能电话)提供一个光标,并且可以针对另一个移动手持设备(例如,用户的平板)提供另一个光标。
建立上下文还可以包括标识可以由第一设备显示在第二显示器上的光标。不同光标对于不同应用可能是适当的。例如,十字准线对于其中牵涉到瞄准的应用可能是适当的,但是一对剪刀或漆刷对于艺术和手艺应用可能是适当的。当在使用多个第一设备时,用户的缩写或化身可以被用作光标。
在一个实施例中,建立上下文还可以包括标识光标位置或移动是否将独立于触摸或悬停点的位置。与将触摸敏感设备上的位置直接映射到辅助显示器上的位置并且将显示在第一设备上的控件映射到显示在辅助显示器上的控件的常规应用不同,方法500可以解耦合一对一对应关系以允许触摸或悬停敏感设备产生运动,该运动不依赖于用户的移动设备之上的位置而是依赖于移动设备之上的运动。用户熟悉鼠标垫类运动或者追踪球类运动,以及其中例如鼠标从左向右移动、抬起和从后向左移动、放下和再次从左向右移动等等的运动。这些类型的运动已经典型地为困难的,如果甚至根本不可能的话,以利用在常规低头方案中使用的移动设备进行捕获或建模,其中移动设备屏幕位置直接映射到对应于由辅助显示器提供的控件的辅助显示器位置。
方法500还包括在540处在第一显示器上选择性显示与运行在第一设备上的应用相关联的第一输出。应用可以例如是web浏览器。输出可以例如是web浏览器。在一个实施例中,为了提升抬头体验,一旦第一设备进入控制器模式,方法500就可以使第一显示器变暗,或者仅显示对于移动光标有用的信息。
方法500还包括在550处提供要在第二显示器上显示的第二输出。第二输出可以与应用(例如,浏览器)或者来自与第一设备相关联的应用的内容(例如,电影)相关联。例如,对于电影应用,第二输出是电影(例如,场景流),而对于视频游戏,第二输出是游戏屏幕,并且对于文字处理应用,第二输出是进行文字处理的文档。对于浏览器,第二输出可以是浏览器。在一个实施例中,应用可以在第一设备上运行。在另一个实施例中,应用可以在第三设备上或者在云中运行,并且内容可以通过第一设备流传送。第二输出可以与第一输出相同。
方法500还包括在560处使用触摸或悬停接口与第二输出交互。在一个实施例中,使用触摸或悬停接口与第二输出交互包括选择性控制应用、第一输出或第二输出。控制可以至少部分地基于以触摸或悬停接口执行的触摸或悬停动作。例如,如果触摸动作是显示在浏览器中的链接上的敲击,则可以跟随的是链接。由于第一设备在第二设备上显示内容,所以触摸或悬停动作可以涉及显示在第二显示器上的第二输出。例如,如果触摸动作是展开手势,则第二输出可以是缩小。触摸或悬停动作可以例如是敲击或双击。触摸或悬停动作还可以例如是手势(例如,捏紧、展开、迟疑、抛掷)。
图6图示了方法500的另一个实施例。该实施例还包括附加动作。例如,该实施例包括在570处提供要显示在第二显示器上的第三输出。第三输出可以包括配置为促进与第二输出进行交互的用户接口元件。第三输出可以例如为光标。第三输出可以与对应用的控制相关联。第三输出可以响应于以触摸或悬停接口执行的触摸或悬停动作而在第二显示器上可移动。例如,当用户在其智能电话上从左向右滚动其手指时,显示在大屏幕电视上的光标也可以从左向右移动。
方法500的该实施例还包括在580处至少部分地基于以触摸或悬停接口执行的触摸或悬停动作而选择性控制应用、第一输出、第二输出或第三输出,其中触摸或悬停动作涉及第二输出。触摸或悬停动作可以通过光标的位置而涉及第二输出。对应用的控制可以包括向应用提供控制事件。例如,当光标定位在按钮上时在第一设备上的敲击可以使得按钮点击事件提供给应用。对第二输出的控制可以例如包括响应于例如捏紧或展开手势而放大或缩小。对第三输出的控制可以包括例如将光标从与非活跃光标相关联的图标改变成与活跃光标相关联的图标。
在一个实施例中,第三输出可以是上下文敏感的。例如,第三输出可以包括DVD类控件和光标,其可以定位在DVD类控件中的一个之上或附近。第三输出的特性可以至少部分地基于上下文以及与悬停点相关联的悬停动作。例如,第二输出的大小、形状、颜色或其它外观可以基于什么应用在运行以及发生什么类型的悬停动作。在其中首先建立悬停点的悬停进入事件中,可以在辅助显示器上建立大的黯淡光标。在将悬停点带得更接近悬停敏感设备的悬停移动事件中,较小、更明亮的光标可以呈现在辅助显示器上。因而,方法500可以包括基于悬停点的z距离(例如,生成悬停事件的对象距悬停敏感接口的距离)来控制光标的外观(例如,大小、形状、颜色)。回忆起第二输出可以是来自应用的内容(例如,电影、游戏屏幕、正编辑的文档)或者可以是应用(例如,浏览器)的表示并且第三输出不是来自应用的内容。第三输出可以促进与应用或者第二输出进行工作或者对其进行操控。
方法500的该实施例还可以包括在552处确定光标的属性是否将独立于与触摸或悬停接口相关联的触摸或悬停点的位置。属性可以例如是光标的位置、光标的外观、光标将如何移动或者其它属性。如果552处的确定为是,则方法500继续在556处确定独立于触摸或悬停点位置的属性。例如,初始位置可以处于辅助显示器的中心、最有可能使用的控件上或附近、两个控件之间等距、定心在控件的群组中、或者不依赖于悬停点的位置的另一个位置中。当光标的位置不依赖于触摸或悬停点的位置时,不存在向下去看触摸或悬停敏感设备的理由,其促进了抬头操作。如果552处的确定为否,则方法500继续在554处基于触摸或悬停点来确定光标的属性。
尽管图5和6图示了串行发生的各种动作,但是要领会到,在图5和6中图示的各种动作可以基本上并行地发生。作为图示,第一过程可以控制要显示的内容,第二过程可以控制要显示的光标和控件,并且第三过程可以生成或处置控制事件。尽管描述了三个过程,但是要领会到,可以采用更大或更小数目的过程并且可以采用轻量过程、规律过程、线程和其它方案。
在一个示例中,方法可以实现为计算机可执行指令。因而,在一个示例中,计算机可读存储介质可以存储计算机可执行指令,其如果由机器(例如,计算机、电话、平板)执行则使机器实施本文描述或要求保护的方法,包括方法500或600。尽管与所列出的方法相关联的可执行指令被描述为存储在计算机可读存储介质上,但是要领会到,与本文描述或要求保护的其它示例方法相关联的可执行指令也可以存储在计算机可读存储介质上。在不同实施例中,本文描述的示例方法可以以不同方式触发。在一个实施例中,方法可以由用户手动触发。在另一个示例中,方法可以自动触发。
图7图示了示例云操作环境700。云操作环境700支持递送计算、处理、存储、数据管理、应用以及作为抽象服务而不是独立式产品的其它功能性。服务可以通过可以实现为一个或多个计算设备上的一个或多个过程的虚拟服务器来提供。在一些实施例中,过程可以在服务器之间迁移而不打断云服务。在云中,共享资源(例如,计算、存储)可以在网络之上提供给计算机,包括服务器、客户端和移动设备。不同网络(例如,以太网、Wi-Fi、802.x、蜂窝)可以用于访问云服务。与云交互的用户可以不需要知晓实际提供服务(例如,计算、存储)的设备的细节(例如,位置、名称、服务器、数据库)。用户可以经由例如web浏览器、简约客户端、移动应用或者以其它方式来访问云服务。
图7图示了驻留在云700中的示例控制器服务760。控制器服务760可以依赖于服务器702或服务704来执行处理,并且可以依赖于数据仓库706或数据库708来存储数据。尽管图示了单个服务器702、单个服务704、单个数据仓库706和单个数据库708,但是服务器、服务、数据仓库和数据库的多个实例可以驻留在云700中并且因此可以由控制器服务760使用。
图7图示了访问云700中的控制器服务760的各种设备。设备包括计算机710、平板720、膝上型计算机730、桌上型监控器770、电视760、个人数字助手740和移动设备(例如,蜂窝电话、卫星电话)750。可能的是,使用不同设备的不同位置处的不同用户可以通过不同网络或接口访问控制器服务760。在一个示例中,控制器服务760可以由移动设备750访问。在另一个示例中,控制器服务760的部分可以驻留在移动设备750上。控制器服务760可以执行动作,包括例如在辅助显示器上呈现内容、在辅助显示器上呈现应用(例如,浏览器)、在辅助显示器上呈现光标、在辅助显示器上呈现控件、响应于移动设备750上的交互而生成控制事件或者其它服务。在一个实施例中,控制器服务760可以执行本文描述的方法(例如,方法500、方法600)的部分。
图8是描绘了示例性移动设备800的系统图,其包括一般地在802处示出的各种可选的硬件和软件组件。移动设备800中的组件802可以与其它组件通信,尽管为了图示方便而没有示出所有连接。移动设备800可以是各种计算设备(例如,手机、智能电话、平板、平板手机、手持计算机、个人数字助手(PDA)等)并且可以允许与一个或多个移动通信网络804(诸如蜂窝或卫星网络)的无线双向通信。
移动设备800可以包括控制器或处理器810(例如,信号处理器、微处理器、专用集成电路(ASIC)或其它控制和处理逻辑电路)以用于执行任务,包括触摸检测、悬停检测、辅助显示器上的悬停点控制、辅助显示器上的触摸点控制、辅助显示器上的用户接口显示控制、信号编码、数据处理、输入/输出处理、功率控制或者其它功能。操作系统812可以控制组件802的分配和使用并且支持应用程序814。应用程序814可以包括移动计算应用(例如,电子邮件应用、日程表、联系人管理器、web浏览器、消息应用)、视频游戏、电影播放器、电视播放器、生产力应用或者其它应用。
移动设备800可以包括存储器820。存储器820可以包括不可移除存储器822或可移除存储器824。不可移除存储器822可以包括随机存取存储器(RAM)、只读存储器(ROM)、闪速存储器、硬盘或者其它存储器存储技术。可移除存储器824可以包括闪速存储器或订户身份模块(SIM)卡,其在GSM通信系统中已知,或者其它存储器存储技术,诸如“智能卡”。存储器820可以用于存储数据或代码以用于运行操作系统812和应用814。示例数据可以包括触摸动作数据、悬停动作数据、组合触摸和悬停动作数据、用户接口元件状态、光标数据、悬停控制数据、悬停动作数据、控制事件数据、网页、文本、图像、声音文件、视频数据、或者要经由一个或多个有线或无线网络发送给一个或多个网络服务器或其它设备或者从其接收的其它数据集。存储器820可以存储订户标识符,诸如国际移动订户身份(IMSI),以及设备标识符,诸如国际移动设备标识符(IMEI)。标识符可以传送给网络服务器以标识用户或设备。
移动设备800可以支持一个或多个输入设备830,包括但不限于,触摸敏感并且悬停敏感的屏幕832、麦克风834、相机836、物理键盘838或追踪球840。移动设备800还可以支持输出设备850,包括但不限于,扬声器852和显示器854。显示器854可以并入触摸敏感且悬停敏感的i/o接口中。其它可能的输入设备(未示出)包括加速度计(例如,一维、二维、三维)。其它可能的输出设备(未示出)可以包括压电或其它触觉输出设备。一些设备可以服务多于一个输入/输出功能。输入设备830可以包括自然用户界面(NUI)。NUI是使得用户能够以“自然”方式在免受由诸如鼠标、键盘、遥控等等输入设备强加的人为约束的情况下与设备交互的接口技术。NUI方法的示例包括依赖于语音识别、触摸和触笔识别、手势识别(在屏幕上和屏幕附近二者)、空中手势、头部和眼睛追踪、话语和语音、视力、触摸、手势和机器智能的那些。NUI的其它示例包括使用加速度计/陀螺仪的运动手势检测、面部识别、三维(3D)显示器、头部、眼睛和凝视追踪、沉浸式增强现实和虚拟现实系统,其全部提供更为自然的接口,以及用于使用电场感测电极感测脑部活动的技术(脑电波(EEG)和相关方法)。因而,在一个具体示例中,操作系统812或应用814可以作为话语用户接口的部分而包括语音识别软件,其允许用户经由话语命令来操作设备800。另外,设备800可以包括允许经由用户的空间手势的用户交互的输入设备和软件,诸如对与控制辅助显示器上的输出动作相关联的触摸和悬停手势进行检测和解译。
无线调制解调器860可以耦合到天线891。在一些示例中,使用射频(RF)滤波器并且处理器810不需要选择用于所选频带的天线配置。无线调制解调器860可以支持处理器810和外部设备之间的双向通信,该外部设备具有其内容或控制元件可以至少部分地由控制器逻辑899控制的辅助显示器。调制解调器860一般地示出并且可以包括用于与移动通信网络804通信的蜂窝调制解调器和/或其它基于无线电的调制解调器(例如,蓝牙864或Wi-Fi 862)。无线调制解调器860可以配置用于与一个或多个蜂窝网络的通信,诸如用于单个蜂窝网络内、蜂窝网络之间或者移动设备和公共切换电话网络(PSTN)之间的数据和语音通信的全球移动通信(GSM)网络。移动设备800还可以使用例如近场通信(NFC)元件892本地通信。
移动设备800可以包括至少一个输入/输出端口880、电源882、诸如全球定位系统(GPS)接收器之类的卫星导航系统接收器884、加速度计886或者物理连接器890,其可以是通用串行总线(USB)端口、IEEE 1394(火线)端口、RS-232端口或其它端口。所图示的组件802不是所要求或穷举式的,因为可以删除或添加其它组件。
移动设备800可以包括控制器逻辑899,其提供用于移动设备800以及用于控制移动设备800与其交互的辅助显示器上所显示的内容或控件的功能性。例如,控制器逻辑899可以提供用于与服务(例如,服务760,图7)交互的客户端。本文描述的示例方法的部分可以由控制器逻辑899执行。类似地,控制器逻辑899可以实现本文描述的装置的部分。
图9图示了控制自己和辅助显示器二者的装置900。在一个示例中,装置900包括物理接口940,其连接处理器910、存储器920、逻辑集930、接近检测器960、触摸检测器965以及触摸敏感或悬停敏感的i/o接口950。逻辑集930可以控制在装置900上显示什么并且可以控制在与另一个装置相关联的辅助显示器上显示什么。在一个实施例中,接近检测器960和触摸检测器965可以共享电容感测节点的集合,其提供用于输入/输出接口的触摸敏感性和悬停敏感性二者。装置900的元件可以配置为彼此通信,但是出于图示的清楚起见而没有示出所有连接。
触摸检测器965可以检测对象975何时触摸i/o接口950。接近检测器960可以检测与装置900相关联的悬停空间970中的对象980。悬停空间970可以例如是设置在i/o接口950的接近中以及接近检测器960可访问的区域中的三维体积。悬停空间970具有有限界线。
在一个实施例中,装置900可以提供用于辅助显示器的两个或更多观看者的共享浏览体验。共享浏览体验可以包括提供可共享的光标或者每一观看者的光标,其可以是响应于在与两个或更多观看者相关联的移动设备处执行的用户接口动作。例如,如果第一观看者具有智能电话,则装置900可以提供辅助显示器上的光标,其可以通过第一观看者与其智能电话进行交互来控制。附加地,如果第二观看者具有平板,则装置900可以提供辅助显示器上的另一个光标,其可以通过第二观看者与其平板进行交互来控制。第一观看者或者第二观看者可以在使用装置900。
处置来自用户设备(例如,智能电话、平板)的用户输入促进了装置900通过协调在用户的设备上显示什么以及在辅助显示器上显示什么而提升用于用户的抬头体验。输出可以经协调以促进建立和维持辅助显示器上的视觉聚焦。
装置900可以包括第一逻辑932,其提供要在辅助显示器上显示的内容。内容可以由至少部分地在装置900上运行的应用来产生。内容可以例如是由运行在装置900上的应用(例如,浏览器)产生的输出。应用可以例如是电影呈现应用、电视呈现应用、生产力应用(例如,文字处理器、工作表)、视频游戏、或者具有要观看的内容的其它应用。应用可以部分地或者完全地在装置900上运行。当例如一些处理在另一个装置上或者在云中执行时,应用可以部分地在装置900上运行。
装置900可以包括第二逻辑934,其提供要在辅助显示器上显示的控制元件。在一个实施例中,控制元件不是由应用产生,而是由第二逻辑934产生。在一个实施例中,控制元件是光标。当控制元件是光标时,第二逻辑934响应于与输入/输出接口950的触摸或悬停交互而控制光标的位置、移动或外观。在一个实施例中,第二逻辑934确定用于光标的初始位置。初始位置可以独立于与输入/输出接口950相关联的触摸或悬停点的位置。光标的其它属性还可以由第二逻辑934确定。
存在由第一逻辑932和第二逻辑934提供的内容之间的区分。由第二逻辑934提供的附加素材不是由应用产生的内容或者应用。考虑浏览器。第一逻辑932在辅助显示器上显示浏览器。第二逻辑934可以提供用于导航浏览器的光标。现在考虑视频游戏。由第一逻辑932提供的“内容”可以是游戏图、化身、武器、爆炸以及与游戏相关联的其它图像。由第二逻辑934提供的附加素材可以例如是控制按钮、导航工具、用于与控制按钮交互的光标、或者不是游戏的部分的其它图像,尽管它们可以在游戏玩耍中涉及。
当触摸或悬停点建立时,第二逻辑934可以就最初将光标定位于哪里做出确定。第二逻辑934可以试图通过例如最小化用户可能必须移动光标以实现效果的距离来优化用户体验,而不是如常规系统所进行的那样,将光标放置在对应于触摸或悬停点的位置处。因而,初始位置可以独立于关于输入/输出接口950的触摸或悬停点的位置。因此,在一个实施例中,第二逻辑934可以例如基于用户接口元件的位置,来确定用于位置指示符的初始位置。初始位置可以例如处于辅助显示器的中心、在最有可能使用的控件之上或附近、在两个控件之间等距、或者在由上下文而不是悬停空间970中的触摸或悬停点的位置确定的其它位置中。
装置900可以包括第三逻辑936,其选择性控制显示在辅助显示器上的内容的外观或者应用。控制可以至少部分地基于以输入/输出接口950执行的用户接口动作。用户接口动作不是在真空中执行,而是至少部分地基于在辅助显示器上显示什么来执行。因而,响应于用户接口动作而推行的控制至少部分地依赖于显示在辅助显示器上的控制元件和显示在辅助显示器上的内容之间的关系。例如,如果用户敲击他们的智能电话而同时光标显示在按钮之上,则可以针对按钮生成鼠标点击事件。
装置900可以包括存储器920。存储器920可以包括不可移除存储器或可移除存储器。不可移除存储器可以包括随机存取存储器(RAM)、只读存储器(ROM)、闪速存储器、硬盘或者其它存储器存储技术。可移除存储器可以包括闪速存储器、或者其它存储器存储技术,诸如“智能卡”。存储器920可以配置为存储用户接口状态信息、表征数据、对象数据或者其它数据。
装置900可以包括处理器910。处理器910可以例如是信号处理器、微处理器、专用集成电路(ASIC)、或者用于执行任务的其它控制和处理逻辑电路,该任务包括信号编码、数据处理、输入/输出处理、功率控制或其它功能。处理器910可以配置为与提供触摸或悬停点控制处理的逻辑930交互。
在一个实施例中,装置900可以是通用计算机,其已经通过包括逻辑930的集合而变换成专用计算机。逻辑930的集合可以控制在辅助显示器和装置900二者上显示什么。装置900可以通过例如计算机网络与其它装置、过程和服务交互。
某些实施例的方面
在一个实施例中,在具有触摸或悬停接口并且具有第一显示器的第一设备中执行方法。方法包括检测具有第二显示器的第二设备,建立与第二设备的通信链接,进入控制器模式,在第一显示器上选择性显示与运行在第一设备上的应用相关联的第一输出,提供要在第二显示器上显示的第二输出,其中第二输出与应用相关联,以及使用触摸或悬停接口与显示在第二显示器上的第二输出进行交互。在一个实施例中,使用触摸或悬停接口与第二输出进行交互包括至少部分地基于以触摸或悬停接口执行的触摸或悬停动作来选择性控制应用、第一输出或第二输出,其中触摸或悬停动作涉及第二输出。方法还可以包括提供要在第二显示器上显示的第三输出,其中第三输出与控制应用相关联,并且其中第三输出响应于以触摸或悬停接口执行的触摸或悬停动作而在第二显示器上可移动,以及至少部分地基于以触摸或悬停接口执行的触摸或悬停动作来选择性控制应用、第一输出、第二输出或第三输出,其中触摸或悬停动作涉及第二输出和第三输出。
在另一个实施例中,装置包括处理器,存储器,触摸敏感或悬停敏感的输入/输出接口,控制在装置上显示什么并且控制在与另一个装置相关联的辅助显示器上显示什么的逻辑集合,以及连接处理器、存储器、输入/输出接口和逻辑集合的物理接口。逻辑集合包括第一逻辑,其提供要在辅助显示器上显示的内容,其中内容由至少部分地在装置上运行的应用产生。逻辑集合还包括第二逻辑,其提供要在辅助显示器上显示的控制元件,其中控制元件不由应用产生。逻辑集合还包括第三逻辑,其至少部分地基于以输入/输出接口执行的用户接口动作来选择性控制显示在辅助显示器上的内容的外观或应用,其中用户接口动作至少部分地依赖于显示在辅助显示器上的控制元件与显示在辅助显示器上的内容之间的关系。
在另一个实施例中,系统包括运行第一应用的第一移动设备、第二移动设备、以及具有在第一移动设备和第二移动设备外部并且从其分离的显示器的装置。第一移动设备控制显示在第一移动设备和显示器上的图像,其中图像与第一应用相关联。第一移动设备提供用于第一移动设备的第一可移动光标以及用于第二移动设备的第二可移动光标,其中第一可移动光标响应于在第一可移动设备处执行的动作而在显示器上可移动,并且其中第二可移动光标响应于在第二可移动设备处执行的动作而在显示器上可移动。第一移动设备处置涉及第一光标和第一应用的第一移动设备处的用户输入。第一移动设备处置涉及第二光标和第一应用的第二移动设备处的用户输入。
定义
下文包括本文采用的所选术语的定义。定义包括落入可以用于实现的术语的范围内的组件的各种示例或形式。示例不意图为限制性的。单数和复数形式的术语均可以处于定义内。
对“一个实施例”、“实施例”、“一个示例”和“示例”的引用指示如此描述的(多个)实施例或(多个)示例可以包括特定特征、结构、特性、属性、元件或限制,但是并非每一个实施例或示例都必然地包括该特定特征、结构、特性、属性、元件或限制。此外,短语“在一个实施例中”的重复使用未必是指相同实施例,尽管可以如此。
如本文中使用的“计算机可读存储介质”是指存储指令或数据的介质。“计算机可读存储介质”不是指传播信号。计算机可读存储介质可以采取各形式,包括但不限于非易失性介质和易失性介质。非易失性介质可以包括例如光盘、磁盘、磁带和其它介质。易失性介质可以包括例如半导体存储器、动态存储器和其它介质。常见形式的计算机可读存储介质可以包括但不限于软盘、柔性盘、硬盘、磁带、其它磁性介质、专用集成电路(ASIC)、压缩盘(CD)、随机存取存储器(RAM)、只读存储器(ROM)、存储器芯片或卡、存储器棒、以及计算机、处理器或其它电子设备可以从其读取的其它介质。
如本文中使用的“数据仓库”是指可以存储数据的物理或逻辑实体。数据仓库可以例如是数据库、表格、文件、列表、队列、堆内存、存储器、寄存器和其它物理贮存器。在不同示例中,数据仓库可以驻留在一个逻辑或物理实体中或者可以分布在两个或更多逻辑或物理实体之间。
如本文中使用的“逻辑”包括但不限于硬件、固件、在机器上执行中的软件、或者每一个的组合,以执行(多个)功能或(多个)动作、或以引起来自另一个逻辑、方法或系统的功能或动作。逻辑可以包括软件控制的微处理器、离散逻辑(例如,ASIC)、模拟电路、数字电路、编程逻辑器件、存储指令的存储器设备以及其它物理设备。逻辑可以包括一个或多个门、门的组合或者其它电路组件。在描述多个逻辑性逻辑的情况下,可以可能的是,将多个逻辑性逻辑并入物理逻辑中。类似地,在描述单个逻辑性逻辑的情况下,可以可能的是,在多个物理逻辑之间分布该单个逻辑性逻辑。
就术语“包括”或“包含”在详细描述或权利要求中采用的程度而言,意图的是以类似于术语“含有”的方式为包容性的,如该术语在权利要求中用作过渡性词语时所解释的那样。
就术语“或”在详细描述或权利要求中采用的程度而言(例如,A或B),意图的是意指“A或B或二者”。当申请人意图指示“仅A或B而不是二者”时,则将采用术语“仅A或B而不是二者”。因而,术语“或”在本文中的使用是包容性的,并且不是排他性的使用。参照Bryan A.Garner, A Dictionary of Modern Legal Usage 624 (1995年第二版)。
尽管已经以具体到结构特征或方法动作的语言描述了主题,但是要理解到,在随附权利要求中限定的主题未必限于以上描述的具体特征或动作。相反,以上描述的具体特征和动作被公开为实现权利要求的示例形式。

Claims (15)

1.一种在具有触摸或悬停接口并且具有第一显示器的第一设备中执行的方法,该方法包括:
检测具有第二显示器的第二设备;
建立与第二设备的通信链接;
进入第一设备上的控制器模式;
在第一显示器上选择性显示与运行在第一设备上的应用相关联的第一输出;
提供要在第二显示器上显示的第二输出,其中第二输出与应用相关联;以及
使用触摸或悬停接口与显示在第二显示器上的第二输出进行交互。
2.权利要求1所述的方法,其中使用触摸或悬停接口与第二输出进行交互包括至少部分地基于以触摸或悬停接口执行的触摸或悬停动作来选择性控制应用、第一输出或第二输出,其中触摸或悬停动作涉及第二输出。
3.权利要求1所述的方法,包括:
提供要在第二显示器上显示的第三输出,其中第三输出与控制应用相关联,并且其中第三输出响应于以触摸或悬停接口执行的触摸或悬停动作而在第二显示器上可移动,以及
至少部分地基于以触摸或悬停接口执行的触摸或悬停动作来选择性控制应用、第一输出、第二输出或第三输出,其中触摸或悬停动作涉及第二输出和第三输出。
4.权利要求3所述的方法,其中第一设备是移动计算设备。
5.权利要求4所述的方法,其中第二设备是电视或计算机。
6.权利要求5所述的方法,其中应用是web浏览器。
7.权利要求5所述的方法,其中触摸或悬停动作是敲击、双击或者敲击并且保持。
8.权利要求5所述的方法,其中触摸或悬停动作是手势。
9.权利要求5所述的方法,其中第三输出是光标。
10.权利要求9所述的方法,包括标识光标的属性是否将独立于与触摸或悬停接口相关联的触摸或悬停点的位置。
11.权利要求1所述的方法,其中建立通信链接包括建立有线链接或无线链接。
12.权利要求1所述的方法,其中应用在第一设备上运行或者其中应用在第三设备上运行。
13.一种装置,包括:
处理器;
存储器;
触摸敏感或悬停敏感的输入/输出接口;
控制在装置上显示什么并且控制在与另一个装置相关联的辅助显示器上显示什么的逻辑集合;以及
连接处理器、存储器、输入/输出接口和逻辑集合的物理接口,
逻辑集合包括:
第一逻辑,其提供要在辅助显示器上显示的内容,其中内容由至少部分地在装置上运行的应用产生;
第二逻辑,其提供要在辅助显示器上显示的控制元件,其中控制元件不由应用产生;以及
第三逻辑,其至少部分地基于以输入/输出接口执行的用户接口动作来选择性控制显示在辅助显示器上的内容的外观或应用,其中用户接口动作至少部分地依赖于显示在辅助显示器上的控制元件与显示在辅助显示器上的内容之间的关系。
14.权利要求13所述的装置,其中控制元件是光标,并且其中第二逻辑响应于与输入/输出接口的触摸或悬停交互来控制光标的位置、移动或外观。
15.权利要求13所述的装置,其中逻辑集合通过提供可共享的光标或者每一观看者的光标来提供用于辅助显示器的两个或更多观看者的共享浏览体验,可共享的光标或者每一观看者的光标可以是响应于在与两个或更多观看者相关联的移动设备处执行的用户接口动作。
CN201580040705.9A 2014-07-31 2015-07-27 用于辅助显示器的移动设备输入控制器 Withdrawn CN106537326A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/447764 2014-07-31
US14/447,764 US20160034058A1 (en) 2014-07-31 2014-07-31 Mobile Device Input Controller For Secondary Display
PCT/US2015/042245 WO2016018809A1 (en) 2014-07-31 2015-07-27 Mobile device input controller for secondary display

Publications (1)

Publication Number Publication Date
CN106537326A true CN106537326A (zh) 2017-03-22

Family

ID=53879775

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201580040705.9A Withdrawn CN106537326A (zh) 2014-07-31 2015-07-27 用于辅助显示器的移动设备输入控制器

Country Status (5)

Country Link
US (1) US20160034058A1 (zh)
EP (1) EP3175346A1 (zh)
KR (1) KR20170036786A (zh)
CN (1) CN106537326A (zh)
WO (1) WO2016018809A1 (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109523997A (zh) * 2018-10-17 2019-03-26 深圳市沃特沃德股份有限公司 智能机器人和语音执行应用功能的方法、装置
CN110324701A (zh) * 2019-08-12 2019-10-11 深圳新智联软件有限公司 一种基于dlna的有线投屏
CN111195432A (zh) * 2018-11-20 2020-05-26 腾讯科技(深圳)有限公司 对象显示方法和装置、存储介质及电子装置
CN111290689A (zh) * 2018-12-17 2020-06-16 深圳市鸿合创新信息技术有限责任公司 电子设备及其主控装置、控制方法、触控共享系统
CN112367422A (zh) * 2020-10-30 2021-02-12 北京数秦科技有限公司 移动终端设备与显示系统的互动方法、装置及存储介质

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6467822B2 (ja) * 2014-08-29 2019-02-13 セイコーエプソン株式会社 表示システム、送信装置、及び、表示システムの制御方法
KR102277259B1 (ko) * 2014-11-26 2021-07-14 엘지전자 주식회사 디바이스 제어 시스템, 디지털 디바이스 및 디지털 디바이스 제어 방법
US9959024B2 (en) 2015-01-27 2018-05-01 I/O Interconnect, Ltd. Method for launching applications of handheld computer through personal computer
US9696825B2 (en) 2015-01-27 2017-07-04 I/O Interconnect, Ltd. Method for making cursor control to handheld touchscreen computer by personal computer
US20160216774A1 (en) * 2015-01-27 2016-07-28 I/O Interconnect Inc. Method for Generating a Cursor on an External Monitor Connected to a Handheld Computer
US9619636B2 (en) * 2015-02-06 2017-04-11 Qualcomm Incorporated Apparatuses and methods for secure display on secondary display device
US10075919B2 (en) * 2015-05-21 2018-09-11 Motorola Mobility Llc Portable electronic device with proximity sensors and identification beacon
US10719289B2 (en) * 2015-11-05 2020-07-21 Topcon Positioning Systems, Inc. Monitoring and control display system and method using multiple displays in a work environment
JP2017157079A (ja) * 2016-03-03 2017-09-07 富士通株式会社 情報処理装置、表示制御方法、及び表示制御プログラム
DK201670583A1 (en) * 2016-03-28 2017-10-16 Apple Inc Keyboard input to an electronic device
US12093524B2 (en) 2016-03-28 2024-09-17 Apple Inc. Multifunction device control of another electronic device
US11150798B2 (en) 2016-03-28 2021-10-19 Apple Inc. Multifunction device control of another electronic device
US10200581B2 (en) 2016-03-31 2019-02-05 Peter G. Hartwell Heads down intelligent display and processing
JP7102740B2 (ja) * 2018-01-12 2022-07-20 コニカミノルタ株式会社 情報処理装置、情報処理装置の制御方法、およびプログラム
WO2019143189A1 (en) 2018-01-18 2019-07-25 Samsung Electronics Co., Ltd. Electronic device and method of operating electronic device in virtual reality
US11194468B2 (en) 2020-05-11 2021-12-07 Aron Ezra Systems and methods for non-contacting interaction with user terminals

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070094618A1 (en) * 2005-10-24 2007-04-26 Denso Corporation Multiple cursor system
US20120218200A1 (en) * 2010-12-30 2012-08-30 Screenovate Technologies Ltd. System and method for generating a representative computerized display of a user's interactions with a touchscreen based hand held device on a gazed-at screen
US20120274547A1 (en) * 2011-04-29 2012-11-01 Logitech Inc. Techniques for content navigation using proximity sensing
US8522308B2 (en) * 2010-02-11 2013-08-27 Verizon Patent And Licensing Inc. Systems and methods for providing a spatial-input-based multi-user shared display experience
US20130244730A1 (en) * 2012-03-06 2013-09-19 Industry-University Cooperation Foundation Hanyang University User terminal capable of sharing image and method for controlling the same
US20130278484A1 (en) * 2012-04-23 2013-10-24 Keumsung HWANG Mobile terminal and controlling method thereof
US20140002398A1 (en) * 2012-06-29 2014-01-02 International Business Machines Corporation Controlling a cursor on a touch screen
US20140109016A1 (en) * 2012-10-16 2014-04-17 Yu Ouyang Gesture-based cursor control

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2299699A3 (en) * 2009-09-04 2012-10-31 Samsung Electronics Co., Ltd. Image processing apparatus and controlling method of the same
US11068149B2 (en) * 2010-06-09 2021-07-20 Microsoft Technology Licensing, Llc Indirect user interaction with desktop using touch-sensitive control surface
US9285950B2 (en) * 2011-03-30 2016-03-15 Google Inc. Hover-over gesturing on mobile devices
TW201310247A (zh) * 2011-08-17 2013-03-01 Magic Control Technology Corp 媒體分享裝置
CN103984494A (zh) * 2013-02-07 2014-08-13 上海帛茂信息科技有限公司 用于多种设备间的直觉式用户互动系统及方法
US20150199030A1 (en) * 2014-01-10 2015-07-16 Microsoft Corporation Hover-Sensitive Control Of Secondary Display
CN104954847B (zh) * 2014-03-25 2018-04-10 扬智科技股份有限公司 视频流处理装置、镜像视频显示方法及显示装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070094618A1 (en) * 2005-10-24 2007-04-26 Denso Corporation Multiple cursor system
US8522308B2 (en) * 2010-02-11 2013-08-27 Verizon Patent And Licensing Inc. Systems and methods for providing a spatial-input-based multi-user shared display experience
US20120218200A1 (en) * 2010-12-30 2012-08-30 Screenovate Technologies Ltd. System and method for generating a representative computerized display of a user's interactions with a touchscreen based hand held device on a gazed-at screen
US20120274547A1 (en) * 2011-04-29 2012-11-01 Logitech Inc. Techniques for content navigation using proximity sensing
US20130244730A1 (en) * 2012-03-06 2013-09-19 Industry-University Cooperation Foundation Hanyang University User terminal capable of sharing image and method for controlling the same
US20130278484A1 (en) * 2012-04-23 2013-10-24 Keumsung HWANG Mobile terminal and controlling method thereof
CN103379221A (zh) * 2012-04-23 2013-10-30 Lg电子株式会社 移动终端及其控制方法
US20140002398A1 (en) * 2012-06-29 2014-01-02 International Business Machines Corporation Controlling a cursor on a touch screen
CN103513908A (zh) * 2012-06-29 2014-01-15 国际商业机器公司 用于在触摸屏上控制光标的方法和装置
US20140109016A1 (en) * 2012-10-16 2014-04-17 Yu Ouyang Gesture-based cursor control

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109523997A (zh) * 2018-10-17 2019-03-26 深圳市沃特沃德股份有限公司 智能机器人和语音执行应用功能的方法、装置
CN109523997B (zh) * 2018-10-17 2021-09-28 深圳市沃特沃德信息有限公司 智能机器人和语音执行应用功能的方法、装置
CN111195432A (zh) * 2018-11-20 2020-05-26 腾讯科技(深圳)有限公司 对象显示方法和装置、存储介质及电子装置
CN111195432B (zh) * 2018-11-20 2021-12-07 腾讯科技(深圳)有限公司 对象显示方法和装置、存储介质及电子装置
CN111290689A (zh) * 2018-12-17 2020-06-16 深圳市鸿合创新信息技术有限责任公司 电子设备及其主控装置、控制方法、触控共享系统
CN110324701A (zh) * 2019-08-12 2019-10-11 深圳新智联软件有限公司 一种基于dlna的有线投屏
CN112367422A (zh) * 2020-10-30 2021-02-12 北京数秦科技有限公司 移动终端设备与显示系统的互动方法、装置及存储介质

Also Published As

Publication number Publication date
US20160034058A1 (en) 2016-02-04
WO2016018809A1 (en) 2016-02-04
KR20170036786A (ko) 2017-04-03
EP3175346A1 (en) 2017-06-07

Similar Documents

Publication Publication Date Title
CN106537326A (zh) 用于辅助显示器的移动设备输入控制器
US9696882B2 (en) Operation processing method, operation processing device, and control method
CN108885521A (zh) 跨环境共享
CN107533374A (zh) 虚拟现实中的头部、手势和触摸输入的动态切换和合并
US20150177866A1 (en) Multiple Hover Point Gestures
US20150338942A1 (en) Definition and use of node-based shapes, areas and windows on touch screen devices
JP2022168082A (ja) 物理的操作を用いたオブジェクト作成
US20150067540A1 (en) Display apparatus, portable device and screen display methods thereof
US20150234468A1 (en) Hover Interactions Across Interconnected Devices
US20150199030A1 (en) Hover-Sensitive Control Of Secondary Display
CN103729054A (zh) 多显示设备及其控制方法
JP2014120159A (ja) 情報検索方法、そのような機能を有するデバイス及び記録媒体
CN102934049A (zh) 使用触摸敏感控制表面与桌面进行间接用户交互
CN113546419B (zh) 游戏地图显示方法、装置、终端及存储介质
AU2018251560B2 (en) Live ink presence for real-time collaboration
WO2016032917A1 (en) Phonepad
CN104516654A (zh) 操作处理方法和装置
US10108320B2 (en) Multiple stage shy user interface
US10969899B2 (en) Dynamically adaptive sensing for remote hover touch
WO2023236602A1 (zh) 虚拟对象的显示控制方法、装置、存储介质和电子装置
CN110531905A (zh) 一种图标控制方法及终端
CN110502295A (zh) 一种界面切换方法及终端设备
WO2016102948A1 (en) Coherent touchless interaction with stereoscopic 3d images
CN103237086B (zh) 一种信息传输系统和信息传输方法
Greimel A survey of interaction techniques for public displays

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WW01 Invention patent application withdrawn after publication

Application publication date: 20170322

WW01 Invention patent application withdrawn after publication