CN108700991A - 用于为移动设备建立3轴坐标系并且利用虚拟键盘进行写入的基于运动的系统、装置和方法 - Google Patents
用于为移动设备建立3轴坐标系并且利用虚拟键盘进行写入的基于运动的系统、装置和方法 Download PDFInfo
- Publication number
- CN108700991A CN108700991A CN201680079708.8A CN201680079708A CN108700991A CN 108700991 A CN108700991 A CN 108700991A CN 201680079708 A CN201680079708 A CN 201680079708A CN 108700991 A CN108700991 A CN 108700991A
- Authority
- CN
- China
- Prior art keywords
- movement
- input
- user
- display
- sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1694—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a single or a set of motion sensors for pointer control or gesture input obtained by sensing movements of the portable computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04886—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明所涉及的系统、界面以及用于实施所述系统和界面的方法包括动态环境生成子系统,其基于运动传感器的位置以及/或者所感测到的运动的性质、时间和/或位置来改变对象和子对象,并且包括作为选择协议的选择吸引移动,其中选择对象被用来在可选对象之间作出区分并且把目标对象朝向选择对象吸引,所述运动的方向和速度控制、区分、吸引并且激活所选择的对象。
Description
相关申请
本申请要求以下美国临时专利申请序列号的权益和临时优先权:12/01/2015(2015年12月1日)提交的62/261,803,12/01/2015(2015年12月1日)提交的62/261,805,12/16/2015(2015年12月16日)提交的62/268,332,12/01/2015(2015年12月1日)提交的62/261,807,03/22/2016(2016年3月22日)提交的62/311,883,08/31/2016(2016年8月31日)提交的62/382,189,09/01/2016(2016年9月1日)提交的15/255,107,07/14/2016(2016年7月14日)提交的15/210,832,06/04/2015(2015年6月4日)提交的14/731,335,10/01/2014(2014年10月1日)提交的14/504,393,01/01/2014(2014年10月1日)提交的14/504,391,11/15/2012(2012年11月15日)提交的13/677,642,以及11/15/2012(2012年11月15日)提交的13/677,627。本申请还涉及:12/27/2010(2010年12月27日)提交的美国专利申请序列号12/978,690,现在是07/22/2014(2014年7月22日)授予的美国专利号8,788,966;08/09/2007(2007年8月9日)提交的11/891,322,现在是12/28/2010(2010年12月28日)授予的美国专利号7,861,188;以及03/07/2003(2003年3月7日)提交的10/384,195,现在是11/09/2010(2010年11月9日)授予的美国专利号7,831,932。
技术领域
本公开内容的实施例涉及系统、装置、界面和/或交互式界面及其实施方法,其中所述系统、装置、界面和/或交互式界面包括至少一个处理单元、至少一个运动传感器和至少一个用户界面,并且能够进行基于运动的对象控制和操纵。
更具体来说,本公开内容的实施例涉及系统、装置、界面和/或交互式界面及其实施方法,其中所述系统、装置、界面和/或交互式界面能够使用以下各项来控制真实对象和/或环境和/或相关联的特性、虚拟现实(VR)对象和/或环境和/或相关联的特性或者增强现实(AR)对象、特性对象和/或环境和/或相关联的特性:(a)所感测到的移动或运动以及/或者移动或运动属性,包括而不限于方向、角度、距离/位移、持续时间、速度(speed)、矢量速度(velocity)、加速度、方向、角度、距离/位移、持续时间、速度、矢量速度和/或加速度中的改变以及/或者所述各项的混合和组合;(b)用以基于所感测到的移动来增强对象区分的吸引或排斥效应;以及/或者(c)用以基于一条或多条预先定义、预先确定和/或动态指派的标准来区分对象的对象可辨识区分特性。此外,本公开内容的实施例涉及系统、装置、界面和/或交互式界面及其实施方法,其中所述系统、装置、界面和/或交互式界面利用固定的点、区域或体积或者基本上固定的点、区域或体积来建立与设备相关联的三轴坐标系,从而使得对于z移动可以把设备的xy和旋转移动与朝向或远离所述固定的点、区域或体积的移动相耦合。
本公开内容的实施例涉及利用来自传感器的团块(blob)数据来控制真实和/或虚拟对象的系统、装置和/或界面及其实施方法。
更具体来说,本公开内容的实施例涉及利用来自传感器的团块数据来控制真实和/或虚拟对象的系统、装置和/或界面及其实施方法,其中所述系统、装置和/或界面捕获来自至少一个传感器的团块数据,并且使用所述团块数据和团块数据中的改变作为移动以生成输出,并且把所述输出转换成用于控制一个真实和/或虚拟对象或者多个真实和/或虚拟对象的功能。
背景技术
选择界面在计算机软件和用户界面软件中是无所不在的。这些界面当中的大多数需要通过硬选择协议控制的运动和选择操作,所述硬选择协议比如有敲击、点击、两次敲击、两次点击、击键或者其他所谓的硬选择协议。
在先前的申请中,发明人描述了利用运动和运动方向中的改变来调用例如滚动以及同时选择和激活命令之类的命令功能的基于运动的系统和界面。例如参见通过说明书的结尾段落的操作被合并在本文中的美国专利号7,831,932和7,861,188。
更近以来,发明人描述了利用矢量速度和/或加速度以及运动方向来调用例如滚动以及同时选择和激活命令之类的命令功能的基于运动的系统和界面。例如参见10/01/2013(2013年10月1日)提交的美国临时专利申请序列号61/885,453。
有许多系统和界面用于允许用户使用移动属性从(多个)目标对象的列表和/或子列表当中选择和激活(多个)目标对象,其中所述移动属性用来区分和吸引或者操纵或影响(多个)目标对象或者(多个)目标对象的特性。多层对象可能具有特性改变,其中一层的特性可以不同于其他层或者具有不同于其他层的程度,但是所述多层都通过某种方式受到影响和关联。
已经构造出许多界面以便与对象及其相关联的特性进行交互、对其进行控制和/或操纵,从而使得用户能够更好地观看、选择和激活对象和/或特性。
近来公开了基于运动的界面。这些界面使用运动作为用于观看、选择、区分和激活虚拟和/或真实对象和/或特性的机制。但是在本领域内仍然需要改进的基于用户的界面,所述界面给出用于基于对象和/或特性属性、用户优选项、用户的最近界面交互、用户的长期界面交互或者所述各项的混合和组合来观看、选择、区分和激活虚拟和/或真实对象和/或特性的动态环境。
发明内容
动态环境
本发明的实施例提供系统、装置和/或界面及其在计算机上或计算机中的实施方法,其中所述系统、装置和/或界面包括至少一个处理单元、具有至少一个活跃区块(区域和/或体积)的至少一个运动传感器以及能够创建、控制和操纵动态环境的至少一个用户界面,包括使用一项或多项功能来创建、控制、操纵一个或多个对象(真实和/或虚拟)、一个或多个对象相关联的子对象和/或特性以及/或者一个或多个对象相关联的可调节特性并且/或者与之进行交互,所述功能包括滚动、选择、激活和/或调节特性和/或特性数值以及/或者同时功能,所述同时功能包括部分地或单独地基于由所述至少一个运动传感器感测到的移动或运动而同时实施的滚动、选择、激活和/或调节特性和/或特性数值当中的两项或更多项。在某些实施例中,所述系统、装置和/或界面动态地突出表现(highlight)和/或区分对象,其中所述突出表现或区分一项或多项优先级、方向性、内容、情境、类型、激活规程、一个或多个激活参数、一个或多个控制特征或者与所述对象和/或特性相关联的其他属性。随后,由于处理单元通信的运动传感器感测到的运动允许操纵动态环境的对象或单元并且/或者与之进行交互,从而响应于所感测到的运动导致所述环境发生改变,或者导致对象和/或特性选择、激活和/或特性数值调节。
为移动设备建立三轴坐标系
本发明的实施例提供系统、装置和/或界面及其在计算机、设备或用户界面上或其中的实施方法,其中所述系统、装置和/或界面包括移动设备、可穿戴设备或者包括一个或多个处理单元、具有至少一个活跃区块(区域和/或体积)的一个或多个运动传感器以及一个或多个位置传感器的任何其他设备。所述系统和装置还可以包括一个或多个界面,其中包括一个或多个人类和/或动物可辨别的输出设备。所述系统、装置、界面和/或方法使用可以由一个或多个位置传感器检测的至少一个静止的点、区域和/或体积或者相对静止的点、区域和/或体积(例如可由摄影机观看的点),可以从所述点、区域和/或体积评估z运动,从而可以把三个轴与移动设备相关联。使用该三轴配置的系统、装置和/或界面能够感测x方向、y方向、z方向或者其任意组合的移动(线性、非线性、共线性或者其任意组合),也就是具有两个方向分量(例如xy、xz或yz)或者所有三个分量(xyz)的运动。非线性运动可以是沿着任何轴的倾斜运动或者围绕任何轴的旋转运动或者其任意组合。静止的点、区域和/或体积或者相对静止的点、区域和/或体积是可以由位置或运动传感器检测的任何点、区域和/或体积,所述传感器或者未在移动(静止)或者正以足够慢的速率移动,从而使得朝向或远离所述点、区域和/或体积的移动将允许位置传感器和/或处理单元评估和确定不同的移动,比如z移动。应当认识到,位置传感器和运动传感器可以是相同的物理设备,其输出被用于多种目的。
一般系统、装置、界面和方法
本发明的实施例涉及系统、装置、界面,并且用于实施所述系统、装置和/或界面的本发明的方法是基于单独地并且部分地通过运动而调用的吸引或操纵选择,其中所述运动是由与所述系统、装置和/或界面相关联的运动传感器感测的。所述操纵选择动作可以是由于其他对象通过吸引方式、排斥方式、影响方式或其组合被移动或者是基于与所期望的一个或多个对象的角度或邻近性而造成的吸引、排斥或相对效应。所述系统、装置和/或界面基于至少一个选择对象朝向所期望的对象或对象集合的邻近性、方向、角度、距离/位移、持续时间、矢量速度和/或加速度而解决所述操纵效应。所述对象可以包括真实或虚拟对象、真实世界设备、软件、软件组件、特性、传感器的活跃区域以及/或者EMF场或其他波形或者任何其他可控事物,并且可以被远程控制。所述一个或多个选择对象的运动可以是机器、动物或者其一个或多个身体部位、人类或者其一个或多个身体部位,或者处于人类、机器、动物或者软件程序或软件系统的控制下的真实世界物品、场、物质或波形。
一般装置和系统
本发明的实施例提供用于选择和激活虚拟和/或真实对象以及/或者与之相关联的子对象和/或特性的系统、装置和/或界面。所述装置包括至少一个用户界面。所述界面包括至少一个(一个或多个)用户反馈单元(反馈单元可以是设备、系统或反馈方法)、具有活跃感测区块或活跃视场的至少一个运动传感器以及与用户反馈单元和运动传感器通信的至少一个处理单元。所述界面还可以包括至少一个供电装置、至少一个备用电池以及用于远程控制和/或远程监测的通信软件和硬件。运动传感器检测其活跃感测区块内的运动或移动,生成传感器输出信号,并且把输出信号发送或转发到处理单元。处理单元把输出信号转换成命令和控制输出。当然,这些组件、用户界面、用户反馈单元、运动传感器和处理单元都可以被全部或部分地组合。所述装置还可以包括通过处理单元处于所述装置的控制下的至少一个真实或虚拟对象(也就是说所述对象也可以是物理或虚拟(软件)特性或者其组合)。命令和控制输出可以包括开始命令,所述开始命令激活用户界面、用户反馈单元并且可以生成用户可辨别的选择或光标对象。发明人所说的“用户可辨别”意味着所述选择或光标对象能够通过动物或人类的五感的其中之一来感测,例如视觉、音频、视听、触觉或触摸、热或冷、嗅觉或气味、味觉或味道、神经或者其任意组合。但是所述选择或光标对象也可以是不可见和/或不可辨别的,仅仅是在内部被用于应用所感测到的运动或移动的虚拟单元,并且还可以是区域或体积区块或者区块的表示。
一旦被激活,用户界面通过用户反馈单元还可以显示至少一个可选择的对象、对象群组或区块。或者,一旦被激活,选择对象的移动将导致可选择对象或可选择对象的群组或者预先选择的可选择对象或预先选择的可选择对象的群组或区块出现、朝向选择对象移动、或者成一定角度向选择对象移动、或者远离选择对象,其目的是最终选择特定的可选择对象或者可选择对象或可选择子对象的特定群组以及/或者与(多个)特定对象相关联的特性或者与(多个)特定对象相关联的可控制特性。所述预先选择的可选对象或预先选择的可选对象的群组是与选择对象的移动和/或移动属性或者没有可见的选择对象的移动和/或移动属性最紧密地对准的(多个)所显示的对象。举例来说,如果所感测到的初始运动或移动是在+y方向上,则用户界面可以导致(多个)用户反馈单元表现与+y方向相关联的那些可选对象,并且在朝向选择对象的特定方向上吸引那些可选对象。选择对象可以被视觉化在显示器上或者通过任何其他方式被表明,或者被不可见地关联到移动,比如在2D、3D、虚拟现实(VR)环境或增强现实(AR)环境中通过声音关联到移动,或者完全不被表示成对象——用户可以看到移动在对象上的效应并且能够基于移动推断出受影响的区域。
方法
本发明的实施例提供用于使用本发明的用户界面来实施选择协议的方法。所述方法包括选择和激活可选对象、选择和激活虚拟和/或真实对象的可选列表的成员、选择和激活与对象相关联的可选特性、选择和激活并且调节可选的特性、区块、区域或者其组合,其中所述界面包括至少一个显示器或其他用户反馈单元、至少一个运动传感器(或者从该处接收的数据)以及与用户反馈单元和运动传感器或运动传感器数据通信的至少一个处理单元。所述界面还可以包括供电装置、备用电池以及用于远程控制和/或远程监测的通信软件和硬件。所述方法包括感测由(多个)运动传感器感测的运动或移动,生成输出信号,并且把输出信号发送到处理单元。所述方法还包括把输出信号通过处理单元转换成命令输出。命令输出可以是开始命令,其激活反馈单元,或者激活反馈单元并且生成至少一个选择或光标对象,或者激活反馈单元并且生成至少一个可选对象,或者激活反馈单元并且生成至少一个选择或光标对象以及至少一个可选对象。选择对象可以是或者可以不是可辨别的(被显示或者不被显示)。运动可以由动物或者其一个或多个身体部位、人类或者其一个或多个身体部位、机器或者处于动物、人类或者机器人或机器人系统的控制下的真实世界对象生成,特别当所感测的运动处于3D活跃感测体积或区块内时尤其是如此。一旦被激活,所述方法监测(多个)运动传感器的(多个)活跃区块内的所感测到的运动或移动,其被用来根据运动属性(方向、角度、距离/位移、持续时间、矢量速度、加速度以及这些属性当中的一项或多项的改变)在用户反馈单元上或者在用户反馈单元内朝向可选对象或可选对象的群组或者预先选择的对象或预先选择的对象、区块或区域的群组移动选择对象。与此同时,所述方法把未被选择的对象远离(多个)选择对象移动,导致未被选择的对象淡化(fade)、消失或者通过其他方式改变未被选择的对象的其他属性,或者所述措施的组合。所述预先选择的对象或预先选择的对象的群组是与选择对象的运动方向最紧密地对准的(多个)可选对象。
团块数据
本公开内容的实施例提供系统、装置和/或界面及其实施方法,其中所述系统、装置和/或界面包括至少一个传感器、至少一个处理单元、至少一个用户可辨识反馈单元以及可由所述至少一个处理单元控制的一个或多个真实和/或虚拟对象,其中所述至少一个传感器感测与该至少一个传感器的活跃区块上或活跃区块内的触摸和/或移动相关联的团块(未被过滤或者被部分地过滤)数据并且生成表示所述团块数据的一项和/或多项输出,并且其中所述至少一个处理单元把该团块数据输出转换成用于控制一个和/或多个真实和/或虚拟对象的一项或多项功能。
本公开内容的实施例提供用于实施系统、装置和/或界面的方法,包括以下步骤:感测与至少一个传感器的活跃区块上或活跃区块内的触摸和/或移动相关联的团块数据,生成表示团块数据的一项和/或多项输出,通过至少一个处理单元把该团块数据输出或输出转换成一项或多项功能,以及通过由处理单元执行所述一项和/或多项功能来控制一个真实和/或虚拟对象和/或多个真实和/或虚拟对象。团块数据可以与形心(centroid)或质心数据(经过过滤的团块数据,从而把团块数据简化到团块数据的平均点或小区块平均)相比较或相组合来使用。
附图说明
参照后面结合说明性的附图作出的详细描述可以更好地理解本发明,其中相同的单元具有相同的附图标记:
图1A-M描绘了使用本发明的吸引界面的基于运动的选择序列:(A)示出了通过与显示进行通信的运动传感器的运动而激活之前的显示;(B)描绘了激活之后用以显示选择对象和多个可选对象的显示;(C)描绘了朝向可选对象的群组移动选择对象之后的显示;(D)描绘了朝向选择对象拉动可选对象的群组之后的显示;(E)描绘了示出选择对象的进一步移动从而导致所述群组的对象之间的区分的显示,其中选择对象接触其中一个群组成员;(F)描绘了示出被接触的成员和选择对象的显示,其中未被接触的对象被返回到其先前的位置;(G)描绘了示出所选择的对象与被重新定位到显示中心的选择对象的合并的显示;(H)描绘了示出所选择的对象和选择对象以及与所选择的对象相关联的单元的显示;(I)描绘了朝向可选子对象的群组移动选择对象之后的显示,所述可选子对象已朝向选择对象移动并且增大了尺寸;(J)描绘了在不同方向上直接朝向另一个可选子对象移动选择对象之后的显示,所述另一个可选子对象已朝向选择对象移动并且增大了尺寸;(K)描绘了选择对象的进一步运动接触可选子对象之后的显示;(L)描绘了选择对象与所选择的子对象的合并之后的显示,所述合并是在选择时执行的;以及(M)描绘了图1G的所选择的成员的合并和激活之后的该显示。
图2A-W描绘了使用本发明的吸引界面的另一个基于运动的选择序列:(A)描绘了通过与显示进行通信的运动传感器的运动而激活之前的显示;(B)描绘了激活之后用以显示选择对象和多个可选对象的显示;(C)描绘了朝向可选对象移动选择对象之后的显示,从而导致其朝向选择对象移动并且导致与被吸引对象相关联的子对象;(D)描绘了示出选择对象朝向被吸引对象的进一步移动的显示;(E)描绘了示出选择对象被接触或者达到充当选择对象的选择的阈值数值或概率的显示;(F)描绘了示出选择对象与所选择的对象合并并且在显示中被重新居中的显示;(G)描绘了朝向第一可选子对象移动选择对象之后的显示;(H)描绘了与所选择的子对象合并的显示以及子对象的同时激活;(I)描绘了朝向另一个可选子对象移动选择对象之后的显示;(J)描绘了与所选择的子对象合并的显示以及另一个子对象的同时激活;(K)描绘了具有选择对象远离所选择的对象并且远离任何子对象的运动的显示;(L)描绘了移动离开之后从而导致原始选择显示重新出现的显示;(M)描绘了朝向第二可选子对象移动选择对象之后的显示,从而导致第二对象朝向其移动并且增大尺寸并且同时显示相关联的子对象;(N)描绘了选择对象移动到与第二可选对象接触之后的显示;(O)描绘了选择第二可选对象之后的显示,所述第二可选对象现在与围绕所选择的第二对象分布的子对象合并并且居中;(P)描绘了朝向所期望的子对象移动选择对象之后的显示;(Q)描绘了与子对象合并同时激活子对象之后的显示;(R)描绘了朝向第二可选子对象移动选择对象之后的显示,从而导致第三对象朝向其移动并且增大尺寸并且同时显示相关联的子对象;(S)描绘了选择对象移动到与第三可选对象接触之后的显示;(T)描绘了选择第三可选对象之后的显示,所述第三可选对象现在与围绕所选择的第三可选对象分布的子对象合并并且居中;(U)描绘了朝向第四可选子对象移动选择对象之后的显示,从而导致第四对象朝向选择对象移动并且增大尺寸;(V)描绘了选择对象移动到与第四可选对象接触之后的显示;以及(W)描绘了选择第四可选对象之后的显示,所述第四可选对象现在被合并和居中并且对象被激活。
图3A-I描绘了使用本发明的吸引界面的另一个基于运动的选择序列:(A)描绘了通过与显示进行通信的运动传感器的运动而激活之前的显示;(B)描绘了激活之后用以显示围绕显示区域中的形心分布的可选对象集群的顶层的显示;(C)描绘了每一个集群内的对象;(D)描绘了示出由运动传感器检测到的运动的方向的显示,所述运动是通过运动传感器的活跃区块内的身体或身体部位的运动而感测到的;(E)描绘了示出关于与由运动传感器感测到的运动方向对准的最大概率集群的预测的显示以及与所预测的集群相关联的集群对象的显示;(F)描绘了示出用于增强区分的集群对象的散布并且示出由运动传感器检测到的运动的增强方向的显示,所述运动是通过运动传感器的活跃区块内的身体部位的运动而感测到的;(G)描绘了示出通过显示在更加间隔开的配置中的上一个部分而区分的对象的吸引的显示;(H)描绘了示出由运动传感器检测到的运动方向的进一步增强的显示,所述运动是通过运动传感器的活跃区块内的身体或身体部位的运动而感测到的,从而允许集群对象的完全区分;以及(I)描绘了示出所选择的集群对象的居中和激活的显示。
图4A-D描绘了包括对象和可选对象的基于运动的选择序列,随着朝向可选对象的运动增加导致活跃区域在可选对象的前方形成,并且随着选择对象移动得更加靠近可选对象而增大范围,直到选择处于阈值确定性之内为止。
图5A-P描绘了使用本发明的吸引界面的另一个基于运动的选择序列:(A)描绘了通过与显示进行通信的运动传感器的运动而激活之前的显示;(B)描绘了激活之后用以显示选择对象和多个可选对象的显示;(C)描绘了移动选择对象之后的显示;(D)描绘了示出选择对象的进一步移动的显示,从而导致可选对象在朝向选择对象的运动方向上移动并且随着其他可选对象减小和后退而扩大;(E)描绘了示出选择对象进一步移动从而导致可选对象的区分的显示;(F)描绘了朝向第一可选子对象移动选择对象之后的显示;(G)描绘了与所选择的子对象合并的显示以及子对象的同时激活;(H)描绘了朝向另一个可选子对象移动选择对象之后的显示;(I)描绘了与所选择的子对象合并的显示以及另一个子对象的同时激活;(J)描绘了具有选择对象远离所选择的对象并且远离任何子对象的运动的显示;(K)描绘了移动离开之后从而导致原始选择显示重新出现的显示;(L)描绘了朝向第二可选子对象移动选择对象之后的显示,从而导致第二对象朝向其移动并且增大尺寸并且同时显示相关联的子对象;(M)描绘了选择对象移动到与第二可选对象接触之后的显示;(N)描绘了选择第二可选对象之后的显示,所述第二可选对象现在与围绕所选择的第二对象分布的子对象合并并且居中;(O)描绘了朝向所期望的子对象移动选择对象之后的显示;以及(P)描绘了与子对象合并同时激活子对象之后的显示。
图6A描绘了通过与显示进行通信的运动传感器的运动而激活之前的显示,包括活跃对象、电话号码对象的集合、退格对象(BS)和删除对象(Del)以及电话号码显示对象。
图6B-K描绘了通过活跃对象从一个电话号码对象到下一个电话号码对象的运动从显示中选择电话号码而没有任何选择处理保存移动。
图6L-R描绘了在朝向可选对象移动选择对象之后使用退格对象和删除对象来校正所选择的电话号码显示,从而导致其朝向选择对象移动并且导致与被吸引对象相关联的子对象。
图7描绘了显示在显示窗口上的本发明的动态环境的一个实施例。
图8A-E描绘了显示在显示窗口上的本发明的动态环境的另一个实施例,其基于时间改变而经历改变。
图9A-D描绘了显示在显示窗口上的本发明的动态环境的另一个实施例,其基于传感器位置中的改变而经历改变。
图10A-K描绘了本发明的界面的不同配置的实施例。
图11A-P描绘了用于具有较小屏幕和相关联的较小可观看显示区域的设备的本发明的基于运动的系统的一个实施例,其中所有对象当中的大部分未被显示,而是驻留在虚拟显示空间中。
图12A和B描绘了本发明的基于运动的系统的一个实施例,所述系统用于建立可用的3轴系统以用于分解简单和复杂运动,从而使得所有方式的运动都可以被用来运动经过2D和3D对象/特性,因此可以单独通过如前面所阐述的运动来选择和激活所述对象/特性,前面所阐述的运动主要是在2D中示出的,而三轴系统的创建现在则给出了一种用于解决3D移动的机制。
图13A和B描绘了本发明的基于运动的系统的一个实施例,所述系统用于建立可用的3轴系统以用于分解简单和复杂运动,从而使得所有方式的运动都可以被用来运动经过2D和3D对象/特性,因此可以单独通过如前面所阐述的运动来选择和激活所述对象/特性,前面所阐述的运动主要是在2D中示出的,而三轴系统的创建现在则给出了一种用于解决3D移动的机制。
图14A-J描绘了使用团块数据来控制一个和/或多个真实和/或虚拟对象的本公开内容的系统、装置和/或界面的一个实施例。
图15A-J描绘了使用团块数据来控制一个和/或多个真实和/或虚拟对象的本公开内容的系统、装置和/或界面的另一个实施例。
图16A-P描绘了使用团块数据来控制一个和/或多个真实和/或虚拟对象的本公开内容的系统、装置和/或界面的另一个实施例。
图17A-J描绘了使用用于文字处理的虚拟键盘的一个实施例的本公开内容的系统、装置和/或界面的一个实施例。
图18描绘了用于文字处理的虚拟键盘的另一个实施例。
图19A-P描绘了使用用于文字处理的虚拟键盘的另一个实施例的本公开内容的系统、装置和/或界面的另一个实施例。
图20A-C描绘了使用用于文字处理的虚拟键盘的另一个实施例的本公开内容的系统、装置和/或界面的另一个实施例。
图21A-J描绘了使用用于文字处理的虚拟键盘的另一个实施例的本公开内容的系统、装置和/或界面的另一个实施例。
本发明中使用的术语
术语“至少一个”意味着一个或更多或者一个或多个,此外,这三个术语在本申请中可以被互换使用。举例来说,至少一个设备意味着一个或更多设备或者一个设备和多个设备。
术语“一个或多个”意味着一个项目或者多个项目。
术语“大约”意味着给定数量的数值处于所陈述的数值的±20%之内。在其他实施例中,数值处于所陈述的数值的±15%之内。在其他实施例中,数值处于所陈述的数值的±10%之内。在其他实施例中,数值处于所陈述的数值的±5%之内。在其他实施例中,数值处于所陈述的数值的±2.5%之内。在其他实施例中,数值处于所陈述的数值的±1%之内。
术语“基本上”意味着给定数量的数值处于所陈述的数值的±5%之内。在其他实施例中,数值处于所陈述的数值的±2.5%之内。在其他实施例中,数值处于所陈述的数值的±2%之内。在其他实施例中,数值处于所陈述的数值的±1%之内。在其他实施例中,数值处于所陈述的数值的±0.1%之内。
术语“运动”和“移动”常常可互换使用,并且意味着能够由运动传感器在传感器的活跃区块内检测到的运动或移动。因此,如果传感器是前视传感器并且能够感测前向延伸的圆锥形活跃区块内的运动,则满足特定阈值检测标准的该活跃区块内的任何事物的移动将导致运动传感器输出,其中所述输出可以至少包括方向、角度、距离/位移、持续时间、矢量速度和/或加速度。此外,如果传感器是触摸屏或多点触摸屏传感器并且能够感测其感测表面上的运动,则满足特定阈值检测标准的该活跃区块上的任何事物的移动将导致运动传感器输出,其中所述输出可以至少包括方向、角度、距离/位移、持续时间、矢量速度和/或加速度。当然,传感器不需要具有阈值检测标准,而是可以简单地在任何时候检测到任何种类的运动时生成输出。处理单元随后可以确定所述运动是可动作运动或移动还是不可动作运动或移动。
术语“运动传感器”或“运动感测组件”意味着能够利用活跃区块(区域或体积)感测任何事物的任何种类的运动的任何传感器或组件,而不管该传感器或组件的主要功能是否是运动感测。当然,这对于传感器阵列也是成立的,而不管阵列中的传感器的类型如何,或者对于传感器和传感器阵列的任意组合也是成立的。
术语“真实对象”或“真实世界对象”意味着能够由处理单元控制的任何真实世界设备、特性或物品。真实对象包括具有真实世界存在的对象或物品,包括物理、机械、电机械、磁性、电磁、电气或电子设备或者可以由处理单元控制的任何其他真实世界设备。
术语“虚拟对象”意味着在虚拟世界中或者由计算机生成的任何构造或者与之相关联的特性,所述虚拟对象由显示设备显示并且能够由处理单元控制。虚拟对象包括不具有真实世界存在但是仍然可以由处理单元控制的对象。这些对象包括:软件系统、产品或程序内的单元,比如图标、列表单元、菜单单元、应用、文件、文件夹、档案,所生成的图像对象,1D、2D、3D和/或nD图形图像或对象、所生成的真实世界对象,比如所生成的人、所生成的动物、所生成的设备、所生成的植物、所生成的陆上风景和陆上风景对象、所生成的海上风景和海上风景对象、所生成的空中风景或空中风景对象,1D、2D、3D和/或nD区块,2D、3D和/或nD区域,1D、2D、3D和/或nD区块群组,2D、3D和/或nD区域群组,体积,例如数量、形状、区块性、场、造成影响改变等特性,或者任何其他所生成的真实世界或者想象中的对象或特性。增强现实是真实和虚拟对象和特性的组合。
术语“实体”意味着人类或动物或机器人或机器人系统(自主或非自主)。
术语“实体对象”意味着人类或人类的某个部位(手指、手、脚趾、脚、手臂、腿、眼睛、头部、身体等等)、动物或动物的某个部位(手指、手、脚趾、脚、手臂、腿、眼睛、头部、身体等等)或者处于人类或动物或机器人的控制下的真实世界对象,并且包括例如指示器(pointer)、棍棒(stick)之类的物品,或者可以由人类或动物或机器人直接或间接控制的任何其他真实世界对象。
术语“混合”意味着不同的数据或数据类型被混合在一起。
术语“组合”意味着不同的数据或数据类型处于分组或集束中,但是所述不同的数据或数据类型是分开的。
术语“传感器数据”意味着从至少一个传感器导出的数据,包括用户数据、运动数据、环境数据、时间数据、情境数据、历史数据或者所述各项的混合和组合。
术语“用户数据”意味着用户特性、处于用户的控制下的实体的特性、处于用户的控制下的成员的特性、与用户相关联的信息或情境信息或者所述各项混合和组合。
术语“用户特征”、“实体特征”和“成员特征”意味着包括以下各项的特征:总体用户、实体或成员形状、纹理、比例、信息、物质、能量、状态、层次、尺寸、表面、区块、区域、任何其他总体特征以及所述各项的混合或组合;具体用户、实体或成员部分形状、纹理、比例、任何其他部分特征以及所述各项的混合或组合;以及特定用户、实体或成员动态形状、纹理、比例、任何其他部分特征以及所述各项的混合或组合;以及所述各项的混合或组合。
术语“运动数据或移动数据”意味着可以由能够感测移动的一个或多个运动传感器检测到的一项或多项运动或移动属性。
术语“运动或移动属性”意味着与运动数据相关联的属性,包括运动/移动方向(线性、曲线、圆形、椭圆等等)、运动/移动距离/位移、运动/移动持续时间、运动/移动矢量速度(线性、角度等等)、运动/移动加速度(线性、角度等等)、运动签名——运动/移动的方式(与用户、多个用户、对象、区域、区块或者其组合相关联的运动/移动属性)、动态运动属性(比如给定情况下的运动)、由系统基于与系统的用户交互所学习到的运动、基于环境的动态的运动特点、影响或受影响、任何这些特性中的改变以及所述各项的混合或组合。基于运动或移动的数据不限于处于某一实体的控制下的单个身体、身体部位和/或成员的移动,而是可以包括一个事物的移动或者任意的移动组合。此外,实际的身体、身体部位和/或成员的身份也被视为移动特性。因此,本公开内容的系统/装置和/或界面可以使用身体、身体部位和/或成员的身份在基于环境、情境和/或时间数据预先定义或确定的不同对象集合之间作出选择。
术语“手势(gesture)”意味着按照特定方式实施的预先定义的移动或姿势(posture),比如握住拳头、抬起一根手指,所述移动被捕获并且与通过查找表关联到单一功能的预定义的移动集合进行比较,并且当且仅当所述移动是其中一项预定义的移动时,基于手势的系统才实际进行查找并且调用预定义的功能。
术语“环境数据”意味着与用户的周围或环境相关联的数据,比如位置(GPS等等)、位置类型(住家、办公室、商店、公路、道路等等)、位置的范围、情境、使用或参考的频率以及所述各项的混合或组合。
术语“时间数据”意味着与以下各项相关联的数据:一天当中的时间,一月当中的日期,一年当中的月份,任何其他时间数据,以及所述各项的混合或组合。
术语“情境数据”意味着与以下各项相关联的数据:用户活动,环境活动,环境状态,使用或关联的频率,对象、设备或用户的指向,与其他设备和系统的关联,时间活动,以及所述各项的混合或组合。
术语“历史数据”意味着与以下各项相关联的数据:用户、对象、环境和情境的过去的事件和特点或者其任意组合。
术语“同时”或“同时地”意味着动作在同一时间发生或者在一个较小的时间段内发生。因此,如果一个事件序列并发地或者在同一时间发生或者在一个较短的时间段内快速相继发生,则所述时间序列被认为是同时的,其中所述较短时间段的范围是从大约1纳秒到5秒。在其他实施例中,所述时间段的范围是从大约1纳秒到1秒。在其他实施例中,所述时间段的范围是从大约1纳秒到0.5秒。在其他实施例中,所述时间段的范围是从大约1纳秒到0.1秒。在其他实施例中,所述时间段的范围是从大约1纳秒到1毫秒。在其他实施例中,所述时间段的范围是从大约1纳秒到1微秒。
术语“和/或”意味着其混合或组合,因此不管是否使用和/或连接词,短语或分句或语句中的和/或都可以用“以及所述各项的混合或组合”来结束。
术语“间隔开”意味着显示在显示设备的窗口中的对象彼此分开,从而改进系统、装置和/或界面基于通过与所述系统、装置和/或界面相关联的运动传感器所感测到的移动在对象之间作出区分的能力。
术语“最大程度间隔开”意味着显示在显示设备的窗口中的对象彼此分开,从而最大化对象之间的分隔,以便改进系统、装置和/或界面基于通过与所述系统、装置和/或界面相关联的运动传感器所感测到的移动在对象之间作出区分的能力。
具体实施方式
吸引/排斥/操纵装置、系统和/或界面
发明人已发现,可以构造选择吸引或操纵装置、系统和/或界面,其使用被变换成用户反馈设备上或用户反馈设备内的选择对象的运动或移动的运动传感器的活跃传感器区块内的运动或移动来实施以下操作:1)基于运动在可选对象之间作出区分;2)基于所感测到的运动的属性朝向选择对象吸引目标可选对象,所述属性包括方向、角度、距离/位移、持续时间、速度、加速度或者其改变;以及3)当选择对象与(多个)目标可选对象“接触”时,选择并且同时激活特定或目标可选对象或者可选对象的特定群组或可控区域或者一项或多项特性,其中接触意味着:1)选择对象实际上接触到目标可选对象或者移动到目标可选对象的内部;2)接触或移动到围绕目标可选对象的活跃区块(区域或体积)的内部;3)选择对象与目标可选对象合并;4)基于靠近目标可选对象或其相关联的活跃区块而发生触发事件;或者5)基于所预测的选择满足阈值确定性的触发事件。所述接触、合并或触发事件导致处理单元选择和激活对象,选择和激活对象特性列表,选择、激活和调节可调节的特性。所述对象可以表示真实和/或虚拟对象,包括:1)处于装置、系统或界面的控制下的真实世界设备;2)真实世界设备特性和真实世界设备可控特性;3)包括软件产品、软件系统、软件组件、软件对象、软件特性的软件,传感器的活跃区域;4)所生成的EMF场、RF场、微波场或者其他所生成的场;5)电磁波形、声波波形、超声波形;以及/或者6)所述各项的混合和组合。本发明的装置、系统和界面还可以包括与之进行有线或无线通信的远程控制单元。发明人还发现,运动或移动的矢量速度(速度和方向)、距离/位移和/或持续时间可以由所述装置、系统或界面使用来朝向选择对象拉动或吸引一个或一组可选对象,并且增大的速度可以被用来增大对象的吸引速率,减小的运动速度则可以被用来减慢对象的吸引速率。发明人还发现,随着被吸引的对象朝向选择对象移动,可以通过某种方式对其进行增强,比如改变尺寸、改变颜色、改变形状、改变对象外形的线粗、突出表现、改变到闪烁或者所述各项的组合。同时地、同步地或者异步地,子菜单或子对象也可以关于所选择的对象的移动或改变而发生移动或改变。同时地、同步地或者异步地,未被选择的对象可以远离(多个)选择对象移动。应当提到的是,每当使用字对象时,所述字对象还包括对象的含义,并且这些对象可以同时实施分开的、同时的和/或组合的命令功能,或者由处理单元使用来发出组合功能。
在某些实施例中,随着选择对象朝向目标对象移动,目标对象随着朝向选择对象移动将变得更大。很重要的是将我们所寻求的效应概念化。所述效应可以类似于引力对于空间中的对象的效应。空间中的两个对象通过引力彼此吸引,其中引力与其质量的乘积成正比,并且与对象之间的距离的平方成反比。随着对象朝向彼此移动,引力增大,从而越来越快地将其拉向彼此。吸引的速率随着距离减小而增大,并且随着其更加靠近而变得更大。相反,如果所述对象靠近并且一个对象被移动离开,则引力减小并且所述对象变得更小。在本发明中,选择对象离开可选对象的运动可以充当休止(rest),从而把显示返回到原始选择屏幕或者返回到上一个选择屏幕,这非常类似于“返回”或“撤消”事件。因此,如果用户反馈单元(例如显示器)比顶部显示低一个层级,则离开任何可选对象的移动将把显示恢复到主层级。如果显示处于某一子层级,则该子层级中的离开可选对象的移动将向上移动一个子层级。因此,离开可选对象的运动充当向上钻取(drill up),朝向具有子层级的可选对象的运动则导致向下钻取(drill down)操作。当然,如果可选对象是直接可用的,则朝向该可选对象的运动选择并激活该可选对象。因此,如果对象是例如拍摄照片之类的可执行例程,则通过与选择对象的接触、与其活跃区域的接触或者通过预测性阈值确定性选择的触发来选择并且同时激活对象。一旦界面被激活,则可以在用户反馈单元上或者在用户反馈单元内激活选择对象和默认项目菜单。如果朝向可选对象的运动方向或者与围绕可选对象的活跃区域的邻近性使得选择的概率增大,则所述默认项目菜单可以出现或者移动到可选择的位置,或者在对象被实际选择之前取代初始对象的位置,因此通过移动到活跃区域中,或者通过在某一方向上移动从而使得针对对象的交托发生,并且同时导致子对象或子菜单移动到很容易通过仅仅在其方向上移动就被选择的位置,从而导致选择或激活或全部二者,或者通过在其方向上移动直到到达邻近对象的活跃区域,从而使得选择、激活或者二者的组合发生。选择对象和可选对象(菜单对象)分别被指派的质量当量或引力数值为1。当选择对象在显示区域中朝向可选对象移动时所发生的情况在本发明的界面中与真实世界的差异在于,可选对象仅受到来自选择对象的引力效应,而不受到来自其他可选对象的引力效应。因此,在本发明中,可选对象是吸引子,而各个可选对象是非交互性的,或者可能甚至是彼此排斥的。因此,随着响应于运动传感器活跃区块内的用户的运动(比如活跃区块中的手指的运动)而移动选择对象,处理单元对所述运动进行映射,并且在所述运动的总体方向上生成选择对象朝向可选对象的相应移动或运动。处理单元随后确定预期的运动方向,并且基于预期的运动方向允许与所述运动方向最紧密地对准的一个或多个所预测的可选对象受到选择对象的引力场或吸引力。这些对象还可以包括关于(多个)所选择的对象的移动而发生移动的子菜单或子对象。这一效应将非常类似于场的移动和扩张或者场与场的相互作用,其中(多个)场内部的对象将散开并且移动,从而使得与选择对象存在唯一的角度,因此朝向某一可选对象或对象群组的移动可以区别于朝向不同的对象或对象群组的移动,或者在一条线上的第二个或更多对象的方向上的继续运动将导致已被接触或者紧邻的对象不会被选择,相反将在运动停止时作出选择,或者到达运动方向上的最后一个对象并且将选择该对象。处理单元导致显示把这些对象朝向可选对象移动。可选对象移动的方式可以是以恒定的矢量速度朝向选择对象移动,或者朝向选择对象加速,其中加速度的量值随着移动聚焦在可选对象上而增大。人所移动的距离以及速度或加速度还可以合成可选对象朝向选择对象的吸引或移动的速率。在某些情况下,当更希望所选择的对象移动离开用户时,可以使用负的吸引力或引力效应。这样的对象运动将与前面被描述为吸引的运动是相反的。随着运动继续,处理单元能够更好地在竞争的可选对象之间进行区分,更紧密地对准的一个或多个可选对象被拉得更近并且分开,其他可选对象则退回到其原始位置或者被移除或淡化。如果运动是以高于阈值数值的确定性直接朝向特定的可选对象,其中所述阈值数值具有高于50%的确定性,则选择和可选对象合并,并且可选对象被同时选择和激活。或者,如果选择对象的方向、角度、距离/位移、持续时间、速度和/或加速度使得可选对象的概率足以导致选择,或者如果移动使得与围绕可选对象的激活区域的邻近性导致对应于选择、激活或全部二者的阈值发生,则可以在与选择对象合并之前选择可选对象。运动继续直到处理单元能够确定可选对象具有高于50%的选择阈值,这意味着已选择到正确的目标对象的可能性高于未选择到正确的目标对象的可能性。在某些实施例中,选择阈值将是至少60%。在其他实施例中,选择阈值将是至少70%。在其他实施例中,选择阈值将是至少80%。在其他实施例中,选择阈值将是至少90%。
在某些实施例中,选择对象可以实际上出现在显示屏幕上,而在其他实施例中,选择对象可以仅仅虚拟地存在于处理器软件中。举例来说,对于例如触摸屏之类的需要物理接触来激活的运动传感器,选择对象可以被显示并且/或者是虚拟的,其中屏幕上的运动被用来确定可选对象的默认总集当中的哪些可选对象将被朝向虚拟选择对象的所感知的或预先定义的位置(或者在所显示的选择对象的情况下是朝向选择对象)移动,虚拟对象则简单地存在于软件中,比如在显示的中心处,或者当运动与可选对象在默认选择上的位置对准时则是可选对象被吸引到的默认位置。在具有活跃区块的运动传感器的情况下,比如摄影机、IR传感器、声波传感器或者能够检测活跃区块内的运动并且向处理单元产生表示该运动的输出的其他传感器,所述处理单元能够确定所感测或检测到的运动的方向、角度、距离/位移、持续时间、速度和/或加速度属性,选择对象通常是虚拟的,并且用户的一个或更多身体部位的运动被用来把可选对象或可选对象的群组吸引到选择对象的位置,并且预测软件被用来收窄可选对象的群组并且集中在特定的可选对象、对象、对象和特性以及/或者特性上。在某些实施例中,通过用户或者用户身体部位移动到运动传感器或者与界面相关联的传感器的活跃区块中而从睡眠状况激活界面。一旦被激活,反馈单元(比如与界面相关联的显示器)以用户可辨别的方式显示或表现可选对象的默认集合或者可选对象的顶层集合。如果在显示器上或者在另一种类型的反馈单元中或者在另一种类型的反馈单元上没有生成选择对象,则可选对象可以被群集在类似对象的有关群组中,或者围绕吸引的形心均匀地分布。如果一个运动传感器对眼睛运动是敏感的,则眼睛的运动将被用来在例如显示屏幕之类的反馈单元上吸引潜在的目标对象并且在其间进行区分。如果所述界面是只用眼睛的界面(eye only interface),则眼睛运动被用来把可选对象吸引到形心并且进行区分,其中当超出选择阈值时发生选择和激活——一个可选对象比所有其他对象都更紧密地与运动方向对准的置信度高于50%。沿着所述方向的运动的速度和/或加速度进一步被用来增强区分,这是通过更快地朝向形心拉动潜在的目标对象并且增大其尺寸和/或增大其相对分隔。与可选对象的邻近性还可以被用来确认选择。或者,如果所述界面是眼睛和其他身体部位的界面,则眼睛运动将充当主要运动驱动,其他身体部位的运动则充当关于眼睛移动选择的确认。因此,如果眼睛运动已把可选对象收窄到某一群组,并且可能或者可能不会动态地改变用户的视角(焦距拉近/焦距拉远、摇摄、倾斜、滚动或者各种改变的任意组合),则其他身体部位的运动可以由处理单元使用来进一步区分和/或选择/激活特定对象,或者如果特定对象满足阈值并且正与形心合并,则对象身体部位的运动可以被用来确认或拒绝选择而不管阈值置信度如何。在其他实施例中,运动传感器和处理单元可以具有由某一身体部位的给定结构或者两个或更多身体部位的给定组合运动调用的预定动作的集合。例如当激活时,如果运动传感器能够分析图像,则伸出不同数目的手指(从表示拳头的零个手指到表示张开手的五个手指)的手可以导致处理单元显示不同的基础菜单。举例来说,拳头可以导致处理单元显示顶层菜单,单个手指可以导致处理单元显示特定的子菜单。一旦显示出可选对象的特定集合,则运动吸引目标对象,所述目标对象被同时选择和激活。在其他实施例中,确认可以包括由用户生成的噪音,比如一个单词、人声噪音、预定义的人声噪音、拍手、响指或者由用户生成的其他音频控制的声音;在其他实施例中,确认可以是视觉、音频或触觉效果或者此类效果的组合。在某些实施例中,确认可以是动态的、可变的声音、颜色、形状、感觉、温度、畸变或者任何其他效果或其组合。
滚动轮
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括通过运动传感器感测圆形移动的步骤,其中所述圆形移动足以激活滚动轮以用于滚动经过与所述滚动轮相关联的列表,其中靠近显示区块(区域或体积)的中心的移动导致更快的滚动,更加远离中心的移动则导致更慢的滚动,同时更快的圆形移动导致更快的滚动,更慢的圆形移动则导致更慢的滚动。当用户停止或暂停圆形运动时,即使是对于非常短的一段时间——少于或等于1秒,或者改变方向从而使得系统、装置和/或界面可以辨别出移动不再是圆形的,比如是在线性方向上移动(例如在x方向、y方向、z方向轴、xy平面中的线性方向或者xyz体积中的线性方向上移动),则对象或列表成员变成静态,从而使得用户可以移动到特定对象或成员,保持在特定对象或成员之上,或者在特定对象或成员处或者在其附近改变运动方向。可以显示整个轮或者所述轮的一部分数量或一部分,或者可以仅仅显示一道弧形,其中滚动沿着所述弧形移动,从而使得沿着弧形的一个方向上的移动向上或向左滚动,并且沿着弧形的另一个方向上的移动向下或向右滚动。这些动作导致处理单元选择特定对象或成员,同时选择和激活特定对象或成员,或者同时选择、激活和控制对象或成员的特性。通过在屏幕上的任何位置再次开始圆形运动,滚动立即重新开始。当然,滚动可以是经过一个数值列表,或者实际上还可以是控制数值,并且所有运动还可以是在2D、3D或nD环境中。
间隔开的可选对象选择格式
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:在显示场上显示可选对象的间隔开的布局或格式,感测朝向特定可选对象的移动,基于所述移动的方向、距离/位移、持续时间、矢量速度和/或加速度朝向用户位置、移动位置、用户、移动或中心拉动该对象,随着所选择的对象朝向用户、移动或中心移动,子对象按照分布在围绕所选择的对象的间隔开的形式或配置中的方式出现。所述装置、系统和/或界面及其实施方法可以重复感测和显示操作。在所有情况下,按照对于交互效果所期望的那样,单个或多个子对象或子菜单可以被显示在用户与主要对象之间、后方、下方或者任何其他地方。所述间隔开的布局、格式、安排或配置可以是可选对象的弧形安排、线性安排、网格安排或者任何其他间隔开的安排。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括基于所感测到的移动的属性预测对象的选择的步骤,其中所述属性包括方向、角度、距离/位移、持续时间、矢量速度(速度和方向)、加速度(量值和方向)、针对其中一项、一些或所有各项的改变或者其组合。举例来说,更快的矢量速度可以增大可预测性,更慢的矢量速度可以减小可预测性,或者反之亦然。或者,可以使用移动平均值对将被选择的对象进行外插。这些平均值可以包括方向平均值、距离/位移平均值、持续时间平均值、矢量速度平均值、加速度平均值、线性移动平均值、非线性移动平均值、角度平均值以及/或者任何其他移动平均值。求平均规程可以包括滤波器,或者可以包括来自多个传感器的平均输出。此外,所述系统、装置和/或界面可以耦合“引力”、“电气”和/或“磁性”吸引或排斥效应,以便朝向或离开与系统和/或移动属性最为对准的用户、移动或选择对象吸引或排斥可选对象,其中吸引或排斥的程度可以与矢量速度和/或加速度的量值成比例。此外,可以通过某种方式突出表现受到影响的一个或多个对象,比如尺寸的增大、视觉属性中的改变、声音属性中的改变、视听属性中的改变以及/或者与所述一个或多个对象相关联的任何其他显示或输出属性中的改变。这也可以通过以下情况而发生:用户开始朝向特定可选对象移动,特定可选对象开始朝向用户或选择对象加速,用户和选择对象停止移动但是特定可选对象继续朝向用户或选择对象加速。在某些实施例中,相反的效应随着用户或选择对象移动离开而发生——开始时彼此靠近,特定可选对象快速移动离开,但是随着距离增大而减慢其排斥速率,从而给出非常平滑的外观。因此,吸引和/或排斥效应的量值可以与选择对象之间的距离成比例地减小或增大,其中所述比例可以类似于引力随着距离的平方而减小,可以是复合的,其中当距离较小时非常强(比如强力吸引)并且随后当距离更大时则更弱(类似于电磁力),或者可以是任何其他比例。在不同的使用中,特定可选对象可以加速离开或者立即返回其原始或预定位置。在这些情况当中的任何情况下,在用户或选择对象与(多个)特定可选对象之间发生动态交互,其中可以发生选择和控制以及解除选择和控制,包括选择和控制或者解除选择和控制相关联的子菜单或子对象以及/或者相关联的特性(可调节或可调用)。
使用用户生物计量学、动力学和/或生物动力学特点进行用户识别
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:检测用户的至少一项生物动力学特点,比如单个指纹、多个指纹、掌纹、视网膜纹,手指、手掌、(两只)眼睛、(两只)手、面部等等的尺寸、形状和纹理,或者可以由声波传感器、热传感器、光学传感器、电容式传感器、电阻式传感器或其他传感器检测的至少一项EMF、声学、热或光学特点,所述传感器能够检测从用户发出或者与用户相关联的EMF场、其他动态波形或其他特点或者其组合,包括为每一个个体提供唯一标记的例如手指或眼睛之类的身体部位的特定移动和移动测量;从生物动力学特点确定用户的身份;以及一旦验证了用户身份则如本文中所阐述的那样感测移动。用户识别可以由所述装置、系统和/或界面使用来把装置、系统和/或界面适配于特定用户,其中可以使用给定装置、系统和/或界面的每一个用户可以具有与其对于装置、系统和/或界面的使用相关联的优选项特点。通过这种方式,现有的用于运动的传感器还可以唯一地辨识用户以及与用户相关联的运动事件。通过使用两个或更多身体部位、两项或更多项用户生物计量学特点、两项或更多项用户动力学特点以及/或者两项或更多项生物动力学特点(例如两根手指),以及甚至进一步通过使得用户在进入活跃传感器区块时实施特定的(多个)身体部位任务,比如把手指或者手指和拇指夹在一起。其他生物动力学、动力学和/或生物计量学特点还可以被用于唯一用户识别,比如皮肤特点和关节长度与间隔的比例。另外的实例包括(多根)手指、手或其他身体部位之间的关系,并且由身体部位产生的波形、声学、磁性、EMF或其他干涉图样产生唯一的常数,并且可以被用作唯一的数字签名。举例来说,3D声学或EMF场中的手指将产生唯一的零值和峰值点或者唯一的零值和峰值图样,因此与场进行交互的“噪声”可以实际上帮助产生唯一的标识符。这可以通过移动特定距离而进一步区分,其中可以通过较小的颤动、变化等等唯一地识别运动,并且通过噪声中的干涉图样进一步放大。这种类型的唯一识别可以被使用在触摸和无触摸应用中,但是在使用无触摸传感器或者无触摸传感器的阵列时可能是最明显的,其中可能由于手或手指等等的尺寸和形状而存在干涉图样(例如使用声学传感器)。此外,可以通过包括运动作为另一个唯一变量来确定唯一性,这样可以帮助进行安全认证。此外,通过建立基础用户的生物动力学签名或授权,每个生物动力学事务或事件的轻微变化还可以被用来唯一地识别每一个事件,因此用户将被肯定地并且唯一地识别以授权商业交易,但是唯一的速度、角度和变化(甚至是在波形和/或波形噪声层级)可以被用来与另一个事务相比唯一地识别一个事务。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:感测第一身体部位(比如眼睛等等)的移动;跟踪第一身体部位移动直到其在对象的活跃区块内停止、暂停或保持在对象上或者足够靠近对象的活跃区块,从而以阈值确定性程度确保选择确定性;初步选择对象;感测第二身体部位(比如手指、手、脚等等)的移动;确认初步选择并且选择对象。所述选择随后可以导致处理单元调用其中一项命令和控制功能,包括发出滚动功能、同时选择和滚动功能、同时选择和激活功能、同时选择、激活和特性调节功能或者其组合,并且通过第一或第二身体部位的进一步移动来控制特性,或者如果对象受到直接激活则激活对象。这些规程可以包括跟踪眼睛移动以便发起经过列表的滚动功能,这是通过朝向列表移动或者移动到列表之上,并且跟踪另一个身体部位的移动以便选择列表的特定成员。因此,用以滚动和选择或者选择和确认的必要移动可以涉及两个或更多身体部位的移动,所述移动被用来调用本公开内容的其中一项命令和控制功能——选择和激活、选择和特性调节、选择和子菜单或对象滚动或者其组合。在某些实施例中,如果对象配置是预先确定的,从而使得某一对象处在几个其他对象的中间,则一旦滚动开始,所述系统、装置和/或界面可以释放眼睛,从而眼睛可以移动到另外的某个地方以用于实施其他动作,而手的运动则独立于眼睛运动继续滚动、选择和/或控制特性或者其组合。因此,所述系统、装置和/或界面可以按照协作方式、按照耦合方式或者按照独立方式使用手和眼睛的移动(两个或更多身体部位的移动),从而使得所述系统、装置和/或界面以不同方式控制可控对象。所述移动可以是独立的、耦合的、复合的、顺序的、同时的或并发的以及/或者是复杂的,也就是组合独立、耦合、复合、顺序或者同时或并发移动当中的一项或更多项。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括在一个选择规程或多个选择规程期间捕获用户的移动的步骤,从而产生未经处理的用户移动数据集。所述方法还包括对未经处理的用户移动数据集进行简化从而产生经过细化的用户移动数据集的步骤,其中所述细化可以包括把移动简化到多个链接的矢量,简化到拟合曲线,简化到样条拟合曲线,简化到具有减小的存储尺寸、减小的数据点总集的任何其他曲线拟合格式,或者简化到任何其他拟合格式。所述方法还包括把未经处理的用户移动数据集或经过细化的用户移动数据集存储在适当的数据库中的步骤,以供本公开内容的系统、装置、界面和/或方法存储、取回和/或使用。所述方法还包括对经过细化的用户移动数据集和/或经过细化的用户移动数据集进行分析的步骤,从而产生用于改进使用所述基于运动的系统、装置和/或界面的用户选择规程的预测的预测工具,产生用于识别用户的过去行为的取证工具,或者产生用于训练用户界面改进用户交互的训练工具。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:同时或基本上同时感测多个身体部位的移动;以及把所感测到的移动转换成控制功能以用于同时控制一个对象或多个对象。所述方法和系统还包括控制一项特性或多项特性,或者激活一个对象或多个对象,或者其任意组合。举例来说,把一只手放在圆顶表面之上以用于控制UAV,感测手在圆顶上的移动,其中移动方向与飞行方向相关,感测圆顶表面之上的移动中的改变,其中所述改变与功能的方向、角度、距离/位移、持续时间、速度或加速度中的改变相关,并且同时感测一根或更多根手指的移动,其中手指的移动可以通过独立的(多根)手指移动来控制UAV的其他特征,比如俯仰角、偏航角、翻滚角、摄影机聚焦、导弹发射等等,同时手、手掌或者手的其他指定区域则正在控制UAV,这或者是通过保持静止(继续上一个已知的命令)或者是当手正在移动、加速度或者改变距离、位移(在2D或3D中或者在柔性或可形变介质中)或加速度方向时发生。在某些实施例中,如果显示设备是柔性设备,比如柔性屏幕或柔性圆顶,则所述移动还可以包括使得柔性设备的表面发生形变,改变表面上、圆顶的体积内部的压力,或者类似的表面和/或体积形变。这些形变可以与其他运动相结合来使用。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括用所显示的主要对象和隐藏的次要对象来填充显示场的步骤,其中主要对象包括菜单、程序、应用、特性、设备等等,次要对象包括子菜单、特性、优选项等等。所述方法和系统还包括感测移动,突出表现与移动方向最紧密地对准的一个或更多主要对象,基于移动预测主要对象,并且同时:(a)选择主要对象;(b)在间隔开的配置中显示与运动方向最紧密地对准的次要对象;(c)把主要和次要对象拉向显示场的中心或者拉到显示场的预定区域;并且/或者(d)移除、淡化或者停用未被选择的主要和次要对象,直到再次使其活跃为止。
或者,主要和/或次要对象之间的区块可以充当激活区域或者将与对象以相同方式动作的子例程。举例来说,如果有人要在2D(手表或移动设备)、3D空间(虚拟现实环境和改变现实环境)、nD空间(比如表示在VR或AR环境中的x、y、z、t空间之类的n维空间)中的两个对象之间移动,背景中的对象可以被旋转到前方,并且前方对象可以被朝向后方旋转,或者旋转到不同的层级。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括用所显示的主要对象以及与所显示的主要对象相关联的偏移活跃场来填充显示场的步骤,其中主要对象包括菜单、对象列表、字母字符、数字字符、符号字符、其他基于文字的字符。所述方法和系统还包括感测移动,突出表现与移动方向最紧密地对准的一个或更多主要对象,基于移动、情境以及/或者移动和情境来预测主要对象,并且同时:(a)选择主要对象;(b)在间隔开的配置中显示与运动方向最紧密地对准的次要(第三级或更深)对象;(c)把主要和次要或更深的对象拉向显示场的中心或者拉到显示场的预定区域;并且/或者(d)移除、停用或淡化或者通过其他方式表明未被选择的主要、次要和更深层级对象的未选择状态。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括感测眼睛的移动并且同时在显示场或显示器的固定窗口或观看窗格内移动列表的各个单元的步骤,或者通过安排在显示场内的2D、3D和/或nD矩阵中的单元而被隐藏或可见的活跃对象,其中眼睛在视场中在任何方向上移动到任何位置,而不管比如图标之类的单元的安排移动经过可选对象的集合。当然,可以通过眼睛的移动来移动窗口,以便实现经过列表或对象的集合的相同滚动,或者通过随着其他运动发生同时地或顺序地使用关于显示器或体积(视角)的全部两个眼睛位置,可以发生不同的结果。因此,滚动不需要是线性方式,其意图是选择对象和/或特性和/或其他可选项目而不管运动的方式如何——线性、弧形、角度、圆形、螺旋、随机等等。一旦将要选择感兴趣的对象,则通过以下方式实现选择:眼睛在不同方向上的移动,将眼睛保持就位在某一对象之上一段时间,不同身体部位的移动,或者影响对象、特性、音频事件、面部姿势以及/或者生物计量学或生物动力学事件的选择的任何其他移动或移动类型。这些相同的步骤可以只与身体一起使用,或者与多个身体部位和眼睛或者头部凝视或移动的组合一起使用。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:感测眼睛的移动;通过在预先描述的方向改变上移动眼睛而选择对象、对象特性或全部二者,从而使得所述方向改变将是已知的并且不同于随机眼睛移动,或者与滚动相关联的移动(滚动是通过在意图作出选择的情况下在整个屏幕或对象的体积上移动眼睛而定义的)。当然,可以用任何身体部位或者处于身体部位的控制下的对象来取代眼睛。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:通过运动传感器感测眼睛移动;当眼睛在某一对象处暂停足以使得运动传感器检测到所述暂停的停留时间时选择显示在显示场中的对象并且同时激活所选择的对象;重复所述感测和选择,直到所述对象是可激活的或者是能够直接控制的特性。在某些实施例中,所述方法还包括从移动的特点以及/或者用户移动的方式的特点预测将要选择的对象。在其他实施例中,眼睛跟踪——使用凝视而不是运动以便通过眼睛聚焦(停留时间或凝视时间)在对象上而进行选择/控制,并且身体运动(手指、手等等)滚动经过与对象相关联的相关联的特性列表,或者选择与对象相关联的子菜单。眼睛凝视选择子菜单对象,并且身体运动确认选择(在没有身体运动的情况下不发生选择),因此身体运动实际上影响对象选择。
在其他实施例中,眼睛跟踪——使用运动进行选择/控制——眼睛移动被用来选择word文档的一个语句中的第一个单词。通过保持位置的手指(例如右手指)的身体运动来确认选择。随后跟踪眼睛移动到语句中的最后一个单词,并且另一个手指(例如左手指)确认选择。由于定义选择的边界的第二运动,突出表现所选择的语句。通过朝向第二眼睛位置(语句或单词的末尾)移动相同的手指可以具有相同的效果。其中一根手指朝向监视器的侧面的移动(所述移动是在不同于确认移动的方向上)发送用以删除语句的命令。或者,在眼睛移动到不同的位置之后通过全部两根手指总体朝向该位置移动,导致语句被拷贝到眼睛所停止的位置。这还可以与手势或者与运动和手势的组合(比如眼睛移动和其他身体移动)并发地相组合来使用——同时有多项输入,比如后面所描述的UAV控制。
本公开内容的其他实施例涉及方法以及用于实施所述方法的系统,包括以下步骤:在圆顶界面上用一只手控制直升机,其中几根手指和手全都一起移动或者分开移动。通过这种方式,手的整体移动控制直升机在海拔高度、方向、偏航角、俯仰角和翻滚角中的移动,手指则还可以同时移动以便控制摄影机、火炮或者其他控制或特性或者全部二者。因此,所述系统、装置和界面可以同时地、一致地或者顺序地处理来自一个或多个运动传感器的多项移动输出,其中所述移动可以是依赖性的、部分地依赖、部分地耦合、完全耦合、部分地独立或者完全独立。术语“依赖性”意味着一项移动是主导的,并且所有其他移动依赖于主导移动。举例来说,在控制UAV或穿越VR/AR环境时,可控项(controllable)的集合可以包括海拔高度、方向、角度、距离/位移、持续时间、速度、矢量速度、加速度、偏航角、俯仰角、翻滚角等等,其中在某些情况下,海拔高度可以是主导可控项,所有其他可控项依赖于海拔高度,从而使得在所期望的海拔高度处实施所有其他可控项。术语“部分地依赖”意味着移动输出的集合包括主导输出,并且所述集合的其他成员依赖于主导移动。例如考虑相同的可控项集合,矢量速度和海拔高度可以是独立的,并且其他集合关联到其中的每一项。术语“部分地耦合”意味着其中一些移动输出彼此耦合,从而按照预先定义或预先确定的方式动作,而其他移动输出则是独立的。例如考虑相同的可控项,海拔高度、方向、角度、距离/位移、持续时间、矢量速度和加速度随着UAV行经预定义的路径时可以是耦合的,其他可控项则是独立可控的。术语“完全耦合”意味着所有移动输出都彼此耦合,从而按照预先定义或预先确定的方式动作。举例来说,所有UAV传感器可以全部耦合,从而使得所有传感器都在跟踪一个特定目标。术语“部分地独立”意味着其中一些移动输出是独立的,而一些移动输出则是依赖性的或耦合的。举例来说,所有传感器可以在跟踪一个特定目标,而UAV定位控制则可以全部被独立地控制。术语“完全独立”意味着每一项移动输出都独立于其他输出被处理。
在其他实施例中,通过看向画面或物品的中心并且随后移动一根手指离开画面的中心或身体的中心而放大画面或物品(焦距拉近)。通过朝向画面的中心移动手指而使得画面更小(焦距拉远)。在这里很重要的是应当理解,眼睛凝视点、凝视方向或眼睛的运动提供用于将身体运动和位置与之进行比较的参考点。举例来说,通过在触摸或无触摸的2D或3D环境(以及区域或体积)中把某一身体部位(例如一根手指)移动离开画面中心特定的距离,可以提供不同的视图。举例来说,如果(两只)眼睛看向某一区域中的中心点,则将会出现一个视图,如果(两只)眼睛看向某一区域中的边缘点,则将会出现不同的视图。运动的相对距离或角度将会改变,并且相对方向或角度也可能会改变,并且甚至涉及(两只)眼睛和手指全部二者的动态改变可以提供另一种运动改变。举例来说,通过看向棍棒的末端并且使用手指移动到其另一端,则枢轴点将是眼睛所看向的末端。通过看向棍棒的中部随后使用手指旋转末端,则棍棒将围绕中部枢轴转动。这些移动当中的每一项可以被用来控制画面、屏幕、显示、窗口或者3D投影的体积等等的不同特性。现在需要用到两根手指的操作可以用一根手指取代,这是由于(两只)眼睛充当缺失的手指。
这些概念可用来操纵画面的视图、图像、3D数据或更高维数据、3D渲染、3D建筑物渲染、3D工厂和设施渲染或者任何其他类型的3D或更高维(nD)画面、图像或渲染。对于显示、画面、屏幕等等的这些操纵还可以在没有同时使用眼睛的情况下来实施,相反是通过使用处于用户的控制下的手指或物体的运动来实施,比如通过从边框、屏幕或框架(虚拟或真实)的下方一角沿对角线移动到上方对角以便控制一项特性,比如焦距拉近,而从上方一角沿对角线移动到下方另一角则将实施不同的功能,例如焦距拉远。这一运动可以通过手势来实施,其中特性改变可以在预定义的层级发生,或者可以被可变地控制,因此焦距拉近/焦距拉远功能可以是时间、空间和/或距离的函数。通过从一个侧面或边缘移动到另一个,可以在显示、画面、框架等等上发生相同的预定义层级的改变或者可变的改变。举例来说,电视屏幕正在显示画面,并且可以通过从框架或边框的左下角或者一个可识别的区段(甚至处于屏幕之外)移动到右上方部分来实施焦距拉近。随着用户移动,画面被放大(焦距拉近)。通过开始于右上角并且朝向左下方移动,系统导致画面尺寸按照与用户移动的距离或速度相关的方式减小(焦距拉远)。如果用户从上方一角向下方另一角进行快速的对角线向下移动,则画面可以被减小50%(作为举例)。这样就不再需要像当前普遍作为夹捏/变焦功能那样使用两根手指。
通过用户从框架或边框的右侧或预定义位置朝向左侧移动,画面的长宽比可以被改变,从而使得画面高而瘦。通过从顶部边缘朝向底部边缘移动,画面可以导致画面看起来矮而宽。通过把两根手指从上方一角沿对角线朝向下方一角移动,或者从一侧移动到另一侧,“剪裁”功能可以被用来选择画面的特定视方位(aspect)。
通过取得一根手指并且将其放置在画面、框架或边框的边缘附近,但是不会近到将被识别成希望使用尺寸或剪裁控制,并且在旋转或圆形方向上移动,则画面可以被可变地旋转,或者如果这是在快速手势运动中进行,则画面可以旋转预定义的数量,例如向左或向右90度,这取决于运动的方向或角度。
通过在画面的中心区域内移动,画面可以被移动从而可变地“摇摄”所期望的数量或者摇摄预设的数量(例如框架的50%),这是通过在所期望的摇摄方向上作出手势或动态运动。同样地,这些相同的运动可以被使用在3D环境中,以用于简单地操纵对象特性。这些运动不是使用当前在CAD程序中所使用的预定义枢轴点的特定运动,而是一种在广阔的领域中使用身体(例如眼睛或手指)的一种方式。这些相同的运动可以被应用于任何显式器、投影显示器或者其他类似的设备。在移动设备中,其中许多图标(对象)存在于一个屏幕上,其中所述图标包括“嵌套”对象的文件夹,通过从设备或屏幕的下方一角沿对角线朝向上方一角移动,显式可以焦距拉近,这意味着对象看起来将被放大,但是更少的对象将被显示。通过从右上角沿对角线向下移动,图标将变得更小,并且在相同的显示上可以看到更多图标。通过在显示器的边缘附近在圆形运动中移动可以导致图标的旋转,从而提供经过图标的列表和页面的滚动。通过从一个边缘移动到相对边缘将改变所显示的对象的长宽比,基于移动的方向,使得图标的屏幕看起来更矮并且更宽或者更高并且较瘦。
在其他实施例中,通过看向某一菜单对象并且随后把手指移动离开对象或身体的中心,则打开子菜单。如果对象表示例如excel之类的软件程序,则移动离开会完全地或可变地打开电子数据表,这取决于进行了多少移动(展开电子数据表窗口)。
在其他实施例中,取代作为通过图标访问的程序,所述程序可以占据用户与之进行交互的3D空间的一部分或者充当用于程序的传感器的耦合到传感器的场,用户可以通过它与程序进行交互。在其他实施例中,如果对象表示例如Excel之类的软件程序并且几个(例如4个)电子数据表同时打开,则离开对象的移动示出4个电子数据表图标。其效果非常类似于从窗户拉开窗帘从而显露出所打开的软件程序。软件程序可以被表示成“动态场”,每一个程序具有其自身的颜色,例如对于excel是红色、对于word是蓝色等等。每一个场的对象或视方位或特性可以通过使用运动来操纵。举例来说,如果场的中心被视为围绕对象或数值的体积空间的原点,则在场的外部移动导致整个体积上的复合效应,这是由于具有更大的x数值、更大的y数值或更大的z数值——假设所述场的最大数值是5(x、y或z),则与在数值1(x、y或z)处移动相比,在5点处移动将是乘数效应为5,从而提供将与之交互的数值的梯度。还可以使用相反的情况,其中在与原点的更远距离处移动可以在部分或整个场和相应的数值上提供更小的效应。可以发生颜色、形状、尺寸、密度、音频特点或者这些项的任意组合中的改变以及其他形式的数值表示,从而还可以帮助一个或多个用户理解运动在场上的效应。这些可以是电子数据表的预览窗格或者表示这些的任何其他图标。通过向回移动经过每一个图标或者把手指移动经过每一个图标或预览窗格并且随后移动离开图标或者身体的中心,选择打开程序并且在桌面上将其均等地展开,或者将其分层在彼此之上等等。这些动作可以被组合,也就是说在AR/VR环境中,眼睛和手指以及另一只手(或身体)的运动可以分别或者组合起来具有一个或多个预定的轴,以便显示菜单并且控制特性或选择,所述特性或选择可以是静止的或动态的,并且可以彼此进行交互,因此眼睛、身体和手的不同组合可以提供相同的结果(冗余)或者不同的结果,这是基于与这些相组合的运动和保持、凝视以及甚至姿态(pose)或姿势的组合或序列。因此,多个轴中的运动可以通过复合方式移动,以便提供冗余的或不同的效果、选择和特性控制。
在其他实施例中,四个word文档(或者任何程序或网页)同时打开。从屏幕右下方到左上方的移动显露出页面页面右下方的文档,其效果看起来类似于拉回窗帘。从右上方到左下方的移动显露出不同的文档。从顶部移动跨越顶部并且向回循环跨越底部打开所有文档,每一个文档处于其象限中,随后通过移动经过所期望的文档并且产生经过各个对象的圆形而将其全部链接在一起,并且把所述文档合并成一个文档。作为另一个实例,用户打开三个电子数据表并且仅仅通过运动或移动动态地组合或分离电子数据表,其中根据运动或移动的数量和方向、角度、距离/位移和/或持续时间方面可变地进行组合或分离。同样地,软件或虚拟对象是动态场,其中在所述场的一个区域中移动可以具有不同于在另一个区域中移动的结果,组合或移动经过所述场导致软件程序的组合,并且可以动态地进行。此外,通过使用眼睛帮助识别场(2D或3D)中的特定点将帮助定义将要操纵或者与之交互的软件程序(场)的适当层次或区域。可以通过这种方式对这些场内的动态层进行空间表示并且与之交互。其中一些或所有对象可以被成比例地影响,或者通过所述场中或附近的一个或更多其他对象的移动按照某种方式被影响。当然,眼睛可以按照与身体部位相同的方式来工作,或者与其他对象或身体部位组合工作。在所有情况下,情境的、环境的、经过优先级排序的以及加权的平均值或者密度和概率可能会影响所述场以及与(多个)场相关联的数据或对象的交互和视方位视图。举例来说,通过创建包含RNA、DNA、家族历史数据、食物消费、锻炼等等的数值和数据点的图形表示,如果用户开始与食物消费区块相比更靠近RNA区块进行交互,则将按照不同方式进行交互,并且随着用户把某些单元移动到更靠近其他单元或者在彼此不同的序列中移动,所述场将部分地或者完全按照不同方式作出反应。这一动态交互和视觉化将表达出各个单元的加权数值或组合以便表现出不同的结果。
在其他实施例中,眼睛进行选择(像悬浮在对象之上的光标那样动作,并且对象可以或者可以不作出响应,比如改变颜色以便标识出其已被选择),随后眼睛或不同身体部位的运动或手势进行确认,并且解脱眼睛以进行进一步处理。
在其他实施例中,眼睛进行选择或跟踪,第二身体部位的运动或移动或手势导致被跟踪对象的特性中的改变——比如弹出或破坏对象、变焦、改变对象的颜色等等,手指则仍然控制对象。
在其他实施例中,眼睛进行选择,并且当使用同时或顺序工作的身体运动和眼睛运动时,与眼睛运动独立于身体运动时相比发生不同的结果,例如(两只)眼睛跟踪气泡,手指移动以变焦,手指的移动选择气泡,现在眼睛移动将基于凝视点旋转气泡或者改变气泡的特性,或者眼睛可以凝视并选择和/或控制不同的对象,手指则继续选择和/或控制第一个对象,于是可以发生顺序的组合,比如首先用手指来指并且随后凝视气泡的一部分可以产生与首先注视并且随后移动手指不同的结果;同样地,与按照不同顺序使用相同的身体部位将会发生的情况相比,通过使用眼睛、随后是一根手指、随后是两根手指可以发生进一步的差异。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:在圆顶界面上用一只手控制直升机,其中几根手指和手全都一起移动或者分开移动。通过这种方式,手的整体移动控制直升机在偏航角、俯仰角和翻滚角中的移动,手指则还可以同时移动以便控制摄影机、火炮或者其他控制或特性或者全部二者。这是多项输入同时地、一致地或者独立地移动。
在某些实施例中,用户的视角随着在3D空间中作出引力效应和对象选择而改变。举例来说,随着我们在3D空间中朝向子对象移动,通过使用我们先前提交的引力和预测效应,每一项选择可以改变用户的整个视角,从而使得接下来的选择处于视图的中心或者处于最佳的视角。这可以包括视角的旋转视方位,其目标是把用户的所需移动保持得较小并且在界面基板面(real estate)中尽可能地居中。这实际上示出用户的视方位、视点或视角,并且是相对的。由于我们说对象和场可以被移动,或者说用户可以围绕场移动,因此其实际上是相对的。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:利用与之相关联的运动控制感测按钮或旋钮在3D空间之上或其中或者在侧面上(不管其形状如何)的移动,通过运动的方向、距离/位移、角度、持续时间和/或速度来预测那些手势被调用(可能是针对引力/预测应用的修正)。就定义而言,手势具有姿态-移动-姿态并且随后对表进行查找,随后如果数值等于查找表中的数值则发出命令。我们可以开始于某一姿态,并且通过开始在最终姿态的方向上移动来预测手势。随着我们继续移动,我们将滚动经过所预测的手势的列表,直到我们可以找到最有可能的所期望的手势,从而在手势完成之前导致触发手势的命令。所预测的手势可以在选择列表中被动态地示出,并且在显示中由对象或文字或颜色或者通过某种其他方式来表示。随着我们继续移动,手势的预测最终结果将被动态地显示并且被放置在特定位置处,从而使得一旦出现正确的结果,则朝向表示正确手势的该对象的移动将选择和激活手势命令。通过这种方式,可以在手势全部完成之前预测和执行手势,从而提高速度并且为用户提供更多变量。
例如在键盘应用中,当前的软件使用手势的形状来预测单词。Google使用字母的区块(字母的群组)并且组合各个区块(手势)以便预测单词。我们可以使用相同的基于手势的系统,其不同之处在于我们能够基于一项或更多项移动属性来预测用户正在朝向哪一个区块移动,这意味着我们将无须实际上移动到区块中以完成手势,相反通过朝向区块移动将选择或带出选择气泡,并且通过朝向气泡移动将选择该气泡。一旦选择了单词,则可以示出展开选项的菜单,因此可以通过移动经过语句“树”而创建语句。
在另一个实例中,取代使用例如“夹捏”手势之类的手势在无触摸环境中选择某个事物,则朝向作出该手势的移动将实际上触发相同的命令。因此,取代必须实际上将手指触摸拇指,仅仅通过把手指朝向拇指移动就将导致发生相同的效果。最有帮助的是组合手势,其中手指指向手势之后是夹捏手势,从而随后移动虚拟对象。通过预测手势,在指向手势之后,夹捏手势的开始移动将比必须完成夹捏运动的情况更快。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:通过运动传感器在显示来自字母表的字母的列表的显示场内感测移动;基于运动感测字母或字母的群组,如果移动与单个字母对准则同时选择字母,或者同时向前移动字母群组直到群组中的字母之间的区分在预测方面是确定的,并且同时选择字母;感测一项或更多项移动属性中的改变;基于运动预测第二个字母或第二个字母群组,如果移动与单个字母对准则同时选择字母,或者同时向前移动字母群组直到群组中的字母之间的区分在预测方面是确定的,并且同时选择字母;在第一字母选择或第二字母选择或全部二者之后,显示开始于第一个字母或第二个字母的潜在单词的列表;通过第二身体部位的移动从单词列表中选择单词并且同时选择单词;以及重置原始字母显示并且重复各个步骤,直到完成消息为止。
因此,当前的设计简单地通过改变某一字母处或其附近的一项或更多项运动属性来选择字母。一种更快的处理将是使用朝向字母的移动,随后在到达该字母之前改变一项或更多项移动属性,通过朝向下一个字母移动并且在到达该下一个字母之前再次改变一项或更多项移动属性将更好地预测单词,并且可能会改变第一字母选择。选择气泡将会出现并且在移动的同时改变,因此可以使用一项或更多项移动属性来预测单词,而不一定必须移动到确切的字母之上或者与之非常靠近,但是移动到确切的字母之上将是对于该字母的肯定选择,并且通过微小的暂停或者放慢移动可以更好地验证这一效果。(当然,这可以与当前的按钮类动作或抬离(lift-off)事件(触摸抬起(touch-up)事件)相组合,并且可以同时地或顺序地使用多于一根手指或多于一只手,以便提供拼写和键入动作)。这在无触摸环境中是非常有效的,其中可以利用相对运动在键盘上预测单词,而不是从按键到按键移动所需要的实际距离。与所投影的键盘的距离和手指的移动使用运动的角度来预测字母。可以通过Z移动来选择预测单词气泡。B)在键盘的字母下方移动以进行选择,或者将字母按钮的形状确定成使其向下延伸(类似于泪滴),从而使得在选择的同时可以看到实际的字母而不是覆盖字母(触摸或活跃区块与实际的按键存在偏移)。这还可以与预测运动一起使用来创建非常快速的键盘,其中使用相对运动来预测按键和单词,并且同时更容易地能够看到按键字母。气泡还可以出现在按键上方或旁边或者围绕按键(包括以弧形或辐射状方式),以便通过朝向所提议的单词移动而进一步选择所预测的结果。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:把所有软件应用中保持在即时开启(instant on)配置中——开启但是停用,驻留但是不活跃,从而使得一旦被选择,则仅仅是休眠的应用瞬时完全激活(或者可以被描述成对象的不同对焦);通过运动传感器对于包括应用对象的显示场感测移动,所述应用对象在间隔开的配置中分布在显示上,优选地是分布在最大间隔开的配置中,从而使得运动导致对于应用对象的快速预测选择;朝向显示场的中心拉动应用对象或应用对象的群组,如果移动与单个应用对准,则同时选择并且即时开启应用,或者继续监测移动直到应用对象之间的区分在预测方面是确定的,并且同时选择和激活应用对象。
因此,行业内必须开始把所有事项视为总是开启,并且开启的事项总是交互式的,并且可以具有不同层级的交互性。举例来说,软件应当是交互场。Excel和word应当是交互场,经过其中的运动可以组合或选择对应于与运动交缠的单元格和文字的区域。Excel表单应当是相同的3D场的一部分而不是分开的页面,并且应当具有深度从而可以将其视方位组合在体积中。软件桌面体验需要深度,其中桌面是体积的封面(cover),并且从不同的角落回滚桌面表现出具有不同颜色的活跃程序,比如当从右下角向左上角移动时表现出word并且是蓝色场,当从左上角向右下角移动时表现出excel并且是红色场;从右向左移动揭开封面并且在体积中表现出所有应用,每一个应用在3D空间中具有其自身的场和颜色。
在其他实施例中,所述装置、系统和/或界面包括活跃屏幕区域,所述活跃屏幕区域包括删除或退格区段。当用户把活跃对象(光标)朝向删除或退格区段移动时,取决于朝向删除或退格区段的移动的特性,所选择的对象将被一次一个地释放或分组释放或完全释放。因此,如果移动缓慢且稳定,则所选择的对象被一次一个地释放。如果移动较快,则释放多个所选择的对象。因此,删除或退格区段是可变的。举例来说,如果活跃显示区段表示蜂窝电话拨号盘(数字分布在任何所期望的配置中,从传统的网格配置到围绕活跃对象的弧形配置,或者任何其他合乎期望的配置),当朝向删除或退格区段移动活跃对象时,将从号码中移除数字,其可以被显示在所述显示的号码显示区段中。或者,通过触摸退格区段将退回一个字母;在退格区段中从右向左移动将基于移动的距离(和/或速度)而删除(退格)相应数量的字母。当运动停止、暂停或者检测到抬离事件时,可以发生删除。或者,滑动运动(急动(jerk)或快速加速)可以导致删除(退格)整个单词。所有这些可以或者可以不需要抬离事件,但是运动表明被删除或释放的对象(比如字母、数字或其他类型的对象)的数量。前述内容对于删除键同样成立,其不同之处在于方向将是向前而不是向后。最后,前述内容在辐射状(或者线性或空间)菜单中可以是成立的,其中朝向对象或者在对象上或者在与对象相关联的区块中的初始运动具有可变的特性。与该对象相关联或者朝向该对象的运动将提供立即的控制。
在其他实施例中,所述装置、系统和/或界面使用眼睛移动进行选择,并且身体部位移动被用来确认或激活选择。因此,眼睛移动被用作选择移动,当对象保持在被选择状态时,随后身体部位移动确认选择并且激活所选择的对象。因此,具体来说,一只眼睛或两只眼睛看向不同的方向或区域,并且最近一个被选择的对象将保持被选择,直到通过眼睛或身体的运动选择不同的对象,或者直到超时解除选择对象。还可以通过眼睛凝视来选择对象,并且即使当,一只眼睛或两只眼睛不再看向该对象时,这一选择仍将继续。除非看向不同的可选对象,或者除非超时解除选择,则对象将保持被选择。
在前面所阐述的所有实施例中,运动或移动还可以包括抬离事件,其中手指或者一个或多个其他身体部位与例如触摸屏之类的触敏反馈设备直接接触,于是可接受的运动或移动形式将包括触摸屏幕、在屏幕上或跨越屏幕移动、从屏幕上抬离(抬离事件)、在屏幕上的特定位置处保持静止、在初次接触之后保持静止、在滚动开始之后保持静止、在特性调节之后保持静止以便继续特定调节、对于不同的时间段保持静止、快速或缓慢移动、快速或缓慢移动或者移动不同的时间段、加速或减速、对于不同的时间段加速或减速、改变方向、改变速度、改变矢量速度、改变加速度、对于不同的时间段改变方向、对于不同的时间段改变速度、对于不同的时间段改变矢量速度、对于不同的时间段改变加速度、改变角度、距离/位移和时间,或者这些运动的任意组合可以由所述系统和方法使用来仅利用运动调用命令以及控制真实世界或虚拟世界可控对象。抬离或其他事件可以“冻结”菜单、对象或特性选择或者这些的组合的状态,直到另一个事件发生从而移动到不同的事件或状态,或者直到超时功能把系统或应用重置到预先配置的状态或位置。虚拟抬离事件可以在VR、AR或真实环境中实现相同的效果,这是通过在没有物理抬离事件的情况下在不同的方向或指定的方向上移动,或者通过使用距离/位移、速度和加速度以及时间中的改变。当然,如果通过本发明的系统和方法的运动敏感处理所调用的特定对象需要应选择协议——鼠标点击、手指触摸等等,则除非所调用的对象允许或支持系统集成,否则所调用的对象的内部功能将不会被本发明的系统或方法增强。取代物理或虚拟抬离或确认的可以是声音、颜色或者情境或环境触发。
在本文中所公开的系统和方法中,用于选择和/或控制真实和/或虚拟对象的命令功能可以基于以下各项来生成:恒定方向上的矢量速度中的改变,恒定矢量速度下的方向中的改变,方向和矢量速度全部二者中的改变,矢量速度的速率中的改变,加速度的速率中的改变,或者距离/位移和时间中的改变。一旦被检测器或传感器检测到,这些改变可以由处理单元使用来发出用户控制真实和/或虚拟对象的命令。选择或组合滚动、选择以及特性选择可以在第一项移动时发生。这样的运动可以与任何方向上的开门和关门、高尔夫球挥杆、虚拟或真实世界游戏、在跑步者前方移动但是与行走者停留在一起的灯光或者具有复合属性的任何其他运动相关联,所述属性比如有方向、角度、距离/位移、持续时间、矢量速度、加速度以及这些主要属性当中的任一项或全部各项中的改变;因此,方向、角度、距离/位移、持续时间、矢量速度和加速度可以被视为主要运动属性,而这些主要属性中的改变则可以被视为次要运动属性。所述系统随后可以能够以不同方式处置主要和次要运动属性。因此,主要属性可以导致发出主要功能,虽然次要属性可以导致发出主要功能,但是也可以导致修改主要功能以及/或者发出次要功能。举例来说,如果主要功能包括预定的选择格式,则次要运动属性可以展开或收缩所述选择格式。
在用于使得系统生成命令功能的该主要/次要格式的另一个实例中可以涉及对象显示。因此,通过在某一方向上移动对象或者使用离开用户眼睛的角度、距离/位移、矢量速度、加速度和时间中的改变,显示的状态可以改变,比如从图形改变到图形与文字的组合,改变到只显示文字,而从一侧向另一侧移动或者把手指或眼睛从一侧向另一侧移动则可以滚动所显示的对象或者改变字体或图形尺寸,而把头部移动到空间中的不同位置则可以表现或控制对象的特性或子菜单。因此,这些运动中的改变可以是分立的、复合的或者包括这些改变的矢量速度、加速度和速率中的改变,以便为用户提供不同的结果。这些实例说明了两个改变:1)具有复合运动从而单独地或顺序地为运动提供不同结果的能力;以及(2)改变状态或特性的能力,比如单独的图形到文字或者与单项或复合运动相组合,或者与多项输入相组合,比如口头、触摸、面部表情或生物动力学输入,所有这些一起工作来给出不同的结果,或者以不同方式提供相同的结果。
必须认识到,虽然本发明是基于使用所感测到的矢量速度、加速度和改变以及这些属性中的改变的速率来对真实世界对象和/或虚拟对象实施控制,本发明还可以使用所感测到的运动的其他属性与所感测到的矢量速度、加速度以及这些属性中的改变相组合来对真实世界和/或虚拟对象实施控制,其中所述其他属性包括运动的方向、角度、距离/位移、持续时间以及方向、角度、距离/位移、持续时间中的改变,其中所述运动具有恒定矢量速度。举例来说,如果(多个)运动传感器通过主要被感测人类、动物、其身体部位、处于人类或动物的控制下的真实世界对象或者处于人类或动物的控制下的机器人的运动而感测到被用于对象的主要控制的矢量速度、加速度、矢量速度中的改变、加速度中的改变以及/或者其组合,则对于第二身体部位的运动的感测可以被用来确认主要选择协议,或者可以被用来微调所选择的命令和控制功能。因此,如果选择是针对一个对象群组,则次要运动属性可以被用来以不同方式控制对象特性以便实现对象的所期望的最终状态。
举例来说,假设本发明的装置控制建筑物中的照明。在所有四面墙壁上或其中(嵌壁式或外装式)并且在天花板上或其中(嵌壁式或外装式)存在灯组。用户已经从选择菜单中选择和激活了灯,其中使用了用以激活所述装置的运动以及用以从可选菜单项目的列表中选择和激活灯的运动,所述可选菜单项目比如是音响系统、灯、摄影机、视频系统等等。现在已经从菜单中选择了灯,则向右的移动将选择和激活右侧墙壁上的灯。径直向下移动将下调右侧墙壁的所有灯——将灯调暗。径直向上移动将上调右侧墙壁上的所有灯——调亮。向上或向下移动的矢量速度将控制灯被调暗或调亮的速率。停止移动将停止调节,或者通过移除运动感测区域内的身体、身体部位或处于用户控制下的对象将停止调节。
对于使用运动属性的甚至更加复杂的控制,用户可以在运动传感器活跃区域内移动以便标画出向下的凹弧,从而将导致右侧墙壁上的灯与去到灯的弧距(arc distance)成比例地调暗。因此,右侧的灯在墙壁的中心处将被更多地调暗,并且趋向于墙壁的末端被更少地调暗。
或者,如果移动是向下凸出,则灯被调暗的情况将是中心被最少地调暗,并且末端被最多地调暗。向上凹进和向上凸出将根据曲线的性质导致灯的不同方式的调亮。
现在,所述装置还可以使用标画出凹进或凸出移动的移动矢量速度来进一步改变灯的调暗或调亮。在使用矢量速度时,通过开始时缓慢并且在向下运动中提高速度将导致墙壁上的灯随着所述运动向下移动而被更多地调暗。因此,墙壁的一端处的灯与墙壁的另一端处的灯相比将被更少地调暗。
现在,假设运动是S形,则灯将在S形配置中被调暗或调亮。同样地,简单地通过改变移动的矢量速度,可以使用矢量速度来改变不同的灯中的调暗或调亮的数量。因此,通过放慢移动,这些灯与移动加速时相比将被更少地调暗或调亮。通过改变矢量速度的速率(加速度),可以获得照明配置的进一步细化。
现在假设房间中的所有灯都已被选择,则圆形或螺旋运动将允许用户调节所有灯,其中方向、角度、距离/位移、持续时间、矢量速度和加速度属性被用来根据相对于房间中的灯的移动来调暗和/或调亮所有灯。对于天花板灯,圆形运动可以在z方向上向下或向下移动,以便影响天花板灯的发光度(luminosity)。因此,通过在活跃传感器区块(区域并且特别是体积)内感测运动或移动,用户可以使用简单或复杂运动以不同方式同时控制的大量设备。通过滚动经过所述区域(把手指指向每一盏灯)并且在所期望的每一盏灯处停止运动,该盏灯将被选择,则通过在不同的移动中移动将仅允许被选择的灯的特性。这对于2D或3D(VR/AR)环境中的虚拟对象将同样成立。因此,用户能够选择可以表示真实或虚拟对象的对象群组,并且一旦所述群组被选择,则用户的移动可以统一调节所有对象和/或设备特性。这一特征在所述界面与大量对象、子对象和/或设备相关联并且用户希望选择这些对象、子对象和/或设备的群组从而可以统一对其进行控制时是特别有用的。因此,用户可以导览经过对象、子对象和/或设备并且选择任意数目的所述对象、子对象和/或设备,这是通过移动到每一个对象并且暂停,从而使得系统辨识出对象并且将其添加到群组。一旦定义了群组,用户将能够把所述群组保存为预定义群组,或者仅仅将其留作临时群组。无论如何,所述群组对于会话的剩余部分都将不会充当单个对象。可以通过移动到一个传感器、多个传感器和/或传感器阵列的活跃场之外而解除选择所述群组。
通过使用所感测到的复杂运动的这一区别控制允许用户接进瞬时地改变照明配置、音响配置、电视配置或者具有被同时控制的多个设备的系统或者具有能够同时控制的多个对象或特性的单个系统的任何配置。举例来说,在包括例如部队、坦克、飞机等大量虚拟对象的计算机游戏中,所感测到的复杂运动将允许用户快速地部署、重新部署、重新安排、操纵并且总体上快速地重新配置所有可控对象和/或特性,这是通过简单地使得对象的移动遵从通过运动检测器所感测到的用户的移动。这一相同的区别设备和/或对象控制将可以应用在军事和执法中,其中指挥人员通过运动传感器的感测区块内的运动或移动快速地部署、重新部署、重新安排、操纵并且总体上快速地重新配置所有资产以便解决快速改变的情况。
在某些实施例中,本公开内容的系统、装置和/或界面包括运动传感器或传感器阵列,其中每一个传感器包括活跃区块,并且其中每一个传感器在所述活跃区块内感测一个或多个身体部位或对象的移动、移动方向、移动角度、移动距离/位移、移动持续时间、移动矢量速度和/或移动加速度以及移动方向中的改变、移动角度中的改变、移动距离/位移中的改变、移动持续时间中的改变、移动矢量速度中的改变和/或移动加速度中的改变以及/或者方向、角度、距离/位移和/或持续时间的改变速率中的改变、矢量速度的改变速率中的改变和/或加速度的改变速率中的改变,并且产生输出信号。所述系统还包括至少一个包括通信软件和硬件的处理单元,其中所述处理单元把来自一个或多个运动传感器的一个或多个输出信号转换成命令和控制功能,以及与处理单元通信的一个或多个真实对象和/或虚拟对象。所述命令和控制功能至少包括:(1)一项滚动功能或多项滚动功能;(2)一项选择功能或多项选择功能;(3)一项特性功能或多项特性功能;(4)一项特性控制功能或多项特性控制功能;或者(5)同时控制功能。所述同时控制功能包括:(a)一项选择功能或多项选择功能和一项滚动功能或多项滚动功能;(b)一项选择功能或多项选择功能和一项激活功能或多项激活功能;以及(c)一项选择功能或多项选择功能和一项特性控制功能或多项特性控制功能。所述一个或多个处理单元:(1)处理一项滚动功能或多项滚动功能;(2)选择和处理一项滚动功能或多项滚动功能;(3)选择和激活与处理单元通信的一个对象或多个对象;或者(4)选择和激活与一个对象或多个对象相关联的一项特性或多项特性,其中所述对象与一个或多个处理单元通信;或者所述各项的任意组合。所述对象包括电气设备、电气系统、传感器、硬件设备、硬件系统、环境设备和系统、能量和能量配送设备和系统、软件系统、软件程序、软件对象或者其组合。所述特性包括与设备、系统、程序和/或对象相关联的可调节特性。在某些实施例中,(多个)传感器能够辨别移动、矢量速度和/或加速度中的±5%的改变。在其他实施例中,(多个)传感器能够辨别移动、矢量速度和/或加速度中的±10%的改变。在其他实施例中,所述系统还包括与处理单元通信的远程控制单元或远程控制系统,以便提供对于处理单元以及处于处理单元的控制下的所有真实和/或虚拟对象的远程控制。在其他实施例中,运动传感器是从包括以下各项的一组当中选择的:数字摄影机、光学扫描仪、光学滚珠(roller ball)设备、触摸板、电感式衬垫、电容式衬垫、全息设备、激光跟踪设备、热设备、触摸或无触摸传感器、声学设备、能够感测运动、场、波形或其改变的任何其他设备、此类设备的阵列以及所述各项的混合和组合。在其他实施例中,所述对象包括环境控制、照明设备、摄影机、烤箱、洗碗机、炉灶、音响系统、显示系统、警报系统、控制系统、虚拟现实系统、增强现实系统、医疗设备、机器人、机器人控制系统、虚拟现实系统、增强现实系统、冷热供水设备、空调系统、加热系统、通风系统、空气处置系统、计算机和计算机系统、化学或制造工厂控制系统、计算机操作系统和其他软件系统、远程控制系统、移动设备、电气系统、传感器、硬件设备、硬件系统、环境设备和系统、能量和能量配送设备和系统、软件程序或对象或者所述各项的混合和组合。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:在运动传感器的活跃感测区块内或者在运动传感器阵列的活跃感测区块内感测一个或多个身体部位或对象在活跃区块内的移动、移动方向、移动角度、移动距离/位移、移动持续时间、移动矢量速度和/或移动加速度以及/或者移动方向中的改变、移动角度中的改变、移动距离/位移中的改变、移动持续时间中的改变、移动矢量速度中的改变和/或移动加速度中的改变以及/或者方向的改变速率中的改变、角度的改变速率中的改变、距离/位移的改变速率中的改变、持续时间的改变速率中的改变、矢量速度的改变速率中的改变和/或加速度的改变速率中的改变。所述方法还包括以下步骤:从一个或多个传感器产生一个输出信号或多个输出信号,并且把所述一个或多个输出信号转换成一项命令功能或多项命令功能。所述命令和控制功能至少包括:(1)一项滚动功能或多项滚动功能;(2)一项选择功能或多项选择功能;(3)一项特性功能或多项特性功能;(4)一项特性控制功能或多项特性控制功能;或者(5)同时控制功能。所述同时控制功能包括:(a)一项选择功能或多项选择功能和一项滚动功能或多项滚动功能;(b)一项选择功能或多项选择功能和一项激活功能或多项激活功能;以及(c)一项选择功能或多项选择功能和一项特性控制功能或多项特性控制功能。在某些实施例中,所述对象包括电气设备、电气系统、传感器、硬件设备、硬件系统、环境设备和系统、能量和能量配送设备和系统、软件系统、软件程序、软件对象或者其组合。在其他实施例中,所述特性包括与设备、系统、程序和/或对象相关联的可调节特性。在其他实施例中,定时保持(timed hold)是简短的或者简短的移动中止,从而导致将特性调节到预设水平、导致作出选择、导致实施滚动功能或者其组合。在其他实施例中,定时保持是持续的,从而导致特性经历高数值/低数值循环,当保持被移除时所述循环结束。在其他实施例中,定时保持导致特性数值发生改变,从而使得:(1)如果特性处于其最大值,则定时保持导致特性数值以预定速率减小,直到定时保持被移除;(2)如果特性处于其最小值,则定时保持导致特性数值以预定速率增大,直到定时保持被移除;(3)如果特性数值不是最大或最小值,则定时保持导致随机选择特性数值改变的速率和方向,或者改变特性以允许最大控制;或者(4)定时保持导致特性数值在初始运动的方向或角度中的连续改变或滚动功能,直到定时保持被移除。在其他实施例中,运动传感器是从包括任何种类的传感器的一组当中选择的,包括:数字摄影机、光学扫描仪、光学滚珠设备、触摸板、电感式衬垫、电容式衬垫、全息设备、激光跟踪设备、热设备、触摸或无触摸传感器、声学设备、能够感测运动或者由于运动所导致的任何波形中的改变的任何其他设备或者此类设备的阵列以及所述各项的混合和组合。在其他实施例中,所述对象包括照明设备、摄影机、烤箱、洗碗机、炉灶、音响系统、显示系统、警报系统、虚拟现实系统、增强现实系统、控制系统、虚拟现实系统、增强现实系统、医疗设备、机器人、机器人控制系统、冷热供水设备、空调系统、加热系统、通风系统、空气处置系统、计算机和计算机系统、化学工厂控制系统、计算机操作系统和其他软件系统、远程控制系统、传感器或者所述各项的混合和组合。
前面所阐述的所有这些情形都被设计成说明使用所感测到的运动的属性和/或特点来控制大量设备,其中包括而不限于对应于每一个对象的运动的相对距离(非常像房间内的人使用他/她的手作为为之感测运动的对象,或者显示装置上的虚拟或渲染房间中的对象的虚拟表示)、运动的方向、运动的角度、运动的距离/位移、运动的持续时间、运动的速度、运动的加速度、这些属性当中的任一项的改变、这些属性当中的任一项的改变速率或者所述各项的混合和组合,以便控制例如灯之类的对象的单一可控特性。但是本发明的系统、装置和方法还能够使用运动属性和/或特点来控制对象的两项、三项或更多项特性。此外,本发明的系统、装置和方法还能够使用来自运动感测区块内的多个移动对象的运动属性和/或特点来控制一个对象总集的不同特性。举例来说,如果前面的图中的灯能够有颜色并且能够调亮,则运动属性和/或特点可以被用来同时改变灯的颜色和光强度,或者一项所感测到的运动可以控制光强度,而另一项所感测到的运动则可以控制颜色。举例来说,如果艺术家希望在计算机生成的帆布上绘画,则运动属性和/或特点将允许该艺术家使用来自一项、两项、三项等等所感测到的运动的所感测到的运动的属性来控制显示器上的每一个像素的像素属性。因此,本发明的系统、装置和方法能够随着运动经过真实空间或虚拟空间中的对象而转换与基于瞬时属性数值所控制的每一个对象相关联的运动属性。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:当由一个或更多运动传感器感测到移动时激活所述装置、系统和/或界面,并且使用所述移动及其属性来激活选择对象和多个可选对象。一旦被激活,初始移动和/或移动属性以及继续移动及其属性可以导致选择对象相应地移动,从而可以导致对于特定的可选对象或可选对象群组的预先选择,并且把预先选择的对象或对象群组朝向选择对象移动,其中所述预先选择的对象或对象群组是与移动及其属性最紧密地对准的(多个)可选对象,所述属性比如有方向、角度、距离/位移、持续时间、速度等等。通过选择对象在一个或多个反馈单元上的相应移动,可以通过一个或多个用户反馈单元来表现所述系统、装置和/或界面内的活动。本公开内容的系统、装置和/或界面的另一方面在于,选择对象朝向预先选择的对象或对象群组的移动越快,预先选择的对象或对象群组朝向选择对象的移动就越快。本公开内容的系统、装置和/或界面的另一方面在于,随着预先选择的对象或对象群组朝向选择对象移动,所述预先选择的对象或对象群组可以增加经历视觉属性、音频属性、视听属性、任何其他可辨识的属性或者其组合中的改变。本公开内容的系统、装置和/或界面的另一方面在于,离开对象或对象群组的移动可以导致对象以更大或加速的速度移动离开(多个)选择对象。本公开内容的系统、装置和/或界面的另一方面在于,随着移动继续,所述移动将开始在所述预先选择的对象群组的成员之间作出区分,直到移动导致选择出单个可选对象或者可选对象的一个耦合群组。一旦选择对象与目标可选对象或者可选对象的耦合群组相接触、围绕对象的活跃区域相接触、实现选择对象与(多个)目标可选对象之间的阈值距离或者选择的概率超出激活阈值,则一个或多个目标对象被选择,未被选择的对象被从显示中移除、经历一项或多项可辨识属性的改变、淡化消失或者经历某种其他改变,从而使得可以把所选择的一个或多个对象与未被选择的对象作出区分。本公开内容的装置、系统和/或界面还可以把所选择的一个或多个对象居中在用户反馈单元的中心,或者把所选择的对象居中在最初感测到移动的位置或其附近。所选择的一个或多个对象可以处于显示的一角,处于与电话相关联的显示的拇指一侧,下一层级菜单被显示在略微更远离所选择的对象的位置并且可能呈弧形,从而使得下一次移动靠近第一次,通常使得用户在显示中心的总体区域中来回工作。如果所述对象是例如拍摄照片、开启设备等可执行对象,则执行与选择是同时的。如果所述对象是与所选择的对象相关联的特性的子菜单、子列表或列表,则子菜单成员、子列表成员或特性在间隔开的格式中被显示在屏幕上。被用来选择所选择的对象的相同规程随后被用来选择所述子菜单、子列表或特性列表的成员。因此,所述界面在显示对象上具有类似引力或类似反引力的作用。随着(多个)选择对象移动,其吸引一个或多个对象与该选择对象的运动方向或角度对准,从而把这些对象拉向该选择对象,并且可以同时地或顺序地排斥开未被选择的项目或者通过任何其他方式表明未选择,以便在被选择和未被选择的对象之间作出区分。随着运动继续,所述拉动在与运动方向或角度最为对准的对象上增大,从而将该对象朝向选择对象进一步加速,直到其接触或合并或者达到被确定为激活阈值的阈值距离。通过达到所述接触或合并或阈值数值而导致处理单元选择和激活(多个)对象。此外,所感测到的运动可以是通过(多个)运动传感器的活跃区块内的一项或更多项移动所检测到的一项或更多项运动,从而导致多项所感测到的运动以及可以被同时地或顺序地调用的多项命令功能。传感器可以被排成陈列,从而形成传感器阵列。如果所述对象是例如拍摄照片、开启设备等可执行对象,则执行与选择是同时的。如果所述对象是与所选择的对象相关联的特性的子菜单、子列表或列表,则子菜单成员、子列表成员或特性在间隔开的格式中被显示在屏幕上。被用来选择所选择的对象的相同规程随后被用来选择所述子菜单、子列表或特性列表的成员。因此,所述界面在显示对象上具有类似引力的作用。随着选择对象移动,其吸引一个或多个对象与该选择对象的运动方向对准,从而把这些对象拉向该选择对象。随着移动继续,所述拉动在与运动的方向、角度、距离/位移和/或持续时间最为对准的对象上增大,从而将该对象朝向选择对象进一步加速,直到其接触或合并或者达到被确定为激活阈值的阈值距离从而作出选择。所述接触、合并或阈值事件导致处理单元选择和激活对象。
所感测的运动不仅可以导致本公开内容的系统、装置和/或界面的激活,而且还可以导致选择、特性控制、激活、启动、滚动或者其组合。
在其他实施例中,所述系统、装置和/或界面可以利用不同的单元反馈格式(包括触觉或触摸输出、音频输出、任何其他可辨识的反馈格式)来表明或表现与所述系统、装置和/或界面的用户交互。举例来说,如果用户移动经过辐射状区块,则不同的对象可以产生不同的嗡鸣或声音,并且其强度或音调可以在该区块中移动的同时发生改变,从而表明该对象处于用户的前方还是后方。
还可以使用复合移动来提供与单独地或顺序地作出的移动不同的控制功能。这包括组合特性以及状态和特性全部二者的改变,比如倾斜设备以观看图形、图形和文字或者文字,以及基于对象的状态改变尺度,并且同时地或独立地提供其他控制,比如滚动、焦距拉近/拉远或者在改变状态的同时作出选择。这些特征还可以被用来控制添加到容器的化学品,并且同时控制数量。在移动图标或滚动经过程序的同时,这些特征还可以被用来通过倾斜(tilt)而在Windows 8与Windows7之间作出改换。
可听的或其他通信介质可以被用来确认对象选择,或者与运动相结合来提供所期望的命令(多模式)或者以不同方式提供相同的控制命令。
本发明的系统、装置和/或界面及其实施方法还可以包括从用户与所述系统、装置和/或界面的交互当中进行学习的人工智能组件,包括移动特点、环境特点(例如运动传感器类型、处理单元类型或其他环境属性)、可控对象环境特点等等,以便改进所述系统、装置和/或界面的性能并且改进所述系统、装置和/或界面的预期用户活动的预测能力。
在其他实施例中,选择和激活虚拟或真实对象及其可控特性的装置、系统和/或界面包括:至少一个具有活跃感测区块的运动传感器,至少一个处理单元,至少一个供电单元,以及处于处理单元的控制下的一个对象或多个对象。所述传感器、处理单元和供电单元彼此处于电气通信中。运动传感器感测活跃区块内的运动(包括运动属性),生成至少一个输出信号,并且把输出信号发送到处理单元。处理单元把输出信号转换成至少一项命令功能。所述命令功能包括:(1)开始功能;(2)滚动功能;(3)选择功能;(4)特性功能;(5)特性控制功能;(6)同时控制功能,包括:(a)选择和滚动功能;(b)选择、滚动和激活功能;(c)选择、滚动、激活和特性控制功能;(d)选择和激活功能;(e)选择和特性控制功能;(f)选择、激活和特性控制功能;或者(g)所述各项的组合;或者(7)所述各项的组合。开始功能在最初通过运动传感器感测到运动时激活至少一个选择或光标对象以及多个可选对象,与运动方向或角度对准的可选对象朝向选择对象移动或者变为与未对准的可选对象区别开来,并且运动继续直到一个目标可选对象或多个目标可选对象与非目标可选对象区分开来,从而导致一个或多个目标对象的激活。所述运动属性包括触摸、抬离、方向、角度、距离/位移、持续时间、矢量速度、加速度、方向中的改变、角度中的改变、距离/位移中的改变、持续时间中的改变、矢量速度中的改变、加速度中的改变、方向改变的速率、角度改变的速率、距离/位移改变的速率、持续时间改变的速率、矢量速度改变的速率、加速度改变的速率、停止、保持、定时保持或者所述各项的混合和组合。所述对象包括真实世界对象、虚拟对象及其混合或组合,其中真实世界对象包括物理、机械、电机械、磁性、电磁、电气或电子设备或者可以由处理单元控制的任何其他真实世界设备,虚拟对象包括在虚拟世界中或者由计算机生成并且由显示设备显示并且能够由处理单元控制的任何构造。所述特性包括与对象相关联的可激活、可执行和/或可调节的特性。运动属性中的改变是可以通过运动传感器、传感器输出和/或处理单元而辨别的改变。
在某些实施例中,开始功能还激活用户反馈单元,并且响应于运动传感器活跃区块内的动物、人类、机器人、机器人系统、其一个或多个部位或者其组合的移动,可以通过运动传感器来辨别选择对象和可选对象。在其他实施例中,所述系统还包括至少一个用户反馈单元、至少一个备用电池单元、通信硬件和软件、至少一个远程控制单元或者所述各项的混合和组合,其中传感器、处理单元、供电单元、用户反馈单元、备用电池单元、远程控制单元彼此处于电气通信中。在其他实施例中,更快的运动导致一个或多个目标对象朝向选择对象的更快移动,或者导致一个或多个目标对象与一个或多个非目标对象之间的更大区别。在其他实施例中,如果一个或多个被激活对象具有与之相关联的子对象和/或特性,则随着所述对象朝向目标对象移动,所述子对象和/或特性会出现,并且随着对象选择变得更加确定而变得更加可辨别。在其他实施例中,一旦一个或多个目标对象已被选择,则运动传感器的活跃区块内的进一步运动导致与运动方向或者其他一项或多项运动属性对准的可选子对象或可选特性朝向(多个)选择对象移动或者变得与未对准的可选子对象或可选特性区分开来,并且运动继续直到目标可选子对象或特性或者多个目标可选对象和/或特性与非目标可选子对象和/或特性区分开来,从而导致目标子对象、特性、多个子对象或多项特性的激活。在其他实施例中,运动传感器是从包括以下各项的一组当中选择的:数字摄影机、光学扫描仪、光学滚珠设备、触摸板、电感式衬垫、电容式衬垫、全息设备、激光跟踪设备、热设备、声学设备、能够感测运动的任何其他设备、运动传感器的阵列以及所述各项的混合或组合。在其他实施例中,所述对象包括照明设备、摄影机、烤箱、洗碗机、炉灶、音响系统、显示系统、警报系统、控制系统、医疗设备、机器人、机器人控制系统、冷热供水设备、空调系统、加热系统、通风系统、空气处置系统、计算机和计算机系统、化学工厂控制系统、计算机操作系统、虚拟现实系统、增强现实系统、图形系统、商务软件系统、字处理器系统、互联网浏览器、会计系统、军事系统、控制系统、其他软件系统、程序、例程、对象和/或单元、远程控制系统或者所述各项的混合和组合。在其他实施例中,如果定时保持是简短的,则处理单元导致将特性调节到预设水平。在其他实施例中,如果定时保持是持续的,则处理单元导致特性经历高数值/低数值循环,当保持被移除时所述循环结束。在其他实施例中,定时保持导致特性数值发生改变,从而使得:(1)如果特性处于其最大值,则定时保持导致特性数值以预定速率减小,直到定时保持被移除;(2)如果特性处于其最小值,则定时保持导致特性数值以预定速率增大,直到定时保持被移除;(3)如果特性数值不是最大或最小值,则定时保持导致随机选择特性数值改变的速率、角度和方向,或者改变特性以允许最大控制;或者(4)定时保持导致特性数值在初始运动的方向或角度中的连续改变,直到定时保持被移除。在其他实施例中,运动传感器在活跃区块内感测包括第二运动属性的第二运动,生成至少一个输出信号,并且把输出信号发送到处理单元,处理单元把所述输出信号转换成确认选择的确认命令或者用于控制不同对象或不同对象特性的至少一项第二命令功能。在其他实施例中,运动传感器在活跃区块内感测包括两个或更多动物、人类、机器人或其部位或者处于人类、动物和/或机器人的控制下的对象的运动属性的运动,生成对应于运动的输出信号,并且把输出信号发送到处理单元,处理单元把所述输出信号转换成同时地或顺序地实施的命令功能或确认命令或者其组合,其中开始功能在最初通过运动传感器感测到运动时激活多个选择或光标对象以及多个可选对象,与运动方向对准的可选对象朝向选择对象移动或者变为与未对准的可选对象区别开来,并且运动继续直到目标可选对象或多个目标可选对象与非目标可选对象区分开来从而导致目标对象的激活,并且确认命令确认选择。
在其他实施例中,用于实施所述装置、系统和/或界面的方法包括以下步骤:在至少一个运动传感器的活跃感测区块内感测包括运动属性的运动,所述运动属性包括方向、角度、距离/位移、持续时间、矢量速度、加速度、方向中的改变、角度中的改变、距离/位移中的改变、持续时间中的改变、矢量速度中的改变、加速度中的改变、方向改变的速率、角度改变的速率、距离/位移改变的速率、持续时间改变的速率、矢量速度改变的速率、加速度改变的速率、停止、保持、定时保持或者所述各项的混合和组合;以及产生对应于所感测到的运动的一个输出信号或多个输出信号。所述方法还包括通过与运动传感器通信的处理单元把所述一个或多个输出信号转换成一项命令功能或多项命令功能。所述命令功能包括:(1)开始功能;(2)滚动功能;(3)选择功能;(4)特性功能;(5)特性控制功能;(6)同时控制功能,包括:(a)选择和滚动功能;(b)选择、滚动和激活功能;(c)选择、滚动、激活和特性控制功能;(d)选择和激活功能;(e)选择和特性控制功能;(f)选择、激活和特性控制功能;或者(g)所述各项的组合;或者(7)所述各项的组合。所述方法还包括同时地或顺序地处理所述一项命令功能或多项命令功能,其中开始功能在最初通过运动传感器感测到运动时激活至少一个选择或光标对象以及多个可选对象,与运动方向对准的可选对象朝向选择对象移动或者变为与未对准的可选对象区别开来,并且运动继续直到一个目标可选对象或多个目标可选对象与非目标可选对象区分开来,从而导致一个或多个目标对象的激活,其中所述运动属性包括触摸、抬离、方向、角度、距离/位移、持续时间、矢量速度、加速度、方向中的改变、角度中的改变、距离/位移中的改变、持续时间中的改变、矢量速度中的改变、加速度中的改变、方向改变的速率、角度改变的速率、距离/位移改变的速率、持续时间改变的速率、矢量速度改变的速率、加速度改变的速率、停止、保持、定时保持或者所述各项的混合和组合。所述对象包括真实世界对象、虚拟对象或者其混合和组合,其中真实世界对象包括物理、机械、电机械、磁性、电磁、电气或电子设备或者可以由处理单元控制的任何其他真实世界设备,虚拟对象包括在虚拟世界中或者由计算机生成并且由显示设备显示并且能够由处理单元控制的任何构造。所述特性包括与对象相关联的可激活、可执行和/或可调节的特性。运动属性中的改变是可以通过运动传感器和/或处理单元而辨别的改变。
在某些实施例中,运动传感器是从包括以下各项的一组当中选择的:数字摄影机、光学扫描仪、光学滚珠设备、触摸板、电感式衬垫、电容式衬垫、全息设备、激光跟踪设备、热设备、声学设备、能够感测运动、场、波形或其改变的任何其他设备、运动传感器的阵列以及所述各项的混合或组合。在其他实施例中,所述对象包括照明设备、摄影机、烤箱、洗碗机、炉灶、音响系统、显示系统、警报系统、控制系统、医疗设备、机器人、机器人控制系统、冷热供水设备、空调系统、加热系统、通风系统、空气处置系统、计算机和计算机系统、化学工厂控制系统、计算机操作系统、系统、图形系统、商务软件系统、字处理器系统、互联网浏览器、会计系统、军事系统、控制系统、其他软件系统、程序、例程、对象和/或单元、远程控制系统或者所述各项的混合和组合。在其他实施例中,如果定时保持是简短的,则处理单元导致将特性调节到预设水平。在其他实施例中,如果定时保持是持续的,则处理单元导致特性经历高数值/低数值循环,当保持被移除时所述循环结束。在其他实施例中,定时保持导致特性数值发生改变,从而使得:(1)如果特性处于其最大值,则定时保持导致特性数值以预定速率减小,直到定时保持被移除;(2)如果特性处于其最小值,则定时保持导致特性数值以预定速率增大,直到定时保持被移除;(3)如果特性数值不是最大或最小值,则定时保持导致随机选择特性数值改变的速率、角度和方向,或者改变特性以允许最大控制;或者(4)定时保持导致特性数值在初始运动的方向或角度中的连续改变,直到定时保持被移除。在其他实施例中,所述方法包括:在运动传感器的活跃感测区块内感测包括第二运动属性的第二运动,产生对应于所感测到的第二运动的一个第二输出信号或多个第二输出信号,把所述一个或多个第二输出信号通过与运动传感器通信的处理单元转换成一项第二命令功能或多项第二命令功能,并且基于第二输出信号确认选择,或者对所述一项第二命令功能或多项第二命令功能进行处理并且把与第二运动方向或角度对准的可选对象朝向选择对象移动或者变为与未对准的可选对象区别开来,并且运动继续直到一个第二目标可选对象或多个第二目标可选对象与非目标第二可选对象区分开来,从而导致所述一个或多个第二目标对象的激活,其中所述运动属性包括触摸、抬离、方向、角度、距离/位移、持续时间、矢量速度、加速度、方向中的改变、角度中的改变、距离/位移中的改变、持续时间中的改变、矢量速度中的改变、加速度中的改变、方向改变的速率、角度改变的速率、距离/位移改变的速率、持续时间改变的速率、矢量速度改变的速率、加速度改变的速率、停止、保持、定时保持或者所述各项的混合和组合。在其他实施例中,所述方法包括:在运动传感器的活跃区块内感测包括两个或更多动物、人类、机器人或其部位的运动属性的运动,产生对应于运动的输出信号,把所述输出信号转换成命令功能或确认命令或者其组合,其中开始功能在最初通过运动传感器感测到运动时激活多个选择或光标对象以及多个可选对象和/或特性,与运动方向或角度对准的可选对象朝向选择对象移动或者变为与未对准的可选对象区别开来,并且运动继续直到目标可选对象或多个目标可选对象与非目标可选对象区分开来从而导致目标对象的激活,并且确认命令确认选择。
发明人已经发现,用于在计算机上实施所述装置、系统和/或界面的方法可以被构造成允许创建动态环境以用于对象和/或特性显示、操纵、区别和/或交互,其中所述装置、系统和/或界面包括一个处理单元或多个处理单元,一个运动传感器或多个运动传感器,一个用户界面或多个用户界面,以及用于生成、显示和操纵动态环境和包括在其中的对象和/或特性的动态环境软件。所述动态环境是通过与(多个)传感器的用户交互而产生的,所述传感器与(多个)处理单元处于电子通信中,并且动态环境包括显示在(多个)用户界面上的对象和相关联的特性的集合,从而将对象和/或特性彼此区别。所述区别可以表现出与对象和/或特性或者其组合相关联的优先级、方向性、内容、类型、激活规程、激活参数、控制特征、其他属性。对象和/或特性的区别和分布可以基于与运动传感器的用户交互和/或运动传感器的位置而改变,其中至少一个运动传感器或传感器输出与移动或静止设备相关联,或者至少一个运动传感器或传感器输出与移动设备相关联,并且至少一个运动传感器或传感器输出与静止设备相关联,并且还有所述情况的混合或组合。当然,这些相同的规程可以被用于向下钻取的任何层级处的对象和/或特性。
在某些实施例中,所述装置、系统和/或界面及其实施方法导致在与所述装置、系统和/或界面相关联的用户界面的显示设备上显示多个可选对象。所述可选对象可以表示:(1)可以被直接调用的对象;(2)具有单一特性的对象;(3)具有多项特性的对象;(4)作为可以包括子列表或子菜单的列表或菜单的对象;(5)任何其他可选项目;或者(6)所述各项的混合和组合。所述对象可以表示虚拟或真实对象。虚拟对象可以是表示内部软件组件的任何对象。真实对象可以是可执行程序或软件应用,或者可以是可以通过所述系统和/或方法来控制的真实世界设备。所显示的可选对象可以是可选对象的默认集合,可选对象的预定义集合,或者是基于与移动设备相关联的传感器以及与静止设备相关联的运动传感器的位置而生成的可选对象的动态生成的集合。所述系统和方法允许可选对象与用户动态地进行交互,从而使得环境内的对象运动与用户和对象进行交互的能力更好地相关。用户交互包括而不限于:(a)基于所感测到的运动的对象区分;(b)基于所感测到的运动的对象选择;(c)基于所感测到的运动的菜单向下钻取;(d)基于所感测到的运动的菜单向上钻取;(e)基于所感测到的运动并且基于可选对象的性质的对象选择和激活;(f)基于所感测到的运动并且基于可选对象的性质的滚动/选择/激活;以及(g)与链接(linking)对象的总集相关联的前面列出的交互的任意组合,其中所述链接可以是预先定义的,基于用户获得的交互知识,或者是基于用户、传感器位置和所感测到的运动的性质而动态地生成的。所述系统和方法还可以把一项或多项对象区别属性与所显示的可选对象相关联,其中对应于每一个对象的区别的性质可以是预先定义的,基于用户获得的交互知识而定义,或者是基于用户、传感器位置和/或所感测到的运动的性质而动态地生成的。所述区别属性包括而不限于:颜色;颜色色度(color shading);与色度相关联的光谱特性;突出表现;闪光(flashing);闪光速率;闪烁(flickering);闪烁速率;形状;尺寸;对象的移动,比如振荡、一侧到另一侧运动、上下运动、进出运动、圆形运动、椭圆形运动、焦距拉近和拉远等等;运动速率;脉动(pulsate);脉动速率;视觉纹理;触摸质地;例如音调、尖声(squeal)、哔声(beep)、啁啾声(chirp)、音乐等声音;声音的改变;生物计量学特征、物质或能量中的改变,声音改变的速率;任何用户可辨别的对象区别属性,或者所述各项的混合和组合。所述区别可以向用户表明方向感、对象优先级、对象敏感性等等,这些全部有助于用户对于显示在显示器上的可选对象进行从用户、所感测到的运动以及/或者移动和静止传感器的位置所导出的动态区别。
举例来说,一个所显示的对象可以在第一速率下进行脉动(略微焦距拉近和拉远或者扩张和收缩),另一个所显示的对象可以在第二速率下进行脉动,其中第一和第二速率可以是相同的或不同的,并且相对于具有更慢脉动速率的对象,更快的脉动速率可以与紧迫感相关联。这些速率可以按照预先定义的方式改变,按照基于用户的知识的方式改变,或者基于用户、传感器位置和/或所感测到的运动的性质而动态地改变。
在另一个实例中,一个对象集合可以比其向左移回时略微更快地向右移动,从而表明用户应当从右侧而不是从另一个方向接近对象。
在某些实施例中,主对象可以具有围绕该主对象或者在其附近移动(以恒定的或可变的速率、密度和/或方向)的一个或多个子对象,从而表明子对象的性质。在这种情况下,围绕主对象旋转的子对象可以表示需要按照动态的、基于运动的方式与之进行交互,对于主对象则可以按照静态的方式与之进行交互,比如口头命令、按下按钮、点击或者通过任何其他非动态或静态的交互。
在其他实施例中,主对象可以具有特定颜色,比如蓝色,并且其相关联的子对象则具有蓝色的色度,特别是其中子对象动态地从蓝色过渡到灰蓝色(off-blue)或蓝绿色或者其他有关的颜色,从而显示出其来自主要蓝色对象,蓝色对象旁边的红色对象则可以具有过渡到橙色的子对象,过渡到紫色的子对象则可以表示其是蓝色和红色的子集并且可以通过二者当中的任一个来访问。
在其他实施例中,所述对象或子对象可以淡入或淡出,从而基于用户与之进行交互的时间段而表示状态的改变。通过淡出,系统可以向用户通知程序或应用(例如建筑物中的水流)将进入睡眠或中断状态。淡出的速率可以表明程序或应用多快过渡到睡眠状态以及多快重新激活。淡入可以传达关于对象将在给定的时间内自动地(相比于人工地)发起。
在其他实施例中,对于对象的阵列,比如移动设备上的应用的屏幕,对象的脉冲(pulse)可以表示活跃的程序,静态的对象则可以表示不活跃的程序。以更慢的速率脉冲的程序可以表示偶尔在后台中运行的程序。当然,可以使用其他动态指标来向用户传达信息,比如颜色、强度、透明度、尺寸、形状或者任何其他可辨识的特性中的改变。
本发明的系统和方法的另一个操作实例可以是在医疗情境中。在这样的情况下,显示在用户界面上的对象可以是在手术室中活跃的传感器的阵列,其中包括而不限于氧气传感器、血流量传感器、脉搏传感器、心跳传感器、血压传感器、大脑活动传感器等等。所述对象的颜色、形状、尺寸、声音和/或移动中的改变可以表示与传感器相关联的数据,从而按照简单、复合的方式向用户提供多个信息点。如果颜色表示含氧水平,尺寸表示血压,并且对象的动态移动表示心跳,则一个对象可以向用户表示许多信息。
同时看到(或者在主要对象被选择之后顺序地看到)的相关联的子对象的特点同样可以提供与仅仅令用户知道有更多信息存在的情况多得多的信息——在这种情况下,将用相应的身体位置来标记主要对象,并且表示含氧水平过去和当前数据的子对象可以在颜色方面动态地脉冲或强化,血压子对象则可以随着每一次心跳略微变得更大或更小从而表示血压中的微小改变,并且可以通过对象随着每一次心跳顺时针并且随后逆时针旋转来表示心跳。
在另一个实例中,一个对象(或者字文档中的单词)与另一个交换位置可以表示需要改换该单词以便为语句提供更好的语法。拼写改变可以通过脉冲单词来表示,并且可以接受但是具有更好的常见拼写的单词可以通过以更慢的速率脉冲的单词来表示。颜色的动态改变还可以与单词或其他特点相关联,以便引起用户的注意并且同时给出次要信息,比如哪些单词对于学校教科书的读者的年级可能过高或者过低。
因此,动态特点的任意组合可以被用来向用户提供比静态信息形式更多的信息,并且可以与静态信息特点相结合来使用。
在某些实施例中,对象(比如应用图标)可以具有几种可能的状态和显示状态。对象可以处于未选择状态、就绪状态(可用于选择但是还没有被选择到的可能性)、预先选择(现在有可能被选择但是不满足被选择的阈值标准)、被选择状态(被选择但是未被打开或者尚未发出执行命令)或者被启动状态(被选择并且具有被执行的特性(也就是开启(相比于关闭)),可变控制准备好基于向上或向下移动而改变,或者子菜单被显示并且准备好被选择)。如果所述对象处于一个对象群组中,则随着用户朝向该群组移动,所述对象的区块和/或群组可以显示或呈现表示其准备好被选择的不同特点;这可以被识别为预先选择状态。在每一种状态下,对象可以显示不同的特点以便向用户传达信息,比如形状、密度、能量、尺寸、颜色、声音、气味、感觉、脉冲速率的改变、不同的动态方向动画等等。举例来说,在用户触摸移动设备(其具有触摸传感器)之前,对象可以处于未选择状态,其中除了当前所采用的常见静态显示之外不显示其他特性。一旦用户触摸屏幕或者达到阈值数值,则需要注意的项目可以改变颜色(就绪,但是被选择的可能性与任何其他项目没有不同)。随着用户开始在所期望的对象的方向上移动,更有可能的对象可以开始以不同的方式显示,比如增大尺寸或者开始脉冲,并且随着可能性增大,脉冲速率可以提高,但是更加迫切地需要注意的对象可以按照不同方式脉冲或者甚至比相同群组或区块中的其他对象更快地脉冲——预先选择。一旦选择了(多个)正确的对象,所述对象可以表现出更加不同的状态,比如显示子对象、改变颜色或者发出声音,但是仍然可能尚未被打开或启动。如果所述特性是音量控制,则可以选择该特性,但是直到通过向上或向下移动或者在圆形方向上移动而将其启动才将控制音量,并且从而调节音量。当然,处于未选择状态下的对象也可以表现出动态特点(例如脉冲)以便向用户传达信息,比如活动或优先级。通过这种方式,对象可以在处于静态状态的同时具有动态特点。
在另一个实例中,对于移动设备的角落处的应用,当头部或眼睛凝视指向该区块或对象时,所述对象可以处于未选择、预先选择或者被选择但是未被启动状态,并且可以表现出动态指标/特性以便随着不断改变的环境而传达意图、特性、子特性或者混合或组合的内容或特性。所述对象可以在任何状态下或者仅在一种特定状态下(比如被选择状态)以不同方式进行显示,并且这可以是预设数值或某种动态事项,比如情境或环境因素。刚刚所说的这一动态特点指标的一个实例将是在车辆或虚拟现实显示中,其中歌曲播放列表将导致优选的歌曲上的脉冲效果,但是当另一个乘客或游戏者进入环境时,不同的歌曲将以不同的方式脉冲,从而表明所建议的对象将由于用户优选项的组合而改变,并且所有或其中一些对象的动态显示特点将改变以表明组合优选选择。
本发明的动态环境系统还可以被使用在虚拟现实系统和/或增强现实系统中,从而使得这些虚拟现实系统和/或增强现实系统的游戏者或用户通过运动和运动属性能够选择、标定和/或解除选择特征、菜单、对象、构造、营造物、用户特性、武器、个人特性、个人特征、虚拟空间或增强现实空间的任何其他可选择或用户可定义的特征或特性。因此,随着用户最初进入虚拟现实空间或增强现实空间,将按照任何所期望的格式围绕用户显示所述空间的所有可选择和/或可定义的特征和/或特性,所述格式比如是以用户为中心的2D、3D和/或nD半圆形或半球形阵列,以用户为中心的2D、3D和/或nD圆形或球形阵列,以用户为中心或偏离中心的2D、3D和/或nD矩阵阵列,特征和特性的任何其他2D、3D和/或nD显示,或者所述各项的混合和组合。随着用户移动与被用来和所述空间对接的运动检测器相关联的身体部位(视觉——眼睛跟踪传感器,手部传感器——手套或其他,身体传感器——紧身连体衣,或者其他传感器),所感测到的运动和运动属性(比如方向、角度、距离/位移、持续时间、速度、加速度和/或这些运动属性当中的任一项中的改变)导致特征和/或特性基于将要显示给用户的状态和信息以不同的方式进行显示,并且可以基于对象和/或用户的运动和运动属性朝向用户移动,其他特征和/或特性则保持静态或者移动离开用户。这方面的一个实例是朝向游戏中的一组树当中的特定一棵树移动。随着用户看向特定的树,这棵树可以摇动而其他树则温和地摇摆,随着用户朝向树移动,如果其具有与之相关联的特殊奖品则树可以开始以更快的速率朝向用户移动,或者如果没有奖品则以更慢的速率移动。如果所述特殊奖品是独一无二的特性,则树在朝向用户移动并且用户正在朝向树移动时可以改变颜色或尺寸。一旦通过阈值事件选择了树,则可以把形状改变成其所持有的奖品,并且随后当通过用户把手朝向对象的指定区域移动到足以启动的程度而被选择时开始像该奖品那样动作。这些不同的特性或特点是动态环境的一部分,其中速度、方向、角度、距离/位移、持续时间、状态、显示特点和特性受到用户和对象的运动影响,或者是这些情况的任意组合。在另一b个实例中,如果希望选择一个对象,则随着(多个)用户、(多个)对象或全部二者的运动或运动属性继续,更加远离用户、对象或全部二者的特征和/或特性被区分开来,并且目标特征和/或特性可以移动得更近。一旦目标被完全区别,则所有子特征和/或子对象可以变为可见。随着运动继续,特征和/或特性和/或子特征和/或子对象被选择,并且用户获得该用户在空间中所期望的特点或特征。所显示的所有特征和/或特性和/或子特征和/或子对象还可以包括突出表现特征,比如声音(啁啾声、哔声、歌声等等)、振动、来回移动、上下移动、圆形移动等等。
本发明的实施例广泛地涉及计算设备,包括被配置成捕获数据的至少一个传感器或传感器输出,所述数据包括用户数据、运动数据、环境数据、时间数据、情境数据或者所述各项的混合和组合。所述计算设备还包括至少一个处理单元,其被配置成基于所捕获的数据生成至少一项命令功能。所述命令功能包括(1)单一控制功能,包括:(a)开始功能;(b)滚动功能;(c)选择功能;(d)特性功能;(e)激活功能;或者(f)所述各项的混合和组合。所述命令功能还包括(2)同时控制功能,包括:(a)其中两项或更多项功能(1a-1e)的组合;(b)其中三项或更多项功能(1a-1e)的组合;(c)其中四项或更多项功能(1a-1e)的组合;(d)所述各项的混合和组合。所述命令功能还可以包括(3)任何前述功能的混合和组合。在某些实施例中,所述至少一个传感器包括触摸板、无触摸板、电感式传感器、电容式传感器、光学传感器、声学传感器、热传感器、光声传感器、电磁场(EMF)传感器、波或波形传感器、应变计、加速度计、感测移动或移动中的改变的任何其他传感器或者所述各项的混合和组合。在其他实施例中,第一控制功能是单一控制功能。在其他实施例中,第一控制功能是单一控制功能,并且第二功能是同时控制功能。在其他实施例中,第一控制功能是同时控制功能。在其他实施例中,第一控制功能是同时控制功能,并且第二功能是同时控制功能。在其他实施例中,通过用户确定的运动而启动多项单一和同时控制功能。
本发明的实施例广泛地涉及计算机实施的方法,包括在被配置成具有可执行指令的处理单元的控制下从被配置成捕获数据的至少一个传感器接收数据,其中所捕获的数据包括用户数据、运动数据、环境数据、时间数据、情境数据或者所述各项的混合和组合。所述方法还包括:对所捕获的数据进行处理以便确定所捕获的数据的一种或多种类型;对所捕获的数据的一种或多种类型进行分析;以及调用对应于所分析的数据的控制功能。所述控制功能包括:(1)单一控制功能,包括(a)开始功能、(b)滚动功能、(c)选择功能、(d)特性功能、(e)激活功能或者(f)所述各项的混合和组合;或者(2)同时控制功能,包括(a)其中两项或更多项功能(1a-1e)的组合、(b)其中三项或更多项功能(1a-1e)的组合、(c)其中四项或更多项功能(1a-1e)的组合、(d)所述各项的混合和组合;或者(3)所述各项的混合和组合。在某些实施例中,所述至少一个传感器包括触摸板、无触摸板、电感式传感器、电容式传感器、光学传感器、声学传感器、热传感器、光声传感器、电磁场(EMF)传感器、应变计、加速度计、感测移动或移动中的改变的任何其他传感器或者所述各项的混合和组合。在其他实施例中,第一控制功能是单一控制功能。在其他实施例中,第一控制功能是单一控制功能,并且第二功能是同时控制功能。在其他实施例中,第一控制功能是同时控制功能。在其他实施例中,第一控制功能是同时控制功能,并且第二功能是同时控制功能。在其他实施例中,通过用户确定的运动而启动多项单一和同时控制功能。
本发明的实施例广泛地涉及存储一个或更多指令序列的非瞬时性计算机可读存储介质,所述指令在由一个或更多处理单元执行时导致计算系统:(a)从被配置成捕获数据的至少一个传感器接收数据,其中所捕获的数据包括用户数据、运动数据、环境数据、时间数据、情境数据或者所述各项的混合和组合;(b)对所捕获的数据进行处理,以便确定所捕获的数据的一种或多种类型;(c)对所捕获的数据的一种或多种类型进行分析;以及(d)调用对应于所分析的数据的控制功能。所述控制功能包括:(1)单一控制功能,包括(a)开始功能、(b)滚动功能、(c)选择功能、(d)特性功能、(e)激活功能或者(f)所述各项的混合和组合;或者(2)同时控制功能,包括(a)其中两项或更多项功能(1a-1e)的组合、(b)其中三项或更多项功能(1a-1e)的组合、(c)其中四项或更多项功能(1a-1e)的组合、(d)所述各项的混合和组合;或者(3)所述各项的混合和组合。在某些实施例中,所述至少一个传感器包括触摸板、无触摸板、电感式传感器、电容式传感器、光学传感器、声学传感器、热传感器、光声传感器、电磁场(EMF)传感器、应变计、加速度计、感测移动或移动中的改变的任何其他传感器或者所述各项的混合和组合。在其他实施例中,第一控制功能是单一控制功能。在其他实施例中,第一控制功能是单一控制功能,并且第二功能是同时控制功能。在其他实施例中,第一控制功能是同时控制功能。在其他实施例中,第一控制功能是同时控制功能,并且第二功能是同时控制功能。在其他实施例中,通过用户确定的运动而启动多项单一和同时控制功能。
本发明的实施例广泛地涉及计算机实施的系统,包括:数字处理设备,其包括至少一个处理器、被配置成实施可执行指令的操作系统以及存储器;包括指令的计算机程序,所述指令可由数字处理设备执行来创建基于手势的导览环境。所述环境包括:被配置成从运动传感器接收输入数据的软件模块,所述输入数据表示用户的导览手势;被配置成呈现一个或更多主要菜单项目的软件模块;以及被配置成响应于接收到表示用户的导览手势而呈现多个次要菜单项目的软件模块,其中用户的导览手势表明对于某一主要菜单项目的选择,次要菜单项目被安排在围绕所选择的主要菜单项目的曲线指向中。所述环境操作成使得:响应于接收到表示包括基本上平行于曲线指向的运动的用户导览手势的输入数据,多个次要菜单项目围绕曲线指向滚动;响应于接收到表示基本上垂直于曲线指向的用户导览手势的输入数据,与导览手势或移动的方向一致的意定次要菜单项目被缩放(scale),并且在与导览手势或移动相反的方向上被移动,以便促进用户访问。在某些实施例中,所述处理设备或单元是智能手表,并且所述运动传感器是触摸屏显示器。
本发明的实施例广泛地涉及编码有包括指令的计算机程序的非瞬时性计算机可读存储介质,所述指令可由处理器执行来创建基于手势或基于运动的导览环境,包括:被配置成从运动传感器接收输入数据的软件模块,所述输入数据表示用户的导览移动;被配置成呈现一个或更多主要菜单项目的软件模块;以及被配置成响应于接收到表示用户的导览手势或移动而呈现多个次要菜单项目的软件模块,其中用户的导览手势或移动表明对于某一主要菜单项目的选择,次要菜单项目被安排在围绕所选择的主要菜单项目的曲线指向中。所述环境操作成使得:响应于接收到表示包括基本上平行于曲线指向的运动的用户导览手势或移动的输入数据,多个次要菜单项目围绕曲线指向滚动;并且响应于接收到表示基本上垂直于曲线指向的用户导览手势或移动的输入数据,与导览手势或移动的方向一致的意定次要菜单项目被缩放,并且在与导览手势或移动相反的方向上被移动,以便促进用户访问。在某些实施例中,所述处理器是智能手表,并且所述运动传感器是触摸屏显示器。
本发明的实施例广泛地涉及用于选择和激活虚拟或真实对象及其可控特性的系统,包括:至少一个具有活跃感测区块的运动传感器,至少一个处理单元,至少一个供电单元,处于处理单元的控制下的一个对象或多个对象。所述传感器、处理单元和供电单元彼此处于电气通信中。运动传感器感测活跃区块内的包括运动属性的运动,生成至少一个输出信号,并且把输出信号发送到处理单元。处理单元把输出信号转换成至少一项命令功能。所述命令功能包括:(7)开始功能;(8)滚动功能;(9)选择功能;(10)特性功能;(11)特性控制功能;(12)同时控制功能。同时控制功能包括:(g)选择和滚动功能;(h)选择、滚动和激活功能;(i)选择、滚动、激活和特性控制功能;(j)选择和激活功能;(k)选择和特性控制功能;(l)选择、激活和特性控制功能;或者(m)所述各项的组合。控制功能还可以包括(13)所述各项的组合。开始功能在最初通过运动传感器感测到运动时激活至少一个选择或光标对象以及多个可选对象,与运动方向对准的可选对象朝向选择对象移动或者变为与未对准的可选对象区别开来,并且运动继续直到一个目标可选对象或多个目标可选对象与非目标可选对象区分开来,从而导致一个或多个目标对象的激活。所述运动属性包括触摸、抬离、方向、角度、距离/位移、持续时间、矢量速度、加速度、方向中的改变、角度中的改变、距离/位移中的改变、持续时间中的改变、矢量速度中的改变、加速度中的改变、方向改变的速率、角度改变的速率、距离/位移改变的速率、持续时间改变的速率、矢量速度改变的速率、加速度改变的速率、停止、保持、定时保持或者所述各项的混合和组合。所述对象包括真实世界对象、虚拟对象、特性以及其混合或组合,其中真实世界对象包括物理、机械、电机械、磁性、电磁、电气或电子设备或者可以由处理单元控制的任何其他真实世界设备,虚拟对象包括在虚拟世界中或者由计算机生成并且由显示设备显示并且能够由处理单元控制的任何构造。所述特性包括与对象相关联的可选择、可激活、可执行和/或可调节的特性。运动属性中的改变是可以通过运动传感器和/或处理单元而辨别的改变。在某些实施例中,开始功能还激活用户反馈单元,并且响应于运动传感器活跃区块内的动物、人类、机器人、机器人系统、其一个或多个部位或者其组合的移动,可以通过运动传感器来辨别选择对象和可选对象。在其他实施例中,所述系统还包括至少一个用户反馈单元、至少一个备用电池单元、通信硬件和软件、至少一个远程控制单元或者所述各项的混合和组合。所述传感器、处理单元、供电单元、用户反馈单元、备用电池单元、远程控制单元彼此处于电气通信中。在其他实施例中,所述系统还包括:至少一个备用电池单元,其中备用电池单元与其他硬件和单元处于电气通信中。在其他实施例中,更快的运动导致一个或多个目标对象朝向一个或多个选择对象的更快移动,或者导致一个或多个目标对象与一个或多个非目标对象的更大区别。在其他实施例中,随着一个或多个目标对象朝向一个或多个选择对象移动,一个或多个非目标对象移动离开选择对象,以便帮助对象区别。在其他实施例中,目标对象和/或非目标对象被显示在列表、群组或阵列形式中,并且是部分地或完全可见或者部分地或完全不可见。在其他实施例中,如果一个或多个被激活对象具有与之相关联的子对象和/或特性,则随着所述一个或多个对象朝向选择对象移动,所述子对象和/或特性会出现,并且随着一个或多个目标对象变得更加确定而变得更加可辨别。在其他实施例中,目标对象和/或非目标对象被显示在列表、群组或阵列形式中,并且是部分地或完全可见或者部分地或完全不可见。在其他实施例中,一旦一个或多个目标对象已被选择,则运动传感器的活跃区块内的进一步运动导致与运动方向对准的可选子对象或可选特性朝向、离开(多个)选择对象并且/或者与(多个)选择对象成一定角度移动,或者变得与未对准的可选子对象或可选特性区分开来,并且运动继续直到目标可选子对象或特性或者多个目标可选对象和/或特性与非目标可选子对象和/或特性区分开来,从而导致目标子对象、特性、多个子对象或多项特性的激活。在其他实施例中,运动传感器是从包括以下各项的一组当中选择的:数字摄影机、光学扫描仪、光学滚珠设备、触摸板、电感式衬垫、电容式衬垫、全息设备、激光跟踪设备、热设备、声学设备、能够感测运动的任何其他设备、运动传感器的阵列、波形传感器或感测设备以及所述各项的混合或组合。在其他实施例中,所述对象包括照明设备、摄影机、烤箱、洗碗机、炉灶、音响系统、显示系统、警报系统、控制系统、医疗设备、机器人、机器人控制系统、冷热供水设备、空调系统、加热系统、通风系统、空气处置系统、计算机和计算机系统、化学工厂控制系统、计算机操作系统、系统、软件单元、图形系统、商务软件系统、字处理器系统、互联网浏览器、会计系统、军事系统、虚拟现实系统、增强现实系统、生物计量学和神经系统和控制、无人机控制、增强和虚拟现实环境和系统、控制系统、其他软件系统、程序、例程、对象和/或单元、远程控制系统或者所述各项的混合和组合。在其他实施例中,如果定时保持是简短的,则处理单元导致将特性调节到预设水平。在其他实施例中,如果定时保持是持续的,则处理单元导致特性经历高数值/低数值循环,当保持被移除时所述循环结束。在其他实施例中,定时保持导致特性数值发生改变,从而使得:(1)如果特性处于其最大值,则定时保持导致特性数值以预定速率减小,直到定时保持被移除;(2)如果特性处于其最小值,则定时保持导致特性数值以预定速率增大,直到定时保持被移除;(3)如果特性数值不是最大或最小值,则定时保持导致随机选择特性数值改变的速率和方向,或者改变特性以允许最大控制;或者(4)定时保持导致特性数值在初始运动的方向中的连续改变,直到定时保持被移除。在其他实施例中,运动传感器在活跃区块内感测包括第二运动属性的第二运动,生成至少一个输出信号,并且把输出信号发送到处理单元,处理单元把所述输出信号转换成确认选择的确认命令或者用于控制不同对象或不同对象特性的至少一项第二命令功能。在其他实施例中,运动传感器在活跃区块内感测包括两个或更多动物、人类、机器人或其部位或者处于人类、动物和/或机器人的控制下的对象的运动属性的运动,生成对应于运动的输出信号,并且把输出信号发送到处理单元,处理单元把所述输出信号转换成同时地或顺序地实施的命令功能或确认命令或者其组合,其中开始功能在最初通过运动传感器感测到运动时激活多个选择或光标对象以及多个可选对象,与运动方向对准(与之共线或者处于相同的角度)的可选对象朝向选择对象移动或者变为与未对准的可选对象区别开来,并且运动继续直到目标可选对象或多个目标可选对象与非目标可选对象区分开来从而导致目标对象的激活,并且确认命令确认选择。
本发明的实施例广泛地涉及用于控制对象的方法,包括:在至少一个运动传感器的活跃感测区块内感测包括运动属性的运动,其中所述运动属性包括方向、角度、距离/位移、持续时间、矢量速度、加速度、方向中的改变、角度中的改变、距离/位移中的改变、持续时间中的改变、矢量速度中的改变、加速度中的改变、方向改变的速率、角度改变的速率、距离/位移改变的速率、持续时间改变的速率、矢量速度改变的速率、加速度改变的速率、停止、保持、定时保持或者所述各项的混合和组合;产生对应于所感测到的运动的一个输出信号或多个输出信号;把所述一个或多个输出信号通过与运动传感器通信的处理单元转换成一项命令功能或多项命令功能。所述命令功能包括:(1)开始功能;(2)滚动功能;(3)选择功能;(4)特性功能;(5)特性控制功能;(6)同时控制功能,包括:(g)选择和滚动功能;(h)选择、滚动和激活功能;(i)选择、滚动、激活和特性控制功能;(j)选择和激活功能;(k)选择和特性控制功能;(l)选择、激活和特性控制功能;或者(m)所述各项的组合;或者(7)所述各项的组合。所述方法还包括同时地或顺序地处理所述一项命令功能或多项命令功能,其中开始功能在最初通过运动传感器感测到运动时激活至少一个选择或光标对象以及多个可选对象,与运动方向对准的可选对象朝向选择对象移动或者变为与未对准的可选对象区别开来,并且运动继续直到一个目标可选对象或多个目标可选对象与非目标可选对象区分开来,从而导致一个或多个目标对象的激活,其中所述运动属性包括触摸、抬离、方向、角度、距离/位移、持续时间、矢量速度、加速度、方向中的改变、角度中的改变、距离/位移中的改变、持续时间中的改变、矢量速度中的改变、加速度中的改变、方向改变的速率、角度改变的速率、距离/位移改变的速率、持续时间改变的速率、矢量速度改变的速率、加速度改变的速率、停止、保持、定时保持或者所述各项的混合和组合。所述对象包括真实世界对象、虚拟对象、特性或者其混合和组合,其中真实世界对象包括物理、机械、电机械、磁性、电磁、电气或电子设备或者可以由处理单元控制的任何其他真实世界设备,虚拟对象包括在虚拟世界中或者由计算机生成并且由显示设备显示并且能够由处理单元控制的任何构造。所述特性包括与对象相关联的可激活、可执行和/或可调节的特性。运动属性中的改变是可以通过运动传感器和/或处理单元而辨别的改变。在某些实施例中,运动传感器是从包括以下各项的一组当中选择的:数字摄影机、光学扫描仪、光学滚珠设备、触摸板、电感式衬垫、电容式衬垫、全息设备、激光跟踪设备、热设备、声学设备、能够感测运动的任何其他设备、运动传感器的阵列以及所述各项的混合或组合。在其他实施例中,所述对象包括照明设备、摄影机、烤箱、洗碗机、炉灶、音响系统、显示系统、警报系统、控制系统、医疗设备、机器人、机器人控制系统、冷热供水设备、空调系统、加热系统、通风系统、空气处置系统、计算机和计算机系统、化学工厂控制系统、计算机操作系统、系统、图形系统、商务软件系统、字处理器系统、互联网浏览器、会计系统、军事系统、虚拟现实系统、增强现实系统、控制系统、其他软件系统、程序、例程、对象和/或单元、远程控制系统或者所述各项的混合和组合。在其他实施例中,如果定时保持是简短的,则处理单元导致将特性调节到预设水平。在其他实施例中,如果定时保持是持续的,则处理单元导致特性经历高数值/低数值循环,当保持被移除时所述循环结束。在其他实施例中,定时保持导致特性数值发生改变,从而使得:(1)如果特性处于其最大值,则定时保持导致特性数值以预定速率减小,直到定时保持被移除;(2)如果特性处于其最小值,则定时保持导致特性数值以预定速率增大,直到定时保持被移除;(3)如果特性数值不是最大或最小值,则定时保持导致随机选择特性数值改变的速率和方向,或者改变特性以允许最大控制;或者(4)定时保持导致特性数值在初始运动的方向中的连续改变,直到定时保持被移除。在其他实施例中,所述方法包括:在运动传感器的活跃感测区块内感测包括第二运动属性的第二运动,产生对应于所感测到的第二运动的一个第二输出信号或多个第二输出信号,把所述一个或多个第二输出信号通过与运动传感器通信的处理单元转换成一项第二命令功能或多项第二命令功能,并且基于第二输出信号确认选择,或者对所述一项第二命令功能或多项第二命令功能进行处理并且把与第二运动方向对准的可选对象朝向选择对象移动或者变为与未对准的可选对象区别开来,并且运动继续直到一个第二目标可选对象或多个第二目标可选对象与非目标第二可选对象区分开来,从而导致所述一个或多个第二目标对象的激活,其中所述运动属性包括触摸、抬离、方向、角度、距离/位移、持续时间、矢量速度、加速度、方向中的改变、角度中的改变、距离/位移中的改变、持续时间中的改变、矢量速度中的改变、加速度中的改变、方向改变的速率、角度改变的速率、距离/位移改变的速率、持续时间改变的速率、矢量速度改变的速率、加速度改变的速率、停止、保持、定时保持或者所述各项的混合和组合。在某些实施例中,感测运动包括:在运动传感器的活跃区块内感测包括两个或更多动物、人类、机器人或其部位的运动属性的运动,产生对应于运动的输出信号,把所述输出信号转换成命令功能或确认命令或者其组合,其中开始功能在最初通过运动传感器感测到运动时激活多个选择或光标对象以及多个可选对象或特性,与运动方向对准的可选对象或特性朝向选择对象移动或者变为与未对准的可选对象区别开来,并且运动继续直到目标可选对象或多个目标可选对象与非目标可选对象区分开来从而导致目标对象的激活,并且确认命令确认选择。
使用面包屑规程的系统和方法
在某些实施例中,本发明的系统和方法包括使用“面包屑(breadcrumb)”或“习惯(habit)”来确定一个传感器、多个传感器和/或传感器阵列的活跃区块或场中的移动的方向。当用户朝向电话的屏幕上的所期望的位置移动时,特别是跨越屏幕发生触摸事件,(多个)传感器将开始“看到”与用户的移动相关联的数据,但不一定是以连续的方式看到。相反,(多个)传感器将看到具有不断增大的频率、强度和/或覆盖面积的一系列点,并且将开始被感测为用户移动来到更靠近与所期望的屏幕位置“接触”。该数据可以被用来确定速度和方向,所述速度和方向又可以被用来预测或预期用户意图,也就是哪些对象或特性是活跃的以用于选择特性,而不是对象首先是你已提交的另一项应用的情况。这样提供了一个验证方面,从而可以在物理确认发生(触摸事件)之前选择对象和/或特性,或者导致对象和/或特性在确认性触摸或动作发生之前开始作出响应(利用颜色改变、声音、触觉反馈、形状、动画等等作出响应)。通过这种方式,移动和随后的触摸还可以表示唯一的签名或标识符。应当认识到,面包屑或习惯可以是正面的特性和/或反应或者负面的特性和/或反应。
在某些实施例中,本发明的系统和方法包括由用户实施移动或手势,随后通过口头方式标识或确认什么特性、命令或功能将与所述移动或手势相关联。这可以被同时地或顺序地实施。同样地,在本发明的上下文中,“同时”意味着并发地发生的事件或者在一个“较短”的时间段内快速相继发生的事件(例如较短的时间段是在大约1ps到大约1s之间),“顺序地”意味着动作在一个“较长”的时间段内顺序地发生(例如较长的时间段是大约1s到大约10s之间)。举例来说,用户在向上的方向上移动,同时说出“音量提高”导致控制并且提高声音的音量。用户可以替换地说出“低音”或“低音提高”,并且低音强度增大而不是音量。
在某些实施例中,前面描述的方面可以被用作安全标识符,其中移动和语音命令可以被用来解锁已锁定的菜单、对象和/或特性,或者充当用于激活菜单、对象和/或特性的唯一标识符。通过把右手指或拇指从左向右移动并且说出“打开”,已锁定的电话可以被解锁,或者可以发生任何其他命令或功能。全部两个方面还可以提供生物计量学标识。另一个实例是面部辨识加上特定的手势或动态运动事件。这些改变可以是在一个较长的时间段内收集到的顺序改变以及/或者在一个较短的时间段内收集到的同时改变,从而允许用户识别、验证和/或认证的进一步细化。这还可以包括多次触摸或多个所感测到的点、多个单词或命令或者这些的任意组合。取代单词,可以使用声音、音符或者任何可听的或其他种类的波形。触摸屏幕上的一个区块或位置并且同时说出所期望的特性、命令或者任何其他所期望的选择是可以使用这种方法的另一种方式。这种方法的另一个益处是快速地关联命令或特性(滚动、选择、启动或特性)的能力,从而以容易的方式训练系统或界面。通过这种方式,可以很容易地针对用户优选项来定制控制。
这种方法的另一个实例是使用屏幕上的一个触摸区域。通过触摸屏幕的右上象限(或者在该方向上移动)并且说出“旅游”,系统可以被训练或编程为使得该触摸可以显示对象或其他特性的旅游菜单。通过在右下象限中触摸或移动(或者朝向右下象限移动)并且说出“食物”,可以显示餐厅的菜单。此后,触摸或者朝向相关联的位置或区域移动可以提供与朝向不同区域移动或触摸所不同的菜单、选择或特性。在另一个实例中,说出“灯”可以在移动设备上或者在虚拟或增强环境中调用可控制的灯的显示。通过把手指或凝视与“灯”对象对准,用户可以说出“走廊”,并且走廊灯将在用户的手指或凝视下移动,就如同通过朝向其移动而将其选择一样(正如在其他应用中所描述的那样)。色轮(color wheel)可以显示,并且用户移动到色轮中以选择颜色,或者用户可以说出“暖色”,并且基于黄色的颜色的滑动尺度(sliding scale)将移动或出现在用户的手指下方,用户随后可以移动手指以选择所期望的色调。通过具有已经建立的基于运动的架构,任何运动可以由语音命令取代,并且任何语音命令可以由运动取代,或者是两种情况的组合。随着用户朝向卧室灯图标移动并且说出“暖色”,则滑动尺度将在用户的手指(或凝视)下方示出,并且立即的特性控制将是可能的。这在例如增强或虚拟现实环境之类的3D环境中也是成立的,其中可以通过实施所期望的手势或运动并且说出(同时地或顺序地)相关联的特性和/或选择是什么而把手势或移动与控制、选择、菜单项目或特性相关联。这可以在虚拟空间中或者在真实显示器上实施,从而使得2D和3D空间中的区域或体积或位置可以按照相同的方式操作。
在某些实施例中,本发明的系统和方法包括把对象定位在其之前可能所处的某一点处,或者把3D摄影机定位在结构中,从而使其与墙壁或者空间中的其他对象具有最优距离。这样做的一种方式是取得电话(或者具有传感器的任何设备)并且触摸墙壁或者来到足够靠近,从而被视为(例如)与电话的阈值事件以及某种触发(触摸电话上的控制对象或者说出“开始”或其他种类的触发命令,并且开始走向房间中部的所感知的位置)。电话显示从被触摸的墙壁到你的位置的视觉“弦(chord)”或矢量。这可以通过使用罗盘、磁力计、陀螺仪、加速度计或者电话的任何其他传感器以及由电话的其他传感器测量的脚步(比如电话的加速度计数据中的改变)来实现。通过对于每一面墙或者至少一个或两个点重复这一操作,并且随着用户移动,可以确定并且在屏幕上看到这些矢量的交叉。通过运行空间算法,可以确定房间的中心部分。后来可以使用不同的墙壁点重复这一操作以便把中心定位在后来的某一点处。通过还使用与每一面墙的距离或者使用角落或特定高度处的墙壁,准确度被大大增强。这一“拖曳”矢量集合的能力使得用户很容易通过使用显示器、处理器和传感器组合移动和定位其希望重建或找到的点。可以确定中心点或区域中心以及先前的一点。通过这种方式,摄影机可以随着时间被设定在同一点处,以便从相同的位置获得顺序的画面。
在本文中所描述的基于运动的处理系统和方法中,还可以通过保持或其他事件来设定变焦水平,比如触摸、“反弹(bounce)”或“急动”移动或(任何种类的)手势或者口头命令或者这些的任意组合。
可以通过所感测的常见参数来设定变焦水平,也就是与面部的距离(大多数将具有优选的阅读距离,并且该优选距离可以是预设的或者被设定在某一点),并且随后通过把设备保持在该点处(在一定范围内)而触发所述能力。
以下各项可以触发设定点或者导致系统以特定的预设变焦和/或摇摄水平激活:特定的真实内容(通过摄影机看到或者通过其他传感器实时感测到的真实世界对象或图像,通过麦克风或其他传感器实时听到的声音),所成像的内容(网页、图像、视频、在设备上示出的任何其他内容或者不是作为真实内容被看到的任何种类的内容),虚拟内容(与所成像的或真实内容相关联的动画化的或额外的图像内容——也就是说当通过设备的摄影机观看衬衫的画面时,或者当从网站观看衬衫的图像时,可以触发身穿衬衫并且在人行道上行走的动画化3D人物,从而向用户提供另外的内容),或者与任何内容相关联的任何数据(通常称作元数据)——这些当中的任一项或者这些的组合可以触发设定点,或者导致系统以特定的预设变焦和/或摇摄水平激活。
多用户组合控制
本发明的实施例还涉及包括基于运动的传感器子系统的系统和方法,所述传感器子系统支持多个用户与传感器子系统进行交互,从而使得所述系统和方法通过组合所述用户交互而改变所显示的(多个)对象、(多项)特性和/或(多个)环境的特性,从而得到以组合方式改变的(多个)对象、(多项)特性和/或(多个)环境。举例来说,如果显示是全息图或画面,则传感器子系统将随着每一个用户与本发明的基于运动的处理子系统进行交互而感测每一个用户的移动。本发明的系统和方法随后组合所述用户交互以便改变画面或全息图,从而反映出各项单独的系统交互的组合。举例来说,如果多个用户正与全息图进行交互并且每一个用户为全息图选择一种颜色,则实际显示的颜色将构成作为由各个用户选择的颜色的加法的颜色。如果一个用户选择蓝色并且另一个选择红色,则所得到的颜色将是紫色。实际的颜色还可以是基于选择的“强度”或者选择的“方式”或者选择的“定时”。因此,如果蓝色用户首先作出选择,则所得到的颜色可以是更蓝的紫色,如果红色用户首先作出选择,则所得到的颜色可以是更红的紫色。如果蓝色用户作出更加立即的蓝色选择,并且红色用户花费了更长时间作出选择,则所得到的颜色可以是更蓝的紫色。在虚拟或增强现实环境中,环境内的多个用户的交互可以导致环境的对象、特征和/或特性基于各项单独的用户交互的合成以组合方式作出改变。举例来说,如果环境表示多个用户所进行的游戏,则本发明的系统和方法将基于各项用户交互的合成而改变游戏环境的对象、特征和/或特性。这样的组合交互可以被用来随着游戏的进行以用户完全意想不到的方式改动游戏环境。相同类型的合成改变可以被使用在其他类型的系统中,包括图像处理、网站设计、数据处理、金融处理、趋势分析等等,其中系统集成所有用户交互以便显示关于处理结果的组合分析。在其他实施例中,所述系统和方法将捕获与正在一个或多个传感器或者一个或多个传感器阵列的一个或多个活跃区块内移动的用户、对象、实体等等的尺寸、比例、其他物理特性有关的数据。
使用在基于运动的处理中的眼睛、面部和/或身体表情/语言
本发明的实施例还涉及包括捕获眼睛、面部和/或身体表情并且将所述信息使用在本文中的基于运动的处理的某些方面中的系统和方法。如前所述,眼睛、面部和身体(整体或部分)移动被用于直接控制本发明的界面的运作,或者用于功能选择和激活的确认性移动。但是该数据并没有捕获可以被使用在基于运动的处理中的全部数据范围。当人与人或与物进行交互时会发生若干生理改变。虹膜扩张或收缩、眼睛注视(eye fix)、扇动或移动、眼睑眨动、面部表情改变、面部泛红、出汗、体温改变、组织的水分含量、身体部位移动或姿态、针对气味传感器的气味、气味中的改变、呼吸和气体排出中的改变、化学和神经改变等等会发生。所有这些改变都表现出喜欢、不喜欢、着迷、激动、愉悦、生气、愤怒以及/或者任何其他人类情绪。由于与信息内容的交互所导致的身体部位改变的这些特性可以被用来帮助基于运动的功能选择和处理,帮助改进对于基于运动的功能选择和处理的预测,并且帮助基于身体部位移动和姿态中的这些改变针对特定用户调整基于运动的界面。举例来说,随着本发明的界面被激活并且滚动功能被调动,从而导致列表或菜单滚动跨越显示器或其他人类可辨识的输出设备,虹膜扩张或收缩中的改变可以被用来从较不期望的内容群集所期望的内容,或者用于激活对应于扩张或收缩的最高数量的对象。这些相同的改变可以被用来确认初步选择或者拒绝初步选择。当用户随着时间与系统进行交互时,系统从这些改变中进行学习,并且结构化对象或内容以便符合这些改变。这些改变还可以被用于为用户所访问的新的程序构造唯一标识符,并且可以使用颜色编码系统或声学系统,从而允许“突出表现”(颜色、声音、形状、脉动等等)一个或更多对象以便吸引用户的注意。特定的突出表现可以从一般优选项确定——人们一般如何对于不同的刺激作出响应,或者可以基于所述系统或方法学习特定用户对于什么特定突出表现作出最佳响应而特定化突出表现。当然,通过调用负面的突出表现(用户将不会被吸引的突出表现),负面响应可以被用来取消强调对象。由于该信息是动力学的,因此可以把所述信息与生物计量学和其他其他移动属性相组合来创建唯一标识符。因此,本发明的系统可以改进标识符唯一性,这不仅是通过捕获与和界面进行交互的方式相关联的数据,而且还通过使用身体和/或身体部位的生理响应和生理响应中的改变(例如眼睛、耳朵、面部、嘴、嘴唇、手指、手、手臂、肩膀、头部、虹膜、出汗的生理响应和响应中的改变,或者身体或身体部位的生理响应中的任何其他可检测的改变)来进一步增强用户识别。因此,本发明的系统可以简单地观察用户,直到系统累积了足够的特定于用户的生物计量学、动力学和/或生物动力学数据以构造唯一标识符,从而使得当用户激活需要用户名和口令的新的应用时,系统生成所建立的唯一用户名和口令而无需用户记住任何事项。系统将简单地观察用户,随后当特定应用被激活时,使用本发明的系统建立的所有应用用户名和口令都将被自动建立。
电子阅读器
在某些实施例中,本发明的系统和方法被适配成与电子阅读器(e-reader)一起工作,所述系统和方法将能够跟随用户的眼睛移动,并且当用户来到页面的末尾时,离开页面的眼睛移动将导致所述系统和方法把页面向前推进一页。所述系统和方法还可以针对每一个用户被定制,从而使得当用户眼睛到达页面的底部时,页面的顶部部分将开始淡入到下一页,其中页面的最终部分随着用户眼睛向上跟踪而淡化到新的页面。在其他实施例中,所述系统和方法可以学习读者的阅读速度,从而可以把页面改变或页面淡化定时到用户阅读速度。
加密系统和方法
本发明的实施例还涉及用于在用户之间加密数据的方法。所述方法涉及为每一个用户建立生物动力学标识符,其中使用运动和生物计量学传感器为发送方和接收方构造唯一的生物动力学标识符。所述标识符随后在加密期间被嵌入在将要发送的文件中,并且充当用于在传送和接收之后锁定和打开文件的密钥。因此,发送方能够出于任何目的打开文件,并且接收方能够出于任何目的打开文件。
虽然可以由用户使用本发明的界面和系统预先构造生物动力学标识符,但是通过在加密时构造生物动力学签名可以使得所述标识符更加唯一。因此,系统从发送方和接收方捕获足够的生物计量学和动力学数据,以便即时构造唯一标识符。接收方生物动力学标识符(不管是预制的还是即时的)被传送到发送方系统。发送方系统随后使用发送方标识符(不管是预制的还是即时的)和接收方标识符(不管是预制的还是即时的)作为用于加密文件的锁和钥。随后可以把文件从发送方系统发送到接收方系统。
安全系统和方法
本发明的实施例还涉及利用唯一生物动力学标识符的计算机安全系统。一旦本发明的计算机安全系统软件被安装在计算机上,所述系统利用运动和生物计量学传感器来构造安全标识符,以便减少或防止进入到计算机中的安全漏洞。当用户打开计算机时,在计算机可以被使用之前所述系统使用安全标识符来解锁计算机。
对于包括多台计算机的计算机网络,计算机安全系统被安装在所有计算机上。一旦被安装,所述系统被用来构造多个经过授权的安全标识符。这些经过授权的安全标识符分别是对应于每一个经过授权的人员的生物动力学标识符,并且随后被上传到计算机网络中的每一台计算机。所述经过授权的人员的集合可以由具有添加、删除、更新或修改用户安全等级的权威的经过授权的人员的一个子集来更新或修改,其中安全等级为系统提供关于每一个经过授权的人可以采取来改变或修改计算机系统的各个单元的活动范围的信息,从添加新的计算机到删除旧的计算机,到更新每一台计算机上的用户信息,到运动传感器或生物计量学传感器发生故障或者软件崩溃时锁定计算机系统。一旦计算机安全系统已被跨越网络安装到所有已连接并且经过授权的计算机,并且经过授权的安全标识符已被上传到所有已连接并且经过授权的计算机,每当用户激活被指派给该用户的计算机时,系统通过生物计量学和运动传感器捕获生物计量学和运动数据(其当然可以是相同的或不同的),直到能够构造唯一的生物动力学标识符。一旦被构造,所述标识符被上传到标识符数据库并且通过所述标识符锁定计算机,从而使得每当用户来到所指派的计算机时,系统将捕获足以确定该使用是被指派到该计算机的用户的生物计量学和运动数据。当然,每一台计算机可以由一个或更多用户访问,前提是每一个用户的标识符都驻留在用户计算机上。请注意的是,本发明的每一个标识符被设计成具有高于大约80%、高于大约85%、高于大约90%、高于大约95%或者高于大约99%的安全系数(security quotient)。
与自发或非刻意移动区别开的刻意移动
在某些实施例中,本公开内容的系统、装置和/或界面及其实施方法包括:感测刻意的或故意的并且通常是预先定义的移动;输出所感测到的移动以作为输出;以及把输出信号转换成命令和控制功能,包括而不限于选择功能、激活功能、滚动功能、特性控制功能和/或其组合。刻意或故意移动可以与眼睛跟踪或头部跟踪运动传感器相关联或者与任何其他运动传感器相关联,或者刻意或故意移动可以与处于某一实体的控制下的特定身体部位或成员相关联。刻意或故意移动可以是跨越所显示的可选对象移动一只眼睛或两只眼睛,随后把速度改变预定的数量从而调用所期望的功能。举例来说,对于包括显示器和眼睛跟踪传感器的系统、装置和/或界面,当用户看过特定的对象或对象集合或者凝视特定的对象或对象集合时,可以调用特定的功能,比如选择功能、选择和激活功能或者选择、激活和调节特性数值功能,但是如果用户以预设的速度看过对象的一面,则可以调用特定的功能,比如选择和激活功能。应当认识到,在眼睛移动的情况下,包括其移动属性的刻意或故意移动必须与正常眼睛移动有可辨别的不同。在某些实施例中,所述系统、装置和/或界面从一个或更多运动传感器感测运动并且监测移动,直到移动满足足以把所述移动与正常眼睛移动区别开的一条或更多条标准——即满足阈值标准。举例来说,刻意或故意移动可以是缓慢但是连续的移动,某一角落处的暂停以及快速地看向另一个角落(对角线),或者可以与正常眼睛移动区别开的速度或加速度的速率的某种其他改变。
刻意或故意移动的另一个实例可以涉及把正常的观看行为与刻意的观看行为区别开。用户通常并不直接看向所显示的对象的中部而是看向整个对象或者略低于中心处,也就是说用户焦点不在对象的中心上。因此,刻意移动可以仅仅是凝视对象的中心或者凝视对象中的某一其他位置;但是前提是所述移动足以使得所述系统、装置和/或界面把所述移动与正常眼睛移动区别开来。某人可以看向对象,并且当通过传感器确定总体上正看向某一对象时,该对象的中心或形心可以被不同地显示(或者仅仅是活跃的并且看起来没有不同),比如示出形心区域的正方形或圆形,从而使得所述系统、装置和/或界面可以使用与看到所述区域或体积中或者移动经过该区域或体积相关联的运动传感器输出,并且把所述输出转换成命令和控制功能。当然,触发区域或体积可以不是中心,而可以是对象内的另一个位置。因此,通过看向或朝向对象可以导致所述系统、装置和/或界面预先选择该对象,但是只有当用户将视线移动到活跃区域/体积(通常是预先定义的)中时,所述系统、装置和/或界面才调用特定的命令和控制功能。或者,刻意移动可以涉及移动跨越一个预定义的区域,其中运动的速度并不重要,只有达到特定阈值的穿越才是重要的。此外,其他移动属性(例如速度、矢量速度和/或加速度或者这些的改变)可以被用作用以调用特定一项或多项功能的预定义移动的一部分。这种相同的技术可以被应用于患有特定类型的疾病从而使其无法进行平滑移动的用户,所述系统、装置和/或界面可以被调整以便确定正常用户移动与刻意用户移动之间的(多项)差异,尽管所述(多项)差异可能是细微的。
具有连续属性的构造
在某些实施例中,本公开内容的系统、装置和/或界面及其实施方法可以利用具有连续属性的构造(例如连续数值(模拟)而不是离散数值(数字))。在这样的环境中(所有对象都是能够相互作用的波形),移动可以导览经过所述连续属性,移动中的改变或刻意移动可以导致选择连续属性的特定数值或者连续属性的集合。因此,可以操纵、调节、改动等等以及查看波形和波形相互作用。此外,给定的相互作用式样可以导致所述系统、装置和/或界面调用特定的功能或功能集合。特性可以是对象的一个子集或其他特性,但是也可以与波形中的改变相关联,其与滚动的不同之处在于,滚动必须具有整数值(或者沿着一条路径的停止处)。就像吉他一样,其中滚动将是沿着琴格(fret)移动,但是沿着琴弦侧向滑动(弯曲)琴弦会产生不具有预设整数值的频率改变,其中所述系统、装置和/或界面可以使用全部两种输出来调用不同的功能或功能集合,所述功能或功能集合可以是预先定义的或者是从情境即时确定的。
关于用户意图的实时预测
当人们知道他们想要什么或者正在选择某一事项时,他们通常在更直的线上更快地移动。在某些实施例中,所述系统、装置和/或界面可以被用来预测特定概率,特定用户所选择的是什么可以是基于该用户朝向特定可选对象的移动有多快和/或多直。在某些情况下,比如拇指的移动,其中所述移动包括围绕拇指关节旋转,运动可以是弧形的,并且以非弧形的方式移动可以被视为更加刻意,从而提供更高的概率。可以影响作出选择的置信度(或概率)的其他事项包括邻近性(与另一个对象相比更靠近某一个对象),在接近特定对象时放慢(方向、距离、持续时间、速度、矢量速度、加速度等等中的改变),比如在朝向键盘上的特定字母移动时减速,随后以增大的加速度移动离开(在选择键盘上的一个字母之后移动到下一个)。所述系统、装置和/或界面可以基于包括存储在库和/或数据库中的历史、环境或情境数据的置信度数据使用人工智能改进实时置信度确定,并且可以与前面的移动属性相耦合来增强预测置信度。
自我居中用户界面(SCUI)
在某些实施例中,本公开内容的系统、装置和/或界面及其实施方法涉及用于控制对象(软件、硬件、特性、波形或者任何其他可选择、可滚动、可激活、可滚动或者通过其他方式可控的事项)的新颖的自我居中界面(SCUI),比如使用头部运动传感器通过头部运动来控制无人机。举例来说,想象一个罗盘刻度盘(compass rose)在其中部有一个孔洞并且被划分成四个部分:NE、NW、SW和SE。随着用户在SW象限中向左移动,所述系统、装置和/或界面可以导致无人机向左移动,并且用户向左移动的距离控制无人机向左移动的速度。因此,用户在SW象限内向左移动得越远,无人机向左移动得就越快。类似地,随着用户在SE象限中向右移动,所述系统、装置和/或界面可以导致无人机向右移动,并且用户向右移动的距离控制无人机向右移动的速度。因此,用户在SE象限内向右移动得越远,无人机向右移动得就越快。通过这种方式,用户可以使用一副眼镜(比如AR/VR/MR眼镜等等)并且看到无人机,并且在使用半透明UI设计的同时,当使用头部移动的故意速度时(也就是刻意的头部移动)移动无人机。因此,通过快速地移动,UI可能不会导致无人机移动,这是因为所述系统、装置和/或界面可以确定这样的移动并不表示足以用于无人机控制的刻意移动。因此,如果移动被所述系统、装置和/或界面确定为是刻意移动,则UI可以导致无人机进行相应的移动。通过以特定的刻意方式移动,可以激活菜单,其中视图沿着焦点或凝视方向居中(自我居中),并且菜单对象或单元被安排在围绕用户头部或眼睛位置的中心的间隔开的配置中(例如按照同心方式),也就是说围绕凝视点来安排。在该多纳圈(donut)式罗盘刻度盘实例中,当凝视处于中心或多纳圈孔洞区域时,所述系统、装置和/或界面导致无人机过渡到静止状态,这可以是盘旋状态或者是基于最近的头部/眼睛移动集合的恒定运动状态。所述系统、装置和/或界面可以基于凝视的持续时间(定时保持的持续时间)、基于凝视固定在中心区域中的何处而在盘旋状态与恒定运动状态之间作出区分。通过向左和向右(x轴)移动而将无人机左右移动。通过向上和向下(y轴)移动而将无人机上下移动。通过在x和y移动的组合中移动,将无人机类似地移动。此外,不同象限内的其他移动(比如NW或NE象限内的移动)可以分别控制无人机在其轴上的向左或向右旋转,或者可以控制俯仰角、偏航角、翻滚角或者其他运动。
在其他实施例中,本公开内容的系统、装置和/或界面及其实施方法涉及新颖的用户界面,包括三种不同的控制对象格式:屏幕锁定、绝对世界锁定和相对世界锁定。屏幕锁定意味着不管用户视图处于“世界”中的何处,一个对象、多个对象、一项特性和/或多项特性都始终保持在用户视场中。绝对世界锁定意味着一个对象、多个对象、一项特性和/或多项特性可以变为与特定世界视图对象或特定世界视图位置相关联或者过渡到特定世界视图对象或特定世界视图位置,保持固定到该对象或位置并且不发生移动。因此,如果用户移动将该视图移动从而使得所述对象或位置移动到当前视图之外,则与所述对象或位置相关联控制对象和/或特性将不再可见。相对世界锁定意味着一个对象、多个对象、一项特性和/或多项特性可以与世界视图相关联或者过渡到世界视图,但是所述一个对象、多个对象、一项特性和/或多项特性可以跟随用户凝视但是滞后,从而使得直到移动停止或者停止特定的时间段才能对其进行访问。对于无人机控制,某些无人机控制可以是屏幕锁定,其他无人机控制可以是绝对世界锁定,并且其他的则可以是相对世界锁定。举例来说,目标和/或目标特性可以是绝对世界锁定,用于沿着一定路径把无人机移动到目标的无人机位置控制可以是相对世界锁定,并且摄影机控制或武器控制可以是屏幕锁定。当然,用户可以改变被屏幕锁定、绝对世界锁定或者相对世界锁定的对象和特性。
把这些概念放在一起,通过感测到刻意移动导致所述系统、装置和/或界面激活UI或者可以与UI进行用户交互,并且导致无人机的图像出现在世界视图中。所述UI包括三种锁定格式。随后,通过感测到SW象限内的向左移动,所述系统、装置和/或界面导致无人机向左移动,其中通过所感测到的用户在SW象限内向左移动的距离来控制无人机向左移动的速度。随着无人机移动,屏幕锁定的一个对象、多个对象、一项特性和/或多项特性与用户一起移动;绝对世界锁定的一个对象、多个对象、一项特性和/或多项特性保持固定到世界中的某一对象或者世界中的某一位置;并且相对世界锁定的一个对象、多个对象、一项特性和/或多项特性跟踪无人机的移动。所述跟踪可以表现为如同所述一个对象、多个对象、一项特性和/或多项特性被屏幕锁定——其与无人机直接相关地移动,或者以更慢的速率移动,或者其移动方式是只有在用户移动停止之后才移动回到用户视图中。可选的是,相对世界锁定的一个对象、多个对象、一项特性和/或多项特性可以在无人机前方移动,从而具有无人机路线的预览并且可以相应地对其进行调节。当用户头部或眼睛移动停止在某一凝视点处时(用户凝视世界视图中的某一固定位置),随后无人机移动将停止,或者无人机根据用户移动停止时的移动而继续移动,其中凝视的类型(持续时间、凝视中心等等)决定凝视导致无人机在原地盘旋还是继续根据最近的移动属性而移动。在某些实施例中,一旦检测到固定凝视,则之前跟随用户移动的相对世界锁定的一个对象、多个对象、一项特性和/或多项特性赶上凝视点,并且变为围绕凝视点居中。由于UI正在控制无人机,因此无人机现在将其自身居中成与UI对准,也就是围绕凝视点居中。在一个实施例中,UI略微滞后于凝视点,并且无人机略微滞后于UI。
该相同的UI还可以被用来控制z轴运动,这或者是通过使用3D传感器数据(来自头部运动传感器或其他运动传感器),或者是通过使用提供3D控制的独特2D构造。这方面的一个实例是具有多纳圈孔洞的相同的罗盘刻度盘(或者圆形/辐射状UI菜单/控制器),但是现在添加了指定的z轴区域,正如本文中所描述的那样。在一个实施例中,UI具有本文中所阐述的漏斗(funnel)形状,从而提供在z控制楔形内居中的纤细的纯z轴控制楔形区块。通过朝向或离开该z区块的中心移动而沿着z轴移动无人机。UI被划分成两个部分并且具有一个死区(dead zone)。中心区域提供3D x/y/z轴控制,漏斗的外侧部分则是2D的并且仅提供x/y控制(正如前面所描述的那样)。在3D区域中,如果用户移出Z区块但是保留在内侧部分中,则运动表示x、y和z的组合。如果用户移动到外侧区块中,则仅提供x/y控制。
汽车显示系统
在某些实施例中,所述系统、装置和/或界面可以被配置成显示投影到挡风玻璃上的交通信息、交通标志和交通提醒。当在全世界的道路、公路、高速公路和收费公路上驾驶车辆时,告示牌和管制标志以及其他交通相关的提醒是常见的。所述系统、装置和/或界面可以被配置成在挡风玻璃上(例如HUD)或者在头盔的遮阳板的内侧表面上进行显示,从而表示一种用于向驾驶员或乘客提供信息的新的方法。一个具体实例是驾驶员正沿着公路行驶并且正在接近被标示成信息或管制标志区域的位置,或者车辆上的传感器“看到”信息或管制标志,所述标志的虚拟表示可以被显示在挡风玻璃的中心处,其看起来更小并且具有出现在远处的透视。随着驾驶员继续朝向标志移动,该虚拟标志变得更大并且移动跨越挡风玻璃,就如同该虚拟标志是真实标志并且驾驶员正驾驶经过该标志。作为虚拟标志,图像和信息可以通过使用运动被“冻结”或者在任何时间被调回、被重新播放或者可以被放大或者被滚动经过,正如本文中所描述的那样。此外,所述系统、装置和/或界面可以使用语音命令或者运动和语音命令的组合,以便在任何时间调回、重新播放或者可以放大或者滚动经过所观看的标志。由于能够在方向盘上(触摸板、光学传感器等等)、利用眼睛跟踪、HUD或者任何其他方式与运动进行交互,因此可以为驾驶员提供回顾所错失的信息的能力。还可以提供实时根据车辆或乘客(车辆的速度、来自家庭成员的通知等等)或者根据所排定的时间更新改变的能力。所述系统、装置和/或界面还可以被链接到电话或其他系统,并且该信息也可以作为这些虚拟标志的其中之一被显示,而不管其是否与位置有联系。在速度方面,所述系统、装置和/或界面还可以显示高于或低于与法规的特定差异的车辆速度,从而提供闪光或其他动画图形,或者甚至同时显示多层以便随着消息的时间示出差异。
使用控制事项的相同运动的分析法
在某些实施例中,所述系统、装置和/或界面可以使用历史数据来预测用户意图,并且导致动作(比如选择)更快地发生而无需移动对象。因此,通过分析过去的用户行为和移动特点,所述系统、装置和/或界面可以能够更加快速地确定与特定移动对准的哪一个对象更有可能是目标。随着速度和方向改变(并且这些改变提供控制)的相同的矢量还高速我们关于用户的许多事。举例来说,在五个项目当中的两个项目之间来回滚动(例如x轴移动)并且随后朝向特定对象移动(例如y轴移动)选择和激活该对象。但是通过知道其他对象允许所述系统、装置和/或界面对替换的选择进行分类,并且可以基于历史数据对其进行排序。分析法的使用可以特别被应用在使用本公开内容的基于运动的系统、装置和/或界面的广告或训练方法中。
在其他实施例中,所述系统、装置和/或界面可以使用这些预测方法,从而导致对象朝向用户或选择对象移动以便预测用于凹形渲染(foveated rendering)的区块。在VR或其他混合现实环境中,图形渲染是极为耗时的。为了补偿这一点,最高分辨率下的图形渲染通常被限制到与视觉中心相关联的一个或多个区域。通过把高分辨率渲染限制到这些区域为用户提供了良好的体验。因此,不需要在未被注视的区块、区域或体积上实施高分辨率图形渲染。通过这种方式,关于用户将看向何处的预测可以帮助进行凹形渲染,从而使得显示器的一部分可以渲染所预测的区块,因此用户不会看到渲染中的明显延迟。
在其他实施例中,本公开内容的系统、装置和/或界面及其实施方法,其中所述系统、装置和/或界面包括至少一个眼睛和/或头部跟踪传感器、至少一个处理单元以及至少一个用户反馈单元。所述系统、装置和/或界面允许两种不同的销定(pinning)模式。第一销定模式是跟踪传感器包括关于按照基于跟踪的方式所显示的对象的信息,并且可以在观看平面的左侧和右侧边缘看到。这些对象可以通过朝向被跟踪销定的对象移动头部和/或眼睛来选择,从而导致其出现在场的中心处,从而使得可以通过进一步的头部和/或眼睛移动对其进行控制。随着用户观看真实世界环境中的真实世界对象、AR环境中的对象或者VR环境中的对象,用户可以把选择格式从跟踪销定格式过渡到世界销定格式。在跟踪销定格式中,针对处于所述系统、装置和/或界面的控制下的对象的选择和控制功能与跟踪传感器保持在一起并且可以在任何时间被访问,但是一旦用户看到对象、在该对象处暂停或者按照预定方式朝向该对象移动,则所述系统、装置和/或界面把对象控制功能销定到对象。所述销定可以是永久的或相对的。永久销定把控制功能联结到对象,从而使你可以返回到对象以便能够控制其特性。相对销定意味着对象控制功能与世界视图一起行进,这或者是直接发生或者是在跟随眼睛和/或头部移动时有一定滞后。
发明人已发现基于移动的系统、装置和/或界面及其实施方法,其中所述系统、装置和/或界面包括至少一个传感器、至少一个处理单元、至少一个用户可辨识反馈单元以及可由所述至少一个处理单元控制的一个真实对象以及一个真实或虚拟对象或者多个真实和/或虚拟对象,其中所述至少一个传感器感测与该至少一个传感器的活跃区块上或活跃区块内的触摸和/或移动相关联的团块数据并且生成表示所述团块数据的一项输出和/或多项输出,并且其中所述至少一个处理单元把该团块数据输出转换成用于控制所述一个和/或多个真实和/或虚拟对象的一项功能或多项功能。
触发
在某些实施例中,本公开内容的系统、装置和/或界面及其实施方法使用标记或者图像/字符辨识特征来触发菜单或元数据,所述菜单或元数据随后可以与本公开内容的菜单系统或者任何其他菜单系统一起使用。这些标记或特征类似于2D或3D条形码、表情符或者可以被辨识成触发的任何对象或特征。所述触发可以被用来解锁某些被锁定的菜单或列表以用于特殊访问。所述触发还可以被用于调整触发,从而导致系统、装置和/或界面调用特定的和预定义的菜单、对象、程序、设备或者处于所述系统、装置和/或界面的控制下的其他特定的或预定义的项目。
使用团块数据的系统、装置和/或界面以及方法
在某些实施例中,本公开内容的系统、装置和/或界面及其实施方法包括使用团块数据作为移动数据的来源以用于分析、确定和预测移动和移动属性,其中移动被理解成意味着通过一个运动传感器、多个运动传感器或者运动传感器的阵列感测满足阈值运动度量的移动,以用于基于运动的对象控制、操纵、激活和/或调节。团块数据包括表示已通过(多个)邻近和/或运动传感器的活跃区域、体积或区块内的存在和/或移动而被激活的传感器单元的未经处理的运动传感器数据。在包括大量触摸单元的触摸屏的情况下,通过触摸屏幕产生未经处理的输出数据,其对应于通过与屏幕的接触区域所激活的所有触摸单元并且包括团块数据,所述团块数据对应于触摸屏或其他压力传感器或场密度传感器或者包括可激活像素的传感器或者包括在超出与该单元相关联的阈值数值时被激活的单元的任何其他传感器(压力、强度、颜色、场强度、重量等等)。涉及触摸单元的术语“激活”意味着接触区域内的触摸单元产生高于阈值水平的触摸单元输出,所述阈值水平或者由制造商设定或者由用户设定。对于其他类型的传感器,传感器的活跃感测区块(例如对应于2D设备的区域、对应于3D设备的体积)内的移动将激活所述区块内的某一区域和/或体积。这些区域和体积表示对应于每一种类型的设备的“团块”数据,并且其所包括的单元具有超出用于激活所述单元的某一阈值数值的数值。对于基于图像的传感器,激活单元通常将包括具有像素数值的阈值数值的像素。对于电容式传感器或电感式传感器或电磁场(EMF)传感器,团块数据将涉及对应于满足针对所述传感器的阈值输出的传感器单元的区域或体积。
团块数据(激活单元区域或体积)将随着任何种类的接触、压力和/或移动中的改变而改变。团块数据表示用以控制、操纵、分析、确定和预测移动和移动属性的一种附加类型的数据。团块数据可以被用来识别特定的手指,在不同手指之间进行区别,确定手指指向,确定压力分布中的差异,确定倾斜指向,以及/或者确定团块数据中的任何其他类型的改变。
在生物动力学应用中,添加有或者未添加经过过滤的数据(接触中心、压力中心或者其他类型的形心数据)的团块数据可以被用来创建相称的(proportionate)和/或唯一的用户标识符。不仅团块和形心数据可以是生物计量学标识符,而且二者之间的关系是更加唯一的生物计量学或者电生物计量学(electro-biometric)标识符。本公开内容的系统、装置和/或界面还可以包括感测、确定和分析团块数据以及确定和分析经过过滤的数据或形心数据,以用于分析、确定和预测移动和移动属性,以供使用在本公开内容的基于运动的对象控制、操纵、激活和/或调节中。举例来说,用户把拇指放在电话触摸屏上。通过这样做,团块数据可以被用来识别正在使用哪一根拇指或者证实该拇指属于特定用户。如果触摸屏还可以包括温度传感器,则团块数据可以不仅被用来单独地或者与其他移动数据相结合来区别和识别特定的拇指(或者手指、虹膜、视网膜、手掌等等),这是基于团块数据或输出信号的形状,以及团块数据或者团块数据和形心数据可能指示或指向的方向。这种技术可以被用来使用枢轴转动移动对比使用形心的移动来直接转动旋钮,其中拇指被表示成一点,并且形心从一点到另一点的移动被用来确定方向。通过使用团块数据允许用户简单地通过枢轴转动拇指对本公开内容的系统和方法进行以下操作:选择区块,控制特性,以及/或者选择、滚动、激活,以及/或者这些操作的任意组合。随后在某一方向上移动拇指可以被用来激活不同的命令,其中团块数据移动可以被用来强调、确认、增强以及/或者利用形心数据。举例来说,通过在与触摸屏接触的同时枢轴转动拇指所得到的团块数据可以被用来确定手指指向和/或倾斜,从而允许在(例如)对象的群组或场之间作出选择,或者选择经过数据或对象的页面。一旦用户滚动并且选择了特定的群组或场,进一步的移动导致控制、指令、命令、特性等等的一个或多个不同的集合。所述系统和方法可以使用团块数据来“看到”或预期移动特性(方向、压力分布、温度分布、速度(线性和角度)、矢量速度(线性和角度)、加速度(线性和角度)等等)。所述系统和方法可以使用团块数据、形心数据或者两种类型的数据的组合来分析、确定和/或预测或预期用户移动。还可以使用从团块数据到形心数据的过渡来看到或预期用户意图。举例来说,随着用户扭转或枢轴转动拇指并且随后开始朝向某一对象、区块或位置移动,拇指可以开始在抬起运动中滚动,朝向拇指的尖部滚起,从而在屏幕上提供更少的式样和更多的典型形心触摸式样。这一过渡不仅可以通过x/y平面中的移动而提供用户意图,而且还可以提供可以被用于命令和其他功能的形状区别。拇指或手指的摇动(rocking)(从平坦指向摇动到尖部指向)还可以提供z轴特性或功能。这还可以与摇动同时的移动相组合。在3D环境中,可以使用团块和/或形心数据(连同例如方向、压力分布、温度分布等其他移动特性),但是取代团块数据,可以按照与团块和/或形心数据相同的方式使用任何环境中的3D中的像素化或者沿着(多个)轴的体积差异(通过任何方式感测)来分析、确定预期和/或预测用户意图。这些方面还可以被看到或者用作影响决定的“场”。在这些实施例中,温度可以被用于若干不同的目的。首先,温度数据可以被用来确保运动传感器正在检测活人。其次,温度传感器可以被用作确保在一个或多个传感器的活跃区块内感测到的用户确实是有权使用特定设备上的系统和方法的用户。当然,温度数据不是传感器可以确定的唯一数据。传感器还可以捕获其他特定于用户的数据。
在某些实施例中,本公开内容的系统和方法包括远程控制全息图或者与之进行交互。通过与场平行地枢轴转动手可以提供一项控制,而改变手的角度则可以被感知为“团块”数据改变、去到形心数据的过渡或者其组合。这一过渡还可以在显示上被表示成从团块到点,并且所述过渡可以被示出为具有或不具有梯度特性的线或矢量。通过把这些放入到全息图实例中、从团块数据改变到形心数据并且看到矢量以及沿着所述矢量的体积或区域的改变梯度可以被用来在全息图中改变(例如)鞋的显示,从而使得鞋可以根据用户的移动而改变尺寸和方向。这种方法可以按照任何可设想到的预定或动态可控的方式来实施,其中特性可以是意图、特性、选择、对象、命令或设计当中的任何单项或组合。这些移动和/或移动特性可以被同时地或顺序地使用在任何环境中并且可以被整体或部分地使用,并且包括基于所感知到的质量、压力、温度、体积、区域和/或影响的改变的特性梯度。这些改变可以通过任何传感器或软件再现能力来感测和定义(软甲可以被用来复制移动或移动的效果)。这还允许2D传感器提供3D控制。所有这些还可以被用来确定唯一的生物动力学标识符并且与这些特性相组合。
在某些实施例中,本公开内容的系统和方法包括使用团块数据对菜单进行适当地指向,其中团块数据包括基于在阈值激活以上被激活的若干感测单元的未经处理的传感器输出数据。例如在触摸屏的情况下,当用户用指尖或手指的其他部位触摸屏幕时,传感器生成包括所有被激活的感测单元(基于某一阈值激活数值)的数据的团块。所述数据通常被用来确定接触的形心,并且该数值随后被用于进一步的处理。但是团块数据不仅可以被用来区别不同的用户,而且还可以被用来预测或预期用户移动以及确定移动和移动中的改变。通过知道哪一根拇指或手指位于屏幕的什么区域处,在触摸或进入到传感器区域时所显示的菜单可以被定位来提供最佳的试探法或者基于触摸区域和/或用户移动的定位。举例来说,将右手拇指触摸电话屏幕的下方象限中的右侧可以示意所述系统或方法沿着拇指正上方的半径显示菜单,而拇指在触摸屏幕中部时的角度则可以导致显示辐射状菜单,其中如果拇指是向上指向对角则菜单处于拇指正下方,或者如果拇指是指向左下角则菜单处于拇指正上方。
在某些实施例中,本公开内容的系统和方法包括:在触摸屏幕的上方部分中出现一个菜单,并且在触摸屏幕的不同部分(比如屏幕的下方部分)时出现不同的菜单。如果手指是平坦的并且在触摸屏幕时没有角度,则可以激活不同的菜单。因此,手指的位置、手指角度、手指方向、手指压力分布和/或其组合可以导致不同的菜单集合、对象集合、特性集合、命令集合等等以及/或者所述各项的混合或组合,以用于基于移动数据的进一步处理。当然,所有这些概念可以被同等地应用于真实、增强和/或虚拟的2D、3D、4D或其他多维环境。
使用面包屑规程的系统和方法
在某些实施例中,本公开内容的系统和方法包括使用“面包屑”或“习惯”来确定一个传感器、多个传感器和/或传感器阵列的活跃区块或场中的移动的方向。当用户朝向电话的屏幕上的所期望的位置移动时,特别是跨越屏幕发生触摸事件,(多个)传感器将开始“看到”与用户的移动相关联的数据,但不一定是以连续的方式看到。相反,(多个)传感器将看到具有不断增大的频率、强度和/或覆盖面积的一系列点,并且将开始被感测为用户移动来到更靠近与所期望的屏幕位置“接触”。该数据可以被用来确定速度和方向,所述速度和方向又可以被用来预测或预期用户意图,也就是哪些对象或特性是活跃的以用于选择特性,而不是对象首先是你已提交的另一项应用的情况。这样提供了一个验证方面,从而可以在物理确认发生(触摸事件)之前选择对象和/或特性,或者导致对象和/或特性在确认性触摸或动作发生之前开始作出响应(利用颜色改变、声音、触觉反馈、形状、动画等等作出响应)。通过这种方式,移动和随后的触摸还可以表示唯一的签名或标识符。应当认识到,面包屑或习惯可以是正面的特性和/或反应或者负面的特性和/或反应。
在某些实施例中,本公开内容的系统和方法包括由用户实施移动或手势,随后通过口头方式标识或确认什么特性、命令或功能将与所述移动或手势相关联。这可以被同时地或顺序地实施。同样地,在本公开内容的上下文中,“同时”意味着并发地发生的事件或者在一个“较短”的时间段内快速相继发生的事件(例如较短的时间段是在大约1ps到大约1s之间),“顺序地”意味着动作在一个“较长”的时间段内顺序地发生(例如较长的时间段是大约1s到大约10s之间)。举例来说,用户在向上的方向上移动,同时说出“音量提高”导致控制并且提高声音的音量。用户可以替换地说出“低音”或“低音提高”,并且低音强度增大而不是音量。
在某些实施例中,前面描述的方面可以被用作安全标识符,其中移动和语音命令可以被用来解锁已锁定的菜单、对象和/或特性,或者充当用于激活菜单、对象和/或特性的唯一标识符。通过把右手指从左向右移动并且说出“打开”,已锁定的电话可以被解锁,或者可以发生任何其他命令或功能。这些改变可以是在一个较长的时间段内收集到的顺序改变以及/或者在一个较短的时间段内收集到的同时改变,从而允许用户识别、验证和/或认证的进一步细化。这还可以包括多次触摸或多个所感测到的点、多个单词或命令或者这些的任意组合。取代单词,可以使用声音、音符或者任何可听的或其他种类的波形。触摸屏幕上的一个区块或位置并且同时说出所期望的特性、命令或者任何其他所期望的选择是可以使用这种方法的另一种方式。这种方法的另一个益处是快速地关联命令或特性(滚动、选择、启动或特性)的能力,从而以容易的方式训练系统或界面。
这种方法的另一个实例是使用屏幕上的一个触摸区域。通过触摸屏幕的右上象限(或者在该方向上移动)并且说出“旅游”,系统可以被训练或编程为使得该触摸可以显示对象或其他特性的旅游菜单。通过在右下象限中触摸或移动(或者朝向右下象限移动)并且说出“食物”,可以显示餐厅的菜单。此后,触摸或者朝向相关联的位置或区域移动可以提供与朝向不同区域移动或触摸所不同的菜单、选择或特性。这在例如增强或虚拟现实环境之类的3D环境中也是成立的,其中可以通过实施所期望的手势或运动并且说出(同时地或顺序地)相关联的特性和/或选择是什么而把手势或移动与控制、选择、菜单项目或特性相关联。
在某些实施例中,本公开内容的系统和方法包括把对象定位在其之前可能所处的某一点处,或者把3D摄影机定位在结构中,从而使其与墙壁或者空间中的其他对象具有最优距离。这样做的一种方式是取得电话(或者具有传感器的任何设备)并且触摸墙壁或者来到足够靠近,从而被视为(例如)与电话的阈值事件以及某种触发(触摸电话上的控制对象或者说出“开始”或其他种类的触发命令,并且开始走向房间中部的所感知的位置)。电话显示从被触摸的墙壁到你的位置的视觉“弦(chord)”或矢量。这可以通过使用电话的罗盘传感器以及由电话的其他传感器测量的脚步(比如电话的加速度计数据中的改变)来实现。通过对于每一面墙重复这一操作,并且随着用户移动,可以确定并且在屏幕上看到这些矢量的交叉。通过运行空间算法,可以确定房间的中心部分。随后可以使用不同的墙壁点重复这一操作以便把中心定位在后来的某一点处。通过还使用与每一面墙的距离或者使用角落或特定高度处的墙壁,准确度被大大增强。这一“拖曳”矢量集合的能力使得用户很容易通过使用显示器、处理器和传感器组合移动和定位其希望重建或找到的点。可以确定中心点或区域中心以及先前的一点。
使用在本发明中的适当组件
运动传感器
适当的运动传感器包括而不限于光学传感器、声学传感器、热传感器、光声传感器、波形传感器、像素区别器(pixel differentiator)、或者能够感测移动或移动中的改变的任何其他传感器或传感器组合、或者所述各项的混合和组合。适当的运动感测装置包括而不限于任何形式的运动传感器,比如数字摄影机、光学扫描仪、光学滚珠设备、触摸板、电感式衬垫、电容式衬垫、全息设备、激光跟踪设备、热设备、电磁场(EMF)传感器、波形传感器,能够感测运动、EMF中的改变、波形中的改变等等的任何其他设备或者此类设备的阵列,或者所述各项的混合和组合。传感器可以是数字的、模拟的或者数字和模拟的组合。运动传感器可以是触摸板、无触摸板、触摸传感器、无触摸传感器、电感式传感器、电容式传感器、光学传感器、声学传感器、热传感器、光声传感器、电磁场(EMF)传感器、应变计、加速度计、脉冲或波形传感器、感测移动或移动中的改变的任何其他传感器或者所述各项的混合和组合。传感器可以是数字的、模拟的或者数字和模拟的组合或者任何其他类型。对于摄影机系统,所述系统可以在镜头或多个镜头前方的区块、区域或体积内感测运动。光学传感器包括使用电磁波来检测活跃区块内的移动或运动的任何传感器。光学传感器可以操作在电磁频谱的任何区段中,包括而不限于射频(RF)、微波、近红外(IR)、IR、远IR、可见、紫外(UV)或者所述各项的混合和组合。示例性的光学传感器包括而不限于摄影机系统,所述系统可以感测镜头前方的区块、区域或体积内的运动。声学传感器可以在整个声波范围上操作,包括人类音频范围、动物音频范围、能够由设备感测到的其他范围或者所述各项的混合和组合。EMF传感器可以被使用并且操作在电磁频谱的任何频率范围内,或者是能够辨别具有给定的电磁场(EMF)、任何其他场或者其组合的运动的任何波形或场感测设备。此外,(多个)LCD屏幕、其他屏幕和/或显示器可以被合并来识别哪些设备被选择或温度设定等等。此外,所述界面可以投影虚拟控制表面并且感测投影图像内的运动,并且基于所感测到的运动来调用动作。与本发明的界面相关联的运动传感器还可以是使用声谱的任何可接受区段的声学运动传感器。可以使用一定体积的液体或气体,用户的身体部位或者处于用户的控制下的对象可以被浸入其中,与所述液体或气体相关联的传感器可以辨别运动。可以使用能够辨别横断面、纵向、脉冲、压缩或者任何其他波形中的差异的任何传感器来辨别运动,并且可以使用在移动的同时测量与运动或接触有关的引力、磁性、电磁或电气改变的任何传感器(电阻式或电容式屏幕)。当然,所述界面可以包括任何已知的或者尚未发明的运动传感器的混合或组合。运动传感器可以和显示器、键盘、触摸板、无触摸板、任何类型的传感器、或者与计算机、笔记本计算机或绘图平板电脑或者任何移动或静止设备相关联的其他设备相结合来使用。
适当的运动感测装置包括而不限于任何形式的运动传感器,比如数字摄影机、光学扫描仪、光学滚珠设备、触摸板、电感式衬垫、电容式衬垫、全息设备、激光跟踪设备、热设备、EMF传感器、波形传感器、MEMS传感器,能够感测运动、EMF中的改变、波形中的改变等等的任何其他设备或者此类设备的阵列,或者所述各项的混合或组合。其他运动传感器感测压力中的改变、应力和应变中的改变(应变计)、通过测量表面积或表面积覆盖中的改变的传感器所测量的表面覆盖中的改变、通过加速度计所测量的加速度中的改变,或者测量力、压力、矢量速度、体积、引力、加速度中的改变的任何其他传感器,任何其他力传感器,或者所述各项的混合和组合。
可控对象
适当的物理机械、电机械、磁性、电磁、电气或电子设备、硬件设备、电器、生物计量学设备、汽车设备、VR对象、AR对象、MR对象以及/或者可以由处理单元控制的任何其他真实世界设备包括而不限于:具有可以通过开关、操纵杆、操纵杆控制器或类似类型的控制器或者软件程序或对象来控制的特性的任何电气和/或硬件设备或电器。这样的特性的示例性实例包括而不限于ON(开启)、OFF(关闭)、强度和/或幅度、阻抗、电容、电感、软件特性、软件程序或对象的列表或子菜单、触觉或者设备的任何其他可控电气和/或电机械功能和/或特性。设备的示例性实例包括而不限于:环境控制、建筑物系统和控制、例如室内和/或室外灯或灯具之类的照明设备、摄影机、烤箱(传统式、对流式、微波式和/或其他)、洗碗机、炉灶、音响系统、移动设备、显示系统(TV、VCR、DVD、有线电视盒、卫星电视盒和/或其他)、警报系统、控制系统、空调系统(空调和暖气)、能量管理系统、医疗设备、车辆、机器人、机器人控制系统、UAV、装备和机械控制系统、冷热供水设备、空调系统、加热系统、燃料递送系统、能量管理系统、产品递送系统、通风系统、空气处置系统、计算机和计算机系统、化学工厂控制系统、制造工厂控制系统、计算机操作系统和其他软件系统、程序、例程、对象和/或单元、远程控制系统等等、虚拟和增强现实系统、全息图或者所述各项的混合或组合。
软件系统
适合通过本发明的界面来控制的适当的软件系统、软件产品和/或软件对象包括而不限于具有安装在其上的单个或多个软件产品的任何一个或多个模拟或数字处理单元,其中每一个软件产品具有与之相关联的一项或更多项可调节特性,或者具有一项或更多项可调节特性、菜单、列表或者其他功能或显示输出的单个软件程序或系统。这样的软件产品的示例性实例包括而不限于操作系统、图形系统、字处理器系统、商务系统、在线销售、在线销售系统、采购和商务交易系统、数据库、软件程序和应用、互联网浏览器、会计系统、军事系统、控制系统等等或者所述各项的混合或组合。软件对象通常是指可以由至少一个处理单元控制的软件系统或产品内的所有组件。
处理单元
用在本发明中的适当的处理单元包括而不限于数字处理单元(DPU)、模拟处理单元(APU)、可以在处理单元的控制下接收运动传感器输出并且生成用于对象的命令和/或控制功能的任何其他技术或者所述各项的混合和组合。
适当的数字处理单元(DPU)包括而不限于能够接受来自多个设备的输入并且把至少其中一些输入转换成输出的任何数字处理单元,其中所述输出被设计成选择和/或控制其中一个或更多设备的特性。这样的DPU的示例性实例包括而不限于由Intel、Motorola、Ericsson、HP、Samsung、Hitachi、NRC、Applied Materials、AMD、Cyrix、Sun Microsystem、Philips、National Semiconductor、Qualcomm或者任何其他微处理器或微控制器制造商所制造的微处理器、微控制器等等。
适当的模拟处理单元(APU)包括而不限于能够接受来自多个设备的输入并且把至少其中一些输入转换成输出的任何模拟处理单元,其中所述输出被设计成控制其中一个或更多设备的特性。这样的模拟设备可以从例如Analog Devices Inc.之类的制造商获得。
用户反馈单元
适当的用户反馈单元包括而不限于阴极射线管、液晶显示器、发光二极管显示器、有机发光二极管显示器、等离子显示器、触摸屏、触敏输入/输出设备、音频输入/输出设备、视听输入/输出设备、键盘输入设备、鼠标输入设备、允许用户接收计算机生成的输出信号并且产生计算机输入信号的任何其他输入和/或输出设备。
附图的详细描述
第一方法和系统实施例
现在参照图1A,总体上由100标示的显示器被示出为包括显示区域102。显示区域102处于休眠状态或睡眠状态或不活跃状态。只有通过一个或多个运动传感器的活跃区块内的任何身体部位的移动才会改变该状态。对于并非触摸激活的运动传感器,比如摄影机、IR传感器、超声传感器或者能够检测活跃区块内的运动的任何其他类型的运动传感器,运动可以是用户、给定的用户身体部位或用户身体部位的组合或者代表用户或在用户的控制下采取动作的对象在活跃区块内的任何移动。在触摸屏的情况下,运动将是与触摸屏或者设备或对象的其他活跃区域的接触以及其上的运动,也就是触摸、滑动等等。
现在参照图1B,一旦被激活,显示区域102显示选择对象104以及围绕选择对象分布在弧形108中的多个可选对象106a-y。参照图1C,选择对象104被向上并且向左移动。该运动将导致与运动方向最为对准的可选对象106被朝向选择对象牵引。参照图1D,四个潜在的选择对象106f-i朝向选择对象移动并且增大尺寸。朝向潜在的选择对象的运动越快,其朝向选择对象的移动就可以越快,并且其尺寸增大就可以越快。运动当前被导向不适于确定将被选择的确切对象的方向。参照图1E,随着运动继续,解析出可能的可选对象,并且例如对象106i之类的对象被返回到其先前的位置。通过把选择对象104朝向可选对象106g移动并且把选择对象104带到与可选对象106g接触或者带入阈值事件,其他对象106f和106h返回其原始位置,并且106g以某种方式被突出表现,在这里是用更粗的线示出,正如在图1F中所示出的那样。一旦选择对象104与可选对象106可选对象106g发生接触或者来到阈值事件中,选择对象104合并到可选对象106g中,所有其他可选对象106被从显示区域102中移除,并且合并后的选择对象104和所选择的对象106g可以被居中在显示区域102中,正如图1G中所示出的那样。如果所选择的对象106g包括子对象,则显示区域102将同时居中所选择的对象106g并且显示围绕合并后的选择对象104和所选择的对象106g分布的子对象110a-f,正如在图1H中所示出的那样。
现在参照图1I,选择对象104在朝向两个可能的子对象110b-c的方向上被移出所选择的对象106g,所述子对象110b-c朝向选择对象104移动并且可以增大尺寸。参照图1J,选择对象104被朝向对象110e移动离开子对象110b-c。参照图1K,选择对象104被移动到与子对象110e接触,从而通过把选择对象104合并到所选择的子对象110e中而选择并激活子对象110e,正如图1L中所示出的那样。如果104移动并且停止,则子对象还可以移动到对象的位置,从而允许子对象进行余下的运动。
现在参照图1M,如果所选择的对象106g是直接可用的,则对于可选对象106g的选择同时激活对象106g。
第二方法和系统实施例
现在参照图2A,总体上由200标示的显示器被示出为包括显示区域202。显示区域202处于休眠状态或睡眠状态或不活跃状态。只有通过运动传感器的活跃区块内的运动才会改变该状态。运动可以是活跃区块内的任何移动。在触摸屏的情况下,运动可以是接触,比如触摸、滑动等等。参照图2B,一旦被激活,显示区域202显示选择对象204以及围绕选择对象分布在弧形208中的多个可选对象206a-d。
参照图2C,选择对象204被朝向可选对象206a移动,所述可选对象206a可以朝向选择对象204移动,从而增大其尺寸并且同时显示相关联的子对象210a&b。举例来说,如果对象206a是摄影机并且子对象210a&b是拍摄照片并且记录视频序列的命令。随着选择对象202被进一步朝向可选对象206a移动并且与可选对象206a接触或者进入阈值事件,可选对象206a可以连同其子对象210a&b一起移动得更靠近并且变得更大,正如图2D中所示出的那样。参照图2E,选择对象204与可选对象206a接触,其他对象206b-d被移除或者淡化消失,所选择的对象206a及其相关联的子对象210a&b居中并且子对象分布散开,从而使得子对象可以更容易被选择,正如图2F中所示出的那样。这可以或者可以不被居中在显示区域中。
现在参照图2G,选择对象204被从其已合并状态朝向子对象210b移动,从而与子对象210b发生接触或者进入阈值事件,所述子对象210b被朝向选择对象204吸引并且增大尺寸。参照图2H,子对象210b被选择,正如通过选择对象204与子对象210b的合并所表现出的那样,并且同时激活子对象210b。
现在参照图2I,选择对象204被从其已合并状态朝向子对象210a移动,从而与子对象210a发生接触或者进入阈值事件,所述子对象210a被朝向选择对象204吸引并且增大尺寸。参照图2J,子对象210a被选择,正如通过选择对象204与子对象210a的合并所表现出的那样,并且同时激活子对象210a。
现在参照图2K,在选择了可选对象206a之后,用户决定中止这一选择并且在离开任何其他对象的方向上从其已合并状态移动选择对象204,从而导致把显示202重置回到图2B的显示配置,正如图2L中所示出的那样。
现在参照图2M,选择对象204被朝向可选对象206b移动,所述可选对象206b朝向选择对象204移动,从而增大其尺寸并且同时显示相关联的子对象212a-c。举例来说,如果对象206b是电话,并且子对象210a-c是激活语音信箱、打开通讯录以及打开电话拨号盘。随着选择对象204被进一步朝向可选对象206b移动并且与之接触,可选对象206b连同其子对象212a-c一起移动得更靠近并且变得更大,正如图2N中所示出的那样。选择对象204与可选对象206b接触,其他对象206b-d被移除或者淡化消失,所选择的对象206a及其相关联的子对象212a-c居中并且子对象分布散开,从而使得子对象可以更容易被选择,正如图2O中所示出的那样。
现在参照图2P,选择对象204被从其已合并状态朝向子对象212a移动,从而与子对象212a发生接触,所述子对象212a被朝向选择对象204吸引并且增大尺寸,并且其线宽被增大。参照图2Q,子对象212a被选择,正如通过选择对象204与子对象212a的合并所表现出的那样,并且同时激活子对象212a。
现在参照图2R,选择对象204被朝向可选对象206c移动,所述可选对象206c朝向选择对象204移动,从而增大其尺寸并且同时显示相关联的子对象214a-c。举例来说,如果对象206c是万维网,并且子对象210a-c是打开收藏夹、打开最近访问的网站以及打开经常访问的网站。随着选择对象204被进一步朝向可选对象206c移动并且与之接触或者进入阈值事件,可选对象206c连同其子对象214a-c一起移动得更靠近并且变得更大,正如图2S中所示出的那样。选择对象204与可选对象206c接触,其他对象206b-d被移除或者淡化消失,所选择的对象206c及其相关联的子对象214a-c居中并且子对象分布散开,从而使得子对象可以更容易被选择,正如图2T中所示出的那样。
现在参照图2U,选择对象204被朝向可选对象206d移动,所述可选对象206d朝向选择对象204移动,从而增大其尺寸。举例来说,如果对象206d是推特(twitter),则推特被打开,也就是说对象被激活。随着选择对象204被进一步朝向可选对象206d移动并且与之接触或者进入阈值事件,可选对象206d移动得更靠近并且变得更大,正如图2V中所示出的那样。选择对象204与可选对象206d接触,其他对象被移除或者淡化消失,并且所选择的对象206d被激活,正如图2T中所示出的那样。
第三方法和系统实施例
现在参照图3A,总体上由300标示的显示器被示出为包括显示区域302。显示区域302处于休眠状态或睡眠状态或未激活状态。只有通过运动传感器的活跃区块内的运动才会改变该状态。运动可以是活跃区块内的任何移动。在触摸屏的情况下,运动可以是接触,比如触摸、滑动等等。参照图3B,一旦被激活,与界面相关联的运动传感器的活跃区块内的运动激活系统,并且显示区域302包括虚拟形心304(所述形心是处理软件中的一个对象并且不出现在显示器上,但是所有后续运动都是相对于该形心定义的)。在显示区域中,多个可选对象集群306、310、314、318、322和326被围绕虚拟形心304分布。可选对象集群306、310、314、318、322和326分别包括可选集群对象308、312、316、320、324和328。参照图3C,集群308包括对象308a-e;集群312包括对象312a-c;集群316包括316a-f;集群320包括320a-f;集群324是可选对象;并且集群328包括328a-d。
现在参照图3D,与界面相关联的运动传感器的活跃区块内的身体部位(比如用户的眼睛、手、脚等等)的运动在显示区域中被显示为虚拟有向线段,但是所述有向线段并不被实际显示。所感测到的运动被分析,并且界面预测与例如运动的方向、速度和/或运动的加速度之类的运动特点最为对准的对象。参照图3E,界面的软件的预测部分确定集群310是最有可能将被选择的集群,并且其相关联的可选集群对象312a-c也被显示。界面随后导致对象312a-c被拉向形心304(或者朝向充当选择对象的用户的(两只)眼睛或(多个)身体部位的相对位置)并且增大尺寸,正如图3F中所示出的那样。图3F还示出了运动传感器在增强方向上感测到的持续运动。参照图3G,增强方向允许附加的区分,从而使得现在仅有对象312b和312c被显示、吸引并且间隔开,以用于更好地区分。
现在参照图3H,由运动传感器感测到的运动的新的增强方向允许选择、居中所选择的对象312c并且激活所选择的对象312c,正如图3I中所示出的那样。
在对于集群310的预测选择以及对于对象312c的最终选择中,可以通过第二身体部位的运动来确认这些选择。因此,如果眼睛运动被用作主要运动指标,则第二身体部位的运动可以被用作对于选择的确认,比如点头、眨眼、手的移动或者任何其他身体部位的运动。类似地,可以利用保持来开始把一个或多个可选对象带向用户的吸引处理。正如图1A-M和图2A-W的界面中那样,离开可选对象的运动把显示返回到先前的选择层级。持续的离开运动继续这一向上钻取,直到显示回到顶层。在某些实施例中,可以通过被用来激活特定集群、对象或对象群组的某些预定手势来选择集群。在其他实施例中,把手指抬起或者移出激活平面、区域或体积将把对象重置到预定位置和状态。
第四方法和系统实施例
现在参照图4A-D,总体上由400标示的显示器被示出为包括显示区域402。显示区域402被示出为包括选择对象404和可选对象406。随着选择对象404朝向可选对象406移动,两个对象404和406朝向彼此移动,并且在选择对象404的方向上在可选对象406的前方生成活跃区域408。随着移动继续,活跃区域408的尺寸增大,并且选择的确定性提高,正如通过活跃区域408的不断加深的颜色所示出的那样。最后,通过合并两个对象404和406而确认选择。
现在参照图5A-Q,针对具有包括主要可选“岛(isle)”的虚拟商店的情境示出了本发明的处理。虽然虚拟商店被表示在2D中,但是应当清楚的是,3D和更高维度的类似情况同样被允许,其中高维度将由性质是3D但是通过可选2D对象呈现的对象来构造。4D系统可以通过在连续或离散的基础上改变颜色或改变某种其他特性的3D可选对象来呈现。
第五方法和系统实施例
现在参照图5A&B,总体上由500标示的显示器被示出为包括显示区域502,并且被示出为处于其睡眠或不活跃状态。一旦通过触摸、活跃区块内的运动或者通过另一种激活方法(比如声音、语音、拍手等等)被激活,显示区域502被示出为包括选择对象504(其可以是可见的或不可见的——在这里是不可见的)和多个可选对象或岛506a-i。
参照图5C-E,选择对象504朝向显示502左侧的移动导致岛506a-d扩大并且朝向选择对象504移动,同时导致岛506e-i缩小并且离开选择对象504移动。虽然这些图示出了与移动方向对准从而扩大并且朝向选择对象504移动的可选对象以及不与移动方向对准从而缩小并且离开选择对象504移动的可选对象,但是每一个对象集合还可以随着其扩大而被突出表现或者随着其后退而被淡化。此外,移动的速度可以导致扩大和朝向所对准的对象的移动的增强,从而使其看起来朝向选择对象504加速,同时增强未对准的对象的移动离开和淡化。随着移动继续,所对准的岛506a-d之间的区分变得明晰,直到所述移动允许足够的区分以选择岛506b,所述岛506b可以朝向选择对象504移动和/或加速并且在这里被示出为尺寸扩大,同时未对准的则减小尺寸并且移动离开。当然,岛506b可以被突出表现为岛506a、506c和506d。应当认识到,所有这些选择区分都平滑地发生,而不是像这些图中所表示的那样不连贯。此外,还可以从数学和矢量分析框架并且/或者基于特定于用户的移动特点和先前的选择历史来预测区分。基于数学和矢量分析以及用户历史,可预测性的水平可以使得选择立即得多。此外,随着界面关于用户的优选项和历史学习到越来越多,界面在激活时可以带出更少的选择,或者可以默认到最有可能的选择。
参照图5F-H,一旦界面确定了目标岛(在这里是岛506b),这或者是通过选择对象504与岛506b的直接接触、通过选择对象504与岛506b的邻近接触、通过对于岛506b的预测选择或者通过由于选择对象504朝向岛506b移动而触发的阈值事件,显示502打开与岛506b相关联的可选对象,包括子岛508a-i。在该实施例中,直到作出了对于岛506b的选择子岛508a-i才变为可见,但是在其他实施例中,随着对于岛506b的选择变得更加确定并且其他岛被缩小并且淡化消失,显示502可以开始同时显示子岛508a-i或者几层子岛(或者子对象或子菜单),从而允许移动开始在子岛508a-i之间作出区分。向显示502的右侧移动导致子岛508f-i被突出表现(在本例中是加深),但是不会导致朝向选择对象504移动或者变大,同时导致子岛508a-e点线化并且淡化而不是移动离开选择对象504并且淡化。附加的移动允许区分508f以供选择,正如通过508f的持续加深以及508a-e的持续淡化和508g-i的淡化开始所表现出的那样。在某些实施例中,没有实施引力效应。
参照图5I-K,一旦界面确定了目标岛(在这里是子岛508f),这或者是通过选择对象504与子岛508f的直接接触、通过选择对象504与子岛508f的邻近接触、通过对于子岛508f的预测选择或者通过由于选择对象504朝向子岛508f移动而触发的阈值事件,显示502打开与岛508f相关联的可选对象,包括子子岛510a-n。在该实施例中,直到作出了对于子岛508f的选择子子岛510a-n才变为可见,但是在其他实施例中,随着对于子岛508f的选择变得更加确定并且其他子岛缩小并且淡化消失,显示502可以开始显示子子岛510a-n从而允许移动开始在子子岛510a-n之间作出区分。向显示502的左侧移动导致子子岛510d-g被突出表现(在本例中是加深),但是不会导致朝向选择对象504移动或者变大,同时导致子子岛510a-c和510h-n点线化并且淡化而不是移动离开选择对象504并且淡化。附加的移动导致子子岛510d-g扩大并且朝向选择对象504移动,子子岛510a-c和510h-n则移动离开选择对象504并且淡化。附加的移动还允许区分和选择子子岛510d。
参照图5L-P,一旦界面通过移动作出了确定,这或者是通过选择对象504与子子岛510d的直接接触、通过选择对象504与子子岛510d的邻近接触或者是通过对于岛510d的预测选择,显示502打开与子子岛510d相关联的可选对象,包括项目a-ge。在该实施例中,直到作出了对于子子岛510d的选择项目a-ge才变为可见,但是在其他实施例中,随着对于子子岛510d的选择变得更加确定并且其他子岛缩小并且淡化消失,显示502可以开始显示项目a-ge从而允许移动开始在项目a-ge之间作出区分。如图5M-P中所见,项目a-ge被分布在围绕选择对象504的标准网格式样上。当然,项目a-ge可以被分布在显示502中的任何式样中,比如围绕选择对象504的圆形或弧形分布。向显示502的左侧移动导致项目a-g、r-x、ai-ao和az-bf被突出表现(在本例中是加深)、扩大并且被拉向选择对象504,项目h-q、y-ah、ap-ay、bg-bp和bq-ge则从选择对象504后退并且被减小尺寸并且淡化。附加的移动允许区分项目a-g、r-x、ai-ao和az-bf,其中所述附加的移动细化针对项目c-f和t-w的潜在选择。接下来的移动允许选择项目c,从而导致选择对象504和项目c在显示502的中心处被合并。如图5A-P中所示,每一个层级的选择叠加到显示502上,从而作出选择。
在图5A-P中所描绘的方法适合于使用在其中所述界面是与商店(杂货店)零售商店、图书馆或者包括被归类到各个类别中的大量项目或对象的任何其他设施相关联的应用的一部分的任何设定中。简单地通过允许使用移动来浏览、购物、选择或者通过其他方式选择项目以供购买或使用而实施使用所述界面的应用。所述应用还可以与运行大量软件程序和大量数据库的计算机系统相关联,从而使得仅通过移动就将允许选择和激活软件程序、选择和激活数据库以及/或者提取和分析数据库内的数据,并且还可以适用于环境系统,比如机械、电气、管道、油气系统、安全系统、游戏系统以及其中存在选择的任何其他环境。
在例如移动智能电话的对象阵列中,直接触摸和抬离在当下打开应用(旧的技术而不是我们的技术),但是通过在某一对象上直接触摸(按照例如“保持”之类的指定方式)可以导致周围对象移动离开并且为与该对象有关的选择出现(通过辐射状、弧形或另一种方式)而腾出空间,其中所述选择带有例如“移动”和“打开”之类的菜单项目、将被激活的子菜单或子对象,或者直接控制可变的特性,或者进行滚动等等——不管与该项目相关联的是什么。通过在某一区域中触摸但是不直接在对象上触摸或者触摸并且立即开始移动将会调用前面所描述的选择处理。通过这种方式,可以为用户提供多种方式来访问相同的信息、对象或特性。
此外,软件可以被实施来使用前面所描述的任何、一些或所有方法、方面、技术等等。实际上,可以针对用户调整所述界面,从而使得特定的选择格式使用本发明的特定方面或特定方面的集合,而其他选择则使用其他方面或其他方面的集合。因此,可以针对用户调谐界面。此外,所述界面可以配备有学习算法,从而允许界面将其自身调谐到用户优选的移动和选择模式,从而使得界面变得与用户协调,从而允许改进选择预测、改进用户确认、改进用户功能性并且改进特定于用户的功能性。
电话号码选择
现在参照图6A,其中示出了通过与显示进行通信的运动传感器的运动而激活之前的显示。所述显示包括活跃对象AO、电话号码对象0-9、*和#的集合、退格对象BS和删除对象Del以及电话号码显示对象。
现在参照图6B-K,其中示出了导致选择特定电话号码的活跃对象AO的一系列移动。在图6A-G和图6I-K中,通过把活跃对象AO从一个数字移动到另一个数字而作出选择。图6H描绘出通过电话对象8的活跃区域中的定时保持而作出的数字选择。应当认识到,所述选择格式在选择处理期间同样可以使用可选电话对象朝向活跃对象的吸引。此外,电话对象可以被安排在不同的顺序或配置中。此外,对于盲用,所述系统可以在选择时说出数字,并且如果配置是固定的,则用户将能够通过表明可选对象及其相对布置的音频消息而在所述显示上移动活跃对象。
现在参照图6L-R,所述系统示出了删除所选号码的数字。参照图6L-M,其中示出了使用退格对象BS的两个实例。在第一实例中,活跃对象AO朝向退格对象BS的缓慢移动导致每次删除一个数字。通过把活跃对象AO保持在退格对象BS的活跃区块内,系统将持续逐个删除数字直到没有数字留下。在第二实例中,活跃对象AO朝向退格对象BS的快速移动导致在第一时刻删除多个数字。通过把活跃对象AO保持在退格对象BS的活跃区块内,系统将持续成块地删除数字直到没有数字留下。或者,如果运动是快速并且急动的,则系统将可以删除整个号码。参照图6N-R,其中示出了删除对象的使用。活跃对象被移动到号码显示区域中的将要删除的数字,朝向删除对象Del的运动删除该数字。随后,活跃对象朝向新电话号码的移动校正号码。应当认识到,这一相同的退格和删除规程可以被用于涉及将按顺序被选择并且被显示在显示对象中的对象的任何选择机制。如果显示对象由文字构成,则朝向退格对象BS的运动将被用来一次一个地删除对象的工作或总集、每次成组地删除或者一次删除整个对象列表,这完全取决于运动的速度、加速度、平滑性、急动性或其他特性或者所述各项的混合和组合。
现在参照图7,其中示出了被显示在显示窗口700上的本发明的动态环境的一个实施例。在窗口700内显示出光标或选择对象702和九个主对象704a-i。九个对象704a-i当中的每一个被不同地描绘,其中的差异可以被预先定义、由用户定义、基于用户交互知识生成或者基于用户和传感器位置和所感测到的传感器运动动态地生成。在该实施例中,主对象704a被描绘成六边形;主对象704b被描绘成圆形;主对象704c被描绘成椭圆形;主对象704d被描绘成正方形;主对象704e被描绘成八边形;主对象704f被描绘成三角形;主对象704g被描绘成菱形;主对象704h被描绘成矩形;并且主对象704i被描绘成五边形。除了主对象704a-i的形状差异之外,其中一些对象还被突出表现(灰度分级——其可以是不同的颜色),其中椭圆形对象是浅灰色,三角形对象是深灰色,八边形对象是更深的灰色。这一突出表现可以向用户表明对象的类型、对象的优先级或者对象的其他特性或者与之相关联的任何子对象或特性。
九个主对象当中的八个704a-f&704h-i包括围绕主对象显示的子对象。主对象704a具有5个子对象706a-e:菱形706a、深灰色三角形706b、六边形706c、圆形706d以及更深灰色的八边形706e。主对象704b具有4个子对象708a-d,第一圆形708a、正方形708b、浅灰色椭圆形708c以及第二圆形708d和八边形708e。主对象704c具有8个子对象710a-h,全部是浅灰色椭圆形。主对象704d具有3个子对象712a-c,全部是正方形。主对象704e具有4个子对象714a-d,全部是更深灰色的八边形。主对象704f具有6个子对象716a-f,菱形716a、圆形716b、深色三角形716c、更深色的八边形716d、正方形716e以及六边形716f。主对象704g不具有子对象并且表示可以被直接调用的项目,比如具有单一特性的程序或对象,其中所述对象一旦被选择可以通过用以增大或减小数值的方向上的运动而改变其特性数值。主对象704h具有3个子对象718a-c,全部是矩形。主对象704i具有4个子对象720a-d,全部是五边形。
除了主对象的形状和颜色之外,子对象可以具有与之相关联的其他区别特征。在该图中,子对象708a-d被示出在顺时针方向上围绕其主对象704b旋转,其中旋转可以表明子对象与真实或虚拟对象的循环特征有关,比如灯循环、声音循环或者任何其他循环的特征;当然,旋转的速率可以表明子对象的优先级,例如某一对象比其他对象旋转得更快。子对象710a-h和子对象714a-d被示出脉动进出(以一定速率变大和变小),其中子对象710a-h被示出以比子对象714a-d更快的速率脉动,这可以表明主对象704c具有比主对象704e更高的优先级。子对象712a-c被指向其主对象704d的左侧,从而可以表明应当从右侧接近主对象704d。子对象716a-f具有音频特性,比如啁啾声,其中716a以最高音量发出啁啾声,716f不发出啁啾声,并且啁啾声的音量在顺时针方向上减小。子对象718a-c和子对象720a-d被示出以给定的速率闪光,其中子对象718a-c以比子对象720a-d更快的速率闪光,这可以表明主对象704h具有比主对象704i更高的优先级。当然应当认识到,这些区别特性可以与任何或所有子对象相关联,从而使得每一个子对象可以具有任何其中一个或所有这些区别特征,并且可以被用来示出对象的不同状态。
现在参照图8A-E,其中示出了显示在显示窗口800上的本发明的动态环境的另一个实施例,其中对象和子对象以不同速率脉动,从而表现出主对象的优先级。在窗口800内显示出光标或选择对象802和八个主对象804a-h。八个对象804a-h当中的每一个被不同地描绘,其中的差异可以被预先定义、由用户定义、基于用户交互知识生成或者基于用户和传感器位置和所感测到的传感器运动动态地生成。
八个对象804a-h都具有同一形状,但是具有不同的颜色,在这里按照逆时针方式在从白色到黑色的灰度中示出。颜色编码可以表明对象的类型,比如软件程序、游戏、电子设备或者适合于由本发明的系统和方法控制的其他对象。
八个主对象804a-h当中的七个包括围绕主对象显示的子对象;所有子对象被示出为白色圆形,但是可以被颜色编码并且/或者具有不同的形状和尺寸或者在任何其他视觉或听觉方面是不同的。主对象804a不具有子对象。主对象804b具有1个子对象806。主对象804c具有2个子对象808a-b。主对象804d具有3个子对象810a-c。主对象804e具有4个子对象812a-d。主对象804f具有5个子对象814a-e。主对象804g具有6个子对象816a-f。主对象804g具有7个子对象818a-g。
除了主对象的颜色之外,子对象可以具有与之相关联的其他区别特征。在这些图中,所有子对象806、808a-b、810a-c、812a-d、814a-e、816a-f和818a-g被示出以不同的速率脉动进出,正如通过双箭头线的粗度所表明的那样。参照图8A,主对象804a以最快的速率脉动,子对象806以最慢的速率脉动,其中子对象808a-b、810a-c、812a-d、814a-e、816a-f和818a-g以在顺时针方向上前进的更快速率脉动。图8A表示主对象804a-h以及子对象806、808a-b、810a-c、812a-d、814a-e、816a-f和818a-g的t0配置。参照图8B,其中示出了主对象804a-h以及子对象806、808a-b、810a-c、812a-d、814a-e、816a-f和818a-g的t1配置,其中脉动速率顺时针旋转了一个主对象。参照图8C,其中示出了主对象804a-h以及子对象806、808a-b、810a-c、812a-d、814a-e、816a-f和818a-g的t2配置,其中脉动速率顺时针旋转了又一个主对象。参照图8D,其中示出了主对象804a-h以及子对象806、808a-b、810a-c、812a-d、814a-e、816a-f和818a-g的t6配置,其中脉动速率顺时针旋转了6个主对象。参照图8E,其中示出了主对象804a-h以及子对象806、808a-b、810a-c、812a-d、814a-e、816a-f和818a-g的t7配置,其中脉动速率顺时针旋转了七个主对象。
显而易见的是,配置t3-5没有被示出,但是将通过基于主对象的优先级脉动速率的顺时针移动而表征。这些时间配置t0-7可以表示经过八小时工作日或者被划分成脉动对象和子对象的8种不同配置的任何其他时间段的过程的主对象优先级。当然,脉动配置的数目以及对象和子对象的数目不受限制,并且将取决于确切的应用。
对于日历应用,时间配置可以表示日、月、年等等或者其组合。同样地,选择将是如在前面描述的选择格式中所阐述的那样。还应当认识到,所述前进不需要是顺时针或逆时针,而可以是循环的、随机的或者根据任何给定的格式,所述格式可以由用户定义,通过用户与本发明的系统的历史交互来定义,或者基于用户、对象和子对象的类型和传感器的位置以及/或者一天、一月、一年当中的时间等等而动态地定义。
现在参照图9A-D,其中示出了显示在显示窗口900上的本发明的动态环境的另一个实施例。在窗口900内显示出光标或选择对象902和八个主对象904a-h。八个对象904a-h当中的每一个被不同地描绘,其中的差异可以被预先定义、由用户定义、基于用户交互知识生成或者基于用户和传感器位置和所感测到的传感器运动动态地生成。在这些图中,对象和子对象可以具有不同的形状、尺寸、颜色、脉动速率、闪烁速率和啁啾速率。取决于正被感测的所有传感器的位置,取决于正被感测的传感器的性质,取决于正被感测的固定传感器的位置,并且/或者取决于正被感测的移动传感器的位置,各幅图从一种配置前进到另一种配置。
参照图9A,主对象904a-h被示出为正方形904a、菱形904b、圆形904c、八边形904d、椭圆形904e、六边形904f、三角形904g和矩形904h。主对象904a包括6个子对象906a-f,其在这里被示出为具有相同的颜色或色度并且以第一脉动速率脉动的圆形。主对象904b包括1个子对象908,其在这里被示出为以第一啁啾速率发出啁啾声的圆形。主对象904c包括6个子对象910a-f,其在这里被示出为圆形。四个子对象910a、910b、910d和910f具有第一颜色或色度;一个子对象910g具有第二颜色或色度;一个子对象910e具有第三颜色或色度;一个子对象910c具有第四颜色或色度;一个子对象910a以第二啁啾速率发出啁啾声;并且一个子对象910f以第一闪烁速率闪烁,其中各种颜色或色度是不同的。主对象904d包括4个子对象912a-d,其在这里被示出为圆形。三个子对象912a、912b和912d具有第一颜色或色度;一个子对象912c具有第二颜色或色度;一个子对象912b以第二闪烁速率闪烁;并且一个子对象912d以第三啁啾速率发出啁啾声。主对象904e包括2个子对象914a-b,其在这里被示出为具有相同的颜色或色度的圆形。子对象914a以第四啁啾速率发出啁啾声。主对象904f包括5个子对象916a-e,其具有五种不同形状和三种不同颜色或形状。三个子对象916a、916d和916e具有第一颜色或色度;一个子对象916b具有第二颜色或色度;并且一个子对象916d具有第三颜色或色度。主对象904g包括3个子对象918a-c,其在这里被示出为以第二脉动速率脉动的圆形。主对象904h不包括子对象,并且表示在选择时激活的对象,如果该对象具有单一可调节特性,则选择和激活还将提供对于所述特性的数值的直接控制,所述特性数值通过运动被改变。
参照图9B,主对象904a-h改变了配置,并且现在都被示出具有相同的颜色或色度,这是通过其中一个或更多移动传感器的位置改变而导致的,比如从一个房间移动到另一个房间。虽然子对象被描绘成与图9A中相同,但是子对象外观也可能发生改变。围绕对象的空间的畸变也可能发生改变,或者可以显示附着到(多个)对象或者与(多个)对象集成的表示用户运动的区块的添加,从而表示关于状态、特性的信息或者正向用户传达的其他信息。
参照图9C,主对象904a-h改变了配置,并且现在都被示出具有相同的形状,这是通过其中一个或多个移动传感器的位置改变而导致的,比如移动到具有多家零售商店的位置。虽然子对象被描绘成与图9A&B中相同,但是子对象外观也可能发生改变。
参照图9D,主对象和子对象已改变,这是通过其中一个或更多移动传感器的位置改变而导致的。现在有5个主对象920a-e,其被示出为菱形904a、正方形904b、八边形904c、六边形904d和圆形904e。每一个主对象920a-e以可以表明优先级的不同啁啾速率发出啁啾声,这是基于从使用本发明的系统和方法所学习到的用户行为,动态地基于传感器的位置和类型,或者是基于位置和一天、一周或一年当中的时间等等。主对象920a包括4个子对象922a-d,其在这里被示出为以第一闪烁速率闪烁的圆形。三个子对象922a、922b和922c具有第一颜色或色度;一个子对象922c具有第二颜色或色度;并且所有子对象922a-d以第一闪烁速率闪烁。主对象920b不具有子对象并且表示一个对象,该对象一旦被选择就立即被激活,并且如果其具有单一特性,则可以通过运动直接调节该特性。主对象920c包括5个子对象924a-e,其具有五种不同形状和三种不同颜色或形状。第一子对象924a是圆形;第二子对象924b是八边形;第三子对象924c是菱形;第四子对象924d是三角形;并且第五子对象924e是六边形。三个子对象924a、924c和924e具有第一颜色或色度;一个子对象924b具有第二颜色或色度;并且一个子对象924d具有第三颜色或色度。主对象920d包括7个子对象926a-g,其在这里被示出为圆形。四个子对象926a、926b、926d和926f具有第一颜色或色度;一个子对象926c具有第二颜色或色度;一个子对象926e具有第三颜色或色度;一个子对象926g具有第四颜色或色度;并且所有子对象926a-g都以第二闪烁速率闪烁,其中各种颜色或色度是不同的。主对象920e包括6个子对象928a-f,其在这里被示出为以第二脉动速率脉动的圆形。
关于可变界面选项的一般描述
现在参照图10A-K,其中示出了分别说明不同的选择和导览规程的动态环境的实施例。
参照图10A,可由用户辨别的显示正显示出处于用户控制下的光标x以及具有三个相关联的子对象B的可选对象A。随着光标x朝向对象A移动,与每一个子对象B相关联子子对象C来到视图中。随着光标x的运动继续,用户选择处理将在子对象B与子子对象C之间作出区分,从而最终导致完全基于运动的确定性选择和激活。这种格式被称作推动格式(pushformat)。
参照图10B,可由用户辨别的显示正显示出处于用户控制下的光标x以及具有三个相关联的子对象B的可选对象A,其中子对象被朝向光标x指向。随着光标x朝向特定子对象B移动,子对象B散开并且作出区别,直到给定的子对象被选择和激活。这种格式被称作拉动格式(pull format)。
参照图10C,可由用户辨别的显示正显示出已被该用户选择的可选对象或区块A。通过从A的位置向上或向下运动导致处理单元滚动经过子对象B的列表,所述子对象B被安排在围绕A的位置的弧形格式中。在上/下方向上的运动越大,子对象B的滚动动作就越快。通过在+X方向(朝向阴影区域)移动导致可变滚动能力缩小,因此通过在-Y方向、+X方向或者二者的组合中移动将会减小所设定的+Y数值滚动速度,并且滚动速度将会随着用户在+X方向上移动得更多而继续放慢,直到在所期望的B对象的角度或矢量方向上发生阈值事件,从而选择B。这表示空间滚动,并且一旦在+X方向上作出了足够的移动则可以或者可以不包括无滚动区块(no-scroll zone)。-X方向上的运动允许+Y/-Y滚动速度的更快的滚动(缩放比例中的增大)。当然,这一效果可以沿着任何轴并且在2D或3D空间中发生。
参照图10D,可由用户辨别的显示正显示出处于用户控制下的光标x或者表示一个区块,并且可选对象A-E被安排成辐射状或弧形方式。对象C具有三个相关联的子对象B。与图10A中一样,随着光标x朝向对象A移动,对象A可以被选择。随着用户朝向对象C移动,子对象B来到视图中,或者其可以已经处于视图中。随着光标x或用户的运动朝向C继续,用户选择处理将在子对象A-E和子对象C之间作出区分,从而最终导致C的确定性选择和激活,随后所期望的B对象则完全基于运动。这表示图10A与10C的组合。图10D中的第二幅图表示对象A-E的主要列表不需要是均匀的,相反可以使用一定偏差(off-set)向用户表明发生了不同的功能,比如C具有提供空间滚动的能力,其他主要对象则可能只有与所述主要对象或其子对象的选择相关联的散开特性。
参照图10E,可由用户辨别的显示正显示出处于用户控制下的光标x或者表明活跃区块,以及具有三个相关联的子对象B的可选对象A。随着光标x朝向所期望的特定对象A移动,显示出相关联的子对象线性列表,其中示出B对象的列表。当所期望的特定子对象B被选择时,相关联的子对象列表C被显示并且用户移动到该列表中,从而选择所期望的特定对象C,这是通过在离开C的预定方向或区块中移动,或者通过抬离事件,或者通过当处在足以提供选择阈值事件的对象区域内部时在指定方向上移动。最终导致完全基于运动的确定性选择和激活。在每一种情况下,每一个阶段处的选择可以是通过在指定方向上移动从而足以触发阈值事件,或者是通过移动到新的列表区块中从而导致选择。所述列表可以在选择之前被示出,与选择同时示出,或者在选择之后示出。
参照图10F,可由用户辨别的显示正显示出处于用户控制下的光标x或者表示活跃区块,以及具有三个相关联的子对象B的可选对象A。随着光标x移动经过如图10E中的列表,所述列表随着用户朝向列表移动而朝向用户移动,这意味着用户移动一部分并且列表移动余下的部分。随着光标x的运动继续,用户选择处理将在对象和子对象A、B和C之间作出区分,从而最终完全基于运动而导致确定性选择和激活,其中C可以通过运动的阈值数量和方向而被选择,或者其中C可以朝向用户移动直到阈值选择事件发生。
参照图10G,可由用户辨别的显示正显示出处于用户控制下的光标x或活跃区块,以及随机定位在空间中的六个可选对象。随着光标x或用户朝向其中一个对象移动,当在该对象上或其附近作出方向改变并且足以辨别出运动方向不同于第一方向时、或者当发生运动停止时或者当发生简短的保持或暂停时选择该对象,其中的任一种情况都可以导致发生对象的选择,从而最终完全基于运动或运动的改变(方向或速度的改变)或时间或者这些的组合而导致所有所期望的对象的确定性选择和激活。
参照图10H,可由用户辨别的显示正显示出处于用户控制下的光标x或活跃区块,其中顺时针或逆时针方向上的圆形运动可以提供经过圆形、线性或弧形列表的滚动,其中非圆形运动中的运动导致与用户的运动方向相关联的对象的选择事件,或者运动的停止终止滚动的能力,并且随后线性运动或者辐射状/弧形运动可以被用来选择第一个列表的子特性,或者可以通过再次开始在圆形方向上移动而在任何时间重新发起滚动。通过在圆形列表区域内部移动可以提供与在圆形运动中移动经过圆形列表不同的特性,并且通过在圆形方向上更快地移动可以提供与缓慢移动不同的特性,并且可以使用这些情况的任意组合。可以发生从圆形到线性或非圆形运动的移动,直到最终完全基于运动而导致确定性选择和激活。
参照图10I,可由用户辨别的显示正显示出处于用户控制下的光标x或活跃区块以及可选对象A-C,其中朝向某一对象或区块的运动导致运动方向上的对象或者由运动方向标识的区块内的对象被选择,并且基于光标x或用户的邻近性而示出特性,并且其中直到运动在所期望的对象处终止才选择对象,从而最终完全基于运动而导致确定性选择和激活。在图5O-5Q中对此作出了全面描述。
参照图10J,该图表示任何或所有图10A-10I被单独地或组合地实施在3D空间或体积中,比如实施在AR/VR环境中,或者比如前面所描述的圆顶控制器,其中所有确定性选择和激活主要是基于运动和运动的改变。
参照图10K,该图表示先前所描述的场交互,在这里示出了被表示成黑色圆形、浅灰色圆形和深灰色圆形的具有梯度密度的三个场,以及通过从左向右阴影、从右向左阴影、交叉阴影和点阴影所表明的四个交互区块。从左向右阴影表示黑色场与浅灰色场之间的交互区块;从右向左阴影表示浅灰色场与深灰色场之间的交互区块;交叉阴影表示黑色场与深灰色场之间的交互区块;并且最后点阴影表示所有三个场之间的交互区块。所述场和交互区块可以是动态的,这是在于每一个场或交互区块可以显示不同的对象或对象总集,并且随着用户把光标朝向某一个场或区块移动,该场或区块的相关联的对象来到视图中并且扩张,其他场和区块则将退去。进一步的运动将在所选择的场或区块中的对象之间作出区分,正如前面所描述的那样。此外,在一个或更多场中移动的效果可以影响其他场,因此进入一个场并且在该场中移动可以影响其他场,这非常像EMF场在足够靠近从而相互作用时对彼此造成影响。这还意味着通过一个场进入整个环境可以提供与通过不同的场进入环境所不同的结果。
被划分成区块的较小屏幕
现在参照图11A-P,其中示出了被实施在具有较小的显示器以及相应地较小的显示窗口和相关联的虚拟显示空间的设备上的本发明的系统的一个实施例。
参照图11A,其中示出了与小屏幕设备相关联的显示窗口1100和虚拟显示空间1120。显示窗口1100被划分成四个区块1102(左下象限)、1104(左上象限)、1106(右上象限)和1108(右下象限)。区块1102包括代表对象1110(圆形);区块1104包括代表对象1112(椭圆形);区块1106包括代表对象1114(五边形);并且区块1108包括代表对象1116(六边形)。虚拟显示空间1120也被划分成四个区块1118(左下象限)、1120(左上象限)、1122(右上象限)和1124(右下象限),其分别对应于区块1102、1104、1106和1108,并且包括与该象限相关联的所有对象。当然应当认识到,所述窗口和空间可以被划分成更多或更少的区块,这是由应用、用户优选项或者动态环境方面所决定的。
参照图11B-F,其中示出了用以选择区块1106的运动,这是通过在图11B中的箭头所表明的对角方向上移动跨越显示器表面或者在显示器表面上方移动。该运动导致系统把虚拟空间1126移动到显示窗口1100中,其中显示出如图11C中所示的与区块1106相关联的可选对象1114a-t并且还示出由箭头表明的附加运动。由于运动是在对象1114j、1114o、1114p、1114s和1114t的总体方向上,因此所述对象扩张并且朝向所述运动移动,其余的对象则移动离开窗口1100甚至移到窗口1100之外,正如图11D中所示出的那样。进一步的运动允许对所述总体方向内的对象作出区分,从而最终集中在对象1114p上,其如图11E中所示朝向所述运动移动,并且最终系统把对象1114p居中在窗口1100中。当然,如果对象1114p具有子对象,则运动可以被用来选择这些子对象当中的一个,直到表明动作。如果对象1114p是可激活对象,则将其激活。如果对象1114p包括可控特性,则正方向或负方向上的运动将增大或减小所述特性。
参照图11G-L,其中示出了用以选择区块1104的运动,这是通过在图11G中的箭头所表明的垂直方向上移动跨越显示器表面或者在显示器表面上方移动。该运动导致系统把虚拟空间1124移动到显示窗口1100中,其中显示出如图11H中所示的与区块1104相关联的可选对象1112a-t并且还示出由箭头表明的附加运动。由于运动是在对象1112g、1112h和1112I的总体方向上,因此所述对象扩张并且朝向所述运动移动,其余的对象则移动离开窗口1100甚至移到窗口1100之外,正如图11I中所示出的那样。目标对象1112g、1112h和1112I可以散开,从而使得进一步的运动允许对如图11J中所示的总体方向内的对象作出区分,从而最终集中在对象1112I上,其如图11K中所示朝向所述运动移动,并且最终系统把对象1112I居中在窗口1100中,正如图11L中所示出的那样。当然,如果对象1112I具有子对象,则运动可以被用来选择这些子对象当中的一个,直到表明动作。如果对象1112I是可激活对象,则将其激活。如果对象1112I包括可控特性,则正方向或负方向上的运动将增大或减小所述特性。
参照图11M-N,其中示出了用以选择区块1108的运动,这是通过在图11M中的箭头所表明的水平方向上移动跨越显示器表面或者在显示器表面上方移动。该运动导致系统把虚拟空间1128移动到显示窗口1100中,其中显示出如图11N中所示的与区块1108相关联的可选对象1116a-t,对象选择可以如前面所描述的那样进行。
参照图11O-P,其中示出了用以选择区块1102的运动,这是通过在对角线运动中移动跨越显示器表面或者在显示器表面上方移动,随后是通过以实心圆形结束的箭头所表明的保持,正如图11O中所示出的那样。该运动导致系统把虚拟空间1122移动到显示窗口1100中,其中显示出如图11P中所示的与区块1102相关联的可选对象1110a-t。
应当认识到,在图11A中,对应于每一个区块的所有对象可以出现在小格式中,并且朝向一个区块移动将导致这些区块对象朝向中心或者窗口中的中心移动,其他区块和对象则将移动离开或者淡出。此外,一旦被激活,所述设备可以具有单一区块,并且该区块内的运动将按照本文中所阐述的任何和所有方法那样动作。此外,每一个区块可以包括对象或者具有相关联的对象的子区块的分组,从而使得朝向子区块的给定分组的运动将导致该分组或子区块按照本文中所阐述的任何和所有方法那样朝向所述运动移动。这些类型的实施例将特别适合于手表、蜂窝电话、小型平板设备或者具有较小显示空间的任何其他设备。
触发
在某些实施例中,本发明的系统和方法使用标记或者图像/字符辨识特征来触发菜单或元数据,所述菜单或元数据随后可以与本发明的菜单系统或者任何其他菜单系统一起使用。这些标记或特征类似于2D或3D条形码、表情符或者可以被辨识成触发的任何对象或特征。所述触发可以被用来解锁某些被锁定的菜单或列表以用于特殊访问。所述触发还可以被用于调整触发,从而导致所述系统和方法调用特定的和预定义的菜单、对象、程序、设备、界面、特性或者处于所述系统和方法的控制下的其他特定的或预定义的项目。
建立用于3D运动处理的Z轴的方法
在某些实施例中,本发明的系统和方法包括使用摄影机或其他对距离敏感的传感器或测量设备来建立用于处理摄影机或其他类型的传感器的活跃区块内的移动的3D坐标系,其中所述系统和方法从摄影机或传感器捕获数据以便确定可以被用来对于3D坐标系固定z方向的一个点、多个点、一个区段或多个区段。本发明的系统和方法使用朝向或离开所述一个点、多个点、一个区段或多个区段的移动来确定z方向移动,或者沿着任何轴或路径的移动。举例来说,如果所述系统和方法正在显示某一显示设备的图像,则朝向所述一个点、多个点、一个区段或多个区段的移动导致焦距拉近功能,而离开所述一个点、多个点、一个区段或多个区段则导致焦距拉远功能。举例来说,z方向分析可以是基于(多个)摄影机或(多个)传感器的活跃观看区块内的用户的头部、面部、一只眼睛、两只眼睛或其他对象相对于墙壁、地板或者电话或其他设备的背面上的手的距离。z方向分析还可以基于对z移动的分析而提供用于滚动经过各个水平的变焦或其他特性控制的机制。与此同时,所述系统和方法还对垂直于z方向的移动和倾斜移动作出响应。因此,本发明的系统和方法可以使用z移动、垂直移动、倾斜移动或者这些移动类型的混合和组合,从而利用其中一项或更多项所述移动来调用简单、复合或复杂功能。因此,所述系统和方法可以使用给定的z距离来激活多层菜单空间、对象/特性空间、处理控制空间、游戏空间或者任何其他多层计算或控制空间当中的特定层级,其中z层级处的在所述层级处与z轴相交的平面中的移动(当所述系统或方法选择给定的一个点、多个点、一个区段或多个区段作为从该处分析z移动的固定位置时,z轴被建立)提供对于与该层级相关联的菜单、对象和/或特性的控制。举例来说,z位置可以对应于城市地图,其中相交平面中的移动将导致摇摄(向右、向左、向上、向下、圆形向右、圆形向左、倾斜等等),并且一旦通过语音命令或某种其他确认动作设定了z层级,可以把焦距拉近和拉远与其他移动相耦合,从而允许导航经过可以是3D性质的地图。因此,移动设备上的传感器捕获信息,处理单元使用所述信息来建立固定的一个点、多个点、一个区段和/或多个区段(所述点或区段不需要是静止的,但是必须是可以在环境中确定的,以作为可以从该处确定z方向上的移动的相对固定点)。因此,如果用户正在持握智能电话,则所述系统和方法将挑选出一个点、多个点、一个区段和/或多个区段以用来建立z轴(例如从传感器到用户鼻尖的距离),随后一旦建立所述一个点、多个点、一个区段和/或多个区段,朝向所述一个点、多个点、一个区段和/或多个区段的移动导致焦距拉近功能,并且离开所述一个点、多个点、一个区段和/或多个区段的移动导致焦距拉远功能。通过把电话保持在与所述一个点、多个点、一个区段和/或多个区段的固定距离处并且在该位置处与z轴相交(可以是垂直)的平面中移动导致移动方向上的摇摄。因此,如果移动是在x方向上(向右),则系统将向右摇摄,向左移动将导致向左摇摄,向上移到导致向上摇摄,向下移动导致向下摇摄,其他移动导致复合摇摄,圆形移动将以圆形方式摇摄等等,而倾斜则将导致改变其他图像特征。同样地,对于导览多层环境,所述系统和方法允许基于分析最初作为滚动功能从而允许层级导览的z移动而发生层级选择,但是这可以是任何特性或控制功能,比如选择、激活、滚动或特性控制或者这些的任意组合。一旦识别出层级,则可辨别地不同于z移动的方向上的移动或者在所述位置处保持足够长的时间,从而允许选择该层级,这可以通过例如语音确认等某种其他动作来确认。一旦选择了层级,所述系统和方法分析3D移动以便导览经过与该层级相关联的菜单、对象和/或特性。通过以下操作可以实现重新激活层级导览:移动到摄影机和/或传感器的活跃区块之外,发出语音命令以退出该层级,在该层级处保持足够长的时间以使得所述系统或方法退出层级选择,使用姿态、姿势或运动事件(比如急动),或者把设备转到垂直从而使得摄影机或传感器失去看到所述一个点、多个点、一个区段和/或多个区段的能力,或者通过所述系统和方法可以用来重新激活使用z移动的层级选择处理的任何其他移动。
使用静止点构造三轴坐标系
本发明的实施例涉及使用可以从与移动设备(比如蜂窝电话、平板设备或者其他移动设备)相关联的摄影机或者其他一个或多个传感器看到的至少一个静止点或相对静止点的系统、装置和方法,可以从该处评估z运动从而可以把三个轴与移动设备相关联。这种三轴配置允许移动是纯x移动、纯y移动、纯z移动或者包括纯x移动、纯y移动或纯z移动当中的两个或更多分量的移动。此外,相同的或其他的运动传感器将允许检测和处理x倾斜移动、y倾斜移动、复合倾斜移动、向右旋转移动、向左旋转移动、垂直于x轴的旋转、垂直于y轴的旋转、垂直于y轴的旋转、复合旋转移动、倾斜/旋转移动或者其他类型的非纯粹移动。z轴运动可以发起特定菜单选择,随后的后续x和y运动可以提供导览、选择和激活以及特性控制。
所述静止点是可以由未在移动或者正以足够慢的速率移动的摄影机看到的任何点,从而使得朝向或离开所述静止点的移动将允许运动传感器和/或处理单元评估和确定z移动。
现在参照图12A&B,总体上由1200标示的移动设备装置(比如头戴式耳机或者可穿戴AR/VR设备或者电话等等)被示出为包括移动设备1202,并且静止点1204在这里被示出为与墙壁1206相关联。相对于静止点1204配置三轴系统1208,其中示出与朝向或离开静止点1204的移动相关联的z轴1210以及垂直于z轴1210的x轴1212和y轴1214。在建立所配置的3轴系统1208之后,移动设备1202在任何方向上的移动都可以被分解成x、y和z分量,其中z轴是相对于去到和来自静止点1204的移动而建立的。相对于该轴系统1208,线性、旋转和倾斜移动可以被解构和分解,从而可以确定所有类型的移动以用于导览经过前面所阐述的基于运动的选择和激活协议。
发明人已发现,可以通过选择固定的、框架固定的或者相对固定的一点而为手持式移动设备或者任何其他类型的设备构造3D轴系统,其中去到和来自(朝向或离开)该点的运动充当z方向上的改变,垂直于z方向的运动则构成x、y或组合xy运动、旋转、倾斜或者其他组合移动。
本发明的实施例涉及使用可以从与移动设备(比如蜂窝电话、平板设备、头戴式设备、其他可穿戴设备或者其他移动设备)相关联的摄影机或者具有传感器功能的其他系统看到的至少一个静止点或相对静止点的系统、装置和方法,可以从该处评估z运动从而可以把三个轴与移动设备相关联。这种三轴配置允许移动是纯x移动、纯y移动、纯z移动或者包括纯x移动、纯y移动或纯z移动当中的两个或更多分量的移动。此外,相同的或其他的运动传感器将允许检测和处理x倾斜移动、y倾斜移动、复合倾斜移动、向右旋转移动、向左旋转移动、垂直于x轴的旋转、垂直于y轴的旋转、垂直于y轴的旋转、复合旋转移动、倾斜/旋转移动或者其他类型的非纯粹移动。
所述静止点是可以由未在移动或者正以足够慢的速率移动的(多个)摄影机或其他传感器看到的任何点,从而使得朝向或离开所述静止点的移动将允许运动传感器和/或处理单元评估和确定z移动。
用户使用电话中的传感器(例如摄影机)沿着一条直线a设定从眼睛或面部到电话的距离A,正如图13A&B中所示出的那样。用户触摸屏幕以对于朝向正面的摄影机设定与眼睛或面部相关联的放大水平。在触摸时,向右移动会增大显示图像(文字、照片、网站等等)的变焦,向左移动会焦距拉远或者缩小图像。当然,可以使用垂直于眼睛/面部与电话之间的直线的平面中的任何方向或者不与所述直线共线的任何方向来导致焦距拉近或焦距拉远动作。
一旦被设定,这就是参考点。把电话移动得更近则焦距拉近,把电话移动离开则焦距拉远(也可以与此相反)。沿着直线b的处于电话前方(图13A)或后方(图13B)的对象之间的距离B可以被用于某种功能,全部两个距离A和B或者所感测到的对象和/或距离的任意组合也可以被用于某种功能,其中每一个B是从电话到与距离A处于电话的另一侧或同一侧的某一对象的距离,其中距离A是去到眼睛/面部的距离,并且B使用电话的正面或背面摄影机与电话和对象B之间的直线b相关联。
通过向左或向右、向上或向下或者在基本上垂直于直线a的平面中的任何xy方向上移动,系统将导致图像在特定运动方向上摇摄。如果是向右移动,则系统将向右摇摄;如果是向左移动,则系统将向左摇摄;如果是向上移动,则系统将向上摇摄;如果是向下移动,则系统将向下摇摄;如果方向处于向右、向左、向上、向下之间,则系统将在该方向上摇摄。举例来说,在向上与向右之间对角线移动将导致相应的摇摄。这些运动可以被组合使用,从而使得向右移动并且闭合(closure)将向右摇摄并且焦距拉近。
可选的是,屏幕(电话显示器或者任何其他设备或移动设备的显示器)可以被摇动或旋转以便看到完整的图像,或者是倾斜、摇动、侧向移动、上/下移动或者其他所感测到的移动的组合。这可以通过加速度计、陀螺仪来实现,或者通过使用从一个或更多摄影机和/或对象的三角定位以用于确定眼睛/面部A、直线a、对象B和直线b或者其组合。
应当有一个缓冲区块,从使得传感器所检测到的移动不会影响变焦/摇摄功能。通过移动经过缓冲区而滚动到变焦/摇摄的下一个水平。这种相同的方法可以被用于AR/VR环境以用于摇摄、变焦或其他特性控制。这也可以被描述成阈值事件。
某些实施例包括用于患有远视眼的人的文字阅读器。某些实施例包括这样的方法,其中检测移动以设定从用户眼睛/面部特征的距离,并且一旦设定距离,触摸屏幕则把变焦水平设定到特定的设定。为了看到未被显示的图像/文字,略微旋转电话或者向左/向右/向上/向下移动,以便把隐藏的部分带到视图中。通过把电话移动得更靠近或更远离面部或眼睛,经过缓冲区块以便滚动经过各个变焦水平(离散变焦步长),或者是移动经过阈值z数量(缓冲区块)之后的连续变焦。通过回到原始区块则返回原始设定的水平。在用户结束之后,下一次希望的话则触摸屏幕并且朝向放大镜移动并且不改变设定。上一次的设定变为活跃。或者,使用朝向正面的摄影机来设定对应于z轴(变焦控制)的相对距离。可以通过朝向正面和背面的摄影机之间的差异来确定旋转或xy移动。
参照图13B,其中示出了人类面部A的轮廓以及面部上的固定点、鼻尖和电话的朝向正面的摄影机之间的直线a。该图还示出四个对象B1、B2、B3和B4,从而对于对象B1、B2和B3定义从朝向背面的摄影机到对象的直线b1、直线b2和直线b3,并且对于对象B4定义从朝向正面的摄影机到对象的直线b4。
团块数据
现在参照图14A,总体上由1400标示的本公开内容的系统、装置和/或界面的一个实施例被示出为包括触摸屏1402,所述触摸屏1402具有位于屏幕1402的中心部分1406中的活跃触摸区域1404,其对应于与屏幕1402接触的用户的拇指或手指。活跃触摸区域1404表示与触摸区域1404内的所有被激活的触摸屏单元相关联的团块数据。区域1404被示出为包括形心1408,其表示通常被使用在处理系统、装置和/或界面中以便确定移动和/或移动属性的数据,并且还包括外侧边缘1410。具有或不具有形心数据的团块数据可以表示用于确定拇指或手指属于谁的唯一标识符。取决于触摸屏的灵敏度(每单位面积的单元的数目以及所述单元是否是压力敏感的——输出随着压力变化),团块数据可以不仅包括形状信息,而且还可以包括压力分布信息以及拇指或手指的底层骨骼结构和/或皮肤表面纹理特征(指纹特征),从而添加另外的唯一标识符方面。
参照图14B-D,区域1404被示出为具有三种不同的压力分布1412、1414和1416。参照图14B,第一或中心压力分布1412表示拇指或手指在屏幕1404上的初始接触压力分布,其中第一压力分布围绕形心1408居中,围绕形心1408具有最大的压力或场密度或被激活的传感器单元的数目,并且朝向区域1404的外侧边缘1410辐射状地减小。参照图14C,第二或左侧边缘压力分布1414表示从基于形心的分布到左侧边缘分布的中心压力分布1412中的改变,也就是说第二或左侧边缘分布在左侧边缘处具有增大的压力,并且朝向活跃区域104的右侧边缘减小。参照图14D,第三压力分布1416表示从基于形心的分布或者第二或左侧边缘压力分布1414到顶部边缘压力分布的第一压力分布1412中的改变,也就是说第三或顶部边缘分布在顶部边缘处具有增大的压力,并且朝向活跃区域1404的底部边缘减小。
图14C的分布1414表示用户把接触压力从中心类型接触压力分布1412改变到尖部类型接触压力分布1414。图14D的分布1416表示用户把接触压力从中心类型接触压力分布1412改变到顶部边缘类型接触压力分布1416。这些接触压力分布当中的每一种可以导致本公开内容的系统、装置和/或界面以及方法在菜单层级之间过渡,改变所显示的菜单项目的指向,在预定义的菜单层级之间过渡等等。此外,从压力分布1412到其中一种其他分布1414和1416的过渡可以被使用在本公开内容的基于运动的控制系统、装置和/或界面中。
参照图14E,区域1404被示出为经历从初始旋转指向1420到中间旋转指向1422并且到最终旋转指向1424的顺时针旋转移动1418。这些指向1420、1422和1424具有与中心压力分布1412相同或基本上相同的压力分布。由指向1420、1422和1424所表示的这些旋转指向中的改变可以表示非常微小的移动,也就是足够小并且不足以导致形心数据的改变的移动,但是可以足够从团块数据视角确定、分析和/或预测移动以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。因此,区域1404内的压力分布中的细微改变可以导致移动和/或移动属性确定、预期和/或预测。同样地,具有或不具有形心数据的团块数据可以被使用在本公开内容的基于运动的控制系统、装置和/或界面中。
参照图14F,区域1404同样被示出为经历从初始旋转指向1428到中间旋转指向1430并且到最终旋转指向1432的顺时针旋转移动1426,并且同时经历从被激活单元的中心压力或密度或者信号密度分布1412到中间压力分布1434并且最终到顶部边缘压力分布1416的被激活单元的压力或密度分布中的改变。这样的复合团块数据改变(例如与压力分布中的改变相耦合的旋转移动)同样可以在具有或不具有形心数据的情况下被用来分析、确定和预测移动和移动属性,特别在移动较小从而导致形心的移动完全不足以表明任何移动的情况下尤其是如此。因此,区域1404的压力分布中的细微改变可以导致移动确定、预期和/或预测,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。此外,该复合移动可以被用来在由本公开内容的基于运动的控制系统、装置和/或界面所控制的给定环境中实现不同水平的控制。应当认识到,压力在这里被用作具有各个单元的传感器的一个实例,当所述单元的数值超出某一条或多条阈值激活标准时,所述单元被激活。所述传感器可以是场传感器、图像传感器或者包括多个单元的任何其他传感器,所述单元通过与身体、身体部位或者由身体或身体部位控制的构件的交互或检测而被激活。因此,压力分布可以被传感器的属性或特点的输出的任何分布所取代。
参照图14G,区域1404被示出为经历从初始位置1438到中间位置1440并且最终到最终位置1442的向左移动1436。在这种情况下,所有三个位置1438、1440和1442都具有包括左侧边缘分布1414的相同或基本上相同的压力分布。这些位置1438、1440和1442可以表示非常微小的移动,也就是足够小并且不足以导致形心数据的改变的移动,但是可以足够从团块数据视角确定、分析和/或预测移动以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。因此,区域1404内的压力分布中的细微改变可以导致移动确定、预期和/或预测,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。同样地,具有或不具有形心数据的团块数据可以被使用来确定移动和移动属性以用于本公开内容的系统的控制。
参照图14H,区域1404同样被示出为经历从初始位置1446到中间位置1448并且最终到最终位置1450的向左移动1444,并且同时经历从压力分布1412到中间压力分布1452并且最终到反向压力分布1454的压力分布中的改变。这样的复合团块数据改变(例如与压力分布中的改变相耦合的旋转移动)同样可以在具有或不具有形心数据的情况下被用来分析、确定和预测移动和移动属性,特别在移动较小从而导致形心的移动完全不足以表明任何移动的情况下尤其是如此。因此,区域1404的压力分布中的细微改变可以导致移动确定、预期和/或预测,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。此外,该复合移动可以被用来在由本公开内容的基于运动的控制系统、装置和/或界面所控制的给定环境中实现不同水平的控制。
参照图14I,区域1404被示出为经历从初始位置1458到中间位置1460并且到最终位置1462的向左线性移动1456,并且同时经历从初始旋转指向1466到中间旋转指向1468并且到最终旋转指向1470的顺时针旋转移动1464,同时保持相同或基本上相同的中心压力分布1412。这样的复合团块数据改变(例如与旋转移动相耦合的线性移动)可以在具有或不具有形心数据的情况下被用来分析、确定和预测移动和移动属性,特别在移动较小从而导致形心的移动完全不足以表明任何移动的情况下尤其是如此。因此,区域1404的压力分布中的细微改变可以导致移动确定、预期和/或预测,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。此外,该复合移动可以被用来在由本公开内容的基于运动的控制系统、装置和/或界面所控制的给定环境中实现不同水平的控制。
参照图14J,区域1404同样被示出为经历从初始位置1474到中间位置1476并且到最终位置1478的向左线性移动1472,同时经历从初始旋转指向1482到中间旋转指向1484并且到最终旋转指向1486的顺时针旋转移动1480,并且同时经历从左侧边缘压力分布1414到中心压力分布1412并且到右侧边缘压力分布1488的压力分布中的改变。这样的复合团块数据改变(例如与压力分布中的改变相耦合的线性移动和旋转移动)同样可以在具有或不具有形心数据的情况下被用来分析、确定和预测移动和移动属性,特别在移动较小从而导致形心的移动完全不足以表明任何移动的情况下尤其是如此。因此,区域1404的压力分布中的细微改变可以导致移动确定、预期和/或预测,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。此外,该复合移动可以被用来在由本公开内容的基于运动的控制系统、装置和/或界面所控制的给定环境中实现不同水平的控制。
现在参照图15A,总体上由1500标示的本公开内容的触摸屏界面的一个实施例被示出为包括触摸屏1502,所述触摸屏1502具有位于屏幕1502的右下部分1506中的触摸区域1504,其对应于与屏幕1502接触的用户的拇指或手指。触摸区域1504表示与被用户的拇指或手指激活(超出阈值压力数值)的所有触摸屏单元相关联的团块数据。区域1504被示出为包括形心1508,其表示通常被使用在系统中以便确定移动的数据,并且还包括外侧边缘1510。具有或不具有形心数据的团块数据可以表示用以确定用户身份的唯一标识符。取决于触摸屏的灵敏度(每单位面积的单元的数目以及所述单元简单地是开关单元还是压力敏感单元(也就是说输出随着压力变化)),团块数据可以不仅包括形状信息,而且还可以包括压力分布信息以及拇指或手指的底层骨骼结构特征和/或属性以及/或者皮肤表面纹理特征或属性,从而可以添加另外的唯一性方面以用于用户识别的目的。
参照图15B-D,区域1504被示出为具有三种不同的压力分布1512、1514和1516。参照图15B,第一或中心压力分布1510表示拇指或手指与屏幕1502的初始接触,其他分布1514和1516则可以表示由于用户改变区域1504内的接触压力而导致的随着时间的压力分布中的改变。参照图15C,中心压力分布1512改变到左侧边缘压力分布1514。参照图15D,中心压力分布1512或左侧边缘压力分布1514改变到顶部边缘压力分布1516。这些压力分布当中的每一种可以导致本公开内容的基于运动的控制系统、装置和/或界面在菜单层级之间过渡,改变所显示的菜单项目的指向,在预定义的菜单层级之间过渡等等。此外,从压力分布1512到其中一种其他分布1514和1516的过渡可以被本公开内容的基于运动的控制系统、装置和/或界面用作移动。
参照图15E,区域1504被示出为经历从初始旋转指向1520到中间旋转指向1522并且到最终旋转指向1524的顺时针旋转移动1518。这些指向1520、1522和1524具有相同或基本上相同的中心压力分布1512。由指向1520、1522和1524所表示的这些旋转指向中的改变可以表示非常微小的移动,也就是足够小并且不足以导致形心数据的改变的移动,但是可以足够从团块数据视角确定、分析和/或预测移动以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。因此,区域1504内的压力分布中的细微改变可以导致移动和/或移动属性确定、预期和/或预测。同样地,具有或不具有形心数据的团块数据可以被使用在本公开内容的基于运动的控制系统、装置和/或界面中。
参照图15F,区域1504同样被示出为经历从初始旋转指向1528到中间旋转指向1530并且到最终旋转指向1532的顺时针旋转移动1526,并且同时经历从中心压力分布1512到中间压力分布1532并且最终到顶部边缘压力分布1516的压力分布中的改变。这样的复合团块数据改变(例如与压力分布中的改变相耦合的旋转移动)同样可以在具有或不具有形心数据的情况下被用来分析、确定和预测移动和移动属性,特别在移动较小从而导致形心的移动完全不足以表明任何移动的情况下尤其是如此。因此,区域1504的压力分布中的细微改变可以导致移动确定、预期和/或预测,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。此外,该复合移动可以被用来在由本公开内容的基于运动的控制系统、装置和/或界面所控制的给定环境中实现不同水平的控制。
参照图15G,区域1504被示出为经历从初始位置1538到中间位置1540并且最终到最终位置1542的向左移动1536。在这种情况下,所有三个位置238、240和242都具有包括左侧边缘分布1514的相同或基本上相同的压力分布。这些位置238、240和242可以表示非常微小的移动,也就是足够小并且不足以导致形心数据的改变的移动,但是可以足够从团块数据视角确定、分析和/或预测移动以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。因此,区域1504内的压力分布中的细微改变可以导致移动确定、预期和/或预测,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。同样地,具有或不具有形心数据的团块数据可以被使用来确定移动和移动属性以用于本公开内容的系统的控制。
参照图15H,区域1504同样被示出为经历从初始位置1546到中间位置1548并且最终到最终位置1550的向左移动1544,并且同时经历从左侧边缘压力分布1514到中间压力分布1552并且最终到右侧边缘压力分布1554的压力分布中的改变。这样的复合团块数据改变(例如与压力分布中的改变相耦合的旋转移动)同样可以在具有或不具有形心数据的情况下被用来分析、确定和预测移动和移动属性,特别在移动较小从而导致形心的移动完全不足以表明任何移动的情况下尤其是如此。因此,区域1504的压力分布中的细微改变可以导致移动确定、预期和/或预测,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。此外,该复合移动可以被用来在由本公开内容的基于运动的控制系统、装置和/或界面所控制的给定环境中实现不同水平的控制,包括形心数据随后可以充当对于用户意图的验证,或者修改非形心结果。
参照图15I,区域1504被示出为经历从初始位置1558到中间位置1560并且最终到最终位置1562的向左移动1556,并且同时经历从初始旋转指向1566到中间旋转指向1568并且到最终旋转指向1570的顺时针旋转移动1564,同时保持相同或基本上相同的左侧边缘压力分布1514。这样的复合团块数据改变(例如与压力分布中的改变相耦合的线性移动和旋转移动)同样可以在具有或不具有形心数据的情况下被用来分析、确定和预测移动和移动属性,特别在移动较小从而导致形心的移动完全不足以表明任何移动的情况下尤其是如此。因此,区域1504的压力分布中的细微改变可以导致移动确定、预期和/或预测,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。此外,该复合移动可以被用来在由本公开内容的基于运动的控制系统、装置和/或界面所控制的给定环境中实现不同水平的控制。
参照图15J,区域1504同样被示出为经历从初始位置1574到中间位置1576并且到最终位置1578的向左移动1572,同时经历从初始旋转指向1582到中间旋转指向1584并且到最终旋转指向1586的顺时针旋转移动1580,并且同时经历从左侧边缘压力分布1514到中间压力分布1588并且到右侧边缘压力分布1590的压力分布中的改变。这样的复合团块数据改变(例如与压力分布中的改变相耦合的线性移动和旋转移动)同样可以在具有或不具有形心数据的情况下被用来分析、确定和预测移动和移动属性,特别在移动较小从而导致形心的移动完全不足以表明任何移动的情况下尤其是如此。因此,区域1504的压力分布中的细微改变可以导致移动确定、预期和/或预测,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。此外,该复合移动可以被用来在由本公开内容的基于运动的控制系统、装置和/或界面所控制的给定环境中实现不同水平的控制。
使用指尖团块数据作为操纵杆控制器
现在参照图16A&B,总体上由1600标示的本公开内容的触摸屏界面的一个实施例被示出为包括触摸屏1602,所述触摸屏1602具有触摸区域1604,所述触摸区域1604具有位于屏幕1602的中心部分1608中的对应于与屏幕1602接触的用户指尖的外侧边缘1606以及形心1610。参照图16B,指尖的初始或中心压力分布1612被围绕形心1610居中,其中在形心1612处具有最大压力并且向外到区域1604的外侧边缘1606辐射状地减小。该初始压力接触和分布被用来激活操纵杆类型的控制,以供使用在本公开内容的基于运动的控制系统、装置和/或界面中。
现在参照图16C-J,其中示出了使用用户的指尖作为操纵杆的压力分布的第一序列。参照图16C,初始中心压力分布1610过渡到左侧边缘压力分布1614。参照图16D,压力分布1610或1614过渡到左侧顶部边缘压力分布1616。参照图16E,压力分布1610、1614和1616过渡到顶部边缘压力分布1618。参照图16F,压力分布1610、1614、1616或1618过渡到右侧顶部边缘压力分布1620。参照图16G,压力分布1610、1614、1616、1618或1620过渡到右侧边缘压力分布1622。参照图16H,压力分布1610、1614、1616、1618、1620或1622过渡到右侧底部边缘压力分布1624。参照图16I,压力分布1610、1614、1616、1618、1620、1622或1624过渡到底部边缘压力分布1626。参照图16J,压力分布1610、1614、1616、1618、1620、1622、1624或1626过渡到左侧底部边缘压力分布1628。
现在参照图16K-M,其中示出了从图16I的底部压力分布1626开始的使用用户的指尖作为操纵杆的压力分布的第二序列。参照图16K,压力分布1626过渡到更大的底部压力分布1630。参照图16L,压力分布1630过渡到甚至更大的底部压力分布1632。参照图16M,压力分布1632过渡到仍然更大的底部压力分布1634。这些压力分布中的改变可以由本公开内容的基于运动的控制系统、装置和/或界面使用来改变特性的数值,其中更大的区域对应于特性的更大数值,或者用于沿着不同轴的控制。举例来说,如果本公开内容的基于运动的控制系统、装置和/或界面正在控制灯组,则第二序列可以提高与房间、竞技场等等的“底部”墙壁区段相关联的灯组的光强度,任何其他方向上的移动则将控制其他墙壁,去到xy方向的移动控制两面墙壁上的灯,并且圆形运动将控制所有灯。举例来说,如果本公开内容的基于运动的控制系统、装置和/或界面将改变UAV在-y方向上的速度,其他方向上的压力分布改变则将改变UAV在xy平面中的任何其他方向上的速度,并且移动与总体压力中的改变相耦合可以改变方向和海拔高度。
现在参照图16N-P,其中示出了使用用户的指尖作为操纵杆的压力分布的第三序列。参照图16N,第三序列从中心压力分布1610开始。参照图16O,压力分布1610过渡到更小的中心压力分布1636。参照图16P,压力分布1636过渡到甚至更小的压力分布1638。这些压力分布中的改变可以由本公开内容的基于运动的控制系统、装置和/或界面使用来改变特性的数值,其中更小的区域对应于特性的更小数值。举例来说,如果本公开内容的基于运动的控制系统、装置和/或界面正在控制灯组,则第三序列可以提高与房间、竞技场等等的天花板区段相关联的灯组的光强度,与更小的接触区域相耦合的任何其他方向上的移动则将控制其他墙壁,去到xy方向的移动控制两面墙壁上的灯,并且圆形运动将控制所有灯。举例来说,如果本公开内容的基于运动的控制系统、装置和/或界面将改变UAV在-y方向上的速度,其他方向上的压力分布改变则将改变UAV在xy平面中的任何其他方向上的速度,并且移动与总体压力中的改变相耦合可以改变方向和海拔高度。
或者,向右和向左的移动可以控制无人机运动的xy方向,向上和向下移动则可以控制无人机的海拔高度。此外,在一个方向上旋转手指可以控制组合移动——xy运动和向上或向下运动。此外,当在特定方向上移动时,通过旋转指尖可以控制俯仰角、偏航角或翻滚角。通过旋转和特定方向上的移动的特定组合来控制俯仰角、偏航角或翻滚角。
应当认识到,屏幕1402、1502或1602的每一个部分可以对应于导致本公开内容的基于运动的控制系统、装置和/或界面及其实施方法在不同的菜单、对象和/或特性集合之间过渡的活跃部分。因此,如果用户在中心部分中接触屏幕并且随后移动到其中一个其他屏幕部分中,则本公开内容的基于运动的控制系统、装置和/或界面可以导致从一个菜单、对象和/或特性集合到另一个菜单、对象和/或特性集合的过渡,或者用户可以抬离屏幕并且接触其中一个所述部分从而导致过渡,这取决于本公开内容的基于运动的控制系统、装置和/或界面的配置,所述配置可以由用户设定和/或改变。还应当认识到,压力分布中的改变还可以伴随有接触区域形状中的改变。因此,本公开内容的基于运动的控制系统、装置和/或界面及其实施方法可以使用具有区域形状和尺寸、区域压力分布和区域移动(线性或非线性)的形式的团块数据来控制本公开内容的基于运动的控制系统、装置和/或界面的许多不同方面。因此,用户可以简单地通过接触屏幕并且随后改变接触压力、接触形状和/或接触的移动(特别是旋转移动)而在菜单、菜单层级、对象和/或特性之间进行过渡,而从不需要断开与屏幕的接触。
还应当认识到,两根手指可以被用作独立的、部分地耦合的或者完全耦合的操纵杆控制器。还应当认识到,当各个区块靠近在一起并且团块数据可能在几个区块中重叠时,通过使用形心数据可以提供确定意图与哪一个区块进行交互的更好的系统。通过使用团块和形心数据,可以为所意图的区块提供更准确的控制,并且可以在每一个区块中提供更多功能性。
键盘实施例
现在参照图17A-J,总体上由1700标示的与本公开内容的系统、装置和/或界面相关联的显示器被示出包括活跃显示区域1702。正如前面所阐述的那样,显示区域1702处于休眠状态或睡眠状态或不活跃状态,直到通过与所述系统、装置和/或界面相关联的其中一个或更多运动传感器检测到满足阈值数值的移动。参照图17A,一旦被激活并且根据本文中所阐述的基于运动的处理选择了字处理器,则所述系统、装置和/或界面导致在活跃显示区域1702内显示选择或光标对象1704、虚拟键盘1706以及文字框或区域1708。虚拟键盘1706包括使用在字处理中的大量商业可用的键盘的其中之一的虚拟表示,并且包括字母键(A-Z)、数字键(0-9)、符号键(~、`、!、@、#等等)、包括传统数字小键盘按键的数字小键盘、功能键(F1-F12)以及控制键(esc、tab、caps lock、shift、space等等)。现在虚拟键盘是活跃的,选择对象或光标对象1704的移动被用来选择字母。举例来说,通过把光标对象1704在平滑的运动或移动中移动到A键、随后到N键、随后到D键并且随后移动到键盘1706外部的区域1710中导致单词“and”出现在文字框1708中。用户还可以在特定按键上开始并且简短地保持,从而表明这是选择按键的开始。因此,通过平滑移动到特定按键随后改变方向到另一个按键并且以此类推并且随后移动到外部区域1710中或者在触摸表面上抬离或者在z方向上移动阈值数值,导致一个单词随着用户移动逐个字母地出现在文字框1708中,其中通过移动到特定字母键并且随后朝向不同的字母键移动而作出选择。因此,通过在按键处或者足够接近按键从而表示关于所期望的字母的置信度的地方改变方向,选择该字母(或按键)。当我们从一个字母滑动到另一个字母时,我们通常在选择之间加速和减速。通过使用这一运动和运动速率的改变的原理,还可以通过在按键处或者在按键附近减速阈值数量来选择字母,从而选择所意图的按键。由于最终的移动是去到外部区域1710,或者是通过在±z轴中移动,或者是通过移动离开触摸表面,因此最终的移动还可以导致从所述平滑移动式样得到的单词之后的空格(space),这或者是通过移动到空格键区块或esc键中,或者替换地所述平滑移动可以结束在空格键处,从而结束单词并且添加空格。因此,在某些实施例中,通过移动到空格键或者移动到外部区域1710中导致完成单词和控制,从而使得后续的平滑移动将允许制定出附加的单词。应当提到的是,本系统可以与当前的触摸落下(touchdown)和抬离选择动作相组合,从而使得用户可以顺序地或组合地把这些动作与滑动类型的动作相混合。举例来说,在典型的qwerty键盘上,键入字母“l”和“o”需要触摸“l”,抬起手指,随后触摸“o”,随后抬起手指。这比起触摸“l”键随后滑动到“o”键随后抬离或者继续滑动到下一个字母要快得多并且容易得多。使用z(抬离/触摸落下)事件与滑动(在xy平面中移动)的这一组合允许用户按照之前所不被允许的方式进行移动。这还可以利用两根或更多手指来实施,从而指数地提高用户速度和易行性。
参照图17B,取代移动到空格键或者移动到外部区域1710,如果用户把对象移动到新的字母,在这里是移动到T键,并且停止平滑移动,则所述系统、装置和/或界面终止与平滑移动相关联的字母序列,添加空格,并且激活包含以字母T开始的单词的单词选择框或气泡1712。从T键移动到单词选择框1712中将导致选择该单词,所述单词将出现在文字框1708中。单词列表包括单词“more(更多)”,如果被选择的话该单词将导致以T开始的新的单词列表出现。当然,所述系统、装置和/或界面可以要求移动到单词框1712之外以完成单词选择处理,或者所述系统、装置和/或界面可以要求第二身体部位的移动以确认选择,正如前面所阐述的那样。还应当认识到,单词框1712可以出现在字母处或者出现在显示区域1702中的任何其他地方,并且可以具有按照分级方式嵌套的多个层级的单词。如果单词框1712处在键盘1706的按键上方,所述系统、装置和/或界面可以要求用户移动到字母之间的位置以将其激活。当然,可以调整单词框1712的内容,从而使得单词列表或者单词和短语列表是基于已经出现在文字框1708中的字母和/或单词,或者可以基于特定用户的先前使用对其进行调整。此外,可以通过由所述系统、装置和/或界面的运动传感器捕获生物计量学、动力学和/或生物动力学数据并且与保存在与所述系统、装置和/或界面相关联的用户标识数据库中的此类信息进行比较来识别每一个用户。
参照图17C-D,一旦单词“the”被选择,通过把光标1704从“the”朝向B键移动并且随后停止在该字母处或者保持在该字母上方,导致所述系统、装置和/或界面用B单词列表替换T单词列表。对象1704移动到单词框1712中的特定单词同样导致选择该单词,在这里是来自单词列表的“beat”,并且可以通过移出单词框1712的后续移动或者通过第二身体部位的移动或者单词或其他次要可辨识事件而得到确认。不要求用户物理地移动到单词列表的文字框中。通过简短地保持,光标可以被放置在文字框中,从而用户可以相对地移动经过文字框——通过在字母处从一侧到另一侧移动而控制在上方的框中示出的光标,其中z运动选择单词。通过这种方式,人们可以仅仅触摸单词的第一个字母,快速滚动经过多个所预测的单词,作出选择,随后去到下一个字母并且再次开始所述处理。这可以被扩展到从一个字母移动到第二个字母并且保持,从而列表将带出具有全部这两个字母的单词。通过移动到第三个字母将带出包括这三个字母的接下来最有可能的单词。这将很有可能包括向上或者在用以激活对单词框中的光标的远程控制的方向上的微小移动,以便在选择另一个字母与激活单词框中的光标之间作出区别。同样地,所述选择处理在通过平滑移动或单词列表选择而形成的单词之间添加空格,或者利用滑动或触摸事件移动到空格键区域中。
参照图17D-E,一旦单词“beat”已被选择或预先选择并且等待附加的移动,则离开“beat”单词的移动或者去到G键的移动和停止将导致选择单词“beat”(如果其尚未被选择并且通过次要事件而得到确认的话),并且用G单词和短语填充单词框1712。同样地,显示在单词框1712中的具体单词或短语可以是如前面所解释的那样驱动的字母和/或单词。随后,从G键到单词框1712中的特定G单词或短语的移动将导致选择该特定单词或短语,在这里是“goes on”,这是通过直接作出选择,通过次要事件作出选择,或者通过移出单词框1712或者去到另一个按键的后续移动而作出选择。
参照图17A和图17F-J,其中示出了选择事件的另一个序列。一旦使用从A到N并且到D的平滑移动输入了单词“and”,从D键到T键的移动以及随后的停止或暂停或保持导致所述系统、装置和/或界面显示用T单词和/或短语填充的图17B的单词框1712。进入到没有单词或短语的单词框1712中的后续移动导致所述系统、装置和/或界面滚动经过列表,从而导致每一个单词顺序地经历相同类型的突出表现,从而使得用户知道哪一个单词是可选的,随后移出单词框1712的移动或者去到按键(比如W键)的移动选择被突出表现的单词。在W键上方停止、暂停或保持导致所述系统、装置和/或界面用W单词和/或短语填充单词框1712。去到单词框1712中的W单词或短语当中的特定成员的移动以及随后去到另一个按键(比如G键)的移动导致选择该特定的W单词或短语。同样地,在W键上方停止、暂停或保持导致所述系统、装置和/或界面用G单词和/或短语填充单词框1712,去到特定G短语的移动导致所述系统、装置和/或界面选择该G短语,这可以通过次要事件得到确认。有可能利用凝视(头部、面部或眼睛跟踪)来实施这些类型的动作,其中用户移动到某一按键,在所述按键区域内是在按键处或其略上方打开文字框的激活区域,因此如果希望退出文字框,则向下移动到退出区域把显示返回到仅仅是作为字母的各个字母。
现在参照图18,总体上由1800标示的与本公开内容的系统、装置和/或界面相关联的显示器被示出包括活跃显示区域1802。正如前面所阐述的那样,显示区域1802处于休眠状态或睡眠状态或不活跃状态,直到通过与所述系统、装置和/或界面相关联的其中一个或更多运动传感器检测到满足阈值数值的移动。一旦被激活并且根据本文中所阐述的基于运动的处理选择了字处理器,则所述系统、装置和/或界面导致在活跃显示区域1802内显示选择或光标对象1804、虚拟键盘1806以及文字框或区域1808。虚拟键盘1806包括使用在字处理中的大量商业可用的键盘的其中之一的虚拟表示,并且包括字母键(A-Z)、数字键(0-9)、符号键(~、`、!、@、#等等)、包括传统数字小键盘按键的数字小键盘、功能键(F1-F12)以及控制键(esc、tab、caps lock、shift、space等等)。每一个按键包括矩形外侧区域1810(可以是任何形状)和内侧圆形区域1812(可以是任何形状),二者存在色差(shaded)以作为用以区别两个区域1810和1812的视觉辅助。这种类型的键盘的实施例可以或者可以不包括视觉辅助,但是所述区域仍然存在。对于包括多于一个数值的按键,移动到该按键将导致各个数值分开出现,从而使得通过使用本文中所描述的技术,进一步的移动可以足够在所述数值之间作出区分。
键盘1806还可以包括矩形外侧按键区域1810之间的开放空间1814。开放空间1814可以由所述系统、装置和/或界面使用来从基于按键的选择格式过渡到气泡列表或方框列表选择格式。因此,如果用户把光标1804移动到特定字母并暂停,从而导致列表出现在气泡或方框中,随后把光标1804移动到邻近与该特定按键相关联的矩形区域1810的开放空间1814。光标1804移动到开放空间1814中导致所述系统、装置和/或界面从基于按键的选择格式过渡到基于气泡或方框的选择格式,从而使得进一步的移动导致滚动和选择或者从气泡或方框中的列表成员进行选择和激活。在某些实施例中,过渡回到按键选择格式可以涉及:(a)在气泡或方框内暂停或保持所设定的一段时间;(b)实施次要事件,比如握住拳头、触摸按键、例如退出之类的语音命令;或者(c)任何其他次要事件导致从气泡/方框选择格式过渡到按键选择格式。或者,所述列表可以包括退出,比如单词“exit(退出)”或某一其他单词,从而强制从气泡或方框格式过渡到按键格式,或者气泡或方框可以包括退出区域或点,其中移动到所述区域或点强制从气泡或方框格式过渡到按键格式。在某些实施例中,光标在给定方向上的移动不足以在两个或更多按键之间作出区别,则与移动最为对准的按键可以被朝向所述移动而移动并且被散开,从而使得进一步的移动可以按照本文中所描述的那样在所述两个或更多按键之间完全作出区分。在其他实施例中,所述系统、装置和/或界面可以利用本文中所描述的预测技术,从而使得移动可以不必继续到所期望的按键,但是当移动导致具有阈值确定性的预测时则作出选择,并且可以通过次要事件而得到确认。通过这种方式,移动式样可以允许按键选择,而无需所述移动实际移动到给定的按键。如果对于给定的字母键期望单词、短语和/或语句列表,则不管被用来作出选择的技术是如何——移动到按键上,移动到与所期望的按键足够接近从而以一定的阈值确定性作出选择,或者移动以一定的阈值确定性导致按键预测——停止移动、暂停移动或保持不同都将导致所述系统、装置和/或界面打开可以包括作为单词、短语、语句等等的列表成员的气泡或方框,并且进一步的移动将允许用户滚动、选择、选择和激活、选择和调节、选择、激活和调节或者选择和滚动经过各个子列表,随后通过后续的移动进行选择、选择和激活、选择和调节或者选择、激活和调节。同样地,基于按键的选择格式与基于气泡/方框的选择格式之间的过渡可以是如前面所描述的那样。
现在参照图19A-G,图中示出了字处理系统、装置和/或界面的一个实施例,其被示出为包括总体上由1900标示的显示器,所述显示器具有活跃显示区域1902。参照图19A,一旦通过至少一个运动传感器的活跃区块内的超出阈值移动数值的移动被激活,将用光标或选择对象1904、文字框1906以及命令功能集合1908来填充活跃显示区域1902,所述命令功能包括后退对象、删除对象、撤消对象、重做对象、历史对象和前进对象。还将用元音对象、辅音对象、符号对象、控制对象以及功能对象来填充活跃显示区域1902。元音对象包括子对象a、e、i、o和u(也可以包括y和w)。元音对象包括子对象b-d、f-h、j-n、p-t和v-z。符号对象包括子对象`、~、!、@、#、$、%、^等等。控制对象包括子对象tab、space、enter、ctrl、alt、esc、shift、home、insert、backspece、prtscr等等。功能对象包括子对象F1-F12等等。当然,可以用名词取代辅音,用动词取代元音等等。
参照图19B,把选择对象1904朝向元音对象移动导致选择元音对象,元音对象a、e、i、o和u的显示被围绕元音对象布置,并且还可以包括元音对象、符号对象、控制对象以及功能对象的淡化。参照图19C,朝向a对象并且在a对象上方或附近暂停导致单词对象、短语对象和语句对象出现,并且从a对象朝向单词对象的进一步移动导致子对象名词、代词、动词、介词和连接词围绕单词对象出现以及短语对象和语句对象的淡化。此外,元音、符号、控制和功能对象可以被进一步淡化并且被移动到显示区域1902中的被从显示区域1902的中心移除的位置。参照图19D,单词对象以及子对象名词、代词、动词、介词和连接词已被居中,短语和语句对象已被进一步淡化,并且选择对象1904已被移动到单词对象附近。选择对象1904在动词子对象的方向上的移动导致所述系统、装置和/或界面围绕动词对象显示子对象行为动词、连缀动词和助动词,同时淡化名词、代词、介词和连接词对象并且将其移动离开显示区域1902的中心,正如图19E中所示出的那样。参照图19F,选择对象1904被朝向行为动词对象移动,从而导致所述系统、装置和/或界面淡化连缀动词对象和助动词对象,并且显示如图19G中所示的开始于字母a的主动动词的方框列表1910,其中选择对象1904移动到方框1910中的单词“activate”导致选择单词activate并且将activate显示在文字框1906中。
现在参照图19H-N,选择对象1904朝向元音对象并且进一步朝向a子对象并且进一步朝向元音对象并且最终在与一组辅音对准的方向上的移动导致所述系统、装置和/或界面选择元音对象、a子对象和元音对象,同时淡化单词、短语和语句对象。参照图19I,与移动最为对准的r对象、s对象和y对象保持活跃,其他辅音则基于移动而被淡化并且不再是可选的。参照图19J,r、s和y对象已被围绕选择对象1904排列从而使得选择更加容易,其他辅音则被移动离开以便促进对于r、s和y对象的选择。选择对象1904朝向r对象的移动以及在该对象处或附近的暂停导致所述系统、装置和/或界面选择r对象,并且在间隔开的安排中显示单词对象、短语对象和语句对象以便促进选择,正如图19K中所示出的那样。选择对象1904朝向单词对象的移动导致所述系统、装置和/或界面显示子对象名词、介词、动词、连接词和代词,正如图19L中所示出的那样。选择对象1904朝向名词对象的移动导致围绕选择对象1904显示子对象专有名词、普通名词、抽象名词、集合名词、复合名词和物质名词,同时介词、动词、连接词和代词对象被淡化并且移动离开选择对象1904以及子对象专有名词、普通名词、抽象名词、集合名词、复合名词和物质名词。选择对象1904朝向专有名词对象的移动导致所述系统、装置和/或界面围绕选择对象1904显示子对象人、地点或事物,并且朝向事物对象的移动导致所述系统、装置和/或界面选择事物对象以及单词选择气泡1912的出现,其中单词选择气泡1912包含开始于字母“ar”的事物的列表连同“more(更多)”以用于示出开始于字母“ar”的更多事物。选择对象1904进入到气泡1912中并且朝向成员“Armadillo(犰狳)”的移动选择该单词,并且该单词出现在文字框1906中。或者,朝向事物对象的移动可以导致所述系统、装置和/或界面选择事物对象以及包含开始于字母“ar”的事物的列表的单词选择菜单1914的出现。移动到单词选择菜单1914中导致滚动经过列表,并且后续的移动导致所述系统、装置和/或界面选择所期望的“ar”事物,其随后出现在文字框1906中。
现在参照图19O-P,选择对象1904朝向元音对象并且进一步朝向a子对象并且进一步朝向短语对象的移动导致所述系统、装置和/或界面选择短语对象。参照图19Q,朝向短语对象的移动导致选择短语对象,这是通过把短语对象拉向选择对象1904以及单词和语句对象的淡化和移动离开显示区域1902的中心而表现出来的。当前,对于短语对象的选择导致所述系统、装置和/或界面显示短语框1916,进入到方框中并且去到短语“a diamond inthe rough”的移动导致选择该短语并且导致该短语出现在文字框1906中。或者,对于短语对象的选择导致所述系统、装置和/或界面显示短语菜单1918,其中进入到短语菜单1918中的移动导致所述系统、装置和/或界面调用滚动命令。在开始滚动经过列表之后,移动将导致选择与滚动相关联的列表成员以及短语在文字框1906中的同时出现。
在图17A-J和图19A-P所示出的实施例中,显示区域示出了选择历史,这是在于每一个所选择的对象保持未被淡化,而是被移动从而使得进一步的移动可以允许进一步的处理。应当认识到,可以按照不同的格式并且在显示区域中的不同位置处显示历史。
现在参照图20A-C,图中示出了字处理系统、装置和/或界面的另一个实施例,其被示出为包括总体上由2000标示的显示器,所述显示器具有活跃显示区域2002。参照图20A,一旦通过至少一个运动传感器的活跃区块内的超出阈值移动数值的移动被激活,将用光标或选择对象2004、文字框2006以及命令功能集合2008来填充活跃显示区域2002,所述命令功能包括后退对象、删除对象、撤消对象、重做对象、历史对象和前进对象。还将用按照弧形方式围绕选择对象2004布置的26个字母对象来填充活跃显示区域2002,其中每一个字母对象对应于字母表当中的一个字母。还将用符号对象、控制对象和功能对象来填充活跃显示区域2002,如果这些对象当中的一个将被选择,则对应于每一个符号、每一项控制或者每一项功能的对象将取代弧形显示的字母对象,所述字母对象将消失从而由字母表对象(未示出)取代。选择对象2004朝向y对象的移动导致所述系统、装置和/或界面选择y对象。
参照图20B,对于y对象的选择导致所述系统、装置和/或界面把y对象朝向选择对象2004牵引,淡化其他字母对象但是将其他字母对象保持在其相同的相对位置处,淡化符号、控制和功能对象并且将其移动离开显示区域2002的中心,并且显示单词对象、短语对象和语句对象。把光标对象2004朝向单词对象移动足够的数量以实现对其的选择,随后是单词选择列表2010的同时显示,方向中的平滑改变确认对于单词对象的选择,并且去到单词列表2010当中的特定成员(在这里是单词“yesterday(昨天)”,由于是句首单词因此被示出为大写)的移动导致所述系统、装置或界面选择“yesterday”,其出现在文字框2006中。一旦选择了单词“yesterday”,所述系统、装置或界面返回到用于选择另一个字母的状态。
参照图20C,把选择对象2004朝向i对象移动导致所述系统、装置或界面围绕选择对象显示单词对象、短语对象和语句对象,把i对象拉向选择对象并且淡化其他字母对象,同时将其他字母对象保持在其相对位置处。朝向短语对象的持续平滑移动导致所述系统、装置或界面显示短语选择菜单2012,并且去到菜单2012的持续平滑移动将导致所述系统、装置或界面滚动经过列表。一旦滚动开始,并且一旦在菜单2012中显示或者通过某种方式突出表现特定的短语则进行移动,所述移动导致所述系统、装置或界面选择特定的短语,在这里是“,I went shopping”,其出现在文字框2006中,从而得到语句“Yesterday,I wentshopping.”
现在参照图21A-J,图中示出了字处理系统、装置和/或界面的另一个实施例,其被示出为包括总体上由2100标示的显示器,所述显示器具有活跃显示区域2102。参照图21A,一旦通过至少一个运动传感器的活跃区块内的超出阈值移动数值的移动被激活,将用光标或选择对象2104、文字框2106以及命令功能集合2108来填充活跃显示区域2102,所述命令功能包括后退对象、删除对象、撤消对象、重做对象、历史对象和前进对象。还将用字母对象、符号对象、控制对象和功能对象来填充活跃显示区域2102。选择对象2104朝向字母对象的移动导致所述系统、装置和/或界面淡化符号对象、控制对象和功能对象。参照图21B,一旦所述移动足以满足一条或更多条阈值对象选择标准,符号、控制和功能对象可以被进一步淡化,并且被移动到离显示区域2102的中心最远,并且元音对象和元音对象出现。朝向元音对象的移动导致所述系统、装置和/或界面淡化元音对象。参照图21C,一旦移动足以满足一条或更多条阈值对象选择标准,元音对象被选择、居中,其中选择对象2104被居中在元音对象内,并且21个辅音对象在间隔开的椭圆形配置(分开一定距离以改进后续的基于运动的选择)中被围绕元音对象分布,并且元音对象被进一步淡化。参照图21D,朝向f对象的移动导致所述系统、装置和/或界面把f对象拉向选择对象2104,显示单词对象、短语对象和语句对象,并且淡化另外的20个辅音对象同时保持其相对位置。暂停和随后的进一步移动导致所述系统、装置和/或界面确认选择,预先选择语句对象,淡化单词对象和短语对象,并且显示语句滚动框2110以用于滚动经过开始于字母f的语句的列表,以用于进一步的基于运动的选择。当然应当认识到,对象可以出现在围绕选择对象2104分布的任何配置中。
参照图21E,选择对象2104朝向符号对象的移动导致所述系统、装置和/或界面淡化字母、控制和功能对象。参照图21F,一旦所述移动足以满足一条或更多条阈值对象选择标准,符号、控制和功能对象可以被进一步淡化,并且被移动到离显示区域2102的中心最远,并且27个符号对象出现在围绕选择对象2104的间隔开的圆形配置中。当然应当认识到,对象可以出现在围绕选择对象2104分布的任何配置中。
参照图21G,选择对象2104朝向控制对象的移动导致所述系统、装置和/或界面淡化字母、符号和功能对象。参照图21H,一旦移动足以满足一条或更多条阈值对象选择标准,字母、符号和功能对象可以被进一步淡化,并且被移动到离显示区域2102的中心最远,并且20个控制对象出现在围绕选择对象2104的间隔开的圆形/椭圆形配置中。当然应当认识到,对象可以出现在围绕选择对象2104分布的任何配置中。
参照图21I,选择对象2104朝向功能对象的移动导致所述系统、装置和/或界面淡化字母、符号和控制对象。参照图21J,一旦移动足以满足一条或更多条阈值对象选择标准,字母、符号和控制对象可以被进一步淡化,并且被移动到离显示区域2102的中心最远,并且12个功能对象出现在围绕选择对象2104的间隔开的椭圆形配置中。当然应当认识到,对象可以出现在围绕选择对象2104分布的任何配置中。
应当认识到,所述基于运动的字处理系统、装置和/或界面及其实施方法可以利用任何类型的移动,比如:(a)包括线性或非线性移动片段的集合的移动;(b)包括方向、角度、距离/位移、持续时间、速度、矢量速度和/或加速度中的多次改变的连续非线性移动;(c)线性或非线性移动片段的集合以及一次或多次的暂停、停止、保持和/或定时保持;(d)包括方向、角度、距离/位移、持续时间、速度、矢量速度和/或加速度中的多次改变的连续非线性移动的集合以及一次或多次的暂停、停止、保持和/或定时保持;或者(e)包括一项或更多项移动属性中的改变的任何其他类型的移动,从而允许所述基于运动的字处理系统、装置和/或界面及其实施方法辨识出所述改变并且将所述改变转换成命令和控制功能,正如本文中所阐述的那样。此外,可以使用其他类型的虚拟键盘,包括用于从基于按键的选择格式过渡到单词、短语或语句选择格式的其他处理,这样的替换键盘可以利用过渡对象或者预定义的移动来触发这样的过渡。此外,可以设想到许多其他类型的基于对象的字处理器,其共享基于对象的格式的所示出的实施例的一个或更多方面或者其组合,其他实施例则可以组合键盘格式和对象格式的一个或更多方面。
结尾段
本文中所提到的所有参考文献都通过引用的方式被合并在此。虽然前面参照其优选实施例公开了本发明,但是通过阅读本说明书,本领域技术人员可以认识到在不背离如前面所描述并且在后面要求保护的本发明的范围和精神的情况下所能作出的改变和修改。
Claims (38)
1.一种移动设备,包括:
触摸屏;
分别具有活跃区块的朝向正面的传感器和/或朝向背面的传感器;以及
处理器,其被配置成:
响应于来自朝向正面的传感器和/或朝向背面的传感器的传感器输入,建立正向和/或背向的静止或相对静止的点、区域或体积;
响应于来自朝向正面的传感器和/或朝向背面的传感器的第一输入,在触摸屏上发起第一菜单的显示,所述第一菜单包括多个可选项目,或者发起3D环境的显示;以及
当第一菜单被显示在触摸屏上时,响应于来自朝向正面的传感器和/或朝向背面的传感器的对应于特定运动属性中的移动的第二输入,基于所述特定运动属性确定第二输入对应于针对所述多个可选项目当中的特定可选项目的选择或者对应于3D环境中的特定移动。
2.根据权利要求1所述的移动设备,其中,所述触摸屏、传感器和处理器被集成到移动电话中。
3.根据权利要求1所述的移动设备,其中,所述触摸屏、传感器和处理器被集成到平板计算机中。
4.根据权利要求1所述的移动设备,其中,所述触摸屏、传感器和处理器被集成到可穿戴设备中。
5.一种方法,包括:
在计算设备处接收第一输入,所述第一输入对应于显示在移动设备上的虚拟现实(VR)或增强现实(AR)环境中的第一移动,所述移动设备包括触摸屏、分别具有移动区块的朝向正面的传感器和/或朝向背面的传感器以及处理器;
建立正向和/或背向的静止或相对静止的点、区域或体积;
响应于第一输入在显示设备处发起第一菜单的显示,所述第一菜单包括多个可选项目,或者显示VR或AR环境中的第一移动;
在第一菜单的显示期间接收第二输入,所述第二输入对应于针对所述多个可选项目当中的特定可选项目的选择或者对应于VR或AR环境内的某一位置;以及
在显示设备处发起关于所述特定可选项目已被选择或者关于特定的VR或AR环境已被重新定位在所述特定位置处的指示的显示。
6.根据权利要求5所述的方法,其中,第一输入或第二输入的至少其中之一对应于手、手臂、手指、腿或脚的移动。
7.根据权利要求5所述的方法,其中,第一输入或第二输入的至少其中之一对应于眼睛移动或眼睛凝视。
8.根据权利要求5所述的方法,其中,VR或AR环境中的第一移动包括VR或AR环境中的虚拟对象或光标的移动。
9.根据权利要求5所述的方法,其中,第二输入表明VR或AR环境中的特定方向上的第二移动,并且所述方法还包括基于所述特定方向确定第二输入对应于针对特定可选项目的选择。
10.根据权利要求5所述的方法,还包括发起对应于特定可选项目的应用的执行。
11.根据权利要求5所述的方法,还包括发起对应于特定可选项目的第二菜单的显示。
12.根据权利要求11所述的方法,其中,第二菜单包括第二多个可选项目。
13.根据权利要求5所述的方法,其中,所述显示设备被集成到计算设备中。
14.根据权利要求5所述的方法,其中,所述计算设备包括VR或AR头戴式耳机。
15.根据权利要求5所述的方法,其中,所述显示设备处于计算设备外部并且耦合到计算设备。
16.一种装置,包括:
接口,其被配置成:
接收对应于虚拟现实(VR)或增强现实(AR)环境中的第一移动的第一输入;以及
接收对应于针对多个可选项目当中的特定可选项目的选择或者AR或VR环境内的位置的第二输入;以及
处理器,其被配置成:
在显示设备处响应于第一输入发起第一菜单的显示,所述第一菜单包括所述多个可选项目,或者显示VR或AR环境中的第一移动;以及
在显示设备处发起关于所述特定可选项目已被选择或者关于特定的VR或AR环境已被重新定位在所述特定位置处的指示的显示。
17.根据权利要求16所述的装置,还包括所述显示设备。
18.根据权利要求16所述的装置,其中,第一输入和第二输入是接收自相同的输入设备。
19.根据权利要求18所述的装置,还包括所述输入设备。
20.根据权利要求18所述的装置,其中,所述输入设备包括眼睛跟踪设备或运动传感器。
21.根据权利要求16所述的装置,其中,第一输入是接收自第一输入设备,并且第二输入是接收自不同于第一输入设备的第二输入设备。
22.一种装置,包括:
接口,其被配置成:
接收第一输入,所述第一输入对应于虚拟键盘中的朝向虚拟键盘的特定按键的第一移动,或者对应于涵盖虚拟键盘的一个按键集合的第一移动路径;
接收对应于针对虚拟键盘的特定按键或按键集合的选择的第二输入,在文字窗口中显示所选择的按键数值;
接收一项或多项后续输入,所述后续输入对应于虚拟键盘的特定按键,或者涵盖虚拟键盘的一个按键集合的一条或多条后续移动路径,或者进入到与每一个按键数值相关联的单词气泡中的一项或多项移动,或者针对虚拟键盘的特定按键或按键集合或者单词的选择,在文字窗口中显示所选择的按键数值或单词;以及
处理器,其被配置成:
在显示设备处发起显示虚拟键盘,并且响应于第一输入显示虚拟键盘的所述一个或多个特定按键;以及
在显示设备处发起在文字框中显示所选择的按键数值和/或单词。
23.一种装置,包括:
接口,其被配置成;
接收对应于与所述装置的传感器相关联的团块数据的第一移动的第一输入;以及
接收对应于针对显示在所述装置的用户反馈设备上的多个可选项目当中的特定可选项目的选择的第二输入;
处理器,其被配置成:
响应于第一输入在显示设备处发起第一菜单的显示;以及
在显示设备处发起关于所述特定可选项目已被选择的指示的显示。
24.一种方法,包括:
在计算设备处接收第一输入,所述第一输入对应于第一方向上的第一移动;
基于第一方向确定第一移动对应于针对无接触键盘的多个按键当中的第一按键的选择;以及
输出关于第一按键已被选择的指示。
25.根据权利要求24所述的方法,其中,所述指示在显示设备处被输出。
26.根据权利要求24所述的方法,还包括:
接收对应于第二方向上的第二移动的第二输入;
基于第二方向确定第二移动对应于第一按键的解除选择;以及
输出关于第一按键已被解除选择的指示。
27.根据权利要求24所述的方法,还包括:
接收对应于第二方向上的第二移动的第二输入;
基于第二方向确定第二移动对应于针对所述多个按键当中的第二按键的选择;以及
输出关于第二按键已被选择的指示。
28.根据权利要求27所述的方法,还包括输出关于第一按键已被解除选择的指示。
29.根据权利要求24所述的方法,其中,所述无接触键盘被可见地投影到特定平面上。
30.根据权利要求24所述的方法,所述无接触键盘对于该无接触键盘的用户是不可见的。
31.根据权利要求24所述的方法,其中,所述无接触键盘对应于特定平面,第一移动开始于第一位置处,并且第一移动结束于比第一位置更靠近所述特定平面的第二位置处。
32.根据权利要求24所述的方法,其中,第一移动对应于人类手指或人类拇指的至少其中之一的移动。
33.一种装置,包括:
被配置成接收对应于第一方向上的第一移动的第一输入的接口;以及
处理器,其被配置成:
基于第一方向确定第一移动对应于针对无接触键盘的多个按键当中的第一按键的选择;以及
输出关于第一按键已被选择的指示。
34.根据权利要求33所述的装置,还包括运动传感器,其中第一输入是接收自所述运动传感器。
35.根据权利要求33所述的装置,还包括显示设备,其中所述指示被显示在所述显示设备处。
36.根据权利要求33所述的装置,其中,所述接口和处理器被集成到移动电话中。
37.根据权利要求33所述的装置,其中,所述接口和处理器被集成到平板计算机中。
38.根据权利要求33所述的装置,其中,所述无接触键盘被配置成接收关于虚拟现实(VR)或增强现实(AR)环境的输入。
Applications Claiming Priority (13)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562261807P | 2015-12-01 | 2015-12-01 | |
US201562261805P | 2015-12-01 | 2015-12-01 | |
US201562261803P | 2015-12-01 | 2015-12-01 | |
US62/261,803 | 2015-12-01 | ||
US62/261,805 | 2015-12-01 | ||
US62/261,807 | 2015-12-01 | ||
US201562268322P | 2015-12-16 | 2015-12-16 | |
US62/268,322 | 2015-12-16 | ||
US201662311883P | 2016-03-22 | 2016-03-22 | |
US62/311,883 | 2016-03-22 | ||
US201662382189P | 2016-08-31 | 2016-08-31 | |
US62/382,189 | 2016-08-31 | ||
PCT/US2016/064503 WO2017096096A1 (en) | 2015-12-01 | 2016-12-01 | Motion based systems, apparatuses and methods for establishing 3 axis coordinate systems for mobile devices and writing with virtual keyboards |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108700991A true CN108700991A (zh) | 2018-10-23 |
Family
ID=58797868
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680079708.8A Pending CN108700991A (zh) | 2015-12-01 | 2016-12-01 | 用于为移动设备建立3轴坐标系并且利用虚拟键盘进行写入的基于运动的系统、装置和方法 |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP3384374A4 (zh) |
CN (1) | CN108700991A (zh) |
WO (1) | WO2017096096A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110123280A (zh) * | 2019-05-23 | 2019-08-16 | 浙江大学 | 一种基于智能移动终端操作行为识别的手指灵活度检测方法 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111684468B (zh) * | 2018-02-19 | 2024-03-08 | 苹果公司 | 用于呈现和操纵有条件地相关的合成现实内容线程的方法和设备 |
US10936163B2 (en) | 2018-07-17 | 2021-03-02 | Methodical Mind, Llc. | Graphical user interface system |
CN113093783B (zh) * | 2021-02-23 | 2023-09-12 | 广东工贸职业技术学院 | 一种无人机的拍摄控制方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020118880A1 (en) * | 2000-11-02 | 2002-08-29 | Che-Bin Liu | System and method for gesture interface |
US8316319B1 (en) * | 2011-05-16 | 2012-11-20 | Google Inc. | Efficient selection of characters and commands based on movement-inputs at a user-inerface |
US8593375B2 (en) * | 2010-07-23 | 2013-11-26 | Gregory A Maltz | Eye gaze user interface and method |
CN104335142A (zh) * | 2012-06-14 | 2015-02-04 | 高通股份有限公司 | 用于透明头戴式显示器的用户接口交互 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8959013B2 (en) * | 2010-09-27 | 2015-02-17 | Apple Inc. | Virtual keyboard for a non-tactile three dimensional user interface |
JP2014515147A (ja) * | 2011-06-21 | 2014-06-26 | エンパイア テクノロジー ディベロップメント エルエルシー | 拡張現実のためのジェスチャベースユーザインターフェース |
US9383919B2 (en) * | 2012-01-06 | 2016-07-05 | Google Inc. | Touch-based text entry using hidden Markov modeling |
-
2016
- 2016-12-01 CN CN201680079708.8A patent/CN108700991A/zh active Pending
- 2016-12-01 EP EP16871539.9A patent/EP3384374A4/en active Pending
- 2016-12-01 WO PCT/US2016/064503 patent/WO2017096096A1/en active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020118880A1 (en) * | 2000-11-02 | 2002-08-29 | Che-Bin Liu | System and method for gesture interface |
US8593375B2 (en) * | 2010-07-23 | 2013-11-26 | Gregory A Maltz | Eye gaze user interface and method |
US8316319B1 (en) * | 2011-05-16 | 2012-11-20 | Google Inc. | Efficient selection of characters and commands based on movement-inputs at a user-inerface |
CN104335142A (zh) * | 2012-06-14 | 2015-02-04 | 高通股份有限公司 | 用于透明头戴式显示器的用户接口交互 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110123280A (zh) * | 2019-05-23 | 2019-08-16 | 浙江大学 | 一种基于智能移动终端操作行为识别的手指灵活度检测方法 |
Also Published As
Publication number | Publication date |
---|---|
EP3384374A4 (en) | 2020-08-12 |
EP3384374A1 (en) | 2018-10-10 |
WO2017096096A1 (en) | 2017-06-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220270509A1 (en) | Predictive virtual training systems, apparatuses, interfaces, and methods for implementing same | |
US11599260B2 (en) | Apparatuses for attractive selection of objects in real, virtual, or augmented reality environments and methods implementing the apparatuses | |
US20210286483A1 (en) | Selection attractive interfaces, systems and apparatuses including such interfaces, methods for making and using same | |
US20170139556A1 (en) | Apparatuses, systems, and methods for vehicle interfaces | |
CN108604151A (zh) | 使用2d构造、使用真实或虚拟控制器、使用预览取景以及团块数据控制器来实施3d控制的基于运动的系统、装置和方法 | |
Hinckley et al. | Input/Output Devices and Interaction Techniques. | |
WO2018237172A1 (en) | SYSTEMS, APPARATUSES, INTERFACES AND METHODS FOR VIRTUAL CONTROL CONSTRUCTIONS, OCULAR MOTION OBJECT CONTROL DEVICES, AND VIRTUAL TRAINING | |
US11816256B2 (en) | Interpreting commands in extended reality environments based on distances from physical input devices | |
US11972609B2 (en) | Interfaces, systems and apparatuses for constructing 3D AR environment overlays, and methods for making and using same | |
CN105960622B (zh) | 选择吸引式接口、包括该接口的系统和装置及其制造和使用方法 | |
US10628977B2 (en) | Motion based calendaring, mapping, and event information coordination and interaction interfaces, apparatuses, systems, and methods making and implementing same | |
CN108700991A (zh) | 用于为移动设备建立3轴坐标系并且利用虚拟键盘进行写入的基于运动的系统、装置和方法 | |
WO2024010972A1 (en) | Apparatuses, systems, and interfaces for a 360 environment including overlaid panels and hot spots and methods for implementing and using same | |
Piumsomboon | Natural hand interaction for augmented reality. | |
EDITION | COMPUTING HANDBOOK |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20181023 |