CN104137043A - 用于在图形用户界面(gui)上进行人机交互的方法 - Google Patents

用于在图形用户界面(gui)上进行人机交互的方法 Download PDF

Info

Publication number
CN104137043A
CN104137043A CN201280058900.0A CN201280058900A CN104137043A CN 104137043 A CN104137043 A CN 104137043A CN 201280058900 A CN201280058900 A CN 201280058900A CN 104137043 A CN104137043 A CN 104137043A
Authority
CN
China
Prior art keywords
pointer
coordinate
interactive object
threshold value
priority
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201280058900.0A
Other languages
English (en)
Inventor
威廉·莫克尔·万德尔韦斯特赫伊曾
菲利普斯·洛伦斯·安德里斯·杜普莱西斯
亨德里克·弗兰斯·维沃尔德·波索夫
贾恩·普尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Reallyenglish's Gate Pty Co Ltd
Original Assignee
Reallyenglish's Gate Pty Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Reallyenglish's Gate Pty Co Ltd filed Critical Reallyenglish's Gate Pty Co Ltd
Publication of CN104137043A publication Critical patent/CN104137043A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04812Interaction techniques based on cursor appearance or behaviour, e.g. being affected by the presence of displayed objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04805Virtual magnifying lens, i.e. window or frame movable on top of displayed information to enlarge it for better reading or selection

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明提供了一种用于在图形用户界面(GUI)上进行人机交互的方法、GUI、导航工具、计算机和计算机操作装置。所述方法包括以下步骤:利用输入装置或相对于输入装置确定指针的坐标;确定交互对象的坐标,在所述交互对象中的至少两个对象被显示;创建与所述交互对象有关的阈值和与围绕所述交互对象的空间有关的阈值;根据所述交互对象相对于所述指针的距离和/或方向,确定所述交互对象的优先级;根据所述对象的优先级移动所述交互对象和阈值;每当所述指针的坐标变化时重复上述步骤;和当达到阈值时,执行操作。

Description

用于在图形用户界面(GUI)上进行人机交互的方法
技术领域
本发明涉及人机交互。更具体地,本发明涉及用于在图形用户界面(GUI)上进行人机交互的方法、导航工具、计算机和计算机操作装置,该计算机操作装置包括这种界面和工具。
背景技术
在人机交互(HCI)中,图形用户界面(GUI)支持简单但有效的图形语言的发展。连续控制装置(例如鼠标或轨迹板)以及显示装置(例如显示屏)用于将用户和计算机组合成单个联合认知系统。计算机向用户提供图形反馈以控制相对于信息(称作对象)的抽象集合的视觉表示而进行的运动。在界面中用户对对象执行的动作称作操作。
用户可假定内容的消费者和/或创建者的角色,该内容包括音乐、视频和文本或者它们的混合,其可出现在网页上、视频会议或游戏中。可替选地,用户可协同计算机以控制现实世界生产设备、机器、装置或工艺,例如塑料注射模塑厂、灌溉系统或车辆。
GUI为对象-操作界面,在该界面中,按顺序,对象被识别且对其进行操作。在一空间中示出对象,在该空间中,对象能够被看到且直接被操控。该空间通常被模型化在桌面后。
GUI的图形元素被统称为WIMP,其代表窗口、图标、菜单和指针。这些对象可进行如下分析:
●指针或者光标代表界面中的用户且在显示器上四处移动至感兴趣的点。指针或光标在不同的背景下可具有各种形状,但是其被设计成在每一时刻指示空间内的单个点。
●图标代表计算机内部对象,包括媒体文件和程序、以及现实世界实体(例如人)、其他计算机和设备的特性。图标减轻用户不得不记住名称或标签,但是它们彼此竞争有限的显示空间。
●窗口和菜单都解决使用有限显示空间组织具有大量图标和其它内容的用户交互的问题。窗口允许通过重叠管理而重复使用显示器的全部或部分,它们也可包含其他窗口。从这个角度,窗口递归地代表界面中的界面。
●菜单的功能在于将它们的内容藏在标签后,除非请求显示它,在它们下拉时,暂时地覆盖当前窗口的一部分。根据需要,不同的方法使菜单在指针的位置处弹出。在该情况下,菜单内容通常随着环境而变化。菜单内容为多数竖直显示的经常以文本标签的形式的图标的有序排列。
由于技术发展可用的显示空间增多,在GUI中出现菜单的变型。在这些新型菜单中,重要的且经常使用的对象和操作是不隐藏的,但是持续被制成可视的小的大多数图形的图标。它们一般被水平显示且被称作条、板、停靠栏或带。基于圆形几何形状、尤其在弹出情况下,也已经开发了放射状菜单或饼状菜单。
有限的显示空间的问题不以找到访问更多图标的方式结束。例如,文件尺寸易于超过可用空间,因此,在GUI的早期阶段,包含了对于分页和滚动的古老的解决方案的虚拟变型。还已经适应了缩放和平移的更一般的但仍线性的方法,尤其在呈现图形内容的情况下。在信息可视化环境下,基于兴趣度功能,基于失真的显示(例如透镜状)、以及背景+焦点(context+focus)技术和广义的鱼眼视图(fish-eye views)已经被应用。
在GUI的图形语言中,图标可被视为意思与语言中的名词类似的元素。类似地,控制操作对应于动词,且简单的图形对象-操作语句可通过指向和点击的基本语法而构建。指向通过移动鼠标或者类似装置而实现且它具有在显示器上移动指针的效果。
点击实际上是复合操作且对于鼠标其包括闭合开关(按键向下)和再次断开开关(按钮朝上),而没有在两者之间的明显定位运动。如果存在明显的运动,则可通过界面解释为对象的拖动、或者显示空间或其内容的矩形部分的选择。这些操作的延伸包括双击和右击。
简单基于四个WIMP对象类型和指向&点击操作,原始的GUI已被应用至各种各样的任务,其创建了大型的且全球化的用户基础。尽管该成功和不断创新超过三十多年,但是仍存在许多挑战。
效率是十分担忧的问题,且一些GUI操作仍需要多次重复指向和点击以完成相对简单的概念任务,例如选择文件或者改变文本的属性。在用户已经进行心理选择且仅需要将此传达至计算机的情况下,强制的空间遍历、如文件系统或者工具集层次结构的导航,可以是缓慢的且令人沮丧的。这是不得不将每一用户操作分为小的步骤的直接后果,每一小的步骤匹配GUI语法。
GUI及其衍生物的最大缺陷之一涉及这样的事实:指向操作基本上被忽视直到用户点击。在交互期间,计算机应理想地响应用户头脑中的相关的且可能变化的意向状态。尽管这些状态不能直接检测到,但用户运动的一些方面可被追踪以推测它们。在GUI交互中,只有两个状态被隐式模型化:兴趣和确定性。
在指向和点击界面中,用户有时通过指向对象而表示兴趣且总是通过点击表示确定性。兴趣有时只能从指向来推测,因为在其他时候,指针在通向感兴趣区域的途中经过不感兴趣的区域。这种关于指向的模糊性通过使计算机主要对点击作出响应而克服。只有当点击指示确定性时,指向被解释为明确的兴趣。因此,以分层方式,GUI采用二进制水平工作以分别用于兴趣和确定性,其中,在甚至考虑兴趣之前,需要确定性。
因此,典型的GUI交互为不连续的过程,其中,在点击后信息率立即上升至非常高的值,如突然打开新窗口一样。这会导致迷惑的用户体验。已经引入动画以缓和这种效果,但一旦开始,它们不能被反向。在GUI中的动画为不受控制的运动,只是视觉定向辅助工具。
对于指向的更好的界面响应可通过积极地利用将光标与图标相分离的空间来实现,而不是将它作为障碍来对待。根据相对的光标距离的对象尺寸的变化可被导入GUI中,且该效果可与透镜作用相比。然而,一旦两个对象重叠,则简单的放大将不能分离它们。
对于改善GUI使用的速度和易用性已经取得了进展。专利US7434177描述了一种用于图形用户界面的工具,该工具允许大量的对象位于且同时显示在用户栏中,要求提供对这些对象更多的访问。通过提供一排相邻的对象,且当指针定位在这排相邻的对象上时,相对于每一对象与指针的距离放大对象,来完成这点。换句话说,当指针定位在该排上面时,具体对象的放大取决于指针距离该对象的侧边缘的横向距离。因此,该发明可被描述为可视化工具。
PCT/FI2006/050054描述了一种GUI选择器工具,其在饼状菜单配置中围绕中心点将一区域划分成多个部分。这些部分中的一些或全部根据其相对于指针的距离而被缩放。呈现为通过角度测量距离且该工具允许圆周滚动。缩放可以是部分的放大或缩小。整个放大的区域呈现为是可选择的且因此给用户提供了运动优势。本发明希望解决的问题呈现为是增加在小显示屏(例如手持装置)上显示的可选择对象的数量。该工具已应用于称作Twheel的Twitter界面。
在美国专利6073036中描述了类似的选择器工具。该专利公开一种方法,其中,多个符号中的一个符号被放大成接近触觉输入,以增加可视化和扩大输入区域。
发明人还意识到输入装置(例如触摸板)利用近程式传感器以感测对象的出现或接近,该对象例如为远离触摸板或靠近触摸板的人手指。例如,US2010/0107099、US2008/0122798、US7653883和US7856883。
Furnas(1982、1986)引入基于兴趣度函数的广义鱼眼视图。该函数部分地基于用户光标和对象之间的距离。Sarkar和Brown(1992)对该概念进行扩展以显示包括地图的平面图。
已经提出可缩放用户界面(ZUI)的整个范围以解决有限显示空间的问题:
-Perlin和Fox(1993)提出平面电脑(Pad),一种在用户之间共享的无限二维信息平面,其中对象被地理组织且通过“入口”被访问。这些可递归地被采用。它们也定义了语义缩放的思想,其中,对象的可视部分根本上取决于可用于其显示的尺寸。
-Bederson和Hollan(1994)将他们的改进称作Pad++。当“把界面设计看做用于信息对象采集的外观和行为的物理现象的发展”、而不是从现实的一些方面(例如,台式电脑)获得的延伸比喻的发展时,他们表示他们希望超越WIMP界面。
-Appert和Fekete(2006)提出了“OrthoZoom Scroller”,其通过借助两个正交维度控制平移和缩放,而实现在非常大的一维空间内的目标获取。在另一文献中(也是2006),他们公开了“ControlTree”,一种“使用交叉相互作用以导航和选择大树中的节点的界面”。
-Dachselt等(2008)“提出FacetZoom,一种具有可缩放用户界面的新型多尺度部件结合面浏览。分层的面被显示为空间填充的部件,其允许各个层次的快速遍历,同时维持上下文。”
-Cockburn等(2007)评论了ZUI以及Overview+Detail和Focus+Context界面,且提供了现有技术的概要。
-Ward等(2000)提出了“Dasher”,一种使用连续的手势的文本输入界面。用户通过空间控制导航的速度和方向,该空间显示出与不可能的完成相比具有较大尺寸的当前文本字符串的可能的完成。
费茨法则(Fitts,1954)以及基于此的许多研究的考虑,已经导致菜单布置在显示器的边缘而不是相关联的窗口上,且导致当指针接近时放大可能的目标图标。
许多研究者认识到GUI的合成世界不必遵守物理法则。例如,相同的对象在虚拟空间中可一次在大于一个位置处示出。对象也可被给予响应用户操作的代表的特性。Balakrishnan(2004)综述了通过减小目标距离D(使用饼状菜单,使潜在的目标暂时地更为靠近、去除光标和目标之间的空白空间)、增加目标宽度W(区域光标、扩大目标,甚至在后期)和改变D和W两者(动态地改变控制-显示增益,称作语义指向)而进行的一系列对于“打败”费茨法则的尝试。他们总结出,“调查显示尽管至今所研发的技术是有希望的,尤其当应用于选择单个分离的目标时,但是许多技术不能很好地扩展到图形用户界面中的常见情况,其中多个目标紧密地定位。”
Samp&Decker(2010)通过实验测量和比较了使用线性菜单和放射式菜单的图像搜索时间和指向时间,且大致地发现利用线性菜单搜索更为容易而利用放射式菜单指向更为容易。它们还提出了紧凑放射状布局(CRL)菜单作为分级菜单,其相对于专家和新手用户具有令人期望的特性。
上述大多数方法集中在交互的可视化部分。在某些情况下,这可是有利的,但是效率还关键取决于易于控制,这是完全不同的问题。它涉及人运动控制以及将控制空间分配至某些操作,而不是将显示空间分配至它们的视觉表示。控制空间的动态再分配是语义指向的一部分,其基于预定的(先验的)优先级和一些其它的基于时间的方案,例如Twheel方案。
因此,仍需要用于人机交互的改进的方法,该交互将允许信息空间的直观的且有效的导航、以及在大量的合格对象中选定一个对象,这将准许用户遇见他们的与内容消耗和创建相关的目标。因此,本发明的目的在于设计GUI,其以紧密的控制回路提供用户不固定的且连续的交互,该交互易于被反转直到达到阈值,其中,所述交互基于当它们被检测时由用户发出的优先级,且提供动态可视化和动态运动控制的优势。
发明内容
根据本发明,提供了一种用于在图形用户界面(GUI)上进行人机交互的方法,所述方法包括以下步骤:
利用输入装置或相对于输入装置确定指针的坐标;
确定交互对象的坐标,显示所述交互对象中的至少两个对象;
建立与交互对象有关的阈值以及与围绕交互对象的空间有关的阈值;
根据交互对象相对于指针的距离和/或方向,确定交互对象的优先级;
根据对象优先级移动交互对象和阈值;
每当指针的坐标改变时,重复上述步骤;和
当达到阈值时,执行操作。
交互对象的优先级例如可为0和1之间的连续值,其中,0为最低优先级值且1为最高优先级值。例如,优先级还可为离散值或者任意其他排序方法。
最高优先级可给予最靠近指针的交互对象,而最低的优先级可给予最远离指针的交互对象。
当针对交互对象计算新坐标时,最高优先级的交互对象可移动至更靠近指针,反之亦然。一些对象可与用户协作,而其他对象可回避操作。
除了移动之外或者代替移动,可根据交互对象的优先级而设定其尺寸。
根据每一对象的优先级,较低优先级的对象可被移动远离较高优先级的对象和/或指针。一些对象可彼此协作,而其他对象可通过避开彼此以及相应地移动来回避操作。
所述方法还可包括首先固定或者确定指针的参考点的步骤,坐标中的其他变化参考该参考点。
所述方法还可包括重置或重新定位指针参考点的步骤。
当达到显示空间的边缘时、或者当到达阈值时,指针参考点可被重置或可被重新定位为指针的新起始点,以用于另一导航。在一些实施方式中,例如当指针对象从触敏输入装置提起时,参考点也可被用户重置或重新定位。
对象的初始坐标可根据数据结构或根据按照每个对象的相对优先重要性分配给每个对象的权重,所述方法可包括确定交互对象相对于彼此的坐标的步骤。
确定在GUI上显示的交互对象的坐标的步骤可包括确定交互对象相对于彼此的坐标的步骤。
坐标系可选自笛卡儿(Cartesian)坐标系、例如x、y坐标,或者极坐标系。应当理解,坐标系之间存在联系,且能够从一个坐标系转换到另一坐标系。
所述方法可包括步骤:布置对象使得自指针的每一方向可指向至多一个对象的位置坐标。可从指针以一系列角度指向每一对象。参考对象被布置在圆中或者布置在线上的示例。
可确定从指针或指针参考到对象的坐标的距离和/或方向。
从指针或指针参考到对象的方向测量和/或距离测量可被用作用于确定优先级的算法中的参数。方向测量和距离测量可分别是角度测量和径向测量。参照可使用的几何形状的示例(图30和图31)。
所述方法还可包括记录指针的移动的步骤。指针的历史移动是也称作映射线的轨线。该轨线可用于确定指针的目的方向和/或速度和/或其时间导数,其可被用作用于确定交互对象的优先级的参数。应理解,轨线还可被用于确定与确定优先级的一个对象或多个对象有关的输入。
应理解,在圆中对象围绕指针的布置为对象在凸空间的边界上的布置。还应理解,存在许多可被使用的凸空间,例如圆、矩形和三角形。对象可被布置在边界的一部分上,例如弧形段或者线段。参考图32。
本发明的重要优势在于,能够分开使用关于对象的距离和方向以确定对于对象的位置、尺寸、状态等的独立效果。例如,距离可确定对象的尺寸且方向可确定对象的位置。
可定义四种不同类型的阈值。一种阈值为与对象有关的阈值,通常建立在对象的边界上。另一种阈值可与围绕对象的通常沿着对象之间的最短线的空间相关联。可固定与指针参考点有关的第三种类型的阈值。当指针坐标在一定的空间界限内对于预定的时间保持静止时,可基于时间建立第四种类型的阈值。据称,指针在这些坐标处“悬停”。
与对象有关的阈值当达到时可被穿过。在该情况下,可选择对象或者可触发与该对象有关的任何其他输入或指令。与围绕对象的空间相关联的阈值当达到时可被激活,以进一步显示逻辑上属于围绕该对象的空间内的交互对象。
对于每一对象以及围绕对象的空间,可建立多个阈值。
当达到阈值时,指针可视化表示可被改变。
当达到阈值时,所显示的背景可被改变。
当达到阈值时,对象的可视化表示可被改变。
应理解,与交互对象类似,阈值的位置和/或形状也可根据交互对象且相对于彼此动态变化。
对象的状态或目的可相对于指针的位置进行变化。在该情况下,例如,根据指针,图标可转换成窗口,反之亦然。该实施方式将用于对象的导航以及确定在导航至该对象期间对该对象实施哪一操作。
还应理解,本发明允许在指针到达该对象之前,动态的分层导航和与对象交互。另外,本发明允许不选择对象的情况下的导航。
在半圆或半圆的一部分的情况下,应理解到,上文描述的与GUI相结合的这种几何形状将可以利用握持手持装置的同一手在该手持装置上进行导航,同时提供大量的导航选项和交互。此外,这种布置可将在触敏屏幕上被用户的手所遮蔽的区域限制到屏幕的底部或其他方便的边缘部分。一旦完成操作,则用户再次从参考点开始,从而避免屏幕遮蔽。在该情况下,指针参考点坐标或指针起始点坐标可被分配给指针,且一旦阈值已被激活,则参考点可变成用于下一阶段导航的对象的新的起始点。
应理解,本发明还涉及一种导航工具,其通过改进交互对象的可视化和可选择性提供动态导航。
不管对象显示或不显示可以进行与对象的交互。
所述方法可以包括确定大于一个的指针的坐标的步骤。则所述方法可包括建立指针之间的关系的步骤。
当输入装置也不是显示器时,指针的表示可被显示在GUI上。因此,所述方法可包括在GUI上显示指针的表示以用作显示器上的参考。
响应于指针的位置和/或移动,交互对象的尺寸计算和/或坐标变化可为线性函数、指数函数、幂函数、双曲线函数、启发式函数、多部分函数或者其组合。该函数可被配置成用户可调整的。
所述方法可包括激活与围绕对象的空间相关联的阈值以建立逻辑上属于现有的交互对象之间的空间内或者现有的交互对象之间的空间后的新的交互对象。例如,当现有的对象已经被移动且重新设定尺寸以提供用于新的对象的更多的空间时,则可以建立逻辑上属于现有的交互对象之间的对象。新的对象可从非可视的交互对象变为比得上的交互对象,以形成通过空间导航的效果和/或导航进入在现有的对象之外的层次的效果。还应理解,新的对象可与现有的对象相同地反应,如上文关于移动和设定尺寸方面所述。一旦达到阈值,则可从新的指针参考点再次开始交互。
根据本发明的另一方面,提供一种用于在图形用户界面(GUI)上进行人机交互的方法,所述包括步骤:
确定指针的坐标;
相对于指针或中心点以凸形集合构型布置交互对象;
以凸形集合形式显示一个或多个交互对象;
根据指针的坐标确定GUI上显示的交互对象的坐标;
根据交互对象与指针的距离确定交互对象的优先级;
根据交互对象的优先级移动交互对象;和
每当指针的坐标变化时,重复上述步骤。
所述方法还可包括以下步骤:
确定交互对象的交互坐标;
确定交互对象的显示坐标,所述交互对象中的至少两个对象被显示。
所述方法可包括步骤:布置对象使得从指针的每一方向可指向至多一个对象的交互坐标。从指针以一系列角度指向每一坐标。参考以圆或线布置对象的示例。
应理解,对象的交互坐标可与对象的显示坐标不同。例如,交互坐标可被用在函数或算法中以确定对象的显示坐标。因此,还应该理解,交互坐标可被布置成提供功能上的优势,例如如下文所述将对象的交互坐标布置在凸形空间的边界上,且显示坐标可被布置成给用户提供视觉优势。
可确定从指针或指针参考到对象的交互坐标或显示坐标的距离和/或方向。
当针对交互对象计算新的交互坐标时,最高优先级的交互对象可移动至更靠近指针和/或被分配更大的尺寸,反之亦然。
对象的初始交互坐标可根据数据结构或根据按照每个对象的相对优先重要性分配给每个对象的权重,所述方法可包括确定交互对象相对于彼此的交互坐标的步骤。
确定在GUI上显示的交互对象的交互坐标的步骤可包括确定交互对象相对于彼此的交互坐标的步骤。
从指针或指针参考到交互坐标的方向测量和/或距离测量可被用作算法中的参数以确定对象的优先级。方向测量和距离测量可分别是角度测量和径向测量。
应理解,在圆中围绕指针的对象交互坐标的布置为在凸空间的边界上的对象交互坐标的布置。还应理解,存在许多可被使用的凸空间,例如圆、矩形和三角形。对象可被布置在边界的一部分上,例如弧形段或者线段。参考图32。
本发明的重要优势在于,能够分开使用关于对象交互坐标的距离和方向以确定对于对象的位置、尺寸、状态等的独立效果。例如,距离可确定对象的尺寸且方向可确定对象的位置。
在交互坐标和显示坐标被分离的情况下,可限定两种附加类型的阈值。一种类型的阈值可为与对象的交互坐标有关的阈值。另一阈值可与围绕对象的交互坐标的通常沿着交互坐标之间的最短线的空间相关联。
与对象的交互坐标有关的阈值当达到时可被穿过。在该情况下,可选择对象或者可触发与该对象有关的任何其他输入或指令。与围绕对象的交互坐标的空间相关联的阈值当达到时可被激活,以进一步显示逻辑上属于围绕该对象的交互坐标的空间内的交互对象。
对于每一对象的交互坐标以及围绕对象的交互坐标的空间,可建立多个阈值。
还应理解,本发明允许在指针到达交互坐标之前的动态分层导航和与对象的交互坐标的交互。
不管对象显示或不显示可以进行与对象的交互坐标的交互。
响应于指针的位置和/或移动,对象的交互坐标的移动可为线性函数、指数函数、幂函数、双曲线函数、启发式函数或者其组合。
所述方法可包括激活与围绕对象的交互坐标的空间相关联的阈值以建立逻辑上属于现有的对象的交互坐标之间的空间内或者现有的对象的交互坐标之间的空间后的新的交互对象。例如,当现有的对象已经被移动且重新设定尺寸以提供用于新的对象的更多的空间时,则可以建立逻辑上属于现有的对象之间的对象。新的对象可从非可视的交互对象变为比得上的交互对象,以形成通过空间导航的效果和/或导航进入在现有的对象之外的层次的效果。还应理解,新的对象可与现有的对象相同地反应,如上文关于移动和设定尺寸方面所述。一旦达到阈值,则可从新的指针参考点再次开始交互。
在本发明的一个实施方式中,坐标系可选自三维笛卡儿坐标系、例如x、y、z坐标,或者极坐标系。应当理解,坐标系之间存在联系且能够从一个坐标系转换到另一坐标系。所述方法还可包括步骤:将虚拟的z坐标值分配给在GUI上显示的交互对象,以形成在显示器后和/或显示器上方延伸的虚拟三维GUI空间。
则所述方法还可包括以下步骤:
将虚拟的z坐标值分配给在GUI上显示的交互对象,以形成在显示器后和/或显示器上方延伸的虚拟三维GUI空间;和
根据指针对象在输入装置上方的距离Z,确定相应的虚拟z坐标值。
应理解,与布置在平面内的对象有关的阈值可被建立成对象的三维边界。一个阈值可与和围绕对象的空间相关联的平面链接,该平面通常垂直于在对象之间的最短线。另一阈值可与指针参考点有关,例如在三维空间中距离参考点的预定距离。此外,所述方法可包括建立与z轴上z坐标值有关的阈值的步骤。指针对象的Z坐标可与该阈值有关。
虚拟的z坐标值可包括沿着z轴的正值和负值。例如,正的虚拟z坐标值可被用于限定在显示器的表面上方的空间,而负的虚拟z坐标值可被用于限定在该表面下方(里面或后方)的空间,所述空间是虚拟的。则可沿着用于输入装置的Z轴限定阈值平面,其可代表显示器的表面。在阈值平面上方的z坐标的值可以用正的z值表示,在阈值平面下方的值表示负的z值。应理解,默认情况下,显示器的z坐标值将分配为零值,其对应于阈值平面的为零的z值。
在激活或穿过虚拟的阈值平面后,新的虚拟阈值平面可通过将指针悬停预定的时间而建立。应理解,这种方式可仅仅是更深入GUI显示器内(即更高的负z值)的连续导航的一种方式。
在本发明的另一实施方式中,悬停指针对象,换句话说,指针对象处于某一Z值或者位于某一Z值附近预定的时间时,所述方法可包括在相应的虚拟z坐标值处建立水平的虚拟阈值平面,其可代表显示器的表面。则当指针的x、y坐标接近或者邻接在GUI上显示的交互对象之间的空间时,将激活阈值。如果指针的x、y坐标对应于交互对象的x、y坐标,随后指针对象沿着z轴接近该交互对象,则穿过阈值且通过接触触摸板或者点击诸如鼠标的指针装置来选择对象。
所述方法可包括提供多个沿着z轴的虚拟阈值平面,每个平面提供了将交互对象设置在GUI中的平面,优选地在任一时刻仅有一个平面中的对象可视,尤其在二维显示器上。在二维显示器上,其他平面上的具有比被显示的对象更负的z坐标值的交互对象可以是不可视的、透明的或者替选地呈现灰色的或隐藏的。较正的z值的交互对象将自然是不可视的。在三维显示器上,在另外的阈值平面上的交互对象可以是可视的。应理解,本发明的特征可用于在GUI上的导航。
沿着z轴的阈值可动态地变化和/或可包括调零机制,以允许用户导航至多个调为零的阈值平面。
在本发明的一个实施方式中,在显示器表面表示水平阈值的情况下,显示器的表面的虚拟z值和水平假想阈值的Z值可具有相对应的值,在显示器表面不表示水平阈值的情况下,显示器的表面的虚拟z值和水平假想阈值的Z值可具有非对应的值。应理解,后者将用于与在三维图形显示器上显示的GUI的交互,其中,显示器的表面本身可以是不可视的且交互对象出现在显示器的实际表面的前方和后方。
指针的可视化表示可根据其沿着z轴、Z轴的位置或者其相对于阈值的位置而变化。
所述方法可包括步骤:根据指针对象的x、y和Z坐标,确定在独立的、固定的或者静止的x、y坐标上方的指针对象的取向或者取向变化。对于鼠标指向装置而言,鼠标可确定x、y坐标,而在鼠标按钮上方的指针对象的位置可确定独立的x、y和Z坐标。对于触敏输入装置而言,通过点击按钮可确定x、y坐标,例如,从该按钮可确定取向。应理解,这将是在虚拟的三维GUI空间内到达或导航至对象的后方或周围的一种方式。还应理解,x-轴的取向可模拟例如操纵杆,其可用于导航三维虚拟图片,例如计算机游戏、飞行模拟器、机器控制等。在该情况下,还应理解,在固定的x、y坐标上方的指针对象的x、y、z坐标会变化。则固定的指针可被显示且可移动的指针可被显示。连接固定的指针和可移动的指针的线可被显示以模拟操纵杆。
根据本发明的另一方面,提供了一种用于在图形用户界面(GUI)上进行人机交互的方法,所述方法包括以下步骤:
定位虚拟空间中的称为指针的点,用户在一时刻在该点处导航;
定位虚拟空间中的多个点;
根据算法,计算虚拟空间中的多个点与虚拟空间中的指针的交互,由此减小更靠近指针的点与指针之间的距离;
建立与参考点以及与围绕参考点的空间有关的阈值;
根据算法,相对于参考点和指针之间的距离移动参考点阈值和/或设定参考点阈值的大小;
每当指针的坐标变化时重复上述步骤;和
当达到阈值时,执行操作。
换句话说,所述算法导致虚拟平面和空间针对更靠近的参考点而收缩,且针对更远离的参考点而扩大。空间的收缩和扩大可用图形方式表示以对GUI的用户提供视觉帮助。
在虚拟空间内的一个或多个参考点处,其他的特征可被分配成充当协作目标或协作信标。所述协作目标或协作信标可是交互的且将是交互对象,如在本说明书中先前所述。这种其他的参照的目标或信标可被图形显示在计算机的显示器上。这种目标或信标可根据算法而显示。
参考点或目标点或者信标点与指针的交互可根据用于计算在虚拟空间内非指定点之间的交互的另一算法。
当指针和目标或信标之间的距离减小时,所述算法还可包括用于增加尺寸或交互区以及其图形表示的函数,反之亦然。
根据算法可定位(激活)空间中的点。
在虚拟空间中的点可根据用于虚拟平面的x、y坐标以及用于虚拟空间的x、y、z坐标定位。
空间中的对象、目标、信标、或导航目的地应自然地遵循空间的扩大和收缩。
所有先前描述的特征也可被并入到本发明的该方面。
根据本发明的另一方面,提供了一种用于在图形用户界面(GUI)上进行人机交互的方法,所述方法包括以下步骤:
利用输入装置或相对于输入装置确定指针的坐标;
确定交互对象的交互坐标;
确定交互对象的显示坐标,所述交互对象中的至少两个对象被显示;
创建与所述交互对象有关的阈值和与围绕所述交互对象的空间有关的阈值;
根据所述交互对象相对于所述指针的距离和/或方向,确定所述交互对象的优先级;
相对于对象优先级移动交互对象和阈值;
每当指针的坐标变化时,重复上述步骤;和
当达到阈值时,执行操作。
所有先前描述的特征也可被并入到本发明的该方面。
根据本发明的另一方面,提供了一种导航工具,该导航工具被配置成:
利用输入装置或相对于输入装置确定指针的坐标;
确定交互对象的坐标,所述交互对象中的至少两个对象被显示;
创建与所述交互对象有关的阈值和与围绕所述交互对象的空间有关的阈值;
根据所述交互对象相对于所述指针的距离和/或方向,确定所述交互对象的优先级;
相对于对象优先级移动交互对象和阈值;
每当指针的坐标变化时,重复上述步骤;和
当达到阈值时,执行操作。
所有先前描述的特征也可被并入到本发明的该方面。
根据本发明的另一方面,提供了一种图形用户界面,其被配置成:
利用输入装置或相对于输入装置确定指针的坐标;
确定交互对象的坐标,所述交互对象中的至少两个对象被显示;
创建与所述交互对象有关的阈值和与围绕所述交互对象的空间有关的阈值;
根据所述交互对象相对于所述指针的距离和/或方向,确定所述交互对象的优先级;
相对于对象优先级移动交互对象和阈值;
每当指针的坐标变化时,重复上述步骤;和
当达到阈值时,执行操作。
根据本发明的另一方面,提供了一种计算机和计算机操作装置,其包括如上所述的GUI或导航工具。
定义
1.指针-为虚拟平面或虚拟空间中的点,用户在一时刻在该点处导航,且指针可以是不可视的或者可以通过图形表示或显示GUI上,例如能够移动以选择在GUI上显示的交互对象的箭头、手等。这也是用户能够进行输入的位置。
2.交互对象-包括在GUI上显示的可视的或不可视的对象,诸如图标、菜单条等,其是交互的且例如当选定时将指令输入到计算机中。交互对象包括用户的合作目标。
3.不可视的交互对象-在交互对象之间的交互空间、或者在交互对象之间的空间内的交互点、或者隐藏的交互对象。
4.指针对象为被用户使用以控制指针的对象,以及为在指向装置上方或者在触敏输入装置上方的对象,通常为光笔或人的手指或其他的部分,但在其他情况下也可为眼睛移动等。
5.虚拟的z坐标值为分配给可视的或不可视的交互对象的z坐标值。
附图说明
现结合附图以示例方式描述本发明。
在附图中:
图1示意性示出根据本发明的在GUI上的一系列人机交互的示例;
图2示意性示出根据本发明的在GUI上的一系列人机交互的另一示例;
图3示意性示出根据本发明的在GUI上的一系列人机交互的另一示例;
图4示意性示出根据本发明的在GUI上的一系列人机交互的另一示例;
图5示意性示出根据本发明的在GUI上的一系列人机交互的另一示例;
图6示意性示出根据本发明的在GUI上的一系列人机交互的另一示例;
图7示意性示出根据本发明的在GUI上的一系列人机交互的另一示例;
图8示意性示出交互对象围绕中心点的布置的示例;
图9示意性示出一系列用以完成许多交互的实际人机交互;
图10示意性示出用以在计算机的已知GUI上完成交互的指针移动线与在计算机的根据本发明的GUI上完成相同交互的映射线之间的差异;
图11示意性示出根据本发明的用于人机交互的z轴线和Z轴线的合并;
图12示出根据本发明的z轴线和Z轴线之间的关系的示例;
图13至图16示意性示出根据本发明的用于使用三维输入装置完成许多交互的一系列实际的人机交互;
图17示意性示出根据本发明的用于使用三维输入装置完成许多交互的实际的人机交互的另一示例;
图18示意性示出根据本发明的用于人机交互的指针对象的x、y和Z坐标的方向和移动的使用;
图19示意性示出根据本发明的用于人机交互的Z-轴线的特征的使用;
图20至图23示意性示出根据本发明的在GUI上的一系列人机交互的另一示例;
图24示意性示出根据本发明的空间中的点以围绕中心参考点的圆形图案被引用的示例;
图25示意性示出根据本发明的在GUI上的一系列人机交互的另一示例;
图26示意性示出根据本发明的在GUI上的一系列人机交互的另一示例;
图27示意性示出根据本发明的在GUI上的一系列人机交互的另一示例;
图28示出根据发明的用于递归地导航分层数据的方法的示例;
图29示意性示出根据本发明的用于完成许多交互的实际人机交互的另一示例;
图30示出可被用于使用距离测量和角度测量作为关于交互对象的相应的输入的几何形状的示例;
图31示出可被用于使用从指针的距离测量和角度测量作为关于交互对象的相应的输入的几何形状的示例;
图32示出凸形形状的示例;
图33示出根据本发明的使用独立的交互坐标和显示坐标以将特定的交互行为和可视化优势提供给用户的示例;
图34示出使用独立的交互坐标和显示坐标以及三位输入装置以递归地导航分层数据集的示例;
图35示出根据本发明的使用独立的交互坐标和显示坐标以执行一系列导航步骤和选择步骤的示例;
图36示出使用独立的交互坐标和显示坐标以及第二指针以提供不同的交互行为的示例;和
图37示出用于递归地导航分层数据的方法的示例,该分层数据具有与数据集中的对象相关联的不等的相对重要性。
具体实施方式
在下文的示例性图示和描述中,一组项目可用相同的数字来表示,而特定的项目可以子数字来表示。例如,18或18.i表示交互对象组,而18.1和18.2分别表示第一对象和第二对象。在项目分层的情况下,将采用其他的子数字,例如18.i.j和18.i.j.k。
现参照图1,根据本发明的GUI通常由附图标记10来表示。当输入装置也不是显示器时,可在GUI10上显示指针的表示14。根据本发明,一种用于在GUI10上进行人机交互的方法包括以下步骤:利用输入装置或相对于输入装置确定指针14的坐标12、以及相对于指针14的坐标12确定在GUI上显示的交互对象18的坐标16。所述方法还包括以下步骤:创建与交互对象18相关的一组阈值23、以及与围绕该交互对象18的空间相关的一组阈值21。该方法包括以下步骤:根据交互对象18到指针14的距离而确定交互对象18的优先级、以及根据对象优先级移动交互对象18和阈值21、23。每当指针14的坐标12变化时,重复这些步骤。该方法还包括以下步骤:当到达阈值21或阈值23时,执行操作。在必要的情况下,一些交互对象被滚动离开屏幕,而其他交互对象被滚动出现在屏幕上。在该示例中,交互对象的优先级为0和6之间的离散值,其被排序以形成等级,其中,0表示最低优先级且6表示最高优先级。可替选地,交互对象的优先级可是0和1之间的连续值,其中,0表示最低优先级且1表示最高优先级。最高优先级将给与最靠近指针14的坐标12的交互对象18,而最低优先级则给与距离指针14的坐标12最远的交互对象。当计算交互对象18的新坐标16时,最高优先级的交互对象18移动至较靠近指针坐标12,以此类推。创建与交互对象周围的空间相一致的第一组阈值21;且创建与交互对象的周边相一致的第二组阈值23。将访问逻辑上属于被显示的交互对象之间的空间内或空间后的对象的函数分配给第一组阈值21,当到达并激活阈值21时可执行该函数。另一函数被分配给第二组阈值23,由此在该情况下,当到达对象的周边、当穿过阈值23时,例如通过穿越周边,可选择交互对象18.6。所述方法还可包括以下步骤:当到达阈值时,更新指针14的可视化表示。例如,当到达阈值23时,指针的可视化表示可从箭头图标变化成选择图标。分配区域19,其中,指针14的坐标是代表性的。所述方法还可包括以下步骤:首先固定或确定指针的参考点20,在该情况下为区域19的中心点。例如,当到达代表性区域19的边缘时、或者当穿过阈值23时或者当激活阈值21时,指针的参考点20可被重设或重新定位成用于GUI上的另一导航的新的起始点。在其他的实施方式中,例如当指针对象从触敏输入装置提起时,参考点也可被用户重设或者重新定位。在图1.1中,对象在其初始位置中示出,且未出现指针。在图1.2中,在区域19内引入指针14,其结果为,对象16.4及其相关的阈值移动至更靠近指针14。在图1.3中,指针14向右移动。作为回应,所有的对象向左滚动使得对象16.1和对象16.2移出屏幕外,而对象16.8和对象16.9移动到屏幕上。目前交互对象16.6具有最高优先级且移动至更靠近指针,在图1.4中,指针14朝向对象16.6向上移动,其结果为对象16.6移动至更靠近指针14。
现参照图2,根据本发明的GUI通常由附图标记10来表示。在该情况下,由于输入装置也不是显示器,故指针的表示14被显示在GUI上。根据本发明,用于在GUI10上进行人机交互的方法包括以下步骤:利用输入装置或者相对于输入装置确定指针14的坐标12、以及相对于指针14的坐标12确定在GUI上显示的交互对象18的坐标16。在该情况下,对象18以圆形方式布置,使得自指针14的坐标12的每一方向指向至多一个对象的位置坐标16。从指针14以一系列唯一角度指向每一对象18。在图2.1中开始且在图2.3中结束的交互序列被示出,其中,指针从参考点20朝向交互对象18.2移动。与交互对象18相关的、与交互对象18的周边相一致的一组阈值23被创建。所述方法还包括以下步骤:根据交互对象18相对于指针14的方向确定交互对象18的优先级,且将最靠近指针14、具有最高的优先级的交互对象18.2(以灰色示出)及其阈值23.2移动至更靠近指针坐标12,并且,每当指针14的坐标12变化时,重复上述步骤。该方法还包括步骤:当到达阈值23时,执行操作。在该示例中,交互对象的优先级为0和7之间的离散值,其排序以形成等级,其中0表示最低优先级而7表示最高优先级。可替选地,交互对象的优先级可为0和1之间的连续值,其中0表示最低优先级而1表示最高优先级。最高优先级将给与最靠近指针14的坐标12的交互对象18,而最低优先级可给与最远离指针14的坐标12的交互对象18。当计算交互对象18的新的坐标16时,最高优先级的交互对象18.2(以灰色示出)及其阈值23.2将移动至更靠近指针14,以此类推。一函数被分配给阈值23,由此,当到达交互对象(在该情况下,灰色交互对象18.2)的周边时,当例如通过穿越周边而穿过阈值23.2时,交互对象18.2可被选择。当指针14的坐标12与确定优先级的交互对象18的坐标16一致时,选择最高优先级对象。区域19被指定,其中,指针14的坐标12是代表性的。该方法还可包括步骤:首先固定或确定指针的参考点20,在该情况下为区域19的中心点。例如在对象18为文件夹的情况下,例如当到达显示空间的边缘时、或者当到达代表区域19的边缘时、或者当穿过阈值23时,指针的参考点20可被重设或重新定位成用于GUI上的另一导航的新的起始点。在其它实施方式中,例如当指针对象从触敏输入装置被提起时,参考点也可被用户重设或者重新定位。
现参照图3,根据本发明的用于在GUI10上进行人机交互的方法包括步骤:利用输入装置或者相对于输入装置确定指针14的坐标12、以及相对于指针14的坐标12确定在GUI上显示的交互对象18的坐标16。在该情况下,对象18以圆形方式布置,使得自指针14的坐标12的每一方向指向至多一个对象18的位置坐标16。从指针14以一系列唯一角度指向每一对象18。在图3.1中开始且在图3.3中结束的交互序列被示出,其中,指针从参考点20朝向交互对象18.2移动。与交互对象18相关的、与交互对象的周边相一致的一组阈值23被创建。所述方法还包括步骤:根据交互对象18的与指针14的坐标12的距离确定交互对象18的优先级,且将最靠近指针14、具有最高优先级的交互对象18.2(以灰色示出)及其阈值23.2移动至且更靠近指针14,并且,每当指针14的坐标12变化时,重复上述步骤。该方法还包括步骤:当到达阈值23时,执行操作。在该示例中,交互对象的优先级为0和7之间的离散值,其中0表示最低优先级而7表示最高优先级。可替选地,交互对象的优先级可为0和1之间的连续值,其中0表示最低优先级而1表示最高优先级。最高优先级将给与最靠近指针14的交互对象18,而最低优先级将给与最远离指针14的交互对象18。当计算交互对象18的新的坐标16时,最高优先级的灰色交互对象18将移动至更靠近指针14,以此类推。在该示例中,该方法包括步骤:确定交互对象18相对于彼此的坐标16。在该情况下,根据各个对象的优先级,较低优先级的对象18移动远离较高优先级的对象和指针14。最高优先级的对象18.2与用户合作,而其他对象18回避操作。当计算交互对象18的新坐标16时,最高优先级的交互对象将移动至更靠近指针14,而最低优先级的对象将移动成最远离指针,其它剩余对象根据其相对优先级而移动。一函数被分配给阈值23,由此,当以下时,交互对象,在该情况下为灰色的交互对象18,可被选择:当到达灰色对象18的周边时,例如通过穿越周边而穿过阈值23时。当指针14的坐标12与确定优先级的交互对象18.2的坐标16.2一致时,选择最高优先级对象18.2。区域19被指定,其中,指针14的坐标是代表性的。该方法还可包括步骤:首先固定或确定指针的参考点20,在该情况下为区域19的中心点。例如在对象18为文件夹的情况下,例如当到达显示空间的边缘时、或者当到达代表区域19的边缘时、或者当穿过阈值23时,指针的参考点20可被重设为用于GUI上的另一导航的新的起始点。在另一实施方式中,例如当指针对象从触敏输入装置时,参考点也可被用户重设或者重新定位。
现参照图4,根据本发明的用于在GUI10上进行人机交互的方法包括步骤:利用输入装置或者相对于输入装置确定指针14的坐标12、以及相对于指针14的坐标12确定在GUI10上显示的交互对象18的坐标16。在该情况下,对象18以圆形方式布置,使得自指针14的坐标12的每一方向可指向至多一个对象18的位置坐标16。可从指针14以一系列唯一角度指向每一对象18。在图4.1中开始且在图4.3中结束的交互序列被示出,其中,指针从参考点20朝向交互对象18.2移动。与交互对象的周边相一致的一组阈值23被创建。所述方法还包括步骤:根据交互对象18彼此的距离方向以及指针14的坐标12确定交互对象18的优先级。根据对象的优先级,交互对象18被设定尺寸和移动,使得较高优先级的对象大于较低优先级的对象,且最高优先级的对象18.2(以灰色示出)更靠近指针14的坐标12,而较低优先级的对象远离指针14的坐标12。每当指针14的坐标12变化时,重复上述步骤。该方法还包括步骤:当到达阈值23时,执行操作。在该示例中,交互对象的优先级为0和7之间的离散值,其中0表示最低优先级而7表示最高优先级。可替选地,交互对象的优先级可为0和1之间的连续值,其中0表示最低优先级而1表示最高优先级。最高优先级将给与最靠近指针14的交互对象18,而最低的优先级将给与最远离指针14的交互对象18。当计算交互对象的新坐标16时,最高优先级的交互对象18.2被放大且移动至更靠近指针坐标12,然而,根据它们各自的优先级,剩余的交互对象收缩且移动远离指针14和彼此的坐标。在该示例中,该方法包括步骤:确定交互对象18相对于彼此的坐标16。在该情况下,根据各个对象的优先级,较低优先级的对象18移动远离较高优先级的对象和指针14。最高优先级的对象18.2与用户合作,而其他对象回避操作。一函数被分配给阈值23,由此,当达到交互对象(在该情况下为灰色交互对象18.2)的周边时,当例如通过穿越周边而穿过其阈值23.2时,交互对象18.2可被选择。当指针14的坐标12与确定优先级的交互对象18的坐标16一致时,选择最高优先级对象。区域19被指定,其中,指针14的坐标是代表性的。该方法还可包括步骤:首先固定或确定指针的参考点20,在该情况下为区域19的中心点。例如在对象19为文件夹的情况下,例如当到达显示空间的边缘时、或者当穿过阈值23时,指针的参考点20可被重新定位成用于GUI上的另一导航的新的起始点。在其他实施方式中,例如当指针对象从触敏输入装置提起时,参考点也可被用户重设或者重新定位。
参照图5以及基于图4中的示例,所述方法包括首先固定或确定指针的参考点20的步骤。由箭头30指示的从指针参考20到指针14的坐标12的方向测量,被用作算法中的参数以确定对象优先级。从指针14的坐标12到对象18的坐标16的距离和方向测量32被用作算法中的参数,以确定指针14和对象18之间的交互。在该示例中,方向测量和距离测量分别为角度测量和径向测量。该示例中,根据由方向所确定的优先级而移动对象18,且以对象18的尺寸变化表示与距离有关的交互。确定优先级的对象18的尺寸反应了选择度,其实际上导致对象的状态变化。
现参照图6和基于图1的示例,与围绕交互对象18的空间有关的阈值21,也可优选地分配待被处理作为不可视的交互对象的坐标。区域19被指定,其中,指针14的坐标是代表的。则该方法包括步骤:当与围绕对象的空间相关联的阈值21之一已被激活时,显示其他的逻辑上属于对象18之间的空间内的交互对象18.i.j。指针被调零至区域19的中心,对象18.i.j取代对象18.i,对象18.i移出屏幕外。创建一组新的与交互对象18.i.j有关的阈值23.i.j以及一组新的与围绕交互对象18.i.j的空间有关的阈值21.i.j。则对象18.i.j和阈值21.i.j和23.i.j将以与交互对象18.i相同的方式交互。因此所显示的对象18.i.j从不可视的变成比得上的交互对象,以形成在GUI上通过空间导航的效果和/或导航进入在直接显示之外的层次的效果。一函数被分配给阈值23,由此,当达到、穿过阈值23时,例如当穿越对象的周边时,交互对象(在该情况下为18.i或18.i.j)可被选择。该方法还包括步骤:首先固定或确定指针的参考点20、在该情况下为区域19的中心点。例如当到达显示空间的边缘时、或者当穿过阈值23时、或者当阈值21被激活时,指针的参考点20可被重设或重新定位为用于GUI上的另一导航的新的起始点。在其他实施方式中,例如当指针对象从触敏输入装置提起时,参考点也可被用户重设或者重新定位。
现参照图7,根据本发明的GUI通常由附图标记10表示。在输入装置也不是显示器的情况下,指针的表示14被显示在GUI10上。根据本发明的用于在GUI10上进行人机交互的方法包括步骤:利用输入装置或者相对于输入装置确定指针14的坐标12、以及相对于指针14的坐标12确定在GUI上显示的交互对象18的坐标16。在该情况下,对象18以圆形方式布置,使得自指针14的坐标12的每一方向可指向至多一个对象的位置坐标16。从指针14以一系列唯一角度指向每一对象18。与交互对象18相关的、与交互对象18的周边相一致的一组阈值23、以及与围绕交互对象18的空间有关的一组阈值21被创建。所述方法还包括步骤:相对于交互对象18与指针14的距离,确定交互对象18的优先级。最高优先级给与最靠近指针14的坐标12的交互对象18,而最低优先级给与最远离指针14的坐标12的交互对象18。当计算具有最高优先级的最靠近指针14的交互对象18的新坐标16时,交互对象18及其相关联的阈值23和21在圆的边界上被移动和重新设定尺寸,以提供更多空间用于新的对象。每当指针14的坐标12变化时,重复上述步骤。该方法还包括步骤:当到达阈值23或阈值21时,执行操作。与对象的交互可是显示的或不显示的。将用于访问逻辑上属于被显示的交互对象之间的空间内或空间后的对象的函数分配给第一组阈值21,当达到并激活阈值21时,执行该函数。则该方法包括步骤:插入对象26,其逻辑上位于现有的交互对象18之间。新的对象从不可视的变成比得上的交互对象,以形成通过空间导航的效果和/或导航进入在现有的对象之外的层次的效果。还应理解,新的对象与现有的对象反应相同,如上所述在移动和设定尺寸方面。一函数被分配给阈值23,由此,当达到对象18或26的周边、当例如通过穿越周边而穿过阈值23时,交互对象18或26可被选择。区域19被指定,其中,指针14的坐标是代表的。该方法还包括步骤:首先固定或确定指针的参考点20、在该情况下为区域19的中心点。例如当到达显示空间的边缘时、或者当穿过阈值23时,指针的参考点20可被重设或重新定位为用于GUI上的另一导航的新的起始点。
在图2-5和图7中,以围绕中心点的圆形方式布置并显示交互对象18。指针14的坐标可从中心点接近交互对象18。中心点也可为指针参考点20,其可被重设或重新定位成新的起始点,在一个交互已经完成后,从该起始点开始GUI上的另一交互。例如,激活由特定的交互对象表示的图标。应理解,以围绕指针14或中心点20的圆形方式布置对象为在凸形空间的边界上布置对象。对象也可被布置在边界的一段上,例如弧形段或线段。
现参照图8,交互对象18以围绕中心的起始参考点20的半圆方式进行布置。虚线表示一些可能的阈值。例如,当到达显示空间的边缘时、或者穿过阈值时,指针参考点20可被重设或重新定位成用于下一阶段导航的新的起始点。应理解,这种与上文描述的GUI相结合的几何形状将使得可以利用握持手持装置的同一手在该手持装置上进行导航,同时提供许多导航选项和交互。另外,这种布置将触敏屏幕上被用户的手所遮挡的区域限制到屏幕的底部或者其他方便的边缘部分。一旦操作完成,则用户再次从参考点20开始,从而避免屏幕遮蔽。
现参照图9,示出了从图9.1开始且在图9.8终止的一系列交互。以围绕中心参考点20的半圆形式布置对象,但应理解,圆形布置将以类似的方式进行工作。在该示例中,关于指针参考点20创建了由虚线同心半圆表示的一系列阈值25。每当达到阈值时,由于现有的对象被移动以腾出空间,故逻辑上属于交互对象层次的交互对象被显示。从按照字母顺序排序的交互对象30.1的第一选择开始导航,当达到阈值25.1时,到按照字母顺序排序的交互对象30.2的第二层次;到部分艺术家名字30.3的选择;到特定艺术家30.4;到专辑30.5的选择;到特定专辑30.6;到歌曲30.7的选择;到特定歌曲30.8,其可被选择。沿着这种方式,作为交互过程,指针仅仅移动由虚线轨线42指示的距离,而不需要指针14接触任何中间交互对象30.1至30.7。应理解,这种发明允许动态分层导航、以及在指针到达对象之前或者在没有沿着该路径选择对象的情况下与该对象交互。关于交互对象30.8可创建另一阈值23,当穿过该阈值时选择该对象。
现参照图10,图10.1示出指针移动线、或者轨线40,以在典型的GUI上完成一系列的指向-和-点击交互。用户通过点击图标A开始、然后点击图标B和然后点击图标C。图10.2示出根据本发明的GUI上的轨线42,其中,指针坐标的变化与全部的交互对象动态地交互以实现导航。朝向A的移动腾出现有的对象之间的空间以显示B。朝向B的另一移动腾出现有的对象之间的空间以显示C。朝向C的另一移动基于指针和交互对象之间的距离和/或方向,移动交互对象和重新设定交互对象大小。所描绘的轨线42仅是许多可行的轨线中的一种轨线。图10还示出根据本发明的人机交互的在短于40的移动42的经济性方面的改进。
现参照图11至图17,根据本发明的图形用户界面(GUI)通常由附图标记10表示。在该示例中,用于在GUI10上进行人机交互的方法包括步骤:确定或分配在GUI10上显示的交互对象14的x、y坐标12且将虚拟负z坐标值16分配给在GUI10上显示的交互对象,以形成虚拟的三维GUI10空间,该空间在触摸屏输入装置18的显示器的后方和/或上方延伸。该方法还包括相对于触摸屏输入装置18确定GUI10上的指针20的x、y坐标,且相对于在输入装置上方的指针对象24的距离Z确定相对应的虚拟z坐标值22。则该方法包括步骤:根据交互对象的坐标12到指针20的x、y坐标的距离以及根据交互对象到指针20的虚拟z坐标值16的方向所确定的交互,来确定交互对象14的优先级。然后,根据交互对象14的优先级而移动交互对象、且相对于交互对象14的根据预选择的算法的交互而移动交互对象。所述方法还包括步骤:每当指针坐标12和/或虚拟z坐标16变化时,重复上述步骤。
参照图12,相对于触摸屏输入装置上方的中心点26以具体的x、y、Z坐标显示交互对象14。一旦完成交互,诸如接触和选择交互对象14,则用户再次从参考点26开始。
参照图13,在输入装置上方的Z1处限定虚拟阈值平面,其代表显示器的表面。该阈值包括调零机制以:在完成交互后或者当虚拟阈值被激活或穿过时,通过允许用户将指针对象24返回至参考点26,允许用户导航进入大量的调零的阈值平面,如下文所述。在该情况下,如图13至图16中所示,该方法包括激活虚拟的阈值平面,以允许逻辑上属于空间内或空间后的对象仅当围绕交互对象的空间被导航时而被接近,例如当指针的x、y坐标接近或者邻接在GUI10上显示的交互对象14之间的空间时。如果指针的x、y坐标对应于交互对象14的x、y坐标,而在z-轴线上指针对象接近交互对象14,则阈值被穿过,即未被激活,且可通过触摸触敏输入装置18而选择对象。
在本发明的附图中未示出的另一示例中,所述方法包括提供沿着z-轴线的多个虚拟的阈值平面,每一虚拟的阈值平面提供适宜的虚拟平面,在GUI10中在该虚拟平面中布置交互对象14,其中仅在对应于显示器的平面的一个平面中的对象在任一时间是可视的,在其他平面上的具有比所述对象更负的z坐标值的交互对象14变为灰色或者隐藏。较正的z值的交互对象在二维显示器上自然地不可视。
在另一实施方式中,参照图13至图16,为了导航进入许多调零的阈值平面,用户将沿着Z-轴线移动指针对象24以接近交互对象14.1之间的空间,当达到位置Z1时,在图13中显示对象14.2,其逻辑上处于交互对象14.1之间。然后用户将指针对象24返回至参考点26。重复先前的导航步骤以影响交互对象14.2之间的交互对象14.3的显示,如在图14中所示。在图15中,指针对象接近编号为2的交互对象14.3,然后通过触摸对象穿过虚拟阈值,以完成交互。结果是,在图16中显示信息28。
在另一实施方式中,参照图17,在触敏显示器上显示的文本输入装置(其具有三维输入器件,例如近程检测器)被导航。用户将移动指针对象24以接近交互对象14.1之间的空间,该交互对象呈现字母表的每第五个字母的形式。当指针20靠近交互对象14.1之间的空间、位于所创建的阈值处时,用户使指针对象24保持在高于Z-轴线的最小高度处。交互对象14.2被显示,其示出逻辑上适合在字母14.1之间的附加字母。然后,用户使指针对象24沿着Z-轴线下降,其中,指针x、y坐标靠近字母H,该字母H将被重新设定更大的尺寸,直到用户接触和选择字母H。然后,用户将指针对象24返回至在输入装置上方的高度Z处的参考点26,且重复步骤以选择另一字母。
现参照图18,根据本发明的GUI通常由附图标记10表示。在该示例中,用于在GUI10上进行人机交互的方法包括步骤:确定或分配在GUI10上显示的交互对象14的x、y坐标12且将虚拟负的z坐标值16分配给在GUI10上显示的交互对象,以形成虚拟的三维GUI10空间,该空间在触摸屏输入装置18的显示器的后方和/或上方延伸。该方法还包括相对于触摸输入装置18确定GUI10上的指针20的x、y坐标,且相对于在输入装置上方的指针对象24的距离Z确定相对应的虚拟z坐标值22。则该方法包括步骤:根据交互对象14的坐标12到指针的距离和方向以及根据交互对象14到指针20的虚拟z坐标值16的距离和方向,来确定交互对象14的优先级且确定与交互对象14的交互。该方法还包括步骤:确定指针对象24在其x、y和Z坐标方面的方向和移动23。然后,根据交互对象14的优先级、根据预选择的算法且在算法中使用所确定的指针对象24的方向和移动,来设定交互对象14的大小和/或移动交互对象14,以确定人如何与GUI交互。然后,该方法包括步骤:每当指针20的x、y坐标12和/或虚拟z坐标16变化时,重复上述步骤。
现参照图19,在一个示例中,该方法包括步骤:根据指针对象24的x、y和Z坐标的变化,在位于零z值上的固定的x、y坐标30的上方,确定指针对象24的方向和方向变化。用户现能够围绕虚拟的三维交互对象14进行导航。另外,用于进行游戏的操纵杆和鼠标移动输入可被模拟。x、y坐标可通过例如点击按键固定,从该按键可确定方向。还应理解,在该情况下,在固定的x、y坐标上方的指针对象的x,y,Z坐标可变化。显示固定的指针参考32且可显示可移动的指针34。
现参照图20至图23,根据本发明的GUI通常由附图标记10表示。GUI10被配置成定位虚拟空间中的点16和虚拟空间内的称为指针14的点12,用户在一时刻在该点12处导航。然后,处理器根据算法,计算虚拟空间内的点16和虚拟空间内的指针的点12的交互,根据该交互,减小更靠近指针的点与指针之间的距离。在该示例中,该算法导致虚拟空间针对更靠近的参考点16进行收缩以及针对更远离的参考点16进行扩展。每当指针移动时,重复计算步骤。在虚拟空间中的一些参考点16处,其他的特征被分配以用作合作目标或合作信标(该两者都由18表示),且对象(在该情况下为黑色圆盘)被显示以代表在这些点处的合作目标或合作信标。所述合作目标或合作信标是交互的且可被处理作为交互对象,如在本说明书中先前所述。在空间内的对象、目标、信标或者导航目的地应自然地遵循空间的扩展和收缩。
现参照图24,在该示例中,以围绕中心参考点20的圆的形式定位点16。对于某些点,以围绕参考点20的圆形方式分配且显示交互对象18。指针或指针对象(未示出)可从参考点20接近交互对象18和代表交互对象之间的空间的点16。在本发明的另一实施方式中,一些点16可被分配交互对象,其未被显示直到指针达到相对于参考点所创建的近似阈值。在该示例中,布局为半圆形且应理解,与上文描述的GUI相结合的这种几何形状将可以利用握持手持装置的同一手在该手持装置上进行导航,同时提供大量的导航选项和交互。这种布置可将触敏屏幕上的被用户的手遮蔽的区域限制到屏幕的底部或者其他方便的边缘部分。一旦交互完成,则用户再次从参考点20开始,从而进一步限制遮蔽屏幕。在本发明的又一实施方式中,在参考点20处开始的从指针到交互对象18和点16处的距离测量和/或角度测量被用在算法中以计算交互。
现参照图25,根据本发明的GUI通常由附图标记10表示。根据本发明的用于在GUI10上进行人机交互的方法包括步骤:以围绕中心参考点20的圆形形式定位虚拟空间内的点16以及定位虚拟平面内的称为指针14的点12,用户在一时刻在该点12处导航。这些点16中的一些点被选择且交互对象18被分配给这些点。这些对象以围绕参考点20的圆形方式显示。然后,该方法包括步骤:根据算法,计算虚拟空间内的点16和虚拟空间内的指针的点12的交互,根据该交互,减小点16与指针的点12之间的距离。指针14或者指针对象(未示出)可从参考点20接近交互对象18和代表交互对象之间的空间的点16。算法包括这样的函数:根据交互对象18至指针14的距离确定交互对象18的优先级、且将具有最高优先级的最靠近指针的交互对象18(显示灰色)移动至更靠近指针、每当指针的点12的位置变化时,重复上述步骤。最高优先级将给予最靠近指针14的交互对象18,而最低优先级给予最远离指针14的交互对象。当计算交互对象的点16的新位置时,最高优先级的交互对象18将移动至更靠近指针14,以此类推。交互对象18还可被定义为合作目标、或者当他们被用作导航引导信标时也被定义为合作信标。以与先前示例中描述的方式相同的方式创建阈值。
现参照图26,根据本发明的GUI通常由附图标记10表示。根据本发明的用于在GUI10上进行人机交互的方法包括步骤:以围绕中心参考点20的圆形形式定位虚拟空间内的点16以及定位虚拟平面内的称为指针14的点12,用户在一时刻在该点12处导航。这些点16中的一些点被选择且交互对象18被分配给这些点。这些对象以围绕参考点20的圆形方式显示。然后,该方法包括步骤:根据算法,计算虚拟平面内的点16和虚拟平面内的指针的点12的交互,使得沿着被圆形布置所限定的圆,减小最靠近的点16与指针的点12之间的距离减小,且增加远离指针的点的点与指针的点12之间的距离。指针可从参考点20接近交互对象18和呈现为交互对象之间的空间的点16。算法包括这样的功能:根据交互对象18至指针14的距离确定交互对象18的优先级、且将具有最高优先级的最靠近指针的交互对象18(显示灰色)移动至更靠近指针、每当指针的点12的位置变化时,重复上述步骤。最高优先级将给予最靠近指针14的交互对象18,而最低优先级给予将最远离指针14的交互对象。当计算交互对象的点16的新位置时,最高优先级的交互对象18将移动至更靠近指针14,而剩余的点将移动至更远离指针的点12。以与先前示例中描述的方式相同的方式创建阈值。
现参照图27,在另一示例中,围绕交互对象的空间或者在交互对象18之间的空间内的点22优选地可被赋予作为不可视的交互对象的函数。则所述方法可包括步骤:当达到与点22相关的阈值时,显示对象26或多个对象26。则这些对象26和空间内的点22将以与交互对象18相同的方式进行交互。当在空间内与点22相邻的对象18已被移动且重新设定尺寸以提供允许新的或隐藏的对象26在现有的相邻对象之间显示的更多的空间时,逻辑上属于现有的交互对象18之间的新的或者隐藏的对象26被显示。因此,所显示的对象26从坐标24的点从不可视变成比得上的交互对象,以形成在GUI上通过空间导航的效果和/或导航进入在现有的直接显示之外的层次的效果。以与先前示例中描述的方式相同的方式创建阈值。当所创建的阈值被激活时,在虚拟空间内的新的点24被定位(激活)。这些点变成算法的函数且与点16的表现类似。
现参照图28,根据本发明的一种用于递归地导航分层数据以用于GUI10上的人机交互的方法,包括步骤:利用输入装置或者相对于输入装置确定指针14的坐标12、以及确定交互对象18的显示坐标16和交互坐标17。在GUI10上相对于指针14的坐标12显示交互对象。交互对象18可被布置成圆形方式、围绕中心点的环形图案(环形部),使得自指针14的坐标12的每一方向可指向至多一个对象的交互坐标17。可从指针14以一系列角度指向每一对象18。根据每一交互对象的交互坐标17创建与交互对象初始周边的内弧一致的一组阈值23。所述方法包括步骤:根据指针14的坐标12和对象18的交互坐标17之间的距离和/或方向,确定交互对象18的优先级。根据各对象的优先级移动交互对象18且设定交互对象18的尺寸,使得较高优先级的对象比较低优先级的对象占据的较大比例的环形部。每当指针14的坐标12变化时,重复上述步骤。所述方法还包括步骤:当到达阈23时,执行操作。所述方法还可包括步骤:固定或确定指针14的参考点20,例如,图28.1中的20.1为用于导航的第一参考点。例如当穿过阈值23时,指针参考点20可被重设或重新定位以用作新的起始点,以用于GUI上的另一导航。图28.3中的参考点20.2为用于导航的第二参考点的示例。导航层次指示器50可被建立且最初以参考点20为中心。图28.1示出包含8个对象的第一层次的分层数据结构的初始配置。交互对象代表每一数据对象,在此由附图标记18.1至18.8表示。还示出显示坐标16.1至16.8、交互坐标17.1至17.8和阈值23.1至23.8。层次指示器50可通过某些方法(例如通过数字)来指示目前的分层导航层次。层次指示器还可追踪指针14的移动以及更新其位置,从而以指针14的坐标12为中心。在该示例中,虚线路径42指示指针随着时间的移动、其轨线。在示例的初始布置中,交互对象的优先级是0和7之间的离散值,其排序以形成等级,其中,0表示最低优先级而7表示最高优先级。可替选地,交互对象的优先级可为0和1之间的连续值,其中,0表示最低优先级而1表示最高优先级。最高优先级将给予最靠近指针14的坐标的交互坐标17,而最低的优先级将给与最远离指针14的坐标的交互坐标17。在该示例中,对象18的交互坐标17可与对象的显示坐标16不同。交互坐标17可被用于函数或算法以确定对象的显示坐标16。当计算交互对象的新的显示坐标16时,显示坐标16的位置被更新以维持与指针的坐标12的固定距离,同时允许指针的坐标12和显示坐标16之间的方向改变。这具有在交互期间维持交互对象18的环状布置的效果。另外,较高优先级的交互对象18将被放大而较低优先级的对象将被缩小。可建立分层数据结构中的下一层对象作为新的交互对象。以与现有的交互对象完全相同的方式建立和更新新对象的显示坐标、交互坐标和阈值。这些新的交互对象可被包含在母交互对象的边界内。每当指针14的坐标12变化时,可根据母交互对象的优先级更新新的交互对象的尺寸和位置。图28.2示出由轨线42所示的在指针移动后的布置。针对具有最高优先级的交互对象,在该情况下为18.1、18.2和18.8,与第一层次的8个对象一起,显示第二层次的分层对象。新的交互对象、其显示坐标、交互坐标和阈值由子数字表示。例如,针对母对象18.1,对象由18.1.1至18.1.4表示且显示坐标由16.1.1至16.1.4表示。在该情况下,交互对象18.1由于其最靠近指针14而具有最高优先级。因此,其子对象18.1.1至18.1.4大于其他对象的子对象。一函数被分配给阈值23,由此,当穿过阈值23时(例如通过穿越周边)交互对象被选择、且基于所选择的对象建立用于导航的下一层次。当指针移动至更靠近阈值23时,最高优先级的交互对象以环状布置占据更大的空间,直到其完全取代和占据该空间。这与被穿过的最高优先级的对象的阈值23相一致。当建立导航的下一层次时,在指针的位置处建立新的指针参考点20。对于所选择的交互对象,用于其子交互对象的新的交互坐标17和阈值23像以前一样建立且更新。新的交互对象可被建立以代表返回至先前层次的导航。该对象以相同的方式表现为代表数据的对象,但未显示子对象。图28.3示出:在已经选择交互对象18.1后,第二层次的分层对象18.1.1至18.1.4的围绕新的指针参考点20.2的初始布置。示出新的交互坐标17.1.1至17.1.4和阈值23.1.1至23.1.4。沿着交互对象相关联的显示坐标16.1.B、交互坐标17.1.B和阈值23.1.B,还示出能够被选择以导航返回前一层次的交互对象18.1.B、以及其关联的显示坐标16.1.B、交互坐标17.1.B和阈值23.1.B。当选择18.1.B时,示出与图28.1的布置类似的布置。注意到,交互坐标17及其相关联的阈值23在导航期间未变化,直到阈值23中的一个被穿过且建立新的导航层次。在一些实施方式中,参考点20还可被用户重设或重新定位,例如通过使用两个手指以在触敏输入装置上拖曳环状布置。
现参照图29,根据本发明的用于在GUI10上进行人机交互的方法包括步骤:利用输入装置或者相对于输入装置确定指针14的坐标12、以及确定交互对象18的显示坐标16和交互坐标17。根据指针14的坐标12,在GUI10上显示交互对象。交互对象18被布置成线的形式,使得自指针14的坐标12的每一方向指向至多一个对象18的交互坐标17。自指针14的坐标12,以一系列唯一角度指向各个对象的交互坐标17。所述方法还包括步骤:根据指针的坐标12和对象18的交互坐标17之间的距离来确定交互对象18的优先级。根据每一对象的优先级,交互对象18被移动和设定尺寸,从而使较高优先级的对象较大且使较低优先级的对象较小。每当指针14的坐标12变化时,重复上述步骤。该方法还包括步骤:固定或确定指针14的参考点20。相对于参考点20建立与y-轴线平行的一组阈值25。该方法还包括步骤:当到达阈值25之一时,执行操作。图29.1示出图像列表60、字母导引61、和文本列表62。每一图像为交互对象,且代表装置上可用的60个专辑中的一个。按照字母顺序组织专辑,第一按照艺术家名字然后按照专辑名称。交互对象18的交互点17在可用的空间内沿着y-轴线以等间距分布。字母导引用作导航的路标且指示艺术家名字的分布。具有以一字母开头的大量艺术家的该字母(在该情况下为“B”和“S”)的空间比具有很少或没有艺术家的字母(在该情况下,“I”和“Z”)的空间大。文本列表62的内容取决于指针的位置,其可触发阈值25中的一个阈值。还示出显示坐标16.1至16.60、交互坐标17.1至17.60和阈值25.1至25.3。在没有指针14存在的初始布置中,交互对象全部具有相同的尺寸,同时它们的显示坐标16和交互坐标17的y-轴线坐标值是相同的。如果指针14的坐标12的y-轴线坐标值小于阈值25.1,则不发生与交互对象18的动态交互。如果指针14的坐标12的y-轴线值小于阈值25.2,则在文本列表62中显示每一对象的艺术家名字。如果指针14的坐标12的y-轴线值大于阈值25.2且小于阈值25.3,则在文本列表62中显示每一对象的艺术家名字和专辑名称。如果指针14的坐标12的y-轴线值大于阈值25.3,则在文本列表62中显示每一对象的专辑名称和曲目名称。交互对象的优先级为0和1之间的连续值,其中,0表示最低优先级而1表示最高优先级。最高优先级将给与最靠近指针14的坐标的交互坐标17,而最低的优先级将给与最远离指针14的坐标的交互坐标17。在该示例中,对象18的交互坐标17与对象的显示坐标16不同。交互坐标17被用在函数或算法中以确定对象的显示坐标16。当计算交互对象的新的显示坐标16时,应用根据指针14的坐标12、对象的交互坐标17和对象的优先级而调整显示坐标16的函数。该函数为线性的。另外,最高优先级的交互对象18将被放大而最低优先级的对象将被缩小。函数被分配给阈值25,由此,当达到阈值中的一个阈值时,在文本列表62中显示不同的文本项目。图29.2示出在指针14如所指示地移动后交互对象的布置。指针14最靠近交互坐标17.26。交互对象以这样的方式被移动和重新设定尺寸:将最高优先级的对象保持在与该对象的交互坐标相同的y-轴线上,同时与该对象的y-轴线交互坐标相比,将其他的高优先级的对象移动远离指针,且与该对象的y-轴线交互坐标相比,将低优先级的对象移动至更靠近指针14。这具有集中在最近的交互对象(专辑)18.26的效果,同时扩大靠近指针14的交互对象18且缩小那些远离指针14的交互对象。已经达到阈值25.2且对于每一对象在文本列表62中显示艺术家名字和专辑名称。文本列表62还集中于指针14附近的对象。图29.3示出在指针14如所指示地移动后交互对象的布置。指针14在x-轴方向移动较多,但是其仍最靠近交互坐标17.26。交互对象如前一样进行移动和重新设定尺寸。已经达到阈值25.3且对于每一对象在文本列表62中显示专辑名称和曲目名称。文本列表62再次集中于指针14附近的对象。该方法还可包括步骤:当达到阈值时,更新背景或交互对象的可视化表示。例如,当达到阈值25.2时,可在文本列表62的背景中显示最高优先级的交互对象18的专辑封面。在另一示例中,当达到阈值25.3时,相对于交互对象的优先级可变化交互对象18透明度,使得较高优先级的对象较不透明,而较低优先级的项目较透明。
在图30和图31中示出了可被用于确定距离测量和方向测量作为用于函数和/或算法的输入或参数的几何形状的示例。可以从中心点到指针或者从指针到对象进行距离测量以确定优先级和/或与对象的另一交互。可以从与中心点交叉的参考线到从中心点到指针的线进行角度测量、或者可以从与指针交叉的参考线和从指针到对象的线进行角度测量以确定优先级和/或与对象的另一交互。
图32示出二维凸形形状和三维凸形形状的示例。可以通过在凸形形状的边界的至少一部分上布置对象、或者对象的交互坐标来得出实用性。例如,这确保了自指针的每一方向测量可指向至多一个对象的位置或交互坐标。由此,允许唯一地对象识别。
在图33至图36中,GUI10被示出两次以减少图中的混乱,同时示出对象的显示坐标和交互坐标之间的关系。首先,在10.1中示出交互对象18的交互坐标17,其次在10.2中示出交互对象18的显示坐标16。应理解,重要的是能够包含具有不同的交互坐标和显示坐标的同一对象。交互坐标通常对用户不可见。10.1被称作显示交互坐标的GUI,而10.2被称作显示显示坐标的GUI。GUI的交互坐标示图10.1示出了指针14和交互对象18的交互坐标17之间的交互。GUI的显示坐标示图10.2示出:根据本发明,当交互对象18被重新设定尺寸且其显示坐标16被移动时所得到的视觉效果。10.1还示出了交互对象的初始交互尺寸。在两个GUI示图中都示出指针14、指针坐标12、指针参考点20和交互对象18。
现参照图33,根据本发明的用于在GUI10(其在10.1中示出交互坐标且在10.2中示出显示坐标)上进行人机交互的方法,包括步骤:利用输入装置或者相对于输入装置确定指针14的坐标12、且存储和追踪指针14随着时间的移动。该方法包括确定交互对象18的显示坐标16和交互坐标17的步骤。指针参考点20被建立且在图10.1和图10.2中示出。相对于指针坐标12以均一的尺寸wi建立交互对象18.i,在该示例中i的值从1到12。交互对象18在围绕参考点20的圆上以规律间隔的位置ri被初始分配。该方法还包括步骤:根据指针14的坐标12和第i个对象的交互坐标17.i之间的距离,来确定交互对象18的优先级,其由rip表示。指针14和参考点20之间的距离和方向由rp表示。移动交互对象18,使得较高优先级的显示坐标16更靠近指针14,而较低优先级的显示坐标16更远离指针14。根据每一对象的优先级设定交互对象18的尺寸,使得与较低优先级的对象相比,较高优先级的对象变得更大。每当指针14的坐标12变化时,重复上述步骤。对于每一交互对象18.i,相对于指针14的相对距离rip可以是不同的。该距离被用作交互对象18.i的优先级。因此,更短的距离意味着更高的优先级。与10.1中的交互对象的尺寸和交互坐标17.i相比,对于10.2中的对象18.i,应用下面的函数产生不同的尺寸和变化的位置16.i。在10.2中的交互对象的尺寸wi可进行如下计算:
W i = mW 1 + ( m - 1 ) r ip q
其中,m为确定最大放大率的自由参数,且q为放大率取决于相对距离的强烈程度的自由参数。用于计算相对角位置的函数族可是如下的S形曲线。θip是交互对象18.i相对于连接参考点20和指针的坐标12的直线的相对角位置。通过计算以下公式该相对角位置被标准化成-1和1之间的值:
u ip = θ ip π
然后,根据uip和rp,利用基于ueu(0≤u<1/N)、直线(1/N≤u<2/N)、和1-e-u(2/N≤u<1)的分段函数,确定vip的值,其中,rp作为索引非线性强度的参数。然后,按照计算显示坐标16.i的相对于10.2中的连接参考点20和指针14的直线的相对角位置图33.1示出在中间位置的指针14,其具有与指针参照坐标20一致的指针坐标12。在指针坐标12和交互对象18.i的交互坐标17.i之间的相对距离rip是相等的。这意味着交互对象18.i的优先级也是相等的。结果为,在10.2中,交互对象18具有相同的直径W,且显示坐标16.i在围绕参考点20的圆中等距离隔开。图33.2示出移动至参考点20和交互对象18.1的交互坐标17.1的中间的指针14。在10.2中示出所得到的对象尺寸和位置。具有较高优先级的对象(最靠近指针14的那些对象)的尺寸增大,而具有较低优先级的对象移动至远离指针参照线。注意到,交互坐标17和显示坐标16的位置不同。图33.3示出进一步移动以与交互坐标17.1的位置一致的指针14。与图33.2中的布置相比较,具有较高优先级的对象的尺寸进一步增大,而具有较低优先级的对象移动至更远离指针14。图33.4示出这样的情况:移动指针14以使其位于交互坐标17.1和交互坐标17.2之间。10.2中,交互对象18.1和交互对象18.2的尺寸现在相同:W1=W2。对象和指针线之间的角距也具有相同值,但是符号相反:
现参照图34,根据本发明的一种用于在GUI10(其在10.1中示出交互坐标且在10.2中示出显示坐标)上进行人机交互的方法,包括步骤:利用三维输入装置或者相对于三维输入装置确定指针14的坐标12、且存储和追踪指针14随着时间的移动。该方法还包括建立交互对象18的可导航分层的步骤。每一对象为用于额外的交互对象18的容器。该分层的每一层次由外加的脚注来表示。例如,18.i表示第一层次的对象,而18.i.j表示第二层次的对象。该方法包括确定交互对象18的单独的显示坐标16和交互坐标17的步骤。该方法包括步骤:根据指针14的坐标12和对象的交互坐标17.i或17.i.j之间的距离,来确定交互对象18.i或18.i.j的全部分层的优先级,其分别由rip或rijp表示。具有最靠近指针14的交互坐标17的对象18具有最高的优先级。该方法包括相对于z-轴线上的z坐标建立阈值的步骤。当达到这些阈值时,这些阈值触发对分层的向上或向下的导航操作。通过当前的导航层次来确定交互对象18的可视性,而通过对象的优先级来确定对象的尺寸和位置。较高优先级的对象比较低优先级的对象大。可视对象18的位置通过布局算法来确定,该算法考虑对象18和对象尺寸之间的结构关系。该方法还包括将阈值、时间推移和指针14沿着z-轴线的移动结合以动态导航通过可视对象的层次的方法、函数或算法。每当指针14的坐标12变化时,重复上述步骤。待被包括的交互对象可通过导航算法来确定,例如下列:
1.如果不存在指针14,则针对该分层中的全部交互对象18建立交互坐标17和显示坐标16。将相等的优先级分配给该分层中的全部交互对象18。
2.如果指针14存在,则针对该分层中的全部交互对象18,基于指针14的z坐标和以下规则,建立交互坐标17和显示坐标16:
a.如果z<zte,其中zte被称为分层扩展阈值,则选择在指针坐标12下方的对象18,并且使该对象以及其子对象扩展以占据全部可用空间。
i.如果扩展发生,则不处理另一扩展。除非:
1.已经经过td秒的时间延迟,或者
2.指针的z-轴线移动方向已经反向,使得z>zte+zhd且zhd<(ztc–zte),其中,zhd为小的滞后距离,ztc如下所限定。
b.如果z>ztc,其中,ztc被称为分层收缩阈值,使当前的最高层次的交互对象18及其子对象收缩,然后再引入其同层对象。
i.如果发生收缩,则不处理另外的收缩。除非:
1.已经经过td秒的时间延迟,或者
2.指针的z-轴线移动方向已经反向,使得z>ztc-zhd,其中,zhd如上文限定.
c.注意,zte<z<ztc.
在该示例中,使用具有由18.1至18.4表示的四个母对象的两个层次的对象分层,每一母对象具有四个子对象,由18.i.j表示,其中,j可为1到4。在10.1中,交互对象以网格形式进行布局,使得同层对象均匀地分布在可用空间,且子对象倾向于填充其母对象可用的空间。10.1中的每一对象被分配固定交互坐标17.i或17.i.j,其位于对象初始空间的中心。在分层的每一层次中交互对象18的显示坐标16和尺寸(布局)根据同层对象的优先级来确定。一种可能的布局算法为:
1.使用由以网格布置的多个单元构成的容器。一个单元可容纳零个或一个交互对象。布局容器的宽度为Wc、高度为Hc。该容器占据可用的可视化空间,但未被显示。
2.对于未容纳对象的每一单元,分配尺寸系数sfi=1。
3.对于容纳对象的每一单元,根据对象优先级,计算相对尺寸系数sfi。在该情况下,正规化的相对距离为rip。用于相对尺寸系数的函数可为:
sf i = sf max 1 + ( sf max sf min - 1 ) &CenterDot; r ip q (方程34.1)
其中,sfmin是可允许的最小相对尺寸系数,其中0<sfmin≤1,sfmax是可允许的最大相对尺寸系数,其中sfmax≥1,且q为确定相对尺寸系数放大率取决于标准化的相对距离rip的强烈程度的自由参数。
4.根据与对象18.i相同排中容纳的所有相对尺寸系数,计算对象18.i的宽度Wc。用于宽度的函数可为:
W c = W c &CenterDot; sf i &Sigma; j = a b sf j (方程34.2)
式中,a为在一排内的第一单元的指数,而b为在一排内的最后单元的指数。
5.根据与对象18.i相同列中容纳的所有相对尺寸系数,计算对象18.i的高度Hc。用于高度的函数可为:
H c = H c &CenterDot; sf j &Sigma; j = a b sf j (方程34.3)
式中,a为在一列内的第一单元的指数,而b为在一列内的最后单元的指数.
6.通过将对象依次包含在容器的单元中,计算对于每一对象的位置。
7.具有较大的相对尺寸系数sfi的对象18.i被显示在具有较小相对尺寸系数的虚拟对象之上。
图34.1示出不存在指针14的初始情况。该条件触发导航规则1。使用如在10.1中示出的对象的最初布置和所描述的布局算法、交互对象18的分层,导致如10.2中所示的交互对象18的布置。在该情况下,全部交互对象18具有相同的优先级且因此具有相同的尺寸。在图34.2中,引入具有坐标x、y和za的指针14,其中,za>zte。该条件触发导航规则2。在10.2中示出所产生的交互对象18的布置。在该情况下,在数据集中的全部交互对象18.i和18.i.j是可视的。由于对象18.1最靠近指针14,故对象18.1比其同层对象18.2至18.4大得多。在对象18.1的边界内,其子对象之一18.1.1由于最靠近指针14而比其同层对象18.1.2至18.1.4大得多。图34.3示出指针14具有新的坐标x、y和zb,其中zb<za,且zb<zte。该条件触发导航规则2.a。向下导航该层次进入对象18.1,导致如10.1所示的交互对象18.1和其子对象18.1.j的布局。对象18.1的同层对象18.2至18.4,从10.1中去除,同时其子对象扩展以占据所有可用空间。在应用所述的布局算法后,如10.2所示布置交互对象18.1和18.1.j。由于对象18.1.1最靠近指针14,故其比其同层对象(18.1.2至18.1.4)大得多。图34.4示出指针14在同一坐标(x、y和zh)处超过td秒。该条件触发导航规则2.a.i.1。向下导航该层次进入对象18.1.1导致如10.1所示的交互对象18.1和18.1.1的布局。对象18.1.1的同层对象18.1.2至18.1.4从10.1中去除,同时该对象扩展以占据所有可用空间。在应用所述的布局算法后,如10.2所示布置交互对象18.1和18.1.1。对象18.1.1目前占据了10.2中的几乎全部的可用空间。在另一情况下,在坐标x、y和za(其中za>zte)处引入指针14。这导致如先前在图34.2中所示的10.1和10.2中的对象18.i和18.i.j的布置。接着,指针14移动至新坐标x、y和zh处,其中zh<za且zh<zte。这导致如先前在图34.3中所示的10.1和10.2中对象18.1和18.1.j的布置。指针14的移动方向现被反转至坐标x、y和zc,其中,zh<zc<za且zc>zte+ztd。指针14的移动方向再次被反转至坐标x、y和zh,其中,zh<zte。该序列的事件触发规则2.a.i.2,其导致如先前在图34.4中所示的10.1和10.2中的对象18.1和18.1.1的布置。指针14的移动方向再次被反转至坐标x、y和zd,其中,zh<zc<zd<za且zd>zte。该序列的事件触发规则2.b,其导致如先前在图34.3中所示的10.1和10.2中的对象18.1和18.1.j的布置。如果指针14在相同的坐标(x、y和zd)处保持超过td秒,则触发规则2.b.i.1。否则,如果指针14移动方向反转至坐标x、y和ze,其中,ze<zd且ze<zte-ztd,则触发规则2.b.i.2。这两个序列的事件都导致如先前在图34.2中所示的10.1和10.2中的18.i和18.i.j的布置。该方法还可包括步骤:根据指针的沿着z-轴线、Z-轴线的位置,或其相对于阈值的位置改变该指针的可视化图示。例如,指针的尺寸可根据Z进行调整,使得当指针对象靠近触摸表面时指针的图示较大,且当指针对象远离触摸表面时指针的图示较小。另外,指针图示可变化,以当指针坐标的z值靠近导航阈值之一时,指示向上或向下导航该层次。该方法还可包括步骤:当指针坐标在一定的空间限值内在预定的时间内保持静止时,实施关于时间建立阈值。例如,如果已经达到时间的阈值,则可在指针坐标下方显示关于交互对象的其他信息。
现参照图35,根据本发明的用于在GUI10(在10.1中示出交互坐标且在10.2中示出显示坐标)上进行人机交互的方法,包括步骤:利用输入装置或者相对于输入装置确定指针14的坐标12、且追踪指针14随着时间的移动。如图35.1所示,建立第一组N个交互对象18.i。将交互对象18i的显示坐标16.i和交互坐标17.i分开。在10.1中的交互对象18.i的位置和尺寸被选择,使得该对象均匀地分布在空间内。交互坐标17.i被定位在对象的中央。初始显示坐标16.i与交互坐标17.i相一致。图35.1示出不存在指针14的情况。以方形网格形式布置起始组的16个交互对象18.1至18.16。在图35.2中,指针14以位于对象18.16上的坐标12被引入。交互对象18.i如前一样进行布置。如果指针14的坐标12落在交互对象的边界内且进行选择,则对象将强调被选择的对象,而不强调其余的对象。在该示例中,被选择的对象18.16通过略微放大而在10.2中被强调,而其他所有的对象18.1至18.15则通过增加它们的透明度而不进行强调。如果指针坐标12在10.1中的同一对象的边界内保持比短时间段td更长的时间,则引入第二组交互对象。在所选择的对象的交互坐标上建立第一指针参考点20.1。图35.3示出指针坐标12在交互对象18.16的边界内保持比td秒更长的时间的情况。在该情况下,去除对象18.1至18.15,而引入第二对象18.16.j,其中,1≤j≤3。针对第二对象18.16.j建立显示坐标16.16.j和交互坐标17.16.j。在10.1中,自参考点20.1以固定的角度θj和恒定的半径rd布置对象。基于参考点20.1和对象18.16.j之间的距离与指针坐标12之间的关系,计算每一第二对象18.16.j的优先级。较高优先级的对象被放大且移动至更靠近参考点20.1。建立与第二对象有关的阈值23.16.j。当阈值23.16.j被穿过时,可以执行操作。引入第三组交互对象18.16.j.k,每一交互对象与第二组对象18.16.j中的对象有关。在10.1和10.2的左上角建立第二指针参考点20.2。基于指针参考点20.2和指针坐标12之间的关系,计算每一第三对象18.16.j.k的优先级。较高优先级的对象被放大且移动至远离参考点20.2。每当指针坐标12变化时,计算多个关系:
·在参考点20.1和指针坐标12之间的向量
·在参考点20.2和指针坐标12之间的向量
·在参考点20.1和第二虚拟对象18.16.j的交互坐标17.16.j之间的一组向量
·作为向量在向量上的正交投影的一组向量
投影向量被用于确定对象的优先级,其又被用于执行函数或算法以确定10.2中第二对象18.16.j的尺寸和显示坐标。这种函数或算法可为:
·在10.1至10.2中同构地映射对象尺寸。
·对象维持其角度θj坐标。
·对于每一交互对象18.16.j,对象获得距离参考点20.1的新距离rdj。该距离也为对象的优先级。可使用下文的收缩函数:
r dj = r d ( 1 - ( c &CenterDot; | | r - pj 1 | | r d ) q ) (方程35.1)
其中,c为线性地控制收缩的自由参数,且q为以指数方式控制收缩的自由参数。
对象优先级rdj也被用于确定在10.2中第三虚拟对象18.16.j.k是否应当可视且第三对象的尺寸应为多少。这种函数或算法可为:
·确定最高优先级且使相对应的第三对象18.16.j.k可视。隐藏所有其他第三对象。
·与第二对象18.16.j的优先级成比例地增加可视的第三对象18.16.j.k的尺寸。
·保持第三对象固定在参考点20.2处。
利用位于与参考点20.1相同位置的指针坐标12,以远离参考点20.1的恒定半径rd和固定角度θj设置第二对象18.16.j,而第三可视的对象18.16.j.k是不可视的。图35.4示出朝向对象18.16.3移动的指针14。应用上文所述的算法和函数,导致如10.2中所示的对象18.16、18.16.j和18.16.3.1的布置。对象18.16.1几乎不移动,对象18.16.2移动至稍微靠近对象18.16,而对象18.16.3移动至更加靠近对象18.16。第三视觉对象18.16.3.1是可视的且变得更大,而其他所有视觉对象被隐藏。当穿过阈值23.16.3时,除了对象18.16、18.16.3和18.16.3.1外的全部对象都从10.1中去除。在10.2中第三对象占据可用空间。图35.5示出指针14朝向第三对象18.16.3.1的另一向上移动。第三对象调整其位置,使得如果指针14朝向参考点20.2移动,则对象向下移动,然而,如果指针14移动远离参考点20.2,则第三对象向上移动。图35.6示出指针14的另一向上移动。应用先前所述的算法和函数,导致如在10.2中所示的对象18.16.3.1的布置。在该情况下,对象18.16.3.1朝下移动,使得其更多的子对象被显示。另外的阈值和操作可与第三对象的子对象相关联。
现参照图36和基于图33中所述的方法、函数、算法和行为,该方法还可包括步骤:确定超过一个指针的坐标以及建立指针之间的关系。第一指针由14.1表示且第二指针由14.2表示。图36.1示出在中间位置的第一指针14.1,其中,指针坐标12.1与指针参考坐标20相一致。指针14.1的坐标12.1和交互对象18.i的交互坐标17.i之间的相对距离rip是相等的。这意味着,全部交互对象18.i的优先级也是相等的。结果为,10.2中的交互对象18具有相同的直径W,且显示坐标16.i在围绕参考点20的圆中等距离隔开。图36.2示出移动至参考点20和交互对象18.1的交互坐标17.1的中间的第一指针14.1。在10.2中示出所得到的对象尺寸和布置。具有较高优先级的对象(最靠近指针14.1的对象)的尺寸增大,而具有较低优先级的对象移动远离指针参照线。注意到,此时交互坐标17和显示坐标16的位置不同。图36.3示出在与先前相同位置处的第一指针14.1。在10.1中,在交互对象18.10的交互坐标17.10附近,引入具有坐标12.2的第二指针14.2。在10.1中,指针14.1、参考点20和指针14.2形成扇形。与该扇形的镜像(围绕由参考点20和指针14.1形成的指针参考线所反射的镜像)一起,限定特定的区域70。随着指针14.1和指针14.2四处移动,该区域70被更新,这允许用户调整被限定的区域的边界。当去除第二指针14.2时,捕获区域70。具有显示坐标16.i(其落在区域70内)的交互对象18.i的交互坐标17.i,被更新至目前的显示坐标位置16.i。其他全部的交互坐标保持不变。在该示例中,交互对象18.1、18.2和18.12的交互坐标被更新。如果指针14.1在区域70中到处移动,则在区域70内捕获的对象在图10.2中保持静止。在该情况下,在该区域外的对象18.3至18.11,如先前所述进行交互。还可对于区域70内捕获的交互对象限定新的交互规则。如果指针14.1移动至区域70外,则先前捕获的交互对象18.i的交互坐标17.i重新设定至其初始位置,且全部对象再次如先前所述进行交互。
现参照图37和基于图28中所述的方法、函数、算法和行为,说明了一种用于递归地导航分层数据的方法,该分层数据具有与数据集中的每一对象相关联的不相等的优先重要性。使用具有指示一个对象对于另一对象的相对重要性的一些方式(例如使用频率)的数据集。在10.1中交互对象的初始尺寸与其相对优先重要性成比例地确定,使得较重要的对象占据环状部的较大部分。显示坐标16.i、交互坐标17.i、阈值23.i和对象优先级如前进行确定和计算。图37.1示出第一层次的8个交互对象18.1至18.8的初始布置。对象18.1和对象18.5的相对优先重要性相同,其比剩余的对象具有更高的重要性,该剩余的对象也具有相同的相对优先重要性。图37.2示出在指针如由轨线42所示移动后的布置。如前所述,在该情况下,对于具有最高优先级的交互对象18.1、18.2和18.8,引入第二层次的分层对象。新的交互对象、它们的显示坐标、交互坐标和阈值由子数字表示。交互对象18.1大于交互对象18.2和交互对象18.8,交互对象18.8又大于交互对象18.3和交互对象18.7,交互对象18.7又大于交互对象18.4和交互对象18.6。注意到,对象18.5由于其较高的相对优先重要性而大于对象18.4和对象18.6。可视的第二层次的交互对象18.1.1-4、18.2.1-4和18.8.1-4也根据其在数据集中的相对优先重要性而设定大小。如所示,18.1.1比18.1.2重要两倍,而18.1.2比18.1.3和18.1.4重要两倍,18.1.3和18.1.4具有相同的相对优先重要性。将函数分配给阈值23,由此,当阈值23被穿过时(例如通过穿过对象的周边),交互对象被选择且基于所选择的对象建立下一层次的导航。随着指针移动至更靠近阈值23,最高优先级的交互对象占据环状布置中的更多空间,直到其完全接管和占据该空间。这与被穿过的最高优先级的对象的阈值23相一致。当建立下一层次的导航时,在指针的位置处创建新的指针参考点20。对于所选择的交互对象,如前所述新的交互坐标17和阈值23被创建并更新以用于其子对象。新的交互对象可被创建以代表导航返回至先前层次。该对象以与代表数据的对象相同的方式表现,但不显示子对象。图37.3示出:在已选择交互对象18.1后,第二层次的分层对象18.1.1至18.1.4围绕新的指针参考点20.2的初始布置。交互对象根据其相对的优先重要性而被设定大小。如图所示,18.1.1的重要性为18.1.2的重要性的两倍,而18.1.2的重要性为18.1.3和18.1.4的重要性的两倍,18.1.3和18.1.4具有相同的相对优先重要性。示出新的交互坐标17.1.1至17.1.4和阈值23.1.1至23.1.4。还示出交互对象18.1.B以及其相关联的显示坐标16.1.B、交互坐标17.1.B和阈值23.1.B,该交互对象能够被选定以导航返回至前一层次。当选定18.1.B时,将示出与图37.1的布置类似的布置。如前所述,交互坐标17和相关联的阈值23的位置在导航期间不变化,直到一个阈值23被穿过且创建了新的导航层次。
应理解,出于进一步说明本发明且帮助本领域技术人员理解本发明而提供了示例,该示例不应被解释为不适当地限制本发明的合理范围。

Claims (39)

1.一种用于在图形用户界面GUI上进行人机交互的方法,所述方法包括以下步骤:
利用输入装置或相对于输入装置确定指针的坐标;
确定交互对象的坐标,所述交互对象中的至少两个对象被显示;
创建与所述交互对象有关的阈值和与围绕所述交互对象的空间有关的阈值;
根据所述交互对象相对于所述指针的距离和/或方向,确定所述交互对象的优先级;
根据所述对象的优先级移动所述交互对象和阈值;
每当所述指针的坐标变化时重复上述步骤;和
当达到阈值时,执行操作。
2.根据权利要求1所述的方法,其中,最高优先级给予最靠近所述指针的交互对象,而最低优先级给予最远离所述指针的交互对象。
3.根据权利要求1所述的方法,其中,当针对所述交互对象计算新的坐标时,最高优先级的所述交互对象移动至更靠近所述指针,当最高优先级的所述交互对象移动至更靠近所述指针时,针对所述交互对象计算新的坐标。
4.根据权利要求2或3所述的方法,其中,所述交互对象相对于其优先级被设定尺寸。
5.根据权利要求2至4中任一项所述的方法,其中,较低优先级的对象移动远离较高优先级的对象。
6.根据权利要求1至5中任一项所述的方法,其中,所述方法包括首先固定或确定指针参考点的步骤,坐标的其他变化参考所述指针参考点。
7.根据权利要求6所述的方法,其中,所述方法包括重设或重新定位所述指针参考点的步骤。
8.根据权利要求1至7中任一项所述的方法,其中,所述对象的初始坐标根据数据结构或根据按照每个对象的相对优先重要性分配给每个对象的权重,所述方法包括确定所述交互对象相对于彼此的坐标的步骤。
9.根据权利要求1至7中任一项所述的方法,其中,确定在所述GUI上显示的交互对象的坐标的步骤包括确定所述交互对象相对于彼此的坐标的步骤。
10.根据权利要求1至9中任一项所述的方法,其中,所述方法包括以下步骤:布置所述交互对象,使得自所述指针的每一方向指向至多一个对象的位置坐标。
11.根据权利要求6至10中任一项所述的方法,其中,从所述指针或所述指针参考到对象的方向测量或距离测量被用作算法中的用以确定优先级的参数。
12.根据权利要求1至11中任一项所述的方法,其中,所述方法包括记录所述指针的移动以确定轨线的步骤。
13.根据权利要求12所述的方法,其中,所述轨线被用于确定所述指针的目的方向和/或速度和/或其时间导数,以作为用于确定所述交互对象的优先级的参数。
14.根据权利要求12所述的方法,其中,所述方法包括以下步骤:使用所述轨线以确定与确定优先级的一个对象或多个对象有关的输入。
15.根据权利要求1至14中任一项所述的方法,其中,所述对象被布置在凸空间的边界上。
16.根据权利要求1至15中任一项所述的方法,其中,独立使用关于对象的距离和方向作为算法中的参数,以确定对所述对象的独立效应。
17.根据权利要求6至16中任一项所述的方法,其中,所述方法包括创建一个或多个阈值的步骤,所述阈值选自:
与对象有关的阈值;
与围绕对象的空间相关联的阈值;
与所述指针参考点有关的固定阈值;和
当所述指针坐标在一定的空间限值内在预定的时间保持静止时基于时间所创建的阈值。
18.根据权利要求17所述的方法,其中,当到达阈值时,改变以下任一个或多个的可视化表示:
指针;
所显示的背景;和
交互对象。
19.根据权利要求17或权利要求18所述的方法,其中,根据所述交互对象且相对于彼此动态地改变所述阈值的位置和/或形状。
20.根据权利要求1至19中任一项所述的方法,其中,所述方法包括根据指针的位置改变对象的状态或目的的步骤。
21.根据权利要求1至20中任一项所述的方法,其中,所述方法包括确定多于一个指针的坐标且建立所述指针之间的关系的步骤。
22.根据权利要求17至21中任一项所述的方法,其中,所述方法包括创建与围绕对象的空间相关联的阈值的步骤以及当所述阈值被激活时创建逻辑上属于现有的交互对象之间的空间内或空间后的新的交互对象的步骤。
23.一种用于在图形用户界面GUI上进行人机交互的方法,所述方法包括以下步骤:
确定指针的坐标;
相对于所述指针或中心点以凸形集合构型布置交互对象;
以凸形集合形式显示一个或多个交互对象;
根据所述指针的坐标确定GUI上显示的交互对象的坐标;
根据所述交互对象与指针的距离确定所述交互对象的优先级;
根据所述交互对象的优先级移动所述交互对象;和
每当所述指针的坐标变化时,重复上述步骤。
24.根据权利要求23所述的方法,其中,所述方法包括以下步骤:
确定交互对象的交互坐标;
确定交互对象的显示坐标,所述交互对象中的至少两个对象被显示。
25.根据权利要求23或权利要求24所述的方法,其中,所述方法包括以下步骤:布置所述对象使得自所述指针的每一方向指向至多一个对象的交互坐标。
26.根据权利要求25所述的方法,其中,所述交互对象被布置成向用户提供功能优势,且所述显示坐标被布置成向所述用户提供视觉优势。
27.根据权利要求24至26中任一项所述的方法,其中,创建与对象的交互坐标有关的阈值,和/或创建与围绕对象的交互坐标的空间相关联的阈值。
28.一种用于在图形用户界面GUI上进行人机交互的方法,所述方法包括以下步骤:
定位虚拟空间中的称为指针的点,用户在一时刻在该点处导航;
定位虚拟空间中的多个点;
根据算法,计算所述虚拟空间中的所述多个点与所述虚拟空间中的所述指针的交互,由此减小更靠近所述指针的点与所述指针之间的距离;
建立与参考点有关的阈值以及与围绕参考点的空间有关的阈值;
根据算法,相对于参考点和指针之间的距离移动参考点阈值和/或设定参考点阈值的大小;
每当指针的坐标变化时重复上述步骤;和
当达到阈值时,执行操作。
29.根据权利要求1至28中任一项所述的方法,其中,所述方法包括以下步骤:
将虚拟z坐标值分配给在所述GUI上显示的交互对象,以形成在所述显示的后方和/或上方延伸的虚拟三维GUI空间;
相对于在所述输入装置上方的指针对象的距离Z,确定相对应的虚拟z坐标值;和
创建与在z-轴线上的所述z坐标值有关的虚拟阈值,其中指针对象的Z坐标与该阈值有关。
30.根据权利要求29所述的方法,其中,在虚拟的阈值平面被激活或穿过后,通过将所述指针悬停预定的时间而创建新的虚拟的阈值平面。
31.根据权利要求29或权利要求30所述的方法,所述方法包括提供沿着z-轴线的多个虚拟的阈值平面的步骤,每一虚拟的阈值平面提供将交互对象布置在所述GUI中的平面。
32.根据权利要求29至31中任一项所述的方法,其中,所述方法包括步骤:根据所述指针沿着所述z-轴线、Z-轴线的位置或所述指针相对于阈值的位置,改变所述指针的可视化表示。
33.根据权利要求29至32中任一项所述的方法,其中,所述方法包括以下步骤:根据指针对象的x、y和Z坐标,确定在独立的、固定的或者静止的x、y坐标上方的指针对象的取向或者取向变化。
34.一种导航工具,所述导航工具被配置成:
利用输入装置或相对于输入装置确定指针的坐标;
确定交互对象的坐标,所述交互对象中的至少两个对象被显示;
创建与所述交互对象有关的阈值和与围绕所述交互对象的空间有关的阈值;
根据所述交互对象相对于所述指针的距离和/或方向,确定所述交互对象的优先级;
相对于对象优先级移动所述交互对象和阈值;
每当所述指针的坐标变化时,重复上述步骤;和
当达到阈值时,执行操作。
35.一种图形用户界面,所述图形用户界面被配置成:
利用输入装置或相对于输入装置确定指针的坐标;
确定交互对象的坐标,所述交互对象中的至少两个对象被显示;
创建与所述交互对象有关的阈值和与围绕所述交互对象的空间有关的阈值;
根据所述交互对象相对于所述指针的距离和/或方向,确定所述交互对象的优先级;
相对于对象优先级移动交互对象和阈值;
每当指针的坐标变化时,重复上述步骤;和
当达到阈值时,执行操作。
36.一种计算机和计算机操作装置,其中,所述计算机和计算机操作装置包括如权利要求34所述的导航工具或者如权利要求35所述的图形用户界面。
37.一种用于在图形用户界面GUI上进行人机交互的方法,基本上如参照附图所述。
38.一种导航工具,基本上如参照附图所述。
39.一种图形用户界面,基本上如参照附图所述。
CN201280058900.0A 2011-09-30 2012-09-21 用于在图形用户界面(gui)上进行人机交互的方法 Pending CN104137043A (zh)

Applications Claiming Priority (9)

Application Number Priority Date Filing Date Title
ZA2011/07170 2011-09-30
ZA201107169 2011-09-30
ZA201107170 2011-09-30
ZA201107171 2011-09-30
ZA201107172 2011-09-30
ZA2011/07172 2011-09-30
ZA2011/07171 2011-09-30
ZA2011/07169 2011-09-30
PCT/ZA2012/000059 WO2013049864A1 (en) 2011-09-30 2012-09-21 Method for human-computer interaction on a graphical user interface (gui)

Publications (1)

Publication Number Publication Date
CN104137043A true CN104137043A (zh) 2014-11-05

Family

ID=47295222

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280058900.0A Pending CN104137043A (zh) 2011-09-30 2012-09-21 用于在图形用户界面(gui)上进行人机交互的方法

Country Status (5)

Country Link
US (1) US20150113483A1 (zh)
EP (1) EP2761419A1 (zh)
CN (1) CN104137043A (zh)
WO (1) WO2013049864A1 (zh)
ZA (1) ZA201409315B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106406360A (zh) * 2016-08-31 2017-02-15 惠州华阳通用电子有限公司 一种虚拟仪表指针旋转控制方法及装置
CN107450791A (zh) * 2016-05-30 2017-12-08 阿里巴巴集团控股有限公司 一种信息显示方法及装置
CN108228026A (zh) * 2016-12-22 2018-06-29 达索系统公司 三维场景中对象的快速操纵

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9507454B1 (en) * 2011-09-19 2016-11-29 Parade Technologies, Ltd. Enhanced linearity of gestures on a touch-sensitive surface
JP6153710B2 (ja) * 2012-09-28 2017-06-28 株式会社Pfu 帳票入出力装置、帳票入出力方法、および、プログラム
US10503359B2 (en) 2012-11-15 2019-12-10 Quantum Interface, Llc Selection attractive interfaces, systems and apparatuses including such interfaces, methods for making and using same
US10289204B2 (en) 2012-11-15 2019-05-14 Quantum Interface, Llc Apparatuses for controlling electrical devices and software programs and methods for making and using same
US9477376B1 (en) * 2012-12-19 2016-10-25 Google Inc. Prioritizing content based on user frequency
AU2013363975A1 (en) 2012-12-19 2015-07-23 Willem Morkel Van Der Westhuizen User control of the trade-off between rate of navigation and ease of acquisition in a graphical user interface
USD750663S1 (en) 2013-03-12 2016-03-01 Google Inc. Display screen or a portion thereof with graphical user interface
US8676431B1 (en) 2013-03-12 2014-03-18 Google Inc. User interface for displaying object-based indications in an autonomous driving system
USD754189S1 (en) 2013-03-13 2016-04-19 Google Inc. Display screen or portion thereof with graphical user interface
US10089786B2 (en) * 2013-08-19 2018-10-02 Qualcomm Incorporated Automatic customization of graphical user interface for optical see-through head mounted display with user interaction tracking
WO2015051047A1 (en) * 2013-10-01 2015-04-09 Quantum Interface, Llc. Selection attractive interfaces, systems and apparatuses including such interfaces, methods for making and using same
KR102194262B1 (ko) 2013-12-02 2020-12-23 삼성전자주식회사 포인팅 정보를 표시하는 방법 및 이를 위한 디바이스
GB2522670A (en) 2014-01-31 2015-08-05 Sony Corp Computing device
DE112014000297T5 (de) * 2014-02-18 2015-11-12 Mitsubishi Electric Corporation Spracherkennungsvorrichtung und Anzeigeverfahren
JP6303772B2 (ja) * 2014-04-25 2018-04-04 富士通株式会社 入力制御装置、制御方法および制御プログラム
CN105025377A (zh) * 2014-04-30 2015-11-04 深圳市天易联科技有限公司 智能电视界面指令自适应识别方法
WO2015188011A1 (en) 2014-06-04 2015-12-10 Quantum Interface, Llc. Dynamic environment for object and attribute display and interaction
US9977566B2 (en) * 2014-06-24 2018-05-22 Google Llc Computerized systems and methods for rendering an animation of an object in response to user input
JP6305279B2 (ja) * 2014-08-26 2018-04-04 株式会社東芝 映像圧縮装置および映像再生装置
US10332283B2 (en) * 2014-09-16 2019-06-25 Nokia Of America Corporation Visualized re-physicalization of captured physical signals and/or physical states
US10788948B2 (en) 2018-03-07 2020-09-29 Quantum Interface, Llc Systems, apparatuses, interfaces and implementing methods for displaying and manipulating temporal or sequential objects
US11205075B2 (en) 2018-01-10 2021-12-21 Quantum Interface, Llc Interfaces, systems and apparatuses for constructing 3D AR environment overlays, and methods for making and using same
USD795886S1 (en) * 2015-03-09 2017-08-29 Uber Technologies, Inc. Display screen with graphical user interface
US10503264B1 (en) * 2015-06-16 2019-12-10 Snap Inc. Radial gesture navigation
USD784397S1 (en) * 2015-08-24 2017-04-18 Salesforce.Com, Inc. Display screen or portion thereof with animated graphical user interface
KR102452635B1 (ko) * 2016-03-10 2022-10-11 삼성전자주식회사 영상 표시 장치 및 방법
CN107015637B (zh) * 2016-10-27 2020-05-05 阿里巴巴集团控股有限公司 虚拟现实场景下的输入方法和装置
WO2018093391A1 (en) * 2016-11-21 2018-05-24 Hewlett-Packard Development Company, L.P. 3d immersive visualization of a radial array
USD841672S1 (en) * 2016-12-16 2019-02-26 Asustek Computer Inc. Display screen with graphical user interface
USD841662S1 (en) * 2016-12-16 2019-02-26 Asustek Computer Inc. Display screen with graphical user interface
USD822710S1 (en) * 2016-12-16 2018-07-10 Asustek Computer Inc. Display screen with graphical user interface
USD844662S1 (en) * 2017-05-16 2019-04-02 Google Llc Display screen with animated icon
JP1630005S (zh) * 2017-11-21 2019-04-22
US11442591B2 (en) * 2018-04-09 2022-09-13 Lockheed Martin Corporation System, method, computer readable medium, and viewer-interface for prioritized selection of mutually occluding objects in a virtual environment
US11853533B1 (en) * 2019-01-31 2023-12-26 Splunk Inc. Data visualization workspace in an extended reality environment
US11644940B1 (en) 2019-01-31 2023-05-09 Splunk Inc. Data visualization in an extended reality environment
CN110852596A (zh) * 2019-11-06 2020-02-28 无锡功恒精密机械制造有限公司 一种工艺工序设计方法及设计模块
US11269479B2 (en) * 2019-12-31 2022-03-08 Google Llc Automatic focus detection with relative threshold-aware cell visibility for a scrolling cell collection
USD987656S1 (en) * 2021-06-04 2023-05-30 Apple Inc. Display screen or portion thereof with graphical user interface
ZA202206343B (en) * 2021-06-11 2023-12-20 Swirl Design Pty Ltd Selecting a desired item from a set of items

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6714222B1 (en) * 2000-06-21 2004-03-30 E2 Home Ab Graphical user interface for communications
CN101627359A (zh) * 2007-01-07 2010-01-13 苹果公司 用于在触摸屏上移动列表项目的系统和方法
US20100313124A1 (en) * 2009-06-08 2010-12-09 Xerox Corporation Manipulation of displayed objects by virtual magnetism

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2301757B (en) * 1995-06-01 2000-02-02 Ibm Graphical user interface
US6073036A (en) 1997-04-28 2000-06-06 Nokia Mobile Phones Limited Mobile station with touch input having automatic symbol magnification function
US7434177B1 (en) 1999-12-20 2008-10-07 Apple Inc. User interface for providing consolidation and access
CA2362416C (en) * 2000-01-05 2009-08-04 Mitsubishi Denki Kabushiki Kaisha Keyword extracting device
US20020171675A1 (en) * 2001-05-15 2002-11-21 International Business Machines Corporation Method and system for graphical user interface (GUI) widget having user-selectable mass
US20020171689A1 (en) * 2001-05-15 2002-11-21 International Business Machines Corporation Method and system for providing a pre-selection indicator for a graphical user interface (GUI) widget
GB0322600D0 (en) * 2003-09-26 2003-10-29 Univ Ulster Thematic retrieval in heterogeneous data repositories
US7383517B2 (en) * 2004-04-21 2008-06-03 Microsoft Corporation System and method for acquiring a target with intelligent pointer movement
US7653883B2 (en) 2004-07-30 2010-01-26 Apple Inc. Proximity detector in handheld device
KR100735558B1 (ko) * 2005-10-18 2007-07-04 삼성전자주식회사 포인터 표시 장치 및 방법
EP2010999A4 (en) * 2006-04-21 2012-11-21 Google Inc SYSTEM FOR ORGANIZING AND VISUALIZING DISPLAY OBJECTS
US8284165B2 (en) 2006-10-13 2012-10-09 Sony Corporation Information display apparatus with proximity detection performance and information display method using the same
US20080120568A1 (en) * 2006-11-20 2008-05-22 Motorola, Inc. Method and device for entering data using a three dimensional position of a pointer
US9176598B2 (en) * 2007-05-08 2015-11-03 Thinkoptics, Inc. Free-space multi-dimensional absolute pointer with improved performance
US20080307359A1 (en) * 2007-06-08 2008-12-11 Apple Inc. Grouping Graphical Representations of Objects in a User Interface
KR20090036877A (ko) * 2007-10-10 2009-04-15 삼성전자주식회사 다중 프로젝션 윈도우 환경에서 기준자 기반으로오브젝트를 관리하는 방법 및 그 시스템
US7856883B2 (en) 2008-03-24 2010-12-28 Industrial Technology Research Institute Capacitive ultrasonic sensors and display devices using the same
US20100100849A1 (en) * 2008-10-22 2010-04-22 Dr Systems, Inc. User interface systems and methods
US8516397B2 (en) 2008-10-27 2013-08-20 Verizon Patent And Licensing Inc. Proximity interface apparatuses, systems, and methods
US20100169828A1 (en) * 2008-12-29 2010-07-01 International Business Machines Corporation Computer desktop organization via magnet icons
FI20095376A (fi) * 2009-04-06 2010-10-07 Aalto Korkeakoulusaeaetioe Menetelmä laitteen ohjaamiseksi
US8549432B2 (en) * 2009-05-29 2013-10-01 Apple Inc. Radial menus
US20120249463A1 (en) * 2010-06-04 2012-10-04 Smart Technologies Ulc Interactive input system and method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6714222B1 (en) * 2000-06-21 2004-03-30 E2 Home Ab Graphical user interface for communications
CN101627359A (zh) * 2007-01-07 2010-01-13 苹果公司 用于在触摸屏上移动列表项目的系统和方法
US20100313124A1 (en) * 2009-06-08 2010-12-09 Xerox Corporation Manipulation of displayed objects by virtual magnetism

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
J.LAMPING等: "A focus+context technique based on hyperbolic geometry for visualizing large hierarchies", 《CHI 95 PROCEEDINGS OF THE SIGCHI CONFERENCE ON HUMAN FACTORS IN COMPUTING SYSTEMS》 *
Y.K.LEUNG等: "A review and taxonomy of distortion-oriented presentation techniques", 《ACM TRANSACTIONS ON COMPUTER-HUMAN INTERACTION》 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107450791A (zh) * 2016-05-30 2017-12-08 阿里巴巴集团控股有限公司 一种信息显示方法及装置
CN107450791B (zh) * 2016-05-30 2021-07-02 阿里巴巴集团控股有限公司 一种信息显示方法及装置
CN106406360A (zh) * 2016-08-31 2017-02-15 惠州华阳通用电子有限公司 一种虚拟仪表指针旋转控制方法及装置
CN106406360B (zh) * 2016-08-31 2019-11-08 惠州华阳通用电子有限公司 一种虚拟仪表指针旋转控制方法及装置
CN108228026A (zh) * 2016-12-22 2018-06-29 达索系统公司 三维场景中对象的快速操纵

Also Published As

Publication number Publication date
US20150113483A1 (en) 2015-04-23
ZA201409315B (en) 2015-12-23
EP2761419A1 (en) 2014-08-06
WO2013049864A1 (en) 2013-04-04

Similar Documents

Publication Publication Date Title
CN104137043A (zh) 用于在图形用户界面(gui)上进行人机交互的方法
Jankowski et al. Advances in interaction with 3D environments
EP1369822B1 (en) Apparatus and method for controlling the shift of the viewpoint in a virtual space
Bowman et al. An introduction to 3-D user interface design
Bezerianos et al. The vacuum: facilitating the manipulation of distant objects
CN102782633B (zh) 灵活的平行和正交移动的视觉信息呈现的方法
US20170228138A1 (en) System and method for spatial interaction for viewing and manipulating off-screen content
Bailly et al. Design and evaluation of finger-count interaction: Combining multitouch gestures and menus
Kin et al. Eden: a professional multitouch tool for constructing virtual organic environments
CN104571823B (zh) 一种基于智能电视的非接触式虚拟人机交互方法
KR20160046150A (ko) 도형 컨텐트를 생성 및 해석하는 방법 및 장치
Telkenaroglu et al. Dual-finger 3d interaction techniques for mobile devices
US10180714B1 (en) Two-handed multi-stroke marking menus for multi-touch devices
CN104471518A (zh) 用于三维交互的多点触摸手势识别的消歧
EP2748737A1 (en) Multi-function affine tool for computer-aided design
US9891812B2 (en) Gesture-based selection and manipulation method
KR101442438B1 (ko) 듀얼 터치 경험 필드를 달성하기 위한 싱글 터치 프로세스
CN105243469A (zh) 一种多维空间映射到低维空间的方法及其展示方法和系统
Yao et al. A multi-touch natural user interface framework
Markusson Interface Development of a Multi-Touch Photo Browser
Hopkins et al. Interface for a sketch-planning workbench
Uddin Improving Multi-Touch Interactions Using Hands as Landmarks
Daiber et al. Towards a framework for whole body interaction with geospatial data
Hu et al. The effects of screen size on rotating 3D contents using compound gestures on a mobile device
Kang et al. UFO-Zoom: A new coupled map navigation technique using hand trajectories in the air

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20141105