CN104823147A - 作为与应用的交互的多模式用户表达和用户力度 - Google Patents

作为与应用的交互的多模式用户表达和用户力度 Download PDF

Info

Publication number
CN104823147A
CN104823147A CN201380053225.7A CN201380053225A CN104823147A CN 104823147 A CN104823147 A CN 104823147A CN 201380053225 A CN201380053225 A CN 201380053225A CN 104823147 A CN104823147 A CN 104823147A
Authority
CN
China
Prior art keywords
user
geographical
touch
map
dynamics
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201380053225.7A
Other languages
English (en)
Other versions
CN104823147B (zh
Inventor
M.霍斯拉维
D.劳勒
P.德梅奥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Technology Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Technology Licensing LLC filed Critical Microsoft Technology Licensing LLC
Publication of CN104823147A publication Critical patent/CN104823147A/zh
Application granted granted Critical
Publication of CN104823147B publication Critical patent/CN104823147B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3664Details of the user input interface, e.g. buttons, knobs or sliders, including those provided on a touch screen; remote controllers; input using gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B29/00Maps; Plans; Charts; Diagrams, e.g. route diagram
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0381Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04806Zoom, i.e. interaction techniques or interactors for controlling the zooming operation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Automation & Control Theory (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Mathematical Physics (AREA)
  • Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • User Interface Of Digital Computer (AREA)
  • Navigation (AREA)
  • Instructional Devices (AREA)

Abstract

使得能够与计算设备进行单模式和多模式交互而且对一个或多个姿态中的用户力度(或活跃度)进行解译的架构。在地理空间实施方式中,多点触摸交互能够涉及到触觉压力(触摸敏感)的检测和处理以促成两个地理点之间的一般性导航。这进一步与提供促进导航和逐向指示的详细信息相结合。这包括使用时间和/或压力来释放或增加地图拼块的缩放水平,触摸两个地理点以及讲话以获得这两个地理点之间的指意,以及混合拼块以形成引人注目的用户体验,其中该地图在相同视图上处于不同水平的缩放。

Description

作为与应用的交互的多模式用户表达和用户力度
背景技术
在计算环境中,用户感到设备交互的方式变得越来越复杂。计算机交互的基本技术是键盘、鼠标,随后为光笔、触摸屏等。例如,在诸如计算机游戏系统之类的更为复杂的系统中,目前提供了识别语音和自然用户动作的交互系统。然而,这些现有的更为先进的功能仍然处于初级阶段而并未在许多硬件和软件系统中被全面采用。
发明内容
以下给出简化的发明内容以便提供对这里所描述的一些新颖实施例的基本理解。该发明内容并非是扩展性综述,并且其并非意在标示出关键/必要要素或者对其范围加以限定。其目的仅在于以简化形式给出一些概念作为随后给出的更为详细的描述的前序。
所公开的架构使得能够进行单模式和多模式的用户表达(例如,姿态(gesture)、话音等)作为与计算设备的交互。此外,这些表达能够被分析以确定(多个)表达中的用户力度(intensity)(或活跃度)。表达可以包括单个或多个用户动作(例如,面部表情加上手部运动,手部运动加上话音,等等)。例如,在地理空间实施方式中,多点触摸交互能够涉及相对于地图(导航)应用的两个地理点的触觉压力(敏感触摸)的检测和处理以促成这两个点之间的一般性导航(general navigation)。这进一步与提供促成导航和逐向指示(turn-by-turn indications)的详细信息相结合。继续该地理空间应用的实施方式,能够结合触觉压力的表达对时间进行追踪以释放或增加地理地图拼块(tile)的缩放水平(其中该地图在相同视图上处于不同缩放水平),触摸两个地理点并且讲话以获得这两个点之间的指意(directions),并且混合地图拼块,所有这些都能够被实现以形成引人注目的用户体验。
模式输入表达包括但并不局限于(多个)用户姿态(例如,面部表情、身体附属物和身体移动、话音等),它们能够被感应并解译为包括用户力度,作为示例,诸如手部的加速运动,触摸屏上有所增加的触觉压力数量或速率,触觉压力感应系统上持续的触觉压力(压力驻留),有所增加/减小的话音音量和/或讲话速度(通常为姿态速度),以及被识别为显示出惊讶、震惊、高兴等的面部姿态。
该架构使用系统交互、表达、呈现以及可选地用户力度的任意组合进行操作。例如,在其中采用地图拼块的地理空间实施方式中,随着缩放水平增大或减小(例如,经由语音、经由触摸、经由压力敏感板上的压力等),以变化的数据分辨率给出周边区域以形成表现出有所增大或减小的缩放水平的更为精细的水平的细节拼块化(tiling)。诸如姿态的表达能够被用来影响缩放混合比率以及基于象限四分树的嵌合(quad tree based tessellation)(不同分辨率的两个或更多地理地区的一些或全部间隙空间的逐渐无缝视觉转换)并且利用透明且模糊的覆盖层进行呈现以覆盖硬边缘和间隙(例如,跨受影响的地图区域)。不同大小的地图拼块被混合以提供更具吸引力的用户体验。
该架构还通过使起始和结束点之间的路径曲线模糊化而提供加速视图,这适用于性能和/或网络连接性可能有所降低(或受限)的情形而使得仅取得接近于兴趣点的缩放水平。
为了实现以上和相关目标,在这里结合以下描述和附图对某些说明性方面进行描述。这些方面指示了这里所公开的原理能够被加以实践的各种方式,并且所有方面及其等同形式都意在处于所请求保护的主题的范围之内。其它优势和新颖特征在结合附图考虑时都将由于以下详细描述而变得显而易见。
附图说明
图1图示了依据所公开架构的系统。
图2图示了用户表达以及经由触摸显示器在地图和导航应用中呈现的差分拼块的实施方式的示图。
图3图示了利用取得缩放水平的递归分割表示缩放水平的细节水平的逻辑视图的示图。
图4图示了用于边缘呈现的地图拼块化的逻辑视图的示图。
图5图示了其中通过聚拢和放开而采用姿态对全局缩放施加影响的示图。
图6图示了其中地理空间搜索结果均在地图上以有所增加的缩放水平呈现的可替换实施方式。
图7图示了描绘为了起始点以及去往目的地点的道路上的任何后续转弯附近的更为详细的视图而使用鱼眼地区的示图。
图8图示了依据所公开架构的方法。
图9图示了依据所公开架构的可替换方法。
图10图示了依据所公开架构的为了利用用户力度进行应用交互而执行多模式用户表达的计算系统的框图。
具体实施方式
所公开的架构使得能够进行单模式和多模式(例如,多输入)用户表达作为与计算设备的交互。可替换地或除此之外,一个或多个表达的用户力度(或活跃度)能够作为该交互的一部分进行计算以导致其它设备/应用操作。该单模式和多模式表达(设备、应用、系统的输入)包括话音、姿态和触摸中的任何一个或组合而使得与计算设备(例如,蜂窝电话、平板电脑、计算机等)进行交互的用户体验能够更快且更为优化。例如,在地图和导航应用中,能够通过在避免若干次鼠标点击的情况下在点上进行触摸而确定两个地理点之间的指意。能够利用话音作为添加的姿态以消除可能在多模式姿态环境中引入的任何硬件/软件的困惑。
在现有地理空间范例中,挑战在于试图显示出其中所有地图拼块都处于相同缩放水平的用户体验。所公开的架构使用系统交互、表达和呈现的组合进行操作。例如,在其中采用拼块的地理空间实施方式中,随着缩放水平增大或减小(例如,经由语音、经由触摸、经由压力敏感板上的压力等),周边地图区域能够被嵌合以形成表现出有所增大或减小的缩放水平的更为精细的水平的细节拼块化(tiling)。
诸如姿态之类的表达(例如,语音、手部、身体、姿势、眼睛、面部等)能够被用来影响缩放混合比率和基于象限四分树的嵌合,并且利用透明和模糊的覆盖层进行呈现以覆盖硬边缘和跨受影响区域的间隙。(象限四分树是树形数据结构,其中每个节点具有多达四个的子节点,并且最常被用来通过对二维空间进行递归细分而对其进行划分。)
该架构还通过使起始和结束位置之间的路径曲线模糊化而提供加速视图,这适用于其中性能和/或网络连接性为低的情形从而仅取得接近于兴趣点的缩放水平。
关于诸如触摸敏感显示器(或屏幕)或者其它类型的表面上的触觉压力之类的压力变化,多个压力阈值能够被配置来不仅感应所施加的不同压力水平以及驻留(例如,每次单个触觉接触的时间,每次所施加的每个压力水平的时间),而且还感应该压力被施加的速率。例如,用户力度能够被计算为与所施加压力的速率相关。如果用户以有所增加的速率施加触觉压力(相对于静态或恒定压力的加速压力增加),则能够计算出用户力度为高,并且因此确定相对应的急迫度水平,并且能够加快硬件/软件动作(例如,通过分配相对应数量的处理和其它资源)。
压力感应和检测能够被计算为驻留的函数。驻留是给定用户动作所花费的时间量。也就是说,如果用户施加持续压力(恒定压力数值)达预定时间(例如,一秒钟、三秒钟等),则该压力动作能够以与施加了三秒钟的压力交互不同的方式进行解译。类似地,如果用户以增加的速率施加触觉压力(例如,相对于静态压力的加速压力增加),则能够计算出用户力度为高,并且因此确定相对应的急迫度水平并且投入相对应数量的处理和其它资源,以使得相关联的硬件/软件迅速执行所期望的动作。
能够针对一个或多个交互感应和检测语音和话音的表达,并且基于音量(响度)、音量变化、讲话速度、作为紧张水平的语音音调(例如,高、低)、语调舒缓度、持续语调等分析用户力度。诸如呼噜声、呻吟、抱怨等的嘴部输出也能够针对所期望的交互影响进行配置。
作为手部运动和指部(手指)计数的表达能够被感应和检测为用于应用控制的一个或多个交互,并且针对用户力度进行分析。例如,手部的轻弹能够表示文档或应用的视图之间的翻页。加速轻弹(惯性运动或表达)可以表明用于使得翻页操作加速的用户力度。
作为面部表情的表达能够针对一个或多个交互进行感应和检测,并且基于转换为惊讶、悲伤等的表达而针对用户力度进行分析。
例如,表达能够基于所感应和检测到的身体温度、心率和其它生理参数而被推断为表示情绪和坦诚度,并且针对用户力度进行分析。例如,如果身体温度和/或心率有所升高,则能够推断出用户力度也有所升高并且被解译为是重要的。因此,应用能够以更为高效的水平进行操作以完成交互。
表达能够基于所感应和检测到的肤色进行推断,并且针对用户力度进行分析。例如,如果面部肤色被感应为红色,则表达和用户力度能够被推断为与紧张、有所增加的脑力或体力活动有关,这随后能够涉与情绪有关。因此,该交互能够使得应用以相对应的方式进行操作。
诸如上下跳跃之类的身体运动的表达能够被感应并检测为与赞同或兴奋有关。因此,用户力度能够被分析以转换为兴奋的情绪水平并且该交互能够使得应用以相对应的方式进行操作。
诸如向左、向右、向上以及向下、眨眼、眼神闪烁、驻留(盯住或注视感兴趣事物的时间长度)等的眼部追踪(移动)例如能够被识别为诸如同意或不同意的具体交互。眼部追踪能够针对用户力度和兴趣进行分析以转换为使得应用以相对应的方式进行操作的(多个)交互。例如,看向地图的具体区域而不改变能够看到的视场可以是隐含性交互(姿态)。如眼部追踪所确定的持续观看可以被应用解译以便随后以某种方式做出响应,诸如放大、缩小、应用图形强调(例如,高亮、下划线、字体变化等)。
能够对一般嵌入在电话和其它计算设备中的诸如陀螺仪和加速计之类的感应组件进行监视以测量与晃动/非晃动、用户方位、晃动速率/加速度、方位移动速率/加速度等有关的表达。这些中的每一个都能够针对用户力度进行分析以转换为使得应用以相对应的方式进行操作的(多个)交互。
现在参考附图,其中同样的附图标记始终被用来指代同样的要素。在以下描述中,出于解释的目的,给出了多个具体细节以便提供对其的全面理解。然而,新颖实施例显然可以在没有这些具体细节的情况下实践。在其它情况下,以框图形式示出了众所周知的结构和设备以便促进对其的描述。目的是覆盖落入所请求保护主题的精神和范围之内的所有修改、等同和替换形式。
图1图示了依据所公开架构的系统100。系统100可以包括感应组件102,其感应多模式用户表达104并将其解译为用于控制应用108的交互106。感应组件102包括设备的感应子系统,诸如摄像机、麦克风、加速计、陀螺仪、温度传感器、湿度传感器、地理位置子系统(例如,GPS—全球定位系统)、压力敏感表面(例如,触摸屏)、其它用户输入(例如,鼠标、笔、键盘等),等等。
感应组件102能够从该子系统向其它机载组件(和/或诸如“云”中的远程组件)输出原始数据以便进行数据处理,诸如面部表情、姿态(例如,自然用户界面(NUI))的识别处理,等等。可替换地,感应组件102包括例如用于执行脸部识别、面部表情识别、姿态识别、语音识别、话音识别等的全部功能和算法,并且随后输出适于由分析组件110处理以便得出任何用户力度112的数据。
如所描绘的,感应组件102的一些输出作为应用108所理解的交互106被直接送至应用108。感应组件102的诸如面部表情图像之类的其它输出被送至分析组件110以便进行分析以确定是否存在用户力度112。应用108随后根据用户表达106和/或用户力度112进行操作。
如之前所指出的,应用108可以是由用户访问以帮助从起始点到达目的地的地图和导航程序。该实施方式在下文中被更为详细地描述。
换句话说,用户表达之一是使用一个或多个触摸(例如,触摸序列、同时触摸等)在(压力)敏感显示器上触摸地图应用上的两个地理点(原点和目的地),以便在原点和目的地之间进行指意(例如,以图形方式或者列出)。该地图应用在保持原点和目的地的精细对焦的同时使原点和目的地之间的路径(拼块)中的地图拼块模糊。该感应组件感应如一个或多个用户表达所定义的用户力度,并且分析组件对该力度进行分析以导致该应用的放大操作或缩小操作。
用户力度根据触摸在触摸敏感显示器上的驻留时间以及该触摸的触摸压力进行定义。应用在单个整体视图中呈现不同水平的视图。用户表达转换为应用于触摸显示器表面的压力和压力驻留,使得不同压力导致相对应有所不同的应用操作。多模式用户表达使用话音输入进行歧义消除。
图2图示了用户表达以及经由触摸显示器202在地图和导航应用中呈现的差分拼块的实施方式的示图200。这里,用户通过左手手指对起始点204以及右手手指在目的地点206上的触觉接触而以多模式的方式与触摸显示器202进行交互。第一接触和第二接触的顺序能够被配置为例如开始到目的地的方向指示。
呈现组件208以第一缩放水平促成起始点204周围的地区210的呈现并且以第二缩放水平促成目的地点206周围的地区212的呈现。该缩放水平可以相同或不同。因此,该视图使得用户能够更为详细地感知到地区(210和212)中的地图细节,由此在其中包括所有拼块的单个地图视图中提供多个水平的细节。
用户能够基于触觉压力来改变每个地区(210和212)中的缩放水平。该变化能够进一步由与触觉压力相关联的驻留促成。再进一步地,该变化能够由用户力度的任何检测促成。
图3图示了利用取得缩放水平的递归分割表示缩放水平的细节水平的逻辑视图的示图300。这里,使用基于象限四分树的拼块混合,使用右手手指触摸起始点302并且使用左手手指触摸目的地点304。通过保持触摸压力恒定达到比起始点302(和地区308)处的触摸压力更长的时间,目的地点304周围的地区306能够以更大的缩放水平(例如,3x)进行呈现,上述起始点302(和地区308)则基于有所减少的驻留(和/或有所减小的触觉压力)而以较低缩放(例如,1x)并且因此较少的地图细节进行呈现,这是因为用户一般可能知道如何从起始点302导航离开,但是在到达目的地点304时则需要更多细节。因此,在一种实施方式中,保持更久或者有所增大的压力产生更高的缩放,并且根据所形成的缩放地图水平以及基于导航路径而取得拼块。随后能够将点(302和304)之间的路径嵌合(模糊化)为混合缩放。
在可替换实施方式中,机载地理位置系统能够对用户从起始点302到目的地点304的进程进行追踪,并且基于用户的地理位置促成沿点(302和304)之间的路径移动的缩放起泡的呈现。
当采用用户力度时,在一个示例中,如果检测到用户力度,则该用户力度能够使得基于所检测到的压力而在一点或两点的地区中显现出自动缩放水平。
图4图示了用于边缘呈现的地图拼块化的逻辑视图的示图400。在触摸点402,触摸点402的地区406附近的区域404显示出象限四分树如何被提示以取得逐渐达到触摸点402处的细节水平的不同缩放水平。如在408所表示的,硬边缘能够通过使用模糊化和透明化而被平滑处理以随着缩放水平变化而解决地图中的接缝。
图5图示了其中通过聚拢和放开而采用姿态对全局缩放施加影响的示图500。这里,用户表达被表示为使用双手(具有或没有触觉接触)改变缩放,并且因此改变相关联的混合比率。呈现组件208能够在所产生的曲线上采用相同技术来形成视觉化。
图6图示了其中地理空间搜索结果均在地图上以有所增加的缩放水平进行呈现的可替换实施方式。这里,给出了四个地理兴趣点,每个具有其自己的缩放水平:第一点602和第一地区604,第二点606和第二地区608,第三点610和第三地区612,以及第四点614和第四地区616。用户表达能够被检测为眼睛注视任意单个点或者任意两点之间的眼睛追踪,而使得针对那些点进行缩放水平的自动调节。
图7图示了描绘为了起始点702以及去往目的地点704的道路上的任何后续转弯附近的更为详细的视图而使用鱼眼地区的示图。鱼眼地区706在用户走过从起始点702到目的地点704的路径时随着用户位置的追踪而进行呈现和更新。
可以使用自然用户界面(NUI)作为所公开架构的一部分。NUI可以被定义为使得用户能够在没有诸如鼠标、键盘、遥控器等的输入设备所施加的人为约束的情况下以“自然”方式与设备进行交互的任何界面技术。NUI方法的示例包括依赖于话音识别、触摸和输入笔识别、在屏幕上和接近屏幕处的姿态识别、空中姿态、头部和眼部追踪、语音和话音、视线、触摸、姿态和机器智能的那些方法。所能够应用的NUI技术的具体类别包括触摸敏感显示器、语音和话音识别、意图和目标理解、使用深度摄像机(诸如,立体摄像机系统、红外摄像机系统、RGB(红色-绿色-蓝色)摄像机系统以及这些的组合)的运动姿态检测、使用加速计/陀螺仪的运动姿态检测、面部识别、3D显示器、头部、眼部和注视追踪、沉浸式增强现实和虚拟现实系统,所有这些都提供更为自然的界面,以及用于使用电场感应电极感应脑部活动的技术(脑电图(EEG)和相关方法)。
这里所包括的是表示用于执行所公开架构的新颖方面的示例性方法的流程图集合。虽然,为了解释起来简单的目的,一种或多种方法在这里例如以流程图或进程图的形式示出并且作为一系列动作进行描述,但是所要理解并意识到的是,该方法并不受动作顺序的限制,因为根据其的一些动作可以以不同顺序进行和/或与这里所示出并描述的其它动作同时进行。例如,本领域技术人员将会理解并意识到的是,方法可替换地能够诸如以状态图而被表示为一系列彼此相关的状态或事件。此外,并非方法中所图示的所有动作对于新颖实施方式而言都是可以被要求的。
图8图示了依据所公开架构的方法。在800,多模式用户表达被感应并且解译为用于控制地理空间应用的交互。在802,基于该用户表达与地理空间应用进行交互以使得该地理空间应用在单个整体视图中呈现出不同水平的缩放。该方法可以进一步包括动作:对该用户表达进行分析以检测用户力度,并且基于该用户表达和用户力度与该地理空间应用进行交互而使得该地理空间应用在单个视图中呈现出不同水平的缩放。
该方法可以进一步包括以下动作:对该用户表达进行分析以检测用户力度,并且基于该用户表达和用户力度与该地理空间应用进行交互而使得该地理空间应用在单个整体视图中呈现出不同水平的缩放。该方法可以进一步包括以下动作:在保持对原点和目的地的精细对焦的同时使地理原点和地理目的地之间的路径(路线)中的地图拼块模糊。
该方法可以进一步包括以下动作:仅取得与地图的地理兴趣点(例如,原点和目的地)相关联的缩放水平。然而,可能出现通过触摸而在地图上选择了三个或更多兴趣点的情况,在这种情况下,缩放水平在这些兴趣点处比地图上的其它任何地方都更大。兴趣点处的缩放水平能够至少细化到街道水平或者处于该应用的能力内所提供的水平。
该方法可以进一步包括以下动作:使用压力敏感显示器上的多个触摸与该地理空间应用进行交互以标示并给出地理原点和目的地之间的指令。该触摸可以顺序地处于不同兴趣点上,它们在前两个被触摸的点上进行操作。可替换地,该触摸可以使用同一只手的两个手指或者不同手的手指同时进行,等等。
该方法可以进一步包括以下动作:响应于触摸压力和触摸驻留时间的对应变化而使得能够实现地理兴趣点上的不同水平的缩放。该触摸压力能够被配置/校准为压力阈值而使得第一压力使第一应用操作得以进行,第二且更大的压力使第二应用操作得以进行,并且还有第三且(比第二压力)更大的压力使第三应用操作得以进行,等等。触摸驻留还能够单独或者与触摸压力结合使用。换句话说,如果兴趣点处的触摸压力持续了预定时间(例如,一秒钟),则该应用将以某种相对应的方式做出响应(例如,增加缩放水平)。
该方法可以进一步包括以下动作:触摸地理空间应用的地图上的地理原点和地理目的地并且提供语音输入(例如,命令)以获得该原点和目的地之间的指意。该方法可以进一步包括以下动作:针对地理原点和地理目的地呈现有所提高的细节水平,并且同时对该地理空间应用的地图中的其余地方呈现有所降低的细节水平。
图9图示了依据所公开架构的可替换方法。在900,感应并分析用户姿态。在902,使得能够基于该用户姿态与导航应用的整体地图视图进行交互以获得导航信息。在904,经由触摸显示器将同时出现的姿态检测为在该整体地图视图中对原点和目的地的选择。在906,该原点和目的地二者的地图视图部分与该整体地图视图的其它地理部分相比都以不同细节水平进行呈现。
该方法可以进一步包括以下动作:响应于触摸压力变化而使得能够实现地图拼块的不同水平的细节,和/或响应于触摸驻留而使得能够实现地图拼块的不同水平的细节。该方法可以进一步包括以下动作:同时触摸该原点和目的地并且讲话而使得该导航应用返回从原点到目的地的指令。
如本申请中所使用的,术语“组件”和“系统”意在是指计算机相关的实体,其是硬件、软件和有形硬件的组合、软件或者执行中的软件。例如,组件可以是诸如处理器、芯片存储器、大型存储设备(例如,光学驱动器、固态驱动器和/或磁性存储媒体驱动器),和计算机之类的有形组件,以及诸如在处理器上运行的过程、对象、可执行程序、数据结构(存储在易失性或非易失性存储媒体中)、模块、执行的线程和/或程序之类的软件组件,但并不局限于此。
作为说明,在服务器上运行的应用和服务器都可以是组件。一个或多个组件可以处于过程和/或执行的线程之内,并且组件可以定位于一台计算机上和/或在两个或更多计算机之间进行分布。词语“示例性”在这里被用来表示用作示例、实例或说明。这里被描述为“示例性”的任何方面或设计都并非必然被理解为优于其它方面或设计的优选或优势。
现在参考图10,其图示了依据所公开架构的为了进行应用交互而执行多模式用户表达(姿态)的计算系统1000的框图。然而,所要意识到的是,所公开的方法和/或系统的一些或全部方面能够被实施为片上系统,其中模拟、数字、混合信号以及其它功能被构建于单个芯片衬底之上。
为了针对其各个方面提供附加环境,图10和以下描述意在提供能够在其中实施各个方面的适当计算系统1000的简要的一般性描述。虽然以上描述处于能够在一个或多个计算机上运行的计算机可执行指令的一般环境之中,但是本领域技术人员将会认识到的是,新颖实施例也能够结合其它程序模块和/或作为硬件和软件的组合来实施。
用于实施各个方面的计算系统1000包括计算机1002,其具有(多个)处理单元1004(也被称作(多个)微处理器和(多个)处理器)、诸如系统存储器1006的计算机可读存储媒体(计算机可读存储媒体还包括磁盘、光盘、固态驱动器、外部存储器系统以及闪存驱动器),以及系统总线1008。(多个)处理单元1004可以是任何各种商业可获得的处理器,诸如单处理器、多处理器、单核单元和多核单元。此外,本领域技术人员将会意识到,该新颖方法能够利用其它计算机系统配置进行实践,包括小型计算机、大型计算机以及个人计算机(例如,台式机、膝上电脑、平板PC等)、手持计算设备、基于微处理器的或可编程消费电器等,它们均能够操作耦合至一个或多个相关联设备。
计算机1002可以是在由支持用于便携式和/或移动计算系统的云计算服务的数据中心和/或计算资源(硬件和/或软件)中所采用的若干计算机之一,上述便携式和/或移动计算系统诸如蜂窝电话和其它支持移动的设备。云计算服务例如包括但并不局限于,作为服务的基础设施、作为服务的平台、作为服务的软件、作为服务的存储、作为服务的桌面、作为服务的数据、作为服务的安全以及作为服务的API(应用程序接口)。
系统存储器1006可以包括计算机可读存储(物理存储)媒体,诸如易失性(VOL)存储器1010(例如,随机存取存储器(RAM))和非易失性存储器(NON-VOL)1012(例如,ROM、EPROM、EEPROM等)。基本输入/输出系统(BIOS)能够存储在非易失性存储器1012中,并且包括诸如在启动期间促成计算机1002内的组件之间的数据和信号的传送的基本例程。易失性存储器1010还可以包括高速RAM,诸如用于对数据进行高速缓存的静态RAM。
系统总线1008为包括但并不局限于系统存储器1006到(多个)处理单元1004的系统组件提供接口。系统总线1008可以是任何各种类型的总线结构,其能够使用任意各种商业可获得的总线架构进一步互连至存储器总线(具有或没有存储器控制器)以及外部总线(例如,PCI、PCIe、AGP、LPC等)。
计算机1002进一步包括(多个)机器可读存储子系统1014以及用于将(多个)存储子系统1014对接至系统总线1008和其它所期望的计算机组件的(多个)存储接口1016。例如,(多个)存储子系统1014(物理存储媒体)可以包括硬盘驱动器(HDD)、磁性软盘驱动器(FDD)、固态驱动器(SSD)和/或光盘存储驱动器(例如,CD-ROM驱动器、DVD驱动器)中的一个或多个。例如,(多个)存储接口1016可以包括诸如EIDE、ATA、SATA和IEEE 1394之类的接口技术。
一个或多个程序和数据能够存储在存储器子系统1006、机器可读且可移动的存储器子系统1018(例如,闪存驱动器形式因数的技术)和/或(多个)存储子系统1014(例如,光学、磁性、固态)中,它们包括操作系统1020、一个或多个应用程序1022、其它程序模块1024和程序数据1026。
例如,操作系统1020、一个或多个应用程序1022、其它程序模块1024和/或程序数据1026可以包括图1的系统100的实体和组件,图2的系统200的实体和组件,图3的示图300的实体和组件,图4的示图400的实体和组件,图5的示图500的实体和组件,图6的可替换实施方式,图7的示图700的实体和组件,以及图8和9的流程图所表示的方法。
通常,程序包括执行特定任务或者实施特定抽象数据类型的例程、方法、数据结构、其它软件组件等。例如,操作系统1020、应用1022、模块1024和/或数据1026的全部或部分都能够在诸如易失性存储器1010的存储器中进行高速缓存。应当意识到的是,所公开的架构能够利用各种商业可获得的操作系统或操作系统组合(例如,作为虚拟机)来实施。
(多个)存储子系统1014和存储器子系统(1006和1018)用作用于数据、数据结构、计算机可执行指令等的易失性和非易失性存储的计算机可读媒体。这样的指令在由计算机或其它机器执行时能够使得该计算机或其它机器执行方法的一个或多个动作。用来执行该动作的指令能够存储在一个媒体上,或者能够跨多个媒体进行存储,而使得该指令共同显现在一个或多个计算机可读存储媒体上,而无论所有指令是否都处于相同媒体上。
一个或多个计算机可读存储媒体可以是并不采用传播信号,能够被计算机1002访问,并且包括可移动和/或非可移动的易失性和非易失性内部和/或外部媒体的任何一个或多个可用媒体。对于计算机1002而言,各种类型的存储媒体容纳任意适当数字格式的数据的存储。本领域技术人员应当意识到的是,能够采用其它类型的计算机可读媒体,诸如zip驱动器、固态驱动器、磁带、闪存卡、闪存驱动器、卡盒等,以便存储用于执行所公开架构的新颖方法(动作)的计算机可执行指令。
用户能够使用诸如键盘和鼠标之类的外部用户输入设备1028以及通过话音识别所促成的语音命令与计算机1002、程序和数据进行交互。其它外部用户输入设备1028可以包括麦克风、IR(红外)遥控器、操纵杆、游戏垫、摄像机识别系统、输入笔、触摸屏、姿态系统(例如,眼部移动、头部移动等)等等。例如,在计算机1002是便携式计算机的情况下,用户能够使用诸如触摸板、麦克风、键盘等的机载用户输入设备1030与计算机1002、程序和数据进行交互。
这些和其它输入设备经由系统总线1008通过(多个)输入/输出(I/O)设备接口1032连接至(多个)处理单元1004,但是能够通过其它接口进行连接,诸如并行端口、IEEE 1394串行端口、游戏端口、USB端口、IR接口、短距离无线(例如,蓝牙)和其它个人域网络(PAN)技术等。(多个)I/O设备接口1032还促成诸如打印机、音频设备、摄像机设备等输出外设1034的使用,诸如声卡和/或机载音频处理功能。
一个或多个图形接口1036(一般也称作图形处理单元(GPU))在计算机1002和(多个)外部显示器1038(例如,LCD、等离子体)和/或机载显示器1040(例如,用于便携式计算机)之间提供图形和视频信号。(多个)图形接口1036也可以被制造为计算机系统主板的一部分。
计算机1002能够使用经由有线/无线通信子系统1042到一个或多个网络和/或其它计算机的逻辑连接而在联网环境(例如,基于IP)中进行操作。其它计算机可以包括工作站、服务器、路由器、个人计算机、基于微处理器的娱乐电器、对等设备或其它普通网络节点,并且通常包括关于计算机1002所描述的许多或全部元件。该逻辑连接可以包括到局域网(LAN)、广域网(WAN)、热点等的有线/无线连接性。LAN和WAN联网环境常见于办公室和公司之中并且促成了诸如企业内部网之类的企业范围计算机网络,所有这些都可以连接至诸如互联网的全球通信网络。
当在联网环境中使用时,计算机1002经由有线/无线通信子系统1042(例如,网络接口适配器、机载收发器子系统等)连接至网络以与有线/无线网络、有线/无线打印机、有线/无线输入设备1044等进行通信。计算机1002可以包括调制解调器或其它器件以便通过网络建立通信。在联网环境中,有关计算机1002的程序和数据能够存储在远程存储器/存储设备中,就像与分布式系统相关联的那样。将要意识到的是,所示出的网络连接是示例性的并且能够使用在计算机之间建立通信链路的其它器件。
计算机1002能够被操作来使用诸如IEEE 802.xx标准族之类的无线电技术与有线/无线设备或实体进行通信,上述设备或实体诸如在与例如打印机、扫描仪、台式和/或便携式计算机、个人数字助理(PDA)、通信卫星、与无线可检测标签相关联的任意设备或位置(例如,柜员机、报摊、休息室)以及电话的无线通信(例如,IEEE 802.11空中调制技术)中操作部署的无线设备。这至少包括用于热点的WiFiTM(用于证明无线计算机网络设备的互操作性)、WiMax和蓝牙TM无线技术。因此,通信可以是像利用常规网络那样的预定义结构,或者简单地是至少两个设备之间的自组织通信。WiFi网络使用称作IEEE 802.11x(a、b、g等)的无线电技术来提供安全、可靠、快速的无线连接性。WiFi网络能够被用来将计算机互相连接、连接至互联网以及有线网络(其使用IEEE 802.3相关技术和功能)。
以上已经描述的内容包括所公开架构的示例。显然,不可能对组件和/或方法的每种可想到的组合都进行描述,但是本领域技术人员将会认识到,许多另外的组合和变换是可能的。因此,该新颖架构意在涵盖落入所附权利要求的精神和范围之内的所有这些改变、修改和变化。此外,就在详细描述或权利要求中所使用的术语“包含”的意义而言,这样的术语意在以术语“包括”在“包括”作为权利要求中的过渡词被采用时所解释的那样类似的方式而是包含性的。

Claims (10)

1. 一种系统,包括:
感应组件,其感应多模式用户表达并且将其解译为用于控制应用的交互;
分析组件,其针对用户力度对该用户表达进行分析,其中该应用根据该用户表达和用户力度进行操作;和
微处理器,其被配置为执行与该感应组件或分析组件中的至少一个相关联的计算机可执行指令。
2. 根据权利要求1所述的系统,其中该用户表达之一是使用一个或多个触摸在触摸敏感显示器上触摸地图应用上的两个地理点以便在原点和目的地之间进行指意,并且该地图应用在保持对该原点和目的地的精细对焦的同时使该原点和目的地之间的路径中的地图拼块模糊。
3. 根据权利要求1所述的系统,其中该感应组件感应如一个或多个用户表达所定义的用户力度,并且该分析组件对该力度进行分析以使得进行该应用的放大操作或缩小操作。
4. 根据权利要求1所述的系统,其中该应用在单个整体视图中呈现不同水平的视图并且该多模式用户表达使用话音输入进行歧义消除。
5. 根据权利要求1所述的系统,其中该用户表达转化为应用于触摸显示器表面的压力和压力驻留而使得不同压力导致相对应不同的应用操作。
6. 一种方法,包括以下动作:
感应多模式用户表达并且将其解译为用于控制地理空间应用的交互;
基于该用户表达与地理空间应用进行交互以使得该地理空间应用在单个整体视图中呈现不同水平的缩放;并且
对处理器进行配置以执行与该感应或交互的动作中的至少一个相关的指令。
7. 根据权利要求6所述的方法,进一步包括动作:对该用户表达进行分析以检测用户力度,并且基于该用户表达和用户力度与该地理空间应用进行交互而使得该地理空间应用在单个整体视图中呈现出不同水平的缩放。
8. 根据权利要求6所述的方法,进一步包括在保持对原点和目的地的精细对焦的同时使地理原点和地理目的地之间的路径中的地图拼块模糊,并且仅取得与地图的地理兴趣点相关联的缩放水平。
9. 根据权利要求6所述的方法,进一步包括使用压力敏感显示器上的多个触摸与该地理空间应用进行交互以标示并给出地理原点和目的地之间的指令。
10. 根据权利要求6所述的方法,进一步包括响应于触摸压力和触摸驻留时间的相对应变化而使得能够实现地理兴趣点上的不同水平的缩放,并且针对地理原点和地理目的地呈现有所提高的水平的细节,而对该地理空间应用的地图中的其余地方呈现有所降低的水平的细节。
CN201380053225.7A 2012-10-12 2013-10-12 作为与应用的交互的多模式用户表达和用户力度 Active CN104823147B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201261713438P 2012-10-12 2012-10-12
US61/713438 2012-10-12
US13/707,726 US10139937B2 (en) 2012-10-12 2012-12-07 Multi-modal user expressions and user intensity as interactions with an application
US13/707726 2012-12-07
PCT/US2013/064734 WO2014059397A1 (en) 2012-10-12 2013-10-12 Multi-modal user expressions and user intensity as interactions with an application

Publications (2)

Publication Number Publication Date
CN104823147A true CN104823147A (zh) 2015-08-05
CN104823147B CN104823147B (zh) 2019-04-30

Family

ID=50474910

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201380053225.7A Active CN104823147B (zh) 2012-10-12 2013-10-12 作为与应用的交互的多模式用户表达和用户力度

Country Status (6)

Country Link
US (1) US10139937B2 (zh)
EP (1) EP2907020B1 (zh)
JP (1) JP2016500872A (zh)
KR (1) KR102151286B1 (zh)
CN (1) CN104823147B (zh)
WO (1) WO2014059397A1 (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107924264A (zh) * 2015-08-10 2018-04-17 苹果公司 用于调节用户界面对象的设备、方法、和图形用户界面
CN108153169A (zh) * 2017-12-07 2018-06-12 北京康力优蓝机器人科技有限公司 导览模式切换方法、系统和导览机器人
CN108174612A (zh) * 2016-09-06 2018-06-15 苹果公司 用于利用基于先前输入强度的强度阈值对触摸输入进行处理和消除歧义的设备和方法
CN109313482A (zh) * 2016-05-25 2019-02-05 金善泌 人工智能透明显示装置的运转方法及人工智能透明显示装置
CN110825934A (zh) * 2019-11-07 2020-02-21 北京无限光场科技有限公司 房产数据展示方法、装置、电子设备及计算机可读介质
CN111722779A (zh) * 2019-03-22 2020-09-29 上海博泰悦臻网络技术服务有限公司 人机交互方法、终端及计算机可读存储介质

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7697827B2 (en) 2005-10-17 2010-04-13 Konicek Jeffrey C User-friendlier interfaces for a camera
JP2013206180A (ja) * 2012-03-28 2013-10-07 Kyocera Corp 電子機器および表示方法
US9582035B2 (en) 2014-02-25 2017-02-28 Medibotics Llc Wearable computing devices and methods for the wrist and/or forearm
US10314492B2 (en) 2013-05-23 2019-06-11 Medibotics Llc Wearable spectroscopic sensor to measure food consumption based on interaction between light and the human body
EP2962175B1 (en) 2013-03-01 2019-05-01 Tobii AB Delay warp gaze interaction
US9864498B2 (en) 2013-03-13 2018-01-09 Tobii Ab Automatic scrolling based on gaze detection
US10795528B2 (en) 2013-03-06 2020-10-06 Nuance Communications, Inc. Task assistant having multiple visual displays
US10783139B2 (en) * 2013-03-06 2020-09-22 Nuance Communications, Inc. Task assistant
US10317995B2 (en) 2013-11-18 2019-06-11 Tobii Ab Component determination and gaze provoked interaction
US10558262B2 (en) * 2013-11-18 2020-02-11 Tobii Ab Component determination and gaze provoked interaction
US20150169048A1 (en) * 2013-12-18 2015-06-18 Lenovo (Singapore) Pte. Ltd. Systems and methods to present information on device based on eye tracking
US10180716B2 (en) 2013-12-20 2019-01-15 Lenovo (Singapore) Pte Ltd Providing last known browsing location cue using movement-oriented biometric data
KR101555426B1 (ko) * 2014-02-07 2015-09-25 고려대학교 산학협력단 지형 렌더링 방법 및 장치
US10429888B2 (en) 2014-02-25 2019-10-01 Medibotics Llc Wearable computer display devices for the forearm, wrist, and/or hand
CN105630365A (zh) * 2014-10-29 2016-06-01 深圳富泰宏精密工业有限公司 网页调整方法及系统
US10276158B2 (en) 2014-10-31 2019-04-30 At&T Intellectual Property I, L.P. System and method for initiating multi-modal speech recognition using a long-touch gesture
US9542037B2 (en) * 2015-03-08 2017-01-10 Apple Inc. Device, method, and user interface for processing intensity of touch contacts
US9632664B2 (en) * 2015-03-08 2017-04-25 Apple Inc. Devices, methods, and graphical user interfaces for manipulating user interface objects with visual and/or haptic feedback
CN106462320B (zh) 2015-04-13 2020-04-28 华为技术有限公司 启动任务管理界面的方法、装置及设备
US10514766B2 (en) 2015-06-09 2019-12-24 Dell Products L.P. Systems and methods for determining emotions based on user gestures
KR20170004702A (ko) 2015-07-03 2017-01-11 엘지전자 주식회사 디스플레이 장치 및 제어 방법
DE102015215044A1 (de) 2015-08-06 2017-02-09 Volkswagen Aktiengesellschaft Verfahren und System zur Verarbeitung multimodaler Eingabesignale
US20170068413A1 (en) * 2015-09-09 2017-03-09 Microsoft Technology Licensing, Llc Providing an information set relating to a graphical user interface element on a graphical user interface
CN105976157A (zh) * 2016-04-25 2016-09-28 中兴通讯股份有限公司 任务的创建方法及装置
US9874450B2 (en) * 2016-04-28 2018-01-23 Here Global B.V. Referencing closed area geometry
KR102008853B1 (ko) * 2016-05-31 2019-08-08 선전 구딕스 테크놀로지 컴퍼니, 리미티드 압력 검출 방법 및 장치
CN107710127B (zh) * 2016-05-31 2020-10-20 深圳市汇顶科技股份有限公司 用于检测压力的方法和装置
JP7037344B2 (ja) * 2017-12-04 2022-03-16 アルプスアルパイン株式会社 入力制御装置、入力装置、操作対象機器、およびプログラム
KR102441509B1 (ko) * 2017-12-15 2022-09-07 현대자동차주식회사 단말기, 차량 및 단말기 제어방법
WO2020149427A1 (ko) * 2019-01-15 2020-07-23 엘지전자 주식회사 경로 제공 장치 및 그것의 경로 제공 방법
US11825212B2 (en) 2021-10-18 2023-11-21 International Business Machines Corporation Automatic creation of a tiled image based on user interests

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060022955A1 (en) * 2004-07-30 2006-02-02 Apple Computer, Inc. Visual expander
TW200610419A (en) * 2004-05-11 2006-03-16 Siemens Ag Method for visual presentation of a geographic map on a display of a mobile communication device as well as mobile communication device to perform said method
CN101198925A (zh) * 2004-07-30 2008-06-11 苹果公司 用于触敏输入设备的手势
US20090295830A1 (en) * 2005-12-07 2009-12-03 3Dlabs Inc., Ltd. User interface for inspection of photographs
CN101799737A (zh) * 2010-01-06 2010-08-11 华为终端有限公司 显示图片/界面的方法及终端
CN101855521A (zh) * 2007-11-12 2010-10-06 大众汽车有限公司 用于信息的输入和展示的驾驶员辅助系统的多形态的用户接口
US20110224896A1 (en) * 2010-03-09 2011-09-15 Nokia Corporation Method and apparatus for providing touch based routing services
CN102428440A (zh) * 2009-03-18 2012-04-25 罗伯特·博世有限公司 用于多模式输入的同步和消歧的系统和方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07280577A (ja) 1994-04-05 1995-10-27 Sumitomo Electric Ind Ltd ナビゲーション装置における地図スクロール方法
JP3951633B2 (ja) 2001-05-21 2007-08-01 三菱電機株式会社 ナビゲーション装置並びにそのプログラム。
JP2005107871A (ja) 2003-09-30 2005-04-21 Nec Corp 画像表示方法と装置、該方法によるプログラムとこれを格納した記録媒体
US7295904B2 (en) * 2004-08-31 2007-11-13 International Business Machines Corporation Touch gesture based interface for motor vehicle
JP2006345209A (ja) * 2005-06-08 2006-12-21 Sony Corp 入力装置、情報処理装置、情報処理方法、及びプログラム
US20070097151A1 (en) 2006-04-07 2007-05-03 Outland Research, Llc Behind-screen zoom for handheld computing devices
US20080059904A1 (en) 2006-08-30 2008-03-06 Christopher Patrick Abbey Method, apparatus, and computer program product for implementing enhanced window focus in a graphical desktop
KR100891099B1 (ko) 2007-01-25 2009-03-31 삼성전자주식회사 사용성을 향상시키는 터치 스크린 및 터치 스크린에서 사용성 향상을 위한 방법
JP5354924B2 (ja) 2007-02-16 2013-11-27 国立大学法人 名古屋工業大学 デジタルマップ作成システム
KR20090019161A (ko) * 2007-08-20 2009-02-25 삼성전자주식회사 전자 장치 및 이를 조작하는 방법
DE102008012411A1 (de) 2008-03-04 2009-09-10 Universität Konstanz Interaktive Methode zur integrierten Darstellung schematischer Netzpläne und geographischer Karten
JP5998936B2 (ja) * 2010-01-06 2016-09-28 ▲華▼▲為▼▲終▼端有限公司 ピクチャ/インターフェースを表示するための方法および端末
JP5206810B2 (ja) 2010-03-31 2013-06-12 株式会社デンソー 地図表示装置
US8665266B2 (en) 2010-06-23 2014-03-04 The United States Of America, As Represented By The Secretary Of The Navy Global visualization process terrain database builder
US9547428B2 (en) * 2011-03-01 2017-01-17 Apple Inc. System and method for touchscreen knob control
KR101290145B1 (ko) * 2011-05-31 2013-07-26 삼성전자주식회사 터치 스크린 제어 방법 및 장치, 컴퓨터에 의해 독출될 수 있는 기록 매체, 그리고 단말장치
US8718922B2 (en) * 2011-07-28 2014-05-06 Navteq B.V. Variable density depthmap
US9087455B2 (en) * 2011-08-11 2015-07-21 Yahoo! Inc. Method and system for providing map interactivity for a visually-impaired user
US8803920B2 (en) * 2011-12-12 2014-08-12 Google Inc. Pre-fetching map tile data along a route

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW200610419A (en) * 2004-05-11 2006-03-16 Siemens Ag Method for visual presentation of a geographic map on a display of a mobile communication device as well as mobile communication device to perform said method
US20060022955A1 (en) * 2004-07-30 2006-02-02 Apple Computer, Inc. Visual expander
CN101198925A (zh) * 2004-07-30 2008-06-11 苹果公司 用于触敏输入设备的手势
US20100259500A1 (en) * 2004-07-30 2010-10-14 Peter Kennedy Visual Expander
US20090295830A1 (en) * 2005-12-07 2009-12-03 3Dlabs Inc., Ltd. User interface for inspection of photographs
CN101855521A (zh) * 2007-11-12 2010-10-06 大众汽车有限公司 用于信息的输入和展示的驾驶员辅助系统的多形态的用户接口
CN102428440A (zh) * 2009-03-18 2012-04-25 罗伯特·博世有限公司 用于多模式输入的同步和消歧的系统和方法
CN101799737A (zh) * 2010-01-06 2010-08-11 华为终端有限公司 显示图片/界面的方法及终端
US20110224896A1 (en) * 2010-03-09 2011-09-15 Nokia Corporation Method and apparatus for providing touch based routing services

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王新美: "《iPhone4S新手宝典:想怎么玩就怎么玩》", 31 August 2012, 中国电力出版社 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107924264A (zh) * 2015-08-10 2018-04-17 苹果公司 用于调节用户界面对象的设备、方法、和图形用户界面
CN109313482A (zh) * 2016-05-25 2019-02-05 金善泌 人工智能透明显示装置的运转方法及人工智能透明显示装置
CN108174612A (zh) * 2016-09-06 2018-06-15 苹果公司 用于利用基于先前输入强度的强度阈值对触摸输入进行处理和消除歧义的设备和方法
CN108174612B (zh) * 2016-09-06 2019-05-14 苹果公司 用于利用基于先前输入强度的强度阈值对触摸输入进行处理和消除歧义的设备和方法
US10775915B2 (en) 2016-09-06 2020-09-15 Apple Inc. Devices and methods for processing and disambiguating touch inputs using intensity thresholds based on prior input intensity
US11086368B2 (en) 2016-09-06 2021-08-10 Apple Inc. Devices and methods for processing and disambiguating touch inputs using intensity thresholds based on prior input intensity
CN108153169A (zh) * 2017-12-07 2018-06-12 北京康力优蓝机器人科技有限公司 导览模式切换方法、系统和导览机器人
CN111722779A (zh) * 2019-03-22 2020-09-29 上海博泰悦臻网络技术服务有限公司 人机交互方法、终端及计算机可读存储介质
CN110825934A (zh) * 2019-11-07 2020-02-21 北京无限光场科技有限公司 房产数据展示方法、装置、电子设备及计算机可读介质

Also Published As

Publication number Publication date
WO2014059397A1 (en) 2014-04-17
JP2016500872A (ja) 2016-01-14
US10139937B2 (en) 2018-11-27
EP2907020B1 (en) 2020-04-08
KR102151286B1 (ko) 2020-09-02
KR20150068957A (ko) 2015-06-22
EP2907020A1 (en) 2015-08-19
US20140104197A1 (en) 2014-04-17
CN104823147B (zh) 2019-04-30

Similar Documents

Publication Publication Date Title
CN104823147A (zh) 作为与应用的交互的多模式用户表达和用户力度
US11475650B2 (en) Environmentally adaptive extended reality display system
Grussenmeyer et al. Accessible touchscreen technology for people with visual impairments: a survey
EP3049908B1 (en) Presentation of a control interface on a touch-enabled device based on a motion or absence thereof
Lee et al. Towards augmented reality driven human-city interaction: Current research on mobile headsets and future challenges
US20110115814A1 (en) Gesture-controlled data visualization
US10255101B2 (en) Device emulator
US20140046922A1 (en) Search user interface using outward physical expressions
US10359905B2 (en) Collaboration with 3D data visualizations
CN105378599A (zh) 交互式数字显示器
TW201633066A (zh) 3d視覺化技術
KR20150118813A (ko) 햅틱 정보 운용 방법 및 이를 지원하는 전자 장치
CN105393200B (zh) 用户接口反馈元素
US20140365878A1 (en) Shape writing ink trace prediction
KR102639605B1 (ko) 인터페이스에서의 공간 객체들의 상대적 표현 및 명확화를 위한 시스템들 및 방법들
US20140358962A1 (en) Responsive input architecture
CN110083418A (zh) 信息流中图片的处理方法、设备及计算机可读存储介质
US20120324403A1 (en) Method of inferring navigational intent in gestural input systems
Schreiber et al. New interaction concepts by using the wii remote
CN110908568B (zh) 一种虚拟对象的控制方法和装置
CN108780383A (zh) 基于第二输入选择第一数字输入行为
Habibi Detecting surface interactions via a wearable microphone to improve augmented reality text entry
EP4047552A1 (en) Information processing device, information processing method, and program
KR20240025593A (ko) 객체에 대한 동작 양식을 동적으로 선택하기 위한 방법 및 디바이스
Sangani Poetry in motion [gesture-based controllers]

Legal Events

Date Code Title Description
PB01 Publication
EXSB Decision made by sipo to initiate substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant