CN102246116B - 界面适配系统 - Google Patents

界面适配系统 Download PDF

Info

Publication number
CN102246116B
CN102246116B CN200980150523.1A CN200980150523A CN102246116B CN 102246116 B CN102246116 B CN 102246116B CN 200980150523 A CN200980150523 A CN 200980150523A CN 102246116 B CN102246116 B CN 102246116B
Authority
CN
China
Prior art keywords
equipment
user
sensor
interface
physical contact
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN200980150523.1A
Other languages
English (en)
Other versions
CN102246116A (zh
Inventor
特拉维斯·鲍德温
耶霍·科伊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Motorola Solutions Inc
Original Assignee
Symbol Technologies LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Symbol Technologies LLC filed Critical Symbol Technologies LLC
Publication of CN102246116A publication Critical patent/CN102246116A/zh
Application granted granted Critical
Publication of CN102246116B publication Critical patent/CN102246116B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1626Constructional details or arrangements for portable computers with a single-body enclosure integrating a flat display, e.g. Personal Digital Assistants [PDAs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/169Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated pointing device, e.g. trackball in the palm rest area, mini-joystick integrated between keyboard keys, touch pads or touch stripes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2200/00Indexing scheme relating to G06F1/04 - G06F1/32
    • G06F2200/16Indexing scheme relating to G06F1/16 - G06F1/18
    • G06F2200/163Indexing scheme relating to constructional details of the computer
    • G06F2200/1637Sensing arrangement for detection of housing movement or orientation, e.g. for controlling scrolling or cursor movement on the display of an handheld computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04808Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Abstract

本发明涉及一种系统和方法,该系统和方法用于响应于物理地操作计算机操作的设备的方法和在操作周围的条件来自动地适配用于该设备的用户界面的系统和方法。该系统在设备上或在设备内提供传感器,以便于检测用于与该设备对接的对象的物理位置、身份或取向。还确定该设备的取向以及该设备周围的环境条件。该系统进而适配UI的交互控制或输入元素和/或非交互元素,以便于优化该设备的实用性。

Description

界面适配系统
技术领域
本发明涉及用于电子计算设备的用户界面的设计。具体地,本发明涉及用于响应于操作的方式和条件来自动地使设备的用户界面适用于提高实用性的系统和方法
背景技术
技术的上的进步已经生成了用于多种功能并且采用大范围应用的多种交互计算机设备。而且,单个这样的设备可以用于实现很多类型的功能并且提供多个应用。许多便携蜂窝电话用作通信设备、字处理设备和媒体播放器。为了便利和控制设备的功能,设备通常被提供有用户界面。通常,用户界面被设计为增强设备的实用性。实用性是特定用户界面的设计考虑用户的人类的心理和生理并且使得使用设备的过程有效、高效和令人满意的程度。
已经建立了若干用户界面,以便于在考虑到实用性的同时适应可用于交互计算机设备的多种功能和应用。通过人类用户界面(HMI)形式的物理按钮进行操纵的设备经常被设计有用于适应期望的物理操作方式的按钮的布置。包括用于便利交互的显示器屏幕的设备常常利用图形用户界面(GUI)。GUI通常提供图形图标以及视觉指示符,而不是基于文本的界面、键入的命令标签或文本导航,来全面表示用户可用的信息和动作。通常通过图形元素的直接操纵来执行与设备的交互。为了实现GUI的实用性,视觉和交互元素被设计为提高使用所储存的程序的基础逻辑设计的效率和便利。采用GUI的设备可以进一步将用户界面设计为考虑到物理操作方式的用户界面。许多设备采用在具有触摸屏交互的设备上的GUI,其中,通过触摸在屏幕上显示的元素来操纵图形元素以促进交互。为了提供实用性,采用触摸屏GUI的设备可以提供用户界面,其中,输入元素沿着设备的右侧对齐,以适应通过右手的操作。
然而,考虑到在设备上可获得的多种功能和应用,用户以其操作设备的方式可以根据所采用的特定功能和正在使用的应用而变化。例如,可以利用一只手、两只手来拿着和操作若干便携式电子设备或不用手而利用指示笔来操作若干便携电子设备。用户选择以其操作设备的方式常常由正在采用的功能来指定,该功能诸如是当设备被用作通信设备时进行电话呼叫或者当设备被用作字处理设备时在小键盘上进行键入。同样,当采用使用诸如以媒体播放器形式的设备的单个功能方面时,媒体播放机的特定应用可以影响操作方式。而且,设备的操作方式可以根据诸如用户在其下操作设备的条件的外部因素而变化。
虽然用户界面可以被设计为提高特定操作方式的实用性,但是负责控制或输入交互的用户界面元素保持不变(如在具有HMI的设备中),或者由针对设备编程的应用来指定(如在具有GUI的设备中)。因此,当用户改变他以其操作设备的方式时,用户必须适应用户界面的设计。该适应常常必需以不太有效或有不太有吸引力的方式来改变用户以其与设备交互的物理方式。例如,用户可能必须跨屏幕以达到触摸命令,因而扰乱其他观众的观看。结果,当操作方式改变时,设备的实用性降低。
发明内容
下面呈现了简化的总结,以便于提供对所公开的实施例的一些方面的基本理解。该总结并不是广泛概述,并且并不意在标识关键或重要的元素,也不界定这样的实施例的范围。其目的在于以简化的形式呈现所述实施例的一些原理来作为稍后呈现的更详细描述的前序。
在此公开了各种系统和方法,用于响应于用户以其物理地操作计算机操作的设备的方式和操作周围的条件来自动地适配该设备的用户界面,以便于优化该设备的实用性。该系统和方法针对:使用图形用户界面(GUI)或人机界面(HMI)的设备,在图形用户界面中,用户经由触摸屏介质来与该设备进行交互;该人机界面包括在计算机化的设备上的按钮(例如,物理的按钮或虚拟化的按钮)。例如,该设备可以是手持式移动设备,诸如平板个人计算机、游戏控制装置或大的交互显示板。该系统在以多种方式操作的设备中特别实用,使得当用户修改其操作方式时,该设备使其本身适配为适应新的操作方式。不同的操作方式的示例包括以一只手而不是两只手来拿着设备、使用指示笔或通过大的触摸屏显示器的左下角来控制计算机的功能。
当该设备的用户界面是在支持触摸屏的设备上提供的GUI时,该系统适配交互元素,诸如包括控制板、音量图标、呼叫按钮等的输入小工具,使得交互元素的布置提高了实用性。还可以采用非交互元素的布置来补充交互元素,同时依据实用性和美学作用来改善元素的尺寸和布置。例如,当用右手拿着设备时,交互元素可以在右侧对齐,同时非交互视觉元素可以包括显示器的中心。类似地,当界面是HMI时,按钮的基础功能可以响应于用户以其操作设备的方式而改变。在本发明的另一个方面中,用户界面的设计可以进一步考虑到外部条件,诸如设备的取向或环境条件,包括温度、光、压力、声音等。
为了确定用于特定使用实例的操作的方式和条件,该系统提供在设备上提供多个传感器或者使多个传感器集成在设备中。传感器可以检测和提供用于限定触摸该设备或在该设备周围的对象的物理位置、身份和取向的信息。该传感器还可以确定设备的取向和作用于该设备的环境条件。为了解释感测到的信息,提供了数据库,该数据库存储定义能够由系统生成的多个传感器信息和所定义的一组物理和环境参数的信息。数据库还包括用户界面设计和/或用户界面元素。在生成传感器信号时,系统使感测到的信息和与所感测到的信息相关联的对应物理和/或环境参数相关。系统进而生成用户界面,该用户界面根据物理和/或环境参数来促进实用性。
为了实现上述和相关的目的,一个或多个实施例包括以下在权利要求中充分描述和具体指出的特征。下面的描述和附图详细地阐述了特定的说明性方面,并且指示其中可以采用实施例的原理的各种方式中的几个。当结合附图来考虑时,从下面的详细描述中其他的优点和新颖的特征将变得明显,并且所公开的实施例意在包括所有这样的方面及其等价物。
附图说明
图1图示了界面适配系统的高层实施例。
图2说明了界面适配系统通过其响应于设备的操作方式和/或使用条件来适配用户界面以提高实用性的基本方法。
图3A图示了用于检测设备的操作的操作方式和/或使用条件的传感器组件的实施例。
图3B说明了传感器组件通过其检测设备的操作方式和/或使用条件以生成传感器代码的方法。
图4A图示了在三维设备的底部的特定布置中散布的各个传感器。
图4B图示了在三维设备的顶部的特定布置中散布的各个传感器。
图4C图示了完全被传感器包围的传感器。
图5图示了用作用于建立与系统所识别的物理接触参数相关的传感器代码的装置的三维象限平面的两个示例。
图6图示提供了如何采用象限系统来建立与对接对象的感测到的物理位置、身份和配置相关的坐标的图示。
图7图示了适配组件的详细实施例。
图8图示了界面形成组件的实施例。
图9图示了在界面生成组件与界面相关组件相关时的界面生成组件的详细描述。
图10描绘了适配组件通过其来适配用户界面的方法。
图11图示了设备的各种操作方式和相关联的用户界面。
图12图示了设备的操作方式和环境以及相关联的用户界面。
图13图示了可操作用于执行所公开的架构的计算机的框图。
图14图示了用于执行在此公开的一个或多个实施例的示例性设备。
图15图示了根据本系统的示例性计算环境的示意性框图。
具体实施方式
现在参考附图来描述各个实施例。在下面的描述中,为了解释的目的,阐述多个特定细节,以便于提供一个或多个实施例的全面理解。然而,明显的是,可以在没有这些特定细节的情况下实践各种实施例。在其他情况下,以框图形式示出了公知的结构和设备,以便于描述这些实施例。
在本申请中使用的术语“组件”、“模块”、“系统”等意在指计算机相关的实体,硬件、硬件和软件的组合、软件或在执行中的软件。例如,组件可以是但不限于是在处理器上运行的进程、处理器、对象、可执行文件、执行线程、程序和/或计算机。举例说明,在服务器上运行的应用和该服务器都可以是组件。一个或多个组件可以驻留在进程和/或执行线程内,并且组件可以位于一个计算机上和/或分布在两个或多个计算机之间。在此使用词“示例性”意味着用作示例、实例或说明。在此被描述为“示例性”的任何方面或设计都不必被解释为相对于其他方面或设计是优选的或有利的。
而且,可以使用标准编程和/或工程技术来将一个或多个实施例实现为方法、装置或制造品,以产生用于控制计算机实现所公开的实施例的软件、固件、硬件或其任何组合。在此使用的术语“制造品”(或者替代地,“计算机程序产品”)意在包括可从任何计算机可读设备、载体或媒体访问的计算机程序。例如,计算机可读介质可以包括但不限于,磁存储设备(例如,硬盘、软盘、磁带…)、光盘(例如,致密盘(CD)、数字通用盘(DVD)…)、智能卡和闪速存储器设备(例如,卡、棒)。另外,应当明白,可以采用载波来承载计算机可读电子数据,诸如在发射和接收电子邮件中或在访问诸如因特网或局域网(LAN)的网络中使用的那些。当然,本领域内的技术人员可以认识到,在不偏离所公开的实施例的范围的情况下,可以对该配置进行许多修改。
各个方面可以并入与转换界面方案相关的推理方案和/或技术。在此使用的术语“推理”通常指从经由事件和/或数据捕获的一组观察来得到或推断系统、环境和/或用户的状态的过程。推理可以用于标识特定的背景或动作,或者可以生成例如在状态的概率分布。推理可以是概率性的——即,在不确定用户目标和意愿的背景中,基于数据和事件的考虑或判定理论、在概率推理上的建立并且考虑到最高预期实用性的显示动作而对在感兴趣的状态的概率分布的计算。推理也还以指用于从一组事件和/或数据构成高级事件的技术。这样的推理导致从一组观察到的事件和/或存储的事件数据来构成新的事件或动作,而不论该事件是否在接近的时间接近度上相关以及事件和数据是否来自一个或若干个事件和数据源。
应当明白,可以使用诸如语音识别、推理、注视识别、高级质量的服务保证机制等的各种技术来支持界面的转换。而且,在此描述的各个实施例可以采用人工智能(AI)的原理来促进自动执行在此描述的各个方面(例如,转换界面、通信会话、分析资源、外部信息、用户状态和偏好、风险评估)。AI组件可以可选地包括推理组件,该推理组件可以部分地利用基于推理的方案来进一步改善AI组件的自动化方面,以促进推断预期的动作以给定的时间和状态被执行。可以经由任何适当的基于机器学习的技术和/或基于统计的技术和/或基于概率的技术来实现基于AI的各方面。例如,考虑使用专家系统、模糊逻辑、支持向量机器(SVM)、隐马尔可夫模型(HMM)、贪婪搜索算法(greety searchalgoritms)、基于规则的系统、贝叶斯模型(例如,贝叶斯网络)、神经网络、其他非线性训练技术、数据融合、基于实用性的分析系统、采用贝叶斯模型的系统等,并且意在落入所附权利要求的范围内。
将根据可以包括多个组件、模块等的系统来呈现各个实施例。应当明白和理解,各个系统可以包括另外的组件、模块等,和/或可以不包括结合附图讨论的所有组件、模块等。还可以使用这些手段的组合。
图1图示了用户界面适配系统100的示例性实施例的高层实施例。可以在具有用户界面(UI)的任何适当的计算机可操作设备104中实现该系统,该用户界面(UI)使得能够通过设备的物理操纵来在用户和设备之间进行交互。系统100支持确定或推断用户使用(例如,采用哪只手、期望的应用或功能的类型、用户偏好、使用方式等),并且优化设备104的用户界面以促进其用户使用。例如,如果用户在使用一只手而不是另一只,则可以修改UI以优化通过该特定手的使用。而且,可以将手的尺寸、手指的长度、历史用户使用、残障等因子化,以便于定制用于优化与设备的交互的用户界面。另外,该系统可以修改UI并且显示用于优化与设备的交互的额外的功能(例如,语音识别、注视识别、视网膜扫描和生物计量扫描等)。作为基于实用性的分析的一部分,用户状态、设备状态、外部信息也可以被因子化,以配置设备的UI来促进其使用。
在一个实施例中,该系统可以在使用在电子设备上显示的图形UI(GUI)来在设备上执行,其中,用户经由触摸来与设备进行交互(在此称为触摸屏设备)。图形UI包括在诸如LCD显示器的显示器屏幕上呈现的图标和视觉指示符,它们表示用户可获得的信息。用户还可以通过直接操纵显示器上的图形元素(以下称为小工具)来与设备进行交互。在使用GUI的设备中,系统响应于用户物理地以其操作设备的方式来使得图形UI的视觉构成和临时行为能够适配。
在替代实施例中,可以在利用人机界面(HMI)的设备上实现该系统。在该实施例中,HMI包括命令设备的输入功能的按钮。而且,包括按钮的HMI界面是独立的,并且与在功能上控制该设备的基础应用间接相关。因此,相对于特定功能该按钮可以是中性的。该按钮进而具有临时开发多个输入命令的能力。在这样的实施例中,多种多样的一组按钮的功能可以根据设备的物理操作方式来适配。应当明白,可以同时采用GUI和HMI,或者可以将它们用作混合类型的界面。
该系统在下述设备中特别有益:该设备能够以与设备的位置和用户以其物理地操作设备的方式相关的多个物理布置来操作。该设备可以是用一只手、两只手或经由指示笔操作的任何便携式电子设备,诸如移动电话(或智能电话)、个人数字助理(PDA)、平板个人计算机(PC)、便携式媒体播放器或手持式游戏设备。在另一个实施例中,该设备可以是任何触摸屏计算设备。例如,采用销售点软件的设备、自动柜员机(ATM)、航空公司无人售票和检票设备、在公共空间中的信息亭或安装在汽车或飞机中的全球定位系统(GPS)设备。在另一个实施例中,该设备可以是用于视频游戏中使用的电子控制器。在另一个实施例中,该设备可以是在多种手位可操作的通用手持式武器。最后,虽然已知如上所述的设备的形状,但是该设备可以是任何三维或二维形状。应当明白,上面的可能的可执行设备的列出并不是穷尽的,并且技术进步将引入本系统将适用的另外的设备。
返回参考图1,界面适配系统100包括传感器组件101、界面数据库102和适配组件103。传感器组件101使得能够检测对接对象的物理位置、身份和配置的至少一个、操作条件或外部信息(例如,取向、温度、环境条件、位置…),并且处理感测到的信息。界面数据库存储与设备的各种操作方式和响应于操作方式所应用的界面相关的信息;并且界面数据库可以存储与系统100的其他组件相关联的数据以及外部接收到的数据。适配组件103负责响应于设备的操作方式来与界面数据库进行交互,以便于修改UI。将参考图7-10来更详细地描述适配组件。
传感器组件101表示一个或多个传感器。该传感器可以附接到设备104或者被集成在设备104内。设备可以包括一个或多个传感器或完全被传感器包围。该传感器可以是电容式、电阻式、压敏式、位置式、电感式、热的、光学或激光式或以上的任何组合。传感器组件101可以进一步包括加速度计。加速度计可以支持手势识别,并且促进当在设备上的接触点改变时在不同的UI之间的移动。加速度计可以进一步检测设备104的取向。类似地,可以应用另外的位置传感器,诸如陀螺传感器或声音或红外线传感器。而且,传感器组件可以包含环境传感器系统,该环境传感器系统包括传统的光、图像、热、电磁、振动、气压或声音传感器。应当明白,传感器的薄膜等可以作为设备的表层或其一部分被并入,以促进检测用户期望的使用。
在图3A和图3B中一般地描述了传感器组件101。该传感器组件包括传感器输入接收组件301、传感器信号处理组件302和传感器信号输出组件303。传感器输入接收组件301从激活的传感器304接收激活信号。然后,传感器信号处理组件302处理激活信号,以便于生成传感器激活代码305。传感器的激活将根据所利用的传感器而变化。例如,传感器的激活可以是对在设备上施加的压力、在设备周围的照明维度中的改变或在设备周围的热能中的改变的响应。该代码表示特定的激活的传感器。将参考图5-6更详细地描述传感器处理组件的传感器代码生成方面。传感器信号输出组件303向界面数据库102发射传感器代码。
界面数据库102可以包含与传感器代码识别、物理接触参数、环境参数、界面元素和界面设计设置以及用户标识相关的信息。数据库用作查找表,该查找表用于通过使处理的传感器信号与物理接触参数或环境参数相关来响应于感测到的信息映射UI。物理接触参数定义了在传感器激活代码与接触设备或设备周围的对象(例如,人手、指示笔、桌子或其他对象)的物理位置、类型和配置之间的关系。例如,当传感器组件接收到指示与设备的接触的信号时,物理接触参数将指示触摸设备的对象的精确位置。而且,除了触摸设备的对象的位置之外,物理接触参数可以识别响应于与生成触摸的对象的类型的触摸的激活代码。例如,对象可以是左手或右手、手指、指示笔、桌子等。物理接触参数还可以考虑到与特定设备相关的另外的接触点,特定设备诸如针对设备设计的支持物或支台。由热传感器采用的设备可以进一步在人体部分和无生命对象之间进行区分。
在本发明的另一个方面中,物理接触参数可以定义接触设备的物理的解剖配置(anatomical configuration)。在本发明的该方面,物理接触参数描绘了在(一个或多个)接触点和接触设备的对象的类型之间的关系。当对象是无生命对象时,作为诸如指示笔的对接对象或诸如桌子的支撑对象的对象的身份可以指定以用该对象的方式。当用作对接对象时,对象的物理特征(physicality)和用户操纵该对象的方式可以被因子化为物理接触参数。当对象是人体部分时,将进一步考虑该部分的解剖结构和生理机能。例如,当定义身体接触参数时,人手的生理机能限制了交互元素在UI上间隔的距离。而且,相对于设备的应用和功能而言的设备的操作方式可以是确定物理接触参数的因子。操作方式可以包括为了使用设备的应用用户如何与设备的形状和操作来定位他的一只手或双手。例如,当设备的应用要求通过小键盘进行输入时,5个接触点的检测可以相当于用户定位右手的5个手指以使用小键盘的方式。
传感器组件101可以进一步包括热或光传感器,热或光传感器除了物理接触点之外还检测设备周围的对象的空间位置。(虽然对象可能没有接触设备本身,但是为了解释的目的,与周围的对象的空间位置和配置相关的信息将被归类为物理接触参数。)本发明的该方面提供了另一种手段,通过该手段来建立与设备对接的对象的精确的解剖配置。本发明的该方面可以与建立接触设备的对象的位置的物理参数相结合。例如,物理接触参数可以包括当两个手指触摸设备时在设备上的手的高度和配置。因此,传感器组件101可以检测UI更精确地与设备的方式。
类似地,在本发明的另一个方面,物理接触参数可以表示没有接触设备的设备周围的对象的空间取向。例如,空间传感器可以检测对象在设备上悬停的位置。因此,除了对接对象的解剖配置之外,物理接触参数可以包含对象相距设备的距离以及对象在设备周围的具体角度或取向。在该实施例中,无形的三维网格可以存在于设备周围的空间中,以便于标出(transcrbie)解释设备周围的对象的空间位置的代码。
考虑到可以定义物理接触参数的多个因素,应当明白,大量的参数由系统100所包含,并且被包含在界面数据库内。而且,在本发明的另一个方面中,设备可以通过多于一个的用户的操纵来操作。例如,考虑具有GUI的游戏设备,其中若干用户将他们的手放在GUI上,以便于与设备进行交互,并且执行游戏。在本发明的该实施例中,物理接触参数将在数目上增加,以便于解释在若干用户和每个单独的用户的操作方式之间的差异。
如上所述,物理接触参数与特定的激活传感器代码相关。物理接触参数的数目取决于系统的特定实施例所建立的相关的传感器代码的数目。类似地,传感器代码的数目取决于所采用的传感器的数目和类型。例如,考虑三维直角棱形设备,其具有沿着边缘的两个电容式传感器,分别被指配在左侧和右侧。该设备还具有位于设备的后板上的第三传感器。该设备被设计为被抓在一只手(左手或右手)、两只手中或者躺在其背部上,由此用户利用指示笔与设备进行交互。在该示例中,用于限定传感器代码的语言可以简单到分别为1用于左侧传感器激活、2用于右侧传感器激活、1-2用于左右传感器激活的、3用于背面传感器激活并且4和5用于顶部和底部传感器激活。对传感器的激活进行响应的设备的物理参数如下:1=左手使用、2=右手使用、1-2=双手使用,并且3=指示笔使用。如上所述的机制提供了在用于物理接触参数的传感器代码的建立之后的基本观点。下面将参考图5-6来描述使激活传感器代码与物理接触参数相关的替代机制。
在完全被传感器包围的三维设备中实现时,在系统100的另一个实施例中,在界面数据库102中提供了物理接触参数的更复杂的阵列。传感器可以进一步确定在设备上的每一个接触点。例如,每一个接触点可以与诸如在三维象限平面上的数字的特定代码相关。根据接触的类型,可以激活一系列数字/代码,以便于创建代码或数字序列。该代码/数字序列是由传感器组件101向适配组件103发送的传感器代码的示例。传感器代码的数目取决于由数字或代码定义的在设备上的不同接触点的全部组合和置换。因此,给定到设备的尺寸,代码/数字序列的数目的范围可以是从1至N个代码/数字序列,其中,N是整数。每个代码/数字序列或传感器代码进而与限定的物理接触参数相关。应当明白,代码/数字序列的上限和分别指配的物理参数那么可以是有限或极高的数量级。如上所述,将参考图5-6来进一步描述传感器包围的三维设备以其建立与特定物理接触参数相关的传感器代码的方式的更详细的说明。
除了物理接触参数之外,界面数据库可以包含额外的环境参数,以便于使与环境因素相关的传感器信号与特定的UI相关。在该实施例中,为了输出传感器代码,传感器组件可以处理环境传感器信号。替代地,与环境传感器相关的信息可以被添加到与物理接触和空间定位感测到的信息相关的信息,以便于生成发送到界面数据库的一个传感器代码。环境参数还可以涉及指示从加速度计得到的设备取向的信号。环境传感器可以涉及外来因素,诸如气压、空气温度、声音、环境光、时间等。环境参数可以提供因素,诸如提高显示器的分辨率或者限制UI的复杂度,以便于考虑到交互用户的降低的物理移动。环境参数可以被集成到被因子化为适当的UI的确定中的元素的混合物内。
除了多个物理接触参数和环境参数之外,界面数据库102限定了多个UI元素和与特定设备或可由该设备执行的程序相关的界面设计。在GUI中,UI元素由小工具和非交互元素构成,小工具是视觉地显示的元素,该元素使得能够与设备进行交互。小工具支持适合于其保存的数据种类的交互。小工具可以包括小的交互元素,诸如按钮、工具栏、滚动菜单、窗口、图标、小键盘等。较大的小工具可以包括窗口,该窗口提供了用于主呈现内容的框架或容器,该主呈现内容诸如网页、电子邮件消息、WORD文档或绘图。较大的窗口主要是通过较小的小工具的用户操纵来执行的功能的输出。然而,较大的窗口还可以促进交互。例如,显示用户的多个选项的菜单可以包括具有多个较小图标的较大的窗口,每一个图标表示用户可以访问的具体可执行程序。在本发明的示例性实施例中,系统采用具有GUI的触摸屏设备。在触摸屏设备中,用户可以触摸较小的图标,以打开新的窗口。该新的窗口可以进一步包括用于与设备进行交互的另外的小图标。用户通过直接操纵显示器上的小工具来与设备进行交互。除了使得能够进行用于控制设备的直接交互的UI的元素之外,存在仅用于显示目的的UI的另外的元素。例如,视频或画面或显示的消息。与用户输入元素或小工具相结合的非交互元素被组织,以便于创建提高设备的实用性的UI。
UI的设计影响用户必须花费来提供对于系统的输入并且解释系统的输出的精力量和需要多少精力来学习如何如此进行。实用性是特定UI的设计考虑到用户的人类心理和生理并且使得使用该系统的过程有效、高效和令人满意的程度。实用性是UI的主要特征。采用系统100的设备的UI还考虑到设备的功能和在该设备上采用的应用。因此,由系统生成的UI考虑到如何在考虑到来自设备104的使用背景的要求的同时相对于效率、高效和满意度使用设备104。由系统100提供的UI的一个示例考虑到下面的因素,以便于增强设备的实用性:用户的手在设备上的物理布置、用户如何使用他的手来与设备进行交互、设备的特定应用以及操作的环境条件。
在一个实施例中,预先布置UI元素,以便于提供响应于物理参数来优化实用性的UI。因此,可以在界面数据库102中存储多个UI。关于物理接触参数或一系列参数来具体设计所存储的界面中的每一个。与物理接触参数相同,存储在界面中的UI的数目可以从1至高数量级而变化。在一个实施例中,针对每一个物理接触参数可以存在不同的UI。在另一个实施例中,若干不同的物理接触参数可以与同一UI相关。在另一个实施例中,系统可以响应于特定的传感器信号和对应的物理接触或环境参数来从UI元素创建定制的UI。在该实施例中,UI数据库进一步与实用性相关的信息。如上所述,系统具有定制的界面生成组件903(图9),其负责推断实用性信息,并且使该信息与特定物理参数相关,以便于生成定制界面。而且,界面数据库102可以存储新创建或定制的界面,以用于未来的实现。系统100可以采用界面数据库102,该界面数据库102具有提供预定和定制界面的方面的能力。
在系统100的另一个方面中,特定的物理参数可以与界面的特定子集相关。该界面的子集可以针对通过主要物理参数的实现方式。例如,用户可以以类似于向设备提供独特标识代码或密码的特定方式来将他的手放在设备上。与该代码相关的主物理参数进而引导用户数据库从指定子集的UI拉出。因此,界面数据库102可以保存使特定的物理参数与界面的子集相关的信息。
该实施例进一步可以被用作用户识别或标识机制,其中,若干个不同的用户利用特定设备。在系统100的该方面,用户可以以特定的方式触摸特定的设备,以便于用信号传送用户的标识。进而用信号通知该设备以特定的适配模式进行运行,其中,适配系统100采用与用户相关的UI的特定子集。上述用户标识机制还可以被用作与用户的生物计量标识类似的安全措施。该设备可以识别特定的触摸序列,而不是将用户的指纹识别为生物计量标识。除了用信号传送用于用户的界面子集,该系统可以使得该设备准许用户的访问或者通过冻结UI的功能来防止用户与该设备进行交互。因此,UI数据库可以进一步包括用户标识信息。
现在关于在手持式移动设备中的实现来解释该系统。存在若干个手持式移动设备,它们由用户使用一只手(左手或右手)、两只手或者不使用手而是通过使用指示笔的操纵来操作。这些设备包括但不限于,蜂窝电话、智能电话、PDA、移动媒体播放器、手持式游戏设备、遥控器或高级技术武器。在该系统的一个方面,UI适应于拿着设备的方式。例如:当用户用双手而不一只手来握着手持式设备时,UI可以改变为下述设计,其中,输入小工具沿着设备的底部中心被定位,以分别用于由左右拇指的操纵。
在本发明的另一个方面,手持式设备可能需要通过指示笔或诸如虚拟键盘的小键盘的交互。例如,系统100可以支持下面的一系列事件。该设备可以被放置在桌子上。当该桌子是与该设备的唯一的物理接触时,UI可以仅提供非交互或视觉元素。该UI可以被当作默认界面。当用户用指示笔接近该设备时,系统的传感器组件——考虑到它具有位置和电容式传感器能力——可以处理指示笔的感测到的位置。响应于对应的物理接触参数,系统100然后可以实现UI,该UI在UI的适当的近距离中设计交互小工具用于在指示笔和设备之间的交互。类似地,虚拟键盘的出现可以是对由指定放在桌子上的设备的传感器代码用信号传送的物理接触参数的响应。替代地,UI可以改变以当用户将他的手放在复合配置的设备上时在用户的手下提供键盘。在本发明的另一个方面,虚拟键盘的出现可以是对于手在具有复合形式的设备上悬停的响应。
另外,该设备的非交互视觉元素可以被设计为以提高元素的视觉性的方式来补充输入命令。例如,可以以与操作方式和对应的使用程序相关的方式来显示非交互元素。用户可以用他们的右手来操作设备,并且可以以特定的配置在该设备的右侧上布置输入小工具,以提高控制方面的实用性。而且,在使用中的特定程序将指定关于所指配的物理接触参数的界面设计的剩余部分。可以根据所采用的特定应用、关于该应用的非交互元素的利用或用户偏好,相对于非交互元素的尺寸和美学外观来设计该非交互元素。
通过描述在较大设备上的实现的描述,阐述了系统100的另外的方面。在该示例中,该设备是由销售员用作用于向潜在客户显示产品的呈现设备的大平板PC。平板PC进一步使用触摸屏GUI。用一只手、双手或指示笔来手动地操作该设备。然而,在该示例中,销售员仅在该设备的屏幕位于在销售员左面的客户前时用他的右手来操作设备。当销售员用他的右手来拿着该设备时,UI作为参与销售员和客户的使用类型和物理位置的呈现模型来自动地进行适配以改善实用性。特定的UI因此适配于由用户使用他的拇指来完全地控制该设备。用户进而不需要放开设备以改变手的位置或跨过屏幕,并且中断客户的视线。例如,根据该示例,UI可以在用图片显示的产品出现在显示器的中心的同时,在显示器的右上角定位用于滚动通过一系列产品的主滚动条。销售员然后可以使用他的拇指来滚动通过产品。UI还可以被设计有在滚动条的正上方的右上角处的较大显示屏幕的小型版本。因此,销售员可以简单地达到上述滚动条来选择期望的产品,而不用放开设备或使用他的左手跨显示屏幕以触摸到在屏幕中心出现的产品。小型显示器在策略上位于滚动条之上,以便于考虑到销售员可以向上而不是向下伸出手臂的容易性,同时补偿由销售员的右掌覆盖的显示区域。
除了移动类型的手持式设备之外,在较大的固定设备中的系统100的实现可以进一步使得照亮系统的另外的方面。例如,考虑到具有GUI的包括大触摸屏的设备。该系统的一个方面可以每当用户将他的手放在该设备上时或者每当该手在设备上悬停时识别用户的手的位置和取向。该系统可以额外地在用户的左手和右手、双手、利用指示笔的使用和源自多个用户的多个手的之间进行区分。当用户在该设备上移动他的手时,控制板可以在用户的手下连续地移动,以便于跟随用户的手移动。包括交互小工具和非交互视觉组件的整个UI进而可以连续地进行适配。
上述系统的实施例参考了利用GUI的设备。然而,上述系统100的各方面可以进一步适用于使用HMI的设备。例如,诸如遥控器的设备可以包括若干无命名(non-denominational)的按钮。根据用户如何拿着控制器,可以向按钮指配它们各自的功能。因此,本质上,无论用户在哪里或如何拿着设备,用户的食指的位置可以总是在“开始”或“播放”按钮的位置。类似地,控制器可以是移动遥控器或者较大非移动设备的控制板。
而且,除了UI相对于物理接触参数的适配,UI可以进一步考虑到环境参数。(如上所述,用于描述系统100的术语环境参数除了诸如温度、环境光、时间、声音、气压等…之外还包含通过加速度计产生的参数)手持式设备的UI可以根据光量、高度或温度来适配。例如,在温度指示存在火情的情况下,采用该系统的通信设备可以适配该UI,使得在GUI上显示单个大的紧急交互元素。类似地,当界面是HMI时,在设备上的所有按钮可以具有相同的功能,即拨打911。在另一个方面,该系统可以感测在环境声上的增加或减少。作为响应,采用GUI的设备可以进行适配以与对接对象相关的在界面上容易访问的位置中提供音量控制元素。另外,界面可以根据设备的取向来进行适配。应当明白,响应于环境参数的多个界面适配在本发明的范围内。
上述系统100的各方面的数目和程度还可以由用户来控制。例如,可以控制系统的整体适配性。用户可以选择将在特定设备内的系统用于一点,在该点,他们更喜欢该设备不再响应于操作方式而改变界面。因此,该系统可以提供适配性的“模式”。一种模式将完全关闭该系统,而另一种模式可以允许有限的适配性。系统100可以以其操作的模式的数目是无限的。可以关于以上提供的示例来理解系统的该方面,在该示例中,当用户在设备的UI上移动他的手时,UI可以连续地进行适配。
图2提供了概述基本过程的高层流程图,通过该基本过程,适配系统100适配UI以提高实用性。在201,系统的传感器组件检测由所涉及的传感器表示的由该传感器组件支持的可能传感器读取。如上所述,传感器可以是但是不限于,电容式传感器、空间传感器或环境传感器。因此,在步骤201,系统检测在设备上的物理接触的点、在设备周围的对象的物理存在和取向以及作用于设备的环境因素。而且,传感器组件可以通过加速度计激活来检测设备的取向。在202,系统使传感器信号与物理接触参数和/或环境参数相关。在203,系统然后识别在物理接触参数和/或环境参数与该设备的操作方式之间的关系。最后,在204,系统修改UI,以便于适应该操作方式。
图3和图3B涉及适配系统100的传感器组件101。图3A详细描述了传感器组件102的内部组件,包括传感器输入接收组件301、传感器处理组件302和传感器代码输出组件303。传感器输入接收组件301包括由系统针对特定设备所采用的实际传感器。传感器信号处理组件302解释激活的传感器,并且将信号处理为系统识别的可读代码。传感器代码输出组件303负责向适配组件发送传感器代码用于进一步解释和处理。
由传感器信号处理组件302生成的传感器代码定义了与物理接触参数和环境参数二者相关的传感器信号。将参考图5来详细描述传感器处理组件通过其来建立与物理接触参数相关的代码的机制。可以在诸如温度或照明度的一般方面上定义环境参数。包含环境信号的传感器代码可以定义环境参数,并且可以作为“环境传感器代码”被发送到适配组件。替代地,定义环境参数的术语可以被并入到关于物理接触参数生成的传感器代码内,以便于建立表示设备的所有传感器读取的一个传感器代码。因此,系统界面可以响应于物理接触参数、环境参数或二者来进行适配。
图3B描绘了传感器组件101通过其来起作用的方法。在304,传感器组件从激活的传感器接收激活信号。在305,传感器组件处理激活信号,以便于生成传感器激活代码,并且然后在305,向适配组件发射传感器代码。
图4A-4C图示了其中执行系统100的设备的可能的传感器布置。图4A和图4B呈现了具有直角棱形形状的设备,并且传感器400(通过对角线描绘)被布置在设备的各个部分上。图4A图示了在该设备的底部和侧面上的传感器布置401,而图4B示出了在设备的顶部和侧面上的替代布置402。在图4A和图4B中描绘的传感器400的布置仅提供一种可能的传感器配置。应当明白,可以以任何形式并且以任何数目使传感器布置在该设备上的任何位置处。例如,设备可以仅在侧面具有传感器。所选择的传感器布置取决于以其使用特定设备的方式和用于信号检测的必要点,以便于生成可以根据操作方式来充分地引导UI的适配的物理和/或环境参数。而且,有限传感器的特定布置可以降低成本并且提高设备的功能。例如,传感器的数目的减少可以等同于设备的尺寸或设备所需要的电源的减少。
图4C图示了用于其中设备由传感器400完全包围的系统的另一个传感器布置403。可以通过用包括大量传感器的膜覆盖该设备来提供该布置。在系统100的另一个方面,该设备可以用诸如电容式传感器的特定种类的传感器包围,而位置或热传感器的另外的传感器可以以分布式方式被集成在该设备内或该设备周围。而且,虽然在图4中描绘的设备是直角棱柱,但是该系统和相应的传感器布置适用在任何设备上,而与形状无关。
图5图示了一种机制,系统通过该机制建立与设备上的物理接触和在设备周围的对象的空间取向(物理接触参数)相关的传感器代码。501和502都呈现了三维象限平面或网格。本领域内的普通技术人员应当理解,网格501和502是如何建立数学坐标系的。由501网格定义的坐标具有x、y和z值。类似地,定义在502网格上的点的坐标包括x’、y’和z’值。
在501处的网格用于建立在设备上的实际物理接触的点,如参考图6所例示。在501,该网格包括x、y和z轴。X轴指示沿着由正算法序列定义的轴的点,其中,在x、y和z轴的交点处,x=0。数字x可以包括任何数目的N,其中,N是当距离在其在x轴上的位置和在x、y和z轴的交点之间增加时连续增加的离散数。数字x可以是整数或小数。沿着轴表示的点的数目虽然是离散的,但是可以从几个点向高数量级变化。沿着轴表示的更多的点建立大量的坐标,该大量的坐标可以用于提高系统在确定接触点中的特定性。应当明白,以与参考x轴所述相同的方式定义y和z轴,其中,表示为y和z的轴替换对x轴的参考。在503的图示示出了如何使象限平面501与采用系统100的设备(由直角棱柱描述)相关。包括x、y和z访问的数目的范围由与网格相关的对象的长度、宽度和高度来限制。
然而,在502处的网格包括与在501处的网格相同的属性,在502处的网格不受到设备的尺寸限制,而是能够由所采用的传感器达到的该设备周围的面积来限制。在502处的网格进一步捕获设备周围的对象的空间位置和配置。由轴x’、y’和z’来限定网格,以便于在表示物理触摸的传感器信号和表示空间位置和配置的传感器信号之间进行区别。如参考501网格所述对轴的x’、y’和z’的每一个进行编号;然而,还在负方向上提供轴的扩展。在504处的描绘示出了如何使网格502与设备(由直角棱柱表示)相关。502网格的顶点被设置在设备的中点,而与形状无关。
图6演示了网格501(由在附图605中的粗实黑线所指示)和502(由605处的虚线所指示)如何起作用来建立与采用该系统的设备进行交互的对象的物理接触点、空间位置和配置。一旦确定了对接对象的接触点和空间位置,则如一个传感器代码所定义的来编译所有的代表性数据坐标。传感器处理组件可以提供用于将网格点转换为计算机可读代码的多种方式。例如,可以通过二进制代码来表示所生成的每个坐标中的每一个。图601呈现了设备602以及对接对象的位置和取向、手A603和手604B。图605图示相对于设备602以及对接对象603和604的网格501和502的位置。
根据其中仅在设备上呈现电容式传感器的系统的一个实施例,对应的传感器信号将仅表示对接单元与设备的物理接触的点。参考图6,在601,手A触摸该设备。网格501指定与该设备的物理接触点。为了说明的目的,网格501可以采用其中沿着轴的点是范围从0至10(未示出)的整数的坐标系。在图表606中显示用于表示手A 603触摸设备的点的坐标。在其中在设备中使用空间传感器的系统100的另一个方面中,传感器组件将从网格502生成坐标。应当明白,传感器代码可以包含来自网格501、502或二者的坐标。关于网格502生成的坐标与由对接对象占用的所有物理空间相关。所生成的坐标进而建立对象的形式、取向和空间位置。在图6中,在601处,双手A 603和B 604物理地占用设备周围的空间。为了说明性的目的,网格502可以采用坐标系,其中沿着轴的点是整数,该整数在正方向上范围是从0至20,并且在负方向上范围是0至20(未示出)。应当明白,与物理接触点相关的那些作比较,关于由网格502限定的对接对象的空间和取向属性来生成更大数量的坐标。为了说明的目的,仅在图表607中显示由手B生成的空间/取向坐标中的一些。(虽然未示出,但是根据系统的这个方面,手A 603也将从网格502生成坐标。)
图7图示了其中进一步限定适配组件103的系统100的实施例。适配组件包括传感器代码相关组件702、界面形成组件703和界面渲染组件704。适配组件103进一步包括数据库通信组件701,数据库通信组件701通过将在传感器代码相关组件702、界面形成组件703和界面渲染组件704之间的通信引导到在界面数据库102中的适当位置来促进在这些组件的通信。传感器代码相关组件702接收由传感器组件生成的传感器代码,并且使传感器代码与以代码表示的相应的物理接触参数和/或环境参数匹配。传感器代码相关组件702从界面数据库102中检索物理接触和环境参数。界面形成组件703从传感器代码相关组件702接收物理接触和环境参数。在接收时,界面形成组件703响应于物理接触和/或环境参数来确定适当的UI。将参考图8和图9来在下面描述界面形成组件703通过其来生成要应用于设备的UI的机制。界面渲染组件704向设备104应用所生成的UI。当接口是GUI时,界面渲染组件使得GUI在显示器上出现。当界面是HMI时,渲染组件使得设备的操作按钮的基础功能改变。
图8进一步区分界面形成组件703。界面形成组件包括界面相关组件801和界面生成组件802。界面相关组件负责从传感器代码相关组件702接收物理接触和环境参数,并且识别与物理接触参数和环境参数相关联的相应的UI元素和界面设计。特定物理接触参数可以具有由系统预定的一个指定的UI。替代地,若干预定UI可能足以容纳物理接触参数。而且,在本发明的另一个实施例中,UI的所有元素被存储在界面数据库中,并且可以响应于物理接触参数和/或环境参数来创建特定的UI。因此,界面相关组件收集所有的可能界面创建选项。
另外,界面相关组件可以包含存储器调用组件803。存储器调用组件803存储与用于有效的产生的易于使用的界面设计相关的信息。类似地,给定多个可用UI,用户可以具有在厌恶每一个先前生成的选项之后请求第二、第三等界面选项的选项。存储器调用组件803存储与特定参数相关地进行选择的最常选择的界面,并且使得下一次接收到相同或相关的参数时首先选择该界面选项。在本发明的另一个方面中,基于环境参数的进入的物理接触参数,存储器调用组件可以基于过去的接收到的参数的序列来预测在设备之上或周围的用户所进行的即将到来的物理移动。因此,存储器调用组件803可以准备有可能由系统实现的下一个界面以用于更有效的产生。而且,在本发明的另一个方面,当多个用户使用特定设备时,用于该用户的界面的子集可以驻留在界面数据库中。在接收到用作用户标识代码的主要物理接触参数时,可以用新号通知存储器调用组件803来引导界面相关组件801从对该用户指配的界面进行选择。
界面相关组件可以进一步包括推理引擎804,推理引擎804可以采用人工智能(AI)或其他适当的机器学习和推论(MLR)逻辑,人其促进自动化根据本创新的一个或多个特征。推理引擎804可以与存储器调用组件803进行交互,以提供替代或补充推理引擎804的判定逻辑。本创新(例如,结合从视觉表示和属性的绘图推理)可以采用用于执行其各个方面的各种基于AL或MLR的方案。例如,可以经由自动分类器系统和过程来促进用于确定要从视觉表示得到的适当或适合的结论的过程。
分类器是将输入属性向量x=(x1,x2,x3,x4,xn)映射成输入属于一类的置信度的函数,即f(x)=confidence(class)。这样的分类可以采用基于概率和/或统计的分析(例如,因子化为分析实用性和成本)以预测或推断用户期望自动执行的动作。
支持向量机器(SVM)是可以采用的分类器的示例。SVM通过在可能的输入的空间中找到超表面来运行,该超表面试图将触发准则与非触发事件分离。直观地,这使得该分类对于测试附近的测试数据但是与测试数据不同的数据是正确的。可以采用其他被引导的和未被引导的模型分类手段包括例如提供不同的独立模式的朴素贝叶斯、贝叶斯网络、决策树、神经网络、模糊逻辑模型和概率分类模型。在此使用的分类包括但不限于用于开发优先级模型的统计回归。
可以容易从本说明书明白,本创新可以采用明示地进行训练(例如,经由一般的训练数据)和暗示地进行训练(例如,经由观察用户行为、接收外部信息)的分类器。例如,经由在分类器构建器和特征选择模块内的学习或训练阶段来配置SVM。因此,(一个或多个)分类器可以用于自动地学习和执行多个功能,包括但不限于根据预定准则来确定基于数据参数和/或特性的组合来得出什么结论(或推理)。
在图9中详细描述了界面生成组件802。界面生成组件包括预定界面生成组件(PIGC)901和定制界面生成组件(CIGC)903。PIGC 901负责生成所有预定的界面。当仅一个预定界面与特定参数相关联时,PIGC仅生成由界面相关组件801收集的一个界面。然而,当若干UI与特定的物理接触参数或环境参数相关时,PIGC可以选择最适当的界面。可以基于排序方案来如此分类最适当的界面,在排序方案中,对在界面相关组件中的对于特定参数收集的各个界面进行分级。替代地,界面选择组件可以选择由存储器调用组件803指示的界面设计。要选择哪个界面的确定可以基于存储在界面数据库中的用户信息。
CIGC负责响应于环境参数的物理接触参数来从在界面相关组件801中收集的界面元素生成定制的界面。界面元素包括所有的交互元素或输入小工具以及诸如视觉小工具的所有非交互元素。CIGC组件在考虑到控制在界面数据库或界面库中保存的惯例实用性的规则来将定制界面设计有各个元素。在另一个实施例中,CIGC可以补充或替代利用规则来创建受到存储器调用组件803和/或推理引擎804影响的定制界面。在图9中描绘的系统100的另一个实施例中,CIGC可以包含独立的组件,诸如数据录入优化组件904、视觉显示优化组件905和命令小工具布置优化组件906。上面的组件中的每一个可以一起工作,以基于由它们的名称指定的其各自的角色来设计最佳的UI。根据该实施例,数据录入优化组件904负责与物理接触参数和/或环境参数相关的小键盘/键盘位置和设计。视觉显示优化组件905可以响应于交互组件的组织来优化各种非交互组件的组织和尺寸。命令小工具布置组件906可以进一步优化具体命令小工具的布置。在本发明的另一个方面,CIGC903可以引导界面数据库来存储定制创建的界面,以供以后使用。而且,本发明的另一个方面允许PIGC 901和CIGC 903通过由推理引擎804进行的指示来确定要应用的适当UI,预定UI或定制设计的界面(包括必要的元素)。
根据生成UI的各个方法,可以应用实现方案(例如,规则)来定义和/或实现通过其得出结论的一组准则。可以明白,基于规则的实现可以自动和/或动态地定义要从特定的一组信息或属性得出的结论。响应于此,基于规则的实现可以基于大多数任何期望准则通过采用预定义和/或编程的规则来进行确定。应当明白,规则可以被用户预编程,或者替代地,可以由系统代表用户来建立。另外,系统适配组件103可以通过用户或用户组的动作来“学习”或“被训练”。
返回参考附图,图10呈现了流程图,该流程图详细描述了系统100的适配组件103通过其在环境参数的情况下响应于设备的操作方式来修改UI的方法。在1001处,适配组件将传感器代码与物理接触参数和/或环境参数作比较,以便于根据环境条件来确定设备的操作方式。在1002处,适配组件使物理操作参数与UI设计和单独的用户元素相关。接下来,适配组件可以根据在界面数据库中概述的指令来生成预定的UI 1003或定制界面1004。生成的界面将被设计为提高实用性。在1005处,界面被应用于设备。最后,用户可以选择用所应用的界面进行或者改变界面,如步骤1006所述。在选择改变界面时,适配组件重复在步骤1003-1004处的界面生成过程。
现在参考图11,图示了由用户以三种不同的方式使用的三个设备1101-1103。设备的每一个由采用GUI的触摸屏显示器组成。如示,每个设备是在种类、形状、尺寸和功能上不同的设备。结果,以不同的方式来操作每个设备。在1201处,用左手来操作设备,在1102处,用左右拇指来操作设备,并且在1103处,在用户的左前臂中保持设备,并且使用指示笔操作该设备。为了进一步描述系统100的各方面,考虑示例,其中,在1101-1103中,每个设备是相同的设备,具有多个功能并且以在1101-1103中描绘的多种方式进行操作。(假定每个描绘的设备是便携式平板PC,则可以以在1101-1103中描绘的每个方式来操作每个设备。)当用户如在1101处所述操作设备时,在1104处描绘了响应于所生成的传感器代码而应用的UI。1104描绘了UI,其中,显示元素1107占据了部分的显示屏幕,并且交互元素1108出现在其中用户放置其拇指的显示平面左侧的集中区域。接下来,在1102处,当用双手操作设备时,UI可以自动地适配到新的操作方式,并且因此呈现显示元素1107和交互元素,如在1105处所表示的。而且,当用户如在1103中所示操作设备时,将界面适配到在1106处所描绘的设计。如在1104-1106中所示,界面中的每一个涉及关联的操作方式,以便于在优化显示元素1107的同时在易于访问的位置提供交互界面1108。在该示例中,如果该设备没有采用系统100,则UI将不响应于操作方式进行适配。通常,当不采用系统时,UI或者保持不变,或者响应于用于改变界面的人为请求或所采用的应用(未示出)来被修改。应当明白,在1104-1106中描绘的界面仅是用于说明性目的的界面设计的示例。
图12提供了系统的另外的应用。1201图示了位于汽车的中心控制台的计算机设备。根据本发明的实施例,该设备可以表达适应驾驶员的特定UI 1202。当驾驶员操作汽车时,他可以通过他的右手或指示笔来与该设备进行交互。该界面可以考虑诸如速度、日时、声音等的额外因素。UI 1202适配用于提高对于驾驶员的实用性。而且,1201中描绘的设备还可以被旋转以面向乘客或从控制台移除以放在乘客膝盖上。在如何情况下,乘客所进行的设备的操作方式将不同于驾驶员的操作方式,其中乘客不受汽车的操作限制。因此,设备的UI 1203可以自动地适配以适应乘客的操作方式。在本发明的另一个方面,界面除了操作方式之外还进一步适配于环境因素,例如汽车速度或汽车的高度。在诸如提高的速度的变化环境条件下,用户可以期望简化的UI以供与设备的更容易的交互。如上所述,可以通过考虑到设备的类型、所采用的传感器、可获得的应用和功能、操作方式、操作条件等的系统来生成多个界面。
现在参考图13,图示了可操作用于执行所公开的架构的计算机的框图。为了提供本创新的各个方面的其他背景,图13和下面的讨论意在提供其中可以实现本创新的各个方面的适当的计算环境1300的简短的一般性描述。虽然已经在可以在一个或多个计算机上运行的计算机可执行指令的一般背景中描述了本创新,但是本领域内的技术人员可以认识到,还可以结合与其他程序模块和/或作为硬件和软件的组合来实现本创新。
通常,程序模块包括执行特定任务或实现特定的抽象数据类型的例程、程序、组件、数据结构等。而且,本领域内的技术人员可以明白,可以用其他计算机系统配置来实践本发明的方法,该其他计算机系统配置包括单个处理器或多处理器计算机系统、微计算机、大型计算机以及个人计算机、手持式计算设备和基于微处理器或可编程的消费者电子装置等,其中的每一个可以可操作地耦合到一个或多个关联的设备。
图示的本创新的各方面还可以在其中通过经由通信网络链接的远程处理设备来执行特定任务的分布式计算环境中被实践。在分布式计算环境中,程序模块可以位于本地或远程存储器存储设备中。
计算机通常包括多个计算机可读介质。计算机可读介质可以是可以由计算机访问的任何可用介质,并且包括易失性和非易失性介质、可擦除和不擦除介质。例如,但是并非限制性地,计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储信息的任何方法或技术实现的易失性和非易失性的、可擦除和非可擦除的介质,该信息诸如是计算机可读指令、数据结构、程序模块或其他数据。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪速存储器或其他存储器技术、CD-ROM、数字通用盘(DVD)或其他光盘存储装置、磁带盒、磁带、磁盘存储装置或其他磁存储设备或者可以用于存储期望的信息并且可以由计算机访问的任何其他介质。
通信介质通常包含在诸如载波或其他传输机制的调制的数据信号中的计算机可读指令、数据结构、程序模块或其他数据,并且包括任何信息递送介质。术语“调制的数据信号”指使得以使得编码信号中的信息的方式来使其特性集的一个或多个被设置或改变。例如但不限于,通信介质包括有线介质,诸如有线网络或直接接线的连接;以及无线介质,诸如声音、RF、红外线和其他无线介质。上面的任何一种的组合还应当被包括在计算机可读介质的范围内。
再一次参考图13,用于实现本创新的各个方面的示例性环境1300包括计算机1302,该计算机1302包括处理单元1304、系统存储器1306和系统总线1308。系统总线1308将包括但不限于系统存储器1306的系统组件耦合到处理单元1304。处理单元1304可以是各种市售的可用处理器中的任何一种。双微处理器和其他多处理器架构也可以被用作处理单元1304。
系统总线1308可以是可以使用多种市售可用的总线架构中的任何一种来进一步互连到存储器总线(具有或没有存储器控制器)、外围总线和本地总线的几种类型的总线结构中的任何一种。系统存储器1306包括只读存储器(ROM)1310和随机存取存储器(RAM)1312。基本输入/输出系统(BIOS)被存储在诸如ROM、EEROM、EEPROM的非易失性存储器1310中,该BIOS包含有助于诸如在启动期间在计算机1302内的元素之间传送信息的基本例程。RAM 1312还可以包括高速RAM,诸如用于缓存数据的静态RAM。
计算机1302进一步包括内部硬盘驱动器(HDD)1314(例如,EIDE、SATA),该内部硬盘驱动器1314还可以被配置用于在适当底座(未示出)、磁软盘驱动器(FDD)1316(例如,从可擦除盘1318读取或写入)和光盘驱动器1320(例如,读取CD-ROM盘1322或对诸如DVD的其他高容量光学介质读取或写入)中的外部使用。硬盘驱动器1314、磁盘驱动器1316和光盘驱动器1320可以分别通过硬盘驱动器接口1324、磁盘驱动器接口1326和光学驱动器接口1328来连接到系统总线1308。用于外部驱动实现的接口1324包括通用串行总线(USB)和IEEE 13134接口技术中的至少一个或二者。其他外部驱动器连接技术在本创新的考虑内。
驱动器及其关联的计算机可读介质提供对数据、数据结构和计算机可执行指令等的非易失性存储。对于计算机1302,驱动器和介质以适当的数字格式来适应任何数据的存储。虽然上面的计算机可读介质的描述指HDD、可擦除磁盘和诸如CD或DVD的可擦除光学介质,但是本领域内的技术人员应当明白,还可以在示例性操作环境中使用计算机可读的其他类型的介质,诸如压缩驱动器、磁带盒、闪速存储卡、盒式磁盘等,并且进一步,任何这样的介质可以包含用于执行本创新的方法的计算机可执行的指令。
多个程序模块可以被存储在驱动器和RAM 1312中,该多个程序模块包括操作系统1330、一个或多个应用程序1332、其他程序模块1334和程序数据1336。还可以在RAM 1312中缓存操作系统、应用、模块和/或数据的全部或一部分。可以明白,可以用各种市售可获得的操作系统或操作系统的组合来实现本创新。
用户可以通过诸如键盘1338的一个或多个有线/无线输入设备和诸如鼠标1340的指示设备来将命令和信息录入到计算机1302中。其他输入设备(未示出)可以包括麦克风、IR遥控器、控制棒、游戏板、指示笔、触摸屏等。这些和其他输入设备经常通过耦合到系统总线1308的输入设备接口1342被连接到处理单元1304,但是可以通过其他接口来进行连接,该其他接口诸如并行端口、IEEE 13134串行端口、游戏端口、USB端口、IR接口等。
监视器1344或其他类型的显示设备还经由诸如视频适配器1346的接口被连接到系统总线1308。除了监视器1344之外,计算机通常包括其他外围输出设备(未示出),诸如扬声器、打印机等。
计算机1302可以经由到诸如远程计算机1348的一个或多个远程计算机的有线和/或无线通信来使用逻辑连接在联网环境中进行操作。远程计算机1348可以是工作站、服务器计算机、路由器、个人计算机、便携式计算机、基于微处理器的娱乐设备、对等设备或其他常见网络节点,并且通常包括关于计算机1302所述的元素的许多或全部,但是为了简洁的目的,仅图示了存储器/存储设备1350。所描绘的逻辑连接包括对局域网(LAN)1352和/或例如广域网(WAN)1354的较大网络的有线/无线连接。这样的LAN和WNA联网环境是在办公室和公司中常见的,并且促进企业域计算机网络,诸如内联网,其全部可以连接到诸如因特网的全球通信网络。
当在LAN联网环境中被使用时,计算机1302通过有线和/或无线通信网络接口或适配器1356连接到局域网1352。适配器1356可以促进对LAN 1352的有线或无线通信,LAN 1352还可以包括用于与无线适配器1356进行通信的在其上部署的无线接入点,。
当在WAN联网环境中被使用时,计算机1302可以包括调制解调器1358,或被连接到在WAN 1354上的通信服务器,或具有用于例如通过因特网来在WAN 1354上建立通信的其他装置。可以在内部或外部的以及有线或无线设备的调制解调器1358经由串行端口接口1342连接到系统总线1308。在联网环境中,可以在远程存储器/存储设备1350中存储关于计算机1302描绘的程序模块或其部分。可以明白,示出的网络连接是示例性的,并且可以可以使用在计算机之间建立通信链路的其他手段。
计算机1302可操作用于与在无线通信中可操作地布置的任何无线设备或实体进行通信,该任何无线设备或实体例如是打印机、扫描器、台式和/或便携式计算机、便携式数据助理、通信卫星、与无线可检测的标签相关联的任何设备或位置(例如,信息亭、书报亭、休息室)和电话。这至少包括Wi-Fi和BluetoothTM无线技术。因此,通信可以是与传统网络一样的预定义结构或者仅是在至少两个设备之间的自组织通信。
Wi-Fi或无线保真允许不使用线路来从在家中的长沙发、旅馆房间中的床或工作场所的会议室连接到至因特网的连接。Wi-Fi是与在蜂窝电话中使用的类似的无线技术,其使得例如计算机的这样的设备能够在室内和室外、在基站的范围内的任何位置发送和接收数据。Wi-Fi网络使用所谓的IEEE 802.11(a、b、g等)的无线电技术来提供安全的、可靠的、快速的无线连接。Wi-Fi网络可以用于将计算机彼此连接、连接到因特网和连接到有线网络(其使用IEEE 802.3或以太网)。Wi-Fi网络以例如11Mbps(802.11a)或54Mbps(802.11b)的数据速率在未经许可的2.4和5GHz无线电频带中操作,或者通过包含两个频带(双频带)的产品来运行,因此网络可以提供与在许多办公室中使用的基本10BaseT有线以太网网络类似的真实世界性能。
现在参考图14,图示了根据本发明的一个方面的便携式手持式终端设备1400的示意性框图,其中,处理器1402负责控制设备1400的整体操作。处理器1402被编程为控制和操作在设备1400内的各个组件,以便于执行在此描述的各个功能。处理器1402可以是多个适当处理器中的任何一个。处理器1402可以被编程来执行与本发明相关的功能的方式对于基于在此提供的说明的本领域内的普通技术人员是容易显然的。
连接到处理器1402的存储器1404用于存储由处理器1402执行的程序代码,并且用作用于存储诸如用户证书和接收交易信息等的信息的存储组件。存储器1404可以是非易失性存储器,其适合于被适配用于存储显示的至少完整的一组信息。因此,存储器1404可以包括用于由处理器1402高速访问的RAM或闪速存储器;和/或海量存储器,例如,能够存储包括文本、图像、音频和视频内容的数据的千兆字节的微型驱动器。根据一个方面,存储器1404具有用于存储多组信息的足够的存储容量,并且处理器1402可以包括用于在各组显示信息之间交替或循环的程序。
显示1406经由显示器驱动器系统1408被耦合到处理器1402。显示器1406可以是彩色液晶显示器(LCD)、等离子体显示器等。在该示例中,显示器1406是1/4VGS显示器,其具有16级的灰度级。显示器1406用于呈现数据、图形或其他信息内容,例如,显示器1406可以显示一组客户信息,该一组客户信息被显示给操作员,并且可以通过系统主干(未示出)被发射。另外,显示器1406可以显示控制设备1400的执行的多个功能。显示器1406能够显示字母数字和图形字符。
通过机载电源系统1414(例如,蓄电池组)向形成手持设备1400的处理器1402和其他组件供电。在电源系统1414故障或变得从设备1400断开的情况下,可以采用补充电源1412来向处理器1402供电,并且改变机载电源系统1414。设备1400的处理器1402引入休眠模式,以在检测到预期的电源故障时减少电流消耗。
终端1400包括通信子系统1414,通信子系统1414包括数据通信端口1416、数据通信端口1416用于使处理器1402与远程计算机对接。端口1416可以包括通用串行总线(USB)和IEEE 13134串行通信能力中的至少一个。还可以包括其他技术,例如,利用红外线数据端口的红外线通信。
设备1400还可以包括与处理器1402进行可操作通信的射频(RF)收发机部分1418。RF部分1418包括RF接收机1420,接收机1402经由天线1422从远程设备接收RF信号,并且解调该信号以获得其中调制的数字信息。RF部分1418还包括RF发射机1424,该发射机1424例如响应于经由用户输入设备1426(例如,小键盘)的人为用户输入或响应于交易的误差或其他预定和编程的准则的完成而自动地向远程设备发射信息。收发机部分1418促进与例如应答器系统的通信,该应答器系统例如是无源的或有源的,并且用于产品或项目RF标签一起使用。处理器1402经由收发机1418来向远程应答器系统传送信号(或传送脉冲),并且检测返回信号以便于读取标签存储器的内容。在一种实现方式中,RF部分1418进一步促进使用设备1400的电话通信。在其促进形式中,提供了由处理器1402控制的音频I/O部分1428,以处理从麦克风(或类似的音频输入设备)输入的语音和音频输出信号(从扬声器或类似的音频输出设备)。
在另一种实施方式中,设备1400可以提供语音识别能力,使得当设备1400仅用作语音记录器时,处理器1402可以促进语音信号向文本内容的高速转换,以用于本地编辑和查看和/或以后下载到远程系统,诸如计算机字处理器。类似地,转换的语音信号可以用于控制设备1400,而不是使用经由小键盘1426的人为录入。
诸如打印机1430、签名板1432和磁条读取器1434的机载外部设备还可以被设置在设备1400的外壳内或者通过外部端口接口1416的一个或多个被外部地容纳。
设备1400还可以包括图像捕获系统1436,使得用户可以记录图像和/或短电影以供设备1400的存储和显示器1406的呈现。另外,数据表读取系统1438被包括用于扫描数据表。应当明白,这些成像系统(1436和1438)可以是能够执行两个功能的单个系统。
现在参考图15,图示了根据本创新的示例性计算环境1500的示意框图。系统1500包括一个或多个客户端1502。客户端1502可以是硬件和/或软件(例如,线程、进程、计算设备)。客户端1502可以例如通过采用本创新来容纳cookie和/或关联的环境信息。
系统1500还包括一个或多个服务器1504。服务器1504还可以是硬件和/或软件(例如,线程、进程、计算设备)。服务器1504可以容纳例如通过采用本创新来执行变换的线程。在客户端1502和服务器1504之间的一种可能通信可以具有被适配来在两个或多个计算机进程之间发射的数据分组的形式。该数据分组可以包括例如cookie和/或关联的环境信息。系统1500包括可以用于促进在客户端1502和服务器1504之间的通信的通信框架1506(例如,诸如因特网的全球通信网络)。
可以经由有线(包括光纤)和/或无线技术来促进通信。客户端1502可操作地连接到一个或多个客户端数据储存器1508,客户端数据储存器1508可以用于存储客户端1502本地的信息(例如,cookie和/或关联的环境信息)。类似地,服务器1504可操作地连接到一个或多个服务器数据储存器1515,服务器数据储存器1515可以用于存储服务器1504本地的信息。
上述内容包括本创新的示例。当然,不可能为了描述本创新的目的来描述组件或方法的每种可设想的组合,但是本领域内的普通技术人员可以认识到,本创新的许多另外的组合和置换是可能的。因此,本创新意在包含落入所附的权利要求的精神和范围内的所有这样的改变、修改和变化。而且,在某种程度上,在详细说明或权利要求中使用词语“包括”,这样的词语意在以与当“包括”被用作在权利要求中的连接词时所解释的词类似的方式是范围广泛的。

Claims (15)

1.一种用于自动地适配设备的用户界面UI的系统,包括:
传感器组件,所述传感器组件包括多个传感器,所述传感器组件收集关于在所述设备上的多个接触点处与所述设备的交互对象的物理交互的数据,并且基于收集的数据来生成传感器代码;
存储器,所述存储器将所述传感器代码存储在数据库中,所述数据库将所述传感器代码映射成所述交互对象的物理接触参数,其中所述物理接触参数定义了所述传感器代码和以下中的至少一个之间的关系:交互对象的物理位置、交互对象的尺寸、交互对象的空间取向、交互对象的类型、和所述设备的取向;以及
适配组件,所述适配组件分析所述物理接触参数,并且根据所述物理接触参数来修改所述用户界面UI,以优化与所述设备的所述交互对象的交互。
2.根据权利要求1所述的系统,其中,所述适配组件根据操作模式来修改所述用户界面UI,其中,所述操作模式包括用单个用户的左手、单个用户的右手、单个用户的双手、多于一个用户的多只手、单个用户的一个手指或单个用户的多个手指来操作所述设备。
3.根据权利要求1所述的系统,其中,所述适配组件根据历史数据来修改所述UI,其中,所述历史数据包括先前收集的数据。
4.根据权利要求1所述的系统,其中,所述适配组件根据一个或多个用户手指的物理特性来修改所述UI,所述一个或多个用户手指的物理特性包括所述一个或多个用户手指的特定空间配置。
5.根据权利要求1所述的系统,其中,所述适配组件根据温度、环境光、气压、声音、风或时间中的至少一个来修改所述UI。
6.根据权利要求1所述的系统,其中,在用户修改用于一个或多个用户手指与所述设备进行交互的方式时,所述适配组件转换所述UI。
7.根据权利要求1所述的系统,其中,所述传感器组件包括下述中的至少一个:一个或多个电容式传感器、一个或多个电阻式传感器、一个或多个压力传感器、一个或多个电感式传感器、一个或多个热传感器、一个或多个光传感器、一个或多个激光传感器、一个或多个陀螺传感器、一个或多个红外线传感器、一个或多个电磁传感器、一个或多个生物计量传感器、一个或多个振动传感器、一个或多个声音传感器或一个或多个加速度计。
8.根据权利要求1所述的系统,其中,所述存储器存储查找表,所述适配组件采用所述查找表来将所述传感器代码映射成UI方案。
9.一种用于自动地适配设备的用户界面UI的方法,包括:
接收由传感器组件收集的关于所述设备的用户在所述设备上的多个接触点处进行的物理交互的数据,并且基于收集的数据来生成传感器代码,所述传感器组件包括多个传感器;
将所述传感器代码存储在数据库中,所述数据库将所述传感器代码映射成所述用户的物理接触参数,其中所述物理接触参数定义了所述传感器代码和以下中的至少一个之间的关系:基于所述多个接触点的所述用户的物理位置、所述用户的相应手指的尺寸和空间配置、和所述设备的取向;以及
分析所述物理接触参数,并且根据所述物理接触参数来修改所述用户界面UI,以优化通过所述设备的用户进行的交互。
10.根据权利要求9所述的方法,进一步包括:确定是否通过单个用户的左手、右手、双手、多于一个用户的多只手、一个手指或多个手指来操作设备,并且作为响应而修改所述UI。
11.根据权利要求9所述的方法,进一步包括:使用所述用户的先前收集的数据,并且作为响应而修改所述UI。
12.根据权利要求9所述的方法进一步包括:根据一个或多个用户手指的尺寸和形状以及所述一个或多个手指在特定空间配置中作用的方式来修改所述UI。
13.根据权利要求9所述的方法,进一步包括:分析所述传感器代码并且基于用户状态或设备状态来优化所述UI配置。
14.根据权利要求9所述的方法,进一步包括:感测压力、电阻、取向、振动、生物统计、温度、环境光、声音或风中的至少一个。
15.根据权利要求9所述的方法,进一步包括:通过采用查找表来将所述传感器代码映射成UI方案,所述查找表使所述传感器代码与所述UI方案相关。
CN200980150523.1A 2008-12-15 2009-11-23 界面适配系统 Active CN102246116B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/334,893 2008-12-15
US12/334,893 US20100153313A1 (en) 2008-12-15 2008-12-15 Interface adaptation system
PCT/US2009/065551 WO2010074868A1 (en) 2008-12-15 2009-11-23 Interface adaptation system

Publications (2)

Publication Number Publication Date
CN102246116A CN102246116A (zh) 2011-11-16
CN102246116B true CN102246116B (zh) 2014-09-24

Family

ID=41667160

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200980150523.1A Active CN102246116B (zh) 2008-12-15 2009-11-23 界面适配系统

Country Status (6)

Country Link
US (1) US20100153313A1 (zh)
EP (1) EP2359212B1 (zh)
KR (1) KR101329956B1 (zh)
CN (1) CN102246116B (zh)
CA (1) CA2746253A1 (zh)
WO (1) WO2010074868A1 (zh)

Families Citing this family (69)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10048860B2 (en) 2006-04-06 2018-08-14 Google Technology Holdings LLC Method and apparatus for user interface adaptation
US20100262931A1 (en) * 2009-04-10 2010-10-14 Rovi Technologies Corporation Systems and methods for searching a media guidance application with multiple perspective views
JP2010262557A (ja) * 2009-05-11 2010-11-18 Sony Corp 情報処理装置および方法
KR101113906B1 (ko) * 2009-09-04 2012-02-29 노상기 전자기기 단말기용 사용자 인터페이스 화면 구성 방법 및 이를 수행하기 위한 전자기기 단말기
US8621380B2 (en) * 2010-01-06 2013-12-31 Apple Inc. Apparatus and method for conditionally enabling or disabling soft buttons
US9891820B2 (en) * 2010-04-23 2018-02-13 Handscape Inc. Method for controlling a virtual keyboard from a touchpad of a computerized device
US9378193B2 (en) 2010-08-16 2016-06-28 Rakuten, Inc. Web management device, web management method, web management program, computer readable recording medium for recording said program, and web system
US8854802B2 (en) 2010-10-22 2014-10-07 Hewlett-Packard Development Company, L.P. Display with rotatable display screen
WO2012054063A1 (en) 2010-10-22 2012-04-26 Hewlett-Packard Development Company L.P. An augmented reality display system and method of display
US8648823B2 (en) 2010-11-05 2014-02-11 Apple Inc. Device, method, and graphical user interface for manipulating soft keyboards
US8587547B2 (en) 2010-11-05 2013-11-19 Apple Inc. Device, method, and graphical user interface for manipulating soft keyboards
CN102023894A (zh) * 2010-11-18 2011-04-20 华为终端有限公司 一种用户操作界面的变换方法及终端
US9824091B2 (en) 2010-12-03 2017-11-21 Microsoft Technology Licensing, Llc File system backup using change journal
US10275046B2 (en) * 2010-12-10 2019-04-30 Microsoft Technology Licensing, Llc Accessing and interacting with information
US8620894B2 (en) 2010-12-21 2013-12-31 Microsoft Corporation Searching files
US9436381B2 (en) 2011-01-24 2016-09-06 Apple Inc. Device, method, and graphical user interface for navigating and annotating an electronic document
US9092132B2 (en) 2011-01-24 2015-07-28 Apple Inc. Device, method, and graphical user interface with a dynamic gesture disambiguation threshold
EP2492832B1 (de) 2011-02-22 2021-08-18 Siemens Healthcare GmbH Optimierung einer auf einem client-server-system implementierten softwareapplikation
US9304566B2 (en) 2011-10-31 2016-04-05 General Electric Company Systems and methods for use in communicating with a charging station
EP2802975B1 (en) 2012-01-09 2018-05-16 Google LLC Intelligent touchscreen keyboard with finger differentiation
US9367085B2 (en) 2012-01-26 2016-06-14 Google Technology Holdings LLC Portable electronic device and method for controlling operation thereof taking into account which limb possesses the electronic device
KR101855141B1 (ko) 2012-02-08 2018-05-09 삼성전자 주식회사 사용자 디바이스의 옵션 설정 방법 및 장치
US9348508B2 (en) 2012-02-15 2016-05-24 International Business Machines Corporation Automatic detection of user preferences for alternate user interface model
CN103324423B (zh) * 2012-03-21 2018-11-13 北京三星通信技术研究有限公司 一种终端及其用户界面显示方法
US11073959B2 (en) * 2012-06-08 2021-07-27 Apple Inc. Simulating physical materials and light interaction in a user interface of a resource-constrained device
US8886576B1 (en) 2012-06-22 2014-11-11 Google Inc. Automatic label suggestions for albums based on machine learning
US8510238B1 (en) 2012-06-22 2013-08-13 Google, Inc. Method to predict session duration on mobile devices using native machine learning
US8429103B1 (en) * 2012-06-22 2013-04-23 Google Inc. Native machine learning service for user adaptation on a mobile platform
US9959038B2 (en) 2012-08-30 2018-05-01 Google Llc Displaying a graphic keyboard
US8744418B2 (en) * 2012-08-31 2014-06-03 Analog Devices, Inc. Environment detection for mobile devices
US9692875B2 (en) 2012-08-31 2017-06-27 Analog Devices, Inc. Grip detection and capacitive gesture system for mobile devices
US8665238B1 (en) * 2012-09-21 2014-03-04 Google Inc. Determining a dominant hand of a user of a computing device
US9430991B2 (en) 2012-10-02 2016-08-30 Futurewei Technologies, Inc. User interface display composition with device sensor/state based graphical effects
WO2014061839A1 (ko) * 2012-10-19 2014-04-24 Lee Sung Ho 파지에 응답하여 표시 화면의 크기를 동적으로 변환하는 방법 및 그 장치
US9128580B2 (en) * 2012-12-07 2015-09-08 Honeywell International Inc. System and method for interacting with a touch screen interface utilizing an intelligent stencil mask
US9842511B2 (en) * 2012-12-20 2017-12-12 The United States Of America As Represented By The Secretary Of The Army Method and apparatus for facilitating attention to a task
US20140181715A1 (en) * 2012-12-26 2014-06-26 Microsoft Corporation Dynamic user interfaces adapted to inferred user contexts
CN103135931B (zh) * 2013-02-06 2016-12-28 东莞宇龙通信科技有限公司 触摸操作方法及通信终端
US8922515B2 (en) 2013-03-19 2014-12-30 Samsung Electronics Co., Ltd. System and method for real-time adaptation of a GUI application for left-hand users
US20140331146A1 (en) * 2013-05-02 2014-11-06 Nokia Corporation User interface apparatus and associated methods
US9215302B2 (en) 2013-05-10 2015-12-15 Google Technology Holdings LLC Method and device for determining user handedness and controlling a user interface
GB2515012A (en) * 2013-06-10 2014-12-17 Ibm Event driven adaptive user interface
CN103473259A (zh) * 2013-06-18 2013-12-25 展讯通信(上海)有限公司 一种显示界面变换系统及变换方法
US20150015509A1 (en) * 2013-07-11 2015-01-15 David H. Shanabrook Method and system of obtaining affective state from touch screen display interactions
US9952042B2 (en) 2013-07-12 2018-04-24 Magic Leap, Inc. Method and system for identifying a user location
CN103473044A (zh) * 2013-08-20 2013-12-25 广东明创软件科技有限公司 适配不同分辨率移动终端的应用程序界面绘制方法
CN104516650A (zh) * 2013-09-27 2015-04-15 联想(北京)有限公司 一种信息处理方法及电子设备
JP2015084193A (ja) * 2013-10-25 2015-04-30 富士通株式会社 携帯電子機器及び制御プログラム
US9710150B2 (en) 2014-01-07 2017-07-18 Qualcomm Incorporated System and method for context-based touch processing
US9791959B2 (en) 2014-01-07 2017-10-17 Qualcomm Incorporated System and method for host-augmented touch processing
US10601825B2 (en) * 2014-04-01 2020-03-24 Snowshoefood Inc. Methods for enabling real-time digital object and tangible object interactions
US10078411B2 (en) * 2014-04-02 2018-09-18 Microsoft Technology Licensing, Llc Organization mode support mechanisms
CN105302292A (zh) * 2014-06-23 2016-02-03 新益先创科技股份有限公司 便携式电子装置
US10139869B2 (en) * 2014-07-23 2018-11-27 Analog Devices, Inc. Capacitive sensors for grip sensing and finger tracking
US9971496B2 (en) 2014-08-04 2018-05-15 Google Technology Holdings LLC Method and apparatus for adjusting a graphical user interface on an electronic device
CN105630146A (zh) * 2015-05-27 2016-06-01 宇龙计算机通信科技(深圳)有限公司 操作模式选择方法、操作模式选择装置和终端
CN107870665A (zh) * 2016-09-23 2018-04-03 中兴通讯股份有限公司 一种控制终端的方法、装置及终端
US10514844B2 (en) * 2016-11-16 2019-12-24 Dell Products L.P. Automatically modifying an input area based on a proximity to one or more edges
CN106873769A (zh) * 2016-12-30 2017-06-20 努比亚技术有限公司 一种实现应用控制的方法及终端
US10649640B2 (en) * 2017-05-02 2020-05-12 Microsoft Technology Licensing, Llc Personalizing perceivability settings of graphical user interfaces of computers
US20190026120A1 (en) 2017-07-21 2019-01-24 International Business Machines Corporation Customizing mobile device operation based on touch points
US10705691B2 (en) * 2018-02-19 2020-07-07 American Express Travel Related Services Company, Inc. Dynamic user interface blueprint
US10284897B1 (en) 2018-03-28 2019-05-07 Rovi Guides, Inc. Systems and methods for modifying the display of inputs on a user input device
CN108984058A (zh) * 2018-03-30 2018-12-11 斑马网络技术有限公司 车载显示屏的分区显示适配系统及其应用
CN109582209A (zh) * 2018-12-05 2019-04-05 珠海格力电器股份有限公司 一种hmi组态软件的软键盘输入方法、hmi组态软件及工业触摸屏
KR20220077455A (ko) * 2020-12-02 2022-06-09 삼성전자주식회사 전자 장치 및 그 제어 방법
CN114968434A (zh) * 2021-02-22 2022-08-30 上海博泰悦臻网络技术服务有限公司 异人一屏使用方法、系统、介质及装置
KR102601375B1 (ko) * 2021-11-30 2023-11-14 한성대학교 산학협력단 터치패널 위치에 따른 터치의 편리함을 감지하는 방법 및 장치
US11726734B2 (en) 2022-01-13 2023-08-15 Motorola Mobility Llc Configuring an external presentation device based on an impairment of a user

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1906565A (zh) * 2004-01-09 2007-01-31 诺基亚公司 自适应用户界面输入设备
CN101183292A (zh) * 2006-11-16 2008-05-21 Lg电子株式会社 移动终端及其屏幕显示方法

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0766168A3 (en) * 1995-09-28 1997-11-19 Hewlett-Packard Company Icons for dual orientation display devices
US6297838B1 (en) * 1997-08-29 2001-10-02 Xerox Corporation Spinning as a morpheme for a physical manipulatory grammar
US6243074B1 (en) * 1997-08-29 2001-06-05 Xerox Corporation Handedness detection for a physical manipulatory grammar
US7800592B2 (en) * 2005-03-04 2010-09-21 Apple Inc. Hand held electronic device with multiple touch sensing devices
US7268774B2 (en) * 1998-08-18 2007-09-11 Candledragon, Inc. Tracking motion of a writing instrument
US6597384B1 (en) * 1999-12-22 2003-07-22 Intel Corporation Automatic reorienting of screen orientation using touch sensitive system
US7289102B2 (en) * 2000-07-17 2007-10-30 Microsoft Corporation Method and apparatus using multiple sensors in a device with a display
US6791530B2 (en) * 2000-08-29 2004-09-14 Mitsubishi Electric Research Laboratories, Inc. Circular graphical user interfaces
US6888532B2 (en) * 2001-11-30 2005-05-03 Palmone, Inc. Automatic orientation-based user interface for an ambiguous handheld device
US20040201595A1 (en) * 2003-04-11 2004-10-14 Microsoft Corporation Self-orienting display
US20040223004A1 (en) * 2003-05-05 2004-11-11 Lincke Scott D. System and method for implementing a landscape user experience in a hand-held computing device
US7432917B2 (en) * 2004-06-16 2008-10-07 Microsoft Corporation Calibration of an interactive display system
US7519223B2 (en) * 2004-06-28 2009-04-14 Microsoft Corporation Recognizing gestures and using gestures for interacting with software applications
US20060022953A1 (en) * 2004-07-30 2006-02-02 Nokia Corporation Left-hand originated user interface control for a device
AU2006218381B8 (en) * 2005-03-04 2012-02-16 Apple Inc. Multi-functional hand-held device
KR101015352B1 (ko) * 2005-05-27 2011-02-16 샤프 가부시키가이샤 표시 장치
KR100664964B1 (ko) * 2005-10-11 2007-01-04 삼성전자주식회사 휴대 기기를 제어하는 장치 및 방법
CN101379461A (zh) * 2005-12-30 2009-03-04 苹果公司 具有多重触摸输入的便携式电子设备
US10048860B2 (en) * 2006-04-06 2018-08-14 Google Technology Holdings LLC Method and apparatus for user interface adaptation
JP2008076818A (ja) * 2006-09-22 2008-04-03 Fujitsu Ltd 携帯端末装置
US7581188B2 (en) * 2006-09-27 2009-08-25 Hewlett-Packard Development Company, L.P. Context-based user interface system
US8354997B2 (en) * 2006-10-31 2013-01-15 Navisense Touchless user interface for a mobile device
US7978176B2 (en) * 2007-01-07 2011-07-12 Apple Inc. Portrait-landscape rotation heuristics for a portable multifunction device
US20080284756A1 (en) * 2007-05-15 2008-11-20 Chih-Feng Hsu Method and device for handling large input mechanisms in touch screens
US9261979B2 (en) * 2007-08-20 2016-02-16 Qualcomm Incorporated Gesture-based mobile interaction
US11126321B2 (en) * 2007-09-04 2021-09-21 Apple Inc. Application menu user interface
US20090064038A1 (en) * 2007-09-04 2009-03-05 Apple Inc. Configuration of Device Settings
US8942764B2 (en) * 2007-10-01 2015-01-27 Apple Inc. Personal media device controlled via user initiated movements utilizing movement based interfaces

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1906565A (zh) * 2004-01-09 2007-01-31 诺基亚公司 自适应用户界面输入设备
CN101183292A (zh) * 2006-11-16 2008-05-21 Lg电子株式会社 移动终端及其屏幕显示方法

Also Published As

Publication number Publication date
CA2746253A1 (en) 2010-07-01
WO2010074868A1 (en) 2010-07-01
EP2359212B1 (en) 2017-09-13
EP2359212A1 (en) 2011-08-24
CN102246116A (zh) 2011-11-16
KR20110098953A (ko) 2011-09-02
KR101329956B1 (ko) 2013-11-14
US20100153313A1 (en) 2010-06-17

Similar Documents

Publication Publication Date Title
CN102246116B (zh) 界面适配系统
US9678570B2 (en) Haptic transmission method and mobile terminal for same
US7337410B2 (en) Virtual workstation
CN101810003B (zh) 增强的基于相机的输入
CN106940692A (zh) 以对话方式引导与电子表单的交互的交互式电子表单工作流助手
CN109313534A (zh) 智能虚拟键盘
CN107735761A (zh) 用于工业车辆的具有图形用户界面的处理设备
Quigley � From GUI to UUI: Interfaces for Ubiquitous Computing
CN105683904A (zh) 用于关键词图形选择的方法和装置
CN104685449A (zh) 基于用户的目光的用户界面元素焦点
CN105723311A (zh) 用于动作指示选择的方法和设备
CN105378599A (zh) 交互式数字显示器
CN101326479A (zh) 移动设备定制器
CN102349042A (zh) 用于在图形用户界面小部件中使用纹理的系统和方法
CN101387932A (zh) 显示系统
CN109446775A (zh) 一种声控方法及电子设备
KR20190002525A (ko) 눈멀거나 시각적으로 손상된 사람용 컴퓨팅 장치의 멀티미디어 관리용 가제트
CN109189286A (zh) 一种桌面应用的操作方法及终端
CN106873997A (zh) 拼图式任务实施控制方法和装置
CN109522706B (zh) 一种信息提示方法及终端设备
EP3384374A1 (en) Motion based systems, apparatuses and methods for establishing 3 axis coordinate systems for mobile devices and writing with virtual keyboards
CN107924588A (zh) 触发区域
CN112818733A (zh) 信息处理方法、装置、存储介质及终端
CN110069774A (zh) 文本处理方法、装置及终端
CN114817742A (zh) 基于知识蒸馏的推荐模型配置方法、装置、设备、介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C56 Change in the name or address of the patentee
CP03 Change of name, title or address

Address after: American New York

Patentee after: MOTOROLA SOLUTIONS INC

Address before: American New York

Patentee before: Symbol Technologies Inc.