CN102239460A - 作为输入机制的动作识别 - Google Patents
作为输入机制的动作识别 Download PDFInfo
- Publication number
- CN102239460A CN102239460A CN2009801468410A CN200980146841A CN102239460A CN 102239460 A CN102239460 A CN 102239460A CN 2009801468410 A CN2009801468410 A CN 2009801468410A CN 200980146841 A CN200980146841 A CN 200980146841A CN 102239460 A CN102239460 A CN 102239460A
- Authority
- CN
- China
- Prior art keywords
- user
- image
- calculation element
- variation
- orientation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1626—Constructional details or arrangements for portable computers with a single-body enclosure integrating a flat display, e.g. Personal Digital Assistants [PDAs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1694—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a single or a set of motion sensors for pointer control or gesture input obtained by sensing movements of the portable computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/36—Input/output arrangements for on-board computers
- G01C21/3667—Display of a road map
- G01C21/367—Details, e.g. road map scale, orientation, zooming, illumination, level of detail, scrolling of road map or positioning of current position marker
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2200/00—Indexing scheme relating to G06F1/04 - G06F1/32
- G06F2200/16—Indexing scheme relating to G06F1/16 - G06F1/18
- G06F2200/163—Indexing scheme relating to constructional details of the computer
- G06F2200/1637—Sensing arrangement for detection of housing movement or orientation, e.g. for controlling scrolling or cursor movement on the display of an handheld computer
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- User Interface Of Digital Computer (AREA)
- Position Input By Displaying (AREA)
Abstract
可使用在用户和计算装置之间相关运动或取向的检测来控制该装置的方面。例如该计算装置可包括成像元件和寻找相对于该装置的用户面部特征的位置,形状,拆分,和/或其他方面的软件,使得可确定相对于该用户的该装置取向。随后用户可为该装置提供输入,通过实施行为如倾斜该装置,移动该用户头部,作出面部表情,或不然改变相对于该装置的该用户的至少一个方面的取向。这样的方式可用作为如小键盘和触摸屏的常用输入装置的补充或替换。
Description
相关申请的交叉引用
本专利申请要求Bezos于2008年12月10日提交的第12/332,049号美国专利申请和于2008年11月20日提交的第61/116,430号美国临时专利申请的优先权,标题都为“作为输入机制的动作识别”,上述申请的全部内容通过引用并入本文。
背景技术
随着可用计算装置种类的增加,以及许多上述装置大小的减小,需要一种用户在其中与这些计算装置交互的方式。例如,当对于许多用户而言在键盘上打字为台式电脑输入信息是一种轻松并可接收的方式时,会难于试图在便携式电话的键盘上输入信息,因为该装置的微小形状要素。例如,用户手指大小会阻止该用户每次轻松地按下一个键。进一步地,当这些装置中的许多转为触摸屏或其他类似输入装置时,用户手指大小也会约束该用户成功地在该屏幕上选择出所要的对象或元件,等。使用这样的触摸屏的另一个缺点是在该显示屏幕上留下了指纹,污物,污点,和其他残留物,其会引起显眼或与清楚和/或能见度相关的其他问题。进一步地,一些用户增加额外的保护材料层以避免对该屏幕的损坏,但这些装置会降低触摸灵敏度和放大在该屏幕上留下的残留物的负面影响。
进一步地,许多用户宁愿使用例如手机,个人数字助理(PDAs),和一只手使用的电子书阅读装置的便携式装置,难于执行这样的使用触摸屏幕或多按钮输入方式的操作。即使对于固定装置(如,台式电脑),对于将宁愿不用必须不断地移动该鼠标并滚到下一个区域,选择导航到下一页的元件,等即可观看信息的用户,该标准键盘和基于鼠标的方式是不需要的。
附图说明
参照附图将对根据本发明的各个实施方案进行说明,其中:
图1示出了根据一实施方案的包括可操作用来成像用户面部区域的元件的便携式装置的实施例;
图2示出了根据一实施方案可被使用的可控装置的组件;
图3(a)-3(i)示出了根据一实施方案将文本信息输入到可被使用的便携式装置上的方式;
图4(a)-4(c)示出了根据一实施方案在计算装置上改变三维显示空间的方式;
图5(a)-5(c)示出了根据一实施方案在计算装置上改变三维显示对象的方式;
图6(a)-6(g)示出了根据一实施方案在计算装置上为三维界面导航的方式;
图7(a)-7(d)示出了根据一实施方案的可被识别为输入的动作的实施例;
图8(a)-8(c)示出了根据一实施方案的可被识别为输入的计算装置的用户相关视图的实施例;
图9示出了根据一实施方案的检测可被使用相关动作的方法的实施例;
图10(a)-10(f)示出了根据各个实施方案的用户的面部特征的分析;
图11示出了根据一实施方案的可被产生以提示用户确认对应于相关动作的行为的显示屏的实施例;
图12(a)-12(b)示出了根据一实施方案的处理作为输入的相关动作的方式;
图13示出了根据一实施方案的成像用户面部区域的相机的实施例;
图14(a)-14(b)示出了根据一实施方案的可被使用面部动作的检测方法的实施例;
图15(a)-15(c)示出了根据一实施方案的获得作为输入的用户眼睛动作的实施例;
图16示出了与图15(a)-15(c)中眼睛动作方式一起被使用的显示屏的实施例;
图17示出了根据一实施方案的可被呈现给用户以定制该输入控制方式的显示屏的实施例;和
图18示出了可实施各个实施方案的环境。
具体实施方式
根据本发明的各个实施方案的系统和方法可解决在电子环境下在常用的控制系统,装置,界面,或其他类似对象或元件的方式中所出现的上述和其他不足的一个或多个。为通过相关动作进行输入,提供了根据各个实施方案的系统和方法,例如使用可操作用来成像用户可识别部分的成像元件可确定的输入。相对于该用户可识别部分的装置的方向上的变化,通过该用户,该装置,或其组合的移动,可被确定并用作控制该装置某方面的输入。进一步地,该装置可对该用户的可调整方面进行成像,例如用户的面部表情,手势,或其他动作,以及采用上述可调整方面的状态作为输入。
在一实施例中,用户可能需要将文本输入便携式装置,例如输入搜索查询,敲入文本信息,或执行类似行为。根据各个实施方案的装置的用户能激活控制模式,例如“面部识别”模式,动作识别模式,或类似在这里讨论的模式,其允许该用户使用通过相机或该装置的其他成像元件可检测到的动作,表情,或对于用户在相关方向的其他变化来控制该计算装置。
在一个这样的装置中,用户可执行在引起在用户界面展现中变化(如,改动)的行为,例如虚拟键盘,单选框,单选按钮,或其他在该装置上显示的可选界面对象。例如,该虚拟键盘可以是常用的“QWERTY”式键盘或可选字母数字或其他类似字符的任意其他适合显示。可显示能移动到上述字母,数字,或其他显示字符任意一个上的光标,可移动图标,或其他类似元件。因此,基于参照该用户(或环境)的该装置方向上的变化进行改变的图形用户界面内所显示的信息,可对应于该图形用户界面的显示屏中的任意变化。例如,该用户界面可通过参照该图形用户界面的移动光标改变,调整用来生成在该计算装置上的三维图像的二维绘制的视点,在与电子目录相关的物品内导航,导航文件系统,从旋转选择结构中选择物品,至少部分基于在该用户界面中反映出的确定的变化来执行功能,导航电子地图系统,在许多其他可选的方式中。
该装置的成像元件,例如相机,其可被定位使得该成像元件能获得该用户的至少部分的图像,当该用户正操作该装置时。一实施方案,该相机是高速,高分辨率,能够在较少时间(如,高速相机或高速摄像机)内获得多数量图像的相机。该装置可包括能分析从该成像元件处所获得的图像信息并确定参照该装置的用户的至少一个相关位置和方向的图像处理算法。因此,该图像处理算法确定了参照该装置的用户的至少一个相关位置和方向中的变化。在该图形用户界面内显示的信息随后能够至少部分基于该确定的变化而被改变。在一些实施方案中,在该图形用户界面内显示的信息排除已获得第一和第二图像之一或二者的展现。即,在这样的实施例中,该成像元件不被用于在该用户界面内所显示的装置的用户的成像。相反,该用户图像信息被用于提供控制该图形用户界面各个方面的输入。
例如,该算法可确定该装置是否直接面对该用户,通过确定该用户的眼睛和/或头部是否基本上面对该装置。如果该装置或用户的头部在一个方向倾斜,该算法可确定该相关动作或取向的方向并相应地控制在该被显示键盘上光标的位置。例如,用户可将该装置向左或向右倾斜以将该光标移过一行字母,以及可将该装置向前或向后倾斜以将该光标移过一列字母,和/或其的任意组合。采用这样的方式,该用户通过简单地移动或不然改变该装置的取向,通过改变该用户的已确定方面的相对取向,或通过二者,可控制该光标或其他输入机构。
尽管上述实施方案通常涉及控制二维界面的输入,也可使用实施方案来控制三维界面的各个方面或使用这样的动作进行显示。例如,观看三维图像的二维绘制的用户可通过在对应于所需调整方向的方向中旋转或移动该装置(或该用户的头部,等)来调整该显示图像。这样的运动类似于从开口段注视箱子,其中用户能够通过将该箱子旋转到不同角度或定位该用户的头部来观看到该箱子的顶部,底部,和侧面,使得可看到所需面。在一些实施方案中,该用户同样能够通过执行缩放行为来缩放进该图像的不同区域,例如通过将该装置向该用户移动使得分析该图像信息的该算法能够检测到该用户的特征在逐渐接近该装置(如,他们的拆分和/或大小在增加)。例如加速度计的元件同样能够,在一些实施方案中,有助于这样的确定。在以三维方式展现信息的分等级归类的情况中,这样的方式允许用户快速并轻松地获得按该分等级的信息的所需等级,例如,通过缩放到该等级。用户随后可获得在该等级上的各个物品,通过将该装置的位置/取向倾斜或改变以移动光标或如上所述进行观看。
在另一实施例中,用户可采用例如电子书阅读器或便携式媒体装置的装置来阅读书,报纸,或其他类似电子内容。当观看这样的物体时,该用户可希望导航到或“翻”到电子书(e-book)的下一页,可执行例如将该装置倾斜到或将该用户头部转到右边的行为,来指出该用户准备导航到下一页。如果用户正在该书中导航以寻找该用户离开的位置,该用户可通过旋转该装置或以圆形方式移动该用户头部来输入命令以启动该导航,当该装置获得该用户离开的页或点时,该用户可实施例如微笑或点他或她的头部的另一行为采用“肯定”的运动来指示该装置该用户满意这次定位。同样可存在一个或多个物理按钮,选择轮,触摸界面,和在该装置上类似物,可与上述作为输入的相应动作一起结合使用。例如,用户可将该装置向右倾斜以使得该电子书阅读器来启动书的翻页,以及用户可按下按钮以指出正在显示所需页,给该装置发出信号以停止在该e-book中的调页。
在用户在电子市场中浏览提供的物品的实施例中,例如通过基于网页零售商的网站,该用户可观看到对应于搜索查询响应或物品分类的多个物品。如果在通过分类的三维组中显示了这些物品,例如,该用户可将该装置倾斜或移动以缩放或不然移动到所需分类的等级。一旦处于所需等级,该用户可将该装置倾斜或旋转他或她的头部,例如,以移动到在这个等级所显示的各个物品商。在上述行为移动光标的实施例中,在该光标处关于该物品的信息可被显示在弹出或模式窗口中。在另一实施方案中,当该用户将该装置倾斜时,该显示可移动到被显示的各个物品处,使得在任何一次仅仅显示在这个等级处的这些物品的子集,基于该用户导航的位置。当该用户准备观看其他物品时,该用户可实施指令该装置呈现新物品或物品列表的行为。如果该用户喜欢被显示的物品,该用户可实施指示该用户满意于正被显示的至少一个物品的行为。例如,如果该用户希望购买物品,该用户可执行例如上下地点他或她的头部的行为以指示该用户将愿意购买该物品。在一些实施方案中,这样的简单运动足以发起代表该用户的处理。但是,在一些实施方案中,该用户可能被要求确认通过实施行为进行的购买,例如通过再次点头或通过使用物理开关(如按钮或键)。如果该用户希望购买多于一件的物品,该用户可指出将购买或不然消费的数量,例如通过举起多个手指以展现该所需数量。可使用许多其他这样的用户行为来为该装置提供输入。
在另一实施例中,通过智能电话,或其他装置在网页商观看信息的用户,可将该装置向上倾斜以将该页向上翻,以及可将该页向上倾斜以将该页向下翻。该用户同样能够实施例如将该装置向该用户移动以放大,或将该装置向右倾斜以移动到下一页,或其他类似运动的行为。
此外,使用上述成像方式可检测到该装置的许多这些运动和动作。在一些实施方案中仅仅使用该该成像元件以执行该输入会是有利的。例如,可消除使用加速度计中所引入的成本和复杂度。进一步地,可使用成像方式,即使该装置(或其成像元件)被固定放置时。但是,在一些实施方案中,使用运动检测元件,例如加速度计,增加给成像元件,能提高对运动的检测,特别是在将相关装置被移动以至少部分地控制该输入的实施方案中。此外,使用加速度计可通过使得该装置在与图像相关的可能类似的运动之间更好进行区分来允许附加的输入类型,例如将该装置来回倾斜对比于将该装置上下移动,其中在每种情况下在该图像内该用户上下移动。
图1示出了根据一实施方案的配置100,其中通过便携式装置102的成像元件104对操作该便携式计算装置102的用户106的一部分成像。应当理解,在该图中所示的该用户和该装置的相对取向是为了解释方便而被转变,以及该用户通常面对包括显示元件和该成像元件104的装置的前面(或其他面或侧面)。成像元件104可以是,例如,相机,电荷耦合器件(CCD),运动检测传感器,或红外传感器,在许多其他可选的方式中。同样应当理解,当在本实施例中描述智能手机102时,该便携式计算装置可以是任意能够接收并处理输入命令的适合装置,例如个人电脑,笔记本电脑,电视机顶盒,移动电话,PDA,电子书阅读装置,视频游戏系统,或便携式媒体播放器,在其他装置中。
在这样的配置中,该成像元件104与显示元件在该便携式装置102的同一常用侧面上的,使得当用户在观看该显示元件中的界面时,该成像元件具有可视区域108,根据本实施例,该区域包括该用户106的面部。当在一些实施方案中相对于该装置安装该成像元件时,在其他实施方案中,可操作该成像元件以跟踪该用户的位置,例如通过旋转该成像元件或将光引向该成像元件的光学元件(如透镜,镜子,等)。尽管此处所述实施方案使用了包括该用户面部的可视区域的实施例,该可视区域可包括该身体的其他部分,例如胳膊,腿,和臀部,在其他可选的部分中。无论哪种情况,可配置该成像元件的可视区域108以获得对应于操作该装置的用户的至少一部分的图像信息,以及如果该成像元件连续地(或至少基本上连续地)获得或不然获得图像信息,则相对于该装置102的该用户106的任意移动(通过该用户,该装置,或其结合的移动)可导致在该可视区域108内该用户的至少一个方面的位置或取向发生变化。如果该装置包括能够找出可始终地被确定的该用户的至少一特征的软件和/或硬件,例如该用户的眼睛,鼻子或嘴部,则该装置能够分析出该图像信息以确定随着一段时间的相关运动并使用该相关运动作为输入。
例如,用户可将该装置倾斜或旋转该用户的头部,例如上下点头,采用“肯定”的运动。可被检测出来并被该成像元件(如相机)分析作为该可视区域108内该用户眼睛位置的这样运动将在该图像中移动。进一步地,例如该用户眼睛的成像形状,大小,和拆分的方面同样会改变。也能通过当该用户保持静止时上下移动该装置来实现在该可视区域中该眼睛的移动,与通过其他类似运动一样。在一些实施方案中,该装置能够区分该用户的移动和该装置的移动,例如通过检测该图像的背景或其他方面,或通过分析各种特征的拆分,形状,或大小。因此,在本说明书中所述实施方案内使用该成像元件以确定该装置相对于其用户的取向或位置的任何地方,用户可根据指定命令通过移动该装置或改变该用户某一个方面,或二者来选择输入给定类型的运动。
如上所述,当使用该计算装置的该成像元件以检测该装置和/或用户的运动时,该计算装置可使用在该图像中的背景来确定动作。例如,如果用户将该装置保持在固定于该用户的取向(如,距离,角度,等)且该用户改变相对于周围环境的取向,单独分析该用户的图像不会实现检测出该装置取向的变化。相反,在一些实施方案中,该计算装置仍可通过识别在该用户后背景成像中的变化来检测出该装置的移动。所以,例如,如果对象(如,窗口,图片,树,灌木,建筑物,汽车,等)移动到该图像中的左边或右边,该装置可确定该装置具有改变后的取向,即使相对于该用户的该装置的取向没发生改变。
在一些情况中,相关动作可存在多种解释。例如,在一应用中,如果向上和/或向下移动装置,则可编程该装置以执行第一行为,以及如果改为向前或向后倾斜该装置,则执行第二行为。应当清楚,每一个行为可对应于在该可视区域中向上和/或向下移动的用户眼睛的位置。在一些实施方案中,如下所讨论的一样,该相机和检测可能足够灵敏于在与该获得图像中用户面部如何变化相关的两个运动中进行区分,例如各个特征的形状和拆分或其他这样的方面。在其他实施方案中,可能需要采用相当简单的成像元件和分析方式进行处理之处,会需要在能够确定该装置102的当前取向的装置中包括至少一个取向确定元件110。在一实施例中,该至少一个取向确定元件110是至少一个单一或多轴加速度计,该加速度计被使用以能够检测出例如该装置三维位置,该装置的移动的幅度和方向,与颤动一样,振动,等的要素。其他用来检测取向和/或移动的元件也可被用于各个实施方案范围内以用作取向确定元件110。当该来自加速度计的输入与来自该相机的输入一起被使用时,可更精确地解释该相关动作,允许宽范围的输入命令和/或较少复杂性的图像分析算法。例如,加速度计的使用不能仅仅考虑到在相对于该用户的横向和旋转的动作之间区分,而且能考虑到为用户选择以提供有或没有该成像元件的输入。例如,如果该装置是便携式音乐播放器,该用户可具有选择翻动或移动该装置以切换歌曲,快进,或实施任意其它类似运动而不用必须翻转该装置使得该装置面对该用户。可替换地,该用户可使得该装置固定并移动或调解该用户方面,例如通过将该用户的头部移动到右边以跳到下一首歌曲。一些装置可允许用户指明是否从该成像元件,该取向确定元件,或其组合处的接受输入。
图2示出了计算装置200的基本组件的集合,例如参照图1所述的装置102。在本实施例中,该装置包括执行可被存储在存储器装置或元件204中的指令的处理器202。如本领域公知的一样,该装置可包括许多类型的存储器,数据存储器,或计算机可读媒体,例如通过该处理器202所执行的编程指令的第一数据存储器,图像或数据的单独存储器,与其他装置共享信息的可移动存储器,等。该装置通常会包括一些类型的显示元件206,例如触摸屏或液晶显示屏(LCD),尽管例如便携式媒体播放器的装置可能将信息通过其他工具传递,例如通过音频扬声器。如上所述,在多个实施方案中的该装置将包括至少一个例如相机的成像元件208,能够将用户的面部区域成像。该成像元件可包括任意适合的技术,例如具有足够分辨率,聚焦范围,和可视区域以在该用户操作该装置时获得该用户图像的CCD成像元件。使用具有计算装置的相机元件的捕获图像的方法在本领域公知,将在这里不具体进行讨论。应当理解,可使用单个图像,多个图像,周期图像,连续图像捕获,图像流,等来实施图像捕获。进一步地,装置可包括启动和/或停止图像捕获的能力,例如当从用户,应用,或其他装置中接收命令时。
如讨论的一样,该装置同样可包括能够确定和/或检测该装置的取向和/或移动的取向检测元件210。例如确定装置取向或移动的加速度计的元件的使用方法同样在本领域公知,将在这里不具体进行讨论。在一些实施方案中,该装置可包括至少一个附加的输入装置212,能够接收用户的常用输入。这样常用的输入可包括,例如,按钮,触摸输入板,触摸屏,滚轮,操纵杆,键盘,鼠标,小键盘,或任意其他类似装置或元件,其中用户可将命令输入给该装置。一些装置同样可包括麦克风或其他音频获得元件,接收声音或其他音频命令。例如,装置可能不根本不包括任意按钮,但是可能仅仅被通过可视和音频命令的组合来控制,使得用户可不需要与该装置接触来控制该装置。
图3(a)-3(c)示出了可被用来在便携式装置上输入文本的方式的实施方案。在一些实施方案中,这可被完成而不需要使用常见输入装置例如在键盘,小键盘或其他类似输入装置上的真实或虚拟键。在本实施例中,用户在试图将文本输入便携式装置300中。如可看到的一样,该装置包括允许虚拟键盘308或其他字母集或排列被显示给该用户的显示元件302。该显示包括可被在该虚拟键盘308的字母上移动的光标元件304。用户可移动该光标304以选择一个或多个字母,该字母可随后出现在文本输入窗口306或其他如此为该装置提供输入的元件中。
如图3(b)中所示,为该装置提供输入的一种方法是将该装置向右或向左倾斜,其分别对应于将该光标304在该键盘上向右或向左移动(或基于用户偏好,分别向右或向左)。类似地,图3(c)示出该用户可将该装置向前或向后倾斜以分别将该光标304向上或向下移动(或分别向下或向上)。在一些实施方案中,该用户可自由地跨越该屏幕通过倾斜该装置以任意方向移动该光标。在其他实施方案中,该用户可采用第一运动将该光标交叉或上下移动,以及可实施例如在该装置上按下按钮310或将该装置带回以面对该用户的行为来停止上述运动。该用户随后可通过将该装置倾斜为合适的方向以正交方向移动该光标。例如,如果以阵列形式显示上述字符,该用户可将该装置向左或向右倾斜以选择列,实施停止在该合适列处的行为,随后将该装置向上和/或向后倾斜以选择在该列中合适的行。如应当清楚的一样,可使用类似方式来执行各种其他组合和导航或动作。进一步地,尽管所述涉及倾斜该装置,应当理解,类似这里讨论的其他运动例如转动该装置或旋转该用户的头部,可一样被用于各个实施方案中。同样,在任意合适排列中可显示上述字符,且不限于行或其他类似的配置。
因此定位该光标使得其标识物品,例如字符,用作选择。该标识可包括将光标悬挂在该字母数字的字符上,改变该字母数字的字符的颜色,改变该字母数字的字符的形状,改变围绕该字母数字的字符的背景颜色,或显示围绕该字母数字的字符的形状(如,圆形,正方形,矩形,等),在许多其他可选的方式中。
根据一些实施方案,可使用预测文本算法来帮助该用户快速将文本输入文本输入窗口308中。例如,在一些实施方案中,在输入字符后,该装置300可自动地将该光标304移到该算法已经确定的该用户正敲入的词中下一个最可能字符的字符。该用户可随后选择该预测字符或可通过进一步倾斜或移动该装置300来将该光标移到下一个所需字符处。
图3(d)-3(f)继续图3(a)-3(c)的实施例,描述了其中使用上述所述二维之外的第三维来选择该文本输入的实施方案。图3(d)描述了处于被检测为比较接近于用户身体的第一位置中的该装置300。可同时使用该成像元件208和/或该取向检测元件210来进行这样的检测。在上述位置中,在该显示元件302内以大写形式描述了该字母数字的字符A-Z。随后该用户可使用本说明书中提及的与图3(d)-3(f)相关的技术来将该光标304向左,右,上和下移动以选择该所需字母中的任意一个。在图3(e)中,该装置处于某一位置使得该成像元件104立刻处于通过移动该装置和该用户中一个以进一步远离该用户身体的第二位置。该装置300立刻检测出该装置处于该第二位置并更新该显示元件104以显示该字母数字的字符的小写版本。此外,随后该用户可使用本说明书中提及的与图3(d)-3(f)相关的技术来将移动该光标304并选择该所需字母中的任意一个。在图3(f)中,再次改变在该用户和该装置之间的相关距离使得该成像元件104立刻处于比该第一和第二位置进一步远离该用户身体的第三位置。该装置300立刻检测出该装置处于该第三位置并更新该显示元件104以显示特定字符(如,!,,#,$,等)。此外,随后该用户可使用本说明书中提及的与图3(d)-3(f)相关的技术来将移动该光标304并选择该所需字母中的任意一个。
在一些实施方案中,可将该装置配置为将该用户界面临时“锁”为该第一,第二或第三位置,当该用户操作该装置以输入所需字母数字的字符时。例如,该用户可按下在该装置上的按钮以在该各个位置中“锁”该用户界面并当该用户愿意移到下一位置的时刻释放该按钮。
使用该第三维的这样的实施方案可替代或补充选择该shift,cap lock,或Alt按钮的需要以在字母数字的字符入口的各个模式之间切换。应当理解,使用该第三维在大写,小写,和特定字符之间切换是可使用该第三维的仅仅一个实施例。例如,在其他实施方案中,字母数字的字符集可被分为各个等级(如,A-J在该第一位置,H-T在该第二位置,以及U-Z在该第三位置)。另外,尽管仅仅所述三个位置,在该第三维中任意数量的可能位置是可能的。
图3(g)-3(i)描述了该所述技术如何可被用来选择各个输入的实施方案,通过将该可选物品或元件(如,字符,部分或屏幕,等)分段成该用户界面的较大区域并允许该用户通过顺序地选择该各个分段来钻取特定选择。这样的技术可能特别有用,例如,当该相机的灵敏度较低时或如果该便携式装置被用于例如汽车或公共汽车的不稳定环境中。尽管图3(g)-3(i)具体描述了向该装置输入文本的字符的入口,可使用该技术以选择任意类型的可选元件。图3(g)描述了该用户界面的部分。这里有虚拟键盘308,对应于该字符的子集被分段为两部分312和314。根据本实施例,该用户需要从该虚拟键盘308处选出该字符“p”。但是,替代将该装置移动使得该用户在字符“p”上移动光标304,该用户将该光标304移到包含该字符“p”,这里为部分314的指定位置。这可通过,例如倾斜该装置300并使用如先前所述的基于相机的或方向检测机构的动作检测,来进行实施。随后该用户可在部分314内选择任意区域以前进或“钻取”到下一个选择。
当该用户选择部分314时,丢弃部分312并将部分314放大并进一步如图3(h)所述进行分段,提供三个子集(如,部分)。这时,字符“p”在部分316中,因此该用户倾斜该装置300使得将光标304定位在部分316的任意区域中。此时,该用户选择部分316,使得丢弃部分318和320,放大部分316以方便在剩余可选物品中选择一个。具体地,图3(i)描述了被分成各个供用户选择的部分的剩下的5个字符。随后该用户倾斜该装置使得将该光标定位在该部分320中的任意位置,字符“p”所在的位置,并选择该字符以输入文本输入窗口306中。随后可配置装置300以返回如图3(g)所述的显示中以再次开始该文本输入处理。在可替换实施方案中,与其改变该装置的物理位置或取向,不如该装置可检测相对于该装置的该用户的变化的位置或取向(通过该用户和该装置二者的移动),使用供选择用的成像元件110。
根据另一字符输入的实施方案,预期将该光标相对于字符集进行移动,不如可配置该计算装置以每次显示一个字符以及,使得当该装置和该用户的相应取向发生改变时,配置该装置的用户界面以显示在该字符集中不同字符。例如,在一实施方案中,在该图形用户界面内一次仅仅显示一个简单字符,并且在改变该取向时,显示不同的字符以供选择。
图4(a)-4(c)描述了使用与前面所述类似的输入方式的用户导航的实施例。在本实施例中,使用计算装置400的二维显示元件402展现了三维环境。如上所述,该计算装置可包括至少一个成像元件以获得该装置的用户至少一部分的图像信息,以及可进一步地包括能确定与该图像信息相独立或与其结合使用的装置的取向的元件。如图4(a)所示,当该用户和该显示元件基本上相互面对时,在该显示屏上绘制了该三维环境的相关直视图。观看该图4(a)中的显示的用户可能希望获得向该屏幕右边显示的元件,或“在画面以外”的右边的元件的较佳视图。如图4(b)所示,该用户可将该装置向右(或向左)倾斜或实施类似动作,该动作将由该装置检测出来作为旋转用于显示的绘制视图范围的输入。随后被显示的图像可显示先前在该图像中心右边的图像的元件或部分的改善视图。类似地,该用户可能需要观看由该显示元件当前显示的上方或下方的元件或部分。如图4(c)所示,该用户可将该装置前后倾斜以改变该显示图像使得该图像提供视点,该视点较好地说明了先前在该先前图像中心点上面或下面的部分。因此,用户可改变用来显示该图像的视点,通过生成相关运动中的输入。另外,在一些实施方案中,一旦显示图像被改变以显示先前远离该图像中心显示的图像的元件或部分,可配置该装置以接收“规范化”输入或调整该显示图像使得该关注的显示区域被重取向为该显示图像的中心(如,该显示X部分移动到该显示屏的中心)。这允许在该用户和该装置之间的相对取向返回到正常的垂直观看取向。例如参照图4(b),在改变装置和用户的取向后使得该X元件处于关注区域,该装置接收来自该用户的更新该显示的输入使得,胜于该+元件,该X元件在该显示图像的中心以及该用户可返回到正常的相对于该装置的垂直观看位置。可选择该重取向,使用光标或触摸屏,按钮选择或手势,在其他可选的方式中。
当该实施例描述了倾斜该装置,可如此处所述使用例如移动该用户头部或做出面部姿势的其他运动。例如,可通过斜到该装置400左边的用户来获得如图4(b)中在显示元件402内的相同生成图像。类似地,可通过斜到该装置400底部的用户来获得在图4(c)的显示元件402内的相同生成图像。另外,在一些实施方案中,可采用图3(d)-3(f)中所述的技术来完成缩放进出在显示元件402内所述元件的能力。例如,为了放大或缩小可将该装置或用户移得更近或进一步相互远离。
图5(a)-5(c)示出了改变作为相关运动输入结果的显示视图范围的另一实施例。在本实施例中,使用该计算装置500的该二维显示元件502来显示三维物品504的二维绘制。在本实施例中,绘制一块使得当将该装置和用户取向为基本相互面对时,该用户开始能够观看到该块504的正面。如果用户需要看到该块的侧面部分,例如图5(b)中所示,该用户可将该装置或该用户头部倾斜或旋转,或执行此处所述的另一行为,该行为可导致该显示屏来旋转该块的绘制视图。类似地,该用户可通过例如将该装置前后倾斜的运动来观看该上面或底面,如图5(c)所示。在一些实施方案中,该视图可被系在该相关位置使得该用户能够至少看到该块的侧面和正面的一部分,例如,像该用户通常不能观看到该装置后面的显示元件一样。在其他实施方案中,该用户可简单地以指定方向倾斜该装置,例如,该视图将继续以上述方向卷动或选择直到该用户或退出倾斜该装置或实施另一个导致停止该图像选择的行为。根据此处所述的方面,也可使用各种其他方式。
根据一些实施方案,该用户可如上所述进行放大或缩小。在一实施例中,该用户可将该三维物品504的内部放大或缩小以露出该显示元件502范围内附加的三维物品,通过改变在该用户和该装置之间的相关距离。可使用类似于以上所述的方式来在该显示元件502内选择物品。
在三维中的导航能力不仅有利于观看图像和其他类似信息,也会有用于使用三维界面来定位信息。例如,图6(a)示出了在计算装置600的显示元件602上的界面604的实施例,其中该界面包括多个不同等级,每一个等级可对应于信息的分类或分级。例如,在电子市场中浏览物品的用户可能看到各个显示的种类和子类。在该所示实施例中,其中每一个种类仅仅存在一个子类,寻找电脑但不必须是个人电脑的用户可能需要直接导航到包括在该“电脑”种类等级处的物品的页。在图6(a)中,该显示当前处于在该“电子设备”种类等级,所以该用户可能需要放大或不然移动到该电脑等级。在本实施例中,该用户可实施例如按第一方向来倾斜该装置的行为,如图6(b)所示以缩放到所需等级。在其他实施方案中,该用户可通过将该装置(和成像元件)移动为离该用户更近来放大,如图3(d)-3(f)所述。在该等级处的显示可能包括与电脑相关的数个物品,该用户可使用此处所述的各种运动方式来导航到上述物品并观看信息。但是,如果该用户需要替代察看其他类型的消费品,该用户可能退出该如图6(c)所示的种类等级以在该显示的种类等级中具有较高的等级节点。在一些实施方按中,在任意时候在该显示屏上提示了至少下一个最高和/或最低等级以帮助用户以所需方向进行导航或浏览。在一些情况中,该用户可能将该装置倾斜以移到该所需种类等级,随后实施例如按下按钮以将该显示“锁”在该等级的行为。随后该用户可倾斜该装置以在该等级处锁显示的物品之间进行导航,使用例如参照图3(a)-3(c)所述的方式。
尽管图6(a)-6(c)的实施方案描述了在电子市场中的使用,考虑到了许多其他潜在用处。例如,该界面可描述在书中的布局(如,章节或分段),用户的社交图,搜索结果,文件系统等级,在许多其他潜用处中。因此,可使用此处所述的用户界面技术来导航并实际上访问任意类型的内容。例如,图6(d)-6(e)描述了另一示例实施方案,其中导航计算机文件结构以寻找关注文件。常用文件系统有时使用从根等级目录开始的等级结构,可将该根等级目录延伸到多个包含其他子目录和/或文件的子目录。这样的常用方式可包括使用图形界面的界面,该图形界面使用延伸文件夹树以在该文件结构中导航。尽管可使用此处所述的实施方案以导航这些常用延伸文件夹树(如,通过将该装置向左,向右,向上或向下倾斜),可使用此次所述的各个实施方案的三维本质来以其他方式导航分级文件系统。例如,如图6(d)所述,示例的用户界面602描述了包括路径标识符的第一部分606和提供位于该特定路径处的文件和文件夹的图形展示的第二部分608。例如,在图6(d)中,这些在该第二部分608中的文件和文件夹被描述为“WINDOWS”,“PROGRAM FILES”,“SHARK IMAGES”和“BROOMBALL DOCUMENTS”。该第二部分,在一些实施方案中,可展现的每一个文件和/或文件夹,根据其相关大小。
如图6(d)和6(e)所述,该用户已经将该光标610放置在该“WINDOWS”目录上并将该装置600拖离该用户以选择该“WINDOWS”目录,其被表示在图6(d)的第一部分606中。该第二部分608立刻将以该“WINDOWS”目录表现的文件夹表示出来。该用户已经将该光标在该“WINDOWS”目录上定位且,如图6(e)和6(f)所述,已经选择了该“WINDOWS”目录。图6(f)显示了在该第一部分606中的生成路径和在该第二部分608中的相关文件。这里,该用户可选择任意与本路径相关的文件,包括如图6(f)所述的“SOUND.DRV”文件。
同样可使用该所述实施方案以使许多类型的命令和行为(如,移动,复制或保存文件)有效或激活。用户,例如,可在该文件系统中导航到所需位置并执行指示文件将被保存的动作(或按下按钮,等)。就在那是,可配置该用户界面以提供该用户的输入对应于所需文件名称的文本的能力,使用,例如,参照图3(a)-3(g)所述的一个或多个方法。在一些实施方案中,该用户可使用常用输入装置例如键盘,鼠标,或触摸界面以输入该文件名称。
尽管本实施例指定为文件系统,可使用类似方式以导航任意类型的分级结构,例如电子目录,社交谱,搜索结果,网站,等。图6(g),例如,描述了导航三维电子目录的技术。这里,使用装置600以遍历在该电子目录中的多个物品种类612-616。根据本实施例,在任意时间在该用户界面602内描述了该物品种类612-616中的一个。此外,可使用装置600的移动来遍历该三维目录的种类。例如,沿着图6(g)中箭头所定义的轴移动该装置600可使得该用户界面602连续地显示各个要购买或其他消费(如,租赁,租借,下载,等)的物品种类612,614和616。
根据又一实施例,该所述实施方案可包括从旋转选择机构(如,转式显示屏,转式视图,等)处选择物品(如,产品,文件,目录,社交谱,等),如在未处理完的于2007年3月23日提交的第11/690,422号,标题为“提供物品比较并显示物品的方法和系统”的美国专利申请中所述的一样。在这样的实施方案中,该用户,例如,可将该装置向左或向右倾斜以使得该选择机构将物品旋转到该用户可选到的位置。
根据又一实施例,可使用该所述实施方案来在基于计算机的地图系统中进行导航。常用地图系统使用从用户来的触摸屏,键盘,或鼠标输入以在该地图中逐个位置漫游并为获得更多或更少细节进行放大和缩小。但是,使用此处所述方式,用户可通过以各个方向倾斜该装置(和相机)在地图中漫游。另外,用户可放大和缩小以揭示更多地图细节,通过将该装置移动为更接近或更远离该用户。在一些实施方案中,将该装置远离该用户的移动实现放大,而将该装置朝向该用户的移动实现缩小。在其他实施方案中,将该装置朝向该用户的移动实现放大,而将该装置远离该用户的移动实现缩小。根据一些实施方案,假定该基于计算机的地图系统可获得这样的图像信息,该用户可缩放进所选点的增长的细节视图。在一些情况中,该用户会能够实际地观看到建筑物的正面的图像或甚至凝视进入该营业窗口,例如商店,以在该商店内导航并观看到为购买可用的库存。同样地,该用户可以相反方向移动该装置进行缩小以看到特定区域的鸟瞰图。
如上所述,可使用各种装置的运动来提供输入。可通过分析由成像元件所获得的图像信息来检测到这些运动,以及在至少一些实施方案中也可利用取向检测元件210。该取向检测元件可包括一个或多个运动传感器,加速度计,位传感器,全球定位系统(GPS)接收器,罗盘,取向确定机构,或任意其他能够做出与计算装置的位置,取向,和移动中至少一个相关的一些类型的判定的适合类型的装置,组件,或元件。例如,图7(a)示出了能够检测出沿着三个自由度(如,沿着该X轴,Y轴,和Z轴)的运动的装置700。在本装置中,可使用如成像元件或取向检测元件210的元件来检测该装置的移动,该移动主要是前后,上下,和/或左右(和其组合)。如讨论的一样,将装置上下移动可实施与用户点他或她的头部相同的功能,而在其他实施方案中,这些行为可作为导致将被实施的不同行为的不同输入。图7(b)示出了能够检测旋转运动的装置702,提供了作为输入的又一自由度。例如,该旋转运动可包括将该装置702围绕该Z轴向左或向右倾斜。这样的运动可允许用户简单地提供输入,通过当把持该装置时向右或向左轻挥该用户的腕部。这样的输入可对如阅读电子书的应用有用,其中用户可简单地向右倾斜或轻挥该装置以移到下一页,或向左倾斜该装置以移回到先前页。但是,应当理解,在一些实施方案中通过该用户倾斜他或她的头部为同一运动可生成类似输入(尽管该算法将不得不考虑该“镜像”效果,即该用户向右倾斜他或她的头部以推进到下一页将实际上在该图像中显示为该用户头部向左倾斜)。
类似地,图7(c)示出了能够检测出前后旋转的装置704的实施例,提供了作为输入的又一自由度。例如,该前后旋转运动可包括将该装置围绕该X轴朝着或远离该用户倾斜。如上所述,检测这样运动的传感器可有利于一些实施方案,当只使用相机或成像元件对于确定的装置会难于在前后倾斜和被上下移动之间区分时,当该图像中每一个的常见效果是该用户面部在该捕获图像中上下移动时。通过将该装置的动作组合为由取向确定元件所检测的一样,例如,该装置可更轻松地在上述运动中区分。这考虑了另一个自由度,以及因此考虑了该装置的更多类型的输入。这样的动作可有用于上下移动页,或上下移动在浏览树或观看分级中的等级,例如,这样的动作同样有利于增加物品数量,使得希望购买物品的用户可“向上”或“向后”倾斜该装置以增加将被购买的物品的数目,以及可“向下”或“向前”倾斜该装置以减少该数目或物品数量。图7(d)示出了能够检测围绕该Y轴的向左或向右旋转的装置706的又一实施例,提供了作为输入的又一自由度。如上所述,检测这样运动的传感器可有利于一些实施方案,当只是使用成像元件对于确定的装置会难于在前后倾斜和被上下移动之间区分时。相应地,使用参照图7(a)-7(d)所述的位置运动的每一个(和结合),配置该装置以检测在至少六个自由度中的取向变化。
如上所述,可单独或与其他运动,表情,或控制界面或装置的至少一些方面的输入一起使用图7(a)-7(d)的运动。进一步地,可按需要为了输出而使用上述或其他运动的任意数目和组合。应当理解,同样可采用复杂的运动。例如,希望获得电子邮件的用户可能实施复杂的运动,例如将该装置向右移动并随后将该装置向后倾斜。或者,希望获得在该装置上正被浏览的电子市场的虚拟购物车的用户可能将该装置向右倾斜,随后向左,以及随后回到向右。如看到的一样,潜在数目的输入是无限的并首先由可期望用户记住并实施的实际数目的运动进行限制。
一些装置可能不包括加速度计或其他能够检测运动或取向的这样的元件。在其他装置中,可能需要分析尽可能多的信息来正确地解释任意运动。相应地,根据各个实施方案的系统和方法不仅可分析图像信息用来确定相关运动,取向,和/或位置,也可分析例如图像各个特征的大小,形状,和/或相关拆分的信息用来更精确地确定正被实施的运动。
例如,图8(a)示出了当可由装置的成像元件所捕获(如,获得,成像,等)时的该装置的用户面部800的图像。因此,将面部800描述为被该装置的成像元件所感知。如看到的一样,存在可被定位并测量的该用户面部的各个方面,例如该用户眼睛的被感知的宽度和高度,该用户眼睛的被感知的相关拆分,和相对于该用户面部边缘的该用户眼睛的被感知的相关位置,当面对该装置时。可如本应清楚地使用任意数目的其他这样的测量或方面。当用户将该装置倾斜或转动时,或将他或她的头部以任意方向移动时,在所捕获的连续图像中这些被测量方面的至少一个中将存在相应变化。例如,考虑到图8(b)中该用户的夸张视图,其可源于该用户将该装置移动或倾斜他或她的头部。如看到的一样,,该相对于该用户面部边缘的用户眼睛的水平位置(如,f对比f)已经变化。进一步地,该用户眼睛的形状或水平测量(如,a对比a′和b对比b′)已经变化,与该拆分(如,c对比c′)一样。使用这样的信息,该装置可确定发生的水平运动的类型。如果可替代的,该运动首先是垂直运动,例如图8(c)中所示,该相对于该用户面部边缘的用户眼睛的垂直位置(如,g对比g′)已经变化。进一步地,该用户眼睛的形状或垂直测量(如,e对比e′)已经变化。
因此,通过分析该装置捕获的图像信息,可检测并解释相对于该用户,潜在地包括该用户面部的该装置的相关运动或取向,即使在该装置中没有加速度计或其他这样的取向检测元件。可包括这样的取向检测元件,但是,该信息被结合以更精确地确定该装置和/或用户的运动。
图9示出了根据一实施方案通过可使用的相关运动来确定输入的过程900的实施例。在本过程中,激活该装置的面部识别模式(或相似模式)902,使用类似这里所述的那些方式。在一些例子中,这可能在启动时自动发生,在其他例子中,这可能需要首先接收代表该用户的激活请求。该装置的成像元件开始获得对应于该元件可视区域的图像信息904,分析该图像以寻找该用户的至少一个所需面部特征906。在一些情况中,本过程可能需要分析一个或多个图像,或图像流,以找到类似该用户眼睛的特征。一旦在可接收的确定度内找到该用户的合适面部特征,确定那些面部特征的方面908。例如,如果该特征包括用户眼睛,算法可确定每一个眼睛的尺寸,拆分,相对于面部的相关位置,离鼻子的距离,或其他类似方面,使得可检测出方向上的变化。在其他实施方案中,这可包括例如该用户嘴部尺寸的信息,使得可检测出在表情中的变化。基于该确定的方面,确定了该装置相对于该用户的最初取向910。在一些实施方案中,装置可能需要用户在初始校准期间面对该装置。在其他装置中,例如存储用户信息的地方,该装置可捕获单个图像并分析该信息以确定相对取向,通过比较该图像的已测量方面和该用户的已存储方面信息。
一旦确定了该取向,可连续地(或至少周期性地)分析图像信息以监视该面部特征的确定方面中的变化912。如果检测到上述方面的任意一个中的变化914,分析该已测量方面并确定相对于该用户的该装置的当前取向916。例如,如果检测到用户眼睛的位置发生变化,可使用算法分析如尺寸和拆分的各个方面以确定相对取向,如该用户是否将该装置向左或向右倾斜,或旋转他或她的头部。随后可实施对应于该新取向的功能918。例如,如果该用户正将该装置向右倾斜,随后该装置可能将该显示向右卷动。如果该用户正将装置向上倾斜,随后该显示的光标可能被向该显示的上方移动。可实施任意其他合适的功能以响应此处所述的检测到的运动或取向上的变化。同样可使用来自如加速度计的取向检测元件的取向信息以做出如取向或其他方面的确定。
在一些实施方案中,可将任意可检测到数量的动作用作输入。例如,轻微倾斜装置的用户可能将光标缓慢移过显示屏,而以陡峭角度倾斜该装置的用户可能将该光标快速移过该显示屏。但是,因为用户可能无法完全静止地把持装置,特别当用一只手把持装置时,可存在至少一个所需的用来使得功能被实施的移动的阈限量(如,输入阈值)。例如,用户可能必须将该装置倾斜到至少五度以使得光标移动或显示卷动或旋转。该取向可以是相关的,例如在“规范化”取向发生的位置当该装置的显示平面基本上垂直于在该装置和该用户眼睛之间视图的方向时。即使当检测到装置旋转时,如果存在该用户的相应动作(如在用户休息或躺下的位置),则可能不存在任意被记录为该“相关”取向未变的输入。在一些实施方案中,仅仅记录与该“规范化”取向相关的动作。
可使用各个方式来寻找用户面部的一个或多个所需特征以确定各个有用于确定相对取向的方面。例如,如果将用户头部作为输入,可能存在许多在形状上类似于人头部的会给出错误阅读的对象。同样,用户点头“否定”可能实际上没有充分移动该用户头部的位置以记录该动作。相应地各种方式使用如用户眼睛的特征来帮助确定位置和动作。例如,可分析图像以确定用户头部或面部的大致位置和大小。图10(a)示出了一实施例,其中确定用户头部或面部的大致位置和区域1000以及将虚拟“箱子”1002放在该面部的周围作为位置的提示,使用了作出上述确定的多个图像分析算法。使用一算法,将虚拟“箱子”放在用户面部的周围以及连续更新该箱子的位置和/或大小并进行监视以监视相关用户位置。同样可使用类似算法来确定该用户眼睛(或在一些情况中,该眼睛一前一后)的每一个的大致位置和区域1004。同样通过确定该用户眼睛的位置,可收获优点,在其会更愿意被确定为该用户头部的图像实际上包括该用户的头部时,以及可确定该用户正面对该装置。进一步地,该用户眼睛的相关移动可更轻松地用于检测出超过该用户头部的整个移动,当执行例如点头或来回摇头的运动时。
可使用各个其他算法来确定在用户面部上的特征的位置。例如,图10(b)示出了一实施例,其中识别出在用户面部上的各个特征并在该图像中指定点位1006。该系统因此可检测出用户特征的各个方面并可确定例如移动或在形状或表情中变化的变化。这样的方式提供了在特定情况中比图10(a)的常用方式所具有的优点,当可确定沿着特征的各个点时,例如用户嘴部的终点或至少一个中心点。相应地,可获得例如微笑或皱眉的表情尽管该用户嘴部或面部的整个位置未进行移动。
一旦识别出用户的位置和面部特征,可检测出该用户和该装置之间的相关运动并用作输入。例如,图10(c)示出了一实施例,其中该用户头部1000相对于该成像元件的可视区域进行上下移动。如上所述,这可以是该用户摇动他或她的头部的结果,或该用户上下移动该装置,等。图10(d)示出了一类似实施例,其中该用户正相对于该装置左右移动,通过该用户,该装置,或二者的移动。如可看到的一样,可分别将每一个动作跟踪为垂直或水平移动,以及可将每一个不同地处理为实施指定功能的输入。在一实施例中,可使用被监视动作来控制在该界面显示上光标的位置,通过跟随该上,下,和跨越运动。应当理解,这样的过程同样可检测对角的或其他类似移动。图10(e)进一步示出了一实施例,其中该用户将该装置和/或该用户的头部倾斜,以及将眼睛位置中的相关变化检测为旋转。在一些系统中,可检测出对应于该眼睛的相关位置的“线”,可将该线的角度上的移动与角度阈值比较以确定是否将该旋转解释为输入。
图10(f)示出了使用例如参照图10(b)所述方式以确定在用户面部上各个特征位置的另一优点。在这个夸张实施例中,可看到第二用户的头部1008的特征具有不同的相关位置和拆分。因此,该装置同样不能仅仅确定为用户确定特征的位置,而要能区分不同用户。如这里将稍后讨论的一样,这可允许该装置有区别地实施来自不同用户的输入。同样,可配置该装置以检测出用户有多靠近该装置基于,例如,各个特征的数量和拆分比,使得该装置可检测出朝着,和远离该装置的移动。其同样可被接收为输入,以及可被用来执行例如三维(3D)导航的行为。
进一步地,尽管参照面部特征和/或头部动作描述了许多实施方案,应当理解,装置可捕获和分析其他类型的用于提供输入的动作。例如,用户会能够操作在显示屏上的光标,通过改变手的位置或在空中“描绘”。用户同样会能够举起多个手指以提供数字输入,例如通过举起三个手指,随后二个手指,随后四个手指(可能跟随一些结束命令)以输入数字“324”。在一实施方案中,用户可以任意可区分的取向来举起任意数目的手指来提供输入,在一些实施方案中可使用表述(如,字母,词,或短语)来提供输入。例如,如果该用户正填写购买物品的表格并需要填入运输地址时,该用户会能够实施例如举起指定手指的运动,作出“家”的运动,或其他任意合适的运动,其中该装置认识到使用为用户存储的该“家”地址信息来填入该表格。
同样应当理解,被用作输入的复杂运动可以是面部动作和装置动作的组合。例如,希望关闭该装置的用户可能实施如将该装置向右倾斜并随后上下点头的行为。作为输入的任意数目的行为组合对于观看此处所包含教导和提示的本领域技术人员来说是明显的。
图11示出了将在这样装置上可为用户显示的界面屏幕1100的实施例。在本实施例中,通过该用户装置上的网页浏览器中所显示的网页,为该用户提供了经过电子市场为销售提供的物品的显示页。应当理解,这仅仅是一个实施例,且通过此处所述的输入方法可使用多个应用页,网页,文件,游戏屏,或其他类似显示或界面中任意一个。在本实施例中,该显示包括图标1102,提示该面部识别控制是激活的。当在本实施例中使用图形图标时,在各个实施方案中可使用多个方式中任意一个来提示用户激活了面部和/或运动控制模式。这里,将图标1102显示给该用户,当激活该面部识别控制模式时,以及隐藏或“划掉”当未激活该模式时。在一些实施方案中,该图标将具有不同状态。例如,该图标可能显示灰色当该模式激活时,以及将转为“绿色”或微笑或实施一些其他行为当检测到该用户面部时。在该装置上存在具有账户或信息的多用户的位置,该面部识别图标可能转为颜色或显示对应于当前用户的图像,指示该装置能够识别出观看该装置的用户。这样,观看在该装置上显示屏的用户能够认识到不仅该面部识别模式是激活的,而且该装置当前正检测该用户的面部和/或身份使得将正确地识别出该输入运动。如上所述,使用任意适合的输入机制可使能和/或占用该输入检测系统,例如通过用户选择输入开关,使用语音命令,选择显示屏或界面的用户可选元件,或提供可由该装置的成像元件能检测出的可视线索。
在本显示屏中,看出该用户能够选择一个购买正被显示物品的选项。在一些装置中,该用户可具有使用常见方式的指示购买物品愿望的选项,如通过触摸在该显示屏上的物品或通过小键盘或其他类似输入机构输入选择。如果例如面部识别模式的模式激活,且检测到该用户面部,则该用户同样可具有指示购买物品愿望的选项,通过实施如上下点下该用户头部的行为。基于该应用,用户偏好,或其他类似信息,该市场可能简单地接收该通过点头的购买,使得该用户不必须实施任意其他行为,例如输入款项或运输信息。在一些实施方案中,可显示确认面板1104或其他类似显示元件以请求该用户来确认该用户是否愿意购买该物品。应当理解,可使用这样的显示元件来确认任意这样的面部或运动输入。该确认元件同样可包括另一个图标1106,例如面部图标,指示该用户可通过面部或装置动作来确认。在一些实施方案中,这个图标可被动画成第一个上下点头而微笑以提示该用户将上下点头来确认该购买,以及可被动画成来回转动该头部而皱眉以提示该用户将转动他或她的头部以“否定”的运动来取消该购买。任意其他合适的行为可被显示或用来确认,等。如果该用户点头“肯定”进行确认,则该界面可接收该购买并使得该处理将被确认,使用多个本领域公知的方式中任意一个来实施这样的功能。如上所述,这样的输入方式可被用于任意合适的应用,过程,等,其接收为了上述目标的用户输入。
在一些实施方案中,确认过程利用了所获得的图像信息以分析如面部识别,视网膜扫描的生物特征信息,或其他类似能够证实用户身份的过程。在其他实施方案中,用户可创建基于运动的“密码”,如一系列必须由该用户实施以确定例如购买的行为的运动。例如,该用户可以将密码设置为三次上下点头,随后微笑并二次抬起眉毛,或任意其他与该用户相关的合适的动作和/或行为组合。
用户同样可提供其他类型的回应,不管是否显示了确认或类似面板或元件。例如,提交搜索查询的用户可接收多个搜索结果。该用户可具有提供回应(如,输入)的能力,如通过将该用户头部来回转动以“否定”运动来提示在当前被显示搜索结果上不包括所需结果。类似地,在用户使用电子市场购买的实施例中,该用户可提供如在该显示物品是用户所关注时形成微笑的输入,其可使得如正显示类似物品的行为发生,而皱眉可提示不需要的结果。这样的输入可被存储和/或为用户跟踪并用作如暗示或推荐该用户所关注的物品的目的。
利用这些机构中的至少一些,图12(a)示出了根据一实施方案接收用户的基于面部识别的输入的示例过程1200。在本过程中,激活该面部识别模式1202,使用如此处已讨论的那些方式。该装置的成像元件开始捕获该元件可视区域的图像1204,以及分析该图像以寻找该用户的所需面部特征1206。在一些情况中,本处理可能需要分析图像流以寻找如该用户眼睛的特征,以及该确定的位置对于一段时间来说相对一致。本初始定位过程可能需要该用户保持一段时间相对静止。一旦在可接收确定度内找到该用户的面部特征,如在十个连续图像的集或二秒时间中的图像之间的位置变化不超过10%,可生成提示来告诉该用户已经确定了该面部特征以及该用户可立即使用该所需面部运动来控制该装置1208。如上所述,其可包括显示图标或其他可视的该特征激活并准备输入的提示,而在其他实施方案中,其可包括采用音频信号的形式,例如“嘟嘟声”或其他确认该特征激活并准备输入的声调。应当清楚,当该用户面部不再被检测到或不然该特征对于任何理由都无法获得时可使用类似可视或语音方式来通知该用户。一旦激活该特征,可持续(或至少周期性)监控在该捕获图像中该用户面部特征的位置1210。该装置可具有至少一种类型的阈值组,指出为记录为输入的动作所必须的运动的数量。例如,观看监视器的用户将可能基于被观看屏幕区域来移动他或她的头部。例如,坐离1.5英尺宽的监视器2.5英尺远的用户可能必须在任意方向将他或她的头部转动超过二十度,在被记录为输入(与简单地向该显示屏边缘看相反)前。为了避免需要这样大的动作,该装置可替代地(或可附加地)能够确定动作的速率。例如,用户可能将他或她的头部向该屏幕的边缘转到超过一秒的过程,当阅读或浏览时,当可能能够将他或她的头部向右和左两方向摇动一秒时间内以提示所需输入。因此,算法可不仅考虑该运动的范围,而且考虑该动作发生的速率。如这里将稍后讨论的一样,用户可为特定装置,用户偏好,等来调整这样的设置。
当捕获该图像时,可分析每一个图像(或每一个其他图像,等)以确定是否满足或超出该运动阈值的任意一个1212。例如,可为每一个图像确定面部位置数据并与多个先前图像比较以确定任意动作是否满足或超出了给定阈值。给定数量的这样数据可被保存在本地存储器中或被高速缓存以轻松访问和快速分析。可使用分析在上下方向中的第一运动阈值,在右/左方向中的第二阈值,以及在旋转方向中的第三阈值,等的算法。如果该位置数据没有满足或超过任意阈值,该监视过程只是继续。如果该动作的至少一个满足或超过分别的阈值,则为该输入确定相应的行为1214并实施该行为1216。应当理解,该行为同样需要该用户的另一个输入,例如确认行为,等。如果该行为将结束该过程,将该装置断电,或不然结束该监视1218,该过程结束1220。否则,该用户装置的监视继续。
在一些实施方案中,该计算装置使用该取向检测元件210来确定该计算装置是否已被移动。当确定了该计算装置已被移动时,该计算装置可使用本确定来触发使用成像元件的用户的另一图像的捕获208。随后使用该连续图像来确定相对于该装置的该用户相关位置的变化。在一些实施方案中,将该取向检测元件采集的信息与该成像信息结合。
在一些实施方案中,该算法和/或过程可采用所学习的方面用于被接收输入。例如,如果用户将运动或表情指定为输入,该装置可请求该用户实施和/或重复该行为以确保该装置可正确地检测和/或解释该输入。在另一实施例中,如果该运动被检测为该装置不能正确地解释,可能请求该用户来再次(更清楚地)实施该运动以用来解释该运动。如果该装置仍旧不能解释该运动,该装置可要求该用户选择该用户试图提供的输入,并请求该用户实施相应运动使得该装置可记录或“学习”该用户如何实施该运动。在另一实施例中,该装置可“学习”用户如何随时间实施运动。例如,如果用户实施了由该计算机正确检测到的行为,但是该被实施行为接近于该检测阈值的边缘,该装置可调整该运动的阈值或更新对应于该运动的信息使得该装置可更好地解释用于该特定用户的输入。
图12(b)示出了在面部特征识别之外进一步采用至少一个运动或取向检测元件的过程1250的实施例。本实施例不包括上述各个步骤,例如激活该模式,等,但是应当理解,这样的步骤同样可应用于本过程或其他过程。进一步地,该步骤的排序和选择在不同实施方案中可改变。在本过程中,可捕获并分析该用户特征的图像1252。使用此处所述的至少一个合适的元件检测该装置的取向,移动,和加速度信息中至少一个1254。监视每一个图像(如,分析并与先前图像位置信息比较)以确定该图像阈值中任意一个是否满足或超过1256。同样监视该装置的位置,加速度,和/或移动以确定该动作或取向阈值中任意一个是否满足或超过1258。在一些情况中,可能在输入决定需要复杂运动或多个类型数据之处一起分析该信息。如果没有满足或超过该阈值中任意一个1260,该监视继续。如果满足或超过了至少一个阈值,可作出关于是否需要相关数据的确定1262。例如如果由阈值数检测到该面部特征上下移动,同样可能需要来分析该取向信息以确定该阈值是否被满足,通过上下移动该装置,旋转该装置,或发生在该装置相对稳定时。如果这样,该相关数据被分析并被与满足或超过该阈值的数据结合1264。使用该数据,为该相关输入确定了合适的行为或功能1266,以及实施或执行该行为或功能1268。如上所述,该过程可继续直到接收到结束该监视过程,等的输入或行为。
当如参照图12(b)所述的过程特别有用于如小型便携式装置的装置,非便携式的台式电脑的装置可同样潜在地受益。在一些实施方案中,比上述更轻微不同的方式可能更有用。例如,当在用户手中把持装置时,对于由于手持装置本质的不慎移动可能需要一些补偿。例如,用户可可能经常地小幅度移动该装置而无意涉及输入。运动调整算法能够对这样的动作进行编址,如本领域所公知的一样,但是仍旧引入了一些可被考虑的不确定等级。因此,可能难于精确地记录并跟踪微小的输入动作。进一步地,通用的便携式设备不需要该台式电脑或其他这样装置的分辨率或处理能力。因此根据各个实施方案的方式可利用该附加的能力和功能来为用户提供进一步的控制选项。
如图13所示,用户可能采用台式电脑1302和通常固定在位置上的相机1304。相应地,在该最初稳定系统1300中包括加速度计或其他类似取向检测元件可能存在较少用处。由于该用户在操作这样的稳定系统时通常是坐着的,一般在位置上将存在比便携式装置较少的非计划或没有意义的变动。进一步地,用于这样装置的相机1304可以是较高分辨率的并能以比该便携式装置中成像元件更高的捕获频率进行操作。因此,在这样的系统中可能检测到更多代表该用户的微妙动作,其可允许通过该用户运动或表情的附加类型的输入。例如,如图13所示,该相机不仅能够检测到该用户1306的眼睛和头部的位置,而且能够找到沿着该用户嘴部的多个位置。也可识别出该用户的各个其他特征。因为可确定对应于特征的多个点,替代简单的位置单独估计,用户可提供输入不仅通过位置工具而起通过表情或其他类似的动作。
例如,如在图14(a)中所示的夸张描述,当用户1400微笑时,该检测到的沿着该用户嘴部的点1402将包括引人注意的高于该用户嘴部中心位置的终点(在该捕获图像中)。如图14(b)所示,当同一用户1400皱眉时,该中心位置将高于该用户嘴部的终点。当人们的嘴部通常不以这样简单运动来移动时,可以看出,特征的位置可以变化,以及这些位置可被捕获并用作输入。例如,用户可能能够抬起眉毛或眨二次眼睛,其可被捕获为输入。用户同样可能能够作出他或她嘴部的特定形状,其可被捕获为输入。应当清楚,在这样的方式中可使用任意可被捕获,确定,和/或识别为有意输入的运动或表情。
进一步地,根据一实施方案的方式同样可领会该用户的眼睛。例如,图15(a)示出了一实施例,其中捕获并分析图像以确定该用户眼睛1500的位置。在该算法能够区分该用户瞳孔的系统中,该系统同样可采用相对于该眼睛位置的该瞳孔的相应位置。例如,图15(b)示出了该用户向“下”看的情况。如看到的一样,该瞳孔的位置已经移到该眼睛中心点的下方。类似地,图15(c)示出了该用户向“左”看(或向该用户的“右边”)的情况,使得每一个用户瞳孔的中心在于该分别眼睛的中点的左边(在该图中)。根据一实施方案的系统可通过调整该计算装置的显示来利用这样的信息,根据相对于该用户眼睛的该用户瞳孔的已检测位置,以及因此该用户在观看该显示屏上的确定区域。系统同样可检测如用户闭住他或她眼睛达到延长时间周期的动作,其中该装置可实施如将电子书阅读器置于“睡眠”或限电模式的行为,停止图像捕获,或将该装置断电。
在一实施方案中,用户通过观看在屏幕上多个目标中的每一个来校准装置,例如观看每一个角,借此,该装置可检测出对于在该显示屏上不同位置的相对于该用户眼睛的瞳孔相关位置。因此,当看向该显示屏中特定位置时,该装置可相应地动作。例如,如果用户正在阅读电子书,该装置可自动地卷动该页,或转向下一页,当该用户达到该当前页的底部时。在另一实施例中,用户可在该显示屏上多个元件中选择,通过简单地看向该元件。例如,用户可能提交搜索查询并接收搜索结果列表。用户可观看该结果,如果该结果之一是该用户关注的,该用户可在看向该物品时提交输入。例如,用户可看向在该列表中的第四个物品并实施如眨两次眼或说出词语“打开”的行为,以及该装置可确定以打开对应于该用户正看向的元件的文件。看向指定关注区域的用户同样可使得该显示屏缩放进该区域和该周围区域(任意次数)直到识别出指定关注区域。在一些情况中,用户可能看向该显示屏上的位置并说“缩放”或实施如向前点头的可检测运动。在另一实施方案中,如果存在多个要显示的等级,或如果存在多个“缩放”等级,该显示屏可自动地基于该用户所看的位置进行放大或缩小,只要该用户必要的一段时间。例如,如果用户正观看地图并观看特定州,在数秒后,该显示屏可能放大以显示该特定州(也许和周围州)。如果该用户在放大时看向另一州,该显示屏可或者切换到该州或缩小借此该用户可选择另一州。显示屏同样可具有对应于缩放命令的图标或元件,使得希望放大的用户可看向“放大”的元件和同样可看向该用户希望缩放的指定区域。该显示屏可以采用这些输入并在所需方向进行缩放。
图16示出了显示屏1600的实施例,可通过如参照图15(a)-15(c)的上述的方式来使用该显示屏。如上所述,该方式可确定该用户所看向的屏幕上的位置。在本显示屏中,可显示图标1602如移动眼睛,对应于用户所观看的已检测位置。因为该用户将通常希望看到在该位置上有什么,可使用多个方式中任意一个来显示该图标。在第一方式中,该图标是非常模糊的图标,允许用户看到在该图标后有什么,在仍旧知道该图标的位置时。在另一实施方案中,该图标仅仅是可视的,当该用户实施快速眼睛动作,如通过在该显示屏的顶部向上看,但是在缓慢动作如当用户阅读文本期间不进行显示。在另一实施例中,仅仅显示该图标在该用户正看到可选元件时。例如,可能不显示该图标,当确定了该用户正观看文本1604的区域时,但是可能仅仅进行显示在该用户正观看可选元件1606时。因此,浏览在显示页上物品的用户可能在观看该物品的信息时未看到该图标,但可能看到了该图标,当该用户正观看“现在购买”或类似按钮使得该用户知道如果该用户实施确定行为将发生什么时。这样的图标会有用于在页上存在多个可选元件,以及如果该用户提供可视输入则该用户想确定将选择哪一个元件并采取什么行为处。例如,用户可能眨两次眼作为“选择”命令,但是可能需要该图标以对应于该用户所看处进行显示使得该用户知道该眨眼将选择合适的元件。
当可存在用作输入的多个不同表情或动作的任意一个时,以及当用户将具有关于所使用喜爱表情的不同偏好,根据一实施方案的应用可允许用户选择或指定哪一个行为将对应于确定的输入。例如,图17示出了显示屏1700的实施例,可展示该显示屏给用户以允许该用户指定用于不同输入的行为。在本实施例中,存在多个示例输入显示1702,如“接受”,“拒绝”,“卷动”,等。对于这些中的每一个,提供了允许用户选择将用于每一个行为的表情或相关动作的下拉列表。应当理解,这些选择和机构仅仅是示例,以及使用多个用户可选元件中任意一个可指定多个行为中任意一个。如果用户不希望一个行为具有对应的运动,则该用户可将该行为保留为空,选择如“无”的选项,或任意其他合适的行为。如图所示,该用户同样可具有该选项1704以调整该运动的灵敏度,这里通过调整滑杆。这样的方式允许该用户有效地调整该确定输入的阈值。可存在整体灵敏度或类似控制,或可存在指定行为的指定设置。在一些实施方案中,用户校准每一个行为(如,通过按系统需求实施该行为),因此该系统可更好地确保正确检测。灵敏度或类似调整可有助于各个要素,如用户坐离该相机多远,该用户具有多少表情,该用户的大小,等。进一步地,用户可能使用不同装置以及该设置可能需要因每一个装置而不同(如,PDA的操作距离将通常不同于台式电脑的操作距离)。这样的屏幕可允许用户指定行为的组合,如装置的移动,面部表情,头部移动,等,用户同样可指定(或,定义)新的行为,移动,和/或组合,在各个实施方按中。这些可能类似于界面公知的“宏”,其中用户可定义一系列移动或表情以对应于一个或多个输入或行为。如看到的一样,该界面同样允许用户激活或停止运动输入,尽管也可使用其他输入方式如在该装置上按下按钮或使用语音识别。
进一步地,在同一装置上可设置不同用户,每一个用户可选择不同输入和选项。在一实施方案中,如上所述,装置可确定面部特征的有关位置使得该装置可区分相关用户。因此,当第一用户实施与该装置相关的行为时,该装置可将该运动解释为第一输入,以及当第二用户实施相同行为时,该装置可识别该第二用户,以及自动将该运动解释为第二输入。这样的方式允许在同一装置上设置多个用户,以及该系统可识别并区分这些不同用户。因此,用户看观看页面并通过简单地实施面部动作来购买物品,例如,可设置该系统以识别该用户和该行为使得该用户的单个行为为该用户获得该物品的购买。
如上所述,在各个环境中为各个应用可实施各个方式。例如,图18示出了用来实施根据各个实施方案的方面的环境1800的实施例。如应当认识到的一样,尽管基于网页的环境用作说明,可使用不同环境,当适合于实施不同实施例时。该所示环境1800包括测试或开发部分(或端)和产品部分二者。该产品部分包括电子客户端装置1802,其可包括任意可操作用来在合适网络1804上发送和接收请求,消息,或信息并将信息传回该装置的用户的合适装置。这样客户端装置的实施例包括个人电脑,移动电话,手持消息装置,笔记本电脑,机顶盒,个人数据助理,电子书阅读器,以及类似装置。该网络可包括任意合适的网络,包括局域网,互联网,蜂窝网络,本地网,或任意其他类似网络或其组合。用于这样系统的组件可至少部分基于所选网络和/或环境类型。通过这样网络进行通信用的协议和组件是公知的并在这里不进行具体讨论。可使用有线或无线连接,和其组合来实现该网络上的通信。在本实施例中,该网络包括互联网,当该环境包括网页服务器1806,用来接收请求并服务其响应的内容,尽管对于其他网络,对于本领域普通技术人员来说,可使用用于类似目的的替换装置将是明显的。
该说明性环境包括至少一个应用服务器1808和数据仓库1810。应当理解,存在数个应用服务器,层,或其他元件,过程,或组件,其可被链接或不然被配置,其可互动以实施如从合适数据仓库处获得数据的任务。如此处使用的一样,该术语“数据仓库”指的是能够存储,访问,和提取数据的任意装置或装置的组合,其可包括任意组合和多个数据服务器,数据库,数据存储装置和数据存储媒体,在任意标准,分布的,或聚集的环境中。该应用服务器可包括任意合适的硬件和软件用来与该数据仓库按需要集成以执行该客户端装置的一个或多个应用的方面,处理应用的大部分数据访问和业务逻辑。该应用服务器提供了与该数据仓库协作的访问控制业务,以及能够生成将被传送给该用户的如文本,图形,音频,和/或视频的内容,其可通过HTML,XML,或在本实施例中其他合适结构化语言的形式的网页服务器为该用户服务。所有请求和响应的处理,与在该客户端装置1802和该应用服务器1808之间的内容传递一样,可由该网页服务器进行处理。应当理解,该网页和应用服务器不是要求的且仅仅是示例元件,当在此处讨论的结构化代码可被执行在任意合适装置或主机上时,如此处其他位置讨论的一样。进一步地,可以这样的方式搭建该环境:可提供作为用户或应用可认购的业务的测试自动化框架。可提供作为此处所讨论的各个测试方案的任意一个的实施方式的测试自动化框架,尽管也可使用各个其他实施方式,如此处所讨论和提示的一样。
该环境还包括开发和/或测试端,其包括用户装置1818,允许如开发者,数据管理者,或测试者的用户来访问该系统。该用户装置1818可以是任意合适的装置或机器,例如参照该客户端装置1802如上所述。该环境还包括开发服务器1820,其功能类似于该应用服务器1808但通常在开发和测试期间运动代码,在该代码被采用并在该产品端上被执行以及为外部用户可访问之前,例如,在一些实施方案中,应用服务器可作为开发服务器来运行,以及可能不使用独立的产品和测试存储器。
该数据仓库1810可包括数个独立数据表,数据库,或其他用来存储与特定方面相关的数据存储机构和媒体。例如,该所述数据仓库包括用来存储产品数据1812和用户信息1816的机构,其可被用来为该产品端的内容服务。该数据仓库还被显示出包括存储测试数据1814的机构,其可被用于该测试端的用户信息。应当理解,存在许多其他可能需要在该数据仓库中存储的方面,例如页面图像信息和访问权利信息,其可被任意上述列出的机构中存储,作为该数据仓库1810中的合适或附加的机构。该数据仓库1810是可操作的,通过与此相关的逻辑,用来接收来自该应用服务器1808或开发服务器1820的指令,并获得,更新,或不然处理其响应的数据。在一实施例中,用户可能提交确定类型物品的搜索请求。此时,该数据仓库可能访问该用户信息以识别该用户的身份,并可访问该分类具体信息以获得与该类型的物品相关的信息。随后将该信息返回给该用户,如在用户能够在该用户装置1802上通过浏览器观看到的网页的结果列表中。可在该浏览器的专用页面或窗口中观看特定关注物品的信息。
每一个服务器通常会包括为该服务器的常用管理和操作而提供可执行程序指令的操作系统,并通常会包括存储指令的计算机可读媒体,当由该服务器的处理器执行时,允许该服务器实施其所需功能。该操作系统的合适的实施方式和该服务器的常用功能是公知的或商业上可获得的,且由本领域普通技术人员,尤其根据本发明,轻松进行实施。
在一实施方案中的环境是分布式计算机环境,采用了数个通过通信链接进行互连的计算机系统和组件,使用一个或多个计算机网络或直接连接。但是,本领域普通技术人员应当清楚,这样的系统可同样良好地运行在具有比图18中所示的较少或较多数目组件的系统中。因此,图18中该系统1800的说明应被自然地采用为说明性的,并没有限定本发明的范围。
可在宽范围种类的操作环境中进一步实施该各个实施方式,其在一些情况中可包括一个或多个用户计算机,计算装置,或可用来操作多个应用中任意一个的处理装置。用户或客户端装置可包括多个通用个人计算机中的任意一个,如运行标准操作系统的台式或笔记本电脑,与运行移动软件并能够支持多个网络和消息协议的蜂窝,无线,和手持装置一样。这样的系统同样可包括多个运行各种商业上可获得的操作系统的任意一个和其他公知的用于如开发和数据库管理目的的应用的工作站。这些装置同样可包括其他电子装置,如虚拟终端,瘦客户端,游戏系统,和其他能够在网络上通信的装置。
大部分实施方案采用了至少一个为本领域技术人员所熟悉的网络以支持使用了多种商业上可获得的协议中任意一个的通信,该协议如TCP/IP,OSI,FTP,UPnP,NFS,CIFS,和AppleTalk。该网络可以是,例如,本地网,广域网,虚拟个人网络,互联网,局域网,外联网,公共电话网,红外线网络,无线网络,和其任意组合。
在采用网页服务器的实施方案中,该网页服务器可运行多种服务器或第二层中间层应用的任意一个,包括HTTP服务器,FTP服务器,CGI服务器,数据服务器,Java服务器,和业务应用服务器。该服务器同样会能够执行响应用户装置请求的程序或脚本,如通过执行一个或多个网页应用,将该网页应用实施为一个或多个由任意编程语言所写的脚本或程序,如Java,C,C#或C++,或任意脚本语言,如Perl,Python,或TCL,与其组合一样。该服务器同样可包括数据库服务器,包括不限制商业上从Oracle,Microsoft,Sybase,和IBM可获得的那些。
该环境可包括多种如上所述的数据仓库和其他存储器和存储介质。这些可驻存于各种位置,例如在位于(和/或驻存在)该计算机中一个或多个或在该网络上远离该计算机的任一或所有处的存储媒体上。在特定的实施方案集中,该信息可驻存在本领域技术人员所熟悉的存储区域网络(“SAN”)中。类似地,可当地和/或远程地存储任意执行该功能的归属于该计算机,服务器,或其他网络装置的必须文件,作为合适的文件。在系统包括计算机化装置的位置,每一个这样的装置可包括可经过总线进行电性耦合的硬件元件,该元件包括,例如,至少一个中央处理单元(CPU),至少一个输入装置(如,鼠标,键盘,控制器,触摸屏,或小键盘),和至少一个输出装置(如,显示装置,打印机,或扬声器)。这样的系统也可包括一个或多个存储装置,如磁盘驱动器,光学存储装置,和固态存储装置例如随机存储器(“RAM”)或只读存储器(“ROM”),与可移动媒体装置,记忆卡,快闪卡,等一样。
这样的装置同样可包括计算机可读存储媒体阅读器,通信装置(如,调制解调器,网卡(无线或有线),红外通信装置,等),和如上所述的工作存储器。可将该计算机可读存储媒体阅读器连接上,或配置为接收,计算机可读存储媒体,展示远程,本地,固定,和/或可移动存储装置,与临时和/或更长久保存,存储,发送,和提取计算机可读信息的存储媒体一样。该系统和各个装置通常也会包括多个软件应用,模块,业务,或位于至少一个工作存储器装置内的其他元件,包括操作系统和应用程序,如客户端应用或网页浏览器。应当清楚,可替代实施方案可具有以上所述的许多变化。例如,可能也使用定制硬件和/或可以硬件,软件(包括便携式软件,如applet),或二者的形式来实施特定元件。进一步地,可使用到其他如网络输入/输出装置的计算装置的连接。
包含代码,部分代码的存储媒体和计算机可读媒体可包括任意合适的本领域公知或使用的媒体,包括存储媒体和通信媒体,例如但不限于在任意信息存储和/或传输的方法或技术中所实施的挥发性和非挥发性,可移动和非可移动媒体,该信息例如计算机可读指令,数据结构,编程模块,或其他数据,包括RAM,ROM,EEPROM,闪存或其他存储技术,CD-ROM,数字多用光盘(DVD)或其他光学存储器,磁性卡带,磁带,磁盘存储器或其他磁性存储装置,或任意其他可用来存储所需信息并可由系统装置访问的媒体。基于此处提供的本发明和教导,本领域普通技术人员将清楚其他实施该各个实施方案的方式和/或方法。
条款1.与便携式计算装置上的图形用户界面交互的方法,包括:
使用该便携式计算装置的成像元件获得第一图像,该第一图像包括该便携式计算装置的用户的面部特征;
使用该成像元件获得第二图像,该第二图像包括该便携式计算装置的用户的面部特征;
使用该便携式计算装置分析该获得的第一图像和第二图像以确定相对于该便携式计算装置的该用户面部特征的位置的变化;和
至少部分地基于该确定的变化以改变该图形用户界面内显示的信息,其中该图形用户界面内显示的信息排除了该获得的第一和第二图像中的一者或两者的展示。
条款2.如条款1所述的方法,其中:
获得该第二图像是响应于该便携式计算装置的动作。
条款3.如条款1所述的方法,其中:
改变该图形用户界面内显示的信息包括至少部分地基于该确定的变化以实施功能,该功能控制了该计算装置的图形用户界面的至少一个方面。
条款4.如条款1所述的方法,进一步包括:
对应于该计算装置的用户的面部特征来分析该获得的第一和第二图像以确定可测量方面的集的变化;和
其中在该图形用户界面内改变该显示的信息是至少部分地基于该可测量方面的集的确定变化。
条款5.如条款4所述的方法,其中该可测量方面的集包括该用户眼睛的至少一个的尺寸,该用户面部上的拆分特征,该用户面部上的特征的相关位置,和该用户面部上的特征之间的相对取向的至少一个。
条款6.如条款1所述的方法,其中:
分析该获得的第一图像和第二图像以确定相对于该便携式计算装置的该用户面部特征的位置的变化包括确定在该用户和该便携式计算装置之间的相对取向的变化。
条款7.如条款1所述的方法,其中改变该图形用户界面内显示的信息至少包括下列之一:
以对应于该确定变化的方向相对于该图形用户界面来移动光标;和
调整用来生成在该计算装置上三维图像的二维绘制的视点。
条款8.如条款1所述的方法,进一步包括:
使用该成像元件获得第三图像,该第三图像包括该便携式计算装置的用户的面部特征;
使用该便携式计算装置分析该获得的第二图像和第三图像以确定相对于该便携式计算装置的该用户面部特征的位置的第二变化,至少部分地基于该用户表情的该第二变化调整该用户的面部特征的形状,位置,和尺寸的至少一个;和
至少部分地基于该第二变化以改变该图形用户界面内显示的信息。
条款9.如条款1所述的方法,其中:
改变该图形用户界面内显示的信息至少包括下列之一:
在与电子目录相关的物品之间导航;
导航文件系统;和
从旋转选择机构处选择物品。
条款10.在计算装置中选择字母数字的字符的方法,包括:
分析用户的图像信息,该图像信息是使用该计算装置的成像元件获得的,以检测相对于该计算装置用户的该计算装置的取向的变化;
响应于检测该计算装置的取向的变化,识别可用于选择的该字母数字的字符;和
接收该字母数字的字符的选择。
条款11.如条款10所述的方法,进一步包括:
使用该计算装置的显示元件显示字符集;和
在当光标处于选择该字符集中至少一个字符的位置中时,实施接收该至少一个字符的选择的步骤。
条款12.如条款11所述的方法,进一步包括:
将该字符集分段成多个字符的子集,其中在该字符集中至少一个字符的选择包括接收该字符子集中至少一个的选择;和
将该字符子集中至少一个的选择分段为第二个多个字符子集。
条款13.如条款10所述的方法,进一步包括:
使用该计算装置的取向检测元件,与分析该图像信息一起,确定该方向的变化;
其中将该光标配置为根据该计算装置的取向的第一变化,直接指向将被选择的至少一个字符。
条款14.如条款13所述的方法,其中该取向检测元件是加速度计,运动检测器,电子罗盘,全球定位系统接收器,和电子水准仪中的至少一个。
条款15.如条款10所述的方法,进一步包括:
响应于接收用户可选元件的选择,减少该光标的一个自由度的移动能力,
其中将光标配置为在相对于该显示元件的至少两个自由度中移动,在接收该第二选择之前。
条款16.如条款10所述的方法,其中:
该计算装置的取向的变化对应于倾斜该计算装置的用户。
条款17.如条款10所述的方法,其中:
识别可用于选择的该字母数字的字符至少包括下列之一:
将光标悬在该字母数字的字符上;
改变该字母数字的字符的颜色;
改变该字母数字的字符的形状;
改变该字母数字的字符周围的背景颜色;和
显示该字母数字的字符周围的形状。
条款18.与计算装置交互的方法,包括:
使用该计算装置的成像元件分析获得的图像信息以确定相对于该计算装置的用户的至少一个特征的第一相对取向;
使用该计算装置的取向检测元件来分析获得的装置取向信息以确定相对于周围环境的该计算装置的第二相对取向;
检测在该第一和第二相对取向中至少一个的变化;和
响应于检测该变化,实施所需功能。
条款19.如条款18所述的方法,其中:
分析图像信息包括从该便携式计算装置处捕获至少一个图像以确定相对于该计算装置的用户的至少一个特征的位置,和
检测该用户的至少一个特征的位置和该计算装置取向的至少一个的变化包括从该便携式计算装置处捕获至少一个附加图像并确定该至少一个特征的位置上的不同。
条款20.如条款18所述的方法,其中:
实施该检测变化的所需功能的步骤包括至少部分地基于该检测变化来改变在图形用户界面内的显示信息,其中该装置的图形用户界面排除了该图像信息的展示。
条款21.如条款18所述的方法,进一步包括:
确定该检测变化是否至少满足了与该变化对应的输入阈值,在确定该所需功能之前。
条款22.如条款18所述的方法,其中:
该取向检测元件是加速度计,运动检测器,电子罗盘,和电子水准仪中的一个。
条款23.如条款18所述的方法,其中:
该与该用户对应的至少一个特征包括该用户的至少一个面部特征。
条款24.如条款18所述的方法,其中:
分析该成像信息以确定用户相关位置包括确定在该图像信息中用户每一个眼睛的大概位置。
条款25.如条款18所述的方法,其中:
实施所需功能包括观看和选择物品的至少一个。
条款26.如条款18所述的方法,进一步包括:
分析该图像信息以确定该用户身份。
条款27.如条款26所述的方法,进一步包括:
为该用户的确定身份确定了相对于多个变化的多个输入。
条款28.如条款26所述的方法,进一步包括:
在分析该图像信息之前为每一个确定身份捕获校准信息。
条款29.如条款18所述的方法,进一步包括:
提示该用户去确认该所需功能,在实施该功能之前。
条款30.如条款29所述的方法,进一步包括:
使得该用户通过改变该第一和第二相对取向的至少一个来确认该输入。
条款31.计算装置,包括:
处理器;
显示元件,显示图形用户界面;
存储器装置,包括可操作的由该处理器执行以实施一组行为的指令;
成像元件,可操作的用来获得与该计算装置相关观看区域对应的图像信息;和
该处理器可操作用来:
使用该成像元件获得第一和第二图像,该第一和第二图像包括该计算装置的用户的特征;
分析该获得的第一图像和第二图像以确定相对于该计算装置的该用户特征的位置的变化;和
至少部分地基于该确定的变化以改变该图形用户界面内显示的信息,该图形用户界面内显示的信息排除了该获得的第一图像,该获得的第二图像,或该获得的第一和第二图像二者的展示。
条款32.接收计算装置的输入的方法,包括:
分析图像信息以确定相对于该计算装置的用户的至少一个特征的至少一个相关位置,该图像信息是使用该计算装置的成像元件来获得的;和
响应于检测该用户的至少一个特征的至少一个相关位置的变化,该变化至少满足与该变化相关的输入阈值,选择与该检测变化相关的输入功能并执行该选择的输入功能,
其中该用户能够根据该检测变化来定义该输入功能。
条款33.如条款32所述的方法,其中:
检测该用户的至少一个特征的至少一个相关位置的变化包括检测该用户的至少一个面部特征的变化。
条款34.如条款33所述的方法,其中:
检测该用户的至少一个特征的至少一个相关位置的变化包括为该用户的至少一个面部特征检测多个相关位置的至少一个的变化,该用户的至少一个面部特征具有多个与此相关的相应位置使得该面部特征的表情变化导致该面部特征的至少一个相关位置的变化。
条款35.如条款32所述的方法,其中:
根据该检测变化确定输入输入功能并执行该选择的输入功能的步骤包括至少部分地基于该检测变化改变在与该计算装置相关的图形用户界面内显示的信息,其中该计算装置的图形用户界面排除该图形信息的展示。
条款36.计算装置,包括:
处理器;
显示元件;
成像元件,可操作的用来捕获图像信息,定向该成像元件使得在该图像信息中至少部分地捕获观看该显示元件的用户;和
包括指令的存储器装置,当该处理器执行该指令时候,使得该处理器:
分析该图像信息以确定与该计算装置的用户的面部特征相关的可测量方面的集;
至少部分地基于该可测量方面的集的值来确定相对于该计算装置的该用户的相对取向;
确定相对于该计算装置的该用户的相对取向的变化,该取向的变化至少部分地基于该计算装置的位置的变化;和
实施对应于该相对取向的确定变化的功能,其中该计算装置的用户能够响应于该相关方向的多个可确定的变化中每一个来定义将要实施的功能。
条款37.如条款36所述的计算装置,其中该存储器装置进一步包括指令,当该处理器执行该指令时,使得该处理器:
在实施该行为前确定该变化是否至少满足与该变化相关的输入阈值。
条款38.如条款36所述的计算装置,其中:
实施该功能的步骤包括至少部分基于该确定变化来改变在该计算机装置的显示元件上的图形用户界面内所显示的信息,其中在该装置的图形用户界面内所显示的信息排除该图像信息的展示。
条款39.嵌入在控制计算机装置的计算机可读媒体中的计算机编程产品,包括:
编程代码,分析图像信息以确定相对于该计算装置的用户的至少一个特征的至少一个相关位置,该图像信息是使用该计算装置的至少一个成像元件来获得的,其的定位使得在该图像信息中至少部分地包括该计算装置的用户的展示。
编程代码,响应于检测该用户至少一个特征的至少一个相关位置的变化来确定该变化是否至少满足与该变化相关的输入阈值;和
编程代码,确定相对于至少满足该输入阈值的检测变化的输入,并响应该确定的输入在该计算装置上执行行为,其中在该计算装置上执行行为的编程代码包括至少部分地基于该检测变化来改变该计算装置的显示元件上的图形用户界面内显示的信息,该在该计算装置的图形用户界面上显示的信息排除该用户的展示。
条款40.如条款39所述的计算机编程产品,进一步包括:
编程代码,确定该便携式计算装置的取向,该便携式计算装置包括至少一个可操作用来确定该取向的元件;和
编程代码,确定该计算装置的取向的变化,其中该确定该变化是否至少满足与该变化相关的输入阈值的编程代码包括分析该用户的至少一个特征的取向变化和相关位置变化二者的指令。
条款41.如条款40所述的计算机编程产品,其中:
该计算装置的用户能够响应于多个可检查变化中的每一个来定义将被执行的行为。
条款42.改变在计算装置的显示中的元件的显示的方法,包括:
分析用户的图像信息,该图像信息是使用该计算装置的成像元件获得的,以检测相对于该计算装置用户的该计算装置的取向的变化;和响应于检测该计算装置的取向变化,改变该元件的显示。
条款43.如条款42所述的方法,其中:
该想象元件是高速视频相机。
该说明书和附图,相应地,被认为是说明性的而不是限制性意义。但是,明显可在那里作出各种修改和变化而不背离在该权利要求中提出的本发明的较宽精神和范围。
Claims (15)
1.一种与便携式计算装置上的图形用户界面交互的方法,包括:
使用该便携式计算装置的成像元件获得第一图像,该第一图像包括该便携式计算装置的用户的面部特征;
使用该成像元件获得第二图像,该第二图像包括该便携式计算装置的用户的面部特征;
使用该便携式计算装置分析该获得的第一图像和第二图像,以确定相对于该便携式计算装置的该用户面部特征的位置的变化;和
至少部分地基于该确定的变化来改变该图形用户界面内显示的信息,其中该图形用户界面内显示的信息排除了该获得的第一和第二图像中一者或两者的展示。
2.如权利要求1所述的方法,其中:
改变该图形用户界面内显示的信息包括至少部分地基于该确定的变化来实施功能,该功能控制该计算装置的图形用户界面的至少一个方面。
3.如权利要求1所述的方法,其中:
分析该获得的第一图像和第二图像以确定相对于该便携式计算装置的该用户面部特征的位置的变化包括确定在该用户和该便携式计算装置之间的相对取向的变化。
4.如权利要求1所述的方法,其中改变该图形用户界面内显示的信息至少包括下列之一:
以对应于该确定变化的方向相对于该图形用户界面来移动光标;和
调整用来生成在该计算装置上三维图像的二维绘制的视点。
5.如权利要求1所述的方法,其中:
改变该图形用户界面内显示的信息至少包括下列之一:
在与电子目录相关的物品之间导航;
导航文件系统;和
从旋转选择机构处选择物品。
6.一种在计算装置中选择字母数字的字符的方法,包括:
分析用户的图像信息,该图像信息是使用该计算装置的成像元件获得的,以检测相对于该计算装置用户的该计算装置的取向的变化;
响应于检测该计算装置的取向的变化,识别可用于选择的该字母数字的字符;和
接收该字母数字的字符的选择。
7.如权利要求6所述的方法,进一步包括:
使用该计算装置的显示元件来显示字符集;和
在当光标处于选择该字符集中至少一个字符的位置中时,实施接收该至少一个字符的选择的步骤。
8.如权利要求6所述的方法,进一步包括:
使用该计算装置的取向检测元件与分析该图像信息一起,确定该取向的变化;
其中将该光标配置为根据该计算装置的取向的第一变化直接指向将被选择的至少一个字符。
9.如权利要求6所述的方法,进一步包括:
响应于接收用户可选元件的选择,减少该光标的一个自由度的移动能力,
其中在接收该第二选择之前,将光标配置为在相对于该显示元件的至少两个自由度移动。
10.一种与计算装置交互的方法,包括:
使用该计算装置的成像元件分析获得的图像信息以确定相对于该计算装置用户的至少一个特征的第一相对取向;
使用该计算装置的取向检测元件来分析获得的装置取向信息以确定相对于周围环境的该计算装置的第二相对取向;
检测在该第一和第二相对取向中至少一个的变化;和
响应于检测该变化,实施所需功能。
11.如权利要求10所述的方法,其中:
分析图像信息包括从该便携式计算装置处捕获至少一个图像以确定相对于该计算装置的用户的至少一个特征的位置,和
检测该用户的至少一个特征的位置和该计算装置取向的至少一个的变化包括从该便携式计算装置处捕获至少一个附加图像并确定该至少一个特征的位置上的不同。
12.如权利要求10所述的方法,其中:
实施该检测变化的所需功能的步骤包括至少部分地基于该检测变化来改变在图形用户界面内的显示信息,其中该装置的图形用户界面排除了该图像信息的展示。
13.如权利要求10所述的方法,其中:
实施所需功能包括观看和选择物品的至少一个。
14.计算装置,包括:
处理器;
显示元件;
成像元件,可操作的用来捕获图像信息,定向该成像元件使得在该图像信息中至少部分地捕获观看该显示元件的用户;和
包括指令的存储器装置,当该处理器执行该指令时候,使得该处理器:
分析该图像信息以确定与该计算装置的用户的面部特征相关的可测量方面的集;
至少部分地基于该可测量方面的集的值来确定相对于该计算装置的该用户的相对取向;
确定相对于该计算装置的该用户的相对取向的变化,该取向的变化至少部分地基于该计算装置的位置的变化;和
实施对应于该相对取向的确定变化的功能,
其中该计算装置的用户能够响应于该相关方向的多个可确定的变化中每一个来定义将要实施的功能。
15.如权利要求14所述的计算装置,其中
实施该功能的步骤包括至少部分基于该确定变化来改变在该计算机装置的显示元件上的图形用户界面内所显示的信息,其中在该装置的图形用户界面内所显示的信息排除了该图像信息的展示。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US11643008P | 2008-11-20 | 2008-11-20 | |
US61/116,430 | 2008-11-20 | ||
US12/332,049 US8788977B2 (en) | 2008-11-20 | 2008-12-10 | Movement recognition as input mechanism |
US12/332,049 | 2008-12-10 | ||
PCT/US2009/065364 WO2010059956A1 (en) | 2008-11-20 | 2009-11-20 | Movement recognition as input mechanism |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102239460A true CN102239460A (zh) | 2011-11-09 |
Family
ID=42172960
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2009801468410A Pending CN102239460A (zh) | 2008-11-20 | 2009-11-20 | 作为输入机制的动作识别 |
Country Status (7)
Country | Link |
---|---|
US (2) | US8788977B2 (zh) |
EP (1) | EP2364470B1 (zh) |
JP (1) | JP2012509544A (zh) |
KR (1) | KR101312227B1 (zh) |
CN (1) | CN102239460A (zh) |
CA (1) | CA2743914C (zh) |
WO (1) | WO2010059956A1 (zh) |
Cited By (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102402328A (zh) * | 2010-09-07 | 2012-04-04 | 索尼公司 | 信息处理装置、程序以及控制方法 |
CN103116403A (zh) * | 2013-02-16 | 2013-05-22 | 广东欧珀移动通信有限公司 | 一种屏幕切换方法及移动智能终端 |
CN103135762A (zh) * | 2011-11-29 | 2013-06-05 | 三星电子株式会社 | 用于基于眼睛跟踪操作用户功能的方法及其移动装置 |
CN103327168A (zh) * | 2012-03-21 | 2013-09-25 | Lg电子株式会社 | 移动终端及其控制方法 |
CN103383626A (zh) * | 2012-05-02 | 2013-11-06 | 三星电子株式会社 | 移动对象的方法和装置 |
CN103430126A (zh) * | 2011-03-01 | 2013-12-04 | 高通股份有限公司 | 显示内容的系统和方法 |
CN103576834A (zh) * | 2012-08-07 | 2014-02-12 | 三星电子株式会社 | 省电控制方法及支持省电控制方法的电子设备 |
CN103909864A (zh) * | 2013-01-08 | 2014-07-09 | 沃尔沃汽车公司 | 车辆显示装置以及包括车辆显示装置的车辆 |
CN104145233A (zh) * | 2012-02-23 | 2014-11-12 | 英特尔公司 | 通过照相机模块跟踪用户的头部来控制屏幕的方法和设备、及其计算机可读记录介质 |
CN104364753A (zh) * | 2012-03-13 | 2015-02-18 | 亚马逊技术公司 | 用于突出显示活动界面元素的方法 |
CN104699439A (zh) * | 2015-03-30 | 2015-06-10 | 三星电子(中国)研发中心 | 用于移动终端的画面显示方法、装置和移动终端 |
CN104737102A (zh) * | 2012-02-24 | 2015-06-24 | 亚马逊技术公司 | 用于多维输入的导航方法 |
CN105027029A (zh) * | 2012-10-22 | 2015-11-04 | Vid拓展公司 | 移动设备中的用户存在检测 |
CN105474157A (zh) * | 2013-05-09 | 2016-04-06 | 亚马逊技术股份有限公司 | 移动设备界面 |
CN105573434A (zh) * | 2015-12-18 | 2016-05-11 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
CN105683875A (zh) * | 2013-09-17 | 2016-06-15 | 诺基亚技术有限公司 | 操作的确定 |
CN105683868A (zh) * | 2013-11-08 | 2016-06-15 | 高通股份有限公司 | 用于空间交互中的额外模态的面部跟踪 |
CN106462242A (zh) * | 2014-04-23 | 2017-02-22 | 谷歌公司 | 使用视线跟踪的用户界面控制 |
CN107077193A (zh) * | 2014-07-29 | 2017-08-18 | 指尖翻动公司 | 通过倾斜姿势导航数字内容 |
WO2018000606A1 (zh) * | 2016-06-30 | 2018-01-04 | 乐视控股(北京)有限公司 | 一种虚拟现实交互界面的切换方法和电子设备 |
CN107846519A (zh) * | 2012-06-29 | 2018-03-27 | 英特尔公司 | 用于基于手势的管理的系统和方法 |
CN103703438B (zh) * | 2011-04-08 | 2018-10-16 | 亚马逊技术公司 | 基于注视的内容显示器 |
CN109791581A (zh) * | 2016-10-25 | 2019-05-21 | 惠普发展公司,有限责任合伙企业 | 对电子设备的用户界面进行控制 |
CN112870714A (zh) * | 2021-02-03 | 2021-06-01 | 网易(杭州)网络有限公司 | 一种地图的显示方法和装置 |
CN113615155A (zh) * | 2019-03-11 | 2021-11-05 | 上海诺基亚贝尔股份有限公司 | 对象特性的有条件的显示 |
CN117170492A (zh) * | 2022-05-27 | 2023-12-05 | 林诚皓 | 一种基于自然语言处理和计算机视觉的输入系统和方法 |
Families Citing this family (385)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9823747B2 (en) * | 2006-02-08 | 2017-11-21 | Oblong Industries, Inc. | Spatial, multi-modal control device for use with spatial operating system |
US8407725B2 (en) | 2007-04-24 | 2013-03-26 | Oblong Industries, Inc. | Proteins, pools, and slawx in processing environments |
US8793620B2 (en) * | 2011-04-21 | 2014-07-29 | Sony Computer Entertainment Inc. | Gaze-assisted computer interface |
US20090089705A1 (en) * | 2007-09-27 | 2009-04-02 | Microsoft Corporation | Virtual object navigation |
US8502821B2 (en) * | 2008-02-04 | 2013-08-06 | C Speed, Llc | System for three-dimensional rendering of electrical test and measurement signals |
DE202009019125U1 (de) * | 2008-05-28 | 2016-12-05 | Google Inc. | Bewegungsgesteuerte Ansichten auf mobilen Computergeräten |
US9200901B2 (en) | 2008-06-19 | 2015-12-01 | Microsoft Technology Licensing, Llc | Predictive services for devices supporting dynamic direction information |
US8467991B2 (en) | 2008-06-20 | 2013-06-18 | Microsoft Corporation | Data services based on gesture and location information of device |
KR101505198B1 (ko) * | 2008-08-18 | 2015-03-23 | 엘지전자 주식회사 | 휴대 단말기 및 그 구동 방법 |
US20100045666A1 (en) * | 2008-08-22 | 2010-02-25 | Google Inc. | Anchored Navigation In A Three Dimensional Environment On A Mobile Device |
US8686953B2 (en) * | 2008-09-12 | 2014-04-01 | Qualcomm Incorporated | Orienting a displayed element relative to a user |
WO2010030985A1 (en) * | 2008-09-12 | 2010-03-18 | Gesturetek, Inc. | Orienting displayed elements relative to a user |
US8788977B2 (en) | 2008-11-20 | 2014-07-22 | Amazon Technologies, Inc. | Movement recognition as input mechanism |
KR101390045B1 (ko) * | 2008-12-24 | 2014-04-30 | 에릭슨엘지엔터프라이즈 주식회사 | 통화 장치 및 그 제어 장치 |
JP2010176170A (ja) * | 2009-01-27 | 2010-08-12 | Sony Ericsson Mobilecommunications Japan Inc | 表示装置、表示制御方法および表示制御プログラム |
US8294766B2 (en) | 2009-01-28 | 2012-10-23 | Apple Inc. | Generating a three-dimensional model using a portable electronic device recording |
US8732623B2 (en) * | 2009-02-17 | 2014-05-20 | Microsoft Corporation | Web cam based user interaction |
US9424578B2 (en) | 2009-02-24 | 2016-08-23 | Ebay Inc. | System and method to provide gesture functions at a device |
US8121640B2 (en) * | 2009-03-19 | 2012-02-21 | Microsoft Corporation | Dual module portable devices |
US20100248203A1 (en) * | 2009-03-26 | 2010-09-30 | Kuo Hsiing Cho | Portable LED interactive learning device |
US8314832B2 (en) * | 2009-04-01 | 2012-11-20 | Microsoft Corporation | Systems and methods for generating stereoscopic images |
KR101581883B1 (ko) * | 2009-04-30 | 2016-01-11 | 삼성전자주식회사 | 모션 정보를 이용하는 음성 검출 장치 및 방법 |
US20100295782A1 (en) | 2009-05-21 | 2010-11-25 | Yehuda Binder | System and method for control based on face ore hand gesture detection |
US8176442B2 (en) * | 2009-05-29 | 2012-05-08 | Microsoft Corporation | Living cursor control mechanics |
US20100315439A1 (en) * | 2009-06-15 | 2010-12-16 | International Business Machines Corporation | Using motion detection to process pan and zoom functions on mobile computing devices |
US8872767B2 (en) * | 2009-07-07 | 2014-10-28 | Microsoft Corporation | System and method for converting gestures into digital graffiti |
EP2472374B1 (en) * | 2009-08-24 | 2019-03-20 | Samsung Electronics Co., Ltd. | Method for providing a ui using motions |
JP5593655B2 (ja) | 2009-08-31 | 2014-09-24 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
KR101078057B1 (ko) * | 2009-09-08 | 2011-10-31 | 주식회사 팬택 | 영상인식기법을 이용한 촬영 제어 기능을 구비한 이동단말 및 영상인식기법을 이용한 촬영 제어 시스템 |
KR101038323B1 (ko) * | 2009-09-24 | 2011-06-01 | 주식회사 팬택 | 영상인식기법을 이용한 화면 프레임 제어장치 |
KR20110037657A (ko) * | 2009-10-07 | 2011-04-13 | 삼성전자주식회사 | 모션을 이용한 gui 제공방법 및 이를 적용한 디스플레이 장치 |
US8347221B2 (en) * | 2009-10-07 | 2013-01-01 | Research In Motion Limited | Touch-sensitive display and method of control |
US20110087687A1 (en) * | 2009-10-14 | 2011-04-14 | International Business Machines Corporation | Position sensitive type-ahead matching for resource navigation |
CN102648615B (zh) * | 2009-10-16 | 2015-11-25 | 罗姆股份有限公司 | 移动装置 |
US8121618B2 (en) | 2009-10-28 | 2012-02-21 | Digimarc Corporation | Intuitive computing methods and systems |
KR101644015B1 (ko) * | 2009-11-27 | 2016-08-01 | 삼성전자주식회사 | 시스템과 다수 사용자 간의 대화 인터페이스 장치 |
US20110151974A1 (en) * | 2009-12-18 | 2011-06-23 | Microsoft Corporation | Gesture style recognition and reward |
US8698845B2 (en) * | 2010-01-06 | 2014-04-15 | Apple Inc. | Device, method, and graphical user interface with interactive popup views |
US9507418B2 (en) * | 2010-01-21 | 2016-11-29 | Tobii Ab | Eye tracker based contextual action |
KR101647044B1 (ko) * | 2010-02-11 | 2016-08-09 | 삼성전자 주식회사 | 휴대 단말기의 화면 표시 방법 및 장치 |
GB2477959A (en) * | 2010-02-19 | 2011-08-24 | Sony Europ | Navigation and display of an array of selectable items |
US8922480B1 (en) * | 2010-03-05 | 2014-12-30 | Amazon Technologies, Inc. | Viewer-based device control |
EP2545429A4 (en) * | 2010-03-08 | 2014-04-02 | Nokia Corp | USER INTERFACE |
JP5630041B2 (ja) * | 2010-03-15 | 2014-11-26 | 株式会社ニコン | 電子装置 |
US9823831B2 (en) | 2010-04-07 | 2017-11-21 | Apple Inc. | Device, method, and graphical user interface for managing concurrently open software applications |
US20110252357A1 (en) | 2010-04-07 | 2011-10-13 | Imran Chaudhri | Device, Method, and Graphical User Interface for Managing Concurrently Open Software Applications |
US9513801B2 (en) | 2010-04-07 | 2016-12-06 | Apple Inc. | Accessing electronic notifications and settings icons with gestures |
US8581905B2 (en) * | 2010-04-08 | 2013-11-12 | Disney Enterprises, Inc. | Interactive three dimensional displays on handheld devices |
US9235268B2 (en) | 2010-04-09 | 2016-01-12 | Nokia Technologies Oy | Method and apparatus for generating a virtual interactive workspace |
US8898567B2 (en) * | 2010-04-09 | 2014-11-25 | Nokia Corporation | Method and apparatus for generating a virtual interactive workspace |
US9733699B2 (en) * | 2010-04-13 | 2017-08-15 | Dean Stark | Virtual anamorphic product display with viewer height detection |
US8447070B1 (en) * | 2010-04-19 | 2013-05-21 | Amazon Technologies, Inc. | Approaches for device location and communication |
US8803655B2 (en) * | 2010-05-11 | 2014-08-12 | Universal Electronics Inc. | System and methods for enhanced remote control functionality |
US8878773B1 (en) | 2010-05-24 | 2014-11-04 | Amazon Technologies, Inc. | Determining relative motion as input |
US8977987B1 (en) * | 2010-06-14 | 2015-03-10 | Google Inc. | Motion-based interface control on computing device |
TW201205271A (en) * | 2010-07-29 | 2012-02-01 | Hon Hai Prec Ind Co Ltd | Electronic device with power saving mode and power saving control method thereof |
US9304591B2 (en) | 2010-08-10 | 2016-04-05 | Lenovo (Singapore) Pte. Ltd. | Gesture control |
US20120038675A1 (en) * | 2010-08-10 | 2012-02-16 | Jay Wesley Johnson | Assisted zoom |
KR101699922B1 (ko) * | 2010-08-12 | 2017-01-25 | 삼성전자주식회사 | 하이브리드 사용자 추적 센서를 이용한 디스플레이 시스템 및 방법 |
US10150033B2 (en) * | 2010-08-20 | 2018-12-11 | Nintendo Co., Ltd. | Position calculation system, position calculation device, storage medium storing position calculation program, and position calculation method |
US20120050007A1 (en) * | 2010-08-24 | 2012-03-01 | Babak Forutanpour | Methods and apparatus for interacting with an electronic device application by moving an object in the air over an electronic device display |
US8972467B2 (en) | 2010-08-31 | 2015-03-03 | Sovanta Ag | Method for selecting a data set from a plurality of data sets by means of an input device |
US8767019B2 (en) | 2010-08-31 | 2014-07-01 | Sovanta Ag | Computer-implemented method for specifying a processing operation |
KR20120024247A (ko) * | 2010-09-06 | 2012-03-14 | 삼성전자주식회사 | 사용자의 제스처를 인식하여 이동 장치를 동작하는 방법 및 그 이동 장치 |
JP5664036B2 (ja) | 2010-09-07 | 2015-02-04 | ソニー株式会社 | 情報処理装置、プログラム及び制御方法 |
US20120079532A1 (en) * | 2010-09-29 | 2012-03-29 | Sony Corporation | Techniques for developing a television user interface for a secondary device |
US20120079533A1 (en) * | 2010-09-29 | 2012-03-29 | Sony Corporation | Techniques for developing a customized television user interface for a secondary device |
KR101728725B1 (ko) * | 2010-10-04 | 2017-04-20 | 엘지전자 주식회사 | 이동 단말기 및 그 제어방법 |
US8564535B2 (en) * | 2010-10-05 | 2013-10-22 | Immersion Corporation | Physical model based gesture recognition |
WO2012048252A1 (en) | 2010-10-07 | 2012-04-12 | Aria Glassworks, Inc. | System and method for transitioning between interface modes in virtual and augmented reality applications |
US20120212405A1 (en) * | 2010-10-07 | 2012-08-23 | Benjamin Zeis Newhouse | System and method for presenting virtual and augmented reality scenes to a user |
US9484046B2 (en) | 2010-11-04 | 2016-11-01 | Digimarc Corporation | Smartphone-based methods and systems |
KR101731346B1 (ko) * | 2010-11-12 | 2017-04-28 | 엘지전자 주식회사 | 멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치 |
KR101482634B1 (ko) | 2010-11-17 | 2015-01-26 | 장인지 | 모바일 단말기의 문자 입력 방법 및 해당 방법을 수행하는 모바일 단말기 |
JP5643617B2 (ja) * | 2010-11-18 | 2014-12-17 | 任天堂株式会社 | 画像処理プログラム、画像処理装置、画像処理方法、画像処理システム |
US8560960B2 (en) | 2010-11-23 | 2013-10-15 | Apple Inc. | Browsing and interacting with open windows |
US9851866B2 (en) | 2010-11-23 | 2017-12-26 | Apple Inc. | Presenting and browsing items in a tilted 3D space |
WO2012071466A2 (en) | 2010-11-24 | 2012-05-31 | Aria Glassworks, Inc. | System and method for acquiring virtual and augmented reality scenes by a user |
US9070219B2 (en) * | 2010-11-24 | 2015-06-30 | Aria Glassworks, Inc. | System and method for presenting virtual and augmented reality scenes to a user |
US9041743B2 (en) * | 2010-11-24 | 2015-05-26 | Aria Glassworks, Inc. | System and method for presenting virtual and augmented reality scenes to a user |
US10917431B2 (en) * | 2010-11-29 | 2021-02-09 | Biocatch Ltd. | System, method, and device of authenticating a user based on selfie image or selfie video |
US10262324B2 (en) | 2010-11-29 | 2019-04-16 | Biocatch Ltd. | System, device, and method of differentiating among users based on user-specific page navigation sequence |
US10032010B2 (en) | 2010-11-29 | 2018-07-24 | Biocatch Ltd. | System, device, and method of visual login and stochastic cryptography |
US10476873B2 (en) | 2010-11-29 | 2019-11-12 | Biocatch Ltd. | Device, system, and method of password-less user authentication and password-less detection of user identity |
US11210674B2 (en) | 2010-11-29 | 2021-12-28 | Biocatch Ltd. | Method, device, and system of detecting mule accounts and accounts used for money laundering |
US10776476B2 (en) | 2010-11-29 | 2020-09-15 | Biocatch Ltd. | System, device, and method of visual login |
US20120135783A1 (en) * | 2010-11-29 | 2012-05-31 | Google Inc. | Mobile device image feedback |
US10949757B2 (en) | 2010-11-29 | 2021-03-16 | Biocatch Ltd. | System, device, and method of detecting user identity based on motor-control loop model |
US10970394B2 (en) | 2017-11-21 | 2021-04-06 | Biocatch Ltd. | System, device, and method of detecting vishing attacks |
US10083439B2 (en) | 2010-11-29 | 2018-09-25 | Biocatch Ltd. | Device, system, and method of differentiating over multiple accounts between legitimate user and cyber-attacker |
US10747305B2 (en) | 2010-11-29 | 2020-08-18 | Biocatch Ltd. | Method, system, and device of authenticating identity of a user of an electronic device |
US10474815B2 (en) | 2010-11-29 | 2019-11-12 | Biocatch Ltd. | System, device, and method of detecting malicious automatic script and code injection |
US10949514B2 (en) | 2010-11-29 | 2021-03-16 | Biocatch Ltd. | Device, system, and method of differentiating among users based on detection of hardware components |
US20240080339A1 (en) * | 2010-11-29 | 2024-03-07 | Biocatch Ltd. | Device, System, and Method of Detecting Vishing Attacks |
US10037421B2 (en) | 2010-11-29 | 2018-07-31 | Biocatch Ltd. | Device, system, and method of three-dimensional spatial user authentication |
US10404729B2 (en) | 2010-11-29 | 2019-09-03 | Biocatch Ltd. | Device, method, and system of generating fraud-alerts for cyber-attacks |
US10586036B2 (en) | 2010-11-29 | 2020-03-10 | Biocatch Ltd. | System, device, and method of recovery and resetting of user authentication factor |
US11223619B2 (en) | 2010-11-29 | 2022-01-11 | Biocatch Ltd. | Device, system, and method of user authentication based on user-specific characteristics of task performance |
US20190158535A1 (en) * | 2017-11-21 | 2019-05-23 | Biocatch Ltd. | Device, System, and Method of Detecting Vishing Attacks |
US9483292B2 (en) | 2010-11-29 | 2016-11-01 | Biocatch Ltd. | Method, device, and system of differentiating between virtual machine and non-virtualized device |
US10834590B2 (en) | 2010-11-29 | 2020-11-10 | Biocatch Ltd. | Method, device, and system of differentiating between a cyber-attacker and a legitimate user |
US10298614B2 (en) * | 2010-11-29 | 2019-05-21 | Biocatch Ltd. | System, device, and method of generating and managing behavioral biometric cookies |
US10055560B2 (en) | 2010-11-29 | 2018-08-21 | Biocatch Ltd. | Device, method, and system of detecting multiple users accessing the same account |
US10164985B2 (en) | 2010-11-29 | 2018-12-25 | Biocatch Ltd. | Device, system, and method of recovery and resetting of user authentication factor |
US10685355B2 (en) * | 2016-12-04 | 2020-06-16 | Biocatch Ltd. | Method, device, and system of detecting mule accounts and accounts used for money laundering |
US10621585B2 (en) | 2010-11-29 | 2020-04-14 | Biocatch Ltd. | Contextual mapping of web-pages, and generation of fraud-relatedness score-values |
US10069837B2 (en) | 2015-07-09 | 2018-09-04 | Biocatch Ltd. | Detection of proxy server |
US10728761B2 (en) | 2010-11-29 | 2020-07-28 | Biocatch Ltd. | Method, device, and system of detecting a lie of a user who inputs data |
US11269977B2 (en) | 2010-11-29 | 2022-03-08 | Biocatch Ltd. | System, apparatus, and method of collecting and processing data in electronic devices |
US10395018B2 (en) | 2010-11-29 | 2019-08-27 | Biocatch Ltd. | System, method, and device of detecting identity of a user and authenticating a user |
US10069852B2 (en) | 2010-11-29 | 2018-09-04 | Biocatch Ltd. | Detection of computerized bots and automated cyber-attack modules |
US9526006B2 (en) * | 2010-11-29 | 2016-12-20 | Biocatch Ltd. | System, method, and device of detecting identity of a user of an electronic device |
US10897482B2 (en) | 2010-11-29 | 2021-01-19 | Biocatch Ltd. | Method, device, and system of back-coloring, forward-coloring, and fraud detection |
WO2012074278A2 (ko) * | 2010-12-01 | 2012-06-07 | Jang In Ji | 모바일 단말기의 문자 입력 방법 및 해당 방법을 수행하는 모바일 단말기 |
US8812973B1 (en) * | 2010-12-07 | 2014-08-19 | Google Inc. | Mobile device text-formatting |
US9244606B2 (en) | 2010-12-20 | 2016-01-26 | Apple Inc. | Device, method, and graphical user interface for navigation of concurrently open software applications |
US8957847B1 (en) | 2010-12-28 | 2015-02-17 | Amazon Technologies, Inc. | Low distraction interfaces |
US8953022B2 (en) | 2011-01-10 | 2015-02-10 | Aria Glassworks, Inc. | System and method for sharing virtual and augmented reality scenes between users and viewers |
US8548206B2 (en) | 2011-01-20 | 2013-10-01 | Daon Holdings Limited | Methods and systems for capturing biometric data |
KR101766332B1 (ko) * | 2011-01-27 | 2017-08-08 | 삼성전자주식회사 | 복수의 컨텐츠 레이어를 디스플레이하는 3d 모바일 기기 및 그 디스플레이 방법 |
EP2482168A1 (en) * | 2011-01-27 | 2012-08-01 | Research In Motion Limited | Portable electronic device and method therefor |
US8421752B2 (en) | 2011-01-27 | 2013-04-16 | Research In Motion Limited | Portable electronic device and method therefor |
US8531536B2 (en) * | 2011-02-17 | 2013-09-10 | Blackberry Limited | Apparatus, and associated method, for selecting information delivery manner using facial recognition |
US9507416B2 (en) | 2011-02-22 | 2016-11-29 | Robert Howard Kimball | Providing a corrected view based on the position of a user with respect to a mobile platform |
US9118970B2 (en) * | 2011-03-02 | 2015-08-25 | Aria Glassworks, Inc. | System and method for embedding and viewing media files within a virtual and augmented reality scene |
US9507379B2 (en) * | 2011-03-04 | 2016-11-29 | Panasonic Intellectual Property Management Co., Ltd. | Display device and method of switching display direction |
WO2012125596A2 (en) | 2011-03-12 | 2012-09-20 | Parshionikar Uday | Multipurpose controller for electronic devices, facial expressions management and drowsiness detection |
US8643703B1 (en) | 2011-03-30 | 2014-02-04 | Amazon Technologies, Inc. | Viewer tracking image display |
US20120249468A1 (en) * | 2011-04-04 | 2012-10-04 | Microsoft Corporation | Virtual Touchpad Using a Depth Camera |
BR112013025601A2 (pt) * | 2011-04-08 | 2016-12-27 | Koninkl Philips Nv | sistema de processamento de imagens, dispositivo manual, estação de trabalho, método para permitir ao usuário navegar através de dados de imagens e produto de programa de computador |
US9766698B2 (en) * | 2011-05-05 | 2017-09-19 | Nokia Technologies Oy | Methods and apparatuses for defining the active channel in a stereoscopic view by using eye tracking |
US8843346B2 (en) * | 2011-05-13 | 2014-09-23 | Amazon Technologies, Inc. | Using spatial information with device interaction |
US9123272B1 (en) | 2011-05-13 | 2015-09-01 | Amazon Technologies, Inc. | Realistic image lighting and shading |
US9449427B1 (en) | 2011-05-13 | 2016-09-20 | Amazon Technologies, Inc. | Intensity modeling for rendering realistic images |
US8715096B2 (en) | 2011-05-19 | 2014-05-06 | Michael Robert CHERBINI | Golf swing analyzer and analysis methods |
CN102784473B (zh) * | 2011-05-20 | 2015-05-13 | 幻音科技(深圳)有限公司 | 姿势分析系统及方法 |
US9483085B2 (en) | 2011-06-01 | 2016-11-01 | Blackberry Limited | Portable electronic device including touch-sensitive display and method of controlling same |
US9041734B2 (en) * | 2011-07-12 | 2015-05-26 | Amazon Technologies, Inc. | Simulating three-dimensional features |
US8912979B1 (en) | 2011-07-14 | 2014-12-16 | Google Inc. | Virtual window in head-mounted display |
JP5849502B2 (ja) * | 2011-08-01 | 2016-01-27 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
US10088924B1 (en) | 2011-08-04 | 2018-10-02 | Amazon Technologies, Inc. | Overcoming motion effects in gesture recognition |
WO2013022222A2 (en) * | 2011-08-05 | 2013-02-14 | Samsung Electronics Co., Ltd. | Method for controlling electronic apparatus based on motion recognition, and electronic apparatus applying the same |
EP2555536A1 (en) | 2011-08-05 | 2013-02-06 | Samsung Electronics Co., Ltd. | Method for controlling electronic apparatus based on voice recognition and motion recognition, and electronic apparatus applying the same |
US8806369B2 (en) | 2011-08-26 | 2014-08-12 | Apple Inc. | Device, method, and graphical user interface for managing and interacting with concurrently open software applications |
JP5586545B2 (ja) * | 2011-09-09 | 2014-09-10 | 任天堂株式会社 | ゲームシステム、携帯型ゲーム装置、情報処理部の制御方法、および情報処理部の制御プログラム |
US10489570B2 (en) * | 2011-09-09 | 2019-11-26 | Google Llc | Preventing computing device from timing out |
US8947351B1 (en) | 2011-09-27 | 2015-02-03 | Amazon Technologies, Inc. | Point of view determinations for finger tracking |
US9060093B2 (en) | 2011-09-30 | 2015-06-16 | Intel Corporation | Mechanism for facilitating enhanced viewing perspective of video images at computing devices |
US8879801B2 (en) | 2011-10-03 | 2014-11-04 | Qualcomm Incorporated | Image-based head position tracking method and system |
KR101905038B1 (ko) * | 2011-11-16 | 2018-10-08 | 삼성전자주식회사 | 다중 어플리케이션 환경 하에서 터치스크린을 가지는 장치 및 그 제어 방법 |
JP5460679B2 (ja) * | 2011-11-28 | 2014-04-02 | ソニー株式会社 | 情報処理装置、情報処理方法、およびコンテンツファイルのデータ構造 |
US9852135B1 (en) | 2011-11-29 | 2017-12-26 | Amazon Technologies, Inc. | Context-aware caching |
JP5845860B2 (ja) * | 2011-12-01 | 2016-01-20 | 株式会社デンソー | 地図表示操作装置 |
EP2605107A1 (en) * | 2011-12-13 | 2013-06-19 | Research In Motion Limited | Methods and devices for identifying a gesture |
KR101692323B1 (ko) * | 2011-12-14 | 2017-01-04 | 인텔 코포레이션 | 시선 활성화 콘텐츠 전송 시스템 |
KR20130068700A (ko) * | 2011-12-16 | 2013-06-26 | 삼성전자주식회사 | 전자서적을 표시하는 방법 및 장치 |
US8942434B1 (en) | 2011-12-20 | 2015-01-27 | Amazon Technologies, Inc. | Conflict resolution for pupil detection |
US9274597B1 (en) * | 2011-12-20 | 2016-03-01 | Amazon Technologies, Inc. | Tracking head position for rendering content |
JP2013132371A (ja) * | 2011-12-26 | 2013-07-08 | Denso Corp | 動作検出装置 |
US20160011724A1 (en) * | 2012-01-06 | 2016-01-14 | Google Inc. | Hands-Free Selection Using a Ring-Based User-Interface |
US9223415B1 (en) | 2012-01-17 | 2015-12-29 | Amazon Technologies, Inc. | Managing resource usage for task performance |
US8884928B1 (en) * | 2012-01-26 | 2014-11-11 | Amazon Technologies, Inc. | Correcting for parallax in electronic displays |
JP2013178702A (ja) * | 2012-02-29 | 2013-09-09 | Azbil Corp | 顔認証センサ |
US9702723B2 (en) * | 2012-03-01 | 2017-07-11 | Nokia Technologies Oy | Method and apparatus for receiving user estimation of navigational instructions |
KR101861377B1 (ko) * | 2012-03-09 | 2018-05-28 | 삼성전자주식회사 | 이동 단말에서 모션 기반의 화면 제어 방법 및 이를 위한 이동 단말 |
US9063574B1 (en) | 2012-03-14 | 2015-06-23 | Amazon Technologies, Inc. | Motion detection systems for electronic devices |
JP2013196156A (ja) * | 2012-03-16 | 2013-09-30 | Sony Corp | 情報処理装置、情報処理方法及びプログラム |
US9373025B2 (en) | 2012-03-20 | 2016-06-21 | A9.Com, Inc. | Structured lighting-based content interactions in multiple environments |
US9304646B2 (en) | 2012-03-20 | 2016-04-05 | A9.Com, Inc. | Multi-user content interactions |
US9367124B2 (en) | 2012-03-20 | 2016-06-14 | A9.Com, Inc. | Multi-application content interactions |
WO2013142625A2 (en) * | 2012-03-20 | 2013-09-26 | A9.Com, Inc. | Structured lighting-based content interactions in multiple environments |
US9213420B2 (en) | 2012-03-20 | 2015-12-15 | A9.Com, Inc. | Structured lighting based content interactions |
US9285895B1 (en) | 2012-03-28 | 2016-03-15 | Amazon Technologies, Inc. | Integrated near field sensor for display devices |
US8971928B2 (en) * | 2012-04-10 | 2015-03-03 | Here Global B.V. | Method and system for changing geographic information displayed on a mobile device |
US9633186B2 (en) | 2012-04-23 | 2017-04-25 | Apple Inc. | Systems and methods for controlling output of content based on human recognition data detection |
AU2013205535B2 (en) * | 2012-05-02 | 2018-03-15 | Samsung Electronics Co., Ltd. | Apparatus and method of controlling mobile terminal based on analysis of user's face |
US9471763B2 (en) | 2012-05-04 | 2016-10-18 | Sony Interactive Entertainment America Llc | User input processing with eye tracking |
US20130303247A1 (en) * | 2012-05-08 | 2013-11-14 | Mediatek Inc. | Interaction display system and method thereof |
EP2847657B1 (en) | 2012-05-09 | 2016-08-10 | Apple Inc. | Device, method, and graphical user interface for displaying additional information in response to a user contact |
WO2013169842A2 (en) | 2012-05-09 | 2013-11-14 | Yknots Industries Llc | Device, method, and graphical user interface for selecting object within a group of objects |
EP3264252B1 (en) | 2012-05-09 | 2019-11-27 | Apple Inc. | Device, method, and graphical user interface for performing an operation in accordance with a selected mode of operation |
WO2013169845A1 (en) | 2012-05-09 | 2013-11-14 | Yknots Industries Llc | Device, method, and graphical user interface for scrolling nested regions |
WO2013169875A2 (en) | 2012-05-09 | 2013-11-14 | Yknots Industries Llc | Device, method, and graphical user interface for displaying content associated with a corresponding affordance |
CN104487928B (zh) | 2012-05-09 | 2018-07-06 | 苹果公司 | 用于响应于手势而在显示状态之间进行过渡的设备、方法和图形用户界面 |
WO2013169843A1 (en) | 2012-05-09 | 2013-11-14 | Yknots Industries Llc | Device, method, and graphical user interface for manipulating framed graphical objects |
WO2013169851A2 (en) | 2012-05-09 | 2013-11-14 | Yknots Industries Llc | Device, method, and graphical user interface for facilitating user interaction with controls in a user interface |
CN109298789B (zh) | 2012-05-09 | 2021-12-31 | 苹果公司 | 用于针对激活状态提供反馈的设备、方法和图形用户界面 |
WO2013169849A2 (en) | 2012-05-09 | 2013-11-14 | Industries Llc Yknots | Device, method, and graphical user interface for displaying user interface objects corresponding to an application |
WO2013169865A2 (en) | 2012-05-09 | 2013-11-14 | Yknots Industries Llc | Device, method, and graphical user interface for moving a user interface object based on an intensity of a press input |
DE112013002387T5 (de) | 2012-05-09 | 2015-02-12 | Apple Inc. | Vorrichtung, Verfahren und grafische Benutzeroberfläche für die Bereitstellung taktiler Rückkopplung für Operationen in einer Benutzerschnittstelle |
TWI497347B (zh) * | 2012-05-09 | 2015-08-21 | Hung Ta Liu | 以手勢為輸入之控制系統 |
EP3410287B1 (en) | 2012-05-09 | 2022-08-17 | Apple Inc. | Device, method, and graphical user interface for selecting user interface objects |
US9304621B1 (en) | 2012-05-25 | 2016-04-05 | Amazon Technologies, Inc. | Communication via pressure input |
US9317113B1 (en) | 2012-05-31 | 2016-04-19 | Amazon Technologies, Inc. | Gaze assisted object recognition |
KR20130136174A (ko) * | 2012-06-04 | 2013-12-12 | 삼성전자주식회사 | 그래픽 사용자 인터페이스 제공 방법 및 장치 |
US9916514B2 (en) | 2012-06-11 | 2018-03-13 | Amazon Technologies, Inc. | Text recognition driven functionality |
WO2014008185A1 (en) * | 2012-07-02 | 2014-01-09 | Sony Computer Entertainment Inc. | Methods and systems for interaction with an expanded information space |
US10890965B2 (en) * | 2012-08-15 | 2021-01-12 | Ebay Inc. | Display orientation adjustment using facial landmark information |
TWI470477B (zh) * | 2012-08-29 | 2015-01-21 | Utechzone Co Ltd | 眼控溝通系統 |
JP6161244B2 (ja) * | 2012-09-10 | 2017-07-12 | 株式会社メガチップス | 携帯端末装置、プログラムおよび入力方法 |
US9575960B1 (en) * | 2012-09-17 | 2017-02-21 | Amazon Technologies, Inc. | Auditory enhancement using word analysis |
US9406103B1 (en) | 2012-09-26 | 2016-08-02 | Amazon Technologies, Inc. | Inline message alert |
US9626799B2 (en) | 2012-10-02 | 2017-04-18 | Aria Glassworks, Inc. | System and method for dynamically displaying multiple virtual and augmented reality scenes on a single display |
US9423886B1 (en) * | 2012-10-02 | 2016-08-23 | Amazon Technologies, Inc. | Sensor connectivity approaches |
US9213419B1 (en) * | 2012-11-13 | 2015-12-15 | Amazon Technologies, Inc. | Orientation inclusive interface navigation |
US9218055B2 (en) | 2012-11-21 | 2015-12-22 | SomniQ, Inc. | Devices, systems, and methods for empathetic computing |
US9081571B2 (en) | 2012-11-29 | 2015-07-14 | Amazon Technologies, Inc. | Gesture detection management for an electronic device |
US20140152534A1 (en) * | 2012-12-03 | 2014-06-05 | Facebook, Inc. | Selectively Steer Light from Display |
US9075514B1 (en) * | 2012-12-13 | 2015-07-07 | Amazon Technologies, Inc. | Interface selection element display |
US20140168054A1 (en) * | 2012-12-14 | 2014-06-19 | Echostar Technologies L.L.C. | Automatic page turning of electronically displayed content based on captured eye position data |
TWI540492B (zh) * | 2012-12-20 | 2016-07-01 | 晨星半導體股份有限公司 | 電子裝置以及電子裝置控制方法 |
US20140179369A1 (en) * | 2012-12-20 | 2014-06-26 | Nokia Corporation | Apparatus and method for providing proximity-based zooming |
JP2014126997A (ja) * | 2012-12-26 | 2014-07-07 | Denso Corp | 操作装置、及び操作検出方法 |
GB2509323B (en) | 2012-12-28 | 2015-01-07 | Glide Talk Ltd | Reduced latency server-mediated audio-video communication |
EP3564806B1 (en) | 2012-12-29 | 2024-02-21 | Apple Inc. | Device, method and graphical user interface for determining whether to scroll or select contents |
WO2014105275A1 (en) | 2012-12-29 | 2014-07-03 | Yknots Industries Llc | Device, method, and graphical user interface for forgoing generation of tactile output for a multi-contact gesture |
WO2014105277A2 (en) | 2012-12-29 | 2014-07-03 | Yknots Industries Llc | Device, method, and graphical user interface for moving a cursor according to a change in an appearance of a control icon with simulated three-dimensional characteristics |
CN109375853A (zh) | 2012-12-29 | 2019-02-22 | 苹果公司 | 对用户界面分级结构导航的设备、方法和图形用户界面 |
KR101958517B1 (ko) | 2012-12-29 | 2019-03-14 | 애플 인크. | 터치 입력에서 디스플레이 출력으로의 관계들 사이에서 전환하기 위한 디바이스, 방법, 및 그래픽 사용자 인터페이스 |
EP2752789A1 (en) * | 2013-01-03 | 2014-07-09 | Alcatel-Lucent | Method for adjusting the orientation of contents on an electronic display |
KR102062310B1 (ko) | 2013-01-04 | 2020-02-11 | 삼성전자주식회사 | 전자 장치에서 헤드 트래킹 기술을 이용하여 제어 서비스를 제공하기 위한 장치 및 방법 |
KR102049475B1 (ko) * | 2013-01-08 | 2020-01-08 | 삼성전자주식회사 | 입력 장치, 디스플레이 장치 및 제어 방법 |
USD731453S1 (en) * | 2013-01-29 | 2015-06-09 | Lg Electronics Inc. | Mobile phone |
JP6199038B2 (ja) * | 2013-02-04 | 2017-09-20 | 学校法人東海大学 | 視線分析装置 |
US10269058B2 (en) * | 2013-02-20 | 2019-04-23 | Path Mobile Inc Pte. Ltd. | Simulating physics in a user interface |
KR102146244B1 (ko) * | 2013-02-22 | 2020-08-21 | 삼성전자주식회사 | 휴대 단말에 대한 동작 관련 입력에 따라 복수개의 객체들의 표시를 제어하는 방법 및 이를 위한 휴대 단말 |
US9288471B1 (en) * | 2013-02-28 | 2016-03-15 | Amazon Technologies, Inc. | Rotatable imaging assembly for providing multiple fields of view |
US9864498B2 (en) | 2013-03-13 | 2018-01-09 | Tobii Ab | Automatic scrolling based on gaze detection |
ES2731560T3 (es) | 2013-03-01 | 2019-11-15 | Tobii Ab | Interacción de mirada con deformación retardada |
US10546204B1 (en) * | 2013-03-05 | 2020-01-28 | Amazon Technologies, Inc. | Item information discovery with a wearable device |
US9035874B1 (en) | 2013-03-08 | 2015-05-19 | Amazon Technologies, Inc. | Providing user input to a computing device with an eye closure |
US10769852B2 (en) | 2013-03-14 | 2020-09-08 | Aria Glassworks, Inc. | Method for simulating natural perception in virtual and augmented reality scenes |
US9658740B2 (en) | 2013-03-15 | 2017-05-23 | Apple Inc. | Device, method, and graphical user interface for managing concurrently open software applications |
US9477404B2 (en) | 2013-03-15 | 2016-10-25 | Apple Inc. | Device, method, and graphical user interface for managing concurrently open software applications |
JP5736528B2 (ja) * | 2013-03-29 | 2015-06-17 | 楽天株式会社 | 端末装置、端末装置の制御方法、プログラム、及び情報記憶媒体 |
CN103150761A (zh) * | 2013-04-02 | 2013-06-12 | 乐淘奇品网络技术(北京)有限公司 | 通过网页高速逼真3d渲染进行物品设计定制的方法 |
CN103197889B (zh) * | 2013-04-03 | 2017-02-08 | 锤子科技(北京)有限公司 | 一种亮度调整方法、装置及一种电子设备 |
KR102163996B1 (ko) * | 2013-04-03 | 2020-10-13 | 삼성전자 주식회사 | 사용자 기기의 비접촉식 인식 기능 성능 향상 방법 및 장치 |
US9380295B2 (en) * | 2013-04-21 | 2016-06-28 | Zspace, Inc. | Non-linear navigation of a three dimensional stereoscopic display |
US9075435B1 (en) * | 2013-04-22 | 2015-07-07 | Amazon Technologies, Inc. | Context-aware notifications |
US9672627B1 (en) * | 2013-05-09 | 2017-06-06 | Amazon Technologies, Inc. | Multiple camera based motion tracking |
US10078372B2 (en) | 2013-05-28 | 2018-09-18 | Blackberry Limited | Performing an action associated with a motion based input |
EP2808752B1 (en) * | 2013-05-28 | 2017-09-20 | BlackBerry Limited | Performing an action associated with a motion based input |
WO2014195146A1 (en) * | 2013-06-06 | 2014-12-11 | Koninklijke Philips N.V. | Fall detection system and method. |
GB201310367D0 (en) * | 2013-06-11 | 2013-07-24 | Sony Comp Entertainment Europe | Head-mountable apparatus and systems |
DE102013210842A1 (de) * | 2013-06-11 | 2014-12-11 | Bundesdruckerei Gmbh | Dokument mit einer integrierten Anzeigevorrichtung |
US9873038B2 (en) | 2013-06-14 | 2018-01-23 | Intercontinental Great Brands Llc | Interactive electronic games based on chewing motion |
JP2015012304A (ja) * | 2013-06-26 | 2015-01-19 | ソニー株式会社 | 画像処理装置、画像処理方法、及び、プログラム |
WO2015021309A1 (en) * | 2013-08-07 | 2015-02-12 | The Coca-Cola Company | Dynamically adjusting ratios of beverages in a mixed beverage |
US9832452B1 (en) * | 2013-08-12 | 2017-11-28 | Amazon Technologies, Inc. | Robust user detection and tracking |
US9269012B2 (en) | 2013-08-22 | 2016-02-23 | Amazon Technologies, Inc. | Multi-tracker object tracking |
KR102063104B1 (ko) * | 2013-08-29 | 2020-02-11 | 엘지전자 주식회사 | 이동 단말기 |
US11199906B1 (en) | 2013-09-04 | 2021-12-14 | Amazon Technologies, Inc. | Global user input management |
WO2015033153A2 (en) | 2013-09-04 | 2015-03-12 | Zero360, Inc. | Processing system and method |
US10055013B2 (en) | 2013-09-17 | 2018-08-21 | Amazon Technologies, Inc. | Dynamic object tracking for user interfaces |
US20150082145A1 (en) * | 2013-09-17 | 2015-03-19 | Amazon Technologies, Inc. | Approaches for three-dimensional object display |
US10067634B2 (en) | 2013-09-17 | 2018-09-04 | Amazon Technologies, Inc. | Approaches for three-dimensional object display |
US10592064B2 (en) | 2013-09-17 | 2020-03-17 | Amazon Technologies, Inc. | Approaches for three-dimensional object display used in content navigation |
US9591295B2 (en) | 2013-09-24 | 2017-03-07 | Amazon Technologies, Inc. | Approaches for simulating three-dimensional views |
US9437038B1 (en) * | 2013-09-26 | 2016-09-06 | Amazon Technologies, Inc. | Simulating three-dimensional views using depth relationships among planes of content |
US9213044B2 (en) * | 2013-10-14 | 2015-12-15 | Nokia Technologies Oy | Deviational plane wrist input |
KR102220085B1 (ko) * | 2013-10-18 | 2021-02-26 | 삼성전자주식회사 | 멀티윈도우 운용 방법 및 이를 지원하는 전자 장치 |
KR102129594B1 (ko) | 2013-10-30 | 2020-07-03 | 애플 인크. | 관련 사용자 인터페이스 객체를 표시 |
CN104598136B (zh) * | 2013-10-31 | 2018-07-31 | 纬创资通(昆山)有限公司 | 移动装置及移动装置的显示画面旋转方法 |
US10317995B2 (en) | 2013-11-18 | 2019-06-11 | Tobii Ab | Component determination and gaze provoked interaction |
US10558262B2 (en) | 2013-11-18 | 2020-02-11 | Tobii Ab | Component determination and gaze provoked interaction |
US9354778B2 (en) | 2013-12-06 | 2016-05-31 | Digimarc Corporation | Smartphone-based methods and systems |
US9367086B2 (en) * | 2013-12-10 | 2016-06-14 | Atmel Corporation | Smart watch with adaptive touch screen |
US9632655B2 (en) * | 2013-12-13 | 2017-04-25 | Amazon Technologies, Inc. | No-touch cursor for item selection |
US10489912B1 (en) * | 2013-12-20 | 2019-11-26 | Amazon Technologies, Inc. | Automated rectification of stereo cameras |
US9928572B1 (en) * | 2013-12-20 | 2018-03-27 | Amazon Technologies, Inc. | Label orientation |
US20150205840A1 (en) * | 2014-01-17 | 2015-07-23 | Crytek Gmbh | Dynamic Data Analytics in Multi-Dimensional Environments |
US20150213784A1 (en) * | 2014-01-24 | 2015-07-30 | Amazon Technologies, Inc. | Motion-based lenticular image display |
US10423245B2 (en) | 2014-01-31 | 2019-09-24 | Qualcomm Incorporated | Techniques for providing user input to a device |
US10067341B1 (en) | 2014-02-04 | 2018-09-04 | Intelligent Technologies International, Inc. | Enhanced heads-up display system |
US9542844B2 (en) * | 2014-02-11 | 2017-01-10 | Google Inc. | Providing navigation directions in view of device orientation relative to user |
US9311639B2 (en) | 2014-02-11 | 2016-04-12 | Digimarc Corporation | Methods, apparatus and arrangements for device to device communication |
US10977864B2 (en) | 2014-02-21 | 2021-04-13 | Dropbox, Inc. | Techniques for capturing and displaying partial motion in virtual or augmented reality scenes |
DE102014203462A1 (de) | 2014-02-26 | 2015-08-27 | Bayerische Motoren Werke Aktiengesellschaft | Verfahren, Vorrichtung, System, Computerprogramm und Computerprogrammprodukt zum Betreiben eines berührungsempfindlichen Bildschirms |
FR3018119B1 (fr) * | 2014-02-28 | 2017-07-07 | Thales Sa | Systeme de visualisation de casque comportant des moyens d'affichage et de gestion de documentation |
US10932103B1 (en) * | 2014-03-21 | 2021-02-23 | Amazon Technologies, Inc. | Determining position of a user relative to a tote |
US12008629B2 (en) * | 2014-03-31 | 2024-06-11 | Monticello Enterprises LLC | System and method for providing a social media shopping experience |
US20240013283A1 (en) * | 2014-03-31 | 2024-01-11 | Monticello Enterprises LLC | System and method for providing a social media shopping experience |
US11004139B2 (en) | 2014-03-31 | 2021-05-11 | Monticello Enterprises LLC | System and method for providing simplified in store purchases and in-app purchases using a use-interface-based payment API |
US10511580B2 (en) | 2014-03-31 | 2019-12-17 | Monticello Enterprises LLC | System and method for providing a social media shopping experience |
US11080777B2 (en) * | 2014-03-31 | 2021-08-03 | Monticello Enterprises LLC | System and method for providing a social media shopping experience |
EP3130994A4 (en) * | 2014-04-07 | 2018-01-03 | Sony Corporation | Display control device, display control method, and program |
US9508137B2 (en) * | 2014-05-02 | 2016-11-29 | Cisco Technology, Inc. | Automated patron guidance |
US10365721B2 (en) | 2014-05-06 | 2019-07-30 | Symbol Technologies, Llc | Apparatus and method for performing a variable data capture process |
US10043185B2 (en) | 2014-05-29 | 2018-08-07 | Apple Inc. | User interface for payments |
US9857869B1 (en) | 2014-06-17 | 2018-01-02 | Amazon Technologies, Inc. | Data optimization |
US9910505B2 (en) * | 2014-06-17 | 2018-03-06 | Amazon Technologies, Inc. | Motion control for managing content |
US9652031B1 (en) * | 2014-06-17 | 2017-05-16 | Amazon Technologies, Inc. | Trust shifting for user position detection |
US9754552B2 (en) * | 2014-06-17 | 2017-09-05 | Amazon Technologies, Inc. | Architectures for processing of head tracking on a mobile device |
US9965796B2 (en) * | 2014-06-26 | 2018-05-08 | Paypal, Inc. | Social media buttons with payment capability |
DE202014103215U1 (de) | 2014-07-11 | 2014-09-30 | Christian Stroetmann | Elektronisches, visuelles Gerät, das eine flexible beziehungsweise biegbare Vorrichtung zur optischen Signalisierung von veränderlichen Informationen, ein flexibles beziehungsweise biegbares Gehäuse mit mindestens einem Gelenk/Scharnier und ein Regel-/Steuerungssystem besitzt |
GB2528319A (en) * | 2014-07-18 | 2016-01-20 | Ibm | Device display perspective adjustment |
US9952883B2 (en) | 2014-08-05 | 2018-04-24 | Tobii Ab | Dynamic determination of hardware |
US10915618B2 (en) | 2014-08-28 | 2021-02-09 | Facetec, Inc. | Method to add remotely collected biometric images / templates to a database record of personal information |
CA3186147A1 (en) | 2014-08-28 | 2016-02-28 | Kevin Alan Tussy | Facial recognition authentication system including path parameters |
US10803160B2 (en) | 2014-08-28 | 2020-10-13 | Facetec, Inc. | Method to verify and identify blockchain with user question data |
US10698995B2 (en) | 2014-08-28 | 2020-06-30 | Facetec, Inc. | Method to verify identity using a previously collected biometric image/data |
US11256792B2 (en) | 2014-08-28 | 2022-02-22 | Facetec, Inc. | Method and apparatus for creation and use of digital identification |
US10066959B2 (en) | 2014-09-02 | 2018-09-04 | Apple Inc. | User interactions for a mapping application |
US10095394B2 (en) * | 2014-09-02 | 2018-10-09 | Apple Inc. | Image display and interaction using a mobile device |
EP3002661A1 (en) * | 2014-09-30 | 2016-04-06 | Advanced Digital Broadcast S.A. | System and method for controlling a virtual input interface |
EP3002669A1 (en) * | 2014-09-30 | 2016-04-06 | Advanced Digital Broadcast S.A. | System and method for controlling a virtual input interface |
WO2016064311A1 (en) * | 2014-10-22 | 2016-04-28 | Telefonaktiebolaget L M Ericsson (Publ) | Method and device for providing a touch-based user interface |
US10585485B1 (en) | 2014-11-10 | 2020-03-10 | Amazon Technologies, Inc. | Controlling content zoom level based on user head movement |
US9665249B1 (en) * | 2014-11-10 | 2017-05-30 | Amazon Technologies, Inc. | Approaches for controlling a computing device based on head movement |
FR3028221B1 (fr) * | 2014-11-12 | 2018-03-16 | Psa Automobiles Sa. | Interface homme/machine et procede de controle de fonctions d’un vehicule par detection de mouvement et/ou d’expression du conducteur |
KR102347248B1 (ko) | 2014-11-26 | 2022-01-04 | 삼성전자주식회사 | 터치 제스쳐 인식 방법 및 장치 |
US9953216B2 (en) * | 2015-01-13 | 2018-04-24 | Google Llc | Systems and methods for performing actions in response to user gestures in captured images |
TWI526879B (zh) * | 2015-01-30 | 2016-03-21 | 原相科技股份有限公司 | 互動系統、遙控器及其運作方法 |
US9818037B2 (en) | 2015-02-04 | 2017-11-14 | Invensense, Inc. | Estimating heading misalignment between a device and a person using optical sensor |
EP3262490A4 (en) | 2015-02-23 | 2018-10-17 | Somniq, Inc. | Empathetic user interface, systems, and methods for interfacing with empathetic computing device |
US10289820B2 (en) * | 2015-02-24 | 2019-05-14 | Motorola Mobility Llc | Multiuse 3D IR for electronic device |
US10095396B2 (en) | 2015-03-08 | 2018-10-09 | Apple Inc. | Devices, methods, and graphical user interfaces for interacting with a control object while dragging another object |
US9645732B2 (en) | 2015-03-08 | 2017-05-09 | Apple Inc. | Devices, methods, and graphical user interfaces for displaying and using menus |
US10048757B2 (en) | 2015-03-08 | 2018-08-14 | Apple Inc. | Devices and methods for controlling media presentation |
CN107850939A (zh) * | 2015-03-10 | 2018-03-27 | 艾弗里协助通信有限公司 | 用于通过眼睛反馈实现通信的系统和方法 |
US10409464B2 (en) * | 2015-03-18 | 2019-09-10 | Microsoft Technology Licensing, Llc | Providing a context related view with a wearable apparatus |
US9785305B2 (en) | 2015-03-19 | 2017-10-10 | Apple Inc. | Touch input cursor manipulation |
US10146301B1 (en) | 2015-03-26 | 2018-12-04 | Amazon Technologies, Inc. | Rendering rich media content based on head position information |
US9934443B2 (en) | 2015-03-31 | 2018-04-03 | Daon Holdings Limited | Methods and systems for detecting head motion during an authentication transaction |
US20170045981A1 (en) | 2015-08-10 | 2017-02-16 | Apple Inc. | Devices and Methods for Processing Touch Inputs Based on Their Intensities |
TW201642161A (zh) * | 2015-05-21 | 2016-12-01 | 鴻海精密工業股份有限公司 | 便攜式電子裝置解鎖系統及方法 |
US10073886B2 (en) * | 2015-05-27 | 2018-09-11 | International Business Machines Corporation | Search results based on a search history |
US20160358133A1 (en) | 2015-06-05 | 2016-12-08 | Apple Inc. | User interface for loyalty accounts and private label accounts for a wearable device |
US9940637B2 (en) | 2015-06-05 | 2018-04-10 | Apple Inc. | User interface for loyalty accounts and private label accounts |
US9674426B2 (en) | 2015-06-07 | 2017-06-06 | Apple Inc. | Devices and methods for capturing and interacting with enhanced digital images |
US9860451B2 (en) | 2015-06-07 | 2018-01-02 | Apple Inc. | Devices and methods for capturing and interacting with enhanced digital images |
US20160364460A1 (en) * | 2015-06-11 | 2016-12-15 | Gary Shuster | Methods of aggregating and collaborating search results |
GB2539705B (en) | 2015-06-25 | 2017-10-25 | Aimbrain Solutions Ltd | Conditional behavioural biometrics |
US10397484B2 (en) * | 2015-08-14 | 2019-08-27 | Qualcomm Incorporated | Camera zoom based on sensor data |
KR20170028001A (ko) * | 2015-09-03 | 2017-03-13 | 삼성전자주식회사 | 전자 장치 및 이의 제어 방법 |
CN106557221A (zh) * | 2015-09-24 | 2017-04-05 | 天津三星通信技术研究有限公司 | 在终端输入文本的方法和设备 |
US9939908B2 (en) * | 2015-09-28 | 2018-04-10 | Paypal, Inc. | Multi-device authentication |
KR102402829B1 (ko) * | 2015-11-10 | 2022-05-30 | 삼성전자 주식회사 | 사용자 인증 방법 및 이를 지원하는 전자 장치 |
US10222979B2 (en) * | 2015-12-04 | 2019-03-05 | Datalogic Usa, Inc. | Size adjustable soft activation trigger for touch displays on electronic device |
USD806711S1 (en) | 2015-12-11 | 2018-01-02 | SomniQ, Inc. | Portable electronic device |
WO2017100641A1 (en) * | 2015-12-11 | 2017-06-15 | SomniQ, Inc. | Apparatus, system, and methods for interfacing with a user and/or external apparatus by stationary state detection |
US10019072B2 (en) | 2016-01-01 | 2018-07-10 | International Business Machines Corporation | Imagined grid fingertip input editor on wearable device |
US10019412B2 (en) * | 2016-03-22 | 2018-07-10 | Verizon Patent And Licensing Inc. | Dissociative view of content types to improve user experience |
JP6727921B2 (ja) * | 2016-05-18 | 2020-07-22 | ソニーモバイルコミュニケーションズ株式会社 | 情報処理装置、情報処理システム、情報処理方法 |
GB2552032B (en) | 2016-07-08 | 2019-05-22 | Aimbrain Solutions Ltd | Step-up authentication |
CN106325501A (zh) * | 2016-08-10 | 2017-01-11 | 合肥泰壤信息科技有限公司 | 一种基于面部表情识别技术的游戏控制方法及系统 |
US10860199B2 (en) * | 2016-09-23 | 2020-12-08 | Apple Inc. | Dynamically adjusting touch hysteresis based on contextual data |
US10198122B2 (en) | 2016-09-30 | 2019-02-05 | Biocatch Ltd. | System, device, and method of estimating force applied to a touch surface |
US10579784B2 (en) | 2016-11-02 | 2020-03-03 | Biocatch Ltd. | System, device, and method of secure utilization of fingerprints for user authentication |
US10867445B1 (en) * | 2016-11-16 | 2020-12-15 | Amazon Technologies, Inc. | Content segmentation and navigation |
CN106683152B (zh) * | 2016-11-16 | 2019-09-20 | 腾讯科技(深圳)有限公司 | 三维视觉效果模拟方法及装置 |
EP3336674B1 (en) * | 2016-12-16 | 2020-06-24 | Alpine Electronics, Inc. | Method and system for providing a slider bar control on a graphical user interface of a portable device |
US10520782B2 (en) | 2017-02-02 | 2019-12-31 | James David Busch | Display devices, systems and methods capable of single-sided, dual-sided, and transparent mixed reality applications |
CN107219921B (zh) * | 2017-05-19 | 2019-09-27 | 京东方科技集团股份有限公司 | 一种操作动作执行方法及其系统 |
US11169661B2 (en) * | 2017-05-31 | 2021-11-09 | International Business Machines Corporation | Thumbnail generation for digital images |
US20190007672A1 (en) | 2017-06-30 | 2019-01-03 | Bobby Gene Burrough | Method and Apparatus for Generating Dynamic Real-Time 3D Environment Projections |
US10397262B2 (en) | 2017-07-20 | 2019-08-27 | Biocatch Ltd. | Device, system, and method of detecting overlay malware |
US10996713B2 (en) | 2017-08-07 | 2021-05-04 | Apple Inc. | Portable electronic device |
US10268234B2 (en) | 2017-08-07 | 2019-04-23 | Apple Inc. | Bracket assembly for a multi-component vision system in an electronic device |
US11445094B2 (en) | 2017-08-07 | 2022-09-13 | Apple Inc. | Electronic device having a vision system assembly held by a self-aligning bracket assembly |
US10838585B1 (en) * | 2017-09-28 | 2020-11-17 | Amazon Technologies, Inc. | Interactive content element presentation |
US10884597B2 (en) * | 2017-10-17 | 2021-01-05 | Paypal, Inc. | User interface customization based on facial recognition |
US10664041B2 (en) | 2017-11-13 | 2020-05-26 | Inernational Business Machines Corporation | Implementing a customized interaction pattern for a device |
US10867054B2 (en) | 2017-11-14 | 2020-12-15 | Thomas STACHURA | Information security/privacy via a decoupled security accessory to an always listening assistant device |
US11100913B2 (en) | 2017-11-14 | 2021-08-24 | Thomas STACHURA | Information security/privacy via a decoupled security cap to an always listening assistant device |
US10872607B2 (en) | 2017-11-14 | 2020-12-22 | Thomas STACHURA | Information choice and security via a decoupled router with an always listening assistant device |
US10867623B2 (en) | 2017-11-14 | 2020-12-15 | Thomas STACHURA | Secure and private processing of gestures via video input |
US10999733B2 (en) | 2017-11-14 | 2021-05-04 | Thomas STACHURA | Information security/privacy via a decoupled security accessory to an always listening device |
US11720222B2 (en) | 2017-11-17 | 2023-08-08 | International Business Machines Corporation | 3D interaction input for text in augmented reality |
WO2019111257A1 (en) | 2017-12-07 | 2019-06-13 | Eyefree Assisting Communication Ltd. | Communication methods and systems |
GB201804129D0 (en) * | 2017-12-15 | 2018-05-02 | Cirrus Logic Int Semiconductor Ltd | Proximity sensing |
EP3502837B1 (en) * | 2017-12-21 | 2021-08-11 | Nokia Technologies Oy | Apparatus, method and computer program for controlling scrolling of content |
US20190236976A1 (en) * | 2018-01-31 | 2019-08-01 | Rnd64 Limited | Intelligent personal assistant device |
JP2019152980A (ja) * | 2018-03-01 | 2019-09-12 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
KR20200094396A (ko) * | 2019-01-30 | 2020-08-07 | 삼성전자주식회사 | 전자 장치 및 복수의 액션들을 포함하는 태스크를 결정하는 방법 |
CA3129378A1 (en) | 2019-02-07 | 2020-08-13 | Thomas Stachura | Privacy device for smart speakers |
US11856045B2 (en) * | 2019-10-12 | 2023-12-26 | Breezeway Logic Llc | Computing and communication systems and methods |
EP3945402B1 (en) * | 2020-07-29 | 2024-03-27 | Tata Consultancy Services Limited | Method and device providing multimodal input mechanism |
US20220137700A1 (en) * | 2020-10-30 | 2022-05-05 | Rovi Guides, Inc. | System and method for selection of displayed objects by path tracing |
US11907605B2 (en) | 2021-05-15 | 2024-02-20 | Apple Inc. | Shared-content session user interfaces |
US20220368548A1 (en) | 2021-05-15 | 2022-11-17 | Apple Inc. | Shared-content session user interfaces |
US11606353B2 (en) | 2021-07-22 | 2023-03-14 | Biocatch Ltd. | System, device, and method of generating and utilizing one-time passwords |
US11770600B2 (en) | 2021-09-24 | 2023-09-26 | Apple Inc. | Wide angle video conference |
WO2024103348A1 (en) * | 2022-11-17 | 2024-05-23 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Electronic device, method of controlling electronic device, and computer readable storage medium |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1694045A (zh) * | 2005-06-02 | 2005-11-09 | 北京中星微电子有限公司 | 一种非接触式目控操作系统和方法 |
US7301526B2 (en) * | 2004-03-23 | 2007-11-27 | Fujitsu Limited | Dynamic adaptation of gestures for motion controlled handheld devices |
US20080136916A1 (en) * | 2005-01-26 | 2008-06-12 | Robin Quincey Wolff | Eye tracker/head tracker/camera tracker controlled camera/weapon positioner control system |
US20080174570A1 (en) * | 2006-09-06 | 2008-07-24 | Apple Inc. | Touch Screen Device, Method, and Graphical User Interface for Determining Commands by Applying Heuristics |
US20080276196A1 (en) * | 2007-05-04 | 2008-11-06 | Apple Inc. | Automatically adjusting media display in a personal display system |
Family Cites Families (125)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4836670A (en) * | 1987-08-19 | 1989-06-06 | Center For Innovative Technology | Eye movement detector |
EP0607615B1 (en) | 1992-12-28 | 1999-09-15 | Kabushiki Kaisha Toshiba | Speech recognition interface system suitable for window systems and speech mail systems |
GB2274190B (en) | 1993-01-12 | 1996-05-08 | Mars Inc | Coin dispensing apparatus |
JP2552427B2 (ja) * | 1993-12-28 | 1996-11-13 | コナミ株式会社 | テレビ遊戯システム |
US5563988A (en) | 1994-08-01 | 1996-10-08 | Massachusetts Institute Of Technology | Method and system for facilitating wireless, full-body, real-time user interaction with a digitally represented visual environment |
US5995080A (en) | 1996-06-21 | 1999-11-30 | Digital Equipment Corporation | Method and apparatus for interleaving and de-interleaving YUV pixel data |
JP3749369B2 (ja) * | 1997-03-21 | 2006-02-22 | 株式会社竹中工務店 | ハンドポインティング装置 |
US6750848B1 (en) * | 1998-11-09 | 2004-06-15 | Timothy R. Pryor | More useful man machine interfaces and applications |
US6266059B1 (en) | 1997-08-27 | 2001-07-24 | Microsoft Corporation | User interface for switching between application modes |
JP3795647B2 (ja) * | 1997-10-29 | 2006-07-12 | 株式会社竹中工務店 | ハンドポインティング装置 |
JP3597370B2 (ja) | 1998-03-10 | 2004-12-08 | 富士通株式会社 | 文書処理装置および記録媒体 |
US6272231B1 (en) * | 1998-11-06 | 2001-08-07 | Eyematic Interfaces, Inc. | Wavelet-based facial motion capture for avatar animation |
US7750891B2 (en) | 2003-04-09 | 2010-07-06 | Tegic Communications, Inc. | Selective input system based on tracking of motion parameters of an input device |
US6791531B1 (en) | 1999-06-07 | 2004-09-14 | Dot On, Inc. | Device and method for cursor motion control calibration and object selection |
US6766036B1 (en) * | 1999-07-08 | 2004-07-20 | Timothy R. Pryor | Camera based man machine interfaces |
GB2353184A (en) | 1999-08-13 | 2001-02-14 | Nokia Mobile Phones Ltd | Disabling a touch sensitive display screen when a call is established |
US8686922B2 (en) * | 1999-12-15 | 2014-04-01 | American Vehicular Sciences Llc | Eye-location dependent vehicular heads-up display system |
US6864912B1 (en) | 1999-12-16 | 2005-03-08 | International Business Machines Corp. | Computer system providing hands free user input via optical means for navigation or zooming |
JP4618840B2 (ja) | 2000-02-21 | 2011-01-26 | 株式会社沖データ | 座標入力装置 |
US20030023435A1 (en) | 2000-07-13 | 2003-01-30 | Josephson Daryl Craig | Interfacing apparatus and methods |
JP3561463B2 (ja) * | 2000-08-11 | 2004-09-02 | コナミ株式会社 | 3dビデオゲームにおける擬似カメラ視点移動制御方法及び3dビデオゲーム装置 |
AU2001286450A1 (en) | 2000-08-12 | 2002-02-25 | Georgia Tech Research Corporation | A system and method for capturing an image |
JP2002164990A (ja) | 2000-11-28 | 2002-06-07 | Kyocera Corp | 携帯通信端末装置 |
US6996800B2 (en) | 2000-12-04 | 2006-02-07 | International Business Machines Corporation | MVC (model-view-controller) based multi-modal authoring tool and development environment |
JP2002351603A (ja) | 2001-05-25 | 2002-12-06 | Mitsubishi Electric Corp | 携帯情報処理装置 |
US6959102B2 (en) | 2001-05-29 | 2005-10-25 | International Business Machines Corporation | Method for increasing the signal-to-noise in IR-based eye gaze trackers |
US7369997B2 (en) | 2001-08-01 | 2008-05-06 | Microsoft Corporation | Controlling speech recognition functionality in a computing device |
US7199767B2 (en) | 2002-03-07 | 2007-04-03 | Yechezkal Evan Spero | Enhanced vision for driving |
DE60305662T2 (de) | 2002-03-08 | 2007-04-05 | Revelations in Design, LP, Austin | Steuerkonsole für elektrische geräte |
US8213917B2 (en) | 2006-05-05 | 2012-07-03 | Waloomba Tech Ltd., L.L.C. | Reusable multimodal application |
US11275405B2 (en) | 2005-03-04 | 2022-03-15 | Apple Inc. | Multi-functional hand-held device |
CA2409915C (en) | 2002-10-29 | 2012-01-03 | Research In Motion Limited | Electronic device having keyboard for thumb typing |
US7098896B2 (en) * | 2003-01-16 | 2006-08-29 | Forword Input Inc. | System and method for continuous stroke word-based text input |
US6637883B1 (en) | 2003-01-23 | 2003-10-28 | Vishwas V. Tengshe | Gaze tracking system and method |
US20040174497A1 (en) | 2003-03-07 | 2004-09-09 | Manish Sharma | Method and system for controlling the movement of a device |
JP3649242B2 (ja) | 2003-04-04 | 2005-05-18 | 三菱電機株式会社 | 携帯電話装置および携帯電話装置の文字入力方法 |
US7081884B2 (en) | 2003-04-25 | 2006-07-25 | Microsoft Corporation | Computer input device with angular displacement detection capabilities |
US7643055B2 (en) | 2003-04-25 | 2010-01-05 | Aptina Imaging Corporation | Motion detecting camera system |
EP1634276B1 (en) * | 2003-05-28 | 2007-11-07 | Koninklijke Philips Electronics N.V. | Apparatus and method for embedding a watermark using sub-band filtering |
US20040260438A1 (en) | 2003-06-17 | 2004-12-23 | Chernetsky Victor V. | Synchronous voice user interface/graphical user interface |
US7217913B2 (en) | 2003-12-18 | 2007-05-15 | Micron Technology, Inc. | Method and system for wavelength-dependent imaging and detection using a hybrid filter |
US7446756B2 (en) | 2004-03-22 | 2008-11-04 | Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. | Apparatus for controlling the position of a screen pointer with low sensitivity to particle contamination |
US7593593B2 (en) | 2004-06-16 | 2009-09-22 | Microsoft Corporation | Method and system for reducing effects of undesired signals in an infrared imaging system |
US7519223B2 (en) | 2004-06-28 | 2009-04-14 | Microsoft Corporation | Recognizing gestures and using gestures for interacting with software applications |
US9030532B2 (en) | 2004-08-19 | 2015-05-12 | Microsoft Technology Licensing, Llc | Stereoscopic image display |
JP2006055388A (ja) | 2004-08-20 | 2006-03-02 | Toyama Prefecture | 遠隔介護支援システム |
NO20044073D0 (no) * | 2004-09-27 | 2004-09-27 | Isak Engquist | Informasjonsbehandlingssystem og fremgangsmate |
JPWO2006038662A1 (ja) * | 2004-10-07 | 2008-05-15 | 株式会社ウエアビジョン | 画像表示装置および電子眼鏡 |
US8614676B2 (en) * | 2007-04-24 | 2013-12-24 | Kuo-Ching Chiang | User motion detection mouse for electronic device |
US7379566B2 (en) * | 2005-01-07 | 2008-05-27 | Gesturetek, Inc. | Optical flow based tilt sensor |
US7661074B2 (en) | 2005-07-01 | 2010-02-09 | Microsoft Corporation | Keyboard accelerator |
US7603143B2 (en) | 2005-08-26 | 2009-10-13 | Lg Electronics Inc. | Mobile telecommunication handset having touch pad |
US8719034B2 (en) | 2005-09-13 | 2014-05-06 | Nuance Communications, Inc. | Displaying speech command input state information in a multimodal browser |
JP4977995B2 (ja) | 2005-10-26 | 2012-07-18 | 日本電気株式会社 | 携帯表示装置 |
US7562312B2 (en) * | 2006-01-17 | 2009-07-14 | Samsung Electronics Co., Ltd. | 3-dimensional graphical user interface |
JP2007243250A (ja) | 2006-03-03 | 2007-09-20 | Olympus Imaging Corp | 撮像装置および撮像方法 |
JP4862447B2 (ja) | 2006-03-23 | 2012-01-25 | 沖電気工業株式会社 | 顔認識システム |
US20070236413A1 (en) | 2006-03-29 | 2007-10-11 | 3M Innovative Properties Company | Fluted optical plate with internal light sources and systems using same |
US20080005418A1 (en) * | 2006-05-09 | 2008-01-03 | Jorge Julian | Interactive interface for electronic devices |
US20080040692A1 (en) * | 2006-06-29 | 2008-02-14 | Microsoft Corporation | Gesture input |
GB2440348B (en) | 2006-06-30 | 2008-10-22 | Motorola Inc | Computer device having a user interface and method for positioning a cursor thereon |
US8589824B2 (en) | 2006-07-13 | 2013-11-19 | Northrop Grumman Systems Corporation | Gesture recognition interface system |
KR100776801B1 (ko) | 2006-07-19 | 2007-11-19 | 한국전자통신연구원 | 화상 처리 시스템에서의 제스처 인식 장치 및 방법 |
US7594192B2 (en) | 2006-09-19 | 2009-09-22 | International Business Machines Corporation | Method and apparatus for identifying hotkey conflicts |
US7599712B2 (en) | 2006-09-27 | 2009-10-06 | Palm, Inc. | Apparatus and methods for providing directional commands for a mobile computing device |
JP2008097220A (ja) | 2006-10-10 | 2008-04-24 | Nec Corp | 文字入力装置、文字入力方法およびプログラム |
US8031264B2 (en) * | 2006-12-06 | 2011-10-04 | Sony Corporation | Wall mount camera |
JP4725802B2 (ja) | 2006-12-27 | 2011-07-13 | 富士フイルム株式会社 | 撮影装置、合焦方法および合焦プログラム |
JP2008186247A (ja) | 2007-01-30 | 2008-08-14 | Oki Electric Ind Co Ltd | 顔向き検出装置および顔向き検出方法 |
US8725513B2 (en) | 2007-04-12 | 2014-05-13 | Nuance Communications, Inc. | Providing expressive user interaction with a multimodal application |
US8243048B2 (en) | 2007-04-25 | 2012-08-14 | Elo Touch Solutions, Inc. | Touchscreen for detecting multiple touches |
US8726194B2 (en) * | 2007-07-27 | 2014-05-13 | Qualcomm Incorporated | Item selection using enhanced control |
CN101874404B (zh) * | 2007-09-24 | 2013-09-18 | 高通股份有限公司 | 用于语音和视频通信的增强接口 |
US8031176B1 (en) | 2008-01-22 | 2011-10-04 | Cypress Semiconductor Corporation | Optical navigation system using a single-package motion sensor |
WO2009100233A2 (en) | 2008-02-08 | 2009-08-13 | Novarra, Inc. | User interface with multiple simultaneous focus areas |
US9582049B2 (en) * | 2008-04-17 | 2017-02-28 | Lg Electronics Inc. | Method and device for controlling user interface based on user's gesture |
US9092053B2 (en) * | 2008-06-17 | 2015-07-28 | Apple Inc. | Systems and methods for adjusting a display based on the user's position |
JP5377057B2 (ja) | 2008-06-30 | 2013-12-25 | 株式会社ジャパンディスプレイ | 画像表示装置の駆動方法、並びに、画像表示装置組立体及びその駆動方法 |
ES2648049T3 (es) | 2008-07-25 | 2017-12-28 | Qualcomm Incorporated | Detección mejorada de gesto ondulatorio |
EP2336859A4 (en) | 2008-08-29 | 2011-08-31 | Sharp Kk | COORDINATE DETECTOR, ELECTRONIC DEVICE, DISPLAY DEVICE, AND LIGHT RECEIVING UNIT |
WO2010034795A1 (en) | 2008-09-25 | 2010-04-01 | Movea S.A | Command by gesture interface |
US8253713B2 (en) | 2008-10-23 | 2012-08-28 | At&T Intellectual Property I, L.P. | Tracking approaching or hovering objects for user-interfaces |
US20100107067A1 (en) | 2008-10-27 | 2010-04-29 | Nokia Corporation | Input on touch based user interfaces |
US8788977B2 (en) | 2008-11-20 | 2014-07-22 | Amazon Technologies, Inc. | Movement recognition as input mechanism |
US20100138680A1 (en) | 2008-12-02 | 2010-06-03 | At&T Mobility Ii Llc | Automatic display and voice command activation with hand edge sensing |
US8432366B2 (en) | 2009-03-03 | 2013-04-30 | Microsoft Corporation | Touch discrimination |
US8199186B2 (en) | 2009-03-05 | 2012-06-12 | Microsoft Corporation | Three-dimensional (3D) imaging based on motionparallax |
KR101566379B1 (ko) | 2009-05-07 | 2015-11-13 | 삼성전자주식회사 | 입력 신호 종류 별 사용자 기능 활성화 방법 및 이를 지원하는 휴대 단말기 |
WO2010147600A2 (en) | 2009-06-19 | 2010-12-23 | Hewlett-Packard Development Company, L, P. | Qualified command |
KR20110015747A (ko) | 2009-08-10 | 2011-02-17 | 삼성전자주식회사 | 복수의 입력 장치를 구비하는 휴대 단말기 및 그의 인터렉션 제공 방법 |
CN102782616A (zh) | 2009-10-16 | 2012-11-14 | Rpo有限公司 | 用于检测和跟踪触摸对象的方法 |
KR20120112466A (ko) | 2009-11-17 | 2012-10-11 | 알피오 피티와이 리미티드 | 터치 입력 수신을 위한 장치 및 방법 |
TWI416385B (zh) | 2009-12-18 | 2013-11-21 | Au Optronics Corp | 三維互動立體顯示器之指示物位置判斷方法 |
US8659658B2 (en) | 2010-02-09 | 2014-02-25 | Microsoft Corporation | Physical interaction zone for gesture-based user interfaces |
JP5413673B2 (ja) | 2010-03-08 | 2014-02-12 | ソニー株式会社 | 情報処理装置および方法、並びにプログラム |
US8228292B1 (en) | 2010-04-02 | 2012-07-24 | Google Inc. | Flipping for motion-based input |
US8878773B1 (en) | 2010-05-24 | 2014-11-04 | Amazon Technologies, Inc. | Determining relative motion as input |
US20130044080A1 (en) | 2010-06-16 | 2013-02-21 | Holy Stone Enterprise Co., Ltd. | Dual-view display device operating method |
US8700392B1 (en) | 2010-09-10 | 2014-04-15 | Amazon Technologies, Inc. | Speech-inclusive device interfaces |
US9274744B2 (en) | 2010-09-10 | 2016-03-01 | Amazon Technologies, Inc. | Relative position-inclusive device interfaces |
KR101242481B1 (ko) | 2011-01-04 | 2013-03-13 | 목포대학교산학협력단 | 사용자 터치와 입김을 활용한 멀티 모달 인터페이스 지원 사용자 단말과 그 제어 방법 |
US20130016129A1 (en) | 2011-07-14 | 2013-01-17 | Google Inc. | Region-Specific User Input |
US9377867B2 (en) | 2011-08-11 | 2016-06-28 | Eyesight Mobile Technologies Ltd. | Gesture based interface system and method |
US20130050131A1 (en) | 2011-08-23 | 2013-02-28 | Garmin Switzerland Gmbh | Hover based navigation user interface control |
US8683054B1 (en) | 2011-08-23 | 2014-03-25 | Amazon Technologies, Inc. | Collaboration of device resources |
US8806369B2 (en) | 2011-08-26 | 2014-08-12 | Apple Inc. | Device, method, and graphical user interface for managing and interacting with concurrently open software applications |
US8947351B1 (en) | 2011-09-27 | 2015-02-03 | Amazon Technologies, Inc. | Point of view determinations for finger tracking |
US8902125B1 (en) | 2011-09-29 | 2014-12-02 | Rockwell Collins, Inc. | Reconfigurable handheld device |
US20140210727A1 (en) | 2011-10-03 | 2014-07-31 | Sony Ericsson Mobile Communications Ab | Electronic device with touch-based deactivation of touch input signaling |
TWI493387B (zh) | 2011-11-18 | 2015-07-21 | Primax Electronics Ltd | 多點觸控滑鼠 |
US9219857B2 (en) | 2011-12-21 | 2015-12-22 | Nokia Technologies Oy | Image capture |
US20130191779A1 (en) | 2012-01-20 | 2013-07-25 | Microsoft Corporation | Display of user interface elements based on touch or hardware input |
US9928562B2 (en) | 2012-01-20 | 2018-03-27 | Microsoft Technology Licensing, Llc | Touch mode and input type recognition |
US10209954B2 (en) | 2012-02-14 | 2019-02-19 | Microsoft Technology Licensing, Llc | Equal access to speech and touch input |
US8965045B2 (en) | 2012-02-22 | 2015-02-24 | Nokia Corporation | Image capture |
US9063574B1 (en) | 2012-03-14 | 2015-06-23 | Amazon Technologies, Inc. | Motion detection systems for electronic devices |
US8994672B2 (en) | 2012-04-09 | 2015-03-31 | Sony Corporation | Content transfer via skin input |
CA2873240C (en) | 2012-05-16 | 2020-11-17 | Xtreme Interactions Inc. | System, device and method for processing interlaced multimodal user input |
US9046917B2 (en) | 2012-05-17 | 2015-06-02 | Sri International | Device, method and system for monitoring, predicting, and accelerating interactions with a computing device |
KR101341737B1 (ko) | 2012-06-21 | 2013-12-16 | 주식회사 팬택 | 후면 터치를 이용한 단말 제어 장치 및 방법 |
US9691115B2 (en) | 2012-06-21 | 2017-06-27 | Cellepathy Inc. | Context determination using access points in transportation and other scenarios |
US9720508B2 (en) | 2012-08-30 | 2017-08-01 | Google Technology Holdings LLC | System for controlling a plurality of cameras in a device |
US20140157209A1 (en) | 2012-12-03 | 2014-06-05 | Google Inc. | System and method for detecting gestures |
US20140282272A1 (en) | 2013-03-15 | 2014-09-18 | Qualcomm Incorporated | Interactive Inputs for a Background Task |
US9026939B2 (en) | 2013-06-13 | 2015-05-05 | Google Inc. | Automatically switching between input modes for a user interface |
-
2008
- 2008-12-10 US US12/332,049 patent/US8788977B2/en not_active Expired - Fee Related
-
2009
- 2009-11-20 JP JP2011537661A patent/JP2012509544A/ja active Pending
- 2009-11-20 WO PCT/US2009/065364 patent/WO2010059956A1/en active Application Filing
- 2009-11-20 EP EP09828299.9A patent/EP2364470B1/en active Active
- 2009-11-20 KR KR1020117013875A patent/KR101312227B1/ko active IP Right Grant
- 2009-11-20 CA CA2743914A patent/CA2743914C/en active Active
- 2009-11-20 CN CN2009801468410A patent/CN102239460A/zh active Pending
-
2014
- 2014-06-06 US US14/298,577 patent/US9304583B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7301526B2 (en) * | 2004-03-23 | 2007-11-27 | Fujitsu Limited | Dynamic adaptation of gestures for motion controlled handheld devices |
US20080136916A1 (en) * | 2005-01-26 | 2008-06-12 | Robin Quincey Wolff | Eye tracker/head tracker/camera tracker controlled camera/weapon positioner control system |
CN1694045A (zh) * | 2005-06-02 | 2005-11-09 | 北京中星微电子有限公司 | 一种非接触式目控操作系统和方法 |
US20080174570A1 (en) * | 2006-09-06 | 2008-07-24 | Apple Inc. | Touch Screen Device, Method, and Graphical User Interface for Determining Commands by Applying Heuristics |
US20080276196A1 (en) * | 2007-05-04 | 2008-11-06 | Apple Inc. | Automatically adjusting media display in a personal display system |
Cited By (48)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9958971B2 (en) | 2010-09-07 | 2018-05-01 | Sony Corporation | Information processing apparatus, program, and control method |
CN102402328A (zh) * | 2010-09-07 | 2012-04-04 | 索尼公司 | 信息处理装置、程序以及控制方法 |
CN102402328B (zh) * | 2010-09-07 | 2016-01-06 | 索尼公司 | 信息处理装置以及控制方法 |
CN103430126A (zh) * | 2011-03-01 | 2013-12-04 | 高通股份有限公司 | 显示内容的系统和方法 |
US9285883B2 (en) | 2011-03-01 | 2016-03-15 | Qualcomm Incorporated | System and method to display content based on viewing orientation |
CN103703438B (zh) * | 2011-04-08 | 2018-10-16 | 亚马逊技术公司 | 基于注视的内容显示器 |
CN103135762A (zh) * | 2011-11-29 | 2013-06-05 | 三星电子株式会社 | 用于基于眼睛跟踪操作用户功能的方法及其移动装置 |
CN103135762B (zh) * | 2011-11-29 | 2017-06-06 | 三星电子株式会社 | 用于基于眼睛跟踪操作用户功能的方法及其移动装置 |
CN104145233A (zh) * | 2012-02-23 | 2014-11-12 | 英特尔公司 | 通过照相机模块跟踪用户的头部来控制屏幕的方法和设备、及其计算机可读记录介质 |
CN104737102A (zh) * | 2012-02-24 | 2015-06-24 | 亚马逊技术公司 | 用于多维输入的导航方法 |
CN104737102B (zh) * | 2012-02-24 | 2019-03-12 | 亚马逊技术公司 | 用于多维输入的导航方法 |
CN104364753B (zh) * | 2012-03-13 | 2017-11-21 | 亚马逊技术公司 | 用于突出显示活动界面元素的方法 |
CN104364753A (zh) * | 2012-03-13 | 2015-02-18 | 亚马逊技术公司 | 用于突出显示活动界面元素的方法 |
CN103327168B (zh) * | 2012-03-21 | 2016-08-31 | Lg电子株式会社 | 移动终端及其控制方法 |
US8928723B2 (en) | 2012-03-21 | 2015-01-06 | Lg Electronics Inc. | Mobile terminal and control method thereof |
CN103327168A (zh) * | 2012-03-21 | 2013-09-25 | Lg电子株式会社 | 移动终端及其控制方法 |
CN103383626A (zh) * | 2012-05-02 | 2013-11-06 | 三星电子株式会社 | 移动对象的方法和装置 |
CN107846519A (zh) * | 2012-06-29 | 2018-03-27 | 英特尔公司 | 用于基于手势的管理的系统和方法 |
CN103576834A (zh) * | 2012-08-07 | 2014-02-12 | 三星电子株式会社 | 省电控制方法及支持省电控制方法的电子设备 |
CN103576834B (zh) * | 2012-08-07 | 2018-10-19 | 三星电子株式会社 | 省电控制方法及支持省电控制方法的电子设备 |
US9860440B2 (en) | 2012-08-07 | 2018-01-02 | Samsung Electronics Co., Ltd. | Power saving control method and electronic device supporting the same |
CN105027029A (zh) * | 2012-10-22 | 2015-11-04 | Vid拓展公司 | 移动设备中的用户存在检测 |
CN103909864A (zh) * | 2013-01-08 | 2014-07-09 | 沃尔沃汽车公司 | 车辆显示装置以及包括车辆显示装置的车辆 |
CN103116403A (zh) * | 2013-02-16 | 2013-05-22 | 广东欧珀移动通信有限公司 | 一种屏幕切换方法及移动智能终端 |
US10394410B2 (en) | 2013-05-09 | 2019-08-27 | Amazon Technologies, Inc. | Mobile device interfaces |
US10955938B1 (en) | 2013-05-09 | 2021-03-23 | Amazon Technologies, Inc. | Mobile device interfaces |
US11036300B1 (en) | 2013-05-09 | 2021-06-15 | Amazon Technologies, Inc. | Mobile device interfaces |
CN105474157A (zh) * | 2013-05-09 | 2016-04-06 | 亚马逊技术股份有限公司 | 移动设备界面 |
CN105683875B (zh) * | 2013-09-17 | 2019-09-24 | 诺基亚技术有限公司 | 操作的确定 |
US10013737B2 (en) | 2013-09-17 | 2018-07-03 | Nokia Technologies Oy | Determination of an operation |
US11410276B2 (en) | 2013-09-17 | 2022-08-09 | Nokia Technologies Oy | Determination of an operation |
CN105683875A (zh) * | 2013-09-17 | 2016-06-15 | 诺基亚技术有限公司 | 操作的确定 |
US10497096B2 (en) | 2013-09-17 | 2019-12-03 | Nokia Technologies Oy | Determination of a display angle of a display |
CN105683868B (zh) * | 2013-11-08 | 2019-07-30 | 高通股份有限公司 | 用于空间交互中的额外模态的面部跟踪 |
CN105683868A (zh) * | 2013-11-08 | 2016-06-15 | 高通股份有限公司 | 用于空间交互中的额外模态的面部跟踪 |
US10146299B2 (en) | 2013-11-08 | 2018-12-04 | Qualcomm Technologies, Inc. | Face tracking for additional modalities in spatial interaction |
CN106462242A (zh) * | 2014-04-23 | 2017-02-22 | 谷歌公司 | 使用视线跟踪的用户界面控制 |
CN106462242B (zh) * | 2014-04-23 | 2019-06-04 | 谷歌有限责任公司 | 使用视线跟踪的用户界面控制 |
CN107077193A (zh) * | 2014-07-29 | 2017-08-18 | 指尖翻动公司 | 通过倾斜姿势导航数字内容 |
CN104699439B (zh) * | 2015-03-30 | 2019-03-12 | 三星电子(中国)研发中心 | 用于移动终端的画面显示方法、装置和移动终端 |
CN104699439A (zh) * | 2015-03-30 | 2015-06-10 | 三星电子(中国)研发中心 | 用于移动终端的画面显示方法、装置和移动终端 |
CN105573434A (zh) * | 2015-12-18 | 2016-05-11 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
WO2018000606A1 (zh) * | 2016-06-30 | 2018-01-04 | 乐视控股(北京)有限公司 | 一种虚拟现实交互界面的切换方法和电子设备 |
CN109791581A (zh) * | 2016-10-25 | 2019-05-21 | 惠普发展公司,有限责任合伙企业 | 对电子设备的用户界面进行控制 |
CN113615155A (zh) * | 2019-03-11 | 2021-11-05 | 上海诺基亚贝尔股份有限公司 | 对象特性的有条件的显示 |
CN113615155B (zh) * | 2019-03-11 | 2023-03-24 | 上海诺基亚贝尔股份有限公司 | 用于显示控制的装置和方法 |
CN112870714A (zh) * | 2021-02-03 | 2021-06-01 | 网易(杭州)网络有限公司 | 一种地图的显示方法和装置 |
CN117170492A (zh) * | 2022-05-27 | 2023-12-05 | 林诚皓 | 一种基于自然语言处理和计算机视觉的输入系统和方法 |
Also Published As
Publication number | Publication date |
---|---|
EP2364470B1 (en) | 2018-01-10 |
JP2012509544A (ja) | 2012-04-19 |
US20140285435A1 (en) | 2014-09-25 |
WO2010059956A1 (en) | 2010-05-27 |
KR20110095894A (ko) | 2011-08-25 |
EP2364470A1 (en) | 2011-09-14 |
CA2743914A1 (en) | 2010-05-27 |
US8788977B2 (en) | 2014-07-22 |
US20100125816A1 (en) | 2010-05-20 |
US9304583B2 (en) | 2016-04-05 |
CA2743914C (en) | 2017-05-09 |
EP2364470A4 (en) | 2014-08-20 |
KR101312227B1 (ko) | 2013-09-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102239460A (zh) | 作为输入机制的动作识别 | |
JP6605000B2 (ja) | 三次元オブジェクト表示のためのアプローチ | |
US20180348988A1 (en) | Approaches for three-dimensional object display | |
US10592064B2 (en) | Approaches for three-dimensional object display used in content navigation | |
US9104293B1 (en) | User interface points of interest approaches for mapping applications | |
CN103703438B (zh) | 基于注视的内容显示器 | |
US8830225B1 (en) | Three-dimensional interface for content location | |
JP5951781B2 (ja) | 多次元インターフェース | |
US10540055B2 (en) | Generating interactive content items based on content displayed on a computing device | |
US10185976B2 (en) | Shopping systems, user interfaces and methods | |
US20150082145A1 (en) | Approaches for three-dimensional object display | |
CN103797481B (zh) | 基于手势的搜索 | |
KR20160018550A (ko) | 스마트 쇼핑을 위한 방법 및 디바이스 | |
US11055343B2 (en) | Dynamic search control invocation and visual search | |
CN102362251A (zh) | 用于提供对应用程序的增强控制的用户界面 | |
JP2007200099A (ja) | アイテム選択支援装置、方法およびプログラム | |
CN107077193A (zh) | 通过倾斜姿势导航数字内容 | |
US9547420B1 (en) | Spatial approaches to text suggestion | |
US9524036B1 (en) | Motions for displaying additional content | |
JP6472108B1 (ja) | 情報表示装置、情報表示システム、情報管理システム、情報表示方法、情報管理方法およびプログラム | |
JP2013218375A (ja) | 端末装置、画像表示システム、画像表示方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20111109 |
|
RJ01 | Rejection of invention patent application after publication |