本申请涉及由王建、Qiang Wang、Chunhui Zhang和Yue Li等人发明的专利,美国序列号为___(BW 003797.00402),题为“Active Embedded InteractionCode”,还涉及由王建、党应农、吴江、马小旭等人发明的专利,其美国序列号为___(BW 003797.00407)、题为“Passive Embedded Interaction Code”,这两个专利申请都通过引用被结合于此。
(5)具体实施方式
本发明各方面涉及一输入装置,它可以用于多种不同的计算平台中,如控制台式电脑或笔记本电脑、在白色书写板上进行书写、控制PDA或蜂窝电话、或者建立可被通信到任一这些平台的墨迹。下面的描述被分成下列许多部分:术语、通用操作环境、通用笔和照相机、有源编码、无源编码、内部传感器、附加组件、示例实现。
术语
笔——可能或可能不包括存储墨迹能力的任何书写工具。在某些示例中,按照本发明的实施例,没有墨迹性能的输入笔可以被用作笔。
照相机——图像捕获系统。
有源编码——为了用适当的处理算法确定输入装置的定位和/或移动,而在其上定位输入装置的对象或表面内结合编码。
无源编码——用图像数据而非为该目的结合的编码来检测输入装置的移动/定位,图像数据使用适当的处理算法从其上移动输入装置的对象或表面而获得的。
输入装置——用于输入信息的装置,它可能为产生并处理信息而被配置。
有源输入装置——一输入装置,有源地测量信号并且用结合在该输入装置内的传感器来产生指示输入装置的定位和/或移动的数据。
无源输入装置——一输入装置,其移动是用非结合在输入装置内的传感器来检测的。
计算装置——台式电脑、便携式计算机、平板(Tablet)PCTM、个人数据助理、电话、或者被配置成处理包括输入装置在内的信息的任何装置。
通用操作环境
图1是通用数字计算环境的功能性框图,它能用于实现本发明的各方面。在图1中,计算机100包括处理单元110、系统存储器120、以及系统总线130,后者把包括系统存储器在内的各种系统组件耦合至处理单元110。系统总线130可能是若干类型的总线结构的任一种,包括存储器总线或存储器控制器、外围总线、以及使用多种总线结构中任一种的本地总线。系统存储器120包括只读存储器(ROM)140和随机存取存储器(RAM)150。
基本输入/输出系统160(BIOS)存储在ROM 140中,它包含,譬如在启动期间,帮助在计算机100内元件间传输信息的基本例程。计算机100还包括:硬盘驱动器170,用于从硬盘(未示出)读取或写入硬盘;磁盘驱动器180,用于从可移动磁盘190读取或写入其中;以及光盘驱动器191,用于从诸如CD ROM或其它光学媒质这样的可移动光盘192中读取或写入其中。硬盘驱动器170、磁盘驱动器180和光盘驱动器191分别由硬盘驱动器接口192、磁盘驱动器接口193和光盘驱动器接口194而与系统总线130相连。驱动器和它们相关的计算机可读媒质为计算机可读指令、数据结构、程序模块及个人计算机100的其它数据提供了非易失性存储。本领域的技术人员可以理解,能存储可由计算机存取的数据的其它类型的计算机可读媒质也可能用于示例操作环境中,这些计算机可读媒质有:磁带、闪存卡、数字化视频光盘、贝努里(Bernoulli)卡盒、随机存取存储器(RAM)、只读存储器(ROM)及其它。
许多程序模块可以存储在硬盘驱动器170、磁盘驱动器190、光盘192、ROM 140或RAM 150上,包括操作系统195、一个或多个应用程序196、其它程序模块197、以及程序数据198。用户可以通过诸如键盘101和指示装置102这样的输入装置把指令和信息输入计算机100。其它输入装置(未示出)可能包括麦克风、游戏杆、游戏板、卫星式转盘式、扫描仪等。这些及其它输入装置通常通过与系统总线耦合的串行端口接口106与处理单元110相连,但也可能通过其它接口相连,譬如并行端口、游戏端口或通用串行总线(USB)。而且,这些装置可能经由适当的接口(未示出)直接与系统总线130耦合。监视器107或其它类型的显示装置也通过诸如视频适配器108这样的接口与系统总线130相连。除了监视器之外,个人计算机一般包括其它外围输出装置(未示出),譬如扬声器和打印机。在优选实施例中,为了数字地捕获徒手画的输入而提供笔数字化仪165和附属笔或输入笔166。尽管示出了笔数字化仪165和串行端口间的直接连接,然而实践中,笔数字化仪165可能通过并行端口或其它接口和本领域已知的系统总线130而直接与处理单元110耦合。而且,尽管所示数字化仪165远离监视器107,然而数字化仪165的可用输入区域最好可与监视器107的显示区域一起扩展。而且,数字化仪165可能结合在监视器107中,或者可能作为覆盖或附着于监视器107的独立装置而存在。
计算机100可以工作在使用与如远程计算机109等一个或多个远程计算机的逻辑连接的网络化环境中。远程计算机109可以是服务器、路由器、网络PC、对等装置、或其它公共网络节点,并且一般包括许多或全部关于计算机100所描述的元件,尽管图1中仅示出存储器存储装置111。图1所述的逻辑连接包括局域网(LAN)112和广域网(WAN)113。这种网络环境在办公室、企业计算机网络、内部网和因特网中是普遍的。
当用于LAN网络环境中时,计算机100通过网络接口或适配器114与本地网络112相连。当用于WAN网络环境中时,个人计算机100一般包括调制解调器115或其它用于在如因特网这样的广域网113上建立通信的装置。调制解调器115可能是内置或外置的,并且通过串行端口接口106与系统总线130相连。在网络化环境中,关于个人计算机100描述的程序模块或它们的部分可能被存储在远程存储器存储装置中。
可以理解,所示网络连接是说明性的,并且可以使用在计算机间建立通信链路的其它技术。假定各种熟知协议中任一种的存在,譬如TCP/IP、以太网、FTP、HTTP等等,且系统可以工作在客户机-服务器配置中,以允许用户从基于web的服务器中恢复网页。可以用各种常规网络浏览器的任一种显示并控制网页上的数据。
通用笔和照相机
图2提供了输入装置的说明性实施例,用于按照本发明各方面而使用。下面描述了许多不同的元件和/或传感器。各种传感器组合可能用来实践本发明的各方面。而且,可能包括附加传感器,包括磁性传感器、加速度计、陀螺仪、或可能检测到输入装置相对表面或对象的位置的任何传感器。在图2中,笔201包括墨水盒202、压力传感器203、照相机204、电感元件205、处理器206、存储器207、收发机208、电源209、坞站210、盖211、以及显示器212。各种组件可能根据需要用如总线(未示出)进行电气耦合。笔201可能充当一定范围装置的输入装置,包括台式电脑、便携式电脑、平板(Tablet)PCTM、个人数据助理、电话、或者可以处理和/或显示信息的任何装置。
输入装置201可能包括墨水盒202,用于进行标准笔和纸张写入或绘图。此外,在以笔的典型方式操作装置时,用户可以用输入装置产生电子墨迹。这样,墨水盒202可能提供舒适的、熟悉的媒质,用于在纸张上产生书写笔画,而笔的移动被记录并用来产生电子墨迹。墨水盒202可能用许多已知技术的任一种从偏僻的位置被移入写入位置。或者,可能用不包含墨水的盒子来代替墨水盒202,譬如顶端圆滑的塑料盒,但这会允许用户使笔关于表面移动,而不损坏笔或表面。此外,可能包括电感元件,通过以由输入笔所产生相似的方式提供指示输入装置的信号,从而辅助检测输入装置的相对移动。可能包括压力传感器203,用于指定一输入,譬如当定位在对象上时可能指明笔201何时被解压,从而便于选择对象或指示,就像可能通过选择鼠标按键的输入所实现的那样。或者,压力传感器203可能检测压下的力,用户用该力用笔作出笔画,笔用于改变所产生的电子墨迹的宽度。而且,传感器203可能触发照相机的操作。在替代模式下,照相机204可能独立于压力传感器203的设置而工作。
此外,除了可能充当开关的压力传感器之外,还可能包括附加的开关来实现用于控制输入装置操作的各种设置。例如,在输入装置的外侧可能提供一个或多个开关,用于开启输入装置、激活照相机或光源、控制传感器的灵敏度或者光源的亮度、把输入装置设定为其中不执行文本转换的草图模式、设定装置内部存储输入数据、处理并存储输入数据、把数据发送至诸如计算装置这样的处理单元,其中输入装置有了计算装置就能够进行通信、或者用于控制可能期望的任何设置。
可能包括照相机204来捕获表面的图像,笔在表面上移动。还可能包括电感元件205,在被用作电感系统中的输入笔时提高笔的性能。处理器206可能由任何已知处理器组成,用于执行与本发明各方面相关的功能,将在下面详述。类似地,存储器207可能包括RAM、ROM、或用于存储数据的任何存储器装置和/或用于控制装置或处理数据的软件。输入装置可能还包括收发机208。收发机允许与其它装置交换信息。例如,可能使用蓝牙或其它无线技术来便于通信。其它装置可能包括一计算装置,它可能进一步包括输入装置。
可能包括电源209,如果笔201要独立于并且离开主机装置、其中数据要被处理、存储和/或显示的装置而被使用,它就可被提供电源。电源209可能结合在任何数量位置中的输入装置201内,并且可能为了直接替换而被定位,只要电源是可替换的,或者用于便于其再充电,只要电源是可再充电的。或者,笔可能与替代的电源相耦合,譬如用于把笔201电气耦合至汽车电池的适配器、与墙壁电源插座、计算机电源或任何电源相连的充电器。
坞站链接212可能用来在输入装置和诸如外部主机计算机这样的第二装置间传输信息。坞站链接可能还包括在附着于坞站时对电源206充电的结构,未示出,或者与电源相连。USB或其它连接可能可移动地把输入装置通过坞站链接、或通过其它端口连接至主机计算机。或者,硬线连接可能也用于把笔与用于传输和接收数据的装置相连。在硬线结构中,会省略坞站连接,有利于把输入装置直接有线连接至主机。坞站链接可能被省略,或者用与另一装置进行通信的其它系统(例如,蓝牙802.116)所代替。
输入装置210可能还包括可移动盖子211,它可能带有便于电阻感应的金属尖顶,使得输入装置201可以与包括如感应板的装置一起使用。输入装置201的外壳可能由塑料、金属、树脂、它们的组合、或者可能为输入装置的组件或总结构提供保护的任何材料所组成。底座可能包括金属腔体,用于电气地屏蔽装置的某些或全部感应电子元件。输入装置可能是拉长的形状,这可能对应于笔的形状。然而,装置可能由任何数量的形状所形成,这些形状与它作为输入装置和/或墨迹生成装置的用途相一致。
图3A-C说明了按照本发明用途的照相机的三个说明性实施例。如图所述,输入装置201可能用来通过用如照相机检测笔的移动而产生电子墨迹。可能包括照相机321来捕获表面的图像,其中笔在该表面上移动,并且通过图像分析检测被扫描表面上笔的移动量。移动可能与文档相关并且电子地转置、添加或将电子墨迹与该文档相关联(如,存储除原始文件之外的输入注解)。
如图3A所示,在一个实施例中,照相机304包括图像传感器320,它由如一组图像传感元件组成。例如,照相机可能由CMOS图像传感器组成,它能以32像素乘32像素的分辨率扫描1.79mm乘1.79mm的平方区域。一种这样的图像传感器的最小曝光帧速率可能约为330Hz,而说明性图像传感器可能工作在110Hz的处理速率。所选择的图像传感器可能包括色彩图像传感器、灰度图像传感器,或者可能工作以检测超出单一阈值的强度。然而,照相机或其组件部分的选择可能根据与照相机相关的期望工作参数、根据诸如性能、费用或这样的考虑或其它考虑而改变,精确计算输入装置位置所需的分辨率可能受到这种因素的影响。
光源321可能照亮输入装置在其上移动的表面。例如,光源可能由单独光发射二极管(LED)、LED阵列、或其它光发射装置。光源可能产生单色光,包括白色,或者可能产生多色。照相机内可能包括半透明反射镜322以根据需要引导光线。照相机304可能进一步包括一个或多个光学装置323,用于把来自光源321的光聚焦到被扫描表面324上,并且/或者把从该表面反射的光聚焦到图像传感器320上。
如图3A所述,从光源321发射的光由半透明反射镜322发射,半透明反射镜322是根据照射光的方向而反射或发射的镜。然后,被反射的光通过透镜系统323并且被发射至下方反射表面。然后,光在该表面反射,通过透镜系统323,以通过镜的传输角透过半透明反射镜322,并且照射在传感阵列320上。当然,包括大范围组件的照相机可能用来捕获图像数据,包括结合了较小或较大数量组件的照相机。组件排列中的变化也可能很大。这里仅提供一例,在简化的排列中,光源和传感阵列可能定位在一起,使得它们都面向一表面,图像要从该表面被捕获。在这种情况下,由于不需要照相机内的任何反射,因此可能从系统中移去半透明反射镜。如图3B所示,在简化的结构中,光源321被定位在离透镜323和传感器320一定距离处。在进一步简化的排列中,如图3C所示,光源可能被移去,从对象表面反射的环境光可能由透镜323聚焦到传感器320上。
这样,可能以本发明各方面相一致的方式采用照相机内所结合的组件中的变化或者它们的替代。例如,照相机和/或盒子的替代和/或方向可能从图2所示的改变,从而允许使用大范围的照相机和/或墨迹结构和取向。例如,照相机304或者任一它的组件部分可能位于为墨水盒提供的相邻开口处,而非位于如图所示的同一开口内。作为附加示例,照相机304可能位于输入装置的中心,而墨水盒被定位在照相机的侧面。类似地,光源321可能结合在容纳照相机剩余组件的结构内,或者一个或多个组件可能与其它组件分开。而且,可能启用光投射特性,用光源和/或光学系统,用附加的结构和/或软件,或者根据需要对所述组件进行修改。
有源编码
为了帮助检测和/或定位输入装置,其上定位输入装置的对象表面可能包括表示该表面区域的相对位置的图像数据。在一示例性实施例中,被扫描的表面可能包括主机计算机或其它外部计算装置的显示器,它可能对应于台式电脑、便携式计算机、平板式(Tablet)PCTM、个人数据助理、电话、数码相机、或可能显示信息的任何装置的监视器。因而,在平板式PCTM屏幕上产生的空白文档或其它图像可能包括相应于一编码的数据,该编码表示该部分文档在整个文档内、或者相对于图像的任何其它部分的相对位置。信息可能由图像组成,图像可能包括字母数字字符、编码模式、或可能用来表示相对位置的任何可辨模式的图像数据。为了用于指定对象表面内区域位置所选择的图像可能取决于结合在照相机内的扫描装置的灵敏度,譬如,传感器的像素分辨率、和/或包含在被扫描表面内的图像数据的像素分辨率。然后,从对象提取的位置信息可能用于跟踪输入装置在对象上的移动。使用该信息之后,可能精确地产生对应于装置移动的电子墨迹或其它信息。位置信息可能既用于检测图像内的位置,其中输入要在此受到影响,又用于提供输入装置在对象表面上移动的指示。所产生的信息可能与字处理软件交互使用,以产生例如文档内的变化。
在替代的实施例中,与输入装置一起使用的对象可能由纸张组成,其中位置信息包括在如背景内。位置信息可以结合在任何形式的编码、光学表示内,或者其它形式,它可能由与输入装置相关的传感器感应到,并且用于表示纸张上特定地点的相对位置。
图4说明了用于对文档位置进行编码的说明性技术。在该例中,图像背景可能包括以大组形式观察时形成迷宫形图形的细线。迷宫设计内的每组细线都由具有唯一取向和相对位置的一些细线组成,它们指明迷宫图形的该部分相对于文档其它部分的位置。对被捕获图像内找到的迷宫图形的解码可能按照许多解码方案来进行。在一个实施例中,可能对细线的特定排列和组合进行解码以产生位置信息。在另一实施例中,可能通过从对应于被采样图形的图像中提取一编码、并且用该编码在包含标识该区域位置的数据的查找表中的地址,从而导出被捕获数据的位置表示。为了说明性目的而提供了采用迷宫图形的编码技术的参考,以及替代的有源编码技术,包括但不限于可视编码技术,它在美国序列号(BW 003797.00402),题为“Active Embedded Interaction Code”,发明人为王建、Qiang Wang、Chuihui Zhang和Yue Li,该发明内容完全通过引用被结合于此,可能还与本发明各方面一起使用。
无源编码
即使在缺乏位置编码时,也可能分析由图像传感器捕获的图像,从而在图像捕获时确定输入装置的位置。连续图像可能用来计算计算不同时间处输入装置的相对位置。该信息的相关可能产生输入装置在底层上的精确轨迹。用了该轨迹信息之后,可能产生精确表示书写笔画的电子墨迹。
图5提供了从中可能产生电子墨迹的轨迹图说明。在该例中,第一被捕获图像可能包含一部分迷宫图形,表示第一时间t1处输入装置的第一位置p1。下一被捕获图像可能包含一部分已编码图像数据,在该例中是不同部分的迷宫图形,提供第二时间t2处第二位置p2的位置信息。第三被捕获图像可能包含第三部分的迷宫图形,从而指示输入装置在第三时间t3处的第三位置p3。用了该数据之后,这三点可能表示从时间t1至t3输入装置的轨迹。应用估计由输入装置描绘的墨迹图案的算法可能产生电子墨迹。所应用算法的复杂度可能说明所产生墨迹的精确性。例如,基本墨迹算法可能简单地用粗细不变的直线连接点。可能处理分解先前采样点、采样间的时间或者其它表示输入被移动的速率或加速度的数据、表示所使用压力的数据、或者任何其它相关数据的算法,从而提供更准确地表示输入装置的实际移动的墨迹(例如,从其它传感器)。
由照相机304执行的光学扫描可能产生确定不同时间处输入装置位置所必要的数据,且该信息可能用来产生电子墨迹。在一个说明性实施例中,时间t1处被捕获图像与时间t2处被捕获图像的比较可能提供表示时间段t1至t2内笔从一点到另一点移动距离的信息。然后,这两点数据和/或所移动的相关距离可能用来产生输入装置的移动轨迹,用于产生表示书写笔画的电子墨迹。两个或多个图像、或被捕获图像的部分的比较用于计算相对移动,它们可能通过不同的分析来完成。在这种情况下,可能比较在不止一个图像中出现的特征,特征从那些图像内的一个位置到另一位置的相对移动可能提供笔移动的精确表示。如果使用不规则的采样周期,则可能修改处理算法来补偿采样周期内的变化,从而更精确地表示输入装置移动与每次移动所需的实际时间之间的相关。表示移动速率的信息可能帮助产生适当粗细的墨迹。
按照这种实施例,输入装置在其上移动的表面可能包括计算装置的显示器、鼠标垫、桌面、或任何不均匀反射表面,从中可能提取指示输入装置在该表面上移动的对象或图像数据。处理被捕获图像数据所用的跟踪算法可能是固定的,或者可能根据被捕获图像的特性而改变。例如,处理器可能用简单的处理算法来检测桌面木材内的纹理,并且根据由照相机捕获的一系列图像的比较,连续图像内特定纹理图案的相对位置可能用来确定不同时间下输入的位置和/或输入装置在该表面上的相对移动。在图像内的特征较不容易分辨出来以及图像更一致时可能需要更复杂的跟踪算法。也可能采用符合本发明各方面的其它无源编码技术,包括、但不限于美国序列号(BW 003797.00407)、题为“Passive Embedded Interaction Code”中所找到的编码技术,该专利由王建、当英农、吴江和马晓旭发明,其中内容通过引用被结合于此。
硬件结构
图6示出按照本发明一个实施例的系统硬件结构。前面实施例中所述的许多相同或相关的组件会用相同的标号来表示。处理器606可能由用于执行与本发明各方面相关的功能的任何已知处理器所组成。例如,处理器可能包括FPSLIC AT94S40、并且可能由带有AVR核心的FPGA组成。该特定的装置可能包括20MHz时钟并且工作在20MIPS的速度下。当然,输入装置601中所用的处理器的选择可能受费用和/或系统的处理速度要求所支配。处理器606可能执行图像分析,如果这种分析视作输入装置内执行的。或者,处理可能由第二处理器来执行,譬如结合在装置601内的数字信号处理器(DSP)。处理器606可能还用于执行对减少功耗是关键的步骤,从而保存存储在电源609内的功率,这是根据在输入装置不活动时关闭各组件电源所实现的。处理器606可能还用于校准和调整各组件的性能,包括调整光源强度或照相机604的传感阵列的灵敏度。同样,处理器,或耦合的数字信号处理器,可能从多个已存储图像处理算法中进行选择,并且可能被控制,从而按照与装置在其上移动的表面相关联的特性来选择最适用于检测移动的图像分析算法。这样,可能根据在输入装置内已编程的性能考虑来自动选择算法。或者,可能根据用户通过如压力传感器作用的选择输入或者根据相应于指令的书写笔画,来控制输入装置并建立设置。
在一实施例中,存储器607可能包括一个或多个RAM、ROM、闪存、或用于存储数据、存储用于控制装置的软件、或存储来自处理数据的软件的任何存储器装置。如上所述,表示位置信息的数据可能在输入装置601内被处理,并被存储在存储器607中,用于传输至主机计算机620。或者,被捕获的图像数据可能在输入装置601内的存储器607中被缓冲,用于传输至主机装置620进行处理或其它。
收发机608,即通信单元,可能包括一发射单元和一接收单元。如上所述,表示输入装置移动的信息或者被处理成适于产生和/或显示电子墨迹的形式、或者其它,该信息可能被发射至主机计算机620,如前述台式电脑、笔记本电脑、平板式PCTM、个人数字助理、电话、或对于用户输入和电子墨迹可能有用的其它这样的装置。收发机608可能用任何无线通信技术与外部装置进行通信,包括用于进行短距无线通信的蓝牙技术、红外通信、或者甚至蜂窝或其它长距无线技术。或者,收发机608可能控制数据在到主机计算机的直接链路上的传输,譬如在USB连接上,或者间接地通过坞站支架630的连接。输入装置到特定的主机计算机可能是使用专用连接的硬连线。收发机608还可能用于接收信息和/或软件,这在一个实施例中可能用于改进输入装置的性能。例如,用于更新处理器的控制功能的程序信息,或者可能通过任何前述技术来上载处理器。此外,软件也可能被发射至输入装置,包括可能从外部装置中下载用于分析图像数据和/或用于校准输入装置的软件。
处理器606可能按照交互模型而工作。交互模型可能以用于维持一致经验的软件形式实现,其中不考虑外部装置而产生电子墨迹,单元为该外部装置执行输入装置的功能。交互模型可能处理被捕获的数据,用于转换成普遍适用于任意数量的主机装置的形式,主机装置包括台式电脑、笔记本电脑、平板式PCTM、个人数据助理、电话、白色书写板、或可能存储、显示或记录通过输入装置输入的数据的任何装置。处理器606可能辨认与其相连、或者打算供其使用的表示书写输入的数据的装置,并且根据这种辨认选择把输入数据转换成适用于所辨认的特定装置的形式的处理。在这种情况下,输入装置内可能包含向有利于每个潜在受信计算装置的形式的转换,并且根据需要使该转换可用。对所需受信装置的识别可能由于装置间的通信而获得,只要它们无线或直接相连。或者,用户可能把装置身份直接输入到输入装置内,其中数据针对该该输入装置。当然,如果输入装置包括显示器,则可能用适合于显示器和/或许多其它装置一起使用的缺省处理算法来处理数据。
惯性传感器
如图7所述,除了上述用相同数字表示的组件之外,输入装置701还可能包括用于感应笔的移动、位置或方向的一个或多个惯性传感器715。例如,输入装置701可能包括陀螺仪,用于提供表示笔在多个方向内角速度的数据。输入装置701可能包括一个或多个加速度计、或者几组加速度计,用于测量笔上的加速度或重力。也可以用磁性传感器来获得表示笔移动的数据,磁性传感器通过检测地球磁场在测量中的变化而测量笔的移动,由于它根据图像数据之外的数据来检测输入装置的移动,因此这里被描述为惯性传感器。为了获得表示输入装置移动或位置的数据,并且从而产生用于产生电子墨迹的数据,来自与输入装置结合的任何惯性传感器的数据可能与来自照相机的数据一起使用,惯性传感器可能包括陀螺仪、加速计、磁性传感器、电感元件或用于测量输入装置移动的任何装置。
示例实现
I.输入装置可能用有源编码工作
A.有源编码为显示器或其它书写表面上输入的输入信息提供位置信息。
如上所述,其上定位和/或移去了输入装置的对象的表面可能包括已编码图像数据,它指明该表面内每个区域的位置或相对位置。对象可能包括如笔记本电脑等计算装置的显示器。在一个实施例中,文档可能从存储器中被调用并且被显示在屏幕上。该文档内可嵌入,譬如背景,可能有表示文档每一区域位置的信息。例如,文档的背景可能包括迷宫图形,它是唯一识别整个文档内每一区域的图形的足够大的部分。输入装置可能与已编码位置信息一起使用,即使在笔记本电脑的显示器不包括用于检测输入装置在屏幕上移动的传感器时,也能把注解或编辑添加至文档的特定位置处。这样,输入装置可能充当“有源输入装置”,使得与输入装置相关的传感器产生表示该输入装置位置的数据。
在一例中,结合在输入装置内的图像传感器捕获表示显示器屏幕表面的图像数据,输入装置在该表面上定位和/或移动。传感器捕获的图像包括表示输入装置相对位置的位置编码。随着用户关于所显示图像而移动,输入注解并且/或者对所显示的电子文档作出编辑,输入装置产生表示那些输入的信号以及表示那些输入要被结合在文档内位置的数据。也可以代替鼠标而用输入装置来实行笔记本电脑的控制,或者执行其它标准输入功能,包括光标的移动和选择的作用。
输入装置可能与处理软件一起使用,从而通过如删除文本和插入新文本来编辑文档。为了编辑显示在计算装置屏幕上的文档,用户把输入装置定位在屏幕上的期望位置处。为了删除文本,用户可能把输入装置定位在屏幕附近并且移动装置以删去所显示文本的图像。通过感应位置编码,可能处理图像以确定笔已经以碰击动作移动,并且识别与用户移动输入装置的位置对应的文本。因而,输入可能用来删除该数据。
其次,用户可能希望插入新文本。以相似的方式,用户可能在要插入新文本的位置处绘出用于插入文本的符号,譬如“胡萝卜”或倒置的“V”。用于把输入转化成图像数据和/或指令的处理软件存储在输入装置或主机计算机中,它们把该符号认作为用于插入文本的控制信号。有了输入装置的帮助之后,用户就能用书写下要插入的文本。
在替代的实施例中,用户可能加亮以添加注释,表示注解所关于的原始文本。例如,用于可能用屏幕上显示的下拉菜单或加亮按钮来选择要被加亮的文本。接着,输入装置在要被选择加亮的文本上拖动。然后,要与高亮的/所选的文本相关的评论可能被写在位于高亮文本附近位置处的显示器屏幕上。当操作完成时,用户可能选择完成输入注解所必须的提示。所有这些对文档的修改可能用输入装置创建,无论显示器是否包括用于检测输入装置移动的传感器。
对文档的修改可以以图像数据、电子墨迹或转化成文本的数据等形式被显示并且/或者被结合在文档内。输入到文本的转换可能以用户不可见的方式发生,使得文本在它被输入时显示在屏幕上的文档的显示内。或者,用户的笔迹可能出现在文档正文中。为了实现编辑的瞬时显示,表示笔移动的信息以及这种编辑的位置可能以进行状态被发送至膝上型装置。
如上所述,输入者的身份也可能被记录。例如,输入装置可能产生标识用户和/或特定的输入装置的信息。该身份信息可能附着在所产生的输入数据后。或者,这种标识信息可能作为被发送至主机装置的独立信号而被提供。
虽然上面说明性的实施了把输入装置在其上移动的表面标识为膝上型装置的显示,然而输入装置可能还起到用结合在任何对象表面内的编码来检测位置的作用,其中装置可在对象上移动。这样,可能创建结合位置编码的图像,并且/或者用输入装置与台式电脑的监视器、平板式PCTM、个人数据助理、电话、或可能显示信息的任何装置一起进行编辑。已编码信息也可能结合在透明层内,该透明层放置在这种装置的显示屏幕上,或者结合在可能与显示器一起使用的表面内,包括保护薄膜。
已编码信息还可能结合在写表面上或者写材料上,譬如纸张,从而唯一地识别该表面上的位置。例如,位置信息可能结合在纸张背景内。如上所述,位置信息可能包括任何形式的指示或者表示纸张上特定地点的相对位置的编码。因而,输入装置可能与已编码纸张一起使用,用以记录相应于用户在适当位置笔迹的信息。例如,仅装备有输入装置和结合已编码位置信息的写表面时,当乘在出租车内时,输入装置可能用来起草给客户的一封信。当用输入装置在纸张上写时,通过检测某些时间处输入装置位置的变化而认出相应于文本的手势或其它输入信息。然后,输入可能被转换成电子墨迹或其它电子数据,用以产生相应于那些手势的信息。输入的转换可能在产生那些输入时进行,或者在输入装置内,或者被与输入装置耦合的主机计算装置所接收。或者,这种转换可能稍后进行。例如,用输入装置产生的信息可能被存储在存储器中,并且被发送至受信者和/或主机计算机,用于稍后的适当处理。
无论那些输入是书写字母、符号、单词还是其它书写图像,用输入装置产生的数据可能结合在文档内由位置编码所标识的位置处。这样,即使缺乏格式化模板时,文档的草案,譬如前述的一封信,可能用位置信息来实现,该位置信息标识文档内要输入信息的位置。例如,可能在纸张上适当位置处输入起草者地址、受信者地址、信的主体和结束语、以及剩余部分。使用了由扫描仪捕获的已编码位置信息之后,形成对应于电子文档的内容的单词或其它图像被结合在适当位置处。
使用了已检测位置信息之后,输入装置可能还与主机计算装置交互动作,用于输入指令或者作出选择等等。当计算装置是便携式照相机或带有网页浏览属性的电话时,输入装置可能以输入笔或鼠标的方式被使用,用于从所显示的按钮或菜单中进行选择。因此,输入装置可能用于激活主机计算机的浏览器并且选择用于检索文件的选项,文件如前述的文档,即使是存储在远程的文档。使用了输入装置之后,用户可能选择下载包含用户所需信息的文件。接着,用户可能通过输入装置输入对已下载文件的注解。那些编辑可能被发送至从中下载文件的远程站,那里装备输入装置以进行与远程计算装置的通信。或者,假定输入装置正与主机计算装置进行通信,编辑可能用来编辑存储在输入装置和/或主机计算装置内的文件。
在另一实施例中,显示在主机计算装置监视器上的文件可能是用诸如EXCELTM这样的电子表单软件所产生的电子表单。位置编码可以用来使位置与电子表单内给定的单元相关联。用户可能在屏幕上显示的单元内输入一个数字。此时,输入装置捕获与输入装置位置相关的图像,并把该信息发送至主机计算装置。位于主机计算装置内的处理软件,例如,与电子表单软件一起工作,根据已检测的位置编码确定为输入所选的单元格的标识,并且相应地修改电子表单文档内容。
输入装置可能还用于恢复与特定手势或手势组合相关联的图像或其它预先存储的信息。例如,输入装置可能用来绘出一个符号,处理算法被编程以认出该符号。迷宫图形可能用于准确地检测输入装置在图形上的移动,使得可能检测到与这种移动相关的特定符号。例如,用户可能控制输入装置在纸张上绘出前面由用户标识的与公司标志相关的符号。迷宫图形可能标识对应于字母“M”,其后立即是字母“S”的移动的组合,这指示输入微软公司(Microsoft Corporation)的标志。结果,这种预先存储的信息可能通过输入一系列前面的输入而被输入到文档内。
B.有源编码可能提供位置信息,其中主机计算机装置包括用于感应输入装置移动的传感器
输入装置可能还被用作无源的输入装置。在该模式下,输入装置可能与一计算装置一起使用,该计算装置用如阻力感应来感知输入装置的移动。当输入装置与包括用以检测输入装置移动的传感器板的装置一起使用时,它可能以输入笔的方式起作用,这种装置如平板式PCTM或个人数据助理。使用了输入装置之后,可能用输入装置产生的电子墨迹或其它图像数据被定位很接近于屏幕的位置。可以以相似方式输入控制程序。此外,显示在特定计算装置的监视器上的图像可能还包括与表示该部分文档相对位置的编码相对应的数据。然后,用照相机从对象中提取的位置信息可能用来跟踪输入装置的移动,可以代替或与用计算装置的传感器检测到的移动相结合。
例如,用户可能希望建立或修改便携式计算装置上的图像,该计算装置已经有检测诸如平板式PCTM或个人数据助理等输入装置位置的能力。输入装置可能单独充当无源的输入装置,使得由计算装置产生表示输入装置移动的信息。然而,计算装置的传感器可能不能检测用户在给定情况下所需范围内笔的移动。例如,当用户在不稳定的车辆中旅游时,可能阻碍对用户输入的精确检测。当用户通过在计算装置的显示器表面上移动输入装置来编辑文件时,输入装置被挤推或转移离开传感器板一大段距离。即使由计算装置传感器产生的信号变得较不准确,然而由输入装置捕获的图像数据也可能用来检测输入装置在与计算装置表面平行的平面内的移动。即使计算装置的传感器不再能检测输入装置的移动,然而输入装置的图像传感器可能提供足够的信息来维持对输入装置移动的准确表示,从而反应用户所意图的输入。这样,即使当输入装置与具有感应输入装置移动能力的计算装置一起使用时,它可能或者充当无源输入装置,或者充当有源输入装置。
II.输入装置可能用无源编码技术来工作
A.无源编码提供用于在显示器或其它书写表面上输入信息的位置信息
输入装置可能还与任何纸张、书写表面或其它底层一起使用,用于记录相应于用户笔迹的信息。同样,由于仅装备有输入装置和书写表面,因此输入装置可能用来起草给客户的一封信。在这种情况下,用无源编码检测到手势,其中用嵌入在底层表面图像内的编码之外的编码检测到输入装置的移动。例如,用户可能在平坦的纸上起草这封信。当用户用输入装置书写时,图像传感器捕获纸张的图像。图像内的对象可能被标识,它们在一系列被捕获图像内的移动是可表示的移动。被感应的对象可能包括纸张表面上的人工产物或其它对象,可能对应于水印或纸张的其它缺陷。或者,纸张可能包括格线,它也可能用于计算笔在表面上的移动。即使在没有纸张时,也可能确定输入纸张的相对移动。输入装置可能在桌子表面上移动,木头的纹理提供了检测输入装置相对移动所需的对象。以类似于前述的方式,用户可能在纸张、或其上能光学检测到移动的任何表面上起草一封信。输入装置的移动可能被存储在存储器中,并且/或者被转化成表示那些手势的信息。
在还有一个实施例中,便携式装置可能作为便携式计算装置的代替。例如,工程师刚起草了对与她公司带头人相关的电路失败的解决办法后,但没有可用的膝上装置或其它计算装置,则工程师可能转到她的输入装置,用于记录在她乘火车去会面设计组其余成员途中的想法。为使大部分时间可用(且墨水盒已移去或者用笔帽代替),用户在她前方的椅背后构画出草图,表示对有问题的电子电路的修改。她激活了输入装置,把它设为产生构图的模式(可能包括如使转换不活动),并且开始构画表示问题解决方式的简化设计。然后,输入装置可能存储表示书写笔画的文件。切换到构画模式外后,可能在接着构画相关部分处略记注解和索引,以及那些结合在图像文件内的表项。例如,用户可能切换至注解模式,其中可以认出相应于字母的手势。这样,她可能把她提出的解决方案的描述与构画结合在一起。操作者可能选择把简图传送给设计组的其余人用于在计划的会议前完全了解,而非等到到达医疗研究中心以后再传送。这种传送可能以许多方式来实现,包括把修订的文档从输入装置加载至诸如蜂窝电话这样的便携式无线装置。然后,信息可用于产生诸如VISIOTM这样的图像文件。
一旦被传送给其余组员,则前述相应于简图的文件可能被显示在组员主机计算装置的监视器上。例如,图像和所附文本可能呈现在台式电脑的显示器上。通过把输入装置放置在监视器上所显示的图像附近,可以对那些所显示的图像添加附加注解。这样,可能通过测量图像内由输入装置的光学传感器所捕获到的对象相对移动而检测到输入装置的移动。输入装置产生的信号可能由存储在输入装置内的软件进行处理,或被传送至主机计算装置用于处理。已检测移动的处理可能产生电子墨迹、文本、或表示通过输入装置输入的注解的其它数据。
B.无源编码可能提供位置信息,其中主机计算装置包括用于感应输入装置移动的传感器
输入装置可能与计算装置一起使用,计算装置具有用于检测输入装置移动的传感器,即使在缺乏位置编码的情况下。例如,输入装置可能用作一信号源,用于在个人数据助理或为与输入笔一起使用而设计的计算装置上产生书写笔记。因此,在负有差事时,用户可能被提醒并且希望把一项目加入现有“要做事情列表”。用户检取存储在诸如个人数据助理等主机计算装置内的列表。把输入装置尖端放置在个人数据助理的显示器上后,用户能够遍历菜单,并且选择以检取期望的列表。看到该列表之后,用户可能在主机装置的屏幕上紧靠已完成任务描述的空白方框内打勾。输入装置捕获屏幕的图像,包括相应于方框的数据,并把该数据传送至主机计算装置。然后,主机计算装置用分析图像数据的处理算法来检测方框的形状,作为可以作出输入的对象。为了成功地输入打勾标记,可能处理图像数据以检测笔在方框区域上和区域内的移动,手势形成被辨识的“打勾”形状。然后,主机装置修改与列表相关的文件从而把打勾的表示包括在方框内。用户把输入装置放置在列表中最后一项后的空白上,然后输入描述附加项目的文本。主机装置的传感器检测输入装置的移动并且产生那些输入的数据的表示。输入被转换成文本并与空白方框一起显示给用户。
同样,微软阅读器(Microsoft Reader)的用户,例如读取指定小说的学生,可能希望在相关文本后略记下笔记。便携式主机装置的监视器上所显示的图像使用输入装置来加注解。例如,用户把输入装置定位在如平板式PCTM等主机计算机的监视器上,并且接着相关文本后输入书写笔记。手势被主机装置的传感器检测到,作为转换成图像数据的电子数据被存储,并且显示在屏幕上。笔记可能保持为书写形式或者可能被转换成字符形式。如果没有附加函数的作用可能不能看见笔记,譬如激活观察附加评论并把输入装置定位在高亮,或者存在注解的某些其它指示。然后,笔记可能被存储在分开的文件内,或者与主机计算机内存储到小说的电子版复制物一起存储。
III.附加传感器可能产生表示输入装置相对位置的附加信息
在还有一实施例中,来自形成部分输入装置的附加传感器的信息可能用来补充或完全代替其它形式的移动检测。这种附加传感器可能检测输入装置的线性加速度、角加速度、速率、旋转、压力、倾角、电磁场内的变化、或输入装置移动或位置的任何感应到的指示。这种信息可能帮助产生更准确的移动检测。或者,附加传感器可能仅提供在给定时间可用的信息。例如,输入装置可能与一般均匀的表面一起使用,譬如空白纸张。在这种情况下,光学传感器捕获到的图像可能提供不充足的信息来一致并准确地检测输入装置的移动。如果光学运动检测变得更难,譬如如果用于跟踪输入装置移动的对象变得更难以检测,则按照光学检测移动的一种实施例,来自附加传感器的附加信息可能用来提供更精细的运动检测。特别是,用于确定位置和/或移动的算法可能结合计算,用于在附加信息内分解,并且用于在光学运动检测时补充移动和/或位置检测。
如果光学检测未能提供有用的结果,则附加传感器可能提供能检测移动的仅有信息。例如,如果用户企图在照亮的工作台面的均匀白色台面上绘图,则光学传感系统可能提供表示移动的足够数据。这样,附加传感器可能提供足够的信息来产生输入信息可接受的准确表示。
例如,如果输入装置从被扫描的表面移动了足够距离,则光学传感器单元可能未捕获所提供图像的准确表示。这样,来自附加传感器的附加信息可能用来补充由对象的图像所获得的数据,输入装置在该对象上移动。这样,即使输入装置从显示器移动一英寸或更多,其中输入装置在显示器上移动(“z”轴),输入装置内的传感器就可能提供对显示器平面内笔的移动的表示,即,在水平和垂直方向上。
例如,与笔记本电脑一起使用的输入装置位于用户前面的托盘桌上。文档的图像显示在笔记本的屏幕上,其中迷宫图形结合在文档背景内。用户输入的注解以实心蓝色墨迹示出。随着飞机受到湍流,座位安全带标志出现。当用户够到笔记本电脑的键盘并且向注解添加另一单词时,他的手快速偏离开屏幕表面。尽管图像传感器可能未能准确地检测到形成所显示迷宫图形的线,然而结合在输入装置内的附加传感器测得x和y轴内的移动。
输入装置对文档存续期的影响
图8说明了按照本发明几个说明性实施例的输入装置的使用,其中用各环境内的输入装置进行创建、传送并且编辑文档。下面的描述仅说明了输入装置的使用,并且并非试图限制本发明的结构或功能。
输入装置可能通过允许在大范围环境中创建和/或编辑文档并且与许多这种结合使用而延伸文档的存续期。使用输入装置801后,可能在如所述平板式PCTM这样的一个计算装置的屏幕上电子创建文档802。例如,输入装置可能用来产生文档的书写草案。当输入装置充当平板式PCTM 803的输入笔时,产生与在平板式PC 803的屏幕上输入的信息相应的电子墨迹。电子墨迹可能被转换成文本形式,并被存储在平板式PC 803内。
表示文档的电子文件可能被传送至第二计算装置,譬如台式PC 804。在该环境中,可能用作为独立输入单元工作的输入装置在台式装置的屏幕上编辑该文档。由于输入装置感应到文档所显示图像内输入装置的相对位置,因此在台式装置屏幕上输入的编辑可能反映在电子文档中,即使显示器不包括用于感应输入装置位置的元件。用输入装置产生的编辑可能在产生时被传送至台式PC 804,或者可能被存储在输入装置中,用于稍后传送至任意PC。编辑可能输入存储在台式PC 804中的文档版本中。
所创建的文档可能以打印机的硬拷贝形式输出,打印机如与台式PC 804相连的打印机805。文档的硬拷贝806形式可能包括用如迷宫形式指明文档内任意位置处输入装置的相对位置的信息或编码。硬拷贝可能由一个或多个用户标记出来,各用户都具有一输入装置,且分开的输入装置产生每个用户的编辑。连同表示编辑的信息一起,也可能提供用于产生那些编辑的标识笔的信息。例如,输入可能用下划线的彩色文本反映出来,譬如在用于跟踪文档变化的应用中所找到的。编辑/输入可能从台式PC 804被转发至平板式PC 803,用于结合在该文档内。或者,编辑可能被存储在输入装置内并且稍后被上载。
文档可能还在纸张上输出,或者在不包括输入装置相对位置的指示的任意底层上输出。同样,硬拷贝可能由具有一输入装置的一个或多个用户所标记,且输入装置产生每个用户的编辑。在该例中,笔的位置或移动可能用编码技术来确定,编码技术用于光学地感应输入装置在纸张上的移动。如上所述,可以用比较算法来确定位置/移动,其中图像数据每帧内对象的相对位置被检测并且用于确定输入装置的移动。所产生的编辑可能被传送至其中产生原始文档的计算装置,例如,用于更新原始的数据文件。编辑可能通过计算装置被传送,譬如袖珍式(Pocket)PC 807,用于或者通过无线或有线通信、或者在计算装置内包含编辑的入坞装置上传送至目标装置。
电子文档可能还被传送至第二计算装置,譬如所述的平板式PC。在该环境中,可能用如简单输入笔这样的输入装置在平板式装置的屏幕上编辑该文档。那些输入可能从平板式PC被转发至计算装置,例如,当对文档作出注解或者编辑结合到该文档内时,该计算装置被用于存储文档的原始拷贝。
附加组件
虽然上述说明和附图说明了使用特定组件的实施例,然而组件的添加和/或移去也在本发明的范围内。同样,可能实现输入装置结构内各组件的再分配,而不会大大影响照相机或惯性传感器检测笔的移动并产生电子墨迹的准确性。例如,图像传感器可能用一传感装置来代替或补充,该传感装置用于检测该表面或对象的属性,其中输入装置在该表面上移动。这样,如果在对象表面上形成迷宫图形,使得根据可见光谱外的能量辐射检测到该图形,则这种能量的反射被传送至对象,或者其它这样的传感技术。表面的任意属性的感应可能被检测到并且用来确定输入装置在对象表面上的位置和/或移动。再举一例,可能采用麦克风传感系统,使得麦克风检测来自对象的声学反射或发射,其中输入装置定位在该对象上。
上面所述的说明性实施例已经描述了用笔的形状实现的输入装置。然而,本发明各方面可应用于任意形状和大小的输入装置中。
这种输入装置的使用应该启用任意位置处的个人计算。这样,带有所述输入装置的用户就能产生或编辑数据文件,而无论他们在何处。文档和其它信息可能在办公室环境中、教室、酒店中、甚至可在海滩上产生、编辑或记录。
如上所述,输入装置可能包括适当的显示器。或者,主机计算装置的显示器可能用来观看所创建的文档和图像。用户可能在输入如文本这样的信息前或后格式化文档,或者可能观看该文档并作出对文档格式的变化。在上例上下文中,如果观看在这种显示器上创建的文档,则用户可能在适当位置处插入一标题,包括他或她的地址。
尽管已经用所附权利要求定义了本发明,然而这些权利要求是说明性的,因为本发明可能试图以任意组合或子组合形式包括这里所述的元件和步骤。因而,有许多用于定义本发明的其它组合,它们以各种组合和子组合形式加入了来自本说明书的一个或多个元件,说明书还包括了权利要求和附图。相关领域的技术人员可以显而易见,按照本说明,本发明各方面的其它组合、或者单独或者与这里所定义的一个或多个元件或步骤组合在一起,可能作为对本发明的修改或替代,或者作为本发明的一部分。可以强调,这里所包含的发明说明书包括了所有这种修改和替代。例如,在各种实施例中,已示出对数据的某些顺序。然而,本发明包含了数据的任意顺序。同样,在使用诸如大小等某些属性单位(如,字节或比特)之处,也能预见到任意其它单位。