CN109478089A - 多模态触觉效果 - Google Patents
多模态触觉效果 Download PDFInfo
- Publication number
- CN109478089A CN109478089A CN201780041758.1A CN201780041758A CN109478089A CN 109478089 A CN109478089 A CN 109478089A CN 201780041758 A CN201780041758 A CN 201780041758A CN 109478089 A CN109478089 A CN 109478089A
- Authority
- CN
- China
- Prior art keywords
- input
- haptic
- haptic effect
- dynamic
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
实施例响应于用户输入(例如,基于压力的或其它手势)生成触觉效果。实施例接收与用户输入对应的第一输入范围并接收与第一输入范围对应的触觉简档。在触觉简档的第一动态部分期间,实施例生成基于第一动态部分期间的第一输入范围的值而变化的动态触觉效果。另外,在触觉简档的第一触发位置处,实施例生成触发的触觉效果。
Description
相关申请的交叉引用
本申请要求于2016年7月8日提交的美国临时专利申请序列号62/360,036的优先权,该申请的公开内容通过引用并入本文。
技术领域
一个实施例整体涉及触觉效果,并且特别地,涉及生成多模态触觉效果。
背景技术
诸如移动电话、智能电话、照相电话、照相机、个人数字助理(“PDA”)等的便携式/移动电子设备通常包括输出机制,以向用户警告关于设备发生的某些事件。例如,蜂窝电话通常包括用于可听见地向用户通知传入的电话呼叫事件的扬声器。可听见的信号可以包括特定的铃声、音乐曲调、声音效果等。此外,蜂窝电话和智能电话可以包括可以用于可视地向用户通知传入电话呼叫的显示屏幕。
在一些移动设备中,还向用户提供动觉反馈(诸如主动的力反馈和抵抗性的力反馈)和/或触感反馈(诸如振动、纹理和热量),更一般地被统称为“触觉反馈”或“触觉效果”。触觉反馈可以提供增强和简化用户界面的提示。具体而言,振动效果或振动触感触觉效果可以用于向电子设备的用户提供提示以向用户警告特定事件,或者提供真实反馈以创建在模拟或虚拟环境内的更强烈的感官沉浸。
发明内容
实施例响应于用户输入(例如,基于压力的或其它手势)而生成触觉效果。实施例接收与用户输入对应的第一输入范围并接收与第一输入范围对应的触觉简档。在触觉简档的第一动态部分期间,实施例生成动态触觉效果,该动态触觉效果基于第一动态部分期间的第一输入范围的值而变化。另外,在触觉简档的第一触发位置处,实施例生成被触发的触觉效果。
附图说明
图1是可以实现本发明的实施例的启用了触觉的多模态移动设备/系统的框图。
图2图示了用于响应于基于压力的输入提供触觉效果的实施例的图形表示。
图3图示了用于响应于基于压力的输入提供触觉效果的实施例的图形表示。
图4图示了根据一个实施例的利用多模态触觉效果模拟按钮按压的示例。
图5图示了根据一个实施例的利用多模态触觉效果模拟不同材料的示例。
图6图示了当用户在触摸屏的x-y轴平面中在图5的材料上滑动手指时模拟该材料的纹理的示例。
图7图示了根据本发明的实施例的颗粒合成工具。
图8是根据实施例的当生成多模态触觉效果时图1的系统的功能的流程图。
图9是根据实施例的当生成多模态触觉效果时图1的系统的功能的流程图。
图10图示了根据本发明的实施例的四个不同的机械开关的力简档和对应的触觉简档。
具体实施方式
本发明的实施例生成多模态触觉效果,其基于用户输入的范围与预先设计的静态触觉效果相组合来组合动态生成的触觉效果,该预先设计的静态触觉效果可以在用户输入的范围期间在某些阈值处被触发。多模态触觉效果可以响应于基于压力的输入和x-y轴位置输入二者而生成。多模态触觉效果可以用于当用户对真实世界元素的模拟施加压力或经过这些元素的表面时,模仿这些元素的真实世界物理属性,诸如材料或物理按钮的属性。
图1是可以实现本发明的实施例的启用了触觉的移动设备/系统10的框图。系统10包括安装在外壳15内的触敏表面或触摸屏11或其它类型的触敏用户界面,并且可以包括机械键/按钮13。系统10可以是包括触敏用户界面/触摸屏11的任何类型设备,包括智能电话、平板电脑、带触摸屏的台式机或笔记本计算机系统、游戏控制器、任何类型的可穿戴设备等。
系统10内部是在系统10上生成触觉效果的触觉反馈系统。触觉反馈系统包括处理器或控制器12。耦合到处理器12的是存储器20和耦合到触觉输出设备18的驱动电路16。处理器12可以是任何类型的通用处理器,或者可以是专门设计用于提供触觉效果的处理器,诸如专用集成电路(“ASIC”)。处理器12可以是操作整个系统10的同一个处理器,或者可以是单独的处理器。处理器12可以基于高级参数来决定要播放什么触觉效果和播放效果的次序。一般而言,定义具体触觉效果的高级参数包括幅度、频率和持续时间。诸如流式马达命令的低级参数也可以用于确定具体的触觉效果。如果触觉效果包括这些参数在生成该触觉效果时的某种变化或这些参数基于用户交互的变化,那么可以认为该触觉效果是“动态的”。
处理器12将控制信号输出到驱动电路16,驱动电路16包括用于向触觉输出设备18供应所需电流和电压(即,“马达信号”)以使得生成期望的触觉效果的电子组件和电路系统。系统10可以包括多于一个触觉输出设备18,并且每个触觉输出设备可以包括单独的驱动电路16,所有驱动电路16都耦合到公共的处理器12。存储器设备20可以是任何类型的存储设备或计算机可读介质,诸如随机存取存储器(“RAM”)或只读存储器(“ROM”)。存储器20存储由处理器12执行的指令,诸如操作系统指令。在这些指令中,存储器20包括多模态触觉效果生成模块22,该模块是当由处理器12执行时生成下面更详细公开的多模态触觉效果的指令。存储器20也可以位于处理器12内部,或者是内部和外部存储器的任何组合。
触摸表面或触摸屏11识别触摸,并且还可以识别触摸在表面上的位置和幅度。与触摸对应的数据被发送到处理器12(或系统10内的另一个处理器),并且处理器12解释触摸并且作为响应生成触觉效果信号。触摸表面11可以使用任何感测技术来感测触摸,包括电容感测、电阻感测、表面声波感测、压力感测、光学感测等。触摸表面11可以感测多触摸接触并且可以能够区分同时发生的多个触摸。触摸表面11可以是生成并显示图像(诸如键、按钮、拨号盘等)以供用户与之交互的触摸屏,或者可以是具有最少图像或没有图像的触摸板。
触觉输出设备18可以是生成触觉效果的任何类型的设备,并且可以物理地位于系统10的任何区域中,以能够为用户身体的期望区域创建期望的触觉效果。
在一个实施例中,触觉输出设备18是生成振动触感触觉效果的致动器。用于此目的的致动器可以包括电磁致动器,诸如其中偏心质块被马达移动的偏心旋转质块(“ERM”)、其中附连到弹簧的质块被来回驱动的线性谐振致动器(“LRA”)或者“智能材料”(诸如压电、电活性聚合物或形状记忆合金)。触觉输出设备18也可以是诸如静电摩擦(“ESF”)设备或超声表面摩擦(“USF”)设备之类的设备,或者是利用超声触觉换能器诱发声辐射压力的设备。其它设备可以使用触觉基板和柔性或可变形表面,并且设备可以提供投射的触觉输出,诸如使用空气喷射的一股空气等。触觉输出设备18还可以是提供热触觉效果(例如,加热或冷却)的设备。
虽然图1中示出了单个触觉输出设备18,但是一些实施例可以使用相同或不同类型的多个触觉输出设备来提供触觉反馈。一些触觉效果可以利用耦合到设备的外壳的致动器,并且一些触觉效果可以依次和/或一起使用多个致动器。例如,在一些实施例中,多个振动致动器和静电致动器可单独使用或一起使用以提供不同的触觉效果。在一些实施例中,触觉输出设备18可以包括可以被耦合到触敏表面11的螺线管或者其它力或位移致动器。另外,触觉输出设备18可以是刚性的或柔性的。
系统10还包括耦合到处理器12的传感器28。传感器28可以用于检测系统10的用户的任何类型的属性(例如,生物标记,诸如体温、心率等),或者用户的情境或当前情境的任何类型的属性(例如,用户的位置、周围的温度等)。
传感器28可以被配置为检测能量的形式或其它物理属性,诸如但不限于声音、移动、加速度、生理信号、距离、流量、力/压力/应变/弯曲、湿度、线性位置、朝向/倾斜度、射频、旋转位置、旋转速度、开关的操纵、温度、振动或可见光强度。传感器28还可以被配置为将检测到的能量或其它物理属性转换为电信号或表示虚拟传感器信息的任何信号。传感器28可以是任何设备,诸如但不限于加速度计、心电图、脑电图、肌电图、眼电图、腭电图、皮肤电反应传感器、电容传感器、霍尔效应传感器、红外传感器、超声传感器、压力传感器、光纤传感器、屈曲传感器(或弯曲传感器)、力敏电阻器、负载单元、LuSense CPS2 155、微型压力换能器、压电传感器、应变计、湿度计、线性位置触摸传感器、线性电位计(或滑块)、线性可变差动变压器、指南针、倾角仪、磁性标签(或射频辨识标签)、旋转编码器、旋转电位计、陀螺仪、通断开关、温度传感器(诸如温度计、热电偶、电阻温度检测器、热敏电阻或温度换能集成电路)、麦克风、光度计、高度计、生物学监测器、相机或光敏电阻器。
当用作压力传感器时,传感器28(其可以被集成在触摸屏11内)被配置为检测用户对触摸屏11施加的压力量。压力传感器28还被配置为将传感器信号传输到处理器12。压力传感器28可以包括例如电容传感器、应变计或力敏电阻器(“FSR”)。在一些实施例中,压力传感器28可以被配置为确定用户和触摸屏11之间的接触的表面面积。
系统10还包括允许系统10通过互联网/云50进行通信的通信接口25。互联网/云50可以为系统10提供远程存储和处理,并允许系统10与类似或不同类型的设备通信。此外,本文描述的任何处理功能可以由远离系统10并经由接口25通信的处理器/控制器执行。
实施例响应于对系统10的至少两种类型的输入提供触觉效果。一种类型的输入是大致沿着触摸屏11的Z轴的基于压力的输入。基于压力的输入包括在压力量增加或减少时压力值的范围。图2图示了用于响应于基于压力的输入而提供触觉效果的实施例的图形表示。在激活时,系统10监测预定义的压力值或“关键帧”P1、P2、P3、......PN。如果通过施加到表面的某个压力手势而检测到压力值P1,则系统可以采取某个动作或可以不采取某个动作,并继续监测压力值P2、P3、......PN。在该图中被称为和的静默关键帧确保在达到或超过这些压力值时触觉响应停止。当压力值落在P1和P2之间时,将不产生触觉效果并且不需要插值,因为两个静默关键帧之间的值构成静默期201。在关键帧P2和P3之间,系统提供在与关键帧P2和P3相关联的触觉输出值之间的插值202,以在伴随P2的触觉响应和伴随P3的触觉响应之间提供过渡触觉效果。插值和内插效果是用于调制或混合与多个指定的触觉反馈效果相关联的效果的特征。在另一个实施例中,如下面详细公开的,使用颗粒合成代替插值。
图2的功能提供了区分在压力增加时要播放的触觉效果和在压力减小时要播放的触觉效果的能力。图2的功能进一步防止了在压力增加太快时跳过触觉效果。例如,当压力从0变为最大时,将播放与中间时期压力水平相关联的所有效果。另外,在需要连续播放效果的情况下,将在效果之间实现静默间隙。
图3图示了用于响应于基于压力的输入提供触觉效果的实施例的图形表示。在一个实施例中,系统辨识P2是否是比P1更大或更小的幅度,并且可以基于所施加的压力是正在增加还是正在减小来提供不同的触觉响应。在一些实施例中,增加压力情况和减小压力情况导致两组不同的触觉响应,其中触觉响应301、302与减小压力施加对应并且触觉响应303、304与增加压力施加对应。在一些实施例中,增加压力情况将生成触觉响应,而减小压力情况将不产生触觉效果305。如图2中所示,可以响应于正在施加的多个压力水平而生成不同的触觉效果301-304。在其中效果插值不是预期结果的实施例中利用静默关键帧。当施加多个压力水平(即,P1、P2、P3、......PN)时,实施例确保生成与每个压力水平相关联的每个效果。在实施例中,可以在后续效果之间生成静默间隙,以确保用户能够区分和理解触觉反馈。
除了基于压力之外,另一种类型的输入是沿着触摸屏11的x-y轴的手势类型输入。手势是传达意义或用户意图的物体(例如,用户的手指或触控笔)的任何移动。将认识到的是,可以组合简单的手势以形成更复杂的手势。例如,使手指与触敏表面接触可以被称为“手指接触(finger on)”手势,而从触敏表面移除手指可以被称为单独的“手指移开(finger off)”手势。如果“手指接触”手势和“手指移开”手势之间的时间相对短,则组合手势可以被称为“短击(tapping)”;如果“手指接触”手势和“手指移开”手势之间的时间相对长,则组合手势可以被称为“长击(long tapping)”;如果“手指接触”手势和“手指移开”手势的二维(x,y)位置之间的距离相对大,则组合手势可以被称为“滑动”;如果“手指接触”手势和“手指移开”手势的二维(x,y)位置之间的距离相对小,则组合手势可以被称为“轻扫”、“涂抹”或“轻弹”。可以以任何方式组合任何数量的二维或三维简单或复杂的手势以形成任何数量的其它手势,包括但不限于多个手指接触、手掌或第一接触、或接近设备。手势还可以是由具有加速度计、陀螺仪或其它运动传感器的设备识别出的并且被转换为电子信号的任何形式的手部移动。这样的电子信号可以激活动态效果,诸如晃动虚拟骰子,其中传感器捕获生成动态效果的用户意图。与基于压力的输入一样,基于手势的输入可以与输入的范围相关联,诸如在触摸屏11上从点A到点B的滑动手势。
如所公开的,可以沿着输入的范围生成触觉效果。这些触觉效果可以被认为是动态触觉效果,并且可以使用插值或颗粒合成来生成。使用颗粒合成,输入可以产生或生成信号或波形的若干短切片,并且每个波形可以与包络组合以创建“颗粒”。可以并发地、顺序地或并发顺序地生成若干颗粒,并且颗粒可以被组合以形成“云”。然后可以使用云来合成触觉信号,并且随后可以使用触觉信号来生成触觉效果。在将颗粒合成应用于输入之前,可以通过频移或频移和滤波的组合来可选地修改输入。在一个实施例中,根据输入值(例如,压力、位置、行程距离)生成每次更新具有不同参数的各个颗粒。颗粒合成的附加细节在例如美国专利No.9,257,022中公开,该专利的公开内容通过引用并入本文。
如果用户输入是基于压力的,则动态触觉效果可以取决于用户输入是与增加的压力对应还是与减小的压力对应而变化。如果用户输入是滑动手势,则动态触觉效果可以取决于滑动手势的方向和速度而变化。如果用户输入包括基于压力的输入和滑动手势两者,则动态触觉效果可以基于速度和方向的不同组合而变化。
除了响应于基于范围的输入(例如,基于压力的输入或基于手势的输入)而生成动态触觉效果之外,实施例在沿着范围下降的某些预定义的“触发”点处添加附加的预先设计的“静态”触觉效果。触发点被定义在基于压力的输入的某些阈值处,或者在基于手势的输入的某些x-y轴坐标处,或者这两者的组合。通过沿范围组合动态触觉效果和静态触觉效果二者,整体触觉效果得到增强。例如,模拟材料(诸如木材)或机械按钮的触觉效果响应于“木材”或“按钮”上的压力而生成触觉效果。在该范围期间的某些点处,模拟的顺应性发生变化,例如当木材中的纤维发生应变或断裂时。触发的静态触觉效果有助于模拟顺应性。
图4图示了根据一个实施例的利用多模态触觉效果模拟按钮按压的示例。多个“按钮”401-405被显示在图1的压敏触摸屏11上。按钮401-405以图形方式显示以表示实际的物理按钮。通过用户在与按钮的放置对应的x-y轴坐标上沿着z轴施加压力,可以在触摸屏11上“按动”或“按下”每个按钮。通过多模态触觉反馈、音频反馈和视觉反馈的组合,可以提供关于按钮的状态以及它被“按动”多远的反馈,以创建按钮正在被向下按动的多感官幻觉。
每个按钮可以具有从低到高的施加的压力值的对应输入压力范围410。压力值可以基于实际压力或某种类型的“伪压力”计算(诸如对触摸屏与用户的接触量的测量(即,接触越多,压力越大))。
与压力范围410对应的是触觉简档/范围420,其包括通过颗粒合成生成的动态触觉效果的第一范围411(或“动态部分”),后面是触发静态预定义触觉效果的触发点412(或“触发位置”),后面是通过颗粒合成生成的动态触觉效果的第二范围413。触觉范围420用作物体(即,按钮401-405中的一个或多个)的触觉简档。基于这些范围,用户在按钮被沿着其行程范围按动时(411)将感觉到触觉效果、听到音频效果并且看到视觉效果,在按钮行程范围的底部/末端被遇到时(412)将体验到触发的触觉效果和/或声音效果和/或视觉效果,并且然后在按钮被完全按下之后用户进一步在按钮上按动时(413)体验到附加的动态和/或多感官效果。在物理按钮被完全按下之后,可能存在制造按钮的材料(例如,塑料)的一些顺应性,当甚至在已达到按钮的行程范围之后压力还增加时,该顺应性导致进一步的多感官反馈(在413处示出)。由于动态触觉效果和静态触觉效果的组合,“按钮”的移动模仿了真实按钮。
图5图示了根据一个实施例的利用多模态触觉效果模拟不同材料的示例。多种“材料”501被显示在压敏触摸屏11上,包括篮球、躲避球、海绵、聚苯乙烯泡沫塑料和皮革。材料501以图形方式显示以表示实际对应的物理材料。还示出了压力范围502和对应的触觉简档/范围503。在触觉范围503内,示出了与不同材料对应的不同触觉效果。每个触觉效果包括动态触觉效果(通过颗粒合成实现)与一个或多个触发的触觉效果的组合。由于503中的范围,在施加增加的压力时,可以模拟每种材料的顺应性。例如,海绵将相对容易按压,并且将提供一致的弹性。作为对照,聚苯乙烯泡沫塑料在任何压力下都提供相对坚硬的阻力,并且压力较大的部分将开始开裂/断裂,这将通过静态触发的效果来模拟。如果其中一种材料是木材,则顺应性效果可能更明显,如以下所公开的。当使用触发的静态触觉效果来模拟顺应性时,触发点将被显示在范围503上的对应材料的范围内,如针对海绵和聚苯乙烯泡沫塑料所示出的。
图6图示了当用户在触摸屏11的x-y轴平面中在图5的材料501上滑动手指或其它物体时模拟该材料的纹理的示例。在图6所示的示例中,用户正在从601中的躲避球穿过到603中的海绵,其中602处示出的过渡区在这些材料之间。在接触具体的材料时,使用颗粒合成来模拟材料的纹理。模拟材料的纹理的公开内容在美国专利No.9,330,544中公开,该专利的公开内容通过引入并入本文。当用户接近其中可能存在材料之间的间隙的过渡区时,诸如603处所示,触发静态触觉效果模拟间隙。然后,使用不同的颗粒合成来模拟下一种材料。在另一个实施例中,如果材料是地板中的木板,则将使用模拟木板纹理的动态触觉效果之间的静态触觉效果来模拟每个板之间的间隙。
图7图示了根据本发明的实施例的颗粒合成工具700。在图7中,示出了工具700的用户界面。工具700允许用户指定颗粒大小、颗粒密度、颗粒幅度、每个循环的最大颗粒和压力范围。工具700允许使用开始关键帧和结束关键帧进行参数渲染、反向渲染、从.xml文件加载预设、将新的触觉效果保存到.xml文件,以及针对不同的压力水平进行效果设计。工具700还允许效果参数设置的实时预览,使得效果设计者可以立即感觉到改变控制的(一个或多个)位置的结果。此外,工具700允许同步的音频反馈,由此音频信号与触觉信号一起被合成并且可以被创建为与其良好匹配。另外,工具700提供视觉叠加,使得可以在正在被模拟的材料的图像的情境中体验触觉和音频效果。
图8是根据实施例的当生成多模态触觉效果时图1的系统10的功能的流程图。在一个实施例中,多模态触觉效果生成模块22在由处理器12执行时执行功能。在一个实施例中,图8(以及下面的图9)的流程图的功能由存储在存储器或其它计算机可读或有形介质中的软件实现,并由处理器执行。在其它实施例中,功能可以(例如,通过使用专用集成电路(“ASIC”)、可编程门阵列(“PGA”)、现场可编程门阵列(“FPGA”)等)由硬件执行,或者由硬件和软件的任何组合执行。
在801处,接收以力检测的形式的用户输入(即,基于压力的输入)。在其它实施例中,用户输入可以是以x-y轴位置数据的形式而不是基于压力的。
在802处,实施例将输入与和输入相关联的物体的触觉简档进行比较。触觉简档是以触觉范围的形式,如图4的触觉范围420或图5的触觉范围503所示,并且提供与用户输入对应的触觉效果,并且与输入范围(例如,图4的输入范围410或图5的输入范围502)对应。在一个实施例中,触觉效果是至少一个动态触觉效果(在触觉简档的动态部分中)和至少一个触发的静态触觉效果(在触觉简档的触发位置处)的组合。
在803处,实施例将输入与触觉简档上的设计效果阈值或触发进行比较,并确定输入是否发生在设计的效果触发(例如,图4的触发412)处。例如,压力量可以与沿着传感器输入范围的触发位置对应。
如果在803处为是,则在804处,通过触觉输出设备播放设计的触觉效果。在一个实施例中,设计的触觉效果是可以被预定义的静态触觉效果。
如果在803处为否,则在805处,实施例检索动态触觉效果的参数值,并且在806处,基于参数值播放触觉效果。在一个实施例中,使用参数值作为输入,使用颗粒合成来生成动态效果。在另一个实施例中,使用参数值作为输入,使用插值生成动态效果。参数值可以在工具700中、在源代码中或通过其它手段来定义。
除了在801处的力/压力输入之外,输入也可以是以方向性、速度、加速度、提升、滚动,偏航等的形式,或者是设备可能遇到的任何类型的输入。设备可以包括手持和/或可穿戴设备。可穿戴设备可以包括例如手套、背心、帽子、头盔、靴子、裤子、衬衫、眼镜、护目镜、手表、珠宝、其它配件等。设备可以是物理结构或者设备可以作为增强现实或虚拟现实的一部分生成。检测输入的传感器可以是物理传感器,或者它们可以是虚拟传感器。输入可以对其上检测到输入的设备产生影响,或者对与受影响的设备物理或无线链接的另一个设备产生影响。
图9是根据实施例的当生成多模态触觉效果时图1的系统10的功能的流程图。在一个实施例中,多模态触觉效果生成模块22在由处理器12执行时执行功能。
在901处,实施例确定输入范围的数量。在一些实施例中,多个不同的触觉范围与相同的用户输入范围对应。例如,参考图4,除了当压力正在增加(即,用户正在按钮上按动)时的触觉范围420之外,当用户正在释放/减小按钮上的压力时,可能存在不同的触觉范围,以便为增加和减少压力创建不同的触觉效果。
因此,多个范围可以与不同的状态关联,诸如用于按钮预激活的一个效果范围、用于通过增加力进行按钮后激活的一个效果范围,以及用于通过减小力进行按钮后激活的一个效果范围。效果范围设置可以基于颗粒或由另一个手段定义的参数,其可以与其它元素关联或可以不与其它元素关联,诸如在游戏引擎内。可能存在包含参数值的一个或多个点(或关键帧),在这些点之间内插参数值。
在902处,实施例确定输入范围的数量是大于1还是等于1。
如果在902处存在一个输入范围,则在903处,实施例检索输入范围的开始值和结束值(例如,图4的触觉范围420的值)。在904处,实施例检索该范围中设计的效果的位置。例如,设计的/预定义的触觉效果可以以触觉基元(primitive)的形式存储在存储器中。可以使用存储器20用于存储,或者可以使用任何其它可用的存储位置,包括远程使用云存储。
如果在902处存在多于一个输入范围(例如,两个或更多个输入范围),则在905处,实施例检索每个输入范围的开始值和结束值。在906处,实施例检索每个范围的设计效果的位置。
在907处,实施例确定是否存在被设置为彼此调制的多个并发范围。例如,在一些情况下,可能存在具有其自己的模态简档、同时影响多模态输出的多个传感器输入。多模态效果被划分为不同的范围。每个范围可以使用根据输入值计算动态触觉效果参数的不同调制方法。每个范围的那些调制方法被存储在效果设置中。在播放效果时,应用将检查效果设置以查看当前输入值属于哪个范围,并基于该范围的调制方法来计算正确的触觉效果参数。
如果在907处为是,则在911处确定调制的方法。在912处,将该方法与核心范围进行比较。在913处,基于设置调制设计的效果。例如,屏幕上的滑动手势可能具有导致某个范围内的触觉幅度的模态简档,而当在移动设备时执行的相同滑动手势产生的触觉信号通过加速度计的输入与滑动手势组合来调制。
如果在907处为否,或在904或903之后,则实施例检查用户输入(例如,基于压力的或位置输入)。如果系统检测到用户输入,则实施例播放如图8中所描述的触觉效果。如果没有输入,则在909处不播放触觉效果。
结合在904和905处检索到的存储的设计效果,可能存在一个或多个设计的基础效果,并且它们可以是以具有预定义的触觉参数(诸如频率、幅度和持续时间)的触觉基元的形式。可以针对动态效果修改这些触觉基元或“基础效果”(例如,经由调制)。设计效果的值可以用于参数值。
动态效果可能需要修改强度、频率(即,信号宽度和/或信号宽度之间的间隙)和信号形状(例如,正弦波、三角波、方波、锯齿上升波或锯齿下降波)的基础效果。触觉设置的范围可以被存储为至少物体、表面、材料或基于物理的值(例如,重量、摩擦等)的属性。
实施例可以基于真实世界物体的简档生成基于物理的触觉简档(即,与用户输入对应的触觉范围)。图10图示了根据一个实施例的机械开关/按钮的简档,以及生成允许为模拟按钮生成触觉效果的触觉简档。图10图示了根据本发明的实施例的四个不同的机械开关的力简档1001-1004和对应的触觉简档。
在1001处,开关具有线性致动性,其带有操作点和复位点。在1002处,开关具有符合人体工程学的压力点,其带有操作点、复位点和压力点。在1003处,开关具有替代动作,其带有操作点和压力点。在1004处,开关具有压力点点击,其带有操作点、复位点和压力点。
实施例创建触觉设计参数到键行程模型的新映射。实施例允许由触发的触觉、音频和视觉效果表示的任意数量的临界点,以及利用与用于增加的压力的触觉映射与分开的用于减小的压力的触觉映射对滞后(hysteresis)进行建模。以这种方式,实施例允许利用数字触觉和音频反馈以生成等效体验的方式对来自机械键的力简档和音频简档进行建模。在图10中示出了示例映射1010-1012。
作为另一个示例,基于物理的触觉简档可以用于具有精细触感特征和粗糙触感特征的组合并且基于物体的物理属性的真实世界物体模拟。例如,可以模拟诸如木地板中的类型的薄木梁。木梁的模拟包括精细的触感特征,因此当梁通过顺应性相互作用弯曲时,木材内部的纤维可能发生应变或破裂,从而产生触感感觉。但是,可能难以对每个应变或断裂纤维进行建模并针对每个纤维应变事件输出触觉效果。设计这种相互作用不仅繁重,而且计算密集。相反,实施例可以使用从压力手势到动态效果参数的更高级映射来渲染精细触感特征。
木梁的模拟还包括粗糙触感特征,因此当梁弯曲某个量时,较大的纤维将开裂。这些开裂的触感感觉是高幅度、短持续时间的事件,具有一些包络性质(例如,侵蚀、衰减等)。这些事件可能有一些纹理元素,但它们在非常短的时间段内发生。这些可以通过触发的触觉、音频和视觉事件很好地模拟。使用用于精细触感特征的动态效果映射是不太实际的,因为需要在非常短时间的持续时间内定义关键帧。因此,将动态效果与静态触发的效果组合可以用于模拟材料的顺应性属性以及材料的其它音频、视觉和触觉属性。
如所公开的,实施例通过生成和输入范围以及包括动态触觉效果(例如,使用颗粒合成)和触发的静态触觉效果二者的对应触觉简档来模拟和模仿真实世界元素或组件。触觉效果的多模态组合对模拟例如响应于基于压力的输入的材料顺应性提供增强的感觉。另外,可以结合动态触觉效果或静态触觉效果生成音频和/或视觉反馈。
本文具体图示和/或描述了若干实施例。但是,应该认识到的是,在不脱离本发明的精神和预期范围的情况下,所公开的实施例的修改和变型由上述教导所覆盖并且在所附权利要求的权限内。
Claims (20)
1.一种响应于用户输入而生成触觉效果的方法,所述方法包括:
接收与用户输入对应的第一输入范围;
接收与第一输入范围对应的触觉简档;
在触觉简档的第一动态部分期间,生成基于第一动态部分期间的第一输入范围的值而变化的动态触觉效果;以及
在触觉简档的第一触发位置处,生成触发的触觉效果。
2.如权利要求1所述的方法,还包括:
在触觉简档的第二动态部分期间,生成基于第二动态部分期间的第一输入范围的值而变化的动态触觉效果。
3.如权利要求1所述的方法,其中,使用颗粒合成生成动态触觉效果的至少一部分。
4.如权利要求1所述的方法,其中,使用插值生成动态触觉效果的至少一部分。
5.如权利要求1所述的方法,其中,用户输入被施加到触摸屏,并且第一输入范围与由用户输入施加到触摸屏的压力的范围对应。
6.如权利要求1所述的方法,其中,用户输入被施加到触摸屏,并且第一输入范围与触摸屏上的触摸位置对应。
7.如权利要求1所述的方法,其中,触觉简档基于要被模拟的元素的物理属性。
8.如权利要求7所述的方法,其中,所述元素是按钮或材料中的一个。
9.如权利要求1所述的方法,还包括接收第二输入范围,其中,生成动态触觉效果包括调制第二输入范围的第一输入范围。
10.如权利要求1所述的方法,还包括结合动态触觉效果或触发的触觉效果的音频和/或视觉反馈。
11.如权利要求1所述的方法,其中,用户输入是基于压力的,并且动态触觉效果还基于用户输入是与增加的压力对应还是与减小的压力对应而变化。
12.如权利要求1所述的方法,其中,用户输入是滑动手势,并且动态触觉效果还基于滑动手势的方向和速度而变化。
13.如权利要求1所述的方法,其中,用户输入包括基于压力的输入和滑动手势二者。
14.一种具有存储在其上的指令的非瞬态计算机可读介质,所述指令当由处理器执行时使得所述处理器响应于用户输入而生成触觉效果,所述生成触觉效果包括:
接收与用户输入对应的第一输入范围;
接收与第一输入范围对应的触觉简档;
在触觉简档的第一动态部分期间,生成基于第一动态部分期间的第一输入范围的值而变化的动态触觉效果;以及
在触觉简档的第一触发位置处,生成触发的触觉效果。
15.如权利要求14所述的非瞬态计算机可读介质,还包括:
在触觉简档的第二动态部分期间,生成基于第二动态部分期间的第一输入范围的值而变化的动态触觉效果。
16.如权利要求14所述的非瞬态计算机可读介质,其中,使用颗粒合成生成动态触觉效果的至少一部分。
17.如权利要求14所述的非瞬态计算机可读介质,其中,使用插值生成动态触觉效果的至少一部分。
18.如权利要求14所述的非瞬态计算机可读介质,其中,用户输入被施加到触摸屏,并且第一输入范围与由用户输入施加到触摸屏的压力的范围对应。
19.如权利要求14所述的非瞬态计算机可读介质,其中,用户输入被施加到触摸屏,并且第一输入范围与触摸屏上的触摸位置对应。
20.一种启用了触觉的系统,包括:
处理器;
耦合到所述处理器的触觉输出设备;
耦合到所述处理器的用户界面;
其中,所述处理器在执行指令时:
接收与用户界面上的用户输入对应的第一输入范围,并接收与第一输入范围对应的触觉简档;
在触觉简档的第一动态部分期间,使用触觉输出设备生成基于第一动态部分期间的第一输入范围的值而变化的动态触觉效果;以及
在触觉简档的第一触发位置处,使用触觉输出设备生成触发的触觉效果。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662360036P | 2016-07-08 | 2016-07-08 | |
US62/360,036 | 2016-07-08 | ||
PCT/US2017/041089 WO2018009788A1 (en) | 2016-07-08 | 2017-07-07 | Multimodal haptic effects |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109478089A true CN109478089A (zh) | 2019-03-15 |
Family
ID=60910817
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780041758.1A Pending CN109478089A (zh) | 2016-07-08 | 2017-07-07 | 多模态触觉效果 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20180011538A1 (zh) |
EP (1) | EP3455704A4 (zh) |
JP (1) | JP2019519856A (zh) |
KR (1) | KR20190017010A (zh) |
CN (1) | CN109478089A (zh) |
WO (1) | WO2018009788A1 (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10503261B2 (en) * | 2017-12-15 | 2019-12-10 | Google Llc | Multi-point feedback control for touchpads |
US10684689B2 (en) | 2018-04-20 | 2020-06-16 | Immersion Corporation | Cross-platform dynamic haptic effect design tool for augmented or virtual reality environments |
US10572017B2 (en) * | 2018-04-20 | 2020-02-25 | Immersion Corporation | Systems and methods for providing dynamic haptic playback for an augmented or virtual reality environments |
KR102280916B1 (ko) * | 2019-05-24 | 2021-07-26 | 한양대학교 산학협력단 | 임의 위치에서 발생하는 진동 피드백 구현 장치 및 방법 |
US11714491B2 (en) * | 2021-06-07 | 2023-08-01 | Huawei Technologies Co., Ltd. | Device and method for generating haptic feedback on a tactile surface |
KR102504937B1 (ko) * | 2021-12-22 | 2023-03-02 | 현대건설기계 주식회사 | 건설장비의 원격조종 시스템 |
EP4242799A1 (en) * | 2022-01-28 | 2023-09-13 | Samsung Electronics Co., Ltd. | Electronic device for generating haptic signals, and method therefor |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101344828A (zh) * | 2007-07-12 | 2009-01-14 | 索尼株式会社 | 输入设备、存储介质、信息输入方法以及电子装置 |
US20110267181A1 (en) * | 2010-04-29 | 2011-11-03 | Nokia Corporation | Apparatus and method for providing tactile feedback for user |
CN103513766A (zh) * | 2012-06-14 | 2014-01-15 | 英默森公司 | 使用颗粒合成的触觉效果转换系统 |
CN103544002A (zh) * | 2012-07-11 | 2014-01-29 | 英默森公司 | 对于动态事件产生触觉效果 |
CN103562827A (zh) * | 2011-04-22 | 2014-02-05 | 英默森公司 | 电-振动触感显示器 |
CN103838423A (zh) * | 2012-11-20 | 2014-06-04 | 伊梅森公司 | 用于带有触觉效果的模拟物理交互的系统和方法 |
CN104375633A (zh) * | 2013-08-12 | 2015-02-25 | 意美森公司 | 用于触觉摆弄的系统和方法 |
CN104737096A (zh) * | 2012-05-31 | 2015-06-24 | 诺基亚公司 | 显示装置 |
CN104750309A (zh) * | 2013-12-31 | 2015-07-01 | 意美森公司 | 摩擦增强型控件和将触摸控制面板的按钮转换成摩擦增强型控件的方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9857872B2 (en) * | 2007-12-31 | 2018-01-02 | Apple Inc. | Multi-touch display screen with localized tactile feedback |
US20110267294A1 (en) * | 2010-04-29 | 2011-11-03 | Nokia Corporation | Apparatus and method for providing tactile feedback for user |
-
2017
- 2017-07-07 KR KR1020197000154A patent/KR20190017010A/ko not_active Application Discontinuation
- 2017-07-07 US US15/643,802 patent/US20180011538A1/en not_active Abandoned
- 2017-07-07 EP EP17824972.8A patent/EP3455704A4/en not_active Withdrawn
- 2017-07-07 CN CN201780041758.1A patent/CN109478089A/zh active Pending
- 2017-07-07 WO PCT/US2017/041089 patent/WO2018009788A1/en unknown
- 2017-07-07 JP JP2018565883A patent/JP2019519856A/ja active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101344828A (zh) * | 2007-07-12 | 2009-01-14 | 索尼株式会社 | 输入设备、存储介质、信息输入方法以及电子装置 |
US20110267181A1 (en) * | 2010-04-29 | 2011-11-03 | Nokia Corporation | Apparatus and method for providing tactile feedback for user |
CN103562827A (zh) * | 2011-04-22 | 2014-02-05 | 英默森公司 | 电-振动触感显示器 |
CN104737096A (zh) * | 2012-05-31 | 2015-06-24 | 诺基亚公司 | 显示装置 |
CN103513766A (zh) * | 2012-06-14 | 2014-01-15 | 英默森公司 | 使用颗粒合成的触觉效果转换系统 |
CN103544002A (zh) * | 2012-07-11 | 2014-01-29 | 英默森公司 | 对于动态事件产生触觉效果 |
CN103838423A (zh) * | 2012-11-20 | 2014-06-04 | 伊梅森公司 | 用于带有触觉效果的模拟物理交互的系统和方法 |
CN104375633A (zh) * | 2013-08-12 | 2015-02-25 | 意美森公司 | 用于触觉摆弄的系统和方法 |
CN104750309A (zh) * | 2013-12-31 | 2015-07-01 | 意美森公司 | 摩擦增强型控件和将触摸控制面板的按钮转换成摩擦增强型控件的方法 |
Also Published As
Publication number | Publication date |
---|---|
KR20190017010A (ko) | 2019-02-19 |
EP3455704A4 (en) | 2019-11-13 |
JP2019519856A (ja) | 2019-07-11 |
EP3455704A1 (en) | 2019-03-20 |
US20180011538A1 (en) | 2018-01-11 |
WO2018009788A1 (en) | 2018-01-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6616546B2 (ja) | ストレッチ特性を組み込んだ触覚デバイス | |
US10564730B2 (en) | Non-collocated haptic cues in immersive environments | |
US10775895B2 (en) | Systems and methods for multi-pressure interaction on touch-sensitive surfaces | |
CN109478089A (zh) | 多模态触觉效果 | |
CN104122996B (zh) | 用于支持触觉的紧贴式和多面显示器的系统和方法 | |
JP6431126B2 (ja) | モバイルデバイス上での共有されたフィードバックのための双方向性モデル | |
CN104375633B (zh) | 用于触觉摆弄的系统和方法 | |
US9715278B2 (en) | User interface device provided with surface haptic sensations | |
US20180093178A1 (en) | Systems and Methods for Performing Haptic Conversion |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20190315 |