CN113608661A - 一种人机交互方法及其交互平板、存储介质 - Google Patents
一种人机交互方法及其交互平板、存储介质 Download PDFInfo
- Publication number
- CN113608661A CN113608661A CN202110518817.8A CN202110518817A CN113608661A CN 113608661 A CN113608661 A CN 113608661A CN 202110518817 A CN202110518817 A CN 202110518817A CN 113608661 A CN113608661 A CN 113608661A
- Authority
- CN
- China
- Prior art keywords
- vibration
- touch
- signal
- vibration signal
- touch object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 230000003993 interaction Effects 0.000 title claims abstract description 52
- 230000002452 interceptive effect Effects 0.000 claims abstract description 137
- 230000005236 sound signal Effects 0.000 claims abstract description 97
- 238000012545 processing Methods 0.000 claims abstract description 19
- 238000001514 detection method Methods 0.000 claims description 99
- 238000001228 spectrum Methods 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 11
- 230000003044 adaptive effect Effects 0.000 claims description 9
- 238000001914 filtration Methods 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 6
- 230000004044 response Effects 0.000 claims description 5
- 230000003595 spectral effect Effects 0.000 claims 2
- 230000003287 optical effect Effects 0.000 description 26
- 238000010586 diagram Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 6
- 230000002238 attenuated effect Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 239000000463 material Substances 0.000 description 4
- 230000000644 propagated effect Effects 0.000 description 4
- 230000006399 behavior Effects 0.000 description 3
- 238000000354 decomposition reaction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 230000002829 reductive effect Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 239000005357 flat glass Substances 0.000 description 2
- 230000036961 partial effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000004033 plastic Substances 0.000 description 2
- 239000005060 rubber Substances 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 239000002023 wood Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明实施例提供了一种人机交互方法及其交互平板、存储介质,该方法包括:向扬声器发送音频信号,使得扬声器处于振动状态,同步采集扬声器接收到的音频信号,接受触摸物的触碰,检测到由交互平板的显示屏传输过来的第一振动信号,第一振动信号包含扬声器的振动和触摸物触碰显示屏发生的振动而产生的振动信号,振对第一振动信号进行处理,去除扬声器振动产生的振动信号,获得第二振动信号,判断第二振动信号是否满足触发交互平板对触摸物的触碰进行响应的条件,若满足,对触摸物的触碰进行响应,适配场景的需求,从而提高触控操作在该场景的表现,在书写的场景中,可以解决零高度书写的问题。
Description
技术领域
本发明实施例涉及触摸控制的技术领域,尤其涉及一种人机交互方法及其交互平板、存储介质。
背景技术
光学式的触控系统是交互平板采用的触控方式之一,如图1A所示,在光学式的触控系统中,光学触控传感器120一般设置于显示屏110的表面的两侧,光学触控传感器120传输的光信号在显示屏110的表面传播,通过分析触摸物(例如,手或笔)阻挡光信号的情况,计算触摸物在显示屏110表面的位置,生成触摸点数据,进而由交互平板对触摸数据进行进一步的处理,这些光学式的触控方式应用于业务时性能较差,示例性地,应用于书写的业务时,无法解决零书写高度的问题。
发明内容
本发明实施例提出了一种人机交互方法及其交互平板、存储介质,以解决在交互平板中光学式的触控系统性能较差的问题。
第一方面,本发明实施例提供了一种人机交互方法,应用于交互平板,所述交互平板包括红外检测装置,扬声器以及振动检测装置,所述方法包括:
所述交互平板的处理器向所述扬声器发送音频信号,使得所述扬声器处于振动状态;
所述振动检测装置的处理器同步采集所述扬声器接收到的音频信号;
所述交互平板的显示屏接受触摸物的触碰;
所述振动检测装置的传感器检测到由所述交互平板的显示屏传输过来的第一振动信号,所述第一振动信号包含所述扬声器的振动和所述触摸物触碰所述显示屏发生的振动而产生的振动信号;
所述振动检测装置的处理器对所述第一振动信号进行处理,去除所述扬声器振动产生的振动信号,获得第二振动信号;
判断所述第二振动信号是否满足触发所述交互平板对所述触摸物的触碰进行响应的条件;
若满足,所述交互平板对所述触摸物的触碰进行响应。
第二方面,本发明实施例还提供了一种交互平板,所述交互平板包括红外检测装置,扬声器以及振动检测装置;
所述交互平板的处理器,用于向所述扬声器发送音频信号,使得所述扬声器处于振动状态;
所述振动检测装置的处理器,用于同步采集所述扬声器接收到的音频信号;
所述交互平板的显示屏,用于接受触摸物的触碰;
所述振动检测装置的传感器,用于检测到由所述交互平板的显示屏传输过来的第一振动信号,所述第一振动信号包含所述扬声器的振动和所述触摸物触碰所述显示屏发生的振动而产生的振动信号;
所述振动检测装置的处理器,还用于对所述第一振动信号进行处理,去除所述扬声器振动产生的振动信号,获得第二振动信号;
判断所述第二振动信号是否满足触发所述交互平板对所述触摸物的触碰进行响应的条件;
所述交互平板,用于在满足所述条件时,对所述触摸物的触碰进行响应。
第三方面,本发明实施例还提供了一种交互平板,所述交互平板包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如第一方面所述的人机交互方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的人机交互方法。
在本实施例中,交互平板的处理器向扬声器发送音频信号,使得扬声器处于振动状态,振动检测装置的处理器同步采集扬声器接收到的音频信号,交互平板的显示屏接受触摸物的触碰,振动检测装置的传感器检测到由交互平板的显示屏传输过来的第一振动信号,第一振动信号包含扬声器的振动和触摸物触碰显示屏发生的振动而产生的振动信号,振动检测装置的处理器对第一振动信号进行处理,去除扬声器振动产生的振动信号,获得第二振动信号,判断第二振动信号是否满足触发交互平板对触摸物的触碰进行响应的条件,若满足,交互平板对触摸物的触碰进行响应,在触摸物触发触控操作时,可赋予触控操作更多一个维度的特征,丰富触控操作的含义,在部分场景下,如果区分触摸物是否触碰显示屏的表面具有更加积极的意义,那么,本实施例在实现检测触摸物是否触碰显示屏的表面的基础上区分响应触控操作的方式,适配场景的需求,从而提高触控操作在该场景的表现,在书写的场景中,可以解决零高度书写的问题。
附图说明
图1A为现有的一种触控信号及其报点的示例图;
图1B为现有的一种书写笔迹的示例图;
图2A为本发明实施例一提供的一种交互平板的人机交互方法的流程图;
图2B为本发明实施例一提供的一种触控检测的场景示意图;
图3A至图3D为本发明实施例一提供的一种书写笔迹的示例图;
图4是本发明实施例二提供的一种交互平板的人机交互方法的流程图;
图5是本发明实施例三提供的一种交互平板的人机交互方法的流程图;
图6为本发明实施例四提供的一种交互平板的结构示意图;
图7为本发明实施例五提供的一种交互平板的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
对于通过光学触控传感器来实现交互平板的触控功能,在本行业中一直存在长期的技术难题,即零书写高度的问题。所谓零书写高度是指:触摸物(例如手或笔)在显示屏上书写时,触摸物触碰到显示屏的表面时,才产生书写笔迹,触摸物在书写产生笔迹时与显示屏的表面的间距为零。
为了更好的理解零书写高度,结合图1A作进一步的说明,光学触控传感器120一般凸出显示屏110的表面,在发射或接收光信号时是存在一定高度范围的,从而在垂直方向上形成触控区域,其高度为H,在触摸物按下、抬起的阶段,会存在触摸物位于该触控区域内、但并未触碰到显示屏110表面的情况,此时依然会上报触摸点数据、执行相应的操作,如显示触摸物的书写笔迹。
从状态131、状态132至状态133描述触摸物按下的阶段,在状态131中,触摸物处于触控区域之上,并不会产生触控信号、并不会上报触摸点数据,在状态132中,触摸物处于触控区域中、接近显示屏110的表面但并未触碰到显示屏110表面,会产生触控信号、上报触摸点数据,在状态133中,触摸物处于触控区域中、已触碰到显示屏110,会产生触控信号、上报触摸点数据。
从状态133、状态134至状态135描述触摸物抬起的阶段,在状态134中,触摸物处于触控区域中、接近显示屏110的表面但并未触碰到显示屏110,会产生触控信号、上报触摸点数据,在状态135中,触摸物处于触控区域之上,并不会产生触控信号、并不会上报触摸点数据。
也就是,通过光学触控传感器来实现交互平板的触控功能,会存在一个书写高度,无法做到零书写高度。
由于用户日常使用的触控设备多为手机、平板电脑,这些触控设备多应用电阻式或电容式的触控操作,使得用户多习惯使用电阻式或电容式的触控操作,即触碰到显示屏时才会上报触摸点数据、执行相应的操作。
用户在维持使用电容式的触控操作的习惯的情况下,触发光学式的触控操作,在部分的业务场景下性能较差。
以书写笔迹为例,用户在显示屏书写笔迹,当手指在光学触控传感器的触控区域内、但并未触碰到显示屏时,就显示笔迹,但用户此时是可能是起笔或落笔,并非意图书写,显示起笔和落笔的笔迹会导致连笔,书写的字体就显得较为潦草。
例如,如图1B所示,若用户书写“正”,在书写第一横与第一竖之间存在连续的起笔与落笔141、在书写第二横结束时存在起笔142、在书写第二竖与第三横之间存在连续的起笔与落笔143,均存在较为明显的连笔。
当前针对这个技术问题的解决思路主要有两种:
一、尽可能降低书写高度,通过减低光学触控传感器凸出于显示屏表面的高度,来降低书写高度。
二、通过在触控笔设置压电传感器,当触控笔触碰到显示屏表面时,触控笔会产生压感数据,从而实现零书写高度。
然而,第一种方法,光学触控传感器位置即使再低,也必须凸出于显示屏表面,就必然存在一个光线信号的高度,也就仍然不能实现零书写高度;并且,这种方法要将光学触控传感器埋入在交互平板内,对交互平板的结构(如显示屏的盖板玻璃、背板等)要求内凹管控,避免显示屏及盖板玻璃外凸阻挡光学触控传感器的光线,成本及管控难度较高。
第二种方法,当触摸物不是触控笔,例如触摸物为手时,还是无法实现零书写高度;并且,触控笔与交互平板连接,占用交互平板有限的端口资源,影响传屏、投屏等操作。
实施例一
图2A为本发明实施例一提供的一种人机交互方法的流程图,本实施例可适用于在交互平板中、根据振动的信号检测触摸物触碰显示屏、从而进行响应的情况,该方法可以由交互平板来执行,该交互平板可以由软件和/或硬件实现,包括红外检测装置,扬声器以及振动检测装置等组件,具体包括如下步骤:
步骤201、交互平板的处理器向扬声器发送音频信号,使得扬声器处于振动状态。
交互平板配置有处理器,交互平板的处理器属于性能较高的运算模块。
例如,交互平板的处理器可以为Android(安卓)模块,即可安装Android(安卓)系统,配置CPU(Central Processing Unit,中央处理器)、GPU(Graphics Processing Unit,图形处理器)、RAM(random access memory,随机存取存储器)和ROM(Read-Only Memory,只读存储器)等组件,例如,针对Android7.0版本,CPU为双核A72与四核A53,GPU为Mali T860,RAM为4GB、ROM为32GB,等等。
又例如,交互平板的处理器可以为PC(personal computer,个人电脑)模块,配置有CPU、GPU、内存、硬盘等组件,例如,针对为插拔式Intel Core系列模块化电脑,CPU为Intel Core i5/i7,GPU为核显Intel HD Graphics,内存为DDR4 8G/16G,硬盘为128G/256G。
如图2B所示,在交互平板中,通常可以配置麦克风、扬声器201等音频处理组件,其中,麦克风学名为传声器,又称话筒、微音器,是将声音信号转换为电信号的能量转换器件,扬声器201又称喇叭,是把电信号转变为声信号的换能器件。
在某些场景中,交互平板与其他设备基于语音进行通信,例如,电话会议、视频会议、语音聊天、视频聊天,等等,此时,交互平板的处理器接收对端的设备发送的音频信号,并通过扬声器201进行播放,以及,交互平板的处理器通过麦克风接收音频信号,并传输至对端的设备。
在某些场景中,交互平板播放具有语音的文件,例如,在播放课件时,播放电影的片段或歌曲的片段,此时,交互平板的处理器可调用扬声器201播放该文件中的音频信号。
一般情况下,在扬声器中设置有磁铁、磁铁上围绕多个线圈,当不同的电子能量传至线圈时,线圈产生一种能量与磁铁的磁场互动,这种互动造成扬声器的纸盘振动,因为随着电子能量随时变化,喇叭的线圈会往前或往后运动,因此,扬声器的喇叭就会跟着运动,这些动作使空气的疏密程度发生变化而产生声音,因此,扬声器在播放音频信号时,通常会产生一定程度的振动,此时,扬声器处于振动状态。
步骤202、振动检测装置的处理器同步采集扬声器接收到的音频信号。
在扬声器播放音频信号的过程中,在扬声器播放每帧音频信号时,振动检测装置的处理器均可同步采集该帧音频信号。
步骤203、交互平板的显示屏接受触摸物的触碰。
交互平板配置有显示屏,例如,LED(Light Emitting Diode)显示屏、OLED(Organic Light-Emitting Diode)显示屏、LCD(Liquid Crystal Display)显示屏,等等,通过在显示屏表面的两侧设置光学触控传感器,可以构成触控显示屏。
如图2B所示,用户在使用触摸物203在显示屏的表面进行触碰、从而触发触控操作,例如,点击控件(如用于翻页的控件、用于暂停播放的控件等)、书写笔迹,等等。
可以理解的是,为了保护显示屏不被触摸物划伤,在显示屏中会设置玻璃盖板,因此,在本实施例中,显示屏的表面,可以指的是显示屏的玻璃盖板表面。
步骤204、振动检测装置的传感器检测到由交互平板的显示屏传输过来的第一振动信号。
如图2B所示,在交互平板中可传递振动的位置,如显示屏、交互平板的背面等,针对振动检测装置配置一个或多个传感器202,该振动检测装置的传感器202可用于检测振动,如压电传感器、骨传导传感器等。
除了扬声器在播放音频信号时产生一定程度的振动之外,用户在使用触摸物203触碰显示屏的表面、触发触控操作时,通常会产生一定程度的振动,因此,振动检测装置的传感器可检测在交互平板的显示屏的表面上产生的振动,从而产生第一振动信号,该第一振动信号包含扬声器的振动和触摸物触碰显示屏发生的振动而产生的振动信号。
步骤205、振动检测装置的处理器对第一振动信号进行处理,去除扬声器振动产生的振动信号,获得第二振动信号。
振动检测装置配置有处理器,振动检测装置的处理器可以与交互平板的处理器属于同一个处理器,也可以为独立于交互平板的处理器之外的其他处理器,本实施例对此不加以限制。
扬声器播放音频信号时产生的振动也可以传递至振动检测装置的传感器,从而对触摸物在触碰显示屏、触发触控操作时产生的振动造成干扰。
由于扬声器播放音频信号时产生振动的特性与触摸物在触碰显示屏、触发触控操作时产生振动的特性有所不同,为此,本实施例可基于这些特性上的区别,从第一振动信号去除扬声器的干扰,为便于区分,去除扬声器的干扰的第一振动信号可称之为第二振动信号。
在本发明的一个实施例中,步骤205包括如下步骤:
步骤2051、确定多个干扰路径。
在本实施例中,可将扬声器播放的音频信号时产生的振动称之为噪声信号,该噪声信号经过交互平板中各个组件的衰减之后,可到达振动检测装置的传感器,这种情况下,该噪声信号又可称之为回声信号。
一般来说,当扬声器和振动检测装置的传感器固定好之后,回声信号与噪声信号之间存在一个相对固定的衰减增益。
因此,可以确定扬声器与振动检测装置的传感器之间传递回声的路径,获得干扰路径,即干扰路径为以扬声器振动时的噪声信号作为回声信号传播时的路径。
扬声器播放的音频信号是实时变化的,使得扬声器播放的音频信号时产生的噪声信号也是实时变化的,但是,该变化的幅度较小,因此,在某些情况下,可以认为干扰路径是固定的值,在某些情况下,可以实时更新干扰路径。
在一种实时更新干扰路径的方式中,考虑到扬声器播放音频信号时产生的噪声信号与音频信号存在一定关联性的,例如,音频信号的音量越高、扬声器振动的幅度越大,音频信号的音调越高、扬声器振动的频率越高,等等,因此,在扬声器播放音频信号之前,通过内部的电路采集该待播放的音频信号,该音频信号可作为参考信号,用于计算干扰路径,对于视频会议等场景,该音频信号为对端发送至交互平板的语音信号。
如图2B所示,扬声器201播放音频信号是一个持续性的行为,连续播放多帧音频信号,用户使用触摸物203触发触控操作也是一个持续性的行为,连续触碰显示屏的表面,这些操作均可形成不同的振动信号,这些振动信号经过空间内多个原始路径传播衰减后,可在振动检测装置的传感器202处叠加形成第一振动信号,若将多帧音频信号经过多个原始路径传播衰减后,叠加形成第一振动信号,则可以基于第一振动信号与音频信号逆向计算原始路径。
其中,原始路径为以第一振动信号作为回声信号传播时的路径,该第一振动信号可能包含触摸物触发触控操作时产生的振动,也可能包含扬声器播放音频信号时产生的振动。
将第n(n为正整数)帧第一振动信号分解为第0帧至第K-1(K为正整数)帧原始路径与第n帧至第n-K+1帧音频信号之间的卷积,在已知当前帧第一振动信号、位于第二时间段中的多帧音频信号的情况下,可基于第n帧第一振动信号与第n帧至第n-K+1帧音频信号进行逆卷积,从而计算原始路径。
所谓卷积,可以指原始路径与音频信号相乘之后求和,对于相乘的原始路径与音频信号,原始路径的序号与音频信号的序号之和与当前帧第一振动信号的序号相等,表示如下:
其中,y为第一振动信号,w为原始路径,X为音频信号。
在较短的时间内,原始路径的变化较小,可以认为是相同的,那么,通过上述分解原始路径的方式可求解原始路径,尤其是初始的一帧或多帧原始路径。
对于同一时间,原始路径与干扰路径之间具有差异,但差异较小,因此,可对原始路径进行滤波处理,获得初始的干扰路径。
示例性地,可确定线性的自适应滤波器,将原始路径输入自适应滤波器进行处理,获得干扰路径。
其中,自适应滤波器是指根据环境的改变,使用自适应算法来改变滤波器的参数和结构的滤波器。
线性的自适应滤波就是对fe=f(fs)求解,建立回声信号的模型,进行回声消除,不断地调整该参数,使得估计值更加逼近真实的回声信号,估计值越逼近真实回声信号,回声消除效果就越好。
其中,fs=far-end signal(远端的语音信号),fe=far-end echo(远端的回声信号)。
当然,除了自适应滤波器之外,还可以使用其他滤波器对原始路径进行滤波处理,本实施例对此不加以限制。
步骤2052、将多帧音频信号经过多个干扰路径传播衰减后,叠加形成扬声器振动时的噪声信号。
如图2B所示,扬声器201播放音频信号是一个持续性的行为,连续播放多帧音频信号,播放音频信号的操作可形成不同的振动信号,这些振动信号经过空间内多个干扰路径传播衰减后,可在振动检测装置的传感器202处叠加形成噪声信号。
因此,计算第0帧至第K-1帧干扰路径与第n帧至第n-K+1帧音频信号之间的卷积,获得扬声器振动时第n帧的噪声信号,表示如下:
其中,echo为噪声信号,w'为干扰路径,X为音频信号。
其中,所谓卷积,可以指干扰路径与音频信号相乘之后求和,对于相乘的原始路径与音频信号,干扰路径的序号与音频信号的序号之和与当前帧噪声信号的序号相等。
步骤2053、将第一振动信号的当前帧信号减去噪声信号的当前帧信号,获得第二振动信号的当前帧信号。
在当前帧第一振动信号的基础上减去当前帧噪声信号,可以获得当前帧第二振动信号,表示如下:
e(n)=y(n)-echo(n)
其中,e为第二振动信号、y为第一振动信号,echo为噪声信号。
在本发明的一个实施例中,考虑到扬声器播放语音信号是逐帧变化的、触摸物的触控操作也是逐帧变化的,为此,可根据扬声器播放语音信号的变化、触摸物的触控操作的变化,可逐帧调整干扰路径,使得预估的干扰路径更加逼近真实的干扰路径,从而提高干扰路径的精确度,预估的干扰路径越逼近真实的干扰路径,去噪的效果就越好。
具体而言,在确定当前帧第二振动信号之后,可提取上一帧干扰路径,基于当前帧第二振动信号与当前帧音频信号计算更新信息,其中,该更新信息包括更新的方向与更新的幅度,从而按照更新信息更新上一帧干扰路径,获得当前帧干扰路径。
示例性地,计算当前帧第二振动信号、当前帧音频信号与预设的权重之间的乘积,作为更新信息,此时,干扰路径的更新表示如下:
w'(n)=w'(n-1)+μe(n)X(n)
其中,w'为干扰路径,e为第二振动信号,X为音频信号,μ为权重,通常情况下,0≤μ≤2。
在初始时,通过对原始路径进行滤波处理,获得干扰路径,那么,后续可以通过实时的当前帧第二振动信号与当前帧音频信号更新干扰路径,保持干扰路径的精确度,并且,更新之后的干扰路径可以作为第一时间段的干扰路径计算噪声信号,从而对第一振动信号进行去噪,获得精准的第二振动信号。
步骤206、判断第二振动信号是否满足触发交互平板对触摸物的触碰进行响应的条件;若满足,则执行步骤207。
步骤207、交互平板对触摸物的触碰进行响应。
触摸物是否触碰显示屏的表面,其振动的特性有所不同,因此,可以预先设置发交互平板对触摸物的触碰设置一个或多个条件,在去噪之后,可对第二振动信号的特性进行分析,判断第二振动信号是否满足该条件,从而判断触摸物是否触碰到显示屏的表面。
在部分场景中,区分触摸物是否触碰到显示屏的表面对于交互平板的触控操作应用具有积极的意义,例如,在触摸物触碰显示屏的表面时定义触碰触控、在触摸物未触碰显示屏的表面时定义悬浮触控,此时,可丰富触控操作的含义,触控操作会赋予触摸屏更多的表现力,从而提高触控操作的灵活性。
进一步地,对于书写的场景,在触摸物触碰到显示屏的表面时,可书写笔迹,在触摸物未触碰到显示屏的表面时,并不书写笔迹,从而解决零高度书写的问题。
以书写笔迹为例,用户在交互平板的显示屏书写笔迹,当手指在红外检测装置的触控区域内、但并未接触到显示屏时,就显示笔迹,但用户此时是可能是起笔或落笔,并非意图书写,显示起笔和落笔的笔迹会导致连笔,书写的字体就显得较为潦草。
如图3A所示,若用户书写“正”,在书写第一横与第一竖之间存在连续的起笔与落笔311、在书写第二横结束时存在起笔312、在书写第二竖与第三横之间存在连续的起笔与落笔313,均存在较为明显的连笔。
应用本实施例的方法,如图3B所示,若用户书写“正”字,区分触摸物触碰显示屏的表面(显示为实线)、触摸物未触碰显示屏的表面(显示为虚线),可见,在书写第一横与第一竖之间存在连续的起笔与落笔311、在书写第二横结束时存在起笔312、在书写第二竖与第三横之间存在连续的起笔与落笔313,均存在较为明显的连笔,这些连笔多为触摸物未触碰显示屏的表面时产生。
如图3C所示,在触摸物触碰到显示屏的表面时,可书写笔迹,在触摸物未触碰到显示屏的表面时,并不书写笔迹,此时,对于在书写第一横与第一竖之间存在连续的起笔与落笔311、在书写第二横结束时存在起笔312、在书写第二竖与第三横之间存在连续的起笔与落笔313,均可消除较为明显的连笔,使得“正”更为工整。
进一步地,如图3D所示,在区域321中,应用区分触摸物是否触碰显示屏的表面决定是否书写笔迹的方式,书写多个“正”字,在区域322中,应用在先的技术,直接响应触摸物绘制相应的笔迹,书写多个“正”字。
对比可见,区域321中的多个“正”字,连笔的情况大幅度减少,整体显得更加工整,而区域322中的多个“正”字,连笔的情况较为明显,整体显得更加潦草。
在具体实现中,可以通过实验预先设置门限值γ,将第二振动信号与预设的门限值γ进行比较,从而判断触摸物是否触碰到显示屏的表面。
若第二振动信号e大于门限值γ,表示第二振动信号e较大,则可以确定一个或多个触摸物触碰显示屏的表面,确定第二振动信号满足触发交互平板对触摸物的触碰进行响应的条件。
若第二振动信号e小于或等于门限值γ,表示第二振动信号e较小,则可以确定触摸物未触碰显示屏的表面,确定第二振动信号未满足触发交互平板对触摸物的触碰进行响应的条件。
在本实施例中,交互平板的处理器向扬声器发送音频信号,使得扬声器处于振动状态,振动检测装置的处理器同步采集扬声器接收到的音频信号,交互平板的显示屏接受触摸物的触碰,振动检测装置的传感器检测到由交互平板的显示屏传输过来的第一振动信号,第一振动信号包含扬声器的振动和触摸物触碰显示屏发生的振动而产生的振动信号,振动检测装置的处理器对第一振动信号进行处理,去除扬声器振动产生的振动信号,获得第二振动信号,判断第二振动信号是否满足触发交互平板对触摸物的触碰进行响应的条件,若满足,交互平板对触摸物的触碰进行响应,在触摸物触发触控操作时,可赋予触控操作更多一个维度的特征,丰富触控操作的含义,在部分场景下,如果区分触摸物是否触碰显示屏的表面具有更加积极的意义,那么,本实施例在实现检测触摸物是否触碰显示屏的表面的基础上区分响应触控操作的方式,适配场景的需求,从而提高触控操作在该场景的表现,在书写的场景中,可以解决零高度书写的问题。
其次,在书写等场景下,用户可以维持使用电阻式或电容式的触控操作,无需针对交互平板上额外学习新的触控操作的技巧,降低在交互平板上使用触控操作的成本。
再者,光学触控传感器可以维持凸出的设置,减缓或避免将光学触控传感器埋入在交互平板内,减缓或避免对交互平板的结构(如显示屏的玻璃、背板等)要求内凹管控,降低成本和管控难度,由于光学触控器可维持触控区域,可维持扫描到的信息,保持触控检测的精度。
实施例二
图4为本发明实施例二提供的一种交互平板的人机交互方法的流程图,本实施例以前述实施例为基础,进一步增加红外触控的操作,该方法具体包括如下步骤:
步骤401、交互平板的处理器向扬声器发送音频信号,使得扬声器处于振动状态。
步骤402、振动检测装置的处理器同步采集扬声器接收到的音频信号。
步骤403、启动红外检测装置,对触摸物的触碰进行检测并生成检测数据包。
红外检测装置为使用红外信号扫描触摸物的传感器,在本实施例中,该红外检测装置可用于在显示屏的表面使用红外信号检测触摸物,如用户的手指、触控笔等,在检测到触摸物的触碰时进,生成检测数据包。
从技术原理来区别,可以包括红外触摸技术、CCD(charge coupled device,电荷耦合器件)/CMOS(Complementary Metal Oxide Semiconductor,互补金属氧化物半导体)触摸技术、非全内反射触摸技术(Frustrated Total Internal Reflection,FITR)、激光平面触摸技术(Laser Light Plane,LLP),发光二极管平面多点触摸技术(Light emittingDiode Light Plane,LED-LP),等等。
以红外触摸技术为例,红外检测装置包括红外发射器与红外接收器,红外发射器用于发射红外信号,红外接收器用于接收红外信号,利用不同方向上密布的红外线信号形成光束栅格来定位触摸点。
显示屏安装带电路板的边框,作用是在显示屏的周围排布红外发射器和红外接收器,形成横竖交叉的光束栅格。
当触控物体遮断了红外信号,就会在相应红外接收器处引起光测量值的减弱,因而,可以判断出触摸点在屏幕的位置。
此外,在一个示例中,触控数据包括的触摸点数据至少有如下一项:
状态、触控ID、X坐标、Y坐标、宽、高。
在本示例中,触控数据包的数据格式如下:
状态可以包括如下至少一项数据:
可信度、保留参数。
可信度为可选的参数;
保留参数为保留的字段,可以根据业务场景的需求而添加所需的参数。
在本示例中,状态的数据格式如下:
步骤404、交互平板的显示屏接受触摸物的触碰。
步骤405、振动检测装置的传感器检测到由交互平板的显示屏传输过来的第一振动信号。
其中,第一振动信号包含扬声器的振动和触摸物触碰显示屏发生的振动而产生的振动信号。
步骤406、振动检测装置的处理器对第一振动信号进行处理,去除扬声器振动产生的振动信号,获得第二振动信号。
步骤407、判断第二振动信号是否满足触发交互平板对触摸物的触碰进行响应的条件;若满足,则执行步骤408。
步骤408、交互平板根据检测数据包对触摸物的触碰进行响应。
在本实施例中,交互平板可分析检测数据包的内容,从而对触摸物的触碰进行响应,实现触控操作。
在一个示例中,当触摸物的触碰为书写操作时,红外检测装置发送检测数据包给交互平板的处理器,交互平板的处理器根据检测数据包生成触摸物的触碰坐标数据,即,交互平板的处理器滤除触摸物未触碰显示屏的表面(第二振动信号未满足触发交互平板对触摸物的触碰进行响应的条件)时记录的检测数据包,剩余触摸物触碰到显示屏的表面(第二振动信号满足触发交互平板对触摸物的触碰进行响应的条件)时记录的检测数据包,从该检测数据包中X坐标、Y坐标,得到触摸物的触碰坐标数据。
若解析得到触碰坐标数据,则可以在显示屏上沿该触碰坐标数据显示触摸物的书写笔迹,可实现零高度书写。
在另一个示例中,当触摸物的触碰为书写操作时,持续获得基于书写操作生成的检测数据包及检测数据包的生成时间(即,在生成检测数据包时记录的时间),确定振动检测装置的处理器获得满足前述条件的第二振动信号的产生时间(即,在产生满足前述条件的第二振动信号时记录的时间),将检测数据包的生成时间与满足前述条件的第二振动信号的产生时间进行比较,若生成时间位于产生时间之前,在该生成时间内、触摸物未触碰显示屏的表面,若生成时间位于产生时间之后,在该生成时间内、触摸物触碰到显示屏的表面,因此,对生成时间在产生时间之后的检测数据包进行响应,即,沿生成时间在产生时间之后的检测数据包中的坐标数据(X坐标、Y坐标)显示触摸物的书写笔迹,可实现零高度书写。
实施例三
图5为本发明实施例三提供的一种交互平板的人机交互方法的流程图,本实施例以前述实施例为基础,进一步增加识别触摸物的类型的操作,该方法具体包括如下步骤:
步骤501、交互平板的处理器向扬声器发送音频信号,使得扬声器处于振动状态。
步骤502、振动检测装置的处理器同步采集扬声器接收到的音频信号。
步骤503、交互平板的显示屏接受触摸物的触碰。
步骤504、振动检测装置的传感器检测到由交互平板的显示屏传输过来的第一振动信号。
其中,第一振动信号包含扬声器的振动和触摸物触碰显示屏发生的振动而产生的振动信号。
步骤505、振动检测装置的处理器对第一振动信号进行处理,去除扬声器振动产生的振动信号,获得第二振动信号。
步骤506、判断第二振动信号是否满足触发交互平板对触摸物的触碰进行响应的条件;若满足,则执行步骤507。
步骤507、查找样本振动信号。
在本实施例中,可以对交互平板配置不同类型的触摸物,不同类型的触摸物的材质有所不同,例如,木、塑料、橡胶,等等,这些触摸物可以是生产该交互平板的厂商配置的,也可以是用户配置的,在同一触摸物中,可以包含单一的材质、也可以同时包含多个材质,例如,在触摸笔的一头以塑料制作、在触摸笔的另一头以橡胶制作,等等,本实施例对此不加以限制。
不同的触摸物触碰显示屏的表面时产生的振动的特性有所不同,可以预先在交互平板调用扬声器未播放音频信号的条件下,为这些触摸物录入样本振动信号,即样本振动信号是在扬声器未播放音频信号的条件下、振动检测装置的传感器检测到指定类型的触摸物触碰显示屏的振动信号,其表示在交互平板调用扬声器未播放音频信号的条件下、指定类型的触摸物触碰交互平板的表面。
这些样本振动信号可存储在交互平板本地的数据库中,在触摸物触发触控操作时,可从数据库读取该样本振动信号。
步骤508、将第二振动信号与样本振动信号进行匹配。
步骤509、若匹配成功,则确定触摸物属于样本振动信号对应的类型。
步骤510、基于类型对触摸物的触碰进行响应。
不同类型的触摸物的材质有所不同,使得不同类型的触摸物振动时的特性有所不同,因此,可预先从各个样本振动信号提取特征,以及,可以提取第二振动信号的特征,依次将第二振动信号的特征与每个样本振动信号的特征进行匹配,如果第二振动信号的特征与某个样本振动信号的特征匹配成功,则可以提取该样本振动信号所属触摸物的类型,将该类型赋予当前在交互平板上触发触控操作的触摸物,从而触发预先为该类型的触摸物定义的响应,例如,书写第一样式(如红色)的笔迹、书写第二样式(如绿色)的笔迹、擦拭笔迹,等等。
示例性地,一方面,可以通过傅里叶变换(Discrete Fourier Transform,DFT)、短时傅里叶变换(short-time Fourier transform,或,short-term Fourier transform,STFT)等方式将第二振动信号转换为频谱图,作为第二振动信号的特征,为便于区分,该频谱图可称之为目标频谱信号,其中,傅里叶变换能反映第二振动信号中频率的均值,无法反映频率随时间变化的动态特征,而短时傅里叶变换通过给第二振动信号添加窗口克服这一弱点,既能反映第二振动信号的频率强度,又能反映频率强度随时间的变化。
另一方面,预先通过傅里叶变换、短时傅里叶变换等方式将样本振动信号转换为频谱图,作为样本振动信号的特征,为便于区分,该频谱图可称之为样本频谱信号,该样本频谱信号可以替代样本振动信号存储在数据库中、以表征样本振动信号,因此,待匹配样本振动信号时,可在数据库中查找由样本振动信号转换的样本频谱信号。
计算目标频谱信号与样本频谱信号之间的相似度,若相似度满足预设的匹配条件,则可以确定第二振动信号与样本振动信号匹配成功。
其中,匹配条件可以包括如下至少一种:
相似度最高、相似度大于阈值。
在本发明实施例中,查找样本振动信号,样本振动信号表示在交互平板调用扬声器未播放音频信号的条件下、指定类型的触摸物触碰交互平板的表面,将第二振动信号与样本振动信号进行匹配,若匹配成功,则确定触摸物属于样本振动信号对应的类型,从而基于类型对触摸物的触碰进行响应,在部分场景下,如果区分触摸物的类型具有更加积极的意义,那么,本实施例基于在交互平板的显示屏的表面检测到的振动特性,区分不同类型的触摸物,可以基于不同类型的触摸物区分不同的响应触控操作的方式,适配场景的需求,从而提高触控操作在该场景的表现。
例如,在书写的场景下,可以对于不同类型的触摸物区分笔迹的颜色、笔迹的粗细等配置,使得可以区分不同的用户书写的内容,无需不同的用户在交替书写时,频繁切换书写的配置。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
实施例四
图6为本发明实施例四提供的一种交互平板的结构框图,所述交互平板600包括红外检测装置610,扬声器620以及振动检测装置630;
所述交互平板600的处理器601,用于向所述扬声器620发送音频信号,使得所述扬声器620处于振动状态;
所述振动检测装置630的处理器631,用于同步采集所述扬声器620接收到的音频信号;
所述交互平板600的显示屏602,用于接受触摸物的触碰;
所述振动检测装置630的传感器632,用于检测到由所述交互平板600的显示屏602传输过来的第一振动信号,所述第一振动信号包含所述扬声器620的振动和所述触摸物触碰所述显示屏602发生的振动而产生的振动信号;
所述振动检测装置630的处理器631,还用于对所述第一振动信号进行处理,去除所述扬声器620振动产生的振动信号,获得第二振动信号;
判断所述第二振动信号是否满足触发所述交互平板对所述触摸物的触碰进行响应的条件;
所述交互平板600,用于在满足所述条件时,对所述触摸物的触碰进行响应。
在本发明的一个实施例中,所述红外检测装置610,用于对所述触摸物的触碰进行检测并生成检测数据包。
在本发明的一个实施例中,所述红外检测装置610,还用于当所述触摸物的触碰为书写操作时,发送所述检测数据包给所述交互平板600的处理器601;
所述交互平板600的处理器601,还用于根据所述检测数据包生成所述触摸物的触碰坐标数据,在所述显示屏上显示所述触摸物的书写笔迹。
在本发明的一个实施例中,所述交互平板600还用于:
当所述触摸物的触碰为书写操作时,持续获得基于所述书写操作生成检测数据包及所述检测数据包的生成时间;
确定所述振动检测装置的处理器获得满足所述条件的所述第二振动信号的产生时间;
对所述生成时间在所述产生时间之后的检测数据包进行响应。
在本发明的一个实施例中,所述振动检测装置630的处理器631包括:
干扰路径确定模块,用于确定多个干扰路径,所述干扰路径为以所述扬声器振动时的噪声信号作为回声信号传播时的路径;
噪声信号叠加模块,用于将多帧所述音频信号经过多个所述干扰路径传播衰减后,叠加形成所述扬声器振动时的噪声信号;
信号相减模块,用于将所述第一振动信号的当前帧信号减去所述噪声信号的当前帧信号,获得第二振动信号的当前帧信号。
在本发明的一个实施例中,所述噪声信号叠加模块包括:
卷积计算模块,用于计算第0帧至第K-1帧所述干扰路径与第n帧至第n-K+1帧所述音频信号之间的卷积,获得扬声器振动时第n帧的噪声信号。
在本发明的一个实施例中,所述振动信号去噪模块503还包括:
信号分解模块,用于若将多帧所述音频信号经过多个原始路径传播衰减后,叠加形成所述第一振动信号,则基于所述第一振动信号与所述音频信号计算所述原始路径,所述原始路径为以所述第一振动信号作为回声信号传播时的路径;
滤波处理模块,用于对所述原始路径进行滤波处理,获得干扰路径。
在本发明的一个实施例中,所述信号分解模块包括:
第一振动信号分解模块,用于将第n帧所述第一振动信号分解为第0帧至第K-1帧所述原始路径与第n帧至第n-K+1帧所述音频信号之间的卷积;
逆向计算模块,用于基于第n帧所述第一振动信号与第n帧至第n-K+1帧所述音频信号计算所述原始路径。
在本发明的一个实施例中,所述滤波处理模块包括:
自适应滤波器确定模块,用于确定线性的自适应滤波器;
线性滤波模块,用于将所述原始路径输入所述自适应滤波器进行处理,获得干扰路径。
在本发明的一个实施例中,所述振动检测装置630的处理器631还包括:
干扰路径提取模块,用于提取上一帧所述干扰路径;
更新信息计算模块,用于基于当前帧所述第二振动信号与当前帧所述音频信号计算更新信息,所述更新信息包括更新的方向与更新的幅度;
干扰路径更新模块,用于按照所述更新信息更新上一帧所述干扰路径,获得当前帧所述干扰路径。
在本发明的一个实施例中,所述更新信息计算模块包括:
乘积计算模块,用于计算当前帧所述第二振动信号、当前帧所述音频信号与预设的权重之间的乘积,作为更新信息。
在本发明的一个实施例中,所述振动检测装置630的处理器631包括:
门限值比较模块,用于将所述第二振动信号与预设的门限值进行比较;
门限值确定门口,用于若所述第二振动信号大于所述门限值,则确定所述第二振动信号满足触发所述交互平板对所述触摸物的触碰进行响应的条件。
在本发明的一个实施例中,所述交互平板600包括:
样本振动信号查找模块,用于查找样本振动信号,所述样本振动信号表示在所述交互平板调用扬声器未播放音频信号的条件下、指定类型的触摸物触碰交互平板的表面;
样本振动信号匹配模块,用于将所述第二振动信号与所述样本振动信号进行匹配;
类型确定模块,用于若匹配成功,则确定所述触摸物属于所述样本振动信号对应的类型;
类型响应模块,用于基于所述类型对所述触摸物的触碰进行响应。
在本发明的一个实施例中,所述样本振动信号匹配模块包括:
目标频谱信号转换模块,用于将所述第二振动信号转换为目标频谱信号;
样本频谱信号查找模块,用于查找由所述样本振动信号转换的样本频谱信号;
相似度计算模块,用于计算所述目标频谱信号与所述样本频谱信号之间的相似度;
匹配条件确定模块,用于若所述相似度满足预设的匹配条件,则确定所述第二振动信号与所述样本振动信号匹配成功。
本发明实施例所提供的交互平板可执行本发明任意实施例所提供的人机交互方法,具备执行方法相应的功能模块和有益效果。
实施例五
图7为本发明实施例四提供的一种交互平板的结构示意图。图7示出了适于用来实现本发明实施方式的示例性交互平板12的框图。图7显示的交互平板12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图7所示,交互平板12以通用计算设备的形式表现。交互平板12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
交互平板12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被交互平板12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。交互平板12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图7未显示,通常称为“硬盘驱动器”)。尽管图7中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如存储器28中,这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
交互平板12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该交互平板12交互的设备通信,和/或与使得该交互平板12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且,交互平板12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与交互平板12的其它模块通信。应当明白,尽管图中未示出,可以结合交互平板12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的交互平板的人机交互方法。
实施例六
本发明实施例六还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述交互平板的人机交互方法的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
其中,计算机可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (17)
1.一种人机交互方法,其特征在于,应用于交互平板,所述交互平板包括红外检测装置,扬声器以及振动检测装置,所述方法包括:
所述交互平板的处理器向所述扬声器发送音频信号,使得所述扬声器处于振动状态;
所述振动检测装置的处理器同步采集所述扬声器接收到的音频信号;
所述交互平板的显示屏接受触摸物的触碰;
所述振动检测装置的传感器检测到由所述交互平板的显示屏传输过来的第一振动信号,所述第一振动信号包含所述扬声器的振动和所述触摸物触碰所述显示屏发生的振动而产生的振动信号;
所述振动检测装置的处理器对所述第一振动信号进行处理,去除所述扬声器振动产生的振动信号,获得第二振动信号;
判断所述第二振动信号是否满足触发所述交互平板对所述触摸物的触碰进行响应的条件;
若满足,所述交互平板对所述触摸物的触碰进行响应。
2.根据权利要求1所述的人机交互方法,其特征在于,在所述交互平板的显示屏接受触摸物的触碰之前,所述方法还包括:
启动红外检测装置,对所述触摸物的触碰进行检测并生成检测数据包。
3.根据权利要求2所述的人机交互方法,其特征在于,所述交互平板对所述触摸物的触碰进行响应,包括:
当所述触摸物的触碰为书写操作时,所述红外检测装置发送所述检测数据包给所述交互平板的处理器;
所述交互平板的处理器根据所述检测数据包生成所述触摸物的触碰坐标数据,在所述显示屏上显示所述触摸物的书写笔迹。
4.根据权利要求2所述的人机交互方法,其特征在于,所述交互平板对所述触摸物的触碰进行响应,包括:
当所述触摸物的触碰为书写操作时,持续获得基于所述书写操作生成检测数据包及所述检测数据包的生成时间;
确定所述振动检测装置的处理器获得满足所述条件的所述第二振动信号的产生时间;
对所述生成时间在所述产生时间之后的检测数据包进行响应。
5.根据权利要求1所述的方法,其特征在于,所述振动检测装置的处理器对所述第一振动信号进行处理,去除所述扬声器振动产生的振动信号,获得第二振动信号,包括:
确定多个干扰路径,所述干扰路径为以所述扬声器振动时的噪声信号作为回声信号传播时的路径;
将多帧所述音频信号经过多个所述干扰路径传播衰减后,叠加形成所述扬声器振动时的噪声信号;
将所述第一振动信号的当前帧信号减去所述噪声信号的当前帧信号,获得第二振动信号的当前帧信号。
6.根据权利要求5所述的方法,其特征在于,所述将多帧所述音频信号经过多个所述干扰路径传播衰减后,叠加形成所述扬声器振动时的噪声信号,包括:
计算第0帧至第K-1帧所述干扰路径与第n帧至第n-K+1帧所述音频信号之间的卷积,获得扬声器振动时第n帧的噪声信号。
7.根据权利要求5所述的方法,其特征在于,所述对所述第一振动信号去除所述扬声器的干扰,获得第二振动信号,还包括:
若将多帧所述音频信号经过多个原始路径传播衰减后,叠加形成所述第一振动信号,则基于所述第一振动信号与所述音频信号计算所述原始路径,所述原始路径为以所述第一振动信号作为回声信号传播时的路径;
对所述原始路径进行滤波处理,获得干扰路径。
8.根据权利要求7所述的方法,其特征在于,所述基于所述第一振动信号与所述音频信号计算所述原始路径,包括:
将第n帧所述第一振动信号分解为第0帧至第K-1帧所述原始路径与第n帧至第n-K+1帧所述音频信号之间的卷积;
基于第n帧所述第一振动信号与第n帧至第n-K+1帧所述音频信号计算所述原始路径。
9.根据权利要求7所述的方法,其特征在于,所述对所述原始路径进行滤波处理,获得干扰路径,包括:
确定线性的自适应滤波器;
将所述原始路径输入所述自适应滤波器进行处理,获得干扰路径。
10.根据权利要求5所述的方法,其特征在于,所述对所述第一振动信号去除所述扬声器的干扰,获得第二振动信号,还包括:
提取上一帧所述干扰路径;
基于当前帧所述第二振动信号与当前帧所述音频信号计算更新信息,所述更新信息包括更新的方向与更新的幅度;
按照所述更新信息更新上一帧所述干扰路径,获得当前帧所述干扰路径。
11.根据权利要求10所述的方法,其特征在于,所述基于当前帧所述第二振动信号与当前帧所述音频信号计算更新信息,包括:
计算当前帧所述第二振动信号、当前帧所述音频信号与预设的权重之间的乘积,作为更新信息。
12.根据权利要求1-11中任一项所述的方法,其特征在于,所述判断所述第二振动信号是否满足触发所述交互平板对所述触摸物的触碰进行响应的条件,包括:
将所述第二振动信号与预设的门限值进行比较;
若所述第二振动信号大于所述门限值,则确定所述第二振动信号满足触发所述交互平板对所述触摸物的触碰进行响应的条件。
13.根据权利要求1-11中任一项所述的方法,其特征在于,所述交互平板对所述触摸物的触碰进行响应,包括:
查找样本振动信号,所述样本振动信号是在所述扬声器未播放音频信号的条件下、所述振动检测装置的传感器检测到指定类型的触摸物触碰所述显示屏的振动信号;
将所述第二振动信号与所述样本振动信号进行匹配;
若匹配成功,则确定所述触摸物属于所述样本振动信号对应的类型;
基于所述类型对所述触摸物的触碰进行响应。
14.根据权利要求13所述的方法,其特征在于,所述将所述第二振动信号与所述样本振动信号进行匹配,包括:
将所述第二振动信号转换为目标频谱信号;
查找由所述样本振动信号转换的样本频谱信号;
计算所述目标频谱信号与所述样本频谱信号之间的相似度;
若所述相似度满足预设的匹配条件,则确定所述第二振动信号与所述样本振动信号匹配成功。
15.一种交互平板,其特征在于,所述交互平板包括红外检测装置,扬声器以及振动检测装置;
所述交互平板的处理器,用于向所述扬声器发送音频信号,使得所述扬声器处于振动状态;
所述振动检测装置的处理器,用于同步采集所述扬声器接收到的音频信号;
所述交互平板的显示屏,用于接受触摸物的触碰;
所述振动检测装置的传感器,用于检测到由所述交互平板的显示屏传输过来的第一振动信号,所述第一振动信号包含所述扬声器的振动和所述触摸物触碰所述显示屏发生的振动而产生的振动信号;
所述振动检测装置的处理器,还用于对所述第一振动信号进行处理,去除所述扬声器振动产生的振动信号,获得第二振动信号;
判断所述第二振动信号是否满足触发所述交互平板对所述触摸物的触碰进行响应的条件;
所述交互平板,用于在满足所述条件时,对所述触摸物的触碰进行响应。
16.一种交互平板,其特征在于,所述交互平板包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-14中任一项所述的交互平板的人机交互方法。
17.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如权利要求1-14中任一项所述的交互平板的人机交互方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110518817.8A CN113608661A (zh) | 2021-05-12 | 2021-05-12 | 一种人机交互方法及其交互平板、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110518817.8A CN113608661A (zh) | 2021-05-12 | 2021-05-12 | 一种人机交互方法及其交互平板、存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113608661A true CN113608661A (zh) | 2021-11-05 |
Family
ID=78336432
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110518817.8A Pending CN113608661A (zh) | 2021-05-12 | 2021-05-12 | 一种人机交互方法及其交互平板、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113608661A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022222981A1 (zh) * | 2021-04-22 | 2022-10-27 | 广州创知科技有限公司 | 一种触控校验方法、装置、交互平板和存储介质 |
WO2022222979A1 (zh) * | 2021-04-22 | 2022-10-27 | 广州创知科技有限公司 | 书写方法、装置、交互平板和存储介质 |
Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE3722717A1 (de) * | 1987-07-09 | 1989-01-19 | Siemens Ag | Freisprecheinrichtung |
JPH11282615A (ja) * | 1998-03-26 | 1999-10-15 | Canon Inc | 座標入力装置及びその制御方法、コンピュータ可読メモリ |
CN101124535A (zh) * | 2004-10-01 | 2008-02-13 | 3M创新有限公司 | 将振动信号与振动感测触摸输入装置中的干扰区分开 |
CN101206548A (zh) * | 2006-12-19 | 2008-06-25 | 北京汇冠新技术有限公司 | 一种利用触摸力触发的红外触摸屏及其检测方法 |
JP2008310546A (ja) * | 2007-06-14 | 2008-12-25 | Mitsubishi Electric Corp | タッチパネル入力装置 |
CN102541342A (zh) * | 2010-09-24 | 2012-07-04 | 美蓓亚株式会社 | 输入装置、振动装置以及输入检测方法 |
CN102622133A (zh) * | 2012-02-21 | 2012-08-01 | 成都吉锐触摸技术股份有限公司 | 改变红外光传输路径的红外触摸屏及其识别触摸点的方法 |
JP2013008118A (ja) * | 2011-06-23 | 2013-01-10 | Panasonic Corp | 電子機器 |
CN104008031A (zh) * | 2014-05-23 | 2014-08-27 | 张滨 | 测试电容式触摸屏响应时间的方法和装置 |
JP2015011473A (ja) * | 2013-06-27 | 2015-01-19 | 富士通株式会社 | 電子機器及び制御プログラム |
CN204537097U (zh) * | 2015-01-27 | 2015-08-05 | 广州华欣电子科技有限公司 | 一种触摸屏 |
CN105573563A (zh) * | 2016-01-29 | 2016-05-11 | 努比亚技术有限公司 | 移动终端和在移动终端上实现触控操作的方法 |
CN106325471A (zh) * | 2015-06-19 | 2017-01-11 | 联想(北京)有限公司 | 一种装置及控制方法 |
CN107145256A (zh) * | 2017-04-14 | 2017-09-08 | 广州华欣电子科技有限公司 | 零触摸高度的实现方法、装置及系统 |
CN109612398A (zh) * | 2018-12-07 | 2019-04-12 | 湖州佳格电子科技股份有限公司 | 触摸屏物体离屏检测方法 |
CA3123970A1 (fr) * | 2018-12-21 | 2020-06-25 | Universite De Montpellier | Mesure temporelle a haute precision d'evenements vibro-acoustiques en synchronisation avec un signal sonore sur dispositif a ecran tactile |
WO2022222979A1 (zh) * | 2021-04-22 | 2022-10-27 | 广州创知科技有限公司 | 书写方法、装置、交互平板和存储介质 |
-
2021
- 2021-05-12 CN CN202110518817.8A patent/CN113608661A/zh active Pending
Patent Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE3722717A1 (de) * | 1987-07-09 | 1989-01-19 | Siemens Ag | Freisprecheinrichtung |
JPH11282615A (ja) * | 1998-03-26 | 1999-10-15 | Canon Inc | 座標入力装置及びその制御方法、コンピュータ可読メモリ |
CN101124535A (zh) * | 2004-10-01 | 2008-02-13 | 3M创新有限公司 | 将振动信号与振动感测触摸输入装置中的干扰区分开 |
CN101206548A (zh) * | 2006-12-19 | 2008-06-25 | 北京汇冠新技术有限公司 | 一种利用触摸力触发的红外触摸屏及其检测方法 |
JP2008310546A (ja) * | 2007-06-14 | 2008-12-25 | Mitsubishi Electric Corp | タッチパネル入力装置 |
CN102541342A (zh) * | 2010-09-24 | 2012-07-04 | 美蓓亚株式会社 | 输入装置、振动装置以及输入检测方法 |
JP2013008118A (ja) * | 2011-06-23 | 2013-01-10 | Panasonic Corp | 電子機器 |
CN102622133A (zh) * | 2012-02-21 | 2012-08-01 | 成都吉锐触摸技术股份有限公司 | 改变红外光传输路径的红外触摸屏及其识别触摸点的方法 |
JP2015011473A (ja) * | 2013-06-27 | 2015-01-19 | 富士通株式会社 | 電子機器及び制御プログラム |
CN104008031A (zh) * | 2014-05-23 | 2014-08-27 | 张滨 | 测试电容式触摸屏响应时间的方法和装置 |
CN204537097U (zh) * | 2015-01-27 | 2015-08-05 | 广州华欣电子科技有限公司 | 一种触摸屏 |
CN106325471A (zh) * | 2015-06-19 | 2017-01-11 | 联想(北京)有限公司 | 一种装置及控制方法 |
CN105573563A (zh) * | 2016-01-29 | 2016-05-11 | 努比亚技术有限公司 | 移动终端和在移动终端上实现触控操作的方法 |
CN107145256A (zh) * | 2017-04-14 | 2017-09-08 | 广州华欣电子科技有限公司 | 零触摸高度的实现方法、装置及系统 |
CN109612398A (zh) * | 2018-12-07 | 2019-04-12 | 湖州佳格电子科技股份有限公司 | 触摸屏物体离屏检测方法 |
CA3123970A1 (fr) * | 2018-12-21 | 2020-06-25 | Universite De Montpellier | Mesure temporelle a haute precision d'evenements vibro-acoustiques en synchronisation avec un signal sonore sur dispositif a ecran tactile |
WO2022222979A1 (zh) * | 2021-04-22 | 2022-10-27 | 广州创知科技有限公司 | 书写方法、装置、交互平板和存储介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022222981A1 (zh) * | 2021-04-22 | 2022-10-27 | 广州创知科技有限公司 | 一种触控校验方法、装置、交互平板和存储介质 |
WO2022222979A1 (zh) * | 2021-04-22 | 2022-10-27 | 广州创知科技有限公司 | 书写方法、装置、交互平板和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101932210B1 (ko) | 터치 신호에 의하여 이동 단말기의 조작을 실현하는 방법, 시스템 및 이동 단말기 | |
KR102089444B1 (ko) | 음성 인식 기능을 지원하는 전자 기기의 음성 입력 제어 방법 및 장치 장치 | |
US11175698B2 (en) | Methods and systems for processing touch inputs based on touch type and touch intensity | |
US8441790B2 (en) | Electronic device housing as acoustic input device | |
KR101220633B1 (ko) | 소리를 이용한 터치세기 검출방법, 이를 위한 입력장치 및 사용자 단말 | |
WO2017092213A1 (en) | Methods, systems, and media for recognition of user interaction based on acoustic signals | |
US20150242036A1 (en) | System and method for detecting taps on a surface or on a device | |
CN113608661A (zh) | 一种人机交互方法及其交互平板、存储介质 | |
CN111208917B (zh) | 触摸数据处理方法、装置、智能设备和存储介质 | |
KR20120113253A (ko) | 힘 감응 입력을 제공하는 사용자 인터페이스 방법 및 시스템 | |
JP2013506222A (ja) | 屈曲波方式タッチスクリーンの同時タッチ検出方法および装置 | |
WO2017161817A1 (zh) | 一种终端的控制方法及装置 | |
CN109074221B (zh) | 显示设备的声音的选择性衰减 | |
CN109212534B (zh) | 移动终端的握持姿态检测方法、装置、设备及存储介质 | |
JPWO2015033609A1 (ja) | 情報処理装置、入力方法およびプログラム | |
CN109756818B (zh) | 双麦克风降噪方法、装置、存储介质及电子设备 | |
WO2022222979A1 (zh) | 书写方法、装置、交互平板和存储介质 | |
CN109491502B (zh) | 一种触觉再现方法、终端设备及计算机可读存储介质 | |
US20120223891A1 (en) | Electronic percussion gestures for touchscreens | |
CN111667843B (zh) | 终端设备的语音唤醒方法、系统、电子设备、存储介质 | |
CN113064118B (zh) | 声源定位方法和装置 | |
WO2022222385A1 (zh) | 一种触摸数据处理方法及交互平板 | |
CN115963935A (zh) | 一种书写方法及相关装置 | |
WO2019071649A1 (zh) | 一种基于声学感知的交互输入方法、系统及介质 | |
AT&T | Your Title |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |