CN109308908A - 一种语音交互方法及装置 - Google Patents
一种语音交互方法及装置 Download PDFInfo
- Publication number
- CN109308908A CN109308908A CN201710623268.4A CN201710623268A CN109308908A CN 109308908 A CN109308908 A CN 109308908A CN 201710623268 A CN201710623268 A CN 201710623268A CN 109308908 A CN109308908 A CN 109308908A
- Authority
- CN
- China
- Prior art keywords
- noise
- voice
- sounnd source
- signal
- microphone array
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 47
- 230000002452 interceptive effect Effects 0.000 title claims abstract description 38
- 230000003993 interaction Effects 0.000 claims abstract description 41
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 23
- 238000001914 filtration Methods 0.000 claims abstract description 7
- 238000004590 computer program Methods 0.000 claims description 20
- 238000003860 storage Methods 0.000 claims description 12
- 238000001514 detection method Methods 0.000 claims description 7
- 230000003321 amplification Effects 0.000 claims description 5
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 5
- 238000012360 testing method Methods 0.000 claims description 5
- 230000009286 beneficial effect Effects 0.000 claims 1
- 230000000694 effects Effects 0.000 abstract description 9
- 230000006870 function Effects 0.000 description 14
- 230000008569 process Effects 0.000 description 12
- 238000004891 communication Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 238000000151 deposition Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 4
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000004378 air conditioning Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 241000209140 Triticum Species 0.000 description 1
- 235000021307 Triticum Nutrition 0.000 description 1
- 230000010485 coping Effects 0.000 description 1
- 238000005314 correlation function Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
- G10L21/0216—Noise filtering characterised by the method used for estimating noise
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/20—Speech recognition techniques specially adapted for robustness in adverse environments, e.g. in noise, of stress induced speech
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
- G10L21/0216—Noise filtering characterised by the method used for estimating noise
- G10L2021/02161—Number of inputs available containing the signal or the noise to be suppressed
- G10L2021/02166—Microphone arrays; Beamforming
Landscapes
- Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Signal Processing (AREA)
- Circuit For Audible Band Transducer (AREA)
Abstract
本发明适用于智能音箱技术领域,提供了一种语音交互方法及装置,通过控制麦克风阵列全方向实时拾取语音,并根据麦克风阵列算法获取语音中各声源的声源方向并判断声源方向是否为噪声方向,当声源方向为噪声方向时滤除该方向的噪声信号,继而对滤除噪声信号后的语音进行识别,并基于识别结果执行对应的操作,从而解决了现有的智能设备与其他语音播放设备并存时的语音干扰问题,提高信噪比和唤醒成功率,降低系统功耗,继而提高人机语音交互的效果。
Description
技术领域
本发明属于智能音箱技术领域,尤其涉及一种语音交互方法及装置。
背景技术
随着音箱的普及,用户对音箱的智能化的要求越来越高。传统音箱只能播放声音,智能音箱在传统音箱的基础上增加了录音模块,从而实现了人机语音交互。用户可以通过语音来控制智能音箱,实现点播歌曲、查询天气、打开空调等功能。智能音箱逐渐走入普通百姓的客厅,与电视机一起成为客厅里的重要部分。
在日常生活中,智能音箱在使用过程中总可能有其他语音播放设备的声源同时存在,然而,智能音箱的现有技术只能采集所有的声音,而无法屏蔽其他干扰声源。例如正在播放的电视机,智能音箱在录音过程中,并不能识别声音是正常的人声还是从电视机中播放出来的声音,这样势必会导致电视机的声音干扰到智能音箱的语音交互。
因此,现有的智能音箱在多声源同时存在时,难以识别出正常的人声输入,容易受其他干扰声源的影响,因而存在人机语音交互效果差、效率低,用户体验性差的问题。
发明内容
本发明实施例的目的在于提供一种语音交互方法及装置,旨在解决现有的智能音箱多声源同时存在时难以识别出正常的人声输入,容易受其他干扰声源的影响,因而存在人机语音交互效果差、效率低,用户体验性差的问题。
第一方面,本发明实施例提供一种语音交互方法,包括:
控制麦克风阵列全方向实时拾取语音;
根据麦克风阵列算法获取所述语音中各声源的声源方向;
判断所述声源方向是否为噪声方向;
若所述声源方向为噪声方向,则滤除所述噪声方向的噪声信号;
对滤除所述噪声信号后的语音进行识别,并基于识别结果执行对应的操作。
第二方面,本发明实施例提供一种语音交互装置,包括:
拾取单元,用于控制麦克风阵列全方向实时拾取语音;
获取单元,用于根据麦克风阵列算法获取所述语音中各声源的声源方向;
判断单元,用于判断所述声源方向是否为噪声方向;
滤除单元,用于若所述声源方向为噪声方向,则滤除所述噪声方向的噪声信号;
第一交互单元,用于对滤除所述噪声信号后的语音进行识别,并基于识别结果执行对应的操作。
第三方面,本发明实施例提供了一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
控制麦克风阵列全方向实时拾取语音;
根据麦克风阵列算法获取所述语音中各声源的声源方向;
判断所述声源方向是否为噪声方向;
若所述声源方向为噪声方向,则滤除所述噪声方向的噪声信号;
对滤除所述噪声信号后的语音进行识别,并基于识别结果执行对应的操作。
第四方面,本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
控制麦克风阵列全方向实时拾取语音;
根据麦克风阵列算法获取所述语音中各声源的声源方向;
判断所述声源方向是否为噪声方向;
若所述声源方向为噪声方向,则滤除所述噪声方向的噪声信号;
对滤除所述噪声信号后的语音进行识别,并基于识别结果执行对应的操作。
实施本发明实施例提供的一种语音交互方法及装置具有以下有益效果:
本发明实施例通过控制麦克风阵列全方向实时拾取语音,根据麦克风阵列算法获取语音中各声源的声源方向并判断所述声源方向是否为噪声方向,当声源方向为噪声方向时则滤除该方向的噪声信号,继而将干扰源去除,使得人机交互设备能识别无干扰源的语音并执行与识别结果对应的操作。可见,本发明实施例提供的语音交互方法,解决了现有的智能设备与其他语音播放设备并存时的语音干扰问题,提高信噪比和唤醒成功率,降低系统功耗,继而提高人机语音交互的效果。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例提供的语音交互方法的实现流程图;
图2是本发明一实施例提供的麦克风阵列算法关于声源方向计算的示例图;
图3是本发明另一实施例提供的一种语音交互方法的实现流程图;
图4是本发明一实施例提供的一种语音交互装置的结构示意图;
图5是本发明另一实施例提供的一种语音交互装置的结构示意图;
图6是本发明另一实施例提供的一种终端设备的示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
在本发明实施例中,流程的执行主体可以是通过语音识别进行人机交互的移动终端,例如可以是智能音箱。通常该移动终端包括以下四个模块:麦克风阵列、主控模块、扬声器模块以及射频通信模块。
图1示出了本发明一实施例提供的语音交互方法的实现流程图,详述如下:
在S101中,控制麦克风阵列全方向实时拾取语音。
在本发明实施例中,当智能人机交互设备进入语音交互状态时,首先控制麦克风阵列开始全方向实时拾取语音,继而后续从拾取的语音中获取正确的声源命令进行识别并执行相关功能。
在本发明实施例中,麦克风阵列的个数和排列方式不受限制,可以是水平排序,也可以是垂直排序,或者也可以是随机排序,但当麦克风阵列的个数和排列方式确定时,麦克风阵列中各麦克风单元位置确定。麦克风阵列在全方向上拾取语音,该语音包括来自各个声源的声音信号,因而语音包括一个或者多个声音信号,但其中最多仅有一个声音信号为真声源命令。此处,真声源命令是指用户向人机交互设备发送的带预定波形特征的声音信号,该带预定波形特征的声音信号最终可以被识别为带预定词语的命令,其中预定词语可以根据实际需求进行设定,举例性地,可以是“点歌”、“关机”、“开空调”等;全方向可以是水平方向上的360度,也可以是垂直方向上的360度。
在S102中,根据麦克风阵列算法获取语音中各声源的声源方向。
在本发明实施例中,通过麦克风阵列算法来获取声源方向。单个麦克风只能获取声音信息,而由多个麦克风按照一定几何位置摆放组成的麦克风阵列,不仅能够获取声音信息还能够获取声音的空间信息。麦克风阵列算法是指利用一组按一定几何位置摆放的麦克风组成的麦克风阵列,通过计算某一声源到各麦克风间的相对延迟时间,及声波到达时间差,定位出该声源的声源方向的算法。举例性地,如图2所示(其中Z方向垂直于纸面),假设声源O与麦克风阵列同处一水平面上,且麦克风阵列包括四个麦克风,分别为:第一麦克风M1,坐标为(d/2,0,0);第二麦克风M2,坐标为(0,d/2,0);第三麦克风M3,坐标为(-d/2,0,0);第四麦克风M4,坐标为(0,-d/2,0)。其中,麦克风的坐标为空间坐标系下的坐标,主控模块可以根据声源O到达麦克风阵列中每个麦克风的时间,利用一下公式识别该声源的声源方向:
(x-d/2)2+y2+z2=r1 2
x2+(y-d/2)2+z2=(r1+d21)2
(x+d/2)2+y2+z2=(r1+d31)2
x2+(y+d/2)2+z2=(r1+d41)2
其中,声源O的坐标为(x,y,z),坐标(x,y,z)用于指示声源O的声源方向。r1为声源O到第一麦克风M1的距离,di1为声源O到第i麦克风Mi的距离与声源O到第一麦克风M1的距离的差,其中,di1=τi1×c,τi1为声源O到第i麦克风Mi的时间与声源O到第一麦克风M1的时间的差,c为声源O在空气中的传播速度,其中,i=2、3、4。通过上述方程组可以获取声源O的坐标,从而获取声源O的声源方向。需要说明的是,上述只是列举了麦克风阵列包括四个麦克风的情况,在实际应用中,麦克风阵列包括多个麦克风,针对其他情况的声源方向获取方法类似,不再详述;需要说明的是,上述只是列举了某一声源O的声源方向获取情况,在实际应用中,当有多个声源需要获取多个声源方向时,其获取方法类似。
在S103中,判断声源方向是否为噪声方向。
在本发明实施例中,当获取得各个声源的声源方向后,需要对每个声源方向进行判断,判断是否为噪声方向,当声源方向判断为噪声方向时,则该噪声方向对应的声源即为噪声信号,也即伪声源命令。此处,伪声源命令是指除了用户向人机交互设备发送的带预定波形特征的声音信号以外的干扰声音信号,例如正在播放节目的电视机的声音信号。
具体地,S103包括:
S1031:若声源方向声音信号的持续时间大于预设阈值且声音信号在持续时间内不具备预定波形特征,则判定声源方向为噪声方向。
在系统的初始状态,系统没有识别出任何的噪声方向,此时麦克风阵列在全方向上无差别地拾取声音。由于麦克风阵列一直在拾取语音,当语音有多个声源时,麦克风阵列会识别出对应方向上持续有较强的声音信号,如果该方向上声音信号的持续时间超过了预设阈值(该预设阈值为预先设定的时间阈值,可以预先根据用户向人机交互设备发送的带预定波形特征的声音信号的最短持续时间进行设定),并且在持续时间内没有匹配出带有预定波形特征的声音信号,则该方向的声音信号为伪声源命令,判定该方向上的声音信号为噪声信号,例如是客厅的电视机在某个方向持续播放的声音信号,将该方向判定为噪声方向;否则,则重新返回前述步骤S101;或者,当接收到系统关机命令时执行退出,结束交互。
进一步地,S103还包括:
S1032:若噪声方向的声音信号在第一预设时间范围内匹配有预定波形特征,则继续检测噪声方向的声音信号在第二预设时间范围内是否具有预定波形特征。
S1033:若噪声方向的声音信号在第二预设时间范围内具有预定波形特征,则判定噪声方向为非噪声方向。
为了防止将真声源命令的方向错误地识别为噪声方向,在已经获判定某声源方向为噪声方向的情况下,如果噪声方向的声音信号在第一预设时间范围内检测有预定波形特征,则需要再次检测噪声方向的声音信号在第二预设时间范围内是否具有预定波形特征,当噪声方向的声音信号在第二预设时间范围内具有预定波形特征时,说明该方向的声音信号实则为真声源命令,判定该噪声方向实为非噪声方向。其中,第一预设时间范围是指在判定为噪声方向后能够检测到预定波形特征的时间范围,在此时间范围若检测预定波形特征则继续下一步检测;第二预设时间范围是指在第一预设时间范围内某一时刻检测到预定波形特征后第二次检测获得预定波形特征的时间范围。第一预设时间范围和第二预设时间范围通常与预定波形特征对应的声音信号的持续时间相关。
举例性地,当用户想要人机交互设备执行开机操作时向人机交互设备发送了“开机”命令,但由于在发送命令的过程中用户发音不清晰导致人机交互设备匹配不出用户声音信号中带“开机”对应的预定波形特征,因而会将用户声音信号的声源方向错误地判定为噪声方向。在此种情况下,当用户意识到人机交互设备没有相关操作时,通常会重复多次向人机交互设备发送“开机”命令。因而,为了防止此种误判情况的发生,提高判定的准确性,在人机交互设备判定为噪声方向后,若用户在第一预设时间范围内重新发送“开机”命令且人机交互设备对该声音信号匹配出带预定波形特征,则人机交互设备继续检测该噪声方向的声音信号在第二预设时间范围内是否具有预定波形特征,若检测有匹配的预定波形特征时,判定该方向为非噪声方向,继而后续对该非噪声方向的声音信号进行识别,并基于识别结果执行与对应的操作,这种操作可以在人机交互设备上完成,也可以在其他能够通过语音识别进行人机交互的移动终端上完成。
在S104中,若声源方向为噪声方向,则滤除噪声方向的噪声信号。
在本发明实施例中,当经过前述步骤判定声源方向为噪声方向时,则该声源方向的声音信号为噪声信号,即伪声源命令,该声音信号不能作为语音命令,是一种无效的干扰声音,所以需要有效抑制和过滤从该噪声方向接收到的声音信号,从而提高唤醒和交互的成功率。
具体地,S104包括:
S1041:若声源方向为噪声方向,则调节麦克风阵列的增益至预设增益阈值。
S1042:控制麦克风阵列根据预设增益阈值滤除噪声方向的噪声信号。
在本发明实施例中,当经过前述步骤判定声源方向为噪声方向时,则执行相关步骤通过控制麦克风阵列滤除噪声方向的噪声信号。具体地,调节麦克风阵列的增益至预设增益阈值,以此将麦克风阵列对应噪声方向的增益设置为最低值,麦克风阵列根据调节后的增益将该噪声信号的波形进行抑制,从而滤除噪声方向的噪声信号,例如来自电视机方向的声音信号。
可选地,麦克风阵列在全方向上拾取声音,因而可以将麦克风阵列拾取的360度平面划分为若干个扇区,每个扇区上配置不同的增益,且每个扇区上配置的增益均可以通过设置预设增益阈值而对应实际需求进行调节,这样就可以增强或抑制选定的扇区内的声音信号。例如,针对噪声方向,则可以通过将噪声方向所在扇区的增益调节至预设增益阈值以降低该噪声方向的增益,从而抑制该噪声方向上的声音信号。
在S105中,对滤除噪声信号后的语音进行识别,并基于识别结果执行对应的操作。
在本发明实施例中,当语音滤除掉噪声信号后,则剩下的声音信号为真声源命令,即有效的语音命令,此时根据前述步骤,已经可以确定有效语音命令的声源方向,通过对该有效语音命令进行识别,以得到命令,确定后续语音交互并执行与识别结果对应的操作。例如,能通过识别滤除掉噪声信号后的语音实现音乐播放,也可以进行一些高难度的语音交互,例如开启空调、设置闹钟、天气查询、讲故事等。需要说明的是,人机交互设备可以通过射频通信模块执行交互过程中的操作,如WiFi通信模块、蓝牙通信模块、低功耗蓝牙通信模块等射频网络通信模块。例如,当人机交互设备实现交互过程中的音乐播放时,可以通过WiFi通信模块获取声音信号并发送给扬声器,使用扬声器播放歌曲。
以上可以看出,本发明实施例提供的语音交互方法,通过控制麦克风阵列全方向实时拾取语音,根据麦克风阵列算法获取语音中各声源的声源方向并判断声源方向是否为噪声方向,当声源方向为噪声方向时则滤除该方向的噪声信号,继而将干扰源去除,使得人机交互设备能识别无干扰源的语音并执行相应操作。可见,本发明实施例提供的语音交互方法,解决了现有的智能设备与其他语音播放设备并存时的语音干扰问题,提高信噪比和唤醒成功率,降低系统功耗,继而提高人机语音交互的效果。
请一并参阅图3,图3示出了本发明另一实施例提供的语音交互方法的实现流程图。本实施例提供的一种语音交互方法包含以下步骤,详述如下:
在S301中,控制麦克风阵列全方向实时拾取语音。
在S302中,根据麦克风阵列算法获取语音中各声源的声源方向。
在S303中,判断声源方向是否为噪声方向。
在S304中,若声源方向为非噪声方向,则控制麦克风阵列放大非噪声方向的声音信号。
在S305中,对放大声音信号后的语音进行识别,并基于识别结果执行对应的操作。
由于S301~S303与S101~S103的具体实现过程完全相同,具体阐述请详见S101~S103的相关描述,在此不再赘述。
进一步地,作为本发明的另一实施例,S303之后还包括:
在S304中,若声源方向为非噪声方向,则控制麦克风阵列放大非噪声方向的声音信号。
在本发明实施例中,为了使非噪声方向的声音信息,即真声源命令进一步被系统识别,提高系统的识别效果以及交互的准确性,可以在判定为非噪声方向时,控制麦克风阵列放大非噪声方向的声音信号,对该方向的声音信号进行信号放大或者优化,同时对其他方向的声音信号进行抑制或滤除。
在S305中,对放大声音信号后的语音进行识别,并基于识别结果执行对应的操作。
在本发明实施例中,当语音中有效语音命令对应的声音信号被放大后,通过对该有效语音命令进行识别,以得到命令词,确定后续语音交互并执行命令的相应操作。当然,在放大信号的过程中,还可以包括对该有效语音命令对应的声音信号进行优化,例如进行白噪声抑制、回声抵消等。
以上可以看出,本发明实施例提供的语音交互方法,通过控制麦克风阵列全方向实时拾取语音,根据麦克风阵列算法获取语音中各声源的声源方向并判断声源方向是否为噪声方向,当声源方向为非噪声方向时则对该方向的声音信号进行放大,继而使有效语音命令更容易被系统识别,提高识别的准确性和识别效率。可见,本发明实施例提供的语音交互方法,解决了现有的智能设备与其他语音播放设备并存时的语音干扰问题,提高信噪比和唤醒成功率,降低系统功耗,继而提高人机语音交互的效果。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
图4示出了本发明实施例提供的一种语音交互装置的结构示意图,该装置的各个单元用于对应执行图1的语音交互方法的各个步骤。参见图4所示,语音交互装置包括:
拾取单元41,用于控制麦克风阵列全方向实时拾取语音。
获取单元42,用于根据麦克风阵列算法获取语音中各声源的声源方向。
判断单元43,用于判断声源方向是否为噪声方向。
滤除单元44,用于若声源方向为噪声方向,则滤除噪声方向的噪声信号。
第一交互单元45,用于对滤除所述噪声信号后的语音进行识别,并基于识别结果执行对应的操作。
可选地,判断单元43具体包括:
第一判定单元,用于若声源方向声音信号的持续时间大于预设阈值且声音信号在持续时间内不具备预定波形特征,则判定声源方向为噪声方向。
检测单元,用于若噪声方向的声音信号在第一预设时间范围内匹配有预定波形特征,则继续检测噪声方向的声音信号在第二预设时间范围内是否具有预定波形特征。
第二判定单元,用于若噪声方向的声音信号在第二预设时间范围内具有预定波形特征,则判定噪声方向为非噪声方向。
可选地,滤除单元44具体包括:
调节单元:用于若声源方向为噪声方向,则调节麦克风阵列的增益至预设增益阈值。
滤噪单元,用于控制麦克风阵列根据预设增益阈值滤除噪声方向的噪声信号。
因此,本发明实施例通过控制麦克风阵列全方向实时拾取语音,根据麦克风阵列算法获取语音中各声源的声源方向并判断声源方向是否为噪声方向,当声源方向为噪声方向时则滤除该方向的噪声信号,继而将干扰源去除,使得设备能识别无干扰源的语音并执行相应命令。可见,本发明实施例提供的语音交互装置,解决了现有的智能设备与其他语音播放设备并存时的语音干扰问题,提高信噪比和唤醒成功率,降低系统功耗,继而提高人机语音交互的效果。
图5示出了本发明实施例提供的另一种语音交互装置的结构示意图,该装置用于对应执行对应图3的语音交互方法的各个步骤。参见图5所示,语音交互装置包括:
拾取单元51,用于控制麦克风阵列全方向实时拾取语音。
获取单元52,用于根据麦克风阵列算法获取语音中各声源的声源方向。
判断单元53,用于判断声源方向是否为噪声方向。
放大单元54,用于若声源方向为非噪声方向,则控制麦克风阵列放大非噪声方向的声音信号。
第二交互单元55,用于对放大声音信号后的语音进行识别,并基于识别结果执行对应的操作。
因此,本发明实施例提供的语音交互装置,通过控制麦克风阵列全方向实时拾取语音,根据麦克风阵列算法获取语音中各声源的声源方向并判断声源方向是否为噪声方向,当声源方向为非噪声方向时则对该方向的声音信号进行放大,继而使有效语音命令更容易被系统识别,提高识别的准确性和识别效率。可见,本发明实施例提供的语音交互装置,解决了现有的智能设备与其他语音播放设备并存时的语音干扰问题,提高信噪比和唤醒成功率,降低系统功耗,继而提高人机语音交互的效果。
图6是本发明另一实施例提供的一种终端设备的示意图。如图6所示,该实施例的终端设备6包括:处理器60、存储器61以及存储在存储器61中并可在处理器60上运行的计算机程序62,例如麦克风阵列算法程序。处理器60执行计算机程序62时实现上述各个语音交互方法实施例中的步骤,例如图1所示的S101至S105。或者,处理器60执行计算机程序62时实现上述各装置实施例中各单元的功能,例如图4所示单元41至45功能。
示例性的,计算机程序62可以被分割成一个或多个单元,一个或者多个单元被存储在存储器61中,并由处理器60执行,以完成本发明。一个或多个单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述计算机程序62在终端设备6中的执行过程。例如,计算机程序62可以被分割成拾取单元、获取单元、判断单元、滤除单元以及第一交互单元,各单元具体功能如下:
拾取单元,用于控制麦克风阵列全方向实时拾取语音。
获取单元,用于根据麦克风阵列算法获取语音中各声源的声源方向。
判断单元,用于判断声源方向是否为噪声方向。
滤除单元,用于若声源方向为噪声方向,则滤除噪声方向的噪声信号。
第一交互单元,用于对滤除噪声信号后的语音进行识别,并基于识别结果执行对应的操作。
可选地,判断单元具体包括:
第一判定单元,用于若声源方向声音信号的持续时间大于预设阈值且声音信号在持续时间内不具备预定波形特征,则判定声源方向为噪声方向。
检测单元,用于若噪声方向的声音信号在第一预设时间范围内匹配有预定波形特征,则继续检测噪声方向的声音信号在第二预设时间范围内是否具有预定波形特征。
第二判定单元,用于若噪声方向的声音信号在第二预设时间范围内具有预定波形特征,则判定噪声方向为非噪声方向。
可选地,滤除单元具体包括:
调节单元:用于若声源方向为噪声方向,则调节麦克风阵列的增益至预设增益阈值。
滤噪单元,用于控制麦克风阵列根据预设增益阈值滤除噪声方向的噪声信号。
所述终端设备6可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述终端设备可包括,但不仅限于,处理器60、存储器61。本领域技术人员可以理解,图6仅仅是终端设备6的示例,并不构成对终端设备6的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器60可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器61可以是所述终端设备6的内部存储单元,例如终端设备6的硬盘或内存。所述存储器61也可以是所述终端设备6的外部存储设备,例如所述终端设备6上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器61还可以既包括所述终端设备6的内部存储单元也包括外部存储设备。所述存储器61用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器61还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种语音交互方法,其特征在于,包括:
控制麦克风阵列全方向实时拾取语音;
根据麦克风阵列算法获取所述语音中各声源的声源方向;
判断所述声源方向是否为噪声方向;
若所述声源方向为噪声方向,则滤除所述噪声方向的噪声信号;
对滤除所述噪声信号后的语音进行识别,并基于识别结果执行对应的操作。
2.根据权利要求1所述的语音交互方法,其特征在于,所述判断所述声源方向是否为噪声方向,包括:
若所述声源方向声音信号的持续时间大于预设阈值且所述声音信号在所述持续时间内不具备预定波形特征,则判定所述声源方向为噪声方向。
3.根据权利要求2所述的语音交互方法,其特征在于,所述若所述声源方向声音信号的持续时间大于预设阈值且所述声音信号在所述持续时间内不具备预定波形特征,则判定所述声源方向为噪声方向之后,包括:
若所述噪声方向的声音信号在第一预设时间范围内匹配有预定波形特征,则继续检测所述噪声方向的声音信号在第二预设时间范围内是否具有预定波形特征;
若所述噪声方向的声音信号在第二预设时间范围内具有预定波形特征,则判定所述噪声方向为非噪声方向。
4.根据权利要求1所述的语音交互方法,其特征在于,所述若所述声源方向为噪声方向,则滤除所述噪声方向的噪声信号,包括:
若所述声源方向为噪声方向,则调节所述麦克风阵列的增益至预设增益阈值;
控制所述麦克风阵列根据所述预设增益阈值滤除所述噪声方向的噪声信号。
5.根据权利要求1-4任一项所述的交互方法,其特征在于,所述判断所述声源方向是否为噪声方向之后,还包括:
若所述声源方向为非噪声方向,则控制所述麦克风阵列放大所述非噪声方向的声音信号;
对放大声音信号后的语音进行识别,并基于识别结果执行对应的操作。
6.一种语音交互装置,其特征在于,包括:
拾取单元,用于控制麦克风阵列全方向实时拾取语音;
获取单元,用于根据麦克风阵列算法获取所述语音中各声源的声源方向;
判断单元,用于判断所述声源方向是否为噪声方向;
滤除单元,用于若所述声源方向为噪声方向,则滤除所述噪声方向的噪声信号;
第一交互单元,用于对滤除所述噪声信号后的语音进行识别,并基于识别结果执行对应的操作。
7.根据权利要求6所述的语音交互装置,其特征在于,所述判断单元,包括:
第一判定单元,用于若所述声源方向声音信号的持续时间大于预设阈值且所述声音信号在所述持续时间内不具备预定波形特征,则判定所述声源方向为噪声方向;
检测单元,用于若噪声方向的声音信号在第一预设时间范围内匹配有预定波形特征,则继续检测所述噪声方向的声音信号在第二预设时间范围内是否具有预定波形特征;
第二判定单元,用于若所述噪声方向的声音信号在第二预设时间范围内具有预定波形特征,则判定所述噪声方向为非噪声方向。
8.根据权利要求6所述的语音交互装置,其特征在于,所述滤除单元,包括:
调节单元,用于若所述声源方向为噪声方向,则调节所述麦克风阵列的增益至预设增益阈值;
滤噪单元,用于控制所述麦克风阵列根据所述预设增益阈值滤除噪声方向的噪声信号。
9.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至5任一项所述语音交互方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述语音交互方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710623268.4A CN109308908B (zh) | 2017-07-27 | 2017-07-27 | 一种语音交互方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710623268.4A CN109308908B (zh) | 2017-07-27 | 2017-07-27 | 一种语音交互方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109308908A true CN109308908A (zh) | 2019-02-05 |
CN109308908B CN109308908B (zh) | 2021-04-30 |
Family
ID=65202514
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710623268.4A Active CN109308908B (zh) | 2017-07-27 | 2017-07-27 | 一种语音交互方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109308908B (zh) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109920405A (zh) * | 2019-03-05 | 2019-06-21 | 百度在线网络技术(北京)有限公司 | 多路语音识别方法、装置、设备及可读存储介质 |
CN110379439A (zh) * | 2019-07-23 | 2019-10-25 | 腾讯科技(深圳)有限公司 | 一种音频处理的方法以及相关装置 |
CN110459236A (zh) * | 2019-08-15 | 2019-11-15 | 北京小米移动软件有限公司 | 音频信号的噪声估计方法、装置及存储介质 |
CN110767225A (zh) * | 2019-10-24 | 2020-02-07 | 北京声智科技有限公司 | 一种语音交互方法、装置及系统 |
CN111863019A (zh) * | 2020-07-23 | 2020-10-30 | 博流智能科技(南京)有限公司 | 干扰声源方向获取方法及系统、目标声源位置获取方法及系统、电子设备控制方法及系统 |
CN112151058A (zh) * | 2019-06-28 | 2020-12-29 | 大众问问(北京)信息科技有限公司 | 一种声音信号的处理方法、装置及设备 |
WO2021033088A1 (en) * | 2019-08-20 | 2021-02-25 | International Business Machines Corporation | Distinguishing voice commands |
CN113066488A (zh) * | 2021-03-26 | 2021-07-02 | 深圳市欧瑞博科技股份有限公司 | 语音唤醒智能控制方法、装置、电子设备及存储介质 |
CN113393834A (zh) * | 2020-03-11 | 2021-09-14 | 阿里巴巴集团控股有限公司 | 一种控制方法及装置 |
US11150869B2 (en) | 2018-02-14 | 2021-10-19 | International Business Machines Corporation | Voice command filtering |
US11200890B2 (en) | 2018-05-01 | 2021-12-14 | International Business Machines Corporation | Distinguishing voice commands |
US11238856B2 (en) | 2018-05-01 | 2022-02-01 | International Business Machines Corporation | Ignoring trigger words in streamed media content |
CN114863936A (zh) * | 2021-01-20 | 2022-08-05 | 华为技术有限公司 | 一种唤醒方法及电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4565162B2 (ja) * | 2006-03-03 | 2010-10-20 | 独立行政法人産業技術総合研究所 | 発話イベント分離方法、発話イベント分離システム、及び、発話イベント分離プログラム |
CN102831898A (zh) * | 2012-08-31 | 2012-12-19 | 厦门大学 | 带声源方向跟踪功能的麦克风阵列语音增强装置及其方法 |
CN102969002A (zh) * | 2012-11-28 | 2013-03-13 | 厦门大学 | 一种可抑制移动噪声的麦克风阵列语音增强装置 |
CN104038880A (zh) * | 2014-06-26 | 2014-09-10 | 南京工程学院 | 一种双耳助听器语音增强方法 |
CN105679329A (zh) * | 2016-02-04 | 2016-06-15 | 厦门大学 | 可适应强烈背景噪声的麦克风阵列语音增强装置 |
-
2017
- 2017-07-27 CN CN201710623268.4A patent/CN109308908B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4565162B2 (ja) * | 2006-03-03 | 2010-10-20 | 独立行政法人産業技術総合研究所 | 発話イベント分離方法、発話イベント分離システム、及び、発話イベント分離プログラム |
CN102831898A (zh) * | 2012-08-31 | 2012-12-19 | 厦门大学 | 带声源方向跟踪功能的麦克风阵列语音增强装置及其方法 |
CN102969002A (zh) * | 2012-11-28 | 2013-03-13 | 厦门大学 | 一种可抑制移动噪声的麦克风阵列语音增强装置 |
CN104038880A (zh) * | 2014-06-26 | 2014-09-10 | 南京工程学院 | 一种双耳助听器语音增强方法 |
CN105679329A (zh) * | 2016-02-04 | 2016-06-15 | 厦门大学 | 可适应强烈背景噪声的麦克风阵列语音增强装置 |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11150869B2 (en) | 2018-02-14 | 2021-10-19 | International Business Machines Corporation | Voice command filtering |
US11238856B2 (en) | 2018-05-01 | 2022-02-01 | International Business Machines Corporation | Ignoring trigger words in streamed media content |
US11200890B2 (en) | 2018-05-01 | 2021-12-14 | International Business Machines Corporation | Distinguishing voice commands |
CN109920405A (zh) * | 2019-03-05 | 2019-06-21 | 百度在线网络技术(北京)有限公司 | 多路语音识别方法、装置、设备及可读存储介质 |
CN112151058B (zh) * | 2019-06-28 | 2023-09-15 | 大众问问(北京)信息科技有限公司 | 一种声音信号的处理方法、装置及设备 |
CN112151058A (zh) * | 2019-06-28 | 2020-12-29 | 大众问问(北京)信息科技有限公司 | 一种声音信号的处理方法、装置及设备 |
CN110379439A (zh) * | 2019-07-23 | 2019-10-25 | 腾讯科技(深圳)有限公司 | 一种音频处理的方法以及相关装置 |
CN110379439B (zh) * | 2019-07-23 | 2024-05-17 | 腾讯科技(深圳)有限公司 | 一种音频处理的方法以及相关装置 |
CN110459236B (zh) * | 2019-08-15 | 2021-11-30 | 北京小米移动软件有限公司 | 音频信号的噪声估计方法、装置及存储介质 |
EP3779985A1 (en) * | 2019-08-15 | 2021-02-17 | Beijing Xiaomi Mobile Software Co., Ltd. | Audio signal noise estimation method and device and storage medium |
US10789969B1 (en) | 2019-08-15 | 2020-09-29 | Beijing Xiaomi Mobile Software Co., Ltd. | Audio signal noise estimation method and device, and storage medium |
CN110459236A (zh) * | 2019-08-15 | 2019-11-15 | 北京小米移动软件有限公司 | 音频信号的噪声估计方法、装置及存储介质 |
WO2021033088A1 (en) * | 2019-08-20 | 2021-02-25 | International Business Machines Corporation | Distinguishing voice commands |
GB2601971A (en) * | 2019-08-20 | 2022-06-15 | Ibm | Distinguishing voice commands |
US11355108B2 (en) | 2019-08-20 | 2022-06-07 | International Business Machines Corporation | Distinguishing voice commands |
CN110767225A (zh) * | 2019-10-24 | 2020-02-07 | 北京声智科技有限公司 | 一种语音交互方法、装置及系统 |
CN110767225B (zh) * | 2019-10-24 | 2022-05-24 | 北京声智科技有限公司 | 一种语音交互方法、装置及系统 |
CN113393834A (zh) * | 2020-03-11 | 2021-09-14 | 阿里巴巴集团控股有限公司 | 一种控制方法及装置 |
CN113393834B (zh) * | 2020-03-11 | 2024-04-16 | 阿里巴巴集团控股有限公司 | 一种控制方法及装置 |
CN111863019A (zh) * | 2020-07-23 | 2020-10-30 | 博流智能科技(南京)有限公司 | 干扰声源方向获取方法及系统、目标声源位置获取方法及系统、电子设备控制方法及系统 |
CN114863936A (zh) * | 2021-01-20 | 2022-08-05 | 华为技术有限公司 | 一种唤醒方法及电子设备 |
CN113066488A (zh) * | 2021-03-26 | 2021-07-02 | 深圳市欧瑞博科技股份有限公司 | 语音唤醒智能控制方法、装置、电子设备及存储介质 |
CN113066488B (zh) * | 2021-03-26 | 2023-10-27 | 深圳市欧瑞博科技股份有限公司 | 语音唤醒智能控制方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109308908B (zh) | 2021-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109308908A (zh) | 一种语音交互方法及装置 | |
US20220392481A1 (en) | Voice Wakeup Method and System, and Device | |
CN108667697B (zh) | 语音控制冲突解决方法、装置及语音控制系统 | |
CN106898348B (zh) | 一种出声设备的去混响控制方法和装置 | |
CN107577449B (zh) | 唤醒语音的拾取方法、装置、设备及存储介质 | |
CN109461449B (zh) | 用于智能设备的语音唤醒方法及系统 | |
CN105556592B (zh) | 检测自我生成的唤醒声调 | |
CN108681440A (zh) | 一种智能设备音量控制方法及系统 | |
CN109949810A (zh) | 一种语音唤醒方法、装置、设备及介质 | |
CN110767225B (zh) | 一种语音交互方法、装置及系统 | |
CN108536418A (zh) | 一种无线音箱播放模式切换的方法、装置及无线音箱 | |
CN106910500A (zh) | 对带麦克风阵列的设备进行语音控制的方法及设备 | |
WO2019134473A1 (zh) | 语音识别系统、方法和装置 | |
CN110248021A (zh) | 一种智能设备音量控制方法及系统 | |
CN111083678B (zh) | 蓝牙音箱的播放控制方法、系统及智能设备 | |
CN109119090A (zh) | 语音处理方法、装置、存储介质及电子设备 | |
CN110660407A (zh) | 一种音频处理方法及装置 | |
CN115775564B (zh) | 音频处理方法、装置、存储介质及智能眼镜 | |
CN112992140A (zh) | 智能设备的控制方法、装置、设备及存储介质 | |
CN108566706A (zh) | 闪光灯控制方法、装置、终端设备及存储介质 | |
CN113223552B (zh) | 语音增强方法、装置、设备、存储介质及程序 | |
WO2022068694A1 (zh) | 电子设备及其唤醒方法 | |
CN108429946A (zh) | 一种控制麦克风使用的方法、装置及麦克风 | |
CN111412587B (zh) | 空调器的语音处理方法、装置、空调器和存储介质 | |
CN113138559A (zh) | 设备交互方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |