CN113949956A - 降噪处理方法、装置、电子设备、耳机及存储介质 - Google Patents
降噪处理方法、装置、电子设备、耳机及存储介质 Download PDFInfo
- Publication number
- CN113949956A CN113949956A CN202010688700.XA CN202010688700A CN113949956A CN 113949956 A CN113949956 A CN 113949956A CN 202010688700 A CN202010688700 A CN 202010688700A CN 113949956 A CN113949956 A CN 113949956A
- Authority
- CN
- China
- Prior art keywords
- snore
- noise reduction
- sound
- playing
- masking sound
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000009467 reduction Effects 0.000 title claims abstract description 294
- 238000003860 storage Methods 0.000 title claims abstract description 19
- 238000003672 processing method Methods 0.000 title abstract description 29
- 206010041235 Snoring Diseases 0.000 claims abstract description 388
- 230000000873 masking effect Effects 0.000 claims abstract description 150
- 230000007613 environmental effect Effects 0.000 claims abstract description 90
- 238000012545 processing Methods 0.000 claims abstract description 86
- 238000001514 detection method Methods 0.000 claims abstract description 73
- 238000001228 spectrum Methods 0.000 claims abstract description 64
- 238000000034 method Methods 0.000 claims abstract description 41
- 230000003595 spectral effect Effects 0.000 claims description 47
- 230000005236 sound signal Effects 0.000 claims description 19
- 230000015654 memory Effects 0.000 claims description 17
- 238000013528 artificial neural network Methods 0.000 claims description 8
- 230000033001 locomotion Effects 0.000 claims description 8
- 230000006399 behavior Effects 0.000 claims description 7
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 claims description 6
- 239000008280 blood Substances 0.000 claims description 6
- 210000004369 blood Anatomy 0.000 claims description 6
- 230000036772 blood pressure Effects 0.000 claims description 6
- 210000004556 brain Anatomy 0.000 claims description 6
- 229910052760 oxygen Inorganic materials 0.000 claims description 6
- 239000001301 oxygen Substances 0.000 claims description 6
- 238000005286 illumination Methods 0.000 claims description 3
- 230000000306 recurrent effect Effects 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 23
- 238000010586 diagram Methods 0.000 description 12
- 210000003254 palate Anatomy 0.000 description 12
- 230000006870 function Effects 0.000 description 9
- 230000003044 adaptive effect Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000008030 elimination Effects 0.000 description 4
- 238000003379 elimination reaction Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 125000004122 cyclic group Chemical group 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 241000238631 Hexapoda Species 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000009432 framing Methods 0.000 description 2
- 230000002035 prolonged effect Effects 0.000 description 2
- 238000012954 risk control Methods 0.000 description 2
- 210000001584 soft palate Anatomy 0.000 description 2
- 230000002459 sustained effect Effects 0.000 description 2
- 206010011469 Crying Diseases 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000035487 diastolic blood pressure Effects 0.000 description 1
- 230000009429 distress Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 230000003860 sleep quality Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000035488 systolic blood pressure Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R1/00—Details of transducers, loudspeakers or microphones
- H04R1/10—Earpieces; Attachments therefor ; Earphones; Monophonic headphones
- H04R1/1083—Reduction of ambient noise
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R2460/00—Details of hearing devices, i.e. of ear- or headphones covered by H04R1/10 or H04R5/033 but not provided for in any of their subgroups, or of hearing aids covered by H04R25/00 but not provided for in any of its subgroups
- H04R2460/01—Hearing devices using active noise cancellation
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Acoustics & Sound (AREA)
- Signal Processing (AREA)
- Soundproofing, Sound Blocking, And Sound Damping (AREA)
Abstract
本申请公开了一种降噪处理方法、装置、电子设备、耳机及存储介质,涉及降噪技术领域,该方法包括:获取音频采集装置采集的环境音;将所述环境音输入鼾声检测模型,得到鼾声检测结果;若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征确定是否满足掩蔽声播放条件;若满足掩蔽声播放条件,对所述鼾声进行降噪处理,并播放掩蔽声。本申请实施例通过将获取到的环境音输入鼾声检测模型识别其中的鼾声,并根据鼾声的频谱特征进行主动降噪处理,并在满足掩蔽声播放条件时,同时采用掩蔽声掩蔽的方式降低鼾声干扰,相比于让人不堪其扰的鼾声,舒缓白噪声、海浪声等舒适噪声,提升鼾声降噪效果。
Description
技术领域
本申请涉及降噪技术领域,更具体地,涉及一种降噪处理方法、装置、电子设备、耳机及存储介质。
背景技术
目前主动降噪通常采用固定滤波器参数的方法,但由于不同环境下噪声组成不同,以固定的滤波器参数来消除周围噪声,当周围环境的噪声发生显著变化时,主动降噪的降噪效果不够稳定。例如,降噪性能峰值位于80~200Hz的主动降噪耳机,当周围环境噪声以250~800Hz的鼾声为主时,降噪体验不够好。
发明内容
本申请实施例提出了一种降噪处理方法、装置、电子设备、耳机及存储介质,能够改善鼾声降噪效果。
第一方面,本申请实施例提供了一种降噪处理方法,该方法包括:获取音频采集装置采集的环境音;将所述环境音输入鼾声检测模型,得到鼾声检测结果;若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征确定是否满足掩蔽声播放条件;若满足掩蔽声播放条件,对所述鼾声进行降噪处理,并播放掩蔽声。
第二方面,本申请实施例提供了一种降噪处理装置,该装置包括:音频采集模块,用于获取音频采集装置采集的环境音;鼾声检测模块,用于将所述环境音输入鼾声检测模型,得到鼾声检测结果;降噪判断模块,用于若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征确定是否满足掩蔽声播放条件;降噪处理模块,用于若满足掩蔽声播放条件,对所述鼾声进行降噪处理,并播放掩蔽声。
第三方面,本申请实施例提供了一种电子设备,包括:存储器;一个或多个处理器,与所述存储器耦接;一个或多个应用程序,其中,一个或多个应用程序被存储在存储器中并被配置为由一个或多个处理器执行,一个或多个应用程序配置用于执行上述第一方面提供的降噪处理方法。
第四方面,本申请实施例提供了一种耳机,包括音频采集装置、音频输出装置以及音频信号处理电路,其中:所述音频采集装置,用于采集环境音;所述音频信号处理电路,用于获取所述音频采集装置采集的环境音;将所述环境音输入鼾声检测模型,得到鼾声检测结果;若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征确定是否满足掩蔽声播放条件;若满足掩蔽声播放条件,输出控制信号至所述音频输出装置;所述音频输出装置,用于根据所述控制信号,对所述鼾声进行降噪处理,并播放掩蔽声。
第五方面,本申请实施例提供了一种计算机可读取存储介质,计算机可读取存储介质中存储有程序代码,程序代码可被处理器调用执行上述第一方面提供的降噪处理方法。
本申请实施例提供的一种降噪处理方法、装置、电子设备、耳机及存储介质,通过获取音频采集装置采集的环境音,并将环境音输入鼾声检测模型,得到鼾声检测结果,若鼾声检测结果指示环境音包含鼾声,根据鼾声的频谱能量特征确定是否满足掩蔽声播放条件,并在满足掩蔽声播放条件时,对鼾声进行降噪处理,并播放掩蔽声。由于一般的主动降噪无法识别周围的噪声环境,尤其是不能识别出特定的声音,例如鼾声,由此,本申请实施例通过将获取到的环境音输入鼾声检测模型识别其中的鼾声,并根据鼾声的频谱特征进行主动降噪处理,并在满足掩蔽声播放条件时,同时采用掩蔽声掩蔽的方式降低鼾声干扰,相比于让人不堪其扰的鼾声,舒缓白噪声、海浪声等舒适噪声,提升降噪效果,更好地降低鼾声对用户的影响,提升用户体验。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了一种主动降噪原理图。
图2示出了一种适用于本申请实施例的应用环境示意图。
图3示出了本申请实施例提供的一种降噪处理方法的流程示意图。
图4示出了本申请另一个实施例提供的降噪处理方法的流程示意图。
图5示出了本申请另一个实施例提供的鼻-软腭型鼾声的频谱能量特征图。
图6示出了本申请另一个实施例提供的鼻-软腭混合型鼾声的频谱能量特征图。
图7示出了本申请另一个实施例提供的口打鼾型鼾声的频谱能量特征图。
图8示出了本申请又一个实施例提供的降噪处理方法的流程示意图。
图9示出了本申请实施例提供的降噪处理装置的模块框图。
图10示出了本申请实施例提供的电子设备的结构框图。
图11示出了本申请实施例提供的耳机的结构框图。
图12示出了本申请实施例提供的用于保存或者携带实现根据本申请实施例的降噪处理方法的程序代码的存储单元。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。
目前主动降噪(Active Noise Cancellation,ANC)耳机大多数是通过设计固定的主动降噪参数实现基于固定的主动降噪曲线(Active Noise Cancellation Level Curve)以消除外界环境噪声,其技术原理如图1所示,麦克风采集到外界环境噪声后,通过降噪电路经固定的降噪滤波器参数进行处理,产生反相信号通过扬声器播出以抵消外界环境噪声。采用固定的降噪滤波器参数后,在降噪电路工作过程中,降噪性能曲线不随外界噪声环境变化。
但是,发明人经研究发现,采用目前采用固定滤波器参数的方法,对某些特定噪声消除效果不理想,在不同噪声环境下降噪效果不一定能达到最好的降噪效果。例如,主动降噪曲线的峰值一般在80~200Hz之间,降噪带宽在2000Hz以下,这时不能有效地消除某些特定噪声,比如人类的鼾声,人类大部分鼾声的频谱能量主要集中在80~800Hz之间,且峰值一般位于250~800Hz,且部分鼾声频率范围可达8kHz以上,一般的主动降噪很难消除2000Hz以上频率范围的噪声信号。
基于上述问题,本申请实施例提供了一种降噪处理方法、装置、电子设备及计算机可读取存储介质,可检测并对鼾声进行降噪处理,将获取到的环境音进行处理和分析,并从中识别出存在鼾声时针对鼾声频谱能量特征进行降噪处理,同时在满足掩蔽声播放条件时播放掩蔽声信号,由此提升鼾声降噪效果。为便于更好的理解本申请实施例,下面先对适用于本申请实施例的应用环境进行描述。
请参阅图2,图2示出了一种适用于本申请实施例的应用环境示意图。本申请实施例提供的降噪处理方法可以应用于如图2所示的降噪处理系统10中。降噪处理系统10包括终端100与耳机200。
其中,终端100可以为但不限于为手机、平板电脑、MP3播放器(Moving PictureExperts Group Audio LayerⅢ,动态影像压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio LayerⅣ,动态影像压缩标准音频层面4)播放器、笔记本电脑、电子书或可穿戴电子设备等等。本申请实施例对具体的终端100的设备类型不作限定。
在一些实施例中,终端100内可以安装有能够控制耳机降噪模式的应用程序。终端100可以将需要实现的降噪模式发送给耳机200,由耳机200播放音频,音频可以包括反相声波、音乐信号、掩蔽声等。终端100内可包括音频采集装置,用于采集环境音,并可设置有处理器,可用于执行本申请实施例提供的降噪处理方法,再经由耳机200对应播放音频以实现降噪。
其中,终端100与耳机200可基于有线或无线连接,可选地,若基于无线连接,则终端100与耳机200可基于蓝牙(Bluetooth)、2.4G无线通信技术、红外线传输技术或无线网络进行无线连接,以实现数据传输,例如,耳机200与终端100进行无线连接后可通过终端100获取音源数据进行播放。可选地,无线网络可以是移动通信网络或无线保真网络(WirelessFidelity,WiFi)。
其中,耳机200可以是有线耳机,也可以是无线耳机。可选地,耳机200还可以具体是真无线耳机。下面以完全无线缆的真无线耳机为例进行说明,但本领域技术人员应当明了的是,完全无线缆的真无线耳机仅为示例性说明,在实际使用中,本领域技术人员可以参照本申请实施例的方案,选择其他类型的耳机实施本方案,包括但不限于有线耳机和两耳机间带有线缆的无线耳机。
另外,在一些实施例中,降噪处理系统10中也可仅包括耳机200,即无需终端也可实现本申请实施例所提供的降噪处理方法,例如耳机200不播放音乐而只做降噪处理的场景下,耳机200可不与终端100连接,可单独实现本申请实施例所提供的降噪处理方法。
另外,图中仅示出一个耳机,在实际应用中,本领域技术人员可参照本申请实施例的方案,选择一对耳机实施本方案,需要注意的是,多个耳机的降噪处理可以相互独立,也可不相互独立,而且一对耳机中的每个耳机可分别与终端100连接,还可耳机与耳机之间互相连接,本申请实施例对此不作限定。
在一些实施例中,每个耳机200可包括音频采集装置、音频输出装置以及音频信号处理电路,具体地可包括至少1个扬声器,至少1个可以拾取环境噪声的麦克风,至少1个可以运行算法的音频信号处理电路,另,耳机200还可包括至少1个供电电路。
其中,扬声器用于播放音频和ANC反相噪声,实现耳机200的播放音乐和ANC降噪功能。当耳机200形态为单声道耳机或者真无线耳机时,每个耳机200具有至少1个扬声器。当耳机200形态为双声道耳机或者多声道耳机时,每个耳机200具有至少2个扬声器。
其中,麦克风位于耳机200结构上可以拾取环境音的位置,拾取的环境音用于至少以下两个用途:ANC降噪所需的原始噪声信号,用于作为降噪电路输出反相噪声所需的输入信号;噪声检测分析所需的环境噪声信号。可以通过1个麦克风同时实现以上两个用途,节省硬件成本,也可以用多个麦克风分别实现以上两个用途。
其中,音频信号处理电路可以用于以下两个用途:ANC降噪处理功能,用于确定用于降噪处理的降噪参数并发送至扬声器输出对应的反相声波,以实现降噪处理;噪声检测分析功能,用于检测和分析音频信号中的噪声信号。
其中,供电电路可以为其他硬件部件供电,供电来源可以是耳机200内置的电池,可以是来自外部的电力输入,也可以是耳机200内置的发电器件。
下面将通过具体实施例对本申请实施例提供的降噪处理方法、装置、电子设备、耳机及存储介质进行详细说明。
请参阅图3,图3示出了本申请实施例提供的一种降噪处理方法的流程示意图,可应用于电子设备,电子设备可以是上述终端或耳机。下面将针对图3所示的流程示意图进行详细的阐述。该降噪处理方法可以包括以下步骤:
步骤S110:获取音频采集装置采集的环境音。
其中,环境音为音频采集装置基于当前位置采集的环境的声音信号,音频采集装置可以设置于终端,也可设置于耳机,基于音频采集装置采集环境音。在一些实施方式中,音频采集装置可以是麦克风等可用于采集声音信号的装置,在此不做限定。
以音频采集装置设置于耳机为例,可基于耳机的音频采集装置如麦克风采集环境音,对获取的环境音信号进行模数转换得到数字信号,并对该数字信号进行预加重、分帧、加窗、梅尔频率倒谱系数(Mel-Frequency Cepstral Coefficients,MFCC)提取等处理后,再输入鼾声检测模型。则在设置于耳机时,可节约成本,通过复用前馈麦克风拾取的外界环境声信号,既可用于前馈降噪设计,也可用于后续鼾声检测,不产生额外的硬件成本。
在一些实施方式中,音频采集装置可实时采集环境音,在另一些实施方式中,音频采集装置也可基于采集指令再对环境音进行采集,即电子设备在接收到采集指令时,才根据采集指令基于音频采集装置采集环境音。例如,用户可通过终端,或对耳机的操作,触发采集指令,使得音频采集装置可接收到采集指令以采集环境音。
步骤S120:将环境音输入鼾声检测模型,得到鼾声检测结果。
其中,鼾声检测模型可预先构建好,并通过收集大量的鼾声样本作为训练样本来对鼾声检测模型进行训练,从而得到训练好的鼾声检测模型,用于检测输入的环境音中是否存在鼾声,输出对应的鼾声检测结果。
在一些实施例中,鼾声检测模型可基于卷积神经网络(Convolutional NeuralNetworks,CNN)、深度神经网络(Deep Neural Networks,DNN)等神经网络构建得到,本实施例对此不作限定。
在另一些实施例中,鼾声检测模型也可基于循环神经网络(Recurrent NeuralNetwork,RNN)构建得到,具体可见后述实施例,在此不作赘述。
在一些实施方式中,若鼾声检测结果指示环境音不包含鼾声,可继续基于音频采集装置采集环境音,以在环境音变化时,及时检测到鼾声。
在另一些实施方式中,若从接收到采集指令开始计时,若在指定时间长度内得到的鼾声检测结果都指示环境音不包含鼾声,可停止对环境音的采集不对鼾声进行检测,从而降低设备功耗。尤其在本实施例提供的降噪处理方法应用于真无线耳机时,可降低真无线耳机的功耗,提高其续航时间。
步骤S130:若鼾声检测结果指示环境音包含鼾声,根据鼾声的频谱能量特征确定是否满足掩蔽声播放条件。
其中,鼾声的频谱能量特征为鼾声信号在频谱图上的分布特征,可以反映鼾声的能量集中的带宽,即鼾声信号具有的频带宽度,指该信号所包含的各种不同频率成分所占据的频率范围,也就是信号的最高频率分量与最低频率分量之差,单位:Hz。频谱能量的单位可为dB,在一些示例中,频谱能量也可称为能量、振幅(Amplitude)、声压级,即一个声音信号在环境中是用多少dB来表示。
其中,掩蔽声播放条件用于确定是否播放掩蔽声,由于主动降噪的峰值一般在80~200Hz之间,降噪带宽在2000Hz以下,而人类大部分鼾声的能量主要集中在80~800Hz之间,且主动降噪的峰值一般位于250~800Hz,且鼾声频率范围可达8000Hz以上,一般ANC耳机的主动降噪很难消除2000Hz以上频率范围的噪声信号。因此,可通过鼾声的频谱能量特征确定是否满足掩蔽声播放条件,以确定是否需要播放掩蔽声来提高鼾声降噪效果,从而针对主动降噪消除效果不足的频率的鼾声,可通过播放掩蔽声的方式降低鼾声的干扰,提高鼾声降噪效果。其中,主动降噪消除效果不足的频率可以是2000Hz以上的频率范围,也可以是主动降噪的峰值以上的任意频率,在此不做限定。
在一些实施方式中,掩蔽声可以包括但不限于白噪声(在较宽的频率范围内,各等带宽的频带所含的噪声能量相等的噪声)、海浪声、虫鸣声等,在此不作限定。
在一些实施例中,若鼾声检测结果指示环境音包含鼾声,可分析该鼾声的频谱能量特征,再由鼾声类型确定是否满足掩蔽声播放条件。在一些实施方式中,获取鼾声的频谱能量特征后,可取特定频率对应的频谱能量与预设鼾声类型的曲线进行匹配,并将匹配的鼾声类型确定为所采集鼾声的鼾声类型,从而完成对鼾声类型的检测。在另一些实施方式中,也可根据鼾声的频谱能量所集中的频率范围,确定鼾声类型,则预先收集各种类型的鼾声样本,并根据发声部位不同将鼾声分类,并确定各类鼾声类型所对应的频率范围,以及对应的降噪参数,从而可根据频谱能量特征确定鼾声的频谱能量集中位于的频率范围,确定对应的鼾声类型,进而确定对应的降噪参数。
在另一些实施例中,若鼾声检测结果指示环境音包含鼾声,也可不必确定鼾声类型,而直接根据鼾声的频谱能量特征确定是否满足掩蔽声播放条件。具体实施方式可见后述实施例在此不做赘述。
步骤140:若满足掩蔽声播放条件,对鼾声进行降噪处理,并播放掩蔽声。
若满足掩蔽声播放条件,对鼾声进行降噪处理,并播放掩蔽声,相比于令人困扰甚至厌恶的鼾声,播放掩蔽声可在对鼾声进行降噪处理的同时进一步改善降低鼾声的影响,改善鼾声降噪效果。
在一些实施方式中,在对鼾声进行降噪处理时,可根据鼾声的频谱能量特征确定对应的目标降噪参数,以基于目标降噪参数对鼾声进行降噪处理。其中,目标降噪参数可以是根据鼾声的频谱能量特征实时生成的,也可以是预先设置好的。
作为一种实施方式,目标降噪参数可以是根据鼾声的频谱能量特征实时生成的,从而可根据鼾声的频谱能量特征实现自适应降噪。具体地,自适应降噪的算法原理如图3所示。给定输入x(n)和期望输出d(n),自适应滤波器W(z)每次迭代会更新系数,使其输出y(n)与d(n)之差越来越小,直到残差e(n)足够接近0且收敛。最小均方(Least Mean Square,LMS)算法是自适应滤波器的一种更新算法,LMS的目标函数就是瞬时误差的平方e2(n)=(d(n)-y(n))2最小。
作为另一种实施方式,可预先构建好针对鼾声降噪的多组预设降噪参数,并构建好每个预设降噪参数与频谱能量特征的映射关系,从而根据鼾声的频谱能量特征可根据映射关系确定对应的预设降噪参数,从而基于该预设降噪参数对鼾声进行降噪处理,不需要动态自适应更新降噪滤波器参数,大大降低运算量和功耗,提升耳机的续航时间。
本申请实施例提供的降噪处理方法,通过获取音频采集装置采集的环境音,并将环境音输入鼾声检测模型,得到鼾声检测结果,若鼾声检测结果指示环境音包含鼾声,根据鼾声的频谱能量特征确定是否满足掩蔽声播放条件,并在满足掩蔽声播放条件时,对鼾声进行降噪处理,并播放掩蔽声。由于一般的主动降噪无法识别周围的噪声环境,尤其是不能识别出特定的声音,例如鼾声,由此,本申请实施例通过将获取到的环境音输入鼾声检测模型识别其中的鼾声,并根据鼾声的频谱特征进行主动降噪处理,并在满足掩蔽声播放条件时,同时采用掩蔽声掩蔽的方式降低鼾声干扰,相比于让人不堪其扰的鼾声,舒缓白噪声、海浪声等舒适噪声,提升降噪效果,更好地降低鼾声对用户的影响,提升用户体验。
请参阅图4,图4示出了本申请另一个实施例提供的降噪处理方法的流程示意图,具体地,该方法可以包括:
步骤S210:获取音频采集装置采集的环境音。
在一些实施例中,获取音频采集装置采集的环境音之后,若环境音中包括风险提示音,则执行停止降噪处理、停止播放掩蔽声、播放告警音中的至少一个。其中,风险提示音可以是包含呼救声、火灾、哭声、喊叫声、警报声等各类处于风险情境下可能出现的声音类型中的任意一种或多种声音。则通过检测环境音中是否包括风险提示音,可在用户佩戴耳机以降噪提升睡眠质量的同时,还可及时在有风险时停止降噪,避免因为降噪导致用户无法觉察相关风险,从而可在提升降噪体验的同时保证用户安全。
在一些实施方式中,可以预先存储多种风险提示音于电子设备或服务器,则通过将采集的环境音与预先存储的风险提示音进行匹配,若匹配成功则可判定环境音中包括风险提示音;在另一些实施方式中,也可以预先训练出一个机器学习模型并存储和运行于电子设备或服务器,则可通过训练好的机器学习模型识别环境音中是否包括风险提示音,例如可将采集的环境音输入至该机器学习模型,可识别出该环境音是否包含呼救、火灾、哭声等声音,从而在识别到类似声音时,判定环境音中包括风险提示音。
步骤S220:将环境音输入鼾声检测模型,得到鼾声检测结果。
其中,鼾声检测模型可以由循环神经网络构建得到,并使用收集的鼾声样本作为训练样本训练鼾声检测模型,以提高鼾声识别结果,识别率可达95%以上。由于鼾声比较有规律,而循环神经网络对于短期记忆的模型效果很好,可以“模拟”数据间的依赖关系,尤其是对于信噪比较低的持续性鼾声信号,可有效提高识别率,因此对于信噪比较低的持续性鼾声信号,可有效提高识别率,比如在会议室午休时,环境音可能包括空调运转声、键盘敲击声、说话声等,此时基于循环神经网络构建并训练好的鼾声检测模型仍能对鼾声进行很好地识别。
在一种实施方式中,可使用耳机的前馈麦克风采集外界环境音,对获取的环境音进行模数转换得到数字信号,并对数字信号进行一系列预处理,如预加重、分帧、加窗、梅尔频率倒谱系数特征提取等处理后,再输入到训练好的鼾声检测模型得到鼾声检测结果。
在一些实施方式中,可预先采集大量的鼾声样本,并对鼾声的频谱特征进行分类以及统计占比。作为一种方式,由于不同发声部位发出的鼾声频谱特征差异较大,可按不同的发声部位将各种鼾声大致分为鼻-软腭型、鼻-软腭混合型、口打鼾型鼾声,通过统计分析得到每种鼾声类型的频谱能量特征如图5、6、7所示,图5、6、7的频谱图中横坐标均为频率,单位Hz,纵坐标均为振幅,也称为能量,单位dB。其中,鼻-软腭型鼾声的频谱能量特征如图5所示,鼻-软腭型鼾声频谱能量集中在30-1000Hz;鼻-软腭混合型的频谱能量特征如图6所示,鼻-软腭混合型鼾声频谱能量一般集中在2、3kHz,最高甚至可达到8000Hz以上;口打鼾型鼾声的频谱能量特征如图7所示,口打鼾型鼾声的频谱能量集中的频率范围一般在100Hz-8、9kHz,甚至可达到10kHz,类似人说话时的频率范围。则可采集不同发声部位发出的鼾声样本,并按发声部位对各鼾声样本进行分类,得到分别对应鼻-软腭型、鼻-软腭混合型、口打鼾型鼾声等鼾声类型的鼾声样本,基于鼾声样本来训练鼾声检测模型,使得训练好的鼾声检测模型可检测环境音是否包含鼾声。
步骤S230:若鼾声检测结果指示环境音包含鼾声,根据鼾声的频谱能量特征,确定频谱能量超过预设频谱能量的目标频率范围。
若鼾声检测结果指示环境音包含鼾声,可分析该鼾声的频谱能量特征,根据鼾声的频谱能量特征,确定频谱能量超过预设频谱能量的目标频率范围,即将频谱能量超过预设频谱能量的频率范围作为目标频率范围,表征鼾声的频谱能量主要集中在该目标频率范围,从而可根据鼾声的频谱能量所集中位于的目标频率范围进行后续的降噪处理,实现对鼾声的针对性降噪处理。其中,预设频谱能量可以根据实际需要确定,也可以是程序预设的,还可以是用户自行定义的,在此不作限定,在一个示例中,预设频谱能量可以是-100dB,则如图5所示,鼻-软腭型鼾声频谱能量大约集中在30-1000Hz,如图7所示,口打鼾型鼾声的频谱能量大约集中在100Hz-8、9kHz。
步骤S240:根据鼾声的目标频率范围确定是否满足掩蔽声播放条件。
在一些实施方式中,若鼾声的目标频率范围位于允许降噪的预设频率范围内,确定不满足掩蔽声播放条件;若鼾声的目标频率范围超出允许降噪的预设频率范围,确定满足掩蔽声播放条件。
其中,允许降噪的预设频率范围可以由输出反相声波的耳机确定,因此不同的耳机类型所对应的允许降噪的预设频率范围可能不同,例如,若耳机仅支持2kHz以下频率范围的噪声降噪,那么允许降噪的预设频率范围可以为2kHz以下频率范围,若鼾声的目标频率范围位于2kHz以内,可确定满足掩蔽声播放条件,否则不满足。另外,若耳机仅支持2kHz以下频率范围的噪声降噪,允许降噪的预设频率范围也可以为2kHz以下频率范围的子频率范围,即允许降噪预设频率范围小于或等于耳机所能够支持的最大频率范围。
需要说明的是,目标频率范围超出允许降噪的预设频率范围,可以包括目标频率范围的上限频率大于预设频率范围的上限频率、且目标频率范围的下限频率小于预设频率范围的上限频率,即鼾声的目标频率范围完全覆盖预设频率范围,还可以包括仅目标频率范围的上限频率大于预设频率范围的上限频率。
在一些实施例中,若鼾声检测结果指示环境音包含鼾声,也可分析该鼾声的频谱能量特征,确定该鼾声的鼾声类型,再基于该鼾声类型确定是否满足掩蔽声播放条件。具体地,在一些实施方式中,步骤S230至步骤S240的具体实施方式也可以为:预先存储多个鼾声类型的频谱能量所集中的频率范围,若鼾声检测结果指示环境音包含鼾声,获取鼾声的频谱能量特征后,可取特定频率对应的频谱能量与预设鼾声类型的曲线进行匹配,并将匹配的鼾声类型确定为所采集鼾声的鼾声类型,从而完成对鼾声类型的检测,判断所检测到的鼾声类型对应的频率范围是否位于预设频率范围内,若位于,则确定满足掩蔽声播放条件,若超出,则确定不满足掩蔽声播放条件。作为一种实施方式,可以取多个频率如200Hz、500Hz、1kHz、2kHz所对应的频谱能量来判断鼾声类型,当然在一些方式中,也可取更多或更少频率对应的频谱能量来判断鼾声类型,本实施例对此不作限定。作为另一种实施方式,也可以仅取一个频率如2kHz所对应的频谱能量来判断鼾声类型。
在另一些实施方式中,步骤S230至步骤S240的具体实施方式还可以为:若鼾声检测结果指示环境音包含鼾声,获取鼾声的频谱能量特征后,根据鼾声的频谱能量所集中的频率范围,确定对应的鼾声类型,并判断该鼾声类型对应的频率范围是否位于预设频率范围内,若位于,则确定满足掩蔽声播放条件,若超出,则确定不满足掩蔽声播放条件。
于本实施例中,根据鼾声的目标频率范围确定是否满足掩蔽声播放条件之后,可包括:
若不满足掩蔽声播放条件,可执行步骤S250;
若满足掩蔽声播放条件,可执行步骤S270。
步骤S250:根据鼾声的目标频率范围确定第一降噪参数。
若不满足掩蔽声播放条件,可根据鼾声的目标频率范围确定第一降噪参数,其中,第一降噪参数可以是主动降噪曲线,其可以是预先设置好的,也可以是根据鼾声的频谱能量特征实时生成的,在此不作限定。若第一降噪参数为预先设置好的,为了实现更好的降噪,可以细分频率范围,并针对每个频率范围分别设置一个降噪参数,从而可在无需如自适应降噪需要较大运算量和功耗的情况下,仍能实现细粒度较好的降噪效果。
进一步地,若鼾声的目标频率范围位于允许降噪的预设频率范围内,还可对允许降噪的预设频率范围进一步细分,比如可细分为第一频率范围、第二频率范围等,并按位于第一频率范围的鼾声的频谱能量特征构建对应的降噪参数,从而可根据鼾声的目标频率范围确定对应的降噪参数。
步骤S260:基于第一降噪参数对鼾声进行降噪处理。
步骤S270:确定与鼾声的目标频率范围对应的第二降噪参数。
若满足掩蔽声播放条件,可确定与鼾声的目标频率范围对应的第二降噪参数。其中,第二降噪参数可以是主动降噪曲线,其可以是预先设置好的,也可以是根据鼾声的频谱能量特征实时生成的,在此不作限定,并且,第二降噪参数的降噪范围大于或等于第一降噪参数的降噪范围,由此,若可相对第一降噪参数的降噪,可对第一降噪参数的降噪范围内甚至超出该降噪范围的鼾声信号也可进行噪声消除。在一个示例中,第二降噪参数的降噪范围可以是不超过预设频率范围的频率范围,如2kHz以下的频率范围,则可对2kHz以下频率范围的噪声进行降噪处理,并同时播放掩蔽声以进一步对2kHz以上频率的鼾声进行掩蔽,提升鼾声降噪效果。
例如,鼻软腭混合型、口打鼾型鼾声频率范围可达8000Hz以上,仅采用主动降噪不能消除2000Hz以上频率消除鼾声,且被动降噪隔绝鼾声效果有限,所以在降噪处理的同时播放掩蔽声进行掩蔽鼾声,从而提升用户体验。
步骤S280:基于第二降噪参数对鼾声进行降噪处理,并播放掩蔽声。
由于主要的鼾声类型中,鼻-软腭型鼾声频谱能量集中在30-1kHz,在主动降噪消除频率范围内即可消除大部分鼾声,因此只采用主动降噪消除鼾声即可,即根据目标频率范围确定的第一降噪参数对鼾声进行主动降噪处理;而鼻软腭混合型、口打鼾型鼾声的频率范围可达8kHz以上,仅采用主动降噪不能消除2kHz以上频率的鼾声,且耳机被动降噪隔绝鼾声效果有限,因此,通过在基于第二降噪参数对鼾声继续主动降噪的同时,还通过播放掩蔽声来掩蔽鼾声,可以对超出第二降噪参数的频率范围的鼾声也有很好的降噪效果,从而提升用户体验。
在一些实施方式中,基于第二降噪参数进行主动降噪时所需播放的反相声波和掩蔽声可以由同一个扬声器播出,也可以采用不同的扬声器播出,例如一个扬声器用于播放反相声波,另一个扬声器用于播放掩蔽声,在此不作限定。在另一些实施方式中,还可基于第二降噪参数播放掩蔽声,即可将原本掩蔽声的声波反相输出,以在掩蔽噪声同时对鼾声进行降噪处理。
在一些实施例中,掩蔽声的播放参数可根据鼾声的频谱能量特征确定,从而可基于播放参数播放掩蔽声,以提升掩蔽声的掩蔽效果,进一步降低鼾声降噪效果,降低鼾声给用户造成的困扰。其中,播放参数可以是播放音量、掩蔽声类型等,在此不作限定。
在一些实施方式中,播放参数可以是播放音量,鼾声的频谱能量越高,掩蔽声的播放音量越高。作为一种实施方式,可预先构建好频谱能量特征与播放音量之间的映射关系,根据频谱能量特征可确定对应的播放音量,并以该播放音量播放掩蔽声。
在另一些实施方式中,播放参数也可以是掩蔽声类型,从而可根据鼾声的频谱能量特征确定掩蔽声类型,进而播放该掩蔽声类型对应的掩蔽声,频谱能量越高,可选择掩蔽效果更好的掩蔽声类型。其中,掩蔽声类型可包括白噪声、海浪声、虫鸣声等,在此不作限定。作为一种实施方式,可预先构建频谱能量特征与掩蔽声类型的映射关系,根据频谱能量特征确定对应的掩蔽声类型。
在又一些实施方式中,播放参数可以是播放音量和掩蔽声类型,实现原理与上述类似,在此不再赘述。
需要说明的是,本实施例中未详细描述的部分可以参考前述实施例,在此不再赘述。
本实施例提供的降噪处理方法,通过基于循环神经网络模型构建鼾声检测模型,使用已采集的鼾声样本作为训练样本训练鼾声检测模型,并基于鼾声检测模型对环境音中的鼾声进行识别,由于循环神经网络可以“模拟”数据间的依赖关系,尤其是对于信噪比较低的持续性鼾声信号,可有效提高鼾声检测的准确率。若鼾声检测结果指示环境音包含鼾声,可分析该鼾声的频谱能量特征,确定该鼾声的鼾声类型,调用相应的主动降噪曲线进行主动降噪处理或结合主动降噪处理和播放掩蔽声的方式消除鼾声,相比于令人困扰的鼾声,舒缓白噪声、海浪声等舒适噪声有助眠的作用,提升用户体验。
请参阅图8,图8示出了本申请又一个实施例提供的降噪处理方法的流程示意图,具体地,该方法可以包括:
步骤S310:获取当前环境信息和/或当前用户特征信息。
其中,当前环境信息可包括光照信息、时间、定位信息等中的至少一个,则可根据环境信息确定当前场景。在一些实施方式中,当前环境信息可以是电子设备当前检测到的环境光强度,则电子设备可基于环境光监测判断当前环境信息是否指示当前场景为休息场景。具体地,可设置有环境光检测电路,如环境光传感器等,用于感知周围光线情况,采集环境光强度。则通过采集环境光强度,判断环境光强度是否超过预设光强度,若超过,可判定当前场景不为休息场景;若未超过,可判定当前场景为休息场景。则在环境光较弱时,可认为当前场景是休息场景。其中,预设光强度可以根据实际需要确定,也可以是程序预设的,还可以是用户自定义的,在此不作限定。
在另一些实施方式中,当前环境信息可以是电子设备当前的系统时间,则电子设备可基于当前系统时间判断当前环境信息是否指示当前场景为休息场景。具体地,电子设备可预置有预设休息时间,比如12:00-14:00、22:00-7:00,则电子设备可监测并获取当前系统时间,判断当前系统时间是否达到预设休息时间,若是,可判定当前场景为休息场景,即若所获取的当前环境信息如当前系统时间处于预设休息时间,则该当前环境信息指示当前场景为休息场景。其中,预设休息时间可以根据实际需要确定,可以通过学习用户习惯确定,也可以是程序预设的,还可以是用户自定义的,在此不作限定。
在又一些实施方式中,当前环境信息还可以是电子设备当前的定位信息,则电子设备可通过GPS(Global Positioning System,全球定位系统)获取定位信息,定位信息可以包括:由GPS定位得到的经度、由GPS定位得到的纬度,根据定位信息是否与预设位置对应的预设定位信息匹配,判断电子设备是否位于预设位置,预设位置可包括家、办公室等位置,其中,预设定位信息及其对应的预设位置可以由用户预先存储并设置,在此不作限定。若电子设备位于家,可判定当前场景为休息场景,若不位于家,可判定当前场景不为休息场景。当然,也可根据实际需要切换设置,比如如果用户在家并不需要消除鼾声,如用户独居时,则可设置为若电子设备位于家,则判定当前场景不为休息场景,从而无需检测鼾声甚至对鼾声做降噪处理,本实施例对此不作限定。
在还一些实施方式中,电子设备可结合定位信息、光照信息和时间等中的至少两个一同判断当前环境信息是否指示当前环境为休息场景。在一个示例中,电子设备可结合环境光检测和当前系统时间一同判断当前环境信息是否指示当前场景为休息场景。例如,若当前系统时间处于预设休息时间内,且环境光强度未超过预设光强度,可判定当前场景为休息场景,由此可提高对当前场景的识别准确性。
其中,当前用户特征信息还可包括当前用户生理特征、当前用户行为特征中的至少一个。当前用户生理特征可以包括心率、血氧、脑电波、血压中的至少一个;当前用户行为特征可以包括:运动状态、非运动状态、直立状态、卧躺状态中的至少一个。则电子设备可根据当用户特征信息确定用户自身所处的状态。
在一些实施方式中,当前用户特征信息可用于判定用户是否处于休息状态。则可预先配置好用户处于休息状态时的预定用户特征信息,从而通过将当前用户特征信息与预定用户特征信息进行匹配,可判定用户是否处于休息状态。例如,休息状态下用户特征信息比非休息状态的高或变化幅度大,比如休息状态下用户的心率会低于非休息状态、脑电波相对非休息状态变化幅度更小等。再如,休息状态下用户行为特征可能不符合运动状态、直立状态,更符合卧躺状态。
在一些示例中,若当前用户生理特征信息满足当前用户心率低于预定心率阈值如60次/分钟、血氧低于预定血氧饱和度、脑电波满足预定深度睡眠的曲线如θ波、γ波的曲线、血压低于预定血压值(如血压收缩压低于90毫米汞柱、舒张压低于60毫米汞柱)中至少一个条件,可判定用户处于休息状态。需要说明的是,前述数据仅为示例,不对本实施例构成限定,前述预定的数值可根据实际需要设定,也可由用户自定义等,在此不作限定。
进一步地,电子设备获取当前环境信息和/或当前用户特征信息,即获取当前环境信息和当前用户特征信息中的至少一个后,可根据当前环境信息和/或当前用户特征信息,确定是否执行采集环境音、获取环境音、进行降噪处理、播放掩蔽声中至少一种步骤,例如是否执行步骤S210,是否执行步骤S260或步骤S370,是否执行步骤S280或步骤S390中的降噪处理或播放掩蔽声等。
在一些实施例中,若当前用户生理特征信息指示用户进入深度睡眠,即用户处于深度睡眠状态时,则可控制不采集环境音、不获取环境音、不进行降噪处理、不播放掩蔽声中的至少一种。
在一些实施方式中,可预先存储用户处于深度睡眠状态时的生理特征信息如心率、血氧、脑电波、血压中的至少一个,由此,可通过将当前用户生理特征信息与深度睡眠状态下的生理特征信息比较,来判断用户是否进入深度睡眠,是否处于深度睡眠状态。由于深度睡眠下用户受鼾声的影响较小,从而可在用户进入深度睡眠时控制不采集环境音、不获取环境音、不进行降噪处理、不播放掩蔽声中的至少一种,以降低设备功耗。
在一些示例中,深度睡眠状态下的生理特征信息可在休息状态下的基础上更低或变化幅度更小,可根据实际需要设定,也可由用户自定义等,在此不再示例。
在一些实施方式中,由于用户处于深度睡眠时仍有可能受到较高噪声的影响,故可在用户处于深度睡眠状态时,还可继续采集环境音,若噪声的频谱能量超过深度睡眠可允许的睡眠许可能量值,可继续执行步骤S210以及后续步骤以对鼾声进行降噪处理。而若鼾声的频谱能量未超过深度睡眠可允许的睡眠许可能量值,则可控制停止采集环境音或停止降噪处理或停止播放掩蔽声,从而可在深度睡眠下噪声的频谱能量值低于睡眠许可能量值的情况下不用再进行降噪,从而可在噪声高到在可能影响用户睡眠时进行降噪处理,而在不影响用户睡眠的情况下停止采集环境音或停止降噪处理或停止播放掩蔽声,以降低设备功耗。
步骤S320:若当前环境信息指示当前场景为休息场景,和/或,当前用户特征信息指示用户处于休息状态,则执行获取音频采集装置采集的环境音的步骤。
也就是说,若当前环境信息指示当前场景为休息场景,和/或,当前用户特征信息指示用户处于休息状态,则可执行步骤S210。
另外,在一些实施例中,休息状态还可进一步包括深度睡眠状态,比如,在一些实施方式中,若当前用户生理特征信息指示用户进入深度睡眠,即用户处于深度睡眠状态时,则可控制停止采集环境音或停止降噪处理或停止播放掩蔽声,从而可在鼾声不影响用户睡眠的情况下降低设备功耗。具体描述可参见前述内容,在此不再赘述。其中,休息场景不限于中午休息、晚间休息等休息场景,本实施例对其休息场景发生的时间不作限定。
若当前环境信息指示当前场景为休息场景,获取音频采集装置采集的环境音,则可在休息场景时,才进行鼾声检测,从而相对于实时开启环境音采集和检测,可降低设备功耗。并在一些实施例中,若音频采集装置设置于真无线耳机,还可提高其续航时间,提升用户体验。
步骤S330:将环境音输入鼾声检测模型,得到鼾声检测结果。
在一些实施例中,若超过预设时间未采集到鼾声,基于第三降噪参数进行降噪处理,其中,第三降噪参数用于对日常噪声进行降噪处理。因此耳机可至少预置2套降噪参数,其中一套为常规ANC降噪参数,用于对日常噪声进行降噪处理,从而在鼾声较弱甚至不存在的情况下,可采用第三降噪参数,即并非针对鼾声设置的降噪参数来进行降噪处理;另一套降噪参数与鼾声的频谱特性匹配,用于针对鼾声进行降噪处理,其主要特征是ANC降噪峰值位于200~500Hz之间,进一步包括第一降噪参数和第二降噪参数。从而可节省用户使用和购买的ANC耳机数量,一副ANC耳机,既可以消除鼾声噪声,也可以消除日常噪声。并在通过超过预设时间未采集到鼾声,则基于对日常噪声进行降噪的第三降噪参数进行降噪处,可在识别到周围环境中鼾声消失以后,将降噪参数从针对鼾声优化的第一或第二降噪参数调整为对日常非鼾声进行降噪的第三降噪参数,比如将主动降噪曲线从针对鼾声优化的降噪曲线调整为常规降噪曲线。
步骤S340:若鼾声检测结果指示环境音包含鼾声,根据鼾声的频谱能量特征,确定频谱能量超过预设频谱能量的目标频率范围。
步骤S350:根据鼾声的目标频率范围确定是否满足掩蔽声播放条件。
在一些实施例中,若鼾声检测结果指示环境音包含鼾声,对于频率范围较大,频谱较宽的鼾声类型,可以通过耳机播放提示音,该提示音用于提示用户更换被动降噪更好的耳帽,以进一步提升鼾声降噪效果。
于本实施例中,根据鼾声的目标频率范围确定是否满足掩蔽声播放条件之后,可包括:
若不满足掩蔽声播放条件,可执行步骤S360;
若满足掩蔽声播放条件,可执行步骤S380。
步骤S360:根据鼾声的目标频率范围确定第一降噪参数。
步骤S370:基于第一降噪参数对鼾声进行降噪处理。
步骤S380:若满足掩蔽声播放条件,确定与鼾声的目标频率范围对应的第二降噪参数。
步骤S390:基于第二降噪参数对鼾声进行降噪处理,并播放掩蔽声。
由于本实施例是根据当前环境信息确定当前场景为休息场景时,才采集环境音,则此时播放相对鼾声来说舒适很多的掩蔽声,如舒缓白噪声、海浪声、虫鸣声等,起到掩蔽作用的同时,还具有助眠作用,有利于休息场景下用户的休息,提升用户体验。
需要说明的是,在实际应用中,实施例中的降噪处理方法可以是实时进行的,也可以是按周期进行的,可以是一个动态的过程,可以根据获取当前环境信息和/或当前用户特征信息动态确定是否执行相关操作。本实施例中未详细描述的部分可以参考前述实施例,在此不再赘述。
本实施例提供的降噪处理方法,在前述实施例的基础上,通过在采集环境音后,先根据环境音确定当前场景是否为休息场景,并在当前场景为休息场景时,才基于鼾声检测模型检测环境音是否存在鼾声,从而相对于实时开启环境音采集和检测,可降低设备功耗。并在一些实施例中,若音频采集装置设置于真无线耳机,还可提高其续航时间,提升用户体验。进一步地,若存在鼾声,分析鼾声的频谱能量特征,根据鼾声的频谱能量特征确定是否满足掩蔽声播放条件,来确定是仅对鼾声进行降噪处理,还是对鼾声进行降噪处理的同时播放掩蔽声,从而可以在处于休息场景且检测到鼾声干扰较大,即满足掩蔽声播放条件时,对鼾声进行降噪的同时,播放相对鼾声来说舒适很多的掩蔽声,如舒缓白噪声、海浪声、虫鸣声等,起到掩蔽作用的同时,还具有助眠作用,有利于休息场景下用户的休息,提升用户体验。
请参阅图9,其示出了本申请实施例提供的一种降噪处理装置900的结构框图,可应用于电子设备,电子设备可以是上述终端或耳机,具体地,该降噪处理装置900可以包括:音频采集模块910、鼾声检测模块920、降噪判断模块930以降噪处理模块940,具体地:
音频采集模块910,用于获取音频采集装置采集的环境音;
鼾声检测模块920,用于将所述环境音输入鼾声检测模型,得到鼾声检测结果;
降噪判断模块930,用于若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征确定是否满足掩蔽声播放条件;
降噪处理模块940,用于若满足掩蔽声播放条件,对所述鼾声进行降噪处理,并播放掩蔽声。
进一步地,音频采集模块910包括:环境信息获取子模块以及环境音采集子模块,其中:
辅助信息获取子模块,用于获取当前环境信息和/或当前用户特征信息;其中,所述当前环境信息包括当前位置、时间、光照信息中的至少一个;所述当前用户特征信息包括当前用户生理特征、当前用户行为特征中的至少一个;所述当前用户生理特征包括心率、血氧、脑电波、血压中的至少一个;所述当前用户行为特征包括:运动状态、非运动状态、直立状态、卧躺状态中的至少一个;
环境音采集子模块,用于根据所述当前环境信息和/或所述当前用户特征信息,确定是否执行采集所述环境音、获取所述环境音、进行所述降噪处理、播放所述掩蔽声中至少一种步骤。
进一步地,所述环境音采集子模块包括:休息控制单元,其中:
休息控制单元,用于若所述当前环境信息指示当前场景为休息场景,和/或,所述当前用户特征信息指示用户处于休息状态,则执行所述获取音频采集装置采集的环境音的步骤。
进一步地,所述环境音采集子模块包括:深度睡眠控制单元,其中:
深度睡眠控制单元,用于若所述当前用户生理特征信息指示用户进入深度睡眠,则控制不采集所述环境音、不获取所述环境音、不进行所述降噪处理、不播放所述掩蔽声中的至少一种。
进一步地,所述降噪处理装置900还包括:风险控制模块,其中:
风险控制模块,用于若所述环境音中包括风险提示音,则执行停止所述降噪处理、停止所述播放掩蔽声、播放告警音中的至少一个。
进一步地,所述降噪判断模块930包括:频率范围确定子模块、第一判断子模块以及第二判断子模块,其中:
频率范围确定子模块,用于若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征,确定所述频谱能量超过预设频谱能量的目标频率范围;
第一判断子模块,用于若所述鼾声的目标频率范围位于允许降噪的预设频率范围内,确定不满足掩蔽声播放条件;
第二判断子模块,用于若所述鼾声的目标频率范围超出允许降噪的预设频率范围,确定满足掩蔽声播放条件。
进一步地,所述降噪处理装置900还包括:第一降噪确定模块以及第一降噪处理模块,其中:
第一降噪确定模块,用于若不满足掩蔽声播放条件,根据所述鼾声的目标频率范围确定第一降噪参数;
第一降噪处理模块,用于基于所述第一降噪参数对所述鼾声进行降噪处理。
进一步地,所述降噪判断模块930包括:第二降噪确定子模块以及第二降噪处理子模块,其中:
第二降噪确定子模块,用于若满足掩蔽声播放条件,确定与所述鼾声的目标频率范围对应的第二降噪参数,所述第二降噪参数的降噪范围大于或等于所述第一降噪参数的降噪范围;
第二降噪处理子模块,用于基于所述第二降噪参数对所述鼾声进行降噪处理,并播放掩蔽声。
进一步地,所述播放掩蔽声之前,所述降噪处理装置900还包括:播放参数确定模块、掩蔽声播放模块以及第三降噪处理模块,其中:
播放参数确定模块,用于根据所述鼾声的频谱能量特征,确定所述掩蔽声的播放参数;
掩蔽声播放模块,用于基于所述播放参数播放所述掩蔽声。
第三降噪处理模块,用于若超过预设时间未采集到鼾声,基于第三降噪参数进行降噪处理,所述第三降噪参数用于对日常噪声进行降噪处理。
进一步地,所述鼾声检测模型由循环神经网络构建得到。
本申请实施例提供的降噪处理装置用于实现前述方法实施例中相应的降噪处理方法,并具有相应的方法实施例的有益效果,在此不再赘述。
在本申请所提供的几个实施例中,模块相互之间的耦合可以是电性,机械或其它形式的耦合。
另外,在本申请各个实施例中的各功能模块可以集成在一个处理模块中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。
请参考图10,其示出了本申请实施例提供的一种电子设备的结构框图。该电子设备1000可以是耳机或智能手机、平板电脑、MP3播放器、MP4播放器、电子书、笔记本电脑、个人计算机、可穿戴电子设备等能够运行应用程序的终端。本申请中的电子设备1000可以包括一个或多个如下部件:处理器1010、存储器1020以及一个或多个应用程序,其中一个或多个应用程序可以被存储在存储器1020中并被配置为由一个或多个处理器1010执行,一个或多个程序配置用于执行如前述方法实施例所描述的方法。
处理器1010可以包括一个或者多个处理核。处理器1010利用各种接口和线路连接整个电子设备1000内的各个部分,通过运行或执行存储在存储器1020内的指令、程序、代码集或指令集,以及调用存储在存储器1020内的数据,执行电子设备1000的各种功能和处理数据。可选地,处理器1010可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable Logic Array,PLA)中的至少一种硬件形式来实现。处理器1010可集成中央处理器(Central Processing Unit,CPU)、图像处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责显示内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器1010中,单独通过一块通信芯片进行实现。
存储器1020可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory)。存储器1020可用于存储指令、程序、代码、代码集或指令集。存储器1020可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于实现至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现下述各个方法实施例的指令等。存储数据区还可以存储电子设备1000在使用中所创建的数据(比如电话本、音视频数据、聊天记录数据)等。
请参阅图11,其示出了本申请实施例提供的一种耳机的结构框图。请参阅图11,其示出了本申请实施例提供的耳机的结构框图。耳机1100可包括音频采集装置1110、音频输出装置1120以及音频信号处理电路1130。其中:
所述音频采集装置1110,用于采集环境音。在一些实施方式中,音频采集装置1110可以是麦克风或其他可采集音频信号的器件,用于采集音频信号,并传输至音频信号处理电路1120。
所述音频信号处理电路1120,用于获取所述音频采集装置采集的环境音;将所述环境音输入鼾声检测模型,得到鼾声检测结果;若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征确定是否满足掩蔽声播放条件;若满足掩蔽声播放条件,输出控制信号至所述音频输出装置。
所述音频输出装置1130,用于根据所述控制信号,对所述鼾声进行降噪处理,并播放掩蔽声。在一些实施方式中,音频输出装置1130可以是扬声器或其他可输出音频信号的器件。
另外,在一些实施例中,耳机1100还可包括供电电路,该供电电路可以为其他硬件部件供电,供电来源可以是耳机1100内置的电池,可以是来自外部的电力输入,也可以是耳机1100内置的发电器件。
本申请实施例提供的耳机1100用于实现前述方法实施例中相应的降噪处理方法,并具有相应的方法实施例的有益效果,在此不再赘述。请参考图12,其示出了本申请实施例提供的一种计算机可读取存储介质的结构框图。该计算机可读取存储介质1200中存储有程序代码,所述程序代码可被处理器调用执行上述实施例中所描述的方法。
计算机可读取存储介质1200可以是诸如闪存、EEPROM(电可擦除可编程只读存储器)、EPROM、硬盘或者ROM之类的电子存储器。可选地,计算机可读取存储介质1200包括非易失性计算机可读取存储介质(non-transitory computer-readable storage medium)。计算机可读取存储介质1200具有执行上述方法中的任何方法步骤的程序代码1210的存储空间。这些程序代码可以从一个或者多个计算机程序产品中读出或者写入到这一个或者多个计算机程序产品中。程序代码1210可以例如以适当形式进行压缩。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不驱使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。
Claims (16)
1.一种降噪处理方法,其特征在于,所述方法包括:
获取音频采集装置采集的环境音;
将所述环境音输入鼾声检测模型,得到鼾声检测结果;
若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征确定是否满足掩蔽声播放条件;
若满足掩蔽声播放条件,对所述鼾声进行降噪处理,并播放掩蔽声。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取当前环境信息和/或当前用户特征信息;其中,所述当前环境信息包括光照信息、时间、定位信息中的至少一个;所述当前用户特征信息包括当前用户生理特征、当前用户行为特征中的至少一个;所述当前用户生理特征包括心率、血氧、脑电波、血压中的至少一个;所述当前用户行为特征包括:运动状态、非运动状态、直立状态、卧躺状态中的至少一个;
根据所述当前环境信息和/或所述当前用户特征信息,确定是否执行采集所述环境音、获取所述环境音、进行所述降噪处理、播放所述掩蔽声中至少一种步骤。
3.根据权利要求2所述的方法,其特征在于,所述根据所述当前环境信息和/或所述当前用户特征信息,确定是否执行采集所述环境音、获取所述环境音、进行所述降噪处理、播放所述掩蔽声中至少一种步骤,包括:
若所述当前环境信息指示当前场景为休息场景,和/或,所述当前用户特征信息指示用户处于休息状态,则执行所述获取音频采集装置采集的环境音的步骤。
4.根据权利要求2所述的方法,其特征在于,所述根据所述当前环境信息和/或所述当前用户特征信息,确定是否执行采集所述环境音、获取所述环境音、进行所述降噪处理、播放所述掩蔽声中至少一种步骤包括:
若所述当前用户生理特征信息指示用户进入深度睡眠,则控制不采集所述环境音、不获取所述环境音、不进行所述降噪处理、不播放所述掩蔽声中的至少一种。
5.根据权利要求1所述的方法,其特征在于,所述获取音频采集装置采集的环境音之后,还包括:
若所述环境音中包括风险提示音,则执行停止所述降噪处理、停止所述播放掩蔽声、播放告警音中的至少一个。
6.根据权利要求1所述的方法,其特征在于,所述若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征确定是否满足掩蔽声播放条件,包括:
若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征,确定所述频谱能量超过预设频谱能量的目标频率范围;
若所述鼾声的目标频率范围位于允许降噪的预设频率范围内,确定不满足掩蔽声播放条件;
若所述鼾声的目标频率范围超出允许降噪的预设频率范围,确定满足掩蔽声播放条件。
7.根据权利要求6所述的方法,其特征在于,所述若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征,确定所述频谱能量超过预设频谱能量的目标频率范围,包括:
若所述鼾声检测结果指示所述环境音包含鼾声,将所检测到的鼾声在特定频率点的频谱能量与多种鼾声类型的频谱能量特征图进行比对,确定所述鼾声的鼾声类型;
确定所述鼾声类型的频谱能量超过预设频谱能量的目标频率范围。
8.根据权利要求6所述的方法,其特征在于,所述方法还包括:
若不满足掩蔽声播放条件,根据所述鼾声的目标频率范围确定第一降噪参数;
基于所述第一降噪参数对所述鼾声进行降噪处理。
9.根据权利要求6所述的方法,其特征在于,所述若满足掩蔽声播放条件,对所述鼾声进行降噪处理,并播放掩蔽声,包括:
若满足掩蔽声播放条件,确定与所述鼾声的目标频率范围对应的第二降噪参数,所述第二降噪参数的降噪范围大于或等于所述第一降噪参数的降噪范围;
基于所述第二降噪参数对所述鼾声进行降噪处理,并播放掩蔽声。
10.根据权利要求8所述的方法,其特征在于,所述播放掩蔽声之前,所述方法还包括:
根据所述鼾声的频谱能量特征,确定所述掩蔽声的播放参数;
所述播放掩蔽声,包括:
基于所述播放参数播放所述掩蔽声。
11.根据权利要求1所述的方法,其特征在于,所述方法还包括:
若超过预设时间未采集到鼾声,基于第三降噪参数进行降噪处理,所述第三降噪参数用于对日常噪声进行降噪处理。
12.根据权利要求1-11任一项所述的方法,其特征在于,所述鼾声检测模型由循环神经网络构建得到。
13.一种降噪处理装置,其特征在于,所述装置包括:
音频采集模块,用于获取音频采集装置采集的环境音;
鼾声检测模块,用于将所述环境音输入鼾声检测模型,得到鼾声检测结果;
降噪判断模块,用于若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征确定是否满足掩蔽声播放条件;
降噪处理模块,用于若满足掩蔽声播放条件,对所述鼾声进行降噪处理,并播放掩蔽声。
14.一种耳机,其特征在于,包括音频采集装置、音频输出装置以及音频信号处理电路,其中:
所述音频采集装置,用于采集环境音;
所述音频信号处理电路,用于获取所述音频采集装置采集的环境音;将所述环境音输入鼾声检测模型,得到鼾声检测结果;若所述鼾声检测结果指示所述环境音包含鼾声,根据所述鼾声的频谱能量特征确定是否满足掩蔽声播放条件;若满足掩蔽声播放条件,输出控制信号至所述音频输出装置;
所述音频输出装置,用于根据所述控制信号,对所述鼾声进行降噪处理,并播放掩蔽声。
15.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储器;
一个或多个应用程序,其中所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序配置用于执行如权利要求1-12任一项所述的方法。
16.一种计算机可读取存储介质,其特征在于,所述计算机可读取存储介质中存储有程序代码,所述程序代码可被处理器调用执行所述权利要求1-12任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010688700.XA CN113949956B (zh) | 2020-07-16 | 2020-07-16 | 降噪处理方法、装置、电子设备、耳机及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010688700.XA CN113949956B (zh) | 2020-07-16 | 2020-07-16 | 降噪处理方法、装置、电子设备、耳机及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113949956A true CN113949956A (zh) | 2022-01-18 |
CN113949956B CN113949956B (zh) | 2024-02-13 |
Family
ID=79326583
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010688700.XA Active CN113949956B (zh) | 2020-07-16 | 2020-07-16 | 降噪处理方法、装置、电子设备、耳机及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113949956B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114299990A (zh) * | 2022-01-28 | 2022-04-08 | 杭州老板电器股份有限公司 | 吸油烟机的异音识别及音频注入的控制方法和系统 |
CN115278446A (zh) * | 2022-07-25 | 2022-11-01 | 青岛海信日立空调系统有限公司 | 一种定向音响及其控制方法 |
CN115277931A (zh) * | 2022-06-27 | 2022-11-01 | 北京小米移动软件有限公司 | 信息提示方法、信息提示装置及存储介质 |
CN117079634A (zh) * | 2023-10-16 | 2023-11-17 | 深圳波洛斯科技有限公司 | 一种音频主动降噪方法 |
CN118612620A (zh) * | 2024-08-09 | 2024-09-06 | 河歌科技(深圳)有限责任公司 | 一种用于耳机的降噪评估系统及方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090082071A1 (en) * | 2007-09-25 | 2009-03-26 | Hicks Iii John Alson | Alert Processing Devices and Systems for Noise-Reducing Headsets and Methods for Providing Alerts to Users of Noise-Reducing Headsets |
US20150281829A1 (en) * | 2014-03-26 | 2015-10-01 | Bose Corporation | Collaboratively Processing Audio between Headset and Source to Mask Distracting Noise |
US20170323630A1 (en) * | 2016-05-09 | 2017-11-09 | Snorehammer, Inc. | Snoring active noise-cancellation, masking, and suppression |
CN107464551A (zh) * | 2017-07-17 | 2017-12-12 | 江西智能无限物联科技有限公司 | 智能降噪鼾声消除器 |
CN111012361A (zh) * | 2019-12-31 | 2020-04-17 | 汪宇恒 | 智能打鼾行为监测装置及打鼾预警系统 |
-
2020
- 2020-07-16 CN CN202010688700.XA patent/CN113949956B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090082071A1 (en) * | 2007-09-25 | 2009-03-26 | Hicks Iii John Alson | Alert Processing Devices and Systems for Noise-Reducing Headsets and Methods for Providing Alerts to Users of Noise-Reducing Headsets |
US20150281829A1 (en) * | 2014-03-26 | 2015-10-01 | Bose Corporation | Collaboratively Processing Audio between Headset and Source to Mask Distracting Noise |
US20170323630A1 (en) * | 2016-05-09 | 2017-11-09 | Snorehammer, Inc. | Snoring active noise-cancellation, masking, and suppression |
CN107464551A (zh) * | 2017-07-17 | 2017-12-12 | 江西智能无限物联科技有限公司 | 智能降噪鼾声消除器 |
CN111012361A (zh) * | 2019-12-31 | 2020-04-17 | 汪宇恒 | 智能打鼾行为监测装置及打鼾预警系统 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114299990A (zh) * | 2022-01-28 | 2022-04-08 | 杭州老板电器股份有限公司 | 吸油烟机的异音识别及音频注入的控制方法和系统 |
CN115277931A (zh) * | 2022-06-27 | 2022-11-01 | 北京小米移动软件有限公司 | 信息提示方法、信息提示装置及存储介质 |
CN115278446A (zh) * | 2022-07-25 | 2022-11-01 | 青岛海信日立空调系统有限公司 | 一种定向音响及其控制方法 |
CN117079634A (zh) * | 2023-10-16 | 2023-11-17 | 深圳波洛斯科技有限公司 | 一种音频主动降噪方法 |
CN117079634B (zh) * | 2023-10-16 | 2023-12-22 | 深圳波洛斯科技有限公司 | 一种音频主动降噪方法 |
CN118612620A (zh) * | 2024-08-09 | 2024-09-06 | 河歌科技(深圳)有限责任公司 | 一种用于耳机的降噪评估系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113949956B (zh) | 2024-02-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113949956B (zh) | 降噪处理方法、装置、电子设备、耳机及存储介质 | |
US9992567B2 (en) | Intelligent headphone | |
CN108369805B (zh) | 一种语音交互方法、装置和智能终端 | |
US12014716B2 (en) | Method for reducing occlusion effect of earphone, and related apparatus | |
US11812225B2 (en) | Method, apparatus and system for neural network hearing aid | |
CN113949955B (zh) | 降噪处理方法、装置、电子设备、耳机及存储介质 | |
US11877125B2 (en) | Method, apparatus and system for neural network enabled hearing aid | |
US11832061B2 (en) | Method, apparatus and system for neural network hearing aid | |
CN116324969A (zh) | 具有定位反馈的听力增强和可穿戴系统 | |
US12075215B2 (en) | Method, apparatus and system for neural network hearing aid | |
CN112911441A (zh) | 降噪方法、装置、音频设备和计算机可读存储介质 | |
JP7222354B2 (ja) | 情報処理装置、情報処理端末、情報処理方法、および、プログラム | |
WO2022199354A1 (zh) | 通话音量的调节方法、装置、终端及存储介质 | |
WO2022198538A1 (zh) | 主动降噪音频设备和用于主动降噪的方法 | |
CN114466278A (zh) | 一种耳机模式对应的参数确定方法、耳机、终端和系统 | |
WO2023136835A1 (en) | Method, apparatus and system for neural network hearing aid | |
CN107493376A (zh) | 一种铃声音量调节方法和装置 | |
TWI813307B (zh) | 聽覺環境感知健康促進系統 | |
CN114125649B (zh) | 音量调节方法和装置 | |
US20230260526A1 (en) | Method and electronic device for personalized audio enhancement | |
US20230229383A1 (en) | Hearing augmentation and wearable system with localized feedback | |
CN118158594A (zh) | 音频处理方法、装置、音频播放设备以及存储介质 | |
CN115396765A (zh) | 一种音质参数的匹配方法及无线耳机 | |
CN116419111A (zh) | 耳机的控制方法、参数生成方法、装置、存储介质及耳机 | |
CN118042348A (zh) | 音频处理方法、装置、音频播放设备以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |