CN110503981A - 无参考音频客观质量评价方法、装置及存储介质 - Google Patents
无参考音频客观质量评价方法、装置及存储介质 Download PDFInfo
- Publication number
- CN110503981A CN110503981A CN201910788711.2A CN201910788711A CN110503981A CN 110503981 A CN110503981 A CN 110503981A CN 201910788711 A CN201910788711 A CN 201910788711A CN 110503981 A CN110503981 A CN 110503981A
- Authority
- CN
- China
- Prior art keywords
- reference information
- evaluation
- sample
- quality
- audio
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 238000011156 evaluation Methods 0.000 claims abstract description 153
- 238000012549 training Methods 0.000 claims abstract description 123
- 238000013441 quality evaluation Methods 0.000 claims abstract description 50
- 238000001303 quality assessment method Methods 0.000 claims abstract description 6
- 238000006243 chemical reaction Methods 0.000 claims description 25
- 238000013144 data compression Methods 0.000 claims description 13
- 238000012360 testing method Methods 0.000 claims description 13
- 238000012545 processing Methods 0.000 claims description 10
- 241000208340 Araliaceae Species 0.000 claims description 7
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 claims description 7
- 235000003140 Panax quinquefolius Nutrition 0.000 claims description 7
- 230000000694 effects Effects 0.000 claims description 7
- 235000008434 ginseng Nutrition 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 7
- 238000007906 compression Methods 0.000 claims description 6
- 230000006835 compression Effects 0.000 claims description 6
- 239000011159 matrix material Substances 0.000 claims description 4
- 238000007781 pre-processing Methods 0.000 claims description 3
- 238000012216 screening Methods 0.000 claims description 3
- 238000013210 evaluation model Methods 0.000 description 18
- 230000007613 environmental effect Effects 0.000 description 14
- 230000009467 reduction Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 5
- 230000002093 peripheral effect Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000011176 pooling Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 241000894007 species Species 0.000 description 2
- 230000001052 transient effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
Landscapes
- Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Telephonic Communication Services (AREA)
Abstract
本申请涉及一种无参考音频客观质量评价方法、装置及存储介质,属于音频质量评价技术领域,该方法包括:获取待评价音频数据的评价参考信息;对评价参考信息进行预处理,得到预处理后的评价参考信息;将预处理后的评价参考信息输入预先训练的客观质量评价模型,得到待评价音频数据的客观质量评价结果;客观质量评价模型是使用多组训练数据进行训练得到的,每组训练数据包括样本评价参考信息和样本质量评价结果,样本质量评价结果是对在样本评价参考信息下的样本音频数据进行主观打分得到的;使得终端无需消耗计算资源来计算训练数据中的样本质量评价结果,可以节省终端的计算资源。
Description
技术领域
本申请涉及一种无参考音频客观质量评价方法、装置及存储介质,属于音频质量评价技术领域。
背景技术
随着人们生活质量提高,人们对音频有了更高、更多样化的需求。终端上音频服务快速增长,比如:视频会议终端上的音频服务,为了保证用户在音频服务方面的良好体验,音频质量评价必不可少。音频客观质量评价是指利用特定的评估模型自动计算音频质量的评价方法。
申请号为201410196690.2的发明专利《基于音频信号特性分类的无参考音频质量评价方法和系统》提供了一种无参考音频客观质量评价方法,该方法包括:基于有参考音频质量评价模型建立训练模型,采用机器学习获取不同类型音频信号的音频质量与网络参数的关系,即无参考音频质量评价模型,网络参数包括延迟时间和丢包率;在音频信号网络传输中,将当前丢包率、当前延迟时间和当前丢包数据的音频信号类型输入无参考音频质量评价模型,获得当前音频质量。
然而,在基于有参考音频质量评价模型建立训练模型时,终端需要使用有参考音频质量评价模型对音频数据进行打分,得到无参考音频质量评价模型的训练数据,一方面,由于是使用有参考音频质量评价模型来获得训练数据,其训练数据本身准确性受到有参考音频质量评价模型的限制,如果有参考音频质量模型检测的准确性低、参考音频质量较低或者出现BUG,将直接影响训练数据的准确定性,进而导致无参考音频质量评价模型检测的准确度低;另一方面,采用有参考音频质量评价模型获取训练数据,需要消耗终端大量的计算资源来获取训练数据。
发明内容
本申请提供了一种无参考音频客观质量评价方法、装置及存储介质,可以解决基于有参考音频质量评价模型获取训练数据,导致终端的计算资源消耗较大的问题。本申请提供如下技术方案:
第一方面,提供了一种无参考音频客观质量评价方法,所述方法包括:
获取待评价音频数据的评价参考信息,所述评价参考信息是指影响所述待评价音频数据质量的因素的信息;
对所述评价参考信息进行预处理,得到预处理后的评价参考信息;
将所述预处理后的评价参考信息输入预先训练的客观质量评价模型,得到所述待评价音频数据的客观质量评价结果;
其中,所述客观质量评价模型是使用多组训练数据进行训练得到的,每组训练数据包括样本评价参考信息和样本质量评价结果,所述样本质量评价结果是对在所述样本评价参考信息下的样本音频数据进行主观打分得到的。
可选地,所述对所述评价参考信息进行预处理,得到预处理后的评价参考信息,包括:
将所述评价参考信息的格式转化为所述客观质量评价模型支持的格式,得到格式转化后的评价参考信息;
对所述格式转化后的评价参考信息进行数据压缩,得到所述预处理后的评价参考信息。
可选地,所述将所述预处理后的评价参考信息的格式转化为所述客观质量评价模型支持的格式,得到格式转化后的评价参考信息,包括:
将所述评价参考信息中字符类型的信息转化为数值类型;和/或,
去除所述评价参考信息中带单位数字类型的信息的单位。
可选地,所述对所述格式转化后的评价参考信息进行数据压缩,得到所述预处理后的评价参考信息,包括:
基于预设压缩公式将同一属性的不同评价参考信息合并为一项信息;和/或,
基于短板效应将指定类型的评价参考信息合并为一项信息;和/或,
删除固定不变的评价参考信息。
可选地,所述评价参考信息包括网络信息,所述网络信息用于指示所述待评价音频数据的网络传输质量;所述网络信息包括网络延时、网络抖动、网络错包率和网络丢包率;
所述基于预设压缩公式将同一属性的不同评价参考信息合并为一项信息,包括:
将所述网络延时、所述网络抖动、所述网络错包率和所述网络丢包率输入所述预设压缩公式,得到网络信息的合并信息。
可选地,所述评价参考信息包括音频采集播放信息和音频编解码信息;所述音频采集播放信息用于指示所述待评价音频数据的采集环境和播放环境;所述音频采集播放信息包括:采集声道数、播放声道数;所述音频编解码信息用于指示所述待评价音频数据的编解码方式;所述音频编解码信息包括:编码声道数;
所述基于短板效应将指定类型的评价参考信息合并为一项信息,包括:
将所述采集声道数、所述播放声道数和所述编码声道数合并为所述编码声道数。
可选地,所述将所述评价参考信息输入预先训练的客观质量评价模型,得到所述待评价音频数据的客观质量评价结果之前,还包括:
获取所述多组训练数据;
对所述多组训练数据进行预处理,得到预处理后的训练数据;
将所述预处理后的训练数据中的样本评价参考信息输入预设模型,得到训练结果;
基于所述训练结果与所述样本评价参考信息对应的样本质量评价结果之间的差异,对所述预设模型的模型参数进行训练,直至所述差异在预设范围内或者训练次数达到预设次数时停止,得到所述客观质量评价模型。
可选地,所述获取所述多组训练数据,包括:
模拟音频数据的网络环境、采集环境、播放环境和/或编解码方式,得到模拟质量评价环境下的样本评价参考信息;
获取测试用户对所述模拟质量评价环境中的样本音频数据的主观打分,得到模拟质量评价环境下的样本质量评价结果。
可选地,所述获取所述多组训练数据,包括:
获取样本音频数据在实际质量评价环境下的网络环境、采集环境、播放环境和/或编解码方式,得到实际质量评价环境下的样本评价参考信息;
获取使用用户对所述样本音频数据的主观打分,得到实际质量评价环境下的样本质量评价结果。
可选地,所述对所述多组训练数据进行预处理,得到预处理后的训练数据,包括:
筛除所述多组训练数据中的无效数据;
将筛除后的训练数据的格式转化为所述预设模型支持的格式;
对格式转换后的训练数据进行数据压缩;
基于压缩后的训练数据生成二维的测试集矩阵,得到所述预处理后的训练数据。
第二方面,提供了一种无参考音频客观质量评价装置,所述装置包括:
信息获取模块,用于获取待评价音频数据的评价参考信息,所述评价参考信息是指影响所述待评价音频数据质量的因素的信息;
信息处理模块,用于对所述评价参考信息进行预处理,得到预处理后的评价参考信息;
质量评价模块,用于将所述预处理后的评价参考信息输入预先训练的客观质量评价模型,得到所述待评价音频数据的客观质量评价结果;
其中,所述客观质量评价模型是使用多组训练数据进行训练得到的,每组训练数据包括样本评价参考信息和样本质量评价结果,所述样本质量评价结果是对在所述样本评价参考信息下的样本音频数据进行主观打分得到的。
第三方面,提供一种无参考音频客观质量评价装置,所述装置包括处理器和存储器;所述存储器中存储有程序,所述程序由所述处理器加载并执行以实现第一方面所述的无参考音频客观质量评价方法。
第四方面,提供一种计算机可读存储介质,所述存储介质中存储有程序,所述程序由所述处理器加载并执行以实现第一方面所述的无参考音频客观质量评价方法。
本申请的有益效果在于:通过获取待评价音频数据的评价参考信息;对评价参考信息进行预处理,得到预处理后的评价参考信息;将评价参考信息输入预先训练的客观质量评价模型,得到待评价音频数据的客观质量评价结果;客观质量评价模型是使用多组训练数据进行训练得到的,每组训练数据包括样本评价参考信息和样本质量评价结果,样本质量评价结果是对在样本评价参考信息下的样本音频数据进行主观打分得到的;可以解决基于有参考音频质量评价模型获取训练数据,导致终端的计算资源消耗较大的问题;由于通过对样本音频数据进行主观打分来获取训练数据,使用该训练数据训练得到客观质量评价模型,一方面使得终端无需消耗计算资源来计算训练数据中的样本质量评价结果,因此,可以节省终端的计算资源;另一方面,也不会受到有参考音频质量评价模型的限制,不会因为有参考音频质量模型检测的准确性低、参考音频质量较低或者出现BUG而导致训练出的客观质量评价模型评价的准确性较差的问题。
另外,由于主观打分更贴近用户对音频质量的感受,因此,通过基于主观打分训练得到客观质量评价模型,可以提高客观质量评价模型输出的客观质量评价结果的准确性。
上述说明仅是本申请技术方案的概述,为了能够更清楚了解本申请的技术手段,并可依照说明书的内容予以实施,以下以本申请的较佳实施例并配合附图详细说明如后。
附图说明
图1是本申请一个实施例提供的无参考音频客观质量评价方法的流程图;
图2是本申请一个实施例提供的客观质量评价模型的训练方法的流程图;
图3是本申请一个实施例提供的训练数据获取场景的示意图;
图4是本申请一个实施例提供的对训练数据进行预处理的流程图;
图5是本申请一个实施例提供的无参考音频客观质量评价装置的框图;
图6是本申请一个实施例提供的无参考音频客观质量评价装置的框图。
具体实施方式
下面结合附图和实施例,对本申请的具体实施方式作进一步详细描述。以下实施例用于说明本申请,但不用来限制本申请的范围。
首先,对本申请涉及的若干名词进行介绍。
评价参考信息,是指影响音频数据质量的因素的信息。可选地,影响音频数据质量的因素包括但不限于:传输音频数据的网络环境、采集音频数据的采集环境、播放音频数据的播放环境、音频数据的编码方式、音频数据的解码方式、降噪方式、声音类型、和/或音频转发模式等。当然,影响音频数据质量的因素还可以包括其它因素,本申请在此不再一一举例。
对于传输音频数据的网络环境,该因素的信息包括网络信息,比如:音频网络带宽、网络延时、网络抖动、网络丢包率、和/或网络错包率等。
对于采集音频数据的采集环境和播放环境,该因素的信息包括音频采集播放信息,比如:采集增益、采集时所处的自然环境、采集声道数、采集采样率、播放音量、播放时所处的自然环境、播放声道数、和/或播放采样率等。
对于音频数据的编码方式和解码方式,该因素的信息包括音频编解码信息,比如:编码声道数、编码采样率和/或码率等。
对于降噪方式,该因素的信息包括降噪信息,比如:降噪等级、降噪衰减、和/或噪声类型等。
对于声音类型,该因素的信息包括声音类型信息,比如:语音类型、噪声类型和/或音乐类型等。
对于音频转发模式,该因素的信息包括转发模式信息,比如:直接转发和/或混音转发等。
反向传播(back propagation,BP)神经网络,是一种按照误差逆向传播算法训练的多层前馈神经网络。
可选地,本申请提供的无参考音频客观质量评价方法的应用场景包括但不限于:
1、视频会议场景,即对视频会议过程中的音频数据进行无参考音频客观质量评价;
2、音频播放软件播放音频数据场景,即对音频播放软件播放的音频数据进行无参考音频客观质量评价。比如:对听书软件播放的有声书、音乐播放器播放的音乐等进行无参考音频客观质量评价。
当然,无参考音频客观质量评价方法的应用场景也可以为其它场景,本申请在此不再一一列举。
可选地,本申请以各个实施例的执行主体为终端为例进行说明,该终端具有计算能力。当然,终端还可以具有其他能力,比如:音频播放、音频采集能力等。终端可以是视频会议终端、手机、平板电脑、计算机等,本实施例不对终端的类型作限定。
图1是本申请一个实施例提供的无参考音频客观质量评价方法的流程图。该方法至少包括以下几个步骤:
步骤101,获取待评价音频数据的评价参考信息。
其中,评价参考信息是指影响待评价音频数据质量的因素的信息。
可选地,评价参考信息可以是存储在终端中,由终端读取得到的;或者,也可以是终端基于人机交互技术获取到的。
在一个示例中,评价参考信息包括:
1、网络信息,用于指示所述待评价音频数据的网络传输质量。比如:网络延时、网络抖动、网络错包率和网络丢包率。当然,还可以包括音频网络带宽等其它信息,本实施在此不再一一列举。
2、音频采集播放信息,用于指示所述待评价音频数据的采集环境和播放环境。比如:采集声道数、播放声道数。当然,还可以包括采集增益、采集时所处的自然环境、采集采样率、播放音量、播放时所处的自然环境、和/或播放采样率等其它信息,本实施例在此不再一一列举。
3、音频编解码信息,用于指示待评价音频数据的编解码方式。比如:编码声道数。当然,还可以包括编码采样率、码率等其它信息,本实施例在此不再一一列举。
评价参考信息还可以包括其它影响待评价音频数据质量的因素的信息,比如:降噪信息、声音类型信息、转发模式信息等,本实施例在此不再一一列举。
其中,降噪信息用于指示待评价音频数据的降噪方式。可选地,降噪信息包括但不限于:降噪等级、降噪衰减、和/或噪声类型。
声音类型信息用于指示待评价音频数据的声音类型。可选地,声音类型信息包括但不限于:语音类型、噪声类型和/或音乐类型。
转发模式信息用于指示待评价音频数据的转发模式。可选地,转发模式信息包括但不限于:直接转发和/或混音转发。
其中,降噪方式可以通过自动降噪抑制(Automatic Noise Suppression,ANS)实现、采集增益可以通过自动增益补偿(Automatic Gain Control,AGC)实现。
参考表一所示的评价参考信息,该评价参考信息包括:采集时的自然环境、采集增益、采集声道数、采集采样率、声音类型信息、降噪等级、降噪衰减、噪声类型、回声消除器(Acoustic Echo Chancellor,AEC)模式、自动增益模式、麦克风音量、音频格式、编码声道数、编码采样率、码率、音频网络带宽、网络延时、网络抖动、网络丢包率、网络错包率、转发模式信息、播放时的自然环境、播放采样率、播放声道数、播放音量和均衡器(Equalize,EQ)均衡模式。表一仅以上述评价参考信息为例进行说明,在实际实现时,评价参考信息可以包括更多或者更少的信息,本实施例对此不作限定。
表一:
步骤102,对评价参考信息进行预处理,得到预处理后的评价参考信息。
可选地,对评价参考信息进行预处理,得到预处理后的评价参考信息,包括:将评价参考信息的格式转化为客观质量评价模型支持的格式,得到格式转化后的评价参考信息;对格式转化后的评价参考信息进行数据压缩,得到预处理后的评价参考信息。
根据表一可知,评价参考信息包括字符类型的信息,比如:小型会议室、语音等,还包括带单位数字类型的信息,比如:2dB、24KHz、64kbps等,而客观质量评价模型支持的格式为数字类型,因此,需要对字符类型的信息和带单位数字类型的信息进行格式转化,从而得到客观质量评价模型支持的格式的数据。
在一个示例中,将评价参考信息的格式转化为客观质量评价模型支持的格式,得到格式转化后的评价参考信息,包括:将评价参考信息中字符类型的信息转化为数值类型;和/或,将评价参考信息中数字类型的信息的单位去除。
可选地,将字符类型的信息转化为数值类型的方式包括:对于每种类型的字符类型的信息,获取该字符类型的信息中不同的信息内容与不同数值的一一对应关系;根据该对应关系将待评价音频数据的字符类型的信息转化为对应的数值。
比如:对于字符类型的信息为采集时的自然环境,该字符类型的信息与数值的对应关系如表二所示,根据表一中采集时的自然环境“小型会议室”可知,该字符类型的信息对应的数值为0。
表二:
采集时的自然环境 | 数值 |
小型会议室 | 0 |
中型会议室 | 1 |
大型会议室 | 2 |
可选地,对格式转化后的评价参考信息进行数据压缩,得到预处理后的评价参考信息,包括但不限于以下几种方式中的至少一种:
第一种:基于预设压缩公式将同一属性的不同评价参考信息合并为一项信息。比如:将用于指示网络传输质量(同一属性)的多种网络信息合并。
在一个示例中,评价参考信息包括网络信息,网络信息用于指示待评价音频数据的网络传输质量;网络信息包括网络延时、网络抖动、网络错包率和网络丢包率;终端将网络延时、网络抖动、网络错包率和网络丢包率输入预设压缩公式,得到网络信息的合并信息。
预设的压缩公式如下,其中,Sm为网络信息的合并信息、Dm为第m组待评价音频数据的网络延时、Jm为第m组待评价音频数据的网络抖动、Om为第m组待评价音频数据的网络错包率、Lm为第m组待评价音频数据的网络丢包率,m为正整数;D为网络延时阈值、J为网络抖动阈值、O为网络错包率阈值、L网络丢包率阈值,D、J、O和L为预设常数;Ed为网络延时的权值、Ej网络抖动的权值、Eo网络错包率的权值、El网络丢包率的权值,Ed、Ej、Eo和El为预设常数。
第二种:基于短板效应将指定类型的评价参考信息合并为一项信息。
在一个示例中,评价参考信息包括音频采集播放信息和音频编解码信息;音频采集播放信息用于指示待评价音频数据的采集环境和播放环境;音频采集播放信息包括:采集声道数、播放声道数;音频编解码信息用于指示待评价音频数据的编解码参方式;音频编解码信息包括:编码声道数。此时,终端基于短板效应将指定类型的评价参考信息合并为一项信息,包括:将采集声道数、播放声道数和编码声道数合并为编码声道数。
由于编码声道数小于或等于采集声道数和播放声道数,因此,终端基于短板效应将编码声道数、采集声道数和播放声道数这三个参数合并为一项信息,其值为编码声道数。
第三种:删除固定不变的评价参考信息。
在一个示例中,在视频会议过程中,待评价音频数据的采集采样率和播放采样率固定不变(比如:为48KHz),则在评价参考信息包括采集采样率和播放采样率时,将采集采样率和播放采样率删除。
假设对表一中的评价参考信息进行格式转化和数据压缩,得到表三所示的预处理后的评价参考信息,根据表三可知,字符类型的信息均转化为数值、带单位数值类型的信息均被去除单位,网络延时、网络抖动、网络丢包率和网络错报率合并得到一项合并信息,采集采样率和播放采样率被删除。
表三:
步骤103,将预处理后的评价参考信息输入预先训练的客观质量评价模型,得到待评价音频数据的客观质量评价结果。
其中,客观质量评价模型是使用多组训练数据进行训练得到的,每组训练数据包括样本评价参考信息和样本质量评价结果,样本质量评价结果是对在样本评价参考信息下的样本音频数据进行主观打分得到的。
客观质量评价模型可以为BP神经网络,当然,也可以是其它类型的神经网络模型,本实施例不对客观质量评价模型的类型作限定。
可选地,对在样本评价参考信息下的样本音频数据进行主观打分,包括:使用用户使用终端播放样本音频数据后进行的主观打分;和/或,测试用户对终端进行测试时对样本音频数据进行的主观打分。
使用用户是指终端投入市场之后使用该终端的用户;测试用户是指在终端投入市场之前的开发测试阶段,对该终端进行测试的用户。
可选地,终端得到客观质量评价结果后,若客观质量评价结果低于期望值,则对终端中的相关模块进行调整,然后再次对音频质量进行评估(即再次执行步骤101-103),直至客观质量评价结果高于或等于期望值时停止。
其中,相关模块可以是用于设置评价参考信息的模块。相关模块可以是软件模块、硬件模块或者是软硬件结合的模块,本实施例不对相关模块的实现方式作限定。期望值预存在终端中。
综上所述,本实施例提供的无参考音频客观质量评价方法,通过获取待评价音频数据的评价参考信息;对评价参考信息进行预处理,得到预处理后的评价参考信息;将评价参考信息输入预先训练的客观质量评价模型,得到待评价音频数据的客观质量评价结果;客观质量评价模型是使用多组训练数据进行训练得到的,每组训练数据包括样本评价参考信息和样本质量评价结果,样本质量评价结果是对在样本评价参考信息下的样本音频数据进行主观打分得到的;可以解决基于有参考音频质量评价模型获取训练数据,导致终端的计算资源消耗较大的问题;由于通过对样本音频数据进行主观打分来获取训练数据,使用该训练数据训练得到客观质量评价模型,一方面使得终端无需消耗计算资源来计算训练数据中的样本质量评价结果,因此,可以节省终端的计算资源;另一方面,也不受到有参考音频质量评价模型的限制,不会因为有参考音频质量模型检测的准确性低、参考音频质量较低或者出现BUG而导致训练出的无参考的客观质量评价模型评价的准确性较差的问题。
另外,由于主观打分更贴近用户对音频质量的感受,因此,通过基于主观打分训练得到客观质量评价模型,可以提高客观质量评价模型输出的客观质量评价结果的准确性。
另外,通过对评价参考信息进行预处理,比如进行数据压缩,可以减少输入客观质量评价模型的数据量,提高计算效率、节省终端的计算资源。
另外,通过根据客观质量评价结果调整相关模块,可以提高终端后续输出的音频数据的音频质量,提高终端采集音频、播放音频的效果。
可选地,基于上述实施例,在步骤103之前,需要训练得到客观质量评价模型。需要补充说明的是,本实施例中的执行主体可以与图1所述的实施例中的执行主体为同一终端;或者,也可以为不同终端。在为不同终端时,经过本实施例提供的训练方法训练得到的客观质量评价模型可以传输至其它终端中,以供其它终端进行无参考音频客观质量评价。图2是本申请一个实施例提供的客观质量评价模型的训练方法的流程图。该方法至少包括以下几个步骤:
步骤201,获取多组训练数据。
可选地,样本质量评价结果采用5分制,参考表四所示的样本质量评价结果;或者,采用百分制;或者,采用等级表示,本实施例不对样本质量评价结果的表示方式作限定。
表四:
在一个示例中,获取多组训练数据,包括:模拟音频数据的网络环境、采集环境、播放环境和/或编解码方式,得到模拟质量评价环境下的样本评价参考信息;获取测试用户对模拟质量评价环境中的样本音频数据的主观打分,得到模拟质量评价环境下的样本质量评价结果。
在另一个示例中,获取多组训练数据,包括:获取样本音频数据在实际质量评价环境下的网络环境、采集环境、播放环境和/或编解码方式,得到实际质量评价环境下的样本评价参考信息;获取使用用户对样本音频数据的主观打分,得到实际质量评价环境下的样本质量评价结果。
参考图3所示的训练数据获取环境示意图,训练数据获取环境包括测试用户使用终端310、使用用户使用终端320和训练数据获取终端330。测试用户使用终端310、使用用户使用终端320分别与训练数据获取终端330通信相连。
需要补充说明的是,训练数据中样本评价参考信息的种类数量大于或者等于实际评价过程中输入客观质量评价模型的评价参考信息的种类数量。
示意性地,终端获取到的训练数据如下表五所示。
表五:
步骤202,对多组训练数据进行预处理,得到预处理后的训练数据。
可选地,参考图4所示的训练数据预处理方法的流程图,根据图4可知对多组训练数据进行预处理,得到预处理后的训练数据至少包括步骤41-44:
步骤41,筛除多组训练数据中的无效数据。
由于用户的打分会存在无效数据,比如:对于用户体验较差的音频数据依然打了很高主观分数、或者对于用户体验很好的音频数据打了很低的主观分数,因此,为了保证模型训练的准确性需要对无效数据进行筛除。
在一个示例中,终端筛除多组训练数据中的无效数据,包括:对于指定样本评价参考信息下的样本质量评价结果,确定该样本质量评价结果是否在预设范围内;若该样本质量评价结果未在预设范围内,则将该指定样本评价参考信息下的样本质量评价结果和对应的样本质量评价结果筛除。
比如:指定样本评价参考信息为8KHz的采集采样率。此时,得到的样本音频数据的声音质量差,预设范围为[0,1],若样本质量评价结果大于1,则8KHz的采集采样率和样本质量评价结果为无效数据,终端将该组训练数据筛除。
又比如:指定样本评价参考信息为大于或等于50%的网络丢包率。此时,得到的样本音频数据的声音质量差,预设范围为[0,3],若样本质量评价结果大于3,则大于或等于50%的网络丢包率和样本质量评价结果为无效数据,终端将该组训练数据筛除。
在另一个示例中,终端筛除多组训练数据中的无效数据,包括:筛除预设样本评价参考信息。
比如:预设样本评价参考信息为非语音、非音乐的声音类型信息。此时,将声音类型信息为非语音、非音乐的信息筛除。
步骤42,将筛除后的训练数据的格式转化为预设模型支持的格式。
本步骤的相关说明详见步骤102,本实施例在此不作赘述。
步骤43,对格式转换后的训练数据进行数据压缩。
本步骤的相关说明详见步骤102,本实施例在此不作赘述。
示意性地,终端对表五所示的训练数据进行筛除、格式转换和数据压缩后,得到表六所示的压缩后的训练数据。
表六:
步骤44,基于压缩后的训练数据生成二维的测试集矩阵,得到预处理后的训练数据。
基于表六的压缩后的训练数据生成的二维的测试集矩阵如下:
步骤203,将预处理后的训练数据中的样本评价参考信息输入预设模型,得到训练结果。
预设模型的网络结构与客观质量评价模型的网络结构相同,预设模型的初始网络参数为终端随机生成的;或者,是预存在终端中由终端读取得到的。
步骤204,基于训练结果与样本评价参考信息对应的样本质量评价结果之间的差异,对预设模型的模型参数进行训练,直至差异在预设范围内或者训练次数达到预设次数时停止,得到客观质量评价模型。
预设范围和预设次数预存在终端中。
示意性地,预设模型为BP神经网络。此时,终端在训练过程中基于反向传播算法对预设模型的模型参数进行训练。
综上所述,本实施例提供的客观质量评价模型的训练方法,通过获取多组训练数据;对多组训练数据进行预处理,得到预处理后的训练数据;将预处理后的训练数据中的样本评价参考信息输入预设模型,得到训练结果;基于训练结果与样本评价参考信息对应的样本质量评价结果之间的差异,对预设模型的模型参数进行训练,直至差异在预设范围内或者训练次数达到预设次数时停止,得到客观质量评价模型;可以解决基于有参考音频质量评价模型获取训练数据,导致终端的计算资源消耗较大的问题;由于通过对样本音频数据进行主观打分来获取训练数据,使得终端无需消耗计算资源来计算训练数据中的样本质量评价结果,因此,可以节省终端的计算资源。
另外,通过对训练数据进行预处理,比如进行数据压缩,可以减少输入预设模型的数据量,提高训练效率、节省终端训练时消耗的计算资源。
图5是本申请一个实施例提供的无参考音频客观质量评价装置的框图。该装置至少包括以下几个模块:信息获取模块510、信息处理模块520和质量评价模块530。
信息获取模块510,用于获取待评价音频数据的评价参考信息,所述评价参考信息是指影响所述待评价音频数据质量的因素的信息;
信息处理模块520,用于对所述评价参考信息进行预处理,得到预处理后的评价参考信息;
质量评价模块530,用于将所述预处理后的评价参考信息输入预先训练的客观质量评价模型,得到所述待评价音频数据的客观质量评价结果;
其中,所述客观质量评价模型是使用多组训练数据进行训练得到的,每组训练数据包括样本评价参考信息和样本质量评价结果,所述样本质量评价结果是对在所述样本评价参考信息下的样本音频数据进行主观打分得到的。
相关细节参考上述方法实施例。
需要说明的是:上述实施例中提供的无参考音频客观质量评价装置在进行无参考音频客观质量评价时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将无参考音频客观质量评价装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的无参考音频客观质量评价装置与无参考音频客观质量评价方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图6是本申请一个实施例提供的无参考音频客观质量评价装置的框图。该装置至少包括处理器601和存储器602。
处理器601可以包括一个或多个处理核心,比如:4核心处理器、8核心处理器等。处理器601可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器601也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器601可以在集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器601还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器602可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器602还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器602中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器601所执行以实现本申请中方法实施例提供的无参考音频客观质量评价方法。
在一些实施例中,无参考音频客观质量评价装置还可选包括有:外围设备接口和至少一个外围设备。处理器601、存储器602和外围设备接口之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口相连。示意性地,外围设备包括但不限于:射频电路、触摸显示屏、音频电路、和电源等。
当然,无参考音频客观质量评价装置还可以包括更少或更多的组件,本实施例对此不作限定。
可选地,本申请还提供有一种计算机可读存储介质,所述计算机可读存储介质中存储有程序,所述程序由处理器加载并执行以实现上述方法实施例的无参考音频客观质量评价方法。
可选地,本申请还提供有一种计算机产品,该计算机产品包括计算机可读存储介质,所述计算机可读存储介质中存储有程序,所述程序由处理器加载并执行以实现上述方法实施例的无参考音频客观质量评价方法。
以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种无参考音频客观质量评价方法,其特征在于,所述方法包括:
获取待评价音频数据的评价参考信息,所述评价参考信息是指影响所述待评价音频数据质量的因素的信息;
对所述评价参考信息进行预处理,得到预处理后的评价参考信息;
将所述预处理后的评价参考信息输入预先训练的客观质量评价模型,得到所述待评价音频数据的客观质量评价结果;
其中,所述客观质量评价模型是使用多组训练数据进行训练得到的,每组训练数据包括样本评价参考信息和样本质量评价结果,所述样本质量评价结果是对在所述样本评价参考信息下的样本音频数据进行主观打分得到的。
2.根据权利要求1所述的方法,其特征在于,所述对所述评价参考信息进行预处理,得到预处理后的评价参考信息,包括:
将所述评价参考信息的格式转化为所述客观质量评价模型支持的格式,得到格式转化后的评价参考信息;
对所述格式转化后的评价参考信息进行数据压缩,得到所述预处理后的评价参考信息。
3.根据权利要求2所述的方法,其特征在于,所述对所述格式转化后的评价参考信息进行数据压缩,得到所述预处理后的评价参考信息,包括:
基于预设压缩公式将同一属性的不同评价参考信息合并为一项信息;和/或,
基于短板效应将指定类型的评价参考信息合并为一项信息;和/或,
删除固定不变的评价参考信息。
4.根据权利要求1至3任一所述的方法,其特征在于,所述将所述预处理后的评价参考信息输入预先训练的客观质量评价模型,得到所述待评价音频数据的客观质量评价结果之前,还包括:
获取所述多组训练数据;
对所述多组训练数据进行预处理,得到预处理后的训练数据;
将所述预处理后的训练数据中的样本评价参考信息输入预设模型,得到训练结果;
基于所述训练结果与所述样本评价参考信息对应的样本质量评价结果之间的差异,对所述预设模型的模型参数进行训练,直至所述差异在预设范围内或者训练次数达到预设次数时停止,得到所述客观质量评价模型。
5.根据权利要求4所述的方法,其特征在于,所述获取所述多组训练数据,包括:
模拟音频数据的网络环境、采集环境、播放环境和/或编解码方式,得到模拟质量评价环境下的样本评价参考信息;
获取测试用户对所述模拟质量评价环境中的样本音频数据的主观打分,得到模拟质量评价环境下的样本质量评价结果。
6.根据权利要求4所述的方法,其特征在于,所述获取所述多组训练数据,包括:
获取样本音频数据在实际质量评价环境下的网络环境、采集环境、播放环境和/或编解码方式,得到实际质量评价环境下的样本评价参考信息;
获取使用用户对所述样本音频数据的主观打分,得到实际质量评价环境下的样本质量评价结果。
7.根据权利要求4所述的方法,其特征在于,所述对所述多组训练数据进行预处理,得到预处理后的训练数据,包括:
筛除所述多组训练数据中的无效数据;
将筛除后的训练数据的格式转化为所述预设模型支持的格式;
对格式转换后的训练数据进行数据压缩;
基于压缩后的训练数据生成二维的测试集矩阵,得到所述预处理后的训练数据。
8.一种无参考音频客观质量评价装置,其特征在于,所述装置包括:
信息获取模块,用于获取待评价音频数据的评价参考信息,所述评价参考信息是指影响所述待评价音频数据质量的因素的信息;
信息处理模块,用于对所述评价参考信息进行预处理,得到预处理后的评价参考信息;
质量评价模块,用于将所述预处理后的评价参考信息输入预先训练的客观质量评价模型,得到所述待评价音频数据的客观质量评价结果;
其中,所述客观质量评价模型是使用多组训练数据进行训练得到的,每组训练数据包括样本评价参考信息和样本质量评价结果,所述样本质量评价结果是对在所述样本评价参考信息下的样本音频数据进行主观打分得到的。
9.一种无参考音频客观质量评价装置,其特征在于,所述装置包括处理器和存储器;所述存储器中存储有程序,所述程序由所述处理器加载并执行以实现如权利要求1至7任一项所述的无参考音频客观质量评价方法。
10.一种计算机可读存储介质,其特征在于,所述存储介质中存储有程序,所述程序被处理器执行时用于实现如权利要求1至7任一项所述的无参考音频客观质量评价方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910788711.2A CN110503981A (zh) | 2019-08-26 | 2019-08-26 | 无参考音频客观质量评价方法、装置及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910788711.2A CN110503981A (zh) | 2019-08-26 | 2019-08-26 | 无参考音频客观质量评价方法、装置及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110503981A true CN110503981A (zh) | 2019-11-26 |
Family
ID=68589411
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910788711.2A Pending CN110503981A (zh) | 2019-08-26 | 2019-08-26 | 无参考音频客观质量评价方法、装置及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110503981A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111508525A (zh) * | 2020-03-12 | 2020-08-07 | 上海交通大学 | 一种全参考音频质量评价方法及装置 |
CN111968677A (zh) * | 2020-08-21 | 2020-11-20 | 南京工程学院 | 面向免验配助听器的语音质量自评估方法 |
CN112364993A (zh) * | 2021-01-13 | 2021-02-12 | 深圳市友杰智新科技有限公司 | 模型联合训练方法、装置、计算机设备和存储介质 |
CN113409820A (zh) * | 2021-06-09 | 2021-09-17 | 合肥群音信息服务有限公司 | 一种基于语音数据的质量评价方法 |
CN113436644A (zh) * | 2021-07-16 | 2021-09-24 | 北京达佳互联信息技术有限公司 | 音质评估方法、装置、电子设备及存储介质 |
CN114171062A (zh) * | 2020-09-10 | 2022-03-11 | 安克创新科技股份有限公司 | 音质评价方法、装置及计算机存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6446038B1 (en) * | 1996-04-01 | 2002-09-03 | Qwest Communications International, Inc. | Method and system for objectively evaluating speech |
CN103957216A (zh) * | 2014-05-09 | 2014-07-30 | 武汉大学 | 基于音频信号特性分类的无参考音频质量评价方法和系统 |
CN106531190A (zh) * | 2016-10-12 | 2017-03-22 | 科大讯飞股份有限公司 | 语音质量评价方法和装置 |
CN106803797A (zh) * | 2017-03-06 | 2017-06-06 | 北京理工大学 | 一种基于网络参数的VoIP话音质量客观评价方法 |
CN107170468A (zh) * | 2017-04-10 | 2017-09-15 | 北京理工大学 | 一种基于两层模型的多声道音频质量评价方法 |
CN107358966A (zh) * | 2017-06-27 | 2017-11-17 | 北京理工大学 | 基于深度学习语音增强的无参考语音质量客观评估方法 |
CN108389592A (zh) * | 2018-02-27 | 2018-08-10 | 上海讯飞瑞元信息技术有限公司 | 一种语音质量评价方法及装置 |
CN109147765A (zh) * | 2018-11-16 | 2019-01-04 | 安徽听见科技有限公司 | 音频质量综合评测方法及系统 |
-
2019
- 2019-08-26 CN CN201910788711.2A patent/CN110503981A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6446038B1 (en) * | 1996-04-01 | 2002-09-03 | Qwest Communications International, Inc. | Method and system for objectively evaluating speech |
CN103957216A (zh) * | 2014-05-09 | 2014-07-30 | 武汉大学 | 基于音频信号特性分类的无参考音频质量评价方法和系统 |
CN106531190A (zh) * | 2016-10-12 | 2017-03-22 | 科大讯飞股份有限公司 | 语音质量评价方法和装置 |
CN106803797A (zh) * | 2017-03-06 | 2017-06-06 | 北京理工大学 | 一种基于网络参数的VoIP话音质量客观评价方法 |
CN107170468A (zh) * | 2017-04-10 | 2017-09-15 | 北京理工大学 | 一种基于两层模型的多声道音频质量评价方法 |
CN107358966A (zh) * | 2017-06-27 | 2017-11-17 | 北京理工大学 | 基于深度学习语音增强的无参考语音质量客观评估方法 |
CN108389592A (zh) * | 2018-02-27 | 2018-08-10 | 上海讯飞瑞元信息技术有限公司 | 一种语音质量评价方法及装置 |
CN109147765A (zh) * | 2018-11-16 | 2019-01-04 | 安徽听见科技有限公司 | 音频质量综合评测方法及系统 |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111508525A (zh) * | 2020-03-12 | 2020-08-07 | 上海交通大学 | 一种全参考音频质量评价方法及装置 |
CN111508525B (zh) * | 2020-03-12 | 2023-05-23 | 上海交通大学 | 一种全参考音频质量评价方法及装置 |
CN111968677A (zh) * | 2020-08-21 | 2020-11-20 | 南京工程学院 | 面向免验配助听器的语音质量自评估方法 |
CN111968677B (zh) * | 2020-08-21 | 2021-09-07 | 南京工程学院 | 面向免验配助听器的语音质量自评估方法 |
CN114171062A (zh) * | 2020-09-10 | 2022-03-11 | 安克创新科技股份有限公司 | 音质评价方法、装置及计算机存储介质 |
CN112364993A (zh) * | 2021-01-13 | 2021-02-12 | 深圳市友杰智新科技有限公司 | 模型联合训练方法、装置、计算机设备和存储介质 |
CN112364993B (zh) * | 2021-01-13 | 2021-04-30 | 深圳市友杰智新科技有限公司 | 模型联合训练方法、装置、计算机设备和存储介质 |
CN113409820A (zh) * | 2021-06-09 | 2021-09-17 | 合肥群音信息服务有限公司 | 一种基于语音数据的质量评价方法 |
CN113409820B (zh) * | 2021-06-09 | 2022-03-15 | 合肥群音信息服务有限公司 | 一种基于语音数据的质量评价方法 |
CN113436644A (zh) * | 2021-07-16 | 2021-09-24 | 北京达佳互联信息技术有限公司 | 音质评估方法、装置、电子设备及存储介质 |
CN113436644B (zh) * | 2021-07-16 | 2023-09-01 | 北京达佳互联信息技术有限公司 | 音质评估方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110503981A (zh) | 无参考音频客观质量评价方法、装置及存储介质 | |
CN109246672B (zh) | 数据传输方法、装置、系统及蓝牙耳机 | |
CN107910014B (zh) | 回声消除的测试方法、装置及测试设备 | |
CN103957216B (zh) | 基于音频信号特性分类的无参考音频质量评价方法和系统 | |
CN108564966B (zh) | 语音测试的方法及其设备、具有存储功能的装置 | |
CN109445740A (zh) | 音频播放方法、装置、电子设备及存储介质 | |
CN111798852B (zh) | 语音唤醒识别性能测试方法、装置、系统及终端设备 | |
CN110956976B (zh) | 一种回声消除方法、装置、设备及可读存储介质 | |
CN109658935B (zh) | 多通道带噪语音的生成方法及系统 | |
CN108234790A (zh) | 多人语音通信方法、装置、终端设备和存储介质 | |
CN105979255B (zh) | 一种音频采集工装、方法和云端服务器 | |
US20230364513A1 (en) | Audio processing method and apparatus | |
CN107221341A (zh) | 一种语音测试方法及装置 | |
CN108235052A (zh) | 基于ios可选择多音频通道硬件混音、采集及播放的方法 | |
CN111710344A (zh) | 一种信号处理方法、装置、设备及计算机可读存储介质 | |
CN106063238A (zh) | 电话会议中的在感知上连续的混合 | |
DE112013000760T5 (de) | Automatisches korrigieren von Sprechfehlern in Echtzeit | |
CN110299144A (zh) | 音频混音方法、服务器及客户端 | |
CN111314780B (zh) | 回声消除功能的测试方法、装置及存储介质 | |
CN111863011B (zh) | 音频处理方法及电子设备 | |
CN110503982A (zh) | 一种语音质量检测的方法以及相关装置 | |
CN108986804A (zh) | 人机交互处理方法、装置、用户终端、处理服务器及系统 | |
CN113241085B (zh) | 回声消除方法、装置、设备及可读存储介质 | |
CN110096250A (zh) | 一种音频数据处理方法、装置、电子设备及存储介质 | |
CN113225574B (zh) | 信号处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20191126 |
|
RJ01 | Rejection of invention patent application after publication |