CN108986786B - 语音交互设备评级方法、系统、计算机设备和存储介质 - Google Patents
语音交互设备评级方法、系统、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN108986786B CN108986786B CN201810847969.0A CN201810847969A CN108986786B CN 108986786 B CN108986786 B CN 108986786B CN 201810847969 A CN201810847969 A CN 201810847969A CN 108986786 B CN108986786 B CN 108986786B
- Authority
- CN
- China
- Prior art keywords
- voice interaction
- equipment
- test question
- test
- tested
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000003993 interaction Effects 0.000 title claims abstract description 243
- 238000000034 method Methods 0.000 title claims abstract description 62
- 238000012360 testing method Methods 0.000 claims abstract description 360
- 238000011156 evaluation Methods 0.000 claims abstract description 110
- 230000006870 function Effects 0.000 claims description 67
- 238000004590 computer program Methods 0.000 claims description 25
- 238000010586 diagram Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 5
- 230000015572 biosynthetic process Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000009827 uniform distribution Methods 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/01—Assessment or evaluation of speech recognition systems
Landscapes
- Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请涉及一种语音交互设备评级方法、系统、计算机设备和存储介质。所述方法包括：获取待测语音交互设备的设备功能信息；根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集；根据标准测试题集对待测语音交互设备进行评测，并获取评测值，根据评测值获取待测语音交互设备的评测等级。采用本方法能够根据设备功能信息获取标准测试题集，通过标准测试题集可以对待测语音交互设备的设备功能进行评测，其中，语音交互设备的设备功能信息易于被识别，也容易获取，便于根据设备功能对语音交互设备进行评测，可以大大降低语音交互设备评级方法的成本，同时提高效率。
Description
技术领域
本申请涉及语音交互评测技术领域，特别是涉及一种语音交互设备评级方法、语音交互设备评级系统、计算机设备和存储介质。
背景技术
在大数据、移动互联网、云计算以及其他技术的推动下，全球的语音识别产业已经步入应用快速增长期。语音识别技术与其他自然语言处理技术，如机器翻译及语音合成技术相结合，可以构建出更加复杂的产品。目前，市场上已经出现了智能音箱、智能电视、服务机器人等多种类型的语音交互设备。这些语音交互设备可以根据用户的语音指令和谈话内容实现陪伴聊天、文字录入、信息查询、身份识别、设备控制等功能，大大提高了日常工作效率。
不同语音交互设备所采用的算法不同，在传统方式下语音交互设备评级方法是按照算法的指标体系对语音交互设备进行评价的，语音交互算法的指标体系繁多且复杂，语音交互设备的评级方法成本高，且评级方法所获得的评价结果的可读性差，使得传统方式下语音交互设备评级方法的效率低。
发明内容
基于此，有必要针对上述传统方式下语音交互设备评级方法的效率低技术问题，提供一种语音交互设备评级方法、系统、计算机设备和存储介质。
一种语音交互设备评级方法，包括以下步骤：
获取待测语音交互设备的设备功能信息；
根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集；
根据标准测试题集对待测语音交互设备进行评测，并获取评测值，根据评测值获取待测语音交互设备的评测等级。
在一个实施例中，根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集的步骤，包括以下步骤：
根据待测语音交互设备的设备功能信息在语音交互测试题库中获取有效测试题集，其中，有效测试题集包括用于对待测语音交互设备进行测试并获取测试反馈信息的有效测试题；
在有效测试题集选取第一预设数量的有效测试题，并将第一预设数量的有效测试题组成标准测试题集。
在一个实施例中，在有效测试题集选取第一预设数量的有效测试题，并将第一预设数量的有效测试题组成标准测试题集的步骤，包括以下步骤：
获取有效测试题集的各个有效测试题的特征值；
按照各有效测试题的特征值对所有有效测试题进行分类，并生成多个聚类，其中，聚类包括特征值为同类的有效测试题；
在当前聚类中选取当前聚类对应的第二预设数量的有效测试题，并将第二预设数量的有效测试题作为当前聚类的聚类测试题集；
获取各个聚类的聚类测试题集，并将所有聚类的聚类测试题集组成标准测试题集，其中，所有聚类对应的第二预设数量的总和等于第一预设数量。
在一个实施例中，在当前聚类中选取第二预设数量的有效测试题，并将第二预设数量的有效测试题作为当前聚类的聚类测试题集的步骤，包括以下步骤：
获取当前聚类中各个有效测试题的相似度因子；
在当前聚类中选取第二预设数量的有效测试题，并计算第二预设数量的有效测试题的相似度因子的和值；
在相似度因子的和值低于或等于预设值时，将第二预设数量的有效测试题组成聚类测试题集。
在一个实施例中，根据评测值获取待测语音交互设备的评测等级的步骤，包括以下步骤：
根据评测值和评分表，获取评测值对应的等级，并将评测值对应的等级作为待测语音交互设备的评测等级。
在一个实施例中，根据标准测试题集对待测语音交互设备进行评测，并获取评测值的步骤，包括以下步骤：
向待测语音交互设备播放标准测试题集中各个标准测试题对应的测试语音，并一一对应接收待测语音交互设备对各测试语音的测试反馈信息；
根据各测试反馈信息对应的各标准测试题的参考信息进行对比，获取各标准测试题的测试值；
将所有标准测试题的测试值的和值作为评测值。
在一个实施例中，语音交互设备评级方法还包括以下步骤：
根据装载有语音交互的设备的使用反馈和装载有语音交互的设备的设备信息，组建语音交互测试题库。
一种语音交互设备评级系统，包括：
设备功能信息获取模块，用于获取待测语音交互设备的设备功能信息；
标准测试题集获取模块，用于根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集；
评测等级获取模块，用于根据标准测试题集对待测语音交互设备进行评测，并获取评测值，根据评测值获取待测语音交互设备的评测等级。
一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现以下步骤：
获取待测语音交互设备的设备功能信息；
根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集；
根据标准测试题集对待测语音交互设备进行评测，并获取评测值，根据评测值获取待测语音交互设备的评测等级。
一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现以下步骤：
获取待测语音交互设备的设备功能信息；
根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集；
根据标准测试题集对待测语音交互设备进行评测，并获取评测值，根据评测值获取待测语音交互设备的评测等级。
上述语音交互设备评级方法、系统、计算机设备和存储介质，根据设备功能信息获取标准测试题集，通过标准测试题集可以对待测语音交互设备的设备功能进行评测，其中，语音交互设备的设备功能信息易于被识别，也容易获取，便于根据设备功能对语音交互设备进行评测，可以大大降低语音交互设备评级方法的成本，同时提高效率；而且所获取的评测等级是对语音交互设备的设备功能进行评测的，在语音交互设备的使用过程中用户体验的实际感受的是设备功能，因此所获取的评测等级可以反映使用体验中语音交互设备的评价结果，避免了按照语音交互算法的指标体系为指导的评价结果，大大增强了语音交互设备评级的可读性。
附图说明
图1为一个实施例中语音交互设备评级方法的应用环境图；
图2为一个实施例中语音交互设备评级方法的流程图；
图3为另一个实施例中语音交互设备评级方法的流程图；
图4为一个实施例中语音交互设备评级系统的结构示意图；
图5为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
本申请提供的语音交互设备评级方法，可以应用于如图1所示的应用环境中，图1为一个实施例中语音交互设备评级方法的应用环境图。其中，语音交互设备11为装载有语音交互的设备，语音交互设备11可以对语音进行识别并根据所识别的语音做出相应的反馈信息。其中，语音交互设备11可以但不限于是各种装载有语音交互功能的导航仪、机器人、音箱、智能手机、个人计算机、笔记本电脑、平板电脑、便携式可穿戴设备等智能设备。
在一个实施例中，如图2所示，图2为一个实施例中语音交互设备评级方法的流程图，本实施例中提供了一种语音交互设备评级方法，以该方法应用于图1中所示的环境为例进行说明，包括以下步骤：
步骤S210：获取待测语音交互设备的设备功能信息。
设备功能信息可以用于表示待测语音交互的设备功能。
步骤S220：根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集。
语音交互测试题库包括用于测试待测语音交互设备的测试题，标准测试题集包括用于测试待测语音交互设备的设备功能的测试题。
步骤S230：根据标准测试题集对待测语音交互设备进行评测，并获取评测值，根据评测值获取待测语音交互设备的评测等级。
上述语音交互设备评级方法，根据设备功能信息获取标准测试题集，通过标准测试题集可以对待测语音交互设备的设备功能进行评测，其中，语音交互设备的设备功能信息易于被识别，也容易获取，便于根据设备功能对语音交互设备进行评测，可以大大降低语音交互设备评级方法的成本，同时提高效率；而且所获取的评测等级是对语音交互设备的设备功能进行评测的，在语音交互设备的使用过程中用户体验的实际感受的是设备功能，因此所获取的评测等级可以反映使用体验中语音交互设备的评价结果，避免了按照语音交互算法的指标体系为指导的评价结果，大大增强了语音交互设备评级的可读性。
在一个实施例中，根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集的步骤，包括以下步骤：
步骤S221：根据待测语音交互设备的设备功能信息在语音交互测试题库中获取有效测试题集，其中，有效测试题集包括用于对待测语音交互设备进行测试并获取测试反馈信息的有效测试题。
有效测试题是可以在对待测语音交互设备进行测试并获取测试反馈信息的测试题。
步骤S222：在有效测试题集选取第一预设数量的有效测试题，并将第一预设数量的有效测试题组成标准测试题集。
上述语音交互设备评级方法，根据待测语音交互设备的设备功能，获取有效测试题，可以有效去除逻辑错误或语义错误的无效测试题，提高后续标准测试题集的准确性。
在一个实施例中，在有效测试题集选取第一预设数量的有效测试题，并将第一预设数量的有效测试题组成标准测试题集的步骤，包括以下步骤：
步骤S223：获取有效测试题集的各个有效测试题的特征值。
特征值可以是预设的，也可以是为了突出待测语音交互设备的设备功能信息而进行设置。
步骤S224：按照各有效测试题的特征值对所有有效测试题进行分类，并生成多个聚类，其中，聚类包括特征值为同类的有效测试题。
步骤S225：在当前聚类中选取当前聚类对应的第二预设数量的有效测试题，并将第二预设数量的有效测试题作为当前聚类的聚类测试题集。
当前聚类可以为有效测试题集中的任意一个聚类。各个聚类所选取的第二预设数量可以相同，也可以因聚类的权重不同而有所不同，以便于突出特定的设备功能。
步骤S226：获取各个聚类的聚类测试题集，并将所有聚类的聚类测试题集组成标准测试题集，其中，所有聚类对应的第二预设数量的总和等于第一预设数量。
所有聚类对应的第二预设数量的总和为各个聚类对应的第二预设数量相加后的和值。
上述语音交互设备评级方法，根据有效测试题的特征值分布，将有效测试题集的有效测试题分为不同的聚类，采用分层抽样方法，在不同聚类中分布抽取一定数量的有效测试题，保证标准测试题集中有效测试题分布均匀，提高语音交互设备评级的全面性和准确性。
在一个实施例中，在当前聚类中选取第二预设数量的有效测试题，并将第二预设数量的有效测试题作为当前聚类的聚类测试题集的步骤，包括以下步骤：
步骤S227：获取当前聚类中各个有效测试题的相似度因子。
相似度因子可以是预设的，也可以是为了突出待测语音交互设备的设备功能信息而进行设置。
步骤S228：在当前聚类中选取第二预设数量的有效测试题，并计算第二预设数量的有效测试题的相似度因子的和值。
步骤S229：在相似度因子的和值低于或等于预设值时，将第二预设数量的有效测试题组成聚类测试题集。
上述语音交互设备评级方法，确保同一聚类中选取的有效测试题具有较少的相似度，聚类测试题集中各有效测试题之间的相似度因子的和值较小，保证聚类测试题集中有效测试题分布均匀和测试范围大，以便于提高语音交互设备评级的全面性和准确性。
另外，在相似度因子的和值大于预设值时，跳转至步骤S228，继续在当前聚类中选取第二预设数量的有效测试题，并计算第二预设数量的有效测试题的相似度因子的和值，直至相似度因子的和值低于或等于预设值。
在一个实施例中，根据评测值获取待测语音交互设备的评测等级的步骤，包括以下步骤：
步骤S231：根据评测值和评分表，获取评测值对应的等级，并将评测值对应的等级作为待测语音交互设备的评测等级。
例如，可以按照预设的评分表以及采用百分制进行评分，获取评测值，根据评测值将待测语音交互设备划分为不同的测评等级。
上述语音交互设备评级方法，根据预设的评分表对所获取的评测值进行评级，获得对应的评测等级，获取标准且具有可比性和的评测等级，提高语音交互设备评级的准确性。
在一个实施例中，根据标准测试题集对待测语音交互设备进行评测，并获取评测值的步骤，包括以下步骤：
步骤S232：向待测语音交互设备播放标准测试题集中各个标准测试题对应的测试语音，并一一对应接收待测语音交互设备对各测试语音的测试反馈信息。
各个标准测试题对应的测试语音可以是预先录制的录音，也可以是由机器通过语音合成所得音频文件。
步骤S233：根据各测试反馈信息对应的各标准测试题的参考信息进行对比，获取各标准测试题的测试值。
步骤S234：将所有标准测试题的测试值的和值作为评测值。
上述语音交互设备评级方法，通过对比反馈信息和预设的参考信息，可以对待测语音交互设备进行评分，获取评测值，获得标准的评测值，提高评测值的准确性。
在一个实施例中，语音交互设备评级方法还包括以下步骤：
步骤S240：根据装载有语音交互的设备的使用反馈和装载有语音交互的设备的设备信息，组建语音交互测试题库。
上述语音交互设备评级方法，可以通过调研大量用户对装载有语音交互的设备的使用反馈的信息数据构建语音交互测试题库，还可以通过相关企业对语音交互设备所拥有的设备信息构建语音交互测试题库，大大扩大了语音交互测试题库容量和可测试范围，也便于后续获取准确有效的标准测试题集。
在另外一个实施例中，如图3所示，图3为另一个实施例中语音交互设备评级方法的流程图，本实施例中语音交互设备评级方法包括以下步骤：
通过调研大量用户对装载有语音交互的设备的使用反馈，并联合相关企业对语音交互设备所拥有的设备信息进行信息数据反馈，形成初步的语音交互测试题库。根据待测语音交互设备的整体功能特点在语音交互测试题库中进行筛选，去除逻辑错误或语义错误的无效测试题，从而得到有效测试题集，待测语音交互设备的整体功能特点包括待测语音交互设备的设备功能。对有效测试题集中的有效测试题进行标注，设置各个有效测试题集的特征值以及各个有效测试题之间的相似度因子。根据有效测试题集中有效测试题的特征值分布，将有效测试题集中的有效测试题分为不同的聚类。采用分层抽样方法，在不同聚类中分别抽取数量为N的有效测试题，N为正整数。并且确保同一聚类中抽取的有效测试题具有较小的相似度，即抽取的各有效测试题之间相似度因子的值较小。由各聚类中所抽取出的特定数量的测试题构成标准测试题集。
利用构成的标准测试题集中的标准测试题对语音交互设备进行评测。评测所使用的测试语音可以采用人工测试语音或由机器进行语音合成测试语音，例如，各个标准测试题对应的测试语音可以是预先录制的录音，也可以是由机器通过语音合成所得音频文件。标准测试题设置有参考答案，通过对比参考答案与待测语音交互设备对标准测试题的反馈信息，按照预设评分表采用百分制进行评分，获取各标准测试题的测试值，将所有标准测试题的测试值的和值作为评测值。根据评测值将待测语音交互设备划分为Lv.0—Lv.5的代表不同智能化的评测等级，表1为评测等级与评测值对应表。
表1评测等级与评测值对应表
| 评测等级 | 评测值 |
| Lv.5 | 100～90 |
| Lv.4 | 80～89 |
| Lv.3 | 70～79 |
| Lv.2 | 60～69 |
| Lv.1 | 50～59 |
| Lv.0 | 0～49 |
上述语音交互设备评级方法，通过基于语音交互设备的整体功能特点的标准测试题集进行评测，实现了以用户体验为导向的评价结果，相比于传统以开发者为导向的评级方法需要大量专业知识的基础，本实施例中的评级结果可读性和可理解性高，也便于为消费者选购相关产品提供参考和指导，利于在市场中普及。
应该理解的是，虽然图2至3的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图2至3中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中，如图4所示，图4为一个实施例中语音交互设备评级系统的结构示意图，本实施例中提供了一种语音交互设备评级系统，包括设备功能信息获取模块310、标准测试题集获取模块320和评测等级获取模块330，其中：
设备功能信息获取模块310，用于获取待测语音交互设备的设备功能信息。
设备功能信息可以用于表示待测语音交互的设备功能。
标准测试题集获取模块320，用于根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集。
语音交互测试题库包括用于测试待测语音交互设备的测试题，标准测试题集包括用于测试待测语音交互设备的设备功能的测试题。
评测等级获取模块330，用于根据标准测试题集对待测语音交互设备进行评测，并获取评测值，根据评测值获取待测语音交互设备的评测等级。
上述语音交互设备评级系统，根据设备功能信息获取标准测试题集，通过标准测试题集可以对待测语音交互设备的设备功能进行评测，其中，语音交互设备的设备功能信息易于被识别，也容易获取，便于根据设备功能对语音交互设备进行评测，可以大大降低语音交互设备评级系统的成本，同时提高效率；而且所获取的评测等级是对语音交互设备的设备功能进行评测的，在语音交互设备的使用过程中用户体验的实际感受的是设备功能，因此所获取的评测等级可以反映使用体验中语音交互设备的评价结果，避免了按照语音交互算法的指标体系为指导的评价结果，大大增强了语音交互设备评级的可读性。
关于语音交互设备评级系统的具体限定可以参见上文中对于语音交互设备评级方法的限定，在此不再赘述。上述语音交互设备评级系统中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中，提供了一种计算机设备，该计算机设备可以是服务器，其内部结构图可以如图5所示，图5为一个实施例中计算机设备的内部结构图。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种语音交互设备评级方法。
本领域技术人员可以理解，图5中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
在一个实施例中，提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现以下步骤：
获取待测语音交互设备的设备功能信息；
根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集；
根据标准测试题集对待测语音交互设备进行评测，并获取评测值，根据评测值获取待测语音交互设备的评测等级。
在一个实施例中，处理器执行计算机程序时还实现以下步骤：
根据待测语音交互设备的设备功能信息在语音交互测试题库中获取有效测试题集，其中，有效测试题集包括用于对待测语音交互设备进行测试并获取测试反馈信息的有效测试题；在有效测试题集选取第一预设数量的有效测试题，并将第一预设数量的有效测试题组成标准测试题集。
在一个实施例中，处理器执行计算机程序时还实现以下步骤：
获取有效测试题集的各个有效测试题的特征值；按照各有效测试题的特征值对所有有效测试题进行分类，并生成多个聚类，其中，聚类包括特征值为同类的有效测试题；在当前聚类中选取当前聚类对应的第二预设数量的有效测试题，并将第二预设数量的有效测试题作为当前聚类的聚类测试题集；获取各个聚类的聚类测试题集，并将所有聚类的聚类测试题集组成标准测试题集，其中，所有聚类对应的第二预设数量的总和等于第一预设数量。
在一个实施例中，处理器执行计算机程序时还实现以下步骤：
获取当前聚类中各个有效测试题的相似度因子；在当前聚类中选取第二预设数量的有效测试题，并计算第二预设数量的有效测试题的相似度因子的和值；在相似度因子的和值低于或等于预设值时，将第二预设数量的有效测试题组成聚类测试题集。
在一个实施例中，处理器执行计算机程序时还实现以下步骤：
根据评测值和评分表，获取评测值对应的等级，并将评测值对应的等级作为待测语音交互设备的评测等级。
在一个实施例中，处理器执行计算机程序时还实现以下步骤：
向待测语音交互设备播放标准测试题集中各个标准测试题对应的测试语音，并一一对应接收待测语音交互设备对各测试语音的测试反馈信息；根据各测试反馈信息对应的各标准测试题的参考信息进行对比，获取各标准测试题的测试值；将所有标准测试题的测试值的和值作为评测值。
在一个实施例中，处理器执行计算机程序时还实现以下步骤：
根据装载有语音交互的设备的使用反馈和装载有语音交互的设备的设备信息，组建语音交互测试题库。
在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现以下步骤：
获取待测语音交互设备的设备功能信息；
根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集；
根据标准测试题集对待测语音交互设备进行评测，并获取评测值，根据评测值获取待测语音交互设备的评测等级。
在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
根据待测语音交互设备的设备功能信息在语音交互测试题库中获取有效测试题集，其中，有效测试题集包括用于对待测语音交互设备进行测试并获取测试反馈信息的有效测试题；在有效测试题集选取第一预设数量的有效测试题，并将第一预设数量的有效测试题组成标准测试题集。
在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
获取有效测试题集的各个有效测试题的特征值；按照各有效测试题的特征值对所有有效测试题进行分类，并生成多个聚类，其中，聚类包括特征值为同类的有效测试题；在当前聚类中选取当前聚类对应的第二预设数量的有效测试题，并将第二预设数量的有效测试题作为当前聚类的聚类测试题集；获取各个聚类的聚类测试题集，并将所有聚类的聚类测试题集组成标准测试题集，其中，所有聚类对应的第二预设数量的总和等于第一预设数量。
在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
获取当前聚类中各个有效测试题的相似度因子；在当前聚类中选取第二预设数量的有效测试题，并计算第二预设数量的有效测试题的相似度因子的和值；在相似度因子的和值低于或等于预设值时，将第二预设数量的有效测试题组成聚类测试题集。
在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
根据评测值和评分表，获取评测值对应的等级，并将评测值对应的等级作为待测语音交互设备的评测等级。
在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
向待测语音交互设备播放标准测试题集中各个标准测试题对应的测试语音，并一一对应接收待测语音交互设备对各测试语音的测试反馈信息；根据各测试反馈信息对应的各标准测试题的参考信息进行对比，获取各标准测试题的测试值；将所有标准测试题的测试值的和值作为评测值。
在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
根据装载有语音交互的设备的使用反馈和装载有语音交互的设备的设备信息，组建语音交互测试题库。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种语音交互设备评级方法，其特征在于，包括以下步骤：
获取待测语音交互设备的设备功能信息；其中，所述设备功能信息包括陪伴聊天、文字录入、信息查询、身份识别；
根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集；其中，所述语音交互测试题库包括用于测试待测语音交互设备的测试题；
根据所述标准测试题集对所述待测语音交互设备进行评测，并获取评测值，根据所述评测值获取所述待测语音交互设备的评测等级；其中，所述标准测试题集包括用于测试待测语音交互设备的设备功能的测试题，所述标准测试题集中的各个标准测试题是将所述语音交互测试题库中逻辑错误或语义错误的无效测试题去除后的剩余测试题。
2.根据权利要求1所述的语音交互设备评级方法，其特征在于，所述根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集的步骤，包括以下步骤：
根据所述待测语音交互设备的设备功能信息在所述语音交互测试题库中获取有效测试题集，其中，所述有效测试题集包括用于对所述待测语音交互设备进行测试并获取测试反馈信息的有效测试题；
在所述有效测试题集选取第一预设数量的有效测试题，并将所述第一预设数量的有效测试题组成所述标准测试题集。
3.根据权利要求2所述的语音交互设备评级方法，其特征在于，所述在所述有效测试题集选取第一预设数量的有效测试题，并将所述第一预设数量的有效测试题组成所述标准测试题集的步骤，包括以下步骤：
获取所述有效测试题集的各个有效测试题的特征值；
按照各所述有效测试题的特征值对所有所述有效测试题进行分类，并生成多个聚类，其中，所述聚类包括特征值为同类的有效测试题；
在当前聚类中选取所述当前聚类对应的第二预设数量的有效测试题，并将所述第二预设数量的有效测试题作为所述当前聚类的聚类测试题集；
获取各个聚类的聚类测试题集，并将所有所述聚类的聚类测试题集组成所述标准测试题集，其中，所有所述聚类对应的第二预设数量的总和等于所述第一预设数量。
4.根据权利要求3所述的语音交互设备评级方法，其特征在于，所述在当前聚类中选取第二预设数量的有效测试题，并将所述第二预设数量的有效测试题作为所述当前聚类的聚类测试题集的步骤，包括以下步骤：
获取所述当前聚类中各个有效测试题的相似度因子；
在所述当前聚类中选取所述第二预设数量的有效测试题，并计算所述第二预设数量的有效测试题的相似度因子的和值；
在所述相似度因子的和值低于或等于预设值时，将所述第二预设数量的有效测试题组成所述聚类测试题集。
5.根据权利要求1所述的语音交互设备评级方法，其特征在于，所述根据所述评测值获取所述待测语音交互设备的评测等级的步骤，包括以下步骤：
根据所述评测值和评分表，获取所述评测值对应的等级，并将所述评测值对应的等级作为所述待测语音交互设备的评测等级。
6.根据权利要求1所述的语音交互设备评级方法，其特征在于，所述根据所述标准测试题集对所述待测语音交互设备进行评测，并获取评测值的步骤，包括以下步骤：
向所述待测语音交互设备播放所述标准测试题集中各个标准测试题对应的测试语音，并一一对应接收所述待测语音交互设备对各所述测试语音的测试反馈信息；
根据各所述测试反馈信息对应的各所述标准测试题的参考信息进行对比，获取各所述标准测试题的测试值；
将所有所述标准测试题的测试值的和值作为所述评测值。
7.根据权利要求1所述的语音交互设备评级方法，其特征在于，还包括以下步骤：
根据装载有语音交互的设备的使用反馈和所述装载有语音交互的设备的设备信息，组建所述语音交互测试题库。
8.一种语音交互设备评级系统，其特征在于，所述系统包括：
设备功能信息获取模块，用于获取待测语音交互设备的设备功能信息；其中，所述设备功能信息包括陪伴聊天、文字录入、信息查询、身份识别；
标准测试题集获取模块，用于根据待测语音交互设备的设备功能信息在语音交互测试题库中获取标准测试题集；其中，所述语音交互测试题库包括用于测试待测语音交互设备的测试题；
评测等级获取模块，用于根据所述标准测试题集对所述待测语音交互设备进行评测，并获取评测值，根据所述评测值获取所述待测语音交互设备的评测等级；其中，所述标准测试题集包括用于测试待测语音交互设备的设备功能的测试题，所述标准测试题集中的各个标准测试题是将所述语音交互测试题库中逻辑错误或语义错误的无效测试题去除后的剩余测试题。
9.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的语音交互设备评级方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的语音交互设备评级方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810847969.0A CN108986786B (zh) | 2018-07-27 | 2018-07-27 | 语音交互设备评级方法、系统、计算机设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810847969.0A CN108986786B (zh) | 2018-07-27 | 2018-07-27 | 语音交互设备评级方法、系统、计算机设备和存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN108986786A CN108986786A (zh) | 2018-12-11 |
| CN108986786B true CN108986786B (zh) | 2020-12-08 |
Family
ID=64552200
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810847969.0A Active CN108986786B (zh) | 2018-07-27 | 2018-07-27 | 语音交互设备评级方法、系统、计算机设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108986786B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110689903B (zh) * | 2019-09-24 | 2022-05-13 | 百度在线网络技术（北京）有限公司 | 智能音箱的评测方法、装置、设备和介质 |
| CN111477251B (zh) * | 2020-05-21 | 2023-09-05 | 北京百度网讯科技有限公司 | 模型评测方法、装置及电子设备 |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103366735B (zh) * | 2012-03-29 | 2016-03-16 | 北京中传天籁数字技术有限公司 | 语音数据的映射方法和装置 |
| CN103108233A (zh) * | 2013-01-22 | 2013-05-15 | 广东星海数字家庭产业技术研究院有限公司 | 一种高清互动电影播放系统及实现方法 |
| CN103928023B (zh) * | 2014-04-29 | 2017-04-05 | 广东外语外贸大学 | 一种语音评分方法及系统 |
| US9734821B2 (en) * | 2015-06-30 | 2017-08-15 | International Business Machines Corporation | Testing words in a pronunciation lexicon |
| CN106205604B (zh) * | 2016-07-05 | 2020-07-07 | 惠州市德赛西威汽车电子股份有限公司 | 一种应用端语音识别评测系统及评测方法 |
| US10102846B2 (en) * | 2016-10-31 | 2018-10-16 | International Business Machines Corporation | System, method and computer program product for assessing the capabilities of a conversation agent via black box testing |
| CN106611048A (zh) * | 2016-12-20 | 2017-05-03 | 李坤 | 一种具有在线语音测评及语音交互功能的语言学习系统 |
-
2018
- 2018-07-27 CN CN201810847969.0A patent/CN108986786B/zh active Active
Also Published As
| Publication number | Publication date |
|---|---|
| CN108986786A (zh) | 2018-12-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3855324A1 (en) | Associative recommendation method and apparatus, computer device, and storage medium | |
| CN109829629B (zh) | 风险分析报告的生成方法、装置、计算机设备和存储介质 | |
| CN109102797B (zh) | 语音识别测试方法、装置、计算机设备及存储介质 | |
| CN112889042A (zh) | 机器学习中超参数的识别与应用 | |
| CN109992601B (zh) | 待办事项信息的推送方法、装置和计算机设备 | |
| CN109543925B (zh) | 基于机器学习的风险预测方法、装置、计算机设备和存储介质 | |
| CN111859986A (zh) | 基于多任务孪生网络的语义匹配方法、装置、设备和介质 | |
| CN112395500A (zh) | 内容数据推荐方法、装置、计算机设备及存储介质 | |
| CN111124898B (zh) | 问答系统测试方法、装置、计算机设备和存储介质 | |
| CN108986786B (zh) | 语音交互设备评级方法、系统、计算机设备和存储介质 | |
| CN109034941B (zh) | 产品推荐方法、装置、计算机设备和存储介质 | |
| CN110362798A (zh) | 裁决信息检索分析方法、装置、计算机设备和存储介质 | |
| WO2020057014A1 (zh) | 对话分析评价的方法、装置、计算机设备和存储介质 | |
| CN111177500A (zh) | 数据对象分类方法、装置、计算机设备和存储介质 | |
| CN113157898B (zh) | 候选问题的推荐方法、装置、计算机设备及存储介质 | |
| CN111552810B (zh) | 实体抽取与分类方法、装置、计算机设备和存储介质 | |
| CN112199376B (zh) | 一种基于聚类分析的标准知识库管理方法及系统 | |
| CN113762392A (zh) | 基于人工智能的理财产品推荐方法、装置、设备及介质 | |
| CN114692889A (zh) | 用于机器学习算法的元特征训练模型 | |
| CN107977794B (zh) | 工业产品的数据处理方法、装置、计算机设备及存储介质 | |
| CN110766465A (zh) | 金融产品评估方法及其验证方法、装置 | |
| CN114021716A (zh) | 一种模型训练的方法、系统及电子设备 | |
| CN113704452A (zh) | 基于Bert模型的数据推荐方法、装置、设备及介质 | |
| CN112148855A (zh) | 一种智能客服问题检索方法、终端以及存储介质 | |
| CN111368044A (zh) | 智能问答方法、装置、计算机设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB02 | Change of applicant information |
Address after: 511300 No.78, west of Zhucun Avenue, Zhucun street, Zengcheng District, Guangzhou City, Guangdong Province Applicant after: CHINA ELECTRONIC PRODUCT RELIABILITY AND ENVIRONMENTAL TESTING RESEARCH INSTITUTE ((THE FIFTH ELECTRONIC RESEARCH INSTITUTE OF MIIT)(CEPREI LABORATORY)) Address before: 510610 No. 110 Zhuang Road, Tianhe District, Guangdong, Guangzhou, Dongguan Applicant before: CHINA ELECTRONIC PRODUCT RELIABILITY AND ENVIRONMENTAL TESTING RESEARCH INSTITUTE ((THE FIFTH ELECTRONIC RESEARCH INSTITUTE OF MIIT)(CEPREI LABORATORY)) |
|
| CB02 | Change of applicant information | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |