CN108899012A - 语音交互设备评测方法、系统、计算机设备和存储介质 - Google Patents
语音交互设备评测方法、系统、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN108899012A CN108899012A CN201810846791.8A CN201810846791A CN108899012A CN 108899012 A CN108899012 A CN 108899012A CN 201810846791 A CN201810846791 A CN 201810846791A CN 108899012 A CN108899012 A CN 108899012A
- Authority
- CN
- China
- Prior art keywords
- test
- equipment
- dimension
- information
- devices
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000002452 interceptive effect Effects 0.000 title claims abstract description 137
- 238000000034 method Methods 0.000 title claims abstract description 42
- 238000003860 storage Methods 0.000 title claims abstract description 14
- 238000012360 testing method Methods 0.000 claims abstract description 656
- 238000011156 evaluation Methods 0.000 claims abstract description 103
- 230000004044 response Effects 0.000 claims abstract description 80
- 230000006870 function Effects 0.000 claims description 61
- 238000004590 computer program Methods 0.000 claims description 25
- 230000015654 memory Effects 0.000 claims description 22
- 230000002093 peripheral effect Effects 0.000 claims description 11
- 238000001816 cooling Methods 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 claims 1
- 230000000694 effects Effects 0.000 abstract description 22
- 230000007246 mechanism Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 238000005457 optimization Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 230000003993 interaction Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 230000004064 dysfunction Effects 0.000 description 2
- XDDAORKBJWWYJS-UHFFFAOYSA-N glyphosate Chemical compound OC(=O)CNCP(O)(O)=O XDDAORKBJWWYJS-UHFFFAOYSA-N 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000035484 reaction time Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000013011 mating Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000010408 sweeping Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000009885 systemic effect Effects 0.000 description 1
- 238000010998 test method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/01—Assessment or evaluation of speech recognition systems
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
Landscapes
- Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Electrically Operated Instructional Devices (AREA)
Abstract
本申请涉及一种语音交互设备评测方法、系统、计算机设备和存储介质。所述方法包括：获取测试维度的测试信息，其中，测试维度为装载有语音交互的设备的待测功能类型；向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息，其中，待测设备为待测的装载有语音交互的设备；根据测试响应信息，获取待测设备的设备评测值。采用本方法能够根据待测设备的功能以及使用效果对设备进行评测，可操作性强，而且设备的功能以及使用效果是可以容易获知的，可以易于了解待测的功能和节约时间，提高效率，同时可以产生具有指导性的评估，以便于指导待测设备在性能上提升。
Description
技术领域
本申请涉及语音交互评测的技术领域，特别是涉及一种语音交互设备评测方法、语音交互设备评测系统、计算机设备和存储介质。
背景技术
随着科学技术的发展，人们与机器的信息交流方式已经从传统的文字输入变得十分多样化。语音交互技术已经广泛应用了，装载有语音交互的设备可以根据用户的语音内容中识别和执行指令以及进行会话，实现陪伴聊天、文字录入、信息查询、身份识别、设备控制、路径导航等多种功能，大大提高了日常工作效率，改善了人机交互体验。
目前，传统方法中对装载有语音交互的设备进行评测是：根据会话机器人的配置信息确定配置指标的配置质量，其中，配置指标包含表达配置信息的表达方式、意图配置信息的意图设置、表达设置信息的实体标注及表达配置信息的服务触发中的至少一个。然而，会话机器人的配置信息是属于被测设备的内部运行机制的一部分，传统方法需要测试方了解被测设备的内部运行机制，并将测试数据库导入被测系统。考虑到该设备的技术保密的保护，测试方往往是难以获取被测设备的内部运行机制，需要测试方花费大量的时间和精力去了解被测设备的内部运行机制，造成对装载有语音交互的设备进行评测的效率低。
发明内容
基于此，有必要针对上述对装载有语音交互的设备进行评测的效率低的问题，提供一种语音交互设备评测方法、系统、计算机设备和存储介质。
一种语音交互设备评测方法，包括以下步骤：
获取测试维度的测试信息，其中，测试维度为装载有语音交互的设备的待测功能类型；
向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息，其中，待测设备为待测的装载有语音交互的设备；
根据测试响应信息，获取待测设备的设备评测值。
在一个实施例中，测试维度包括内置服务类型、外设控制类型、人机对话类型、网络搜索类型和学习能力类型，其中：
内置服务类型的待测功能包括装载有语音交互的设备的特征业务；
外设控制类型的待测功能包括装载有语音交互的设备对受控设备的控制；
人机对话类型的待测功能包括装载有语音交互的设备对测试语音的识别、语义的理解、上下文的理解和多人对话的理解；
网络搜索类型的待测功能包括装载有语音交互的设备对测试语音中搜索指令的触发和搜索结果的评估；
学习能力类型的待测功能包括装载有语音交互的设备从测试语音中获取特征规律的能力。
在一个实施例中，获取测试维度的测试信息的步骤，包括以下步骤：
获取各测试维度的测试信息；
向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息的步骤，包括以下步骤：
向待测设备依次播放各测试信息对应的测试语音，并一一对应接收待测设备对各测试语音的测试响应信息；
根据测试响应信息，获取待测设备的设备评测值的步骤，包括以下步骤：
根据各测试响应信息一一获取各测试响应信息对应的测试维度的维度评测值；
根据所有维度评测值和各维度评测的权值，计算设备评测值。
在一个实施例中，在根据各测试响应信息一一获取各测试响应信息对应的测试维度的维度评测值的步骤之后，还包括以下步骤：
根据所有维度评测值建立待测设备的语音交互设备评测图谱，其中，语音交互设备评测图谱包括雷达图。
在一个实施例中，测试内容为多个；
向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息的步骤，包括以下步骤：
向待测设备依次播放各测试信息对应的测试语音，并一一对应接收待测设备对各测试语音的测试响应信息；
根据测试响应信息，获取待测设备的设备评测值的步骤，包括以下步骤：
根据各测试响应信息一一获取各测试响应信息对应的测试信息的功能评测值；
根据所有功能评测值计算设备评测值。
在一个实施例中，在获取测试维度的测试信息的步骤之前，还包括以下步骤：
根据各测试维度分别一一对应获取各个测试基准，其中，测试基准为测试维度对应的测试信息集合，测试信息集合包括对应的测试维度的多个测试信息；
设置各测试维度的权重，设置各测试信息的分值；
根据所有测试基准、各测试基准分别与各测试维度的对应关系、各测试基准分别与各测试基准的权重的对应关系、以及各测试信息分别与各测试信息的分值的对应关系，建立语音交互评测模型；
获取测试维度的测试信息的步骤，包括以下步骤：
在语音交互评测模型中各测试维度的测试基准中，随机获取各测试维度的测试信息。
在一个实施例中，设置各测试信息的分值的步骤，包括以下步骤：
设置各测试基准中各测试信息的调用频次，根据各测试信息的调用频次一一对应设置各测试信息的分值；
随机获取各测试维度的测试信息的步骤，包括以下步骤：
根据各测试基准中各个测试信息分别与各调用频次的对应关系，随机获取各测试维度的测试信息。
一种语音交互设备评测系统，系统包括：
测试信息获取模块，用于获取测试维度的测试信息，其中，测试维度为装载有语音交互的设备的待测功能类型；
测试响应信息接收模块，用于向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息，其中，待测设备为待测的装载有语音交互的设备；
设备评测值获取模块，用于根据测试响应信息，获取待测设备的设备评测值。
一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现以下步骤：
获取测试维度的测试信息，其中，测试维度为装载有语音交互的设备的待测功能类型；
向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息，其中，待测设备为待测的装载有语音交互的设备；
根据测试响应信息，获取待测设备的设备评测值。
一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现以下步骤：
获取测试维度的测试信息，其中，测试维度为装载有语音交互的设备的待测功能类型；
向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息，其中，待测设备为待测的装载有语音交互的设备；
根据测试响应信息，获取待测设备的设备评测值。
上述语音交互设备评测方法、系统、计算机设备和存储介质，根据待测设备的功能以及使用效果对设备进行评测，可操作性强，而且设备的功能以及使用效果是可以容易获知的，可以易于了解待测的功能和节约时间，提高效率，同时可以产生具有指导性的评估，以便于指导待测设备在性能上提升。
附图说明
图1为一个实施例中语音交互设备评测方法的应用环境图；
图2为一个实施例中语音交互设备评测方法的流程示意图；
图3为另一个实施例中语音交互设备评测图谱；
图4为一个实施例中语音交互设备评测系统的结构示意图；
图5为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
本申请提供的语音交互设备评测方法，可以应用于如图1所示的应用环境中，图1为一个实施例中语音交互设备评测方法的应用环境图。其中，装载有语音交互的设备11可以对语音进行识别并根据所识别的语音做出相应的响应。其中，装载有语音交互的设备11可以但不限于是各种装载有语音交互功能的导航仪、机器人、音箱、智能手机、个人计算机、笔记本电脑、平板电脑、便携式可穿戴设备等智能设备。
在一个实施例中，如图2所示，图2为一个实施例中语音交互设备评测方法的流程图，本实施例中提供了一种语音交互设备评测方法，以该方法应用于图1中所示的环境为例进行说明，包括以下步骤：
步骤S210：获取测试维度的测试信息，其中，测试维度为装载有语音交互的设备的待测功能类型。
设备的生产商出于对技术的保密，往往不会公开设备的内部运行机制，一般只能够在对设备的使用过程获知设备的功能。因此，对装载有语音交互的设备进行评测时，往往也是没办法了解被测的装载有语音交互的设备的内部运行机制，因此可以根据设备的功能以及使用效果对设备进行评测。设备的功能以及使用效果往往会在生产商所提供的说明书或使用教学视频中较为详细的记载，设备的功能以及使用效果是可以容易获知的，大大方便了解待测的功能，节约时间，提高效率。
而且，根据设备的功能以及使用效果对设备进行评测，评测的结果可以方便不同设备之间对功能进行比较，提升评测与评测之间的可比性，评测可以表现出具有指导性的评估，有利于对装载有语音交互的设备所在行业进行设备性能在规范上的指导。
本步骤中，测试信息可以是用于测试装载有语音交互的设备功能或使用效果的信息，根据测试维度所代表的不同待测功能类型，测试信息也有所不同。例如，在装载有语音交互的设备可以是智能音箱，智能音箱可以拥有音乐播放、闹钟、天气、新闻、购物、检索、讲故事等各种功能，测试信息可以是带有音乐播放指令的语句以便于评测智能音箱的音乐播放功能，测试信息也可以询问时间、天气的问题以便于评测智能音箱的闹钟或天气功能，也可以带有被搜索对应的语句以便于评测新闻、购物或检索的功能。
步骤S220：向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息，其中，待测设备为待测的装载有语音交互的设备。
待测设备可以通过所装载的语音交互功能对测试语音进行识别，并根据识别的语音对应的内容做出相应的响应。本步骤接收待测设备所做出响应的测试响应信息。例如，在对智能音箱播放带有指定歌曲名称的播放指令的语句，接收智能音箱对该语句进行响应的测试响应信息，测试响应信息可以用于反映待测设备的响应内容。
步骤S230：根据测试响应信息，获取待测设备的设备评测值。
本步骤中，根据测试响应信息，分析待测设备完成测试信息对应功能的效果，根据分析获取待测设备的设备评测值，完成对待测设备的评测。
上述语音交互设备评测方法，根据待测设备的功能以及使用效果对设备进行评测，可操作性强，而且设备的功能以及使用效果是可以容易获知的，可以易于了解待测的功能和节约时间，提高效率，同时可以产生具有指导性的评估，以便于指导待测设备在性能上提升。
在一个实施例中，测试维度包括内置服务类型、外设控制类型、人机对话类型、网络搜索类型和学习能力类型，其中：
内置服务类型的待测功能包括装载有语音交互的设备的特征业务。
特征业务指的是待测设备所预设各类功能和业务。例如，当待测设备是车载设备，车载设备的特征业务包括导航功能，如服务机器人的特征业务包括打扫功能，如智能音箱的特征业务包括音乐播放功能、闹钟、天气、新闻、购物、健身、讲故事等各种功能。这些特征业务大都与各类APP或网络资源库互联，具有明确的服务内容并经过了一定的功能优化。智能机器所具备技能的丰富程度影响着人机交互场景中机器的智能化水平，即庞大的知识积累是反映机器智商水平的一个重要方面。
外设控制类型的待测功能包括装载有语音交互的设备对受控设备的控制。
外设控制类型对应的测试内容主要考察待测设备对外部的其他智能设备、配套连接设备、应用程序的控制能力。如当智能音箱与打扫机器人连接，智能音箱可以控制所支持的外部的打扫机器人实现打扫功能，通过智能音箱对打扫机器人的控制效果可以反映出其对外部设备的适配性与控制能力。
人机对话类型的待测功能包括装载有语音交互的设备对测试语音的识别、语义的理解、上下文的理解和多人对话的理解。
人机对话类型对应的测试内容主要用于评测用户与装载有语音交互的设备的对话体验，对话体验包括多轮对话能力、上下文理解能力、不同环境下的唤醒效果、对用户语音的识别能力以及设备的反应时间和输出表达效果等综合内容。人机对话是实现智能设备与用户之间实质性交互的途径，也是智能设备的主要工作方式。它不仅直接影响用户体验，同时也是装载有语音交互的设备的自身性能和智能化水平的外在表现。
网络搜索类型的待测功能包括装载有语音交互的设备对测试语音中搜索指令的触发和搜索结果的评估。
网络搜索类型的待测功能是用于满足用户向待测设备提出问题或需求，所提出的问题或需求涉及的内容更加宽泛，没有特定的针对性，依赖于用户的多样化需求，难以通过待测设备做出具体优化，该项内容主要通过待测设备的语音识别技术和信息处理技术来执行用户下达的任务，因此集中反映了智能音箱的通用智商水平。
学习能力类型的待测功能包括装载有语音交互的设备从识别测试语音中获取特征规律的能力。
学习能力是智能机器的标志性特征。对于智能音箱、服务机器人等产品，能否在和用户的交互过程中不断学习用户的兴趣偏好、作息习惯、出行习惯等各种行为规律或能够接受用户的个性化训练来优化自身技能，这是评估其智能化水平的重要因素。
上述语音交互设备评测方法，根据装载有语音交互的设备的整体功能特点，建立包含内置服务类型、外设控制类型、人机对话类型、网络搜索类型和学习能力类型的多个测试维度。该测试维度划分涵盖了装载有语音交互的设备的全部或大部分能力的类型，因此测试维度下的测试信息可以对其进行全方面的评测，发掘待测设备的潜在不足之处，有利于待测设备进行针对性的改进和功能提升。
在一个实施例中，获取测试维度的测试信息的步骤，包括以下步骤：
步骤S211：获取各测试维度的测试信息。
根据各测试维度所包括的待测功能类型，获取各测试维度对应的测试信息。
向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息的步骤，包括以下步骤：
步骤S221：向待测设备依次播放各测试信息对应的测试语音，并一一对应接收待测设备对各测试语音的测试响应信息。
依次播放各个测试语音，能够满足待测识别的识别时长和/或保持一致识别音量，可以使得待测设备一一依次对各个测试语音进行响应，同时一一对应接收所响应的测试响应信息。
根据测试响应信息，获取待测设备的设备评测值的步骤，包括以下步骤：
步骤S231：根据各测试响应信息一一获取各测试响应信息对应的测试维度的维度评测值。
步骤S232：根据所有维度评测值和各维度评测的权值，计算设备评测值。
根据各个维度评测值对待测设备进行综合评测，计算设备评测值。
上述语音交互设备评测方法，根据各个测试维度的测试信息对待测设备的大部分能力进行评测，对待测设备进行全方面的评测，发掘待测设备的潜在不足之处，有利于待测设备进行针对性的改进和功能提升。
在一个实施例中，在根据各测试响应信息一一获取各测试响应信息对应的测试维度的维度评测值的步骤之后，还包括以下步骤：
步骤S233：根据所有维度评测值建立待测设备的语音交互设备评测图谱，其中，语音交互设备评测图谱包括雷达图。
上述语音交互设备评测方法，通过语音交互设备评测图谱可以直观地发现待测设备的较优性能，也可以，发掘待测设备的潜在不足之处，有利于待测设备进行全面的功能提升。
在一个实施例中，测试内容为多个；
向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息的步骤，包括以下步骤：
步骤S222：向待测设备依次播放各测试信息对应的测试语音，并一一对应接收待测设备对各测试语音的测试响应信息。
根据测试响应信息，获取待测设备的设备评测值的步骤，包括以下步骤：
步骤S234：根据各测试响应信息一一获取各测试响应信息对应的测试信息的功能评测值。
不同的测试信息对应的分值范围或权重可以不同，按照测试信息对应的分值范围内，获取该测试信息根据对应的测试响应信息所符合的功能评测值。
步骤S235：根据所有功能评测值计算设备评测值。
综合所有功能评测值对所述测试设备进行评测，计算设备评测值。
上述语音交互设备评测方法，在评测时各个测试信息的分值范围或权重可以不同，分值范围或权重可以用于突出反映待测设备的特定属性或功能的，提高评测的准确性。
在一个实施例中，在获取测试维度的测试信息的步骤之前，还包括以下步骤：
步骤S241：根据各测试维度分别一一对应获取各个测试基准，其中，测试基准为测试维度对应的测试信息集合，测试信息集合包括对应的测试维度的多个测试信息。
针对多个测试维度分别设计测试信息集合，测试信息集合的构建满足对应测试维度对待测功能进行评测的需求，测试信息集合中以测试信息为主，测试信息可以是语句，测试信息也可以是问题。
步骤S242：设置各测试维度的权重，设置各测试信息的分值。
不同测试维度的权值可以不同，不同的测试信息对应的分值可以不同，分值或权重可以用于突出反映待测设备的特定属性或功能的，提高评测的准确性。
步骤S243：根据所有测试基准、各测试基准分别与各测试维度的对应关系、各测试基准分别与各测试基准的权重的对应关系、以及各测试信息分别与各测试信息的分值的对应关系，建立语音交互评测模型。
建立一个可以满足查找测试维度的测试信息需要的，具有权值和分值对应关系的语音交互评测模型。
获取测试维度的测试信息的步骤，包括以下步骤：
步骤S212：在语音交互评测模型中各测试维度的测试基准中，随机获取各测试维度的测试信息。
随机获取各测试维度的测试信息，可以尽量减少测试信息差异性所带来的误差，提高设备评测值的准确性。
上述语音交互设备评测方法，所建立的语音交互评测模型可以满足各种各类的待测设备，适用性高，可复用性强，可以降低语音交互设备评测的成本。
在一个实施例中，设置各测试信息的分值的步骤，包括以下步骤：
步骤S244：设置各测试基准中各测试信息的调用频次，根据各测试信息的调用频次一一对应设置各测试信息的分值。
随机获取各测试维度的测试信息的步骤，包括以下步骤：
步骤S245：根据各测试基准中各个测试信息分别与各调用频次的对应关系，随机获取各测试维度的测试信息。
上述语音交互设备评测方法，可以按照需求对测试信息的调用频次进行设置以及根据调用频次对测试信息进行调用，以便于高效实用可以突出反映待测设备的特定属性或功能的测试信息，提高评测的准确性。
在另一个实施例中，本实施例中根据智能语音交互产品和系统的整体功能特点，建立包含内置服务、外设控制、人机对话、网络搜索和训练学习五个测试维度的智商评测模型。该模型的测试维度划分涵盖了智能语音交互产品和系统的全部类型的能力，因此可以对其进行全方面的智商评测，发掘产品和系统的潜在不足之处，并进行针对性的算法改进和性能提升。
语音交互产品和系统的主要工作模式是，用户通过语音向机器下达命令或询问问题，智能机器利用语音识别技术来识别用户的需求，并通过自身掌握的知识或能力为用户完成指令或提供问题的答案，从而满足用户需求。在上述五维智商评测模型中，各测试维度的测试内容有所不同。具体地：
内置服务是指智能语音交互产品和系统预设的各类功能，如车载系统的导航功能、服务机器人的打扫功能以及智能音箱的音乐播放功能、闹钟、天气、新闻、购物、健身、讲故事等各种功能。这些内置服务大都与各类APP或网络资源库互联，具有明确的服务内容并经过了一定的功能优化。智能机器所具备技能的丰富程度影响着人机交互场景中机器的智能化水平，即庞大的知识积累是反映机器智商水平的一个重要方面。
外设控制主要考察语音交互系统对外部智能产品的控制能力。如智能音箱所支持的外部智能设备品类和控制效果反映出其对外设的适配性与控制能力。
人机对话评测主要指用户与语音交互产品和系统的对话体验，包括多轮对话能力、上下文理解能力、不同环境下的唤醒效果、对用户语音的识别能力以及设备的反应时间和输出表达效果等综合内容。人机对话功能是实现智能设备与用户之间实质性交互的唯一途径，也是智能设备的主要工作方式。它不仅直接影响用户体验，同时也是语音交互系统自身性能和智能化水平的外在表现。
网络搜索是指用户向语音交互系统和产品提出的内置服务以外的问题或需求。它涉及的内容更加宽泛，没有特定的针对性，依赖于用户的多样化需求。同时，产品设计人员难以对相关内容做出具体优化，该项内容主要通过系统的语音识别技术和信息处理技术来执行用户下达的任务，因此集中反映了智能音箱的通用智商水平。
训练学习能力是智能机器的标志性特征。对于智能音箱、服务机器人等产品，能否在和用户的交互过程中不断学习用户的兴趣偏好、作息习惯、出行习惯等各种行为规律或能够接受用户的个性化训练来优化自身技能，这是评估其学习功能及智能化水平的重要因素。
针对以上五个测试维度，分别设计测试基准。测试基准的构建以该测试维度所包含的问题为主，并且完成问题测试集的设计。测试基准中的问题数量和种类以使用频次高低为依据，并按比例进行设置。例如，可以设置某测试维度中常用高频问题占比50％，中频问题占比30％，低频问题占比20％等。不同频次问题在评测计分时可以按照评测需求设置不同权重，以突出产品或系统的特定属性或功能状态。每个测试维度分别统计评分，各测试维度的得分为该测试维度中的测试基准的综合得分或是对其进行比例放大、等级划分后的结果。如图3所示，图3为另一个实施例中语音交互设备评测图谱，用于展示五维智商评测模型的测试结果，可以通过卫星图和五个测试维度的得分生成语音交互设备评测图谱。
应该理解的是，虽然图2的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图2中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中，如图4所示，图4为一个实施例中语音交互设备评测系统的结构示意图，提供了一种语音交互设备评测系统，系统包括测试信息获取模块310、测试响应信息接收模块320和设备评测值获取模块330，其中：
测试信息获取模块310，用于获取测试维度的测试信息，其中，测试维度为装载有语音交互的设备的待测功能类型。
测试信息获取模块310中的测试信息可以是用于测试装载有语音交互的设备功能或使用效果的信息，根据测试维度所代表的不同待测功能类型，测试信息也有所不同。例如，在装载有语音交互的设备可以是智能音箱，智能音箱可以拥有音乐播放、闹钟、天气、新闻、购物、检索、讲故事等各种功能，测试信息可以是带有音乐播放指令的语句以便于评测智能音箱的音乐播放功能，测试信息也可以询问时间、天气的问题以便于评测智能音箱的闹钟或天气功能，也可以带有被搜索对应的语句以便于评测新闻、购物或检索的功能。
测试响应信息接收模块320，用于向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息，其中，待测设备为待测的装载有语音交互的设备。
测试响应信息接收模块320待测设备可以通过所装载的语音交互功能对测试语音进行识别，并根据识别的语音对应的内容做出相应的响应。本步骤接收待测设备所做出响应的测试响应信息。例如，在对智能音箱播放带有指定歌曲名称的播放指令的语句，接收智能音箱对该语句进行响应的测试响应信息，测试响应信息可以用于反映待测设备的响应内容。
设备评测值获取模块330，用于根据测试响应信息，获取待测设备的设备评测值。
设备评测值获取模块330中根据测试响应信息，分析待测设备完成测试信息对应功能的效果，根据分析获取待测设备的设备评测值，完成对待测设备的评测。
上述语音交互设备评测系统，根据待测设备的功能以及使用效果对设备进行评测，可操作性强，而且设备的功能以及使用效果是可以容易获知的，可以易于了解待测的功能和节约时间，提高效率，同时可以产生具有指导性的评估，以便于指导待测设备在性能上提升。
关于语音交互设备评测系统的具体限定可以参见上文中对于语音交互设备评测方法的限定，在此不再赘述。上述语音交互设备评测系统中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中，提供了一种计算机设备，该计算机设备可以是服务器，其内部结构图可以如图5所示，图5为一个实施例中计算机设备的内部结构图。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种语音交互设备评测方法。
本领域技术人员可以理解，图5中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
在一个实施例中，提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现以下步骤：
获取测试维度的测试信息，其中，测试维度为装载有语音交互的设备的待测功能类型；
向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息，其中，待测设备为待测的装载有语音交互的设备；
根据测试响应信息，获取待测设备的设备评测值。
在一个实施例中，处理器执行计算机程序时还实现以下步骤：
获取各测试维度的测试信息；向待测设备依次播放各测试信息对应的测试语音，并一一对应接收待测设备对各测试语音的测试响应信息；根据各测试响应信息一一获取各测试响应信息对应的测试维度的维度评测值；根据所有维度评测值和各维度评测的权值，计算设备评测值。
在一个实施例中，处理器执行计算机程序时还实现以下步骤：
根据所有维度评测值建立待测设备的语音交互设备评测图谱，其中，语音交互设备评测图谱包括雷达图。
在一个实施例中，测试内容为多个；处理器执行计算机程序时还实现以下步骤：
向待测设备依次播放各测试信息对应的测试语音，并一一对应接收待测设备对各测试语音的测试响应信息；根据各测试响应信息一一获取各测试响应信息对应的测试信息的功能评测值；根据所有功能评测值计算设备评测值。
在一个实施例中，处理器执行计算机程序时还实现以下步骤：
根据各测试维度分别一一对应获取各个测试基准，其中，测试基准为测试维度对应的测试信息集合，测试信息集合包括对应的测试维度的多个测试信息；设置各测试维度的权重，设置各测试信息的分值；根据所有测试基准、各测试基准分别与各测试维度的对应关系、各测试基准分别与各测试基准的权重的对应关系、以及各测试信息分别与各测试信息的分值的对应关系，建立语音交互评测模型；在语音交互评测模型中各测试维度的测试基准中，随机获取各测试维度的测试信息。
在一个实施例中，处理器执行计算机程序时还实现以下步骤：
设置各测试基准中各测试信息的调用频次，根据各测试信息的调用频次一一对应设置各测试信息的分值；根据各测试基准中各个测试信息分别与各调用频次的对应关系，随机获取各测试维度的测试信息。
在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现以下步骤：
获取测试维度的测试信息，其中，测试维度为装载有语音交互的设备的待测功能类型；
向待测设备播放测试信息对应的测试语音，并接收待测设备对测试语音的测试响应信息，其中，待测设备为待测的装载有语音交互的设备；
根据测试响应信息，获取待测设备的设备评测值。
在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
获取各测试维度的测试信息；向待测设备依次播放各测试信息对应的测试语音，并一一对应接收待测设备对各测试语音的测试响应信息；根据各测试响应信息一一获取各测试响应信息对应的测试维度的维度评测值；根据所有维度评测值和各维度评测的权值，计算设备评测值。
在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
根据所有维度评测值建立待测设备的语音交互设备评测图谱，其中，语音交互设备评测图谱包括雷达图。
在一个实施例中，测试内容为多个；计算机程序被处理器执行时还实现以下步骤：
向待测设备依次播放各测试信息对应的测试语音，并一一对应接收待测设备对各测试语音的测试响应信息；根据各测试响应信息一一获取各测试响应信息对应的测试信息的功能评测值；根据所有功能评测值计算设备评测值。
在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
根据各测试维度分别一一对应获取各个测试基准，其中，测试基准为测试维度对应的测试信息集合，测试信息集合包括对应的测试维度的多个测试信息；设置各测试维度的权重，设置各测试信息的分值；根据所有测试基准、各测试基准分别与各测试维度的对应关系、各测试基准分别与各测试基准的权重的对应关系、以及各测试信息分别与各测试信息的分值的对应关系，建立语音交互评测模型；在语音交互评测模型中各测试维度的测试基准中，随机获取各测试维度的测试信息。
在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
设置各测试基准中各测试信息的调用频次，根据各测试信息的调用频次一一对应设置各测试信息的分值；根据各测试基准中各个测试信息分别与各调用频次的对应关系，随机获取各测试维度的测试信息。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种语音交互设备评测方法，其特征在于，包括以下步骤：
获取测试维度的测试信息，其中，所述测试维度为装载有语音交互的设备的待测功能类型；
向待测设备播放所述测试信息对应的测试语音，并接收所述待测设备对所述测试语音的测试响应信息，其中，所述待测设备为待测的装载有语音交互的设备；
根据所述测试响应信息，获取所述待测设备的设备评测值。
2.根据权利要求1所述的语音交互设备评测方法，其特征在于，所述测试维度包括内置服务类型、外设控制类型、人机对话类型、网络搜索类型和学习能力类型，其中：
所述内置服务类型的待测功能包括所述装载有语音交互的设备的特征业务；
所述外设控制类型的待测功能包括所述装载有语音交互的设备对受控设备的控制；
所述人机对话类型的待测功能包括所述装载有语音交互的设备对所述测试语音的识别、语义的理解、上下文的理解和多人对话的理解；
所述网络搜索类型的待测功能包括所述装载有语音交互的设备对所述测试语音中搜索指令的触发和搜索结果的评估；
所述学习能力类型的待测功能包括所述装载有语音交互的设备从所述测试语音中获取特征规律的能力。
3.根据权利要求2所述的语音交互设备评测方法，其特征在于，所述获取测试维度的测试信息的步骤，包括以下步骤：
获取各所述测试维度的测试信息；
所述向待测设备播放所述测试信息对应的测试语音，并接收所述待测设备对所述测试语音的测试响应信息的步骤，包括以下步骤：
向所述待测设备依次播放各所述测试信息对应的测试语音，并一一对应接收所述待测设备对各所述测试语音的测试响应信息；
所述根据所述测试响应信息，获取所述待测设备的设备评测值的步骤，包括以下步骤：
根据各所述测试响应信息一一获取各所述测试响应信息对应的测试维度的维度评测值；
根据所有所述维度评测值和各所述维度评测的权值，计算所述设备评测值。
4.根据权利要求3所述的语音交互设备评测方法，其特征在于，在所述根据各所述测试响应信息一一获取各所述测试响应信息对应的测试维度的维度评测值的步骤之后，还包括以下步骤：
根据所有所述维度评测值建立所述待测设备的语音交互设备评测图谱，其中，所述语音交互设备评测图谱包括雷达图。
5.根据权利要求1所述的语音交互设备评测方法，其特征在于，所述测试内容为多个；
所述向待测设备播放所述测试信息对应的测试语音，并接收所述待测设备对所述测试语音的测试响应信息的步骤，包括以下步骤：
向所述待测设备依次播放各所述测试信息对应的测试语音，并一一对应接收所述待测设备对各所述测试语音的测试响应信息；
所述根据所述测试响应信息，获取所述待测设备的设备评测值的步骤，包括以下步骤：
根据各所述测试响应信息一一获取各所述测试响应信息对应的测试信息的功能评测值；
根据所有所述功能评测值计算所述设备评测值。
6.根据权利要求3所述的语音交互设备评测方法，其特征在于，在所述获取测试维度的测试信息的步骤之前，还包括以下步骤：
根据各所述测试维度分别一一对应获取各个测试基准，其中，所述测试基准为所述测试维度对应的测试信息集合，所述测试信息集合包括对应的测试维度的多个测试信息；
设置各所述测试维度的权重，设置各所述测试信息的分值；
根据所有所述测试基准、各所述测试基准分别与各所述测试维度的对应关系、各所述测试基准分别与各所述测试基准的权重的对应关系、以及各所述测试信息分别与各所述测试信息的分值的对应关系，建立语音交互评测模型；
所述获取测试维度的测试信息的步骤，包括以下步骤：
在所述语音交互评测模型中各所述测试维度的测试基准中，随机获取各所述测试维度的测试信息。
7.根据权利要求6所述的语音交互设备评测方法，其特征在于，所述设置各所述测试信息的分值的步骤，包括以下步骤：
设置各所述测试基准中各所述测试信息的调用频次，根据各所述测试信息的调用频次一一对应设置各所述测试信息的分值；
所述随机获取各所述测试维度的测试信息的步骤，包括以下步骤：
根据各所述测试基准中各个测试信息分别与各所述调用频次的对应关系，随机获取各所述测试维度的测试信息。
8.一种语音交互设备评测系统，其特征在于，所述系统包括：
测试信息获取模块，用于获取测试维度的测试信息，其中，所述测试维度为装载有语音交互的设备的待测功能类型；
测试响应信息接收模块，用于向待测设备播放所述测试信息对应的测试语音，并接收所述待测设备对所述测试语音的测试响应信息，其中，所述待测设备为待测的装载有语音交互的设备；
设备评测值获取模块，用于根据所述测试响应信息，获取所述待测设备的设备评测值。
9.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的语音交互设备评测方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的语音交互设备评测方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810846791.8A CN108899012B (zh) | 2018-07-27 | 2018-07-27 | 语音交互设备评测方法、系统、计算机设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810846791.8A CN108899012B (zh) | 2018-07-27 | 2018-07-27 | 语音交互设备评测方法、系统、计算机设备和存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN108899012A true CN108899012A (zh) | 2018-11-27 |
| CN108899012B CN108899012B (zh) | 2021-04-20 |
Family
ID=64352473
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810846791.8A Active CN108899012B (zh) | 2018-07-27 | 2018-07-27 | 语音交互设备评测方法、系统、计算机设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108899012B (zh) |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108962221A (zh) * | 2018-07-12 | 2018-12-07 | 苏州思必驰信息科技有限公司 | 在线对话状态跟踪模型的优化方法及系统 |
| CN110211567A (zh) * | 2019-05-13 | 2019-09-06 | 中国信息通信研究院 | 语音识别终端测评系统及方法 |
| CN110209561A (zh) * | 2019-05-09 | 2019-09-06 | 北京百度网讯科技有限公司 | 用于对话平台的评测方法和评测装置 |
| CN110619868A (zh) * | 2019-08-29 | 2019-12-27 | 深圳市优必选科技股份有限公司 | 一种语音助手优化方法、语音助手优化装置及智能设备 |
| CN110689903A (zh) * | 2019-09-24 | 2020-01-14 | 百度在线网络技术（北京）有限公司 | 智能音箱的评测方法、装置、设备和介质 |
| CN110838285A (zh) * | 2019-11-20 | 2020-02-25 | 青岛海尔科技有限公司 | 终端语音测试的系统、方法及装置 |
| CN111724782A (zh) * | 2020-06-18 | 2020-09-29 | 中汽院智能网联科技有限公司 | 一种车载语音交互系统的响应时间测试系统、方法及设备 |
| CN111933108A (zh) * | 2020-09-25 | 2020-11-13 | 蘑菇车联信息科技有限公司 | 一种智能网联终端智能语音交互系统自动化测试方法 |
| CN112306816A (zh) * | 2020-11-20 | 2021-02-02 | 福建天晴数码有限公司 | 一种基于深度学习的评测实体机器人响应的方法及其系统 |
| CN112417109A (zh) * | 2020-10-26 | 2021-02-26 | 出门问问(苏州)信息科技有限公司 | 一种人机对话系统的测试方法及装置 |
| CN112802495A (zh) * | 2019-11-13 | 2021-05-14 | 深圳市优必选科技股份有限公司 | 一种机器人语音测试方法、装置、存储介质及终端设备 |
| WO2021232710A1 (zh) * | 2020-05-20 | 2021-11-25 | 思必驰科技股份有限公司 | 用于全双工语音交互系统的测试方法及装置 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1316083A (zh) * | 1999-05-13 | 2001-10-03 | 奥迪纳特公司 | 使用语音识别模型的自动的语言评估 |
| CN101460995A (zh) * | 2006-02-07 | 2009-06-17 | 日本电气株式会社 | 监测设备、评估数据选择设备、代理评估设备、代理评估系统以及程序 |
| CN104464755A (zh) * | 2014-12-02 | 2015-03-25 | 科大讯飞股份有限公司 | 语音评测方法和装置 |
| CN106205604A (zh) * | 2016-07-05 | 2016-12-07 | 惠州市德赛西威汽车电子股份有限公司 | 一种应用端语音识别评测系统及评测方法 |
| CN106782544A (zh) * | 2017-03-29 | 2017-05-31 | 联想(北京)有限公司 | 语音交互设备及其输出方法 |
| US9704480B2 (en) * | 2009-08-12 | 2017-07-11 | Sony Corporation | Information processing apparatus, method for processing information, and program |
| CN107516510A (zh) * | 2017-07-05 | 2017-12-26 | 百度在线网络技术（北京）有限公司 | 一种智能设备自动化语音测试方法及装置 |
| CN108228468A (zh) * | 2018-02-12 | 2018-06-29 | 腾讯科技（深圳）有限公司 | 一种测试方法、装置、测试设备及存储介质 |
-
2018
- 2018-07-27 CN CN201810846791.8A patent/CN108899012B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1316083A (zh) * | 1999-05-13 | 2001-10-03 | 奥迪纳特公司 | 使用语音识别模型的自动的语言评估 |
| CN101460995A (zh) * | 2006-02-07 | 2009-06-17 | 日本电气株式会社 | 监测设备、评估数据选择设备、代理评估设备、代理评估系统以及程序 |
| US9704480B2 (en) * | 2009-08-12 | 2017-07-11 | Sony Corporation | Information processing apparatus, method for processing information, and program |
| CN104464755A (zh) * | 2014-12-02 | 2015-03-25 | 科大讯飞股份有限公司 | 语音评测方法和装置 |
| CN106205604A (zh) * | 2016-07-05 | 2016-12-07 | 惠州市德赛西威汽车电子股份有限公司 | 一种应用端语音识别评测系统及评测方法 |
| CN106782544A (zh) * | 2017-03-29 | 2017-05-31 | 联想(北京)有限公司 | 语音交互设备及其输出方法 |
| CN107516510A (zh) * | 2017-07-05 | 2017-12-26 | 百度在线网络技术（北京）有限公司 | 一种智能设备自动化语音测试方法及装置 |
| CN108228468A (zh) * | 2018-02-12 | 2018-06-29 | 腾讯科技（深圳）有限公司 | 一种测试方法、装置、测试设备及存储介质 |
Cited By (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108962221A (zh) * | 2018-07-12 | 2018-12-07 | 苏州思必驰信息科技有限公司 | 在线对话状态跟踪模型的优化方法及系统 |
| CN110209561A (zh) * | 2019-05-09 | 2019-09-06 | 北京百度网讯科技有限公司 | 用于对话平台的评测方法和评测装置 |
| CN110209561B (zh) * | 2019-05-09 | 2024-02-09 | 北京百度网讯科技有限公司 | 用于对话平台的评测方法和评测装置 |
| CN110211567A (zh) * | 2019-05-13 | 2019-09-06 | 中国信息通信研究院 | 语音识别终端测评系统及方法 |
| CN110619868A (zh) * | 2019-08-29 | 2019-12-27 | 深圳市优必选科技股份有限公司 | 一种语音助手优化方法、语音助手优化装置及智能设备 |
| CN110619868B (zh) * | 2019-08-29 | 2021-12-17 | 深圳市优必选科技股份有限公司 | 一种语音助手优化方法、语音助手优化装置及智能设备 |
| CN110689903A (zh) * | 2019-09-24 | 2020-01-14 | 百度在线网络技术（北京）有限公司 | 智能音箱的评测方法、装置、设备和介质 |
| CN110689903B (zh) * | 2019-09-24 | 2022-05-13 | 百度在线网络技术（北京）有限公司 | 智能音箱的评测方法、装置、设备和介质 |
| CN112802495A (zh) * | 2019-11-13 | 2021-05-14 | 深圳市优必选科技股份有限公司 | 一种机器人语音测试方法、装置、存储介质及终端设备 |
| CN110838285A (zh) * | 2019-11-20 | 2020-02-25 | 青岛海尔科技有限公司 | 终端语音测试的系统、方法及装置 |
| WO2021232710A1 (zh) * | 2020-05-20 | 2021-11-25 | 思必驰科技股份有限公司 | 用于全双工语音交互系统的测试方法及装置 |
| CN111724782B (zh) * | 2020-06-18 | 2022-09-13 | 中汽院智能网联科技有限公司 | 一种车载语音交互系统的响应时间测试系统、方法及设备 |
| CN111724782A (zh) * | 2020-06-18 | 2020-09-29 | 中汽院智能网联科技有限公司 | 一种车载语音交互系统的响应时间测试系统、方法及设备 |
| CN111933108B (zh) * | 2020-09-25 | 2021-01-12 | 蘑菇车联信息科技有限公司 | 一种智能网联终端智能语音交互系统自动化测试方法 |
| CN111933108A (zh) * | 2020-09-25 | 2020-11-13 | 蘑菇车联信息科技有限公司 | 一种智能网联终端智能语音交互系统自动化测试方法 |
| CN112417109A (zh) * | 2020-10-26 | 2021-02-26 | 出门问问(苏州)信息科技有限公司 | 一种人机对话系统的测试方法及装置 |
| CN112417109B (zh) * | 2020-10-26 | 2023-08-01 | 问问智能信息科技有限公司 | 一种人机对话系统的测试方法及装置 |
| CN112306816A (zh) * | 2020-11-20 | 2021-02-02 | 福建天晴数码有限公司 | 一种基于深度学习的评测实体机器人响应的方法及其系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN108899012B (zh) | 2021-04-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108899012A (zh) | 语音交互设备评测方法、系统、计算机设备和存储介质 | |
| US11868732B2 (en) | System for minimizing repetition in intelligent virtual assistant conversations | |
| CN111897941B (zh) | 对话生成方法、网络训练方法、装置、存储介质及设备 | |
| KR101886373B1 (ko) | 딥러닝 인공신경망 기반의 타스크 제공 플랫폼 | |
| US20190272817A1 (en) | Synthesized voice selection for computational agents | |
| US9223776B2 (en) | Multimodal natural language query system for processing and analyzing voice and proximity-based queries | |
| KR20190054174A (ko) | 컴퓨팅 에이전트를 위한 합성된 음성 선택 | |
| US8443013B1 (en) | Predictive analytical modeling for databases | |
| CN111737411A (zh) | 人机对话中的响应方法、对话系统及存储介质 | |
| CN109086303A (zh) | 基于机器阅读理解的智能对话方法、装置、终端 | |
| US20080162471A1 (en) | Multimodal natural language query system for processing and analyzing voice and proximity-based queries | |
| Huang et al. | Guardian: A crowd-powered spoken dialog system for web apis | |
| CN109167816A (zh) | 信息推送方法、装置、设备和存储介质 | |
| CN106205608A (zh) | 利用知识图的用于语音识别的语言建模 | |
| WO2019000472A1 (zh) | 导航方法、装置、存储介质以及服务器 | |
| US11086741B2 (en) | Immersive web-based simulator for digital assistant-based applications | |
| CN112652302B (zh) | 语音控制方法、装置、终端及存储介质 | |
| Wilks et al. | A prototype for a conversational companion for reminiscing about images | |
| US11556454B2 (en) | Immersive web-based simulator for digital assistant-based applications | |
| CN111353299A (zh) | 基于人工智能的对话场景确定方法和相关装置 | |
| CN110472136A (zh) | 查询结果的推送方法、装置、存储介质和计算机设备 | |
| CN109597739A (zh) | 人机对话中的语音日志服务方法及系统 | |
| CN112115244A (zh) | 对话交互方法、装置、存储介质及电子设备 | |
| CN111126422A (zh) | 行业模型的建立及行业的确定方法、装置、设备及介质 | |
| CN110457448A (zh) | 问题推送方法、装置、计算机可读存储介质和计算机设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB02 | Change of applicant information | ||
| CB02 | Change of applicant information |
Address after: 511300 No.78, west of Zhucun Avenue, Zhucun street, Zengcheng District, Guangzhou City, Guangdong Province Applicant after: CHINA ELECTRONIC PRODUCT RELIABILITY AND ENVIRONMENTAL TESTING RESEARCH INSTITUTE ((THE FIFTH ELECTRONIC RESEARCH INSTITUTE OF MIIT)(CEPREI LABORATORY)) Address before: 510610 No. 110 Zhuang Road, Tianhe District, Guangdong, Guangzhou, Dongguan Applicant before: CHINA ELECTRONIC PRODUCT RELIABILITY AND ENVIRONMENTAL TESTING RESEARCH INSTITUTE ((THE FIFTH ELECTRONIC RESEARCH INSTITUTE OF MIIT)(CEPREI LABORATORY)) |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |