CN113595811B - 设备性能测试方法、装置、存储介质及电子装置 - Google Patents
设备性能测试方法、装置、存储介质及电子装置 Download PDFInfo
- Publication number
- CN113595811B CN113595811B CN202110713744.8A CN202110713744A CN113595811B CN 113595811 B CN113595811 B CN 113595811B CN 202110713744 A CN202110713744 A CN 202110713744A CN 113595811 B CN113595811 B CN 113595811B
- Authority
- CN
- China
- Prior art keywords
- language
- target
- language test
- test
- response
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/50—Testing arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Abstract
本发明实施例提供了一种设备性能测试方法、装置、存储介质及电子装置,其中,该方法包括:接收语言测试列表,其中,语言测试列表中包括多个语言测试文本以及语言测试文本对应的语言参数信息;依次基于与语言测试文本对应的语言参数信息生成并播放与语言测试文本对应的目标语料,其中,目标语料用于控制目标设备执行目标操作;依次接收目标设备在接收到目标语料后所反馈的操作数据,以得到多个响应数据;基于多个响应数据,确定目标设备的性能。通过本发明,解决了相关技术中存在的测试设备性能效率低、准确率差的问题,提高了测试设备性能效率和准确率。
Description
技术领域
本发明实施例涉及通信领域,具体而言,涉及一种设备性能测试方法、装置、存储介质及电子装置。
背景技术
随着人工智能应用领域的拓展,越来越多的智能设备增加了语音识别功能,除了智能音箱、手机App语音助手,也出现了带有语音识别功能的智能家电,如冰箱、电视、空调、热水器等。但由于地区和口音的差异,难以达到较高的语音识别率,故方言识别问题越来越受到重视。如何解决方言识别,开发多种能够识别方言的人工智能设备,已成为智能语音下一阶段的竞争焦点。为了方便那些不会说普通话,或者普通话说的不太好的人使用语音控制智能家电,已有少数企业开始推出带有方言交互功能的智能家电。智能家电方言交互功能的问世,给测试人员带来了极大的挑战。
在相关技术中,对语音功能的测试,通常会采取人工播放音频的方式下发语音控制指令,再由人工判断交互内容、检测设备运行状态的对错并统计各项性能数据。由于测试人员的单一性,无法实现多种方言的语料输入。即便测试人员使用了某种特定方言进行测试,但真人语料的语速、音量等参数难以保持一致,出现问题难以精准复现。且人工测试效率低、进度慢,统计性能数据,无法保障精确度,误差较大。
由此可知,相关技术中存在测试设备性能效率低、准确率差的问题。
针对相关技术中存在的上述问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种设备性能测试方法、装置、存储介质及电子装置,以至少解决相关技术中存在的测试设备性能效率低、准确率差的问题。
根据本发明的一个实施例,提供了一种设备性能测试方法,包括:接收语言测试列表,其中,所述语言测试列表中包括多个语言测试文本以及所述语言测试文本对应的语言参数信息;依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料,其中,所述目标语料用于控制目标设备执行目标操作;依次接收所述目标设备在接收到所述目标语料后所反馈的操作数据,以得到多个响应数据;基于多个所述响应数据,确定所述目标设备的性能。
根据本发明的另一个实施例,提供了一种设备性能测试装置,包括:第一接收模块,用于接收语言测试列表,其中,所述语言测试列表中包括多个语言测试文本以及所述语言测试文本对应的语言参数信息;生成模块,用于依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料,其中,所述目标语料用于控制目标设备执行目标操作;第二接收模块,用于依次接收所述目标设备在接收到所述目标语料后所反馈的操作数据,以得到多个响应数据;确定模块,用于基于多个所述响应数据,确定所述目标设备的性能。
根据本发明的又一个实施例,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,其中,所述计算机程序被处理器执行时实现上述任一项中所述的方法的步骤。
根据本发明的又一个实施例,还提供了一种电子装置,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。
通过本发明,接收包括多个语言测试文本以及语言测试文本对应的语言参数的语言测试列表,依次根据与语言测试文本对应的语言参数信息生成并播放与语言测试文本对应的目标语料,依次接收目标设备在接收到目标语料后所反馈的操作数据,以得到多个响应数据,根据多个响应数据确定目标设备的性能。由于可以根据与语言测试文本对应的语言参数信息生成目标语料,不同的语言参数信息可以生成不同的目标语料,并且,语言测试列表中包括多个语言测试文本,因此,可以利用多个不同的目标语料对目标设备进行测试,测试效率高,此外,利用多个不同的目标语料进行测试,可以提高确定目标设备性能的准确率。因此,可以解决相关技术中存在的测试设备性能效率低、准确率差的问题,提高了测试设备性能效率和准确率。
附图说明
图1是本发明实施例的一种设备性能测试方法的移动终端的硬件结构框图;
图2是根据本发明实施例的设备性能测试方法的流程图;
图3是根据本发明示例性实施例的设备性能测试系统示意图;
图4是根据本发明具体实施例的设备性能测试方法流程图;
图5是根据本发明实施例的设备性能测试装置的结构框图。
具体实施方式
下文中将参考附图并结合实施例来详细说明本发明的实施例。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
本申请实施例中所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在移动终端上为例,图1是本发明实施例的一种设备性能测试方法的移动终端的硬件结构框图。如图1所示,移动终端可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器104,其中,上述移动终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对上述移动终端的结构造成限定。例如,移动终端还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。
存储器104可用于存储计算机程序,例如,应用软件的软件程序以及模块,如本发明实施例中的设备性能测试方法对应的计算机程序,处理器102通过运行存储在存储器104内的计算机程序,从而执行各种功能应用以及数据处理,即实现上述的方法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接至移动终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输设备106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端的通信供应商提供的无线网络。在一个实例中,传输设备106包括一个网络适配器(Network Interface Controller,简称为NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输设备106可以为射频(Radio Frequency,简称为RF)模块,其用于通过无线方式与互联网进行通讯。
在本实施例中提供了一种设备性能测试方法,图2是根据本发明实施例的设备性能测试方法的流程图,如图2所示,该流程包括如下步骤:
步骤S202,接收语言测试列表,其中,所述语言测试列表中包括多个语言测试文本以及所述语言测试文本对应的语言参数信息;
步骤S204,依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料,其中,所述目标语料用于控制目标设备执行目标操作;
步骤S206,依次接收所述目标设备在接收到所述目标语料后所反馈的操作数据,以得到多个响应数据;
步骤S208,基于多个所述响应数据,确定所述目标设备的性能。
在上述实施例中,语言测试列表中可以包括多个语言测试文本以及每个语言测试文本对应的语言参数信息。其中,语言测试文本中可以包括方言语料文本和预期响应文本,语言参数信息中可以包括方言种类、年龄、性别、音量、语速等参数。
在上述实施例中,语言测试列表可以是测试人员输入的列表,测试人员可以将预先确定的语言测试列表输入至客户端中,客户端将语言测试列表传输至后台服务器,后台服务器可以根据语言测试列表中的语言测试文本以及每个语言测试文本对应的语言参数信息生成目标语料,并将目标语料传输给客户端,由客户端播放目标语音。语言测试文本中可以包括控制目标设备执行目标操作的指令,因此,根据语言测试文本生成的目标语料中也包括控制目标设备执行目标操作的指令。目标设备在接收到目标语料后,可以根据目标语料执行目标操作,生成操作数据,并将操作数据发送给后台服务器,后台服务器根据接收到的多个响应数据,确定目标设备的性能。其中,目标语料可以包括多种典型的方言语音,例如,东北语、北方语、浙江语、粤语、湘语、赣语、客家话、闽南话、闽北话、川话等。目标设备可以为智能终端,如智能音箱、智能空调、智能冰箱、智能窗帘等。
在上述实施例中,客户端和目标设备均与后台服务器连接。客户端在接收到语言测试文本时,可以直接调用服务器中的语言库生成目标语料,因此,上述步骤的执行主体还可以是与服务器连接的客户端。
可选地,上述步骤的执行主体可以是后台处理器,或者其他的具备类似处理能力的设备,还可以是至少集成有声音播放和采集设备以及数据处理设备的机器,其中,声音播放和采集设备可以包括声音播放和采集模块,数据处理设备可以包括计算机、手机等终端,但不限于此。
通过本发明,接收包括多个语言测试文本以及语言测试文本对应的语言参数的语言测试列表,依次根据与语言测试文本对应的语言参数信息生成并播放与语言测试文本对应的目标语料,依次接收目标设备在接收到目标语料后所反馈的操作数据,以得到多个响应数据,根据多个响应数据确定目标设备的性能。由于可以根据与语言测试文本对应的语言参数信息生成目标语料,不同的语言参数信息可以生成不同的目标语料,并且,语言测试列表中包括多个语言测试文本,因此,可以利用多个不同的目标语料对目标设备进行测试,测试效率高,此外,利用多个不同的目标语料进行测试,可以提高确定目标设备性能的准确率。因此,可以解决相关技术中存在的测试设备性能效率低、准确率差的问题,提高了测试设备性能效率和准确率。
在一个示例性实施例中,依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料包括:确定所述语言参数信息中包括的语料类型以及语料特征参数;基于所述语料类型、所述语料特征参数以及语言库中存储的各类语言音频生成所述目标语料。在本实施例中,可以首先确定语言参数信息中包括的语料类型和语料特征参数,其中,语料类型可以为方言类型,例如,东北语、北方语、浙江语、粤语、湘语、赣语、客家话、闽南话、闽北话、川话等,语料特征参数可以包括发出语料的人的年龄、性别、音量、语速。
在上述实施例中,后台服务器中包括语言库,语言库中存储了多种典型方言的常用句子、词语、特征,并通过文字、音标乃至语音的方式记录写下来,形成方言词典。在接收到语言测试列表后,可以根据语言测试列表中的语言特征参数、语料类型以及语言测试文本调用语言库中的语言,以合成多种测试方言语料,即目标语料。
在上述实施例中,可以根据语料类型、语料特征参数以及语言库中存储的各类语言音频生成多种目标语料,保证了测试语料的多样性。还可以对语言测试文本进行不同年龄、性别、音量、语速的设置,增加同种方言的变换性。保证设备测试的多样性,提高测试的准确性、全面性。
在一个示例性实施例中,基于多个所述响应数据,确定所述目标设备的性能包括:对每个所述响应数据均执行以下操作:将所述响应数据中包括的音频数据转化为响应文本,将所述响应文本与所述语言测试文本中包括的预期响应文本进行比较,以得到第一比较结果,获取所述目标设备基于所述目标语料执行控制操作后状态数据,将所述状态数据与所述响应文本包括的反馈数据进行比较,以得到第二比较结果;统计所述第一比较结果和所述第二比较结果,以确定所述目标设备的准确率;基于所述准确率确定所述目标设备的性能。在本实施例中,在进行一次测试时,可以将接收到响应数据中包括的语音数据转化为响应文本,将响应文本与语言测试文本中包括的预期响应文本进行比较,以得到第一比较结果。还可以获取目标设备基于目标语料执行控制操作后的状态数据,将状态数据与响应文本中包括的反馈数据进行比较,以得到第二比较结果,通过统计第一比较结果和第二比较结果确定目标设备的准确率,根据准确率确定目标设备的性能。
在上述实施例中,可以识别响应音频(对应于上述响应数据)中的关键内容,将其转换为文本,并对比预期响应文本和音频关键词(对应于上述响应文本)以及设备上报的状态信息(对应于上述状态数据),确定预期响应文本和响应文本是否一致,确定状态数据与反馈数据是否一致,以确定目标设备响应目标语料的准确率,从而确定目标设备的性能。识别响应音频关键内容与设备上报状态信息、预期响应文本自动匹配,并将匹配结果进行统计,可准确、全面地确定目标设备的性能。
在一个示例性实施例中,基于多个所述响应数据,确定所述目标设备的性能包括:对每个所述响应数据均执行以下操作:确定所述响应数据中包括的音频数据的波形图,基于所述波形图分析所述音频数据的声音特征,以确定所述目标设备的响应参数;基于所述响应参数确定所述目标设备的性能。在本实施例中,可以将响应音频(对应于上述响应数据)实时转换为波形图,逐帧解析提取声音特征,例如,特征状态、音速等。根据声音特征确定目标设备的响应参数,根据响应参数确定目标设备的性能。即可以根据声音特征确定目标设备播放声音的响应参数,确定目标设备的声音播放模块是否存在异常,从而确定目标设备的性能。通过将响应音频实时转换成波形图,逐帧提取特征状态,可精准统计性能参数。
在一个示例性实施例中,基于多个所述响应数据,确定所述目标设备的性能包括:确定接收每个所述响应数据的接收时间;基于所述接收时间确定所述目标设备的响应时间;基于所述响应时间确定所述目标设备的性能。在本实施例中,还可以确定接到每个响应数据的接收时间以及播放目标语料的时间,根据接收时间以及播放目标语料的时间确定目标设备的响应时间,根据目标设备的响应时间确定目标设备的性能。
在前述实施例中,在确定出目标设备的性能后,可以存储生成音频(目标语料)和响应音频(响应数据)的各项参数,在出现问题后可获取存储生成音频和响应音频,实现精准复现、还原。
在一个示例性实施例中,依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料包括以下之一:按照所述语言测试列表中排列的顺序依次基于所述语言参数生成并播放与所述语言测试文本对应的目标语料;按照预先设定的顺序依次基于所述语言参数生成并播放与所述语言测试文本对应的目标语料;接收顺序调整指令,基于所述顺序调整指令调整所述语言测试列表中排列的顺序,以得到调整顺序,按照所述调整顺序依次基于所述语言参数生成并播放与所述语言测试文本对应的目标语料。在本实施例中,在输入语言测试列表后,还可以确定语言测试列表中的每个语音测试文本的播放顺序。可以按照语言测试列表的顺序依次生成目标语料,还可以按照预先确定的顺序依次生成目标语料,或者,根据顺序调整指令,依次生成目标语料。即在测试的过程中,可以随时调整和指定测试的语言测试文本,到达灵活测试的目的。
在一个示例性实施例中,在接收语言测试列表之前,所述方法还包括:确定系统资源参数;在所述系统资源参数指示允许执行测试操作的情况下,与所述目标设备建立连接;接收语言测试列表包括:在确定与所述目标设备建立连接之后,接收所述语言测试列表。在本实施例中,在接收语言测试列表之前,可以通过客户端向服务端发送连接请求和测试任务信息,服务端收到请求后,检查系统资源,校验连接请求,若通过,则与客户端建立连接,启动测试流程,同步系统状态至客户端和设备端;若失败,则向客户端返回错误信息,客户端收到后重新发送请求信息。在上述实施例中,可以适配多种类型智能终端的方言交互功能测试,可由系统统一进行自动化测试。
在前述实施例中,设备性能测试系统示意图可参见附图3,如图3所示,该系统包括:客户端、服务端以及智能终端。
其中,智能终端为具有不同方言交互功能的智能设备,可与客户端进行方言交互。例如,音箱、电视、冰箱、空调、热水器等设备。
客户端包括文件输入输出模块、方言参数设备模块、测试调度设置模块以及方言播放模块。其中,文件输入输出模块用于语料文本(对应于上述语言测试文本)的输入和测试结果(对应于上述预期响应文本)的输出;方言参数设置模块用于进行方言种类、年龄、性别、音量、语速的设置;测试调度设置模块用于和服务端通信,可对测试项目、功能模块等进行顺序的调整和指定;方言播放模块用于接收服务器合成的音频文件并播放方言测试语料。
服务端包括方言语音、语言库,方言合成识别模块,对比分析模块,流程控制模块,终端监听模块以及数据存储模块。其中,方言语音、语言库集成了多种典型方言的常用句子、词语、特征,并通过文字、音标乃至语音的方式记录写下来,形成方言词典,供方言识别合成模块学习训练。方言合成识别模块根据方言参数调用方言语音、语言库可合成多种测试方言语料,并且能识别响应音频中的关键内容,将其转换为文本。对比分析模块实时分析、计算响应时间等性能参数,并对比预期响应文本、音频关键内容和设备上报的状态信息是否一致。流程控制模块通过接收客户端的调度信息控制整个系统测试任务的顺序、流程。终端监听模块用于实时监测各智能终端运行状态。数据存储模块用于存储测试音频、响应音频、音频参数、测试结果等。
下面结合具体实施方式对设备性能测试方法进行说明:
图4是根据本发明具体实施例的设备性能测试方法流程图,如图4所示,该流程包括:
1.测试准备,启动客户端,输入方言语料文本和预期响应文本,启动服务端,进入监听状态,配置待测智能终端如音箱、电视、冰箱等进入待机状态,等待方言指令;
2.客户端根据测试要求、业务逻辑等配置方言参数、设置任务调度,生成完整测试任务信息;
3.客户端向服务端发送连接请求和测试任务信息,服务端收到请求后,检查系统资源,校验连接请求,若通过,则与客户端建立连接,启动测试流程,同步系统状态至客户端和设备端;若失败,则向客户端返回错误信息,客户端收到后重新发送请求信息;
4.服务端调用方言合成服务,根据方言语料文本和方言种类、年龄、性别、音量、语速等参数的设置合成方言音频;
5.客户端接收到合成的方言音频文件后,开始逐条播放方言指令;
6.待测智能终端收到控制指令后,执行指令并做出语音应答;
7.服务端全程录制5-6过程并调用方言识别服务将响应音频实时转换为波形图,逐帧解析提取特征状态、音速等,然后提取关键内容将其转换为文本;而后调用对比分析模块实时分析、计算响应时间等性能参数,并对比预期结果、响应内容和设备上报的状态信息是否一致;
8.客户端收到第1条方言测试结果后,开始播放下一条测试用例,循环步骤5-8,直至所有音频播放完毕。
客户端统计全部测试结果,输出方言测试报告。
在前述实施例中,通过调用丰富的方言语音库,可将语料文本转换为多种典型的方言语音输出,解决了各类智能终端方言多样性测试的问题。将响应音频实时转换成波形图,逐帧提取特征状态,精准计算性能参数,自动对比预期响应文本、音频关键内容和设备上报的状态信息,输出测试报告,省去了人工查看设备状态、逐条核对测试结果的过程。存储生成音频和响应音频的各项参数,可精准复现、还原测试出现的问题。另外,适配多种类型智能终端,实现了多方言多智能终端的自动化测试,提高了整体测试质量和测试效率。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
在本实施例中还提供了一种设备性能测试装置,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的,术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
图5是根据本发明实施例的设备性能测试装置的结构框图,如图5所示,该装置包括:
第一接收模块52,用于接收语言测试列表,其中,所述语言测试列表中包括多个语言测试文本以及所述语言测试文本对应的语言参数信息;
生成模块54,用于依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料,其中,所述目标语料用于控制目标设备执行目标操作;
第二接收模块56,用于依次接收所述目标设备在接收到所述目标语料后所反馈的操作数据,以得到多个响应数据;
确定模块58,用于基于多个所述响应数据,确定所述目标设备的性能。
其中,第一接收模块对应于上述文件输入输出模块,生成模块对应于上述方言合成识别模块以及方言播放模块,第二接收模块对应于上述终端监听模块,确定模块对应于上述数据存储模块。
在一个示例性实施例中,生成模块54可以通过如下方式实现依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料:确定所述语言参数信息中包括的语料类型以及语料特征参数;基于所述语料类型、所述语料特征参数以及语言库中存储的各类语言音频生成所述目标语料。
在一个示例性实施例中,确定模块58可以通过如下方式实现基于多个所述响应数据,确定所述目标设备的性能包括:对每个所述响应数据均执行以下操作:将所述响应数据中包括的音频数据转化为响应文本,将所述响应文本与所述语言测试文本中包括的预期响应文本进行比较,以得到第一比较结果,获取所述目标设备基于所述目标语料执行控制操作后的状态数据,将所述状态数据与所述响应文本包括的反馈数据进行比较,以得到第二比较结果;统计所述第一比较结果和所述第二比较结果,以确定所述目标设备的准确率;基于所述准确率确定所述目标设备的性能。
在一个示例性实施例中,确定模块58可以通过如下方式实现基于多个所述响应数据,确定所述目标设备的性能:对每个所述响应数据均执行以下操作:确定所述响应数据中包括的音频数据的波形图,基于所述波形图分析所述音频数据的声音特征,以确定所述目标设备的响应参数;基于所述响应参数确定所述目标设备的性能。
在一个示例性实施例中,确定模块58可以通过如下方式实现基于多个所述响应数据,确定所述目标设备的性能:确定接收每个所述响应数据的接收时间;基于所述接收时间确定所述目标设备的响应时间;基于所述响应时间确定所述目标设备的性能。
在一个示例性实施例中,生成模块54可以通过如下方式之一实现依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料:按照所述语言测试列表中排列的顺序依次基于所述语言参数生成并播放与所述语言测试文本对应的目标语料;按照预先设定的顺序依次基于所述语言参数生成并播放与所述语言测试文本对应的目标语料;接收顺序调整指令,基于所述顺序调整指令调整所述语言测试列表中排列的顺序,以得到调整顺序,按照所述调整顺序依次基于所述语言参数生成并播放与所述语言测试文本对应的目标语料。
在一个示例性实施例中,所述装置可以用于在接收语言测试列表之前,确定系统资源参数;在所述系统资源参数指示允许执行测试操作的情况下,与所述目标设备建立连接;接收模块52可以通过如下方式实现接收语言测试列表:在确定与所述目标设备建立连接之后,接收所述语言测试列表。
需要说明的是,上述各个模块是可以通过软件或硬件来实现的,对于后者,可以通过以下方式实现,但不限于此:上述模块均位于同一处理器中;或者,上述各个模块以任意组合的形式分别位于不同的处理器中。
本发明的实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,其中,所述计算机程序被处理器执行时实现上述任一项中所述的方法的步骤。
在一个示例性实施例中,上述计算机可读存储介质可以包括但不限于:U盘、只读存储器(Read-Only Memory,简称为ROM)、随机存取存储器(Random Access Memory,简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。
本发明的实施例还提供了一种电子装置,包括存储器和处理器,该存储器中存储有计算机程序,该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。
在一个示例性实施例中,上述电子装置还可以包括传输设备以及输入输出设备,其中,该传输设备和上述处理器连接,该输入输出设备和上述处理器连接。
本实施例中的具体示例可以参考上述实施例及示例性实施方式中所描述的示例,本实施例在此不再赘述。
显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (9)
1.一种设备性能测试方法,其特征在于,包括:
接收语言测试列表,其中,所述语言测试列表中包括多个语言测试文本以及所述语言测试文本对应的语言参数信息;
依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料,其中,所述目标语料用于控制目标设备执行目标操作;
依次接收所述目标设备在接收到所述目标语料后所反馈的操作数据,以得到多个响应数据;
基于多个所述响应数据,确定所述目标设备的性能;
其中,依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料包括:通过后台服务器中的方言合成识别模块确定所述语言参数信息中包括的语料类型以及语料特征参数;通过所述方言合成识别模块基于所述语料类型、所述语料特征参数以及语言库中存储的各类语言音频生成所述目标语料,其中,所述方言识别合成模块是通过方言词典学习训练得到的。
2.根据权利要求1所述的方法,其特征在于,基于多个所述响应数据,确定所述目标设备的性能包括:
对每个所述响应数据均执行以下操作:将所述响应数据中包括的音频数据转化为响应文本,将所述响应文本与所述语言测试文本中包括的预期响应文本进行比较,以得到第一比较结果,获取所述目标设备基于所述目标语料执行控制操作后的状态数据,将所述状态数据与所述响应文本包括的反馈数据进行比较,以得到第二比较结果;
统计所述第一比较结果和所述第二比较结果,以确定所述目标设备的准确率;
基于所述准确率确定所述目标设备的性能。
3.根据权利要求1所述的方法,其特征在于,基于多个所述响应数据,确定所述目标设备的性能包括:
对每个所述响应数据均执行以下操作:确定所述响应数据中包括的音频数据的波形图,基于所述波形图分析所述音频数据的声音特征,以确定所述目标设备的响应参数;
基于所述响应参数确定所述目标设备的性能。
4.根据权利要求1所述的方法,其特征在于,基于多个所述响应数据,确定所述目标设备的性能包括:
确定接收每个所述响应数据的接收时间;
基于所述接收时间确定所述目标设备的响应时间;
基于所述响应时间确定所述目标设备的性能。
5.根据权利要求1所述的方法,其特征在于,依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料包括以下之一:
按照所述语言测试列表中排列的顺序依次基于所述语言参数生成并播放与所述语言测试文本对应的目标语料;
按照预先设定的顺序依次基于所述语言参数生成并播放与所述语言测试文本对应的目标语料;
接收顺序调整指令,基于所述顺序调整指令调整所述语言测试列表中排列的顺序,以得到调整顺序,按照所述调整顺序依次基于所述语言参数生成并播放与所述语言测试文本对应的目标语料。
6.根据权利要求1所述的方法,其特征在于,
在接收语言测试列表之前,所述方法还包括:确定系统资源参数;在所述系统资源参数指示允许执行测试操作的情况下,与所述目标设备建立连接;
接收语言测试列表包括:在确定与所述目标设备建立连接之后,接收所述语言测试列表。
7.一种设备性能测试装置,其特征在于,包括:
第一接收模块,用于接收语言测试列表,其中,所述语言测试列表中包括多个语言测试文本以及所述语言测试文本对应的语言参数信息;
生成模块,用于依次基于与所述语言测试文本对应的所述语言参数信息生成并播放与所述语言测试文本对应的目标语料,其中,所述目标语料用于控制目标设备执行目标操作;
第二接收模块,用于依次接收所述目标设备在接收到所述目标语料后所反馈的操作数据,以得到多个响应数据;
确定模块,用于基于多个所述响应数据,确定所述目标设备的性能;
其中,所述生成模块通过以下方式生成并播放与所述语言测试文本对应的目标语料:通过后台服务器中的方言合成识别模块确定所述语言参数信息中包括的语料类型以及语料特征参数;通过所述方言合成识别模块基于所述语料类型、所述语料特征参数以及语言库中存储的各类语言音频生成所述目标语料,其中,所述方言识别合成模块是通过方言词典学习训练得到的。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,其中,所述计算机程序被处理器执行时实现所述权利要求1至7任一项中所述的方法的步骤。
9.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行所述权利要求1至7任一项中所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110713744.8A CN113595811B (zh) | 2021-06-25 | 2021-06-25 | 设备性能测试方法、装置、存储介质及电子装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110713744.8A CN113595811B (zh) | 2021-06-25 | 2021-06-25 | 设备性能测试方法、装置、存储介质及电子装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113595811A CN113595811A (zh) | 2021-11-02 |
CN113595811B true CN113595811B (zh) | 2023-03-28 |
Family
ID=78244686
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110713744.8A Active CN113595811B (zh) | 2021-06-25 | 2021-06-25 | 设备性能测试方法、装置、存储介质及电子装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113595811B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115361072B (zh) * | 2022-10-21 | 2023-05-02 | 杭州紫光通信技术股份有限公司 | 隔离器的测试方法、设备、装置、存储介质和电子装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10536363B2 (en) * | 2016-05-18 | 2020-01-14 | Dynatrace Llc | Synthetic testing of web applications using instrumented monitoring agents |
CN111798833B (zh) * | 2019-04-04 | 2023-12-01 | 北京京东尚科信息技术有限公司 | 一种语音测试方法、装置、设备和存储介质 |
CN111312213A (zh) * | 2020-03-31 | 2020-06-19 | 广东美的制冷设备有限公司 | 空调器的语音处理方法、装置、空调器和可读存储介质 |
-
2021
- 2021-06-25 CN CN202110713744.8A patent/CN113595811B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN113595811A (zh) | 2021-11-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10861480B2 (en) | Method and device for generating far-field speech data, computer device and computer readable storage medium | |
CN105391730B (zh) | 一种信息反馈方法、装置及系统 | |
US8260617B2 (en) | Automating input when testing voice-enabled applications | |
US20070067172A1 (en) | Method and apparatus for performing conversational opinion tests using an automated agent | |
US11748643B2 (en) | System and method for machine learning based QoE prediction of voice/video services in wireless networks | |
CN110704590B (zh) | 扩充训练样本的方法和装置 | |
CN111369976A (zh) | 测试语音识别设备的方法及测试装置 | |
KR101131278B1 (ko) | 대화 로그를 이용한 학습 기반 대화 시스템 성능 향상 방법 및 그 장치 | |
CN108028044A (zh) | 使用多个识别器减少延时的语音识别系统 | |
CN110838285A (zh) | 终端语音测试的系统、方法及装置 | |
CN113595811B (zh) | 设备性能测试方法、装置、存储介质及电子装置 | |
CN109979434A (zh) | 本地语音模组产品声学性能的测试方法 | |
CN112542158A (zh) | 语音分析方法、系统、电子设备及存储介质 | |
CN112420015A (zh) | 一种音频合成方法、装置、设备及计算机可读存储介质 | |
CN108597499B (zh) | 语音处理方法以及语音处理装置 | |
CN107403629B (zh) | 远场拾音性能评价方法和系统、电子设备 | |
CN112735406A (zh) | 设备的控制方法及装置、存储介质及电子装置 | |
El Hajal et al. | Efficient speech quality assessment using self-supervised framewise embeddings | |
CN111128127A (zh) | 一种语音识别处理方法及装置 | |
CN112532794B (zh) | 语音外呼方法、系统、设备及存储介质 | |
KR101435686B1 (ko) | 음성인식 서버의 성능을 평가하기 위한 시뮬레이션 장치 및그 방법 | |
CN114446304A (zh) | 语音交互方法、数据处理方法、装置和电子设备 | |
US7349836B2 (en) | Method and process to generate real time input/output in a voice XML run-time simulation environment | |
Möller | Towards generic quality prediction models for spoken dialogue systems-a case study. | |
Möller et al. | Analytic assessment of telephone transmission impact on ASR performance using a simulation model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |