CN114187903A - 语音交互的方法、装置、系统、电子设备及存储介质 - Google Patents
语音交互的方法、装置、系统、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114187903A CN114187903A CN202111339114.5A CN202111339114A CN114187903A CN 114187903 A CN114187903 A CN 114187903A CN 202111339114 A CN202111339114 A CN 202111339114A CN 114187903 A CN114187903 A CN 114187903A
- Authority
- CN
- China
- Prior art keywords
- recognition result
- information
- result
- voice
- probability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000003993 interaction Effects 0.000 title claims abstract description 76
- 238000000034 method Methods 0.000 title claims abstract description 55
- 230000015654 memory Effects 0.000 claims description 31
- 238000004458 analytical method Methods 0.000 claims description 30
- 230000004044 response Effects 0.000 claims description 26
- 238000012545 processing Methods 0.000 claims description 15
- 238000004364 calculation method Methods 0.000 claims description 13
- 238000003062 neural network model Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 11
- 230000015572 biosynthetic process Effects 0.000 claims description 9
- 238000001514 detection method Methods 0.000 claims description 9
- 230000000694 effects Effects 0.000 claims description 9
- 238000003786 synthesis reaction Methods 0.000 claims description 9
- 239000000126 substance Substances 0.000 claims description 2
- 238000013473 artificial intelligence Methods 0.000 abstract description 6
- 238000005516 engineering process Methods 0.000 abstract description 5
- 238000003058 natural language processing Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 19
- 238000004891 communication Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 230000002452 interceptive effect Effects 0.000 description 6
- 238000012423 maintenance Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000008447 perception Effects 0.000 description 5
- 241000209094 Oryza Species 0.000 description 3
- 235000007164 Oryza sativa Nutrition 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 239000003205 fragrance Substances 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 235000009566 rice Nutrition 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/18—Speech classification or search using natural language modelling
- G10L15/1815—Semantic context, e.g. disambiguation of the recognition hypotheses based on word meaning
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/16—Speech classification or search using artificial neural networks
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/18—Speech classification or search using natural language modelling
- G10L15/1822—Parsing for meaning understanding
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/225—Feedback of the input speech
Landscapes
- Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Telephonic Communication Services (AREA)
Abstract
本公开提供了语音交互的方法、装置、电子设备及可读存储介质,涉及计算机技术领域,具体涉及语音技术、自然语言处理等人工智能技术领域。一种具体实现方案为:响应于接收到用户发送的请求语句,从本地存储模块中获取历史信息,并将所述请求语句与所述历史信息发送给服务器;接收所述服务器返回的答复语句和所述请求语句对应的当前上文信息;播放所述答复语句,并将所述当前上文信息作为历史信息存储在所述存储模块中。
Description
技术领域
本公开涉及计算机技术领域,具体涉及语音技术、自然语言处理等人工智能技术领域,尤其涉及语音交互的方法、装置、系统、电子设备及存储介质。
背景技术
随着人工智能技术的进步,人机语音交互(简称:语音交互)也得到了迅速发展和广泛应用,例如,可广泛应用于智能电视、智能音箱、虚拟现实(virtual reality,VR)眼镜等智能设备,以及各种语音助手应用(APP)中。
现有的人机交互过程,主要包括语音识别、语义解析、对话服务、语音合成四个部分。其中,语义解析和对话服务均需要依赖于上文信息(session信息)。同样的用户请求,如果上文信息不同,语音交互系统会给出不同的回复。例如针对当前轮的用户请求“明天八点”,若上一轮用户请求是“给我定一个闹钟”,上一轮语音交互的装置反问“好的,您想定几点的闹钟”,则针对本轮用户请求“明天八点”,装置会回复“好的,已为您定好明天八点的闹钟”;若上一轮用户请求是“提醒我开会”,上一轮装置反问“好的,您希望我在几点提醒您”,则针对本轮用户请求“明天八点”,装置会回复“好的,我会在明天八点提醒您开会”。
现有技术中,将上文信息存储在专用的云端上文信息存储器中,至少存在以下问题:需要云端维护额外的上文信息存储器资源,有一定的经济成本;语音交互系统中的中控模块与上文信息存储器的连接需要依赖于网络连接,导致最终用户感知的人机交互响应时间增加;另外,若云端中控获取上文信息失败,会导致对用户的回复错误,不符合用户预期;用户的上文信息通常包括大量的用户行为,存储在云端,存在一定的隐私风险。
发明内容
本公开提供了一种语音交互的方法、装置、系统、电子设备及存储介质。
根据本公开的一方面,提供了一种语音交互的方法,应用于客户端,所述方法包括:
响应于接收到用户发送的请求语句,从本地存储模块中获取历史信息,并将所述请求语句与所述历史信息发送给服务器;
接收所述服务器返回的答复语句和所述请求语句对应的当前上文信息;
播放所述答复语句,并将所述当前上文信息作为历史信息存储在所述存储模块中。
根据本公开的另一方面,提供了另一种语音交互的方法,应用于服务器,所述方法包括:
接收客户端发送的请求语句与历史信息;
对所述请求语句进行语音识别,得到语音识别结果;
基于所述语音识别结果和所述历史信息确定答复语句,以及基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息;
将所述答复语句和所述当前上文信息发送给所述客户端,以便所述客户端播放所述答复语句、并将所述当前上文信息作为历史信息存储在所述客户端本地的存储模块中。
根据本公开的又一方面,提供了一种客户端,包括:
存储模块,用于存储历史信息;
第一接收单元,用于响应于接收到用户发送的请求语句,从所述存储模块中获取历史信息;
收发单元,用于将所述请求语句与所述历史信息发送给服务器;以及接收所述服务器返回的答复语句和所述请求语句对应的当前上文信息;
播放单元,用于播放所述答复语句;
存储处理单元,用于将所述当前上文信息作为历史信息存储在所述存储模块中。
根据本公开的又一方面,提供了一种语音交互的装置,应用于服务器,所述装置包括:
第二接收单元,用于接收客户端发送的请求语句与历史信息;
语音识别单元,用于对所述请求语句进行语音识别,得到语音识别结果;
确定单元,用于基于所述语音识别结果和所述历史信息确定答复语句;
生成单元,用于基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息;
发送单元,用于将所述答复语句和所述当前上文信息发送给所述客户端,以便所述客户端播放所述答复语句、并将所述当前上文信息作为历史信息存储在所述客户端本地的存储模块中。
根据本公开的又一方面,提供了一种语音交互的系统,包括如上所述的任一可能的客户端和如上所述的任一可能的语音交互的装置。
根据本公开的又一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方面和任一可能的实现方式的方法。
根据本公开的又一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上所述的方面和任一可能的实现方式的方法。
根据本公开的又一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如上所述的方面和任一可能的实现方式的方法。
根据本公开的又一方面,提供了一种人工智能设备,包括如上所述的电子设备。
由上述技术方案可知,本公开实施例在客户端接收到用户发起的交互请求时,将接收到的请求语句与本次存储的历史信息发送给服务器,由服务器对所述请求语句进行语音识别,得到语音识别结果,然后,基于所述语音识别结果和所述历史信息确定答复语句,以及基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息,进而,将所述答复语句和所述当前上文信息发送给所述客户端,以便客户端播放所述答复语句、并将所述当前上文信息作为历史信息更新存储在客户端本地的存储模块中。
这样,通过客户端本地存储历史信息,云端服务器不再需要维护专用的上文信息存储器,可以降低云端的存储及维护成本;不再需要语音交互系统中的中控模块与上文信息存储器通过建立网络连接发送接收数据、进行上文信息存储器的读/写,可以节省时间,减少用户感知的人机交互响应时间,提高用户体验。
另外,将用户的上行请求语句与历史信息绑定发送给服务器,将答复语句与当前上文信息绑定返回客户端,可以保证语音识别结果和语音交互系统回复的一致性,即只要用户的请求语句识别成功、答复语句播报成功,上文信息的内容便存取成功,提高了语音回复结果的正确性。
另外,通过客户端本地存储用户的历史信息,可以更好的保护用户隐私。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的示意图;
图2是根据本公开第二实施例的示意图;
图3是根据本公开第三实施例的示意图;
图4是根据本公开第四实施例的示意图;
图5是根据本公开实施例的一个语音交互过程的示意图;
图6是根据本公开第五实施例的示意图;
图7是根据本公开第六实施例的示意图;
图8是根据本公开第七实施例的示意图;
图9是用来实现本公开实施例的语音交互的方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本公开保护的范围。
需要说明的是,本公开实施例中所涉及的终端设备可以包括但不限于手机、个人数字助理(Personal Digital Assistant,PDA)、无线手持设备、平板电脑(TabletComputer)、车辆上的计算设备等智能设备;显示设备可以包括但不限于个人电脑、电视、车辆上耦合的显示器等具有显示功能的设备。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
人机交互方式,从最初PC时代的键盘、鼠标交互,到移动时代的触摸屏交互,到人工智能时代的语音交互,交互的效率、便利性,正在逐步提高。语音交互的效果需要进一步提高,以给用户带来更好的人机交互体验。
本公开的发明人通过研究发现,现有技术中,将上文信息存储在专用的云端上文信息存储器中,至少存在以下问题:需要云端维护额外的上文信息存储器资源,有一定的经济成本;语音交互系统中的中控模块与上文信息存储器的连接需要依赖于网络连接,由于二者之间建立连接、发送接收数据、上文信息存储器维护所有用户的上文信息读写,都需要耗费一定的时间,会导致最终用户感知的人机交互响应时间增加;另外,网络连接、上文信息存储器的读/写,无法保证100%的成功率,若云端中控获取上文信息失败,会导致对用户的回复错误,不符合用户预期;用户的上文信息通常包括大量的用户行为,存储在云端,存在一定的隐私风险。
因此,亟需提供一种语音交互处理方法,以降低云端的维护成本,减少人机交互的响应时间,提高语音回复结果的正确性,保护用户隐私。
图1是根据本公开第一实施例的示意图,该实施例可应用于客户端,如图1所示。
101、响应于接收到用户发送的请求语句,从本地存储模块中获取历史信息(session),并将该请求语句与历史信息发送给服务器。
其中,请求语句是用户发送的想要得到回复的语句,例如可以是“播放儿歌”、“我想听稻香”等不同需求的话语,本公开实施例对此不做限定。
其中,历史信息,语音交互的装置针对本次用户请求语句做出答复时需要参考的上文信息,可以包括在一次完整的人机交互业务中,例如用户预订闹铃、预订会议提醒、查询天气等完整的人机交互业务中,用户上文发起的请求语句相关的信息以及语音交互的装置做出的答复相关的信息,例如用户上文发起的请求语句对应的语义解析结果中的领域,装置做出的答复语句的播报话术和该答复语句中的槽位信息,等等,本公开实施例对历史信息的具体内容不做限制。
102、接收服务器返回的答复语句和该请求语句对应的当前上文信息。
其中,答复语句,是由服务器根据请求语句的语音识别结果和历史信息去调用对话服务,由对话服务根据该语音识别结果及所处的对话状态,判定用户的意图,进行对话模型的计算和资源获取,生成要给用户播报的答复语句。
其中,当前上文信息即当前请求语句的上文信息,以区别于当前请求语句之前的历史信息。
103、播放所述答复语句,并将所述当前上文信息作为历史信息存储在本地的所述存储模块中。
需要说明的是,101~103的执行主体的部分或全部可以为位于本地终端即服务提供商的终端设备的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit,SDK)等功能单元,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行特别限定。
这样,通过客户端本地存储历史信息,云端服务器不再需要维护专用的上文信息存储器,可以降低云端的存储及维护成本;不再需要语音交互系统中的中控模块与上文信息存储器通过建立网络连接发送接收数据、进行上文信息存储器的读/写,可以节省时间,减少用户感知的人机交互响应时间,提高用户体验。另外,将用户的上行请求语句与历史信息绑定发送给服务器,并接收服务器一起返回的答复语句与当前上文信息,可以保证语音识别结果和语音交互系统回复的一致性,即只要用户的请求语句识别成功、答复语句播报成功,上文信息的内容便存取成功,提高了语音回复结果的正确性。另外,通过客户端本地存储用户的历史信息,可以更好的保护用户隐私。
可选地,在本实施例的一个可能的实现方式中,在101中,可以基于预设规则,从存储模块中获取最近预设轮次的历史信息。例如,根据预设规则规定,从存储模块中获取最近一轮的历史信息;或者,根据预设规则规定,从存储模块中获取最近五轮的历史信息;或者,根据预设规则规定,从存储模块中获取全部历史信息;等等。具体需要获取多少轮次的历史信息,可以根据实际应用需求预设规则,并可以根据需要更新,本公开实施例对此不做限制。
基于本实施例,可以根据具体的应用需求设置预设规则,从存储模块中获取最近预设轮次的历史信息,使得发送给服务器的历史信息既可以满足确定回复语句的需求,又可以避免发送和分析多余的信息占用网络资源和计算资源,提高服务器的资源利用率和语音交互结果的准确性。
可选地,在本实施例的一个可能的实现方式中,在103中,可以基于接收时间顺序,将当前上文信息作为历史信息存储在本地的存储模块中。
基于本实施例,可以基于接收时间顺序将当前上文信息作为历史信息依次存储在本地的存储模块中,有助于后续客户端按照信息存储顺序获取最近预设轮次的历史信息,提高历史信息获取的准确性和效率。
可选地,在本实施例的一个可能的实现方式中,所述当前上文信息例如可以包括但不限于:请求语句对应的语义解析结果中的领域、答复语句的播报话术和答复语句中的槽位信息,等等。
基于本实施例,将请求语句对应的语义解析结果中的领域、答复语句的播报话术和答复语句中的槽位信息作为当前上文信息,以便作为下一轮用户请求语句的历史信息发送给服务器,以便于服务器据此正确的确定对用户的回复结果。
图2是根据本公开第二实施例的示意图,该实施例可应用于服务器,如图2所示。
201、接收客户端发送的请求语句与历史信息。
其中,请求语句是用户发送的想要得到回复的语句,例如可以是“播放儿歌”、“我想听稻香”等不同需求的话语,本公开实施例对此不做限定。
202、对所述请求语句进行语音识别,得到语音识别结果。
203、基于所述语音识别结果和所述历史信息确定答复语句,以及基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息。
其中,答复语句,是由服务器根据请求语句的语音识别结果和历史信息调用对话服务,由对话服务根据该语音识别结果及所处的对话状态,判定用户的意图,进行对话模型的计算和资源获取,生成要给用户播报的答复语句。
204、将所述答复语句和所述当前上文信息发送给客户端,以便客户端播放所述答复语句、并将所述当前上文信息作为历史信息存储在客户端本地的存储模块中。
需要说明的是,201~204的执行主体的部分或全部可以为位于服务器的应用,或者还可以为设置在位于服务器的应用中的插件或软件开发工具包(Software DevelopmentKit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在服务器上的本地程序(nativeApp),或者还可以是服务器上的浏览器的一个网页程序(webApp),本实施例对此不进行特别限定。
这样,通过客户端本地存储历史信息,云端服务器不再需要维护专用的上文信息存储器,可以降低云端的存储及维护成本;不再需要语音交互系统中的中控模块与上文信息存储器通过建立网络连接发送接收数据、进行上文信息存储器的读/写,可以节省时间,减少用户感知的人机交互响应时间,提高用户体验。另外,接收客户端一起发送的用户的上行请求语句与历史信息,将答复语句与当前上文信息绑定返回客户端,可以保证语音识别结果和语音交互系统回复的一致性,即只要用户的请求语句识别成功、答复语句播报成功,上文信息的内容便存取成功,提高了语音回复结果的正确性。另外,通过客户端本地存储用户的历史信息,可以更好的保护用户隐私。
可选地,在本实施例的一个可能的实现方式中,所述历史信息例如可以包括但不限于:客户端基于预设规则,从该客户端本地的存储模块中获取最近预设轮次的历史信息。
基于本实施例,客户端发送的历史信息为根据具体的应用需求设置的预设规则,从存储模块中获取最近预设轮次的历史信息,使得该历史信息既可以满足确定回复语句的需求,又可以避免发送和分析多余的信息占用网络资源和计算资源,提高服务器的资源利用率和语音交互结果的准确性。
图3是根据本公开第三实施例的示意图,如图3所示。在图2所示实施例的基础上,操作202可以包括:
301、对所述请求语句进行语音识别,在接收到所述请求语句后的第一预设时间内,得到至少一个中间识别结果。
其中,第一预设时间的结束时刻,早于所述请求语句的语音活动检测的尾点时刻(VAD end)。第一预设时间是指,在用户发送的请求语句的尾音落下之后开始计时的一段时间,即该第一预设时间为语音交互的装置检测到的静音状态持续的时间。第一预设时间的长度可以根据需要设置。在实际使用时,为了减少用户的等待时间,第一预设时间的长度可以设置为5ms、10ms、20ms等,这里只是举例说明,不能作为本公开中,对第一预设时间长度的限定。
其中,中间识别结果,是在用户发送的请求语句的尾音落下之后,第一预设时间内,对查询语句进行语音识别所得到的结果。
302、响应于得到所述至少一个中间识别结果中的第一个中间识别结果,按照得到所述至少一个中间识别结果的时间顺序,依次识别所述至少一个中间识别结果的语义是否完整,即中间识别结果是否具有完整的语义,表达的意思是否完整。
其中,中间识别结果的语义完整,表示该中间识别结果具有完整的语义,可以完整的表达用户的意思。
303、响应于从所述至少一个中间识别结果中识别出第一个语义完整的中间识别结果,以该第一个语义完整的中间识别结果作为语音识别结果。
基于本实施例,通过提前进行流式语音识别,在识别出第一个语义完整的中间识别结果时,以该第一个语义完整的中间识别结果作为语音识别结果,以便确定答复语句,既可以通过提前拉取对话资源减少语音交互的响应时间,又可以避免基于语义不完整的中间识别结果大量调用对话服务进行对话模型的计算和资源拉取,能够大幅度减少对对话服务的无效调用,减少对话服务的请求量,从而节省对话服务的计算资源和存储资源、以及收费资源服务,从而降低成本。
本公开实施例中,在302中,可以采用多种方式识别各中间识别结果的语义是否完整。
例如,在本实施例的一个可能的实现方式中,可以采用如下方式识别各中间识别结果的语义是否完整:
依次针对所述至少一个中间识别结果中的各中间识别结果,利用语义完整性模型,获取各中间识别结果作为历史最终识别结果中前缀的第一概率,以及各中间识别结果作为历史最终识别结果的第二概率,然后,基于所述第一概率和所述第二概率确定各中间识别结果语义完整的第三概率;进而,根据所述第三概率是否大于预设阈值,确定各中间识别结果的语义是否完整。
其中,语义完整性模型基于用户日志中的最终识别结果进行统计计算得到,例如,统计大规模线上用户日志中,最终识别结果“我想听稻香”总共出现过多少次,最终识别结果“我想订明天早上六点五十的闹铃”总共出现过多少次,等等,对线上大规模用户日志中的各最终识别结果总共出现的次数分别进行统计计算,得到语义完整性模型。语义完整性模型可以按照一定更新周期,例如一周,基于线上用户日志的更新而更新,本公开实施例对语义完整性模型的是否更新、以及更新周期不做限制。
本公开实施例中,历史最终识别结果是线上大规模用户日志中的最终识别结果,线上各用户每次进行语音交互发出请求语句时,会得到至少一个中间识别结果和一个最终识别结果,用于实现本公开实施例的服务器会针对各用户生成用户日志,记录该用户的每次语音交互中的至少一个中间识别结果和一个最终识别结果。
本公开实施例中,中间识别结果作为历史最终识别结果中前缀的第一概率,即该中间识别结果仅作为历史最终识别结果中前面一部分内容、而非完整的历史最终识别结果出现的概率。中间识别结果作为历史最终识别结果的第二概率,即该中间识别结果单独作为历史最终识别结果(即作为一个完整的历史最终识别结果)出现的概率。
本公开实施例中,第一概率越高,第二概率越低,则该中间识别结果语义完整的第三概率就越低。例如对于中间结果“我想听”,在用户的表述中,很少会单独作为一个请求语句出现,几乎都是作为请求语句的前缀出现,则中间结果“我想听”的第三概率就比较低,以将该中间结果“我想听”判定为语义不完整。本公开实施例中,可以在第三概率大于预设阈值时,确定该中间识别结果的语义完整,所表达的意思比较完整,是一个完整的语句,从而即可将该中间识别结果作为完整的语句使用,进而根据该中间识别结果确定第一答复语句;否则,在第三概率小于或等于预设阈值时,确定中间识别结果的语义不完整,所表达的意思不够完整,可能不是一个完整的句子,该中间识别结果不可靠。其中的预设阈值可以根据实际需求设定,例如可以设定为0.5,并可以根据实际需求调整。
基于本实施例,可以预先通过对大规模线上用户日志中的最终识别结果进行统计计算得到语义完整性模型,然后利用语义完整性模型,可以快速得到各中间识别结果作为历史最终识别结果中前缀的第一概率、以及各中间识别结果作为历史最终识别结果的第二概率,由该第一概率和第二概率精确确定各中间识别结果语义完整的第三概率,从而利用历史统计计算的方法,快速、客观的确定各中间识别结果的语义是否完整。
或者,在本实施例的另一个可能的实现方式中,也可以采用如下方式识别各中间识别结果的语义是否完整:
依次针对所述至少一个中间识别结果中的各中间识别结果,获取各中间识别结果的词向量。例如,可以通过词到向量(Word to the vector)方式,将中间识别结果从文本转换为词向量;
获取各中间识别结果作为历史最终识别结果中前缀的第一概率,以及各中间识别结果作为历史最终识别结果的第二概率。例如,可以利用上述语义完整性模型,获取各中间识别结果作为历史最终识别结果中前缀的第一概率,以及各中间识别结果作为历史最终识别结果的第二概率;
获取各中间识别结果的热度。其中,中间识别结果的热度,即某一时间段内或者过去的所有历史时间内,用户通过用于实现本公开实施例的服务器,发送包含该中间识别结果的请求语句的使用度,可以通过大规模线上用户日志中的中间识别结果和最终识别结果统计计算得到;
将所述词向量、所述第一概率、所述第二概率和所述热度输入预先训练得到的神经网络模型,经该神经网络模型输出各中间识别结果语义完整的第四概率。
根据所述第四概率是否大于预设阈值,确定各中间识别结果的语义是否完整。
本公开实施例中,可以在第四概率大于预设阈值时,确定该中间识别结果的语义完整,所表达的意思比较完整,是一个完整的语句,从而即可将该中间识别结果作为完整的语句使用,进而根据该中间识别结果确定第一答复语句;否则,在第四概率小于或等于预设阈值时,确定中间识别结果的语义不完整,所表达的意思不够完整,可能不是一个完整的句子,该中间识别结果不可靠。其中的预设阈值可以根据实际需求设定,例如可以设定为0.5,并可以根据实际需求调整。
本公开实施例中的神经网络模型,可以是任何基于深度学习方式的神经网络模型,例如深度神经网络(Deep Neural Network,DNN)、长短期记忆(Long Short TermMemory,LSTM)、基于多头注意力机制的模型(transformer)等,本公开实施例对此不做限制。
基于本实施例,基于中间识别结果的词向量、该中间识别结果作为历史最终识别结果中前缀的第一概率和作为历史最终识别结果的第二概率、以及热度,通过神经网络模型,基于深度学习的方式,来预测该中间识别结果语义完整的第四概率,可以避免由于统计计算方式存在数据稀疏导致无法确定中间识别结果语义是否完整、或者导致确定结果不准确的问题,可以解决各中间识别结果的泛化性问题,实现对中间识别结果语义是否完整的确定,并提高中间识别结果语义是否完整的确定结果的准确性。
可选地,在本实施例的一个可能的实现方式中,在202中,还可以包括:
在接收到所述请求语句后的第二预设时间内,得到所述请求语句的最终识别结果,其中,第二预设时间的结束时刻,晚于所述请求语句的语音活动检测的尾点时刻。第二预设时间,是在用户发送的请求语句的尾音落下之后开始计时的一段时间,这一段计时时间的长度大于第一预设时间的长度。可以理解的是,第二预设时间,也是语音交互的装置检测到的静音状态的持续时间;
响应于从所述至少一个中间识别结果中未识别出语义完整的中间识别结果,以所述最终识别结果作为语音识别结果。
基于本实施例,可以在从所述至少一个中间识别结果中未识别出语义完整的中间识别结果时,以请求语句的最终识别结果作为语音识别结果来确定答复语句,以确保语音交互结果的准确性,避免错误的语音交互结果影响用户体验。
图4是根据本公开第四实施例的示意图,如图4所示。在图2或图3所示实施例的基础上,操作203中,基于所述语音识别结果和所述历史信息确定答复语句,可以包括:
401、基于所述语音识别结果和所述历史信息,对所述语音识别结果进行语义解析,得到语义解析结果。
可选地,在本实施例的一个可能的实现方式中,所述语义解析结果可以包括:领域(domain),意图(intent)和槽位信息(slot)。则在105中,可以在第一语义解析结果中的领域、意图和槽位信息,分别与第二语义解析结果中的领域、意图和槽位信息对应一致时,认为第一语义解析结果与第二语义解析结果一致。否则,若第一语义解析结果与第二语义解析结果在领域、意图和槽位信息中任意一项或多项不一致,则认为第一语义解析结果与第二语义解析结果不一致,不播放所述第一答复语句。
其中,领域即请求语句所属的领域,例如闹钟、天气、音乐等。意图即请求语句在当前领域下的具体意图,例如在闹钟领域,存在设定闹钟、删除闹钟等意图。槽位即请求语句在当前领域和意图下具体的槽位信息,例如请求语句“北京天气如何”,领域是天气,意图是查询天气,槽位信息包括:槽位“city”,槽位值是“北京”;请求语句“我要听周杰伦的歌”,领域是音乐,意图是音乐搜索,槽位信息是:槽位“singer”,槽位值是“周杰伦”。
可选地,在本实施例的一个可能的实现方式中,可以利用预先训练得到的语义解析模型,对所述语音识别结果进行语义解析,得到语义解析结果。本公开实施例中的语义解析模型,可以基于深度学习方式的神经网络模型实现,例如DNN、LSTM、LSTM+CRF模型、transformer等,本公开实施例对此不做限制。
402、基于所述语义解析结果和所述历史信息,获取播报话术和资源结果。
403、对所述播报话术和所述资源结果进行语音合成,得到所述答复语句。
基于本实施例,可以基于语音识别结果和历史信息对语音识别结果进行语义解析,根据语义解析结果和历史信息调用对话服务进行对话模型的计算和资源获取,将得到的播报话术和资源结果进行语音合成得到给用户的答复语句,以提高对用户回复结果的准确性。
可选地,在本实施例的一个可能的实现方式中,在203中,基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息时,可以基于所述语义解析结果、所述播报话术和所述资源结果生成当前上文信息,该当前上文信息例如可以包括但不限于:所述语义解析结果中的领域、所述播报话术和所述资源结果中的槽位信息。
基于本实施例,可以基于所述语义解析结果、所述播报话术和所述资源结果生成当前上文信息,以提供服务器针对下一轮用户请求语句进行回复的必要上文信息,提高对用户回复结果的准确性。
图5是根据本公开实施例的一个语音交互过程的示意图,如图5所示。以一个具体的语音交互过程为例,对本公开实施例做进一步的说明。在一次完成的语音交互过程中,从用户发送请求语句到服务器返回答复语句的流程,对应的物理链路如下所示:
客户端执行唤醒、噪音消除、用户请求语句的音频的VAD起尾点检测等功能,用户发送请求语句例如“明天早上八点”;
客户端接收到该音频后,从本地存储模块中获取历史信息,并将该音频和历史信息通过链路501传给服务器中的中控模块。其中,以历史信息具体为一轮为例,可以包括上一轮用户请求所属领域、上一轮服务器反问的话术(即播报话术,如针对上一轮用户请求语句“给我定一个闹钟”,上一轮服务器反问话术“好的,您想定几点的闹钟”)、上一轮期待获得的槽位信息(即上一轮答复语句中的槽位信息)等;
中控模块通过链路502将识别音频发给语音识别器进行语音识别,通过链路503获得语音识别结果;
中控模块将音频携带的设备id(用于唯一标识一个客户端)或用户id(用于唯一标识一个用户)、语音识别结果和历史信息通过链路504发送给语义解析器,由语义解析器对语音识别结果进行语义解析,通过链路505得到语音识别结果的语义解析结果,包括领域、意图和槽位信息。例如针对语音识别结果“北京天气”,得到语义解析结果:domain:weather,intent:get_weather,slots:{city:北京};
中控模块通过链路506语义解析结果和历史信息发送给对话服务,由对话服务获取播报话术和资源结果,例如针对“北京天气”对应的播报话术和资源结果为“北京今天天气晴,最高温28度,最低温20度”,通过链路507得到该播报话术和资源结果;
中控模块将播报话术和资源结果通过链路508发送给语音合成器进行语音合成,通过链路509得到需要播报给用户的答复语句;
中控模块基于语义解析结果、播报话术和资源结果生成当前上文信息,通过链路510将答复语句和当前上文信息一起发送给客户端;
客户端播放答复语句,并将当前上文信息作为历史信息存储在客户端本地的存储模块中,以便在用户发起下一轮语音交互时,从存储模块中提取最近预设轮次的历史信息再通过501发送给中控模块。
至此完成一轮语音交互的流程。
本公开实施例在客户端接收到用户发起的交互请求时,将接收到的请求语句与本次存储的历史信息发送给服务器,由服务器对所述请求语句进行语音识别,得到语音识别结果,然后,基于所述语音识别结果和所述历史信息确定答复语句,以及基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息,进而,将所述答复语句和所述当前上文信息发送给所述客户端,以便客户端播放所述答复语句、并将所述当前上文信息作为历史信息更新存储在客户端本地的存储模块中。
这样,通过客户端本地存储历史信息,云端服务器不再需要维护专用的上文信息存储器,可以降低云端的存储及维护成本;不再需要语音交互系统中的中控模块与上文信息存储器通过建立网络连接发送接收数据、进行上文信息存储器的读/写,可以节省时间,减少用户感知的人机交互响应时间,提高用户体验。
另外,将用户的上行请求语句与历史信息绑定发送给服务器,将答复语句与当前上文信息绑定返回客户端,可以保证语音识别结果和语音交互系统回复的一致性,即只要用户的请求语句识别成功、答复语句播报成功,上文信息的内容便存取成功,提高了语音回复结果的正确性。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本公开并不受所描述的动作顺序的限制,因为依据本公开,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本公开所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
图6是根据本公开第五实施例的示意图,如图6所示。本实施例的客户端600可以包括存储模块601、第一接收单元602、收发单元603、播放单元604和存储处理单元605。其中,存储模块601,用于存储历史信息;第一接收单元602,用于响应于接收到用户发送的请求语句,从存储模块中601获取历史信息;收发单元603,用于将所述请求语句与所述历史信息发送给服务器;以及接收所述服务器返回的答复语句和所述请求语句对应的当前上文信息;播放单元604,用于播放所述答复语句;存储处理单元605,用于将所述当前上文信息作为历史信息存储在存储模块601中。
需要说明的是,本实施例的客户端600的部分或全部可以为位于本地终端即服务提供商的终端设备的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit,SDK)等功能单元,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行特别限定。
可选地,在本实施例的一个可能的实现方式中,第一接收单元602,具体用于:基于预设规则,从所述存储模块中获取最近预设轮次的历史信息。
可选地,在本实施例的一个可能的实现方式中,存储处理单元605,具体用于:基于接收时间顺序,将所述当前上文信息作为历史信息存储在存储模块601中。
可选地,在本实施例的一个可能的实现方式中,所述当前上文信息例如可以包括但不限于:所述请求语句对应的语义解析结果中的领域、所述答复语句的播报话术,所述答复语句中的槽位信息,等等。
图7是根据本公开第六实施例的示意图,如图7所示。本实施例的语音交互的装置700应用于服务器,可以包括第二接收单元701、语音识别单元702、确定单元703、生成单元704和发送单元705。其中,第二接收单元701,用于接收客户端发送的请求语句与历史信息;语音识别单元702,用于对所述请求语句进行语音识别,得到语音识别结果;确定单元703,用于基于所述语音识别结果和所述历史信息确定答复语句;生成单元704,用于基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息;发送单元705,用于将所述答复语句和所述当前上文信息发送给所述客户端,以便客户端播放所述答复语句、并将所述当前上文信息作为历史信息存储在所述客户端本地的存储模块中。
需要说明的是,本实施例的语音交互的装置700的部分或全部可以为位于本地终端即服务提供商的终端设备的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit,SDK)等功能单元,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行特别限定。
可选地,在本实施例的一个可能的实现方式中,所述历史信息例如可以包括但不限于:所述客户端基于预设规则,从所述存储模块中获取最近预设轮次的历史信息。
图8是根据本公开第七实施例的示意图,如图8所示,在图7所示实施例的基础上,本实施例的语音交互的装置800还可以包括语义完整识别单元801。该实施例中,语音识别单元702,具体用于:对所述请求语句进行语音识别,在接收到所述请求语句后的第一预设时间内,得到至少一个中间识别结果;其中,所述第一预设时间的结束时刻,早于所述请求语句的语音活动检测的尾点时刻。语义完整识别单元801,用于响应于得到所述至少一个中间识别结果中的第一个中间识别结果,按照得到所述至少一个中间识别结果的时间顺序,依次识别所述至少一个中间识别结果的语义是否完整;响应于从所述至少一个中间识别结果中识别出第一个语义完整的中间识别结果,以所述第一个语义完整的中间识别结果作为所述语音识别结果。
可选地,在本实施例的一个可能的实现方式中,语义完整识别单元801,具体用于:依次针对所述所述至少一个中间识别结果中的各中间识别结果,利用语义完整性模型,获取所述各中间识别结果作为历史最终识别结果中前缀的第一概率,以及所述各中间识别结果作为所述历史最终识别结果的第二概率;所述语义完整性模型基于用户日志中的最终识别结果进行统计计算得到;基于所述第一概率和所述第二概率确定所述各中间识别结果语义完整的第三概率;根据所述第三概率是否大于预设阈值,确定所述各中间识别结果的语义是否完整。
可选地,在本实施例的另一个可能的实现方式中,语义完整识别单元801,具体用于:依次针对所述所述至少一个中间识别结果中的各中间识别结果,获取所述各中间识别结果的词向量;获取所述各中间识别结果作为历史最终识别结果中前缀的第一概率,以及所述各中间识别结果作为所述历史最终识别结果的第二概率;获取所述各中间识别结果的热度;将所述词向量、所述第一概率、所述第二概率和所述热度输入神经网络模型,经所述神经网络模型输出所述各中间识别结果语义完整的第四概率;根据所述第四概率是否大于预设阈值,确定所述当前文本的语义是否完整。
可选地,在本实施例的一个可能的实现方式中,语音识别单元702,具体用于:在接收到所述请求语句后的第二预设时间内,得到所述请求语句的最终识别结果,其中,所述第二预设时间的结束时刻,晚于所述请求语句的语音活动检测的尾点时刻;响应于从所述至少一个中间识别结果中未识别出语义完整的中间识别结果,以所述最终识别结果作为所述语音识别结果。
可选地,在本实施例的一个可能的实现方式中,确定单元703可以包括(图中未示出):语义解析模块,用于基于所述语音识别结果和所述历史信息,对所述语音识别结果进行语义解析,得到语义解析结果;对话服务模块,用于基于所述语义解析结果和所述历史信息,获取播报话术和资源结果;语音合成模块,用于对所述播报话术和所述资源结果进行语音合成,得到所述答复语句。
可选地,在本实施例的一个可能的实现方式中,生成单元704,具体用于:基于所述语义解析结果、所述播报话术和所述资源结果生成所述当前上文信息;所述当前上文信息包括:所述语义解析结果中的领域、所述播报话术和所述资源结果中的槽位信息。
本公开实施例在客户端接收到用户发起的交互请求时,将接收到的请求语句与本次存储的历史信息发送给服务器,由服务器对所述请求语句进行语音识别,得到语音识别结果,然后,基于所述语音识别结果和所述历史信息确定答复语句,以及基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息,进而,将所述答复语句和所述当前上文信息发送给所述客户端,以便客户端播放所述答复语句、并将所述当前上文信息作为历史信息更新存储在客户端本地的存储模块中。
这样,通过客户端本地存储历史信息,云端服务器不再需要维护专用的上文信息存储器,可以降低云端的存储及维护成本;不再需要语音交互系统中的中控模块与上文信息存储器通过建立网络连接发送接收数据、进行上文信息存储器的读/写,可以节省时间,减少用户感知的人机交互响应时间,提高用户体验。
另外,将用户的上行请求语句与历史信息绑定发送给服务器,将答复语句与当前上文信息绑定返回客户端,可以保证语音识别结果和语音交互系统回复的一致性,即只要用户的请求语句识别成功、答复语句播报成功,上文信息的内容便存取成功,提高了语音回复结果的正确性。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品,进一步地,还提供了一种包括所提供的电子设备的自动驾驶车辆。
图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图9所示,设备900包括计算单元901,其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序,来执行各种适当的动作和处理。在RAM 903中,还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
设备900中的多个部件连接至I/O接口905,包括:输入单元906,例如键盘、鼠标等;输出单元907,例如各种类型的显示器、扬声器等;存储单元908,例如磁盘、光盘等;以及通信单元909,例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理,例如语音交互的方法。例如,在一些实施例中,语音交互的方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元908。在一些实施例中,计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时,可以执行上文描述的语音交互的方法的一个或多个步骤。备选地,在其他实施例中,计算单元901可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行语音交互的方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (28)
1.一种语音交互的方法,所述方法包括:
响应于接收到用户发送的请求语句,从本地存储模块中获取历史信息,并将所述请求语句与所述历史信息发送给服务器;
接收所述服务器返回的答复语句和所述请求语句对应的当前上文信息;
播放所述答复语句,并将所述当前上文信息作为历史信息存储在所述存储模块中。
2.根据权利要求1所述的方法,其中,所述从本地存储模块中获取历史信息,包括:
基于预设规则,从所述存储模块中获取最近预设轮次的历史信息。
3.根据权利要求1或2所述的方法,其中,所述将所述当前上文信息作为历史信息存储在所述存储模块中,包括:
基于接收时间顺序,将所述当前上文信息作为历史信息存储在所述存储模块中。
4.根据权利要求1-3中任一项所述的方法,其中,所述当前上文信息包括:所述请求语句对应的语义解析结果中的领域、所述答复语句的播报话术和所述答复语句中的槽位信息。
5.一种语音交互的方法,所述方法包括:
接收客户端发送的请求语句与历史信息;
对所述请求语句进行语音识别,得到语音识别结果;
基于所述语音识别结果和所述历史信息确定答复语句,以及基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息;
将所述答复语句和所述当前上文信息发送给所述客户端,以便所述客户端播放所述答复语句、并将所述当前上文信息作为历史信息存储在所述客户端本地的存储模块中。
6.根据权利要求5所述的方法,其中,所述历史信息包括:所述客户端基于预设规则,从所述存储模块中获取最近预设轮次的历史信息。
7.根据权利要求5或6所述的方法,其中,所述对所述请求语句进行语音识别,得到语音识别结果,包括:
对所述请求语句进行语音识别,在接收到所述请求语句后的第一预设时间内,得到至少一个中间识别结果;其中,所述第一预设时间的结束时刻,早于所述请求语句的语音活动检测的尾点时刻;
响应于得到所述至少一个中间识别结果中的第一个中间识别结果,按照得到所述至少一个中间识别结果的时间顺序,依次识别所述至少一个中间识别结果的语义是否完整;
响应于从所述至少一个中间识别结果中识别出第一个语义完整的中间识别结果,以所述第一个语义完整的中间识别结果作为所述语音识别结果。
8.根据权利要求7所述的方法,其中,所述依次识别所述至少一个中间识别结果的语义是否完整,包括:
依次针对所述至少一个中间识别结果中的各中间识别结果,利用语义完整性模型,获取所述各中间识别结果作为历史最终识别结果中前缀的第一概率,以及所述各中间识别结果作为所述历史最终识别结果的第二概率;所述语义完整性模型基于用户日志中的最终识别结果进行统计计算得到;
基于所述第一概率和所述第二概率确定所述各中间识别结果语义完整的第三概率;
根据所述第三概率是否大于预设阈值,确定所述各中间识别结果的语义是否完整。
9.根据权利要求7所述的方法,其中,所述依次识别所述至少一个中间识别结果的语义是否完整,包括:
依次针对所述至少一个中间识别结果中的各中间识别结果,获取所述各中间识别结果的词向量;
获取所述各中间识别结果作为历史最终识别结果中前缀的第一概率,以及所述各中间识别结果作为所述历史最终识别结果的第二概率;
获取所述各中间识别结果的热度;
将所述词向量、所述第一概率、所述第二概率和所述热度输入神经网络模型,经所述神经网络模型输出所述各中间识别结果语义完整的第四概率;
根据所述第四概率是否大于预设阈值,确定所述当前文本的语义是否完整。
10.根据权利要求7-9中任一项所述的方法,其中,所述对所述请求语句进行语音识别,得到语音识别结果,还包括:
在接收到所述请求语句后的第二预设时间内,得到所述请求语句的最终识别结果,其中,所述第二预设时间的结束时刻,晚于所述请求语句的语音活动检测的尾点时刻;
响应于从所述至少一个中间识别结果中未识别出语义完整的中间识别结果,以所述最终识别结果作为所述语音识别结果。
11.根据权利要求5-10中任一项所述的方法,其中,所述基于所述语音识别结果和所述历史信息确定答复语句,包括:
基于所述语音识别结果和所述历史信息,对所述语音识别结果进行语义解析,得到语义解析结果;
基于所述语义解析结果和所述历史信息,获取播报话术和资源结果;
对所述播报话术和所述资源结果进行语音合成,得到所述答复语句。
12.根据权利要求11所述的方法,其中,所述基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息,包括:
基于所述语义解析结果、所述播报话术和所述资源结果生成所述当前上文信息;所述当前上文信息包括:所述语义解析结果中的领域、所述播报话术和所述资源结果中的槽位信息。
13.一种客户端,包括:
存储模块,用于存储历史信息;
第一接收单元,用于响应于接收到用户发送的请求语句,从所述存储模块中获取历史信息;
收发单元,用于将所述请求语句与所述历史信息发送给服务器;以及接收所述服务器返回的答复语句和所述请求语句对应的当前上文信息;
播放单元,用于播放所述答复语句;
存储处理单元,用于将所述当前上文信息作为历史信息存储在所述存储模块中。
14.根据权利要求13所述的装置,其中,所述第一接收单元,具体用于:
基于预设规则,从所述存储模块中获取最近预设轮次的历史信息。
15.根据权利要求13或14所述的装置,其中,所述存储处理单元,具体用于:
基于接收时间顺序,将所述当前上文信息作为历史信息存储在所述存储模块中。
16.根据权利要求13-15中任一项所述的装置,其中,所述当前上文信息包括:所述请求语句对应的语义解析结果中的领域、所述答复语句的播报话术和所述答复语句中的槽位信息。
17.一种语音交互的装置,应用于服务器,所述装置包括:
第二接收单元,用于接收客户端发送的请求语句与历史信息;
语音识别单元,用于对所述请求语句进行语音识别,得到语音识别结果;
确定单元,用于基于所述语音识别结果和所述历史信息确定答复语句;
生成单元,用于基于所述语音识别结果和所述答复语句生成所述请求语句对应的当前上文信息;
发送单元,用于将所述答复语句和所述当前上文信息发送给所述客户端,以便所述客户端播放所述答复语句、并将所述当前上文信息作为历史信息存储在所述客户端本地的存储模块中。
18.根据权利要求17所述的装置,其中,所述历史信息包括:所述客户端基于预设规则,从所述存储模块中获取最近预设轮次的历史信息。
19.根据权利要求17或18所述的装置,其中,所述语音识别单元,具体用于:对所述请求语句进行语音识别,在接收到所述请求语句后的第一预设时间内,得到至少一个中间识别结果;其中,所述第一预设时间的结束时刻,早于所述请求语句的语音活动检测的尾点时刻;
所述装置还包括:
语义完整识别单元,用于响应于得到所述至少一个中间识别结果中的第一个中间识别结果,按照得到所述至少一个中间识别结果的时间顺序,依次识别所述至少一个中间识别结果的语义是否完整;响应于从所述至少一个中间识别结果中识别出第一个语义完整的中间识别结果,以所述第一个语义完整的中间识别结果作为所述语音识别结果。
20.根据权利要求19所述的装置,其中,所述语义完整识别单元,具体用于:
依次针对所述至少一个中间识别结果中的各中间识别结果,利用语义完整性模型,获取所述各中间识别结果作为历史最终识别结果中前缀的第一概率,以及所述各中间识别结果作为所述历史最终识别结果的第二概率;所述语义完整性模型基于用户日志中的最终识别结果进行统计计算得到;
基于所述第一概率和所述第二概率确定所述各中间识别结果语义完整的第三概率;
根据所述第三概率是否大于预设阈值,确定所述各中间识别结果的语义是否完整。
21.根据权利要求19所述的装置,其中,所述语义完整识别单元,具体用于:
依次针对所述至少一个中间识别结果中的各中间识别结果,获取所述各中间识别结果的词向量;
获取所述各中间识别结果作为历史最终识别结果中前缀的第一概率,以及所述各中间识别结果作为所述历史最终识别结果的第二概率;
获取所述各中间识别结果的热度;
将所述词向量、所述第一概率、所述第二概率和所述热度输入神经网络模型,经所述神经网络模型输出所述各中间识别结果语义完整的第四概率;
根据所述第四概率是否大于预设阈值,确定所述当前文本的语义是否完整。
22.根据权利要求19-21中任一项所述的装置,其中,所述语音识别单元,具体用于:
在接收到所述请求语句后的第二预设时间内,得到所述请求语句的最终识别结果,其中,所述第二预设时间的结束时刻,晚于所述请求语句的语音活动检测的尾点时刻;
响应于从所述至少一个中间识别结果中未识别出语义完整的中间识别结果,以所述最终识别结果作为所述语音识别结果。
23.根据权利要求17-22中任一项所述的装置,其中,所述确定单元包括:
语义解析模块,用于基于所述语音识别结果和所述历史信息,对所述语音识别结果进行语义解析,得到语义解析结果;
对话服务模块,用于基于所述语义解析结果和所述历史信息,获取播报话术和资源结果;
语音合成模块,用于对所述播报话术和所述资源结果进行语音合成,得到所述答复语句。
24.根据权利要求23所述的装置,其中,所述生成单元,具体用于:
基于所述语义解析结果、所述播报话术和所述资源结果生成所述当前上文信息;所述当前上文信息包括:所述语义解析结果中的领域、所述播报话术和所述资源结果中的槽位信息。
25.一种语音交互的系统,包括权利要求13-16中任一项所述的客户端和权利要求17-24中任一项所述的语音交互的装置。
26.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-12中任一项所述的方法。
27.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-12中任一项所述的方法。
28.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-12中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111339114.5A CN114187903A (zh) | 2021-11-12 | 2021-11-12 | 语音交互的方法、装置、系统、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111339114.5A CN114187903A (zh) | 2021-11-12 | 2021-11-12 | 语音交互的方法、装置、系统、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114187903A true CN114187903A (zh) | 2022-03-15 |
Family
ID=80539944
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111339114.5A Pending CN114187903A (zh) | 2021-11-12 | 2021-11-12 | 语音交互的方法、装置、系统、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114187903A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114078478A (zh) * | 2021-11-12 | 2022-02-22 | 北京百度网讯科技有限公司 | 语音交互的方法、装置、电子设备及存储介质 |
-
2021
- 2021-11-12 CN CN202111339114.5A patent/CN114187903A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114078478A (zh) * | 2021-11-12 | 2022-02-22 | 北京百度网讯科技有限公司 | 语音交互的方法、装置、电子设备及存储介质 |
CN114078478B (zh) * | 2021-11-12 | 2022-09-23 | 北京百度网讯科技有限公司 | 语音交互的方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11934394B2 (en) | Data query method supporting natural language, open platform, and user terminal | |
US11749255B2 (en) | Voice question and answer method and device, computer readable storage medium and electronic device | |
CN104866275B (zh) | 一种用于获取图像信息的方法和装置 | |
US20230214689A1 (en) | Method and apparatus for processing dialogue, electronic device, and storage medium | |
CN114840671A (zh) | 对话生成方法、模型的训练方法、装置、设备及介质 | |
US20230195998A1 (en) | Sample generation method, model training method, trajectory recognition method, device, and medium | |
CN116521841A (zh) | 用于生成回复信息的方法、装置、设备及介质 | |
CN114187903A (zh) | 语音交互的方法、装置、系统、电子设备及存储介质 | |
WO2020052060A1 (zh) | 用于生成修正语句的方法和装置 | |
CN114299955B (zh) | 语音交互的方法、装置、电子设备及存储介质 | |
JP7182584B2 (ja) | スピーチ理解における解析異常の情報を出力するための方法 | |
CN114171016B (zh) | 语音交互的方法、装置、电子设备及存储介质 | |
CN114255750B (zh) | 数据集构建和任务式对话方法、电子设备和存储介质 | |
CN115905497A (zh) | 确定答复语句的方法、装置、电子设备和存储介质 | |
CN114299941A (zh) | 语音交互的方法、装置、电子设备及存储介质 | |
CN114078478B (zh) | 语音交互的方法、装置、电子设备及存储介质 | |
CN113421565A (zh) | 搜索方法、装置、电子设备以及存储介质 | |
CN113360590A (zh) | 兴趣点信息的更新方法、装置、电子设备及存储介质 | |
JP2023514863A (ja) | 情報を交換するための方法及び装置 | |
CN113553413A (zh) | 对话状态的生成方法、装置、电子设备和存储介质 | |
CN110990528A (zh) | 一种问答方法、装置及电子设备 | |
CN114360532A (zh) | 语音交互的方法、装置、电子设备及存储介质 | |
CN114512125A (zh) | 语音交互的系统、方法、设备及介质 | |
CN112328308A (zh) | 用于识别文本的方法和装置 | |
US11750689B2 (en) | Speech processing method and apparatus, device, storage medium and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |