CN117912442A - 一种语音提醒方法、装置、电子设备及存储介质 - Google Patents
一种语音提醒方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN117912442A CN117912442A CN202311413069.2A CN202311413069A CN117912442A CN 117912442 A CN117912442 A CN 117912442A CN 202311413069 A CN202311413069 A CN 202311413069A CN 117912442 A CN117912442 A CN 117912442A
- Authority
- CN
- China
- Prior art keywords
- reminding
- voice
- text
- data
- emotion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 230000008451 emotion Effects 0.000 claims abstract description 133
- 230000015572 biosynthetic process Effects 0.000 claims abstract description 56
- 238000003786 synthesis reaction Methods 0.000 claims abstract description 56
- 230000004927 fusion Effects 0.000 claims abstract description 33
- 238000012549 training Methods 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 16
- 239000013598 vector Substances 0.000 claims description 14
- 230000006399 behavior Effects 0.000 claims description 7
- 238000004458 analytical method Methods 0.000 claims description 5
- 238000007781 pre-processing Methods 0.000 claims description 4
- 238000012502 risk assessment Methods 0.000 claims description 4
- 230000000694 effects Effects 0.000 abstract description 5
- 238000004891 communication Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 8
- 238000012545 processing Methods 0.000 description 8
- 230000003993 interaction Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000013256 Gubra-Amylin NASH model Methods 0.000 description 3
- 238000010276 construction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000002996 emotional effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000033764 rhythmic process Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L13/00—Speech synthesis; Text to speech systems
- G10L13/02—Methods for producing synthetic speech; Speech synthesisers
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L13/00—Speech synthesis; Text to speech systems
- G10L13/08—Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
- G10L25/63—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for estimating an emotional state
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Hospice & Palliative Care (AREA)
- Psychiatry (AREA)
- General Health & Medical Sciences (AREA)
- Signal Processing (AREA)
- Child & Adolescent Psychology (AREA)
- Telephonic Communication Services (AREA)
Abstract
本发明公开了一种语音提醒方法、装置、电子设备及存储介质。该方法包括:接收提醒对象的语音数据,确定语音数据对应的提醒文本;其中,提醒文本包括情感声音特征,情感声音特征与提醒文本关联对齐;基于语音合成模型对提醒文本的文本特征和情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含情感声音特征的音频数据;基于语音生成模型将音频数据转换为提醒语音,并对提醒语音进行语音播报。本发明可以针对提醒对象的语音确定出针对性的提醒文本,并通过语音合成模型复刻提醒人员的情感声音特征,生成具有提醒人员的情感声音特征的提醒语音,在减少人工成本的同时提高与提醒对象的互动性以及提醒语音的质量,从而提高提醒效果。
Description
技术领域
本发明涉及自然语言处理技术领域领域,尤其涉及一种语音提醒方法、装置、电子设备及存储介质。
背景技术
随着经济的发展和互联网金融的兴起,现金贷及消费贷业务大量出现,随之而来的问题是如何将贷出去的钱收回来,提醒业务成为重要的一环。
目前,企业的提醒工作一种是依靠人工电话完成,但是这种方式需要大量的人力,人工成本较高;另一种是通过提前录制好一种或几种音色的语音,自动给客户打提醒电话,但是智能程度低,缺少互动,导致提醒效果不佳。
发明内容
本发明提供了一种语音提醒方法、装置、电子设备及存储介质,以解决上述技术问题。
根据本发明的一方面,提供了一种语音提醒方法,应用于提醒机器人,包括:
接收提醒对象的语音数据,确定所述语音数据对应的提醒文本;其中,所述提醒文本包括情感声音特征,所述情感声音特征与所述提醒文本关联对齐;
基于语音合成模型对所述提醒文本的文本特征和所述情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含所述情感声音特征的音频数据;
基于语音生成模型将所述音频数据转换为提醒语音,并对所述提醒语音进行语音播报。
根据本发明的另一方面,提供了一种语音提醒装置,应用于提醒机器人,包括:
提醒文本确定模块,用于接收提醒对象的语音数据,确定所述语音数据对应的提醒文本;其中,所述提醒文本包括情感声音特征,所述情感声音特征与所述提醒文本关联对齐;
音频数据生成模块,用于基于语音合成模型对所述提醒文本的文本特征和所述情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含所述情感声音特征的音频数据;
语音播报模块,用于基于语音生成模型将所述音频数据转换为提醒语音,并对所述提醒语音进行语音播报。
根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的语音提醒方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的语音提醒方法。
本发明实施例的技术方案,通过接收提醒对象的语音数据,确定语音数据对应的提醒文本;其中,提醒文本包括情感声音特征,情感声音特征与提醒文本关联对齐;基于语音合成模型对提醒文本的文本特征和情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含情感声音特征的音频数据;基于语音生成模型将音频数据转换为提醒语音,并对提醒语音进行语音播报。可以针对提醒对象的语音确定出针对性的提醒文本,并通过语音合成模型复刻提醒人员的情感声音特征,生成具有提醒人员的情感声音特征的提醒语音,在减少人工成本的同时提高与提醒对象的互动性以及提醒语音的质量,从而提高提醒效果。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种语音提醒方法的流程图;
图2是本发明实施例二提供的一种语音提醒方法的流程图;
图3是本发明实施例三提供的一种语音提醒方法的流程图;
图4是本发明实施例四提供的一种语音提醒装置的结构示意图;
图5是本发明实施例五提供的一种电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1是本发明实施例一提供的一种语音提醒方法的流程图,本实施例可适用于提醒机器人进行语音提醒的情况,该方法可以由语音提醒装置来执行,该语音提醒装置可以采用硬件和/或软件的形式实现,该语音提醒装置可配置于配置有提醒机器人的电子设备中。如图1所示,该方法包括:
S110、接收提醒对象的语音数据,确定所述语音数据对应的提醒文本;其中,所述提醒文本包括情感声音特征,所述情感声音特征与所述提醒文本关联对齐。
其中,提醒对象是指欠款、贷款等债务到期未还的对象,可选的,提醒对象还可以是贷款等债务到期前一个月进行提前提醒的对象,如此可以为提醒对象筹集还款资金提供缓冲时间,降低违约率,提高催回率。本实施例中,提醒机器人可以通过拨打提醒对象预留的电话号码进行语音提醒,在语音提醒过程中,接收提醒对象的语音数据,可以根据语音数据确定语音数据对应的提醒文本;其中,提醒文本是针对提醒对象的语音数据确定的答复文本,具体的,提醒文本包括情感声音特征,情感声音特征与提醒文本关联对齐,可以理解为将情感声音特征与提醒文本中对应的局部文本或者全局文本对齐,并在二者之间建立关联关系;情感声音特征包括但不限于音调、音色、语速、节奏等,这里不做限定。
需要说明的是,在语音提醒过程中,并非只是简单的向提醒对象发送贷款逾期、即将逾期等提示信息,提醒对象可能会提出一些问题,需要对提醒对象的问题进行针对性答复,以促进提醒对象尽快还款。
S120、基于语音合成模型对所述提醒文本的文本特征和所述情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含所述情感声音特征的音频数据。
其中,语音合成模型是预先训练的语音合成模型,具体的,语音合成模型可以是端到端语音合成模型,语音合成模型可以是对基础语音合成模型进行修改后训练得到的,具体的,在基础语音合成模型中添加情感网络,以提醒人员的样本语音以及对应的样本文本为训练数据对修改后的基础语音合成模型进行训练,得到语音合成模型。示例性的,基础语音合成模型包括但不限于FastSpeech2模型,这里不做限定。
情感网络用于对文本特征和情感声音特征进行特征融合;其中,情感声音特征包括全局情感声音特征和局部情感声音特征,全局情感声音特征是提醒文本整体的情感声音特征,局部情感声音特征是提醒文本中某一句话的情感声音特征;情感网络可以对提醒文本中的全局情感声音特征和局部情感声音特征进行区分,从而将情感特征与提醒文本的文本特征进行全局融合和局部融合,以使生成的音频数据中包含情感声音特征。
S130、基于语音生成模型将所述音频数据转换为提醒语音,并对所述提醒语音进行语音播报。
其中,语音生成模型用于将音频数据转换为提醒语音,具体的,语音生成模型可以是HiFi-GAN模型,示例性的,以HiFi-GAN模型为例,将生成的包含情感声音特征的梅尔频谱输入至HiFi-GAN模型,将梅尔频谱映射成语音波形,得到提醒语音。
本实施例的技术方案,通过接收提醒对象的语音数据,确定语音数据对应的提醒文本;其中,提醒文本包括情感声音特征,情感声音特征与提醒文本关联对齐;基于语音合成模型对提醒文本的文本特征和情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含情感声音特征的音频数据;基于语音生成模型将音频数据转换为提醒语音,并对提醒语音进行语音播报。可以针对提醒对象的语音确定出针对性的提醒文本,并通过语音合成模型复刻提醒人员的情感声音特征,生成具有提醒人员的情感声音特征的提醒语音,在减少人工成本的同时提高与提醒对象的互动性以及提醒语音的质量,从而提高提醒效果。
实施例二
图2是本发明实施例二提供的一种语音提醒方法的流程图,本发明实施例与上述实施例中各个可选方案可以结合。在本发明实施例中,可选的,所述确定所述语音数据对应的提醒文本,包括:将所述语音数据转换为文本数据,基于所述文本数据在提醒问答库中进行检索,得到所述语音数据对应的提醒相关数据;所述提醒相关数据包括提醒相关文本以及对应的样本语音;提取所述样本语音中的情感声音特征,将所述情感声音特征与所述提醒相关文本关联对齐,得到包含所述情感声音特征的提醒相关文本;将所述包含所述情感声音特征的提醒相关文本输入至预先训练的大语言模型,生成提醒文本。
如图2所示,本发明实施例的方法具体包括如下步骤:
S210、接收提醒对象的语音数据。
S220、将所述语音数据转换为文本数据,基于所述文本数据在提醒问答库中进行检索,得到所述语音数据对应的提醒相关数据;所述提醒相关数据包括提醒相关文本以及对应的样本语音。
本实施例中,在接收语音数据之后,可以先将语音数据转换为文本数据,可以理解的是,将语音数据转换为文本数据是为了便于进行提醒相关文本的检索;进一步的,可以根据文本数据在提醒问答库中进行检索,得到语音数据对应的提醒相关数据,其中,提醒相关数据包括提醒相关文本以及对应的样本语音,样本语音为提醒过程中记录的提醒人员的语音数据,与对应的提醒相关样本关联存储,具体的,提醒相关数据包括但不限于问答数据、提醒策略数据、历史对话数据等,这里不做限定。
在上述实施例的基础上,可选的,所述提醒问答库的构建方法,包括:获取提醒相关数据,对所述提醒相关数据进行预处理;对预处理后的提醒相关数据进行切片处理,提取所述提醒相关数据的切片;将所述提醒相关数据的切片转换为嵌入向量,将所述嵌入向量存储至提醒问答库中;相应的,所述基于所述文本数据在提醒问答库中进行检索,得到所述语音数据对应的提醒相关数据,包括:基于所述文本数据对所述提醒问答库进行向量相似性检索,得到所述语音数据对应的提醒相关数据。
本实施例中,在提醒问答库的构建过程中,构建过程包括三个阶段,在第一阶段:首先获取提醒相关数据,并对提醒相关数据进行分类;进一步的,对各类型的提醒相关数据分别进行预处理和结构化,以提高检索和查询的效率。预处理后,可以将这些数据以PDF格式或Markdown(md)格式保存,以便于后续使用和整合。
在第二阶段,对第一阶段预处理后的提醒相关数据进行切分处理,以便提取文本切片和语音切片;进一步的,可以使用OpenAI GPT-3、BERT等模型的文本转向量功能将文本切片和语音切片转化为嵌入向量。需要说明的是,嵌入向量可以捕捉数据之间的相似性和关联性,为后续搜索提供依据。
在第三阶段,利用pgvector扩展,将上述处理出来的嵌入向量存储在PostgreSQL数据库中。pgvector是一个用于向量相似性搜索的PostgreSQL扩展,它可以方便地存储和检索嵌入向量,从而实现快速查找与输入文本数据相关的内容。
S230、提取所述样本语音中的情感声音特征,将所述情感声音特征与所述提醒相关文本关联对齐,得到包含所述情感声音特征的提醒相关文本。
本实施例中,可以使用音频信号处理和分析技术对样本语音进行情感声音特征提取,得到样本语音的情感声音特征;可选的,也可以使用预训练的情感声音特征提取模型对样本语音进行特征提取,得到样本语音的情感声音特征;进一步的,将情感声音特征与提醒相关文本关联对齐,得到包含情感声音特征的提醒相关文本。可以理解的是,提醒人员的样本语音中不同语句情感声音特征不同,将各语句的情感声音特征与提醒相关文本中对应位置的语句关联对齐,可以明确各语句或者整个文本的情感声音特征。
S240、将所述包含所述情感声音特征的提醒相关文本输入至预先训练的大语言模型,生成提醒文本。
本实施例中,可以将包含所述情感声音特征的提醒相关文本输入至预先训练的大语言模型进行预测,得到提醒文本。
在上述实施例的基础上,可选的,所述大语言模型的训练方法,包括:获取历史提醒数据;根据训练任务和所述历史提醒数据构建微调数据集;所述训练任务包括情感分析任务、问答任务、行为预测任务和风险评估任务中的一项或多项。获取预训练大语言模型,基于所述微调数据集对所述预训练大语言模型进行多任务的微调训练,得到所述大语言模型。
其中,历史提醒数据是指提醒人员的历史提醒数据,具体的,历史提醒数据可以是提醒问答库中的提醒相关数据,也可以是收集的与提醒相关的其他数据,例如客户信息、提醒记录、还款历史、通信记录等,这里不做限定。
本实施例中,根据训练任务和历史提醒数据构建微调数据集,具体的,对于情感分析任务,可以对历史提醒数据进行情感标注,得到微调数据集;对于行为预测任务以及风险评估任务,可以获取提醒对象的行为数据,将提醒对象的行为数据与历史提醒数据进行整合,得到微调数据集。进一步的,根据微调数据集预训练大语言模型进行多任务训练,得到大语言模型。可以理解的是,训练任务不同,构建的微调数据集不同,例如若训练任务为情感分析任务和问答任务,则无需将提醒对象的行为数据与历史提醒数据进行整合。
在一些实施例中,可以定期对大语言模型进行性能评估,在评估结果不满足需求条件的情况下,可以根据新的提醒数据构建微调数据集,对大语言模型进行调整性的训练。
S250、基于语音合成模型对所述提醒文本的文本特征和所述情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含所述情感声音特征的音频数据。
S260、基于语音生成模型将所述音频数据转换为提醒语音,并对所述提醒语音进行语音播报。
实施例三
图3是本发明实施例三提供的一种语音提醒方法的流程图,本发明实施例与上述实施例中各个可选方案可以结合。在本发明实施例中,可选的,在得到所述提醒文本之后,所述方法还包括:将所述提醒文本输入至文本补全模型,生成目标提醒文本;相应的,所述基于语音合成模型对所述提醒文本的文本特征和所述情感声音特征进行特征融合,得到融合特征,并对所述融合特征进行语音合成,生成包含所述情感声音特征的音频数据,包括:基于语音合成模型对所述目标提醒文本的文本特征和所述情感声音特征进行特征融合,得到融合特征,并对所述融合特征进行语音合成,生成包含所述情感声音特征的音频数据。
如图3所示,本发明实施例的方法具体包括如下步骤:
S310、接收提醒对象的语音数据。
S320、将所述语音数据转换为文本数据,基于所述文本数据在提醒问答库中进行检索,得到所述语音数据对应的提醒相关数据;所述提醒相关数据包括提醒相关文本以及对应的样本语音。
S330、提取所述样本语音中的情感声音特征,将所述情感声音特征与所述提醒相关文本关联对齐,得到包含所述情感声音特征的提醒相关文本。
S340、将所述包含所述情感声音特征的提醒相关文本输入至预先训练的大语言模型,生成提醒文本。
可以理解的是,生成的提醒文本可能存在表达不流畅、不完整等问题,在生成提醒文本之后可以通过执行步骤S350来完善提醒文本。
S350、将所述提醒文本输入至文本补全模型,生成目标提醒文本。
其中,文本补全模型可以根据上下文自动补全文本内容,文本补全模型可以采用常见的文本补全模型进行微调得到,文本补全模型包括但不限于基于Transformer的文本补全模型、基于OpenAI GPT的文本补全模型等,这里不做限定。本实施例中,可以将提醒文本输入至文本补全模型中自动进行文本补全,生成目标提醒文本,其中,目标提醒文本是文本补全之后通顺完整的提醒文本。
S360、基于语音合成模型对所述目标提醒文本的文本特征和所述情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含所述情感声音特征的音频数据。
S370、基于语音生成模型将所述音频数据转换为提醒语音,并对所述提醒语音进行语音播报。
本实施例的技术方案,通过文本补全模型对提醒文本进行文本补全,提高提醒文本的质量,从而提高提醒语音的质量。
实施例四
图4是本发明实施例四提供的一种语音提醒装置的结构示意图。如图4所示,该装置包括:
提醒文本确定模块410,用于接收提醒对象的语音数据,确定所述语音数据对应的提醒文本;其中,所述提醒文本包括情感声音特征,所述情感声音特征与所述提醒文本关联对齐;
音频数据生成模块420,用于基于语音合成模型对所述提醒文本的文本特征和所述情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含所述情感声音特征的音频数据;
语音播报模块430,用于基于语音生成模型将所述音频数据转换为提醒语音,并对所述提醒语音进行语音播报
本实施例的技术方案,通过接收提醒对象的语音数据,确定语音数据对应的提醒文本;其中,提醒文本包括情感声音特征,情感声音特征与提醒文本关联对齐;基于语音合成模型对提醒文本的文本特征和情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含情感声音特征的音频数据;基于语音生成模型将音频数据转换为提醒语音,并对提醒语音进行语音播报。可以针对提醒对象的语音确定出针对性的提醒文本,并通过语音合成模型复刻提醒人员的情感声音特征,生成具有提醒人员的情感声音特征的提醒语音,在减少人工成本的同时提高与提醒对象的互动性以及提醒语音的质量,从而提高提醒效果。
在上述实施例的基础上,可选的,提醒文本确定模块410具体用于将所述语音数据转换为文本数据,基于所述文本数据在提醒问答库中进行检索,得到所述语音数据对应的提醒相关数据;所述提醒相关数据包括提醒相关文本以及对应的样本语音;提取所述样本语音中的情感声音特征,将所述情感声音特征与所述提醒相关文本关联对齐,得到包含所述情感声音特征的提醒相关文本;将所述包含所述情感声音特征的提醒相关文本输入至预先训练的大语言模型,生成提醒文本。
在上述实施例的基础上,可选的,所述装置还包括提醒问答库的构建模块,用于获取提醒相关数据,对所述提醒相关数据进行预处理;对预处理后的提醒相关数据进行切片处理,提取所述提醒相关数据的切片;将所述提醒相关数据的切片转换为嵌入向量,将所述嵌入向量存储至提醒问答库中:相应的,提醒文本确定模块410用于基于所述文本数据对所述提醒问答库进行向量相似性检索,得到所述语音数据对应的提醒相关数据。
在上述实施例的基础上,可选的,所述装置还包括大语言模型的训练模块,用于获取历史提醒数据;根据训练任务和所述历史提醒数据构建微调数据集;所述训练任务包括情感分析任务、问答任务、行为预测任务和风险评估任务中的一项或多项。获取预训练大语言模型,基于所述微调数据集对所述预训练大语言模型进行多任务的微调训练,得到所述大语言模型。
在上述实施例的基础上,可选的,所述装置还包括提醒文本补全模块,用于将所述提醒文本输入至文本补全模型,生成目标提醒文本;相应的,音频数据生成模块420用于基于语音合成模型对所述目标提醒文本的文本特征和所述情感声音特征进行特征融合,得到融合特征,并对所述融合特征进行语音合成,生成包含所述情感声音特征的音频数据。
在上述实施例的基础上,可选的,所述语音合成模型包括情感网络,所述情感网络用于对所述文本特征和所述情感声音特征进行特征融合;其中,所述情感声音特征包括全局情感声音特征和局部情感声音特征。
在上述实施例的基础上,可选的,所述语音合成模型为端到端语音合成模型。
本发明实施例所提供的语音提醒装置可执行本发明任意实施例所提供的语音提醒方法,具备执行方法相应的功能模块和有益效果。
实施例五
图5是本发明实施例五提供的一种电子设备的结构示意图。电子设备10旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图5所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如语音提醒方法。
在一些实施例中,语音提醒方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的语音提醒方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行语音提醒方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的语音提醒方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
实施例六
本发明实施例六还提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行一种语音提醒方法,该方法包括:
接收提醒对象的语音数据,确定语音数据对应的提醒文本;其中,提醒文本包括情感声音特征,情感声音特征与提醒文本关联对齐;
基于语音合成模型对提醒文本的文本特征和情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含情感声音特征的音频数据;
基于语音生成模型将音频数据转换为提醒语音,并对提醒语音进行语音播报。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种语音提醒方法,其特征在于,应用于提醒机器人,包括:
接收提醒对象的语音数据,确定所述语音数据对应的提醒文本;其中,所述提醒文本包括情感声音特征,所述情感声音特征与所述提醒文本关联对齐;
基于语音合成模型对所述提醒文本的文本特征和所述情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含所述情感声音特征的音频数据;
基于语音生成模型将所述音频数据转换为提醒语音,并对所述提醒语音进行语音播报。
2.根据权利要求1所述的方法,其特征在于,所述确定所述语音数据对应的提醒文本,包括:
将所述语音数据转换为文本数据,基于所述文本数据在提醒问答库中进行检索,得到所述语音数据对应的提醒相关数据;所述提醒相关数据包括提醒相关文本以及对应的样本语音;
提取所述样本语音中的情感声音特征,将所述情感声音特征与所述提醒相关文本关联对齐,得到包含所述情感声音特征的提醒相关文本;
将所述包含所述情感声音特征的提醒相关文本输入至预先训练的大语言模型,生成提醒文本。
3.根据权利要求2所述的方法,其特征在于,所述提醒问答库的构建方法,包括:
获取提醒相关数据,对所述提醒相关数据进行预处理;
对预处理后的提醒相关数据进行切片处理,提取所述提醒相关数据的切片;
将所述提醒相关数据的切片转换为嵌入向量,将所述嵌入向量存储至提醒问答库中;
相应的,所述基于所述文本数据在提醒问答库中进行检索,得到所述语音数据对应的提醒相关数据,包括:
基于所述文本数据对所述提醒问答库进行向量相似性检索,得到所述语音数据对应的提醒相关数据。
4.根据权利要求3所述的方法,其特征在于,所述大语言模型的训练方法,包括:
获取历史提醒数据;
根据训练任务和所述历史提醒数据构建微调数据集;所述训练任务包括情感分析任务、问答任务、行为预测任务和风险评估任务中的一项或多项。
获取预训练大语言模型,基于所述微调数据集对所述预训练大语言模型进行多任务的微调训练,得到所述大语言模型。
5.根据权利要求1或2所述的方法,其特征在于,在得到所述提醒文本之后,所述方法还包括:
将所述提醒文本输入至文本补全模型,生成目标提醒文本;
相应的,所述基于语音合成模型对所述提醒文本的文本特征和所述情感声音特征进行特征融合,得到融合特征,并对所述融合特征进行语音合成,生成包含所述情感声音特征的音频数据,包括:
基于语音合成模型对所述目标提醒文本的文本特征和所述情感声音特征进行特征融合,得到融合特征,并对所述融合特征进行语音合成,生成包含所述情感声音特征的音频数据。
6.根据权利要求1所述的方法,其特征在于,所述语音合成模型包括情感网络,所述情感网络用于对所述文本特征和所述情感声音特征进行特征融合;其中,所述情感声音特征包括全局情感声音特征和局部情感声音特征。
7.根据权利要求1所述的方法,其特征在于,所述语音合成模型为端到端语音合成模型。
8.一种语音提醒装置,其特征在于,应用于提醒机器人,包括:
提醒文本确定模块,用于接收提醒对象的语音数据,确定所述语音数据对应的提醒文本;其中,所述提醒文本包括情感声音特征,所述情感声音特征与所述提醒文本关联对齐;
音频数据生成模块,用于基于语音合成模型对所述提醒文本的文本特征和所述情感声音特征进行特征融合,并对融合后的特征进行语音合成,生成包含所述情感声音特征的音频数据;
语音播报模块,用于基于语音生成模型将所述音频数据转换为提醒语音,并对所述提醒语音进行语音播报。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的语音提醒方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的语音提醒方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311413069.2A CN117912442A (zh) | 2023-10-27 | 2023-10-27 | 一种语音提醒方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311413069.2A CN117912442A (zh) | 2023-10-27 | 2023-10-27 | 一种语音提醒方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117912442A true CN117912442A (zh) | 2024-04-19 |
Family
ID=90686816
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311413069.2A Pending CN117912442A (zh) | 2023-10-27 | 2023-10-27 | 一种语音提醒方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117912442A (zh) |
-
2023
- 2023-10-27 CN CN202311413069.2A patent/CN117912442A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111625635B (zh) | 问答处理方法、装置、设备及存储介质 | |
CN116127020A (zh) | 生成式大语言模型训练方法以及基于模型的搜索方法 | |
CN111597818B (zh) | 呼叫质检方法、装置、计算机设备和计算机可读存储介质 | |
CN111695360B (zh) | 语义分析方法、装置、电子设备及存储介质 | |
CN112699645B (zh) | 语料标注方法、装置及设备 | |
CN113297365A (zh) | 一种用户意向判定方法、装置、设备及存储介质 | |
CN115099239A (zh) | 一种资源识别方法、装置、设备以及存储介质 | |
CN116150339A (zh) | 对话方法、装置、设备及存储介质 | |
US20230206007A1 (en) | Method for mining conversation content and method for generating conversation content evaluation model | |
CN112434953A (zh) | 一种基于计算机数据处理的客服人员考核方法和装置 | |
CN116303951A (zh) | 对话处理方法、装置、电子设备和存储介质 | |
CN114417974B (zh) | 模型训练方法、信息处理方法、装置、电子设备和介质 | |
CN116166858A (zh) | 基于人工智能的信息推荐方法、装置、设备及存储介质 | |
CN113360672B (zh) | 用于生成知识图谱的方法、装置、设备、介质和产品 | |
CN117912442A (zh) | 一种语音提醒方法、装置、电子设备及存储介质 | |
CN114118937A (zh) | 基于任务的信息推荐方法、装置、电子设备及存储介质 | |
CN116244740B (zh) | 一种日志脱敏方法、装置、电子设备及存储介质 | |
CN111508494B (zh) | 一种智能纳税语音咨询方法和系统 | |
CN115273854B (zh) | 一种服务质量确定方法、装置、电子设备及存储介质 | |
CN115018633B (zh) | 一种业务推荐方法、装置、计算机设备及存储介质 | |
CN116137011B (zh) | 一种档案生成系统、设备及存储介质 | |
CN117493527A (zh) | 一种金融知识问答方法、装置、设备及存储介质 | |
CN118228713A (zh) | 一种需求文档生成方法、装置、电子设备及存储介质 | |
CN116680441A (zh) | 视频内容识别方法、装置、电子设备、可读存储介质 | |
CN117453894A (zh) | 一种智能问答方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |