CN117059133B - 言语功能评估装置、电子设备和存储介质 - Google Patents
言语功能评估装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN117059133B CN117059133B CN202311322789.8A CN202311322789A CN117059133B CN 117059133 B CN117059133 B CN 117059133B CN 202311322789 A CN202311322789 A CN 202311322789A CN 117059133 B CN117059133 B CN 117059133B
- Authority
- CN
- China
- Prior art keywords
- pronunciation
- speech
- user
- formant
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003860 storage Methods 0.000 title claims abstract description 29
- 238000011156 evaluation Methods 0.000 title abstract description 12
- 238000000034 method Methods 0.000 claims abstract description 51
- 230000006870 function Effects 0.000 claims abstract description 42
- 238000012549 training Methods 0.000 claims description 41
- 230000033764 rhythmic process Effects 0.000 claims description 29
- 208000027089 Parkinsonian disease Diseases 0.000 claims description 26
- 206010034010 Parkinsonism Diseases 0.000 claims description 26
- 230000008569 process Effects 0.000 claims description 22
- 238000000605 extraction Methods 0.000 claims description 18
- 230000033001 locomotion Effects 0.000 claims description 16
- 238000007781 pre-processing Methods 0.000 claims description 15
- 238000006243 chemical reaction Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 13
- 238000013145 classification model Methods 0.000 claims description 10
- 238000003745 diagnosis Methods 0.000 claims description 7
- 238000005070 sampling Methods 0.000 claims description 7
- 208000018737 Parkinson disease Diseases 0.000 claims description 6
- 238000012545 processing Methods 0.000 abstract description 24
- 238000010586 diagram Methods 0.000 description 18
- 238000004891 communication Methods 0.000 description 10
- 230000001755 vocal effect Effects 0.000 description 10
- 238000012360 testing method Methods 0.000 description 9
- 230000008859 change Effects 0.000 description 7
- 238000005520 cutting process Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000001914 filtration Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 238000012937 correction Methods 0.000 description 4
- 238000002372 labelling Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000012706 support-vector machine Methods 0.000 description 4
- 238000003491 array Methods 0.000 description 3
- 201000010099 disease Diseases 0.000 description 3
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 210000000056 organ Anatomy 0.000 description 3
- 238000001228 spectrum Methods 0.000 description 3
- 206010013887 Dysarthria Diseases 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 230000001020 rhythmical effect Effects 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 206010061818 Disease progression Diseases 0.000 description 1
- 208000012902 Nervous system disease Diseases 0.000 description 1
- 208000025966 Neurological disease Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000027288 circadian rhythm Effects 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000005750 disease progression Effects 0.000 description 1
- 238000013399 early diagnosis Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004770 neurodegeneration Effects 0.000 description 1
- 208000015122 neurodegenerative disease Diseases 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 208000027765 speech disease Diseases 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
- G10L25/66—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for extracting parameters related to health condition
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Epidemiology (AREA)
- Electrically Operated Instructional Devices (AREA)
Abstract
本公开涉及语音处理领域,尤其涉及一种言语功能评估装置、电子设备和存储介质,言语功能评估装置可以向用户显示和/或播报预设的至少一种用于提示用户发音的发音范式,每种发音范式对应一种发音特征。并采集用户基于至少一种发音范式产生的对应语音样本,根据每种发音范式对应的语言样本进行特征提取得到至少一种发音特征,以基于发音特征评估用户的言语功能。本公开通过至少一种发音范式指导用户发声并提取相应的发音特征,基于多个不同维度的发音特征共同评估用户的言语功能,提高了评估结果的准确性。
Description
技术领域
本公开涉及语音处理领域,尤其涉及一种言语功能评估装置、电子设备和存储介质。
背景技术
帕金森病是一种进展性的神经退行性疾病,严重影响患者的生活质量,但目前尚无治愈手段。构音障碍在帕金森病患者中的发生率约为90%,语言和构音障碍的声学特征在各种神经障碍中有质的差异,这可能为检测早期疾病特异性变化提供一种手段,有助于监测疾病进展。声音和言语的特征改变最终导致患者的言语可懂度的恶化,但其评估方式复杂,专业性强、主管差异大,评估费时费力。在帕金森病患者的言语障碍中,如何准确高效界的评估言语可懂度的变化,进而达到早期筛查帕金森患者,监测疾病进展,对于帕金森病的治疗至关重要。
发明内容
有鉴于此,本公开提出了一种言语功能评估装置、电子设备和存储介质,旨在提供一种能够评估用户言语功能的装置。
根据本公开的第一方面,提供了一种言语功能评估装置,所述装置包括:
发音提示模块,用于向用户显示和/或播报预设的至少一种用于提示用户发音的发音范式,每种所述发音范式对应一种发音特征;
语音采集模块,用于采集所述用户基于所述至少一种发音范式产生的对应语音样本;
特征提取模块,用于根据每种所述发音范式对应的语言样本进行特征提取,得到至少一种发音特征;
言语功能评估模块,用于基于所述至少一种发音特征评估所述用户的言语功能。
在一种可选的实现方式中,所述发音范式包括:
元音/a/,/i/,/u/、/pa-ta-ka/及/pa/快速重复发音、元音交替/i-u/和朗读预设语料中的至少一种。
在一种可选的实现方式中,所述发音特征包括发音轮替节律、共振峰转换特征、音调及响度特征、声道运动特征和韵律及语速特征中的至少一种。
在一种可选的实现方式中,所述元音/a/,/i/,/u/与所述声道运动特征对应,所述/pa-ta-ka/及/pa/快速重复发音与所述发音轮替节律对应,所述元音交替/i-u/与所述共振峰转换特征对应,所述朗读预设语料与所述韵律以及语速特征对应,所述元音/a/与所述音调及响度特征对应。
在一种可选的实现方式中,所述特征提取模块,进一步用于:
对所述/pa-ta-ka/及/pa/快速重复发音对应的语音样本进行预处理后,提取波形文件对应的采样频率和语音样本时长;
基于所述采样频率和所述语音样本时长计算得到发音轮替节律。
在一种可选的实现方式中,所述特征提取模块,进一步用于:
对所述元音交替/i-u/对应的语音样本进行预处理后,确定波形文件对应的第二共振峰的起止和波峰位置;
根据所述第二共振峰的起止和波峰位置确定对应的共振峰转换特征。
在一种可选的实现方式中,所述特征提取模块,进一步用于:
对所述元音/a/对应的语音样本进行预处理后,确定波形文件对应的基频和振幅信息;
根据所述基频和振幅信息确定音调及响度特征。
在一种可选的实现方式中,所述特征提取模块,进一步用于:
分别对所述元音/a/,/i/,/u/对应的语音样本进行预处理,并提取对应的波形文件中的第一共振峰和第二共振峰;
根据每个所述波形文件的第一共振峰和第二共振峰分别作为横纵坐标绘制封闭的三角形图像;
计算所述三角形图像的面积得到声道运动特征。
在一种可选的实现方式中,所述特征提取模块,进一步用于:
对所述发音范式为朗读预设语料对应的语言样本进行预处理,并提取对应的波形文件中的基频以及振幅特征;
基于所述基频以及振幅特征计算所述韵律以及语速特征。
在一种可选的实现方式中,所述言语功能评估模块,进一步用于:
将所述至少一种发音特征输入训练得到的帕金森诊断模型,得到对应的第一预测结果,所述第一预测结果用于表征所述用户是否患有帕金森。
在一种可选的实现方式中,所述帕金森诊断模型的训练过程包括:
确定包括多个具有第一标注数据的样本发音特征的第一训练集,所述第一标注数据包括正常和帕金森患者,根据对应样本发音特征的发音者确定;
根据所述第一训练集训练预设的分类模型,得到所述帕金森诊断模型。
在一种可选的实现方式中,所述言语功能评估模块,进一步用于:
将所述至少一种发音特征输入训练得到的言语可懂度模型,得到对应的第二预测结果,所述第二预测结果用于表征所述用户言语的可懂程度。
在一种可选的实现方式中,所述言语可懂度模型的训练过程包括:
确定包括多个具有第二标注数据的样本发音特征的第二训练集,所述第二标注数据包括可懂程度;
根据所述第二训练集训练预设的分类模型,得到所述言语可懂度模型。
根据本公开的第二方面,提供了一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为在执行所述存储器存储的指令时,实现上述方法。
根据本公开的第三方面,提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其中,所述计算机程序指令被处理器执行时实现上述方法。
根据本公开的第四方面,提供了一种计算机程序产品,包括计算机可读代码,或者承载有计算机可读代码的非易失性计算机可读存储介质,当所述计算机可读代码在电子设备的处理器中运行时,所述电子设备中的处理器执行上述方法。
在本公开实施例中,言语功能评估装置可以向用户显示和/或播报预设的至少一种用于提示用户发音的发音范式,每种发音范式对应一种发音特征。并采集用户基于至少一种发音范式产生的对应语音样本,根据每种发音范式对应的语言样本进行特征提取得到至少一种发音特征,以基于发音特征评估用户的言语功能。本公开通过至少一种发音范式指导用户发声并提取相应的发音特征,基于多个不同维度的发音特征共同评估用户的言语功能,提高了评估结果的准确性。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。
图1示出根据本公开实施例的一种言语功能评估装置的示意图。
图2示出根据本公开实施例的一种模型训练过程的示意图。
图3示出根据本公开实施例的一种电子设备的示意图。
图4示出根据本公开实施例的另一种电子设备的示意图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
本公开实施例的言语功能评估装置实现的方法可以由终端设备或服务器等电子设备执行。其中,终端设备可以为用户设备(User Equipment,UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字助理(Personal Digital Assistant,PDA)、手持设备、计算设备、车载设备、可穿戴设备等任意固定或移动终端。服务器可以为单独的服务器或多个服务器组成的服务器集群。任意电子设备可以通过处理器调用存储器中存储的计算机可读指令的方式来实现本公开实施例的言语功能评估装置实现的方法。
图1示出根据本公开实施例的一种言语功能评估装置的示意图。如图1所示,本公开实施例的言语功能评估装置可以包括发音提示模块10、语音采集模块11、特征提取模块12和言语功能评估模块13。
在一种可能的实现方式中,本公开实施例的发音提示模块10,用于向用户显示和/或播报预设的至少一种用于提示用户发音的发音范式。其中显示方式可以为通过显示设备向用户显示文本格式、图片格式或视频格式的发音范式,播报方式可以为通过音频播放设备向用户播放音频格式的发音范式。发音范式为用于指导用户发音内容和方式的一种规则,可以包括元音/a/,/i/,/u/、/pa-ta-ka/及/pa/快速重复发音、元音交替/i-u/和朗读预设语料中的至少一种。在每次播报发音范式后,还可以播放对应的示例音频以指导用户准确发音。
可选地,内容为元音/a/,/i/,/u/的发音范式用于指导用户分三次发出/a/,/i/,/u/三个元音,每次发音以正常音量深呼吸后分别发出至力竭,可以通过显示设备或播报设备分三次分别向用户进行提示“请您使用正常音量,深呼吸后发/a/至气竭”、“请您使用正常音量,深呼吸后发/i/至气竭”和“请您使用正常音量,深呼吸后发/u/至气竭”。内容为/pa-ta-ka/及/pa/快速重复发音的发音范式用于指导用户保持发音清晰和适当节奏的情况下,使用正常音量快速且不中断的持续预设时长的发声,可以通过显示设备或播报设备向用户进行提示” 请您使用正常音量,尽量快速发音,并保持发音清晰和适当节奏,发声期间不中断,发音时间持续8秒。内容为元音交替/i-u/的发音范式用于指导用户使用正常音量快速并保持/i/和/u/交替发音的清晰和节奏感,不间断的在预设时长内持续发声,可以通过显示设备或播报设备向用户进行提示“请您使用正常音量,快速并尽量保持/i/和/u/交替发音的清晰和节奏感,发声期间不中断,发音时间持续6秒”。内容为朗读预设语料的发音范式用于指导用户使用正常音量、正常语速和正常节奏朗读预设语料的内容,可以通过显示设备或播报设备向用户进行提示“请您使用正常音量,正常语速及节奏朗读本段天气预报内容”。为了保证正确对用户发声进行指导,本公开实施例在播报发音范式后,还可以播报对应的示例音频。其中,示例音频通过以预设条件录制健康用户发声得到,预设条件可以包括采用特定麦克风、麦克风与用户嘴唇的距离特定以及重复录音预设次数。
进一步地,本公开实施例的每种发音范式对应一种发音特征,发音特征可以包括发音轮替节律、共振峰转换特征、音调及响度特征、声道运动特征和韵律及语速特征中的至少一种。其中,元音/a/,/i/,/u/与声道运动特征对应,/pa-ta-ka/及/pa/快速重复发音与发音轮替节律对应,元音交替/i-u/与共振峰转换特征对应,朗读预设语料与韵律以及语速特征对应,元音/a/与音调及响度特征对应。每种发音特征可以通过对应的发音范式采集的语音提取得到。
在一种可能的实现方式中,本公开实施例的语音采集模块11用于采集用户基于上述至少一种发音范式产生的对应语音样本。可选地,用户可以基于每种发音范式产生至少一种语音样本。例如,对于内容为元音/a/,/i/,/u/的发音范式,可以确定三种语音样本,其内容分别为元音/a/、元音/i/和元音/u/。即可以在确定至少一种发音范式后,由用户根据每种发音范式发出至少一种声音,通过语音采集模块采集用户发出的每种声音得到对应的语言样本。
可选地,采集用户对应语音样本的过程需要满足预设的语音采集条件。其中,语音采集条件可以包括在安静环境下进行语音采集、根据预设参数的话筒进行语音采集、话筒固定在用户右侧脸颊距离唇部预设距离位置采集。进一步地,可以在采集语音样本后将原始数据作为备份存储,再进一步转换为单声道数据后以预设的分辨率、频率以及数据格式存储。
在一种可能的实现方式中,本公开实施例的特征提取模块12用于根据每种发音范式对应的语音样本进行特征提取,得到至少一种发音特征。其中,特征提取的过程基于发音范式与发音特征的对应关系实现。示例性地,在元音/a/,/i/,/u/与声道运动特征对应,/pa-ta-ka/及/pa/快速重复发音与发音轮替节律对应,元音交替/i-u/与共振峰转换特征对应,朗读预设语料与韵律以及语速特征对应,元音/a/与音调及响度特征对应的情况下,可以根据元音/a/,/i/,/u/对应的三个语音样本提取声道运动特征,根据/pa-ta-ka/及/pa/快速重复发音对应的语音样本提取发音轮替节律,根据元音交替/i-u/对应的语音样本提取共振峰转换特征,根据朗读预设语料对应的语音样本提取韵律以及语速特征,根据元音/a/对应的语音样本提取音调及响度特征。
可选地,本公开实施例基于pa-ta-ka/及/pa/快速重复发音对应的语音样本提取发音轮替节律的过程可以包括:对/pa-ta-ka/及/pa/快速重复发音对应的语音样本进行预处理后,提取波形文件对应的采样频率和语音样本时长,再基于采样频率和语音样本时长计算得到发音轮替节律。其中,可以先通过描绘导入语音样本对应的原始波形,对原始波形进行裁剪、降采样以及滤波中至少一项处理后,得到处理后的波形文件并提取其中的采样频率和语音样本时长,通过公式计算得到轮替节律。进一步地,发音轮替节律可以包括至少一种特征指标,例如可以包括轮替节律平均周期、轮替节律平均发音速度、轮替节律周期标准偏差、轮替节律周期变异系数、平均轮替节律峰值强度、峰值强度的标准偏差、峰值强度变异系数、峰值强度最大值、平均振幅强度和平均音节强度。轮替节律平均周期用于表征用户在轮替发音期间的平均基频,轮替节律平均发音速度为每秒的发声次数,轮替节律周期标准偏差表征用户保持稳定周期性发音的能力,轮替节律周期变异系数可以通过(标准偏差/平均周期)×100%计算得到,平均轮替节律峰值强度可以表征振幅或响度,平均振幅强度为整体样本的平均振幅强度,平均音节强度为整体样本的平均音节强度。本公开实施例确定的发音轮替节律可以表征快速轮替发音时用户维持音量的口腔运动能力。
可选地,本公开实施例基于元音交替/i-u/对应的语音样本提取共振峰转换特征的过程可以包括:对元音交替/i-u/对应的语音样本进行预处理后,确定波形文件对应的第二共振峰的起止和波峰位置,再根据第二共振峰的起止和波峰位置确定对应的共振峰转换特征。其中,可以先通过描绘导入元音/i/和/u/分别的语音样本对应的原始波形,对原始波形进行裁剪、降采样、滤波以及手动校正中至少一项处理后,得到处理后的波形文件并提取每个波形文件中第二共振峰的起止和波峰位置,并确定共振峰转换特征。进一步地,共振峰转换特征可以包括第二共振峰变化幅度、第二共振峰变化率、第二共振峰变异系数、第二共振峰平均值、第二共振峰最小值和第二共振峰最大值。第二共振峰变化幅度为不同元音发音时第二共振峰的峰值幅度变化,反应发音器官的运动性。第二共振峰变化率表征反应被试切换/I/和/U/的速度,从而反应发音器官的运动性。第二共振峰变异系数用于评估被试在元音发音不同位置之间保持规律的周期性过渡的能力。第二共振峰平均值用于帕金森病人与健康被试相对比,其发音器官可能处于异常位置。
可选地,本公开实施例基于元音/a/提取音调及响度特征的过程可以包括:对元音/a/对应的语音样本进行预处理后,确定波形文件对应的基频和振幅信息。根据基频和振幅信息确定音调及响度特征。其中,可以先通过描绘导入元音/a/语音样本对应的原始波形,对原始波形进行裁剪、降采样、滤波以及手动校正中至少一项处理后,得到处理后的波形文件并提取波形文件的基频和振幅信息,并确定音调及响度特征。进一步地,音调及响度特征中可以包括基频、最高基频、最低基频、基频标准差、基频变异率、振幅、振幅最大值、振幅最小值、振幅标准差和振幅变异率中至少一种特征参数。基频用于表征复音中基音的频率。在构成一个复音的若干个音中,基音频率最低,强度最大。其高低决定一个音的高低。最高基频为用户整体发音基频的最大值。最低基频为用户整体发音基频的最小值。基频标准差用于反应基频平均值的波动范围。基频变异率可以通过(基频标准差/ 基频平均值) x100%计算得到。振幅可以为总体语音平均振幅。振幅最大值为用户整体发音振幅最大值。振幅最小值为用户整体发音振幅最小值。振幅标准差为语音振幅平均值的波动范围。振幅变异率可以通过(振幅标准差/ 平均振幅) x 100%计算得到。
可选地,本公开实施例基于元音/a/,/i/,/u/对应的三个语音样本提取声道运动特征的过程可以包括:分别对元音/a/,/i/,/u/对应的语音样本进行预处理,并提取对应的波形文件中的第一共振峰和第二共振峰,根据每个波形文件的第一共振峰和第二共振峰分别作为横纵坐标绘制封闭的三角形图像,计算三角形图像的面积得到声道运动特征。其中,可以先通过描绘导入元音/a/,/i/,/u/三种语音样本分别对应的原始波形,对原始波形进行裁剪、降采样、滤波以及手动校正中至少一项处理后,得到处理后的波形文件并提取对应的波形文件中的第一共振峰和第二共振峰,根据每个波形文件的第一共振峰和第二共振峰分别作为横纵坐标绘制封闭的三角形图像,计算三角形图像的面积得到声道运动特征。进一步地,声道运动特征可以包括元音/a/第一共振峰、元音/a/第二共振峰、元音/i/第一共振峰、元音/i/第二共振峰、元音/u/第一共振峰、元音/u/第二共振峰和元音三角面积七种特征参数。元音/a/第一共振峰为元音/a/最强振幅的直线频谱,元音/a/第二共振峰为元音/a/的其次强振幅,元音/i/第一共振峰为元音/i/最强振幅的直线频谱,元音/i/第二共振峰为元音/i/的其次强振幅,元音/u/第一共振峰为元音/u/最强振幅的直线频谱,元音/u/第二共振峰为元音/u/的其次强振幅,元音三角面积为三个元音共同组成的三角形面积,反应患者发音时声道的物理特性。
可选地,本公开实施例基于朗读预设语料对应的语音样本提取韵律以及语速特征的过程可以包括:对发音范式为朗读预设语料对应的语言样本进行预处理,并提取对应的波形文件中的基频以及振幅特征。基于基频以及振幅特征计算韵律以及语速特征。其中,语音样本可以为用户无情感波动段落朗读预设语料情况下采集的语音,可以先通过描绘导入语音样本对应的原始波形,对原始波形进行裁剪、降采样、滤波以及手动校正中至少一项处理后,得到处理后的波形文件并提取波形文件的基频以及振幅特征。基于基频以及振幅特征计算韵律以及语速特征。进一步地,韵律以及语速特征可以包括以下至少一种特征参数:动态语音的平均基频,为段落阅读时复杂声音中最低且最强的频率,是动态阅读的声音的基础音调。动态语音的最高基频,为用户动态阅读整体段落发音基频的最大值。动态语音的最低基频,为用户动态阅读整体段落发音基频的最小值。动态语音的标准差,反应动态阅读整体基频平均值的波动范围。动态语音的频率变异性,可以通过(基频标准差/ 基频平均值) x 100%计算得到。动态语音的振幅变异性,可以通过(振幅标准差/ 振幅平均值) x100%计算得到。总体发音时长,为动态阅读总体时长。段落停顿次数,为动态阅读时停顿的次数。平均发音速度,为单位时间内发音的音节个数,反应讲话速度的快慢。平均发音时长,为动态阅读时发音时长。平均停顿时长,为动态阅读时停顿时长。发音时长百分比,为动态阅读时发音时长占阅读总体时长的百分比。停顿时长百分比,为动态阅读时停顿时长占阅读总体时长的百分比。
在一种可能的实现方式中,本公开实施例的言语功能评估模块13用于基于至少一种发音特征评估用户的言语功能。可选地,评估用户言语功能的过程可以通过预先训练得到的分类模型基于至少一种发音特征实现,即可以将至少一种发音特征输入预先训练得到的分类模型中,输出对应的言语功能评估结果。示例性地,本公开实施例的分类模型可以包括帕金森诊断模型和/或言语可懂度模型,分别用于根据用户言语功能直接诊断帕金森疾病,以及分析用户的言语可懂程度。
可选地,本公开实施例可以将至少一种发音特征输入训练得到的帕金森诊断模型,得到对应的第一预测结果,第一预测结果用于表征用户是否患有帕金森。其中,帕金森诊断模型的训练过程可以为确定包括多个具有第一标注数据的样本发音特征的第一训练集,第一标注数据包括正常和帕金森患者,根据对应样本发音特征的发音者确定。根据第一训练集训练预设的分类模型,得到帕金森诊断模型。即可以通过正常用户和患有帕金森的用户分别基于预设的至少一种发音范式发音,并提取对应的样本发音特征,将用户的类型作为样本发音特征对应的第一标注数据构建第一训练集。
进一步地,本公开实施例的帕金森诊断模型可以从线性支持向量机、RBF支持向量机、高斯过程、决策树、随机森林、神经网络、AdaBoost、朴素贝叶斯和QDA等十种模型中筛选得到。其中,筛选的过程可以为将第一训练集划分为训练数据和测试数据,通过训练数据分别训练每个模型后,通过测试数据进行5折交叉验证,并为每一次折叠生成ROC曲线,真阳性率(TPR)与假阳性率(FPR)作为横纵坐标,再计算平均ROC曲线,并使用相应的曲线下面积(AUC)作为测试模型性能的衡量标准,正常=0,帕金森病=1。最后根据每个分类模型的ROC曲线评估效果最高的模型作为帕金森诊断模型。
可选地,本公开实施例还可以将至少一种发音特征输入训练得到的言语可懂度模型,得到对应的第二预测结果,第二预测结果用于表征用户言语的可懂程度。言语可懂度模型的训练过程可以为,先确定包括多个具有第二标注数据的样本发音特征的第二训练集,第二标注数据包括可懂程度。再根据第二训练集训练预设的分类模型,得到言语可懂度模型。其中,第二训练集中的样本发音特征也可以通过正常用户和患有帕金森的用户分别基于预设的至少一种发音范式发音,并进行特征提取的方式确定。每个样本发音特征的第二标注数据可以通过人工识别的方式确定。例如可以由每个样本发音特征对应的用户向医生讲预设数量的音节或单词,并根据医生听懂的音节或者单词数量占全部音节或单词的比例确定对应的第二标注数据。
进一步地,本公开实施例的言语可懂度模型可以为支持向量机(Support VectorMachines, SVM),训练过程可以为将第二训练集划分为训练数据和测试数据,保证两组数据无显著差异,再使用训练数据训练SVM模型,再使用SVM模型对测试集进行回归得到训练好的言语可懂度模型。
在一种可能的实现方式中,为了提高机器学习的性能,由于不同维度的样本发音特征可能存在差异,可以通过z变化对不同样本发音特征的值进行归一化,以使一般线性模型GLM的斜率β具有可比性。进一步对所有β值在进行机器学习之前进行了样本发音特征选择,根据 GLM 计算每个样本发音特征的归一化β值,然后按降序排列每个归一化的β绝对值。归一化值的绝对值越大,样本发音特征与分类的β相关性越大。用户将基本信息(性别、年龄、体重、身高)和两个具有最大值的β纳入模型,然后不断重复此过程,直到所有样本发音特征都包含在模型中。同时,模型可以选择使用RBF Kernel进行(设置maximumgeneration, 200; population size, 20; cost range, 0, 100; gamma range, 0,1000),该内核可将样本非线性数据映射到更高维空间,因此与线性内核不同,它可以处理类标签和属性之间的关系是非线性的情况。最佳语音特征集定义为模型在所有模型中使用该特征集实现最小均方根差(MSE)的特征集。然后使用这些特征建立的模型来预测测试数据。特征选择过程仅在训练数据中执行,这可以消除选择偏差对机器学习的影响。
图2示出根据本公开实施例的一种模型训练过程的示意图。如图2所示,本公开实施例可以通过同一用户群体确定的样本发音特征分别训练两种模型。示例性地,可以先确定发音范式20,并获取多个用户基于该发音范式20产生的语音样本21,再根据语音样本21提取样本发音特征22。进一步地,根据样本发音特征22和用户的类型,即健康或者帕金森确定第一训练集23,以训练得到帕金森诊断模型25。根据样本发音特征22和用户的言语可懂度构建第二训练集24,以训练得到言语可懂度模型26,分别用于识别用户是否为帕金森患者以及用于识别用户的言语可懂度。
基于上述技术特征,本公开实施例可以通过至少一种发音范式指导用户发声并提取相应的发音特征,基于多个不同维度的发音特征共同评估用户的言语功能,提高了评估结果的准确性。同时,本公开实施例通过训练得到的深度学习模型评估用户的言语功能,能够快速准确的评估用户是否为帕金森患者,以及快速准确的判断用户言语的可懂程度。进一步地可以通过深度学习模型减少疾病诊断过程中人工分析的工作量,提高帕金森病早期诊断的准确率与效率,降低帕金森病言语评估所需的人力物力。
在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
本公开实施例还提出一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是易失性或非易失性计算机可读存储介质。
本公开实施例还提出一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为在执行所述存储器存储的指令时,实现上述方法。
本公开实施例还提供了一种计算机程序产品,包括计算机可读代码,或者承载有计算机可读代码的非易失性计算机可读存储介质,当所述计算机可读代码在电子设备的处理器中运行时,所述电子设备中的处理器执行上述方法。
图3示出根据本公开实施例的一种电子设备800的示意图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图3,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出接口812(I/O接口),传感器组件814,以及通信组件816。
处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
输入/输出接口812(I/O接口)为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到电子设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器804,上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
图4示出根据本公开实施例的另一种电子设备1900的示意图。例如,电子设备1900可以被提供为一服务器或终端设备。参照图4,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统,例如WindowsServerTM,Mac OS XTM,UnixTM, LinuxTM,FreeBSDTM或类似。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器1932,上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (12)
1.一种言语功能评估装置,其特征在于,所述装置包括:
发音提示模块,用于向用户显示和/或播报预设的至少一种用于提示用户发音的发音范式,每种所述发音范式对应一种发音特征;
语音采集模块,用于采集所述用户基于所述至少一种发音范式产生的对应语音样本;
特征提取模块,用于根据每种所述发音范式对应的语言样本进行特征提取,得到至少一种发音特征;
言语功能评估模块,用于基于所述至少一种发音特征评估所述用户的言语功能;
所述发音范式包括:
元音/a/,/i/,/u/、/pa-ta-ka/及/pa/快速重复发音、元音交替/i-u/和朗读预设语料中的至少一种;
所述发音特征包括发音轮替节律、共振峰转换特征、音调及响度特征、声道运动特征和韵律及语速特征中的至少一种,所述元音/a/,/i/,/u/与所述声道运动特征对应,所述/pa-ta-ka/及/pa/快速重复发音与所述发音轮替节律对应,所述元音交替/i-u/与所述共振峰转换特征对应,所述朗读预设语料与所述韵律以及语速特征对应,所述元音/a/与所述音调及响度特征对应。
2.根据权利要求1所述的装置,其特征在于,所述特征提取模块,进一步用于:
对所述/pa-ta-ka/及/pa/快速重复发音对应的语音样本进行预处理后,提取波形文件对应的采样频率和语音样本时长;
基于所述采样频率和所述语音样本时长计算得到发音轮替节律。
3.根据权利要求1或2所述的装置,其特征在于,所述特征提取模块,进一步用于:
对所述元音交替/i-u/对应的语音样本进行预处理后,确定波形文件对应的第二共振峰的起止和波峰位置;
根据所述第二共振峰的起止和波峰位置确定对应的共振峰转换特征。
4.根据权利要求3所述的装置,其特征在于,所述特征提取模块,进一步用于:
对所述元音/a/对应的语音样本进行预处理后,确定波形文件对应的基频和振幅信息;
根据所述基频和振幅信息确定音调及响度特征。
5.根据权利要求1所述的装置,其特征在于,所述特征提取模块,进一步用于:
分别对所述元音/a/,/i/,/u/对应的语音样本进行预处理,并提取对应的波形文件中的第一共振峰和第二共振峰;
根据每个所述波形文件的第一共振峰和第二共振峰分别作为横纵坐标绘制封闭的三角形图像;
计算所述三角形图像的面积得到声道运动特征。
6.根据权利要求1所述的装置,其特征在于,所述特征提取模块,进一步用于:
对所述发音范式为朗读预设语料对应的语言样本进行预处理,并提取对应的波形文件中的基频以及振幅特征;
基于所述基频以及振幅特征计算所述韵律以及语速特征。
7.根据权利要求1所述的装置,其特征在于,所述言语功能评估模块,进一步用于:
将所述至少一种发音特征输入训练得到的帕金森诊断模型,得到对应的第一预测结果,所述第一预测结果用于表征所述用户是否患有帕金森。
8.根据权利要求7所述的装置,其特征在于,所述帕金森诊断模型的训练过程包括:
确定包括多个具有第一标注数据的样本发音特征的第一训练集,所述第一标注数据包括正常和帕金森患者,根据对应样本发音特征的发音者确定;
根据所述第一训练集训练预设的分类模型,得到所述帕金森诊断模型。
9.根据权利要求1所述的装置,其特征在于,所述言语功能评估模块,进一步用于:
将所述至少一种发音特征输入训练得到的言语可懂度模型,得到对应的第二预测结果,所述第二预测结果用于表征所述用户言语的可懂程度。
10.根据权利要求9所述的装置,其特征在于,所述言语可懂度模型的训练过程包括:
确定包括多个具有第二标注数据的样本发音特征的第二训练集,所述第二标注数据包括可懂程度;
根据所述第二训练集训练预设的分类模型,得到所述言语可懂度模型。
11.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为在执行所述存储器存储的指令时,实现权利要求1至10中任意一项所述的装置。
12.一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至10中任意一项所述的装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311322789.8A CN117059133B (zh) | 2023-10-13 | 2023-10-13 | 言语功能评估装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311322789.8A CN117059133B (zh) | 2023-10-13 | 2023-10-13 | 言语功能评估装置、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117059133A CN117059133A (zh) | 2023-11-14 |
CN117059133B true CN117059133B (zh) | 2024-01-26 |
Family
ID=88654006
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311322789.8A Active CN117059133B (zh) | 2023-10-13 | 2023-10-13 | 言语功能评估装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117059133B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105982641A (zh) * | 2015-01-30 | 2016-10-05 | 上海泰亿格康复医疗科技股份有限公司 | 一种言语语言听觉障碍多参数诊疗康复设备及云康复系统 |
EP3200188A1 (en) * | 2016-01-27 | 2017-08-02 | Telefonica Digital España, S.L.U. | Computer implemented methods for assessing a disease through voice analysis and computer programs thereof |
CN109192221A (zh) * | 2018-03-30 | 2019-01-11 | 大连理工大学 | 一种基于聚类的使用语音判断帕金森严重程度检测方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU2014374349B2 (en) * | 2013-10-20 | 2017-11-23 | Massachusetts Institute Of Technology | Using correlation structure of speech dynamics to detect neurological changes |
US20220335939A1 (en) * | 2021-04-19 | 2022-10-20 | Modality.AI | Customizing Computer Generated Dialog for Different Pathologies |
-
2023
- 2023-10-13 CN CN202311322789.8A patent/CN117059133B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105982641A (zh) * | 2015-01-30 | 2016-10-05 | 上海泰亿格康复医疗科技股份有限公司 | 一种言语语言听觉障碍多参数诊疗康复设备及云康复系统 |
EP3200188A1 (en) * | 2016-01-27 | 2017-08-02 | Telefonica Digital España, S.L.U. | Computer implemented methods for assessing a disease through voice analysis and computer programs thereof |
CN109192221A (zh) * | 2018-03-30 | 2019-01-11 | 大连理工大学 | 一种基于聚类的使用语音判断帕金森严重程度检测方法 |
Non-Patent Citations (2)
Title |
---|
Phonation and Articulation Analyses in Laryngeal Pathologies, Cleft Lip and Palate, and Parkinson’s Disease;J.C. Jim´enez-Monsalve, J.C. V´asquez-Correa, J.R. Orozco-Arroyave, and P. Gomez-Vilda;Biomedical applications based on natural and artifical computing;第10338卷;全文 * |
面向帕金森病语音诊断的非监督两步式卷积稀疏迁移学习算法;张小恒;电子学报;第50卷(第1期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN117059133A (zh) | 2023-11-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Eyben et al. | The Geneva minimalistic acoustic parameter set (GeMAPS) for voice research and affective computing | |
US11380351B2 (en) | System and method for pulmonary condition monitoring and analysis | |
Baghai-Ravary et al. | Automatic speech signal analysis for clinical diagnosis and assessment of speech disorders | |
US20170263245A1 (en) | Conversation analyzing device, conversation analyzing method, and program | |
JP2017532082A (ja) | 患者の精神状態のスピーチベース評価のためのシステム | |
CN108806722A (zh) | 用于自动情感状态推断的方法和自动化情感状态推断系统 | |
CN111583944A (zh) | 变声方法及装置 | |
US12119022B2 (en) | Cognitive assistant for real-time emotion detection from human speech | |
US10789966B2 (en) | Method for evaluating a quality of voice onset of a speaker | |
Daudet et al. | Portable mTBI assessment using temporal and frequency analysis of speech | |
CN113488022B (zh) | 一种语音合成方法和装置 | |
JP2015068897A (ja) | 発話の評価方法及び装置、発話を評価するためのコンピュータプログラム | |
Du et al. | Depression recognition using a proposed speech chain model fusing speech production and perception features | |
US20180197535A1 (en) | Systems and Methods for Human Speech Training | |
Cychosz et al. | Spectral and temporal measures of coarticulation in child speech | |
CN115148185A (zh) | 语音合成方法及装置、电子设备及存储介质 | |
Parra-Gallego et al. | Automatic intelligibility assessment of Parkinson’s disease with diadochokinetic exercises | |
Motin et al. | Parkinson’s disease detection using smartphone recorded phonemes in real world conditions | |
CN112151072B (zh) | 语音处理方法、装置和介质 | |
Kim et al. | Combination of Multiple Speech Dimensions for Automatic Assessment of Dysarthric Speech Intelligibility. | |
CN117059133B (zh) | 言语功能评估装置、电子设备和存储介质 | |
Jain et al. | SoundWatch: deep learning for sound accessibility on smartwatches | |
Singh et al. | Automatic articulation error detection tool for Punjabi language with aid for hearing impaired people | |
Yadav et al. | Portable neurological disease assessment using temporal analysis of speech | |
Anzola et al. | Goodness of pronunciation algorithm in the speech analysis and assessment for detecting errors in acoustic phonetics: An exploratory review |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |