CN112668340A - 一种信息处理方法及装置 - Google Patents
一种信息处理方法及装置 Download PDFInfo
- Publication number
- CN112668340A CN112668340A CN202011595185.7A CN202011595185A CN112668340A CN 112668340 A CN112668340 A CN 112668340A CN 202011595185 A CN202011595185 A CN 202011595185A CN 112668340 A CN112668340 A CN 112668340A
- Authority
- CN
- China
- Prior art keywords
- text
- semantics
- dialect
- language
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 19
- 238000003672 processing method Methods 0.000 title claims abstract description 15
- 238000012549 training Methods 0.000 claims description 91
- 238000000034 method Methods 0.000 claims description 30
- 230000015654 memory Effects 0.000 claims description 19
- 238000012545 processing Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 14
- 238000004891 communication Methods 0.000 description 10
- 238000004590 computer program Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 238000013528 artificial neural network Methods 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 230000005291 magnetic effect Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000007726 management method Methods 0.000 description 3
- 241001672694 Citrus reticulata Species 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 241001575999 Hakka Species 0.000 description 1
- 235000016278 Mentha canadensis Nutrition 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Landscapes
- Machine Translation (AREA)
Abstract
本申请示出了一种信息处理方法及装置。可以识别方言文本在标准语中对应的标准语文本。然后可以识别方言文本分别属于各个类别的语义的第一候选概率。识别由方言文本以及标准语文本组成的文本分别属于各个类别的语义的第二候选概率。识别标准语文本分别属于各个类别的语义的第三候选概率。根据第一候选概率、第二候选概率以及第三候选概率确定方言文本分别属于各个类别的语义的目标概率。输出目标概率最高的类别的语义。其中,在语义识别模型中,通过上述方式中对方言文本以及标准语文本进行多维度的考量,并结合多维度考量后的结果来综合确定方言文本的语义,可以提高确定出的方言文本的语义的准确率。
Description
技术领域
本申请涉及计算机技术领域,特别是涉及一种信息处理方法及装置。
背景技术
随着互联网技术的迅速发展,以及信息化程度的日益提高,为减少人力投入而采用机器自动化地对文本进行语义识别逐渐成为研究热点。
目前,主要利用标注有语义的训练文本对神经网络进行训练,然后利用训练的神经网络进行后续的语义识别任务。
然而,发明人发现,训练过程中使用的训练文本通常是标准语(例如普通话等)的训练文本,如此,训练出的神经网络可以对标准语的文本的语义进行识别。
但是如果向神经网络输入的是非标准语(方言)的文本,训练出的神经网络对非标准语(方言)的文本的语义的识别的准确率往往较低。
如此,如何提高对非标准语(方言)的文本的语义的识别的准确率是一个亟待解决的技术问题。
发明内容
本申请示出了一种信息处理方法及装置。
第一方面,本申请示出了一种信息处理方法,所述方法包括:
获取方言文本,识别所述方言文本的语言种类;
将所述方言文本以及所述语言种类输入语义识别模型中;其中,在所述语义识别模型中,根据所述语言种类识别所述方言文本在标准语中对应的标准语文本;根据所述语言种类识别所述方言文本分别属于各个类别的语义的第一候选概率;根据所述语言种类识别由所述方言文本以及所述标准语文本组成的文本分别属于各个类别的语义的第二候选概率;识别所述标准语文本分别属于各个类别的语义的第三候选概率;根据所述第一候选概率、所述第二候选概率以及所述第三候选概率确定所述方言文本分别属于各个类别的语义的目标概率;输出目标概率最高的类别的语义;
获取所述语义识别模型输出的语义,并作为所述方言文本的语义。
在一个可选的实现方式中,所述根据所述第一候选概率、所述第二候选概率以及所述第三候选概率确定所述方言文本分别属于各个类别的语义的目标概率,包括:
对于任意一个类别的语义,对所述方言文本属于所述类别的语义的第一候选概率,由所述方言文本以及所述标准语文本组成的文本属于所述类别的语义的第二候选概率以及所述标准语文本属于所述类别的语义的第三候选概率进行加权求和,得到所述方言文本属于所述类别的语义的目标概率。
在一个可选的实现方式中,所述语义识别模型的训练方式包括:
获取多个第一数据集,每一个第一数据集包括标注有语义的标准语训练文本;
使用所述多个第一数据集对初始化模型训练,得到第一模型;
获取第二数据集,每一个第二数据集包括标注有语义的标准语训练文本、标注有语义的方言训练文本以及方言训练文本的语言种类,同一个第二数据集中的标准语训练文本的标注的语义与方言训练文本的标注的语义相同;
使用所述多个第二数据集对所述第一模型训练,得到第二模型;
获取多个第三数据集,每一个第三数据集包括标注有语义的方言训练文本以及方言训练文本的语言种类;
使用所述多个第三数据集对所述第二模型训练,直至所述第二模型中的参数收敛,得到所述语义识别模型。
在一个可选的实现方式中,所述识别所述方言文本的语言种类,包括:
在所述方言文本是通过对语音识别而得到的情况下,基于语言种类识别模型识别所述语音的语言种类,并作为所述方言文本的语言种类。
在一个可选的实现方式中,所述识别所述方言文本的语言种类,包括:
在所述方言文本是从网页中截取而得到的情况下,根据所述网页中的内容确定所述方言文本的语言种类。
第二方面,本申请示出了一种信息处理装置,所述装置包括:
第一获取模块,用于获取方言文本;
第一识别模块,用于识别所述方言文本的语言种类;
输入模块,用于将所述方言文本以及所述语言种类输入语义识别模型中;
第二识别模块,用于在所述语义识别模型中,根据所述语言种类识别所述方言文本在标准语中对应的标准语文本;第三识别模块,用于根据所述语言种类识别所述方言文本分别属于各个类别的语义的第一候选概率;第四识别模块,用于根据所述语言种类识别由所述方言文本以及所述标准语文本组成的文本分别属于各个类别的语义的第二候选概率;第五识别模块,用于识别所述标准语文本分别属于各个类别的语义的第三候选概率;确定模块,用于根据所述第一候选概率、所述第二候选概率以及所述第三候选概率确定所述方言文本分别属于各个类别的语义的目标概率;输出模块,用于输出目标概率最高的类别的语义;
第二获取模块,用于获取所述语义识别模型输出的语义,并作为所述方言文本的语义。
在一个可选的实现方式中,所述确定模块具体用于:对于任意一个类别的语义,对所述方言文本属于所述类别的语义的第一候选概率,由所述方言文本以及所述标准语文本组成的文本属于所述类别的语义的第二候选概率以及所述标准语文本属于所述类别的语义的第三候选概率进行加权求和,得到所述方言文本属于所述类别的语义的目标概率。
在一个可选的实现方式中,所述装置还包括:
第三获取模块,用于获取多个第一数据集,每一个第一数据集包括标注有语义的标准语训练文本;
第一训练模块,用于使用所述多个第一数据集对初始化模型训练,得到第一模型;
第四获取模块,用于获取第二数据集,每一个第二数据集包括标注有语义的标准语训练文本、标注有语义的方言训练文本以及方言训练文本的语言种类,同一个第二数据集中的标准语训练文本的标注的语义与方言训练文本的标注的语义相同;
第二训练模块,用于使用所述多个第二数据集对所述第一模型训练,得到第二模型;
第五获取模块,用于获取多个第三数据集,每一个第三数据集包括标注有语义的方言训练文本以及方言训练文本的语言种类;
第三训练模块,用于使用所述多个第三数据集对所述第二模型训练,直至所述第二模型中的参数收敛,得到所述语义识别模型。
在一个可选的实现方式中,所述第一识别模块具体用于:在所述方言文本是通过对语音识别而得到的情况下,基于语言种类识别模型识别所述语音的语言种类,并作为所述方言文本的语言种类。
在一个可选的实现方式中,所述第二识别模块具体用于:在所述方言文本是从网页中截取而得到的情况下,根据所述网页中的内容确定所述方言文本的语言种类。
第三方面,本申请示出了一种电子设备,所述电子设备包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行如第一方面所述的信息处理方法。
第四方面,本申请示出了一种非临时性计算机可读存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行如第一方面所述的信息处理方法。
第五方面,本申请示出了一种计算机程序产品,当所述计算机程序产品中的指令由电子设备的处理器执行时,使得电子设备能够执行如第一方面所述的信息处理方法。
本申请提供的技术方案可以包括以下有益效果:
通过本申请,在得到方言文本以及方言文本的语言种类的情况下,可以借助已训练的语义识别模型识别方言文本的语义,其中,在语义识别模型中,根据语言种类识别方言文本在标准语中对应的标准语文本。然后可以结合方言文本以及标准语文本来确定方言文本的语义,例如,可以根据语言种类识别方言文本分别属于各个类别的语义的第一候选概率。根据语言种类识别由方言文本以及标准语文本组成的文本分别属于各个类别的语义的第二候选概率。识别标准语文本分别属于各个类别的语义的第三候选概率。再根据第一候选概率、第二候选概率以及第三候选概率确定方言文本分别属于各个类别的语义的目标概率。输出目标概率最高的类别的语义。其中,在语义识别模型中,通过上述方式中对方言文本以及标准语文本进行多维度的考量,并结合多维度考量后的结果来综合确定方言文本的语义,可以提高确定出的方言文本的语义的准确率。
附图说明
图1是本申请的一种信息处理方法的步骤流程图。
图2是本申请的一种信息处理装置的结构框图。
图3是本申请示出的一种电子设备的框图。
图4是本申请示出的一种电子设备的框图。
具体实施方式
为使本申请的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本申请作进一步详细的说明。
参照图1,示出了本申请的一种信息处理方法的步骤流程图,该方法应用于电子设备,该方法具体可以包括如下步骤:
在步骤S101中,获取方言文本。
在本申请一个实施例中,电子设备可以基于麦克风采集用户说出的方言语音,然后可以使用voice-to-text(语音转文本)技术将用户说出的方言语音转换为方言文本。
在本申请另一个实施例中,可以获取用户在电子设备上直接输入的方言文本,例如,方言文本可以是在电子设备显示的网页上的输入框输入的,或者,是在电子设备显示的网页上手动圈选的等。
在步骤S102中,识别方言文本的语言种类。
在本申请一个实施例中,在方言文本是通过对语音识别而得到的情况下,可以基于语言种类识别模型识别语音的语言种类,并作为方言文本的语言种类。
在一个方式中,语言种类识别模型可以使用市面上已存在的模型。
或者,在另一个方式中,事先可以训练语言种类识别模型,具体的训练方式包括:
获取训练语音集合,训练语音集合中包括多个标注有语言种类的样本方言语音,使用训练语音集合对初始化模型训练,直至初始化模型中的参数收敛,从而得到语言种类识别模型。
其中,初始化模型可以包括CNN(Convolutional Neural Networks,卷积神经网络)、LSTM(Long Short-Term Memory,长短期记忆网络)或RNN(Recurrent NeuralNetwork,循环神经网络)等等,本申请对此不加以限定。
在本申请另一个实施例中,在方言文本是从网页中截取而得到的情况下,可以根据网页中的内容确定方言文本的语言种类,例如,在一个页面中包括多个方言文本的情况下,通常一个页面中的方言文本的语言种类是相同的。例如,如果网页的URL中包括某一个语言种类对应的关键词,则可以将该关键词对应的该语言种类确定为方言文本的语言种类。例如,假设网页的URL为“www.aaa.com/yueyupindao”,其中“yueyupindao”用于表示“粤语频道”,“yueyupindao”中的“yueyu”为“粤语”的关键词,这样,如果方言文本是从该网页中得到的,则可以将关键词“yueyu”对应的语言种类“粤语”作为方言文本的语言种类,也即,方言文本的语言种类为粤语。
在步骤S103中,将方言文本以及语言种类输入语义识别模型中。
在本申请一个实施例中,事先可以训练语义识别模型,训练方式包括:
11)、获取多个第一数据集,每一个第一数据集包括标注有语义的标准语训练文本。
标准语训练文本包括通过汉语的普通话描述的文本等。
12)、使用多个第一数据集对初始化模型训练,得到第一模型。
如此,第一模型具有单独识别标准语文本的语义的能力。
13)、获取第二数据集,每一个第二数据集包括标注有语义的标准语训练文本、标注有语义的方言训练文本以及方言训练文本的语言种类,同一个第二数据集中的标准语训练文本的标注的语义与方言训练文本的标注的语义相同。
方言包括汉语中的不同地区具有各自特色的语言,例如,粤语、闽南语以及客家语等。
14)、使用多个第二数据集对第一模型训练,得到第二模型。
如此,第二模型不仅具有识别标准语文本的语义的能力,还具有同时识别标准语文本以及方言文本组成的文本的语义的能力,其中,识别的标准语文本的语义与方言文本的语义客观上相同。其次,第二模型还具有将标准语文本翻译为方言文本的能力,以及将方言文本翻译为标准语文本的能力。
将标准语文本翻译为方言文本以及将方言文本翻译为标准语文本时,由于是使用模型来处理,如此可以考虑到语境以及一词多意等因素,从而可以提高翻译的精准度。
15)、获取多个第三数据集,每一个第三数据集包括标注有语义的方言训练文本以及方言训练文本的语言种类。
多个第三数据集中的训练文本可以涵盖多个语言种类的方言训练文本。
16)、使用多个第三数据集对第二模型训练,直至第二模型中的参数收敛,得到语义识别模型。
如此,第三模型不仅具有单独识别标准语文本的语义的能力,具有同时识别标准语文本以及方言文本组成的文本的语义的能力,其中,识别的标准语文本的语义与方言文本的语义客观上相同,具有将标准语文本翻译为方言文本的能力,将方言文本翻译为标准语文本的能力以外,具有单独识别方言文本的语义的能力。
如此,在训练得到语义识别模型中之后,就可以基于语义识别模型识别方言文本的语义,例如,将方言文本以及语言种类输入语义识别模型中,其中,语言种类可以添加在方言文本的句首,语言种类与方言文本之间可以使用分隔符隔开,语言种类可以用标识符表示等,不同的语言种类的标识符不同,或者,语义识别模型的编码层对语言种类进行embedding编码,以及对方言文本进行embedding编码,然后将两个编码叠加。
具体地,语义识别模型对方言文本以及语言种类的处理流程包括:
21)、根据语言种类识别方言文本在标准语中对应的标准语文本。
其中,经过步骤14)的训练,语义识别模型具有将标准语文本翻译为方言文本的能力,以及将方言文本翻译为标准语文本的能力,因此,语义识别模型可以根据该语言种类将方言文本翻译为在标准语中的标准语文本。
22)、根据语言种类识别方言文本分别属于各个类别的语义的第一候选概率。
其中,经过步骤16)的训练,语义识别模型具有单独识别方言文本的语义的能力,因此,语义识别模型可以根据语言种类识别方言文本分别属于各个类别的语义的第一候选概率,其中,语义识别模型可以输出一个中间结果,中间结果包括方言文本分别属于多个不同的类别的语义的第一候选概率。
23)、根据语言种类识别由方言文本以及标准语文本组成的文本分别属于各个类别的语义的第二候选概率。
其中,经过步骤14)的训练,语义识别模型具有同时识别标准语文本以及方言文本组成的文本的语义的能力,其中,识别的标准语文本的语义与方言文本的语义客观上相同,因此,语义识别模型可以根据语言种类识别由方言文本以及标准语文本组成的文本分别属于各个类别的语义的第二候选概率,其中,语义识别模型可以输出一个中间结果,中间结果包括由方言文本以及标准语文本分别属于多个不同的类别的语义的第二候选概率。
24)、识别标准语文本分别属于各个类别的语义的第三候选概率。
其中,经过步骤12)的训练,语义识别模型具有单独识别标准语文本的语义的能力,因此,语义识别模型可以识别标准语文本分别属于各个类别的语义的第三候选概率,其中,语义识别模型可以输出一个中间结果,中间结果包括标准语文本分别属于多个不同的类别的语义的第三候选概率。
其中,步骤22)、23)以及24)中的各个类别的语义之间可以相同,也可以不全相同,这是根据语义识别模型精度、方言文本表达的含义是否清晰、标准语表达的含义是否清晰以及方言文本的语言种类是否正确综合决定。
25)、根据第一候选概率、第二候选概率以及第三候选概率确定方言文本分别属于各个类别的语义的目标概率。
在本申请一个实施例中,对于步骤22)、23)以及24)中的各个类别的语义中的任意一个类别的语义,对方言文本属于该类别的语义的第一候选概率,由方言文本以及标准语文本组成的文本属于该类别的语义的第二候选概率以及标准语文本属于该类别的语义的第三候选概率进行加权求和,得到方言文本属于该类别的语义的目标概率。例如,可以计算第一候选概率与第一预设系数之间的第一乘积,计算第二候选概率与第二预设系数之间的第二乘积,计算第三候选概率与第三预设系数之间的第三乘积,然后计算第一乘积、第二乘积与第三乘积之间的和值,并作为方言文本属于该类别的语义的目标概率。
其中,在一个例子中,第一预设系数、第二预设系数以及第三预设系数三者之和可以等于特定的数值,特定的数值包括1、1.5或2等,本申请对此不加以限定。
第一预设系数可以大于或等于0且小于或等于特定的数值,第二预设系数可以大于或等于0且小于或等于特定的数值,第三预设系数可以大于或等于0且小于或等于特定的数值等。
对于步骤22)、23)以及24)中的各个类别的语义中的其他每一个类别的语义,同样如此。
16)、输出目标概率最高的类别的语义。
在步骤S104中,获取语义识别模型输出的语义,并作为方言文本的语义。
通过本申请,在得到方言文本以及方言文本的语言种类的情况下,可以借助已训练的语义识别模型识别方言文本的语义,其中,在语义识别模型中,根据语言种类识别方言文本在标准语中对应的标准语文本。然后可以结合方言文本以及标准语文本来确定方言文本的语义,例如,可以根据语言种类识别方言文本分别属于各个类别的语义的第一候选概率。根据语言种类识别由方言文本以及标准语文本组成的文本分别属于各个类别的语义的第二候选概率。识别标准语文本分别属于各个类别的语义的第三候选概率。再根据第一候选概率、第二候选概率以及第三候选概率确定方言文本分别属于各个类别的语义的目标概率。输出目标概率最高的类别的语义。其中,在语义识别模型中,通过上述方式中对方言文本以及标准语文本进行多维度的考量,并结合多维度考量后的结果来综合确定方言文本的语义,可以提高确定出的方言文本的语义的准确率。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于可选实施例,所涉及的动作并不一定是本申请所必须的。
参照图2,示出了本申请的一种信息处理装置的结构框图,该装置具体可以包括如下模块:
第一获取模块11,用于获取方言文本;
第一识别模块12,用于识别所述方言文本的语言种类;
输入模块13,用于将所述方言文本以及所述语言种类输入语义识别模型中;
第二识别模块14,用于在所述语义识别模型中,根据所述语言种类识别所述方言文本在标准语中对应的标准语文本;第三识别模块15,用于根据所述语言种类识别所述方言文本分别属于各个类别的语义的第一候选概率;第四识别模块16,用于根据所述语言种类识别由所述方言文本以及所述标准语文本组成的文本分别属于各个类别的语义的第二候选概率;第五识别模块17,用于识别所述标准语文本分别属于各个类别的语义的第三候选概率;确定模块18,用于根据所述第一候选概率、所述第二候选概率以及所述第三候选概率确定所述方言文本分别属于各个类别的语义的目标概率;输出模块19,用于输出目标概率最高的类别的语义;
第二获取模块20,用于获取所述语义识别模型输出的语义,并作为所述方言文本的语义。
在一个可选的实现方式中,所述确定模块具体用于:对于任意一个类别的语义,对所述方言文本属于所述类别的语义的第一候选概率,由所述方言文本以及所述标准语文本组成的文本属于所述类别的语义的第二候选概率以及所述标准语文本属于所述类别的语义的第三候选概率进行加权求和,得到所述方言文本属于所述类别的语义的目标概率。
在一个可选的实现方式中,所述装置还包括:
第三获取模块,用于获取多个第一数据集,每一个第一数据集包括标注有语义的标准语训练文本;
第一训练模块,用于使用所述多个第一数据集对初始化模型训练,得到第一模型;
第四获取模块,用于获取第二数据集,每一个第二数据集包括标注有语义的标准语训练文本、标注有语义的方言训练文本以及方言训练文本的语言种类,同一个第二数据集中的标准语训练文本的标注的语义与方言训练文本的标注的语义相同;
第二训练模块,用于使用所述多个第二数据集对所述第一模型训练,得到第二模型;
第五获取模块,用于获取多个第三数据集,每一个第三数据集包括标注有语义的方言训练文本以及方言训练文本的语言种类;
第三训练模块,用于使用所述多个第三数据集对所述第二模型训练,直至所述第二模型中的参数收敛,得到所述语义识别模型。
在一个可选的实现方式中,所述第一识别模块具体用于:在所述方言文本是通过对语音识别而得到的情况下,基于语言种类识别模型识别所述语音的语言种类,并作为所述方言文本的语言种类。
在一个可选的实现方式中,所述第二识别模块具体用于:在所述方言文本是从网页中截取而得到的情况下,根据所述网页中的内容确定所述方言文本的语言种类。
通过本申请,在得到方言文本以及方言文本的语言种类的情况下,可以借助已训练的语义识别模型识别方言文本的语义,其中,在语义识别模型中,根据语言种类识别方言文本在标准语中对应的标准语文本。然后可以结合方言文本以及标准语文本来确定方言文本的语义,例如,可以根据语言种类识别方言文本分别属于各个类别的语义的第一候选概率。根据语言种类识别由方言文本以及标准语文本组成的文本分别属于各个类别的语义的第二候选概率。识别标准语文本分别属于各个类别的语义的第三候选概率。再根据第一候选概率、第二候选概率以及第三候选概率确定方言文本分别属于各个类别的语义的目标概率。输出目标概率最高的类别的语义。其中,在语义识别模型中,通过上述方式中对方言文本以及标准语文本进行多维度的考量,并结合多维度考量后的结果来综合确定方言文本的语义,可以提高确定出的方言文本的语义的准确率。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
图3是本申请示出的一种电子设备800的框图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图3,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电力组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图像,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如WiFi,运营商网络(如2G、3G、4G或5G),或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播操作信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器804,上述指令可由电子设备800的处理器820执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图4是本申请示出的一种电子设备1900的框图。例如,电子设备1900可以被提供为一服务器。
参照图4,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白,本申请的实施例可提供为方法、装置、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本申请的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本申请范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本申请所提供的一种信息处理方法及装置,进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (10)
1.一种信息处理方法,其特征在于,所述方法包括:
获取方言文本,识别所述方言文本的语言种类;
将所述方言文本以及所述语言种类输入语义识别模型中;其中,在所述语义识别模型中,根据所述语言种类识别所述方言文本在标准语中对应的标准语文本;根据所述语言种类识别所述方言文本分别属于各个类别的语义的第一候选概率;根据所述语言种类识别由所述方言文本以及所述标准语文本组成的文本分别属于各个类别的语义的第二候选概率;识别所述标准语文本分别属于各个类别的语义的第三候选概率;根据所述第一候选概率、所述第二候选概率以及所述第三候选概率确定所述方言文本分别属于各个类别的语义的目标概率;输出目标概率最高的类别的语义;
获取所述语义识别模型输出的语义,并作为所述方言文本的语义。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一候选概率、所述第二候选概率以及所述第三候选概率确定所述方言文本分别属于各个类别的语义的目标概率,包括:
对于任意一个类别的语义,对所述方言文本属于所述类别的语义的第一候选概率,由所述方言文本以及所述标准语文本组成的文本属于所述类别的语义的第二候选概率以及所述标准语文本属于所述类别的语义的第三候选概率进行加权求和,得到所述方言文本属于所述类别的语义的目标概率。
3.根据权利要求1所述的方法,其特征在于,所述语义识别模型的训练方式包括:
获取多个第一数据集,每一个第一数据集包括标注有语义的标准语训练文本;
使用所述多个第一数据集对初始化模型训练,得到第一模型;
获取第二数据集,每一个第二数据集包括标注有语义的标准语训练文本、标注有语义的方言训练文本以及方言训练文本的语言种类,同一个第二数据集中的标准语训练文本的标注的语义与方言训练文本的标注的语义相同;
使用所述多个第二数据集对所述第一模型训练,得到第二模型;
获取多个第三数据集,每一个第三数据集包括标注有语义的方言训练文本以及方言训练文本的语言种类;
使用所述多个第三数据集对所述第二模型训练,直至所述第二模型中的参数收敛,得到所述语义识别模型。
4.根据权利要求1所述的方法,其特征在于,所述识别所述方言文本的语言种类,包括:
在所述方言文本是通过对语音识别而得到的情况下,基于语言种类识别模型识别所述语音的语言种类,并作为所述方言文本的语言种类。
5.根据权利要求1所述的方法,其特征在于,所述识别所述方言文本的语言种类,包括:
在所述方言文本是从网页中截取而得到的情况下,根据所述网页中的内容确定所述方言文本的语言种类。
6.一种信息处理装置,其特征在于,所述装置包括:
第一获取模块,用于获取方言文本;
第一识别模块,用于识别所述方言文本的语言种类;
输入模块,用于将所述方言文本以及所述语言种类输入语义识别模型中;
第二识别模块,用于在所述语义识别模型中,根据所述语言种类识别所述方言文本在标准语中对应的标准语文本;第三识别模块,用于根据所述语言种类识别所述方言文本分别属于各个类别的语义的第一候选概率;第四识别模块,用于根据所述语言种类识别由所述方言文本以及所述标准语文本组成的文本分别属于各个类别的语义的第二候选概率;第五识别模块,用于识别所述标准语文本分别属于各个类别的语义的第三候选概率;确定模块,用于根据所述第一候选概率、所述第二候选概率以及所述第三候选概率确定所述方言文本分别属于各个类别的语义的目标概率;输出模块,用于输出目标概率最高的类别的语义;
第二获取模块,用于获取所述语义识别模型输出的语义,并作为所述方言文本的语义。
7.根据权利要求6所述的装置,其特征在于,所述确定模块具体用于:对于任意一个类别的语义,对所述方言文本属于所述类别的语义的第一候选概率,由所述方言文本以及所述标准语文本组成的文本属于所述类别的语义的第二候选概率以及所述标准语文本属于所述类别的语义的第三候选概率进行加权求和,得到所述方言文本属于所述类别的语义的目标概率。
8.根据权利要求6所述的装置,其特征在于,所述装置还包括:
第三获取模块,用于获取多个第一数据集,每一个第一数据集包括标注有语义的标准语训练文本;
第一训练模块,用于使用所述多个第一数据集对初始化模型训练,得到第一模型;
第四获取模块,用于获取第二数据集,每一个第二数据集包括标注有语义的标准语训练文本、标注有语义的方言训练文本以及方言训练文本的语言种类,同一个第二数据集中的标准语训练文本的标注的语义与方言训练文本的标注的语义相同;
第二训练模块,用于使用所述多个第二数据集对所述第一模型训练,得到第二模型;
第五获取模块,用于获取多个第三数据集,每一个第三数据集包括标注有语义的方言训练文本以及方言训练文本的语言种类;
第三训练模块,用于使用所述多个第三数据集对所述第二模型训练,直至所述第二模型中的参数收敛,得到所述语义识别模型。
9.一种电子设备,其特征在于,所述电子设备包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行如权利要求1-5任一项所述的信息处理方法。
10.一种非临时性计算机可读存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行如权利要求1-5任一项所述的信息处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011595185.7A CN112668340B (zh) | 2020-12-28 | 2020-12-28 | 一种信息处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011595185.7A CN112668340B (zh) | 2020-12-28 | 2020-12-28 | 一种信息处理方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112668340A true CN112668340A (zh) | 2021-04-16 |
CN112668340B CN112668340B (zh) | 2024-07-12 |
Family
ID=75411947
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011595185.7A Active CN112668340B (zh) | 2020-12-28 | 2020-12-28 | 一种信息处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112668340B (zh) |
Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20020058533A (ko) * | 2000-12-30 | 2002-07-12 | 오길록 | 인터넷 질의/응답을 위한 지식베이스 구축방법 |
US20050071152A1 (en) * | 2003-09-29 | 2005-03-31 | Hitachi, Ltd. | Cross lingual text classification apparatus and method |
US20150112679A1 (en) * | 2013-10-18 | 2015-04-23 | Via Technologies, Inc. | Method for building language model, speech recognition method and electronic apparatus |
CN107038154A (zh) * | 2016-11-25 | 2017-08-11 | 阿里巴巴集团控股有限公司 | 一种文本情感识别方法和装置 |
US20170357642A1 (en) * | 2016-06-14 | 2017-12-14 | Babel Street, Inc. | Cross Lingual Search using Multi-Language Ontology for Text Based Communication |
CN107797982A (zh) * | 2016-08-31 | 2018-03-13 | 百度在线网络技术(北京)有限公司 | 用于识别文本类型的方法、装置和设备 |
CN109597995A (zh) * | 2018-12-04 | 2019-04-09 | 国网江西省电力有限公司信息通信分公司 | 一种基于bm25加权结合词向量的文本表示方法 |
CN109887497A (zh) * | 2019-04-12 | 2019-06-14 | 北京百度网讯科技有限公司 | 语音识别的建模方法、装置及设备 |
CN110211565A (zh) * | 2019-05-06 | 2019-09-06 | 平安科技(深圳)有限公司 | 方言识别方法、装置及计算机可读存储介质 |
WO2019172656A1 (en) * | 2018-03-06 | 2019-09-12 | Samsung Electronics Co., Ltd. | System and method for language model personalization |
CN110534115A (zh) * | 2019-10-14 | 2019-12-03 | 上海企创信息科技有限公司 | 多方言混合语音的识别方法、装置、系统和存储介质 |
WO2020071962A1 (ru) * | 2018-10-05 | 2020-04-09 | Общество с ограниченной ответственностью "Алгоритм" | Система классификации траффика |
CN111274828A (zh) * | 2020-01-21 | 2020-06-12 | 陈刚 | 基于留言的语言翻译方法、系统、计算机程序和手持终端 |
CN111325039A (zh) * | 2020-01-21 | 2020-06-23 | 陈刚 | 基于实时通话的语言翻译方法、系统、程序和手持终端 |
US20200327883A1 (en) * | 2019-04-15 | 2020-10-15 | Beijing Baidu Netcom Science And Techology Co., Ltd. | Modeling method for speech recognition, apparatus and device |
CN111785275A (zh) * | 2020-06-30 | 2020-10-16 | 北京捷通华声科技股份有限公司 | 语音识别方法及装置 |
CN111814487A (zh) * | 2020-07-17 | 2020-10-23 | 科大讯飞股份有限公司 | 一种语义理解方法、装置、设备及存储介质 |
-
2020
- 2020-12-28 CN CN202011595185.7A patent/CN112668340B/zh active Active
Patent Citations (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20020058533A (ko) * | 2000-12-30 | 2002-07-12 | 오길록 | 인터넷 질의/응답을 위한 지식베이스 구축방법 |
US20050071152A1 (en) * | 2003-09-29 | 2005-03-31 | Hitachi, Ltd. | Cross lingual text classification apparatus and method |
US20150112679A1 (en) * | 2013-10-18 | 2015-04-23 | Via Technologies, Inc. | Method for building language model, speech recognition method and electronic apparatus |
US20170357642A1 (en) * | 2016-06-14 | 2017-12-14 | Babel Street, Inc. | Cross Lingual Search using Multi-Language Ontology for Text Based Communication |
CN107797982A (zh) * | 2016-08-31 | 2018-03-13 | 百度在线网络技术(北京)有限公司 | 用于识别文本类型的方法、装置和设备 |
CN107038154A (zh) * | 2016-11-25 | 2017-08-11 | 阿里巴巴集团控股有限公司 | 一种文本情感识别方法和装置 |
WO2019172656A1 (en) * | 2018-03-06 | 2019-09-12 | Samsung Electronics Co., Ltd. | System and method for language model personalization |
CN111819625A (zh) * | 2018-03-06 | 2020-10-23 | 三星电子株式会社 | 用于语言模型个性化的系统和方法 |
WO2020071962A1 (ru) * | 2018-10-05 | 2020-04-09 | Общество с ограниченной ответственностью "Алгоритм" | Система классификации траффика |
CN109597995A (zh) * | 2018-12-04 | 2019-04-09 | 国网江西省电力有限公司信息通信分公司 | 一种基于bm25加权结合词向量的文本表示方法 |
CN109887497A (zh) * | 2019-04-12 | 2019-06-14 | 北京百度网讯科技有限公司 | 语音识别的建模方法、装置及设备 |
US20200327883A1 (en) * | 2019-04-15 | 2020-10-15 | Beijing Baidu Netcom Science And Techology Co., Ltd. | Modeling method for speech recognition, apparatus and device |
CN110211565A (zh) * | 2019-05-06 | 2019-09-06 | 平安科技(深圳)有限公司 | 方言识别方法、装置及计算机可读存储介质 |
CN110534115A (zh) * | 2019-10-14 | 2019-12-03 | 上海企创信息科技有限公司 | 多方言混合语音的识别方法、装置、系统和存储介质 |
CN111325039A (zh) * | 2020-01-21 | 2020-06-23 | 陈刚 | 基于实时通话的语言翻译方法、系统、程序和手持终端 |
CN111274828A (zh) * | 2020-01-21 | 2020-06-12 | 陈刚 | 基于留言的语言翻译方法、系统、计算机程序和手持终端 |
CN111785275A (zh) * | 2020-06-30 | 2020-10-16 | 北京捷通华声科技股份有限公司 | 语音识别方法及装置 |
CN111814487A (zh) * | 2020-07-17 | 2020-10-23 | 科大讯飞股份有限公司 | 一种语义理解方法、装置、设备及存储介质 |
Non-Patent Citations (3)
Title |
---|
尹延洁;崔雷;: "利用MeSH组配规则自动抽取表达特定语义关系句子的探索", 中华医学图书情报杂志, no. 10, 15 October 2019 (2019-10-15) * |
李健: "与文本无关说话人识别技术的研究", 中国优秀硕士学位论文全文数据库电子期刊, 15 October 2009 (2009-10-15) * |
许苏魁;戴礼荣;魏思;刘庆峰;高前勇;: "自由表述口语语音评测后验概率估计改进方法", 中文信息学报, no. 02, 15 March 2017 (2017-03-15) * |
Also Published As
Publication number | Publication date |
---|---|
CN112668340B (zh) | 2024-07-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107632980B (zh) | 语音翻译方法和装置、用于语音翻译的装置 | |
CN112185389B (zh) | 语音生成方法、装置、存储介质和电子设备 | |
CN110781305A (zh) | 基于分类模型的文本分类方法及装置,以及模型训练方法 | |
CN111368541B (zh) | 命名实体识别方法及装置 | |
JP7116088B2 (ja) | 音声情報処理方法、装置、プログラム及び記録媒体 | |
CN107564526B (zh) | 处理方法、装置和机器可读介质 | |
CN107274903B (zh) | 文本处理方法和装置、用于文本处理的装置 | |
CN111831806B (zh) | 语义完整性确定方法、装置、电子设备和存储介质 | |
CN110069624B (zh) | 文本处理方法及装置 | |
CN108628819B (zh) | 处理方法和装置、用于处理的装置 | |
CN111369978B (zh) | 一种数据处理方法、装置和用于数据处理的装置 | |
CN111160047A (zh) | 一种数据处理方法、装置和用于数据处理的装置 | |
CN112036195A (zh) | 机器翻译方法、装置及存储介质 | |
CN112735396A (zh) | 语音识别纠错方法、装置及存储介质 | |
CN113539233A (zh) | 一种语音处理方法、装置和电子设备 | |
CN114154485A (zh) | 一种文本纠错方法和装置 | |
CN112036174A (zh) | 一种标点标注方法及装置 | |
CN108241614B (zh) | 信息处理方法和装置、用于信息处理的装置 | |
CN113033163A (zh) | 一种数据处理方法、装置和电子设备 | |
CN111324214B (zh) | 一种语句纠错方法和装置 | |
CN109887492B (zh) | 一种数据处理方法、装置和电子设备 | |
CN111832297A (zh) | 词性标注方法、装置及计算机可读存储介质 | |
CN111400443A (zh) | 信息处理方法、装置及存储介质 | |
CN116484828A (zh) | 相似案情确定方法、装置、设备、介质和程序产品 | |
CN112863499B (zh) | 语音识别方法及装置、存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |