CN110795946A - 一种基于卷积神经网络的多语种互译方法及系统 - Google Patents

Abstract

本发明属于多语种互译技术领域，尤其涉及一种基于卷积神经网络的多语种互译方法，本发明同时提供一种基于卷积神经网络的多语种互译系统，特征在于：将前一层的局部接受域输入卷积层局部的神经元集合，将输入后的卷积层局部的神经元集合通过卷积滤波器的卷积操作函数提取所述卷积层局部特征，本发明解决了现有技术存在的卷积神经网络发展对图像、语言以及文本等二维数据的识别率较低的问题，具有识别率高、避免过拟合、降低向量复杂度、适用于多语种互译的底层算法的有益技术效果。

Description

一种基于卷积神经网络的多语种互译方法及系统

技术领域

本发明属于多语种互译技术领域，尤其涉及一种基于卷积神经网络的多语种互译方法，本发明同时提供一种基于卷积神经网络的多语种互译系统。

背景技术

目前，在机器学习中，卷积神经网络是一种深度前馈人工神经网络，已成功地应用于图像识别，卷积神经网络，是一元可种前馈神经网络，人工神经以响应周围单元，可以大型图像处理。卷积神经网络包括卷积层和池化层，现有技术存在卷积神经网络目前的发展对图像、语言以及文本等二维数据的识别率较低的问题。

发明内容

本发明提供一种基于卷积神经网络的多语种互译方法及系统，以解决上述背景技术中提出了现有技术存在卷积神经网络目前的发展对图像、语言以及文本等二维数据的识别率较低的问题。

本发明所解决的技术问题采用以下技术方案来实现：一种基于卷积神经网络的多语种互译方法，包括：

特征提取：将前一层的局部接受域输入卷积层局部的神经元集合，将输入后的卷积层局部的神经元集合通过卷积滤波器的卷积操作函数提取所述卷积层局部特征；

所述卷积操作函数为：

所述Xi为卷积层局部的神经元集合Xi(i＝1，2，3…nxn)；

所述Wi为nxn的卷积滤波器相对应的值；

所述b为卷积滤波器的固定偏置量；

所述y为卷积层局部经过卷积操作函数形成的局部特征；

特征映射：将局部特征通过激活函数映射成归一化数值；

所述激活函数为：

所述x为局部特征实值数；

池化采样：将归一化数值通过池化层采样函数将局部高维特征转化为局部低维特征；

所述池化层采样函数为：

所述xi(i＝1，2，3…)为局部低维特征；

所述yi为池化输出值。

进一步，所述映射成归一化数值包括压缩到0～1的范围内。

进一步，所述激活函数为非线性化函数。

进一步，所述池化采样后还包括全链接卷积。

全链接卷积：将池化输出值通过特征提取和特征映射形成用于分类或检索的全链接层的特征向量。

所述全链接层的特征向量为1x1的区域值向量。

所述前一层的局部接受域为多语种互译样本图像素集合。

同时，本发明还提供一种基于卷积神经网络的多语种互译系统，包括卷积层和池化层，所述卷积层包括特征提取模块和特征映射模块，所述池化层包括池化采样模块；

所述特征提取模块用于：

特征提取：将前一层的局部接受域输入卷积层局部的神经元集合，将输入后的卷积层局部的神经元集合通过卷积滤波器的卷积操作函数提取所述卷积层局部特征；

所述卷积操作函数为：

所述Xi为卷积层局部的神经元集合Xi(i＝1，2，3…nxn)；

所述Wi为nxn的卷积滤波器相对应的值；

所述b为卷积滤波器的固定偏置量；

所述y为卷积层局部经过卷积操作函数形成的局部特征；

所述特征映射模块用于：

特征映射：将局部特征通过激活函数映射成归一化数值；

所述激活函数为：

所述x为局部特征实值数；

所述池化采样模块用于：

池化采样：将归一化数值通过池化层采样函数将局部高维特征转化为局部低维特征；

所述池化层采样函数为：

所述xi(i＝1，2，3…)为局部低维特征；

所述yi为池化输出值。

进一步，所述映射成归一化数值包括压缩到0～1的范围内，所述激活函数为非线性化函数。

进一步，所述多语种互译系统还包括全链接卷积模块；

所述全链接卷积模块用于：

全链接卷积：将池化输出值通过特征提取和特征映射形成用于分类或检索的全链接层的特征向量，所述全链接层的特征向量为1x1的区域值向量。

有益技术效果：

1、本专利采用特征提取：将前一层的局部接受域输入卷积层局部的神经元集合，将输入后的卷积层局部的神经元集合通过卷积滤波器的卷积操作函数提取所述卷积层局部特征；

所述卷积操作函数为：

所述Xi为卷积层局部的神经元集合Xi(i＝1，2，3…nxn)；

所述Wi为nxn的卷积滤波器相对应的值；

所述b为卷积滤波器的固定偏置量；

所述y为卷积层局部经过卷积操作函数形成的局部特征；

特征映射：将局部特征通过激活函数映射成归一化数值；

所述激活函数为：

所述x为局部特征实值数；

池化采样：将归一化数值通过池化层采样函数将局部高维特征转化为局部低维特征；

所述池化层采样函数为：

所述xi(i＝1，2，3…)为局部低维特征；

所述yi为池化输出值，由于互译样本图像通过卷积层及提取出其输入特征，卷积层的运算由特征提取阶段和特征映射阶段构成，特征提取阶段，每个神经元输入与前一层的局部接受域相连，使用卷积滤波器做卷积操作，提取该局部的特征，设一个nxn的局部区域内第i个像素的输入值是Xi(i＝1，2，...nxn)，与nxn大小滤波器相对应的值为Wi，这个滤波器的有个固定的偏置为b，这个区域最后经过卷积操作编程一个y值，特征映射阶段，在特征提取阶段提取出局部特征之后，使用激活函数将其映射为一个归一化的值，通过一个典型的激活函数，激活函数输入一个实值的数，然后将其压缩到0-1的范围内，在通过卷积层获得了特征之后，经过池化层的采样，将高维特征转换成为低维有代表的特征，一般的采样分为最大采样和平均采样，在2x2的区域内两个池化操作将2x2的区域内上一层的四个输入像素的值转换成池化后的输出值yi，由于本发明的结构是卷积层、池化层，最后为全链接层，所有的卷积神经网络模型都是建立在此基础上搭建起来的，因此对图像、语言、文本等二维数据的识别可以达到90％以上。

2、本专利通过在通过卷积层获得了特征之后，经过池化层的采样，将高维特征转换成为低维有代表的特征，一般的采样分为最大采样和平均采样，在2x2的区域内两个池化操作将2x2的区域内上一层的四个输入像素的值转换成池化后的输出值yi，由于利用这些特征去做分类，有效避免了数据拟合中的过拟合现象的发生。

3、本专利采用全链接卷积：将池化输出值通过特征提取和特征映射形成用于分类或检索的全链接层的特征向量，所述全链接层的特征向量为1x1的区域值向量，由于全链接层一般放在最后，通过全链接层后得到特征向量，可将这个特征向量用于分类或者检索，全链接层其实就是一个卷积层，只不过最后得到的一个向量，当选择的卷积核大小与输入的大小一样大时，经过特征提取和特征映射阶段后，输出大小为1x1的区域，这样不同的卷积核卷积经过此层得到的是向量，1x1的区域值是向量的一个值，因此，降低了特征向量分类或者检索复杂度。

4、本专利卷积层神经网络经过一定的发展，对互译图文、互译语言以及互译文本等二维数据的识别率较高，远远高于传统的浅层特征学习的方法，因此，特别适用于多语种互译的底层算法。

附图说明

图1是本发明一种基于卷积神经网络的多语种互译方法的流程图；

图2是本发明一种基于卷积神经网络的多语种互译系统的模块图。

具体实施方式

以下结合附图对本发明做进一步描述：

图中：

S101-特征提取；

S102-特征映射；

S103-池化采样；

S104-全链接卷积；

1-特征提取模块、2-特征映射模块、3-池化采样模块、4-全链接卷积模块；

实施例：

本实施例：如图1所示，一种基于卷积神经网络的多语种互译方法，包括：

特征提取S101：将前一层的局部接受域输入卷积层局部的神经元集合，将输入后的卷积层局部的神经元集合通过卷积滤波器的卷积操作函数提取所述卷积层局部特征；

所述卷积操作函数为：

所述Xi为卷积层局部的神经元集合Xi(i＝1，2，3…nxn)；

所述Wi为nxn的卷积滤波器相对应的值；

所述b为卷积滤波器的固定偏置量；

所述y为卷积层局部经过卷积操作函数形成的局部特征；

特征映射S102：将局部特征通过激活函数映射成归一化数值；

所述激活函数为：

所述x为局部特征实值数；

池化采样S103：将归一化数值通过池化层采样函数将局部高维特征转化为局部低维特征；

所述池化层采样函数为：

所述xi(i＝1，2，3…)为局部低维特征；

所述yi为池化输出值。

所述映射成归一化数值包括压缩到0～1的范围内。

所述激活函数为非线性化函数。

由于采用特征提取：将前一层的局部接受域输入卷积层局部的神经元集合，将输入后的卷积层局部的神经元集合通过卷积滤波器的卷积操作函数提取所述卷积层局部特征；

所述卷积操作函数为：

所述Xi为卷积层局部的神经元集合Xi(i＝1，2，3…nxn)；

所述Wi为nxn的卷积滤波器相对应的值；

所述b为卷积滤波器的固定偏置量；

所述y为卷积层局部经过卷积操作函数形成的局部特征；

特征映射：将局部特征通过激活函数映射成归一化数值；

所述激活函数为：

所述x为局部特征实值数；

池化采样：将归一化数值通过池化层采样函数将局部高维特征转化为局部低维特征；

所述池化层采样函数为：

所述xi(i＝1，2，3…)为局部低维特征；

所述yi为池化输出值，由于互译样本图像通过卷积层及提取出其输入特征，卷积层的运算由特征提取阶段和特征映射阶段构成，特征提取阶段，每个神经元输入与前一层的局部接受域相连，使用卷积滤波器做卷积操作，提取该局部的特征，设一个nxn的局部区域内第i个像素的输入值是Xi(i＝1，2，...nxn)，与nxn大小滤波器相对应的值为Wi，这个滤波器的有个固定的偏置为b，这个区域最后经过卷积操作编程一个y值，特征映射阶段，在特征提取阶段提取出局部特征之后，使用激活函数将其映射为一个归一化的值，通过一个典型的激活函数，激活函数输入一个实值的数，然后将其压缩到0-1的范围内，在通过卷积层获得了特征之后，经过池化层的采样，将高维特征转换成为低维有代表的特征，一般的采样分为最大采样和平均采样，在2x2的区域内两个池化操作将2x2的区域内上一层的四个输入像素的值转换成池化后的输出值yi，由于本发明的结构是卷积层、池化层，最后为全链接层，所有的卷积神经网络模型都是建立在此基础上搭建起来的，因此对图像、语言、文本等二维数据的识别可以达到90％以上。

所述池化采样S103后还包括全链接卷积S104。

链接卷积S104：将池化输出值通过特征提取S101和特征映射S102形成用于分类或检索的全链接层的特征向量。

所述全链接层的特征向量为1x1的区域值向量。

由于采用全链接卷积：将池化输出值通过特征提取和特征映射形成用于分类或检索的全链接层的特征向量，所述全链接层的特征向量为1x1的区域值向量，由于全链接层一般放在最后，通过全链接层后得到特征向量，可将这个特征向量用于分类或者检索，全链接层其实就是一个卷积层，只不过最后得到的一个向量，当选择的卷积核大小与输入的大小一样大时，经过特征提取和特征映射阶段后，输出大小为1x1的区域，这样不同的卷积核卷积经过此层得到的是向量，1x1的区域值是向量的一个值，因此，降低了特征向量分类或者检索复杂度。

所述前一层的局部接受域为多语种互译样本图像素集合。

由于通过在通过卷积层获得了特征之后，经过池化层的采样，将高维特征转换成为低维有代表的特征，一般的采样分为最大采样和平均采样，在2x2的区域内两个池化操作将2x2的区域内上一层的四个输入像素的值转换成池化后的输出值yi，由于利用这些特征去做分类，有效避免了数据拟合中的过拟合现象的发生。

同时，本发明还提供一种基于卷积神经网络的多语种互译系统，包括卷积层和池化层，所述卷积层包括特征提取模块1和特征映射模块2，所述池化层包括池化采样模块3；

所述特征提取模块1用于：

特征提取S101：将前一层的局部接受域输入卷积层局部的神经元集合，将输入后的卷积层局部的神经元集合通过卷积滤波器的卷积操作函数提取所述卷积层局部特征；

所述卷积操作函数为：

所述Xi为卷积层局部的神经元集合Xi(i＝1，2，3…nxn)；

所述Wi为nxn的卷积滤波器相对应的值；

所述b为卷积滤波器的固定偏置量；

所述y为卷积层局部经过卷积操作函数形成的局部特征；

所述特征映射模块2用于：

特征映射S102：将局部特征通过激活函数映射成归一化数值；

所述激活函数为：

所述x为局部特征实值数；

所述池化采样模块3用于：

池化采样S103：将归一化数值通过池化层采样函数将局部高维特征转化为局部低维特征；

所述池化层采样函数为：

所述xi(i＝1，2，3…)为局部低维特征；

所述yi为池化输出值。

所述映射成归一化数值包括压缩到0～1的范围内，所述激活函数为非线性化函数。

所述多语种互译系统还包括全链接卷积模块4；

所述全链接卷积模块4用于：

全链接卷积S104：将池化输出值通过特征提取S101和特征映射S102形成用于分类或检索的全链接层的特征向量，所述全链接层的特征向量为1x1的区域值向量。

由于卷积层神经网络经过一定的发展，对互译图文、互译语言以及互译文本等二维数据的识别率较高，远远高于传统的浅层特征学习的方法，因此，特别适用于多语种互译的底层算法。

工作原理：

本专利通过特征提取：将前一层的局部接受域输入卷积层局部的神经元集合，将输入后的卷积层局部的神经元集合通过卷积滤波器的卷积操作函数提取所述卷积层局部特征；

所述卷积操作函数为：

所述Xi为卷积层局部的神经元集合Xi(i＝1，2，3…nxn)；

所述Wi为nxn的卷积滤波器相对应的值；

所述b为卷积滤波器的固定偏置量；

所述y为卷积层局部经过卷积操作函数形成的局部特征；

特征映射：将局部特征通过激活函数映射成归一化数值；

所述激活函数为：

所述x为局部特征实值数；

池化采样：将归一化数值通过池化层采样函数将局部高维特征转化为局部低维特征；

所述池化层采样函数为：

所述xi(i＝1，2，3…)为局部低维特征；

所述yi为池化输出值，由于互译样本图像通过卷积层及提取出其输入特征，卷积层的运算由特征提取阶段和特征映射阶段构成，特征提取阶段，每个神经元输入与前一层的局部接受域相连，使用卷积滤波器做卷积操作，提取该局部的特征，设一个nxn的局部区域内第i个像素的输入值是Xi(i＝1，2，...nxn)，与nxn大小滤波器相对应的值为Wi，这个滤波器的有个固定的偏置为b，这个区域最后经过卷积操作编程一个y值，特征映射阶段，在特征提取阶段提取出局部特征之后，使用激活函数将其映射为一个归一化的值，通过一个典型的激活函数，激活函数输入一个实值的数，然后将其压缩到0-1的范围内，在通过卷积层获得了特征之后，经过池化层的采样，将高维特征转换成为低维有代表的特征，一般的采样分为最大采样和平均采样，在2x2的区域内两个池化操作将2x2的区域内上一层的四个输入像素的值转换成池化后的输出值yi，由于本发明的结构是卷积层、池化层，最后为全链接层，所有的卷积神经网络模型都是建立在此基础上搭建起来的，本发明解决了现有技术存在卷积神经网络目前的发展对图像、语言以及文本等二维数据的识别率较低的问题，具有识别率高、避免过拟合、降低向量复杂度、适用于多语种互译的底层算法的有益技术效果。

利用本发明的技术方案，或本领域的技术人员在本发明技术方案的启发下，设计出类似的技术方案，而达到上述技术效果的，均是落入本发明的保护范围。

Claims (10)

1.一种基于卷积神经网络的多语种互译方法，其特征在于，包括：

特征提取：将前一层的局部接受域输入卷积层局部的神经元集合，将输入后的卷积层局部的神经元集合通过卷积滤波器的卷积操作函数提取所述卷积层局部特征；

所述卷积操作函数为：

所述Xi为卷积层局部的神经元集合Xi(i＝1，2，3…nxn)；

所述Wi为nxn的卷积滤波器相对应的值；

所述b为卷积滤波器的固定偏置量；

所述y为卷积层局部经过卷积操作函数形成的局部特征；

特征映射：将局部特征通过激活函数映射成归一化数值；

所述激活函数为：

所述x为局部特征实值数；

池化采样：将归一化数值通过池化层采样函数将局部高维特征转化为局部低维特征；

所述池化层采样函数为：

所述xi(i＝1，2，3…)为局部低维特征；

所述yi为池化输出值。

2.根据权利要求1所述的一种基于卷积神经网络的多语种互译方法，其特征在于，所述映射成归一化数值包括压缩到0～1的范围内。

3.根据权利要求1所述的一种基于卷积神经网络的多语种互译方法，其特征在于，所述激活函数为非线性化函数。

4.根据权利要求1所述的一种基于卷积神经网络的多语种互译方法，其特征在于，所述池化采样后还包括全链接卷积。

5.根据权利要求4所述的一种基于卷积神经网络的多语种互译方法，其特征在于，全链接卷积：将池化输出值通过特征提取和特征映射形成用于分类或检索的全链接层的特征向量。

6.根据权利要求5所述的一种基于卷积神经网络的多语种互译方法，其特征在于，所述全链接层的特征向量为1x1的区域值向量。

7.根据权利要求1所述的一种基于卷积神经网络的多语种互译方法，其特征在于，所述前一层的局部接受域为多语种互译样本图像素集合。

8.一种基于卷积神经网络的多语种互译系统，其特征在于，包括卷积层和池化层，所述卷积层包括特征提取模块和特征映射模块，所述池化层包括池化采样模块；

所述特征提取模块用于：

特征提取：将前一层的局部接受域输入卷积层局部的神经元集合，将输入后的卷积层局部的神经元集合通过卷积滤波器的卷积操作函数提取所述卷积层局部特征；

所述卷积操作函数为：

所述Xi为卷积层局部的神经元集合Xi(i＝1，2，3…nxn)；

所述Wi为nxn的卷积滤波器相对应的值；

所述b为卷积滤波器的固定偏置量；

所述y为卷积层局部经过卷积操作函数形成的局部特征；

所述特征映射模块用于：

特征映射：将局部特征通过激活函数映射成归一化数值；

所述激活函数为：

所述x为局部特征实值数；

所述池化采样模块用于：

池化采样：将归一化数值通过池化层采样函数将局部高维特征转化为局部低维特征；

所述池化层采样函数为：

所述xi(i＝1，2，3…)为局部低维特征；

所述yi为池化输出值。

9.根据权利要求8所述的一种基于卷积神经网络的多语种互译系统，其特征在于，所述映射成归一化数值包括压缩到0～1的范围内，所述激活函数为非线性化函数。

10.根据权利要求8所述的一种基于卷积神经网络的多语种互译系统，其特征在于，所述多语种互译系统还包括全链接卷积模块；

所述全链接卷积模块用于：

全链接卷积：将池化输出值通过特征提取和特征映射形成用于分类或检索的全链接层的特征向量，所述全链接层的特征向量为1x1的区域值向量。

Images