CN113810493A - 翻译方法、系统、设备及存储介质 - Google Patents
翻译方法、系统、设备及存储介质 Download PDFInfo
- Publication number
- CN113810493A CN113810493A CN202111088449.4A CN202111088449A CN113810493A CN 113810493 A CN113810493 A CN 113810493A CN 202111088449 A CN202111088449 A CN 202111088449A CN 113810493 A CN113810493 A CN 113810493A
- Authority
- CN
- China
- Prior art keywords
- model
- data
- text data
- text
- translation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013519 translation Methods 0.000 title claims abstract description 71
- 238000000034 method Methods 0.000 title claims abstract description 70
- 238000013136 deep learning model Methods 0.000 claims abstract description 21
- 239000011159 matrix material Substances 0.000 claims description 15
- 238000013518 transcription Methods 0.000 claims description 13
- 230000035897 transcription Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 12
- 238000001514 detection method Methods 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 8
- 238000012549 training Methods 0.000 claims description 6
- 238000004422 calculation algorithm Methods 0.000 claims description 4
- 230000005540 biological transmission Effects 0.000 abstract description 6
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 8
- 238000010606 normalization Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 125000004122 cyclic group Chemical group 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 102100032202 Cornulin Human genes 0.000 description 1
- 101000920981 Homo sapiens Cornulin Proteins 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
- G06F40/58—Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L9/00—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
- H04L9/008—Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols involving homomorphic encryption
Landscapes
- Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Physics & Mathematics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Artificial Intelligence (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Machine Translation (AREA)
Abstract
本申请涉及机器翻译技术领域，公开了一种翻译方法，系统、电子设备及存储介质，所述方法应用于边缘计算节点，包括：从云计算服务器获取由所述云计算服务器构建和训练的深度学习模型，以及从终端获取待翻译数据；所述深度学习模型包括识别模型和翻译模型；通过所述识别模型，将所述待翻译数据转化为文本数据；通过所述翻译模型，将所述文本数据翻译为目标语言的文本数据。本申请由边缘计算节点进行用户终端设备处获取的待翻译数据的翻译，可以提高翻译的实时性，并节省终端设备至云计算中心服务器的传输开销。
Description
技术领域
本申请涉及机器翻译技术领域，尤其涉及一种翻译方法、系统设备及存储介质。
背景技术
语言之间的转化翻译在用户终端上被广泛应用，相关的翻译模式是用户终端将待翻译数据发送到远端的云计算中心，云计算中心经处理和分析后将翻译结果回传用户终端。
云计算中心具有较强的计算和存储能力，但是用户终端与云计算中心之间的海量数据的传输需要很大的带宽，极易造成拥塞；对于量级较大的高清图像或长语音形式的待翻译数据，传输时延会影响用户体验。
发明内容
本申请的实施例提供了一种翻译方法、系统设备及存储介质，进而至少在一定程度上能够解决将待翻译数据传输至云计算中心进行翻译的大带宽、高延迟问题，提高翻译的实时性，减少传输开销。
本申请的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本申请的实践而习得。
根据本申请实施例的第一方面，提供了一种翻译方法，应用于边缘计算节点，所述方法包括：
从云计算服务器获取由所述云计算服务器构建和训练的深度学习模型，以及从终端获取待翻译数据；所述深度学习模型包括识别模型和翻译模型；
通过所述识别模型，将所述待翻译数据转化为文本数据；
通过所述翻译模型，将所述文本数据翻译为目标语言的文本数据。
在本申请的一些实施例中，基于前述方案，所述待翻译数据包括图像和语音，所述识别模型包括图像识别模型和语音识别模型；所述通过所述识别模型，将所述待翻译数据转化为文本数据，包括：
通过所述图像识别模型，识别所述图像中的文本，得到第一文本数据；
通过所述语音识别模型，将所述语音转化为第二文本数据。
在本申请的一些实施例中，基于前述方案，所述图像识别模型包括目标检测模型和文字识别模型；所述通过所述图像识别模型，识别所述图像中的文本，得到第一文本数据，包括：
通过所述目标检测模型检测所述图像中的文本区域，并裁剪出所述图像的文本区域，得到包含所述文本区域的局部图像；
通过所述文字识别模型识别所述局部图像中的文本，得到所述第一文本数据。
在本申请的一些实施例中，基于前述方案，所述文字识别模型包括积网络层、循环网络层以及转录层；通过所述文字识别模型识别所述局部图像中的文本，得到所述第一文本数据，包括：
通过所述文字识别模型的卷积网络层，提取所述局部图像对应的图像特征序列；
通过所述文字识别模型的循环网络层，获取所述图像特征序列对应的概率分布矩阵；
通过所述文字识别模型的转录层，将所述概率分布矩阵进行解码，得到所述第一文本数据。
在本申请的一些实施例中，基于前述方案，所述语音识别模型包括声学特征提取模型、声学模型以及语言模型；所述通过所述语音识别模型，将所述语音转化为第二文本数据，包括：
通过所述声学特征提取模型，对所述语音进行特征提取，得到逐帧的声学特征序列；
通过所述声学模型，将所述声学特征序列转换为音素序列；
通过所述语言模型，对所述音素序列进行解码，得到所述第二文本数据。
在本申请的一些实施例中，基于前述方案，所述翻译模型包括词嵌入编码层、编码层以及解码层；所述通过所述翻译模型，将所述文本数据翻译为目标语言的文本数据包括：
通过所述翻译模型的词嵌入编码层，将所述文本数据转化为词向量矩阵；
通过所述翻译模型的编码层，对所述词向量矩阵进行编码，得到编码结果；
通过所述翻译模型的解码层，对所述编码结果进行解码，得到所述目标语言的文本数据。
根据本申请实施例的第二方面，提供了一种翻译方法，应用于终端，所述方法包括：
通过同态加密算法对待翻译数据进行加密，得到加密后待翻译数据；
将所述加密后待翻译数据发送至边缘计算节点；所述边缘计算节点用于将所述加密后待翻译数据翻译为目标语言的文本数据；
对所述边缘计算节点发送的所述目标语言的文本数据进行解密，得到解密后的目标语言的文本数据。
根据本申请实施例的第三方面，提供了一种翻译系统，所述系统包括：
终端，用于从用户获取待翻译数据；
云计算服务器，用于构建和训练深度学习模型；所述深度学习模型包括识别模型和翻译模型；
边缘计算节点，用于从云计算服务器获取由所述云计算服务器构建和训练的深度学习模型，以及从终端获取待翻译数据；通过所述识别模型，将所述待翻译数据转化为文本数据；还用于通过所述翻译模型，将所述文本数据翻译为目标语言的文本数据。
根据本申请实施例的第四方面，提供了一种电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述电子设备实现上述第一方面或第二方面所述的翻译方法。
根据本申请实施例的第四方面，提供了一种计算机可读介质，其上存储有计算机程序，所述计算机程序被执行时实现上述第一方面或第二方面所述的翻译方法。
本申请实施例通过利用云计算中心服务器强大的计算和存储能力，构建和训练的深度学习模型；将训练好的深度学习模型部署到边缘计算节点，由边缘计算节点进行用户终端设备处获取的待翻译数据的翻译，可以提高翻译的实时性，并节省终端设备至云计算中心服务器的传输开销。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：
图1为示出了可以应用本申请实施例的技术方案的示例性系统架构的示意图。
图2为本申请实施例提供的一种翻译方法的流程图。
图3为本申请实施例提供的一种文本转化方法的流程图。
图4为本申请实施例提供的一种图像文本转化方法的流程图。
图5为本申请实施例提供的又一种图像文本转化方法的流程图。
图6为本申请实施例提供的一种语音文本转化方法的流程图。
图7为本申请实施例提供的一种目标语言翻译方法的流程图。
图8为本申请实施例提供的又一种目标语言翻译方法的流程图。
图9为本申请实施例提供的另一种目标语言翻译方法的流程图。
图10示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本申请将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。
此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本申请的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本申请的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本申请的各方面。
附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
需要说明的是：在本文中提及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
需要注意的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的对象在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在图示或描述的那些以外的顺序实施。
图1示出了可以应用本申请实施例的技术方案的示例性系统架构的示意图。
如图1所示，系统架构可以包括终端设备(如图1中所示智能手机101、平板电脑102和便携式计算机103中的一种或多种)、边缘计算节点104和云计算中心服务器105。边缘计算节点104用以在终端设备和服务器105之间提供通信链路的介质。终端设备与边缘计算节点104之间以及边缘计算节点104与云计算中心服务器105之间通过网络连接，网络可以包括各种连接类型，例如有线通信链路、无线通信链路等等。
本申请实施例中终端，用于从用户获取待翻译数据；云计算服务器，用于构建和训练深度学习模型；所述深度学习模型包括识别模型和翻译模型；边缘计算节点，用于从云计算服务器获取由所述云计算服务器构建和训练的深度学习模型，以及从终端获取待翻译数据；通过所述识别模型，将所述待翻译数据转化为文本数据；还用于通过所述翻译模型，将所述文本数据翻译为目标语言的文本数据。
还需要说明的是，图1中的终端设备、边缘计算节点和服务器的数目仅仅是示意性的。根据实现需要，服务器可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(content distribute network，内容分发网络)、以及大数据和人工智能平台等基础云计算服务的云服务器。终端可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能电视等，但并不局限于此，本申请在此不做限制。
本地边缘计算节点完成翻译处理过程大大提升处理效率，减轻云端的负荷，并且由于更加靠近用户，还可为用户提供更快的响应。
需要解释的是，如上的云计算(cloud computing)是一种计算模式，它将计算任务分布在大量计算机构成的资源池上，使各种应用系统能够根据需要获取计算力、存储空间和信息服务。提供资源的网络被称为“云”。“云”中的资源在使用者看来是可以无限扩展的，并且可以随时获取，按需使用，随时扩展。通过建立云计算资源池(简称云平台，一般称为IaaS(Infrastructure as a Service，基础设施即服务)平台，在资源池中部署多种类型的虚拟资源，供外部客户选择使用。云计算资源池中主要包括：计算设备(为虚拟化机器，包含操作系统)、存储设备、网络设备。
以下对本申请实施例的技术方案的实现细节执行详细阐述：
图2为本申请实施例提供的一种翻译方法的流程图，应用于边缘计算节点，如图2所示，该方法至少包括以下步骤。
步骤210：从云计算服务器获取由云计算服务器构建和训练的深度学习模型，以及从终端获取待翻译数据；深度学习模型包括识别模型和翻译模型。
步骤220：通过识别模型，将待翻译数据转化为文本数据。
步骤230：通过翻译模型，将文本数据翻译为目标语言的文本数据。
本申请实施例利用云计算中心服务器强大的计算和存储能力，构建和训练的深度学习模型；将训练好的深度学习模型部署到边缘计算节点，由边缘计算节点进行用户终端设备处获取的待翻译数据的翻译，可以提高翻译的实时性，并节省终端设备至云计算中心服务器的传输开销。
在本申请的一些实施例中，待翻译数据包括图像和语音，识别模型包括图像识别模型和语音识别模型。图3为本申请实施例提供的一种文本转化方法的流程图，如图3所示，该方法至少包括以下步骤。
步骤310：通过图像识别模型，识别图像中的文本，得到第一文本数据。
图像识别模型可以包括文本检测模型，用于检测图像中文本，和文字识别模型，用于识别图像中的文本。
步骤320：通过语音识别模型，将语音转化为第二文本数据。
语音识别模型可以采用LSTM+CTC模型将语言转化为文本。
在本申请的一实施例中，图像识别模型包括目标检测模型和文字识别模型；
图4为本申请实施例提供的一种图像文本转化方法的流程图，如图4所示，该方法至少包括以下步骤。
步骤410：通过目标检测模型检测图像中的文本区域，并裁剪出图像的文本区域，得到包含文本区域的局部图像。
在利用目标检测模型检测图像中的文本区域之前，需要对图像进行预处理。预处理包括对图像进行归一化处理：将等比例缩放后的图像填入预设像素大小的空白图像中，然后将空白图像上除图像外的像素全部填充为设定颜色。例如空白图像的像素大小为250*250，空白图像能够覆盖缩放后的图像；归一化过程按图像原有长宽比缩放到相应大小，填入到250*250空白图像中间，其他像素全部填为白色，以尽可能保持图像原有纹理特征。
接下来，将预处理后的图像，可以使用YOLO-v3模型定位图像中的文字。
具体的，YOLO-V3模型工作步骤：(1)将输入的图像平均划分成S×S个单元格；(2)对每个单元格会预测多个边界框(Bounding Box)，并以向量的形式表示边界框的信息。边界框的信息包括了位置信息(矩形框中心点坐标，宽和高)，置信度(Confidence)以及预测物体的类别信息。
通过损失函数计算边界框的信息，得到使损失函数值最低的边界框，也就是最后需要的分类框，即定位到图像中的文字。
最后，根据上一步的定位结果，对图像中的文字部分进行切割，获取图像中包含文字部分的局部图像。
步骤420：通过文字识别模型识别局部图像中的文本，得到第一文本数据。
再具体应用中，文字识别模型可以采用CNN+RNN+CTC模型或者CNN+CTC模型。
在本申请的一些实施例中，文字识别模型包括积网络层、循环网络层以及转录层。图5为本申请实施例提供的又一种图像文本转化方法的流程图，如图5所示，该方法至少包括以下步骤。
步骤510：通过文字识别模型的卷积网络层，提取局部图像对应的图像特征序列。
在具体实施中，卷积网络层(CNN)可以采用VGG的结构作为卷积层。VGG对卷积核的尺度进行调整，并在卷积核的卷积层后叠加批量归一化层。
需要说明的是，由于卷积网络层具有固定的输入维度，在将图像输入到卷积层之前，需要将输入的图形被调整到预设的尺度以匹配卷积层的输入维度，其中图像的大小以(height,width,channel)的形式进行表示。卷积特征矩阵的每一列对应输入图像的一个矩形区域(也叫做感受野)，相当于该矩形区域的图像描述子。
例如输入图像的大小均为(32,100,3)，卷积层将输入图像转换为(1,25,512)大小的卷积特征矩阵，意味着输入图像的每一个感受野对应1X25的特征序列。
步骤520：通过文字识别模型的循环网络层，获取图像特征序列对应的概率分布矩阵。
循环网络层预测每个特征序列的标签分布，得到每个感受野对应的概率分布矩阵，即预测每一帧(每个感受野)的标签分布，对于一个特征序列，循环网络层可以采用RNN网络，RNN网络有很强的捕获上下文信息的能力；RNN可以反向传播误差微分到它的输入端，即允许在一个整体网络上联合训练循环层和卷积层。
然而，RNN单元容易遭受梯度消失的问题，限制了RNN处理上下文信息的范围。序列的前向信息和后向信息都有助于序列的预测,因此也可以采用双向LSTM去构建循环网络层，一个前向一个反向处理来自于两个方向的上下文信息。
步骤530：通过文字识别模型的转录层，将概率分布矩阵进行解码，得到第一文本数据。
转录是将循环网络层所做的每帧预测(标签分布)转换成标签序列的过程，即根据每帧预测找到具有最高概率的标签序列。
在具体实施中可以对循环网络层得到的每帧预测通过转录层中的联接时间分类层CTC(Connectionist Temporal Classification)使用条件概率的定义，并忽略标签序列中每个标签所在的位置。
在具体转录时，可以采用无词典转录或基于词典的转录。词典是一组标签序列，预测受拼写检查字典约束。在无词典转录模式中，预测时没有任何词典。在基于词典的转录模式中，通过选择具有最高概率的标签序列进行预测。
在本申请的一些实施例中，语音识别模型包括声学特征提取模型、声学模型以及语言模型。图6为本申请实施例提供的一种语音文本转化方法的流程图，如图6所示，该方法至少包括以下步骤。
步骤610：通过声学特征提取模型，对语音进行特征提取，得到逐帧的声学特征序列。
在提取声学特征之前，可以对获取的语音进行VAD检测，从语音信号里识别和消除长时间的静音期。声学特征序列可以为MFCC特征序列，因此该步骤对语音的MFCC特征进行提取。
步骤620：通过声学模型，将声学特征序列转换为音素序列。
声学模型的结构可以是一层卷积神经网络CNN加上五层时间递归神经网络LSTM，声学特征提取模型可以以音节或词为目标，以联结主义时间分类器CTC为训练准则进行训练，得到训练后的声学模型。
在声学特征序列输入声学模型之前，声学特征序列需要补齐到固定维度，补齐后的声学特征序列通过LSTM的计算后通过CTC输出音素序列。
步骤630：通过语言模型，对音素序列进行解码，得到第二文本数据。
语言模型可以采用NMT模型，NMT模型包括Encoder、Attention机制和Decoder、NMT模型的输入为音素序列，音素序列依次经过Encoder过程和Attention机制得到Contextvector，最后经过Decoder过程输出文字序列。
采用声学模型(特征序列转换为音素序列的模型)加语言模型(音素序列转换为文字序列的模型)，两个模型训练不需要庞大、昂贵的语音数据集。
在本申请的一些实施例中，翻译模型可以采用基于transformer的模型，包括词嵌入编码层、编码层以及解码层。图7为本申请实施例提供的一种目标语言翻译方法的流程图，如图7所示，该方法至少包括以下步骤。
步骤710：通过翻译模型的词嵌入编码层，将文本数据转化为词向量矩阵。
词嵌入编码层将文本数据转化为向量表示，以在高维空间捕捉词汇间的关系。
步骤720：通过翻译模型的编码层，对词向量矩阵进行编码，得到编码结果。
为了针对词汇位置信息进行处理，可以在词嵌入编码层后加入位置编码器，将词汇位置不同可能会产生不同语义的信息加入到词向量矩阵，以弥补位置信息的缺失。
翻译模型的编码层由多个编码器堆叠而成每个编码器有两个子层相连接第一个子层由多头自注意力机制和规范化层以及一个残差连接构成，第二个子层由全连接层和规范化层以及一个残差连接构成。
步骤730：通过翻译模型的解码层，对编码结果进行解码，得到目标语言的文本数据。
翻译模型的解码层由多个解码器堆叠而成。每个编码器有三个子层相连接构成，第一个子层由一个多头自注意力机制层和规范化层以及一个残差连接构成，第二个子层由多头注意力机制和规范化层以及一个残差连接构成，第三个子层由全连接层和规范化层以及一个残差连接构成。
图8为本申请实施例提供的又一种目标语言翻译方法的流程图，应用于终端，如图8所示，该方法至少包括以下步骤。
步骤810：通过同态加密算法对待翻译数据进行加密，得到加密后待翻译数据。
同态加密是一类具有特殊自然属性的加密方法，与一般加密算法相比，同态加密除了能实现基本的加密操作之外，还能实现密文间的多种逻辑计算功能，即先逻辑计算后解密可等价于先解密后逻辑计算。利用同态加密技术可以委托第三方对数据进行处理而不泄露信息。
步骤820：将加密后待翻译数据发送至边缘计算节点；边缘计算节点用于将加密后待翻译数据翻译为目标语言的文本数据。
由于终端设备采用的是同态加密技术，因此边缘计算节点可以先对多个密文进行计算之后再由终端设备进行解密，边缘计算节点不必对每一个密文解密后再参与逻辑计算导致的高昂的计算代价；并且边缘极端节点可以在无密钥的情况下对密文的计算，既可以减少通信代价，终端设备又可以将计算任务转移到边缘计算节点，由此可平衡各方的计算代价。
步骤830：对边缘计算节点发送的目标语言的文本数据进行解密，得到解密后的目标语言的文本数据。
图9为本申请实施例提供的一种目标语言翻译方法的流程图，应用于终端，如图9所示，该方法至少包括以下步骤。
步骤910：用户通过终端设备输入待翻译的图像或者语音。
步骤920：终端设备对待翻译的图像或者语音进行同态加密。
步骤930：边缘计算节点通过YOLO-V3模型检测加密后图像中的文本，并将图像分割成至少一个包含文本的局部图像。
步骤940：边缘计算节点通过CRNN+CTC模型识别局部图像中文本。
步骤950：边缘计算节点通过LSTM+CTC将语音的声学特征转化为音素。
步骤960：边缘计算节点通过语言模型将音素转化为文本。
步骤970：边缘计算节点通过transformer模型对文本进行翻译，得到目标语言的翻译结果。
步骤980：终端设备对目标语言的翻译结果进行解码，得到解密后的翻译结果。
以下介绍本申请的翻译系统实施例，可以用于执行本申请上述实施例中的翻译方法。对于本申请翻译实施例中未披露的细节，请参照本申请上述的翻译方法的实施例。
图10示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
需要说明的是，图10示出的电子设备的计算机系统1000仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图10所示，计算机系统1000包括中央处理单元(Central Processing Unit，CPU)1001，其可以根据存储在只读存储器(Read-Only Memory，ROM)1002中的程序或者从储存部分1008加载到随机访问存储器(Random Access Memory，RAM)1003中的程序而执行各种适当的动作和处理，例如执行上述实施例中的方法。在RAM 1003中，还存储有系统操作所需的各种程序和数据。CPU 1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(Input/Output，I/O)接口1005也连接至总线1004。
以下部件连接至I/O接口1005：包括键盘、鼠标等的输入部分1006；包括诸如阴极射线管(Cathode Ray Tube，CRT)、液晶显示器(Liquid Crystal Display，LCD)等以及扬声器等的输出部分1007；包括硬盘等的储存部分1008；以及包括诸如LAN(Local AreaNetwork，局域网)卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1010上，以便于从其上读出的计算机程序根据需要被安装入储存部分1008。
特别地，根据本申请的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本申请的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分1009从网络上被下载和安装，和/或从可拆卸介质1011被安装。在该计算机程序被中央处理单元(CPU)1001执行时，执行本申请的系统中限定的各种功能。
需要说明的是，本申请实施例所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory，EPROM)、闪存、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory，CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。其中，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面，本申请还提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述实施例中的视频编辑效果的验证方法。
作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现上述实施例中的视频编辑效果的验证方法。
应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本申请的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备执行根据本申请实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的实施方式后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。
应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围执行各种修改和改变。本申请的范围仅由所附的权利要求来限制。
Claims (10)
1.一种翻译方法，其特征在于，应用于边缘计算节点，所述方法包括：
从云计算服务器获取由所述云计算服务器构建和训练的深度学习模型，以及从终端获取待翻译数据；所述深度学习模型包括识别模型和翻译模型；
通过所述识别模型，将所述待翻译数据转化为文本数据；
通过所述翻译模型，将所述文本数据翻译为目标语言的文本数据。
2.如权利要求1所述的方法，其特征在于，所述待翻译数据包括图像和语音，所述识别模型包括图像识别模型和语音识别模型；所述通过所述识别模型，将所述待翻译数据转化为文本数据，包括：
通过所述图像识别模型，识别所述图像中的文本，得到第一文本数据；
通过所述语音识别模型，将所述语音转化为第二文本数据。
3.如权利要求2所述的方法，其特征在于，所述图像识别模型包括目标检测模型和文字识别模型；所述通过所述图像识别模型，识别所述图像中的文本，得到第一文本数据，包括：
通过所述目标检测模型检测所述图像中的文本区域，并裁剪出所述图像的文本区域，得到包含所述文本区域的局部图像；
通过所述文字识别模型识别所述局部图像中的文本，得到所述第一文本数据。
4.如权利要求3所述的方法，其特征在于，所述文字识别模型包括积网络层、循环网络层以及转录层；所述通过所述文字识别模型识别所述局部图像中的文本，得到所述第一文本数据，包括：
通过所述文字识别模型的卷积网络层，提取所述局部图像对应的图像特征序列；
通过所述文字识别模型的循环网络层，获取所述图像特征序列对应的概率分布矩阵；
通过所述文字识别模型的转录层，将所述概率分布矩阵进行解码，得到所述第一文本数据。
5.如权利要求2所述的方法，其特征在于，所述语音识别模型包括声学特征提取模型、声学模型以及语言模型；所述通过所述语音识别模型，将所述语音转化为第二文本数据，包括：
通过所述声学特征提取模型，对所述语音进行特征提取，得到逐帧的声学特征序列；
通过所述声学模型，将所述声学特征序列转换为音素序列；
通过所述语言模型，对所述音素序列进行解码，得到所述第二文本数据。
6.如权利要求5所述的方法，其特征在于，所述翻译模型包括词嵌入编码层、编码层以及解码层；所述通过所述翻译模型，将所述文本数据翻译为目标语言的文本数据包括：
通过所述翻译模型的词嵌入编码层，将所述文本数据转化为词向量矩阵；
通过所述翻译模型的编码层，对所述词向量矩阵进行编码，得到编码结果；
通过所述翻译模型的解码层，对所述编码结果进行解码，得到所述目标语言的文本数据。
7.一种翻译方法，其特征在于，应用于终端，所述方法包括：
通过同态加密算法对待翻译数据进行加密，得到加密后待翻译数据；
将所述加密后待翻译数据发送至边缘计算节点；所述边缘计算节点用于将所述加密后待翻译数据翻译为目标语言的文本数据；
对所述边缘计算节点发送的所述目标语言的文本数据进行解密，得到解密后的目标语言的文本数据。
8.一种翻译系统，其特征在于，所述系统包括：
终端，用于从用户获取待翻译数据；
云计算服务器，用于构建和训练深度学习模型；所述深度学习模型包括识别模型和翻译模型；
边缘计算节点，用于从云计算服务器获取由所述云计算服务器构建和训练的深度学习模型，以及从终端获取待翻译数据；通过所述识别模型，将所述待翻译数据转化为文本数据；还用于通过所述翻译模型，将所述文本数据翻译为目标语言的文本数据。
9.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述电子设备实现如权利要求1-7中任一项所述的方法。
10.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述计算机程序被执行时实现如权利要求1-7中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111088449.4A CN113810493A (zh) | 2021-09-16 | 2021-09-16 | 翻译方法、系统、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111088449.4A CN113810493A (zh) | 2021-09-16 | 2021-09-16 | 翻译方法、系统、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113810493A true CN113810493A (zh) | 2021-12-17 |
Family
ID=78941375
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111088449.4A Pending CN113810493A (zh) | 2021-09-16 | 2021-09-16 | 翻译方法、系统、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113810493A (zh) |
Citations (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1828583A (zh) * | 2005-03-02 | 2006-09-06 | 富士施乐株式会社 | 翻译请求方法、翻译请求终端以及计算机可读记录介质 |
| CN102387343A (zh) * | 2010-08-25 | 2012-03-21 | 索尼公司 | 终端设备，服务器，数据处理系统，数据处理方法和程序 |
| CN104424181A (zh) * | 2013-08-23 | 2015-03-18 | 富士施乐株式会社 | 信息处理装置、系统和方法、以及图像处理装置 |
| JP2016062452A (ja) * | 2014-09-19 | 2016-04-25 | 富士ゼロックス株式会社 | 情報処理装置およびプログラム |
| JP2016062278A (ja) * | 2014-09-18 | 2016-04-25 | コニカミノルタ株式会社 | オブジェクト処理システム、クライアント、オブジェクト処理方法、およびコンピュータプログラム |
| CN106856480A (zh) * | 2017-02-27 | 2017-06-16 | 努比亚技术有限公司 | 数据存储方法及装置 |
| US20180176317A1 (en) * | 2016-12-15 | 2018-06-21 | International Business Machines Corpoartion | Fog Computing for Machine Translation |
| CN109145829A (zh) * | 2018-08-24 | 2019-01-04 | 中共中央办公厅电子科技学院 | 一种基于深度学习和同态加密的安全高效的人脸识别方法 |
| CN110765473A (zh) * | 2019-10-11 | 2020-02-07 | 矩阵元技术（深圳）有限公司 | 数据处理方法、装置、计算机设备和存储介质 |
| CN110852374A (zh) * | 2019-11-08 | 2020-02-28 | 腾讯云计算（北京）有限责任公司 | 数据检测方法、装置、电子设备以及存储介质 |
| JP2020077356A (ja) * | 2018-11-06 | 2020-05-21 | 株式会社椿知財サービス | 翻訳装置、翻訳装置の制御プログラム、および翻訳装置を用いた翻訳方法 |
| JP2020123215A (ja) * | 2019-01-31 | 2020-08-13 | 株式会社椿知財サービス | 翻訳装置、翻訳装置の制御プログラム、および翻訳装置を用いた翻訳方法 |
| CN112118309A (zh) * | 2020-09-16 | 2020-12-22 | 三星电子（中国）研发中心 | 音频翻译方法和系统 |
| CN112187798A (zh) * | 2020-09-28 | 2021-01-05 | 安徽大学 | 一种应用于云边数据共享的双向访问控制方法及系统 |
| CN112329485A (zh) * | 2020-11-23 | 2021-02-05 | 深圳云译科技有限公司 | 翻译方法、装置、系统及存储介质 |
-
2021
- 2021-09-16 CN CN202111088449.4A patent/CN113810493A/zh active Pending
Patent Citations (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1828583A (zh) * | 2005-03-02 | 2006-09-06 | 富士施乐株式会社 | 翻译请求方法、翻译请求终端以及计算机可读记录介质 |
| CN102387343A (zh) * | 2010-08-25 | 2012-03-21 | 索尼公司 | 终端设备，服务器，数据处理系统，数据处理方法和程序 |
| CN104424181A (zh) * | 2013-08-23 | 2015-03-18 | 富士施乐株式会社 | 信息处理装置、系统和方法、以及图像处理装置 |
| JP2016062278A (ja) * | 2014-09-18 | 2016-04-25 | コニカミノルタ株式会社 | オブジェクト処理システム、クライアント、オブジェクト処理方法、およびコンピュータプログラム |
| JP2016062452A (ja) * | 2014-09-19 | 2016-04-25 | 富士ゼロックス株式会社 | 情報処理装置およびプログラム |
| US20180176317A1 (en) * | 2016-12-15 | 2018-06-21 | International Business Machines Corpoartion | Fog Computing for Machine Translation |
| CN106856480A (zh) * | 2017-02-27 | 2017-06-16 | 努比亚技术有限公司 | 数据存储方法及装置 |
| CN109145829A (zh) * | 2018-08-24 | 2019-01-04 | 中共中央办公厅电子科技学院 | 一种基于深度学习和同态加密的安全高效的人脸识别方法 |
| JP2020077356A (ja) * | 2018-11-06 | 2020-05-21 | 株式会社椿知財サービス | 翻訳装置、翻訳装置の制御プログラム、および翻訳装置を用いた翻訳方法 |
| JP2020123215A (ja) * | 2019-01-31 | 2020-08-13 | 株式会社椿知財サービス | 翻訳装置、翻訳装置の制御プログラム、および翻訳装置を用いた翻訳方法 |
| CN110765473A (zh) * | 2019-10-11 | 2020-02-07 | 矩阵元技术（深圳）有限公司 | 数据处理方法、装置、计算机设备和存储介质 |
| CN110852374A (zh) * | 2019-11-08 | 2020-02-28 | 腾讯云计算（北京）有限责任公司 | 数据检测方法、装置、电子设备以及存储介质 |
| CN112118309A (zh) * | 2020-09-16 | 2020-12-22 | 三星电子（中国）研发中心 | 音频翻译方法和系统 |
| CN112187798A (zh) * | 2020-09-28 | 2021-01-05 | 安徽大学 | 一种应用于云边数据共享的双向访问控制方法及系统 |
| CN112329485A (zh) * | 2020-11-23 | 2021-02-05 | 深圳云译科技有限公司 | 翻译方法、装置、系统及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10380996B2 (en) | Method and apparatus for correcting speech recognition result, device and computer-readable storage medium | |
| KR102589637B1 (ko) | 기계 번역 방법 및 장치 | |
| EP3885966B1 (en) | Method and device for generating natural language description information | |
| CN113539273B (zh) | 一种语音识别方法、装置、计算机设备和存储介质 | |
| US20240078385A1 (en) | Method and apparatus for generating text | |
| WO2023273628A1 (zh) | 一种视频循环识别方法、装置、计算机设备及存储介质 | |
| WO2023159763A1 (zh) | 模型的训练方法和装置、文本摘要生成方法和装置、设备 | |
| CN110555334B (zh) | 人脸特征确定方法、装置、存储介质及电子设备 | |
| CN116050496A (zh) | 图片描述信息生成模型的确定方法及装置、介质、设备 | |
| CN117093687A (zh) | 问题应答方法和装置、电子设备、存储介质 | |
| CN116528017A (zh) | 数字人视频的生成方法、装置、电子设备和存储介质 | |
| WO2024131630A1 (zh) | 车牌识别方法、装置、电子设备及存储介质 | |
| CN117376634B (zh) | 一种短视频配乐方法、装置、电子设备和存储介质 | |
| CN117421641B (zh) | 一种文本分类的方法、装置、电子设备及可读存储介质 | |
| CN115292439A (zh) | 一种数据处理方法及相关设备 | |
| US10910014B2 (en) | Method and apparatus for generating video | |
| CN116503596A (zh) | 图片分割方法、装置、介质和电子设备 | |
| CN116416645A (zh) | 基于双分支Transformer网络的属性与图像跨模态行人再辨识方法及装置 | |
| CN113810493A (zh) | 翻译方法、系统、设备及存储介质 | |
| CN113986958B (zh) | 文本信息的转换方法、装置、可读介质和电子设备 | |
| CN115984868A (zh) | 文本处理方法、装置、介质及设备 | |
| CN114495081A (zh) | 文本识别的方法、装置、可读介质和电子设备 | |
| CN110868615B (zh) | 一种视频处理方法、装置、电子设备以及存储介质 | |
| US20230128346A1 (en) | Method, device, and computer program product for task processing | |
| US20220198141A1 (en) | System and method for identifying and displaying information related to an off screen plot element or character in a media stream |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20211217 |