JP2023073951A - 翻訳方法、モデル訓練方法、装置、電子デバイス及び記憶媒体 - Google Patents
翻訳方法、モデル訓練方法、装置、電子デバイス及び記憶媒体 Download PDFInfo
- Publication number
- JP2023073951A JP2023073951A JP2022116365A JP2022116365A JP2023073951A JP 2023073951 A JP2023073951 A JP 2023073951A JP 2022116365 A JP2022116365 A JP 2022116365A JP 2022116365 A JP2022116365 A JP 2022116365A JP 2023073951 A JP2023073951 A JP 2023073951A
- Authority
- JP
- Japan
- Prior art keywords
- translation
- sentence
- training
- model
- translating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000013519 translation Methods 0.000 title claims abstract description 310
- 238000012549 training Methods 0.000 title claims abstract description 114
- 238000000034 method Methods 0.000 title claims abstract description 74
- 230000014616 translation Effects 0.000 claims description 304
- 230000008569 process Effects 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 10
- 238000010586 diagram Methods 0.000 description 23
- 238000004891 communication Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000010411 cooking Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 101000822695 Clostridium perfringens (strain 13 / Type A) Small, acid-soluble spore protein C1 Proteins 0.000 description 1
- 101000655262 Clostridium perfringens (strain 13 / Type A) Small, acid-soluble spore protein C2 Proteins 0.000 description 1
- 101000655256 Paraclostridium bifermentans Small, acid-soluble spore protein alpha Proteins 0.000 description 1
- 101000655264 Paraclostridium bifermentans Small, acid-soluble spore protein beta Proteins 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 235000012054 meals Nutrition 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 229920001690 polydopamine Polymers 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
- G06F40/42—Data-driven translation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
- G06F40/42—Data-driven translation
- G06F40/44—Statistical methods, e.g. probability models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
- G06F40/51—Translation evaluation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
- G06F40/58—Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Probability & Statistics with Applications (AREA)
- Machine Translation (AREA)
Abstract
Description
Claims (19)
- 翻訳すべき特定文と予め訓練された重み付けモデルとに基づいて、予め訓練された少なくとも2つの翻訳モデルのそれぞれが前記特定文を翻訳することに対応する重みを取得することと、
各前記翻訳モデルが前記特定文を翻訳する重みに基づいて、前記少なくとも2つの翻訳モデルを用いて前記特定文を翻訳することと、を含む、
翻訳方法。 - 各前記翻訳モデルが前記特定文を翻訳する重みに基づいて、前記少なくとも2つの翻訳モデルを用いて前記特定文を翻訳することは、
各前記翻訳モデルが前記特定文を翻訳する重みに基づいて前記少なくとも2つの翻訳モデルが前記特定文を翻訳する過程で生成された各位置の目標語を取得し、
前記各位置の目標語を前から後の順にスプライシングして前記特定文の翻訳を生成する、
ことを含む請求項1に記載の翻訳方法。 - 各前記翻訳モデルが前記特定文を翻訳する重みに基づいて、前記少なくとも2つの翻訳モデルが前記特定文を翻訳する過程で生成される各位置の目標語を取得することは、
前記各位置について、前記少なくとも2つの翻訳モデルのそれぞれが前記特定文を翻訳する過程において、予測された位置における複数の候補語と、各前記複数の候補語に対応する確率とを取得し、
前記位置における各前記複数の候補語について、前記少なくとも2つの翻訳モデルのそれぞれが翻訳する場合に予測される前記複数の候補語に対応する前記確率と、各前記翻訳モデルが前記特定文を翻訳する重みとに基づいて、前記複数の候補語の前記位置における推論確率を計算し、
前記位置における前記複数の候補語のそれぞれの前記位置における推論確率に基づいて、前記位置の目標語を決定する、
ことを含む請求項2に記載の翻訳方法。 - 前記各位置における各前記複数の候補語について、前記少なくとも2つの翻訳モデルのそれぞれが翻訳する場合に予測される前記複数の候補語に対応する前記確率と、各前記翻訳モデルが前記特定文を翻訳する重みとに基づいて、前記複数の候補語の前記各位置における推論確率を計算することは、
前記各位置における各前記複数の候補語について、各前記翻訳モデルが翻訳する場合に予測される前記複数の候補語に対応する前記確率と、対応する前記翻訳モデルが前記特定文を翻訳する重みとの積の和を前記複数の候補語の前記各位置における推論確率とする、
ことを含む請求項3に記載の翻訳方法。 - モデル訓練方法であって、
訓練文を収集することと、
前記訓練文、予め訓練された少なくとも2つの翻訳モデル、及び予め設定されたランダム重み分配器とに基づいて重み付けモデルを訓練することと、を含む、
方法。 - 前記訓練文と、予め訓練された少なくとも2つの翻訳モデルと、予め設定されたランダム重み分配器とに基づいて、重み付けモデルを訓練することは、
前記重み付けモデルに基づいて、前記少なくとも2つの翻訳モデルで前記訓練文を翻訳して得られた第1翻訳結果を取得し、
前記ランダム重み分配器に基づいて、前記少なくとも2つの翻訳モデルで前記訓練文を翻訳して得られた第2翻訳結果を取得し、
前記第1翻訳結果の品質スコア及び前記第2翻訳結果の品質スコアをそれぞれ取得し、
前記第2翻訳結果の品質スコアが前記第1翻訳結果の品質スコアよりも高いか否かを検出し、
肯定の場合に、前記ランダム重み分配器が前記訓練文に基づいて前記少なくとも2つの翻訳モデルに重みを割り当てた結果を、前記重み付けモデルに学習させる、
ことを含む請求項5に記載のモデル訓練方法。 - 前記重み付けモデルに基づいて前記少なくとも2つの翻訳モデルで前記訓練文を翻訳して得られた第1翻訳結果を取得することは、
前記重み付けモデルを使用して、前記少なくとも2つの翻訳モデルに前記訓練文を翻訳する第1重みを設定し、
前記少なくとも2つの翻訳モデルの第1重みに基づいて、複数の翻訳を用いて前記訓練文を翻訳して前記第1翻訳結果を得る、
ことを含む請求項6に記載のモデル訓練方法。 - 前記ランダム重み分配器に基づいて、前記少なくとも2つの翻訳モデルで前記訓練文を翻訳して得られた第2翻訳結果を取得することは、
前記ランダム重み分配器を使用して、前記少なくとも2つの翻訳モデルに前記訓練文を翻訳する第2重みを設定し、
前記少なくとも2つの翻訳モデルの第2重みに基づいて、複数の翻訳を用いて前記訓練文を翻訳して前記第2翻訳結果を得る、
ことを含む請求項6に記載のモデル訓練方法。 - 翻訳すべき特定文と予め訓練された重み付けモデルとに基づいて、予め訓練された少なくとも2つの翻訳モデルのそれぞれが前記特定文を翻訳することに対応する重みを取得する重み取得モジュールと、
各前記翻訳モデルが前記特定文を翻訳する重みに基づいて、前記少なくとも2つの翻訳モデルを用いて前記特定文を翻訳する翻訳モジュールと、
を備える翻訳装置。 - 前記翻訳モジュールは、
各前記翻訳モデルが前記特定文を翻訳する重みに基づいて、前記少なくとも2つの翻訳モデルが前記特定文を翻訳する過程で生成された各位置の目標語を取得し、
前記各位置の目標語を、前から後の順にスプライシングして前記特定文の翻訳を生成する、
請求項9に記載の翻訳装置。 - 前記翻訳モジュールは、
前記各位置について、前記少なくとも2つの翻訳モデルのそれぞれが前記特定文を翻訳する過程において、予測された位置における複数の候補語と、各前記複数の候補語に対応する確率とを取得し、
前記位置における各前記複数の候補語について、前記少なくとも2つの翻訳モデルのそれぞれが翻訳する場合に予測される前記複数の候補語に対応する前記確率と、各前記翻訳モデルが前記特定文を翻訳する重みとに基づいて、前記複数の候補語の前記位置における推論確率を計算し、
前記位置における前記複数の候補語のそれぞれの前記位置における推論確率に基づいて、前記位置の目標語を決定する、
請求項10に記載の翻訳装置。 - 前記翻訳モジュールは、
前記各位置における各前記複数の候補語について、各前記翻訳モデルが翻訳する場合に予測される前記複数の候補語に対応する前記確率と、対応する前記翻訳モデルが前記特定文を翻訳する重みとの積の和を、前記複数の候補語の前記位置における推論確率とする、
請求項11に記載の翻訳装置。 - モデル訓練装置であって、
訓練文を収集する収集モジュールと、
前記訓練文、予め訓練された少なくとも2つの翻訳モデル、及び予め設定されたランダム重み分配器に基づいて、重み付けモデルを訓練する訓練モジュールと、
を備えるモデル訓練装置。 - 前記訓練モジュールは、
前記重み付けモデルに基づいて、前記少なくとも2つの翻訳モデルで前記訓練文を翻訳して得られた第1翻訳結果を取得し、
前記ランダム重み分配器に基づいて、前記少なくとも2つの翻訳モデルで前記訓練文を翻訳して得られた第2翻訳結果を取得し、
前記第1翻訳結果の品質スコア及び前記第2翻訳結果の品質スコアをそれぞれ取得し、
前記第2翻訳結果の品質スコアが前記第1翻訳結果の品質スコアよりも高いか否かを検出し、
肯定の場合に、前記ランダム重み分配器が前記訓練文に基づいて前記少なくとも2つの翻訳モデルに重みを割り当てた結果を、前記重み付けモデルに学習させる、
請求項13に記載のモデル訓練装置。 - 前記訓練モジュールは、
前記重み付けモデルを使用して、前記少なくとも2つの翻訳モデルに前記訓練文を翻訳する第1重みを設定し、
前記少なくとも2つの翻訳モデルの第1重みに基づいて、複数の翻訳を用いて前記訓練文を翻訳して前記第1翻訳結果を得る、
請求項14に記載のモデル訓練装置。 - 前記訓練モジュールは、
前記ランダム重み分配器を使用して、前記少なくとも2つの翻訳モデルに前記訓練文を翻訳する第2重みを設定し、
前記少なくとも2つの翻訳モデルの第2重みに基づいて、複数の翻訳を用いて前記訓練文を翻訳して前記第2翻訳結果を得る、
請求項14に記載のモデル訓練装置。 - 少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサと通信可能に接続されたメモリとを備え、
前記メモリに前記少なくとも1つのプロセッサにより実行可能なコマンドを記憶しており、前記コマンドが前記少なくとも1つのプロセッサにより実行されると、前記少なくとも1つのプロセッサに請求項1~4のいずれか1項に記載の翻訳方法、又は5~8のいずれか1項に記載のモデル訓練方法を実行させる電子デバイス。 - コンピュータに請求項1~4のいずれか1項に記載の翻訳方法又は5~8のいずれか1項に記載のモデル訓練方法を実行させるためのコンピュータコマンドを記憶する非一時的なコンピュータ可読記憶媒体。
- プロセッサにより実行されると、請求項1~4のいずれか1項に記載の翻訳方法又は5~8のいずれか1項に記載のモデル訓練方法を実現するコンピュータプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111353074.X | 2021-11-16 | ||
CN202111353074.XA CN114239608B (zh) | 2021-11-16 | 2021-11-16 | 翻译方法、模型训练方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2023073951A true JP2023073951A (ja) | 2023-05-26 |
JP7472421B2 JP7472421B2 (ja) | 2024-04-23 |
Family
ID=80749496
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022116365A Active JP7472421B2 (ja) | 2021-11-16 | 2022-07-21 | 翻訳方法、モデル訓練方法、装置、電子デバイス及び記憶媒体 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230153543A1 (ja) |
JP (1) | JP7472421B2 (ja) |
CN (1) | CN114239608B (ja) |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009064051A (ja) | 2007-09-04 | 2009-03-26 | National Institute Of Information & Communication Technology | 情報処理装置、情報処理方法、及びプログラム |
CN108304390B (zh) * | 2017-12-15 | 2020-10-16 | 腾讯科技(深圳)有限公司 | 基于翻译模型的训练方法、训练装置、翻译方法及存储介质 |
CN109829550B (zh) * | 2019-02-01 | 2022-03-04 | 北京金山数字娱乐科技有限公司 | 模型评价方法和装置、模型评价系统及其训练方法和装置 |
CN109960814B (zh) * | 2019-03-25 | 2023-09-29 | 北京金山数字娱乐科技有限公司 | 模型参数搜索方法以及装置 |
CN110162800B (zh) * | 2019-05-08 | 2021-02-05 | 北京百度网讯科技有限公司 | 翻译模型的训练方法和装置 |
CN112329482A (zh) * | 2020-10-28 | 2021-02-05 | 北京嘀嘀无限科技发展有限公司 | 机器翻译方法、装置、电子设备和可读存储介质 |
CN112733552B (zh) * | 2020-12-30 | 2024-04-12 | 中国科学技术大学 | 机器翻译模型构建方法、装置以及设备 |
-
2021
- 2021-11-16 CN CN202111353074.XA patent/CN114239608B/zh active Active
-
2022
- 2022-07-21 JP JP2022116365A patent/JP7472421B2/ja active Active
- 2022-09-23 US US17/951,216 patent/US20230153543A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
CN114239608B (zh) | 2022-11-25 |
JP7472421B2 (ja) | 2024-04-23 |
CN114239608A (zh) | 2022-03-25 |
US20230153543A1 (en) | 2023-05-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11308405B2 (en) | Human-computer dialogue method and apparatus | |
JP7250052B2 (ja) | 自然言語及び知識グラフに基づく表現学習方法及び装置 | |
US20210342549A1 (en) | Method for training semantic analysis model, electronic device and storage medium | |
JP7318159B2 (ja) | テキスト誤り訂正方法、装置、電子デバイス及び可読記憶媒体 | |
JP7113097B2 (ja) | テキストエンティティの語義記述処理方法、装置及び機器 | |
JP2022177220A (ja) | テキスト認識モデルの訓練方法、テキスト認識方法及び装置 | |
KR20220005416A (ko) | 다항 관계 생성 모델의 트레이닝 방법, 장치, 전자 기기 및 매체 | |
JP2022003539A (ja) | テキスト誤り訂正方法、装置、電子機器及び記憶媒体 | |
KR102524766B1 (ko) | 자연어 및 지식 그래프 기반 표현 학습 방법 및 장치 | |
US20220083868A1 (en) | Neural network training method and apparatus, and electronic device | |
CN111401084B (zh) | 一种机器翻译的方法、设备以及计算机可读存储介质 | |
JP7430820B2 (ja) | ソートモデルのトレーニング方法及び装置、電子機器、コンピュータ可読記憶媒体、コンピュータプログラム | |
CN111079945B (zh) | 端到端模型的训练方法及装置 | |
EP4113357A1 (en) | Method and apparatus for recognizing entity, electronic device and storage medium | |
JP7285977B2 (ja) | ニューラルネットワークトレーニング方法、装置、電子機器、媒体及びプログラム製品 | |
CN114202076A (zh) | 深度学习模型的训练方法、自然语言处理方法和装置 | |
JP2023072022A (ja) | マルチモーダル表現モデルのトレーニング方法、クロスモーダル検索方法及び装置 | |
CN111241838A (zh) | 文本实体的语义关系处理方法、装置及设备 | |
US20230013796A1 (en) | Method and apparatus for acquiring pre-trained model, electronic device and storage medium | |
JP2023007366A (ja) | 分子構造取得方法、装置、電子デバイス及び記憶媒体 | |
JP2021108178A (ja) | マルチラウンド対話の検索方法、装置、記憶媒体および電子機器 | |
CN115062718A (zh) | 语言模型训练方法、装置、电子设备及存储介质 | |
JP2020008836A (ja) | 語彙テーブルの選択方法、装置およびコンピュータ読み取り可能な記憶媒体 | |
CN112507705A (zh) | 一种位置编码的生成方法、装置及电子设备 | |
JP2023073951A (ja) | 翻訳方法、モデル訓練方法、装置、電子デバイス及び記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220721 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231003 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231218 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240312 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240318 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7472421 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |