JP6556381B2 - モデル学習装置及びモデル学習方法 - Google Patents
モデル学習装置及びモデル学習方法 Download PDFInfo
- Publication number
- JP6556381B2 JP6556381B2 JP2018556040A JP2018556040A JP6556381B2 JP 6556381 B2 JP6556381 B2 JP 6556381B2 JP 2018556040 A JP2018556040 A JP 2018556040A JP 2018556040 A JP2018556040 A JP 2018556040A JP 6556381 B2 JP6556381 B2 JP 6556381B2
- Authority
- JP
- Japan
- Prior art keywords
- intention
- unit
- learning data
- model
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 33
- 230000000877 morphologic effect Effects 0.000 claims description 26
- 239000000284 extract Substances 0.000 claims description 9
- 241000209094 Oryza Species 0.000 description 72
- 235000007164 Oryza sativa Nutrition 0.000 description 67
- 235000009566 rice Nutrition 0.000 description 67
- 230000010354 integration Effects 0.000 description 38
- 238000010586 diagram Methods 0.000 description 16
- 238000002360 preparation method Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 10
- 238000010411 cooking Methods 0.000 description 9
- 239000002245 particle Substances 0.000 description 5
- 235000021329 brown rice Nutrition 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 239000002131 composite material Substances 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N99/00—Subject matter not provided for in other groups of this subclass
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Machine Translation (AREA)
Description
実施の形態1.
まず、モデル学習装置1の機能構成例について、図1を参照しながら説明する。
モデル学習装置1は、図1に示すように、文例データベース101及びモデル作成部102を備えている。また、モデル作成部102は、学習データ生成部103、学習データ拡張部104、形態素解析部105及びモデル学習部106を有している。
意図理解装置2は、図2に示すように、入力部201、形態素解析部202、意図理解部203、結果統合部204及び出力部205を備えている。
モデル学習装置1における学習データ生成部103、学習データ拡張部104、形態素解析部105及びモデル学習部106の各機能は、図3に示すように、メモリ52に格納されるプログラムを実行するプロセッサ(CPU(Central Processing Unit)、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、DSP(Digital Signal Processor)ともいう)51、又は、図4に示すように、専用のハードウェアである処理回路56によって実現される。
まず、ステップST501では、学習データ生成部103が、文例データベース101に格納された文例データに基づいて、意図Inに対し、正例である文例及び負例である文例を示す学習データを生成する。なお、nは意図に紐付けられた番号である。
そして、学習データ生成部103は、まず、意図I1に対する学習データを生成する。この際、学習データ生成部103は、図6に示す文例データから、対象意図である意図I1に対応している文例を複製することで、意図I1に対する正例を生成する。また、学習データ生成部103は、図6に示す文例データから、対象外意図である意図I2,I3に対応している文例を複製することで、意図I1に対する負例を生成する。図7に意図I1に対する学習データの一例を示す。なお図7では、負例に対する意図の名称を「OTHER」としている。
上記の例では、モデル学習部106は、特徴量「米種、白米、設定する」と図8に示す拡張学習データとから、意図I1に対する意図理解モデル(I1判定用意図理解モデルと呼ぶ)108を生成する。
一方、従来の学習データである図7に記載の学習データでは、特徴量「お急ぎ」及び「炊き方」が負例にのみ含まれ、特徴量「白米」が正例にのみ含まれる。そのため、「OTHER」のスコアが米種設定[米種=白米]より高くなり、正しく意図理解できなくなる。
例えば、結果統合部204が図11に示す統合結果を得た場合、出力部205は、操作命令として、「米種を白米に設定する命令」及び「炊き方をお急ぎに設定する命令」を示すデータを炊飯器へ出力する。
まず、ステップST1201では、結果統合部204が、In判定用意図理解モデルに対する判定結果からスコアが最も高い意図を選択する。
例えば、I1判定用意図理解モデルに対する判定結果が図10Aである場合、「米種設定[米種=白米]」に対するスコアの方が「OTHER」に対するスコアよりも高いため、「米種設定[米種=白米]」を選択する。
ここで、図10Bに示すI2判定用意図理解モデルに対する判定結果に対して上記処理を行うと、ステップST1201において「炊き方設定[炊き方=お急ぎ]」を選択し、ステップST1203において「炊き方設定[炊き方=お急ぎ]」を統合結果に加えることになる。
一方、図10Cに示すI2判定用意図理解モデルに対する判定結果に対して上記処理を行うと、ステップST1201において「OTHER」を選択することになるため、「米種設定[米種=玄米]」は統合結果には加えられない。
即ち、負例を用いて正例を拡張して意図理解モデル108を生成することで、意図理解モデル108を用いて意図を理解する際において、1つの文字列に対象意図と対象外意図が含まれる場合でも、対象外意図のスコアが高くなる特徴量によって、対象意図のスコアも高くすることができる。その結果、対象外意図のスコアが対象意図のスコアより高くなることを抑制でき、高い精度で対象意図であると推定できる。
Claims (2)
- 意図毎に、正例である文例及び負例である文例を示す学習データから当該負例を複製して新たな正例を生成し、当該新たな正例を当該学習データに追加することで拡張学習データを生成する学習データ拡張部と、
前記意図毎に、前記学習データ拡張部により生成された拡張学習データが示す文例を形態素解析して、特徴量を抽出する形態素解析部と、
前記意図毎に、前記形態素解析部により抽出された特徴量と前記意図との関係を学習してモデルを生成するモデル学習部と
を備えたモデル学習装置。 - 学習データ拡張部が、意図毎に、正例である文例及び負例である文例を示す学習データから当該負例を複製して新たな正例を作成し、当該新たな正例を当該学習データに追加することで拡張学習データを生成し、
形態素解析部が、前記意図毎に、前記学習データ拡張部により生成された拡張学習データが示す正例を形態素解析して、特徴量を抽出し、
モデル学習部が、前記意図毎に、前記形態素解析部により抽出された特徴量と前記意図との関係を学習してモデルを生成する
ことを特徴とするモデル学習方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2016/086904 WO2018109806A1 (ja) | 2016-12-12 | 2016-12-12 | モデル学習装置及びモデル学習方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018109806A1 JPWO2018109806A1 (ja) | 2019-06-24 |
JP6556381B2 true JP6556381B2 (ja) | 2019-08-07 |
Family
ID=62558175
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018556040A Active JP6556381B2 (ja) | 2016-12-12 | 2016-12-12 | モデル学習装置及びモデル学習方法 |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP6556381B2 (ja) |
CN (1) | CN110073374A (ja) |
WO (1) | WO2018109806A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021145514A1 (en) * | 2020-01-17 | 2021-07-22 | Samsung Electronics Co., Ltd. | Structured adversarial training for natural language machine learning tasks |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112035641A (zh) * | 2020-08-31 | 2020-12-04 | 康键信息技术(深圳)有限公司 | 意图抽取模型验证方法、装置、计算机设备和存储介质 |
JP7190479B2 (ja) * | 2020-12-28 | 2022-12-15 | 楽天グループ株式会社 | 学習装置、機械学習モデル及び学習方法 |
JP7333377B2 (ja) * | 2021-12-14 | 2023-08-24 | 楽天グループ株式会社 | 情報処理装置、情報処理方法およびプログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000200273A (ja) * | 1998-11-04 | 2000-07-18 | Atr Interpreting Telecommunications Res Lab | 発話意図認識装置 |
JP2009237923A (ja) * | 2008-03-27 | 2009-10-15 | Nec Corp | 学習方法およびシステム |
US20160092789A1 (en) * | 2014-09-29 | 2016-03-31 | International Business Machines Corporation | Category Oversampling for Imbalanced Machine Learning |
-
2016
- 2016-12-12 JP JP2018556040A patent/JP6556381B2/ja active Active
- 2016-12-12 CN CN201680091397.7A patent/CN110073374A/zh active Pending
- 2016-12-12 WO PCT/JP2016/086904 patent/WO2018109806A1/ja active Application Filing
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021145514A1 (en) * | 2020-01-17 | 2021-07-22 | Samsung Electronics Co., Ltd. | Structured adversarial training for natural language machine learning tasks |
US11544472B2 (en) | 2020-01-17 | 2023-01-03 | Samsung Electronics Co., Ltd. | Structured adversarial, training for natural language machine learning tasks |
Also Published As
Publication number | Publication date |
---|---|
JPWO2018109806A1 (ja) | 2019-06-24 |
WO2018109806A1 (ja) | 2018-06-21 |
CN110073374A (zh) | 2019-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102342066B1 (ko) | 뉴럴 네트워크 모델을 이용한 기계 번역 방법, 장치 및 그 장치를 학습시키기 위한 방법 | |
JP6556575B2 (ja) | 音声処理装置、音声処理方法及び音声処理プログラム | |
JP6493866B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
US10037758B2 (en) | Device and method for understanding user intent | |
JP6556381B2 (ja) | モデル学習装置及びモデル学習方法 | |
US10949615B2 (en) | Apparatus and method for verifying sentence | |
CN112905735A (zh) | 用于自然语言处理的方法和设备 | |
JP5932869B2 (ja) | N−gram言語モデルの教師無し学習方法、学習装置、および学習プログラム | |
US8316004B2 (en) | Speech retrieval apparatus and speech retrieval method | |
TWI610294B (zh) | 語音辨識系統及其方法、詞彙建立方法與電腦程式產品 | |
JP6955963B2 (ja) | 検索装置、類似度算出方法、およびプログラム | |
CN104462071A (zh) | 语音翻译设备和语音翻译方法 | |
JP2016075740A (ja) | 音声処理装置、音声処理方法、およびプログラム | |
JP6738436B2 (ja) | 音声認識結果リランキング装置、音声認識結果リランキング方法、プログラム | |
CN104750677A (zh) | 语音传译装置、语音传译方法及语音传译程序 | |
JP2018195012A (ja) | 学習プログラム、学習方法、学習装置、及び変換パラメータ製造方法 | |
JP6165657B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2018081169A (ja) | 話者属性推定システム、学習装置、推定装置、話者属性推定方法、およびプログラム | |
US20090222266A1 (en) | Apparatus, method, and recording medium for clustering phoneme models | |
JP5980101B2 (ja) | 音響モデル学習用テキスト作成装置とその方法とプログラム | |
JP5954836B2 (ja) | 不理解文判定モデル学習方法、不理解文判定方法、装置、及びプログラム | |
JP2008293098A (ja) | 応答スコア情報生成装置、対話処理装置 | |
JP4735958B2 (ja) | テキストマイニング装置、テキストマイニング方法およびテキストマイニングプログラム | |
JP6389776B2 (ja) | 言語識別モデル学習装置、言語識別装置、言語識別方法、およびプログラム | |
JP4674609B2 (ja) | 情報処理装置および方法、プログラム、並びに記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190121 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190121 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190319 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190514 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190611 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190709 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6556381 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |