JP2021096327A - アクセント推定装置、アクセント学習装置、アクセント推定方法、および、アクセント学習方法 - Google Patents

Abstract

【課題】アクセントの精度を向上可能にしたアクセント推定装置、アクセント推定方法、アクセント学習装置、および、アクセント学習方法を提供する。【解決手段】アクセント辞書１３Ａに基づいて推定用表記２０Ｄを解析し、アクセント辞書１３Ａに登録されているアクセントを推定用表記２０Ｄの読みに当てはめることを、アクセント辞書１３Ａに登録されていない未知語を含めて行い、それによって、推定用表記２０Ｄの辞書アクセントを出力する解析部と、表記と読みと辞書アクセントとを入力値として当該表記の適切なアクセントを出力値とするように機械学習したモデルを備え、推定用表記２０Ｄ、推定用表記２０Ｄの読み、および、解析部が出力した推定用表記２０Ｄの辞書アクセントをモデルの入力値として、モデルの出力値を推定用表記２０Ｄのアクセントとして出力する推定部と、を備える。【選択図】図１

Description

本発明は、表記の読みに付与されるアクセントを出力するアクセント推定装置、アクセント学習装置、アクセント推定方法、および、アクセント学習方法に関する。

単語の読み上げにおける拍（モーラ）の強弱や高低であるアクセントは、人工的に作り出される合成音を自然に発せられた人間の音声に近づけるうえで重要な役割を担っている。アクセントを推定する技術には、各単語でのアクセントをシフトさせるアクセントルールを備えて、複合語の構成にアクセントルールを適用し、それによって、複合語でのアクセントを出力することが提案されている（例えば、特許文献１を参照）。また、入力されたテキストの形態素解析から読みの韻律を出力すると共に、入力されたテキストと一致するような音声素片系列を用いて、発話の速度やイントネーションが自然であるように韻律を修正する技術も知られている（例えば、特許文献２を参照）。

特開平１１−２４９８６６号公報 特開２００８−１３９６３１号公報

一方、名詞を単に連結させることによって複合語を作れてしまう日本語では、新語が日々生み出されており、アクセントの推定に用いられる辞書に登録されていない単語、および、結合規則に準じない様式で結合された複合語などの未知語は、近年において増加する一途である。また、アクセント辞書に登録される単語の数量、および、結合規則に適合する複合語の数量にも限りがあるため、未知語の読みに適切なアクセントを付与できないのが実情である。仮に、アクセント辞書に登録されている単語であっても、同音異義語が多い日本語では、かな表記された単語から読みを推測する場合、また、文脈によって異なるアクセントが付与される単語などを扱う場合には、適切なアクセントを推定することが非常に困難であるとも言える。さらに、外来語を取り入れやすい日本語では、一般的なカタカナ語のアクセントを外来語に付与する場合もあれば、原語のアクセントを外来語に付与する場合もあれば、いずれにも該当しないアクセントを付与する場合もあるため、未知語の読みに適切なアクセントを作成することを、より一層に困難なものとしている。

例えば、アクセント辞書に登録されていない「世界遺産」のアクセントを作成する場合、未知語である「世界遺産」は「世界」と「遺産」との２つの形態素に分割される。２つの形態素に適合した結合規則が存せず、２つの形態素がアクセント辞書に登録されている場合、「世界遺産」のアクセントは、各形態素のアクセントを単に連ねたものとなる。結果として、適切なアクセントが頭高型の「イ＼サン（１００）」であるべきところ、誤ったアクセントである平板型の「イ／サン（０１１）」が作成されてしまう。「焼肉定食」などの未知語も、同様であると言える。なお、ここで０と１は、イントネーションの高低につき、０は低く、１は高くあることを示す。「＼」及び「／」は、イントネーションがその文字の間で低くなること、及び高くなることを示す。

例えば、アクセント辞書に登録されていない新語である「働き方改革」のアクセントを作成する場合もまた、新語に適合した結合規則が存せず、「働き方改革」は「働き」「方」「改革」と３つの形態素に分割される。そして、適切なアクセントが頭高型の「カ＼イカク（１０００）」であるべきところ、平板型の「カ／イカク（０１１１）」が作成されてしまう。

例えば、かな表記である「こうぎょう」から推測される読みのアクセントは、漢字表記として「工業」に相当する場合と「興業」に相当する場合との間で互いに異なる。かな表記である「いし」から推測される読みのアクセントもまた、漢字表記として「遺志」「意思」「医師」「石」のいずれに相当するかによって変わる。また、例えば、「渋谷」や「上野」のように地名と人名とに用いられる単語のアクセントは、文脈のなかで地名として用いられる場合と、文脈のなかで人名として用いられる場合との間で互いに異なる。加えて、「○○〇〇ちょう」とかな表記される地名にも、「ジ／ンボ＼ウチョウ（神保町）」や「ユ／ウラ＼クチョウ（有楽町）」のように一般的なアクセントの結合規則に当てはまる場合もあれば、「オ／オテ＼マチ（大手町）」や「コ／ウジマチ（麹町）」のように当てはまらない場合もある。また、「クロワッサン」、「バウムクーヘン」、「バスケットボール」などの単語は、一般的なカタカナ語のアクセントを用いる例であって、カタカナ語の後ろから３モーラ目、もしくは、４モーラ目にアクセントが付与される。一方で、「カルテット」、「スイミング」、「アドバンス」などの単語は、一般的なカタカナ語のアクセント、および、原語のアクセントのいずれとも異なるアクセントが付与される。

本発明は、アクセントの推定精度を向上可能にしたアクセント推定装置、アクセント推定方法、アクセント学習装置、および、アクセント学習方法を提供することを目的とする。

上記課題を解決するためのアクセント推定装置は、表記と読みとアクセントとを関連付けた辞書がアクセント辞書であり、前記アクセント辞書に基づいて推定用表記を解析し、前記アクセント辞書に登録されているアクセントを前記推定用表記の読みに当てはめることを、前記アクセント辞書に登録されていない未知語を含めて行い、それによって、前記推定用表記の辞書アクセントを出力する解析部と、表記と読みと辞書アクセントとを入力値として当該表記の適切なアクセントを出力値とするように機械学習したモデルを備え、前記推定用表記、前記推定用表記の読み、および、前記解析部が出力した前記推定用表記の辞書アクセントを前記モデルの入力値として、前記モデルの出力値を前記推定用表記のアクセントとして出力する推定部と、を備える。

上記課題を解決するためのアクセント推定方法は、表記と読みとアクセントとを関連付けた辞書がアクセント辞書であり、前記アクセント辞書に基づいて推定用表記を解析し、前記アクセント辞書に登録されているアクセントを前記推定用表記の読みに当てはめることを、前記アクセント辞書に登録されていない未知語の読みを含めて行い、それによって、前記推定用表記の辞書アクセントを出力すること、および、表記と読みと辞書アクセントとを入力値として当該表記の適切なアクセントを出力値とするように機械学習したモデルを備え、前記推定用表記、前記推定用表記の読み、および、前記推定用表記の辞書アクセントを前記モデルの入力値として、前記モデルの出力値を前記推定用表記のアクセントとして出力すること、を含む。

上記課題を解決するためのアクセント学習装置は、表記と読みとアクセントとを関連付けた辞書がアクセント辞書であり、前記アクセント辞書に基づいて学習用表記を解析し、前記アクセント辞書に登録されているアクセントを前記学習用表記の読みに当てはめることを、前記アクセント辞書に登録されていない未知語を含めて行い、それによって、前記学習用表記の辞書アクセントを出力する解析部と、機械学習したモデルを出力する学習部であって、前記学習用表記、前記学習用表記の読み、および、前記学習用表記の辞書アクセントを前記モデルの入力値とし、前記学習用表記の適切なアクセントを前記モデルの出力値の理想値として、前記モデルに機械学習させる前記学習部と、を備える。

上記課題を解決するためのアクセント学習方法は、表記と読みとアクセントとを関連付けた辞書がアクセント辞書であり、前記アクセント辞書に基づいて学習用表記を解析し、前記アクセント辞書に登録されているアクセントを前記学習用表記の読みに当てはめることを、前記アクセント辞書に登録されていない未知語の読みを含めて行い、それによって、前記学習用表記の辞書アクセントを出力すること、および、機械学習したモデルを出力することであって、前記学習用表記、前記学習用表記の読み、および、前記学習用表記の辞書アクセントを前記モデルの入力値とし、前記学習用表記の適切なアクセントを前記モデルの出力値の理想値として、前記モデルに機械学習させること、を含む。

上記アクセント推定装置において、前記解析部が、第１解析部であり、表記と読みとを関連付けた辞書が読み方辞書であり、前記読み方辞書に基づいて前記推定用表記を解析し、前記推定用表記の読みを出力する第２解析部をさらに備え、前記推定部は、前記モデルの入力値とする前記推定用表記の読みを、前記第２解析部が出力した前記推定用表記の読みとしてもよい。

上記アクセント推定装置において、前記推定部は、前記モデルの入力値とする前記推定用表記の読みを、利用者が入力した適切な読みとしてもよい。
上記アクセント推定装置において、前記解析部は、前記アクセント辞書に基づいて前記推定用表記を解析して、前記推定用表記の読みを出力し、前記推定部は、前記モデルの入力値とする前記推定用表記の読みを、前記解析部が出力した前記推定用表記の読みとしてもよい。

本発明によれば、アクセント辞書に登録されていない単語、および、結合規則に準じない様式で結合された複合語などの未知語の読みに適切なアクセントを付与することができるため、アクセントの推定精度を向上できる。

アクセント推定装置の一実施形態での構成を示すハードウェアブロック図。 アクセント推定装置の一実施形態での構成を示す機能ブロック図。 アクセント推定装置が備える機械学習モデルの一部を示す模式図。 アクセント推定装置が行うアクセント推定方法の流れを示すフロー図。 アクセント学習装置の一実施形態での構成を示す機能ブロック図。 アクセント学習装置が行うアクセント学習方法の流れを示すフロー図。

図１から図６を参照してアクセント推定装置、アクセント学習装置、アクセント推定方法、および、アクセント学習方法を具体化した一実施形態を説明する。

［推定装置］
図１が示すように、アクセント推定装置１０は、アクセント推定プログラムを実行して、アクセント推定方法を行う。アクセント推定装置１０は、利用者端末２０から推定要求２０Ｑを受け付ける。アクセント推定装置１０は、推定要求２０Ｑを受け付けて、推定用表記２０Ｄを取得する。推定用表記２０Ｄは、アクセントを推定する対象である。アクセント推定装置１０は、下記（Ａ）〜（Ｄ）の４つの入力値を、機械学習モデルの入力値に含める。機械学習モデルは、４つの入力値を用いて、推定用表記２０Ｄのアクセントを出力する。アクセント推定装置１０は、機械学習モデルが出力したアクセントを、推定要求２０Ｑの回答１０Ａとして、利用者端末２０に提供する。
（Ａ）推定用表記２０Ｄ
（Ｂ）推定用表記２０Ｄの読み
（Ｃ）推定用表記２０Ｄの品詞
（Ｄ）推定用表記２０Ｄの辞書アクセント
（Ａ）推定用表記２０Ｄは、文字、数字、記号によって書き表される文字列である。推定用表記２０Ｄは、例えば「世界遺産」のように、文法上のひとまとまりの意味を有した最小限の単位である単語である。推定用表記２０Ｄは、例えば「北欧で登録されている世界遺産の数は」のように、単語の連なりとして統語論的にひとつの機能を有する文である。推定用表記２０Ｄは、例えば「北欧で登録されている世界遺産の数は３２カ所ある」のように、文の連なりとしてひとつの内容を表した文章である。

（Ｂ）推定用表記２０Ｄの読みは、推定用表記２０Ｄの読み方を示す文字列である。推定用表記２０Ｄの読みは、アクセントが当てはめられる最小の単位の並びである。例えば、推定用表記２０Ｄが「世界遺産」である場合、推定用表記２０Ｄの読みは「セカイイサン」である。アクセントが当てはめられる最小の単位は、「セ」や「カ」のように、１文字以上の仮名の列（モーラ）である。１文字以上の仮名の列は、１文字の仮名（五十音、濁点付き五十音、半濁点付き五十音（パ行）、長音記号「―」と促音「ッ」と撥音「ン」を含む）、または、１文字の仮名と１文字の小書き仮名（ァィゥェォャュョヮ）の組み合わせにより表現可能な音であり、この単位はモーラと呼称される。

アクセントは、単語を読み上げたり、単語の読みの合成音を出力したりするときの、拍の強弱や高低である。アクセントは、句や文章を読み上げたり、句や文章の読みの合成音を出力したりするときの、拍の強弱や高低であるイントネーションを含む。アクセントは、単語を読み上げたり、単語の読みの合成音を出力したりするときの、拍の基本周波数パターンである。

アクセントは、読み上げられる単語の読みを時間的に分割した基本的単位である各拍に１つずつ定められる。アクセントの表記は、例えば、ＨＬ式、線式、数字式である。例えば、３文字から構成される単語の読みである「イサン」のなかの最初の文字から数えて２文字目から音を高くする場合、アクセントは「ＬＨＨ」「イ／サン」「０１１」などと表記される。

（Ｃ）推定用表記２０Ｄの品詞は、推定用表記２０Ｄを構成する単語の品詞である。推定用表記２０Ｄが日本語で表される場合、推定用表記２０Ｄの品詞は、例えば、動詞、形容詞、形容動詞、普通名詞、固有名詞、代名詞、数詞、形式名詞、副詞、連体詞、接続詞、感動詞、助動詞、助詞、副助詞、係助詞、終助詞、接頭辞、接尾辞である。推定用表記２０Ｄの品詞は、推定用表記２０Ｄの読みを構成する最小の単位に１つずつ対応付けられる。例えば、推定用表記２０Ｄが「遺産」である場合、推定用表記２０Ｄの読みは「イサン」であり、推定用表記２０Ｄの品詞は、「イ」に「普通名詞」、「サ」に「普通名詞」、および、「ン」に「普通名詞」と対応付けられる。

（Ｄ）推定用表記２０Ｄの辞書アクセントは、アクセント辞書１３Ａに基づいて、推定用表記２０Ｄの読みに当てはめられたアクセントである。推定用表記２０Ｄの辞書アクセントは、アクセント辞書１３Ａに登録されている単語の読みを、推定用表記２０Ｄの読みに当てはめられることによって得られる。例えば、アクセント辞書１３Ａに登録されている単語が「世界」と「遺産」とであって、アクセント辞書１３Ａに「世界遺産」が登録されていないとする。このとき、アクセント辞書１３Ａには、「セ＼カイ（１００）」と「イ／サン（０１１）」とが登録されており、「世界遺産」の辞書アクセントは、これらのアクセントを連ねた「セ＼カイイ／サン」である。

アクセント辞書１３Ａは、単語の表記に、当該単語の読み、当該単語の品詞、および、当該単語のアクセントを関連付けた辞書である。例えば、単語の表記が「遺産」である場合、当該単語の読みである「イサン」、当該単語の品詞である３文字分の「普通名詞」、および、当該単語のアクセントである「０１１」あるいは「ＬＨＨ」が関連付けられている。アクセント辞書１３Ａは、推定用表記２０Ｄの読みにアクセントを当てはめること、すなわち、辞書アクセントの作成に用いられる。

読み方辞書１３Ｒは、単語の表記に、当該単語の読み、および、当該単語の品詞を関連付けた辞書である。例えば、単語の表記が「一日千秋」である場合、当該単語の読みである「イチジツセンシュウ」、および、当該単語の品詞である８文字分の「普通名詞」が関連付けられている。読み方辞書１３Ｒは、推定用表記２０Ｄの読みを作成することに用いられる。

上述したように、アクセント辞書１３Ａに登録されていない単語である未知語は、近年において増加する一途である。また、アクセント辞書１３Ａが更新される頻度は、読み方辞書１３Ｒが更新される頻度よりも、遙かに低いことが実情である。そして、アクセント辞書１３Ａに基づいて未知語の読みを解析するとなれば、読みを出力することは可能ではあるが、本来ならば１つのまとまりの意味を有する単語が、他の意味を有した登録済みの単語群として取り扱われやすくなる。例えば、未知語の表記が「一日千秋」である場合、登録済みの単語である「一日」と「千秋」とに読みが分割されて、当該表記の読みとして、「イチニチチアキ」が作成されてしまう。これに対して、読み方辞書１３Ｒに基づいて未知語の読みを解析すれば、アクセント辞書１３Ａに基づいた解析と比べて、推定用表記２０Ｄの読みが適切な読みとなる可能性が高まる。

利用者端末２０が備える入出力部２１は、利用者による操作に従って、推定用表記２０Ｄを入力する。なお、利用者端末２０の入出力部２１は、テキスト変換部を備えてもよい。テキスト変換部は、マイクに入力された利用者の音声をテキスト情報に変換する。利用者端末２０の入出力部２１は、テキスト変換部が変換したテキスト情報を、推定用表記２０Ｄとして入力する。

アクセント推定装置１０は、通信部１１、制御部１２、および、記憶部１３を備える。通信部１１、制御部１２、および、記憶部１３は、１以上のコンピューターによって構成される。通信部１１、制御部１２、および、記憶部１３を構成するコンピューターは、コンピューターネットワークに接続されている。通信部１１を構成するコンピューター、制御部１２を構成するコンピューター、および、記憶部１３を構成するコンピューターは、ワイドエリアネットワークを構成する別々の閉域通信網に接続されて、ゲートウェイを通じて、相互に接続されてもよい。

通信部１１は、利用者端末２０と接続するための通信デバイスを備える。通信部１１は、例えば、組織内のコンピューターネットワークを通じて、利用者端末２０に接続される。あるいは、通信部１１は、インターネット、衛星ネットワーク、携帯電話ネットワーク、Ｗｉ−Ｆｉ（登録商標）などを通じて、利用者端末２０に接続される。

通信部１１は、利用者端末２０による推定要求２０Ｑの入力を受け付ける。通信部１１は、受け付けられた推定要求２０Ｑを制御部１２に入力する。通信部１１は、制御部１２が入力する取得命令を受け付けて、推定用表記２０Ｄの取得を実行する。通信部１１は、取得された推定用表記２０Ｄを制御部１２に入力する。

制御部１２は、中央演算処理装置、および、メモリを備える。制御部１２は、アクセント推定を行うための各種処理を全てソフトウェアで処理するものに限らない。制御部１２は、例えば、各種処理のなかの少なくとも一部の処理を実行する専用のハードウェア（ＡＳＩＣ）を備えてもよい。つまり、制御部１２は、ＡＳＩＣなどの１つ以上の専用のハードウェア回路、知識検索プログラムに従って動作する１つ以上のプロセッサ、あるいは、これらの組み合わせ、を含む回路として構成し得る。なお、専用のハードウェア回路、プロセッサ、あるいは、これらの組み合わせを含む回路は、２つ以上の機能部を構成し得る。

制御部１２は、読み方推定用の機械学習モデルを備える。制御部１２は、第１解析部、および、第２解析部として機能する。読み推定用の機械学習モデルは、ニューラルネットワークを備えた深層学習モデルである。読み推定用の機械学習モデルは、推定用表記２０Ｄなどを入力値として、推定用表記２０Ｄの読みを出力値とするように、機械学習した深層学習モデルである。制御部１２は、読み方辞書１３Ｒに基づいて、推定用表記２０Ｄの形態素解析などの解析を行い、推定用表記２０Ｄの読みと、推定用表記２０Ｄを構成する単語の品詞と、を出力する。

制御部１２は、推定用表記２０Ｄの読みにアクセント辞書１３Ａに登録されている読みを当てはめて、それによって、推定用表記２０Ｄの読みにアクセントを当てはめる。制御部１２は、アクセント辞書１３Ａに登録されていない未知語を含めて、推定用表記２０Ｄの読みにアクセントを当てはめる。

制御部１２は、アクセント推定用の機械学習モデルを備える。制御部１２は、推定部として機能する。アクセント推定用の機械学習モデルは、ニューラルネットワークを備えた深層学習モデルである。アクセント推定用の機械学習モデルは、（Ａ）表記、（Ｂ）表記の読み、（Ｃ）表記を構成する単語の品詞、および、（Ｄ）表記の辞書アクセントを、１組みの入力値として取り扱う。アクセント推定用の機械学習モデルは、上記（Ａ）〜（Ｄ）を入力値として、入力値に含まれる表記について適切なアクセントを出力するように、機械学習した深層学習モデルである。

記憶部１３は、ハードディスクなどのコンピューター可読記憶媒体を備える。記憶部１３は、アクセント辞書１３Ａ、および、読み方辞書１３Ｒを読み出し可能に記憶する。記憶部１３は、制御部１２が読み出すアクセント推定プログラムを記憶する。記憶部１３は、機械学習モデルを読み出し可能に記憶する。なお、アクセント辞書１３Ａ、読み方辞書１３Ｒ、および、機械学習モデルは、制御部１２が記憶してもよい。

利用者端末２０は、デスクトップ、ラップトップ、タブレット、および、スマートフォンなどのコンピューターであって、入出力部２１を備える。入出力部２１は、推定要求２０Ｑと推定用表記２０Ｄとを入力するためのインターフェースを備える。入出力部２１は、推定用表記２０Ｄの読みとアクセントとを出力するためのインターフェースを備える。入出力部２１は、タッチパネル、キーボード、マウス、マイクなどの入力機器、および、ディスプレイ、スピーカなどの出力機器を備える。

［モジュール］
図２が示すように、アクセント推定装置１０は、読み推定モジュール１４、および、アクセント推定モジュール１５として機能する。アクセント推定装置１０は、制御部１２がアクセント推定プログラムを実行することによって、読み推定モジュール１４、および、アクセント推定モジュール１５として機能する。

読み推定モジュール１４は、通信部１１を通じて取得した推定用表記２０Ｄを解析する。読み推定モジュール１４は、読み方辞書１３Ｒに基づいて推定用表記２０Ｄを解析し、解析の結果を用いて、推定用表記２０Ｄの読み、および、推定用表記２０Ｄを構成する単語の品詞を出力する。

読み推定モジュール１４は、例えば、推定用表記２０Ｄの形態素解析を行う。形態素解析は、推定用表記２０Ｄを単語に分割する単語分割、および、各単語に品詞を付与する品詞処理、および、各単語に活用を付与する活用処理を含む。また、形態素解析は、相互に隣り合う文字の列を形態素である単語と見なして、単語内の部分文字列や複合語を対象とした品詞処理、および、活用処理を含む。読み推定モジュール１４は、形態素解析の他に、分割された単語の品詞を参照して、分割された単語を語幹の形に戻す語幹化処理、あるいは、分割された単語の活用を参照して、分割された単語を辞書などの見出し語に戻す見出し語化処理を行う。

読み推定モジュール１４は、機械学習モデルである読み推定モデルを備える。読み推定モデルは、推定用表記２０Ｄの解析の結果に適合した読みを出力するように、学習用の入力値と学習用の読みとの関連性を学習したモデルである。推定用表記２０Ｄの解析の結果は、例えば、推定用表記２０Ｄ、推定用表記２０Ｄに含まれる単語、当該単語の品詞、当該単語の活用、文字の種類である。

読み推定モデルは、ニューラルネットワークを備える。読み推定モジュール１４は、推定用表記２０Ｄ、推定用表記２０Ｄに含まれる単語、当該単語の品詞、当該単語の活用、文字の種類などの解析の結果を、ベクトル空間で表現する。読み推定モジュール１４は、上述した解析の結果を入力値とし、推定用表記２０Ｄの読みを出力値とする。読み方辞書１３Ｒと読み推定モデルとを用いた読みの出力は、推定用表記２０Ｄに含まれる未知語に適切な読みを付与しやすくする。

読み方辞書１３Ｒに登録された単語の数量は、新語や複合語を多く含み得る推定用表記２０Ｄの構成単語と比べて非常に少ない。アクセント辞書１３Ａに登録された単語の数量は、読み方辞書１３Ｒに登録された単語の数量よりもさらに少ない。部分文字列や複合語を単語と見なす形態素解析は、読み方辞書１３Ｒに登録された単語を用いる読みにおいて、読みの精度を向上可能にする。また、アクセント辞書１３Ａに登録された単語を用いるアクセントの作成において、読みの精度が高められている分だけ、アクセントの精度を向上可能にする。

なお、読み推定モジュール１４は、前処理として、例えば、推定用表記２０Ｄの構文解析を行ってもよい。構文解析は、単語間の関係を特定して単語に役割を付与する係り受け解析を含む。構文解析は、単語の列である句の句構造を特定して句に役割を付与する句構造解析を含む。構文解析が前処理として行われる場合には、例えば、推定用表記２０Ｄを構成する形態素のなかに、高い精度のもとで終助詞を付与することが可能となる。そして、疑問、強意、詠嘆などのアクセントに大きな影響を与える終助詞が付与された場合には、読み推定モジュール１４が出力した読みを用いるアクセントの作成において、より適切なアクセントを作成することが可能ともなる。

アクセント推定モジュール１５は、（Ｄ）推定用表記２０Ｄの辞書アクセントを作成する。アクセント推定モジュール１５は、辞書アクセントの作成に際して、読み推定モジュール１４が出力した（Ｂ）推定用表記２０Ｄの読み、（Ｃ）推定用表記２０Ｄを構成する単語の品詞、および、アクセント辞書１３Ａを参照する。アクセント推定モジュール１５は、推定用表記２０Ｄの読みをアクセント辞書１３Ａに登録されている読みに当てはめて、それによって、辞書アクセントを作成する。この際、アクセント推定モジュール１５は、推定用表記２０Ｄに含まれる未知語について、当該未知語を複数の単語に分割し、分割された単語の読みをアクセント辞書１３Ａに登録されている読みに当てはめて、それによって、未知語のアクセントを作成する。

例えば、アクセント推定モジュール１５は、推定用表記２０Ｄの読みが「セカイイサン」であるとき、当該読みがアクセント辞書１３Ａに登録されていない未知語であると判断する。そして、アクセント推定モジュール１５は、アクセント辞書１３Ａに登録されている単語を用いて、「セカイ」に関連付けられた「１００」と、「イサン」に関連付けられた「１１０」と、を連ねる。これにより、アクセント推定モジュール１５は、辞書アクセントを出力する。

例えば、アクセント推定モジュール１５は、推定用表記２０Ｄの読みが「イチジツセンシュウ」であるとき、当該読みがアクセント辞書１３Ａに登録されていない未知語であると判断する。そして、アクセント推定モジュール１５は、アクセント辞書１３Ａに登録されている単語を用いて、「イチジツ」に関連付けられた「１０００」と、「セン」に関連付けられた「１０」と、「シュウ」に関連付けられた「００」と、を連ねる。これにより、アクセント推定モジュール１５は、辞書アクセントを出力する。

アクセント推定モジュール１５は、機械学習モデルであるアクセント推定モデルを備える。アクセント推定モデルは、上記（Ａ）〜（Ｄ）の４つの入力値の意味に適合したアクセントを出力するように、学習用の入力値と学習用の教師アクセントとの関連性を学習した深層学習モデルである。アクセント推定モデルは、ニューラルネットワークを備える。アクセント推定モジュール１５は、上記（Ａ）〜（Ｄ）の４つの入力値をベクトル空間で表現する。アクセント推定モジュール１５は、上記（Ａ）〜（Ｄ）の４つの入力値をアクセント推定モデルに入力し、それによって、推定用表記２０Ｄの適切なアクセントを作成する。

［機械学習モデル］
図３が示すように、アクセント推定モジュール１５が備えるアクセント推定モデルは、ニューラルネットワークを備える。ニューラルネットワークは、複数の入力ノードＮＡから構成される入力層１８Ａ、複数の中間ノードＮＢから構成される中間層１８Ｂ（隠れ層）、および、複数の出力ノードＮＣから構成される出力層１８Ｃを備える。

ニューラルネットワークは、所定の演算を入力値に適用して出力値を演算するモデルである。なお、図３では、アクセント推定モデルの全体を示す便宜上、推定用表記２０Ｄの読みに出現した文字２０Ｑｓ、および、アクセント辞書１３Ａに基づいて解析された結果である辞書アクセント２０Ｐｓのみを、エンコードされた入力値として示す。また、中間層１８Ｂが一層である例を図示する。中間層１８Ｂは、２層以上であってもよく、中間層１８Ｂを構成する中間ノードＮＢと、出力層１８Ｃを構成する出力ノードＮＣとの間に、複数の他のノードが介在してもよい。

入力ノードＮＡと中間ノードＮＢとを接続するエッジＥ、および、中間ノードＮＢと出力ノードＮＣとを接続するエッジＥは、各々独立に重みを定める。各エッジＥが定める重みは、当該エッジＥの入力端となるノードの入力値に掛け合わされて、掛け合わされた結果は、当該エッジＥの出力端となるノードに引き渡される。

中間ノードＮＢは、当該中間ノードＮＢに引き渡された値を足し合わせる。出力ノードＮＣもまた、当該出力ノードＮＣに引き渡された値を足し合わせる。中間ノードＮＢは、当該中間ノードＮＢで足し合わされた値を、当該中間ノードＮＢが定める活性化関数に適用して、当該中間ノードＮＢの出力値を出力する。出力ノードＮＣは、当該出力ノードＮＣで足し合わされた値を、当該出力ノードＮＣが定める活性化関数に適用して、当該出力ノードＮＣの出力値を出力する。

各ノードＮＢ，ＮＣが定める活性化関数は、例えば、softmax関数、logistic関数、hyperbolic tangent関数、Rectifier Linear Unitである。各エッジＥが定める重みは、ニューラルネットワークの学習によって最適化される。

なお、アクセント推定モジュール１５が備える推定モデルは、畳み込みニューラルネットワークを備えてもよい。畳み込みニューラルネットワークは、例えば、（Ａ）推定用表記２０Ｄ、（Ｂ）推定用表記２０Ｄの読み、（Ｃ）推定用表記２０Ｄを構成する単語の品詞、（Ｄ）推定用表記２０Ｄの読みに当てはめられた辞書アクセントを、二次元の入力として取り扱う。

畳み込みニューラルネットワークは、中間層として、畳み込み層、プーリング層、および、全結合層を備える。畳み込み層は、入力に対して畳み込み処理を行う。プーリング層は、入力に対してプーリング処理を行う。全結合層は、全結合層を構成する各ノードと、全結合層の１つ前の層を構成する全てのノードとを結合する。

畳み込み処理は、二次元の入力全体にフィルタを適用する。フィルタは、所定サイズの二次元領域において、入力の特徴を凝縮するものである。フィルタは、畳み込みニューラルネットワークの学習によって更新される。すなわち、畳み込み処理は、二次元の入力全体において、入力の特徴を凝縮させて次の層に出力する。

プーリング処理は、畳み込み処理の次に行われる。プーリング処理は、所定サイズの二次元領域ごとに重要な要素を抽出することを、二次元の入力に適用する。重要な要素は、所定サイズの二次元領域における最大値、あるいは、所定サイズの二次元領域における平均値などである。

［推定方法］
アクセント推定装置１０が行うアクセント推定方法は、読み推定処理、当てはめ処理、および、アクセント推定処理を含む。

図４が示すように、読み推定処理は、まず、読み推定モジュール１４が、利用者端末２０から推定用表記２０Ｄを取得し、記憶部１３から読み方辞書１３Ｒを取得する。次いで、読み推定モジュール１４は、取得された推定用表記２０Ｄを解析し、解析の結果を読み推定モデルに入力して、（Ｂ）推定用表記２０Ｄの読み、および、（Ｃ）読みに含まれる単語の品詞を出力する（ステップＳ１１）。

当てはめ処理は、まず、アクセント推定モジュール１５が、読み推定モジュール１４から推定用表記２０Ｄの読みと品詞とを取得し、記憶部１３からアクセント辞書１３Ａを取得する。次いで、アクセント推定モジュール１５は、取得された推定用表記２０Ｄの読みと品詞とを解析し、推定用表記２０Ｄの読みにアクセントを当てはめて、（Ｄ）辞書アクセントを出力する（ステップＳ１２）。

アクセント推定処理は、まず、アクセント推定モジュール１５が、推定用表記２０Ｄ、読み推定処理の結果である推定用表記２０Ｄの読みと品詞、および、当てはめ処理の結果である辞書アクセントを、アクセント推定モデルに入力する。これにより、アクセント推定モジュール１５は、推定用表記２０Ｄのアクセント１３Ｐを出力する（ステップＳ１３）。

［学習装置］
アクセント学習装置３０は、アクセント推定装置１０が備える機械学習モデルを変更して学習処理を行う点がことなる一方で、その他の構成においては、アクセント推定装置１０と共通する。以下では、アクセント推定装置１０と異なる構成を説明し、アクセント推定装置１０と共通する構成に関しては、同一の符号を付して、その説明を割愛する。

図５が示すように、アクセント学習装置３０は、アクセント学習プログラムを実行して、アクセント学習方法を行う。アクセント学習装置３０は、利用者端末２０から学習要求を受け付ける。アクセント学習装置３０は、学習用入力値２０Ｒを取得する。学習用入力値２０Ｒは、下記（Ａ１）〜（Ｄ１）の４つのデータから構成される。
（Ａ１）学習用表記
（Ｂ１）学習用表記の読み
（Ｃ１）学習用表記の品詞
（Ｄ１）学習用表記の読みの教師アクセント

学習用表記は、文字、数字、記号によって書き表される文字列である。学習用表記は、未知語を含む表記、および、未知語を含まない表記を含む。学習用表記の読みは、学習用表記の適切な読み方を示す文字列である。学習用表記の読みを構成する単語の適切な品詞である。学習用表記の読みの教師アクセントは、学習用表記の適切な読みに付与される適切なアクセントである。

制御部１２は、（Ｂ１）学習用表記の読み、および、（Ｃ１）学習用表記を構成する単語の品詞に基づいて、アクセント辞書１３Ａを参照し、学習用表記の読みにアクセントを当てはめる。制御部１２は、アクセントの当てはめを通じて、（Ｄ２）学習前辞書アクセントを出力する。この際、制御部１２は、学習用表記に含まれる未知語を複数の単語に分割し、分割された単語のアクセントを連ねて、未知語のアクセントとする。

制御部１２は、読み学習用の機械学習モデルを備える。読み学習用の機械学習モデルは、ニューラルネットワークを備えた深層学習モデルである。読み学習用の機械学習モデルは、入力値として、（Ａ１）学習用表記、および、当該学習用表記を用いた形態素解析などの解析結果を入力値に用いる。読み学習用の機械学習モデルは、出力値の理想値として、（Ｂ１）学習用表記の読み、および、（Ｃ１）学習用表記を構成する単語の品詞を用いる。

制御部１２は、例えば、誤差逆伝播法などの学習方法を用い、入力値と出力値との間での重みなどの関係性を深層学習モデルに学習させる。制御部１２は、読み学習処理の結果として、学習済みのモデルである読み推定モデルを出力する。

制御部１２は、アクセント学習用の機械学習モデルを備える。アクセント学習用の機械学習モデルは、ニューラルネットワークを備えた深層学習モデルである。アクセント学習用の機械学習モデルは、入力値として、（Ａ１）学習用表記、（Ｂ１）学習用表記の読み、（Ｃ１）学習用表記の構成単語の品詞、（Ｄ２）学習前辞書アクセントを用いる。アクセント学習用の機械学習モデルは、出力値の理想値として、（Ｄ１）教師アクセントを用いる。

制御部１２は、例えば、誤差逆伝播法などの学習方法を用い、入力値と出力値との間での重みの関係性をモデルに学習させる。制御部１２は、アクセント学習処理の結果として、学習済みのモデルであるアクセント推定モデルを出力する。

例えば、制御部１２は、入力層１８Ａに入力値を入力して、中間層１８Ｂの出力値、および、出力層１８Ｃの出力値を求める。次いで、出力層１８Ｃの出力値と理想値との差分を、出力層１８Ｃの誤差として求める。また、出力層１８Ｃの誤差と、中間層１８Ｂでの出力値とを用いて、中間層１８Ｂの誤差を求める。次いで、出力層１８Ｃの誤差が減るように、出力層１８Ｃと中間層１８Ｂとを接続するエッジＥについて、重みを調整する。また、中間層１８Ｂの誤差が減るように、中間層１８Ｂと入力層１８Ａとを接続するエッジＥについて、重みを調整する。そして、制御部１２は、出力層１８Ｃの誤差が十分に小さくなるまで、以上の処理を繰り返す。

［学習方法］
アクセント学習装置３０が行うアクセント学習方法は、読み学習処理、当てはめ処理、および、アクセント学習処理を含む。

図６が示すように、読み学習処理では、まず、制御部１２が、利用者端末２０から（Ａ１）学習用表記と、を取得し、記憶部１３から読み方辞書１３Ｒを取得する。次いで、制御部１２は、読み方辞書１３Ｒに基づいて、取得された学習用表記を解析する。そして、制御部１２は、（Ａ１）学習用表記と、当該学習用表記の解析の結果とを入力値とし、（Ｂ１）学習用表記の読みと、（Ｃ１）学習用表記を構成する単語の品詞とを理想値として、読み学習用の機械学習モデルに学習を実行させる。これによって、制御部１２は、学習済みのモデルである読み推定モデルを出力する。

当てはめ処理では、まず、制御部１２が、（Ａ１）学習用表記と、当該学習用表記の解析の結果とを入力値として、学習用表記の読みと、学習用表記を構成する単語の品詞とを出力する。次いで、制御部１２は、記憶部１３からアクセント辞書１３Ａを取得し、解析された学習用表記の読みと、解析された単語の品詞とを用い、アクセント辞書１３Ａに基づいて、学習用表記の読みにアクセントを当てはめる。これによって、制御部１２は、（Ｄ２）学習前辞書アクセントを出力する（ステップＳ２２）。なお、制御部１２は、辞書アクセントの出力と同じく、学習用表記に含まれる未知語を複数の単語に分割し、分割された単語のアクセントを連ねて、未知語のアクセントとする。

アクセント学習処理では、制御部１２は、（Ａ１）学習用表記、解析された学習用表記の読み、解析された単語の品詞、および、（Ｄ２）学習前辞書アクセントを入力値とする。次いで、制御部１２は、（Ｄ１）教師アクセントを理想値として、アクセント学習用の機械学習モデルに学習を実行させる。これによって、制御部１２は、学習済みのモデルであるアクセント推定モデルを出力する（ステップＳ２３）。

以上、上記実施形態によれば、以下に列挙する効果が得られる。
（１）推定用表記２０Ｄが新語を含む場合であれ、推定用表記２０Ｄが未知の結合規則で作られた複合語を含む場合であれ、アクセント辞書１３Ａに登録されたアクセントが未知語の読みに当てはめられる。そして、未知語の読みに当てはめられたアクセントが適切なアクセントではない場合であれ、当該アクセントを適切なアクセントに近づけ得るような推定が、アクセント推定モデルによって行われる。結果として、推定用表記２０Ｄが未知語を含む場合であっても、推定用表記２０Ｄの読みに適したアクセントを作成することが可能であるから、アクセントの推定精度を高めることが可能となる。

（２）推定用表記２０Ｄは、未知語の語彙、未知語の構造、未知語の由来、未知語の働き、未知語の類語、未知語の関連語、未知語の連想語、辞書登録された単語との類似性などに関わる多様な情報を含む。推定用表記２０Ｄの読みは、上述した情報の他に、未知語の音韻に関わる情報、未知語の拍数に関わる情報などの多様な情報を含む。推定用表記２０Ｄの辞書アクセントは、適切なアクセントと、アクセント辞書１３Ａを用いた当てはめによるアクセントとの関連性を定め得る情報である。上記（Ａ）〜（Ｄ）を入力値としたアクセント推定モデルによる推定は、これら各種の情報をアクセントの作成に反映させ得るため、アクセントの推定精度を高めることが可能となる。

（３）アクセント推定処理では、読み推定モジュール１４で推定された推定用表記２０Ｒの読みと品詞とが入力値に含まれる。これにより、推定用表記２０Ｒの読みや品詞の精度を高めることが可能であるから、アクセントの推定精度をさらに高めることが可能となる。

（４）学習用表記は、未知語の語彙、未知語の構造、未知語の由来、未知語の働き、未知語の類語、未知語の関連語、未知語の連想語、辞書登録された単語との類似性などに関わる多様な情報を含む。学習用表記の読みは、上述した情報の他に、未知語の音韻に関わる情報、未知語の拍数に関わる情報などの多様な情報を含む。学習用表記２０Ｄの辞書アクセントは、適切なアクセントと、アクセント辞書１３Ａを用いた当てはめによるアクセントとの関連性を定め得る情報である。上記（Ａ１）〜（Ｃ１）を入力値として上記（Ｄ１）を理想値とした機械学習モデルによる学習は、これら各種の情報を未知語とそのアクセントとの関連性に反映させ得るため、アクセントの推定精度を高めることが可能となる。

（５）アクセント学習処理では、解析された学習用表記の読みと、解析された単語の品詞とが入力値に含まれる。すなわち、読み学習処理とアクセント学習処理とが共通する学習用表記を用いる一連の処理として学習されて、読み学習処理の学習結果がアクセント学習処理の結果に反映される。そのため、読み推定処理とアクセント推定処理とを一連の処理として行う形態において、アクセントの推定精度をさらに高めることが可能となる。

なお、上記実施形態は、以下のように変更して実施できる。
・アクセント推定装置１０は、読み推定処理に用いる辞書をアクセント辞書１３Ａとすることも可能である。なお、上述したように、読み推定処理に用いる辞書を読み方辞書１３Ｒとする構成であれば、推定用表記２０Ｄの読みの精度を高めることが可能である。一方、読み推定処理に用いる辞書をアクセント辞書１３Ａとする構成であれば、アクセント推定装置が備える辞書数を少なくして装置構成の簡素化を図ることが可能ともなる。

・アクセント推定装置１０は、推定用表記２０Ｄと共に、推定用表記２０Ｄの適切な読みを、利用者端末２０から取得することも可能である。この際、アクセント推定装置１０は、読み推定モジュール１４の機能を割愛された構成であってもよい。利用者が入力した適切な読みをアクセントの推定に用いる構成であれば、アクセントの推定精度をさらに高めることが可能ともなる。

・アクセント学習装置３０は、アクセント辞書１３Ａを用いて、学習用表記の読み学習処理を行うことも可能である。すなわち、アクセント学習装置３０は、学習用表記の解析を、アクセント辞書１３Ａを用いて行うことも可能である。

・アクセント学習装置３０は、学習用表記の適切な読みである（Ｂ１）学習用表記の読み、また、学習用表記の適切な品詞である（Ｃ１）学習用表記の品詞を、アクセント学習処理の入力値に用いることも可能である。

・アクセント学習装置３０は、利用者が入力した適切な学習用表記の読みを、アクセント学習処理の入力値に用いることも可能である。
・アクセント推定装置１０は、アクセントの推定に際して、上記（Ａ）（Ｂ）（Ｄ）を機械学習モデルの入力値として、上記（Ｃ）を機械学習モデルの入力値から割愛してもよい。アクセント学習装置３０は、アクセントの学習に際して、上記（Ａ１）（Ｂ１）（Ｄ１）を機械学習モデルの入力値として、上記（Ｃ１）を機械学習モデルの入力値から割愛してもよい。

・アクセント推定装置１０は、アクセント辞書１３Ａを更新する辞書更新部をさらに備えてもよい。辞書更新部は、推定用表記２０Ｄ、推定用表記２０Ｄの読み、推定用表記２０Ｄを構成する単語の品詞、および、これらを入力に含めて推定されたアクセントを、互いに関連付けてアクセント辞書１３Ａに登録する。

・アクセント推定装置１０は、アクセント推定装置１０に推定用表記２０Ｄを入力するための入力部を別途備えてもよい。この際、アクセント推定装置１０は、推定用表記２０Ｄのアクセントを用いて推定用表記２０Ｄの読みを音声化する合成部をさらにそなえてもよい。

・アクセント推定装置１０が利用者端末２０に提供する回答は、推定用表記２０Ｄのアクセントを用いて推定用表記２０Ｄの読みを利用者端末２０で音声化するためのデータであってもよい。

１０…アクセント推定装置
１３Ａ…アクセント辞書
１３Ｒ…読み方辞書
２０Ｄ…推定用表記
２０Ｒ…学習用入力値
２０Ｐｓ…辞書アクセント
３０…アクセント学習装置

Claims (9)

1. 表記と読みとアクセントとを関連付けた辞書がアクセント辞書であり、前記アクセント辞書に基づいて推定用表記を解析し、前記アクセント辞書に登録されているアクセントを前記推定用表記の読みに当てはめることを、前記アクセント辞書に登録されていない未知語を含めて行い、それによって、前記推定用表記の辞書アクセントを出力する解析部と、
   表記と読みと辞書アクセントとを入力値として当該表記の適切なアクセントを出力値とするように機械学習したモデルを備え、前記推定用表記、前記推定用表記の読み、および、前記解析部が出力した前記推定用表記の辞書アクセントを前記モデルの入力値として、前記モデルの出力値を前記推定用表記のアクセントとして出力する推定部と、を備える
   アクセント推定装置。
2. 前記解析部が、第１解析部であり、
   表記と読みとを関連付けた辞書が読み方辞書であり、前記読み方辞書に基づいて前記推定用表記を解析し、前記推定用表記の読みを出力する第２解析部をさらに備え、
   前記推定部は、前記モデルの入力値とする前記推定用表記の読みを、前記第２解析部が出力した前記推定用表記の読みとする
   請求項１に記載のアクセント推定装置。
3. 前記推定部は、前記モデルの入力値とする前記推定用表記の読みを、利用者が入力した適切な読みとする
   請求項１に記載のアクセント推定装置。
4. 前記解析部は、前記アクセント辞書に基づいて前記推定用表記を解析して、前記推定用表記の読みを出力し、
   前記推定部は、前記モデルの入力値とする前記推定用表記の読みを、前記解析部が出力した前記推定用表記の読みとする
   請求項１に記載のアクセント推定装置。
5. 表記と読みとアクセントとを関連付けた辞書がアクセント辞書であり、前記アクセント辞書に基づいて学習用表記を解析し、前記アクセント辞書に登録されているアクセントを前記学習用表記の読みに当てはめることを、前記アクセント辞書に登録されていない未知語を含めて行い、それによって、前記学習用表記の辞書アクセントを出力する解析部と、
   機械学習したモデルを出力する学習部であって、前記学習用表記、前記学習用表記の読み、および、前記学習用表記の辞書アクセントを前記モデルの入力値とし、前記学習用表記の適切なアクセントを前記モデルの出力値の理想値として、前記モデルに機械学習させる前記学習部と、を備える
   アクセント学習装置。
6. 前記解析部が、第１解析部であり、
   表記と読みとを関連付けた辞書が読み方辞書であり、前記読み方辞書に基づいて前記学習用表記を解析して、前記学習用表記の読みを出力する第２解析部をさらに備え、
   前記学習部は、前記モデルの入力値とする前記学習用表記の読みを、前記第２解析部が出力した前記学習用表記の読みとする
   請求項５に記載のアクセント学習装置。
7. 前記学習部は、前記モデルの入力値とする前記学習用表記の読みを、利用者が入力した適切な読みとする
   請求項５に記載のアクセント学習装置。
8. 表記と読みとアクセントとを関連付けた辞書がアクセント辞書であり、前記アクセント辞書に基づいて推定用表記を解析し、前記アクセント辞書に登録されているアクセントを前記推定用表記の読みに当てはめることを、前記アクセント辞書に登録されていない未知語の読みを含めて行い、それによって、前記推定用表記の辞書アクセントを出力すること、および、
   表記と読みと辞書アクセントとを入力値として当該表記の適切なアクセントを出力値とするように機械学習したモデルを備え、前記推定用表記、前記推定用表記の読み、および、前記推定用表記の辞書アクセントを前記モデルの入力値として、前記モデルの出力値を前記推定用表記のアクセントとして出力すること、を含む
   アクセント推定方法。
9. 表記と読みとアクセントとを関連付けた辞書がアクセント辞書であり、前記アクセント辞書に基づいて学習用表記を解析し、前記アクセント辞書に登録されているアクセントを前記学習用表記の読みに当てはめることを、前記アクセント辞書に登録されていない未知語の読みを含めて行い、それによって、前記学習用表記の辞書アクセントを出力すること、および、
   機械学習したモデルを出力することであって、前記学習用表記、前記学習用表記の読み、および、前記学習用表記の辞書アクセントを前記モデルの入力値とし、前記学習用表記の適切なアクセントを前記モデルの出力値の理想値として、前記モデルに機械学習させること、を含む
   アクセント学習方法。

Images