JP2020016939A - 単語列修正装置、単語列修正方法及びプログラム - Google Patents

単語列修正装置、単語列修正方法及びプログラム Download PDF

Info

Publication number
JP2020016939A
JP2020016939A JP2018137761A JP2018137761A JP2020016939A JP 2020016939 A JP2020016939 A JP 2020016939A JP 2018137761 A JP2018137761 A JP 2018137761A JP 2018137761 A JP2018137761 A JP 2018137761A JP 2020016939 A JP2020016939 A JP 2020016939A
Authority
JP
Japan
Prior art keywords
word string
word
words
alternative
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018137761A
Other languages
English (en)
Other versions
JP7098463B2 (ja
Inventor
勇気 太刀岡
Yuki Tachioka
勇気 太刀岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso IT Laboratory Inc
Original Assignee
Denso IT Laboratory Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso IT Laboratory Inc filed Critical Denso IT Laboratory Inc
Priority to JP2018137761A priority Critical patent/JP7098463B2/ja
Publication of JP2020016939A publication Critical patent/JP2020016939A/ja
Application granted granted Critical
Publication of JP7098463B2 publication Critical patent/JP7098463B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】挿入誤りや脱落誤りにも対応できる単語列修正装置を提供する。【解決手段】単語列修正装置1は、複数の単語からなる単語列を入力する入力部10と、入力された単語列から、一部の単語を削除して複数の単語列を生成する単語削除部11と、単語列の一部の単語を削除して生成した複数の単語列、及び元の単語列について、それぞれの代替候補を求める代替候補算出部12と、言語モデルに基づいて代替候補の言語尤度を求める言語尤度算出部13と、代替候補の中から言語尤度が最大の単語列を選択する最大尤度選択部14と、選択された単語列を出力する出力部15とを備える。【選択図】図1

Description

本発明は、非文法的な誤りを修正する単語列修正技術に関する。
従来から、情報処理を行うシステムにおいて、入力文字列に含まれる誤りを修正する技術が提案されている。特許文献1は、知識ベースの古典的な手法として、エラーパターンと照合することで、入力文字列に含まれる誤りを修正する方法を開示している。
特許文献2は、言語表記を発音の表記(中間言語表現)に変換し、その中で代替候補を検索することで疑わしいエントリーを発見し、疑わしいエントリーに対して、前後の固定長の文字列から代替候補と比較することで修正するかどうかを決定する方法を開示している。
特許文献3では、インターネットコーパスでの出現頻度をもとに、スペル修正、誤用されている単語の修正、文法修正を行う方法が開示されている。
非特許文献1では、文字の頻度を入力として単語を出力する部分文字ニューラルネットワークが提案されている。単語内の最初と最後の文字と中間の頻度を入力特徴量として用いる方法を開示している。
図9は、上記した従来技術にかかる単語列修正装置100の構成を示す図である。入力部101より単語列が入力され、入力された単語列に対して形態素解析が必要な言語であれば形態素解析部102にて形態素解析を行い、単語分割する。また、読みと表記が著しく異なる言語であれば、中間言語変換部103にて中間言語変換を行う。次に、代替候補算出部104は、入力された単語列と辞書107を比較して、入力された単語列に誤りがある場合には、代替候補を算出する。
代替候補の算出は、特許文献1では、ルールベースの辞書により行い、特許文献2では辞書内の単語との類似度により行う。特許文献3ではインターネットコーパスとの比較により行う。非特許文献1では、入力単語に含まれる文字の頻度をもとに、部分文字ニューラルネットワークにより行う。このようにして得られた代替候補を必要があれば、言語変換部105にて元言語に変換して修正単語列を得て、これを出力部106より出力する。
特開平9-16598号公報 特開2012-69142号公報 特表2010-535377号公報
K. Sakaguchi, K. Duh, M. Post, and B. Van Durme, "Robsut wrod reocginiton via semi-character recurrent neural network", Proceedings of the Thirty-First AAAI Conference on Artificial Intelligence, pp.3281-3287 (2017).
上記した従来の単語列修正装置は、いずれもスペルミス・タイプミスのような置換誤りを対象としていた。このため、入力文字列に挿入誤り(挿入すべきでない文字が挿入された誤り)や脱落誤り(複数の文字が合体して単語数が減少する誤り)が起きて、代替候補と1対1対応が取れない場合に適用できなかった。
本発明は、上記背景に鑑み、挿入誤りや脱落誤りにも対応できる単語列修正装置を提供することを目的とする。
本発明の単語列修正装置は、複数の単語からなる単語列を入力する入力部と、前記単語列の一部の単語を削除、連結または分離して生成した複数の単語列、及び元の単語列について、それぞれの代替候補を求める代替候補算出部と、言語モデルに基づいて前記代替候補の言語尤度を求める言語尤度算出部と、前記言語尤度に基づいて、代替候補の中から一の代替候補の単語列を選択する選択部と、選択された単語列を出力する出力部とを備える。本発明の単語列修正装置は、入力された単語列から、一部の単語を削除して複数の単語列を生成する単語削除部や、入力された単語列の一部の単語を連結して複数の単語列を生成する単語連結部や、入力された単語列の一部の単語を分離し、分離して生成された単語を含む複数の単語列を生成する単語連結部を備えてもよい。
このように単語列の一部の単語を削除、連結または分離して生成した複数の単語列、及び元の単語列について、それぞれの代替候補を求めることにより、挿入誤り、または脱落誤りに対しても、代替候補を適切に求めることができる。その上で、言語尤度を用いて単語列を選択するので、挿入誤り、脱落誤りに対応した単語列修正を行える。
本発明の単語列修正装置において、前記代替候補算出部は、前記言語尤度算出部にて求めた言語尤度に基づいて選択した一の代替候補の単語列に対して、さらに、当該単語列の一部の単語を削除、連結または分離して生成した複数の単語列について、それぞれの代替候補を求めてもよい。このように言語尤度に基づいて求められた一の代替候補に対して、一部の単語が削除・連結された単語列を想定してさらなる代替候補を探すことにより、挿入誤りや脱落誤りが大きい場合にも対応できる可能性がある。
本発明の単語列修正装置は、正しい単語列と、当該正しい単語列が誤って入力される誤り例とを関連付けて記憶した誤り例記憶部を備え、前記代替候補算出部は、前記誤り例記憶部に記憶された誤り例に該当する単語列については、対応する正しい単語列を代替候補として求めてもよい。この構成により、誤り例記憶部に記憶された単語列の場合には、精度良く代替候補を求めることができる。
本発明の単語列修正装置は、前記代替候補算出部にて代替候補を求める際に、前記単語列の一部の単語を削除、連結または分離することに対する損失を計算する挿入・削除損失算出部を備え、前記選択部は、前記挿入・削除損失算出部にて求めた損失と、前記言語尤度とに基づいて、前記代替候補の中から単語列を選択してもよい。この構成により、元の単語列が必要以上に細かく分割されたり、大まかに統合されたりしないようにできる。
本発明の単語列修正装置において、前記選択部は、正解の単語列が既知の入力単語列を教師データとして用い、入力単語列に起こりやすい誤りを学習してもよい。これにより、単語列修正装置が用いられる環境等にあった単語列修正を行える。
本発明の単語列修正方法は、複数の単語からなる単語列を入力するステップと、前記単語列の一部の単語を削除、連結または分離して生成した複数の単語列、及び元の単語列について、それぞれの代替候補を求めるステップと、言語モデルに基づいて前記代替候補の言語尤度を求めるステップと、前記言語尤度に基づいて、代替候補の中から一の代替候補の単語列を選択するステップと、選択された単語列を出力するステップとを備える。
本発明のプログラムは、入力された単語列を修正するためのプログラムであって、コンピュータに、複数の単語からなる単語列を入力するステップと、前記単語列の一部の単語を削除、連結または分離して生成した複数の単語列、及び元の単語列について、それぞれの代替候補を求めるステップと、言語モデルに基づいて前記代替候補の言語尤度を求めるステップと、前記言語尤度に基づいて、代替候補の中から一の代替候補の単語列を選択するステップと、選択された単語列を出力するステップとを実行させる。
本発明によれば、従来法で修正可能な置換誤りだけでなく、挿入・脱落誤りの修正にも統合的に対応できる。
第1の実施の形態の単語列修正装置の構成を示す図である。 第1の実施の形態の変形例に係る単語列修正装置の構成を示す図である。 第2の実施の形態の単語列修正装置の構成を示す図である。 第3の実施の形態の単語列修正装置の構成を示す図である。 第4の実施の形態の単語列修正装置の構成を示す図である。 第4の実施の形態の単語列修正装置と等価な構成を示す図である。 第5の実施の形態の単語列修正装置の構成を示す図である。 第5の実施の形態の変型例に係る単語列修正装置の構成を示す図である。 従来の単語列修正装置の構成を示す図である。
以下、本発明の実施の形態の単語列修正装置について、図面を参照して説明する。以下に説明する例では、1単語ずつ調べて修正する例を記載しているが、組み合わせ数が増えることを許容できるならば、複数単語を同時に修正することもでき、その際にも同様の方法が使える。
(第1の実施の形態)
図1は、第1の実施の形態の単語列修正装置1の構成を示す図である。単語列修正装置1は、入力部10と、単語削除部11と、代替候補算出部12と、言語尤度算出部13と、出力部15とを有している。図1では、図9で説明した、形態素解析部102、中間言語変換部103、言語変換部105を記載していないが、必要に応じてこれらの構成を設けてもよい。
入力部10は、誤りのチェックの対象となる単語列の入力を受け付ける。入力部10は、音声入力、テキスト入力のいずれによって単語列の入力を受け付けてもよい。ここで、「単語列」とは、文字の集合であり、どの単位を「単語」とするかは、本装置の設計者が適宜設定することができる。形態素を「単語」としてもよいし、複数の形態素からなる派生語(語幹+接頭辞/接尾辞:例えば「お箸」)、複合語(複数の語幹からなるもの:例えば、「参考文献」)、文法的複合(活用形の変化により複数の形態素が組み合わさったもの:例えば、「投げ方」)を、「単語」としてもよい。
単語削除部11は、入力単語列から1単語ずつ削除していく。入力単語列がN単語からなっていたら、N通りの単語列が出力されることになる。
代替候補算出部12は、入力された単語列(以下、「元の単語列」という)および元の単語列から1単語削除して生成された複数の単語と、辞書データベース(以下、「辞書DB」という)20に記憶された単語とを比較して、元の単語列および元の単語列から1単語削除して生成された複数の単語列のそれぞれについて、代替候補を求める。
なお、本実施の形態では、代替候補算出部12が辞書DB20を用いる例を挙げているが、特許文献2のように前後に拡張した文字列や非特許文献1のようにLSTM(long-short term memory)ニューラルネットワークを用いることで、コンテキストを考慮した代替候補を検索してもよい。また、特許文献2のように順序を持った文字列として検索することもできるし、非特許文献1のように、順序を持たない文字の集合として、検索することもできる。さらには、単語の分散表現と呼ばれるリカレントニューラルネットワーク言語モデルの中間層の出力を利用することもできる。
言語尤度算出部13は、言語モデルを参照して、元の単語列、単語削除部11にて1単語が削除された単語列(例えば、N単語からなる単語列なら、1単語を削除した単語列はN個ある)、及び、代替候補算出部12にて求めた代替候補(例えば、M個)のそれぞれについて、尤度を求める。ここで、言語尤度の算出に用いる言語モデルは、単語列に対する確率分布である。なお、元の単語列を信頼するならば、元の単語列の尤度をかさ上げしておいてもよい。
例えば、入力単語が「A D B」で、正しい単語列が「A B」の場合、単語削除部11により「D B」「A B」「A D」の3単語列を出力し、これに加えて「A D B」の言語尤度を計算し、比較する。言語尤度の算出にはn−gram言語モデルを用いてもよいし、リカレントニューラルネットワークによる言語モデルを用いてもよい。またそれらを併用することもできる。
最大尤度選択部14は、言語尤度算出部13にて求めた言語尤度が最大の単語列を選択する。出力部15は、選択された単語列を修正された単語列として出力する。なお、図1に点線で示すように、修正された単語列を再度入力単語列として用いて修正を行い、修正がなくなるまで、もしくは所定の回数経過するまで、もしくは言語尤度の向上が閾値以下になるまでなどの条件で繰り返すことで複数個所の修正が行える。もちろん前述のとおり、複数単語を同時に修正することもできる。
本実施の形態の単語列修正装置1の動作は、図1に示す構成図において、矢印に従って、各構成要素が機能することにより実現される。すなわち、入力部10にて入力された単語列に対し、単語削除部11にて一部の単語を削除した単語列を生成し、代替候補算出部12にて、元の単語列と単語を削除して生成された単語列に対する代替候補を求める。続いて、言語尤度算出部13にて、元の単語列、一部の単語を削除した単語列および代替候補のそれぞれについて言語尤度を求め、最大尤度の単語列または代替候補を求める。
以上、本実施の形態の単語列修正装置1の構成について説明したが、上記した単語列修正装置1のハードウェアの例は、CPU、RAM、ROM、ハードディスク、ディスプレイ、キーボード、マウス、通信インターフェース等を備えるコンピュータである。上記した各機能を実現するモジュールを有するプログラムをRAMまたはROMに格納しておき、CPUによって当該プログラムを実行することによって、上記した単語列修正装置1が実現される。このようなプログラムも本発明の範囲に含まれる。なお、以下に説明する実施の形態についても、同様に、単語列修正装置1を構成するハードウェアはコンピュータであり、その機能を実現するプログラムも本発明の範囲に含まれる。
第1の実施の形態の単語列修正装置1は、元の単語列のみならず、元の単語列の一部の単語を削除して生成した単語列に対する代替候補を求め、その言語尤度を求めるので、入力された単語列に挿入誤りがある場合にも、単語列の入力誤りの修正を行うことができる。
(第1の実施の形態の変形例)
図2は、第1の実施の形態の変形例に係る単語列修正装置1の構成を示す図である。変形例に係る単語列修正装置1は、誤り例を記憶した誤り例データベース(以下、「誤り例DB」という)22を有し、誤り例が入力単語列に見られる場合にはこれに対応する正解単語列に優先的に修正する。誤り例DBには、正解単語列とそれに対応する誤り例が対応付けて記憶されている。
誤り例DB22への単語の登録の仕方はいくつか考えられる。例えば、入力単語列と正解単語列を、動的計画法などを利用して整列させ、誤りが起こった箇所の対応を取っておき、誤り例として保存しておくことができる。入力単語列が「A」、正解単語列が「B」の場合には、「A」に対する代替候補として「B」を登録する。これは単語単位で登録することもできるし、コンテキスト付きのn−gramとして登録することもできる。また、入力単語を入力、正解単語を出力とするニューラルネットワークを利用した言語モデルにより登録してもよい。入力単語列が「A B」、正解単語列が「A」の場合には、削除する例として「B」もしくは「A B」などのn−gramを登録する。入力単語列が「B」、正解単語列が「A B」の場合には、「B」に対する代替候補として「A B」を登録しておく。
単語削除部11および代替候補算出部12は、入力単語列に対して誤り例を参照し、誤りが起こったことのある入力単語(つまり、誤り例DB22に登録されている単語列)から優先的に修正する。その後、言語尤度算出部13にて、第1の実施の形態と同様の処理を行う。誤り例DB22に基づく修正だけを行って修正を完了としてもよい。
以上、第1の実施の形態に対する変形例について説明したが、以下に説明する実施の形態においても、ここで説明した変形例と同様に、誤り例DB22を備えることができる。
(第2の実施の形態)
図3は、第2の実施の形態の単語列修正装置2の構成を示す図である。第2の実施の形態の単語列修正装置2は、挿入誤りを修正するために、第1の実施の形態の単語列修正装置1の構成に加え、単語連結部16とそれに続く代替候補算出部12をさらに備えている。
単語連結部16では、入力単語列から1単語ずつずらして2単語を連結していく。入力単語列がN単語からなっている場合、(N−1)通りの(N−1)単語列を出力する。代替候補算出部12は、元の単語列の一部を連結して生成された単語列に対する代替候補を求める。言語尤度算出部13は、これらの単語列に対しても言語尤度を計算する。言語尤度が最大の代替候補を選択し、出力するのは第1の実施の形態の単語列修正装置1と同じである。
第2の実施の形態の単語列修正装置1は、入力単語列が「A B」と2単語なのに対して、正解が「C」の1単語であるような場合に対応できる。例えば「今日 行く」と「教育」に対して、「今日」という単語だけからは代替候補として「教育」は出てこないが、2単語連結することで、代替候補として「教育」が検索できる。
(第3の実施の形態)
図4は、第3の実施の形態の単語列修正装置3の構成を示す図である。第3の実施の形態の単語列修正装置3は、脱落誤りを修正するため、一単語として入力された単語が複数の単語からなる単語列である可能性を考慮した代替候補の検索を行う。
単語列修正装置3は、第2の実施の形態の単語列修正装置2の構成に加えて、単語分離部17を備えている。単語分離部17は、入力単語列が「A」という一単語なのに対して、正解が「B C」の二単語であるような場合に使える。辞書20に対して、Aと発音や文字列と前方一致するBをMB個検索する。例えば、Aが「c1234」という文字列・発音列から構成され、辞書20に「c12」が登録されていたとすると、前方一致の検索により「c12」がヒットする。Aの文字列・発音列には誤りがないとすると、残った「c34」が辞書20にあれば「c1234」という組み合わせを組合せ単語列として、組合せ単語列記憶部23に記憶する。もしくは一つまでの誤りを許すとすると「c1254」「c1235」も組合せ単語列として、組合せ単語列記憶部23に記憶する。もし、全部誤っていることを許せば、辞書20に登録されている単語数分の代替候補ができる。後方一致に関しても、上記と同様に処理を行う。Aに後方一致するCを辞書20からMC個検索し、後方一致部分を除く部分については、辞書20を参照して組合せ単語列を生成し、組合せ単語列記憶部23に記憶する。
上記のようにして単語分離部17が生成した組合せ単語列に対して、代替候補算出部12が代替候補を求め、その代替候補について言語尤度を計算する。言語尤度が最大の代替候補を選択し、選択された代替候補を修正単語列として出力するのは上記した実施の形態の単語列修正装置1,2と同じである。このとき、誤りの種類に応じて尤度にペナルティを与えたり、かさまししたりすることも考えられる。例えば、脱落の起きやすいシステムでは、置換・挿入誤りの修正に対してペナルティをかけ、それらの尤度を下げておくことができる。また、前述のように入力単語列を信頼するならば、修正された候補列に対しては尤度を下げておくことができる。
(第4の実施の形態)
図5は、第4の実施の形態の単語列修正装置4の構成を示す図である。第4の実施の形態の単語列修正装置4は、第3の実施の形態の単語列修正装置3の構成に加えて、挿入・削除損失算出部18を備えている。挿入・削除損失算出部18は、単語の挿入や削除に対してペナルティを課す機能を有する。挿入・削除損失算出部18は、挿入・削除損失算出モデル記憶部24に接続されており、挿入・削除損失算出モデルに基づいて、単語の挿入・削除に対する損失を算出する。最も単純には、挿入・削除損失算出部18は、挿入・削除損失モデルに基づいて、変化した単語数や文字数に応じた固定の損失を算出する。あるいは、挿入・削除損失算出部18は、挿入された単語の出現頻度や挿入部分の前後のn−gram確率をもとにして損失を算出してもよい。n−gram確率を用いる場合には、挿入・削除損失算出部18は、言語モデル21の情報を利用する。また、挿入されやすいフィラーなどは挿入・削除損失を小さくし、名詞・動詞などの簡単には挿入・削除されない品詞に関しては挿入・削除損失を大きくするなど、品詞別に損失を変化させることも考えられる。
言語尤度算出部13は、代替候補の言語尤度を言語モデルに基づいて求めるが、この際に、挿入・削除損失算出部18にて求めた損失も含めて言語尤度を求める。言語尤度が最大の代替候補を選択し、選択された代替候補を修正単語列として出力するのは上記した実施の形態の単語列修正装置1〜3と同じである。
第4の実施の形態の単語列修正装置4は、単語の挿入・削除に対するペナルティを課すことにより、元の単語列が必要以上に細かく分割されたり、まとめられすぎたりすることで、修正前後で単語数が大きく変化することを防ぐことができる。
(第5の実施の形態)
次に、第5の実施の形態の単語列修正装置5について説明する。第5の実施の形態の単語列修正装置5は、これまでに説明した単語列修正装置1〜4の一般的な構成を有する。第5の実施の形態の詳しい説明に先立って、第4の実施の形態の単語列修正装置4と等価な構成について説明する。
図6は、第4の実施の形態の単語列修正装置4と等価な単語列修正装置4の構成を示す図である。一部の単語の削除、挿入等といった異なる処理を行った単語列に対する代替候補に対して個別に、挿入・削除損失算出部18、言語尤度算出部13を有している。最大尤度選択部14は、代替候補のうち最大の言語尤度を有する代替候補を選択するので、図5に示すように、挿入・削除損失算出部18及び言語尤度算出部13が全体で一つの場合でも、図6に示すように、複数の代替候補算出部12のそれぞれに対して挿入・削除損失算出部18及び言語尤度算出部13を有している場合も等価である。
図7は、第5の実施の形態の単語列修正装置5の構成を示す図である。第5の実施の形態の単語列修正装置5は、図6に示す第4の実施の形態の単語列修正装置4と等価な構成において、最大尤度選択部14に代えて、候補選択部19を備えている。候補選択部19は、複数の言語尤度算出部13で求められた代替候補の言語尤度に基づいて、代替候補を選択する機能を有する。
候補選択部19は、入力された単語列およびその代替候補の言語尤度、一部の単語を削除した単語列の代替候補の言語尤度、一部の単語を連結した単語列の代替候補の言語尤度、一部の単語を分離して生成された単語列の代替候補の言語尤度のデータを入力し、どの候補単語列が最も良いかを選択する機能を有する。候補選択部19は、例えば、単語列修正装置1が用いられる環境で起こりやすい入力誤りが挿入誤りなのか脱落誤りなのかということに基づいて、それぞれの言語尤度算出部13にて算出される言語尤度に対して重み付けをして、候補単語列を選択する。
なお、候補選択部19は、必ずしも、言語尤度が最大の候補を選択するのではない点に注意を要する(結果として、言語尤度が最大の候補が選択されることはあるかもしれない)。第4の実施の形態は、候補選択部19にて、言語尤度が最大の候補を選択する構成である。
候補選択部19の構成は上記した構成に限られず、様々な構成が考えられる。
図8は、第5の実施の形態の変型例に係る単語列修正装置5の構成を示す図である。変形例に係る単語列修正装置5は、候補選択モデルを記憶した候補選択モデル記憶部25を有している。正解単語列が既知の入力単語列を教師データとして、候補選択モデルを学習しておく。候補選択部19は、それぞれの言語尤度算出部13にて求めた言語尤度を候補選択モデルに適用することにより、代替候補を選択する。
また、その他の方法として、例えば、言語尤度13を候補選択モデル25(例えばガウス混合モデルやニューラルネットワーク)に入力して、予め誤りと正解が分かっている文に対してそのパラメータを学習することで、候補を出力してもよい。その際に、言語尤度の算出の元となる代替候補の個数が異なってしまうと、入力特徴量の次元が一定にならないという問題がある。これに対しては、上位P個のみを使うというように予め言語尤度で足切りをしておくことが考えられる。脱落か挿入かを決定するだけであれば、上位1個の代替候補で十分である。
本発明は、単語列入力の誤り修正等に利用することができる。
1〜5 単語列修正装置
10 入力部
11 単語削除部
12 代替候補算出部
13 言語尤度算出部
14 最大尤度選択部
15 出力部
16 単語連結部
17 単語分離部
18 挿入・削除損失算出部
19 候補選択部
20 辞書データベース
21 言語モデル記憶部
22 誤り例記憶部
23 組合せ単語列記憶部
24 挿入・削除損失モデル記憶部
25 候補選択モデル記憶部

Claims (10)

  1. 複数の単語からなる単語列を入力する入力部と、
    前記単語列の一部の単語を削除、連結または分離して生成した複数の単語列、及び元の単語列について、それぞれの代替候補を求める代替候補算出部と、
    言語モデルに基づいて前記代替候補の言語尤度を求める言語尤度算出部と、
    前記言語尤度に基づいて、代替候補の中から一の代替候補の単語列を選択する選択部と、
    選択された単語列を出力する出力部と、
    を備える単語列修正装置。
  2. 前記代替候補算出部は、前記言語尤度算出部にて求めた言語尤度に基づいて選択した一の代替候補の単語列に対して、さらに、当該単語列の一部の単語を削除、連結または分離して生成した複数の単語列について、それぞれの代替候補を求める請求項1に記載の単語列修正装置。
  3. 入力された単語列から、一部の単語を削除して複数の単語列を生成する単語削除部を備える請求項1または2に記載の単語列修正装置。
  4. 入力された単語列の一部の単語を連結して複数の単語列を生成する単語連結部を備える請求項1乃至3のいずれかに記載の単語列修正装置。
  5. 入力された単語列の一部の単語を分離し、分離して生成された単語を含む複数の単語列を生成する単語連結部を備える請求項1乃至4のいずれかに記載の単語列修正装置。
  6. 正しい単語列と、当該正しい単語列が誤って入力される誤り例とを関連付けて記憶した誤り例記憶部を備え、
    前記代替候補算出部は、前記誤り例記憶部に記憶された誤り例に該当する単語列については、対応する正しい単語列を代替候補として求める請求項1乃至5のいずれかに記載の単語列修正装置。
  7. 前記代替候補算出部にて代替候補を求める際に、前記単語列の一部の単語を削除、連結または分離することに対する損失を計算する挿入・削除損失算出部を備え、
    前記選択部は、前記挿入・削除損失算出部にて求めた損失と、前記言語尤度とに基づいて、前記代替候補の中から単語列を選択する請求項1乃至6のいずれかに記載の単語列修正装置。
  8. 前記選択部は、正解の単語列が既知の入力単語列を教師データとして用い、入力単語列に起こりやすい誤りを学習する請求項1乃至7のいずれかに記載の単語列修正装置。
  9. 複数の単語からなる単語列を入力するステップと、
    前記単語列の一部の単語を削除、連結または分離して生成した複数の単語列、及び元の単語列について、それぞれの代替候補を求めるステップと、
    言語モデルに基づいて前記代替候補の言語尤度を求めるステップと、
    前記言語尤度に基づいて、代替候補の中から一の代替候補の単語列を選択するステップと、
    選択された単語列を出力するステップと、
    を備える単語列修正方法。
  10. 入力された単語列を修正するためのプログラムであって、コンピュータに、
    複数の単語からなる単語列を入力するステップと、
    前記単語列の一部の単語を削除、連結または分離して生成した複数の単語列、及び元の単語列について、それぞれの代替候補を求めるステップと、
    言語モデルに基づいて前記代替候補の言語尤度を求めるステップと、
    前記言語尤度に基づいて、代替候補の中から一の代替候補の単語列を選択するステップと、
    選択された単語列を出力するステップと、
    を実行させるプログラム。
JP2018137761A 2018-07-23 2018-07-23 単語列修正装置、単語列修正方法及びプログラム Active JP7098463B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018137761A JP7098463B2 (ja) 2018-07-23 2018-07-23 単語列修正装置、単語列修正方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018137761A JP7098463B2 (ja) 2018-07-23 2018-07-23 単語列修正装置、単語列修正方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2020016939A true JP2020016939A (ja) 2020-01-30
JP7098463B2 JP7098463B2 (ja) 2022-07-11

Family

ID=69581807

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018137761A Active JP7098463B2 (ja) 2018-07-23 2018-07-23 単語列修正装置、単語列修正方法及びプログラム

Country Status (1)

Country Link
JP (1) JP7098463B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113051896A (zh) * 2021-04-23 2021-06-29 百度在线网络技术(北京)有限公司 对文本进行纠错的方法、装置、电子设备和存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01281561A (ja) * 1988-05-09 1989-11-13 Nippon Telegr & Teleph Corp <Ntt> 日本文訂正候補文字抽出方法
JPH0498453A (ja) * 1990-08-13 1992-03-31 Chubu Nippon Denki Software Kk 日本語ワードプロセッサの誤用語検出訂正機構
JPH0567073A (ja) * 1991-09-09 1993-03-19 Mitsubishi Electric Corp 形態素解析装置および文節辞書作成装置
JP2011023007A (ja) * 2009-07-17 2011-02-03 Nhn Corp 統計データに基づくユーザクエリ校正システムおよび方法
JP2011065384A (ja) * 2009-09-16 2011-03-31 Nippon Telegr & Teleph Corp <Ntt> 誤字脱字対応テキスト解析装置及び方法及びプログラム
JP2013134753A (ja) * 2011-12-27 2013-07-08 Nippon Telegr & Teleph Corp <Ntt> 誤り文修正装置、誤り文修正方法およびプログラム
JP2017167247A (ja) * 2016-03-15 2017-09-21 パナソニックIpマネジメント株式会社 誤認識訂正方法、誤認識訂正装置及び誤認識訂正プログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01281561A (ja) * 1988-05-09 1989-11-13 Nippon Telegr & Teleph Corp <Ntt> 日本文訂正候補文字抽出方法
JPH0498453A (ja) * 1990-08-13 1992-03-31 Chubu Nippon Denki Software Kk 日本語ワードプロセッサの誤用語検出訂正機構
JPH0567073A (ja) * 1991-09-09 1993-03-19 Mitsubishi Electric Corp 形態素解析装置および文節辞書作成装置
JP2011023007A (ja) * 2009-07-17 2011-02-03 Nhn Corp 統計データに基づくユーザクエリ校正システムおよび方法
JP2011065384A (ja) * 2009-09-16 2011-03-31 Nippon Telegr & Teleph Corp <Ntt> 誤字脱字対応テキスト解析装置及び方法及びプログラム
JP2013134753A (ja) * 2011-12-27 2013-07-08 Nippon Telegr & Teleph Corp <Ntt> 誤り文修正装置、誤り文修正方法およびプログラム
JP2017167247A (ja) * 2016-03-15 2017-09-21 パナソニックIpマネジメント株式会社 誤認識訂正方法、誤認識訂正装置及び誤認識訂正プログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113051896A (zh) * 2021-04-23 2021-06-29 百度在线网络技术(北京)有限公司 对文本进行纠错的方法、装置、电子设备和存储介质
CN113051896B (zh) * 2021-04-23 2023-08-18 百度在线网络技术(北京)有限公司 对文本进行纠错的方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
JP7098463B2 (ja) 2022-07-11

Similar Documents

Publication Publication Date Title
JP5377889B2 (ja) 言語処理装置およびプログラム
US7584093B2 (en) Method and system for generating spelling suggestions
US20120166942A1 (en) Using parts-of-speech tagging and named entity recognition for spelling correction
JPH079655B2 (ja) スペルの誤りの検出訂正方法及び装置
JP2008216341A (ja) 誤り傾向学習音声認識装置及びコンピュータプログラム
TWI567569B (zh) Natural language processing systems, natural language processing methods, and natural language processing programs
JPWO2007097208A1 (ja) 言語処理装置、言語処理方法および言語処理用プログラム
JPH0528183A (ja) テキスト原稿解析法
JPWO2014087703A1 (ja) 単語分割装置、単語分割方法、及び単語分割プログラム
CN110262674B (zh) 一种基于拼音输入的汉字输入方法、装置及电子设备
JP2000298667A (ja) 構文情報による漢字変換装置
JP5152918B2 (ja) 固有表現抽出装置、その方法およびプログラム
US10410624B2 (en) Training apparatus, training method, and computer program product
JP7098463B2 (ja) 単語列修正装置、単語列修正方法及びプログラム
Kaur et al. Spell checker for Punjabi language using deep neural network
JP4005477B2 (ja) 固有表現抽出装置及び方法並びに固有表現抽出プログラム
JP5623380B2 (ja) 誤り文修正装置、誤り文修正方法およびプログラム
US10964313B2 (en) Word score calculation device, word score calculation method, and computer program product
JP2010097239A (ja) 辞書作成装置、辞書作成方法、および辞書作成プログラム
KR102430918B1 (ko) 한국어 맞춤법 교정장치 및 방법
Torunoglu-Selamet et al. Exploring spelling correction approaches for turkish
JP3080066B2 (ja) 文字認識装置、方法及び記憶媒体
KR101982490B1 (ko) 문자 데이터 변환에 기초한 키워드 검색 방법 및 그 장치
Büyük et al. Learning from mistakes: Improving spelling correction performance with automatic generation of realistic misspellings
JP6303508B2 (ja) 文書分析装置、文書分析システム、文書分析方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201019

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210917

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220621

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220629

R150 Certificate of patent or registration of utility model

Ref document number: 7098463

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150