JP2003514304A

JP2003514304A - スペルミス、タイプミス、および変換誤りに耐性のある、あるテキスト形式から別のテキスト形式に変換する言語入力アーキテクチャ

Info

Publication number: JP2003514304A
Application number: JP2001536716A
Authority: JP
Inventors: リーカイ−フ; チェンズエン; ハンジアン
Original assignee: Microsoft Corp
Current assignee: Microsoft Corp
Priority date: 1999-11-05
Filing date: 2000-10-13
Publication date: 2003-04-15
Anticipated expiration: 2020-10-13
Also published as: WO2001035250A2; US7424675B2; US20050044495A1; AU1086801A; CN1387650A; WO2001035250A3; US6848080B1; JP5535417B2; US20050086590A1; CN1205572C; US7302640B2; HK1050411A1

Abstract

(57)【要約】言語入力アーキテクチャにより、表音テキスト（例えば、中国語のピンイン）の入力文字列を言語テキスト（例えば、漢字）の出力文字列に変換するが、表音テキストから言語テキストに変換する際に発生するタイプミスおよび変換誤りを極力減らす。この言語入力アーキテクチャは、検索エンジン、１つまたは複数のタイピングモデル、言語モデル、および異なる言語用の１つまたは複数の用語集を備える。各タイピングモデルは、実際のデータをもとにトレーニングされ、タイピング誤りの確率を学習する。タイピングモデルは、入力文字列の代わりにできる有望なタイピング候補のリストを生成するように構成される。この言語モデルは、前記タイピング候補のそれぞれについ有望な変換文字列を供給する。検索エンジンは、タイピングモデルと言語モデルの確率を組み合わせて、入力文字列の変換された形式を表す最も有望な変換文字列を見つける。

Description

【発明の詳細な説明】

【０００１】（技術分野）本発明は、言語入力方法およびシステムに関する。より詳細には、本発明は、
テキスト入力時に発生するタイプミスおよびある言語形式から別の言語形式への
変換時に発生する変換誤りの両方に対する誤り耐性（ｅｒｒｏｒｔｏｌｅｒａ
ｎｃｅ）のある言語入力方法およびシステムを実現する。

【０００２】（発明の背景）言語固有のワードプロセッサソフトが何年もの間存在している。より複雑なワ
ードプロセッサは、スペルおよび文法の訂正など、ユーザに高等なツールを提供
し、文書を起草する際に補助する。例えば、多数のワードプロセッサは、スペル
ミスの単語や文法的に間違っているセンテンス構造を識別し、場合によっては、
識別された誤りを自動的に訂正することができる。

【０００３】一般に、誤りがテキストに入り込む原因は２つある。原因の１つは、ユーザが
単に、正しいスペルまたはセンテンス構造を知らないことである。ワードプロセ
ッサは、ユーザが正しいスペルまたは言葉使いを選択する際に手助けするために
提案することができる。第２のより一般的な誤りの原因は、ユーザが、正しいス
ペルまたは文法構造を知っていても単語またはセンテンスを間違ってコンピュー
タに入力することである。このような状況では、ワードプロセッサは、不適切に
入力された文字列を識別し、意図した単語または語句に訂正するのに大変役立つ
ことが多い。

【０００４】入力誤りは、欧文文字を使用しない言語用に設計されたワードプロセッサで起
こりがちである。英語バージョンのＱＷＥＲＴＹキーボードなど言語固有のキー
ボードは、多くの言語の場合、そのような言語がキーボードのキーとして使いや
すく配列できるよりも多くの文字を有するため、存在していない。例えば、多く
のアジア言語は数千文字を含む。これだけ多くの様々な文字について別々のキー
をサポートするキーボードを構築することは実際上不可能である。

【０００５】費用のかかる言語および方言固有のキーボードを設計するのではなく、言語固
有の文書処理システムは、ユーザが小さな文字セットキーボード（例えば、ＱＷ
ＥＲＴＹキーボード）から表音テキスト（ｐｈｏｎｅｔｉｃｔｅｘｔ）を入力
し、その表音テキストを言語テキストに変換することができる。「表音テキスト
」は、所与の言語を発話したときに発生する音を表すが、「言語テキスト」はテ
キストで表示されたとき実際に書かれた文字を表す。例えば、中国語では、ピン
インは表音テキストの一例であり、漢字は言語テキストの一例である。表音テキ
ストを言語テキストに変換することにより、多くの様々な言語を、従来のコンピ
ュータおよび標準ＱＷＥＲＴＹキーボードを使用して言語固有のワードプロセッ
サによって処理できる。

【０００６】表音入力を必要とするワードプロセッサでは、２種類の入力誤りが発生する可
能性がある。１つの種類の誤りは、一般的なタイプミスである。しかし、テキス
トにタイプミスがないとしても、文書処理エンジンが表音テキストを意図しない
文字テキストに誤って変換するという誤りもありえる。これら２つの問題の両方
が、同じ表音テキスト入力文字列で作用した場合、一連の複数の誤りが生じるこ
とがある。状況によっては、語句またはセンテンスの文脈全体を時間をかけて調
査しなければ、タイピングで生じる誤りが容易に追跡できない場合がある。

【０００７】本明細書で説明する本発明は、表音テキストをタイプした場合のユーザによる
前者のタイプの入力誤りを主に対象としているが、文書処理エンジンで生じた変
換誤りに対する耐性も提供する。このようなタイピング誤りと関連する問題をよ
く説明するために、表音テキストであるピンインを言語テキストである漢字に変
換する中国語ベースのワードプロセッサを考察する。

【０００８】表音テキストを入力すると多くの場合タイピング誤りが増える理由はいくつか
ある。理由の１つは、英語用のキーボードでの平均タイピング精度は英語を話す
国々の場合よりも中国の場合の方が低いということである。第２の理由は、表音
はそれほど頻繁に使用されているわけではないということである。初期の教育期
間中、ユーザは、例えば、英語を話すユーザが英語で単語を綴ることを教わるほ
ど、表音綴りを勉強、学習する傾向はない。

【０００９】表音テキスト入力中のタイピング誤りが増える第３の理由は、多くの人々が標
準語ではなく方言を母語として話すというものである。表音テキストの起源であ
る標準語は、第２言語である。特定の方言およびアクセントでは、話し言葉は、
対応する適切な表音と一致しない場合があり、従って、ユーザが表音テキストを
タイプすることをより難しくする。例えば、多くの中国人はさまざまな中国語方
言を自分の第１言語として話しており、ピンインの起源である北京語を第２言語
として教えられている。例えば、いくつかの中国語方言では、一定の文脈で「ｈ
」と「ｗ」を発音する際に区別がなく、他の方言では、「ｎｇ」と「ｎ」につい
ても同じことが言え、さらに他の方言では、「ｒ」は明瞭に発音されない。その
ため、北京語を第２言語として話す中国人ユーザは、ピンインを入力しようとし
てタイピング誤りをしがちである。

【００１０】タイピング誤りが増える理由としては他に、表音テキストをタイプしながら誤
りをチェックすることが困難であるということが考えられる。これは、１つには
、表音テキストが長く判読しにくくなり、読むことが困難になる傾向があるとい
うことによる。見たものがタイプしたものである英語ベースのテキスト入力と対
照的に、表音テキストの入力は、「見たものが得られるもの」でないことが多い
。むしろ、ワードプロセッサは、表音テキストを言語テキストに変換する。その
ため、ユーザは一般に、表音テキストに誤りがないか調べることをしないが、表
音テキストが言語テキストに変換されるまで多少待つ。

【００１１】この最後の理由により、タイピング誤りは、ピンイン入力の文脈ではきわめて
うっとうしいものである。ピンイン文字列は、文字間にスペーシングがないため
再検討、訂正が非常に難しい。その代わりに、ピンイン文字は、ピンイン文字で
構成される単語の数に関係なく混在する。さらに、ピンイン−漢字変換はすぐに
実行されることはないが、追加ピンインを入力するにつれ正しい解釈が定式化さ
れ続ける。従って、ユーザが間違ったピンイン記号をタイプした場合、単一の誤
りが変換プロセスによって複合され、下流に伝播して、いくつかの追加誤りの原
因となる場合がある。その結果、システムが漢字に確定変換しその後ユーザが誤
りのあったことに気づくまでに、１回訂正するのにユーザは数回バックスペース
を入力せざるをえないため、誤り訂正の時間が長くかかる。システムによっては
、元の誤りを明らかにできない場合さえある。

【００１２】表音入力中に間違いが頻繁に生じることが予想されるため、表音入力の誤りを
許容できるシステムが必要である。システムは、表音列がわずかに誤りのある文
字列を含むとしても正しい答えを返すのが望ましい。

【００１３】言語固有ワードプロセッサは他の問題に直面しており、これは、入力問題とは
別であって、異なる言語から同じテキストに単語を入力するために２つの言語間
でモードを切り替えることに関するものである。例えば、技術用語（例えば、Ｉ
ｎｔｅｒｎｅｔ）などの英単語と翻訳が難しい用語（例えば、頭字語、記号、サ
ーネーム、社名など）を含む文書草稿を中国語で作成することがよくある。従来
のワードプロセッサでは、ユーザは異なる単語を入力するときに、一方の言語を
他方の言語にモード切替をする必要がある。そのため、ユーザが異なる言語から
単語を入力したい場合、ユーザはテキスト入力についての思考を停止し、モード
をある言語から別の言語に切り替えて、単語を入力し、それからモードを最初の
言語に戻す必要がある。このため、ユーザのタイピング速度が著しく低下し、ユ
ーザは自分の注意をテキスト入力作業と、言語モードの変更という異質な制御作
業との間で切り替える必要がある。

【００１４】従って、モード切替を必要としない「モードレス」システムが必要なのである
。モードを避けるために、システムは、タイプしている言語を検出し、文字シー
ケンスを１単語ずつ一方の言語または他方の言語に動的に変換することができな
ければならない。

【００１５】しかし、これは、両方の文脈で多くの文字列が適切な場合があるため、思った
ほど簡単ではない。例えば、多くの有効な英単語はさらに有効なピンイン文字列
でもある。さらに、ピンイン入力時に中国語文字間、および中国語文字と英単語
との間にスペースがないため、曖昧さが増すことがある。

【００１６】例えば、ユーザがピンイン入力テキスト「ｗｏｓｈｉｙｉｇｅｚｈｏｎｇｇｕ
ｏｒｅｎ」をタイプすると、システムはこの文字列を中国語文字「」（
一般に「私は中国人である」と翻訳される）に変換する。

【００１７】ときには、「ｗｏｓｈｉｙｉｇｅｚｈｏｎｇｇｕｏｒｅｎ」とタイプする代わ
りに、ユーザは次のようにタイプします。ｗｏｓｉｙｉｇｅｚｈｏｎｇｇｕｏｒｅｎ（誤りは「ｓｈ」と「ｓ」の混同）ｗｏｓｈｉｙｉｇｅｚｏｎｇｇｕｏｒｅｎ（誤りは「ｚｈ」と「ｚ」の混同）ｗｏｓｈｉｙｇｅｚｈｏｎｇｇｕｏｒｅｎ（誤りは、「ｙ」の後の「ｉ」の脱
落）ｗｏｓｈｉｙｉｇｅｚｈｏｎｇｇｏｕｒｅｎ（誤りは、「ｏｕ」の並列）ｗｏｓｈｉｙｉｇｅｚｈｏｎｇｇｕｉｒｅｎ（誤りは「ｉ」と「ｏ」の混同）

【００１８】発明者は、中国語などの難しい外国語でスペルミスの修正を可能にする文書処
理システムと方法をすでに開発しており、自動言語認識機能により複数言語のモ
ードレス入力が可能になっている。

【００１９】（発明の概要）言語入力アーキテクチャにより、表音テキスト（例えば、中国語のピンイン）
の入力文字列を言語テキスト（例えば、漢字）の出力文字列に変換するが、表音
テキストから言語テキストに変換する際に発生するタイプミスおよび変換誤りを
極力減らす。言語入力アーキテクチャは、文書処理プログラム、電子メールプロ
グラム、表計算ソフト、ブラウザなどさまざまな分野で実装することができる。

【００２０】一実装では、言語入力アーキテクチャは入力文字列、記号、またはその他のテ
キスト要素を受け取るユーザインタフェースを備える。入力文字列は、表音テキ
ストおよび非表音テキスト、さらに１つまたは複数の言語を含むことができる。
このユーザインタフェースにより、ユーザは、異なるテキスト形式または異なる
言語の入力のモードを切り替えることなく単一の編集行に入力テキスト文字列を
入力することができる。この方法により言語入力アーキテクチャは、ユーザが使
いやすいように複数の言語のモードレス入力を実現している。

【００２１】この言語入力アーキテクチャはさらに、検索エンジン、１つまたは複数のタイ
ピングモデル、言語モデル、および異なる言語用の１つまたは複数の用語集を備
える。検索エンジンは、ユーザインタフェースから入力文字列を受け取り、入力
文字列を１つまたは複数のタイピングモデルに分配する。各入力モデルは、各候
補文字列が入力文字列として間違って入力された場合のタイピング誤り確率に基
づいて入力文字列に置換できる有望なタイピング候補のリストを生成するように
構成されている。有望なタイピング候補は、データベースに格納できる。

【００２２】タイピングモデルは、トレーニングテキストを入力している多くのトレーナか
ら集めたデータでトレーニングする。例えば、中国語の文脈では、トレーナはピ
ンインで書かれているトレーニングテキストを入力する。トレーニングテキスト
を入力しているときに見つかった誤りを使用して、タイピング誤りを修正するの
に使用できるタイピング候補と関連する確率を計算する。複数のタイピングモデ
ルを採用している場合、各タイピングモデルを異なる言語でトレーニングできる
。

【００２３】一実施形態では、タイピングモデルは、入力テキストの文字列を読み取り、音
節を対応するタイプされた各文字列の文字に対応付けることによりトレーニング
できる。タイプされた各文字が音節の１つに対応づけられる回数を表す頻度カウ
ントを保持し、各音節のタイピングの確率をその頻度カウントから計算するタイピングモデルは、入力文字列内に存在する可能性のあるタイプミスの原因
となりうるタイピング候補の集まりを返す。タイピング候補は、入力文字列と同
じ言語またはテキスト形式で書かれる。

【００２４】検索エンジンはタイピング候補を言語モデルに渡し、これが各タイピング候補
の可能性のある変換文字列となる。より具体的には、言語モデルは三重文字言語
モデルであり、有望な変換出力文字列が前の２つのテキストエレメントに基づい
て候補文字列を表す言語テキスト確率を求めようとする。変換文字列は、入力文
字列と異なる言語または異なるテキスト形式で書かれている。例えば、入力文字
列は、中国語ピンインまたはその他の表音テキストで構成され、出力文字列は漢
字またはその他の言語テキストで構成される。

【００２５】タイピングおよび言語モデルで求めた確率に基づき、検索エンジンは最高の確
率を示す関連するタイピング候補および変換候補を選択する。検索エンジンは、
入力文字列（例えば、表音テキストで書かれている）を言語モデルから返された
変換候補からなる出力文字列に変換し、入力されたテキスト形式（例えば、表音
テキスト）を他のテキスト形式（例えば、言語テキスト）に置き換える。この方
法により、表音テキストの入力時のユーザによる入力誤りがなくなる。

【００２６】複数言語を使用する場合、出力文字列は変換候補と入力文字列の一部分（変換
なし）との組み合わせを持つことができる。後者の例では、中国語ベースの言語
入力アーキテクチャは、両方の変換されたピンイン−漢字テキストを変換されて
いない英語テキストとともに出力する。

【００２７】ユーザインタフェースは、入力文字列の入力にそのまま使用する同じ編集行に
出力文字列を表示する。この方法では、変換は自動的に行われ、ユーザが追加テ
キストを入力するのと同時に行われる。

【００２８】図全体を通して類似の構成要素および特徴を参照するのに同じ番号を使用して
いる。

【００２９】（好ましい実施形態の詳細な説明）本発明は、言語のある形式（例えば、表音バージョン）から言語の別の形式（
例えば、書き言葉バージョン）に変換する言語入力システムおよび方法に関連す
る。このシステムおよび方法は、テキスト入力時に発生するスペルミスおよびタ
イプミスおよびある言語形式から別の言語形式への変換時に発生する変換誤りに
対する誤り耐性がある。説明のため、本発明は、汎用コンピュータで実行される
文書処理プログラムの一般的文脈で説明する。ただし、本発明は、文書処理以外
の異なる多くの環境に実装することができ、またさまざまな種類のデバイスで実
施することができる。他に、電子メールプログラム、表計算ソフト、ブラウザな
どでの文脈が考えられる。

【００３０】言語入力システムは、統計的言語モデルを採用して非常に高い精度を達成して
いる。一実施例では、言語入力アーキテクチャは、自動的な最高確率ベースの方
法で統計的言語モデリング（ｓｔａｔｉｓｔｉｃａｌｌａｎｇｕａｇｅｍｏ
ｄｅｌｉｎｇ）を使用し、単語をセグメント化し、語彙を選択し、トレーニング
データをフィルタ処理し、可能な最良の変換候補を求める。

【００３１】ただし、統計的センテンスベース言語モデリング（Ｓｔａｔｉｓｔｉｃａｌ
ｓｅｎｔｅｎｃｅ−ｂａｓｅｄｌａｎｇｕａｇｅｍｏｄｅｌｉｎｇ）では、
ユーザの入力が完全であると仮定している。実際には、ユーザの入力にはタイピ
ング誤りやスペルミスが多数ある。従って、言語入力アーキテクチャは、確率論
的スペリングモデルを使用して、ありがちなタイピング誤りやスペルミスを許容
しながら正しいタイピングを受け入れる１つまたは複数のタイピングモデルを含
む。タイピングモデルを英語や中国語など複数言語についてトレーニングし、ど
れくらいの確からしさで入力シーケンスがある言語の単語であって別の言語の単
語ではないかを識別するようにできる。両方のモデルは並列実行でき、その言語
モデル（例えば、中国語モデル）により誘導されて最も可能性の高い文字シーケ
ンス（つまり、英語および中国語の文字）を出力する。

【００３２】＜コンピュータシステム実施例＞図１は、中央処理装置（ＣＰＵ）１０２、メモリ１０４、および入出力（Ｉ／
Ｏ）インタフェース１０６を備えるコンピュータシステム実施例１００を示して
いる。ＣＰＵ１０２は、メモリ１０４およびＩ／Ｏインタフェース１０６と通
信する。メモリ１０４は、揮発性メモリ（例えば、ＲＡＭ）および不揮発性メ
モリ（例えば、ＲＯＭ、ハードディスクなど）を表す。

【００３３】コンピュータシステム１００は、Ｉ／Ｏインタフェース１０６を介して接続さ
れた１つまたは複数の周辺装置を備える。周辺装置実施例は、マウス１１０、キ
ーボード１１２（例えば、英数字ＱＷＥＲＴＹキーボード、表音キーボードなど
）、ディスプレイモニタ１１４、プリンタ１１６、周辺記憶装置１１８、および
マイクロホン１２０を備える。例えば、コンピュータシステムは、汎用コンピュ
ータで実装できる。従って、コンピュータシステム１００は、メモリ１０４に格
納され、ＣＰＵ１０２で実行されるコンピュータのオペレーティングシステム
（図に示されていない）を実装する。オペレーティングシステムは、ウィンドウ
操作環境をサポートするマルチタスクオペレーティングシステムであるのが好ま
しい。適当なオペレーティングシステムの例として、ＭｉｃｒｏｓｏｆｔＣｏ
ｒｐｏｒａｔｉｏｎ社のＷｉｎｄｏｗｓ（登録商標）ブランドのオペレーティン
グシステムがある。

【００３４】ハンドヘルドデバイス、マルチプロセッサシステム、マイクロプロセッサベー
スのまたはプログラム可能な家電製品、ネットワークＰＣ、ミニコンピュータ、
メインフレームコンピュータなど、他のコンピュータシステム構成を使用できる
ことに注意されたい。さらに、図１にはスタンドアローンのコンピュータが示さ
れているが、通信ネットワーク（例えば、ＬＡＮ、インターネットなど）を介し
てリンクされているリモート処理デバイスによってタスクが実行される分散コン
ピューティング環境で言語入力システムを実用することもできる。分散コンピュ
ーティング環境では、プログラムモジュールをローカルとリモートの両方のメモ
リ記憶デバイスに配置できる。

【００３５】データまたは文書処理プログラム１３０は、メモリ１０４に格納され、ＣＰＵ
１０２によって実行される。他のプログラム、データ、ファイルなども、メモ
リ１０４に格納できるが、説明を簡単にするため示していない。文書処理プログ
ラム１３０は、表音テキストを受け取り、自動的に言語テキストに変換するよう
に構成されている。より具体的には、文書処理プログラム１３０は、説明のため
メモリ内に格納されプロセッサによって実行されるコンピュータソフトウェアと
して実装されている言語入力アーキテクチャ１３１を実装する。文書処理プログ
ラム１３０は、アーキテクチャ１３１に加えて他のコンポーネントも備えること
ができるが、そのようなコンポーネントは、文書処理プログラムに標準のもので
あると考えられるため、図に詳細に示したり、詳細に説明していない。

【００３６】文書処理プログラム１３０の言語入力アーキテクチャ１３１は、ユーザインタ
フェース（ＵＩ）１３２、検索エンジン１３４、１つまたは複数のタイピングモ
デル１３５、言語モデル１３６、および異なる言語用の１つまたは複数の用語集
１３７を備える。アーキテクチャ１３１は、言語独立である。ＵＩ１３２およ
び検索エンジン１３４は、汎用であり、どの言語でも使用できる。アーキテクチ
ャ１３１は、言語モデル１３６、タイピングモデル１３５、用語集１３７を変更
することにより特定の言語に合わせる。

【００３７】検索エンジン１３４および言語モジュール１３６はいっしょに使用することで
、表音テキスト−言語テキスト間のコンバータ１３８を形成する。タイピングモ
デル１３５の助けを借りて、コンバータ１３８はユーザのタイピング誤りおよび
スペルミスに対し許容性を持つ。この開示の目的のために、「テキスト」は、１
つまたは複数の文字および／または文字以外の記号とする。「表音テキスト」は
一般に、所与の言語を話すときに生じる音声を表す英数字テキストである。「言
語テキスト」は、書き言葉を表す文字と非文字記号である。「非表音テキスト」
は、所与の言語を話すときに生じる音声を表さない英数字テキストである。非表
音テキストは、言語テキスト以外の書き言葉を表す句読点、特殊文字、および英
数字テキストを含む場合がある。

【００３８】たぶん、より一般的に述べると、表音テキストは、書いたときに欧文文字ベー
スの文字セットを使用しない所与の言語を話したときに出る音声を表す欧文文字
セット（例えば、英語のアルファベット）で表された英数字でよい。言語テキス
トは、所与の言語に対応する書かれた記号である。

【００３９】説明の目的のために、ワードプロセッサ１３０は、中国語ベースのワードプロ
セッサの文脈で説明し、言語入力アーキテクチャ１３１はピンインを漢字に変換
するように構成されている。つまり、表音テキストはピンインであり、言語テキ
ストは漢字である。しかし、言語入力アーキテクチャは、言語独立であり、他の
言語にも使用できる。例えば、表音テキストは日本語の話し言葉の形態でよいが
、言語テキストは漢字などの日本語の書き言葉を表す。アラビア語、韓国語、イ
ンド語、その他のアジア言語などを含むが、これだけに限定されない他の例も多
数存在する。

【００４０】表音テキストは、マウス１１０、キーボード１１２、またはマイクロホン１２
０などの１つまたは複数の周辺入力デバイスを介して入力する。この方法で、ユ
ーザは、キー入力または音声による表音テキスト入力が可能である。音声入力の
場合、コンピュータシステムはさらに、話し言葉を受け取る音声認識モジュール
（図に示されていない）を実装し、表音テキストに変換することができる。以下
の説明では、キーボード１１２によるテキストの入力をフルサイズの標準英数字
ＱＷＥＲＴＹキーボードで実行すると想定している。

【００４１】ＵＩ１３２では、表音テキストを入力と同時に表示する。このＵＩは、グラ
フィカルユーザインタフェースであるのが好ましい。ＵＩ１３２の詳細な説明
は、引用により本発明に取り込まれている、「ＬＡＮＧＵＡＧＥＩＮＰＵＴ
ＵＳＥＲＩＮＴＥＲＦＡＣＥ」という表題の同時係属出願第＿＿＿号にある。

【００４２】ユーザインタフェース１３２は、表音テキスト（Ｐ）を検索エンジン１３４に
渡し、さらに、これは表音テキストをタイピングモデル１３７に渡す。タイピン
グモデル１３７は、表音テキストに誤りが含まれていると思われる場合にユーザ
が意図した表音テキストの適当な編集結果と考えられるさまざまなタイピング候
補（ＴＣ₁，．．．，ＴＣ_N）を生成する。タイピングモデル１３７は、妥当な確
率が設定されている複数のタイピング候補を検索エンジン１３４に渡し、さらに
、これはタイピング候補を言語モデル１３６に渡す。この言語モデル１３６は、
処理中のセンテンスの文脈の範囲内でタイピング候補を評価し、ユーザが意図し
た表音テキストの変換された形式を表すと考えられる言語テキストで書かれてい
るさまざまな変換候補（ＣＣ₁，．．．，ＣＣ_N）を生成する。変換候補は、タイ
ピング候補と関連付けられている。

【００４３】表音テキストから言語テキストへの変換は１対１変換ではない。同じあるいは
類似した表音テキストが言語テキスト内の多数の文字または記号を表すことがあ
る。従って、表音テキストの文脈は、言語テキストへの変換前に解釈される。他
方、非表音テキストの変換は、通常、表示される英数字テキストが英数字入力と
同じである直接的な１対１変換となる。

【００４４】変換候補（ＣＣ₁，．．．ＣＣ_N）が検索エンジン１３４に戻され、このエンジ
ンにより、タイピング候補および変換候補のうちどれがユーザが意図するもので
ある確率が最も高いかを判別する統計分析が実行される。確率が計算されると、
検索エンジン１３４により、確率が最も高い候補が選択され、変換候補の言語テ
キストがＵＩ１３２に返される。ＵＩ１３２では、表音テキストを変換候補
の言語テキストに置き換え、同じ行に表示する。一方で、新規入力した表音テキ
ストが新規挿入された言語テキストの前の行に表示され続ける。

【００４５】ユーザが言語テキストを検索エンジン１３４で選択したものから変更したい場
合、ユーザインタフェース１３２に、選択が実際に意図した回答である可能性の
高さの順序でランク付けられた他の高確率の候補の第１のリストが表示される。
ユーザがまだ可能な候補に満足しない場合、ＵＩ１３２は可能なすべての選択
肢を与える第２のリストを表示する。第２のリストは、確率またはその他の測定
基準（例えば、ストロークカウントまたは中国語文字の複雑さ）に関してランク
付けることができる。

【００４６】＜言語入力アーキテクチャ＞図２は、言語入力アーキテクチャ１３１の詳細を示している。アーキテクチャ
１３１は、タイプミスおよび変換誤りの両方を含む、言語入力の誤り耐性をサポ
ートする。ＵＩ１３２、検索エンジン１３４、言語モデル１３６、およびタイ
ピングモデル１３５に加えて、アーキテクチャ１３１はさらに、エディタ２０４
およびセンテンス文脈モデル２１６を備える。センテンス文脈モデル２１６は、
検索エンジン１３４に結合されている。

【００４７】ユーザインタフェース１３２は、表音テキスト（例えば、中国語ピンインテキ
スト）および非表音テキスト（例えば、英語）などの入力テキストを１つまたは
複数の周辺装置（例えば、キーボード、マウス、マイクロホン）から受け取り、
その入力テキストをエディタ２０４に渡す。エディタ２０４は、検索エンジン１
３２がタイピングモデル１３５および言語モデル１３６とともに入力テキストを
、言語テキスト（例えば、漢字テキスト）などの出力テキストに変換するよう要
求する。エディタ２０４は、出力テキストをＵＩ１３２に戻して表示させる。

【００４８】検索エンジン１３４は、ユーザインタフェース１３２から入力テキスト文字列
を受け取ると、その入力テキスト文字列をタイピングモデル１３５の１つまたは
複数に送り、さらにセンテンス文脈モデル２１６にも送る。タイピングモデル１
３５は、入力テキスト内のタイピング誤りのアプリオリな確率を測定する。タイ
ピングモデル１３５は、入力誤り（例えば、タイプミス）を修正することを実際
に求めるユーザによって入力された入力テキストの有望なタイピング候補を生成
して出力する。一実施形態では、タイピングモデル１３５は候補データベース２
１０内で有望な候補を検索する。他の実装では、タイピングモデル１３５は統計
ベースのモデリングを使用して、入力テキストの有望な候補を生成する。

【００４９】センテンス文脈モデル２１６は、オプションで、タイピングモデル１３５で使
用する検索エンジン１３２にセンテンス内のすでに入力されているテキストを送
ることができる。この方法では、タイピングモデルは、テキストの新しい文字列
とセンテンスにすでに入力されているテキストの文字列との組み合わせに基づい
て有望なタイピング候補を生成することができる。

【００５０】「タイピング誤り」、「タイプミス」、および「スペルミス」という用語は、
相互に入れ替えることができ、入力テキストのキー入力時に生じた誤りを指すこ
とは明白である。音声入力の場合、このような誤りは、音声入力の不適切な認識
から生じることがある。

【００５１】タイピングモデル１３５は、有望なタイピング候補をすべて返すか、または確
率の低い有望なタイピング候補を取り除き、それにより、高い確率の有望なタイ
ピング候補のみを検索エンジン１３４に返すことができる。さらに、タイピング
モデル１３５よりはむしろ検索エンジン１３４が取り除き機能を実行できること
も明白であろう。

【００５２】本発明の一態様によれば、タイピングモデル１３５は、ありがちなタイプミス
を観察するため数百あるいは数千のトレーナにセンテンス入力を依頼して集めた
実際のデータ２１２を使用してトレーニングされる。以下では「タイピングモデ
ルのトレーニング」という見出しのもとでタイピングモデルおよびトレーニング
について詳述する。

【００５３】検索エンジン１３４は、タイピングモデル１３５から返された有望なタイピン
グ候補のリストを言語モデル１３６に送る。簡単にいうと、言語モデルは、語句
やセンテンスなど、指定された文脈内に単語またはテキスト文字列がある確率を
測定する。つまり、言語モデルは、項目（単語、文字、英字など）のシーケンス
を取り、そのシーケンスの確率を推定することができる。言語モデル１３６は、
検索エンジン１３４から有望なタイピング候補と前のテキストとを組み合わせ、
タイピング候補に対応する言語テキストの１つまたは複数の候補を生成する。

【００５４】コーパスデータまたはその他の種類のデータ２１４を使用して、三重文字言語
モデル１３６をトレーニングする。トレーニングコーパス２１４は、新聞記事な
どの日々のテキストなどの一般的な任意の種類のデータ、あるいは特定の分野（
例えば、医薬品）を対象とするテキストなどの環境固有のデータとすることがで
きる。言語モデル１３６のトレーニングは、文書処理技術の分野では知られてお
り、ここでは詳述しない。

【００５５】言語入力アーキテクチャ１３１は、入力テキスト文字列の入力時に生じる誤り
を許容し、入力文字列となる単語およびセンテンスで最も確率の高いものを返そ
うとする。言語モデル１３６は、タイピングモデル１３５でユーザが入力した入
力文字列に対しどのセンテンスが最も妥当かを判別する際に役立つ。２つのモデ
ルは、入力された文字列ｓが辞書、つまりＰ（ｗ｜ｓ）から認識可能で有効な単
語ｗである確率として統計的に記述することができる。ベイズの公式を使用する
と、確率Ｐ（ｗ｜ｓ）は次のように記述される。

【００５６】

【数１】

【００５７】分母Ｐ（ｓ）は、入力文字列が与えられたときに可能な意図した単語を比較す
る目的では同じである。したｈがって、分析は、分子の積Ｐ（ｓ｜ｗ）・Ｐ（ｗ
）のみに関係し、確率Ｐ（ｓ｜ｗ）はスペルまたはタイピングモデルを表し、確
率Ｐ（ｗ）は言語モデルを表す。より具体的には、タイピングモデルＰ（ｓ｜ｗ
）は、Ｘを入力するつもりの人が代わりにＹを入力することになる確率を記述す
るが、言語モデルＰ（ｗ）はセンテンス文脈を与えたときに特定の単語が生成さ
れているべき確率を記述する。

【００５８】ピンインを漢字に変換する文脈では、確率Ｐ（ｗ｜ｓ）はＰ（Ｈ｜Ｐ）と言い
換えることができ、Ｈは漢字文字列、Ｐはピンイン文字列を表す。目標は、Ｐ（
Ｈ｜Ｐ）を最大にする、最も確率の高い中国語文字Ｈ′を見つけることである。
従って、確率Ｐ（Ｈ｜Ｐ）は、入力されたピンイン文字列Ｐが有効な漢字文字列
Ｈである確率である。Ｐは固定されており、従ってＰ（Ｐ）は与えられたピンイ
ン文字列に対し一定であるため、ベイズ公式により、次のように確率Ｐ（Ｈ｜Ｐ
）が小さくなる。

【００５９】Ｈ′＝ａｒｇｍａｘＨＰ（Ｈ｜Ｐ）＝ａｒｇｍａｘＨＰ（Ｐ｜Ｈ）＊Ｐ（Ｈ）

【００６０】確率Ｐ（Ｐ｜Ｈ）はスペルまたはタイピングモデルを表す。通常、漢字文字列
Ｈは、さらに、複数の単語Ｗ₁，Ｗ₂，Ｗ₃，．．．，Ｗ_Mに分割され、確率Ｐ（Ｐ
｜Ｈ）は次のように推定できる。

【００６１】Ｐｒ（Ｐ｜Ｈ） □Ｐ（Ｐ_f(i)｜Ｗ_i）

【００６２】Ｐ_f(i)は、単語Ｗ_iに対応するピンイン文字列のシーケンスである。

【００６３】従来技術の統計ベースのピンイン−漢字変換システムでは、確率Ｐ（Ｐ_f(i)｜
Ｗ_i）は、Ｐ_f(i)が単語Ｗ_iの受け入れ可能なスペルである場合に１に設定され、
Ｐ_f(i)が単語Ｗ_iの受け入れ可能スペルでない場合に０に設定される。そのため
、従来のシステムは、誤って入力された文字に対する耐性がない。一部のシステ
ムでは、「南部訛りの発音」機能があり、このような問題に対応しているが、こ
れはプリセット値確率１および０を採用している。さらに、このようなシステム
は、データ駆動方式でないためタイピング誤りのうちごくわずかしか扱えない（
実際のタイピング誤りから学習する）。

【００６４】対照的に、本発明で説明している言語入力アーキテクチャでは、タイピングモ
デルと言語モデルの両方を利用して変換を実行する。タイピングモデルでは、実
際のコーパスから確率Ｐ（Ｐ_f(i)｜Ｗ_i）をトレーニングすることにより誤って
入力した文字に対する誤り耐性が可能になっている。タイピングモデルを構築す
る方法は多数ある。理論的には、すべての可能なＰ（Ｐ_f(i)｜Ｗ_i）をトレーニ
ングできるが、実際には、パラメータが多すぎる。トレーニングする必要のある
パラメータの個数を減らす１つの方法として、１文字単語のみを考察し、発音が
等価なすべての文字を単一の音節に対応づける方法がある。中国語にはおおよそ
４０６個の音節があり、これは本質的にＰ（ピンインテキスト｜音節）をトレー
ニングし、各文字を対応する音節に対応づけることである。以下では「タイピン
グモデルのトレーニング」という見出しのもとでこれについて詳述する。

【００６５】言語入力アーキテクチャ１３１では、広範な確率が計算される。ピンイン−漢
字変換の一目標は、確率Ｐ（Ｐ｜Ｈ）を最大にする漢字文字列Ｈを見つけること
である。これは、最大の確率を最良の漢字シーケンスとして求めるＷ_iを選択す
ることにより実行する。実際、よく知られているＶｉｔｅｒｂｉＢｅａｍ検索
のような効率的な検索方法を使用できる。ＶｉｔｅｒｂｉＢｅａｍ検索法の詳
細については、「ＡｕｔｏｍａｔｉｃＳｐｅｅｃｈＲｅｃｏｇｎｉｔｉｏｎ
」（ＫｌｕｗｅｒＡｃａｄｅｍｉｃＰｕｂｌｉｓｈｅｒｓ、１９８９）とい
う表題のＫａｉ−ＦｕＬｅｅの記事、および「ＡｕｔｏｍａｔｉｃＳｐｅｅ
ｃｈａｎｄＳｐｅａｋｅｒＲｅｃｏｇｎｉｔｉｏｎ − Ａｄｖａｎｃｅ
ｄＴｏｐｉｃｓ」（ＫｌｕｗｅｒＡｃａｄｅｍｉｃＰｕｂｌｉｓｈｅｒｓ
、１９９６）という表題のＣｈｉｎ−ＨｕｉＬｅｅ、ＦｒａｎｋＫ．Ｓｏｏ
ｎｇ、ＫｕｌｄｉｐＫ．Ｐａｌｉｗａｌの記事をに記載されている。

【００６６】確率Ｐ（Ｈ）は、言語モデルを表し、所与の単語列のアプリオリな確率を測定
する。統計的言語モデル構築の一般的な方法として、プレフィックスツリー風の
データ構造を利用して、知られているテキストのトレーニングセットからＮ重文
字言語モデルを構築する方法がある。広く使用されている統計的言語モデルの一
実施例として、Ｎ重文字マルコフモデルがあり、これについては、Ｆｒｅｄｅｒ
ｉｃｋＪｅｌｉｎｅｋ著「ＳｔａｔｉｓｔｉｃａｌＭｅｔｈｏｄｓｆｏｒ
ＳｐｅｅｃｈＲｅｃｏｇｎｉｔｉｏｎ」（ＴｈｅＭＩＴＰｒｅｓｓ，Ｃ
ａｍｂｒｉｄｇｅ、Ｍａｓｓａｃｈｕｓｅｔｔｓ、１９９７）に説明がある。プ
レフィックスツリーデータ構造（ａ．ｋ．ａ．サフィックスツリー、またはＰＡ
Ｔツリー）の使用により、高レベルアプリケーションで言語モデルを素早く横断
し、上述のように、実質的にリアルタイムに実行する特性を持つ。Ｎ重文字言語
モデルでは、テキスト全体を通して文字列（サイズＮ）内の特定のアイテム（単
語、文字など）の出現数をカウントする。このカウントを使用して、そのアイテ
ムの列の使用の確率を計算する。

【００６７】言語モデル１３６は、三重文字言語モデル（つまり、Ｎ＝３とするＮ重文字）
であるのが好ましいが、二重文字が文脈によっては適当な場合がある。三重文字
言語モデルは、英語に適しており、また中国にも十分機能するが、大きなトレー
ニングコーパスを利用すると想定している。

【００６８】三重文字モデルでは、次のように、次の文字を予測するためにテキスト文字列
内の最も前の２つの文字を考慮する。（ａ）文字（Ｃ）は、定義済み用語集を使用して離散言語テキストまたは単語
（Ｗ）にセグメント化され、ツリー内の各Ｗは１つまたは複数のＣに対応づけら
れる。（ｂ）前の２つの単語から単語のシーケンス（Ｗ₁，Ｗ₂，．．．，Ｗ_M）の確
率を予測する。

【００６９】Ｐ（Ｗ₁，Ｗ₂，Ｗ₃，．．．，Ｗ_M）｜□Ｐ（Ｗ_n〜Ｗ_n-1，Ｗ_n-2）（１）

【００７０】ただし、Ｐ（）は言語テキストの確率を表す。

【００７１】Ｗ_nは、現在の単語であるＷ_n-1は、前の単語であるＷ_n-2は、Ｗ_n-1の前の単語である

【００７２】図３は、ユーザによって入力された入力テキスト３００の例を示しており、タ
イピングモデル１３５および言語モデル１３６に渡される。入力テキスト３００
を受け取ると、タイピングモデル１３５は入力テキスト３００を異なる方法でセ
グメント化し、キーボード入力時に生じる可能性のあるタイプミスを考慮した有
望なタイピング候補のリストを生成する。タイピング候補３０２は、各時間フレ
ーム内に異なるセグメントがあり、前の単語の終了時間が現在の単語の開始時間
となる。例えば、候補３０２の上行は、入力文字列３００「ｍａｆａｎｇｎｉｔ
ｒｙｙｉｓ．．．」を「ｍａ」、「ｆａｎ」、「ｎｉ」、「ｔｒｙ」、「ｙｉ」
などにセグメント分割する。タイピング候補３０２の第２行は、入力文字列「ｍ
ａｆａｎｇｎｉｔｒｙｙｉｓ．．．」を異なる形で「ｍａ」、「ｆａｎｇ」、「
ｎｉｔ」、「ｙｕ」、「ｘｉａ」などにセグメント分割する。

【００７３】これらの候補は、データベースまたはその他の何らかのアクセス可能なメモリ
に格納できる。図３は、単なる一例にすぎず、入力テキストに対する有望なタイ
ピング候補は多数あり得ることは明白であろう。

【００７４】言語モデル１３６は、センテンスの文脈で有望なタイピング候補３０２の各セ
グメントを評価し、関連する言語テキストを生成する。説明のため、有望なタイ
ピングテキスト３０２の各セグメントおよび対応する有望な言語テキストはボッ
クスにまとめられている。

【００７５】これらの候補から、検索エンジン１３４は、候補のうちどれがユーザが意図す
るものである確率が最も高いかを判別する統計分析を実行する。各行内のタイピ
ング候補は、互いに関連がなく、検索エンジンは任意の行からさまざまなセグメ
ントを自由に選択し、受け入れ可能な変換候補を定義することができる。図３の
例では、検索エンジンは、ハイライト表示になっているタイピング候補３０４、
３０６、３０８、３１０、３１２、および３１４が最高の確率であることを示し
ていると判断している。これらの候補は、左から右に連結され、候補３０４の後
に候補３０６が続くなどして、入力テキスト３００の受け入れ可能な解釈を形成
することができる。

【００７６】確率を計算した後、検索エンジン１３４は、確率が最高の候補を選択する。検
索エンジンは次に、入力された表音テキストを選択した候補と関連する言語テキ
ストに変換する。例えば、検索エンジンは入力テキスト３００をボックス３０４
、３０６、３０８、３１０、３１２、および３１４で示されている言語テキスト
に変換し、エディタ２０４を介して言語テキストをユーザインタフェース１３２
に返す。句読点がユーザインタフェースに届いた後、つまり新しい入力テキスト
文字列が新しいセンテンス内に入ると、タイピングモデル１３５は新しいセンテ
ンス内の新しいテキスト文字列に対する操作を開始する。

【００７７】＜一般的な変換＞図４は、表音テキスト（例えば、ピンイン）を言語テキスト（例えば、漢字）
に変換する一般的プロセス４００を示している。このプロセスは、言語入力アー
キテクチャ１３１によって実装されており、図２をさらに参照して説明する。

【００７８】ステップ４０２では、ユーザインタフェース１３２は、ユーザが入力したピン
インなどの表音テキスト列を受け取る。入力テキスト文字列には、１つまたは複
数のタイプミスが含まれる。ＵＩ１３２は、エディタ２０４を介して入力テキ
ストを検索エンジン１３４に渡し、検索エンジンは入力テキストをタイピングモ
デル１３５とセンテンス文脈モデル２１６に分配する。

【００７９】ステップ４０４では、タイピングモデル１３５は入力テキストに基づいて有望
なタイピング候補を生成する。候補を導く一方法として、入力テキスト文字列を
異なるパーティションに分割し、その入力文字列セグメントに最もよく類似する
候補をデータベース内で検索する。例えば、図３で、候補３０２は可能なセグメ
ント「ｍａ」、「ｆａｎ」などを示すセグメンテーションを持つ。

【００８０】有望なタイピング候補が、検索エンジン１３４に返され、その後、言語モデル
１３６に伝達される。言語モデル１３６は、有望なタイピング候補と前のテキス
トとを組み合わせ、タイピング候補に対応する言語テキストの１つまたは複数の
候補を生成する。例えば、図３の候補３０２を参照すると、言語モデルはボック
ス３０２ａ−ｊ内に言語テキストを可能な出力テキストとして返す。

【００８１】ステップ４０６では、検索エンジン１３４は、候補のうちどれがユーザが意図
するものである確率が最も高いかを判別する統計分析を実行する。表音テキスト
に最も可能性の高いタイピング候補を選択した後、検索エンジンは入力された表
音テキストをタイピング候補と関連する言語テキストに変換する。この方法によ
り、表音テキストの入力時のユーザによる入力誤りがなくなる。検索エンジン１
３４は、エディタ２０４を介して誤りのない言語テキストをＵＩ１３２に返す
。ステップ４０８では、変換された言語テキストは、ユーザが表音テキストを入
力し続けているＵＩ１３２の画面上の同じ行内位置に表示される。

【００８２】＜タイピングモデルのトレーニング＞上で指摘したように、タイピングモデル１３５は、確率Ｐ（ｓ｜ｗ）に基づい
ている。タイピングモデルでは、入力テキストを出力テキストに変換するのに使
用できる異なるタイピング候補の確率を計算し、有望な候補を選択する。この方
法で、タイピングモデルは、タイピング誤りが存在していても入力テキストの有
望なタイピング候補を返すことにより誤りを許容する。

【００８３】本発明の一態様は、実際のデータからのタイピングモデルＰ（ｓ｜ｗ）のトレ
ーニングに関するものである。タイピングモデルは、数百または好ましくは数千
などできる限り多くのトレーナによるテキスト入力に基づいて開発またはトレー
ニングされる。トレーナは同じまたは異なるトレーニングデータを入力し、入力
されたデータとトレーニングデータとの分散をタイピング誤りとして捕らえる。
目標は、同じトレーニングテキストをタイプさせ、タイピングでの誤りの個数ま
たはタイピング候補に基づいて確率を求めることである。このようにして、タイ
ピングモデルはトレーナのタイピング誤りの確率を学習する。

【００８４】図５は、プロセッサ５０２、揮発性メモリ５０４、および不揮発性メモリ５０
６を備えるトレーニング用コンピュータ５００を示している。トレーニング用コ
ンピュータ５００では、ユーザが入力したデータ５１０から確率５１２（つまり
、Ｐ（ｓ｜ｗ））を求めるトレーニングプログラム５０８を実行する。トレーニ
ングプログラム５０８は、プロセッサ５０２で実行するように図に示されている
が、不揮発性メモリ５０６のストレージからプロセッサにロードされる。トレー
ニング用コンピュータ５００は、オンザフライでの入力時に、あるいは収集しメ
モリに格納した後にデータ５１０に基づいてトレーニングを行うように構成する
ことができる。

【００８５】説明のため、中国語用に手直ししたタイピングモデルを考察し、中国語ピンイ
ンテキストは中国語文字テキストに変換する。この場合、数千人の人々にピンイ
ンテキストを入力してくれるよう勧誘する。好ましくは、数千個またはそれ以上
のセンテンスを各人から収集し、目標はタイピングでの誤りの種類および個数が
類似するようにすることである。タイピングモデルは、検索エンジンからピンイ
ンテキストを受け取り、入力文字列内の文字の置き換えに使用できる有望な候補
を供給するように構成されている。

【００８６】タイピングモデル１３５をトレーニングするためにさまざまな手法を使用でき
る。一方法では、タイピングモデルは、単一文字テキストを考察し、すべての同
等な発音の文字テキストを単一音節に対応付けることにより直接トレーニングさ
れる。例えば、中国語ピンインには４００を超える音節がある。音節を与える表
音テキストの確率（例えば、Ｐ（ピンインテキスト｜音節）をトレーニングし、
各文字テキストを対応する音節に対応付ける。

【００８７】図６は、音節対応付けトレーニング手法６００を示している。ステップ６０２
で、トレーニングプログラム５０８は、トレーナが入力したテキスト文字列を読
みとる。テキスト文字列は、センテンスでも、また単語および／または文字のそ
の他のグループでもよい。プログラム５０８は、音節をテキストの文字列内の対
応する英字に合わせるか、または対応付ける（ステップ６０４）。各テキスト文
字列では、各音節に対応付けた英字の頻度が更新される（ステップ６０６）。こ
れは、ステップ６０８から「はい」分岐で表されているように、トレーナにより
入力されたトレーニングデータに含まれるテキスト文字列ごとに繰り返される。
最終的に、入力されたテキスト文字列は、中国語ピンインの多くのまたはすべて
の音節を表す。ステップ６０８から「いいえ」分岐により表されるように、すべ
ての文字列が読み込まれたら、トレーニングプログラムは、各音節をタイプする
ユーザの確率Ｐ（ピンインテキスト｜音節）を決定する（ステップ６１０）。一
実装では、タイピングの確率は、最初にすべての音節を正規化することにより決
定される。

【００８８】各音節は、隠しマルコフモデル（ＨＭＭ）として表すことができる。各入力キ
ーは、ＨＭＭで対応付けられている状態のシーケンスとして表示できる。正しい
入力および実際の入力をすりあわせて状態間の遷移確率を求める。異なるＨＭＭ
を使用して、異なる技能レベルのタイピストをモデル化することができる。

【００８９】中国語で４０６個すべての音節をトレーニングするには、大量のデータが必要
である。このデータ要件を緩和するために、異なる音節内の同じ文字を１つの状
態として結びつける。これにより、状態の個数は２７にまで減らされる（つまり
、「ａ」から「ｚ」までの２６個の異なる英字に、不明な文字を表す文字１つ）
。このモデルは、三重文字言語モデルを利用するＶｉｔｅｒｂｉｂｅａｍ検索
法に統合することもできる。

【００９０】さらに他のトレーニング手法では、トレーニングは英字の挿入（つまり、

【００９１】

【数２】

【００９２】）、英字の削除（つまり、

【００９３】

【数３】

【００９４】）、および一方の文字を他方に置換（つまり、

【００９５】

【数４】

【００９６】）などの単一文字編集の確率に基づく。このような単一文字編集の確率は次
のように統計的に表すことができる。

【００９７】置換：Ｐ（ｘをｙで置換）挿入：Ｐ（ｘをｙの前／後に挿入）削除：Ｐ（ｘをｙの前／後に削除）

【００９８】各確率（Ｐ）は、本質的に二重文字タイピングモデルであるが、隣接する文字
を超えるかなり広い文脈のテキストを考慮したＮ重文字タイピングモデルに拡張
することもできる。従って、入力テキストの可能な文字列について、タイピング
モデルは、まず正しい文字シーケンスを供給し、次に動的プログラミングを使用
して正しい文字シーケンスを与えられた文字シーケンスに変換する最低コスト経
路を求めることにより、すべての可能な文字シーケンスを生成する確率を持つ。
コストを、最小数の誤り文字または他の何らかの測定基準として決めることがで
きる。実際には、この誤りモデルは、ＶｉｔｅｒｂｉＢｅａｍ検索法の一部と
して実装できる。

【００９９】タイピング誤りまたはスペルミス以外の種類の誤りは、本発明の範囲内でトレ
ーニングできることは明白であろう。さらに、異なるトレーニング手法を使用し
て、本発明の範囲から逸脱することなくタイピングモデルをトレーニングするこ
とができることも明白であろう。

【０１００】＜モードレス入力の多言語トレーニング＞言語入力システムを悩ます他のやっかいな問題として、２つまたはそれ以上の
言語を入力したときのモードの切り替えの必要性である。例えば、中国語でタイ
プしているユーザは、英語の単語を入力したい場合がある。従来の入力システム
では、ユーザは英単語のタイピングと中国語の単語のタイプのモード切替が必要
である。残念なことに、ユーザが切り替えを忘れやすいということである。

【０１０１】言語入力アーキテクチャ１３１（図１）をトレーニングして混合言語入力を受
け入れトレーニングすることができ、従って、多言語文書処理システムにおいて
２つまたはそれ以上の言語間のモード切替をなくすことができる。これは、「モ
ードレス入力」と呼ばれる。

【０１０２】この言語入力アーキテクチャは、中国語と英語を区別するなど、異なる言語の
単語を自動的に識別するスペル／タイピングモデルを実装している。これは、多
くの正当な英単語は正当なピンイン文字列であるため容易ではない。さらに、ピ
ンイン、英語、および中国語文字の間にスペースが入らないため、入力時に曖昧
さが増すことがある。以下のベイズ規則を使用すると、

【０１０３】Ｈ′＝ａｒｇｍａｘ_HＰ（Ｈ｜Ｐ）＝ａｒｇｍａｘ_HＰ（Ｐ｜Ｈ）＊Ｐ（Ｈ）

【０１０４】目的関数は、英語ではスペルモデルＰ（Ｐ｜Ｈ）、中国語では言語モデルＰ（Ｈ
）の２つの部分があることで特徴付けることができる。

【０１０５】混合言語入力を取り扱う一方法として、第２言語からの単語を第１言語の特殊
カテゴリとして取り扱うことにより、第１言語（例えば、中国語）の言語モデル
をトレーニングする方法がある。例えば、第２言語からの単語を第１言語の単一
単語として取り扱う。

【０１０６】例えば、中国語ベースの文書処理システムでは、英語キーボードを入力デバイ
スとして使用する。中国語ベースの文書処理システムで採用しているタイピング
モデルは、中国語言語モデルであって、英単語と中国語単語を混ぜたテキストで
トレーニングされる。

【０１０７】混合言語入力を取り扱う第２の方法として、言語入力アーキテクチャで２つの
タイピングモデル、中国語タイピングモデルと英語タイピングモデルを実装し、
それぞれを別々にトレーニングする方法がある。つまり、中国語タイピングモデ
ルは、上で説明した方法でトレーナにより入力された表音列などのキーボード入
力のストリーム上でトレーニングされ、英語タイピングモデルは英語を話すトレ
ーナによって入力された英語テキスト上でトレーニングされる。

【０１０８】英語タイピングモデルは、以下の組み合わせとして実装することができる。１．中国語テキストに挿入された実際の英語上でトレーニングした一重文字言
語モデル。このモデルは、多くの頻繁に使用される英単語を取り扱えるが、見た
ことのない英単語は予測できない。

【０１０９】２．３音節確率の英語スペルモデル。このモデルは、すべての３音節シーケン
スに対し確率が０でないが、英語に似た単語になる可能性のある単語については
確率が高くなる。これは、実際の英単語からもトレーニングでき、見たことのな
い英単語も取り扱える。

【０１１０】これらの英語モデルは、一般に、英語テキストに対しては非常に高い確率、英
語テキストのように見える英字列には高い確率、非英語テキストには低い確率を
返す。

【０１１１】図７は、図２のアーキテクチャ１３１から修正された言語入力アーキテクチャ
７００を示しており、これは複数のタイピングモデル１３５（１）〜１３５（Ｎ
）を採用している。各タイピングモデルは、特定の言語に合わせて構成されてい
る。各タイピングモデル１３５は、単語と、特定の言語に共通する誤りを使用し
て別々にトレーニングされる。従って、別々のトレーニングデータ２１２（１）
〜２１２（Ｎ）が、関連するタイピングモデル１３５（１）〜１３５（Ｎ）につ
いて供給される。実施例では、英語に対して１つのタイピングモデル、中国語に
対してもう１つのタイピングモデルというようにタイピングモデルを２つだけ使
用している。ただし、言語入力アーキテクチャを修正して、２つよりも多いタイ
ピングモデルを含めて、２つよりも多い言語の入力に対応するようにできること
は明白であろう。また、言語入力アーキテクチャは、日本語、韓国語、フランス
語、ドイツ語などの他の多くの多言語文書処理システムでも使用できることも指
摘しておくべきであろう。

【０１１２】言語入力アーキテクチャの操作時に、英語タイピングモデルは中国語タイピン
グモデルと並列に動作する。２つのタイピングモデルは互いに競合しており、入
力したテキスト文字列が中国語文字列（誤りを含む）または英語文字列（さらに
潜在的に誤りを含む）である可能性のある確率を計算することにより入力テキス
トが英語か中国語かを識別する。

【０１１３】入力テキストの文字列またはシーケンスが明確に中国語ピンインテキストの場
合、中国語タイピングモデルは英語タイピングモデルよりもかなり高い確率を返
す。そこで、言語入力アーキテクチャは、入力されたピンインテキストを漢字テ
キストに変換する。入力テキストの文字列またはシーケンスが明確に英語（例え
ば、サーネーム、頭字語（「ＩＥＥＥ」）、会社名（「Ｍｉｃｒｏｓｏｆｔ」）
、技術（「ＩＮＴＥＲＮＥＴ」）、など）の場合、英語タイピングモデルは中国
語タイピングモデルよりもかなり高い確率を示す。従って、このアーキテクチャ
は、英語タイピングモデルに基づいて入力テキストを英語テキストに変換する。

【０１１４】入力テキストの文字列またはシーケンスが曖昧な場合、中国語および英語タイ
ピングモデルは、中国語か英語かわからない曖昧さを解消するためにさらなる文
脈から情報が得られるまで確率を計算し続ける。入力テキストの文字列またはシ
ーケンスが中国語にも英語にも似ていない場合、中国語タイピングモデルは英語
タイピングモデルよりも許容性が低い。そのため、英語タイピングモデルは確率
が、中国語タイピングモデルよりも高くなる。

【０１１５】多言語変換を説明するために、ユーザが「私はＩＮＴＥＲＮＥＴマガジンを読
むのが好きだ」という意味のテキスト文字列「ｗｏａｉｄｕｉｎｔｅｒｎｅｔｚ
ａｚｈｉ」を入力すると仮定する。初期文字列「ｗｏａｉｄｕ」を受け取った後
、中国語タイピングモデルは、英語タイピングモデルよりも高い確率となり、入
力テキストのその部分を「ＩＮＴＥＲＮＥＴ」に変換する。このアーキテクチャ
は、続いてタイプした曖昧な部分「ｉｎｔｅｒｎｅ」を英字「ｔ」がタイプされ
るまで探し続ける。このときに、英語タイピングモデルは、「ＩＮＴＥＲＮＥＴ
」について中国語タイピングモデルよりも高い確率を返し、言語入力アーキテク
チャは入力テキストのこの部分を「ＩＮＴＥＲＮＥＴ」に変換する。次に、中国
語タイピングモデルは、「ｚａｚｈｉ」について英語タイピングモデルよりも高
い確率を示し、言語入力アーキテクチャは入力テキストのその部分を「」
に変換する。

【０１１６】＜多言語入力変換＞図８は、タイプミスとともに入力された多言語入力テキスト文字列を誤りのな
い多言語出力テキスト文字列に変換するプロセス８００を示している。このプロ
セスは、言語入力アーキテクチャ７００によって実装されており、図７をさらに
参照して説明する。

【０１１７】ステップ８０２では、ユーザインタフェース１３２は、多言語入力テキスト文
字列を受け取る。これは、少なくとも１つの他の言語（例えば、英語）の表音単
語（例えば、ピンイン）および単語を含む。入力テキストはさらに、ユーザが表
音単語および第２言語の単語を入力したときのタイプミスも含む場合がある。Ｕ
Ｉ１３２は、エディタ２０４を介して多言語入力テキスト文字列を検索エンジ
ン１３４に渡し、検索エンジンは入力テキストをタイピングモデル１３５（１）
〜１３５（Ｎ）とセンテンス文脈モデル２１６に分配する。

【０１１８】タイピングモデルはそれぞれ、ステップ８０４（１）〜８０４（Ｎ）によって
表されるような入力テキストに基づいて有望なタイピング候補を生成する。ステ
ップ８０６では、妥当な確率が設定された有望なタイピング候補が検索エンジン
１３４に返される。ステップ８０８では、検索エンジン１３４がタイピング確率
とともにタイピング候補を言語モデル１３６に送る。ステップ８１０では、言語
モデルが有望なタイピング候補と前のテキストとを組み合わせて、センテンスベ
ースの文脈を用意し、図３に関して上で説明したように、そのタイピング候補を
通じて経路を選択することによりタイピング候補に対応する言語テキストの１つ
または複数の変換候補を生成する。ステップ８１２では、検索エンジン１３４は
統計分析を実行して、ユーザが意図する最高の確率を示す変換候補を選択する。

【０１１９】ステップ８１４では、テキスト文字列に対する最も有望な変換候補が出力テキ
スト文字列に変換される。出力テキスト文字列は、言語テキスト（例えば、漢字
）と第２言語（例えば、英語）を含むが、タイピング誤りは省かれる。検索エン
ジン１３４は、エディタ２０４を介して誤りのない出力テキストをＵＩ１３２
に返す。ステップ８１６では、変換された言語テキストは、ユーザが表音テキス
トを入力し続けているＵＩ１３２の画面上の同じ行内位置に表示される。

【０１２０】上の例では、中国語が主言語であり、英語は第２言語である。２つの言語は両
方とも、主言語として指定できることは明白であろう。さらに、２つよりも多い
言語は混合入力テキスト文字列を形成することができる。

【０１２１】＜結論＞上の説明では、構造機能および／または方法論的動作に固有の言語を使用して
いるが、付属の請求項で定義されている本発明は説明した特定の機能または動作
に限られるわけではない。むしろ、特定の機能および動作は、本発明を実装する
実施例として開示されている。

【図面の簡単な説明】

【図１】言語入力アーキテクチャを実装する言語固有のワードプロセッサを備えるコン
ピュータシステムのブロック図である。

【図２】言語入力アーキテクチャの実施例のブロック図である。

【図３】構文解析またはセグメント化して異なる音節群に分けたテキスト文字列および
、テキスト文字列に誤りが含まれると仮定してそれらの音節を置き換えるのに使
用することができる候補を説明しているブロック図である。

【図４】言語入力アーキテクチャで実行される一般的変換を示す流れ図である。

【図５】言語入力アーキテクチャで採用されている確率ベースのモデルをトレーニング
するために使用されるトレーニングコンピュータのブロック図である。

【図６】一トレーニング手法を説明する流れ図である。

【図７】複数のタイピングモデルを使用する、言語入力アーキテクチャの他の実施例の
ブロック図である。

【図８】他言語変換プロセスを説明する流れ図である。

───────────────────────────────────────────────────── フロントページの続き (81)指定国ＥＰ(ＡＴ，ＢＥ，ＣＨ，ＣＹ，ＤＥ，ＤＫ，ＥＳ，ＦＩ，ＦＲ，ＧＢ，ＧＲ，ＩＥ，ＩＴ，ＬＵ，ＭＣ，ＮＬ，ＰＴ，ＳＥ)，ＯＡ(ＢＦ，ＢＪ，ＣＦ，ＣＧ，ＣＩ，ＣＭ，ＧＡ，ＧＮ，ＧＷ，ＭＬ，ＭＲ，ＮＥ，ＳＮ，ＴＤ，ＴＧ)，ＡＰ(ＧＨ，ＧＭ，ＫＥ，ＬＳ，ＭＷ，ＭＺ，ＳＤ，ＳＬ，ＳＺ，ＴＺ，ＵＧ，ＺＷ)，ＥＡ(ＡＭ，ＡＺ，ＢＹ，ＫＧ，ＫＺ，ＭＤ，ＲＵ，ＴＪ，ＴＭ)，ＡＥ，ＡＧ，ＡＬ，ＡＭ，ＡＴ，ＡＵ，ＡＺ，ＢＡ，ＢＢ，ＢＧ，ＢＲ，ＢＹ，ＢＺ，ＣＡ，ＣＨ，ＣＮ，ＣＲ，ＣＵ，ＣＺ，ＤＥ，ＤＫ，ＤＭ，ＤＺ，ＥＥ，ＥＳ，ＦＩ，ＧＢ，ＧＤ，ＧＥ，ＧＨ，ＧＭ，ＨＲ，ＨＵ，ＩＤ，ＩＬ，ＩＮ，ＩＳ，ＪＰ，ＫＥ，ＫＧ，ＫＰ，ＫＲ，ＫＺ，ＬＣ，ＬＫ，ＬＲ，ＬＳ，ＬＴ，ＬＵ，ＬＶ，ＭＡ，ＭＤ，ＭＧ，ＭＫ，ＭＮ，ＭＷ，ＭＸ，ＭＺ，ＮＯ，ＮＺ，ＰＬ，ＰＴ，ＲＯ，ＲＵ，ＳＤ，ＳＥ，ＳＧ，ＳＩ，ＳＫ，ＳＬ，ＴＪ，ＴＭ，ＴＲ，ＴＴ，ＴＺ，ＵＡ，ＵＧ，ＵＺ，ＶＮ，ＹＵ，ＺＡ，ＺＷ (72)発明者ズエンチェン中華人民共和国北京ハイジャンディストリクトズイチュンロード（番地なし）ビルディング９ルーム 1801 (72)発明者ジアンハン中華人民共和国北京ハイダンディストリクトドンワンズアンコミュニティー（番地なし）ビルディング５ルーム 702 Ｆターム(参考） 5B009 VB04 VB12 5B091 AA11 BA02 CC02 EA05

Claims

【特許請求の範囲】

【請求項１】スペルミスを含む入力文字列を受け取る工程と、少なくとも一部は統計的言語モデルを使用して前記スペルミスを修正する工程
とを具えたことを特徴とする方法。
【請求項２】前記修正する工程は、Ｎ重文字統計的言語モデルを使用することを含むことを特徴とする請求項１記
載の方法。
【請求項３】タイピングモデルを使用して前記スペルミスを修正するため
可能な候補文字列を生成する工程をさらに具えたことを特徴とする請求項１記載の方法。
【請求項４】前記統計的言語モデルと前記タイピングモデルから返された
組み合わせ確率により複数の可能な候補文字列を分析する工程をさらに具えたことを特徴とする請求項３記載の方法。
【請求項５】入力文字列を受け取る工程と、前記候補文字列が前記入力文字列として間違って入力された確率に基づいて前
記入力文字列を置き換えるのに使用できる、少なくとも１つの候補文字列を判別
する工程と、前記候補文字列を使用して少なくとも１つの出力文字列を導出する工程と、前記入力文字列を前記出力文字列に変換する工程とを具えたことを特徴とする方法。
【請求項６】前記入力文字列は表音テキストを含み、前記出力文字列は言
語テキストを含むことを特徴とする請求項５記載の方法。
【請求項７】前記入力文字列はピンインを含み、前記出力文字列は漢字を
含むことを特徴とする請求項５記載の方法。
【請求項８】前記判別する工程は、データベースから前記１つ又は複数の候補文字列を取得することを含むことを
特徴とする請求項５記載の方法。
【請求項９】トレーニングテキストを入力した複数のユーザから集めたデ
ータをもとに、前記候補文字列が前記表音列として間違って入力された前記確率
を導出する工程をさらに具えたことを特徴とする請求項５記載の方法。
【請求項１０】前記判別する工程は、複数の異なる方法で前記入力文字列をセグメント分割し、前記入力文字列を置
き換えるのに使用できる複数の候補文字列を生成し、前記候補文字列のそれぞれ
が前記候補文字列を前記入力文字列として間違って入力した確率に基づくことを
特徴とする請求項５記載の方法。
【請求項１１】前記使用は、前記候補文字列のそれぞれを出力文字列と関連付けることを含むことを特徴と
する請求項１０記載の方法。
【請求項１２】前記入力文字列を置き換えるのに使用できる複数の候補文
字列を判別する工程と、ここで、前記候補文字列のそれぞれは、前記候補文字列
を前記入力文字列として間違って入力する確率に基づくものであり、前記複数の候補文字列を使用して、複数の関連する出力文字列を導出する工程
と、前記確率に応じて前記候補文字列を選択し、前記変換のため前記選択した候補
文字列と関連付けられる前記出力文字列を使用する工程とをさらに具えたことを特徴とする請求項５記載の方法。
【請求項１３】ユーザが入力している前記入力文字列と同じ行に前記出力
文字列を表示する工程をさらに具えたことを特徴とする請求項５記載の方法。
【請求項１４】プロセッサ上で実行すると請求項５記載の前記方法を実行
するようコンピュータに指令するコンピュータ実行可能命令を具えたことを特徴
とする１つ又は複数のコンピュータ読み取り可能媒体。
【請求項１５】複数の異なる方法で入力文字列をセグメント分割し、前記
入力文字列を置き換えるのに使用できる複数の候補文字列を生成する工程と、こ
こで、前記候補文字列のそれぞれは、前記候補文字列を前記入力文字列として間
違って入力する確率に基づくものであり、少なくとも１つの出力文字列を前記候補文字列のそれぞれと関連付ける工程と
を具えたことを特徴とする方法。
【請求項１６】前記入力文字列は表音テキストを含み、前記出力文字列は
言語テキストを含むことを特徴とする請求項１５記載の方法。
【請求項１７】前記入力文字列はピンインを含み、前記出力文字列は漢字
を含むことを特徴とする請求項１５記載の方法。
【請求項１８】前記入力文字列はピンインと英語の組み合わせを含み、前
記出力文字列は漢字と英語の組み合わせを含むことを特徴とする請求項１５記載
の方法。
【請求項１９】最高の確率が設定された特定の候補文字列を選択し、表音
テキストの前記入力文字列を前記特定の候補文字列と関連する前記出力文字列に
変換する工程をさらに具えたことを特徴とする請求項１５記載の方法。
【請求項２０】プロセッサ上で実行すると請求項１５記載の前記方法を実
行するようコンピュータに指令するコンピュータ実行可能命令を具えたことを特
徴とする１つ又は複数のコンピュータ読み取り可能媒体。
【請求項２１】入力文字列を受け取る工程と、少なくとも１つのトレーニングテキストを入力する複数のユーザから集めた実
際のデータをもとにトレーニングされたタイピングモデルを使用して、前記入力
文字列を可能な修正について評価する工程を具えたことを特徴とする方法。
【請求項２２】言語モデルを使用し、前記入力文字列の言語の文脈に基づ
いて前記入力文字列を置き換えるため有望な候補文字列を導出する工程をさらに具えたことを特徴とする請求項２１記載の方法。
【請求項２３】タイピングモデルを構築する工程と、前記タイピングモデルをトレーニングして、ユーザが第２の文字列が入力され
たときに第１の文字列を入力するつもりであった確率を求める工程とを具え、ここで、前記トレーニングは、少なくとも１つのトレーニングテキスト
を入力する複数のユーザから集めたデータに基づくことを特徴とする方法。
【請求項２４】前記トレーニングは、発音が等しいすべての文字列を個々
の音節に対応付けることを含むことを特徴とする請求項２３記載の方法。
【請求項２５】前記トレーニングは、複数の文字からなる文字列を読み取る工程と、音節を前記文字列内の対応する文字に対応付ける工程と、個々の音節について、前記音節に対応付ける前記文字列内の前記文字の頻度カ
ウント数を維持する工程と、前記音節が前記頻度カウント数に基づいて前記文字列の正しい入力を表す確率
を決定する工程とを含むことを特徴とする請求項２３記載の方法。
【請求項２６】プロセッサ上で実行すると請求項２３記載の前記方法を実
行するようコンピュータに指令するコンピュータ実行可能命令を具えたことを特
徴とする１つ又は複数のコンピュータ読み取り可能媒体。
【請求項２７】タイピングモデルをトレーニングする方法であって、複数の文字からなるテキスト文字列を読み取る工程と、音節を前記テキスト文字列内の対応する文字に対応付ける工程と、個々の音節について、前記音節に対応付ける前記テキスト文字列内の前記文字
の頻度カウント数を維持する工程と、前記音節が前記頻度カウント数に基づいて前記テキスト文字列の正しい入力を
表す確率を決定する工程とを具えたことを特徴とする方法。
【請求項２８】前記テキスト文字列は、表音テキストを含むことを特徴と
する請求項２７記載の方法。
【請求項２９】前記テキスト文字列は、表音テキストと非表音テキストと
の混合を含むことを特徴とする請求項２７記載の方法。
【請求項３０】プロセッサ上で実行すると請求項２７記載の前記方法を実
行するようコンピュータに指令するコンピュータ実行可能命令を具えたことを特
徴とする１つ又は複数のコンピュータ読み取り可能媒体。
【請求項３１】言語入力アーキテクチャであって、入力文字列を受け取り前記入力文字列にスペルミスが含まれるユーザインタフ
ェースと、先行する文字列の文脈において前記入力文字列を評価し、前記入力文字列を置
換して前記スペルミスを修正することができる有望な代替文字列を生成する言語
モデルとを具えたことを特徴とする言語入力アーキテクチャ。
【請求項３２】前記言語モデルは、Ｎ重文字統計的言語モデルを含むこと
を特徴とする請求項３１記載の言語入力アーキテクチャ。
【請求項３３】前記候補文字列のそれぞれが前記入力文字列として間違っ
て入力されたタイピング誤りの確率に基づいて前記入力文字列に代用可能な、有
望なタイピング候補のリストを生成するタイピングモデルをさらに具えたことを特徴とする請求項３１記載の言語入力アーキテクチャ。
【請求項３４】言語入力アーキテクチャであって、入力文字列を受け取り前記入力文字列にスペルミスが含まれるユーザインタフ
ェースと、前記候補文字列のそれぞれが入力文字列として間違って入力されたタイピング
誤りの確率に基づいて前記入力文字列を置き換えられる有望なタイピング候補の
リストを生成するタイピングモデルとを具え、ここで、前記タイピングモデルは少なくとも１つのトレーニングテキストを入
力する複数のユーザから集めた実際にデータをもとにトレーニングされることを
特徴とする言語入力アーキテクチャ。
【請求項３５】前記タイピングモデルは、第１の言語を使用してトレーニ
ングされ、前記候補文字列のそれぞれが前記入力文字列として間違って入力されたタイピ
ング誤りの確率に基づいて前記入力文字列に代用可能な、有望なタイピング候補
のリストを生成する第２のタイピングモデルをさらに具え、前記第２のタイピングモデルは、第２の言語でトレーニングされることを特徴
とする請求項３４記載の言語入力アーキテクチャ。
【請求項３６】言語入力アーキテクチャであって、前記候補文字列のそれぞれが前記入力文字列として間違って入力されたタイピ
ング誤りの確率に基づいて表音テキストで書かれた入力文字列の代わりにできる
有望なタイピング候補のリストを生成するタイピングモデルと、前記タイピング候補のそれぞれについて言語テキストで書かれた出力文字列を
供給する言語モデルとを具えたことを特徴とする言語入力アーキテクチャ。
【請求項３７】前記表音テキストはピンインであり、前記言語テキストは
漢字であることを特徴とする請求項３６記載の言語入力アーキテクチャ。
【請求項３８】前記タイピングモデルは、トレーニングテキストを入力す
る複数のユーザから集めたデータを使用してトレーニングされることを特徴とす
る請求項３６記載の言語入力アーキテクチャ。
【請求項３９】表音テキストで書かれた前記入力文字列を受け取るユーザ
インタフェースをさらに具えたことを特徴とする請求項３６記載の言語入力アー
キテクチャ。
【請求項４０】前記タイピング候補を格納するデータベースをさらに具え
たことを特徴とする請求項３６記載の言語入力アーキテクチャ。
【請求項４１】請求項３６記載の前記言語入力アーキテクチャを具えたコ
ンピュータ読み取り可能媒体上に実現されることを特徴とするワードプロセッサ
。
【請求項４２】言語入力アーキテクチャであって、入力文字列を受け取り、候補文字列が間違って前記入力文字列として入力され
たタイピング誤りの確率を決定するタイピングモデルと、出力文字列が前記候補文字列を表す場合の言語テキストの確率を決定する言語
モデルと、前記タイピング誤りの確率と前記言語テキストの確率に基づいて前記入力文字
列を前記出力文字列に選択的に変換する検索エンジンとを具えたことを特徴とする言語入力アーキテクチャ。
【請求項４３】前記入力文字列は表音テキストを含み、前記出力文字列は
言語テキストを含むことを特徴とする請求項４２記載の方法。
【請求項４４】前記入力文字列はピンインを含み、前記出力文字列は漢字
を含むことを特徴とする請求項４２記載の方法。
【請求項４５】前記入力文字列は表音テキストと非表音テキストの組み合
わせを含み、前記出力文字列は言語テキストと非表音テキストの組み合わせを含
むことを特徴とする請求項４２記載の方法。
【請求項４６】前記タイピングモデルは、トレーニングテキストを入力す
る複数のユーザから集めたデータを使用してトレーニングされることを特徴とす
る請求項４２記載の言語入力アーキテクチャ。
【請求項４７】前記入力文字列を受け取り、前記出力文字列を表示するユ
ーザインタフェースをさらに具えたことを特徴とする請求項４２記載の言語入力
アーキテクチャ。
【請求項４８】前記タイピング候補を格納するデータベースをさらに具え
たことを特徴とする請求項４２記載の言語入力アーキテクチャ。
【請求項４９】前記入力文字列も含むセンテンス内のすでに入力されてい
るテキストをタイピングモデルに供給するセンテンス文脈モデルをさらに具え、ここで、前記タイピングモデルは、前記入力文字列と前記センテンス内のテキ
ストの組み合わせを使用して、前記タイピング誤りの確率を導出するように構成
されていることを特徴とする請求項４２記載の言語入力アーキテクチャ。
【請求項５０】請求項４２記載の前記言語入力アーキテクチャを具えたコ
ンピュータ読み取り可能媒体上に実現されることを特徴とするワードプロセッサ
。
【請求項５１】コンピュータで実行可能な命令を有する１つ又は複数のコ
ンピュータ読み取り可能媒体であって、プロセッサで実行されたときコンピュー
タに、スペルミスを含む入力文字列を分析させ、統計的言語モデルを使用して前記スペルミスを修正することを命令させること
を特徴とするコンピュータ読み取り可能媒体。
【請求項５２】コンピュータで実行可能な命令を格納した１つ又は複数の
コンピュータ読み取り可能媒体であって、プロセッサで実行されたときコンピュ
ータに、入力文字列を受け取らせ、少なくとも１つのトレーニングテキストを入力する複数のユーザから集めた実
際のデータをもとにトレーニングされたタイピングモデルを使用して前記入力文
字列を可能な修正について評価させることを特徴とするコンピュータ読み取り可
能媒体。
【請求項５３】コンピュータで実行可能な命令を格納した１つ又は複数の
コンピュータ読み取り可能媒体であって、プロセッサで実行されたときコンピュ
ータに、入力文字列を受け取らせ、前記候補文字列が前記入力文字列として間違って入力された確率に基づいて前
記入力文字列を置き換えるのに使用可能な、少なくとも１つの候補文字列を判別
させ、前記候補文字列を使用して少なくとも１つの出力文字列を導出させ、前記入力文字列を前記出力文字列に変換させることを特徴とするコンピュータ
読み取り可能媒体。