JP4191021B2 - ドメイン検証器のトレーニング装置、入力データのドメイン検証装置、及びコンピュータプログラム - Google Patents

Description

この発明は、自然言語処理に関し、特に、音声認識又は機械翻訳など、処理対象となる言語活動のドメインに依存したモデルを用いて行なう自然言語処理の改良に関する。

近年、電話と自動音声認識（Ａｕｔｏｍａｔｉｃ Ｓｐｅｅｃｈ Ｒｅｃｏｇｎｉｔｉｏｎ：ＡＳＲ）とを用いた自動対話システムが広い範囲で使用される様になっている。そのための技術で現在重要と思われるのは、ユーザが複数のドメインの情報にアクセスできる様にする事で自動対話システムの適用範囲を広げ、使い勝手を向上させるための技術である（後掲の非特許文献１を参照されたい。）。

ここで「ドメイン」とは、対話が想定される種々の状況を分類する概念である。これは、いわゆる「トピック」という概念と同様であると考えると分かりやすい。たとえば旅行用の英会話のテキストブックでは、会話が行なわれる場面として「空港」、「ショッピング」、「両替」、「駅で」等というトピックに分けて、それらトピックでよく使われる例文をまとめて掲げている事が多い。こうした「トピック」と類似したものとしてドメインを考える。ただし、旅行用の英会話のテキストは、それ自体「海外旅行」という場面を想定している。この様に複数のトピックをまとめて一つの状況と捕らえる事もでき、それらも「ドメイン」とする事ができる。従ってドメインとは階層的な概念でもある。

簡単のために、以下の説明では、ドメインがトピックの上位の階層であって、あるドメインが複数のトピックを含むものとする。

複数ドメインにわたって音声認識を行なう場合、ドメインごとの言語モデル等を用いる事により音声認識システムの精度と効率とがともに向上する事が知られている。こうしたアプローチは、開発のモジュール性を考える上で都合がよい。なぜなら、新しいドメインをシステムに追加しても、既に存在しているドメインにおける精度には影響を与えないからである。トピックごとの言語モデルを、以下「トピック依存モデル」と呼ぶ。

こうしたトピック依存モデルを用いる従来の対話システムでは、主としてシステムが主導権を握る方式が採用されている。これについてはたとえば後掲の非特許文献２を参照されたい。これらシステムは、ユーザに各種の指示を出し、システムの内部状態に基づいて適切と判断された言語モデルを適用する。こうしたシステムではユーザが主導権を握る事はできず、従ってその使い勝手はよくない。ユーザがドメインを変更できる様にする事で使い勝手は向上すると考えられる。しかしその場合でもユーザは、特定のドメインに関する問合せを行なう場合、その前に明示的に必要なドメインを指定しなければならない。

電話の自動受付システムでは（非特許文献３を参照されたい。）、ユーザが最初に発した音声に対する音声認識の結果からトピックを検出する処理を行なう事で、明示的にではなくドメインが指定される。対話システムでも、同様の技術を用いて必要とされるドメインを自動的に判定する事ができる。連続する発話は同一のドメインのものである場合が多いので、ドメイン依存モデルを用いた効果が期待できる。

ドメイン依存モデルを用いて精度を向上させるシステムとして、出願人が開発したものがある（非特許文献４を参照されたい。）。このシステムでは、複数種類のドメイン依存モデルと、それらを用いて音声認識を行なう複数の音声認識装置とを予め用意し、入力される音声に対しこれら複数の音声認識装置を並列に動作させる。そして、これらから得られた複数の結果のうち、音声認識スコアが最も高いものを選択して出力する。音声認識スコアとは、音声認識装置の内部で複数の認識結果の候補から音声認識結果を選択する際に計算されるスコアの事であり、音声認識結果に付随して得る事ができるものである。

Ｓ．スネフ、Ｒ．ラウ、Ｊ．ポリフローニ著、「Ｇａｌａｘｙ−ＩＩ会話システムの編成、通信、および制御」、ユーロスピーチ予稿集、１９９９年（Ｓ．Ｓｅｎｅｆｆ，Ｒ．Ｌａｕ，Ｊ．Ｐｏｌｉｚｆｏｎｉ，"Ｏｒｇａｎｉｚａｔｉｏｎ，Ｃｏｍｍｕｎｉｃａｔｉｏｎ，ａｎｄ Ｃｏｎｔｒｏｌ ｉｎ ｔｈｅ Ｇａｌａｘｙ−ＩＩ Ｃｏｎｖｅｒｓａｔｉｏｎａｌ Ｓｙｓｔｅｍ"，Ｐｒｏｃ．Ｅｕｒｏｓｐｅｅｃｈ，１９９９．） Ｆ．ウェセル、Ａ．バーダー著、「１点排除推定を用いたロバストな対話状態依存の言語モデリング」、ＩＣＡＳＳＰ予稿集第２巻、７４１−７４４頁、１９９９年（Ｆ．Ｗｅｓｓｅｌ，Ａ．Ｂａａｄｅｒ，"Ｒｏｂｕｓｔ Ｄｉａｌｏｇｕｅ−Ｓｔａｔｅ Ｄｅｐｅｎｄｅｎｔ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌｉｎｇ ｕｓｉｎｇ Ｌｅａｖｉｎｇ−Ｏｎｅ−Ｏｕｔ"，Ｐｒｏｃ．ＩＣＡＳＳＰ Ｖｏｌ．２，１９９９．） Ｇ．リッカルディ、Ａ．ゴーリン、Ａ．リヨリエ、Ｍ．ライリー著、「自動電話受付のための話し言葉システム」、ＩＣＡＳＳＰ予稿集、第２巻、１１４３−１１４６頁、１９９７年（Ｇ．Ｒｉｃｃａｒｄｉ，Ａ．Ｇｏｒｉｎ，Ａ．Ｌｊｏｌｉｅ，Ｍ．Ｒｉｌｅｙ、"Ａ ｓｐｏｋｅｎ Ｌａｎｇｕａｇｅ Ｓｙｓｔｅｍ ｆｏｒ Ａｕｔｏｍａｔｅｄ Ｃａｌｌ Ｒｏｕｔｉｎｇ"，Ｐｒｏｃ．ＩＣＡＳＳＰ，Ｖｏｌ．２，ｐｐ．１１４３−１１４６，１９９７） Ｔ．タケザワ、Ｅ．スミタ、Ｆ．スガヤ、Ｈ．ヤマモト、Ｓ．ヤマモト著、「実世界における旅行会話の音声翻訳のための大規模バイリンガルコーパスに向けて」、ＬＲＥＣ２００２、１４７−１５２頁、２００２年（Ｔｏｗａｒｄｓ ａ Ｂｒｏａｄ−ｃｏｖｅｒａｇｅ Ｂｉｌｉｎｇｕａｌ Ｃｏｒｐｕｓ ｆｏｒ Ｓｐｅｅｃｈ Ｔｒａｎｓｌａｔｉｏｎ ｏｆ Ｔｒａｖｅｌ Ｃｏｎｖｅｒａｓｔｉｏｎ ｉｎ ｔｈｅ Ｒｅａｌ Ｗｏｒｌｄ"，ＬＲＥＣ ２００２，ｐｐ．１４７−１５２，２００２．）

ある特定のドメインを自動的に選択する場合、選択結果が正しければよいが、選択結果が誤っていると音声認識が正しく行われないという問題がある。また、ドメインとして何を選択すべきかを知っているのがユーザであるとすれば、ユーザが明示的にドメインを指定することにより、ドメインに応じた適切なモデルを用いた精度の高い音声認識を実現できる。

しかし、この場合に問題となるのは、ユーザが明示的にドメインを指定した場合でも、時に意識せずドメイン外の発話を行なうことがあるということである。ドメイン外の発話があると音声認識装置は正しく動作せず、翻訳できずに何度も発話を繰返すことを求めたり、全く誤った認識結果を出力したりする。ユーザは自分が誤ったドメインの発話を行なったことは意識していないことが多いので、音声認識装置がこのような動作をすることによりユーザの不満が大きくなる。また、ユーザが音声認識装置のドメインという概念について正しく理解をしていない場合にも同様の問題が生じ得る。

こうした問題は、音声認識だけではなく、自然言語処理全般において、その処理対象となる文の領域ごとに異なるモデル又は辞書などを用いることによって処理の精度に大きな相違が生じるシステム全てに共通している。そこで、このような問題を解消することが必要である。

これまで、こうした問題についてはそれほど研究されてきていない。通常は例えば処理結果に対する信頼度尺度のような尺度を定義し、この値が所定の条件を充足していないものを棄却するというアプローチを用いている。入力がドメイン内のものか、ドメイン外のものかを確認することが重要であるという視点からの研究はほとんどされていない。

ところで、自然言語処理に関する誤りを防止する手立てとして、正誤双方を含む事例を多数集め、それらを用いて統計的な処理を行なうことにより正誤の判定を行なう判定器を用いることがよく行われている。そのためのツールとして、例えばＳＶＭ（Ｓｕｐｐｏｒｔ Ｖｅｃｔｏｒ Ｍａｃｈｉｎｅ）のようなものがよく知られている。しかし、そうした処理を行なうためには、誤りのデータを収集する必要がある。実際のところ、例えば音声認識装置等におけるドメイン外の発話の取り扱い等についてはそうした誤りのデータを多数収集することは困難であり、そのために入力がドメイン外が否かを判定するための判定器を実現することは極めて難しかった。

それゆえに本発明の目的は、ドメイン依存の自然言語処理において、指定されたドメインではない、ドメイン外の入力があったときにも適切に判定するドメイン検証装置及びそのトレーニング装置を提供することである。

本発明の他の目的は、ドメイン依存の自然言語処理において、指定されたドメインではない、ドメイン外の入力があったときにそれを信頼性高く検出することができるドメイン検証装置及びそのトレーニング装置であって、トレーニングにあたって誤入力に関する事例を収集する必要のないものを提供することである。

本発明に係るドメイン検証装置のトレーニング装置は、複数のトピックに分類された、一つのドメインに属する機械可読なドメイン内データを準備するための手段と、ドメイン内データの複数のトピックの一つがそれぞれ割り当てられ、トレーニングデータが自己に割り当てられたトピックに属するか否かを判定するようにトレーニング可能な複数のトピック判定手段と、ドメイン内データをトレーニングデータとして用い、複数のトピック判定手段をトレーニングするための第１のトレーニング手段と、与えられる入力データが所定のドメインに属するか否かを検証するためのドメイン検証器と、第１のトレーニング手段によりトレーニングされた複数のトピック判定手段とドメイン内データとを用いて、与えられる入力データがドメイン内データのドメインに属するか否かをドメイン検証器が判定可能となるようにドメイン検証器をトレーニングするための第２のトレーニング手段とを含む。

好ましくは、複数のトピック判定手段の各々は、トレーニングデータ及び当該トレーニングデータが自己に割り当てられたトピックに属するか否かを示す情報が与えられると、入力データが自己に割り当てられたトピックに属するか否かを判定するようにトレーニング可能なＳＶＭを含む。

さらに好ましくは、ＳＶＭは、入力データが自己に割り当てられたトピックに属するか否かを示す情報を、所定範囲に正規化された数値として出力する。

ＳＶＭは、入力データが自己に割り当てられたトピックに属するか否かを示す情報を、所定範囲内の離散値として出力してもよい。

好ましくは、第２のトレーニング手段は、第１のトレーニング手段によりトレーニングされた複数のトピック判定手段、及びドメイン内データを用い、かつ削除補間法を用いることにより、ドメインに属さないトレーニングデータを用いずに、ドメイン検証器をトレーニングするための手段を含む。

第２のトレーニング手段は、複数のトピックのうちのｊ番目（ｊは自然数）の一つを選択してドメイン外に設定するためのトピック選択手段と、トピック選択手段によりドメイン外に設定されたトピックに対応するトピック判定手段を除く、残りのトピック判定手段に対し、ドメインに属するトレーニングデータを与え、トレーニングデータごとに複数のトピック判定手段による判定結果を、各トピックに属すると判定される信頼度尺度として得るための手段と、判定結果を得る手段により得られた残りのトピック判定手段による判定結果と、トレーニングデータが属するトピックを示す情報とに基づいて、次式で表されるドメイン検証関数Ｇin-domain（Ｘ）

によって、トレーニングデータがドメイン外に設定されたトピックに属するか否かを判定できるように、ドメイン内検証関数Ｇin-domain（Ｘ）の係数λ_ij（１≦ｊ≦Ｍ，ｊ≠ｉ）の値を確率降下法により算出するための係数算出手段と、複数のトピックの各々が全て一度ずつ選択されるようにトピック選択手段、判定結果を得るための手段、及び係数算出手段が繰返し動作するよう制御するための制御手段と、制御手段による繰返しの結果、各トピックに対して算出されたドメイン内検証関数Ｇin-domain（Ｘ）の係数λ_ij（１≦ｊ≦Ｍ，ｊ≠ｉ）の平均値λ_i （１≦ｉ≦Ｍ）を算出するための平均算出手段と、平均算出手段により算出された係数λ_i（１≦ｉ≦Ｍ）をドメイン検証器のパラメータに設定するための手段とを含んでもよい。

本発明の第２の局面にかかるコンピュータプログラムは，コンピュータにより実行されると、当該コンピュータを上記したいずれかのドメイン検証器のトレーニング装置として動作させる。

本発明の第３の局面にかかる入力データのドメイン検証装置は、ドメイン内データの複数のトピックの一つがそれぞれ割り当てられ、入力データが自己に割り当てられたトピックに属するか否かを判定するようにトレーニングされた複数のトピック判定手段と、与えられる入力データがドメインに属するか否かを検証するためのドメイン検証器と、入力データを複数のトピック判定手段に与え、複数のトピック判定手段が出力した判定結果をドメイン検証器に入力するためのデータ入力手段とを含み、それによって、データ入力手段によるデータの入力に応答したドメイン検出装置の出力は、入力データが前記ドメインに属するか否かを示す。

本発明の第４の局面に係るドメイン検証装置のトレーニング装置は、入力データが自己に割り当てられたトピックに属するか否かを判定するようにトレーニングされた複数のトピック判定手段と、与えられる入力データが所定のドメインに属するか否かを検証するためのドメイン検証器と、複数のトピック判定手段、及びドメインに属する入力データを用いて、与えられる入力データが上記した複数のトピック判定手段のトピックからなるドメインに属するか否かをドメイン検証器が判定可能となるように、ドメイン検証器をトレーニングするためのトレーニング手段とを含む。

［第１の実施の形態］
‐概論‐
以下に述べる第１の実施の形態は、入力された発話がドメイン外（Ｏｕｔ−Ｏｆ−Ｄｏｍａｉｎ：以下「ＯＯＤ」と呼ぶ。）の発話かドメイン内の発話かを検出することが可能な、音声認識装置とともに用いられるドメイン外検証装置に関するものである。この実施の形態にかかる装置は、対象ドメインに属する発話セットのみを用いて、入力された発話がこのドメインに属するか否かを判定する。

そのための枠組みとして、当該ドメインを複数のトピックに分け、入力された発話がこれらトピックの各々に属すると考えられる信頼度尺度をトピックごとに算出する。このようにして複数のトピックに対して求めた信頼度尺度をこの入力発話のドメイン判定のための特徴ベクトルとし、予めドメイン内の発話を用いて同様の処理をすることにより得られた信頼度尺度によってトレーニングされたドメイン検証器を用いてＯＯＤか否かを判定する。

ドメイン検証器のトレーニングにはドメイン内の発話しか使用しないので、ＯＯＤの発話を収集する必要はない。

‐構成‐
以下に、本実施の形態の構成について説明する。この実施の形態は本発明を実施するためのひとつの形態を述べているにすぎず、各構成要素についてはこれ以外にも種々の変形が可能で、また代替が可能なものもある。それらの全てを示すのは困難であるので、可能な変形のいくつかを、実施の形態の説明の最後に掲げる。

図１に、本実施の形態にかかるドメイン外判定装置３６を用いた音声応答システムの使用環境を示す。図１を参照して、このドメイン外判定装置３６を含む音声応答システム２８は、ユーザの発話音声を電気信号に変換するためのマイクロフォン３０と、マイクロフォン３０からの音声信号に対して、所定のドメイン依存モデル３４を用いて音声認識を行なうための音声認識装置３２と、音声認識装置３２により出力された音声認識の結果が、ドメイン依存モデル３４がカバーしているドメイン内のものか、ＯＯＤかを判定し、ＯＯＤの場合にはユーザへのフィードバックとしてドメイン外警告信号を出力するための、本実施の形態に係るドメイン外判定装置３６と、ドメイン外判定装置３６からのドメイン外警告信号に応答して、ドメイン外警告を視覚的に表示したり、スピーカによって音声出力したりするためのドメイン外警告部４０と、ドメイン外判定装置３６によって入力発話がドメイン内のものであると判定されたことに応答して、音声認識装置３２による音声認識結果に基づいてユーザに対し対話のための適切な出力を行なうための応答装置３８とを含む。

この音声応答システム２８で使用されるドメイン外判定装置３６は、既に述べたように予めこのドメインに対応してトレーニングされている。図１には、そのためのドメイン外判定トレーニングユニット２２も示してある。後述するように、ドメイン外判定装置３６は処理対象のドメインに含まれる複数のトピックの各々に対して、入力発話がそのトピック内のものであると考えられる信頼度尺度を出力するクラス分類器２６と、その結果に基づいて入力発話が対象ドメイン内のものかＯＯＤかを判定するドメイン検証器２４とを使用する。ドメイン外判定トレーニングユニット２２は、ドメイン依存モデル３４のドメインに対応する発話を含む発話セット２０を用いて、クラス分類器２６とドメイン検証器２４とをトレーニングする機能を持つ。

図２に、発話セット２０の構成と、ドメイン外判定トレーニングユニット２２の詳細なブロック図を示す。図２を参照して、発話セット２０は、それぞれ別々のトピック（第１のトピックから第Ｍのトピックとする。）の発話からなるＭ個の発話セット７０−１〜７０−Ｍに分割されている。

ドメイン外判定トレーニングユニット２２は、与えられた発話の各々に対して、上記したＭ個のトピックに属するか否かをトピックごとに信頼度尺度として出力するためのクラス分類器５２と、上記したようにクラス分類器５２が信頼度尺度を出力するように、発話セット２０を用いてクラス分類器５２をトレーニングするためのクラス分類器トレーニング部５０とを含む。

本実施の形態の装置では、クラス分類器５２に対して与えられる発話データは、発話を構成する１−、２−、及び３−グラムを用いて得られる特徴ベクトルの形である。この特徴ベクトル内の各語にはさらに、品詞情報（Ｐａｒｔ Ｏｆ Ｓｐｅｅｃｈ：ＰＯＳ）が付加されている。

ドメイン外判定トレーニングユニット２２はさらに、ある発話に対してトレーニング終了後のクラス分類器５２が出力するＭ個の信頼度尺度を要素とする信頼度ベクトルが与えられると、当該発話が発話セット２０のドメインに属するか否かを判定するためのドメイン検証器５６と、トレーニング後のクラス分類器５２及び発話セット２０を用いて、後述する削除補間（Ｄｅｌｅｔｅｄ Ｉｎｔｅｒｐｏｌａｔｉｏｎ）法に基づいたトレーニング方法により、発話セット２０のドメインに属さない発話をトレーニングデータとして用いずにドメイン検証器５６をトレーニングするためのドメイン検証器トレーニング部５４とを含む。本実施の形態で使用する削除補間法については後述する。

クラス分類器５２は、発話セット２０の各トピック７０−１〜７０−Ｍにそれぞれ対応して設けられ、発話の特徴ベクトルが与えられると、当該発話がその担当するトピックに属するか否かに関する信頼度尺度を出力するための、第１〜第ＭのＳＶＭ７４−１〜７４−Ｍを含む。本実施の形態では、各ＳＶＭに対し、発話の特徴ベクトルの要素と、その発話がこのＳＶＭに割当てられたトピックに属するか否かを示す情報とからなるベクトルを与えることによりトレーニングが行なわれる。この際、トピック内の発話を正解データ、それ以外のトピックに属する発話を誤りデータとする。

トレーニング済みのＳＶＭによる分類では、発話の特徴ベクトルの張る空間内において与えられた特徴ベクトルにより表される点と、ＳＶＭによる判別のためのハイパープレーンとの間の距離を用いて分類の尺度とする。入力がトピック内にあればこの距離の値は正、それ以外の場合には負とする。また、ＳＶＭの出力である距離は［−∞，∞］の範囲の値であるが、これにシグモイド変換を行なって［０，１］の範囲に正規化することにより、信頼度尺度が得られる。

クラス分類器トレーニング部５０は、クラス分類器５２の第１〜第ＭのＳＶＭ７４−１〜７４−Ｍをそれぞれトレーニングするための第１〜第ＭのＳＶＭトレーニング部７２−１〜７２−Ｍを含む。

ドメイン検証器５６は、処理対象の発話Ｘを受けたトレーニング後のクラス分類器５２から出力されるＭ個の信頼度尺度を要素とするベクトルに基づき、次の式Ｇin-domainを適用することで当該発話Ｘがドメイン外か否かを判定する。

ドメイン検証器トレーニング部５４は、ドメイン検証器５６を削除補間法によりトレーニングする。式（１）中の係数λ _ij はこのトレーニングにより得られる。ドメイン検証器トレーニング部５４の詳細を説明する前に、削除補間法の概要について説明する。

ドメイン検証器５６のトレーニングには、削除補間法を用いるので、発話セット２０中のデータのみ、すなわち、対象ドメイン内のデータのみを用いる。ＯＯＤのデータは用いない。ドメイン検証器トレーニング部５４によるトレーニングではさらに、この削除補間法に、ＧＰＤ（ｇｒａｄｉｅｎｔ ｐｒｏｂａｂｉｌｉｓｔｉｃ ｄｅｓｃｅｎｔ：確率降下法）を組み合わせて用いる。

この方法のアルゴリズムを擬似コードで書けば以下のようになる。

［１，Ｍ］中のトピックｊごとに
｛
トピックｊを一時的なＯＯＤに設定する
他のトピックをドメイン内に設定する
トピックｊをＯＯＤ、他のトピックをドメイン内と判別するように、式（２）によってドメイン検証モデルＧ _in-domain （Ｘ）をトレーニングする
すなわち、ＧＰＤを用い、式（２）の識別エラーが最小化するように重み（λ _1j ，…，λ _ij ,…,λ _Mj ）（ｉ≠ｊ）を計算する

｝
λ _i （１≦ｉ≦Ｍ）の各々を、上記した繰り返しにより得られた値（λ _i1 ，…，λ _ij ，…，λ _iM ）（１≦ｊ≦Ｍ，ｊ≠ｉ）の平均値として求める。

つまり、あるトピックを一時的にＯＯＤとし、このトピックに対応するＳＶＭをモデルから削除して、残りのＳＶＭを用い発話セット２０の全ての発話に対する信頼度尺度を求める。発話が、ＯＯＤに設定されたトピック以外の残りのトピックに属するような判定が上記したドメイン内検証モデルＧin-domain（Ｘ）で行なえるように、重みλ_ij（１≦ｉ，ｊ≦Ｍ、ｊ≠ｉ）をＧＰＤにより算出する。最後に、λ _i （１≦ｉ≦Ｍ）の各々を、こうして得た重みλ _ij （１≦ｊ≦Ｍ，ｊ≠ｉ）を平均することにより求める。

ここで、一時的にＯＯＤに設定されたトピックの発話は、トレーニングにおいては誤り（ＯＯＤ）の例として用いられ、残りのトピックの発話は、いずれも正しい例（ドメイン内）として用いられる。

このようにして重みλ_ij（１≦ｉ，ｊ≦Ｍ、ｉ≠ｊ）を算出した後，これらを全て平均する。各重みλ_ijについてはＭ−１個の値が算出されるので、重みλ_i＝Σλ_ij（１≦ｊ≦Ｍ、ただしｊ≠ｉ）／（Ｍ−１）として計算できる。これら重みλ_iが求められることにより、ドメイン検証器５６のトレーニングが完了する。

図２を参照して、ドメイン検証器トレーニング部５４は、上記した処理を行なうため、発話セット２０のトピックをひとつずつＯＯＤに指定して繰り返し処理を行ない、重みλ_Iを算出する制御を行なうためのトレーニング制御部６０と、発話セット２０の発話の各々に対するクラス分類器５２からの出力のうち、トレーニング制御部６０により指定されたトピック以外のトピックの信頼度尺度を要素とする信頼度ベクトルを作成するための信頼度ベクトル作成部６２とを含む。

ドメイン検証器トレーニング部５４はさらに、信頼度ベクトル作成部６２により発話セット２０の発話ごとに得られた信頼度ベクトルを用いて、上記した様にＧＰＤを用いて重みλ_ij（１≦ｉ，ｊ≦Ｍ、ｉ≠ｊ）を算出するための係数算出部６４と、係数算出部６４により算出された重みλ_ijの合計を上記したようにＭ−１で除することにより平均するための係数平均部６６とを含む。

クラス分類器トレーニング部５０の処理を実現するアルゴリズムを図３にフローチャート形式で示す。図３を参照して、まずステップ１００で初期化を行なう。コンピュータで当該処理を実行する場合には、ここでワークメモリの確保、変数への初期値の設定などを行なう。

ステップ１０２で、繰返し制御変数ｉに０を代入する。続くステップ１０４〜ステップ１０８の処理は、ｉ＝１〜Ｍまでの繰返し処理である。

まずステップ１０４で変数ｉに１を加算し、変数ｉの新たな値とする。続くステップ１０６で、変数ｉの値がトピック数Ｍを超えたか否かを判定する。変数ｉの値がＭを超えていれば処理を終了する。さもなければステップ１０８に進む。

ステップ１０８では、ｉ番目のトピックの発話セットを正解、他のトピックの発話セットを誤りとして、ｉ番目のＳＶＭの訓練を行なう。訓練が終了すればステップ１０４に戻り、次のトピックのＳＶＭの訓練を行なう。

以上のアルゴリズムにより、クラス分類器５２に含まれる第１〜第ＭのＳＶＭの訓練を行なうことができる。

ドメイン検証器トレーニング部５４によるドメイン検証器５６の訓練を実現するアルゴリズムを図４に示す。図４を参照して、ドメイン検証器トレーニング部５４による処理では、最初にステップ１２０で初期化が実行される。続いてステップ１２２で繰返し変数ｊに０が代入される。以下のステップ１２４〜１３０は、削除補間法に従った繰返し処理である。

まずステップ１２４で、変数ｊに１を加算する。続いてステップ１２６で変数ｊがトピック数Ｍを超えたか否かを判定する。変数ｊがＭを超えていればステップ１３２に進み、さもなければステップ１２８に進む。

ステップ１２８では、ｊ番目のＳＶＭ７２−ｊをモデルから取除く。続くステップ１３０で、このようにｊ番目のＳＶＭ７２−ｊを除いたほかのＳＶＭ７２−ｋ（１≦ｋ≦Ｍ，ｋ≠ｊ）を用いて、発話セット２０の全発話を用いてＧＰＤによって重みλ_ij （１≦ｊ≦Ｍ、ｊ≠ｉ）を算出する。この後、ステップ１２４に戻る。

ステップ１２６で変数ｊがトピック数Ｍを超えていると判定された場合、ステップ１３２においてλ_ij （１≦ｊ≦Ｍ、ｊ≠ｉ）の和をＭ−１で除算することにより平均し、λi（１≦ｉ≦Ｍ）を算出し処理を終了する。以上によりドメイン検証器５６の訓練が終了する。

このドメイン検証器５６によるドメイン外検証の基本的な考え方について説明する。ある発話が、あるトピックに属し、他のトピックには属さない場合、その発話から得られる特徴ベクトルをクラス分類器５２の全てのＳＶＭに与えると、理想的には、対応のＳＶＭのみの出力が「正解」、他のＳＶＭの出力は全て「誤り」となるであろう。従って、正解を「１」、誤りを「０」とすれば、それらを要素とするベクトルは、正解となった要素のトピックに対応する軸の、座標「１」の近傍を指すであろう。

同様に、各トピックのいずれかに属する発話に対してクラス分類器５２から得られた信頼度尺度を要素とする信頼度ベクトルは、各トピックに対応する軸の座標「１」の付近に集まるであろう。

これに対し、いずれのトピックにも属さない発話、すなわちこのドメインに属さない発話の場合には、得られる信頼度ベクトルの要素はいずれも０に近い値となるであろう。従って、信頼度尺度の張る空間内において、ある発話の信頼度ベクトルが原点付近にあればその発話はドメイン外、原点付近になく各軸の近くに沿った付近にある信頼度ベクトルの場合には、その発話はドメイン内、と判定することができる。

実際には、そのように理想的な分類はできないので、上記したように削除補間法を用いて各重みλ_iを算出する。

なお、上のように考えた場合、各軸ごとに、ドメイン外かドメイン内かを判定するためのしきい値は異なってしかるべきである。ドメイン検証器トレーニング部５４によるλ_iの算出は、このように軸ごとに異なるしきい値を、各要素ごとの重みに置き換えて算出することである。

図５に、簡略のためにＭ＝３の場合の信頼度ベクトル空間を模式的に示す。この空間の軸がｘ₁〜ｘ₃であるとする。ｘ₁軸に対応するトピックに属する発話の場合、信頼度ベクトルの終点（始点を原点とする。）はほぼ部分空間１５０のあたりに位置するであろう。同様に、ｘ₂軸に対応するトピックに属する発話の場合、信頼度ベクトルの終点は部分空間１５０のあたりに位置するであろう。ｘ₃軸に対応するトピックに属する発話の場合、その信頼度ベクトルの終点は部分空間１５４のあたりに位置するであろう。

いずれのトピックにも属さない発話の場合、その信頼度ベクトルの終点は、原点周辺の領域１５６のあたりに位置するであろう。

従って、図５に示すように領域１５０、１５２、及び１５４と、領域１５６とを分離する平面１６０（次元数が４以上になれば超平面）を定めることができれば、発話の信頼度ベクトルの終点がこの平面により分割される領域の原点側にあるか、それ以外かによって、領域外か否かを判定できる。

平面１６０と各軸との切片は、φ₁〜φ₃で示すように互いに異なった値となる。このように、各軸との切片を決めるのが、式（１）により表される加重和における重みλとしきい値φである。

図１示すクラス分類器２６及びドメイン検証器２４は、図２に示されるドメイン外判定トレーニングユニット２２においてトレーニングの済んだクラス分類器５２及びドメイン検証器５６にそれぞれ相当する。

‐ドメイン外判定装置３６‐
一方、図１に示すドメイン外判定装置３６は、このクラス分類器２６及びドメイン検証器２４を用いて、入力発話がＯＯＤか否かを判定するためのものであり、以下の構成を有する。図６を参照して、ドメイン外判定装置３６は、マイクロフォン３０から入力される発話音声に対し、ドメイン依存モデル３４を用いた音声認識を行なうことにより音声認識装置３２により出力される音声認識結果の発話テキストデータを入力とする。

ドメイン外判定装置３６は、入力の発話テキストデータの特徴ベクトルを作成するための特徴ベクトル作成部１８０を含む。特徴ベクトル作成部１８０による特徴ベクトルの作成は、図２においてクラス分類器５２に与えられるものと同様である。すなわち、１−，２−，及び３−グラムと品詞（ｗｏｒｄ＋ＰＯＳ）とを要素として並べたものである。

ドメイン外判定装置３６はさらに、特徴ベクトル作成部１８０から与えられる特徴ベクトルに対し、クラス分類器２６により作成されるトピックごとのＭ個の信頼度尺度を要素として持つ信頼度ベクトルを作成するための信頼度ベクトル作成部１８２と、信頼度ベクトル作成部１８２の作成した信頼度ベクトルを入力として、ドメイン検証器２４（図２のドメイン検証器５６と同様）を用いて式（１）に示す演算を行ない、入力発話がＯＯＤいか否かを判定するためのドメイン検証部１８４と、ドメイン検証部１８４による判定結果に応じて、ドメイン外警告部４０又は応答装置３８を適切に動作させる処理を行なうための検証結果処理部１８６とを含む。

図７に、ドメイン外判定装置３６を実現するためのアルゴリズムをフローチャート形式で示す。コンピュータプログラムによりドメイン外判定装置３６を実現する場合には、このフローチャートに従った処理を実行するようにすればよい。

まずステップ２００において、音声認識結果の入力Ｘを受ける。ステップ２０２で、この入力Ｘに対する特徴ベクトルを作成する。前述したとおり、この特徴ベクトルは入力発話テキストデータの１−、２−、及び３−グラムと品詞情報とを要素とする。

ステップ２０４で、第１〜第Ｍのトピックに対応するＳＶＭを用い、この入力Ｘに対するトピックごとの信頼度尺度Ｃ（ｔ_i|Ｘ）（１≦ｉ≦Ｍ）を算出する。

ステップ２０６で、ドメイン内検証モデル（ドメイン内検証関数）Ｇin-domain（Ｘ）をこの信頼度尺度を要素とする信頼度ベクトルに対して適用する。その結果は、式（１）に示すように入力Ｘがドメイン内であれば１、それ以外の場合には０である。

ステップ２０８で、ステップ２０６において算出されたドメイン内検証関数Ｇin-domain（Ｘ）の値が１か否かを判定する。１であればステップ２１０で音声認識結果に対する適切な応答処理を実行し、処理を終了する。０であればステップ２１２で入力された発話が、この音声認識装置３２の対象とするドメイン外であったことを示すドメイン外警告表示を行ない、処理を終了する。

［動作］
以上説明システムの動作は３つのフェーズに分かれる。第１のフェーズは、ドメイン外判定トレーニングユニット２２によるクラス分類器５２（クラス分類器２６）のトレーニングフェーズである。第２のフェーズは、ドメイン外判定トレーニングユニット２２において、クラス分類器５２のトレーニングの終了後、ドメイン検証器５６（ドメイン検証器２４）のトレーニングを行なうフェーズである。第３のフェーズは、このようにトレーニングの終了したクラス分類器５２（クラス分類器２６）及びドメイン検証器５６（ドメイン検証器２４）を備えたドメイン外判定装置３６を用い、音声応答装置において入力された音声がドメイン外か否かを判定するフェーズである。以下、これらについて順番に説明する。

‐ドメイン外判定トレーニングユニット２２の動作‐
ドメイン外判定トレーニングユニット２２は以下のように動作する。この処理に先立ち、発話セット２０が準備されており、かつその中の各発話が第１〜第Ｍのトピックからなる発話セット７０−１〜７０−Ｍに分類されているものとする。この分類は、手作業で行なってもよいし、何らかの手段で機械的に行なってもよい。

発話が第１〜第Ｍの発話セット７０−１〜７０−Ｍに対応するトピックに属するか否かを判定できるよう、第１〜第ＭのＳＶＭ７４−１〜７４−Ｍに対するトレーニングが実行される。第１〜第ＭのＳＶＭトレーニング部７２−１〜７２−Ｍが、それぞれ担当するトピックに属する文を正解、それ以外のトピックに属する文を誤り、として各ＳＶＭに与えることによりＳＶＭ７４−１〜７４−Ｍのトレーニングが行なわれる。ＳＶＭのトレーニングには、一般に入手可能なＳＶＭツールを用いることができる。

トレーニングが済むと、クラス分類器５２の各ＳＶＭ７４−１〜７４−Ｍは、自己が担当するトピックに属する文が入力されると１、それ以外の場合には０となる信頼度尺度を出力するようになる。

‐ドメイン検証器５６のトレーニング‐
クラス分類器５２の各ＳＶＭのトレーニングが終了すると、ドメイン検証器５６のトレーニングが可能になる。

トレーニング制御部６０は、まず１番目のトピックを選択し、これを一時的なＯＯＤとし、残りの第２〜第Ｍのトピックをドメイン内とする。そして、発話セット２０に含まれる発話の各々を、第１〜第ＭのＳＶＭ７４−１〜７４−Ｍに対して与える。第１〜第ＭのＳＶＭ７４−１〜７４−Ｍは、これに対してそれぞれ信頼度尺度を出力する。

信頼度ベクトル算出部６２は、第１〜第ＭのＳＶＭ７４−１〜７４−Ｍから出力される信頼度尺度からなる信頼度ベクトルを発話ごとに生成し、その発話が第１のトピックに属するか否かを示す情報とともに係数算出部６４に与える。

係数算出部６４は、信頼度ベクトル算出部６２から与えられる全ての発話に対する信頼度ベクトルと、それぞれの発話が第１のトピックに属するか否かを示す情報とに基づき、ＧＰＤにより第１のトピックに関するＭ−１個の重みλ₁₂〜λ_1Mを算出し係数平均部６６に与える。

次にトレーニング制御部６０は、２番目のトピックを選択し、これを一時的なＯＯＤとし、残りのトピックの発話データをドメイン内データとして第１〜第ＭのＳＶＭ７４−１〜７４−Ｍに与える。第１のトピックの場合と同様に、クラス分類器５２、信頼度ベクトル算出部６２、及び係数算出部６４を用い、第２のトピックに関するＭ−１個の重みλ₂₁，λ₂₃，…，λ_2Mを算出し係数平均部６６に与える。

トレーニング制御部６０は、以下同様にして第３〜第Ｍのトピックの各々に関して、当該トピックに対応する重みを除くＭ−１個の重みを算出し係数平均部６６に与える。

係数平均部６６は、ドメイン検証器トレーニング部５４による重みの計算が終了すると、１≦ｉ≦Ｍの全てのｉに関して、重みλ_ij（１≦ｊ≦Ｍ，ｉ≠ｊ）の合計を計算し、さらにその和をＭ−１で除算することにより、平均の重みλ_i（１≦ｉ≦Ｍ）を算出する。この重みλ_iを全て算出することでドメイン検証器５６のトレーニングが終了したことになる。

‐ドメイン外判定装置３６の動作‐
マイクロフォン３０により入力された音声に対し、音声認識装置３２がドメイン依存モデル３４を用いて音声認識を行ない、音声認識結果の発話データをテキスト形式で特徴ベクトル作成部１８０に与える。ドメイン依存モデル３４のドメインは、信頼度ベクトル作成部１８２及びドメイン検証部１８４のクラス分類器２６及びドメイン検証器２４がトレーニングを行なった際のドメインと一致しているものとする。

特徴ベクトル作成部１８０は、入力されるテキストデータの１−、２−、及び３−グラムと品詞情報とからこの入力の特徴ベクトルを作成し信頼度ベクトル作成部１８２に与える。

信頼度ベクトル作成部１８２は、与えられた特徴ベクトルを各ＳＶＭに与えることにより、トピックごとの信頼度尺度を要素とする信頼度ベクトルを作成しドメイン検証部１８４に与える。

ドメイン検証部１８４は、与えられた信頼度ベクトルをドメイン検証部１８４に含まれるドメイン検証器２４に与える。従ってドメイン検証部１８４は、前述したとおり、入力がドメイン依存モデル３４のドメイン外であれば０、ドメイン内であれば１をそれぞれ出力し検証結果処理部１８６に与える。

検証結果処理部１８６は、ドメイン検証部１８４の出力が１であれば応答装置３８を制御して、音声認識の結果に対応した適切な応答を出力させる。一方、ドメイン検証部１８４の出力が０であればドメイン外警告部４０に対し、警告を出力する。ユーザは、ドメイン外警告を受けた場合にはその問に対する答えを得ることを直ちにあきらめるであろう。ユーザが、何度も発音しなおしたりすることがなくなり、ユーザの不満が大きくなることを防止できる。

また、ドメイン検証器５６のトレーニングには、ドメイン内の発話データしか必要としない。ドメイン外のデータという、収集が困難なデータを用いなくても、ドメイン外か否かの判定を行なうことができ、システムを実現する上での困難が解消される。

［変形例］
上記した実施の形態の装置では、ＳＶＭへの入力など、発話の特徴ベクトルとして１−，２−，及び３−グラムと品詞情報とからなるものを用いた。しかし本発明はそのようなものに限定されるわけではない。例えば、１−グラムのみ、２−グラムのみ、４−グラム以上、及びそれらの任意の組合わせ、並びにそれらと品詞情報との組合わせ等も用いることができる。

さらに、単語としては、単語の原形のみ、単語の表層構造等を用いることもできる。さらに、単語の変種を含ませることも可能である。

また、上記実施の形態では、トピッククラスの分類にＳＶＭを用いている。しかし本発明はそのような実施の形態に限定されるわけではない。例えば、トピック依存の単語Ｎ−グラム、又はＬＳＡ（Ｌａｔｅｎｔ Ｓｅｍａｎｔｉｃ Ａｎａｌｙｓｉｓ：潜在意味分析）等の手法を用いることもできる。

さらに、上記した実施の形態の手法ではトピックにより明確な判定が困難な場合が生ずることもあり得る。そうした場合には、そのトピックに特化した検証装置を作成し使用することもできる。例えば、上記した実施の形態でのドメイン内検証モデル（ドメイン内検証関数）Ｇin-domain（Ｘ）ではうまくモデル化できないようなトピックが存在した場合には、そのトピック専用の関数を付加してもよい。その場合には、その関数の重みを、当該トピックをよく検出できるようにトレーニングする必要がある。

ドメイン検証では、トピック専用の関数が存在する場合には最初に最も入力文が属する信頼度が高いトピックを求め、そのトピックに対し専用の検証用の関数を適用する。それ以外の場合には、式（１）を適用する。

［実験］
上記したような種々の条件を組合わせて、ドメイン検証の実験を行なった。実験には、出願人において準備したコーパスを用いた。このコーパスの概略構成についてテーブル１に示す。

ここで、ＷＥＲは単語誤り率、ＳＥＲは文誤り率、ＯＯＶは語彙外を示す。

この実験では、音声翻訳システムにおいて「ショッピング」をＯＯＤとした。１１のドメイン内トピックを用いて、音声認識のための言語モデル及びトピッククラス分類器をトレーニングした。

ドメイン内テストセット及びドメイン外テストセットに対する認識結果をテーブル２に示す。

表２から分るように、ドメイン内データセットと比較するとＯＯＤデータセットは誤り率及び語彙外率はいずれも高くなっているが、発話の半数以上が正しく認識されている。これは、ドメイン全体に対応した言語モデルを音声認識において使用しているためである。これから、ＯＯＤセットがドメイン内タスクに関連しており、その結果それらの間の区別は困難であろうと思われる。

システム性能は以下の基準により測定した。

ＦＲＲ（Ｆａｌｓｅ Ｒｅｊｅｃｔｉｏｎ Ｒａｔｅ）：ＯＯＤに分類されたドメイン外の発話の率
ＦＡＲ（Ｆａｌｓｅ Ａｃｃｅｐｔａｎｃｅ Ｒａｔｅ）：ドメイン内に分類されたＯＯＤの発話の率
ＥＥＲ（Ｅｑｕａｌ Ｅｒｒｏｒ Ｒａｔｅ）：ＦＲＲとＦＡＲとが等しくなった点における誤り率
また、テーブル３に、トピッククラス分類に関して上記した種々の方式、及び発話の特徴ベクトルに関して前述した種々のフォーマットに関するトピック分類の性能について示す。

テーブル３から分るように、トピッククラス分類器としてＳＶＭを用い、特徴ベクトルとして語＋ＰＯＳの１，２，３−グラムを用いた場合が最も低いＥＲＲを示した。次に説明するＯＯＤ検証においては、ＳＶＭを用い、語＋ＰＯＳ及び１，２，３−グラムからなる特徴ベクトルを用いた実験を行なった。

実験では、全てのＳＶＭの判定結果が否のときに発話がＯＯＤと判定するベースラインシステムと、上記した実施の形態に示したようにドメイン内のデータのみを用いてドメイン検証のトレーニングした装置（提案方式）と、ドメイン内データだけでなく、ＯＯＤデータも用いてドメイン検証のトレーニングを行なったもの（参照方式）とを用い、結果の比較を行なった。その結果、ＥＥＲにおいてベースラインシステムでは２７．７％、参照システムが２１．２％であるのに対し、本発明の実施の形態に係るシステムではＥＥＲ＝１９．６％となった。すなわち、ベースラインシステムに対しＥＥＲにして６．５ポイントの改善を示す一方、参照システムとほぼ同等のＥＥＲを示した。本実施の形態に係るシステムでは、領域内発話データしか用いずにドメイン検証のトレーニングを行なったのであるから、この結果は十分に高いものということができる。

なお、上記した実施の形態に係るドメイン判定学習ユニット２２（図１参照）は、通常のハードウェア構成及びオペレーティングシステムを備えたコンピュータ上で実行されるプログラムにより実現可能である。当該プログラムには、上記したドメイン判定学習ユニット２２の機能を実現するために必要な全ての命令を含んでいる必要はなく，例えばオペレーティングシステムに備えられている命令を呼び出すことにより、所望の機能を実現するものでものよい。すなわち、コンピュータのハードウェア及びソフトウェア資源を利用して上記したドメイン判定学習ユニット２２の各機能を実現するものであればよい。

また、図１に示す音声応答システム２８及びそこで使用されるドメイン外判定装置３６もマイクロフォン３０及び音声処理専用のボードを除き、一般的な構成のコンピュータ及びソフトウェアにより実現可能である。

そして、そうしたプログラムによりプログラムされたコンピュータは、本発明に係るドメイン検証器のトレーニング装置又はドメイン検証装置となる。

今回開示された実施の形態は単に例示であって、本発明が上記した実施の形態のみに制限されるわけではない。本発明の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味および範囲内でのすべての変更を含む。

本発明の第１の実施の形態に係るドメイン外判定装置を用いた音声応答システムの概略構成を示すブロック図である。 本発明の第１の実施の形態に係るドメイン判定学習ユニット２２のブロック図である。 本発明の第１の実施の形態に係るドメイン判定学習ユニット２２のクラス分類器トレーニング部５０によるトレーニング処理のアルゴリズムを示すフローチャートである。 本発明の第１の実施の形態に係るドメイン判定学習ユニット２２のドメイン検証器トレーニング部５４によるトレーニング処理のアルゴリズムを示すフローチャートである。 本発明の第１の実施の形態に係るドメイン判定学習ユニット２２のドメイン検証器５６によるドメイン判定の原理を示す図である。 本発明の第１の実施の形態に係るドメイン外判定装置３６のブロック図である。 ドメイン外判定装置３６を含む音声応答システム２８により実行される処理のアルゴリズムを示すフローチャートである。

符号の説明

２０ 発話セット、２２ ドメイン判定学習ユニット、２４ ドメイン検証器、２６ クラス分類器、２８ 音声応答システム、３０ マイクロフォン、３２ 音声認識装置、３４ ドメイン依存モデル、３６ ドメイン外判定装置、３８ 応答装置、４０ ドメイン外警告部、５０ クラス分類器トレーニング部、５２ クラス分類器、５４ ドメイン検証器トレーニング部、５６ ドメイン検証器、６０ トレーニング制御部、６２ 信頼度ベクトル算出部、６４ 係数算出部、６６ 係数平均部、７０−１〜Ｍ 発話セット、７２−１〜Ｍ ＳＶＭトレーニング部、１８０ 特徴ベクトル作成部、１８２ 信頼度ベクトル作成部、１８４ ドメイン検証部、１８６ 検証結果処理部

Claims (7)

1. 複数のトピックに分類された、一つのドメインに属する機械可読なドメイン内データを記憶するための手段と、
   前記ドメイン内データの前記複数のトピックの一つがそれぞれ割り当てられ、トレーニングデータが自己に割り当てられたトピックに属するか否かを判定するようにトレーニング可能な複数のトピック判定手段と、
   前記ドメイン内データをトレーニングデータとして用い、前記複数のトピック判定手段をトレーニングするための第１のトレーニング手段と、
   与えられる入力データが所定のドメインに属するか否かを検証するためのドメイン検証器と、
   前記第１のトレーニング手段によりトレーニングされた前記複数のトピック判定手段と前記ドメイン内データとを用いて、与えられる入力データが前記ドメイン内データのドメインに属するか否かを前記ドメイン検証器が判定可能となるように、前記ドメイン検証器をトレーニングするための第２のトレーニング手段とを含み、
   前記第２のトレーニング手段は、
   前記複数のトピックのうちのｊ番目（ｊは自然数）の一つを選択してドメイン外に設定するためのトピック選択手段と、
   前記トピック選択手段によりドメイン外に設定されたトピックに対応する前記トピック判定手段を除く、残りのトピック判定手段に対し、前記ドメインに属するトレーニングデータを与え、トレーニングデータごとに前記複数のトピック判定手段による判定結果を、各トピックに属すると判定される信頼度尺度として得るための手段と、
   前記判定結果を得る手段により得られた前記残りのトピック判定手段による判定結果と、前記トレーニングデータが属するトピックを示す情報とに基づいて、次式で表されるドメイン検証関数Ｇin-domain（Ｘ）
   

   

   によって、トレーニングデータが前記ドメイン外に設定されたトピックに属するか否かを判定できるように、前記ドメイン内検証関数Ｇin-domain（Ｘ）の係数λ _ij （１≦ｊ≦Ｍ，ｊ≠ｉ）の値を確率降下法により算出するための係数算出手段と、
   前記複数のトピックの各々が全て一度ずつ選択されるように前記トピック選択手段、前記判定結果を得るための手段、及び前記係数算出手段が繰返し動作するよう制御するための制御手段と、
   前記制御手段による繰返しの結果、各トピックに対して算出された前記ドメイン内検証関数Ｇin-domain（Ｘ）の係数λ _ij （１≦ｊ≦Ｍ，ｊ≠ｉ）の平均値λ _i （１≦ｉ≦Ｍ）を算出するための平均算出手段と、
   前記平均算出手段により算出された係数λ _i （１≦ｉ≦Ｍ）を前記ドメイン検証器のパラメータに設定するための手段とを含む、ドメイン検証器のトレーニング装置。
2. 前記複数のトピック判定手段の各々は、トレーニングデータ及び当該トレーニングデータが自己に割り当てられたトピックに属するか否かを示す情報が与えられると、入力データが自己に割り当てられたトピックに属するか否かを判定するようにトレーニング可能なサポートベクターマシン（ＳＶＭ）を含む、請求項１に記載のドメイン検証器のトレーニング装置。
3. 前記ＳＶＭは、入力データが自己に割り当てられたトピックに属するか否かを示す情報を、所定範囲に正規化された数値として出力する、請求項２に記載のドメイン検証器のトレーニング装置。
4. 前記ＳＶＭは、入力データが自己に割り当てられたトピックに属するか否かを示す情報を、前記所定範囲内の離散値として出力する、請求項３に記載のドメイン検証器のトレーニング装置。
5. コンピュータにより実行されると、当該コンピュータを請求項１〜請求項４のいずれかに記載のドメイン検証器のトレーニング装置として動作させる、コンピュータプログラム。
6. ドメイン内データの複数のトピックの一つがそれぞれ割り当てられ、入力データが自己に割り当てられたトピックに属する信頼度尺度を出力するようにトレーニングされた複数のトピック判定手段と、
   与えられる入力データが前記ドメインに属するか否かを、前記複数のトピック判定手段の出力する前記信頼度尺度の加重和をしきい値と比較することにより検証するためのドメイン検証器と、
   入力データを前記複数のトピック判定手段に与え、前記複数のトピック判定手段が出力した信頼度尺度を前記ドメイン検証器に入力するためのデータ入力手段とを含み、それによって、前記データ入力手段によるデータの入力に応答した前記ドメイン検出装置の出力は、前記入力データが前記ドメインに属するか否かを示す、ドメイン検証装置。
7. 複数のトピックに分類された、一つのドメインに属する機械可読なドメイン内データを記憶するための手段と、
   入力データが自己に割り当てられたトピックに属するか否かを判定するようにトレーニングされた複数のトピック判定手段と、
   与えられる入力データが所定のドメインに属するか否かを検証するためのドメイン検証器と、
   前記複数のトピック判定手段、及び前記ドメインに属する入力データを用いて、与えられる入力データが前記複数のトピック判定手段のトピックからなるドメインに属するか否かを前記ドメイン検証器が判定可能となるように、前記ドメイン検証器をトレーニングするためのトレーニング手段とを含む、ドメイン検証器のトレーニング装置であって、
   前記トレーニング手段は、
   前記複数のトピックのうちのｊ番目（ｊは自然数）の一つを選択してドメイン外に設定するためのトピック選択手段と、
   前記トピック選択手段によりドメイン外に設定されたトピックに対応する前記トピック判定手段を除く、残りのトピック判定手段に対し、前記ドメインに属するトレーニングデータを与え、トレーニングデータごとに前記複数のトピック判定手段による判定結果を、各トピックに属すると判定される信頼度尺度として得るための手段と、
   前記判定結果を得る手段により得られた前記残りのトピック判定手段による判定結果と、前記トレーニングデータが属するトピックを示す情報とに基づいて、次式で表されるドメイン検証関数Ｇin-domain（Ｘ）
   

   

   によって、トレーニングデータが前記ドメイン外に設定されたトピックに属するか否かを判定できるように、前記ドメイン内検証関数Ｇin-domain（Ｘ）の係数λ _ij （１≦ｊ≦Ｍ，ｊ≠ｉ）の値を確率降下法により算出するための係数算出手段と、
   前記複数のトピックの各々が全て一度ずつ選択されるように前記トピック選択手段、前記判定結果を得るための手段、及び前記係数算出手段が繰返し動作するよう制御するための制御手段と、
   前記制御手段による繰返しの結果、各トピックに対して算出された前記ドメイン内検証関数Ｇin-domain（Ｘ）の係数λ _ij （１≦ｊ≦Ｍ，ｊ≠ｉ）の平均値λ _i （１≦ｉ≦Ｍ）を算出するための平均算出手段と、
   前記平均算出手段により算出された係数λ _i （１≦ｉ≦Ｍ）を前記ドメイン検証器のパラメータに設定するための手段とを含む、ドメイン検証器のトレーニング装置。

Images