JP2006011592A - 情報処理装置および情報処理方法、プログラム、並びに記録媒体 - Google Patents

Abstract

【課題】禁止用語を含む文を出力することを防止する。
【解決手段】 分割部８１は、入力された文を単語に分割する。単語リスト記憶部８３は、文中での使用を許可する単語を記憶する。文削除部８２は、分割部８１から供給される文のすべての単語が、単語リスト記憶部８３に記憶される文中での使用を許可する単語である場合、その文を出力する。本発明は、例えば、対話を行うロボット装置の対話の応答文の作成に利用される入出力ペア（の出力例）の取捨選択に適用することができる。
【選択図】図３

Description

本発明は、情報処理装置および情報処理方法、プログラム、並びに記録媒体に関し、特に、禁止用語を含む文を出力することを防止することができるようにする情報処理装置および情報処理方法、プログラム、並びに記録媒体に関する。

音声で対話を行う音声対話システムでは、WEB（World Wide Web）上に存在するチャットの対話ログのデータなどを利用して、入力文に応答する応答文を作成することが可能である。例えば、音声対話システムは、チャットの対話ログの１番目の文をユーザからの発話のマッチングの対象となる入力例とし、２番目の文をその入力例に対する出力例として、入力例と出力例の入出力ペアを作成する。そして、ユーザからの発話が入力された場合、音声対話システムは、その発話に対して音声認識処理を行った結果の文字列を入力文として、その入力文と入力例とのマッチングを行い、最も類似する入力例と入出力ペアとなっている出力例を、ユーザからの発話に対する応答文として、合成音などにより出力する。

しかしながら、チャットの対話ログのデータには、応答文として好ましくない単語である禁止用語が含まれている可能性がある。従って、上述したように、チャットの対話ログのデータをそのまま用いて作成された入出力ペアの出力例を応答文として出力するのでは、応答文に禁止用語が含まれる危険性がある。禁止用語を含む応答文をする可能性がある音声対話システムが、例えば、親善大使として接客を行うQRIO（商標）などのロボットの音声対話システムとして採用された場合、禁止用語を含む応答文によって、相手の機嫌を損ねてしまい、親善大使としての役割を果たすことができなくなる可能性がある。

ここで、禁止用語とは、矯激、卑猥、差別的もしくは、他人に不快な印象を与えるような、公の秩序または善良の風俗を害するおそれがある単語である。

また、例えば、不特定のユーザによる書き込みが可能であり、その書き込んだ内容を誰でも閲覧することができる電子掲示板システムにおいて、禁止用語を含む文を掲示することを避けたいと考えるシステム管理者も存在する。

そこで、禁止用語を含む文の出力を防止する方法として、音声対話システムについては、入出力ペアをすべて人手で作成する方法があり、電子掲示板システムについては、他者が作成した文から禁止用語を含む文を、システム管理者が選択して除外する方法などがある。

しかしながら、例えば、広範囲で多種多様な対話を行う音声対話システムでは、膨大な数の入力文と出力文の入出力ペアを必要とするので、そのような膨大な数の入出力ペアをすべて人手で作成するには、莫大な時間と労力が必要となる。また、電子掲示板システムにおいて、他者が作成した文から禁止用語を含む文を、システム管理者が選択するのも、大変な時間と労力を必要とする。

そこで、禁止用語のリストを予め記憶し、そのリストに記憶された禁止用語（と同一の単語）を含む文以外の文を出力する電子掲示板システムがある（例えば、特許文献１参照）。
特開２００２−１８３０３３号公報

しかしながら、禁止用語は多種多様であり、漏れなくリストに含めることは困難である。従って、上述した電子掲示板システムでは、禁止用語を含む文を出力する可能性がある。

本発明は、このような状況に鑑みてなされたものであり、禁止用語を含む文を出力することを防止することができるようにするものである。

本発明の情報処理装置は、文中での使用を許可する単語を記憶する単語記憶手段と、文のすべての単語が、単語記憶手段に記憶される単語である場合、その文を出力する出力手段とを備えることを特徴とする。

この情報処理装置には、文中での使用を許可しない単語である禁止用語を記憶する禁止用語記憶手段と、文の単語のうち、単語記憶手段と禁止用語記憶手段のいずれにも記憶されていない単語を、単語記憶手段または禁止用語記憶手段に新たに記憶させる記憶制御手段とをさらに設けることができる。

情報処理装置には、文中での使用を許可しない単語である禁止用語を記憶する禁止用語記憶手段と、文が、単語記憶手段と禁止用語記憶手段のいずれにも記憶されていない単語を含む場合、その文を記憶する文記憶手段とをさらに設けることができる。

本発明の情報処理方法は、文のすべての単語が、文中での使用を許可する単語を記憶する単語記憶手段に記憶される単語である場合、その文を出力する出力ステップを含むことを特徴とする。

本発明のプログラムは、文のすべての単語が、文中での使用を許可する単語を記憶する単語記憶手段に記憶される単語である場合、その文を出力する出力ステップを含むことを特徴とする。

本発明の記録媒体に記録されているプログラムは、文のすべての単語が、文中での使用を許可する単語を記憶する単語記憶手段に記憶される単語である場合、その文を出力する出力ステップを含むことを特徴とする。

本発明においては、文中での使用を許可する単語を記憶し、文のすべての単語が、記憶されている単語である場合、その文を出力する。

本発明によれば、禁止用語を含む文を出力することを防止することができる。

以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。

さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。

請求項１に記載の情報処理装置は、
入力された文を出力する情報処理装置（例えば、図３の禁止文削除部７１）において、
文中での使用を許可する単語を記憶する単語記憶手段(例えば、図３の単語リスト記憶部８３)と、
前記文のすべての単語が、前記単語記憶手段に記憶される前記単語である場合、その文を出力する出力手段(例えば、図３の文削除部８２)と
を備えることを特徴とする。

請求項２に記載の情報処理装置は、
文中での使用を許可しない単語である禁止用語を記憶する禁止用語記憶手段(例えば、図６の禁止用語リスト記憶部９３)と、
前記文の単語のうち、前記単語記憶手段と前記禁止用語記憶手段のいずれにも記憶されていない前記単語を、前記単語記憶手段または前記禁止用語記憶手段に新たに記憶させる記憶制御手段(例えば、図６の文削除部９１)と
をさらに備える
ことを特徴とする。

請求項３に記載の情報処理装置は、
文中での使用を許可しない単語である禁止用語を記憶する禁止用語記憶手段(例えば、図８の禁止用語リスト記憶部９３)と、
前記文が、前記単語記憶手段と前記禁止用語記憶手段のいずれにも記憶されていない単語を含む場合、その文を記憶する文記憶手段(例えば、図８の自動判定不可能文リスト記憶部１０３)と
をさらに備える
ことを特徴とする。

請求項４に記載の情報処理方法は、
前記文のすべての単語が、文中での使用を許可する単語を記憶する単語記憶手段(例えば、図３の単語リスト記憶部８３)に記憶される前記単語である場合、その文を出力する出力ステップ(例えば、図５のステップＳ１４)
を含むことを特徴とする。

請求項５に記載のプログラムおよび請求項６に記載の記録媒体に記録されているプログラムは、
入力された文を出力する出力処理を、コンピュータに行わせるプログラムにおいて、
前記文のすべての単語が、文中での使用を許可する単語を記憶する単語記憶手段(例えば、図３の単語リスト記憶部８３)に記憶される前記単語である場合、その文を出力する出力ステップ(例えば、図５のステップＳ１４)
を含むことを特徴とする。

以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。

図１は、本発明を適用したロボット制御システムを備えた２足歩行型のロボットの外観構成例を示している。

ロボット１１は、胴体部ユニット２３の上部に頭部ユニット２１が配設されるとともに、胴体部ユニット２３の上部左右に同じ構成の腕部ユニット２２Ａと２２Ｂがそれぞれ配設され、かつ胴体部ユニット２３の下部左右に同じ構成の脚部ユニット２４Ａと２４Ｂがそれぞれ所定位置に取り付けられことにより構成されている。

また、頭部ユニット２１には、ロボット１１の「目」として機能するCCD（Charge Coupled Device）カメラ３１Ａと３１Ｂ、「耳」として機能するマイクロホン３２Ａと３２Ｂ、および「口」として機能するスピーカ３３がそれぞれ所定位置に配置されている。

図２は、図１のロボット１１の電気的構成例を示している。

ロボット制御システム５１の指令により、ユニット制御システム６１および対話制御システム６２は、ロボット１１の動作を制御する。即ち、ユニット制御システム６１は、ロボット１１の頭部ユニット２１、腕部ユニット２２Ａと２２Ｂ、胴体部ユニット２３、および脚部ユニット２４Ｂと２４Ｂのそれぞれを必要に応じて制御し、ロボット１１に所定の動作をさせる。また、対話制御システム６２は、ロボット１１の発話を制御し、必要に応じて、スピーカ３３から、所定の発話をさせる。

ここで、対話制御システム６２には、禁止文削除部７１が設けられている。禁止文削除部７１には、例えば、WEB上のチャットの対話ログのデータの中から、ユーザからの発話のマッチングの対象となる入力例に対する出力例が入力される。禁止文削除部７１は、入力された出力例のうち、禁止用語を含まない出力例のみを出力する。対話制御システム６２は、禁止文削除部７１から出力される出力例とそれに対応する入力例の入出力ペアを用いて、ユーザからの発話に対する応答文を生成し、対応する合成音を、スピーカ３３から出力させる。

図３は、図２の禁止文削除部７１の詳細構成例を示すブロック図である。

図３の禁止文削除部７１は、分割部８１、文削除部８２、および単語リスト記憶部８３から構成される。

分割部８１には、例えば、出力例である文が入力される。分割部８１は、文を単語単位に分割し、その結果得られる単語単位に分割された文を、文削除部８２に供給する。

文削除部８２は、単語リスト記憶部８３に記憶されている単語リストを読み出し、その単語リストに基づいて、分割部８１から供給される文から、出力を許可する文を選択して出力する。

単語リスト記憶部８３は、文中での使用を許可する単語、即ち、禁止用語以外の単語のリストである単語リストを記憶している。なお、単語リスト記憶部８３の単語リストには、禁止用語以外の単語のすべてが登録されている必要はない。また、単語リストに登録される単語の区切り方は、分割部８１が分割する単語の区切り方と同一である。

以上のように構成される禁止文削除部７１では、分割部８１が、入力された文を単語に分割して、文削除部８２に供給する。そして、文削除部８２が、単語リスト記憶部８３に記憶された単語リストに基づいて、分割部８１からの文から、出力を許可する文を選択して出力する。

図４は、図３の単語リスト記憶部８３に記憶されている単語リストの例を示している。

図４の単語リストには、文中での使用を許可する単語、即ち、禁止用語以外の単語である「また」、「そして」、「昨日」、「今日」、「明日」、「は」、「が」、「晴れ」、「曇り」、「雨」、「です」、「だ」、「、」、「。」、・・・が登録されている。

図３の文削除部８２は、図４の単語リストに登録されている単語「また」、「そして」、「昨日」、「今日」、「明日」、「は」、「が」、「晴れ」、「曇り」、「雨」、「です」、「だ」、「、」、「。」、・・・のみから構成される文を、出力を許可する文として、分割部８１からの文の中から選択して出力する。

図５は、図３の禁止文削除部７１が行う禁止文削除処理を説明するフローチャートである。この禁止文削除処理は、分割部８１に文が入力されたとき開始される。

ステップＳ１１において、分割部８１は、入力された文を単語単位に分割する。例えば、「昨日は晴れです。」という文が、分割部８１に入力された場合、分割部８１は、例えば、「昨日 は 晴れ です 。」のように単語単位に分割する。このように、文を単語に分割するプログラムは既にいくつか存在している。分割部８１は、以上のようにして単語単位に分割された文を文削除部８２に供給し、ステップＳ１２に進む。

ステップＳ１２において、文削除部８２は、分割部８１から供給される文の単語の１番目から順に、処理対象の処理単語とする。そして、文削除部８２は、処理単語が、単語リスト記憶部８３に記憶された単語リストに登録されているかどうかを判定する。

ステップＳ１２において、処理単語が単語リストに登録されていないと判定された場合、即ち、文が禁止用語以外の単語ではない単語、つまり、禁止用語であるかもしれない単語を含んでいる場合、文削除部８２は、ステップＳ１５に進み、その文を破棄して、処理を終了する。

例えば、単語リスト記憶部８３が図４の単語リストを記憶しており、「今日 は ×× です 。」という単語単位に分割された文が分割部８１から文削除部８２に供給された場合には、文を構成する単語のうち「今日」、「は」、「です」、「。」は、単語リストにあるが、「××」は、単語リストにないので、文削除部８２は、文「今日 は ×× です 。」を破棄し、出力しない。

以上のように、禁止用語以外の単語のリストである単語リストに登録されていない単語を含む文は破棄されるので、禁止用語、さらには、禁止用語かもしれない単語を含む文を出力することを防止することができる。

一方、ステップＳ１２において、処理単語が単語リストに登録されていると判定された場合、ステップＳ１３に進み、文削除部８２は、文のすべての単語を処理単語にしたかどうかを判定する。

ステップＳ１３において、文のすべての単語を、まだ処理単語にしていないと判定された場合、ステップＳ１２に戻り、文削除部８２は、文の単語のうち、まだ処理単語にしていない単語を、新たに処理単語として、上述した処理を繰り返す。

また、ステップＳ１３において、文のすべての単語を処理単語にしたと判定された場合、即ち、文のすべての単語が、禁止用語以外の単語である場合、ステップＳ１４に進み、文削除部８２は、その文を出力を許可する文として選択して出力し、処理を終了する。これにより、禁止用語以外の単語のみを含む文を出力することができる。

例えば、単語リスト記憶部８３が図４の単語リストを記憶しており、「昨日 は 晴れ です 。」という単語単位に分割された文が分割部８１から文削除部８２に供給された場合には、文を構成するすべての単語「昨日」、「は」、「晴れ」、「です」、「。」は、単語リストにあるので、文削除部８２は、文「昨日 は 晴れ です 。」を出力する。

また、単語リスト記憶部８３が図４の単語リストを記憶しており、「明日 は 曇り です 。」という単語単位に分割された文が分割部８１から文削除部８２に供給された場合には、文を構成するすべての単語「明日」、「は」、「曇り」、「です」、「。」は、単語リストにあるので、文削除部８２は、文「明日 は 曇り です 。」を出力する。

以上のように、単語リストに登録されている、禁止用語以外の単語のみを含む文を出力するようにしたので、禁止用語、さらには禁止用語かもしれない単語を含む文が出力されることを、容易に防止することができる。

即ち、禁止用語を登録し、禁止用語を含む文を破棄（削除）する場合、禁止用語を含む文の出力を確実に防止するには、禁止用語のすべてを登録する必要があるが、禁止用語のすべてを漏れなく登録するのは、容易ではない。

これに対して、禁止用語以外の単語のみを単語リストに登録し、禁止用語以外の単語のみを含む文を出力する場合には、禁止用語以外の単語ではない単語、即ち、禁止用語や禁止用語かもしれない単語を含む文の出力を、確実に防止することができる。

さらに、禁止用語以外の単語を登録する単語リストは、例えば、一般の新聞の電子データ、国語辞書や英和辞書等の電子データ、音声認識や機械翻訳用の辞書データなどの、禁止用語以外の単語だけの既存のデータから、容易に作成することができる。

なお、図２のロボット１１では、対話制御システム６２において、例えば、web上のチャットや電子掲示板などの対話ログから、入力例と出力例とからなる入出力ペアが作成され、その入出力ペアの出力例が、文として、禁止文削除部７１に入力される。そして、禁止削除部７１で破棄されずに出力された出力例と、対応する入力例との入出力ペアが対話に利用される。

即ち、対話制御システム６２では、ユーザによる発話が音声認識され、その音声認識結果としての文字列と、多数の入出力ペアの入力例それぞれとのマッチングが行われる。そして、例えば、音声認識結果としての文字列に最も類似する入力例と入出力ペアとなっている出力例に基づき、音声合成が行われ、その出力例に対応する合成音が、ユーザによる発話に対する応答として、スピーカ３３から出力される。

従って、ロボット１１の応答としての合成音に、禁止用語や禁止用語かもしれない単語が含まれることを、確実に防止することができる。

図６は、図２のロボット１１の禁止文削除部７１の他の構成例を示すブロック図である。

図６の禁止文削除部７１は、分割部８１、文削除部９１、単語リスト記憶部８３、禁止用語リスト記憶部９３、および禁止用語候補リスト記憶部９４から構成される。なお、図３の禁止文削除部７１と同一のものは、同一の符号を付してあり、繰り返しになるので説明は省略する。

文削除部９１は、図３の文削除部８２と同様に、単語リスト記憶部８３に記憶されている単語リストを読み出し、その単語リストに基づいて、分割部８１から供給される文から、出力を許可する文を選択して出力する。また、文削除部９１は、分割部８１から供給される文に基づいて、禁止用語候補リスト記憶部９４に記憶されている禁止用語候補リストに、禁止用語の候補となる禁止用語候補を登録する。ここで、文削除部９１は、図４の単語リストの単語と同様に、禁止用語候補リストに禁止用語候補を並べていく。さらに、文削除部９１は、禁止用語候補リスト記憶部９４から禁止用語候補を読み出し、単語リスト記憶部８３または禁止用語リスト記憶部９３に供給して記憶させる。

禁止用語リスト記憶部９３は、禁止用語のリストである禁止用語リストを記憶している。禁止用語リストには、図４の単語リストの単語と同様に、禁止用語が並べられている。また、禁止用語リスト記憶部９３は、文削除部９１から供給される禁止用語候補を、記憶している禁止用語リストに新たに登録（記憶）する。なお、禁止用語リストに登録される禁止用語である単語の区切り方は、分割部８１が分割する単語の区切り方と同一である。

禁止用語候補リスト記憶部９４は、文削除部９１から供給される禁止用語候補を、禁止用語候補のリストである禁止用語候補リストに登録(記憶)する。

図７は、図６の禁止文削除部７１が行う禁止文削除処理を説明するフローチャートである。この文削除処理は、分割部８１に文が入力されたとき開始される。

ステップＳ３１乃至Ｓ３３の処理は、図５のステップＳ１１乃至Ｓ１３と同様の処理であるので、説明は省略する。なお、ステップＳ３２において、文削除部９１が、処理単語が単語リストに登録されていないと判定した場合、ステップＳ３４に進む。

ステップＳ３４において、文削除部９１は、禁止用語リスト記憶部９３に記憶された処理単語が禁止用語リストに登録されているかどうかを判定する。ステップＳ３４において、処理単語が禁止用語リストに登録されていると判定された場合、ステップＳ３３に進む。

また、ステップＳ３４において、処理単語が禁止用語リストに登録されていないと判定された場合、即ち、処理単語が単語リストにも禁止用語リストにも登録されていない場合、文削除部９１は、ステップＳ３５に進み、処理単語を、禁止用語の候補である禁止用語候補として、禁止用語候補リスト記憶部９４に供給する。そして、禁止用語候補リスト記憶部９４は、文削除部９１からの処理単語を、禁止用語候補として、禁止用語候補リストに登録して、ステップＳ３３に進む。

ステップＳ３３では、図５のステップＳ１３と同様に、文のすべての単語を、処理単語にしたかどうかが判定され、文のすべての単語を、処理単語にしたと判定された場合、ステップＳ３６に進み、文削除部９１は、禁止用語候補リスト記憶部９４から禁止用語候補リストを読み出し、例えばユーザからの指示に基づいて、その禁止用語候補リストに登録されている禁止用語候補を、単語リスト記憶部８３または禁止用語リスト記憶部９３に供給する。ここで、ユーザは、禁止用語候補リストの禁止用語候補が、禁止用語であるかどうかを判断し、禁止用語であると判断した場合、禁止用語リスト記憶部９３にその禁止用語候補を供給するように指示を行い、禁止用語ではないと判断した場合、単語リスト記憶部８３にその禁止用語候補を供給するように指示を行う。

単語リスト記憶部８３は、文削除部９１から禁止用語候補が供給された場合、その禁止用語候補を、禁止用語でない単語として単語リストに新たに登録する。また、禁止用語リスト記憶部９３は、文削除部９１から禁止用語候補が供給された場合、その禁止用語候補を、禁止用語として、禁止用語リストに新たに登録する。

なお、禁止用語候補リストの禁止用語候補は、例えば、合成音によって、あるいは図示せぬディスプレイによって、ユーザに提示される。そして、ユーザは、例えば、音声によって、あるいは図示せぬキーボードを操作することによって、禁止用語候補を、単語リスト記憶部８３または禁止用語リスト記憶部９３のいずれに供給するかを指示する。

その後、ステップＳ３６からステップＳ３７に進み、文削除部９１は、文のすべての単語が単語リストに登録されていたかどうか、即ちすべての処理単語において、ステップＳ３２とＳ３３の処理が行われたかどうかを判定する。

ステップＳ３７において、文のすべての単語が単語リストに登録されていたと判定された場合、即ち、文のすべての単語が禁止用語以外の単語である場合、文削除部９１は、ステップＳ３８に進み、その文を出力を許可する文として選択して出力し、処理を終了する。

一方、ステップＳ３７において、文のすべての単語が単語リストに登録されていたのではないと判定された場合、即ち、文が禁止用語以外の単語ではない単語、つまり、禁止用語であるかもしれない単語を含んでいる場合、文削除部９１は、ステップＳ３９に進み、その文を破棄して、処理を終了する。

以上のように、禁止文削除部７１は、分割部８１から供給される文から、出力を許可する文を選択しつつ、単語リスト記憶部８３の単語リストまたは禁止用語リスト記憶部９３の禁止用語リストに、新たな単語を登録することができる。従って、禁止文削除部７１は、その単語リストに基づいて、出力を許可する文を選択することにより、図３の禁止文削除部７１に比べて、より多くの単語リストに登録されている単語のみを含む文、即ち禁止用語を含まない文を出力することができる。

なお、図７のステップＳ３７において、文削除部９１は、文のすべての単語が単語リストに登録されているかどうかではなく、文のすべての単語が禁止用語リストに登録されているかどうかを判定し、禁止用語リストに登録されていない場合、ステップＳ３８に進み、禁止用語リストに登録されている場合、ステップＳ３９に進むようにすることもできる。

例えば、文削除部９１が、単語リスト記憶部８３の単語リストに基づいて出力を許可する文を選択する場合、単語リストに登録されている単語のみから構成される文が、出力を許可する文として選択されるので、基本的に、禁止用語リスト記憶部９３の禁止用語リストに基づいて出力を許可する文を選択する場合に比べて、条件が厳しくなる。従って、禁止用語を含む文の出力を確実に防止したい場合、文削除部９１においては、単語リストに基づいて、出力を許可する文を選択するようにすればよい。

一方、文削除部９１が、禁止用語リストに基づいて出力を許可する文を選択する場合、禁止用語リストに登録されている単語を含まない文が、出力を許可する文として選択されるので、基本的に、単語リストに基づいて出力を許可する文を選択する場合に比べて、条件が緩くなる。従って、最低限の禁止用語を含む文の出力を防止しつつ、より多くの文を出力したい場合、文削除部９１では、禁止用語リストに基づいて、出力を許可する文を選択するようにすればよい。

なお、例えば、ユーザの指示により、単語リストと禁止用語リストのいずれに基づいて、文削除部９１に出力を許可する文を選択させるかを設定することができる。

図８は、図２のロボット１１の禁止文削除部７１のさらに他の構成例を示すブロック図である。

図８の禁止文削除部７１は、分割部８１、単語リスト記憶部８３、文削除部１０１、禁止用語リスト記憶部９３、および自動判定不可能文リスト記憶部１０３から構成される。なお、図３または図６の禁止文削除部７１と同一のものは、同一の符号を付してあり、繰り返しになるので説明は省略する。

文削除部１０１は、単語リスト記憶部８３に記憶されている単語リストと、禁止用語リスト記憶部９３に記憶されている禁止用語リストを読み出し、その単語リストと禁止用語リストに基づいて、分割部８１から供給される文から、出力を許可する文を選択し、出力する。また、文削除部１０１は、分割部８１から供給される文のうち、単語リストに登録されている単語以外の単語を含み、かつ禁止用語リストに登録されている単語以外の単語を含む文を、出力を許可する文として選択するかどうかの自動判定が不可能な文である自動判定不可能文として、自動判定不可能文リスト記憶部１０３に供給する。

自動判定不可能文リスト記憶部１０３は、文削除部１０１から供給される自動判定不可能文を、自動判定不可能文のリストである自動判定不可能文リストに登録（記憶）する。ここで、自動判定不可能文リスト記憶部１０３は、図４の単語リストの単語と同様に、自動判定不可能文リストに自動判定不可能文を並べていく。

図９は、図８の禁止文削除部７１が行う禁止文削除処理を説明するフローチャートである。この禁止文削除処理は、分割部８１に文が入力されたとき開始される。

ステップＳ５１乃至Ｓ５４の処理は、図５のステップＳ１１乃至Ｓ１４と同様の処理であるので、説明は省略する。なお、図９のステップＳ５２では、文削除部１０１が、処理単語が単語リストに登録されていないと判定した場合、ステップＳ５５に進む。

ステップＳ５５において、文削除部１０１は、処理単語が禁止用語リスト記憶部９３に記憶された禁止用語リストに登録されているかどうかを判定し、処理単語が禁止用語リストに登録されていないと判定した場合、即ち、文が単語リストにも禁止用語リストにも登録されていない単語を含んでいる場合、ステップ５６に進み、文削除部１０１は、その文を、出力を許可する文として選択するかどうかの自動判定が不可能な文である自動判定不可能文として、自動判定不可能文リスト記憶部１０３に供給する。そして、自動判定不可能文リスト記憶部１０３は、文削除部１０１からの自動判定不可能文を、自動判定不可能文リストに登録し、処理を終了する。

また、ステップＳ５５において、処理単語が禁止用語リストに登録されていると判定された場合、即ち文が禁止用語を含んでいる場合、文削除部１０１は、ステップＳ５７に進み、その文を破棄し、処理を終了する。

図９の禁止文削除処理が行われた後、例えば、ユーザは、自動判定不可能文リスト記憶部１０３に記憶されている自動判定不可能文が、禁止用語を含んでいるかどうかを判断し、禁止用語を含んでいないと判断した場合、文削除部１０１にその自動判定不可能文を出力するように指示する。文削除部１０１は、ユーザの指示にしたがって、自動判定不可能文リスト記憶部１０３に記憶されている自動判定不可能文のうち、禁止用語を含んでいない自動判定不可能文を出力する。

図９の禁止文削除処理を行うことにより、ユーザは、単語リストおよび禁止用語リストのいずれにも登録されていない単語を含む文のみについて、禁止用語を含んでいるかどうか判断し、出力の有無を指示すればよいので、すべての文を判断する場合に比べて、ユーザの労力を軽減することができる。

なお、自動判定不可能文リストの自動判定不可能文は、例えば、合成音によって、あるいは図示せぬディスプレイによって、ユーザに提示される。そして、ユーザは、例えば、音声によって、あるいは図示せぬキーボードを操作することによって、自動判定不可能文を、出力するかどうかを指示する。

図１０は、図２のロボット１１の禁止文削除部７１のさらに他の構成例を示すブロック図である。

図１０の禁止文削除部７１は、分割部８１、単語リスト記憶部８３、禁止用語リスト記憶部９３、禁止用語候補記憶部９４、および自動判定不可能文リスト記憶部１０３から構成される。なお、図６の禁止文削除部７１や図８の禁止文削除部７１と同一のものは、同一の符号を付してあり、繰り返しになるので説明は省略する。

文削除部１２１は、図６の文削除部９１と同様に、分割部８１から供給される文に基づいて、禁止用語候補リスト記憶部９４に記憶されている禁止用語候補リストに、禁止用語の候補となる禁止用語候補を登録する。また、文削除部１２１は、図８の文削除部１０１と同様に、単語リスト記憶部８３に記憶されている単語リストと、禁止用語リスト記憶部９３に記憶されている禁止用語リストとを読み出し、その単語リストと禁止用語リストに基づいて、分割部８１から供給される文から、出力を許可する文を選択し、出力する。さらに、文削除部１２１は、分割部８１から供給される文のうち、単語リストに登録されている単語以外の単語を含み、かつ禁止用語リストに登録されている単語以外の単語を含む文を、自動判定不可能文として、自動判定不可能文リスト記憶部１０３に供給する。

図１１は、図１０の禁止文削除部７１が行う禁止文削除処理を説明するフローチャートである。この禁止文削除処理は、分割部８１に文が入力されたとき開始される。

ステップＳ６１乃至Ｓ６５，Ｓ６９の処理は、図９のステップＳ５１乃至Ｓ５５，Ｓ５７の処理と同一であるので、説明は省略する。なお、ステップＳ６５では、文削除部１２１が、処理単語が禁止用語リストに登録されていないと判定した場合、ステップＳ６６に進む。

ステップＳ６６において、文削除部１２１は、処理単語が、禁止用語候補リスト記憶部９４に記憶された禁止用語候補リストに登録されているかどうかを判定する。

ステップＳ６６において、処理単語が、禁止用語候補リストに登録されていないと判定された場合、ステップＳ６７に進み、文削除部１２１は、処理単語を、禁止用語候補として、禁止用語候補リスト記憶部９４に供給する。そして、禁止用語候補リスト記憶部９４は、文削除部１２１からの禁止用語候補を、禁止用語候補リストに登録し、ステップＳ６８に進む。

一方、ステップＳ６６において、処理単語が、禁止用語候補リストに登録されていると判定された場合、ステップＳ６８に進む。ステップＳ６８において、文が単語リストにも禁止用語リストにも登録されていない単語を含んでいるので、文削除部１２１は、その文を、自動判定が不可能な文である自動判定不可能文として、自動判定不可能文リスト記憶部１０３に供給する。そして、自動判定不可能文リスト記憶部１０３は、文削除部１２１からの自動判定不可能文を、自動判定不可能文リストに登録し、処理を終了する。

図１１の禁止文削除処理が行われた後、文削除部１２１は、図６の文削除部９１と同様に、例えば、ユーザの指示により、禁止用語候補リスト記憶部９４に記憶されている禁止用語候補を、単語リスト記憶部８３の単語リストまたは禁止用語リスト記憶部９３の禁止用語リストに新たに登録させる。

また、文削除部１２１は、図８の文削除部１０１と同様に、例えば、ユーザの指示により、自動判定不可能文リスト記憶部１０３に記憶されている自動判定不可能文のうち、禁止用語を含んでいない自動判定不可能文を出力する。

図１２は、図１０の禁止文削除部７１が行う禁止文削除処理を説明する他のフローチャートである。この禁止文削除処理は、分割部８１に文が入力されたとき開始される。

なお、図１２では、処理単語が単語リストに登録されていない単語であると判定された場合においても、文のすべての単語を処理単語として処理が行われる。

ステップＳ７１乃至Ｓ７７の処理は、図１１のステップＳ６１，Ｓ６２，Ｓ６５乃至Ｓ６８と同様の処理であるので、説明は省略する。

ステップＳ７２、ステップＳ７３またはステップＳ７６の処理後は、ステップＳ７７に進み、文のすべての単語を処理単語にしたかどうかを判定し、文のすべての単語を、まだ処理単語にしていないと判定された場合、ステップＳ７２に戻り、文削除部１２１は、文の単語のうち、まだ処理単語とされていない単語を、新たに処理単語とし、上述した処理を繰り返す。

このように、処理単語がどのような単語であっても、すべての単語を処理単語とするまで、ステップＳ７２乃至Ｓ７６の処理を行うので、処理単語が単語リストに登録されている単語以外の単語である場合に、処理を終了する図１１の禁止文削除処理に比べて、禁止用語候補リストに登録される単語を増加させることができる。従って、図１２の禁止文削除処理が行われた後、図１１の禁止文削除処理の場合と同様に、例えば、ユーザの指示にしたがい、文削除部１２１が、禁止用語候補リストの禁止用語候補を単語リスト記憶部８３の単語リストまたは禁止用語リスト記憶部９３の禁止用語リストに登録させることにより、単語リストまたは禁止用語リストに登録される単語を増加させることができる。これにより、単語リストと禁止用語リストに登録されていない単語を含む文である自動判定不可能文が軽減するので、ユーザの労力を軽減することができる。

一方、ステップＳ７７において、すべての単語を処理単語にしたと判定された場合、文削除部１２１は、ステップＳ７８に進み、すべての単語が単語リストに登録されていたかどうか、即ち、すべての処理単語においてステップＳ７２とＳ７７の処理が行われたかどうかを判定する。

ステップＳ７８において、すべての単語が単語リストに登録されていたと判定された場合、即ち、文が単語リストに登録されている単語のみから構成される場合、ステップＳ７９に進み、文削除部１２１は、その文を、出力を許可する文として選択して出力する。

また、ステップＳ７８において、すべての単語が単語リストに登録されていないと判定された場合、即ち、文が単語リストに登録されている単語以外の単語を含んでいる場合、ステップＳ８０に進み、文削除部１２１は、その文を破棄して、処理を終了する。

図１２の禁止文削除処理が行われた後、文削除部１２１は、図１１の禁止文削除処理が行われた後と同様に、禁止用語候補リスト記憶部９４に記憶されている禁止用語候補を、単語リスト記憶部８３の単語リストまたは禁止用語リスト記憶部９３の禁止用語リストに登録させる。また、文削除部１２１は、自動判定不可能文リスト記憶部１０３に記憶されている自動判定不可能文のうち、禁止用語を含んでいない自動判定不可能文を出力する。

なお、上述の説明において、文とは一文に限定されるものではない。例えば、茶筅などの単語分割のソフトウェアが分割部８１の単語分割処理を実行する場合、複数の文を同時に単語に分割することができる。また、文が一文ではない場合、分割部８１は、例えば文を、句点「。」の前後で区切ることにより、一文ごとに分割して単語分割を行うようにすることもできる。

また、上述の説明において、単語とは、上述した処理において、１つのまとまりとして扱った方がよい単位のことであり、言語学的な単語とは必ずしも一致しない。

さらに、図２の禁止文削除部７１は、ロボット１１とは別の装置とし、その別の装置である禁止文削除部７１が出力する文である出力例と、対応する入力例との入出力ペアを、対話制御システム６２に登録して、応答文の作成に利用することができる。

また、禁止文削除部７１は、インターネット上のチャットや掲示板の対話ログを、適宜、無線または有線での通信によって収集して、入出力ペアを更新することができる。

さらに、本発明は、対話の応答文の作成に利用される入出力ペア（の出力例）の取捨選択の他、掲示板に投稿されたメッセージの取捨選択などに適用可能である。

また、文や単語の言語は、日本語に限定されない。

さらに、図６、図８、および図１０の単語リスト記憶部８３の単語リストには、文中での使用を許可する単語が、禁止用語リスト記憶部９３の禁止用語リストには禁止用語が、予め登録されているようにしたが、単語リストや禁止用語リストには、予め何も記憶しないようにする（空にしておく）こともできる。また、単語リストには、文中での使用を許可する単語のうちの一部を、禁止用語リストには、禁止用語のうちの一部を予め登録するようにすることもできる。

また、単語リストや禁止用語リストに単語が十分に登録された場合、図６（図８、図１０）の文削除部９１（１０１、１２１）は、単語リストや禁止用語リストに単語を登録しないようにすることもできる。この場合、文削除部９１（１０１、１２１）は、既に単語リストや禁止用語リストに登録されている単語に基づいて、文を出力を許可する文として選択するかどうかを判定する。

次に、上述した一連の処理は、専用のハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。

そこで、図１３は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。

プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク２０５やROM２０３に予め記録しておくことができる。

あるいはまた、プログラムは、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)，MO(Magneto Optical)ディスク，DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体２１１に、一時的あるいは永続的に格納（記録）しておくことができる。このようなリムーバブル記録媒体２１１は、いわゆるパッケージソフトウエアとして提供することができる。

なお、プログラムは、上述したようなリムーバブル記録媒体２１１からコンピュータにインストールする他、ダウンロードサイトから、デジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを、通信部２０８で受信し、内蔵するハードディスク２０５にインストールすることができる。

コンピュータは、CPU(Central Processing Unit)２０２を内蔵している。CPU２０２には、バス２０１を介して、入出力インタフェース２１０が接続されており、CPU２０２は、入出力インタフェース２１０を介して、ユーザによって、キーボードや、マウス、マイク等で構成される入力部２０７が操作等されることにより指令が入力されると、それにしたがって、ROM(Read Only Memory)２０３に格納されているプログラムを実行する。あるいは、また、CPU２０２は、ハードディスク２０５に格納されているプログラム、衛星若しくはネットワークから転送され、通信部２０８で受信されてハードディスク２０５にインストールされたプログラム、またはドライブ２０９に装着されたリムーバブル記録媒体２１１から読み出されてハードディスク２０５にインストールされたプログラムを、RAM(Random Access Memory)２０４にロードして実行する。これにより、CPU２０２は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU２０２は、その処理結果を、必要に応じて、例えば、入出力インタフェース２１０を介して、CRT(Cathode Ray Tube),LCD(Liquid Crystal Display)、スピーカ等で構成される出力部２０６から出力、あるいは、通信部２０８から送信、さらには、ハードディスク２０５やリムーバブル記録媒体２１１に記録等させる。

ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理（例えば、並列処理あるいはオブジェクトによる処理）も含むものである。

また、プログラムは、１のコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。

本発明を適用したロボット制御システムを備えた２足歩行型のロボットの外観構成例を示す図である。 図１のロボットの電気的構成例を示す図である。 図２の禁止文削除部の詳細構成例を示すブロック図である。図である。 図３の単語リスト記憶部に記憶されている単語リストの例を示す図である。 図３の禁止文削除部が行う禁止文削除処理を説明するフローチャートである。 図２のロボットの禁止文削除部の他の構成例を示すブロック図である。 図６の禁止文削除部が行う禁止文削除処理を説明するフローチャートである。 図２のロボットの禁止文削除部のさらに他の構成例を示すブロック図である。 図８の禁止文削除部が行う禁止文削除処理を説明するフローチャートである。 図２のロボットの禁止文削除部のさらに他の構成例を示すブロック図である。 図１０の禁止文削除部が行う禁止文削除処理を説明するフローチャートである。 図１０の禁止文削除部が行う禁止文削除処理を説明する他のフローチャートである。 本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。

符号の説明

６２ 対話制御システム， ７１ 禁止文削除部， ８１ 分割部， ８２ 文削除部， ８３ 単語リスト記憶部， ９１ 文削除部， ９３ 禁止用語リスト記憶部， ９４ 禁止用語候補リスト記憶部， １０１ 文削除部， １０３ 自動判定不可能文リスト記憶部， １２１ 文削除部，２０１ バス， ２０２ CPU， ２０３ ROM， ２０４ RAM, ２０５ ハードディスク， ２０６ 出力部， ２０７ 入力部， ２０８ 通信部， ２０９ ドライブ， ２１０ 入出力インタフェース， ２１１ リムーバブル記録媒体

Claims (6)

1. 入力された文を出力する情報処理装置において、
   文中での使用を許可する単語を記憶する単語記憶手段と、
   前記文のすべての単語が、前記単語記憶手段に記憶される前記単語である場合、その文を出力する出力手段と
   を備えることを特徴とする情報処理装置。
2. 文中での使用を許可しない単語である禁止用語を記憶する禁止用語記憶手段と、
   前記文の単語のうち、前記単語記憶手段と前記禁止用語記憶手段のいずれにも記憶されていない前記単語を、前記単語記憶手段または前記禁止用語記憶手段に新たに記憶させる記憶制御手段と
   をさらに備える
   ことを特徴とする請求項１に記載の情報処理装置。
3. 文中での使用を許可しない単語である禁止用語を記憶する禁止用語記憶手段と、
   前記文が、前記単語記憶手段と前記禁止用語記憶手段のいずれにも記憶されていない単語を含む場合、その文を記憶する文記憶手段と
   をさらに備える
   ことを特徴とする請求項１に記載の情報処理装置。
4. 入力された文を出力する情報処理装置の情報処理方法において、
   前記文のすべての単語が、文中での使用を許可する単語を記憶する単語記憶手段に記憶される前記単語である場合、その文を出力する出力ステップ
   を含むことを特徴とする情報処理方法。
5. 入力された文を出力する出力処理を、コンピュータに行わせるプログラムにおいて、
   前記文のすべての単語が、文中での使用を許可する単語を記憶する単語記憶手段に記憶される前記単語である場合、その文を出力する出力ステップ
   を含むことを特徴とするプログラム。
6. 入力された文を出力する出力処理を、コンピュータに行わせるプログラムが記録されている記録媒体において、
   前記文のすべての単語が、文中での使用を許可する単語を記憶する単語記憶手段に記憶される前記単語である場合、その文を出力する出力ステップ
   を含むことを特徴とするプログラムが記録されている記録媒体。

Images