JP4204043B2 - ゲーム機、ゲームの実行方法、並びにプログラム - Google Patents

ゲーム機、ゲームの実行方法、並びにプログラム Download PDF

Info

Publication number
JP4204043B2
JP4204043B2 JP2003358073A JP2003358073A JP4204043B2 JP 4204043 B2 JP4204043 B2 JP 4204043B2 JP 2003358073 A JP2003358073 A JP 2003358073A JP 2003358073 A JP2003358073 A JP 2003358073A JP 4204043 B2 JP4204043 B2 JP 4204043B2
Authority
JP
Japan
Prior art keywords
unit
information
game
topic
state information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003358073A
Other languages
English (en)
Other versions
JP2005118370A (ja
Inventor
信勝 平野谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Universal Entertainment Corp
Original Assignee
Aruze Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aruze Corp filed Critical Aruze Corp
Priority to JP2003358073A priority Critical patent/JP4204043B2/ja
Publication of JP2005118370A publication Critical patent/JP2005118370A/ja
Application granted granted Critical
Publication of JP4204043B2 publication Critical patent/JP4204043B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

本発明は、ユーザが仮想人格であるキャラクタとの会話を行いながらゲームを遊戯することが可能なゲーム機、ゲームの実行方法、並びにプログラムに関し、より詳しくはゲームの勝敗結果などゲームに関する事項を、キャラクタの感情に反映させることが可能なゲーム機、ゲームの実行方法、並びにプログラムに関する。
近年の音声分析技術・音声認識技術の発展に伴い、ユーザの自然音声を入力として受け付け、この入力に対して所定の応答をなすマンーマシン・インターフェイスを用いた会話システムが普及しつつある。このような会話システムの例として、単なるキーワードマッチングではなく、会話の履歴、話題の推移などが加味された自然な会話に近い対話を人間対機械の間で成立させる会話システムが提案されている(例えば、特許文献1)。
このような会話システムを用いビジネス・応用技術としては会話システムを用いたエンターテイメント(例えば、家庭用・業務用ゲーム)が考えられる。一例としては、モニターに表示されるキャラクタ(仮想人格)と会話し、会話に基づいてゲームを進めるゲームソフトや、或いはゲームを行いつつキャラクタと会話をおこなう(会話の内容がゲームの勝敗・進行に影響を与えない)ゲームソフトなど、主体となるゲームに副次的構成要素として会話システムを組み込むことが考えられている。
特開2002−358304号公報
上記のような従来の会話システムにおいては、キャラクタとの対話はユーザの発話内容により決められていた。すなわち、ユーザの発話への回答は、予め決められた回答を複数記憶するデータベースの内容を参照し、発話に対応する回答をデータベースから検索してユーザに返すものである。このようなデータベースから単純に回答を検索する手法では、ユーザの発話に対するキャラクタの感情変化およびゲームの勝敗などに応じたキャラクタの感情変化を回答に反映させることはできなかった。
例えば、上記のようなデータベースのみに依拠して会話を制御する手法では、ユーザが一方的にゲームに勝ち続けても、負け続けたキャラクタは、キャラクタが勝ち続けた場合や互角の勝負を行っているときと同じ反応・回答をすることとなり、より人間に近い自然は反応とはならず、面白味に欠けるという問題があった。
ゲームの勝敗などに応じてキャラクタに何らかの感情変化、例えば怒りや悲しみをつのらせ、そのような感情を反映した回答や表情の変化を示すことができれば、キャラクタに、より人間に近い反応をさせることが可能となる。
本発明の目的は、ゲームの勝敗結果などゲームに関する情報を反映させたキャラクタデータの制御及び会話制御を行うことが可能なゲーム機を提供することにある。
上記課題を解決するために、本発明は、ユーザからの発話を受け付ける入力手段と、ユーザからの発話に応答する回答文を出力する会話処理手段と、キャラクタの制御を行なうとともにゲームを実行するゲーム処理手段と、キャラクタの感情を示す感情状態情報を処理する感情状態情報管理手段とを有するゲーム機において、前記会話処理手段は、前記入力手段により受け付けられたユーザからの発話を当該ユーザからの発話情報として受け取って認識する認識部と、ユーザと会話処理手段との間の会話の話題や主題を特定する情報である談話履歴を記憶する手段と、1つの文字、複数の文字列又はこれらの組み合わせからなる形態素により構成され且つユーザへの回答文と前記感情状態情報を構成する感情フラグとを対応付けて成る話題タイトルが対応付けられるとともに前記談話履歴により定まる複数の話題特定情報を記憶する会話データベース手段と、前記ユーザからの発話情報を、1つの文字、複数の文字列又はこれらの組み合わせからなる形態素に抽出する形態素抽出部と、前記感情状態情報管理手段から通知される感情状態情報を参照するとともに、前記形態素抽出部で抽出された形態素情報と前記会話データベース手段に記憶された話題特定情報とを照合し、各話題特定情報の中から形態素情報を構成する形態素と一致する話題特定情報を選択することによりユーザに対する前記回答文を選択する手段とを有し、前記感情状態情報管理手段は、前記選択された回答文に対応付けられた感情フラグを受けるとともに、前記ゲーム処理手段からゲームの状態に関するゲーム状態情報を受け、受けた前記感情フラグおよび前記ゲーム状態情報に基づいて感情状態情報を更新する感情状態情報更新部と、前記感情状態情報更新部で更新された感情状態情報の記憶を行なう感情状態情報記憶部と、前記感情状態情報記憶部に記憶された感情状態情報の少なくとも一部を前記会話処理手段と前記ゲーム処理手段とに通知する感情状態情報通知部とを有することを特徴とする。
上記構成のゲーム機によれば、ゲームの勝敗をキャラクタの感情に反映させ、キャラクタの感情を反映したユーザに対する回答を提供することが可能となる
また、上記構成のゲーム機によれば、従前の発話及び回答に関して定まる談話履歴を用いて回答文の選択を行うため、会話の流れやテーマに沿った自然な会話が実現されるとともに、ゲームの勝敗をキャラクタの感情に反映させ、キャラクタの感情を反映したユーザに対する回答を提供することが可能となる。
また、上記構成のゲーム機において、ゲーム制御手段は、感情状態情報管理手段が記憶する感情状態情報に基づいてキャラクタの制御を行うようにしてもよい。かかる構成によれば、キャラクタの感情に基づいて回答文が返させるだけでなく、回答文に対応したキャラクタの表情の変化や動作などをユーザに示し、さらに自然なキャラクタの応答を実現することが可能となる。
また、本発明では、ユーザからの発話を受け付ける入力手段と、ユーザからの発話に応答する回答文を出力する会話処理手段と、キャラクタの制御を行なうとともにゲームを実行するゲーム処理手段と、キャラクタの感情を示す感情状態情報を処理する感情状態情報管理手段とを有し、前記会話処理手段が、ユーザと会話処理手段との間の会話の話題や主題を特定する情報である談話履歴を記憶する手段と、1つの文字、複数の文字列又はこれらの組み合わせからなる形態素により構成され且つユーザへの回答文と前記感情状態情報を構成する感情フラグとを対応付けて成る話題タイトルが対応付けられるとともに前記談話履歴により定まる複数の話題特定情報を記憶する会話データベース手段とを有して成るゲーム機でゲームを実行する方法において、前記会話処理手段の認識部が、前記入力手段により受け付けられたユーザからの発話を当該ユーザからの発話情報として受け取って認識するステップと、前記会話処理手段の形態素抽出部が、前記ユーザからの発話情報を、1つの文字、複数の文字列又はこれらの組み合わせからなる形態素に抽出するステップと、前記会話処理手段の話題特定情報検索部が、前記形態素抽出部で抽出された形態素情報と前記会話データベース手段に記憶された話題特定情報と照合し、各話題特定情報の中から形態素情報を構成する形態素と一致する話題特定情報を検索するステップと、前記会話処理手段の回答取得部が、話題特定情報検索部で検索された話題特定情報に対応付けられた回答文を取得するステップと、前記感情状態情報管理手段が、前記回答取得部で取得された回答文に対応付けられた感情フラグを受けるとともに、前記ゲーム処理手段からゲームの状態に関するゲーム状態情報を受け、受けた前記感情フラグおよび前記ゲーム状態情報に基づいて感情状態情報を更新するステップとを含み、前記感情状態情報管理手段は、更新された感情状態情報を前記会話処理手段に通知し、前記会話処理手段は、前記感情状態情報管理手段から通知される感情状態情報を参照して、前記会話データベース手段に記憶された対応する回答文を出力することを特徴とする方法が提供される
この方法によれば、ゲームの勝敗をキャラクタの感情に反映させ、キャラクタの感情を反映したユーザに対する回答を提供することが可能となる。
上記の方法において、感情状態情報を参照してキャラクタの表示制御を行うステップをさらに有するようにしてもよい。
上記発明の態様はコンピュータを用いてゲーム機を実現するプログラム、あるいはコンピュータに上記方法を実行させるためのプログラムとしても成立する。
ここで、「発話」は必ずしも音声でなくともよく、キーボードなどの文字入力手段により生成された文字列データであってもよい。「回答」は、音声、画面表示された文字列のいずれでなされるものでもかまわない。また、本発明では「ゲーム」とは、娯楽目的のもののみならず、教育目的、研究目的などの娯楽以外の目的を有するゲームを含む。
ここで、「発話情報」とは、ユーザが発した、一つのまとまりを有する言葉の集合をいい、例えば、一つの文(一部が省略された省略文を含む)である。「話題特定情報」とは、ユーザとゲーム機が演じるキャラクタ間の会話のテーマを把握するための情報である。
本発明によれば、ゲームの勝敗をキャラクタの感情に反映させ、キャラクタの感情を反映したユーザに対する回答を提供することが可能となる。
以下、図面を参照しながら本発明の実施の形態について説明する。本実施の形態は、ユーザの音声を受け付け可能なゲームシステムに関するものである。以下、このゲームシステムについて説明する。
[ゲームシステムの構成例]
図1は、ゲームシステムの構成例を示すブロック図である。ゲームシステムGSは、会話制御装置1と、ゲーム装置2とを有している。ゲームシステムGSは、さらに会話制御装置1及びゲーム装置2に接続された音声入力手段3と、ゲーム機2に接続された非音声入力手段4と、ゲーム装置2に接続された画像出力手段5と、会話制御装置1及びゲーム装置2に接続された音声出力手段6と、会話制御装置1およびゲーム装置2に接続された感情状態情報管理手段7を有している。
会話制御装置1は、ユーザと会話制御装置1との間での会話が成立するように、ユーザの発話に応じて回答を返す機能を有する。
会話制御装置1は、ユーザとの会話に応じて、会話制御装置1が演じるキャラクタの感情を変化させ、感情の変化に応じてキャラクタの表示を変化(例えば、笑顔、怒った顔、泣いた顔など)させ、且つ感情に応じた回答文を出力する。
キャラクタの感情は、感情状態情報によって記述されている。感情状態情報は、感情を示す情報を累積的に記憶できる情報であればどのようなものでもよく、たとえば感情フラグの累積値(感情フラグのカウント値)を感情状態情報として用いることができる。
感情フラグは感情を区別できる情報であればどのようなデータを用いてもよく、例えば、「平常」の感情を示す感情フラグとして文字データ「A」を割り当て、「激怒」の感情を示す感情フラグとして文字データ「B」を割り当て、「怒り」の感情を示す感情フラグとして文字データ「C」を割り当て、「喜び」の感情を示す感情フラグとして文字データ「D」を割り当てるなどのようにする。本実施の形態にかかる会話制御装置1は、この感情フラグを参照して、会話制御装置1が提供する疑似人格の感情を制御することとなる。
ゲーム装置2は、ユーザの入力に応答して所定のゲーム処理を実行し、実行結果を利用者(ユーザ)に提示する機能を有する。なお、ゲームシステムGSが扱うゲームの種類はどのようなものでもよいが、本実施の形態では対戦型ゲームである麻雀ゲームを扱うゲーム装置2について説明する。
会話制御装置1及びゲーム装置2はそれぞれ、たとえばコンピュータ、ワークステーションなどの情報処理装置であって、演算処理装置(CPU)、主メモリ(RAM)、読出し専用メモリ(ROM)、入出力装置(I/O)、ハードディスク装置等の外部記憶装置を具備している装置で構成されている。前記ROM、もしくは外部記憶装置などに情報処理装置を会話制御装置1及び/又はゲーム装置2として機能させるためのプログラム、もしくは会話制御方法及び/又はゲームの実行方法をコンピュータに実行させるためのプログラムが記憶されており、該プログラムを主メモリ上に載せ、CPUがこれを実行することにより会話制御装置1及び/又はゲーム装置2が実現される。また、上記プログラムは必ずしも当該装置内の記憶装置に記憶されていなくともよく、磁気ディスク、光ディスク、光磁気ディスク、CD(Compact Disc)、DVD(Digital Video Disc)などのコンピュータ読み取り可能なプログラム記録媒体や、外部の装置(例えば、ASP(アプリケーション・サービス・プロバイダ)のサーバなど)から提供され、これを主メモリに乗せる構成であっても良い。
また、図1では、会話制御装置1とゲーム装置2とを互いに独立した装置として表示しているが、会話制御装置1とゲーム装置2とを互いに独立した装置である必要はなく、演算処理装置(CPU)、主メモリ(RAM)、読出し専用メモリ(ROM)、入出力装置(I/O)、ハードディスク装置等の外部記憶装置を共通に使用して、同一ハードウエアによって会話制御装置1とゲーム装置2を実現する構成としてもかまわない。
音声入力手段3は、ユーザの音声信号を電気信号、光信号など所定の信号に変換して会話制御装置1及びゲーム装置2に供給する機能を有し、たとえば音声入力用マイクである。音声入力手段3は、会話制御装置1がプログラム等によって実現する疑似人格(キャラクタ)に対する発話の入力とともに、ゲームに関する入力(例えば、ポンをする、リーチをかける、ロンをする)を受け付ける。
非音声入力手段4は、音声入力以外のユーザによる入力をゲーム装置2に提供する機能を有し、例えば、キーボード、ジョイスティック、コントローラ、ポインティングデバイスなどである。これにより、ユーザはゲームに必要な入力、たとえば牌をつもる、牌を捨てる、ポンをする、リーチをかける、ロンをするなどをゲーム装置2に伝えることができる。
画像出力手段5は、ゲーム装置2がゲームの進行に従って生成するゲーム画面をユーザに表示する機能を有し、例えば、液晶ディスプレイ装置などである。
音声出力手段6は、会話制御装置1がキャラクタ(疑似人格、仮想人格)の回答文として出力した内容を音声信号として出力し、またゲームに関する音声/音響(効果音、BGMなど)を出力する機能を有し、たとえばサウンドボード、スピーカなどである。
感情状態情報管理手段7は、会話制御装置2から出力される感情フラグを受け取り、感情フラグを感情状態情報に反映させるとともに、会話制御装置2に現状の感情状態情報を返し、感情状態情報に応じた回答文の出力をさせる。さらに、感情状態情報管理手段7は、ゲーム装置2からゲーム状態情報を受け取り、ゲーム状態情報を感情状態情報に反映させる。
「ゲーム状態情報」は、ゲーム開始からゲーム終了までのゲームの状態を示す情報であって、たとえばゲームの勝敗、ゲーム中のユーザとゲーム装置2の優勢劣勢、ユーザとゲーム装置2の得点差、ゲーム中にユーザとゲーム装置2なした選択(例えば、ポン、チー、カン、リーチ、多牌、少牌など)がゲーム状態情報となる。
なお、図1に示す構成例では、感情状態情報管理手段7は会話制御装置1およびゲーム装置2から独立した構成要素として表示したが、感情状態情報管理手段7は、会話制御装置1若しくはゲーム装置2に搭載されていてもかまわない。
[ゲーム装置]
次に、図2を参照しながらゲーム装置2の構成例について説明する。
ゲーム装置2は、前述のように、演算処理装置(CPU)、主メモリ(RAM)、読出し専用メモリ(ROM)、入出力装置(I/O)、ハードディスク装置等の外部記憶装置を具備している情報処理装置であって、所定のプログラムを情報処理装置で実行することにより、ゲーム装置2およびゲーム装置2を構成する以下の構成要素が実現される。
図2は、ゲーム装置2の構成例を示すブロック図である。ゲーム装置2は、文字列/命令変換部201と、ゲーム進行制御部202と、画像処理部203と、音声処理部204とを有している。
文字列/命令変換部201は、会話制御装置1から送られる、ユーザの発話を文字列情報を所定のコマンドに変換する機能を有し、たとえばユーザが「ポン!」と発話した場合、文字列/命令変換部201は、会話制御装置1から送られる文字列情報「ポン」を「ポン」の実行コマンドに変更してゲーム進行制御部202に渡す。なお、ユーザの発話の内ゲームの進行に関係ないもの(「こんにちは」「名前は?」)については、文字列/命令変換部201は何らの出力をしない。
ゲーム進行制御部202は、ユーザの入力に応じてゲームを進行させ、かつ進行に従って、画面表示のためのデータ、音声出力のためのデータを指定する機能を有する。
ゲーム進行制御部202は、感情状態情報管理手段7から感情状態情報を受け取り、これに応じて、キャラクタの画像制御を実行する。例えば、感情状態情報がキャラクタが喜んでいる状態を示していれば、喜んだ表情や動作を示すようにキャラクタの制御が行われる。
また、ゲーム進行制御部202は、ゲーム状態情報を感情状態情報管理手段7に渡す。例えば、ゲームの勝敗が確定した時点において、どちらが勝ったかを示す情報を感情状態情報管理手段7に渡す。感情状態情報管理手段7はこのゲーム状態情報に応じて、記憶している感情状態情報の更新を行う。
画像処理部203は、ゲーム進行制御部202から指定された画面表示ためのデータを予めゲームに必要な画像データを記憶している記憶部(図略)から読み出し、これを画像出力手段5に提供する。
音声処理部204は、ゲーム進行制御部202から指定された画面表示ためのデータを予めゲームに必要な音声データ・音響データを記憶している記憶部(図略)から読み出し、これを音声出力手段6に提供する。
[会話制御装置の構成例]
[全体構成]
図3は、本実施の形態に係る会話制御装置1の概略構成図である。
会話制御装置1は、前述のように、演算処理装置(CPU)、主メモリ(RAM)、読出し専用メモリ(ROM)、入出力装置(I/O)、ハードディスク装置等の外部記憶装置を具備している情報処理装置であって、所定のプログラムを情報処理装置で実行することにより、会話制御装置1および会話制御装置1を構成する以下の構成要素が実現される。
図3に示すように、会話制御装置1は、音声認識部200と、会話制御部300と、文解析部400と、会話データベース500と、音声認識辞書記憶部600とを備えている。
[音声認識部]
音声認識部200は、音声入力手段3から提供される、発話に応じた信号に基づいて、発話内容に対応する文字列を特定するものである。具体的には、音声入力手段3から音声信号が入力された音声認識部200は、この音声信号を、音声認識辞書記憶部600に格納されている辞書および会話データベース500と照合して、音声信号から推測される音声認識結果を出力する。なお、図3に示す構成例では、音声認識部200は、会話制御部300に会話データベース500の記憶内容の取得を要求し、会話制御部300が要求に応じて取得した会話データベース500の記憶内容を受け取るようになっているが、音声認識部200が直接会話データベース500の記憶内容を取得して音声信号との比較を行う構成であってもかまわない。
[音声認識部の構成例]
図4に、音声認識部200の構成例を示す機能ブロック図を示す。音声認識部200は、特徴抽出部200Aと、バッファメモリ(BM)200Bと、単語照合部200Cと、バッファメモリ(BM)200Dと、候補決定部200Eと、単語仮説絞込部200Fを有している。単語照合部200C及び単語仮説絞込部200Fは音声認識辞書記憶部600に接続されており、候補決定部200Eは会話制御部300に接続されている。
単語照合部200Cに接続された音声認識辞書記憶部600は、音素隠れマルコフモデルを(以下、隠れマルコフモデルをHMMという。)を記憶している。音素HMMは、各状態を含んで表され、各状態はそれぞれ以下の情報を有する。(a)状態番号、(b)受理可能なコンテキストクラス、(c)先行状態、及び後続状態のリスト、(d)出力確率密度分布のパラメータ、及び(e)自己遷移確率及び後続状態への遷移確率から構成されている。なお、本実施形態において用いる音素HMMは、各分布がどの話者に由来するかを特定する必要があるため、所定の話者混合HMMを変換して生成する。ここで、出力確率密度関数は34次元の対角共分散行列をもつ混合ガウス分布である。また、単語照合部200Cに接続された音声認識辞書記憶部600は単語辞書を記憶している。単語辞書は、音素HMMの各単語毎にシンボルで表した読みを示すシンボル列を格納する。
話者の発声音声はマイクロホンなどに入力されて音声信号に変換された後、特徴抽出部200Aに入力される。特徴抽出部200Aは、入力された音声信号をA/D変換した後、特徴パラメータを抽出し、これを出力する。特徴パラメータを抽出し、これを出力する方法としては様々なものが考えられるが、例えば一例としては、LPC分析を実行し、対数パワー、16次ケプストラム係数、Δ対数パワー及び16次Δケプストラム係数を含む34次元の特徴パラメータを抽出する方法などが挙げられる。抽出された特徴パラメータの時系列はバッファメモリ(BM)200Bを介して単語照合部200Cに入力される。
単語照合部200Cは、ワン−パス・ビタビ復号化法を用いて、バッファメモリ200Bを介して入力される特徴パラメータのデータに基づいて、音声認識辞書記憶部600に記憶された音素HMMと単語辞書とを用いて単語仮説を検出し、尤度を計算して出力する。ここで、単語照合部200Cは、各時刻の各HMMの状態毎に、単語内の尤度と発声開始からの尤度を計算する。尤度は、単語の識別番号、単語の開始時刻、先行単語の違い毎に個別にもつ。また、計算処理量の削減のために、音素HMM及び単語辞書とに基づいて計算される総尤度のうちの低い尤度のグリッド仮説を削減するようにしてもよい。単語照合部200Cは、検出した単語仮説とその尤度の情報を発声開始時刻からの時間情報(具体的には、例えばフレーム番号)とともにバッファメモリ200Dを介して候補決定部200E及び単語仮説絞込部200Fに出力する。
候補決定部200Eは、会話制御部300を参照して、検出した単語仮説と所定の談話空間内の話題特定情報とを比較し、検出した単語仮説の内、所定の談話空間内の話題特定情報と一致するものがあるか否かを判定し、一致するものがある場合は、その一致する単語仮説を認識結果として出力し、一方一致するものがない場合は、単語仮説絞込部200Fに単語仮説の絞込を行うよう要求する。
候補決定部200Eの動作例を説明する。今、単語照合部200Cが複数の単語仮説「カンタク」「カタク」「カントク」およびその尤度(認識率)を出力し、所定の談話空間は「映画」に関するものでありその話題特定情報には「カントク(監督)」は含まれているが、「カンタク(干拓)」及び「カタク(仮託)」は含まれていないとする。また「カンタク」「カタク」「カントク」の尤度(認識率)は「カンタク」が最も高く「カントク」は最も低く、「カタク」は両者の中間であったとする。
上記の状況において、候補決定部200Eは、検出した単語仮説と所定の談話空間内の話題特定情報とを比較して、単語仮説「カントク」が、所定の談話空間内の話題特定情報と一致するものであると判定し、単語仮説「カントク」を認識結果として出力し、会話制御部に渡す。このように処理することにより、現在扱われている話題「映画」に関連した「カントク(監督)」が、より上位の尤度(認識率)を有する単語仮説「カンタク」「カタク」に優先されて選択され、その結果会話の文脈に即した音声認識結果を出力することが可能となる。
一方、一致するものがない場合は、候補決定部200Eからの単語仮説の絞込を行う要求に応じて単語仮説絞込部200Fが認識結果を出力するよう動作する。単語仮説絞込部200Fは、単語照合部200Cからバッファメモリ200Dを介して出力される複数個の単語仮説に基づいて、音声認識辞書記憶部600に記憶された統計的言語モデルを参照して、終了時刻が等しく開始時刻が異なる同一の単語の単語仮説に対して、当該単語の先頭音素環境毎に、発声開始時刻から当該単語の終了時刻に至る計算された総尤度のうちの最も高い尤度を有する1つの単語仮説で代表させるように単語仮説の絞り込みを行った後、絞り込み後のすべての単語仮説の単語列のうち、最大の総尤度を有する仮説の単語列を認識結果として出力する。本実施形態においては、好ましくは、処理すべき当該単語の先頭音素環境とは、当該単語より先行する単語仮説の最終音素と、当該単語の単語仮説の最初の2つの音素とを含む3つの音素並びをいう。
単語仮説絞込部200Fによる単語絞込処理の例を図5を参照しながら説明する。図5は、単語仮説絞込部200Fの処理の一例を示すタイミングチャートである。
例えば(i−1)番目の単語Wi-1の次に、音素列a1,a2,…,anからなるi番目の単語Wiがくるときに、単語Wi-1の単語仮説として6つの仮説Wa,Wb,Wc,Wd,We,Wfが存在しているとする。ここで、前者3つの単語仮説Wa,Wb,Wcの最終音素は/x/であるとし、後者3つの単語仮説Wd,We,Wfの最終音素は/y/であるとする。終了時刻teにおいて単語仮説Wa,Wb,Wcを前提とする3つの仮説と、単語仮説Wd,We,Wfを前提とする1の仮説が残っているものとすると、先頭音素環境が等しい前者3つ仮説のうち、総尤度が最も高い仮説一つを残し、その他を削除する。
なお、単語仮説Wd,We,Wfを前提とする仮説は先頭音素環境が他の3つの仮説と違うため、すなわち、先行する単語仮説の最終音素がxではなくyであるため、この単語仮説Wd,We,Wfを前提とする仮説は削除しない。すなわち、先行する単語仮説の最終音素毎に1つのみ仮説を残す。
以上の実施形態においては、当該単語の先頭音素環境とは、当該単語より先行する単語仮説の最終音素と、当該単語の単語仮説の最初の2つの音素とを含む3つの音素並びとして定義されているが、本発明はこれに限らず、先行する単語仮説の最終音素と、最終音素と連続する先行する単語仮説の少なくとも1つの音素とを含む先行単語仮説の音素列と、当該単語の単語仮説の最初の音素を含む音素列とを含む音素並びとしてもよい。
以上の実施の形態において、特徴抽出部200Aと、単語照合部200Cと、候補決定部200Eと、単語仮説絞込部200Fとは、例えば、デジタル電子計算機などのコンピュータで構成され、バッファメモリ200B,200Dと、音声認識辞書記憶部600とは、例えばハードデイスクメモリなどの記憶装置で構成される。
以上実施形態においては、単語照合部200C、単語仮説絞込部200Fとを用いて音声認識を行っているが、本発明はこれに限らず、例えば、音素HMMを参照する音素照合部と、例えばOne
Pass DPアルゴリズムを用いて統計的言語モデルを参照して単語の音声認識を行う音声認識部とで構成してもよい。
また、本実施の形態では、音声認識部200は会話制御装置1の一部分として説明するが、音声認識部200、音声認識辞書記憶部600、及び会話データベース500より構成される、独立した音声認識装置とすることも可能である。
[音声認識部の動作例]
つぎに図6を参照しながら音声認識部200の動作について説明する。図6は、音声認識部200の動作例を示すフロー図である。音声入力手段3より音声信号を受け取ると、音声認識部200は入力された音声の特徴分析を行い、特徴パラメータを生成する(ステップS601)。次に、この特徴パラメータと音声認識辞書記憶部600に記憶された音素HMM及び言語モデルとを比較して、所定個数の単語仮説及びその尤度を取得する(ステップS602)。次に、音声認識部200は、取得した所定個数の単語仮説と検出した単語仮説と所定の談話空間内の話題特定情報とを比較し、検出した単語仮説の内、所定の談話空間内の話題特定情報と一致するものがあるか否かを判定する(ステップS603、S604)。一致するものがある場合は、音声認識部200はその一致する単語仮説を認識結果として出力する(ステップS605)。一方、一致するものがない場合は、音声認識部200は取得した単語仮説の尤度に従って、最大尤度を有する単語仮説を認識結果として出力する(ステップS606)。
[音声認識辞書記憶部]
再び、図3に戻って、会話制御装置1の構成例の説明を続ける。
音声認識辞書記憶部600は、標準的な音声信号に対応する文字列を格納するものである。この照合をした音声認識部200は、その音声信号に対応する単語仮説に対応する文字列を特定し、その特定した文字列を文字列信号として会話制御部300に出力する。
[文解析部]
次に、図1及び図7を参照しながら文解析部400の構成例について説明する。図7は、会話制御装置1の部分拡大ブロック図であって、会話制御部300及び文解析部400の具体的構成例を示すブロック図である。なお、図7においては、会話制御部300、文解析部400、および会話データベース500のみ図示しており、その他の構成要素の表示は省略されている。
前記文解析部400は、音声認識部200で特定された文字列を解析するものである。この文解析部400は、本実施の形態では、図7に示すように、文字列特定部410と、形態素抽出部420と、形態素データベース430と、入力種類判定部440と、発話種類データベース450とを有している。文字列特定部410は、音声入力手段3及び音声認識部200で特定された一連の文字列を一文節毎に区切るものである。この一文節とは、文法の意味を崩さない程度に文字列をできるだけ細かく区切った一区切り文を意味する。具体的に、文字列特定部410は、一連の文字列の中に、ある一定以上の時間間隔があるときは、その部分で文字列を区切る。文字列特定部410は、その区切った各文字列を形態素抽出部420及び入力種類判定部440に出力する。尚、以下で説明する「文字列」は、一文節毎の文字列を意味するものとする。
[形態素抽出部]
形態素抽出部420は、文字列特定部410で区切られた一文節の文字列に基づいて、その一文節の文字列の中から、文字列の最小単位を構成する各形態素を第一形態素情報として抽出するものである。ここで、形態素とは、本実施の形態では、文字列に現された語構成の最小単位を意味するものとする。この語構成の最小単位としては、例えば、名詞、形容詞、動詞などの品詞が挙げられる。
図8は、文字列とこの文字列から抽出される形態素との関係を示す図である。各形態素は、図8に示すように、本実施の形態ではm1,m2,m3…,と表現することができる。図8に示すように、文字列特定部410から文字列が入力された形態素抽出部420は、入力された文字列と、形態素データベース430に予め格納されている形態素群(この形態素群は、それぞれの品詞分類に属する各形態素についてその形態素の見出し語・読み・品詞・活用形などを記述した形態素辞書として用意されている)とを照合する。その照合をした形態素抽出部420は、その文字列の中から、予め記憶された形態素群のいずれかと一致する各形態素(m1,m2、…)を抽出する。この抽出された各形態素を除いた要素(n1,n2,n3…)は、例えば助動詞等が挙げられる。
この形態素抽出部420は、抽出した各形態素を第一形態素情報として話題特定情報検索蔀320に出力する。なお、第一形態素情報は構造化されている必要はない。ここで「構造化」とは、文字列の中に含まれる形態素を品詞等に基づいて分類し配列することをいい、たとえば発話文である文字列を、「主語+目的語+述語」などの様に、所定の順番で形態素を配列してなるデータに変換することを言う。もちろん、構造化した第一形態素情報を用いたとしても、それが本実施の形態を実現をさまたげることはない。
[入力種類判定部]
入力種類判定部440は、文字列特定部410で特定された文字列に基づいて、発話内容の種類(発話種類)を判定し、判定結果に従って発話種類を示す情報を出力する機能を有する。この発話種類は、発話内容の種類を特定する情報であって、本実施の形態では、例えば図9に示す「発話文のタイプ」を意味する。図9は、「発話文のタイプ」と、その発話文のタイプを表す二文字のアルファベット、及びその発話文のタイプに該当する発話文の例を示す図である。
ここで、「発話文のタイプ」は、本実施の形態では、図9に示すように、陳述文(D ; Declaration)、時間文(T ; Time)、場所文(L ; Location)、反発文(N ; Negation)などから構成され、この発話文のタイプに従って回答文を決定するために用いられる。この各タイプから構成される文は、肯定文又は質問文で構成される。「陳述文」とは、利用者の意見又は考えを示す文を意味するものである。この陳述文は本実施の形態では、図9に示すように、例えば「私は佐藤が好きです」のような文である。「場所文」とは、場所的な概念を伴う文を意味するものである。「時間文」とは、時間的な概念を伴う文を意味するものである。「反発文」とは、陳述文を否定するときの文を意味する。「発話文のタイプ」についての例文は図9に示す通りである。
「発話文のタイプ」を判定する場合、入力種類判定部440は、本実施の形態では、陳述文であることを判定するための定義表現辞書、反発文であることを判定するための反発表現辞書等の表現と発話文のタイプの対応関係を記述した辞書群を用いる。図10は、使用する辞書と、その辞書に該当する表現が含まれている場合になされる判定の種類を示す。具体例を挙げると、文字列特定部410から文字列が入力された入力種類判定部440は、入力された文字列に基づいて、その文字列と発話種類データベース450に格納されている各辞書とを照合する。その照合をした入力種類判定部440は、その文字列の中から、各辞書に関係する要素(D,Nなどの判定の種類を示すデータ)を抽出する。
この入力種類判定部440は、抽出した要素に基づいて、「発話文のタイプ」を判定する。例えば、入力種類判定部440は、ある事象について陳述している要素が文字列の中に含まれる場合には、その要素が含まれている文字列を陳述文として判定する。入力種類判定部440は、判定した「発話文のタイプ」を回答取得部350に出力する。
[会話データベース]
次に、会話データベース500が記憶するデータのデータ構成例について図11を参照しながら説明する。図11は、会話データベース500が記憶するデータのデータ構成の一例を示す概念図である。
[話題特定情報]
前記会話データベース500は、図11に示すように、話題を特定するための話題特定情報810を予め複数記憶する。又、それぞれの話題特定情報810は、他の話題特定情報と関連づけられていてもよく、例えば、図11に示す例では、話題特定情報Cが特定されると、この話題特定情報Cに関連づけられている他の話題特定情報A、B,Dが定まるように記憶されている。
具体的には、話題特定情報810は、本実施の形態では、利用者から入力されると予想される入力内容又は利用者への回答文に関連性のある「キーワード」を意味する。
話題特定情報810には、一又は複数の話題タイトル820が対応付けられて記憶されている。話題タイトル820は、一つの文字、複数の文字列又はこれらの組み合わせからなる形態素により構成されている。各話題タイトル820には、利用者への回答文830が対応付けられて記憶されている。また、回答文830の種類を示す複数の回答種類は、回答文に対応付けられている。
各回答文830には、感情条件パラメータ840が対応付けられている。感情条件パラメータ840は、感情状態情報の条件を示す情報である。例えば、感情状態情報が「怒り」の感情フラグの累積値10を示しているとき、ある回答文Aの感情条件パラメータ840が「怒り」の感情フラグの累積値5以下を記述しており、一方別の回答文Bの感情条件パラメータ840が「怒り」の感情フラグの累積値8以上を記述している場合は、回答文Aは選択されず、回答文Bが会話制御装置1がユーザへの回答として選択されることとなる。
更に、回答文830には会話制御装置1が提供するキャラクタ(疑似人格)の感情を示すデータである感情フラグ850が対応付けされて記憶されている。感情フラグ850は感情を区別できる情報であればどのようなデータを用いてもよく、例えば、「平常」の感情を示す感情フラグとして文字データ「A」を割り当て、「激怒」の感情を示す感情フラグ850として文字データ「B」を割り当て、「怒り」の感情を示す感情フラグとして文字データ「C」を割り当て、「喜び」の感情を示す感情フラグとして文字データ「D」を割り当てるなどのようにする。本実施の形態にかかる会話制御装置1は、この感情フラグ850を参照して、会話制御装置1が提供する疑似人格の感情を制御することとなる。
次に、ある話題特定情報と他の話題特定情報との関連づけについて説明する。図12は、ある話題特定情報810Aと他の話題特定情報810B、810C〜810C、810D〜810D…との関連付けを示す図である。なお、以下の説明において「関連づけされて記憶される」とは、ある情報Xを読み取るとその情報Xに関連づけられている情報Yを読み取りできることをいい、例えば、情報Xのデータの中に情報Yを読み出すための情報(例えば、情報Yの格納先アドレスを示すポインタ、情報Yの格納先物理メモリアドレス、論理アドレスなど)が格納されている状態を、「情報Yが情報Xに『関連づけされて記憶され』ている」というものとする。
図12に示す例では、話題特定情報は他の話題特定情報との間で上位概念、下位概念、同義語、対義語(本図の例では省略)が関連づけされて記憶させることができる。本図に示す例では、話題特定情報810A(=「映画」)に対する上位概念の話題特定情報として話題特定情報810B(=「娯楽」)が話題特定情報810Aに関連づけされて記憶されており、たとえば話題特定情報(「映画」)に対して上の階層に記憶される。
また、話題特定情報810A(=「映画」)に対する下位概念の話題特定情報810C(=「監督」)、話題特定情報810C(=「主演」)、話題特定情報810C(=「配給会社」)、話題特定情報810C(=「上映時間」)、および話題特定情報810D(=「七人の侍」)、話題特定情報810D(=「乱」)、話題特定情報810D(=「用心棒」)、…、が話題特定情報810Aに関連づけされて記憶されている。
又、話題特定情報810Aには、同義語900が関連づけられている。この例では、話題特定情報810Aであるキーワード「映画」の同義語として「作品」、「内容」、「シネマ」が記憶されている様子を示している。このような同意語を定めることにより、発話にはキーワード「映画」は含まれていないが「作品」、「内容」、「シネマ」が発話文等に含まれている場合に、話題特定情報810Aが発話文等に含まれているものとして取り扱うことを可能とする。
本実施の形態にかかる会話制御装置1は、会話データベース500の記憶内容を参照することにより、ある話題特定情報を特定するとその話題特定情報に関連づけられて記憶されている他の話題特定情報及びその話題特定情報の話題タイトル、回答文などを高速で検索・抽出することが可能となる。
[話題タイトル]
次に、話題タイトル(「第二形態素情報」ともいう)のデータ構成例について、図13を参照しながら説明する。図13は、話題タイトル(「第二形態素情報」ともいう)のデータ構成例を示す図である。
話題特定情報810D、810D、810D、…は、それぞれ複数の異なる話題タイトル820、820、…、話題タイトル820、820、…、話題タイトル820、820、…を有している。
本実施の形態では、図13に示すように、それぞれの話題タイトル820〜820、…は、第一特定情報1301と、第二特定情報及1302と、第三特定情報1303によって構成される情報である。ここで、第一特定情報1301は、本実施の形態では、話題を構成する主要な形態素を意味するものである。第一特定情報の例としては、例えば文を構成する主語が挙げられる。また、第二特定情報1302は、本実施の形態では、第一特定情報1301と密接な関連性を有する形態素を意味するものである。この第二特定情報1302は、例えば目的語が挙げられる。更に、第三特定情報1303は、本実施の形態では、ある対象についての動きを示す形態素、又は名詞等を修飾する形態素を意味するものである。この第三特定情報1303は、例えば動詞、副詞又は形容詞が挙げられる。なお、第一特定情報1301、第二特定情報1302、第三特定情報1303それぞれの意味は上述の内容に限定される必要はなく、別の意味を第一特定情報1301、第二特定情報1302、第三特定情報1303に与えても、これらから文の内容を把握可能な限り、本実施の形態は成立する。
例えば、主語が「七人の侍」、形容詞が「面白い」である場合には、図13に示すように、話題タイトル(第二形態素情報)820は、第一特定情報1301である形態素「七人の侍」と、第三特定情報1303である形態素「面白い」とから構成されることになる。なお、この話題タイトル820には第二特定情報1302である形態素は含まれておらず、該当する形態素がないことを示すための記号「*」が第二特定情報1302として格納されている。
なお、この話題タイトル820(七人の侍;*;面白い)は、「七人の侍は面白い」の意味を有する。
また、本明細書中、この話題タイトル820を構成する括弧内は、以下では左から第一特定情報1301、第二特定情報1302、第三特定情報1303の順番となっている。また、話題タイトル820のうち、第一から第三特定情報に含まれる形態素がない場合には、その部分については、「*」を示すことにする。
なお、上記話題タイトル820を構成する特定情報は、上記のような第一から第三特定情報のように三つに限定されるものではなく、更に他の特定情報(第四特定情報、およびそれ以上)を有するようにしてもよい。
[回答文]
次に、回答文830について説明する。回答文830は、図14に示すように、本実施の形態では、利用者から発話された発話文のタイプに対応した回答をするために、陳述(D ; Declaration)、時間(T ; Time)、場所(L ; Location)、否定(N ; Negation)などのタイプ(回答種類)に分類されている。また肯定文は「A」とし、質問文は「Q」とする。
例えば、話題タイトル(820)1−1が(佐藤;*;好き){これは、「佐藤が好きです」に含まれる形態素を抽出したもの}である場合には、その話題タイトル(820)1-1に対応する回答文(830)1−1は、(DA;陳述肯定文「私も佐藤が好きです」)、(TA;時間肯定文「私は打席に立ったときの佐藤が好きです」)などが挙げられる。後述する回答取得部350は、その話題タイトル820に対応付けられた一の回答文830を取得する。
[会話制御部]
ここで図7に戻り、会話制御部300の構成例を説明する。
会話制御部300は、会話制御装置1内の各構成要素(音声認識部200,文解析部400、会話データベース500,音声認識辞書記憶部600)間のデータの受け渡しを制御するとともに、発話に応答する回答文の決定、出力を行う機能を有する。
前記会話制御部300は、本実施の形態では、図7に示すように、管理部310と、話題特定情報検索部320と、省略文補完部330と、話題検索部340と、回答取得部350とを有している。前記管理部310は、会話制御部300の全体を制御する。
また、管理部310は談話履歴を記憶し、且つ必要に応じて更新する機能を有する。管理部310は話題特定情報検索部320と、省略文補完部330と、話題検索部340と、回答取得部350からの要求に応じて、記憶している談話履歴の全部又は一部をこれら各部に渡す機能を有する。
「談話履歴」とは、ユーザと会話制御装置1間の会話の話題や主題を特定する情報であって、後述する談話履歴は「着目話題特定情報」「着目話題タイトル」「利用者入力文話題特定情報」「回答文話題特定情報」の少なくともいずれか一つを含む情報である。また、談話履歴に含まれる「着目話題特定情報」「着目話題タイトル」「回答文話題特定情報」は直前の会話によって定められたものに限定されず、過去の所定期間の間に着目話題特定情報」「着目話題タイトル」「回答文話題特定情報」となったもの、若しくはそれらの累積的記録であってもよい。
以下、会話制御部300を構成する各部について説明する。
[話題特定情報検索部]
話題特定情報検索部320は、形態素抽出部420で抽出された第一形態素情報と各話題特定情報とを照合し、各話題特定情報の中から、第一形態素情報を構成する形態素と一致する話題特定情報を検索するものである。具体的に、話題特定情報検索部320は、形態素抽出部420から入力された第一形態素情報が「佐藤」及び「好き」の二つの形態素で構成される場合には、入力された第一形態素情報と話題特定情報群とを照合する。
この照合をした話題特定情報検索部320は、着目話題タイトル820focus(前回までに検索された話題タイトル)に第一形態素情報を構成する形態素(例えば「佐藤」)が含まれているときは、その着目話題タイトル820focusを回答取得部350に出力する。一方、着目話題タイトル820focusに第一形態素情報を構成する形態素が含まれていないときは、話題特定情報検索部320は、第一形態素情報に基づいて利用者入力文話題特定情報を決定し、入力された第一形態素情報及び利用者入力文話題特定情報を省略文補完部330に出力する。なお、「利用者入力文話題特定情報」は、第一形態素情報に含まれる形態素の内、利用者が話題としている内容に該当する形態素に相当する話題特定情報、若しくは第一形態素情報に含まれる形態素の内、利用者が話題としている内容に該当する可能性がある形態素に相当する話題特定情報をいう。
[省略文補完部]
省略文補完部330は、前記第一形態素情報を、前回までに検索された話題特定情報810(以下、「着目話題特定情報」)及び前回の回答文に含まれる話題特定情報810(以下、「回答文話題特定情報」という)を利用して、補完することにより複数種類の補完された第一形態素情報を生成する。例えば発話文が「好きだ」という文であった場合、省略文補完部330は、着目話題特定情報「佐藤」を、第一形態素情報「好き」に含めて、補完された第一形態素情報「佐藤、好き」を生成する。
すなわち、第一形態素情報を「W」、着目話題特定情報や回答文話題特定情報の集合を「D」とすると、省略文補完部330は、第一形態素情報「W」に集合「D」の要素を含めて、補完された第一形態素情報を生成する。
これにより、第一形態素情報を用いて構成される文が、省略文であって日本語として明解でない場合などにおいて、省略文補完部330は、集合「D」を用いて、その集合「D」の要素(例えば、"佐藤")を第一形態素情報「W」に含めることができる。この結果、省略文補完部330は、第一形態素情報「好き」を補完された第一形態素情報「佐藤、好き」にすることができる。なお、補完された第一形態素情報「佐藤、好き」は、「佐藤が好きだ」という発話内容に対応する。
すなわち、省略文補完部330は、利用者の発話内容が省略文である場合などであっても、集合「D」を用いて省略文を補完することができる。この結果、省略文補完部330は、第一形態素情報から構成される文が省略文であっても、その文が適正な日本語となるようにすることができる。
また、省略文補完部330が、前記集合「D」に基づいて、補完後の第一形態素情報に一致する話題タイトル820を検索する。補完後の第一形態素情報に一致する話題タイトル820を発見した場合は、省略文補完部330はこの話題タイトル820を回答取得部350に出力する。回答取得部350は、省略文補完部330で検索された適切な話題タイトル820に基づいて、利用者の発話内容に最も適した回答文1030を出力することができる。
尚、省略文補完部330は、集合「D」の要素を第一形態素情報に含めるだけに限定されるものではない。この省略文補完部330は、着目話題タイトルに基づいて、その話題タイトルを構成する第一特定情報、第二特定情報又は第三特定情報のいずれかに含まれる形態素を、抽出された第一形態素情報に含めても良い。
[話題検索部]
話題検索部340は、省略文補完部330で話題タイトル820が決まらなかったとき、第一形態素情報と、利用者入力文話題特定情報に対応する各話題タイトル820とを照合し、各話題タイトル820の中から、第一形態素情報に最も適する話題タイトル820を検索するものである。
具体的に、省略文補完部330から検索命令信号が入力された話題検索部340は、入力された検索命令信号に含まれる利用者入力文話題特定情報及び第一形態素情報に基づいて、その利用者入力文話題特定情報に対応付けられた各話題タイトル820の中から、その第一形態素情報に最も適した話題タイトル820を検索する。話題検索部340は、その検索した話題タイトル820を検索結果信号として回答取得部350に出力する。
図15は、ある話題特定情報810(=「佐藤」)に対応付けされた、話題タイトル820,回答文830、感情条件パラメータ840、感情フラグ850の具体例を示す図である。図15に示すように、例えば、話題検索部340は、入力された第一形態素情報「佐藤、好き」に話題特定情報810(=「佐藤」)が含まれるので、その話題特定情報810(=「佐藤」)を特定し、次に、その話題特定情報810(=「佐藤」)に対応付けられた各話題タイトル(820)1-1,1-2,…と入力された第一形態素情報「佐藤、好き」とを照合する。
話題検索部340は、その照合結果に基づいて、各話題タイトル(820)1-1〜1-2の中から、入力された第一形態素情報「佐藤、好き」と一致する話題タイトル(820)1-1(佐藤;*;好き)を特定する。話題検索部340は、検索した話題タイトル(820)1-1(佐藤;*;好き)を検索結果信号として回答取得部350に出力する。
[回答取得部]
回答取得部350は、話題検索部340で検索された話題タイトル820に基づいて、その話題タイトル820に対応付けられた回答文830、感情条件パラメータ840、感情フラグ850を取得する。また、回答取得部350は、話題検索部340で検索された話題タイトルに基づいて、その話題タイトル820に対応付けられた各回答種類と、入力種類判定部440で判定された発話種類とを照合する。その照合をした回答取得部350は、各回答種類の中から、判定された発話種類と一致する回答種類を検索する。
図15に示すように、例えば、回答取得部350は、話題検索部340で検索された話題タイトル820が話題タイトル1-1(佐藤;*;好き)である場合には、その話題タイトル(820)1-1に対応付けられている回答文(830)1-1(DA,TAなど)の中から、入力種類判定部440で判定された「発話文のタイプ」(例えばDA)と一致する回答種類(DA)を特定する。
さらに、回答取得部350は感情状態情報管理手段7のその時点で記憶している感情状態情報を参照し、特定された発話文のタイプ(例えばDA)に対応する複数の回答文の候補から、感情状態情報に合致する条件を記述している感情条件パラメータ840を特定し(例えば、「すべて2以下」)、その感情条件パラメータ840に対応する内容(例えば、「私も佐藤が好きです」を取得する。
ここで、上記"DA"、"TA"等のうち、"A"は、肯定形式を意味する。従って、発話種類及び回答種類に"A"が含まれているときは、ある事柄について肯定することを示している。また、発話種類及び回答種類には、"DQ"、"TQ"等の種類を含めることもできる。この"DQ"、"TQ"等のうち"Q"は、ある事柄についての質問を意味する。
回答種類が上記質問形式(Q)からなるときは、この回答種類に対応付けられる回答文は、肯定形式(A)で構成される。この肯定形式(A)で作成された回答文としては、質問事項に対して回答する文等が挙げられる。例えば、発話文が「あなたはスロットマシンを操作したことがありますか?」である場合には、この発話文についての発話種類は、質問形式(Q)となる。この質問形式(Q)に対応付けられる回答文は、例えば「私はスロットマシンを操作したことがあります」(肯定形式(A))が挙げられる。
一方、発話種類が肯定形式(A)からなるときは、この回答種類に対応付けられる回答文は、質問形式(Q)で構成される。この質問形式(Q)で作成された回答文としては、発話内容に対して聞き返す質問文、又は特定の事柄を聞き出す質問文等が挙げられる。例えば、発話文が「私はスロットマシンで遊ぶのが趣味です」である場合には、この発話文についての発話種類は、肯定形式(A)となる。この肯定形式(A)に対応付けられる回答文830は、例えば"パチンコで遊ぶのは趣味ではないのですか?"(特定の事柄を聞き出す質問文(Q))が挙げられる。
回答取得部350は、取得した回答文830の内容を回答文信号として管理部310に出力するとともに、回答文830に対応した感情フラグ850を感情状態情報管理手段7に出力する。また、回答取得部350から回答文信号が入力された管理部310は、入力された回答文信号を音声出力手段6に出力する。
[感情状態情報管理手段]
次に感情状態情報管理手段7の構成例について、図16を参照しながら説明する。図16は、感情状態情報管理手段7の構成例を示す機能ブロック図である。
感情状態情報管理手段7は、会話制御装置1からキャラクタの感情の変化を生成する感情フラグ850を受け取るとともに、ゲーム装置2からゲーム状態情報を受け取り、感情状態情報の書き換えを行う感情状態情報更新部7Aと、感情状態情報の記憶を行う感情状態情報記憶部7Bと、会話制御装置1およびゲーム装置2に感情状態情報の全部又は一部を通知する感情状態情報通知部7Cとを有している。
感情状態情報更新部7Aは、感情フラグ850を受け取ると、その感情フラグ850に相当する値(例えば、カウント値、累積値)を所定の値(例えば+1)だけ変化させるように、感情状態情報を書き換える。また、感情状態情報更新部7Aは、ゲーム状態情報(例えば、ユーザの勝ちを示す情報)を受け取ると、所定の内容で感情状態情報を書き換える(例えば、「怒り」の感情フラグ850に相当する値および「喜び」「怒り」の感情フラグ850に相当する値を現在の値の2倍とする、など)。
感情状態情報記憶部7Bが記憶する感情状態情報のデータ構成例を図17に示す。感情状態情報1700は、感情フラグ種類1701ごとに、累積値1702を有している。累積値1702は、各感情フラグごとに増減が可能である。例えば、感情状態情報管理手段7が「喜び」を示す感情フラグを受け取るごとに、累積値1702の値がインクリメントされる。また、ゲーム装置2からのゲーム状態情報に応じても、これら累積値1702の増減が行われる。どのように増減されるかは、予め感情状態情報更新部7Aがプログラムとして記憶されており、プログラムに従って所定の増減処理が実行される。
感情状態情報通知部7Cは、感情状態情報記憶部7Bに記憶されている感情状態情報1700の全部又は一部を会話制御装置1及びゲーム装置2に通知する。会話制御装置1は受け取った感情状態情報1700を参照して、会話データベース500が記憶する感情条件パラメータ840を満たす回答文830の内容を取得し、ユーザへの回答として出力する。よって、本ゲームシステムGS、はキャラクタの感情に応じた内容を有する回答を出力することができ、自然な会話を成立させることが可能となる。また、ゲーム装置2は、感情状態情報1700を受け取るとその感情状態情報1700に応じたキャラクタの表示や動作などを示すよう、キャラクタ表示処理を実行する。これにより、本ゲームシステムGSはキャラクタの感情の変化に応じたキャラクタの表示をすることが可能となる。
[ゲームシステムの動作例]
上記のような構成を有する、本実施の形態にかかるゲームシステムGSの動作例について、図18を参照しながら説明する。図18は、本実施の形態にかかるゲームシステムGSの動作例の内、会話制御、感情状態情報の管理に関する主要な処理を示すフローチャートである。本フローチャートについては、ゲーム進行に関する処理は示していない。
まず、会話制御装置1は、ユーザからの発話を音声認識部200にて受け付け、会話制御部300にて処理できるデータに変化するユーザ発話受付処理を行う(ステップS1801)。
次に、会話制御装置1は、受け付けたユーザ発話に応答する回答文を返す会話制御処理を行う(ステップS1802)。会話制御処理の詳細については、後述する。
次に、ゲーム装置2は、ゲーム状態情報を感情状態情報管理手段7へ渡す条件が成立したか否かをチェックする(ステップS1803)。例えば、渡す条件としては勝敗が決したことである。条件成立していなければ、新たなユーザの発話受付をできるようにステップS1801、S1802を実行する。一方、条件が成立した場合は、ゲーム装置2は感情状態情報管理手段7にゲーム状態情報を私、感情状態情報管理手段7はこのゲーム状態情報を感情状態情報に反映させるように、所定の処理を行い感情状態情報の書き換えを行う(ステップS1804)。
次に、ゲームシステムGSは、ゲーム終了条件の成立の判定を行う(ステップS1805)。ゲーム終了条件が成立している場合(例えば遊技時間の終了)は、ゲームシステムGSは、ゲームを終了させる。一方、ゲーム終了条件が成立していない場合は、再度ステップS1801に戻り、ユーザ発話の受付を待つ。
[会話制御方法]
上記構成を有する会話制御装置1による会話制御処理(ステップS1802)は、以下の手順により実施することができる。図19は、本実施の形態に係る会話制御方法の手順を示すフロー図である。
先ず、音声入力手段3が、利用者からの発話内容を取得するステップを行う(ステップS1901)。具体的には、音声入力手段3は、利用者の発話内容を構成する音声を取得する。音声入力手段3は、取得した音声を音声信号として音声認識部200に出力する。
次いで、音声認識部200が、音声入力手段3で取得した発話内容に基づいて、発話内容に対応する文字列を特定するステップを行う(ステップS1902)。具体的には、音声入力手段3から音声信号が入力された音声認識部200は、入力された音声信号に基づいて、その音声信号に対応する単語仮説(候補)を特定する。音声認識部200は、特定した単語仮説(候補)に対応付けられた文字列を取得し、取得した文字列を文字列信号として会話制御部300に出力する。
そして、文字列特定部410が、音声認識部200で特定された一連の文字列を一文毎に区切るステップを行う(ステップS1903)。具体的には、管理部310から文字列信号(あるいは形態素信号)が入力された文字列特定部410は、その入力された一連の文字列の中に、ある一定以上の時間間隔があるときは、その部分で文字列を区切る。文字列特定部410は、その区切った各文字列を形態素抽出部420及び入力種類判定部440に出力する。なお、文字列特定部410は、入力された文字列がキーボードから入力された文字列である場合には、句読点又はスペース等のある部分で文字列を区切るのが好ましい。
その後、形態素抽出部420が、文字列特定部410で特定された文字列に基づいて、文字列の最小単位を構成する各形態素を第一形態素情報として抽出するステップを行う(ステップS1904)。具体的に、文字列特定部410から文字列が入力された形態素抽出部420は、入力された文字列と、形態素データベース430に予め格納されている形態素群とを照合する。なお、その形態素群は、本実施の形態では、それぞれの品詞分類に属する各形態素について、その形態素の見出し語・読み・品詞・活用形などを記述した形態素辞書として準備されている。
この照合をした形態素抽出部420は、入力された文字列の中から、予め記憶された形態素群に含まれる各形態素と一致する各形態素(m1,m2、…)を抽出する。形態素抽出部420は、抽出した各形態素を第一形態素情報として話題特定情報検索部320に出力する。
次いで、入力種類判定部440が、文字列特定部410で特定された一文を構成する各形態素に基づいて、「発話文のタイプ」を判定するステップを行う(ステップS1905)。具体的には、文字列特定部410から文字列が入力された入力種類判定部440は、入力された文字列に基づいて、その文字列と発話種類データベース450に格納されている各辞書とを照合し、その文字列の中から、各辞書に関係する要素を抽出する。この要素を抽出した入力種類判定部440は、抽出した要素に基づいて、その要素がどの「発話文のタイプ」に属するのかを判定する。入力種類判定部440は、判定した「発話文のタイプ」(発話種類)を回答取得部350に出力する。
そして、話題特定情報検索部320が、形態素抽出部420で抽出された第一形態素情報と着目話題タイトル820focusとを比較するステップを行う(ステップS1906)。
第一形態素情報を構成する形態素と着目話題タイトル820focusとが一致する場合、話題特定情報検索部320は、その話題タイトル820を回答取得部350に出力する。一方、話題特定情報検索部320は、第一形態素情報を構成する形態素と話題タイトルと820が一致しなかった場合には、入力された第一形態素情報及び利用者入力文話題特定情報810を検索命令信号として省略文補完部330に出力する。
その後、省略文補完部330が、話題特定情報検索部320から入力された第一形態素情報に基づいて、着目話題特定情報及び回答文話題特定情報を、入力された第一形態素情報に含めるステップを行う(ステップS1907)。具体的には、第一形態素情報を「W」、着目話題特定情報及び回答文話題特定情報の集合を「D」とすると、省略文補完部330は、第一形態素情報「W」に話題特定情報「D」の要素を含めて、補完された第一形態素情報を生成し、この補完された第一形態素情報と集合「D」に関連づけされたすべての話題タイトル820とを照合し、補完された第一形態素情報と一致する話題タイトル820があるか検索する。補完された第一形態素情報と一致する話題タイトル820がある場合は、省略文補完部330は、その話題タイトル820を回答取得部350に出力する。一方、補完された第一形態素情報と一致する話題タイトル820を発見しなかった場合は、省略文補完部330は、第一形態素情報と利用者入力文話題特定情報とを話題検索部340に渡す。
次いで、話題検索部340は、第一形態素情報と、利用者入力文話題特定情報とを照合し、各話題タイトル820の中から、第一形態素情報に適した話題タイトル820を検索するステップを行う(ステップS1908)。具体的には、省略文補完部330から検索命令信号が入力された話題検索部340は、入力された検索命令信号に含まれる利用者入力文話題特定情報及び第一形態素情報に基づいて、その利用者入力文話題特定情報に対応付けられた各話題タイトル820の中から、その第一形態素情報に適した話題タイトル820を検索する。話題検索部340は、その検索の結果得られた話題タイトル820を検索結果信号として回答取得部350に出力する。
次いで、回答取得部350が、話題特定情報検索部320、省略文補完部330,あるいは話題検索部340で検索された話題タイトル820に基づいて、判定された利用者の発話種類と話題タイトル820に対応付けられた各回答種類とを照合する。この照合をした回答取得部350は、各回答種類の中から、判定された発話種類と一致する回答種類を検索する(ステップS1909)。
具体的に、話題検索部340から検索結果信号と、入力種類判定部440から「発話文のタイプ」とが入力された回答取得部350は、入力された検索結果信号に対応する「話題タイトル」と、入力された「発話文のタイプ」とに基づいて、その「話題タイトル」に対応付けられている回答種類群の中から、「発話文のタイプ」(DAなど)と一致する回答種類を特定する。
この回答取得部350は、会話データベース500から、特定した回答種類に対応付けられた回答文830を取得する。回答取得部350は、管理部310を介して、取得した回答文830を出力部600に出力する。管理部310から回答文が入力された出力部600は、入力された回答文830を出力する(ステップS1910)。
[その他、変形例など]
(1) 会話制御装置1の音声認識部200、会話制御部300、文解析部400の構成及び動作は、上記実施の形態において説明したものに限られず、会話データベース手段を利用して利用者の発話内容に応じた回答を返すものであれば、実施の形態において説明したもの以外のどのような音声認識部200、会話制御部300、文解析部400であっても、本発明に係る会話制御装置1の構成要素として使用可能である。
(2) 上記実施の形態の説明では、会話制御装置1への発話の入力は音声によるものとして説明したが、会話制御装置1への発話の入力は音声に限られるものではなく、キーボード、タッチパネル、ポインティングデバイスなどの非音声入力手段4により、文字列データとして会話制御装置1へ発話を入力し、会話制御装置1がこの文字列データとして入力された発話に対して会話データベース500を用いて回答文を出力する構成としても本発明は成立する。
ゲームシステムの構成例を示すブロック図 ゲーム装置の構成例を示す機能ブロック図 会話制御装置の構成例を示す機能ブロック図 音声認識部の構成例を示す機能ブロック図 単語仮説絞込部の処理の一例を示すタイミングチャート 音声認識部の動作例を示すフロー図 会話制御装置の部分拡大ブロック図 文字列とこの文字列から抽出される形態素との関係を示す図 「発話文のタイプ」と、その発話文のタイプを表す二文字のアルファベット、及びその発話文のタイプに該当する発話文の例を示す図 文のタイプとそのタイプを判定するための辞書の関係を示す図 会話データベースが記憶するデータのデータ構成の一例を示す概念図 ある話題特定情報と他の話題特定情報との関連付けを示す図 話題タイトルのデータ構成例を示す図 回答文のタイプを説明する図 ある話題特定情報に対応付けされた話題タイトル,回答文、感情条件パラメータ、感情フラグの具体例を示す図 感情状態情報管理手段の構成例を示す機能ブロック図 感情状態情報記憶部に記憶される感情状態情報のデータ構成例を示す図 ゲームシステムの主要な動作を示したフローチャート 会話制御処理の例を示したフローチャート
符号の説明
GS … ゲームシステム
1 … 会話制御装置
2 … ゲーム装置
3 … 音声入力手段
4 … 非音声入力手段
5 … 画像出力手段
6 … 音声出力手段
7 … 感情状態情報管理手段
200 … 音声認識部
300 … 会話制御部
400 … 文解析部
500 … 会話データベース
600 … 音声認識辞書記憶部

Claims (10)

  1. ユーザからの発話を受け付ける入力手段と、ユーザからの発話に応答する回答文を出力する会話処理手段と、キャラクタの制御を行なうとともにゲームを実行するゲーム処理手段と、キャラクタの感情を示す感情状態情報を処理する感情状態情報管理手段とを有するゲーム機において、
    前記会話処理手段は、
    前記入力手段により受け付けられたユーザからの発話を当該ユーザからの発話情報として受け取って認識する認識部と、
    ユーザと会話処理手段との間の会話の話題や主題を特定する情報である談話履歴を記憶する手段と、
    1つの文字、複数の文字列又はこれらの組み合わせからなる形態素により構成され且つユーザへの回答文と前記感情状態情報を構成する感情フラグとを対応付けて成る話題タイトルが対応付けられるとともに前記談話履歴により定まる複数の話題特定情報を記憶する会話データベース手段と、
    前記ユーザからの発話情報を、1つの文字、複数の文字列又はこれらの組み合わせからなる形態素に抽出する形態素抽出部と、
    前記感情状態情報管理手段から通知される感情状態情報を参照するとともに、前記形態素抽出部で抽出された形態素情報と前記会話データベース手段に記憶された話題特定情報とを照合し、各話題特定情報の中から形態素情報を構成する形態素と一致する話題特定情報を選択することによりユーザに対する前記回答文を選択する手段と、
    を有し、
    前記感情状態情報管理手段は、
    前記選択された回答文に対応付けられた感情フラグを受けるとともに、前記ゲーム処理手段からゲームの状態に関するゲーム状態情報を受け、受けた前記感情フラグおよび前記ゲーム状態情報に基づいて感情状態情報を更新する感情状態情報更新部と、
    前記感情状態情報更新部で更新された感情状態情報の記憶を行なう感情状態情報記憶部と、
    前記感情状態情報記憶部に記憶された感情状態情報の少なくとも一部を前記会話処理手段と前記ゲーム処理手段とに通知する感情状態情報通知部と、
    を有する、
    ことを特徴とするゲーム機。
  2. 前記ゲーム処理手段は、前記感情状態情報通知部から通知される感情状態情報に基づいてキャラクタの制御を行なうことを特徴とする請求項1に記載のゲーム機
  3. 発話情報を一連の文字列として認識するとともに、当該文字列を一文節毎に区切る文字列特定部と、
    前記文字列特定部で特定された文字列に基づいて発話内容の種類を判定し、その判定結果にしたがって発話種類を示す情報を前記回答文を選択する手段へ出力する入力種類判定部と、
    を更に備えることを特徴とする請求項1または請求項2に記載のゲーム機
  4. 従前の話題特定情報及び前回の回答文に含まれる話題特定情報を利用して前記形態素情報を補完することにより複数種類の補完された形態素情報を生成する省略文補完部を更に備えることを特徴とする請求項1ないし請求項3のいずれか1項に記載のゲーム機
  5. ユーザからの発話を受け付ける入力手段と、ユーザからの発話に応答する回答文を出力する会話処理手段と、キャラクタの制御を行なうとともにゲームを実行するゲーム処理手段と、キャラクタの感情を示す感情状態情報を処理する感情状態情報管理手段とを有し、前記会話処理手段が、ユーザと会話処理手段との間の会話の話題や主題を特定する情報である談話履歴を記憶する手段と、1つの文字、複数の文字列又はこれらの組み合わせからなる形態素により構成され且つユーザへの回答文と前記感情状態情報を構成する感情フラグとを対応付けて成る話題タイトルが対応付けられるとともに前記談話履歴により定まる複数の話題特定情報を記憶する会話データベース手段とを有して成るゲーム機でゲームを実行する方法において、
    前記会話処理手段の認識部が、前記入力手段により受け付けられたユーザからの発話を当該ユーザからの発話情報として受け取って認識するステップと、
    前記会話処理手段の形態素抽出部が、前記ユーザからの発話情報を、1つの文字、複数の文字列又はこれらの組み合わせからなる形態素に抽出するステップと、
    前記会話処理手段の話題特定情報検索部が、前記形態素抽出部で抽出された形態素情報と前記会話データベース手段に記憶された話題特定情報と照合し、各話題特定情報の中から形態素情報を構成する形態素と一致する話題特定情報を検索するステップと、
    前記会話処理手段の回答取得部が、話題特定情報検索部で検索された話題特定情報に対応付けられた回答文を取得するステップと、
    前記感情状態情報管理手段が、前記回答取得部で取得された回答文に対応付けられた感情フラグを受けるとともに、前記ゲーム処理手段からゲームの状態に関するゲーム状態情報を受け、受けた前記感情フラグおよび前記ゲーム状態情報に基づいて感情状態情報を更新するステップと、
    を含み、
    前記感情状態情報管理手段は、更新された感情状態情報を前記会話処理手段に通知し、前記会話処理手段は、前記感情状態情報管理手段から通知される感情状態情報を参照して、前記会話データベース手段に記憶された対応する回答文を出力することを特徴とする方法
  6. 前記ゲーム処理手段は、前記感情状態情報管理手段から通知される感情状態情報に基づいてキャラクタの制御を行なうことを特徴とする請求項5に記載の方法。
  7. 前記会話処理手段の形態素抽出部がユーザからの発話情報を形態素に抽出する前記ステップの後、前記会話処理手段の文字列特定部が、発話情報を一連の文字列として認識するとともに、当該文字列を一文節毎に区切るステップと、
    前記会話処理手段の入力種類判定部が、前記文字列特定部で特定された文字列に基づいて発話内容の種類を判定し、その判定結果にしたがって発話種類を示す情報を前記回答取得部へ出力するステップと、
    を更に含む請求項5または請求項6に記載の方法
  8. 前記会話処理手段の話題特定情報検索部が話題特定情報を検索する前記ステップの後、前記会話処理手段の省略文補完部が、従前の話題特定情報及び前回の回答文に含まれる話題特定情報を利用して前記形態素情報を補完することにより複数種類の補完された形態素情報を生成するステップを更に含むことを特徴とする請求項5ないし請求項7のいずれか1項に記載の方法。
  9. 請求項1ないし請求項4のいずれか1項に記載のゲーム機としてコンピュータを機能させるためのプログラム。
  10. 請求項5ないし請求項8のいずれか1項に記載の方法をコンピュータに実行させるためのプログラム。
JP2003358073A 2003-10-17 2003-10-17 ゲーム機、ゲームの実行方法、並びにプログラム Expired - Fee Related JP4204043B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003358073A JP4204043B2 (ja) 2003-10-17 2003-10-17 ゲーム機、ゲームの実行方法、並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003358073A JP4204043B2 (ja) 2003-10-17 2003-10-17 ゲーム機、ゲームの実行方法、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2005118370A JP2005118370A (ja) 2005-05-12
JP4204043B2 true JP4204043B2 (ja) 2009-01-07

Family

ID=34614770

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003358073A Expired - Fee Related JP4204043B2 (ja) 2003-10-17 2003-10-17 ゲーム機、ゲームの実行方法、並びにプログラム

Country Status (1)

Country Link
JP (1) JP4204043B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100869031B1 (ko) * 2006-04-11 2008-11-17 주식회사 케이티 소봇을 이용한 게임 서비스 제공 시스템 및 방법
KR102629535B1 (ko) * 2016-11-14 2024-01-24 주식회사 넥슨코리아 게임일기제공장치 및 게임일기제공방법

Also Published As

Publication number Publication date
JP2005118370A (ja) 2005-05-12

Similar Documents

Publication Publication Date Title
US7949530B2 (en) Conversation controller
JP4846336B2 (ja) 会話制御装置
EP1489598B1 (en) Speech recognition
JP4849663B2 (ja) 会話制御装置
JP4888996B2 (ja) 会話制御装置
JP2005157494A (ja) 会話制御装置及び会話制御方法
US7805312B2 (en) Conversation control apparatus
US8935163B2 (en) Automatic conversation system and conversation scenario editing device
JP4729902B2 (ja) 音声対話システム
JP2003210833A (ja) 対話ゲームシステム、対話ゲーム方法及びプログラム
JP4475628B2 (ja) 会話制御装置、会話制御方法並びにこれらのプログラム
JP4204043B2 (ja) ゲーム機、ゲームの実行方法、並びにプログラム
JP4204044B2 (ja) ゲーム機、ゲームの実行方法、並びにこれらのためのプログラム
JP4204041B2 (ja) ゲーム機、ゲームの実行方法、並びにプログラム
JP2009271117A (ja) 音声検索装置および音声検索方法
JP4204042B2 (ja) ゲーム機、ゲームの実行方法、並びにプログラム
JP2005122549A (ja) 会話制御装置及び会話制御方法
JP2005118371A (ja) ゲーム機
JP2005099604A (ja) 会話制御装置、会話制御方法、およびゲームシステム
US20240161737A1 (en) Real-time natural language processing and fulfillment
WO2024064522A1 (en) Content generation
JP2000250581A (ja) 言語モデル生成装置及び音声認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060809

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060811

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071203

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081009

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081010

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111024

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4204043

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111024

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313532

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111024

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111024

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121024

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121024

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131024

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees