JP4145776B2 - Question answering apparatus and question answering method - Google Patents
Question answering apparatus and question answering method Download PDFInfo
- Publication number
- JP4145776B2 JP4145776B2 JP2003400110A JP2003400110A JP4145776B2 JP 4145776 B2 JP4145776 B2 JP 4145776B2 JP 2003400110 A JP2003400110 A JP 2003400110A JP 2003400110 A JP2003400110 A JP 2003400110A JP 4145776 B2 JP4145776 B2 JP 4145776B2
- Authority
- JP
- Japan
- Prior art keywords
- answer
- question
- question sentence
- divided
- answer candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000000034 method Methods 0.000 title claims description 29
- 238000011156 evaluation Methods 0.000 claims description 44
- 230000014509 gene expression Effects 0.000 claims description 36
- 239000000284 extract Substances 0.000 claims description 6
- 238000012545 processing Methods 0.000 description 21
- 230000008569 process Effects 0.000 description 15
- 235000009508 confectionery Nutrition 0.000 description 11
- 238000004519 manufacturing process Methods 0.000 description 10
- 238000000605 extraction Methods 0.000 description 8
- 230000004044 response Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 230000011218 segmentation Effects 0.000 description 4
- 235000010724 Wisteria floribunda Nutrition 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 239000003607 modifier Substances 0.000 description 2
- 241000283153 Cetacea Species 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000002344 surface layer Substances 0.000 description 1
Images
Description
この発明は、ユーザの入力した質問に対する回答を出力する質問応答装置に関し、特に、回答を自然言語文書中から発見する質問応答装置に関する。 The present invention relates to a question answering device that outputs an answer to a question input by a user, and more particularly to a question answering device that finds an answer from a natural language document.
インターネットの検索エンジンに代表されるように、ユーザの検索要求に適合する文書を検索してランキングする文書検索技術は広く普及している。しかし、文書検索は、「××に関する新聞記事が読みたい」,「××に関するWebページが見たい」といった検索要求を満足することはできるが、「○×社の社長は誰か?」,「富士山の高さは?」,「鯨は絶滅しかかっているか?」といった質問に対してダイレクトに答えを返すことができない。文書検索は文書あるいは文書中のパッセージを出力するだけなので、ユーザは出力結果から自分で回答を探しださなくてはならない。 As represented by Internet search engines, document search techniques for searching and ranking documents that match user search requests are widely used. However, the document search can satisfy search requests such as “I want to read newspaper articles about XX” and “I want to see a web page about XX”, but “Who is the president of XX?”, “ Can't answer directly to questions like "How tall is Mt. Fuji?" And "Is whales going extinct?" Since document retrieval only outputs a document or a passage in the document, the user must search for an answer from the output result.
上記のような質問に対する回答を直接出力するものとして、質問応答装置がある。質問応答装置は、例えば「○×社の社長は誰か?」という質問に対し、○×社のホームページなど○×社に関する文書を出力するのではなく、○×社の社長の人名を出力する。また、「富士山の高さは?」のような質問に対しては、「富士山の標高は3776mです。」というように質問に対する回答を出力する。 There is a question answering device that directly outputs an answer to the above question. For example, in response to the question “Who is the president of XX company?”, The question answering device outputs the name of the president of XX company instead of outputting a document about XX company, such as the website of XX company. For questions such as “How tall is Mt. Fuji?”, The answer to the question is output as “Mt. Fuji is 3776m above sea level”.
質問応答装置は、近年、情報検索や情報抽出などの研究の発展形として注目を集めており、ユーザの質問に対しある程度ダイレクトな答えをかえすことが可能になってきている。例えば利用者の質問文に対して回答と、その回答が質問への回答となっていることを利用者が確認できる文書(以下、ここでは根拠文書と呼ぶ)とを出力するような質問応答装置が知られている(例えば、特許文献1参照)。 In recent years, the question answering apparatus has been attracting attention as an advanced form of research such as information retrieval and information extraction, and it has become possible to change a direct answer to a user's question to some extent. For example, a question answering device that outputs an answer to a user's question text and a document (hereinafter referred to as a rationale document) that allows the user to confirm that the answer is an answer to the question Is known (see, for example, Patent Document 1).
なお、ここで根拠文書とは、例えば、質問応答装置が質問に対する回答を抽出した抽出源の文書のことである。
しかしながら、入力される質問文は自然言語で記述されているので、必ずしも単純な質問とは限らず、例えば「新潟に本社のある、お菓子製造の会社は?」といった複雑な質問も入力され得る。このような複雑な質問に対しては、1つの文書中に、ある回答候補がその質問への回答であることを示す全ての情報が含まれているとは限らず、複数の文書中に分散して記述されている可能性がある。 However, since the question text to be entered is written in a natural language, it is not necessarily a simple question. For example, a complicated question such as “What is a confectionery manufacturing company headquartered in Niigata?” Can also be entered. . For such a complicated question, not all information indicating that a certain answer candidate is an answer to the question is included in one document. May be described.
例えばA社の本社が新潟にあるという情報と、A社がお菓子製造の会社であるという情報が、別々の文書中に記述されていたとする。その場合、入力された質問文をそのまま用いて回答候補を検索するだけではその回答候補(上記の例ではA社)が回答候補リストの上位から洩れてしまう場合があり、結果として正しい回答を出力できなくなるという問題点があった。このような、情報の蓄積場所が複数存在するという問題に対し、いわゆるデータベース検索の分野では問い合わせ(クエリー)を複数の検索条件に分割するという技術が解決手段として知られている。 For example, it is assumed that information that company A's head office is in Niigata and information that company A is a confectionery manufacturing company are described in separate documents. In that case, simply searching for the answer candidate using the input question text as it is may cause the answer candidate (Company A in the above example) to leak from the top of the answer candidate list, and as a result, the correct answer is output. There was a problem that it was impossible. To solve such a problem that there are a plurality of information storage locations, in the field of so-called database search, a technique of dividing an inquiry (query) into a plurality of search conditions is known as a solution.
しかし、回答を自然言語文書中から発見するような質問応答装置においては、あらかじめ検索されるデータの形式・関係が定まっているデータベース検索と異なり、検索されるデータの形式・関係が分からないため、どのようなときに質問文を分割すべきかが必ずしも明確ではない。また誤った回答が検索される危険性の少ないデータベース検索とは異なり、誤った回答候補が検索されるために正しい回答候補が候補リストから漏れるといった危険性があり、検索対象に含まれる表現によって、分割しない質問文での問い合わせの方が適切な回答を抽出できる場合も、また反対に分割した質問文での問い合わせの方が適切な回答を抽出できる場合も存在する。 However, in question answering devices that find answers from natural language documents, unlike database searches where the format / relationship of the data to be searched is determined in advance, the format / relationship of the data to be searched is unknown, It is not always clear when the question should be divided. Also, unlike database searches that have a low risk of incorrect answers being searched, there is a risk that correct answer candidates will be leaked from the candidate list because incorrect answer candidates are searched, and depending on the expressions included in the search target, There are cases where an inquiry with a question sentence that is not divided can extract an appropriate answer, and an inquiry with an inquiry sentence divided in the opposite direction can extract an appropriate answer.
このように従来の質問応答装置においては、回答となる情報が複数の文書中に分散して記述されている場合、正しい回答候補が候補リストから漏れるという問題があった。 As described above, in the conventional question answering apparatus, there is a problem that correct answer candidates are omitted from the candidate list when the information to be answered is described in a plurality of documents.
この発明は、以上の問題点に鑑み、回答となる情報が複数の文書中に分散して記述されている場合でも適切な回答候補を出力できる質問応答装置を提供することを目的とする。 In view of the above problems, an object of the present invention is to provide a question answering apparatus capable of outputting appropriate answer candidates even when information to be answered is described in a distributed manner in a plurality of documents.
上記の目的を達成するために、この発明においては、入力された質問文に対する回答を複数の文書から抽出して出力する質問応答装置において、入力された質問文を複数の分割された質問文である分割質問文に分割する質問文分割手段と、前記質問文および前記分割質問文を解析して、前記複数の文書から前記回答の候補となる回答候補を得て、この得た回答候補と、前記質問文または前記分割質問文とを組として記憶する回答候補記憶手段と、前記回答候補記憶手段が記憶する回答候補を評価し、この評価の結果得られた評価点を前記組毎に付与する回答候補評価手段と、前記分割質問文から得られた前記組について、前記回答候補毎にマージするマージ手段と、最終的に得られた前記組の評価点が高い組の順に、所定個の前記回答候補を回答として出力する回答出力手段とを有することを特徴とする質問応答装置を提供する。 In order to achieve the above object, in the present invention, in a question answering apparatus that extracts and outputs answers to an inputted question sentence from a plurality of documents, the inputted question sentence is divided into a plurality of divided question sentences. A question sentence dividing means for dividing into a divided question sentence; and analyzing the question sentence and the divided question sentence to obtain an answer candidate as the answer candidate from the plurality of documents; and the obtained answer candidate; Answer candidate storage means for storing the question sentence or the divided question sentence as a set, and answer candidates stored in the answer candidate storage means are evaluated, and an evaluation score obtained as a result of this evaluation is assigned to each set Answer candidate evaluation means, merging means for merging each answer candidate for the set obtained from the divided question sentence, and a predetermined number of the above-mentioned sets in the order of the set with the highest evaluation score of the set Answer candidates Providing question-answering apparatus characterized by having an answer output means for outputting as an answer.
この発明によれば、回答となる情報が複数の文書中に分散して記述されているような場合でも適切な回答候補を出力できる質問応答装置を提供することができる。 According to the present invention, it is possible to provide a question answering apparatus capable of outputting appropriate answer candidates even when information to be answered is described in a distributed manner in a plurality of documents.
以下、図面を参照して本発明の実施の形態について詳細に説明する。
図1は本発明の一実施形態に係る質問応答装置を示すブロック図である。
この質問応答装置は、質問文を入力する入力部101,質問応答装置全体を制御する制御部102,回答結果を出力する出力部103,質問文を分割する分割質問文生成部111,入力質問文および分割質問文を管理する質問文リスト112,回答候補と回答候補の評価点と根拠文書の情報を保持する回答候補保持部113,質問パターンデータベース121,質問文の回答種別を判定する回答種別判定部122,質問文により検索を行い文書をスコアリングする文書検索部123,自然言語文書が蓄積されている文書データベース124,検索対象文書から回答となる可能性のある表現を抽出し回答カテゴリを付与する回答表現抽出部125,表現カテゴリデータベース126,回答表現データベース127,検索結果と回答種別と回答表現から回答候補を選択し評価点を付与する回答候補生成部128からなる。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
FIG. 1 is a block diagram showing a question answering apparatus according to an embodiment of the present invention.
This question answering apparatus includes an
質問文リスト112,回答候補保持部113,質問パターンデータベース121,文書データベース124,表現カテゴリデータベース126,回答表現データベース127は、メモリやハードディスクドライブ等の記憶媒体を備えている。
The
また、この質問応答装置は、ハードウェアをプロセッサ,ROM,RAM等から構成されたコンピュータとし、上記各機能をコンピュータが記憶媒体から読み出したコンピュータプログラムをプロセッサが実行することにより実現するようにしてもよい。 In the question answering apparatus, the hardware is a computer composed of a processor, ROM, RAM, and the like, and the above functions are realized by the processor executing computer programs read from the storage medium by the computer. Good.
以下、本質問応答装置の全体的な処理の流れを図1に沿って説明する。
回答表現抽出部125は、あらかじめ文書データベース124に登録されている検索対象文書と、表現カテゴリデータベース126に登録されている表現とを比較して回答となる可能性のある回答表現を回答種別情報付きで抽出し、回答表現文字列、出現文書ID、出現位置、回答種別の各情報を回答表現データベース127に保持しておく。
Hereinafter, the overall processing flow of the question answering apparatus will be described with reference to FIG.
The answer
この回答表現抽出部125の処理については、いわゆる固有名詞抽出やオントロジータガーの技術が既に知られており、これらの技術を適用すれば良い。本発明の特徴部ではないためここでは詳細な説明は省略する。回答表現抽出においては、対象文書の表層表現に対して処理を行ってもよいし、形態素解析した結果に対して処理を行ってもよいし、構文・係り受け解析結果に対して処理を行ってもよい。
Regarding the processing of the answer
ユーザは入力部101を介してキーワード等からなる質問文を入力する。
制御部102は、入力部101から入力された質問文を質問文リスト112の1行目に登録すると共に質問文IDを分割質問文生成部111,回答種別判定部122および文書検索部123へ出力する。
The user inputs a question sentence including a keyword or the like via the
The
回答種別判定部122は、制御部102から入力された質問文と、質問パターンデータベース121に登録されている表現とを比較して回答種別判定を行い、判定結果である回答種別情報を制御部102へ出力する。この回答種別判定部122の処理については、例えば特開2002−132812公報等を用いればよく、本発明の主要部ではないため、詳細な説明は省略する。
The answer
文書検索部123は、制御部102から入力された質問文から検索キーワードを取り出し、検索対象文書である文書データベース124に対してキーワード検索を行い、キーワード検索結果を得る。そしてこのキーワード検索により得られた文書について、文書スコアの上位順にあらかじめ定められた文書IDと当該文書IDの文書スコア、およびマッチした検索キーワードと当該検索キーワードの出現位置の情報を制御部102へ出力する。このキーワード検索による文書スコアの出し方としては、例えば、より高い出現頻度の文書を、より高いスコアとする等、従来種々知られている技術を適用すれば良い。この文書スコアを出すキーワード検索としては、例えば、特開2002−132811や、文献(徳永健伸;情報検索と言語処理、東京大学出版会、1994年)等を用いれば良い。
The
制御部102は、回答種別判定部122の処理結果(回答種別情報)および文書検索部123の処理結果(文書IDと当該文書IDの文書スコア,検索キーワードと当該検索キーワードの出現位置の情報の4つの情報の内、文書IDと当該文書IDの文書スコアの2つの情報)を、回答候補生成部128へ出力する。
The
回答候補生成部128は、制御部102から入力された回答種別情報,文書IDと当該文書IDの文書スコアをキーとして回答表現データベース127を検索し、回答候補文字列(回答候補表現)と当該回答候補文字列(回答候補表現)の出現位置の情報を得る。
The answer
回答候補生成部128は、該回答候補文字列(回答候補表現)と該回答候補文字列(回答候補表現)を得るために回答表現データベース127の検索時にマッチした各キーワードとの距離を計算し、あらかじめ定めた計算式により各回答候補文字列(回答候補表現)に回答としての評価点を付与する。例えば、マッチした各キーワードとの距離の逆数を合算するなどの計算式により評価点を付与することが可能である。より確からしい回答候補に高い評価点を与える計算式については質問応答装置の分野で種々の手法が知られている。ここでは本発明の主要部ではないため詳細な説明は省略する。
The answer
質問応答の技術については、例えば特開2003−108583公報、特開平7−93351号公報や特開平7−192020号公報等により知られている技術を用いれば良い。 As a question answering technique, for example, a technique known from Japanese Patent Application Laid-Open No. 2003-108583, Japanese Patent Application Laid-Open No. 7-93351, Japanese Patent Application Laid-Open No. 7-192020, or the like may be used.
次に、回答候補生成部128は、得られた回答候補文字列(回答候補表現)のうち表層文字列が同じものの中から評価点が高いものを残し、他を削除する。
次に、回答候補生成部128は、回答候補文字列(回答候補表現)と、その質問文ID(質問文リスト112の番号),評価点,文書IDリストを、制御部102に出力する。
Next, the answer
Next, the answer
制御部102は、回答候補生成部128から入力された情報(回答候補生成部128により得られた回答候補文字列(回答候補表現),その質問文ID(質問文リスト112の質問文ID),評価点,文書IDリスト)を、回答候補保持部113へ出力する。回答候補保持部113が記憶するデータ形式については後で詳述する。
The
回答候補保持部113は、制御部102から入力されたこの情報を保持する。
分割質問文生成部111は、制御部102から入力された質問文が分割可能か否かを判定し、質問文が分割可能な場合には、質問文から分割質問文を生成して制御部102に出力する。
The answer
The divided question
例えば分割質問文生成部111は、入力質問文を構文解析し、構文木構造を条件として分割可能か否かを判定して分割質問文を生成する。あるいは、正規表現により分割可能かどうかを判定し分割質問文を生成してもよい。例えば、構文解析結果が、質問文の主語に複数の連体修飾句が係っている場合、連体修飾句毎に質問文を分割するようにしてもよい。また、質問文の途中に句読点が含まれている場合、句読点の前後で質問文を分割して質問を生成するようにしてもよい。
For example, the divided question
図2および図3は、この質問文から分割質問文を生成する処理の一例を模式的に表した図である。図2は、入力質問文を構文解析し、構文木構造を条件として分割した例を示す図である。図3は、質問文の途中に句読点が含まれている場合、句読点の前後で質問文を分割して質問を生成した例を示す図である。 2 and 3 are diagrams schematically showing an example of processing for generating a divided question sentence from the question sentence. FIG. 2 is a diagram illustrating an example in which an input question sentence is parsed and divided using a syntax tree structure as a condition. FIG. 3 is a diagram illustrating an example in which a question is generated by dividing a question sentence before and after a punctuation mark when a punctuation mark is included in the middle of the question sentence.
分割質問文生成部111は、制御部102から入力された「新潟にある、お菓子製造の会社は?」という質問文を分割し、「新潟にある本社がある会社は?」および「お菓子製造の会社は?」という2つの分割質問文を生成して制御部102に出力する。
The divided question
次に、分割質問文生成部111から分割質問文が入力された後の制御部102の処理の流れについて説明する。
制御部102は、分割質問文生成部111から入力された全ての分割質問文を質問文リスト112に登録する。
次に、制御部102は、質問文リスト112に登録された分割質問文を一つづつ順に回答種別判定部122および文書検索部123に送る。
回答種別判定部122および文書検索部123の処理については、分割質問文の場合も入力質問文の場合と同様であり、各処理結果を制御部102へ出力する。
次に制御部102は、回答種別判定部122の処理結果および文書検索部123の処理結果を回答候補生成部128に出力する。
回答候補生成部128の処理については、分割質問文の場合も入力質問文の場合と同様であり、処理結果を制御部102へ出力する。
次に制御部102は、回答候補生成部128から入力された情報を回答候補保持部113へ出力する。
回答候補保持部113は、制御部102から入力されたこの情報を保持する。
制御部102は、全ての分割質問文に対し同じ処理を繰り返す。
制御部102は、全ての分割質問文の処理が終了したら、回答候補保持部113に記憶されている回答候補文字列(回答候補表現)を1つずつ読み出し、複数の分割質問文に共通している回答候補を見つけ、その評価点を更新する。この評価点更新の手続きについては後に詳述する。
Next, the flow of processing performed by the
The
Next, the
The processing of the answer
Next, the
About the process of the answer candidate production |
Next, the
The answer
The
When the processing of all the divided question sentences is completed, the
次に制御部102は、回答候補保持部113に保持されている回答候補文字列(回答候補表現)と当該回答候補文字列(回答候補表現)の評価点を読み出し、評価点の高い順に回答候補を並べ替える。
Next, the
最後に制御部102は、評価点順に並べられた回答候補の内、あらかじめ定められた上位n件の回答候補を出力部103に出力する。この例では、あらかじめ定められた上位n件としたが、このnについては固定である必要はなく、可変であっても良い。また、評価点が幾つ以上のものに限定して出力するようにしても良い。
Finally, the
出力部103は、ディスプレイから構成されており、制御部102から入力された回答候補をディスプレイ上に表示する。この表示方法の例については後で詳細に説明する。
The
以上が、質問応答装置の処理の流れの概略である。
以下、先の図2,図3の質問文である「新潟にある、お菓子製造の会社は?」が入力されたときを例として質問応答装置の動作を詳細に説明する。
図4は、質問文リスト112のデータの形式を示す図である。
質問文リスト112のデータは、質問文ID,種類,テキストの3つから構成されている。1行目には、質問文ID“001”として、入力質問文を示す“入力”,テキストとして“新潟にある、お菓子製造の会社は?”が入力されている。2行目には、質問文ID“002”として、分割質問文を示す“分割”,テキストとして一方の分割質問文である“新潟にある本社がある会社は?”が入力されている。3行目には、質問文ID“003”として、分割質問文を示す“分割”,テキストとして他方の分割質問である“お菓子製造の会社は?”が入力されている。
The above is the outline of the processing flow of the question answering apparatus.
Hereinafter, the operation of the question answering apparatus will be described in detail by taking as an example the case where the question sentence in FIG. 2 and FIG. 3 is “What is a candy manufacturing company in Niigata?”.
FIG. 4 is a diagram illustrating a data format of the
The data of the
回答候補保持部113は、回答候補文字列(回答候補表現),その質問文ID(図4に示す質問文リスト112の質問文ID),評価点,文書ID,flag(フラッグ)の5つの情報から成る。flagは、既に他のデータにマージされ不要となったデータであることを識別するために付すflagである。
The answer
制御部102は、まず入力質問文(すなわち質問文ID=001)「新潟にある、お菓子製造の会社は?」に対する回答候補を回答候補保持部113に格納する。このときflag=1とする。
First, the
この時点での回答候補保持部113のデータを、図5Aに示す。
次に、制御部102は、一方の分割質問文(すなわち質問文ID=002)「新潟にある本社がある会社は?」に対する回答候補を回答候補保持部113に格納する(図5Bの6行目〜8行目を参照)と共に、他方の分割質問文(すなわち質問文ID=003)「お菓子製造の会社は?」に対する回答候補を回答候補保持部113に格納する(図5Bの9行目〜11行目を参照)。このときflag=1とする。
Data of the answer
Next, the
この時点での回答候補保持部113のデータを図5Bに示す。この図5Bは、回答候補保持部113のデータの形式を示す図であり、図5Aと比較して分割質問文に関するデータ(質問文ID=002,003)が追加されている点が異なる。
Data of the answer
以上により、全ての質問文(入力質問文,分割質問文)に対する回答候補が回答候補保持部113に格納される。
次に、全ての質問文(入力質問文,分割質問文)に対する回答候補が回答候補保持部113に格納された後の制御部102の処理の流れについて図6のフローチャートに従って説明する。
As described above, answer candidates for all question sentences (input question sentences, divided question sentences) are stored in the answer
Next, the processing flow of the
まず、処理開始時点で格納されている回答候補の数を、変数cntに代入する(ステップS601)。
変数nに初期値1,変数iに初期値1を代入する(n=1,i=1)(ステップS602)。
変数nが、変数cntより大きいか否か(n>cnt?)を判定する(ステップS611)。このステップS611の判定結果がYesであれば、回答候補保持部113の全てのデータに対し、同じ回答候補文字列で異なる質問文ID(質問文IDが複数あるときには、質問文IDを複数並べた質問文IDリスト)を持つデータの有無を調べ、もし見つかった場合には評価点の小さい方のデータのflagを0に変更し(ステップS691)、終了する。反対にステップS611の判定結果がNoであれば、次のステップS612へ進む。
First, the number of answer candidates stored at the start of processing is substituted into a variable cnt (step S601).
The
It is determined whether or not the variable n is larger than the variable cnt (n> cnt?) (Step S611). If the determination result in this step S611 is Yes, for all data in the answer
次に、回答候補保持部113の全てのデータに対し、同じ回答候補文字列で異なる質問文IDまたは質問文IDリストを持つデータの有無を調べ、もし見つかった場合には、評価点の小さい方のデータのflagを0に変更する。
Next, with respect to all the data in the answer
ステップS611でNoであれば(まだ全ての回答候補について処理を終えていない場合)、n行目の回答候補は質問文IDの値が2以上(即ち、分割質問文)であり、かつflag=1(即ち、マージされていないデータ)であるか否か(質問文IDの値≧2 かつ flag=1)を判定する(ステップS612)。このステップS612の判定結果がYesであれば、まだマージしていない新たな回答候補文字列であるため以降マージを行うため、変数pに0を代入して初期化し(p=0)(ステップS651)、反対にNoであればステップS613で変数nを1インクリメントし(n=n+1)、ステップS611へ戻る。 If No in step S611 (if all answer candidates have not been processed yet), the answer candidate in the nth row has a question sentence ID value of 2 or more (that is, a divided question sentence), and flag = It is determined whether it is 1 (that is, data that has not been merged) (question ID value ≧ 2 and flag = 1) (step S612). If the determination result in this step S612 is Yes, it is a new answer candidate character string that has not yet been merged, so that the variable p is initialized by substituting 0 into the variable p (p = 0) (step S651). On the other hand, if No, the variable n is incremented by 1 (n = n + 1) in step S613, and the process returns to step S611.
ステップS651の次に、変数aに回答候補保持部113のn行目の回答候補文字列を代入する(ステップS652)。
ステップS652の次に、変数mに、変数n+1を代入し初期化する(m=n+1)(ステップS653)。この変数mは、n行目のデータと、回答候補保持部113の何行目のデータとを比較するかを示す変数として使用し、n+1行目以降と比較するため初期値であるn+1を与えている。
Following step S651, the answer candidate character string in the nth row of the answer
Subsequent to step S652, the variable n + 1 is substituted into the variable m and initialized (m = n + 1) (step S653). This variable m is used as a variable indicating the comparison between the data in the nth row and the data in the answer
ステップS653の次に、変数mが、変数cntより大きいか否かを判定する(m>cnt?)(ステップS654)。即ち、n行目の回答候補文字列に対して、全てマージが終了したか否かを判定する。ステップS654の判定結果がYes(n行目の回答候補文字列に対して、全てマージが終了した)であれば、ステップS613で変数nを1インクリメントし(n=n+1)、ステップS611へ戻る。反対にステップS654の判定結果がNo(n行目の回答候補文字列に対して、全てマージが終了していない)であれば、変数bに回答候補保持部113のm行目の回答候補文字列を代入する(ステップS655)。
Following step S653, it is determined whether the variable m is greater than the variable cnt (m> cnt?) (Step S654). That is, it is determined whether or not merging has been completed for all answer candidate character strings in the nth row. If the determination result in step S654 is Yes (all merges have been completed for the answer candidate character string on the nth row), the variable n is incremented by 1 (n = n + 1) in step S613, and the process returns to step S611. On the other hand, if the determination result in step S654 is No (no merge has been completed for the answer candidate character string in the nth row), the answer candidate character in the mth row of the answer
ステップS655の次に、変数aが、変数bと等しいか否かを判定する(a=b?)(ステップS656)。ステップS656の判定結果が、Yes(a=b)であれば、次のステップS657へ進み、反対にNo(a≠b)であればステップS662で変数mを1インクリメントし(m=m+1)、ステップS654へ戻る。 After step S655, it is determined whether the variable a is equal to the variable b (a = b?) (Step S656). If the determination result in step S656 is Yes (a = b), the process proceeds to the next step S657. If No (a ≠ b), the variable m is incremented by 1 in step S662 (m = m + 1). The process returns to step S654.
次に、変数pが0か否か判定する(ステップS657)。ステップS657の判定結果がYesであれば回答候補保持部113のn行目の回答候補の情報を、変数cnt+i行目にコピーすると共に回答候補n行目のflagを0とし(ステップS658)、反対にNoであればステップS660へ進む。
Next, it is determined whether or not the variable p is 0 (step S657). If the determination result in step S657 is Yes, the information on the answer candidate in the nth line of the answer
ステップS658の次に、変数iを1インクリメントし(i=i+1)(ステップS659)、次のステップS660へ進む。
次のステップS660では、次の3つの処理を行う、1つ目は、m行目の回答候補の評価点を、変数cnt+i行目の回答候補の評価点とを加算する。2つ目は、質問文IDと文書IDを、変数cnt+i行目へ追加する。3つ目は、m行目のflag=0とする。
After step S658, the variable i is incremented by 1 (i = i + 1) (step S659), and the process proceeds to the next step S660.
In the next step S660, the following three processes are performed. First, the evaluation score of the answer candidate in the m-th row is added to the evaluation score of the answer candidate in the variable cnt + i-th row. Second, the question sentence ID and the document ID are added to the variable cnt + i line. The third is flag = 0 in the m-th row.
ステップS660の次に、変数pを1インクリメントし(p=p+1)(ステップS661)、ステップS662へ進む。
要するに、n=1から順にまだマージしていない回答候補についてマージ処理を順次していく。
質問文IDの値が2以上(即ち、分割質問による回答候補)で、flagの値が1(即ち、まだマージしていないデータ)である回答候補に対して、同じ回答候補文字列を持つデータの有無を調べる。
After step S660, the variable p is incremented by 1 (p = p + 1) (step S661), and the process proceeds to step S662.
In short, the merge process is sequentially performed on answer candidates that have not yet been merged in order from n = 1.
Data having the same answer candidate character string for answer candidates having a question sentence ID value of 2 or more (that is, answer candidates based on divided questions) and a flag value of 1 (that is, data that has not yet been merged) Check for the presence or absence.
もし見つかった場合には、重複しているデータの中で一番上のデータ(n行目のデータ)、即ち、n行目の回答候補の回答候補文字列,質問文ID,評価点,文書ID,flag(flag=1)を、回答候補保持部113の変数cnt+i行目に格納し、n行目の回答候補のflagを0とする。
If found, the top data (data in the nth row) among the duplicate data, that is, the answer candidate character string, question sentence ID, evaluation score, document of the answer candidate in the nth row ID, flag (flag = 1) is stored in the variable cnt + i line of the answer
そして重複しているデータの中で上から2番目以降に出現するデータを、順次、変数cnt+i行目にマージしていく。詳細には、回答候補文字列が一致したm行目の回答候補の評価点を変数cnt+i行目の回答候補の評価点に加算し、質問文IDと、文書IDを追加し、m行目の回答候補のflagを0とする。 Then, the data appearing second and later from the top among the overlapping data is sequentially merged into the variable cnt + i line. More specifically, the evaluation score of the answer candidate in the m-th line that matches the answer candidate character string is added to the evaluation score of the answer candidate in the variable cnt + i line, the question sentence ID and the document ID are added, and the m-th line The flag of the answer candidate is set to 0.
以上の処理の結果、分割質問による回答候補のデータはマージが行われる。
例えば、n=6となるとステップS658にて、図5Bの回答候補6行目の質問文ID“002”,評価点“0.2”,文書ID“0021”が、図5Cの回答候補12行目(変数cnt+1行目、即ち、この時点での回答候補保持部113が保持する情報の件数である11+1=12行目)にそれぞれコピーされる。回答候補6(n)行目のflagは0となり、コピー先である変数cnt+1行目のflagは1となる。
As a result of the above processing, the answer candidate data based on the divided question is merged.
For example, when n = 6, in step S658, the question sentence ID “002”, the evaluation score “0.2”, and the document ID “0021” on the sixth answer candidate line in FIG. 5B are the 12th answer candidate line in FIG. 5C. Each is copied to the first line (variable cnt + 1 line, that is, 11 + 1 = 12th line, which is the number of pieces of information held by the answer
更に、分割質問文の重複については変数mが変更されることによりサーチが行われ、m=9となるとステップS660にて、図5Bの回答候補9行目の評価点“0.2”が図5Cの回答候補12行目に加算され合計した値である“0.4”となり、質問文IDである“003” ,文書ID“0311”が、図5Cの回答候補12行目に追加される。回答候補9(m)行目のflagは0となる。この時点での回答候補保持部113のデータを図5Cに示す。
Further, for the duplication of the divided question text, a search is performed by changing the variable m. When m = 9, the evaluation score “0.2” on the answer candidate 9th line in FIG. 5B is shown in step S660. The value added to the 12th answer candidate line of 5C is “0.4”, and the question sentence ID “003” and the document ID “0311” are added to the answer candidate 12th line of FIG. 5C. . The flag in the answer candidate 9 (m) line is 0. Data of the answer
要するに、重複しているデータの中で、一番上の行のデータが空いているエリアへコピーされ(ステップS658)、2番目以降のデータがこのコピーされた行に追加されていく(ステップS660)こととなる。この時点での回答候補保持部113のデータを図5Dに示す。このように回答候補文字列毎に、flag=1のデータは1つのみ存在する状態となる。
In short, among the duplicated data, the data in the top row is copied to an empty area (step S658), and the second and subsequent data are added to the copied row (step S660). ) Data of the answer
次に、回答候補保持部113の全てのデータに対し、同じ回答候補文字列で異なる質問文ID(質問文IDが複数あるときには、質問文IDを複数並べた質問文IDリスト)を持つデータの有無を調べ、もし見つかった場合には、評価点の小さい方のデータのflagを0に変更する。
Next, for all the data in the answer
この時点での回答候補保持部113のデータを図5Dに示す。
以上が、制御部102による、回答候補保持部113の評価点の更新処理の流れである。
なお、この実施形態では、入力質問文から得られた回答候補と、分割質問文から得られた回答候補とを加算せずに別々に計算した。しかし、入力質問文/分割質問文から得られた回答候補を区別せず、合計を計算しても同様の効果を得ることができる。
Data of the answer
The above is the flow of the update process of the evaluation score of the answer
In this embodiment, the answer candidate obtained from the input question sentence and the answer candidate obtained from the divided question sentence are separately calculated without being added. However, the same effect can be obtained even if the total is calculated without distinguishing the answer candidates obtained from the input question sentence / divided question sentence.
次に、出力部103への出力形態について図面を用いて詳細に説明する。
図7(a)は、質問文分割を行わず、入力質問文に対する回答候補からのみ(図5Dの質問文IDが001のデータ、即ち、図5Aのデータ)を出力部103へ回答出力した場合の表示例である。この例では、上位3件を第1位から第3位の回答出力とした例であり、回答候補1行目から3行目の回答候補文字列が表示されている。このように評価点順に並べ替えられて表示がなされる。
Next, an output form to the
FIG. 7A shows a case in which the question sentence is not divided and only the answer candidate for the input question sentence (data with
図7(b)は、入力質問文および分割質問文に対する回答候補を合わせた全体から回答出力した場合の表示例である。この例では、回答候補1行目と回答候補12行目の評価点が同じく0.4であるが、入力質問文に対する回答候補を正しいであろうと見なして第1位の回答候補としている。第3位の回答候補には、2番目に高い評価点が0.32である回答候補2行目が表示されている。このように評価点順に並べ替えられて表示がなされる。 FIG. 7B is a display example when an answer is output from the whole answer candidates for the input question sentence and the divided question sentence. In this example, the evaluation score on the first line of the answer candidate and the 12th line of the answer candidate is 0.4, but the answer candidate for the input question sentence is regarded as correct and is set as the first answer candidate. In the third candidate answer, the second candidate answer line with the second highest evaluation score of 0.32 is displayed. In this way, the images are sorted and displayed in the order of evaluation points.
次に、図8を用いて、分割質問文から得られた回答出力であることを示す情報を表示する場合の表示例について説明する。
図8において、第2位の回答「○○製菓」は分割質問文から得られた回答出力(図5D回答候補12行目)であるので、画面上の表示として回答出力の隣に別の色・あるいは形状の文字で「質問分割」と制御部102が制御し表示させることにより、ユーザが第2位の回答出力が分割質問文から得られた回答出力であることを知ることができる。
Next, a display example in the case of displaying information indicating that it is an answer output obtained from a divided question sentence will be described using FIG.
In FIG. 8, the second-ranked answer “XX Confectionery” is the answer output obtained from the divided question text (FIG. 5D answer candidate 12th line), so that another color is displayed next to the answer output on the screen. -Or, the
なお、この例では、回答出力の隣に別の色・あるいは形状の文字で表示したが、例えば分割質問文から得られた回答出力については回答出力の文字の色を変える等、回答出力の文字のフォントや文字の修飾を入力質問文から得られた回答出力と変えることにより識別可能としても良い。 In this example, the character is displayed in a different color or shape next to the answer output. For example, for the answer output obtained from the divided question text, the character of the answer output is changed by changing the color of the answer output character. It may be possible to identify the font by changing the font and character modification from the answer output obtained from the input question sentence.
このように回答出力が分割質問文から得られたものである場合、どのような分割質問文から得られたのかユーザが知りたい場合がある。これに対応するため、図9に示す通り、図8の回答出力に加えて、分割質問文についても表示するように制御部102が制御し表示させても良い。図9において、第2位の回答出力「○○製菓」は、2つの分割質問文(質問文ID=002「新潟にある本社がある会社は?」,質問文ID=003「お菓子製造の会社は?」)から得られた回答出力であるので、第2位の回答出力横や下等、第2位の回答出力に対応した表示であることが分かるように、第2位の回答出力に対応付けて表示する。このとき制御部102は、図4に示した質問文リスト112を参照することにより分割質問文を得て、第2位の回答出力に対応して画面上に出力表示する。
As described above, when the answer output is obtained from the divided question sentence, the user may want to know what kind of divided question sentence is obtained. In order to cope with this, as shown in FIG. 9, in addition to the answer output of FIG. 8, the
更に、回答出力についてどのような文書が根拠となる文書であるのかユーザが知りたい場合がある。これに対応するため図10に示すとおり、図9の回答出力に加え、回答出力の根拠となった文書についても回答出力に加えて表示する。実際には制御部102は、回答出力の根拠となった文書(根拠文書)の文書IDを、図5Dに示す回答候補保持部113のデータから得て、文書検索部123を介して文書データベース124から根拠文書を得て、第2位の回答出力に対応して画面上に出力表示する。
Further, there are cases where the user wants to know what document is the basis document for answer output. In order to cope with this, as shown in FIG. 10, in addition to the response output of FIG. 9, the document that is the basis of the response output is displayed in addition to the response output. Actually, the
このように、本実施形態においては、入力された質問文に対する回答根拠が複数の文書に分散している場合にも、入力された質問文による回答候補と、分割質問文による回答候補を獲得し、これらを評価して適切に回答候補を提示することができるようになる。 As described above, in the present embodiment, even when the basis for the answer to the input question sentence is distributed among a plurality of documents, the answer candidate based on the input question sentence and the answer candidate based on the divided question sentence are acquired. These can be evaluated and answer candidates can be presented appropriately.
また、本発明では回答候補をマージするときに評価点の合計としたが、必ずしも合計でなくても良い。例えば、合計×0.9というように係数を乗算するようにしても良い。 In the present invention, the sum of the evaluation points is used when the answer candidates are merged. For example, the coefficients may be multiplied by a total of 0.9.
その他、本発明はその趣旨を逸脱しない範囲内で種々の応用が可能である。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
In addition, the present invention can be applied in various ways without departing from the spirit of the present invention.
Note that the present invention is not limited to the above-described embodiment as it is, and can be embodied by modifying the components without departing from the scope of the invention in the implementation stage. In addition, various inventions can be formed by appropriately combining a plurality of components disclosed in the embodiment. For example, some components may be deleted from all the components shown in the embodiment. Furthermore, constituent elements over different embodiments may be appropriately combined.
101…入力部、102…制御部、103…出力部、111…分割質問文生成部、112…質問文リスト、113…回答候補保持部、121…質問パターンデータベース、122…回答種別判定部、123…文書検索部、124…文書データベース、125…回答表現抽出部、126…表現カテゴリデータベース、127…回答表現データベース、128…回答候補生成部。
DESCRIPTION OF
Claims (4)
入力された質問文を複数の分割された質問文である分割質問文に分割する質問文分割手段と、
前記質問文および前記分割質問文から検索キーワードを取り出し、前記複数の文書に対してキーワード検索を行い、このキーワード検索により得られた文書の文書IDおよび文書スコアをキーとして回答表現データベースを検索し、回答候補文字列を得て、この得た回答候補文字列と、前記質問文または前記分割質問文とを組として記憶する回答候補記憶手段と、
前記回答候補記憶手段が記憶する回答候補文字列と前記検索キーワードとの距離を評価計算し、この評価の結果得られた評価点を前記組毎に付与する回答候補評価手段と、
前記分割質問文から得られた前記組について、前記回答候補文字列が重複している場合マージし、前記評価点を加算するマージ手段と、
最終的に得られた前記組の評価点が高い組の順に、所定個の前記回答候補を回答として出力する回答出力手段とを有することを特徴とする質問応答装置。 In a question answering apparatus that extracts and outputs answers to an inputted question sentence from a plurality of documents registered in a document database ,
A question sentence dividing means for dividing the inputted question sentence into divided question sentences which are a plurality of divided question sentences;
Retrieve a search keyword from the question sentence and the divided question sentence , perform a keyword search for the plurality of documents , search the answer expression database using the document ID and document score of the document obtained by the keyword search as a key, Answer candidate storage means for obtaining an answer candidate character string and storing the obtained answer candidate character string and the question sentence or the divided question sentence as a set;
An answer candidate evaluation unit that evaluates and calculates a distance between the answer candidate character string stored in the answer candidate storage unit and the search keyword, and assigns an evaluation score obtained as a result of the evaluation to each set;
For the set obtained from the divided question text , a merge means for merging when the answer candidate character strings are duplicated , and adding the evaluation score ;
A question answering apparatus comprising: answer output means for outputting a predetermined number of answer candidates as answers in the order of the highest evaluation score of the set obtained finally.
前記分割質問文から得られた回答に、前記分割質問文から得られた回答であることを示す情報を付して出力する手段を有することを特徴とする請求項1に記載の質問応答装置。 The answer output means includes
The question answering apparatus according to claim 1, further comprising means for attaching and outputting information indicating that the answer is obtained from the divided question sentence to the answer obtained from the divided question sentence.
前記分割質問文から得られた回答に、当該回答と組として前記分割質問文を出力する手段を有することを特徴とする請求項1に記載の質問応答装置。 The answer output means includes
The question answering apparatus according to claim 1, further comprising means for outputting the divided question sentence as a pair with the answer to the answer obtained from the divided question sentence.
質問文分割手段により、入力された質問文を複数の分割された質問文である分割質問文に分割し、
回答候補記憶手段により、前記質問文および前記分割質問文から検索キーワードを取り出し、前記複数の文書に対してキーワード検索を行い、このキーワード検索により得られた文書の文書IDおよび文書スコアをキーとして回答表現データベースを検索し、回答候補文字列を得て、この得た回答候補文字列と、前記質問文または前記分割質問文とを組として記憶し、
回答候補評価手段により、前記回答候補記憶手段が記憶する回答候補文字列と前記検索キーワードとの距離を評価計算し、この評価の結果得られた評価点を前記組毎に付与し、
マージ手段により、前記分割質問文から得られた前記組について、前記回答候補文字列が重複している場合マージし、前記評価点を加算し、
回答出力手段により、最終的に得られた前記組の評価点が高い組の順に、所定個の前記回答候補を回答として出力することを特徴とする質問応答方法。 In the question answering method that extracts and outputs the answers to the input question text from multiple documents registered in the document database ,
The question sentence dividing means divides the inputted question sentence into a plurality of divided question sentences, which are divided question sentences,
A search keyword is extracted from the question sentence and the divided question sentence by the answer candidate storage means, the keyword search is performed on the plurality of documents , and the answer is obtained using the document ID and document score of the document obtained by the keyword search as keys. Search the expression database, obtain an answer candidate character string , store the obtained answer candidate character string and the question sentence or the divided question sentence as a set,
The answer candidate evaluation means evaluates and calculates the distance between the answer candidate character string stored in the answer candidate storage means and the search keyword, and assigns an evaluation score obtained as a result of this evaluation for each set,
For the set obtained from the divided question sentence by merging means, if the answer candidate character strings are duplicated , merge , add the evaluation score,
A question answering method characterized in that the answer output means outputs a predetermined number of the answer candidates as answers in the order of the highest evaluation score of the set obtained finally.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003400110A JP4145776B2 (en) | 2003-11-28 | 2003-11-28 | Question answering apparatus and question answering method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003400110A JP4145776B2 (en) | 2003-11-28 | 2003-11-28 | Question answering apparatus and question answering method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005165416A JP2005165416A (en) | 2005-06-23 |
JP4145776B2 true JP4145776B2 (en) | 2008-09-03 |
Family
ID=34724467
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003400110A Expired - Lifetime JP4145776B2 (en) | 2003-11-28 | 2003-11-28 | Question answering apparatus and question answering method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4145776B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4635659B2 (en) * | 2005-03-14 | 2011-02-23 | 富士ゼロックス株式会社 | Question answering system, data retrieval method, and computer program |
US8983989B2 (en) * | 2010-02-05 | 2015-03-17 | Microsoft Technology Licensing, Llc | Contextual queries |
-
2003
- 2003-11-28 JP JP2003400110A patent/JP4145776B2/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2005165416A (en) | 2005-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6461980B2 (en) | Coherent question answers in search results | |
JP3820242B2 (en) | Question answer type document search system and question answer type document search program | |
US8290967B2 (en) | Indexing and search query processing | |
US8271502B2 (en) | Presenting multiple document summarization with search results | |
US20090055394A1 (en) | Identifying key terms related to similar passages | |
JP4347226B2 (en) | Information extraction program, recording medium thereof, information extraction apparatus, and information extraction rule creation method | |
KR20100047221A (en) | Dictionary word and phrase determination | |
JP2005157524A (en) | Question response system, and method for processing question response | |
JP2007517338A (en) | Search quality improvement system and improvement method | |
JP4160548B2 (en) | Document summary creation system, method, and program | |
JP4502114B2 (en) | Database search device | |
JP2005025525A (en) | Information search system, information search method and information search program | |
JP2002007450A (en) | Retrieval support system | |
JP4114927B2 (en) | Document search system, question answering system, document search method | |
JP2004029906A (en) | Document retrieval device and method | |
JP6653169B2 (en) | Keyword extraction device, content generation system, keyword extraction method, and program | |
JPH0844771A (en) | Information retrieval device | |
JP4145776B2 (en) | Question answering apparatus and question answering method | |
JP3937741B2 (en) | Document standardization | |
JP4057962B2 (en) | Question answering apparatus, question answering method and program | |
JP2004246491A (en) | Text mining system and text mining program | |
JP5148583B2 (en) | Machine translation apparatus, method and program | |
JP3548955B2 (en) | Problem solving database search system and computer readable storage medium storing problem solving database search program | |
JP4106889B2 (en) | Information retrieval system | |
JPH10105562A (en) | Retrieval system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050415 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20050606 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080317 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080325 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080526 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080617 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080618 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4145776 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110627 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120627 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130627 Year of fee payment: 5 |
|
EXPY | Cancellation because of completion of term |