JPH09128394A

JPH09128394A - 自然言語処理システム

Info

Publication number: JPH09128394A
Application number: JP7309905A
Authority: JP
Inventors: Ko Ri; 航李
Original assignee: GIJUTSU KENKYU KUMIAI SHINJOHO; GIJUTSU KENKYU KUMIAI SHINJOHO SHIYORI KAIHATSU KIKO; NEC Corp
Current assignee: GIJUTSU KENKYU KUMIAI SHINJOHO; GIJUTSU KENKYU KUMIAI SHINJOHO SHIYORI KAIHATSU KIKO; NEC Corp
Priority date: 1995-11-02
Filing date: 1995-11-02
Publication date: 1997-05-16
Anticipated expiration: 2015-11-02
Also published as: JP3353578B2

Abstract

(57)【要約】【課題】自然言語処理システムにおいて、意味知識
（格フレームパターン）を自動的に獲得することを可能
とする。【解決手段】辞書部３は、単語と当該単語の属するク
ラスを表す属性との対応情報を記憶する。格フレームパ
ターン学習部４は、格フレーム記憶部１から格フレーム
を入力し、辞書部３を参照して当該格フレームにおける
単語を属性に置き換えて属性格フレームを生成し、当該
属性格フレームに基づく学習により確率付き依存グラフ
を生成し、当該確率付き依存グラフを格フレームパター
ンとして格フレームパターン記憶部２に格納する。自然
言語処理部５は、格フレームパターン記憶部２に格納さ
れた格フレームパターンを参照しながら、自然言語処理
を行う。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、機械翻訳システ
ム，自然言語インタフェースシステム，および情報検索
システム等の自然言語処理システムに関し、特に自然言
語処理システムにおける知識獲得および知識利用に関す
る。

【０００２】

【従来の技術】自然言語処理システムとは、人間の知的
活動のうちで言語理解の能力等、特に自然言語に関する
能力の一部を実現する計算機システムのことをいう。例
えば、異なる自然言語間の文章を翻訳する機械翻訳シス
テムは、自然言語処理システムの代表的なものである。
さまざまな能力や用途を有する自然言語処理システムを
実現することができれば、人間は強力な知的活動の道具
を得ることになる。

【０００３】高性能な自然言語処理システムを実現する
ためには、一般に、多くの意味知識が必要であると考え
られている。例えば、機械翻訳システムにおいて、「Ｔ
ｉｍｅｆｌｉｅｓｌｉｋｅａｎａｒｒｏｗ．」
という英文を、意味知識を利用せずに文法的な知識だけ
から機械翻訳すると、「光陰は矢の如し」という正しい
解釈に加え、「時間蝿は矢を好む」という誤った解釈が
されてしまう可能性がある。

【０００４】このような「曖昧性」（複数の解釈がなさ
れ得るといった曖昧性）を解消するためには、意味知識
が不可欠なのである。上述の例でいうと、現実世界で
は、「ｆｒｕｉｔｆｌｙ」（ショウジョウバエ）は存
在するが、「ｔｉｍｅｆｌｙ」（時間蝿）は存在しな
い。このような意味知識（「ｔｉｍｅｆｌｙ」が存在
しないという知識）を機械翻訳システムに与えることが
できれば、上述の２つの解釈のうちで、前者の正しい解
釈だけがなされるようになる。

【０００５】また、機械翻訳システムにおいて、同様に
構文的な知識のみから「Ｉｓａｗａｇｉｒｌｗｉ
ｔｈａｓｃａｒｆ．」という文を機械翻訳すると、
「私はスカーフを身につけている女の子を見た」という
解釈と「私はスカーフで女の子を見た」という解釈との
２つの解釈が出力されてしまう。現実世界では、「ｓｅ
ｅｗｉｔｈａｔｅｌｅｓｃｏｐｅ」（望遠鏡で見
ること）はあり得るが、「ｓｅｅｗｉｔｈａｓｃ
ａｒｆ」（スカーフで見ること）はあり得ない。機械翻
訳システムがこのような意味知識（「ｓｅｅｗｉｔｈ
ａｓｃａｒｆ」がありえないという知識）を持って
いれば、前者の正しい解釈だけが出力できるはずであ
る。

【０００６】自然言語処理の分野では、解析できた解釈
は普通「格フレーム」と呼ばれるもので表現される
（「岩波情報処理科学辞典，長尾等編集，岩波書店，１
９９０年発行」の第１０９頁参照（なお、第１０６頁の
「格構造」も参照のこと））。「格フレーム」はいくつ
かの「格スロット」を持ち、「格スロット」は行為者格
（主語），対象格（目的語），および場所格等の内容を
表す。また、解釈（格フレーム）のもっともらしさを判
断するための意味知識は、「格フレームパターン」と呼
ばれる。

【０００７】従来の多くの自然言語処理システムにおい
ては、人間が直接、格フレームパターンをその自然言語
処理システムに与えなければならなかった。しかし、格
フレームパターンの量は膨大であるので、人間が全部の
知識を与えるためには、大変な労力が必要であった。

【０００８】このため、電子化されたテキストの中から
格フレームを自動的に抽出し、抽出できた格フレームか
ら格フレームパターンを学習する発明が期待されていた
（以下、このような発明を「期待発明」と呼ぶ）。な
お、ここでいう「学習」とは、入力された格フレームの
例から格フレームパターンを獲得し、入力の例にない格
フレームのもっともらしさもその格フレームパターンの
知識で判断できるようにすることを意味する。

【０００９】従来技術として、電子化されたテキストか
ら格フレームを自動的に抽出する方式がいくつか知られ
ている。例えば、最も実現しやすい方式の１つにパター
ンマッチングという方式がある（「Ｓｍａｄｊａ，
Ｆ．，ＲｅｔｒｉｅｖｉｇｎＣｏｌｌｏｃａｔｉｏｎ
ｓｆｒｏｍＴｅｘｔ：Ｘｔｒａｃｔ，Ｃｏｍｐｕ
ｔａｔｉｏｎａｌＬｉｎｇｕｉｓｔｉｃｓ，Ｖｏｌ．
１９，Ｎｏ．１，１９９３」ｐｐ．１４３−１７７参
照）。

【００１０】この方式は、電子化されたテキストを走査
し、抽出条件を満足する一定の大きさの「窓」に現れる
単語を抽出し、その単語を格フレームの格スロットの内
容とする。例えば、単語ｆｌｙの主語を抽出する時に、
テキスト中のｆｌｙの前に５単語の「窓」をあけ、その
「窓」に現れる名詞をｆｌｙの主語になり得るものとし
て抽出する（ただし、この方式では間違った抽出が行わ
れることがある）。

【００１１】この方式を利用して上述の期待発明を実現
するためには、格フレームの事例を抽出した後に、それ
らの事例から如何に格フレームパターンの学習を行うか
が次の課題になる。

【００１２】本願の出願人（発明者も本願と同一）によ
る特願平６−１１５２２０号（自然言語処理装置）の明
細書では、概念の階層とＭＤＬ（ＭｉｎｉｍｕｍＤｅ
ｓｃｒｉｐｔｉｏｎＬｅｎｇｔｈ）基準（記述長最小
基準）とを用いて格フレームの格スロットの知識を学習
する装置（自然言語処理装置）が提案されている。ここ
で、概念の階層とは、例えば、「ａｎｉｍａｌ」が「ｄ
ｏｇ」の上位概念であるといった、概念間の上位下位関
係を表す木構造のことをいう。また、ＭＤＬ基準とは、
確率モデルを推定するための基準をいう。この自然言語
処理装置では、格スロットの学習は一次元の確率モデル
の学習として捉えられている。例えば、単語ｆｌｙの主
語となる単語をデータとして用いて概念の階層とＭＤＬ
基準とに基づきｆｌｙの主語の学習が行われ、それとは
独立に、ｆｌｙの目的語、ｆｌｙの後の前置詞句等の学
習も行われる。つまり、この自然言語処理装置を使え
ば、格フレームにおける各格スロットの知識を学習する
ことができる。

【００１３】しかし、格フレームパターンを獲得するた
めには、さらに各格スロットの間の関係も学習しなけれ
ばならない。なぜなら、格フレームのもっともらしさを
判断するときに、各格スロットの知識を利用するだけで
なく、その間の関係の知識をも利用する必要があるから
である。例えば、ｆｌｙを有する以下のような表現
（文）について、このことを考えてみる。

【００１４】○ Ｔｈｉｓａｉｒｌｉｎｅｃｏｍｐ
ａｎｙｆｌｉｅｓｍａｎｙｊｅｔｓ．（この航空
会社はたくさんのジェット機を飛ばす。）

【００１５】○ Ｔｈｅｇｉｒｌｗｉｌｌｆｌｙ
ＪＡＬ．（その少女は日本航空社の飛行機に乗る。）

【００１６】○ Ｔｈｅｇｉｒｌｗｉｌｌｆｌｙ
ａｊｅｔ．（その少女はジェット機を操縦する。）

【００１７】× Ｔｈｉｓａｉｒｌｉｎｅｃｏｍｐ
ａｎｙｗｉｌｌｆｌｙＪＡＬ．（非文）

【００１８】これらの文における各解釈（格フレーム）
のもっともらしさ（各文の前の○または×がもっともら
しさの有無（○が有）を示している）を判断するときに
は、各格スロット（主語および目的語等）が意味的に正
しいかどうかだけではなく、どの格スロットとどの格ス
ロットとが組み合わされているかもチェックしなければ
ならない。したがって、格フレームパターンを学習する
ときに、さらに格フレームにおける格スロットの間の依
存関係を学習する必要がある。

【００１９】従来の自然言語処理システムでは、上述の
特願平６−１１５２２０号に係る自然言語処理装置を含
めて、格フレームの格スロットの間の依存関係を自動的
に学習する技術は存在しなかった。したがって、従来に
おいては、格フレームパターンを自動的に獲得できる自
然言語処理システム（すなわち、上述の期待発明）は実
現されていなかった。

【００２０】ところで、機械学習の分野では、確率付き
依存グラフの自動学習の研究が行われている（例えば、
「Ｃ．Ｋ．Ｃｈｏｗ，Ｃ．Ｎ．Ｌｉｕ，Ａｐｐｒｏｘｉ
ｍａｔｉｎｇＤｉｓｃｒｅｔｅＰｒｏｂａｂｉｌｉ
ｔｙＤｉｓｔｒｉｂｕｔｉｏｎｓｗｉｔｈＤｅｐ
ｅｎｄｅｎｃｅＴｒｅｅｓ，ＩＥＥＥＴｒａｎｓａ
ｃｔｉｏｎｓｏｎＩｎｆｏｒｍａｔｉｏｎＴｈｅ
ｏｒｙ，Ｖｏｌ．ＩＴ−１４，Ｎｏ．３，Ｍａｙ１９
６８」および「鈴木譲，大嶽康隆，平沢茂一，記述長最
小基準と状態分割の立場からみた確率モデルの選択方法
について，情報処理学会論文誌，Ｖｏｌ．３３，Ｎｏ．
１１，１９９２」参照）。上述の研究の中で、鈴木らは
確率付き依存グラフの学習アルゴリズムを開発した。し
かし、鈴木らは、確率付き依存グラフの学習アルゴリズ
ムをアンケート調査の学習にしか適用しなかった（した
がって、当然に、自然言語処理システムへの適用は考慮
されていなかった）。

【００２１】

【発明が解決しようとする課題】上述したように、従来
の自然言語処理システムには、格フレームの格スロット
の間の依存関係を自動的に学習する技術は存在しなかっ
た。したがって、電子化されたテキストの中から格フレ
ームを自動的に抽出し、抽出できた格フレームから格フ
レームパターンを学習することができないという問題点
があった。

【００２２】本発明は、上述の点に鑑み、格フレームパ
ターンの学習問題を確率付き依存グラフの学習問題とし
て定式化し、確率付き依存グラフの学習アルゴリズムを
使って格フレームパターンの学習を実現することによ
り、上述の問題点を解決することができる自然言語処理
システムを提供することにある。

【００２３】

【課題を解決するための手段】本発明の自然言語処理シ
ステムは、格フレームを記憶する格フレーム記憶部と、
格フレームパターンを記憶する格フレームパターン記憶
部と、単語と当該単語の属するクラスを表す属性との対
応情報を記憶する辞書部と、前記格フレーム記憶部から
格フレームを入力し、前記辞書部を参照して当該格フレ
ームにおける単語を属性に置き換えて属性格フレームを
生成し、当該属性格フレームに基づく学習により確率付
き依存グラフを生成し、当該確率付き依存グラフを格フ
レームパターンとして前記格フレームパターン記憶部に
格納する格フレームパターン学習部と、前記格フレーム
パターン記憶部に格納された格フレームパターンを参照
しながら自然言語処理を行う自然言語処理部とを有す
る。

【００２４】また、本発明の自然言語処理システムは、
格フレームを記憶する格フレーム記憶部と、格フレーム
パターンを記憶する格フレームパターン記憶部と、前記
格フレーム記憶部から格フレームを入力し、当該格フレ
ームに基づく学習により確率付き依存グラフを生成し、
当該確率付き依存グラフを格フレームパターンとして前
記格フレームパターン記憶部に格納する格フレームパタ
ーン学習部と、前記格フレームパターン記憶部に格納さ
れた格フレームパターンを参照しながら自然言語処理を
行う自然言語処理部とを有するように構成することもで
きる。

【００２５】

【発明の実施の形態】次に、本発明について図面を参照
して詳細に説明する。

【００２６】初めに、本発明の第１の実施例の自然言語
処理システムについて説明する。

【００２７】図１は、本発明の第１の実施例の自然言語
処理システムの構成を示すブロック図である。

【００２８】本実施例の自然言語処理システムは、格フ
レーム記憶部１と、格フレームパターン記憶部２と、辞
書部３と、格フレームパターン学習部４と、自然言語処
理部５とを含んで構成されている。

【００２９】図２は、本実施例の自然言語処理システム
に入力された格フレーム（格フレーム記憶部１に格納さ
れている格フレーム）の例を示す図である。

【００３０】図３は、辞書部３内の辞書の例を示す図で
ある。

【００３１】図４は、格フレームパターン学習部４によ
り単語が属性に置き換えられた格フレームの例を示す図
である。

【００３２】図５，図６，および図７は、図２に示す格
フレームおよび図３に示す辞書に基づく本実施例の自然
言語処理システムの具体的な動作を説明するための図で
ある。

【００３３】図８は、格フレームパターン学習部４の処
理（学習アルゴリズムを実現する処理）を示す流れ図で
ある。この処理は、Ｔ初期化ステップ８０１と、格スロ
ットペアＱ格納ステップ８０２と、ＶＳ設定ステップ８
０３と、Ｑ空判定ステップ８０４と、先頭格スロットペ
ア取出しステップ８０５と、相互情報量・辺結合閾値大
小判定ステップ８０６と、格スロットペア取除きステッ
プ８０７と、両格スロット異集合所属判定ステップ８０
８と、ＶＳ中集合置換えステップ８０９と、Ｔ中辺追加
ステップ８１０とからなる。

【００３４】次に、このように構成された本実施例の自
然言語処理システムの動作について説明する。

【００３５】格フレーム記憶部１は、電子化されたテキ
ストから抽出された格フレーム（図２参照）を記憶す
る。格フレームは、いくつかの格スロットを有している
（図２においては、ａｒｇ１が行為者格を示す格スロッ
トであり、ａｒｇ２が対象格を示す格スロットであり、
ａｔが場所格を示す格スロットである）。

【００３６】辞書部３は、単語（例えば、ｊｏｈｎ，ａ
ｐｐｌｅ，ｈｏｍｅ，ｍａｒｙ，ｂｒｅａｄ，およびｒ
ｉｃｅ等の単語）と、当該単語の属するクラスを表す属
性（例えば、ｊｏｈｎやｍａｒｙに対するｐｅｒｓｏｎ
や、ａｐｐｌｅやｂｒｅａｄに対するｆｏｏｄ等）との
対応情報（図３参照）を記憶する。

【００３７】格フレームパターン学習部４は、上述のよ
うな格フレーム記憶部１および辞書部３の存在を前提と
して、以下に示すような処理を行う。

【００３８】第１に、格フレーム記憶部１から図２に示
すような格フレームを入力する。

【００３９】第２に、図３に示すような辞書（単語と属
性との対応情報）を有する辞書部３を参照し、格フレー
ム記憶部１から入力した格フレームにおける単語をその
属するクラスを表す属性に置き換える。図４に示すの
は、単語が属性によって置き換えられた格フレームの例
である。以下、このような「単語が属性によって置き換
えられた格フレーム」を「属性格フレーム」と呼ぶ。

【００４０】第３に、属性格フレームに基づく学習によ
り、確率付き依存グラフを生成する。

【００４１】上述の学習では、まず、属性格フレームを
学習の基礎となるデータとし、２つの格スロット（格ス
ロットペア）の間の相互情報量を、全ての格スロットペ
アについて計算する。図４の例の場合には、格スロット
がａｒｇ１，ａｒｇ２，およびａｔの３つとなっている
ので、（ａｒｇ１，ａｒｇ２）の相互情報量（ａｒｇ１
の格スロットとａｒｇ２の格スロットとの間の相互情報
量），（ａｒｇ１，ａｔ）の相互情報量，および（ａｒ
ｇ２，ａｔ）の相互情報量を計算する。なお、相互情報
量の値が大きいほど両方の格スロットの関係が密である
ことを示している。

【００４２】ここで、格スロットｘと格スロットｙとの
間の相互情報量ＭＩ（ｘ，ｙ）は、以下のようにして計
算される（格スロットｘがとり得る値（本実施例では属
性）をｉとし、格スロットｙがとり得る値をｊとす
る）。

【００４３】ＭＩ（ｘ，ｙ）＝Σ_i,j｛ｐ（ｘ＝ｉ，ｙ＝ｊ）・ｌｏｇＰＰ｝ＰＰ＝ｐ（ｘ＝ｉ，ｙ＝ｊ）／｛ｐ（ｘ＝ｉ）・ｐ（ｙ＝ｊ）｝

【００４４】ここで、ｐ（ｘ＝ｉ，ｙ＝ｊ）は、以下の
ようにして計算される。

【００４５】ｐ（ｘ＝ｉ，ｙ＝ｊ）＝｛ｆ（ｘ＝ｉ，ｙ
＝ｊ）＋０．５｝／（ｆ＋０．５×ｋ_x×ｋ_y）

【００４６】ｋ_xおよびｋ_yは、ｘおよびｙがとり得る
値の数である。ｆ（ｘ＝ｉ，ｙ＝ｊ）は、格スロットｘ
がｉであり格スロットｙがｊである格フレームの頻度
（データ数）である（例えば、図４において、ｆ（ａｒ
ｇ１＝ｐｅｒｓｏｎ，ａｒｇ２＝ｆｏｏｄ）は４とな
る）。ｆは全頻度（解析対象の格フレーム（ここでは、
属性格フレーム）の全データ数）である（例えば、図４
においては、ｆは１０となる）。ｆ（ｘ，ｙ）を統計す
るときに、格スロットｘおよびｙの片方しか格フレーム
に現れないことがある。その際には、現れない格スロッ
トについて、ｘ＝ｂｏｔまたはｙ＝ｂｏｔとする。「ｂ
ｏｔ」は「現れないこと」を表す特殊記号である。ｂｏ
ｔもｘやｙのとり得る値の１つである。

【００４７】また、ｐ（ｘ＝ｉ）とｐ（ｙ＝ｊ）とは、
以下のようにして計算される。

【００４８】ｐ（ｘ＝ｉ）＝｛ｆ（ｘ＝ｉ）＋０．５｝／（ｆ＋０．５×ｋ_x）ｐ（ｙ＝ｊ）＝｛ｆ（ｙ＝ｊ）＋０．５｝／（ｆ＋０．５×ｋ_y）

【００４９】図４に示す属性格フレームの具体例におけ
る格スロットに対しては、図５に示すような「相互情報
量の計算結果」が得られる。

【００５０】さて、上述の学習では、以上のようにして
相互情報量が計算された後に、以下の〜に示すよう
な処理が継続して行われる。

【００５１】複数（図２や図４の例では３つ）の格
スロットに関する格スロットペアを相互情報量について
降順にソートする。

【００５２】各格スロットをグラフ（確率付き依存
グラフ）の各節点と対応させる。

【００５３】格スロットペアの相互情報量の大きい
順に、その格スロットペアに対応する２つの節点を結ぶ
辺の生成を試みる。その際に、相互情報量がある値（辺
結合閾値と呼ぶ）以上でないと辺を結ばない。また、ル
ープを形成させる辺を結ぶことはない。

【００５４】最終的に完成したグラフの辺にその両
節点の間の条件付き確率を付ける（節点の確率も必要な
ものについては付ける）。

【００５５】なお、詳しい学習アルゴリズムは、図８に
示す通りである。以下に図８に示す学習アルゴリズムに
ついて、説明を加える。

【００５６】この学習アルゴリズムを実現する処理は、
以下の〜に示すようにして行われる（格フレームパ
ターン学習部４が以下の〜に示す一連の処理を行
う）。なお、以下の説明においては、解析対象の属性格
フレームに含まれる格スロットがｓ₁，ｓ₂，…，ｓ_k
であり、当該各格スロットのとり得る値の数がｋ₁，ｋ
₂，…，ｋ_kであるものとする。

【００５７】集合Ｔを空集合として初期化する（ス
テップ８０１）。なお、集合Ｔは、生成しようとしてい
る確率付き依存グラフにおける辺の集合である。

【００５８】格スロットｓ₁，ｓ₂，…，ｓ_kに関
する全ての格スロットぺアに対してその相互情報量を検
索し、当該相互情報量の値について格スロットペアを降
順でソートし、ソート結果（相互情報量について降順で
整序された格スロットペア群）をキューＱに格納する
（ステップ８０２）。

【００５９】格スロットの集合｛ｘ₁｝，
｛ｘ₂｝，…，｛ｘ_k｝の集合をＶＳとおく（ステップ
８０３）。集合ＶＳの初期状態は、｛ｘ₁｝がｓ₁だけ
から構成されており、｛ｘ₂｝がｓ₂だけから構成され
ており、…、｛ｘ_k｝がｓ_kだけから構成されている。

【００６０】キューＱが空であるか否かを判定し
（ステップ８０４）、空である場合には処理を終了す
る。

【００６１】ステップ８０４で「キューＱが空でな
い」と判定した場合には、キューＱの中の先頭の格スロ
ットペア（（ｓ_m，ｓ_n）とする。ｓ_mおよびｓ_nはｓ
₁，ｓ₂，…，ｓ_kの中のいずれか）を取り出し（ステ
ップ８０５）、その相互情報量（ＭＩ_max）が辺結合閾
値（ＴＨ）より大きいか否かを判定する（ステップ８０
６）。

【００６２】ここで、辺結合閾値ＴＨは、以下のように
して計算される。ＴＨ＝（ｋ_m−１）・（ｋ_n−１）・ｌｏｇｆ／２ｆただし、先にも述べたように、ｆは属性格フレームにお
ける全データ数であり、ｋ_mおよびｋ_nは格スロットｓ
_mおよびｓ_nのとり得る値の数である。

【００６３】ステップ８０６で「ＭＩ_max＞ＴＨで
ある」と判定した場合には、キューＱからその格スロッ
トペア（ｓ_m，ｓ_n）を取り除き（ステップ８０７）、
格スロットｓ_mと格スロットｓ_nとが集合ＶＳ中の異な
る集合に属するか否かを判定する（ステップ８０８）。

【００６４】ステップ８０８で「格スロットｓ_mと
格スロットｓ_nとが集合ＶＳ中の異なる集合に属する」
と判定した場合には（異なる２つの集合を集合Ｖ１と集
合Ｖ２とする）、集合ＶＳにおいて集合Ｖ1 および集合
Ｖ2 を両者の和集合で置き換え（ステップ８０９）、格
スロットｓ_mに対応する頂点と格スロットｓ_nに対応す
る頂点とを結ぶ辺（ｓ_m，ｓ_n）を集合Ｔに加える（ス
テップ８１０）。

【００６５】ステップ８０６で「ＭＩ_max＞ＴＨで
はない」と判定した場合には、処理を終了する。

【００６６】ステップ８０８で「格スロットｓ_mと
格スロットｓ_nとが集合ＶＳ中の異なる集合に属さない
（同じ集合に属する）」と判定した場合またはステップ
８１０の処理が終了した場合には、ステップ８０４の判
定に戻る。

【００６７】図６に、図４の属性格フレームのデータに
基づいて確率付き依存グラフが生成される際の学習の過
程を示す。図６に示すように、各格スロットに対応する
頂点の間の相互依存量が辺結合閾値（この例において
は、０．１６６１）と比較されて辺を結合するか否かが
決定される。なお、辺の矢印は格スロットの内容（どの
ような格を示すかということ等）に基づいて付されるも
のである。

【００６８】また、図７に、図６に示すような学習の過
程を経て生成された確率付き依存グラフ、すなわち格フ
レームパターンを示す。この格フレームパターンは、図
６に示す過程を経て図８に示す学習アルゴリズムに基づ
いて生成されたグラフの辺および頂点に条件付き確率お
よび確率が付されたものである。なお、ａｒｇ１からａ
ｒｇ２への辺の存在によって頂点ａｒｇ２の確率は必須
のものではなくなるので、冗長性を除去するために頂点
ａｒｇ２には確率が付されていない（ただし、付けても
かまわない）。

【００６９】最後に（第４に）、格フレームパターン学
習部４は、以上のようにして生成された確率付き依存グ
ラフを格フレームパターンとして、格フレームパターン
記憶部２に出力して格納する。

【００７０】自然言語処理部５は、格フレームパターン
記憶部２内の格フレームパターンを参照し、処理対象の
テキスト中の格フレームのもっともらしさを認識しつ
つ、所定の自然言語処理（機械翻訳処理および情報検索
処理等）を行う。例えば、図７に示す確率付き依存グラ
フを参照し、格フレーム（ｅａｔ（ａｒｇ１ｊｏｈ
ｎ）（ａｒｇ２ｏｒａｎｇｅ）（ａｔｈｏｍｅ））
の確率（もっともらしさの確率）を以下のように計算す
る。

【００７１】Ｐ（ａｒｇ１＝ｊｏｈｎ，ａｒｇ２＝ｏｒａｎｇｅ，ａｔ＝ｈｏｍｅ）＝Ｐ（ａｒｇ１＝ｐｅｒｓｏｎ，ａｒｇ２＝ｆｏｏｄ，ａｔ＝ｈｏｍｅ）＝Ｐ（ａｒｇ１＝ｐｅｒｓｏｎ）×Ｐ（ａｒｇ２＝ｆｏｏｄ｜ａｒｇ１＝ｐｅｒｓｏｎ）×Ｐ（ａｔ＝ｈｏｍｅ）＝０．５×０．７５×０．５＝０．１８７５

【００７２】自然言語処理部５は、このような確率を用
いて当該格フレームのもっともらしさの程度を知得し、
曖昧性の解消等を実現した上で所定の自然言語処理を行
うことができる。

【００７３】例えば、本実施例の自然言語処理システム
が機械翻訳システムである場合には、自然言語処理部５
は、格フレームパターン記憶部２に格納された格フレー
ムパターンを参照して、翻訳文における単語間の結び付
きのもっともらしさを判断する（このような処理内容
は、後述する第２の実施例においても同様である）。

【００７４】続いて、本発明の第２の実施例の自然言語
処理システムについて説明する。

【００７５】図９は、本発明の第２の実施例の自然言語
処理システムの構成を示すブロック図である。

【００７６】本実施例の自然言語処理システムは、格フ
レーム記憶部９１と、格フレームパターン記憶部９２
と、格フレームパターン学習部９４と、自然言語処理部
９５とを含んで構成されている。

【００７７】本実施例（第２の実施例）の自然言語処理
システムは、以下の〜の点で第１の実施例の自然言
語処理システムと異なっている。

【００７８】辞書部（第１の実施例における辞書部
３（図１参照））を必要としない。

【００７９】格フレームパターン学習部９４は、格
フレーム記憶部９１（格フレーム記憶部１と同一の記憶
部）内の格フレームにおける単語を属性に置き換えない
で、格フレームから直接に（属性格フレームを使わず
に）、格フレームパターン（確率付き依存グラフ）を生
成し、当該格フレームパターンを格フレームパターン記
憶部９２に出力する。

【００８０】自然言語処理部９５は、属性ではなく
単語を単位として格フレームパターン（で生成された
格フレームパターン記憶部９２内の格フレームパター
ン）を参照し、所定の自然言語処理を行う。

【００８１】第１の実施例と第２の実施例とを比較する
と、それぞれ、他方に対して次のような長所がある。

【００８２】第１の実施例の自然言語処理システムで
は、属性の考え方が導入されているので、格フレームパ
ターンの生成における学習効率が向上する。

【００８３】第２の実施例の自然言語処理システムで
は、単語単位で格フレームのもっともらしさが判断され
ることになるので、その判断の精度がよくなる。

【００８４】

【発明の効果】従来の自然言語処理システムは、格フレ
ームパターン、特に、格フレームにおける格スロットの
間の依存関係を学習することができなかった。すなわ
ち、従来の自然言語処理システムに対しては、格フレー
ムパターンの知識を人間が定義して与えなければならな
かった。また、従来より、確率付き依存グラフの学習に
関する技術は開発されていたが、その技術が自然言語処
理システムにおける格フレームパターンの学習に適用さ
れることはなかった。

【００８５】本発明の自然言語処理システムは、確率付
き依存グラフの学習に関する技術を利用して、意味知識
（格フレームパターン）を自動的に獲得することを可能
とした。これにより、自然言語処理システムの構築のた
めのコストを大幅に削減することができ、当該構築のた
めの人間の負荷を軽減することができるという効果が生
じる。

【図面の簡単な説明】

【図１】本発明の自然言語処理システムの第１の実施例
の構成を示すブロック図である。

【図２】図１中の格フレーム記憶部内の格フレームの例
を示す図である。

【図３】図１中の辞書部内の辞書（単語と属性との対応
情報）の例を示す図である。

【図４】図２に示す格フレームに対応する属性格フレー
ムを示す図である。

【図５】図４に示す属性格フレームに関する相互情報量
を示す図である。

【図６】図１中の格フレームパターン学習部による学習
の過程の例を示す図である。

【図７】図１中の格フレームパターン学習部によって生
成された確率付き依存グラフ（格フレームパターン）の
例を示す図である。

【図８】図１中の格フレームパターン学習部により実行
される学習アルゴリズムを実現する処理を示す流れ図で
ある。

【図９】本発明の自然言語処理システムの第２の実施例
の構成を示すブロック図である。

【符号の説明】

１，９１格フレーム記憶部２，９２格フレームパターン記憶部３辞書部４，９４格フレームパターン学習部５，９５自然言語処理部

Claims

【特許請求の範囲】

【請求項１】格フレームを記憶する格フレーム記憶部
と、格フレームパターンを記憶する格フレームパターン記憶
部と、単語と当該単語の属するクラスを表す属性との対応情報
を記憶する辞書部と、前記格フレーム記憶部から格フレームを入力し、前記辞
書部を参照して当該格フレームにおける単語を属性に置
き換えて属性格フレームを生成し、当該属性格フレーム
に基づく学習により確率付き依存グラフを生成し、当該
確率付き依存グラフを格フレームパターンとして前記格
フレームパターン記憶部に格納する格フレームパターン
学習部と、前記格フレームパターン記憶部に格納された格フレーム
パターンを参照しながら自然言語処理を行う自然言語処
理部とを有することを特徴とする自然言語処理システ
ム。
【請求項２】格フレームを記憶する格フレーム記憶部
と、格フレームパターンを記憶する格フレームパターン記憶
部と、前記格フレーム記憶部から格フレームを入力し、当該格
フレームに基づく学習により確率付き依存グラフを生成
し、当該確率付き依存グラフを格フレームパターンとし
て前記格フレームパターン記憶部に格納する格フレーム
パターン学習部と、前記格フレームパターン記憶部に格納された格フレーム
パターンを参照しながら自然言語処理を行う自然言語処
理部とを有することを特徴とする自然言語処理システ
ム。
【請求項３】機械翻訳処理を行い、格フレームパター
ン記憶部に格納された格フレームパターンを参照して翻
訳文における単語間の結び付きのもっともらしさを判断
する自然言語処理部を有することを特徴とする請求項１
または請求項２記載の自然言語処理システム。