JP3266246B2 - 自然言語解析装置及び方法並びに自然言語解析用知識ベース構築方法 - Google Patents

自然言語解析装置及び方法並びに自然言語解析用知識ベース構築方法

Info

Publication number
JP3266246B2
JP3266246B2 JP15557090A JP15557090A JP3266246B2 JP 3266246 B2 JP3266246 B2 JP 3266246B2 JP 15557090 A JP15557090 A JP 15557090A JP 15557090 A JP15557090 A JP 15557090A JP 3266246 B2 JP3266246 B2 JP 3266246B2
Authority
JP
Japan
Prior art keywords
vocabulary
tree
natural language
dependency
knowledge base
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP15557090A
Other languages
English (en)
Other versions
JPH0447364A (ja
Inventor
確 長尾
浩 野美山
Original Assignee
インターナシヨナル・ビジネス・マシーンズ・コーポレーシヨン
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インターナシヨナル・ビジネス・マシーンズ・コーポレーシヨン filed Critical インターナシヨナル・ビジネス・マシーンズ・コーポレーシヨン
Priority to JP15557090A priority Critical patent/JP3266246B2/ja
Priority to US07/714,408 priority patent/US5424947A/en
Priority to EP19910305412 priority patent/EP0467527A3/en
Publication of JPH0447364A publication Critical patent/JPH0447364A/ja
Application granted granted Critical
Publication of JP3266246B2 publication Critical patent/JP3266246B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Machine Translation (AREA)

Description

【発明の詳細な説明】 A.産業上の利用分野 本発明は、自然言語の文章の語彙間の依存関係に関す
る知識を用いて、文の構造的多義性を解消する装置及び
方法並びにそのための知識ベース構築方法に関する。
ここで、語彙とは名詞、動詞、形容詞、副詞などの内
容語であり、冠詞、前置詞などの機能語は含まないもの
とする。分野によっては、一続きの内容語も一つの語彙
として扱われる。例えば、コンピュータの技術文献で
は、“virtual disk"を一つの語彙として扱う。また、
依存関係とは語彙間の修飾・被修飾関係（係り受け関係
とも言う）のことである。
B.従来技術 自然言語を扱うシステムにとって、文の構造的多義性
は依然として解消が困難な問題として残されている。例
えば、英語文などにおける前置詞句の係り受けの多義性
である。“A user can log on the system with a pass
word."という文章において、“with a password"という
前置詞句が、“log on"という動詞に副詞的に係るか、
あるいは“the system"という名詞句に係るか、という
多義性が存在する。
文の構造的多義性を、語彙や句などの構成要素の意味
・機能的情報を基にして、解消するという手法がいくつ
か考えられている。例えば、Prentice−Hall社1969年発
行の、Modern Studies in Englishの361−375頁のChare
s J.Fillmore著，“Toward a modern theory of case"
に開示される格文法を理論的基盤とした手法である。文
の構成要素が述語に対して果たす機能を格といい、格の
機能のうち意味的なものを特に深層格という（添付の表
１参照）。
格文法では、文の構成要素は格要素と呼ばれ、格と格
要素の整合性によって文の適格性を判断する。例えば、
先の文章では、“log on"が述語で、“a user"は動作主
格、“the system"な対象格、“a password"は道具格の
機能を持つ。各々の動詞には格フレームと呼ばれる枠組
みが付けられていて、各々の動詞が持つ格とそれに対す
る格要素の制約条件が記述される。
格文法では、格に許容される格要素が規定されてお
り、これに違反する入力は意味的に不適切であるとして
棄却されていたが、実際の言語現象では意味的に受け入
れられる文とそうでない文の境界は微妙であり、それは
文脈にも依存する。例えば、“My car drinks gasolin
e."という文において、述語“drink"が、動作主格とし
て人間を表わす語彙（HUMという意味的属性を持つ語
彙）しか許さないとすると、“car"は“drink"の動作主
格としては棄却される。しかし、この文では、“car"は
比喩的に用いられていると考えると、“car"は“drink"
の動作主格として意味的に受け入れられる。格文法のよ
うに属性値を取るシステムは知識の構築は容易である
が、その運用の柔軟性に欠ける。
また、語彙間の統計的頻度情報を用いて構文解析木の
優先度を計算して構造的多義性を解消する手法が特開昭
63−91776号公報に開示されている。この方法の概要と
その問題点を説明する。
（１）入力された文から複数の解析木が実際に生成さ
れ、その中からもっともらしいものを選択する。複数の
解析木を生成することは、手間である。また、多義性に
あまり関係のない語彙の情報であっても、使わなければ
ならない。
（２）多義性の解消に、語彙と語彙の共起関係の統計的
頻度を使う。したがって、個別の例外は扱えない。たと
えば、ある単語ＡがＢとＣのどちらに係るか多義なと
き、統計的にはＢに係ることが多いとしても、ある特定
の文章の中ではＣに係るということは扱えない。また、
統計的頻度情報を得るために十分な正規化されたデータ
（“virtual machine"を“machine is virtual"として
登録するなど）を必要とするため、データの収集に非常
にコストがかかる。
（３）一般に、自然言語の語彙の数は膨大である。そこ
で、カバーできる範囲を拡大するために単語を抽象化し
たカテゴリーである意味マーカーというものを設定して
いるが、これは対象分野を変えると一から作り直さなけ
ればならない。例えば、“department"という語は、あ
る分野Ｐでは、組織のカテゴリーに分類される。そし
て、“department"に関する係受けの知識は、組織のカ
テゴリーとその他のカテゴリーの共起関係の統計情報に
吸収されてしまうと、しかしながら、別の分野Ｑでは、
“department"は、別のカテゴリーに分類されるとした
なら、分野Ｐの知識は、分野Ｑでは役にたたない。分野
毎に単語を抽象化し直して、統計情報を集め直すのは、
非常にコストがかかる。
Ｃ 発明が解決しようとする課題 要約すると、自然言語処理において、実用的に意味処
理を行なうには２つの問題がある。１つは、そのための
知識を大量に、しかも効率よく構築すること。もう１つ
は、大量な知識を効率よく利用するメカニズムである。
本発明は、この２つの問題点を克服し、実用に耐えう
る自然言語の意味解析システムを初めて提供する事を目
的とする。
Ｄ 課題を解決するための手段 自然言語文を解析する上で、最大のボトルネックとな
る構造的多義性は、語彙間の係り受け（依存）関係が複
数考えられることから発生する。このような構造的多義
性は、文法的知識だけでは解消することができない。意
味処理が必要となる。そこで、この問題を、語彙の依存
関係をあらかじめ背景知識として定義しておき、候補と
なる依存関係の中から、背景知識に照らし合わせて、適
切な依存関係を選択することによって解決する。つま
り、このシステムは、文章の構文解析の結果として、係
り受けの候補が複数存在する構造が得られた場合に、背
景知識として蓄えられた語彙間の依存関係を基にして、
文章中の語彙の依存関係の優先度を求めることによっ
て、どの係り受けがより適切であるかを決定することが
できる。
したがって、本発明の自然言語解析装置は、機械翻訳
システムや自然言語による質問応答システムなどの文解
析の中で適用され、構造的多義性を含む入力文に対し
て、語彙間の類義関係、階層関係、依存関係の知識を用
いて、最も適切な構文木を出力するために用いられる。
つまり、文法を用いた解析では、解消できない問題、例
えば、領域に固有の知識を用いることによって、初めて
一意に決まるような多義性や、先行する文の内容に依存
して決まる多義性の解消の問題に適用される。
従来の解析法に共通しているのは、語彙があらかじめ
持つべき情報、例えば意味的な分類のためのいくつかの
属性など、が非常に豊富で、それを人間がヒューリステ
ィックに決めている点である。
これに対し、本発明の自然言語解析に必要な情報は、
かなり形式的に記述され、新たに大量の背景知識を自動
的ないし半自動的に構築できる。それゆえ、比較的容易
に実用的なシステムを構築できる。
Ｅ 発明の構成 E1 システムの概略 構造的多義性の問題を解決するために、まず知識を、
語彙間の類義関係、階層関係、依存関係を表わす木構造
で表現する。文章が入力されたら、多義な係り受けに関
して、背景知識に定義されている語彙間の依存関係を、
類義関係や階層関係を利用して探索し、文章から得られ
る制約と、文脈から得られる制約を用いて、最適な係り
受けを選択することによって、多義性を解消する。確定
された依存構造は、文脈依存関係データとして、知識ベ
ースに登録される。システムの全体構成は第１図に示す
通りである。
次に、このシステムの、各々の構成要素について説明
する。以下に示す例では全て英文を用いているが、本手
法は特定の言語には依存しない。
E1−１ 構文解析器 文章を受け取り、多義性を内包した統語構造を出力す
る。
文“VM/SP keeps the information on the virtual d
isk."は、構文解析され、第２図のような係り受けの多
義性を内包した句構造が生成される。構文解析技術は本
発明に含まれないので、説明は省略する。
E1−２ 依存構造解析器 （１）依存構造生成部 句構造を、第３図のような語彙間の依存関係が明示的
に表現された依存構造に変換する。ここで、句構造の係
り受けの多義性は、語彙間の依存関係の多義性として表
現される。また、語彙間の依存関係には、深層格に相当
するラベルが付けられる。これは、表層の語順や前置詞
を手がかり決められ、可能な深層格の候補のリストとし
て表わされる。
（２）依存関係抽出部 生成された依存構造から、第４図のような多義な依存
関係を抽出する。これは、一つの多義性に関して、複数
の可能な依存関係の候補として表わされる。
（３）依存関係選択部 これは、可能な依存関係の候補に対して、それに相当
する関係を背景知識の中で探索する装置であり、複数候
補に関係が見いだされた場合は、どの関係がより確から
しいかを制約条件を用いて決定する。これに関しては、
後で詳細を説明する。
（４）依存構造変形部 各多義性に関して、最も確からしい依存関係が選択さ
れ、それに従って依存構造を変形し、構造的多義性を解
消する。このとき、依存関係に付けられた深層格も一意
に決められる。依存関係解析器の出力は、多義性の解消
された文の依存構造であり、その確定された依存関係
は、それ以降の文を解析するための制約となるため、文
脈依存関係データとして知識ベースに登録される。
このシステムの特徴は、半自動的に構築される知識ベ
ースと、知識ベースを用いて最良の依存関係を選択する
メカニズムである。次に、それらを順に説明する。
E2 知識ベースの構築 本実施例では、用語解説書のような、語彙に関する情
報を集めたものから、ある語彙と別の語彙との間の関
係、つまり、類義関係、階層関係、依存関係を抽出す
る。これらの関係が、知識ベースを構成する。
知識の表現形式としては、次のような理由から木構造
を採用した。
（１）文章を解析することによって、半自動的に構築で
きる。
（２）階層関係、依存関係を表現するのに適している。
類義関係は、後で述べるように２つの階層関係に変換
する。
（３）依存関係解析のための推論は、基本的に木構造の
枝を上にたどる手続きである。知識ベースには、文章か
ら得られた依存構造、また依存構造を変換して得られた
階層関係を表わす木構造が集められる。すなわち、知識
ベースは、木構造の集合体である。
従来の自然言語処理システムでは、知識ベースは、文
章解析に必要な情報が定式化されていないこともあっ
て、フレームなどの比較的何でも表現できる形式が好ま
れていた。しかし、フレーム表現は体系的に構築するの
が困難で、人間に依存した部分が多い。そのため、知識
ベースを大規模化するための労力が大変なものになる。
本システムの知識ベースは、ボトムアップ式に構築す
ることが可能であり、大規模化することが容易である。
さらに構造的多義性という問題の性質にもよく適合して
いる。
もちろん、先ず学習によって、知識を与える必要があ
る。知識ベースのデータは、用語解説文を解析し、依存
構造を生成し、それを変換することによって作られる。
以下にその手順を述べる。
（１）文章から、構文解析器を用いて、句構造を生成
し、それを語彙間の係り受け関係が明確となる依存構造
に変換する。学習段階においては、多義な係り受け関係
は人間が決定し、構造を特定する。例えば、文“Operat
ing system stores files on the disk."から、第５図
のような句構造が生成される。これを、第６図のような
依存構造に変換する。これは、依存関係解析器の依存構
造生成部によって行われる。
（２）第７図に示されるように、語彙間の依存関係を表
わすリンクには、深層格のラベル（agent,patient,loca
tion）が属性として付加される。これは、多義性解消の
ときの制約条件の一つとなる。このラベルは学習段階に
おいては、依存構造生成部によって、その候補が付けら
れた後で、人間によって一意に決められる。
（３）“A is a B."や“A is a synonym for B."などの
語彙間の階層（上位／下位）関係や類義関係を表わす文
から得られた依存構造は、isaというラベルのついたリ
ンクでＡとＢが繋がれた構造に変換される。この構造を
isa木と呼ぶ。第８図と第９図にその例を示す。
以上のように人間が決定した依存関係、階層関係、類
義関係データを、学習データとして知識ベースに蓄積す
る（第１図参照）。
E3 最尤な依存関係の選択 最尤な依存関係を選択するために、本システムでは、
（１）各々の依存関係に対応するパスを知識ベースにお
いて探索し（パス・サーチ）、（２）各々のパスに対し
て依存距離と呼ばれる値を、制約条件に基づいて計算す
る（距離計算）、という新しい方式を用いる。そして、
最短な依存距離を持つパスに対応する依存関係を、最尤
なものとして選択する。これは、依存関係解析器の依存
関係選択部によって行われる。
パス・サーチは、まず語彙と語彙の共起関係を用い
て、膨大な知識中の探索空間を限定する。自然言語にお
いて１つの語彙が生起する確率は非常に小さく、２語の
共起が実際に生じている知識は非常に少なくなる。その
ため、実際上、計算の負荷が最も大きい距離の計算の対
象となるものは、非常に小さくなり、結果として非常に
効率的な探索となる。
以下に、パス・サーチと距離計算に関して述べる。
（１）パス・サーチ パスとは、２つの語彙に関して、各々の語彙の類義
語、上位語の連鎖と、連鎖の終端の語彙間の依存関係を
合わせたものであり、知識ベースを、語彙を節点とした
グラフと考えたときの、語彙間の一つの経路である。例
えば、語彙“keep"と“virtual disk"の間の一つのパス
は第10図のようになる。
知識ベースにおいて、パスを探索するために、次のよ
うなアルゴリズムを考案した。このアルゴリズムは、添
付の表２のようなインデックス・テーブルを利用する。
ここで、テーブルtx（）は、その語彙の現われる木を
識別するポインターを表わし、（）の値は、その木にお
ける、その語彙の位置を表わす（第11図参照）。
isaなどの枝につけられたラベルは、常に下位の節点
の属性として付けられているため、isa木のコラムにあ
るポインターは、その語彙がisaの枝の下位に現われる
木を指している。ここで、テーブル（表２）から、語彙
ａはisa木t0の（０）の位置にあり、語彙ｂは、isa木を
参照して、t0の一番上のノードすなわち我々の記法では
t0（）として表される。すなわち、第12図のようになっ
ている。
ここで、ｂがａの類義語あるいは上位語であること
は、t0（０）を一つ上にたどることによって分かる。こ
のようにして、テーブルの語彙ｂのisa木のコラムを見
れば、ａとisaのついた枝でつながれた語彙はすべて分
かる。ｂについても同様に、isa木を一段たどって、類
義語・上位語が分かる。このようにして、ａの類義語・
上位語の連鎖が、いくつかできる。
今、ＰはＱの上位語であり、ＱはＲの上位語であると
しよう。このとき、isa木は、二本できる。そして、本
発明では、Ｒの上位語を知るために、Ｒがテーブルに入
力されたなら、まず一本のisa木を使ってＲの直接の上
位語Ｑを知り、次にもう一本のisa木を使ってＱの直接
の上位語Ｐを知る事によって、Ｒの上位語を全て知るよ
うにする。
上の例では、isa木は、上位語と下位語の二つのみを
含む。したがって、テーブルに入力された語を下位語と
して含むisa木の識別データが重要であり、その木の中
での下位語の位置情報は必須ではないことに注意された
い。
他の例では、１本のisa木が上記Ｐ、Ｑ、Ｒを含む事
も可能である。その場合には、テーブルに入力された語
を下位語として含むisa木の識別データのみならず、そ
の木の中での下位語の位置情報も必須となることに注意
されたい。
次に、２つの語彙の間のパスを探索するためには、各
々の類義語・上位語の連鎖のいずれかに登場する語彙の
間に依存関係が存在するかどうかを調べる必要がある。
それは、一方の連鎖に含まれる語彙の含まれる依存構造
木の集合と、他方のそれとの間に共通のものがあり、さ
らにその木において、各々の語彙の間に依存関係あるい
は依存関係の推移があるかどうかを調べることに相当す
る。依存構造木において、２つの語彙のその木における
位置から、語彙間に依存関係あるいはその推移があるか
どうかが分かる。
例えば、語彙ｂに、語彙ｄが係るような依存関係は、
ｂの含まれる依存構造木の集合｛t30（１）,t110
（０）｝とｄの含まれる依存構造木の集合｛t40（1
0）,t110（0 1 0）｝の間の共通要素t110におけるｂの
位置（０）とｄの位置（0 1 0）から、ｂはｄの先祖（a
ncestor）であることから、ｂとｄの間に依存関係の推
移があることが分かる（第13図参照）。
木構造においては、節点ｂが、節点ｄの先祖であると
き、ｄからｂへの経路は一意に決まるので、依存関係を
見いだすことと、位置関係を調べることは等価であると
見なされる。語彙の間のパスは、各々の全ての類義語・
上位語連鎖をisa木から求め、連鎖に含まれる語彙の含
まれる依存構造木の集合の共通要素を求め、その木にお
ける語彙の位置関係を調べることで、その存在の有無が
分かり、依存関係の存在する木をたどることによって、
求められる。例えば、語彙ａとｃの間の一つのパスは、
第14図のようになる。
（２）依存距離計算 パスには、いくつかの制約条件が考えられ、それによ
って語彙間の依存関係の近さを計算することができる。
語彙間の依存関係の近さの度合を表わす尺度を依存距離
と呼ぶ。依存距離は、パスに含まれる枝（依存関係）の
数と制約を評価した結果得られる値に基づいて決定され
る。
制約条件は、大きく分けて３種類が考えられる。一つ
は、枝につけられた深層格のラベルが、候補となる係り
受けにおいて可能な関係（ある語彙が、ある述語に主語
として係るとか、目的語として係るなど）に対応してい
るかどうか、という制約である。例えば、“VM/SP keep
s the information on the virtual disk."という文
で、第15図のような依存関係から、第16図のようなパス
が得られたとする。このとき、“keep"と“virtual dis
k"の間の表層格（文章から直接得られる格）と、“stor
e"と“disk"の間の深層格の間に整合がとられていなけ
ればならない。ここで、表層格onは場所を表わす深層格
locationを持つ場合があるので、依存関係とパスの間で
格の整合性は保たれている。このように、依存関係とパ
スの間の格関係の整合がとれていれば、パスの格制約の
値は１、さもなくば０になる。この場合のパスの格制約
の値は１である。
もう一つは、共起制約、すなわち同じ文の異なる位置
に現われている語彙との関係に関する制約で、例えば、
ある語彙が、ある述語に目的語として係る場合に、その
述語の主語は、ある特定の語彙か、あるいはその類義語
・上位語である、という制約である。言い換えれば、そ
の文中で何らかの関連（主語、述語など）をもたなくて
はならないという制約であるが、同一語でなく、関連語
であってもかまわない。共起関係とは、ある２つの単語
が、何らかの１文の中で同時に存在していること、であ
る。
先の例では、第17図のように、“VM/SP"が“keep"の
主語（subject）になっている。一方、パスは、第18図
のような知識ベースの依存構造木から得られたものとす
ると、第19図の共起関係が見つかり、“operating syst
em"が“store"の行為者（agent）であることが分かる。
また、第20図のような“VM/SP"と“operating system"
との階層関係がやはり知識として定義されていれば、第
21図のように、パスと文章の間で、語彙の共起に関する
整合がとれていることが分かる。ここで、表層格subjec
tは深層格agentを持ちうるので、格についても整合がと
れている。このように、共起の整合がとれているもの
（語彙と格が同時に対応しているもの）の数が、共起制
約の値となる。この場合のパスの共起制約の値は１であ
る。（主語以外の共起に関する整合はとれていない。） ３つめの制約は、文脈に関する制約であり、パス上に
現われた語彙間の依存関係がすでに前文までの文脈に現
われている場合、その依存関係は、その文脈で強く支持
されてると考えられるので、そのパス上の依存関係の距
離が近くなる、という制約である。
例えば、先の例の文に先行する文として、“In VM/S
P,the data is stored on the storage device."という
文があった場合、第22図のような依存構造が知識ベース
の文脈データとして、登録されていることになる。（こ
こでの、objectは深層格ではなく、目的語を表わす表層
格である。）このとき、パスに現われた依存関係store
←diskの“store"と“disk"の間で、知識ベースの類義
・階層関係と文脈の依存関係を用いて、パス・サーチを
行なうと、第23図のようなパスが見つかり、“store"と
“disk"の依存関係が文脈において規定されていること
が分かる。このように、パスに含まれる依存関係のうち
文脈おいて依存関係が規定されているものの数が、文脈
制約の値となる。この場合は、パスに含まれる依存関係
は一つであるので、パスの文脈制約の値は１になる。
依存距離の値は、以上の制約の値と、パスに含まれる
依存関係の数を用いて計算される。第14図で言えば、語
彙ａとｃの間の一つのパスに含まれる依存関係の数は、
isa木の関係を依存関係の数には含めることなく、２で
ある。すなわち、次のような式で計算される。
この式は、格制約と共起制約はパス全体に、文脈制約
はパスに含まれる個々の依存関係に、それぞれ影響する
ことを反映している。ここで、ｎは０〈ｎ〈１である実
数で、文脈をどの程度重要視するかを表わす、ヒューリ
スティックに決められるパラメータである。上の例のパ
スの依存距離は、依存関係数１、格制約値１、共起制約
値１、文脈制約値１より、0.125になる（ｎ＝0.5）。
E4 知識ベースへの登録 最尤であると判断された依存構造は、知識ベースに登
録され、後に入力される文の構造的多義性の解消に利用
される。判断結果は、文脈に依存する度合いが高いの
で、学習データと区別するために、文脈依存関係データ
として、別個に登録するのが好ましい（第１図参照）。
具体的には、第７図の様な依存構造と深層格の情報を蓄
積する知識ベースと、表２の右半分のみのインデックス
・テーブルが、文脈依存関係データのために分野毎に用
意される。そして、最尤の依存関係が決定されると、そ
れを反映するデータが知識ベースとインデックス・テー
ブルに追加される。既登録の依存構造と照合する事によ
り、重複登録は避けるようにしてもよい。
このようにして、知識を自動的に増加することが可能
になる。厳密には、人間の介入を要する場面もあるの
で、自動的とは言えなくても、少なくとも半自動的には
知識は増加する。
E6 実験結果 前置詞句の係り受けの多義性に関して、コンピュータ・
マニュアルから抜きだした約2000文を用いて本システム
の実験を行った。以下に、その結果を示す。
ここで、知識として、「IBMコンピュータ用語辞典」の
定義文約20000文を基にして構築した依存構造を用いて
いる。
これにより、かなり有効な手法であることが分かっ
た。
Ｆ 効果 本発明によれば、自然言語における構造的多犠牲解消
のための知識を大量に、且効率よく構築することが可能
になる。更に、大量の知識を効率よく利用することも可
能になる。
【図面の簡単な説明】
第１図は、本発明による自然言語解析用システムの構成
の説明図である。第２図は、多義性を含む句構造の説明
図である。第３図は、多義性を含む依存構造の説明図で
ある。第４図は、可能な依存構造の候補の説明図であ
る。第５図は、句構造の一例の説明図である。第６図
は、依存構造の一例の説明図である。第７図は、依存構
造と深層格の説明図である。第８図は、階層関係の説明
図である。第９図は、類義関係の説明図である。第10図
は、パスの説明図である。第11図は、依存構造木におけ
る語彙の位置の説明図である。第12図は、isa木の説明
図である。第13図は、依存関係の推移の説明図である。
第14図は、語彙ｃから語彙ａへのパスの説明図である。
第15図は、keepとvirtual diskの間の依存関係の説明図
である。第16図は、virtual diskからkeepへのパスの説
明図である。第17図は、共起関係の説明図である。第18
図は、知識ベース中の依存構造の説明図である。第19図
は、知識ベース中の共起関係の説明図である。第20図
は、知識ベース中の階層関係の説明図である。第21図
は、パスと文の間の共起関係に関する説明図である。第
22図は、文脈データの依存構造の説明図である。第23図
は、文脈データにおけるパスの説明図である。
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平２−59962（ＪＰ，Ａ) 特開 昭63−219073（ＪＰ，Ａ) 「技術抄録文からの関係情報の自動抽 出」情報処理学会論文誌 Ｖｏｌ．25 Ｎｏ．２（1984)

Claims (25)

    (57)【特許請求の範囲】
  1. 【請求項１】コンピュータ・システムにおいて自動処理
    可能な自然言語解析装置であって、 （ａ）文の中での語彙の依存関係を表わす第一種の木並
    びに語彙の上位／下位関係である階層関係及び類義関係
    を表す第二種の木を蓄積する知識ベース手段、 （ｂ）語彙の入力に応答して、該語彙の現れる第一種の
    木の識別データ及び該第一種の木の中での該語彙の位置
    データ並びに該語彙を下位語として含む第二種の木の識
    別データを出力するためのテーブル手段、 （ｃ）入力された文の構造が一義的であるか多義的であ
    るかどうかを判定する手段、 （ｄ）構造的に多義的であると判定された文について
    は、複数の可能な依存関係の各々について、修飾語と被
    修飾語のペアを抽出する手段、 （ｅ）ペア毎にペアを構造する語彙について、テーブル
    手段を利用して、知識ベース手段に蓄積されている第一
    種の木及び第二種の木を調べ、該語彙を両端とし、かつ
    第一種の木に現れる語彙の一部を含んでなるパスを決定
    する手段、 （ｆ）ペア毎に、決定されたパスによって導き出せる依
    存関係の数と複数の制約値とに基づいて、距離を計算す
    る手段、及び （ｇ）ペア毎に求まった距離に基づいて、最尤の依存関
    係を決定する手段 を具備する自然言語解析装置。
  2. 【請求項２】（ｈ）上記手段（ｇ）によって決定された
    最尤の依存関係を含む、入力文に関する第一種の木を上
    記知識ベース手段（ａ）に蓄積し、且つこれに応じて上
    記テーブル手段（ｂ）を更新する手段を具備する請求項
    １記載の自然言語解析装置。
  3. 【請求項３】上記知識ベース手段（ａ）は、上記手段
    （ｈ）の追加する文脈依存関係データを学習データと区
    別して蓄積する請求項２記載の自然言語解析装置。
  4. 【請求項４】上記テーブル手段（ｂ）は、文脈依存関係
    データ用を学習データ用と分けている請求項２記載の自
    然言語解析装置。
  5. 【請求項５】上記第一種の木には、依存関係毎に深層格
    のデータが与えられている請求項１記載の自然言語解析
    装置。
  6. 【請求項６】上記手段（ｆ）において、制約値の１つが
    文脈制約値である請求項１記載の自然言語解析装置。
  7. 【請求項７】上記手段（ｆ）において、制約値の１つが
    格制約値である請求項１記載の自然言語解析装置。
  8. 【請求項８】上記手段（ｆ）において、制約値の１つが
    共起制約値である請求項１記載の自然言語解析装置。
  9. 【請求項９】上記第二種の木は上位語と下位語に相当す
    る二つのノードのみを持つisa木であり、 上記手段（ｅ）は、ペアを構成する語彙の上位語が出力
    されたなら、更にその上位語を下位語として含むisa木
    を探すことを繰返すことにより、上位語の連鎖を出力す
    る請求項１記載の自然言語解析装置。
  10. 【請求項１０】上位／下位関係を二本のisa木で表わす
    請求項１記載の自然言語解析装置。
  11. 【請求項１１】文の中での語彙の依存関係を表す第一種
    の木並びに語彙の上位／下位関係である階層関係及び類
    義関係を表す第二種の木を蓄積する知識ベースと、語彙
    の入力に応答して、該語彙の現れる第一種の木の識別デ
    ータ及び該第一種の木の中での該語彙の位置データ並び
    に該語彙を下位語として含む第二種の木の識別データを
    出力するためのテーブルとを備えたコンピュータ・シス
    テムにおいて用いる方法であって、 （ａ）入力された文の構造が一義的であるか多義的であ
    るかどうかを判定するステップ、 （ｂ）構造的に多義的であると判定された文について
    は、複数の可能な依存関係の各々について、修飾語と被
    修飾語のペアを抽出するステップ、 （ｃ）ペア毎にペアを構成する語彙について、テーブル
    を利用して、知識ベースに蓄積されている第一種の木及
    び第二種の木を調べ、該語彙を両端とし、かつ第一種の
    木に現れる語彙の一部を含んでなるパスを決定するステ
    ップ、 （ｄ）ペア毎に、決定されたパスによって導き出せる依
    存関係の数と複数の制約値とに基づいて、距離を計算す
    るステップ、及び （ｅ）ペア毎に求まった距離に基づいて、最尤の依存関
    係を決定するステップを具備する自然言語解析方法。
  12. 【請求項１２】（ｆ）上記ステップ（ｅ）によって決定
    された最尤の依存関係を含む、入力文に関する第一種の
    木を上記知識ベースに蓄積し、且つこれに応じて上記テ
    ーブルを更新するステップを具備する請求項11記載の自
    然言語解析方法。
  13. 【請求項１３】上記知識ベースは、上記ステップ（ｆ）
    で追加される文脈依存関係データを学習データと区別し
    て蓄積する請求項12記載の自然言語解析方法。
  14. 【請求項１４】上記テーブルは、文脈依存関係データ用
    を学習データ用と分けている請求項12記載の自然言語解
    析方法。
  15. 【請求項１５】上記第一種の木には、依存関係毎に深層
    格のデータが与えられている請求項11記載の自然言語解
    析方法。
  16. 【請求項１６】上記ステップ（ｄ）において、制約値の
    １つが文脈制約値である請求項11記載の自然言語解析方
    法。
  17. 【請求項１７】上記ステップ（ｄ）において、制約値の
    １つが格制約値である請求項11記載の自然言語解析方
    法。
  18. 【請求項１８】上記ステップ（ｄ）において、制約値の
    １つが共起制約値である請求項11記載の自然言語解析方
    法。
  19. 【請求項１９】上記第二種の木は上位語と下位語に相当
    する二つのノードのみを持つisa木であり、 上記ステップ（ｃ）は、ペアを構成する語彙の上位語が
    出力されたなら、更にその上位語を下位語として含むis
    a木を探すことを繰返すことにより、上位語の連鎖を出
    力する請求項11記載の自然言語解析方法。
  20. 【請求項２０】上位／下位関係を二本のisa木で表わす
    請求項11記載の自然言語解析方法。
  21. 【請求項２１】コンピュータ・システムにおいて自動処
    理可能な自然言語解析用の知識ベース構築方法であっ
    て、 （ａ）文の中での語彙の依存関係を表す第一種の木並び
    に語彙の上位／下位関係である階層関係及び類義関係を
    表す第二種の木を蓄積する知識ベース、及び、語彙の入
    力に応答して、該語彙の現れる第一種の木の識別データ
    及び該第一種の木の中での該語彙の位置データ並びに該
    語彙を下位語として含む第二種の木の識別データを出力
    するためのテーブルを設け、 （ｂ）上記テーブルを利用して、入力文の複数の可能な
    依存関係の候補の中から、上記知識ベースに蓄積されて
    いる第一種の木及び第二種の木に基づいて、入力された
    語彙を含むパスを探索し、該パスによって導き出せる依
    存関係の数と複数の制約値とに基づいて最尤の依存関係
    を決定し、 （ｃ）決定された最尤の依存関係を含む入力文に関する
    第一種の木を上記知識ベースに蓄積する 自然言語解析用の知識ベース構築方法。
  22. 【請求項２２】上記知識ベースは、上記ステップ（ｃ）
    で追加された文脈依存関係データを学習データと区別し
    て蓄積する請求項21記載の自然言語解析用の知識ベース
    構築方法。
  23. 【請求項２３】コンピュータ・システムにおいて自動処
    理可能な自然言語解析用の知識ベース構築方法であっ
    て、 （ａ）文の中での語彙の依存関係を表す第一種の木並び
    に語彙の上位／下位関係である階層関係及び類義関係を
    表す第二種の木を蓄積する知識ベース、及び、語彙の入
    力に応答して、該語彙の現れる第一種の木の識別データ
    及び該第一種の木の中での該語彙の位置データ並びに該
    語彙を下位語として含む第二種の木の識別データを出力
    するためのテーブルを設け、 （ｂ）上記テーブルを利用して、入力文の複数の可能な
    依存関係の候補の中から、上記知識ベースに蓄積されて
    いる第一種の木及び第二種の木に基づいて、入力された
    語彙を含むパスを探索し、該パスによって導き出せる依
    存関係の数と複数の制約値とに基づいて最尤の依存関係
    を決定し、 （ｃ）決定された最尤の依存関係を含む入力文に関する
    第一種の木を上記知識ベースに蓄積し、且つこれに応じ
    て上記テーブルを更新する 自然言語解析用の知識ベース構築方法。
  24. 【請求項２４】上記知識ベースは、上記ステップ（ｃ）
    で追加された文脈依存関係データを学習データと区別し
    て蓄積する請求項23記載の自然言語解析用の知識ベース
    構築方法。
  25. 【請求項２５】上記テーブルは、文脈依存関係データ用
    を学習データ用と分けている請求項23記載の自然言語解
    析用の知識ベース構築方法。
JP15557090A 1990-06-15 1990-06-15 自然言語解析装置及び方法並びに自然言語解析用知識ベース構築方法 Expired - Fee Related JP3266246B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP15557090A JP3266246B2 (ja) 1990-06-15 1990-06-15 自然言語解析装置及び方法並びに自然言語解析用知識ベース構築方法
US07/714,408 US5424947A (en) 1990-06-15 1991-06-12 Natural language analyzing apparatus and method, and construction of a knowledge base for natural language analysis
EP19910305412 EP0467527A3 (en) 1990-06-15 1991-06-14 Natural language apparatus and method and construction of a knowledge base for natural language analysis

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP15557090A JP3266246B2 (ja) 1990-06-15 1990-06-15 自然言語解析装置及び方法並びに自然言語解析用知識ベース構築方法

Publications (2)

Publication Number Publication Date
JPH0447364A JPH0447364A (ja) 1992-02-17
JP3266246B2 true JP3266246B2 (ja) 2002-03-18

Family

ID=15608932

Family Applications (1)

Application Number Title Priority Date Filing Date
JP15557090A Expired - Fee Related JP3266246B2 (ja) 1990-06-15 1990-06-15 自然言語解析装置及び方法並びに自然言語解析用知識ベース構築方法

Country Status (3)

Country Link
US (1) US5424947A (ja)
EP (1) EP0467527A3 (ja)
JP (1) JP3266246B2 (ja)

Families Citing this family (264)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5675815A (en) * 1992-11-09 1997-10-07 Ricoh Company, Ltd. Language conversion system and text creating system using such
JP2821840B2 (ja) * 1993-04-28 1998-11-05 日本アイ・ビー・エム株式会社 機械翻訳装置
JP2796690B2 (ja) * 1993-05-25 1998-09-10 株式会社エイ・ティ・アール自動翻訳電話研究所 用例主導型自然言語解析装置
JPH07182465A (ja) * 1993-12-22 1995-07-21 Hitachi Ltd 文字認識方法
CA2148028A1 (en) * 1994-05-25 1995-11-26 Deborah L. Mcguinness Knowledge base management system with dependency information for procedural tests
JPH0869470A (ja) * 1994-06-21 1996-03-12 Canon Inc 自然言語処理装置及びその方法
US5799268A (en) * 1994-09-28 1998-08-25 Apple Computer, Inc. Method for extracting knowledge from online documentation and creating a glossary, index, help database or the like
US5682539A (en) * 1994-09-29 1997-10-28 Conrad; Donovan Anticipated meaning natural language interface
JP2855409B2 (ja) * 1994-11-17 1999-02-10 日本アイ・ビー・エム株式会社 自然言語処理方法及びシステム
US5887120A (en) 1995-05-31 1999-03-23 Oracle Corporation Method and apparatus for determining theme for discourse
US5983169A (en) * 1995-11-13 1999-11-09 Japan Science And Technology Corporation Method for automated translation of conjunctive phrases in natural languages
JP2987099B2 (ja) * 1996-03-27 1999-12-06 株式会社日立国際ビジネス 文書作成支援システム及び用語辞書
US5848386A (en) * 1996-05-28 1998-12-08 Ricoh Company, Ltd. Method and system for translating documents using different translation resources for different portions of the documents
US5966686A (en) * 1996-06-28 1999-10-12 Microsoft Corporation Method and system for computing semantic logical forms from syntax trees
US5878385A (en) * 1996-09-16 1999-03-02 Ergo Linguistic Technologies Method and apparatus for universal parsing of language
US5841895A (en) * 1996-10-25 1998-11-24 Pricewaterhousecoopers, Llp Method for learning local syntactic relationships for use in example-based information-extraction-pattern learning
US5991712A (en) * 1996-12-05 1999-11-23 Sun Microsystems, Inc. Method, apparatus, and product for automatic generation of lexical features for speech recognition systems
US6076051A (en) * 1997-03-07 2000-06-13 Microsoft Corporation Information retrieval utilizing semantic representation of text
US5822743A (en) * 1997-04-08 1998-10-13 1215627 Ontario Inc. Knowledge-based information retrieval system
US5991710A (en) * 1997-05-20 1999-11-23 International Business Machines Corporation Statistical translation system with features based on phrases or groups of words
US6016467A (en) * 1997-05-27 2000-01-18 Digital Equipment Corporation Method and apparatus for program development using a grammar-sensitive editor
US5930788A (en) * 1997-07-17 1999-07-27 Oracle Corporation Disambiguation of themes in a document classification system
US6098033A (en) * 1997-07-31 2000-08-01 Microsoft Corporation Determining similarity between words
US6138085A (en) * 1997-07-31 2000-10-24 Microsoft Corporation Inferring semantic relations
US6098042A (en) * 1998-01-30 2000-08-01 International Business Machines Corporation Homograph filter for speech synthesis system
EP0962873A1 (en) * 1998-06-02 1999-12-08 International Business Machines Corporation Processing of textual information and automated apprehension of information
US6912523B2 (en) * 1998-08-18 2005-06-28 Mitsubishi Denki Kabushiki Kaisha Object data retrieving device, object data retrieving method, and computer-readable recording medium containing recorder data
US6499013B1 (en) * 1998-09-09 2002-12-24 One Voice Technologies, Inc. Interactive user interface using speech recognition and natural language processing
US6167370A (en) * 1998-09-09 2000-12-26 Invention Machine Corporation Document semantic analysis/selection with knowledge creativity capability utilizing subject-action-object (SAO) structures
DE19910621C2 (de) 1999-03-10 2001-01-25 Thomas Poetter Vorrichtung und Verfahren zum Verbergen von Informationen und Vorrichtung und Verfahren zum Extrahieren von Informationen
US6405211B1 (en) 1999-07-08 2002-06-11 Cohesia Corporation Object-oriented representation of technical content and management, filtering, and synthesis of technical content using object-oriented representations
JP2001051997A (ja) * 1999-08-11 2001-02-23 Sony Corp 文書データ作成装置、文書データ作成方法、及び記録媒体
US7233891B2 (en) * 1999-08-24 2007-06-19 Virtural Research Associates, Inc. Natural language sentence parser
JP2001075957A (ja) * 1999-08-24 2001-03-23 Internatl Business Mach Corp <Ibm> 自然言語構造の表示方法及び装置
US6876991B1 (en) 1999-11-08 2005-04-05 Collaborative Decision Platforms, Llc. System, method and computer program product for a collaborative decision platform
US8645137B2 (en) 2000-03-16 2014-02-04 Apple Inc. Fast, language-independent method for user authentication by voice
US7120574B2 (en) * 2000-04-03 2006-10-10 Invention Machine Corporation Synonym extension of search queries with validation
US20020016707A1 (en) * 2000-04-04 2002-02-07 Igor Devoino Modeling of graphic images from text
US7962326B2 (en) * 2000-04-20 2011-06-14 Invention Machine Corporation Semantic answering system and method
AU2001255634A1 (en) * 2000-04-25 2001-11-07 Invention Machine Corporation, Inc. Creation of tree-based and customized industry-oriented knowledge base
AU2001271891A1 (en) * 2000-07-07 2002-01-21 Criticalpoint Software Corporation Methods and system for generating and searching ontology databases
US6741988B1 (en) 2000-08-11 2004-05-25 Attensity Corporation Relational text index creation and searching
US6728707B1 (en) 2000-08-11 2004-04-27 Attensity Corporation Relational text index creation and searching
US6732097B1 (en) 2000-08-11 2004-05-04 Attensity Corporation Relational text index creation and searching
US6738765B1 (en) 2000-08-11 2004-05-18 Attensity Corporation Relational text index creation and searching
US6732098B1 (en) 2000-08-11 2004-05-04 Attensity Corporation Relational text index creation and searching
US7171349B1 (en) 2000-08-11 2007-01-30 Attensity Corporation Relational text index creation and searching
US6461166B1 (en) 2000-10-17 2002-10-08 Dennis Ray Berman Learning system with learner-constructed response based testing methodology
US7146308B2 (en) * 2001-04-05 2006-12-05 Dekang Lin Discovery of inference rules from text
US7050964B2 (en) * 2001-06-01 2006-05-23 Microsoft Corporation Scaleable machine translation system
US7734459B2 (en) * 2001-06-01 2010-06-08 Microsoft Corporation Automatic extraction of transfer mappings from bilingual corpora
US9009590B2 (en) * 2001-07-31 2015-04-14 Invention Machines Corporation Semantic processor for recognition of cause-effect relations in natural language documents
US7074128B2 (en) 2001-08-03 2006-07-11 Drb Lit Ltd. Method and system for enhancing memorization by using a mnemonic display
US20070265834A1 (en) * 2001-09-06 2007-11-15 Einat Melnick In-context analysis
ITFI20010199A1 (it) 2001-10-22 2003-04-22 Riccardo Vieri Sistema e metodo per trasformare in voce comunicazioni testuali ed inviarle con una connessione internet a qualsiasi apparato telefonico
US7113905B2 (en) * 2001-12-20 2006-09-26 Microsoft Corporation Method and apparatus for determining unbounded dependencies during syntactic parsing
US7398209B2 (en) * 2002-06-03 2008-07-08 Voicebox Technologies, Inc. Systems and methods for responding to natural language speech utterance
US7693720B2 (en) 2002-07-15 2010-04-06 Voicebox Technologies, Inc. Mobile systems and methods for responding to natural language speech utterance
US20040167886A1 (en) * 2002-12-06 2004-08-26 Attensity Corporation Production of role related information from free text sources utilizing thematic caseframes
EP2017828A1 (en) * 2002-12-10 2009-01-21 Kirusa, Inc. Techniques for disambiguating speech input using multimodal interfaces
US7357640B2 (en) * 2003-07-02 2008-04-15 Drb Lit Ltd. Lock-In Training system
US7813916B2 (en) 2003-11-18 2010-10-12 University Of Utah Acquisition and application of contextual role knowledge for coreference resolution
TWM249950U (en) * 2004-01-02 2004-11-11 Cvc Technologies Inc Cap tightening machine capable of controlling tightening torque
WO2005091170A1 (ja) * 2004-03-18 2005-09-29 Nec Corporation テキストマイニング装置、その方法及びプログラム
US7364432B2 (en) * 2004-03-31 2008-04-29 Drb Lit Ltd. Methods of selecting Lock-In Training courses and sessions
US7702500B2 (en) * 2004-11-24 2010-04-20 Blaedow Karen R Method and apparatus for determining the meaning of natural language
FR2885712B1 (fr) * 2005-05-12 2007-07-13 Kabire Fidaali Dispositif et procede d'analyse semantique de documents par constitution d'arbres n-aire et semantique
EP1889181A4 (en) * 2005-05-16 2009-12-02 Ebay Inc METHOD AND SYSTEM FOR SEARCHING SEARCH
WO2007015505A1 (ja) * 2005-08-04 2007-02-08 Nec Corporation データ処理装置、データ処理方法、データ処理プログラム
US7640160B2 (en) 2005-08-05 2009-12-29 Voicebox Technologies, Inc. Systems and methods for responding to natural language speech utterance
US7620549B2 (en) 2005-08-10 2009-11-17 Voicebox Technologies, Inc. System and method of supporting adaptive misrecognition in conversational speech
US7949529B2 (en) 2005-08-29 2011-05-24 Voicebox Technologies, Inc. Mobile systems and methods of supporting natural language human-machine interactions
US7634409B2 (en) * 2005-08-31 2009-12-15 Voicebox Technologies, Inc. Dynamic speech sharpening
US8677377B2 (en) 2005-09-08 2014-03-18 Apple Inc. Method and apparatus for building an intelligent automated assistant
US7633076B2 (en) 2005-09-30 2009-12-15 Apple Inc. Automated response to and sensing of user activity in portable devices
JP4752470B2 (ja) * 2005-12-01 2011-08-17 国産電機株式会社 モータ
US8195683B2 (en) * 2006-02-28 2012-06-05 Ebay Inc. Expansion of database search queries
US20090112583A1 (en) * 2006-03-07 2009-04-30 Yousuke Sakao Language Processing System, Language Processing Method and Program
US8423348B2 (en) * 2006-03-08 2013-04-16 Trigent Software Ltd. Pattern generation
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8073681B2 (en) 2006-10-16 2011-12-06 Voicebox Technologies, Inc. System and method for a cooperative conversational voice user interface
US8041730B1 (en) * 2006-10-24 2011-10-18 Google Inc. Using geographic data to identify correlated geographic synonyms
US8065307B2 (en) * 2006-12-20 2011-11-22 Microsoft Corporation Parsing, analysis and scoring of document content
US7818176B2 (en) 2007-02-06 2010-10-19 Voicebox Technologies, Inc. System and method for selecting and presenting advertisements based on natural language processing of voice-based input
US7890521B1 (en) 2007-02-07 2011-02-15 Google Inc. Document-based synonym generation
US20080221870A1 (en) * 2007-03-08 2008-09-11 Yahoo! Inc. System and method for revising natural language parse trees
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US20090024385A1 (en) * 2007-07-16 2009-01-22 Semgine, Gmbh Semantic parser
US9053089B2 (en) 2007-10-02 2015-06-09 Apple Inc. Part-of-speech tagging using latent analogy
US8620662B2 (en) 2007-11-20 2013-12-31 Apple Inc. Context-aware unit selection
US8140335B2 (en) 2007-12-11 2012-03-20 Voicebox Technologies, Inc. System and method for providing a natural language voice user interface in an integrated voice navigation services environment
US10002189B2 (en) 2007-12-20 2018-06-19 Apple Inc. Method and apparatus for searching using an active ontology
US9330720B2 (en) 2008-01-03 2016-05-03 Apple Inc. Methods and apparatus for altering audio output signals
US8065143B2 (en) 2008-02-22 2011-11-22 Apple Inc. Providing text input using speech data and non-speech data
US8996376B2 (en) 2008-04-05 2015-03-31 Apple Inc. Intelligent text-to-speech conversion
US10496753B2 (en) 2010-01-18 2019-12-03 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US9305548B2 (en) 2008-05-27 2016-04-05 Voicebox Technologies Corporation System and method for an integrated, multi-modal, multi-device natural language voice services environment
US8589161B2 (en) 2008-05-27 2013-11-19 Voicebox Technologies, Inc. System and method for an integrated, multi-modal, multi-device natural language voice services environment
US8082248B2 (en) * 2008-05-29 2011-12-20 Rania Abouyounes Method and system for document classification based on document structure and written style
US8738360B2 (en) 2008-06-06 2014-05-27 Apple Inc. Data detection of a character sequence having multiple possible data types
US8311806B2 (en) * 2008-06-06 2012-11-13 Apple Inc. Data detection in a sequence of tokens using decision tree reductions
US8464150B2 (en) 2008-06-07 2013-06-11 Apple Inc. Automatic language identification for dynamic text processing
US20100030549A1 (en) 2008-07-31 2010-02-04 Lee Michael M Mobile device having human language translation capability with positional feedback
US8768702B2 (en) 2008-09-05 2014-07-01 Apple Inc. Multi-tiered voice feedback in an electronic device
US8898568B2 (en) 2008-09-09 2014-11-25 Apple Inc. Audio user interface
US8712776B2 (en) 2008-09-29 2014-04-29 Apple Inc. Systems and methods for selective text to speech synthesis
US8583418B2 (en) 2008-09-29 2013-11-12 Apple Inc. Systems and methods of detecting language and natural language strings for text to speech synthesis
US8676904B2 (en) 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
JP5282528B2 (ja) * 2008-11-04 2013-09-04 富士通株式会社 翻訳支援プログラム、翻訳支援装置、および翻訳支援方法
US8489388B2 (en) 2008-11-10 2013-07-16 Apple Inc. Data detection
US9959870B2 (en) 2008-12-11 2018-05-01 Apple Inc. Speech recognition involving a mobile device
US8862252B2 (en) 2009-01-30 2014-10-14 Apple Inc. Audio user interface for displayless electronic device
US8326637B2 (en) 2009-02-20 2012-12-04 Voicebox Technologies, Inc. System and method for processing multi-modal device interactions in a natural language voice services environment
US20100228538A1 (en) * 2009-03-03 2010-09-09 Yamada John A Computational linguistic systems and methods
US8380507B2 (en) 2009-03-09 2013-02-19 Apple Inc. Systems and methods for determining the language to use for speech generated by a text to speech engine
KR20110134909A (ko) * 2009-03-13 2011-12-15 인벤션 머신 코포레이션 텍스트 문서들 및 사용자 질문들의 의미적 라벨링에 기초한 질문-응답 시스템 및 방법
CN101876981B (zh) * 2009-04-29 2015-09-23 阿里巴巴集团控股有限公司 一种构建知识库的方法及装置
US10241644B2 (en) 2011-06-03 2019-03-26 Apple Inc. Actionable reminder entries
US10540976B2 (en) 2009-06-05 2020-01-21 Apple Inc. Contextual voice commands
US20120311585A1 (en) 2011-06-03 2012-12-06 Apple Inc. Organizing task items that represent tasks to perform
US10241752B2 (en) 2011-09-30 2019-03-26 Apple Inc. Interface for a virtual digital assistant
US9858925B2 (en) 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US9431006B2 (en) 2009-07-02 2016-08-30 Apple Inc. Methods and apparatuses for automatic speech recognition
WO2011059997A1 (en) 2009-11-10 2011-05-19 Voicebox Technologies, Inc. System and method for providing a natural language content dedication service
US9171541B2 (en) 2009-11-10 2015-10-27 Voicebox Technologies Corporation System and method for hybrid processing in a natural language voice services environment
US8682649B2 (en) 2009-11-12 2014-03-25 Apple Inc. Sentiment prediction from textual data
US8600743B2 (en) 2010-01-06 2013-12-03 Apple Inc. Noise profile determination for voice-related feature
US8381107B2 (en) 2010-01-13 2013-02-19 Apple Inc. Adaptive audio feedback system and method
US8311838B2 (en) 2010-01-13 2012-11-13 Apple Inc. Devices and methods for identifying a prompt corresponding to a voice input in a sequence of prompts
US10679605B2 (en) 2010-01-18 2020-06-09 Apple Inc. Hands-free list-reading by intelligent automated assistant
US10705794B2 (en) 2010-01-18 2020-07-07 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US10553209B2 (en) 2010-01-18 2020-02-04 Apple Inc. Systems and methods for hands-free notification summaries
DE202011111062U1 (de) 2010-01-25 2019-02-19 Newvaluexchange Ltd. Vorrichtung und System für eine Digitalkonversationsmanagementplattform
US8682667B2 (en) 2010-02-25 2014-03-25 Apple Inc. User profiling for selecting user specific voice input processing information
US20110239146A1 (en) * 2010-03-23 2011-09-29 Lala Dutta Automatic event generation
US8713021B2 (en) 2010-07-07 2014-04-29 Apple Inc. Unsupervised document clustering using latent semantic density analysis
US8719006B2 (en) 2010-08-27 2014-05-06 Apple Inc. Combined statistical and rule-based part-of-speech tagging for text-to-speech synthesis
US8719014B2 (en) 2010-09-27 2014-05-06 Apple Inc. Electronic device with text error correction based on voice recognition data
US10762293B2 (en) 2010-12-22 2020-09-01 Apple Inc. Using parts-of-speech tagging and named entity recognition for spelling correction
US10515147B2 (en) 2010-12-22 2019-12-24 Apple Inc. Using statistical language models for contextual lookup
US8781836B2 (en) 2011-02-22 2014-07-15 Apple Inc. Hearing assistance system for providing consistent human speech
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
US10672399B2 (en) 2011-06-03 2020-06-02 Apple Inc. Switching between text data and audio data based on a mapping
US10057736B2 (en) 2011-06-03 2018-08-21 Apple Inc. Active transport based notifications
US8812294B2 (en) 2011-06-21 2014-08-19 Apple Inc. Translating phrases from one language into another using an order-based set of declarative rules
US8706472B2 (en) 2011-08-11 2014-04-22 Apple Inc. Method for disambiguating multiple readings in language conversion
US8994660B2 (en) 2011-08-29 2015-03-31 Apple Inc. Text correction processing
US8762156B2 (en) 2011-09-28 2014-06-24 Apple Inc. Speech recognition repair using contextual information
CN103198057B (zh) * 2012-01-05 2017-11-07 深圳市世纪光速信息技术有限公司 一种自动给文档添加标签的方法和装置
US10134385B2 (en) 2012-03-02 2018-11-20 Apple Inc. Systems and methods for name pronunciation
US9483461B2 (en) 2012-03-06 2016-11-01 Apple Inc. Handling speech synthesis of content for multiple languages
US9280610B2 (en) 2012-05-14 2016-03-08 Apple Inc. Crowd sourcing information to fulfill user requests
US10417037B2 (en) 2012-05-15 2019-09-17 Apple Inc. Systems and methods for integrating third party services with a digital assistant
US8775442B2 (en) 2012-05-15 2014-07-08 Apple Inc. Semantic search using a single-source semantic model
US9721563B2 (en) 2012-06-08 2017-08-01 Apple Inc. Name recognition system
WO2013185109A2 (en) 2012-06-08 2013-12-12 Apple Inc. Systems and methods for recognizing textual identifiers within a plurality of words
US9495129B2 (en) 2012-06-29 2016-11-15 Apple Inc. Device, method, and user interface for voice-activated navigation and browsing of a document
US9576574B2 (en) 2012-09-10 2017-02-21 Apple Inc. Context-sensitive handling of interruptions by intelligent digital assistant
US9547647B2 (en) 2012-09-19 2017-01-17 Apple Inc. Voice-based media searching
US8935167B2 (en) 2012-09-25 2015-01-13 Apple Inc. Exemplar-based latent perceptual modeling for automatic speech recognition
WO2014071330A2 (en) 2012-11-02 2014-05-08 Fido Labs Inc. Natural language processing system and method
US9772995B2 (en) * 2012-12-27 2017-09-26 Abbyy Development Llc Finding an appropriate meaning of an entry in a text
US10199051B2 (en) 2013-02-07 2019-02-05 Apple Inc. Voice trigger for a digital assistant
US9965461B2 (en) 2013-03-01 2018-05-08 The Software Shop, Inc. Systems and methods for improving the efficiency of syntactic and semantic analysis in automated processes for natural language understanding using argument ordering
US9368114B2 (en) 2013-03-14 2016-06-14 Apple Inc. Context-sensitive handling of interruptions
US9733821B2 (en) 2013-03-14 2017-08-15 Apple Inc. Voice control to diagnose inadvertent activation of accessibility features
US10652394B2 (en) 2013-03-14 2020-05-12 Apple Inc. System and method for processing voicemail
US9977779B2 (en) 2013-03-14 2018-05-22 Apple Inc. Automatic supplementation of word correction dictionaries
US10572476B2 (en) 2013-03-14 2020-02-25 Apple Inc. Refining a search based on schedule items
US10642574B2 (en) 2013-03-14 2020-05-05 Apple Inc. Device, method, and graphical user interface for outputting captions
KR102057795B1 (ko) 2013-03-15 2019-12-19 애플 인크. 콘텍스트-민감성 방해 처리
US10748529B1 (en) 2013-03-15 2020-08-18 Apple Inc. Voice activated device for use with a voice-based digital assistant
CN110096712B (zh) 2013-03-15 2023-06-20 苹果公司 通过智能数字助理的用户培训
CN105027197B (zh) 2013-03-15 2018-12-14 苹果公司 训练至少部分语音命令系统
WO2014144579A1 (en) 2013-03-15 2014-09-18 Apple Inc. System and method for updating an adaptive speech recognition model
WO2014197336A1 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for detecting errors in interactions with a voice-based digital assistant
US9582608B2 (en) 2013-06-07 2017-02-28 Apple Inc. Unified ranking with entropy-weighted information for phrase-based semantic auto-completion
WO2014197334A2 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
WO2014197335A1 (en) 2013-06-08 2014-12-11 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
CN110442699A (zh) 2013-06-09 2019-11-12 苹果公司 操作数字助理的方法、计算机可读介质、电子设备和系统
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
KR101809808B1 (ko) 2013-06-13 2017-12-15 애플 인크. 음성 명령에 의해 개시되는 긴급 전화를 걸기 위한 시스템 및 방법
DE112014003653B4 (de) 2013-08-06 2024-04-18 Apple Inc. Automatisch aktivierende intelligente Antworten auf der Grundlage von Aktivitäten von entfernt angeordneten Vorrichtungen
JP6062829B2 (ja) * 2013-08-26 2017-01-18 日本電信電話株式会社 係り受け関係解析パラメータ学習装置、係り受け関係解析装置、方法、及びプログラム
US10296160B2 (en) 2013-12-06 2019-05-21 Apple Inc. Method for extracting salient dialog usage from live data
US9620105B2 (en) 2014-05-15 2017-04-11 Apple Inc. Analyzing audio input for efficient speech and music recognition
CN104142917B (zh) * 2014-05-21 2018-05-01 北京师范大学 一种用于语言理解的层次语义树构建方法及系统
US10592095B2 (en) 2014-05-23 2020-03-17 Apple Inc. Instantaneous speaking of content on touch devices
US9502031B2 (en) 2014-05-27 2016-11-22 Apple Inc. Method for supporting dynamic grammars in WFST-based ASR
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US9842101B2 (en) 2014-05-30 2017-12-12 Apple Inc. Predictive conversion of language input
US9734193B2 (en) 2014-05-30 2017-08-15 Apple Inc. Determining domain salience ranking from ambiguous words in natural speech
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
EP3480811A1 (en) 2014-05-30 2019-05-08 Apple Inc. Multi-command single utterance input method
US9760559B2 (en) 2014-05-30 2017-09-12 Apple Inc. Predictive text input
US10289433B2 (en) 2014-05-30 2019-05-14 Apple Inc. Domain specific language for encoding assistant dialog
US10078631B2 (en) 2014-05-30 2018-09-18 Apple Inc. Entropy-guided text prediction using combined word and character n-gram language models
US9785630B2 (en) 2014-05-30 2017-10-10 Apple Inc. Text prediction using combined word N-gram and unigram language models
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US10659851B2 (en) 2014-06-30 2020-05-19 Apple Inc. Real-time digital assistant knowledge updates
US10446141B2 (en) 2014-08-28 2019-10-15 Apple Inc. Automatic speech recognition based on user feedback
US9818400B2 (en) 2014-09-11 2017-11-14 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10789041B2 (en) 2014-09-12 2020-09-29 Apple Inc. Dynamic thresholds for always listening speech trigger
US9898459B2 (en) 2014-09-16 2018-02-20 Voicebox Technologies Corporation Integration of domain information into state transitions of a finite state transducer for natural language processing
CN107003996A (zh) 2014-09-16 2017-08-01 声钰科技 语音商务
US10074360B2 (en) 2014-09-30 2018-09-11 Apple Inc. Providing an indication of the suitability of speech recognition
US9646609B2 (en) 2014-09-30 2017-05-09 Apple Inc. Caching apparatus for serving phonetic pronunciations
US9886432B2 (en) 2014-09-30 2018-02-06 Apple Inc. Parsimonious handling of word inflection via categorical stem + suffix N-gram language models
US9668121B2 (en) 2014-09-30 2017-05-30 Apple Inc. Social reminders
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
CN107003999B (zh) 2014-10-15 2020-08-21 声钰科技 对用户的在先自然语言输入的后续响应的系统和方法
US10614799B2 (en) 2014-11-26 2020-04-07 Voicebox Technologies Corporation System and method of providing intent predictions for an utterance prior to a system detection of an end of the utterance
US10431214B2 (en) 2014-11-26 2019-10-01 Voicebox Technologies Corporation System and method of determining a domain and/or an action related to a natural language input
US10552013B2 (en) 2014-12-02 2020-02-04 Apple Inc. Data detection
US9711141B2 (en) 2014-12-09 2017-07-18 Apple Inc. Disambiguating heteronyms in speech synthesis
US9865280B2 (en) 2015-03-06 2018-01-09 Apple Inc. Structured dictation using intelligent automated assistants
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US9899019B2 (en) 2015-03-18 2018-02-20 Apple Inc. Systems and methods for structured stem and suffix language models
US9842105B2 (en) 2015-04-16 2017-12-12 Apple Inc. Parsimonious continuous-space phrase representations for natural language processing
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US10127220B2 (en) 2015-06-04 2018-11-13 Apple Inc. Language identification from short strings
US10101822B2 (en) 2015-06-05 2018-10-16 Apple Inc. Language input correction
US10255907B2 (en) 2015-06-07 2019-04-09 Apple Inc. Automatic accent detection using acoustic models
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
US10186254B2 (en) 2015-06-07 2019-01-22 Apple Inc. Context-based endpoint detection
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US9697820B2 (en) 2015-09-24 2017-07-04 Apple Inc. Unit-selection text-to-speech synthesis using concatenation-sensitive neural networks
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
JP6070809B1 (ja) * 2015-12-03 2017-02-01 国立大学法人静岡大学 自然言語処理装置及び自然言語処理方法
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US10191899B2 (en) 2016-06-06 2019-01-29 Comigo Ltd. System and method for understanding text using a translation of the text
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
DK179309B1 (en) 2016-06-09 2018-04-23 Apple Inc Intelligent automated assistant in a home environment
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
US10490187B2 (en) 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
DK179343B1 (en) 2016-06-11 2018-05-14 Apple Inc Intelligent task discovery
DK179049B1 (en) 2016-06-11 2017-09-18 Apple Inc Data driven natural language event detection and classification
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
WO2018023106A1 (en) 2016-07-29 2018-02-01 Erik SWART System and method of disambiguating natural language processing requests
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
DK201770431A1 (en) 2017-05-15 2018-12-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
CN107784088A (zh) * 2017-09-30 2018-03-09 杭州博世数据网络有限公司 基于知识点连接关系的知识图谱构建方法
US10956670B2 (en) 2018-03-03 2021-03-23 Samurai Labs Sp. Z O.O. System and method for detecting undesirable and potentially harmful online behavior
WO2021251972A1 (en) * 2020-06-11 2021-12-16 Hitachi, Ltd. Method to improve probability calculation of knowledge base construction
CN112036151B (zh) * 2020-09-09 2024-04-05 平安科技（深圳）有限公司 基因疾病关系知识库构建方法、装置和计算机设备

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS57201958A (en) * 1981-06-05 1982-12-10 Hitachi Ltd Device and method for interpretation between natural languages
JPS61105671A (ja) * 1984-10-29 1986-05-23 Hitachi Ltd 自然言語処理装置
US4887212A (en) * 1986-10-29 1989-12-12 International Business Machines Corporation Parser for natural language text
JP2664915B2 (ja) * 1988-01-12 1997-10-22 株式会社日立製作所 情報検索システム
JPH0242572A (ja) * 1988-08-03 1990-02-13 Hitachi Ltd 共起関係辞書生成保守方法
NL8900247A (nl) * 1989-02-01 1990-09-03 Bso Buro Voor Systeemontwikkel Werkwijze en stelsel voor het weergeven van meervoudige analyses in een afhankelijkheidsgrammatica, alsmede ontleed-inrichting voor het genereren van een dergelijke weergave.
NL8900587A (nl) * 1989-03-10 1990-10-01 Bso Buro Voor Systeemontwikkel Werkwijze voor het bepalen van de semantische verwantheid van lexicale componenten in een tekst.

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
「技術抄録文からの関係情報の自動抽出」情報処理学会論文誌 Ｖｏｌ．２５ Ｎｏ．２（１９８４）

Also Published As

Publication number Publication date
JPH0447364A (ja) 1992-02-17
EP0467527A2 (en) 1992-01-22
EP0467527A3 (en) 1993-07-21
US5424947A (en) 1995-06-13

Similar Documents

Publication Publication Date Title
JP3266246B2 (ja) 自然言語解析装置及び方法並びに自然言語解析用知識ベース構築方法
US8185377B2 (en) Diagnostic evaluation of machine translators
US9824083B2 (en) System for natural language understanding
Drouin Term extraction using non-technical corpora as a point of leverage
US10296584B2 (en) Semantic textual analysis
US8041697B2 (en) Semi-automatic example-based induction of semantic translation rules to support natural language search
JP2583386B2 (ja) キーワード自動抽出装置
Lytvyn et al. Development of a method for determining the keywords in the slavic language texts based on the technology of web mining
Silberztein INTEX: an FST toolbox
US20070073678A1 (en) Semantic document profiling
US20050171757A1 (en) Machine translation
JP2000315216A (ja) 自然言語検索方法および装置
JPWO2003012679A1 (ja) データ処理方法、データ処理システムおよびプログラム
JPH083815B2 (ja) 自然言語の共起関係辞書保守方法
JPH08147299A (ja) 自然言語処理方法及びシステム
JP2011118689A (ja) 検索方法及びシステム
Montyne The importance of formal ontologies: a case study in occupational health
Alias et al. A Malay text corpus analysis for sentence compression using pattern-growth method
Hrytsiv et al. Corpus Technologies in Translation Studies: Fiction as Document.
Litkowski Question Answering Using XML-Tagged Documents.
Estiri et al. Improvement of an abstractive summarization evaluation tool using lexical-semantic relations and weighted syntax tags in Farsi language
Hoque et al. A content-aware hybrid architecture for answering questions from open-domain texts
Gavhal et al. Sentence Compression Using Natural Language Processing
JP7312841B2 (ja) 法律分析装置、及び法律分析方法
Pandian et al. Semantic role labeling for Tamil documents

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees