JP2005531068A - 自動論文注釈付記システムおよびその方法 - Google Patents

自動論文注釈付記システムおよびその方法 Download PDF

Info

Publication number
JP2005531068A
JP2005531068A JP2004516193A JP2004516193A JP2005531068A JP 2005531068 A JP2005531068 A JP 2005531068A JP 2004516193 A JP2004516193 A JP 2004516193A JP 2004516193 A JP2004516193 A JP 2004516193A JP 2005531068 A JP2005531068 A JP 2005531068A
Authority
JP
Japan
Prior art keywords
sentence
discourse
rhetorical
article
program
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004516193A
Other languages
English (en)
Other versions
JP4334474B2 (ja
Inventor
バーステイン、ジル
マーク、ダニエル
Original Assignee
エデュケーショナル テスティング サービス
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by エデュケーショナル テスティング サービス filed Critical エデュケーショナル テスティング サービス
Publication of JP2005531068A publication Critical patent/JP2005531068A/ja
Application granted granted Critical
Publication of JP4334474B2 publication Critical patent/JP4334474B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B7/00Electrically-operated teaching apparatus or devices working with questions and answers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting
    • G06F40/169Annotation, e.g. comment data or footnotes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/289Phrasal analysis, e.g. finite state techniques or chunking
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B11/00Teaching hand-writing, shorthand, drawing, or painting
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B7/00Electrically-operated teaching apparatus or devices working with questions and answers
    • G09B7/02Electrically-operated teaching apparatus or devices working with questions and answers of the type wherein the student is expected to construct an answer to the question which is presented or wherein the machine gives an answer to the question presented by a student

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Machine Translation (AREA)
  • Electrically Operated Instructional Devices (AREA)

Abstract

【課題】
【解決手段】 自動的に論文に注釈を付ける自動談話解析アプリケーション(automatic discourse analysis application、略称ADAA)(180)が使用される。前記ADAA(180)はユーザインターフェース(300)を含み、このユーザインターフェースが論文を受信し、前記論文を特徴抽出プログラム(302)へ転送し、談話解析モデル化プログラム(318)から注釈付き論文を受信する。前記特徴抽出プログラム(302)は、位置特定プログラム(304)と、字句的項目特定プログラム(306)と、句読点特定プログラム(314)と、修辞的関係特定プログラム(316)とを含む。

Description

本出願は、2002年1月23日出願済み特許出願番号第10/052,380号の一部継続出願であり、この参照により本明細書に組み込まれる。
文章能力を開発するには、実用的な作文経験を積むのが効果的な方法であると一般に考えれらている。これに関して作文法の教示に関する文献には、文章作成における題材の概念、構成、および見直しが、文章作成の練習を通じて改善されることを示唆している。さらに、評価およびフィードバック、具体的には学生が作成した論文の強い部分および弱い部分の指摘を行うことで、学生の文章能力、具体的には文章編成に関する能力の改善を促進できるものである。
伝統的な作文法の授業では、学生に「見直しチェックリスト」が提示される。この見直しチェックリストはプロセス(すなわち見直し工程)の促進を意図したものであり、学生が各自の文章を批判的に見直して改善が必要な部分を特定するように求めている。典型的には、このチェックリストは学生に提示される質問のリストである。これらの質問は、学生が各自の文章をじっくり検討するのを助けるよう意図されている。例えば、このチェックリストには次のような質問が含まれる。a)主題文の趣旨は明確か?b)主題文は論文問題に直接応答しているか?c)論文の要点は明確に述べられているか?d)結論は主題文と関連しているか?これらの質問がこういった一般的な言葉で表現されている場合には、ほとんど役に立たない可能性がある。
代わりに、学生の論文内の「談話要素」が特定され、その学生に提示されれば有益であろう。談話要素の具体例としては、表題、背景、主題文、要点、支持文、結論などがある。特定された談話要素が学生に提示されると、学生は例えば結論が概念的に主題文に即しているかを決定するのがさらに容易になり得る。ただし、教師が各学生の論文に注釈を付け(論文の談話要素を特定し、それに印を付けるなど)、具体的な欠点または欠如について指摘するだけの十分な時間を持てない場合がある。さらに、すべての教師に同一レベルの注釈付記能力があるとは限らないため、一部の学生が不十分または不適切な注釈を受け取ることもあり得る。従って、概念を体系化する文章能力の改善を望む者にとっては、自動化した談話解析の利用は価値あるものである。
実施形態によれば、本発明は自動的に論文に注釈を付記する方法に関するものである。この方法では、論文の文が特定され、その文に関連付けられた特徴が決定される。また、前記特徴をモデルにマッピングすることにより、その文が談話要素である確率が決定される。前記モデルは、少なくとも1つの注釈付き論文に基づいて機械学習アプリケーションにより生成済みである。さらに前記論文には、前記確率に基づいて注釈が付記される。
簡潔化および例示的目的のため、本発明の原理は、主にその実施形態を参照することにより説明する。以下の説明では、本発明が完全に理解されるよう具体的な詳細事項を多数記載する。ただし当然のことながら、当業者であれば、本発明がこれら具体的な詳細事項に限定されることなく実施可能であることは理解されるであろう。その他の場合、本発明の要点を不必要に不明確にしないためにも周知の方法および構造について詳しく説明しない。
図1は、本発明の実施形態を実装できるコンピュータネットワーク100のブロック図である。図1に示したように、このコンピュータネットワーク100は、例えば、サーバ110と、ワークステーション120および130と、スキャナー140と、プリンタ150と、データベース160と、ネットワーク170とを含む。前記コンピュータネットワーク170は、他の装置と通信するため前記コンピュータネットワーク100の各装置に通信路を提供するように構成されている。また、前記コンピュータネットワーク170は、インターネット、公衆交換電話網、ローカルエリアネットワーク、プライベート広域ネットワーク、ワイヤレスネットワークなどであってよい。
本発明の種々の実施形態では、前記サーバ110で、および/または前記ワークステーション120と130のいずれか、または双方で、自動談話解析アプリケーション(automated discourse analysis application、略称ADAA)180を実行できる。例えば、本発明の1実施形態では、前記サーバ110は、前記ADAA180を実行し、前記ワークステーション120および/または130へディスプレイ用出力を提供し、前記ワークステーション120および/または130から入力を受信するように構成されている。他の種々の実施形態では、前記ワークステーション120および130のいずれかまたは双方は、個々にまたは協動して前記ADAA180を実行するように構成できる。
前記スキャナー140は、テキストの内容をスキャンし、その内容をコンピュータ可読フォーマットに出力するように構成できる。また、前記プリンタ150は、紙などの印刷媒体に前記内容を出力するように構成できる。さらに、少なくとも1つの論文、テキストの内容、注釈付き論文などに関連付けられたデータを、前記データベース160に格納できる。また、このデータベース160は、上記で格納されたデータの一部または全部を受信および/または転送するように構成できる。さらに、別の実施形態では、前記コンピュータネットワーク100の一部または全部を単一装置内に包含することもできる。
図1はコンピュータネットワークを示したものだが、当然のことながら本発明はコンピュータネットワーク内の作用に限定されるものではなく、むしろいかなる適切な電子装置でも実施可能である。このため、図1に示したコンピュータネットワークは例示的なものであって、いかなる意味においても本発明を限定することを意図したものではない。
図2は、本発明の実施形態を実装できるコンピュータシステム200のブロック図である。図2に示したように、前記コンピュータシステム200は、プロセッサ202と、メインメモリ204と、二次メモリ206と、マウス208と、キーボード210と、ディスプレイアダプタ212と、ディスプレイ214と、ネットワークアダプタ216と、バス218とを含む。前記バス218は、他の装置と通信するために前記コンピュータシステム200の各要素に通信路を提供するように構成されている。
前記プロセッサ202は、前記ADAA180のソフトウェア実施形態を実行するように構成されている。この場合、コンピュータで実行可能な前記ADAA180用のコードのコピーを前記メインメモリ204にロードし、前記二次メモリ206から前記プロセッサ202により実行できる。コンピュータで実行可能なコードとは別に、前記メインメモリ204および/または前記二次メモリは、論文、テキストの内容、注釈付き論文、データのテーブルなどを含むデータを格納できる。
作動時は、前記ADAA180の実施形態用の前記コンピュータで実行可能なコードに基づいて前記プロセッサ202は表示データを生成できる。この表示データは前記ディスプレイアダプタ212により受信され、前記ディスプレイ214を制御するように構成された表示コマンドへ変換される。さらに、周知の方法で、前記マウス208およびキーボード210は、ユーザによる前記コンピュータシステム200とのインターフェイスとして利用可能である。
前記ネットワークアダプタ216は、前記ネットワーク170と前記コンピュータシステム200間に双方向通信を提供するように構成されている。この場合、前記ADAA180および/またはこのADAA180に関連付けられたデータは、前記コンピュータネットワーク100に格納され、前記コンピュータシステム200からアクセスできるようになる。
図3は、前記ADAA180の実施形態のアーキテクチャのブロック図である。図3に示すように、このADAA180は、論文を受け取るようにおよび/または注釈付き論文をユーザへ出力するように構成されたユーザインターフェース300を含む。例えば、このユーザインターフェース300は、前記キーボード210から入力された論文を受け取り、前記ディスプレイ214に注釈付き論文を表示することができる。前記ユーザインターフェース300はさらに、特徴抽出プログラム302に前記論文を転送し、談話解析モデル化プログラム318から前記注釈付き論文を受信するように構成されている。
前記特徴抽出プログラム302は、位置特定プログラム304と、字句的項目特定プログラム306と、句読点特定プログラム314と、修辞的関係特定プログラム316とを含んでおり、これらはそれぞれ相互通信するように構成されている。用語「特徴」は、特定された文に関連付けられた属性、特徴、および/または特質として定義できる。より具体的には、特徴に前記特定された文内の字句的特徴(単語や句など)および/または句読点を含めてよい。この場合、前記位置特定プログラム304は、前記論文内の文および段落を特定し、特定された各文用の文エントリを含む「フラット」ファイルを生成するように構成されている。特定された各文については絶対位置および相対位置を決定して、これらを前記フラットファイル内の対応する文エントリ(エントリ)に格納することができる。また、このエントリには種々の特徴を含めることができ、これらの特徴はデフォルトで偽を意味する「F」に設定できる。この場合、各エントリには、例えばコンマで区切った文字列として特徴を含めてよい。以下、本明細書で詳述するように、特定の特徴が特定されるに伴い、これらのデフォルト設定は真を意味する「T」に修正される。18個の特定された文と、3個の特定された段落と、約40個の字句的特徴を含んだ論文用フラットファイルの例を以下の表1に示す。
Figure 2005531068
表1に示すように、このフラットファイル例は、特定された各文に18個のエントリを含む。各エントリは、テキストセグメント(文や句など)が特定されたことを示す第1の特徴である用語「TEXT」で始まる。続く4個の特徴は位置的特徴である。これらの位置的特徴は、左から右に向かってそれぞれ文位置、文総数(相対文位置の決定に使用される)、段落位置、および段落総数(相対段落位置の決定に使用される)である。6番目の特徴は、文がその論文内で第1の文であるか、本文であるか、最終文であるかを示すために使われる。残りの特徴は、所定の字句的特徴および/または句読点特徴の存在(T)または不在(F)を示すために使われる。表1のフラットファイル例では、約46個の特徴が特定されている。ただし、実際には、妥当な任意数の特徴が特定可能である。例えば、本発明の異なる別の実施形態では、特定された各文につき約100個の特徴が特定された。
前記位置特定プログラム304はさらに、論文内および/または段落内で特定される各文の相対位置を決定するように構成されている。前記相対位置が決定されると、その値は前記フラットファイルの適切なエントリに格納される。例えば、表1に説明した18文の論文に対する前記フラットファイルでは、特定された文の総数が決定され、その値が各エントリ内に格納される。また、段落の総数と、それに付随した段落番号とを各エントリ内に格納できる。前記位置特定プログラム304はさらに、前記フラットファイルを前記字句的項目特定プログラム306に転送するように構成されている。
この字句的項目特定プログラム306は、字句的特徴を特定し、前記フラットファイルを適宜修正するように構成されている。基本的に、この字句的項目特定プログラムは、事前定義された字句的特徴が存在するかどうか特定された各文を構文解析し、存在した場合は前記フラットファイルの対応するエントリを修正するように構成されている。これらの字句的特徴は、談話要素および/または修辞的構造との関連性から「キュー(手がかり)」(例えば、インジケータやガイド)と言い換えることもできる。一般に、キューには単語、用語、句、統語構造などを含めてよい。図3に示したように、前記字句的項目特定プログラム306は、カテゴリー固有キュー特定プログラム308と、一般語彙特定プログラム310と、キー用語特定プログラム312とを含む。
カテゴリー固有キュー特定プログラム308は、典型的に特定の談話要素に関連付けられたキューを特定するように構成されている。これにより、キューは特定の文が特定の談話要素であることを示すために使える。例えば、句「in conclusion(最後に)」は典型的に結論文に関連付けられる。他の例には、一般に主題文と関連付けられる「opinion(意見)」や「feel(感じる)」などの単語がある。
本発明の1実施形態では、前記カテゴリー固有キュー特定プログラム308は、論文の各文にわたり構文解析を行って所定のキューを複数検索する場合もある。このカテゴリー固有キュー特定プログラム308はさらに、キューが特定されると、それに応答して前記フラットファイルの適切なエントリを修正するように構成されている。さらに、このカテゴリー固有特定プログラム308は、前記フラットファイルを前記一般語彙特定プログラム310に転送するように構成されている。
この一般語彙特定プログラム310は、談話構造に関連付けられている可能性のある特徴を特定するように構成されている。談話構造は、思考または陳述などの基本談話単位を説明する際に使われる用語である。一般に、談話構造には単語、用語、または統語構造を含めてよい。より具体的には、談話構造は典型的に文または句から成る。
前記一般語彙特定プログラム310により特定される特徴は、特定の談話マーカー単語および談話マーカー用語に関連付けられるようあらかじめ決められている。例えば、単語「agree(同意する)」および「disagree(同意しない)」は、議論の特定に関連付けることができる。異なる別の例では、「this(この)」や「these(これらの)」などの単語は、議論中のトピックに変化がないことを示している。前記一般語彙特定プログラム310はさらに、所定の特徴が特定されると、それに応答して前記フラットファイル内の適切なエントリを修正するように構成されている。さらに、この一般語彙特定プログラム310は、前記フラットファイルを前記キー用語特定プログラム312に転送するように構成されている。
このキー用語特定プログラム312は、種々の談話関係に関連付けられた所定のキューを探して各文を構文解析するように構成されている。例えば、単語「first(第1)」、「second(第2)」、「third(第3)」、および「finally(最後に)」は、並列の談話関係に関連付けることができる。別の例では、「however(しかし)」、「alternatively(あるいは)」などの単語を、対照談話関係に関連付けることができる。前記キー用語特定プログラム312はさらに、所定の特徴が特定されると、それに応答して前記フラットファイル内の適切なエントリを修正するように構成されている。さらに、このキー用語特定プログラム312は、前記フラットファイルを前記句読点特定プログラム314に転送するように構成されている。
この句読点特定プログラム314は、特定の談話要素に関連付けられるようにあらかじめ決められた句読点を特定するように構成されている。例えば、文末の感嘆符は、その文が主題文または結論文である確率が比較的低く、その文が支持文である確率が比較的高いことを示すものである。また、前記句読点特定プログラム314はさらに、所定の句読点が特定されると、それに応答して前記フラットファイル内の適切なエントリを修正するように構成されている。さらに、この句読点特定プログラム312は、前記フラットファイルを前記修辞的関係特定プログラム316に転送するように構成されている。
この修辞的関係特定プログラム316は、前記フラットファイルを受信し、前記論文および/または前記フラットファイルに基づいて修辞的構造ツリー(RST)(図5を参照)を生成するように構成されている。修辞的関係は、2つ以上の修辞的構造がつながっているか(例えば、関係するか)を説明する際に使われる用語である。この場合、テキストセグメント(句、文など)は、論文中の他のテキストセグメントと修辞的関係を有することができる。一般例では、陳述文は別の陳述文と対象をなす場合、段落は文を詳述する場合などがある。より具体的な例では、単語「but(しかし)」で始まるテキストセグメントは、直前のテキストセグメントと対照をなすと言うことができる。修辞的関係のトピックに関するより詳細な説明は、米国特許第6,366,759 B1号で見ることができ、この参照によりその全体が組み込まれるものである。前記修辞的関係特定プログラム316により特定された修辞的特徴は、前記フラットファイルに格納できる(例えば、前記フラットファイルの対応するエントリの修正に使用される)。この修辞的関係特定プログラム316はさらに、前記フラットファイルを前記談話解析モデル化プログラム318に転送するように構成されている。
この談話解析モデル化プログラム318は、前記フラットファイルを前記特徴抽出プログラム302から受信し、以前の訓練に基づいて前記フラットファイルからパターンを抽出するように構成されている(図7を参照)。この以前の訓練では、モデル320が生成されている(図6を参照)。一般に、このモデル320は専門家および/または訓練を受けた審査員が注釈を付記した論文に基づいて生成された、少なくとも1つのデシジョンツリー(決定樹)を含む。前記フラットファイルの各エントリに関連付けられた特徴の有無に基づいて前記デシジョンツリーをナビゲートすることにより、特定された各文と談話要素との相関確率が決定される。これにより、各文に対し前記モデル320が活用されて、前記文が談話分類カテゴリーに帰属する尤度(ゆうど)が決定される。当業者は、この工程を「マッピング」と呼ぶ。例えば、前記フラットファイルが前記モデル320に「マッピング」(オーバーレイ、比較など)されると、特定された各文が主題文である確率が決定される。これらの確率は比較され、比較的確率の高い文が主題文に決定される。さらに、この方法により前記談話解析モデル化プログラム318は前記モデル320を活用し、特定の談話要素の1つとして(あるいは、そうでないとして)特定された各文に割り当て(分類など)を行う。
別の実施形態では、前記談話解析モデル化プログラム318は、採決アルゴリズムを利用して談話要素カテゴリーに文を分類するように構成されている。図3には示していないが、一般に、前記採決アルゴリズムは、複数の実質的に独立した談話解析システムからの判定を利用できる(談話モデル、モデルなど)(図6を参照)。例えば、前記モデル320には、位置的データに基づいて生成されたモデルと、字句的特徴に基づいて生成されたモデルと、句読点に基づいて生成されたモデルと、を含めることができる。このように、前記フラットファイルを複数の確率を生成する複数のモデルの各々にマッピングできる。これらの確率を使うと、モデル間の合致レベルに基づいて各文を分類できる。
前記談話解析モデル化プログラム318はさらに、決定された前記確率に基づいて論文に注釈を付けるよう構成されている。次に、この注釈付き論文は、前記談話解析モデル化プログラム318により前記ユーザインターフェース300へ転送される。
図1を参照すると、別の実施形態では、前記ADAA180を、前記データベース160などのデータベースと相互通信するように構成することができる。この場合、前記ADAA180は、自立的に実行する、および/または解析用に前記データベース160からデータを選択する能力をユーザに提供するように構成される。
図4は、本発明の実施形態の前記ADAA180用の方法400のフローチャートである。従って、この方法400は、コンピュータシステム(前記コンピュータシステム200など)、および/またはコンピュータネットワーク(前記コンピュータネットワーク100など)で実施可能である。この方法400は、論文が受信されるとそれに応答して始動する。
工程402では、前記位置特定プログラム304により論文の文が特定できる。さらに、特定された各文用の文エントリを含むフラットファイルが、前記位置特定プログラム304により生成可能である。各文エントリには、コンマで区切った文字列として特徴を含めることができる。位置的特徴には数値を割り当てることができ、前記字句的特徴はデフォルトで偽を意味する「F」に設定できる。以下、本明細書で詳述するように、特定の字句的特徴が特定されるに伴い、これらのデフォルト設定は真を意味する「T」に修正される。
工程404〜408では、前記字句的項目特定プログラム306により、字句的特徴が特定され、前記フラットファイル内の特定された文に対応するエントリが適宜修正される。
工程404では、前記カテゴリー固有キュー特定プログラム308により、特定の談話要素に典型的に関連付けられたキューが特定される。また、キューが特定された文に対応する前記フラットファイル内のエントリが修正される。例えば、2番目に特定された文が、事前定義された検索用語「opinion(意見)」を含むと決定された場合は、この用語「opinion(意見)」に対応する字句的特徴が第2のエントリで「F」から「T」に修正される。
工程406では、前記一般語彙特定プログラム310により、談話構造に関連付けられた特徴が特定される。また、特徴が特定された文に対応する前記フラットファイル内のエントリが修正できる。例えば、3番目に特定された文が、事前定義された検索用語「those(それらの)」を含むと決定された場合は、この用語「those(それらの)」に対応する字句的特徴が第3のエントリで「F」から「T」に修正される。
工程408では、前記キー用語特定プログラム312により、種々の談話関係に関連付けられた所定のキューが特定される。また、キューが特定された文に対応する前記フラットファイル内のエントリが修正できる。例えば、4番目に特定された文が、事前定義された検索用語「never the less」を含むと決定された場合は、この用語「never the less」に対応する字句的特徴が第4のエントリで「F」から「T」に修正される。
工程410では、前記句読点特定プログラム314により、所定の句読点が特定される。また、句読点が特定された文に対応する前記フラットファイル内のエントリが修正できる。例えば、5番目に特定された文が、事前定義された句読点「?」を含むと決定された場合は、この句読点「?」に対応する特徴が第5のエントリで「F」から「T」に修正される。
工程412では、前記フラットファイルに基づいて前記修辞的関係特定プログラム316によりRSTが生成される。また、前記RSTに基づいて修辞的特徴が特定され、前記修辞的関係特定プログラム316により、前記フラットファイル内の特定された文に対応するエントリが適宜修正される。
工程414では、前記フラットファイルが前記モデル320にマッピングされる。一般には、特定された各文が特定の談話要素である尤度が決定される。これらの確率は比較され、特定の談話要素である確率が比較的高い文が、その特定の談話要素であると決定される。さらに、前記談話解析モデル化プログラム318により同様な方法で、特定された複数の文について可能性の高い談話要素カテゴリーが決定される。
また、本発明の別の実施形態では、採決アルゴリズムを利用して、前記談話解析モデル化プログラム318により、談話要素カテゴリーに文を分類できる。この場合、複数の実質的に独立した談話解析システムからの判定は、それぞれ重み付けを行い(比較するなど)、特定された各文に対する談話要素カテゴリーの確率が決定される。
工程416では、上記で決定された確率に基づいて前記談話解析モデル化プログラム318により論文に注釈を付記することができる。次に、この注釈付き論文は、前記談話解析モデル化プログラム318により前記ユーザインターフェース300へ転送される。
工程418では、前記ユーザインターフェース300により、前記ディスプレイ214を介して、注釈を付記された論文がユーザに表示される。工程418の後、前記方法400は終了するか、またはそれ以上のユーザコマンドおよび/または論文が受信されるまでアイドル状態になる。
図5は、本発明の実施形態の修辞的構造ツリー(rhetorical structure tree、略称RST)500を示す図である。図5に示したように、前記RST 500は、談話構造502〜514および修辞的関係516〜526を含む。前記RST 500では、談話構造502〜514はそれぞれ異なる別の談話構造502〜514間に修辞的関係516〜526を有するものと特定される。例えば、前記談話構造506は、前記談話構造508と前記修辞的関係522とを有する。説明した例では、前記修辞的関係518は「結合」関係である。これは、前記談話構造508を前記談話構造506に「結合」するため使われている接続詞「and(そして)」に基づいて決定できる。修辞的関係の他の例には、詳述、背景、対照、原因、対句、解釈などがある。
また、前記修辞的関係516〜526は、それぞれに関連付けられたノード528〜538(接続など)を含む。各ノード528〜538は、「ステータス」(主要素または従属要素)により特徴付けられる。主要素および従属要素の区別は、一般に主要素は従属要素より重要な内容に使われるという経験的所見により行われる。さらに、修辞的関係の主要素は、典型的に従属要素とは独立に理解可能であるが、その逆は成り立たない。さらに、これらの談話構造および修辞的関係は特徴として利用できるため、前記フラットファイルに格納できる。
上記に含まれる例では、Daniel Marcu博士のキュー−句ベースの談話構文解析(図示せず)("The theory and practice of discourse parsing and summarization" The MIT press、2000、(この参照によりその全体が本明細書に組み込まれる))を利用した論文に基づいて前記RST 500が自動的に生成された。ただし、前記キュー−句ベースの談話構文解析は、異なる論文に対して異なるRSTを生成する。このため、上記のRST 500は例示目的のみで提供している。従って、本発明は前記キュー−句ベースの談話構文解析または前記RST 500だけに限定されず、本発明の種々の実施形態は、文を特定および分類するいかなる妥当な方法を本発明の範囲内に含む。
以下の図6では、訓練用データを利用して、前記モデル320などの談話解析モデルを構築している。本発明の1実施形態では、この訓練用データに論文などを含めることができる。この場合、前記訓練用データは、本明細書で説明する論文データに類似したものでよい。
図6は、談話解析モデル構築プログラム(「モデル構築プログラム」)600の実施形態のアーキテクチャのブロック図である。図1および図2には示していないが、前記モデル構築プログラム600は、コンピュータシステム(前記コンピュータシステム200など)、および/またはコンピュータネットワーク(前記コンピュータネットワーク100など)で実施可能である。図6に示したように、前記モデル構築プログラム600は、ユーザインターフェース602と、特徴抽出プログラム604と、機械学習ツール618とを含む。
前記ユーザインターフェース602は、訓練用データおよび/または前記訓練用データの注釈を受け取るように構成されている。この注釈には、前記訓練用データの談話要素を特定するマーク(インジケータなど)が含まれる。この注釈にはさらに、「無関係」や「理解不能」など他の種々の談話カテゴリーを特定するマークが含まれる。「無関係」は、有意味な方法で寄与しないテキストセグメントの特定に使用できる。「理解不能」は、前記注釈付記プログラムにより理解されないテキストセグメントの特定に使用できる(誤った構文、誤った単語の使用など)。注釈は種々の方法で生成可能だが、本発明の1実施形態では、前記ユーザインターフェース602が、訓練を受けた審査員による訓練用データの手動注釈付記を受け取るように構成されている(図8を参照)。前記訓練用データには論文などを含めることができる。また、前記ユーザインターフェース602は、前記訓練用データおよび/または前記手動注釈を前記特徴抽出プログラム604に転送し、前記機械学習ツール618から前記モデル320を受信するように構成されている。
前記モデル構築プログラム600の前記特徴抽出プログラム604は、上述で説明した前記特徴抽出プログラム302に類似しているため、以下では前記特徴抽出プログラム604を完全に理解するために合理的に必要な特徴のみ説明する。前記特徴抽出プログラム604と前記特徴抽出プログラム302との相違点の1つは、前記特徴抽出プログラム604が前記手動注釈に関連付けられたデータを受信、処理、および/または転送するように構成されていることである。この点で、特徴抽出と、フラットファイル生成と、RSTの生成との後、前記特徴抽出プログラム604が、前記手動注釈および/または前記フラットファイルに関連付けられたデータを前記機械学習ツール618に転送するように構成されている。
前記機械学習ツール618は、前記手動注釈データおよび/または前記フラットファイルを前記特徴抽出プログラム604から受信し、このデータに基づいて前記モデル320を生成するように構成されている。一般に、この機械学習ツール618は、各注釈に関連付けられたパターンを決定するように構成されている。例えば、結論文が位置的データと強く相関するだろう(例えば、結論文は典型的に論文の末尾かその付近に位置する)。本発明の1実施形態では、(データマイニングツールなどの)機械学習ツール、C5.0(登録商標)(オーストラリア所在のRulequest Research Pty, Ltd.より入手可能)が、前記モデル320の生成に利用される。ただし、本発明の他の実施形態では、前記モデル320の生成に他の種々の機械学習ツールを利用することもできるため、前記他の種々の機械学習ツールも本発明の範囲に含まれる。これにより、本発明の別の実施形態では、複数のモデルを生成し、前記モデル320に組み込むことが可能である。例えば、位置的データに基づいたモデル、字句的特徴に基づいたモデル、重要な特徴に基づいたモデル、および句読点に基づいた異なる別のモデルが生成される。これらの実質的に独立したモデルは、前記モデル320に組み込むことができる。この方法では、採決アルゴリズムで、各モデルから分類された文を受信し、分類された各文から合致部分を決定することができる。前記機械学習ツール618はさらに、前記分類された文に関連付けられたデータを前記ユーザインターフェース602に転送するように構成されている。
別の実施形態では、前記モデル構築プログラム600を、前記データベース160などのデータベースと相互通信するように構成することができる。この場合、前記モデル構築プログラム600は、自立的に実行する、および/または談話解析モデル構築用に前記データベース160からデータを選択する能力をユーザに提供するように構成できる。
図7は、本発明の実施形態の前記モデル320を構築する方法700のフローチャートである。図1および図2には示していないが、前記方法700は、コンピュータシステム(前記コンピュータシステム200など)、および/またはコンピュータネットワーク(前記コンピュータネットワーク100など)で実施可能である。図7に示したように、この方法700は、少なくとも1つの注釈付き論文が受信されるとそれに応答して始動する(注釈付き訓練用データなど)。この注釈付き論文は、種々の方法で生成可能であるため(図8を参照)、注釈付き論文を生成するいかなる妥当な方法も本発明の範囲に含まれる。本発明の1実施形態では、前記注釈付き論文は、1若しくはそれ以上のトピックを論じる複数の論文の形態であってもよい。複数の論文には訓練を受けた審査員による注釈が付記された(図8を参照)。一般に、注釈は談話関連の特徴を特定するために利用できる(談話要素キューなど)。
工程702では、前記少なくとも1つの前記注釈付き論文を受信すると、それに応答して談話関連の特徴が前記特徴抽出プログラム604により抽出される。例えば工程402〜412に類似した方法で、文が特定され、前記少なくとも1つの論文用にフラットファイルが生成され、特徴および句読点が特定されて、適切な修正が前記フラットファイルに施される。
工程704では、前記少なくとも1つの前記注釈付き論文および/または前記フラットファイルを受信すると、それに応答してこの情報の一部または全部について、前記機械学習ツール618によりパターンの有無が調べられる。また、これらのパターンは前記モデル320の構築に利用される。
工程706では、前記モデル320が評価される。例えば、このモデル320は前記方法300に類似した方法で論文への注釈付記に利用できる。論文は専門家および/または審査員により注釈付記が可能で(図8を参照)、注釈間の比較も行える。前記注釈が所定範囲内で合致した場合、前記モデル320は評価に合格して前記ADAA180に転送される。前記注釈が所定範囲内で合致しなかった場合、前記モデル320は評価に失敗し、方法700は工程702に戻る。
図8は、本発明の実施形態の注釈付き論文を生成する方法800のフローチャートである。図8に示したように、この方法800は、専門家および審査員が少なくとも1つの論文を前記データベース160から受信すると、それに応答して始動する。前記専門家は、談話解析技術において平均を超える技能を有することが一般に認められている1人若しくはそれ以上である。前記審査員は、一般に談話解析技術において少なくとも通常技能を有している1人若しくはそれ以上である。
工程802では、前記審査員は前記専門家から訓練を受ける。例えば、前記審査員は、前記専門家が1若しくはそれ以上の論文に注釈を付記するのを観察する。前記審査員および前記専門家は、特定の注釈付記に関してその方法や理由などを検討する。また、論文は前記データベース160からの受信が示されるのであれば、いかなる妥当な方法で受信してもよい。
工程804では、前記審査員が、工程802で受けた訓練に基づいてデータに注釈を付記する。例えば、前記審査員は、1若しくはそれ以上の論文で主題文および結論を特定し、それらにマークする(注釈を付けるなど)。これらの注釈は、前記データベース160に格納される。
工程806では、前記審査員の能力が許容範囲であるかが決定される。例えば、第1の審査員により注釈が付記された論文は、前記専門家および/または第2の審査員が注釈を付記した同一データの論文と比較することができる。注釈付き論文間の合致レベルは、κ(カッパ)統計量、適合率、再現率、およびF値のうち1若しくはそれ以上の値を計算することにより決定される。ここでκ統計量とは、偶然の確率を排除した統計的な合致確率を決定するもので、一般に知られた式で表される。適合率とは、第1の審査員および第2の審査員の合致数を第1の審査員が付記した注釈の数で割った、合致確率の指標である。再現率とは、第1の審査員および第2の審査員の合致数を第2の審査員が付記した注釈の数で割った、合致確率の指標である。F値は、2×適合率×再現率を適合率+再現率で割ったものに等しい。
前記審査員の能力が許容範囲外と決定された場合、その審査員は工程802でさらに訓練を受ける。前記審査員の能力が許容範囲内と決定された場合、その審査員は工程808で注釈付き論文を生成できる。
工程808では、注釈付き論文が前記審査員により生成される。例えば、この審査員は前記データベース160から論文を受け取り、その論文に注釈を付けることができる。これらの注釈付き論文は、前記ADAA180に転送され、そして/または前記データベース160に格納される。
また、本発明の1実施形態では、前記専門家が1若しくはそれ以上の審査員を訓練することが実用的な場合がある。例えば、比較的多数の論文に注釈を付記することになっており、これを比較的少数の専門家で行うとひどく重荷になるであろう場合は、複数の審査員を訓練するのが有利である。本発明の別の実施形態では、前記専門家が審査員の資格で振る舞う、あるいはその逆がより実用である。例えば、論文が比較的少数で前記専門家がこれらの論文に急いで注釈を付記できる場合、または、ほとんど、またはまったく訓練を必要としない複数の比較的熟練した審査員が見つかった場合が上記に相当する。従って、本明細書では審査員および専門家について説明しているが、両者のいずれか一方を採用することも本発明の範囲に含まれるため、工程802〜806は任意工程である。
さらに、図8には示していないが、前記注釈付き論文は種々の方法で生成可能であるため、注釈付き論文を生成するいかなる妥当な方法も本発明の範囲に含まれる。本発明の1実施形態では、前記注釈付き論文は、1若しくはそれ以上のトピックを論じる複数の論文の形態であってもよい。前記複数の論文には訓練を受けた審査員により注釈が付記された。一般に、注釈は談話関連の特徴を特定するために利用される(談話要素キューなど)。
前記ADAA180と、前記モデル構築プログラム600と、前記方法400、700、および800とは、アクティブと非アクティブの両方の、種々の形態で存在する。例えば、これらはソースコード、オブジェクトコード、実行コード、または他の形式のプログラム命令からなるソフトウェアプログラムとして存在する。上記のいずれも、記憶装置とそれに使われる圧縮形態の信号または非圧縮形態の信号とを含む、コンピュータで読み込み可能な媒体上で具体化する。コンピュータで読み込み可能な記憶装置の例には、従来のコンピュータシステムのRAM(ランダムアクセスメモリ)、ROM(読み出し専用メモリ)、EPROM(消去可能プログラム可能ROM)、EEPROM(電気的消去可能プログラム可能ROM)、フラッシュメモリ、磁気ディスク、光ディスク、磁気テープ、光テープなどがある。コンピュータで読み込み可能な信号の例は、搬送波での変調の有無にかかわらず信号であって、コンピュータプログラムをホストまたは実行するコンピュータシステムが前記信号にアクセスするように構成できる信号であり、インターネット経由または他のネットワーク経由でダウンロードされる信号が含まれる。上述の具体例は、CD−ROMまたはインターネットダウンロードでの前記プログラムの配信を含む。ある意味では、インターネット自体は、抽象的実体でありコンピュータで読み込み可能な媒体である。同じことが一般にコンピュータネットワークにも言える。
また前記方法400、700、および800のユーザの一部または全部はソフトウェアプログラムとして存在してもよい。例えば、本明細書で言及する前記専門家、前記審査員、および前記ユーザの一部または全部は、論文を生成し、論文に注釈を付記し、および/または審査員に注釈付記に関する教示を行うよう構成されたソフトウェアエージェントであってもよい。この場合、前記ソフトウェアエージェントはアクティブおよび非アクティブの種々な形態で存在する。
本明細書で本発明の実施形態を一部の変形形態とともに説明および例示した。本明細書で使用した用語、説明、および図は、限定を意図したものではなく、例示的な目的のみで記載している。当業者であれば、以下の請求項(およびそれと等価なもの)により定義されるよう意図された本発明の要旨の範囲内で多数の変形形態が可能であり、前記請求項(およびそれと等価なもの)において、全ての項は、特に断りがない限り、最も広義に且つ妥当に解釈されるように意図されていることが理解されるであろう。
本発明の実施形態は添付の図面により例示的に示され、これに限定れされるものではない。尚、異なる図面中で使われる同様な参照番号は、同様な要素を表す。
図1は、本発明の実施形態を実装できるコンピュータネットワークのブロック図である。 図2は、本発明の実施形態を実装できるコンピュータシステムのブロック図である。 図3は、自動談話解析アプリケーションの実施形態用アーキテクチャのブロック図である。 図4は、本発明の実施形態の談話解析の方法のフローチャートである。 図5は、本発明の実施形態の修辞的構造ツリーを示す図である。 図6は、自動談話解析モデル構築プログラムアプリケーションの実施形態用アーキテクチャのブロック図である。 図7は、本発明の実施形態の談話解析モデルを構築する方法のフローチャートである。 図8は、本発明の実施形態の注釈付きデータを生成する方法のフローチャートである。

Claims (45)

  1. 論文中の文を特定する工程と、
    前記文に関連付けられた特徴を決定する工程と、
    前記特徴をモデルにマッピングすることにより、前記文が談話要素である確率を決定する工程であって、前記モデルは少なくとも1つの注釈付き論文に基づいて機械学習アプリケーションにより生成済みである、前記文が談話要素である確率を決定する工程と、
    前記確率に基づいて前記論文に注釈を付記する工程と
    を有する方法。
  2. 請求項1の方法において、前記談話要素は、表題、背景、主題文、要点、支持文、および結論のうち少なくとも1つである。
  3. 請求項1の方法であって、この方法はさらに、
    前記論文を受信する工程を有するものである。
  4. 請求項1の方法において、前記特徴は、位置的特徴、字句的特徴、修辞的特徴、および句読点のうち少なくとも1つを有するものである。
  5. 請求項4の方法であって、この方法はさらに、
    前記文用のエントリを含むフラットファイルを前記論文用に生成する工程と、
    前記位置的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記字句的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記修辞的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記文に関連付けられた前記句読点を特定する工程と、
    前記句読点に関連付けられたデータを含むように前記エントリを修正する工程と
    を有するものである。
  6. 請求項5の方法において、前記位置的特徴は、
    前記論文中での前記文の位置に関連付けられた文位置と、
    前記論文中での前記文の相対位置に関連付けられた相対文位置と、
    前記論文の段落中での前記文の位置に関連付けられた段落位置と、
    前記論文中での前記段落の相対位置に関連付けられた相対段落位置と
    のうち少なくとも1つを有するものである。
  7. 請求項5の方法において、前記字句的特徴は、
    典型的に談話要素に関連付けられたカテゴリー固有キュー(手がかり)と、
    典型的に談話構造に関連付けられた一般語彙キューと、
    典型的に談話関係に関連付けられたキー用語と
    のうち少なくとも1つを有するものである。
  8. 請求項5の方法であって、この方法はさらに、
    前記フラットファイルに基づいて修辞的構造ツリーを生成する工程と、
    前記修辞的構造ツリーに基づいて前記修辞的特徴を特定する工程であって、前記修辞的特徴は、
    典型的に基本談話単位に関連付けられた談話構造と、
    複数の前記談話構造間の関連様態を記述する修辞的関係と、
    ステータスであって、
    前記複数の談話構造のうち比較的より重要な1つに関連付けられた主要素と、
    前記複数の談話構造のうち比較的より重要でない1つに関連付けられた従属要素と
    を有するステータスと
    のうち少なくとも1つを有する、前記修辞的特徴を特定する工程と
    を有するものである。
  9. 請求項1の方法において、前記修辞的構造ツリーは複数のモデルにマッピングされ、前記確率は採決アルゴリズムに基づいて決定されるものである。
  10. 論文中の文を特定する工程と、
    前記文用のエントリを含むフラットファイルを前記論文用に生成する工程と、
    前記文に関連付けられた位置的特徴を決定する工程と、
    前記位置的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記文に関連付けられた字句的特徴を特定する工程と、
    前記字句的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記文に関連付けられた修辞的特徴を特定する工程と、
    前記修辞的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記フラットファイルをモデルにマッピングすることにより、前記文が談話要素である確率を決定する工程であって、前記モデルは少なくとも1つの注釈付き論文に基づいて機械学習アプリケーションにより生成される、前記文が談話要素である確率を決定する工程と、
    前記確率に基づいて前記論文に注釈を付記する工程と
    を有する方法。
  11. 請求項10の方法において、前記談話要素は、表題、背景、主題文、要点、支持文、および結論のうち少なくとも1つである。
  12. 請求項10の方法であって、この方法はさらに、
    前記論文を受信する工程を有するものである。
  13. 請求項10の方法において、前記位置的特徴は、
    前記論文中での前記文の位置に関連付けられた文位置と、
    前記論文中での前記文の相対位置に関連付けられた相対文位置と、
    前記論文の段落中での前記文の位置に関連付けられた段落位置と、
    前記論文中での前記段落の相対位置に関連付けられた相対段落位置と
    のうち少なくとも1つを有するものである。
  14. 請求項10の方法において、前記字句的特徴は、
    典型的に談話要素に関連付けられたカテゴリー固有キューと、
    典型的に談話構造に関連付けられた一般語彙キューと、
    典型的に談話関係に関連付けられたキー用語と
    のうち少なくとも1つを有するものである。
  15. 請求項10の方法であって、この方法はさらに、
    前記フラットファイルに基づいて修辞的構造ツリーを生成する工程と、
    前記修辞的構造ツリーに基づいて前記修辞的特徴を特定する工程であって、前記修辞的特徴は、
    典型的に基本談話単位に関連付けられた談話構造と、
    複数の前記談話構造間の関連様態を記述する修辞的関係と、
    ステータスであって、
    前記複数の談話構造のうち比較的より重要な1つに関連付けられた主要素と、
    前記複数の談話構造のうち比較的より重要でない1つに関連付けられた従属要素と
    を有するステータスと
    のうち少なくとも1つを有する、前記修辞的特徴を特定する工程と
    を有するものである。
  16. 請求項10の方法であって、この方法はさらに、
    前記文に関連付けられた句読点を特定する工程と、
    前記句読点に関連付けられたデータを含むように前記エントリを修正する工程と
    を有するものである。
  17. 請求項10の方法において、前記フラットファイルは複数のモデルにマッピングされ、前記確率は採決アルゴリズムに基づいて決定されるものである。
  18. 論文を受信する工程と
    前記論文中の文を特定する工程と、
    前記文用のエントリを含むフラットファイルを前記論文用に生成する工程と、
    前記文に関連付けられた位置的特徴を決定する工程であって、この位置的特徴は、
    前記論文中での前記文の位置に関連付けられた文位置と、
    前記論文中での前記文の相対位置に関連付けられた相対文位置と、
    前記論文の段落中での前記文の位置に関連付けられた段落位置と、
    前記論文中での前記段落の相対位置に関連付けられた相対段落位置と
    のうち少なくとも1つを有する、位置的特徴を決定する工程と、
    前記位置的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記文に関連付けられた字句的特徴を特定する工程であって、この字句的特徴は、
    典型的に談話要素に関連付けられたカテゴリー固有キューと、
    典型的に談話構造に関連付けられた一般語彙キューと、
    典型的に談話関係に関連付けられたキー用語と
    のうち少なくとも1つを有する、字句的特徴を決定する工程と、
    前記字句的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記文に関連付けられた句読点を特定する工程と、
    前記句読点に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記フラットファイルに基づいて修辞的構造ツリーを生成する工程と、
    前記修辞的構造ツリーに基づいて修辞的特徴を特定する工程であって、この修辞的特徴は、
    基本談話単位に典型的に関連付けられた談話構造と、
    複数の前記談話構造間の関連様態を記述する修辞的関係と、
    ステータスであって、
    前記複数の談話構造のうち比較的より重要な1つに関連付けられた主要素と、
    前記複数の談話構造のうち比較的より重要でない1つに関連付けられた従属要素と
    を有するステータスと
    のうち少なくとも1つを有する、修辞的特徴を特定する工程と、
    前記修辞的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記フラットファイルをモデルにマッピングすることにより、前記文が談話要素である確率を決定する工程であって、前記モデルは少なくとも1つの注釈付き論文に基づいて機械学習アプリケーションにより生成される、前記文が談話要素である確率を決定する工程と、
    前記確率に基づいて前記論文に注釈を付記する工程と
    を有する方法。
  19. 請求項18の方法において、前記談話要素は、表題、背景、主題文、要点、支持文、および結論のうち少なくとも1つである。
  20. 論文中の文を談話要素として特定するように第1の審査員を訓練する工程と、
    前記第1の審査員からの前記論文の第1の注釈を受け取る工程と、
    前記第1の注釈と、第2の審査員の第2の注釈との比較に基づいて前記第1の審査員を評価する工程と、
    所定の値を超える前記評価に応答して、前記第1の注釈に基づいて経験的確率を計算する工程であって、前記経験的確率は、
    前記論文中での前記文の位置的特徴と、
    前記論文中での前記文のカテゴリー固有特徴と、
    前記論文中での前記文の字句的特徴と、
    前記論文中での前記文のキー用語と、
    前記論文中での前記文の句読点と
    のうち少なくとも1つを含む、前記第1の注釈に基づいて経験的確率を計算する工程と
    を有する工程。
  21. コンピュータソフトウェアが埋め込まれたコンピュータで読み込み可能な媒体であって、前記ソフトウェアは方法を実行するための実行可能なコードを有し、この方法は、
    論文中の文を特定する工程と、
    前記文に関連付けられた特徴を決定する工程と、
    前記特徴をモデルにマッピングすることにより、前記文が談話要素である確率を決定する工程であって、前記モデルは少なくとも1つの注釈付き論文に基づいて機械学習アプリケーションにより生成される、前記文が談話要素である確率を決定する工程と、
    前記確率に基づいて前記論文に注釈を付記する工程と
    を有する方法を実行するための実行可能なコードを有する、
    コンピュータで読み込み可能な媒体。
  22. 請求項21の方法において、前記談話要素は、表題、背景、主題文、要点、支持文、および結論のうち少なくとも1つである。
  23. 請求項21の方法であって、この方法はさらに、
    前記論文を受信する工程を有するものである。
  24. 請求項21の方法において、前記特徴は、位置的特徴、字句的特徴、修辞的特徴、および句読点のうち少なくとも1つを有するものである。
  25. 請求項24の方法であって、この方法はさらに、
    前記文用のエントリを含むフラットファイルを前記論文用に生成する工程と、
    前記位置的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記字句的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記修辞的特徴に関連付けられたデータを含むように前記エントリを修正する工程と、
    前記文に関連付けられた前記句読点を特定する工程と、
    前記句読点に関連付けられたデータを含むように前記エントリを修正する工程と
    を有するものである。
  26. 請求項25の方法において、前記位置的特徴は、
    前記論文中での前記文の位置に関連付けられた文位置と、
    前記論文中での前記文の相対位置に関連付けられた相対文位置と、
    前記論文の段落中での前記文の位置に関連付けられた段落位置と、
    前記論文中での前記段落の相対位置に関連付けられた相対段落位置と
    のうち少なくとも1つを有するものである。
  27. 請求項25の方法において、前記字句的特徴は、
    典型的に談話要素に関連付けられたカテゴリー固有キューと、
    典型的に談話構造に関連付けられた一般語彙キューと、
    典型的に談話関係に関連付けられたキー用語と
    のうち少なくとも1つを有するものである。
  28. 請求項25の方法であって、この方法はさらに、
    前記フラットファイルに基づいて修辞的構造ツリーを生成する工程と、
    前記修辞的構造ツリーに基づいて前記修辞的特徴を特定する工程であって、前記修辞的特徴は、
    典型的に基本談話単位に関連付けられた談話構造と、
    複数の前記談話構造間の関連様態を記述する修辞的関係と、
    ステータスであって、
    前記複数の談話構造のうち比較的より重要な1つに関連付けられた主要素と、
    前記複数の談話構造のうち比較的より重要でない1つに関連付けられた従属要素と
    を有するステータスと
    のうち少なくとも1つを有する、前記修辞的特徴を特定する工程と
    を有するものである。
  29. 請求項21の方法において、前記修辞的構造ツリーは複数のモデルにマッピングされ、前記確率は採決アルゴリズムに基づいて決定されるものである。
  30. 自動論文注釈付記プログラムであって、
    論文中の文を特定する手段と、
    前記文に関連付けられた特徴を決定する手段と、
    前記特徴をモデルにマッピングするように構成された、前記文が談話要素である確率を決定する手段であって、このモデルが少なくとも1つの注釈付き論文に基づいて機械学習アプリケーションにより生成済みであり、前記談話要素が、表題、背景、主題文、要点、支持文、および結論のうち少なくとも1つである、確率を決定する手段と、
    前記確率に基づいて前記論文に注釈を付記する手段と
    を有する自動論文注釈付記プログラム。
  31. 請求項30の自動論文注釈付記プログラムであって、この自動論文注釈付記プログラムはさらに、
    前記論文を受信する手段を有するものである。
  32. 請求項30の自動論文注釈付記プログラムにおいて、前記特徴を決定する手段はさらに、
    位置的特徴を決定する手段と、
    字句的特徴を決定する手段と、
    修辞的特徴を決定する手段と、
    句読点を決定する手段と
    のうち少なくとも1つを有するものである。
  33. 請求項32の自動論文注釈付記プログラムであって、この自動論文注釈付記プログラムはさらに、
    前記文用のエントリを含むフラットファイルを前記論文用に生成する手段と、
    前記位置的特徴に関連付けられたデータを含むように前記エントリを修正する手段と、
    前記字句的特徴に関連付けられたデータを含むように前記エントリを修正する手段と、
    前記修辞的特徴に関連付けられたデータを含むように前記エントリを修正する手段と、
    前記文に関連付けられた前記句読点を特定する手段と、
    前記句読点に関連付けられたデータを含むように前記エントリを修正する手段と
    を有するものである。
  34. 請求項33の自動論文注釈付記プログラムにおいて、前記位置的特徴を決定する手段は、
    前記論文中での前記文の位置に関連付けられた文位置を決定する手段と、
    前記論文中での前記文の相対位置に関連付けられた相対文位置を決定する手段と、
    前記論文の段落中での前記文の位置に関連付けられた段落位置を決定する手段と、
    前記論文中での前記段落の相対位置に関連付けられた相対段落位置を決定する手段と
    のうち少なくとも1つを有するものである。
  35. 請求項33の自動論文注釈付記プログラムにおいて、前記字句的特徴を決定する手段は、
    談話要素に典型的に関連付けられたカテゴリー固有キューを特定する手段と、
    談話構造に典型的に関連付けられた一般語彙キューを特定する手段と、
    談話関係に典型的に関連付けられたキー用語を特定する手段と
    のうち少なくとも1つを有するものである。
  36. 請求項33の自動論文注釈付記プログラムであって、この自動論文注釈付記プログラムはさらに、
    前記フラットファイルに基づいて修辞的構造ツリーを生成する手段と、
    前記修辞的構造ツリーに基づいて前記修辞的特徴を特定する手段であって、前記修辞的特徴は、
    基本談話単位に典型的に関連付けられた談話構造と、
    複数の前記談話構造間の関連様態を記述する修辞的関係と、
    ステータスであって、
    前記複数の談話構造のうち比較的より重要な1つに関連付けられた主要素と、
    前記複数の談話構造のうち比較的より重要でない1つに関連付けられた従属要素と
    を有するステータスと
    のうち少なくとも1つを有する、前記修辞的特徴を特定する手段と
    を有するものである。
  37. 請求項30の自動論文注釈付記プログラムにおいて、前記確率を決定する手段はさらに、
    前記修辞的構造ツリーを複数のモデルにマッピングする手段を有し、前記確率が採決アルゴリズムに基づいて決定されるものである。
  38. 自動論文注釈付記プログラムであって、
    特徴抽出プログラムを有し、この特徴抽出プログラムは、
    前記論文の文に関連付けられた位置的特徴を決定するように構成された位置特定プログラムであって、この位置特定プログラムはさらにフラットファイルを生成するように構成されており、このフラットファイルが前記文用のエントリを含み、このエントリが前記位置的特徴に関連付けられたデータを含む、位置特定プログラムと、
    前記文に関連付けられた字句的特徴を特定するように構成された字句的項目特定プログラムであって、前記字句的特徴に関連付けられたデータを含むように前記エントリを修正するようにさらに構成された、字句的項目特定プログラムと、
    修辞的特徴を特定するように構成された修辞的関係特定プログラムであって、前記修辞的特徴に関連付けられたデータを含むように前記エントリを修正するようにさらに構成された、修辞的関係特定プログラムと
    を有する特徴抽出プログラムと、
    前記文が談話要素である確率を決定するように構成された談話解析モデル化プログラムであって、この談話解析モデル化プログラムが前記フラットファイルをモデルにマッピングすることにより前記確率を決定するように構成されており、前記モデルが少なくとも1つの注釈付き論文に基づいて機械学習アプリケーションにより生成済みであり、前記確率に基づいて前記論文に注釈を付記するようにさらに構成された、談話解析モデル化プログラムと
    を有する自動論文注釈付記プログラム。
  39. 請求項38の前記自動論文注釈付記プログラムにおいて、前記談話解析モデル化プログラムは、前記文が複数の談話要素のうち少なくとも1つである確率を決定するようにさらに構成されており、前記複数の談話要素は表題、背景、主題文、要点、支持文、および結論を含むものである。
  40. 請求項38の自動論文注釈付記プログラムにおいて、前記特徴抽出プログラムは前記論文を受信するように構成されているものである。
  41. 請求項38の自動論文注釈付記プログラムにおいて、前記位置特定プログラムはさらに、
    前記論文中での前記文の位置に関連付けられた文位置と、
    前記論文中での前記文の相対位置に関連付けられた相対文位置と、
    前記論文の段落中での前記文の位置に関連付けられた段落位置と、
    前記論文中での前記段落の相対位置に関連付けられた相対段落位置と
    のうち少なくとも1つを決定するように構成されている。
  42. 請求項38の自動論文注釈付記プログラムにおいて、前記字句的項目特定プログラムは、
    談話要素に典型的に関連付けられたキューを特定するように構成されたカテゴリー固有キュー特定プログラムと、
    談話構造に典型的に関連付けられたキューを特定するように構成された一般語彙キュー特定プログラムと、
    談話関係に典型的に関連付けられたキー用語を特定するように構成されたキー用語特定プログラムと
    を有するものである。
  43. 請求項38の自動論文注釈付記プログラムであって、この自動論文注釈付記プログラムはさらに、
    前記文に関連付けられた句読点を特定するように構成された句読点特定プログラムであって、前記句読点に関連付けられたデータを含むように前記エントリを修正するようにさらに構成された、句読点特定プログラムを有するものである。
  44. 請求項38の自動論文注釈付記プログラムにおいて、前記修辞的関係特定プログラムは、前記フラットファイルに基づいて修辞的構造ツリーを生成するように、且つ前記修辞的構造ツリーに基づいて前記修辞的特徴を特定するようにさらに構成されており、前記修辞的特徴は、
    基本談話単位に典型的に関連付けられた談話構造と、
    複数の前記談話構造間の関連様態を記述する修辞的関係と、
    ステータスであって、
    前記複数の談話構造のうち比較的より重要な1つに関連付けられた主要素と、
    前記複数の談話構造のうち比較的より重要でない1つに関連付けられた従属要素と
    を有するステータスと
    のうち少なくとも1つを有するものである。
  45. 請求項38の前記自動論文注釈付記プログラムにおいて、前記談話解析モデル化プログラムはさらに、前記修辞的構造ツリーを複数のモデルにマッピングするように、且つ採決アルゴリズムに基づいて前記文が談話要素である確率を決定するように構成されているものである。
JP2004516193A 2002-06-24 2003-06-23 自動論文注釈付記システムおよびその方法 Expired - Fee Related JP4334474B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/176,534 US7127208B2 (en) 2002-01-23 2002-06-24 Automated annotation
PCT/US2003/019868 WO2004001700A1 (en) 2002-06-24 2003-06-23 Automated essay annotation system and method

Publications (2)

Publication Number Publication Date
JP2005531068A true JP2005531068A (ja) 2005-10-13
JP4334474B2 JP4334474B2 (ja) 2009-09-30

Family

ID=29999066

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004516193A Expired - Fee Related JP4334474B2 (ja) 2002-06-24 2003-06-23 自動論文注釈付記システムおよびその方法

Country Status (9)

Country Link
US (3) US7127208B2 (ja)
EP (1) EP1535261A4 (ja)
JP (1) JP4334474B2 (ja)
KR (1) KR100931515B1 (ja)
AU (1) AU2003278846A1 (ja)
CA (1) CA2491238C (ja)
GB (1) GB0500438D0 (ja)
MX (1) MXPA05000237A (ja)
WO (1) WO2004001700A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017027111A (ja) * 2015-07-15 2017-02-02 日本電信電話株式会社 接続表現項構造解析装置、方法、及びプログラム

Families Citing this family (56)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002059857A1 (en) * 2001-01-23 2002-08-01 Educational Testing Service Methods for automated essay analysis
US7127208B2 (en) * 2002-01-23 2006-10-24 Educational Testing Service Automated annotation
US8210850B2 (en) 2002-03-07 2012-07-03 Blank Marion S Literacy education system for students with autistic spectrum disorders (ASD)
US7088949B2 (en) 2002-06-24 2006-08-08 Educational Testing Service Automated essay scoring
US7149468B2 (en) * 2002-07-25 2006-12-12 The Mcgraw-Hill Companies, Inc. Methods for improving certainty of test-taker performance determinations for assessments with open-ended items
US8128414B1 (en) 2002-08-20 2012-03-06 Ctb/Mcgraw-Hill System and method for the development of instructional and testing materials
WO2004075015A2 (en) * 2003-02-14 2004-09-02 Ctb/Mcgraw-Hill System and method for creating, assessing, modifying, and using a learning map
US7980855B1 (en) 2004-05-21 2011-07-19 Ctb/Mcgraw-Hill Student reporting systems and methods
US20070042335A1 (en) * 2005-05-11 2007-02-22 Ctb Mcgraw-Hill System and method for assessment or survey response collection using a remote, digitally recording user input device
US8170466B2 (en) * 2005-05-27 2012-05-01 Ctb/Mcgraw-Hill System and method for automated assessment of constrained constructed responses
US20070009871A1 (en) * 2005-05-28 2007-01-11 Ctb/Mcgraw-Hill System and method for improved cumulative assessment
US20070031801A1 (en) * 2005-06-16 2007-02-08 Ctb Mcgraw Hill Patterned response system and method
US8688026B2 (en) * 2007-01-19 2014-04-01 Barry Morse Essay writing system
US8463594B2 (en) * 2008-03-21 2013-06-11 Sauriel Llc System and method for analyzing text using emotional intelligence factors
US20100169359A1 (en) * 2008-12-30 2010-07-01 Barrett Leslie A System, Method, and Apparatus for Information Extraction of Textual Documents
US7937386B2 (en) * 2008-12-30 2011-05-03 Complyon Inc. System, method, and apparatus for information extraction of textual documents
WO2010107327A1 (en) * 2009-03-20 2010-09-23 Syl Research Limited Natural language processing method and system
US9679256B2 (en) 2010-10-06 2017-06-13 The Chancellor, Masters And Scholars Of The University Of Cambridge Automated assessment of examination scripts
US9208139B2 (en) * 2012-01-05 2015-12-08 Educational Testing Service System and method for identifying organizational elements in argumentative or persuasive discourse
US9355372B2 (en) 2013-07-03 2016-05-31 Thomson Reuters Global Resources Method and system for simplifying implicit rhetorical relation prediction in large scale annotated corpus
WO2015003143A2 (en) * 2013-07-03 2015-01-08 Thomson Reuters Global Resources Method and system for simplifying implicit rhetorical relation prediction in large scale annotated corpus
GB2524796A (en) * 2014-04-03 2015-10-07 Finned Oy Electronic arrangement and method for educational purposes
US10198428B2 (en) * 2014-05-06 2019-02-05 Act, Inc. Methods and systems for textual analysis
US10192456B2 (en) * 2015-12-01 2019-01-29 President And Fellows Of Harvard College Stimulating online discussion in interactive learning environments
US11151894B1 (en) * 2017-02-02 2021-10-19 Educational Testing Service Systems and methods for scoring argument critique written essays
US10599885B2 (en) * 2017-05-10 2020-03-24 Oracle International Corporation Utilizing discourse structure of noisy user-generated content for chatbot learning
EP3622412A1 (en) * 2017-05-10 2020-03-18 Oracle International Corporation Enabling rhetorical analysis via the use of communicative discourse trees
US11586827B2 (en) * 2017-05-10 2023-02-21 Oracle International Corporation Generating desired discourse structure from an arbitrary text
US12001804B2 (en) * 2017-05-10 2024-06-04 Oracle International Corporation Using communicative discourse trees to detect distributed incompetence
US11373632B2 (en) * 2017-05-10 2022-06-28 Oracle International Corporation Using communicative discourse trees to create a virtual persuasive dialogue
US11960844B2 (en) * 2017-05-10 2024-04-16 Oracle International Corporation Discourse parsing using semantic and syntactic relations
US10839154B2 (en) * 2017-05-10 2020-11-17 Oracle International Corporation Enabling chatbots by detecting and supporting affective argumentation
US10679011B2 (en) * 2017-05-10 2020-06-09 Oracle International Corporation Enabling chatbots by detecting and supporting argumentation
US11615145B2 (en) 2017-05-10 2023-03-28 Oracle International Corporation Converting a document into a chatbot-accessible form via the use of communicative discourse trees
US11386274B2 (en) * 2017-05-10 2022-07-12 Oracle International Corporation Using communicative discourse trees to detect distributed incompetence
US10817670B2 (en) * 2017-05-10 2020-10-27 Oracle International Corporation Enabling chatbots by validating argumentation
US11100144B2 (en) 2017-06-15 2021-08-24 Oracle International Corporation Data loss prevention system for cloud security based on document discourse analysis
US10839161B2 (en) 2017-06-15 2020-11-17 Oracle International Corporation Tree kernel learning for text classification into classes of intent
US11182412B2 (en) 2017-09-27 2021-11-23 Oracle International Corporation Search indexing using discourse trees
EP3688609A1 (en) * 2017-09-28 2020-08-05 Oracle International Corporation Determining cross-document rhetorical relationships based on parsing and identification of named entities
WO2019067878A1 (en) 2017-09-28 2019-04-04 Oracle International Corporation ACTIVATION OF AUTONOMOUS AGENTS TO DISTINGUISH QUESTIONS AND DEMANDS
US11809825B2 (en) * 2017-09-28 2023-11-07 Oracle International Corporation Management of a focused information sharing dialogue based on discourse trees
CN108121702B (zh) * 2017-12-26 2020-11-24 浙江讯飞智能科技有限公司 数学主观题评阅方法及系统
US11537645B2 (en) 2018-01-30 2022-12-27 Oracle International Corporation Building dialogue structure by using communicative discourse trees
US10949623B2 (en) 2018-01-30 2021-03-16 Oracle International Corporation Using communicative discourse trees to detect a request for an explanation
JP7258047B2 (ja) 2018-05-09 2023-04-14 オラクル・インターナショナル・コーポレイション 収束質問に対する回答を改善するための仮想談話ツリーの構築
US11455494B2 (en) 2018-05-30 2022-09-27 Oracle International Corporation Automated building of expanded datasets for training of autonomous agents
US11237713B2 (en) * 2019-01-21 2022-02-01 International Business Machines Corporation Graphical user interface based feature extraction application for machine learning and cognitive models
US11449682B2 (en) 2019-08-29 2022-09-20 Oracle International Corporation Adjusting chatbot conversation to user personality and mood
US11556698B2 (en) 2019-10-22 2023-01-17 Oracle International Corporation Augmenting textual explanations with complete discourse trees
US11580298B2 (en) 2019-11-14 2023-02-14 Oracle International Corporation Detecting hypocrisy in text
US11501085B2 (en) 2019-11-20 2022-11-15 Oracle International Corporation Employing abstract meaning representation to lay the last mile towards reading comprehension
US11775772B2 (en) 2019-12-05 2023-10-03 Oracle International Corporation Chatbot providing a defeating reply
US11847420B2 (en) 2020-03-05 2023-12-19 Oracle International Corporation Conversational explainability
WO2023212524A1 (en) * 2022-04-25 2023-11-02 Gyan, Inc. (A Delaware Corporation) An explainable natural language understanding platform
US12020593B2 (en) * 2022-08-15 2024-06-25 BrainPOP IP LLC Automated evaluation of free-form answers and generation of actionable feedback to multidimensional reasoning questions

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4958284A (en) * 1988-12-06 1990-09-18 Npd Group, Inc. Open ended question analysis system and method
US4978305A (en) * 1989-06-06 1990-12-18 Educational Testing Service Free response test grading method
JPH0743728B2 (ja) 1990-08-02 1995-05-15 工業技術院長 要約文生成方式
US5672060A (en) * 1992-07-08 1997-09-30 Meadowbrook Industries, Ltd. Apparatus and method for scoring nonobjective assessment materials through the application and use of captured images
US5565316A (en) * 1992-10-09 1996-10-15 Educational Testing Service System and method for computer based testing
JP3202381B2 (ja) 1993-01-28 2001-08-27 株式会社東芝 文書検索装置及び文書検索方法
US5437554A (en) * 1993-02-05 1995-08-01 National Computer Systems, Inc. System for providing performance feedback to test resolvers
JP2957875B2 (ja) 1993-03-17 1999-10-06 株式会社東芝 文書情報検索装置及び文書検索結果表示方法
US5778397A (en) 1995-06-28 1998-07-07 Xerox Corporation Automatic method of generating feature probabilities for automatic extracting summarization
US5918240A (en) 1995-06-28 1999-06-29 Xerox Corporation Automatic method of extracting summarization using feature probabilities
US5878386A (en) * 1996-06-28 1999-03-02 Microsoft Corporation Natural language parser with dictionary-based part-of-speech probabilities
US5987302A (en) * 1997-03-21 1999-11-16 Educational Testing Service On-line essay evaluation system
US6115683A (en) * 1997-03-31 2000-09-05 Educational Testing Service Automatic essay scoring system using content-based techniques
US6181909B1 (en) * 1997-07-22 2001-01-30 Educational Testing Service System and method for computer-based automatic essay scoring
US6356864B1 (en) * 1997-07-25 2002-03-12 University Technology Corporation Methods for analysis and evaluation of the semantic content of a writing based on vector length
US6267601B1 (en) * 1997-12-05 2001-07-31 The Psychological Corporation Computerized system and method for teaching and assessing the holistic scoring of open-ended questions
JP2000029894A (ja) 1998-07-13 2000-01-28 Ntt Data Corp 主題文抽出方式
US6332143B1 (en) * 1999-08-11 2001-12-18 Roedy Black Publishing Inc. System for connotative analysis of discourse
GB0006721D0 (en) * 2000-03-20 2000-05-10 Mitchell Thomas A Assessment methods and systems
CA2408819C (en) * 2000-05-11 2006-11-07 University Of Southern California Machine translation techniques
US6461166B1 (en) * 2000-10-17 2002-10-08 Dennis Ray Berman Learning system with learner-constructed response based testing methodology
US6866510B2 (en) * 2000-12-22 2005-03-15 Fuji Xerox Co., Ltd. System and method for teaching second language writing skills using the linguistic discourse model
WO2002059857A1 (en) 2001-01-23 2002-08-01 Educational Testing Service Methods for automated essay analysis
US20030031996A1 (en) * 2001-08-08 2003-02-13 Adam Robinson Method and system for evaluating documents
US7127208B2 (en) 2002-01-23 2006-10-24 Educational Testing Service Automated annotation
US7088949B2 (en) 2002-06-24 2006-08-08 Educational Testing Service Automated essay scoring
US20040073510A1 (en) 2002-06-27 2004-04-15 Logan Thomas D. Automated method and exchange for facilitating settlement of transactions

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017027111A (ja) * 2015-07-15 2017-02-02 日本電信電話株式会社 接続表現項構造解析装置、方法、及びプログラム

Also Published As

Publication number Publication date
JP4334474B2 (ja) 2009-09-30
US7127208B2 (en) 2006-10-24
MXPA05000237A (es) 2005-08-26
KR100931515B1 (ko) 2009-12-14
US20100285434A1 (en) 2010-11-11
KR20050035523A (ko) 2005-04-18
GB0500438D0 (en) 2005-02-16
CA2491238C (en) 2010-08-03
US8626054B2 (en) 2014-01-07
US7796937B2 (en) 2010-09-14
AU2003278846A1 (en) 2004-01-06
EP1535261A4 (en) 2011-02-09
CA2491238A1 (en) 2003-12-31
US20030138758A1 (en) 2003-07-24
WO2004001700A1 (en) 2003-12-31
EP1535261A1 (en) 2005-06-01
US20070077542A1 (en) 2007-04-05

Similar Documents

Publication Publication Date Title
JP4334474B2 (ja) 自動論文注釈付記システムおよびその方法
US7769339B2 (en) Automated essay scoring
CN100451968C (zh) 语法创建系统
WO2022111244A1 (zh) 数据处理方法、装置、电子设备及存储介质
US8495488B2 (en) Tool for interacting with and comparing scores in marked documents
CN111475623A (zh) 基于知识图谱的案件信息语义检索方法及装置
JP2010015571A (ja) エッセイ中の過度の反復語使用の自動評価
US20060078862A1 (en) Answer support system, answer support apparatus, and answer support program
US20090198488A1 (en) System and method for analyzing communications using multi-placement hierarchical structures
US20070143329A1 (en) System and method for analyzing communications using multi-dimensional hierarchical structures
Scheible et al. Model architectures for quotation detection
Dong et al. A natural language question answering system as a participant in human Q&A portals
CN113190692A (zh) 一种知识图谱的自适应检索方法、系统及装置
JP2008090117A (ja) 学習システム、類似問題検索方法、プログラム
CN111639160A (zh) 领域识别的方法、交互的方法、电子设备及存储介质
CN111931480A (zh) 文本主要内容的确定方法、装置、存储介质及计算机设备
CN116595156B (zh) 一种知识管理系统及管理方法
CN117744661B (zh) 基于提示词工程的文本生成模型训练方法和文本生成方法
Smienk Natural language search for personal information retrieval: Benefits and limitations to the user’s experience in bookkeeping software.
Katz et al. Essay Scoring with Grammatical Error Detection
Vasishth An abductive inference based model of human sentence parsing
de Pablo-Sánchez et al. miraQA: Experiments with learning answer context patterns from the web
Gaynor Computer grammar checkers and ESL writers

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060623

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080828

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080930

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20081219

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090105

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090129

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090210

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090526

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090623

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120703

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130703

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees