JPH01266670A - 日本語対象文固有用語抽出処理装置 - Google Patents

日本語対象文固有用語抽出処理装置

Info

Publication number
JPH01266670A
JPH01266670A JP63095096A JP9509688A JPH01266670A JP H01266670 A JPH01266670 A JP H01266670A JP 63095096 A JP63095096 A JP 63095096A JP 9509688 A JP9509688 A JP 9509688A JP H01266670 A JPH01266670 A JP H01266670A
Authority
JP
Japan
Prior art keywords
candidates
japanese
target sentence
code
character
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP63095096A
Other languages
English (en)
Other versions
JPH0810452B2 (ja
Inventor
Masahiro Oku
雅博 奥
Masanobu Higashida
正信 東田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP63095096A priority Critical patent/JPH0810452B2/ja
Publication of JPH01266670A publication Critical patent/JPH01266670A/ja
Publication of JPH0810452B2 publication Critical patent/JPH0810452B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Machine Translation (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 (1)発明の属する技術分野 本発明は1日本語文書中から、該文書でのみ使用されて
いる製品名、会社名1人名などの固有名詞や単語の組み
合わせであっても新語や該文書においてのみ使用されて
いると考えられる語(対象文固有用語)を自動的に抽出
する日本語対象文固有用語抽出処理方式に関するもので
ある。
(2)従来の技術 従来から文作成に当って1日本語文書中から。
該文書でのみ使用されている製品名、会社名1人名など
の固有名詞や、単語の組み合わせであっても新語や、該
文書においてのみ使用されていると考えられる語(対象
文固有用語)を抽出することが行われている。このため
の従来の方式では、入力日本文をあらかじめ用意した解
析辞書を用いて分かち書きを行い、その結果、うまく分
かち書きできなかった部分を対象文固有用語として抽出
する。また1字種の変化点に着目する方式では、ある字
種から別の字種へ変化する点までを対象文固有用語の候
補として抽出し、該候補の中から、あらかじめ用意した
解析用の日本語辞書に登録されていない候補を、対象文
固有用語として抽出するようにしている。
しかし、前者の方式では。
■ 日本語の分かち書き処理は、解析辞書中に単語が登
録されていることを前提としているため。
対象文固有用語についても解析を試み2部分的に解析に
成功すると、その部分を対象文固有用語の対象外となる
(例:「0×会社」は全体で社名を表わす対象文固有用
語であるにもかかわらず、「会社」は一般的な語であっ
て、解析に成功するため、「○×」のみが対象文固有用
語であると認定されてしまう)など、正確に対象文固有
用語を抽出することができない。
■ 対象文固有用語が一般的な語によって構成されてい
る場合、該用語は、対象文固有用語として認定されない
0例を以下に示す、「日本電信電話株式会社」は固有名
詞であり、対象文固有用語であるが、−爪的な語のみに
よって構成さているために、[日本/電信/電話/株式
/会社]のように分かち書きに成功する。このため。
対象文固有用語として抽出されるべき「日本電信電話株
式会社」が抽出されない。
また、後者の方式では。
■ 複数の字種にわたる対象文固有用語が″抽出しすら
い。
■ 「〜向け」などの送りがな付きの接辞を含む対象文
固有用語が抽出できない。
■ 途中にひらがなを含む対象文固有用語(例:係り受
は解析)を抽出できない。
(3)発明の目的 本発明の目的は、前記の問題点を解決した1日本語文6
中から対象文固有用語を正確に自動抽出する日本語対象
文固有用語抽出処理方式を提供することにある。
(4)発明の構成 (4−1)発明の特徴と従来の技術との差異本発明は1
日本語文書中の文字列を例えば10種類の字種に分類し
たコード列に展開する第1の手段と。
前記コード列における字種の変化点および並び方のみか
ら、対象文固有用語の候補を抽出する第2の手段と。
第2の手段で抽出された候補の中から、該候補の持つ言
語情報を用いて、より精度の高い日本語対象文固有用語
の候補を抽出する第3の手段と。
第3の手段で抽出された候補の中から、あらかじめ用意
した解析用の日本語辞書に収録されていない語のみを日
本語対象文固有用語として出力する第4の手段とを 有することを最も主要な特徴とする。
従来の技術とは。
■ 第2の手段において1字種の変化点だけでなく、並
び方にも着目して候補を抽出するので。
ひらがなを含む日本語対象文固有用語も候補として抽出
できる。
■ 第2の手段において9字種の変化点および並び方に
着目して候補を抽出するので、一般的な語のみから成る
語や一部に一般的な語を含む語も日本語対象文固有用語
の候補として抽出できる。
■ 第3の手段において、「漢字5文字以上の列は日本
語対象文固有用語となりやすい」などのヒエ−リスティ
ックルールや、「該候補中に接辞が含まれている場合に
は、接辞に対する処理を施こす」などの処理情報から成
る言語情報を用いて2日本語対象文固有用語の候補を絞
るので、正確な候補抽出が行える。
■ 第4の手段においては、解析辞書中の単語と完全一
致しない語はすべて日本語対象文固有用語として出力す
るため、一般的な語のみからなる日本語対象文固有用語
や、一部に一般的な語を含む日本語対象文固有用語も0
日本語対象文固有用語として抽出できる。
の各点が異なる。
(4−2)実施例 第1図は本発明をハードウェアによって構成した際の基
本構成図である0図中、1は、入力された日本語文書を
例えば10種類の字種(漢字コード、漢数字コード、一
般ひらがなコード、連用形活用語尾ひらがなコード、カ
タカナコード、アラビア数字コード、アルファベットコ
ード、句読点コード、区切りコード、その他のコード)
に分類したコード列に展開するコード列展開部、2は。
コード列展開部1において得られたコード列の中から2
字種の変化点および並び方に着目して1日本語対象文固
有用語の候補を抽出する日本語対象文固有用語候補抽出
部、3は9日本語対象文固存用語候補抽出部2において
得られた候補の中の各候補に対して言語情報テーブル9
を検索し、該情報に従って該候補を処理した後、より精
度の高い候補のみから成る候補群を抽出する日本語対象
文固有用語言語処理部、4は1日本語対象文固有用語言
語処理部3において得られた候補群の中の各候補の字面
をキーとして日本語解析辞110を検索し1日本語解析
辞書10に登録されていない語のみを日本語対象文固を
用語として選択する日本語対象文固有用語選択部、5は
1日本語対象文固有用語選択部4で選択された日本語対
象文固有用語を日本語対象文固有用語ファイル6に登録
する日本語対象文固有用語登録部、6は、最終的に抽出
された日本語対象文固有用語を登録しておく日本語対象
文固有用語ファイル、7は、候補として抽出すべき字種
の並びを規定した抽出字種列規定・テーブル、8は3日
本語対象文固有用語候補抽出部2において抽出する字種
列をどのように分類するかを規定した分類テーブル、9
は1日本語対象文固有用語言語処理部3において、より
精度の高い候補を抽出する際に用いる言語情報や処理方
法を記述した言語情報テーブル、10は、−船釣な日本
語単語の字面や品詞などを登録した日本語解析辞書、1
1は、演算装置およびメモリから成る日本語対象文固有
用語抽出装置である。
第2図は第2図(A)と(B)とで一体となって1つの
図を構成するものであり2日本語対象文固有用語抽出装
置11の動作の概略フローである。
次に、第2図の概略フローに従って、動作の説明を行う
日本語対象文固有用語抽出装置11の入力である日本語
文書に対して、コード列展開部lでは。
該日本語文書の1文字1文字を10種類の字種(漢字コ
ード、漢数字コード、一般ひらがなコード、連用形活用
語尾ひらがなコード、カタカナコード、アラビア数字コ
ード、アルファベットコード、句読点コード、区切りコ
ード、その他のコード)のコードに変換し、該日本語文
書に対するコード列を生成する(第2図ステップ1)・
このとき、各コードには、該コードが該日本語文書のど
の文字から生成されたのかを示す情報が付与される。コ
ード列展開部1によって生成されたコード列は2日本語
対象文固有用語候補抽出部2に送られる。
日本語対象文固有用語候補抽出部2では、抽出字種列規
定テーブル7に記述されているコード列に対応する文字
列を2日本語文書中から1日本語対象文固有用語の候補
としてすべて抽出し1分類テーブル8に記述されている
条件によって該候補を分類する(第2図ステップ2)。
分類された日本語対象文固有用語の候補は1日本語対象
文固有用語言語処理部3に送られる。第3図に1分類テ
ーブル8の内容の例を示す0日本語対象文固有用語言語
処理部3では、まず、言語情報テーブル9を検索して情
報を得る(第2図ステップ31)0次に、得られた情報
に従って1日本語対象文固有用語の各候補について処理
する(第2図ステップ32)ことによって、より精度の
高い日本語対象文固有用語の候補を抽出しく第2図ステ
ップ33)1日本語対象文固有用語選択部4に該候補を
送る。
日本語対象文固有用語選択部4では9日本語対象文固有
用語言語処理部3より送られてきた日本語対象文固有用
語の候補の字面をキーとして2日本譜解析辞書10を検
索する。検索の結果、該候補が日本語解析辞書10に登
録されているときは。
該候補は日本語対象文固有用語ではないとして。
候補から落とす(第2図ステップ4)、逆に、該候補が
日本語解析辞書10に登録されていないときは、該候補
は日本語対象文固有用語であるとして、該候補を日本語
対象文固有用語登録部5に送る(第2図ステップ4)。
日本語対象文固有用語登録部5では1日本語対象文固有
用語選択部4より送られてきた日本語対象文固有用語を
日本語対象文固有用語ファイル6に書き込み、登録する
(第2図ステップ5)。
次に例を用いて動作の概略を説明する。第4図に示す例
文を日本語対象文固有用語抽出装置11の入力となる日
本語文書として説明する。
まず、コード列展開部1では、第4図に示す例文の1文
字1文字を対応するコードに変換し、コード列を生成す
る(第5図)、第5図のコード列では、漢字コード(漢
数字を除(全ての漢字)を■、漢数字コード(○、−9
二、三、四、五、六。
七、八、九)を■、一般ひらがなコード(連用形活用語
尾ひらがなコード以外の全てのひらがな)をO1連用形
活用語尾ひらがなコード(い、き。
し、ち、み、す、え、け、せ、て、ね、め、れ。
ぎ、じ、び、げ、ぜ、べ、っ)を■、カタカナコード(
カタカナすべて)を[F]、アラビア数字コード(0,
1,2,3,4,5,6,7,8,9)を[F]、アル
ファベットコード(A−Z、a〜2の大文字、小文字)
を■9句読点コード(読点2句点、カンマ、ピリオド、
クエスチョンマーク、イクスクラメーシ四ンマーク)を
01区切りコード(カギカッコ、丸カンコなどのカッコ
類、コーチ−ジョンマーク、ダブルコーチ−ジョンマー
ク)を■、その他のコード(前記のどのコードにも入ら
ない文字や記号)をΦと略記している。・このとき、各
コードには、該コードがどの文字から生成されたかを示
す情報(例えば、第5図の一番最初の■は第4図の文字
“位”から9次の■は文字“置”からそれぞれ生成され
たことを示す情報)を付与する。この付与の方法には1
元の文字列に番号を付け、その番号をコード列に付与す
る方法や1元の文字とコードをペアで持つ方法などがあ
るが、ここでは、この方法については問わない。
コード列展開部1によって生成されたコード列(第5図
)は1日本語対象文固有用語候補抽出部2に送られる。
次に2日本語対象文固有用語候補抽出部2では。
第5図に示したコード列から1つ1つのコードを取り出
し、抽出字種列規定テーブル7中のルールと照合し、入
力日本語文書からすべての候補を抽出する。第6図に抽
出字種列規定テーブル7の内容例を1f=thenルー
ルの形で表わしたものを示す。
例文において、まず、第1文字目の“位”に対するコー
ドのが処理される。このコードは、抽出字種列規定テー
ブル7における現在のコード=■のルールと一致するの
で、このコード■に対応する文字“位”が候補文字列バ
ッファに加えられる(第7図(1)参照)。
次に、第2文字目の“置”に対するコードの。
第3文字目の1繰”に対するコードOが同様に処理され
(第7図(2)、 (3) ”) 、ここまでの処理で
候補文字列バッファには第7図(3)に示す“位置線”
が入っている0次に第4文字目の“す”に対するコード
■が処理される。このコードは抽出字種列規定テーブル
7における現在のコードOのルールと一致する。このル
ールは次の文字に対するコードによってさらに処理が分
かれている0次の文字は第5文字目の“返”であり、対
応する。コードは■である。従って抽出字種列規定テー
ブル7中の該ルールにより、現在のコード■に対応する
文字“す”が候補文字列バッファに加えられる(第7図
(4))、次に第5文字目が処理され、候補文字列バッ
ファの内容は第7図(5)のようになる、同様にして、
第8文字目の“度”までが候補文字列バッファ内に加え
られる(第7図(8))、、次に第9文字目の“は”に
対するコードOが処理される。このコードは抽出字種列
規定テーブル7における現在のコード=Oのルールに一
致する。このルールにより、今までの処理で候補文字列
バッファに入っている文字列「位置繰り返し精度」が候
補として抽出され、候補文字列バッファがクリアされる
0以上のような動作を繰り返し、入力日本語文書の最後
まで処理を行い、すべての候補が抽出される(第8図、
第9図参照)。
さらに1日本語対象文固有用語候補抽出部2では、抽出
した候補を分類テーブル8に従って分類する。この結果
を第10図に示す0分類結果は日本語対象文固有用語言
語処理部3に送られる。
日本語対象文固有用語言語処理部3では、言語情報テー
ブル9を検索し、得られた情報に従って候補を絞り込む
。言語情報テーブル9の内容の例を第11図に示す0日
本語対象文固有用語言語処理部3では、第10図に示す
候補の分類をキーとして、言語情報テーブル9を検索す
る。゛第10図の分類1に属する語「上」は、第11図
分類1の項の「無条件に候補から落とす」に一致するた
め。
候補から落とされる。また1分類23に属するro−o
五ミリ」、[毎秒二・二メートル」の2語は、第11図
分類23の項の「漢数字とそれに続く助数詞を持つもの
は候補から落とす」に一致するため、候補から落とされ
る0分[2の「性能」2分類3の「在来機」1分M6の
「最大合成速度」1分類22の「位置繰り返し精度」の
4語は候補として残り1日本語対象文固有用語選択部4
に送られる。
日本語対象文固有用語選択部4では0日本語解析辞書1
0を日本語対象文固有用語の候補の字面で検索し1日本
語解析辞書10に登録されていない語のみを日本語対象
文固有用語として選択する。
例文に対しては、上記4語の候補の各々について。
その字面をキーとして日本語解析辞書10を検索する。
検索の結果9日本語解析辞書には、「性能」のみが一般
的な語として登録されているため。
「性能」が候補から落とされる。よって上記の4語から
「性能」を除いた3語が日本語対象文固有用語として日
本語対象文固有用語登録部5に送られる。
日本語対象文固有用語登録部5では、送られてきた3個
の日本語対象文固有用語を日本語対象文固有用語ファイ
ル6に書き込み、登録する0日本語対象文固有用語ファ
イル6に占き込まれた日本語対象文固有用語を第12図
に示す。
このような構造および作用となっていることから、従来
の方法に比べて。
■ 日本語対象文固有用語の候補を抽出する際に。
字種の変化点だけでなく、並び方にも着目しているので
、ひらがなを含む日本語対象文固有用語も候補として抽
出できる。
■ 字種の変化点および並び方に着目して候補を抽出す
るので、一般的な語のみから成る語や一部に一般的な語
を含む語も日本語対象文固有用語の候補として抽出でき
る。
■ 字種の変化点および並び方に着目して抽出した候補
に対して、言語情報テーブル中の情報(「漢字5文字以
上の列は日本語対象文固有用語となりやすい」といった
ヒユーリスティックルールや、「接辞を含む場合には、
接辞に対する処理を施こす」などの処理情報)を用いて
候補を絞り込むので′、正確な日本語対象文固有用語の
候補抽出が行える。
■ 日本語解析辞書中の単語と完全一致しない語はすべ
て日本語対象文固有用語として抽出するため、一般的な
語のみから成る日本語対象文固有用語や、一部に一般的
な語を含む日本語対象文固有用語も2日本語対象文固有
用語として抽出できる。
の各点で改善があった。
(5)発明の効果 以上、説明したように9本発明によれば、該文書でのみ
使用されている製品名、会社名1人名などの固有名詞や
単語の組み合わせであっても新語や該文書においてのみ
使用されていると考えられる語(以上の語をまとめて日
本語対象文固有用語と呼ぶ)の候補を該文書中から1字
種の変化点および並び方の情報によって抽出し、該候補
の持つ言語情報を用いて候補を絞った後に、解析辞書を
検索することによって一般的な1番を取り除いたものを
日本語対象文固を用語として出力するのであるから9日
本語文書中に存在する日本語対象文固有用語を、正確に
抽出できるという利点がある。
【図面の簡単な説明】
第1図は本発明の基本構成図、第2図は本発明の動作の
概略フロー、第3図は分類テーブルの内容の例、第4図
は動作の説明に用いた例文、第5図は例文に対するコー
ド列、第6図は抽出字種列規定テーブルの内容例、第7
図は候補文字列バンファ内の動作例、第8図は第5図の
コード列から抽出される日本語対象文固有用語の候補の
コード列、第9図は第8図のコード列に対応する元の文
字列、第10図は分類テーブルによる日本語対象文固有
用語の候補の分類、第11図は言語情報テーブルの内容
の例、第12図は最終的に抽出される日本語対象文固有
用語を示す。 l・・・コード列展開部、2・・・日本語対象文固有用
語候補抽出部、3・・・日本語対象文固有用語言語処理
部・ 4°°°日本語対象文固竺用語選択部・ 5°°
°日本語対象文固有用語登録部、6・・・日本語対象文
固有用語ファイル、7・・・抽出字種列規定テーブル。 8・・・分類テーブル、9・・・言語情報テーブル、1
0・・・日本語解析辞書、11・・・日本語対象文固有
用語抽出装置。 特許出願人  日本電信電話株式会社

Claims (1)

  1. 【特許請求の範囲】 日本語文書中の文字列を複数種類の字種に分類したコー
    ド列に展開する第1の手段と、 前記コード列における字種の変化点および並び方のみか
    ら、該文書でのみ使用されている製品名、会社名、人名
    などの固有名詞や単語の組み合わせであっても新語や該
    文書においてのみ使用されていると考えられる日本語対
    象文固有用語の候補を抽出する第2の手段と、 第2の手段で抽出された候補の中から、該候補の持つ言
    語情報を用いて、より精度の高い日本語対象文固有用語
    の候補を抽出する第3の手段と、第3の手段で抽出され
    た候補の中から、あらかじめ用意した解析用の日本語辞
    書に収録されていない語のみを日本語対象文固有用語と
    して出力する第4の手段とを有する ことを特徴とする日本語対象文固有用語抽出処理方式。
JP63095096A 1988-04-18 1988-04-18 日本語対象文固有用語抽出処理装置 Expired - Lifetime JPH0810452B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP63095096A JPH0810452B2 (ja) 1988-04-18 1988-04-18 日本語対象文固有用語抽出処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP63095096A JPH0810452B2 (ja) 1988-04-18 1988-04-18 日本語対象文固有用語抽出処理装置

Publications (2)

Publication Number Publication Date
JPH01266670A true JPH01266670A (ja) 1989-10-24
JPH0810452B2 JPH0810452B2 (ja) 1996-01-31

Family

ID=14128362

Family Applications (1)

Application Number Title Priority Date Filing Date
JP63095096A Expired - Lifetime JPH0810452B2 (ja) 1988-04-18 1988-04-18 日本語対象文固有用語抽出処理装置

Country Status (1)

Country Link
JP (1) JPH0810452B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04191959A (ja) * 1990-11-26 1992-07-10 Sharp Corp 文節切り出し装置
JPH04195672A (ja) * 1990-11-28 1992-07-15 Sharp Corp 文節切出し装置

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4040382B2 (ja) 2002-07-30 2008-01-30 ソニー株式会社 キーワードの自動抽出装置及び方法、記録媒体、並びにプログラム
JP4623070B2 (ja) * 2007-09-14 2011-02-02 ソニー株式会社 キーワードの自動抽出装置及び方法、記録媒体、並びにプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04191959A (ja) * 1990-11-26 1992-07-10 Sharp Corp 文節切り出し装置
JPH04195672A (ja) * 1990-11-28 1992-07-15 Sharp Corp 文節切出し装置

Also Published As

Publication number Publication date
JPH0810452B2 (ja) 1996-01-31

Similar Documents

Publication Publication Date Title
Cotterell et al. CoNLL-SIGMORPHON 2017 shared task: Universal morphological reinflection in 52 languages
Isozaki Japanese named entity recognition based on a simple rule generator and decision tree learning
EP0971294A2 (en) Method and apparatus for automated search and retrieval processing
KR20040101678A (ko) 복합 형태소 분석 장치 및 방법
JP2002117027A (ja) 感情情報抽出方法および感情情報抽出プログラムの記録媒体
Han et al. A morphological tagger for Korean: Statistical tagging combined with corpus-based morphological rule application
JPH01266670A (ja) 日本語対象文固有用語抽出処理装置
Long et al. Longest matching and rule-based techniques for Khmer word segmentation
Charoenpornsawat et al. Feature-based proper name identification in Thai
JPH1011431A (ja) 漢字検索装置および方法
KR100420474B1 (ko) 부분문틀을 이용한 장문 번역 장치 및 그 방법
JP3952964B2 (ja) 読み情報決定方法及び装置及びプログラム
JPH0528871B2 (ja)
JP2002278963A (ja) 事例翻訳装置
Raza et al. Saraiki Language Word Prediction And Spell Correction Framework
JP2004258759A (ja) テキスト解析装置、方法及びプログラム
JPH0869474A (ja) 類似文字列検索装置
Carlos et al. Large-coverage root lexicon extraction for Hindi
RU2003104608A (ru) Способ автоматизированной обработки информационных текстовых материалов
Al-Marghilani et al. Text mining based on the self-organizing map method for arabic-english documents
JPH0869467A (ja) 日本語文書処理装置
Nagata et al. Recognizing noisy romanized Japanese words in learner English
JPH11161651A (ja) 発音記号生成装置
Cowie CRL’s Approach to MET
Lohe et al. POS tagger model for Hindi language using novel rule based technique

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090131

Year of fee payment: 13

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090131

Year of fee payment: 13