JP6040138B2 - 文書分類装置、文書分類方法および文書分類プログラム - Google Patents
文書分類装置、文書分類方法および文書分類プログラム Download PDFInfo
- Publication number
- JP6040138B2 JP6040138B2 JP2013216574A JP2013216574A JP6040138B2 JP 6040138 B2 JP6040138 B2 JP 6040138B2 JP 2013216574 A JP2013216574 A JP 2013216574A JP 2013216574 A JP2013216574 A JP 2013216574A JP 6040138 B2 JP6040138 B2 JP 6040138B2
- Authority
- JP
- Japan
- Prior art keywords
- document
- class
- database
- label
- documents
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
クラスラベル付き文書DB010から未処理のレコードを選択する。
当該レコードのテキストを単語に分割し、クラスラベルが示すクラスと単語との関連性を求め、拡張特徴表現データDB030に格納する。ここで、単語の分割に用いる手法は問わない。例えば非特許文献2に開示された手法を用いることができる。関連性スコアは、単語とクラスラベルが示すクラスとの関連の強さを表す数値である。ここでは、当該単語が出現する文書のうち、当該クラスに属する文書の割合を関連性とする場合の例を示す。計算方法を以下に示す。
これは、事後分布P(Ci|wj)の値と等しい。
・当該単語が当該クラスに属する文書中に出現する回数。
クラスラベル付き文書DB010に未処理のレコードがある場合にはステップS1−1に戻る。そうでない場合には処理を終了する。
クラスラベル付き文書DB010又はクラス未知文書DB080から未処理のレコードを選択し、当該レコードのテキストをTとする。
当該選択されたレコードのテキストTを単語に分割する。ここで、単語の分割に用いる手法は問わない。例えば、非特許文献2に開示された手法を用いることができる。
テキストTから未処理の単語を選択し、wとする。
拡張特徴表現データDB030から、単語wのレコードの各ラベルの関連性を全て拡張特徴表現付きクラスラベル付き文書DB050又は拡張特徴表現付き文書DB090に出力する。拡張特徴表現データDB030から、単語wのレコード全ての特徴IDと関連性スコアを取り出す。
テキストTに未処理の単語がある場合にはステップS2−3に戻る。そうでない場合にはステップS2−6に進む。
テキストTの文書特徴表現を生成し、拡張特徴表現付きクラスラベル付き文書DB050又は拡張特徴表現付き文書DB090に格納する。ここでは、テキストTに含まれる各単語の各クラスにおける特徴IDと関連性スコアを“特徴ID:関連性スコア”の形でスペース区切りで羅列したものを文書特徴表現としている。
クラスラベル付き文書DB010又はクラス未知文書DB080に未処理のレコードがある場合、ステップS2−1に戻る。そうでない場合には処理を終了する。
020…特徴拡張部
030…拡張特徴表現データDB
040…拡張特徴表現付与部
050…拡張特徴表現付きクラスラベル付き文書DB
060…学習部
070…クラス分類モデルDB
080…クラス未知文書DB
090…拡張特徴表現付き文書DB
100…推定部
110…推定ラベル付き文書DB
Claims (5)
- 複数の文書とその文書が属している複数のクラスのクラスラベルとが対応付けて格納されたクラスラベル付き文書データベース内の、前記文書を単語に分割し、その分割した単語と全クラス各々との関連性を求め、分割した各単語と各クラスの組合せ毎の関連性を格納した拡張特徴表現データベースを構築する特徴拡張手段と、
前記クラスラベル付き文書データベースの各文書に対して、前記拡張特徴表現データベース内の単語とクラスの関連性を文書特徴表現のデータとして付与し、拡張特徴表現付きクラスラベル付き文書データベースを構築し、クラスラベルが未知である文書が格納されたクラス未知文書データベースの各文書に対して、前記拡張特徴表現データベース内の単語とクラスの関連性を文書特徴表現のデータとして付与し、拡張特徴表現付き文書データベースを構築する拡張特徴表現付与手段と、
前記拡張特徴表現付きクラスラベル付き文書データベースの文書特徴表現およびクラスラベルのデータに基づいて学習を行って、クラス分類モデルを生成する学習手段と、
前記学習手段によって生成されたクラス分類モデルを用いて、前記拡張特徴表現付き文書データベース内のクラスラベルの未知文書がどのクラスに属するのかを推定し、クラスラベル未知文書に推定クラスラベルを付与する推定手段と、
を備えたことを特徴とする文書分類装置。 - 前記特徴拡張手段は、前記クラスラベル付き文書データベースに格納されている全文書のうち、ある文書に含まれている分割されたある単語が出現する文書数と、あるクラスに属する全文書のうち、ある文書に含まれている分割されたある単語が出現する文書数との比を、前記単語とクラスとの関連性を表す関連性スコアとして求めることを特徴とする請求項1に記載の文書分類装置。
- 特徴拡張手段が、複数の文書とその文書が属している複数のクラスのクラスラベルとが対応付けて格納されたクラスラベル付き文書データベース内の、前記文書を単語に分割し、その分割した単語と全クラス各々との関連性を求め、分割した各単語と各クラスの組合せ毎の関連性を格納した拡張特徴表現データベースを構築する特徴拡張ステップと、
拡張特徴表現付与手段が、前記クラスラベル付き文書データベースの各文書に対して、前記拡張特徴表現データベース内の単語とクラスの関連性を文書特徴表現のデータとして付与し、拡張特徴表現付きクラスラベル付き文書データベースを構築し、クラスラベルが未知である文書が格納されたクラス未知文書データベースの各文書に対して、前記拡張特徴表現データベース内の単語とクラスの関連性を文書特徴表現のデータとして付与し、拡張特徴表現付き文書データベースを構築するステップと、
学習手段が、前記拡張特徴表現付きクラスラベル付き文書データベースの文書特徴表現およびクラスラベルのデータに基づいて学習を行って、クラス分類モデルを生成するステップと、
推定手段が、前記学習手段によって生成されたクラス分類モデルを用いて、前記拡張特徴表現付き文書データベース内のクラスラベルの未知文書がどのクラスに属するのかを推定し、クラスラベル未知文書に推定クラスラベルを付与するステップと、
を備えたことを特徴とする文書分類方法。 - 前記特徴拡張ステップは、前記クラスラベル付き文書データベースに格納されている全文書のうち、ある文書に含まれている分割されたある単語が出現する文書数と、あるクラスに属する全文書のうち、ある文書に含まれている分割されたある単語が出現する文書数との比を、前記単語とクラスとの関連性を表す関連性スコアとして求めることを特徴とする請求項3に記載の文書分類方法。
- コンピュータを請求項1又は2に記載の各手段として機能させる文書分類プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013216574A JP6040138B2 (ja) | 2013-10-17 | 2013-10-17 | 文書分類装置、文書分類方法および文書分類プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013216574A JP6040138B2 (ja) | 2013-10-17 | 2013-10-17 | 文書分類装置、文書分類方法および文書分類プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015079382A JP2015079382A (ja) | 2015-04-23 |
JP6040138B2 true JP6040138B2 (ja) | 2016-12-07 |
Family
ID=53010751
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013216574A Active JP6040138B2 (ja) | 2013-10-17 | 2013-10-17 | 文書分類装置、文書分類方法および文書分類プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6040138B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6509718B2 (ja) * | 2015-12-17 | 2019-05-08 | 日本電信電話株式会社 | 文書分類装置、文書分類方法、及び文書分類プログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3488063B2 (ja) * | 1997-12-04 | 2004-01-19 | 株式会社エヌ・ティ・ティ・データ | 情報分類方法、装置及びシステム |
JP5075566B2 (ja) * | 2007-10-15 | 2012-11-21 | 株式会社東芝 | 文書分類装置およびプログラム |
JP2011095905A (ja) * | 2009-10-28 | 2011-05-12 | Sony Corp | 情報処理装置および方法、並びにプログラム |
-
2013
- 2013-10-17 JP JP2013216574A patent/JP6040138B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015079382A (ja) | 2015-04-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6231944B2 (ja) | 学習モデル作成装置、判定システムおよび学習モデル作成方法 | |
US20170116203A1 (en) | Method of automated discovery of topic relatedness | |
JP5626733B2 (ja) | 個人情報匿名化装置及び方法 | |
CN107391545B (zh) | 一种对用户进行分类的方法、输入方法及装置 | |
US10747955B2 (en) | Learning device and learning method | |
JP6642878B1 (ja) | コンピュータ、構成方法、及びプログラム | |
KR102053635B1 (ko) | 불신지수 벡터 기반의 가짜뉴스 탐지 장치 및 방법, 이를 기록한 기록매체 | |
US9286379B2 (en) | Document quality measurement | |
US9830344B2 (en) | Evaluation of nodes | |
CN110209780B (zh) | 一种问题模板生成方法、装置、服务器及存储介质 | |
TW201719569A (zh) | 社交業務特徵用戶的識別方法和裝置 | |
WO2017203672A1 (ja) | アイテム推奨方法、アイテム推奨プログラムおよびアイテム推奨装置 | |
JP5542729B2 (ja) | 関連語抽出装置、関連語抽出方法、及び関連語抽出プログラム | |
JP6040138B2 (ja) | 文書分類装置、文書分類方法および文書分類プログラム | |
JP2016126748A (ja) | ラベル付与装置、方法およびプログラム | |
JP2016162163A (ja) | 情報処理装置及び情報処理プログラム | |
JP5716966B2 (ja) | データ分析装置、データ分析方法及びプログラム | |
JP5824429B2 (ja) | スパムアカウントスコア算出装置、スパムアカウントスコア算出方法、及びプログラム | |
JPWO2015040860A1 (ja) | 分類辞書生成装置、分類辞書生成方法及びプログラム | |
JP2016045552A (ja) | 特徴抽出プログラム、特徴抽出方法、および特徴抽出装置 | |
JP2022185799A (ja) | 情報処理プログラム、情報処理方法および情報処理装置 | |
JP2020038557A (ja) | 判定装置、判定方法、および判定プログラム | |
JP6078491B2 (ja) | 文書分類装置、文書分類方法、文書分類プログラム | |
WO2020044558A1 (ja) | 分類規則生成プログラム、分類規則生成方法および分類規則生成装置 | |
JP6743623B2 (ja) | 情報処理装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160125 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20161019 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20161101 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20161107 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6040138 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |