JP6412540B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents
情報処理装置、情報処理方法、およびプログラム Download PDFInfo
- Publication number
- JP6412540B2 JP6412540B2 JP2016219911A JP2016219911A JP6412540B2 JP 6412540 B2 JP6412540 B2 JP 6412540B2 JP 2016219911 A JP2016219911 A JP 2016219911A JP 2016219911 A JP2016219911 A JP 2016219911A JP 6412540 B2 JP6412540 B2 JP 6412540B2
- Authority
- JP
- Japan
- Prior art keywords
- word
- document
- cluster
- appearing
- words
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Information Transfer Between Computers (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
<情報量による第1の単語評価値の補正>
E(w) = -ΣP(w|G)/P(w)log(P(w|G)/P(w))と定義することができる。尚、logの底に関しては、10でも2でもeでもよい。この式に基づくと「選手」という単語の情報エントロピーは1.44と算出される。尚、情報エントロピーE(w)はクラスタを跨いだ単語の分散を情報量として数値化しており、より多くのクラスタに分散するほど大きい値となる。その他の単語においても同様に情報エントロピーE(w)を算出できる。
次に、第2の単語評価値の補正に用いる情報量を、クラスタAに出現する単語の、データベース100に対する出現頻度と、ドキュメントクラスタごとの出現頻度の分散と、で算出される情報利得とする。ここでの情報利得とは、ドキュメントのクラスタリング前の情報エントロピーと、ドキュメントのクラスタリング後の情報エントロピーに基づいて算出される情報量として定義されるものとする。
J0(w) = −Q(w)/log(Q(w))−(1-Q(w))log(1-Q(w))と定義することができる。尚、logの底に関しては、10でも2でもeでもよい。この式に基づくと、クラスタリング前の情報エントロピーJ0(w)は0.44と求めることができる。
J1(w) = -Σ(P(G)×[-P(w|G)logP(w|G)-(1-P(w|G))×log(1-P(w|G))])と定義することができる。例えば、図9のデータベースに基づいて、クラスタAの確率分布P(G)は1/3と求めることができ、クラスタB、クラスタCについても同様である。また、「選手」という単語の各クラスタでの単語特徴量P(w|G)はクラスタAでは0.11、クラスタBでは0.07、クラスタCでは0.08となる。これらの値に基づいて「選手」という単語のクラスタリング後の情報エントロピーJ1(w)は0.42と求めることができる。
IG(w) = 1-(J1(w)/J0(w))と定義する。このように定義することで、トピック性の高い単語とトピック性の低い単語と、の区分けが明確になる。この式に基づくと、「選手」という単語の情報利得は0.04と求めることができる。つまり、クラスタリング前とクラスタリング後での情報エントロピーJ0(w)、J1(w)に大きな差がないということが言える。クラスタリング後の情報エントロピーJ1(w)が小さい値であるほど情報利得IG(w)が大きな値となることを示している。その他の単語においても同様に情報利得IG(w)を算出できる。
101 ドキュメントクラスタ特定手段
102 単語評価値補正手段
103 キーワード選定手段
Claims (7)
- ネットワーク経由でアクセス可能なドキュメントと、前記ドキュメントに出現する単語と、に関して、前記単語の出現傾向が類似する前記ドキュメントをグループ化したドキュメントクラスタを記憶し、前記単語に対してユーザ興味度を関連付けたデータベースと、
指定されたドキュメントに出現する単語と、前記データベースに出現する単語とに基づいて、前記指定されたドキュメントに関連する前記ドキュメントクラスタを特定するドキュメントクラスタ特定手段と、
前記特定されたドキュメントクラスタに出現する単語に関連する前記ユーザ興味度に基づいて算出される単語評価値を、前記ドキュメントクラスタに出現する前記単語の出現頻度に基づいて算出される情報量で補正する単語評価値補正手段と、
前記情報量で補正された単語評価値に基づいて、前記ドキュメントクラスタに出現する単語を前記指定されたドキュメントに関連するキーワードとして選定するキーワード選定手段と、
を備える、
ことを特徴とする情報処理装置。 - 前記単語評価値は、前記特定されたドキュメントクラスタに出現する単語に関連する前記ユーザ興味度に、前記指定されたドキュメントに出現する出現回数を乗算して算出される、
ことを特徴とする請求項1に記載の情報処理装置。 - 前記単語評価値補正手段は、前記単語評価値を、前記特定されたドキュメントクラスタに出現する前記単語の、全ドキュメントクラスタの出現頻度に対する前記ドキュメントクラスタごとの出現頻度の分散に基づいて算出される情報エントロピーで補正する、
ことを特徴とする請求項1、および2に記載の情報処理装置。 - 前記単語評価値補正手段は、前記単語評価値を、前記特定されたドキュメントクラスタに出現する前記単語の、前記データベースに対する出現頻度と、前記ドキュメントクラスタごとの出現頻度の分散と、で算出される情報利得で補正する、
ことを特徴とする請求項1、または2に記載の情報処理装置。 - 前記キーワード選定手段は、前記情報量で補正された単語評価値が大きい前記ドキュメントクラスタに出現する単語を前記指定されたドキュメントに関連するキーワードとして選定する、
ことを特徴とする請求項1から4のいずれか1項に記載の情報処理装置。 - ネットワーク経由でアクセス可能なドキュメントと、前記ドキュメントに出現する単語と、に関して、前記単語の出現傾向が類似する前記ドキュメントをグループ化したドキュメントクラスタを記憶し、前記単語に対してユーザ興味度を関連付けたデータベースを生成するステップと、
指定されたドキュメントに出現する単語と、前記データベースに出現する単語とに基づいて、前記指定されたドキュメントに関連する前記ドキュメントクラスタを特定するステップと、
前記特定されたドキュメントクラスタに出現する単語に関連する前記ユーザ興味度に基づいて算出される単語評価値を、前記ドキュメントクラスタに出現する前記単語の出現頻度に基づいて算出される情報量で補正するステップと、
前記情報量で補正された単語評価値に基づいて、前記ドキュメントクラスタに出現する単語を前記指定されたドキュメントに関連するキーワードとして選定するステップと、
を有する、
ことを特徴とする情報処理方法。 - ネットワーク経由でアクセス可能なドキュメントと、前記ドキュメントに出現する単語と、に関して、前記単語の出現傾向が類似する前記ドキュメントをグループ化したドキュメントクラスタを記憶し、前記単語に対してユーザ興味度を関連付けたデータベースを生成する工程と、
指定されたドキュメントに出現する単語と、前記データベースに出現する単語とに基づいて、前記指定されたドキュメントに関連する前記ドキュメントクラスタを特定する工程と、
前記特定されたドキュメントクラスタに出現する単語に関連する前記ユーザ興味度に基づいて算出される単語評価値を、前記ドキュメントクラスタに出現する前記単語の出現頻度に基づいて算出される情報量で補正する工程と、
前記情報量で補正された単語評価値に基づいて、前記ドキュメントクラスタに出現する単語を前記指定されたドキュメントに関連するキーワードとして選定する工程と、
をコンピュータに実行させる、
ことを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016219911A JP6412540B2 (ja) | 2016-11-10 | 2016-11-10 | 情報処理装置、情報処理方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016219911A JP6412540B2 (ja) | 2016-11-10 | 2016-11-10 | 情報処理装置、情報処理方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018077726A JP2018077726A (ja) | 2018-05-17 |
JP6412540B2 true JP6412540B2 (ja) | 2018-10-24 |
Family
ID=62150815
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016219911A Active JP6412540B2 (ja) | 2016-11-10 | 2016-11-10 | 情報処理装置、情報処理方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6412540B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7052617B2 (ja) | 2018-07-26 | 2022-04-12 | トヨタ自動車株式会社 | 情報処理装置、情報処理システム、及び、情報処理方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002230024A (ja) * | 2001-02-05 | 2002-08-16 | Ntt Comware Corp | 検索方法、文書情報の特性情報を生成する方法、ユーザの嗜好情報を生成する方法、検索装置、文書特性情報生成装置、ユーザ嗜好情報生成装置、記録媒体およびプログラム |
JP3999530B2 (ja) * | 2002-02-25 | 2007-10-31 | 日本電信電話株式会社 | コンテンツ情報分類装置、プログラム、および同プログラムを記録した記録媒体 |
JP5227146B2 (ja) * | 2008-11-27 | 2013-07-03 | エヌ・ティ・ティ・コミュニケーションズ株式会社 | クラスタリング結果表示装置、その方法及びプログラム |
JP5370532B2 (ja) * | 2012-04-27 | 2013-12-18 | 大日本印刷株式会社 | ブログ収集サーバ |
-
2016
- 2016-11-10 JP JP2016219911A patent/JP6412540B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018077726A (ja) | 2018-05-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Shu et al. | Beyond news contents: The role of social context for fake news detection | |
US10467234B2 (en) | Differentially private database queries involving rank statistics | |
Liang et al. | Dynamic clustering of streaming short documents | |
US20190141052A1 (en) | Differentially Private Processing and Database Storage | |
US8499008B2 (en) | Mixing knowledge sources with auto learning for improved entity extraction | |
US11244326B2 (en) | Analytical precursor mining for personalized recommendation | |
US20170293859A1 (en) | Method for training a ranker module using a training set having noisy labels | |
US8548969B2 (en) | System and method for clustering content according to similarity | |
CA2690947C (en) | System and method for measuring the quality of document sets | |
US9176969B2 (en) | Integrating and extracting topics from content of heterogeneous sources | |
US20100241647A1 (en) | Context-Aware Query Recommendations | |
Huang et al. | Topic detection from large scale of microblog stream with high utility pattern clustering | |
RU2583716C2 (ru) | Метод построения и обнаружения тематической структуры корпуса | |
Zhao et al. | A hybrid approach of topic model and matrix factorization based on two-step recommendation framework | |
Ye et al. | Finding a good query‐related topic for boosting pseudo‐relevance feedback | |
JP6056610B2 (ja) | テキスト情報処理装置、テキスト情報処理方法、及びテキスト情報処理プログラム | |
WO2018090468A1 (zh) | 视频节目的搜索方法和装置 | |
US20140006369A1 (en) | Processing structured and unstructured data | |
US8229960B2 (en) | Web-scale entity summarization | |
US20110022598A1 (en) | Mixing knowledge sources for improved entity extraction | |
Li et al. | An adaptive contextual quantum language model | |
US9104946B2 (en) | Systems and methods for comparing images | |
Jatowt et al. | Digital history meets Wikipedia: Analyzing historical persons in Wikipedia | |
Chang et al. | Predicting political affiliation of posts on Facebook | |
US10896189B2 (en) | Diversity evaluation in genealogy search |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180919 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180925 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180928 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6412540 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |