JP5587434B2 - テキスト分類の方法および装置 - Google Patents
テキスト分類の方法および装置 Download PDFInfo
- Publication number
- JP5587434B2 JP5587434B2 JP2012551145A JP2012551145A JP5587434B2 JP 5587434 B2 JP5587434 B2 JP 5587434B2 JP 2012551145 A JP2012551145 A JP 2012551145A JP 2012551145 A JP2012551145 A JP 2012551145A JP 5587434 B2 JP5587434 B2 JP 5587434B2
- Authority
- JP
- Japan
- Prior art keywords
- category
- words
- word
- vector
- text
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/353—Clustering; Classification into predefined classes
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
本出願は、2010年2月1日に出願された中国特許出願第2010101045124号、表題「METHOD AND APPARATUS OF TEXT CLASSIFICATION」の優先権を主張するものであり、参照により、その全体が本明細書に組み込まれる。
|D−Ci|=|{P1,P2,...Pi,...,Pn}×k-{0,0,...,0,1,0,....,0}|
=k×|{P1,P2,...Pi,...,Pn}-{0,0,...,0,1/k,0,....,0}|
=k×sqrt((P1−0)2+(P2−0)2+...+(Pi−1/k)2+...+(Pn−0)2)
=k×sqrt(P12+P22+...+(Pi2−2Pi/k+1/k2)+...+Pn2)
=k×sqrt(Σ(Pi2)−2Pi/k+1/k2)
=sqrt(Σ((Pi×k)2)−2K×Pi+1)
Claims (15)
- テキスト分類の方法であって、
所与のテキストを1つもしくは複数の単語に構文解析することと、
前記1つもしくは複数の単語のうちの1つに対して、球面空間モデルにおいて単語ベクトルを決定することであって、前記球面空間の次元数はカテゴリの数と等しく、各カテゴリは球面空間カテゴリベクトルに対応する、ことと、
各カテゴリに対して、前記球面空間における前記1つもしくは複数の単語の単語ベクトルの和と前記それぞれのカテゴリベクトルとの間の直線または球面弧の距離を計算することと、
最短距離をともなう1つもしくは複数のカテゴリに前記テキストを分類することと
を備えたことを特徴とする方法。 - テキスト分類の方法であって、
所与のテキストを1つもしくは複数の単語に構文解析することと、
前記1つもしくは複数の単語のうちの1つに対して、球面空間モデルにおいて単語ベクトルを決定することであって、前記球面空間の次元数はカテゴリの数と等しく、各カテゴリは球面空間カテゴリベクトルに対応する、ことと、
各カテゴリに対して、前記1つもしくは複数の単語の単語ベクトルの和と前記それぞれのカテゴリベクトルとの間の距離を決定することであって、
前記1つもしくは複数の単語の正規化された単語頻度値を累積して、正規化された単語ベクトルの和を提供することと、
前記正規化された単語ベクトルの和の最大構成要素に対応するカテゴリに前記テキストを分類することと、
を備えている、ことと、
最短距離をともなう1つもしくは複数のカテゴリに前記テキストを分類することと
を備えたことを特徴とする方法。 - 前記1つもしくは複数の単語をフィルタリングして、フィルタリング条件を満たす1つもしくは複数のフィルタリングされた単語を提供することをさらに備えていることを特徴とする請求項1または2に記載の方法。
- 単語の単語ベクトルは、それぞれの1つもしくは複数のカテゴリにおける前記単語の1つもしくは複数の正規化された単語頻度値を備え、前記球面空間モデルは、単位長さを半径として有する多次元球面モデルを備えていることを特徴とする請求項1または2に記載の方法。
- 前記単位長さは1であることを特徴とする請求項4に記載の方法。
- テキスト分類のための装置であって、
所与のテキストを1つもしくは複数の単語に構文解析する構文解析モジュールと、
前記1つもしくは複数の単語のうちの1つに対して、球面空間モデルにおいて単語ベクトルを決定するクエリモジュールであって、前記球面空間の次元数はカテゴリの数と等しく、各カテゴリは球面空間カテゴリベクトルに対応する、クエリモジュールと、
各カテゴリに対して、前記球面空間における前記1つもしくは複数の単語の単語ベクトルの和と前記それぞれのカテゴリベクトルとの間の直線または球面弧の距離を計算する、計算モジュールと、
最短距離をともなう1つもしくは複数のカテゴリに前記テキストを分類する分類モジュールと
を備えたことを特徴とする装置。 - テキスト分類のための装置であって、
所与のテキストを1つもしくは複数の単語に構文解析する構文解析モジュールと、
前記1つもしくは複数の単語のうちの1つに対して、球面空間モデルにおいて単語ベクトルを決定するクエリモジュールであって、前記球面空間の次元数はカテゴリの数と等しく、各カテゴリは球面空間カテゴリベクトルに対応する、クエリモジュールと、
各カテゴリに対して、前記1つもしくは複数の単語の単語ベクトルの和と前記それぞれのカテゴリベクトルとの間の距離を決定し、ならびに、前記1つもしくは複数の単語の正規化された単語頻度値を累積して、正規化された単語ベクトルの和を提供する、計算モジュールと、
最短距離をともなう1つもしくは複数のカテゴリに前記テキストを分類し、ならびに、前記正規化された単語ベクトルの和の最大構成要素に対応するカテゴリに前記テキストを分類する、分類モジュールと
を備えたことを特徴とする装置。 - 前記1つもしくは複数の単語をフィルタリングして、フィルタリング条件を満たす1つもしくは複数のフィルタリングされた単語を提供するフィルタモジュールをさらに備えていることを特徴とする請求項6または7に記載の装置。
- 単語の単語ベクトルは、それぞれの1つもしくは複数のカテゴリにおける前記単語の1つもしくは複数の正規化された単語頻度値を備え、前記球面空間モデルは、単位長さを半径として有する多次元球面モデルを備えていることを特徴とする請求項6または7に記載の装置。
- 前記単位長さは1であることを特徴とする請求項9に記載の装置。
- コンピュータ実行可能命令を記憶させた、1つもしくは複数のコンピュータ可読記憶媒体であって、前記命令は1つ以上のコンピュータによって実行されると、
所与のテキストを1つもしくは複数の単語に構文解析することと、
前記1つもしくは複数の単語のうちの1つに対して、球面空間モデルにおいて単語ベクトルを決定することであって、前記球面空間の次元数はカテゴリの数と等しく、各カテゴリは球面空間カテゴリベクトルに対応する、ことと、
各カテゴリに対して、前記球面空間における前記1つもしくは複数の単語の単語ベクトルの和と前記それぞれのカテゴリベクトルとの間の直線または球面弧の距離を計算することと、
最短距離をともなう1つもしくは複数のカテゴリに前記テキストを分類することと
を備えた動作を実行することを特徴とする1つもしくは複数のコンピュータ可読記憶媒体。 - コンピュータ実行可能命令を記憶させた、1つもしくは複数のコンピュータ可読記憶媒体であって、前記命令は1つ以上のコンピュータによって実行されると、
所与のテキストを1つもしくは複数の単語に構文解析することと、
前記1つもしくは複数の単語のうちの1つに対して、球面空間モデルにおいて単語ベクトルを決定することであって、前記球面空間の次元数はカテゴリの数と等しく、各カテゴリは球面空間カテゴリベクトルに対応する、ことと、
各カテゴリに対して、前記1つもしくは複数の単語の単語ベクトルの和と前記それぞれのカテゴリベクトルとの間の距離を決定することであって、
前記1つもしくは複数の単語の正規化された単語頻度値を累積して、正規化された単語ベクトルの和を提供することと、
前記正規化された単語ベクトルの和の最大構成要素に対応するカテゴリに前記テキストを分類することと
を備えている、ことと、
最短距離をともなう1つもしくは複数のカテゴリに前記テキストを分類することと
を備えた動作を実行することを特徴とする1つもしくは複数のコンピュータ可読記憶媒体。 - 前記動作は、
前記1つもしくは複数の単語をフィルタリングして、フィルタリング条件を満たす1つもしくは複数のフィルタリングされた単語を提供することをさらに備えていることを特徴とする請求項11または12に記載の1つもしくは複数のコンピュータ可読記憶媒体。 - 単語の単語ベクトルは、それぞれの1つもしくは複数のカテゴリにおける前記単語の1つもしくは複数の正規化された単語頻度値を備え、前記球面空間モデルは、単位長さを半径として有する多次元球面モデルを備えていることを特徴とする請求項11または12に記載の1つもしくは複数のコンピュータ可読記憶媒体。
- 前記単位長さは1であることを特徴とする請求項14に記載の1つもしくは複数のコンピュータ可読記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2010101045124A CN102141977A (zh) | 2010-02-01 | 2010-02-01 | 一种文本分类的方法及装置 |
CN201010104512.4 | 2010-02-01 | ||
PCT/US2010/047868 WO2011093925A1 (en) | 2010-02-01 | 2010-09-03 | Method and apparatus of text classification |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013519133A JP2013519133A (ja) | 2013-05-23 |
JP5587434B2 true JP5587434B2 (ja) | 2014-09-10 |
Family
ID=44319654
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012551145A Expired - Fee Related JP5587434B2 (ja) | 2010-02-01 | 2010-09-03 | テキスト分類の方法および装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9208220B2 (ja) |
EP (1) | EP2531896A4 (ja) |
JP (1) | JP5587434B2 (ja) |
CN (1) | CN102141977A (ja) |
WO (1) | WO2011093925A1 (ja) |
Families Citing this family (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8688453B1 (en) * | 2011-02-28 | 2014-04-01 | Nuance Communications, Inc. | Intent mining via analysis of utterances |
CN103049569A (zh) * | 2012-12-31 | 2013-04-17 | 武汉传神信息技术有限公司 | 基于向量空间模型的文本相似性匹配方法 |
CN103064970B (zh) * | 2012-12-31 | 2016-04-20 | 武汉传神信息技术有限公司 | 优化译员的检索方法 |
US11561987B1 (en) | 2013-05-23 | 2023-01-24 | Reveal Networks, Inc. | Platform for semantic search and dynamic reclassification |
CN105677677A (zh) * | 2014-11-20 | 2016-06-15 | 阿里巴巴集团控股有限公司 | 一种信息分类方法及装置 |
JP6382139B2 (ja) * | 2015-03-20 | 2018-08-29 | ヤフー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
CN104794187A (zh) * | 2015-04-13 | 2015-07-22 | 西安理工大学 | 一种基于词条分布的特征选择方法 |
CN105005589B (zh) * | 2015-06-26 | 2017-12-29 | 腾讯科技(深圳)有限公司 | 一种文本分类的方法和装置 |
US10275446B2 (en) | 2015-08-26 | 2019-04-30 | International Business Machines Corporation | Linguistic based determination of text location origin |
US9984068B2 (en) * | 2015-09-18 | 2018-05-29 | Mcafee, Llc | Systems and methods for multilingual document filtering |
CN105243118A (zh) * | 2015-09-29 | 2016-01-13 | 武汉传神信息技术有限公司 | 一种稿件数据分类的方法 |
CN106874291A (zh) * | 2015-12-11 | 2017-06-20 | 北京国双科技有限公司 | 文本分类的处理方法及装置 |
WO2017206182A1 (en) | 2016-06-03 | 2017-12-07 | Schlumberger Technology Corporation | Detecting events in well reports |
US10789298B2 (en) * | 2016-11-16 | 2020-09-29 | International Business Machines Corporation | Specialist keywords recommendations in semantic space |
US10425433B2 (en) * | 2016-11-18 | 2019-09-24 | Bank Of America Corporation | Network security database filtering tool |
GB2571645A (en) * | 2016-12-14 | 2019-09-04 | Landmark Graphics Corp | Automatic classification of drilling reports with deep natural language processing |
CN107025463A (zh) * | 2017-04-10 | 2017-08-08 | 刘欣语 | 基于合并分组算法的寝室分组装置及方法 |
CN107590177B (zh) * | 2017-07-31 | 2021-02-02 | 南京邮电大学 | 一种结合监督学习的中文文本分类方法 |
CN107515934B (zh) * | 2017-08-29 | 2020-12-15 | 四川长虹电器股份有限公司 | 一种基于大数据的电影语义个性化标签优化方法 |
JP7013957B2 (ja) * | 2018-03-12 | 2022-02-01 | 富士通株式会社 | 生成プログラム、生成方法、情報処理装置および情報処理システム |
US10831797B2 (en) * | 2018-03-23 | 2020-11-10 | International Business Machines Corporation | Query recognition resiliency determination in virtual agent systems |
CN110390094B (zh) * | 2018-04-20 | 2023-05-23 | 伊姆西Ip控股有限责任公司 | 对文档进行分类的方法、电子设备和计算机程序产品 |
US11042580B2 (en) | 2018-12-30 | 2021-06-22 | Paypal, Inc. | Identifying false positives between matched words |
US10817669B2 (en) * | 2019-01-14 | 2020-10-27 | International Business Machines Corporation | Automatic classification of adverse event text fragments |
CN111831819B (zh) * | 2019-06-06 | 2024-07-16 | 北京嘀嘀无限科技发展有限公司 | 一种文本更新方法及装置 |
CN111177370B (zh) * | 2019-12-03 | 2023-08-11 | 北京工商大学 | 一种自然语言处理的算法 |
CN111259158B (zh) * | 2020-02-25 | 2023-06-02 | 北京小米松果电子有限公司 | 一种文本分类方法、装置及介质 |
US11544277B2 (en) * | 2020-08-17 | 2023-01-03 | Raytheon Company | Query term expansion and result selection |
CN113032562B (zh) * | 2021-03-18 | 2024-02-02 | 中国人民解放军火箭军工程大学 | 一种多次迭代对折词汇层级分类方法及系统 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4658429A (en) * | 1983-12-29 | 1987-04-14 | Hitachi, Ltd. | System and method for preparing a recognition dictionary |
US6513027B1 (en) * | 1999-03-16 | 2003-01-28 | Oracle Corporation | Automated category discovery for a terminological knowledge base |
EP1049030A1 (en) * | 1999-04-28 | 2000-11-02 | SER Systeme AG Produkte und Anwendungen der Datenverarbeitung | Classification method and apparatus |
US6611825B1 (en) * | 1999-06-09 | 2003-08-26 | The Boeing Company | Method and system for text mining using multidimensional subspaces |
US6751621B1 (en) * | 2000-01-27 | 2004-06-15 | Manning & Napier Information Services, Llc. | Construction of trainable semantic vectors and clustering, classification, and searching using trainable semantic vectors |
US7430717B1 (en) * | 2000-09-26 | 2008-09-30 | International Business Machines Corporation | Method for adapting a K-means text clustering to emerging data |
US7006969B2 (en) * | 2000-11-02 | 2006-02-28 | At&T Corp. | System and method of pattern recognition in very high-dimensional space |
US6735578B2 (en) * | 2001-05-10 | 2004-05-11 | Honeywell International Inc. | Indexing of knowledge base in multilayer self-organizing maps with hessian and perturbation induced fast learning |
US6868411B2 (en) * | 2001-08-13 | 2005-03-15 | Xerox Corporation | Fuzzy text categorizer |
US7024408B2 (en) * | 2002-07-03 | 2006-04-04 | Word Data Corp. | Text-classification code, system and method |
US7409404B2 (en) * | 2002-07-25 | 2008-08-05 | International Business Machines Corporation | Creating taxonomies and training data for document categorization |
JP4233836B2 (ja) * | 2002-10-16 | 2009-03-04 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 文書自動分類システム、不要語判定方法、文書自動分類方法、およびプログラム |
US7356187B2 (en) * | 2004-04-12 | 2008-04-08 | Clairvoyance Corporation | Method and apparatus for adjusting the model threshold of a support vector machine for text classification and filtering |
US7366705B2 (en) * | 2004-04-15 | 2008-04-29 | Microsoft Corporation | Clustering based text classification |
TWI254880B (en) * | 2004-10-18 | 2006-05-11 | Avectec Com Inc | Method for classifying electronic document analysis |
US7805300B2 (en) * | 2005-03-21 | 2010-09-28 | At&T Intellectual Property Ii, L.P. | Apparatus and method for analysis of language model changes |
JP2007041721A (ja) | 2005-08-01 | 2007-02-15 | Ntt Resonant Inc | 情報分類方法およびプログラム、装置および記録媒体 |
US7512605B2 (en) * | 2006-11-01 | 2009-03-31 | International Business Machines Corporation | Document clustering based on cohesive terms |
JP5008137B2 (ja) | 2007-11-06 | 2012-08-22 | 日本電信電話株式会社 | 単語ベクトル生成装置、単語ベクトル生成方法、プログラムおよびプログラムを記録した記録媒体 |
JP5290570B2 (ja) | 2007-12-26 | 2013-09-18 | 京セラ株式会社 | 絵文字入力支援装置、絵文字入力支援方法、およびプログラム |
-
2010
- 2010-02-01 CN CN2010101045124A patent/CN102141977A/zh active Pending
- 2010-09-03 WO PCT/US2010/047868 patent/WO2011093925A1/en active Application Filing
- 2010-09-03 JP JP2012551145A patent/JP5587434B2/ja not_active Expired - Fee Related
- 2010-09-03 US US12/996,658 patent/US9208220B2/en active Active
- 2010-09-03 EP EP10844913.3A patent/EP2531896A4/en not_active Withdrawn
Also Published As
Publication number | Publication date |
---|---|
US9208220B2 (en) | 2015-12-08 |
US20110213777A1 (en) | 2011-09-01 |
EP2531896A1 (en) | 2012-12-12 |
CN102141977A (zh) | 2011-08-03 |
WO2011093925A1 (en) | 2011-08-04 |
EP2531896A4 (en) | 2015-02-25 |
JP2013519133A (ja) | 2013-05-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5587434B2 (ja) | テキスト分類の方法および装置 | |
US9110922B2 (en) | Joint embedding for item association | |
JP6759844B2 (ja) | 画像を施設に対して関連付けるシステム、方法、プログラム及び装置 | |
CN108268600B (zh) | 基于ai的非结构化数据管理方法及装置 | |
US9245049B2 (en) | Performing queries using semantically restricted relations | |
WO2018176913A1 (zh) | 搜索方法、装置及非临时性计算机可读存储介质 | |
JP2017518588A (ja) | 会話理解システムのためのセッションコンテキストモデリング | |
CN102156711B (zh) | 一种基于云存储的电力全文检索方法及系统 | |
WO2014108004A1 (zh) | 一种微博用户身份识别方法及系统 | |
US9164980B2 (en) | Name identification rule generating apparatus and name identification rule generating method | |
CN103324666A (zh) | 一种基于微博数据的话题跟踪方法及装置 | |
Arru et al. | Signal-based user recommendation on twitter | |
CN105593851A (zh) | 用于跟踪与通过关联的文本和图像可识别的实体相关的微博消息的方法和装置 | |
JP6428795B2 (ja) | モデル生成方法、単語重み付け方法、モデル生成装置、単語重み付け装置、デバイス、コンピュータプログラム及びコンピュータ記憶媒体 | |
JP2017142796A (ja) | 情報の特定及び抽出 | |
CN113127605B (zh) | 一种目标识别模型的建立方法、系统、电子设备及介质 | |
CN102043863B (zh) | 一种Web服务聚类的方法 | |
EP2766826B1 (en) | Searching information | |
CN110858217A (zh) | 微博敏感话题的检测方法、装置及可读存储介质 | |
CN102135983A (zh) | 基于网络用户行为的群体划分方法和装置 | |
US8868571B1 (en) | Systems and methods for selecting interest point descriptors for object recognition | |
WO2020147259A1 (zh) | 一种用户画像方法、装置、可读存储介质及终端设备 | |
CN113033194A (zh) | 语义表示图模型的训练方法、装置、设备和存储介质 | |
CN105550308A (zh) | 一种信息处理方法,检索方法及电子设备 | |
CN113111178A (zh) | 无监督的基于表示学习的同名作者消歧方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130806 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140304 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140529 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140624 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140723 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5587434 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |