CN105426539B - 一种基于词典的lucene中文分词方法 - Google Patents
一种基于词典的lucene中文分词方法 Download PDFInfo
- Publication number
- CN105426539B CN105426539B CN201510977358.4A CN201510977358A CN105426539B CN 105426539 B CN105426539 B CN 105426539B CN 201510977358 A CN201510977358 A CN 201510977358A CN 105426539 B CN105426539 B CN 105426539B
- Authority
- CN
- China
- Prior art keywords
- word
- dictionary
- candidate word
- candidate
- chinese
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/3332—Query translation
- G06F16/3335—Syntactic pre-processing, e.g. stopword elimination, stemming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/374—Thesaurus
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Machine Translation (AREA)
- Document Processing Apparatus (AREA)
Abstract
Description
Claims (3)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510977358.4A CN105426539B (zh) | 2015-12-23 | 2015-12-23 | 一种基于词典的lucene中文分词方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510977358.4A CN105426539B (zh) | 2015-12-23 | 2015-12-23 | 一种基于词典的lucene中文分词方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105426539A CN105426539A (zh) | 2016-03-23 |
CN105426539B true CN105426539B (zh) | 2018-12-18 |
Family
ID=55504751
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510977358.4A Active CN105426539B (zh) | 2015-12-23 | 2015-12-23 | 一种基于词典的lucene中文分词方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105426539B (zh) |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106250372A (zh) * | 2016-08-17 | 2016-12-21 | 国网上海市电力公司 | 一种用于电力系统的中文电力数据文本挖掘方法 |
CN106528524A (zh) * | 2016-09-22 | 2017-03-22 | 中山大学 | 一种基于MMseg算法与逐点互信息算法的分词方法 |
CN106445918B (zh) * | 2016-09-26 | 2019-08-27 | 深圳市数字城市工程研究中心 | 一种中文地址处理方法及系统 |
CN106528536A (zh) * | 2016-11-14 | 2017-03-22 | 北京赛思信安技术股份有限公司 | 一种基于词典与文法分析的多语种分词方法 |
CN110516235A (zh) * | 2016-11-23 | 2019-11-29 | 上海智臻智能网络科技股份有限公司 | 新词发现方法、装置、终端及服务器 |
CN107203512B (zh) * | 2017-06-02 | 2021-04-23 | 上海对岸信息科技有限公司 | 用于从用户的自然语言输入中提取关键元素的方法 |
CN107451122B (zh) * | 2017-08-09 | 2020-11-13 | 南京华飞数据技术有限公司 | 一种基于Lucene的动态n元分词方法 |
CN108491373B (zh) * | 2018-02-01 | 2022-05-27 | 北京百度网讯科技有限公司 | 一种实体识别方法及系统 |
CN110502737B (zh) * | 2018-05-18 | 2023-02-17 | 中国医学科学院北京协和医院 | 一种基于医学专业词典与统计算法的分词方法 |
CN108763212A (zh) * | 2018-05-23 | 2018-11-06 | 北京神州泰岳软件股份有限公司 | 一种地址信息提取方法及装置 |
CN109101480B (zh) * | 2018-06-14 | 2022-09-06 | 华东理工大学 | 一种企业名称的切分方法、装置及计算机可读存储介质 |
CN109033082B (zh) * | 2018-07-19 | 2022-06-10 | 深圳创维数字技术有限公司 | 语义模型的学习训练方法、装置及计算机可读存储介质 |
CN109190124B (zh) * | 2018-09-14 | 2019-11-26 | 北京字节跳动网络技术有限公司 | 用于分词的方法和装置 |
CN109388806B (zh) * | 2018-10-26 | 2023-06-27 | 北京布本智能科技有限公司 | 一种基于深度学习及遗忘算法的中文分词方法 |
CN109408622B (zh) * | 2018-10-31 | 2023-03-10 | 腾讯科技(深圳)有限公司 | 语句处理方法及其装置、设备和存储介质 |
CN109766539B (zh) * | 2018-11-30 | 2022-12-20 | 平安科技(深圳)有限公司 | 标准词库分词方法、装置、设备及计算机可读存储介质 |
CN110059572B (zh) * | 2019-03-22 | 2021-08-10 | 中国科学院自动化研究所 | 基于单字匹配的文档图像中文关键词检测方法、系统 |
CN110209837B (zh) * | 2019-05-27 | 2022-08-02 | 广西电网有限责任公司 | 一种装置信息词典的生成方法及计算装置 |
CN110502750B (zh) * | 2019-08-06 | 2023-08-11 | 山东师范大学 | 中医文本分词过程中的消歧方法、系统、设备及介质 |
CN110532551A (zh) * | 2019-08-15 | 2019-12-03 | 苏州朗动网络科技有限公司 | 文本关键词自动提取的方法、设备和存储介质 |
CN110991173B (zh) * | 2019-11-29 | 2023-09-29 | 支付宝(杭州)信息技术有限公司 | 一种分词方法及系统 |
CN111160014B (zh) * | 2019-12-03 | 2023-05-16 | 北京博瑞彤芸科技股份有限公司 | 一种智能分词方法 |
CN111259171A (zh) * | 2020-01-15 | 2020-06-09 | 青岛聚看云科技有限公司 | 一种基于分词索引搜索多媒体资源的方法及服务器 |
CN111950274A (zh) * | 2020-07-31 | 2020-11-17 | 中国工商银行股份有限公司 | 一种专业领域语料的中文分词方法及装置 |
CN112036120A (zh) * | 2020-08-31 | 2020-12-04 | 上海硕恩网络科技股份有限公司 | 一种技能短语抽取方法 |
CN112632969B (zh) * | 2020-12-13 | 2022-06-21 | 复旦大学 | 一种增量式行业词典更新方法和系统 |
CN113010695A (zh) * | 2021-04-19 | 2021-06-22 | 华北电力大学 | 一种适用于继电保护装置缺陷分析的专业词典构建方法 |
CN113609302B (zh) * | 2021-06-21 | 2024-03-22 | 北京交通大学 | 基于非结构化数据的铁路事故根因识别系统及识别方法 |
CN113486660A (zh) * | 2021-06-30 | 2021-10-08 | 上海众言网络科技有限公司 | 适用于多用户自定义字典的中文分词词频方法及装置 |
CN113779990B (zh) * | 2021-09-10 | 2023-10-31 | 中国联合网络通信集团有限公司 | 中文分词方法、装置、设备及存储介质 |
CN116702786B (zh) * | 2023-08-04 | 2023-11-17 | 山东大学 | 融合规则和统计特征的中文专业术语抽取方法和系统 |
CN117034917B (zh) * | 2023-10-08 | 2023-12-22 | 中国医学科学院医学信息研究所 | 一种英文文本分词方法、装置和计算机可读介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102929902A (zh) * | 2012-07-05 | 2013-02-13 | 江苏新瑞峰信息科技有限公司 | 一种基于中文检索的分词方法及装置 |
CN104699724A (zh) * | 2013-12-10 | 2015-06-10 | 北京先进数通信息技术股份公司 | 一种基于Lucene的数据搜索方法及装置 |
-
2015
- 2015-12-23 CN CN201510977358.4A patent/CN105426539B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102929902A (zh) * | 2012-07-05 | 2013-02-13 | 江苏新瑞峰信息科技有限公司 | 一种基于中文检索的分词方法及装置 |
CN104699724A (zh) * | 2013-12-10 | 2015-06-10 | 北京先进数通信息技术股份公司 | 一种基于Lucene的数据搜索方法及装置 |
Non-Patent Citations (6)
Title |
---|
一个改进的中文分词算法及其在Lucene中的应用;付敏;《中国优秀硕士学位论文全文数据库 信息科技辑》;20120215;第I138-2622页 * |
一种基于Lucene的中文分词的设计与测试;王志嘉;《信息技术》;20101231;第50-54页 * |
地质数据信息服务参考模型及关键技术研究;肖奕;《中国优秀博士学位论文全文数据库 信息科技辑》;20140415;第I138-83页 * |
基于Lucene垂直搜索引擎的研究与实现;徐海;《中国优秀硕士学位论文全文数据库 信息科技辑》;20100715;第I138-1153页 * |
基于Lucene的中文分词技术研究;邵星星;《中国优秀硕士学位论文全文数据库 信息科技辑》;20130315;第I138-1831页 * |
基于Lucene的中文分词技术研究与实现;王鹏;《中国优秀硕士学位论文全文数据库 信息科技辑》;20140815;第I138-1542页 * |
Also Published As
Publication number | Publication date |
---|---|
CN105426539A (zh) | 2016-03-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105426539B (zh) | 一种基于词典的lucene中文分词方法 | |
CN106528532B (zh) | 文本纠错方法、装置及终端 | |
CN103235774B (zh) | 一种科技项目申请书特征词提取方法 | |
Ljubešić et al. | Standardizing tweets with character-level machine translation | |
CN102622338A (zh) | 一种短文本间语义距离的计算机辅助计算方法 | |
CN106528524A (zh) | 一种基于MMseg算法与逐点互信息算法的分词方法 | |
CN106569993A (zh) | 一种挖掘领域术语间上下位关系的方法及装置 | |
CN106611041A (zh) | 一种新的文本相似度求解方法 | |
CN101702167A (zh) | 一种基于互联网的模板抽取属性和评论词的方法 | |
CN106682123A (zh) | 一种获取热点事件的方法及装置 | |
Ye et al. | Unknown Chinese word extraction based on variety of overlapping strings | |
CN103324626A (zh) | 一种建立多粒度词典的方法、分词的方法及其装置 | |
CN107577663A (zh) | 一种关键短语抽取方法和装置 | |
CN103544326A (zh) | 基于译文特征与内容的中英文跨语种抄袭识别方法 | |
CN103678287A (zh) | 一种关键词翻译统一的方法 | |
CN103744837B (zh) | 基于关键词抽取的多文本对照方法 | |
CN104598441B (zh) | 一种计算机拆分汉语句子的方法 | |
CN100424685C (zh) | 一种基于标点处理的层次化汉语长句句法分析方法及装置 | |
Momtaz et al. | Graph-based Approach to Text Alignment for Plagiarism Detection in Persian Documents. | |
CN101520775B (zh) | 一种融入语义信息的中文句法分析与解码方法 | |
Schottmüller et al. | Issues in translating verb-particle constructions from german to english | |
CN101576876B (zh) | 一种自动拆分英文复合词组的系统和方法 | |
RU2500024C2 (ru) | Способ автоматизированного определения языка и (или) кодировки текстового документа | |
KR20170067558A (ko) | Svm을 이용한 인터넷 악성댓글 탐지 기법 | |
CN103116607A (zh) | 一种基于拼音全文检索的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: 610000 Chengdu Research Institute, University of Electronic Science and technology, Southwest Airlines Development Zone, Shuangliu, Chengdu, Sichuan Applicant after: Chengdu cloud Future Information Science Co., Ltd. Address before: 610041 Shuangliu County Chengdu Southwest Airlines Economic Development Zone, Sichuan, China Applicant before: CHENGDU DIANKE XINTONG JIEXIN TECHNOLOGY CO., LTD. |
|
CB03 | Change of inventor or designer information | ||
CB03 | Change of inventor or designer information |
Inventor after: Sun Jian Inventor after: Lu Chuan Inventor after: Zhang Xiang Inventor before: Sun Jian Inventor before: Zhang Xiang |
|
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20200617 Address after: 610000 Sichuan city of Chengdu province Tianfu Zheng Xing Shun Shing Street No. 172 Patentee after: Chengdu Tianfu cloud number information technology Co., Ltd Address before: Chengdu Research Institute of Electronic Science and Technology University, Southwest Airport Economic Development Zone, Shuangliu District Patentee before: CHENGDU YUNSHU FUTURE INFORMATION SCIENCE Co.,Ltd. |