CN111626052A - 基于哈希词典的接处警文本物品名称提取方法和装置 - Google Patents
基于哈希词典的接处警文本物品名称提取方法和装置 Download PDFInfo
- Publication number
- CN111626052A CN111626052A CN202010348757.5A CN202010348757A CN111626052A CN 111626052 A CN111626052 A CN 111626052A CN 202010348757 A CN202010348757 A CN 202010348757A CN 111626052 A CN111626052 A CN 111626052A
- Authority
- CN
- China
- Prior art keywords
- name
- hash
- article
- word
- dictionary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000605 extraction Methods 0.000 title claims abstract description 30
- 230000011218 segmentation Effects 0.000 claims abstract description 80
- 238000000034 method Methods 0.000 claims abstract description 63
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 20
- 230000004044 response Effects 0.000 claims abstract description 8
- 238000004590 computer program Methods 0.000 claims description 10
- 238000010586 diagram Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 210000001503 joint Anatomy 0.000 description 6
- 239000003795 chemical substances by application Substances 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 239000002537 cosmetic Substances 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000003796 beauty Effects 0.000 description 1
- 239000004566 building material Substances 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 238000005034 decoration Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/242—Dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/18—Legal services
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Tourism & Hospitality (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Artificial Intelligence (AREA)
- Economics (AREA)
- General Business, Economics & Management (AREA)
- Strategic Management (AREA)
- Primary Health Care (AREA)
- Marketing (AREA)
- Human Resources & Organizations (AREA)
- Technology Law (AREA)
- Machine Translation (AREA)
Abstract
本公开实施例公开了基于哈希词典的接处警文本物品名称提取方法和装置。该方法的一具体实施方式包括：获取待提取物品名称接处警文本；基于目标词典对待提取物品名称接处警文本进行切词得到相应的分词序列；对于所得到的分词序列中的每个分词，执行以下物品名称确定操作：按照预设哈希算法计算该分词的哈希值，以及响应于根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找到该分词，将该分词确定为物品名称词；将分词序列的各分词中的物品名称词确定为待提取物品名称接处警文本对应的物品名称集合。该实施方式实现了自动提取接处警文本中的物品名称。
Description
技术领域
本公开实施例涉及计算机技术领域，具体涉及基于哈希词典的接处警文本物品名称提取方法和装置。
背景技术
目前，公安机关的110接警员在接警时会录入接警文本。处警员在处警结束后会录入处警文本。接处警文本即包括上述接警文本和处警文本。实践中，大量接处警文本中会涉及关于物品名称的描述。其中，物品可能包括作案工具、损失物品、涉案交通工具等等。尤其对于损失物品，例如失窃物品，损坏物品可能涉及损失的金额。若能提取接处警文本中的物品名称，再将不同的物品名称关联相应的损失金额，可以自动生成该接处警警情对应的损失金额，进而可以根据损失金额协助进一步对该案进行相应的处理。因此，提取接处警文本中的物品名称是非常重要的。目前，大都采用人工提取接处警文本中的物品名称，然而凭人工提取接处警文本中的物品名称的人工成本太高且依赖于个人经验。
发明内容
本公开实施例提出了基于哈希词典的接处警文本物品名称提取方法和装置。
第一方面，本公开实施例提供了一种基于哈希词典的接处警文本物品名称提取方法，该方法包括：获取待提取物品名称接处警文本；基于目标词典对上述待提取物品名称接处警文本进行切词得到相应的分词序列；对于所得到的分词序列中的每个分词，执行以下物品名称确定操作：按照预设哈希算法计算该分词的哈希值，以及响应于根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找到该分词，将该分词确定为物品名称词；将上述分词序列的各分词中的物品名称词确定为上述待提取物品名称接处警文本对应的物品名称集合。
在一些实施例中，上述预设物品名称哈希词典是通过如下生成步骤预先生成的：获取预设输入法应用对应的物品名称词库；新建空的哈希词典；对于所获取的物品名称词库中的每个物品名称词，执行以下存储操作：根据该物品名称词的哈希值确定该物品名称词在所新建的哈希词典中的存储位置，以及按照计算得到的存储位置将该物品名称词存储在所新建的哈希词典中，其中，该物品名称词的哈希值是按照上述预设哈希算法计算得到的；将所新建的哈希词典确定为上述预设物品名称哈希词典。
在一些实施例中，上述目标词典包括预设词典和上述预设输入法应用对应的物品名称词库。
在一些实施例中，在获取预设输入法应用对应的物品名称词库之后，上述生成步骤还包括：删除所获取的物品名称词库中的无效数据，其中，上述无效数据包括乱码、包含错别字的词和停用词。
第二方面，本公开实施例提供了一种基于哈希词典的接处警文本物品名称提取装置，该装置包括：获取单元，被配置成获取待提取物品名称接处警文本；切词单元，被配置成基于目标词典对上述待提取物品名称接处警文本进行切词得到相应的分词序列；第一确定单元，被配置成对于所得到的分词序列中的每个分词，执行以下物品名称确定操作：按照预设哈希算法计算该分词的哈希值，以及响应于根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找到该分词，将该分词确定为物品名称词；第二确定单元，被配置成将上述分词序列的各分词中的物品名称词确定为上述待提取物品名称接处警文本对应的物品名称集合。
在一些实施例中，上述预设物品名称哈希词典是通过如下生成步骤预先生成的：获取预设输入法应用对应的物品名称词库；新建空的哈希词典；对于所获取的物品名称词库中的每个物品名称词，执行以下存储操作：根据该物品名称词的哈希值确定该物品名称词在所新建的哈希词典中的存储位置，以及按照计算得到的存储位置将该物品名称词存储在所新建的哈希词典中，其中，该物品名称词的哈希值是按照上述预设哈希算法计算得到的；将所新建的哈希词典确定为上述预设物品名称哈希词典。
在一些实施例中，上述目标词典包括预设词典和上述预设输入法应用对应的物品名称词库。
在一些实施例中，在获取预设输入法应用对应的物品名称词库之后，上述生成步骤还包括：删除所获取的物品名称词库中的无效数据，其中，上述无效数据包括乱码、包含错别字的词和停用词。
第三方面，本公开实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当上述一个或多个程序被上述一个或多个处理器执行时，使得上述一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面，本公开实施例提供了一种计算机可读存储介质，其上存储有计算机程序，其中，该计算机程序被一个或多个处理器执行时实现如第一方面中任一实现方式描述的方法。
现有技术中一般是通过人工提取接处警文本中的物品名称，可能存在以下问题：(1)历史遗留有大量未曾被提取物品名称的接处警文本，以及随着时间的推移接警处警员每天都会录入新的大量接处警文本，导致接处警文本待提取物品名称的数据体量太大，人工提取所需的人力和时间成本太高；(2)接处警文本大多采用自然语言描述、表达方式严重口语化且无规则，人工提取物品名称难度较高；(3)物品名称项目内容较多，不同物品名称提取方式不同，依赖于人工经验，即人工提取过程中学习成本较高。
本公开的实施例提供的基于哈希词典的接处警文本物品名称提取方法和装置，通过基于目标词典对待提取物品名称接处警文本进行切词得到相应的分词序列，再对于所得到的分词序列中的每个分词，按照预设哈希算法计算该分词的哈希值，以及响应于根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找到该分词，将该分词确定为物品名称词，最后将分词序列的各分词中的物品名称词确定为待提取物品名称接处警文本对应的物品名称集合。从而有效利用了目标词典和物品名称哈希词典，实现了对接处警文本自动提取物品名称，无需人工操作，降低了对接处警文本进行物品名称提取的成本，并且由于哈希词典的查找效率较高，提高了对接处警文本进行物品名称提取的提取速度。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：
图1是本公开的一个实施例可以应用于其中的示例性系统架构图；
图2是根据本公开的基于哈希词典的接处警文本物品名称提取方法的一个实施例的流程图；
图3是根据本公开的生成步骤的一个实施例的流程图；
图4是根据本公开的基于哈希词典的接处警文本物品名称提取装置的一个实施例的结构示意图；
图5是适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的基于哈希词典的接处警文本物品名称提取方法或基于哈希词典的接处警文本物品名称提取装置的实施例的示例性系统架构100。
如图1所示，系统架构100可以包括终端设备101、网络102和服务器103。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101通过网络102与服务器103交互，以接收或发送消息等。终端设备101上可以安装有各种通讯客户端应用，例如接处警记录类应用、接处警文本物品名称提取类应用、网页浏览器应用等。
终端设备101可以是硬件，也可以是软件。当终端设备101为硬件时，可以是具有显示屏并且支持文本输入的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供接处警文本物品名称提取服务)，也可以实现成单个软件或软件模块。在此不做具体限定。
服务器103可以是提供各种服务的服务器，例如对终端设备101发送的接处警文本提供物品名称提取的后台服务器。后台服务器可以对接收到的接处警文本进行分析等处理，并将处理结果(例如物品名称)反馈给终端设备。
在一些情况下，本公开实施例所提供的基于哈希词典的接处警文本物品名称提取方法可以由终端设备101和服务器103共同执行，例如，“获取待提取物品名称接处警文本”的步骤可以由终端设备101执行，其余步骤可以由服务器103执行。本公开对此不做限定。相应地，基于哈希词典的接处警文本物品名称提取装置也可以分别设置于终端设备101和服务器103中。
在一些情况下，本公开实施例所提供的基于哈希词典的接处警文本物品名称提取方法可以由服务器103执行，相应地，基于哈希词典的接处警文本物品名称提取装置也可以设置于服务器103中，这时，系统架构100也可以不包括终端设备101。
在一些情况下，本公开实施例所提供的基于哈希词典的接处警文本物品名称提取方法可以由终端设备101执行，相应地，基于哈希词典的接处警文本物品名称提取装置也可以设置于终端设备101中，这时，系统架构100也可以不包括服务器103。
需要说明的是，服务器103可以是硬件，也可以是软件。当服务器103为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器103为软件时，可以实现成多个软件或软件模块(例如用来提供接处警文本物品名称提取服务)，也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
继续参考图2，其示出了根据本公开的基于哈希词典的接处警文本物品名称提取方法的一个实施例的流程200。该基于哈希词典的接处警文本物品名称提取方法，包括以下步骤：
步骤201，获取待提取物品名称接处警文本。
在本实施例中，基于哈希词典的接处警文本物品名称提取方法的执行主体(例如，图1所示的服务器)可以获取本地存储的待提取物品名称接处警文本，或者上述执行主体也可以远程地从与上述执行主体网络连接的其他电子设备(例如，图1所示的终端设备)获取待提取物品名称接处警文本。
这里，待提取物品名称接处警文本可以是接警员根据接警电话的内容整理的文本数据或者处警员根据处警过程整理的文本数据。待提取物品名称接处警文本也可以是从终端设备接收的用户在终端设备上安装的报警类应用或者具备报警功能的网页中输入的报警文本。
步骤202，基于目标词典对待提取物品名称接处警文本进行切词得到相应的分词序列。
在本实施例中，上述执行主体可以采用各种实现方式基于目标词典对待提取物品名称接处警文本进行切词得到相应的分词序列。需要说明的是，如何基于词典对文本进行切词是本领域广泛研究和应用的现有技术，在此不再赘述。例如，可以采用基于字符串匹配的分词方法、基于理解的分词方法或者基于统计的分词方法等等。例如，对待提取物品名称接处警文本“张三报警称其在公交车上丢失一部A品牌B型号手机”进行切词可以得到分词序列“张三/报警/称/其/在/公交车/上/丢失/一/部/A品牌B型号/手机”。
在一些可选的实现方式中，目标词典可以包括预设词典和预设输入法应用对应的物品名称词库。而预设输入法应用对应的物品名称词库中存储的是物品名称词，因此，在基于目标词典对待提取物品名称接处警文本进行切词得到相应的分词序列的过程中，可以提高将预设输入法应用对应的物品名称词库中的物品名称词作为分词整体切除的准确率。
步骤203，对于所得到的分词序列中的每个分词，执行物品名称确定操作。
在本实施例中，上述执行主体可以对于步骤202中所得到的分词序列中的每个分词执行物品名称确定操作。这里，物品名称确定操作包括：首先，按照预设哈希算法计算该分词的哈希值。然后，响应于根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找到该分词，将该分词确定为物品名称词。
这里，预设哈希算法可以是各种预先设定的根据词语生成哈希值的哈希算法，本申请对此不做具体限定。
这里，预设物品名称哈希词典可以是存储有物品名称词的哈希表或者哈希词典。
当预设物品名称哈希词典是哈希表时，该哈希表中存储有键值对，其中键值对以物品名称词为值，以对该物品名称词按照预设哈希算法计算得到的哈希值为键，该哈希表存储的各个键值对中的键(即，物品名称词的哈希值)是互不相同的。这时，在该哈希表中根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找该分词，则是在该哈希表的各个键值对中查找键与该分词的哈希值相同的键值对并获取该键值对中的值，如果所获取的值对应的数据与该分词相同则表明找到该分词，反之则表明没找到该分词。
当预设物品名称哈希词典是哈希词典时，该哈希词典中存储有物品名称词，且每个物品名称词在该哈希词典中的存储位置为对该物品名称词按照预设哈希算法计算得到的哈希值。这时，在该哈希词典中根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找该分词，则是在预设物品名称哈希词典中按照计算所得的该分词的哈希值所指示的位置获取相应的数据，如果所获取的数据与该分词相同则表明查找到该分词，反之则表明没找到该分词。
不论预设物品名称哈希词典是哈希表还是哈希词典结构，在预设物品名称哈希词典中根据每个分词的哈希值查找该分词都是高效的，查找速度较高。
这里，预设物品名称哈希词典可以是采用各种实现方式得到的。例如，可以是由熟悉案情的技术专家根据大量的历史接处警文本进行统计分析之后制定了物品名称词库，再基于物品名称词库，利用上述预设哈希算法生成相应的哈希表或者哈希词典，作为预设物品名称哈希词典。
例如，对待提取物品名称接处警文本“张三报警称其在公交车上丢失一部A品牌B型号手机”相应的分词序列“张三/报警/称/其/在/公交车/上/丢失/一/部/A品牌B型号/手机”中的每个分词，执行物品名称确定操作，进而可以确定出是分词序列中所包括的各个物品名称词。具体结果请参考表1，表1示出了上述分词序列中各个分词分别执行物品名称分确定操作的结果。
表1
| 分词 | 确定结果 |
| 张三 | 不是物品名称词 |
| 报警 | 不是物品名称词 |
| 称 | 不是物品名称词 |
| 其 | 不是物品名称词 |
| 在 | 不是物品名称词 |
| 公交车 | 不是物品名称词 |
| 上 | 不是物品名称词 |
| 丢失 | 不是物品名称词 |
| 一 | 不是物品名称词 |
| 部 | 不是物品名称词 |
| A品牌B型号 | 是物品名称词 |
| 手机 | 是物品名称词 |
在一些可选的实现方式中，预设物品名称哈希词典是通过如图3所示的生成步骤预先生成的。请参考图3，图3示出了根据本公开的生成步骤的一个实施例的流程300。该生成步骤包括以下步骤：
这里，生成步骤的执行主体可以与上述基于哈希词典的接处警文本物品名称提取方法的执行主体相同。这样，生成步骤的执行主体可以在生成预设物品名称哈希词典后，将预设物品名称哈希词典存储在上述执行主体本地，并在执行上述基于哈希词典的接处警文本物品名称提取方法的过程中读取上述预设物品名称哈希词典。
这里，生成步骤的执行主体也可以与上述基于哈希词典的接处警文本物品名称提取方法的执行主体不同。这样，生成步骤的执行主体可以在生成预设物品名称哈希词典后，将预设物品名称哈希词典发送给上述基于哈希词典的接处警文本物品名称提取方法的执行主体。这样，上述基于哈希词典的接处警文本物品名称提取方法的执行主体可以在执行上述基于哈希词典的接处警文本物品名称提取方法的过程中读取上述从生成步骤的执行主体接收到的预设物品名称哈希词典。
步骤301，获取预设输入法应用对应的物品名称词库。
这里，生成步骤的执行主体可以首先获取预设输入法应用对应的物品名称词库。这里，预设输入法应用可以是任何具有对应的物品名称词库的输入法应用。实践中，由于物品名称是用户经常输入的词语，因此，大多输入法应用分为了方便用户输入，都提供了物品名称词库。例如，物品名称词库可以包括家用电器词库、化妆品词库、美容护肤品词库、化妆品成分词库、宠物用品词库、办公用品词库、文教用品词库、五金日用品词库、家具词库、家居用品词库、家居建材词库、建筑装修综合词库等等。这里，可以通过直接获取预设输入法应用对应的物品名称词库以快速得到物品名称词。
步骤302，新建空的哈希词典。
步骤303，对于所获取的物品名称词库中的每个物品名称词，执行存储操作。
这里，生成步骤的执行主体可以对于步骤301中获取的物品名称词库中的每个物品名称词，执行存储操作。这里，存储操作可以如下进行：
首先，可以按照预设哈希算法计算该物品名称词的哈希值。
然后，可以根据该物品名称词的哈希值确定该物品名称词在所新建的哈希词典中的存储位置。
这里，可以直接将该物品名称的哈希值作为该物品名称词在所新建的哈希词典中的存储位置。可以理解的是，为了解决冲突的问题，这里还可以采用其他实现方式根据该物品名称词的哈希值确定该物品名称词在所新建的哈希词典中的存储位置，本申请对此不做具体限定。
最后，可以按照计算得到的存储位置将该物品名称词存储在所新建的哈希词典中。
步骤304，将所新建的哈希词典确定为预设物品名称哈希词典。
在一些可选的实现方式中，上述生成步骤的执行主体还可以在执行步骤301之后执行以下步骤301’：
步骤301’，删除所获取的物品名称词库中的无效数据。
这里，无效数据可以包括乱码、包含错别字的词和停用词。
通过在流程300中增加步骤301’，可以提高所生成的预设物品名称哈希词典的数据量，进而减少存储预设物品名称哈希词典所需的存储空间，以及可以进一步提高查询速度。
利用上述流程300所示的生成步骤，可以快速准确地生成预设物品名称哈希词典。
步骤204，将分词序列的各分词中的物品名称词确定为待提取物品名称接处警文本对应的物品名称集合。
这里，在步骤203中，如果对分词序列中的某分词执行物品名称确定操作，并确定该分词为物品名称词，那么该分词即为物品名称。因此，在步骤204中可以将分词序列的各分词中的物品名称词确定为待提取物品名称接处警文本对应的物品名称集合。
需要说明的是，待提取物品名称接处警文本可能不包括任何物品名称，这时待提取物品名称接处警文本对应的物品名称集合可以为空。待提取物品名称接处警文本也可能包括至少一个任何物品名称，这时待提取物品名称接处警文本对应的物品名称集合可以包括至少一个物品名称。
本公开的上述实施例提供的方法通过利用目标词典和物品名称哈希词典，实现了对接处警文本自动提取物品名称，无需人工操作，降低了对接处警文本进行物品名称提取的成本，提高了对接处警文本进行物品名称提取的提取速度。
进一步参考图4，作为对上述各图所示方法的实现，本公开提供了一种基于哈希词典的接处警文本物品名称提取装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图4所示，本实施例的基于哈希词典的接处警文本物品名称提取装置400包括：获取单元401、切词单元402、第一确定单元403和第二确定单元404。其中，获取单元401，被配置成获取待提取物品名称接处警文本；切词单元402，被配置成基于目标词典对上述待提取物品名称接处警文本进行切词得到相应的分词序列；第一确定单元403，被配置成对于所得到的分词序列中的每个分词，执行以下物品名称确定操作：按照预设哈希算法计算该分词的哈希值，以及响应于根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找到该分词，将该分词确定为物品名称词；而第二确定单元404，被配置成将上述分词序列的各分词中的物品名称词确定为上述待提取物品名称接处警文本对应的物品名称集合。
在本实施例中，基于哈希词典的接处警文本物品名称提取装置400的获取单元401、切词单元402、提取单元403和确定单元404的具体处理及其所带来的技术效果可分别参考图2对应实施例中步骤201、步骤202、步骤203和步骤204的相关说明，在此不再赘述。
在本实施例的一些可选的实现方式中，上述预设物品名称哈希词典可以是通过如下生成步骤预先生成的：获取预设输入法应用对应的物品名称词库；新建空的哈希词典；对于所获取的物品名称词库中的每个物品名称词，执行以下存储操作：根据该物品名称词的哈希值确定该物品名称词在所新建的哈希词典中的存储位置，以及按照计算得到的存储位置将该物品名称词存储在所新建的哈希词典中，其中，该物品名称词的哈希值是按照上述预设哈希算法计算得到的；将所新建的哈希词典确定为上述预设物品名称哈希词典。
在本实施例的一些可选的实现方式中，上述目标词典可以包括预设词典和上述预设输入法应用对应的物品名称词库。
在本实施例的一些可选的实现方式中，在获取预设输入法应用对应的物品名称词库之后，上述生成步骤还可以包括：删除所获取的物品名称词库中的无效数据，其中，上述无效数据包括乱码、包含错别字的词和停用词。
需要说明的是，本公开实施例提供的基于哈希词典的接处警文本物品名称提取装置中各单元的实现细节和技术效果可以参考本公开中其它实施例的说明，在此不再赘述。
下面参考图5，其示出了适于用来实现本公开实施例的电子设备的计算机系统500的结构示意图。图5示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示，计算机系统500包括中央处理单元(CPU，Central Processing Unit)501，其可以根据存储在只读存储器(ROM，Read Only Memory)502中的程序或者从存储部分508加载到随机访问存储器(RAM，Random Access Memory)503中的程序而执行各种适当的动作和处理。在RAM 503中，还存储有系统500操作所需的各种程序和数据。CPU 501、ROM502以及RAM 503通过总线504彼此相连。输入/输出(I/O，Input/Output)接口505也连接至总线504。
以下部件连接至I/O接口505：包括触控屏、手写板、键盘或鼠标等的输入部分506；包括诸如阴极射线管(CRT，Cathode Ray Tube)、液晶显示器(LCD，Liquid CrystalDisplay)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN(局域网，Local Area Network)卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装。在该计算机程序被中央处理单元(CPU)501执行时，执行本公开的方法中限定的上述功能。需要说明的是，本公开所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++、Python，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括获取单元、切词单元、第一确定单元和第二确定单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，获取单元还可以被描述为“获取待提取物品名称接处警文本的单元”。
作为另一方面，本公开还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的装置中所包含的；也可以是单独存在，而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该装置执行时，使得该装置：获取待提取物品名称接处警文本；基于目标词典对上述待提取物品名称接处警文本进行切词得到相应的分词序列；对于所得到的分词序列中的每个分词，执行以下物品名称确定操作：按照预设哈希算法计算该分词的哈希值，以及响应于根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找到该分词，将该分词确定为物品名称词；将上述分词序列的各分词中的物品名称词确定为上述待提取物品名称接处警文本对应的物品名称集合。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种基于哈希词典的接处警文本物品名称提取方法，包括：
获取待提取物品名称接处警文本；
基于目标词典对所述待提取物品名称接处警文本进行切词得到相应的分词序列；
对于所得到的分词序列中的每个分词，执行以下物品名称确定操作：按照预设哈希算法计算该分词的哈希值，以及响应于根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找到该分词，将该分词确定为物品名称词；
将所述分词序列的各分词中的物品名称词确定为所述待提取物品名称接处警文本对应的物品名称集合。
2.根据权利要求1所述的方法，其中，所述预设物品名称哈希词典是通过如下生成步骤预先生成的：
获取预设输入法应用对应的物品名称词库；
新建空的哈希词典；
对于所获取的物品名称词库中的每个物品名称词，执行以下存储操作：根据该物品名称词的哈希值确定该物品名称词在所新建的哈希词典中的存储位置，以及按照计算得到的存储位置将该物品名称词存储在所新建的哈希词典中，其中，该物品名称词的哈希值是按照所述预设哈希算法计算得到的；
将所新建的哈希词典确定为所述预设物品名称哈希词典。
3.根据权利要求2所述的方法，其中，所述目标词典包括预设词典和所述预设输入法应用对应的物品名称词库。
4.根据权利要求3所述的方法，其中，在获取预设输入法应用对应的物品名称词库之后，所述生成步骤还包括：
删除所获取的物品名称词库中的无效数据，其中，所述无效数据包括乱码、包含错别字的词和停用词。
5.一种基于哈希词典的接处警文本物品名称提取装置，包括：
获取单元，被配置成获取待提取物品名称接处警文本；
切词单元，被配置成基于目标词典对所述待提取物品名称接处警文本进行切词得到相应的分词序列；
第一确定单元，被配置成对于所得到的分词序列中的每个分词，执行以下物品名称确定操作：按照预设哈希算法计算该分词的哈希值，以及响应于根据计算得到的该分词的哈希值在预设物品名称哈希词典中查找到该分词，将该分词确定为物品名称词；
第二确定单元，被配置成将所述分词序列的各分词中的物品名称词确定为所述待提取物品名称接处警文本对应的物品名称集合。
6.根据权利要求5所述的装置，其中，所述预设物品名称哈希词典是通过如下生成步骤预先生成的：
获取预设输入法应用对应的物品名称词库；
新建空的哈希词典；
对于所获取的物品名称词库中的每个物品名称词，执行以下存储操作：根据该物品名称词的哈希值确定该物品名称词在所新建的哈希词典中的存储位置，以及按照计算得到的存储位置将该物品名称词存储在所新建的哈希词典中，其中，该物品名称词的哈希值是按照所述预设哈希算法计算得到的；
将所新建的哈希词典确定为所述预设物品名称哈希词典。
7.根据权利要求6所述的装置，其中，所述目标词典包括预设词典和所述预设输入法应用对应的物品名称词库。
8.根据权利要求7所述的装置，其中，在获取预设输入法应用对应的物品名称词库之后，所述生成步骤还包括：
删除所获取的物品名称词库中的无效数据，其中，所述无效数据包括乱码、包含错别字的词和停用词。
9.一种电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如权利要求1-4中任一所述的方法。
10.一种计算机可读介质，其上存储有计算机程序，其中，所述程序被处理器执行时实现如权利要求1-4中任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010348757.5A CN111626052A (zh) | 2020-04-28 | 2020-04-28 | 基于哈希词典的接处警文本物品名称提取方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010348757.5A CN111626052A (zh) | 2020-04-28 | 2020-04-28 | 基于哈希词典的接处警文本物品名称提取方法和装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111626052A true CN111626052A (zh) | 2020-09-04 |
Family
ID=72270809
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010348757.5A Pending CN111626052A (zh) | 2020-04-28 | 2020-04-28 | 基于哈希词典的接处警文本物品名称提取方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111626052A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112150251A (zh) * | 2020-10-09 | 2020-12-29 | 北京明朝万达科技股份有限公司 | 物品名称治理方法和装置 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103914544A (zh) * | 2014-04-03 | 2014-07-09 | 浙江大学 | 一种基于地址特征词的多层次快速中文地址匹配方法 |
| CN104899201A (zh) * | 2014-03-04 | 2015-09-09 | 腾讯科技（北京）有限公司 | 文本提取方法、敏感词判定方法、装置和服务器 |
| CN108021605A (zh) * | 2017-10-30 | 2018-05-11 | 北京奇艺世纪科技有限公司 | 一种关键词分类方法和装置 |
| CN108170672A (zh) * | 2017-12-22 | 2018-06-15 | 武汉数博科技有限责任公司 | 一种中文机构名称实时分析方法及系统 |
| CN109543007A (zh) * | 2018-10-16 | 2019-03-29 | 深圳壹账通智能科技有限公司 | 提问数据生成方法、装置、计算机设备和存储介质 |
| CN110413764A (zh) * | 2019-06-18 | 2019-11-05 | 杭州熊猫智云企业服务有限公司 | 基于预建词库的长文本企业名称识别算法 |
-
2020
- 2020-04-28 CN CN202010348757.5A patent/CN111626052A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104899201A (zh) * | 2014-03-04 | 2015-09-09 | 腾讯科技（北京）有限公司 | 文本提取方法、敏感词判定方法、装置和服务器 |
| CN103914544A (zh) * | 2014-04-03 | 2014-07-09 | 浙江大学 | 一种基于地址特征词的多层次快速中文地址匹配方法 |
| CN108021605A (zh) * | 2017-10-30 | 2018-05-11 | 北京奇艺世纪科技有限公司 | 一种关键词分类方法和装置 |
| CN108170672A (zh) * | 2017-12-22 | 2018-06-15 | 武汉数博科技有限责任公司 | 一种中文机构名称实时分析方法及系统 |
| CN109543007A (zh) * | 2018-10-16 | 2019-03-29 | 深圳壹账通智能科技有限公司 | 提问数据生成方法、装置、计算机设备和存储介质 |
| CN110413764A (zh) * | 2019-06-18 | 2019-11-05 | 杭州熊猫智云企业服务有限公司 | 基于预建词库的长文本企业名称识别算法 |
Non-Patent Citations (1)
| Title |
|---|
| 莫建文;郑阳;首照宇;张顺岚;: "改进的基于词典的中文分词方法" * |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112150251A (zh) * | 2020-10-09 | 2020-12-29 | 北京明朝万达科技股份有限公司 | 物品名称治理方法和装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108388674B (zh) | 用于推送信息的方法和装置 | |
| US10229111B1 (en) | Sentence compression using recurrent neural networks | |
| CN109543058B (zh) | 用于检测图像的方法、电子设备和计算机可读介质 | |
| CN107241260B (zh) | 基于人工智能的新闻推送的方法和装置 | |
| CN111428010B (zh) | 人机智能问答的方法和装置 | |
| CN108628830B (zh) | 一种语义识别的方法和装置 | |
| CN109740167B (zh) | 用于生成信息的方法和装置 | |
| EP3579119A1 (en) | Method and apparatus for recognizing event information in text | |
| CN109582825B (zh) | 用于生成信息的方法和装置 | |
| CN114861889B (zh) | 深度学习模型的训练方法、目标对象检测方法和装置 | |
| CN109522399B (zh) | 用于生成信息的方法和装置 | |
| CN109190123B (zh) | 用于输出信息的方法和装置 | |
| CN112988753B (zh) | 一种数据搜索方法和装置 | |
| CN111368551A (zh) | 一种确定事件主体的方法和装置 | |
| CN113657113A (zh) | 文本处理方法、装置和电子设备 | |
| CN111723180A (zh) | 一种面试方法和装置 | |
| CN114861059A (zh) | 资源推荐方法、装置、电子设备及存储介质 | |
| CN110738056B (zh) | 用于生成信息的方法和装置 | |
| CN111626052A (zh) | 基于哈希词典的接处警文本物品名称提取方法和装置 | |
| CN113111167A (zh) | 基于深度学习模型的接处警文本车辆型号提取方法和装置 | |
| US20200210522A1 (en) | Method and apparatus for determining a topic | |
| CN110895655A (zh) | 提取文本核心短语的方法和装置 | |
| CN113780827A (zh) | 一种物品筛选方法、装置、电子设备及计算机可读介质 | |
| CN113111897A (zh) | 基于支持向量机的接警警情类别确定方法和装置 | |
| CN111897884A (zh) | 数据关系信息显示方法、终端设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |