CN113221538A - 事件库构建方法和装置、电子设备、计算机可读介质 - Google Patents
事件库构建方法和装置、电子设备、计算机可读介质 Download PDFInfo
- Publication number
- CN113221538A CN113221538A CN202110548521.0A CN202110548521A CN113221538A CN 113221538 A CN113221538 A CN 113221538A CN 202110548521 A CN202110548521 A CN 202110548521A CN 113221538 A CN113221538 A CN 113221538A
- Authority
- CN
- China
- Prior art keywords
- event
- name
- text data
- extracted
- library
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
- G06F40/295—Named entity recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3346—Query execution using probabilistic model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/216—Parsing using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/247—Thesauruses; Synonyms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
Abstract
本公开提供了一种事件库构建方法和装置,涉及深度学习、自然语言处理、大数据等技术领域。具体实现方案为:获取至少一个待归库的事件文本数据;基于事件文本数据,得到抽取事件名;将抽取事件名与预设的文本库中事件信息进行匹配,得到属于文本库的召回事件;基于召回事件,检测抽取事件名是否符合归一化条件;响应于检测到抽取事件名不符合归一化条件,则基于抽取事件名,得到事件库的新的事件名,将事件文本数据作为新的事件添加到文本库中。该实施方式提高了事件库构建过程中信息的完整性。
Description
技术领域
本公开涉及数据处理技术领域,具体涉及深度学习、自然语言处理、大数据等技术领域,尤其涉及一种事件库构建方法和装置、电子设备、计算机可读介质以及计算机程序产品。
背景技术
现有技术中新闻事件的事件名归库方法,一般将新闻标题切分为多个句子,然后判断每个句子是否是事件名,在有子句是事件名时,将该事件名与事件库中已存在进行匹配,若事件库中未匹配到,则将该事件名归为事件库中。该方法可能把原本两个字句组成的事件名切分开,导致原本应该分为事件的新闻被忽略,事件的全面性得不到保障;而拿这些片面的事件名与事件库中事件名进行匹配时,可能只匹配到片面的事件,没办法匹配到有完整的事件名。
发明内容
提供了一种事件库构建方法和装置、电子设备、计算机可读介质以及计算机程序产品。
根据第一方面,提供了一种事件库构建方法,该方法包括:获取至少一个待归库的事件文本数据;基于事件文本数据,得到抽取事件名;将抽取事件名与预设的文本库中事件信息进行匹配,得到属于文本库的召回事件;基于召回事件,检测抽取事件名是否符合归一化条件;响应于检测到抽取事件名不符合归一化条件,则基于抽取事件名,得到事件库的新的事件名,将事件文本数据作为新的事件添加到文本库中。
根据第二方面,提供了一种事件库构建装置,该装置包括:获取单元,被配置成获取至少一个待归库的事件文本数据;抽取单元,被配置成基于事件文本数据,得到抽取事件名;匹配单元,被配置成将抽取事件名与预设的文本库中事件信息进行匹配,得到属于文本库的召回事件;检测单元,被配置成基于召回事件,检测抽取事件名是否符合归一化条件;添加单元,被配置成响应于检测到抽取事件名不符合归一化条件,则基于抽取事件名,得到事件库的新的事件名,将事件文本数据作为新的事件添加到文本库中。
根据第三方面,提供了一种电子设备,该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器,其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面任一实现方式描述的方法。
根据第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行如第一方面任一实现方式描述的方法。
根据第五方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如第一方面任一实现方式描述的方法。
本公开的实施例提供的事件库构建方法和装置,首先,获取至少一个待归库的事件文本数据;其次,基于事件文本数据,得到抽取事件名;再次,将抽取事件名与预设的文本库中事件信息进行匹配,得到属于文本库的召回事件;从次,基于召回事件,检测抽取事件名是否符合归一化条件;最后,响应于检测到抽取事件名不符合归一化条件,则基于抽取事件名,得到事件库的新的事件名,将事件文本数据作为新的事件添加到文本库中。由此,在构建事件库的事件名时,从文本库中得到召回事件,并进行归一化判断,综合考虑抽取的事件名和文本库中信息的对应,提高了事件库构建的全面性和准确性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开事件库构建方法的一个实施例的流程图;
图2是根据本公开事件库构建方法的另一个实施例的流程图;
图3是本公开实施例的得到召回事件的方法的流程图;
图4是本公开实施例的得到抽取事件名的方法的流程图;
图5是根据本公开事件库构建装置的实施例的结构示意图;
图6是用来实现本公开实施例的事件库构建方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1示出了根据本公开事件库构建方法的一个实施例的流程100,上述事件库构建方法包括以下步骤:
步骤101,获取至少一个待归库的事件文本数据。
本实施例中,事件文本数据涉及至少一种事件的文本数据,该事件文本数据可以基于不同的文本内容具有不同的表现形式,例如文本内容包括:传奇故事、事件性新闻等,当事件文本数据为事件新闻时,事件文本数据包括:标题、摘要、导语、主体、背景和结语等。
本实施例中,事件库构建方法运行于其上的执行主体可以通过多种手段获取待归库的事件文本数据,例如,从客户终端实时获取事件文本数据,或者从数据库获取预存的事件文本数据。
步骤102,基于事件文本数据,得到抽取事件名。
本实施例中,抽取事件名可以是通过抽取事件文本数据的核心内容,得到的可以总结整个主体文本数据中信息的短语或句子,通过该抽取事件名可以概括事件文本数据。进一步地,在得到抽取事件名时,可以基于模板对事件文本数据进行事件名抽取,例如,模板为名词—动词—名词。
本实施例中,预先设置有两个库:文本库和事件库,其中,文本库用于存储事件文本数据以及与事件文本数据相关的内容,该与事件文本数据相关的内容包括:事件文本ID、抽取事件名、事件,其中,一个事件文本数据具有一个事件文本ID,一个事件文本数据对应一个抽取事件名,一个或多个事件文本数据对应一个事件,并且该对应的事件在事件库中具有对应的事件名。需要说明的是,文本库是与事件库具有映射关系,文本库是与事件库通过事件联系在一起,其中文本库中的事件对应事件库中的事件名和事件名ID。文本库和事件库均可以采用能够提供检索服务的ES(ElasticSearch简称,ElasticSearch是一款分布式全文检索框架)作为数据存储。
事件库文本库用于存储不同事件以及与不同事件相关的事件内容,该与不同事件相关的事件内容包括:事件ID、抽取事件名、事件ID对应的事件名(具有唯一性),其中,一个事件具有一个事件ID,一个主体ID对应一个事件名,一个事件对应一个或多个抽取事件名。
在本实施例中,文本库是事件的文本粒度,详细记载了各个事件的文本内容。事件库是事件的事件粒度,详细记载了各个事件的事件名以及各个事件名对应的事件文本数据抽取得到抽取事件名。
可选地,文本库和事件库还可以包括:事件实体和时间等要素,事件实体例如包括人物、地点、机构等,将抽取的事件实体补充到文本库中对应的事件当中,并且事件实体可以根据线上服务的需求进行增加。事件实体和时间等要素作为文本库和事件库中事件的相关信息。比如事件的起止时间,事件涉及的事件实体等。这些要素信息对于后面的基于事件库的事件分析可以提供全面的帮助,以使用户更清楚的了解该事件,或在事件检索时作为筛选条件对事件进行筛选检索。
步骤103,将抽取事件名与预设的文本库中事件信息进行匹配,得到属于文本库的召回事件。
本实施例中,预设的文本库为上述提到的文本库,该文本库用于存储多个已归库的事件文本数据,每个归库的事件文本数据对应一个事件文本ID、一个抽取事件名、一个事件。其中事件可以与抽取事件名相同,也可以与抽取事件名不同。
本实施例中,文本库中事件信息是文本库中存储的已归库的多个事件文本数据相关信息,多个事件文本数据相关信息可以包括:各个事件文本数据各自的抽取事件名、各个事件文本数据对应的事件(事件ID、事件ID对应的事件名等)例如该相关信息为已归库的事件文本数据的抽取事件名,将待归库的事件文本数据与文本库中已归库的事件文本数据的抽取事件名进行匹配,如果匹配成功,则与相匹配的抽取事件名对应的已归库的事件文本数据为召回事件。召回事件可以是一个也可以是多个。
步骤104,基于召回事件,检测抽取事件名是否符合归一化条件。
本实施例中,归一化条件是一种测试待归库的事件文本数据的抽取事件名是否与召回事件的抽取事件名可以归为一体的条件,该条件可以是一个指标,或者是一个已训练完成的归一判别模型,当待归库的事件文本数据的抽取事件名与召回事件的抽取事件名符合该指标,确定待归库的事件文本数据的抽取事件名符合归一化条件;或者当待归库的事件文本数据的抽取事件名与召回事件的抽取事件名均输入该归一判别模型,输出为抽取事件名与召回事件的抽取事件名是否可以归为一个事件的置信度,当置信度高于预设的阈值,则确定抽取事件名符合归一化条件。
归一判别模型采用深度学习分类模型,训练样本为<两个事件名组成的事件名对,标签(0,1)>。当置信度高于预设的阈值,则召回事件新闻所属的事件可以作为待归库的事件文本数据的归属事件。
在本实施例的一些可选实现方式中,事件库存储有召回事件的事件名和抽取事件名,上述基于召回事件,检测抽取事件名是否符合归一化条件,包括:从事件库获取召回事件的事件名;将召回事件的事件名与抽取事件名输入归一判别模型,得到抽取事件名属于召回事件的事件名的召回概率;响应于召回概率大于召回阈值,将召回事件的抽取事件名与抽取事件名输入归一判别模型,得到抽取事件名属于召回事件的事件名的归一概率;响应于归一概率大于召回阈值,则确定抽取事件名符合归一化条件。
本可选实现方式中,召回阈值为可配置值,进一步基于配置需求可以对召回阈值进行具体值设置。
本可选实现方式中,通过分别与召回事件的事件名、召回事件的抽取事件名进行的两次归一化判别,提高了待归库的事件文本数据的抽取事件名的归一化条件判断的可靠性。
步骤105,响应于检测到抽取事件名不符合归一化条件,则基于抽取事件名,得到事件库的新的事件名,将事件文本数据作为新的事件添加到文本库中。
本实施例中,在待归库的事件文本数据的抽取事件名不符合归一化条件,确定待归库的事件文本数据的抽取事件名无法归入到已有的事件名,需要在事件库中形成新的事件名,并且将待归库的事件文本数据存储入文本库时,文本库需要形成新的事件文本ID,并且该新的事件文本ID对应该新的事件名。
本公开的实施例提供的事件库构建方法,首先,获取至少一个待归库的事件文本数据;其次,基于事件文本数据,得到抽取事件名;再次,将抽取事件名与预设的文本库中事件信息进行匹配,得到属于文本库的召回事件;从次,基于召回事件,检测抽取事件名是否符合归一化条件;最后,响应于检测到抽取事件名不符合归一化条件,则基于抽取事件名,得到事件库的新的事件名,将事件文本数据作为新的事件添加到文本库中。由此,在构建事件库的事件名时,从文本库中得到召回事件,并进行归一化判断,综合考虑抽取的事件名和文本库中信息的对应,提高了事件库构建的全面性和准确性。
图2示出了根据本公开事件库构建方法的另一个实施例的流程图200,上述事件库构建方法包括以下步骤:
步骤201,获取至少一个待归库的事件文本数据。
步骤202,基于事件文本数据,得到抽取事件名。
步骤203,将抽取事件名与预设的文本库中事件信息进行匹配,得到属于文本库的召回事件。
步骤204,基于召回事件,检测抽取事件名是否符合归一化条件;若检测到抽取事件名不符合归一化条件,执行步骤205;
本实施例的一个可选实现方式中,若检测到抽取事件名符合归一化条件,将抽取事件名归属至事件库中与召回事件对应的事件名之下,将事件文本数据归属至文本库的召回事件之下。
本可选实现方式中,归属到旧事件的事件文本数据保存旧事件的事件ID和该事件ID对应的事件名。
本可选实现方式中,在待归库的事件文本数据的抽取事件名符合归一化条件时,可以确定待归库的事件文本数据的抽取事件名可以归入到已有的事件名,即归入事件库的已有的事件名(召回事件对应的事件名之下),并且将待归库的事件文本数据存储入文本库时,文本库赋予待归库的事件文本数据为召回事件对应的事件文本ID,并且该新的事件文本ID对应召回事件的事件名。
本可选实现方式中,在待归库的事件文本数据的抽取事件名符合归一化条件时,将待归库的事件文本数据的抽取事件名归属至事件库的已有的事件名下,提高了待归库事件文本数据的抽取事件名的归一化效果,保证了事件库分类的有效性。
步骤205,响应于检测到抽取事件名不符合归一化条件,则基于抽取事件名,得到事件库的新的事件名,将事件文本数据作为新的事件添加到文本库中。
应当理解,上述步骤201-步骤205中的操作和特征,分别与步骤101-105中的操作和特征相对应,因此,上述在步骤101-105中对于操作和特征的描述,同样适用于步骤201-步骤205,在此不再赘述。
本实施例中,待归库的事件文本数据可以是一个或多个,每个待归库的主体文本数据对应一个抽取事件名,当待归库的事件文本数据为一个时,待归库的事件文本数据的抽取事件名可以为得到的事件库的新的事件名。当待归库的事件文本数据是多个时,可以对多个待归库的事件文本数据的抽取事件名进行归一化处理,最后得到对应多个待归库的事件文本数据的最合适的新的事件名。
在本实施例的一些可选实现方式中,在事件文本数据为多个时,每个事件文本数据对应一个抽取事件名,基于抽取事件名,得到事件库的新的事件名包括:计算多个事件文本数据中任意两个事件文本数据对应的抽取事件名之间的相似度;针对相似度大于相似度阈值的两个事件文本数据,计算该两个事件文本数据对应的抽取事件名的归一概率;响应于该两个事件文本数据对应的抽取事件名的归一概率大于归一阈值,则将该两个事件文本数据对应的抽取事件名合并在一起,得到事件簇;基于所有的事件簇,得到事件库的新的事件名。
本可选实现方式中,可以采用欧式距离公式计算多个事件文本数据中任意两个事件文本数据对应的抽取事件名之间的相似度,相似度阈值可以根据不同事件文本数据设置不同值,比如,相似度阈值为95%。
实例如下:a,b,c是三种不同事件文本数据,根据两个事件文本数据对应的抽取事件名之间的归一概率进行由大到小排序的,如果排序后的结果是ac,bd,ab。首先如果a,c可以归到一起,则a和c形成一个事件簇ac,bd如果可以归到一起,则b和d形成一个事件簇bd,接着再处理ab时,此时a和b已经分别属于不同的簇了。如果通过判断两个事件文本数据a,b可以归属到一起,而两个事件文本数据a,b此前已经归属于不同的簇ac,bd,此时判断a,b所属的两个簇中所有新闻两两之间是否都可以归到一起,如果是,则合并ac,bd两个簇,反之,则判断a,b不能归属到一起。
本可选实现方式中,基于所有的事件簇,得到的事件库的新的事件名可以是事件簇中所有事件文本数据对应的抽取事件名中的一个抽取事件名,或者选取最早的事件文本数据对应的事件名作为整个事件簇的事件名或者选取出现次数最多的事件名作为整个事件簇的事件名。
需要说明的是,在事件库中,得到事件库的新的事件名之后,也相应生成新的事件ID。
本可选实现方式中,在多个待归库的事件文本数据不符合归一化条件时,基于多个待归库的事件文本数据的抽取事件名,对多个待归库的事件文本数据进行相似性和归一性判断,保证了多个待归库的事件文本数据归入到事件库的集成化的效果。
步骤206,抽取事件文本数据中的实体,得到事件实体。
本实施例中,事件实体可以包括:人物、地点、机构等,通过LAC(Lexical Analysisof Chinese,联合词法分析模型)可以抽取事件文本数据中的实体,得到事件实体,LAC可以整体性地完成中文分词、词性标注、专名识别任务。
本实施例中,在得到事件实体之后,可以分别将事件实体存储入事件库的与各个事件实体对应的事件ID下,从而在检索各个事件时,通过事件实体可以有效检索事件库的内容。
可选地,在得到事件实体之后,可以分别将事件实体存储入文本库的与各个事件文本数据对应的事件文本ID下,从而在检索各个事件文本时,通过事件实体可以有效检索文本库的内容。
步骤207,接收文本检索请求。
本实施例中,文本检索请求是一种检索文本库中数据的请求,该文本检索请求可以包括;检索关键词、检索范围等内容,通过检索关键词可以查询文本库中与检索关键词相同或相关的内容,通过检索范围可以为查找的内容确定查找的区域。
步骤208,基于文本检索请求和事件实体,对文本库中的事件进行检索,得到检索结果。
本实施例中,上述基于文本检索请求和事件实体,对文本库中的事件进行检索,得到检索结果,可以包括:
基于事件实体和文本检索请求,对文本库中的事件进行排序,显示排序后的事件;或/和基于事件实体和文本检索请求,筛选文本库中的事件,显示筛选后的事件。
本实施例中,检索请求可以包括检索关键词和检索范围,通过检索关键词可以从事件实体中选取与关键词相同或相关的词,并在检索范围内进行检索。例如,事件实体包括:XXX人,关键词为“时间范围内的人物”,检索范围是:2020年5月至2020年7月,则检索结果为:2020年5月至2020年7月之间与“XXX人”相关的事件。再如,事件实体包括:鞋子,关键词为“鞋子”,检索范围默认为整个文本库,则显示整个文本库中与“鞋子”相关的事件。
可选地,本实施例提供方法还可以包括:接收事件检索请求,基于事件实体和事件检索请求,对事件库中的事件进行检索,得到对事件的检索结果。
本实施例提供的事件库构建方法,抽取事件文本数据中实体,得到事件实体,在接收到检索请求时,基于事件实体和检索请求,对文本库中的事件进行检索,提高了检索的可靠性和效率。
本实施例中,可以为文本库中的事件信息的不同字段设置不同权重值,通过各个字段的权重值,得到文本库中各个事件与抽取事件名的匹配分值,将抽取事件名与预设的文本库中事件信息进行匹配,得到属于文本库的召回事件,包括:将抽取事件名与文本库中各个事件的事件字段进行匹配,响应于抽取事件名与文本库中至少一个的事件字段相匹配;基于相匹配的事件的字段的权重值,确定与抽取事件名相匹配的事件的匹配分值;基于匹配分值,对所有事件进行由高至底的排序,得到事件序列;分别获取抽取事件的语义向量、事件序列中各个事件的语义向量;选取事件序列中与抽取事件的语义向量相似度大于相似度阈值的事件作为召回事件。
图3示出了本公开实施例的得到召回事件的方法的流程图300,上述得到召回事件的方法包括以下步骤:
步骤301,将抽取事件名与文本库中各个事件的事件字段进行匹配。
本实施例中,文本库包括多个事件文本数据,每个事件文本数据对应一个事件,每个事件文本数据还包括多个事件字段,预先为文本库中各个事件的事件字段设置权重值,事件字段基于事件文本数据的形式不同具有不同划分方法,事件字段可以是事件文本数据中的一部分内容,例如,事件文本数据包括:标题、摘要等,则标题为文本库中的各个事件的一个事件字段,摘要也为各个事件的一个事件字段。可选地,事件文本数据对应的抽取事件名、事件文本数据的事件ID对应的事件名也均可以作为一个字段。在一个示例中,事件文本数据的抽取事件名和事件ID对应的事件名的权重设置为2,事件文本数据的标题的权重设置为1。
本实施例中,待归库的事件文本数据的抽取事件名与文本库中各个事件的事件字段进行匹配是指:将待归库的事件文本数据的抽取事件名与各个事件字段进行比较,如果相同,则确定两者匹配;否则,两者相匹配。
步骤302,响应于抽取事件名与文本库中至少一个的事件字段相匹配,基于相匹配的事件的字段的权重值,确定与抽取事件名相匹配的事件的匹配分值。
本实施例中,各个字段的权重不同,各个字段的权重可由是人工配置,也可自动设置,不同的权重用于区分各个字段的重要度,例如,如果待归库新闻的事件名与文本库中的某个事件新闻文本A的抽取事件名匹配,同时也与文本库中的某个事件新闻文本B的标题相匹配,而设置的抽取事件名字段的权重比标题的字段权重大(旨在说明抽取事件名比标题更重要),这时,事件新闻文本A的匹配得分会比事件新闻文本B的得分高。
步骤303,基于匹配分值,对所有事件进行由高至底的排序,得到事件序列。
本实施例中,文本库的一个事件与待归库的事件文本数据相匹配时具有一个匹配分值,即一个事件对应一个匹配分值,该匹配分值可以是通过该事件的各个字段对应的权重值相加得到,并且匹配分值的高低确定了事件序列中各个事件位置,也表现了各个事件的重要程度。
步骤304,分别获取抽取事件名的语义向量、事件序列中各个事件的语义向量。
本实施例中,可以通过语义模型得到抽取事件名的语义向量和事件序列中各个事件的字段的语义向量。可选地,得到各个事件的字段的语义向量,将各个事件的字段的语义向量相加求和再求平均得到事件的语义向量。
步骤305,选取事件序列中与抽取事件名的语义向量相似度大于相似度阈值的事件作为召回事件。
本实施例中,获取待归库的抽取事件名和对应召回事件的各个事件的语义向量,将获取待归库的抽取事件名的语义向量与召回事件的语义向量的余弦距离作为二者的语义向量的相似度,若语义向量的相似度低于相似度阈值,表示两者相似度很低可以过滤该召回事件;否则,表示两者相似度较高保留该召回事件。根据语义相似度进行过滤的目的是减小归一判别的计算压力,并且多个召回事件的召回过程可以并行执行。
本实施例提供的得到召回事件的方法,将文本库中各个事件划分为多个具有不同权重值的字段,通过抽取事件名与各个字段的匹配,确定事件序列,在召回时,根据抽取事件名、文本库中事件各个字段的权重值、事件的语义向量综合考虑召回事件,提高了得到的召回事件的准确率和精确率。
图4示出了本公开实施例的得到抽取事件名的方法的流程图400,上述得到抽取事件名的方法包括以下步骤:
步骤401,将事件文本数据对应的句子切分为多个子句。
本实施例中,事件文本数据对应的句子可以是事件文本数据中的标题或摘要等,根据事件文本数据对应的句子中的标点符号,可以将事件文本数据对应的句子切分为多个子句。
步骤402,对多个子句进行判别,得到各个子句属于事件名的事件概率。
本实施例中,将事件文本数据对应的句子划分为多个子句之后,获得每个子句是否为事件名的概率,该子句是否为事件名的概率即为上述的事件概率。而获取子句是否为事件名的事件概率可以将子句输入已训练完成的事件名模型。
事件名模型可以采用深度学习分类模型,事件名模型的训练过程如下:获得每个子句是否为事件名的标签,如<子句,标签>,作为事件名模型的训练样本,向事件名模型输入事件文本数据的至少一个子句,得到各个子句属于事件名的事件概率。
步骤403,基于事件概率,对多个子句进行处理,得到抽取事件名。
本实施例中,可以基于事件概率的大小,将与事件名最接近的子句作为抽取事件名。
在本实施例的一些可选实现方式中,上述基于事件概率,对多个子句进行处理,得到抽取事件名,包括:响应于多个子句中具有事件概率大于事件名阈值的子句,将所有事件概率大于事件名阈值的子句进行拼接,得到抽取事件名。
本可选实现方式中,事件名阈值为可配置值,进一步基于配置需求可以对事件名阈值进行具体值设置。
本可选实现方式中,事件概率为子句属于主体名的置信度,将所有置信度大于事件名阈值的子句拼起来可以避免将属于同一个事件的多个子句切分开来,保证事件的完整性。
在本实施例的一些可选实现方式中,上述基于事件概率,对多个子句进行处理,得到抽取事件名,包括:响应于多个子句中没有事件概率大于事件名阈值的子句,获取事件文本数据中的标题,并将标题作为抽取事件名。
本可选实现方式中,一般一个标题只包含一个事件,在事件文本数据的所有子句属于一个事件名的置信度不高时,事件可以表示事件名,提供了抽取事件名抽取的可靠性。
可选地,将事件概率大于事件名阈值的子句通过空格拼接作为该事件新闻的事件名,若没有大于事件名阈值的子句,可以将事件概率最高的子句作为事件名。
本可选实现方式提供的得到抽取事件名的方法,对事件概率的子句进行处理,实现了最可能属于事件名的子句的组合,提高了得到的抽取事件名的准确性。
在本实施的一些可选实现方式中,事件文本数据为事件新闻文本数据;文本库用于存储事件新闻,事件库用于存储事件的事件名、事件新闻涉及的事件的相关信息。
本可选实现方式中,事件新闻文本数据是指以某个独立的新闻事件为核心而展开的新闻报道,其事物变动的时态是突发性或跃进性的,是在某个时间、某个地点发生的,涉及一个或多个参与者的特定故事发生。非事件新闻文本数据是指与事件新闻文本数据相区别的新闻报道,即对一段时间或若干空间进而发生的情况、经验或问题等概貌性或阶段性的反映,其时态往往是渐进性的。例如,“XXX公司将发行价值81.75亿港元的新股份”是一个事件新闻文本数据。事件新闻文本数据对舆论的影响更大。事件分析作为舆情分析中的一个分析模块,提供事件检索、专题分析等服务,而这些服务均基于事件库实现,因此,事件库为事件新闻分析提供了基础数据支撑。
在本实施例的一些可选实现方式中,事件新闻文本数据通过如下步骤得到:从新闻资讯流中获取新闻文本数据;提取新闻文本数据中的标题;将标题输入预先训练完成的事件判别模型,得到标题属于事件的标题概率;响应于确定标题概率大于预设的事件阈值,则确定新闻文本数据为事件新闻文本数据。
本可选实现方式中,新闻文本数据来自实时新闻资讯流,实时新闻资讯流可以由执行主体实时获取至少一个数据源的新闻得到。从至少一个数据源的新闻可以是一批新闻文本数据,每次处理一批新闻文本数据是为了提高计算效率,将新闻文本数据输入到预先训练好的事件判别模型,输出新闻文本数据的标题属于事件的标题概率。其中,事件判别模型可以采用深度学习分类模型,事件判别模型的训练样本为一批新闻标题以及对应是否为事件的标签。
本可选实现方式中,预设的事件阈值为可配置值,进一步基于配置需求可以对事件名阈值进行具体值设置。
本可选实现方式中,通过事件判别模型判别新闻文本数据的标题,得到标题属于事件的标题概率,由此可以简单方便地得到事件新闻文本数据。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了事件库构建装置的一个实施例,该装置实施例与图1所示的方法实施例相对应,该装置具体可应用于各种电子设备中。
如图5所示,本实施例提供的事件库构建装置500包括:获取单元501,抽取单元502,匹配单元503,检测单元504,添加单元505。其中,上述获取单元501,可以被配置成获取至少一个待归库的事件文本数据。上述抽取单元502,可以被配置成基于事件文本数据,得到抽取事件名。上述匹配单元503,可以被配置成将抽取事件名与预设的文本库中事件信息进行匹配,得到属于文本库的召回事件。上述检测单元504,可以被配置成基于召回事件,检测抽取事件名是否符合归一化条件。上述添加单元505,可以被配置成响应于检测到抽取事件名不符合归一化条件,则基于抽取事件名,得到事件库的新的事件名,将事件文本数据作为新的事件添加到文本库中。
在本实施例中,事件库构建装置500中:获取单元501,抽取单元502,匹配单元503,检测单元504,添加单元505的具体处理及其所带来的技术效果可分别参考图1对应实施例中的步骤101、步骤102、步骤103的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,上述事件库构建装置500还包括:归一单元(图中未示出)。其中,上述归一单元被配置成响应于检测到抽取事件名符合归一化条件,则将抽取事件名归属至事件库中与召回事件对应的事件名之下,将事件文本数据归属至文本库的召回事件之下。
在本实施例的一些可选的实现方式中,在事件文本数据为多个时,每个事件文本数据对应一个抽取事件名,上述添加单元505包括:计算模块(图中未示出),归一模块(图中未示出),合并模块(图中未示出),得到模块(图中未示出)。其中,上述计算模块,被配置成计算多个事件文本数据中任意两个事件文本数据对应的抽取事件名之间的相似度。上述归一模块,被配置成针对相似度大于相似度阈值的两个事件文本数据,计算该两个事件文本数据对应的事件名的归一概率。上述合并模块,可以被配置成响应于该两个事件文本数据对应的事件名的归一概率大于归一阈值,则将该两个事件文本数据对应的事件名合并在一起,得到事件簇。上述得到模块,被配置成基于所有的事件簇,得到事件库的新的事件名。
在本实施例的一些可选的实现方式中,事件信息包括:多个具有不同权重值的字段;匹配单元503包括:匹配模块(图中未示出)、确定模块(图中未示出)、排序模块(图中未示出)、获取模块(图中未示出)、选取模块(图中未示出)。其中,上述匹配模块,被配置成将抽取事件名与文本库中各个事件的事件字段进行匹配。上述确定模块,被配置成响应于抽取事件名与文本库中至少一个的事件字段相匹配,基于相匹配的事件的字段的权重值,确定与抽取事件名相匹配的事件的匹配分值。上述排序模块,被配置成基于匹配分值,对所有事件进行由高至底的排序,得到事件序列。上述获取模块,被配置成分别获取抽取事件名的语义向量、事件序列中各个事件的语义向量。上述选取模块,被配置成选取事件序列中与抽取事件名的语义向量相似度大于相似度阈值的事件作为召回事件。
在本实施例的一些可选的实现方式中,上述事件库构建装置500还包括:筛选单元(图中未示出)、接收单元(图中未示出)、检索单元(图中未示出)。其中,上述筛选单元,被配置成抽取事件文本数据中的实体,得到事件实体。上述接收单元,被配置成接收文本检索请求。上述检索单元,被配置成基于事件实体和文本检索请求,对文本库中的事件进行检索,得到检索结果。
在本实施例的一些可选实现方式中,抽取单元502包括:切分模块(图中未示出)、判别模块(图中未示出)、处理模块(图中未示出)。其中,上述切分模块,被配置成将事件文本数据对应的句子切分为多个子句。上述判别模块,被配置成对多个子句进行判别,得到各个子句属于事件名的事件概率。上述处理模块,被配置成基于事件概率,对多个子句进行处理,得到抽取事件名。
在本实施例的一些可选实现方式中,上述处理模块包括:拼接子模块(图中未示出)。上述拼接子模块,被配置成响应于多个子句中具有事件概率大于事件名阈值的子句,将所有事件概率大于事件名阈值的子句进行拼接,得到抽取事件名。
在本实施例的一些可选实现方式中,上述处理模块包括:获取子模块(图中未示出)。上述获取子模块,被配置成响应于多个子句中没有事件概率大于事件名阈值的子句,获取事件文本数据中的标题,并将标题作为抽取事件名。
在本实施例的一些可选实现方式中,事件库存储有召回事件的事件名和抽取事件名;上述检测单元504包括:定名模块(图中未示出)、召回模块(图中未示出)、抽取模块(图中未示出)、符合模块(图中未示出)。其中,上述定名模块,被配置成从事件库获取召回事件的事件名。上述召回模块,被配置成将召回事件的事件名与抽取事件名输入归一判别模型,得到抽取事件名属于召回事件的事件名的召回概率。上述抽取模块,被配置成响应于召回概率大于召回阈值,将召回事件的抽取事件名与抽取事件名输入归一判别模型,得到抽取事件名属于召回事件的事件名的归一概率。上述符合模块,被配置成响应于归一概率大于召回阈值,则确定抽取事件名符合归一化条件。
在本实施例的一些可选实现方式中,事件文本数据为事件新闻文本数据;文本库用于存储事件新闻,事件库用于存储事件的事件名、事件新闻涉及的事件的相关信息。
在本实施例的一些可选实现方式中,事件新闻文本数据通过如下单元得到:资讯单元(图中未示出)、提取单元(图中未示出)、判别单元(图中未示出)、确定单元(图中未示出)。其中,上述资讯单元,被配置成从新闻资讯流中获取新闻文本数据。上述提取单元,被配置成提取新闻文本数据中的标题。上述判别单元,被配置成将标题输入预先训练完成的事件判别模型,得到标题属于事件的标题概率。上述确定单元,被配置成响应于确定标题概率大于预设的事件阈值,则确定新闻文本数据为事件新闻文本数据。
本公开的实施例提供的事件库构建装置,首先,获取单元501获取至少一个待归库的事件文本数据;其次,抽取单元502基于事件文本数据,得到抽取事件名;再次,匹配单元503将抽取事件名与预设的文本库中事件信息进行匹配,得到属于文本库的召回事件;从次,检测单元504基于召回事件,检测抽取事件名是否符合归一化条件;最后,添加单元505响应于检测到抽取事件名不符合归一化条件,则基于抽取事件名,得到事件库的新的事件名,将事件文本数据作为新的事件添加到文本库中。由此,在构建事件库的事件名时,从文本库中得到召回事件,并进行归一化判断,综合考虑抽取的事件名和文本库中信息的对应,提高了事件库构建的全面性和准确性。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,设备600包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM603中,还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
设备600中的多个部件连接至I/O接口605,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储单元608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理,例如事件库构建方法。例如,在一些实施例中,事件库构建方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时,可以执行上文描述的事件库构建方法的一个或多个步骤。备选地,在其他实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行事件库构建方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程事件库构建装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (25)
1.一种事件库构建方法,所述方法包括:
获取至少一个待归库的事件文本数据;
基于所述事件文本数据,得到抽取事件名;
将所述抽取事件名与预设的文本库中事件信息进行匹配,得到属于所述文本库的召回事件;
基于所述召回事件,检测所述抽取事件名是否符合归一化条件;
响应于检测到所述抽取事件名不符合归一化条件,则基于所述抽取事件名,得到事件库的新的事件名,将所述事件文本数据作为新的事件添加到所述文本库中。
2.根据权利要求1所述的方法,所述方法还包括:
响应于检测到所述抽取事件名符合归一化条件,则将所述抽取事件名归属至所述事件库中与所述召回事件对应的事件名之下,将所述事件文本数据归属至所述文本库的所述召回事件之下。
3.根据权利要求1所述的方法,其中,在所述事件文本数据为多个时,每个事件文本数据对应一个抽取事件名,所述基于所述抽取事件名,得到事件库的新的事件名包括:
计算多个事件文本数据中任意两个事件文本数据对应的抽取事件名之间的相似度;
针对相似度大于相似度阈值的两个事件文本数据,计算该两个事件文本数据对应的抽取事件名的归一概率;
响应于该两个事件文本数据对应的抽取事件名的归一概率大于归一阈值,则将该两个事件文本数据对应的抽取事件名合并在一起,得到事件簇;
基于所有的事件簇,得到所述事件库的新的事件名。
4.根据权利要求1所述的方法,其中,所述事件信息包括:多个具有不同权重值的字段;所述将所述抽取事件名与预设的文本库中事件信息进行匹配,得到属于所述文本库的召回事件,包括:
将所述抽取事件名与文本库中各个事件的事件字段进行匹配;
响应于所述抽取事件名与所述文本库中至少一个的事件字段相匹配,基于相匹配的事件的字段的权重值,确定与所述抽取事件名相匹配的事件的匹配分值;
基于所述匹配分值,对所有事件进行由高至底的排序,得到事件序列;
分别获取所述抽取事件名的语义向量、所述事件序列中各个事件的语义向量;
选取所述事件序列中与所述抽取事件名的语义向量相似度大于相似度阈值的事件作为召回事件。
5.根据权利要求1-4之一所述的方法,所述方法还包括:
抽取所述事件文本数据中的实体,得到事件实体;
接收文本检索请求;
基于所述事件实体和所述文本检索请求,对所述文本库中的事件进行检索,得到检索结果。
6.根据权利要求5所述的方法,其中,所述基于所述事件文本数据,得到抽取事件名,包括:
将所述事件文本数据对应的句子切分为多个子句;
对所述多个子句进行判别,得到各个子句属于事件名的事件概率;
基于所述事件概率,对所述多个子句进行处理,得到抽取事件名。
7.根据权利要求6所述的方法,其中,所述基于所述事件概率,对所述多个子句进行处理,得到抽取事件名,包括:
响应于所述多个子句中具有所述事件概率大于事件名阈值的子句,将所有事件概率大于事件名阈值的子句进行拼接,得到抽取事件名。
8.根据权利要求6所述的方法,其中,所述基于所述事件概率,对所述多个子句进行处理,得到抽取事件名,包括:
响应于所述多个子句中没有所述事件概率大于事件名阈值的子句,获取所述事件文本数据中的标题,并将所述标题作为抽取事件名。
9.根据权利要求6所述的方法,其中,所述事件库存储有所述召回事件的事件名和抽取事件名;
所述基于所述召回事件,检测所述抽取事件名是否符合归一化条件,包括:
从所述事件库获取所述召回事件的事件名;
将所述召回事件的事件名与所述抽取事件名输入归一判别模型,得到所述抽取事件名属于所述召回事件的事件名的召回概率;
响应于所述召回概率大于召回阈值,将所述召回事件的抽取事件名与所述抽取事件名输入所述归一判别模型,得到所述抽取事件名属于所述召回事件的事件名的归一概率;
响应于所述归一概率大于所述召回阈值,则确定所述抽取事件名符合归一化条件。
10.根据权利要求1所述的方法,其中,所述事件文本数据为事件新闻文本数据;所述文本库用于存储事件新闻,所述事件库用于存储事件的事件名、所述事件新闻涉及的事件的相关信息。
11.根据权利要求10所述的方法,其中,所述事件新闻文本数据通过如下步骤得到:
从新闻资讯流中获取新闻文本数据;
提取所述新闻文本数据中的标题;
将所述标题输入预先训练完成的事件判别模型,得到所述标题属于事件的标题概率;
响应于确定所述标题概率大于预设的事件阈值,则确定所述新闻文本数据为事件新闻文本数据。
12.一种事件库构建装置,所述装置包括:
获取单元,被配置成获取至少一个待归库的事件文本数据;
抽取单元,被配置成基于所述事件文本数据,得到抽取事件名;
匹配单元,被配置成将所述抽取事件名与预设的文本库中事件信息进行匹配,得到属于所述文本库的召回事件;
检测单元,被配置成基于所述召回事件,检测所述抽取事件名是否符合归一化条件;
添加单元,被配置成响应于检测到所述抽取事件名不符合归一化条件,则基于所述抽取事件名,得到所述事件库的新的事件名,将所述事件文本数据作为新的事件添加到所述文本库中。
13.根据权利要求12所述的装置,所述装置还包括:
归一单元,被配置成响应于检测到抽取事件名符合归一化条件,则将抽取事件名归属至事件库中与召回事件对应的事件名之下,将事件文本数据归属至文本库的召回事件之下。
14.根据权利要求12所述的装置,其中,在所述事件文本数据为多个时,每个事件文本数据对应一个抽取事件名,所述添加单元包括:
计算模块,被配置成计算多个事件文本数据中任意两个事件文本数据对应的抽取事件名之间的相似度;
归一模块,被配置成针对相似度大于相似度阈值的两个事件文本数据,计算该两个事件文本数据对应的抽取事件名的归一概率;
合并模块,被配置成响应于该两个事件文本数据对应的抽取事件名的归一概率大于归一阈值,则将该两个事件文本数据对应的抽取事件名合并在一起,得到事件簇;
得到模块,被配置成基于所有的事件簇,得到所述事件库的新的事件名。
15.根据权利要求12所述的装置,其中,所述事件信息包括:多个具有不同权重值的字段;所述匹配单元包括:
匹配模块,被配置成将所述抽取事件名与文本库中各个事件的事件字段进行匹配;
确定模块,被配置成响应于所述抽取事件名与所述文本库中至少一个的事件字段相匹配,基于相匹配的事件的字段的权重值,确定与所述抽取事件名相匹配的事件的匹配分值;
排序模块,被配置成基于所述匹配分值,对所有事件进行由高至底的排序,得到事件序列;
获取模块,被配置成分别获取所述抽取事件名的语义向量、所述事件序列中各个事件的语义向量;
选取模块,被配置成选取所述事件序列中与所述抽取事件名的语义向量相似度大于相似度阈值的事件作为召回事件。
16.根据权利要求12-15之一所述的装置,所述装置还包括:
筛选单元,被配置成抽取所述事件文本数据中的实体,得到事件实体;
接收单元,被配置成接收文本检索请求;
检索单元,被配置成基于所述事件实体和所述文本检索请求,对所述文本库中的事件进行检索,得到检索结果。
17.根据权利要求16所述的装置,其中,所述抽取单元包括:
切分模块,被配置成将所述事件文本数据对应的句子切分为多个子句;
判别模块,被配置成对所述多个子句进行判别,得到各个子句属于事件名的事件概率;
处理模块,被配置成基于所述事件概率,对所述多个子句进行处理,得到抽取事件名。
18.根据权利要求17所述的装置,其中,所述处理模块包括:
拼接子模块,被配置成响应于多个子句中具有事件概率大于事件名阈值的子句,将所有事件概率大于事件名阈值的子句进行拼接,得到抽取事件名。
19.根据权利要求17所述的装置,其中,所述处理模块包括:
获取子模块,被配置成响应于多个子句中没有事件概率大于事件名阈值的子句,获取事件文本数据中的标题,并将标题作为抽取事件名。
20.根据权利要求17所述的装置,其中,所述事件库存储有所述召回事件的事件名和抽取事件名;所述检测单元包括:
定名模块,被配置成从所述事件库获取所述召回事件的事件名;
召回模块,被配置成将所述召回事件的事件名与所述抽取事件名输入归一判别模型,得到所述抽取事件名属于所述召回事件的事件名的召回概率;
抽取模块,被配置成响应于所述召回概率大于召回阈值,将所述召回事件的抽取事件名与所述抽取事件名输入所述归一判别模型,得到所述抽取事件名属于所述召回事件的事件名的归一概率;
符合模块,被配置成响应于所述归一概率大于所述召回阈值,则确定所述抽取事件名符合归一化条件。
21.根据权利要求12所述的装置,其中,所述事件文本数据为事件新闻文本数据;所述文本库用于存储事件新闻,所述事件库用于存储事件的事件名、所述事件新闻涉及的事件的相关信息。
22.根据权利要求21所述的装置,其中,所述事件新闻文本数据通过如下单元得到:
资讯单元,被配置成从新闻资讯流中获取新闻文本数据;
提取单元,被配置成提取所述新闻文本数据中的标题;
判别单元,被配置成将所述标题输入预先训练完成的事件判别模型,得到所述标题属于事件的标题概率;
确定单元,被配置成响应于确定所述标题概率大于预设的事件阈值,则确定所述新闻文本数据为事件新闻文本数据。
23.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-11中任一项所述的方法。
24.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-11中任一项所述的方法。
25.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现权利要求1-11中任一项所述的方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110548521.0A CN113221538B (zh) | 2021-05-19 | 2021-05-19 | 事件库构建方法和装置、电子设备、计算机可读介质 |
US17/573,511 US20220129634A1 (en) | 2021-05-19 | 2022-01-11 | Method and apparatus for constructing event library, electronic device and computer readable medium |
EP22151765.9A EP4092564A1 (en) | 2021-05-19 | 2022-01-17 | Method and apparatus for constructing event library, electronic device and computer readable medium |
KR1020220014482A KR20220024251A (ko) | 2021-05-19 | 2022-02-03 | 이벤트 라이브러리를 구축하는 방법 및 장치, 전자 기기, 및 컴퓨터 판독가능 매체 |
JP2022016062A JP2022095608A (ja) | 2021-05-19 | 2022-02-04 | イベントライブラリ構築方法及び装置、電子機器、コンピュータ可読記憶媒体並びにコンピュータプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110548521.0A CN113221538B (zh) | 2021-05-19 | 2021-05-19 | 事件库构建方法和装置、电子设备、计算机可读介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113221538A true CN113221538A (zh) | 2021-08-06 |
CN113221538B CN113221538B (zh) | 2023-09-19 |
Family
ID=77093313
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110548521.0A Active CN113221538B (zh) | 2021-05-19 | 2021-05-19 | 事件库构建方法和装置、电子设备、计算机可读介质 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20220129634A1 (zh) |
EP (1) | EP4092564A1 (zh) |
JP (1) | JP2022095608A (zh) |
KR (1) | KR20220024251A (zh) |
CN (1) | CN113221538B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116028631B (zh) * | 2023-03-30 | 2023-07-14 | 粤港澳大湾区数字经济研究院(福田) | 一种多事件检测方法及相关设备 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103345489A (zh) * | 2013-06-25 | 2013-10-09 | 百度在线网络技术(北京)有限公司 | 一种事件查询请求处理方法及装置 |
US20160004764A1 (en) * | 2014-07-03 | 2016-01-07 | Palantir Technologies Inc. | System and method for news events detection and visualization |
CN109033200A (zh) * | 2018-06-29 | 2018-12-18 | 北京百度网讯科技有限公司 | 事件抽取的方法、装置、设备及计算机可读介质 |
CN110309251A (zh) * | 2018-03-12 | 2019-10-08 | 北京京东尚科信息技术有限公司 | 文本数据的处理方法、装置和计算机可读存储介质 |
CN111460288A (zh) * | 2020-03-27 | 2020-07-28 | 北京百度网讯科技有限公司 | 用于检测新闻事件的方法和装置 |
CN112100374A (zh) * | 2020-08-28 | 2020-12-18 | 清华大学 | 文本聚类方法、装置、电子设备及存储介质 |
CN112148843A (zh) * | 2020-11-25 | 2020-12-29 | 中电科新型智慧城市研究院有限公司 | 文本处理方法、装置、终端设备和存储介质 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009075757A (ja) * | 2007-09-19 | 2009-04-09 | Kureo:Kk | 情報処理装置、およびプログラム |
US20110184983A1 (en) * | 2010-01-28 | 2011-07-28 | Her Majesty The Queen In Right Of Canada As Represented By The Minister | Method and system for extracting and characterizing relationships between entities mentioned in documents |
US9245022B2 (en) * | 2010-12-30 | 2016-01-26 | Google Inc. | Context-based person search |
US9116995B2 (en) * | 2011-03-30 | 2015-08-25 | Vcvc Iii Llc | Cluster-based identification of news stories |
US20150294220A1 (en) * | 2014-04-11 | 2015-10-15 | Khalid Ragaei Oreif | Structuring data around a topical matter and a.i./n.l.p./ machine learning knowledge system that enhances source content by identifying content topics and keywords and integrating associated/related contents |
US10109023B2 (en) * | 2015-05-08 | 2018-10-23 | Thomson Reuters Global Resources Unlimited Company | Social media events detection and verification |
US11663254B2 (en) * | 2016-01-29 | 2023-05-30 | Thomson Reuters Enterprise Centre Gmbh | System and engine for seeded clustering of news events |
JP2017211687A (ja) * | 2016-05-23 | 2017-11-30 | 株式会社Nttドコモ | 関連文書抽出装置 |
US11640420B2 (en) * | 2017-12-31 | 2023-05-02 | Zignal Labs, Inc. | System and method for automatic summarization of content with event based analysis |
CN110633330B (zh) * | 2018-06-01 | 2022-02-22 | 北京百度网讯科技有限公司 | 事件发现方法、装置、设备及存储介质 |
US10860860B1 (en) * | 2019-01-03 | 2020-12-08 | Amazon Technologies, Inc. | Matching videos to titles using artificial intelligence |
WO2021076862A1 (en) * | 2019-10-18 | 2021-04-22 | Ul Llc | Technologies for dynamically creating representations for regulations |
-
2021
- 2021-05-19 CN CN202110548521.0A patent/CN113221538B/zh active Active
-
2022
- 2022-01-11 US US17/573,511 patent/US20220129634A1/en active Pending
- 2022-01-17 EP EP22151765.9A patent/EP4092564A1/en not_active Withdrawn
- 2022-02-03 KR KR1020220014482A patent/KR20220024251A/ko unknown
- 2022-02-04 JP JP2022016062A patent/JP2022095608A/ja active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103345489A (zh) * | 2013-06-25 | 2013-10-09 | 百度在线网络技术(北京)有限公司 | 一种事件查询请求处理方法及装置 |
US20160004764A1 (en) * | 2014-07-03 | 2016-01-07 | Palantir Technologies Inc. | System and method for news events detection and visualization |
CN110309251A (zh) * | 2018-03-12 | 2019-10-08 | 北京京东尚科信息技术有限公司 | 文本数据的处理方法、装置和计算机可读存储介质 |
CN109033200A (zh) * | 2018-06-29 | 2018-12-18 | 北京百度网讯科技有限公司 | 事件抽取的方法、装置、设备及计算机可读介质 |
CN111460288A (zh) * | 2020-03-27 | 2020-07-28 | 北京百度网讯科技有限公司 | 用于检测新闻事件的方法和装置 |
CN112100374A (zh) * | 2020-08-28 | 2020-12-18 | 清华大学 | 文本聚类方法、装置、电子设备及存储介质 |
CN112148843A (zh) * | 2020-11-25 | 2020-12-29 | 中电科新型智慧城市研究院有限公司 | 文本处理方法、装置、终端设备和存储介质 |
Non-Patent Citations (3)
Title |
---|
唐亮;席耀一;赵晓峰;易绵竹;: "基于特征相似度的跨语言事件映射", 计算机应用, no. 2 * |
沙勇忠;史忠贤;: "基于语义相似度的公共危机事件案例检索方法", 情报资料工作, no. 06 * |
王崇国;: "以事件为特征的文本聚类方法", 计算机应用与软件, no. 08 * |
Also Published As
Publication number | Publication date |
---|---|
CN113221538B (zh) | 2023-09-19 |
US20220129634A1 (en) | 2022-04-28 |
JP2022095608A (ja) | 2022-06-28 |
KR20220024251A (ko) | 2022-03-03 |
EP4092564A1 (en) | 2022-11-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109189942B (zh) | 一种专利数据知识图谱的构建方法及装置 | |
CN113660541B (zh) | 新闻视频的摘要生成方法及装置 | |
CN112148881A (zh) | 用于输出信息的方法和装置 | |
CN113076735A (zh) | 目标信息的获取方法、装置和服务器 | |
CN110413998B (zh) | 一种面向电力行业的自适应中文分词方法及其系统、介质 | |
CN113836316B (zh) | 三元组数据的处理方法、训练方法、装置、设备及介质 | |
CN112699237B (zh) | 标签确定方法、设备和存储介质 | |
CN114116997A (zh) | 知识问答方法、装置、电子设备及存储介质 | |
CN113221538B (zh) | 事件库构建方法和装置、电子设备、计算机可读介质 | |
CN117216275A (zh) | 一种文本处理方法、装置、设备以及存储介质 | |
CN112560425A (zh) | 模板生成方法、装置、电子设备及存储介质 | |
CN113806483B (zh) | 数据处理方法、装置、电子设备及计算机程序产品 | |
CN112926297B (zh) | 处理信息的方法、装置、设备和存储介质 | |
CN115292506A (zh) | 应用于办公领域的知识图谱本体构建方法和装置 | |
CN114491232A (zh) | 信息查询方法、装置、电子设备和存储介质 | |
CN113408280A (zh) | 负例构造方法、装置、设备和存储介质 | |
CN112528644A (zh) | 实体挂载的方法、装置、设备以及存储介质 | |
CN112784046A (zh) | 文本聚簇的方法、装置、设备及存储介质 | |
CN110928985A (zh) | 一种基于深度学习算法自动提取近义词的科技项目查重方法 | |
CN114201607B (zh) | 一种信息处理的方法和装置 | |
CN111949781B (zh) | 一种基于自然语句句法分析的智能交互方法及装置 | |
CN113656393B (zh) | 数据处理方法、装置、电子设备以及存储介质 | |
CN116610782B (zh) | 文本检索方法、装置、电子设备及介质 | |
KR102309802B1 (ko) | Sns 사이트 트렌드 분석방법 | |
CN115858729A (zh) | 多类型知识检索和统计方法、装置、存储介质、设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |