CN109635114A - 用于处理信息的方法和装置 - Google Patents
用于处理信息的方法和装置 Download PDFInfo
- Publication number
- CN109635114A CN109635114A CN201811542556.8A CN201811542556A CN109635114A CN 109635114 A CN109635114 A CN 109635114A CN 201811542556 A CN201811542556 A CN 201811542556A CN 109635114 A CN109635114 A CN 109635114A
- Authority
- CN
- China
- Prior art keywords
- entity
- information
- sample
- description information
- text
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Machine Translation (AREA)
Abstract
本申请实施例公开了用于处理信息的方法和装置。该方法的一具体实施方式包括对获取到的文本信息进行解析,确定文本信息中的实体;从文本信息中提取实体的上下文信息;从预设的实体描述信息集合中确定出实体对应的实体描述信息;计算实体的上下文信息与实体对应的实体描述信息之间的相似度;基于相似度,利用实体对应的实体描述信息对文本信息中的实体进行处理。该实施方式基于实体的上下文信息与实体对应的实体描述信息之间的相似度对文本信息中的实体进行处理,提高了对文本信息中的实体的处理准确度。
Description
技术领域
本申请实施例涉及计算机技术领域,具体涉及用于处理信息的方法和装置。
背景技术
传统的阅读文本通常都是纯文本。对于阅读者来说,有时候对于文本中的陌生词语需要进行额外的查询扩展阅读才能理解具体的含义。这种现象在阅读外文书籍时显得更常见。由于对其他国家和文化的理解差异,对于一些术语、专有名词等实体了解较少,因此仅为用户提供纯文本,难以达到良好的阅读体验。
目前,在纯文本的基础上对实体进行扩展的方式通常是对文本中的实体直接匹配来获取对应的实体解释信息。
发明内容
本申请实施例提出了用于处理信息的方法和装置。
第一方面,本申请实施例提供了一种用于处理信息的方法,包括:对获取到的文本信息进行解析,确定文本信息中的实体;从文本信息中提取实体的上下文信息;从预设的实体描述信息集合中确定出实体对应的实体描述信息;计算实体的上下文信息与实体对应的实体描述信息之间的相似度;基于相似度,利用实体对应的实体描述信息对文本信息中的实体进行处理。
在一些实施例中,对获取到的文本信息进行解析,确定文本信息中的实体,包括:对文本信息进行分词,得到文本信息中的关键词;将关键词在实体描述信息集合对应的实体集合中匹配,以及基于匹配结果,确定文本信息中的实体。
在一些实施例中,计算实体的上下文信息与实体对应的实体描述信息之间的相似度,包括:将实体的上下文信息输入至预先训练的第一特征提取模型,得到实体的上下文信息的特征向量;将实体对应的实体描述信息输入至预先训练的第二特征提取模型,得到实体对应的实体描述信息的特征向量;计算实体的上下文信息的特征向量与实体对应的实体描述信息的特征向量之间的余弦相似度。
在一些实施例中,基于相似度,利用实体对应的实体描述信息对文本信息中的实体进行处理,包括:若余弦相似度大于第一预设相似度阈值,为文本信息中的实体创建锚点,以及将实体对应的实体描述信息创建为到锚点的链接。
在一些实施例中,第一特征提取模型和第二特征提取模型通过如下步骤训练得到:获取训练样本,其中,训练样本包括样本实体的上下文信息和样本实体的实体描述信息;执行以下训练步骤:将样本实体的上下文信息输入至第一循环神经网络,得到样本实体的上下文信息的特征向量;将样本实体的实体描述信息输入至第二循环神经网络,得到样本实体的实体描述信息的特征向量;计算样本实体的上下文信息的特征向量与样本实体的实体描述信息的特征向量之间的样本余弦相似度;若样本余弦相似度大于第二预设相似度阈值,将第一循环神经网络作为第一特征提取模型,以及将第二循环神经网络作为第二特征提取模型。
在一些实施例中,该步骤还包括:若样本余弦相似度不大于第二预设相似度阈值,调整第一循环神经网络和第二循环神经网络的参数,以及继续执行训练步骤。
在一些实施例中,实体描述信息包括以下至少一项:文本信息、图片信息、音频信息、视频信息。
第二方面,本申请实施例提供了一种用于处理信息的装置,包括:解析单元,被配置成对获取到的文本信息进行解析,确定文本信息中的实体;提取单元,被配置成从文本信息中提取实体的上下文信息;确定单元,被配置成从预设的实体描述信息集合中确定出实体对应的实体描述信息;计算单元,被配置成计算实体的上下文信息与实体对应的实体描述信息之间的相似度;处理单元,被配置成基于相似度,利用实体对应的实体描述信息对文本信息中的实体进行处理。
在一些实施例中,解析单元包括:分词模块,被配置成对文本信息进行分词,得到文本信息中的关键词;匹配模块,被配置成将关键词在实体描述信息集合对应的实体集合中匹配,以及基于匹配结果,确定文本信息中的实体。
在一些实施例中,计算单元包括:第一输入模块,被配置成将实体的上下文信息输入至预先训练的第一特征提取模型,得到实体的上下文信息的特征向量;第二输入模块,被配置成将实体对应的实体描述信息输入至预先训练的第二特征提取模型,得到实体对应的实体描述信息的特征向量;计算模块,被配置成计算实体的上下文信息的特征向量与实体对应的实体描述信息的特征向量之间的余弦相似度。
在一些实施例中,处理单元进一步被配置成:若余弦相似度大于第一预设相似度阈值,为文本信息中的实体创建锚点,以及将实体对应的实体描述信息创建为到锚点的链接。
在一些实施例中,第一特征提取模型和第二特征提取模型通过如下步骤训练得到:获取训练样本,其中,训练样本包括样本实体的上下文信息和样本实体的实体描述信息;执行以下训练步骤:将样本实体的上下文信息输入至第一循环神经网络,得到样本实体的上下文信息的特征向量;将样本实体的实体描述信息输入至第二循环神经网络,得到样本实体的实体描述信息的特征向量;计算样本实体的上下文信息的特征向量与样本实体的实体描述信息的特征向量之间的样本余弦相似度;若样本余弦相似度大于第二预设相似度阈值,将第一循环神经网络作为第一特征提取模型,以及将第二循环神经网络作为第二特征提取模型。
在一些实施例中,该步骤还包括:若样本余弦相似度不大于第二预设相似度阈值,调整第一循环神经网络和第二循环神经网络的参数,以及继续执行训练步骤。
在一些实施例中,实体描述信息包括以下至少一项:文本信息、图片信息、音频信息、视频信息。
第三方面,本申请实施例提供了一种电子设备,该电子设备包括:一个或多个处理器;存储装置,其上存储有一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面,本申请实施例提供了一种计算机可读介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本申请实施例提供的用于处理信息的方法和装置,首先对获取到的文本信息进行解析,以确定文本信息中的实体;之后从文本信息中提取实体的上下文信息,同时从预设的实体描述信息集合中确定出实体对应的实体描述信息;然后计算实体的上下文信息与实体对应的实体描述信息之间的相似度;最后基于相似度,利用实体对应的实体描述信息对文本信息中的实体进行处理。基于实体的上下文信息与实体对应的实体描述信息之间的相似度对文本信息中的实体进行处理,提高了对文本信息中的实体的处理准确度。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请可以应用于其中的示例性系统架构;
图2是根据本申请的用于处理信息的方法的一个实施例的流程图;
图3是图2所提供的用于处理信息的方法的一个应用场景的示意图;
图4是根据本申请的用于处理信息的方法的又一个实施例的流程图;
图5是根据本申请的用于训练第一特征提取模型和第二特征提取模型的方法的一个实施例的流程图;
图6是根据本申请的用于处理信息的装置的一个实施例的结构示意图;
图7是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于处理信息的方法或用于处理信息的装置的实施例的示例性系统架构100。
如图1所示,系统架构100中可以包括终端设备101、网络102和服务器103。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
终端设备101可以通过网络102与服务器102交互,以接收或发送消息等。终端设备101上可以安装有各种客户端应用,例如网页浏览器应用、搜索类应用等。
终端设备101可以是硬件,也可以是软件。当终端设备101为硬件时,可以是各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101为软件时,可以安装在上述电子设备中。其可以实现成多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。
服务器103可以提供各种服务,例如服务器103可以对获取到的文本信息等数据进行分析等处理,生成处理结果(例如处理后的文本信息)。当终端设备101向服务器103发送文本信息的浏览请求时,将处理结果反馈给终端设备101。
需要说明的是,服务器103可以是硬件,也可以是软件。当服务器103为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器103为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本申请实施例所提供的用于处理信息的方法一般由服务器103执行,相应地,用于处理信息的装置一般设置于服务器103中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,其示出了根据本申请的用于处理信息的方法的一个实施例的流程200。该用于处理信息的方法,包括以下步骤:
步骤201,对获取到的文本信息进行解析,确定文本信息中的实体。
在本实施例中,用于处理信息的方法的执行主体(例如图1所示的服务器103)可以首先获取文本信息;然后对文本信息进行解析,以确定文本信息中的实体。这里,上述执行主体可以预先存储大量文本信息,并从存储的大量文本信息中获取文本信息。上述执行主体也可以从与其通信连接的其他设备获取文本信息。
在本实施例中,实体可以是预设类型的词语,例如术语、专有名词等等。这里,上述执行主体可以通过多种方式确定文本信息中的实体。在一些实施例中,上述执行主体可以对文本信息进行分词,得到文本信息中的关键词,并将得到的全部或部分关键词作为文本信息中的实体。例如,上述执行主体可以首先对文本信息进行分词,得到文本信息中的关键词;然后将关键词在实体描述信息集合对应的实体集合中匹配,得到匹配结果;最后基于匹配结果,确定文本信息中的实体。通常,若一个关键词语实体集合中的一个实体相同或相似,那么该关键词就是文本信息中的实体。其中,实体描述信息集合中的实体描述信息与实体集合中的实体一一对应。实体集合中的实体可以是百科词条,也可称为百科条目,是词条的一种特定表现形式,用以指百科全书中的词条,是构成百科全书的基本单元,这里的百科全书可以使用纸质和网络等不同的载体。与实体对应的实体描述信息可以是对一个词条所对内容的概括性描述。通常,实体描述信息可以包括但不限于以下至少一项:文本信息、图片信息、音频信息、视频信息等等。
步骤202,从文本信息中提取实体的上下文信息。
在本实施例中,上述执行主体可以从文本信息中提取实体的上下文信息。其中,实体的上下文信息可以表征实体在文本信息中的含义。在一些实施例中,上述执行主体可以从文本信息中提取出包含该实体的语句,作为该实体的上下文信息。在另一些实施例中,上述执行主体可以从文本信息中提取出包含该实体的段落,作为该实体的上下文信息。
步骤203,从预设的实体描述信息集合中确定出实体对应的实体描述信息。
在本实施例中,上述执行主体可以从实体描述信息集合中确定出文本信息中的实体对应的实体描述信息。具体地,上述执行主体可以首先将文本信息中的实体在实体描述信息集合对应的实体集合中匹配,确定出与文本信息中的实体匹配的实体;然后从实体描述信息集合中查找出匹配的实体对应的实体描述信息,作为文本信息中的实体对应的实体描述信息。
步骤204,计算实体的上下文信息与实体对应的实体描述信息之间的相似度。
在本实施例中,上述执行主体可以计算实体的上下文信息与实体对应的实体描述信息之间的相似度。例如,上述执行主体可以首先分别对实体的上下文信息和实体对应的实体描述信息进行分词,得到实体的上下文信息的关键词和实体对应的实体描述信息的关键词;然后确定实体的上下文信息的关键词和实体对应的实体描述信息的关键词中相同的关键词的数量;最后基于相同的关键词的数量,确定实体的上下文信息与实体对应的实体描述信息之间的相似度。通常,相同的关键词的数量越多,实体的上下文信息与实体对应的实体描述信息之间的相似度越大,反之,相似度越小。
步骤205,基于相似度,利用实体对应的实体描述信息对文本信息中的实体进行处理。
在本实施例中,上述执行主体可以基于相似度,利用实体对应的实体描述信息对文本信息中的实体进行处理。具体地,上述执行主体可以将相似度与预先设定的相似度阈值(例如0.8)进行比较,若大于相似度阈值,那么将实体对应的实体描述信息与文本信息中的实体关联,反之,则不进行关联。通常,相似度越高,说明文本信息中的实体与实体对应的实体描述信息越匹配,反之,说明文本信息中的实体与实体对应的实体描述信息越不匹配。这样,用户在阅读处理后的文本信息时,就可以同时查看到与实体匹配的实体描述信息。在一些实施例中,上述执行主体可以首先为文本信息中的实体创建锚点;然后将实体对应的实体描述信息创建为到锚点的链接。这样,用户在阅读处理后的文本信息时,将鼠标悬停在文本信息中的实体上,即可显示出该实体对应的实体描述信息,以供用户理解该实体的含义。
继续参见图3,图3是图2所提供的用于处理信息的方法的一个应用场景的示意图。在图3所示的应用场景中,服务器可以获取一篇题目为《生成式对抗网络》的文本,并对《生成式对抗网络》的文本进行解析,确定《生成式对抗网络》的文本中的实体“生成模型”。随后,服务器可以从《生成式对抗网络》的文本中提取实体“生成模型”的上下文信息“直白地说,对抗网络同时训练了两个模型,一个为生成模型G,其本质通过对真实数据x的学习得到一个概率分布Pg,然后将输入的噪声数据z映射到x的空间,我们将其描述为G(z;θg),θg为该模型的参数”,同时从实体描述信息集合中确定出实体“生成模型”对应的实体描述信息“在机器学习中,生成模型可以用来直接对数据建模(例如根据某个变量的概率密度函数进行数据采样),也可以用来建立变量间的条件概率分布”。最后,服务器计算出实体“生成模型”的上下文信息与实体“生成模型”对应的实体描述信息之间的相似度高于0.8。此时,服务器可以将为实体“生成模型”创建锚点;然后将实体“生成模型”对应的实体描述信息创建为到锚点的链接。这样,用户在阅读处理后的《生成式对抗网络》的文本时,将鼠标悬停在实体“生成模型”上,就会如图3所示,显示出实体“生成模型”对应的实体描述信息。
本申请实施例提供的用于处理信息的方法,首先对获取到的文本信息进行解析,以确定文本信息中的实体;之后从文本信息中提取实体的上下文信息,同时从预设的实体描述信息集合中确定出实体对应的实体描述信息;然后计算实体的上下文信息与实体对应的实体描述信息之间的相似度;最后基于相似度,利用实体对应的实体描述信息对文本信息中的实体进行处理。基于实体的上下文信息与实体对应的实体描述信息之间的相似度对文本信息中的实体进行处理,提高了对文本信息中的实体的处理准确度。
进一步参考图4,其示出了根据本申请的用于处理信息的方法的又一个实施例的流程400。该用于处理信息的方法,包括以下步骤:
步骤401,对获取到的文本信息进行解析,确定文本信息中的实体。
步骤402,从文本信息中提取实体的上下文信息。
步骤403,从预设的实体描述信息集合中确定出实体对应的实体描述信息。
在本实施例中,步骤401-403的具体操作与图2所示的实施例中步骤201-203的操作基本相同,在此不再赘述。
步骤404,将实体的上下文信息输入至预先训练的第一特征提取模型,得到实体的上下文信息的特征向量。
在本实施例中,上述执行主体可以将实体的上下文信息输入至预先训练的第一特征提取模型,以得到实体的上下文信息的特征向量。其中,实体的上下文信息的特征向量可以用于表征实体的上下文信息的主要内容。
在本实施例中,第一特征提取模型可以用于提取实体的上下文信息的特征向量,表征实体的上下文信息与实体的上下文信息的特征向量之间的对应关系。在一些实施例中,第一特征提取模型可以是本领域技术人员对大量样本实体的上下文信息和对应的特征向量进行统计分析,而得到的存储有多个样本实体的上下文信息与对应的特征向量的对应关系表。此时,上述执行主体可以将实体的上下文信息与对应关系表中的样本实体的上下文信息逐一进行匹配,若存在一个样本实体的上下文信息与实体的上下文信息相同或相似,那么可以从对应关系表中查找出该样本实体的上下文信息对应的特征向量,作为实体的上下文信息的特征向量。
步骤405,将实体对应的实体描述信息输入至预先训练的第二特征提取模型,得到实体对应的实体描述信息的特征向量。
在本实施例中,上述执行主体可以将实体对应的实体描述信息输入至预先训练的第二特征提取模型,以得到实体对应的实体描述信息的特征向量。其中,实体对应的实体描述信息的特征向量可以用于表征实体对应的实体描述信息的主要内容。
在本实施例中,第二特征提取模型可以用于提取实体对应的实体描述信息的特征向量,表征实体对应的实体描述信息与实体对应的实体描述信息的特征向量之间的对应关系。在一些实施例中,第二特征提取模型可以是本领域技术人员对大量样本实体的实体描述信息和对应的特征向量进行统计分析,而得到的存储有多个样本实体的实体描述信息与对应的特征向量的对应关系表。此时,上述执行主体可以将实体对应的实体描述信息与对应关系表中的样本实体的实体描述信息逐一进行匹配,若存在一个样本实体的实体描述信息与实体对应的实体描述信息相同或相似,那么可以从对应关系表中查找出该样本实体的实体描述信息的特征向量,作为实体对应的实体描述信息的特征向量。
步骤406,计算实体的上下文信息的特征向量与实体对应的实体描述信息的特征向量之间的余弦相似度。
在本实施例中,上述执行主体可以计算实体的上下文信息的特征向量与实体对应的实体描述信息的特征向量之间的余弦相似度。其中,若实体的上下文信息的特征向量是f1,若实体对应的实体描述信息的特征向量是f2,那么余弦相似度L可以通过如下公式计算:L=cosin(f1,f2)。其中,余弦相似度是通过测量两个向量的夹角的余弦值来度量它们之间的相似度。0度角的余弦值是1,而其他任何角度的余弦值都不大于1;并且其最小值是-1。从而两个向量之间的角度的余弦值确定两个向量是否大致指向相同的方向。两个向量有相同的指向时,余弦相似度的值为1;两个向量夹角为90°时,余弦相似度的值为0;两个向量指向完全相反的方向时,余弦相似度的值为-1。这结果是与向量的长度无关的,仅仅与向量的指向方向相关。余弦相似度通常用于正空间,因此给出的值为0到1之间。
步骤407,若余弦相似度大于第一预设相似度阈值,为文本信息中的实体创建锚点,以及将实体对应的实体描述信息创建为到锚点的链接。
在本实施例中,上述执行主体可以将余弦相似度与第一预设相似度阈值(例如0.8)进行比较,若大于第一预设相似度阈值,那么为文本信息中的实体创建锚点,以及将实体对应的实体描述信息创建为到锚点的链接,反之,则不进行锚点创建。这样,用户在阅读处理后的文本信息时,将鼠标悬停在文本信息中的实体上,即可显示出该实体对应的实体描述信息,以供用户理解该实体的含义。
从图4中可以看出,与图2对应的实施例相比,本实施例中的用于处理信息的方法的流程400突出了步骤404-407。由此,本实施例描述的方案利用第一特征提取模型提取实体的上下文信息的特征向量,以及利用第二特征提取模型提取实体对应的实体描述信息的特征向量,并计算实体的上下文信息的特征向量与实体对应的实体描述信息的特征向量之间的余弦相似度,以确定实体的上下文信息与实体对应的实体描述信息之间的相似度,从而提高了确定出的实体的上下文信息与实体对应的实体描述信息之间的相似度的准确度。
在一些实施例中,第一特征提取模型和第二特征提取模型可以是利用各种机器学习方法和训练样本对现有的机器学习模型(例如各种神经网络等)进行有监督训练而得到的。进一步参考图5,其示出了根据本申请的用于训练第一特征提取模型和第二特征提取模型的方法的一个实施例的流程500。该用于训练第一特征提取模型和第二特征提取模型的方法,包括以下步骤:
步骤501,获取训练样本。
在本是实施例中,用于训练第一特征提取模型和第二特征提取模型的方法的执行主体(例如图1所示的服务器103)可以获取大量训练样本。其中,每个训练样本可以包括样本实体的上下文信息和样本实体的实体描述信息。通常,有些电子百科全书中的实体描述信息会引用其他实体,所引用的实体通常链接有对应的实体描述信息。此时,可以从这些实体描述信息中获取所引用的实体的上下文信息作为样本实体的上下文信息,同时获取所引用的实体链接的实体描述信息作为样本实体的实体描述信息。此外,有些网站中的网页内容会引用其他实体,所引用的实体通常链接有对应的实体描述信息。此时,可以从这些网页内容中获取所引用的实体的上下文信息作为样本实体的上下文信息,同时获取所引用的实体链接的实体描述信息作为样本实体的实体描述信息。
步骤502,将样本实体的上下文信息输入至第一循环神经网络,得到样本实体的上下文信息的特征向量。
在本实施例中,上述执行主体可以将样本实体的上下文信息输入至第一循环神经网络,以得到样本实体的上下文信息的特征向量。其中,第一循环神经网络是用于训练第一特征提取模型的现有的机器学习模型,可以是双向循环神经网络。
步骤503,将样本实体的实体描述信息输入至第二循环神经网络,得到样本实体的实体描述信息的特征向量。
在本实施例中,上述执行主体可以将样本实体的实体描述信息输入至第二循环神经网络,以得到样本实体的实体描述信息的特征向量。其中,第二循环神经网络是用于训练第二特征提取模型的现有的机器学习模型,可以是双向循环神经网络。
步骤504,计算样本实体的上下文信息的特征向量与样本实体的实体描述信息的特征向量之间的样本余弦相似度。
在本实施例中,上述执行主体可以计算样本实体的上下文信息的特征向量与样本实体的实体描述信息的特征向量之间的样本余弦相似度。需要说明的是计算样本余弦相似度的具体操作可以参考步骤406中计算余弦相似度的具体操作,这里不再赘述。
步骤505,确定样本余弦相似度是否大于第二预设相似度阈值。
在本实施例中,上述执行主体可以将样本余弦相似度与第二预设相似度阈值(例如0.9)进行比较,以确定样本余弦相似度是否大于第二预设相似度阈值。
步骤506,将第一循环神经网络作为第一特征提取模型,以及将第二循环神经网络作为第二特征提取模型。
在本实施例中,若样本余弦相似度大于第二预设相似度阈值,说明模型的提取效果已经满足预先设置的约束条件,模型训练完成。此时,上述执行主体可以将第一循环神经网络作为第一特征提取模型,以及将第二循环神经网络作为第二特征提取模型。
步骤507,调整第一循环神经网络和第二循环神经网络的参数。
在本实施例中,若样本余弦相似度不大于第二预设相似度阈值,说明模型的提取效果尚未满足预先设置的约束条件,模型训练未完成。此时,上述执行主体可以调整第一循环神经网络和第二循环神经网络的参数,并返回继续执行步骤502,直至模型的提取效果满足预先设置的约束条件位置。
进一步参考图6,作为对上述各图所示方法的实现,本申请提供了一种用于处理信息的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图6所示,本实施例的用于处理信息的装置600可以包括:解析单元601、提取单元602、确定单元603、计算单元604和处理单元605。其中,解析单元601,被配置成对获取到的文本信息进行解析,确定文本信息中的实体;提取单元602,被配置成从文本信息中提取实体的上下文信息;确定单元603,被配置成从预设的实体描述信息集合中确定出实体对应的实体描述信息;计算单元604,被配置成计算实体的上下文信息与实体对应的实体描述信息之间的相似度;处理单元605,被配置成基于相似度,利用实体对应的实体描述信息对文本信息中的实体进行处理。
在本实施例中,用于处理信息的装置600中:解析单元601、提取单元602、确定单元603、计算单元604和处理单元605的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201、步骤202、步骤203、步骤204和步骤205的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,解析单元601包括:分词模块(图中未示出),被配置成对文本信息进行分词,得到文本信息中的关键词;匹配模块(图中未示出),被配置成将关键词在实体描述信息集合对应的实体集合中匹配,以及基于匹配结果,确定文本信息中的实体。
在本实施例的一些可选的实现方式中,计算单元604包括:第一输入模块(图中未示出),被配置成将实体的上下文信息输入至预先训练的第一特征提取模型,得到实体的上下文信息的特征向量;第二输入模块(图中未示出),被配置成将实体对应的实体描述信息输入至预先训练的第二特征提取模型,得到实体对应的实体描述信息的特征向量;计算模块(图中未示出),被配置成计算实体的上下文信息的特征向量与实体对应的实体描述信息的特征向量之间的余弦相似度。
在本实施例的一些可选的实现方式中,处理单元605进一步被配置成:若余弦相似度大于第一预设相似度阈值,为文本信息中的实体创建锚点,以及将实体对应的实体描述信息创建为到锚点的链接。
在本实施例的一些可选的实现方式中,第一特征提取模型和第二特征提取模型通过如下步骤训练得到:获取训练样本,其中,训练样本包括样本实体的上下文信息和样本实体的实体描述信息;执行以下训练步骤:将样本实体的上下文信息输入至第一循环神经网络,得到样本实体的上下文信息的特征向量;将样本实体的实体描述信息输入至第二循环神经网络,得到样本实体的实体描述信息的特征向量;计算样本实体的上下文信息的特征向量与样本实体的实体描述信息的特征向量之间的样本余弦相似度;若样本余弦相似度大于第二预设相似度阈值,将第一循环神经网络作为第一特征提取模型,以及将第二循环神经网络作为第二特征提取模型。
在本实施例的一些可选的实现方式中,该步骤还包括:若样本余弦相似度不大于第二预设相似度阈值,调整第一循环神经网络和第二循环神经网络的参数,以及继续执行训练步骤。
在本实施例的一些可选的实现方式中,实体描述信息包括以下至少一项:文本信息、图片信息、音频信息、视频信息。
下面参考图7,其示出了适于用来实现本申请实施例的电子设备(例如图1所示的服务器103)的计算机系统700的结构示意图。图7示出的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图7所示,计算机系统700包括中央处理单元(CPU)701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中,还存储有系统700操作所需的各种程序和数据。CPU 701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
以下部件连接至I/O接口705:包括键盘、鼠标等的输入部分706;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707;包括硬盘等的存储部分708;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器710上,以便于从其上读出的计算机程序根据需要被安装入存储部分708。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分709从网络上被下载和安装,和/或从可拆卸介质711被安装。在该计算机程序被中央处理单元(CPU)701执行时,执行本申请的方法中限定的上述功能。需要说明的是,本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。计算机可读介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码,所述程序设计语言包括面向目标的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括解析单元、提取单元、确定单元、计算单元和处理单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,解析单元还可以被描述为“对获取到的文本信息进行解析,确定文本信息中的实体的单元”。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:对获取到的文本信息进行解析,确定文本信息中的实体;从文本信息中提取实体的上下文信息;从预设的实体描述信息集合中确定出实体对应的实体描述信息;计算实体的上下文信息与实体对应的实体描述信息之间的相似度;基于相似度,利用实体对应的实体描述信息对文本信息中的实体进行处理。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (16)
1.一种用于处理信息的方法,包括:
对获取到的文本信息进行解析,确定所述文本信息中的实体;
从所述文本信息中提取所述实体的上下文信息;
从预设的实体描述信息集合中确定出所述实体对应的实体描述信息;
计算所述实体的上下文信息与所述实体对应的实体描述信息之间的相似度;
基于所述相似度,利用所述实体对应的实体描述信息对所述文本信息中的所述实体进行处理。
2.根据权利要求1所述的方法,其中,所述对获取到的文本信息进行解析,确定所述文本信息中的实体,包括:
对所述文本信息进行分词,得到所述文本信息中的关键词;
将所述关键词在所述实体描述信息集合对应的实体集合中匹配,以及基于匹配结果,确定所述文本信息中的实体。
3.根据权利要求1所述的方法,其中,所述计算所述实体的上下文信息与所述实体对应的实体描述信息之间的相似度,包括:
将所述实体的上下文信息输入至预先训练的第一特征提取模型,得到所述实体的上下文信息的特征向量;
将所述实体对应的实体描述信息输入至预先训练的第二特征提取模型,得到所述实体对应的实体描述信息的特征向量;
计算所述实体的上下文信息的特征向量与所述实体对应的实体描述信息的特征向量之间的余弦相似度。
4.根据权利要求3所述的方法,其中,所述基于所述相似度,利用所述实体对应的实体描述信息对所述文本信息中的所述实体进行处理,包括:
若所述余弦相似度大于第一预设相似度阈值,为所述文本信息中的所述实体创建锚点,以及将所述实体对应的实体描述信息创建为到所述锚点的链接。
5.根据权利要求3所述的方法,其中,所述第一特征提取模型和所述第二特征提取模型通过如下步骤训练得到:
获取训练样本,其中,所述训练样本包括样本实体的上下文信息和所述样本实体的实体描述信息;
执行以下训练步骤:将所述样本实体的上下文信息输入至第一循环神经网络,得到所述样本实体的上下文信息的特征向量;将所述样本实体的实体描述信息输入至第二循环神经网络,得到所述样本实体的实体描述信息的特征向量;计算所述样本实体的上下文信息的特征向量与所述样本实体的实体描述信息的特征向量之间的样本余弦相似度;若所述样本余弦相似度大于第二预设相似度阈值,将所述第一循环神经网络作为所述第一特征提取模型,以及将所述第二循环神经网络作为所述第二特征提取模型。
6.根据权利要求5所述的方法,其中,所述步骤还包括:
若所述样本余弦相似度不大于所述第二预设相似度阈值,调整所述第一循环神经网络和所述第二循环神经网络的参数,以及继续执行所述训练步骤。
7.根据权利要求1-6之一所述的方法,其中,所述实体描述信息包括以下至少一项:文本信息、图片信息、音频信息、视频信息。
8.一种用于处理信息的装置,包括:
解析单元,被配置成对获取到的文本信息进行解析,确定所述文本信息中的实体;
提取单元,被配置成从所述文本信息中提取所述实体的上下文信息;
确定单元,被配置成从预设的实体描述信息集合中确定出所述实体对应的实体描述信息;
计算单元,被配置成计算所述实体的上下文信息与所述实体对应的实体描述信息之间的相似度;
处理单元,被配置成基于所述相似度,利用所述实体对应的实体描述信息对所述文本信息中的所述实体进行处理。
9.根据权利要求8所述的装置,其中,所述解析单元包括:
分词模块,被配置成对所述文本信息进行分词,得到所述文本信息中的关键词;
匹配模块,被配置成将所述关键词在所述实体描述信息集合对应的实体集合中匹配,以及基于匹配结果,确定所述文本信息中的实体。
10.根据权利要求8所述的装置,其中,所述计算单元包括:
第一输入模块,被配置成将所述实体的上下文信息输入至预先训练的第一特征提取模型,得到所述实体的上下文信息的特征向量;
第二输入模块,被配置成将所述实体对应的实体描述信息输入至预先训练的第二特征提取模型,得到所述实体对应的实体描述信息的特征向量;
计算模块,被配置成计算所述实体的上下文信息的特征向量与所述实体对应的实体描述信息的特征向量之间的余弦相似度。
11.根据权利要求10所述的装置,其中,所述处理单元进一步被配置成:
若所述余弦相似度大于第一预设相似度阈值,为所述文本信息中的所述实体创建锚点,以及将所述实体对应的实体描述信息创建为到所述锚点的链接。
12.根据权利要求10所述的装置,其中,所述第一特征提取模型和所述第二特征提取模型通过如下步骤训练得到:
获取训练样本,其中,所述训练样本包括样本实体的上下文信息和所述样本实体的实体描述信息;
执行以下训练步骤:将所述样本实体的上下文信息输入至第一循环神经网络,得到所述样本实体的上下文信息的特征向量;将所述样本实体的实体描述信息输入至第二循环神经网络,得到所述样本实体的实体描述信息的特征向量;计算所述样本实体的上下文信息的特征向量与所述样本实体的实体描述信息的特征向量之间的样本余弦相似度;若所述样本余弦相似度大于第二预设相似度阈值,将所述第一循环神经网络作为所述第一特征提取模型,以及将所述第二循环神经网络作为所述第二特征提取模型。
13.根据权利要求12所述的装置,其中,所述步骤还包括:
若所述样本余弦相似度不大于所述第二预设相似度阈值,调整所述第一循环神经网络和所述第二循环神经网络的参数,以及继续执行所述训练步骤。
14.根据权利要求8-13之一所述的装置,其中,所述实体描述信息包括以下至少一项:文本信息、图片信息、音频信息、视频信息。
15.一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
16.一种计算机可读介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811542556.8A CN109635114A (zh) | 2018-12-17 | 2018-12-17 | 用于处理信息的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811542556.8A CN109635114A (zh) | 2018-12-17 | 2018-12-17 | 用于处理信息的方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109635114A true CN109635114A (zh) | 2019-04-16 |
Family
ID=66074694
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811542556.8A Pending CN109635114A (zh) | 2018-12-17 | 2018-12-17 | 用于处理信息的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109635114A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110929038A (zh) * | 2019-10-18 | 2020-03-27 | 平安科技(深圳)有限公司 | 基于知识图谱的实体链接方法、装置、设备和存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104021202A (zh) * | 2014-06-16 | 2014-09-03 | 百度在线网络技术(北京)有限公司 | 一种知识共享平台的词条处理装置和方法 |
EP2897054A2 (en) * | 2014-01-17 | 2015-07-22 | Tata Consultancy Services Limited | Entity resolution from documents |
CN106295796A (zh) * | 2016-07-22 | 2017-01-04 | 浙江大学 | 基于深度学习的实体链接方法 |
CN107102989A (zh) * | 2017-05-24 | 2017-08-29 | 南京大学 | 一种基于词向量、卷积神经网络的实体消歧方法 |
CN108280061A (zh) * | 2018-01-17 | 2018-07-13 | 北京百度网讯科技有限公司 | 基于歧义实体词的文本处理方法和装置 |
-
2018
- 2018-12-17 CN CN201811542556.8A patent/CN109635114A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2897054A2 (en) * | 2014-01-17 | 2015-07-22 | Tata Consultancy Services Limited | Entity resolution from documents |
CN104021202A (zh) * | 2014-06-16 | 2014-09-03 | 百度在线网络技术(北京)有限公司 | 一种知识共享平台的词条处理装置和方法 |
CN106295796A (zh) * | 2016-07-22 | 2017-01-04 | 浙江大学 | 基于深度学习的实体链接方法 |
CN107102989A (zh) * | 2017-05-24 | 2017-08-29 | 南京大学 | 一种基于词向量、卷积神经网络的实体消歧方法 |
CN108280061A (zh) * | 2018-01-17 | 2018-07-13 | 北京百度网讯科技有限公司 | 基于歧义实体词的文本处理方法和装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110929038A (zh) * | 2019-10-18 | 2020-03-27 | 平安科技(深圳)有限公司 | 基于知识图谱的实体链接方法、装置、设备和存储介质 |
CN110929038B (zh) * | 2019-10-18 | 2023-07-21 | 平安科技(深圳)有限公司 | 基于知识图谱的实体链接方法、装置、设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107729319B (zh) | 用于输出信息的方法和装置 | |
CN108022586B (zh) | 用于控制页面的方法和装置 | |
US20190163742A1 (en) | Method and apparatus for generating information | |
CN107491534A (zh) | 信息处理方法和装置 | |
WO2022007438A1 (zh) | 情感语音数据转换方法、装置、计算机设备及存储介质 | |
CN108932220A (zh) | 文章生成方法和装置 | |
CN109189938A (zh) | 用于更新知识图谱的方法和装置 | |
CN109522483A (zh) | 用于推送信息的方法和装置 | |
CN111026858B (zh) | 基于项目推荐模型的项目信息处理方法及装置 | |
CN109165344A (zh) | 用于推送信息的方法和装置 | |
CN109635095A (zh) | 用于优化对话模型的方法和装置 | |
CN109657251A (zh) | 用于翻译语句的方法和装置 | |
CN108121800A (zh) | 基于人工智能的信息生成方法和装置 | |
CN108628830A (zh) | 一种语义识别的方法和装置 | |
WO2022121801A1 (zh) | 信息处理方法、装置和电子设备 | |
CN107943895A (zh) | 信息推送方法和装置 | |
CN108121699A (zh) | 用于输出信息的方法和装置 | |
CN109740167A (zh) | 用于生成信息的方法和装置 | |
CN110347428A (zh) | 一种代码相似度的检测方法和装置 | |
CN109359194A (zh) | 用于预测信息类别的方法和装置 | |
CN108900612A (zh) | 用于推送信息的方法和装置 | |
CN109920431A (zh) | 用于输出信息的方法和装置 | |
CN109255035A (zh) | 用于构建知识图谱的方法和装置 | |
CN109062560B (zh) | 用于生成信息的方法和装置 | |
CN113742005A (zh) | 一种平台对接方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |