CN111737572A - 搜索语句生成方法、装置和电子设备 - Google Patents
搜索语句生成方法、装置和电子设备 Download PDFInfo
- Publication number
- CN111737572A CN111737572A CN202010552231.9A CN202010552231A CN111737572A CN 111737572 A CN111737572 A CN 111737572A CN 202010552231 A CN202010552231 A CN 202010552231A CN 111737572 A CN111737572 A CN 111737572A
- Authority
- CN
- China
- Prior art keywords
- search
- text
- original text
- sentences
- vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 239000013598 vector Substances 0.000 claims abstract description 59
- 238000012549 training Methods 0.000 claims description 55
- 230000008569 process Effects 0.000 claims description 10
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 238000012163 sequencing technique Methods 0.000 claims description 5
- 230000006870 function Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 9
- 238000004590 computer program Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/31—Indexing; Data structures therefor; Storage structures
- G06F16/316—Indexing structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/335—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/338—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9538—Presentation of query results
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开实施例公开了一种搜索语句生成方法、装置、电子设备和计算机可读存储介质。其中该搜索语句生成方法包括:获取原始文本;将所述原始文本转换成第一向量;根据所述第一向量生成与所述原始文本关联的多个搜索语句;建立所述多个搜索语句与所述原始文本的对应关系。上述方法通过原始文本的向量生成多个与所述原始文本相关的搜索语句,并建立搜索语句和原始文本之间的对应关系,解决了现有技术中直接在原始文本中查找搜索语句所带来的限制召回结果的技术问题。
Description
技术领域
本公开涉及文本生成领域,尤其涉及一种搜索语句生成方法、装置、电子设备及计算机可读存储介质。
背景技术
自从因特网概念出现之后,互联网便开始连接世界上的各个角落。互联网上的信息便呈爆炸式的增长,并逐渐的成为人们探索和获取未知的一个海量的信息资源存储库。在中国互联网发展的近二十年中,搜索引擎作为连接用户和网络资源的主要途径,对于人们在使用互联网至关重要己经成为人们工作学习和生活不可缺少重要工具。虽然搜索引擎能够整合各类信息,形成巨大的网络资源索引库,方便地为用户提供查询服务,但是对于搜索引擎的使用,存在大量的用户并不能构造出清晰明确的搜索语句(query)来准确表达其搜索意图的情况。并且搜索引擎由于存有大量的信息,其索引库中的文档也是随时间而更新增加,文档中的内容也具有一定的时效性,若是用户不能提供意义明确的query则搜索引擎很难召回与用户意图相匹配的结果。
现有技术中,通过用户的query召回搜索结果时,通常是在信息文档中搜索有没有能够命中query的词,这样实际上极大限制了召回结果,如果用户使用了不合适的搜索语句会导致无法召回跟用户意图匹配的结果。
发明内容
提供该发明内容部分以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
为了解决现有技术中图口语翻译不准确的问题,本公开实施例提出如下技术方案。
第一方面,本公开实施例提供一种搜索语句生成方法,包括:
获取原始文本;
将所述原始文本转换成第一向量;
根据所述第一向量生成与所述原始文本关联的多个搜索语句;
建立所述多个搜索语句与所述原始文本的对应关系。
第二方面,本公开实施例提供一种搜索语句生成装置,包括:
原始文本获取模块,用于获取原始文本;
向量转换模块,用于将所述原始文本转换成第一向量;
搜索语句生成模块,用于根据所述第一向量生成与所述原始文本关联的多个搜索语句;
对应关系建立模块,用于建立所述多个搜索语句与所述原始文本的对应关系。
第三方面,本公开实施例提供一种电子设备,包括:至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有能被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行前述第一方面中的任一所述的方法。
第四方面,本公开实施例提供一种非暂态计算机可读存储介质,其特征在于,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行前述第一方面中的任一所述的方法。
本公开实施例公开了一种搜索语句生成方法、装置、电子设备和计算机可读存储介质。其中该搜索语句生成方法包括:获取原始文本;将所述原始文本转换成第一向量;根据所述第一向量生成与所述原始文本关联的多个搜索语句;建立所述多个搜索语句与所述原始文本的对应关系。上述方法通过原始文本的向量生成多个与所述原始文本相关的搜索语句,并建立搜索语句和原始文本之间的对应关系,解决了现有技术中直接在原始文本中查找搜索语句所带来的限制召回结果的技术问题。搜索语句
上述说明仅是本公开技术方案的概述,为了能更清楚了解本公开的技术手段,而可依照说明书的内容予以实施,并且为让本公开的上述和其他目的、特征和优点能够更明显易懂,以下特举较佳实施例,并配合附图,详细说明如下。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1为本公开实施例提供的搜索语句生成方法的流程示意图;
图2为本公开实施例提供的搜索语句生成方法的进一步流程示意图;
图3为本公开实施例提供的搜索语句生成方法中的基于所述对应关系,获取与所述第二搜索语句相关联的第二原始文本的一个具体实施方式意图;
图4为本公开实施例提供的搜索语句生成装置的实施例的结构示意图;
图5为根据本公开实施例提供的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
图1为本公开实施例提供的搜索语句生成方法实施例的流程图,本实施例提供的该搜索语句生成方法可以由一搜索语句生成装置来执行,该搜索语句生成装置可以实现为软件,或者实现为软件和硬件的组合,该搜索语句生成装置可以集成设置在搜索语句生成系统中的某设备中,比如搜索语句生成服务器或者搜索语句生成终端设备中。如图1所示,该方法包括如下步骤:
步骤S101,获取原始文本;
在本公开中,所述原始文本为用于生成用户的搜索语句(query)的文本,示例性的,所述原始文本为从网络中获取到的各种文章所对应的文本。所述原始文本还可以是即将发布到网络中的文本。示例性的,所述原始文本为新闻应用中的所有新闻的文本。
步骤S102,将所述原始文本转换成第一向量;
可选的,所述搜索语句生成方法使用搜索语句生成模型来生成文本,所述步骤S102包括:
将所述原始文本输入搜索语句生成模型的编码层;
所述编码层输出固定长度的第一向量。
在一个实施例中,所述搜索语句生成模型包括编码层,其中所述编码层用于将所述原始文本编码成固定长度的第一向量。其中所述原始文本在输入所述编码层之前被转换成输入向量,示例性的,使用词嵌入方法将所述原始文本中的每个字符转换成对应的向量形式,使得原始文本中的每个字符可以输入所述编码层。所述编码层在每个时刻接收所述原始文本中的一个字符以及根据上一个字符得到的输出向量,并通过所述编码层的计算得到该时刻的输出向量,直至所述原始文本中的最后一个字符输入所述编码层得到固定长度的第一向量。所述第一向量中包括了所述原始文本中每个字符的特征。
步骤S103,根据所述第一向量生成与所述原始文本关联的多个搜索语句;
可选的,所述搜索语句生成方法使用搜索语句生成模型来生成文本,所述步骤S103包括:
将所述第一向量输入搜索语句生成模型的解码器;
所述解码器根据第一约束生成多个搜索语句;其中所述第一约束用于限制所述解码器输出的字符。
在一个实施例中,所述搜索语句生成模型包括解码层,其中所述解码层用于将所述第一向量转换成搜索语句中的字符。其中所述第一向量被输入所述解码层的输入层,并输出搜索语句中的第一个字符的向量,之后将所述第一个字符的向量作继续输入解码层的输入层,并输出第二个字符,以此类推,直至生成完整的搜索语句。其中所述解码器每个时刻的输出该时刻每个字符的概率,并选择概率最大的值最为该时刻的输出字符,并通过该字符继续输出下一个字符。但是这样输出仅仅只能输出一个文本,为了能输出多个文本以增加搜索语句的多样性,在本公开中在解码器输出时加入第一约束,所述第一约束用于限制所述解码器的某个或者某些时刻所输出的字符。
可选的,所述解码器根据第一约束生成所述多个搜索语句,包括:
所述解码器获取当前时刻的输出字符的概率;
根据所述概率获取预设个数的字符;
根据所述预设个数的字符生成所述多个搜索语句。
示例性的,所述解码器的输出包括6000个字符所对应的概率,则第一约束限制第一个字符选择概率最大的前K个字符作为当前时刻的输出字符和下一时刻的输入字符,这样可以得到K个搜索语句;或者第一约束限制每一时刻都选择概率最大的前K个字符作为当前时刻的输出字符和下一时刻的输入字符,这样可以得到Kn个搜索语句,其中n表示搜索语句的长度。由此,通过设置每个时刻输入中所选择的字符的个数,可以得到多个不同的搜索语句。
可选的,所述码器根据第一约束生成多个搜索语句,包括:
获取当前时刻的预先指定的多个字符;
根据所述多个字符生成所述多个搜索语句。
在该可选实施例中,为当前时刻预先指定多个字符作为输出字符;示例性的,可以指定几个字符作为第一个输出字符,此时,无论第一个输出字符的概率如何,都限定在固定几个字符中,这样可以得到指定首字符的搜索语句,并且由于指定了多个字符,因此可以通过所述多个字符生成后续的字符以生成多个搜索语句。
在该实施例中,所述搜索语句生成模型通过以下步骤训练得到:
获取训练文本集合,其中所述训练文本集合中包括第一训练文本和第二训练文本组成的文本对,其中所述第一训练文本为搜索语句,所述第二训练文本为所述搜索语句召回的文本中被用户选中的文本;
初始化所述搜索语句生成模型的参数;
将所述第二训练文本输入待训练的搜索语句生成模型得到预测的搜索语句;
根据所述预测的搜索语句和所述第一训练文本计算误差值;
根据所述误差值更新所述搜索语句生成模型的参数;
迭代上述参数的更新过程直至达到收敛条件得到所述搜索语句生成模型。
其中所述训练文本集合中包括用户的搜索语句,以及通过该搜索语音召回的文本中用户最终点击观看的文本。由于用户做了选择,因此搜索语句和被点击的文本之间有强关联关系,其是噪音较少的优质训练数据;通过本公开中的搜索语句生成方法所生成的搜索语句也需要与所述原始文本有强关联关系,因此使用搜索语音以及用户点击的文本作为训练搜索语句生成模型的文本对可以训练出能够预测搜索语句的模型。
示例性的,在本公开所述搜索语句生成模型为Transform模型,其输出序列的分布函数如下:
其中yt为当前时刻的输出字符,y0:t-1为当前时刻之前的输出字符,x1:T为输入字符,θ为搜索语句生成模型的参数集合。
通过以下损失函数计算预测搜索语句和所述第一训练文本之间的误差:
其中x为搜索语句生成模型的输入字符,yt为搜索语句生成模型的输出字符,当每个yt都等于其对应的第一训练文本时,所述损失函数的值最小,此时的搜索语句生成模型可以生成准确的搜索语句。可以理解的,上述损失函数只示出了一个训练文本的误差的计算过程,在实际训练中可以将多个训练文本放在一起计算损失函数的最小值,以加强模型的泛化能力。
通过上述损失函数计算误差,并通过误差反向传导来调整所述搜索语句生成模型的参数直至达到收敛条件,其中所述收敛条件为迭代次数达到预设的次数,如1000次,或者所述误差小于预设的阈值,如误差小于0.01等。
上述训练过程,使用了用户真实的搜索语句以及点击的文章作为训练数据,使得搜索语句生成模型所生成的搜索语句更贴合用户的意图。
步骤S104,建立所述多个搜索语句与所述原始文本的对应关系。
在本公开中,每个所述搜索语句可以与多个不同的原始文本对应,每个原始文本也可以与多个不同的搜索语句对应。示例性的,建立两个索引表,其中一个索引表使用原始文本的ID作为索引,用来查询每个原始文本所对应的搜索语句;另外一个索引表使用搜索语句的ID作为索引,用来查询每个搜索语句所对应的原始文本。
可选的,所述步骤S104包括:
将所述多个搜索语句按照所述搜索语句中每个字符出现的概率进行排序;
将排序之后的多个搜索语句与所述原始文本之间建立对应关系。
上述步骤对应示例性的以原始文本的ID为索引的索引表,示例性的,在建立以原始文本的ID为索引的索引表时,首先按照搜索语句中第一个字出现的概率对多个搜索语句进行排序,之后如果第一个字中有重复的字,再将包含有重复的第一个字的搜索语句按照第二个字出现的概率进行进一步排序,依次类推,直至所有的字排序完毕或者搜索语句排序结束。这样,每个原始文本所对应的搜索语句都是按照其出现概率排序的,当需要取出搜索语句时,可以按照概率大小顺序取出。
示例性的,在建立以搜索语句的ID为索引的索引表时,可以按照每个原始文本的点击率来对原始文本进行排序,以便之后通过搜索语句获取原始文本时,首选获取到点击率最高的原始文本。
进一步的,在实际使用时,所述搜索语句生成方法用于向用于展示相关文本的链接。可选的,所述方法还包括:
步骤S201,显示第一原始文本;
步骤S202,基于所述对应关系,获取与所述第一原始文本相关联的多个第一搜索语句;
步骤S203,从所述多个第一搜索语句中选择至少一个第一搜索语句作为第二搜索语句;
步骤S204,基于所述对应关系,获取与所述第二搜索语句相关联的第二原始文本
步骤S205,将所述第二搜索语句显示在所述第一原始文本的周围,以便通过所述第二搜索语句访问所述第二原始文本。
在步骤S201中,所述第一原始文本为用户通过输入搜索语句搜索到的文章等。之后通过显示装置向用户展示所述第一原始文本,其中所述第一原始文本可以是用户点击之后所展示的完整的第一原始文本或者是搜索引擎召回的多个结果,以一定的形式展示给用户。
在步骤S202和步骤S203中,使用第一原始文本的ID在所述索引表中查找与之对应的多个第一搜索语句,并从中选择至少一个第第一搜索语句作为第二搜索语句,其中所述第二搜索语句可以是从所述多个第一搜索语句中随机选择出来的,或者根据预设的个数m,选择所述第一原始文本所对应的多个第一搜索语句中的前m个。本公开对如何从所述多个第一搜索语句中选择第二搜索语句不做限定,任何从多个第一搜索语句中选择出至少一个第二搜索乬的策略都可以应用于本公开中。可选的,如果在所述索引表中没有查找到所述第一原始文本,则使用上述步骤S101-步骤S104生成与所述第一原始文本对应的多个搜索语句,并将第一原始文本的ID和所述多个搜索语句加入所述索引表中。
在步骤S204中,基于所述对应关系,获取与所述第二搜索语句相关联的第二原始文本。
可选的,所述步骤S204包括:
步骤S301,根据所述对应关系获取与所述第二搜索语句对应的第二原始文本;
步骤S302,获取所述第二原始文本的访问地址;
步骤S303,将所述第二搜索语句设置为所述第二原始文本的访问地址。
其中所述对应关系为上述的索引表,通过第二搜索语句的ID查找与第二文本相关的第二原始文本。可选的,对于网络中的可访问的文本,如新闻、文章等,都有其访问地址,示例性的所述方位地址为URL,将所述第二文本设置为该URL以使得用户点击所述第二搜索语句之后可以显示所述第二原始文本。
在步骤S205中,将所述第二搜索语句显示在所述第一原始文本的周围,以便通过所述第二搜索语句访问所述第二原始文本。示例性的,所述第一原始文本为西班牙足球甲级联赛的比赛信息,所述第二文本为“皇家马德里最近赛况”,所述第二搜索语句被设置为皇家马德里最近的比赛新闻。由此,用户可以直接通过第一原始文本周围的第二搜索语句选择自己感兴趣的相关文章进行阅读。
通过上述搜索语句生成方法,可以生成与原始文本相关的搜索语句,并根据用户正在阅读的文本,通过搜索语句关联与其相关的其他文本,使得用户通过该搜索语句可以直接访问与其相关的其他文本。
本公开实施例公开了一种搜索语句生成方法,该搜索语句生成方法包括:获取原始文本;将所述原始文本转换成第一向量;根据所述第一向量生成与所述原始文本关联的多个搜索语句;建立所述多个搜索语句与所述原始文本的对应关系。上述方法通过原始文本的向量生成多个与所述原始文本相关的搜索语句,并建立搜索语句和原始文本之间的对应关系,解决了现有技术中直接在原始文本中查找搜索语句所带来的限制召回结果的技术问题。
在上文中,虽然按照上述的顺序描述了上述方法实施例中的各个步骤,本领域技术人员应清楚,本公开实施例中的步骤并不必然按照上述顺序执行,其也可以倒序、并行、交叉等其他顺序执行,而且,在上述步骤的基础上,本领域技术人员也可以再加入其他步骤,这些明显变型或等同替换的方式也应包含在本公开的保护范围之内,在此不再赘述。
图4为本公开实施例提供的搜索语句生成装置实施例的结构示意图,如图4所示,该装置400包括:原始文本获取模块401、向量转换模块402、搜索语句生成模块403和对应关系建立模块404。其中,
原始文本获取模块401,用于获取原始文本;
向量转换模块402,用于将所述原始文本转换成第一向量;
搜索语句生成模块403,用于根据所述第一向量生成与所述原始文本关联的多个搜索语句;
对应关系建立模块404,用于建立所述多个搜索语句与所述原始文本的对应关系。
进一步的,所述搜索语句生成装置400还包括:
显示模块,用于显示第一原始文本;
第一搜索语句获取模块,用于基于所述对应关系,获取与所述第一原始文本相关联的多个第一搜索语句;
第二搜索语句获取模块,用于从所述多个第一搜索语句中选择至少一个第一搜索语句作为第二搜索语句;
第二原始文本获取模块,用于基于所述对应关系,获取与所述第二搜索语句相关联的第二原始文本;
所述显示模块还用于,将所述第二搜索语句显示在所述第一原始文本的周围,以便通过所述第二搜索语句访问所述第二原始文本。
进一步的,所述向量转换模块402,还用于:
将所述原始文本输入搜索语句生成模型的编码层;
所述编码层输出固定长度的第一向量。
进一步的,所述搜索语句生成模块403,还用于:
将所述第一向量输入搜索语句生成模型的解码器;
所述解码器根据第一约束生成多个搜索语句;其中所述第一约束用于限制所述解码器输出的字符。
进一步的,所述搜索语句生成模块403,还用于:
所述解码器获取当前时刻的输出字符的概率;
根据所述概率获取预设个数的字符;
根据所述预设个数的字符生成所述多个搜索语句。
进一步的,所述搜索语句生成模块403,还用于:
获取当前时刻的预先指定的多个字符;
根据所述多个字符生成所述多个搜索语句。
进一步的,所述对应关系建立模块404,还用于:
将所述多个搜索语句按照所述搜索语句中每个字符出现的概率进行排序;
将排序之后的多个搜索语句与所述第一原始文本之间建立对应关系。
进一步的,所述搜索语句生成模型通过以下步骤训练得到:
获取训练文本集合,其中所述训练文本集合中包括第一训练文本和第二训练文本组成的文本对,其中所述第一训练文本为搜索语句,所述第二训练文本为所述搜索语句召回的文本中被用户选中的文本;
初始化所述搜索语句生成模型的参数;
将所述第二训练文本输入待训练的搜索语句生成模型得到预测的搜索语句;
根据所述预测的搜索语句和所述第一训练文本计算误差值;
根据所述误差值更新所述搜索语句生成模型的参数;
迭代上述参数的更新过程直至达到收敛条件得到所述搜索语句生成模型。
图4所示装置可以执行图1-图3所示实施例的方法,本实施例未详细描述的部分,可参考对图1-图3所示实施例的相关说明。该技术方案的执行过程和技术效果参见图1-图3所示实施例中的描述,在此不再赘述。
下面参考图5,其示出了适于用来实现本公开实施例的电子设备500的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图5示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示,电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置508被安装,或者从ROM 502被安装。在该计算机程序被处理装置501执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取原始文本;将所述原始文本转换成第一向量;根据所述第一向量生成与所述原始文本关联的多个搜索语句;建立所述多个搜索语句与所述原始文本的对应关系。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,提供了一种搜索语句生成方法,包括:
获取原始文本;
将所述原始文本转换成第一向量;
根据所述第一向量生成与所述原始文本关联的多个搜索语句;
建立所述多个搜索语句与所述原始文本的对应关系。
进一步的,所述方法还包括:
显示第一原始文本;
基于所述对应关系,获取与所述第一原始文本相关联的多个第一搜索语句;
从所述多个第一搜索语句中选择至少一个第一搜索语句作为第二搜索语句;
基于所述对应关系,获取与所述第二搜索语句相关联的第二原始文本;
将所述第二搜索语句显示在所述第一原始文本的周围,以便通过所述第二搜索语句访问所述第二原始文本。
进一步的,所述将所述第一原始文本转换成第一向量,包括:
将所述原始文本输入搜索语句生成模型的编码层;
所述编码层输出固定长度的第一向量。
进一步的,所述根据所述第一向量生成与所述原始文本关联的多个搜索语句,包括:
将所述第一向量输入搜索语句生成模型的解码器;
所述解码器根据第一约束生成所述多个搜索语句;其中所述第一约束用于限制所述解码器输出的字符。
进一步的,所述解码器根据第一约束生成所述多个搜索语句,包括:
所述解码器获取当前时刻的输出字符的概率;
根据所述概率获取预设个数的字符;
根据所述预设个数的字符生成所述多个搜索语句。
进一步的,所述解码器根据第一约束生成所述多个搜索语句,包括:
获取当前时刻的预先指定的多个字符;
根据所述多个字符生成所述多个搜索语句。
进一步的,所述建立所述多个搜索语句与所述原始文本的对应关系,包括:
将所述多个搜索语句按照所述搜索语句中每个字符出现的概率进行排序;
将排序之后的多个搜索语句与所述原始文本之间建立对应关系。
进一步的,所述搜索语句生成模型通过以下步骤训练得到:
获取训练文本集合,其中所述训练文本集合中包括第一训练文本和第二训练文本组成的文本对,其中所述第一训练文本为搜索语句,所述第二训练文本为所述搜索语句召回的文本中被用户选中的文本;
初始化所述搜索语句生成模型的参数;
将所述第二训练文本输入待训练的搜索语句生成模型得到预测的搜索语句;
根据所述预测的搜索语句和所述第一训练文本计算误差值;
根据所述误差值更新所述搜索语句生成模型的参数;
迭代上述参数的更新过程直至达到收敛条件得到所述搜索语句生成模型。
根据本公开的一个或多个实施例,提供了一种搜索语句生成装置,包括:
原始文本获取模块,用于获取原始文本;
向量转换模块,用于将所述原始文本转换成第一向量;
搜索语句生成模块,用于根据所述第一向量生成与所述原始文本关联的多个搜索语句;
对应关系建立模块,用于建立所述多个搜索语句与所述原始文本的对应关系。
进一步的,所述搜索语句生成装置还包括:
显示模块,用于显示第一原始文本;
第一搜索语句获取模块,用于基于所述对应关系,获取与所述第一原始文本相关联的多个第一搜索语句;
第二搜索语句获取模块,用于从所述多个第一搜索语句中选择至少一个第一搜索语句作为第二搜索语句;
第二原始文本获取模块,用于基于所述对应关系,获取与所述第二搜索语句相关联的第二原始文本;
所述显示模块还用于,将所述第二搜索语句显示在所述第一原始文本的周围,以便通过所述第二搜索语句访问所述第二原始文本。
进一步的,所述向量转换模块,还用于:
将所述原始文本输入搜索语句生成模型的编码层;
所述编码层输出固定长度的第一向量。
进一步的,所述搜索语句生成模块,还用于:
将所述第一向量输入搜索语句生成模型的解码器;
所述解码器根据第一约束生成多个搜索语句;其中所述第一约束用于限制所述解码器输出的字符。
进一步的,所述搜索语句生成模块,还用于:
所述解码器获取当前时刻的输出字符的概率;
根据所述概率获取预设个数的字符;
根据所述预设个数的字符生成所述多个搜索语句。
进一步的,所述搜索语句生成模块,还用于:
获取当前时刻的预先指定的多个字符;
根据所述多个字符生成所述多个搜索语句。
进一步的,所述对应关系建立模块,还用于:
将所述多个搜索语句按照所述搜索语句中每个字符出现的概率进行排序;
将排序之后的多个搜索语句与所述第一原始文本之间建立对应关系。
进一步的,所述搜索语句生成模型通过以下步骤训练得到:
获取训练文本集合,其中所述训练文本集合中包括第一训练文本和第二训练文本组成的文本对,其中所述第一训练文本为搜索语句,所述第二训练文本为所述搜索语句召回的文本中被用户选中的文本;
初始化所述搜索语句生成模型的参数;
将所述第二训练文本输入待训练的搜索语句生成模型得到预测的搜索语句;
根据所述预测的搜索语句和所述第一训练文本计算误差值;
根据所述误差值更新所述搜索语句生成模型的参数;
迭代上述参数的更新过程直至达到收敛条件得到所述搜索语句生成模型。
根据本公开的一个或多个实施例,提供了一种电子设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有能被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行前述第一方面中的任一所述搜索语句生成方法。
根据本公开的一个或多个实施例,提供了一种非暂态计算机可读存储介质,其特征在于,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行前述第一方面中的任一所述搜索语句生成方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (11)
1.一种搜索语句生成方法,其特征在于,包括:
获取原始文本;
将所述原始文本转换成第一向量;
根据所述第一向量生成与所述原始文本关联的多个搜索语句;
建立所述多个搜索语句与所述原始文本的对应关系。
2.如权利要求1所述的文本生成方法,其特征在于,所述方法还包括:
显示第一原始文本;
基于所述对应关系,获取与所述第一原始文本相关联的多个第一搜索语句;
从所述多个第一搜索语句中选择至少一个第一搜索语句作为第二搜索语句;
基于所述对应关系,获取与所述第二搜索语句相关联的第二原始文本;
将所述第二搜索语句显示在所述第一原始文本的周围,以便通过所述第二搜索语句访问所述第二原始文本。
3.如权利要求1所述的文本生成方法,其中所述将所述第一原始文本转换成第一向量,包括:
将所述原始文本输入搜索语句生成模型的编码层;
所述编码层输出固定长度的第一向量。
4.如权利要求1所述的文本生成方法,其中所述根据所述第一向量生成与所述原始文本关联的多个搜索语句,包括:
将所述第一向量输入搜索语句生成模型的解码器;
所述解码器根据第一约束生成所述多个搜索语句;其中所述第一约束用于限制所述解码器输出的字符。
5.如权利要求4所述的文本生成方法,其中所述解码器根据第一约束生成所述多个搜索语句,包括:
所述解码器获取当前时刻的输出字符的概率;
根据所述概率获取预设个数的字符;
根据所述预设个数的字符生成所述多个搜索语句。
6.如权利要求4所述的文本生成方法,其中所述解码器根据第一约束生成所述多个搜索语句,包括:
获取当前时刻的预先指定的多个字符;
根据所述多个字符生成所述多个搜索语句。
7.如权利要求1所述的文本生成方法,其中所述建立所述多个搜索语句与所述原始文本的对应关系,包括:
将所述多个搜索语句按照所述搜索语句中每个字符出现的概率进行排序;
将排序之后的多个搜索语句与所述原始文本之间建立对应关系。
8.如权利要求3或4中任一项所述的文本生成方法,其中所述搜索语句生成模型通过以下步骤训练得到:
获取训练文本集合,其中所述训练文本集合中包括第一训练文本和第二训练文本组成的文本对,其中所述第一训练文本为搜索语句,所述第二训练文本为所述搜索语句召回的文本中被用户选中的文本;
初始化所述搜索语句生成模型的参数;
将所述第二训练文本输入待训练的搜索语句生成模型得到预测的搜索语句;
根据所述预测的搜索语句和所述第一训练文本计算误差值;
根据所述误差值更新所述搜索语句生成模型的参数;
迭代上述参数的更新过程直至达到收敛条件得到所述搜索语句生成模型。
9.一种搜索语句生成装置,其特征在于,包括:
原始文本获取模块,用于获取原始文本;
向量转换模块,用于将所述原始文本转换成第一向量;
搜索语句生成模块,用于根据所述第一向量生成与所述原始文本关联的多个搜索语句;
对应关系建立模块,用于建立所述多个搜索语句与所述原始文本的对应关系。
10.一种电子设备,包括:
存储器,用于存储计算机可读指令;以及
处理器,用于运行所述计算机可读指令,使得所述处理器运行时实现根据权利要求1-8中任意一项所述的方法。
11.一种非暂态计算机可读存储介质,用于存储计算机可读指令,当所述计算机可读指令由计算机执行时,使得所述计算机执行权利要求1-8中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010552231.9A CN111737572B (zh) | 2020-06-17 | 2020-06-17 | 搜索语句生成方法、装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010552231.9A CN111737572B (zh) | 2020-06-17 | 2020-06-17 | 搜索语句生成方法、装置和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111737572A true CN111737572A (zh) | 2020-10-02 |
CN111737572B CN111737572B (zh) | 2024-01-30 |
Family
ID=72649596
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010552231.9A Active CN111737572B (zh) | 2020-06-17 | 2020-06-17 | 搜索语句生成方法、装置和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111737572B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112632395A (zh) * | 2020-12-31 | 2021-04-09 | 深圳追一科技有限公司 | 搜索推荐方法和装置、服务器、计算机可读存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050071150A1 (en) * | 2002-05-28 | 2005-03-31 | Nasypny Vladimir Vladimirovich | Method for synthesizing a self-learning system for extraction of knowledge from textual documents for use in search |
CN110619034A (zh) * | 2019-06-27 | 2019-12-27 | 中山大学 | 基于Transformer模型的文本关键词生成方法 |
CN110990696A (zh) * | 2019-11-25 | 2020-04-10 | 三角兽(北京)科技有限公司 | 搜索意图推荐的方法及装置 |
-
2020
- 2020-06-17 CN CN202010552231.9A patent/CN111737572B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050071150A1 (en) * | 2002-05-28 | 2005-03-31 | Nasypny Vladimir Vladimirovich | Method for synthesizing a self-learning system for extraction of knowledge from textual documents for use in search |
CN110619034A (zh) * | 2019-06-27 | 2019-12-27 | 中山大学 | 基于Transformer模型的文本关键词生成方法 |
CN110990696A (zh) * | 2019-11-25 | 2020-04-10 | 三角兽(北京)科技有限公司 | 搜索意图推荐的方法及装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112632395A (zh) * | 2020-12-31 | 2021-04-09 | 深圳追一科技有限公司 | 搜索推荐方法和装置、服务器、计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111737572B (zh) | 2024-01-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110969012B (zh) | 文本纠错方法、装置、存储介质及电子设备 | |
CN113470619B (zh) | 语音识别方法、装置、介质及设备 | |
CN111368559A (zh) | 语音翻译方法、装置、电子设备及存储介质 | |
CN111368560A (zh) | 文本翻译方法、装置、电子设备及存储介质 | |
CN111382261B (zh) | 摘要生成方法、装置、电子设备及存储介质 | |
CN112364860A (zh) | 字符识别模型的训练方法、装置和电子设备 | |
CN111314388B (zh) | 用于检测sql注入的方法和装置 | |
CN115967833A (zh) | 视频生成方法、装置、设备计存储介质 | |
CN112883968A (zh) | 图像字符识别方法、装置、介质及电子设备 | |
CN111046677A (zh) | 一种翻译模型的获取方法、装置、设备和存储介质 | |
CN112380876A (zh) | 基于多语言机器翻译模型的翻译方法、装置、设备和介质 | |
CN115270717A (zh) | 一种立场检测方法、装置、设备及介质 | |
CN114765025A (zh) | 语音识别模型的生成方法、识别方法、装置、介质及设备 | |
CN111008213A (zh) | 用于生成语言转换模型的方法和装置 | |
CN110852720A (zh) | 文档的处理方法、装置、设备及存储介质 | |
CN111737571A (zh) | 搜索方法、装置和电子设备 | |
CN111737572B (zh) | 搜索语句生成方法、装置和电子设备 | |
WO2023134433A1 (zh) | 一种字体生成方法、装置及设备 | |
CN110598049A (zh) | 用于检索视频的方法、装置、电子设备和计算机可读介质 | |
CN113986958B (zh) | 文本信息的转换方法、装置、可读介质和电子设备 | |
CN114429629A (zh) | 图像处理方法、装置、可读存储介质及电子设备 | |
CN113987118A (zh) | 语料的获取方法、装置、设备及存储介质 | |
CN114239501A (zh) | 合同生成方法、装置、设备及介质 | |
CN113807056A (zh) | 一种文档名称序号纠错方法、装置和设备 | |
CN111626044A (zh) | 文本生成方法、装置、电子设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |