CN116628179B - 一种用户操作数据的可视化与人机交互推荐方法 - Google Patents

一种用户操作数据的可视化与人机交互推荐方法 Download PDF

Info

Publication number
CN116628179B
CN116628179B CN202310625865.6A CN202310625865A CN116628179B CN 116628179 B CN116628179 B CN 116628179B CN 202310625865 A CN202310625865 A CN 202310625865A CN 116628179 B CN116628179 B CN 116628179B
Authority
CN
China
Prior art keywords
vector
recommended
entity
representing
topic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310625865.6A
Other languages
English (en)
Other versions
CN116628179A (zh
Inventor
王东辉
赵文涛
曹豪杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daoyoudao Technology Group Co ltd
Original Assignee
Daoyoudao Technology Group Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daoyoudao Technology Group Co ltd filed Critical Daoyoudao Technology Group Co ltd
Priority to CN202310625865.6A priority Critical patent/CN116628179B/zh
Publication of CN116628179A publication Critical patent/CN116628179A/zh
Application granted granted Critical
Publication of CN116628179B publication Critical patent/CN116628179B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/335Filtering based on additional data, e.g. user or group profiles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/332Query formulation
    • G06F16/3329Natural language query formulation or dialogue systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36Creation of semantic tools, e.g. ontology or thesauri
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种用户操作数据的可视化与人机交互推荐方法,属于人机交互技术领域,方法包括:获取与目标用户行为相似的参照用户和对应评分记录;计算目标用户对待推荐话题的预测评分;获取目标用户与交互程序对话内容和对话内容数量,预测待推荐话题被推荐至目标用户概率;构建待推荐优秀话题库;引入实体关系实体三元组的约束条件,利用TransD算法构建Trans映射模型;将对话内容输入至Trans映射模型,提取对话内容的词向量、实体对实体的关系向量和上下文实体向量并将三者进行融合,获取对话内容的对话内容嵌入向量;利用注意力模型确定目标用户当前时刻推荐话题嵌入向量;获取目标用户对待推荐优秀话题的点击概率,将点击率较高的推荐至目标用户。

Description

一种用户操作数据的可视化与人机交互推荐方法
技术领域
本发明属于人机交互技术领域,具体涉及一种用户操作数据的可视化与人机交互推荐方法。
背景技术
人机交互是研究人类与计算机之间交互的技术,旨在设计和开发用户友好、高效、有效的计算机系统和界面。人机交互方法涉及多个层面,包括用户界面设计、用户体验评估、交互技术、认知心理学、社会学、设计原则等。其中,人机交互推荐方法则是在人机交互环境下,利用推荐技术为用户提供个性化的推荐服务的方法。这种方法通常结合了人机交互的理论和方法,并利用推荐系统的技术来为用户提供推荐信息,从而增强用户的交互体验和满意度。
目前,在人机对话的过程中进行话题推荐的过程中,往往需要较多的目标用户行为数据,这就造成在用户行为数据稀疏的情况下,往往不能得到准确的推荐话题,用户交互体验差,另外,现有技术在进行推荐话题时,往往只是对目标用户的交互数据进行分析,新话题推荐驱动力低,在交互陷入僵局时,由于目标用户行为数据不足可能导致推荐准确率进入恶性循环。
发明内容
为了解决现有技术在人机对话的过程中进行话题推荐的过程中,往往需要较多的目标用户行为数据,这就造成在用户行为数据稀疏的情况下,往往不能得到准确的推荐话题,用户交互体验差,另外,现有技术在进行推荐话题时,往往只是对目标用户的交互数据进行分析,推荐范围小,新话题推荐驱动力低,在交互陷入僵局时,由于目标用户行为数据不足可能导致推荐准确率进入恶性循环的技术问题,本发明提供一种用户操作数据的可视化与人机交互推荐方法。
第一方面
本发明提供一种人机交互推荐方法,包括:
S101:获取与目标用户行为相似的参照用户,并获取参照用户的喜好话题和各喜好话题对应的评分记录;
S102:根据参照用户的喜好话题评分记录,计算目标用户对待推荐话题的预测评分;
S103:获取目标用户与交互程序的对话内容和对话内容数量,预测待推荐话题被推荐至目标用户的概率,其中,对话内容包括交互话题和关于交互话题的多个上下文向量;
S104:根据目标用户对待推荐话题的预测评分和交互话题被推荐至目标用户的概率,得到待推荐话题的排名得分,并依据排名得分挑选待推荐优秀话题,构建待推荐优秀话题库;
S105:引入实体关系实体三元组的约束条件,利用TransD算法构建Trans映射模型;
S106:将对话内容输入至Trans映射模型,提取对话内容的词向量、实体对实体的关系向量和上下文实体向量;
S107:利用知识感知深度学习模型将词向量、实体对实体的关系向量和上下文实体向量进行融合,获取对话内容的对话内容嵌入向量;
S108:考虑目标用户在不同时刻对话内容对当前时刻候选话题的影响因素,利用注意力模型确定目标用户在当前时刻的推荐话题嵌入向量;
S109:基于对话内容嵌入向量和推荐话题嵌入向量,利用深度学习模型获取目标用户对待推荐优秀话题的点击概率;
S110:选择大于预设概率的点击概率对应的待推荐优秀话题推荐至目标用户。
第二方面
本发明提供一种人机交互推荐系统,包括:
第一获取模块,用于获取与目标用户行为相似的参照用户,并获取参照用户的喜好话题和各喜好话题对应的评分记录;
计算模块,用于根据参照用户的喜好话题评分记录,计算目标用户对待推荐话题的预测评分;
预测模块,用于获取目标用户与交互程序的对话内容和对话内容数量,预测待推荐话题被推荐至目标用户的概率,其中,对话内容包括交互话题和关于交互话题的多个上下文向量,;
第一构建模块,用于根据目标用户对待推荐话题的预测评分和交互话题被推荐至目标用户的概率,得到待推荐话题的排名得分,并依据排名得分挑选待推荐优秀话题,构建待推荐优秀话题库;
第二构建模块,用于引入实体关系实体三元组的约束条件,利用TransD算法构建Trans映射模型;
提取模块,用于将对话内容输入至Trans映射模型,提取对话内容的词向量、实体对实体的关系向量和上下文实体向量;
融合模块,用于利用知识感知深度学习模型将词向量、实体对实体的关系向量和上下文实体向量进行融合,获取对话内容的对话内容嵌入向量;
确定模块,用于考虑目标用户在不同时刻对话内容对当前时刻候选话题的影响因素,利用注意力模型确定目标用户在当前时刻的推荐话题嵌入向量;
第二获取模块,用于基于对话内容嵌入向量和推荐话题嵌入向量,利用深度学习模型获取目标用户对待推荐优秀话题的点击概率;
推荐模块,用于选择大于预设概率的点击概率对应的待推荐优秀话题推荐至目标用户。
与现有技术相比,本发明至少具有以下有益效果:
本发明通过获取与目标用户行为相似的参照用户,以参照用户的喜好话题作为话题推荐驱动力,对目标用户进行话题推荐,在目标用户的行为数据很少的情况下,也可以根据参照用户的喜好推测出较准确的待推荐优秀话题,降低了用户交互使用门槛,提高用户使用体验,降低目标用户喜好获取难度,能够在第一时间抓住用户兴趣点进行及时推荐,避免交互出现僵局。此外,通过引入实体关系实体三元组的约束条件,构建更加准确的映射模型,避免在对话内容的实体提取过程中出现较大偏差,提高最终的推荐准确程度。提取包括上下文实体向量并将获取到的向量内容进行融合,利用注意力模型结合推荐话题嵌入向量和对话内容嵌入向量进行兴趣话题推荐,进一步提高推荐的准确性,提升交互体验,有利于交互产品的推广和使用。
附图说明
下面将以明确易懂的方式,结合附图说明优选实施方式,对本发明的上述特性、技术特征、优点及其实现方式予以进一步说明。
图1是本发明提供的一种人机交互推荐方法的流程示意图;
图2是本发明提供的一种人机交互推荐系统的结构示意图。
具体实施方式
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对照附图说明本发明的具体实施方式。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图,并获得其他的实施方式。
为使图面简洁,各图中只示意性地表示出了与发明相关的部分,它们并不代表其作为产品的实际结构。另外,以使图面简洁便于理解,在有些图中具有相同结构或功能的部件,仅示意性地绘示了其中的一个,或仅标出了其中的一个。在本文中,“一个”不仅表示“仅此一个”,也可以表示“多于一个”的情形。
还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
在本文中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
另外,在本发明的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在一个实施例中,参考说明书附图1,本发明提供的一种人机交互推荐方法的流程示意图。
本发明提供的一种人机交互推荐方法,包括:
S101:获取与目标用户行为相似的参照用户,并获取参照用户的喜好话题和各喜好话题对应的评分记录。
需要说明的是,在人机交互推荐方法中,通过比较目标用户和其他用户的行为,例如历史点击、购买、评分、浏览记录、浏览时长等,找到与目标用户兴趣相似的参照用户,从而为目标用户推荐相似的话题或内容,通过获取参照用户的喜好话题和评分记录,可以建立一个用户画像或模型,用于计算目标用户对待推荐话题的预测评分,并为后续的推荐排序和筛选提供依据。这样可以提高推荐的准确性和个性化程度,从而提升用户体验和推荐效果。
在一种可能的实施方式中,S101具体包括:
S1011:利用二维评分矩阵和相似度计算方法,计算目标用户与参照用户的相似度;
S1012:选择相似度大于预设相似度的参照用户;
S1013:从参照用户的历史浏览数据中获取参照用户的喜好话题和各喜好话题对应的评分记录。
S102:根据参照用户的喜好话题评分记录,计算目标用户对待推荐话题的预测评分。
需要说明的是,通过交互过程中计算目标用户对待推荐话题的预测评分,对参照用户的历史行为和兴趣进行分析和计算,评估目标用户对不同的待推荐话题的兴趣程度,从而为后续的推荐排序和筛选提供依据。这样可以根据目标用户的兴趣偏好,为其提供更加个性化和符合其兴趣的推荐内容,提高用户体验和推荐效果。
在一种可能的实施方式中,S102具体包括:
S1021:根据各个参照用户,构造参照用户集;
S1022:获取参照用户的喜好话题评分记录;
S1023:根据参照用户的喜好话题评分记录,计算目标用户对待推荐话题的预测评分:
S(T)表示预测评分,表示目标用户u对已评分项目的平均评分,/>表示参照用户v对以评分项目的平均评分,Sv,T表示参照用户对待推荐话题T的评分,Su,v表示通过用户项目二维评分矩阵和相似度原理计算得到的参照用户和目标用户之间的相似度,Nu表示参照用户集。
S103:获取目标用户与交互程序的对话内容和对话内容数量,预测待推荐话题被推荐至目标用户的概率,其中,对话内容包括交互话题和关于交互话题的多个上下文向量。
其中,交互话题指用户与交互程序之间的对话中所涉及到的话题或主题。例如,当用户与交互程序进行对话时,用户可能会提出问题、表达兴趣、询问建议等,这些都可以被认为是交互话题。上下文向量是指与交互话题相关的其他信息或上下文。在对话中,用户和交互程序之间的对话往往是连贯的,前面的对话内容可能会对后面的对话产生影响。因此,为了更好地理解用户的兴趣和需求,需要考虑与交互话题相关的多个上下文向量,这些上下文向量可以包括前面的对话内容、用户的历史行为、环境信息等。
需要说明的是,通过获取目标用户与交互程序的对话内容和对话内容数量,并预测待推荐话题被推荐至目标用户的概率,可以更加深入地了解目标用户的兴趣和需求,从而更加精准地为其推荐合适的话题。这有助于提高推荐系统的个性化程度,增强用户对推荐内容的接受度和满意度。
在一种可能的实施方式中,S103具体包括:
S1031:通过word2vec提取对话内容的交互话题和关于交互话题的多个上下文向量;
S1032:根据交互话题和交互话题的多个上下文向量,预测交互话题被推荐至目标用户的概率:
其中,P(T'/C)表示交互话题出现概率,C表示上下文向量组成的上下文向量集,ck表示交互话题对应的具体内容。
S104:根据目标用户对待推荐话题的预测评分和交互话题被推荐至目标用户的概率,得到待推荐话题的排名得分,并依据排名得分挑选待推荐优秀话题,构建待推荐优秀话题库。
需要说明的是,该步骤主要用途是进行推荐话题的排序和筛选,以便选择最合适的待推荐优秀话题供后续的推荐过程使用。通过综合考虑目标用户对待推荐话题的预测评分和交互话题被推荐至目标用户的概率,为每个待推荐话题生成一个排名得分,用于对话内容的推荐排序,排名得分高的话题会被认为更适合推荐给目标用户,从而构建待推荐优秀话题库,以便后续的推荐步骤从中选择合适的话题进行推荐。
在一种可能的实施方式中,S104具体包括:
S1041:待推荐话题的排名得分的计算方式为:
Ranku,c(T)=S(T)·P(T/C)。
S1042:根据排名得分,选择得分值高的预设数量的待推荐话题作为待推荐优秀话题,构建待推荐优秀话题库。
需要说明的是,本领域技术人员可以根据实际需要对预设数量进行选择,本发明对此不做限定。
S105:引入实体关系实体三元组的约束条件,利用TransD算法构建Trans映射模型。
需要说明的是,该映射模型可以用于将实体和关系从一个知识图谱(如知识库或图数据库)映射到另一个表示空间,从而在推荐过程中融入实体关系信息。TransD算法是一种常用的知识图谱嵌入方法,它可以通过对实体和关系之间的映射进行学习,将实体和关系映射到低维的连续向量空间中,从而捕捉实体和关系之间的语义关联。通过引入实体关系实体三元组的约束条件和构建Trans映射模型,可以丰富推荐系统的推荐结果,提高推荐的准确性和个性化程度,从而提升用户满意度。TransD算法在嵌入实体和关系时,引入了一组实体关系实体三元组的约束条件,通过优化损失函数,学习实体和关系的嵌入向量,可以最大程度的使得实体与实体映射的关系更加平缓,提高映射准确性和可靠性。
在一种可能的实施方式中,Trans映射模型具体为:
其中,(h,r,t)表示实体关系实体三元组,Mrh表示头实体映射矩阵,Mrt表示尾实体映射矩阵,表示头实体映射向量,rp表示关系向量,/>表示尾实体映射向量,Im×n表示单位矩阵,l表示三元组头部向量h、关系向量r和尾部向量t之间的约束条件。
S106:将对话内容输入至Trans映射模型,提取对话内容的词向量、实体对实体的关系向量和上下文实体向量。
需要说明的是,将对话内容中的单词或词组转换成对应的词向量表示,用于后续的计算和分析。识别对话内容中的实体,并将实体之间的关系转换成关系向量,用于表示实体之间的语义关联。将对话内容中涉及的实体作为上下文实体,提取其对应的实体向量表示,用于捕捉对话内容中的上下文信息,这些提取操作可以使用TransD算法来完成,该算法可以用于在向量空间中进行实体之间的关系映射,以及对实体和关系进行嵌入表示。通过将对话内容转换成向量表示,为后续的推荐模型和深度学习模型提供输入,从而实现对话内容的语义建模和深度学习特征提取,以支持后续步骤中的推荐和点击概率预测等功能。
S107:利用知识感知深度学习模型将词向量、实体对实体的关系向量和上下文实体向量进行融合,获取对话内容的对话内容嵌入向量。
其中,知识感知深度学习模型是一种深度学习模型,它在模型训练过程中能够利用外部知识或先验知识来增强模型的学习能力和性能。这种类型的模型通常通过将外部知识与原始数据进行结合,从而对数据进行更深入和更全面的建模,结合了外部知识或先验知识,通过在模型训练过程中利用这些知识来增强模型的学习能力和性能。在这种情况下,知识感知深度学习模型用于将对话内容中的不同信息进行融合,从而生成对话内容的嵌入向量,这个向量可以在后续的步骤中用于进一步的推荐话题和预测用户行为。
需要说明的是,通过将对话内容中的不同信息进行融合,知识感知深度学习模型可以帮助模型更好地理解对话内容中的语义、实体关系等信息,从而提升模型在后续步骤中的表现。例如,在这里,对话内容中的词向量、实体对实体的关系向量和上下文实体向量可以通过知识感知深度学习模型进行融合,生成一个对话内容嵌入向量,该向量可以用于后续的注意力模型、深度学习模型等步骤,从而更好地理解对话内容,并在推荐话题和预测用户行为时提供更有用的信息。
在一种可能的实施方式中,S107具体包括:
S1071:构建实体对实体的关系向量和上下文实体向量映射至词向量的映射关系式:
其中,e1,n表示实体对实体的关系向量,表示上下文实体向量,g表示非线性映射函数,M表示映射矩阵,b表示可训练偏置参数;
S1072:将映射关系式的三个元素对齐叠加,得到多通道词向量矩阵:
S1073:利用不同大小窗口的卷积滤波器,获取对话内容的局部输出特征:
ci=f(h*Wi:i+l-1+b)
其中,ci表示子矩阵Wi:i+l-1的特征,l表示窗口大小,f表示非线性函数;
S1074:选择局部输出特征中的最大值作为对话内容嵌入向量:
e(t)=max{c1,c2,…cn-l+1}。
S108:考虑目标用户在不同时刻对话内容对当前时刻候选话题的影响因素,利用注意力模型确定目标用户在当前时刻的推荐话题嵌入向量。
其中,注意力模型是一种深度学习模型,它可以在序列数据中学习不同部分的权重,从而对不同部分进行不同程度的关注。在这种情况下,注意力模型用于对目标用户在不同时刻对话内容的影响进行建模,从而更好地理解对话内容对当前时刻候选话题的重要性,并确定目标用户在当前时刻的推荐话题嵌入向量。
需要说明的是,通过引入注意力模型,可以在推荐系统中更加细致地考虑用户在不同时刻的兴趣和偏好的变化,从而提升推荐的准确性和个性化程度。例如,在这里,注意力模型可以根据目标用户在不同时刻对话内容的关注度、参与度等信息,为当前时刻的推荐话题嵌入向量赋予不同的权重,从而更好地反映目标用户在当前时刻的兴趣和偏好,从而提升推荐系统的效果。
在一种可能的实施方式中,S108具体包括:
S1081:获取对话内容嵌入向量的表示向量:
其中,N表示对话内容数量,e(ck)表示目标用户第k次对话内容向量;
S1082:引入注意力机制模型,通过soft函数计算目标用户在不同时刻对话内容对当前时刻候选话题的影响因素对应的影响力权重:
S1083:结合对话内容嵌入向量的表示向量和影响力权重,计算推荐话题嵌入向量:
S109:基于对话内容嵌入向量和推荐话题嵌入向量,利用深度学习模型获取目标用户对待推荐优秀话题的点击概率。
需要说明的是,通过利用对话内容嵌入向量和推荐话题嵌入向量,深度学习模型可以学习到它们之间的关联关系,并预测目标用户对待推荐优秀话题的点击概率。这个点击概率可以作为一种评估指标,用于确定哪些优秀话题应该被推荐给目标用户。例如,可以设置一个预设的概率阈值,只有当深度学习模型预测的点击概率大于该阈值时,相应的优秀话题才会被推荐给目标用户。这样可以帮助提高推荐系统的精度和效果,使得用户获得更加符合其兴趣和偏好的推荐结果。
S110:选择大于预设概率的点击概率对应的待推荐优秀话题推荐至目标用户。
需要说明的是,本领域技术人员可以根据实际需要选择预设概率的大小。可以根据用户兴趣模型、历史点击行为、推荐系统的目标等因素来设置合适的预设概率阈值,从而满足推荐系统的推荐策略和用户需求。预设概率并不是越大越好,因为根据目标用户的对话内容进行分析后,如果对话内容比较偏僻时,可能相应的待推荐优秀话题具有较大的差异,这时可以降低预设概率,推荐更多的结果供目标用户选取。相应的,预设概率也不是越小越好,在对话内容比较宽泛的情况下,适当增加预设概率,可以减少推荐结果,避免推荐过多增加目标用户选择难度。
与现有技术相比,本发明至少具有以下有益效果:
本发明通过获取与目标用户行为相似的参照用户,以参照用户的喜好话题作为话题推荐驱动力,对目标用户进行话题推荐,在目标用户的行为数据很少的情况下,也可以根据参照用户的喜好推测出较准确的待推荐优秀话题,降低了用户交互使用门槛,提高用户使用体验,降低目标用户喜好获取难度,能够在第一时间抓住用户兴趣点进行及时推荐,避免交互出现僵局。此外,通过引入实体关系实体三元组的约束条件,构建更加准确的映射模型,避免在对话内容的实体提取过程中出现较大偏差,提高最终的推荐准确程度。提取包括上下文实体向量并将获取到的向量内容进行融合,利用注意力模型结合推荐话题嵌入向量和对话内容嵌入向量进行兴趣话题推荐,进一步提高推荐的准确性,提升交互体验,有利于交互产品的推广和使用。
实施例2
在一个实施例中,参考说明书附图2,本发明提供的一种人机交互推荐系统的结构示意图。
本发明提供的一种人机交互推荐系统20,包括:
第一获取模块201,用于获取与目标用户行为相似的参照用户,并获取参照用户的喜好话题和各喜好话题对应的评分记录;
计算模块202,用于根据参照用户的喜好话题评分记录,计算目标用户对待推荐话题的预测评分;
预测模块203,用于获取目标用户与交互程序的对话内容和对话内容数量,预测待推荐话题被推荐至目标用户的概率,其中,对话内容包括交互话题和关于交互话题的多个上下文向量,;
第一构建模块204,用于根据目标用户对待推荐话题的预测评分和交互话题被推荐至目标用户的概率,得到待推荐话题的排名得分,并依据排名得分挑选待推荐优秀话题,构建待推荐优秀话题库;
第二构建模块205,用于引入实体关系实体三元组的约束条件,利用TransD算法构建Trans映射模型;
提取模块206,用于将对话内容输入至Trans映射模型,提取对话内容的词向量、实体对实体的关系向量和上下文实体向量;
融合模块207,用于利用知识感知深度学习模型对词向量、实体对实体的关系向量和上下文实体向量进行融合,获取对话内容的对话内容嵌入向量;
确定模块208,用于考虑目标用户在不同时刻对话内容对当前时刻候选话题的影响因素,利用注意力模型确定目标用户在当前时刻的推荐话题嵌入向量;
第二获取模块209,用于基于对话内容嵌入向量和推荐话题嵌入向量,利用深度学习模型获取目标用户对待推荐优秀话题的点击概率;
推荐模块210,用于选择大于预设概率的点击概率对应的待推荐优秀话题推荐至目标用户。
在一种可能的实施方式中,第一获取模块201具体包括:
第一计算子模块,用于利用二维评分矩阵和相似度计算方法,计算目标用户与参照用户的相似度;
选择子模块,用于选择相似度大于预设相似度的参照用户;
第一获取子模块,用于从参照用户的历史浏览数据中获取参照用户的喜好话题和各喜好话题对应的评分记录。
在一种可能的实施方式中,计算模块202具体包括:
构造子模块,用于根据各个参照用户,构造参照用户集;
第二获取子模块,用于获取参照用户的喜好话题评分记录;
第二计算子模块,用于根据参照用户的喜好话题评分记录,计算目标用户对待推荐话题的预测评分:
S(T)表示预测评分,表示目标用户u对已评分项目的平均评分,/>表示参照用户v对以评分项目的平均评分,Sv,T表示参照用户对待推荐话题T的评分,Su,v表示通过用户项目二维评分矩阵和相似度原理计算得到的参照用户和目标用户之间的相似度,Nu表示参照用户集。
在一种可能的实施方式中,预测模块203具体包括:
提取子模块,用于通过word2vec提取对话内容的交互话题和关于交互话题的多个上下文向量;
预测子模块,用于根据交互话题和交互话题的多个上下文向量,预测交互话题被推荐至目标用户的概率:
其中,P(T'/C)表示交互话题出现概率,C表示上下文向量组成的上下文向量集,ck表示交互话题对应的具体内容。
在一种可能的实施方式中,第一构建模块204具体包括:
第三计算子模块,用于待推荐话题的排名得分的计算方式为:
Ranku,c(T)=S(T)·P(T/C)。
第一选择子模块,用于根据排名得分,选择得分值高的预设数量的待推荐话题作为待推荐优秀话题,构建待推荐优秀话题库。
在一种可能的实施方式中,Trans映射模型具体为:
其中,(h,r,t)表示实体关系实体三元组,Mrh表示头实体映射矩阵,Mrt表示尾实体映射矩阵,表示头实体映射向量,rp表示关系向量,/>表示尾实体映射向量,Im×n表示单位矩阵,d表示三元组头部向量h、关系向量r和尾部向量t之间的约束条件。
在一种可能的实施方式中,融合模块207具体包括:
构建子模块,用于构建实体对实体的关系向量和上下文实体向量映射至词向量的映射关系式:
其中,e1,n表示实体对实体的关系向量,表示上下文实体向量,g表示非线性映射函数,M表示映射矩阵,b表示可训练偏置参数;
对齐子模块,用于将映射关系式的三个元素对齐叠加,得到多通道词向量矩阵:
第三获取子模块,用于利用不同大小窗口的卷积滤波器,获取对话内容的局部输出特征:
ci=f(h*Wi:i+l-1+b)
其中,ci表示子矩阵Wi:i+l-1的特征,l表示窗口大小,f表示非线性函数;
第二选择子模块,用于选择局部输出特征中的最大值作为对话内容嵌入向量:
e(t)=max{c1,c2,…cn-l+1}。
在一种可能的实施方式中,第二获取模块209具体包括:
第四获取子模块,用于获取对话内容嵌入向量的表示向量:
其中,N表示对话内容数量,e(ck)表示目标用户第k次对话内容向量;
第四计算子模块,用于引入注意力机制模型,通过soft函数计算目标用户在不同时刻对话内容对当前时刻候选话题的影响因素对应的影响力权重:
第五计算子模块,用于结合对话内容嵌入向量的表示向量和影响力权重,计算推荐话题嵌入向量:
本发明提供的人机交互推荐系统20能够实现上述方法实施例中实现的各个过程,为避免重复,这里不再赘述。
本发明提供的虚拟系统可以是系统,也可以是终端中的部件、集成电路、或芯片。
与现有技术相比,本发明至少具有以下有益效果:
本发明通过获取与目标用户行为相似的参照用户,以参照用户的喜好话题作为话题推荐驱动力,对目标用户进行话题推荐,在目标用户的行为数据很少的情况下,也可以根据参照用户的喜好推测出较准确的待推荐优秀话题,降低了用户交互使用门槛,提高用户使用体验,降低目标用户喜好获取难度,能够在第一时间抓住用户兴趣点进行及时推荐,避免交互出现僵局。此外,通过引入实体关系实体三元组的约束条件,构建更加准确的映射模型,避免在对话内容的实体提取过程中出现较大偏差,提高最终的推荐准确程度。提取包括上下文实体向量并将获取到的向量内容进行融合,利用注意力模型结合推荐话题嵌入向量和对话内容嵌入向量进行兴趣话题推荐,进一步提高推荐的准确性,提升交互体验,有利于交互产品的推广和使用。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

Claims (6)

1.一种人机交互推荐方法,其特征在于,包括:
S101:获取与目标用户行为相似的参照用户,并获取所述参照用户的喜好话题和各所述喜好话题对应的评分记录;
S102:根据所述参照用户的喜好话题评分记录,计算所述目标用户对待推荐话题的预测评分;
所述S102具体包括:
S1021:根据各个参照用户,构造参照用户集;
S1022:获取所述参照用户的喜好话题评分记录;
S1023:根据所述参照用户的喜好话题评分记录,计算所述目标用户对待推荐话题的预测评分:
S(T)表示所述预测评分,表示所述目标用户u对已评分项目的平均评分,/>表示所述参照用户v对以评分项目的平均评分,/>表示所述参照用户对所述待推荐话题T的评分,/>表示通过用户项目二维评分矩阵和相似度原理计算得到的所述参照用户和所述目标用户之间的相似度,/>表示所述参照用户集;
S103:获取所述目标用户与交互程序的对话内容和对话内容数量,预测所述待推荐话题被推荐至所述目标用户的概率,其中,所述对话内容包括交互话题和关于所述交互话题的多个上下文向量;
S104:根据所述目标用户对所述待推荐话题的预测评分和所述交互话题被推荐至所述目标用户的概率,得到所述待推荐话题的排名得分,并依据所述排名得分挑选待推荐优秀话题,构建待推荐优秀话题库;
S105:引入实体关系实体三元组的约束条件,利用TransD算法构建Trans映射模型;
所述Trans映射模型具体为:
其中,表示所述实体关系实体三元组,/>表示头实体映射矩阵,/>表示尾实体映射矩阵,/>表示头实体映射向量,/>表示关系向量,/>表示尾实体映射向量,/>表示单位矩阵,l表示三元组头部向量h、关系向量r和尾部向量t之间的约束条件;
S106:将所述对话内容输入至所述Trans映射模型,提取所述对话内容的词向量、实体对实体的关系向量和上下文实体向量;
S107:利用知识感知深度学习模型将所述词向量、所述实体对实体的关系向量和所述上下文实体向量进行融合,获取所述对话内容的对话内容嵌入向量;
所述S107具体包括:
S1071:构建所述实体对实体的关系向量和所述上下文实体向量映射至所述词向量的映射关系式:
其中,表示所述实体对实体的关系向量,/>表示上下文实体向量,g表示非线性映射函数,M表示映射矩阵,b表示可训练偏置参数;
S1072:将所述映射关系式的三个元素对齐叠加,得到多通道词向量矩阵:
S1073:利用不同大小窗口的卷积滤波器,获取所述对话内容的局部输出特征:
其中,c i 表示子矩阵的特征,l表示窗口大小,f表示非线性函数;
S1074:选择所述局部输出特征中的最大值作为所述对话内容嵌入向量:
S108:考虑所述目标用户在不同时刻对话内容对当前时刻候选话题的影响因素,利用注意力模型确定所述目标用户在当前时刻的推荐话题嵌入向量;
所述S108具体包括:
S1081:获取所述对话内容嵌入向量的表示向量:
其中,N表示对话内容数量,表示所述目标用户第k次对话内容向量;
S1082:引入注意力机制模型,通过soft函数计算所述目标用户在不同时刻对话内容对当前时刻候选话题的影响因素对应的影响力权重:
S1083:结合所述对话内容嵌入向量的表示向量和所述影响力权重,计算所述推荐话题嵌入向量:
S109:基于所述对话内容嵌入向量和所述推荐话题嵌入向量,利用深度学习模型获取所述目标用户对所述待推荐优秀话题的点击概率;
S110:选择大于预设概率的所述点击概率对应的待推荐优秀话题推荐至所述目标用户。
2.根据权利要求1所述的人机交互推荐方法,其特征在于,所述S101具体包括:
S1011:利用二维评分矩阵和相似度计算方法,计算所述目标用户与所述参照用户的相似度;
S1012:选择相似度大于预设相似度的参照用户;
S1013:从所述参照用户的历史浏览数据中获取所述参照用户的喜好话题和各所述喜好话题对应的评分记录。
3.根据权利要求1所述的人机交互推荐方法,其特征在于,所述S103具体包括:
S1031:通过word2vec提取所述对话内容的交互话题和关于所述交互话题的多个上下文向量;
S1032:根据所述交互话题和所述交互话题的多个上下文向量,预测所述交互话题被推荐至所述目标用户的概率:
其中,表示所述交互话题出现概率,C表示所述上下文向量组成的上下文向量集,/>表示所述交互话题对应的具体内容。
4.根据权利要求1所述的人机交互推荐方法,其特征在于,所述S104具体包括:
S1041:所述待推荐话题的排名得分的计算方式为:
S1042:根据所述排名得分,选择得分值高的预设数量的待推荐话题作为待推荐优秀话题,构建待推荐优秀话题库。
5.一种人机交互推荐系统,其特征在于,包括:
第一获取模块,用于获取与目标用户行为相似的参照用户,并获取所述参照用户的喜好话题和各所述喜好话题对应的评分记录;
计算模块,用于根据所述参照用户的喜好话题评分记录,计算所述目标用户对待推荐话题的预测评分;
所述计算模块具体包括:
构造子模块,用于根据各个参照用户,构造参照用户集;
第二获取子模块,用于获取参照用户的喜好话题评分记录;
第二计算子模块,用于根据参照用户的喜好话题评分记录,计算目标用户对待推荐话题的预测评分:
S(T)表示预测评分,表示目标用户u对已评分项目的平均评分,/>表示参照用户v对以评分项目的平均评分,/>表示参照用户对待推荐话题T的评分,/>表示通过用户项目二维评分矩阵和相似度原理计算得到的参照用户和目标用户之间的相似度,/>表示参照用户集;
预测模块,用于获取所述目标用户与交互程序的对话内容和对话内容数量,预测所述待推荐话题被推荐至所述目标用户的概率,其中,所述对话内容包括交互话题和关于所述交互话题的多个上下文向量;
第一构建模块,用于根据所述目标用户对待推荐话题的预测评分和所述交互话题被推荐至所述目标用户的概率,得到所述待推荐话题的排名得分,并依据所述排名得分挑选待推荐优秀话题,构建待推荐优秀话题库;
第二构建模块,用于引入实体关系实体三元组的约束条件,利用TransD算法构建Trans映射模型;
所述Trans映射模型具体为:
其中,表示实体关系实体三元组,/>表示头实体映射矩阵,/>表示尾实体映射矩阵,/>表示头实体映射向量,/>表示关系向量,/>表示尾实体映射向量,/>表示单位矩阵,d表示三元组头部向量h、关系向量r和尾部向量t之间的约束条件;
提取模块,用于将所述对话内容输入至所述Trans映射模型,提取所述对话内容的词向量、实体对实体的关系向量和上下文实体向量;
融合模块,用于利用知识感知深度学习模型将所述词向量、所述实体对实体的关系向量和所述上下文实体向量进行融合,获取所述对话内容的对话内容嵌入向量;
所述融合模块具体包括:
构建子模块,用于构建实体对实体的关系向量和上下文实体向量映射至词向量的映射关系式:
其中,表示实体对实体的关系向量,/>表示上下文实体向量,g表示非线性映射函数,M表示映射矩阵,b表示可训练偏置参数;
对齐子模块,用于将映射关系式的三个元素对齐叠加,得到多通道词向量矩阵:
第三获取子模块,用于利用不同大小窗口的卷积滤波器,获取对话内容的局部输出特征:
其中,c i 表示子矩阵的特征,l表示窗口大小,f表示非线性函数;
第二选择子模块,用于选择局部输出特征中的最大值作为对话内容嵌入向量:
确定模块,用于考虑所述目标用户在不同时刻对话内容对当前时刻候选话题的影响因素,利用注意力模型确定所述目标用户在当前时刻的推荐话题嵌入向量;
第二获取模块,用于基于所述对话内容嵌入向量和所述推荐话题嵌入向量,利用深度学习模型获取所述目标用户对所述待推荐优秀话题的点击概率;
所述第二获取模块具体包括:
第四获取子模块,用于获取对话内容嵌入向量的表示向量:
其中,N表示对话内容数量,表示目标用户第k次对话内容向量;
第四计算子模块,用于引入注意力机制模型,通过soft函数计算目标用户在不同时刻对话内容对当前时刻候选话题的影响因素对应的影响力权重:
第五计算子模块,用于结合对话内容嵌入向量的表示向量和影响力权重,计算推荐话题嵌入向量:
推荐模块,用于选择大于预设概率的所述点击概率对应的待推荐优秀话题推荐至所述目标用户。
6.根据权利要求5所述的人机交互推荐系统,其特征在于,所述第一获取模块具体包括:
第一计算子模块,用于利用二维评分矩阵和相似度计算方法,计算所述目标用户与所述参照用户的相似度;
选择子模块,用于选择相似度大于预设相似度的参照用户;
第一获取子模块,用于从所述参照用户的历史浏览数据中获取所述参照用户的喜好话题和各所述喜好话题对应的评分记录。
CN202310625865.6A 2023-05-30 2023-05-30 一种用户操作数据的可视化与人机交互推荐方法 Active CN116628179B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310625865.6A CN116628179B (zh) 2023-05-30 2023-05-30 一种用户操作数据的可视化与人机交互推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310625865.6A CN116628179B (zh) 2023-05-30 2023-05-30 一种用户操作数据的可视化与人机交互推荐方法

Publications (2)

Publication Number Publication Date
CN116628179A CN116628179A (zh) 2023-08-22
CN116628179B true CN116628179B (zh) 2023-12-22

Family

ID=87636392

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310625865.6A Active CN116628179B (zh) 2023-05-30 2023-05-30 一种用户操作数据的可视化与人机交互推荐方法

Country Status (1)

Country Link
CN (1) CN116628179B (zh)

Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009017195A1 (ja) * 2007-07-31 2009-02-05 National Institute Of Advanced Industrial Science And Technology 楽曲推薦システム、楽曲推薦方法及び楽曲推薦用コンピュータプログラム
CN102004774A (zh) * 2010-11-16 2011-04-06 清华大学 基于统一概率模型的个性化用户标签建模与推荐方法
WO2017041372A1 (zh) * 2015-09-07 2017-03-16 百度在线网络技术(北京)有限公司 基于人工智能的人机交互方法和系统
CN107463645A (zh) * 2017-07-21 2017-12-12 雷锤智能科技南京有限公司 基于用户属性评分导向的个性化推荐系统及其推荐方法
CN108763495A (zh) * 2018-05-30 2018-11-06 苏州思必驰信息科技有限公司 人机对话方法、系统、电子设备及存储介质
CN110188272A (zh) * 2019-05-27 2019-08-30 南京大学 一种基于用户背景的社区问答网站标签推荐方法
CN111737444A (zh) * 2020-08-17 2020-10-02 腾讯科技(深圳)有限公司 对话生成方法、装置及电子设备
CN112950325A (zh) * 2021-03-16 2021-06-11 山西大学 一种社交行为融合的自注意力序列推荐方法
CN113407834A (zh) * 2021-06-18 2021-09-17 北京工业大学 一种基于知识图谱辅助的用户多维度兴趣抽取方法
CN114065047A (zh) * 2021-11-25 2022-02-18 上海理工大学 一种基于多级注意力机制的知识增强对话推荐方法
CN114329227A (zh) * 2021-08-13 2022-04-12 北京计算机技术及应用研究所 基于话题知识图谱的社交关系网络构建与拓展方法
CN114444693A (zh) * 2022-01-21 2022-05-06 重庆邮电大学 一种基于协同知识图谱的人机交互话题转移方法
WO2022121161A1 (zh) * 2020-12-10 2022-06-16 平安科技(深圳)有限公司 多轮对话文本生成方法、装置、设备及存储介质
CN115048504A (zh) * 2022-05-17 2022-09-13 咪咕文化科技有限公司 信息推送方法、装置、计算机设备及计算机可读存储介质
CN115712772A (zh) * 2022-11-18 2023-02-24 重庆邮电大学 一种基于话题关联的话题传播预测方法
CN115935182A (zh) * 2022-11-21 2023-04-07 杭州网易智企科技有限公司 模型训练方法、多轮对话中的话题分割方法、介质及装置
CN116051175A (zh) * 2023-01-09 2023-05-02 重庆市知识产权保护中心(重庆摩托车(汽车)知识产权信息中心) 基于深度多兴趣网络的点击率预测模型及预测方法

Patent Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009017195A1 (ja) * 2007-07-31 2009-02-05 National Institute Of Advanced Industrial Science And Technology 楽曲推薦システム、楽曲推薦方法及び楽曲推薦用コンピュータプログラム
CN102004774A (zh) * 2010-11-16 2011-04-06 清华大学 基于统一概率模型的个性化用户标签建模与推荐方法
WO2017041372A1 (zh) * 2015-09-07 2017-03-16 百度在线网络技术(北京)有限公司 基于人工智能的人机交互方法和系统
CN107463645A (zh) * 2017-07-21 2017-12-12 雷锤智能科技南京有限公司 基于用户属性评分导向的个性化推荐系统及其推荐方法
CN108763495A (zh) * 2018-05-30 2018-11-06 苏州思必驰信息科技有限公司 人机对话方法、系统、电子设备及存储介质
CN110188272A (zh) * 2019-05-27 2019-08-30 南京大学 一种基于用户背景的社区问答网站标签推荐方法
CN111737444A (zh) * 2020-08-17 2020-10-02 腾讯科技(深圳)有限公司 对话生成方法、装置及电子设备
WO2022121161A1 (zh) * 2020-12-10 2022-06-16 平安科技(深圳)有限公司 多轮对话文本生成方法、装置、设备及存储介质
CN112950325A (zh) * 2021-03-16 2021-06-11 山西大学 一种社交行为融合的自注意力序列推荐方法
CN113407834A (zh) * 2021-06-18 2021-09-17 北京工业大学 一种基于知识图谱辅助的用户多维度兴趣抽取方法
CN114329227A (zh) * 2021-08-13 2022-04-12 北京计算机技术及应用研究所 基于话题知识图谱的社交关系网络构建与拓展方法
CN114065047A (zh) * 2021-11-25 2022-02-18 上海理工大学 一种基于多级注意力机制的知识增强对话推荐方法
CN114444693A (zh) * 2022-01-21 2022-05-06 重庆邮电大学 一种基于协同知识图谱的人机交互话题转移方法
CN115048504A (zh) * 2022-05-17 2022-09-13 咪咕文化科技有限公司 信息推送方法、装置、计算机设备及计算机可读存储介质
CN115712772A (zh) * 2022-11-18 2023-02-24 重庆邮电大学 一种基于话题关联的话题传播预测方法
CN115935182A (zh) * 2022-11-21 2023-04-07 杭州网易智企科技有限公司 模型训练方法、多轮对话中的话题分割方法、介质及装置
CN116051175A (zh) * 2023-01-09 2023-05-02 重庆市知识产权保护中心(重庆摩托车(汽车)知识产权信息中心) 基于深度多兴趣网络的点击率预测模型及预测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于阶段时序效应的奇异值分解推荐模型;黄凯;张曦煌;;计算机应用(第05期);全文 *

Also Published As

Publication number Publication date
CN116628179A (zh) 2023-08-22

Similar Documents

Publication Publication Date Title
US11893071B2 (en) Content recommendation method and apparatus, electronic device, and storage medium
CN111444428B (zh) 基于人工智能的信息推荐方法、装置、电子设备及存储介质
AU2018383346B2 (en) Domain-specific natural language understanding of customer intent in self-help
CN112163165B (zh) 信息推荐方法、装置、设备及计算机可读存储介质
CN111339415B (zh) 一种基于多交互式注意力网络的点击率预测方法与装置
US20210342658A1 (en) Polysemant meaning learning and search result display
CN111931062A (zh) 一种信息推荐模型的训练方法和相关装置
CN113010702B (zh) 多媒体信息的互动处理方法、装置、电子设备及存储介质
CN110390052B (zh) 搜索推荐方法、ctr预估模型的训练方法、装置及设备
CN111061946A (zh) 场景化内容推荐方法、装置、电子设备及存储介质
CN111382361A (zh) 信息推送方法、装置、存储介质和计算机设备
CN111625715A (zh) 信息提取方法、装置、电子设备及存储介质
CN116775815B (zh) 对话数据的处理方法、装置、电子设备及存储介质
CN115964560A (zh) 基于多模态预训练模型的资讯推荐方法及设备
CN117668199A (zh) 一种智能客服问答预测及推荐对话生成方法及装置
Moradizeyveh Intent recognition in conversational recommender systems
CN116628179B (zh) 一种用户操作数据的可视化与人机交互推荐方法
CN116010696A (zh) 融合知识图谱和用户长短期兴趣的新闻推荐方法、系统及介质
CN117121021A (zh) 用于用户界面预测和生成的经机器学习的模型
CN114970494A (zh) 一种评论生成方法、装置、电子设备和存储介质
Ohtomo et al. AM-Bi-LSTM: Adaptive multi-modal Bi-LSTM for sequential recommendation
Hernández et al. User-centric Recommendation Model for AAC based on Multi-criteria Planning
US11973832B2 (en) Resolving polarity of hosted data streams
CN118410152B (zh) 信息处理方法、问答方法及问答系统
US11966570B2 (en) Automated processing and dynamic filtering of content for display

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant