CN113377656A - 一种基于图神经网络的众测推荐方法 - Google Patents

一种基于图神经网络的众测推荐方法 Download PDF

Info

Publication number
CN113377656A
CN113377656A CN202110664346.1A CN202110664346A CN113377656A CN 113377656 A CN113377656 A CN 113377656A CN 202110664346 A CN202110664346 A CN 202110664346A CN 113377656 A CN113377656 A CN 113377656A
Authority
CN
China
Prior art keywords
recommendation
graph
neural network
embedded representation
relation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110664346.1A
Other languages
English (en)
Other versions
CN113377656B (zh
Inventor
王崇骏
张宝明
郭铭
黄子岚
李宁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University
Original Assignee
Nanjing University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University filed Critical Nanjing University
Priority to CN202110664346.1A priority Critical patent/CN113377656B/zh
Publication of CN113377656A publication Critical patent/CN113377656A/zh
Application granted granted Critical
Publication of CN113377656B publication Critical patent/CN113377656B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/36—Preventing errors by testing or debugging software
    • G06F11/3664—Environments for testing or debugging software
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311—Scheduling, planning or task assignment for a person or group

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Strategic Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Economics (AREA)
  • Software Systems (AREA)
  • Educational Administration (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Development Economics (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Game Theory and Decision Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Computer Hardware Design (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种基于图神经网络的众测推荐方法，将用户与项目形成的二分图和用户之间的社交网络进行融合，合成异质图，如果存在新加入的用户或者项目，在异质图上生成新边以增加节点之间关联度；将用户特征、项目特征与第一步中生成的异质图送入图神经网络，最后生成用户的嵌入表示、项目的嵌入表示以及边的嵌入表示；然后送入关系嵌入表示的双线性解码器中，对于每种关系都得到一个数值，进行softmax之后得到关系可能性分布，最后根据可能性大小得出一个推荐列表。本发明公不仅将众测人员与项目之间的关系和众测人员之间的社交网络相结合，而且提高了推荐的准确性，有效的缓解推荐系统冷启动问题。

Description

一种基于图神经网络的众测推荐方法
技术领域
本发明涉及推荐系统领域，主要应用于众测项目中，具体涉及图神经网络的推荐系统方法。
背景技术
随着互联网的不断发展，人们在网络上的各种活动也在不断丰富，不仅包含了互联网上的娱乐活动，而且也出现了类似众包测试等利用互联网进行任务分配多人协作完成的新型生产形式。
众测任务中的部分过程有将一个分解完成的任务发包给互联网上参与测试的人员，众测过程中的推荐系统对于整个众测的完成效率和质量至关重要。如何更加准确高效的完成众测推荐任务，面临着巨大的挑战。
传统的基于矩阵分解的推荐系统，只使用了用户的行为特征，推荐准确率不高且存在着严重的冷启动问题。对于众测系统的推荐任务而言，此类推荐系统无法胜任复杂且试错代价较高的众测系统。因此一个较高准确率且能够部分克服冷启动问题的推荐系统才能符合拥有复杂任务属性与用户属性的众测任务。基于图神经网络的众测推荐方法很好的将社会化推荐和用户行为特征结合到一起，能够更加准确的实现推荐并且可以通过添加边较好的缓解过拟合问题，很符合众测推荐系统的要求。
发明内容
发明目的：为了克服现有技术中存在的不足，本发明提供一种基于图神经网络的众测推荐方法，针对众测系统中不仅有用户-众测项目的关系，而且还存在众测用户社交网络关系，将用户-众测项目二分图和用户社交网络相融合，利用图神经网络链接预测算法实现众测系统中的推荐方法，提高了推荐的准确率和缓解了推荐系统中的冷启动问题。对于多种推荐的需求，只需要使用一个模型即可实现，提高了模型的抽象程度，同时简化了众测任务复杂关系的处理方式。
技术方案：为实现上述目的，本发明采用的技术方案为：
一种基于图神经网络的众测推荐方法，众测推荐系统可以看成一种矩阵补全问题。众测人员与项目之间存在两个图结构。第一个图是存在于众测人员和众测项目之间的二分图，第二个图是存在于众测人员之间的社交网络。对于传统的基于矩阵补全的推荐系统，只使用到了众测人员对于项目的行为特征，没能有效的将众测人员自身特征和项目特征融合进推荐系统中。基于图神经网络的众测推荐方法将众测用户与项目之间的二分图和众测用户之间的社交网络进行融合，形成了一个同时包含众测用户信息和项目信息的异质图。在这个异质图上对每个节点(众测人员和项目)进行图卷积操作，生成每个节点的嵌入表示，将这些节点嵌入表示用于连接预测，可以有效的预测众测人员和项目之间的关系，不仅可以实现根据项目推荐众测人员，还可以根据众测人员推荐项目。对于一个刚刚加入的人员或者项目，可以使用K近邻算法等图合成算法为新增节点建立新边，可以解决冷启动导致的一些问题。并且根据项目推荐人员和根据人员推荐项目可以共享表示和大量参数，有效的提高了模型的抽象程度和通用性，具体包括如下步骤：
步骤1，生成图阶段：将用户与项目形成的二分图和用户之间的社交网络进行融合，合成异质图，如果存在新加入的用户或者项目，通过K近邻方法选取特征相似度最高的K个节点，在异质图上生成新边以增加节点之间关联度。可以预先定义异质图每条边的关系并为其建立特征矩阵，可以最大程度的利用边的关系信息。相同的关系的边共享特征矩阵参数有效缓解过拟合现象。
众测项目之间，有着各种各样的关系，例如项目任务分解出的子任务，子任务与原本项目之间的关系。对于新加入的项目，可以通过项目本身的一些信息与类似的项目建立新边，可以缓解传统基于行为的推荐系统缺乏行为信息导致的冷启动问题。建立新边的算法可以使用K近邻算法利于众测项目特征的余弦值描述众测项目之间的相似度。在项目之间添加边信息增加信息的富集程度。进一步提升信息的利用率。
步骤2，训练阶段：将用户特征、项目特征与第一步中生成的异质图送入图神经网络，通过图卷积的方式聚合邻居信息，最后生成用户的嵌入表示、项目的嵌入表示以及边的嵌入表示。
步骤2训练阶段中，对于每种关系的边都建模一个可训练的矩阵作为边的嵌入表示，边的嵌入表示可以作为下游推荐任务中链接预测解码器的参数，使整个系统可以实现端到端的训练过程。
步骤3，推荐阶段：选择需要推荐的项目或众测人员，将图神经网络生成的用户嵌入表示和项目嵌入表示送入关系嵌入表示的双线性解码器中，对于每种关系都得到一个数值，进行softmax之后得到关系可能性分布，最后根据可能性大小得出一个推荐列表。
优选的：所述步骤1中预先定义异质图每条边的关系并为每条边的关系建立特征矩阵。相同的关系的边共享特征矩阵参数。
优选的：步骤2训练阶段中对于每种关系的边都建模一个可训练的矩阵作为边的嵌入表示，边的嵌入表示作为下游推荐任务中链接预测解码器的参数，使整个系统实现端到端的训练过程。
优选的：步骤3用于推荐的链接预测中，对于众测人员节点和众测任务节点之间的关系预测，将待推荐人员和任务之前用图神经网络中的嵌入表示送入不同关系的双线性解码器中，并且对所有关系得到的值进行softmax，将最高的k个链接作为推荐项。对于各种关系只需要进行解码和归一化即可，一个模型实现多种关系的预测。
本发明相比现有技术，具有以下有益效果：
面对复杂且包含丰富信息的用户社交网络，用户信息和众测项目信息，使用传统的矩阵分解推荐系统无法有效利用这些信息，推荐准确率很容易陷入瓶颈，且计算过程中存在大量对推荐无用的冗余信息，以及无法满足日益庞大且复杂的众测推荐任务。本发明使用基于图神经网络的众测推荐方法，将社会推荐引入众测推荐中，极大的提高了传统推荐系统的准确率上限；与此同时，众测人员社交网络的引入和众测异质图合成过程中添加边的算法可以有效的缓解传统推荐系统中冷启动的问题。
综上所述，本发明不仅将众测人员与项目之间的关系和众测人员之间的社交网络相结合，而且可以将图中的边可以携带多种关键关系信息，提高了推荐的准确性，有效的缓解推荐系统冷启动问题。
附图说明
图1为本发明的方法整体流程图。
图2为本发明利用用户-项目二分图和用户社交网络合成异构图过程的流程图。
图3为本发明进行图神经网络训练和连接预测形成推荐结果的流程图。
具体实施方式
下面结合附图和具体实施例，进一步阐明本发明，应理解这些实例仅用于说明本发明而不用于限制本发明的范围，在阅读了本发明之后，本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。
一种基于图神经网络的众测推荐方法，如图1-3所示，包括如下步骤：
步骤1，生成图阶段：将用户与项目形成的二分图和用户之间的社交网络进行融合，合成一个保留各种关系为边的异质图，对于缺乏先验关系的众测项目和人员，可以通过K近邻算法选取特征相似度最高的K个节点，与它们生成新边以增加节点之间关联度，这样在进行图卷积操作时，可以更好的进行消息传递，生成更加有效的节点表示用于下游任务。或者可以使用Stochastic Block Models算法，属于同一类的众测任务节点之间有较高的概率生成边，属于不同类的节点对之间以极低的概率生成边，可以生成更加真实的图拓扑结构。添加额外的有效边有助于在进行图卷积操作时，可以更好的进行消息传递，生成更加有效的节点表示用于下游任务。对于众测系统预先可以获得的关系，例如任务之间的协同关系，众测人员之间的邀请关系等，可以单独建立不同类别的边，相同的关系的边在图神经网络中共享参数矩阵。如果存在新加入的用户或者项目，通过K近邻方法选取特征相似度最高的K个节点，在异质图上生成新边以增加节点之间关联度。
所述步骤1中预先定义异质图每条边的关系并为每条边的关系建立特征矩阵。相同的关系的边共享特征矩阵参数。
步骤2，训练阶段：初始化每种边的嵌入表示，相同类型的边共享参数矩阵，将用户特征、项目特征与第一步中生成的异质图送入图神经网络，通过图卷积的方式聚合邻居信息，最后生成用户的嵌入表示、项目的嵌入表示以及边的嵌入表示。在具体实现时，使用图注意力网络，并且将self-attention后合成context-vector再经过一个非线性层，增加模型容量使得生成更好的节点和边的嵌入表示。
步骤2训练阶段中对于每种关系的边都建模一个可训练的矩阵作为边的嵌入表示，边的嵌入表示作为下游推荐任务中链接预测解码器的参数，使整个系统实现端到端的训练过程。
步骤3，推荐阶段：更具推荐的要求对众测项目及人员进行采样，并且通过获得步骤2中得到的众测项目及人员的嵌入表示，选择需要推荐的项目或众测人员，将图神经网络生成的用户嵌入表示和项目嵌入表示送入关系嵌入表示的双线性解码器中，对于每种关系都得到一个数值，进行softmax之后得到关系可能性分布，最后根据可能性大小得出一个推荐列表。
步骤3用于推荐的链接预测中，对于众测人员节点和众测任务节点之间的关系预测，将待推荐人员和任务之前用图神经网络中的嵌入表示送入不同关系的双线性解码器中，并且对所有关系得到的值进行softmax，将最高的k个链接作为推荐项。对于各种关系只需要进行解码和归一化即可，一个模型实现多种关系的预测。
综上所述，本发明提出一种基于图神经网络的众测推荐方法方法，既能大幅度提高推荐准确率，又能有效缓解推荐系统中冷启动的问题。其采用图神经网络的方法，能够方便实现端到端的训练过程，还可以将各种复杂关系映射为嵌入表示，不需要手动处理各种关系。
以上所述仅是本发明的优选实施方式，应当指出：对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (4)

1.一种基于图神经网络的众测推荐方法，其特征在于，包括如下步骤：
步骤1，生成图阶段：将用户与项目形成的二分图和用户之间的社交网络进行融合，合成异质图，如果存在新加入的用户或者项目，通过K近邻方法选取特征相似度最高的K个节点，在异质图上生成新边以增加节点之间关联度；
步骤2，训练阶段：将用户特征、项目特征与第一步中生成的异质图送入图神经网络，通过图卷积的方式聚合邻居信息，最后生成用户的嵌入表示、项目的嵌入表示以及边的嵌入表示；
步骤3，推荐阶段：选择需要推荐的项目或众测人员，将图神经网络生成的用户嵌入表示和项目嵌入表示送入关系嵌入表示的双线性解码器中，对于每种关系都得到一个数值，进行softmax之后得到关系可能性分布，最后根据可能性大小得出一个推荐列表。
2.根据权利要求2所述基于图神经网络的众测推荐方法，其特征在于：所述步骤1中预先定义异质图每条边的关系并为每条边的关系建立特征矩阵；相同的关系的边共享特征矩阵参数。
3.根据权利要求1所述基于图神经网络的众测推荐方法，其特征在于：步骤2训练阶段中对于每种关系的边都建模一个可训练的矩阵作为边的嵌入表示，边的嵌入表示作为下游推荐任务中链接预测解码器的参数，使整个系统实现端到端的训练过程。
4.根据权利要求1所述基于图神经网络的众测推荐方法，其特征在于：步骤3用于推荐的链接预测中，对于众测人员节点和众测任务节点之间的关系预测，将待推荐人员和任务之前用图神经网络中的嵌入表示送入不同关系的双线性解码器中，并且对所有关系得到的值进行softmax，将最高的k个链接作为推荐项。对于各种关系只需要进行解码和归一化即可，一个模型实现多种关系的预测。
CN202110664346.1A 2021-06-16 2021-06-16 一种基于图神经网络的众测推荐方法 Active CN113377656B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110664346.1A CN113377656B (zh) 2021-06-16 2021-06-16 一种基于图神经网络的众测推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110664346.1A CN113377656B (zh) 2021-06-16 2021-06-16 一种基于图神经网络的众测推荐方法

Publications (2)

Publication Number Publication Date
CN113377656A true CN113377656A (zh) 2021-09-10
CN113377656B CN113377656B (zh) 2023-06-23

Family

ID=77574614

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110664346.1A Active CN113377656B (zh) 2021-06-16 2021-06-16 一种基于图神经网络的众测推荐方法

Country Status (1)

Country Link
CN (1) CN113377656B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114385921A (zh) * 2022-01-13 2022-04-22 中建电子商务有限责任公司 一种标书推荐方法、系统、设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020114122A1 (zh) * 2018-12-07 2020-06-11 阿里巴巴集团控股有限公司 用于分析关系网络图的神经网络系统和方法
CN111881363A (zh) * 2020-06-23 2020-11-03 北京工业大学 一种基于图交互网络的推荐方法
CN112084407A (zh) * 2020-09-08 2020-12-15 辽宁工程技术大学 一种融合图神经网络和注意力机制的协同过滤推荐方法
CN112347362A (zh) * 2020-11-16 2021-02-09 安徽农业大学 一种基于图自编码器的个性化推荐方法
CN112905891A (zh) * 2021-03-05 2021-06-04 中国科学院计算机网络信息中心 基于图神经网络的科研知识图谱人才推荐方法及装置
KR102264540B1 (ko) * 2020-07-20 2021-06-15 한화생명보험(주) 관계 분석 네트워크를 이용한 판매시스템 및 그 방법

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020114122A1 (zh) * 2018-12-07 2020-06-11 阿里巴巴集团控股有限公司 用于分析关系网络图的神经网络系统和方法
CN111881363A (zh) * 2020-06-23 2020-11-03 北京工业大学 一种基于图交互网络的推荐方法
KR102264540B1 (ko) * 2020-07-20 2021-06-15 한화생명보험(주) 관계 분석 네트워크를 이용한 판매시스템 및 그 방법
CN112084407A (zh) * 2020-09-08 2020-12-15 辽宁工程技术大学 一种融合图神经网络和注意力机制的协同过滤推荐方法
CN112347362A (zh) * 2020-11-16 2021-02-09 安徽农业大学 一种基于图自编码器的个性化推荐方法
CN112905891A (zh) * 2021-03-05 2021-06-04 中国科学院计算机网络信息中心 基于图神经网络的科研知识图谱人才推荐方法及装置

Non-Patent Citations (7)

* Cited by examiner, † Cited by third party
Title
FENFANG XIE: "Graph Neural Network and Multi-view Learning Based Mobile Application Recommendation in Heterogeneous Graphs", 《2020 IEEE INTERNATIONAL CONFERENCE ON SERVICES COMPUTING (SCC)》, pages 1 - 9 *
ZHIBIN HUA: "Neural graph personalized ranking for Top-N Recommendation", 《KNOWLEDGE-BASED SYSTEMS》, pages 1 - 8 *
上杉翔二: "异构图神经网络用于推荐系统问题（ACKRec，HFGN）", pages 1 - 5, Retrieved from the Internet <URL:《https://blog.csdn.net/qq_39388410/article/details/113097607》> *
何昊晨;张丹红;: "基于多维社交关系嵌入的深层图神经网络推荐方法", 计算机应用, no. 10, pages 1 - 4 *
周琪: "基于对抗机器学习的推荐系统安全性研究", 《中国优秀硕士学位论文全文数据库 (信息科技辑)》, pages 138 - 58 *
周荃: "数据挖掘方法在入侵检测中的应用研究", 《模式识别与人工智能》, pages 1 - 7 *
陈佳辉: "基于多任务学习的会话推荐系统研究", 《国优秀硕士学位论文全文数据库 (信息科技辑)》, pages 138 - 2861 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114385921A (zh) * 2022-01-13 2022-04-22 中建电子商务有限责任公司 一种标书推荐方法、系统、设备及存储介质

Also Published As

Publication number Publication date
CN113377656B (zh) 2023-06-23

Similar Documents

Publication Publication Date Title
Guo et al. Deep learning-embedded social internet of things for ambiguity-aware social recommendations
Konecný et al. Federated learning: Strategies for improving communication efficiency
CN113065974B (zh) 一种基于动态网络表示学习的链路预测方法
Yan et al. Attention-aware metapath-based network embedding for HIN based recommendation
WO2022142001A1 (zh) 基于多评分卡融合的目标对象评价方法及其相关设备
Xiao et al. Imitation learning-based implicit semantic-aware communication networks: Multi-layer representation and collaborative reasoning
CN106780071A (zh) 一种基于多模式混合模型的在线社会网络信息传播建模方法
Cui et al. Communication-efficient federated recommendation model based on many-objective evolutionary algorithm
CN113377656B (zh) 一种基于图神经网络的众测推荐方法
CN116703553B (zh) 金融反欺诈风险监控方法、系统及可读存储介质
CN113836228A (zh) 管理系统的构建方法、装置、管理系统、设备及存储介质
CN117033997A (zh) 数据切分方法、装置、电子设备和介质
WO2022148087A1 (zh) 编程语言翻译模型的训练方法、装置、设备及存储介质
Wei et al. Quantum assisted scheduling algorithm for federated learning in distributed networks
CN115545833A (zh) 一种基于用户社交信息的推荐方法及系统
CN114840775A (zh) 一种融合多空间特征的网络对齐模型及其应用
CN114741597A (zh) 一种基于知识增强注意力图神经网络的下一项推荐方法
Shao et al. Beyond Imitation: Generating Human Mobility from Context-aware Reasoning with Large Language Models
Niu et al. GCMCSR: A new graph convolution matrix complete method with side-information reconstruction
Cai et al. Knowledge-aware graph collaborative filtering for recommender systems
Li et al. Software-defined gpu-cpu empowered efficient wireless federated learning with embedding communication coding for beyond 5g
Zhou et al. Hgena: A hyperbolic graph embedding approach for network alignment
Liu et al. Secure and controllable data management mechanism for multi‐sensor fusion in internet of things
Huang Rural E-Commerce Investment and Financing Model Based on Blockchain and Data Mining
Li et al. Understanding the dynamics of knowledge building process in online knowledge-sharing platform: a structural analysis of Zhihu tag network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant