CN104239374A - 用于文档推荐的方法和装置 - Google Patents

用于文档推荐的方法和装置 Download PDF

Info

Publication number
CN104239374A
CN104239374A CN201310262708.XA CN201310262708A CN104239374A CN 104239374 A CN104239374 A CN 104239374A CN 201310262708 A CN201310262708 A CN 201310262708A CN 104239374 A CN104239374 A CN 104239374A
Authority
CN
China
Prior art keywords
document
source
data
vector
task
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310262708.XA
Other languages
English (en)
Other versions
CN104239374B (zh
Inventor
陈弢
周宝曜
曹逾
郭小燕
钟钱杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
EMC Corp
Original Assignee
EMC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by EMC Corp filed Critical EMC Corp
Priority to CN201310262708.XA priority Critical patent/CN104239374B/zh
Priority to US14/310,468 priority patent/US10635721B2/en
Publication of CN104239374A publication Critical patent/CN104239374A/zh
Application granted granted Critical
Publication of CN104239374B publication Critical patent/CN104239374B/zh
Priority to US16/860,396 priority patent/US11188597B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35Clustering; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/93Document management systems

Abstract

根据本发明的各实施方式提供了一种用于文档推荐的方法和装置,该方法包括:从与源用户使用多个第一文档有关的活动中获得用于源推荐任务的多个第一数据;从与目标用户使用多个第二文档有关的活动中获得用于目标推荐任务的多个第二数据;基于所述多个第一数据、所述多个第二数据以及从所述源推荐任务中迁移的知识来执行所述目标推荐任务以获得目标推荐模型;以及使用所述目标推荐模型向所述目标用户进行文档推荐。

Description

用于文档推荐的方法和装置
技术领域
本发明的各实施例总体上涉及文档推荐领域,并且更具体地涉及一种基于迁移学习进行文档推荐的方法和装置。
背景技术
文档推荐是用户导向的内容管理系统中的主要组成部分。准确的文档推荐可以潜在地增加用户的工作效率以及改善诸如web浏览的用户体验。用户爱好或偏好的构建是通过集成从用户的活动(例如,浏览历史)中获得的信息而自动实现的。当新用户不具有足够的历史数据时,这种推荐系统将面临如何对新用户进行个性化推荐的挑战,这被称为冷启动(cold start)问题。
对文档推荐的传统方法往往依赖于文档内容,用户信息、诸如显式或暗式的用户反馈、用户简档(profile)以及有时经由辞典的语义分析的帮助。另一种方法是协作过滤(CF),该方法广泛用于web推荐。CF方法能够通过计算来自用户活动日志的各项目的相似性或相关性来进行推荐。CF方法的关键是如何定义用户和文档之间的相关性函数(或距离函数),但是在可用数据较少时,很难准确地建立这种相关性函数。因此,这两种方法都不能够有效地克服冷启动问题。
因此,在文档推荐领域中,存在对于有效地克服冷启动问题的方法的需要。
发明内容
针对上述问题,本发明的各示例性实施例提供了一种基于迁移学习的文档推荐方法。该方法在没有足够的训练数据的情况下能够通过迁移学习对新用户进行准确的文档推荐,从而有效地克服了冷启动问题。
根据本发明的一个方面,提供了一种用于文档推荐的方法,包括:从与源用户使用多个第一文档有关的活动中获得用于源推荐任务的多个第一数据;从与目标用户使用多个第二文档有关的活动中获得用于目标推荐任务的多个第二数据;基于所述多个第一数据、所述多个第二数据以及从所述源推荐任务中迁移的知识来执行所述目标推荐任务以获得目标推荐模型;以及使用所述目标推荐模型向所述目标用户进行文档推荐。
根据本发明的另一方面,提供了一种用于文档推荐的装置,包括:获得模块,用于从与源用户使用多个第一文档有关的活动中获得用于源推荐任务的多个第一数据,并且用于从与目标用户使用多个第二文档有关的活动中获得用于目标推荐任务的多个第二数据;处理模块,用于基于所述多个第一数据、所述多个第二数据以及从所述源推荐任务中迁移的知识来执行所述目标推荐任务以获得目标推荐模型;以及输出模块,用于使用所述目标推荐模型向所述目标用户进行文档推荐并且输出文档推荐结果。
附图说明
结合附图并参考以下详细说明,本发明各实施例的特征、优点及其他方面将变得更加明显,在此以示例性而非限制性的方式示出了本发明的若干实施例,在附图中:
图1示出了通过根据本发明实施例的方法所获得的迁移学习结果的示例;
图2示出了根据本发明实施例的用于文档推荐的方法200的流程图;
图3示出了图2所示的根据本发明实施例的方法200中用于生成目标推荐模型的步骤的细化流程图;以及
图4示出了根据本发明实施例的装置400的框图。
具体实施方式
以下参考附图详细描述了本发明的各个示例性实施例。
应当理解,给出这些示例性实施例仅仅是为了使本领域技术人员能够更好地理解并进而实现本发明,而并非以任何方式限制本发明的范围。
根据本发明的实施例,提出了一种在迁移学习(transferlearning)架构下组合文档内容和协作数据的文档推荐方法。
迁移学习是对传统的机器学习的改进。在传统的机器学习的框架下,学习的任务就是在给定充分训练数据的基础上来学习一个分类模型;然后利用这个学习到的模型对测试文档进行分类与预测。然而,对于很难获得大量训练数据的新领域,以及训练数据与测试数据不服从相同的数据分布的情况下,这种学习与应用将无法开展。而迁移学习可以从已有的数据中迁移必要的知识以用来帮助新环境中的学习任务。因此,迁移学习可以在没有来自新环境的大量数据的情况下,诸如在对文档推荐系统中新加入的用户进行文档推荐时,克服冷启动的问题。
然而,在先前的迁移学习方法中,由于不同的学习任务会导致不同的预测向量,因此以往的方法基于对用于源域S和目标域T的预测向量wS和wT的关系进行建模。例如,在Sinno Jialin Pan和Qiang Yang于2010年10月在IEEE Transactions on Knowledge and DataEngineering,Vol.22,No.10中发表的“A Survey on TransferLearning”中所记载的,将用于每个任务的预测参数w划分成两项:公共参数w0和任务特定的项v,然后将支持向量机(SVM)扩展以对这两项进行正则化,而后通过公共参数来实现知识的循环。但是,这种迁移学习的方法并不适用于源域S和目标域T可能对一些特征具有完全相反的偏好的情况。例如,在文本分类项目中,Marc和Bruno都采用技术版面信息作为是否接受通知以进行文档访问的决定因素,Marc喜欢了解关于“xCP技术”版面的通知,而Bruno喜欢了解关于“企业工程”版面的通知。在这种情况下,如果直接应用通过Marc的数据训练的分类器,则可以预期的是关于xCP技术版面的那些通知将被推荐给Bruno,这将导致错误的分类。但是,如果理解了文档推荐系统更可能例如将来自Marc的数据的版面名称和作者名称进行通知,那么将可以仅使用来自Bruno的评估的若干数据(可能一下点击)而了解他将对哪个版面和哪个作者感兴趣,然后利用这些仅有的数据来进行预测。
考虑到在传统的迁移学习中,常常会对类别(categorical)变量置以相同的重要性,虽然人们对类别内容可能具有相悖的兴趣(例如,当人们要阅读科技论文时,与论文的主体内容相比,变量“作者”对于读者来说可能是决定他们是否将继续阅读这篇论文的关键变量,因此可以对于不同域中的变量“作者”置以相同的重要性,但由于每个人的研究偏好不同,因此不同的人可能会被不同的作者所吸引),因此,根据本发明的实施例提出了将“子空间重要性(subspace importance)”作为源域(在本发明中可以被视为老用户)和目标域(在本发明中可以被视为新用户)所共享的公共知识进行迁移。子空间重要性是在许多类型的文档(例如,研究论文、新闻文章、博客、twitter等)中普遍存在的信息。
基于迁移学习的文档推荐方法充分利用从老用户获得的知识以改善对新用户的推荐,根据本发明实施例的文档推荐方法可以包括两个阶段:离线模型学习阶段和在线推荐阶段。在离线模型学习阶段,通过大量的遗留数据和来自新用户的有限数据来训练正则化的(regularized)迁移学习模型;然后在在线推荐阶段,使用该正则化的迁移学习模型来将文档进行分级以向新用户推荐。
根据本发明的实施例,文档推荐任务被规范化为正则化的迁移学习问题,其中由优化目标函数时使用的约束来表示一致的子空间重要性,该约束被称为一致性子空间约束。通过解决优化问题来获得离线模型学习阶段的参数;然后,利用学习到的参数,可以不仅将文档标记为“推荐”或“不推荐”,而且还可以通过对推荐得分而向用户呈现不同的推荐优先级。
以下将分别对离线模型学习阶段和在线推荐阶段进行示例性描述。
离线模型学习阶段
作为示例而非对本发明的限制,在本发明各实施例中考虑在迁移学习框架下的二元分类的问题,但本领域技术人员应当理解,本发明可以适用于迁移学习框架下的其他分类问题。
迁移学习是通过来自已经进行了学习的相关任务的知识的迁移对新任务中的学习的改善。在下文中所说的任务可以理解为针对学习模型的训练或者分类器的训练,最终目的是获得推荐模型以用于对用户进行文档推荐。
假设新任务是目标任务T,并且用于目标任务的数据集合被表示为相关任务被称作源任务S,并且用于源任务S的数据集合被表示为在本发明的各实施例中,用于各任务的所有数据来自相同空间χ×Y,其中χ=Rm,其表示各个任务的整个特征矢量空间并且Y={-1,+1};表示用于目标任务T的一个特征向量;表示用于源任务S的一个特征向量,并且 x T j , x S j ∈ χ , y T j , y S j ∈ Y y T j , y S J = { - 1 , + 1 } , 其中例如,+1表示“推荐”,-1表示“不推荐”,但是应当理解,y值并不仅限于-1和+1,任何可以实现推荐目的的值都适用于本发明;nT和nS分别表示用于目标任务和源任务的数据的数目,例如每个任务中的可用文档的数目。在每个任务中,需要从训练数据中学习目标预测函数fS(x)(或者fT(x)),使得 y S i ≈ f s ( x S i ) 并且 y T i ≈ f T ( x T i ) .
根据本发明的实施例,通过将迁移学习的问题简化为正则化的支持向量机(SVM)的分类问题来实现本发明。出于简明但非限制性的目的,在本文中对于每个任务t∈{S,T},考虑SVM线性分类器,但是应当理解本发明并不仅限于SVM线性分类器。
在不失一般性的情况下,假设针对每个任务的输入数据可以被表达为: x = ( x 1 C = 1 , x 2 C = 1 , · · · x n 1 C = 1 ; x 1 C = 2 , x 2 C = 2 , · · · , x n 2 C = 2 ; · · · ; x 1 C = c , x 2 C = c , · · · , x n c C = c ) , 该输入数据是从用户使用文档的活动中获得的数据。当将该数据用于分类器的训练任务时,需要从所获得的数据中提取特征向量。提取特征向量的方式有很多种,在一个示例中,特征向量中的每一维表示某一个特定的关键词,如果文档出现了该关键词,则此维度值为1,否则为0,例如如果一个文档有两个关键词,第一个关键词出现过(不管出现了几次)而第二个未出现过,那么从该文档提取的特征向量为[1,0];在另一示例中,假设一个文档具有两个关键词,其中第一个在文档出现2次,第二个没有出现够,则从该文档中提取的特征向量可以表示为[2,0],等等。应当理解,其他从文档相关数据中提取特征向量的方式也适用于本发明。
从用户使用文档的活动中获得的数据或者所提取的特征向量可以被划分到多个子空间,该子空间在前述x中被表示为C,C代表了从1到c的子空间。将数据划分为多个子空间可以通过如下方式来实现:例如,对于一个文档来说,可以将其标题划分到一个子空间、将其摘要划分到一个子空间并且将其正文划分到一个子空间,因此可将与该文档相关的数据划分到c=3个子空间。但是,应当理解本发明中所使用的划分方式并不仅限于此。根据子空间的重要性,可以分别将“标题”子空间设置为C=1,将“摘要”子空间设置为C=2并且将“正文”子空间设置为C=3。前述x表达式中的ni是以i索引的各子空间的维度的数目,也即在该子空间中所取的特征的数目。在下文中,用x表示根据从使用文档的活动中获得的数据而生成的特征向量。
假设使用SVM线性分类器用于源任务S和目标任务T,那么用于任务t(t∈{S,T})的函数ft是基于超平面(hyperplane)的函数,即:
ft(x)=sign(wt·x+bt),t∈{S,T},     (1)
其中“.”表示Rm中的标准内积,wt和bt是该函数的参数。bt为一常数,因此也可以将等式(1)简化表示为:
ft(x)=sign(wt·x),t∈{S,T}  (2)。
根据本发明的实施例,通过将关于预测参数wS的知识从任务S迁移到T来获得用于目标任务T的分类器或迁移学习模型,此处不失一般性地将用于目标任务T的预测参数wT和用于源任务的预测参数wS分别表示为:
w T = ( w 1 , T C = 1 , w 2 , T C = 1 , · · · 2 n 1 , T C = 1 ; w 1 , T C = 2 , w 2 , T C = 2 , · · · , w n 2 , T C = 2 ; · · · ; w 1 , T C = c , w 2 , T C = c , · · · , x n c , T C = c ) - - - ( 3 )
w S = ( w 1 , S C = 1 , w 2 , S C = 1 , · · · 2 n 1 , S C = 1 ; w 1 , S C = 2 , w 2 , S C = 2 , · · · , w n 2 , S C = 2 ; · · · ; w 1 , S C = c , w 2 , S C = c , · · · , x n c , S C = c ) - - - ( 4 )
其中C代表从1到c的子空间并且ni是以i索引的各子空间的维度的数目,该数目对应于输入数据被划分成的各子空间的维度的数目。
在根据本发明实施例的文档推荐方法中,通过迁移“空间重要性”来实现更准确的文档推荐,而该“空间重要性”的迁移是通过在对如下问题的最优化中施加|WT C=1|=|WS C=1|,|WT C=2|=|WS C=2|,...,|WT C=c|=|WS C=c|的一致性子空间约束来实现的,其中假设用于各任务的数据的每个对应子空间中的特征相同:
min w S , w T , ξ T , ξ S , a Σ i = 1 n S ξ S i + Σ i = 1 n T ξ T i + λ 2 Σ i = 1 c ( a i ) 2 s . t . ξ S i ≥ 0 ξ T i ≥ 0 y T i ( w T x T i ) ≥ 1 - ξ T i y S i ( w S x S i ) ≥ 1 - ξ S i | w T c = i | = | w S c = i | = a c = i - - - ( 5 )
通过将约束条件代入表达式(5)中可以将其进一步表达为:
min w S , w T , a Σ i = 1 n S max ( 0,1 - y S i ( w S x S i ) ) + Σ i = 1 n T max ( 0,1 - y T i ( w T x T i ) ) + λ 2 Σ k = 1 c ( a k ) 2 - - - ( 6 )
s . t . Σ j = 1 n k ( w j , S C = k ) 2 = Σ j = 1 n k ( w j , T C = k ) 2 = a k , k = 1,2 , . . . , c
其中,wS,wT分别表示用于源任务的预测向量和用于目标任务的预测向量;nS表示用于源任务的源域中的可用数据(或者特征矢量)的数目;表示用于源任务的第i个特征向量;表示用于源任务的第i个文档的实际推荐值;nT表示用于目标任务的目标域的可用数据(或者特征向量)的数目;表示用于目标任务的第i个特征向量;表示用于目标任务的第i个文档的实际推荐值;λ为常数;c为划分的子空间的数目;nk表示用于源任务或目标任务的特征向量中与第k个子空间对应的部分中特征的数目。
在表达式(6)中所示的优化问题里,如果用预测向量wS表示对目标函数fS超平面的预测,则第一项中的表示对源任务的源域中的点(对应于例如一个文档的数据)预测的值与实际的推荐值的差别。如果用矢量wT表示对目标函数fT超平面的预测,则第二项中的表示对目标任务的目标域中的点(对应于一个数据记录,例如一个文档的数据)预测的值与实际的推荐值的差别。在该优化问题中的第三项为正则项,在本发明中利用对于SVM分类器的二次范数来进行正则化。在限制条件中,要求对于每一类(即,每一个子空间)的变量,它们在源域和目标域中的重要性相等,其中,ai表示第i类(第i个子空间)变量在源域(或者目标域)中的重要性,通过这个变量来传递“子空间重要性”的知识。对于表达式(6)的求解可以通过现有的优化问题求解器(诸如梯度牛顿法)来完成,出于简明的目的,在此不再赘述。
为了更便于理解,下面例举一个二元示例。例如,假设源任务和目标任务均具有两个特征[x1,x2],并且在本迁移学习框架内将它们标记为此时子空间的数目为2。如果源任务具有nS=6个数据,即在源域中有6个点如图1(a)所示,并且目标任务具有nT=2个数据,即在目标域中有2个点如图1(b)所示,那么将如图1(a)和图1(b)中所示的各个点的值代入表达式(2),在添加一致性约束|WT c=1|=|WS c=1|和|WT c=2|=|WS c=2|的情况下对表达式(6)进行优化,则可以得到用于源任务的推荐模型为5x1+(-1)x2+5=0的超平面,源预测向量wS=[5,-1],并且用于目标任务的推荐模型为5x1+1x2=0的超平面,目标预测向量wT=[5,1]。
在线推荐阶段
在获得了学习的预测向量wT之后,即获得了目标预测函数fT的超平面之后,可以进行文档推荐。仍以图1所示的非限制性示例来进行说明,如果从一个文档中提取的特征向量为[2,0],那么根据图1(b)所示的目标函数计算得到的预测值为y=fT(x)=sign(wT·x)=1,根据该值可以确定该文档符合用户的偏好,因此可以被“推荐”。
此外,由于SVM本身是一个天然的基于信心的分类器,因此在根据本发明实施例的方法中,在学习得到了wT所表示的超平面之后,不仅仅可以对是否推荐进行判断,而且还可以对于应该推荐的信心有一个度量。具体而言,对于一个文档x,通过计算c=wT·x可以得到推荐该文档的信心的得分c。当需要产生一个推荐列表的时候,得分c的值越大的文档在该推荐列表上的排列越靠前,即可以最先得到推荐。
图2示出了根据本发明实施例的文档推荐方法200的流程图。如图2所示,在框201中从与源用户使用多个第一文档有关的活动中获得用于源推荐任务的多个第一数据;在框202中,从与目标用户使用多个第二文档有关的活动中获得用于目标推荐任务的多个第二数据;然后在框203中,基于多个第一数据、多个第二数据以及从源推荐任务中迁移的知识来执行目标推荐任务以获得目标推荐模型,该目标推荐模型可以例如是上文所述的正则化的迁移学习模型。根据本发明的一个实施例,从源推荐任务中迁移的知识包括关于多个第一文档的子空间重要性的信息。根据本发明的另一实施例,源推荐任务包括训练基于源预测向量(wS)的源预测函数(fS)以获得源推荐模型并且目标推荐任务包括训练基于目标预测向量(wT)的目标预测函数(fT)以获得目标推荐模型。根据本发明的又一实施例,源预测函数和目标预测函数是支持向量机(SVM)线性分类器。最后在框204中,使用所获得的目标推荐模型向目标用户进行文档推荐。
图3示出了图2所示的根据本发明实施例的方法200中的框203中的步骤的细化流程图。如图3所示,在框301中将多个第一数据和多个第二数据中的每一个数据均划分到多个子空间;在框302中获得第一优化项,该第一优化项是使用源预测向量对多个第一文档进行推荐预测所得到的多个预测值分别与相应的实际推荐值之差的和;在框303中获得第二优化项,该第二优化项是使用目标预测向量对多个第二文档进行推荐预测所得到的多个预测值分别与相应的实际推荐值之差的和;在框304中获得正则项,该正则项是在使得用于每一个子空间的源预测向量的子向量的模值与用于该子空间的目标预测向量的子向量的模值相等的条件下,对源预测向量或目标预测向量进行正则化所得到的项;然后在框305中对第一优化项、第二优化项和正则项的和进行优化以获得前述和最小的情况所对应的目标向量的值作为目标推荐模型的参数。
虽然在图2和图3中按图示顺序描绘了各个框中的步骤,但是根据本发明实施例的方法并不受图示的顺序的限制,而是任何可以实现本发明方法的顺序均落入本发明的保护范围之内。例如,图3中按图示顺序示出了框302-304,但是按照逆序或是并行地执行302-304中的步骤也同样可以实现本发明的方法。
图4示出了根据本发明实施例的用于进行文档推荐的装置400的框图。如图4中所示,装置400包括:获得模块401,用于从与源用户使用多个第一文档有关的活动中获得用于源推荐任务的多个第一数据,并且用于从与目标用户使用多个第二文档有关的活动中获得用于目标推荐任务的多个第二数据;处理模块402,用于基于多个第一数据、多个第二数据以及从源推荐任务中迁移的知识来执行目标推荐任务以获得目标推荐模型;以及输出模块403,用于使用目标推荐模型向目标用户进行文档推荐并且输出文档推荐结果。
与传统的文档推荐方法相比,根据本发明实施例的基于迁移学习的文档推荐方法具有以下优点:
无需用户付出努力,例如编辑用户简档等,而是通过根据老用户过去的活动日志来自动地训练迁移学习模型便可以预测新用户对文档的偏好;
充足的老用户的访问日志数据包含了丰富的用户行为信息并且能够辅助更准确地预测新用户对文档的偏好;
通过使用于新用户的数据域的每个子空间具有与老用户的子空间相同的重要性可以准确地确定新用户对文档的偏好;
当新用户不具有足够的历史数据时,根据本发明各实施例的方法可以解决文档推荐中的冷启动问题;
根据本发明各实施例的方法将文档推荐问题规范化为分类问题并且通过对传统的SVM分类器施加被称为一致子空间约束的约束得以有效实现;
可以经由现有的优化问题求解器(诸如梯度牛顿法)来求得迁移学习优化问题中的参数;
利用在正则化SVM中学习的参数,可以为新文档计算推荐得分,并且将其标记为推荐或不推荐。如果给定了文档列表,可以不仅对文档进行标记而且可以通过文档得分对他们排序,以更切合用户的偏好向用户进行推荐。
虽然以上以SVM分类器为例对基于迁移学习的文档推荐方法进行了描述,但本领域技术人员将理解,本发明方法并不仅限于SVM,而是同样还可适用于其他可以实现文档分类的线性或非线性分类器。
以上结合附图所进行的描述只是为了说明本发明而示例性给出的。本领域技术人员应当理解,可以基于上面所描述的本发明的原理提出不同的方法步骤或装置结构,虽然这些不同的方法步骤或装置结构未在此处明确描述或示出,但都体现了本发明的原理并被包括在本发明的精神和范围之内。此外,所有此处提到的示例主要用于教导目的以帮助读者理解本发明的原理以及发明人所贡献的促进本领域技术发展的构思,并不应被解释为对本发明范围的限制。此外,此处所有提到本发明的原理、方面和实施方式的陈述及其具体示例包含其等同物在内。

Claims (12)

1.一种用于文档推荐的方法,包括:
从与源用户使用多个第一文档有关的活动中获得用于源推荐任务的多个第一数据;
从与目标用户使用多个第二文档有关的活动中获得用于目标推荐任务的多个第二数据;
基于所述多个第一数据、所述多个第二数据以及从所述源推荐任务中迁移的知识来执行所述目标推荐任务以获得目标推荐模型;以及
使用所述目标推荐模型向所述目标用户进行文档推荐。
2.根据权利要求1所述的方法,其中所迁移的知识包括关于所述多个第一文档的子空间重要性的信息。
3.根据权利要求2所述的方法,其中:
所述源推荐任务包括训练基于源预测向量(wS)的源预测函数(fS)以获得源推荐模型;并且
所述目标推荐任务包括训练基于目标预测向量(wT)的目标预测函数(fT)以获得所述目标推荐模型。
4.根据权利要求3所述的方法,其中执行所述目标推荐任务以获得所述目标推荐模型进一步包括:
将所述多个第一数据和所述多个第二数据中的每一个数据均划分到多个子空间;
获得第一优化项,所述第一优化项是使用所述源预测向量对所述多个第一文档进行推荐预测所得到的多个预测值分别与相应的实际推荐值之差的和;
获得第二优化项,所述第二优化项是使用所述目标预测向量对所述多个第二文档进行推荐预测所得到的多个预测值分别与相应的实际推荐值之差的和;
获得正则项,所述正则项是在使得用于每一个所述子空间的所述源预测向量的子向量的模值与用于该子空间的所述目标预测向量的子向量的模值相等的条件下,对所述源预测向量或所述目标预测向量进行正则化所得到的项;以及
对所述第一优化项、所述第二优化项和所述正则项的和进行优化以获得所述和最小的情况所对应的所述目标向量的值作为所述目标推荐模型的参数。
5.根据权利要求4所述的方法,进一步包括:
基于所述多个第一数据生成多个第一特征向量
基于所述多个第二数据生成多个第二特征向量以及
对以下表达式进行优化:
min w S , w T , a Σ i = 1 n S max ( 0,1 - y S i ( w S x S i ) ) + Σ i = 1 n T max ( 0,1 - y T i ( w T x T i ) ) + λ 2 Σ k = 1 c ( a k ) 2
s . t . Σ j = 1 n k ( w j , S C = k ) 2 = Σ j = 1 n k ( w j , T C = k ) 2 = ( a k ) 2 , k = 1,2 , · · · , c
其中,wS、wT分别表示所述源预测向量和所述目标预测向量;nS表示所述多个第一特征向量的数目;表示第i个所述第一特征向量;表示用于第i个所述第一文档的实际推荐值;nT表示所述多个第二特征向量的数目;表示第i个所述第二特征向量;表示用于第i个所述第二文档的实际推荐值;λ为常数;c为所述子空间的数目;nk表示所述第一特征向量中与第k个子空间对应的部分中的特征的数目,所述数目与所述第二特征向量中与第k个子空间对应的部分中的特征的数目相同。
6.根据权利要求2-5中的任一项所述的方法,其中所述源预测函数和所述目标预测函数是支持向量机(SVM)线性分类器。
7.一种用于文档推荐的装置,包括:
获得模块,用于从与源用户使用多个第一文档有关的活动中获得用于源推荐任务的多个第一数据,并且用于从与目标用户使用多个第二文档有关的活动中获得用于目标推荐任务的多个第二数据;
处理模块,用于基于所述多个第一数据、所述多个第二数据以及从所述源推荐任务中迁移的知识来执行所述目标推荐任务以获得目标推荐模型;以及
输出模块,用于使用所述目标推荐模型向所述目标用户进行文档推荐并且输出文档推荐结果。
8.根据权利要求1所述的装置,其中所迁移的知识包括关于所述多个第一文档的子空间重要性的信息。
9.根据权利要求2所述的装置,其中:
所述源推荐任务包括训练基于源预测向量(wS)的源预测函数(fS)以获得源推荐模型;并且
所述目标推荐任务包括训练基于目标预测向量(wT)的目标预测函数(fT)以获得所述目标推荐模型。
10.根据权利要求3所述的装置,其中所述处理模块进一步用于:
将所述多个第一数据和所述多个第二数据中的每一个数据均划分到多个子空间;
获得第一优化项,所述第一优化项是使用所述源预测向量对所述多个第一文档进行推荐预测所得到的多个预测值分别与相应的实际推荐值之差的和;
获得第二优化项,所述第二优化项是使用所述目标预测向量对所述多个第二文档进行推荐预测所得到的多个预测值分别与相应的实际推荐值之差的和;
获得正则项,所述正则项是在使得用于每一个所述子空间的所述源预测向量的子向量的模值与用于该子空间的所述目标预测向量的子向量的模值相等的条件下,对所述源预测向量或所述目标预测向量进行正则化所得到的项;以及
对所述第一优化项、所述第二优化项和所述正则项的和进行优化以获得所述和最小的情况所对应的所述目标向量的值作为所述目标推荐模型的参数。
11.根据权利要求4所述的方法,所述处理模块进一步用于:
基于所述多个第一数据生成多个第一特征向量
基于所述多个第二数据生成多个第二特征向量以及
对以下表达式进行优化:
min w S , w T , a Σ i = 1 n S max ( 0,1 - y S i ( w S x S i ) ) + Σ i = 1 n T max ( 0,1 - y T i ( w T x T i ) ) + λ 2 Σ k = 1 c ( a k ) 2
s . t . Σ j = 1 n k ( w j , S C = k ) 2 = Σ j = 1 n k ( w j , T C = k ) 2 = ( a k ) 2 , k = 1,2 , · · · , c
其中,wS、wT分别表示所述源预测向量和所述目标预测向量;nS表示所述多个第一特征向量的数目;表示第i个所述第一特征向量;表示用于第i个所述第一文档的实际推荐值;nT表示所述多个第二特征向量的数目;表示第i个所述第二特征向量;表示用于第i个所述第二文档的实际推荐值;λ为常数;c为所述子空间的数目;nk表示所述第一特征向量中与第k个子空间对应的部分中的特征的数目,所述数目与所述第二特征向量中与第k个子空间对应的部分中的特征的数目相同。
12.根据权利要求2-5中的任一项所述的装置,其中所述源预测函数和所述目标预测函数是支持向量机(SVM)线性分类器。
CN201310262708.XA 2013-06-21 2013-06-21 用于文档推荐的方法和装置 Active CN104239374B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201310262708.XA CN104239374B (zh) 2013-06-21 2013-06-21 用于文档推荐的方法和装置
US14/310,468 US10635721B2 (en) 2013-06-21 2014-06-20 Document recommendation
US16/860,396 US11188597B2 (en) 2013-06-21 2020-04-28 Document recommendation

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310262708.XA CN104239374B (zh) 2013-06-21 2013-06-21 用于文档推荐的方法和装置

Publications (2)

Publication Number Publication Date
CN104239374A true CN104239374A (zh) 2014-12-24
CN104239374B CN104239374B (zh) 2018-12-04

Family

ID=52111774

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310262708.XA Active CN104239374B (zh) 2013-06-21 2013-06-21 用于文档推荐的方法和装置

Country Status (2)

Country Link
US (2) US10635721B2 (zh)
CN (1) CN104239374B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105022807A (zh) * 2015-07-01 2015-11-04 广州酷狗计算机科技有限公司 信息推荐方法及装置
CN106156181A (zh) * 2015-04-20 2016-11-23 华为技术有限公司 一种别名获取方法及装置
CN108090110A (zh) * 2016-11-21 2018-05-29 奥多比公司 推荐软件动作以创建图像和推荐图像以示范软件动作的效果
CN109740634A (zh) * 2018-12-11 2019-05-10 中科恒运股份有限公司 分类模型训练方法和终端设备
CN112365302A (zh) * 2020-12-14 2021-02-12 蚂蚁智信(杭州)信息技术有限公司 产品推荐网络的训练方法、装置、设备及介质

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104239374B (zh) * 2013-06-21 2018-12-04 伊姆西公司 用于文档推荐的方法和装置
US20160063380A1 (en) * 2014-08-26 2016-03-03 International Business Machines Corporation Quantifying and predicting herding effects in collective rating systems
US20160132783A1 (en) * 2014-11-07 2016-05-12 Google Inc. User Modelling by Domain Adaptation
CN105005701A (zh) * 2015-07-24 2015-10-28 成都康赛信息技术有限公司 一种基于属性与评分的个性化推荐方法
US10848508B2 (en) * 2016-09-07 2020-11-24 Patternex, Inc. Method and system for generating synthetic feature vectors from real, labelled feature vectors in artificial intelligence training of a big data machine to defend
CN108108821B (zh) * 2017-12-29 2022-04-22 Oppo广东移动通信有限公司 模型训练方法及装置
US11743723B2 (en) 2019-09-16 2023-08-29 Microstrategy Incorporated Predictively providing access to resources
US11822622B2 (en) * 2020-05-08 2023-11-21 Docusign, Inc. Machine learned feature recommendation engine in a digital transaction management platform
CN111610768B (zh) * 2020-06-10 2021-03-19 中国矿业大学 基于相似度多源域迁移学习策略的间歇过程质量预测方法
CN112017775A (zh) * 2020-09-09 2020-12-01 平安科技(深圳)有限公司 信息推荐方法、装置、计算机设备及存储介质
CN112231489B (zh) * 2020-10-19 2021-11-02 中国科学技术大学 防疫机器人知识学习与迁移方法和系统
US11829332B1 (en) * 2021-06-28 2023-11-28 Amazon Technologies, Inc. Content importing with discovery in a collaborative environment
CN113536140B (zh) * 2021-09-16 2022-02-11 广东众聚人工智能科技有限公司 一种基于小样本数据的实时推荐方法和系统
CN117312542B (zh) * 2023-11-29 2024-02-13 泰山学院 基于人工智能的阅读推荐方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102160329A (zh) * 2008-07-01 2011-08-17 多斯维公司 使用与信息关联的语义语境便于协作搜索
CN102376063A (zh) * 2011-11-29 2012-03-14 北京航空航天大学 一种基于社会化标签的个性化推荐系统优化方法
CN102591915A (zh) * 2011-12-15 2012-07-18 南京大学 一种基于标签迁移学习的推荐方法
US20130046651A1 (en) * 2011-08-17 2013-02-21 Zachary James Edson Gaming Marketplace Apparatuses, Methods and Systems

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8200687B2 (en) * 2005-06-20 2012-06-12 Ebay Inc. System to generate related search queries
US7814112B2 (en) * 2006-06-09 2010-10-12 Ebay Inc. Determining relevancy and desirability of terms
US8175989B1 (en) * 2007-01-04 2012-05-08 Choicestream, Inc. Music recommendation system using a personalized choice set
US9230212B2 (en) * 2012-02-02 2016-01-05 Peel Technologies, Inc. Content based recommendation system
US8996530B2 (en) * 2012-04-27 2015-03-31 Yahoo! Inc. User modeling for personalized generalized content recommendations
US9836545B2 (en) * 2012-04-27 2017-12-05 Yahoo Holdings, Inc. Systems and methods for personalized generalized content recommendations
US9785883B2 (en) * 2012-04-27 2017-10-10 Excalibur Ip, Llc Avatars for use with personalized generalized content recommendations
CN104239374B (zh) * 2013-06-21 2018-12-04 伊姆西公司 用于文档推荐的方法和装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102160329A (zh) * 2008-07-01 2011-08-17 多斯维公司 使用与信息关联的语义语境便于协作搜索
US20130046651A1 (en) * 2011-08-17 2013-02-21 Zachary James Edson Gaming Marketplace Apparatuses, Methods and Systems
CN102376063A (zh) * 2011-11-29 2012-03-14 北京航空航天大学 一种基于社会化标签的个性化推荐系统优化方法
CN102591915A (zh) * 2011-12-15 2012-07-18 南京大学 一种基于标签迁移学习的推荐方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
刘建国等: "个性化推荐系统的研究进展", 《自然科学进展》 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106156181A (zh) * 2015-04-20 2016-11-23 华为技术有限公司 一种别名获取方法及装置
CN106156181B (zh) * 2015-04-20 2019-07-19 华为技术有限公司 一种别名获取方法及装置
CN105022807A (zh) * 2015-07-01 2015-11-04 广州酷狗计算机科技有限公司 信息推荐方法及装置
CN105022807B (zh) * 2015-07-01 2017-06-23 广州酷狗计算机科技有限公司 信息推荐方法及装置
CN108090110A (zh) * 2016-11-21 2018-05-29 奥多比公司 推荐软件动作以创建图像和推荐图像以示范软件动作的效果
CN108090110B (zh) * 2016-11-21 2023-09-19 奥多比公司 推荐软件动作以创建图像和推荐图像以示范软件动作的效果
CN109740634A (zh) * 2018-12-11 2019-05-10 中科恒运股份有限公司 分类模型训练方法和终端设备
CN112365302A (zh) * 2020-12-14 2021-02-12 蚂蚁智信(杭州)信息技术有限公司 产品推荐网络的训练方法、装置、设备及介质
CN112365302B (zh) * 2020-12-14 2021-03-23 蚂蚁智信(杭州)信息技术有限公司 产品推荐网络的训练方法、装置、设备及介质

Also Published As

Publication number Publication date
US20200257739A1 (en) 2020-08-13
US20140379618A1 (en) 2014-12-25
US11188597B2 (en) 2021-11-30
US10635721B2 (en) 2020-04-28
CN104239374B (zh) 2018-12-04

Similar Documents

Publication Publication Date Title
CN104239374A (zh) 用于文档推荐的方法和装置
US10089580B2 (en) Generating and using a knowledge-enhanced model
CN104572797A (zh) 基于主题模型的个性化服务推荐系统和方法
Wang et al. Bridging the semantic gap between customer needs and design specifications using user-generated content
SzymańSki Comparative analysis of text representation methods using classification
CN104298776A (zh) 基于lda模型的搜索引擎结果优化系统
Kim et al. SAO2Vec: Development of an algorithm for embedding the subject–action–object (SAO) structure using Doc2Vec
Xin et al. The implementation of an AI-driven advertising push system based on a NLP algorithm
Sarwar et al. Evaluating keyphrase extraction algorithms for finding similar news articles using lexical similarity calculation and semantic relatedness measurement by word embedding
Azzam et al. A question routing technique using deep neural network for communities of question answering
Lotfi et al. A tool for study on impact of Big Data technologies on firm performance
Mahadevan et al. Review rating prediction using combined latent topics and associated sentiments: an empirical review
Zhang et al. A hybrid knowledge push method based on trust-aware and item-cluster oriented to product design
Liu et al. Efficient relation extraction method based on spatial feature using ELM
An et al. Neural user embedding from browsing events
Eddamiri et al. Graph embeddings for linked data clustering
Wang et al. Query-dependent cross-domain ranking in heterogeneous network
Bellar et al. Application of machine learning to sentiment analysis
Pasala et al. An analytics-driven approach to identify duplicate bug records in large data repositories
Opasjumruskit et al. Towards learning from user feedback for ontology-based information extraction
Wang et al. Cross-domain collaborative recommendation by transfer learning of heterogeneous feedbacks
Jȩdrzejowicz et al. Word embeddings versus LDA for topic assignment in documents
Kumar et al. An Empirical Analysis of Collaborative and Content Based Recommender System by using AI
Basharat et al. Leveraging Crowdsourcing for the Thematic Annotation of the Qur'an
Mejia et al. Covid-19 fake news detection using joint doc2vec and text features with pca

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20200413

Address after: Massachusetts, USA

Patentee after: EMC IP Holding Company LLC

Address before: Massachusetts, USA

Patentee before: EMC Corp.

TR01 Transfer of patent right