CN114329201B - 深度学习模型的训练方法、内容推荐方法和装置 - Google Patents
深度学习模型的训练方法、内容推荐方法和装置 Download PDFInfo
- Publication number
- CN114329201B CN114329201B CN202111618428.9A CN202111618428A CN114329201B CN 114329201 B CN114329201 B CN 114329201B CN 202111618428 A CN202111618428 A CN 202111618428A CN 114329201 B CN114329201 B CN 114329201B
- Authority
- CN
- China
- Prior art keywords
- deep learning
- feature
- learning model
- target
- initial
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Abstract
本公开提供了一种深度学习模型的训练方法、内容推荐方法、装置、设备、介质和产品,涉及人工智能技术领域,尤其涉及深度学习、智能推荐等技术领域。深度学习模型的训练方法包括:获取配置文件,其中,配置文件包括模型类型数据和候选特征配置数据;基于模型类型数据,选择初始网络层类型和初始网络层结构;基于初始网络层类型和初始网络层结构,获得初始深度学习模型;基于候选特征配置数据处理第一训练样本,得到第一训练特征数据;利用第一训练特征数据训练初始深度学习模型;基于经训练的初始深度学习模型,得到目标深度学习模型。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及深度学习、智能推荐等技术领域,更具体地,涉及一种深度学习模型的训练方法、内容推荐方法、装置、电子设备、介质和程序产品。
背景技术
相关技术中,可以通过深度学习模型来推荐相关内容,但是,为了训练得到一个较优的深度学习模型,需要投入大量的人工成本和时间成本,并且存在较高的技术门槛,导致深度学习模型的训练效率较低。
发明内容
本公开提供了一种深度学习模型的训练方法、内容推荐方法、装置、电子设备、存储介质以及程序产品。
根据本公开的一方面,提供了一种深度学习模型的训练方法,包括:获取配置文件,其中,所述配置文件包括模型类型数据和候选特征配置数据;基于所述模型类型数据,选择初始网络层类型和初始网络层结构;基于所述初始网络层类型和所述初始网络层结构,获得初始深度学习模型;基于所述候选特征配置数据处理第一训练样本,得到第一训练特征数据;利用所述第一训练特征数据训练所述初始深度学习模型;基于经训练的初始深度学习模型,得到目标深度学习模型。
根据本公开的一方面,提供了一种内容推荐方法,包括:确定针对目标对象的对象特征数据;针对至少一个候选内容中的目标内容,确定针对所述目标内容的内容特征数据;将所述对象特征数据和所述内容特征数据输入目标深度学习模型中,得到输出结果,其中,所述目标深度学习模型采用根据本公开的方法生成,所述输出结果表征了所述目标对象对所述目标内容的感兴趣程度;响应于所述输出结果满足预设条件,向所述目标对象推荐所述目标内容。
根据本公开的另一方面,提供了一种深度学习模型的训练装置,包括:获取模块、选择模块、第一获得模块、第一处理模块、第一训练模块和第二获得模块。获取模块,用于获取配置文件,其中,所述配置文件包括模型类型数据和候选特征配置数据;选择模块,用于基于所述模型类型数据,选择初始网络层类型和初始网络层结构;第一获得模块,用于基于所述初始网络层类型和所述初始网络层结构,获得初始深度学习模型;第一处理模块,用于基于所述候选特征配置数据处理第一训练样本,得到第一训练特征数据;第一训练模块,用于利用所述第一训练特征数据训练所述初始深度学习模型;第二获得模块,用于基于经训练的初始深度学习模型,得到目标深度学习模型。
根据本公开的一方面,提供了一种内容推荐装置,包括:第一确定模块、第二确定模块、输入模块和推荐模块。第一确定模块,用于确定针对目标对象的对象特征数据;第二确定模块,用于针对至少一个候选内容中的目标内容,确定针对所述目标内容的内容特征数据;输入模块,用于将所述对象特征数据和所述内容特征数据输入目标深度学习模型中,得到输出结果,其中,所述目标深度学习模型采用根据本公开的装置生成,所述输出结果表征了所述目标对象对所述目标内容的感兴趣程度;推荐模块,用于响应于所述输出结果满足预设条件,向所述目标对象推荐所述目标内容。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器和与所述至少一个处理器通信连接的存储器。其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述的深度学习模型的训练方法和/或内容推荐方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行上述的深度学习模型的训练方法和/或内容推荐方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现上述的深度学习模型的训练方法和/或内容推荐方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示意性示出了根据本公开一实施例的深度学习模型的训练和内容推荐的系统架构;
图2示意性示出了根据本公开一实施例的深度学习模型的训练方法的流程图;
图3示意性示出了根据本公开另一实施例的深度学习模型的训练方法的流程图;
图4示意性示出了根据本公开一实施例的深度学习模型的训练方法的原理图;
图5示意性示出了根据本公开一实施例的内容推荐方法的示意图;
图6示意性示出了根据本公开一实施例的深度学习模型的训练装置的框图;
图7示意性示出了根据本公开一实施例的内容推荐装置的框图;以及
图8是用来实现本公开实施例的用于执行深度学习模型的训练和/或内容推荐的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
图1示意性示出了根据本公开一实施例的深度学习模型的训练和内容推荐的系统架构。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括客户端101、102、103,网络104和服务器105。网络104用以在客户端101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用客户端101、102、103通过网络104与服务器105交互,以接收或发送消息等。客户端101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
客户端101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。本公开实施例的客户端101、102、103例如可以运行应用程序。
服务器105可以是提供各种服务的服务器,例如对用户利用客户端101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给客户端。另外,服务器105还可以是云服务器,即服务器105具有云计算功能。
需要说明的是,本公开实施例所提供的深度学习模型的训练方法和/或内容推荐方法可以由服务器105执行。相应地,本公开实施例所提供的深度学习模型的训练装置和/或内容推荐装置可以设置于服务器105中。本公开实施例所提供的深度学习模型的训练方法和/或内容推荐方法也可以由不同于服务器105且能够与客户端101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的深度学习模型的训练装置和/或内容推荐装置也可以设置于不同于服务器105且能够与客户端101、102、103和/或服务器105通信的服务器或服务器集群中。
示例性地,服务器105可以通过网络104接收来自客户端101、102、103的训练样本,并利用训练样本训练深度学习模型,然后服务器105可以通过网络104将经训练的深度学习模型发送给客户端101、102、103,客户端可以利用经训练的深度学习模型进行内容推荐。或者,服务器105也可以直接利用深度学习模型进行内容推荐。
应该理解,图1中的客户端、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的客户端、网络和服务器。
下面结合图1的系统架构,参考图2~图5来描述根据本公开示例性实施方式的深度学习模型的训练方法和内容推荐方法。本公开实施例的深度学习模型的训练方法和内容推荐方法例如可以由图1所示的服务器来执行,图1所示的服务器例如以下文的电子设备相同或类似。
图2示意性示出了根据本公开一实施例的深度学习模型的训练方法的流程图。
如图2所示,本公开实施例的深度学习模型的训练方法200例如可以包括操作S210~操作S260。
在操作S210,获取配置文件,配置文件包括模型类型数据和候选特征配置数据。
在操作S220,基于模型类型数据,选择初始网络层类型和初始网络层结构。
在操作S230,基于初始网络层类型和初始网络层结构,得到初始深度学习模型。
在操作S240,基于候选特征配置数据处理第一训练样本,得到第一训练特征数据。
在操作S250,利用第一训练特征数据训练初始深度学习模型。
在操作S260,基于经训练的初始深度学习模型,得到目标深度学习模型。
示例性地,配置文件包括模型类型数据,模型类型数据例如表征了初始深度学习模型的模型类型,模型类型例如包括深度神经网络(Deep Neural Networks,DNN)类型。基于模型类型数据确定初始深度学习模型的模型类型(例如DNN)之后,可进一步确定DNN模型的初始网络层类型和初始网络层结构。
示例性地,初始网络层类型例如包括注意力层、全连接层、池化层等类型的层级,初始网络层类型还可以表征各层级之间的连接关系。初始网络层结构例如表征了每一层级的节点数量。
示例性地,初始网络层类型可以包括多个供选择的初始网络层类型,初始网络层结构可以包括多个供选择的初始网络层结构,基于模型类型数据可以从多个初始网络层类型和多个初始网络层结构中选择DNN模型所需的初始网络层类型和初始网络层结构,例如,可以依次选择不同的初始网络层类型和不同的初始网络层结构来构建初始深度学习模型,对每次构建得到初始深度学习模型进行训练。
示例性地,候选特征配置数据表征了针对第一训练样本的处理方式,换言之,候选特征配置数据表征了从第一训练样本中提取特征数据的特征类型和特征维度。基于候选特征配置数据处理第一训练样本可以得到适用于训练初始深度学习模型的第一训练特征数据。在一示例中,候选特征配置数据包括针对第一训练样本的特征类型和特征维度。特征类型例如包括年龄、性别、内容类别等特征,特征维度例如为特征向量的维度,特征向量的维度例如包括1*128维、1*256维等等。
例如,当训练第一个初始深度学习模型时,针对用于训练模型的第一训练样本,从年龄、性别、内容类别等特征中选择年龄和性别的特征,从特征维度1*128维、1*256维中选择1*128维,然后处理第一训练样本得到针对年龄和性别的1*128维的第一训练特征数据。
例如,当训练第二个初始深度学习模型时,针对用于训练模型的第一训练样本,从年龄、性别、内容类别等特征中选择性别和内容类别的特征,从特征维度1*128维、1*256维中选择1*256维,然后处理第一训练样本得到针对性别和内容类别的1*256维的第一训练特征数据。
例如,构建得到初始深度学习模型之后,可以基于候选特征配置数据处理第一训练样本得到第一训练特征数据,并通过第一训练特征数据训练初始深度学习模型。候选特征配置数据也可以包括多个候选特征配置数据,针对不同的初始深度学习模型,可以依次选择不同的候选特征配置数据来处理用于训练对应初始深度学习模型的第一训练样本。在得到经训练的初始深度学习模型之后,可以基于初始深度学习模型得到目标深度学习模型。例如可以直接将初始深度学习模型作为目标深度学习模型,或者基于初始深度学习模型重新进行模型构建和模型训练以得到深度学习模型。
根据本公开的实施例,通过配置文件来定义模型类型数据和候选特征配置数据,在训练初始深度学习模型时,可以基于配置文件选择相应的初始网络层类型和初始网络层结构来构建相应的初始深度学习模型,并基于候选特征配置数据来处理第一训练样本得到相应的第一训练特征数据,以便基于第一训练特征数据训练初始深度学习模型,然后基于初始深度学习模型得到目标深度学习模型。可以理解,基于配置文件构建初始神经网络和处理第一训练样本,以便自动快速地训练多个初始深度学习模型,提高了模型训练的效率,降低了模型训练的成本,通过配置文件的方式无需修改代码,降低模型训练的技术门槛。
图3示意性示出了根据本公开另一实施例的深度学习模型的训练方法的流程图。
如图3所示,本公开实施例的深度学习模型的训练方法300例如可以包括操作S301~操作S311。
在操作S301,获取配置文件,配置文件包括模型类型数据和候选特征配置数据。
在操作S302,基于模型类型数据,选择初始网络层类型和初始网络层结构。
在操作S303,基于初始网络层类型和初始网络层结构,获得初始深度学习模型。
在操作S304,基于候选特征配置数据处理第一训练样本,得到第一训练特征数据。
在操作S305,利用第一训练特征数据训练初始深度学习模型。
根据本公开实施例,操作S301~操作S305与上文提及的实施例的操作相同或类似,在此不再赘述。通过操作S301~操作S305得到经训练的初始深度学习模型之后,基于经训练的初始深度学习模型,得到目标深度学习模型,参见操作S306~S311。
示例性地,初始深度学习模型包括至少一个经训练的初始深度学习模型,至少一个经训练的初始深度学习模型中各个经训练的深度学习模型对应的初始网络层类型、初始网络层结构或者候选特征配置数据可以不同。配置文件中例如还包括评价条件,评价条件用于评价初始深度学习模型的训练效果。以下操作S306~操作S308描述了通过评价初始深度学习模型,得到训练效果较好的目标网络层类型、目标网络层结构、目标特征配置数据。
在操作S306,基于候选特征配置数据处理验证样本,得到验证特征数据。
在操作S307,将验证特征数据分别输入至少一个经训练的初始深度学习模型中,得到至少一个验证结果。
在操作S308,基于至少一个验证结果和评价条件,从网络层类型集合、网络层结构集合、特征配置数据集合中分别确定目标网络层类型、目标网络层结构、目标特征配置数据。
示例性地,当训练得到多个初始深度学习模型之后,得到与多个初始深度学习模型对应的网络层类型集合、网络层结构集合和特征配置数据集合。例如,网络层类型集合中包括针对多个经训练的初始深度学习模型的初始网络层类型。网络层结构集合包括针对多个经训练的初始深度学习模型的初始网络层结构。特征配置数据集合包括针对多个经训练的初始深度学习模型的初始特征配置数据,特征配置数据集合中的初始特征配置数据例如为候多个选特征配置数据中的至少部分。
示例性地,针对每个初始深度学习模型,针对与该初始深度学习模型对应的候选特征配置数据,基于该候选特征配置数据处理验证样本,得到验证特征数据,并利用验证特征数据训练该初始深度学习模型得到验证结果。由此,可以得到与多个初始深度学习模型一一对应的多个验证结果。
在一示例中,验证结果例如包括初始深度学习模型对验证样本的召回率或精准率等等,评价条件例如包括针对召回率户精准率的条件,例如,通过评价条件来评价验证结果的召回率或精准率是否达到一定阈值。在另一示例中,评价条件例如与AUC(Area UnderCurve)曲线相关,可以基于AUC曲线来评价验证结果,AUC曲线是一种评价指标。基于针对多个初始深度学习模型的验证结果和评价条件,从网络层类型集合、网络层结构集合、特征配置数据集合中分别确定目标网络层类型、目标网络层结构、目标特征配置数据。
根据本公开的实施例,通过评价条件来评价验证结果,以便从网络层类型集合、网络层结构集合、特征配置数据集合中分别确定训练效果较好的目标网络层类型、目标网络层结构、目标特征配置数据,提高了目标网络层类型、目标网络层结构、目标特征配置数据的确定准确性。
在得到目标网络层类型、目标网络层结构、目标特征配置数据之后,可以基于目标网络层类型、目标网络层结构、目标特征配置数据来重新训练模型得到目标深度学习模型,参见以下操作S309~操作S311。
在操作S309,基于目标网络层类型和目标网络层结构,得到待训练目标深度学习模型。
示例性地,基于目标网络层类型和目标网络层结构,构建目标深度学习模型。
在操作S310,基于目标特征配置数据处理第二训练样本,得到第二训练特征数据。
示例性地,目标特征配置数据表征了如何处理用于训练目标深度学习模型的第二训练样本,以得到适用于训练目标深度学习模型的第二训练特征数据。
在操作S311,利用第二训练特征数据训练待训练目标深度学习模型,得到目标深度学习模型。
示例性地,构建得到目标深度学习模型之后,可以基于目标特征配置数据处理第二训练样本得到第二训练特征数据,并通过第二训练特征数据训练目标深度学习模型,目标深度学习模型的训练过程与初始深度学习模型的训练过程类似,在此不再赘述。
根据本公开的实施例,训练多个初始深度学习模型的过程,可以看成是搜索网络层类型、网络层结构、特征配置数据的实验过程。
在一示例中,可以直接将验证结果满足评价条件的初始深度学习模型作为最终的目标深度学习模型。
在另一示例中,目标网络层类型、目标网络层结构、目标特征配置数据可能是来自不同初始深度学习模型的,为了降低数据存储空间的耗费率,可以不保存初始深度学习模型,而保存较优的目标网络层类型、目标网络层结构、目标特征配置数据。然后,基于目标网络层类型、目标网络层结构、目标特征配置数据重新构建和训练目标深度学习模型。
可以理解,首先通过训练初始深度学习模型来得到目标网络层类型、目标网络层结构、目标特征配置数据,再基于目标网络层类型、目标网络层结构、目标特征配置数据重新训练得到目标深度学习模型,不仅提高了目标深度学习模型的精度,还降低了数据存储空间的耗费率。
图4示意性示出了根据本公开一实施例的深度学习模型的训练方法的原理图。
如图4所示,配置文件410例如包括模型类型数据411、多个候选特征配置数据412、评价条件413。
示例性地,多个候选网络层类型420中例如包括候选网络层类型A1~A4,多个候选超参数430中例如包括候选超参数B1~B4。
基于模型类型数据411,从多个候选网络层类型420中选择针对初始深度学习模型的初始网络层类型,并从多个候选网络层类型420中随机选择目标超参数,作为针对初始深度学习模型的初始网络层结构。
以初始深度学习模型431、432、433为例,选择候选网络层类型A1和候选超参数B1分别作为针对初始深度学习模型431的初始网络层类型和初始网络层结构,例如候选网络层类型A1包括全连接层、池化层,候选超参数B1(目标超参数)为全连接层有M个节点、池化层有N个节点,M和N均为大于0的整数。类似地,选择候选网络层类型A2和候选超参数B2分别作为针对初始深度学习模型432的初始网络层类型和初始网络层结构。选择候选网络层类型A3和候选超参数B3分别作为针对初始深度学习模型433的初始网络层类型和初始网络层结构。
然后,基于候选网络层类型A1和候选超参数B1构建初始深度学习模型431,基于候选网络层类型A2和候选超参数B2构建初始深度学习模型432,基于候选网络层类型A3和候选超参数B3构建初始深度学习模型433。
在构建得到初始深度学习模型431、432、433之后,需要基于第一训练样本440训练初始深度学习模型431、432、433。
示例性地,从多个候选特征配置数据412中选择针对初始深度学习模型的初始特征配置数据。例如,选择候选特征配置数据C1作为针对初始深度学习模型431的初始特征配置数据,选择候选特征配置数据C2作为针对初始深度学习模型432的初始特征配置数据,选择候选特征配置数据C3作为针对初始深度学习模型433的初始特征配置数据。
针对每个初始深度学习模型,需要基于对应的初始特征配置数据处理第一训练样本440。以初始深度学习模型431为例,基于初始特征配置数据(C1)确定第一特征类型和第一特征维度,例如初始特征配置数据(C1)定义了第一特征类型和第一特征维度,第一特征类型例如包括年龄、性别、内容类别等特征,第一特征维度例如为特征向量的维度,特征向量的维度例如为1*128维。
然后,基于第一特征类型从第一训练样本440中提取第一子样本,第一子样本例如是针对包括年龄、性别、内容类别等特征的内容。基于第一特征维度处理第一子样本,得到第一训练特征数据441,第一训练特征数据441例如是特征向量,特征向量的维度例如为1*128维。
获得第一训练特征数据442、第一训练特征数据443的过程与获得第一训练特征数据441的过程类似,在此不再赘述。
然后,利用第一训练特征数据441训练初始深度学习模型431,利用第一训练特征数据442训练初始深度学习模型432,利用第一训练特征数据443训练初始深度学习模型433。
初始深度学习模型431~433训练完成之后,得到针对初始深度学习模型431~433的网络层类型集合451、网络层结构集合452、特征配置数据集合453。网络层类型集合451例如包括初始网络层类型A1、A2、A3,网络层结构集合452例如包括初始网络层结构B1、B2、B3,特征配置数据集合453例如包括初始特征配置数据C1、C2、C3。
然后,基于评价条件413和验证样本460从网络层类型集合451、网络层结构集合452、特征配置数据集合453中分别确定目标网络层类型471(A1)、目标网络层结构472(B2)、目标特征配置数据473(C3),过程与上文内容类似,在此不再赘述。
接下来,基于目标网络层类型471(A1)和目标网络层结构462(B2)构建目标深度学习模型480。在构建得到目标深度学习模型480之后,需要基于第二训练样本490训练目标深度学习模型480。
示例性地,基于目标特征配置数据473(C3)处理第二训练样本490得到第二训练特征数据491。例如,基于目标特征配置数据473(C3)确定第二特征类型和第二特征维度,目标特征配置数据473(C3)例如定义了第二特征类型和第二特征维度,第二特征类型例如包括年龄、性别等特征,第二特征维度例如为特征向量的维度,特征向量的维度例如为1*256维。
然后,基于第二特征类型从第二训练样本490中提取第二子样本,第二子样本例如是针对包括年龄、性别等特征的内容。基于第二特征维度处理第二子样本,得到第二训练特征数据491,第二训练特征数据491例如是特征向量,特征向量的维度例如为1*256维。
接下来,利用第二训练特征数据491训练目标深度学习模型480,得到经训练的目标深度学习模型480为最终的深度学习模型。
在本公开的另一示例中,可以基于飞桨训练框架PaddlePaddle和开源分布式Ray来训练模型。例如,使用PaddlePaddle实现模型构建和模型训练,使用Ray在本地训练和集群训练之间无缝切换,Ray可以自动调度可用资源进行并行训练,提高了资源利用率和并行训练程度数。
例如,配置文件包括特征配置文件和训练配置两份文件。特征配置文件例如包括候选特征配置数据,特征配置文件还可以包括特征的处理方式,处理方式例如包括归一化、哈希操作等。训练配置文件包括除特征之外的其他数据,例如包括模型类型数据、评价条件等等。
训练过程所使用的训练样本、验证样本、候选特征配置数据、模型结构、超参数、训练资源配置均可以通过配置文件的方式进行调用,无需修改框架代码,一键启动即可开始实验训练,降低了技术门槛和训练难度。
例如,第一步,输入配置文件、第一训练样本、验证样本进行初始深度学习模型的自动训练搜索,搜索结果例如包括超参数、特征类型、特征维度(embedding dimension)、模型结构等等。第二步,基于搜索结果和第二训练样本重新训练目标深度学习模型。
配置文件中的模型类型数据例如定义了如何选择初始模型类型和网络层结构(搜索方向),候选特征配置数据例如定义了特征类型搜索和特征维度搜索。其中,超参数搜索、特征类型搜索、特征维度搜索和模型结构搜索可以统称为搜索方向。
特征类型包括模型训练时需要从样本数据中提取的特征或组合特征,特征例如包括性别、年龄等特征,组合特征例如包括性别和年龄的组合。
示例性地,超参数搜索例如包括搜索空间、搜索算法和scheduler算法(调度算法)。搜索空间包括random search(随机搜索)、grid search(网格搜索)、均匀分布抽取等算法,搜索空间表征有哪些候选超参数可供搜索。搜索算法包括grid search(网格搜索)算法、贝叶斯优化算法、OPTUNA优化等算法,OPTUNA是一个自动超参数优化的框架,搜索算法用于基于候选超参数的训练结果来确定最优的超参数。scheduler算法(调度算法)包括先进先出FIFO算法、ASHA算法等,ASHA算法是一种调参算法,scheduler算法表征如何调度计算资源来基于候选超参数进行并行训练。
组合特征可以通过AutoCross(自动交叉)算法、AutoFis(自动调整)等模型进行搜索,AutoCross模型负责筛选有用的显式交叉特征,例如筛选对模型训练效果有提升的特征。AutoFis模型负责过滤FM(因式分解机)模型和DeepFM模型中无用的二阶交叉特征(隐式交叉特征)。显式交叉特征例如为多个特征的合并或拼接,隐式交叉特征例如为多个特征的点乘。
针对特征维度,可以利用AutoDim算法和AutoDis算法进行搜索,AutoDim算法是一种自动维度寻优的算法,AutoDis算法是一种数值特征自动离散化算法。AutoDim算法从不同的特征维度中搜索出不同的维度大小,即为离散特征搜索适合的维度。AutoDis算法支持连续特征embedding化(将连续特征离散化),并在训练过程中,给不同的连续特征搜索出最适合的维度大小。
模型结构搜索可以通过NAS模型(一种压缩模型)学习child architecture(网络层)对应的权重,从而得到一个最优模型结构。例如,通过学习多个候选网络层对应的权重,将权重较大的候选网络层作为最终的网络层。
在进行模型的搜索和训练的实验时,可以将实验过程和实验结果进行可视化。例如通过VisualDL工具进行公式化,VisualDL工具为飞桨训练框架PaddlePaddle中的可视化分析工具,以丰富的图表展现实验中不同超参数对实验结果的影响,能更直观地理解搜索空间、搜索算法对推荐模型的影响。
模型的训练过程支持批量离线训练搜索和增量训练搜索。例如,通过配置的方式选择批量离线搜索训练或者增量搜索训练。对于批量离线搜索,在同一个数据集上对比实验结果选择最优搜索结果。对于增量搜索训练,如果增量搜索的实验效果优于原来的实验,则替换,否则保留原来的模型结构和超参数并继续训练。
训练过程可以通过并行的方式进行,例如有些计算资源基于一部分超参数、模型结构、训练样本进行训练,有些计算资源基于另一部分超参数、模型结构、训练样本进行训练,从而提高训练效率。
图5示意性示出了根据本公开一实施例的内容推荐方法的流程图。
如图5所示,本公开实施例的内容推荐方法500例如可以包括操作S510~操作S540。
在操作S510,确定针对目标对象的对象特征数据。
在操作S520,针对至少一个候选内容中的目标内容,确定针对目标内容的内容特征数据。
在操作S530,将对象特征数据和内容特征数据输入目标深度学习模型中,得到输出结果。
在操作S540,响应于输出结果满足预设条件,向目标对象推荐目标内容。
示例性地,上文提及的初始深度学习模型或目标深度学习模型适用于内容推荐场景,内容包括但不仅限于文章、商品、新闻。
例如,目标对象为浏览内容的对象,对象特征数据例如包括目标对象的年龄、性别、历史浏览记录、所浏览的内容类别等等。将多个候选内容中的任意一个作为目标内容,并确定目标内容的内容特征数据,内容特征数据例如包括但不仅限于内容类别、主题信息、关键词信息。
将对象特征数据和内容特征数据输入目标深度学习模型中得到输出结果,输出结果表征了目标对象对目标内容的感兴趣程度。在另一示例中,当初始深度学习模型的模型精度符合要求时,也可以将对象特征数据和内容特征数据输入初始深度学习模型中得到输出结果。初始深度学习模型或目标深度学习模型可以自动学习得到对象特征数据和内容特征数据之间的关联。如果输出结果满足预设条件,表示目标对象对目标内容的感兴趣程度较大,此时可以向目标对象推荐目标内容。如果输出结果不满足预设条件,表示目标对象对目标内容的感兴趣程度较小,此时可以不向目标对象推荐目标内容。
根据本公开的实施例,通过初始深度学习模型或目标深度学习模型进行内容推荐,提高了内容推荐的准确性和效率,推荐的内容满足目标对象的需求,提高目标对象的使用体验。
图6示意性示出了根据本公开一实施例的深度学习模型的训练装置的框图。
如图6所示,本公开实施例的深度学习模型的训练装置600例如包括获取模块610、选择模块620、第一获得模块630、第一处理模块640、第一训练模块650以及第二获得模块660。
获取模块610可以用于获取配置文件,其中,配置文件包括模型类型数据和候选特征配置数据。根据本公开实施例,获取模块610例如可以执行上文参考图2描述的操作S210,在此不再赘述。
选择模块620可以用于基于模型类型数据,选择初始网络层类型和初始网络层结构。根据本公开实施例,选择模块620例如可以执行上文参考图2描述的操作S220,在此不再赘述。
第一获得模块630可以用于基于初始网络层类型和初始网络层结构,获得初始深度学习模型。根据本公开实施例,第一获得模块630例如可以执行上文参考图2描述的操作S230,在此不再赘述。
第一处理模块640可以用于基于候选特征配置数据处理第一训练样本,得到第一训练特征数据。根据本公开实施例,第一处理模块640例如可以执行上文参考图2描述的操作S240,在此不再赘述。
第一训练模块650可以用于利用第一训练特征数据训练初始深度学习模型。根据本公开实施例,第一训练模块650例如可以执行上文参考图2描述的操作S250,在此不再赘述。
第二获得模块660可以用于基于经训练的初始深度学习模型,得到目标深度学习模型。根据本公开实施例,第二获得模块660例如可以执行上文参考图2描述的操作S260,在此不再赘述。
根据本公开的实施例,经训练的初始深度学习模型包括至少一个经训练的初始深度学习模型;配置文件还包括评价条件;第二获得模块包括:第一处理子模块、输入子模块、第一确定子模块和获得子模块。第一处理子模块,用于基于候选特征配置数据处理验证样本,得到验证特征数据;输入子模块,用于将验证特征数据分别输入至少一个经训练的初始深度学习模型中,得到至少一个验证结果;第一确定子模块,用于基于至少一个验证结果和评价条件,从网络层类型集合、网络层结构集合、特征配置数据集合中分别确定目标网络层类型、目标网络层结构、目标特征配置数据;获得子模块,用于基于目标网络层类型、目标网络层结构、目标特征配置数据,得到目标深度学习模型。
根据本公开的实施例,网络层类型集合包括针对至少一个经训练的初始深度学习模型的初始网络层类型;网络层结构集合包括针对至少一个经训练的初始深度学习模型的初始网络层结构;特征配置数据集合包括针对至少一个经训练的初始深度学习模型的初始特征配置数据,特征配置数据集合中的初始特征配置数据为候选特征配置数据中的至少部分。
根据本公开的实施例,获得子模块包括:获得单元、处理单元和训练单元。获得单元,用于基于目标网络层类型和目标网络层结构,得到待训练目标深度学习模型;处理单元,用于基于目标特征配置数据处理第二训练样本,得到第二训练特征数据;训练单元,用于利用第二训练特征数据训练待训练目标深度学习模型,得到所述目标深度学习模型。
根据本公开的实施例,候选特征配置数据包括至少一个候选特征配置数据;第一处理模块640包括:第一选择子模块、第二确定子模块、提取子模块和第二处理子模块。第一选择子模块,用于从至少一个候选配置数据中选择针对初始深度学习模型的初始特征配置数据;第二确定子模块,用于基于初始特征配置数据,确定第一特征类型和第一特征维度;提取子模块,用于基于第一特征类型,从第一训练样本中提取第一子样本;第二处理子模块,用于基于第一特征维度处理第一子样本,得到第一训练特征数据。
根据本公开的实施例,处理单元包括:确定子单元、提取子单元和处理子单元。确定子单元,用于基于目标特征配置数据,确定第二特征类型和第二特征维度;提取子单元,用于基于第二特征类型,从第二训练样本中提取第二子样本;处理子单元,用于基于第二特征维度处理第二子样本,得到第二训练特征数据。
根据本公开的实施例,选择模块620包括:第二选择子模块和第三选择子模块。第二选择子模块,用于基于模型类型数据,从至少一个候选网络层类型中选择针对初始深度学习模型的初始网络层类型;第三选择子模块,用于从至少一个候选超参数中选择目标超参数,作为针对初始深度学习模型的初始网络层结构。
图7示意性示出了根据本公开一实施例的内容推荐装置的框图。
如图7所示,本公开实施例的内容推荐装置700例如包括第一确定模块710、第二确定模块720、输入模块730和推荐模块740。
第一确定模块710可以用于确定针对目标对象的对象特征数据。根据本公开实施例,第一确定模块710例如可以执行上文参考图5描述的操作S510,在此不再赘述。
第二确定模块720可以用于针对至少一个候选内容中的目标内容,确定针对目标内容的内容特征数据。根据本公开实施例,第二确定模块720例如可以执行上文参考图5描述的操作S520,在此不再赘述。
输入模块730可以用于将对象特征数据和内容特征数据输入目标深度学习模型中,得到输出结果,其中,目标深度学习模型采用上述的深度学习模型的训练装置生成,输出结果表征了目标对象对目标内容的感兴趣程度。根据本公开实施例,输入模块730例如可以执行上文参考图5描述的操作S530,在此不再赘述。
推荐模块740可以用于响应于输出结果满足预设条件,向目标对象推荐目标内容。根据本公开实施例,推荐模块740例如可以执行上文参考图5描述的操作S540,在此不再赘述。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图8是用来实现本公开实施例的用于执行深度学习模型的训练和/或内容推荐的电子设备的框图。
图8示出了可以用来实施本公开实施例的示例电子设备800的示意性框图。电子设备800旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示,设备800包括计算单元801,其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序,来执行各种适当的动作和处理。在RAM 803中,还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元808,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如深度学习模型的训练方法和/或内容推荐方法。例如,在一些实施例中,深度学习模型的训练方法和/或内容推荐方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时,可以执行上文描述的深度学习模型的训练方法和/或内容推荐方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行深度学习模型的训练方法和/或内容推荐方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程深度学习模型的训练装置和/或内容推荐装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (16)
1.一种深度学习模型的训练方法,包括:
获取配置文件,其中,所述配置文件包括模型类型数据和候选特征配置数据;
基于所述模型类型数据,选择初始网络层类型和初始网络层结构;
基于所述初始网络层类型和所述初始网络层结构,获得初始深度学习模型;
基于所述候选特征配置数据处理第一训练样本,得到第一训练特征数据;所述第一训练特征数据包括针对对象的对象特征数据和针对内容的内容特征数据;
利用所述第一训练特征数据训练所述初始深度学习模型;所述初始深度学习模型的输入包括所述对象特征数据和所述内容特征数据;所述初始深度学习模型的输出包括表征所述对象对所述内容的感兴趣程度的输出结果;以及
基于经训练的初始深度学习模型,得到目标深度学习模型;
其中,所述经训练的初始深度学习模型包括至少一个经训练的初始深度学习模型;所述配置文件还包括评价条件;所述基于经训练的初始深度学习模型,得到目标深度学习模型包括:
基于所述候选特征配置数据处理验证样本,得到验证特征数据;
将所述验证特征数据分别输入所述至少一个经训练的初始深度学习模型中,得到至少一个验证结果;
基于所述至少一个验证结果和所述评价条件,从与所述至少一个经训练的深度学习模型对应的网络层类型集合、网络层结构集合、特征配置数据集合中分别确定目标网络层类型、目标网络层结构、目标特征配置数据;以及
基于所述目标网络层类型、所述目标网络层结构、所述目标特征配置数据,得到所述目标深度学习模型。
2.根据权利要求1所述的方法,其中:
所述网络层类型集合包括针对所述至少一个经训练的初始深度学习模型的初始网络层类型;
所述网络层结构集合包括针对所述至少一个经训练的初始深度学习模型的初始网络层结构;
所述特征配置数据集合包括针对所述至少一个经训练的初始深度学习模型的初始特征配置数据,所述特征配置数据集合中的初始特征配置数据为所述候选特征配置数据中的至少部分。
3.根据权利要求1或2所述的方法,其中,所述基于所述目标网络层类型、所述目标网络层结构、所述目标特征配置数据,得到所述目标深度学习模型包括:
基于所述目标网络层类型和所述目标网络层结构,得到待训练目标深度学习模型;
基于所述目标特征配置数据处理第二训练样本,得到第二训练特征数据;以及
利用所述第二训练特征数据训练所述待训练目标深度学习模型,得到所述目标深度学习模型。
4.根据权利要求1所述的方法,其中,所述候选特征配置数据包括至少一个候选特征配置数据;所述基于所述候选特征配置数据处理第一训练样本,得到第一训练特征数据包括:
从所述至少一个候选配置数据中选择针对所述初始深度学习模型的初始特征配置数据;
基于所述初始特征配置数据,确定第一特征类型和第一特征维度;
基于所述第一特征类型,从所述第一训练样本中提取第一子样本;以及
基于所述第一特征维度处理所述第一子样本,得到第一训练特征数据。
5.根据权利要求3所述的方法,其中,所述基于所述目标特征配置数据处理第二训练样本,得到第二训练特征数据包括:
基于所述目标特征配置数据,确定第二特征类型和第二特征维度;
基于所述第二特征类型,从所述第二训练样本中提取第二子样本;以及
基于所述第二特征维度处理所述第二子样本,得到第二训练特征数据。
6.根据权利要求1所述的方法,其中,所述基于所述模型类型数据,选择初始网络层类型和初始网络层结构包括:
基于所述模型类型数据,从至少一个候选网络层类型中选择针对初始深度学习模型的初始网络层类型;以及
从至少一个候选超参数中选择目标超参数,作为针对初始深度学习模型的初始网络层结构。
7.一种内容推荐方法,包括:
确定针对目标对象的对象特征数据;
针对至少一个候选内容中的目标内容,确定针对所述目标内容的内容特征数据;
将所述对象特征数据和所述内容特征数据输入目标深度学习模型中,得到输出结果,其中,所述目标深度学习模型采用如权利要求1-6中任意一项所述的方法生成,所述输出结果表征了所述目标对象对所述目标内容的感兴趣程度;以及
响应于所述输出结果满足预设条件,向所述目标对象推荐所述目标内容。
8.一种深度学习模型的训练装置,包括:
获取模块,用于获取配置文件,其中,所述配置文件包括模型类型数据和候选特征配置数据;
选择模块,用于基于所述模型类型数据,选择初始网络层类型和初始网络层结构;
第一获得模块,用于基于所述初始网络层类型和所述初始网络层结构,获得初始深度学习模型;
第一处理模块,用于基于所述候选特征配置数据处理第一训练样本,得到第一训练特征数据;所述第一训练特征数据包括针对对象的对象特征数据和针对内容的内容特征数据;
第一训练模块,用于利用所述第一训练特征数据训练所述初始深度学习模型;所述初始深度学习模型的输入包括所述对象特征数据和所述内容特征数据;所述初始深度学习模型的输出包括表征所述对象对所述内容的感兴趣程度的输出结果;以及
第二获得模块,用于基于经训练的初始深度学习模型,得到目标深度学习模型;
其中,所述经训练的初始深度学习模型包括至少一个经训练的初始深度学习模型;所述配置文件还包括评价条件;所述第二获得模块包括:
第一处理子模块,用于基于所述候选特征配置数据处理验证样本,得到验证特征数据;
输入子模块,用于将所述验证特征数据分别输入所述至少一个经训练的初始深度学习模型中,得到至少一个验证结果;
第一确定子模块,用于基于所述至少一个验证结果和所述评价条件,从与所述至少一个经训练的深度学习模型对应的网络层类型集合、网络层结构集合、特征配置数据集合中分别确定目标网络层类型、目标网络层结构、目标特征配置数据;以及
获得子模块,用于基于所述目标网络层类型、所述目标网络层结构、所述目标特征配置数据,得到所述目标深度学习模型。
9.根据权利要求8所述的装置,其中:
所述网络层类型集合包括针对所述至少一个经训练的初始深度学习模型的初始网络层类型;
所述网络层结构集合包括针对所述至少一个经训练的初始深度学习模型的初始网络层结构;
所述特征配置数据集合包括针对所述至少一个经训练的初始深度学习模型的初始特征配置数据,所述特征配置数据集合中的初始特征配置数据为所述候选特征配置数据中的至少部分。
10.根据权利要求8或9所述的装置,其中,所述获得子模块包括:
获得单元,用于基于所述目标网络层类型和所述目标网络层结构,得到待训练目标深度学习模型;
处理单元,用于基于所述目标特征配置数据处理第二训练样本,得到第二训练特征数据;以及
训练单元,用于利用所述第二训练特征数据训练所述待训练目标深度学习模型,得到所述目标深度学习模型。
11.根据权利要求8所述的装置,其中,所述候选特征配置数据包括至少一个候选特征配置数据;所述第一处理模块包括:
第一选择子模块,用于从所述至少一个候选配置数据中选择初始特征配置数据;
第二确定子模块,用于基于所述初始特征配置数据,确定第一特征类型和第一特征维度;
提取子模块,用于基于所述第一特征类型,从所述第一训练样本中提取第一子样本;以及
第二处理子模块,用于基于所述第一特征维度处理所述第一子样本,得到第一训练特征数据。
12.根据权利要求10所述的装置,其中,所述处理单元包括:
确定子单元,用于基于所述目标特征配置数据,确定第二特征类型和第二特征维度;
提取子单元,用于基于所述第二特征类型,从所述第二训练样本中提取第二子样本;以及
处理子单元,用于基于所述第二特征维度处理所述第二子样本,得到第二训练特征数据。
13.根据权利要求8所述的装置,其中,所述选择模块包括:
第二选择子模块,用于基于所述模型类型数据,从至少一个候选网络层类型中选择针对初始深度学习模型的初始网络层类型;以及
第三选择子模块,用于从至少一个候选超参数中选择目标超参数,作为针对初始深度学习模型的初始网络层结构。
14.一种内容推荐装置,包括:
第一确定模块,用于确定针对目标对象的对象特征数据;
第二确定模块,用于针对至少一个候选内容中的目标内容,确定针对所述目标内容的内容特征数据;
输入模块,用于将所述对象特征数据和所述内容特征数据输入目标深度学习模型中,得到输出结果,其中,所述目标深度学习模型采用如权利要求8-13中任意一项所述的装置生成,所述输出结果表征了所述目标对象对所述目标内容的感兴趣程度;以及
推荐模块,用于响应于所述输出结果满足预设条件,向所述目标对象推荐所述目标内容。
15.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111618428.9A CN114329201B (zh) | 2021-12-27 | 2021-12-27 | 深度学习模型的训练方法、内容推荐方法和装置 |
PCT/CN2022/106805 WO2023124029A1 (zh) | 2021-12-27 | 2022-07-20 | 深度学习模型的训练方法、内容推荐方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111618428.9A CN114329201B (zh) | 2021-12-27 | 2021-12-27 | 深度学习模型的训练方法、内容推荐方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114329201A CN114329201A (zh) | 2022-04-12 |
CN114329201B true CN114329201B (zh) | 2023-08-11 |
Family
ID=81014934
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111618428.9A Active CN114329201B (zh) | 2021-12-27 | 2021-12-27 | 深度学习模型的训练方法、内容推荐方法和装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114329201B (zh) |
WO (1) | WO2023124029A1 (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114329201B (zh) * | 2021-12-27 | 2023-08-11 | 北京百度网讯科技有限公司 | 深度学习模型的训练方法、内容推荐方法和装置 |
CN114968412B (zh) * | 2022-06-20 | 2024-02-02 | 中国平安财产保险股份有限公司 | 基于人工智能的配置文件生成方法、装置、设备及介质 |
CN115456168B (zh) * | 2022-09-05 | 2023-08-25 | 北京百度网讯科技有限公司 | 强化学习模型的训练方法、能耗确定方法和装置 |
CN115660064B (zh) * | 2022-11-10 | 2023-09-29 | 北京百度网讯科技有限公司 | 基于深度学习平台的模型训练方法、数据处理方法和装置 |
CN115906921B (zh) * | 2022-11-30 | 2023-11-21 | 北京百度网讯科技有限公司 | 深度学习模型的训练方法、目标对象检测方法和装置 |
CN116151215B (zh) * | 2022-12-28 | 2023-12-01 | 北京百度网讯科技有限公司 | 文本处理方法、深度学习模型训练方法、装置以及设备 |
CN117112640B (zh) * | 2023-10-23 | 2024-02-27 | 腾讯科技(深圳)有限公司 | 一种内容排序方法以及相关设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108228794A (zh) * | 2017-12-29 | 2018-06-29 | 三角兽(北京)科技有限公司 | 信息管理装置、信息处理装置及自动回复/评论方法 |
CN111552884A (zh) * | 2020-05-13 | 2020-08-18 | 腾讯科技(深圳)有限公司 | 用于内容推荐的方法和设备 |
CN112492390A (zh) * | 2020-11-20 | 2021-03-12 | 海信视像科技股份有限公司 | 一种显示设备及内容推荐方法 |
CN112528147A (zh) * | 2020-12-10 | 2021-03-19 | 北京百度网讯科技有限公司 | 内容推荐方法和装置、训练方法、计算设备和存储介质 |
CN113469067A (zh) * | 2021-07-05 | 2021-10-01 | 北京市商汤科技开发有限公司 | 一种文档解析方法、装置、计算机设备和存储介质 |
CN113469358A (zh) * | 2021-07-05 | 2021-10-01 | 北京市商汤科技开发有限公司 | 一种神经网络训练方法、装置、计算机设备及存储介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109325541A (zh) * | 2018-09-30 | 2019-02-12 | 北京字节跳动网络技术有限公司 | 用于训练模型的方法和装置 |
CN111783937A (zh) * | 2020-05-19 | 2020-10-16 | 华为技术有限公司 | 一种神经网络构建方法以及系统 |
CN113723615A (zh) * | 2020-12-31 | 2021-11-30 | 京东城市(北京)数字科技有限公司 | 基于超参优化的深度强化学习模型的训练方法、装置 |
CN113761348A (zh) * | 2021-02-26 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 一种信息推荐方法、装置、电子设备和存储介质 |
CN113052328B (zh) * | 2021-04-02 | 2023-05-12 | 上海商汤科技开发有限公司 | 深度学习模型生产系统、电子设备和存储介质 |
CN114329201B (zh) * | 2021-12-27 | 2023-08-11 | 北京百度网讯科技有限公司 | 深度学习模型的训练方法、内容推荐方法和装置 |
-
2021
- 2021-12-27 CN CN202111618428.9A patent/CN114329201B/zh active Active
-
2022
- 2022-07-20 WO PCT/CN2022/106805 patent/WO2023124029A1/zh unknown
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108228794A (zh) * | 2017-12-29 | 2018-06-29 | 三角兽(北京)科技有限公司 | 信息管理装置、信息处理装置及自动回复/评论方法 |
CN111552884A (zh) * | 2020-05-13 | 2020-08-18 | 腾讯科技(深圳)有限公司 | 用于内容推荐的方法和设备 |
CN112492390A (zh) * | 2020-11-20 | 2021-03-12 | 海信视像科技股份有限公司 | 一种显示设备及内容推荐方法 |
CN112528147A (zh) * | 2020-12-10 | 2021-03-19 | 北京百度网讯科技有限公司 | 内容推荐方法和装置、训练方法、计算设备和存储介质 |
CN113469067A (zh) * | 2021-07-05 | 2021-10-01 | 北京市商汤科技开发有限公司 | 一种文档解析方法、装置、计算机设备和存储介质 |
CN113469358A (zh) * | 2021-07-05 | 2021-10-01 | 北京市商汤科技开发有限公司 | 一种神经网络训练方法、装置、计算机设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114329201A (zh) | 2022-04-12 |
WO2023124029A1 (zh) | 2023-07-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114329201B (zh) | 深度学习模型的训练方法、内容推荐方法和装置 | |
WO2017071251A1 (zh) | 信息推送方法和装置 | |
CN107526718B (zh) | 用于生成文本的方法和装置 | |
CN114265979A (zh) | 确定融合参数的方法、信息推荐方法和模型训练方法 | |
CN114036398B (zh) | 内容推荐和排序模型训练方法、装置、设备以及存储介质 | |
CN114861889B (zh) | 深度学习模型的训练方法、目标对象检测方法和装置 | |
CN116028618B (zh) | 文本处理、文本检索方法、装置、电子设备及存储介质 | |
CN114036322A (zh) | 用于搜索系统的训练方法、电子设备和存储介质 | |
CN112818111A (zh) | 文档推荐方法、装置、电子设备和介质 | |
CN112579729A (zh) | 文档质量评价模型的训练方法、装置、电子设备和介质 | |
CN110059172B (zh) | 基于自然语言理解的推荐答案的方法和装置 | |
CN116597443A (zh) | 素材标签处理方法、装置、电子设备及介质 | |
CN116955817A (zh) | 内容推荐方法、装置、电子设备以及存储介质 | |
CN113722593B (zh) | 事件数据处理方法、装置、电子设备和介质 | |
CN114036397B (zh) | 数据推荐方法、装置、电子设备和介质 | |
CN114445179A (zh) | 业务推荐方法、装置、电子设备和计算机可读介质 | |
CN112906723A (zh) | 一种特征选择的方法和装置 | |
CN114066278B (zh) | 物品召回的评估方法、装置、介质及程序产品 | |
CN112818228B (zh) | 向用户推荐对象的方法、装置、设备和介质 | |
CN115878784B (zh) | 基于自然语言理解的摘要生成方法、装置及电子设备 | |
CN113312521B (zh) | 内容检索方法、装置、电子设备和介质 | |
CN114528493A (zh) | 推荐方法、装置、电子设备以及存储介质 | |
CN115982633A (zh) | 目标对象分类方法、装置、电子设备及存储介质 | |
CN117271884A (zh) | 确定推荐内容的方法、装置、电子设备及存储介质 | |
CN112905885A (zh) | 向用户推荐资源的方法、装置、设备、介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |