CN117743973B - 一种参数处理方法、装置、设备及存储介质 - Google Patents
一种参数处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117743973B CN117743973B CN202410183718.2A CN202410183718A CN117743973B CN 117743973 B CN117743973 B CN 117743973B CN 202410183718 A CN202410183718 A CN 202410183718A CN 117743973 B CN117743973 B CN 117743973B
- Authority
- CN
- China
- Prior art keywords
- features
- parameters
- parameter
- type
- memory
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 19
- 238000000034 method Methods 0.000 claims abstract description 33
- 238000012545 processing Methods 0.000 claims description 17
- 238000000547 structure data Methods 0.000 claims description 13
- 238000013507 mapping Methods 0.000 claims description 9
- 230000004044 response Effects 0.000 claims description 2
- 230000009286 beneficial effect Effects 0.000 abstract description 6
- 230000008569 process Effects 0.000 description 13
- 238000013473 artificial intelligence Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本申请公开了一种参数处理方法、装置、设备及存储介质。该方法包括:确定模型包括的多个特征中的第一类特征;第一类特征为用户特征;从参数表中拆分出第一类特征的参数和第二类特征的参数;第二类特征为多个特征中除第一类特征外的其他类别的特征;参数表的每一行分别包括一个特征的参数;将第一类特征的参数加载于设备的内存,并将第二类特征的参数加载于设备的显存。由于分别采用内存和显存来加载特征参数,因此避免了仅使用内存导致的模型运行速度过慢的问题,也避免了仅使用显存导致的模型运行成本过高的问题,从而巧妙地平衡了模型的运行速度和成本问题,有助于提高设备性能。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种参数处理方法、装置、设备及存储介质。
背景技术
随着科技的快速发展,人工智能技术的应用愈加广泛。例如,个性化推荐系统作为人工智能技术的应用之一,在服务行业发挥着重要作用。
举例来说,个性化推荐系统可以应用于新闻推荐场景,利用人工智能的模型从若干新闻中选出用户感兴趣的新闻进行推荐。但是,当模型的特征参数加载于设备内存,其成本较低,但运行速度过慢;当模型的特征参数加载于设备显存,其运行速度较快,但成本过高。因此,使用模型时运行速度和成本之间难以得到平衡,导致设备性能不佳。
发明内容
本申请实施例提供了一种参数处理方法、装置、设备及存储介质,以平衡模型运行速度和成本,提高设备性能。
第一方面,本申请实施例提供了一种参数处理方法,包括:
确定模型包括的多个特征中的第一类特征;所述第一类特征为用户特征;
从参数表中拆分出所述第一类特征的参数和第二类特征的参数;所述第二类特征为所述多个特征中除所述第一类特征外的其他类别的特征;所述参数表的每一行分别包括一个特征的参数;
将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存。
可选地,所述从参数表中拆分出所述第一类特征的参数和第二类特征的参数,包括:
获取所述第一类特征中的多个第一特征分别关联的第一行号,以及所述第二类特征中的多个第二特征分别关联的第二行号;
基于各所述第一行号,到所述参数表中对应的各行获取所述多个第一特征分别对应的第一参数,并基于各所述第二行号,到所述参数表中对应的各行获取所述多个第二特征分别对应的第二参数;
保存各所述第一参数得到第一文件,并保存各所述第二参数得到第二文件。
可选地,所述将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存,包括:
将所述第一文件加载于所述内存,并将所述第二文件加载于所述显存。
可选地,所述方法还包括:
为所述多个第一特征分配新的行号,得到所述多个第一特征分别关联的第三行号,并为所述多个第二特征分配新的行号,得到所述多个第二特征分别关联的第四行号;
将各所述第三行号和各所述第四行号保存于第三文件;
将所述第三文件加载于所述内存。
可选地,所述为所述多个第一特征分配新的行号,得到所述多个第一特征分别关联的第三行号,并为所述多个第二特征分配新的行号,得到所述多个第二特征分别关联的第四行号,包括:
获取行号数组;所述行号数组包括各所述第一行号和各所述第二行号,且所述行号数组中的行号按从小到大的顺序排列;
确定各所述第一行号在所述行号数组包括的所有第一行号中的第一顺序,并确定各所述第二行号在所述行号数组包括的所有第二行号中的第二顺序;
基于所述第一顺序为所述多个第一特征分配新的行号,得到各所述第三行号,并基于所述第二顺序为所述多个第二特征分配新的行号,得到各所述第四行号。
可选地,所述第二文件还保存模型结构数据;所述方法还包括:
响应于服务请求所包含的多个特征,基于所述内存加载的所述第三文件,获取各所述第三行号和各所述第四行号;
基于各所述第三行号,从所述内存加载的所述第一文件中获取各所述第一参数并发送至所述显存,并将第四行号发送至所述显存;
基于各所述第四行号,从所述显存加载的所述第二文件中获取各所述第二特征的参数,并获取所述模型结构数据;
在所述显存中,采用各所述第一参数和各所述第二参数,并基于所述模型结构数据运行所述模型,得到模型推理结果。
可选地,所述响应于服务请求所包含的多个特征,基于所述内存加载的所述第三文件,获取各所述第三行号和各所述第四行号,包括:
基于所述第三文件,获取特征和行号之间的映射关系;
基于服务请求所包含的多个特征,从所述映射关系中确定各所述第三行号和各所述第四行号。
第二方面,本申请实施例提供了一种参数处理装置,包括:
特征确定模块,用于确定模型包括的多个特征中的第一类特征;所述第一类特征为用户特征;
参数拆分模块,用于从参数表中拆分出所述第一类特征的参数和第二类特征的参数;所述第二类特征为所述多个特征中除所述第一类特征外的其他类别的特征;所述参数表的每一行分别包括一个特征的参数;
参数加载模块,用于将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存。
第三方面,本申请实施例提供了一种电子设备,所述设备包括:处理器、存储器、系统总线;
所述处理器以及所述存储器通过所述系统总线相连;
所述存储器用于存储一个或多个程序,所述一个或多个程序包括指令,所述指令当被所述处理器执行时使所述处理器执行上述参数处理方法的任一实现方式。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当所述指令在电子设备上运行时,使得所述电子设备执行上述参数处理方法的任一实现方式。
从以上技术方案可以看出,本申请实施例具有以下优点:
在本申请实施例中,确定模型包括的多个特征中的第一类特征之后,可以从参数表中拆分出第一类特征的参数和第二类特征的参数,将第一类特征的参数加载于设备的内存,并将第二类特征的参数加载于设备的显存。其中,参数表的每一行分别包括一个特征的参数;第一类特征为用户特征,第二类特征为其他类别的特征。如此一来,通过内存来加载用户特征的参数,通过显存加载其他特征参数,后续的模型推理过程即可借助内存加载的特征参数和显存加载的特征参数共同实现。由于分别采用内存和显存来加载特征参数,因此避免了仅使用内存导致的模型运行速度过慢的问题,也避免了仅使用显存导致的模型运行成本过高的问题,从而巧妙地平衡了模型的运行速度和成本问题,有助于提高设备性能。
附图说明
图1为本申请实施例提供的一种参数处理方法的流程图;
图2为本申请实施例提供的一种参数处理装置的结构示意图。
具体实施方式
正如前文所述,个性化推荐系统可以应用于新闻推荐场景,利用人工智能的模型从若干新闻中选出用户感兴趣的新闻进行推荐。但是,当模型的特征参数加载于设备内存,其成本较低,但运行速度过慢;当模型的特征参数加载于设备显存,其运行速度较快,但成本过高。因此,使用模型时运行速度和成本之间难以得到平衡,导致性能不佳。
在实际应用中,模型的参数包括特征参数和模型结构参数。其中,当模型加载于显存,特征参数会占据大部分显存。考虑到上述问题,可以先将特征参数拆分出来,加载于内存。如此,在后续进行模型推理的过程中,可以从内存中获取本次模型推理所需的特征参数,并传输给显存,再在显存中进行模型推理,但这存在传输慢的问题。
基于此,为了解决上述问题,本申请实施例提供了一种参数处理方法,可以包括:确定模型包括的多个特征中的第一类特征之后,可以从参数表中,拆分出第一类特征的参数和第二类特征的参数,将第一类特征的参数加载于设备的内存,并将第二类特征的参数加载于设备的显存。其中,参数表的每一行分别包括一个特征的参数;第一类特征为用户特征,第二类特征为其他类别的特征。
如此一来,通过内存来加载用户特征的参数,通过显存加载其他特征参数,后续的模型运行过程即可借助内存加载的特征参数和显存加载的特征参数共同实现。由于分别采用内存和显存来加载特征参数,因此避免了仅使用内存导致的模型运行速度过慢的问题,也避免了仅使用显存导致的模型运行成本过高的问题,从而巧妙地平衡了模型的运行速度和成本问题,有助于提高设备性能。
此外,由于内存只加载用户特征的参数,因此,在实际应用中,针对一次请求,需要传输的数据量,小于上述将全部特征参数加载到内存中并传输部分特征参数的数据量。如此一来,可以进一步减少从内存传输到显存的数据量,从而提升设备性能。
需要说明的是,本申请实施例亦可不限定该参数处理方法的执行主体,例如,本申请实施例的参数处理方法可以应用于终端设备或服务器等参数处理设备。其中,终端设备可以为智能手机、计算机、个人数字助理(Personal Digital Assistant,PDA)、平板电脑等电子设备。服务器可以为独立服务器、集群服务器或云服务器。
为了使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
图1为本申请实施例提供的一种参数处理方法的流程图。结合图1所示,本申请实施例提供的参数处理方法,可以包括:
S101:确定模型包括的多个特征中的第一类特征。
其中,第一类特征为用户特征。
在本申请实施例中,以新闻的个性化推荐场景为例,作为一种可能的实施方式,上述多个特征可以包括新闻特征和用户特征,用户特征在多个特征中的占比约为90%,新闻特征在多个特征中的占比约为10%。进一步地,用户特征可以体现为用户标识和用户关键词,其中,用户标识在多个特征中的占比约为85%,用户关键词在多个特征中的占比约为5%。因此,第一类特征可以进一步体现为用户特征中的用户标识。
此外,仍以新闻的个性化推荐场景为例,针对一次请求,需要传输的数据量为1000(即新闻样本量)×200(即特征量)×15(即特征维度)×4B(即单个特征参数大小)=11MB。但是,由于不同的新闻样本包括的特征中,用户标识均是相同的,因此,若以用户标识作为第一类特征,并把第一类特征的参数加载到内存,后续便可先传输1个用户标识对应的参数到显存,并在显存中为1000个新闻样本复制1000次该用户标识的特征参数即可。也就是说,以用户标识作为第一类特征时,需要传输的数据量为1(即特征量)×15(即特征维度)×4B(即单个特征参数大小)=0.00006MB。如此一来,可以显著减少从内存传输到显存的数据量,从而提升设备性能。
S102:从参数表中拆分出第一类特征的参数和第二类特征的参数。
其中,参数表的每一行分别包括一个特征的参数;第二类特征为多个特征中除第一类特征外的其他类别的特征。对于拆分第一类特征的参数和第二类特征的参数的实现过程,也就是步骤S102,本申请实施例可不具体限定,为了便于理解,下面结合一种可能的实施方式进行说明。
作为一种可能的实施方式,步骤S102可以包括步骤21-步骤23:
步骤21:获取第一类特征中的多个第一特征分别关联的第一行号,以及第二类特征中的多个第二特征分别关联的第二行号。
在本申请实施例中,多个特征和对应的行号可以保存在一个映射关系中,因此,通过该映射关系,即可将特征转换为对应的行号。为了便于理解,下面结合表1示出该映射关系。
表1
步骤22:基于各第一行号,到参数表中对应的各行获取确定多个第一特征分别对应的第一参数,并基于各第二行号,到参数表中对应的各行获取多个第二特征分别对应的第二参数。
步骤23:保存各第一参数得到第一文件,并保存各第二参数得到第二文件。
结合上述步骤21-步骤23的相关内容可知,基于行号分别获取各个第一参数和各个第二参数,并分别保存为两个文件,即可完成对于第一类特征的参数和第二类特征的参数的拆分。如此一来,后续通过内存来加载用户特征的参数,通过显存加载其他特征参数,即可使模型推理过程借助内存加载的特征参数和显存加载的特征参数共同实现。由于分别采用内存和显存来加载特征参数,因此避免了仅使用内存导致的模型运行速度过慢的问题,也避免了仅使用显存导致的模型运行成本过高的问题,从而巧妙地平衡了模型的运行速度和成本问题,有助于提高设备性能。
进一步地,在本申请实施例中,该参数处理方法还可以包括步骤24和步骤25:
步骤24:为多个第一特征分配新的行号,得到多个第一特征分别关联的第三行号,并为多个第二特征分配新的行号,得到多个第二特征分别关联的第四行号。
在实际应用中,为各第一特征和第二特征分配新的行号的实现过程,也就是步骤24,可以包括:获取行号数组;行号数组包括各第一行号和各第二行号,且行号数组中的行号按从小到大的顺序排列;确定各第一行号在行号数组包括的所有第一行号中的第一顺序,并确定各第二行号在行号数组包括的所有第二行号中的第二顺序;基于第一顺序为多个第一特征分配新的行号,得到各第三行号,并基于第二顺序为多个第二特征分配新的行号,得到各第四行号。举例来说,结合上表1所示,若特征a和特征c为第一特征,特征b和特征d为第二特征,则行号“1”和“3”为第一行号,行号“2”和“4”为第二行号。进一步地,第一行号“1”对应的第一顺序为1,第一行号“3”对应的第一顺序为2,第二行号“2”对应的第二顺序为1,第二行号“4”对应的第二顺序为2。基于此,可以为第一特征a分配行号“1”作为第三行号,为第一特征c分配行号“2”作为第三行号,为第二特征b分配行号“1”作为第四行号,为第二特征d分配行号“2”作为第四行号。为了便于理解,下面进一步结合表2进行示例性说明。
表2
步骤25:将各第三行号和各第四行号保存于第三文件。
需要说明的是,在第一文件中,第一参数按照第三行号对应的顺序进行保存;在第二文件中,第二参数按照第四行号对应的顺序进行保存。举例来说,在第一文件中,行号为1的特征a对应的参数保存在第一文件第1行,行号为2的特征c对应的参数保存在第一文件第2行;在第二文件中,行号为1的特征b对应的参数保存在第二文件的第1行,行号为2的特征d对应的参数保存在第二文件的第2行。如此,便于后续基于第三行号从第一文件中获取对应的第一参数,基于第四行号从第二文件中获取对应的第二参数。
步骤26:将第三文件加载于内存。
基于以上步骤24-步骤26的相关内容可知,通过为各第一参数和第二参数分配新的行号,可以以新的行号将第一参数和第二参数完全拆分到不同的文件中,并便于后续依据新的行号从文件中查找对应的参数。
S103:将第一类特征的参数加载于设备的内存,并将第二类特征的参数加载于设备的显存。
在本申请实施例中,为实现模型推理,上述用于保存第二类特征的参数的第二文件还可以保存模型结构数据。该模型结构数据可以体现为模型的网络参数和网络结构。基于此,上述步骤S103可以包括:将第一文件加载于内存,并将第二文件加载于显存。由于第一文件存储第一参数,第二文件存储第二参数,因此,通过内存来加载第一文件,通过显存加载第二文件,即可使后续的模型推理过程借助内存加载的特征参数和显存加载的特征参数共同实现。由于分别采用内存和显存来加载特征参数,因此避免了仅使用内存导致的模型运行速度过慢的问题,也避免了仅使用显存导致的模型运行成本过高的问题,从而巧妙地平衡了模型的运行速度和成本问题,有助于提高设备性能。
进一步地,为了便于理解,本申请实施例还可以进一步提供模型推理过程。下面结合步骤41-步骤44进行说明:
步骤41:响应于服务请求所包含的多个特征,基于内存加载的第三文件,获取各第三行号和各第四行号。
在实际应用中,第三文件可以预先解析为字典,并加载在内存中。因此,在模型推理过程中,可以基于服务请求所包括的多个特征,从字典中快速、准确查询到各第三行号和第四行号。
步骤42:基于各第三行号,从内存加载的第一文件中获取各第一参数并发送至显存,并将第四行号发送至显存。
由于各第一参数加载在内存中,因此,为了通过显存快速高效地运行模型,实现模型推理,可以基于各第三行号从第一文件中获取对应的第一参数,再传输到显存中。
步骤43:基于各第四行号,从显存加载的第二文件中获取各第二特征的参数,并获取模型结构数据。
步骤44:在显存中,采用各第一参数和各第二参数,并基于模型结构数据运行模型,得到模型推理结果。
基于以上步骤S101-步骤S103的相关内容可知,在本申请实施例中,确定模型包括的多个特征中的第一类特征之后,可以从参数表中,拆分出第一类特征的参数和第二类特征的参数,将第一类特征的参数加载于设备的内存,并将第二类特征的参数加载于设备的显存。其中,第一类特征为用户特征,第二类特征为其他类别的特征。如此一来,通过内存来加载用户特征的参数,通过显存加载其他特征参数,后续的模型推理过程即可借助内存加载的特征参数和显存加载的特征参数共同实现。由于分别采用内存和显存来加载特征参数,因此避免了仅使用内存导致的模型运行速度过慢的问题,也避免了仅使用显存导致的模型运行成本过高的问题,从而巧妙地平衡了模型的运行速度和成本问题,有助于提高设备性能。
进一步地,基于上述实施例提供的参数处理方法,本申请实施例还可以提供一种参数处理装置。下面分别结合实施例和附图,对该参数处理装置进行描述。
图2为本申请实施例提供的一种参数处理装置的结构示意图。结合图2所示,本申请实施例提供的参数处理装置200,包括:
特征确定模块201,用于确定模型包括的多个特征中的第一类特征;所述第一类特征为用户特征;
参数拆分模块202,用于从参数表中拆分出所述第一类特征的参数和第二类特征的参数;所述第二类特征为所述多个特征中除所述第一类特征外的其他类别的特征;所述参数表的每一行分别包括一个特征的参数;
参数加载模块203,用于将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存。
作为一种实施方式,所述拆分模块202,包括:
第一行号获取模块,用于获取所述第一类特征中的多个第一特征分别关联的第一行号,以及所述第二类特征中的多个第二特征分别关联的第二行号;
参数确定模块,用于基于各所述第一行号,到所述参数表中对应的各行获取所述多个第一特征分别对应的第一参数,并基于各所述第二行号,到所述参数表中对应的各行获取所述多个第二特征分别对应的第二参数;
参数保存模块,用于保存各所述第一参数得到第一文件,并保存各所述第二参数得到第二文件。
作为一种实施方式,所述参数加载模块203,包括:
参数加载子模块,用于将所述第一文件加载于所述内存,并将所述第二文件加载于所述显存。
作为一种实施方式,所述参数处理装置200还包括:
行号分配模块,用于为所述多个第一特征分配新的行号,得到所述多个第一特征分别关联的第三行号,并为所述多个第二特征分配新的行号,得到所述多个第二特征分别关联的第四行号;
行号保存模块,用于将各所述第三行号和各所述第四行号保存于第三文件;
文件加载模块,用于将所述第三文件加载于所述内存。
作为一种实施方式,所述行号分配模块,包括:
数组获取模块,用于获取行号数组;所述行号数组包括各所述第一行号和各所述第二行号,且所述行号数组中的行号按从小到大的顺序排列;
顺序确定模块,用于确定各所述第一行号在所述行号数组包括的所有第一行号中的第一顺序,并确定各所述第二行号在所述行号数组包括的所有第二行号中的第二顺序;
行号分配子模块,用于基于所述第一顺序为所述多个第一特征分配新的行号,得到各所述第三行号,并基于所述第二顺序为所述多个第二特征分配新的行号,得到各所述第四行号。
作为一种实施方式,所述第二文件还保存模型结构数据;所述参数处理装置200还包括:
第二行号获取模块,用于响应于服务请求所包含的多个特征,基于所述内存加载的所述第三文件,获取各所述第三行号和各所述第四行号;
第一参数获取模块,用于基于各所述第三行号,从所述内存加载的所述第一文件中获取各所述第一参数并发送至所述显存,并将第四行号发送至所述显存;
第二参数获取模块,用于基于各所述第四行号,从所述显存加载的所述第二文件中获取各所述第二特征的参数,并获取所述模型结构数据;
模型推理模块,用于在所述显存中,采用各所述第一参数和各所述第二参数,并基于所述模型结构数据运行所述模型,得到模型推理结果。
作为一种实施方式,所述第二行号获取模块,包括:
关系获取模块,用于基于所述第三文件,获取特征和行号之间的映射关系;
第二行号获取子模块,用于基于服务请求所包含的多个特征,从所述映射关系中确定各所述第三行号和各所述第四行号。
进一步地,本申请实施例还提供了一种电子设备,包括:处理器、存储器、系统总线;
所述处理器以及所述存储器通过所述系统总线相连;
所述存储器用于存储一个或多个程序,所述一个或多个程序包括指令,所述指令当被所述处理器执行时使所述处理器执行上述参数处理方法的任一实现方式。
进一步地,本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当所述指令在电子设备上运行时,使得所述终端设备执行上述参数处理方法的任一实现方式。
通过以上的实施方式的描述可知,本领域的技术人员可以清楚地了解到上述实施例方法中的全部或部分步骤可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者诸如媒体网关等网络通信设备,等等)执行本申请各个实施例或者实施例的某些部分所述的方法。需要说明的是,本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。
对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (8)
1.一种参数处理方法,其特征在于,应用于个性化推荐服务的模型推理场景,所述参数处理方法包括:
确定模型包括的多个特征中的第一类特征;所述多个特征为样本的特征,所述第一类特征为用户特征,且不同的样本所包括的用户特征相同;
从参数表中拆分出所述第一类特征的参数和第二类特征的参数;所述第二类特征为所述多个特征中除所述第一类特征外的其他类别的特征;所述参数表的每一行分别包括一个特征的参数;
将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存;
其中,所述从参数表中拆分出所述第一类特征的参数和第二类特征的参数,包括:
获取所述第一类特征中的多个第一特征分别关联的第一行号,以及所述第二类特征中的多个第二特征分别关联的第二行号;
基于各所述第一行号,到所述参数表中对应的各行获取所述多个第一特征分别对应的第一参数,并基于各所述第二行号,到所述参数表中对应的各行获取所述多个第二特征分别对应的第二参数;
保存各所述第一参数得到第一文件,并保存各所述第二参数得到第二文件;
所述方法还包括:
为所述多个第一特征分配新的行号,得到所述多个第一特征分别关联的第三行号,并为所述多个第二特征分配新的行号,得到所述多个第二特征分别关联的第四行号;
将各所述第三行号和各所述第四行号保存于第三文件;
将所述第三文件加载于所述内存。
2.根据权利要求1所述的参数处理方法,其特征在于,所述将所述第一类特征的参数加载于设备的内存,并将所述第二类特征的参数加载于所述设备的显存,包括:
将所述第一文件加载于所述内存,并将所述第二文件加载于所述显存。
3.根据权利要求1所述的参数处理方法,其特征在于,所述为所述多个第一特征分配新的行号,得到所述多个第一特征分别关联的第三行号,并为所述多个第二特征分配新的行号,得到所述多个第二特征分别关联的第四行号,包括:
获取行号数组;所述行号数组包括各所述第一行号和各所述第二行号,且所述行号数组中的行号按从小到大的顺序排列;
确定各所述第一行号在所述行号数组包括的所有第一行号中的第一顺序,并确定各所述第二行号在所述行号数组包括的所有第二行号中的第二顺序;
基于所述第一顺序为所述多个第一特征分配新的行号,得到各所述第三行号,并基于所述第二顺序为所述多个第二特征分配新的行号,得到各所述第四行号。
4.根据权利要求3所述的参数处理方法,其特征在于,所述第二文件还保存模型结构数据;所述方法还包括:
响应于服务请求所包含的多个特征,基于所述内存加载的所述第三文件,获取各所述第三行号和各所述第四行号;
基于各所述第三行号,从所述内存加载的所述第一文件中获取各所述第一参数并发送至所述显存,并将第四行号发送至所述显存;
基于各所述第四行号,从所述显存加载的所述第二文件中获取各所述第二特征的参数,并获取所述模型结构数据;
在所述显存中,采用各所述第一参数和各所述第二参数,并基于所述模型结构数据运行所述模型,得到模型推理结果。
5.根据权利要求4所述的参数处理方法,其特征在于,所述响应于服务请求所包含的多个特征,基于所述内存加载的所述第三文件,获取各所述第三行号和各所述第四行号,包括:
基于所述第三文件,获取特征和行号之间的映射关系;
基于服务请求所包含的多个特征,从所述映射关系中确定各所述第三行号和各所述第四行号。
6.一种参数处理装置,其特征在于,应用于个性化推荐服务的模型推理场景,所述参数处理装置包括:
特征确定模块,用于确定模型包括的多个特征中的第一类特征;所述多个特征为样本的特征,所述第一类特征为用户特征,且不同的样本所包括的用户特征相同;
参数拆分模块,用于从参数表中,拆分出所述第一类特征的参数和第二类特征的参数;所述第二类特征为所述多个特征中除所述第一类特征外的其他类别的特征;所述参数表的每一行分别包括一个特征的参数;
参数加载模块,用于将所述第一类特征的参数加载于设备的内存,并将
所述第二类特征的参数加载于所述设备的显存;
其中,所述参数拆分模块,包括:
第一行号获取模块,用于获取所述第一类特征中的多个第一特征分别关联的第一行号,以及所述第二类特征中的多个第二特征分别关联的第二行号;
参数确定模块,用于基于各所述第一行号,到所述参数表中对应的各行获取所述多个第一特征分别对应的第一参数,并基于各所述第二行号,到所述参数表中对应的各行获取所述多个第二特征分别对应的第二参数;
参数保存模块,用于保存各所述第一参数得到第一文件,并保存各所述第二参数得到第二文件;
所述参数处理装置还包括:
行号分配模块,用于为所述多个第一特征分配新的行号,得到所述多个第一特征分别关联的第三行号,并为所述多个第二特征分配新的行号,得到所述多个第二特征分别关联的第四行号;
行号保存模块,用于将各所述第三行号和各所述第四行号保存于第三文件;
文件加载模块,用于将所述第三文件加载于所述内存。
7.一种电子设备,其特征在于,所述设备包括:处理器、存储器、系统总线;
所述处理器以及所述存储器通过所述系统总线相连;
所述存储器用于存储一个或多个程序,所述一个或多个程序包括指令,所述指令当被所述处理器执行时使所述处理器执行权利要求1至5任一项所述的参数处理方法。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有指令,当所述指令在电子设备上运行时,使得所述电子设备执行权利要求1至5任一项所述的参数处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410183718.2A CN117743973B (zh) | 2024-02-19 | 2024-02-19 | 一种参数处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410183718.2A CN117743973B (zh) | 2024-02-19 | 2024-02-19 | 一种参数处理方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117743973A CN117743973A (zh) | 2024-03-22 |
CN117743973B true CN117743973B (zh) | 2024-05-28 |
Family
ID=90277694
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410183718.2A Active CN117743973B (zh) | 2024-02-19 | 2024-02-19 | 一种参数处理方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117743973B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114428797A (zh) * | 2021-12-24 | 2022-05-03 | 清华大学 | 嵌入参数缓存的方法、装置、设备及存储介质 |
CN114741389A (zh) * | 2022-03-29 | 2022-07-12 | 网易(杭州)网络有限公司 | 模型参数调整方法、装置、电子设备及存储介质 |
WO2023221360A1 (zh) * | 2022-05-19 | 2023-11-23 | 北京百度网讯科技有限公司 | 深度学习模型的训练方法、装置、系统、设备和介质 |
-
2024
- 2024-02-19 CN CN202410183718.2A patent/CN117743973B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114428797A (zh) * | 2021-12-24 | 2022-05-03 | 清华大学 | 嵌入参数缓存的方法、装置、设备及存储介质 |
CN114741389A (zh) * | 2022-03-29 | 2022-07-12 | 网易(杭州)网络有限公司 | 模型参数调整方法、装置、电子设备及存储介质 |
WO2023221360A1 (zh) * | 2022-05-19 | 2023-11-23 | 北京百度网讯科技有限公司 | 深度学习模型的训练方法、装置、系统、设备和介质 |
Non-Patent Citations (1)
Title |
---|
deepspeed详解-源码分析;张震虎;《zhangzhenhu.com/deepspeed/index.html》;20231103;第1-7页 * |
Also Published As
Publication number | Publication date |
---|---|
CN117743973A (zh) | 2024-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110557284B (zh) | 基于客户端网关的数据聚合方法及装置 | |
CN111163072B (zh) | 机器学习模型中特征值的确定方法、装置及电子设备 | |
CN111274512A (zh) | 一种页面加载方法、装置及介质 | |
CN111786984B (zh) | Pod通信连接方法、装置及电子设备、存储介质 | |
CN108549586B (zh) | 信息处理方法和装置 | |
CN107402878B (zh) | 测试方法和装置 | |
CN111367870A (zh) | 一种绘本共享方法、装置和系统 | |
CN112118189B (zh) | 一种流量采样方法、计算机设备及计算机可读存储介质 | |
CN117743973B (zh) | 一种参数处理方法、装置、设备及存储介质 | |
CN114640657A (zh) | 多注册中心的融合方法、装置 | |
CN106294417A (zh) | 一种数据排序方法、装置及电子设备 | |
CN109617708B (zh) | 一种埋点日志的压缩方法、设备及系统 | |
CN104363237A (zh) | 一种互联网媒体资源元数据的处理方法及其系统 | |
CN115794876A (zh) | 针对业务数据包的分片处理方法、装置、设备及存储介质 | |
CN113849125A (zh) | 一种cdn服务器磁盘读取的方法、装置及系统 | |
CN109889608B (zh) | 一种动态资源加载方法、装置、电子设备及存储介质 | |
CN109299112B (zh) | 用于处理数据的方法和装置 | |
CN111800446A (zh) | 调度处理方法、装置、设备和存储介质 | |
CN110287406A (zh) | 渠道用户推荐方法、服务器及计算机可读存储介质 | |
CN116760885B (zh) | 算力网络业务管理方法、装置、设备、介质及程序产品 | |
CN112559856B (zh) | 应用排序方法和装置 | |
CN114697322B (zh) | 一种基于云端业务处理的数据筛选方法 | |
CN108874564A (zh) | 一种进程间通信方法、电子设备及可读存储介质 | |
CN109977176B (zh) | 数据处理方法及装置 | |
CN113965900B (zh) | 流量资源动态扩容的方法、装置、计算设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |