CN113343088A - 数据处理方法、系统、装置、设备及存储介质 - Google Patents
数据处理方法、系统、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113343088A CN113343088A CN202110642558.XA CN202110642558A CN113343088A CN 113343088 A CN113343088 A CN 113343088A CN 202110642558 A CN202110642558 A CN 202110642558A CN 113343088 A CN113343088 A CN 113343088A
- Authority
- CN
- China
- Prior art keywords
- data
- cache
- target
- gateway
- client
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/957—Browsing optimisation, e.g. caching or content distillation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/211—Selection of the most significant subset of features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
Abstract
本申请涉及一种数据处理方法、系统、装置、设备及存储介质,方法包括:获取客户端发送的数据请求,数据请求携带类别标识;将数据请求转发至与类别标识对应的目标缓存服务器,以使目标缓存服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据通过网关发送给客户端。本申请用以从本地缓存获取实体数据,以提高数据获取速率和服务性能。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种数据处理方法、系统、装置、设备及存储介质。
背景技术
在推荐相关的业务系统中,一般采用实体数据进行推荐,例如,视频、文章等实体数据,此类实体数据的特点是数据量大、分布广泛、以及被大量服务重复使用。
现有的推荐相关的业务系统,一般会将被重复访问的实体数据预先缓存到本地内存中,以避免频繁的进行网络读写(IO)或者磁盘IO。但是服务器的内存是有限的,数据量过大是无法进行全部缓存的,如果全部使用缓存会造成缓存击穿现象,影响服务性能。
但是,如果不能全部缓存在本地内存中,会存在重复向第三方数据源获取实体数据的情况。重复的获取实体数据,会极大的浪费服务资源,降低了服务性能。
发明内容
本申请提供了一种数据处理方法、系统、装置、设备及存储介质,用以从本地缓存获取实体数据,以提高数据获取速率和服务性能。
第一方面,本申请提供了一种数据处理方法,应用于网关,客户端通过所述网关分别与多个类别的缓存服务器通信连接,所述方法包括:
获取所述客户端发送的数据请求,所述数据请求携带类别标识;
将所述数据请求转发至与所述类别标识对应的目标缓存服务器,以使所述目标缓存服务器响应于所述数据请求,从本地缓存中获取对应的目标实体数据,并将所述目标实体数据通过所述网关发送给所述客户端。
可选地,所述将所述数据请求转发至与所述类别标识对应的目标缓存服务器之前,还包括:
为每个所述缓存服务器添加对应的服务标识;
配置所述类别标识与所述服务标识的对应关系;
所述将所述数据请求转发至与所述类别标识对应的目标缓存服务器,以使所述目标缓存服务器响应于所述数据请求,从本地缓存中获取对应的目标实体数据,并将所述目标实体数据通过所述网关发送给所述客户端,包括:
根据配置的所述对应关系,确定所述类别标识对应的服务标识,将所述数据请求转发至与所述目标缓存服务器,以使所述目标缓存服务器响应于所述数据请求,从所述本地缓存中获取对应的目标实体数据,并将所述目标实体数据通过所述网关发送给所述客户端。
可选地,所述获取所述客户端发送的数据请求之前,还包括:
获取所述客户端发送的应用启动指令,所述应用启动指令包括:用户唯一标识和用户特征;
基于所述用户特征,为所述用户唯一标识添加对应的类别标识,并将所述类别标识通过所述网关返回至所述客户端。
可选地,一个所述缓存服务器包括S个缓存子服务器,一个所述缓存服务器下的每个所述缓存子服务器中存储的实体数据一致,所述S为大于1的整数。
第二方面,本申请提供了一种数据处理方法,应用于缓存服务器,客户端通过网关分别与多个所述缓存服务器通信连接,所述方法包括:
获取通过所述网关转发的数据请求;
基于所述数据请求,从本地缓存中获取与所述数据请求对应的目标实体数据,并将所述目标实体数据通过所述网关发送给所述客户端。
可选地,所述基于所述数据请求,从本地缓存中获取与所述数据请求对应的目标实体数据,包括:
基于所述数据请求,通过所述缓存服务器的数据请求接口获取数据标识;
基于所述数据标识,从所述本地缓存中获取与所述数据标识对应的所述实体目标数据。
可选地,所述基于所述数据标识,从所述本地缓存中获取与所述数据标识对应的所述目标实体数据之前,还包括:
判断所述本地缓存中是否包括所述数据标识,得到判断结果;
所述基于所述数据标识,从所述本地缓存中获取与所述数据标识对应的所述目标实体数据,包括:
若所述判断结果为是,执行所述从所述本地缓存中获取与所述数据标识对应的所述目标实体数据的步骤;
若所述判断结果为否,从实体数据存储库中获取与所述数据标识对应的所述目标实体数据,并将所述目标实体数据存储在所述本地缓存中。
可选地,所述方法还包括:
设置所述本地缓存中实体数据的更新日期;
基于所述更新日期和实体数据存储库中的实体数据,更新所述本地缓存中的实体数据。
可选地,所述获取通过所述网关转发的数据请求之前,还包括:
统计实体数据的数据量;
基于所述实体数据的数据量,确定所述多个缓存服务器;
其中,一个所述缓存服务器包括S个缓存子服务器,一个所述缓存服务器下的每个所述缓存子服务器中存储的所述实体数据一致,所述S为大于1的整数。
第三方面,本申请提供了一种数据处理系统,所述系统包括:网关、多个缓存服务器和客户端,所述客户端通过所述网关分别与所述多个缓存服务器通信连接;
所述客户端,用于生成数据请求,并将生成的数据请求发送给所述网关,所述数据请求携带类别标识;
所述网关,用于获取所述客户端发送的所述数据请求,将所述数据请求转发至与所述类别标识对应的目标缓存服务器;以及用于获取所述目标缓存服务器发送的目标实体数据,并将获取的所述目标实体数据发送至所述客户端;
所述缓存服务器,用于获取通过所述网关转发的所述数据请求,基于所述数据请求,从本地缓存中获取与所述数据请求对应的所述目标实体数据,并将所述目标实体数据发送给所述网关。
第四方面,本申请提供了一种数据处理装置,所述装置包括:
获取模块,用于获取所述客户端发送的数据请求,所述数据请求携带类别标识;
转发模块,用于将所述数据请求转发至与所述类别标识对应的目标缓存服务器,以使所述目标缓存服务器响应于所述数据请求,从本地缓存中获取对应的目标实体数据,并将所述目标实体数据发送给所述客户端。
可选地,所述装置还包括配置模块,所述配置模块,用于为每个所述缓存服务器添加对应的服务标识;配置所述类别标识与所述服务标识的对应关系;
所述转发模块,具体用于根据配置的所述对应关系,确定所述类别标识对应的服务标识,将所述数据请求转发至与所述目标缓存服务器,以使所述目标缓存服务器响应于所述数据请求,从所述本地缓存中获取对应的目标实体数据,并将所述目标实体数据发送给所述客户端。
可选地,所述装置还包括:添加模块,所述添加模块,用于获取所述客户端发送的应用启动指令,所述应用启动指令包括:用户唯一标识和用户特征;基于所述用户特征,为所述用户唯一标识添加对应的类别标识,并将所述类别标识返回至所述客户端。
可选地,一个所述缓存服务器包括S个缓存子服务器,一个所述缓存服务器下的每个所述缓存子服务器中存储的实体数据一致,所述S为大于1的整数。
第五方面,本申请提供了一种数据装置,所述装置包括:
第一获取模块,用于获取通过网关转发的数据请求;
第二获取模块,用于基于所述数据请求,从本地缓存中获取与所述数据请求对应的目标实体数据,并将所述目标实体数据通过所述网关发送给所述客户端。
可选地,第二获取模块,具体用于基于所述数据请求,通过所述缓存服务器的数据请求接口获取数据标识;基于所述数据标识,从所述本地缓存中获取与所述数据标识对应的所述实体目标数据。
可选地,所述装置还包括:判断模块,所述判断模块,用于判断所述本地缓存中是否包括所述数据标识,得到判断结果;
所述第二获取模块,具体用于若所述判断结果为是,执行所述从所述本地缓存中获取与所述数据标识对应的所述目标实体数据的步骤;若所述判断结果为否,从实体数据存储库中获取与所述数据标识对应的所述目标实体数据,并将所述目标实体数据存储在所述本地缓存中。
可选地,所述装置还包括更新模块,所述更新模块,用于设置所述本地缓存中实体数据的更新日期;基于所述更新日期和实体数据存储库中的实体数据,更新所述本地缓存中的实体数据。
可选地,所述装置还包括确定模块,所述确定模块,用于统计实体数据的数据量;基于所述实体数据的数据量,确定所述多个缓存服务器;其中,一个所述缓存服务器包括S个缓存子服务器,一个所述缓存服务器下的每个所述缓存子服务器中存储的所述实体数据一致,所述S为大于1的整数。
第六方面,本申请提供了一种电子设备,包括:处理器、存储器和通信总线,其中,处理器和存储器通过通信总线完成相互间的通信;所述存储器,用于存储计算机程序;所述处理器,用于执行所述存储器中所存储的程序,实现第一方面所述的应用于网关的数据处理方法,或,实现第一方面所述的应用于缓存服务器的数据处理方法。
第七方面,本申请提供了一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现第一方面所述的应用于网关的数据处理方法,或,实现第一方面所述的应用于缓存服务器的数据处理方法。
本申请实施例提供的上述技术方案与现有技术相比具有如下优点:本申请实施例提供的该方法,应用于网关,客户端通过网关分别与多个类别的缓存服务器通信连接,本申请采用缓存服务器,利用缓存服务器自身特性,能够有效的提高数据的访问速度;通过获取客户端发送的数据请求,其中,数据请求携带类别标识,将数据请求转发至与类别标识对应的目标缓存服务器,以使目标缓存服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据通过网关发送给客户端,可见,本申请预配置多个类别缓存服务器,网关将携带有不同类别标识的数据请求转发至各自对应的目标缓存服务器,解决了现有技术中直接利用单个服务器将大量的数据请求发送至数据库,造成缓存击穿问题的发生,另外,本申请从本地缓存中获取目标实体数据,能够有效的提高数据获取速率,提高服务性能。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1为本申请实施例中应用于网关的数据处理方法流程示意图;
图2为本申请实施例中应用于缓存服务器的数据处理方法流程示意图;
图3为本申请实施例中缓存服务器的确定流程示意图;
图4A为本申请实施例中数据处理系统的结构示意图;
图4B为本申请实施例中数据交互流程示意图;
图5为本申请实施例中一种数据处理装置结构示意图;
图6为本申请实施例中另一种数据处理装置结构示意图;
图7为本申请实施例中电子设备结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
本申请第一实施例中提供了一种数据处理方法,该方法应用于网关,客户端通过数据转发中心与多个类别的缓存服务器通信连接。该网关用于接收客户端发送的数据请求,起到权限控制、流量控制、智能路由转发等作用。该方法的具体实现如图1所示:
步骤101,获取客户端发送的数据请求,数据请求携带类别标识。
一个具体实施例中,用户在终端启动客户端时,会生成应用启动指令并发送至网关。此时,网关获取客户端发送的应用启动指令,该应用启动指令包括:用户唯一标识和用户特征;此时,网关进行初始化操作,基于用户特征,为用户唯一标识添加对应的类别标识,并将类别标识通过网关返回给客户端。
步骤102,将数据请求转发至与类别标识对应的目标缓存服务器,以使目标缓存服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据通过网关发送给客户端。
一个具体实施例中,将数据请求转发至与类别标识对应的目标缓存服务器之前,为每个缓存服务器添加对应的服务标识,配置类别标识与服务标识的对应关系。进而,根据配置的对应关系,确定获取的数据请求的类别标识对应的服务标识,将数据请求转发至与类别标识对应的目标缓存服务器,以使目标缓存服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据通过网关发送给客户端。
具体地,数据请求还携带请求内容和用户唯一标识,将数据请求转发至类别标识对应的目标缓存服务器,以使目标缓存服务器根据用户唯一标识和请求内容,确定实体数据的多个数据标识,以根据该数据标识,从本地缓存中获取对应的目标实体数据,并将获取的目标实体数据通过网关返回至客户端。
例如,当实体数据为视频数据时,根据用户唯一标识和请求内容,确定视频数据的多个视频唯一标识,根据该视频唯一标识,从本地缓存中获取视频数据,并将获取的视频数据通过网关返回至客户端。
例如,当实体数据为广告数据时,根据用户唯一标识和请求内容,确定广告数据的多个广告唯一标识,根据该广告唯一标识,从本地缓存中获取广告数据,并将获取的广告数据通过网关返回至客户端。
一个具体实施例中,一个缓存服务器包括S个缓存子服务器,一个缓存服务器下的每个缓存子服务器中存储的实体数据一致,其中,S为大于1的整数。
具体地,网关在获取到客户端发送的数据请求之后,判断该数据请求携带的类别标识对应的目标缓存服务器下的缓存子服务器的数量,每个缓存子服务器的服务性能,以及每个缓存子服务器中待处理的数据请求的个数。基于每个缓存子服务器的服务性能和/或每个缓存子服务器中待处理的数据请求的个数,将数据请求转发至对应的缓存子服务器。
例如,网关将获取的数据请求转发至服务性能最高的缓存子服务器,以使缓存子服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据通过网关发送给客户端。
又例如,网关将获取的数据请求转发至待处理的数据请求的个数最小的缓存子服务器,以使缓存子服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据通过网关发送给客户端。
又例如,网关将获取的数据请求转发至服务性能大于预设服务性能,和/或,待处理的数据请求的个数小于预设个数的缓存子服务器,以使缓存子服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据通过网关发送给客户端。
本申请实施例通过在每个缓存服务器下设置多个缓存子服务器,且每个缓存子服务器中的实体数据一致,并基于每个缓存子服务器的服务性能和/或每个缓存子服务器中待处理的数据请求的个数,将数据请求转发至对应的缓存子服务器,能够有效的提高服务性能,提高数据请求访问速率,进一步的提高了用户体验。
本申请实施例提供的该方法,应用于网关,客户端通过网关分别与多个类别的缓存服务器通信连接,本申请采用缓存服务器,利用缓存服务器自身特性,能够有效的提高数据的访问速度;通过获取客户端发送的数据请求,其中,数据请求携带类别标识,将数据请求转发至与类别标识对应的目标缓存服务器,以使目标缓存服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据通过网关发送给客户端,可见,本申请预配置多个类别缓存服务器,网关将携带有不同类别标识的数据请求转发至各自对应的目标缓存服务器,解决了现有技术中不利用缓存,直接利用服务器将大量的数据请求发送至数据库,造成缓存击穿问题的发生,另外,本申请从本地缓存中获取目标实体数据,可以得到本地缓存中的实体数据和类别标识相互对应,从本地缓存中获取目标实体数据,能够有效的节省服务资源,提高服务性能。
本申请第二实施例中提供了一种数据处理方法,该方法应用于缓存服务器,客户端通过网关分别与多个缓存服务器通信连接。该方法的具体实现如图2所示:
步骤201,获取通过网关转发的数据请求。
一个具体实施例中,在缓存服务器获取通过网关转发的数据请求之后,需要预先确定多个类别的缓存服务器。其中,缓存服务器的确定流程如图3所示:
步骤301,统计实体数据的数据量。
具体地,获取实体数据,并统计实体数据的数据量。
其中,举例说明一下本申请实施例的实体数据:
介绍一下实体,实体是指某类事务的集合。本申请实施例将一个业务方作为一个实体,该业务方包括:视频类业务方、财经类业务方、广告类业务方、建筑类业务方等。
本申请实施例以业务方为参考对象,每个业务方对应的数据,作为实体数据,例如,视频类业务方的实体数据为视频数据,财经类业务方对应的实体数据为财经数据,广告类业务方对应的实体数据为广告数据,建筑类业务方对应的数据为建筑数据等。
其中,视频数据包括:视频相关数据和用户数据;财经数据包括:财经相关数据和用户数据;广告数据包括:广告相关数据和用户数据;建筑数据包括:建筑数据和用户数据。
例如,当实体数据为视频数据时,以视频唯一标识为统计对象,即,视频唯一标识的数量为实体数据的数据量;当实体数据为广告数据时,以广告唯一标识为统计对象,即,广告唯一标识的数量为实体数据的数量等。
步骤302,基于实体数据的数据量,确定多个缓存服务器。
其中,一个缓存服务器包括S个缓存子服务器,一个缓存服务器下的每个缓存子服务器中存储的实体数据一致,S为大于1的整数。
具体地,预先确定N个缓存服务器,并确定每个缓存服务器的存储量和服务性能,基于实体数据的数据量、每个缓存服务器的存储量和每个缓存服务器的服务性能,从N个缓存服务器中确定M个缓存服务器,作为最终的多个类别的缓存服务器。其中,N为大于1的整数,M为大于1且小于等于N的整数。
其中,M个缓存服务器中的每个缓存服务器可以存储量和服务性能都是一致的,也可以是不一致的,用户可以根据实际需要进行设定。
例如,当M个缓存服务器中的每个缓存服务器一致时,利用实体数据的总数量除以每个缓存服务器的存储量,得到的商值作为M。
又例如,当M个缓存服务器中的部分缓存服务器不一致时,计算获取N个缓存服务器的存储量的中位数或平均数,利用实体数据的总数量除以中位数或平均数,得到的商值作为M。
步骤202,基于数据请求,从本地缓存中获取与数据请求对应的目标实体数据,并将目标实体数据通过网关发送给客户端。
一个具体实施例中,基于数据请求,通过缓存服务器的数据请求接口获取数据标识;基于数据标识,从本地缓存中获取与数据标识对应的实体目标数据。
一个具体实施例中,从本地缓存中获取与数据标识对应的目标实体数据之前,判断本地缓存中是否包括数据标识,得到判断结果;若判断结果为是,执行从本地缓存中获取与数据标识对应的目标实体数据的步骤;若判断结果为否,从实体数据存储库中获取与数据标识对应的目标实体数据,并将目标实体数据存储在本地缓存中。
具体地,本申请实施例通过判断本地缓存中是否包括数据标识,以确定本地缓存中是否存在与获取的数据请求对应的目标实体数据,当确定本地缓存中包括数据标识时,确定本地缓存中存在目标实体数据。因此,说明本地缓存已经接收过该数据请求,因为本地中已经缓存有与该数据请求对应的目标实体数据,因此,可以直接从本地缓存中获取目标实体数据,并通过网关发送给客户端。
当确定本地缓存中不包括数据标识时,确定本地缓存中不存在目标实体数据。其中,本地缓存中不存在目标实体数据,可能存在以下几种情况:一、本地缓存中存在部分数据标识,此时,也认为本地缓存中不存在目标实体数据,二、本地缓存中不存在任何数据标识,即本地缓存为空,认为本地缓存中不存在目标实体数据。具体地,在确定本地缓存中不存在目标实体数据时,从实体数据存储库中获取与数据标识对应的目标实体数据,并将目标实体数据存储在本地缓存中。
另外,也可以将实体数据分类,预先存现在各个缓存服务器中。
首先,利用机器学习算法提取实体数据中的用户数据,并提取用户数据对应的用户特征。例如,当实体数据为视频数据时,利用机器学习算法提取视频数据中的用户数据,并提取用户数据对应的用户特征;当实体数据为广告数据时,利用机器学习算法提取广告数据中的用户数据,并提取用户数据对应的用户特征。
再者,根据用户特征,得到与用户特征对应的用户画像。例如,当实体数据为视频数据时,用户画像包括:用户的基础数据,例如,性别、籍贯、出生年月等,和用户行为数据,例如,利用观看的视频类型、观看视频的时间和观看视频的时长等;当实体数据为广告数据时,用户画像包括:用户的基础数据,例如,性别、籍贯、出生年月等,和用户行为数据,例如,利用观看的广告类型、观看广告的时间等,等等。
进而,根据用户画像对用户进行分类,得到Q类用户,其中,Q为大于1且小于等于M的整数。例如,当实体数据为视频数据时,根据用户画像将用户分为偶像类、古装类、宫廷类、悬疑类、恐怖类等;当实体数据为广告数据时,根据用户画像将用户分为购物类、电影类、学习类、旅行类等。
最后,将每类用户对应的实体数据存储在本地缓存中。
本申请实施例提供的该方法,根据实体数据的数据量,确定多个缓存服务器,本申请采用多个缓存服务器,相较于现有技术的使用一个缓存服务器,避免了由于数据量过大,造成的缓存击穿现象。本申请采用缓存服务器,利用缓存服务器自身特性,能够有效的提高数据的访问速度;提取实体数据中的用户数据对应的用户特征,根据用户特征进行分类,分别将每类用户对应的实体数据存储在本地缓存中,可见,本申请根据用户喜好,将用户感兴趣的、常搜索的实体数据存储在本地缓存中,能够有效的提高数据访问速率和服务性能。
另外,在将每类用户对应的实体数据存储在本地缓存中之后,设置定期更新周期,并在每个定期更新周期后,更新每个缓存服务器中的实体数据。
其中,定期更新周期可以根据实际情况以及用户实际需要,进行动态调整。
本申请实施例通过定期更新本地缓存中的实体数据,使得用户随时能够获取到最感兴趣的数据,提高了用户体验,并提高了用户粘度。
一个具体实施例中,该方法还可以设置本地缓存中实体数据的更新日期;基于更新日期和实体数据存储库中的实体数据,更新本地缓存中的实体数据。例如,设置一个星期或者一个月更新一次本地缓存中的实体数据。在更新本地缓存实体数据时,针对该本地缓存预设时间段内接收的数据请求、以及实体数据存储库中的实体数据的变化,更新本地缓存中的实体数据。
本申请实施例通过定期更新本地缓存中的实体数据,使得用户随时能够获取到最感兴趣的数据,提高了用户体验,并提高了用户粘度。
本申请第三实施例中提供了一个数据处理系统,如图4A所示,该系统主要包括:网关401、多个缓存服务器402和客户端403,客户端403通过网关401分别与多个缓存服务器402通信连接。
客户端403,用于生成数据请求,并将生成的数据请求发送给网关401,数据请求携带类别标识;
网关401,用于获取客户端403发送的数据请求,将数据请求转发至与类别标识对应的目标缓存服务器;以及用于获取目标缓存服务器发送的目标实体数据,并将获取的目标实体数据发送至客户端;
缓存服务器402,用于获取通过网关401转发的数据请求,基于数据请求,从本地缓存中获取与数据请求对应的目标实体数据,并将目标实体数据发送给网关401。
具体的数据交互流程如图4B所示:
客户端403生成应用启动指令,该应用启动指令携带用户唯一标识和用户特征,将应用启动指令发送至网关401,网关401接收应用启动指令,基于用户特征,为用户唯一标识添加对应的类别标识,并将类别标识通过网关401返回至客户端403。客户端403生成数据请求,该数据请求携带类别标识,并将数据请求发送至网关401,网关401接收数据请求,并根据类别标识,得到服务标识,并根据服务标识将该数据请求发送至对应的目标缓存服务器。目标缓存服务器获取数据请求,并基于数据请求,从本地缓存中获取目标实体数据,并将目标实体数据通过网关401返回至客户端403。
其中,该系统还包括实体数据存储库404,为缓存服务器设置更新日期,在达到更新日期时,自动从实体数据存储库404中获取实体数据,以更新本地缓存中的实体数据。
基于同一构思,本申请第四实施例中提供了一种数据处理装置,该装置的具体实施可参见方法实施例部分的描述,重复之处不再赘述。如图5所示,该装置主要包括:
获取模块501,用于获取客户端发送的数据请求,数据请求携带类别标识;
转发模块502,用于将数据请求转发至与类别标识对应的目标缓存服务器,以使目标缓存服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据发送给客户端。
一个具体实施例中,该装置还包括配置模块,配置模块,用于为每个缓存服务器添加对应的服务标识;配置类别标识与服务标识的对应关系;
转发模块502,具体用于根据配置的对应关系,确定类别标识对应的服务标识,将数据请求转发至与目标缓存服务器,以使目标缓存服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据发送给客户端。
一个具体实施例中,该装置还包括:添加模块,添加模块,用于获取客户端发送的应用启动指令,应用启动指令包括:用户唯一标识和用户特征;基于用户特征,为用户唯一标识添加对应的类别标识,并将类别标识返回至客户端。
一个具体实施例中,一个缓存服务器包括S个缓存子服务器,一个缓存服务器下的每个缓存子服务器中存储的实体数据一致,S为大于1的整数。
基于同一构思,本申请第五实施例中提供了一种数据处理装置,该装置的具体实施可参见方法实施例部分的描述,重复之处不再赘述。如图6所示,该装置主要包括:
第一获取模块601,用于获取通过网关转发的数据请求;
第二获取模块602,用于基于数据请求,从本地缓存中获取与数据请求对应的目标实体数据,并将目标实体数据通过网关发送给客户端。
一个具体实施例中,第二获取模块602,具体用于基于数据请求,通过缓存服务器的数据请求接口获取数据标识;基于数据标识,从本地缓存中获取与数据标识对应的实体目标数据。
一个具体实施例中,装置还包括:判断模块,判断模块,用于判断本地缓存中是否包括数据标识,得到判断结果;第二获取模块602,具体用于若判断结果为是,执行从本地缓存中获取与数据标识对应的目标实体数据的步骤;若判断结果为否,从实体数据存储库中获取与数据标识对应的目标实体数据,并将目标实体数据存储在本地缓存中。
一个具体实施例中,装置还包括更新模块,更新模块,用于设置本地缓存中实体数据的更新日期;基于更新日期和实体数据存储库中的实体数据,更新本地缓存中的实体数据。
一个具体实施例中,装置还包括确定模块,确定模块,用于统计实体数据的数据量;基于实体数据的数据量,确定多个缓存服务器;其中,一个缓存服务器包括S个缓存子服务器,一个缓存服务器下的每个缓存子服务器中存储的实体数据一致,S为大于1的整数。
基于同一构思,本申请第六实施例中还提供了一种电子设备,如图7所示,该电子设备主要包括:处理器701、存储器702和通信总线703,其中,处理器701和存储器702通过通信总线703完成相互间的通信。其中,存储器702中存储有可被至处理器701执行的程序,处理器701执行存储器702中存储的程序,实现如下步骤:获取客户端发送的数据请求,数据请求携带类别标识;将数据请求转发至与类别标识对应的目标缓存服务器,以使目标缓存服务器响应于数据请求,从本地缓存中获取对应的目标实体数据,并将目标实体数据通过网关发送给客户端,或,获取通过网关转发的数据请求;基于数据请求,从本地缓存中获取与数据请求对应的目标实体数据,并将目标实体数据通过网关发送给客户端。
上述电子设备中提到的通信总线703可以时外设部件互连标准(PeripheralComponent Interconnect,简称PCI)总线或扩展工业标准结构(Extended IndustryStandard Architecture,简称EISA)总线等。该通信总线703可以分为地址总线、数据总线、控制总线等。为便于表示,图7中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
存储器702可以包括随机存取存储器(Random Access Memory,简称RAM),也可以包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。可选地,存储器还可以是至少一个位于远离前述处理器701的存储装置。
上述的处理器701可以是通用处理器,包括中央处理器(Central ProcessingUnit,简称CPU)、网络处理器(Network Processor,简称NP)等,还可以是数字信号处理器(Digital Signal Processing,简称DSP)、专用集成电路(Application SpecificIntegrated Circuit,简称ASIC)、现场可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本申请的第七实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序,当该计算机程序在计算机上运行时,使得计算机执行上述实施例中所描述的应用于网关的数据处理方法,或应用于缓存服务器的数据处理方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行该计算机指令时,全部或部分地产生按照本申请实施例所述的流程或功能。该计算机可以时通用计算机、专用计算机、计算机网络或者其他可编程装置。该计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,计算机指令从一个网站站点、计算机、服务器或者数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、微波等)方式向另外一个网站站点、计算机、服务器或数据中心进行传输。该计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。该可用介质可以是磁性介质(例如软盘、硬盘、磁带等)、光介质(例如DVD)或者半导体介质(例如固态硬盘)等。
需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本发明的具体实施方式,使本领域技术人员能够理解或实现本发明。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所申请的原理和新颖特点相一致的最宽的范围。
Claims (14)
1.一种数据处理方法,其特征在于,应用于网关,客户端通过所述网关分别与多个类别的缓存服务器通信连接,所述方法包括:
获取所述客户端发送的数据请求,所述数据请求携带类别标识;
将所述数据请求转发至与所述类别标识对应的目标缓存服务器,以使所述目标缓存服务器响应于所述数据请求,从本地缓存中获取对应的目标实体数据,并将所述目标实体数据通过所述网关发送给所述客户端。
2.根据权利要求1所述的数据处理方法,其特征在于,所述将所述数据请求转发至与所述类别标识对应的目标缓存服务器之前,还包括:
为每个所述缓存服务器添加对应的服务标识;
配置所述类别标识与所述服务标识的对应关系;
所述将所述数据请求转发至与所述类别标识对应的目标缓存服务器,以使所述目标缓存服务器响应于所述数据请求,从本地缓存中获取对应的目标实体数据,并将所述目标实体数据通过所述网关发送给所述客户端,包括:
根据配置的所述对应关系,确定所述类别标识对应的服务标识,将所述数据请求转发至与所述目标缓存服务器,以使所述目标缓存服务器响应于所述数据请求,从所述本地缓存中获取对应的目标实体数据,并将所述目标实体数据通过所述网关发送给所述客户端。
3.根据权利要求1或2所述的数据处理方法,其特征在于,所述获取所述客户端发送的数据请求之前,还包括:
获取所述客户端发送的应用启动指令,所述应用启动指令包括:用户唯一标识和用户特征;
基于所述用户特征,为所述用户唯一标识添加对应的类别标识,并将所述类别标识通过所述网关返回至所述客户端。
4.根据权利要求1或2所述的数据处理方法,其特征在于,一个所述缓存服务器包括S个缓存子服务器,一个所述缓存服务器下的每个所述缓存子服务器中存储的实体数据一致,所述S为大于1的整数。
5.一种数据处理方法,其特征在于,应用于缓存服务器,客户端通过网关分别与多个所述缓存服务器通信连接,所述方法包括:
获取通过所述网关转发的数据请求;
基于所述数据请求,从本地缓存中获取与所述数据请求对应的目标实体数据,并将所述目标实体数据通过所述网关发送给所述客户端。
6.根据权利要求5所述的数据处理方法,其特征在于,所述基于所述数据请求,从本地缓存中获取与所述数据请求对应的目标实体数据,包括:
基于所述数据请求,通过所述缓存服务器的数据请求接口获取数据标识;
基于所述数据标识,从所述本地缓存中获取与所述数据标识对应的所述实体目标数据。
7.根据权利要求6所述的数据处理方法,其特征在于,所述基于所述数据标识,从所述本地缓存中获取与所述数据标识对应的所述目标实体数据之前,还包括:
判断所述本地缓存中是否包括所述数据标识,得到判断结果;
所述基于所述数据标识,从所述本地缓存中获取与所述数据标识对应的所述目标实体数据,包括:
若所述判断结果为是,执行所述从所述本地缓存中获取与所述数据标识对应的所述目标实体数据的步骤;
若所述判断结果为否,从实体数据存储库中获取与所述数据标识对应的所述目标实体数据,并将所述目标实体数据存储在所述本地缓存中。
8.根据权利要求5-7任一项所述的数据处理方法,其特征在于,所述方法还包括:
设置所述本地缓存中实体数据的更新日期;
基于所述更新日期和实体数据存储库中的实体数据,更新所述本地缓存中的实体数据。
9.根据权利要求5-7任一项所述的数据处理方法,其特征在于,所述获取通过所述网关转发的数据请求之前,还包括:
统计实体数据的数据量;
基于所述实体数据的数据量,确定所述多个缓存服务器;
其中,一个所述缓存服务器包括S个缓存子服务器,一个所述缓存服务器下的每个所述缓存子服务器中存储的所述实体数据一致,所述S为大于1的整数。
10.一种数据处理系统,其特征在于,所述系统包括:网关、多个缓存服务器和客户端,所述客户端通过所述网关分别与所述多个缓存服务器通信连接;
所述客户端,用于生成数据请求,并将生成的数据请求发送给所述网关,所述数据请求携带类别标识;
所述网关,用于获取所述客户端发送的所述数据请求,将所述数据请求转发至与所述类别标识对应的目标缓存服务器;以及用于获取所述目标缓存服务器发送的目标实体数据,并将获取的所述目标实体数据发送至所述客户端;
所述缓存服务器,用于获取通过所述网关转发的所述数据请求,基于所述数据请求,从本地缓存中获取与所述数据请求对应的所述目标实体数据,并将所述目标实体数据发送给所述网关。
11.一种数据处理装置,其特征在于,所述装置包括:
获取模块,用于获取所述客户端发送的数据请求,所述数据请求携带类别标识;
转发模块,用于将所述数据请求转发至与所述类别标识对应的目标缓存服务器,以使所述目标缓存服务器响应于所述数据请求,从本地缓存中获取对应的目标实体数据,并将所述目标实体数据发送给所述客户端。
12.一种数据处理装置,其特征在于,所述装置包括:
第一获取模块,用于获取通过网关转发的数据请求;
第二获取模块,用于基于所述数据请求,从本地缓存中获取与所述数据请求对应的目标实体数据,并将所述目标实体数据通过所述网关发送给所述客户端。
13.一种电子设备,包括:处理器、存储器和通信总线,其中,处理器和存储器通过通信总线完成相互间的通信;所述存储器,用于存储计算机程序;所述处理器,用于执行所述存储器中所存储的程序,实现权利要求1至4任一项所述的应用于网关的数据处理方法,或,实现权利要求5至9任一项所述的应用于缓存服务器的数据处理方法。
14.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至4任一项所述的应用于网关的数据处理方法,或,实现权利要求5至9任一项所述的应用于缓存服务器的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110642558.XA CN113343088A (zh) | 2021-06-09 | 2021-06-09 | 数据处理方法、系统、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110642558.XA CN113343088A (zh) | 2021-06-09 | 2021-06-09 | 数据处理方法、系统、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113343088A true CN113343088A (zh) | 2021-09-03 |
Family
ID=77475586
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110642558.XA Pending CN113343088A (zh) | 2021-06-09 | 2021-06-09 | 数据处理方法、系统、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113343088A (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114610691A (zh) * | 2022-03-21 | 2022-06-10 | 苏州浪潮智能科技有限公司 | 存储对象的获取方法、存储对象的获取装置、设备及介质 |
CN114629883A (zh) * | 2022-03-01 | 2022-06-14 | 北京奇艺世纪科技有限公司 | 服务请求的处理方法、装置、电子设备及存储介质 |
CN114866549A (zh) * | 2022-05-12 | 2022-08-05 | 中国建设银行股份有限公司 | 数据获取方法及装置 |
CN115379013A (zh) * | 2022-06-29 | 2022-11-22 | 广州博冠信息科技有限公司 | 数据处理方法、装置和电子设备 |
CN115470246A (zh) * | 2022-09-15 | 2022-12-13 | 中航信移动科技有限公司 | 一种基于cdn的请求响应方法、电子设备及存储介质 |
CN115550424A (zh) * | 2022-12-02 | 2022-12-30 | 苏州万店掌网络科技有限公司 | 一种数据缓存方法、装置、设备及存储介质 |
CN115866092A (zh) * | 2022-11-24 | 2023-03-28 | 中国联合网络通信集团有限公司 | 数据转发方法、装置、设备及存储介质 |
WO2023245940A1 (zh) * | 2022-06-24 | 2023-12-28 | 深圳前海微众银行股份有限公司 | 缓存中数据处理方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101562583A (zh) * | 2008-04-18 | 2009-10-21 | 华为技术有限公司 | 获取缓存数据的方法、系统及一种装置 |
CN102263822A (zh) * | 2011-07-22 | 2011-11-30 | 北京星网锐捷网络技术有限公司 | 一种分布式缓存的控制方法、系统及装置 |
CN112491943A (zh) * | 2019-09-12 | 2021-03-12 | 北京国双科技有限公司 | 数据请求方法、装置、存储介质和电子设备 |
CN112783866A (zh) * | 2021-01-29 | 2021-05-11 | 深圳追一科技有限公司 | 数据读取方法、装置、计算机设备和存储介质 |
-
2021
- 2021-06-09 CN CN202110642558.XA patent/CN113343088A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101562583A (zh) * | 2008-04-18 | 2009-10-21 | 华为技术有限公司 | 获取缓存数据的方法、系统及一种装置 |
CN102263822A (zh) * | 2011-07-22 | 2011-11-30 | 北京星网锐捷网络技术有限公司 | 一种分布式缓存的控制方法、系统及装置 |
CN112491943A (zh) * | 2019-09-12 | 2021-03-12 | 北京国双科技有限公司 | 数据请求方法、装置、存储介质和电子设备 |
CN112783866A (zh) * | 2021-01-29 | 2021-05-11 | 深圳追一科技有限公司 | 数据读取方法、装置、计算机设备和存储介质 |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114629883A (zh) * | 2022-03-01 | 2022-06-14 | 北京奇艺世纪科技有限公司 | 服务请求的处理方法、装置、电子设备及存储介质 |
CN114629883B (zh) * | 2022-03-01 | 2023-12-29 | 北京奇艺世纪科技有限公司 | 服务请求的处理方法、装置、电子设备及存储介质 |
CN114610691A (zh) * | 2022-03-21 | 2022-06-10 | 苏州浪潮智能科技有限公司 | 存储对象的获取方法、存储对象的获取装置、设备及介质 |
CN114610691B (zh) * | 2022-03-21 | 2024-01-30 | 苏州浪潮智能科技有限公司 | 存储对象的获取方法、存储对象的获取装置、设备及介质 |
CN114866549A (zh) * | 2022-05-12 | 2022-08-05 | 中国建设银行股份有限公司 | 数据获取方法及装置 |
CN114866549B (zh) * | 2022-05-12 | 2024-04-19 | 中国建设银行股份有限公司 | 数据获取方法及装置 |
WO2023245940A1 (zh) * | 2022-06-24 | 2023-12-28 | 深圳前海微众银行股份有限公司 | 缓存中数据处理方法及装置 |
CN115379013A (zh) * | 2022-06-29 | 2022-11-22 | 广州博冠信息科技有限公司 | 数据处理方法、装置和电子设备 |
CN115470246A (zh) * | 2022-09-15 | 2022-12-13 | 中航信移动科技有限公司 | 一种基于cdn的请求响应方法、电子设备及存储介质 |
CN115866092A (zh) * | 2022-11-24 | 2023-03-28 | 中国联合网络通信集团有限公司 | 数据转发方法、装置、设备及存储介质 |
CN115550424A (zh) * | 2022-12-02 | 2022-12-30 | 苏州万店掌网络科技有限公司 | 一种数据缓存方法、装置、设备及存储介质 |
CN115550424B (zh) * | 2022-12-02 | 2023-03-14 | 苏州万店掌网络科技有限公司 | 一种数据缓存方法、装置、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113343088A (zh) | 数据处理方法、系统、装置、设备及存储介质 | |
US7831707B2 (en) | Methods, systems, and computer program products for managing electronic subscriptions | |
US10331863B2 (en) | User-generated content permissions status analysis system and method | |
US10313726B2 (en) | Distributing media content via media channels based on associated content being provided over other media channels | |
CN109542361B (zh) | 一种分布式存储系统文件读取方法、系统及相关装置 | |
US20160277485A1 (en) | Socially driven feed of aggregated content in substantially real time | |
CN112087644B (zh) | 拉流请求处理方法、装置、系统、电子设备和存储介质 | |
CN107370780B (zh) | 基于互联网的媒体推送方法、装置和系统 | |
CN108647240B (zh) | 一种统计访问量的方法、装置、电子设备及存储介质 | |
CN111049756B (zh) | 请求响应方法、装置、电子设备及计算机可读存储介质 | |
CN112541787B (zh) | 广告推荐方法、系统、存储介质及电子设备 | |
CN111367672A (zh) | 数据缓存方法、装置、电子设备及计算机存储介质 | |
WO2014176896A1 (en) | System and method for updating information in an instant messaging application | |
CN111324836B (zh) | 一种页面的处理方法、装置、计算机设备和存储介质 | |
CN111563199A (zh) | 一种数据处理方法及装置 | |
US10412076B2 (en) | Identifying users based on federated user identifiers | |
CN112785333A (zh) | 广告投放方法、电子设备、存储介质及装置 | |
CN107734006A (zh) | 一种统计日志发送方法、装置及电子设备 | |
CN110020129B (zh) | 点击率校正方法、预估方法、装置、计算设备及存储介质 | |
CN114637790A (zh) | 榜单数据查询方法、装置、电子设备和存储介质 | |
CN110535853B (zh) | 一种视频请求调度方法、装置、服务器及存储介质 | |
CN110691143B (zh) | 一种文件推送方法、装置、电子设备及介质 | |
CN112015924A (zh) | 流媒体缓存方法及其装置、计算机可存储介质 | |
CN111356006A (zh) | 视频播放方法、装置、服务器及存储介质 | |
CN110995848B (zh) | 一种服务治理方法、装置、系统、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |