CN115878245A - 一种数据处理方法、装置、电子设备及存储介质 - Google Patents
一种数据处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN115878245A CN115878245A CN202211529290.XA CN202211529290A CN115878245A CN 115878245 A CN115878245 A CN 115878245A CN 202211529290 A CN202211529290 A CN 202211529290A CN 115878245 A CN115878245 A CN 115878245A
- Authority
- CN
- China
- Prior art keywords
- page
- request
- data
- database
- client
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种数据处理方法、装置、电子设备及存储介质。该方法包括:确定页面数据的数据类型,根据数据类型将页面数据缓存至客户端、数据库或者内容分发网络CDN;接收到页面请求后,根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取页面请求对应的页面数据;在客户端的预设界面中展示页面数据。本发明的技术方案,可以根据数据类型将数据缓存在不同的位置,并根据页面请求的请求类型确定需要获取的数据所在的位置,直接在数据对应的位置获取页面请求对应的页面数据,能够减少查找数据的时间,提高数据获取效率和预设界面的数据刷新速度。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种数据处理方法、装置、电子设备及存储介质。
背景技术
随着电子商务的高速发展,电商平台面临的用户也越来越多,其中,电商平台的数据刷新度也备受关注,数据刷新的速率和质量与数据缓存密切相关。
目前,电商平台的数据缓存采用的是浏览器本地缓存+内容分发网络(ContentDelivery Network,CDN)缓存+Redis数据库缓存的方式。例如,在非移动开发平台(MobilePaaS,mPaaS)框架下,当客户端有缓存需求时,结合本地缓存和距离用户最近的CDN服务器提供的缓存数据实施缓存方案。
但是,该缓存方案需要结合本地缓存进行数据缓存,缓存时需要设计本地缓存的空间管理和全局变量状态管理,方案复杂,无法实时响应服务器数据更新,数据实时性差,更新缓存的代价高,其次,若不能及时获取到数据,页面就无法完成渲染,从而降低页面的刷新效果。
发明内容
本发明提供了一种数据处理方法、装置、电子设备及存储介质,能够减少查找数据的时间,提高数据获取效率和预设界面的数据刷新速度。
根据本发明的一方面,提供了一种数据处理方法,该方法包括:
确定页面数据的数据类型,根据数据类型将页面数据缓存至客户端、数据库或者内容分发网络CDN;
接收到页面请求后,根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取页面请求对应的页面数据;
在客户端的预设界面中展示页面数据。
可选的,根据数据类型将页面数据缓存至客户端、数据库或者CDN,包括:当数据类型为低实时性数据时,将页面数据缓存至客户端;当数据类型为高访问性数据时,将页面数据缓存至数据库;当数据类型为大容量性数据时,将页面数据缓存至CDN。
可选的,根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取页面请求对应的页面数据,包括:当页面请求的请求类型为初始请求时,确定页面请求对应的页面数据缓存在客户端,并在客户端中获取页面请求对应的页面数据;当页面请求的请求类型为中间请求时,确定页面请求对应的页面数据缓存在数据库,并在数据库中获取页面请求对应的页面数据;当页面请求的请求类型为详细请求时,确定页面请求对应的页面数据缓存在CDN,并在CDN中获取页面请求对应的页面数据。
可选的,数据库包括总数据库和Redis数据库。
可选的,在数据库中获取页面请求对应的页面数据,包括:确定Redis数据库中是否存在页面请求对应的页面数据;当Redis数据库中存在页面请求对应的页面数据时,在Redis数据库中获取页面请求对应的页面数据;当Redis数据库中不存在页面请求对应的页面数据时,在总数据库中获取页面请求对应的页面数据。
可选的,在总数据库中获取页面请求对应的页面数据之后,还包括:将页面请求对应的页面数据缓存至Redis数据库。
可选的,该方法还包括:当Redis数据库中不存在页面请求对应的页面数据时,为Redis数据库加锁;在将页面请求对应的页面数据缓存至Redis数据库时,为Redis数据库解锁。
可选的,在CDN中获取页面请求对应的页面数据,包括:确定距离客户端最近的CDN中是否存在页面请求对应的页面数据;当距离客户端最近的CDN中存在页面请求对应的页面数据时,在距离客户端最近的CDN中获取页面请求对应的页面数据;当距离客户端最近的CDN中不存在页面请求对应的页面数据时,在主CDN中获取页面请求对应的页面数据。
根据本发明的另一方面,提供了一种数据处理装置,该装置包括:
缓存模块,用于确定页面数据的数据类型,根据数据类型将页面数据缓存至客户端、数据库或者内容分发网络CDN;
确定模块,用于接收到页面请求后,根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取页面请求对应的页面数据;
展示模块,用于在客户端的预设界面中展示页面数据。
根据本发明的另一方面,提供了一种电子设备,该电子设备包括:
至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处理器执行,以使至少一个处理器能够执行本发明任一实施例所述的数据处理方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行时实现本发明任一实施例所述的数据处理方法。
本发明实施例的技术方案,通过确定页面数据的数据类型,根据数据类型将页面数据缓存至客户端、数据库或者内容分发网络CDN;接收到页面请求后,根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取页面请求对应的页面数据;在客户端的预设界面中展示页面数据。可以根据数据类型将数据缓存在不同的位置,并根据页面请求的请求类型确定需要获取的数据所在的位置,直接在数据对应的位置获取页面请求对应的页面数据,能够减少查找数据的时间,提高数据获取效率和预设界面的数据刷新速度。解决了数据实时性差、更新缓存代价高,以及由于数据获取不及时造成的页面无法完成渲染和页面刷新效果差的问题。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种数据处理方法的流程示意图;
图2是本发明实施例二提供的一种数据处理方法的流程示意图;
图3是本发明实施例三提供的一种数据处理装置的结构示意图;
图4是本发明实施例四提供的一种电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1是本发明实施例一提供的一种数据处理方法的流程示意图,本实施例可适用于数据分区缓存等情况,该方法可以由本发明实施例提供的数据处理装置来执行,该装置可以采用硬件和/或软件的形式实现,在一个具体的实施例中,该装置可以集成在电子设备中。以下实施例将以该装置集成在电子设备中为例进行说明,参考图1,该方法具体包括如下步骤:
S101、确定页面数据的数据类型,根据数据类型将页面数据缓存至客户端、数据库或者内容分发网络CDN。
随着电子商务的发展,电商平台成为了用户进行商品贸易的一个重要途径,目前电商平台的页面数据存储在一个服务器或总数据库中,当电商平台瞬间面临大量用户的高并发访问请求时,会给服务器或总数据库造成极大的访问压力。
其中,页面数据可以理解为电商平台进行商品交易所需要的数据,例如,商品链接、商品参数、商品图片等;页面数据的数据类型可以理解为页面数据的属性分类,例如,低实时性数据、高访问性数据、大容量性数据等;客户端可以理解为给用户提供本地服务的程序,一般安装于普通的客户机,例如,手机、电脑等;数据库可以理解为数据的存储设备,可以以内存或硬盘作为数据存储介质,快速及永久性的读写数据,包括关系型数据库、非关系型数据库等;内容分发网络CDN可以理解为构建在现有网络基础之上的虚拟网络,依靠部署在客户端边缘的服务器使用中心平台的负载均衡、内容分发、掉地等功能,让客户端就近获取所需的数据,降低网络堵塞,提高用户访问的响应速度和命中率。
不同的存储位置用于缓存不同类型的页面数据,例如,客户端的实时性较差,难以实时响应服务器对数据的更新,可用于缓存实时性要求低或只需要定时更新的数据。数据库能够实时响应服务器对数据的更新,可以保证页面数据与数据库数据的一致性,可用于缓存高访问性的数据。内容分发网络CDN具有一定的存储量,可用于缓存商品图片、静态页面信息等数据,此类数据的数据容量较大,往往高达几兆,甚至十几兆。进一步的,若将商品图片、静态页面信息等数据缓存至客户顿,会增加客户端的缓存压力,若将商品图片、静态页面信息等数据缓存至数据库,在数据访问时会占用较大的带宽,影响数据访问效率。
示例性的,可以根据页面数据的数据类型,将页面数据进行分类,并缓存在不同的位置,这样设置的好处在于不需要将页面数据缓存在一个位置,可以提升页面数据的相应速度,减少服务器或数据库的访问压力。
S102、接收到页面请求后,根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取页面请求对应的页面数据。
具体的,页面请求的请求类型可以理解为包含页面数据属性的请求信息,根据页面请求的请求类型可以确定需要获取的页面数据是低实时性数据、高访问性数据、大容量性数据中的哪一种,进而确定需要获取的页面数据的缓存位置。示例性的,如若根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端中,则直接在客户端中获取页面请求对应的页面数据;如若根据页面请求的请求类型确定页面请求对应的页面数据缓存在数据库中,则直接在数据库中获取页面请求对应的页面数据;如若根据页面请求的请求类型确定页面请求对应的页面数据缓存在CDN中,则直接在CDN中获取页面请求对应的页面数据。
这样设置的好处在于可以根据页面请求的请求类型确定页面请求对应的页面数据的缓存位置,并在该缓存位置查找页面数据,不需要遍历所有的缓存位置,能够节省访问页面数据的时间。
S103、在客户端的预设界面中展示页面数据。
其中,预设界面可以理解为客户端上用于展示页面数据的装置,例如,显示屏、显示器等。得到页面数据后,可以基于客户端的预设界面展示页面数据,方便用户及时了解获取的页面数据和进行下一步操作,提升用户的访问效率和访问感受。
本发明实施例的技术方案,通过确定页面数据的数据类型,根据数据类型将页面数据缓存至客户端、数据库或者内容分发网络CDN;接收到页面请求后,根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取页面请求对应的页面数据;在客户端的预设界面中展示页面数据。可以根据数据类型将数据缓存在不同的位置,并根据页面请求的请求类型确定需要获取的数据所在的位置,直接在数据对应的位置获取页面请求对应的页面数据,能够减少查找数据的时间,提高数据获取效率和预设界面的数据刷新速度。解决了数据实时性差、更新缓存代价高,以及由于数据获取不及时造成的页面无法完成渲染和页面刷新效果差的问题。
实施例二
图2是本发明实施例二提供的一种数据处理方法的流程示意图,本实施例可适用于数据分区缓存等情况,该方法可以由本发明实施例提供的数据处理装置来执行,该装置可以采用硬件和/或软件的形式实现,在一个具体的实施例中,该装置可以集成在电子设备中。以下实施例将以该装置集成在电子设备中为例进行说明,参考图2,该方法具体包括如下步骤:
S201、确定页面数据的数据类型。
S202、根据数据类型将页面数据缓存至客户端、数据库或者内容分发网络CDN。
一种实施方式中,S202具体可以包括:当数据类型为低实时性数据时,将页面数据缓存至客户端;当数据类型为高访问性数据时,将页面数据缓存至数据库;当数据类型为大容量性数据时,将页面数据缓存至CDN。
具体的,当数据类型为低实时性数据时,证明数据不需要高刷新,可以将数据缓存至实时性不高的客户端,获取存储于客户端的数据时不需要使用网络带宽,该页面数据的获取速度快。当数据类型为高访问性数据时,将页面数据缓存至数据库,数据库能够实时响应服务器对数据的更新,保证页面数据与数据库数据的一致性,该页面数据的实时性高。当数据为大容量数据时,可以将数据存储至CDN,减少客户端的缓存压力和数据库的访问压力。
客户端还包括keep-alive组件和页面刷新器,keep-alive组件可以基于最近最少使用算法稳定客户端缓存的页面数据,例如,当缓存溢出时,删除数组的头部数据,即将最不频繁使用的数据移除,保证客户端可以缓存更多的有效数据。页面刷新器可以基于客户端缓存的页面数据更新展示页面,或者在需要重新渲染页面时,获取服务器下发的页面数据,并基于服务器下发的页面数据刷新和渲染当前页面。
客户端上设置有全域时间戳和页面时间戳,其中,全域时间戳可以理解为客户端上展示页面定时刷新的时间,页面时间戳为当前页面的生成时间,客户端上的展示页面可以是H5页面,首次进入H5页面时,会调用客户端缓存的页面数据,基于客户端缓存的页面数据刷新展示页面,并清零页面时间戳,此后,进入H5页面时,需要结合当前时间、全域时间戳和页面时间戳确定当前页面是否需要刷新,具体的,当页面时间戳大于或者等于全域时间戳、或者当前时间为整点时,认为当前页面需要刷新和重新渲染,将获取服务器下发的页面数据,并基于服务器下发的页面数据刷新和渲染当前页面;当页面时间戳小于全域时间戳时,将调用客户端缓存的页面数据,并更新页面时间戳。
进一步的,服务器下发的页面数据也会缓存至客户端,全域时间戳可根据访问需求和页面数据的实时性进行确定和调整,本发明实施例对此不进行限定。
S203、接收到页面请求后,根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取页面请求对应的页面数据。
一种实施方式中,S203具体可以包括:当页面请求的请求类型为初始请求时,确定页面请求对应的页面数据缓存在客户端,并在客户端中获取页面请求对应的页面数据;当页面请求的请求类型为中间请求时,确定页面请求对应的页面数据缓存在数据库,并在数据库中获取页面请求对应的页面数据;当页面请求的请求类型为详细请求时,确定页面请求对应的页面数据缓存在CDN,并在CDN中获取页面请求对应的页面数据。
其中,初始请求可以理解为包含低实时性访问指示的请求信息,中间请求可以理解为包含高访问性访问指示的请求信息,详细请求可以理解为包含大容量性访问指示的请求信息。
具体的,当页面请求的请求类型为初始请求时,请求的页面数据为低实时性数据;当页面请求的请求类型为中间请求时,请求的页面数据为高访问性数据;当页面请求的请求类型为详细请求时,请求的页面数据为大容量性数据。
基于页面请求的请求类型可以确定需要访问的页面数据的存储位置,在对应的存储位置即可访问页面请求对应的页面数据。
数据库包括总数据库和Redis数据库,总数据库可以理解为以硬盘为存储介质的关系型数据库,用于存储所有的数据,Redis可以理解为以内存为存储介质的非关系型数据库,数据库读写速度高,用于存储高访问性数据中访问概率高的数据,能够提升数据的访问速度。
具体的,Redis数据库包含数据维度化功能和数据预设功能,数据维度化功能可以理解为将数据按照维度和作用进行分离存储,可以更有效的存储和使用页面数据;数据预设功能可以理解为提前将预测可能产生大量访问的数据预热到Redis数据库中。
结合商城商品数据对维度化功能进行说明,将商品按照基本信息、介绍信息和异步加载信息三个维度进行划分,基本信息包括标题、商品名称、状态、分类、属性、尺码、规格参数等,介绍信息包括商品介绍和图片介绍,异步加载信息包括价格和库存。进一步的,商品基本信息和介绍信息的变化频率低,主要操作为读取操作,可以采用报文级别缓存,直接将商品数据的报文缓存至Redis数据库,便于对商品信息进行整体读取;商品库存随商品订单交易不断变化,采用对象级别缓存单独存储,方便对数据进行更新操作;商品介绍信息中包含大量图片,渲染页面对带宽的占用较大,因此,数据库中只缓存图片的编号,具体的图片数据缓存至CDN,减少主干带宽的占用。
商品基本信息更新的频率较低,在商品基本信息更新时,直接清除Redis数据库中缓存的商品基本信息,将总数据库中最新的商品数据缓存至Redis数据库,保证缓存的页面数据的一致性。
在一个具体的示例中,服务器可以手动修改商品信息,例如,商品上架、商品下架、编辑商品信息、删除Redis数据库中缓存的商品信息等。
其中,Redis数据库的读写速度高,会预先缓存一些访问量大的数据,例如,提前预热的数据、秒杀活动商品的数据等,可以避免活动开始时大量数据访问总数据库,造成总数据库的访问压力。
商品的秒杀活动可以是定时触发的,例如,在设置的活动开始时间获取秒杀商品的页面数据,在活动结束时间,清除秒杀商品的页面数据。
商品的库存更新与商品下单、取消商品订单、退换商品、商品出库、商品入库等信息有关,更新频率较高,为保证缓存数据的一致性,可以采用实时的Redis数据库缓存+总数据库双写策略,在完成原业务逻辑处理且总数据库事务成功提交后,采用Redis自增/自减计数的方式更新Redis数据库中的商品库存信息。例如,在用户下单且商品出库后,更新商品库存信息。
进一步,在数据库中获取页面请求对应的页面数据,包括:确定Redis数据库中是否存在页面请求对应的页面数据;当Redis数据库中存在页面请求对应的页面数据时,在Redis数据库中获取页面请求对应的页面数据;当Redis数据库中不存在页面请求对应的页面数据时,在总数据库中获取页面请求对应的页面数据。
在总数据库中获取页面请求对应的页面数据之后,会将页面请求对应的页面数据缓存至Redis数据库,以便下次可以在Redis数据库中查找该页面数据,能够节省数据获取时间。Redis数据库中的页面数据也可以设置有效期,Redis数据库会定时清除超过有限期的页面数据。
进一步的,当Redis数据库中不存在页面请求对应的页面数据时,为Redis数据库加锁;在将页面请求对应的页面数据缓存至Redis数据库时,为Redis数据库解锁。
为了减轻Redis数据库的访问压力,在Redis数据库中不存在页面请求对应的页面数据时,会为Redis数据库加锁,加锁后的Redis数据库不响应任何访问请求。Redis数据库加锁后,会在总数据库中获取页面请求对应的页面数据,并将页面请求对应的页面数据缓存至Redis数据库,再为Redis数据库解锁,以便Redis数据库接收下一个页面请求。
进一步,在CDN中获取页面请求对应的页面数据,包括:确定距离客户端最近的CDN中是否存在页面请求对应的页面数据;当距离客户端最近的CDN中存在页面请求对应的页面数据时,在距离客户端最近的CDN中获取页面请求对应的页面数据;当距离客户端最近的CDN中不存在页面请求对应的页面数据时,在主CDN中获取页面请求对应的页面数据。
其中,客户端或数据库中仅缓存图片的编号,查找图片时,需要根据图片的编号在CDN中调用图片的数据信息。主CDN中包含所有图片数据,其余CDN中不一定包含全部的图片数据,获取页面数据(图片数据)时,会优先确定距离客户端最近的CDN中是否存在页面请求对应的页面数据,如若距离客户端最近的CDN中存在页面请求对应的页面数据,将在距离客户端最近的CDN中获取页面请求对应的页面数据,旨在节省获取数据的时间、减少主CDN的工作量。
具体的,从主CDN中获取页面请求对应的页面数据后,会将该页面数据同步至距离客户端最近的CDN中,以便下次可以在距离客户端最近的CDN中查找该页面数据,也可以节省数据获取时间和主CDN的工作量。
具体的,修改图片时会生成新的编号,需要向CDN同步新图片和新编号,不需要更新旧图片。若客户端或数据库需要调用新图片,将会向距离客户端最近的CDN发送新图片的编号。
S204、在客户端的预设界面中展示页面数据。
具体的,在客户端的预设界面中展示页面数据可以包括:基于页面数据生成展示页面,在客户端的预设界面中展示生成的展示页面。展示页面可以是H5页面,包括商品的初步信息页面、商品的详细参数页面、商品的图片信息页面等。其中,初步信息页面的数据可以缓存于客户端,商品的详细参数页面的数据可以缓存于数据库,商品的图片信息页面的数据可以缓存于内容分发网络CDN。
本发明实施例的技术方案,通过确定页面数据的数据类型;根据数据类型将页面数据缓存至客户端、数据库或者内容分发网络CDN;接收到页面请求后,根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取页面请求对应的页面数据;在客户端的预设界面中展示页面数据。可以根据低实时性数据、高访问性数据和大容量性数据等数据类型将数据缓存在客户端、数据库和CDN等不同的位置,再根据页面请求的初始请求、中间请求和详细请求等请求类型确定需要获取的数据所在的位置,直接在数据对应的缓存位置获取页面请求对应的页面数据,能够减少查找数据的时间,提高数据获取效率和预设界面的数据刷新速度。解决了数据实时性差、更新缓存代价高,以及由于数据获取不及时造成的页面无法完成渲染和页面刷新效果差的问题。
实施例三
图3是本发明实施例三提供的一种数据处理装置的结构示意图。如图3所示,该装置包括:缓存模块301,确定模块302和展示模块303。
缓存模块301,用于确定页面数据的数据类型,根据数据类型将页面数据缓存至客户端、数据库或者内容分发网络CDN。
确定模块302,用于接收到页面请求后,根据页面请求的请求类型确定页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取页面请求对应的页面数据。
展示模块303,用于在客户端的预设界面中展示页面数据。
可选的,缓存模块301,具体用于当数据类型为低实时性数据时,将页面数据缓存至客户端;当数据类型为高访问性数据时,将页面数据缓存至数据库;当数据类型为大容量性数据时,将页面数据缓存至CDN。
可选的,确定模块302,具体用于当页面请求的请求类型为初始请求时,确定页面请求对应的页面数据缓存在客户端,并在客户端中获取页面请求对应的页面数据;当页面请求的请求类型为中间请求时,确定页面请求对应的页面数据缓存在数据库,并在数据库中获取页面请求对应的页面数据;当页面请求的请求类型为详细请求时,确定页面请求对应的页面数据缓存在CDN,并在CDN中获取页面请求对应的页面数据。
可选的,数据库包括总数据库和Redis数据库。
可选的,确定模块302,具体用于确定Redis数据库中是否存在页面请求对应的页面数据;当Redis数据库中存在页面请求对应的页面数据时,在Redis数据库中获取页面请求对应的页面数据;当Redis数据库中不存在页面请求对应的页面数据时,在总数据库中获取页面请求对应的页面数据。
可选的,确定模块302,还用于在总数据库中获取页面请求对应的页面数据之后,将页面请求对应的页面数据缓存至Redis数据库。
可选的,确定模块302,还用于当Redis数据库中不存在页面请求对应的页面数据时,为Redis数据库加锁;在将页面请求对应的页面数据缓存至Redis数据库时,为Redis数据库解锁。
可选的,确定模块302,具体用于确定距离客户端最近的CDN中是否存在页面请求对应的页面数据;当距离客户端最近的CDN中存在页面请求对应的页面数据时,在距离客户端最近的CDN中获取页面请求对应的页面数据;当距离客户端最近的CDN中不存在页面请求对应的页面数据时,在主CDN中获取页面请求对应的页面数据。
本实施例所提供的数据处理装置可执行本发明任意实施例所提供的数据处理方法,具备执行方法相应的功能模块和有益效果。
实施例四
图4是本发明实施例四提供的一种电子设备的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图4所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如数据处理方法。
在一些实施例中,数据处理方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的数据处理方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种数据处理方法,其特征在于,包括:
确定页面数据的数据类型,根据所述数据类型将所述页面数据缓存至客户端、数据库或者内容分发网络CDN;
接收到页面请求后,根据页面请求的请求类型确定所述页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取所述页面请求对应的页面数据;
在客户端的预设界面中展示页面数据。
2.根据权利要求1所述的方法,其特征在于,所述根据所述数据类型将所述页面数据缓存至客户端、数据库或者CDN,包括:
当所述数据类型为低实时性数据时,将所述页面数据缓存至客户端;
当所述数据类型为高访问性数据时,将所述页面数据缓存至数据库;
当所述数据类型为大容量性数据时,将所述页面数据缓存至CDN。
3.根据权利要求1所述的方法,其特征在于,所述根据页面请求的请求类型确定所述页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取所述页面请求对应的页面数据,包括:
当所述页面请求的请求类型为初始请求时,确定所述页面请求对应的页面数据缓存在客户端,并在客户端中获取所述页面请求对应的页面数据;
当所述页面请求的请求类型为中间请求时,确定所述页面请求对应的页面数据缓存在数据库,并在数据库中获取所述页面请求对应的页面数据;
当所述页面请求的请求类型为详细请求时,确定所述页面请求对应的页面数据缓存在CDN,并在CDN中获取所述页面请求对应的页面数据。
4.根据权利要求3所述的方法,其特征在于,所述数据库包括总数据库和Redis数据库;
相应的,所述在数据库中获取所述页面请求对应的页面数据,包括:
确定所述Redis数据库中是否存在所述页面请求对应的页面数据;
当所述Redis数据库中存在所述页面请求对应的页面数据时,在所述Redis数据库中获取所述页面请求对应的页面数据;
当所述Redis数据库中不存在所述页面请求对应的页面数据时,在所述总数据库中获取所述页面请求对应的页面数据。
5.根据权利要求4所述的方法,其特征在于,所述在所述总数据库中获取所述页面请求对应的页面数据之后,还包括:
将所述页面请求对应的页面数据缓存至所述Redis数据库。
6.根据权利要求5中所述的方法,其特征在于,还包括:
当所述Redis数据库中不存在所述页面请求对应的页面数据时,为所述Redis数据库加锁;
在将所述页面请求对应的页面数据缓存至所述Redis数据库时,为所述Redis数据库解锁。
7.根据权利要求3所述的方法,其特征在于,所述在CDN中获取所述页面请求对应的页面数据,包括:
确定距离所述客户端最近的CDN中是否存在所述页面请求对应的页面数据;
当距离所述客户端最近的CDN中存在所述页面请求对应的页面数据时,在距离所述客户端最近的CDN中获取所述页面请求对应的页面数据;
当距离所述客户端最近的CDN中不存在所述页面请求对应的页面数据时,在主CDN中获取所述页面请求对应的页面数据。
8.一种数据处理装置,其特征在于,包括:
缓存模块,用于确定页面数据的数据类型,根据所述数据类型将所述页面数据缓存至客户端、数据库或者内容分发网络CDN;
确定模块,用于接收到页面请求后,根据页面请求的请求类型确定所述页面请求对应的页面数据缓存在客户端、数据库或者CDN中,并在客户端、数据库或者CDN中获取所述页面请求对应的页面数据;
展示模块,用于在客户端的预设界面中展示页面数据。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的数据处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211529290.XA CN115878245A (zh) | 2022-11-30 | 2022-11-30 | 一种数据处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211529290.XA CN115878245A (zh) | 2022-11-30 | 2022-11-30 | 一种数据处理方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115878245A true CN115878245A (zh) | 2023-03-31 |
Family
ID=85765240
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211529290.XA Pending CN115878245A (zh) | 2022-11-30 | 2022-11-30 | 一种数据处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115878245A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117668003A (zh) * | 2024-02-01 | 2024-03-08 | 福建省华大数码科技有限公司 | 实现数据库中集合数据类型的数据处理方法及系统 |
-
2022
- 2022-11-30 CN CN202211529290.XA patent/CN115878245A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117668003A (zh) * | 2024-02-01 | 2024-03-08 | 福建省华大数码科技有限公司 | 实现数据库中集合数据类型的数据处理方法及系统 |
CN117668003B (zh) * | 2024-02-01 | 2024-05-03 | 福建省华大数码科技有限公司 | 实现数据库中集合数据类型的数据处理方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105205014B (zh) | 一种数据存储方法和装置 | |
CN109240946A (zh) | 数据的多级缓存方法及终端设备 | |
CN110784498B (zh) | 一种个性化数据容灾方法及装置 | |
CN107911799B (zh) | 一种利用智能路由的方法 | |
EP3049940B1 (en) | Data caching policy in multiple tenant enterprise resource planning system | |
CN115878245A (zh) | 一种数据处理方法、装置、电子设备及存储介质 | |
US20220035794A1 (en) | Data retrieval via incremental updates to graph data structures | |
CN109299041A (zh) | 一种图片缓存清理方法及终端设备 | |
CN110020373A (zh) | 静态页面存储、浏览的方法和装置 | |
US8533398B2 (en) | Combination based LRU caching | |
US20210173838A1 (en) | Intelligent sharing pagination mechanism adaptive to huge data | |
CN114564149B (zh) | 一种数据存储方法、装置、设备及存储介质 | |
CN115357622A (zh) | 基于热点数据的业务处理方法及服务器 | |
CN115905322A (zh) | 业务处理方法、装置、电子设备及存储介质 | |
CN112631517B (zh) | 数据存储方法、装置、电子设备和存储介质 | |
CN110858199A (zh) | 一种单据数据分布式计算的方法和装置 | |
CN113676531A (zh) | 电商流量削峰方法、装置、电子设备及可读存储介质 | |
CN114143590A (zh) | 一种视频播放方法、服务器及存储介质 | |
CN113076067A (zh) | 淘汰缓存数据的方法和装置 | |
CN112819490A (zh) | 一种预告秒杀广告的装置和方法 | |
CN117632885B (zh) | 一种回溯系统中的资源同步方法、装置、设备及介质 | |
US20240171827A1 (en) | Bullet-screen comment processing method and system | |
CN116541145A (zh) | 数据调用方法、装置、计算机设备和计算机存储介质 | |
CN118115203A (zh) | 虚拟资产的处理方法、装置、设备及计算机可读存储介质 | |
CN115982140A (zh) | 数据处理方法、装置、设备以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |