CN114065001B - 数据处理方法、装置、设备以及存储介质 - Google Patents
数据处理方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN114065001B CN114065001B CN202111445869.3A CN202111445869A CN114065001B CN 114065001 B CN114065001 B CN 114065001B CN 202111445869 A CN202111445869 A CN 202111445869A CN 114065001 B CN114065001 B CN 114065001B
- Authority
- CN
- China
- Prior art keywords
- data
- cache
- detection period
- determining
- request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/957—Browsing optimisation, e.g. caching or content distillation
- G06F16/9574—Browsing optimisation, e.g. caching or content distillation of access to content, e.g. by caching
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本公开提供了一种数据处理方法、装置、设备以及存储介质,涉及计算机技术领域,尤其涉及网页搜索、数据挖掘和机器学习技术领域。具体实现方案为:以预定时长为检测周期,周期性检测针对第一数据的请求量;响应于检测到一个检测周期内对于第一数据的请求量超过请求量阈值,将第一数据写入缓存中;确定与第一数据相关的第二数据;以及将第二数据写入所述缓存中。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及网页搜索、数据挖掘和机器学习技术领域。
背景技术
随着互联网的发展,互联网用户每天会产生大量的数据请求。为了保障用户的数据请求能够得到满足,服务提供方(例如搜索引擎、各类应用程序等)会收录互联网中大量的数据资源,以保障数据的覆盖率。这一过程消耗了大量的存储和处理资源。
发明内容
本公开提供了一种数据处理方法、装置、设备以及存储介质。
根据本公开的一方面,提供了一种数据处理方法,包括:以预定时长为检测周期,周期性检测针对第一数据的请求量;响应于检测到一个检测周期内对于所述第一数据的请求量超过请求量阈值,将所述第一数据写入缓存中;确定与所述第一数据相关的第二数据;以及将所述第二数据写入所述缓存中。
根据本公开的另一方面,提供了一种数据处理装置,包括:检测模块,用于以预定时长为检测周期,周期性检测针对第一数据的请求量;第一写入模块,用于响应于检测到一个检测周期内对于所述第一数据的请求量超过请求量阈值,将所述第一数据写入缓存中;确定模块,用于确定与所述第一数据相关的第二数据;以及第二写入模块,用于将所述第二数据写入所述缓存中。
本公开的另一个方面提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开实施例所示的方法。
根据本公开实施例的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行本公开实施例所示的方法。
根据本公开实施例的另一方面,提供了一种计算机程序产品,包括计算机程序/指令,其特征在于,该计算机程序/指令被处理器执行时实现本公开实施例所示方法的步骤。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例的数据处理方法、装置、电子设备和存储介质的应用场景示意图;
图2示意性示出了根据本公开的实施例的数据处理方法的流程图;
图3示意性示出了根据本公开另一实施例的数据处理方法的流程图;
图4示意性示出了根据本公开实施例的请求量变化示意图;
图5示意性示出了根据本公开的实施例的数据处理方法的流程图;
图6示意性示出了根据本公开另一实施例的数据处理方法的示意图;
图7示意性示出了根据本公开实施例的数据处理装置的框图;以及
图8示意性示出了可以用来实施本公开的实施例的示例电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
以下将结合图1对本公开提供的方法和装置的应用场景进行描述。
图1是根据本公开实施例的数据处理方法、装置、电子设备和存储介质的应用场景示意图。需要注意的是,图1所示仅为可以应用本公开实施例的应用场景的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的应用场景100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
服务器105可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(Virtual Private Server,或简称VPS)中,存在的管理难度大,业务扩展性弱的缺陷。服务器105也可以为分布式系统的服务器,或者是结合了区块链的服务器。
根据本公开的实施例,服务器105可以以预定时长对为检测周期,周期性检测针对各个数据的请求量。若检测到一个检测周期内对于某个数据的请求量超过请求量阈值,则表示确定该数据近期被请求的频率较高,为高频数据。因此可以将该数据写入缓存(cache)中,从而再次接到针对该数据的请求时,可以从缓存中读取,提高了读取速度。
另外,与该数据相关的数据有较大几率在未来一段时间内成为高频数据,因此,还可以确定与该高频数据相关的数据,并将这些相关的数据写入缓存中,从而可以提高数据读取速度。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
图2示意性示出了根据本公开的实施例的数据处理方法的流程图。
如图2所示,该数据处理方法200包括在操作S210,以预定时长为检测周期,周期性检测针对第一数据的请求量。
然后,响应于检测到一个检测周期内对于第一数据的请求量超过请求量阈值,执行操作S220~S240。
其中,在操作S220,将第一数据写入缓存中。
在操作S230,确定与第一数据相关的第二数据。
在操作S240,将第二数据写入缓存中。
根据本公开的实施例,可以预先设置需要检测请求量的数据,即第一数据。示例性地,可以预先将重要度较高的数据设置为预设数据。对于预设数据全量预存至缓存中。而对于预设数据之外的数据,可以周期性地检测请求量,根据请求量将数据写入缓存中。
根据本公开的实施例,若检测到一个检测周期内对于第一数据的请求量超过请求量阈值,则表示确定该第一数据近期被请求的频率较高。通过将第一数据写入缓存中,在后续获取到针对该数据的请求时,可以从缓存中读取第一数据,从而提高了第一数据的读取速度。
根据本公开的实施例,第二数据例如可以为与第一数据相关的数据。由于第一数据已被检测为高频数据,而第二数据与第一数据相关,因此有较高概率成为高频数据。
根据本公开的实施例,例如可以确定与第一数据具有同类主题的数据,作为第二数据。示例性地,可以通过计算两个数据之间的文本相似度来判断两个数据是否属于同一主题。若相似度高于相似度阈值,则确定两个数属于同一主题。其中,相似度阈值可以根据实际需要确定。
根据本公开的另一实施例,例如还可以确定与第一数据对应的话题,然后确定第一数据之外与话题对应的数据,作为第二数据。示例性地,可以通过计算第一数据与各话题之间的匹配度来确定与第一数据对应的话题。若第一数据与话题之间的匹配度高于匹配度阈值,则确定该话题与第一数据对应。其中,匹配度阈值可以根据实际需要确定。同理,可以通过计算其他数据与话题之间的匹配度来确定第一数据之外与该话题对应的第二数据。
根据本公开的另一实施例,例如还可以确定第一数据的网络地址。然后根据网络地址,确定与第一数据关联的数据,作为第二数据。其中,网络地址可以包括URL(UniformResource Locator,资源定位符)。示例性地,以第一数据为页面数据为例,可以根据页面数据的URL,确定与第一数据同属一个网站但对应不同页面的页面数据,作为第二数据。
根据本公开的实施例,通过筛选请求频率较高的第一数据以及与第一数据相关的第二数据,并将第一数据和第二数据存储至缓存中,相对于将数据全量存储至缓存中的方案,节约了缓存资源,使得处理数据请求时更为高效。
根据本公开的实施例,针对第一数据的检测周期的长度,即预定时长可以根据实际需要设置。根据本公开的另一些实施例,也可以根据第一数据的类型和/或与第一数据对应的话题,确定预定时长。例如,若第一数据属于高时效性消息类型,则可以将预定时长设置得较短,例如可以设置为1天,若第一数据属于低时效性消息类型,则可以将预定时长设置得较长,例如3天。又例如,对于对应于高热度话题的第一数据,可以将预定时长设置得较长,例如可以设置为1个月,对于对应于低热度话题的第一数据,可以将预定时长设置得较短,例如可以设置为1天。
根据本公开的实施例,根据第一数据的类型和/或与第一数据对应的话题来确定预定时长,可以减少检测频率,提高数据处理效率。
根据本公开的另一些实施例,在对数据进行检测前,还可以对数据进行异常清洗处理,以过滤掉无价值数据。基于此,可以获取原始数据,然后确定原始数据是否异常。在原始数据没有异常的情况下,确定原始数据作为第一数据。例如,针对网页数据,可以确定网页数据的URL所指示的数据是否有效。若网页数据的URL所指示的数据是无效的,则可以将该网页数据过滤掉。
图3示意性示出了根据本公开另一实施例的数据处理方法的流程图。
如图3所示,该数据处理方法300包括在操作S310,以预定时长为检测周期,周期性检测针对第一数据的请求量。
然后,响应于检测到一个检测周期内对于第一数据的请求量超过请求量阈值,执行操作S320~S340。
其中,在操作S320,将第一数据写入缓存中。
在操作S330,确定与第一数据相关的第二数据。
在操作S340,将第二数据写入缓存中。
在操作S350,响应于检测到第一数据在一个检测周期内的请求量低于请求量阈值且呈下降趋势,删除缓存中的第一数据。
在操作S360,响应于检测到第二数据在一个检测周期内的请求量低于请求量阈值且呈下降趋势,删除缓存中的第二数据。
根据本公开的实施例,操作S310~S340例如可以参考上文,在此不再赘述。
根据本公开的实施例,在数据(包括第一数据或第二数据)的请求量在当前检测周期内的最高值小于上一检测周期内的最高值,且当前检测周期内的最低值小于上一检测周期内的最低值的情况下,可以确定该数据的请求频率呈下降趋势。
在数据的请求量在当前检测周期内的最高值大于上一检测周期内的最高值,且当前检测周期内的最低值大于上一检测周期内的最低值的情况下,可以确定该数据的请求频率呈上升趋势。
根据本公开的实施例,请求量阈值可以预先根据实际需要设置。根据本公开的另一些实施例,也可以获取缓存的占用率。然后可以根据缓存的占用率,动态调节请求量阈值。例如,在缓存的占用率较低时,可以设置较高的请求量阈值,在缓存的占用率较高时,可以设置较低的请求量阈值。
根据本公开的实施例,对于缓存中的数据,可以根据数据的请求量变化,将请求频率变低的数据移出缓存,从而可以节约缓存资源,使得处理数据请求时更为高效。
图4示意性示出了根据本公开实施例的请求量变化示意图。本领域技术人员可以理解,以下示例实施例仅用于理解本公开,本公开并不局限于此。
如图4所示,在检测周期41,数据的请求量超过请求量阈值,因此,可以将数据写入缓存中。然后在检测周期42、43,数据的请求量均呈上升趋势,因此继续在缓存中存储数据。接着在检测周期44、45,数据的请求量均呈下降趋势,但还未低于请求量阈值。而在检测周期46,数据的请求量呈下降趋势且低于了请求量阈值,因此,可以将该数据从缓存中删除,以节省缓存空间。
图5示意性示出了根据本公开的实施例的数据处理方法的流程图。
如图5所示,该数据处理方法500包括在操作S510,以预定时长为检测周期,周期性检测针对第一数据的请求量。
然后,响应于检测到一个检测周期内对于第一数据的请求量超过请求量阈值,执行操作S520~S540。
其中,在操作S520,响应于检测到一个检测周期内对于第一数据的请求量超过请求量阈值,将第一数据写入缓存中。
在操作S530,确定与第一数据相关的第二数据。
在操作S540,将第二数据写入缓存中。
在操作S550,响应于检测到第一数据在一个检测周期内的请求量低于请求量阈值且呈下降趋势,删除缓存中的第一数据。
在操作S560,响应于检测到第二数据在一个检测周期内的请求量低于请求量阈值且呈下降趋势,删除缓存中的第二数据。
在操作S570,若在第二数据写入缓存之后的观察时长内,第二数据每个检测周期的请求量未变化或呈下降趋势,则删除缓存中的第二数据。
根据本公开的实施例,操作S510~S560例如可以参考上文,在此不再赘述。
根据本公开的实施例,若在第二数据写入缓存之后的观察时长内,第二数据每个检测周期内的请求量未变化或呈下降趋势,则表示之前对第二数据请求量也会变为高频数据的预判失败。基于此,可以将第二数据从缓存中删除,以释放缓存的空间。其中,观察时长可以根据实际需要设置。示例性地,观察时长可以设置为n个预定时长,其中,n为正整数。
下面参考图6,结合具体实施例对上文所示的数据处理方法做进一步说明。本领域技术人员可以理解,以下示例实施例仅用于理解本公开,本公开并不局限于此。
图6示意性示出了根据本公开另一实施例的数据处理方法的示意图。
在图6中示出了,在操作S610,对数据进行异常清洗处理。
在操作S620,针对异常清洗后的每个数据,以预定时长为检测周期,周期性检测针对数据的请求量。若检测到一个检测周期内对于数据的请求量超过请求量阈值,则执行操作S630。否则执行操作S640。
在操作S630,将该数据作为高频数据写入缓存中。
在操作S640,确定该数据是否与已确定的高频数据相关。若相关,则执行操作S650。否则跳转执行操作S620。
在操作S650,将该数据作为相关数据写入缓存中。
在操作S660,对于缓存中的每个数据(高频数据或相关数据),以预定时长为检测周期,周期性检测针对数据的请求量。每当到达一个检测周期时,执行操作S670。
操作S670,判断数据的在一个检测周期内的请求量是否呈下降趋势。若检测到数据的在一个检测周期内的请求量呈下降趋势,则执行操作S680。否则跳转执行操作S660。
在操作S680,判断数据的在一个检测周期内的请求量是否低于请求量阈值。若检测到数据的在一个检测周期内的请求量低于请求量阈值,则执行操作S690。否则跳转执行操作S660。
在操作S690,将该数据从缓存中删除。
另外,作为一个可选的实施例,对于缓存中的每个相关数据,若在相关数据写入缓存之后的观察时长内,该相关数据每个检测周期的请求量未变化或呈下降趋势,则可以将该相关数据从缓存中删除。
根据本公开的实施例,通过筛选请求频率较高的高频数据以及与高频数据相关的数据,并将这些数据存储至缓存中,可以加快数据的处理速度。另外,对于缓存中的数据,可以根据数据的请求量变化,将请求频率变低的数据移出缓存,从而可以节约缓存资源,使得处理数据请求时更为高效。
图7示意性示出了根据本公开实施例的数据处理装置的框图。
如图7所示,该数据处理装置700包括检测模块710、第一写入模块720、确定模块730和第二写入模块740。
检测模块710,用于以预定时长为检测周期,周期性检测针对第一数据的请求量。
第一写入模块720,用于响应于检测到一个检测周期内对于第一数据的请求量超过请求量阈值,将第一数据写入缓存中。
确定模块730,用于确定与第一数据相关的第二数据。
第二写入模块740,用于将第二数据写入缓存中。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图8示意性示出了可以用来实施本公开的实施例的示例电子设备800的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示,设备800包括计算单元801,其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序,来执行各种适当的动作和处理。在RAM 803中,还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元808,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如数据处理方法。例如,在一些实施例中,数据处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时,可以执行上文描述的数据处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (8)
1.一种数据处理方法,包括:
以预定时长为检测周期,周期性检测针对第一数据的请求量;
响应于检测到一个检测周期内对于所述第一数据的请求量超过请求量阈值,
将所述第一数据写入缓存中;
根据所述第一数据与所述第一数据之外的其他数据之间的文本相似度,确定所述第一数据之外,与所述第一数据具有同类主题的数据;
根据所述第一数据与各话题之间的匹配度,确定与所述第一数据对应的目标话题;
根据所述第一数据之外的其他数据与所述目标话题之间的匹配度,确定所述第一数据之外,与所述第一数据对应相同话题的数据;
确定所述第一数据之外,与所述第一数据对应相同话题的数据,以及与所述第一数据具有同类主题的数据,作为第二数据;以及
将所述第二数据写入所述缓存中;
响应于检测到所述第一数据在一个检测周期内的请求量低于请求量阈值且呈下降趋势,删除所述缓存中的所述第一数据;
响应于检测到所述第二数据在一个检测周期内的请求量低于请求量阈值且呈下降趋势,删除所述缓存中的所述第二数据;以及
若在所述第二数据写入所述缓存之后的观察时长内,所述第二数据每个检测周期的请求量未变化或呈下降趋势,则删除所述缓存中的所述第二数据,
其中,所述方法还包括:根据所述第一数据的时效性和/或与所述第一数据对应的话题的热度,确定所述预定时长。
2.根据权利要求1所述的方法,还包括:
在所述第一数据或所述第二数据的请求量在当前检测周期内的最高值小于上一检测周期内的最高值,且当前检测周期内的最低值小于上一检测周期内的最低值的情况下,确定所述第一数据或所述第二数据的请求频率呈下降趋势。
3.根据权利要求1所述的方法,还包括:
获取原始数据;
确定所述原始数据是否异常;以及
在所述原始数据没有异常的情况下,确定所述原始数据作为所述第一数据。
4.根据权利要求1所述的方法,其中,所述确定与所述第一数据相关的第二数据包括:
确定所述第一数据的网络地址;以及
根据所述网络地址,确定与所述第一数据关联的数据,作为所述第二数据。
5.根据权利要求1所述的方法,还包括:
获取所述缓存的占用率;以及
根据所述缓存的占用率,调节所述请求量阈值。
6.一种数据处理装置,包括:
检测模块,用于以预定时长为检测周期,周期性检测针对第一数据的请求量;
第一写入模块,用于响应于检测到一个检测周期内对于所述第一数据的请求量超过请求量阈值,将所述第一数据写入缓存中;
确定模块,用于根据所述第一数据与所述第一数据之外的其他数据之间的文本相似度,确定所述第一数据之外与所述第一数据对应相同话题的数据;根据所述第一数据与各话题之间的匹配度,确定与所述第一数据对应的目标话题;根据所述第一数据之外的其他数据与所述目标话题之间的匹配度,确定所述第一数据之外与所述第一数据具有同类主题的数据;确定所述第一数据之外,与所述第一数据对应相同话题的数据,以及与所述第一数据具有同类主题的数据,作为第二数据;
第二写入模块,用于将所述第二数据写入所述缓存中;
第一删除模块,用于响应于检测到所述第一数据在一个检测周期内的请求量低于请求量阈值且呈下降趋势,删除所述缓存中的所述第一数据;
第二删除模块,用于响应于检测到所述第二数据在一个检测周期内的请求量低于请求量阈值且呈下降趋势,删除所述缓存中的所述第二数据;以及
第三删除模块,用于若在所述第二数据写入所述缓存之后的观察时长内,所述第二数据每个检测周期的请求量未变化或呈下降趋势,则删除所述缓存中的所述第二数据,
其中,所述检测模块还用于根据所述第一数据的时效性和/或与所述第一数据对应的话题的热度,确定所述预定时长。
7.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
8.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111445869.3A CN114065001B (zh) | 2021-11-29 | 2021-11-29 | 数据处理方法、装置、设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111445869.3A CN114065001B (zh) | 2021-11-29 | 2021-11-29 | 数据处理方法、装置、设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114065001A CN114065001A (zh) | 2022-02-18 |
CN114065001B true CN114065001B (zh) | 2023-03-10 |
Family
ID=80228054
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111445869.3A Active CN114065001B (zh) | 2021-11-29 | 2021-11-29 | 数据处理方法、装置、设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114065001B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105354193A (zh) * | 2014-08-19 | 2016-02-24 | 阿里巴巴集团控股有限公司 | 数据库数据缓存方法、查询方法及缓存装置、查询装置 |
CN107404530A (zh) * | 2017-07-27 | 2017-11-28 | 北京邮电大学 | 基于用户兴趣相似度的社交网络协作缓存方法及装置 |
CN110515990A (zh) * | 2019-07-23 | 2019-11-29 | 华信永道(北京)科技股份有限公司 | 数据查询展示方法及查询展示系统 |
CN112800092A (zh) * | 2021-01-26 | 2021-05-14 | 苏州浪潮智能科技有限公司 | 一种数据缓存管理方法、装置、设备及可读存储介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2459494A (en) * | 2008-04-24 | 2009-10-28 | Symbian Software Ltd | A method of managing a cache |
CN102110065B (zh) * | 2011-02-21 | 2012-09-19 | 山东华芯半导体有限公司 | 一种减少数据传输的缓存系统 |
CN102541757B (zh) * | 2011-11-30 | 2014-11-05 | 华为技术有限公司 | 写缓存方法、缓存同步方法和装置 |
CN103312776A (zh) * | 2013-05-08 | 2013-09-18 | 青岛海信传媒网络技术有限公司 | 边缘节点服务器缓存视频的内容的方法和装置 |
-
2021
- 2021-11-29 CN CN202111445869.3A patent/CN114065001B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105354193A (zh) * | 2014-08-19 | 2016-02-24 | 阿里巴巴集团控股有限公司 | 数据库数据缓存方法、查询方法及缓存装置、查询装置 |
CN107404530A (zh) * | 2017-07-27 | 2017-11-28 | 北京邮电大学 | 基于用户兴趣相似度的社交网络协作缓存方法及装置 |
CN110515990A (zh) * | 2019-07-23 | 2019-11-29 | 华信永道(北京)科技股份有限公司 | 数据查询展示方法及查询展示系统 |
CN112800092A (zh) * | 2021-01-26 | 2021-05-14 | 苏州浪潮智能科技有限公司 | 一种数据缓存管理方法、装置、设备及可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114065001A (zh) | 2022-02-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108984553B (zh) | 缓存方法和装置 | |
CN112527649A (zh) | 一种测试用例的生成方法和装置 | |
CN113765873A (zh) | 用于检测异常访问流量的方法和装置 | |
CN115470432A (zh) | 一种页面渲染方法、装置、电子设备及计算机可读介质 | |
CN113205189B (zh) | 训练预测模型的方法、预测方法及装置 | |
CN113761565B (zh) | 数据脱敏方法和装置 | |
CN113760982A (zh) | 一种数据处理方法和装置 | |
CN114065001B (zh) | 数据处理方法、装置、设备以及存储介质 | |
CN116955817A (zh) | 内容推荐方法、装置、电子设备以及存储介质 | |
CN116545905A (zh) | 一种服务健康检测方法、装置、电子设备及存储介质 | |
CN116796085A (zh) | 一种文件处理方法、装置、电子设备及存储介质 | |
CN113676531B (zh) | 电商流量削峰方法、装置、电子设备及可读存储介质 | |
CN112887426B (zh) | 信息流的推送方法、装置、电子设备以及存储介质 | |
CN113656731A (zh) | 广告页面的处理方法、装置、电子设备和存储介质 | |
CN114138358A (zh) | 应用程序的启动优化方法、装置、设备和存储介质 | |
CN113722193A (zh) | 检测页面异常的方法和装置 | |
CN113986135A (zh) | 处理请求的方法、装置、设备以及存储介质 | |
CN113449230A (zh) | 一种确定曝光元素的方法和系统以及客户端和服务端 | |
CN112862554A (zh) | 一种订单数据的处理方法和装置 | |
CN114500438B (zh) | 文件共享方法、装置、电子设备及存储介质 | |
US10176248B2 (en) | Performing a dynamic search of electronically stored records based on a search term format | |
CN113626665B (zh) | 一种数据展示的方法和装置 | |
CN113362097B (zh) | 一种用户确定方法和装置 | |
CN114186123A (zh) | 用于热点事件的处理方法、装置、设备及存储介质 | |
CN115510357A (zh) | 一种网络页面盲道的生成方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |