CN111651464B - 数据处理方法、系统及计算设备 - Google Patents
数据处理方法、系统及计算设备 Download PDFInfo
- Publication number
- CN111651464B CN111651464B CN202010296184.6A CN202010296184A CN111651464B CN 111651464 B CN111651464 B CN 111651464B CN 202010296184 A CN202010296184 A CN 202010296184A CN 111651464 B CN111651464 B CN 111651464B
- Authority
- CN
- China
- Prior art keywords
- data
- processing
- type
- cache node
- request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 57
- 238000013500 data storage Methods 0.000 claims abstract description 87
- 238000000034 method Methods 0.000 claims abstract description 59
- 238000012508 change request Methods 0.000 claims abstract description 37
- 230000008569 process Effects 0.000 claims abstract description 19
- 230000004044 response Effects 0.000 abstract description 5
- 238000004891 communication Methods 0.000 description 18
- 238000007781 pre-processing Methods 0.000 description 5
- 230000032683 aging Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000001960 triggered effect Effects 0.000 description 4
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000002715 modification method Methods 0.000 description 2
- 230000007723 transport mechanism Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
- G06F16/235—Update request formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了数据处理方法,在缓存节点执行,所述缓存节点与数据存储设备、消息服务器耦接,所述方法包括:接收数据变更请求;基于所述数据变更请求对数据进行处理,并将处理后的数据存储到数据存储设备;以及基于所述数据变更请求构造消息,并将所构造的消息添加至所述消息服务器的消息队列中,以便由所述消息服务器通过消息队列将所述数据变更请求发送至数据存储设备对应的多个缓存节点,以便每个缓存节点分别对相应数据进行处理。本发明还一并公开了相应的数据处理系统和计算设备。本发明的数据处理方法,能实现分布式系统中的所有本地缓存节点实时更新数据,数据响应速度更快。
Description
技术领域
本发明涉及数据更新技术领域,特别涉及一种数据处理方法、数据处理系统及计算设备。
背景技术
使用本地缓存是提高程序性能的常见优化方法。在请求获取数据时,先向本地缓存请求数据,如果能从本地缓存中获取到数据,则直接返回数据而不用查询数据库,避免了在穿透数据库读取数据时导致的数据响应时间过长的问题,从而有利于提高程序性能。但,由于数据经常会发生变更,因此,本地缓存需要为数据设置缓存时效,当数据超过缓存时效后过期,就不再从本地缓存获取数据,需重新向数据库请求获取数据,并将获取的数据更新到本地缓存。
现有技术中,常见的本地缓存更新数据方式是为数据设置固定的缓存时效,采用这种这种方式的缺点在于,在数据发生变更时,必须在缓存数据过期之后才能从数据库获取新数据,导致缓存数据的更新不能实时生效。例如,如果将缓存时效设置为5分钟,则数据发生变更后最长需要等待5分钟,才可以从数据库获取到最新数据。另外,对于分布式缓存,在数据发生变更时需要更新分布式缓存中的数据,在变更的数据较大时,会导致数据响应时间比较慢,而且,当用户请求缓存数据较为频繁时,也会导致数据响应时间较长,从而影响用户体验。
为此,需要一种数据处理方法来解决上述技术方案中存在的问题。
发明内容
为此,本发明提供一种数据处理方法和数据处理系统,以力图解决或者至少缓解上面存在的问题。
根据本发明的一个方面,提供了一种数据处理方法,在缓存节点执行,所述缓存节点与数据存储设备、消息服务器耦接,所述方法包括:接收数据变更请求;基于所述数据变更请求对数据进行处理,并将处理后的数据存储到数据存储设备;以及基于所述数据变更请求构造消息,并将所构造的消息添加至所述消息服务器的消息队列中,以便由所述消息服务器通过消息队列将所述数据变更请求发送至数据存储设备对应的多个缓存节点,以便每个缓存节点分别对相应数据进行处理。
可选地,在根据本发明的数据处理方法中,所述消息队列包括一个或多个消息,每个消息与一个数据处理请求相对应,所述数据处理请求包括数据类型、主键值和处理类型。
可选地,在根据本发明的数据处理方法中,还包括步骤:从所述消息服务器的消息队列中接收消息,并确定与所接收的消息相对应的数据处理请求;根据所述数据处理请求的处理类型,对与所述数据处理请求的数据类型相对应的数据进行处理。
可选地,在根据本发明的数据处理方法中,所述根据处理类型对与所述数据类型相对应的数据进行处理的步骤包括:基于所述处理类型获取相应的处理方法;基于所述处理方法,对与所述数据类型相对应的数据进行处理。
可选地,在根据本发明的数据处理方法中,所述处理类型包括删除数据、添加数据、修改数据,以及对与所述数据处理请求的数据类型相对应的数据进行处理的步骤包括;如果所述处理类型是删除数据,则确定所述数据处理请求对应的主键值,并删除与所述主键值和数据类型相对应的数据。
可选地,在根据本发明的数据处理方法中,对与所述数据处理请求的数据类型相对应的数据进行处理的步骤还包括:如果所述处理类型是添加数据或修改数据,则删除与所述数据类型相对应的全部数据,以便在接收到用户对相应数据的查询请求时,触发向数据存储设备请求获取数据、并存储数据。
可选地,在根据本发明的数据处理方法中,在将处理后的数据存储到数据存储设备中之前,包括步骤:获取存储数据的方法。
可选地,在根据本发明的数据处理方法中,向数据存储设备请求获取数据的步骤包括:向数据存储设备请求获取读写锁的写锁,如果获取写锁成功,则判断所述缓存节点是否存储有相应数据,如果确定所述缓存节点没有存储相应数据,则从所述数据存储设备获取数据。
可选地,在根据本发明的数据处理方法中,向数据存储设备请求获取数据的步骤还包括:如果获取写锁失败,则向数据存储设备请求获取读写锁的读锁;如果获取读锁成功,则从所述缓存节点获取数据。
根据本发明的一个方面,提供了一种数据处理系统,数据存储设备;消息服务器,包括消息队列,所述消息队列适于添加基于数据变更请求构造的消息;以及与数据存储设备耦接的一个或多个缓存节点,所述缓存节点与消息服务器耦接,每个缓存节点适于执行如权利要求1-9任一项所述的数据处理方法。
可选地,在根据本发明的数据处理系统中,所述消息队列包括一个或多个消息,每个消息与一个数据处理请求相对应,所述数据处理请求包括数据类型、主键值和处理类型。
可选地,在根据本发明的数据处理系统中,所述缓存节点适于从所述消息服务器的消息队列中接收消息,确定与所接收的消息相对应的数据处理请求;并适于根据所述数据处理请求的处理类型,对与所述数据处理请求的数据类型相对应的数据进行处理。
可选地,在根据本发明的数据处理系统中,所述缓存节点进一步适于:基于所述处理类型获取相应的处理方法;基于所述处理方法,对与所述数据类型相对应的数据进行处理。
可选地,在根据本发明的数据处理系统中,所述处理类型包括删除数据、添加数据、修改数据;所述缓存节点适于在确定所述处理类型是删除数据时,确定所述数据处理请求对应的主键值,并删除与所述主键值和数据类型相对应的数据。
可选地,在根据本发明的数据处理系统中,所述缓存节点适于在确定所述处理类型是添加数据或修改数据时,删除与所述数据类型相对应的全部数据,以便在接收到用户对相应数据的查询请求时,触发向数据存储设备请求获取数据、并存储数据。
可选地,在根据本发明的数据处理系统中,所述缓存节点适于在将处理后的数据存储到数据存储设备中之前,获取存储数据的方法。
可选地,在根据本发明的数据处理系统中,所述缓存节点进一步适于:向数据存储设备请求获取读写锁的写锁,在获取写锁成功时,判断缓存节点是否存储有相应数据,并在确定所述缓存节点没有存储相应数据时,从所述数据存储设备获取数据。
可选地,在根据本发明的数据处理系统中,所述缓存节点还适于:在获取写锁失败时,向数据存储设备请求获取读写锁的读锁,在获取读锁成功时,从所述缓存节点获取数据。
根据本发明的一个方面,提供了一种计算设备,包括:至少一个处理器;以及存储器,存储有程序指令,其中,所述程序指令被配置为适于由所述至少一个处理器执行,所述程序指令包括用于执行如上所述的数据处理方法的指令。
根据本发明的一个方面,提供了一种存储有程序指令的可读存储介质,当所述程序指令被计算设备读取并执行时,使得所述计算设备执行如上所述方法。
根据本发明的技术方案,提供了一种数据处理方法,是基于分布式系统中的本地缓存的数据处理和更新。分布式系统中的每个缓存节点均可以执行数据处理方法。每个缓存节点与相应的数据存储设备耦接,且每个缓存节点均耦接到消息服务器。当用户在任意一个客户端请求变更缓存节点中的数据时,该缓存节点基于数据变更请求对数据进行处理,并将处理后的数据存储到数据存储设备。并且,该缓存节点还基于数据变更请求构造消息,将所构造的消息添加至消息服务器的消息队列中,通过消息队列将数据变更请求发送至分布式系统中的多个客户端对应的多个缓存节点,这样,分布式系统中的每个本地缓存节点均可以对相应数据进行处理,能实现对每个本地缓存节点的数据进行更新。
基于本发明的技术方案,一方面基于本地缓存,数据响应速度更快,能够满足性能要求较高的业务需求。另一方面,分布式系统中的所有缓存节点能够实时更新数据,避免了对本地缓存中设置固定的缓存时效的数据更新延迟现象。
附图说明
为了实现上述以及相关目的,本文结合下面的描述和附图来描述某些说明性方面,这些方面指示了可以实践本文所公开的原理的各种方式,并且所有方面及其等效方面旨在落入所要求保护的主题的范围内。通过结合附图阅读下面的详细描述,本公开的上述以及其它目的、特征和优势将变得更加明显。遍及本公开,相同的附图标记通常指代相同的部件或元素。
图1示出了根据本发明一个实施例的数据处理系统100的示意图;
图2示出了根据本发明一个实施例的计算设备200的示意图;以及
图3示出了根据本发明一个实施例的数据处理方法300的流程图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
图1示出了根据本发明一个实施例的数据处理系统100的示意图。
如图1所示,数据处理系统100包括多个数据存储设备120、多个客户端200以及消息服务器130。多个数据存储设备120组成分布式系统。每个客户端200包括缓存节点150,每个数据存储设备120与一个或多个客户端200的一个或多个缓存节点150相对应。每个缓存节点150与相应的数据存储设备120通信连接,并且,每个缓存节点150还与消息服务器130通信连接。消息服务器130包括消息队列,消息队列适于存放一个或多个消息。
其中,客户端200即用户所使用的终端设备,其具体可以是桌面电脑、笔记本电脑等个人计算机,也可以是手机、平板电脑、多媒体设备、智能可穿戴设备等,但不限于此。
在一个实施例中,客户端200中可以安装一个或多个应用,其中的一个应用包括缓存节点150,缓存节点150通过客户端设备提供的通信功能耦接到数据存储设备120,以便与数据存储设备120通信。
数据存储设备120用于存储和管理数据,并用于向缓存节点150提供数据请求服务。数据存储设备120可以实现为现有技术中的任何一种能够实现为客户端200提供数据请求服务的服务器,本发明对服务器的具体种类不作限制。多个数据存储设备120可以以分布式结构设置于多个地理位置处。这里,本发明对各个数据存储设备120的具体部署、配置情况不做限制。
在一个实施例中,缓存节点150例如是Redis缓存,但不限于此。缓存节点150可以向数据存储设备120请求获取数据,并可以将获取的数据存储到缓存节点150中。
在一个实施例中,消息服务器130例如是RabbitMQ,但,本发明对消息服务器130的具体种类不做限制。
在本发明的实施例中,缓存节点150适于执行数据处理方法。本发明的数据处理方法将在下文中详述。
在根据本发明的实施例中,在用户在任意一个客户端200请求变更缓存节点150中的数据时,该客户端200中的缓存节点150会接收用户的数据变更请求。进而,该缓存节点150基于数据变更请求对数据进行处理,并将处理后的数据存储到该缓存节点150对应的数据存储设备120中。
在一个实施例中,在存储数据之前,缓存节点150会调用一个数据预处理方法(例如handle),基于数据预处理方法对所要存储的数据进行预处理,例如对数据进行序列化预处理。进而,获取存储数据的方法,并基于存储数据的方法将处理后的数据存储到数据存储设备120中。
在根据本发明的实施例中,缓存节点150会基于接收到的数据变更请求构造消息,并将所构造的消息添加至消息服务器130的消息队列中。由消息服务器130通过消息队列将数据变更请求发送至多个数据存储设备120对应的多个缓存节点150,以便每个缓存节点150分别对相应数据进行处理,实现对每个缓存节点的数据进行更新。
需要说明的是,其他缓存节点150在接收到数据变更请求时,也会基于数据变更请求对数据进行处理,并将处理后的数据存储到其他缓存节点对应的数据存储设备120中。而且,其他缓存节点150也会基于数据变更请求构造消息,并将所构造的消息添加至消息服务器130的消息队列中。
在一个实施例中,消息队列包括一个或多个消息,每个消息与一个数据处理请求相对应。数据处理请求包括数据类型、主键值和处理类型。数据处理请求的处理类型包括删除数据、添加数据或修改数据。
在根据本发明的实施例中,缓存节点150也可以从消息服务器130的消息队列中、接收其他缓存节点150基于数据变更请求构造的消息,并确定与所接收的消息相对应的数据处理请求。进而,确定该数据处理请求中的处理类型,并根据该数据处理请求的处理类型、对与数据处理请求的数据类型相对应的缓存数据进行处理。
例如,消息队列中一个消息的内容为[“Subject”,“1”,“修改”],则该消息对应的数据处理请求的数据类型名称为“Subject”,主键值为“1”,处理类型为修改数据。
在一个实施例中,缓存节点150在确定数据处理请求中的处理类型之后,先基于处理类型获取相应的处理方法,例如调用修改方法update(Subject subject)。进而,基于获取的处理方法,对与数据处理请求的数据类型相对应的缓存数据进行处理。
在一个实施例中,当缓存节点150确定数据处理请求的处理类型是删除数据时,会进一步确定该数据处理请求对应的主键值和数据类型,并删除缓存节点中与该主键值及数据类型均相对应的数据。
当缓存节点150确定数据处理请求的处理类型是添加数据或修改数据时,会确定该数据处理请求对应的数据类型,并删除与数据类型相对应的全部数据。这样,当用户下一次在客户端200对相应数据进行查询时,基于查询方法会先从缓存节点150查找相应数据。缓存节点150在接收到用户对数据的查询请求时,由于该缓存节点150中的数据为空,因此会触发从数据存储设备120获取数据的方法,即是触发向数据存储设备120请求获取相应的数据,并将获取的数据存储在缓存节点150。
在一个实施例中,为了避免多个数据请求同时发送到数据存储设备120,缓存节点150在向数据存储设备120请求获取数据时,会先向数据存储设备120请求获取读写锁的写锁。如果获取写锁成功,则还会判断缓存节点是否存储有该数据,以再次确认缓存节点是否不存在相应数据。并在确定缓存节点没有存储相应数据时,再向数据存储设备120请求获取数据。需要说明的是,在从数据存储设备120获取数据之后,还对所获取的数据进行反序列化预处理。进而,将反序列化处理后的数据存储到缓存节点150。
另外,如果获取写锁失败(说明已经有其他缓存节点在向数据存储设备120请求数据),则该客户端200的缓存节点150会向数据存储设备120请求获取读写锁的读锁。如果获取读锁成功,说明获取写锁成功的其他缓存节点的数据请求已成功从数据存储设备120中获取数据并存储在缓存节点中,并且,基于本发明的数据处理方法300,每个缓存节点150也均进行了数据更新、存储有相应数据。故,可以直接从客户端200的缓存节点150获取数据。
在一个实施例中,本发明的客户端200可以实现为一种计算设备,使得本发明的数据处理方法可以在计算设备中执行。图2示出了根据本发明一个实施例的计算设备200的结构图。如图2所示,在基本的配置202中,计算设备200典型地包括系统存储器206和一个或者多个处理器204。存储器总线208可以用于在处理器204和系统存储器206之间的通信。
取决于期望的配置,处理器204可以是任何类型的处理,包括但不限于:微处理器(μP)、微控制器(μC)、数字信息处理器(DSP)或者它们的任何组合。处理器204可以包括诸如一级高速缓存210和二级高速缓存212之类的一个或者多个级别的高速缓存、处理器核心214和寄存器216。示例的处理器核心214可以包括运算逻辑单元(ALU)、浮点数单元(FPU)、数字信号处理核心(DSP核心)或者它们的任何组合。示例的存储器控制器218可以与处理器204一起使用,或者在一些实现中,存储器控制器218可以是处理器204的一个内部部分。
取决于期望的配置,系统存储器206可以是任意类型的存储器,包括但不限于:易失性存储器(诸如RAM)、非易失性存储器(诸如ROM、闪存等)或者它们的任何组合。系统存储器106可以包括操作系统220、一个或者多个应用222以及程序数据224。应用222实际上是多条程序指令,其用于指示处理器204执行相应的操作。在一些实施方式中,应用222可以布置为在操作系统上使得处理器204利用程序数据224进行操作。
计算设备200还可以包括有助于从各种接口设备(例如,输出设备242、外设接口244和通信设备246)到基本配置202经由总线/接口控制器230的通信的接口总线240。示例的输出设备242包括图形处理单元248和音频处理单元250。它们可以被配置为有助于经由一个或者多个A/V端口252与诸如显示器或者扬声器之类的各种外部设备进行通信。示例外设接口244可以包括串行接口控制器254和并行接口控制器256,它们可以被配置为有助于经由一个或者多个I/O端口258和诸如输入设备(例如,键盘、鼠标、笔、语音输入设备、触摸输入设备)或者其他外设(例如打印机、扫描仪等)之类的外部设备进行通信。示例的通信设备246可以包括网络控制器260,其可以被布置为便于经由一个或者多个通信端口264与一个或者多个其他计算设备262通过网络通信链路的通信。
网络通信链路可以是通信介质的一个示例。通信介质通常可以体现为在诸如载波或者其他传输机制之类的调制数据信号中的计算机可读指令、数据结构、程序模块,并且可以包括任何信息递送介质。“调制数据信号”可以这样的信号,它的数据集中的一个或者多个或者它的改变可以在信号中编码信息的方式进行。作为非限制性的示例,通信介质可以包括诸如有线网络或者专线网络之类的有线介质,以及诸如声音、射频(RF)、微波、红外(IR)或者其它无线介质在内的各种无线介质。这里使用的术语计算机可读介质可以包括存储介质和通信介质二者。
在根据本发明的计算设备200中,其中的一个应用222包括缓存节点150,缓存节点150包括执行数据处理方法300的多条程序指令,这些程序指令可以指示处理器204执行本发明的数据处理方法300,以便计算设备200通过执行本发明的数据处理方法300来对数据进行处理。
图3示出了根据本发明一个实施例的数据处理方法300的流程图。方法300适于在计算设备(例如前述计算设备200)的缓存节点中执行。应当指出,本发明的数据处理方法300可以应用于对各种各样的数据进行处理,本发明的技术方案并不限制方法300所应用的具体场景以及所处理数据的具体种类。
需要说明的是,本发明的数据处理方法300是基于分布式系统中的本地缓存的数据的处理和更新。分布式系统包括多个数据存储设备120,多个数据存储设备120可以以分布式结构设置于多个地理位置处。每个数据存储设备120与一个或多个计算设备200的一个或多个缓存节点150相对应。每个缓存节点150与相应的数据存储设备120通信连接,并且,每个缓存节点150还与消息服务器130通信连接,消息服务器130包括消息队列。
在根据本发明的实施例中,每个计算设备200分别包括缓存节点150,并基于缓存节点150来执行本发明的数据处理方法300。
如图3所示,数据处理方法300包括步骤S310~S330。
在步骤S310中,接收数据变更请求。这里,即是用户在任意一个计算设备200请求变更缓存节点150中的数据时,该计算设备200的缓存节点150接收用户的数据变更请求。
随后,在步骤S320中,基于数据变更请求对数据进行处理,并将处理后的数据存储到相应的数据存储设备120中。
根据一个实施例,在存储数据之前,可以先调用一个数据预处理方法(例如handle),基于数据预处理方法对所要存储的数据进行预处理,例如对数据进行序列化预处理。进而,获取存储数据的方法,以便基于存储数据的方法将处理后的数据存储到数据存储设备120中。
最后,在步骤S330中,基于上述数据变更请求构造消息,并将所构造的消息添加至消息服务器130的消息队列中。由消息服务器130通过消息队列将数据变更请求发送至多个数据存储设备120对应的多个缓存节点150,以便每个缓存节点150分别对相应数据进行处理,实现对每个缓存节点的数据进行更新。这里,消息服务器130例如是RabbitMQ,但,本发明对消息服务器130的具体种类不做限制。
需要说明的是,其他缓存节点150在接收到数据变更请求时,也会基于数据变更请求对数据进行处理,并将处理后的数据存储到相应的数据存储设备120中。而且,其他缓存节点150也会基于数据变更请求构造消息,并将所构造的消息添加至消息服务器130的消息队列中。
根据一个实施例,消息队列包括一个或多个消息,每个消息与一个数据处理请求相对应。数据处理请求包括数据类型、主键值和处理类型。数据处理请求的处理类型包括删除数据、添加数据或修改数据。
根据一个实施例,上述计算设备200的缓存节点150也可以从消息服务器130的消息队列中、接收其他缓存节点150基于数据变更请求构造的消息,并确定与所接收的消息相对应的数据处理请求。进而,确定该数据处理请求中的处理类型,并根据该数据处理请求的处理类型、对与数据处理请求的数据类型相对应的缓存节点中的数据进行处理。
例如,消息队列中一个消息的内容为[“Subject”,“1”,“修改”],则该消息对应的数据处理请求的数据类型名称为“Subject”,主键值为“1”,处理类型为修改数据。
在具体实施方式中,在确定数据处理请求中的处理类型之后,先基于处理类型获取相应的处理方法,例如调用修改方法update(Subject subject)。进而,基于获取的处理方法,对与数据处理请求的数据类型相对应的缓存数据进行处理。
根据一个实施例,如果确定数据处理请求的处理类型是删除数据,则确定该数据处理请求对应的主键值和数据类型,并删除缓存节点中与该主键值及数据类型均相对应的数据。
如果确定数据处理请求的处理类型是添加数据或修改数据,则确定该数据处理请求对应的数据类型,并删除与数据类型相对应的全部数据。这样,当用户下一次在客户端对相应数据进行查询时,基于查询方法会先从缓存节点150查找相应数据。缓存节点150在接收到用户对数据的查询请求时,由于该缓存节点150中的数据为空,因此会触发从数据存储设备获取数据的方法,即是触发向数据存储设备120请求获取相应的数据,并将获取的数据存储在缓存节点150。
根据一个实施例,为了避免多个数据请求同时发送到数据存储设备120,缓存节点150在向数据存储设备120请求获取数据时,会先向数据存储设备120请求获取读写锁的写锁。如果获取写锁成功,则还会判断缓存节点是否存储有该数据,以再次确认缓存节点是否不存在相应数据。并在确定缓存节点没有存储相应数据时,再向数据存储设备120请求获取数据。需要说明的是,在从数据存储设备120获取数据之后,还对所获取的数据进行反序列化预处理。进而,将反序列化处理后的数据存储到缓存节点150。这里,基于本发明的数据处理方法300,每个缓存节点150也均进行了数据更新、存储有相应数据。
另外,如果获取写锁失败(说明已经有其他缓存节点在向数据存储设备120请求数据),则计算设备200的缓存节点150会向数据存储设备120请求获取读写锁的读锁。如果获取读锁成功,说明获取写锁成功的其他缓存节点的数据请求已成功从数据存储设备120中获取数据并存储在缓存节点中,并且,基于本发明的数据处理方法300,每个缓存节点150也均进行了数据更新、存储有相应数据。故,可以直接从计算设备200的缓存节点150获取数据。
根据本发明的技术方案,分布式系统中的每个缓存节点均可以执行数据处理方法300。当用户在任意一个计算设备请求变更缓存节点150中的数据时,该缓存节点150基于数据变更请求对数据进行处理,并将处理后的数据存储到数据存储设备120。并且,该缓存节点150还基于数据变更请求构造消息,将所构造的消息添加至消息服务器130的消息队列中,通过消息队列将数据变更请求发送至分布式系统中的多个计算设备对应的多个缓存节点,这样,分布式系统中的每个本地缓存节点150均可以对相应数据进行处理,能实现对每个本地缓存节点的数据进行实时更新。
A8、如A6所述的数据处理方法,其中,向数据存储设备请求获取数据的步骤包括:向数据存储设备请求获取读写锁的写锁,如果获取写锁成功,则判断所述缓存节点是否存储有相应数据,如果确定所述缓存节点没有存储相应数据,则从所述数据存储设备获取数据。
A9、如A8所述的数据处理方法,其中,向数据存储设备请求获取数据的步骤还包括:如果获取写锁失败,则向数据存储设备请求获取读写锁的读锁,如果获取读锁成功,则从所述缓存节点获取数据。
B11、如B10所述的数据处理系统,其中,所述消息队列包括一个或多个消息,每个消息与一个数据处理请求相对应,所述数据处理请求包括数据类型、主键值和处理类型。
B12、如B11所述的数据处理系统,其中,所述缓存节点适于从所述消息服务器的消息队列中接收消息,确定与所接收的消息相对应的数据处理请求;并适于根据所述数据处理请求的处理类型,对与所述数据处理请求的数据类型相对应的数据进行处理。
B13、如B12所述的数据处理系统,其中,所述缓存节点进一步适于基于所述处理类型获取相应的处理方法,基于所述处理方法对与所述数据类型相对应的数据进行处理。
B14、如B12或B13所述的数据处理系统,其中,所述处理类型包括删除数据、添加数据、修改数据;所述缓存节点适于在确定所述处理类型是删除数据时,确定所述数据处理请求对应的主键值,并删除与所述主键值和数据类型相对应的数据。
B15、如B12-B14任一项所述的数据处理系统,其中,所述缓存节点适于在确定所述处理类型是添加数据或修改数据时,删除与所述数据类型相对应的全部数据,以便在接收到用户对相应数据的查询请求时,触发向数据存储设备请求获取数据、并存储数据。
B16、如B10-B15任一项所述的数据处理系统,其中,所述缓存节点适于在将处理后的数据存储到数据存储设备中之前,获取存储数据的方法。
B17、如B15所述的数据处理系统,其中,所述缓存节点进一步适于向数据存储设备请求获取读写锁的写锁,在获取写锁成功时,判断缓存节点是否存储有相应数据,并在确定所述缓存节点没有存储相应数据时,从所述数据存储设备获取数据。
B18、如B17所述的数据处理系统,其中,所述缓存节点还适于在获取写锁失败时,向数据存储设备请求获取读写锁的读锁,在获取读锁成功时,从所述缓存节点获取数据。
这里描述的各种技术可结合硬件或软件,或者它们的组合一起实现。从而,本发明的方法和设备,或者本发明的方法和设备的某些方面或部分可采取嵌入有形媒介,例如可移动硬盘、U盘、软盘、CD-ROM或者其它任意机器可读的存储介质中的程序代码(即指令)的形式,其中当程序被载入诸如计算机之类的机器,并被所述机器执行时,所述机器变成实践本发明的设备。
在程序代码在可编程计算机上执行的情况下,计算设备一般包括处理器、处理器可读的存储介质(包括易失性和非易失性存储器和/或存储元件),至少一个输入装置,和至少一个输出装置。其中,存储器被配置用于存储程序代码;处理器被配置用于根据该存储器中存储的所述程序代码中的指令,执行本发明的多语言垃圾文本的识别方法。
以示例而非限制的方式,可读介质包括可读存储介质和通信介质。可读存储介质存储诸如计算机可读指令、数据结构、程序模块或其它数据等信息。通信介质一般以诸如载波或其它传输机制等已调制数据信号来体现计算机可读指令、数据结构、程序模块或其它数据,并且包括任何信息传递介质。以上的任一种的组合也包括在可读介质的范围之内。
在此处所提供的说明书中,算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与本发明的示例一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下被实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员应当理解在本文所公开的示例中的设备的模块或单元或组件可以布置在如该实施例中所描述的设备中,或者可替换地可以定位在与该示例中的设备不同的一个或多个设备中。前述示例中的模块可以组合为一个模块或者此外可以分成多个子模块。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
此外,所述实施例中的一些在此被描述成可以由计算机系统的处理器或者由执行所述功能的其它装置实施的方法或方法元素的组合。因此,具有用于实施所述方法或方法元素的必要指令的处理器形成用于实施该方法或方法元素的装置。此外,装置实施例的在此所述的元素是如下装置的例子:该装置用于实施由为了实施该发明的目的的元素所执行的功能。
如在此所使用的那样,除非另行规定,使用序数词“第一”、“第二”、“第三”等等来描述普通对象仅仅表示涉及类似对象的不同实例,并且并不意图暗示这样被描述的对象必须具有时间上、空间上、排序方面或者以任意其它方式的给定顺序。
尽管根据有限数量的实施例描述了本发明,但是受益于上面的描述,本技术领域内的技术人员明白,在由此描述的本发明的范围内,可以设想其它实施例。此外,应当注意,本说明书中使用的语言主要是为了可读性和教导的目的而选择的,而不是为了解释或者限定本发明的主题而选择的。因此,在不偏离所附权利要求书的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。对于本发明的范围,对本发明所做的公开是说明性的,而非限制性的,本发明的范围由所附权利要求书限定。
Claims (10)
1.一种数据处理方法,在缓存节点执行,所述缓存节点与数据存储设备、消息服务器耦接,所述方法包括:
接收数据变更请求;
基于所述数据变更请求对数据进行处理,并将处理后的数据存储到数据存储设备;
基于所述数据变更请求构造消息,并将所构造的消息添加至所述消息服务器的消息队列中,以便由所述消息服务器通过消息队列将所述数据变更请求发送至数据存储设备对应的多个缓存节点,以便每个缓存节点分别对相应数据进行处理,其中,所述消息队列包括一个或多个消息,每个消息与一个数据处理请求相对应,所述数据处理请求包括数据类型、主键值和处理类型;
从所述消息服务器的消息队列中接收消息,并确定与所接收的消息相对应的数据处理请求;
根据所述数据处理请求的处理类型,对与所述数据处理请求的数据类型相对应的数据进行处理,其中:如果所述数据处理请求的处理类型是添加数据或修改数据,则删除与所述数据类型相对应的全部数据,以便在接收到用户对相应数据的查询请求时,触发向数据存储设备请求获取数据、并存储数据;
其中,向数据存储设备请求获取数据包括:
向数据存储设备请求获取读写锁的写锁,如果获取写锁成功,则判断所述缓存节点是否存储有相应数据,如果确定所述缓存节点没有存储相应数据,则从所述数据存储设备获取数据;
如果获取写锁失败,则向数据存储设备请求获取读写锁的读锁,如果获取读锁成功,则从所述缓存节点获取数据。
2.如权利要求1所述的数据处理方法,其中,所述根据处理类型对与所述数据类型相对应的数据进行处理的步骤包括:
基于所述处理类型获取相应的处理方法;
基于所述处理方法,对与所述数据类型相对应的数据进行处理。
3.如权利要求1或2所述的数据处理方法,其中,所述处理类型包括删除数据、添加数据、修改数据,对与所述数据处理请求的数据类型相对应的数据进行处理的步骤包括:
如果所述处理类型是删除数据,则确定所述数据处理请求对应的主键值,并删除与所述主键值和数据类型相对应的数据。
4.如权利要求1或2所述的数据处理方法,其中,在将处理后的数据存储到数据存储设备中之前,包括步骤:
获取存储数据的方法。
5.一种数据处理系统,包括:
数据存储设备;
消息服务器,包括消息队列,所述消息队列适于添加基于数据变更请求构造的消息,其中,所述消息队列包括一个或多个消息,每个消息与一个数据处理请求相对应,所述数据处理请求包括数据类型、主键值和处理类型;以及
与数据存储设备耦接的多个缓存节点,所述缓存节点与消息服务器耦接,每个缓存节点适于执行如权利要求1-4任一项所述的数据处理方法。
6.如权利要求5所述的数据处理系统,其中,所述缓存节点进一步适于:
基于所述处理类型获取相应的处理方法;
基于所述处理方法,对与所述数据类型相对应的数据进行处理。
7.如权利要求5所述的数据处理系统,其中,所述处理类型包括删除数据、添加数据、修改数据;
所述缓存节点适于在确定所述处理类型是删除数据时,确定所述数据处理请求对应的主键值,并删除与所述主键值和数据类型相对应的数据。
8.如权利要求5所述的数据处理系统,其中,
所述缓存节点适于在将处理后的数据存储到数据存储设备中之前,获取存储数据的方法。
9.一种计算设备,包括:
至少一个处理器;和
存储有程序指令的存储器,其中,所述程序指令被配置为适于由所述至少一个处理器执行,所述程序指令包括用于执行如权利要求1-4中任一项所述方法的指令。
10.一种存储有程序指令的可读存储介质,当所述程序指令被计算设备读取并执行时,使得所述计算设备执行如权利要求1-4中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010296184.6A CN111651464B (zh) | 2020-04-15 | 2020-04-15 | 数据处理方法、系统及计算设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010296184.6A CN111651464B (zh) | 2020-04-15 | 2020-04-15 | 数据处理方法、系统及计算设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111651464A CN111651464A (zh) | 2020-09-11 |
CN111651464B true CN111651464B (zh) | 2024-02-23 |
Family
ID=72352135
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010296184.6A Active CN111651464B (zh) | 2020-04-15 | 2020-04-15 | 数据处理方法、系统及计算设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111651464B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112328637B (zh) * | 2020-10-30 | 2023-11-14 | 中国平安人寿保险股份有限公司 | 高速分布式数据缓存方法、装置、计算机设备及存储介质 |
CN112163176A (zh) * | 2020-11-02 | 2021-01-01 | 北京城市网邻信息技术有限公司 | 数据存储方法、装置、电子设备和计算机可读介质 |
CN112738182A (zh) * | 2020-12-24 | 2021-04-30 | 海南车智易通信息技术有限公司 | 数据推送系统、数据推送方法及计算设备 |
CN112817992B (zh) * | 2021-01-29 | 2023-06-23 | 北京百度网讯科技有限公司 | 执行更改任务的方法、装置、电子设备以及可读存储介质 |
CN113032432A (zh) * | 2021-02-22 | 2021-06-25 | 北京齐尔布莱特科技有限公司 | 一种数据缓存处理方法、系统、计算设备及可读存储介质 |
CN113377791A (zh) * | 2021-06-10 | 2021-09-10 | 北京齐尔布莱特科技有限公司 | 一种数据处理方法、系统及计算设备 |
CN114218300B (zh) * | 2021-12-23 | 2023-08-08 | 北京百度网讯科技有限公司 | 数据处理方法和装置、系统、电子设备、计算机可读介质 |
CN114945026A (zh) * | 2022-04-24 | 2022-08-26 | 网易(杭州)网络有限公司 | 数据处理方法、装置和系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103392167A (zh) * | 2012-12-28 | 2013-11-13 | 华为技术有限公司 | 分布式存储系统的缓存方法、节点和计算机可读介质 |
CN103559319A (zh) * | 2013-11-21 | 2014-02-05 | 华为技术有限公司 | 分布式集群文件系统的缓存同步方法和设备 |
CN105339906A (zh) * | 2013-06-12 | 2016-02-17 | 日本电气株式会社 | 控制对永久存储设备的数据写入的方法 |
CN108932282A (zh) * | 2018-05-18 | 2018-12-04 | 腾讯科技(深圳)有限公司 | 一种数据库迁移方法、装置和存储介质 |
CN109063196A (zh) * | 2018-09-03 | 2018-12-21 | 拉扎斯网络科技(上海)有限公司 | 数据处理方法、装置、电子设备及计算机可读存储介质 |
CN110597910A (zh) * | 2019-09-12 | 2019-12-20 | 聚好看科技股份有限公司 | 一种异地数据同步方法、装置和系统 |
-
2020
- 2020-04-15 CN CN202010296184.6A patent/CN111651464B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103392167A (zh) * | 2012-12-28 | 2013-11-13 | 华为技术有限公司 | 分布式存储系统的缓存方法、节点和计算机可读介质 |
CN105339906A (zh) * | 2013-06-12 | 2016-02-17 | 日本电气株式会社 | 控制对永久存储设备的数据写入的方法 |
CN103559319A (zh) * | 2013-11-21 | 2014-02-05 | 华为技术有限公司 | 分布式集群文件系统的缓存同步方法和设备 |
CN108932282A (zh) * | 2018-05-18 | 2018-12-04 | 腾讯科技(深圳)有限公司 | 一种数据库迁移方法、装置和存储介质 |
CN109063196A (zh) * | 2018-09-03 | 2018-12-21 | 拉扎斯网络科技(上海)有限公司 | 数据处理方法、装置、电子设备及计算机可读存储介质 |
CN110597910A (zh) * | 2019-09-12 | 2019-12-20 | 聚好看科技股份有限公司 | 一种异地数据同步方法、装置和系统 |
Also Published As
Publication number | Publication date |
---|---|
CN111651464A (zh) | 2020-09-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111651464B (zh) | 数据处理方法、系统及计算设备 | |
CN112615907B (zh) | 一种数据同步系统及方法 | |
CN113032432A (zh) | 一种数据缓存处理方法、系统、计算设备及可读存储介质 | |
CN113377289B (zh) | 一种缓存管理方法、系统、计算设备及可读存储介质 | |
CN104519120A (zh) | 业务对象附件和过期统一资源定位符 | |
CN111651374A (zh) | 一种数据处理方法、装置、计算设备及可读存储介质 | |
CN113079083B (zh) | 消息处理方法、客户端、服务器和即时通信系统 | |
CN116192956A (zh) | 一种缓存数据更新方法、系统、计算设备及存储介质 | |
CN111414383B (zh) | 数据请求方法、数据处理系统及计算设备 | |
CN110874298A (zh) | 一种请求数据存储方法及终端设备 | |
CN111917573B (zh) | 监控方法、监控系统及计算设备 | |
CN111444448B (zh) | 一种数据处理方法、服务器及系统 | |
CN112738182A (zh) | 数据推送系统、数据推送方法及计算设备 | |
CN113282619A (zh) | 一种数据快速查询方法及系统 | |
CN113220981A (zh) | 一种优化缓存的方法和装置 | |
CN112883307B (zh) | 一种缓存更新方法、装置和社交网络系统 | |
CN113590699B (zh) | 一种接口请求处理方法、系统及计算设备 | |
CN110889053B (zh) | 一种接口数据的缓存方法、装置及计算设备 | |
CN111782157B (zh) | 快递面单打印管理方法、装置及系统 | |
CN114513500A (zh) | 一种浏览器插件批量安装的方法、设备、系统及计算设备 | |
CN111814029B (zh) | 一种数据查询方法、系统及计算设备 | |
CN112688980B (zh) | 资源分发方法、装置、计算机设备 | |
CN114422502A (zh) | 一种资源下载方法、计算设备和存储介质 | |
CN114884974B (zh) | 一种数据复用方法、系统及计算设备 | |
CN113342756B (zh) | 一种临时文件占位存储方法、客户端及计算设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |