CN113760860A - 一种数据读取方法和装置 - Google Patents

一种数据读取方法和装置 Download PDF

Info

Publication number
CN113760860A
CN113760860A CN202011262436.XA CN202011262436A CN113760860A CN 113760860 A CN113760860 A CN 113760860A CN 202011262436 A CN202011262436 A CN 202011262436A CN 113760860 A CN113760860 A CN 113760860A
Authority
CN
China
Prior art keywords
service
target service
slave
data
library
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011262436.XA
Other languages
English (en)
Other versions
CN113760860B (zh
Inventor
杨建新
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Zhenshi Information Technology Co Ltd
Original Assignee
Beijing Jingdong Zhenshi Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Zhenshi Information Technology Co Ltd filed Critical Beijing Jingdong Zhenshi Information Technology Co Ltd
Priority to CN202011262436.XA priority Critical patent/CN113760860B/zh
Publication of CN113760860A publication Critical patent/CN113760860A/zh
Application granted granted Critical
Publication of CN113760860B publication Critical patent/CN113760860B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21Design, administration or maintenance of databases
    • G06F16/217Database tuning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • G06F16/273Asynchronous replication or reconciliation

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种数据读取方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:在缓存中查找目标业务的业务标识,当目标业务的数据由主库尚未同步到全部从库时,目标业务的业务标识存在于缓存中;当查找到目标业务的业务标识后,根据目标业务的业务标识,在缓存中查询目标业务对应的已同步从库集合;从查询到的已同步从库集合中的从库读取目标业务的数据。该实施方式能够判断主从是否存在延时的情况,将业务导引到从库上,并且保证所导引到的从库可以查到同步的数据,提高从库的利用率;减小主库压力,降低对服务器性能的要求,降低硬件成本;数据库服务性能提升,可以提高整个系统的吞吐量,缩短系统响应时间。

Description

一种数据读取方法和装置
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据读取方法和装置。
背景技术
互联网公司为了提高数据服务的性能和可靠性,通常采用一主多从的架构方式,主数据库可提供读写服务,多台从数据库从主数据库复制数据,并对外提供读服务。由于写服务只能由主数据库提供,而且存在主从延时的风险,所以对实时性要求高的读服务会指定主数据库提供读服务器。因此,很多时候主数据库的性能就成了整个数据库服务的瓶颈。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
由于从库与主库不确定是否同步,存在主从延时的风险,查询从库可能会查到不同步的数据,实时性要求比较高的业务会被迫查询主库,导致从库利用率低,产生资源浪费;主库压力过大,对服务器性能的要求高,硬件成本大;主库的性能成为整个数据库服务的瓶颈,整个数据库服务的整体吞吐量受到限制。
发明内容
有鉴于此,本发明实施例提供一种数据读取方法和装置,能够判断主从是否存在延时的情况,将业务导引到从库上,并且保证所导引到的从库可以查到同步的数据,提高从库的利用率;减小主库压力,降低对服务器性能的要求,降低硬件成本;数据库服务性能提升,可以提高整个系统的吞吐量,缩短系统响应时间。
为实现上述目的,根据本发明实施例的一个方面,提供了一种数据读取方法。
一种数据读取方法,包括:在缓存中查找目标业务的业务标识,当所述目标业务的数据由主库尚未同步到全部从库时,所述目标业务的业务标识存在于所述缓存中;当查找到所述目标业务的业务标识后,根据所述目标业务的业务标识,在缓存中查询所述目标业务对应的已同步从库集合,所述已同步从库集合为同步完所述目标业务的数据的从库构成的集合;从查询到的所述已同步从库集合中的从库读取所述目标业务的数据。
可选地,所述在缓存中查找目标业务的业务标识之前,包括:从所述目标业务对应的读服务的方法中获取方法标记,并确定所述方法标记指示优先从从库读取所述目标业务的数据,所述读服务用于读取所述目标业务的数据。
可选地,在将所述目标业务的数据写入数据库阶段,将所述目标业务的业务标识存入所述缓存,并且在所述目标业务的数据由主库同步到所述全部从库后,将所述目标业务的业务标识从所述缓存删除。
可选地,所述在将所述目标业务的数据写入数据库阶段,将所述目标业务的业务标识存入所述缓存,包括:在将所述目标业务的数据写入主库时,生成以所述目标业务的业务标识为键的第一键值对,所述第一键值对的值为所述目标业务对应的待执行的位点,将所述第一键值对存入所述缓存。
可选地,所述将所述第一键值对存入所述缓存之后,包括:轮询所述位点在各从库是否执行完成,其中:当所述位点在所述全部从库均未执行完成时,创建以所述目标业务的业务标识为键的第二键值对,所述第二键值对的值为空,并将所述第二键值对存入所述缓存;当轮询到有从库执行完所述位点,则将执行完所述位点的从库信息增加到所述第二键值对的值中,以生成或更新所述目标业务对应的已同步从库集合。
可选地,所述在所述目标业务的数据由主库同步到所述全部从库后,将所述目标业务的业务标识从所述缓存删除,包括:当轮询到所述位点在所述全部从库均执行完成,则删除所述缓存中的以所述目标业务的业务标识为键的所述第一键值对和所述第二键值对。
可选地,当在所述缓存中未查找到所述目标业务的业务标识的情况下,从所述全部从库中的任意从库读取所述目标业务的数据。
可选地,当在所述缓存中未查询到所述目标业务对应的已同步从库集合的情况下,从所述主库读取所述目标业务的数据。
根据本发明实施例的另一方面,提供了一种数据读取的装置。
一种数据读取的装置,包括:业务标识查找模块,用于在缓存中查找目标业务的业务标识,当所述目标业务的数据由主库尚未同步到全部从库时,所述目标业务的业务标识存在于所述缓存中;从库集合查询模块,用于当查找到所述目标业务的业务标识后,根据所述目标业务的业务标识,在缓存中查询所述目标业务对应的已同步从库集合,所述已同步从库集合为同步完所述目标业务的数据的从库构成的集合;业务数据读取模块,用于从查询到的所述已同步从库集合中的从库读取所述目标业务的数据。
可选地,还包括读取策略确定模块,用于:从所述目标业务对应的读服务的方法中获取方法标记,并确定所述方法标记指示优先从从库读取所述目标业务的数据,所述读服务用于读取所述目标业务的数据。
可选地,还包括业务数据写入模块,用于:在将所述目标业务的数据写入数据库阶段,将所述目标业务的业务标识存入所述缓存,并且在所述目标业务的数据由主库同步到所述全部从库后,将所述目标业务的业务标识从所述缓存删除。
可选地,所述业务数据写入模块还用于:在将所述目标业务的数据写入主库时,生成以所述目标业务的业务标识为键的第一键值对,所述第一键值对的值为所述目标业务对应的待执行的位点,将所述第一键值对存入所述缓存。
可选地,所述业务数据写入模块还用于:轮询所述位点在各从库是否执行完成,其中:当所述位点在所述全部从库均未执行完成时,创建以所述目标业务的业务标识为键的第二键值对,所述第二键值对的值为空,并将所述第二键值对存入所述缓存;当轮询到有从库执行完所述位点,则将执行完所述位点的从库信息增加到所述第二键值对的值中,以生成或更新所述目标业务对应的已同步从库集合。
可选地,所述业务数据写入模块还用于:当轮询到所述位点在所述全部从库均执行完成,则删除所述缓存中的以所述目标业务的业务标识为键的所述第一键值对和所述第二键值对。
可选地,当所述业务标识查找模块在所述缓存中未查找到所述目标业务的业务标识的情况下,所述业务数据读取模块从所述全部从库中的任意从库读取所述目标业务的数据。
可选地,当所述从库集合查询模块在所述缓存中未查询到所述目标业务对应的已同步从库集合的情况下,所述业务数据读取模块从所述主库读取所述目标业务的数据。
根据本发明实施例的又一方面,提供了一种电子设备。
一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现本发明实施例所提供的数据读取方法。
根据本发明实施例的又一方面,提供了一种计算机可读介质。
一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明实施例所提供的数据读取方法。
上述发明中的一个实施例具有如下优点或有益效果:在缓存中查找目标业务的业务标识,当目标业务的数据由主库尚未同步到全部从库时,目标业务的业务标识存在于缓存中;当查找到目标业务的业务标识后,根据目标业务的业务标识,在缓存中查询目标业务对应的已同步从库集合,该已同步从库集合为同步完目标业务的数据的从库构成的集合;从查询到的已同步从库集合中的从库读取目标业务的数据。能够判断主从是否存在延时的情况,将业务导引到从库上,并且保证所导引到的从库可以查到同步的数据,提高从库的利用率;减小主库压力,降低对服务器性能的要求,降低硬件成本;数据库服务性能提升,可以提高整个系统的吞吐量,缩短系统响应时间。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明一个实施例的数据读取方法的主要步骤示意图;
图2是根据本发明一个实施例的数据写入流程示意图;
图3是根据本发明一个实施例的数据读取流程示意图;
图4是根据本发明一个实施例的数据读取装置的主要模块示意图;
图5是本发明实施例可以应用于其中的示例性系统架构图;
图6是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本发明一个实施例的数据读取方法的主要步骤示意图。
如图1所示,本发明一个实施例的数据读取方法主要包括如下的步骤S101至步骤S103。
步骤S101:在缓存中查找目标业务的业务标识,当目标业务的数据由主库尚未同步到全部从库时,目标业务的业务标识存在于缓存中。
步骤S102:当查找到目标业务的业务标识后,根据目标业务的业务标识,在缓存中查询目标业务对应的已同步从库集合。
步骤S103:从查询到的已同步从库集合中的从库读取目标业务的数据。
本发明实施例的全部从库可以是所有的正常使用从库(从数据库),也可以根据需要来人为自定义全部从库所覆盖的从库范围,例如总计n个从库中人为设定只使用其中的m个从库,那么该全部从库即指该m个从库。
目标业务对应的已同步从库集合为同步完目标业务的数据的从库构成的集合。
在缓存中查找目标业务的业务标识之前,可以包括:从目标业务对应的读服务的方法中获取方法标记,并确定方法标记指示优先从从库读取目标业务的数据,读服务用于读取目标业务的数据。
其中,方法标记根据需求可以分为必须走主库、必须走从库、尽量走从库,例如可以在读服务的方法的程序识别代码中添加注解标记,该注解标记即为方法标记,其用于指示必须走主库、必须走从库、或尽量走从库,如果指示尽量走从库,即表示优先从从库读取目标业务的数据。
如果方法标记指示必须走主库,则从主库读取目标业务的数据。
如果方法标记指示必须走从库,则从从库读取目标业务的数据。
在将目标业务的数据写入数据库阶段,将目标业务的业务标识存入缓存,并且在目标业务的数据由主库同步到全部从库后,将目标业务的业务标识从缓存删除。因此,当某业务的数据写入数据库,其业务ID(业务标识)便会被存入缓存,数据从主库同步到各从库,在同步到全部从库之前,该业务ID在缓存中一直存在,当该数据从主库被同步到全部从库之后,该业务ID被从缓存中删除。因此,当目标业务的数据被写入主库后且没有同步到全部从库之前(例如尚未同步到任何一个从库,或者只同步到了部分从库),可以从缓存中查找到该目标业务的业务ID。例如,假设全部从库包括从库1、从库2、从库3,那么当目标业务的数据由主库同步到其中的0个、1个、或2个从库时(即由主库尚未同步到全部从库),该目标业务的业务标识都会存在于缓存中。其中,已同步完该目标业务的数据的从库所构成的集合为该目标业务对应的已同步从库集合,例如,假设目标业务的数据同步到了其中的从库1和从库2,那么从库1和从库2构成的集合即为该目标业务对应的已同步从库集合。如果同步完该目标业务的数据的从库个数为0时,则不存在该已同步从库集合,即已同步从库集合中至少应包括一个从库。当目标业务的数据由主库同步到该三个从库后(即同步到全部从库),则将该目标业务的业务标识从缓存中删除,即,当目标业务的数据由主库同步到全部从库后,其业务标识则不存在于缓存中。
其中,同步完目标业务的数据的从库,是指该目标业务需同步到该从库的数据已经全部同步到了该从库,这种情况称该从库同步完目标业务的数据。
在将目标业务的数据写入数据库阶段,将目标业务的业务标识存入缓存,可以包括:在将目标业务的数据写入主库(主数据库)时,生成以目标业务的业务标识为键的第一键值对,第一键值对的值为目标业务对应的待执行的位点,将第一键值对存入缓存。
将第一键值对存入缓存之后,可以包括:轮询目标业务对应的待执行的位点在各从库是否执行完成,其中:当该位点在全部从库均未执行完成时,创建以目标业务的业务标识为键的第二键值对,第二键值对的值为空,并将第二键值对存入缓存;当轮询到有从库执行完该位点,则将执行完该位点的从库信息增加到第二键值对的值中,以生成或更新目标业务对应的已同步从库集合。
在目标业务的数据由主库同步到全部从库后,将目标业务的业务标识从缓存删除,可以包括:当轮询到位点在全部从库均执行完成,则删除缓存中的以目标业务的业务标识为键的第一键值对和第二键值对。
当在缓存中未查找到目标业务的业务标识的情况下,表示该目标业务的数据已经被同步到全部从库,业务标识已经被从缓存中删除,那么,从全部从库中的任意从库读取目标业务的数据。
当在缓存中未查询到目标业务对应的已同步从库集合的情况下,表明该目标业务的数据尚未被同步到任一从库,即第二键值对的值为空,那么,从主库读取目标业务的数据。
下面以业务的读写分离为例,详细介绍本发明实施例的数据读取方法。
图2是根据本发明一个实施例的数据写入流程示意图。
如图2所示,程序写数据库的情况下,事务提交前,查询当前事务执行位点,上报业务和位点信息,每个业务对应一个位点,位点是binlog事件在binlog文件中的位置,即binlog文件里具体语句的位置。主库执行了哪些语句,在其硬盘上会记录一份日志(该日志即binlog),该日志会发送到各从库上,从库按顺序执行该日志中的每一条语句。业务ID和位点信息以key-value的形式存入缓存。例如:key=业务ID_create;value=位点1,该key-value为第一键值对的一个示例。后台进程统一轮询,判断该位点在从库是否同步。若在各从库均未同步,则增加缓存信息(第二键值对的一个示例):key=业务ID_list,value=[],此时已同步从库集合不存在;若在部分从库同步,例如在从库1已同步,则增加缓存信息:key=业务ID_list,value=[“从库1”],此时已同步从库集合包括从库1;如果在全部从库同步完成,则删除缓存key的业务ID_list,同时将业务ID_create也删除,具体可以将key=业务ID_create;value=位点1,以及key=业务ID_list,value=['从库1","从库2"..."从库k"]这两个键值对删除,'从库1","从库2"..."从库k"表示全部从库。
图3是根据本发明一个实施例的数据读取流程示意图。
如图3所示,判断读服务的方法标记所指示的数据读取策略,若指示为必须走主库,则从主库读取数据;若指示为必须走从库,则从从库读取数据;若指示为尽量走从库,则从缓存服务查询可用链接列表(即已同步从库列表,或称已同步从库集合),以优先从从库读取数据。具体地,先根据业务ID查询缓存,如果未查询到该业务ID,则认为全部从库已同步完该业务的数据,那么,随机返回一台从库读取数据;如果查询到该业务ID,那么在缓存中查询该业务ID对应的已同步从库列表,如果查询到该已同步从库列表,从该列表中选择一台从库读取数据,如果未查询到该已同步从库列表,则返回主库读取数据。
图4是根据本发明一个实施例的数据读取装置的主要模块示意图。
如图4所示,本发明一个实施例的数据读取装置400主要包括:业务标识查找模块401、从库集合查询模块402、业务数据读取模块403。
业务标识查找模块401,用于在缓存中查找目标业务的业务标识,当目标业务的数据由主库尚未同步到全部从库时,目标业务的业务标识存在于缓存中。
从库集合查询模块402,用于当查找到目标业务的业务标识后,根据目标业务的业务标识,在缓存中查询目标业务对应的已同步从库集合。
业务数据读取模块403,用于从查询到的已同步从库集合中的从库读取目标业务的数据。
目标业务对应的已同步从库集合为同步完目标业务的数据的从库构成的集合。
在一个实施例中,数据读取装置400还包括读取策略确定模块,用于:从目标业务对应的读服务的方法中获取方法标记,并确定方法标记指示优先从从库读取目标业务的数据,读服务用于读取目标业务的数据。
在一个实施例中,数据读取装置400还包括业务数据写入模块,用于:在将目标业务的数据写入数据库阶段,将目标业务的业务标识存入缓存,并且在目标业务的数据由主库同步到全部从库后,将目标业务的业务标识从缓存删除。
在一个实施例中,业务数据写入模块还用于:在将目标业务的数据写入主库时,生成以目标业务的业务标识为键的第一键值对,第一键值对的值为目标业务对应的待执行的位点,将第一键值对存入缓存。
在一个实施例中,业务数据写入模块还用于:轮询位点在各从库是否执行完成,其中:当位点在全部从库均未执行完成时,创建以目标业务的业务标识为键的第二键值对,第二键值对的值为空,并将第二键值对存入缓存;当轮询到有从库执行完位点,则将执行完位点的从库信息增加到第二键值对的值中,以生成或更新目标业务对应的已同步从库集合。
在一个实施例中,业务数据写入模块还用于:当轮询到位点在全部从库均执行完成,则删除缓存中的以目标业务的业务标识为键的第一键值对和第二键值对。
在一个实施例中,当业务标识查找模块401在缓存中未查找到目标业务的业务标识的情况下,业务数据读取模块403从全部从库中的任意从库读取目标业务的数据。
在一个实施例中,当从库集合查询模块402在缓存中未查询到目标业务对应的已同步从库集合的情况下,业务数据读取模块403从主库读取目标业务的数据。
另外,在本发明实施例中数据读取装置的具体实施内容,在上面数据读取方法中已经详细说明了,故在此重复内容不再说明。
图5示出了可以应用本发明实施例的数据读取方法或数据读取装置的示例性系统架构500。
如图5所示,系统架构500可以包括终端设备501、502、503,网络504和服务器505。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备501、502、503通过网络504与服务器505交互,以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备501、502、503可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器505可以是提供各种服务的服务器,例如对用户利用终端设备501、502、503所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的数据读取的方法一般由服务器505执行,相应地,数据读取的装置一般设置于服务器505中。
应该理解,图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图6,其示出了适于用来实现本申请实施例的终端设备或服务器的计算机系统600的结构示意图。
图6示出的终端设备或服务器仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括业务标识查找模块、从库集合查询模块、业务数据读取模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,业务标识查找模块还可以被描述为“在缓存中查找目标业务的业务标识的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:在缓存中查找目标业务的业务标识,当所述目标业务的数据由主库尚未同步到全部从库时,所述目标业务的业务标识存在于所述缓存中;当查找到目标业务的业务标识后,根据目标业务的业务标识,在缓存中查询目标业务对应的已同步从库集合,所述已同步从库集合为同步完目标业务的数据的从库构成的集合;从查询到的已同步从库集合中的从库读取目标业务的数据。
根据本发明实施例的技术方案,在缓存中查找目标业务的业务标识,当目标业务的数据由主库尚未同步到全部从库时,目标业务的业务标识存在于缓存中;当查找到目标业务的业务标识后,根据目标业务的业务标识,在缓存中查询目标业务对应的已同步从库集合,该已同步从库集合为同步完目标业务的数据的从库构成的集合;从查询到的已同步从库集合中的从库读取目标业务的数据。能够判断主从是否存在延时的情况,将业务导引到从库上,并且保证所导引到的从库可以查到同步的数据,提高从库的利用率;减小主库压力,降低对服务器性能的要求,降低硬件成本;数据库服务性能提升,可以提高整个系统的吞吐量,缩短系统响应时间。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (11)

1.一种数据读取方法,其特征在于,包括:
在缓存中查找目标业务的业务标识,当所述目标业务的数据由主库尚未同步到全部从库时,所述目标业务的业务标识存在于所述缓存中;
当查找到所述目标业务的业务标识后,根据所述目标业务的业务标识,在缓存中查询所述目标业务对应的已同步从库集合,所述已同步从库集合为同步完所述目标业务的数据的从库构成的集合;
从查询到的所述已同步从库集合中的从库读取所述目标业务的数据。
2.根据权利要求1所述的方法,其特征在于,所述在缓存中查找目标业务的业务标识之前,包括:
从所述目标业务对应的读服务的方法中获取方法标记,并确定所述方法标记指示优先从从库读取所述目标业务的数据,所述读服务用于读取所述目标业务的数据。
3.根据权利要求1或2所述的方法,其特征在于,还包括:
在将所述目标业务的数据写入数据库阶段,将所述目标业务的业务标识存入所述缓存,并且在所述目标业务的数据由主库同步到所述全部从库后,将所述目标业务的业务标识从所述缓存删除。
4.根据权利要求3所述的方法,其特征在于,所述在将所述目标业务的数据写入数据库阶段,将所述目标业务的业务标识存入所述缓存,包括:
在将所述目标业务的数据写入主库时,生成以所述目标业务的业务标识为键的第一键值对,所述第一键值对的值为所述目标业务对应的待执行的位点,将所述第一键值对存入所述缓存。
5.根据权利要求4所述的方法,其特征在于,所述将所述第一键值对存入所述缓存之后,包括:
轮询所述位点在各从库是否执行完成,其中:当所述位点在所述全部从库均未执行完成时,创建以所述目标业务的业务标识为键的第二键值对,所述第二键值对的值为空,并将所述第二键值对存入所述缓存;当轮询到有从库执行完所述位点,则将执行完所述位点的从库信息增加到所述第二键值对的值中,以生成或更新所述目标业务对应的已同步从库集合。
6.根据权利要求5所述的方法,其特征在于,所述在所述目标业务的数据由主库同步到所述全部从库后,将所述目标业务的业务标识从所述缓存删除,包括:
当轮询到所述位点在所述全部从库均执行完成,则删除所述缓存中的以所述目标业务的业务标识为键的所述第一键值对和所述第二键值对。
7.根据权利要求3所述的方法,其特征在于,还包括:当在所述缓存中未查找到所述目标业务的业务标识的情况下,从所述全部从库中的任意从库读取所述目标业务的数据。
8.根据权利要求1所述的方法,其特征在于,还包括:当在所述缓存中未查询到所述目标业务对应的已同步从库集合的情况下,从所述主库读取所述目标业务的数据。
9.一种数据读取的装置,其特征在于,包括:
业务标识查找模块,用于在缓存中查找目标业务的业务标识,当所述目标业务的数据由主库尚未同步到全部从库时,所述目标业务的业务标识存在于所述缓存中;
从库集合查询模块,用于当查找到所述目标业务的业务标识后,根据所述目标业务的业务标识,在缓存中查询所述目标业务对应的已同步从库集合,所述已同步从库集合为同步完所述目标业务的数据的从库构成的集合;
业务数据读取模块,用于从查询到的所述已同步从库集合中的从库读取所述目标业务的数据。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
11.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-8中任一所述的方法。
CN202011262436.XA 2020-11-12 2020-11-12 一种数据读取方法和装置 Active CN113760860B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011262436.XA CN113760860B (zh) 2020-11-12 2020-11-12 一种数据读取方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011262436.XA CN113760860B (zh) 2020-11-12 2020-11-12 一种数据读取方法和装置

Publications (2)

Publication Number Publication Date
CN113760860A true CN113760860A (zh) 2021-12-07
CN113760860B CN113760860B (zh) 2023-09-22

Family

ID=78785993

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011262436.XA Active CN113760860B (zh) 2020-11-12 2020-11-12 一种数据读取方法和装置

Country Status (1)

Country Link
CN (1) CN113760860B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140143581A1 (en) * 2012-11-21 2014-05-22 Sandeep Garg System for data transfer between asynchronous clock domains
CN107291869A (zh) * 2014-04-14 2017-10-24 五八同城信息技术有限公司 一种分布式服务系统数据查询的方法
CN107423303A (zh) * 2016-05-24 2017-12-01 北京京东尚科信息技术有限公司 数据同步的方法和系统
CN110019527A (zh) * 2017-12-20 2019-07-16 腾讯科技(深圳)有限公司 从库读取方法、相关装置和设备
CN110909022A (zh) * 2018-09-14 2020-03-24 北京京东尚科信息技术有限公司 一种数据查询方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140143581A1 (en) * 2012-11-21 2014-05-22 Sandeep Garg System for data transfer between asynchronous clock domains
CN107291869A (zh) * 2014-04-14 2017-10-24 五八同城信息技术有限公司 一种分布式服务系统数据查询的方法
CN107423303A (zh) * 2016-05-24 2017-12-01 北京京东尚科信息技术有限公司 数据同步的方法和系统
CN110019527A (zh) * 2017-12-20 2019-07-16 腾讯科技(深圳)有限公司 从库读取方法、相关装置和设备
CN110909022A (zh) * 2018-09-14 2020-03-24 北京京东尚科信息技术有限公司 一种数据查询方法和装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
张莹等: "基于Mycat的大数据存储研究", 电子设计工程, pages 1 - 6 *
杨明珉;陈勇;: "MySQL集群到Oracle数据库的数据同步方法", 计算机系统应用, no. 06 *

Also Published As

Publication number Publication date
CN113760860B (zh) 2023-09-22

Similar Documents

Publication Publication Date Title
CN110019350B (zh) 基于配置信息的数据查询方法和装置
CN108846753B (zh) 用于处理数据的方法和装置
CN107704202B (zh) 一种数据快速读写的方法和装置
CN109492053B (zh) 用于访问数据的方法和装置
CN110909022A (zh) 一种数据查询方法和装置
CN112948498A (zh) 一种分布式系统全局标识的生成方法和装置
CN110716956A (zh) 一种数据请求拦截方法和装置
CN114817146A (zh) 一种处理数据的方法和装置
CN111338834A (zh) 数据存储方法和装置
CN110110184B (zh) 信息查询方法、系统、计算机系统及存储介质
CN111444148A (zh) 基于MapReduce的数据传输方法和装置
CN111949648A (zh) 内存缓存数据系统和数据索引方法
CN113760860B (zh) 一种数据读取方法和装置
CN112711572B (zh) 适用于分库分表的在线扩容方法和装置
CN110543520B (zh) 一种数据迁移的方法和装置
CN113127416A (zh) 数据查询方法和装置
CN113704242A (zh) 一种数据处理方法和装置
CN113515504B (zh) 数据管理方法、装置、电子设备以及存储介质
US20220191104A1 (en) Access management for a multi-endpoint data store
CN113420037B (zh) 资产数据实时变更方法及装置
US11379147B2 (en) Method, device, and computer program product for managing storage system
US20240028593A1 (en) In-memory graph query engine with persisted storage
CN110750410B (zh) 一种监听数据库日志的方法和装置
CN109710673B (zh) 作品处理方法、装置、设备和介质
CN114896206A (zh) 一种对象存储文件系统的检索方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant