CN107895049A - 数据处理方法及装置、计算机可读存储介质、电子设备 - Google Patents
数据处理方法及装置、计算机可读存储介质、电子设备 Download PDFInfo
- Publication number
- CN107895049A CN107895049A CN201711269333.4A CN201711269333A CN107895049A CN 107895049 A CN107895049 A CN 107895049A CN 201711269333 A CN201711269333 A CN 201711269333A CN 107895049 A CN107895049 A CN 107895049A
- Authority
- CN
- China
- Prior art keywords
- data
- newly
- database instance
- increased
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2471—Distributed queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
Abstract
本发明实施例是关于一种数据处理方法及装置,属于数据处理技术领域,该方法包括:接收增加数据请求,并根据所述增加数据请求建立新增数据和数据库实例的映射关系;将所述新增数据和数据库实例的映射关系存储至元数据数据库中;根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中。该方法通过根据映射关系将新增数据存储至数据库实例中,避免了由于数据库实例的存储空间不足而需要将数据存储在多个数据库实例中引起的数据重复复制的问题,减少了由于数据重复复制带来的冗余数据,进一步的减少了数据库实例的浪费并降低了数据管理的复杂程度。
Description
技术领域
本发明实施例涉及数据处理技术领域,具体而言,涉及一种数据处理方法、数据处理装置、计算机可读存储介质以及电子设备。
背景技术
随着互联网的不断发展以及创新,互联网保险也越来越广泛的出现在广大用户的视线中。
在互联网保险中,许多场景保险在上线瞬间峰值及数据量会非常大。例如,某保险公司的在线微信公众号有1000多万粉丝,一次营销活动产生的数据量可以达到5000万左右;但是,瞬间剧增的数据量会给数据库以及整个系统带来极大的负担。其中,场景保险可以包括:航班延误险、以及健康险等等,每天数据量可以达到千万级别。因此,为了可以解决瞬间剧增的数据量会给数据库带来的负担,可以通过数据库的弹性扩展并对数据库进行物理切分(也就是要把数据切分到多个数据库实例)来解决。在现有的解决方案中,通过对数据库ID进行hash取模切分来实现,但是由于hash规则是固定的,因此很难实现弹性扩展。
因此,需要提供一种新的数据处理方法。
需要说明的是,在上述背景技术部分发明的信息仅用于加强对本发明的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明的目的在于提供一种数据处理方法、数据处理装置、计算机可读存储介质以及电子设备,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的数据库实例浪费的问题。
根据本发明实施例的一个方面,提供一种数据处理方法,包括:
接收增加数据请求,并根据所述增加数据请求建立新增数据和数据库实例的映射关系;
将所述新增数据和数据库实例的映射关系存储至元数据数据库中;
根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中。
可选地,根据所述增加数据请求建立新增数据和数据库实例的映射关系具体为:
判断存储所述新增数据所占用的存储空间是否大于数据库集群的剩余存储空间;
根据判断结果以及预设分配规则建立所述新增数据与新增数据库实例或者与所述数据库集群中数据库实例的映射关系。
可选地,根据判断结果以及预设分配规则建立所述新增数据与新增数据库实例或者与所述数据库集群中数据库实例的映射关系具体为:
在判断存储所述新增数据所占用的存储空间大于数据库集群的剩余存储空间时,增加新的数据库实例并根据所述预设分配规则建立所述新增数据与所述新增数据库实例的映射关系;
其中,所述新增数据库实例为一个数据库实例或多个数据库实例。
可选地,其特征在于,根据判断结果以及预设分配规则建立所述新增数据与新增数据库实例或者与所述数据库集群中数据库实例的映射关系具体为:
在判断存储所述新增数据所占用的存储空间不大于数据库集群的剩余存储空间时,根据所述预设分配规则建立所述新增数据与所述数据库集群中存储空间有剩余的数据库实例的映射关系。
可选地,所述预设分配规则为分配所述新增数据后,所述数据库集群中各个数据库实例中被分配的数据为平均分配。
可选地,在增加新的数据库实例之后,所述数据处理方法还包括:
更新所述数据库集群的数据库实例管理信息;
其中,所述数据库实例管理信息包括所述数据库集群中各个数据库实例的标识信息。
可选地,所述元数据数据库中存储的数据还包括:所述数据库实例的标识信息、存储在所述数据库实例中的数据的标识信息以及数据与数据库实例的映射关系。
可选地,在根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中之后,所述数据处理方法还包括:
接收数据查询请求并根据所述数据查询请求获取待查询数据的标识信息;其中,所述待查询数据为所述数据库集群中存储的数据;
根据所述待查询数据的标识信息、所述数据与数据库实例的映射关系进行查询,得到所述待查询数据所在的数据库实例的标识信息;
根据所述待查询数据所在的数据库实例的标识信息在所述数据库集群中进行查询,得到与所述待查询数据相对应的数据库实例。
根据本发明实施例的一个方面,提供一种数据处理装置,包括:
映射关系建立模块,用于接收增加数据请求,并根据所述增加数据请求建立新增数据和数据库实例的映射关系;
映射关系存储模块,用于将所述新增数据和数据库实例的映射关系存储至元数据数据库中;
新增数据存储模块,用于根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中。
根据本发明实施例的一个方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以上所述的数据处理方法。
根据本发明实施例的一个方面,提供一种电子设备,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行以上所述的数据处理方法。
本发明实施例一种数据处理方法及装置,通过根据所述增加数据请求建立新增数据和数据库实例的映射关系并将映射关系存储至元数据数据库中;再根据新增数据和数据库实例的映射关系将新增数据存储到相应的数据库实例中;一方面,通过建立新增数据和数据库实例的映射关系,并将映射关系存储至元数据数据库中,然后再根据映射关系将数据存储至数据库实例中,解决了现有技术方案中数据库实例较难实现弹性扩展的问题,提高了新增数据存储的效率,同时减小了数据库的压力;另一方面,通过根据映射关系将新增数据存储至数据库实例中,避免了由于数据库实例的存储空间不足而需要将数据存储在多个数据库实例中引起的数据重复复制的问题,减少了由于数据重复复制带来的冗余数据,进一步的减少了数据库实例的浪费并降低了数据管理的复杂程度。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示意性示出一种数据处理方法的流程图。
图2示意性示出一种数据处理方法的原理框图。
图3示意性示出一种建立新增数据与数据库实例之间的映射关系的方法流程图。
图4示意性示出一种数据查询的方法流程图。
图5示意性示出一种数据处理装置的框图。
图6示意性示出一种用于实现上述数据处理方法的电子设备。
图7示意性示出一种用于存储上述数据处理方法的计算机可读存储介质。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本发明的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本发明的各方面变得模糊。
此外,附图仅为本发明的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
在一种实现数据库弹性扩展的技术方案中,可以对数据库ID进行hash取模切分来实现。但是,由于hash规则是固定的,较难实现弹性扩展。举例而言:
例如,由于对数据量的评估不足,规定的hash规则是对4台数据库实例取模(server1、server2、server3、server4);而实际数据量远远超过当时的评估,需要对数据库实例进行再次横向扩展,为了保持对之前hash规则查询的兼容性,需要增加到8台数据库实例(server1-1、server1-2、server2-1、server2-2、server3-1、server3-2、server4-1、server4-2)。进一步的,为了使得新hash规则能够查询到之前的数据,需要把server1的数据复制到server1-1和server1-2,而这部分数据是完全冗余的,目的仅仅是为了hash规则变化能够查询到之前的数据。因此,随着业务的发展,当扩展到16台数据库实例的时候,这部分数据还需要复制到server1-1-1、server1-1-2、server2-1-1、server2-1-2,也就是说随着业务发展,为了横向扩展,这些数据复制呈指数级别进行增长,从而造成数据空间的大量浪费,并增加了数据的管理复杂度。
本发明实施例实施方式中首先提供了一种数据处理方法,该方法可以运行于服务器、服务器集群或云服务器等;当然,本领域技术人员也可以根据需求在其他平台运行本发明的方法,本发明实施例对此不做特殊限定。参考图1所示,该数据处理方法可以包括以下步骤:
步骤S110.接收增加数据请求,并根据所述增加数据请求建立新增数据和数据库实例的映射关系。
步骤S120.将所述新增数据和数据库实例的映射关系存储至元数据数据库中。
步骤S130.根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中。
上述数据处理方法中,一方面,通过建立新增数据和数据库实例的映射关系,并将映射关系存储至元数据数据库中,然后再根据映射关系将数据存储至数据库实例中,解决了现有技术方案中数据库实例较难实现弹性扩展的问题,提高了新增数据存储的效率,同时减小了数据库的压力;另一方面,通过根据映射关系将新增数据存储至数据库实例中,避免了由于数据库实例的存储空间不足而需要将数据存储在多个数据库实例中引起的数据重复复制的问题,减少了由于数据重复复制带来的冗余数据,进一步的减少了数据库实例的浪费,并降低了数据管理的复杂程度。
下面,将对本发明实施例实施方式中上述数据处理方法中的各步骤进行详细的解释以及说明。
在步骤S110中,接收增加数据请求,并根据所述增加数据请求建立新增数据和数据库实例的映射关系,具体步骤参见图3所示。
首先,对数据库实例进行简单的解释以及说明。数据库实例可以是数据库服务器,不同的数据库服务器可以理解为不同的数据库实例。进一步的,数据库实例可以分配在不同的机器上,也可以分配在同一个机器上;其中,在相同的机器上各数据库实例的名称不能相同。更进一步的,一个数据库实例上可以有不同的数据库,数据库可以放在同一个数据库实例上,也可以放在不同的数据库实例上。
其次,基于上述数据库实例对步骤S110进行解释以及说明。参考图2所示,服务器101接收客户端102(可以是一个客户端也可以是多个客户端)发送的增加数据请求,然后再根据该增加数据请求建立新增数据与数据库实例之间的映射关系。此处需要补充说明的是,一个客户端可以发送一个新增数据也可以发送多个新增数据,本发明实施例对此不做特殊限制。
进一步的,参考图3所示,建立新增数据与数据库实例之间的映射关系可以包括步骤S1102以及步骤S1104。其中:
在步骤S1102中,判断存储所述新增数据所占用的存储空间是否大于数据库集群的剩余存储空间。详细而言:
参考图2所示,当服务器101接收到客户端102发送的一个或者多个新增数据后,先计算接收到的一个或者多个新增数据所占用的内存总和,再根据该内存总和判断数据库集群103中的剩余存储空间是否大于该内存总和。
在步骤S1104中,根据判断结果以及预设分配规则建立所述新增数据与新增数据库实例或者与所述数据库集群中数据库实例的映射关系。其中,根据判断结果以及预设分配规则建立映射关系可以包括步骤以下步骤。
首先,在判断存储所述新增数据所占用的存储空间大于数据库集群的剩余存储空间时,增加新的数据库实例并根据所述预设分配规则建立所述新增数据与所述新增数据库实例的映射关系;其中,所述新增数据库实例为一个数据库实例或多个数据库实例。详细而言:
在判断存储上述新增数据所占用的存储空间大于数据库集群的剩余存储空间时,可以增加一个或者多个新的数据库实例,然后根据预设分配规则建立新增数据与新增数据库实例之间的映射关系;其中,上述预设关系可以是分配新增数据后,数据库集群中各个数据库实例中被分配的数据(可以包括原来存储的数据以及分配的新增数据)为平均分配;进一步的,该平均分配可以是近似平均分配也可以是绝对平均分配,本发明实施例对此不做特殊限制。举例而言:
例如,新增了三个数据库实例,数据库集群中的原有的数据库实例还有剩余的存储空间,可以根据各新增的数据库实例的存储空间、原有的数据库实例的剩余存储空间以及原有的数据库实例中已经存储的数据量,将新增数据分配至新增数据库实例以及原有的数据库实例中,使得分配后新增数据库实例中存储的数据量与原有数据库实例中存储的数据量可以平均或者近似平均;
又例如,当原有数据库实例中剩余的存储空间过小时,例如仅剩余1M或者零点几M时,可以将新增数据直接平均或近似平均分配至三个新增数据库实例中,使得各新增数据库实例中存储的数据量可以平均或者近似平均。通过该方式,可以避免了某一数据库实例中存储的数据量过大造成数据库实例的负担过重以至崩溃的问题,保证了数据的存储安全。
其次,在判断存储所述新增数据所占用的存储空间不大于数据库集群的剩余存储空间时,根据所述预设分配规则建立所述新增数据与所述数据库集群中存储空间有剩余的数据库实例的映射关系。详细而言:
在判断存储上述新增数据所占用的存储空间不大于数据库集群的剩余存储空间时,将各新增数据分配至数据库集群中的存储空间有剩余的数据库实例中,使得各原始数据库实例中存储的数据量可以平均或者近似平均。进一步的,还需要建立分配到新增数据的原始数据库实例以及被分配到的新增数据的映射关系。此处需要补充说明的是,可以利用新增数据中包括的标识信息(ID)建立新增数据与各数据库实例之间的关系;其中,一个新增数据可以被分配到一个数据库实例中;进一步的,一个数据库实例中可以分配一个新增数据也可以分配多个新增数据,本发明实施例对此不做特殊限制。此外,上述标识信息可以是保单编号或者会员编号,也可以是客户端编号或者其他信息,本发明实施例对此不做特殊限制。
进一步的,当增加了新的数据库实例以后,为了便于对各数据库实例的管理,还需要更新数据库实例管理信息,具体的可以包括:更新所述数据库集群的数据库实例管理信息;其中,所述数据库实例管理信息包括所述数据库集群中各个数据库实例的标识信息。举例而言:
当新增数据库实例以后,可以将数据库实例的标识信息添加至数据库集群中原有的数据库实例的标识信息列表中,以便于在对数据库实例进行查询时,可以根据该标识信息列表中各数据库实例对应的标识信息直接定位到对应的数据库实例上。进一步的,参考图2所示,数据库集群103中的数据库实例可以以数据库实例1,数据库实例2,数据库实例3,……,数据库实例N的排列方式进行并排存储,也可以以其他方式存储,例如以列队的形式进行存储,本发明实施例对此不做特殊限制。
在步骤S120中,将所述新增数据和数据库实例的映射关系存储至元数据数据库中。详细而言:
当上述新增数据和数据库实例的映射关系建立完成以后,需要将新增数据和数据库实例之间的映射关系持久的存储在元数据数据库中;参考图2所示,在元数据数据库104中,新增数据和数据库实例之间的映射关系存储方式可以以:ID1:数据库实例1;ID2:数据库实例2;ID3:数据库实例3;……;IDn:数据库实例n的对应方式进行排列存储,也可以以其他方式进行存储,例如可以是多个ID对应一个数据库实例的方式等等,本发明实施例对此不做特殊限制;其中,上述各ID可以表示各新增数据的标识信息,该标识信息可以是用户的会员编号或者保单编号等等,本发明实施例对此不做特殊限制。进一步的,元数据数据库中存储的数据还可以包括各数据库实例的标识信息(数据库实例1,数据库实例2,……,数据库实例n等等)、存储在数据库实例中的数据的标识信息(ID1,ID2,……,IDn等等)以及所有的数据与数据库实例的映射关系(ID1:数据库实例1,ID2:数据库实例2,……,IDn:数据库实例n等等)等等。
在步骤S130中,根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中。详细而言:
当新增数据和数据库实例之间的映射关系建立完成后,根据该映射关系将新增数据存储到相应的数据库实例中。此处需要进一步补充说明的是,当一个数据库实例中分配到多个新增数据后,需要将各新增数据均存储至该数据库实例中;同时,还需要将各个新增数据对应的标识信息存储至该数据库实例中。通过采用该方式对新增数据进行存储,由于各数据的标识信息与各数据库实例的映射关系持久的存储在元数据数据库中,因此不会影响到原来的数据;当数据库实例的存储空间存在不足时,新增加的数据库实例中也不再需要对原有的数据进行复制,大大的减少了各个数据库实例的存储负担,同时也提升了数据存储的效率,实现了数据库实例的弹性扩展。
进一步的,当数据存储完成以后,还可以对已存储的数据进行查询。参考图4所示,该数据处理方法还可以包括步骤S410-步骤S430。其中:
在步骤S410中,接收数据查询请求并根据所述数据查询请求获取待查询数据的标识信息;其中,所述待查询数据为所述数据库集群中存储的数据。详细而言:
首先,服务器接收客户端发送的数据查询请求;然后,可以根据该数据查询请求获取该数据查询请求中包括的待查询数据的标识信息;进一步的,该待查询数据可以为数据库集群中存储的数据,也可以是数据库集群中不存在的数据,本发明实施例对此不做特殊限制。此处需要补充说明的是,为了便于客户端可以较为快捷的查询到需要查询的信息,服务器在接收到客户端发送的数据查询请求后,可以先判断待查询数据是否存储在数据库集群中;若不存在,则直接将不存在的结果反馈至客户端以节省用户的等待时间;若存在,则进行进一步的查询。
在步骤S420中,根据所述待查询数据的标识信息、所述数据与数据库实例的映射关系进行查询,得到所述待查询数据所在的数据库实例的标识信息。详细而言:
当获取到上述数据查询请求中包括的待查询数据的标识信息后,再根据该待查询数据的标识信息在元数据数据库中查询该待查询数据与数据库实例之间的映射关系;最后再根据该待查询数据与数据库实例之间的映射关系得到该待查询数据所在的数据库实例的标识信息。此处需要进一步补充说明的是,当数据的标识信息(ID1,ID2,……,IDn等等)能够查询到该待查询数据的标识信息时,可以直接根据该标识信息进行查询;当数据的标识信息(ID1,ID2,……,IDn等等)未能查询到该待查询数据的标识信息时,例如仅获得用户姓名或者用户的身份证号或者银行卡号,并未获得数据的标识信息(ID1,ID2,……,IDn等等)时,可以与第三方管理系统进行关联得到数据的标识信息。再进一步的根据数据与数据库的映射关系得到该待查询数据所在的数据库实例的标识信息。
在步骤S430中,根据所述待查询数据所在的数据库实例的标识信息在所述数据库集群中进行查询,得到与所述待查询数据相对应的数据库实例。详细而言:
当获取到待查询数据所在的数据库实例的标识信息后,根据该数据库实例的标识信息在数据库集群中进行查询,得到与待查询数据相对应的数据库实例。例如,获取到的待查询数据所在的数据库实例的标识信息为数据库实例25,则在数据库集群中先找到数据库实例25,再在数据库实例25中查询与待查询数据的标识信息对应的待查询数据。
本发明实施例还提供了一种数据处理装置。参考图5所示,该数据处理装置可以包括映射关系建立模块510、映射关系存储模块520以及新增数据存储模块530。其中:
映射关系建立模块510可以用于接收增加数据请求,并根据所述增加数据请求建立新增数据和数据库实例的映射关系。
映射关系存储模块520可以用于将所述新增数据和数据库实例的映射关系存储至元数据数据库中。
新增数据存储模块530可以用于根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中。
上述数据处理装置中各模块的具体细节已经在对应的数据处理方法中进行了详细想描述,因此此处不再赘述。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本发明中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本发明实施方式的方法。
在本发明的示例性实施例中,还提供了一种能够实现上述方法的电子设备。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图6来描述根据本发明的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:上述至少一个处理单元610、上述至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元610执行,使得所述处理单元610执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元610可以执行如图1中所示的步骤S110:接收增加数据请求,并根据所述增加数据请求建立新增数据和数据库实例的映射关系;S120:将所述新增数据和数据库实例的映射关系存储至元数据数据库中;步骤S130:根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中。
存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器660通过总线630与电子设备600的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本发明实施方式的方法。
在本发明的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。
参考图7所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
此外,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
本领域技术人员在考虑说明书及实践这里发明的发明后,将容易想到本发明的其他实施例。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未发明的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由权利要求指出。
Claims (11)
1.一种数据处理方法,其特征在于,包括:
接收增加数据请求,并根据所述增加数据请求建立新增数据和数据库实例的映射关系;
将所述新增数据和数据库实例的映射关系存储至元数据数据库中;
根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中。
2.根据权利要求1所述的数据处理方法,其特征在于,根据所述增加数据请求建立新增数据和数据库实例的映射关系具体为:
判断存储所述新增数据所占用的存储空间是否大于数据库集群的剩余存储空间;
根据判断结果以及预设分配规则建立所述新增数据与新增数据库实例或者与所述数据库集群中数据库实例的映射关系。
3.根据权利要求2所述的数据处理方法,其特征在于,根据判断结果以及预设分配规则建立所述新增数据与新增数据库实例或者与所述数据库集群中数据库实例的映射关系具体为:
在判断存储所述新增数据所占用的存储空间大于数据库集群的剩余存储空间时,增加新的数据库实例并根据所述预设分配规则建立所述新增数据与所述新增数据库实例的映射关系;
其中,所述新增数据库实例为一个数据库实例或多个数据库实例。
4.根据权利要求2所述的数据处理方法,其特征在于,根据判断结果以及预设分配规则建立所述新增数据与新增数据库实例或者与所述数据库集群中数据库实例的映射关系具体为:
在判断存储所述新增数据所占用的存储空间不大于数据库集群的剩余存储空间时,根据所述预设分配规则建立所述新增数据与所述数据库集群中存储空间有剩余的数据库实例的映射关系。
5.根据权利要求2-4中任一项所述的数据处理方法,其特征在于,所述预设分配规则为分配所述新增数据后,所述数据库集群中各个数据库实例中被分配的数据为平均分配。
6.根据权利要求3所述的数据处理方法,其特征在于,在增加新的数据库实例之后,所述数据处理方法还包括:
更新所述数据库集群的数据库实例管理信息;
其中,所述数据库实例管理信息包括所述数据库集群中各个数据库实例的标识信息。
7.根据权利要求1所述的数据处理方法,其特征在于,所述元数据数据库中存储的数据还包括:
所述数据库实例的标识信息、存储在所述数据库实例中的数据的标识信息以及数据与数据库实例的映射关系。
8.根据权利要求7所述的数据处理方法,其特征在于,在根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中之后,所述数据处理方法还包括:
接收数据查询请求并根据所述数据查询请求获取待查询数据的标识信息;其中,所述待查询数据为所述数据库集群中存储的数据;
根据所述待查询数据的标识信息、所述数据与数据库实例的映射关系进行查询,得到所述待查询数据所在的数据库实例的标识信息;
根据所述待查询数据所在的数据库实例的标识信息在所述数据库集群中进行查询,得到与所述待查询数据相对应的数据库实例。
9.一种数据处理装置,其特征在于,包括:
映射关系建立模块,用于接收增加数据请求,并根据所述增加数据请求建立新增数据和数据库实例的映射关系;
映射关系存储模块,用于将所述新增数据和数据库实例的映射关系存储至元数据数据库中;
新增数据存储模块,用于根据所述新增数据和数据库实例的映射关系将所述新增数据存储到相应的数据库实例中。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-8任一项所述的数据处理方法。
11.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1-8任一项所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711269333.4A CN107895049A (zh) | 2017-12-05 | 2017-12-05 | 数据处理方法及装置、计算机可读存储介质、电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711269333.4A CN107895049A (zh) | 2017-12-05 | 2017-12-05 | 数据处理方法及装置、计算机可读存储介质、电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107895049A true CN107895049A (zh) | 2018-04-10 |
Family
ID=61807064
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711269333.4A Pending CN107895049A (zh) | 2017-12-05 | 2017-12-05 | 数据处理方法及装置、计算机可读存储介质、电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107895049A (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108984639A (zh) * | 2018-06-22 | 2018-12-11 | 联想(北京)有限公司 | 服务器集群的数据处理方法和装置 |
CN110674152A (zh) * | 2019-09-24 | 2020-01-10 | 京东数字科技控股有限公司 | 数据同步方法与装置、存储介质、电子设备 |
CN110765190A (zh) * | 2019-09-30 | 2020-02-07 | 北京淇瑀信息科技有限公司 | 一种数据库集群自动扩容的方法、装置和电子设备 |
CN111143407A (zh) * | 2019-11-08 | 2020-05-12 | 深圳市元征科技股份有限公司 | 一种数据流排序方法、装置、电子设备和存储介质 |
CN111367948A (zh) * | 2020-03-12 | 2020-07-03 | 北京字节跳动网络技术有限公司 | 数据处理方法、装置、电子设备及计算机可读存储介质 |
CN111459974A (zh) * | 2020-03-25 | 2020-07-28 | 奇点新源国际技术开发(北京)有限公司 | 一种资源建模的方法及相关装置 |
CN111782672A (zh) * | 2020-06-30 | 2020-10-16 | 平安银行股份有限公司 | 多领域数据管理方法及相关装置 |
CN111984645A (zh) * | 2020-07-29 | 2020-11-24 | 北京字节跳动网络技术有限公司 | 一种数据处理的方法、装置、介质和电子设备 |
CN112258148A (zh) * | 2020-10-14 | 2021-01-22 | 广东展诚工程咨询有限公司 | 一种基于互联网技术的项目可行性定量评估系统 |
CN112465630A (zh) * | 2020-12-11 | 2021-03-09 | 天冕信息技术(深圳)有限公司 | 指标数据的处理方法、装置、设备及存储介质 |
CN112783860A (zh) * | 2021-01-11 | 2021-05-11 | 网易(杭州)网络有限公司 | 构造镜像数据库的方法、装置、存储介质及计算机设备 |
CN113342814A (zh) * | 2021-06-11 | 2021-09-03 | 上海中通吉网络技术有限公司 | 数据库的实例信息收集方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101105813A (zh) * | 2007-09-11 | 2008-01-16 | 金蝶软件(中国)有限公司 | 一种数据库扩展方法及装置 |
CN104794249A (zh) * | 2015-05-15 | 2015-07-22 | 乐得科技有限公司 | 一种数据库的实现方法和设备 |
CN106302640A (zh) * | 2016-07-27 | 2017-01-04 | 乐视控股(北京)有限公司 | 数据请求处理方法及装置 |
-
2017
- 2017-12-05 CN CN201711269333.4A patent/CN107895049A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101105813A (zh) * | 2007-09-11 | 2008-01-16 | 金蝶软件(中国)有限公司 | 一种数据库扩展方法及装置 |
CN104794249A (zh) * | 2015-05-15 | 2015-07-22 | 乐得科技有限公司 | 一种数据库的实现方法和设备 |
CN106302640A (zh) * | 2016-07-27 | 2017-01-04 | 乐视控股(北京)有限公司 | 数据请求处理方法及装置 |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108984639B (zh) * | 2018-06-22 | 2021-12-24 | 联想(北京)有限公司 | 服务器集群的数据处理方法和装置 |
CN108984639A (zh) * | 2018-06-22 | 2018-12-11 | 联想(北京)有限公司 | 服务器集群的数据处理方法和装置 |
CN110674152A (zh) * | 2019-09-24 | 2020-01-10 | 京东数字科技控股有限公司 | 数据同步方法与装置、存储介质、电子设备 |
CN110674152B (zh) * | 2019-09-24 | 2023-06-23 | 京东科技控股股份有限公司 | 数据同步方法与装置、存储介质、电子设备 |
CN110765190A (zh) * | 2019-09-30 | 2020-02-07 | 北京淇瑀信息科技有限公司 | 一种数据库集群自动扩容的方法、装置和电子设备 |
CN110765190B (zh) * | 2019-09-30 | 2023-09-26 | 北京淇瑀信息科技有限公司 | 一种数据库集群自动扩容的方法、装置和电子设备 |
CN111143407A (zh) * | 2019-11-08 | 2020-05-12 | 深圳市元征科技股份有限公司 | 一种数据流排序方法、装置、电子设备和存储介质 |
CN111367948A (zh) * | 2020-03-12 | 2020-07-03 | 北京字节跳动网络技术有限公司 | 数据处理方法、装置、电子设备及计算机可读存储介质 |
CN111459974A (zh) * | 2020-03-25 | 2020-07-28 | 奇点新源国际技术开发(北京)有限公司 | 一种资源建模的方法及相关装置 |
CN111782672B (zh) * | 2020-06-30 | 2022-09-27 | 平安银行股份有限公司 | 多领域数据管理方法及相关装置 |
CN111782672A (zh) * | 2020-06-30 | 2020-10-16 | 平安银行股份有限公司 | 多领域数据管理方法及相关装置 |
CN111984645A (zh) * | 2020-07-29 | 2020-11-24 | 北京字节跳动网络技术有限公司 | 一种数据处理的方法、装置、介质和电子设备 |
CN111984645B (zh) * | 2020-07-29 | 2023-11-24 | 北京字节跳动网络技术有限公司 | 一种数据处理的方法、装置、介质和电子设备 |
CN112258148A (zh) * | 2020-10-14 | 2021-01-22 | 广东展诚工程咨询有限公司 | 一种基于互联网技术的项目可行性定量评估系统 |
CN112465630A (zh) * | 2020-12-11 | 2021-03-09 | 天冕信息技术(深圳)有限公司 | 指标数据的处理方法、装置、设备及存储介质 |
CN112465630B (zh) * | 2020-12-11 | 2024-03-26 | 天冕信息技术(深圳)有限公司 | 指标数据的处理方法、装置、设备及存储介质 |
CN112783860A (zh) * | 2021-01-11 | 2021-05-11 | 网易(杭州)网络有限公司 | 构造镜像数据库的方法、装置、存储介质及计算机设备 |
CN112783860B (zh) * | 2021-01-11 | 2023-08-08 | 网易(杭州)网络有限公司 | 构造镜像数据库的方法、装置、存储介质及计算机设备 |
CN113342814A (zh) * | 2021-06-11 | 2021-09-03 | 上海中通吉网络技术有限公司 | 数据库的实例信息收集方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107895049A (zh) | 数据处理方法及装置、计算机可读存储介质、电子设备 | |
Bui et al. | Federated user representation learning | |
JP6150816B2 (ja) | 対応するプライマリ・アプリケーションデータから導出される識別子に基づく補足データへのアクセス | |
CN102938784A (zh) | 应用于分布式存储系统中的数据存储方法和系统 | |
WO2014194642A1 (en) | Systems and methods for matching users | |
CN105282015A (zh) | 网络好友获取方法和装置 | |
CN103119551A (zh) | 优化的恢复 | |
CN110365796A (zh) | 业务请求处理方法、装置 | |
CN109902114A (zh) | Es集群数据复用方法、系统、计算机装置及存储介质 | |
CN109800234A (zh) | 业务平台数据库系统、升级方法、设备及存储介质 | |
CN112099997A (zh) | 文件存储方法和电子设备 | |
CN109451079A (zh) | 一种云u盘及其存储方法和存储系统 | |
CN109213565B (zh) | 异构虚拟计算资源的管理方法、相关设备及存储介质 | |
CN106375334A (zh) | 一种分布式系统的认证方法 | |
US8826026B2 (en) | Systems and methods for tracking electronic files in computer networks using electronic signatures | |
CN108365949A (zh) | 客户实名制信息管理方法、装置及系统 | |
CN105637471A (zh) | 用于对存储环境进行监测和控制的方法及设备 | |
WO2021051569A1 (zh) | 一种数据隔离方法、装置、计算机设备及存储介质 | |
CN109842482A (zh) | 一种信息同步方法、系统及终端设备 | |
KR20180004794A (ko) | 관계 체인 처리 방법 및 시스템, 그리고 저장 매체 | |
CN108062277B (zh) | 一种电子凭据数据访问方法、装置及系统 | |
KR20210009007A (ko) | 상담 내용을 요약하는 서버, 방법 및 상담 내용의 요약을 요청하는 상담원 단말 | |
US11727022B2 (en) | Generating a global delta in distributed databases | |
CN109189763A (zh) | 一种数据存储方法、装置、服务器及存储介质 | |
CN115510116A (zh) | 数据目录构建方法、装置、介质及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180410 |