CN109992416B - 基于预计算olap模型的多租户服务方法及装置 - Google Patents

基于预计算olap模型的多租户服务方法及装置 Download PDF

Info

Publication number
CN109992416B
CN109992416B CN201910213882.2A CN201910213882A CN109992416B CN 109992416 B CN109992416 B CN 109992416B CN 201910213882 A CN201910213882 A CN 201910213882A CN 109992416 B CN109992416 B CN 109992416B
Authority
CN
China
Prior art keywords
tenant
service
resource group
hadoop cluster
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910213882.2A
Other languages
English (en)
Other versions
CN109992416A (zh
Inventor
颜磊
李扬
韩卿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yunyun Shanghai Information Technology Co ltd
Original Assignee
Yunyun Shanghai Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yunyun Shanghai Information Technology Co ltd filed Critical Yunyun Shanghai Information Technology Co ltd
Priority to CN201910213882.2A priority Critical patent/CN109992416B/zh
Publication of CN109992416A publication Critical patent/CN109992416A/zh
Application granted granted Critical
Publication of CN109992416B publication Critical patent/CN109992416B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061Partitioning or combining of resources

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请公开了一种基于预计算OLAP模型的多租户服务方法及装置。该方法根据包括至少一个服务实例的资源组,对多个租户提供服务,所述方法包括:将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,以使租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。本申请解决了资源利用率较为低下的的技术问题。通过本申请确保数据隔离,且服务实例的个数不会随着租户的增加而增加。此外,本申请可在多租户架构场景中使用。

Description

基于预计算OLAP模型的多租户服务方法及装置
技术领域
本申请涉及计算机、数据分析领域,具体而言,涉及一种基于预计算OLAP模型的多租户服务方法及装置。
背景技术
通过搭建预计算OLAP系统的多维分析平台,可以让多个用户在同一个平台上进行建模开发,从而加速多维分析。
发明人发现,在现有预计算OLAP模型的多租户部署方案中,需要配置每个租户对应的服务实例,一旦租户很多,就需要启动对应个数的服务实例,需要占用的资源很多,从而造成资源浪费。进一步,每次在部署租户时需要初始化和配置实例,增加了工作负担。
针对相关技术中资源利用率较为低下的问题,目前尚未提出有效的解决方案。
发明内容
本申请的主要目的在于提供一种基于预计算OLAP模型的多租户服务方法及装置,以解决资源利用率较为低下的问题。
为了实现上述目的,根据本申请的一个方面,提供了一种基于预计算OLAP模型的多租户服务方法,根据包括至少一个服务实例的资源组,对多个租户提供服务。
根据本申请的基于预计算OLAP模型的多租户服务方法,包括:将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,以使租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。
进一步地,所述预计算OLAP模型包括:建模系统、预计算系统和查询系统,所述建模系统,用于进行模型开发和数据立方体设计;所述预计算系统,用于根据所述模型对数据仓库中的数据进行预聚合并保存预计算数据立方体结果;所述查询系统,用于对预计算数据立方体结果进行查询。
进一步地,租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限包括:第一租户在执行获取有权限的数据的操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。
进一步地,租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限包括:第二租户在执行构建操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。
进一步地,租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限包括:第三租户在执行查询操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。
进一步地,所述预计算OLAP模型中的每个子系统中按照不同角色配置不同的资源组,每个所述资源组中部署至少一个服务实例,所述资源组被配置为开发模式、构建模式或者查询模式的角色模式。
进一步地,将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后还包括:根据预设租户优先级路由到对应的所述资源组中,并按照不同优先级请求返回实例服务结果,以使所述资源组中的服务实例可以支持不同预设租户优先级的租户进行使用。
进一步地,将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后还包括:根据不同服务请求路由到对应的所述资源组中,并按照不同服务请求返回实例服务结果,以使所述资源组中的服务实例可以支持不同服务请求的租户进行使用。
进一步地,将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后还包括:根据单个资源组与多个租户的映射关系路由到对应的所述资源组中,并按照单个资源组与多个租户的映射关系返回实例服务结果,以使所述资源组中的服务实例可以支持单个资源组与多个租户的映射关系的租户进行使用。
为了实现上述目的,根据本申请的另一方面,提供了一种基于预计算OLAP模型的多租户服务装置,根据包括至少一个服务实例的资源组,对多个租户提供服务。
根据本申请的基于预计算OLAP模型的多租户服务装置包括:资源组服务模块,用于将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,以使租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。
在本申请实施例中基于预计算OLAP模型的多租户服务方法及装置,采用根据包括至少一个服务实例的资源组,对多个租户提供服务的方式,通过将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,达到了使租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限的目的,从而实现了确保数据隔离,且服务实例的个数不会随着租户的增加而增加的技术效果,进而解决了资源利用率较为低下的技术问题。
附图说明
构成本申请的一部分的附图用来提供对本申请的进一步理解,使得本申请的其它特征、目的和优点变得更明显。本申请的示意性实施例附图及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1是根据相关技术的多租户集群拓扑示意图;
图2是根据相关技术的服务实例和集群的交互示意图;
图3是根据本申请实施例的服务实例与Hadoop用户解绑示意图;
图4是根据本申请实施例的基于预计算OLAP系统的多租户集群拓扑示意图;
图5是根据本申请实施例的配置资源组中的角色模式示意图;
图6是根据本申请实施例的预计算OLAP系统解耦示意图;
图7是根据本申请实施例的查询资源组支持不同优先级的使用场景示意图;
图8是根据本申请实施例的基于预计算OLAP模型的多租户服务装置结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
如图3所示,本申请中的基于预计算OLAP模型的多租户服务方法,根据包括至少一个服务实例的资源组,对多个租户提供服务,将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,以使租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。在确保数据隔离的同时,服务实例的个数不会随着租户的增加而增加。
具体地,为了提高资源利用率,单个服务实例可以支持不同租户的使用。在管理租户时,会绑定对应Hadoop集群的用户,而服务实例在运行时绑定的是Hadoop超级用户。
在租户每次去执行开发、构建或者查询时,服务实例都会只能访问该用户所对应Hadoop用户的数据权限从而确保数据隔离,且服务实例的个数不会随着租户的增加而增加。
对于现有的多租户服务方法中,如图2所示,每个OLAP的服务实例在部署时需要配置该实例所服务的租户,同时需要配置Hadoop集群的kerberos用户,在启动初始化后,该服务实例所执行的操作,包括获取有权限的数据,执行Cube构建和Cube查询操作,都会使用该kerberos用户。同时,由于每个租户的实例所使用的Hadoop用户都不相同,而每个kerberos用户所具有的权限都不相同,这样则实现了租户之间的数据隔离。
如图3所示,本申请实施例中的方法,通过将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,可以使得每个子系统以资源组形式服务多租户场景,并且每个资源组可独立升缩、线性扩容,提高了整个集群的资源利用率。同时,在使用时控制租户能使用到的数据资源,完成隔离数据,在构建时设置资源队列,控制资源隔离。
从以上的描述中,可以看出,本申请实现了如下技术效果:
在本申请实施例中基于预计算OLAP模型的多租户服务方法及装置,采用根据包括至少一个服务实例的资源组,对多个租户提供服务的方式,通过将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,达到了使租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限的目的,从而实现了确保数据隔离,且服务实例的个数不会随着租户的增加而增加的技术效果,进而解决了资源利用率较为低下的技术问题。
根据本申请实施例,作为本实施例中的优选,如图4所示,所述预计算OLAP模型包括:建模系统、预计算系统和查询系统,所述建模系统,用于进行模型开发和数据立方体设计;所述预计算系统,用于根据所述模型对数据仓库中的数据进行预聚合并保存预计算数据立方体结果;所述查询系统,用于对预计算数据立方体结果进行查询。
具体地,在本申请的实施例中提供了解耦的预计算OLAP系统,子系统包括至少三个,其具体为:建模系统100、预计算系统200、查询系统300,在所述建模子系统、预计算子系统、查询子系统间相互并不不共享任何数据和元数据,只通过文件交换的形式沟通。从而达到在超大型企业中跨网络部署的目的,即子系统间可以网络隔离,只保留文件上传下载通道,最大化安全隔离性和部署灵活性。
作为本实施例中的优选,所述子系统包括:建模系统100、预计算系统200和查询系统300,所述建模系统100,用于进行模型开发和数据立方体设计;所述预计算系统200,用于根据所述模型对数据仓库中的数据进行预聚合并保存预计算数据立方体结果;所述查询系统300,用于对预计算数据立方体结果进行查询。优选地,三个所述子系统之间通过解耦隔离时,不共享每个所述子系统中的数据和元数据。
根据本申请实施例,作为本实施例中的优选,如图3所示,租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限包括:第一租户在执行获取有权限的数据的操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。由于将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,在第一租户执行相关获取有权限的数据的操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。
需要注意的是,所述有权限的数据按照租户的预设优先级确定,在本申请的实施例中并不进行限定。
根据本申请实施例,作为本实施例中的优选,如图3所示,租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限包括:第二租户在执行构建操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。由于将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,在第一租户执行构建操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。所述构建操作是指通过所述建模系统,进行模型开发和数据立方体设计。
需要注意的是,所述构建操作按照租户的分析需求确定,在本申请的实施例中并不进行限定。
根据本申请实施例,作为本实施例中的优选,如图3所示,租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限包括:第三租户在执行查询操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。由于将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,在第一租户执行查询操作所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限。所述查询操作是指通过所述查询系统,对预计算数据立方体结果进行查询。
需要注意的是,所述查询操作按照租户的使用场景确定,在本申请的实施例中并不进行限定。
根据本申请实施例,作为本实施例中的优选,如图5所示,所述预计算OLAP模型中的每个子系统中按照不同角色配置不同的资源组,每个所述资源组中部署至少一个服务实例,所述资源组被配置为开发模式、构建模式或者查询模式的角色模式。
具体地,通过重构资源组,并且以资源组形式服务多个租户,以资源组形式服务多个租户,从而在所述服务实例的部署方式与所述租户的个数不会有相关联性。区别于,现有基于预计算OLAP系统的多租户架构,如图1所示,服务实例和租户是完全绑定的形式。如果在租户增多的情况下,服务实例需要部署非常多的实例。所以为了提高资源利用率,在本申请实施例中每个所述子系统中按照不同角色配置不同的所述资源组,从而资源组中包括至少的一个服务实例可以支持不同租户的使用。
根据本申请实施例,作为本实施例中的优选,如图3所示,将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后还包括:根据预设租户优先级路由到对应的所述资源组中,并按照不同优先级请求返回实例服务结果,以使所述资源组中的服务实例可以支持不同预设租户优先级的租户进行使用。
具体地,如图7所示,本申请实施例中的预计算OLAP系统作为一个能支持多租户使用的多维分析平台,在租户之间的在查询时一般会有优先级的区分,对于每个查询的资源组,允许按照需求配置所述服务实例的个数。负载均衡模块会根据查询用户所设定的优先级自动路由到不同的查询资源组中,满足不同优先级的查询请求。
需要注意的是,由于允许按照需求配置所述服务实例的个数,且在资源组中包括至少一个实例服务,故,所述资源组中的服务实例可以支持不同预设租户优先级的租户进行使用。在本申请中并不对于具体的实例服务数量或者类型进行,只要能够满足预设优先级查询请求的条件即可。
根据本申请实施例,作为本实施例中的优选,如图3所示,将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后还包括:根据不同服务请求路由到对应的所述资源组中,并按照不同服务请求返回实例服务结果,以使所述资源组中的服务实例可以支持不同服务请求的租户进行使用。
具体地,如图7所示,本申请实施例中的预计算OLAP系统作为一个能支持多租户使用的多维分析平台,在租户之间的在查询时一般会不同服务请求,对于每个查询的资源组,允许按照需求配置所述服务实例的个数。负载均衡模块会根据不同服务请求自动路由到不同的查询资源组中,满足不同优先级的查询请求。所述不同服务请求可以根据实景场景或需求进行确定。
需要注意的是,由于允许按照需求配置所述服务实例的个数,且在资源组中包括至少一个实例服务,故,所述资源组中的服务实例可以支持不同服务请求的租户进行使用。在本申请中并不对于具体的实例服务数量或者类型进行限定,只要能够满足不同服务请求的条件即可。
根据本申请实施例,作为本实施例中的优选,如图3所示,将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后还包括:根据单个资源组与多个租户的映射关系路由到对应的所述资源组中,并按照单个资源组与多个租户的映射关系返回实例服务结果,以使所述资源组中的服务实例可以支持单个资源组与多个租户的映射关系的租户进行使用。
具体地,如图7所示,本申请实施例中的预计算OLAP系统作为一个能支持多租户使用的多维分析平台,在租户之间的在查询时一般会存在单个资源组与多个租户的映射关系,对于每个查询的资源组,允许按照需求配置所述服务实例的个数。负载均衡模块会根据单个资源组与多个租户的映射关系自动路由到不同的查询资源组中,满足不同优先级的查询请求。所述单个资源组与多个租户的映射关系通产可以是指,单个资源组与多个租户之间的映射关系。
需要注意的是,由于允许按照需求配置所述服务实例的个数,且在资源组中包括至少一个实例服务,故,所述资源组中的服务实例可以支持单个资源组与多个租户的映射关系的租户进行使用。在本申请中并不对于具体的实例服务数量或者类型进行,只要能够满足单个资源组与多个租户的映射关系的条件即可。
在上述操作中,通过设置所述资源组的优先级和/或查询场景,以使预计算OLAP系统在部署、开发和查询时更加灵活高效。
需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
根据本申请实施例,还提供了一种用于实施上述基于预计算OLAP模型的多租户服务方法的装置1,根据包括至少一个服务实例的资源组,对多个租户提供服务,如图8所示,该装置1包括:资源组服务模块11,用于将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,以使租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限
本申请实施例的资源组服务模块100中具体地,为了提高资源利用率,单个服务实例可以支持不同租户的使用。在管理租户时,会绑定对应Hadoop集群的用户,而服务实例在运行时绑定的是Hadoop超级用户。
在租户每次去执行开发、构建或者查询时,服务实例都会只能访问该用户所对应Hadoop用户的数据权限从而确保数据隔离,且服务实例的个数不会随着租户的增加而增加。
本申请实施例中的方法,通过将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,可以使得每个子系统以资源组形式服务多租户场景,并且每个资源组可独立升缩、线性扩容,提高了整个集群的资源利用率。同时,在使用时控制租户能使用到的数据资源,完成隔离数据,在构建时设置资源队列,控制资源隔离。
显然,本领域的技术人员应该明白,上述的本申请的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本申请不限制于任何特定的硬件和软件结合。
本申请的实现原理:
以下通过结合附图1-7对本申请的实现原理进行详细说明。
如图1所示,传统的多租户技术,都是针对不同用户部署不同的工具服务实例,让不同服务实例,单独服务于不同用户。这样每个用户在运行自己的构建或查询任务,都有自己单独的服务实例进行支撑,且配置不同的Hadoop kerberos用户,这样用户在进行模型开发时只使用了自己的认证文件,只能访问自己的数据。这样使得不同用户间的权限和数据隔离变的可能。而当启用不同服务实例服务不同用户,虽然能完全实现多租户,达到数据隔离,当用户多的情况,OLAP预计算工具服务实例就需要部署很多,这样需要很多的计算资源,且每个用户的使用频次和对资源的要求不一致,使得部分服务实例得不到充分的使用,导致了极大的资源浪费。同时预计算OLAP系统中的建模、构建、查询工具都耦合在一起,不能根据实际环境隔离部署,在开发使用时不够灵活。
具体地,以金融行业的IT报表开发模式为例,其数仓开发团队需要服务于不同的业务部门,所以数仓团队也有不同的IT部门,每个部门都需要共同使用预计算OLAP平台的资源,但需要实现每个部门的数据和权限的隔离。多用户的环境下共用相同的系统或程序组件,并且仍可确保各用户间数据的隔离性,这个称之为多租户。传统的多租户环境每个租户需要配备固定的Service instance(服务实例),各自使用对应权限的Hadoop集群的kerberos用户。当Cube构建作业或查询任务发起时,Load Balance服务会自动转发请求到对应的租户的服务实例中运行并返回结果。
如图2所示,每个预计算OLAP系统的服务实例,在部署时需要配置该实例所服务的租户,同时需要配置hadoop集群的kerberos用户,在启动初始化后,该服务实例所执行的操作,包括获取有权限的数据,执行Cube构建和Cube查询操作,都会使用该kerberos用户。由图2中可以看出,由于每个租户的实例所使用的hadoop用户都不相同,而每个kerberos用户所具有的权限都不相同,这样则实现了租户之间的数据隔离。
针对上述缺陷分析可知,在传统的基于预计算OLAP系统中的多租户部署方案中,需要配置每个租户对应的服务实例,如果租户很多,则需要启动对应个数的服务实例,需要占用的资源很多。此外,租户在实际使用时,有的租户构建和查询的任务相对较少,启动的服务实例占用了集群的资源,但几乎不被使用,导致了极大的浪费,部署租户时需要初始化和配置实例。
另外,由于在现有的预计算OLAP系统中的建模、构建、查询工具都耦合在一起,不能根据实际环境隔离部署,在开发使用时不够灵活。
如图3所示,本申请在已有的预计算OLAP系统的多租户架构的基础上,采用解耦预计算OLAP系统中的三大子系统,包括建模系统、预计算系统、查询系统。子系统间不共享任何数据和元数据,只通过文件交换的形式沟通。达到在超大型企业中跨网络部署的目的,即子系统间可以网络隔离,只保留文件上传下载通道,最大化安全隔离性和部署灵活性。从而达到在超大型企业中跨网络部署的目的,即子系统间可以网络隔离,只保留文件上传下载通道,最大化安全隔离性和部署灵活性。
如图3所示是基于预计算OLAP系统的多租户架构方案,可以有效解决现有技术方案的缺陷,用固定的资源组配置方案,服务于更多的租户使用,在解耦架构的同时提高集群的资源的利用率。
由于在传统的多租户架构中,服务实例和租户是完全绑定的形式,这样租户多的情况下,服务实例需要部署非常多的实例。所以为了提高资源利用率,单个服务实例可以支持不同租户的使用。如图4所示,是基于预计算OLAP系统以资源组形式服务多个租户的应用场景,具体地,租户在管理时,会绑定对应Hadoop集群的用户,通过在所述服务实例在运行时绑定的是Hadoop超级用户,租户每次去执行开发、构建或查询时,服务实例都会只能访问该用户所对应Hadoop用户的数据权限,这样确保数据隔离。且所述服务实例的个数不会随着租户的增加而增加。查询系统的资源组能支持不同优先级的查询。在使用时控制租户能使用到的数据资源,完成隔离数据,在构建时设置资源队列,控制资源隔离。
如图5所示,每个资源组可以部署一个或多个实例,同时可以配置该资源组的的角色模式,所述资源组就会以定义好的角色模型运行。采用资源组形式服务多个租户,服务实例的部署方式与租户的个数可以没有必然关系。如图5所示,角色模型可以包括,开发模式、构建模式或者查询模式等。每个所述建模子系统、预计算子系统、查询系统子系统以资源组形式服务多租户场景,每个资源组可独立升缩、线性扩容,提高了整个集群的资源利用率。
如图6所示,建模系统100进行模型开发,同时采用独立RestAPI接口支持把开发好的模型导出。预计算系统200进行Cube数据立方体构建,也有独立的接口完成数据同步,查询系统300完成Cube数据立方体查询,能完成组件解耦。建模系统、预计算系统、查询系统三个子系统完全解耦,可以跨网络部署,子系统间不共享任何数据和元数据,只通过文件交换的形式沟通。
所述建模系统100,支持多租户在统一的建模系统中,进行模型开发和cube设计,以结构化文件形式存储,同时支持接口导入导出元数据文件,供其他系统使用。所述预计算系统200,根据设计的模型,对数据仓库中的数据按不同的维度组合进行预聚合并保存聚合结果。所述预计算的Cube结果,支持接口形式导出到其他子系统。查询系统300,提供对预计算Cube结果的高效查询服务。在子系统解耦隔离后,可以实现部署达到在超大型企业中跨网络部署的目的,子系统间支持网络隔离,只保留文件上传下载通道,最大化安全隔离性和部署灵活性。
如图7所示,所述基于预计算OLAP系统作为一个能支持多租户使用的多维分析平台,在多租户之间的在查询时一般会有优先级的区分,同时每个查询的资源组,允许按照需求配置实例的个数。负载均衡模块可以根据查询用户所设定的优先级自动路由到不同的查询资源组中,满足不同优先级的查询请求。
以上所述仅为本申请的优选实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (2)

1.一种基于预计算OLAP模型的多租户服务方法,其特征在于,根据包括至少一个服务实例的资源组,对多个租户提供服务,所述方法包括:
将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,以使租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限,
所述预计算OLAP模型中的每个子系统中按照不同角色配置不同的资源组,每个所述资源组中部署至少一个服务实例,所述资源组被配置为开发模式、构建模式或者查询模式的角色模式,
其中,所述预计算OLAP模型包括:建模系统、预计算系统和查询系统,所述建模系统,用于进行模型开发和数据立方体设计;所述预计算系统,用于根据所述模型对数据仓库中的数据进行预聚合并保存预计算数据立方体结果;所述查询系统,用于对预计算数据立方体结果进行查询;查询系统的资源组支持不同优先级的查询;
所述建模系统、计算系统和查询系统间相互并不共享任何数据和元数据,只通过文件交换的形式沟通;
将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后还包括:根据预设租户优先级路由到对应的所述资源组中,并按照不同优先级请求返回实例服务结果,以使所述资源组中的服务实例可以支持不同预设租户优先级的租户进行使用;
租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限包括:
第一租户在执行获取有权限的数据的操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限;
第二租户在执行构建操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限;
第三租户在执行查询操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限;
将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后还包括:根据不同服务请求路由到对应的所述资源组中,并按照不同服务请求返回实例服务结果,以使所述资源组中的服务实例可以支持不同服务请求的租户进行使用;
将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后还包括:根据单个资源组与多个租户的映射关系路由到对应的所述资源组中,并按照单个资源组与多个租户的映射关系返回实例服务结果,以使所述资源组中的服务实例可以支持单个资源组与多个租户的映射关系的租户进行使用。
2.基于预计算OLAP模型的多租户服务装置,其特征在于,根据包括至少一个服务实例的资源组,对多个租户提供服务,所述装置包括:
资源组服务模块,用于将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定,以使租户在执行预设操作时所述服务实例只能访问该租户所对应的所述Hadoop集群用户中的数据权限,
所述预计算OLAP模型中的每个子系统中按照不同角色配置不同的资源组,每个所述资源组中部署至少一个服务实例,所述资源组被配置为开发模式、构建模式或者查询模式的角色模式,
其中,所述预计算OLAP模型包括:建模系统、预计算系统和查询系统,所述建模系统,用于进行模型开发和数据立方体设计;所述预计算系统,用于根据所述模型对数据仓库中的数据进行预聚合并保存预计算数据立方体结果;所述查询系统,用于对预计算数据立方体结果进行查询;查询系统的资源组支持不同优先级的查询;
所述建模系统、与计算系统和查询系统间相互并不共享任何数据和元数据,只通过文件交换的形式沟通;
资源组服务模块还用于,将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后,
根据预设租户优先级路由到对应的所述资源组中,并按照不同优先级请求返回实例服务结果,以使所述资源组中的服务实例可以支持不同预设租户优先级的租户进行使用;
资源组服务模块还用于,将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后,根据不同服务请求路由到对应的所述资源组中,并按照不同服务请求返回实例服务结果,以使所述资源组中的服务实例可以支持不同服务请求的租户进行使用;
资源组服务模块还用于,将租户与对应的Hadoop集群用户绑定,并且在服务实例运行时与Hadoop集群超级用户绑定之后,根据单个资源组与多个租户的映射关系路由到对应的所述资源组中,并按照单个资源组与多个租户的映射关系返回实例服务结果,以使所述资源组中的服务实例可以支持单个资源组与多个租户的映射关系的租户进行使用。
CN201910213882.2A 2019-03-20 2019-03-20 基于预计算olap模型的多租户服务方法及装置 Active CN109992416B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910213882.2A CN109992416B (zh) 2019-03-20 2019-03-20 基于预计算olap模型的多租户服务方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910213882.2A CN109992416B (zh) 2019-03-20 2019-03-20 基于预计算olap模型的多租户服务方法及装置

Publications (2)

Publication Number Publication Date
CN109992416A CN109992416A (zh) 2019-07-09
CN109992416B true CN109992416B (zh) 2022-03-18

Family

ID=67129090

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910213882.2A Active CN109992416B (zh) 2019-03-20 2019-03-20 基于预计算olap模型的多租户服务方法及装置

Country Status (1)

Country Link
CN (1) CN109992416B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113806097B (zh) * 2021-09-29 2024-08-09 杭州网易云音乐科技有限公司 一种数据处理方法、装置、电子设备以及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105183820A (zh) * 2015-08-28 2015-12-23 广东创我科技发展有限公司 一种支持多租户的大数据平台及租户访问方法
CN107104931A (zh) * 2016-02-23 2017-08-29 中兴通讯股份有限公司 一种访问控制方法及平台
CN107360103A (zh) * 2016-05-09 2017-11-17 中国移动通信集团四川有限公司 一种操作维护系统和资源调度方法
CN108566412A (zh) * 2018-02-13 2018-09-21 深圳太极云软技术股份有限公司 一种数据服务方法及数据服务装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10671565B2 (en) * 2015-04-24 2020-06-02 Quest Software Inc. Partitioning target data to improve data replication performance
CN105975600A (zh) * 2016-05-11 2016-09-28 乐视控股(北京)有限公司 大数据处理中的任务优化方法和装置
CN109643242B (zh) * 2016-05-23 2023-06-27 摩根大通国家银行 用于多租户hadoop集群的安全设计和架构
CN106569895B (zh) * 2016-10-24 2020-12-22 华南理工大学 一种基于容器的多租户大数据平台构建方法
CN108664378B (zh) * 2018-05-10 2020-04-14 西安电子科技大学 一种微服务最短执行时间的优化方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105183820A (zh) * 2015-08-28 2015-12-23 广东创我科技发展有限公司 一种支持多租户的大数据平台及租户访问方法
CN107104931A (zh) * 2016-02-23 2017-08-29 中兴通讯股份有限公司 一种访问控制方法及平台
CN107360103A (zh) * 2016-05-09 2017-11-17 中国移动通信集团四川有限公司 一种操作维护系统和资源调度方法
CN108566412A (zh) * 2018-02-13 2018-09-21 深圳太极云软技术股份有限公司 一种数据服务方法及数据服务装置

Also Published As

Publication number Publication date
CN109992416A (zh) 2019-07-09

Similar Documents

Publication Publication Date Title
Mayer et al. Fogstore: Toward a distributed data store for fog computing
CN107066319B (zh) 一种面向异构资源的多维调度系统
EP2652594B1 (en) Multi-tenant, high-density container service for hosting stateful and stateless middleware components
JP2015537307A (ja) コンポーネント指向ハイブリッドクラウドオペレーティングシステムのアーキテクチャ及びその通信方法
CN104391918B (zh) 基于对等部署的分布式数据库查询优先级管理的实现方法
KR102181640B1 (ko) 재구성가능한 분산 처리
CN102103518A (zh) 一种在虚拟化环境中管理资源的系统及其实现方法
CN104272259A (zh) 用于在事务中间件机器环境中支持基于版本的路由的系统和方法
CN105339899B (zh) 用于在软件定义网络中使应用程序集群的方法和控制器
Jiang et al. Symbiosis: Network-aware task scheduling in data-parallel frameworks
Yuan et al. Efficient resource management for cloud computing
CN110233802A (zh) 一种构建一主链多侧链的区块链架构的方法
Renner et al. CoLoc: Distributed data and container colocation for data-intensive applications
CN110134533B (zh) 一种可批量调度数据的系统及方法
CN109992416B (zh) 基于预计算olap模型的多租户服务方法及装置
CN102447609B (zh) 一种虚拟化资源系统中虚拟节点的部署方法及装置
Ghit et al. Resource management for dynamic mapreduce clusters in multicluster systems
CN103365740A (zh) 一种数据冷备方法及装置
CN105827744A (zh) 云存储平台的数据处理方法
CN109992417B (zh) 预计算olap系统及实现方法
CN105847428A (zh) 一种移动云平台
CN110399206B (zh) 一种基于云计算环境下idc虚拟化调度节能系统
CN114157569A (zh) 集群系统及其构建方法和构建装置
CN108762883B (zh) 实现物理平台虚拟化管理调度的配置结构和配置方法
Zhao et al. Effective straggler mitigation with cross-layer interference-aware optimization

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant