CN105740408B - 调用hadoop集群的方法和装置 - Google Patents

调用hadoop集群的方法和装置 Download PDF

Info

Publication number
CN105740408B
CN105740408B CN201610061664.8A CN201610061664A CN105740408B CN 105740408 B CN105740408 B CN 105740408B CN 201610061664 A CN201610061664 A CN 201610061664A CN 105740408 B CN105740408 B CN 105740408B
Authority
CN
China
Prior art keywords
hadoop
hadoop cluster
configuration file
cluster
api
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610061664.8A
Other languages
English (en)
Other versions
CN105740408A (zh
Inventor
吴海平
徐超
王磊
张旭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Neusoft Corp
Original Assignee
Neusoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Neusoft Corp filed Critical Neusoft Corp
Priority to CN201610061664.8A priority Critical patent/CN105740408B/zh
Publication of CN105740408A publication Critical patent/CN105740408A/zh
Application granted granted Critical
Publication of CN105740408B publication Critical patent/CN105740408B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2458Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2471Distributed queries

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Fuzzy Systems (AREA)
  • Stored Programmes (AREA)

Abstract

本发明提出一种调用hadoop集群的方法和装置,该方法包括:在应用程序启动后,初始化hadoop API,并采用初始化后的API根据默认值描述虚拟的hadoop集群;读取用户上传的待调用hadoop集群的配置文件;采用所述配置文件更新所述默认值,得到新值;重新初始化hadoop API,并采用重新初始化后的API根据新值描述真实的hadoop集群;根据所述真实的hadoop集群的信息,调用所述真实的hadoop集群。该方法能够在调用hadoop集群时,提高灵活性,以动态调用hadoop集群,并且也不需要开发者对hadoop集群的安装细节很了解。

Description

调用hadoop集群的方法和装置
技术领域
本发明涉及计算机技术领域,尤其涉及一种调用hadoop集群的方法和装置。
背景技术
hadoop是一种分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序,充分利用集群的威力进行高速运算和存储。在开发基于hadoop集群的一些应用程序时,开发者一般通过两种方式。第一种方式是将集群的配置文件嵌入到应用程序的代码中,然后通过hadoop应用程序编程接口(Application ProgrammingInterface,API)的默认处理方式,调用集群服务。另一种方式需要开发者将调用集群服务所需要的参数传递给相应的API。但是,第一种方式会存在不够灵活的问题,第二种方式存在需要开发者对集群服务非常熟悉的问题。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本发明的一个目的在于提出一种调用hadoop集群的方法,该方法可以在调用hadoop集群时,提高灵活性,以动态调用hadoop集群,并且也不需要开发者对hadoop集群的安装细节很了解,便于将精力专注于hadoop服务的使用。
本发明的另一个目的在于提出一种调用hadoop集群的装置。
为达到上述目的,本发明第一方面实施例提出的调用hadoop集群的方法,包括:在应用程序启动后,初始化hadoop API,并采用初始化后的API根据默认值描述虚拟的hadoop集群;读取用户上传的待调用hadoop集群的配置文件;采用所述配置文件更新所述默认值,得到新值;重新初始化hadoop API,并采用重新初始化后的API根据新值描述真实的hadoop集群;根据所述真实的hadoop集群的信息,调用所述真实的hadoop集群。
本发明第一方面实施例提出的调用hadoop集群的方法,通过采用集群的配置文件而不是传送参数的方式,可以不需要开发者对待调用的hadoop集群的安装细节很了解,另外,通过读取用户上传的配置文件,而不是将配置文件嵌入到代码中,可以提高灵活性,从而实现对集群的动态调用。
为达到上述目的,本发明第二方面实施例提出的调用hadoop集群的装置,包括:第一初始化模块,用于在应用程序启动后,初始化hadoop API,并采用初始化后的API根据默认值描述虚拟的hadoop集群;读取模块,用于读取用户上传的待调用hadoop集群的配置文件;第一更新模块,用于采用所述配置文件更新所述默认值,得到新值;重新初始化模块,用于重新初始化hadoop API,并采用重新初始化后的API根据新值描述真实的hadoop集群;调用模块,用于根据所述真实的hadoop集群的信息,调用所述真实的hadoop集群。
本发明第二方面实施例提出的调用hadoop集群的装置,通过采用集群的配置文件而不是传送参数的方式,可以不需要开发者对待调用的hadoop集群的安装细节很了解,另外,通过读取用户上传的配置文件,而不是将配置文件嵌入到代码中,可以提高灵活性,从而实现对集群的动态调用。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1是本发明一实施例提出的调用hadoop集群的方法的流程示意图;
图2是本发明另一实施例提出的调用hadoop集群的方法的流程示意图;
图3是本发明另一实施例提出的调用hadoop集群的方法的流程示意图;
图4是本发明另一实施例提出的调用hadoop集群的装置的结构示意图;
图5是本发明另一实施例提出的调用hadoop集群的装置的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的模块或具有相同或类似功能的模块。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能理解为对本发明的限制。相反,本发明的实施例包括落入所附加权利要求书的精神和内涵范围内的所有变化、修改和等同物。
图1是本发明一实施例提出的调用hadoop集群的方法的流程示意图。
本实施例可以由用于调用集群的应用程序执行,该应用程序例如称为管理程序。
本实施例的方法可以应用在应用程序启动后。
参见图1,该方法包括:
S11:在应用程序启动后,初始化hadoop API,并采用初始化后的API根据默认值描述虚拟的hadoop集群。
以应用程序称为管理程序为例,相关技术中,可以在开发管理程序时,将待调用集群的配置文件嵌入到管理程序的代码中,之后当管理程序启动后,通过hadoop API的默认处理方式,调用相应的集群。
本实施例中,在开发管理程序时,不需要在管理程序的代码中嵌入配置文件,此时,管理程序中的配置文件为空。
根据hadoop的执行规范,管理程序在启动后,会初始化hadoop API,并采用初始化后的API根据默认值执行默认处理配置文件的方式。由于本实施例中,管理程序的配置文件为空,因此,初始化时根据默认值会描述一个虚拟的hadoop集群,即无法调用任何现有集群的服务。
S12:读取用户上传的待调用hadoop集群的配置文件。
与相关技术中直接将配置文件嵌入到代码中不同的是,本实施例中,配置文件是由用户上传的,不需要在代码中嵌入,用户可以根据待调用的hadoop集群的不同,而上传相应的配置文件。
用户可以从hadoop集群的提供网站下载相应hadoop集群的配置文件。或者,也可以由用户配置等。
S13:采用所述配置文件更新所述默认值,得到新值。
在读取到配置文件中,可以用该配置文件更新内存中的默认值,得到新值。
例如,默认值和配置文件中都包括第一参数的值,则用配置文件中第一参数的值替换默认值中的第一参数的值。
S14:重新初始化hadoop API,并采用重新初始化后的API根据新值描述真实的hadoop集群。
在得到新值后,可以重新进行初始化,在重新初始化后,重新初始化后的API会根据新值描述一个真实的hadoop集群,该真实的hadoop集群就是读取的配置文件对应的hadoop集群,以便调用相应的hadoop集群。
S15:根据所述真实的hadoop集群的信息,调用所述真实的hadoop集群。
在描述得到一个真实的hadoop集群后,应用程序可以根据已描述的真实的hadoop集群的信息调用相应的hadoop集群,获取相应的hadoop集群提供的服务,或者,也可以称为根据已描述的真实的hadoop集群的信息调用真实的hadoop集群的服务。
当需要切换待调用的hadoop集群时,该方法还可以包括:
在保持应用程序启动状态下,重新读取新的hadoop集群的配置文件,并采用新的配置文件更新已有配置文件,以及重新初始化hadoop API,以便重新调用新的hadoop集群。
相对于相关技术中切换集群需要重启应用程序,本实施例中,可以保持应用程序的启动状态,通过重新初始化API实现调用新的集群,从而实现集群热插拔。
上述描述了应用程序启动后的流程,在应用程序启动之前还可以包括其他步骤。
相关技术中,调用hadoop集群的流程可以包括:安装集群、配置集群、配置管理程序、启动管理程序。
而本申请的一些实施例中,参见图2,调用hadoop集群的流程可以包括:
S21:安装hadoop集群。
S22:将hadoop集群的配置文件设置为空。
当管理程序启动后,调用hadoop API的默认处理配置文件的方式,但由于配置文件为空,此时hadoop API会采用一些默认值,但是无法调用任何现有hadoop集群。
S23:将需要调用的hadoop集群的配置文件保存在配置池中。
相对于相关技术中配置管理程序的方式,本实施例中可以不配置管理程序,而是将需要用到的配置文件保存在配置池中。
需要调用的hadoop集群的配置文件可以为一个hadoop集群或多个hadoop集群的。
具体可以由用户将配置文件上传并保存在配置池中。
用户可以从hadoop集群的提供网站下载相应hadoop集群的配置文件。或者,也可以由用户配置等。
在配置池中保存多个配置文件时,可以根据实际需要将其中一个设置为待调用的hadoop集群的配置文件,从而在应用程序启动后,读取该待调用的hadoop集群的配置文件。
S24:启动应用程序。
之后可以执行如上的S11-S15。
本实施例中,通过采用集群的配置文件而不是传送参数的方式,可以不需要开发者对待调用的hadoop集群的安装细节很了解,另外,通过读取用户上传的配置文件,而不是将配置文件嵌入到代码中,可以提高灵活性,从而实现对集群的动态调用。进一步的,本实施例通过重新初始化hadoop API的方式可以调用新的hadoop集群,而不需要重启应用程序,实现hadoop集群的热插拔。进一步的,当配置文件是从网站下载时,可以提高效率和准确度。
hadoop集群所处的环境包括:无kerberos环境和有kerberos环境。
kerberos是一种安全认证的系统。
在无kerberos环境时,可以采用上述的S11-S15的流程进行处理。
图3是本发明另一实施例提出的调用hadoop集群的方法的流程示意图。
本实施例可以应用在有kerberos环境时。
本实施例的方法应用在应用程序启动后。
参见图3,本实施例的方法包括:
S31:初始化用户身份组模块。
S32:初始化hadoop API,并采用初始化后的API根据默认值描述虚拟的hadoop集群。
S33:读取用户上传的待调用hadoop集群的配置文件。
S34:采用所述配置文件更新所述默认值,得到新值。
S35:根据所述配置文件更新用户身份组模块的内容。
其中,S34-S35无时序限定关系。
S36:重新初始化hadoop API,并采用重新初始化后的API根据新值描述真实的hadoop集群。
S37:根据真实的hadoop集群的信息,调用真实的hadoop集群。
与无kerberos环境相比,有kerberos环境时,会存在初始化用户身份组模块和更新用户身份组模块的流程。
本实施例中,初始化用户身份组模块的流程可以采用通常的有kerberos环境时的相关流程。本实施例中,在读取到配置文件后,可以用配置文件中新的信息替换用户身份组模块中的相应信息,以实现用户身份组模块的内容更新。
另外,其他流程可以具体参见无kerberos环境时的处理流程,在此不再赘述。
可选的,在待调用hadoop集群不同时,不同的待调用hadoop集群具有相同的有无kerberos环境,或者,部分hadoop集群有kerberos环境,部分hadoop集群无kerberos环境。
本实施例中,通过采用集群的配置文件而不是传送参数的方式,可以不需要开发者对待调用的hadoop集群的安装细节很了解,另外,通过读取用户上传的配置文件,而不是将配置文件嵌入到代码中,可以提高灵活性,从而实现对集群的动态调用。进一步的,本实施例通过重新初始化hadoop API的方式可以调用新的hadoop集群,而不需要重启应用程序,实现hadoop集群的热插拔。进一步的,当配置文件是从网站下载时,可以提高效率和准确度。进一步的,通过配置文件进行更新,从Keytab文件角度,相关技术中写mapreduce需要知道集群细节、hdfs、namenode等,而本实施例中不需要了。进一步的,可以实现部分集群服务使用kerberos,部分集群服务不使用kerberos。
图4是本发明另一实施例提出的调用hadoop集群的装置的结构示意图。参见图4,该装置40包括:第一初始化模块401、读取模块402、第一更新模块403、重新初始化模块404和调用模块405。
第一初始化模块401,用于在应用程序启动后,初始化hadoop API,并采用初始化后的API根据默认值描述虚拟的hadoop集群。
以应用程序称为管理程序为例,相关技术中,可以在开发管理程序时,将待调用集群的配置文件嵌入到管理程序的代码中,之后当管理程序启动后,通过hadoop API的默认处理方式,调用相应的集群。
本实施例中,在开发管理程序时,不需要在管理程序的代码中嵌入配置文件,此时,管理程序中的配置文件为空。
根据hadoop的执行规范,管理程序在启动后,会初始化hadoop API,并采用初始化后的API根据默认值执行默认处理配置文件的方式。由于本实施例中,管理程序的配置文件为空,因此,初始化时根据默认值会描述一个虚拟的hadoop集群,即无法调用任何现有集群的服务。
读取模块402,用于读取用户上传的待调用hadoop集群的配置文件。
与相关技术中直接将配置文件嵌入到代码中不同的是,本实施例中,配置文件是由用户上传的,不需要在代码中嵌入,用户可以根据待调用的hadoop集群的不同,而上传相应的配置文件。
用户可以从hadoop集群的提供网站下载相应hadoop集群的配置文件。或者,也可以由用户配置等。
第一更新模块403,用于采用所述配置文件更新所述默认值,得到新值。
在读取到配置文件中,可以用该配置文件更新内存中的默认值,得到新值。
重新初始化模块404,用于重新初始化hadoop API,并采用重新初始化后的API根据新值描述真实的hadoop集群。
在得到新值后,可以重新进行初始化,在重新初始化后,重新初始化后的API会根据新值描述一个真实的hadoop集群,该真实的hadoop集群就是读取的配置文件对应的hadoop集群,以便调用相应的hadoop集群。
调用模块405,用于根据所述真实的hadoop集群的信息,调用所述真实的hadoop集群。
在描述得到一个真实的hadoop集群后,应用程序可以根据已描述的真实的hadoop集群的信息调用相应的hadoop集群,获取相应的hadoop集群提供的服务。
一些实施例中,参见图5,该装置40还包括:
切换模块406,用于在保持应用程序启动状态下,重新读取新的hadoop集群的配置文件,并采用新的配置文件更新已有配置文件,以及重新初始化hadoop API,以便重新调用新的hadoop集群。
相对于相关技术中切换集群需要重启应用程序,本实施例中,可以保持应用程序的启动状态,通过重新初始化API实现调用新的集群,从而实现集群热插拔。
一些实施例中,参见图5,该装置40还包括:
安装模块407,用于安装hadoop集群。
配置模块408,用于将hadoop集群的配置文件设置为空,以便采用初始化后的API根据默认值描述虚拟的hadoop集群。
当管理程序启动后,调用hadoop API的默认处理配置文件的方式,但由于配置文件为空,此时hadoop API会采用一些默认值,但是无法调用任何现有hadoop集群。
保存模块409,用于将hadoop集群的配置文件保存在配置池中,以便从配置池中读取配置文件。
相对于相关技术中配置管理程序的方式,本实施例中可以不配置管理程序,而是将需要用到的配置文件保存在配置池中。
需要调用的hadoop集群的配置文件可以为一个hadoop集群或多个hadoop集群的。
具体可以由用户将配置文件上传并保存在配置池中。
用户可以从hadoop集群的提供网站下载相应hadoop集群的配置文件。或者,也可以由用户配置等。
在配置池中保存多个配置文件时,可以根据实际需要将其中一个设置为待调用的hadoop集群的配置文件,从而在应用程序启动后,读取该待调用的hadoop集群的配置文件。
启动模块410,用于启动应用程序。
一些实施例中,参见图5,在有kerberos环境时,所述装置40还包括:
第二初始化模块411,用于在初始化hadoop API之前,初始化用户身份组模块;
第二更新模块412,用于在重新初始化hadoop API之前,根据读取的配置文件更新用户身份组模块的内容。
与无kerberos环境相比,有kerberos环境时,会存在初始化用户身份组模块和更新用户身份组模块的流程。
本实施例中,初始化用户身份组模块的流程可以采用通常的有kerberos环境时的相关流程。本实施例中,在读取到配置文件后,可以用配置文件中新的信息替换用户身份组模块中的相应信息,以实现用户身份组模块的内容更新。
另外,其他流程可以具体参见无kerberos环境时的处理流程,在此不再赘述。
可选的,在待调用hadoop集群不同时,不同的待调用hadoop集群具有相同的有无kerberos环境,或者,部分hadoop集群有kerberos环境,部分hadoop集群无kerberos环境。
可选的,所述配置文件是用户从提供hadoop集群的配置文件的网站下载的。
本实施例中各种模块的具体内容可以参见上述方法实施例中的相关描述,在此不再详细描述。
本实施例中,通过采用集群的配置文件而不是传送参数的方式,可以不需要开发者对待调用的hadoop集群的安装细节很了解,另外,通过读取用户上传的配置文件,而不是将配置文件嵌入到代码中,可以提高灵活性,从而实现对集群的动态调用。进一步的,本实施例通过重新初始化hadoop API的方式可以调用新的hadoop集群,而不需要重启应用程序,实现hadoop集群的热插拔。进一步的,当配置文件是从网站下载时,可以提高效率和准确度。进一步的,通过配置文件进行更新,从Keytab文件角度,相关技术中写mapreduce需要知道集群细节、hdfs、namenode等,而本实施例中不需要了。进一步的,可以实现部分集群服务使用kerberos,部分集群服务不使用kerberos。
需要说明的是,在本发明的描述中,术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性。此外,在本发明的描述中,除非另有说明,“多个”的含义是指至少两个。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本发明各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (8)

1.一种调用hadoop集群的方法,其特征在于,包括:
在应用程序启动后,初始化hadoop API,并采用初始化后的API根据默认值描述虚拟的hadoop集群;
读取用户上传的待调用hadoop集群的配置文件;
采用所述配置文件更新所述默认值,得到新值;
重新初始化hadoop API,并采用重新初始化后的API根据新值描述真实的hadoop集群;
根据所述真实的hadoop集群的信息,调用所述真实的hadoop集群;
当需要切换待调用的hadoop集群时,在保持应用程序启动状态下,重新读取新的hadoop集群的配置文件,并采用新的配置文件更新已有配置文件,以及重新初始化hadoopAPI,以便重新调用新的hadoop集群。
2.根据权利要求1所述的方法,其特征在于,还包括:
安装hadoop集群;
将hadoop集群的配置文件设置为空,以便采用初始化后的API根据默认值描述虚拟的hadoop集群;
将hadoop集群的配置文件保存在配置池中,以便从配置池中读取配置文件;
启动应用程序。
3.根据权利要求1所述的方法,其特征在于,在有kerberos环境时,所述方法还包括:
在初始化hadoop API之前,初始化用户身份组模块;
在重新初始化hadoop API之前,根据读取的配置文件更新用户身份组模块的内容。
4.根据权利要求3所述的方法,其特征在于,在待调用hadoop集群不同时,不同的待调用hadoop集群具有相同的有无kerberos环境,或者,部分hadoop集群有kerberos环境,部分hadoop集群无kerberos环境。
5.根据权利要求1所述的方法,其特征在于,所述配置文件是用户从提供hadoop集群的配置文件的网站下载的。
6.一种调用hadoop集群的装置,其特征在于,包括:
第一初始化模块,用于在应用程序启动后,初始化hadoop API,并采用初始化后的API根据默认值描述虚拟的hadoop集群;
读取模块,用于读取用户上传的待调用hadoop集群的配置文件;
第一更新模块,用于采用所述配置文件更新所述默认值,得到新值;
重新初始化模块,用于重新初始化hadoop API,并采用重新初始化后的API根据新值描述真实的hadoop集群;
调用模块,用于根据所述真实的hadoop集群的信息,调用所述真实的hadoop集群;
切换模块,用于在保持应用程序启动状态下,重新读取新的hadoop集群的配置文件,并采用新的配置文件更新已有配置文件,以及重新初始化hadoop API,以便重新调用新的hadoop集群。
7.根据权利要求6所述的装置,其特征在于,还包括:
安装模块,用于安装hadoop集群;
配置模块,用于将hadoop集群的配置文件设置为空,以便采用初始化后的API根据默认值描述虚拟的hadoop集群;
保存模块,用于将hadoop集群的配置文件保存在配置池中,以便从配置池中读取配置文件;
启动模块,用于启动应用程序。
8.根据权利要求6所述的装置,其特征在于,在有kerberos环境时,所述装置还包括:
第二初始化模块,用于在初始化hadoop API之前,初始化用户身份组模块;
第二更新模块,用于在重新初始化hadoop API之前,根据读取的配置文件更新用户身份组模块的内容。
CN201610061664.8A 2016-01-28 2016-01-28 调用hadoop集群的方法和装置 Active CN105740408B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610061664.8A CN105740408B (zh) 2016-01-28 2016-01-28 调用hadoop集群的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610061664.8A CN105740408B (zh) 2016-01-28 2016-01-28 调用hadoop集群的方法和装置

Publications (2)

Publication Number Publication Date
CN105740408A CN105740408A (zh) 2016-07-06
CN105740408B true CN105740408B (zh) 2019-02-05

Family

ID=56247937

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610061664.8A Active CN105740408B (zh) 2016-01-28 2016-01-28 调用hadoop集群的方法和装置

Country Status (1)

Country Link
CN (1) CN105740408B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106375323A (zh) * 2016-09-09 2017-02-01 浪潮软件股份有限公司 一种多租户模式下kerberos身份认证的方法
CN109039730B (zh) * 2018-07-25 2021-09-24 网宿科技股份有限公司 服务器集群及服务器集群配置信息管理方法
CN109710223B (zh) * 2018-12-29 2021-03-12 北京邮电大学 基于分布式kv存储系统的api网关热插拔系统
CN114880103B (zh) * 2022-07-11 2022-09-09 中电云数智科技有限公司 一种flink任务适配hadoop生态的系统和方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6128730A (en) * 1997-12-29 2000-10-03 Bull Hn Information Systems Inc. Method and apparatus for multilevel software configuration having administrator and software driven override limiting capabilities
CN102455915A (zh) * 2010-10-18 2012-05-16 卓望数码技术(深圳)有限公司 一种分布式系统的自动化配置方法及服务器
CN103647830A (zh) * 2013-12-13 2014-03-19 浪潮电子信息产业股份有限公司 一种集群管理系统中多层次配置文件的动态管理方法
CN103795801A (zh) * 2014-02-12 2014-05-14 浪潮电子信息产业股份有限公司 一种基于实时应用集群的元数据集群设计方法
CN104699508A (zh) * 2015-03-25 2015-06-10 南京大学 云计算平台中快速部署和更新虚拟环境系统及其方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6128730A (en) * 1997-12-29 2000-10-03 Bull Hn Information Systems Inc. Method and apparatus for multilevel software configuration having administrator and software driven override limiting capabilities
CN102455915A (zh) * 2010-10-18 2012-05-16 卓望数码技术(深圳)有限公司 一种分布式系统的自动化配置方法及服务器
CN103647830A (zh) * 2013-12-13 2014-03-19 浪潮电子信息产业股份有限公司 一种集群管理系统中多层次配置文件的动态管理方法
CN103795801A (zh) * 2014-02-12 2014-05-14 浪潮电子信息产业股份有限公司 一种基于实时应用集群的元数据集群设计方法
CN104699508A (zh) * 2015-03-25 2015-06-10 南京大学 云计算平台中快速部署和更新虚拟环境系统及其方法

Also Published As

Publication number Publication date
CN105740408A (zh) 2016-07-06

Similar Documents

Publication Publication Date Title
CN105740408B (zh) 调用hadoop集群的方法和装置
CN111492347B (zh) 用于更新容器的系统和方法
US20220327007A1 (en) Migrating edge device resources to a cloud computing environment
CN110720091B (zh) 用于与托管的应用/虚拟网络功能(vnf)协调基础设施升级的方法
US9086892B2 (en) Direct migration of software images with streaming technique
JP5319685B2 (ja) 大規模なネットワーク化されたシステムにおけるソフトウェアの展開
US10048865B2 (en) Disk partition stitching and rebalancing using a partition table
US9720719B2 (en) Method and system for optimizing virtual disk provisioning
EP2306320A1 (en) Server image migration
US8347071B2 (en) Converting virtual deployments to physical deployments to simplify management
US20140033189A1 (en) Providing virtual appliance system firmware images
US9699252B2 (en) Deployment of virtual machine disks from a shared network file system
US20130055231A1 (en) System and method for incremental software installation
US20120151202A1 (en) Management of multiple software images with shared memory blocks
US8250352B2 (en) Isolating workload partition space
CN104468199A (zh) 适于Linux的分布式系统部署和管理框架及运行方法
US10552171B2 (en) Efficient booting system
US20230229481A1 (en) Provisioning dpu management operating systems
WO2017016479A1 (zh) 一种文件下载方法和装置
US8225316B1 (en) Methods and systems for creating and applying patches for virtualized applications
CN110209420A (zh) 一种更新引导加载程序的方法及装置
US20230229480A1 (en) Provisioning dpu management operating systems using firmware capsules
WO2023196074A2 (en) Hosting dpu management operating system using dpu software stack
CN104899057A (zh) 软件模块的更新方法和装置
KR102226379B1 (ko) 일종의 시스템 펌웨어의 버닝 스피드 향상 방법

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant