CN109918354B - 一种基于hdfs的磁盘定位方法、装置、设备及介质 - Google Patents

一种基于hdfs的磁盘定位方法、装置、设备及介质 Download PDF

Info

Publication number
CN109918354B
CN109918354B CN201910156422.0A CN201910156422A CN109918354B CN 109918354 B CN109918354 B CN 109918354B CN 201910156422 A CN201910156422 A CN 201910156422A CN 109918354 B CN109918354 B CN 109918354B
Authority
CN
China
Prior art keywords
disk
server
hdfs
relation
file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910156422.0A
Other languages
English (en)
Other versions
CN109918354A (zh
Inventor
何建军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Inspur Power Commercial Systems Co Ltd
Original Assignee
Inspur Power Commercial Systems Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Inspur Power Commercial Systems Co Ltd filed Critical Inspur Power Commercial Systems Co Ltd
Priority to CN201910156422.0A priority Critical patent/CN109918354B/zh
Publication of CN109918354A publication Critical patent/CN109918354A/zh
Application granted granted Critical
Publication of CN109918354B publication Critical patent/CN109918354B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Stored Programmes (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于HDFS的磁盘定位方法、装置、设备及介质。该方法的步骤包括:获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件;根据关系文件中的映射关系生成对应的可视化分布图,以供系统维护人员根据可视化分布图定位各磁盘;其中,可视化分布图中以图形化方式记录有磁盘与服务器之间的挂载关系。本方法通过可视化分布图记录磁盘所在的服务器,系统维护人员能够通过可视化分布图更加直观的获悉磁盘与服务器间关系,进而能够相对高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器,从而保证了HDFS的整体工作效率。此外,本发明还提供一种基于HDFS的磁盘定位装置、设备及介质,有益效果同上所述。

Description

一种基于HDFS的磁盘定位方法、装置、设备及介质
技术领域
本发明涉及大数据领域,特别是涉及一种基于HDFS的磁盘定位方法、装置、设备及介质。
背景技术
随着计算机的普及和互联网技术的发展,数据文件正在海量且迅速地增长,这些数据文件通常被保存于计算机存储系统中以便用户对数据文件进行检索、分析。
为了利用开源技术拓展性高的这一优势并且降低存储设备的费用,越来越多的企业和政府机构在低成本商用硬件上,基于Hadoop分布式文件系统HDFS(HadoopDistributed File System)构建具有高容错、高吞吐特性的海量数据存储系统。然而,由于集群规模庞大和硬件本身的可靠性原因,集群中的服务器节点经常由于硬件故障需要停机维护。为了保证数据完整性和集群可用性,系统维护人员通常都是在HDFS报告磁盘故障的情况下对出现故障的磁盘进行诊断和更换,但是由于一台服务器中往往挂载多个磁盘,并且构成HDFS的服务器节点的整体数量也往往较多,因此当前系统维护人员在获悉到构成HDFS的某一磁盘出现异常时,难以高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器,进而无法对异常磁盘进行及时的维护,难以确保HDFS的整体工作效率。
由此可见,提供一种基于HDFS的磁盘定位方法,以实现系统维护人员相对高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器,进而能够对异常磁盘进行及时的维护,从而确保HDFS的整体工作效率,是本领域技术人员亟待解决的问题。
发明内容
本发明的目的是提供一种基于HDFS的磁盘定位方法、装置、设备及介质,以实现系统维护人员相对高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器,进而能够对异常磁盘进行及时的维护,从而确保HDFS的整体工作效率。
为解决上述技术问题,本发明提供一种基于HDFS的磁盘定位方法,包括:
获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件;
根据关系文件中的映射关系生成对应的可视化分布图,以供系统维护人员根据可视化分布图定位各磁盘;其中,可视化分布图中以图形化方式记录有磁盘与服务器之间的挂载关系。
优选的,关系文件中还包含有服务器与机柜之间的映射关系,以及机柜与机房之间的映射关系;
相应的,可视化分布图中还以图形化方式记录有服务器与机柜之间的放置关系,以及机柜与机房之间的放置关系。
优选的,获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件包括:
获取包含有映射关系的JSON格式的关系文件。
优选的,获取包含有映射关系的JSON格式的关系文件包括:
通过分析HDFS的操作系统信息以获取包含有映射关系的JSON格式的关系文件。
优选的,该方法进一步包括:
当存在工作状态异常的目标磁盘时,以高亮度显示的方式将目标磁盘显示于可视化分布图。
此外,本发明还提供一种基于HDFS的磁盘定位装置,包括:
关系文件获取模块,用于获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件;
分布图生成模块,用于根据关系文件中的映射关系生成对应的可视化分布图,以供系统维护人员根据可视化分布图定位各磁盘;其中,可视化分布图中以图形化方式记录有磁盘与服务器之间的挂载关系。
此外,本发明还提供一种基于HDFS的磁盘定位设备,包括:
存储器,用于存储计算机程序;
处理器,用于执行计算机程序时实现如上述的基于HDFS的磁盘定位方法的步骤。
此外,本发明还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现如上述的基于HDFS的磁盘定位方法的步骤。
本发明所提供的基于HDFS的磁盘定位方法,首先获取包含有HDFS中磁盘与服务器之间映射关系的关系文件,进而根据关系文件中的映射关系生成对应的可视化分布图,以通过图像化的方式记录磁盘与服务器之间的挂载关系,从而供系统维护人员根据生成的可视化分布图定位各磁盘所在的服务器。本方法通过可视化分布图的方式记录磁盘所在的服务器,系统维护人员能够通过可视化分布图更加直观的获悉磁盘与服务器之间的关系,进而能够相对高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器,以此确保系统维护人员对异常磁盘的及时维护,从而保证了HDFS的整体工作效率。此外,本发明还提供一种基于HDFS的磁盘定位装置、设备及介质,有益效果同上所述。
附图说明
为了更清楚地说明本发明实施例,下面将对实施例中所需要使用的附图做简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种基于HDFS的磁盘定位方法的流程图;
图2为本发明实施例提供的一种基于HDFS的磁盘定位装置的结构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下,所获得的所有其他实施例,都属于本发明保护范围。
本发明的核心是提供一种基于HDFS的磁盘定位方法,以实现系统维护人员相对高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器,进而能够对异常磁盘进行及时的维护,从而确保HDFS的整体工作效率。本发明的另一核心是提供一种基于HDFS的磁盘定位装置、设备及介质。
为了使本技术领域的人员更好地理解本发明方案,下面结合附图和具体实施方式对本发明作进一步的详细说明。
实施例一
图1为本发明实施例提供的一种基于HDFS的磁盘定位方法的流程图。请参考图1,基于HDFS的磁盘定位方法的具体步骤包括:
步骤S10:获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件。
需要说明的是,本步骤的目的是获取构成HDFS的所采用的磁盘与服务器之间的映射关系,也就是构成HDFS的各个服务器与各服务器所挂载的磁盘之间的对应关系。本方法中的服务器指的是构成HDFS的设备节点,而设备节点之所以能够提供数据存储空间,进而能构成HDFS以提供数据存储服务是由于在设备节点上挂载有磁盘,此外,由于构成HDFS的各个设备节点所提供的存储空间可以互不相同,因此本方法中的各个服务器所挂载的磁盘的数量,以及磁盘的容量可以不同。需要强调的是,本步骤中的关系文件中包含但可以不仅包含有磁盘与服务器之间映射关系,还可以包含有基于磁盘与服务器进行更加宏观或微观的映射关系划分,例如,在关系文件中还可以进一步记录有,基于磁盘划分的存储分区等。
步骤S11:根据关系文件中的映射关系生成对应的可视化分布图,以供系统维护人员根据可视化分布图定位各磁盘。
其中,可视化分布图中以图形化方式记录有磁盘与服务器之间的挂载关系。
本步骤是根据关系文件中的映射关系生成可视化分布图,即以图形化方式记录磁盘与服务器之间的挂载关系,具体可以是采取块状图或树状图等表现形式,体现磁盘与服务器之间的挂载关系,目的是为了使系统维护人员能够根据可视化分布图更加直观且高效的定位到各个磁盘所在的挂载位置。
本发明所提供的基于HDFS的磁盘定位方法,首先获取包含有HDFS中磁盘与服务器之间映射关系的关系文件,进而根据关系文件中的映射关系生成对应的可视化分布图,以通过图像化的方式记录磁盘与服务器之间的挂载关系,从而供系统维护人员根据生成的可视化分布图定位各磁盘所在的服务器。本方法通过可视化分布图的方式记录磁盘所在的服务器,系统维护人员能够通过可视化分布图更加直观的获悉磁盘与服务器之间的关系,进而能够相对高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器,以此确保系统维护人员对异常磁盘的及时维护,从而保证了HDFS的整体工作效率。
实施例二
在上述实施例的基础上,本发明还提供以下一系列优选的实施方式。
作为一种优选的实施方式,关系文件中还包含有服务器与机柜之间的映射关系,以及机柜与机房之间的映射关系;
相应的,可视化分布图中还以图形化方式记录有服务器与机柜之间的放置关系,以及机柜与机房之间的放置关系。
需要说明的是,由于考虑到当前HDFS往往是由大量的服务器构成的,并且各个服务器上均需要挂载有一定数量的磁盘,因此为了进一步确保系统维护人员能够准确的定位到磁盘所在的位置,需要先对服务器进行准确的定位,而服务器往往被放置于机柜上,并且随着服务器的数量不断增加,用于放置服务器的机柜数量也在不断增加,而一个机房中能够放置的机柜数量是有限的,当构成HDFS的服务器达到一定的数量后,则需要多个机房来承载用于放置服务器的机柜,因此在本实施方式中,关系文件中还包含有服务器与机柜之间的映射关系,以及机柜与机房之间的映射关系,相应的,可视化分布图中还以图形化方式记录有服务器与机柜之间的放置关系,以及机柜与机房之间的放置关系,本实施方式通过在关机文件中,进一步增加了与服务器与机柜的映射关系以及机柜与机房的映射关系,进而根据映射关系生成的可视化分布图,能够更加全面的以图形化方式记录磁盘的整体拓扑结构,从而进一步确保系统维护人员高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器。
在上述实施方式的基础上,作为一种优选的实施方式,获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件包括:
获取包含有映射关系的JSON格式的关系文件。
需要说明的是,由于考虑到在实际应用场景中,磁盘与服务器之间的映射关系数量较多,并且相对复杂,因此以文件的形式对映射关系进行记录时往往需要占用较大的数据空间,并且还会导致对文件进行传输时过多的占用传输带宽,而JSON格式相对简单,是纯文本,因此在相同数据空间的前提下,通过JSON格式能够记录更多的映射关系,因此本实施方式能够相对降低根据映射关系生成的关系文件对存储空间以及对传输带宽的过多占用。
在上述实施方式的基础上,作为一种优选的实施方式,获取包含有映射关系的JSON格式的关系文件包括:
通过分析HDFS的操作系统信息以获取包含有映射关系的JSON格式的关系文件。
需要说明的是,HDFS是基于服务器与磁盘之间的映射关系,通过控制服务器以达到对磁盘的存储空间进行使用的目的,而HDFS的操作系统信息往往记录有数据读写过程中服务器与磁盘之间交互时的数据流动方向,由于操作系统信息是在HDFS运行中产生的,因此本实施方式中通过操作系统信息获取包含有映射关系的JSON格式的关系文件,能够相对确保关系文件中映射关系的准确性以及实时性。
在上述一系列实施方式的基础上,作为一种优选的实施方式,该方法进一步包括:
当存在工作状态异常的目标磁盘时,以高亮度显示的方式将目标磁盘显示于可视化分布图。
需要说明的是,本实施方式是当HDFS运行过程中存在工作状态异常的目标磁盘时,在生成可视化分布图的过程中,将存在异常的目标磁盘以高亮度显示的方式进行呈现,更进一步的,可以通过特定的颜色对图形化的目标磁盘进行标记,以此确保系统维护人员能够相对高效、便捷的在可视化分布图中定位到异常磁盘所处的机房、机柜以及所挂载的服务器,提高了可视化分布图的整体实用性。
实施例三
在上文中对于基于HDFS的磁盘定位方法的实施例进行了详细的描述,本发明还提供一种与该方法对应的基于HDFS的磁盘定位装置,由于装置部分的实施例与方法部分的实施例相互对应,因此装置部分的实施例请参见方法部分的实施例的描述,这里暂不赘述。
图2为本发明实施例提供的一种基于HDFS的磁盘定位装置的结构图。本发明实施例提供的基于HDFS的磁盘定位装置,包括:
关系文件获取模块10,用于获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件。
分布图生成模块11,用于根据关系文件中的映射关系生成对应的可视化分布图,以供系统维护人员根据可视化分布图定位各磁盘;其中,可视化分布图中以图形化方式记录有磁盘与服务器之间的挂载关系。
本发明所提供的基于HDFS的磁盘定位装置,首先获取包含有HDFS中磁盘与服务器之间映射关系的关系文件,进而根据关系文件中的映射关系生成对应的可视化分布图,以通过图像化的方式记录磁盘与服务器之间的挂载关系,从而供系统维护人员根据生成的可视化分布图定位各磁盘所在的服务器。本装置通过可视化分布图的方式记录磁盘所在的服务器,系统维护人员能够通过可视化分布图更加直观的获悉磁盘与服务器之间的关系,进而能够相对高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器,以此确保系统维护人员对异常磁盘的及时维护,从而保证了HDFS的整体工作效率。
实施例四
此外,本发明还提供一种基于HDFS的磁盘定位设备,包括:
存储器,用于存储计算机程序;
处理器,用于执行计算机程序时实现如上述的基于HDFS的磁盘定位方法的步骤。
本发明所提供的基于HDFS的磁盘定位设备,首先获取包含有HDFS中磁盘与服务器之间映射关系的关系文件,进而根据关系文件中的映射关系生成对应的可视化分布图,以通过图像化的方式记录磁盘与服务器之间的挂载关系,从而供系统维护人员根据生成的可视化分布图定位各磁盘所在的服务器。本设备通过可视化分布图的方式记录磁盘所在的服务器,系统维护人员能够通过可视化分布图更加直观的获悉磁盘与服务器之间的关系,进而能够相对高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器,以此确保系统维护人员对异常磁盘的及时维护,从而保证了HDFS的整体工作效率。
此外,本发明还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现如上述的基于HDFS的磁盘定位方法的步骤。
本发明所提供的计算机可读存储介质,在执行时首先获取包含有HDFS中磁盘与服务器之间映射关系的关系文件,进而根据关系文件中的映射关系生成对应的可视化分布图,以通过图像化的方式记录磁盘与服务器之间的挂载关系,从而供系统维护人员根据生成的可视化分布图定位各磁盘所在的服务器。本计算机可读存储介质通过可视化分布图的方式记录磁盘所在的服务器,系统维护人员能够通过可视化分布图更加直观的获悉磁盘与服务器之间的关系,进而能够相对高效且准确地在众多的服务器节点中定位到挂载有异常磁盘的目标服务器,以此确保系统维护人员对异常磁盘的及时维护,从而保证了HDFS的整体工作效率。
以上对本发明所提供的一种基于HDFS的磁盘定位方法、装置、设备及介质进行了详细介绍。说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以对本发明进行若干改进和修饰,这些改进和修饰也落入本发明权利要求的保护范围内。
还需要说明的是,在本说明书中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims (6)

1.一种基于HDFS的磁盘定位方法,其特征在于,包括:
获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件,所述服务器为构成HDFS的设备节点,磁盘与服务器之间映射关系是指服务器与服务器所挂载的磁盘之间的对应关系;
根据所述关系文件中的映射关系生成对应的可视化分布图,以供系统维护人员根据所述可视化分布图定位各所述磁盘;其中,所述可视化分布图中以图形化方式记录有所述磁盘与所述服务器之间的挂载关系;
所述获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件包括:获取包含有所述映射关系的JSON格式的所述关系文件,具体通过分析所述HDFS的操作系统信息以获取包含有所述映射关系的JSON格式的所述关系文件,所述HDFS的操作系统信息记录有数据读写过程中服务器与磁盘之间交互时的数据流动方向。
2.根据权利要求1所述的方法,其特征在于,所述关系文件中还包含有所述服务器与机柜之间的映射关系,以及所述机柜与机房之间的映射关系;
相应的,所述可视化分布图中还以图形化方式记录有所述服务器与所述机柜之间的放置关系,以及所述机柜与所述机房之间的放置关系。
3.根据权利要求1至2任意一项所述的方法,其特征在于,该方法进一步包括:
当存在工作状态异常的目标磁盘时,以高亮度显示的方式将所述目标磁盘显示于所述可视化分布图。
4.一种基于HDFS的磁盘定位装置,其特征在于,包括:
关系文件获取模块,用于获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件,所述服务器为构成HDFS的设备节点,磁盘与服务器之间映射关系是指服务器与服务器所挂载的磁盘之间的对应关系;
分布图生成模块,用于根据所述关系文件中的映射关系生成对应的可视化分布图,以供系统维护人员根据所述可视化分布图定位各所述磁盘;其中,所述可视化分布图中以图形化方式记录有所述磁盘与所述服务器之间的挂载关系;
所述获取包含有HDFS中的磁盘与服务器之间映射关系的关系文件包括:获取包含有所述映射关系的JSON格式的所述关系文件,具体通过分析所述HDFS的操作系统信息以获取包含有所述映射关系的JSON格式的所述关系文件,所述HDFS的操作系统信息记录有数据读写过程中服务器与磁盘之间交互时的数据流动方向。
5.一种基于HDFS的磁盘定位设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至3任一项所述的基于HDFS的磁盘定位方法的步骤。
6.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至3任一项所述的基于HDFS的磁盘定位方法的步骤。
CN201910156422.0A 2019-03-01 2019-03-01 一种基于hdfs的磁盘定位方法、装置、设备及介质 Active CN109918354B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910156422.0A CN109918354B (zh) 2019-03-01 2019-03-01 一种基于hdfs的磁盘定位方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910156422.0A CN109918354B (zh) 2019-03-01 2019-03-01 一种基于hdfs的磁盘定位方法、装置、设备及介质

Publications (2)

Publication Number Publication Date
CN109918354A CN109918354A (zh) 2019-06-21
CN109918354B true CN109918354B (zh) 2022-11-04

Family

ID=66962958

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910156422.0A Active CN109918354B (zh) 2019-03-01 2019-03-01 一种基于hdfs的磁盘定位方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN109918354B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112732494B (zh) * 2020-12-29 2024-02-13 北京浪潮数据技术有限公司 一种存储系统的坏盘更换方法、装置、设备及介质
CN112883025B (zh) * 2021-01-25 2021-11-16 北京云思畅想科技有限公司 一种可视化ceph内部数据结构映射关系的系统和方法
CN114139222B (zh) * 2021-12-08 2022-09-13 北京志凌海纳科技有限公司 超融合一体机磁盘拓扑标识方法、系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103747041A (zh) * 2013-12-24 2014-04-23 国家电网公司 一种智能电网与用户集成通信系统及其通信方法
CN104281414A (zh) * 2013-07-10 2015-01-14 中兴通讯股份有限公司 分布式文件系统及其小文件访问方法
CN104346135A (zh) * 2013-08-08 2015-02-11 腾讯科技(深圳)有限公司 数据流并行处理的方法、设备及系统
US9195393B1 (en) * 2014-05-30 2015-11-24 Vmware, Inc. Customizable virtual disk allocation for big data workload
US9582779B1 (en) * 2016-03-20 2017-02-28 Virtual Hold Technology, Llc System and method for enhanced customer experience workflow
KR101730508B1 (ko) * 2015-12-21 2017-04-26 서울대학교산학협력단 스파크 스트리밍 기반 클라우드 서버에서 선별적 i/o 요청 처리 방법 및 장치
CN109062515A (zh) * 2018-08-16 2018-12-21 郑州云海信息技术有限公司 一种磁盘管理方法、系统及相关组件

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103124285A (zh) * 2011-11-05 2013-05-29 李宗诚 基于价值链网络技术平台的智能集成机群操作系统
US9385915B2 (en) * 2012-11-30 2016-07-05 Netapp, Inc. Dynamic caching technique for adaptively controlling data block copies in a distributed data processing system
DE102013002393A1 (de) * 2013-02-13 2014-08-14 Rauch Landmaschinenfabrik Gmbh Verfahren zur Regelung des Massenstromes an Streugut bei einem Scheibenstreuer
CN106294439B (zh) * 2015-05-27 2020-02-28 北京广通神州网络技术有限公司 一种数据推荐系统及其数据推荐方法
CN106469103B (zh) * 2015-08-14 2019-10-18 华为软件技术有限公司 硬盘的维护方法和装置
CN107450855B (zh) * 2017-08-08 2020-06-19 浪潮云信息技术有限公司 一种用于分布式存储的模型可变的数据分布方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104281414A (zh) * 2013-07-10 2015-01-14 中兴通讯股份有限公司 分布式文件系统及其小文件访问方法
CN104346135A (zh) * 2013-08-08 2015-02-11 腾讯科技(深圳)有限公司 数据流并行处理的方法、设备及系统
CN103747041A (zh) * 2013-12-24 2014-04-23 国家电网公司 一种智能电网与用户集成通信系统及其通信方法
US9195393B1 (en) * 2014-05-30 2015-11-24 Vmware, Inc. Customizable virtual disk allocation for big data workload
KR101730508B1 (ko) * 2015-12-21 2017-04-26 서울대학교산학협력단 스파크 스트리밍 기반 클라우드 서버에서 선별적 i/o 요청 처리 방법 및 장치
US9582779B1 (en) * 2016-03-20 2017-02-28 Virtual Hold Technology, Llc System and method for enhanced customer experience workflow
CN109062515A (zh) * 2018-08-16 2018-12-21 郑州云海信息技术有限公司 一种磁盘管理方法、系统及相关组件

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
HDFS各个进程存储在磁盘上的数据含义和注意事项;George_sz;《https://www.bbsmax.com/A/QV5ZRME75y/》;20170117;第1页 *
VisIO: Enabling Interactive Visualization of Ultra-Scale, Time Series Data via High-Bandwidth Distributed I/O Systems;Christopher Mitchell等;《2011 IEEE International Parallel & Distributed Processing Symposium》;20110908;第1-13页 *
基于Hadoop和Django的大数据可视化分析Web系统;吴义;《中国优秀硕士学位论文全文数据库信息科技辑》;20170215(第2期);第I139-322页 *

Also Published As

Publication number Publication date
CN109918354A (zh) 2019-06-21

Similar Documents

Publication Publication Date Title
CN109522287B (zh) 分布式文件存储集群的监控方法、系统、设备及介质
CN109918354B (zh) 一种基于hdfs的磁盘定位方法、装置、设备及介质
US20130297603A1 (en) Monitoring methods and systems for data centers
US10430257B2 (en) Alarms with stack trace spanning logical and physical architecture
US10673706B2 (en) Integrated infrastructure and application performance monitoring
US11030038B2 (en) Fault prediction and detection using time-based distributed data
CN101707632A (zh) 一种动态监控服务器集群性能并实时报警的方法
CN111163150A (zh) 一种分布式调用追踪系统
Garduno et al. Theia: Visual signatures for problem diagnosis in large hadoop clusters
CN107491371A (zh) 一种监控部署的方法以及装置
CN112698915A (zh) 多集群统一监控告警方法、系统、设备及存储介质
CN113704790A (zh) 一种异常日志信息汇总方法及计算机设备
US9116805B2 (en) Method and system for processing events
CN106911519A (zh) 一种数据采集监控方法及装置
CN114048090A (zh) 基于k8s的容器云平台监控的方法、设备及存储介质
CN112865311A (zh) 一种电力系统消息总线监视方法和装置
US8850321B2 (en) Cross-domain business service management
CN108241565A (zh) 一种用于实现应用系统自动化运维的系统及方法
CN112966056B (zh) 一种信息处理方法、装置、设备、系统及可读存储介质
Bautista et al. Shasta log aggregation, monitoring and alerting in HPC environments with Grafana Loki and ServiceNow
CN117389830A (zh) 集群日志采集方法、装置、计算机设备及存储介质
CN111240936A (zh) 一种数据完整性校验的方法及设备
CN111176950A (zh) 一种监控服务器集群的网卡的方法和设备
CN114816914A (zh) 基于Kubernetes的数据处理方法、设备及介质
CN113821412A (zh) 一种设备运维管理方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant