CN107864215A - 对等网络文件系统、访问控制/管理方法/系统、及终端 - Google Patents
对等网络文件系统、访问控制/管理方法/系统、及终端 Download PDFInfo
- Publication number
- CN107864215A CN107864215A CN201711164098.4A CN201711164098A CN107864215A CN 107864215 A CN107864215 A CN 107864215A CN 201711164098 A CN201711164098 A CN 201711164098A CN 107864215 A CN107864215 A CN 107864215A
- Authority
- CN
- China
- Prior art keywords
- file
- access
- end node
- data
- accessed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/104—Peer-to-peer [P2P] networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/172—Caching, prefetching or hoarding of files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
- G06F16/1834—Distributed file systems implemented based on peer-to-peer networks, e.g. gnutella
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明提供一种对等网络文件系统、访问控制/管理方法/系统、及终端,所述访问控制方法包括:访问所述访问端节点下文件目录,并判断所述访问端节点与其指定的共享端节点之间是否已建立数据访问处理连接;若否,则动态配置与共享端节点之间的数据访问处理连接;若是,则打开所述文件目录中的被访问文件,在成功打开所述被访问文件时,读取该被访问文件,和/或对所述被访问文件进行数据处理;本发明通过对等组网建立数据访问处理连接,实现数据共享和映射连接关系,降低了数据一致性要求,提高了系统可用性;远程只读方式的访问,有利于提高并发度和吞吐量。
Description
技术领域
本发明属于计算机通信网络领域,涉及一种控制方法和系统、管理方法和系统,特别是涉及一种对等网络文件系统、访问控制/管理方法/系统、及终端。
背景技术
随着图片、视频等非结构化数据对象的不断增加,大数据应用对数据存储和处理性能要求越来越高,读写操作量的需求也不断上升,传统分布式文件系统在应对海量数据处理中显得越发吃力。
为了保证可靠性和可用性,分布式文件系统需要将文件数据复制为多个副本。在自动迁移、容错以及并发读写的过程中,多个副本之间务必保证数据一致性。传统的分布式文件系统往往使用存储全局元数据的总控节点保证数据一致性,管理控制工作节点。这样会带来两个问题:
(1)总控节点的性能会成为整个分布式系统的性能瓶颈,尤其是对小文件的访问,并且不易于扩容与维护。
(2)存储节点(工作节点)对总控节点有一定的依赖性,总控节点故障后,在切换至备份节点的过程中,容易降低系统的可用性。
当传统分布式文件系统面临大规模数据访问时,磁盘I/O往往成为性能瓶颈,从而导致过高的响应延迟。除了应用新型非易失随机访问存储器提高读写访问性能外,另一种改善磁盘I/O性能,提高并行度的方法是存储内计算,它将数据密集型的计算任务从CPU和内存中转移到存储设备内部执行,借助存储介质外的存储控制器构建逻辑单元,数据被读取到逻辑单元参与计算,只需返回计算结果给CPU。存储内计算减少了数据由存储介质到内存中的拷贝,充分利用了存储设备的内部带宽,降低了CPU的占用率,提高了访问并行度和吞吐能力。支持存储内计算的分布式文件系统,可以有效的将存储与计算结合起来,以数据处理任务的方式提供性能和价值输出。
互联网业务中读事务占的比例往往远远超过写事务,很多应用的读写比例达到6:1,甚至10:1。特别的,在仿神经元系统的应用场景中,存储节点之间以输入输出的方式相互关联,共享数据形成信息流。本地节点通过本地数据或其他节点的输出进行计算,而不需要对其他节点共享的数据进行修改。针对这种没有远程写操作的应用,我们可以简化分布式文件系统访问方式,降低一致性要求和数据同步负担,同时强化数据共享功能以及处理任务分发功能,最大限度降低数据传输压力,减少系统可靠性和一致性对系统规模的束缚。
因此,如何提供一种对等网络文件系统、访问控制/管理方法/系统、及终端,以解决现有技术中分布式文件系统中数据一致性要求高、并发度和吞吐量不高,访问延迟等缺陷,实以成为本领域技术人员亟待解决的技术问题。
发明内容
鉴于以上所述现有技术的缺点,本发明的目的在于提供一种对等网络文件系统、访问控制/管理方法/系统、及终端,用于解决现有技术中分布式文件系统中数据一致性要求高、并发度和吞吐量不高,访问延迟的问题。
为实现上述目的及其他相关目的,本发明一方面提供一种对等网络文件系统,应用于包括若干网络节点的通信网络中,所述对等网络文件系统包括:连接建立模块,用于在网络节点之间建立数据访问处理连接;定义模块,用于将发送访问请求的网络节点定义为访问端节点,或将接收所述访问请求,并响应所述访问请求的网络节点定义为共享端节点;数据处理模块,用于对存储在所述网络节点中的文件数据进行处理和存储内计算命令的解析与处理;管理模块,用于对存储在所述网络节点中的文件数据进行组织和管理。
本发明另一方面提供一种基于所述的对等网络文件系统的访问控制方法,应用于定义为访问端节点的网络节点,所述访问控制方法包括:访问所述访问端节点下文件目录,并判断所述访问端节点与其指定的共享端节点之间是否已建立数据访问处理连接;若否,则动态配置与共享端节点之间的数据访问处理连接;若是,则打开所述文件目录中的被访问文件,在成功打开所述被访问文件时,读取该被访问文件,和/或对所述被访问文件进行数据处理;其中,在打开所述被访问文件时,在所述访问端节点的缓存区中查询该被访问文件是否已打开过,若是,返回该被访问文件的文件描述符;若否,发送一文件打开指令至所述共享端节点,接收所述共享端节点反馈的表示成功打开所述被访问文件的标识,以获取该被访问文件的文件描述符;
在读取该被访问文件时,在所述缓存区查询一映射表,以判断所述映射表中是否存在所述被访问文件的映射关系;若是,则根据所述映射关系,反馈该被访问文件的物理地址;若否,则发送一读取操作指令至所述共享端节点,并将所述共享端节点根据所述读取操作指令反馈的被访问文件进行缓存,并建立所述文件目录下该访问文件的映射关系,以寻址到所述被访问文件的物理地址,原位读取所述被访问文件。
于本发明的一实施例中,所述动态配置与共享端节点之间的数据访问处理连接的步骤包括:获取所述访问端节点的访问端文件目录所指定的共享端节点的文件目录,发送连接请求至共享端节点,以建立数据访问处理连接。
于本发明的一实施例中,在所述访问端节点与与其指定的共享端节点建立数据访问处理连接后,所述访问控制方法还包括:发送关闭所述访问端节点下文件目录中的被访问文件的关闭指令至所述共享端节点,并接收所述共享端节点所反馈的成功关闭标识后,关闭所述被访问文件。
于本发明的一实施例中,所述对所述被访问文件进行数据处理的步骤包括:配置存储文件数据处理结果的缓存区地址;对所述访问端文件目录下的命令文件中写入数据;所述命令文件具有固定特征的文件名,用于转发数据处理命令、存储数据处理结果以及缓存数据访问处理连接的映射关系;所述写入数据包括数据处理命令和被访问文件的名称;将写入数据转发至所述共享端节点,并等待所述共享端节点对所写入数据的数据处理结果;将所述数据处理结果存储在预先指定的缓存区地址,并以轮询或中断方式通知应用程序已完成处理。
本发明另一方面还提供一种基于所述的访问控制方法的访问管理方法,应用于定义为共享端节点的网络节点,所述访问管理方法包括:接收源于访问端节点的文件打开指令,根据所述文件打开指令,打开所述访问端节点所要求打开的被访问文件,并反馈一表示成功打开所述被访问文件的标识至所述访问端节点;接收到源于所述访问端节点的读取操作指令,根据所述读取操作指令,读取文件目录下的被访问文件;待读取完毕后,将读取的文件数据发送至所述访问端节点。
于本发明的一实施例中,所述访问管理方法还包括:接收源于所述访问端节点的关闭指令,根据所述关闭指令,将该被访问文件的访问连接计数值减一,减至零时则关闭所述文件目录下的被访问文件,并将成功关闭标识反馈至所述访问端节点;当打开所述被访问文件时,将文件的访问连接计数值加一;接收所述访问端节点转发的同目录下命令文件的写入数据,根据所述写入数据中的数据处理命令判断是否需要进行存储内计算处理,若是,则配置存储内计算寄存器,并解析配置于所述共享端节点内的文件系统的数据组织结构,并寻址到被访问文件,并对所述被访问文件进行数据处理;若否,则将所述被访问文件复制至内存中,并对所述被访问文件进行数据处理。
本发明另一方面又提供一种基于所述的文件系统的访问控制系统,应用于定义为访问端节点的网络节点,所述访问控制系统包括:第一处理模块,配置模块,操作模块,第一通信模块;所述第一处理模块访问所述访问端节点下文件目录,并判断所述访问端节点与其指定的共享端节点之间是否已建立数据访问处理连接;若否,则所述配置模块动态配置与共享端节点之间的数据访问处理连接;若是,则所述操作模块打开所述文件目录中的被访问文件,在成功打开所述被访问文件时,读取该被访问文件,和/或对所述被访问文件进行数据处理;其中,所述操作模块在打开所述被访问文件时,在所述访问端节点的缓存区中查询该被访问文件是否已打开过,若是,则返回该被访问文件的文件描述符;若否,则通过所述第一通信模块发送一文件打开指令至所述共享端节点,接收所述共享端节点反馈的表示成功打开所述被访问文件的标识,以获取该被访问文件的文件描述符;所述操作模块在读取该被访问文件时,在所述缓存区查询一映射表,以判断所述映射表中是否存在所述被访问文件的映射关系;若是,则根据所述映射关系,反馈该被访问文件的物理地址;若否,则通过所述第一通信模块发送一读取操作指令至所述共享端节点,并将所述共享端节点根据所述读取操作指令反馈的被访问文件进行缓存,并建立所述文件目录下该访问文件的映射关系,以寻址到所述被访问文件的物理地址,原位读取所述被访问文件。
本发明另一方面再提供一种基于所述的访问控制系统的访问管理系统,应用于定义为共享端节点的网络节点,所述访问管理系统包括:第二通信模块和第二处理模块;所述第二通信模块接收源于访问端节点的文件打开指令,所述第二处理模块根据所述文件打开指令,打开所述访问端节点所要求打开的被访问文件,并通过所述第二通信模块反馈一表示成功打开所述被访问文件的标识至所述访问端节点;所述第二通信模块接收到源于所述访问端节点的读取操作指令,所述第二处理模块根据所述读取操作指令,读取文件目录下的被访问文件;待读取完毕后,通过所述第二通信模块将读取的文件数据发送至所述访问端节点。
本发明最后一方面提供一种终端,包括:处理器及存储器;所述存储器用于存储计算机程序,所述处理器用于执行所述存储器存储的计算机程序,以使所述终端执行如所述的访问控制方法,和/或执行所述的访问管理方法。
如上所述,本发明的文件系统、访问控制/管理方法/系统、存储介质及终端,具有以下有益效果:
本发明文件系统、访问控制/管理方法/系统、存储介质及终端去除了通信网络中的总控节点,整个网络中没有全局数据管理,各存储节点只需负责维护本地数据;通过对等组网建立数据访问处理连接,实现数据共享和映射连接关系,降低了数据一致性要求,提高了系统可用性;远程只读方式的访问,有利于提高并发度和吞吐量。新型非易失存储器的应用,降低访问延迟,优化存储I/O性能。对等网络文件系统中,共享端可以响应访问端的处理请求对共享端本地文件数据进行处理和存储内计算,可以降低数据迁移,提高大规模数据访问和处理的效率。
附图说明
图1A显示为本发明的通信网络于一实施例中的结构示意图。
图1B显示为本发明的数据访问处理连接的连接实施方式示意图。
图1C显示为本发明的数据访问处理连接的连接实施方式示意图。
图1D显示为本发明的数据访问处理连接的连接实施方式示意图。
图1E显示为本发明的数据访问处理连接的连接实施方式示意图。
图1F显示为本发明的数据访问处理连接的连接实施方式示意图。
图2显示为本发明的对等网络文件系统于一实施例中的原理结构示意图。
图3显示为本发明的访问控制方法于一实施例中的流程示意图。
图4显示为本发明的访问管理方法于一实施例中的流程示意图。
图5显示为本发明的访问控制系统与访问管理系统的交互原理示意图。
元件标号说明
1 通信网络
11 访问端节点
12 共享端节点
13 被访问文件
14 存储内计算模块
2 对等网络文件系统
21 连接建立模块
22 定义模块
23 数据处理模块
24 管理模块
51 访问控制系统
511 第一通信模块
512 第一处理模块
513 配置模块
514 操作模块
52 访问管理系统
521 第二通信模块
522 第二处理模块
S31~S33 步骤
S41~S44 步骤
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,遂图式中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
实施例一
本实施例提供一种对等网络文件系统,应用于包括若干网络节点的通信网络中,所述对等网络文件系统包括:
连接建立模块,用于在网络节点之间建立数据访问处理连接;
定义模块,用于在网络节点之间建立数据访问处理连接后,将发送访问请求的网络节点定义为访问端节点,或将接收所述访问请求,并响应所述访问请求的网络节点定义为共享端节点;
数据处理模块,用于对存储在所述网络节点中的文件数据进行处理和存储内计算命令的解析与处理;
管理模块,用于对存储在所述网络节点中的文件数据进行组织和管理。
以下将结合图示对本实施例所提供的文件系统进行详细描述。本实施例所述的文件系统又称对等网络文件系统。所述对等网络文件系统应用于包括若干网络节点(所述网络节点中包含有访问端节点,和共享端节点)的通信网络1中。请参阅图1A,显示为通信网络于一实施例中的结构示意图。如图1A所示,所述通信网络1包括发起访问文件和数据处理请求的访问端节点11和响应所述访问文件和数据处理请求的共享端节点12。在本实施例中,所述网络节点至少由一台主机构成,每台主机至少包括CPU、由动态随机存取存储器(DRAM,Dynamic Random Access Memory)和新型非易失性随机存储器组成的存储架构、支持存储内计算指令的存储控制器以及网络设备。其中,DRAM和新型非易失性随机存储器均与CPU的内存接口相连接,采用统一物理地址编址。在本实施方式中,非易失性随机存储器为相变存储器(PCRAM,Phase Change Random Access Memory)、阻变存储器(RRAM,ResistiveRandom Access Memory)、磁存储器(MRAM,Magnetic Random Access Memory)或者铁电存储器(FeRAM,Ferroelectric Random Access Memory)中的一种或几种。存储节点的动态随机存取存储器DRAM中设有对等网络文件系统的缓冲区,用于缓存其它存储节点的被访问文件数据和数据处理结果;非易失性随机存储器用于存储本地的文件数据。存储控制器提供对非易失性随机存储器读写访问,并且实现了一种支持存储内计算的逻辑电路,可以直接对存储在非易失性随机存储器的文件进行数据处理。网络设备用于建立数据访问处理连接,对等网络文件系统可以通过数据访问处理连接访问其他存储节点的文件数据。
请参阅图1B,1C,1D,1E,1F,分别显示为数据访问处理连接的连接实施方式示意图。
如图1B所示,数据访问处理连接可以在两个节点间建立双向连接,形成相互共享的对等网络,实现两个节点间数据的双向访问。
如图1C所示,数据访问处理连接可以在多个节点间形成单向链条形式的连接,实现数据的流水线形式处理,应用于具有持续数据输入和连续处理应用需求的领域。
如图1D所示,数据访问处理连接可以在多个节点间形成树形连接,实现数据逐级处理功能,应用于数据关联性较强的大数据处理应用领域。
如图1E所示,数据访问处理连接可以在多个节点间形成多层连接,组成类似于人工神经网络形式的对等网络,应用于大数据处理及机器学习等领域。
如图1F所示,数据访问处理连接可以在多个节点间形成双向全连接,组成类似于递归神经网络形式的对等网络,应用于自然语言处理等领域。
请参阅图2,显示为文件系统于一实施例中的原理结构示意图。如图2所示,所述对等网络文件系统2包括连接建立模块21、定义模块22、数据处理模块23及管理模块24。
其中,所述连接建立模块21用于在网络节点之间建立数据访问处理连接。该数据访问处理连接实现访问端节点对共享端节点本地存储的文件数据的读访问功能,以及共享端节点响应访问端节点的访问文件和数据处理请求,对共享端本地文件进行数据处理,并向访问端返回处理结果的功能。在本实施例中,网络节点既可以定义为访问端节点,也可以被定义为共享端节点。访问端节点的一个访问端文件目录只能指定给一个数据访问处理连接。共享端节点的对等网络文件系统从数据访问处理连接收到访问文件和数据处理请求时,按照该请求完成共享端的被访问文件的访问,并将访问结果通过数据访问处理连接发送给访问端节点,共享端节点的同一个共享端文件目录可以指定给多个数据访问处理连接。
与所述连接建立模块21耦合的定义模块22用于在网络节点之间建立数据访问处理连接后,将发送访问请求的网络节点定义为访问端节点,或将接收所述访问请求,并响应所述访问请求的网络节点定义为共享端节点。在本实施例中,所述访问端节点11和共享端节点12内包括有被访问文件13以及存储内计算模块14。在本实施方式中,访问端节点11通过对等网络文件系统缓冲部分共享端节点12的文件数据和元数据,共享端节点12的对等网络文件系统对文件目录下被访问端节点打开的文件数据或元数据进行改动后,通过数据访问处理连接通知访问端节点更新。
在本实施方式中,共享端节点的对等网络文件系统对共享点路径下被访问端节点打开的文件数据或元数据进行写操作前,等待当前访问端节点的读取请求完成,并拒绝之后访问端节点的读取请求,直到当前的写操作结束。
与所述连接建立模块21和定义模块22耦合的数据处理模块23用于对存储在所述网络节点中的文件数据进行处理和存储内计算命令的解析与处理。在本实施例中,共享端节点在其的文件目录内维护一个命令文件,该命令文件具有固定特征的文件名,并在建立数据访问处理连接时对访问端节点可见,该命令文件的访问方式为:
当共享端节点从数据访问处理连接收到对该命令文件的写入操作时,将写入数据解析为数据处理命令(写入数据遵循预先设定好的命令格式,对等网络文件系统截取到写入数据后可以按照该命令格式解析数据处理命令,并执行相应操作),共享端节点的对等网络文件系统根据该数据处理命令命令完成文件数据处理(在本实施例中,文件数据处理可以是搜索、排序等基本的数据处理操作,可根据现有算法由对等网络文件系统进行处理。特别的,存储内计算指令可以由硬件模块进行处理),并缓存处理结果。
当共享端节点从数据访问处理连接收到对该命令文件的读出操作时,将缓存的处理结果作为读出数据通过数据访问处理连接返回。
共享端节点支持存储内计算指令,共享端节点的对等网络文件系统,将写入命令文件的数据处理命令传递给存储设备,由存储设备中的存储控制器根据对等网络文件系统的数据组织结构解析文件数据,对文件进行数据处理,并缓存处理结果。
与所述连接建立模块21、定义模块22、数据处理模块23耦合的管理模块24用于对存储在所述网络节点中的文件数据进行组织和管理。
本实施方式的对等网络文件系统,通过对等组网实现数据共享和映射连接关系,去除了总控节点,整个网络中没有全局数据管理,各存储节点只需负责维护本地数据,降低了数据一致性要求,提高了系统可用性;远程只读方式的访问,有利于提高并发度和吞吐量。新型非易失随机存储器的应用,降低访问延迟,优化存储I/O性能。对等网络文件系统中,共享端可以响应访问端的处理请求对共享端本地文件数据进行处理和存储内计算,可以降低数据迁移,提高大规模数据访问和处理的效率。
值得一提的是,本实施方式中所涉及到的各单元均为逻辑单元,在实际应用中,一个逻辑单元可以是一个物理单元,也可以是一个物理单元的一部分,还可以以多个物理单元的组合实现。此外,为了突出本发明的创新部分,本实施方式中并没有将与解决本发明所提出的技术问题关系不太密切的单元引入,但这并不表明本实施方式中不存在其它的单元。
实施例二
本实施例提供一种基于所述的对等网络文件系统的访问控制方法,应用于定义为访问端节点的网络节点,所述访问控制方法包括:
访问所述访问端节点下文件目录,并判断所述访问端节点与其指定的共享端节点之间是否已建立数据访问处理连接;若否,则动态配置与共享端节点之间的数据访问处理连接;若是,则打开所述文件目录中的被访问文件,在成功打开所述被访问文件时,读取该被访问文件,和/或对所述被访问文件进行数据处理;
其中,在打开所述被访问文件时,在所述访问端节点的缓存区中查询该被访问文件是否已打开过,若是,返回该被访问文件的文件描述符;若否,发送一文件打开指令至所述共享端节点,接收所述共享端节点反馈的表示成功打开所述被访问文件的标识,以获取该被访问文件的文件描述符;
在读取该被访问文件时,在所述缓存区查询一映射表,以判断所述映射表中是否存在所述被访问文件的映射关系;若是,则根据所述映射关系,反馈该被访问文件的物理地址;若否,则发送一读取操作指令至所述共享端节点,并将所述共享端节点根据所述读取操作指令反馈的被访问文件进行缓存,并建立所述文件目录下该访问文件的映射关系,以寻址到所述被访问文件的物理地址,原位读取所述被访问文件。
以下将结合图示对本实施例所提供的访问控制方法进行详细描述,需要注意的是以下方法的各个步骤没有固定顺序。本实施例所述的访问控制方法应用于如图1中定义为访问端节点的网络节点上。请参阅图3,显示为访问控制方法于一实施例中的流程示意图。如图3所示,所述访问控制方法具体包括以下几个步骤:
S31,所述访问端节点访问器其下文件目录,并判断所述访问端节点与其指定的共享端节点之间是否已建立数据访问处理连接。若否,则执行步骤S32。若是,则执行步骤S33。
S32,动态配置与共享端节点之间的数据访问处理连接。具体地,获取所述访问端节点指定的共享端节点的文件目录,发送连接请求至共享端节点,通过TCP/IP等网络协议建立数据访问处理连接,并将映射关系缓存至该目录下的命令文件。在本实施例中,在所述访问端节点与共享端节点之间建立数据访问处理连接后,所述共享端节点下的文件数据和目录元数据被缓存在访问端节点所述配置的对等网络文件系统的缓存区,访问端节点下的文件数据和目录元数据与共享端下的一致。
S33,打开所述文件目录中的被访问文件,在成功打开所述被访问文件时,读取该被访问文件,对所述被访问文件进行数据处理,请求关闭被访问文件和/或请求撤销数据访问处理连接。
在本实施例中,所述访问端节点的应用进程请求打开被访问文件时,在所述访问端节点的缓存区中查询该被访问文件是否已打开过,若是,返回该被访问文件的文件描述符;若否,通过所述访问端节点的网络接口发送一文件打开指令至所述共享端节点,接收所述共享端节点反馈的表示成功打开所述被访问文件的标识,以获取该被访问文件的文件描述符。在本实施例中,所述文件描述符是应用进程对文件数据的标识,通过文件描述符访问被访问文件。
在成功打开所述被访问文件,读取该被访问文件时,在所述缓存区查询一映射表,以判断所述映射表中是否存在所述被访问文件的映射关系;若是,则根据所述映射关系,反馈该被访问文件的物理地址;若否,则发送一读取操作指令至所述共享端节点,并将所述共享端节点根据所述读取操作指令反馈的被访问文件进行缓存,并建立所述文件目录下该访问文件的映射关系,以寻址到所述被访问文件的物理地址,原位读取所述被访问文件。在本实施例中,所述映射表用于指明访问端节点缓存区的缓存数据与共享端节点的被访问文件之间的映射关系。在本实施例中,在传统的内存+硬盘架构中,应用进程读取硬盘中的数据时,系统需要将数据从硬盘拷贝至内存中,应用程序在内存中进行读取和处理。采用新型非易失存储器(NVM),应用程序可以直接在NVM上读取数据。
应用进程对所述被访问文件进行数据处理时,所述访问控制方法具体包括:
配置存储文件数据处理结果的缓存区地址;对所述访问端文件目录下的命令文件中写入数据;所述写入数据包括数据处理命令和被访问文件的名称;将写入数据转发至所述共享端节点,并等待所述共享端节点对所写入数据的数据处理结果;将所述数据处理结果存储在预先指定的缓存区地址,并以轮询或中断方式通知应用程序已完成处理。
在本实施例中,所述访问控制方法还包括:
在所述访问端节点请求关闭被访问文件时,访问端节点通过网络接口将发送关闭所述访问端节点下文件目录中的被访问文件的关闭指令至所述共享端节点,并接收所述共享端节点所反馈的成功关闭标识后,关闭所述被访问文件。
在所述访问端节点请求撤销数据访问处理连接时,应用进程检测需要撤销的文件目录下是否存已打开的被访问文件(在本实施例,通过所述访问端节点提供的已打开文件列表,如Linux下的lsof命令),若存在,则关闭该被访问文件,若不存在,则撤销数据访问处理连接,清空该文件目录下的文件数据与元数据的缓存,并通知共享端节点取消数据访问处理连接的设置。
本实施例还提供一种基于上述访问控制方法的访问管理方法,应用于定义为共享端节点的网络节点,所述访问管理方法包括:
接收源于访问端节点的文件打开指令,根据所述文件打开指令,打开所述访问端节点所要求打开的被访问文件,并反馈一表示成功打开所述被访问文件的标识至所述访问端节点;
接收到源于所述访问端节点的读取操作指令,根据所述读取操作指令,读取文件目录下的被访问文件;待读取完毕后,将读取的文件数据发送至所述访问端节点。
以下将结合图示对本实施例所提供的访问管理方法进行详细描述。本实施例提供的访问管理方法应用于定义为共享端节点的网络节点,请参阅图4,显示为访问管理方法于一实施例中的流程示意图。如图4所示,所述访问管理方法具体包括以下几个步骤:
S41,在所述访问端节点请求打开被访问文件时,接收源于访问端节点的文件打开指令,根据所述文件打开指令,打开所述访问端节点所要求打开的被访问文件,将文件的访问连接计数值加一,并反馈一表示成功打开所述被访问文件的标识至所述访问端节点。
S42,在所述访问端节点请求读取被访问文件时,接收到源于所述访问端节点的读取操作指令,根据所述读取操作指令,读取文件目录下的被访问文件;待读取完毕后,将读取的文件数据发送至所述访问端节点。
S43,在所述访问端节点请求关闭被访问文件时,接收源于所述访问端节点的关闭指令,根据所述关闭指令,将该被访问文件的访问连接计数值减一,减至零时则关闭所述文件目录下的被访问文件,并将成功关闭标识反馈至所述访问端节点。
S44,在所述访问端节点请求对所述被访问文件进行数据处理时,接收所述访问端节点转发的同目录下命令文件的写入数据,根据所述写入数据中的数据处理命令判断是否需要进行存储内计算处理,若是,则配置存储内计算寄存器,并解析配置于所述共享端节点内的文件系统的数据组织结构,并寻址到被访问文件,并对所述被访问文件进行数据处理;若否,则将所述被访问文件复制至内存中,并对所述被访问文件进行数据处理。在本实施中,所述存储内计算处理包括搜索、排序等常见数据操作。例如,需要对数据排序,那么应用进程向被访问文件写入存储内计算的排序指令,对等网络文件系统根据写入的指令配置寄存器,使硬件模块进行排序操作。所述命令文件具有固定特征的文件名,用于转发数据处理命令、存储数据处理结果以及缓存数据访问处理连接的映射关系。
本实施例还提供一种存储介质(计算机可读存储介质),其上存储有计算机程序,该程序被处理器执行所述的访问控制方法,或该程序被处理器执行时实现所述的访问管理方法。本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过计算机程序相关的硬件来完成。前述的计算机程序可以存储于一计算机可读存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
本实施例所述的访问控制方法、访问管理方法、存储介质去除了通信网络中的总控节点,整个网络中没有全局数据管理,各存储节点只需负责维护本地数据;通过对等组网建立数据访问处理连接,实现数据共享和映射连接关系,降低了数据一致性要求,提高了系统可用性;远程只读方式的访问,有利于提高并发度和吞吐量。新型非易失存储器的应用,降低访问延迟,优化存储I/O性能。对等网络文件系统中,共享端可以响应访问端的处理请求对共享端本地文件数据进行处理和存储内计算,可以降低数据迁移,提高大规模数据访问和处理的效率。
实施例三
本实施例提供一种实施例一所述的文件系统的访问控制系统51,应用于定义为访问端节点的网络节点。请参阅图5,显示为访问控制系统与访问管理系统的交互原理示意图。如图5所示,所述访问控制系统51包括:第一通信模块511、第一处理模块512,配置模块513,及操作模块514。
在所述第一通信模块511接收访问被访问文件的请求时,所述第一处理模块512访问所述访问端节点下文件目录,并判断所述访问端节点与其指定的共享端节点之间是否已建立数据访问处理连接;若否,则所述配置模块513动态配置与共享端节点之间的数据访问处理连接;若是,则所述操作模块514打开所述文件目录中的被访问文件,在成功打开所述被访问文件时,读取该被访问文件,和/或对所述被访问文件进行数据处理;
其中,在应用进程请求打开被访问文件时,所述操作模块514在所述访问端节点的缓存区中查询该被访问文件是否已打开过,若是,返回该被访问文件的文件描述符;若否,通过所述访问端节点的网络接口发送一文件打开指令至所述共享端节点,接收所述共享端节点反馈的表示成功打开所述被访问文件的标识,以获取该被访问文件的文件描述符。在本实施例中,所述文件描述符是应用进程对文件数据的标识,通过文件描述符访问被访问文件。
在成功打开所述被访问文件,所述操作模块514读取该被访问文件时,在所述缓存区查询一映射表,以判断所述映射表中是否存在所述被访问文件的映射关系;若是,则根据所述映射关系,反馈该被访问文件的物理地址;若否,则通过所述第一通信模块511发送一读取操作指令至所述共享端节点,并将所述共享端节点根据所述读取操作指令反馈的被访问文件进行缓存,并建立所述文件目录下该访问文件的映射关系,以寻址到所述被访问文件的物理地址,原位读取所述被访问文件。在本实施例中,所述映射表用于指明访问端节点缓存区的缓存数据与共享端节点的被访问文件之间的映射关系。在本实施例中,在传统的内存+硬盘架构中,应用进程读取硬盘中的数据时,系统需要将数据从硬盘拷贝至内存中,应用程序在内存中进行读取和处理。采用新型非易失存储器(NVM),应用程序可以直接在NVM上读取数据。
应用进程对所述被访问文件进行数据处理时,所述操作模块514配置存储文件数据处理结果的缓存区地址;对所述访问端文件目录下的命令文件中写入数据;所述写入数据包括数据处理命令和被访问文件的名称;将写入数据转发至所述共享端节点,并等待所述共享端节点对所写入数据的数据处理结果;将所述数据处理结果存储在预先指定的缓存区地址,并以轮询或中断方式通知应用程序已完成处理。
在所述访问端节点请求关闭被访问文件时,所述操作模块514通过网络接口将发送关闭所述访问端节点下文件目录中的被访问文件的关闭指令至所述共享端节点,并接收所述共享端节点所反馈的成功关闭标识后,关闭所述被访问文件。
在所述访问端节点请求撤销数据访问处理连接时,所述操作模块514检测需要撤销的文件目录下是否存已打开的被访问文件(在本实施例,通过所述访问端节点提供的已打开文件列表,如Linux下的lsof命令),若存在,则关闭该被访问文件,若不存在,则撤销数据访问处理连接,清空该文件目录下的文件数据与元数据的缓存,并通知共享端节点取消数据访问处理连接的设置。
继续参阅图5,应用于定义为共享端节点的网络节点的访问管理系统52包括第二通信模块521和第二处理模块522。
所述第二通信模块521接收源于访问端节点的文件打开指令,所述第二处理模块522根据所述文件打开指令,打开所述访问端节点所要求打开的被访问文件,并通过所述第二通信模块反馈一表示成功打开所述被访问文件的标识至所述访问端节点。
所述第二通信模块521接收到源于所述访问端节点的读取操作指令,所述第二处理模块522根据所述读取操作指令,读取文件目录下的被访问文件;待读取完毕后,通过所述第二通信模块512将读取的文件数据发送至所述访问端节点。
所述第二通信模块521接收源于所述访问端节点的关闭指令,所述第二处理模块522根据所述关闭指令,将该被访问文件的访问连接计数值减一,减至零时则关闭所述文件目录下的被访问文件,并将成功关闭标识通过所述第二通信模块521反馈至所述访问端节点。
所述第二通信模块521接收所述访问端节点转发的同目录下命令文件的写入数据,所述第二处理模块522根据所述写入数据中的数据处理命令判断是否需要进行存储内计算处理,若是,则配置存储内计算寄存器,并解析配置于所述共享端节点内的文件系统的数据组织结构,并寻址到被访问文件,并对所述被访问文件进行数据处理;若否,则将所述被访问文件复制至内存中,并对所述被访问文件进行数据处理。在本实施中,所述存储内计算处理包括搜索、排序等常见数据操作。例如,需要对数据排序,那么应用进程向被访问文件写入存储内计算的排序指令,对等网络文件系统根据写入的指令配置寄存器,使硬件模块进行排序操作。
实施例四
本实施例提供一种终端,包括访问端和/共享端。所述终端包括:处理器、存储器、收发器、通信接口和系统总线;存储器和通信接口通过系统总线与处理器和收发器连接并完成相互间的通信,存储器用于存储计算机程序,通信接口用于和其他设备进行通信,处理器和收发器用于运行计算机程序,使终端执行如上访问控制方法的各个步骤,或使终端执行如上基于访问控制方法的访问管理方法的各个步骤。
上述提到的系统总线可以是外设部件互连标准(PeripheralPomponentInterconnect,简称PCI)总线或扩展工业标准结构(ExtendedIndustryStandardArchitecture,简称EISA)总线等。该系统总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。通信接口用于实现数据库访问装置与其他设备(例如客户端、读写库和只读库)之间的通信。存储器可能包含随机存取存储器(RandomAccessMemory,简称RAM),也可能还包括非易失性存储器(non-volatilememory),例如至少一个磁盘存储器。
上述的处理器可以是通用处理器,包括中央处理器(CentralProcessingUnit,简称CPU)、网络处理器(NetworkProcessor,简称NP)等;还可以是数字信号处理器(DigitalSignalProcessing,简称DSP)、专用集成电路(ApplicationSpecificIntegratedCircuit,简称ASIC)、现场可编程门阵列(Field-ProgrammableGateArray,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
综上所述,本发明文件系统、访问控制/管理方法/系统、存储介质及终端去除了通信网络中的总控节点,整个网络中没有全局数据管理,各存储节点只需负责维护本地数据;通过对等组网建立数据访问处理连接,实现数据共享和映射连接关系,降低了数据一致性要求,提高了系统可用性;远程只读方式的访问,有利于提高并发度和吞吐量。新型非易失存储器的应用,降低访问延迟,优化存储I/O性能。对等网络文件系统中,共享端可以响应访问端的处理请求对共享端本地文件数据进行处理和存储内计算,可以降低数据迁移,提高大规模数据访问和处理的效率。所以,本发明有效克服了现有技术中的种种缺点而具高度产业利用价值。
上述实施例仅例示性说明本发明的原理及其功效,而非用于限制本发明。任何熟悉此技术的人士皆可在不违背本发明的精神及范畴下,对上述实施例进行修饰或改变。因此,举凡所属技术领域中具有通常知识者在未脱离本发明所揭示的精神与技术思想下所完成的一切等效修饰或改变,仍应由本发明的权利要求所涵盖。
Claims (10)
1.一种对等网络文件系统,其特征在于,应用于包括若干网络节点的通信网络中,所述对等网络文件系统包括:
连接建立模块,用于在网络节点之间建立数据访问处理连接;
定义模块,用于将发送访问请求的网络节点定义为访问端节点,或将接收所述访问请求,并响应所述访问请求的网络节点定义为共享端节点;
数据处理模块,用于对存储在所述网络节点中的文件数据进行处理和存储内计算命令的解析与处理;
管理模块,用于对存储在所述网络节点中的文件数据进行组织和管理。
2.一种基于权1所述的对等网络文件系统的访问控制方法,其特征在于,应用于定义为访问端节点的网络节点,所述访问控制方法包括:
访问所述访问端节点下文件目录,并判断所述访问端节点与其指定的共享端节点之间是否已建立数据访问处理连接;若否,则动态配置与共享端节点之间的数据访问处理连接;若是,则打开所述文件目录中的被访问文件,在成功打开所述被访问文件时,读取该被访问文件,和/或对所述被访问文件进行数据处理;
其中,在打开所述被访问文件时,在所述访问端节点的缓存区中查询该被访问文件是否已打开过,若是,返回该被访问文件的文件描述符;若否,发送一文件打开指令至所述共享端节点,接收所述共享端节点反馈的表示成功打开所述被访问文件的标识,以获取该被访问文件的文件描述符;
在读取该被访问文件时,在所述缓存区查询一映射表,以判断所述映射表中是否存在所述被访问文件的映射关系;若是,则根据所述映射关系,反馈该被访问文件的物理地址;若否,则发送一读取操作指令至所述共享端节点,并将所述共享端节点根据所述读取操作指令反馈的被访问文件进行缓存,并建立所述文件目录下该访问文件的映射关系,以寻址到所述被访问文件的物理地址,原位读取所述被访问文件。
3.根据权利要求2所述的访问控制方法,其特征在于,所述动态配置与共享端节点之间的数据访问处理连接的步骤包括:
获取所述访问端节点的访问端文件目录所指定的共享端节点的共享端文件目录,发送连接请求至共享端节点,以建立数据访问处理连接。
4.根据权利要求3所述的访问控制方法,其特征在于,在所述访问端节点与与其指定的共享端节点建立数据访问处理连接后,所述访问控制方法还包括:
发送所述访问端节点下文件目录中的被访问文件的关闭指令至所述共享端节点,并接收所述共享端节点所反馈的成功关闭标识后,关闭所述被访问文件。
5.根据权利要求2所述的访问控制方法,其特征在于,所述对所述被访问文件进行数据处理的步骤包括:
配置存储文件数据处理结果的缓存区地址;
对所述访问端文件目录下的命令文件中写入数据;所述命令文件具有固定特征的文件名,用于转发数据处理命令、存储数据处理结果以及缓存数据访问处理连接的映射关系;所述写入数据包括数据处理命令和被访问文件的名称;
将写入数据转发至所述共享端节点,并等待所述共享端节点对所写入数据的数据处理结果;
将所述数据处理结果存储在预先指定的缓存区地址,并以轮询或中断方式通知应用程序已完成处理。
6.一种基于权2至权5任一项所述的访问控制方法的访问管理方法,其特征在于,应用于定义为共享端节点的网络节点,所述访问管理方法包括:
接收源于访问端节点的文件打开指令,根据所述文件打开指令,打开所述访问端节点所要求打开的被访问文件,并反馈一表示成功打开所述被访问文件的标识至所述访问端节点;
接收到源于所述访问端节点的读取操作指令,根据所述读取操作指令,读取文件目录下的被访问文件;待读取完毕后,将读取的文件数据发送至所述访问端节点。
7.根据权利要求6所述的访问管理方法,其特征在于,所述访问管理方法还包括:
接收源于所述访问端节点的关闭指令,根据所述关闭指令,将该被访问文件的访问连接计数值减一,减至零时则关闭所述文件目录下的被访问文件,并将成功关闭标识反馈至所述访问端节点;
当打开所述被访问文件时,将文件的访问连接计数值加一;
接收所述访问端节点转发的同目录下命令文件的写入数据,根据所述写入数据中的数据处理命令判断是否需要进行存储内计算处理,若是,则配置存储内计算寄存器,并解析配置于所述共享端节点内的文件系统的数据组织结构,并寻址到被访问文件,并对所述被访问文件进行数据处理;若否,则将所述被访问文件复制至内存中,并对所述被访问文件进行数据处理。
8.一种基于权1所述的文件系统的访问控制系统,其特征在于,应用于定义为访问端节点的网络节点,所述访问控制系统包括:第一处理模块,配置模块,操作模块,第一通信模块;
所述第一处理模块访问所述访问端节点下文件目录,并判断所述访问端节点与其指定的共享端节点之间是否已建立数据访问处理连接;若否,则所述配置模块动态配置与共享端节点之间的数据访问处理连接;若是,则所述操作模块打开所述文件目录中的被访问文件,在成功打开所述被访问文件时,读取该被访问文件,和/或对所述被访问文件进行数据处理;
其中,所述操作模块在打开所述被访问文件时,在所述访问端节点的缓存区中查询该被访问文件是否已打开过,若是,则返回该被访问文件的文件描述符;若否,则通过所述第一通信模块发送一文件打开指令至所述共享端节点,接收所述共享端节点反馈的表示成功打开所述被访问文件的标识,以获取该被访问文件的文件描述符;
所述操作模块在读取该被访问文件时,在所述缓存区查询一映射表,以判断所述映射表中是否存在所述被访问文件的映射关系;若是,则根据所述映射关系,反馈该被访问文件的物理地址;若否,则通过所述第一通信模块发送一读取操作指令至所述共享端节点,并将所述共享端节点根据所述读取操作指令反馈的被访问文件进行缓存,并建立所述文件目录下该访问文件的映射关系,以寻址到所述被访问文件的物理地址,原位读取所述被访问文件。
9.一种基于权8所述的访问控制系统的访问管理系统,其特征在于,应用于定义为共享端节点的网络节点,所述访问管理系统包括:第二通信模块和第二处理模块;
所述第二通信模块接收源于访问端节点的文件打开指令,所述第二处理模块根据所述文件打开指令,打开所述访问端节点所要求打开的被访问文件,并通过所述第二通信模块反馈一表示成功打开所述被访问文件的标识至所述访问端节点;
所述第二通信模块接收到源于所述访问端节点的读取操作指令,所述第二处理模块根据所述读取操作指令,读取文件目录下的被访问文件;待读取完毕后,通过所述第二通信模块将读取的文件数据发送至所述访问端节点。
10.一种终端,其特征在于,包括:处理器及存储器;
所述存储器用于存储计算机程序,所述处理器用于执行所述存储器存储的计算机程序,以使所述终端执行如权利要求2至5中任一项所述的访问控制方法,和/或执行如权利要求6至7中任一项所述的访问管理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711164098.4A CN107864215B (zh) | 2017-11-21 | 2017-11-21 | 对等网络文件系统、访问控制/管理方法/系统、及终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711164098.4A CN107864215B (zh) | 2017-11-21 | 2017-11-21 | 对等网络文件系统、访问控制/管理方法/系统、及终端 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107864215A true CN107864215A (zh) | 2018-03-30 |
CN107864215B CN107864215B (zh) | 2020-10-20 |
Family
ID=61703291
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711164098.4A Active CN107864215B (zh) | 2017-11-21 | 2017-11-21 | 对等网络文件系统、访问控制/管理方法/系统、及终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107864215B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109063081A (zh) * | 2018-07-25 | 2018-12-21 | 广东浪潮大数据研究有限公司 | 一种nfs业务监控方法、装置、设备及可读存储介质 |
CN112188476A (zh) * | 2020-09-09 | 2021-01-05 | 北京四季豆信息技术有限公司 | 通信方法、通信装置、移动终端和存储介质 |
CN113051244A (zh) * | 2021-03-22 | 2021-06-29 | 北京百度网讯科技有限公司 | 数据访问方法和装置、数据获取方法和装置 |
CN115794750A (zh) * | 2023-02-07 | 2023-03-14 | 北京卡普拉科技有限公司 | 异步i/o系统文件打开/关闭的控制方法、装置及设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102812450A (zh) * | 2009-10-30 | 2012-12-05 | 时代华纳有线公司 | 用于在内容递送网络上进行经包化内容递送的方法及设备 |
US20140137119A1 (en) * | 2012-11-15 | 2014-05-15 | Elwha LLC, a limited liability corporation of the State of Delaware | Multi-core processing in memory |
CN105049268A (zh) * | 2015-08-28 | 2015-11-11 | 东方网力科技股份有限公司 | 分布式计算资源分配系统和任务处理方法 |
CN107145500A (zh) * | 2017-03-17 | 2017-09-08 | 中国科学院计算机网络信息中心 | 一种基于Memcached的大数据缓存交互式查询方法 |
WO2017155781A1 (en) * | 2016-03-10 | 2017-09-14 | Micron Technology, Inc. | Apparatuses and methods for logic/memory devices |
-
2017
- 2017-11-21 CN CN201711164098.4A patent/CN107864215B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102812450A (zh) * | 2009-10-30 | 2012-12-05 | 时代华纳有线公司 | 用于在内容递送网络上进行经包化内容递送的方法及设备 |
US20140137119A1 (en) * | 2012-11-15 | 2014-05-15 | Elwha LLC, a limited liability corporation of the State of Delaware | Multi-core processing in memory |
CN105049268A (zh) * | 2015-08-28 | 2015-11-11 | 东方网力科技股份有限公司 | 分布式计算资源分配系统和任务处理方法 |
WO2017155781A1 (en) * | 2016-03-10 | 2017-09-14 | Micron Technology, Inc. | Apparatuses and methods for logic/memory devices |
CN107145500A (zh) * | 2017-03-17 | 2017-09-08 | 中国科学院计算机网络信息中心 | 一种基于Memcached的大数据缓存交互式查询方法 |
Non-Patent Citations (1)
Title |
---|
罗乐、刘轶、钱德沛: ""内存计算技术研究综述"", 《软件学报》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109063081A (zh) * | 2018-07-25 | 2018-12-21 | 广东浪潮大数据研究有限公司 | 一种nfs业务监控方法、装置、设备及可读存储介质 |
CN112188476A (zh) * | 2020-09-09 | 2021-01-05 | 北京四季豆信息技术有限公司 | 通信方法、通信装置、移动终端和存储介质 |
WO2022052439A1 (zh) * | 2020-09-09 | 2022-03-17 | 北京四季豆信息技术有限公司 | 通信方法、通信装置、移动终端和存储介质 |
CN112188476B (zh) * | 2020-09-09 | 2023-04-28 | 芯象半导体科技(北京)有限公司 | 通信方法、通信装置、移动终端和存储介质 |
CN113051244A (zh) * | 2021-03-22 | 2021-06-29 | 北京百度网讯科技有限公司 | 数据访问方法和装置、数据获取方法和装置 |
CN113051244B (zh) * | 2021-03-22 | 2023-07-21 | 北京百度网讯科技有限公司 | 数据访问方法和装置、数据获取方法和装置 |
CN115794750A (zh) * | 2023-02-07 | 2023-03-14 | 北京卡普拉科技有限公司 | 异步i/o系统文件打开/关闭的控制方法、装置及设备 |
Also Published As
Publication number | Publication date |
---|---|
CN107864215B (zh) | 2020-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107864215A (zh) | 对等网络文件系统、访问控制/管理方法/系统、及终端 | |
US8176256B2 (en) | Cache regions | |
US8108612B2 (en) | Location updates for a distributed data store | |
EP2288997B1 (en) | Distributed cache arrangement | |
CN106233264B (zh) | 使用可变条带大小的文件存储装置 | |
CN106255967B (zh) | 分布式存储系统中的命名空间管理 | |
US8229899B2 (en) | Remote access agent for caching in a SAN file system | |
CN106462544A (zh) | 分布式存储系统中的会话管理 | |
CN106462601A (zh) | 针对多盘区操作的原子写入 | |
CN110365604A (zh) | 储存设备及其队列管理方法 | |
CN106933500A (zh) | 访问存储在存储系统中的数据对象的方法和系统 | |
US20170286477A1 (en) | Database system recovery using non-volatile system memory | |
CN108648075A (zh) | 数字资产兑换的方法及装置 | |
CN103559247B (zh) | 一种数据业务处理方法及装置 | |
CN110287150A (zh) | 一种大规模存储系统元数据分布式管理方法与系统 | |
CN111209364A (zh) | 一种基于众包地图更新的海量数据接入处理方法及系统 | |
Trivedi et al. | RStore: A direct-access DRAM-based data store | |
CN105791370A (zh) | 一种数据处理方法及相关服务器 | |
CN108920095A (zh) | 一种基于crush的数据存储优化方法和装置 | |
CN105765542B (zh) | 访问文件的方法、分布式存储系统和存储节点 | |
US20120324034A1 (en) | Providing access to shared state data | |
RU2721235C2 (ru) | Способ и система для маршрутизации и выполнения транзакций | |
CN104850548B (zh) | 一种实现大数据平台输入/输出处理的方法及系统 | |
US9152687B2 (en) | Cross domain locking in a distributed environment | |
US11153388B2 (en) | Workflow engine framework for cross-domain extension |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |