JP6033370B2 - Storage service providing apparatus, system, service providing method, and service providing program - Google Patents

Storage service providing apparatus, system, service providing method, and service providing program Download PDF

Info

Publication number
JP6033370B2
JP6033370B2 JP2015130494A JP2015130494A JP6033370B2 JP 6033370 B2 JP6033370 B2 JP 6033370B2 JP 2015130494 A JP2015130494 A JP 2015130494A JP 2015130494 A JP2015130494 A JP 2015130494A JP 6033370 B2 JP6033370 B2 JP 6033370B2
Authority
JP
Japan
Prior art keywords
file
management information
identification information
block
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015130494A
Other languages
Japanese (ja)
Other versions
JP2015207305A (en
Inventor
郁夫 中川
郁夫 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intec Inc Japan
Original Assignee
Intec Inc Japan
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intec Inc Japan filed Critical Intec Inc Japan
Priority to JP2015130494A priority Critical patent/JP6033370B2/en
Publication of JP2015207305A publication Critical patent/JP2015207305A/en
Application granted granted Critical
Publication of JP6033370B2 publication Critical patent/JP6033370B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、多数のコンピュータを用いて大量のファイルを保存することを可能にする分散ストレージ技術に関する。   The present invention relates to a distributed storage technique that enables a large number of files to be stored using a large number of computers.

従来のコンピュータ利用は、ユーザである企業や個人等が、コンピュータのハードウェア、ソフトウェア、データ等を、自分自身で保有し、管理していたが、近年普及してきたクラウド・コンピューティングでは、ユーザは、自身の手元の機器が接続したネットワークの向こう側(データセンタ等)からサービスを受ける。このようなクラウド・サービスは、クラウド・サービス提供事業者から企業又は個人に対して提供されたり、企業内ネットワークにおいて社員等に対して提供されたりする。   In conventional computer use, companies and individuals, who are users, own and manage computer hardware, software, data, etc. themselves, but in cloud computing that has become popular in recent years, The service is received from the other side (data center, etc.) of the network to which the device at hand is connected. Such a cloud service is provided from a cloud service provider to a company or an individual, or is provided to an employee or the like in a corporate network.

クラウド・サービスのうち、ユーザのデータをネットワーク上のサーバに保存するストレージサービスとして、アマゾンS3(Simple Storage Service)や、マイクロソフトWindows(登録商標)Azure等が知られている。特に、データを多数のストレージに分散して格納することができ、GB(ギガバイト)単位の大きなデータと小さなサイズのデータが大量に混在しても、これらを効率よく扱うことのできる分散ファイルシステムとしては、グーグルファイルシステム(GFS)が知られている(例えば、非特許文献1を参照)。   Among cloud services, Amazon S3 (Simple Storage Service), Microsoft Windows (registered trademark) Azure, and the like are known as storage services for storing user data in a server on a network. In particular, as a distributed file system that can distribute and store data in a large number of storages, and can handle large amounts of GB (gigabytes) and small data in large quantities. The Google file system (GFS) is known (see, for example, Non-Patent Document 1).

GFSでは、ファイルを64MB(メガバイト)のチャンクと呼ばれるブロックに分割して、複数のチャンクサーバに分散して配置することにより、一つのファイルの書き込みや読み出しを複数のサーバで並列に実行して、ファイルの入出力を高速化しており、多数のサーバがあれば、大きなファイルサイズを扱うことも可能である。また、全てのチャンクが3つ以上の複製を異なるサーバに有するように制御する仕組みによって、あるチャンクサーバに障害が発生しても別のチャンクサーバに保存された複製を使うことで耐故障性を高めるとともに、チャンクの複数の複製のうちの選択された一つにアクセスすることで負荷分散を実現することも可能にしている。   In GFS, a file is divided into blocks called 64MB (megabyte) chunks and distributed to a plurality of chunk servers, so that writing and reading of one file are executed in parallel on a plurality of servers, File input / output is accelerated, and if there are many servers, large file sizes can be handled. Also, by controlling so that all chunks have three or more replicas in different servers, even if a failure occurs in one chunk server, the fault tolerance is improved by using replicas stored in another chunk server At the same time, load balancing can be realized by accessing a selected one of a plurality of replicas of the chunk.

西田 圭介、「Googleを支える技術 巨大システムの内側の世界」、株式会社技術評論社、平成20年8月25日Keisuke Nishida, “Technology that Supports Google: The World Inside a Giant System”, Technical Review Co., Ltd., August 25, 2008

上述したGFSでは、一つのファイルを構成する複数のチャンクのそれぞれ(さらに、各チャンクにつき3つ以上の複製のそれぞれ)がどのチャンクサーバに保存されているかというマッピングを管理するための管理情報が、マスタサーバに保存される。よって、ファイルを読み出すときは、読み出すべきチャンクを特定し、特定されたチャンクを保存しているサーバのアドレスをマスタサーバに問い合せ、返答に示されたアドレスのチャンクサーバにアクセスするという処理が行われ、ファイルを書き込むときは、書き込むべきチャンクを特定し、特定されたチャンクを保存すべきサーバのアドレスをマスタサーバに問い合せ、返答に示されたアドレスのチャンクサーバにアクセスするという処理が行われる。障害発生時のチャンクサーバの切り替えや複製の再作成、チャンクサーバへのアクセスの負荷分散や複製の追加作成等も、管理情報を有するマスタサーバが全て指示することに
より行われる。
In the above-described GFS, management information for managing mapping of which chunk server stores each of a plurality of chunks constituting one file (and each of three or more replicas for each chunk), Saved on the master server. Therefore, when reading a file, a process is performed in which the chunk to be read is specified, the address of the server storing the specified chunk is inquired to the master server, and the chunk server at the address indicated in the response is accessed. When writing a file, processing is performed in which a chunk to be written is specified, the address of the server where the specified chunk is to be stored is inquired to the master server, and the chunk server at the address indicated in the response is accessed. The master server having the management information also instructs switching of the chunk server at the time of failure, re-creation of the replica, load distribution of access to the chunk server, additional creation of the replica, and the like.

このような機構では、管理情報を有するマスタサーバが、分散ストレージシステムにおける単一障害点となり、マスタサーバに障害が発生した場合は、システム全体が動作しなくなってしまうという問題がある。また、マスタサーバに負荷が集中するため、そこがボトルネックとなって、スケーラビリティや性能上の限界が出てきてしまうという問題もある。   In such a mechanism, there is a problem that the master server having the management information becomes a single point of failure in the distributed storage system, and if the master server fails, the entire system becomes inoperable. In addition, since the load is concentrated on the master server, this becomes a bottleneck, and there is a problem that scalability and performance are limited.

GFSの場合は、マスタサーバの冗長化を行うための特別な仕組みを別途有しており、マスタサーバの障害時には、一定の操作を経てバックアップのサーバにその機能を引き継ぐ処理が行われるようにして、単一障害点を意識させないようにしているが、これは、GFSが、インターネットにおけるWebページの蓄積及び検索サービスという用途に特化しているからできることであると考えられる。分散ストレージ技術には、広く様々な用途があり、単一障害点のないシステムを実現して耐故障性をさらに向上させることが望ましい。   In the case of GFS, there is a special mechanism for making the master server redundant, and in the event of a failure of the master server, a process for taking over the function to the backup server is performed through a certain operation. However, this is considered to be possible because GFS specializes in the use of web page storage and search services on the Internet. Distributed storage technology has a wide variety of uses, and it is desirable to implement a system without a single point of failure to further improve fault tolerance.

また、GFSでは、チャンクが固定長であることもあり、ファイルのサイズ(ファイルのデータの長さ)が巨大になれば、各チャンクと各サーバとのマッピングを示す管理情報のサイズも膨大になる。そうすると、その大きな管理情報の中から、部分的にアクセスしたいチャンクを、高速に探し出すことが難しくなるため、ランダムアクセスに弱いという問題もある。   In GFS, a chunk may have a fixed length. If the file size (file data length) becomes huge, the size of management information indicating the mapping between each chunk and each server also becomes huge. . Then, since it becomes difficult to quickly find a chunk to be partially accessed from the large management information, there is a problem that it is vulnerable to random access.

さらに、GFSにしろ、アマゾンS3にしろ、既存のストレージサービスでは、サービスを提供するための設備の全てを、一つのサービス提供事業者が管理し運用しなければならない。ストレージサービスの利用者からみれば、一つのサービス提供事業者を選択してサービスを受けるしかなく、ストレージサービスを利用して行いたい処理の全体が、選択した事業者の信頼性やサービスの質に依存することになってしまう。   Furthermore, whether it is GFS or Amazon S3, in the existing storage service, all the facilities for providing the service must be managed and operated by one service provider. From the perspective of storage service users, there is no choice but to select one service provider to receive the service, and the overall processing that is desired to be performed using the storage service depends on the reliability and quality of service of the selected operator. Will be dependent.

本発明は、上記の事情に鑑み、多数のコンピュータを用いて様々なサイズの大量のファイルを保存可能にするとともに、システムにおいて単一障害点となる要素を低減することが可能な分散ストレージ技術を提供することを目的とする。本発明はまた、この分散ストレージ技術において、ファイルに対するアクセスの高速化、ランダムアクセス等の高性能化を可能にすることや、複数の事業者から提供されるストレージサービスを利用して一つのストレージサービスを構成可能にすることを目的とする。   In view of the circumstances described above, the present invention provides a distributed storage technology capable of storing a large number of files of various sizes using a large number of computers and reducing elements that become single points of failure in the system. The purpose is to provide. In the distributed storage technology, the present invention also enables high-speed access to files, high performance such as random access, and one storage service using storage services provided by a plurality of providers. It is intended to be configurable.

本発明の原理に従う一つのストレージサービス提供装置は、複数のストレージ装置とネットワークを介して接続され、これらのストレージ装置を利用してファイルを保存するサービスを提供する。そして、書き込むべきファイルを一つ以上のデータに分解し、該ファイルを構成するデータをブロックオブジェクトとして、各ブロックオブジェクトにオブジェクト識別情報を付与する手段と、前記各ブロックオブジェクトのデータから前記ファイルを構築するための情報を作成し、該情報を管理情報オブジェクトとして、管理情報オブジェクトにオブジェクト識別情報を付与する手段と、オブジェクト識別情報に基づいて前記複数のストレージ装置のうちの少なくとも一つを特定する手段と、前記各ブロックオブジェクト及び前記管理情報オブジェクトを、それぞれのオブジェクト識別情報に基づいて特定されるそれぞれのストレージ装置へ送信して保存させる手段とを備える。   One storage service providing apparatus according to the principle of the present invention is connected to a plurality of storage apparatuses via a network, and provides a service for storing files using these storage apparatuses. Then, the file to be written is decomposed into one or more data, the data constituting the file is used as a block object, object identification information is assigned to each block object, and the file is constructed from the data of each block object Means for creating information to be used, using the information as a management information object, giving object identification information to the management information object, and means for specifying at least one of the plurality of storage devices based on the object identification information And means for transmitting each block object and the management information object to each storage device specified based on the respective object identification information for storage.

この構成により、複数のストレージ装置を利用した仮想ストレージが実現され、ストレージサービスが提供可能になる。この構成では、ファイルを構成するデータ(ブロックオブジェクト)だけでなく、分解されたデータからファイルを構築するための情報(管理情
報オブジェクト)も、いずれもオブジェクトとして、複数のストレージ装置に分散して保存されるため、本ストレージサービス提供装置が、多数のファイルの全てのブロックについての管理情報を集中して保存することはなく、システムにおいて単一障害点となる要素を低減することが可能となる。
With this configuration, virtual storage using a plurality of storage devices is realized, and a storage service can be provided. In this configuration, not only the data that configures the file (block object) but also the information (management information object) for constructing the file from the decomposed data are all distributed as objects and stored in multiple storage devices. Therefore, the storage service providing apparatus does not centrally store management information for all blocks of a large number of files, and it is possible to reduce elements that become single points of failure in the system.

なお、本ストレージサービス提供装置は、例えば、クラウド・サービス提供事業者が、自身が管理する複数のストレージ装置(ストレージサーバでもストレージデバイスでもよい)もしくは他のサービス提供事業者が管理する複数のストレージ装置(ストレージサービスとして認識されてもよい)のフロントエンドに設置して、自身のサービスの利用者であるエンドユーザからのネットワークを介した要求に応じてファイルの読み書きを行うものとしてもよい。別の例として、本ストレージサービス提供装置を、企業内ネットワークの内部に設置し、同一企業内ネットワークにある複数のストレージ装置を利用してファイルの読み書きを行うものとしてもよいし、企業内ネットワークに設置した本ストレージサービス提供装置を、企業外のストレージサービス提供事業者のデータセンタ等に接続し、企業外の複数のストレージ装置を利用するファイルの読み書きを行うものとしてもよい。   The storage service providing apparatus is, for example, a plurality of storage apparatuses (either storage servers or storage devices) managed by the cloud service provider, or a plurality of storage apparatuses managed by other service providers. It may be installed in the front end (which may be recognized as a storage service) and read / write a file in response to a request from the end user who is a user of the service via the network. As another example, this storage service providing device may be installed inside a corporate network, and a plurality of storage devices in the same corporate network may be used to read and write files. The installed storage service providing apparatus may be connected to a data center or the like of a storage service provider outside the company to read / write files using a plurality of storage apparatuses outside the company.

上記のストレージサービス提供装置が、読み出すべきファイルに対応する先頭オブジェクト識別情報を求め、当該先頭オブジェクト識別情報に基づいて特定されるストレージ装置にアクセスして、前記管理情報オブジェクトを取得する手段と、取得された管理情報オブジェクトに含まれている前記ファイルを構築するための情報を用いて、前記ファイルを構成するデータを有するブロックオブジェクトのオブジェクト識別情報を求め、当該オブジェクト識別情報に基づいて特定されるストレージ装置にアクセスして、前記ブロックオブジェクトを取得する手段と、取得されたブロックオブジェクトが有するデータを、前記ファイルを構築するための情報に従って並べることにより、前記ファイルを取得する手段とをさらに備えるようにしてもよい。   The storage service providing apparatus obtains the first object identification information corresponding to the file to be read, accesses the storage apparatus specified based on the first object identification information, and acquires the management information object; Storage for identifying object identification information of a block object having data constituting the file by using information for constructing the file included in the management information object, and specifying based on the object identification information Means for accessing the device to obtain the block object; and means for obtaining the file by arranging data of the obtained block object according to information for constructing the file. Even There.

これにより、複数のストレージ装置に分散して保存された管理情報オブジェクト及びブロックオブジェクトにアクセスして、元のファイルを取得することが可能になる。   As a result, it is possible to access the management information object and the block object distributed and stored in a plurality of storage devices and acquire the original file.

上記のストレージサービス提供装置において、あるファイルに対応する管理情報オブジェクトと、別のファイルに対応する管理情報オブジェクトとが、前記複数のストレージ装置のうちの別々のストレージ装置に保存されるように、ストレージ装置を特定するためのオブジェクト識別情報が割り当てられるようにしてもよい。   In the storage service providing device, the storage information object corresponding to a file and the management information object corresponding to another file are stored in different storage devices of the plurality of storage devices. Object identification information for specifying a device may be assigned.

これにより、オブジェクト識別情報の割り当てによって、管理情報を複数のストレージ装置に分散して保存することが可能になり、単一障害点となる要素の低減を効率的に実現することが可能となる。   Thereby, by assigning object identification information, management information can be distributed and stored in a plurality of storage devices, and reduction of elements that become single points of failure can be efficiently realized.

上記のストレージサービス提供装置における前記オブジェクト識別情報に基づいて前記複数のストレージ装置のうちの少なくとも一つを特定する手段を、特定されたストレージ装置に適合するアクセス方法をも特定するものとし、前記特定されたアクセス方法に従い、前記特定されたストレージ装置に対して、前記オブジェクト識別情報の付与されたオブジェクトの保存又は取得を要求することにより、前記ネットワークを介して接続されたストレージ装置の利用が行われるようにしてもよい。   The means for specifying at least one of the plurality of storage devices based on the object identification information in the storage service providing device also specifies an access method suitable for the specified storage device. In accordance with the access method specified, the storage device connected via the network is used by requesting the specified storage device to save or acquire the object with the object identification information. You may do it.

これにより、異なるアクセス方法が採用されているストレージ装置を混在させて、仮想ストレージを実現することが可能になる。例えば、多数の物理デバイスをストレージ装置と見立てて仮想ストレージを実現したい場合、iSCSI、SAN等の種々の方式があり得るが、これらの物理デバイスが混在しても、各物理デバイスに適合した方式でアクセスすることが可能になる。   Thereby, it is possible to realize a virtual storage by mixing storage apparatuses adopting different access methods. For example, there are various methods such as iSCSI and SAN when virtual storage is to be realized by regarding a large number of physical devices as a storage device. However, even if these physical devices are mixed, a method suitable for each physical device is used. It becomes possible to access.

また別の例として、ネットワーク上の多数のサーバをストレージ装置と見立てて仮想ストレージを実現したい場合は、各サーバへのアクセス方法としてhttp、nfs、ftp、cifs、rpc等の種々のプロトコルがあり得るが、これらのサーバが混在しても、各サーバに適合したプロトコルでアクセスすることが可能になる。   As another example, when virtual storage is realized by regarding a large number of servers on the network as a storage device, there are various protocols such as http, nfs, ftp, cifs, and rpc as access methods to each server. However, even if these servers are mixed, it is possible to access with a protocol suitable for each server.

この場合、上記のストレージサービス提供装置と接続される前記複数のストレージ装置は、それぞれ、前記ストレージサービス提供装置をクライアントとし、任意のアクセスプロトコルにて動作することが可能な、ストレージサーバとすることができる。   In this case, each of the plurality of storage devices connected to the storage service providing device may be a storage server that can operate with an arbitrary access protocol using the storage service providing device as a client. it can.

さらに別の例として、クラウド・サービス提供事業者等が提供する様々なサービスをストレージ装置と見立てて仮想ストレージを実現したい場合は、各サービスへのアクセス方法として、Webサービスや、HTTPを用いた独自プロトコル、あるいは、NFS等の種々の体系があり得るが、これらのサービスが混在しても、各サービスに適合した体系でアクセスすることが可能になる。   As another example, if you want to realize virtual storage by considering various services provided by cloud service providers as storage devices, you can use Web services or HTTP as an access method to each service. There can be various systems such as a protocol or NFS, but even if these services are mixed, it is possible to access with a system suitable for each service.

この場合、上記のストレージサービス提供装置と接続される前記複数のストレージ装置のうち、ある一部のストレージ装置と他の一部のストレージ装置とが、異なるサービス提供事業者により提供されるストレージサービスに係るものとすることができる。   In this case, among the plurality of storage devices connected to the storage service providing device, a certain storage device and another partial storage device are storage services provided by different service providers. It can be related.

これにより、複数の事業者から提供されるストレージサービスを利用して一つのストレージサービスを構成することが可能になる。   This makes it possible to configure one storage service using storage services provided from a plurality of providers.

以上のように構成すると、本ストレージサービス提供装置が実現する仮想ストレージによるストレージサービスの利用者から見れば、複数の異なる物理デバイスや、複数の異なるサーバ、複数の異なるサービス等が混在して構成される仮想ストレージであっても、その内部構造はユーザインタフェースから隠蔽されるため、エンドユーザに対しては透過的に一つのファイルシステムに見せることが可能になる。   When configured as described above, from the viewpoint of a storage service user using virtual storage realized by the storage service providing apparatus, a plurality of different physical devices, a plurality of different servers, a plurality of different services, and the like are mixed. Even if it is a virtual storage, its internal structure is hidden from the user interface, so that it can be seen as a single file system transparently to the end user.

上記のストレージサービス提供装置が、前記複数のストレージ装置を利用して保存されるファイルに対する書き込み要求又は読み出し要求を、ユーザ端末から受信する手段をさらに備え、前記書き込み要求又は読み出し要求を、汎用のファイルシステムで用いられる形式の要求としてもよい。   The storage service providing apparatus further includes means for receiving a write request or a read request for a file stored using the plurality of storage apparatuses from a user terminal, wherein the write request or the read request is a general-purpose file. The request may be in the format used in the system.

これにより、本ストレージサービス提供装置が提供するストレージサービスの利用者のコンピュータ(ユーザ端末)に対しては、本ストレージサービス提供装置が実現する仮想ストレージを、NFSやiSCSI等のネイティブ・ファイルシステム(標準的に用いられている汎用ファイルシステム)として見せることが可能になる。   As a result, for the storage service user computer (user terminal) provided by the storage service providing apparatus, the virtual storage realized by the storage service providing apparatus is transferred to a native file system (standard, such as NFS or iSCSI) (standard). General-purpose file system).

上記のストレージサービス提供装置において、前記管理情報オブジェクトを、前記ファイルのそれぞれ別の部分を構成するデータを有する複数のブロックオブジェクトのオブジェクト識別情報と、各ブロックオブジェクトのデータが前記ファイル中のどの部分に並ぶべきかを示すオフセット情報とを含むものとしてもよい。   In the above storage service providing apparatus, the management information object includes the object identification information of a plurality of block objects having data constituting different parts of the file, and the part in which the data of each block object is in the file. It may also include offset information indicating whether they should be arranged.

このような管理情報を用いることにより、各オブジェクト識別情報に基づいてそれぞれ独立に複数のストレージ装置のいずれかにアクセスして取得したブロックオブジェクトから、オフセット情報に従ってファイルを構築することができるため、ファイルのデータを保存する一連のストレージ装置に順にアクセスするのではなく、複数のストレージ装置を並列でアクセスすることが可能になり、高性能なファイルアクセスが可能になる。   By using such management information, a file can be constructed according to offset information from a block object acquired by accessing any of a plurality of storage devices independently based on each object identification information. Instead of sequentially accessing a series of storage devices that store the data, it is possible to access a plurality of storage devices in parallel, thereby enabling high-performance file access.

上記のストレージサービス提供装置において、前記管理情報オブジェクトに、前記ファイル内のある領域におけるそれぞれ別の部分を構成するデータを有する複数のブロックオブジェクトのオブジェクト識別情報と、各ブロックオブジェクトのデータが前記ある領域中のどの部分に並ぶべきかを示す領域内オフセット情報とを含む第1の管理情報オブジェクトと、前記第1の管理情報オブジェクトのオブジェクト識別情報と、該第1の管理情報オブジェクトが情報を有する前記ある領域が前記ファイル内でどこに位置するものかを示すファイル内オフセット情報とを含む第2の管理情報オブジェクトとがあるようにしてもよい。   In the storage service providing apparatus, the management information object includes object identification information of a plurality of block objects each having data constituting a different part in a certain area in the file, and the data in each block object is the certain area. A first management information object including in-area offset information indicating which part in which to be arranged, object identification information of the first management information object, and the first management information object having information There may be a second management information object including in-file offset information indicating where an area is located in the file.

これにより、ファイルに対応する先頭オブジェクト識別情報から、ファイルを構成するデータを有するブロックオブジェクトまでの間に、複数の管理情報オブジェクトを仮想的に配置して、2つ以上の階層を有する再帰構造をとらせることができる。ファイルのサイズが巨大になった場合、階層が一つしかないと、管理情報(本例では、各ブロックオブジェクトのオブジェクト識別情報とオフセット情報のリスト)の量が増加して、管理情報の全体を読み出すのにも、アクセスしたいブロックオブジェクトの情報を検索して選択的に読み出すのにも、時間がかかってしまうが、この膨大な管理情報を複数に分割して複数の管理情報オブジェクト(上記でいう第1の管理情報オブジェクト)を生成し、各管理情報オブジェクトのオブジェクト識別情報とオフセット情報のリストを含む新たな管理情報オブジェクト(上記でいう第2の管理情報オブジェクト)を設ければ、これら複数の管理情報オブジェクトも複数のストレージ装置に分散して保存され、並列でアクセスすることが可能になる。
As a result, a plurality of management information objects are virtually arranged between the head object identification information corresponding to the file and the block object having the data constituting the file, so that a recursive structure having two or more hierarchies is obtained. Can be taken. If the file size becomes huge and there is only one hierarchy, the amount of management information (in this example, the list of object identification information and offset information for each block object) increases, and the entire management information is reduced. Although it takes time to read and selectively retrieve information of a block object to be accessed, this enormous management information is divided into a plurality of management information objects (as described above). If a first management information object is generated and a new management information object (second management information object referred to above) including a list of object identification information and offset information of each management information object is provided, a plurality of these Management information objects are also distributed and stored in a plurality of storage devices, and can be accessed in parallel.

このように、管理情報を複数に分割して、2つ以上の階層を有する再帰構造をとらせることにより、単一障害点となる要素をさらに低減することができるとともに、より高性能なファイルアクセスが可能になる。そうすると、保存可能なファイルのサイズを、デバイスの物理容量や地理的空間の制限を超えて、論理的に上限なく大きくできるというだけでなく、どれだけ大容量のファイルであっても、実用上の問題が生じないようにできるため、真にスケーラブルな仮想ストレージを実現することが可能になる。   In this way, by dividing the management information into a plurality of parts and adopting a recursive structure having two or more hierarchies, elements that become single points of failure can be further reduced, and higher-performance file access Is possible. This will not only allow you to increase the size of a file that can be stored beyond the physical and geographical limits of the device, but logically without any upper limit. Since problems can be avoided, a truly scalable virtual storage can be realized.

上記のストレージサービス提供装置において、前記管理情報オブジェクトを、再帰構造を有する複数の管理情報オブジェクトから構成されることが可能なものとし、前記ブロックオブジェクトの数が所定数より多い場合には、前記再帰構造の階層を増加させて、複数の管理情報オブジェクトを生成するようにしてもよい。   In the above storage service providing apparatus, the management information object can be composed of a plurality of management information objects having a recursive structure, and when the number of block objects is greater than a predetermined number, the recursion A plurality of management information objects may be generated by increasing the structure hierarchy.

これにより、ブロックオブジェクトの数(ひいてはファイルのサイズ)に応じて、管理情報の再帰構造の階層を増加することができ、さらにスケーラビリティを向上することが可能になる。   As a result, the hierarchy of the recursive structure of the management information can be increased according to the number of block objects (and hence the file size), and the scalability can be further improved.

上記のストレージサービス提供装置において、前記管理情報オブジェクトが、複数のオブジェクト識別情報を含み、前記複数のオブジェクト識別情報のうちある一つに基づいて特定されるストレージ装置に対して、該ある一つのオブジェクトの保存又は取得を要求する処理と、前記複数のオブジェクト識別情報のうち別の一つに基づいて特定されるストレージ装置に対して、該別の一つのオブジェクトの保存又は取得を要求する処理とを、並行して行うようにしてもよい。   In the above storage service providing apparatus, the management information object includes a plurality of object identification information, and the storage object specified based on a certain one of the plurality of object identification information Processing for requesting storage or acquisition of the storage device, and processing for requesting storage or acquisition of the other object from the storage device specified based on another one of the plurality of object identification information. , May be performed in parallel.

これにより、並列処理が可能になるため、ファイルに対するアクセスを高速化することが可能となる。   As a result, parallel processing is possible, and access to the file can be speeded up.

上記のストレージサービス提供装置において、保存されているファイルのデータの一部を更新する場合、データが書き換わるブロックオブジェクトに新たなオブジェクト識別情
報を付与し、当該ブロックオブジェクトのデータから前記ファイルを構築するための情報を含む管理情報オブジェクトにも新たなオブジェクト識別情報を付与し、前記管理情報オブジェクトの新たなオブジェクト識別情報が前記ファイルに対応する先頭オブジェクト識別情報として求められるように設定することにより、同一のオブジェクト識別情報を有するオブジェクトの内容を不変とする管理を行ってもよい。
In the above storage service providing apparatus, when a part of stored file data is updated, new object identification information is assigned to the block object to which data is rewritten, and the file is constructed from the block object data. By adding new object identification information to the management information object including the information for the management information object and setting so that the new object identification information of the management information object is obtained as the first object identification information corresponding to the file, Management may be performed in which the content of the object having the object identification information is unchanged.

これにより、ファイルの内容の更新は、先頭オブジェクト識別情報のアトミックな書き換え(途中の状態が存在しない不可分な書き換え処理)で確定することになり、一旦生成されオブジェクト識別情報が付与された各管理情報オブジェクト及び各ブロックオブジェクトの内容が書き換えられることは一切ないから、ファイルは常に完全な状態で保存されていると見ることができる。つまり、更新後のファイル内容を示す新たなブロックオブジェクトや新たな管理情報オブジェクトが生成されている間であっても、先頭オブジェクト識別情報が書き換わる直前までは、更新前のファイル内容が取得され、先頭オブジェクト識別情報が書き換わった直後から、更新後のファイル内容が取得されるようになる。   As a result, the update of the contents of the file is confirmed by atomic rewriting of the top object identification information (inseparable rewriting processing in which there is no intermediate state), and each management information once generated and given object identification information Since the contents of the object and each block object are never rewritten, it can be seen that the file is always stored in a complete state. In other words, even while a new block object or a new management information object indicating the updated file content is being generated, the file content before the update is acquired until immediately before the top object identification information is rewritten, The updated file contents are acquired immediately after the start object identification information is rewritten.

したがって、ファイルの書き込み中であっても、同じファイル(更新前の内容)の読み出しが自由にできるし、同一のオブジェクト識別情報を有するオブジェクトの内容は不変であるから、各管理情報オブジェクト及び各ブロックオブジェクトの複製をそれぞれ独立に作成しても矛盾が起きることがなく、システム内に複製を準備することが容易に実現できる。また、更新前の先頭オブジェクト識別情報とファイルとの対応を履歴として蓄積しておくことにより、各時点のスナップショット(その時点の状態を保存したファイル)を提供することも容易に実現できる。   Therefore, even while the file is being written, the same file (content before update) can be freely read, and the contents of the object having the same object identification information are unchanged, so that each management information object and each block Even if a duplicate of an object is created independently, no contradiction occurs, and it is easy to prepare a duplicate in the system. Further, by storing the correspondence between the first object identification information before the update and the file as a history, it is possible to easily provide a snapshot at each time point (a file storing the state at that time point).

上記のストレージサービス提供装置におけるオブジェクト識別情報に基づいて前記複数のストレージ装置のうちの少なくとも一つを特定する手段を、二つ以上のストレージ装置を特定可能なものとし、前記各ブロックオブジェクト及び前記管理情報オブジェクトを、複製して、それぞれのオブジェクト識別情報に基づいて特定されるそれぞれの前記二つ以上のストレージ装置へ送信して保存させる手段をさらに備えるようにしてもよい。   The means for specifying at least one of the plurality of storage devices based on the object identification information in the storage service providing device can specify two or more storage devices, and each block object and the management The information object may be further duplicated and transmitted to each of the two or more storage devices specified based on the respective object identification information, and stored.

これにより、ファイルの書き込み時に、各オブジェクトの複製が作成され、これらの複製が複数のストレージ装置に分散して保存された状態にすることが可能になる。   As a result, a copy of each object is created when the file is written, and these copies can be distributed and stored in a plurality of storage devices.

上記のストレージサービス提供装置が、読み出すべきファイルに対応する管理情報オブジェクト及び各ブロックオブジェクトのそれぞれのオブジェクト識別情報に基づいて、前記複数のストレージ装置のうち該当するオブジェクト又はその複製を保存している二つ以上を特定する手段と、特定された一つのストレージ装置にアクセスして応答がなかった場合に、特定された別のストレージ装置にアクセスしてオブジェクト又はその複製を取得する手段とをさらに備えるようにしてもよい。   The storage service providing apparatus stores the corresponding object or a copy of the storage apparatus based on the management information object corresponding to the file to be read and the object identification information of each block object. Means for specifying one or more, and means for accessing the specified another storage device and obtaining an object or a copy thereof when there is no response when accessing the specified one storage device It may be.

これにより、いずれかのストレージ装置に障害が発生しても、そこから取得すべきオブジェクトの複製を他のストレージ装置から取得することができるため、本ストレージサービス提供装置が提供するサービスの利用者は、ストレージサービスを継続利用することができ、耐障害性を向上させることが可能となる。例えば、複数の事業者から提供されるストレージサービスを複数のストレージ装置と見立てて利用する場合、ある事業者のサービスがダウンしても、他の事業者のサービスを利用して、ストレージサービスを継続的に提供することが、自動的にできるようになる。   As a result, even if a failure occurs in one of the storage devices, a copy of the object to be acquired can be acquired from another storage device, so the user of the service provided by this storage service providing device can Thus, the storage service can be continuously used and the fault tolerance can be improved. For example, when a storage service provided by multiple providers is used as multiple storage devices, even if the service of one provider goes down, the storage service continues using the service of another provider Can be provided automatically.

上記のストレージサービス提供装置が、読み出すべきファイルに対応する管理情報オブジェクト及び各ブロックオブジェクトのそれぞれのオブジェクト識別情報に基づいて、前記複数のストレージ装置のうち該当するオブジェクト又はその複製を保存している二つ以
上を特定する手段と、特定された二つ以上のストレージ装置に並行してアクセスし、応答の早かったストレージ装置からオブジェクト又はその複製を取得する手段とさらに備えるようにしてもよい。
The storage service providing apparatus stores the corresponding object or a copy of the storage apparatus based on the management information object corresponding to the file to be read and the object identification information of each block object. There may be further provided means for specifying one or more and means for accessing the two or more specified storage apparatuses in parallel and acquiring an object or a copy thereof from the storage apparatus that responded quickly.

これにより、システムの冗長性を活用して、ファイルに対するアクセスをより高速化することが可能になる。   This makes it possible to speed up access to files by utilizing system redundancy.

上記のストレージサービス提供装置において、保存されているファイルに対し部分的にデータを書き込む場合、書き込み対象のデータが前記ファイル中のどの部分に並ぶべきものかが指定され、前記ファイルに属する全てのブロックオブジェクト及び管理情報オブジェクトのうち前記指定された部分に関係するものを選択して又は新たにオブジェクトを生成して、この選択又は新たに生成された各オブジェクトのオブジェクト識別情報に基づいてそれぞれ特定されるストレージ装置にアクセスし、残りのオブジェクトについてはストレージ装置へのアクセスを行わないようにしてもよい。   In the above storage service providing apparatus, when data is partially written to a saved file, it is specified in which part of the file the data to be written should be arranged, and all blocks belonging to the file An object and a management information object that are related to the specified portion are selected or a new object is generated, and each object is specified based on the object identification information of each selected or newly generated object. The storage apparatus may be accessed, and the remaining objects may not be accessed.

これにより、ファイル中の任意の場所のデータを部分的に書き込むことが可能になり、ランダムアクセスが可能となる。   As a result, data at an arbitrary location in the file can be partially written, and random access is possible.

上記のストレージサービス提供装置において、保存されているファイルからデータを部分的に読み出す場合、読み出し対象のデータが前記ファイル中のどの部分に並んでいるものかが指定され、前記ファイルに属する全てのブロックオブジェクト及び管理情報オブジェクトのうち前記指定された部分に関係するものを選択して、この選択された各オブジェクトのオブジェクト識別情報に基づいてそれぞれ特定されるストレージ装置にアクセスし、残りのオブジェクトについてはストレージ装置へのアクセスを行わないようにしてもよい。   In the storage service providing apparatus, when data is partially read from a stored file, it is specified in which part of the file the data to be read is arranged, and all blocks belonging to the file Among the objects and management information objects, the one related to the specified part is selected, and the storage device specified based on the object identification information of each selected object is accessed, and the remaining objects are stored. Access to the device may not be performed.

これにより、ファイル中の任意の場所のデータを部分的に読み出すことが可能になり、ランダムアクセスが可能となる。   As a result, data at an arbitrary location in the file can be partially read out, and random access is possible.

上記のストレージサービス提供装置において、前記書き込むべきファイルが、ユーザにより元のファイルの全体が暗号化されたものであって、複数のデータに分割され、前記複数のデータのうちあるデータを有するブロックオブジェクトと、別のデータを有するブロックオブジェクトとが、前記複数のストレージ装置のうちの別々のストレージ装置に保存されるように、ストレージ装置を特定するためのオブジェクト識別情報が割り当てられるようにしてもよい。   In the above storage service providing apparatus, the file to be written is a block object in which an entire original file is encrypted by a user, divided into a plurality of data, and having a certain data among the plurality of data Object identification information for specifying a storage device may be assigned so that a block object having different data is stored in a separate storage device among the plurality of storage devices.

これにより、ファイルを利用者から預かって保存するサービスを、高いセキュリティで提供することが可能になる。つまり、分割されたデータを暗号化して保存するのではなく、ファイル全体が暗号化されたデータを分割して保存するため、そのようなデータの一部だけを悪意者が取得しても、部分的な復号すら不能にすることができる。特に、複数の事業者から提供されるストレージサービスを複数のストレージ装置と見立てて利用する場合、事業者毎に設備も利用にあたっての認証等も異なることが多いから、一つの事業者のセキュリティが破られても他の事業者までは影響が及ばず、データの全体を悪意者に取得される可能性を極めて低くすることが可能である。   As a result, it is possible to provide a service for depositing and saving a file from a user with high security. In other words, since the divided data is not encrypted and stored, but the entire file is encrypted and saved, even if a Service-to-Self obtains only a part of such data, the partial Even deciphering can be disabled. In particular, when a storage service provided by multiple operators is used as multiple storage devices, the security of a single operator is often broken because there are many cases where the authentication and the like are different for each operator. However, it does not affect other business operators, and it is possible to greatly reduce the possibility that the entire data will be acquired by the Service-to-Self.

上記のストレージサービス提供装置において、前記書き込むべきファイルが、ユーザにより元のファイルの全体が暗号化されたものであって、複数のデータに分割され、前記複数のデータのうちあるデータを有するブロックオブジェクトと、前記管理情報オブジェクトとが、前記複数のストレージ装置のうちの別々のストレージ装置に保存されるように、ストレージ装置を特定するためのオブジェクト識別情報が割り当てられるものであるよう
にしてもよい。
In the above storage service providing apparatus, the file to be written is a block object in which an entire original file is encrypted by a user, divided into a plurality of data, and having a certain data among the plurality of data In addition, object identification information for identifying a storage device may be assigned so that the management information object is stored in a separate storage device among the plurality of storage devices.

これによっても、ファイルを利用者から預かって保存するサービスを、高いセキュリティで提供することが可能になる。悪意者が管理情報オブジェクトを取得できなければ、取得したブロックオブジェクトからファイルを構築することができず、同一ファイルに属する他のブロックオブジェクトがどれかも分からないため、復号不能となるからである。   This also makes it possible to provide a service for depositing and saving files from users with high security. This is because if the Service-to-Self cannot acquire the management information object, the file cannot be constructed from the acquired block object, and it cannot be decrypted because it is not known which other block objects belong to the same file.

上記のストレージサービス提供装置において、前記管理情報オブジェクトが、前記ファイルの部分を構成するデータを有するブロックオブジェクトのオブジェクト識別情報と、当該ブロックオブジェクトのデータが前記ファイル中のどの部分に並ぶべきかを示すオフセット情報とを含み、前記ファイル内にデータが存在しない部分がある場合、該データが存在しない部分に対応するブロックオブジェクトは生成せずに、存在するデータを有するブロックオブジェクト及び前記管理情報オブジェクトを保存させ、ファイルを読み出す際に、前記管理情報オブジェクトにより、前記ファイル中のある部分に対応するオブジェクト識別情報が存在しないことが示されると、該ある部分にNULデータを並べることにより、前記ファイルを取得するようにしてもよい。   In the above storage service providing apparatus, the management information object indicates object identification information of a block object having data constituting the file part and in which part of the file the data of the block object should be arranged. If there is a part in which no data exists in the file, the block object having the existing data and the management information object are stored without generating a block object corresponding to the part in which the data does not exist. When the file is read, if the management information object indicates that there is no object identification information corresponding to a certain part in the file, the file is obtained by arranging NUL data in the certain part. I will do it It may be.

これにより、ファイル中のデータのない部分についてはブロックの実体を保存しなくて済むため、ストレージ装置における保存に用いる容量は実際にデータがある分だけとすることができ、スパースファイルを容易に実現することが可能となる。ストレージサービスでは、使った容量に比例して課金されることがあるため、データのない分の容量まで料金を支払わずに済むことは、利用者にとっても好ましい。   As a result, it is not necessary to save the block entity for the portion of the file where there is no data, so the capacity used for storage in the storage device can be limited to the amount of actual data, and sparse files can be easily realized. It becomes possible to do. Since storage services may be charged in proportion to the capacity used, it is preferable for the user that it is not necessary to pay for the capacity for which there is no data.

このように、ファイルの構造を管理情報オブジェクトだけで表現できれば、例えば、実際に書き込むデータの容量に関わらず巨大なサイズのファイルを作成しておき、後からそのファイル中のデータのない部分にデータを書き込んで、その時に初めてブロックオブジェクトを生成するような使い方も可能になる。   In this way, if the structure of the file can be expressed only by the management information object, for example, a huge file size is created regardless of the capacity of the actual data to be written, and data is subsequently stored in the portion of the file where there is no data. It is also possible to write a block object and create a block object for the first time.

上記のストレージサービス提供装置において、前記管理情報オブジェクトが、前記ファイルの部分を構成するデータを有するブロックオブジェクトのオブジェクト識別情報と、当該ブロックオブジェクトのデータが前記ファイル中のどの部分に並ぶべきかを示すオフセット情報とを含み、前記ファイル内にデータが存在する部分に続けてデータが存在しない部分がある場合、存在するデータと該データの長さの情報とを有するブロックオブジェクト及び前記管理情報オブジェクトを保存させ、ファイルを読み出す際に、前記管理情報オブジェクトが示す前記ファイル中のある部分に並ぶべきデータの長さが、該ある部分に対応するブロックオブジェクトが有する長さの情報が示すデータの長さより長いならば、長さが足りない分NULデータを並べることにより、前記ファイルを取得するようにしてもよい。   In the above storage service providing apparatus, the management information object indicates object identification information of a block object having data constituting the file part and in which part of the file the data of the block object should be arranged. If there is a portion in which no data exists after the portion in which the data exists in the file, the block object having the existing data and the length information of the data and the management information object are stored. When the file is read, the length of data to be arranged in a certain part of the file indicated by the management information object is longer than the data length indicated by the length information of the block object corresponding to the certain part. If so, the length of the NUL data is insufficient By arranging, it may acquire the file.

このように、管理情報オブジェクト中のオフセット情報とブロックオブジェクト中のデータの長さ情報とを用いることによっても、ストレージ装置における保存に用いる容量は実際にデータがある分だけとすることができ、スパースファイル(データが存在しない部分はデータ書き込みを行わないファイル)を実現することが可能になる。   In this way, by using the offset information in the management information object and the length information of the data in the block object, the capacity used for storage in the storage device can be limited to the amount of data, and the sparse It becomes possible to realize a file (a file where data is not written in a portion where no data exists).

上記のストレージサービス提供装置において、読み出すべきファイルに対応して求められる先頭オブジェクト識別情報が付与された管理情報オブジェクトは、該ファイルの全体の長さの情報と、該長さを有する前記ファイル内のどの部分にどのオブジェクト識別情報が付与されたオブジェクトが配置されるかを示す情報とを含み、前記オブジェクト識別情報が付与されたオブジェクトが再び管理情報オブジェクトである場合には、当該管理情報オブジェクトは、当該オブジェクトが前記ファイル内で配置される領域の長さの情報と、
該長さを有する前記領域中のどの部分にどのオブジェクト識別情報が付与されたオブジェクトが配置されるかを示す情報とを含み、前記オブジェクト識別情報が付与されたオブジェクトがブロックオブジェクトである場合には、当該ブロックオブジェクトは、前記ファイルを構成するデータと、該データの長さの情報とを有するようにしてもよい。
In the above storage service providing apparatus, the management information object to which the first object identification information obtained corresponding to the file to be read is given is the information on the entire length of the file and the information in the file having the length. Information indicating in which part the object to which the object identification information is assigned is arranged, and when the object to which the object identification information is assigned is a management information object again, the management information object is: Information on the length of the area in which the object is placed in the file;
Information indicating which object identification information is assigned to which part in the region having the length, and when the object to which the object identification information is assigned is a block object The block object may include data constituting the file and information on the length of the data.

これにより、先頭オブジェクト識別情報から管理情報オブジェクトを辿ってブロックオブジェクトにアクセスする過程で、ファイル全体の長さ、ファイル内の各領域の長さ、各領域に入るブロックオブジェクトのデータの長さが分かるため、各ブロックのデータサイズを可変としても、分散させて保存させた複数のブロックから元のファイルを構築することが可能になる。このように、各ブロックのデータを固定長にしなくてよいことを、保存するファイルのサイズを大小様々にするために活用することも可能である。   As a result, in the process of accessing the block object by tracing the management information object from the head object identification information, the length of the entire file, the length of each area in the file, and the length of the block object data entering each area can be known. Therefore, even if the data size of each block is variable, the original file can be constructed from a plurality of blocks stored in a distributed manner. In this way, the fact that the data of each block does not have to be fixed length can be utilized to make the size of the file to be stored different in size.

上記のストレージサービス提供装置において、保存されているファイルのデータの一部を更新する場合、前記ファイルに属するブロックオブジェクト及び管理情報オブジェクトのうち、データが書き換わるブロックオブジェクト及び当該ブロックオブジェクトのオブジェクト識別情報を含む管理情報オブジェクトを、各オブジェクトを保存しているストレージ装置から取得し、取得された各オブジェクトの内容のうち、前記データの書き換えによって変更されない部分はそのまま残し、変更される部分にデータを書き込むことにより、新たな各オブジェクトを生成して、該新たな各オブジェクトのオブジェクト識別情報に基づいて特定されるストレージ装置に保存させるようにしてもよい。   In the storage service providing apparatus, when a part of the data of the stored file is updated, among the block object and management information object belonging to the file, the block object whose data is rewritten and the object identification information of the block object Is acquired from the storage device storing each object, and the content of each acquired object is left unchanged as it is rewritten, and data is written to the changed portion. Thus, each new object may be generated and stored in the storage device specified based on the object identification information of each new object.

これにより、ファイルの書き込みに係るオブジェクトの操作を、get(取得)とput(保存)という基本命令によって実現することが可能になる。   As a result, object operations related to file writing can be realized by basic instructions of get (acquisition) and put (save).

上記のストレージサービス提供装置における前記オブジェクト識別情報を付与する手段を、前記複数のストレージ装置に保存される全てのブロックオブジェクト及び管理情報オブジェクトの間で一意になるように、新たなオブジェクト識別情報を割り当てるものとしてもよい。   New object identification information is assigned so that the means for assigning the object identification information in the storage service providing apparatus is unique among all block objects and management information objects stored in the plurality of storage apparatuses. It may be a thing.

これにより、オブジェクト識別情報として、例えば、UUID(Universal Unique Identifier)を付与することができ、オブジェクトの内容が更新される毎に新たにオブジェクト識別情報を付与することによって、上述したアトミックな更新、ファイルの書き込み中の読み出し、複製及びスナップショットの提供等も可能になる。   As a result, for example, UUID (Universal Unique Identifier) can be given as object identification information, and by adding new object identification information every time the contents of an object are updated, the above described atomic update, file It is also possible to read, duplicate, and provide a snapshot during writing.

上記のストレージサービス提供装置における前記オブジェクト識別情報に基づいて前記複数のストレージ装置のうちの少なくとも一つを特定する手段が、前記オブジェクト識別情報の値に対して所定の計算を行った結果を前記複数のストレージ装置の数で割り算して得られる余りの値に従って、前記複数のストレージ装置のうちの一つを特定することを含むようにしてもよい。   The means for specifying at least one of the plurality of storage devices based on the object identification information in the storage service providing device performs a predetermined calculation on the value of the object identification information. The method may include specifying one of the plurality of storage devices according to a remainder value obtained by dividing by the number of storage devices.

これにより、例えば、ストレージ装置(物理デバイス、ストレージサーバ、又はストレージサービス)の個数がS個であった場合、オブジェクト識別情報から計算される余りの値が0〜(S−1)のいずれになるかによって、そのオブジェクトが保存されるストレージ装置を特定することができる。   Thereby, for example, when the number of storage apparatuses (physical devices, storage servers, or storage services) is S, the remainder value calculated from the object identification information is any of 0 to (S-1). The storage device in which the object is stored can be specified.

このように、各オブジェクトがどのストレージ装置に保存されるかについては、オブジェクト識別情報に対して計算を行うだけで求めることができ、システム内に管理情報を保持する必要がない構成にすると、単一障害点となる要素をさらに低減することが可能になる。例えば、ストレージ装置によってアクセス方法が異なる場合は、ストレージ装置とア
クセス方法との対応を示す情報をシステム内に保持することになるが、この情報の量は、ストレージ装置の数の分だけに限られ、上述した管理情報のようにファイルの数及びそれを構成するオブジェクトの数によって爆発的に増加するものではないため、単一障害点となる要素を極めて少なくできる。
As described above, the storage device in which each object is stored can be obtained by simply calculating the object identification information. If the configuration does not require the management information to be stored in the system, the storage device can be obtained. It becomes possible to further reduce the elements that become one point of failure. For example, if the access method differs depending on the storage device, information indicating the correspondence between the storage device and the access method is held in the system, but the amount of this information is limited to the number of storage devices. Since the management information does not explosively increase depending on the number of files and the number of objects constituting the management information, the number of elements that become a single point of failure can be extremely reduced.

別の例として、各ストレージ装置が担当する値の範囲を割り振っておき(ストレージ装置Bは35以上49未満、ストレージ装置Cは49以上60未満、…等)、オブジェクト識別情報から計算される値(例えば、ハッシュ値)が、どの範囲に入るかによって、そのオブジェクトが保存されるストレージ装置を特定するようにしてもよい。   As another example, a range of values assigned to each storage device is allocated (35 to 49 for storage device B, 49 to less than 60 for storage device C, etc.), and a value calculated from object identification information ( For example, the storage apparatus in which the object is stored may be specified depending on which range the hash value) falls within.

この場合、上記のストレージサービス提供装置における前記オブジェクト識別情報に基づいて前記複数のストレージ装置のうちの少なくとも一つを特定する手段が、前記複数のストレージ装置のそれぞれに該装置の担当する値の範囲を割り振り、前記オブジェクト識別情報の値に対して所定の計算を行った結果と各装置の担当する値の範囲とを比較することにより、前記複数のストレージ装置のうちの一つを特定することを含むようにしてもよい。   In this case, the means for specifying at least one of the plurality of storage devices based on the object identification information in the storage service providing device described above is a range of values assigned to the device by each of the plurality of storage devices. Identifying one of the plurality of storage devices by comparing a result of performing a predetermined calculation on the value of the object identification information and a range of values assigned to each device. It may be included.

これによっても、各オブジェクトがどのストレージ装置に保存されるかについては、オブジェクト識別情報に対して計算を行うだけで求めることができるため、単一障害点となる要素を低減することが可能になる。上述した余りの値を使う方法は、ストレージ装置の個数が固定的となるため、静的な方法であるが、こちらの担当範囲の値を使う方法は、担当範囲を動的に変更することができるため、ストレージ装置の動的な追加や削除に対応することができる。   This also makes it possible to determine in which storage device each object is stored by simply calculating the object identification information, thereby reducing the number of elements that become single points of failure. . The method using the remainder value described above is a static method because the number of storage devices is fixed. However, the method using the value in charge here can change the range in charge dynamically. Therefore, it is possible to cope with dynamic addition and deletion of storage devices.

その場合、すなわち、前記ネットワークを介して接続されるストレージ装置が追加又は削除される場合、上記のストレージサービス提供装置において、前記オブジェクト識別情報に基づいて前記複数のストレージ装置のうちの少なくとも一つを特定する手段を、複数のオブジェクト識別情報のうちの一部について追加されたストレージ装置が特定されるように、又は、いずれのオブジェクト識別情報についても削除されたストレージ装置が特定されないように、特定の処理方法を変更するものとしてもよい。   In that case, that is, when a storage device connected via the network is added or deleted, in the storage service providing device, at least one of the plurality of storage devices is selected based on the object identification information. A means for specifying is specified so that a storage device added for a part of a plurality of object identification information is specified, or a deleted storage device is not specified for any object identification information. The processing method may be changed.

なお、上記のストレージサービス提供装置においては、ファイルと先頭オブジェクト識別情報との対応が、ファイルの数によって増加する管理情報になり得る。このファイルと先頭オブジェクト識別情報との対応をどこに保持するかについては、例えば、次の3つの方法があり得る。先頭オブジェクト識別情報は、例えば、最初にファイルを作成する時には、内容が空であることを示す特別なIDがどのファイルについても割り振られ、ファイルの内容が書き込まれると、システム全体で一意なオブジェクトIDが付与され、ファイルの内容がその後更新されると、新たに一意なオブジェクトIDに書き換えられる。なお、オブジェクトIDは、そのオブジェクトがテーブルであるかブロックであるかを示す情報を含んでもよい。   In the above storage service providing apparatus, the correspondence between the file and the head object identification information can be management information that increases with the number of files. For example, there can be the following three methods as to where the correspondence between this file and the head object identification information is held. For example, when creating a file for the first time, the first object identification information is assigned a special ID indicating that the content is empty for any file, and when the content of the file is written, an object ID that is unique throughout the system. When the file contents are subsequently updated, a new unique object ID is rewritten. The object ID may include information indicating whether the object is a table or a block.

第1の方法は、ストレージサービス提供装置自身によって保持する方法であり、例えば、上述したストレージ装置とアクセス方法との対応を示す情報と共通の管理下で記憶しておくようにしてもよい。この場合、上記のストレージサービス提供装置が、読み出すべきファイルに対応する先頭オブジェクト識別情報を記憶する手段をさらに備え、前記記憶された先頭オブジェクト識別情報に基づいて、前記ファイルについて最初にアクセスするストレージ装置を特定するようにしてもよい。   The first method is a method held by the storage service providing apparatus itself. For example, the information may be stored under the same management as the information indicating the correspondence between the storage apparatus and the access method described above. In this case, the storage service providing apparatus further includes means for storing the first object identification information corresponding to the file to be read, and the storage apparatus that first accesses the file based on the stored first object identification information May be specified.

第2の方法は、複数のストレージ装置のうち、そのファイルのファイル識別情報に基づいて特定されるストレージ装置に保存させる方法である。この場合、上記のストレージサ
ービス提供装置が、読み出すべきファイルの識別情報に基づいて前記複数のストレージ装置のうちの少なくとも一つを特定する手段をさらに備え、ここで特定されるストレージ装置が、読み出すべきファイルに対応する先頭オブジェクト識別情報を、管理情報オブジェクトの一種として保存するようにしてもよい。
The second method is a method of saving in a storage device specified based on the file identification information of the file among the plurality of storage devices. In this case, the storage service providing device further includes means for specifying at least one of the plurality of storage devices based on the identification information of the file to be read, and the storage device specified here should read You may make it preserve | save the head object identification information corresponding to a file as a kind of management information object.

第3の方法は、ストレージサービス提供装置に接続されるデータベース等によって保持する方法であり、例えば、各ファイルの属性情報(所有者、作成日時、更新日時、タイトル、パスワード等)を保存するデータベースに、属性情報のうちの一つの要素として、そのファイルの先頭オブジェクト識別情報を記入しておいてもよい。この場合、上記のストレージサービス提供装置が、各ファイルに対応する先頭オブジェクト識別情報をファイルの属性情報とともに記憶する属性管理装置とネットワークを介して接続する手段をさらに備え、読み出すべきファイルに対応する先頭オブジェクト識別情報を前記属性管理装置から取得し、取得した先頭オブジェクト識別情報に基づいて、前記ファイルについて最初にアクセスするストレージ装置を特定するようにしてもよい。   The third method is a method of holding by a database or the like connected to the storage service providing apparatus. For example, in a database that stores attribute information (owner, creation date / time, update date / time, title, password, etc.) of each file. The head object identification information of the file may be entered as one element of the attribute information. In this case, the storage service providing apparatus further includes means for connecting via a network to an attribute management apparatus that stores the head object identification information corresponding to each file together with the attribute information of the file, and the head corresponding to the file to be read out Object identification information may be acquired from the attribute management device, and a storage device that is first accessed for the file may be specified based on the acquired head object identification information.

本発明の原理に従う一つのストレージサービス提供システムは、クライアント装置及び該クライアント装置にネットワークを介して接続された複数のストレージ装置を備え、該クライアント装置がユーザに対してファイルのストレージサービスを提供する。そして、前記複数のストレージ装置は、一つのファイルにつき、それぞれオブジェクト識別情報が付与された複数のブロックオブジェクト及び一つ以上の管理情報オブジェクトを保存する手段を備え、前記複数のブロックオブジェクトのそれぞれは、複数のデータに分解された前記ファイルを構成する各データを有し、前記管理情報オブジェクトは、前記各ブロックオブジェクトのデータから前記ファイルを構築するための情報を有するものであり、前記クライアント装置は、読み出すべきファイルに対応する先頭オブジェクト識別情報を求め、当該先頭オブジェクト識別情報に基づいて特定されるストレージ装置にアクセスして、前記管理情報オブジェクトを取得する手段と、取得された管理情報オブジェクトに含まれている前記ファイルを構築するための情報を用いて、前記ファイルを構成するデータを有するブロックオブジェクトのオブジェクト識別情報を求め、当該オブジェクト識別情報に基づいて特定されるストレージ装置にアクセスして、前記ブロックオブジェクトを取得する手段と、取得されたブロックオブジェクトが有するデータを、前記ファイルを構築するための情報に従って並べることにより、前記ファイルを取得する手段とを備える。   One storage service providing system according to the principle of the present invention includes a client device and a plurality of storage devices connected to the client device via a network, and the client device provides a file storage service to a user. The plurality of storage devices comprise means for storing a plurality of block objects each provided with object identification information and one or more management information objects for each file, and each of the plurality of block objects includes: Each data constituting the file divided into a plurality of data, the management information object has information for building the file from the data of each block object, the client device, The first object identification information corresponding to the file to be read is obtained, the storage device specified based on the first object identification information is accessed, and the management information object is acquired. Said file Means for obtaining object identification information of a block object having data constituting the file using information for constructing, obtaining the block object by accessing a storage device identified based on the object identification information And means for acquiring the file by arranging the data of the acquired block object according to the information for constructing the file.

このシステムにおけるクライアント装置は、上述したストレージサービス提供装置のうちのファイルの読み出しに係る機能を有するものであるが、ファイルの書き込みに係る機能を付加したものとしてもよい。   The client device in this system has a function related to reading of a file among the storage service providing devices described above, but may have a function related to writing of a file.

上記のストレージサービス提供システムにおいて、複数の前記クライアント装置を備えるようにし、前記管理情報オブジェクトが、複数のオブジェクト識別情報を含み、前記複数のクライアント装置のそれぞれが、前記読み出すべきファイルに対応する先頭オブジェクト識別情報を求めることができるように設定され、前記先頭オブジェクト識別情報に基づいて前記管理情報オブジェクトの取得を要求する処理及び前記複数のオブジェクト識別情報に基づいて各オブジェクトの取得を要求する処理を、他のクライアント装置から独立して行うようにしてもよい。   In the above storage service providing system, a plurality of the client devices are provided, the management information object includes a plurality of object identification information, and each of the plurality of client devices corresponds to the file to be read out. Processing that is set so that identification information can be obtained, and that requests acquisition of the management information object based on the head object identification information, and processing that requests acquisition of each object based on the plurality of object identification information, You may make it carry out independently from another client apparatus.

これにより、特定のファイルに多数のアクセスが集中するような場合、エンドユーザからのアクセスを受け付けるクライアント装置を複数設けて、フロントエンドでアクセス処理を分散することができ、バックエンドの複数のストレージ装置にファイルが分散して保存されているという利点を、さらに効果的に引き出すことが可能になる。   As a result, when a large number of accesses are concentrated on a specific file, a plurality of client devices that accept access from end users can be provided to distribute access processing at the front end, and a plurality of back end storage devices It is possible to extract the advantage that files are distributed and stored more effectively.

上述したストレージサービス提供装置の各発明は、ストレージサービス提供システムの
発明としても成立し、上述したストレージサービス提供システムの各発明は、そこでクライアント装置として動作するストレージサービス提供装置の発明としても成立するものである。
Each invention of the storage service providing apparatus described above is also established as an invention of a storage service providing system, and each invention of the above storage service providing system is also established as an invention of a storage service providing apparatus operating as a client apparatus there. It is.

さらに、上述したストレージサービス提供装置又はシステムの各発明は、ストレージサービス提供装置が行う方法の発明としても、システム全体が行う方法の発明としても、汎用のコンピュータを本ストレージサービス提供装置として動作させるためのプログラム(又はそのプログラムを記録した記録媒体)の発明としても、汎用のコンピュータシステムを本システムとして動作させるためのプログラム(又はそのプログラムを記録した記録媒体)の発明としても、勿論成立するものである。   Further, each invention of the storage service providing apparatus or system described above is intended to cause a general-purpose computer to operate as this storage service providing apparatus, whether as a method invention performed by the storage service providing apparatus or as a method invention performed by the entire system. As a matter of course, the invention of the program (or the recording medium on which the program is recorded) and the program for operating a general-purpose computer system as the present system (or the recording medium on which the program is recorded) are of course established. is there.

例えば、本発明の原理に従う一つのストレージサービス提供方法(ファイルの書き込みに係る)は、複数のストレージ装置とネットワークを介して接続されたコンピュータにより、これらのストレージ装置を利用してファイルを保存するサービスを提供する方法であって、書き込むべきファイルを一つ以上のデータに分解し、該ファイルを構成するデータをブロックオブジェクトとして、各ブロックオブジェクトにオブジェクト識別情報を付与し、前記各ブロックオブジェクトのデータから前記ファイルを構築するための情報を作成し、該情報を管理情報オブジェクトとして、管理情報オブジェクトにオブジェクト識別情報を付与し、前記各ブロックオブジェクト及び前記管理情報オブジェクトを、前記複数のストレージ装置のうち、それぞれのオブジェクト識別情報に基づいて特定されるそれぞれのストレージ装置へ、送信して保存させる。   For example, one storage service providing method (related to file writing) according to the principle of the present invention is a service for storing files using a computer connected to a plurality of storage devices via a network. The file to be written is decomposed into one or more data, the data constituting the file is used as a block object, object identification information is assigned to each block object, and the data of each block object is used. Create information for constructing the file, use the information as a management information object, assign object identification information to the management information object, and assign each block object and the management information object to the storage devices. That To each identified based on the object identification information of the storage device to store and transmit.

本発明の原理に従う別のストレージサービス提供方法(ファイルの読み出しに係る)は、複数のストレージ装置とネットワークを介して接続されたコンピュータにより、これらのストレージ装置を利用して保存されているファイルを取得するサービスを提供する方法であって、一つのファイルにつき、それぞれオブジェクト識別情報が付与された複数のブロックオブジェクト及び一つ以上の管理情報オブジェクトが保存されており、前記複数のブロックオブジェクトのそれぞれは、複数のデータに分解された前記ファイルを構成する各データを有し、前記管理情報オブジェクトは、前記各ブロックオブジェクトのデータから前記ファイルを構築するための情報を有するものであり、読み出すべきファイルに対応する先頭オブジェクト識別情報を求め、当該先頭オブジェクト識別情報に基づいて特定されるストレージ装置にアクセスして、前記管理情報オブジェクトを取得し、取得された管理情報オブジェクトに含まれている前記ファイルを構築するための情報を用いて、前記ファイルを構成するデータを有するブロックオブジェクトのオブジェクト識別情報を求め、当該オブジェクト識別情報に基づいて特定されるストレージ装置にアクセスして、前記ブロックオブジェクトを取得し、取得されたブロックオブジェクトが有するデータを、前記ファイルを構築するための情報に従って並べることにより、前記ファイルを取得する。   Another storage service providing method (related to file reading) according to the principle of the present invention is to acquire a file stored by using a storage device connected to a plurality of storage devices via a network. A plurality of block objects each having object identification information and one or more management information objects are stored for each file, and each of the plurality of block objects includes: Each of the data constituting the file is divided into a plurality of data, and the management information object has information for constructing the file from the data of each block object, and corresponds to the file to be read First object identification information Using the information for obtaining the management information object, obtaining the management information object, and constructing the file included in the obtained management information object Obtaining the object identification information of a block object having data constituting the file, accessing the storage device specified based on the object identification information, obtaining the block object, and the data possessed by the obtained block object Are arranged in accordance with the information for constructing the file to obtain the file.

また例えば、本発明の原理に従う一つのストレージサービス提供プログラム(ファイルの書き込みに係る)は、複数のストレージ装置とネットワークを介して接続されたコンピュータを、これらのストレージ装置を利用してファイルを保存するサービスを提供する装置として動作させるためのプログラムであって、書き込むべきファイルを一つ以上のデータに分解し、該ファイルを構成するデータをブロックオブジェクトとして、各ブロックオブジェクトにオブジェクト識別情報を付与するためのプログラムコードと、前記各ブロックオブジェクトのデータから前記ファイルを構築するための情報を作成し、該情報を管理情報オブジェクトとして、管理情報オブジェクトにオブジェクト識別情報を付与するためのプログラムコードと、前記各ブロックオブジェクト及び前記管理情報オブジェクトを、前記複数のストレージ装置のうち、それぞれのオブジェクト識別情報に基づいて特定されるそれぞれのストレージ装置へ、送信して保存させるためのプログラムコードとを備える。   Also, for example, one storage service providing program (related to file writing) according to the principle of the present invention uses a computer connected to a plurality of storage devices via a network to store files using these storage devices. A program for operating as a device that provides a service, in which a file to be written is decomposed into one or more data, and data constituting the file is used as a block object, and object identification information is given to each block object The program code for creating the file from the data of each block object, the program code for giving the object identification information to the management information object, using the information as the management information object, The lock object and the management information objects among the plurality of storage devices, comprising the respective storage apparatus specified based on the respective object identification information, and program code for causing the stored transmitted.

本発明の原理に従う別のストレージサービス提供プログラム(ファイルの読み出しに係る)は、複数のストレージ装置とネットワークを介して接続されたコンピュータを、これらのストレージ装置を利用して保存されているファイルを取得するサービスを提供する装置として動作させるためのプログラムであって、一つのファイルにつき、それぞれオブジェクト識別情報が付与された複数のブロックオブジェクト及び一つ以上の管理情報オブジェクトが保存されており、前記複数のブロックオブジェクトのそれぞれは、複数のデータに分解された前記ファイルを構成する各データを有し、前記管理情報オブジェクトは、前記各ブロックオブジェクトのデータから前記ファイルを構築するための情報を有するものであり、読み出すべきファイルに対応する先頭オブジェクト識別情報を求め、当該先頭オブジェクト識別情報に基づいて特定されるストレージ装置にアクセスして、前記管理情報オブジェクトを取得するためのプログラムコードと、取得された管理情報オブジェクトに含まれている前記ファイルを構築するための情報を用いて、前記ファイルを構成するデータを有するブロックオブジェクトのオブジェクト識別情報を求め、当該オブジェクト識別情報に基づいて特定されるストレージ装置にアクセスして、前記ブロックオブジェクトを取得するためのプログラムコードと、取得されたブロックオブジェクトが有するデータを、前記ファイルを構築するための情報に従って並べることにより、前記ファイルを取得するためのプログラムコードとを備える。   Another storage service providing program (related to reading a file) according to the principle of the present invention obtains a file stored by using a computer connected to a plurality of storage devices via a network. A plurality of block objects each having object identification information and one or more management information objects stored therein for each file; Each block object has each data constituting the file divided into a plurality of data, and the management information object has information for constructing the file from the data of each block object. File to read Included in the acquired management information object is a program code for obtaining the management information object by obtaining the corresponding head object identification information and accessing the storage device specified based on the head object identification information Using the information for constructing the file, the object identification information of the block object having the data constituting the file is obtained, the storage device specified based on the object identification information is accessed, and the block object And a program code for acquiring the file by arranging the data of the acquired block object according to the information for constructing the file.

以上のとおり、本発明によれば、多数のストレージ装置を利用し様々なサイズの大量のファイルを保存して提供するストレージサービスを、システムにおいて単一障害点となる要素を低減しスケーラビリティを向上させた仮想ストレージとして実現することが可能になる。   As described above, according to the present invention, a storage service that uses a large number of storage devices to store and provide a large number of files of various sizes can be improved by reducing elements that become single points of failure in the system and improving scalability. Can be realized as virtual storage.

本発明の実施の形態における分散型ストレージサービス提供システム(本システム)の説明図Explanatory drawing of the distributed storage service providing system (this system) in the embodiment of the present invention 本システムのクライアント装置の構成を示すブロック図Block diagram showing the configuration of the client device of this system 本システムのストレージ装置の構成を示すブロック図Block diagram showing the configuration of the storage system of this system 本システムの機能の説明図Functional diagram of this system 本システムのファイル構造の概念図Conceptual diagram of the file structure of this system 本システムのファイル構造の概念図Conceptual diagram of the file structure of this system 本システムのファイル構造を説明するための具体例を示す図The figure which shows the concrete example in order to explain the file structure of this system 本システムの仕組みの説明図Illustration of how this system works 本システムにおけるファイル読み出しアクセスの例を示す図Diagram showing an example of file read access in this system 本システムにおけるファイル書き込みアクセスの例を示す図Diagram showing an example of file write access in this system 本システムにおけるファイル書き込みアクセスの例を示す図Diagram showing an example of file write access in this system 本システムにおけるファイル書き込みアクセスの例を示す図Diagram showing an example of file write access in this system 本システムにおけるファイル書き込みアクセスの例を示す図Diagram showing an example of file write access in this system 本システムにおけるファイル書き込みアクセスの例を示す図Diagram showing an example of file write access in this system 本システムにおける静的なサービステーブルの例を示す図Diagram showing an example of a static service table in this system 本システムにおける動的なサービステーブルの例を示す図The figure which shows the example of the dynamic service table in this system 本システムにおいて動的なサービステーブルを実現する手法の例を説明するための図Diagram for explaining an example of a method for realizing a dynamic service table in this system 本システムにおけるクライアント装置の分散処理の説明図Explanatory diagram of distributed processing of client devices in this system 本システムにおけるクラス情報の共有の説明図Illustration of sharing class information in this system 本システムにおける並列分散処理によるファイル書き込み処理の説明図Explanatory drawing of file writing processing by parallel distributed processing in this system 本システムの特徴の説明図Illustration of the features of this system

以下、本発明の実施の形態のシステムについて、図面を用いて説明する。本実施の形態では、例えば、ストレージサービス(ユーザのデータをネットワーク上の多数のストレージ装置に保存するサービス)等のクラウドサービスに用いられる分散型ストレージサービス提供システムの場合を例示する。   Hereinafter, a system according to an embodiment of the present invention will be described with reference to the drawings. In the present embodiment, for example, a case of a distributed storage service providing system used for a cloud service such as a storage service (a service for storing user data in a large number of storage devices on a network) is illustrated.

まず、本実施の形態の分散型ストレージサービス提供システム(本システム)の構成を、図面を参照して説明する。図1は、本システムの構成を示す説明図である。図1に示すように、本システム1は、エンドユーザが使用するユーザ端末2と、本システム1の利用者(サービス提供者)が使用するクライアント装置3と、クライアント装置3にネットワークを介して接続された複数のストレージ装置4で構成されている。本システムでは、クライアント装置3を介してストレージサービスがエンドユーザに提供される。したがって、クライアント装置3は、ストレージサービス提供装置と呼ぶこともできる。ここで、ユーザ端末2やクライアント装置3は、例えばコンピュータなどであり、ストレージ装置4は、例えば事業者やデータセンターなどに設置されたサーバなどである。   First, the configuration of a distributed storage service providing system (this system) according to the present embodiment will be described with reference to the drawings. FIG. 1 is an explanatory diagram showing the configuration of the present system. As shown in FIG. 1, the system 1 is connected to a user terminal 2 used by an end user, a client device 3 used by a user (service provider) of the system 1 and the client device 3 via a network. The plurality of storage apparatuses 4 are configured. In this system, a storage service is provided to the end user via the client device 3. Therefore, the client device 3 can also be called a storage service providing device. Here, the user terminal 2 and the client device 3 are, for example, computers, and the storage device 4 is, for example, a server installed in a business operator or a data center.

図1(a)は、複数の事業者(例えば、事業者A〜C)のストレージサービスを仮想デバイスに見立てた場合の説明図である。また、図1(b)は、複数のサーバ(サーバA〜E)のストレージ機能を仮想デバイスに見立てた場合の説明図である。図1(a)および(b)に示すように、本システムでは、仮想デバイスを多数たばねることにより、論理的に容量が無制限の仮想的なファイルとして扱うことができる。この場合、エンドユーザが使用するユーザ端末からは、ネイティブファイルシステムとして見えるようになる。   FIG. 1A is an explanatory diagram when a storage service of a plurality of business operators (for example, business operators A to C) is regarded as a virtual device. FIG. 1B is an explanatory diagram when the storage functions of a plurality of servers (servers A to E) are regarded as virtual devices. As shown in FIGS. 1A and 1B, in the present system, a large number of virtual devices can be used to handle them as a virtual file having a logically unlimited capacity. In this case, it becomes visible as a native file system from the user terminal used by the end user.

図2は、本システムのクライアント装置3の構成を示すブロック図である。図2に示すように、クライアント装置3は、ストレージ装置4との通信を行う通信部5と、ユーザ端末2からの要求に応じてファイルの書き込み処理や読み出し処理を実行する書き込み・読み出し処理部6と、ストレージ装置4へのアクセス方法を定めるためのサービステーブル記憶部7を備えている。   FIG. 2 is a block diagram showing the configuration of the client device 3 of this system. As illustrated in FIG. 2, the client device 3 includes a communication unit 5 that performs communication with the storage device 4 and a write / read processing unit 6 that performs file write processing and read processing in response to a request from the user terminal 2. And a service table storage unit 7 for determining an access method to the storage device 4.

図3は、本システムのストレージ装置4の構成を示すブロック図である。図に示すように、ストレージ装置4は、クライアント装置3との通信を行う通信部8と、ファイルやオブジェクトが保存されるファイル・オブジェクト管理部9と、保存されているファイルやオブジェクトの管理を行うファイル・オブジェクト保存部10を備えている。
FIG. 3 is a block diagram showing the configuration of the storage apparatus 4 of this system. As shown in FIG. 3 , the storage device 4 manages a communication unit 8 that communicates with the client device 3, a file / object management unit 9 that stores files and objects, and manages stored files and objects. A file / object storage unit 10 is provided.

次に、本システムの機能について説明する。図4は、本システムの機能の説明図である。上述のように、本システムは、エンドユーザが使用するユーザ端末からは、標準的なNFS(ネットワークファイルシステム)サーバ(例えば、RFC1813サーバ)などとして使うことができる。そのため、本システムは、ファイルへの操作に関して、以下のような種々の機能を備えている。   Next, functions of this system will be described. FIG. 4 is an explanatory diagram of functions of this system. As described above, this system can be used as a standard NFS (Network File System) server (for example, RFC1813 server) from a user terminal used by an end user. For this reason, this system has various functions as follows for operations on files.

まず、図4(a)に示すように、本システムは、ファイルを作成するための「CREATE」という機能と、ファイルを削除するための「DELETE」という機能を備えている。「CREATE」の機能では、特にパラメータなどは用いられない。「DELETE」の機能では、「file-id
」がパラメータとして用いられる。ここで、「file-id」は、ファイルを識別するための
識別情報である。
First, as shown in FIG. 4A, this system has a function “CREATE” for creating a file and a function “DELETE” for deleting a file. In the “CREATE” function, no parameters are used. For the "DELETE" function, "file-id
"Is used as a parameter. Here, “file-id” is identification information for identifying a file.

また、図4(b)に示すように、本システムは、ファイルからデータを読み出すための「READ」という機能と、ファイルへデータを書き込むための「WRITE」という機能を備え
ている。「READ」の機能では、「file-id」、「offset」、「data」などがパラメータと
して用いられる。「WRITE」の機能では、「file-id」、「offset」、「データ領域」など
がパラメータとして用いられる。ここで、「offset」は、データがデータ領域内でどの部分に配置されるべきかを示す情報である。「data」は、文字列や数値などのデータの情報であり、データの長さ(length)の情報も含まれる。「データ領域」は、データが書き込まれる領域の情報であり、その領域に書き込むことができるデータの長さ(length)の情報も含まれる。
Further, as shown in FIG. 4B, this system has a function “READ” for reading data from a file and a function “WRITE” for writing data to the file. In the “READ” function, “file-id”, “offset”, “data”, and the like are used as parameters. In the “WRITE” function, “file-id”, “offset”, “data area”, and the like are used as parameters. Here, “offset” is information indicating in which part the data should be arranged in the data area. “Data” is data information such as a character string or a numerical value, and includes data length information. The “data area” is information on an area in which data is written, and includes information on the length of data that can be written in the area.

次に、本システムのファイル構造について説明する。図および図は、本システムのファイル構造の概念図である。本システムでは、図に示すようなデータ構造でファイルが表現される。ユーザ端末からアクセスされるファイルは、「ファイルオブジェクト(単にファイルともいう)」、「テーブルオブジェクト(単にテーブルともいう)」、「ブロックオブジェクト(単にブロックともいう)」により構成される階層構造を有している。この場合、「ファイルオブジェクト」の中に「テーブルオブジェクト」が含まれ、「テーブルオブジェクト」の中に「ブロックオブジェクト」が含まれる。図に示すように、「テーブルオブジェクト」の中に「テーブルオブジェクト」が含まれてもよい。なお、この概念図は、本システムのファイル構造を抽象的に表現したものである(データの実体やデータの保存場所については後述する)。
Next, the file structure of this system will be described. 5 and 6 are conceptual diagrams of the file structure of this system. In this system, the file is represented by a data structure as shown in FIG. A file accessed from a user terminal has a hierarchical structure including a “file object (also simply referred to as a file)”, a “table object (also simply referred to as a table)”, and a “block object (also simply referred to as a block)”. ing. In this case, “table object” is included in “file object”, and “block object” is included in “table object”. As shown in FIG. 5 , “table object” may be included in “table object”. This conceptual diagram is an abstract representation of the file structure of this system (the data substance and the data storage location will be described later).

この場合、ユーザ端末からのファイルへのアクセスは、利用するプロトコルに依存する。例えば、ファイルシステムでは、ファイルへのアクセスに「パス名」が用いられる。また、NFSの場合には「パス名」から対応する「file handle」を検索し、それ以降は「file handle」を用いてファイルへのアクセスが行われる。また、HTTPの場合には「URL」がファイルへのアクセスに用いられる。   In this case, access to the file from the user terminal depends on the protocol used. For example, in a file system, a “path name” is used to access a file. In the case of NFS, the corresponding “file handle” is searched from “path name”, and thereafter, the file is accessed using “file handle”. In the case of HTTP, “URL” is used to access a file.

本システムでは、ファイルは「file-id」によって表現される。上述のように「file-id」は、ファイルに対して一意なID(識別情報)である。本システムでは、ファイルの実体はテーブルであり、テーブルは、ファイルの長さ(length)やデータの配置(offset)などの情報を持っている。なお、上述のように、テーブルは、再帰的に配置が可能なテーブルを表現することができ、テーブルの中にテーブルを配置することが可能である。テーブルは、テーブルを構成する要素のオブジェクト(テーブルまたはブロック)のリスト(<offset,object-id>のリスト)を取得するインターフェースを備えている。本システムでは、ブロックがデータの実体を表現している。ブロックは、実データ(仮想デバイス上に存在するデータ)にアクセスするためのインターフェースを備えている。   In this system, a file is represented by “file-id”. As described above, “file-id” is an ID (identification information) unique to a file. In this system, a file entity is a table, and the table has information such as a file length (length) and data arrangement (offset). As described above, the table can represent a table that can be recursively arranged, and the table can be arranged in the table. The table has an interface for acquiring a list (<offset, object-id> list) of objects (tables or blocks) of elements constituting the table. In this system, blocks represent data entities. The block includes an interface for accessing real data (data existing on the virtual device).

図6では、本システムのファイル構造が「木構造」として表現されている。本システムでは、ファイルを表現するためのデータ構造は、再帰構造をとることが可能である。したがって、本システムのファイル構造は、図6に示すように木構造(ツリー構造)として表現することもでき、ブロックは、木構造のリーフに位置することになる。この場合、オブジェクト(テーブルまたはブロック)は、「object-id(table-idまたはblock-id)」と
「length」の情報を持つ「箱」として表現することができる。
In FIG. 6, the file structure of this system is expressed as a “tree structure”. In this system, a data structure for representing a file can take a recursive structure. Therefore, the file structure of this system can also be expressed as a tree structure (tree structure) as shown in FIG. 6, and the block is located in the leaf of the tree structure. In this case, the object (table or block) can be expressed as a “box” having “object-id (table-id or block-id)” and “length” information.

図7は、本システムのファイル構造を説明するための具体例を示した図である。図7の例では、ファイルオブジェクト(file-id)により特定されたテーブル(先頭テーブル)
は、「table-1」というテーブルIDのテーブルであり、「950」という「length」の情報と、「<0,block-20>、<100,table-3>、<600,block-12>、<750,table-10>」というリスト
の情報を持っている。
FIG. 7 is a diagram showing a specific example for explaining the file structure of the present system. In the example of FIG. 7, the table (first table) specified by the file object (file-id)
Is a table with a table ID of “table-1”, “length” information of “950”, and “<0, block-20>, <100, table-3>, <600, block-12>” , <750, table-10>".

この「table-1」のテーブルを「readAt」すると、オフセット0の位置に配置された1
00バイトの長さの「block-20」のデータと、オフセット100の位置に配置された「table-3」のテーブル(リスト)と、オフセット600の位置に配置された150バイトの
長さの「block-12」のデータと、オフセット750の位置に配置された「table-10」のテ
ーブル(リスト)が読み出される。なお、「readAt」は、データの読み出しをするための命令(インターフェース)である。なお、上述のように、「オフセット」は、ファイル内での位置(そのファイルの先頭からの位置)を表す情報である。
If this table "table-1" is "readAt", 1 placed at the position of offset 0
The data of “block-20” having a length of 00 bytes, the table (list) of “table-3” arranged at the position of offset 100, and the “table-20” having a length of 150 bytes arranged at the position of offset 600 The data of “block-12” and the table (list) of “table-10” arranged at the position of the offset 750 are read out. “ReadAt” is an instruction (interface) for reading data. As described above, the “offset” is information indicating a position in the file (position from the beginning of the file).

「table-3」と「table-10」のテーブル(リスト)は、さらに「readAt」できる。この
場合、「table-3」のテーブルは、「500」という「length」の情報と、「<0,block-120>
、<300,block-130>」というリストの情報を持っている。したがって、この「table-3」のテーブルを「readAt」すると、領域オフセット0の位置に配置された100バイトの長さの「block-120」のデータと、領域オフセット300の位置に配置された200バイトの
長さの「block-130」のデータが読み出される。また、「table-10」のテーブルは、「200」という「length」の情報と、「<0,block-800>、<50,block-900>」というリストの情報
を持っている。したがって、この「table-10」のテーブルを「readAt」すると、領域オフセット0の位置に配置された50バイトの長さの「block-800」のデータと、領域オフセ
ット50の位置に配置された150バイトの長さの「block-900」のデータが読み出され
る。なお、「領域オフセット」は、そのテーブルが示す領域内でのオフセット(そのテーブルが示す領域の先頭からの相対位置)を表す情報である。
The table (list) of “table-3” and “table-10” can be further “readAt”. In this case, the table of “table-3” has information of “length” of “500” and “<0, block-120>”
, <300, block-130>". Therefore, when the table “table-3” is “readAt”, the data of “block-120” having a length of 100 bytes arranged at the position of the area offset 0 and the data 200 arranged at the position of the area offset 300 are displayed. Data of “block-130” having a byte length is read. The table “table-10” has “length” information “200” and list information “<0, block-800>, <50, block-900>”. Therefore, when the table “table-10” is “readAt”, the data of “block-800” having a length of 50 bytes arranged at the position of the area offset 0 and 150 arranged at the position of the area offset 50 are set. Data of “block-900” having a byte length is read. The “area offset” is information representing an offset (relative position from the head of the area indicated by the table) within the area indicated by the table.

結果として、「table-1」のテーブルからは、オフセット0の位置に配置された100
バイトの長さの「block-20」のデータと、オフセット100(領域オフセット0)の位置に配置された100バイトの長さの「block-120」のデータと、オフセット400(領域
オフセット300)の位置に配置された200バイトの長さの「block-130」のデータと
、オフセット600の位置に配置された150バイトの長さの「block-12」のデータと、オフセット750(領域オフセット0)の位置に配置された50バイトの長さの「block-800」のデータと、オフセット800(領域オフセット50)の位置に配置された150
バイトの長さの「block-900」のデータが、読み出されることになる。なお、オフセット
200から400までの間のデータがない領域は「nul」で埋められている。
As a result, from the table of “table-1”, 100 arranged at the position of offset 0
The data of “block-20” having a byte length, the data of “block-120” having a length of 100 bytes arranged at the position of offset 100 (region offset 0), and the data of offset 400 (region offset 300) The data of “block-130” having a length of 200 bytes arranged at the position, the data of “block-12” having a length of 150 bytes arranged at the position of the offset 600, and the offset 750 (region offset 0) The data of “block-800” having a length of 50 bytes arranged at the position of 150 and 150 arranged at the position of the offset 800 (area offset 50)
Data of “block-900” having a byte length is read out. Note that an area where there is no data between offset 200 and 400 is filled with “nul”.

次に、図8を参照しながら、本システムの仕組みについて説明する。図8に示すように、本システムでは、テーブルやブロックに関連する情報を、抽象化されたオブジェクトとして扱い、その内容をネットワーク上の仮想デバイス(サーバやサービス)上に持つようにしている。そして、本システムでは、ネットワーク上の仮想デバイス(サーバやサービス)上に必要な情報を分散配置することによって、特定のサーバや特定の領域に管理情報を保存する必要性をなくすようにしている。   Next, the mechanism of this system will be described with reference to FIG. As shown in FIG. 8, in this system, information related to tables and blocks is handled as an abstracted object, and the contents are held on a virtual device (server or service) on the network. In this system, necessary information is distributed and arranged on virtual devices (servers and services) on the network, thereby eliminating the need to store management information in a specific server or a specific area.

続いて、ファイルに関するデータ構造について説明する。ファイルは、そのファイルを示す一意な「file-id」を持っている。また、ファイルは、そのファイルの内容を表現す
るためのテーブル(先頭テーブル)の「table-id」に対応付けされている。本システムにおいて、ファイルの内容に関する情報は、先頭テーブルに書き込まれた「table-id」のみであり、詳細な内容は「table-id」から再帰的にデータを取得することにより得られるようになっている。なお、実装上は、「file-id」と先頭テーブルの「table-id」の対応表
もネットワーク上にオブジェクトとして保存されていてよい。ファイルの長さ(length)は、先頭テーブルに対して「getLength」して取得できるの長さ(length)と同じである
。すなわち、「getLength(ファイルオブジェクト) = getLength(該当ファイルの先頭テーブル)」である。なお、ファイルは、属性情報(所有者、アクセス権限、更新日時)や管
理情報を持っていてもよい。
Next, the data structure related to the file will be described. A file has a unique “file-id” that indicates the file. A file is associated with “table-id” of a table (head table) for expressing the contents of the file. In this system, the information about the contents of the file is only the “table-id” written in the first table, and the detailed contents can be obtained by recursively acquiring data from the “table-id”. ing. In terms of implementation, the correspondence table between “file-id” and “table-id” in the first table may also be stored as an object on the network. The length (length) of the file is the same as the length (length) that can be obtained by “getLength” with respect to the head table. That is, “getLength (file object) = getLength (first table of corresponding file)”. Note that the file may have attribute information (owner, access authority, update date) and management information.

次に、本システムにおけるオブジェクトの定義について説明する。オブジェクトは、そのオブジェクトを識別するために一意性を有する識別子(object-id)と、データの長さ(length)の情報を持っている。「object-id」としては、例えば、64ビットの整数、UUID、任意の文字列などが使用される。また、「length」は、負でない整数であり、例えば64ビットの整数などで表現される。オブジェクトの「length」は、「getLength」で取得することができる。本システムのオブジェクトには、ブロックとテーブルが含まれる。
Next, the definition of an object in this system will be described. An object has an identifier (object-id) having uniqueness to identify the object and information on a length of data (length). As the “object-id”, for example, a 64-bit integer, UUID, arbitrary character string, or the like is used. Further, “length” is a non-negative integer, and is represented by, for example, a 64-bit integer. The “length” of the object can be acquired by “getLength”. Objects of this system include blocks and tables .

ブロックは、オブジェクトの一種であり、「block-id」と「length」の情報を持っている。ブロックは、コンテンツと呼ぶこともできる。ブロック(コンテンツ)のデータは、「getContent」で取得することができる。また、ブロックは、「putContent(block-id, content, length)」で「block-id」と「content」と「length」を与えることにより、新規に生成することもできる。なお、ブロックの上書きは不可である。   A block is a kind of object and has information of “block-id” and “length”. A block can also be referred to as content. The data of the block (content) can be acquired by “getContent”. A block can also be newly created by giving “block-id”, “content”, and “length” with “putContent (block-id, content, length)”. Note that the block cannot be overwritten.

テーブルも、オブジェクトの一種であり、「table-id」と「length」の情報を持っている。また、テーブルは、「<offset,object-id>のリスト」を持っている。ここで、「object-id」は、「block-id」または「table-id」である。テーブルのデータは、「getTable
」で取得することができる。また、テーブルは、「putTable(table-id,<offset,object-id>)」で「table-id」と「<offset,object-id>」を与えることにより、新規に生成するこ
ともできる。なお、テーブルの上書きは不可である。また、<offset0,object0>というエ
ントリについては、「offset0 ≧ 0(「offset」の値が0以上であること)」、「object0.getLength() > 0(そのオブジェクトの「length」の値が0より大きいこと)」、「offset0 + object0.getlength() ≦ table.getLength()(「offset」の値にそのオブジェクトの「length」の値を加えた値が、テーブルの「length」の値以下であること)」が、すべて成り立つことが条件とされる。
A table is also a kind of object and has information of “table-id” and “length”. The table also has a “list of <offset, object-id>”. Here, “object-id” is “block-id” or “table-id”. The table data is "getTable
Can be obtained. Also, a table can be newly created by giving “table-id” and “<offset, object-id>” with “putTable (table-id, <offset, object-id>)”. Note that the table cannot be overwritten. For the entry <offset0, object0>, “offset0 ≧ 0 (the value of“ offset ”is 0 or more)”, “object0.getLength ()> 0 (the value of“ length ”of the object is 0) Greater than) "," offset0 + object0.getlength () ≤ table.getLength () ("offset" plus "length" of the object is less than or equal to "length" in the table It is a condition that everything is true.

本システムにおいて、「block-id」は、仮想デバイス上のデータに対応しており、ブロックオブジェクトへのアクセスでは、「サービステーブル(後述する)」を用いて仮想デバイスへのアクセスに必要な情報を求め、「block-id」に対応付けられているデータ(と長さの情報)を取得する。また、本システムにおいて、「table-id」は、仮想デバイス上の情報に対応しており、テーブルオブジェクトへのアクセスでは、ブロックの場合と同様にして、仮想デバイスから情報を取得することができる。ただし、この場合に取得できる情報の中身は、テーブルの情報(すなわち、テーブルが表現するファイル内の領域の長さ(length)と<offset,object-id>のリスト)である。   In this system, “block-id” corresponds to the data on the virtual device. When accessing a block object, the “service table (described later)” is used to obtain information necessary for accessing the virtual device. The data (and length information) associated with “block-id” is obtained. In the present system, “table-id” corresponds to information on the virtual device, and in accessing the table object, information can be acquired from the virtual device as in the case of the block. However, the information that can be acquired in this case is table information (that is, a list of the length (length) and <offset, object-id> of the area in the file represented by the table).

上記データのアクセスで利用されるサービステーブルは、「一意の(ユニークな)ID番号」と「アクセス手段」の情報を含んでいる。事業者が提供するサービスの場合のアクセス手段は、例えば「http://jigyousya.com/storage/%s」などである。また、ネットワ
ークサーバへのアクセス手段は、例えば「10.0.50.11:/users/isi(NFSの場合)」や
「samba://10.0.60.1/public(CIFSの場合)」などであり、物理デバイスへのアクセス手段は、例えば「/dev/sd0a」などである。なお、サービステーブルの詳細については
後述する。
The service table used for accessing the data includes information on “unique (unique) ID number” and “access means”. For example, “http://jigyousya.com/storage/%s” is an access means in the case of a service provided by an operator. The access means to the network server is, for example, “10.0.50.11:/users/isi (in the case of NFS)” or “samba: //10.0.60.1/public (in the case of CIFS)”, etc. The access means is, for example, “/ dev / sd0a”. Details of the service table will be described later.

ここで、ブロック(コンテンツ)の保存や取得をする場合に用いられる命令(インターフェース)について説明する。ブロックの保存(新規作成)をする場合には「putContent(block-id, length, content)」が用いられる。この場合、「block-id」から仮想デバイ
スが特定され、その「block-id」に対応するデータを保存する。このとき、「HTTP PUT」や「NFS WRITE」など、仮想デバイスに応じたデータ保存の仕組みを利用してもよい。なお、上述のとおり、本システムでは、ブロックの新規保存のみ可能であり、ブロックの上書きは不可である。
Here, an instruction (interface) used when storing or acquiring a block (content) will be described. When storing (newly creating) a block, “putContent (block-id, length, content)” is used. In this case, a virtual device is specified from “block-id”, and data corresponding to the “block-id” is stored. At this time, a data storage mechanism corresponding to the virtual device such as “HTTP PUT” or “NFS WRITE” may be used. As described above, in this system, only a new block can be saved, and the block cannot be overwritten.

ブロックの取得(データの取得)をする場合には「getContent(block-id)」が用いられる。この場合、「block-id」から仮想デバイスが特定され、その「block-id」に対応するデータを取得する。このとき、「HTTP GET」や「NFS READ」など、仮想
デバイスに応じたデータ保存の仕組みを利用してもよい。なお、その「block-id」に対応するデータがない場合には「エラー」となる。
“GetContent (block-id)” is used when acquiring a block (data acquisition). In this case, a virtual device is specified from “block-id”, and data corresponding to the “block-id” is acquired. At this time, a data storage mechanism corresponding to the virtual device, such as “HTTP GET” or “NFS READ”, may be used. If there is no data corresponding to the “block-id”, an “error” occurs.

なお、上記の説明では、ブロックの保存や取得のためのインターフェースのみを定義したが、仮想デバイス(サービスやサーバなど)によって、実際の通信手法は、「block-id」に対応するデータが保存または取得できるものであれば、如何なる手法を用いてもよい。例えば、一般的なウェブの場合には「http」を用いてもよく、ウェブサービスの場合には「rest」、「xml」、「xml−rpc」などを用いてもよい。また、ネットワークサーバの場合には「nsf」、「webdav」、「cifs」、「ftp」などを用いてもよく、物理デバイスの場合には、「iSCSI」やその他の通常のストレージを用いてもよい。   In the above description, only the interface for storing and retrieving blocks is defined. However, depending on the virtual device (service, server, etc.), the actual communication method is that data corresponding to “block-id” is stored or Any method may be used as long as it can be acquired. For example, “http” may be used for a general web, and “rest”, “xml”, “xml-rpc”, etc. may be used for a web service. In the case of a network server, “nsf”, “webdav”, “cifs”, “ftp” or the like may be used. In the case of a physical device, “iSCSI” or other normal storage may be used. Good.

次に、テーブルの保存や取得をする場合に用いられる命令(インターフェース)について説明する。テーブルの保存(新規作成)をする場合には「putTable(id, length, list of <offset,object-id>)」が用いられる。これにより、「length」の情報と<offset,object-id>のリストがエンコードされる。ここで、「object-id」は、「block-id」または「table-id」である。また、最も単純なエンコード手法は、文字列としてこの内容を書き出
す方法である。エンコード手法の例としては、(1)可読文字列で表現する手法(例えば、「10」を、文字列の「10」で表現する手法)や、(2)バイト列で保存する手法(例えば、「int」は4バイト、「long」は8バイトの列で保存する手法)や、(3)「tuple(タイプ、長さ、データ)」の列としてデータを保存する手法などがある。
Next, an instruction (interface) used when storing and acquiring a table will be described. When storing (newly creating) a table, “putTable (id, length, list of <offset, object-id>)” is used. As a result, the information of “length” and the list of <offset, object-id> are encoded. Here, “object-id” is “block-id” or “table-id”. The simplest encoding method is a method of writing this content as a character string. Examples of encoding methods include (1) a method of representing a readable character string (for example, a method of representing “10” by “10” of a character string), and (2) a method of storing a byte string (for example, “Int” is a method of storing 4 bytes and “long” is a sequence of 8 bytes) and (3) a method of storing data as a column of “tuple (type, length, data)”.

この場合、「table-id」から仮想デバイスが特定され、その「table-id」にエンコードしたデータを保存する。このとき、「HTTP PUT」や「NFS WRITE」など、仮想デバイスに応じたデータ保存の仕組みを利用してもよい。なお、実装上は、ブロックの保存のときに用いられる「putContent」を利用してもよい。また、上述のとおり、本システムでは、テーブルの新規保存のみ可能であり、テーブルの上書きは不可である。   In this case, the virtual device is identified from “table-id”, and the encoded data is stored in “table-id”. At this time, a data storage mechanism corresponding to the virtual device such as “HTTP PUT” or “NFS WRITE” may be used. In terms of implementation, “putContent” used when saving a block may be used. Further, as described above, in this system, only a new table can be stored, and the table cannot be overwritten.

テーブルの情報を取得する場合には「getTable(table-id)」が用いられる。この場合、「table-id」から仮想デバイスが特定され、その「table-id」に対応するデータを取得する。このとき、「HTTP GET」や「NFS READ」など、仮想デバイスに応じたデータ保存の仕組みを利用してもよい。なお、実装上は、ブロックの取得のときに用いられる「getContent」を利用してもよい。取得したテーブルの情報をデコードすることによって、「length(長さ)」と「list of <offset,object-id>(<offset,object-id>のリスト)」を取得することができる。   “GetTable (table-id)” is used when acquiring table information. In this case, a virtual device is specified from “table-id”, and data corresponding to the “table-id” is acquired. At this time, a data storage mechanism corresponding to the virtual device, such as “HTTP GET” or “NFS READ”, may be used. In terms of implementation, “getContent” used when acquiring a block may be used. By decoding the information of the acquired table, “length (length)” and “list of <offset, object-id> (list of <offset, object-id>)” can be acquired.

なお、この場合、「各「object-id」から取得した「(sub) length」は、次の「offset
」までに収まっていること」が条件とされる。また、「最終の「offset」に位置する「object-id」の「length」については、「テーブルの「length」≧ 最終の「offset」+ (sub) length(最終の「offset」の値に「(sub) length」の値を加えた値が、テーブルの「length」の値以下であること)」が、成り立つことが条件とされる。
In this case, “(sub) length” obtained from each “object-id” is the following “offset
"It must be within" is a condition. In addition, for “length” of “object-id” located at the final “offset”, “table“ length ”≧ final“ offset ”+ (sub) length (the value of the final“ offset ”is“ The value obtained by adding the value of (sub) length ”is equal to or less than the value of“ length ”in the table)”.

続いて、ファイル、テーブル、ブロックのすべてに共通するインターフェース(共通インターフェース)について説明する。書き込み用の共通インターフェースは「writeAt」
である。「writeAt」は、「offset」と「length」と「データのバイト列」を受け取る。
「writeAt (object-id, object_offset, buffer, bufoff, buflen)」は、「object-id」
と「object_offset」と「buffer」と「bufoff」と「buflen」を与えると、更新されたデ
ータを持った新しい「object-id」を返す。読み出し用の共通インターフェースは「readAt」である。「readAt」は、「offset」と「length」と「読み出すデータ領域の情報」を
受け取る。「readAt (object-id, object_offset, buffer, bufoff, buflen)」は、「obj
ect-id」と「object_offset」と「buffer」と「bufoff」と「buflen」を与えると、該当
の領域のデータを読み出した内容を、「buffer」、「bufferoff」、「bufferlen」で示される領域にコピーし、読み出せたデータの長さ「length」を返す。
Next, an interface (common interface) common to all files, tables, and blocks will be described. The common interface for writing is "writeAt"
It is. “WriteAt” receives “offset”, “length”, and “data byte string”.
"WriteAt (object-id, object_offset, buffer, bufoff, buflen)" is "object-id"
And "object_offset", "buffer", "bufoff", and "buflen" return a new "object-id" with updated data. The common interface for reading is “readAt”. “ReadAt” receives “offset”, “length”, and “data area information to be read”. "ReadAt (object-id, object_offset, buffer, bufoff, buflen)" is equivalent to "obj
If "ect-id", "object_offset", "buffer", "bufoff", and "buflen" are given, the data read from the corresponding area is changed to the area indicated by "buffer", "bufferoff", and "bufferlen". The length “length” of the data copied and read out is returned.

この場合、「object-id」は、「file-id」または「table-id」または「block-id」である。また、「object_offset」は、そのオブジェクト内での相対位置(offset)を表現する情報である。また、「buffer」と「bufoff」と「buflen」は、「バッファ」を表現する情報である。読み出しや書き込みの要求は、実際のデータの受け渡しを「buffer」というポインタで始まるデータ領域の「bufoff」で示される相対位置から、「buflen」という長さのバイト分のデータという形で表現する。「writeAt」で書き込みをするときには、上記のデータ領域(バッファ領域)から書き込むべきデータを取得して、データを書き込む。「readAt」で読み出しをするときには、上記のデータ領域(バッファ領域)に読み出したデータをコピーすることにより、データが読み出される。
In this case, “object-id” is “file-id”, “table-id”, or “block-id”. “Object_offset” is information representing a relative position (offset) in the object. Further, “buffer”, “bufoff”, and “buflen” are information representing “buffer”. A read or write request is expressed in the form of data for bytes of length “buflen” from the relative position indicated by “bufoff” in the data area starting with the pointer “buffer”. When writing with “writeAt”, the data to be written is acquired from the data area (buffer area) and the data is written. When reading by “readAt”, data is read by copying the read data to the data area (buffer area).

なお、上記の説明では、ファイル、テーブル、ブロックのすべてに共通するインターフェースのみを定義したが、実際の動作は、ファイル、テーブル、ブロックのそれぞれで定義してよい。   In the above description, only interfaces common to all files, tables, and blocks are defined. However, actual operations may be defined for each of files, tables, and blocks.

次に、本システムの機能の実装例について説明する。ファイルの新規作成(CREATE)の機能は、「create」により実装される。この「create」は、新規に長さがゼロのファイルを作るインターフェースである。「create」の内部処理は、まず「file-id」を新規に割
り当て、その「file-id」の先頭テーブルを「EMPTY_TABLE」にセットし、その「file-id
」を返すというものである。ここで、「EMPTY_TABLE」は、長さがゼロであって、リスト
の要素数がゼロである特別なテーブルである。これは、実データを持たないため、仮想デバイス上に実態を持つ必要がなく、特別なオブジェクトID(空テーブルを示す全ファイルに共通のID)だけが存在する。「create」は、「file-id」を割り当てるだけのもの
であるともいえる。
Next, an example of implementation of the functions of this system will be described. The function of creating a new file (CREATE) is implemented by “create”. This “create” is an interface for creating a new zero-length file. The internal process of “create” first assigns a new “file-id”, sets the first table of that “file-id” to “EMPTY_TABLE”, and then sets the “file-id”
"Is returned. Here, “EMPTY_TABLE” is a special table whose length is zero and whose number of elements in the list is zero. Since this does not have real data, it is not necessary to have the actual state on the virtual device, and there is only a special object ID (an ID common to all files indicating an empty table). It can be said that “create” only assigns “file-id”.

ファイル(ファイルオブジェクト)への書き込み(WRITE-1)の機能は、「writeAt (object-id, object_offset, buffer, bufoff, buflen)」により実装される。この場合、「object-id」は「file-id」である。このファイルへの書き込みでは、「object_offset」が十分に大きい場合、例えば、現在の階層の深さdに対して「object_offset」が「4MB
×1000」以上である場合に、階層構造をひとつ増やす(木構造を一段深くする)処理が行われる。このとき、「現在のlength」と<0,先頭テーブルのtable-id>を持ったテーブルが新規に作成され、そのファイルの先頭テーブルの「tabale-id」が書き換えられる
。また、ファイルに対応づけられている「table-id」に対して「writeAt (table-id, object_offset, buffer, bufoff, buflen)」を実行すると、新しく割り当てられた「table-id」が先頭テーブルとして登録される。これにより、特別なオブジェクトID又は以前の
「table-id」が、新たな「table-id」に書き換えられる。「writeAt」は、更新されたオ
ブジェクトのIDを返す必要があるが、ファイルへの書き込みでは、先頭テーブルだけを書き換えて、自身の「file-id」を返すようになっている。
The function of writing to a file (file object) (WRITE-1) is implemented by “writeAt (object-id, object_offset, buffer, bufoff, buflen)”. In this case, “object-id” is “file-id”. In writing to this file, if “object_offset” is sufficiently large, for example, “object_offset” is “4 MB” with respect to the depth d of the current hierarchy.
When it is equal to or greater than × 1000 d ”, a process of increasing the hierarchical structure by one (making the tree structure one step deeper) is performed. At this time, a table having “current length” and <0, table-id> of the first table is newly created, and “tabale-id” of the first table of the file is rewritten. When “writeAt (table-id, object_offset, buffer, bufoff, buflen)” is executed for the “table-id” associated with the file, the newly assigned “table-id” is used as the first table. be registered. As a result, the special object ID or the previous “table-id” is rewritten to a new “table-id”. “WriteAt” needs to return the ID of the updated object, but when writing to a file, only the top table is rewritten and its own “file-id” is returned.

テーブル(テーブルオブジェクト)への書き込み(WRITE-2)の機能は、「writeAt (object-id, object_offset, buffer, bufoff, buflen)」により実装される。この場合、「object-id」は「table-id」である。このテーブルへの書き込みでは、「buflen」>0の間、以下の(1)〜(4)の処理が繰り返される。   The function of writing to a table (table object) (WRITE-2) is implemented by “writeAt (object-id, object_offset, buffer, bufoff, buflen)”. In this case, “object-id” is “table-id”. In writing to this table, while “buflen”> 0, the following processes (1) to (4) are repeated.

(1)の処理では、リストから「object_offset」に該当するサブ(下位の)オブジェ
クト(テーブルまたはブロック)を検索する。例えば、「object_offset + bufoff」がテーブルの各要素の「offset + getLength()」に入る場合を検索する。
In the process (1), a sub (lower) object (table or block) corresponding to “object_offset” is searched from the list. For example, a search is performed when “object_offset + bufoff” enters “offset + getLength ()” of each element of the table.

(2)の処理では、該当するオブジェクトがなかった場合、「createId()」により「newId」を作成し、「putContent(newId, writelen, (buffer, bufoff, writelen))」により、その「newId」を「object_offset」に位置するサブオブジェクトとしてリストを更新する。ここで、「writelen」は、「Min(buflen,(次のオブジェクトのoffset − object_offset))」である。   In the process (2), if there is no corresponding object, “createId ()” is used to create “newId”, and “putContent (newId, writelen, (buffer, bufoff, writelen))” is used to create the “newId”. Is updated as a sub-object located at “object_offset”. Here, “writelen” is “Min (buflen, (offset−object_offset of next object))”.

(3)の処理では、該当オブジェクトの「child-id」に対して、「writeAt(child-id, object_offset − child-offset, buffer, bufoff, writelen)」を行うことにより、「newId」を「child-offset」に対応するサブオブジェクトとしてリストを更新する。ここで
、「child-id」は、該当のサブオブジェクトを示すIDである。また、「child-length」は、そのサブオブジェクトの長さ(すなわち、getLength(child-id)で取得される長さ)
であり、「child-offset」は、そのサブオブジェクトのoffsetの値である。また、「writelen」は、「Min(buflen, child-length)」である。
In the processing of (3), “writeAt (child-id, object_offset−child-offset, buffer, bufoff, writelen)” is performed on “child-id” of the corresponding object, so that “newId” is “child”. The list is updated as a sub-object corresponding to “-offset”. Here, “child-id” is an ID indicating the corresponding sub-object. "Child-length" is the length of the sub-object (that is, the length obtained by getLength (child-id))
“Child-offset” is the offset value of the sub-object. “Writelen” is “Min (buflen, child-length)”.

(4)の処理では、該当するオブジェクトがあった場合でも、該当するオブジェクトがなかった場合でも、「object_offset」を「object_offset + writelen」とし、「buflen
」を「buflen − writelen」として、パラメータの更新を実行する。
In the process of (4), “object_offset” is set to “object_offset + writelen” regardless of whether there is a corresponding object or no corresponding object, and “buflen
"Is changed to" buflen-writelen ", and the parameter is updated.

このテーブルへの書き込みでは、現状の長さの「length」に対して、「length < object_offset + buflen」であれば、「length」を「object_offset + buflen」とする。また、最終的に出来上がったリストである「list」と、上記の「length」に対して、「createId()」により「newId」を作成し、「putTable(newId, length, list)」を実行したうえで、「newId」を返すようにされている。   In writing to this table, if “length <object_offset + buflen” with respect to “length” of the current length, “length” is set to “object_offset + buflen”. In addition, “newId” was created by “createId ()” for “list” which is the final list and “length” above, and “putTable (newId, length, list)” was executed. In addition, "newId" is returned.

ブロック(ブロックオブジェクト)への書き込み(WRITE-3)の機能は、「writeAt (object-id, object_offset, buffer, bufoff, buflen)」により実装される。この場合、「object-id」は「block-id」である。このブロックへの書き込みでは、該当ブロックの現在のデータを読み出す処理が行われる。例えば、「getContent(object-id)」により「currentData」が読み出される。「currentLength」は、この「currentData」のバイト列(実データ)の長さである。ブロックへの書き込みでは、「currentData」のバイト列について
、「object_offset」から始まる部分に対して、「(buffer, bufoff, min(buflen, currentLength))」のデータを上書きする。そして、最終的にできあがったデータと、上記の「currentLength」に対して、「createId()」により「newId」を作成し、「putContent(newId, currentLength, currentData)」を実行したうえで、「newId」を返すようにされてい
る。
The function of writing to a block (block object) (WRITE-3) is implemented by “writeAt (object-id, object_offset, buffer, bufoff, buflen)”. In this case, “object-id” is “block-id”. In writing to this block, processing for reading the current data of the block is performed. For example, “currentData” is read by “getContent (object-id)”. “CurrentLength” is the length of this “currentData” byte string (actual data). In writing to the block, the data of “(buffer, bufoff, min (buflen, currentLength))” is overwritten on the part starting with “object_offset” for the byte string of “currentData”. Then, for the final data and the above "currentLength", create "newId" by "createId ()" and execute "putContent (newId, currentLength, currentData)", then "newId "Is returned.

ファイル(ファイルオブジェクト)からの読み出し(READ-1)の機能は、「readAt (object-id, object_offset, buffer, bufoff, buflen)」により実装される。この場合、「object-id」は「file-id」である。このファイルからの読み出しにおいて、「object_offset」が現在の長さ「length」以上の場合には、読み込むべきデータがないので、「END-OF-FILE」を返す。また、ファイルの先頭テーブルである「table-id」に対しては、「readAt (table-id, object_offset, buffer, bufoff, min(buflen, length − object_offset))」を実行する。   The function of reading from a file (file object) (READ-1) is implemented by “readAt (object-id, object_offset, buffer, bufoff, buflen)”. In this case, “object-id” is “file-id”. When “object_offset” is longer than the current length “length” in reading from this file, “END-OF-FILE” is returned because there is no data to be read. Also, “readAt (table-id, object_offset, buffer, bufoff, min (buflen, length−object_offset))” is executed for “table-id” which is the first table of the file.

テーブル(テーブルオブジェクト)からの読み出し(READ-2)の機能は、「readAt (object-id, object_offset, buffer, bufoff, buflen)」により実装される。この場合、「object-id」は「table-id」である。このテーブルからの読み出しでは、「buflen」>0の間、以下の(1)〜(4)の処理が繰り返される。   The function of reading from a table (table object) (READ-2) is implemented by “readAt (object-id, object_offset, buffer, bufoff, buflen)”. In this case, “object-id” is “table-id”. In reading from this table, the following processes (1) to (4) are repeated while “buflen”> 0.

(1)の処理では、リストから「object_offset」に該当するサブ(下位の)オブジェ
クト(テーブルまたはブロック)を検索する。
In the process (1), a sub (lower) object (table or block) corresponding to “object_offset” is searched from the list.

(2)の処理では、該当するオブジェクトがなかった場合、「readlen = Min(buflen, (次のオブジェクトの offset − object_offset))」に対して、「(buffer, bufoff, readlen)」の領域をnul文字で埋める。   In the process of (2), if there is no corresponding object, the area of “(buffer, bufoff, readlen)” is nullified for “readlen = Min (buflen, (next object offset − object_offset))”. Fill with letters.

(3)の処理では、該当するオブジェクトがあった場合、その「child-id」に対して、「readAt(child-id, object_offset − child-offset, buffer, bufoff, readlen)」を実行する。ここで、「child-id」は、該当のサブオブジェクトを示すIDである。また、「child-length」は、そのサブオブジェクトの長さ(すなわち、getLength(child-id)で取
得される長さ)であり、「child-offset」は、そのサブオブジェクトのoffsetの値である。また、「readlen」は、「Min(buflen, child-length)」である。
In the process of (3), if there is a corresponding object, “readAt (child-id, object_offset−child-offset, buffer, bufoff, readlen)” is executed for the “child-id”. Here, “child-id” is an ID indicating the corresponding sub-object. “Child-length” is the length of the sub-object (that is, the length acquired by getLength (child-id)), and “child-offset” is the offset value of the sub-object. . “Readlen” is “Min (buflen, child-length)”.

(4)の処理では、該当するオブジェクトがあった場合でも、該当するオブジェクトがなかった場合でも、「object_offset」を「object_offset + readlen」とし、「buflen」を「buflen − readlen」とし、「bufoff」を「bufoff + readlen」として、パラメータ
の更新を実行する。
In the process of (4), whether there is a corresponding object or no corresponding object, “object_offset” is set to “object_offset + readlen”, “buflen” is set to “buflen−readlen”, and “bufoff” The parameter is updated with "bufoff + readlen".

ブロック(ブロックオブジェクト)からの読み出し(READ-3)の機能は、「readAt (object-id, object_offset, buffer, bufoff, buflen)」により実装される。この場合、「object-id」は「block-id」である。このブロックからの読み出しでは、該当ブロックの現在のデータを読み出す処理が行われる。例えば、「getContent(object-id)」により「currentData」が読み出される。「currentLength」は、この「currentData」のバイト列(実データ)の長さである。ブロックからの読み出しでは、「currentData」のバイト列に対
して、「object_offset」から始まる「readlen」バイト分のデータを、「(buffer, bufoff, readlen)」にロードして、「readlen」を返す。ここで、「readlen」は、「min(buflen, currentLength) 」である。
The function of reading from a block (block object) (READ-3) is implemented by “readAt (object-id, object_offset, buffer, bufoff, buflen)”. In this case, “object-id” is “ block -id”. In reading from this block, processing for reading the current data of the block is performed. For example, “currentData” is read by “getContent (object-id)”. “CurrentLength” is the length of this “currentData” byte string (actual data). In reading from the block, “readlen” bytes of data starting from “object_offset” are loaded into “(buffer, bufoff, readlen)” for the “currentData” byte string, and “readlen” is returned. Here, “readlen” is “min (buflen, currentLength)”.

次に、ファイルの読み出しと書き込みの具体例について説明する。図9には、本システムにおけるファイルの読み出しアクセスの一例が示されている。図9に示すように、ユーザ端末からファイルを読み出すアクセスがあると、まず、ファイルオブジェクトを特定するための「file-id」が算出される。次に、「file-id」と「table-id」の対応表を用いて、「file-id」に対応する「table-id」を取得する。ここでは、例えば「table-1」というテーブルIDが取得される。なお、上述のように、実装上は、「file-id」と「table-id
」の対応表も一つのオブジェクトとしてネットワーク上に保存されていてもよい。
Next, specific examples of file reading and writing will be described. FIG. 9 shows an example of file read access in this system. As shown in FIG. 9, when there is an access to read a file from the user terminal, first, “file-id” for specifying the file object is calculated. Next, “table-id” corresponding to “file-id” is acquired using the correspondence table of “file-id” and “table-id”. Here, for example, a table ID “table-1” is acquired. As mentioned above, “file-id” and “table-id”
May also be stored on the network as a single object.

そして、「table-1」の内容を、仮想デバイスの選択アルゴリズム(後述する)を用いて、事業者Aから取得する。ここでは、例えば「650,<0,table-2>,<300,table-3>」という内容が取得される。以下、「table-2」と「table-3」の内容が再帰的に取得される。図9の例では、「table-2」の内容が「300,<0,block-a>,<100,block-b>,<200,block-c>」であり、「table-3」の内容が「350,<0,block-d>,<250,block-e>」である。そうすると、これらのテーブルの内容に従って、オフセット0の位置に配置された100バイトの長さの「block-a」のデータと、オフセット100の位置に配置された100バイトの長さの「block-b」のデータと、オフセット200の位置に配置された100バイトの長さの「block-c」のデータと、オフセット300(領域オフセット0)の位置に配置された250バイトの長さの「block-d」のデータと、オフセット550(領域オフセット250)の位置に配置された100バイトの長さの「block-e」のデータが読み出される。
Then, the contents of “table-1” are acquired from the operator A using a virtual device selection algorithm (described later). Here, for example, the content “650, <0, table-2>, <300, table-3>” is acquired. Hereinafter, the contents of “table-2” and “table-3” are acquired recursively. In the example of FIG. 9, the contents of “table-2” are “300, <0, block-a>, <100, block-b>, <200, block-c>”, and “table-3” The contents are “ 350 , <0, block-d>, < 250 , block-e>”. Then, according to the contents of these tables, data of “block-a” having a length of 100 bytes arranged at the position of offset 0 and “block-b” having a length of 100 bytes arranged at the position of offset 100 are stored. ", Data of" block-c "having a length of 100 bytes arranged at the position of offset 200, and" block- "having a length of 250 bytes arranged at the position of offset 300 (region offset 0) The data “d” and the data “block-e” having a length of 100 bytes arranged at the position of the offset 550 (region offset 250) are read out.

図10〜図14には、本システムにおけるファイルの書き込みアクセスの一例が示され
ている。ここでは、まず、新規ファイルの作成について説明する。図10に示すように、ユーザ端末からファイルを書き込むアクセスがあると、まず、「CREATE」の機能により、新規ファイルが作成される。このとき、先頭テーブルに「EMPTY_TABLE」がセットされる
10 to 14 show an example of file write access in this system. Here, the creation of a new file will be described first. As shown in FIG. 10, when there is an access to write a file from the user terminal, first, a new file is created by the “CREATE” function. At this time, “EMPTY_TABLE” is set in the head table.

次に、先頭から100バイトのデータ(data)を書き込む処理について説明する。この場合、「WRITE-1」の機能により、ファイルへの書き込みが実行される。例えば、先頭テ
ーブルの「EMPTY_TABLE」に対して、「writeAt(EMPTY_TABLE, 0, data, 0, 100)」が実行される。その後、「WRITE-2」の機能により、テーブルへの書き込みが実行される。この
場合、「offset」に該当するブロックが存在しないため、ブロックを作成する。例えば、「block-a = createId()」、「putContent(block-a, 0 − 0, data, 0, 100)」により「block-a」のブロックを作成して、リストを更新する。次いで、「writeAt」内のメインル
ープを抜けて、「length」を「100」に更新した後、「table-x = createId()」、「putTable(table-x, 100, <0, block-a>)」を実行し、「table-x」を返す。そして、上記「table-x」を先頭テーブルにセットし、処理を終了する。
Next, a process of writing 100 bytes of data (data) from the beginning will be described. In this case, writing to the file is executed by the function “WRITE-1”. For example, “writeAt (EMPTY_TABLE, 0, data, 0, 100)” is executed on “EMPTY_TABLE” in the top table. After that, writing to the table is executed by the function of “WRITE-2”. In this case, since there is no block corresponding to “offset”, a block is created. For example, a block “block-a” is created by “block-a = createId ()” and “putContent (block-a, 0-0, data, 0, 100)”, and the list is updated. Next, after exiting the main loop in “writeAt” and updating “length” to “100”, “table-x = createId ()”, “putTable (table-x, 100, <0, block-a >) "And returns" table-x ". Then, the above “table-x” is set in the top table, and the process is terminated.

続いて、図11および図12を参照しながら、「offset」が「50から150バイト」のデータ(data)を書き込む処理について説明する。図11に示すように、まず、「WRITE-1」の機能により、ファイルへの書き込みが実行される。この場合、先頭テーブルの「table-x」に対し、「writeAt(table-x, 50, data, 0, 150) 」が実行される。次に、「WRITE-2」の機能により、テーブルへの書き込みが行われる。この場合、第1のループ「loop-1」として、「offset」が「50」であるブロック「block-a」に対して、「wiriteAt(block-a, 50 − 0, data, 0, 50) 」が実行される。続いて、「WRITE-3」の機能により、「block-a」の現在のデータである100バイト分の「orig」をロードし、「orig」の「offset=50」に「(data, 0, 50) 」を上書きする。その後、「block-b = createId()」、「putContent(block-b, 100, orig)」で新規ブロックを作成する。そして、上記の「block-b
」を、新たなブロックとして、リストを更新する。その結果、新しいリストは<0,block-b>になる。その後、「object_offset 」に「50 + 50 = 100」をセットし、「buflen」に「150 − 50 = 100」をセットし、「bufoff」に「0 + 50 = 50」をセットして、次のループへ進む。
Next, a process of writing data (data) whose “offset” is “50 to 150 bytes” will be described with reference to FIGS. 11 and 12. As shown in FIG. 11, first, writing to a file is executed by the function “WRITE-1”. In this case, “writeAt (table-x, 50, data, 0, 150)” is executed for “table-x” in the head table. Next, the table is written by the function “WRITE-2”. In this case, as the first loop “loop-1”, “wiriteAt (block-a, 50−0, data, 0, 50)” is applied to the block “block-a” whose “offset” is “50”. Is executed. Next, with the function “WRITE-3”, “orig” for 100 bytes, which is the current data of “block-a”, is loaded, and “offset = 50” of “orig” is set to “(data, 0, 50) Overwrite "". After that, a new block is created with “block-b = createId ()” and “putContent (block-b, 100, orig)”. And above "block-b
"Is updated as a new block. As a result, the new list is <0, block-b>. After that, set "object + offset" to "50 + 50 = 100", set "buflen" to "150-50 = 100", set "bufoff" to "0 + 50 = 50" Go to the loop.

図12に示すように、第2のループ「loop-2」では、「offset」が「100」に該当するブロックがないため、「block-c = createId()」、「putContent(block-c, 100, (data, 50, 100))」を実行し、新規ブロックを作成する。これにより、テーブルのリストが更
新され、新しいリストは「<0,block-b>,<100,block-c>」になる。このとき、「object_offset」に「100 + 100 = 200」をセットし、「buflen」に「100 − 100」をセットし、「bufoff」に「50 + 100 = 150」をセットする。この場合、「buflen」がゼロになるので、
ループを終了する。そして、「length」を「200」にセットしたうえで、「table-y = createId()」、「putTable(table-y, 200, <0,block-b>,<100,block-c>)」を実行して新
規テーブルを作成し、「table-y」を返す。その後、ファイルの先頭テーブルを「table-y」にセットして処理を終了する。
As shown in FIG. 12, in the second loop “loop-2”, since there is no block whose “offset” is “100”, “block-c = createId ()”, “putContent (block-c, 100, (data, 50, 100)) "to create a new block. As a result, the list of the table is updated, and the new list becomes “<0, block-b>, <100, block-c>”. At this time, “100 + 100 = 200” is set in “object_offset”, “100−100” is set in “buflen”, and “50 + 100 = 150” is set in “bufoff”. In this case, “buflen” is zero,
End the loop. And after setting “length” to “200”, “table-y = createId ()”, “putTable (table-y, 200, <0, block-b>, <100, block-c>) ”To create a new table and return“ table-y ”. After that, the top table of the file is set to “table-y” and the process ends.

次に、図13および図14を参照して、「object_offset」が「10000から200バイト」のデータ(data2)を書き込む処理について説明する。図13に示すように、「WRITE-1」の機能により、ファイルへの書き込みが実行される。この場合、「object_offset」が十分に大きいと判断され、階層を増やす処理が実行される。つまり、現状の「table-y」を単一要素とする、新テーブルが作成される。なお、このとき、テーブルの深さだけが変わるだけで、「getLength()」で取得できる値は「table-y」と同じである。新しく作られたテーブルについては、「table-α = createId()」、「putTable(table-α, 200, <0,table-y>)」が実行される。そして、この新しく作られたテーブル「table-α」に対して「writeAt(table-α, 10000, data2, 0, 200)」が実行される。
Next, with reference to FIGS. 13 and 14, a process of writing data (data2) having “object_offset” of “10000 to 200 bytes” will be described. As shown in FIG. 13, writing to a file is executed by the function “WRITE-1”. In this case, it is determined that “object_offset” is sufficiently large, and processing for increasing the hierarchy is executed. That is, a new table is created with the current “table-y” as a single element. At this time, only the depth of the table changes, and the value that can be acquired by “getLength ()” is the same as “table-y”. For the newly created table, “table-α = createId ()” and “putTable (table-α, 200, <0, table- y >)” are executed. Then, “writeAt (table-α, 10000, data2, 0, 200)” is executed on the newly created table “table-α”.

続いて、「WRITE-2」の機能により、「table-α」に対する書き込みが行われる。この場合、「object_offset = 10000」に既存の要素が存在しないので、「block-d = createId()」、「putContent(block-d, 200, (data2, 0, 200))」を実行し、新規ブロックを作成する。その後、各種パラメータを更新する。この場合、「object_offset」を「10000 + 200 = 10200」にセットし、「buflen」を「200 - 200」にセットし、「bufoff」を「0 + 200= 200」にセットして、ループを終了する。
Subsequently, writing to “table-α” is performed by the function of “WRITE-2”. In this case, there is no existing element in “object_offset = 10000”, so execute “block-d = createId ()” and “putContent (block-d, 200, (data2, 0, 200))” to create a new Create a block. Thereafter, various parameters are updated. In this case, set "object_offset" to "10000 + 200 = 10 200", set "buflen" to "200-200", set "bufoff" to "0 + 200 = 2 0 0" End the loop.

図14に示すように、この場合、「length <object_offset + len」であるので、「length」に「10200」をセットして、長さを更新する。さらに、テーブルのリストを更新する。新しいテーブルは、「table-z = createId()」、「putTable(table-z, 10200, <0,table-y>,<10000,block-d>)」によって与えられる。最後に、ファイルの先頭テーブルを「table-z」にセットして、処理を終了する。
As shown in FIG. 14, in this case, since “length <object_offset + len”, “10200” is set in “length”, and the length is updated. In addition, the table list is updated. The new table is given by “table-z = createId ()”, “putTable (table-z, 10200, <0, table-y>, <10000, block-d>)”. Finally, the top table of the file is set to “table-z” and the process is terminated.

ここで、本システムにおける新規IDの割当について簡単に説明する。本システムでは、「createId」で新規のオブジェクトIDを作る。このとき、オブジェクトIDの一意性を保証することが必要である。オブジェクトIDの一意性は、サービステーブルで利用される。例えば、UUIDを用いる場合には、RFCに記述されている手法で、一意な128ビットの値が生成される。また、64ビットの整数を用いる場合には、「64 bit long generator (original)」を利用してもよい。   Here, the assignment of a new ID in this system will be briefly described. In this system, a new object ID is created with “createId”. At this time, it is necessary to guarantee the uniqueness of the object ID. The uniqueness of the object ID is used in the service table. For example, when UUID is used, a unique 128-bit value is generated by a method described in RFC. Further, when a 64-bit integer is used, “64 bit long generator (original)” may be used.

次に、本システムで利用する「サービステーブル」について説明する。本システムにおいて、オブジェクトID(テーブルID、ブロックIDなど)から、その内容を取得する際には、「内容を保存してあるサービス(もしくはサーバ)」を特定するアルゴリズムが用いられる。したがって、本システムでは、データベースや膨大な管理テーブルを準備する必要がない。すなわち、本システムでは、サービスを特定しようとするときに、アルゴリズムで「計算」できるため、特別な管理サーバや管理情報のための領域が不要になる。   Next, the “service table” used in this system will be described. In this system, when acquiring the contents from the object ID (table ID, block ID, etc.), an algorithm for specifying “service (or server) storing the contents” is used. Therefore, in this system, it is not necessary to prepare a database or a huge management table. That is, in this system, when trying to specify a service, it can be “calculated” by an algorithm, so that a special management server and an area for management information are not required.

サービステーブルは、オブジェクトIDからオブジェクトを取得する方法を示すテーブルである。本システムでは、上述したように「アルゴリズム」によって、オブジェクトIDからサービス(もしくはサーバ)を特定できるようになっており、サービステーブルは、各サービス(もしくはサーバ)への「アクセス手段」についての情報を得るために用いられる。サービステーブルには、実装と運用が簡単な「静的」なものと、サービステーブルの更新(サービスの追加・変更・削除)が容易な「動的」なものがある。   The service table is a table indicating a method for acquiring an object from an object ID. In this system, the service (or server) can be specified from the object ID by the “algorithm” as described above, and the service table stores information on “access means” to each service (or server). Used to get. Service tables include “static” that is easy to implement and operate, and “dynamic” that is easy to update (add / change / delete services).

静的なサービステーブルでは、N個のサービスがあるとして、オブジェクトIDから「hash code」を計算し、その計算結果をNで割った余りでサービスを特定できるようにな
っている。動的なサービステーブルでは、各サービス名称(一意な名称)がハッシュ値に変換されて、オブジェクトIDがそのハッシュ値に一番近いサービスが特定されるようになっている。
In the static service table, assuming that there are N services, the “hash code” is calculated from the object ID, and the service can be identified by the remainder obtained by dividing the calculation result by N. In the dynamic service table, each service name (unique name) is converted into a hash value, and a service whose object ID is closest to the hash value is specified.

本システムでは、このようなサービステーブル(静的なサービステーブルまたは動的なサービステーブル)を利用することにより、特別な管理用テーブルが不要になり、システムにおける単一障害点をなくすことが可能になり、バックアップが容易になる。また、オブジェクトIDごとに異なるサービスを割り当てることによって、分散処理が可能となる。また、サービスを特定するためのアルゴリズムは計算が早い(例えば、処理時間が「O(1)」のオーダーである)。   In this system, by using such a service table (static service table or dynamic service table), a special management table becomes unnecessary, and a single point of failure in the system can be eliminated. This makes backup easier. Also, distributed processing is possible by assigning different services for each object ID. The algorithm for specifying the service is fast in calculation (for example, the processing time is in the order of “O (1)”).

サービステーブルに含まれる情報には、サービス提供事業者の情報、URIなどの「lo
cation」の情報、サービスを利用するための認証情報、その他、サービスに依存する付加情報がある。サービス提供事業者の情報は、自ネットワークの場合には「local」の情報
であってよい。「location」の情報には、「http,nfs,cifs,ftp,webdav」などのプロトコルの情報や、「%o(オブジェクトIDに置き換え)」や「%u(ユーザIDに置き換え)」などのパス情報(必要に応じてパラメータ変換を行うための情報)が含まれる。また、サービスを利用するための認証情報には、ユーザID、パスワード、必要に応じて認証鍵情報などが含まれる。また、サービスに依存する付加情報には、ウェイト、暗号化手法、各種のパラメータ(ブロックサイズ、並列度、待ち行列のサイズなど)が含まれる。
The information included in the service table includes the service provider information, URI, etc.
cation "information, authentication information for using the service, and other information depending on the service. The service provider information may be “local” information in the case of the local network. The “location” information includes protocol information such as “http, nfs, cifs, ftp, webdav”, and a path such as “% o (replace with object ID)” and “% u (replace with user ID)”. Information (information for performing parameter conversion as necessary) is included. The authentication information for using the service includes a user ID, a password, and authentication key information as necessary. Further, the additional information depending on the service includes a weight, an encryption method, and various parameters (block size, parallelism, queue size, etc.).

図15は、静的なサービステーブルの一例を示す図である。この場合、S個のサービスに対して、0〜(S−1)の番号を持つサービステーブルを作成する。オブジェクトIDからサービスを決定する場合には、まず、オブジェクトID(例えば、0a12cd−05201a−・・・−ab00fa)からハッシュ値(例えば、13562)を計算する。このハッシュ値をサービス数Sで割った余りからサービスを特定する。例えば、サービス数が3(つまり、S=3)である場合には、13562÷3=2となり、サービス提供者は、「事業者C」に決定される。そして、アクセス方法について前述のパラメータ変換を行った後に、この事業者Cのサービスにアクセスする。
FIG. 15 is a diagram illustrating an example of a static service table. In this case, a service table having numbers 0 to (S-1) is created for S services. When determining a service from an object ID, first, a hash value (for example, 13562) is calculated from the object ID (for example, 0a12cd-05201a-... -Ab00fa). A service is specified from the remainder obtained by dividing the hash value by the number of services S. For example, when the number of services is 3 (that is, S = 3), 13562 ÷ 3 = 2, and the service provider is determined to be “service provider C”. Then, after performing the above-described parameter conversion for the access method, the service of the operator C is accessed.

図16は、動的なサービステーブルの一例を示す図である。この場合、サービスごとにSHA1ハッシュを計算し、サービステーブルを作成する。オブジェクトIDからサービスを決定する場合には、まず、オブジェクトID(例えば、0a12cd−05201a−・・・−ab00fa)からSHA1ハッシュ値(例えば、60ab)を計算する。そして、このSHA1ハッシュ値が担当範囲として割り当てられているサービスが選択される。そして、図15の場合と同様に、アクセス方法について前述のパラメータ変換を行った後に、そのサービスにアクセスする。   FIG. 16 is a diagram illustrating an example of a dynamic service table. In this case, the SHA1 hash is calculated for each service, and a service table is created. When determining a service from the object ID, first, a SHA1 hash value (for example, 60ab) is calculated from the object ID (for example, 0a12cd-05201a-... -Ab00fa). Then, a service to which this SHA1 hash value is assigned as the assigned range is selected. Then, as in the case of FIG. 15, after performing the above-described parameter conversion for the access method, the service is accessed.

本システムでは、サービスを動的に追加、削除するための一つの手法として、DHT(Distributed Hash Table)を利用することができる。例えば、図17に示すように、サービスを提供する8つのサーバ(サーバA〜H)にそれぞれキー情報(ID)が割り当てられており、それぞれのサーバの担当範囲がIDに基づいて決められていたとする。各サーバのIDは、そのサーバの一意な名称から計算したSHA1ハッシュ値の一部(例えば、先頭の二桁)をとって決めてもよい。例えば、サーバAの担当範囲が「08〜34」、サーバBの担当範囲が「35〜48」・・・に設定されていたとする。そうすると、上記のオブジェクトIDについては、SHA1ハッシュ値の一部(例えば、先頭の二桁)の「60」から、サービスを提供するサーバは、「サーバD」(担当範囲「60〜90」)に決定される。   In this system, DHT (Distributed Hash Table) can be used as one method for dynamically adding and deleting services. For example, as shown in FIG. 17, it is assumed that key information (ID) is assigned to each of eight servers (servers A to H) that provide services, and the assigned range of each server is determined based on the ID. To do. The ID of each server may be determined by taking a part of the SHA1 hash value calculated from the unique name of the server (for example, the first two digits). For example, it is assumed that the assigned range of the server A is set to “08 to 34”, and the assigned range of the server B is set to “35 to 48”. Then, with respect to the above object ID, the server providing the service starts from “60”, which is a part of the SHA1 hash value (for example, the first two digits), to “server D” (responsible range “60-90”). It is determined.

以下、本システムの特徴について説明する。本システムの特徴の一つとして、ランダムアクセス(Random Access I/O)が可能であることが挙げられる。本システムでは、ツリ
ー構造によるデータアクセスが可能であり、任意の場所のデータを「O(log N)」のオーダーの処理時間で更新、追加、削除可能である(N=ファイルサイズ)。なお、固定配列にすると、保存できるファイルのサイズに制限ができてしまい、リスト構造にすると「O(N)」のオーダーの処理時間が必要になってしまう。そして、本システムでは、書き込み時に、オフセットと領域を指定して更新を行う。そのため、更新が必要なブロック、及び、上位のテーブルのみ更新すればよいという利点がある。また、本システムでは、読み込み時には、オフセットと領域を指定して読み出しを行う。そのため、読み出しが必要なテーブルとブロックだけ読み出せばよいという利点がある。
The features of this system will be described below. One of the features of this system is that random access (Random Access I / O) is possible. In this system, data access by a tree structure is possible, and data at an arbitrary place can be updated, added, and deleted in the processing time of the order of “O (log N)” (N = file size). If a fixed array is used, the size of a file that can be stored can be limited, and if a list structure is used, processing time for the order of “O (N)” is required. In this system, the update is performed by designating the offset and the area at the time of writing. Therefore, there is an advantage that only the block that needs to be updated and the upper table need be updated. In this system, when reading, the offset and the area are specified and reading is performed. Therefore, there is an advantage that only a table and a block that need to be read need be read.

また、本システムには、ファイルサイズが事実上無限であるという特徴がある。すなわ
ち、固定長配列をもたないためファイルサイズは事実上無制限であり、例えば、ブロックサイズ4MB、テーブルあたりの要素数が1024の場合には、深さ4で「4MB×1024×1024×1024×1024=4EB」を表現できる。また、データ構造がツリー型の再帰構造をとるため、ファイルサイズNに対し、データの検索、追加、削除の処理時間は「O(log N)」のオーダーであり、実用的な速度(十分な速度)でアクセスできる。
In addition, this system has a feature that the file size is practically infinite. That is, since there is no fixed-length array, the file size is virtually unlimited. For example, when the block size is 4 MB and the number of elements per table is 1024, the depth is “4 MB × 1024 × 1024 × 1024 ×”. 1024 = 4EB ”can be expressed. In addition, since the data structure has a tree-type recursive structure, the processing time for data retrieval, addition, and deletion is on the order of “O (log N)” with respect to the file size N. Speed).

また、本システムは、必要最小限の管理情報が「file-id」と「table-id」の対のみで
あるという点に特徴がある。つまり、本システムでは、ファイルを示す「file-id」とそ
の先頭の「table-id」のみが必要であり、実装上は、「file-id」と「table-id」の対も
ネットワーク上のオブジェクトとして保存することができる。例えば、「file-id」をキ
ーに単一の値を持つオブジェクトとして分散配置することができる。なお、「file-id」
と「table-id」の対は、テーブルやブロックとは異なり、上書き可能なオブジェクトである。また、サービステーブルは、別途管理すればよく、ファイルやデータの「量に依存しない」参照情報のみを含めるようにすることができる。
In addition, this system is characterized in that the minimum necessary management information is only a pair of “file-id” and “table-id”. In other words, in this system, only the “file-id” that indicates the file and the “table-id” at the beginning of the file are required. For implementation, the “file-id” and “table-id” pairs are also on the network. It can be saved as an object. For example, “file-id” can be distributed as an object having a single value as a key. "File-id"
The “table-id” pair is an object that can be overwritten, unlike a table or block. In addition, the service table may be managed separately, and only the “independent amount” reference information of files and data can be included.

また、本システムの特徴には、スパースファイル(sparse file)を容易に実現できる
ことがある。スパースファイルでは、使ってないところが「nul埋め」される。したがっ
て、例えば、「readAt」を実行した場合、データがないところは「nul」データとして読
み出される。これにより、物理容量を使わずに論理的なファイルサイズが大きくできる。スパースファイルの第1のメリットとして、論理的には事実上無限サイズのファイルを作成可能であることが挙げられる。ファイルの構造は、テーブルだけで表現することが可能であり、データのないところは「nul」データとして読み出される。スパースファイルの
第2のメリットとして、実際にデータを書き込んだときに初めてブロックが作成されることが挙げられる。データを書き込まない部分は、必要な容量は最小限(テーブル情報のみ)で済む。
Another feature of this system is that a sparse file can be easily realized. In sparse files, unused areas are “nul padded”. Therefore, for example, when “readAt” is executed, a portion having no data is read as “nul” data. As a result, the logical file size can be increased without using the physical capacity. The first merit of the sparse file is that a logically infinite size file can be created logically. The structure of the file can be expressed only by a table, and the portion without data is read as “nul” data. A second merit of the sparse file is that a block is created only when data is actually written. A portion where data is not written requires a minimum capacity (table information only).

また、本システムは、暗号化との組み合わせで安全なデータ書き込みを実現できる点に特徴がある。事前にユーザがファイル全体を暗号化することにより、安全なデータ書き込みが実現される。暗号化方式は任意である。本システムでは、暗号化されたファイルを多数のブロックに分割し、複数の仮想デバイス(例えば、サービス事業者)に分散して保存する。ファイルの復号化は、仮想デバイスから各断片を集めてきてファイルを再構成し、ファイルを再構成後、ユーザ側で復号化すればよい。この特徴により、暗号化されたデータを、より安全に保存することができる。この場合、各仮想デバイスは「暗号化されたファイル」の断片のみを持つことになるので、仮想デバイスがサービス事業者である場合、特定のサービス事業者のデータだけでは、元ファイルを生成することはできない。   In addition, this system is characterized in that safe data writing can be realized in combination with encryption. When the user encrypts the entire file in advance, safe data writing is realized. The encryption method is arbitrary. In this system, the encrypted file is divided into a large number of blocks, and distributed and stored in a plurality of virtual devices (for example, service providers). The file can be decrypted by collecting each fragment from the virtual device, reconstructing the file, reconstructing the file, and then decrypting the file on the user side. This feature allows encrypted data to be stored more securely. In this case, each virtual device will have only an “encrypted file” fragment, so if the virtual device is a service provider, the original file should be generated using only the data of the specific service provider. I can't.

また、本システムの特徴の一つには、アトミックな更新(途中の状態が存在しない不可分な更新処理)が可能であることが挙げられる。ファイルの更新は、先頭テーブルの「table-id」のアトミックな書き換えで確定する。ファイルを構成する「object-id」は、毎
回新規作成され、「table-id」と「block-id」は、いずれも「更新」するたびに新しいIDが割り当てられる。すなわち、「table-id」が決められると、それ以降、その中身は同一であり変更されることがない。このような特徴を備えることにより、本システムでは「書き込み中の読み込みが可能である」というメリットが得られる。ファイルは常に「完全な状態」であるため、先頭テーブルの「table-id」が書き換えられるまでは、以前のファイルのままであり、先頭テーブルの「table-id」が書き換えられると、即座に、更新されたファイルの内容になる。したがって、ファイルのロックをしなくても「書き込み中に読み込みも実行できる」ようになる。また、本システムでは「コピー、スナップショットが容易である」というメリットも得られる。コピーやスナップショットの方法としては、例えば、新しい「file-id」に対して、既存ファイルの「table-id」をコピーする方法がある
。これにより、同一の「table-id」の内容の同一性が保証される。
Further, one of the features of the present system is that atomic update (inseparable update processing in which there is no intermediate state) is possible. File update is confirmed by atomic rewriting of “table-id” in the first table. The “object-id” constituting the file is newly created every time, and a new ID is assigned to each of “table-id” and “block-id” each time “update” is performed. That is, when “table-id” is determined, the contents are the same and are not changed thereafter. By providing such a feature, this system has the advantage that “reading during writing is possible”. Since the file is always in “complete state”, it remains as it is until the “table-id” in the first table is rewritten, and immediately after the “table-id” in the first table is rewritten, It becomes the contents of the updated file. Therefore, it becomes possible to “read while writing” without locking the file. In addition, this system has the advantage that “copying and snapshotting are easy”. As a copy or snapshot method, for example, there is a method of copying the “table-id” of an existing file to a new “file-id”. Thereby, the identity of the content of the same “table-id” is guaranteed.

また、本システムは、クライアントの分散処理が容易であるという特徴を備えている。図18において破線で示すように、例えば、人気のVOD(ビデオ・オン・デマンド)やイベント時のホームページなど、または、大容量のデータの分析を「分散処理」で行う場合など、一つのクライアント装置にアクセスが集中してしまうことがある。そのような場合に、集中アクセスの分散して処理することが望まれる。また、非同期に多数のアクセスがある場合にも、負荷分散をすることが望まれる。   In addition, this system has a feature that client distributed processing is easy. As shown by a broken line in FIG. 18, for example, one client device such as a popular VOD (video on demand), a homepage at an event, or a case where a large amount of data is analyzed by “distributed processing”. Access may be concentrated. In such a case, it is desirable to perform processing with distributed centralized access. It is also desirable to distribute the load even when there are many accesses asynchronously.

本システムでは、仮想ストレージ(上述した「クライアント装置」)を複数(多数)並べて、必要なファイルの情報(file-idとtable-idの対)を各仮想ストレージで取得する
ようにしている。したがって、図18において実線で示すように、各仮想ストレージが独立に仮想デバイスにアクセスすることで分散処理を実現することができる。例えば、仮想デバイスがサービス事業者である場合には、事業者間の負荷分散が可能になる。また、仮想デバイスがサーバである場合には、サーバ間での負荷分散が可能になる。いずれの場合にも、フロントエンドの個々の仮想ストレージはお互いに干渉しない。また、本システムでは、特に大容量ファイルの場合に負荷分散が容易である。その場合、構成するテーブル、ブロック数が多くなるため、統計的にアクセスが分散することになる。結果として、本システムでは、極めてスケーラビリティが高い「アクセス分散」の仕組みが実現できる。
In this system, a plurality (large number) of virtual storages (the above-mentioned “client devices”) are arranged, and necessary file information (a pair of file-id and table-id) is acquired by each virtual storage. Therefore, as indicated by a solid line in FIG. 18, each virtual storage can independently access a virtual device to realize distributed processing. For example, when the virtual device is a service provider, load distribution among the providers is possible. Further, when the virtual device is a server, it is possible to distribute the load among the servers. In either case, the individual virtual storages on the front end do not interfere with each other. Also, with this system, load distribution is easy especially for large files. In this case, since the number of tables and blocks to be configured increases, access is statistically distributed. As a result, this system can realize an "access distribution" mechanism with extremely high scalability.

例えば、本システムで保存管理するファイルは、オブジェクト指向プログラムのクラス情報であってもよく、本システムの利用者が指定したプログラムをサーバ上で実行できるようにしてもよい。その場合、本システムの利用者(クライアント装置)とサーバで、プログラムの定義であるクラス情報を共有してもよい。クラス情報を共有する場合には、例えば、図19に示すように、利用者は、本システムのサーバにクラス情報を登録し、各サーバにファイルIDを教えてから、プログラムの実行を指示する。各サーバでは、ファイルIDを用いて本システムからプログラムの実行に必要なクラス情報を取得することができる。   For example, the file stored and managed in this system may be class information of an object-oriented program, and a program specified by a user of this system may be executed on the server. In this case, the class information that is the definition of the program may be shared between the user (client device) of the system and the server. When sharing class information, for example, as shown in FIG. 19, the user registers the class information in the server of this system, teaches the file ID to each server, and then instructs the execution of the program. Each server can acquire class information necessary for program execution from this system using the file ID.

また、本システムの特徴には、並列分散処理により高スループットが得られるという点がある。図20は、本システムにおける並列分散処理の説明図である。図20に示すように、例えば、テーブルへの書き込み時には、テーブルが持つリスト内の各オブジェクト(テーブルまたはブロック)毎の書き込み処理の並列分散処理が可能である。また、テーブルからの読み出し時には、テーブルが持つリスト内の各オブジェクト(テーブルまたはブロック)毎の読み出し処理の並列分散処理が可能である。このように、例えば、ひとつのテーブルの書き込み/読み出しのいずれの場合にも、該テーブルの処理において、テーブル内のリストの要素数N(例えば、1024)に対して並列分散処理が可能である。結果として、本システムでは、サイズの大きなファイルほど、並列分散処理が有効に機能することになり、高スループットを実現できる。   Another feature of this system is that high throughput can be obtained by parallel distributed processing. FIG. 20 is an explanatory diagram of parallel distributed processing in this system. As shown in FIG. 20, for example, when writing to a table, parallel distributed processing of writing processing for each object (table or block) in the list of the table is possible. Further, when reading from the table, parallel distributed processing of reading processing for each object (table or block) in the list of the table is possible. Thus, for example, in any case of writing / reading of one table, in the processing of the table, parallel distributed processing is possible for the number N (for example, 1024) of the list in the table. As a result, in this system, parallel distributed processing functions more effectively for larger files, and high throughput can be realized.

また、本システムは、複製や冗長化の実現の仕方に特徴がある。本システムにおける冗長化の方式は「複数の仮想デバイスに複製を作成する」というものである。つまり、書き込み時には、オブジェクト(テーブルまたはブロック)を複数の仮想デバイスにコピーし、読み込み時には、オブジェクトを上記のいずれかの仮想デバイスから読み出すようにしている。複製を作成する仮想デバイスの選択では、サービステーブルが利用できる。本システムでは、本来、オブジェクトを保存すべき仮想デバイスの「隣の仮想デバイス」が選択される。この場合、冗長度(=多重度=複製の数)に応じて、複数の仮想デバイスが選択される。静的なサービステーブルの場合には、Nで割った余りをもとに「隣の仮想デバイス」を決定する。例えば、「(n÷N)の余り、((n−1)÷N)の余り、((n−2)÷N)の余り、・・・」が、該当の仮想デバイスとして決定される。動的なサービステーブルの場合には、該当の仮想デバイスの一つ前のサーバが、該当の仮想デバイスとし
て決定される。なお、書き込み時の処理は、該当の仮想デバイスすべてに対して同じオブジェクトのデータを書き込む。また、読み出し時の処理は、該当の仮想デバイスに対して順次読み込みを行い、最初にレスポンスが返ってきた時点で、それを読み込みデータとして用いる、または、該当の仮想デバイスに対して並列読み込みを行い、最もレスポンスが早かったものを読み込みデータとして用いる。
In addition, this system is characterized in how to realize duplication and redundancy. The redundancy method in this system is “create a replica in a plurality of virtual devices”. That is, when writing, an object (table or block) is copied to a plurality of virtual devices, and when reading, the object is read from one of the above virtual devices. A service table can be used to select a virtual device for creating a replica. In this system, the “neighboring virtual device” of the virtual device in which the object is to be stored is selected. In this case, a plurality of virtual devices are selected according to redundancy (= multiplicity = number of replicas). In the case of a static service table, the “neighboring virtual device” is determined based on the remainder divided by N. For example, “the remainder of (n ÷ N), the remainder of ((n−1) ÷ N), the remainder of ((n−2) ÷ N),...” Is determined as the corresponding virtual device. In the case of a dynamic service table, the server immediately before the corresponding virtual device is determined as the corresponding virtual device. In the process at the time of writing, data of the same object is written to all the corresponding virtual devices. When reading, the corresponding virtual device is read sequentially, and when the response is returned for the first time, it is used as read data, or the corresponding virtual device is read in parallel. The data with the fastest response is used as read data.

図21は、本システムの特徴の説明図である。図21に示すように、本システムでは、ファイルを多数のブロックとして保存し、並列にアクセスすることで、ストレージ装置の台数に比例したアクセス性能とストレージ容量を実現できる。この場合、クライアント装置(アクセスノードと呼ぶこともできる)は、アクセス性能に応じて台数を増やすことができる。また、ストレージ装置(コアノードと呼ぶこともできる)は、容量に応じてスケーラブルに追加が可能である。つまり、本システムは、高度な分散コンピューティング技術を応用することにより、性能/容量とも台数に比例し、容易に拡張(スケールアウト)が可能であるともいえる。   FIG. 21 is an explanatory diagram of features of the present system. As shown in FIG. 21, in this system, an access performance and a storage capacity proportional to the number of storage apparatuses can be realized by storing files as a large number of blocks and accessing them in parallel. In this case, the number of client devices (also called access nodes) can be increased according to the access performance. In addition, a storage device (also referred to as a core node) can be added in a scalable manner according to the capacity. In other words, this system can be said to be easily expandable (scale-out) by applying advanced distributed computing technology, in which the performance / capacity is proportional to the number of units.

以上、本発明の実施形態について説明したが、上述の実施形態を本発明の範囲内で当業者が種々に変形、応用して実施できることは勿論である。   The embodiment of the present invention has been described above, but it is needless to say that the above-described embodiment can be variously modified and applied by those skilled in the art within the scope of the present invention.

以上のように、本発明にかかるストレージサービス提供装置は、例えば、ストレージサービス等のクラウドサービスに利用することができ、有用である。   As described above, the storage service providing apparatus according to the present invention can be used for cloud services such as a storage service, and is useful.

1 分散型ストレージサービス提供システム(本システム)
2 ユーザ端末
3 クライアント装置(ストレージサービス提供装置)
4 ストレージ装置
5 通信部
6 書き込み・読み出し処理部
7 サービステーブル記憶部
8 通信部
9 ファイル・オブジェクト管理部
10 ファイル・オブジェクト保存部
1 Distributed storage service provision system (this system)
2 User terminal 3 Client device (storage service providing device)
4 Storage Device 5 Communication Unit 6 Write / Read Processing Unit 7 Service Table Storage Unit 8 Communication Unit 9 File / Object Management Unit 10 File / Object Storage Unit

Claims (18)

複数のストレージ装置とネットワークを介して接続され、これらのストレージ装置を利用してファイルのストレージサービスを提供するストレージサービス提供装置であって、
前記ストレージサービスにおいて、前記ファイルは、複数の部分に分割され、分散して複数のストレージ装置に保存され、
前記複数のストレージ装置の各々は、オブジェクトを保存する手段と、前記ストレージサービス提供装置からの要求に応じて、オブジェクト識別情報により識別されるオブジェクトを返送する手段とを備えるものであり、
前記複数のストレージ装置に保存されるオブジェクトには、前記ファイルの各部分のデータを有する各ブロックオブジェクトと、オブジェクト識別情報により識別されるオブジェクトが前記ファイル中のどの部分に対応するものであるかを特定するための情報の各部分となる管理情報を有する各管理情報オブジェクトとがあり、
前記各管理情報オブジェクトは、再帰構造を有する複数の管理情報オブジェクトのうちの一つとすることが可能なものであり、
前記ブロックオブジェクトの数が所定数より多い場合には、前記再帰構造の階層を増加させて、複数の管理情報オブジェクトが生成されるものであり、
前記ストレージサービス提供装置は、
指定されたファイルに対応するオブジェクト識別情報に基づいて、前記複数のストレージ装置のうちの少なくとも一つに対して要求を送信することにより、管理情報オブジェクトを取得する手段と、
取得した管理情報オブジェクトの管理情報により示されるオブジェクト識別情報に基づいて、前記複数のストレージ装置のうちの少なくとも一つに対して要求を送信することにより、管理情報オブジェクト又はブロックオブジェクトを取得する手段と、
取得したブロックオブジェクトのデータを、取得した管理情報オブジェクトの管理情報を参照して対応する部分に配置することにより、前記ファイルを提供可能とする手段と
を備えることを特徴とするストレージサービス提供装置。
A storage service providing device that is connected to a plurality of storage devices via a network and provides a file storage service using these storage devices,
In the storage service, the file is divided into a plurality of parts, distributed and stored in a plurality of storage devices,
Each of the plurality of storage apparatuses includes means for storing an object, and means for returning an object identified by object identification information in response to a request from the storage service providing apparatus.
The objects stored in the plurality of storage devices include each block object having data of each part of the file and which part in the file the object identified by the object identification information corresponds to. Each management information object having management information to be each part of information for specifying,
Each of the management information objects can be one of a plurality of management information objects having a recursive structure,
When the number of block objects is greater than a predetermined number, a plurality of management information objects are generated by increasing the hierarchy of the recursive structure,
The storage service providing device includes:
Means for acquiring a management information object by transmitting a request to at least one of the plurality of storage devices based on object identification information corresponding to a specified file;
Means for acquiring a management information object or block object by transmitting a request to at least one of the plurality of storage devices based on the object identification information indicated by the management information of the acquired management information object; ,
An apparatus for providing a storage service, comprising: means for providing the file by placing the acquired block object data in a corresponding portion with reference to the management information of the acquired management information object.
前記複数のストレージ装置の各々は、保存すべきオブジェクトとして、前記ストレージサービス提供装置から、オブジェクト識別情報により識別されるオブジェクトを受信する手段をさらに備えるものであり、
前記ストレージサービス提供装置は、
指定されたファイルを分割し、各データを前記ブロックオブジェクトとして、各ブロックオブジェクトにオブジェクト識別情報を付与する手段と、
前記各ブロックオブジェクトについての管理情報を作成し、該情報を前記管理情報オブジェクトとして、各管理情報オブジェクトにオブジェクト識別情報を付与する手段と、
オブジェクト識別情報に基づいて前記複数のストレージ装置のうちの少なくとも一つを特定する手段と、
前記各ブロックオブジェクト及び前記各管理情報オブジェクトを、それぞれのオブジェクト識別情報に基づいて特定されるそれぞれのストレージ装置へ送信して保存させる手段とをさらに備える、請求項1に記載のストレージサービス提供装置。
Each of the plurality of storage apparatuses further comprises means for receiving an object identified by object identification information from the storage service providing apparatus as an object to be stored,
The storage service providing device includes:
Means for dividing the specified file, each data as the block object, and giving object identification information to each block object;
Means for creating management information for each block object, assigning the object identification information to each management information object, using the information as the management information object;
Means for identifying at least one of the plurality of storage devices based on object identification information;
The storage service providing apparatus according to claim 1, further comprising means for transmitting and storing each block object and each management information object to each storage apparatus specified based on each object identification information.
前記ストレージサービス提供装置が前記要求を送信するストレージ装置は、取得対象のオブジェクトのオブジェクト識別情報に基づいて特定されるものであり、
あるファイルに対応する管理情報オブジェクトと、別のファイルに対応する管理情報オブジェクトとが、前記複数のストレージ装置のうちの別々のストレージ装置に保存されるように、前記オブジェクト識別情報が付与されるものである、請求項1〜2のいずれかに
記載のストレージサービス提供装置。
The storage device to which the storage service providing device transmits the request is specified based on the object identification information of the object to be acquired,
The object identification information is given so that a management information object corresponding to a certain file and a management information object corresponding to another file are stored in different storage devices of the plurality of storage devices. The storage service providing apparatus according to claim 1, wherein
前記管理情報オブジェクトには、
前記ファイル内のある領域におけるそれぞれ別の部分のデータを有する複数のブロックオブジェクトのオブジェクト識別情報と、各ブロックオブジェクトのデータが前記ある領域中のどの部分に並ぶべきかを示す領域内オフセット情報とを含む第1の管理情報オブジェクトと、
前記第1の管理情報オブジェクトのオブジェクト識別情報と、該第1の管理情報オブジェクトが情報を有する前記ある領域が前記ファイル内でどこに位置するものかを示すファイル内オフセット情報とを含む第2の管理情報オブジェクトとがある、請求項1〜3のいずれかに記載のストレージサービス提供装置。
The management information object includes
Object identification information of a plurality of block objects having data of different parts in a certain area in the file, and intra-area offset information indicating in which part of the certain area the data of each block object should be arranged A first management information object containing;
Second management including object identification information of the first management information object and offset information in the file indicating where in the file the certain area having the information of the first management information object is located The storage service providing apparatus according to claim 1, wherein there is an information object.
前記管理情報オブジェクトは、複数のオブジェクト識別情報を含み、
前記複数のオブジェクト識別情報のうちある一つに基づいて特定されるストレージ装置に対して、該ある一つのオブジェクトの保存又は取得を要求する処理と、前記複数のオブジェクト識別情報のうち別の一つに基づいて特定されるストレージ装置に対して、該別の一つのオブジェクトの保存又は取得を要求する処理とを、並行して行う、請求項1〜のいずれかに記載のストレージサービス提供装置。
The management information object includes a plurality of object identification information,
Processing for requesting storage or acquisition of the one object to a storage device specified based on one of the plurality of object identification information, and another one of the plurality of object identification information in the storage device specified based, and a process of requesting a stored or acquisition of one object the another, performed in parallel, the storage service providing apparatus according to any one of claims 1-4.
保存されているファイルのデータの一部を更新する場合、データが書き換わるブロックオブジェクトに新たなオブジェクト識別情報を付与し、当該ブロックオブジェクトについての前記管理情報を含む管理情報オブジェクトにも新たなオブジェクト識別情報を付与し、前記管理情報オブジェクトの新たなオブジェクト識別情報が前記ファイルに対応するオブジェクト識別情報として求められるように設定することにより、同一のオブジェクト識別情報を有するオブジェクトの内容を不変とする管理を行うものである、請求項1〜のいずれかに記載のストレージサービス提供装置。 When updating a part of stored file data, new object identification information is given to a block object to which data is rewritten, and a new object identification is also made to the management information object including the management information for the block object. Management to make the contents of the objects having the same object identification information unchanged by setting information so that new object identification information of the management information object is obtained as object identification information corresponding to the file is performed, the storage service providing apparatus according to any one of claims 1-5. 前記ストレージサービス提供装置が前記要求を送信するストレージ装置は、取得対象のオブジェクトのオブジェクト識別情報に基づいて特定されるものであり、
前記オブジェクト識別情報に基づいて、前記複数のストレージ装置のうちの二つ以上を特定することが可能であり、
前記各ブロックオブジェクト及び前記管理情報オブジェクトは、複製されて、それぞれのオブジェクト識別情報に基づいて特定されるそれぞれの前記二つ以上のストレージ装置に保存されるものである、請求項1〜のいずれかに記載のストレージサービス提供装置。
The storage device to which the storage service providing device transmits the request is specified based on the object identification information of the object to be acquired,
Based on the object identification information, it is possible to specify two or more of the plurality of storage devices,
Each block object and the management information objects are replicated, in which are stored in each of the two or more storage apparatus specified based on the respective object identification information, any claim 1-6 The storage service providing device according to claim 1.
保存されているファイルに対し部分的にデータを書き込む場合、書き込み対象のデータが前記ファイル中のどの部分に並ぶべきものかが指定され、
前記ファイルに属する全てのブロックオブジェクト及び管理情報オブジェクトのうち前記指定された部分に関係するものを選択して又は新たにオブジェクトを生成して、この選択又は新たに生成された各オブジェクトのオブジェクト識別情報に基づいてそれぞれ特定されるストレージ装置に要求を送信し、残りのオブジェクトについてはストレージ装置へのアクセスを行わない、請求項1〜のいずれかに記載のストレージサービス提供装置。
When partially writing data to a saved file, it is specified in which part of the file the data to be written should be arranged,
Of all the block objects and management information objects belonging to the file, those related to the designated portion are selected or a new object is generated, and the object identification information of each selected or newly generated object The storage service providing apparatus according to any one of claims 1 to 7 , wherein the storage service providing apparatus transmits a request to each storage apparatus specified on the basis of the data and does not access the storage apparatus for the remaining objects.
保存されているファイルからデータを部分的に読み出す場合、読み出し対象のデータが前記ファイル中のどの部分に並んでいるものかが指定され、
前記ファイルに属する全てのブロックオブジェクト及び管理情報オブジェクトのうち前記指定された部分に関係するものを選択して、この選択された各オブジェクトのオブジェクト識別情報に基づいてそれぞれ特定されるストレージ装置に要求を送信し、残りのオブジェクトについてはストレージ装置へのアクセスを行わない、請求項1〜のいずれかに記載のストレージサービス提供装置。
When partially reading data from a saved file, it is specified in which part of the file the data to be read is aligned,
Select all block objects and management information objects belonging to the file that are related to the specified part, and request each storage device identified based on the object identification information of each selected object. The storage service providing apparatus according to any one of claims 1 to 8 , wherein the storage service is transmitted and the remaining objects are not accessed to the storage apparatus.
指定されたファイルに対応するオブジェクト識別情報が付与された管理情報オブジェクトは、該ファイルの全体の長さの情報と、該長さを有する前記ファイル内のどの部分にどのオブジェクト識別情報が付与されたオブジェクトが対応するかを示す情報とを含み、
前記オブジェクト識別情報が付与されたオブジェクトが再び管理情報オブジェクトである場合には、当該管理情報オブジェクトは、当該オブジェクトが前記ファイル内で占める領域の長さの情報と、該長さを有する前記領域中のどの部分にどのオブジェクト識別情報が付与されたオブジェクトが対応するかを示す情報とを含み、
前記オブジェクト識別情報が付与されたオブジェクトがブロックオブジェクトである場合には、当該ブロックオブジェクトは、前記ファイルを構成するデータと、該データの長さの情報とを有する、請求項1〜のいずれかに記載のストレージサービス提供装置。
The management information object to which the object identification information corresponding to the specified file is assigned is the information on the entire length of the file and which object identification information is assigned to which part of the file having the length. Information indicating whether the object corresponds,
When the object to which the object identification information is given is a management information object again, the management information object includes information on the length of the area occupied by the object in the file and the area having the length. Information indicating which object identification information corresponds to which part of the
If the object the object identification information is given is a block objects, the block object has data constituting the file, and information of the length of the data, any one of claims 1-9 The storage service providing device according to 1.
保存されているファイルのデータの一部を更新する場合、前記ファイルに属するブロックオブジェクト及び管理情報オブジェクトのうち、データが書き換わるブロックオブジェクト及び当該ブロックオブジェクトのオブジェクト識別情報を含む管理情報オブジェクトを、各オブジェクトを保存しているストレージ装置から取得し、取得された各オブジェクトの内容のうち、前記データの書き換えによって変更されない部分はそのまま残し、変更される部分にデータを書き込むことにより、新たな各オブジェクトを生成し、該新たな各オブジェクトのオブジェクト識別情報に基づいて特定されるストレージ装置に保存させる、請求項1〜10のいずれかに記載のストレージサービス提供装置。 When updating a part of the data of the stored file, among the block objects and management information objects belonging to the file, each of the management information object including the block object whose data is rewritten and the object identification information of the block object The content of each object acquired from the storage device that stores the object is left as it is without being changed by rewriting the data. The storage service providing device according to any one of claims 1 to 10 , wherein the storage service providing device is generated and stored in a storage device specified based on object identification information of each new object. 前記複数のストレージ装置のそれぞれに該装置の担当する値の範囲を割り振り、前記オブジェクト識別情報の値に対して所定の計算を行った結果と各装置の担当する値の範囲とを比較することにより、前記複数のストレージ装置のうちの少なくとも一つが特定されるものである、請求項1〜11のいずれかに記載のストレージサービス提供装置。 By assigning a range of values for which the device is responsible to each of the plurality of storage devices, and comparing the result of performing a predetermined calculation on the value of the object identification information with the range of values for which each device is responsible The storage service providing device according to any one of claims 1 to 11 , wherein at least one of the plurality of storage devices is specified. クライアント装置及び該クライアント装置にネットワークを介して接続された複数のストレージ装置を備え、該クライアント装置がユーザに対してファイルのストレージサービスを提供するシステムであって、
前記ストレージサービスにおいて、前記ファイルは、複数の部分に分割され、分散して複数のストレージ装置に保存され、
前記複数のストレージ装置の各々は、
オブジェクトを保存する手段と、
前記クライアント装置からの要求に応じて、オブジェクト識別情報により識別されるオブジェクトを返送する手段とを備え、
前記複数のストレージ装置に保存されるオブジェクトには、前記ファイルの各部分のデータを有する各ブロックオブジェクトと、オブジェクト識別情報により識別されるオブジェクトが前記ファイル中のどの部分に対応するものであるかを特定するための情報の各部分となる管理情報を有する各管理情報オブジェクトとがあり、
前記各管理情報オブジェクトは、再帰構造を有する複数の管理情報オブジェクトのうちの一つとすることが可能なものであり、
前記ブロックオブジェクトの数が所定数より多い場合には、前記再帰構造の階層を増加させて、複数の管理情報オブジェクトが生成されるものであり、
前記クライアント装置は、
指定されたファイルに対応するオブジェクト識別情報に基づいて、前記複数のストレージ装置のうちの少なくとも一つに対して要求を送信することにより、管理情報オブジェクトを取得する手段と、
取得した管理情報オブジェクトの管理情報により示されるオブジェクト識別情報に基づいて、前記複数のストレージ装置のうちの少なくとも一つに対して要求を送信することにより、管理情報オブジェクト又はブロックオブジェクトを取得する手段と、
取得したブロックオブジェクトのデータを、取得した管理情報オブジェクトの管理情報を参照して対応する部分に配置することにより、前記ファイルを提供可能とする手段とを備えることを特徴とするシステム。
A system comprising a client device and a plurality of storage devices connected to the client device via a network, wherein the client device provides a file storage service to a user,
In the storage service, the file is divided into a plurality of parts, distributed and stored in a plurality of storage devices,
Each of the plurality of storage devices is
Means for storing the object;
Means for returning an object identified by object identification information in response to a request from the client device;
The objects stored in the plurality of storage devices include each block object having data of each part of the file and which part in the file the object identified by the object identification information corresponds to. Each management information object having management information to be each part of information for specifying,
Each of the management information objects can be one of a plurality of management information objects having a recursive structure,
When the number of block objects is greater than a predetermined number, a plurality of management information objects are generated by increasing the hierarchy of the recursive structure,
The client device is
Means for acquiring a management information object by transmitting a request to at least one of the plurality of storage devices based on object identification information corresponding to a specified file;
Means for acquiring a management information object or block object by transmitting a request to at least one of the plurality of storage devices based on the object identification information indicated by the management information of the acquired management information object; ,
And a means for providing the file by placing the acquired block object data in a corresponding portion with reference to the management information of the acquired management information object.
前記システムが、複数の前記クライアント装置を備え、
前記管理情報オブジェクトは、複数のオブジェクト識別情報を含み、
前記複数のクライアント装置のそれぞれは、
前記指定されたファイルに対応する先頭オブジェクト識別情報を求めることができるように設定され、
前記先頭オブジェクト識別情報に基づいて前記管理情報オブジェクトの取得を要求する処理及び前記複数のオブジェクト識別情報に基づいて各オブジェクトの取得を要求する処理を、他のクライアント装置から独立して行う、請求項13に記載のシステム。
The system includes a plurality of the client devices,
The management information object includes a plurality of object identification information,
Each of the plurality of client devices is
It is set so that head object identification information corresponding to the specified file can be obtained,
The process for requesting acquisition of the management information object based on the head object identification information and the process for requesting acquisition of each object based on the plurality of object identification information are performed independently of other client devices. 13. The system according to 13 .
複数のストレージ装置とネットワークを介して接続されたコンピュータにより、これらのストレージ装置を利用してファイルのストレージサービスを提供する方法であって、
前記ストレージサービスにおいて、前記ファイルは、複数の部分に分割され、分散して複数のストレージ装置に保存され、
前記複数のストレージ装置の各々は、オブジェクト識別情報により識別されるオブジェクトを受信して保存する手段と、オブジェクト識別情報により識別されるオブジェクトを要求に応じて返送する手段とを備えるものであり、
前記複数のストレージ装置に保存されるオブジェクトには、前記ファイルの各部分のデータを有する各ブロックオブジェクトと、オブジェクト識別情報により識別されるオブジェクトが前記ファイル中のどの部分に対応するものであるかを特定するための情報の各部分となる管理情報を有する各管理情報オブジェクトとがあり、
前記方法は、
書き込むべきファイルを分割し、各データを前記ブロックオブジェクトとして、各ブロックオブジェクトにオブジェクト識別情報を付与し、
前記各ブロックオブジェクトについての管理情報を作成し、該情報を前記管理情報オブジェクトとして、各管理情報オブジェクトにオブジェクト識別情報を付与し、
前記各管理情報オブジェクトは、再帰構造を有する複数の管理情報オブジェクトのうちの一つとすることが可能なものであり、
前記ブロックオブジェクトの数が所定数より多い場合には、前記再帰構造の階層を増加させて、複数の管理情報オブジェクトが生成されるものであり、
前記各ブロックオブジェクト及び前記各管理情報オブジェクトを、前記複数のストレージ装置のうち、それぞれのオブジェクト識別情報に基づいて特定されるそれぞれのストレージ装置へ、送信して保存させることを特徴とするサービス提供方法。
A method of providing a file storage service using a computer connected to a plurality of storage devices via a network, using these storage devices,
In the storage service, the file is divided into a plurality of parts, distributed and stored in a plurality of storage devices,
Each of the plurality of storage devices includes means for receiving and storing the object identified by the object identification information, and means for returning the object identified by the object identification information in response to a request,
The objects stored in the plurality of storage devices include each block object having data of each part of the file and which part in the file the object identified by the object identification information corresponds to. Each management information object having management information to be each part of information for specifying,
The method
Divide the file to be written, each data as the block object, giving object identification information to each block object,
Create management information for each block object, use the information as the management information object, give object identification information to each management information object,
Each of the management information objects can be one of a plurality of management information objects having a recursive structure,
When the number of block objects is greater than a predetermined number, a plurality of management information objects are generated by increasing the hierarchy of the recursive structure,
The service providing method of transmitting and storing each block object and each management information object to each storage device specified based on each object identification information among the plurality of storage devices .
複数のストレージ装置とネットワークを介して接続されたコンピュータにより、これらのストレージ装置を利用してファイルのストレージサービスを提供する方法であって、
前記ストレージサービスにおいて、前記ファイルは、複数の部分に分割され、分散して複数のストレージ装置に保存され、
前記複数のストレージ装置の各々は、オブジェクトを保存する手段と、オブジェクト識別情報により識別されるオブジェクトを要求に応じて返送する手段とを備えるものであり、
前記複数のストレージ装置に保存されるオブジェクトには、前記ファイルの各部分のデータを有する各ブロックオブジェクトと、オブジェクト識別情報により識別されるオブジェクトが前記ファイル中のどの部分に対応するものであるかを特定するための情報の各部分となる管理情報を有する各管理情報オブジェクトとがあり、
前記各管理情報オブジェクトは、再帰構造を有する複数の管理情報オブジェクトのうちの一つとすることが可能なものであり、
前記ブロックオブジェクトの数が所定数より多い場合には、前記再帰構造の階層を増加させて、複数の管理情報オブジェクトが生成されるものであり、
前記方法は、
読み出すべきファイルに対応するオブジェクト識別情報に基づいて、前記複数のストレージ装置のうちの少なくとも一つに対して要求を送信することにより、管理情報オブジェ
クトを取得し、
取得した管理情報オブジェクトの管理情報により示されるオブジェクト識別情報に基づいて、前記複数のストレージ装置のうちの少なくとも一つに対して要求を送信することにより、管理情報オブジェクト又はブロックオブジェクトを取得し、
取得したブロックオブジェクトのデータを、取得した管理情報オブジェクトの管理情報を参照して対応する部分に配置することにより、前記ファイルを取得することを特徴とするサービス提供方法。
A method of providing a file storage service using a computer connected to a plurality of storage devices via a network, using these storage devices,
In the storage service, the file is divided into a plurality of parts, distributed and stored in a plurality of storage devices,
Each of the plurality of storage devices includes means for storing an object, and means for returning an object identified by the object identification information in response to a request,
The objects stored in the plurality of storage devices include each block object having data of each part of the file and which part in the file the object identified by the object identification information corresponds to. Each management information object having management information to be each part of information for specifying,
Each of the management information objects can be one of a plurality of management information objects having a recursive structure,
When the number of block objects is greater than a predetermined number, a plurality of management information objects are generated by increasing the hierarchy of the recursive structure,
The method
A management information object is acquired by sending a request to at least one of the plurality of storage devices based on object identification information corresponding to a file to be read,
Based on the object identification information indicated by the management information of the acquired management information object, a management information object or a block object is acquired by sending a request to at least one of the plurality of storage devices,
A service providing method for acquiring the file by placing the acquired block object data in a corresponding portion with reference to the management information of the acquired management information object.
複数のストレージ装置とネットワークを介して接続されたコンピュータを、これらのストレージ装置を利用してファイルのストレージサービスを提供する装置として動作させるためのプログラムであって、
前記ストレージサービスにおいて、前記ファイルは、複数の部分に分割され、分散して複数のストレージ装置に保存され、
前記複数のストレージ装置の各々は、オブジェクト識別情報により識別されるオブジェクトを受信して保存する手段と、オブジェクト識別情報により識別されるオブジェクトを要求に応じて返送する手段とを備えるものであり、
前記複数のストレージ装置に保存されるオブジェクトには、前記ファイルの各部分のデータを有する各ブロックオブジェクトと、オブジェクト識別情報により識別されるオブジェクトが前記ファイル中のどの部分に対応するものであるかを特定するための情報の各部分となる管理情報を有する各管理情報オブジェクトとがあり、
前記プログラムは、
書き込むべきファイルを分割し、各データを前記ブロックオブジェクトとして、各ブロックオブジェクトにオブジェクト識別情報を付与するためのプログラムコードと、
前記各ブロックオブジェクトについての管理情報を作成し、該情報を前記管理情報オブジェクトとして、各管理情報オブジェクトにオブジェクト識別情報を付与するためのプログラムコードと、
前記各ブロックオブジェクト及び前記各管理情報オブジェクトを、前記複数のストレージ装置のうち、それぞれのオブジェクト識別情報に基づいて特定されるそれぞれのストレージ装置へ、送信して保存させるためのプログラムコードとを備え
前記各管理情報オブジェクトは、再帰構造を有する複数の管理情報オブジェクトのうちの一つとすることが可能なものであり、
前記ブロックオブジェクトの数が所定数より多い場合には、前記再帰構造の階層を増加させて、複数の管理情報オブジェクトが生成されるものであることを特徴とするサービス提供プログラム。
A program for operating a computer connected to a plurality of storage devices via a network as a device for providing a file storage service using these storage devices,
In the storage service, the file is divided into a plurality of parts, distributed and stored in a plurality of storage devices,
Each of the plurality of storage devices includes means for receiving and storing the object identified by the object identification information, and means for returning the object identified by the object identification information in response to a request,
The objects stored in the plurality of storage devices include each block object having data of each part of the file and which part in the file the object identified by the object identification information corresponds to. Each management information object having management information to be each part of information for specifying,
The program is
A program code for dividing a file to be written, each data as the block object, and giving object identification information to each block object;
Creating management information for each block object, using the information as the management information object, a program code for giving object identification information to each management information object;
Program code for transmitting and storing each block object and each management information object to each storage device specified based on each object identification information among the plurality of storage devices ,
Each of the management information objects can be one of a plurality of management information objects having a recursive structure,
Wherein when the number of block objects is larger than the predetermined number, the increase the hierarchy of recursive structure, service providing program characterized der Rukoto a plurality of management information object is generated.
複数のストレージ装置とネットワークを介して接続されたコンピュータを、これらのストレージ装置を利用してファイルのストレージサービスを提供する装置として動作させるためのプログラムであって、
前記ストレージサービスにおいて、前記ファイルは、複数の部分に分割され、分散して複数のストレージ装置に保存され、
前記複数のストレージ装置の各々は、オブジェクトを保存する手段と、オブジェクト識別情報により識別されるオブジェクトを要求に応じて返送する手段とを備えるものであり、
前記複数のストレージ装置に保存されるオブジェクトには、前記ファイルの各部分のデータを有する各ブロックオブジェクトと、オブジェクト識別情報により識別されるオブジェクトが前記ファイル中のどの部分に対応するものであるかを特定するための情報の各部分となる管理情報を有する各管理情報オブジェクトとがあり、
前記各管理情報オブジェクトは、再帰構造を有する複数の管理情報オブジェクトのうちの一つとすることが可能なものであり、
前記ブロックオブジェクトの数が所定数より多い場合には、前記再帰構造の階層を増加させて、複数の管理情報オブジェクトが生成されるものであり、
前記プログラムは、
読み出すべきファイルに対応するオブジェクト識別情報に基づいて、前記複数のストレージ装置のうちの少なくとも一つに対して要求を送信することにより、管理情報オブジェクトを取得するためのプログラムコードと、
取得した管理情報オブジェクトの管理情報により示されるオブジェクト識別情報に基づいて、前記複数のストレージ装置のうちの少なくとも一つに対して要求を送信することにより、管理情報オブジェクト又はブロックオブジェクトを取得するためのプログラムコー
ドと、
取得したブロックオブジェクトのデータを、取得した管理情報オブジェクトの管理情報を参照して対応する部分に配置することにより、前記ファイルを取得するためのプログラムコードと
を備えることを特徴とするサービス提供プログラム。
A program for operating a computer connected to a plurality of storage devices via a network as a device for providing a file storage service using these storage devices,
In the storage service, the file is divided into a plurality of parts, distributed and stored in a plurality of storage devices,
Each of the plurality of storage devices includes means for storing an object, and means for returning an object identified by the object identification information in response to a request,
The objects stored in the plurality of storage devices include each block object having data of each part of the file and which part in the file the object identified by the object identification information corresponds to. Each management information object having management information to be each part of information for specifying,
Each of the management information objects can be one of a plurality of management information objects having a recursive structure,
When the number of block objects is greater than a predetermined number, a plurality of management information objects are generated by increasing the hierarchy of the recursive structure,
The program is
A program code for acquiring a management information object by transmitting a request to at least one of the plurality of storage devices based on object identification information corresponding to a file to be read;
For acquiring a management information object or a block object by transmitting a request to at least one of the plurality of storage devices based on the object identification information indicated by the management information of the acquired management information object Program code,
A service providing program comprising: program code for acquiring the file by placing the acquired block object data in a corresponding portion with reference to the management information of the acquired management information object.
JP2015130494A 2015-06-29 2015-06-29 Storage service providing apparatus, system, service providing method, and service providing program Active JP6033370B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015130494A JP6033370B2 (en) 2015-06-29 2015-06-29 Storage service providing apparatus, system, service providing method, and service providing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015130494A JP6033370B2 (en) 2015-06-29 2015-06-29 Storage service providing apparatus, system, service providing method, and service providing program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2010237828A Division JP5822452B2 (en) 2010-10-22 2010-10-22 Storage service providing apparatus, system, service providing method, and service providing program

Publications (2)

Publication Number Publication Date
JP2015207305A JP2015207305A (en) 2015-11-19
JP6033370B2 true JP6033370B2 (en) 2016-11-30

Family

ID=54604011

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015130494A Active JP6033370B2 (en) 2015-06-29 2015-06-29 Storage service providing apparatus, system, service providing method, and service providing program

Country Status (1)

Country Link
JP (1) JP6033370B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7061635B2 (en) * 2020-03-10 2022-04-28 株式会社日立製作所 Computer system, file storage, and data transfer method

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3817339B2 (en) * 1997-06-26 2006-09-06 株式会社日立製作所 File input / output control method
JP4043800B2 (en) * 2002-02-19 2008-02-06 大日本印刷株式会社 Video archiving device and multimedia archiving device

Also Published As

Publication number Publication date
JP2015207305A (en) 2015-11-19

Similar Documents

Publication Publication Date Title
JP5822452B2 (en) Storage service providing apparatus, system, service providing method, and service providing program
US11200332B2 (en) Passive distribution of encryption keys for distributed data stores
US11520670B2 (en) Method and apparatus for restoring data from snapshots
US10846411B2 (en) Distributed database systems and methods with encrypted storage engines
JP6479020B2 (en) Hierarchical chunking of objects in a distributed storage system
JP5236129B2 (en) Storage service providing apparatus, system, service providing method, and service providing program
CN105678189B (en) Data file encryption storage and retrieval system and method
US8200788B2 (en) Slice server method and apparatus of dispersed digital storage vaults
US9305069B2 (en) Method and system for uploading data into a distributed storage system
CN110636141B (en) Multi-cloud storage system based on cloud and mist cooperation and management method thereof
Li et al. Write-only oblivious RAM-based privacy-preserved access of outsourced data
Deibe et al. Big data storage technologies: a case study for web-based LiDAR visualization
CN110633261A (en) Picture storage method, picture query method and device
JP5174255B2 (en) Storage service providing apparatus, system, service providing method, and service providing program
JP6033370B2 (en) Storage service providing apparatus, system, service providing method, and service providing program
Yatskiv et al. Protected Distributed Data Storage Based on Residue Number System and Cloud Services
Zhang et al. A study of the use of idas in cloud storage
Darcy et al. BUILDING A CLOUD FILESYSTEM
Amaechi et al. Data Storage Management in Cloud Computing Using Deduplication Technique
Mallikarjuna et al. Cloud storage for data sharing: infrastructure as service (IaaS) in cloud environment
US20240005017A1 (en) Fencing off cluster services based on access keys for shared storage
US20240004712A1 (en) Fencing off cluster services based on shared storage access keys
Ruan et al. Design and implementation of ZTE object storage system
NAGOTIA et al. Big File Cloud Based On Amazon Cloud Storage with Key-Value Store
Mane et al. Privacy Preserving and Storage Optimization on Cloud

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160510

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160927

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161025

R150 Certificate of patent or registration of utility model

Ref document number: 6033370

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250