JP2008152531A - Distributed data storage system, program, transfer client, transfer server, home server, and on-vehicle server - Google Patents
Distributed data storage system, program, transfer client, transfer server, home server, and on-vehicle server Download PDFInfo
- Publication number
- JP2008152531A JP2008152531A JP2006339750A JP2006339750A JP2008152531A JP 2008152531 A JP2008152531 A JP 2008152531A JP 2006339750 A JP2006339750 A JP 2006339750A JP 2006339750 A JP2006339750 A JP 2006339750A JP 2008152531 A JP2008152531 A JP 2008152531A
- Authority
- JP
- Japan
- Prior art keywords
- data
- storage system
- migration
- data storage
- primary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
Description
本発明は、分散データストレージシステム、プログラム、移行クライアント、移行サーバ、ホームサーバ、及び車載サーバに関する。 The present invention relates to a distributed data storage system, a program, a migration client, a migration server, a home server, and an in-vehicle server.
ネットワーク等を介して分散配置された複数のデータストレージ間で、データ移行をすることのできる分散データストレージシステムが知られる。分散データストレージシステムでは、一般に、あるデータストレージシステムに格納しているデータを、別のデータストレージシステムへ移し換えるためのデータ移行機能を持つ。データ移行機能の一例は、データストレージシステムのデータエキスポート手段とデータインポート手段とを組み合わせて実現される。まず、データエキスポート手段により、格納しているデータを、全てファイルシステムなどへ出力する。次に、エキスポート結果のデータファイルを、ネットワークやCD−R、テープデバイスなどの記憶媒体を介して、データ移行先のデータストレージシステムへ移動させる。そして、データインポート手段により、移行先のデータストレージシステムに読み込ませることで、データ移行が完了する。 2. Description of the Related Art A distributed data storage system that can perform data migration between a plurality of data storages distributed and arranged via a network or the like is known. A distributed data storage system generally has a data migration function for transferring data stored in one data storage system to another data storage system. An example of the data migration function is realized by combining the data export unit and the data import unit of the data storage system. First, all stored data is output to a file system or the like by the data export means. Next, the data file of the export result is moved to the data migration destination data storage system via a storage medium such as a network, CD-R, or tape device. Then, data migration is completed by causing the data import means to read the data storage system at the migration destination.
一方、近年、センサネットワークと呼ばれる技術が実用化されつつあり、家電管理、車載機器制御のような領域で活用されつつある。このようなセンサネットワークにおいては、収集されるセンサデータは、いくつかのセンサ機器を取り纏めるフロントサーバ(例えば、ホームサーバや車載サーバ。)の1次ストレージに蓄積される。しかしながら、多くの場合、この1次ストレージの容量はそれほど大きくは無い。そこで、1次ストレージに、一定量のセンサデータが蓄積された段階で、ネットワークを介して接続される上位のセンタサーバにおける2次ストレージへ、センサデータを移行する。このようなセンサネットワークに関して、そのストレージ間のデータ移行に関する研究論文として、田中他「大規模な街角センサネットワークにおけるデータ収集・管理システムの設計」情報処理学会論文誌:データベースNo.SIG5(TOD 25)2005年3月(非特許文献1参照)が存在する。 On the other hand, in recent years, a technique called a sensor network is being put into practical use and is being used in areas such as home appliance management and in-vehicle device control. In such a sensor network, collected sensor data is accumulated in a primary storage of a front server (for example, a home server or an in-vehicle server) that collects several sensor devices. However, in many cases, the capacity of the primary storage is not so large. Therefore, when a certain amount of sensor data is accumulated in the primary storage, the sensor data is migrated to the secondary storage in the upper center server connected via the network. Regarding such sensor networks, Tanaka et al. “Design of data collection and management systems in large-scale street corner sensor networks”, Transactions of Information Processing Society of Japan: Database No. SIG5 (TOD 25) March 2005 (see Non-Patent Document 1) exists.
非特許文献1に記載されたセンサネットワークにおけるセンサデータの移行処理に関する問題点は、常に全てのセンサデータを移行することを前提としており、重要なデータも、そうでは無いデータも、画一的に移行処理を行なう点である。よって、データ移行を確実に行うために必要となる計算機、ネットワーク資源は、非常に大きくなりがちである。しかしながら、センサデータの用途を鑑みると、センサデータには、重要であり確実に移行が必要なセンサデータや、それほど重要で無く、移行できるのであれば移行しても良いデータなどが混在している。従来のセンサネットワークでは、さまざまなセンサデータに対して、画一的な信頼度でデータ移行を行うので、資源活用の観点からは無駄が多いと言える。 The problem related to the sensor data migration processing in the sensor network described in Non-Patent Document 1 is based on the premise that all sensor data is always migrated. This is the point of performing the migration process. Therefore, the computer and network resources necessary for reliably performing data migration tend to be very large. However, considering the application of sensor data, sensor data includes sensor data that is important and needs to be migrated, and data that is not so important and that can be migrated if it can be migrated. . In the conventional sensor network, data migration is performed with uniform reliability for various sensor data, so it can be said that there is a lot of waste from the viewpoint of resource utilization.
分散データストレージシステムに関するその他の公知文献としては、特開2003−140836号公報(特許文献1参照)、特開2005−165485号公報(特許文献2参照)、特開2006−085208号公報(特許文献3参照)が知られる。 Other known documents related to the distributed data storage system include Japanese Patent Application Laid-Open No. 2003-140836 (see Patent Document 1), Japanese Patent Application Laid-Open No. 2005-165485 (see Patent Document 2), Japanese Patent Application Laid-Open No. 2006-085208 (Patent Document). 3) is known.
特許文献1のストレージシステムの管理方法の発明においては、第1の情報ネットワークには、複数のストレージサブシステムが接続される。少なくとも一つの第1の情報処理装置は、前記第1の情報ネットワークと、前記ストレージサブシステムの記憶領域を利用する第3の情報処理装置が接続された第2の情報ネットワークとの間に介在する。第2の情報処理装置は、前記第1の情報ネットワークに接続され、前記複数のストレージサブシステムを管理する。前記第1および第2の情報処理装置の少なくとも一方は、前記複数のストレージサブシステムのベンダー情報(製造元情報)および使用状況情報を取得する。前記ベンダー情報(製造元情報)および使用状況情報に基づいて、個々の前記ストレージサブシステム内の記憶領域間、および複数の前記ストレージサブシステムの各々の前記記憶領域間におけるデータ移動を行う。 In the invention of the storage system management method of Patent Document 1, a plurality of storage subsystems are connected to the first information network. At least one first information processing apparatus is interposed between the first information network and a second information network to which a third information processing apparatus that uses a storage area of the storage subsystem is connected. . The second information processing apparatus is connected to the first information network and manages the plurality of storage subsystems. At least one of the first and second information processing apparatuses acquires vendor information (manufacturer information) and usage status information of the plurality of storage subsystems. Based on the vendor information (manufacturer information) and usage status information, data movement is performed between storage areas in each of the storage subsystems and between the storage areas of each of the plurality of storage subsystems.
特許文献2のファイル管理装置の発明においては、物理的特性を異にする複数種類のストレージメディアを組み合わせて構築したストレージシステムを管理する。移動管理部は、使用中のデータを、信頼性が高く、高速アクセス可能な1次ストレージから移動させる必要がある場合、前記データを、高速アクセスが可能で、コストパフォーマンスに優れる2次ストレージと、信頼性が高く、大容量の保管用ストレージとの双方に同時に移動させる。明細書の段落0022で言及している「アクセス速度が遅い」、「高速アクセス」の記述は、データ格納の2重化によって、格納したデータを再利用する際の高速アクセスの担保についての言及である。また、段落0023での「信頼性が高く」の記述は、明細書全体の記述から判断して、格納後にデータ消失の可能性が低い、ということを指していると考えられる。すなわち、特許文献2は、データ移行先のストレージの選択方式についての発明である。これによって得られる効果は、データ格納(移行)後のアクセス効率の向上にあると考えられる。 In the invention of the file management apparatus of Patent Document 2, a storage system constructed by combining a plurality of types of storage media having different physical characteristics is managed. When the movement management unit needs to move the data in use from the primary storage that is reliable and can be accessed at high speed, the data can be accessed at high speed, and the secondary storage that is excellent in cost performance; Move to both high-reliability and large-capacity storage at the same time. The descriptions of “low access speed” and “high speed access” referred to in paragraph 0022 of the specification are references to guaranteeing high speed access when reusing stored data by duplicating data storage. is there. In addition, the description of “high reliability” in paragraph 0023 is considered to indicate that the possibility of data loss after storage is low as judged from the description of the entire specification. That is, Patent Document 2 is an invention relating to a method of selecting a data migration destination storage. The effect obtained by this is considered to be the improvement of access efficiency after data storage (migration).
特許文献3の情報ライフサイクル管理システムの発明においては、A.複合ストレージ装置は、ビット単価や特性の異なる複数のデータ配置領域を有する。B.データ配置管理システムは、管理対象データ(データアイテム)の前記データ配置領域への配置設定の管理を行なう。C.応用システムは、前記管理対象データを利用してサービスの提供を行なう。前記応用システムにおいては、C−1:運用目標条件設定手段は、前記サービスが満たすべき運用目標条件を設定するためのものである。C−2:データ配置関連情報交換手段は、前記データ配置管理システムにおけるデータ配置決定に利用される情報を前記データ配置管理システムとの間で交換するためのものである。特許文献3は、格納したデータに対するアクセス頻度に応じて、データ格納対象となるストレージを変更する技術である。つまり、期待できる効果としては、特許文献2と同様、データ格納後の効率的なアクセス、及びストレージ利用であると考えられる。 In the invention of the information life cycle management system of Patent Document 3, A. The composite storage apparatus has a plurality of data arrangement areas with different bit unit prices and characteristics. B. The data arrangement management system manages arrangement settings of data to be managed (data items) in the data arrangement area. C. The application system provides services using the management target data. In the application system, the C-1: operation target condition setting means is for setting operation target conditions to be satisfied by the service. C-2: Data arrangement related information exchanging means is for exchanging information used for data arrangement determination in the data arrangement management system with the data arrangement management system. Patent Literature 3 is a technique for changing a storage to be a data storage target in accordance with an access frequency for stored data. In other words, as expected effects, as in Patent Document 2, it is considered to be efficient access after data storage and storage use.
本発明の課題は、計算機、ネットワーク資源を効率的に活用できる分散データストレージシステムを提供することである。本発明の他の課題は、移行するデータの重要度に応じて、データ移行時の信頼性能を調節することである。 An object of the present invention is to provide a distributed data storage system that can efficiently use computers and network resources. Another object of the present invention is to adjust the reliability performance at the time of data migration according to the importance of the data to be migrated.
以下に、[発明を実施するための最良の形態]で使用される番号・符号を用いて、[課題を解決するための手段]を説明する。これらの番号・符号は、[特許請求の範囲]の記載と[発明を実施するための最良の形態]との対応関係を明らかにするために括弧付きで付加されたものである。ただし、それらの番号・符号を、[特許請求の範囲]に記載されている発明の技術的範囲の解釈に用いてはならない。 [Means for Solving the Problems] will be described below using the numbers and symbols used in [Best Mode for Carrying Out the Invention]. These numbers and symbols are added in parentheses in order to clarify the correspondence between the description of [Claims] and [Best Mode for Carrying Out the Invention]. However, these numbers and symbols should not be used for the interpretation of the technical scope of the invention described in [Claims].
本発明による分散データストレージシステムにおいては、アプリケーション部(300)は、データを送出する。一次データ格納システム(201)は、当該アプリケーション部(300)から送出される前記データを格納する。二次データ格納システム(101)を有する。第一のデータ移行部(112,212)は、前記一次データ格納システム(201)から前記二次データ格納システム(101)へ、前記データを移行する。第二のデータ移行部(111,211)は、前記一次データ格納システム(201)から前記二次データ格納システム(101)へ、前記データを移行する。前記第一のデータ移行部(112,212)は、データの移行完了を確認する移行処理を実行する第一のデータ移行機能を有する。前記第二のデータ移行部(111,211)は、データの移行完了を保証しない移行処理を実行する第二のデータ移行機能を有する。また、本発明による分散データストレージシステムにおいては、前記第二のデータ移行機能は、前記一次データ格納システム(201)と、前記二次データ格納システム(101)との間で送受信されるデータの一部が欠落したときに、当該欠落した一部のデータを、前記一次データ格納システム(201)から、前記二次データ格納システム(101)へ再送する再送機能を有しない。また、本発明による分散データストレージシステムにおいては、前記第一のデータ移行機能は、前記一次データ格納システム(201)と、前記二次データ格納システム(101)との間で送受信されるデータの一部が欠落した場合に、当該欠落した一部のデータを、前記一次データ格納システム(201)から、前記二次データ格納システム(101)へ再送する再送機能を有する。また、本発明による分散データストレージシステムにおいては、移行方法設定部(221)は、前記一次データ格納システム(201)に格納されたデータを、前記第一のデータ移行部(112,212)によって、前記二次データ格納システム(101)に移行させるか、又は、前記一次データ格納システム(201)に格納されたデータを、前記第二のデータ移行部(111,211)によって、前記二次データ格納システム(101)に移行させるかを示す設定情報を保持する。移行処理管理部(230)は、当該移行方法設定部(221)に保持された前記設定情報を参照して、あるデータを、前記第一のデータ移行部(112,212)によって移行させるか、又は、前記第二のデータ移行部(111,211)によって移行させるかを選択する。また、本発明による分散データストレージシステムにおいては、容量監視部(240)は、前記一次データ格納システム(201)に蓄積されるデータの容量を監視する。当該容量監視部(240)は、前記容量が予め定められた閾値を超えたときに、前記移行処理管理部(230)に、データの移行処理を開始するように指示する。 In the distributed data storage system according to the present invention, the application unit (300) transmits data. The primary data storage system (201) stores the data transmitted from the application unit (300). A secondary data storage system (101) is included. The first data migration unit (112, 212) migrates the data from the primary data storage system (201) to the secondary data storage system (101). The second data migration unit (111, 211) migrates the data from the primary data storage system (201) to the secondary data storage system (101). The first data migration unit (112, 212) has a first data migration function for executing a migration process for confirming completion of data migration. The second data migration unit (111, 211) has a second data migration function for executing a migration process that does not guarantee completion of data migration. Further, in the distributed data storage system according to the present invention, the second data migration function is a function of data transmitted / received between the primary data storage system (201) and the secondary data storage system (101). When a part is missing, it does not have a retransmission function for resending part of the missing data from the primary data storage system (201) to the secondary data storage system (101). Further, in the distributed data storage system according to the present invention, the first data migration function is a function of data transmitted / received between the primary data storage system (201) and the secondary data storage system (101). In the case where a part is missing, it has a retransmission function for resending part of the missing data from the primary data storage system (201) to the secondary data storage system (101). In the distributed data storage system according to the present invention, the migration method setting unit (221) causes the data stored in the primary data storage system (201) to be transferred by the first data migration unit (112, 212). The secondary data storage system (101) is migrated, or the data stored in the primary data storage system (201) is stored by the second data migration unit (111, 211) in the secondary data storage system (101). The setting information indicating whether to move to the system (101) is held. The migration processing management unit (230) refers to the setting information held in the migration method setting unit (221), and migrates certain data by the first data migration unit (112, 212). Alternatively, it is selected whether to migrate by the second data migration unit (111, 211). In the distributed data storage system according to the present invention, the capacity monitoring unit (240) monitors the capacity of data stored in the primary data storage system (201). The capacity monitoring unit (240) instructs the migration processing management unit (230) to start data migration processing when the capacity exceeds a predetermined threshold.
また、本発明による分散データストレージシステムにおいては、緊急状況監視部(260)は、前記一次データ格納システム(201)における致命的な問題の発生を検知する。緊急移行処理管理部(235)は、当該緊急状況監視部(260)から、致命的な問題が発生したことを通知されたときに、その旨を、前記移行処理管理部(230)へ通知する。前記移行方法設定部(221)は、緊急時に、前記一次データ格納システム(201)に格納されたデータを、前記二次データ格納システム(101)に移行しないか、又は、前記一次データ格納システム(201)に格納されたデータを、前記第一のデータ移行部(112,212)によって、前記二次データ格納システム(101)に移行させるか、或いは、前記一次データ格納システム(201)に格納されたデータを、前記第二のデータ移行部(111,211)によって、前記二次データ格納システム(101)に移行させるかを示す緊急時設定情報を保持する。前記移行処理管理部(230)は、緊急時に、当該移行方法設定部(221)に保持された前記緊急時設定情報を参照して、あるデータを、前記二次データ格納システム(101)へ移行させないか、又は、前記第一のデータ移行部(112,212)によって移行させるか、或いは、前記第二のデータ移行部(111,211)によって移行させるかを選択する。 In the distributed data storage system according to the present invention, the emergency situation monitoring unit (260) detects the occurrence of a fatal problem in the primary data storage system (201). When the emergency transition processing management unit (235) is notified by the emergency situation monitoring unit (260) that a fatal problem has occurred, the emergency transition processing management unit (235) notifies the migration processing management unit (230) to that effect. . The migration method setting unit (221) does not migrate the data stored in the primary data storage system (201) to the secondary data storage system (101) in an emergency, or the primary data storage system ( The data stored in 201) is transferred to the secondary data storage system (101) by the first data transfer unit (112, 212) or stored in the primary data storage system (201). Emergency setting information indicating whether the second data migration unit (111, 211) migrates the data to the secondary data storage system (101) is held. The migration processing management unit (230) refers to the emergency setting information held in the migration method setting unit (221) and transfers certain data to the secondary data storage system (101) in an emergency. Whether to migrate by the first data migration unit (112, 212) or to migrate by the second data migration unit (111, 211) is selected.
また、本発明によるプログラムにおいては、第一のプログラムは、一次データ格納システム(200,250)において、データを二次データ格納システム(100)へ移行させる移行処理をコンピュータに実行させる。第二のプログラムは、前記一次データ格納システム(200,250)において、前記データを前記二次データ格納システム(100)へ移行させる移行処理をコンピュータに実行させる。前記第一のプログラムは、以下の手順をコンピュータに実行させる。分割する手順は、前記一次データ格納システム(200,250)から前記二次データ格納システム(100)へ移行するデータを、n個の分割データに分割する。送信する手順は、前記分割データi(i=1,2,…,n)を、前記一次データ格納システム(200,250)から前記二次データ格納システム(100)へ送信する。再送する手順は、前記二次データ格納システム(100)から、受信できなかった分割データm(1≦m≦n)があったことを通知されたときに、当該分割データmを再送する。終了する手順は、前記二次データ格納システム(100)から、全ての分割データi(i=1,2,…,n)を受信できたことを通知されたならば、前記データの移行処理を終了する。前記第二のプログラムは、以下の手順をコンピュータに実行させる。分割する手順は、前記一次データ格納システム(200,250)から前記二次データ格納システム(100)へ移行するデータを、n個の分割データに分割する。送信する手順は、前記分割データi(i=1,2,…,n)を、前記一次データ格納システム(200,250)から前記二次データ格納システム(100)へ送信する。終了する手順は、前記全ての分割データi(i=1,2,…,n)を送信したならば、前記データの移行処理を終了する。 In the program according to the present invention, the first program causes the computer to execute a migration process for migrating data to the secondary data storage system (100) in the primary data storage system (200, 250). The second program causes the computer to execute a migration process for transferring the data to the secondary data storage system (100) in the primary data storage system (200, 250). The first program causes the computer to execute the following procedure. In the dividing procedure, data to be transferred from the primary data storage system (200, 250) to the secondary data storage system (100) is divided into n divided data. In the transmission procedure, the divided data i (i = 1, 2,..., N) is transmitted from the primary data storage system (200, 250) to the secondary data storage system (100). In the retransmission procedure, when it is notified from the secondary data storage system (100) that there is divided data m (1 ≦ m ≦ n) that could not be received, the divided data m is retransmitted. When the secondary data storage system (100) is notified that all of the divided data i (i = 1, 2,..., N) has been received, the procedure for ending the process is as follows. finish. The second program causes the computer to execute the following procedure. In the dividing procedure, data to be transferred from the primary data storage system (200, 250) to the secondary data storage system (100) is divided into n divided data. In the transmission procedure, the divided data i (i = 1, 2,..., N) is transmitted from the primary data storage system (200, 250) to the secondary data storage system (100). In the procedure to end, when all the divided data i (i = 1, 2,..., N) have been transmitted, the data migration processing ends.
また、本発明によるプログラムにおいては、第三のプログラムは、二次データ格納システム(100)において、データを一次データ格納システム(200,250)から移行させる移行処理をコンピュータに実行させる。第四のプログラムは、前記二次データ格納システム(100)において、前記データを前記一次データ格納システム(200,250)から移行させる移行処理をコンピュータに実行させる。前記第三のプログラムは、以下の手順をコンピュータに実行させる。分割データiを受信する手順は、前記一次データ格納システム(200,250)から前記二次データ格納システム(100)へ移行するデータを、n個に分割した分割データi(i=1,2,…,n)を受信する。確認する手順は、前記分割データi(i=1,2,…,n)を、全て受信したかを確認する。通知する手順は、受信できなかった分割データm(1≦m≦n)があることを検出したときに、その旨を、前記一次データ格納システム(200,250)へ通知する。分割データmを受信する手順は、再送される前記分割データmを受信する。終了する手順は、前記分割データi(i=1,2,…,n)を全て受信できたときに、その旨を、前記一次データ格納システム(200,250)へ通知して、移行処理を終了する。前記第四のプログラムは、以下の手順をコンピュータに実行させる。受信する手順は、前記一次データ格納システム(200,250)から前記二次データ格納システム(100)へ移行するデータを、n個に分割した分割データi(i=1,2,…,n)を受信する。タイムアウトとする手順は、受信できていない分割データm(1≦m≦n)があった場合に、当該分割データmの受信を所定時間だけ待っても、前記分割データmを受信できなかったときには、タイムアウトとする。終了する手順は、全ての分割データi(i=1,2,…,n)を受信できたときに、又は、全ての分割データi(i=1,2,…,n)を受信できていないが、受信できていない分割データについては、タイムアウトとなったときに、前記データの移行処理を終了する。 In the program according to the present invention, the third program causes the computer to execute a migration process for migrating data from the primary data storage system (200, 250) in the secondary data storage system (100). The fourth program causes the computer to execute a migration process for migrating the data from the primary data storage system (200, 250) in the secondary data storage system (100). The third program causes the computer to execute the following procedure. The procedure for receiving the divided data i is to divide the data to be transferred from the primary data storage system (200, 250) to the secondary data storage system (100) into n divided data i (i = 1, 2, ..., n) are received. In the confirmation procedure, it is confirmed whether all the divided data i (i = 1, 2,..., N) have been received. In the notification procedure, when it is detected that there is divided data m (1 ≦ m ≦ n) that could not be received, this is notified to the primary data storage system (200, 250). In the procedure for receiving the divided data m, the divided data m to be retransmitted is received. When the divided data i (i = 1, 2,..., N) has been received, the procedure for ending is notified to the primary data storage system (200, 250) and the migration process is performed. finish. The fourth program causes the computer to execute the following procedure. The procedure for receiving is divided data i (i = 1, 2,..., N) obtained by dividing the data to be transferred from the primary data storage system (200, 250) to the secondary data storage system (100) into n pieces. Receive. The procedure for setting a timeout is when there is divided data m that cannot be received (1 ≦ m ≦ n), and when the divided data m cannot be received even after waiting for a predetermined time to receive the divided data m. Timeout. The procedure to end is when all the divided data i (i = 1, 2,..., N) can be received or all the divided data i (i = 1, 2,..., N) can be received. For divided data that has not been received, the data migration process is terminated when a timeout occurs.
また、本発明による記録媒体においては、請求項7又は8に記載のプログラムを記録する。また、本発明による移行クライアントにおいては、請求項7記載の第一のプログラムと第二のプログラムとの双方を、コンピュータにより動作させる。また、本発明による移行サーバにおいては、請求項8記載の第三のプログラムと第四のプログラムとの双方を、コンピュータにより動作させる。また、本発明によるホームサーバ(203)においては、1次ストレージ(205)は、家電機器(301)から送出される機器使用状況を示すセンサデータを格納する。請求項7記載の第一のプログラムと第二のプログラムとの双方を、コンピュータにより動作させる。前記第一のプログラムは、当該1次ストレージ(205)に格納されたセンサデータを二次データ格納システム(103)へ移行させる移行処理を実行する。前記第二のプログラムは、当該1次ストレージ(205)に格納されたセンサデータを二次データ格納システム(103)へ移行させる移行処理を実行する。また、本発明による車載サーバ(204)においては、1次ストレージ(206)は、自動車に装備された位置測定器(305)から送出される走行位置を示すセンサデータを格納する。請求項7記載の第一のプログラムと第二のプログラムとの双方を、コンピュータにより動作させる。前記第一のプログラムは、当該1次ストレージ(206)に格納された前記センサデータを二次データ格納システム(103)へ移行させる移行処理を実行する。前記第二のプログラムは、当該1次ストレージ(206)に格納された前記センサデータを二次データ格納システム(103)へ移行させる移行処理を実行する。 A recording medium according to the present invention records the program according to claim 7 or 8. In the migration client according to the present invention, both the first program and the second program according to claim 7 are operated by a computer. In the migration server according to the present invention, both the third program and the fourth program according to claim 8 are operated by a computer. In the home server (203) according to the present invention, the primary storage (205) stores sensor data indicating the device usage status sent from the home appliance (301). Both the first program and the second program according to claim 7 are operated by a computer. The first program executes a migration process for migrating sensor data stored in the primary storage (205) to the secondary data storage system (103). The second program executes a migration process for migrating sensor data stored in the primary storage (205) to the secondary data storage system (103). Further, in the in-vehicle server (204) according to the present invention, the primary storage (206) stores sensor data indicating the traveling position sent from the position measuring device (305) installed in the automobile. Both the first program and the second program according to claim 7 are operated by a computer. The first program executes a migration process for migrating the sensor data stored in the primary storage (206) to the secondary data storage system (103). The second program executes a migration process for migrating the sensor data stored in the primary storage (206) to the secondary data storage system (103).
本発明によれば、計算機、ネットワーク資源を効率的に利用して、データ移行を行う分散データストレージシステムを提供することができる。また、移行するデータの重要度に応じて、データ移行時の信頼性能を調節することができる。 According to the present invention, it is possible to provide a distributed data storage system that performs data migration by efficiently using computers and network resources. Further, the reliability performance at the time of data migration can be adjusted according to the importance of the data to be migrated.
本発明を実施するための最良の形態について、図面を参照して詳細に説明する。本実施の形態における分散データストレージシステムは、図1,図10に示すように、移行データの重要度を設定するための移行方法設定API120,220と、高信頼移行クライアント212と、高信頼移行サーバ112と、速度優先移行クライアント211と、速度優先移行サーバ111とを備える。利用者は、事前にデータの重要度に応じて、移行データ項目、移行データ量、移行方法などを設定しておく。高信頼移行クライアント212、及び、高信頼移行サーバ112は、重要なデータを確実に移行するため、データの格納が確認されるまで、データの再送を繰り返す。速度優先移行クライアント211、及び、速度優先移行サーバ111は、それほど重要でないデータを移行する際に、格納確認、データ再送を行わず、より小さい計算機、ネットワーク資源でデータ転送を行う。このような構成を採用することにより、本発明の課題を達成することができる。
The best mode for carrying out the present invention will be described in detail with reference to the drawings. As shown in FIGS. 1 and 10, the distributed data storage system according to the present embodiment includes migration
==第一の実施の形態==
図1を参照すると、本発明による第一の実施の形態は、センタサーバ100と、フロントサーバ200と、ストレージ格納アプリケーション部300とから構成される。これらの三者の動作概略は、次の通りである。ストレージ格納アプリケーション部300は、逐次、アプリケーション部で取得したデータを、フロントサーバ200へ送出する。フロントサーバ200は、ストレージ格納アプリケーション部300から送出されるデータを格納する。さらに、フロントサーバ200は、格納したデータを、適宜センタサーバ100へ移行する。
== First Embodiment ==
Referring to FIG. 1, the first embodiment according to the present invention includes a
センタサーバ100は、フロントサーバ200から移行されたデータを格納する2次ストレージ101と、フロントサーバ200からの移行処理を担う移行サーバ110と、移行データの移行方法設定を行うためのアプリケーションインタフェースである移行方法設定API120とから構成される。さらに、移行サーバ110は、速度優先移行サーバ111と、高信頼移行サーバ112とから構成される。
The
フロントサーバ200は、ストレージ格納AP部300から送出されるデータを格納する1次ストレージ201と、1次ストレージの内容を適宜センタサーバ200へ移行する際の処理を担う移行クライアント210と、移行データの移行方法設定を行うためのアプリケーションインタフェースである移行方法設定API220と、データの移行方法が設定される移行方法設定部221と、設定された移行方法に応じて、移行処理の順序、方式を管理する移行処理管理部230と、1次ストレージの容量を監視して、移行処理のトリガを発する容量監視部240とから構成される。さらに、移行クライアント210は、速度優先移行クライアント211と、高信頼移行クライアント212とから構成される。
The front server 200 includes a
これらの各部は以下のように動作する。利用者は、事前に、ストレージ格納AP部300で発生するデータについて、そのデータモデルおよび重要度に応じて、データの移行方法を移行方法設定API120,220を介して設定する。また、利用者は、移行処理を行うきっかけとなる1次ストレージ201の残り容量や、定期的な移行処理の起動のための時間間隔も設定する。利用者からの入力を受け付ける移行方法設定API120,220は、入力内容を移行方法設定部221に登録する。
Each of these units operates as follows. The user sets the data migration method for the data generated in the storage
ストレージ格納AP部300は、センタサーバ100、フロントサーバ200の動作とは無関係に、データをフロントサーバ200の1次ストレージ201に逐次送出する。容量監視部240は、1次ストレージの容量を常時監視しており、1次ストレージ201の残り容量が、事前に設定された値を下回ったら、移行処理管理部230に通知を行う。
The storage
移行処理管理部230は、容量監視部240からの通知があると、移行クライアント210を呼び出す。移行クライアント210は、事前に移行方法設定部221に登録された移行方法で、センタサーバ100に対してデータ移行を開始する。また、毎時、日次などでの移行処理が設定されている場合には、容量監視部240からの通知とは無関係に、定期的にデータ移行処理を開始する。データ移行方法として、信頼性の高い移行方法が選択されている場合は、高信頼移行クライアント212から信頼性の高いプロトコルで移行処理が行われる。一方、速度優先の移行方法が選択されている場合は、速度優先移行クライアント211から軽量なプロトコルで移行処理が行われる。
The migration
センタサーバ100の移行サーバ110では、フロントサーバ200の移行クライアント210からの要求に応じて高信頼移行サーバ112もしくは速度優先移行サーバ111が移行データを受信し、受信した移行データを2次ストレージ101へ格納する。高信頼移行サーバ112は、2次ストレージへの格納を確認後、高信頼移行クライアント212に対して格納確認を送信する。このように、移行処理は、移行方法が登録された時点で実行されるのではなく、容量監視部240からの通知、もしくは事前に設定された一定の間隔で、移行処理管理部230が自動的に実行する。
In the
次に、移行方法設定API120,220を介して、移行方法設定部221に登録されるデータ移行方法を指定する形式の一例を、図2を用いて説明する。なお、データ移行方法の指定形式に関して、下記はどのような機能が考えられるかを示す例であり、機能、形式ともに下記に限定されるものではない。図2は、事前に移行方法設定部221に対して登録されるデータ移行の方法一覧であるルールセットR100を示している。
Next, an example of a format for designating a data migration method registered in the migration
図2において、指定形式R101では、特定のデータテーブルのデータに関しては、高信頼移行方法でデータ移行を行うことを示す。この例では、1次ストレージのデータ移行が必要になった場合、‘entrance_door’テーブルに格納されている全ての項目を‘CenterServer1’に対して、高信頼移行方法で移行させることを示している。 In FIG. 2, the designation format R101 indicates that data migration is performed using a highly reliable migration method for data in a specific data table. In this example, when the data migration of the primary storage becomes necessary, all items stored in the 'entrance_door' table are migrated to the 'CenterServer1' by the highly reliable migration method.
指定形式R102では、特定のデータテーブルのうち、指定する条件を満たすもののみを高信頼移行方法でデータ移行し、それ以外は速度優先移行方法で移行することを示す。この例では、‘room_temparature’テーブルの‘degree’項目の値が100以上の行の‘time, room_id, degree’項目を‘CenterCerver1’に高信頼移行方法で移行させる。一方、この条件に合致しないデータは、速度優先移行方法で移行させることを示している。 The designation format R102 indicates that only a specific data table that satisfies a designated condition is migrated by the high-reliability migration method, and the others are migrated by the speed priority migration method. In this example, the “time, room_id, degree” items in the row where the value of the “degree” item in the “room_temparature” table is 100 or more are migrated to “CenterCerver1” by the highly reliable migration method. On the other hand, data that does not meet this condition indicates that data is transferred by the speed priority transfer method.
指定形式R103では、特定のデータテーブルにおいて、一部分のデータを抽出して高信頼移行方法でデータ移行し、それ以外のデータは速度優先移行方法で移行することを示す。この例では、‘power_meter’テーブルの‘time, value’項目のみで構成される行のうち、全体の20%、つまり5行に1行の割合で抽出して‘CenterServer1’へ高信頼移行方法で移行させる。それ以外の行は、速度優先移行方法で移行させることを示している。 The designation format R103 indicates that a part of data is extracted from a specific data table and transferred by the high-reliability transfer method, and other data is transferred by the speed priority transfer method. In this example, out of the rows consisting of only the “time, value” items in the “power_meter” table, 20% of the total, that is, one row in 5 rows, is extracted to “CenterServer1” with a reliable migration method. Transition. The other lines indicate that the transition is performed by the speed priority transition method.
次に、速度優先移行クライアント211と、速度優先移行サーバ111との動作の一例について、図3、図4の流れ図と、図5のシーケンスチャートとを用いて説明する。
Next, an example of the operation of the speed
図3を参照して、速度優先移行クライアント211による移行データの送信処理P1000を説明する。まず、移行するデータを1次ストレージ201から取得する(ステップS1001)。取得した移行データを、一定の行数で、n個に分割する(ステップS1002)。分割したデータを相互に関連付けるためのシリーズIDを生成し、送信順序を示す変数iを初期化する(ステップS1003)。シリーズID、送出順序iを付加して分割されたi番目のデータを分割番号iのデータとして送出する(ステップS1004)。iを1増加させる(ステップS1005)。全ての分割データを送出したかを確認する(ステップS1006)。全ての分割データを送出済みならば、そのシリーズIDでの送信処理を完了する。全てのデータを送出済みでなければ、ステップS1004から送出処理を繰り返す。
With reference to FIG. 3, the migration data transmission process P1000 by the speed
図4を参照して、速度優先移行サーバ111による受信処理P1200、格納処理P1250について説明する。まず、受信処理P1200では、データ受信待ち状態となる(ステップS1201)。速度優先移行クライアント211から分割データを受信すると、分割データに付加されたシリーズIDを取り出し、新規シリーズIDか、現在格納処理中の既存シリーズIDかを調べる(ステップS1202)。新規シリーズIDの場合は、そのシリーズIDの分割データを処理するための格納処理P1250を新規に生成する(ステップS1203)。既存IDの場合は、ステップS1203を実行しない。次に、受信した分割データを、当該分割データに付加されているシリーズID毎に、該当する格納処理に振り分ける(ステップS1204)。受信処理P1200は、受信した分割データを、該当する格納処理に割り付けた後、ステップS1201へ戻り、データ受信を繰り返す。
With reference to FIG. 4, the reception process P1200 and the storage process P1250 by the speed priority transfer server 111 will be described. First, in the reception process P1200, a data reception wait state is entered (step S1201). When the divided data is received from the speed
図4において、処理すべき新規のシリーズIDの分割データを受信すると、新たに格納処理P1250が生成される。分割データを受信する場合、シリーズIDが複数あるときには、複数の格納処理P1250が平行に動作する。格納処理P1250は、新規に生成されると、受信処理P1200からのデータ受信待ちとなる(ステップS1251)。受信処理P1200から自分が処理すべきシリーズIDの分割データを受信することなく、受信待ち状態のまま一定時間が経過するとタイムアウトになる(ステップS1252)。タイムアウトになった場合には、順序保証のためにバッファ内に残っているデータを格納して(ステップS1257)、そのシリーズIDの格納処理を終了する。一方、データを正常に受信した場合には、次の処理へ進む(ステップS1252)。速度優先移行クライアント211で、分割データを送信順に格納するために受信データをバッファリングする(ステップS1253)。バッファ内を調べ、分割番号の順序どおりに格納できるデータがあるかチェックする(ステップS1254)。あれば、順序どおりに分割データを2次ストレージ101に格納する(ステップS1255)。なければ格納しない。次に、全ての分割データを受信したかを調べる(ステップS1256)。全て受信していれば、格納処理を終了する。一方、まだ受信すべきデータが残っていればステップS1251へ戻り、受信処理P1200からの分割データの受信を待つ。
In FIG. 4, when the division data of a new series ID to be processed is received, a new storage process P1250 is generated. When receiving divided data, when there are a plurality of series IDs, a plurality of storage processes P1250 operate in parallel. When the storage process P1250 is newly generated, the process waits for data reception from the reception process P1200 (step S1251). Without receiving the series ID division data to be processed from the reception process P1200, a timeout occurs when a predetermined time elapses while waiting for reception (step S1252). If the timeout has occurred, the data remaining in the buffer is stored for order guarantee (step S1257), and the series ID storage processing is terminated. On the other hand, if the data is normally received, the process proceeds to the next process (step S1252). The speed
速度優先移行クライアント211の送信処理P1000と、速度優先移行サーバ111の受信処理P1200と、格納処理P1250との間での動作を、図5に示すシーケンスチャートで説明する。送信処理C1010は、一次ストレージC1000から移行データを取得し、データ分割およびシリーズID生成を行う。そして、分割データを連続して受信処理C1020へ送信する。受信処理C1020は常に動作しており、新規のシリーズIDをもつ分割データを受信したら、新規に格納処理C1030を起動する。その後、受信した分割データのシリーズIDに応じて、適切な格納処理C1030へ分割データを渡す。格納処理C1030では、受信した分割データをバッファリングする。そして、送信順に並べ替え、2次ストレージC1040に格納する。
Operations among the transmission process P1000 of the speed
次に、高信頼移行クライアント212と、高信頼移行サーバ112との動作の一例について、図6及び図7の流れ図と、図8及び図9のシーケンスチャートを用いて説明する。
Next, an example of the operation of the highly
高信頼移行クライアント212による移行データの送信処理P1100を、図6で説明する。まず、移行するデータを1次ストレージ201から取得する(ステップS1101)。取得した移行データを一定の行数で、n個に分割する(ステップS1102)。分割したデータを相互に関連付けるためのシリーズIDを生成し、送信順序を示す変数iを初期化する(ステップS1103)。シリーズID、送出順序iを付加して、i番目の分割データを、分割番号iの分割データとして送出する(ステップS1104)。iを1増加させる(ステップS1105)。全ての分割データを送出したかを確認する(ステップS1106)。全ての分割データを送出済みでなければ、ステップS1104から送出処理を繰り返す。全てのデータを送出済みならば、高信頼移行サーバ112からのデータ格納確認の受信待ちとなる(ステップS1107)。受信待ち時間が終了した後、格納確認を受信したのか、受信待ちがタイムアウトしたのかで分岐する(ステップS1108)。タイムアウトが発生した場合、変数iに1を代入し、ステップS1104からの処理を再開して、始めから送信をやり直す(ステップS1109)。格納確認を受信した場合、格納確認に含まれる格納が完了した分割データの番号の最大値から、送信した分割データ全ての格納が完了したかどうかを判定する(ステップS1110)。受信側で、全ての分割データの格納処理が完了したことを確認した場合、そのシリーズIDでの送信処理を完了し、全ての分割データの格納処理が完了したことを確認できなければ、格納確認に含まれる格納が完了した分割データの番号の最大値+1をiに設定する。そして、ステップS1104からの処理を再開して、格納が未完となっている分割番号の分割データから、同一のシリーズIDで再度送信する(ステップS1111)。
The migration data transmission process P1100 by the highly
高信頼移行サーバ112において実行される受信処理P1210と、格納処理P1280とについて、図7で説明する。まず、受信処理P1210は、データ受信待ち状態となる(ステップS1211)。高信頼移行クライアント212から分割データを受信すると、分割データに付加されたシリーズIDを取り出し、新規シリーズIDか、現在格納処理中の既存シリーズIDかを調べる(ステップS1212)。新規シリーズIDの場合は、そのシリーズIDの分割データを処理するための格納処理P1280を、新規に生成する(ステップS1213)。既存IDの場合は、ステップS1213を実行しない。次に、分割データに付加されるシリーズID毎に、受信した分割データを、該当する格納処理に振り分ける(ステップS1214)。受信処理P1210は、受信した分割データを該当する格納処理に割り付けた後、ステップS1211へ戻り、データ受信を繰り返す。
The reception process P1210 and the storage process P1280 executed in the highly
処理すべき新規シリーズIDを有する分割データを受信すると、新たに格納処理P1280が生成される。分割データを受信する場合、シリーズIDが複数あるときには、複数の格納処理P1280が平行に動作する。格納処理P1280は、生成されると、受信処理P1210からのデータ受信待ちとなる(ステップS1281)。受信処理P1210から自分が処理すべきシリーズIDの分割データを受信することなく、受信待ち状態のまま一定時間が経過するとタイムアウトになる(ステップS1282)。タイムアウトになった場合には、ステップS1287へ飛ぶ。一方、分割データを受信した場合には、次の処理へ進む(ステップS1282)。分割データを正常に受信した場合、高信頼移行クライアント212での送信順に、データの格納を行うために、受信データをバッファリングする(ステップS1283)。バッファ内を調べ、分割番号の順序どおりに格納できるデータがあるかをチェックする(ステップS1284)。あれば、順序どおりに分割データを2次ストレージ101に格納する(ステップS1285)。なければ格納しない。次に、全ての分割データを受信したかを調べる(ステップS1286)。未だ、受信すべき分割データが残っていれば、ステップS1281へ戻り、受信処理P1210からの分割データの受信を待つ。既に全ての分割データを受信していれば、次の処理へ進む。分割データを順序どおりに格納することができた場合、分割番号の最大値を格納確認メッセージに付加し、高信頼移行クライアント212の送信処理P1100へ返信する(ステップS1287)。同時に、格納できた分割データにおける分割番号iの最大値が、分割総数と一致しているかどうかを確認する(ステップS1288)。その結果、全ての分割データが格納済みであると確認できたならば格納処理を終了する。一方、未格納の分割データが残っていれば、ステップS1281へ戻って、受信を繰り返す。
When division data having a new series ID to be processed is received, a new storage process P1280 is generated. When receiving divided data, when there are a plurality of series IDs, a plurality of storage processes P1280 operate in parallel. When the storage process P1280 is generated, it waits for data reception from the reception process P1210 (step S1281). Without receiving the series ID division data to be processed from the reception process P1210, a timeout occurs when a predetermined time elapses while waiting for reception (step S1282). If the timeout has occurred, the process jumps to step S1287. On the other hand, when the divided data is received, the process proceeds to the next process (step S1282). When the divided data is normally received, the received data is buffered in order to store the data in the order of transmission by the high-reliability migration client 212 (step S1283). The buffer is examined to check whether there is data that can be stored in the order of the division numbers (step S1284). If there is, the divided data is stored in the
高信頼移行クライアント212の送信処理P1100と、高信頼移行サーバ112の受信処理P1210と、格納処理P1280との間における正常系の動作を、図8に示すシーケンスチャートで説明する。送信処理C1110は、一次ストレージから移行データを取得し、データ分割およびシリーズID生成を行って、分割データを連続して受信処理C1120へ送信する。受信処理C1120は、常に動作しており、新規のシリーズIDを持つ分割データを受信したら、新規に格納処理C1130を起動する。その後、受信したデータのシリーズIDに応じて、適切な格納処理C1130へ分割データを渡す。格納処理C1130では、受信した分割データをバッファリングする。そして、送信順に並べ替え、2次ストレージC1140に格納する。格納処理完了後、格納確認メッセージに、格納できた分割番号の最大値Mを付加して、送信処理C1110へ返信する。送信処理C1110は、格納できた分割番号の最大値がMであることから、送信した分割データが、全て二次ストレージに格納されたことを確認して、処理を終了する。
The normal operation among the transmission process P1100 of the highly
高信頼移行クライアント212の送信処理P1100と、高信頼移行サーバ112の受信処理P1210と、格納処理P1280との間で、データ落ちが発生した異常系の動作を、図9に示すシーケンスチャートで説明する。送信処理C1210は、一次ストレージC1200から移行データを取得し、データ分割およびシリーズID生成を行って、分割データを連続して受信処理C1220へ送信する。受信処理C1220は、常に動作しており、新規のシリーズIDを持つ分割データを受信したら、新規に格納処理C1230を起動する。その後、受信したデータのシリーズIDに応じて、適切な格納処理C1230へ分割データを渡す。格納処理C1230では、受信した分割データをバッファリングする。そして、送信順に並べ替え、2次ストレージC1240に格納する。しかし、分割番号mのデータが何らかの理由で送信処理C1210と、受信処理C1220との間で消失したとする。この場合、分割データは、送信順を示す分割番号の順に格納するという観点から、分割番号m+1以降のデータは格納処理C1230に到着しても、2次ストレージには格納できない。最終的に分割番号mのデータが受信できないため、タイムアウトが発生し、格納処理C1230では、格納できた分割番号の最大値m−1を付加した格納確認メッセージを送信処理C1210へ返信する。送信処理C1210では、格納処理C1230からの格納確認メッセージに付加された分割番号の最大値m−1を参照する。そして、全ての分割データの格納が完了していないことを知り、分割番号mのデータから順に再送を行い、再度格納確認メッセージを待つ。
An operation of an abnormal system in which data loss has occurred among the transmission process P1100 of the high-
次に、第一の実施の形態の効果について説明する。本実施の形態では、1次ストレージと、2次ストレージとの間におけるデータ移行の方式が、複数系統ある。第一の方式では、計算機、ネットワーク資源をそれほど消費しない速度優先移行処理を実行する。第二の方式では、計算機、ネットワーク資源をかなり消費するが、確実に全てのデータ移行を完了させることが可能な高信頼移行処理を実行する。また、あらかじめ、2次ストレージに格納すべきデータを、どのように移行するかを記述したルールを登録する機能と、1次ストレージの残り容量と、あらかじめ登録したルールとに基づいて、自動的にデータ移行を開始する機能とを備える。そのため、データの重要度に応じて、計算機、ネットワーク資源を有効に活用した移行処理を、自動的に行うことができる。 Next, the effect of the first embodiment will be described. In this embodiment, there are a plurality of systems for data migration between the primary storage and the secondary storage. In the first method, a speed priority transfer process that consumes less computer and network resources is executed. In the second method, a computer and network resources are consumed considerably, but a highly reliable migration process capable of reliably completing all data migration is executed. In addition, based on a function for registering rules that describe how data to be stored in the secondary storage is migrated in advance, the remaining capacity of the primary storage, and rules that have been registered in advance, And a function for starting data migration. Therefore, it is possible to automatically perform migration processing that effectively uses computers and network resources according to the importance of data.
==第二の実施の形態==
次に、本発明による第二の実施の形態を、図10で説明する。図10のフロントサーバ250は、図1のフロントサーバ200における各部に加えて、フロントサーバ250が致命的な状況にあることを監視する緊急状況監視部260と、緊急移行処理管理部235とが追加されている。図10において、利用者は、通常時とは異なる緊急時の移行方法を、移行方法設定API220を介して、事前にルールセットとして登録する。緊急状況監視部260は、天災、事故などの原因で、フロントサーバ250のハードウエア、オペレーティングシステム、ミドルウェアなどに異常が発生し、緊急にデータの移行処理を行う必要が生じたことを検知すると共に、その旨を、緊急移行処理管理部235へ通知する。緊急移行処理管理部235は、この通知を契機として、移行処理を開始する。この場合は、ルールセットとして登録され、通常時とは異なる移行方法に従って、移行処理が行なわれる。図10の例では、1次ストレージ201における格納領域の圧迫時に加えて、致命的な障害発生時にも、選択的なデータ移行を自動的に行うことができる。
== Second Embodiment ==
Next, a second embodiment according to the present invention will be described with reference to FIG. The
次に、具体的な実施例を用いて、本発明による分散データストレージシステムについて説明する。図11は、本発明による分散データストレージシステムの応用例を示す図である。図11において、センタサーバは、2次ストレージ104を有すると共に、図1に示した移行サーバ110を具備する。また、センタサーバ103にデータを移行するフロントサーバとして、ホームサーバ203及び車載サーバ204が例示されている。ホームサーバ203は、1次ストレージ205を有すると共に、図1に示した移行クライアント210を具備する。車載サーバ204は、1次ストレージ206を有すると共に、図1に示した移行クライアント210を具備する。ホームサーバ203には、センサデータを送出するエアコン301と、監視カメラ302と、水道メータ303と、その他の不図示の機器とが接続されている。また、車載サーバ204には、センサデータを送出するガソリン残量計304と、カーナビゲーション305と、速度計306と、その他の不図示の機器とが接続されている。
Next, a distributed data storage system according to the present invention will be described using a specific embodiment. FIG. 11 is a diagram showing an application example of the distributed data storage system according to the present invention. 11, the center server has the
ホームサーバ203は、電気メータ、水道メータ303、ガスメータ、マイコン内蔵家電、セキュリティ装置などからセンサデータを随時受信し、各種設備及び機器の使用状況などを記録する。センサデータは、ホームサーバ203内の1次ストレージ205に随時記録される。1次ストレージ205の残り容量が少なくなると、センサデータの重要度に応じて、データセンタ内のセンタサーバ103へ、データが自動的に移行される。ホームサーバ203は、電気使用量、水道使用量、家屋設備使用状況などを、例えば、毎分記録する。しかしながら、センタサーバ103に対しては、膨大な記録情報のうち、日次の記録のみが高信頼移行方法で送信される。これによって、外出先からの問い合わせに対しては、分単位の解像度で家電等の使用状況などを見ることができ、かつ、日次のデータのみを信頼性の高い方法で、自動的にセンタサーバ103へ移行することにより、永続記録として残すことができる。また、緊急時の移行処理では、ホームサーバ203に蓄積された種々雑多な大量のデータのうち、電子化された権利書類などの資産に係る重要データを最優先とする。次に、事前に選択された家族写真などのデジタルデータを第二の優先順位で、優先的に移行する。これによって、火災、自然災害などに伴った資産、権利書類などの重要データや、本質的に復元不可能な重要データの消失を最小限に抑えることができる。
The
図11において、車載サーバ204は、ガソリン残量、走行位置、速度、機器動作状況などのセンサデータを受信する。受信したセンサデータは、車載サーバ204内の1次ストレージ206に一定期間保存される。そして、1次ストレージ206の残り容量が少なくなると、データの重要度に応じて、無線その他の方法で、データセンタ内のセンタサーバ103へ、センサデータが自動的に移行される。例えば、走行位置については、停止時間が一定時間以上の場所のみが、高信頼移行方法でセンタサーバに格納される。それ以外の走行位置は、速度優先移行方法で移行される。これによって、少なくとも一定時間以上停止した位置の走行履歴は確実に残ることになる。その間の走行位置を記録するセンサデータは、確実な移行を保証されていないが、走行履歴を補完するデータとして、可能な限り記録される。これによって、センタサーバ103は、計算機、ネットワーク資源を効率的に利用して走行情報を収集することができる。また、複数の自動車から収集した走行位置のセンサデータを統計的に処理すれば、渋滞予測などに活用することができる。個人の走行履歴に関するセンサデータは、ドライブの記録などとして利用したりできる。また、緊急時の移行処理では、種々雑多な車載センサデータのうち、例えば、走行位置、同乗人数、直前の速度、車載カメラによる周辺画像を最優先でセンタサーバ103に移行する。これによって、事故発生時の事故通報に必要な情報、事故原因、目撃者情報などを自動的に収集することができる。
In FIG. 11, the in-
本発明によれば、複数のセンサから構成されるセンサネットワークにおいて、雑多なセンサデータの収集、管理といった用途に適用できる。特に、ホームサーバによる家電、ホームセキュリティ機器の監視、車載サーバによる交通情報の収集、統計処理による2次利用といった用途に適用可能である。 According to the present invention, in a sensor network composed of a plurality of sensors, the present invention can be applied to various uses such as collection and management of sensor data. In particular, it can be applied to applications such as home appliance monitoring by a home server, monitoring of home security devices, collection of traffic information by an in-vehicle server, and secondary use by statistical processing.
100,103 センタサーバ
101,104 2次ストレージ
110 移行サーバ
111 速度優先移行サーバ
112 高信頼移行サーバ
120,220 移行方法設定API
200,250 フロントサーバ
201,205,206 1次ストレージ
203 ホームサーバ
204 車載サーバ
210 移行クライアント
211 速度優先移行クライアント
212 高信頼移行クライアント
221 移行方法設定部
230 移行処理管理部
235 緊急移行処理管理部
240 容量監視部
260 緊急状況監視部
300 ストレージ格納AP
301 エアコン
302 監視カメラ
303 水道メータ
304 ガソリン残量計
305 カーナビゲーション
306 速度計
C1000,C1100,C1200 1次ストレージ動作チャート
C1010,C1110,C1210 送信処理動作チャート
C1020,C1120,C1220 受信処理動作チャート
C1030,C1130,C1230 格納処理動作チャート
C1040,C1140,C1240 2次ストレージ動作チャート
P1000,P1100 移行データ送信処理
P1200,P1210 移行データ受信処理
P1250,P1280 移行データ格納処理
R100 ルールセット
R101〜103 移行方法指定形式
S1001〜1006,S1101〜1111 移行データ送信手順
S1201〜1204,S1211〜1214 移行データ受信手順
S1251〜1257,S1281〜1288 移行データ格納手順
100, 103
200, 250
301
Claims (13)
当該アプリケーション部から送出される前記データを格納する一次データ格納システムと、
二次データ格納システムと、
前記一次データ格納システムから前記二次データ格納システムへ、前記データを移行する第一のデータ移行部と、
前記一次データ格納システムから前記二次データ格納システムへ、前記データを移行する第二のデータ移行部とを具備し、
前記第一のデータ移行部は、
データの移行完了を確認する移行処理を実行する第一のデータ移行機能を有し、
前記第二のデータ移行部は、
データの移行完了を保証しない移行処理を実行する第二のデータ移行機能を有する
分散データストレージシステム。 An application section for sending data;
A primary data storage system for storing the data transmitted from the application unit;
A secondary data storage system;
A first data migration unit for migrating the data from the primary data storage system to the secondary data storage system;
A second data migration unit for migrating the data from the primary data storage system to the secondary data storage system;
The first data migration unit
Has the first data migration function to execute the migration process to confirm the data migration completion,
The second data migration unit
A distributed data storage system having a second data migration function for executing migration processing that does not guarantee completion of data migration.
請求項1記載の分散データストレージシステム。 The second data migration function is configured such that when a part of data transmitted / received between the primary data storage system and the secondary data storage system is lost, the lost part of the data is transferred to the primary data storage system. The distributed data storage system according to claim 1, wherein the data storage system does not have a retransmission function for retransmitting data to the secondary data storage system.
請求項1又は2記載の分散データストレージシステム。 The first data migration function is configured such that when a part of data transmitted / received between the primary data storage system and the secondary data storage system is missing, the missing data is transferred to the primary data storage function. The distributed data storage system according to claim 1, further comprising a retransmission function for retransmitting data from the data storage system to the secondary data storage system.
当該移行方法設定部に保持された前記設定情報を参照して、あるデータを、前記第一のデータ移行部によって移行させるか、又は、前記第二のデータ移行部によって移行させるかを選択する移行処理管理部とを具備する
請求項1〜3いずれか1項に記載の分散データストレージシステム。 The data stored in the primary data storage system is transferred to the secondary data storage system by the first data transfer unit, or the data stored in the primary data storage system is transferred to the second data storage system. A migration method setting unit for holding setting information indicating whether to migrate to the secondary data storage system by the data migration unit;
Migration that refers to the setting information held in the migration method setting unit and selects whether certain data is migrated by the first data migration unit or the second data migration unit The distributed data storage system according to claim 1, further comprising a processing management unit.
当該容量監視部は、前記容量が予め定められた閾値を超えたときに、前記移行処理管理部に、データの移行処理を開始するように指示する
請求項4記載の分散データストレージシステム。 A capacity monitoring unit for monitoring the capacity of data stored in the primary data storage system;
The distributed data storage system according to claim 4, wherein the capacity monitoring unit instructs the migration processing management unit to start data migration processing when the capacity exceeds a predetermined threshold.
当該緊急状況監視部から、致命的な問題が発生したことを通知されたときに、その旨を、前記移行処理管理部へ通知する緊急移行処理管理部とを具備し、
前記移行方法設定部は、緊急時に、前記一次データ格納システムに格納されたデータを、前記二次データ格納システムに移行しないか、又は、前記一次データ格納システムに格納されたデータを、前記第一のデータ移行部によって、前記二次データ格納システムに移行させるか、或いは、前記一次データ格納システムに格納されたデータを、前記第二のデータ移行部によって、前記二次データ格納システムに移行させるかを示す緊急時設定情報を保持し、
前記移行処理管理部は、緊急時に、当該移行方法設定部に保持された前記緊急時設定情報を参照して、あるデータを、前記二次データ格納システムへ移行させないか、又は、前記第一のデータ移行部によって移行させるか、或いは、前記第二のデータ移行部によって移行させるかを選択する
請求項4又は5記載の分散データストレージシステム。 An emergency monitoring unit that detects the occurrence of a fatal problem in the primary data storage system;
When notified from the emergency situation monitoring unit that a fatal problem has occurred, the emergency transition processing management unit for notifying the transition processing management unit to that effect,
The migration method setting unit does not migrate the data stored in the primary data storage system to the secondary data storage system in an emergency, or the data stored in the primary data storage system is Whether the data is transferred to the secondary data storage system by the data transfer unit, or the data stored in the primary data storage system is transferred to the secondary data storage system by the second data transfer unit Holds emergency setting information indicating
In the event of an emergency, the migration process management unit refers to the emergency setting information held in the migration method setting unit and does not migrate certain data to the secondary data storage system, or the first The distributed data storage system according to claim 4 or 5, wherein the data migration unit selects whether the migration is performed by the data migration unit or the second data migration unit.
前記第一のプログラムは、
前記一次データ格納システムから前記二次データ格納システムへ移行するデータを、n個の分割データに分割する手順と、
前記分割データi(i=1,2,…,n)を、前記一次データ格納システムから前記二次データ格納システムへ送信する手順と、
前記二次データ格納システムから、受信できなかった分割データm(1≦m≦n)があったことを通知されたときに、当該分割データmを再送する手順と、
前記二次データ格納システムから、全ての分割データi(i=1,2,…,n)を受信できたことを通知されたならば、前記データの移行処理を終了する手順とをコンピュータに実行させ、
前記第二のプログラムは、
前記一次データ格納システムから前記二次データ格納システムへ移行するデータを、n個の分割データに分割する手順と、
前記分割データi(i=1,2,…,n)を、前記一次データ格納システムから前記二次データ格納システムへ送信する手順と、
前記全ての分割データi(i=1,2,…,n)を送信したならば、前記データの移行処理を終了する手順とをコンピュータに実行させる
プログラム。 A first program for executing a migration process for migrating data to the secondary data storage system in the primary data storage system, and a migration process for migrating the data to the secondary data storage system in the primary data storage system And a second program for executing
The first program is:
Dividing data to be transferred from the primary data storage system to the secondary data storage system into n pieces of divided data;
Transmitting the divided data i (i = 1, 2,..., N) from the primary data storage system to the secondary data storage system;
A procedure for retransmitting the divided data m when notified from the secondary data storage system that there was divided data m (1 ≦ m ≦ n) that could not be received;
If the secondary data storage system is notified that all the divided data i (i = 1, 2,..., N) has been received, the computer executes a procedure for ending the data migration process. Let
The second program is:
Dividing data to be transferred from the primary data storage system to the secondary data storage system into n pieces of divided data;
Transmitting the divided data i (i = 1, 2,..., N) from the primary data storage system to the secondary data storage system;
A program for causing a computer to execute a procedure for ending the data migration processing when all the divided data i (i = 1, 2,..., N) are transmitted.
前記第三のプログラムは、
前記一次データ格納システムから前記二次データ格納システムへ移行するデータを、n個に分割した分割データi(i=1,2,…,n)を受信する手順と、
前記分割データi(i=1,2,…,n)を、全て受信したかを確認する手順と、
受信できなかった分割データm(1≦m≦n)があることを検出したときに、その旨を、前記一次データ格納システムへ通知する手順と、
再送される前記分割データmを受信する手順と、
前記分割データi(i=1,2,…,n)を全て受信できたときに、その旨を、前記一次データ格納システムへ通知して、移行処理を終了する手順とをコンピュータに実行させ、
前記第四のプログラムは、
前記一次データ格納システムから前記二次データ格納システムへ移行するデータを、n個に分割した分割データi(i=1,2,…,n)を受信する手順と、
受信できていない分割データm(1≦m≦n)があった場合に、当該分割データmの受信を所定時間だけ待っても、前記分割データmを受信できなかったときには、タイムアウトとする手順と、
全ての分割データi(i=1,2,…,n)を受信できたときに、又は、全ての分割データi(i=1,2,…,n)を受信できていないが、受信できていない分割データについては、タイムアウトとなったときに、前記データの移行処理を終了する手順とをコンピュータに実行させる
プログラム。 A third program for executing a migration process for migrating data from the primary data storage system in the secondary data storage system, and a migration process for migrating the data from the primary data storage system in the secondary data storage system And a fourth program for executing
The third program is:
A procedure of receiving divided data i (i = 1, 2,..., N) obtained by dividing data to be transferred from the primary data storage system to the secondary data storage system into n pieces;
A procedure for confirming whether all of the divided data i (i = 1, 2,..., N) have been received;
A procedure for notifying the primary data storage system when it is detected that there is divided data m (1 ≦ m ≦ n) that could not be received;
Receiving the divided data m to be retransmitted;
When all of the divided data i (i = 1, 2,..., N) have been received, the fact is notified to the primary data storage system, and the procedure for ending the migration process is executed by the computer,
The fourth program is
A procedure of receiving divided data i (i = 1, 2,..., N) obtained by dividing data to be transferred from the primary data storage system to the secondary data storage system into n pieces;
When there is divided data m that cannot be received (1 ≦ m ≦ n), if the divided data m is not received even after waiting for reception of the divided data m for a predetermined time, a procedure for setting a timeout ,
When all the divided data i (i = 1, 2,..., N) can be received, or not all the divided data i (i = 1, 2,..., N) can be received. A program for causing a computer to execute a procedure for ending the data migration process when a time-out occurs for divided data that has not been processed.
請求項7記載の第一のプログラムと第二のプログラムとの双方を、コンピュータにより動作させ、
前記第一のプログラムは、当該1次ストレージに格納されたセンサデータを二次データ格納システムへ移行させる移行処理を実行し、
前記第二のプログラムは、当該1次ストレージに格納されたセンサデータを二次データ格納システムへ移行させる移行処理を実行する
ホームサーバ。 A primary storage for storing sensor data indicating the device usage status sent from the home appliance;
Both the first program and the second program according to claim 7 are operated by a computer,
The first program executes a migration process for migrating sensor data stored in the primary storage to a secondary data storage system,
The second program is a home server that executes a migration process for migrating sensor data stored in the primary storage to a secondary data storage system.
請求項7記載の第一のプログラムと第二のプログラムとの双方を、コンピュータにより動作させ、
前記第一のプログラムは、当該1次ストレージに格納された前記センサデータを二次データ格納システムへ移行させる移行処理を実行し、
前記第二のプログラムは、当該1次ストレージに格納された前記センサデータを二次データ格納システムへ移行させる移行処理を実行する
車載サーバ。 A primary storage for storing sensor data indicating a traveling position sent from a position measuring device installed in the automobile;
Both the first program and the second program according to claim 7 are operated by a computer,
The first program executes a migration process for migrating the sensor data stored in the primary storage to a secondary data storage system,
The second program executes a migration process for migrating the sensor data stored in the primary storage to a secondary data storage system.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006339750A JP2008152531A (en) | 2006-12-18 | 2006-12-18 | Distributed data storage system, program, transfer client, transfer server, home server, and on-vehicle server |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006339750A JP2008152531A (en) | 2006-12-18 | 2006-12-18 | Distributed data storage system, program, transfer client, transfer server, home server, and on-vehicle server |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008152531A true JP2008152531A (en) | 2008-07-03 |
Family
ID=39654639
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006339750A Withdrawn JP2008152531A (en) | 2006-12-18 | 2006-12-18 | Distributed data storage system, program, transfer client, transfer server, home server, and on-vehicle server |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008152531A (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009123125A (en) * | 2007-11-16 | 2009-06-04 | Fujitsu Component Ltd | Kvm switch, information processing apparatus, and program |
JP2010026626A (en) * | 2008-07-16 | 2010-02-04 | Ono Sokki Co Ltd | Method, system and program for recording data |
-
2006
- 2006-12-18 JP JP2006339750A patent/JP2008152531A/en not_active Withdrawn
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009123125A (en) * | 2007-11-16 | 2009-06-04 | Fujitsu Component Ltd | Kvm switch, information processing apparatus, and program |
JP2010026626A (en) * | 2008-07-16 | 2010-02-04 | Ono Sokki Co Ltd | Method, system and program for recording data |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Garg et al. | Analysis of preventive maintenance in transactions based software systems | |
CN104092719B (en) | Document transmission method, device and distributed cluster file system | |
CN109358947B (en) | Method and system for realizing virtual machine snapshot | |
CN103581225A (en) | Distributed system node processing task method | |
CN103905533A (en) | Distributed type alarm monitoring method and system based on cloud storage | |
CN109032837A (en) | The method and apparatus of data backup | |
CN106603692B (en) | Data storage method and device in distributed storage system | |
US20080270823A1 (en) | Fast node failure detection via disk based last gasp mechanism | |
CN104063293A (en) | Data backup method and streaming computing system | |
CN101137984A (en) | Systems, methods, and software for distributed loading of databases | |
JPWO2008139521A1 (en) | Remote file system, terminal device and server device | |
CN103647804A (en) | Method for data processing of storage unit, device and system | |
CN101827120A (en) | Cluster storage method and system | |
JP5250955B2 (en) | Data processing system backup control apparatus and system | |
JP2008152531A (en) | Distributed data storage system, program, transfer client, transfer server, home server, and on-vehicle server | |
JPH07183905A (en) | Remote monitor system | |
KR101499890B1 (en) | Low Latency Framework System | |
CN111309515B (en) | Disaster recovery control method, device and system | |
CN116346823A (en) | Big data heterogeneous task scheduling method and system based on message queue | |
CN116521639A (en) | Log data processing method, electronic equipment and computer readable medium | |
JPH05298215A (en) | Omitted data detecting/retransmitting method | |
US20060248531A1 (en) | Information processing device, information processing method and computer-readable medium having information processing program | |
CN114003379A (en) | Method and device for improving data acquisition continuity of Internet of things | |
JP5136200B2 (en) | Logging system | |
CN106484536B (en) | IO scheduling method, device and equipment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20100302 |