JP2022528578A - 強化セキュリティ、レジリエンス、及び、コントロールによる分散データストレージのための方法及びシステム - Google Patents

Abstract

関連するメタデータを含むデータファイルを暗号化し、再構築するための方法及びシステムを開示する。この方法は、データ及びメタデータをチェーン化プロセスとして別々に暗号化し、技術のコレクションの統合された利点をもたらす複数の暗号化／符号化技術を戦略的な記憶分散技術及び解析技術と共に統合することを含む。開示されているように、コンテンツデータは、そのメタデータから分離され、暗号化キーは、メタデータに埋め込まれてもよく、コンテンツデータの暗号化チェーン化プロセスにおいて、チャンク化、暗号化、シャード化、及び、コンテンツデータとシャードとを別々に記憶し、メタデータを柔軟、分散、効率的な方法で格納することができ、少なくとも部分的には、レジリエンスの向上を保証する。コンテンツデータ又はプロキシサーバのサイトに含めて、プロセスはローカルに実施されることが好ましい。

Description

（関連出願の相互参照）
本出願は、２０１９年５月２２日に出願され、現在係属中の米国仮特許出願第６２／８５１，１４６号の優先権を主張し、その全体は参照により組み込まれる。

データ保護は、セキュリティ及びレジリエンスの観点からストレージ技術分野において周知の課題である。従来の解決策に関して、エラー訂正能力を改善するために、ＣＤ、ＤＶＤ、ＱＲコード（登録商標）などに広く使用されている消去コード（Ｅｒａｓｅ Ｃｏｄｅ）、及び、多項式補間技法を用いて秘密を保護するシャミア秘密分散法（Sharmir’s Secret Sharing Scheme（SSSS））などの周知の解決策がある。それらの（ｔ，ｎ）閾値プロパティは、オリジナルデータを再構成するために、ｎからのシェア（又はシャード）と呼ばれる少なくともｔデータピースを必要とする。このプロパティは、ｎ複製コピーと同様であるが、追加の制約ｔを導入するが、サービスの中断なしにｎ－ｔストレージノード障害を許容することから、オリジナルを再構成するときのデータレジリエンスを改善する。データ保護の観点から、（ｔ，ｎ）閾値プロパティは、また、少なくともｔシェアがアクセス可能であり、有効である場合にのみ、オリジナルデータを明らかにする。

消去コードは、伝達又はストレージ効率を最大化することにより、データ内のビットエラーを訂正することを目標とする。したがって、ほとんどのアプリケーションは、リードソロモンコード（Reed-Solomon（RS） Code）のような消去コードのみに基づいている。コンピュータストレージにおいて、消去コードは、異なるレベルの障害の下で信頼性の高いストレージコンポーネントのために設計された、特に、レベル５及び６のレイド（Redundant Array of Independent Disks（RAID））を実現するために使用されてきた。

大規模データストレージシステムは、新しい技術的課題、即ち、メタデータの管理及び保護をもたらす。柔軟性及び拡張性を実現するために、データは、そのメタデータと共に分散ストレージに記憶される。メタデータは、必要なデータピースの場所に関する情報を含む。したがって、メタデータを確実且つ安全に記憶するためには、別のデータ保護層が通常必要である。

例えば、ＳＳＳＳ及びＲＳコードが（ｔ，ｎ）閾値プロパティを有し、オリジナルデータを再構成するためにｎから少なくともｔデータシェアを必要とする場合であっても、シャミア秘密分散法（ＳＳＳＳ）及びＲＳは、データのセキュリティ及びエラー訂正をそれぞれ保護するために使用されてきた。それらは、それぞれ、暗号化及びエラー訂正を目的とする。

ＳＳＳＳは、暗号化キーを使用せずにシークレットを複数のシェアｎに記憶する暗号化技術として設計されている。ＳＳＳＳは、理論暗号化を保証する多項式補間を利用することから、ｔシェア未満でＳＳＳＳを破壊する方法は知られていない。

分散データストレージは、そのスケーラビリティ及びコスト効率のために現れた。周知の分散データストレージシステムの１つは、ハドゥープファイルシステム（Hadoop File System（HDFS））であり、マップリデユース（ＭａｐＲｅｄｕｃｅ）などの並列データ作業負荷を実施するために非常に大きなデータセンターストレージシステム用に設計されている。ＨＤＦＳは、データの３つの複製コピーを提案し、２つは、同じラックにおける２つの異なるノードに記憶され、別の１つは、異なるラック（ロケーション）における異なるノードに記憶されている。このストラテジは、障害局所性を活用することによって、データアクセス性を簡単に改善する。最近では、キーと値とのペアを使用してＩ／Ｏクエリを簡素化するために、オブジェクトストレージ解決策が使用されている。

分散ストレージシステムには直接的な課題がある。第１の課題は、メタデータ管理に関するものである。データコンテンツは複数の記憶ノードに分散されることから、分散されたコンテンツのアドレスは、安全且つ信頼性の高い場所に維持される必要がある。これは、シングルポイント障害と性能ボトルネックとなる。メタデータの記憶は、性能ボトルネックが存在するディレクトリサービス及びメタデータのルックアップ操作に主に関連するため、システム性能に大きな影響を与える。たとえば、リスト（Ｌｉｓｔ）及びスタット（Ｓｔａｔ）は、読み取り（Ｒｅａｄ）及び書き込み（Ｗｒｉｔｅ）よりも頻繁に呼び出される。Ｃｅｐｈ^１は、サーバ間でメタデータリクエストクエリをより効率的に分散するために、メタデータサーバファームとメタデータのロケーションとを構築する方法を提案した（Ceph¹:[1]S. A. Weil, S. A. Brandt, E. L. Miller, D. D. E. Long, and C. Maltzahn, “Ceph: A Scalable, High-performance Distributed File System”, 7th Symposium on Operating systems design and implementation (OSDI). Nov, 2006.）。Ｃｅｐｈのハッシュ関数は、サーバファームにおけるメタデータクエリのシャードパスを最小化するように設計された。

性能の問題だけでなく、分離の結果として、セキュリティ及びレジリエンスも難しいトピックである。データ暗号化技術を用いてメタデータを保護することは、余分な計算コスト及び性能劣化を引き起こす。

重要なことは、従来の解決策では、ストレージ及び検索は同期プロトコルの下で行われるが、本発明では、以下に詳述するように、ストレージ及び検索は非同期で行われる。

別の課題は、エンドツーエンドソリューションのためのアーキテクチャ上の柔軟性の制限である。ほとんどの分散ストレージシステムは、ネットワーク遅延が約１ｍｓ未満の同じデータセンタにおけるクライアント向けに設計されており、マルチデータセンターソリューションに悪影響を与える。例えば、クライアントデバイスがモバイルであるクライアント中心のアーキテクチャを採用した場合、クライアントデバイスはインターネット経由でストレージノードとメタデータサーバノードとに接続される可能性がある。クライアントはモバイルであるか、又は、データセンタの外部にいることから、システム性能は、データセンタ内部のストレージサービスに匹敵しない。

本出願は、安全なストレージのためのネットワーク装備デバイス及びネットワーク装備ストレージノードを用いて、データ及びメタデータをチェーン化プロセスとして別々に暗号化する方法及びシステムに関する。ここで、プロセス及びシステムは、現在利用可能なレベルを超えて信頼性及びレジリエンスがある。本発明の方法及びシステムは、様々な暗号化／符号化技術を戦略的ストレージ技術及び解析技術と共に統合し、その結果、技術の集合の完全利点が得られる。本発明は、コンテンツデータをそのメタデータから分離し、コンテンツデータ暗号化チェーン化プロセスにおいて、本発明は、コンテンツデータを、チャンク化、暗号化し、シャード化し、記憶し、別々にメタデータを、シャード化し、記憶する。ここで、メタデータは、コンテンツデータ暗号化チェーン化プロセスに関連する情報で強化される。本発明の方法は、計算暗号法及び理論暗号法の両方を使用する。更に、プロセスは、好ましくは、コンテンツデータ又はプロキシサーバのサイトを含めて、ローカルに実施される。

好ましい実施形態では、コンテンツデータはチャンク化され、次いで、各チャンクは、ランダムに生成されたキーベースのＡＥＳ－２５６（又は均等物）で暗号化され、次いで、ＲＳ符号化され（又は均等物）、シャードに分割される又は「シャード化」される。ここで、シャードは、暗号化及び符号化に続いてファイルを解析することによって形成されるファイル部分である。メタデータは、ＳＳＳＳ暗号化されたチャンクＩＤを導入することによって変更され、次に、キーシャードと組み合わせてシャード化され、次に、ＳＳＳＳ暗号化キーシャードは、メタデータ暗号化プロセス中に導入される。少なくとも２つの暗号化方法を使用していることに注意することが重要である。暗号化方法は、（１）データシャードを作成するためのＡＥＳ＋ＲＳ、及び、（２）メタデータシャードに記憶されているチャンクＩＤ及びＡＥＳキーのためのＳＳＳＳである。

簡単に言うと、本発明は、暗号化プラス符号化の複数の形態と、暗号化された（いくつかのデータについては符号化された）ファイルの分散ストレージとを備える。

この方法は、従来の解決策に関して、セキュリティ及びレジリエンスの改善を可能にし、より迅速な回復を可能にし、また、データアクセスコントロールのためのストレージ管理及び構成に対するユーザの好みに基づいて制御可能である。

図１は、推論及びイベント検出を特に示す本発明の推論及びイベント検出を示す。

図２は、本発明のイベントログ収集及びトレーニングを示す。

図３は、本発明のファイル及びメタデータ／キー暗号化チェーンを示す。

図４は、システムコンポーネント、相互作用、及び、プロセスステップを示す。

図５は、本発明においてデータ経路制御経路がどのように分離されるかを示す。

図６は、本発明のファイルストアのステップバイステップ手順を示す。

図７は、ブラックリストロストクライアントを示し、新しいクライアントを設定する。

図８は、データストレージ障害によるファイルストアの手順を示す。

図９は、メタデータ／キーストレージ障害によるファイルストアの手順を示す。

図１０は、本発明の「複製」データ及び「暗号化」データのメタデータの符号化を示す。

図１１は、ファイル暗号化及びメタデータ暗号化の例を示す。

本発明は、データ暗号化／符号化のための計算暗号化技術に少なくとも部分的に基づいて、データ暗号化チェーン化モジュールと、理論暗号化技術によってデータ暗号化チェーン化モジュールに追従する異なるメタデータ／キー暗号化チェーン化モジュールと、の組み合わせを使用することによって、前述の暗号化／ストレージの課題を解決する。他でもコンテンツデータとは別にメタデータを記憶及び構成するが、それらは、単にコンテンツ及びメタデータを別々に記憶することに焦点を当てているだけであり、本明細書に記載される多くの重要且つ有益な属性及びアプローチを含んでいない。信頼性及びセキュリティは、コンテンツストア／ストレージの伝統的な優先順位である。信頼性及び負荷バランスは、メタデータ／キーストア／ストレージの重要な優先順位でもある。本発明は、コンテンツデータ及びメタデータ／キー暗号化の実用的な実施を、コンテンツのための少なくとも計算暗号化技術と、メタデータ／キーのための少なくとも理論暗号化技術とを用いて別々に（まだ相互に関連して）チェーン化プロセスにおいて実施することによって、技術を進歩させ、それによって、以前は安全なストレージのために使用されていなかったアーキテクチャを実施する。この解決策は、他の利点の中でもとりわけ、個々のユーザ、「グループ」ユーザ（共通のストレージを有するビジネスなど）、及び、マルチデータセンタユーザ（サービスのバックエンドに複数のデータセンタを有するユーザなど）に対して、速度、レジリエンス、及び、回復、並びに、セキュリティの大幅な改善を提供し、それによって、複数のユーザタイプに同時にサービスを提供する。計算暗号化技術と比較して、いくつかの暗号化アルゴリズムは、攻撃者によって数学的に破ることができない理論暗号化アルゴリズムとして証明されている。使用される計算暗号化アルゴリズムは、実際には、使用中のアプローチにとって十分に長いオリジナルデータを反転するための時間量に基づいて決定可能である。一方、理論暗号化アルゴリズムは、暗号化されたデータを破ることが必要な条件を満たさずに数学的に不可能であるという解決策を提供する。

定義上、「符号化」という用語は、ＲＳコード（又は均等物）を使用して各暗号化チャンクからデータシャードを生成し、ＳＳＳＳ（又は均等物）及び／又はチャンク暗号化に「暗号化」を使用する状況で使用される。「チャンク」という用語は、ファイルを操作せずに複数のピースに分割するコンテキストで使用される。「シャード」という用語は、出力に（ｔ，ｎ）閾値プロパティがある場合に使用される。暗号化されたチャンクをデータシャードに暗号化すると、出力に暗号が保持される。「メタデータシャード」は、暗号化されたチャンクＩＤとファイル属性とを含むデータとして定義される。「キーシャード」は、ＳＳＳＳ又は均等物を使用して各チャンク暗号化キーの暗号化データとして定義される。本出願は、クライアントをデスクトップ、ラップトップ、携帯デバイスなどのユーザ向けデバイスとして定義する。クライアントの拡張定義は、ユーザドメインにあるサーバマシンを含む。

本発明では、データが最初にチャンク化され、暗号化され、次に、シャード化される。メタデータ及びコンテンツデータは、別々に暗号化及び符号化され、別々に記憶される。本発明の暗号化／符号化スキームは、暗号化スキーム、符号化スキーム、及び、ストレージスキームに部分的に基づいて、並びに、どのようにメタデータが認可されたユーザにアクセス可能なままであるかに基づいて、ストレージ効率、データレジリエンス、及び、セキュリティを劇的に改善する。本発明の方法は、物理的攻撃又はサイバー攻撃からの防止を意味するシステム信頼性、及び、ファイルの損傷後にファイルを回復する能力を意味するリジリエンスを維持又は改善する。

本発明のアプローチは、暗号化及びストレージのための新規なシステムアーキテクチャと、コンテンツ及びメタデータの両方に対する新規な暗号化及び符号化アプローチとを含む。これらのアプローチによって提供される改善には、リモートストレージの待ち時間の克服、ＡＩ（人工知能）を使用するストレージ分散技術の進歩、とりわけ非構造化データの監視、コントロール、及び、管理に関する利点が含まれるが、これらに限定されない。

この解決策は、ファイルコンテンツとそのメタデータ／キーという２つの別々の暗号化チェーンが作成される。それぞれが別々に暗号化され、符号化を含むファイルコンテンツで異なるアプローチが使用される。ファイルコンテンツ符号化アルゴリズムは、例えばＡＥＳ－２５６のような周知のアルゴリズムを用いてコンテンツが既に暗号化された後にのみ実施されるＲＳ符号化のような、性能集中情報分散アルゴリズム（計算暗号アルゴリズムとして知られる）を含む。ファイルコンテンツ符号化のプロセスにおいて、ファイルを暗号化するために、１つ以上のランダムに生成された暗号化キーと、潜在的に含まれるナンス（本発明において典型的にランダムに選択される初期化ベクトルを含む）とが使用される。暗号化キーを安全に記憶するために、キーは、メタデータファイルに記憶されるか、又は、一般的な方法ではなく、データシャードと一緒に別に記憶される。コンテンツデータからの暗号化キーの分離は、たとえアタッカーが既にデータ保存アクセス許可をとらえ、及び／又は、何らかの方法でキーを入手したとしても、アタッカーからコンテンツデータを保護する。本発明では、メタデータが追加の重要な情報を含むように修正されることから、本発明はセキュリティ集中情報分散アルゴリズム（理論暗号化アルゴリズムとして知られる）をメタデータに適用する。本発明は、チャンク（チャンクＩＤ）の各基準を暗号化し、ＳＳＳＳ又は均等物のみを使用して暗号化キーを使用する。ＳＳＳＳの理論は、十分な数（例では、＞＝２）のシャードが再構成に利用可能な場合にのみ、メタデータ再構成が利用可能であることを保証する。

従来のアプローチと比較して、本解決策は、既存の課題を解決し、システム性能を改善すると同時に、従来のストレージの必要性を低減する。ストレージシステムが達成する必要がある最も重要な目標は、データの有効性、レジリエンス、及び、信頼性である。データの有効性及びリジリエンスを向上させる最も一般的な解決策は、データバックアップである。データバックアップは、通常、冗長データを記憶するために、少なくとも２つのデータストレージ領域が必要である。本発明は、より少ない、典型的には、ｎ／ｔ倍のストレージ空間を必要とする。ここで、ｔは必要なシャード数であり、ｎは記憶されたシャード総数である。ｎの代わりにｎからtを必要とするだけで、レジリエンスは劇的に改善する。従来の解決策では、ＲＡＩＤ（Redundant Array of Independent Disks）がデータにエラー訂正コードを追加することで、データバックアップに対する略同じレジリエンスを保証しながら、ストレージ効率を改善させる。これらのかつての最先端ストレージ解決策（本発明に先立つ）は、有効性とレジリエンスとの両方を達成するために分散ストレージノードを使用する。それらは、消去コードのようなエラー訂正コードを利用し、データピースを分散ストレージノードに記憶し、符号化パラメータに基づいて一定数のストレージノード障害を可能にする。しかし、これらの解決策は、メタデータとコンテンツデータとの別のストレージに向けられているだけである。

本発明は、メタデータ／キーストレージをコンテンツデータストレージから分離するが、この２つの間の関係性を保持する。更に、本解決策は、ユーザに様々なストレージバックエンドの最適且つ改善された時間構成を提供し、異なるベンダ及びユーザ自身のストレージノードからのクラウドストレージサービスなどの異なるタイプのバックエンドストレージを接続する。即ち、本発明は、単一のコンピュータのストレージ／ユーザのストレージにおいてさえ、ストレージタイプ（及びロケーション）に依存せず、複数のストレージタイプの同時使用を可能にする。このアプローチは、従来の解決策が多様なバックエンドストレージの編成に設計されていなかった、又は、編成に成功しなかったことから、追加の利点を提供する。バックエンドストレージの多様性のために、システム性能及び効率を改善するための構成は、エキスパートによって行われなければならない通常高度なタスクであり、それによって、不安定な層及びリスクを従来の解決策に追加する。本解決策における編成層は、任意選択でＡＩ支援最適化モジュールを用いて、構成タスクの抽象化を提供する。最適な構成は、コスト最適化、ストレージ効率化、セキュリティ改善、ポリシー構成の簡略化、高度な監視メトリック、及び、アラート管理を含むが、これらに限定されない。

また、本解決策は、少なくとも部分的には、メタデータがどのようにストレージ用に構成され、どのようにストレージが選択されるかによって、長い待ち時間ネットワークにおけるメタデータ操作の待ち時間を低減する。従来の解決策では、使用されるストレージアプローチのために、回復待ち時間が主要な一般的な問題である。ファイルシステムの整合性を保ち、ファイルデータ操作性を最新の状態に保つために、ファイルディレクトリとファイル統計情報とを頻繁に検索する必要がある。即ち、リモートバックアップは、１回だけでなく、定期的且つ自動的に実行され、記憶されているコンテンツ及びメタデータが更新される。したがって、メタデータオペレーションのパフォーマンスは、全体的なシステムパフォーマンス及びユーザ経験に直接関係する。分散ストレージソリューションは、メタデータを検索する操作を必要とするため、長い待ち時間ネットワークを超えて配置されたメタデータサーバは、システム性能に関連するボトルネックとなる。従来発明と比較して、本解決策は、パフォーマンスを低下させることなく、インターネットなどの長い待ち時間のネットワークにおいてバックエンドストレージを使用することを意図している。本解決策は、ローカルマシンにおける潜在的なストレージを含む分散メタデータストレージに記憶される操作属性とコンテンツ参照とを分離することにより、メタデータ操作の待ち時間を低減する。

本解決策は、非同期アプローチを実施することにより、長い待ち時間ネットワークにおいて、読み取り及び書き込みなどのファイルコンテンツ操作に関連するユーザエクスペリエンスをさらに改善する。通常、長い待機ネットワークは、ファイルコンテンツ操作のパフォーマンスに悪影響を与える。パフォーマンスは、ボトルネックリンクに依存する。ボトルネックリンクは、ユーザデバイスとバックエンドストレージと間のネットワークに存在することがよくある。本発明の文脈では、ユーザデバイスがユーザのデータのストレージにネットワークインターフェイスを装備するサーバ、携帯デバイス、又は、スタンドアロンコンピュータとすることができる。ここで、ユーザは、個人又はグループ（企業など）とすることができる。一般的な同期アプローチは、ユーザエクスペリエンスに直接悪影響を与える。これは、ユーザが長い待機ネットワークにおけるバックエンドストレージからの応答を待機する必要があるためである。本解決策は、長い待ち時間のネットワークにおけるユーザデバイスとバックエンドストレージとの間の遅延を吸収するために非同期アプローチを使用する。バックエンドストレージからの応答を待機する代わりに、このアプローチは、特にリクエストが中間状態として局所的に行われている場合、結果が後で非同期に更新されるようにバッチプロセスとして同期するようにスケジュールされた早期応答を返す。

以下は、上述の課題を解決し、他がどのようにデータを記憶するかという制限を克服するための本発明の追加の独特且つ新規な解決策について記載する。

人工知能（ＡＩ）支援最適構成
本発明は、ＡＩを使用してバックエンド構成を最適化し、多様なバックエンドストレージ及び構成に抽象化されたレベルのコントロールを提供する。本解決策は、人間に優しいインターフェイス（グラフィックユーザインターフェイス、ＧＵＩ、及び／又は、ファイルシステムインターフェイスを含む）、及び、詳細なストレージ構成を導出するための推論モジュール及びインタプリタとして機能する言語を提供する。図１参照。ＡＩの適用は、（ｉ）最適なデータ割り当てによってストレージコストを最適化すること、（ｉｉ）ユーザデータアクセスパターン、及び、ユーザ及びストレージのロケーション情報に基づいてデータアクセス待ち時間を最適化すること、及び、（ｉｉｉ）データ再構成のためのシャード数を動的に変更すること、によってセキュリティのレベルを高めることを含むが、これらに限定されない。ＡＩアルゴリズムを使用する際、本解決策は、ユーザのファイル操作イベントから匿名ログを収集する。図２参照。ファイル操作イベントログは、ＡＩアルゴリズムを訓練するために、パターンアナライザによる分析のために記憶されてもよい。アルゴリズムが訓練されると、モデル及びパラメータは、アルゴリズムが実際に実施されるＡＩ支援モジュールに配備される。ＡＩ支援モジュールは、ユーザデバイスからイベントを受信して、最適な構成、異常検出などを実施する。データロケーションは、記憶且つ暗号化されたメタデータ内に保持され、ＡＩに基づく調整に基づいて更新される。

本発明の文脈における追加のＡＩアプリケーションのサンプルは、以下を含む。

(１)最適なストレージ選択－性能

システムは、各バックエンドストレージの経験速度を測定するために、ストレージ（及び潜在的により一般的なアクセス）に対するアップロード及びダウンロードイベントを収集する。シャードを記憶し、記憶するシャード数よりも多数のストレージを想定する場合、システムは、データ記憶待ち時間を最小限に抑えるために、より多くのシャードをより高速のバックエンドストレージに記憶する。待ち時間は最も低速なストレージのボトルネックによって決定されることから、各ストレージのシャード記憶待ち時間の最大値を最小値にする最小最大アルゴリズムにより、データアップロード待ち時間全体が削減される。ファイルを再構築するためにシャードをフェッチする場合、最小最大アルゴリズムは、各ストレージでの最大待ち時間を最小限に抑えるために、シャードが記憶されている全ｎのうち高速ｔストレージも選択する。

(２)最適ストレージ選択－コスト

システムは、ファイルアクセス頻度を収集して、アクセスが最も少ないファイルをコールドストレージに移動させる。議論のために、２層のストレージ、即ち、ホットストレージ及びコールドストレーがあると仮定する。ホットストレージは高速であるが高価であり、コールドストレージは低速であるが費用効果がある。既存のサービスは、コールドストレージに移動するデータを決定するために、記憶する時間又は最後のアクセスに基づいて、ストレージローカルに単純なポリシーを提供する。本発明は、ｎシャードを記憶し、ｎのうちのｔを必要とし、オリジナルデータを再構成することから、決定は、コールド又はホットのバイナリ選択ではなく、いくつのシャード、シャードのどの部分、又は、どのシャードがコールド及びホットストレージに向けられるかに基づいている。本発明のシステムは、シャードアクセスイベント及び頻度を定期的に収集して、コールドストレージ移動コストを含むストレージの推定コストを計算する。本発明のシステムは、異なるタイプのストレージからの複数のパラメータを考慮する場合に、構成の複雑性を低減する。パフォーマンスメトリックを一緒に考慮すると、アルゴリズムは、その後、シャードアクセスパターンに基づいて、コールドストレージからホットストレージにデータを移動させることができる。

(３)ファイルアクセス異常検出

自己相関は、本発明において適用され得るネットワーク化されたシステムの作業負荷における１つの特徴である。例えば、ネットワークトラフィックの研究は、トラフィックソース及び宛先の時間的及び空間的類似性に基づいて、規則的な（毎日のような）パターンを示す。本発明の一実施形態では、システムは、毎日及び毎週の類似性をほとんど示すファイルアクセスパターンに基づく自己相関を使用する。この特徴は、ディープラーニングと回帰法を用いた予測アルゴリズムの開発を可能にする。したがって、システムは、統計的に有意な不規則性又は逸脱などのパターンからの不規則性又は逸脱を決定することができ、したがって、悪意のあるユーザ又はマルウェアによる異常なファイルアクセスをシステム管理者に警告することができる。

長い待ち時間ネットワークでのメタデータ操作の待ち時間の削減
現在の解決策は、断片化されたファイルを複数のバックエンドストレージに記憶することから、メタデータは、オリジナルファイルを再構築するために必要な情報で強化される。メタデータは、ファイルサイズ、変更時間、アクセス時間などのファイル属性も通常記憶する。ファイル操作呼び出しの頻度の観察に基づき、ファイルコンテンツ操作が呼び出されるよりもメタデータ操作が頻繁に呼び出されることを観察した。その結果、メタデータ操作の待ち時間が短いと仮定してファイルシステムは設計される。したがって、従来の解決策は、障害による損失の不必要なリスクをもたらすローカルエリアネットワークにおけるメタデータストレージ（又はサーバ）を必要とした。しかしながら、本解決策は、分散データ暗号化の特性を維持しながら、長い待ち時間ネットワークに適用可能なメタデータを設計する。本解決策のメタデータは、「複製」データ及び「暗号化」データから構成される（図１０参照）。複製データは、ファイルのコンテンツに関連しない情報を含む。ファイル名、サイズ、変更時間、及び、その他のファイル属性は、複製データに記憶される。これにより、システムは、複数のメタデータシャードを収集し、データを復号化することなくデータを取得できる。一方、ファイルコンテンツ、チャンクＩＤ、及び、チャンク暗号化キーに関連する情報は、暗号化データとして記憶される。メタデータと暗号化キーとのための分散暗号化の特性を保持するために、本解決策は、ファイルコンテンツのために本発明で必要とされるものよりも強力なセキュリティレベルのメタデータを達成するＳＳＳＳ又は均等物を使用する。ＳＳＳＳは暗号化キーを必要としないことから、復号化は複数のデータシャードの収集のみを必要とする。したがって、本発明は、信頼性の根拠として、ストレージソリューションによって提供される多様な認証及びセキュリティソリューションを用いて分散ストレージを活用する。

複製データと暗号化データとの分離を使用したメタデータシェアの分散は、暗号化されたメタデータシャードの１つをローカルエリアネットワークのユーザデバイス又はメタデータサーバなどのローカルデバイスに保存することによって、メタデータ操作のパフォーマンスを改善させる。更に、本解決策は、メタデータシェアを冗長コピー及び暗号化されたデータシェアとして異なるロケーションに記憶することを可能にする。

ＯｐｅｎＤｉｒ及びスタット（Ｓｔａｔ）－メタデータ操作例
ユーザがディレクトリを開くと、ファイルシステムは、その子の情報、即ち、ファイル及びディレクトリのリストを返すべきである。ターゲットディレクトリの各子の情報を一覧表示するには、メタデータストレージは、オブジェクト名又はプレフィックスに基づいてメタデータ選択機能を提供する必要がある。本発明は、ネイティブディレクトリ構造、キー値ストレージ、及び／又は、データベースシステムを用いてディレクトリシステムを実施することができる。１セットのメタデータシェアは、ローカルに記憶されることから、子ディレクトリとファイルとの識別は、リモートメタデータファイルなしで実施される。つまり、本ユーザは、ローカルデバイスに記憶されているメタデータを「ロック解除」し、回復したいファイルのみを識別することができる。

次の操作では、スタット操作がメタデータシェアのセットに複製データとして記憶されているファイル属性を返す。したがって、スタット操作は、軽量な方法、即ち、ローカルデバイスに記憶された対応するメタデータシェアを調べる方法で実施される。

読み込み－ファイルコンテンツ操作例
本発明では、チャンクＩＤはＳＳＳＳのような技術を用いて暗号化されることから、チャンクＩＤを復号するには２つ以上のメタデータシェアを用いる必要がある。暗号化技術はＳＳＳＳに限定されない。この手段では、少なくとも１つのメタデータシェアをリモートメタデータサーバから取得する必要がある。これは、シンプルなメタデータルックアップ操作よりも時間がかかる。しかしながら、リモートストレージからメタデータシェアをダウンロードする時間は、ファイルコンテンツのダウンロードよりも大幅に短くなる。また、メタデータ操作とは異なり、ファイルコンテンツ操作は、メタデータ操作ほど頻繁にリクエストされない。したがって、リモートサーバからのメタデータダウンロードの余分な遅延は、ダウンロード完了時間に関してファイル読み取り操作の重要な要因ではない。

リモートストレージへの非同期コンテンツ転送
本解決策は、暗号化されたコンテンツをリモートストレージに送信する前に、暗号化されたコンテンツをユーザデバイスにステージ化することによって、ユーザエクスペリエンスを改善する。したがって、本解決策は、結果をユーザに早期に返し、データをバックエンドストレージに非同期に送信することによって遅延を吸収する。例えば、現在のファイルシステムインターフェイスがファイルを書き込むなどのファイルコンテンツ操作のリクエストを受信した場合、この操作は、符号化されたコンテンツをステージ化されたステータスとしてローカルバッファに記憶した後、結果をユーザインターフェイスに返す。ステージ化されたステータスは、バックグラウンドで非同期に完了するようにバッチスケジュールされる。この設計は、ユーザデバイスとリモートストレージとの間の待ち時間をユーザ対話から切り離すことから、ファイルを書き込むときのユーザエクスペリエンスを大幅に改善する。

リモートストレージからのファイルコンテンツの事前フェッチ及びキャッシュ
リモートストレージとローカルストレージと間の待ち時間に大きなギャップがあることから、事前フェッチとキャッシュとにより、読み取り操作の完了時間とユーザエクスペリエンスとが改善する。ファイル書き込み操作とは異なり、ファイル読み取り操作は、通常、ユーザのファイル読み取り直後にデータコンテンツを配信する必要があるオンデマンド操作である。リモートストレージから必要なデータピースをダウンロードするための遅延を低減するために、本解決策は、モデルが本発明のＡＩモジュールによって計算されるユーザのファイルアクセスパターンに基づいて、必要なデータピースを事前フェッチする。このモジュールは、時間的自己相関、ユーザＩＤ、アプリケーションのタイプ、キャッシュストレージの容量などを利用して、キャッシュされたデータの寿命及び置換、データの事前フェッチなどを決定する。

従来の解決策は、複数のバックエンドストレージを使用し、消去コード又はＳＳＳＳ（又はそれらの変形例）を使用することによって統合層を提供する分散ストレージシステムに向けられていた。ＷＡＮ及びＬＡＮに多様なバックエンドストレージを導入したものもあるが、管理性及び効率性の改善は未解決の問題のままであった。本解決策は、ＷＡＮ及びＬＡＮに配備された分散ストレージシステムにおけるこれら及び他の問題に対処し、それらの構成性及び性能（即ち、待ち時間）を改善する。コスト、性能、及び、セキュリティに関する多様なバックエンドストレージ構成の複雑性を克服するために、本発明は、イベントログコレクタ（インターフェイス）、データアナライザ（アルゴリズム生成）、アルゴリズムトレーナ（パラメータチューナ）、モデルデプロイヤ（バッチ処理）、及び、実施部（プロセッサ）を含むＡＩモジュールを使用する。（図１、図２参照）。

また、本解決策は、分散ストレージソリューションにおける新たな課題、即ち、バックエンドストレージ及びメタデータサーバが長い待ち時間ネットワーク（例えば、インターネット）に展開される場合のメタデータ操作及びファイルコンテンツ操作の長い待ち時間に対処する。本解決策は、コンテンツ操作よりも頻繁に呼ばれるメタデータ操作の待ち時間を低減することにより、ユーザエクスペリエンスを改善する。これは、ローカルストレージに複製されるメタデータの一部を一度に記憶／検索できるようにすることにより、ユーザエクスペリエンスを改善する。その間、本解決策は、ＳＳＳＳ（又は均等物）を用いてコンテンツ関連メタデータ（例えば、チャンクＩＤ）を暗号化し、メタデータを分散方式で安全に保つ。ファイルを書き込むときにリモートストレージに非同期ファイルコンテンツを転送すると、データストレージ手順がユーザ側の手順から切り離され、リモートストレージへのコンテンツアップロードタスクを完了する前に、ユーザインターフェイスへの応答が早く改善する。ファイルを読み取るときのＡＩ支援事前フェッチとキャッシュとは、ユーザのファイルアクセスパターン、アプリケーションのタイプなどに基づいて、ローカルデバイスに必要なデータコンテンツを配置するためのより良い予測を提供する。

また、本解決策は、ＲＳ符号化（又は均等物）を直接使用してコンテンツを符号化することに加えてコンテンツを暗号化し、ＲＳ符号化は、暗号化チャンクを符号化するために使用される。このような符号化は、少なくとも効率的なストレージを定式化するために有用である。したがって、より強力な暗号化を提供するが、より多くのオーバーヘッドを提供するＳＳＳＳのような別のアルゴリズムを使用する代わりに、本解決策は、ＡＥＳ－２５６（又は均等物）を使用してチャンクコンテンツを暗号化し、その暗号化キーをメタデータに別々に記憶する。

ＲＳコードは、ＳＳＳＳのような他のアプローチと比較して、ストレージ及び計算オーバーヘッドの点で効率的である。本解決策は、符号化の前にコンテンツを暗号化することによって、ＲＳコードのセキュリティ上の弱点を既に克服しているので、効率性及び性能に焦点を当てた他の同様のアルゴリズムを使用することができる。

ＳＳＳＳ（又は均等物）は、メタデータの暗号化に使用される。メタデータは、コンテンツ暗号化のルーツキーである。本発明は同じ（ｔ，ｎ）又は同様の閾値プロパティを提供する場合に他のアルゴリズムを使用することができるが、本発明は、コンテンツデータとは別々に暗号化され、記憶されるメタデータを保護するために、強力な暗号化アルゴリズムを使用し、必要とする。ＳＳＳＳは、理論的にその安全性を保証することから、アタッカーが十分な破片を有していない場合、強引な攻撃は不可能である。メタデータの全体的なサイズは、ファイルコンテンツよりもはるかに小さいことから、暗号化のオーバーヘッドは無視できる。

コンテンツ暗号化の場合、ＳＳＳＳは、ｎ時間のストレージオーバヘッドを示すが、ＲＳは、ｎ／ｔ時間のストレージオーバヘッドのみを示す。しかしながら、ＲＳは、暗号化のために設計されていないことから、アルゴリズムのランダム性が制限されている（静的であり、逆にするのが比較的容易である）。ＲＳコード上のコンテンツチャンクにＡＥＳ－２５６（又は他の暗号化）も使用することにより、解決策は、ｎ／ｔ倍のストレージオーバヘッドを達成しながらランダム性を改善する。ＡＥＳ－２５６（又は均等物）暗号化の暗号化キーを保護するために、２番目のチェーンは、ＳＳＳＳを使用してキーを暗号化し、キーシャードをメタデータシャードに記憶する。

ファイルコンテンツは、いくつかの理由でチャンク化される。第１に、チャンクは、複製されたコンテンツを識別する能力を提供し、その結果、コンテンツの１つのコピーのみをその基準と共に記憶することによって、記憶効率を改善することができる。第２に、チャンクはセキュリティを改善する。アタッカーは、ファイルコンテンツを取得するために必要なチャンクの基準を知る必要がある。第３に、それはデータストレージ及びそのロケーションの柔軟性を改善する。

本発明のシステムは、更に、ストレージアーキテクチャ及び環境にかかわらず、エンドツーエンドセキュリティを実施することに向けられている。ファイル暗号化／復号化操作は、メタデータ及びデータ読み取り／書き込み操作に統合され、これにより、中間者攻撃及び性能劣化の脆弱性が最小限に抑えられる。本発明のシステムアーキテクチャは、また、コントロールパスをデータパスから分離することによって、エンドツーエンドのセキュリティを強化する。

図３参照。本発明のファイル符号化アルゴリズムは、暗号化チェーンと呼ばれ、データ／メタデータ暗号化をデータ記憶戦略と統合することを目的とする。これは、たとえ敵が無限の計算能力を有していたとしても破壊することができない情報理論暗号と、実用的であるのに十分短い期間内に現在の計算技術で破壊することができない計算暗号との組み合わせである。

従来の解決策とは異なり、本発明のアーキテクチャは、データがクライアント（例えば、プロキシサーバを参照する時「クライアント」という用語を使用し、スタンドアロンサーバ又はコンピュータ又は他の計算デバイスとすることできる「ユーザ装置」という用語は、ここでは、様々な種類のクライアントを含むことが予測される）とデータ／メタデータ／キーストレージとの間で集約される単一点がなく、それによって「中間者」攻撃に対する脆弱性が排除されることに注意されたい。暗号化チェーンは、プロキシサーバなしでユーザデバイスで開始される。暗号化チェーンは、既存システムの修正を最小限に抑え、ユーザエクスペリエンスの修正を削減するために、メタデータ及びファイルＩ／Ｏ操作にシームレスに統合される。暗号化チェーンでは、ストレージノードからデータを収集する場合を除き、メタデータ及びファイル操作を変更する必要はない。

本発明の暗号化チェーンは、ファイル暗号化チェーンとメタデータ／キー暗号化チェーンとの２つの部分から構成される。ファイル暗号化チェーンは、コンテンツファイルのチャンクを含む。本発明の方法は、各チャンクを暗号化し、暗号化されたチャンクをシャード化する。各チャンクは、通常、複製されたピースを識別するために使用することができるコンテンツファイルのスライスである（KyoungSoo Park, Sunghwan Ihm, Mic Bowman, and Vivek S. Pai, “Supporting practical content-addressable caching with CZIP compression” Proceedings of the 2007 USENIX Annual Technical Conference, Santa Clara, CA, USA, June 17-22, 2007.）。本方法では、メタデータにロケーションを記したストレージ領域を節約するために、重複ピースのうち１つのコピーのみを記憶する（この技法をデータ重複排除と呼ぶ）。各チャンクは、ＲＳコードを使用して複数のシャードとして暗号化される。ＲＳコードは、一般に暗号化に使用されないことから、チャンクは、少なくとも１つの暗号化キーで暗号化される。チャンクは、チャンクがシャードとして符号化される前に、１回限りの使用のためにランダムに生成されたキーである。暗号化キーは、メタデータ／キー暗号化チェーン内に安全に記憶される。キーとチャンク識別子（チャンクＩＤ）とは、ＳＳＳＳによって暗号化される。チャンクＩＤシャードの各セットと暗号化キーシャードの各セットとは、メタデータとキーシャードファイルとの形成でそれぞれメタデータストレージノードとストレージノードとに分散される。このプロセスでは、複数のストレージノード間でのメタデータ、キー、及び、データシャードの割り当てを計算するために、一元化された部品は必要ない。以下のセクションは、図４を参照して、ファイル及びメタデータ／キー暗号化チェーンの詳細を説明する。図１０は、さらなる例を提供する。

チェーンの復号化
データ復号化は、暗号化チェーンの逆の手順である。通常のファイル操作に必要な手順である異なるメタデータ／ストレージから暗号化されたメタデータ／キーを収集することで、暗号化キーとチャンクＩＤとを復号化するために必要なキーシャードが収集される。次に、暗号化されたチャンクを再生成するために必要なデータシャードが収集される。最後に、オリジナルファイルは、チャンクを復号し、それらを順番に連結した後に再構成される。

図４は、システムコンポーネント、相互作用、及び、処理ステップを含むシステムアーキテクチャの一例を示す。ユーザデバイスは、コンテンツとメタデータとを暗号化（及び復号化）し、ユーザデバイスとストレージとの間でデータを同期する。論理Ｉ／Ｏモジュールは、ユーザと通信するインターフェイスである。論理Ｉ／Ｏモジュールがオープン、書き込み、読み取りなどのファイルＩ／Ｏリクエストを受信した場合、イベントハンドラは、ネイティブファイル操作イベントを奪いリクエストを処理し、ファイル処理のアドオン暗号化チェーンを実施する。エンドツーエンドのセキュリティを確実にするために、本発明は、データコンテンツをストレージに記憶する前に、ファイル暗号化を実施する場所として、フラッシュ（Ｆｌｕｓｈ）、Ｆｓｙｎｃ、及び、クローズハンドラ（Ｃｌｏｓｅ Ｈａｎｄｌｅｒｓ）を実施することが好ましい。

ラウンドロビン、ランダム、及び、最小最大アルゴリズムなどのアルゴリズムを含むが、これらに限定されない複数の使用可能なアプローチがある。本発明の一実施形態では、最小最大アルゴリズムが経験的データ伝達速度を使用して、各ストレージにおける最大伝達時間を最小化し、ストレージに伝達する。アップロードするとき、ここで実施されるように、最小最大アルゴリズムは、各チャンクについて記憶すべきシャード数である符号化パラメータｎよりも多くのストレージが利用可能である場合、より速いストレージにより多くのシャードを記憶する。ダウンロードするとき、現在の最小最大アルゴリズムは、対応するシャードが記憶されているｎストレージからチャンク、ストレージを再構成するのに必要なシャード数である高速ｔを選択することによって、より有用である。即ち、ｎシャードに分散されるファイルを再構築する場合、ｔチャンクが必要である。

ファイル暗号化チェーンのリンクされたチェーンとして、メタデータ／キー暗号化チェーンは、複数のメタデータとキーシャードとを生成する。これらのシャードは、メタデータシャードにおいて１つ以上の暗号化されたチャンクＩＤやＳＳＳＳによる暗号化キーなどの暗号化情報を含む。暗号化されたメタデータファイルの１つは、ユーザデバイスのメタデータストレージに記憶される。具体的には、メタデータシャードファイルのコピーをローカルデバイスに記憶して、メタデータ操作の待ち時間を削減する。その他のメタデータ及びキーシャードファイルは、ユーザの好みに応じて単一のストレージノード又は論理的／物理的に独立したストレージノードのいずれかで設定できるメタデータ／キーストレージに記憶される。

同期処理ユニット４１１は、その知識ベースに基づいて、ユーザデバイスとストレージとの間のデータ送信のタイミングを算出する。また、同期処理ユニットは、その知識ベースを使用してシャードと暗号化されたメタデータファイルとのロケーションを選択／識別する。このタスクは、コスト最適化、パフォーマンス最適化、セキュリティ最適化などを目的とする。

データ送信リクエストは、リクエストキューにプッシュされ、コネクタは、対応するリクエストをフェッチしてネットワーク経由で実際のデータストレージを実施する。ストレージからの応答メッセージは、データストレージリクエストの非同期応答をシリアル化する応答キューにプッシュされる。応答がフェッチされ、シャードと暗号化されたメタデータ記憶ステータスとが更新される。Ｉ／Ｏリクエストでデータ送信の同期が必要な場合、Ｉ／Ｏイベントハンドラは、対応する応答が収集されるまで待機する。

このシステムは、暗号化チェーンを統合し、情報分散理論を適用することにより、記憶されたデータのエンドツーエンドセキュリティを提供する。エンドツーエンドデータセキュリティは、（１）エンドユーザデバイスとストレージバックエンドロケーションとの間の遅延がデータセンタ内のマシン間の遅延よりもはるかに大きく、（２）システムの性能が最もコントロールされた構成要素によって制限され、（３）リソースのコントロール及び環境設定がコントロールされるため、難題である。クライアントとメタデータサーバと間のネットワーク待ち時間が大きいと、メタデータ操作のパフォーマンスに影響する。

メタデータは、ファイルコンテンツを組み立てるために必要な重要な情報を含むことから、エンドユーザのデバイスにファイルコンテンツ全体を記憶すると、非常に危険にさらされる可能性がある。メタデータが代表サーバ（又はサーバ）に記憶されている場合、データルックアップ操作よりも頻繁に呼び出されるメタデータルックアップ操作は、システムパフォーマンスのボトルネックになる。一例として、セフの方法論（Ceph’s methodology）は、メタデータサーバ間でオーバーヘッドのバランスをとりながら、コンテンツストレージと論理的に異なる分散サーバにメタデータを記憶することを含む。エンドツーエンドソリューションにおける課題は、クライアントとサーバとの間の遅延が（略）最適又は近似性能を保証するシステムを設計するのに十分に予測可能でないことである。符号化／復号化、複製されたコンテンツ（主にデータ重複排除と呼ばれる）の識別、及び、データ／コントロールチャネルの設計などの機能の分解は、ハードウェアの計算容量、ネットワークの予想待ち時間、及び、操作の頻度を考慮して、システムの機能及び性能を慎重に設計すべきである。

本発明における「ｎからのｔ」（t out of n）アプローチに関して、そのようなアプローチは、複数の方法で複数回重要である。まず、本発明では、アイテムがｎユニットに解析される回数が多い。しかしながら、それぞれの場合において、ｎは異なる値であってもよい。同様に、それぞれの異なるｔは異なる値であってもよい（但し、２つ以上のそのようなｔ及び／又は２つ以上のそのようなｎも同じ値であってもよい）。本発明における「ｎからのｔ」アプローチは、好ましくは、解析されたデータコンテンツピース数に向けられ、解析されたメタデータピース数に分けられ、コンテンツデータの各暗号化されたチャンクのデータシャードピース数に別々に向けられる。

再構成に関しては、「ｎからのｔ」アプローチが複数回重要になる。

ファイル暗号化チェーンとメタデータ／キー暗号化チェーンとの定式化は、通常、データ処理ユニットで実施される計算タスクである。前述したように、ファイル暗号化チェーンは、データシャードを符号化／復号化し、その後、同様の機能を提供するメタデータ／キー暗号化チェーンが続く。データシャードは、シャードがデータストレージに同期されるようにスケジュールされるまで、シャードバッファに一時的に記憶される。

再び、図４はシステムの概要を示す。このクライアント中心のアーキテクチャは、考えられる展開スキームの一例であり、ファイル及びメタデータ／キー暗号化チェーンを作成し、暗号化されたデータをストレージバックエンドに分散するエンドユーザデバイスに展開されたコンポーネントを示している。クライアントは、ＰＣ、ラップトップ、又は、携帯デバイスのようなエンドユーザデバイスに限定されず、一例として、エンタープライズサーバであってもよい。

図４は、本発明の文脈におけるユーザデバイス４０１とストレージプール４０２との間の関係を示す。ユーザデバイス４０１は、少なくとも示された機能を実施するようにプログラムされたプロセッサ又はプロセッサのグループであってもよい。図示のように、ユーザデバイス４０１は、暗号化、チェーン化、及び、復号化の役割も果たす。ユーザデバイス４０１は入出力手段を備え、入出力手段は、Ｉ／Ｏリクエストエンジン４２３（プロセスステップ１）と、入出力イベントハンドラ４０３と、少なくとも１つのデータ処理エンジン／ユニット４０５と、ストレージエンジン４０８及び関係ストレージと、同期処理ユニット又はエンジン４１１と、リクエストキューイングエンジン４１５と、ネットワークインターフェイスエンジン４１６と、応答キューイングエンジン４２２と、を備える。入出力イベントハンドラ４０３は、（２）少なくとも１つの入出力論理モジュール４０４を有し、ファイルコンテンツを送る。データ処理エンジン／ユニット４０５は、（３）ファイル断片化、チャンク及びデータシャードの符号化、復号化、暗号化、及び、復号化を含む機能を実施するファイル暗号化モジュール４０６と、（４）メタデータファイル及びキー断片化、シャードの符号化、復号化、暗号化、及び、復号化を含む機能を有するメタデータ／キー暗号化モジュールと、を備える。ストレージエンジン４０８及び関係ストレージは、（５）アップロード及びダウンロードのためのメタデータ／キーシャード及びデータシャードを特定するためのメタデータ／キーストレージ４１０と、シャードバッファ４０９とを備える。同期処理ユニット又はエンジン４１１は、（６）集合的にキューイングをリクエストするスケジューラ４１２と、ストレージセレクタ４１３とを備える。リクエストキューイングエンジン４１５は、（７）リクエストを割り振る。ネットワークインターフェイスエンジン４１６は、データ４１８及びメタデータ／キーストレージ４１７のためのコネクタを有し、（８）ネットワークにデータリクエストを送る。リスポンスキューイングエンジン４２２は、（９）データ結果を送り、（１０）シャード及び暗号化メタデータ／キー状態を更新する。ユーザデバイス４０１は、分散されてもよく、データ４１９及びメタデータ／キー４２０ストレージ並びにバックアップストレージ４２１を含む様々なリモート外部ストレージプール４０２と通信する。

再構成プロセスは、チャンク化、暗号化、シャード化、及び、分散プロセスの逆の手順であり、グラフィックユーザインターフェイス（Ｇｒａｐｈｉｃａｌ Ｕｓｅｒ Ｉｎｔｅｒｆａｃｅ （ＧＵＩ））を備えたユーザアプリケーションとして、及び／又は、一般的なファイルシステムインターフェイス（例えば、ＰＯＳＩＸ）を使用して、実施することができるが、これらに限定されない。本発明では、ＧＵＩ又はファイルシステムインターフェイスがファイル名及び変更時間によってファイルをリストすることが好ましい。また、他のより一般的なファイルシステムインターフェイスもサポートする（ファイル変更時間は、メタデータ内のファイル属性として記憶されることが好ましい）。これらのインターフェイスは、ファイル名、変更時間、アクセス時間、サイズのような必須のファイル属性を必要とする。したがって、インターフェイスに表示されるすべてのファイルは、ユーザインターフェイスとシステムインターフェイスとのそれぞれがファイルを識別できるように属性を有する。

ファイルの再構成では、最初にメタデータを再構成する必要がある。メタデータのｔ部分は、メタデータを再構成するために識別される必要がある。メタデータは、コンテンツデータのチャンクデータを含んでいることから、各チャンクを再構築するために、チャンクによって、チャンクごとにｔシャードを識別する必要がある（この場合、各ｔと各ｎとは、チャンクごとに異なる場合があるが、メタデータの場合は、「ｎからのｔ」(t out of n)と異なる必要はない）。各チャンクは、少なくとも関連するキーを使用して再構築され、事前にメタデータに記憶され、暗号化される。各チャンクが再構築された後、チャンクは、ファイル全体を再構築し、再び使用可能にするために、最初に行われた通りに配置される。

前述したように、本発明で使用可能な多数のストレージがあり、好ましい実施形態では、再構成に必要なアイテムがよりアクセス可能な（潜在的により高価である）領域に記憶される。さらに、そのようなアイテムは、上述の例のように、コストの考慮事項に基づいて、あるロケーションから別のロケーションに移動することができる。その結果、解析されたデータコンテンツとメタデータ要素との進行中の記憶域リロケーションのための実施されたアルゴリズムが存在することもある。それにもかかわらず、ｎアプローチのうちの複数のｔを含む再構成プロセスは、依然として好ましい実施形態である。

ファイル名と変更時間とのペアは、ファイルの再構築に必要な初期の組み合わせである。図４を参照すると、エンドツーエンドのセキュリティを保証するために、再構成は、ファイル名及び変更時間を指定するファイルオープン操作と統合される。メタデータ／キー暗号化モジュール４０７は、メタデータ及びキーシャードの収集を同期処理ユニット４１１にリクエストする。ストレージセレクタモジュール４１３は、待ち時間及びコストを含むがこれらに限定されない最適化パラメータに基づいて、ターゲットメタデータ／キーストレージを選択する。好ましいパラメータが設定されていない場合、ストレージはランダムに選択される。メタデータ／キー暗号化モジュール４０７は、チャンクＩＤ及び暗号化キーを対応するチャンクに復号する。ファイル暗号化モジュール４０６は、チャンクＩＤによって指定されるデータシャードの収集をリクエストする。データシャードのストレージ選択は、暗号化の場合と同じである。ファイル暗号化モジュール４０６は、データシャードを使用して暗号化されたチャンクを再構築する。次に、暗号化されたチャンクは、暗号化キーを使用してファイルのプレーンチャンクに復号される。

コントロールサーバは、クライアントのステータスをコントロール及び監視するためにクライアントを監視する。コントロールサーバは、データストレージ、メタデータ／キーストレージ、メタデータ／キーバックアップストレージも設定するが、コントロールサーバは、ストレージバックエンドのプロキシとして機能しない。コントロールサーバには、データストレージ設定、メタデータストレージ設定、キーストレージ設定、ステータス監視、ポリシー構成、アクセスコントロールなど、全体的な構成をコントロールする管理者ポータルも用意されている。コントロールサーバは、ユーザと装置との初期認証も担当する。コントロールサーバは、認証手順をＬＤＡＰなどの既存のコンポーネントと統合することもできる。

データストレージは、ユーザデータが実際に記憶されるロケーションである。データストレージ上にコード実施はない。したがって、データストレージは、クラウドサービスに限定されず、ネットワークを備えたレガシーストレージノードのいずれかを含むことができる。メタデータストレージとキーストレージとは、ファイルメタデータと暗号化キーとが記憶されるロケーションである。データストレージ、メタデータストレージ、及び、キーストレージは、別々の（ｔ，ｎ）パラメータで構成することができる。メタデータ及びキーストレージは、データストレージと同様の要件があることから、データストレージノードをメタデータ及びキーストレージに使用することもできる。ストレージは、性能及び信頼性要件、並びに、データ管理ポリシーに応じて構成することができる。メタデータ／キーバックアップストレージは、クライアントデバイス上のメタデータ／キーシャードと同じメタデータ／キーシャードの複製を記憶する。メタデータとキーシャードとはＳＳＳＳによって暗号化されることから、同じシャードのセットを複製しても、データ侵害のリスクは増加しない。これらのデータストレージ、メタデータ／キーストレージ、及び、メタデータ／キーバックアップストレージは、ＬＡＮ、インターネット、又は、ハイブリッド経由で展開できるが、最適な展開のためのガイドラインがある。コントロールサーバは、クラウド又はＬＡＮ；ＬＡＮにおけるメタデータ／キーバックアップストレージ；又は、クラウド又はクラウドとＬＡＮとの間のハイブリッドにおけるデータストレージ及びメタデータ／キーストレージに存在する場合がある。

データパスとコントロールパスとの分離
図５は、本システムにおいてデータパスとコントロールパスとがどのように分離されるかの概要を示す。メタデータの分離に加えて、コントロールサーバとクライアントと間のコントロールパス（長い破線）は、クライアントとデータストレージと間のデータパス（実線）から論理的又は物理的に分離される。

データパスとコントロールパスとを分離すると、コントロールサーバの最高特権を有する管理者であっても、ユーザデータにアクセスできなくなる。クライアントと各データストレージとの間の各データパスは、各データストレージノードによって提供される多様なセキュリティメカニズムを利用することによって、独立して保護される。データパスからのコントロールパスの独立性により、コントロールサーバの配備は、セキュリティ及び性能構成に影響を与えることなく、柔軟なプロセスである。

データシャードの記憶
エンドツーエンドセキュリティを確保するために、Ｉ／Ｏイベントハンドラは、フラッシュ（Ｆｌｕｓｈ）及びＦｓｙｎｃ（Ｆｌｕｓｈ及びＦｓｙｎｃは、メインメモリにおけるデータを物理ストレージデバイスに同期させるファイルシステムコールである。Ｆｓｙｎｃは、Ｆｌｕｓｈの低レベルシステムである。www.man7.org/linux/man-pages/man2/fdatasync.2.html）ファイルシステムコールイベントをインターセプトして、データコンテンツをストレージノードに保存する前にファイル暗号化を実施する。暗号化されたチャンクのデータシャードは、データストレージへの伝達がスケジュールされるまで、シャードバッファにバッファーされる。したがって、本発明は、フラッシュが呼び出された後の中間データ暗号化を保証する。スケジューラは、コスト最適化、パフォーマンス最適化、及び、セキュリティ最適化などの構成に基づいて、データシャードのロケーション及び伝達のタイミングを決定する。例えば、一貫性のあるハッシュアルゴリズムは、データストレージを取り付け／取り外しするときに、シャードリロケーションコストを最小限にする。さらに高度なアルゴリズムを開発し、展開することができる。

暗号化メタデータ／キーの記憶
メタデータ／キー暗号化チェーンは、ファイル暗号化チェーンの完了後にトリガーされる。暗号化キーは、キーストレージへの伝達がスケジュールされるまで、ローカルメタデータ／ストレージでシャード化される。データ及びキーシャードをデータ及びキーストレージノードに記憶する場合とは異なり、メタデータの記憶は、フラッシュ（Ｆｌｕｓｈ）、Ｆｓｙｎｃ、又は、クローズ（Ｃｌｏｓｅ）コールとの同期プロセスである。したがって、暗号化されたメタデータの記憶に失敗した場合、フラッシュ（Ｆｌｕｓｈ）、Ｆｓｙｎｃ、又は、クローズ（Ｃｌｏｓｅ）は失敗コードを返す。

ステージ化データ
シャードをストレージバックエンドにアップロードする前にエンドユーザデバイスでデータをステージ化すると、アップロードの遅延を吸収するだけでなく、データストアをスケジュール化する自由度が増すことによって、ユーザエクスペリエンスが向上する。本発明のストレージでは、ステージ化されたデータの状態は６つある。プロセスを続行するにはメタデータを記憶する必要があるため、ステージ４はステージ３と同期する必要があることに注意する。

ステージ０：開始準備完了

ステージ１：ランダムに生成された暗号化キーでチャンクコンテンツを暗号化する；データシャードを符号化する（プロセスのブロック１）

ステージ２：チャンクＩＤの暗号化（ブロック２完了）

ステージ３：メタデータとキーシャードとの記憶（ブロック３完了）

ステージ４：データシャードを記憶（ブロック１を改定、完了）

ステージ５：完了

メタデータ操作
暗号化されたメタデータのシャードは複数のロケーションに記憶されることから、メタデータルックアップ操作は、ローカルの暗号化されたメタデータシャードからファイル属性を直接読み取ることができる。ディレクトリ操作及びファイル属性操作は、メタデータ／キーストレージ及びデータストレージの待ち時間に関係なく、パフォーマンスの低下を引き起こさない。メタデータファイルの書き込みは、主にデータ操作に関連していることから、メタデータの書き込みの遅延は、他のデータストレージ及び回復操作と比較して無視することができる。

メタデータストレージ選択
データシャードを分散する場合とは異なり、メタデータシャードは、事前に構成されたメタデータストレージに記憶される。メタデータ符号化のガイドラインは、（ｔ，ｎ)=(２，３）とすることである。メタデータの定義：

メタデータとデータコンテンツとの同期
すべてのファイルのメタデータとデータコンテンツとは、定期的に同期される。このプロセスは、チャンクの状態、即ち、ローカルのみ、リモートのみ、ローカル及びリモートの中間状態にしたがって、チャンクの基準カウンタを計算する。基準カウンタは、チャンクの符号化とシャードの分散をスケジュールするために使用される。このプロセスは、完全に削除できる参照されていないチャンクも識別する。

データの削除
メタデータの更新は、履歴を追跡するために保存されることから、削除ではメタデータ又はコンテンツデータは削除されない。ファイルが更新されると、以前のバージョンの数が事前に定義された数を超えるまで、システムは、以前のバージョンを削除せずに更新されたメタデータを記憶する。メタデータファイルを削除する必要がある場合、システムは、最後にメタデータとチャンクとの間の基準リンクを解除する。システムが基準カウントゼロのチャンクを識別すると、システムは、最後にバックエンドストレージからチャンクを削除する。

ノーマルモード操作
図６は、本発明のファイル記憶プロセスのステップバイステップ手順を示す。図示のように、８つの関連するステップがある：

６０１：Ｆｓｙｎｃ－クライアントで実施

６０２：符号化－クライアントで実施

６０３：ステージ化－クライアントで実施

６０４：メタデータシャード記憶－クライアントで実施

６０５：メタデータ／キーシャード記憶－インターネットからメタデータ／キーストレージまで

６０６：メタデータ／キーシャードのバックアップ記憶－ＬＡＮからメタデータ／キーバックアップストレージへ

６０７：スケジュールプッシュ－クライアントで実施

６０８：ファイルシャード記憶－インターネットからデータストレージへ

Ｆｓｙｎｃ及びフラッシュ（Ｆｌｕｓｈ）などの特定のシステムコールイベントが受信されるたびに、クライアントは、対応するファイルの暗号化チェーンへのエンコードを開始する。ファイル暗号化チェーンプロセスが完了すると、データシャードがステージ化される（データストレージにプッシュする準備ができている）。次に、メタデータシャードは、クライアント、メタデータストレージ、及び、メタデータバックアップストレージに記憶される。キーシャードは、キーストレージ及びキーバックアップストレージにも記憶される。最後に、記憶されたデータは、スケジューラが実施をトリガーしたときにデータストレージを記憶するようにスケジュール化される。

ファイルフェッチは、ファイル記憶の逆の手順である。一定レベルのストレージ障害が存在する場合でも（tがＲＳコード又はＳＳＳＳコードのパラメータである場合、少なくともnストレージからtストレージを使用できる）、ファイルフェッチ操作は、通常モードとして実施される（障害はログに記録される）。エラー数が設定可能な閾値（利用可能なストレージがt未満）を超えると、ファイルフェッチは、ユーザにフェッチエラーを戻す。

それだけには限定されないが、紛失したクライアントなどのクライアントをブラックリストに載せることが重要であることがある。図７は、ブラックリストに旧デバイスを追加し、新しいクライアントを登録する手順を示す。ユーザがクライアントを紛失した場合、ユーザ及び／又は管理者はクライアントをコントロールサーバに報告する。図示の手順のステップは以下を含む：

７０１．ロストクライアントをブラックリスト化－コントロールサーバによって実施

７０２．認証セッションの期限切れ－コントロールサーバによって実施

７０３－５．アクセス拒否

７０６．クライアント登録－コントロールサーバによって実施

７０７．メタデータ回復コマンド－コントロールサーバによって実施

７０８．バックアップストレージからのメタデータをフェッチ－新しいクライアントによって実施

７０９．認証セッション再構成－コントロールサーバによって実施

７１０－１２．アクセス許可

コントロールサーバは、クライアント情報をブラックリストに配置し、データストレージ、メタデータ／キーストレージ、及び、メタデータ／キーバックアップストレージでの認証に使用されたすべてのセッションを終了する。ユーザがクライアントデバイスを回復又は交換した場合、ファイルを回復するためには、新しいクライアントは、コントロールサーバによって承認されている必要がある。次に、コントロールサーバは、メタデータ／キーバックアップストレージを使用してメタデータを回復するコマンドメッセージを送信する。最後に、コントロールサーバは、データストレージ、メタデータ／キーストレージ、及び、メタデータ／キーバックアップストレージへ新しいクライアントアクセス情報を提供する。

障害モード操作
障害モード操作は、ストレージ障害の数が閾値を超えない場合に、ユーザがシステムを使用し続けることを可能にする。障害モードを必要としないファイルフェッチとは異なり、ファイルストアは、システムを制御され且つ実施可能な状態に保つために、バックエンドサイドのアップロード障害エラーに対処する機構が必要である。

図８は、データストレージ障害によるファイル記憶の手順を示す。このプロセスのステップは以下を含む：

８０１. Ｆｓｙｎｃ

８０２. 符号化

８０３. ステージ化

８０４. メタデータシャード記憶

８０５. メタデータ／キーシャード記憶

８０６. メタデータ／キーシャードのバックアップ記憶

８０７. スケジュールプッシュ

８０８. ファイルシャード記憶

８０９. エラー検出

８１０. 記憶失敗シャードローカル維持

８１１．次のスケジュールでプッシュリトライ

この手順は、データシャードがデータストレージにプッシュされるまでの通常モードのファイル記憶操作と同じである。クライアントがシャードを記憶するアップロードエラーを検出すると、クライアントは、シャードをローカルに保持する。シャードは、ステージ化されたシャードと同じ方法で管理される。次に、スケジューラ（クライアント内）は、次のプッシュサイクルで他の新しいステージ化されたシャードを使用してシャードを再スケジュール化する。

図９は、メタデータ／キーストレージ障害によるファイル記憶の手順を示す。これはデータストレージ障害よりもはるかに重要である。このプロセスのステップは以下を含む：

９０１．Ｆｓｙｎｃ

９０２．符号化

９０３．ステージ化

９０４．メタデータシャードを記憶

９０５．メタデータ／キーシャードのバックアップを記憶

９０６．メタデータ／キーシャードを記憶

９０７．エラー検出

９０８．ロールバック

データストレージ障害の障害モードとは異なり、メタデータ／キーストレージ障害では、システムはファイル記憶操作を続行できない。代わりに、進行中のデータ記憶操作がロールバックされる。前に記憶されたすべてのファイルは、メタデータ／キーストレージが回復されるまで、読み取り専用モードで引き続きアクセス可能である。

図３は、本発明の暗号化チェーン作成実施形態を示す。ここでは、暗号化チェーンと呼ばれるファイル符号化アプローチは、データ／メタデータ／キー暗号化をデータ／メタデータ／キーストレージ戦略と統合することを目的とする。方法のステップは以下を含む：

１．ファイル暗号化チェーンの作成

○各データファイルは、チャンクに解析され、暗号化チェーンを形成する。

○暗号化チェーンは、集中デバイスではなく、ユーザデバイスで開始されることが好ましい。

○データファイル暗号化チェーンと、通常後で作成されるメタデータファイル暗号化チェーンとの２つの別の暗号化チェーンが作成される。このメタデータファイルは、データファイル暗号化チェーンがどのように暗号化されるかに関係する情報、及び、メタデータファイル暗号化の暗号化及び／又は分布に関係する他の情報を含み、分布される。情報はこれらに限定されない。

○この実施形態では、データファイルは、まずチャンク化され、次に暗号化される。

○チャンク化されると、各チャンクにＩＤが割り当てられ、割り当てられたＩＤがメタデータに含まれる。

○その後、暗号化された各チャンクはシャードに分割される。

○シャードは、最終的にストレージに送信され、各シャードは、異なるロケーションにおける異なるストレージ媒体に移動する可能性がある。

○データシャード内に暗号化されたメタデータがないことが好ましい（但し、チャンク識別子はメタデータシャードに埋め込まれる）。

２．データファイルの暗号化は、従来のファイル暗号化に加えて、シャード化のための後続のリードソロモン（Ｒｅｅｄ-Ｓｏｌｏｍｏｎ（ＲＳ）又は均等物）コードを使用する。

○各データファイルは、暗号化チェーンに解析され、ファイルはチャンクに分散され、各チャンクはシャードに分散される。

○各チャンクは特定のＩＤを有する。特定のＩＤは計算によって決定され得る。

○メタデータは割り当てられたＩＤによって増加することから、メタデータは、様々なファイル属性（これらに限定されないが、名前、サイズ、変更時間、アクセス時間など）とＩＤとを含む。各ＩＤは特定のデータファイルチャンクに関係する。

○チャンクＩＤは、関係付けられたメタデータに挿入される。

○データファイルチャンクは暗号化され、ＲＳ又は均等物を使用して符号化される。

○その後、暗号化されたチャンクはシャード化される。

○ＲＳコードは暗号化のために設計されていないことから、チャンクは暗号化キーで暗号化され、本発明のプロセッサによって決定され、チャンクがシャードとして符号化される前に、一回限りの使用のためにランダムに生成されてもよい。

○全データファイルのチャンク化、暗号化、及び、記憶プロセスに１つのキーが使用され、チャンクごとに異なるキーが使用されたり、又は、その間にあるものが使用されたりする可能性がある。キー量の決定は、本発明のプロセッサによって実施され、結果はチャンク化などのためにメタデータに記憶される。

３．必要なコンテンツの基準を記憶するメタデータに対して、ＳＳＳＳ又は均等物を使用してチャンク識別子（チャンクＩＤ）を暗号化する。

〇メタデータシャードファイルは、チャンクＩＤシャードを記憶する。

○各暗号化キー自体がシャード化される。

○また、ＳＳＳＳ又は均等物を使用して、各暗号化キー（チャンク暗号化用）を暗号化する。

○ＳＳＳＳ以外の暗号化方式を代わりに使用することができる。

○ユーザは、ファイルの再構築に必要なシャードの最小数を特定することができる。

４．チャンクＩＤシャードのセットは、サイズ、変更時間などの複製ファイル属性と共にメタデータシャードファイルに記憶される。暗号化キーシャードは、対応するチャンクＩＤに関連付けられる。

５．チャンク化されたデータ、メタデータ、及び、暗号化キーのシャードは、物理的又は論理的に分散されたストレージ／媒体に記憶される。

６．このプロセスは、複数のストレージユニット間のデータ、メタデータ、及び、キーシャードの割り当てを計算するために、集中コンポーネントを必要としない。

７．シャードを記憶／フェッチするためのストレージを選択するために、記憶効率及び性能を改善するために、様々なアルゴリズムが適用可能である。

図１１は、ファイル暗号化とメタデータ／キー暗号化との例を示す。設定可能なパラメータｔとｎとは、ファイル及びメタデータ／キー暗号化の場合、それぞれ、２と３とに設定される。この例では、３つのストレージから１つのストレージ障害を許容しながらコンテンツが「ａｂｃｄｅｆｇｈ」であるファイルを記憶する。ファイルは、２つのピース、「ａｂｃｄ」及び「ｅｆｇｈ」にチャンク化される。チャンクの基準（チャンクＩＤと呼ばれる）を作成するために、チャンクコンテンツのＳＨＡ２５６ハッシュを計算する。この例では、８ｃ３ｆ＝Ｓｈａ－２５６（「ａｂｃｄ」）と、ａ３ｄｃ＝Ｓｈａ－２５６（「ｅｆｇｈ」）とがチャンクＩＤである。これらのチャンクＩＤは、メタデータ（ＪＳＯＮ形式）に記憶される。チャンクコンテンツ「ａｂｃｄ」と「ｅｆｇｈ」とは、それぞれ、ランダムに生成されたキー「ｙ２ｇｔ」と「５ｘｋｎ」とを使用して暗号化される。したがって、チャンクコンテンツは、「Ｘ？２♯」及び「＆＄ｃＫ」として暗号化される。その後、リードソロモン（Ｒｅｅｄ-Ｓｏｌｏｍｏｎ（ＲＳ））コードを使用して暗号化されたチャンクコンテンツを符号化する。暗号化されたチャンクコンテンツ「Ｘ？２＃」は、「ｋｇ」、「ｄｈ」、「％ｆ」の３つのシャードに符号化される。「Ｘ？２♯」を再構築するために、３つのシャードのうち任意の２つのシャードが必要である。暗号化されたチャンク「＆＄ｃＫ」も同じ方法で符号化される。最後に、データシャードはデータストレージノードに記憶される。

チャンクコンテンツの暗号化に使用されたキーは、対応するチャンクに関連付けられる。チャンク基準情報（チャンクＩＤ）を保護するために、ＳＳＳＳを使用して暗号化する。これには、復号化するために３つのシャードのいずれか２つが必要である。チャンクＩＤ「８ｃ３ｆ」 は、「ｃｔ１ｄ」、「ｊｆｙ２」、「７ｇ７２」に暗号化される。その他のチャンクも同じ方法で符号化される。チャンクＩＤシャードは、メタデータシャードファイルに別々に記憶される。暗号化キー「ｙ２ｇｔ」もＳＳＳＳを使用して「３ｃｄ２」、「ｚｉａｊ」、「ｐｚｃ８」に暗号化される。その他の暗号化キー「５ｘｋｎ」も同じ方法で符号化される。最後に、３つの異なるメタデータシャードファイル及びキーシャードファイルを異なるロケーションに記憶することで、メタデータとキーとが保護される。

３つのメタデータファイルのうち２つがアクセス可能な場合のみ、チャンクＩＤ「８ｃ３ｆ」と「ａ３ｄｃ」とを取得できる。これらのチャンクＩＤを使用して、データ／キーシャードを見つけ、暗号化されたチャンクコンテンツ「Ｘ？２＃」と「＆＄ｃＫ」とを再構築できる。最後に、暗号化キーを使用して暗号化されたチャンクコンテンツを復号し、復号化されたチャンクを連結してオリジナルコンテンツ「ａｂｃｄｅｆｇｈ」を取得する。

データ完全性検証
特定のレベルの障害を許可しながら複数のシャードを保存するには、データ記憶ステータスを計算するプロセスが必要である。これは、通常、Ｉ／Ｏを集中的に使用するタスクである。データ完全性検証の効率を改善するために、本発明のシステムは、典型的なストレージ及び操作システムで利用可能な典型的なリストオブジェクト（又はファイル）操作を使用して、データ記憶ステータスを計算するだけである。(１)ファイルパス、変更時間、ファイルステータスを含むメタデータストレージからメタデータシャードオブジェクトのリストをフェッチする。(２)チャンクＩＤを含むデータストレージからデータシャードオブジェクトのリストをフェッチする。（３）関連するチャンクＩＤを含むキーストレージからキーシャードオブジェクトのリストをフェッチする。（４）ファイルパスと変更時間とが同じメタデータファイルセットに基づいて、リストに表示されるメタデータファイルをカウントする。セットにおけるメタデータファイル数がｎの場合、メタデータファイルは、ストレージ障害からの完全なレジリエンスを保証する。メタデータファイル数がｎ未満ｔ以上の場合、対応するメタデータは、復号可能であり、また、メタデータセットは、ストレージ障害からの完全なレジリエンスを有するように回復可能である。メタデータファイル数がｔ未満の場合、メタデータファイルは破損している。(５)チャンクＩＤに基づいてリストに表示されるデータ／キーシャードをカウントする。セットにおけるシャード数がｎの場合、各チャンク、メタデータ、及び、暗号化キーでｎ－ｔストレージ障害が許可される。これは、パラメータｔ及びｎで指定された最大許容範囲である。シャード数がｎ未満ｔ以上である場合、チャンクは復号可能であり、セットは、ストレージ障害から完全なレジリエンスを有するように回復可能である。シャード数がｔ未満の場合、チャンクは破損している。このプロセスでは、ファイルとチャンクとの間のマップを見つけるためにメタデータファイルのコンテンツを読み取らないことから、どのファイルが破損しているかを識別できないが、全体的な整合性とデータ記憶のステータスとは、ストレージに対するリストオブジェクト操作数が少ない場合に計算される。このプロセスは、各クライアントデバイス及びコントロールサーバなどの他の集中事業体からも実施することができる。

要約すると、本発明は、新規性及び独自性の多数の領域を含む。その中には以下のものがある：

・ファイル及びメタデータ／キー暗号化チェーン；ファイル符号化とメタデータ／キー符号化との統合を提供するために、ＲＳコードとＳＳＳＳとをファイルの暗号化されたチャンクとチャンク識別子／キーコンテンツとに適用する。

・エンドツーエンドセキュリティ；ファイルシステムインターフェイスとストレージバックエンドとの間のセキュリティホールを防ぐために、ファイルとメタデータ／キー暗号化チェーンとをファイルシステム操作に統合する。

・システム実施；長い待ち時間のネットワーク（例えば、インターネット及びＷＡＮ）とユーザエクスペリエンスとを考慮しながら、システムコンポーネントを設計及び実施する。

‐クライアント中心のアーキテクチャにより、エンドツーエンドのデータ保護ソリューションの設計と実施とが保証される。

‐暗号化チェーン;（ｔ，n）閾値保持特性を使用したコンテンツ暗号化及びメタデータ暗号化。

○コンテンツ暗号化は、ストレージ効率と最小サイズのエラー訂正コードとが好ましい。

○メタデータ暗号化は、ランダム性と理論暗号法とを必要とする。

‐ＡＩ支援構成並びに異常監視及び検出

クライアント中心アーキテクチャ
クライアントの定義に基づいて、ソリューションのアーキテクチャは、クライアントとデータ／メタデータ／ストレージとの間の直接通信を保証するクライアント中心実施を実現するように設計されている。クライアント側からストレージ側まで、クライアントは、異なるタイプのストレージによって提供されるプロトコルとチャネルとを使用する。プロトコルとチャネルとの多様性は、バックエンドでコードの最小限の実施又はゼロ修正によってクライアントで実施される。

分散ストレージソリューションにクライアント中心アーキテクチャを実施することは、クライアントがサーバのような共有コンポーネントではないため、サーバ側で実施するよりも難しいことである。したがって、クライアントは、欠落したシャードコンポーネントのコントロールを克服するために、効率的に同期するプロセスを実施する。本解決策は、共有及び集中リソース用に設計されていない分散ストレージにおけるメタデータに直接アクセスし、それにより、メタデータを部分的に符号化し、バージョンをクライアントに記憶することによるメタデータアクセス待ち時間を含む性能コントロールを克服する。

クライアントを実施するためには、ネットワーク搭載クライアントデバイスに、ユーザデータＩ／Ｏインターフェイス、データ処理ユニット、ハードウェアストレージ、同期処理ユニット、及び、ネットワークインターフェイスが必要である。この例では、データＩ／Ｏインターフェイスが読み取り、書き込み、リストなどのデータＩ／Ｏリクエストを受信する。このソリューションは、ＰＯＳＩＸファイルインターフェイスをデータＩ／Ｏインターフェイスとして実施するが、これに限定されない。データＩ／Ｏインターフェイスは、キー値ストレージ、ＣＲＵＤ(Ｃｒｅａｔｅ-Ｒｅａｄ-Ｕｐｄａｔｅ-Ｄｅｌｅｔｅ)インターフェイスなどの実施が可能である。データ処理ユニットは、ファイルとメタデータ／キー暗号化チェーンとを実施することで、データを暗号化してシャードに符号化する。ハードウェアストレージは、中間ステータスと処理中のデータとをストレージに送信する前に記憶する。ハードウェアストレージは、権限のない事業体が中間ステータス及びデータにアクセスすることを防ぐために、アクセスコントロールが必要である。同期処理ユニットは、シャードを送受信する役割を果たす。同期処理ユニットは、クライアント及びストレージの経験的なパフォーマンス及び構成を記憶する知識ベースに基づいて、送信／受信タスクをスケジュール化する。同期処理ユニットは、また、利用可能なストレージノード間のシャードのロケーションを決定し、これも知識ベースに基づいて決定される。同期処理ユニットは、ユーザからの構成に基づいてパラメータを最適化するためにＡＩエンジンを実施する。同期処理ユニットにおけるこの非同期送受信タスクは、データをストレージに送る前に、ユーザに応答することによって遅延を吸収し、将来、スケジュール化アルゴリズムを拡張する柔軟性を提供する。

このソリューションでは、データストレージ、メタデータ／キーストレージ、及び、メタデータ／キーバックアップストレージの３種類のデータストレージを定義する。ストレージは、クライアントに認証及びデータＩ／Ｏインターフェイスを提供する。データストレージは、コスト効率が高く拡張性のあるソリューションを必要とするが、メタデータとキーストレージとは、高速アクセス時間を必要とする。メタデータ／キーバックアップストレージの要件は、メタデータ／キーストレージと同じであるが、ユーザドメインにある。

コントロールサーバは、バックエンドストレージの設定、ユーザ／デバイス／ポリシーの管理、及び、クライアントへのコマンドの送信を行うポータルである。コントロールサーバは、途中でユーザデータをインターセプトしないように、データ送信チャネルから完全に分離されている。コントロールサーバは、クライアントに構成を展開して、クライアントが必要なパラメータやリクエストのリダイレクトなどを取得してプロセスを開始できるようにする。

構成のための人工知能
バックエンドインターフェイスの複雑性及びサービスの多様性のために、満足度を最大化しながら、予算に基づいて最適なセットアップを構成することは困難である。本発明は、バックエンド構成のための時間及び労力を低減するために、構成層の抽象化を提供する。本発明は、運用コストを最適化し、性能を最適化し、バックエンドストレージのコスト及び性能、並びに、ユーザの行動プロファイルに関する異常に基づく経験的データを監視及び検出することを目的とする。クライアントは、イベントデータを収集し、匿名化、再フォーマット化などの前処理を実施する。イベントデータを収集した後、クライアントは、データ収集サーバにイベントデータを送信する。

操作コストを低減するために構成を最適化することは、バックエンドストレージ構成の複雑性を克服し、データ記憶／アクセスコスト、経験的ストレージ性能、ピアグループの使用プロファイル、事前に定義された静的モデルなどに基づいて、最適なバックエンドストレージにシャードを配布することによって、操作コストを低減する。

本解決策は、また、実施されたアーキテクチャの利点を活用して応答を改善する。本解決策は、バックエンドストレージの複雑性を克服する一方で、データアクセス及び記憶の待ち時間を低減する。操作コストの最適化とは異なり、高速ストレージにより多くのシャードを配布することは、ストレージコストよりも高い優先度を有するべきである。これらの２つの場合に加えて、システムは、単純な加重和方程式を使用することなどによって、コスト最適値と性能最適値との間のバランスのとれた設定を達成するように構成することができる。

本発明では、行動解析のためのＡＩアルゴリズムがシステムにおける異常を検出するためにユーザデータを調査しない。アルゴリズムは、未知の攻撃を検出するために広く使用されているが、偽陽性エラーを低減するために正常状態を正しく定義する必要がある。行動解析アルゴリズムを用いて異常を発見する。厳密にフィットしたモデルは低い精密率を示すが、大まかにフィットしたモデルは低いリコール率を示す。クライアントから収集されたデータに基づいて、システムは、正常状態と異常状態との間で分類指標を適応的に更新する。本発明は、個々のユーザ及びユーザグループからのデータアクセスパターンの特性を活用する。

以下は、本発明が最適化するパラメータである。

‐最適化１：データ記憶コスト及びデータアクセスコストを最小化するシャード記憶の指示変数

‐最適化２：データアップロード／ダウンロード完了時間を最小化するシャード記憶の指示変数

‐最適化３：最適化１又は最適化２を展開する際に、シャード再配分を最小化するコスト

‐最適化４：通常及び異常なデータアクセスを決定する分類指標

‐最適化５：通常及び異常なストレージアクセスを決定する分類指標

‐最適化６：クライアントからの通常エラーと異常エラーとを決定する分類指標

これらの最適化を達成するために、本発明は以下のものを収集する。

‐バックエンドストレージのコストと（定量的）サービスレベルアグリーメント（Service Level Agreement（SLA））

‐各クライアントにおけるバックエンドストレージの経験的スループット

‐ファイルコンテンツ操作のタイムスタンプ

‐操作名

‐シャードアクセス数

‐匿名ファイル識別子

‐匿名クライアント識別子

本発明のいくつかの共通のアプリケーションが上述されているが、本発明は、セキュリティ、誤差範囲、匿名性、又は、前述の又は他の関連する属性の任意の適切な組み合わせを増加させるために、任意のネットワークアプリケーションと統合され得ることが明確に理解されるべきである。更に、他の組み合わせ、追加、置換、及び、変更は、本明細書の開示を考慮すれば当業者には明らかであろう。したがって、本発明は、好ましい実施形態の反応によって限定されることを意図していない。

上記の発明は、明確にするために、ある程度詳細に記載されているが、本発明の原理から逸脱することなく、ある種の変更及び修正を行うことができることは明らかであろう。本発明のプロセス及び装置の両方を実施する多くの代替方法があることに留意されたい。したがって、本実施形態は、例示的であって限定的ではないと見なされるべきであり、本発明は、本明細書で与えられる特定の詳細に限定されるべきではない。本明細書で説明される態様は、システム、方法、又は、コンピュータ可読媒体として具現化することができる。

いくつかの実施形態では、説明された態様がハードウェア、ソフトウェア（ファームウェアなどを含む）、又は、それらの組合せで実施することができる。ある形態は、プロセッサによる実施のためのコンピュータ可読命令を含むコンピュータ可読媒体で実現することができる。１つ又は複数のコンピュータ可読媒体の任意の組合せを使用することができる。コンピュータ可読媒体は、コンピュータ可読信号媒体及び／又はコンピュータ可読記憶媒体を含むことができる。コンピュータ可読記憶媒体は、入力データに対して動作し、出力を生成することによって本明細書で説明される機能を実施するためにプログラム可能プロセッサによって使用されるコンピュータプログラムを記憶することができる任意の有形媒体を含むことができる。コンピュータプログラムは、コンピュータシステムにおいて、特定の機能を実施したり、特定の結果を決定したりするために、直接的又は間接的に使用できる一連の命令である。

いくつかの実施形態は、クラウド計算インフラストラクチャを介してエンドユーザに提供することができる。クラウド計算は、一般的に、ネットワーク（例えば、インターネット等）を介したサービスとしての拡張性のある計算リソースの提供を含む。本明細書では、いくつかの方法及びシステムを説明するが、単一のシステム又は方法が上述の主題のうちの２つ以上を含むことができることが企図される。したがって、複数の上記のシステム及び方法を、単一のシステム又は方法で一緒に使用することができる。

本出願に開示された実施形態は、全ての点において、例示的であり、限定的ではないと考えられるべきである。本発明の範囲は、前述の説明によってではなく、添付の特許請求の範囲によって示され、特許請求の範囲の同等性の意味及び範囲内に入るすべての変更は、その中に包含されることが意図される。

図中のフローチャート及び／又はブロック図は、本発明の概念の様々な例示的な実施形態による、システム、方法、及び、コンピュータプログラム製品の実施可能なアーキテクチャ、機能、及び、操作を示す。この点に関して、フローチャート又はブロック図の各ブロックは、指定された論理機能を実施するための１つ又は複数の実施可能命令を備える、モジュール、セグメント、又は、命令の一部を表すことができる。代替の実施では、ブロックに記載されている機能が図に記載されている順序から外れる場合がある。例えば、連続して示される２つのブロックは、実際には実質的に同時に実行されてもよく、又は、ブロックが含まれる機能に応じて時には逆の順序で実施されてもよい。また、ブロック図及び／又はフローチャートの各ブロック、並びに、ブロック図及び／又はフローチャートのブロックの組み合わせは、指定された機能又は動作を実施するか、又は、特殊目的ハードウェア及びコンピュータ命令の組み合わせを実施する特殊目的ハードウェアベースのシステムによって実施され得ることにも留意されたい。

Claims (20)

1. ストレージのための少なくとも１つのコンピュータファイルを安全且つ確実に暗号化するプロセッサのための方法であって、前記ファイルは、コンテンツデータ及び関連するメタデータを含み、前記方法は、
   少なくとも１つの暗号化キーを生成するステップと、
   暗号化のための少なくとも１つのファイルの選択するステップと、
   計算暗号法及び理論暗号法の組み合わせに基づいてアルゴリズムを実施するステップであって、前記アルゴリズムは、前記ファイルの前記コンテンツデータ部分をｎコンテンツチャンクのチェーンに解析し、各前記チャンクにチャンクＩＤが割り当てられ、チャンクごとに前記少なくとも１つの暗号化キーを使用して、前記コンテンツチャンクのそれぞれを暗号化し、各前記コンテンツチャンクを複数のコンテンツシャードに符号化し解析し、前記チャンクＩＤを暗号化し、前記増大メタデータを複数のメタデータシャードに解析し、それによって前記メタデータを変更する、ステップと、
   前記複数のコンテンツシャードをストレージのために少なくとも１つのロケーションに送るステップと、
   前記複数のメタデータシャードをストレージのために少なくとも１つのロケーションに送るステップと、を備え、
   前記暗号化及び符号化されたコンテンツデータファイルのためのストレージのための前記少なくとも１つのロケーションは、前記暗号化及び符号化されたメタデータのためのストレージのための前記少なくとも１つのロケーションと異なる、方法。
2. 前記チャンクＩＤを符号化するステップに続いて、
   前記暗号化されたチャンクＩＤによって前記メタデータを増大させるステップと、
   前記少なくとも１つのキーを複数のキーシャードに解析するステップと、
   前記複数のキーシャードを暗号化するステップと、
   前記暗号化された複数のキーシャードを前記増大メタデータに追加するステップと、を更に備える、請求項１に記載の方法。
3. 前記暗号化されたキーシャードと前記チャンクＩＤ情報とが別々に記憶される、請求項２に記載の方法。
4. メタデータとキーとを暗号化する前記ステップは、ＳＳＳＳを使用して実施される、請求項２に記載の方法。
5. 前記プロセスの前記計算暗号法部分は、リードソロモン（Ｒｅｅｄ－Ｓｏｌｏｍｏｎ）符号の使用を含む、請求項１に記載の方法。
6. 前記コンテンツデータ暗号化技術は、ＡＥＳ－２５６の使用を含む、請求項１に記載の方法。
7. コンテンツデータは、符号化の前に完全に暗号化される、請求項１に記載の方法。
8. メタデータにおける前記ファイル属性は、暗号化されていない、請求項１に記載の方法。
9. 少なくとも一部のメタデータは、前記ローカルデバイスの保管部に記憶される、請求項１に記載の方法。
10. メタデータストレージ、キーストレージ、及び、データストレージの数のそれぞれは、設定可能であり、それぞれが３に限定されない、請求項１に記載の方法。
11. メタデータシャード、キーシャード、及び、データシャードのパラメータｔ及びｎが別々に設定可能であり、ｔ＝２及びｎ＝３に制限されない、ここで、ｔは再構成に必要なコンテンツシャード数であり、ｎは記憶するコンテンツシャード数である、請求項１に記載の方法。
12. キーが暗号化及び符号化されたデータファイル及び関連するメタデータを安全なストレージから安全且つ確実に再構成するためのプロセッサ型サーバであって、
    前記サーバは、
    ファイル暗号化エンジンとメタデータ暗号化エンジンとを含むチャンク化と暗号化とのためのデータ処理エンジンと、
    シャードバッファと、
    変更及びシャード化されたメタデータを少なくとも一時的に記憶するためのストレージと、
    スケジューラモジュール及びストレージ選択モジュールを含む同期処理ユニットと、
    データを記憶するためのネットワークインターフェイスと、
    再構成のためのファイルのユーザ選択のためのグラフィックユーザインターフェイス（ＧＵＩ）又はファイルシステムインターフェイスの少なくとも１つと、備える、サーバ。
13. 表示のためのユーザ選択オプションを生成するための知識ベースを更に備える、請求項１２に記載のサーバ。
14. 人工知能（ＡＩ）モジュールを更に備え、前記ＡＩモジュールは、少なくともイベントログコレクタと、アルゴリズムを生成するためのデータアナライザと、パラメータチューナと、実施部とを備える、請求項１２に記載のサーバ。
15. 前記ストレージ選択モジュールは、前記データ処理エンジンに構成された最適化アルゴリズムを実施する、請求項１２に記載のサーバ。
16. 前記データ処理エンジンは、データ重複排除のないストレージを導くように構成される、請求項１２に記載のサーバ。
17. 前記データ処理エンジンは、ｎからのｔ(t out of n)シナリオ構築のために使用される、請求項１２に記載のサーバ。
18. 少なくとも１つの暗号化されたコンピュータファイルをストレージから安全且つ確実に再構築するためのプロセッサ型サーバのための方法であって、暗号法は、計算暗号法及び理論暗号法の両方を有し、前記暗号法は、ｎ_１チャンクに解析され、各前記チャンクは複数のストレージに別々に記憶された各シャードを有するｎ_２シャードに解析された前記少なくとも１つの暗号化されたファイルのデータコンテンツと、少なくとも１つの暗号化キーに組み込まれ、その後、ｎ_３部分に解析され、前記ｎ_３部分のそれぞれが別々に記憶された前記少なくとも１つの暗号化されたコンピュータファイルのメタデータと、を備え、 前記方法は、
    暗号化時間を含む、認証された使用による再構築のための選択のための暗号化されたファイルのリストを送るステップと、
    再構築のための少なくとも１つのファイルの選択時に、前記プロセッサがｔ_３はｎ_３未満である少なくともｔ_３メタデータ部分を識別するステップと、
    ストレージにおける前記ファイルためのメタデータのすべての解析部分を識別することによって前記メタデータを再構築するステップと、
    前記プロセッサがチャンクごとにｔ_２はチャンクごとに異なる可能性があり、各ｔ_２は関連するｎ_２より小さい少なくともｔ_２のコンテンツシャードを識別するステップと、
    各チャンクを再構築し、前記コンテンツデータファイルを再構成するステップと、
    前記再構築されたデータファイルを前記ユーザに送るステップと、を備える、方法。
19. コンテンツシャード数は、暗号化の時点でユーザが設定可能であり、各ｔに限定されず、ｎがｔ＝２及びｎ＝３である、請求項１８に記載の方法。
20. 前記プロセッサ型サーバは、ユーザインターフェイスをコントロールし、前記暗号化ファイルのリストは、選択のために前記ユーザインターフェイスに送られる、請求項１８に記載の方法。

Images