JP2021529392A - データ検証の方法および装置、ならびに記憶媒体 - Google Patents
データ検証の方法および装置、ならびに記憶媒体 Download PDFInfo
- Publication number
- JP2021529392A JP2021529392A JP2020572791A JP2020572791A JP2021529392A JP 2021529392 A JP2021529392 A JP 2021529392A JP 2020572791 A JP2020572791 A JP 2020572791A JP 2020572791 A JP2020572791 A JP 2020572791A JP 2021529392 A JP2021529392 A JP 2021529392A
- Authority
- JP
- Japan
- Prior art keywords
- data block
- storage node
- data
- verification
- validation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 88
- 238000013502 data validation Methods 0.000 title claims abstract description 49
- 230000008569 process Effects 0.000 claims abstract description 39
- 238000013524 data verification Methods 0.000 claims abstract description 20
- 238000010200 validation analysis Methods 0.000 claims description 113
- 238000012795 verification Methods 0.000 claims description 113
- 238000013507 mapping Methods 0.000 claims description 33
- 230000003111 delayed effect Effects 0.000 claims description 5
- 238000005516 engineering process Methods 0.000 abstract description 17
- 230000015654 memory Effects 0.000 description 25
- 238000012545 processing Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 3
- 238000012790 confirmation Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 238000012796 concurrent verification Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/064—Management of blocks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L1/00—Arrangements for detecting or preventing errors in the information received
- H04L1/004—Arrangements for detecting or preventing errors in the information received by using forward error control
- H04L1/0056—Systems characterized by the type of code used
- H04L1/0061—Error detection codes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
- G06F11/1004—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's to protect a block of data words, e.g. CRC or checksum
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/64—Protecting data integrity, e.g. using checksums, certificates or signatures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0604—Improving or facilitating administration, e.g. storage management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0614—Improving the reliability of storage systems
- G06F3/0619—Improving the reliability of storage systems in relation to data integrity, e.g. data losses, bit errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0646—Horizontal data movement in storage systems, i.e. moving data in between storage devices or systems
- G06F3/065—Replication mechanisms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0655—Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
- G06F3/0659—Command handling arrangements, e.g. command buffers, queues, command scheduling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Security & Cryptography (AREA)
- Quality & Reliability (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Bioethics (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
本発明の実施形態によれば、データ検証の方法の実施形態がさらに提供される。添付の図面のフローチャートに示されているステップは、コンピュータ実行可能命令のセットなど、コンピュータシステムにおいて実行できることに留意されたい。フローチャートに論理的な順序が示されているが、場合によっては、本明細書に示されているか、または記載されているステップは、異なる順番で実行されてもよい。
ステップS202:分散ストレージシステムにおける所定のファイルに対応する複数のデータブロックの中から検証対象のデータブロックを決定することであって、検証対象のデータブロックが位置するストレージノードは、分散ストレージシステムにおける負荷分散戦略を満たすストレージノードを含む。
ステップ301:マスタノードからファイルのデータブロックリストを取得する。
ステップ302:データブロックリストに未処理のデータブロックがあるかどうかを判定し、判定結果が「はい」の場合、ステップ303に進み、判定結果が否定である場合、プロセスは終了する。
ステップ303:負荷分散戦略を満たすデータブロックを抽出する。
ステップ304:固定サイズに従ってデータブロックに対して2次スライスを実行する。
ステップ305:未処理のスライスがあるかどうかを判定し、判定結果が「はい」の場合、ステップ306に進み、判定結果が否定である場合、ステップ302に進む。
ステップ306:スライスを抽出し、いくつかのレプリカが位置するストレージノードにスライスのチェックコードを要求する(すべての要求はグローバルトラフィック制御を通過する必要がある)。
ステップ307:チェックコードに整合性がないかどうかを判定し、そうである場合、ステップ308に進み、そうでない場合、ステップ305に進む。
ステップ308:確認のためにバックオフ再試行を実行する。
(1)ストレージノードの負荷分散
同時に実行されるより多くの検証タスクがいくつかのストレージノードに多数の検証要求を集中させて、一部のストレージノードに過度の負荷がかかるのを防止するために、ストレージノードは、この任意選択的な解決策で負荷分散され、同じストレージノードに同時にアクセスできる検証タスクの最大数M(検証タスクの前述の上限に相当)を設定し、グローバルマッピングテーブルA(前述の第1のマッピングテーブルに相当)を作成し、テーブルAの「キー」は、ストレージノードのアドレスを表し、対応する「値」は、ストレージノードにアクセスする同時検証タスクの数を表す。これは、異なる検証タスク間の競合を効果的に低減し、分散ストレージシステムにおけるクラスタの全体的な検証速度を大幅に向上させる。
この任意選択的な解決策では、検証プログラムのより多くの検証タスクが、検証要求を送信するときにグローバルトラフィック制御を通過する。単一のストレージノードの場合、グローバルトラフィック制御様式によって、すべての検証タスクによって送信される検証要求の数を許容範囲内に制限することができ、単一のストレージノードに過度の負荷がかかる問題を効果的に回避することができる。グローバルトラフィック制御は、検証プログラムによって単位時間あたり各ストレージノードに送信される検証要求の数を特定の範囲内に制御することができることを確実にするために使用され、それによって、各ストレージノードへのデータ検証によって引き起こされる追加のリソースオーバーヘッドを許容範囲内で制御することができることを確実にし、単位時間あたり単一のストレージノードに送信できる検証要求の最大数をN(検証要求の前述の上限に相当)として設定し、グローバルマッピングテーブルB(前述の第2のマッピングテーブルに相当)を作成し、テーブル内の「キー」は、ストレージノードのアドレスを表し、対応する「値」は、特定の時間範囲内のストレージノードにすべての検証タスクによって送信された検証要求の数を表す。短い時間間隔(例えば、1秒/1分)(前述の所定の期間に相当)で、テーブルB内のすべてのストレージノードに対応する統計結果がゼロにリセットされ、次いで、統計が再実行される。時間間隔は、タイムスライスと称される。
整合性がないチェックコードを有するスライスが見つかった場合、ユーザがスライスに対応する間隔を変更している可能性が高く、データは動的に変化している。この場合、この好ましい解決策は、再試行を実行する。それにもかかわらず、再試行要求が多すぎて、通常の読み取り/書き込み間隔に影響を与えることを回避し、スライスを継続的に監視するためのより長い時間枠を有するために、この好ましい解決策は、バックオフ様式で再試行を実行し、再試行の最大数をZ、再試行間隔の初期値をT0、上限をTm、および再帰関数をF(x)として設定し、n番目の再試行の間隔をTnとして設定し、Tn=F(Tn−1)、およびTn>=Tn−1とする。
本発明の一実施形態によれば、前述のデータ検証方法を実施するための装置がさらに提供され、これは図4に示されている。図4は、本発明の一実施形態に従って提供されるデータ検証装置の構造ブロック図を示し、装置は、
分散ストレージシステムにおける所定のファイルに対応する複数のデータブロックの中から検証対象のデータブロックを決定するように構成された決定モジュール42であって、検証対象のデータブロックが位置するストレージノードは、分散ストレージシステムにおける負荷分散戦略を満たすストレージノードを含む、決定モジュール42を含む。
本発明の一実施形態は、コンピュータ端末を提供し、コンピュータ端末は、コンピュータ端末グループ内の任意のコンピュータ端末デバイスであり得る。任意選択的に、この実施形態では、前述のコンピュータ端末は、モバイル端末などの端末デバイスで置き換えられてもよい。
本発明の実施形態は、記憶媒体をさらに提供する。任意選択的に、この実施形態では、前述の実施形態1で提供されるデータ検証方法によって実行されるプログラムコードを記憶するために、前述の記憶媒体が使用されてもよい。
この実施形態は、プロセッサを提供し、プロセッサは、実行時に、前述の実施形態1で提供されるデータ検証方法によって実行されるプログラムコードを実行するプログラムを実行するために使用される。
102A プロセッサ
102B プロセッサ
102N プロセッサ
102 プロセッサ
104 メモリ
42 決定モジュール
44 検証モジュール
5 コンピュータ端末
52 プロセッサ
54 メモリ
56 送信装置
Claims (13)
- データ検証方法であって、
分散ストレージシステムにおける所定のファイルに対応する複数のデータブロックの中から検証対象のデータブロックを決定することであって、前記検証対象のデータブロックが位置するストレージノードは、前記分散ストレージシステムにおける負荷分散戦略を満たすストレージノードを含む、決定することと、
前記検証対象のデータブロックを検証することと、を含む、データ検証方法。 - 前記分散ストレージシステムにおける前記所定のファイルに対応する前記複数のデータブロックの中から前記検証対象のデータブロックを前記決定することは、
前記複数のデータブロックから第1のデータブロックを前記検証対象のデータブロックとして選択することであって、前記第1のデータブロックは、レプリカが位置するストレージノードのうち、第1のストレージノードの数が所定の数に達するデータブロックであり、前記第1のストレージノードは、検証タスクの数が検証タスクの上限に達していないストレージノードである、選択することと、を含む、請求項1に記載の方法。 - 前記所定の数は、前記データブロックのすべてのレプリカの数である、請求項2に記載の方法。
- 前記第1のデータブロックは、前記複数のデータブロックから、第1のマッピングテーブルに従って、前記検証対象のデータブロックとして選択され、前記第1のマッピングテーブルは、ストレージノードのアドレスと前記ストレージノードにアクセスする同時検証タスクの数との間の対応関係を記憶する、請求項2または3に記載の方法。
- 前記検証対象のデータブロックを検証するステップは、
データブロックスライスを取得するために、前記検証対象のデータブロックに対して2次スライスを実行することと、
前記データブロックスライスを検証することと、を含む、請求項1に記載の方法。 - 前記データブロックスライスを検証するステップが、
前記データブロックスライスが位置するストレージノードでの検証要求の数が検証要求の上限に達していないかどうかを判定することと、
前記判定の結果が、前記データブロックスライスが位置するストレージノードでの前記検証要求の数が前記検証要求の上限に達していないということである場合、前記データブロックスライスを検証することと、を含む、請求項5に記載の方法。 - 前記データブロックスライスが位置するストレージノードでの前記検証要求の数が、所定の期間内にゼロにリセットされる、請求項6に記載の方法。
- 第2のマッピングテーブルに従って、前記データブロックスライスが位置するストレージノードでの前記検証要求の数が、前記検証要求の上限に達していないかどうかを判定することであって、前記第2のマッピングテーブルは、前記ストレージノードのアドレスと、前記ストレージノードにアクセスする検証要求の数との間の対応関係を記憶する、決定すること、を含む、請求項6または7に記載の方法。
- 前記データブロックスライスを検証するステップの後、前記方法が、
バックオフ再試行様式で前記データブロックスライスに対して検証再試行を実行することであって、前記バックオフ再試行様式は、前記データブロックスライスに対して遅延再試行を実行することである、実行すること、をさらに含む、請求項5に記載の方法。 - バックオフ再試行様式で前記データブロックスライスに対して検証再試行を実行するステップが、
検証再試行のプロセス中、現在の再試行の直前の先行再試行の時間間隔によって前記現在の再試行の時間間隔を決定することであって、前記現在の再試行の前記時間間隔が、前記先行再試行の前記時間間隔よりも大きい、決定すること、を含む、請求項9に記載の方法。 - データ検証装置であって、
分散ストレージシステムにおける所定のファイルに対応する複数のデータブロックの中から検証対象のデータブロックを決定するように構成された決定モジュールであって、前記検証対象のデータブロックが位置するストレージノードは、前記分散ストレージシステムにおける負荷分散戦略を満たすストレージノードを含む、決定モジュールと、
前記検証対象のデータブロックを検証するように構成された検証モジュールと、を含む、データ検証装置。 - 前記決定モジュールは、前記複数のデータブロックから、第1のデータブロックを前記検証対象のデータブロックとして選択するように構成されており、前記第1のデータブロックは、レプリカが位置するストレージノードのうち、第1のストレージノードの数が所定の数に達するデータブロックであり、前記第1のストレージノードは、検証タスクの数が検証タスクの上限に達していないストレージノードである、請求項11に記載の装置。
- 記憶媒体であって、前記記憶媒体は、その中にプログラム命令を記憶し、前記プログラム命令は、実行時に、請求項1〜10のいずれか一項に記載のデータ検証方法を実行するために、前記記憶媒体が位置するデバイスを制御する、記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810687959.5 | 2018-06-28 | ||
CN201810687959.5A CN110659151B (zh) | 2018-06-28 | 2018-06-28 | 数据校验方法及装置,存储介质 |
PCT/CN2019/091227 WO2020001287A1 (zh) | 2018-06-28 | 2019-06-14 | 数据校验方法及装置,存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021529392A true JP2021529392A (ja) | 2021-10-28 |
JP7442466B2 JP7442466B2 (ja) | 2024-03-04 |
Family
ID=68986038
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020572791A Active JP7442466B2 (ja) | 2018-06-28 | 2019-06-14 | データ検証の方法および装置、ならびに記憶媒体 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11537304B2 (ja) |
EP (1) | EP3817255A4 (ja) |
JP (1) | JP7442466B2 (ja) |
CN (1) | CN110659151B (ja) |
WO (1) | WO2020001287A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11429435B1 (en) * | 2020-02-04 | 2022-08-30 | Amazon Technologies, Inc. | Distributed execution budget management system |
CN112713964B (zh) * | 2020-12-22 | 2022-08-05 | 潍柴动力股份有限公司 | 数据校验加速方法、装置、计算机设备及存储介质 |
CN113204371B (zh) * | 2021-05-28 | 2023-09-19 | 金蝶软件(中国)有限公司 | 一种访问控制方法、相关装置及存储介质 |
CN113391767B (zh) * | 2021-06-30 | 2022-10-28 | 北京百度网讯科技有限公司 | 数据一致性的校验方法、装置、电子设备及可读存储介质 |
CN114153647B (zh) * | 2021-09-24 | 2022-08-02 | 深圳市木浪云科技有限公司 | 云存储系统的快速数据校验方法、装置及系统 |
CN114780021B (zh) * | 2022-03-25 | 2022-11-29 | 北京百度网讯科技有限公司 | 副本修复方法、装置、电子设备及存储介质 |
CN116668521B (zh) * | 2023-07-25 | 2023-10-31 | 广东广宇科技发展有限公司 | 一种基于数据结构的分布式多元数据快速传输方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008040718A (ja) * | 2006-08-04 | 2008-02-21 | Nippon Telegr & Teleph Corp <Ntt> | 負荷分散制御装置および方法 |
US20110289366A1 (en) * | 2010-05-19 | 2011-11-24 | Cleversafe, Inc. | Memory utilization balancing in a dispersed storage network |
US20120117351A1 (en) * | 2010-11-09 | 2012-05-10 | Cleversafe, Inc. | Balancing memory utilization in a dispersed storage network |
JP2016526720A (ja) * | 2013-06-19 | 2016-09-05 | エグザブロックス・コーポレーション | クラスタベースの記憶システムにおけるデータスクラビング |
JP2017010425A (ja) * | 2015-06-25 | 2017-01-12 | 富士通株式会社 | 制御プログラム、情報処理装置および制御方法 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7200626B1 (en) * | 2004-01-22 | 2007-04-03 | Unisys Corporation | System and method for verification of a quiesced database copy |
US8301791B2 (en) * | 2007-07-26 | 2012-10-30 | Netapp, Inc. | System and method for non-disruptive check of a mirror |
US9098519B2 (en) * | 2008-09-16 | 2015-08-04 | File System Labs Llc | Methods and apparatus for distributed data storage |
US8694467B2 (en) | 2010-03-31 | 2014-04-08 | Xerox Corporation | Random number based data integrity verification method and system for distributed cloud storage |
US8386835B2 (en) | 2010-05-17 | 2013-02-26 | Oracle International Corporation | System and method for end-to-end data integrity in a network file system |
US8555142B2 (en) | 2010-06-22 | 2013-10-08 | Cleversafe, Inc. | Verifying integrity of data stored in a dispersed storage memory |
US9015499B2 (en) | 2010-11-01 | 2015-04-21 | Cleversafe, Inc. | Verifying data integrity utilizing dispersed storage |
US8910031B1 (en) | 2011-03-29 | 2014-12-09 | Emc Corporation | DIF-CRC based fast hashing |
US8589761B2 (en) | 2011-05-31 | 2013-11-19 | Micron Technology, Inc. | Apparatus and methods for providing data integrity |
US8468423B2 (en) | 2011-09-01 | 2013-06-18 | International Business Machines Corporation | Data verification using checksum sidefile |
US9514132B2 (en) * | 2012-01-31 | 2016-12-06 | International Business Machines Corporation | Secure data migration in a dispersed storage network |
CN103984607A (zh) * | 2013-02-08 | 2014-08-13 | 华为技术有限公司 | 分布式存储的方法、装置和系统 |
US9448877B2 (en) | 2013-03-15 | 2016-09-20 | Cisco Technology, Inc. | Methods and apparatus for error detection and correction in data storage systems using hash value comparisons |
CN104239148B (zh) * | 2013-06-06 | 2018-05-18 | 腾讯科技(深圳)有限公司 | 一种分布式任务调度方法及装置 |
CN103731505A (zh) * | 2014-01-17 | 2014-04-16 | 中国联合网络通信集团有限公司 | 一种数据分布式存储方法及系统 |
US9753955B2 (en) | 2014-09-16 | 2017-09-05 | Commvault Systems, Inc. | Fast deduplication data verification |
US9880904B2 (en) * | 2014-12-12 | 2018-01-30 | Ca, Inc. | Supporting multiple backup applications using a single change tracker |
US10437671B2 (en) * | 2015-06-30 | 2019-10-08 | Pure Storage, Inc. | Synchronizing replicated stored data |
CN105530294A (zh) * | 2015-12-04 | 2016-04-27 | 中科院成都信息技术股份有限公司 | 一种海量数据分布式存储的方法 |
US10496484B2 (en) | 2016-08-05 | 2019-12-03 | Sandisk Technologies Llc | Methods and apparatus for error detection for data storage devices |
-
2018
- 2018-06-28 CN CN201810687959.5A patent/CN110659151B/zh active Active
-
2019
- 2019-06-14 JP JP2020572791A patent/JP7442466B2/ja active Active
- 2019-06-14 WO PCT/CN2019/091227 patent/WO2020001287A1/zh active Application Filing
- 2019-06-14 EP EP19825019.3A patent/EP3817255A4/en active Pending
-
2020
- 2020-12-23 US US17/133,426 patent/US11537304B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008040718A (ja) * | 2006-08-04 | 2008-02-21 | Nippon Telegr & Teleph Corp <Ntt> | 負荷分散制御装置および方法 |
US20110289366A1 (en) * | 2010-05-19 | 2011-11-24 | Cleversafe, Inc. | Memory utilization balancing in a dispersed storage network |
US20120117351A1 (en) * | 2010-11-09 | 2012-05-10 | Cleversafe, Inc. | Balancing memory utilization in a dispersed storage network |
JP2016526720A (ja) * | 2013-06-19 | 2016-09-05 | エグザブロックス・コーポレーション | クラスタベースの記憶システムにおけるデータスクラビング |
JP2017010425A (ja) * | 2015-06-25 | 2017-01-12 | 富士通株式会社 | 制御プログラム、情報処理装置および制御方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2020001287A1 (zh) | 2020-01-02 |
JP7442466B2 (ja) | 2024-03-04 |
EP3817255A1 (en) | 2021-05-05 |
US11537304B2 (en) | 2022-12-27 |
US20210117093A1 (en) | 2021-04-22 |
CN110659151B (zh) | 2023-05-02 |
CN110659151A (zh) | 2020-01-07 |
EP3817255A4 (en) | 2022-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2021529392A (ja) | データ検証の方法および装置、ならびに記憶媒体 | |
US10698699B2 (en) | Method and apparatus for configuring accelerator | |
US10169151B2 (en) | Utilizing request deadlines in a dispersed storage network | |
CN109617986B (zh) | 一种负载均衡方法及网络设备 | |
US20160117079A1 (en) | Method and apparatus for displaying application icons on terminal | |
CN102857578B (zh) | 一种网络硬盘的文件上传方法、系统及网盘客户端 | |
US11246168B2 (en) | Method for random access and terminal device | |
US11206706B2 (en) | Method and apparatus for web browsing on multihomed mobile devices | |
TW201822013A (zh) | 伺服器負載均衡的方法、裝置及伺服器設備 | |
US9311148B2 (en) | Pseudo-random hardware resource allocation through the plurality of resource controller based on non-repeating sequence of index list entries | |
CN110275680B (zh) | 一种双控双活存储系统 | |
CN109428839B (zh) | 一种cdn调度方法、设备及系统 | |
CN112398689A (zh) | 网络恢复方法、装置、存储介质及电子设备 | |
US20140351210A1 (en) | Data processing system, data processing apparatus, and storage medium | |
CN113268329B (zh) | 一种请求调度方法、装置及存储介质 | |
CN111382141B (zh) | 主从架构配置方法、装置、设备以及计算机可读存储介质 | |
CN116909953A (zh) | 一种多路径规划方法、装置及介质 | |
CN109617988B (zh) | 请求重试方法及相关产品 | |
JP6368659B2 (ja) | 基地局輻輳管理システム、及び基地局輻輳管理方法 | |
CN110851166A (zh) | 用户无感知的应用程序更新方法、装置及计算机设备 | |
CN115878136A (zh) | 一种基于裸金属服务器的部署方法、装置及系统 | |
CN111858129B (zh) | 一种纠删码读请求处理方法、系统、设备及计算机介质 | |
CN113259975A (zh) | 网络游戏连接方法、电子设备和计算机可读介质 | |
CN104348906A (zh) | 一种分布式系统中数据协商方法及装置 | |
CN107465743B (zh) | 一种处理请求的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220610 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230531 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230605 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230904 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231010 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240110 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240122 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240220 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7442466 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |