JP2023532352A - データ再配分の方法及び装置 - Google Patents
データ再配分の方法及び装置 Download PDFInfo
- Publication number
- JP2023532352A JP2023532352A JP2022581648A JP2022581648A JP2023532352A JP 2023532352 A JP2023532352 A JP 2023532352A JP 2022581648 A JP2022581648 A JP 2022581648A JP 2022581648 A JP2022581648 A JP 2022581648A JP 2023532352 A JP2023532352 A JP 2023532352A
- Authority
- JP
- Japan
- Prior art keywords
- data
- rule table
- redistribution
- sharding
- rule
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000004044 response Effects 0.000 claims abstract description 6
- 230000015654 memory Effects 0.000 claims description 15
- 230000008676 import Effects 0.000 claims description 8
- 230000000295 complement effect Effects 0.000 claims description 3
- 238000004590 computer program Methods 0.000 claims description 3
- 230000010076 replication Effects 0.000 claims 1
- 230000005012 migration Effects 0.000 description 6
- 238000013508 migration Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000000712 assembly Effects 0.000 description 3
- 238000000429 assembly Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 101100328884 Caenorhabditis elegans sqt-3 gene Proteins 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2255—Hash tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24564—Applying rules; Deductive queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24568—Data stream processing; Continuous queries
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
Claims (13)
- データ再配分方法であって、
計算ノードから送信されたデータ再配分要求に応じて、元のテーブルの情報に基づいて、前記要求に対応するルールテーブルを作成するステップと、
ルールテーブルデータを生成し、前記ルールテーブルデータに対応するストレージノードに送信するステップと、
前記ルールテーブルデータを前記ルールテーブルにインポートするステップと、
前記元のテーブルに合わせて前記ルールテーブルのデータを補完するステップと、
前記ルールテーブルの方式に従ってデータにアクセスするステップと、
を含むデータ再配分方法。 - 前記ルールテーブルは、シャーディングキーとメタデータ情報とを含む
請求項1に記載のデータ再配分方法。 - ルールテーブルのデータを生成する前記ステップは、
配布キー値とノード番号情報をエクスポートし、前記要求に含まれる配布ルールに従って、対応するストレージノードのファイルに分割するステップと、
シャーディングキーと配布パターン、および対応するシャーディングキーで正常に実行されたINSERT/UPDATE/DELETE文を記録するステップと、
を含む請求項1又は2に記載のデータ再配分方法。 - 元のテーブルに合わせて前記ルールテーブルのデータを補完する前記ステップは、前記ルールテーブルと前記元のテーブルの前記シャーディングキーを、前記INSERT/UPDATE/DELETE文に記録されたシャーディングキーと比較し、前記ルールテーブルに前記シャーディングキーに対応するデータが欠落している場合、前記元のテーブル内の前記シャーディングキーに対応するデータを挿入し、前記ルールテーブルに前記シャーディングキーに対応するデータが余分にある場合、前記シャーディングキーに対応するデータを削除し、前記ルールテーブルの前記シャーディングキーに対応するデータと前記元のテーブル内の対応するデータとが一致していない場合、前記元のテーブル内の前記シャーディングキーに対応するデータに修正するステップ
を含む請求項3に記載のデータ再配分方法。 - 元のテーブルに合わせて前記ルールテーブルのデータを補完する前記ステップの前に、
データ再配分が必要なテーブルに読み取りロックをかけるステップをさらに含み、
前記ルールテーブルの方式に従ってデータにアクセスするステップの後に、
前記読み取りロックを解除するステップをさらに含む
請求項1から4の何れか1項に記載のデータ再配分方法。 - データ再配分装置であって、
計算ノードから送信されたデータ再配分要求に応じて、元のテーブルの情報に基づいて、前記要求に対応するルールテーブルを作成するように構成されたプロセッサと、
ルールテーブルデータを生成し、前記ルールテーブルデータに対応するストレージノードに送信し、前記ルールテーブルデータを前記ルールテーブルにインポートし、前記元のテーブルに合わせて前記ルールテーブルのデータを補完するように構成されているストレージノードと、
前記ルールテーブルの方式に従ってデータにアクセスするように構成された計算ノードと、
を備えるデータ再配分装置。 - 前記ルールテーブルは、シャーディングキーとメタデータ情報とを含む
請求項6に記載のデータ再配分装置。 - 前記ストレージノードはさらに、配布キー値とノード番号情報をエクスポートし、前記要求に含まれる配布ルールに従って、対応するストレージノードのファイルに分割するように構成され、
前記計算ノードはさらに、シャーディングキーと配布パターン、および対応するシャーディングキーで正常に実行されたINSERT/UPDATE/DELETE文を記録するように構成されている
請求項6又は7に記載のデータ再配分装置。 - 前記ストレージノードはさらに、前記ルールテーブルと前記元のテーブルの前記シャーディングキーを、前記INSERT/UPDATE/DELETE文に記録されたシャーディングキーと比較し、前記ルールテーブルに前記シャーディングキーに対応するデータが欠落している場合、前記元のテーブル内の前記シャーディングキーに対応するデータを挿入し、前記ルールテーブルに前記シャーディングキーに対応するデータが余分にある場合、前記シャーディングキーに対応するデータを削除し、前記ルールテーブルの前記シャーディングキーに対応するデータと前記元のテーブル内の対応するデータとが一致していない場合、前記元のテーブル内の前記シャーディングキーに対応するデータに修正するように構成されている
請求項8に記載のデータ再配分装置。 - 前記計算ノードはさらに、前記ストレージノードがデータを補完する前に、データ再配分が必要なテーブルに読み取りロックをかけ、前記ルールテーブルの方式に従ってデータにアクセスした後に、前記読み取りロックを解放するように構成されている
請求項6から9の何れか1項に記載のデータ再配分装置。 - 請求項6から10の何れか1項に記載のデータ再配分装置を含む
データ再配分システム。 - 機器であって、
1つまたは複数のプロセッサと、
1つまたは複数のプログラムを記憶するメモリと、
を備え、
前記1つまたは複数のプログラムが前記1つまたは複数のプロセッサにより実行された場合、前記1つまたは複数のプロセッサに請求項1から5の何れか1項に記載の方法を実現させる
機器。 - コンピュータプログラムを記憶している記憶媒体であって、
前記コンピュータプログラムがプロセッサにより実行された場合、請求項1から5の何れか一項に記載の方法を実現する
記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010600815.9A CN113849496A (zh) | 2020-06-28 | 2020-06-28 | 一种数据重分布的方法和装置 |
CN202010600815.9 | 2020-06-28 | ||
PCT/CN2021/102448 WO2022001883A1 (zh) | 2020-06-28 | 2021-06-25 | 一种数据重分布的方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023532352A true JP2023532352A (ja) | 2023-07-27 |
Family
ID=78972778
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022581648A Pending JP2023532352A (ja) | 2020-06-28 | 2021-06-25 | データ再配分の方法及び装置 |
Country Status (5)
Country | Link |
---|---|
EP (1) | EP4174676A4 (ja) |
JP (1) | JP2023532352A (ja) |
KR (1) | KR20230025019A (ja) |
CN (1) | CN113849496A (ja) |
WO (1) | WO2022001883A1 (ja) |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9753999B2 (en) * | 2012-01-06 | 2017-09-05 | Citus Data Bilgi Islemieri Ticaret A.S. | Distributed database with mappings between append-only files and repartitioned files |
US9830346B2 (en) * | 2013-11-26 | 2017-11-28 | Sap Se | Table redistribution in distributed databases |
CN104765748B (zh) * | 2014-01-07 | 2018-06-26 | 中国移动通信集团江西有限公司 | 一种将复制表转换为分片表的方法及装置 |
CN103870602B (zh) * | 2014-04-03 | 2017-05-31 | 中国科学院地理科学与资源研究所 | 数据库空间分片复制方法及系统 |
CN104239417B (zh) * | 2014-08-19 | 2017-06-09 | 天津南大通用数据技术股份有限公司 | 一种分布式数据库数据分片后动态调整方法及装置 |
CN104484469B (zh) * | 2014-12-31 | 2017-12-15 | 天津南大通用数据技术股份有限公司 | 一种支持多hash map数据库集群系统不停机的扩容方法 |
CN106034144B (zh) * | 2015-03-12 | 2019-10-15 | 中国人民解放军国防科学技术大学 | 一种基于负载均衡的虚拟资产数据存储方法 |
CN106407308A (zh) * | 2016-08-31 | 2017-02-15 | 天津南大通用数据技术股份有限公司 | 一种分布式数据库的扩容方法及装置 |
US10783046B2 (en) * | 2016-11-22 | 2020-09-22 | Nutanix, Inc. | Executing resource management operations in distributed computing systems |
CN108319623B (zh) * | 2017-01-18 | 2021-10-22 | 华为技术有限公司 | 一种数据重分布方法、装置及数据库集群 |
CN108932256A (zh) * | 2017-05-25 | 2018-12-04 | 中兴通讯股份有限公司 | 分布式数据重分布控制方法、装置及数据管理服务器 |
-
2020
- 2020-06-28 CN CN202010600815.9A patent/CN113849496A/zh active Pending
-
2021
- 2021-06-25 JP JP2022581648A patent/JP2023532352A/ja active Pending
- 2021-06-25 WO PCT/CN2021/102448 patent/WO2022001883A1/zh active Application Filing
- 2021-06-25 EP EP21831776.6A patent/EP4174676A4/en active Pending
- 2021-06-25 KR KR1020237002277A patent/KR20230025019A/ko unknown
Also Published As
Publication number | Publication date |
---|---|
EP4174676A4 (en) | 2023-11-08 |
KR20230025019A (ko) | 2023-02-21 |
EP4174676A1 (en) | 2023-05-03 |
CN113849496A (zh) | 2021-12-28 |
WO2022001883A1 (zh) | 2022-01-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11010358B2 (en) | Data migration method and system | |
US11726984B2 (en) | Data redistribution method and apparatus, and database cluster | |
US10853242B2 (en) | Deduplication and garbage collection across logical databases | |
US11442961B2 (en) | Active transaction list synchronization method and apparatus | |
CN110502916B (zh) | 一种基于区块链的敏感性数据处理方法与系统 | |
CN112765262B (zh) | 一种数据重分布方法、电子设备及存储介质 | |
US10831612B2 (en) | Primary node-standby node data transmission method, control node, and database system | |
US9208186B2 (en) | Indexing technique to deal with data skew | |
CN111258978B (zh) | 一种数据存储的方法 | |
US10467192B2 (en) | Method and apparatus for updating data table in keyvalue database | |
CN110135184B (zh) | 一种静态数据脱敏的方法、装置、设备及存储介质 | |
CN112912870B (zh) | 租户标识符的转换 | |
WO2016169237A1 (zh) | 数据处理方法及装置 | |
US10673713B2 (en) | Communication control device, communication device, and computer program product for dynamic group management | |
US10440523B2 (en) | Communication control device, communication device, and computer program product for managing a group of devices | |
AU2019350694B2 (en) | Identification of records for post-cloning tenant identifier translation | |
US20230252025A1 (en) | Data Processing System, Blockchain-Based Data Processing Method, and Device | |
WO2023066222A1 (zh) | 数据处理方法、装置、电子设备、存储介质及程序产品 | |
JP2023532352A (ja) | データ再配分の方法及び装置 | |
WO2019174558A1 (zh) | 一种数据索引方法及装置 | |
CN117390078B (zh) | 数据处理方法、装置、存储介质和计算机设备 | |
CN117075823B (zh) | 对象查找方法、系统、电子设备及存储介质 | |
US20240169072A1 (en) | Native multi-tenant row table encryption | |
CN114756628B (zh) | 一种高复用可扩展的数据及文件同步的方法 | |
CN115544321B (zh) | 一种图数据库存储的实现方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221228 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240117 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240206 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240430 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20240625 |