JP7046172B2 - シャード・データベースのシャード・テーブルにレコードを記憶するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、シャード・データベースのシャード・テーブルからレコードを検索するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、ならびにシャード・データベースを記憶するためのシステム - Google Patents

シャード・データベースのシャード・テーブルにレコードを記憶するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、シャード・データベースのシャード・テーブルからレコードを検索するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、ならびにシャード・データベースを記憶するためのシステム Download PDF

Info

Publication number
JP7046172B2
JP7046172B2 JP2020520560A JP2020520560A JP7046172B2 JP 7046172 B2 JP7046172 B2 JP 7046172B2 JP 2020520560 A JP2020520560 A JP 2020520560A JP 2020520560 A JP2020520560 A JP 2020520560A JP 7046172 B2 JP7046172 B2 JP 7046172B2
Authority
JP
Japan
Prior art keywords
shard
database
records
record
bloom
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020520560A
Other languages
English (en)
Japanese (ja)
Other versions
JP2021500649A (ja
JP2021500649A5 (enExample
Inventor
ワレン、クロード、ネルソン、ジュニア
リャン、マイケル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2021500649A publication Critical patent/JP2021500649A/ja
Publication of JP2021500649A5 publication Critical patent/JP2021500649A5/ja
Application granted granted Critical
Publication of JP7046172B2 publication Critical patent/JP7046172B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
    • G06F16/278—Data partitioning, e.g. horizontal or vertical partitioning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21—Design, administration or maintenance of databases
    • G06F16/211—Schema design and management
    • G06F16/212—Schema design and management with details for data modelling support
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22—Indexing; Data structures therefor; Storage structures
    • G06F16/2228—Indexing structures
    • G06F16/2237—Vectors, bitmaps or matrices
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2455—Query execution
    • G06F16/24553—Query execution of query operations
    • G06F16/24554—Unary operations; Data partitioning operations

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
JP2020520560A 2017-10-25 2018-10-18 シャード・データベースのシャード・テーブルにレコードを記憶するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、シャード・データベースのシャード・テーブルからレコードを検索するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、ならびにシャード・データベースを記憶するためのシステム Active JP7046172B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US15/793,100 US10585915B2 (en) 2017-10-25 2017-10-25 Database sharding
US15/793,100 2017-10-25
US15/813,577 US10592532B2 (en) 2017-10-25 2017-11-15 Database sharding
US15/813,577 2017-11-15
PCT/EP2018/078495 WO2019081322A1 (en) 2017-10-25 2018-10-18 BASIC PARTITIONING OF DATA

Publications (3)

Publication Number Publication Date
JP2021500649A JP2021500649A (ja) 2021-01-07
JP2021500649A5 JP2021500649A5 (enExample) 2021-04-22
JP7046172B2 true JP7046172B2 (ja) 2022-04-01

Family

ID=66169387

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020520560A Active JP7046172B2 (ja) 2017-10-25 2018-10-18 シャード・データベースのシャード・テーブルにレコードを記憶するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、シャード・データベースのシャード・テーブルからレコードを検索するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、ならびにシャード・データベースを記憶するためのシステム

Country Status (6)

Country Link
US (2) US10585915B2 (enExample)
JP (1) JP7046172B2 (enExample)
CN (1) CN111247518B (enExample)
DE (1) DE112018004222T5 (enExample)
GB (1) GB2581738A (enExample)
WO (1) WO2019081322A1 (enExample)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3128761C (en) * 2017-02-27 2023-04-04 Timescale, Inc. Scalable database system for querying time-series data
US11126625B2 (en) 2019-05-31 2021-09-21 Salesforce.Com, Inc. Caching techniques for a database change stream
US20210034586A1 (en) 2019-08-02 2021-02-04 Timescale, Inc. Compressing data in database systems using hybrid row/column storage representations
US11194773B2 (en) * 2019-09-12 2021-12-07 Oracle International Corporation Integration of existing databases into a sharding environment
CN110968265B (zh) * 2019-11-05 2023-08-08 北京字节跳动网络技术有限公司 分片扩容方法、装置及电子设备
JP7458485B2 (ja) * 2019-12-20 2024-03-29 ナイアンティック， インコーポレイテッド 予測可能なクエリ応答時間を有するジオロケーションデータのシャードストレージ
KR102371529B1 (ko) * 2020-02-14 2022-03-07 구글 엘엘씨 다수 당사자 도달 및 빈도 추정 보안화
US11531666B1 (en) 2020-08-20 2022-12-20 Amazon Technologies, Inc. Indexing partitions using distributed bloom filters
EP3961419A1 (en) * 2020-08-28 2022-03-02 Siemens Aktiengesellschaft Computer-implemented method for storing a dataset and computer network
CN112162981A (zh) * 2020-09-08 2021-01-01 杭州涂鸦信息技术有限公司 一种自适应的路由分库分表方法及系统
KR20220162751A (ko) * 2020-10-05 2022-12-08 구글 엘엘씨 카운트 벡터를 사용한 블룸 필터의 메타 추정
CN113760837B (zh) * 2020-10-27 2025-07-15 北京沃东天骏信息技术有限公司 数据写入、查询方法和装置
CN112417276A (zh) * 2020-11-18 2021-02-26 北京字节跳动网络技术有限公司 分页数据获取方法、装置、电子设备及计算机可读存储介质
CN114722360B (zh) * 2021-01-04 2024-10-18 中国移动通信有限公司研究院 水印插入方法、提取方法及装置
US11568065B2 (en) * 2021-01-15 2023-01-31 Bank Of America Corporation System for securing electronic data by aggregation of distributed electronic database entries
US11829394B2 (en) * 2021-03-11 2023-11-28 International Business Machines Corporation Soft deletion of data in sharded databases
CN114357024A (zh) * 2021-12-24 2022-04-15 南京苏宁软件技术有限公司 提升用户画像接口性能的方法、装置和计算机设备
JP2023141215A (ja) * 2022-03-23 2023-10-05 株式会社エヌ・ティ・ティ・データ・セキスイシステムズ インデックス管理装置
CN114676139B (zh) * 2022-03-29 2025-04-18 浪潮云信息技术股份公司 一种索引数据存储方法、系统、设备及存储介质
CN115941787A (zh) * 2022-11-28 2023-04-07 北京青云科技股份有限公司 一种缓存数据访问处理方法、装置、电子设备及存储介质
CN115934761A (zh) * 2022-12-29 2023-04-07 天翼云科技有限公司 一种基于Counting布隆过滤器的数据库中间件查询优化方法
US11995084B1 (en) 2023-10-05 2024-05-28 Timescale, Inc. Database system for querying time-series data stored in a tiered storage using a cloud platform

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007052698A (ja) 2005-08-19 2007-03-01 Kddi Corp 暗号化された文書のためのインデックス生成および検索方法ならびに暗号化文書検索システム
JP2010152676A (ja) 2008-12-25 2010-07-08 Nec Corp 情報転送装置、情報転送方法およびプログラム
US20100312749A1 (en) 2009-06-04 2010-12-09 Microsoft Corporation Scalable lookup service for distributed database
US20160110391A1 (en) 2014-10-21 2016-04-21 Microsoft Corporation Composite Partition Functions

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9275129B2 (en) 2006-01-23 2016-03-01 Symantec Corporation Methods and systems to efficiently find similar and near-duplicate emails and files
US8209178B1 (en) 2008-01-10 2012-06-26 Google Inc. Randomized language models
EP2665003A1 (en) 2009-06-19 2013-11-20 Blekko, Inc. Search term based query method with modifiers expressed as slash operators
US8996568B2 (en) * 2009-07-14 2015-03-31 Qualcomm Incorporated Methods and apparatus for efficiently processing multiple keyword queries on a distributed network
CN101916261B (zh) 2010-07-28 2013-07-17 北京播思软件技术有限公司 一种分布式并行数据库系统的数据分区方法
US8996463B2 (en) 2012-07-26 2015-03-31 Mongodb, Inc. Aggregation framework system architecture and method
US8924426B2 (en) 2011-04-29 2014-12-30 Google Inc. Joining tables in a mapreduce procedure
EP2786276A1 (en) 2011-11-30 2014-10-08 DeCarta Inc. Systems and methods for performing geo-search and retrieval of electronic point-of-interest records using a big index
EP2629212A1 (en) * 2012-02-14 2013-08-21 Alcatel Lucent Method for storing and searching tagged content items in a distributed system
US8856234B2 (en) 2013-02-28 2014-10-07 Workiva Llc System and method for performing distributed asynchronous calculations in a networked environment
US9507824B2 (en) * 2014-08-22 2016-11-29 Attivio Inc. Automated creation of join graphs for unrelated data sets among relational databases
US9727275B2 (en) 2014-12-02 2017-08-08 International Business Machines Corporation Coordinating storage of data in dispersed storage networks
US20160328429A1 (en) 2015-03-17 2016-11-10 Cloudera, Inc. Mutations in a column store
US9886441B2 (en) 2015-04-06 2018-02-06 Sap Se Shard aware near real time indexing
US11210279B2 (en) 2016-04-15 2021-12-28 Apple Inc. Distributed offline indexing
US10430598B2 (en) * 2017-06-08 2019-10-01 The Government Of The United States, As Represented By The Secretary Of The Army Secure generalized bloom filter

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007052698A (ja) 2005-08-19 2007-03-01 Kddi Corp 暗号化された文書のためのインデックス生成および検索方法ならびに暗号化文書検索システム
JP2010152676A (ja) 2008-12-25 2010-07-08 Nec Corp 情報転送装置、情報転送方法およびプログラム
US20100312749A1 (en) 2009-06-04 2010-12-09 Microsoft Corporation Scalable lookup service for distributed database
US20160110391A1 (en) 2014-10-21 2016-04-21 Microsoft Corporation Composite Partition Functions

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
佐保 航輝，検索可能暗号におけるブルームフィルタを応用した検索方式の提案，電子情報通信学会技術研究報告，一般社団法人電子情報通信学会，2015年05月14日，第115巻 第45号，pp. 47～53，ISSN 0913-5685

Also Published As

Publication number Publication date
US10585915B2 (en) 2020-03-10
GB2581738A (en) 2020-08-26
WO2019081322A1 (en) 2019-05-02
US20190121901A1 (en) 2019-04-25
US20190121902A1 (en) 2019-04-25
JP2021500649A (ja) 2021-01-07
DE112018004222T5 (de) 2020-05-14
US10592532B2 (en) 2020-03-17
CN111247518B (zh) 2024-05-14
GB202007157D0 (en) 2020-07-01
CN111247518A (zh) 2020-06-05

Similar Documents

Publication Publication Date Title
JP7046172B2 (ja) シャード・データベースのシャード・テーブルにレコードを記憶するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、シャード・データベースのシャード・テーブルからレコードを検索するためのコンピュータ実装方法、コンピュータ・プログラム製品、およびシステム、ならびにシャード・データベースを記憶するためのシステム
US8793227B2 (en) Storage system for eliminating duplicated data
CN109600447B (zh) 用于处理数据的方法、装置和系统
JP6542909B2 (ja) ファイル操作方法及び装置
US9002907B2 (en) Method and system for storing binary large objects (BLObs) in a distributed key-value storage system
CN107704202B (zh) 一种数据快速读写的方法和装置
TW201841122A (zh) 鍵值儲存樹
US20170344546A1 (en) Code dispersion hash table-based map-reduce system and method
EP3814974B1 (en) Translation of tenant identifiers
US20190303486A1 (en) Dynamic hash partitioning for large-scale database management systems
CN118113663A (zh) 用于管理存储系统的方法、设备和计算机程序产品
CN115438016A (zh) 分布式对象存储中动态分片方法、系统、介质及设备
US11151110B2 (en) Identification of records for post-cloning tenant identifier translation
US20150081710A1 (en) Data typing with probabilistic maps having imbalanced error costs
CN104956340A (zh) 可扩展数据重复删除
US9898518B2 (en) Computer system, data allocation management method, and program
US9805109B2 (en) Computer, control device for computer system, and recording medium
JP7505252B2 (ja) ファイルサーバ、重複排除システム、処理方法、プログラム
US10083121B2 (en) Storage system and storage method
JP6076882B2 (ja) 情報処理システム、管理装置及びキー割当プログラム
CN115686343A (zh) 数据更新方法及装置
JP6193491B2 (ja) 計算機システム
US20150215404A1 (en) Replication device, replication method, and replication system
HK40081512A (en) Data update method and apparatus

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210309

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211102

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220322

R150 Certificate of patent or registration of utility model

Ref document number: 7046172

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150