CN101882141A - 一种实现重复数据数据删除的方法和系统 - Google Patents
一种实现重复数据数据删除的方法和系统 Download PDFInfo
- Publication number
- CN101882141A CN101882141A CN2009101365952A CN200910136595A CN101882141A CN 101882141 A CN101882141 A CN 101882141A CN 2009101365952 A CN2009101365952 A CN 2009101365952A CN 200910136595 A CN200910136595 A CN 200910136595A CN 101882141 A CN101882141 A CN 101882141A
- Authority
- CN
- China
- Prior art keywords
- data
- similarity
- warehouse
- storehouse
- bias
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
Claims (7)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2009101365952A CN101882141A (zh) | 2009-05-08 | 2009-05-08 | 一种实现重复数据数据删除的方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2009101365952A CN101882141A (zh) | 2009-05-08 | 2009-05-08 | 一种实现重复数据数据删除的方法和系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN101882141A true CN101882141A (zh) | 2010-11-10 |
Family
ID=43054157
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2009101365952A Pending CN101882141A (zh) | 2009-05-08 | 2009-05-08 | 一种实现重复数据数据删除的方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101882141A (zh) |
Cited By (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102033924A (zh) * | 2010-12-08 | 2011-04-27 | 浪潮(北京)电子信息产业有限公司 | 一种数据存储方法和系统 |
CN102222085A (zh) * | 2011-05-17 | 2011-10-19 | 华中科技大学 | 一种基于相似性与局部性结合的重复数据删除方法 |
CN102323958A (zh) * | 2011-10-27 | 2012-01-18 | 上海文广互动电视有限公司 | 重复数据删除方法 |
CN102523290A (zh) * | 2011-12-19 | 2012-06-27 | 成都市华为赛门铁克科技有限公司 | 数据的处理方法、设备和系统 |
CN102523112A (zh) * | 2011-12-14 | 2012-06-27 | 华为技术有限公司 | 信息处理方法及设备 |
CN102629258A (zh) * | 2012-02-29 | 2012-08-08 | 浪潮(北京)电子信息产业有限公司 | 重复数据删除方法和装置 |
CN102833298A (zh) * | 2011-06-17 | 2012-12-19 | 英业达集团(天津)电子技术有限公司 | 分布式的重复数据删除系统及其处理方法 |
CN102902826A (zh) * | 2012-11-08 | 2013-01-30 | 公安部第三研究所 | 一种基于基准图像索引的图像快速检索方法 |
CN103150145A (zh) * | 2011-12-07 | 2013-06-12 | Sap股份公司 | 数据仓库环境中的语义分组数据的并行处理 |
CN103294957A (zh) * | 2013-05-06 | 2013-09-11 | 北京赛思信安技术有限公司 | 支持重复数据删除文件系统中数据更新时的数据保护方法 |
CN103309975A (zh) * | 2013-06-09 | 2013-09-18 | 华为技术有限公司 | 一种重复数据删除方法和设备 |
CN103412864A (zh) * | 2013-06-06 | 2013-11-27 | 莱诺斯科技(北京)有限公司 | 一种数据压缩存储方法 |
CN103502957A (zh) * | 2012-12-28 | 2014-01-08 | 华为技术有限公司 | 数据处理方法及装置 |
WO2014067063A1 (zh) * | 2012-10-30 | 2014-05-08 | 华为技术有限公司 | 重复数据检索方法及设备 |
CN104063318A (zh) * | 2014-06-24 | 2014-09-24 | 湘潭大学 | Android应用相似性快速检测方法 |
CN104317823A (zh) * | 2014-09-30 | 2015-01-28 | 北京合力思腾科技股份有限公司 | 一种利用数据指纹进行数据检测的方法 |
CN104391894A (zh) * | 2014-11-11 | 2015-03-04 | 广州科腾信息技术有限公司 | 一种重复数据的检查处理方法 |
CN104866473A (zh) * | 2014-02-20 | 2015-08-26 | 携程计算机技术(上海)有限公司 | 存储单元的数据存储、访问方法以及服务器 |
CN105069111A (zh) * | 2015-08-10 | 2015-11-18 | 广东工业大学 | 云存储中基于相似性的数据块级数据去重方法 |
CN105260133A (zh) * | 2015-09-22 | 2016-01-20 | Tcl移动通信科技(宁波)有限公司 | 一种移动终端emmc的数据写入方法及系统 |
WO2016008070A1 (zh) * | 2014-07-14 | 2016-01-21 | 华为技术有限公司 | 数据写入的方法及装置 |
CN105653209A (zh) * | 2015-12-31 | 2016-06-08 | 浪潮(北京)电子信息产业有限公司 | 一种对象存储数据传输方法及装置 |
US20160171009A1 (en) * | 2014-12-10 | 2016-06-16 | International Business Machines Corporation | Method and apparatus for data deduplication |
CN105917304A (zh) * | 2014-12-09 | 2016-08-31 | 华为技术有限公司 | 重复数据删除的装置和方法 |
CN106649646A (zh) * | 2016-12-09 | 2017-05-10 | 北京锐安科技有限公司 | 一种数据去重的方法及装置 |
CN107122130A (zh) * | 2017-04-13 | 2017-09-01 | 杭州宏杉科技股份有限公司 | 一种数据重删方法及装置 |
CN108027713A (zh) * | 2015-09-18 | 2018-05-11 | 阿里巴巴集团控股有限公司 | 用于固态驱动器控制器的重复数据删除 |
CN108681433A (zh) * | 2018-05-04 | 2018-10-19 | 南京信息工程大学 | 一种用于重复数据删除的抽样选择方法 |
CN110019053A (zh) * | 2017-11-02 | 2019-07-16 | 福建天晴数码有限公司 | 一种Unity3D资源包冗余数据检测方法及终端 |
CN111651326A (zh) * | 2020-06-02 | 2020-09-11 | 葛菲 | 一种基于区块链的分布式数据管理系统及方法 |
CN112380197A (zh) * | 2020-10-29 | 2021-02-19 | 中科热备(北京)云计算技术有限公司 | 一种基于前端重复数据删除的方法 |
CN112558885A (zh) * | 2020-12-24 | 2021-03-26 | 展讯半导体(成都)有限公司 | 功能手机的存储器使用方法及相关产品 |
-
2009
- 2009-05-08 CN CN2009101365952A patent/CN101882141A/zh active Pending
Cited By (55)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102033924B (zh) * | 2010-12-08 | 2012-10-31 | 浪潮(北京)电子信息产业有限公司 | 一种数据存储方法和系统 |
CN102033924A (zh) * | 2010-12-08 | 2011-04-27 | 浪潮(北京)电子信息产业有限公司 | 一种数据存储方法和系统 |
CN102222085A (zh) * | 2011-05-17 | 2011-10-19 | 华中科技大学 | 一种基于相似性与局部性结合的重复数据删除方法 |
CN102833298A (zh) * | 2011-06-17 | 2012-12-19 | 英业达集团(天津)电子技术有限公司 | 分布式的重复数据删除系统及其处理方法 |
CN102323958A (zh) * | 2011-10-27 | 2012-01-18 | 上海文广互动电视有限公司 | 重复数据删除方法 |
CN103150145A (zh) * | 2011-12-07 | 2013-06-12 | Sap股份公司 | 数据仓库环境中的语义分组数据的并行处理 |
CN102523112A (zh) * | 2011-12-14 | 2012-06-27 | 华为技术有限公司 | 信息处理方法及设备 |
CN102523112B (zh) * | 2011-12-14 | 2015-09-09 | 华为技术有限公司 | 信息处理方法及设备 |
CN102523290A (zh) * | 2011-12-19 | 2012-06-27 | 成都市华为赛门铁克科技有限公司 | 数据的处理方法、设备和系统 |
CN102523290B (zh) * | 2011-12-19 | 2015-04-08 | 华为数字技术(成都)有限公司 | 数据的处理方法、设备和系统 |
CN102629258B (zh) * | 2012-02-29 | 2013-12-18 | 浪潮(北京)电子信息产业有限公司 | 重复数据删除方法和装置 |
CN102629258A (zh) * | 2012-02-29 | 2012-08-08 | 浪潮(北京)电子信息产业有限公司 | 重复数据删除方法和装置 |
WO2014067063A1 (zh) * | 2012-10-30 | 2014-05-08 | 华为技术有限公司 | 重复数据检索方法及设备 |
CN102902826B (zh) * | 2012-11-08 | 2016-07-06 | 公安部第三研究所 | 一种基于基准图像索引的图像快速检索方法 |
CN102902826A (zh) * | 2012-11-08 | 2013-01-30 | 公安部第三研究所 | 一种基于基准图像索引的图像快速检索方法 |
US10877680B2 (en) | 2012-12-28 | 2020-12-29 | Huawei Technologies Co., Ltd. | Data processing method and apparatus |
CN103502957A (zh) * | 2012-12-28 | 2014-01-08 | 华为技术有限公司 | 数据处理方法及装置 |
US8760956B1 (en) | 2012-12-28 | 2014-06-24 | Huawei Technologies Co., Ltd. | Data processing method and apparatus |
WO2014101130A1 (zh) * | 2012-12-28 | 2014-07-03 | 华为技术有限公司 | 数据处理方法及装置 |
CN103502957B (zh) * | 2012-12-28 | 2016-07-06 | 华为技术有限公司 | 数据处理方法及装置 |
CN103294957A (zh) * | 2013-05-06 | 2013-09-11 | 北京赛思信安技术有限公司 | 支持重复数据删除文件系统中数据更新时的数据保护方法 |
CN103294957B (zh) * | 2013-05-06 | 2015-10-28 | 北京赛思信安技术有限公司 | 支持重复数据删除文件系统中数据更新时的数据保护方法 |
CN103412864A (zh) * | 2013-06-06 | 2013-11-27 | 莱诺斯科技(北京)有限公司 | 一种数据压缩存储方法 |
CN103412864B (zh) * | 2013-06-06 | 2017-04-05 | 莱诺斯科技(北京)股份有限公司 | 一种数据压缩存储方法 |
CN103309975A (zh) * | 2013-06-09 | 2013-09-18 | 华为技术有限公司 | 一种重复数据删除方法和设备 |
CN104866473A (zh) * | 2014-02-20 | 2015-08-26 | 携程计算机技术(上海)有限公司 | 存储单元的数据存储、访问方法以及服务器 |
CN104063318A (zh) * | 2014-06-24 | 2014-09-24 | 湘潭大学 | Android应用相似性快速检测方法 |
WO2016008070A1 (zh) * | 2014-07-14 | 2016-01-21 | 华为技术有限公司 | 数据写入的方法及装置 |
CN105518790A (zh) * | 2014-07-14 | 2016-04-20 | 华为技术有限公司 | 数据写入的方法及装置 |
CN105518790B (zh) * | 2014-07-14 | 2019-05-28 | 华为技术有限公司 | 数据写入的方法及装置 |
CN104317823A (zh) * | 2014-09-30 | 2015-01-28 | 北京合力思腾科技股份有限公司 | 一种利用数据指纹进行数据检测的方法 |
CN104391894A (zh) * | 2014-11-11 | 2015-03-04 | 广州科腾信息技术有限公司 | 一种重复数据的检查处理方法 |
CN105917304A (zh) * | 2014-12-09 | 2016-08-31 | 华为技术有限公司 | 重复数据删除的装置和方法 |
US11243915B2 (en) * | 2014-12-10 | 2022-02-08 | International Business Machines Corporation | Method and apparatus for data deduplication |
US20160171009A1 (en) * | 2014-12-10 | 2016-06-16 | International Business Machines Corporation | Method and apparatus for data deduplication |
US10089321B2 (en) * | 2014-12-10 | 2018-10-02 | International Business Machines Corporation | Method and apparatus for data deduplication |
US20180365262A1 (en) * | 2014-12-10 | 2018-12-20 | International Business Machines Corporation | Method and apparatus for data deduplication |
CN105069111A (zh) * | 2015-08-10 | 2015-11-18 | 广东工业大学 | 云存储中基于相似性的数据块级数据去重方法 |
CN105069111B (zh) * | 2015-08-10 | 2018-09-18 | 广东工业大学 | 云存储中基于相似性的数据块级数据去重方法 |
CN108027713B (zh) * | 2015-09-18 | 2021-10-12 | 阿里巴巴集团控股有限公司 | 用于固态驱动器控制器的重复数据删除 |
CN108027713A (zh) * | 2015-09-18 | 2018-05-11 | 阿里巴巴集团控股有限公司 | 用于固态驱动器控制器的重复数据删除 |
CN105260133B (zh) * | 2015-09-22 | 2019-04-30 | Tcl移动通信科技(宁波)有限公司 | 一种移动终端emmc的数据写入方法及系统 |
CN105260133A (zh) * | 2015-09-22 | 2016-01-20 | Tcl移动通信科技(宁波)有限公司 | 一种移动终端emmc的数据写入方法及系统 |
CN105653209A (zh) * | 2015-12-31 | 2016-06-08 | 浪潮(北京)电子信息产业有限公司 | 一种对象存储数据传输方法及装置 |
CN106649646A (zh) * | 2016-12-09 | 2017-05-10 | 北京锐安科技有限公司 | 一种数据去重的方法及装置 |
CN107122130A (zh) * | 2017-04-13 | 2017-09-01 | 杭州宏杉科技股份有限公司 | 一种数据重删方法及装置 |
CN107122130B (zh) * | 2017-04-13 | 2020-04-21 | 杭州宏杉科技股份有限公司 | 一种数据重删方法及装置 |
CN110019053A (zh) * | 2017-11-02 | 2019-07-16 | 福建天晴数码有限公司 | 一种Unity3D资源包冗余数据检测方法及终端 |
CN110019053B (zh) * | 2017-11-02 | 2022-04-01 | 福建天晴数码有限公司 | 一种Unity3D资源包冗余数据检测方法及终端 |
CN108681433A (zh) * | 2018-05-04 | 2018-10-19 | 南京信息工程大学 | 一种用于重复数据删除的抽样选择方法 |
CN111651326A (zh) * | 2020-06-02 | 2020-09-11 | 葛菲 | 一种基于区块链的分布式数据管理系统及方法 |
CN111651326B (zh) * | 2020-06-02 | 2021-09-07 | 深圳市云计算科技有限公司 | 一种基于区块链的分布式数据管理系统及方法 |
CN112380197A (zh) * | 2020-10-29 | 2021-02-19 | 中科热备(北京)云计算技术有限公司 | 一种基于前端重复数据删除的方法 |
CN112558885A (zh) * | 2020-12-24 | 2021-03-26 | 展讯半导体(成都)有限公司 | 功能手机的存储器使用方法及相关产品 |
CN112558885B (zh) * | 2020-12-24 | 2022-11-22 | 展讯半导体(成都)有限公司 | 功能手机的存储器使用方法及相关产品 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101882141A (zh) | 一种实现重复数据数据删除的方法和系统 | |
US10031675B1 (en) | Method and system for tiering data | |
JP5445682B2 (ja) | ストレージシステム | |
CN104246764B (zh) | 利用非均匀散列函数在非均匀访问存储器中放置记录的方法和装置 | |
CN103902623B (zh) | 用于在存储系统上存取文件的方法和系统 | |
US10540106B2 (en) | System and method for copy on write on an SSD | |
US11604834B2 (en) | Technologies for performing stochastic similarity searches in an online clustering space | |
CN101777017B (zh) | 一种连续数据保护系统的快速恢复方法 | |
US10409692B1 (en) | Garbage collection: timestamp entries and remove reference counts | |
WO2018063585A1 (en) | Techniques to manage key-value storage at a memory or storage device | |
CN108027713A (zh) | 用于固态驱动器控制器的重复数据删除 | |
CN107135662B (zh) | 一种差异数据备份方法、存储系统和差异数据备份装置 | |
US10248677B1 (en) | Scaling an SSD index on a deduplicated storage system | |
CN114924911A (zh) | Windows操作系统有效数据备份方法、装置、设备和存储介质 | |
CN105302665A (zh) | 一种改进的写时拷贝快照方法及系统 | |
CN102609531A (zh) | 一种根据关键字反查文件的方法 | |
CN113971001B (zh) | 存储器装置中的存储流量模式检测 | |
US9128823B1 (en) | Synthetic data generation for backups of block-based storage | |
EP3908938B1 (en) | Systems, methods and devices for eliminating duplicates and value redundancy in computer memories | |
CN108647243B (zh) | 基于时间序列的工业大数据存储方法 | |
CN103049387B (zh) | 一种分页存储器件的压缩管理方法及装置 | |
CN102831240B (zh) | 扩展元数据文件的存储方法和存储结构 | |
CN114579617A (zh) | 数据查询方法、装置、计算机设备和存储介质 | |
Long et al. | A fast deduplication scheme for stored data in distributed storage systems | |
US10042558B1 (en) | Method to improve the I/O performance in a deduplicated storage system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
DD01 | Delivery of document by public notice |
Addressee: Wang Xiaoyuan Document name: Notification of Passing Examination on Formalities |
|
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C53 | Correction of patent for invention or patent application | ||
CB02 | Change of applicant information |
Address after: 214028 Jiangsu Province, Wuxi City District Road No. 18 Wuxi Zhenze National Software Park Building 6 layer A Taurus Applicant after: SOUL Storage Technology (Wuxi) Co., Ltd. Address before: 214028 Jiangsu Province, Wuxi City District Zhenze Road No. 18 Jiangsu Software Outsourcing Industrial Park Building 6 layer A Taurus Applicant before: Wuxi SOUL Storage Technology Co., Ltd. |
|
COR | Change of bibliographic data |
Free format text: CORRECT: APPLICANT; FROM: WUXI SOUL STORAGE TECHNOLOGY CO., LTD. TO: SOUL STORAGE TECHNOLOGY (WUXI)CO., LTD. |
|
C12 | Rejection of a patent application after its publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20101110 |