CN112306406A - 智能存储自动分级的方法、装置、存储介质及电子设备 - Google Patents
智能存储自动分级的方法、装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN112306406A CN112306406A CN202011135983.1A CN202011135983A CN112306406A CN 112306406 A CN112306406 A CN 112306406A CN 202011135983 A CN202011135983 A CN 202011135983A CN 112306406 A CN112306406 A CN 112306406A
- Authority
- CN
- China
- Prior art keywords
- data
- target data
- target
- information
- storage medium
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 238000013500 data storage Methods 0.000 claims abstract description 21
- 230000015654 memory Effects 0.000 claims description 27
- 230000005012 migration Effects 0.000 claims description 21
- 238000013508 migration Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 15
- 238000012545 processing Methods 0.000 claims description 8
- 230000004931 aggregating effect Effects 0.000 claims description 5
- 239000007787 solid Substances 0.000 claims description 5
- 239000002699 waste material Substances 0.000 abstract description 8
- 238000004891 communication Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 7
- 238000005457 optimization Methods 0.000 description 5
- 230000005236 sound signal Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 239000000126 substance Substances 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 125000004432 carbon atom Chemical group C* 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 230000008094 contradictory effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0604—Improving or facilitating administration, e.g. storage management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0625—Power saving in storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
- G06F3/0631—Configuration or reconfiguration of storage systems by allocating resources to storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0646—Horizontal data movement in storage systems, i.e. moving data in between storage devices or systems
- G06F3/0647—Migration mechanisms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
- G06F3/0673—Single storage device
- G06F3/068—Hybrid storage device
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种智能存储自动分级的方法、装置、存储介质及电子设备,涉及数据存储技术领域。所述方法包括:获取目标数据的预期数据访问价值信息,其中,数据访问价值信息是用于标示出用户对目标数据的访问价值及需求的信息;获取目标数据的数据持有成本信息;所述数据持有成本信息与所述目标数据的存储成本相关;根据所述目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质,将所述目标数据存储至所述目标存储介质中。用以实现自动进行数据的分级存储,提高存储效率,降低存储资源的浪费。
Description
技术领域
本发明涉及数据存储的技术领域,具体涉及一种智能存储自动分级的方法、装置、存储介质及电子设备。
背景技术
随着NVMe(Non-Volatile Memory express,非易失性内存主机控制器接口规范)等高性能存储技术的快速发展,存储的密度和性能有很大的提升。但是出于价格、能耗、数据安全性、稳定性的考量,海量的数据不可能完全存储在高性能存储介质中。为了减少用户存储数据的成本,同时又保证核心数据的存储性能,可以将不同类别的数据存储至不同的存储介质中。例如,将不经常使用的数据,即为冷数据,可存储至响应速度慢,但是存储成本低的存储介质中,将频繁使用的数据,即为热数据,可存储至相应速度快,但是存储成本高的存储介质中。
目前,用户需要通过对自身业务的预期,预先购买用于存储冷数据的存储介质的存储容量,及用于存储热数据的存储介质的存储容量。在使用时,需用户自己进行数据的分类,进而存储至不同的存储介质中。存储效率较低,且划分不准确,容易造成存储资源的浪费。
发明内容
本发明提供一种智能存储自动分级的方法、装置、存储介质及电子设备,用以实现自动进行数据的分级存储,提高存储效率,降低存储资源的浪费。
为实现上述目的,本发明的技术方案如下:本申请提供了一种智能存储自动分级的方法,包括:获取目标数据的预期数据访问价值信息,其中,数据访问价值信息是用于标示出用户对目标数据的访问价值及需求的信息;
获取目标数据的数据持有成本信息;所述数据持有成本信息与所述目标数据的存储成本相关;
根据所述目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质,将所述目标数据存储至所述目标存储介质中。
可选地,所述获取目标数据的预期数据访问价值信息包括:
获取目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息;
根据所述目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息,计算出预期数据访问价值信息。
可选地,所述数据持有成本信息包括:数据存储成本的信息及数据迁移成本的信息。
可选地,所述根据所述目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质包括:
根据所述目标数据的预期数据访问价值信息及目标数据的数据存储成本信息,利用公式且约束条件为: 计算所述目标数据的目标预期数据访问价值总和;其中,M表示目标数据,K,i,j均表示存储介质,VM表示目标数据M 的访问价值,HM表示目标数据M的访问概率,表示目标数据M在存储介质 K上的延时价值系数;表示长度为存储种类的布尔向量;SM表示目标数据 M的大小,表示存储介质K的的存储成本,T表示存储时间,表示目标数据M由存储介质i迁移至存储介质j的数据迁移成本,为布尔向量,为布尔向量,B表示预期存储成本;
根据所述目标数据的目标预期数据访问价值总和,确定所述目标数据的目标存储介质。
可选地,所述获取目标数据的访问概率的信息包括:
获取用户的数据访问历史记录;
根据所述用户的数据访问历史记录,利用分类预测模型,获取所述目标数据的访问概率的信息。
可选地,在所述获取目标数据的预期数据访问价值信息之前,还包括:
将待处理的文件数据通过聚类的方式聚合为不同类别的文件数据,以得到目标数据。
可选地,所述目标存储介质包括:固态硬盘SSD、机械硬盘HHD、磁带中的至少一个。
进一步地,本申请提供了一种智能存储自动分级的装置,包括:
获取单元,用于获取目标数据的预期数据访问价值信息,其中,数据访问价值信息是用于标示出用户对目标数据的访问价值及需求的信息;
所述获取单元,还用于获取目标数据的数据持有成本信息;所述数据持有成本信息与所述目标数据的存储成本相关;
处理单元,用于根据所述目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质,将所述目标数据存储至所述目标存储介质中。
可选地,获取单元,具体用于获取目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息;
根据所述目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息,计算出预期数据访问价值信息。
可选地,所述数据持有成本信息包括:数据存储成本的信息及数据迁移成本的信息。
可选地,处理单元具体用于,根据所述目标数据的预期数据访问价值信息及目标数据的数据存储成本信息,利用公式 且约束条件为: 计算所述目标数据的目标预期数据访问价值总和;其中,M表示目标数据,K,i,j均表示存储介质, VM表示目标数据M的访问价值,HM表示目标数据M的访问概率,表示目标数据M在存储介质K上的延时价值系数;表示长度为存储种类的布尔向量;SM表示目标数据M的大小,表示存储介质K的的存储成本,T表示存储时间,表示目标数据M由存储介质i迁移至存储介质j的数据迁移成本,为布尔向量,为布尔向量,B表示预期存储成本;
根据所述目标数据的目标预期数据访问价值总和,确定所述目标数据的目标存储介质。
可选地,获取单元具体用于,获取用户的数据访问历史记录;
根据所述用户的数据访问历史记录,利用分类预测模型,获取所述目标数据的访问概率的信息。
可选地,还包括:
聚合单元,用于将待处理的文件数据通过聚类的方式聚合为不同类别的文件数据,以得到目标数据。
可选地,所述目标存储介质包括:固态硬盘SSD、机械硬盘HHD、磁带中的至少一个。
进一步地,本申请还提供了一种存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述实施例所述的智能存储自动分级的方法的步骤。
进一步地,本申请还提供了一种电子设备,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现上述实施例所述的智能存储自动分级的方法。
通过上述技术方案,本申请公开了一种智能存储自动分级的方法、装置、存储介质及电子设备,包括:获取目标数据的预期数据访问价值信息;获取目标数据的数据持有成本信息;根据所述目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质,将所述目标数据存储至所述目标存储介质中。这样一来,通过获取目标数据的预期数据访问信息及数据持有成本信息,并根据获取的预期数据访问信息及数据持有成本信息,计算得到目标数据的目标存储介质,进而将目标数据进行数据的存储,实现自动分级存储。本申请中确定目标数据的存储介质是通过计算确定的,并不是用户自己确定,实现了自动对数据进行分级存储,提高了存储效率,减少了存储资源的浪费。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图示出的结构获得其他的附图。
图1为本发明实施例提供的一种智能存储自动分级的方法的示意图;
图2为本发明实施例提供的另一种智能存储自动分级的方法的示意图;
图3为本发明实施例提供的一种文件数据分类示例图;
图4为本发明实施例提供的一种智能存储自动分级的装置的结构示意图;
图5本发明实施例提供的另一种智能存储自动分级的装置的结构示意图;
图6为本发明实施例提供的一种电子设备的结构示意图;
图7为本发明实施例提供的另一种电子设备的结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明,本发明实施例中所有方向性指示(诸如上、下、左、右、前、后)仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等,如果该特定姿态发生改变时,则该方向性指示也相应地随之改变。
另外,在本发明中如涉及“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“连接”、“固定”等应做广义理解,例如,“固定”可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
另外,本发明各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本发明要求的保护范围之内。
在现有技术中,用户需要通过对自身业务的预期,预先购买用于存储冷数据的存储介质的存储容量,及用于存储热数据的存储介质的存储容量。在使用时,需用户自己进行数据的分类,进而存储至不同的存储介质中。存储效率较低,且划分不准确,容易造成存储资源的浪费。
在本申请中,通过获取目标数据的预期数据访问信息及数据持有成本信息,并根据获取的预期数据访问信息及数据持有成本信息,计算得到目标数据的目标存储介质,进而将目标数据进行数据的存储。这样在本申请中确定目标数据的存储介质是通过计算确定的,并不是用户自己确定,实现了自动对数据进行分级存储,提高了存储效率,减少了存储资源的浪费。
如图1所示,本发明提出一种智能存储自动分级的方法,包括:
步骤S101、获取目标数据的预期数据访问价值信息。
其中,数据访问价值信息是用于标示出用户对目标数据的访问价值及需求的信息。
具体的,智能存储自动分级的装置在对目标数据进行分级存储之前,需要了解用户对目标数据的访问价值和需求,因此,可以先获取目标数据的预期数据访问价值信息。用户可以直接根据其业务需求,设定目标数据的预期数据访问价值,此时获取用户设定的目标数据的预期数据访问价值,即为获取了目标数据的预期数据访问价值信息。
当然,用户也可以预先设定数据访问的价值模型,通过此模型获取。例如,预先设定数据访问的价值模型为:其中,M表示目标数据,K表示存储介质,表示目标数据M的访问价值,HM表示目标数据 M的访问概率,表示目标数据M在存储介质K上的延时价值系数。此时,在通过数据访问的价值模型获取预期数据访问价值信息时,需要先获取模型的参数信息,此时获取目标数据的预期数据访问价值信息包括:
获取目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息。根据所述目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息,计算出预期数据访问价值信息。
在本实施例中,所有数据的访问价值由用户根据实际业务需求预先设定。用户还需根据实际业务需求预先设定延时价值对应表,在延时价值对应表中记录了不同数据对应的延时价值系数。此时,可以直接获取用户设定的目标数据的访问价值的信息,通过查找延时价值对应表获取目标数据的延时价值系数的信息。目标数据的访问概率的信息也可以由用户设定,但是为了提高其数值的准确性,可以利用分类预测模型获取。
此时,获取目标数据的访问概率的信息包括:
获取用户的数据访问历史记录;根据用户的数据访问历史记录,利用分类预测模型,获取目标数据的访问概率的信息。
需要说明的是,分类预测模型可以是现有的模型,例如LSTM(Long Short-TermMemory,长短期记忆网络),随机森林等分类预测模型,本申请对此不做限制。
需要说明的是,延时对数据价值的影响为反相趋势,但是并不是线性关系。延时价值系数越大延时越小,例如,延时小于2毫秒,延时价值系数为1,延时大于5秒,延时价值系数为0。
在获取了目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息后,可以将目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息根据公式 计算出预期数据访问价值信息。
通过上述步骤S101可知,目标数据自身的访问价值越高,被范围的可能性越大,则存储介质性能越好,其对用户的利益就越大。
步骤S102、获取目标数据的数据持有成本信息。
其中,数据持有成本信息与目标数据的存储成本相关。
具体的,数据持有成本信息包括:数据存储成本的信息及数据迁移成本的信息。由于用户需要购买数据在存储介质中的存储容量,因此需要获知不同存储介质的数据存储相关成本。
需要说明的是,由于存储介质的存储容量是用户向存储介质的服务提供商购买的,因此存储介质的服务提供商可以提供以下信息:1)、数据存储成本,即为单位时间、单位容量目标数据存储在存储介质K上的价格2)、数据的迁移成本,即为单位容量数据在不同存储介质之间转移而产生的成本。表示单位容量的目标数据从存储介质i转移到存储介质j的成本。3)、性能指标,即为不同类别的存储介质的性能指标。
通过服务提供商,智能存储自动分级的装置可以获取数据存储成本的信息及数据迁移成本的信息。
步骤S103、根据目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质,将所述目标数据存储至所述目标存储介质中。
具体的,如果所有数据存储在性能最好的存储介质中,用户的预期数据访问价值达到最大化,但是用户的数据持有成本很高。而如果所有数据存储在冷存储介质上,用户数据持有成本很低,但是不能满足用户对数据的性能需求,用户的预期数据访问价值较低,数据失去其存在价值。因此需要在预期数据访问价值和数据持有成本之间达到优化平衡,在优化平衡时对应的各个数据的存储介质即为目标存储介质,从而可以将各个目标数据存储至其对应的目标存储介质中。由于目标数据有多个,因此需要在各目标数据的预期数据访问价值总和与总数据持有成本之间达到优化平衡。此时,将总数据持有成本小于预期存储成本为约束条件的情况下,需将预期数据访问价值总和最大化。这样一来,可以在总数据持有成本小于预期存储成本为约束条件的情况下,将各目标数据进行排列组合,并计算针对每种排列组合后的目标数据在存储介质中的预期数据访问价值总和,获取在满足约束条件下的最优的预期数据访问价值总和,进而可以将最优的预期数据访问价值总和下,各个目标数据对应的存储介质,确定为目标存储介质,将各目标数据分别存储至其对应的目标存储介质中,实现自动分级存储。
需要说明的是,预期存储成本是用户根据实际需求预先设置的。
进一步地,根据目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质包括:
根据目标数据的目标预期数据访问价值总和,确定目标数据的目标存储介质。
其中,M表示目标数据,K,i,j均表示存储介质,VM表示目标数据M的访问价值,HM表示目标数据M的访问概率,表示目标数据M在存储介质K 上的延时价值系数;表示长度为存储种类的布尔向量;SM表示目标数据M 的大小,表示存储介质K的存储成本,T表示存储时间,表示目标数据 M由存储介质i迁移至存储介质j的数据迁移成本,为布尔向量,为布尔向量,B表示预期存储成本。
在上述公式中是在约束条件为: 的情况下,可以通过调整每个目标数据对应的的值,计算出目标数据的所有可能的预期数据访问价值总和。在目标数据的各个可能的预期数据访问价值总和中选出最大值作为目标数据的目标预期数据访问价值总和。
总数据持有成本可以通过如下公式表示: 其中,为布尔向量,1表示目标数据M从存储介质i迁移到存储介质j,0表示目标数据M不从存储介质i迁移至存储介质j 中。为目标数据的存储成本,为目标数据的迁移成本。是长度为存储种类的布尔向量,只有一项值为1,其余为0,1表示目标数据M目前存储在存储介质i中,0表示目标数据M目前没有存储在存储介质i中。当目标数据M目前存储的介质和未来希望存储的介质相同时,的非对角线上所有项为0,用户没有迁移成本。而当目标数据M目前存储在存储介质a,需要迁移到存储介质b时,目标数据M对应的为1,且目标数据M应存储至其他存储介质的情况对应的的值均为0,目标数据M对应的为1,且目标数据M当前存储至其他存储介质的情况对应的的值为0。此时,通过公式可以计算出为1,的其他所有项均为0。此时表示用户需要为目标数据M支付的数据迁移成本。
这样,通过调整上述公式中的值,可以针对所有目标数据分别在不同的存储介质时的所有可能情况,均计算出对应的预期数据访问价值总和,得到多个预期数据访问价值总和。在满足约束条件的情况下,最大化预期数据访问价值总和,从而将满足约束条件的情况下的最大预期数据访问价值总和,确定为目标预期数据访问价值总和。进而可以根据目标预期数据访问价值总和,确定出目标存储介质,进而将目标数据对应存储至目标存储介质中。在本申请中,将对冷热数据交换优化需人工判断的问题,转换为数学上的优化问题,可以实现自动确定存储介质,无需人工判定,提高了存储准确性。
并且在本申请中需要使用数据访问价值的信息及延时价值系数的信息,通过这两个参数可以体现用户对存储系统的性能需求,满足用户的实际需求。
示例性的,目标数据有数据Q,数据P,数据L,存储介质有存储介质a,存储介质b。当数据Q应存储至存储介质a,数据P及数据L应存储至存储介质b 时,则针对数据Q的的值为1,的值为0,及的值为1,及的值为 0。同理,针对数据P、数据L及数据Q存储至其他存储介质的情况,的值随之改变,在此不再赘述。
即为针对数据Q,数据P,数据L分别存储至存储介质a,存储介质b共有8种情况,针对每种情况均需计算出总预期数据访问价值,进而可以计算出8个预期数据访问价值总和。
假设数据Q现存储在存储介质a中,数据P现存储在存储介质b中,数据L 现存储在存储介质a中。同时针对上述8种组合,每种组合都会对应一个总数据持有成本。具体如下:
对应于而言,需要将数据P由存储介质b迁移至存储介质a中,数据L由存储介质a迁移至存储介质b中,此时对应的总数据持有成本为:若C2小于B 时,则满足约束条件,则可以将作为目标数据Q,P,L的目标预期数据访问价值总和。
对应于而言,需要将数据Q由存储介质a迁移至存储介质b中,数据P由存储介质b迁移至存储a中,此时对应的总数据持有成本为:若C5小于B 时,则满足约束条件,则可以将作为目标数据Q,P,L的目标预期数据访问价值总和。
对应于而言,需将数据Q由存储介质a迁移至存储介质b中,数据P由存储介质b迁移至存储a中,数据L由存储介质a迁移至存储介质b中,此时,对应的总数据持有成本为:若C6小于B时,则满足约束条件,则可以将作为目标数据Q,P,L的目标预期数据访问价值总和。
对应于而言,需将数据Q由存储介质a迁移至存储介质b中,数据L此由存储介质a迁移至存储介质b中,此时,对应的总数据持有成本为:若C8小于B 时,则满足约束条件,则可以将作为目标数据Q,P,L的目标预期数据访问价值总和。
如果在所有满足约束条件的组合中最大,则可以根据中各目标数据对应的存储介质,确定为个目标数据的目标存储介质。即为,根据可以确定数据Q的目标存储介质为存储介质b,数据P的目标存储介质为存储介质a,数据L的目标存储介质为存储介质c。将各个目标数据存储至相应的目标存储介质中。
进一步地,上述过程可以使用优化算法CPLEX、XPRESS,实现在保证约束条件成立的情况下,确定出目标存储介质。
进一步地,上述目标存储介质包括:SSD(Solid State Disk,固态硬盘)、 HHD(Hard Disk Drive,机械硬盘)、磁带等盘中的至少一个。
需要说明的是,目标存储介质还可以是其他可以进行数据存储的存储设备或存储器件,本申请对此不做限制。
这样一来,通过获取目标数据的预期数据访问信息及数据持有成本信息,并根据获取的预期数据访问信息及数据持有成本信息,计算出目标数据的最优的总预期数据访问价值,并根据最优的总预期数据访问价值,确定出目标存储介质,进而将目标数据进行数据的存储。本申请中确定目标数据的存储介质是通过计算确定的,并不是用户自己确定,实现了自动进行数据的分级存储,提高了存储效率,降低了存储资源的浪费。
进一步地,如图2所示,在上述步骤S101之前,还包括:
步骤S104、将待处理的文件数据通过聚类的方式聚合为不同类别的文件数据,以得到目标数据。
需要说明的是,在文件系统有千万、亿级文件,使用上述优化方法的计算复杂度价高。此时可以将待处理的文件数据采用数据聚类方法将类似行为、特征的数据聚合在一起,聚合为不同类别的文件数据,降低控制的粒度,减少计算复杂度。
可以通过简单的方法进行分类,例如可以按文件的目录结构,文件的用途等进行分类。也可以使用聚类算法,例如K-mean,等算法进行分类。将分类后的每类文件数据作为一个目标数据,其中,一类文件数据为一个目标数据,而划分为几个类别的文件数据就有几个目标数据。
类的数据可以由控制粒度决定,如果按照TB的粒度来控制冷热数据迁移,可以将多个文件按照大小,热度,价值,延时等要求,聚合为TB大小的数据单元,此时,每个数据单元为一个目标数据。
需要说明的是,聚类的过程中可以采用随机采样的方法对上亿文件采样 10万个文件,聚合产生多个簇的中心,随后通过计算文件和簇中心的距离决定文件所属的类别。
类的个数由数据迁移的粒度控制,粒度越细,类越多,优化计算的复杂度越高,越能达到最优。极限状态下,每个文件为一类。
这样可以将待处理的文件数据划分为多个类别的文件数据,得到目标数据。从而可以降低数据存储时计算的复杂度,提高存储效率。
示例性的,待处理文件数据为某自动驾驶人工智能公司的数据,包含原始视频文件,图片文件,多个版本的智能模型文件。此时,可以通过聚类得法方式将文件分为四类,即为,A类,B类,C类及D类,如图3所示。A类为人工智能训练数据;B类为原始视频文件数据;C类为正在训练的智能模型的数据;D类为正在使用的智能模型的数据。其中,
A类:数据为很多客户用于机器学习的小图片文件。每次访问价值较大,对延时较为敏感,使用率较高。
B类:为原始视频文件(从B中提取A的图片),文件较大,每次访问价值较低,对延时不敏感。使用率很低。
C类:为使用B训练的模型,文件很大,访问价值高,对延时很敏感,使用率较低。
D类:为客户当前使用的模型,文件很大,访问价值高,对延时很敏感,使用率很高。
假设A类数据大小为1M,B类数据的大小为10M,C类数据的大小为100M, D类数据的大小为100M。用户设定A类数据的访问价值为2,B类数据的访问价值为1,C类数据的访问价值为100,D类数据的访问价值为1000。A类数据的访问概率为50,B类数据的访问概率为1,C类数据的访问概率为100,D类数据的访问概率为1000。具体如下表一所示:
表一
假设存储介质分为两类,一类为冷存储介质,另一类为热存储介质。其中,A类、B类、C类及D类数据在热存储介质的延时价值系数为1,A类数据在冷存储介质的延时介质系数为0.3,B类数据在冷存储介质的延时介质系数为0.7,C类数据在冷存储介质的延时介质系数为0.1,D类数据在冷存储介质的延时介质系数为0.1。具体如下表二:
表二
热存储介质的数据存储成本为100/MB,冷存储二级制的数据存储成本为 5/MB,热存储介质迁移至冷存储介质的数据迁移成本为1/MB,冷存储介质迁移到热存储介质的数据迁移成本为2/MB,具有如下表三,表四。
表三
C<sup>T</sup> | 热储存 | 冷存储 |
热储存 | 0 | 1 |
冷存储 | 2 | 0 |
表四
当前A类数据存储在冷存储介质中,B类数据存储在热存储介质中,C类数据存储在冷存储介质中,D类数据存储在冷存储介质中,具体如下表五所示。
表六
由此可知,A类数据存储至热存储介质,B类数据存储至冷存储介质,C 类数据存储至冷存储介质,D类数据存储至热存储介质中,用户的预期数据访问介质总和最大。此时,可以将各类数据根据得到的目标存储介质进行数据的存储。
如图4所示,本申请还提供了一种智能存储自动分级的装置400,包括:
获取单元401,用于获取目标数据的预期数据访问价值信息。
其中,数据访问价值信息用于标示出用户对目标数据的访问价值及需求的信息。
具体的,获取单元401具体用于获取目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息;根据目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息,计算出预期数据访问价值信息。
可选地,上述获取单元401获取目标数据的访问概率的信息具体为:
获取单元401获取用户的数据访问历史记录;根据用户的数据访问历史记录,利用分类预测模型,获取目标数据的访问概率的信息。
获取单元401,还用于获取目标数据的数据持有成本信息。
其中,数据持有成本信息与所述目标数据的存储成本相关。
具体的,数据持有成本信息包括:数据存储成本的信息及数据迁移成本的信息。
处理单元402,用于根据目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质,将目标数据存储至目标存储介质中。
具体的,处理单元402,具体用于根据所述目标数据的预期数据访问价值信息及目标数据的数据存储成本信息,利用公式 且约束条件为: 计算所述目标数据的目标预期数据访问价值总和;其中,M表示目标数据,K,i,j均表示存储介质, VM表示目标数据M的访问价值,HM表示目标数据M的访问概率,表示目标数据M在存储介质K上的延时价值系数;表示长度为存储种类的布尔向量;SM表示目标数据M的大小,表示存储介质K的的存储成本,T表示存储时间,表示目标数据M由存储介质i迁移至存储介质j的数据迁移成本,为布尔向量,为布尔向量,B表示预期存储成本;
根据目标数据的目标预期数据访问价值总和,确定目标数据的目标存储介质。
可选地,上述智能存储自动分级的装置400,如图5所示,还包括:
聚合单元403,用于将待处理的文件数据通过聚类的方式聚合为不同类别的文件数据,以得到目标数据。
可选地,上述目标存储介质包括:上述目标存储介质包括:SSD(Solid StateDisk,固态硬盘)、HHD(Hard Disk Drive,机械硬盘)、磁带等盘中的至少一个。
这样一来,通过获取目标数据的预期数据访问信息及数据持有成本信息,并根据获取的预期数据访问信息及数据持有成本信息,计算得到目标数据的目标存储介质,进而将目标数据进行数据的存储。本申请中确定目标数据的存储介质是通过计算确定的,并不是用户自己确定,实现了自动对数据进行分级存储,提高了存储效率,减少了存储资源的浪费。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
进一步地,本申请还提供了一种存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述实施例所述的智能存储自动分级的方法的步骤。
图6是根据一示例性实施例示出的一种电子设备600的框图。如图6所示,该电子设备600可以包括:处理器601,存储器602。该电子设备600还可以包括多媒体组件603,输入/输出(I/O)接口604,以及通信组件605中的一者或多者。
其中,处理器601用于控制该电子设备600的整体操作,以完成上述的智能存储自动分级的方法中的全部或部分步骤。存储器602用于存储各种类型的数据以支持在该电子设备600的操作,这些数据例如可以包括用于在该电子设备600上操作的任何应用程序或方法的指令,以及应用程序相关的数据,例如联系人数据、收发的消息、图片、音频、视频等等。该存储器602可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,例如静态随机存取存储器(Static Random Access Memory,简称SRAM),电可擦除可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,简称 EEPROM),可擦除可编程只读存储器(Erasable Programmable Read-Only Memory,简称EPROM),可编程只读存储器(Programmable Read-Only Memory,简称PROM),只读存储器(Read-Only Memory,简称ROM),磁存储器,快闪存储器,磁盘或光盘。多媒体组件603可以包括屏幕和音频组件。其中屏幕例如可以是触摸屏,音频组件用于输出和/或输入音频信号。例如,音频组件可以包括一个麦克风,麦克风用于接收外部音频信号。所接收的音频信号可以被进一步存储在存储器602或通过通信组件605发送。音频组件还包括至少一个扬声器,用于输出音频信号。I/O接口604为处理器601和其他接口模块之间提供接口,上述其他接口模块可以是键盘,鼠标,按钮等。这些按钮可以是虚拟按钮或者实体按钮。通信组件605用于该电子设备600与其他设备之间进行有线或无线通信。无线通信,例如Wi-Fi,蓝牙,近场通信(Near FieldCommunication,简称NFC),2G、3G、4G、NB-IOT、eMTC、或其他 5G等等,或它们中的一种或几种的组合,在此不做限定。因此相应的该通信组件605可以包括:Wi-Fi模块,蓝牙模块,NFC模块等等。
在一示例性实施例中,电子设备600可以被一个或多个应用专用集成电路(Application Specific Integrated Circuit,简称ASIC)、数字信号处理器(DigitalSignal Processor,简称DSP)、数字信号处理设备(Digital Signal Processing Device,简称DSPD)、可编程逻辑器件(Programmable Logic Device,简称 PLD)、现场可编程门阵列(Field Programmable Gate Array,简称FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述的智能存储自动分级的方法。
在另一示例性实施例中,还提供了一种包括程序指令的计算机可读存储介质,该程序指令被处理器执行时实现上述的智能存储自动分级的方法的步骤。例如,该计算机可读存储介质可以为上述包括程序指令的存储器602,上述程序指令可由电子设备600的处理器601执行以完成上述的智能存储自动分级的方法。
图7是根据一示例性实施例示出的一种电子设备700的框图。例如,电子设备700可以被提供为一服务器。参照图7,电子设备700包括处理器710,其数量可以为一个或多个,以及存储器720,用于存储可由处理器710执行的计算机程序。存储器720中存储的计算机程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理器710可以被配置为执行该计算机程序,以执行上述的智能存储自动分级的方法。
另外,电子设备700还可以包括电源组件730和通信组件740,该电源组件 730可以被配置为执行电子设备700的电源管理,该通信组件740可以被配置为实现电子设备700的通信,例如,有线或无线通信。此外,该电子设备700还可以包括输入/输出(I/O)接口750。电子设备700可以操作基于存储在存储器 720的操作系统,例如Windows ServerTM,Mac OSXTM,UnixTM,LinuxTM 等等。
在另一示例性实施例中,还提供了一种包括程序指令的计算机可读存储介质,该程序指令被处理器执行时实现上述的智能存储自动分级的方法的步骤。例如,该计算机可读存储介质可以为上述包括程序指令的存储器720,上述程序指令可由电子设备700的处理器710执行以完成上述的智能存储自动分级的方法。
在另一示例性实施例中,还提供一种计算机程序产品,该计算机程序产品包含能够由可编程的装置执行的计算机程序,该计算机程序具有当由该可编程的装置执行时用于执行上述的智能存储自动分级的方法的代码部分。
以上所述仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是在本发明的构思下,利用本发明说明书及附图内容所作的等效结构变换,或直接/间接运用在其他相关的技术领域均包括在本发明的专利保护范围内。
Claims (10)
1.一种智能存储自动分级的方法,其特征在于,包括:
获取目标数据的预期数据访问价值信息,其中,数据访问价值信息是用于标示出用户对目标数据的访问价值及需求的信息;
获取目标数据的数据持有成本信息;所述数据持有成本信息与所述目标数据的存储成本相关;
根据所述目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质,将所述目标数据存储至所述目标存储介质中。
2.根据权利要求1所述的方法,其特征在于,
所述获取目标数据的预期数据访问价值信息包括:
获取目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息;
根据所述目标数据的访问价值的信息、目标数据的访问概率的信息及目标数据的延时价值系数的信息,计算出预期数据访问价值信息。
3.根据权利要求2所述的方法,其特征在于,
所述数据持有成本信息包括:数据存储成本的信息及数据迁移成本的信息。
4.根据权利要求3所述的方法,其特征在于,所述根据所述目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质包括:
根据所述目标数据的预期数据访问价值信息及目标数据的数据存储成本信息,利用公式且约束条件为: 计算所述目标数据的目标预期数据访问价值总和;其中,M表示目标数据,K,i,j均表示存储介质,VM表示目标数据M的访问价值,HM表示目标数据M的访问概率,表示目标数据M在存储介质K上的延时价值系数;表示长度为存储种类的布尔向量;SM表示目标数据M的大小,表示存储介质K的的存储成本,T表示存储时间,表示目标数据M由存储介质i迁移至存储介质j的数据迁移成本,为布尔向量,为布尔向量,B表示预期存储成本;
根据所述目标数据的目标预期数据访问价值总和,确定所述目标数据的目标存储介质。
5.根据权利要求2所述的方法,其特征在于,所述获取目标数据的访问概率的信息包括:
获取用户的数据访问历史记录;
根据所述用户的数据访问历史记录,利用分类预测模型,获取所述目标数据的访问概率的信息。
6.根据权利要求1-5任一项所述的方法,其特征在于,在所述获取目标数据的预期数据访问价值信息之前,还包括:
将待处理的文件数据通过聚类的方式聚合为不同类别的文件数据,以得到目标数据。
7.根据权利要求1-5任一项所述的方法,其特征在于,所述目标存储介质包括:固态硬盘SSD、机械硬盘HDD、磁带中的至少一个。
8.一种智能存储自动分级的装置,其特征在于,包括:
获取单元,用于获取目标数据的预期数据访问价值信息,其中,数据访问价值信息是用于标示出用户对目标数据的访问价值及需求的信息;
所述获取单元,还用于获取目标数据的数据持有成本信息;所述数据持有成本信息与所述目标数据的存储成本相关;
处理单元,用于根据所述目标数据的预期数据访问价值信息及目标数据的数据持有成本信息,得到目标数据的目标存储介质,将所述目标数据存储至所述目标存储介质中。
9.一种存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-7中任一项所述方法的步骤。
10.一种电子设备,其特征在于,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现权利要求1-7中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011135983.1A CN112306406A (zh) | 2020-10-22 | 2020-10-22 | 智能存储自动分级的方法、装置、存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011135983.1A CN112306406A (zh) | 2020-10-22 | 2020-10-22 | 智能存储自动分级的方法、装置、存储介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112306406A true CN112306406A (zh) | 2021-02-02 |
Family
ID=74328335
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011135983.1A Pending CN112306406A (zh) | 2020-10-22 | 2020-10-22 | 智能存储自动分级的方法、装置、存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112306406A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114816749A (zh) * | 2022-04-22 | 2022-07-29 | 江苏华存电子科技有限公司 | 一种用于内存的智能化管理方法及系统 |
CN117743310A (zh) * | 2023-12-19 | 2024-03-22 | 云宝宝大数据产业发展有限责任公司 | 一种全周期数据治理方法、系统及存储介质 |
-
2020
- 2020-10-22 CN CN202011135983.1A patent/CN112306406A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114816749A (zh) * | 2022-04-22 | 2022-07-29 | 江苏华存电子科技有限公司 | 一种用于内存的智能化管理方法及系统 |
CN117743310A (zh) * | 2023-12-19 | 2024-03-22 | 云宝宝大数据产业发展有限责任公司 | 一种全周期数据治理方法、系统及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109960395B (zh) | 资源调度方法和计算机设备 | |
EP3502880B1 (en) | Method for preloading application, storage medium, and terminal device | |
EP3502889B1 (en) | Method and device for preloading application, storage medium, and terminal device | |
US9628582B2 (en) | Social-driven precaching of accessible objects | |
EP3502878B1 (en) | Method for preloading application and terminal device | |
EP3502881B1 (en) | Method for preloading application, storage medium, and terminal device | |
US10719769B2 (en) | Systems and methods for generating and communicating application recommendations at uninstall time | |
US20140156793A1 (en) | Generating prefetching profiles for prefetching data in a cloud based file system | |
WO2019062413A1 (zh) | 应用程序管控方法、装置、存储介质及电子设备 | |
CN102713824A (zh) | 基于未来使用估计的分配存储器 | |
US11630851B2 (en) | Systems and methods for providing predictions to applications executing on a computing device | |
CN112306406A (zh) | 智能存储自动分级的方法、装置、存储介质及电子设备 | |
CN115022342A (zh) | 数据处理方法、装置、电子设备和计算机可读存储介质 | |
Irie et al. | A novel automated tiered storage architecture for achieving both cost saving and qoe | |
CN109062396B (zh) | 用于控制设备的方法和装置 | |
CN114066098A (zh) | 学习任务的完成时长的预估方法及设备 | |
KR102636533B1 (ko) | 실시간 푸시수신확인을 위한 푸시 알림 솔루션 장치및 방법 | |
US11735920B2 (en) | Cognitive framework for improving responsivity in demand response programs | |
CN117972367B (zh) | 一种数据存储预测方法、数据存储子系统及智能计算平台 | |
CN111683154B (zh) | 一种内容推送的方法、装置、介质及电子设备 | |
CN111724127A (zh) | 一种数据的生成方法、装置、电子设备及存储介质 | |
CN114398502A (zh) | 内容检索方法、装置、计算机设备和存储介质 | |
CN117093966A (zh) | 一种账号评估方法、装置及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |