CN115269523A - 基于人工智能的文件存储与查询方法及相关设备 - Google Patents
基于人工智能的文件存储与查询方法及相关设备 Download PDFInfo
- Publication number
- CN115269523A CN115269523A CN202210928059.1A CN202210928059A CN115269523A CN 115269523 A CN115269523 A CN 115269523A CN 202210928059 A CN202210928059 A CN 202210928059A CN 115269523 A CN115269523 A CN 115269523A
- Authority
- CN
- China
- Prior art keywords
- file
- storage
- files
- priority
- query
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/172—Caching, prefetching or hoarding of files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/14—Details of searching files based on file metadata
- G06F16/148—File search processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/1734—Details of monitoring file system events, e.g. by the use of hooks, filter drivers, logs
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Library & Information Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请提出一种基于人工智能的文件存储与查询方法、装置、电子设备及存储介质,基于人工智能的文件存储与查询方法包括:计算预设服务器中多个存储空间的存储优先级;计算预设服务器中多个文件的文件优先级;依据文件优先级和存储优先级匹配文件和存储空间,将文件存储于相匹配的存储空间中获得存储模式;依据所件优先级构建查询队列;依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列。该方法可以综合服务器物理资源的性能与文件的查询模式制定文件存储与查询模式,从而能够提升文件查询的效率。
Description
技术领域
本申请涉及人工智能技术领域,尤其涉及一种基于人工智能的文件存储与查询方法、装置、电子设备及存储介质。
背景技术
随着互联网、大数据技术的发展,越来越多的企业需要对大量数据进行管理、查询和分析,大数据在线分析服务器由此而生,同时伴随着用户对服务器体验度、响应延时及资源成本等要求的提高,业内对现有大数据在线分析服务器提出了较为严苛的要求。
目前,大部分大数据在线分析服务器提供了诸如存储多种数据表或数据源、多维度分析、聚合查询、去重和排序、数据分层存储机制等基本功能,且提供了相对有限的、静态的数据存储和查找规则。这些规则一旦针对数据集或具体的数据表设置了就无法动态变更,需要人工运维介入,从而会降低服务器的数据查询效率。
发明内容
鉴于以上内容,有必要提供一种基于人工智能的文件存储与查询方法及相关设备,以解决如何提高文件存储与查询的效率这一技术问题,其中,相关设备包括基于人工智能的文件存储与查询装置、电子设备及存储介质。
本申请实施例提供一种基于人工智能的文件存储与查询方法,所述方法包括:
依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,所述存储优先级用以表征所述存储空间存储文件的能力;
查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级;
依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中以获得所有文件的存储模式;
依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件;
依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列。
在一些实施例中,所述依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,包括:
查询每个所述存储空间的读写速率和存储容量;
将每个所述存储空间中所有文件在预设时间范围内被查询的次数作为所述存储空间的利用率;
根据所述读写速率、所述存储容量和所述利用率计算每个所述存储空间的存储优先级,所述优先级越高则所述存储空间存储文件的能力越强。
在一些实施例中,所述查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级,包括:
从预设的文件查询日志中查询每个所述文件对应的查询记录,所述查询记录记载了每个所述文件对应的多项数据,所述多项数据至少包括所述文件的文件名称、文件格式、查询耗时、文件类型;
依据所述文件名称和所述文件格式计算所述文件的索引;
基于所述查询耗时和所述文件类型计算所述文件的优先级。
在一些实施例中,所述依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中,包括:
依据所述文件优先级由高到低的顺序排列所述文件获得文件序列,并依据所述存储优先级由高到低的顺序排列所述存储空间获得存储空间序列;
若所述文件的数量不大于所述存储空间的数量,则同时从头遍历所述文件序列和所述存储空间序列,将同时遍历到的所述文件与所述存储空间相匹配;
若所述文件的数量大于所述存储空间的数量,则计算所述文件数量与所述存储空间数量的比值,若所述比值为整数,则将所述文件序列均匀划分为多个第一子序列,所述多个第一子序列的数量与所述存储空间的数量相等,依据每个所述第一子序列中最高文件优先级由高到低的顺序对所述多个第一子序列进行排序获得每个第一子序列的次序,并将所述第一子序列中所有文件与所述第一子序列次序相同的存储空间相匹配;
若所述比值不为整数,则计算所述文件数量与所述存储空间数量的商值和余数,将所述文件序列划分为多个第二子序列,所述多个第二子序列的数量与所述存储空间的数量相等,且具备最高文件优先级的第二子序列中所述文件的数量与所述商值和所述余数之和相等,其余所述第二子序列中所述文件的数量与所述商值相等,依据每个所述第二子序列中最高文件优先级由高到低的顺序对所述多个第二子序列进行排序获得每个第二子序列的次序,并将所述第二子序列中所有文件与所述第二子序列次序相同的存储空间相匹配;
将所述文件存储于相匹配的存储空间中以获得存储模式,所述存储模式用以表征每个所述文件在所述预设服务器中的存储位置。
在一些实施例中,所述依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件,包括:
依据预设的划分阈值从所述预设服务器的内存空间中划分缓存空间;
依据所述文件的优先级由高到低的顺序对所述预设服务器中所有所述文件进行排序获得缓存队列;
若所述缓存队列中所有文件的大小之和大于所述缓存空间的容量,则从所述缓存队列的队尾开始遍历所述缓存队列,将遍历到的所述文件从所述缓存队列中移除,直到所述缓存队列中所有文件的大小之和不大于所述缓存空间的容量,则停止遍历并将所述缓存队列缓存于所述缓存空间并作为查询队列。
在一些实施例中,所述依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列,包括:
从预设的文件查询请求中提取待查询文件名称和待查询文件格式;
依据所述待查询文件名称和待查询文件格式计算所述预设的文件查询请求对应的待查询索引;
从头遍历所述查询队列中的文件,若遍历到的所述文件的索引与所述待查询索引相同,则结束遍历并向用户推送所述文件,并记录所述文件的查询耗时以更新所述文件的文件优先级;
依据更新后的所述文件优先级更新所述存储模式;
并依据更新后的所述文件优先级重新对所述文件进行排序获得更新后的查询队列;
若遍历完所述查询队列中的所有文件仍未查询到与所述预设的文件查询请求对应的所述文件,则在所述预设服务器的所有存储空间中查询所述预设的文件查询请求对应的所述文件。
在一些实施例中,所述在所述预设服务器的所有存储空间中查询所述预设的文件查询请求对应的所述文件,包括:
a,依据存储优先级由高到低的顺序对所述存储空间进行排序,并初始化设置所述存储优先级最高的存储空间为当前空间;
b,针对当前空间,依据所述文件优先级由高到低的顺序依次遍历所述当前空间中的每个所述文件,若所述文件的索引与所述待查询索引相同,则停止遍历并向用户推送所述文件;
若直到遍历完所述当前空间中的所有文件,未找到与所述待查询索引相同的索引,则将次序低于所述当前空间并与所述当前空间相邻的存储空间作为当前空间;
c,重复执行步骤b以查询所述预设的文件查询请求对应的所述文件,直到遍历完所述预设服务器中所有文件以停止遍历,若遍历完所述预设服务器中所有文件后仍未查询到所述预设的文件查询请求对应的所述文件,则向用户推送查询失败警告。
本申请实施例还提供一种基于人工智能的文件存储与查询装置,所述装置包括:
第一计算单元,用于依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,所述存储优先级用以表征所述存储空间存储文件的能力;
第二计算单元,用于查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级;
匹配单元,用于依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中以获得所有文件的存储模式;
构建单元,用于依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件;
查询单元,用于依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列。
本申请实施例还提供一种电子设备,所述电子设备包括:
存储器,存储计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现所述基于人工智能的文件存储与查询方法。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现所述基于人工智能的文件存储与查询方法。
上述基于人工智能的文件存储与查询方法通过将更新频繁且耗时较高的文件存储于物理性能较强的存储空间中,能够提升文件存取的效率,并从服务器的内存空间中划分缓存空间以缓存优先级较高的文件,从而在保障服务器性能的前提下提升了文件查询的效率,基于文件的查询耗时动态的调整文件的存储模式和查询队列,从而能够实时调整文件的查询次序,进一步提升了文件的查询效率。
附图说明
图1是本申请所涉及的一种基于人工智能的文件存储与查询方法的较佳实施例的流程图。
图2是本申请所涉及的基于人工智能的文件存储与查询装置的较佳实施例的功能模块图。
图3是本申请所涉及的基于人工智能的文件存储与查询方法的较佳实施例的电子设备的结构示意图。
图4是本申请实施例所涉及的文件查询日志的结构示意图。
具体实施方式
为了能够更清楚地理解本申请的目的、特征和优点,下面结合附图和具体实施例对本申请进行详细描述。需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的特征可以相互结合。在下面的描述中阐述了很多具体细节以便于充分理解本申请,所述描述的实施例仅是本申请一部分实施例,而不是全部的实施例。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本申请的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中在本申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请。本文所使用的术语“和/或”包括一个或多个相关的所列项目的任意的和所有的组合。
本申请实施例提供一种基于人工智能的文件存储与查询方法,可应用于一个或者多个电子设备中,所述电子设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable GateArray,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)、游戏机、交互式网络电视(Internet Protocol Television,IPTV)、智能式穿戴式设备等。
所述电子设备还可以包括网络设备和/或用户设备。其中,所述网络设备包括,但不限于单个网络服务器、多个网络服务器组成的服务器组或基于云计算(CloudComputing)的由大量主机或网络服务器构成的云。
所述电子设备所处的网络包括但不限于互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network,VPN)等。
如图1所示,是本申请基于人工智能的文件存储与查询方法的较佳实施例的流程图。根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。
S10,依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,所述存储优先级用以表征所述存储空间存储文件的能力。
在一个可选的实施例中,所述依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,包括:
查询每个所述存储空间的读写速率和存储容量;
将每个所述存储空间中所有文件在预设时间范围内被查询的次数作为所述存储空间的利用率;
根据所述读写速率、所述存储容量和所述利用率计算每个所述存储空间的存储优先级,所述优先级越高则所述存储空间存储文件的能力越强。
该可选的实施例中,所述预设服务器的功能是存储、分析、发送数据,所述预设服务器可以是Druid、Hive、Kylin等现有的数据分析服务器。
该可选的实施例中,所述预设服务器包括多个存储空间,每个所述存储空间用以存储所述预设服务器中的多个文件,且每个所述存储空间包括多项物理信息,所述物理信息至少包括读写速率S和存储容量C,所述读写速率越高则表明该存储空间读取文件和写入文件的速度越快,则其性能越强;所述存储容量越高则表明所述存储空间能够存储文件的数量越多。
该可选的实施例中,可将预设时间范围内所述存储空间中所有文件被查询的次数作为所述存储空间的利用率,并记所述利用率为R,所述利用率越高则表明所述存储空间被使用的频率越高。
该可选的实施例中,为了消除所述存储空间的多项物理信息之间的量纲差异,可依据预设的归一化算法对所述读写速率、所述存储容量和所述利用率进行归一化处理获得归一化读写速率、归一化存储容量和归一化利用率,所述预设的归一化算法可以是最大化算法、最小化算法、S型生长曲线算法等现有的归一化算法,本申请对此不做限定。
该可选的实施例中,可分别计算每个所述存储空间对应的归一化读写速率、归一化存储容量和归一化利用率的均值作为每个所述存储空间的优先级,并可记所述预设服务器中第i个存储空间的优先级为Ti,其中,i∈[1,n],n代表所述预设服务器中存储空间的数量,所述存储空间的优先级越高则表明所述存储空间存储和查询数据的性能越强。
如此,利用存储空间的物理信息计算了所述存储空间的优先级,为后续文件分级存储提供了数据支撑,从而能够提升后续数据查询的效率。
S11,查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级。
在一个可选的实施例中,所述查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级,包括:
从预设的文件查询日志中查询每个所述文件对应的查询记录,所述查询记录记载了每个所述文件对应的多项数据,所述多项数据至少包括所述文件的文件名称、文件格式、查询耗时、文件类型;
依据所述文件名称和所述文件格式计算所述文件的索引;
基于所述查询耗时和所述文件类型计算所述文件的优先级。
示例性的,如图4所示为所述预设的文件查询日志的结构示意图,所述文件查询日志中的每行对应一条查询记录,每条查询记录用以记载每个所述文件对应的多项数据。
该可选的实施例中,可依据所述预设服务器中默认的文本编码格式查询所述文件名称对应的名称编码,并查询所述文件格式对应的文件头以作为格式编码,进而将所述名称编码置于前,并将所述格式编码置于后以获得所述文件对应的索引编码,依据预设的哈希算法计算所述索引编码的哈希值以作为所述文件对应的索引,所述预设服务器中默认的文本编码格式可以是GB2312、GBK、UTF-8等现有的文本编码格式,所述预设的哈希算法可以是SHA1、SHA224、SHA256等现有的哈希算法,本申请对此不做限定。
示例性的,当某一个文件的名称为“测试文件”,所述预设服务器默认的文本编码格式为GB2312,且该文件的格式为JPEG格式时,所述索引编码为%u6D4B%u8BD5%u6587%u4EF6FFD8FF,可依据SHA256算法计算所述索引编码的哈希值以作为该文件的索引。
该可选的实施例中,所述文件类型至少包括月度文件、季度文件和年度文件,所述月度文件用以存储每月更新的数据、所述季度文件用以存储每个季度更新的数据、所述年度文件用以存储每年更新的数据。所述文件的更新越频繁,则所述文件越应该被优先查询,则所述文件的优先级应越高。
该可选的实施例中,可基于所述文件中数据的更新频率对所述文件的类型进行编码获得所述文件的类型编码值,示例性的,由于月度文件中的数据每月更新一次,因此可将月度文件的类型编码值设置为30;由于季度文件每90天更新一次,则可将季度文件的类型编码值设置为90;由于年度文件每365天更新一次,则可将年度文件的编码值设置为365,所述类型编码值越高则表明所述文件更新的频率越缓慢,则所述文件的文件优先级越低。
该可选的实施例中,所述文件的查询耗时越高,则所述文件越应被优先查询以节省查询时间,因此所述文件的优先级越高。
该可选的实施例中,可分别计算每个所述文件的查询耗时与类型编码值的比值以作为每个所述文件的文件优先级,所述文件优先级越高则表明所述文件越应被优先查询。
如此,通过每个文件的类型与查询耗时计算每个文件对应的文件优先级,能够以量化的方式表征文件应该被处理的次序,从而为后续分层存储和队列查询提供数据支撑,进而能够提升文件查询的效率。
S12,依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中以获得所有文件的存储模式。
在一个可选的实施例中,所述依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中,包括:
依据所述文件优先级由高到低的顺序排列所述文件获得文件序列,并依据所述存储优先级由高到低的顺序排列所述存储空间获得存储空间序列;
若所述文件的数量不大于所述存储空间的数量,则同时从头遍历所述文件序列和所述存储空间序列,将同时遍历到的所述文件与所述存储空间相匹配;
若所述文件的数量大于所述存储空间的数量,则计算所述文件数量与所述存储空间数量的比值,若所述比值为整数,则将所述文件序列均匀划分为多个第一子序列,所述多个第一子序列的数量与所述存储空间的数量相等,依据每个所述第一子序列中最高文件优先级由高到低的顺序对所述多个第一子序列进行排序获得每个第一子序列的次序,并将所述第一子序列中所有文件与所述第一子序列次序相同的存储空间相匹配;
若所述比值不为整数,则计算所述文件数量与所述存储空间数量的商值和余数,将所述文件序列划分为多个第二子序列,所述多个第二子序列的数量与所述存储空间的数量相等,且具备最高文件优先级的第二子序列中所述文件的数量与所述商值和所述余数之和相等,其余所述第二子序列中所述文件的数量与所述商值相等,依据每个所述第二子序列中最高文件优先级由高到低的顺序对所述多个第二子序列进行排序获得每个第二子序列的次序,并将所述第二子序列中所有文件与所述第二子序列次序相同的存储空间相匹配;将所述文件存储于相匹配的存储空间中以获得存储模式,所述存储模式用以表征每个所述文件在所述预设服务器中的存储位置。
如此,将文件优先级较高的文件存储于存储优先级较高的存储空间中,能够确保文件优先级较高的文件由性能较强的存储空间进行存储或传输,从而能够提升后续文件查询的效率。
S13,依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件。
在一个可选的实施例中,所述依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件,包括:
依据预设的划分阈值从所述预设服务器的内存空间中划分缓存空间;
依据所述文件的优先级由高到低的顺序对所述预设服务器中所有所述文件进行排序获得缓存队列;
若所述缓存队列中所有文件的大小之和大于所述缓存空间的容量,则从所述缓存队列的队尾开始遍历所述缓存队列,将遍历到的所述文件从所述缓存队列中移除,直到所述缓存队列中所有文件的大小之和不大于所述缓存空间的容量,则停止遍历并将所述缓存队列缓存于所述缓存空间并作为查询队列。
该可选的实施例中,所述服务器的内存容量指所述服务器中内存空间的总大小,可计算预设的划分阈值与所述内存容量的乘积以作为缓存容量,所述预设的阈值可以是0.1、0.2、0.3等,本申请对此不做限定。示例性的,当所述服务器的内存容量大小为128GB,且所述预设的阈值为0.1时,所述缓存容量为128×0.1=12.8GB。
如此,将服务器的部分内存空间作为缓存空间以承载查询队列,在保障服务器的运行稳定性的前提下为多个文件提供缓存,避免从存储空间进行文件查找,从而能够提升文件查询效率。
S14,依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列。
在一个可选的实施例中,所述依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列,包括:
从预设的文件查询请求中提取待查询文件名称和待查询文件格式;
依据所述待查询文件名称和待查询文件格式计算所述预设的文件查询请求对应的待查询索引;
从头遍历所述查询队列中的文件,若遍历到的所述文件的索引与所述待查询索引相同,则结束遍历并向用户推送所述文件,并记录所述文件的查询耗时以更新所述文件的文件优先级;
依据更新后的所述文件优先级更新所述存储模式;
并依据更新后的所述文件优先级重新对所述文件进行排序获得更新后的查询队列;
若遍历完所述查询队列中的所有文件仍未查询到与所述预设的文件查询请求对应的所述文件,则在所述预设服务器的所有存储空间中查询所述预设的文件查询请求对应的所述文件。
该可选的实施例中,所述预设的文件查询请求指用户对所述预设服务器中某个文件的查询请求,所述查询请求至少包括待查询文件名称和待查询文件格式。
该可选的实施例中,可依据所述预设服务器中默认的文本编码格式查询所述待查询文件名称对应的名称编码,并查询所述待查询文件格式对应的格式编码,组合所述名称编码和格式编码获得待查询索引编码,依据所述预设的哈希算法计算所述待查询索引编码的哈希值作为所述待查询索引。
该可选的实施例中,可从头遍历所述查询队列中的文件,若遍历到的所述文件的索引与所述待查询索引相同,则停止遍历并向用户推送所述文件,并记录所述文件的查询耗时。
该可选的实施例中,可查询所述文件的类型,并对所述文件的类型进行编码获得所述文件的类型编码值,所述文件的类型至少包括月度文件、季度文件、年度文件,所述月度文件的类型编码值为30、所述季度文件的类型编码值为90、所述年度文件的类型编码值为365。可计算所述文件的查询耗时与类型编码值的比值以作为所述文件的更新后的文件优先级,进而依据步骤S12中的方法重新获取所有文件的存储模式,并可依据步骤S13中的方法重新获取所述查询队列。
该可选的实施例中,若遍历完所述查询队列中的所有文件仍未查询到与所述预设的文件查询请求对应的所述文件,则在所述预设服务器的所有存储空间中查询所述预设的文件查询请求对应的所述文件。
在一个可选的实施例中,所述在所述预设服务器的所有存储空间中查询所述预设的文件查询请求对应的所述文件,包括:
a,依据存储优先级由高到低的顺序对所述存储空间进行排序,并初始化设置所述存储优先级最高的存储空间为当前空间;
b,针对当前空间,依据所述文件优先级由高到低的顺序依次遍历所述当前空间中的每个所述文件,若所述文件的索引与所述待查询索引相同,则停止遍历并向用户推送所述文件;
若直到遍历完所述当前空间中的所有文件,未找到与所述待查询索引相同的索引,则将次序低于所述当前空间并与所述当前空间相邻的存储空间作为当前空间;
c,重复执行步骤b以查询所述预设的文件查询请求对应的所述文件,直到遍历完所述预设服务器中所有文件以停止遍历,若遍历完所述预设服务器中所有文件后仍未查询到所述预设的文件查询请求对应的所述文件,则向用户推送查询失败警告。
如此,首先通过查询队列查询与所述文件查询请求对应的文件,无需遍历预设服务器中的所有存储空间即可检视所述预设服务器中优先级较高的多个文件,从而能够提升文件查询效率。
上述基于人工智能的文件存储与查询方法通过将更新频繁且耗时较高的文件存储于物理性能较强的存储空间中,能够提升文件存取的效率,并从服务器的内存空间中划分缓存空间以缓存优先级较高的文件,从而在保障服务器性能的前提下提升了文件查询的效率,基于文件的查询耗时动态的调整文件的存储模式和查询队列,从而能够实时调整文件的查询次序,进一步提升了文件的查询效率。
如图2所示,是本申请实施例提供的基于人工智能的文件存储与查询装置的较佳实施例的功能模块图。基于人工智能的文件存储与查询装置11包括第一计算单元110、第二计算单元111、匹配单元112、构建单元113、查询单元114。本申请所称的模块/单元是指一种能够被处理器13所执行,并且能够完成固定功能的一系列计算机程序段,其存储在存储器12中。在本实施例中,关于各模块/单元的功能将在后续的实施例中详述。
在一个可选的实施例中,第一计算单元110用于依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,所述存储优先级用以表征所述存储空间存储文件的能力。
在一个可选的实施例中,所述依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,包括:
查询每个所述存储空间的读写速率和存储容量;
将每个所述存储空间中所有文件在预设时间范围内被查询的次数作为所述存储空间的利用率;
根据所述读写速率、所述存储容量和所述利用率计算每个所述存储空间的存储优先级,所述优先级越高则所述存储空间存储文件的能力越强。
该可选的实施例中,所述预设服务器的功能是存储、分析、发送数据,所述预设服务器可以是Druid、Hive、Kylin等现有的数据分析服务器。
该可选的实施例中,所述预设服务器包括多个存储空间,每个所述存储空间用以存储所述预设服务器中的多个文件,且每个所述存储空间包括多项物理信息,所述物理信息至少包括读写速率S和存储容量C,所述读写速率越高则表明该存储空间读取文件和写入文件的速度越快,则其性能越强;所述存储容量越高则表明所述存储空间能够存储文件的数量越多。
该可选的实施例中,可将预设时间范围内所述存储空间中所有文件被查询的次数作为所述存储空间的利用率,并记所述利用率为R,所述利用率越高则表明所述存储空间被使用的频率越高。
该可选的实施例中,为了消除所述存储空间的多项物理信息之间的量纲差异,可依据预设的归一化算法对所述读写速率、所述存储容量和所述利用率进行归一化处理获得归一化读写速率、归一化存储容量和归一化利用率,所述预设的归一化算法可以是最大化算法、最小化算法、S型生长曲线算法等现有的归一化算法,本申请对此不做限定。
该可选的实施例中,可分别计算每个所述存储空间对应的归一化读写速率、归一化存储容量和归一化利用率的均值作为每个所述存储空间的优先级,并可记所述预设服务器中第i个存储空间的优先级为Ti,其中,i∈[1,n],n代表所述预设服务器中存储空间的数量,所述存储空间的优先级越高则表明所述存储空间存储和查询数据的性能越强。
在一个可选的实施例中,第二计算单元111用于查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级。
在一个可选的实施例中,所述查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级,包括:
从预设的文件查询日志中查询每个所述文件对应的查询记录,所述查询记录记载了每个所述文件对应的多项数据,所述多项数据至少包括所述文件的文件名称、文件格式、查询耗时、文件类型;
依据所述文件名称和所述文件格式计算所述文件的索引;
基于所述查询耗时和所述文件类型计算所述文件的优先级。
示例性的,如图4所示为所述预设的文件查询日志的结构示意图,所述文件查询日志中的每行对应一条查询记录,每条查询记录用以记载每个所述文件对应的多项数据。
该可选的实施例中,可依据所述预设服务器中默认的文本编码格式查询所述文件名称对应的名称编码,并查询所述文件格式对应的文件头以作为格式编码,进而将所述名称编码置于前,并将所述格式编码置于后以获得所述文件对应的索引编码,依据预设的哈希算法计算所述索引编码的哈希值以作为所述文件对应的索引,所述预设服务器中默认的文本编码格式可以是GB2312、GBK、UTF-8等现有的文本编码格式,所述预设的哈希算法可以是SHA1、SHA224、SHA256等现有的哈希算法,本申请对此不做限定。
示例性的,当某一个文件的名称为“测试文件”,所述预设服务器默认的文本编码格式为GB2312,且该文件的格式为JPEG格式时,所述索引编码为%u6D4B%u8BD5%u6587%u4EF6FFD8FF,可依据SHA256算法计算所述索引编码的哈希值以作为该文件的索引。
该可选的实施例中,所述文件类型至少包括月度文件、季度文件和年度文件,所述月度文件用以存储每月更新的数据、所述季度文件用以存储每个季度更新的数据、所述年度文件用以存储每年更新的数据。所述文件的更新越频繁,则所述文件越应该被优先查询,则所述文件的优先级应越高。
该可选的实施例中,可基于所述文件中数据的更新频率对所述文件的类型进行编码获得所述文件的类型编码值,示例性的,由于月度文件中的数据每月更新一次,因此可将月度文件的类型编码值设置为30;由于季度文件每90天更新一次,则可将季度文件的类型编码值设置为90;由于年度文件每365天更新一次,则可将年度文件的编码值设置为365,所述类型编码值越高则表明所述文件更新的频率越缓慢,则所述文件的文件优先级越低。
该可选的实施例中,所述文件的查询耗时越高,则所述文件越应被优先查询以节省查询时间,因此所述文件的优先级越高。
该可选的实施例中,可分别计算每个所述文件的查询耗时与类型编码值的比值以作为每个所述文件的文件优先级,所述文件优先级越高则表明所述文件越应被优先查询。
在一个可选的实施例中,匹配单元112用于依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中以获得所有文件的存储模式。
在一个可选的实施例中,所述依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中,包括:
依据所述文件优先级由高到低的顺序排列所述文件获得文件序列,并依据所述存储优先级由高到低的顺序排列所述存储空间获得存储空间序列;
若所述文件的数量不大于所述存储空间的数量,则同时从头遍历所述文件序列和所述存储空间序列,将同时遍历到的所述文件与所述存储空间相匹配;
若所述文件的数量大于所述存储空间的数量,则计算所述文件数量与所述存储空间数量的比值,若所述比值为整数,则将所述文件序列均匀划分为多个第一子序列,所述多个第一子序列的数量与所述存储空间的数量相等,依据每个所述第一子序列中最高文件优先级由高到低的顺序对所述多个第一子序列进行排序获得每个第一子序列的次序,并将所述第一子序列中所有文件与所述第一子序列次序相同的存储空间相匹配;
若所述比值不为整数,则计算所述文件数量与所述存储空间数量的商值和余数,将所述文件序列划分为多个第二子序列,所述多个第二子序列的数量与所述存储空间的数量相等,且具备最高文件优先级的第二子序列中所述文件的数量与所述商值和所述余数之和相等,其余所述第二子序列中所述文件的数量与所述商值相等,依据每个所述第二子序列中最高文件优先级由高到低的顺序对所述多个第二子序列进行排序获得每个第二子序列的次序,并将所述第二子序列中所有文件与所述第二子序列次序相同的存储空间相匹配;
将所述文件存储于相匹配的存储空间中以获得存储模式,所述存储模式用以表征每个所述文件在所述预设服务器中的存储位置。
在一个可选的实施例中,构建单元113用于依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件。
在一个可选的实施例中,所述依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件,包括:
依据预设的划分阈值从所述预设服务器的内存空间中划分缓存空间;
依据所述文件的优先级由高到低的顺序对所述预设服务器中所有所述文件进行排序获得缓存队列;
若所述缓存队列中所有文件的大小之和大于所述缓存空间的容量,则从所述缓存队列的队尾开始遍历所述缓存队列,将遍历到的所述文件从所述缓存队列中移除,直到所述缓存队列中所有文件的大小之和不大于所述缓存空间的容量,则停止遍历并将所述缓存队列缓存于所述缓存空间并作为查询队列。
该可选的实施例中,所述服务器的内存容量指所述服务器中内存空间的总大小,可计算预设的划分阈值与所述内存容量的乘积以作为缓存容量,所述预设的阈值可以是0.1、0.2、0.3等,本申请对此不做限定。示例性的,当所述服务器的内存容量大小为128GB,且所述预设的阈值为0.1时,所述缓存容量为128×0.1=12.8GB。
在一个可选的实施例中,查询单元114用于依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列。
在一个可选的实施例中,所述依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列,包括:
从预设的文件查询请求中提取待查询文件名称和待查询文件格式;
依据所述待查询文件名称和待查询文件格式计算所述预设的文件查询请求对应的待查询索引;
从头遍历所述查询队列中的文件,若遍历到的所述文件的索引与所述待查询索引相同,则结束遍历并向用户推送所述文件,并记录所述文件的查询耗时以更新所述文件的文件优先级;
依据更新后的所述文件优先级更新所述存储模式;
并依据更新后的所述文件优先级重新对所述文件进行排序获得更新后的查询队列;
若遍历完所述查询队列中的所有文件仍未查询到与所述预设的文件查询请求对应的所述文件,则在所述预设服务器的所有存储空间中查询该文件。
该可选的实施例中,所述预设的文件查询请求指用户对所述预设服务器中某个文件的查询请求,所述查询请求至少包括待查询文件名称和待查询文件格式。
该可选的实施例中,可依据所述预设服务器中默认的文本编码格式查询所述待查询文件名称对应的名称编码,并查询所述待查询文件格式对应的格式编码,组合所述名称编码和格式编码获得待查询索引编码,依据所述预设的哈希算法计算所述待查询索引编码的哈希值作为所述待查询索引。
该可选的实施例中,可从头遍历所述查询队列中的文件,若遍历到的所述文件的索引与所述待查询索引相同,则停止遍历并向用户推送所述文件,并记录所述文件的查询耗时。
该可选的实施例中,可查询所述文件的类型,并对所述文件的类型进行编码获得所述文件的类型编码值,所述文件的类型至少包括月度文件、季度文件、年度文件,所述月度文件的类型编码值为30、所述季度文件的类型编码值为90、所述年度文件的类型编码值为365。可计算所述文件的查询耗时与类型编码值的比值以作为所述文件的更新后的文件优先级,进而依据匹配单元112重新获取所有文件的存储模式,并可依据构建单元113重新获取所述查询队列。
该可选的实施例中,若遍历完所述查询队列中的所有文件仍未查询到与所述预设的文件查询请求对应的所述文件,则在所述预设服务器的所有存储空间中查询所述预设的文件查询请求对应的所述文件。
在一个可选的实施例中,所述在所述预设服务器的所有存储空间中查询所述预设的文件查询请求对应的所述文件,包括:
a,依据存储优先级由高到低的顺序对所述存储空间进行排序,并初始化设置所述存储优先级最高的存储空间为当前空间;
b,针对当前空间,依据所述文件优先级由高到低的顺序依次遍历所述当前空间中的每个所述文件,若所述文件的索引与所述待查询索引相同,则停止遍历并向用户推送所述文件;
若直到遍历完所述当前空间中的所有文件,未找到与所述待查询索引相同的索引,则将次序低于所述当前空间并与所述当前空间相邻的存储空间作为当前空间;
c,重复执行步骤b以查询所述预设的文件查询请求对应的所述文件,直到遍历完所述预设服务器中所有文件以停止遍历,若遍历完所述预设服务器中所有文件后仍未查询到所述预设的文件查询请求对应的所述文件,则向用户推送查询失败警告。
上述基于人工智能的文件存储与查询方法通过将更新频繁且耗时较高的文件存储于物理性能较强的存储空间中,能够提升文件存取的效率,并从服务器的内存空间中划分缓存空间以缓存优先级较高的文件,从而在保障服务器性能的前提下提升了文件查询的效率,基于文件的查询耗时动态的调整文件的存储模式和查询队列,从而能够实时调整文件的查询次序,进一步提升了文件的查询效率。
如图3所示,是本申请实施例提供的一种电子设备的结构示意图。电子设备1包括存储器12和处理器13。存储器12用于存储计算机可读指令,处理器13用执行储器中存储的计算机可读指令以实现上述任一实施例的基于人工智能的文件存储与查询方法。
在一个可选的实施例中,电子设备1还包括总线、存储在存储器12中并可在处理器13上运行的计算机程序,例如基于人工智能的文件存储与查询程序。
图3仅示出了具有组件12-13的电子设备1,本领域技术人员可以理解的是,图3示出的结构并不构成对电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
结合图1,电子设备1中的存储器12存储多个计算机可读指令以实现一种基于人工智能的文件存储与查询方法,处理器13可执行多个指令从而实现:
依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,所述存储空间用以存储所述预设服务器中的多个文件,所述存储优先级用以表征所述存储空间存储文件的能力;
查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级;
依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中以获得所有文件的存储模式;
依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件;
依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列。
具体地,处理器13对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
本领域技术人员可以理解,所述示意图仅仅是电子设备1的示例,并不构成对电子设备1的限定,电子设备1既可以是总线型结构,也可以是星形结构,电子设备1还可以包括比图示更多或更少的其他硬件或者软件,或者不同的部件布置,例如电子设备1还可以包括输入输出设备、网络接入设备等。
需要说明的是,电子设备1仅为举例,其他现有的或今后可能出现的电子产品如可适应于本申请,也应包含在本申请的保护范围以内,并以引用方式包含于此。
其中,存储器12至少包括一种类型的可读存储介质,所述可读存储介质可以是非易失性的,也可以是易失性的。所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器12在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。存储器12在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,存储器12还可以既包括电子设备1的内部存储单元也包括外部存储设备。存储器12不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如基于人工智能的文件存储与查询程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
处理器13在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。处理器13是电子设备1的控制核心(Control Unit),利用各种接口和线路连接整个电子设备1的各个部件,通过运行或执行存储在存储器12内的程序或者模块(例如执行基于人工智能的文件存储与查询程序等),以及调用存储在存储器12内的数据,以执行电子设备1的各种功能和处理数据。
处理器13执行电子设备1的操作系统以及安装的各类应用程序。处理器13执行所述应用程序以实现上述各个基于人工智能的文件存储与查询方法实施例中的步骤,例如图1所示的步骤。
示例性的,所述计算机程序可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在存储器12中,并由处理器13执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段,该指令段用于描述所述计算机程序在电子设备1中的执行过程。例如,所述计算机程序可以被分割成第一计算单元110、第二计算单元111、匹配单元112、构建单元113、查询单元114。
上述以软件功能模块的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、计算机设备,或者网络设备等)或处理器(processor)执行本申请各个实施例所述基于人工智能的文件存储与查询方法的部分。
电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指示相关的硬件设备来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。
其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存储器及其他存储器等。
进一步地,计算机可读存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
总线可以是外设部件互连标准(Peripheral Component Interconnect,简称PCI)总线或扩展工业标准结构(Extended Industry Standard Architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。为便于表示,在图3中仅用一根箭头表示,但并不表示仅有一根总线或一种类型的总线。所述总线被设置为实现存储器12以及至少一个处理器13等之间的连接通信。
尽管未示出,电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器13逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
本申请实施例还提供一种计算机可读存储介质(图未示),计算机可读存储介质中存储有计算机可读指令,计算机可读指令被电子设备中的处理器执行以实现上述任一实施例所述的基于人工智能的文件存储与查询方法。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。说明书陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本申请的技术方案而非限制,尽管参照较佳实施例对本申请进行了详细说明,本领域的普通技术人员应当理解,可以对本申请的技术方案进行修改或等同替换,而不脱离本申请技术方案的精神和范围。
Claims (10)
1.一种基于人工智能的文件存储与查询方法,其特征在于,所述方法包括:
依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,所述存储优先级用以表征所述存储空间存储文件的能力;
查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级;
依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中以获得所有文件的存储模式;
依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件;
依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列。
2.如权利要求1所述的基于人工智能的文件存储与查询方法,其特征在于,所述依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,包括:
查询每个所述存储空间的读写速率和存储容量;
将每个所述存储空间中所有文件在预设时间范围内被查询的次数作为所述存储空间的利用率;
根据所述读写速率、所述存储容量和所述利用率计算每个所述存储空间的存储优先级,所述优先级越高则所述存储空间存储文件的能力越强。
3.如权利要求1所述的基于人工智能的文件存储与查询方法,其特征在于,所述查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级,包括:
从预设的文件查询日志中查询每个所述文件对应的查询记录,所述查询记录记载了每个所述文件对应的多项数据,所述多项数据至少包括所述文件的文件名称、文件格式、查询耗时、文件类型;
依据所述文件名称和所述文件格式计算所述文件的索引;
基于所述查询耗时和所述文件类型计算所述文件的优先级。
4.如权利要求1所述的基于人工智能的文件存储与查询方法,其特征在于,所述依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中,包括:
依据所述文件优先级由高到低的顺序排列所述文件获得文件序列,并依据所述存储优先级由高到低的顺序排列所述存储空间获得存储空间序列;
若所述文件的数量不大于所述存储空间的数量,则同时从头遍历所述文件序列和所述存储空间序列,将同时遍历到的所述文件与所述存储空间相匹配;
若所述文件的数量大于所述存储空间的数量,则计算所述文件数量与所述存储空间数量的比值,若所述比值为整数,则将所述文件序列均匀划分为多个第一子序列,所述多个第一子序列的数量与所述存储空间的数量相等,依据每个所述第一子序列中最高文件优先级由高到低的顺序对所述多个第一子序列进行排序获得每个第一子序列的次序,并将所述第一子序列中所有文件与所述第一子序列次序相同的存储空间相匹配;
若所述比值不为整数,则计算所述文件数量与所述存储空间数量的商值和余数,将所述文件序列划分为多个第二子序列,所述多个第二子序列的数量与所述存储空间的数量相等,且具备最高文件优先级的第二子序列中所述文件的数量与所述商值和所述余数之和相等,其余所述第二子序列中所述文件的数量与所述商值相等,依据每个所述第二子序列中最高文件优先级由高到低的顺序对所述多个第二子序列进行排序获得每个第二子序列的次序,并将所述第二子序列中所有文件与所述第二子序列次序相同的存储空间相匹配;将所述文件存储于相匹配的存储空间中以获得存储模式,所述存储模式用以表征每个所述文件在所述预设服务器中的存储位置。
5.如权利要求1所述的基于人工智能的文件存储与查询方法,其特征在于,所述依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件,包括:
依据预设的划分阈值从所述预设服务器的内存空间中划分缓存空间;
依据所述文件的优先级由高到低的顺序对所述预设服务器中所有所述文件进行排序获得缓存队列;
若所述缓存队列中所有文件的大小之和大于所述缓存空间的容量,则从所述缓存队列的队尾开始遍历所述缓存队列,将遍历到的所述文件从所述缓存队列中移除,直到所述缓存队列中所有文件的大小之和不大于所述缓存空间的容量,则停止遍历并将所述缓存队列缓存于所述缓存空间并作为查询队列。
6.如权利要求1所述的基于人工智能的文件存储与查询方法,其特征在于,所述依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列,包括:
从预设的文件查询请求中提取待查询文件名称和待查询文件格式;
依据所述待查询文件名称和待查询文件格式计算所述预设的文件查询请求对应的待查询索引;
从头遍历所述查询队列中的文件,若遍历到的所述文件的索引与所述待查询索引相同,则结束遍历并向用户推送所述文件,并记录所述文件的查询耗时以更新所述文件的文件优先级;
依据更新后的所述文件优先级更新所述存储模式;
并依据更新后的所述文件优先级重新对所述文件进行排序获得更新后的查询队列;
若遍历完所述查询队列中的所有文件仍未查询到与所述预设的文件查询请求对应的所述文件,则在所述预设服务器的所有存储空间中查询所述预设的文件查询请求对应的所述文件。
7.如权利要求6所述的基于人工智能的文件存储与查询方法,其特征在于,所述在所述预设服务器的所有存储空间中查询所述预设的文件查询请求对应的所述文件,包括:
a,依据存储优先级由高到低的顺序对所述存储空间进行排序,并初始化设置所述存储优先级最高的存储空间为当前空间;
b,针对当前空间,依据所述文件优先级由高到低的顺序依次遍历所述当前空间中的每个所述文件,若所述文件的索引与所述待查询索引相同,则停止遍历并向用户推送所述文件;
若直到遍历完所述当前空间中的所有文件,未找到与所述待查询索引相同的索引,则将次序低于所述当前空间并与所述当前空间相邻的存储空间作为当前空间;
c,重复执行步骤b以查询所述预设的文件查询请求对应的所述文件,直到遍历完所述预设服务器中所有文件以停止遍历,若遍历完所述预设服务器中所有文件后仍未查询到所述预设的文件查询请求对应的所述文件,则向用户推送查询失败警告。
8.一种基于人工智能的文件存储与查询装置,其特征在于,所述装置包括:
第一计算单元,用于依据预设服务器中多个存储空间的物理信息计算每个所述存储空间的存储优先级,所述存储优先级用以表征所述存储空间存储文件的能力;
第二计算单元,用于查询所述预设服务器中每个所述文件对应的查询记录,并根据所述查询记录计算每个所述文件的文件优先级;
匹配单元,用于依据所述文件优先级和存储优先级匹配所述文件和所述存储空间,并将所述文件存储于相匹配的所述存储空间中以获得所有文件的存储模式;
构建单元,用于依据所述文件优先级构建查询队列,所述查询队列用以缓存多个文件;
查询单元,用于依据预设的文件查询请求查询所述文件并更新所述文件优先级获得更新后的文件优先级,利用所述更新后的文件优先级更新所述存储模式和所述查询队列。
9.一种电子设备,其特征在于,所述电子设备包括:
存储器,存储计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现如权利要求1至7中任意一项所述的基于人工智能的文件存储与查询方法。
10.一种计算机可读存储介质,其特征在于:所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的基于人工智能的文件存储与查询方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210928059.1A CN115269523A (zh) | 2022-08-03 | 2022-08-03 | 基于人工智能的文件存储与查询方法及相关设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210928059.1A CN115269523A (zh) | 2022-08-03 | 2022-08-03 | 基于人工智能的文件存储与查询方法及相关设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115269523A true CN115269523A (zh) | 2022-11-01 |
Family
ID=83749361
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210928059.1A Pending CN115269523A (zh) | 2022-08-03 | 2022-08-03 | 基于人工智能的文件存储与查询方法及相关设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115269523A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116132448A (zh) * | 2023-02-10 | 2023-05-16 | 平安科技(深圳)有限公司 | 基于人工智能的数据分流方法及相关设备 |
-
2022
- 2022-08-03 CN CN202210928059.1A patent/CN115269523A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116132448A (zh) * | 2023-02-10 | 2023-05-16 | 平安科技(深圳)有限公司 | 基于人工智能的数据分流方法及相关设备 |
CN116132448B (zh) * | 2023-02-10 | 2024-05-03 | 平安科技(深圳)有限公司 | 基于人工智能的数据分流方法及相关设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111767268B (zh) | 数据库表分区方法、装置、电子设备及存储介质 | |
US8738673B2 (en) | Index partition maintenance over monotonically addressed document sequences | |
US10275489B1 (en) | Binary encoding-based optimizations at datastore accelerators | |
US9886443B1 (en) | Distributed NFS metadata server | |
US20140324917A1 (en) | Reclamation of empty pages in database tables | |
WO2022048210A1 (zh) | 命名实体识别方法、装置、电子设备及可读存储介质 | |
CN111046034A (zh) | 管理内存数据及在内存中维护数据的方法和系统 | |
Ferraro Petrillo et al. | Analyzing big datasets of genomic sequences: fast and scalable collection of k-mer statistics | |
CN104519103A (zh) | 网络数据的同步处理方法、服务器及相关系统 | |
CN112506486A (zh) | 搜索系统建立方法、装置、电子设备及可读存储介质 | |
CN112699142A (zh) | 冷热数据处理方法、装置、电子设备及存储介质 | |
CN111694843A (zh) | 缺失号码检测方法、装置、电子设备及存储介质 | |
CN115269523A (zh) | 基于人工智能的文件存储与查询方法及相关设备 | |
WO2019153483A1 (zh) | 手续费确定方法、装置、终端设备及介质 | |
CN113590632B (zh) | 数据库索引创建方法、装置、设备及介质 | |
US10146833B1 (en) | Write-back techniques at datastore accelerators | |
US10956125B2 (en) | Data shuffling with hierarchical tuple spaces | |
CN113434501A (zh) | 关系型数据库表的存储方法、设备及可读存储介质 | |
CN105426119A (zh) | 一种存储设备及数据处理方法 | |
CN116842012A (zh) | 一种Redis集群的分片存储方法、装置、设备及存储介质 | |
CN115329002A (zh) | 基于人工智能的数据异步处理方法及相关设备 | |
US8868485B2 (en) | Data flow cost modeling | |
CN114626103A (zh) | 数据一致性比对方法、装置、设备及介质 | |
WO2022141860A1 (zh) | 文本去重方法、装置、电子设备及计算机可读存储介质 | |
CN114116673A (zh) | 基于人工智能的数据迁移方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |