CN116170432A - 一种文件处理方法、装置、电子设备及介质 - Google Patents
一种文件处理方法、装置、电子设备及介质 Download PDFInfo
- Publication number
- CN116170432A CN116170432A CN202310165905.3A CN202310165905A CN116170432A CN 116170432 A CN116170432 A CN 116170432A CN 202310165905 A CN202310165905 A CN 202310165905A CN 116170432 A CN116170432 A CN 116170432A
- Authority
- CN
- China
- Prior art keywords
- service
- file
- storage
- target file
- address
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 21
- 238000000034 method Methods 0.000 claims abstract description 77
- 239000012634 fragment Substances 0.000 claims description 110
- 230000008569 process Effects 0.000 claims description 44
- 238000012545 processing Methods 0.000 claims description 26
- 238000004590 computer program Methods 0.000 claims description 16
- 230000004044 response Effects 0.000 abstract description 9
- 230000000875 corresponding effect Effects 0.000 description 54
- 238000004891 communication Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 230000009286 beneficial effect Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 230000003993 interaction Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000011664 signaling Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 210000001503 joint Anatomy 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/11—File system administration, e.g. details of archiving or snapshots
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例公开了一种文件处理方法、装置、电子设备及介质。其中,该方法包括:通过预设存储服务对前端服务的目标文件进行存储;通过中间服务从所述预设存储服务中获取所述目标文件对应的文件下载地址;通过中间服务将所述文件下载地址发送至目标服务,以使所述目标服务根据所述文件下载地址从所述预设存储服务中下载所述目标文件。本技术方案,通过引入第三方的预设存储服务对目标文件进行存储,从而降低了通过中间文件传输目标文件时的带宽压力,并降低了通过中间服务存储目标文件时的存储压力,提高了中间服务对其他任务的响应速度。
Description
技术领域
本申请涉及文件处理技术领域,尤其涉及一种文件处理方法、装置、电子设备及介质。
背景技术
目前,前端服务中的文件可能需要上传至其他服务中,以供其他服务进行应用。为了其他服务的安全性,一般不会将其他服务的接口暴露给前端服务,不会使前端服务直接向其他服务发送文件,而是通过中间服务进行转发。
通过中间服务转发文件时,会占用中间服务的内存和带宽,并且会占用中间服务的存储空间,影响致中间服务对其他请求的响应速度。
发明内容
本申请提供了一种文件处理方法、装置、电子设备及介质,以通过引入预设存储服务进行目标文件的存储,与中间服务协同完成文件的转发,从而降低中间服务的处理压力,提高中间服务的响应速度。
根据本申请的一方面,提供了一种文件处理方法,方法包括:
通过预设存储服务对前端服务的目标文件进行存储;
通过中间服务从预设存储服务中获取目标文件对应的文件下载地址;
通过中间服务将文件下载地址发送至目标服务,以使目标服务根据文件下载地址从预设存储服务中下载目标文件。
可选的,通过预设存储服务对前端服务的目标文件进行存储,包括:
通过中间服务查找上传记录信息中是否存在目标文件对应的上传记录;
若不存在,则根据目标文件的参数信息向预设存储服务请求文件存储地址,并向前端服务发送文件存储地址,以使前端服务根据文件存储地址向预设存储服务中存储目标文件;
若存在,则确定是否执行过向预设存储服务中存储目标文件的过程,并根据判断结果对目标文件进行存储。
上述技术方案通过判断是否存在目标文件对应的上传记录,从而适应性地确定对目标文件的存储方案,提高了向预设存储服务中存储目标文件的存储效率,避免重复上传。
可选的,根据判断结果对目标文件进行存储,包括:
若已执行过向预设存储服务中存储目标文件的过程,则确定目标文件中的未存储分片,并从预设存储服务中获取未存储分片对应的有效存储地址;
将有效存储地址发送至前端服务,以使前端服务根据有效存储地址对未存储分片进行存储;
若未执行过向预设存储服务存储目标文件的过程,则向预设存储服务请求文件存储地址,并向前端服务发送文件存储地址,以使前端服务根据文件存储地址向预设存储服务中存储目标文件。
上述技术方案通过确定是否对目标文件执行过存储过程,并确定已存储的目标文件的分片,从而适应性地确定应继续存储目标文件的哪些分片,避免目标文件重复存储,针对于已执行过存储过程但是未完全存储的目标文件,实现断点续传。
可选的,向预设存储服务请求文件存储地址之后,方法还包括:
通过预设存储服务确定目标文件的文件存储地址以及存储标识,将文件存储地址以及存储标识关联存储,并向中间服务返回文件存储地址以及存储标识;
通过预设存储服务确定文件存储地址中的有效存储地址以及失效存储地址;其中,失效存储地址为已完成有效存储的目标文件的分片对应的存储地址,有效存储地址为未完成有效存储的目标文件的分片对应的存储地址;
相应地,确定目标文件中的未存储分片,包括:
根据目标文件的存储标识确定目标文件对应的文件存储地址;
将文件存储地址中的有效存储地址对应的目标文件的分片作为未存储分片。
上述技术方案通过预设存储服务管理文件存储地址,记录有效存储地址,从而根据有效存储地址准确快速确定未存储分片,便于后续对未存储分片进行存储,而对目标文件中除未存储分片以外的分片不进行存储,避免了分片的重复存储。
可选的,确定是否执行过向预设存储服务中存储目标文件的过程,包括:
将目标文件的哈希值与目标文件对应的上传记录中记录的哈希值进行匹配;
若匹配成功,则确定已执行过向预设存储服务中存储目标文件的过程;
若匹配不成功,则确定未执行过向预设存储服务中存储目标文件的过程。
上述技术方案通过哈希值的匹配,从而确定是否已经执行过向预设存储服务中存储目标文件的过程,便于后续适应性确定不同情况下应存储的目标文件的分片,提高目标文件的存储效率,且避免重复存储。
可选的,通过中间服务查找上传记录信息中是否存在目标文件对应的上传记录之前,方法还包括:
通过中间服务根据目标文件的参数信息从预设存储服务中查找是否存储有目标文件;
若存在,则从预设存储服务中获取目标文件的文件下载地址,并将文件下载地址发送至目标服务;
若不存在,则执行通过中间服务查找上传记录信息中是否存在目标文件对应的上传记录的步骤。
上述技术方案通过查找预设存储服务中是否存在目标文件,进而适应性确定存储方案,针对已存在的目标文件快速上传至目标服务,实现秒传,提高了目标文件的上传效率,针对不存在的目标文件进行存储,实现对目标文件的有效存储。
可选的,通过预设存储服务对前端服务的目标文件进行存储,包括:
通过预设存储服务接收前端服务发送的目标文件的分片,并将分片进行合并得到目标文件进行存储。
上述技术方案通过预设存储服务对分片进行合并,从而将分片合并任务从中间服务转移到了预设存储服务中,进而降低了预设存储服务的处理压力,提高中间服务的响应速度。
根据本申请的另一方面,提供了一种文件处理装置,包括:
存储模块,用于通过预设存储服务对前端服务的目标文件进行存储;
文件下载地址获取模块,用于通过中间服务从预设存储服务中获取目标文件对应的文件下载地址;
文件下载地址发送模块,用于通过中间服务将文件下载地址发送至目标服务,以使目标服务根据文件下载地址从预设存储服务中下载目标文件。
根据本申请的另一方面,提供了一种电子设备,该电子设备包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处理器执行,以使至少一个处理器能够执行本申请任一实施例的文件处理方法。
根据本申请的另一方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行时实现本申请任一实施例的文件处理方法。
本申请实施例的技术方案,通过预设存储服务对前端服务的目标文件进行存储;通过中间服务从预设存储服务中获取目标文件对应的文件下载地址;通过中间服务将文件下载地址发送至目标服务,以使目标服务根据文件下载地址从预设存储服务中下载目标文件。本技术方案,通过引入第三方的预设存储服务对目标文件进行存储,从而降低了通过中间文件传输目标文件时的内存压力和带宽压力,并降低了通过中间服务存储目标文件时的存储压力,提高了中间服务对其他任务的响应速度,通过预设存储服务与中间服务协同工作实现对目标文件的存储与上传,提高了目标文件的处理效率。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本申请实施例一提供的一种文件处理方法的流程图;
图2是根据本申请实施例二提供的一种文件处理方法的流程图;
图3是根据本申请实施例三提供的一种文件处理方法的流程图;
图4是根据本申请实施例三提供的一种文件处理方法的信令图;
图5是根据本申请实施例四提供的一种文件处理装置的结构示意图;
图6是实现本申请实施例五提供的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”“目标”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1为本申请实施例一提供的一种文件处理方法的流程图,本实施例可适用于对目标文件进行处理的情况,典型的,本申请实施例适用于通过中间服务和预设存储服务对目标文件进行处理,以使目标服务获取目标文件的情况。该方法可以由文件处理装置来执行,该文件处理装置可以采用硬件和/或软件的形式实现,该文件处理装置可配置于具有目标确定能力的电子设备中。如图1所示,该方法包括:
S110,通过预设存储服务对前端服务的目标文件进行存储。
其中,预设存储服务可以为预先根据实际情况选取的存储服务,预设存储服务的具体形式不做限定,只要是能够提供文件存储服务即可,例如可以为MinIO存储服务、ceph存储服务、FastDFS存储服务、TFS存储服务等。预设存储服务配置有存储空间,用于对目标文件进行存储。前端服务可以为智能终端的应用或浏览器所提供的服务,主要用于管理前端页面。目标文件可以为前端服务所管理的前端页面中的文件,目标文件的获取方式不做限定,可以为在前端服务中生成的,也可以为通过前端服务获取的。目标文件的具体形式不做具体限定,例如可以为镜像文件。
在本申请实施例中,可以通过预设存储服务对前端服务的目标文件进行存储,具体可以为前端服务向中间服务发送目标文件的参数信息,中间服务根据参数信息确定目标文件的存储方案,进而向前端服务发送指令,以使前端服务根据指令向预设存储服务发送目标文件,由预设存储服务对目标文件进行存储。其中,中间服务为可以为不涉及隐私性数据的服务,可以与前端服务直接对接进行交互。
在本申请实施例中,中间服务可能需要为多个其他服务提供相应的服务,因此需要响应多个其他服务的请求。预设存储服务为区别于中间服务的第三方存储服务,通过预设存储服务对前端服务的目标文件进行存储,从而分担了中间服务存储以及转发目标文件的压力,从而提高了中间服务对其他请求的响应速度。
在本申请实施例中,通过预设存储服务对前端服务的目标文件进行存储,包括:通过预设存储服务接收前端服务发送的目标文件的分片,并将分片进行合并得到目标文件进行存储。
示例性的,前端服务在向预设存储服务上传目标文件时,可以将目标文件的分片上传至预设存储服务中,预设存储服务接收到分片后,还需要将分片进行合并得到目标文件,对目标文件进行存储。上述方案通过预设存储服务对分片进行合并,从而分担了中间服务的处理压力,并且分片由预设存储服务合并后直接存储,保证了分片合并的安全性和稳定性。在本申请实施例中,预设存储服务对分片进行合并完成后,可以向中间服务返回分片合并是否成功的反馈信息,中间服务根据反馈信息确定是否执行后续操作。预设存储服务对分片进行合并完成后,还可以向前端服务返回分片是否上传完成以及分片合并是否成功的反馈信息,以使前端服务对分片发送情况和分片合并情况进行展示与记录。前端服务还可以根据文件存储地址确定分片全部上传后,确定分片上传完成。
S120,通过中间服务从预设存储服务中获取目标文件对应的文件下载地址。
其中,中间服务可以为不涉及隐私数据的服务,能够向前端服务提供接口从而与前端服务进行交互。中间服务可能为至少一个其他服务提供相应的服务,需要响应至少一个其他服务的请求。在通过预设存储服务对目标文件进行存储后,中间服务从预设存储服务中获取目标文件对应的文件下载地址,以便于后续根据文件下载地址从预设存储服务中下载目标文件。具体的,中间服务可以向预设存储服务发送携带有目标文件标识信息的获取请求,请求获取目标文件的文件下载地址,预设存储服务根据目标文件的标识信息,确定目标文件的文件存储地址,进而生成文件下载地址返回给中间服务。
在本申请实施例中,中间服务并不是直接从前端服务中获取目标文件转发至目标服务,而是只获取文件下载地址,文件下载地址的数据量远小于目标文件的数据量,从而有效降低了中间服务的带宽以及存储空间占用量,进而提高中间服务对其他请求的响应速度。
在本申请实施例中,中间服务可以在接收到预设存储服务发送的分片合并成功的反馈信息后,从预设存储服务中获取目标文件对应的文件下载地址,从而保证能够成功获取文件下载地址,避免中间服务无法确定目标文件的获取时机,在预设存储服务未完成分片合并时请求获取文件下载地址,导致获取失败。
S130、通过中间服务将文件下载地址发送至目标服务,以使目标服务根据文件下载地址从预设存储服务中下载目标文件。
其中,目标服务为需要获取目标文件的服务,可以为云平台,例如AWS平台、谷歌云、Vmware云平台、OpenStack云平台等。
在本申请实施例中,中间服务从预设存储服务中获取文件下载地址后,将文件下载地址发送至目标服务,从而使目标服务根据文件下载地址从预设存储服务中下载目标文件。目标服务可以立即根据文件下载地址从预设存储服务中下载目标文件,也可以在存在获取目标文件的需求时根据文件下载地址从预设存储服务中下载目标文件。中间文件只传递文件下载地址,而无需传递目标文件,文件下载地址的数据量远小于目标文件的数据量,因此有效降低了中间服务的带宽需求。并且实现了目标文件的跨服务上传,即使目标服务不将接口暴露给前端服务,也能够获取前端服务中的目标文件,在保证目标服务安全性的前提下,实现了目标文件的传递。
本申请实施例的技术方案,通过预设存储服务对前端服务的目标文件进行存储;通过中间服务从预设存储服务中获取目标文件对应的文件下载地址;通过中间服务将文件下载地址发送至目标服务,以使目标服务根据文件下载地址从预设存储服务中下载目标文件。本技术方案,通过引入第三方的预设存储服务对目标文件进行存储,从而降低了通过中间文件传输目标文件时的内存压力和带宽压力,并降低了通过中间服务存储目标文件时的存储压力,提高了中间服务对其他任务的响应速度。通过预设存储服务与中间服务协同工作实现对目标文件的存储与上传,提高了目标文件的处理效率。
实施例二
图2为本申请实施例二提供的一种文件处理方法的流程图,本实施例以上述实施例为基础进行优化。如图2所示,本实施例的方法具体包括如下步骤:
S210,通过中间服务查找上传记录信息中是否存在目标文件对应的上传记录,若否,则执行S220、S240-S250,若是,则执行S230-S250。
其中,上传记录信息为在向预设存储服务中存储文件,并向目标服务发送文件下载地址后,由中间服务记录并存储的信息,其中记录向预设存储服务中存储的文件的标识信息、哈希值、文件名称、分片数量、文件大小等信息。
在本申请实施例中,前端服务将目标文件的参数信息发送给中间服务,中间服务根据参数信息中的目标文件的标识信息,从上传记录信息中查找是否存在目标文件的上传记录。如果参数信息中的目标文件的标识信息,与上传记录信息中记录的标识信息相匹配,则确定上传记录信息中存在目标文件对应的上传记录。若上传记录信息记录的标识信息中不存在与目标文件的标识信息相匹配的标识信息,则确定上传记录信息中不存在目标文件对应的上传记录。
在本申请实施例中,如果通过中间服务查找上传记录信息确定存在目标文件对应的上传记录,则执行S230-S250,若不存在,则执行S220、S240-S250。
在本申请实施例中,通过中间服务查找上传记录信息中是否存在目标文件对应的上传记录之前,方法还包括:通过中间服务根据目标文件的参数信息从预设存储服务中查找是否存储有目标文件;若存在,则从预设存储服务中获取目标文件的文件下载地址,并将文件下载地址发送至目标服务;若不存在,则执行通过中间服务查找上传记录信息中是否存在目标文件对应的上传记录的步骤。
示例性的,前端服务向中间服务发送目标文件的参数信息,中间服务根据目标文件的参数信息从预设存储服务中查找是否存储有目标文件。具体的,如果预设存储服务中存在参数信息与目标文件的参数信息一致的文件,则确定该文件即为目标文件,也就是预设存储服务中存储有目标文件。在此情况下,可以直接从预设存储服务中获取目标文件的文件下载地址,将文件下载地址发送至目标服务,以便于目标服务根据文件下载地址从预设存储服务中下载目标文件,实现目标文件的秒传。如果预设存储服务中不存在参数信息与目标文件的参数信息一致的文件,则确定预设存储服务中不存在目标文件。在此情况下,则执行S210以及后续过程。上述方案的有益效果在于,能够在预设存储服务中存在目标文件的情况下快速获取文件下载地址发送至目标服务,实现目标文件的秒传,并且避免了预设存储服务中已经存储有目标服务的情况下,不经判断直接对目标文件进行存储,导致目标文件的重复存储,且降低目标文件传递至目标服务的效率。
S220,根据目标文件的参数信息向预设存储服务请求文件存储地址,并向前端服务发送文件存储地址,以使前端服务根据文件存储地址向预设存储服务中存储目标文件。
示例性的,如果中间服务查找上传记录信息确定不存在目标文件的上传记录,则中间服务根据目标文件的参数信息,向预设存储服务请求文件存储地址。预设存储服务根据目标文件的参数信息,确定文件存储地址并返回给中间服务,中间服务向前端服务发送文件存储地址,前端服务在接收到文件存储地址后,根据文件存储地址向预设存储服务中存储目标文件。其中,预设存储服务根据参数信息中分片数量,确定文件存储地址中存储地址的数量,各分片可各自对应一个存储地址。示例性的,分片1对应存储地址1,分片2对应存储地址2……以此类推。
S230,确定是否执行过向预设存储服务中存储目标文件的过程,并根据判断结果对目标文件进行存储。
示例性的,如果中间服务查找上传记录信息确定存在目标文件的上传记录,则判断实际上是否执行过向预设存储服务中存储目标文件的过程,也就是之前存储的是否为目标文件的原文件。如果是,则确定之前已经对目标文件进行全部或部分存储,如果否,则说明之前未对目标文件进行存储,进而根据不同的情况适应性确定对目标文件的存储方式。
在本申请实施例中,根据判断结果对目标文件进行存储,包括:若已执行过向预设存储服务中存储目标文件的过程,则确定目标文件中的未存储分片,并从预设存储服务中获取未存储分片对应的有效存储地址;将有效存储地址发送至前端服务,以使前端服务根据有效存储地址对未存储分片进行存储;若未执行过向预设存储服务存储目标文件的过程,则向预设存储服务请求文件存储地址,并向前端服务发送文件存储地址,以使前端服务根据文件存储地址向预设存储服务中存储目标文件。
示例性的,如果已经执行过向预设存储服务中存储目标文件的过程,则可能已经向预设存储服务中存储的部分分片或者全部分片,因此需要确定目标文件中的未存储分片,并从预设存储服务中获取未存储分片对应的有效存储地址,将有效存储地址发送至前端服务,以使前端服务根据有效存储地址对未存储分片进行存储,避免直接将目标文件的全部分片进行存储,导致已经存储过的分片重复存储。如果未执行过向预设存储服务中存储目标文件的过程,则可以直接对目标文件的全部分片进行存储,执行过程与S220相同。
在本申请实施例中,向预设存储服务请求文件存储地址之后,方法还包括:通过预设存储服务确定目标文件的文件存储地址以及存储标识,将文件存储地址以及存储标识关联存储,并向中间服务返回文件存储地址以及存储标识;通过预设存储服务确定文件存储地址中的有效存储地址以及失效存储地址;其中,失效存储地址为已完成有效存储的目标文件的分片对应的存储地址,有效存储地址为未完成有效存储的目标文件的分片对应的存储地址;相应地,确定目标文件中的未存储分片,包括:通过中间服务查询预设存储服务中存储标识关联的文件存储地址;将文件存储地址中有效存储地址对应的目标文件的分片作为未存储分片。
示例性的,中间服务向预设存储服务获取文件存储地址后,预设存储服务确定目标文件的文件存储地址,并生成目标文件对应的存储标识,将存储标识与文件存储地址进行关联存储,并将文件存储地址和存储标识返回给中间服务。在前端服务向预设存储服务中存储目标文件的过程中,预设存储服务确定文件存储地址中的有效存储地址与失效存储地址。具体的,前端服务向预设存储服务中发送目标文件的分片,如果发送的分片有效存储,则该分片对应的存储地址确定为失效存储地址。未有效存储的分片对应的存储地址确定为有效存储地址。例如,目标文件的分片包括分片1、分片2、分片3和分片4,对应文件存储地址中的存储地址1、存储地址2、存储地址3和存储地址4。如果前端服务向预设存储服务中发送了分片1和分片2,预设存储服务根据存储地址1对分片1进行了存储,根据存储地址2对分片2进行了存储,而分片3和分片4并未存储,则失效存储地址为存储地址1和存储地址2,有效存储地址为存储地址3和存储地址4。因为分片和存储地址为一一对应的关系,因此可以根据预设存储服务记录的有效存储地址和失效存储地址,确定目标文件的哪些分片已经存储,哪些分片未存储。中间服务可以根据目标文件的存储标识从预设存储服务中查询该存储标识对应的文件存储地址,确定其中的有效存储地址和失效存储地址,将有效存储地址对应的分片确定为未存储分片。中间服务从预设存储服务中获取有效存储地址,并将有效存储地址发送至前端服务,也可以将未存储分片的标识信息发送至前端服务,前端服务根据有效存储地址对目标文件中的未存储分片进行存储。以上述举例说明,通过预设存储服务确定有效存储地址为存储地址3和存储地址4,中间服务可以确定未存储分片为对应的分片3和分片4,中间服务从预设存储服务中获取存储地址3和存储地址4,并发送至前端服务,并将分片3和分片4的标识信息发送至前端服务,前端服务根据存储地址3对分片3进行存储,根据存储地址4对分片4进行存储。上述方案的有益效果在于,通过预设存储服务对有效存储地址和失效存储地址的记录,从而快速准确地确定未存储分片,进而根据有效存储地址仅对未存储分片进行存储,避免分片重复存储。对目标文件进行部分存储,而不是全部存储,提高了目标文件的存储效率。
在本申请实施例中,确定是否执行过向预设存储服务中存储目标文件的过程,包括:将目标文件的哈希值与目标文件对应的上传记录中记录的哈希值进行匹配;若匹配成功,则确定已执行过向预设存储服务中存储目标文件的过程;若匹配不成功,则确定未执行过向预设存储服务中存储目标文件的过程。
其中,目标文件的哈希值为采用哈希算法对目标文件进行计算得到的值。不同的目标文件对应的哈希值不同。前端服务向中间服务发送的参数信息中包括目标文件的哈希值。中间服务将目标文件的哈希值与目标文件对应的上传记录中记录的哈希值进行匹配,如果匹配成功,确定上传记录中记录的文件处理对象,实质上即为目标文件,也就是已经执行过向预设存储服务中存储目标文件的过程。如果目标文件的哈希值与目标文件对应的上传记录中记录的哈希值不匹配,则确定上传记录中记录的文件处理对象,实质上并不是目标文件,因此确定未执行过向预设存储服务中存储目标文件的过程。上述方案通过哈希值匹配,准确快速地确定目标文件是否为之前已经执行过存储过程的原文件,从而根据判断结果适应性地确定对目标文件的存储过程,避免目标文件重复存储。
S240,通过中间服务从预设存储服务中获取目标文件对应的文件下载地址。
S250,通过中间服务将文件下载地址发送至目标服务,以使目标服务根据文件下载地址从预设存储服务中下载目标文件。
本申请实施例中,通过中间服务查找上传记录信息中是否存在目标文件对应的上传记录;若不存在,则根据目标文件的参数信息向预设存储服务请求文件存储地址,并向前端服务发送文件存储地址,以使前端服务根据文件存储地址向预设存储服务中存储目标文件;若存在,则确定是否执行过向预设存储服务中存储目标文件的过程,并根据判断结果对目标文件进行存储,从而实现根据是否存在目标文件的上传记录的判断结果,以及是否执行过向预设存储服务中存储目标文件的判断结果,适应性地确定目标文件的存储过程,从而提高目标文件的存储效率,避免出现目标文件存储失败或者重复存储的问题。
实施例三
图3为本申请实施例三提供的一种文件处理方法的具体实现流程图,图4为本实施例本申请实施例三提供的一种文件处理方法的信令图。在上述实施例的基础上,提供了一种优选实施例,其中,预设存储服务为MinIO,目标服务为OpenStack。
如图3所示,本实施例的方法具体包括如下步骤:
S301,前端服务将目标文件的参数信息发送至中间服务。
S302,中间服务根据参数信息从MinIO中查询是否存储有目标文件,若存在,则执行S303,若不存在,则执行S304。
S303,中间服务从MinIO中获取目标文件的文件下载地址,并向OpenStack发送文件下载地址,以便于OpenStack根据文件下载地址从MinIO中下载目标文件。中间服务在上传记录信息中记录目标文件的上传记录。
S304,中间服务根据目标文件的标识信息(例如image_id)查询存储的上传记录信息,查找是否存在目标文件的上传记录,若是,执行S305,若否,执行309-S313。
S305、确定上传记录中的上传过程的执行对象是否是目标文件,(例如对比目标文件的MD5值与上传记录中的MD5值是否相同,若相同,则确定上传记录中的上传过程的执行对象是目标对象,否则,则确定上传记录中的上传过程的执行对象不是目标对象),若是,则执行S306-S308,S311-S313,若否,则执行S309-S313。
S306、中间服务根据目标文件的存储标识,从MinIO中查找未存储分片,并从MinIO中获取未存储分片对应的有效存储地址。
S307、中间服务将有效存储地址发送至前端服务,并向前端服务发送未存储分片的标识信息。
S308、前端服务根据有效存储地址向MinIO中发送未存储分片。
S309、中间服务根据目标文件的参数信息,从MinIO中获取文件存储地址和存储标识,并将文件存储地址和存储标识(例如用uoload_id表示)发送至前端服务。
S310、前端服务根据文件存储地址向MinIO中发送目标文件的分片。
S311、前端服务根据文件存储地址检测到分片全部上传完成后调用中间服务,中间服务调用MinIO对分片进行合并,得到目标文件,并将是否合并成功的反馈消息发送至中间服务。
S312、中间服务如果接收到合并失败的消息,则重新对目标文件进行存储。中间服务如果接收到合并成功的消息,则从MinIO获取目标文件的文件下载地址。
S313、中间文件将文件下载地址发送至OpenStack中,OpenStack根据文件下载地址从MinIO中下载目标文件。OpenStack成功下载目标文件后,向中间文件发送下载成功的信息,以使中间文件更新目标文件的上传状态。
本申请实施例具有上述实施例相同的有益效果。
实施例四
图5为本申请实施例四提供的一种文件处理装置的结构示意图,该装置可执行本申请任意实施例所提供的文件处理方法,具备执行方法相应的功能模块和有益效果。如图5所示,该装置包括:
存储模块410,用于通过预设存储服务对前端服务的目标文件进行存储;
文件下载地址获取模块420,用于通过中间服务从预设存储服务中获取目标文件对应的文件下载地址;
文件下载地址发送模块430,用于通过中间服务将文件下载地址发送至目标服务,以使目标服务根据文件下载地址从预设存储服务中下载目标文件。
在本申请实施例中,存储模块410,,包括:
查找单元,用于通过中间服务查找上传记录信息中是否存在目标文件对应的上传记录;
地址请求单元,用于若不存在,则根据目标文件的参数信息向预设存储服务请求文件存储地址,并向前端服务发送文件存储地址,以使前端服务根据文件存储地址向预设存储服务中存储目标文件;
判断单元,用于若存在,则确定是否执行过向预设存储服务中存储目标文件的过程,并根据判断结果对目标文件进行存储。
在本申请实施例中,判断单元,具体用于:
若已执行过向预设存储服务中存储目标文件的过程,则确定目标文件中的未存储分片,并从预设存储服务中获取未存储分片对应的有效存储地址;
将有效存储地址发送至前端服务,以使前端服务根据有效存储地址对未存储分片进行存储;
若未执行过向预设存储服务存储目标文件的过程,则向预设存储服务请求文件存储地址,并向前端服务发送文件存储地址,以使前端服务根据文件存储地址向预设存储服务中存储目标文件。
在本申请实施例中,装置还包括:
存储信息确定模块,用于通过预设存储服务确定目标文件的文件存储地址以及存储标识,将文件存储地址以及存储标识关联存储,并向中间服务返回文件存储地址以及存储标识;
地址区分模块,用于通过预设存储服务确定文件存储地址中的有效存储地址以及失效存储地址;其中,失效存储地址为已完成有效存储的目标文件的分片对应的存储地址,有效存储地址为未完成有效存储的目标文件的分片对应的存储地址;
相应地,判断单元,具体用于::
通过中间服务查询预设存储服务中存储标识关联的文件存储地址;
将文件存储地址中有效存储地址对应的目标文件的分片作为未存储分片。
在本申请实施例中,装置还包括:
匹配模块,用于将目标文件的哈希值与目标文件对应的上传记录中记录的哈希值进行匹配;
第一确定模块,用于若匹配成功,则确定已执行过向预设存储服务中存储目标文件的过程;
第二确定模块,用于若匹配不成功,则确定未执行过向预设存储服务中存储目标文件的过程。
在本申请实施例中,装置还包括:
查找模块,用于通过中间服务根据目标文件的参数信息从预设存储服务中查找是否存储有目标文件;
发送模块,用于若存在,则从预设存储服务中获取目标文件的文件下载地址,并将文件下载地址发送至目标服务;
执行模块,用于若不存在,则执行通过中间服务查找上传记录信息中是否存在目标文件对应的上传记录的步骤。
在本申请实施例中,存储模块410,包括:
合并单元,用于通过预设存储服务接收前端服务发送的目标文件的分片,并将分片进行合并得到目标文件进行存储。
本申请实施例所提供的一种文件处理装置可执行本申请任意实施例所提供的一种文件处理方法,具备执行方法相应的功能模块和有益效果。
实施例五
图6示出了可以用来实施本申请的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如文件处理方法。
在一些实施例中,文件处理方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的文件处理方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行文件处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本申请的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程目标确定装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本申请的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请的技术方案所期望的信息,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (10)
1.一种文件处理方法,其特征在于,所述方法包括:
通过预设存储服务对前端服务的目标文件进行存储;
通过中间服务从所述预设存储服务中获取所述目标文件对应的文件下载地址;
通过中间服务将所述文件下载地址发送至目标服务,以使所述目标服务根据所述文件下载地址从所述预设存储服务中下载所述目标文件。
2.根据权利要求1所述的方法,其特征在于,通过预设存储服务对前端服务的目标文件进行存储,包括:
通过中间服务查找上传记录信息中是否存在所述目标文件对应的上传记录;
若不存在,则根据所述目标文件的参数信息向所述预设存储服务请求文件存储地址,并向前端服务发送所述文件存储地址,以使所述前端服务根据所述文件存储地址向所述预设存储服务中存储所述目标文件;
若存在,则确定是否执行过向所述预设存储服务中存储所述目标文件的过程,并根据判断结果对所述目标文件进行存储。
3.根据权利要求2所述的方法,其特征在于,根据判断结果对所述目标文件进行存储,包括:
若已执行过向预设存储服务中存储所述目标文件的过程,则确定所述目标文件中的未存储分片,并从预设存储服务中获取所述未存储分片对应的有效存储地址;
将所述有效存储地址发送至前端服务,以使前端服务根据所述有效存储地址对所述未存储分片进行存储;
若未执行过向预设存储服务存储所述目标文件的过程,则向所述预设存储服务请求文件存储地址,并向前端服务发送所述文件存储地址,以使所述前端服务根据所述文件存储地址向预设存储服务中存储所述目标文件。
4.根据权利要求2或3所述的方法,其特征在于,向所述预设存储服务请求文件存储地址之后,所述方法还包括:
通过所述预设存储服务确定所述目标文件的文件存储地址以及存储标识,将所述文件存储地址以及所述存储标识关联存储,并向所述中间服务返回所述存储标识;
通过所述预设存储服务确定所述文件存储地址中的有效存储地址以及失效存储地址;其中,失效存储地址为已完成有效存储的目标文件的分片对应的存储地址,有效存储地址为未完成有效存储的目标文件的分片对应的存储地址;
相应地,确定所述目标文件中的未存储分片,包括:
通过中间服务查询所述预设存储服务中存储标识关联的文件存储地址;
将所述文件存储地址中有效存储地址对应的所述目标文件的分片作为未存储分片。
5.根据权利要求2或3所述的方法,其特征在于,确定是否执行过向预设存储服务中存储所述目标文件的过程,包括:
将所述目标文件的哈希值与目标文件对应的上传记录中记录的哈希值进行匹配;
若匹配成功,则确定已执行过向预设存储服务中存储所述目标文件的过程;
若匹配不成功,则确定未执行过向预设存储服务中存储所述目标文件的过程。
6.根据权利要求2所述的方法,其特征在于,通过中间服务查找上传记录信息中是否存在所述目标文件对应的上传记录之前,所述方法还包括:
通过所述中间服务根据所述目标文件的参数信息从所述预设存储服务中查找是否存储有所述目标文件;
若存在,则从所述预设存储服务中获取所述目标文件的文件下载地址,并将所述文件下载地址发送至所述目标服务;
若不存在,则执行通过中间服务查找上传记录信息中是否存在所述目标文件对应的上传记录的步骤。
7.根据权利要求1所述的方法,其特征在于,通过预设存储服务对前端服务的目标文件进行存储,包括:
通过所述预设存储服务接收前端服务发送的所述目标文件的分片,并将所述分片进行合并得到所述目标文件进行存储。
8.一种文件处理装置,其特征在于,所述装置包括:
存储模块,用于通过预设存储服务对前端服务的目标文件进行存储;
文件下载地址获取模块,用于通过中间服务从所述预设存储服务中获取所述目标文件对应的文件下载地址;
文件下载地址发送模块,用于通过中间服务将所述文件下载地址发送至目标服务,以使所述目标服务根据所述文件下载地址从所述预设存储服务中下载所述目标文件。
9.一种电子设备,其特征在于,所述设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的文件处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的文件处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310165905.3A CN116170432A (zh) | 2023-02-23 | 2023-02-23 | 一种文件处理方法、装置、电子设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310165905.3A CN116170432A (zh) | 2023-02-23 | 2023-02-23 | 一种文件处理方法、装置、电子设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116170432A true CN116170432A (zh) | 2023-05-26 |
Family
ID=86421692
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310165905.3A Pending CN116170432A (zh) | 2023-02-23 | 2023-02-23 | 一种文件处理方法、装置、电子设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116170432A (zh) |
-
2023
- 2023-02-23 CN CN202310165905.3A patent/CN116170432A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113568884B (zh) | 一种文件管理方法、装置、电子设备及存储介质 | |
CN113419824A (zh) | 数据处理方法、装置、系统及计算机存储介质 | |
CN110764688B (zh) | 对数据进行处理的方法和装置 | |
CN110912805B (zh) | 消息读取状态的同步方法、终端、服务端及系统 | |
CN116611411A (zh) | 一种业务系统报表生成方法、装置、设备及存储介质 | |
CN104144170A (zh) | 网页地址的过滤方法、装置和系统 | |
CN116501997B (zh) | 短链接生成方法、装置、电子设备及存储介质 | |
CN111159131A (zh) | 性能优化方法、装置、设备及计算机可读存储介质 | |
CN116614495A (zh) | 数据上传方法、装置、设备、存储介质及程序产品 | |
CN116561179A (zh) | 数据查询方法、装置、设备及程序产品 | |
CN116170432A (zh) | 一种文件处理方法、装置、电子设备及介质 | |
CN113518013B (zh) | 一种实现心跳机制的处理方法及装置 | |
CN111245949A (zh) | 文件归档传输方法、装置及设备 | |
CN115840604B (zh) | 数据处理方法、装置、电子设备和计算机可读存储介质 | |
CN115334040B (zh) | 域名的互联网协议ip地址的确定方法及其装置 | |
CN113242307B (zh) | 服务请求处理方法、装置、服务器及存储介质 | |
CN110858201A (zh) | 数据处理方法及系统、处理器、存储介质 | |
CN114793234B (zh) | 消息处理方法、装置、设备和存储介质 | |
CN114553894B (zh) | 数据同步方法、装置、系统及存储介质 | |
CN114500438B (zh) | 文件共享方法、装置、电子设备及存储介质 | |
CN116610643B (zh) | 目录压缩下载过程的监控方法、装置及程序产品 | |
CN116032686A (zh) | 多端数据交互方法、装置及设备 | |
CN117596288A (zh) | 一种消息传输方法、装置、电子设备及存储介质 | |
CN117609171A (zh) | 一种权限数据同步方法、装置、设备及介质 | |
CN115168440A (zh) | 数据读写方法、分布式存储系统、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |