CN114422599A - 数据的传输方法、系统、电子设备及可读介质 - Google Patents
数据的传输方法、系统、电子设备及可读介质 Download PDFInfo
- Publication number
- CN114422599A CN114422599A CN202111583137.0A CN202111583137A CN114422599A CN 114422599 A CN114422599 A CN 114422599A CN 202111583137 A CN202111583137 A CN 202111583137A CN 114422599 A CN114422599 A CN 114422599A
- Authority
- CN
- China
- Prior art keywords
- cloud host
- host
- data transmission
- target
- cloud
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000005540 biological transmission Effects 0.000 title claims abstract description 162
- 238000000034 method Methods 0.000 title claims abstract description 49
- 238000003860 storage Methods 0.000 claims abstract description 81
- 238000005070 sampling Methods 0.000 claims description 37
- 230000006854 communication Effects 0.000 claims description 22
- 238000004891 communication Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 9
- 230000002159 abnormal effect Effects 0.000 claims description 7
- 238000010586 diagram Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 238000009826 distribution Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000004044 response Effects 0.000 description 6
- 238000001514 detection method Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 230000036541 health Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 2
- 230000000977 initiatory effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000013468 resource allocation Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013075 data extraction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
Images
Landscapes
- Information Transfer Between Computers (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明实施例提供了一种数据的传输方法、系统、电子设备及可读介质,所述方法包括:应用于数据传输系统,所述数据传输系统至少包括对象存储、与所述对象存储对应的至少一个云主机以及与所述云主机对应的调度装置,其中,所述调度装置响应于客户端发送的数据传输请求,获取各个所述云主机的主机信息,并根据所述主机信息,确定与所述数据传输请求对应的目标云主机,并将所述目标云主机对应的目标访问地址发送至所述客户端;所述目标云主机获取所述客户端通过所述目标访问地址发送的所述数据传输请求,并与所述对象存储执行对应的数据传输操作。
Description
技术领域
本发明涉及网络通信技术领域,特别是涉及一种数据的传输方法、一种数据的传输系统、一种电子设备以及一种计算机可读介质。
背景技术
近些年来随着互联网行业的快速发展,公有云和私有云发展迅速,为各类企业的互联网化提供了快速便捷高效的解决方案。但是企业在云化和业务发展的过程中,会遇到云资源成本不断陡增的情况,特别是云存储的公网流量成本,随着数据总量的不断增长,成本增长极快,对企业的资源利用效率以及成本控制等方面带来较大挑战。
发明内容
本发明实施例是提供一种数据的传输方法、系统、电子设备以及计算机可读存储介质,以解决或部分解决网络数据传输存在传输成本高以及资源利用率低的问题。
本发明实施例公开了一种数据的传输方法,应用于数据传输系统,所述数据传输系统至少包括对象存储、与所述对象存储对应的至少一个云主机以及与所述云主机对应的调度装置,所述方法包括:
所述调度装置响应于客户端发送的数据传输请求,获取各个所述云主机的主机信息,并根据所述主机信息,确定与所述数据传输请求对应的目标云主机,并将所述目标云主机对应的目标访问地址发送至所述客户端;
所述目标云主机获取所述客户端通过所述目标访问地址发送的所述数据传输请求,并与所述对象存储执行对应的数据传输操作。
可选地,所述数据传输系统还包括与所述云主机对应的采样装置,所述方法还包括:
所述调度装置获取所述云主机发送的注册请求,并对所述云主机进行注册;
所述采样装置根据预设采样策略从注册成功的云主机获取主机信息,并将所述主机信息发送至所述调度装置。
可选地,还包括:
若调度装置检测到云主机连接异常,则对连接异常的云主机进行注销;
或,所述云主机响应于关闭指令,向所述调度装置发送注销请求,由所述调度装置对与所述注销请求对应的云主机进行注销。
可选地,还包括:
所述云主机响应于对象挂载操作,确定与所述对象挂载操作对应的目标对象存储,并将将所述目标对象存储挂载为本地目录。
可选地,所述主机信息包括主机状态信息、主机硬件信息、主机操作系统信息以及接口调用信息中的一种。
可选地,所述主机状态信息包括所述云主机的带宽使用率,所述根据所述主机信息,确定与所述数据传输请求对应的目标云主机,包括:
从带宽使用率小于所述预设带宽使用阈值的云主机中择一作为与所述数据传输请求对应的目标云主机,或将带宽使用率最小的云主机作为与所述数据传输请求对应的目标云主机;
若所述云主机的带宽使用率均大于所述预设带宽使用阈值,则创建与所述对象存储对应的新的云主机,并将所述新的云主机作为与所述数据传输请求对应的目标云主机。
可选地,所述数据传输请求包括数据上传请求以及数据下载请求,所述目标云主机获取所述客户端通过所述目标访问地址发送的所述数据传输请求,并与所述对象存储执行对应的数据传输操作,包括:
所述目标云主机获取所述客户端通过所述目标访问地址发送的所述书传输请求;
所述目标云主机接收所述客户端上传的与所述数据上传请求对应的第一目标数据,并将所述第一目标数据发送至所述对象存储;
和/或,所述目标云主机从所述对象存储中获取与所述数据下载请求对应的第二目标数据,并将所述第二目标数据发送至所述客户端。
本发明实施例还公开了一种数据的传输系统,所述数据传输系统至少包括对象存储、与所述对象存储对应的至少一个云主机以及与所述云主机对应的调度装置;其中,
所述调度装置,用于响应于客户端发送的数据传输请求,获取各个所述云主机的主机信息,并根据所述主机信息,确定与所述数据传输请求对应的目标云主机,并将所述目标云主机对应的目标访问地址发送至所述客户端;
所述目标云主机,用于获取所述客户端通过所述目标访问地址发送的所述数据传输请求,并与所述对象存储执行对应的数据传输操作。
可选地,所述数据传输系统还包括与所述云主机对应的采样装置;其中,
所述调度装置,用于获取所述云主机发送的注册请求,并对所述云主机进行注册;
所述采样装置,用于根据预设采样策略从注册成功的云主机获取主机信息,并将所述主机信息发送至所述调度装置。
可选地,所述调度装置,用于若检测到云主机连接异常,则对连接异常的云主机进行注销;
所述云主机,用于响应于关闭指令,向所述调度装置发送注销请求,由所述调度装置对与所述注销请求对应的云主机进行注销。
可选地,所述云主机,用于响应于对象挂载操作,确定与所述对象挂载操作对应的目标对象存储,并将将所述目标对象存储挂载为本地目录。
可选地,所述主机信息包括主机状态信息、主机硬件信息、主机操作系统信息以及接口调用信息中的一种。
可选地,所述主机状态信息包括所述云主机的带宽使用率;
所述调度装置,用于从带宽使用率小于所述预设带宽使用阈值的云主机中择一作为与所述数据传输请求对应的目标云主机,或将带宽使用率最小的云主机作为与所述数据传输请求对应的目标云主机;
所述调度装置,用于若所述云主机的带宽使用率均大于所述预设带宽使用阈值,则创建与所述对象存储对应的新的云主机,并将所述新的云主机作为与所述数据传输请求对应的目标云主机。
可选地,所述数据传输请求包括数据上传请求以及数据下载请求,所述目标云主机具体用于:
获取所述客户端通过所述目标访问地址发送的所述书传输请求;
接收所述客户端上传的与所述数据上传请求对应的第一目标数据,并将所述第一目标数据发送至所述对象存储;
和/或,从所述对象存储中获取与所述数据下载请求对应的第二目标数据,并将所述第二目标数据发送至所述客户端。
本发明实施例还公开了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,所述处理器、所述通信接口以及所述存储器通过所述通信总线完成相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行存储器上所存放的程序时,实现如本发明实施例所述的方法。
本发明实施例还公开了一个或多个计算机可读介质,其上存储有指令,当由一个或多个处理器执行时,使得所述处理器执行如本发明实施例所述的方法。
本发明实施例包括以下优点:
在本发明实施例中,对于数据传输,可以应用于数据传输系统,该数据传输系统可以包括对象存储、与对象存储对应的至少一个云主机以及与云主机对应的调度装置,在数据传输过程中,调度装置可以响应于客户端发送的数据传输请求,获取各个云主机的主机信息,并根据主机信息确定与数据传输请求对应的目标云主机,通过主机信息可以从云主机中筛选出符合条件的云主机作为客户端当次数据通信的访问对象,动态调整客户端的数据访问对象,可以有效提高云资源的利用效率,在确定了目标云主机之后,可以将目标云主机对应的目标访问地址发送至客户端,以便客户端通过该目标访问地址向目标云主机发其数据传输请求,并由目标云主机根据数据传输请求与对象存储执行对应的数据传输操作,从而通过对云主机的主机信息进行监测,并动态为客户端分配对应的访问主机,可以充分地对云主机的宽带资源进行利用,提高了网络资源的利用率,有效降低了数据的传输成本。
附图说明
图1是本发明实施例中提供的一种数据的传输方法的步骤流程图;
图2是本发明实施例中提供的数据传输系统的结构示意图;
图3是本发明实施例中提供的数据传输的场景示意图;
图4是本发明实施例中提供的一种数据的传输系统的结构框图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
作为一种示例,近些年来随着互联网行业的快速发展,公有云和私有云发展迅速,为各类企业的互联网化提供了快速便捷高效的解决方案。但是企业在云化和业务发展的过程中,会遇到云资源费用不断陡增的情况,特别是云存储的公网流量费用,随着数据总量的不断增长,费用增长极快,对企业的资源利用效率、财务等方面都提出了严峻的挑战。并且,企业使用的云资源通常使用云主机进行业务逻辑处理与CPU密集型计算任务,云服务提供商默认会为云主机分配公网地址与固定带宽,但该类主机公网带宽大多处于限制状态,资源未能够有效利用。
对此,本发明实施例的核心发明点之一在于采用云主机挂载云存储的方式,并利用云服务可根据流量占用情况动态扩容且抢占式主机费用低廉等便利条件充分利用云主机带宽资源,具体的,对于企业的数据传输过程中,可以应用于数据传输系统,该数据传输系统可以包括对象存储、与对象存储对应的至少一个云主机以及与云主机对应的调度装置,在数据传输过程中,调度装置可以响应于客户端发送的数据传输请求,获取各个云主机的主机信息,并根据主机信息确定与数据传输请求对应的目标云主机,通过主机信息可以从云主机中筛选出符合条件的云主机作为客户端当次数据通信的访问对象,动态调整客户端的数据访问对象,可以有效提高云资源的利用效率,在确定了目标云主机之后,可以将目标云主机对应的目标访问地址发送至客户端,以便客户端通过该目标访问地址向目标云主机发其数据传输请求,并由目标云主机根据数据传输请求与对象存储执行对应的数据传输操作,从而通过对云主机的主机信息进行监测,并动态为客户端分配对应的访问主机,可以充分地对云主机的宽带资源进行利用,提高了网络资源的利用率,有效降低了数据的传输成本。
参照图1,示出了本发明实施例中提供的一种数据的传输方法的步骤流程图,应用于数据传输系统,所述数据传输系统至少包括对象存储、与所述对象存储对应的至少一个云主机以及与所述云主机对应的调度装置,具体可以包括如下步骤:
步骤101,所述调度装置响应于客户端发送的数据传输请求,获取各个所述云主机的主机信息,并根据所述主机信息,确定与所述数据传输请求对应的目标云主机,并将所述目标云主机对应的目标访问地址发送至所述客户端;
步骤102,所述目标云主机获取所述客户端通过所述目标访问地址发送的所述数据传输请求,并与所述对象存储执行对应的数据传输操作。
在本发明实施例中,数据传输系统可以包括企业内网使用的私有数据传输系统,也可以包括企业通过互联网使用的公有数据传输系统等。对于数据传输系统,其可以包括对象存储、挂载对象存储的至少一个云主机以及与云主机对应的调度装置、采样装置。可选地,调度装置与采样装置可以位于云主机(例如运行于云主机的应用程序等),也可以独立于云主机,位于另一控制终端中,在本发明实施例中,以调度装置、采样装置位于同一控制终端中,且该控制终端与云主机之间为不同终端为例进行示例性说明,可以理解的是,本发明对此不作限制。
其中,对象存储可以为基础云产品功能,提供对象存储、主机挂载、文件处、跨区域复制等功能;云主机可以为固定申请或通过动态扩容策略生成的云主机实例,其中抢占式主机可根据流量占用情况或CPU内存使用情况等条件动态生成、且费用极为低廉;采样装置可以根据采样策略,按照一定的频率采集云主机负载与运行情况、实时流量等信息,并将采样信息上报至调度模块;调度装置可以负责云主机的注册与注销,同时接收客户端请求,根据调度策略为客户端动态分配流量出口地址,从而通过构建数据传输系统,与传统方法相比,本发明实施例考虑了上游节点软硬件配置、实时流量、实时负载、失败率等综合因素作为实时流量分发的度量基准与依据,既可以独立使用,也可作为方便地嵌入到现有的分发策略中,有效对传统流量分发方式进行优化。
在一种示例中,参照图2,示出了本发明实施例中提供的数据传输系统的结构示意图,多个云主机可以通过NFS(Network File System,网络文件系统)的方式挂载于对象存储,将对象存储挂载为本机目录,以便云主机以普通文件的方式访问对象存储内的文件,或存储对应的文件到对象存储中;云主机可以与控制终端进行通信连接,以便控制终端通过采样装置对云主机进行信息采集,通过调度装置对云主机进行调度分配。此外,客户端可以通过发起数据传输请求,由调度装置根据云主机的状态进行云主机调度分配,并根据分配结果建立与云主机之间的数据通信,实现对对象存储的数据访问。
在客户端进行数据传输之前,云主机可以响应于对象挂载操作,确定与对象挂载操作对应的目标对象存储,并将该目标对象存储挂载为本地目录,以便云主机以普通文件的方式访问对象存储内的文件,或存储对应的文件到对象存储中。其中,对象存储可以包括公有云服务器、私有云服务器等,在对对象存储挂载完毕之后,可以将挂载完毕的云主机生成对应的主机镜像,以便在数据传输过程中可以进行扩容,实现带宽资源的分配。
在具体实现中,挂载于对象存储的云主机,可以在控制终端中进行注册,以便控制终端在数据传输过程中根据云服务对云主机的主机信息进行动态扩容以及带宽分配,从而通过利用云主机的带宽资源提高网络资源的利用率。具体的,位于控制终端的调度装置可以获取云主机发送的注册请求,并对云主机进行注册,以及根据预设采样策略从注册成功的云主机获取主机信息,并将主机信息发送至调度装置。并且,调度装置具有健康检测功能,在注册完成之后,其可以对云主机的状态进行监控,当云主机不可达时,可以自动注销相应的云主机,保证数据传输过程中云主机的有效性,从而提高数据通信的有效性与稳定性。其中,在一种情况下,针对云主机的异常连接,若调度装置检测到云主机连接异常,则对连接异常的云主机进行注销;在另一种情况下,针对云主机的主动注销,云主机响应于关闭指令,向调度装置发送注销请求,由调度装置对与注销请求对应的云主机进行注销,从而通过对云主机的连接状态进行检查,可以保证数据传输过程中云主机的有效性。
可选地,对于调度装置对云主机的健康检测,调度装置可以根据预设的检测方式对云主机的连接状态进行监测,包括获取在预设时长内发生的网络指令传输失败的次数,在预设时长内发生的网络指令传输的延迟时长以及在预设时长内发生接口调用时长等,接着若在预设时长内发生的网络指令传输失败的次数大于或等于第一预设数量阈值,则判定云主机不可达;或,若在预设时长内发生的网络指令传输的延迟时长大于或等于第一预设时间阈值,且发生的次数大于或等于预设阈值,则判定主机不可达;或,在预设时长内连续发生接口调用时长大于或等于第二预设时间阈值的次数大于或等于第二预设数量阈值,则判定云主机不可达,从而位于控制终端的调度装置可以实时对数据传输系统中的云主机进行健康检测,保证数据传输过程中云主机的有效性,从而提高数据通信的有效性与稳定性。
例如,云主机在10秒内发生3次ping失败,则调度装置可以判定该云主机不可达,注销该云主机;云主机在15秒内发生3次ping延迟大于20ms则调度装置可以判定该云主机不可达,注销该云主机;云主机在1分种内发生3次连续的HTTP接口调用超时,则调度装置可以判定该云主机不可达,注销该云主机等等,本发明对此不作限制。
在数据传输的过程中,为了能够灵活地根据云主机的主机状态等进行宽带资源的灵活调度,位于控制终端的采样装置可以根据预设的采样策略对各个云主机的主机信息进行采集,并将所采集的主机信息传输至调度装置,以便调度装置根据主机信息进行宽带资源的分配。可选地,在一些场景中,由于实际数量规模可能非常大,采样装置若是进行全量数据采集、分析,所带来的成本较大,并不是适合实际的数据传输场景,对此,通过配置相应的采样策略对云主机的主机信息进行采集,不仅可以减少数据量的采集,而且可以有效地了解云主机的运行状态。
具体的,采样装置可以按照预设间隔时长对云主机进行主机信息采集,也可以按照预设采集间隔对云主机进行主机信息采集,还可以按照预设间隔时长随机对云主机进行主机信息采集等等,例如,采样装置可以对每个云主机对应的主机信息中,从每100条数据抽取10条数据,也可以每间隔1条抽取1条,还每1分钟随机抽取5条数据等,从而通过对云主机的主机信息进行采集,不仅可以减少数据量的采集,而且可以有效地了解云主机的运行状态。
可选地,对于主机信息,其可以包括主机状态信息、主机硬件信息、主机操作系统信息以及接口调用信息中的一种。其中,主机状态信息可以为云主机实时运行过程中与云主机状态关联的信息,包括带宽使用率、内存占用率、CPU使用率、接口调用信息等等;主机硬件信息可以为云主机硬件关联的信息,包括内存大小、CPU运行频率、运存大小等等;主机操作系统信息可以为云主机运行的操作系统,包括window系统、Linux系统、MacOs系统等等,从而采样装置在采集到对应的主机信息后,可以将主机信息传输至调度装置,以便调度装置根据主机信息进行资源调度。
在数据传输过程中,需要进行数据传输的客户端(其可以为用户终端,也可以为位于用户终端的应用程序等),可以向数据传输系统发送数据传输请求,控制终端的调度装置在接收到数据传输请求之后,可以根据采样装置传输的主机信息,确定与数据传输请求对应的目标云主机,并将目标云主机对应的目标访问地址发送至该客户端,以便客户端通过该目标访问地址向目标云主机发送数据传输请求,由目标云主机与对象存储执行对应的数据传输操作。可选地,调度装置可以根据主机状态信息从各个云主机中选择满足条件的云主机作为目标云主机,也可以根据主机硬件信息从各个云主机中选择满足条件的云主机作为目标云主机,还可以根据主机操作系统信息从各个云主机中选择满足条件的云主机作为目标云主机等,从而通过主机信息可以从云主机中筛选出符合条件的云主机作为客户端当次数据通信的访问对象,动态调整客户端的数据访问对象,可以有效提高云资源的利用效率。
在一种可选实施例中,假设调度装置根据主机状态信息从各个云主机中选择满足条件的云主机作为目标云主机,则调度装置可以从带宽使用率小于预设带宽使用阈值的云主机中择一作为与数据传输请求对应的目标云主机,或将带宽使用率最小的云主机作为与数据传输请求对应的目标云主机,若云主机的带宽使用率均大于预设带宽使用阈值,则创建与对象存储对应的新的云主机,并将新的云主机作为与数据传输请求对应的目标云主机,接着获取目标云主机的公网地址分配给客户端,以便客户端使用调度装置分配的公网地址对目标云主机进行访问,上传数据或下载对应的数据。例如,假设数据传输系统中包括4台云主机,包括云主机①、云主机②、云主机③以及云主机④,在一种情况下,若4台云主机的带宽使用率均小于带宽使用阈值,则可以按照每台云主机的带宽使用率进行排序,并将带宽使用率最小的云主机作为目标云主机;在另一种情况下,若只有云主机①、云主机②的带宽使用率小于带宽使用阈值,则对两者进行排序,并将带宽使用率最小的云主机作为目标云主机;在另一种情况下,若4台云主机的带宽使用率均大于带宽使用阈值,则调度装置可以使用云服务提供的主机接口动态启动新的云主机,并将新的云主机作为目标云主机,或者对已有的云主机进行动态扩容等,从而通过主机信息可以从云主机中筛选出符合条件的云主机作为客户端当次数据通信的访问对象,动态调整客户端的数据访问对象,可以有效提高云资源的利用效率。
在另一种可选实施例中,假设调度装置根据主机状态信息从各个云主机中选择满足条件的云主机作为目标云主机,则调度装置可以从CPU使用率小于预设CPU使用阈值的云主机中择一作为与数据传输请求对应的目标云主机,或将CPU使用率最小的云主机作为与数据传输请求对应的目标云主机,若云主机的CPU使用率均大于预设CPU使用阈值,则创建与对象存储对应的新的云主机,并将新的云主机作为与数据传输请求对应的目标云主机,接着获取目标云主机的公网地址分配给客户端,以便客户端使用调度装置分配的公网地址对目标云主机进行访问,上传数据或下载对应的数据。例如,假设数据传输系统中包括4台云主机,包括云主机①、云主机②、云主机③以及云主机④,在一种情况下,若4台云主机的CPU使用率均小于CPU使用阈值,则可以按照每台云主机的CPU使用率进行排序,并将CPU使用率最小的云主机作为目标云主机;在另一种情况下,若只有云主机①、云主机②的CPU使用率小于CPU使用阈值,则对两者进行排序,并将CPU使用率最小的云主机作为目标云主机;在另一种情况下,若4台云主机的CPU使用率均大于CPU使用阈值,则调度装置可以使用云服务提供的主机接口动态启动新的云主机,并将新的云主机作为目标云主机,或者对已有的云主机进行动态扩容等,从而通过主机信息可以从云主机中筛选出符合条件的云主机作为客户端当次数据通信的访问对象,动态调整客户端的数据访问对象,可以有效提高云资源的利用效率。
在另一种可选实施例中,假设调度装置根据主机硬件信息从各个云主机中选择满足条件的云主机作为目标云主机,则调度装置可以从CPU运行频率小于预设运行频率阈值的云主机中择一作为与数据传输请求对应的目标云主机,或将CPU运行频率最小的云主机作为与数据传输请求对应的目标云主机,若云主机的CPU运行频率均大于预设运行频率阈值,则创建与对象存储对应的新的云主机,并将新的云主机作为与数据传输请求对应的目标云主机,接着获取目标云主机的公网地址分配给客户端,以便客户端使用调度装置分配的公网地址对目标云主机进行访问,上传数据或下载对应的数据。例如,假设数据传输系统中包括4台云主机,包括云主机①、云主机②、云主机③以及云主机④,在一种情况下,若4台云主机的CPU运行频率均小于运行频率阈值,则可以按照每台云主机的CPU运行频率进行排序,并将CPU运行频率最小的云主机作为目标云主机;在另一种情况下,若只有云主机①、云主机②的CPU运行频率小于运行频率阈值,则对两者进行排序,并将CPU运行频率最小的云主机作为目标云主机;在另一种情况下,若4台云主机的CPU运行频率均大于运行频率阈值,则调度装置可以使用云服务提供的主机接口动态启动新的云主机,并将新的云主机作为目标云主机,或者对已有的云主机进行动态扩容等,从而通过主机信息可以从云主机中筛选出符合条件的云主机作为客户端当次数据通信的访问对象,动态调整客户端的数据访问对象,可以有效提高云资源的利用效率。
需要说明的是,调度装置可以根据主机状态信息、主机硬件信息以及主机操作系统信息的单个主机信息进行带宽资源分配,也可以根据至少两者进行带宽资源分配,本发明对此不作限制。
此外,对于客户端的数据传输请求,可以包括数据上传请求以及数据下载请求,当数据传输请求为数据上传请求时,云主机可以在接收数据上传请求的同时,接收客户端上传的与数据上传请求对应的第一目标数据,并将第一目标数据发送至对象存储;当数据传输请求为数据下载请求时,云主机从对象存储中获取与数据下载请求对应的第二目标数据,并将第二目标数据发送至客户端,从而在数据通信过程中,通过采样装置对云主机的主机信息进行监测,并通过调度装置动态为客户端分配对应的访问主机,不仅可以充分地对云主机的宽带资源进行利用,提高了网络资源的利用率,有效降低了数据的传输成本,而且可以保证客户端数据传输的稳定性。
在一种示例中,参照图3,示出了本发明实施例中提供的数据传输的场景示意图,具体的,客户端的数据传输过程可以包括:
步骤1.云主机挂载对象存储。
一般地,使用NFS等方式将对象存储挂载为本机目录,本机以普通文件的方式访问对象存储内的文件。
同时,应将配置完毕的云主机生成主机镜像,便于随时扩容。
步骤2.云主机向调度模块发起注册/注销请求。
云主机启动后应自动向调度模块发起注册请求,关机或停止服务时应向调度模块发起注销请求,可通过agent等方式实现。同时,调度模块应具备健康检查功能,当云主机不可达时,可自动注销相应主机。
步骤3.采样模块向云主机发起数据采样。
采样模块根据采样策略,按照一定频率定时向云主机发起采样请求,采集实时流量、CPU与内存使用情况等信息。
步骤4.采样模块调度模块上报采样信息。
采样模块将从各云主机收集的信息上报至调度模块,调度模块对上报数据进行清洗后结构化存储。
步骤5.对象存储客户端向调度模块发起路由查询请求。
调度模块根据调度策略,根据云主机带宽使用情况等信息将云主机公网地址分配给客户端。
当各云主机流量占用率较高的情况,调度模块可以使用云服务提供的主机API动态启动新主机,或根据配置的策略动态扩容。
步骤6.对象存储客户端使用调度模块分配的公网地址上传或下载数据。
在上述过程中,通过对云主机的主机信息进行监测,并动态为客户端分配对应的访问主机,可以充分地对云主机的宽带资源进行利用,提高了网络资源的利用率,有效降低了数据的传输成本。
需要说明的是,本发明实施例包括但不限于上述示例,可以理解的是,在本发明实施例的思想指导下,本领域技术人员还可以根据实际需求进行设置,本发明对此不作限制。
在本发明实施例中,对于数据传输,可以应用于数据传输系统,该数据传输系统可以包括对象存储、与对象存储对应的至少一个云主机以及与云主机对应的调度装置,在数据传输过程中,调度装置可以响应于客户端发送的数据传输请求,获取各个云主机的主机信息,并根据主机信息确定与数据传输请求对应的目标云主机,通过主机信息可以从云主机中筛选出符合条件的云主机作为客户端当次数据通信的访问对象,动态调整客户端的数据访问对象,可以有效提高云资源的利用效率,在确定了目标云主机之后,可以将目标云主机对应的目标访问地址发送至客户端,以便客户端通过该目标访问地址向目标云主机发其数据传输请求,并由目标云主机根据数据传输请求与对象存储执行对应的数据传输操作,从而通过对云主机的主机信息进行监测,并动态为客户端分配对应的访问主机,可以充分地对云主机的宽带资源进行利用,提高了网络资源的利用率,有效降低了数据的传输成本。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
参照图4,示出了本发明实施例中提供的一种数据的传输系统的结构框图,所述数据传输系统至少包括对象存储401、与所述对象存储401对应的至少一个云主机402以及与所述云主机402对应的调度装置;其中,
所述调度装置,用于响应于客户端发送的数据传输请求,获取各个所述云主机402的主机信息,并根据所述主机信息,确定与所述数据传输请求对应的目标云主机402,并将所述目标云主机402对应的目标访问地址发送至所述客户端;
所述目标云主机402,用于获取所述客户端通过所述目标访问地址发送的所述数据传输请求,并与所述对象存储401执行对应的数据传输操作。
在一种可选实施例中,所述数据传输系统还包括与所述云主机402对应的采样装置;其中,
所述调度装置,用于获取所述云主机402发送的注册请求,并对所述云主机402进行注册;
所述采样装置,用于根据预设采样策略从注册成功的云主机402获取主机信息,并将所述主机信息发送至所述调度装置。
在一种可选实施例中,所述调度装置,用于若检测到云主机402连接异常,则对连接异常的云主机402进行注销;
所述云主机402,用于响应于关闭指令,向所述调度装置发送注销请求,由所述调度装置对与所述注销请求对应的云主机402进行注销。
在一种可选实施例中,所述云主机402,用于响应于对象挂载操作,确定与所述对象挂载操作对应的目标对象存储401,并将将所述目标对象存储401挂载为本地目录。
在一种可选实施例中,所述主机信息包括主机状态信息、主机硬件信息、主机操作系统信息以及接口调用信息中的一种。
在一种可选实施例中,所述主机状态信息包括所述云主机402的带宽使用率;
所述调度装置,用于从带宽使用率小于所述预设带宽使用阈值的云主机402中择一作为与所述数据传输请求对应的目标云主机402,或将带宽使用率最小的云主机402作为与所述数据传输请求对应的目标云主机402;
所述调度装置,用于若所述云主机402的带宽使用率均大于所述预设带宽使用阈值,则创建与所述对象存储401对应的新的云主机402,并将所述新的云主机402作为与所述数据传输请求对应的目标云主机402。
在一种可选实施例中,所述数据传输请求包括数据上传请求以及数据下载请求,所述目标云主机402具体用于:
获取所述客户端通过所述目标访问地址发送的所述书传输请求;
接收所述客户端上传的与所述数据上传请求对应的第一目标数据,并将所述第一目标数据发送至所述对象存储401;
和/或,从所述对象存储401中获取与所述数据下载请求对应的第二目标数据,并将所述第二目标数据发送至所述客户端。
对于系统实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本发明实施例还提供了一种电子设备,包括:
一个或多个处理器;和
其上存储有指令的一个或多个机器可读介质,当由所述一个或多个处理器执行时,使得所述电子设备执行本发明实施例所述的方法。
本发明实施例还提供了一种计算机可读存储介质,其上存储有指令,当由一个或多个处理器执行时,使得所述处理器执行本发明实施例所述的方法。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白,本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此,本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器、EEPROM、Flash以及eMMC等)上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本发明所提供的一种数据的传输方法和一种数据的传输系统,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种数据的传输方法,其特征在于,应用于数据传输系统,所述数据传输系统至少包括对象存储、与所述对象存储对应的至少一个云主机以及与所述云主机对应的调度装置,所述方法包括:
所述调度装置响应于客户端发送的数据传输请求,获取各个所述云主机的主机信息,并根据所述主机信息,确定与所述数据传输请求对应的目标云主机,并将所述目标云主机对应的目标访问地址发送至所述客户端;
所述目标云主机获取所述客户端通过所述目标访问地址发送的所述数据传输请求,并与所述对象存储执行对应的数据传输操作。
2.根据权利要求1所述的方法,其特征在于,所述数据传输系统还包括与所述云主机对应的采样装置,所述方法还包括:
所述调度装置获取所述云主机发送的注册请求,并对所述云主机进行注册;
所述采样装置根据预设采样策略从注册成功的云主机获取主机信息,并将所述主机信息发送至所述调度装置。
3.根据权利要求2所述的方法,其特征在于,还包括:
若调度装置检测到云主机连接异常,则对连接异常的云主机进行注销;
或,所述云主机响应于关闭指令,向所述调度装置发送注销请求,由所述调度装置对与所述注销请求对应的云主机进行注销。
4.根据权利要求1所述的方法,其特征在于,还包括:
所述云主机响应于对象挂载操作,确定与所述对象挂载操作对应的目标对象存储,并将将所述目标对象存储挂载为本地目录。
5.根据权利要求1所述的方法,其特征在于,所述主机信息包括主机状态信息、主机硬件信息、主机操作系统信息以及接口调用信息中的一种。
6.根据权利要求5所述的方法,其特征在于,所述主机状态信息包括所述云主机的带宽使用率,所述根据所述主机信息,确定与所述数据传输请求对应的目标云主机,包括:
从带宽使用率小于所述预设带宽使用阈值的云主机中择一作为与所述数据传输请求对应的目标云主机,或将带宽使用率最小的云主机作为与所述数据传输请求对应的目标云主机;
若所述云主机的带宽使用率均大于所述预设带宽使用阈值,则创建与所述对象存储对应的新的云主机,并将所述新的云主机作为与所述数据传输请求对应的目标云主机。
7.根据权利要求1所述的方法,其特征在于,所述数据传输请求包括数据上传请求以及数据下载请求,所述目标云主机获取所述客户端通过所述目标访问地址发送的所述数据传输请求,并与所述对象存储执行对应的数据传输操作,包括:
所述目标云主机获取所述客户端通过所述目标访问地址发送的所述书传输请求;
所述目标云主机接收所述客户端上传的与所述数据上传请求对应的第一目标数据,并将所述第一目标数据发送至所述对象存储;
和/或,所述目标云主机从所述对象存储中获取与所述数据下载请求对应的第二目标数据,并将所述第二目标数据发送至所述客户端。
8.一种数据的传输系统,其特征在于,所述数据传输系统至少包括对象存储、与所述对象存储对应的至少一个云主机以及与所述云主机对应的调度装置;其中,
所述调度装置,用于响应于客户端发送的数据传输请求,获取各个所述云主机的主机信息,并根据所述主机信息,确定与所述数据传输请求对应的目标云主机,并将所述目标云主机对应的目标访问地址发送至所述客户端;
所述目标云主机,用于获取所述客户端通过所述目标访问地址发送的所述数据传输请求,并与所述对象存储执行对应的数据传输操作。
9.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,所述处理器、所述通信接口以及所述存储器通过所述通信总线完成相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行存储器上所存放的程序时,实现如权利要求1-7任一项所述的方法。
10.一个或多个计算机可读介质,其上存储有指令,当由一个或多个处理器执行时,使得所述处理器执行如权利要求1-7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111583137.0A CN114422599B (zh) | 2021-12-22 | 2021-12-22 | 数据的传输方法、系统、电子设备及可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111583137.0A CN114422599B (zh) | 2021-12-22 | 2021-12-22 | 数据的传输方法、系统、电子设备及可读介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114422599A true CN114422599A (zh) | 2022-04-29 |
CN114422599B CN114422599B (zh) | 2024-04-30 |
Family
ID=81268520
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111583137.0A Active CN114422599B (zh) | 2021-12-22 | 2021-12-22 | 数据的传输方法、系统、电子设备及可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114422599B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115529241A (zh) * | 2022-08-22 | 2022-12-27 | 中国电信股份有限公司 | 一种资源配置方法、装置、电子设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9032081B1 (en) * | 2014-05-29 | 2015-05-12 | Signiant, Inc. | System and method for load balancing cloud-based accelerated transfer servers |
CN109995890A (zh) * | 2019-03-08 | 2019-07-09 | 平安科技(深圳)有限公司 | 一种管理网络地址转换nat网关的方法及服务器 |
CN110389814A (zh) * | 2019-06-28 | 2019-10-29 | 苏州浪潮智能科技有限公司 | 一种云主机迁移调度方法、系统、终端及存储介质 |
CN111385238A (zh) * | 2018-12-27 | 2020-07-07 | 中兴通讯股份有限公司 | 一种数据传输方法及装置 |
CN111401981A (zh) * | 2020-02-19 | 2020-07-10 | 平安科技(深圳)有限公司 | 竞价云主机的竞价方法、装置及存储介质 |
CN113301079A (zh) * | 2020-06-03 | 2021-08-24 | 阿里巴巴集团控股有限公司 | 一种数据的获取方法、系统、计算设备及存储介质 |
-
2021
- 2021-12-22 CN CN202111583137.0A patent/CN114422599B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9032081B1 (en) * | 2014-05-29 | 2015-05-12 | Signiant, Inc. | System and method for load balancing cloud-based accelerated transfer servers |
CN111385238A (zh) * | 2018-12-27 | 2020-07-07 | 中兴通讯股份有限公司 | 一种数据传输方法及装置 |
CN109995890A (zh) * | 2019-03-08 | 2019-07-09 | 平安科技(深圳)有限公司 | 一种管理网络地址转换nat网关的方法及服务器 |
CN110389814A (zh) * | 2019-06-28 | 2019-10-29 | 苏州浪潮智能科技有限公司 | 一种云主机迁移调度方法、系统、终端及存储介质 |
CN111401981A (zh) * | 2020-02-19 | 2020-07-10 | 平安科技(深圳)有限公司 | 竞价云主机的竞价方法、装置及存储介质 |
CN113301079A (zh) * | 2020-06-03 | 2021-08-24 | 阿里巴巴集团控股有限公司 | 一种数据的获取方法、系统、计算设备及存储介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115529241A (zh) * | 2022-08-22 | 2022-12-27 | 中国电信股份有限公司 | 一种资源配置方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114422599B (zh) | 2024-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109951576B (zh) | 用于监视服务的方法、设备和存储介质 | |
CN109274707B (zh) | 一种负载调度方法及装置 | |
US9930111B2 (en) | Techniques for web server management | |
CN106302565B (zh) | 业务服务器的调度方法及系统 | |
CN106452818B (zh) | 一种资源调度的方法和系统 | |
US10785131B2 (en) | Method and system for synchronous and asynchronous monitoring | |
US7523454B2 (en) | Apparatus and method for routing a transaction to a partitioned server | |
CN108205541B (zh) | 分布式网络爬虫任务的调度方法及装置 | |
CN101510167B (zh) | 一种插件运行的方法、装置及系统 | |
JP2018045671A (ja) | クラウドサーバスケジューリング方法及び装置 | |
CN111176803B (zh) | 业务处理方法、装置、服务器及存储介质 | |
WO2016040201A1 (en) | Nonintrusive dynamically-scalable network load generation | |
CN104836819A (zh) | 动态负载均衡的方法、系统及监控调度设备 | |
US11025709B2 (en) | Load processing method and apparatus | |
CN114422599B (zh) | 数据的传输方法、系统、电子设备及可读介质 | |
CN113407340A (zh) | 业务控制系统、网关服务方法、业务请求转发方法及装置 | |
JP5682233B2 (ja) | 解析処理装置、解析処理プログラム、及び解析処理方法 | |
CN115695435A (zh) | 动态调整节点流量的方法、装置、电子设备及存储介质 | |
US20160006635A1 (en) | Monitoring method and monitoring system | |
KR101687625B1 (ko) | 리소스 사용량 미터링 방법 | |
CN112637340B (zh) | 域名解析系统、监测方法、缓存清理方法、设备及介质 | |
KR100814801B1 (ko) | 상용 서버의 데이터 백업 솔루션을 제공하는 방법 및시스템 | |
KR20230100901A (ko) | 엣지 서비스 관리 장치 및 그 제어방법 | |
CN116389597A (zh) | 服务器访问方法、装置、存储介质以及电子设备 | |
WO2024123339A1 (en) | Health check for primary failover |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |