CN112615937A - 数据传输、数据训练方法、服务器、电子设备及存储介质 - Google Patents
数据传输、数据训练方法、服务器、电子设备及存储介质 Download PDFInfo
- Publication number
- CN112615937A CN112615937A CN202011581262.3A CN202011581262A CN112615937A CN 112615937 A CN112615937 A CN 112615937A CN 202011581262 A CN202011581262 A CN 202011581262A CN 112615937 A CN112615937 A CN 112615937A
- Authority
- CN
- China
- Prior art keywords
- training
- data
- server
- ftp
- ftp server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012549 training Methods 0.000 title claims abstract description 358
- 238000000034 method Methods 0.000 title claims abstract description 94
- 230000005540 biological transmission Effects 0.000 title claims abstract description 56
- 230000015654 memory Effects 0.000 claims description 18
- 238000012545 processing Methods 0.000 claims description 11
- 238000012795 verification Methods 0.000 claims description 8
- 230000008569 process Effects 0.000 abstract description 13
- 230000007547 defect Effects 0.000 abstract description 4
- 238000007726 management method Methods 0.000 description 46
- 239000000463 material Substances 0.000 description 11
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000013135 deep learning Methods 0.000 description 6
- 230000009286 beneficial effect Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000003058 natural language processing Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000007723 transport mechanism Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请公开了一种数据传输、数据训练方法、服务器、电子设备及存储介质，涉及计算机技术领域。其中FTP服务器上预存有客户端通过FTP协议发送的训练数据，通过获取训练服务器转发的来自管理平台的训练指令，根据训练指令将训练数据通过FTP协议发送给训练服务器，由训练服务器对训练数据进行训练，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
Description
技术领域
本申请涉及计算机技术领域，尤其是涉及一种数据传输、数据训练方法、服务器、电子设备及存储介质。
背景技术
目前，深度学习作为机器学习的一个分支，近年来不断得到发展并且当前已经被广泛用于不同领域和实现中。深度学习模型可以被设计用于实现各种各样的任务，包括计算机视觉处理、语音识别、自然语言处理等。这样的任务有时可能是各种终端，诸如移动电话、物联网应用中期望执行的任务。
但是深度学习训练往往需要大量的训练素材，通过传统的数据上传方式耗时较长，并且传输过程不稳定，并且训练素材往往存储在训练端，造成训练端的存储空间的不足。
发明内容
本申请旨在至少解决现有技术中存在的技术问题之一。为此，本申请提出一种应用于FTP服务器的数据传输方法，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
本申请还提出另一种应用于训练服务器的数据训练方法。
本申请还提出一种用于执行上述数据传输方法的FTP服务器。
本申请还提出一种用于执行上述数据训练方法的悬链服务器。
本申请还提出一种用于执行上述数据传输方法和数据训练方法的电子设备。
本申请还提出一种用于执行上述数据传输方法和数据训练方法的计算机可读存储介质。
根据本申请的第一方面实施例的数据传输方法，应用于FTP服务器，所述FTP服务器预存有客户端通过FTP协议发送的训练数据，包括：获取训练服务器转发的来自管理平台的训练指令；根据所述训练指令将所述训练数据通过FTP协议发送给所述训练服务器，以使所述训练服务器对所述训练数据进行训练。
根据本申请实施例的数据传输方法，至少具有如下有益效果：应用于FTP服务器,FTP服务器上预存有客户端通过FTP协议发送的训练数据，通过获取训练服务器转发的来自管理平台的训练指令，根据训练指令将训练数据通过FTP协议发送给训练服务器，由训练服务器对训练数据进行训练，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
根据本申请的一些实施例，还包括：获取所述客户端的身份标识；将所述身份标识发送给所述管理平台，由所述管理平台对所述身份标识的正确性进行身份校验；获取所述管理平台发送的认证结果，所述认证结果表示所述身份校验正确；根据所述认证结果与所述客户端进行数据传输。
根据本申请的一些实施例，所述训练指令包括多个，所述方法还包括：获取所述训练服务器转发的来自管理平台的多个训练指令；对所述训练指令进行队列处理。
根据本申请的一些实施例，还包括：根据所述客户端的身份标识创建对应的存储数据库；将所述客户端的训练数据存储在对应的存储数据库中。
根据本申请的第二方面实施例的数据训练方法，将来自管理平台的训练指令转发给FTP服务器；获取所述FTP服务器根据所述训练指令发送的训练数据，所述训练数据由所述FTP服务器通过FTP协议发送，所述训练数据由客户端通过FTP协议发送给所述FTP服务器并预存在所述FTP服务器；对所述训练数据进行训练。
根据本申请实施例的数据训练方法，至少具有如下有益效果：将来自管理平台的训练指令转发给FTP服务器，获取FTP服务器根据训练指令发送的训练数据，该训练数据由FTP服务器通过FTP协议发送，由客户端通过FTP协议发送给FTP服务器并预存在FTP服务器中，对训练数据进行训练，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
根据本申请的一些实施例，所述训练指令包括多个，所述方法还包括：将来自管理平台的多个训练指令转发给所述FTP服务器，由所述FTP服务器对所述训练指令进行队列处理。
根据本申请的第三方面实施例的FTP服务器，包括：
数据模块，所述数据模块用于预存有客户端通过FTP协议发送的训练数据；
第一获取模块，所述第一获取模块用于获取训练服务器转发的来自管理平台的训练指令；
发送模块，所述发送模块用于根据所述训练指令将所述训练数据通过FTP协议发送给所述训练服务器，以使所述训练服务器对所述训练数据进行训练。
根据本申请实施例的FTP服务器，至少具有如下有益效果：通过数据模块预存有客户端通过FTP协议发送的训练数据，通过第一获取模块获取训练服务器转发的来自管理平台的训练指令，发送模块根据训练指令将训练数据通过FTP协议发送给训练服务器，由训练服务器对训练数据进行训练，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
根据本申请的第四方面实施例的训练服务器，包括：
转发模块，所述转发模块用于将来自管理平台的训练指令转发给FTP服务器；
第二获取模块，所述第二获取模块用于获取所述FTP服务器根据所述训练指令发送的训练数据，所述训练数据由所述FTP服务器通过FTP协议发送，所述训练数据由客户端通过FTP协议发送给所述FTP服务器并预存在所述FTP服务器；
训练模块，所述训练模块用于对所述训练数据进行训练。
根据本申请实施例的训练服务器，至少具有如下有益效果：通过转发模块将来自管理平台的训练指令转发给FTP服务器，第二获取模块获取FTP服务器根据训练指令发送的训练数据，该训练数据由FTP服务器通过FTP协议发送，由客户端通过FTP协议发送给FTP服务器并预存在FTP服务器中，训练模块对训练数据进行训练，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
根据本申请的第五方面实施例的电子设备，包括：至少一个处理器，以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器执行所述指令时实现如第一方面所述的的数据传输方法和第二方面所述的的数据训练方法。
根据本申请的电子设备，至少具有如下有益效果：通过执行第一方面实施例中提到的数据传输方法和第二方面实施例中提到的数据训练方法，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
根据本申请的第六方面实施例的计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行如第一方面所述的的数据传输方法和第二方面所述的的数据训练方法。
根据本申请的计算机可读存储介质，至少具有如下有益效果：通过执行第一方面实施例中提到的数据传输方法和第二方面实施例中提到的数据训练方法，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
本申请的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。
附图说明
图1为本申请实施例中的基于FTP协议的系统模块图；
图2为本申请实施例中的FTP服务器的具体应用实例图；
图3为本申请中的数据传输方法的第一实施例的具体流程示意图；
图4为本申请中的数据传输方法的第二实施例的具体流程示意图；
图5为本申请中的数据传输方法的第三实施例的具体流程示意图；
图6为本申请中的数据训练方法的一实施例的具体流程示意图；
图7为本申请中的FTP服务器的一具体模块示意图；
图8为本申请中的训练服务器的一具体模块示意图。
附图标记：
FTP服务器100、容器110、物理设备120、数据模块130、第一获取模块140、发送模块150；训练服务器200、转发模块210、第二获取模块220、训练模块230；管理平台300；客户端400。
具体实施方式
下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，仅用于解释本申请，而不能理解为对本申请的限制。
需要说明的是，在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同流程图中的顺序执行所示出或描述的步骤。如果涉及到“若干”，其含义是一个以上，如果涉及到“多个”，其含义是两个以上。如果有描述到第一、第二只是用于区分技术特征为目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量或者隐含指明所指示的技术特征的先后关系。
需要说明的是，如无特殊说明，在实施例中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。此外，除非另有定义，本文所使用的所有的技术和科学术语与本技术领域的技术人员通常理解的含义相同。本文说明书中所使用的术语只是为了描述具体的实施例，而不是为了限制本申请。本文所使用的术语“和/或”包括一个或多个相关的所列项目的任意的组合。
目前，深度学习作为机器学习的一个分支，近年来不断得到发展并且当前已经被广泛用于不同领域和实现中。深度学习模型可以被设计用于实现各种各样的任务，包括计算机视觉处理、语音识别、自然语言处理等。这样的任务有时可能是各种终端，诸如移动电话、物联网应用中期望执行的任务。
深度学习训练往往需要大量的训练素材，通过传统的数据上传方式耗时较长，并且传输过程不稳定，并且训练素材往往存储在训练端，造成训练端的存储空间的不足。
基于此，本申请实施例中提供了一种数据传输、数据训练方法、服务器、电子设备及存储介质，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
需要说明的是，本申请实施例中提到的FTP(File Transfer Protocol，文件传输协议)，是一种基于TCP的协议，采用客户/服务器模式。通过FTP协议，用户可以在FTP服务器中进行文件的上传或下载等操作。FTP协议可以很好地控制用户数量和宽带的分配，快速方便地上传、下载文件，因此FTP服务器已成为网络中文件上传和下载的首选服务器。同时，它也是一个应用程序，用户可以通过它把自己的计算机与世界各地所有运行FTP协议的服务器相连，访问服务器上的大量程序和信息。
FTP服务的功能是实现完整文件的异地传输。特点如下：
(一)FTP使用两个平行连接：控制连接和数据连接。控制连接在两主机间传送控制命令，如用户身份、口令、改变目录命令等，数据连接只用于传送数据。
(二)在一个会话期间，FTP服务器必须维持用户状态，即和某一个用户的控制连接不能断开。另外，当用户在文件的目录树中活动时，服务器必须追踪用户的当前目录，这样，FTP就限制了并发用户数量。
(三)FTP支持文件沿任意方向传输。当用户与远程计算机建立连接后，用户可以获得一个远程文件也可以将本地文件传输至远程计算机。
基于此，本申请实施例中基于FTP协议构建如图1所示的系统架构，包括：FTP服务器100、训练服务器200、管理平台300和客户端400。其中，FTP服务器100分别与客户端400、管理平台300和训练服务器200通过FTP协议进行连接，即通过控制连接和数据连接，两个平行连接进行通信连接。
第一方面，本申请实施例中提供了一种应用于FTP服务器100的数据传输方法。本申请实施例中提到的FTP服务器100是通过容器化技术构建的，如图2所示，将FTP服务和FTP服务的依赖环境共同部署到容器110中，最底层为物理设备120，在物理设备120上部署该容器110。当需要重新部署时，仅需将容器110部署到新的物理设备120即服务器上即可得到新的FTP服务器100，从而实现资源环境的分离与快速部署，无需重新安装FTP服务及相关依赖环境。
在一些实施例中，参照图3，示出了本申请实施例中数据传输方法的流程示意图。其具体包括步骤：
S110，获取训练服务器转发的来自管理平台300的训练指令；
S120，根据训练指令将训练数据通过FTP协议发送给训练服务器，以使训练服务器对训练数据进行训练。
在申请实施例中，FTP服务器100预存有客户端400通过FTP协议发送的训练数据，该训练数据为后续训练服务器200进行训练所需要的训练素材。在实际应用中用户登录客户端400后，通过客户端400将训练文件，例如多个训练图像等通过FTP协议发送给FTP服务器100，FTP服务器100接收到训练文件后，将其保存在FTP服务器100下。
在一些实施例中，参考图4，FTP在执行步骤S110之前，具体还包括步骤：
S101，获取客户端的身份标识；
S102，将身份标识发送给管理平台，由管理平台对身份标识的正确性进行身份校验；
S103，获取管理平台发送的认证结果，认证结果表示身份校验正确；
S104，根据认证结果与客户端进行数据传输。
在步骤S101中，当用户登录客户端400时，会产生相应的用户的身份标识，具体地说，身份标识为用户登录客户端400的登录信息，例如用户的用户名和登录密码等标识信息，将身份标识发送至FTP服务器100，以使FTP服务器100进行获取。
在步骤S102中，FTP服务器100接收到身份标识后，会将身份标识发送到管理平台300，由管理平台300对身份标识的正确性进行校验。具体地说，将身份标识以FTP协议的数据连接方式发送到管理平台300，管理平台300接收到身份标识后，可以人工进行校验，也可以通过计算机程序进行校验，校验其正确性，例如用户名和登录密码是否正确，该身份标识所对应的用户是否属于合法用户，即管理平台300所认证的用户。
在步骤S103中，当管理平台300对身份标识的正确性进行校验，并确定该身份标识正确，即该用户属于合法用户，则将校验的认证结果发送给FTP服务器100。
在步骤S104中，当FTP服务器100接收到管理平台300下发的认证结果后，即可得知该身份标识正确，允许客户端400与其进行数据传输及控制。具体地说，客户端400可以将训练数据传输至FTP服务器100，以及在客户端400对FTP服务器100进行相关控制例如训练文件的增删查改等操作。
在一些实施例中，参考图5，本申请实施例具体还包括步骤：
S105，根据客户端的身份标识创建对应的存储数据库；
S106，将客户端的训练数据存储在对应的存储数据库中。
在步骤S105和步骤S106中，FTP服务器100根据客户端400接收到的身份标识，根据不同的身份标识创建对应的存储数据库，可以将来自客户端400的训练数据存储在对应的存储数据库。在实际应用中，存储数据库是以用户为维度所创建的存储空间，例如存储文件夹，客户端400处的每个用户都由独立的存储文件夹，并且只有当前登录的用户可以进行访问，无法访问到其他登录用户的存储文件夹，并且无法对其进行操作，从而达到访问权限隔离的效果，通过以用户维度的权限管理，可以有效地进行资源隔离和训练数据的安全性。
在步骤S110中，当客户端400与FTP服务器100完成身份认证即步骤S101至步骤S104后，用户可以在管理平台300上确定需要进行训练的训练素材即训练数据，生成对应的训练指令，该训练指令下发到训练服务器200上，训练服务器200将其转发至FTP服务器100，以使FTP服务器100获取到该训练指令。
需要说明的，本申请实施例中的管理平台300为深度学习平台，该平台可以确定需要进行训练的训练素材，从而下发训练指令给训练服务器200；训练服务器200为实际对训练文件进行训练的服务器；训练指令则是管理平台300下发的指令，用于告知训练服务器200具体需要训练的训练文件，以及告知FTP服务器100需要下发给训练服务器200的训练素材。
在步骤S120中，FTP服务器100接收到训练指令后，根据训练指令确定管理平台300所需要的训练数据，将需要的训练数据通过FTP协议发送给训练服务器200，训练服务器200接收到训练数据后，即可对训练数据进行训练。
在一些实施例中，当管理平台300需要进行多个训练需求时，会产生相应的多个训练指令，将多个训练指令下发给训练服务器200确定需要进行多个训练需求，训练服务器200将多个训练指令转发给FTP服务器100，FTP服务器100接收到多个训练指令后，会对多个训练指令进行队列处理。其中队列处理是指按接收到的多个训练指令的前后顺序，对多个训练指令逐一进行处理，即FTP服务器100根据一个个训练指令逐一并顺序下发训练数据到训练服务器200，由训练服务器200对训练数据逐一进行训练，从而避免并发训练过多时导致FTP服务器100性能下降的问题。
在本申请实施例中，通过获取训练服务器200转发的来自管理平台300的训练指令，根据训练指令将训练数据通过FTP协议发送给训练服务器200，由训练服务器200对训练数据进行训练，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
第二方面，本申请实施例中提供了一种应用于训练服务器200的数据训练方法。
在一些实施例中，参照图6，示出了本申请实施例中数据训练方法的流程示意图。其具体包括步骤：
S210，将来自管理平台的训练指令转发给FTP服务器；
S220，获取FTP服务器根据训练指令发送的训练数据；
S230，对训练数据进行训练。
在步骤S210中，用户可以在管理平台300上确定需要进行训练的训练素材即训练数据文件，生成对应的训练指令，该训练指令下发到训练服务器200上，训练服务器200将其转发至FTP服务器100，以使FTP服务器100获取到该训练指令。
需要说明的，本申请实施例中的管理平台300为深度学习平台，该平台可以确定需要进行训练的训练素材，从而下发训练指令给训练服务器200；训练服务器200为实际对训练文件进行训练的服务器；训练指令则是管理平台300下发的指令，用于告知训练服务器200具体需要训练的训练文件，以及告知FTP服务器100需要下发给训练服务器200的训练素材。
在步骤S210中，训练服务器200将训练指令转发给FTP服务器100后，FTP服务器100接收到训练指令后，根据训练指令确定管理平台300所需要的训练数据，将需要的训练数据通过FTP协议发送给训练服务器200，训练服务器200接收到训练数据后，即可对训练数据进行训练。其中训练数据是由客户端400通过FTP协议发送给FTP服务器100并预存在FTP服务器100的。在一些实施例中，当管理平台300需要进行多个训练需求时，会产生相应的多个训练指令，将多个训练指令下发给训练服务器200确定需要进行多个训练需求，训练服务器200将多个训练指令转发给FTP服务器100，FTP服务器100接收到多个训练指令后，会对多个训练指令进行队列处理。其中队列处理是指按接收到的多个训练指令的前后顺序，对多个训练指令逐一进行处理，即FTP服务器100根据一个个训练指令逐一并顺序下发训练数据到训练服务器200，由训练服务器200对训练数据逐一进行训练，从而避免并发训练过多时导致FTP服务器100性能下降的问题。
在本申请实施例中，将来自管理平台300的训练指令转发给FTP服务器100，获取FTP服务器100根据训练指令发送的训练数据，该训练数据由FTP服务器100通过FTP协议发送，由客户端400通过FTP协议发送给FTP服务器100并预存在FTP服务器100中，对训练数据进行训练，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。第三方面，本申请实施例中提供了一种用于执行第一方面实施例中提到的数据传输方法的FTP服务器100。
在一些实施例中，参照图7，示出了本申请实施例中FTP服务器100的模块示意图。其具体包括：数据模块130、第一获取模块140和发送模块150；
其中，数据模块130用于预存有客户端400通过FTP协议发送的训练数据；
第一获取模块140用于获取训练服务器200转发的来自管理平台300的训练指令；
发送模块150用于根据训练指令将训练数据通过FTP协议发送给训练服务器200，以使训练服务器200对训练数据进行训练。
需要说明的是，本申请实施例中提到的FTP各个功能模块的功能介绍及描述已在第一方面实施例中提到的数据传输方法中详细描述，故不再赘述。
在本申请实施例中，通过数据模块130预存有客户端400通过FTP协议发送的训练数据，通过第一获取模块140获取训练服务器200转发的来自管理平台300的训练指令，发送模块150根据训练指令将训练数据通过FTP协议发送给训练服务器200，由训练服务器200对训练数据进行训练，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
第四方面，本申请实施例中提供了一种用于执行第二方面实施例中提到的数据训练方法的训练服务器200。
在一些实施例中，参照图8，示出了本申请实施例中训练服务器200的模块示意图。其具体包括：转发模块210、第二获取模块220和训练模块230；
其中，转发模块210用于将来自管理平台300的训练指令转发给FTP服务器100；
第二获取模块220用于获取FTP服务器100根据训练指令发送的训练数据，训练数据由FTP服务器100通过FTP协议发送，训练数据由客户端400通过FTP协议发送给FTP服务器100并预存在FTP服务器100；
训练模块230用于对训练数据进行训练。需要说明的是，本申请实施例中提到的FTP各个功能模块的功能介绍及描述已在第一方面实施例中提到的数据训练方法中详细描述，故不再赘述。
在本申请实施例中，通过转发模块210将来自管理平台300的训练指令转发给FTP服务器100，第二获取模块220获取FTP服务器100根据训练指令发送的训练数据，该训练数据由FTP服务器100通过FTP协议发送，由客户端400通过FTP协议发送给FTP服务器100并预存在FTP服务器100中，训练模块230对训练数据进行训练，能够减少训练数据在上传过程中的耗时以及保证数据传输过程中的稳定性，并且避免了训练端存储空间的不足。
第五方面，本申请实施例还提供了一种电子设备，包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器；
其中，所述处理器通过调用所述存储器中存储的计算机程序，用于执行第一方面实施例中的数据传输方法或第二方面实施例中的数据训练方法。
存储器作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序以及非暂态性计算机可执行程序，如本申请第一方面实施例中的数据传输方法或第二方面实施例中的数据训练方法。处理器通过运行存储在存储器中的非暂态软件程序以及指令，从而实现上述第一方面实施例中的数据传输方法或第二方面实施例中的数据训练方法。
存储器可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储执行上述第一方面实施例中的数据传输方法或第二方面实施例中的数据训练方法。此外，存储器可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中，存储器可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至该终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
实现上述第一方面实施例中的数据传输方法或第二方面实施例中的数据训练方法所需的非暂态软件程序以及指令存储在存储器中，当被一个或者多个处理器执行时，执行上述第一方面实施例中的数据传输方法或第二方面实施例中的数据训练方法。
第六方面，本申请实施例还提供了计算机可读存储介质，存储有计算机可执行指令，所述计算机可执行指令用于：执行第一方面实施例中的数据传输方法或第二方面实施例中的数据训练方法；
在一些实施例中，该计算机可读存储介质存储有计算机可执行指令，该计算机可执行指令被一个或多个控制处理器执行，例如，被第五方面实施例的电子设备中的一个处理器执行，可使得上述一个或多个处理器执行上述第一方面实施例中的数据传输方法或第二方面实施例中的数据训练方法。
以上所描述的设备实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器，如中央处理器、数字信号处理器或微处理器执行的软件，或者被实施为硬件，或者被实施为集成电路，如专用集成电路。这样的软件可以分布在计算机可读介质上，计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的，术语计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外，本领域普通技术人员公知的是，通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据，并且可包括任何信息递送介质。
在本说明书的描述中，参考术语“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。
Claims (10)
1.数据传输方法，其特征在于，应用于FTP服务器，所述FTP服务器预存有客户端通过FTP协议发送的训练数据，包括：
获取训练服务器转发的来自管理平台的训练指令；
根据所述训练指令将所述训练数据通过FTP协议发送给所述训练服务器，以使所述训练服务器对所述训练数据进行训练。
2.根据权利要求1所述的数据传输方法，其特征在于，所述方法还包括：
获取所述客户端的身份标识；
将所述身份标识发送给所述管理平台，由所述管理平台对所述身份标识的正确性进行身份校验；
获取所述管理平台发送的认证结果，所述认证结果表示所述身份校验正确；
根据所述认证结果与所述客户端进行数据传输。
3.根据权利要求2所述的数据传输方法，其特征在于，所述训练指令包括多个，所述方法还包括：
获取所述训练服务器转发的来自管理平台的多个训练指令；
对所述训练指令进行队列处理。
4.根据权利要求3所述的数据传输方法，其特征在于，还包括：
根据所述客户端的身份标识创建对应的存储数据库；
将所述客户端的训练数据存储在对应的存储数据库中。
5.数据训练方法，其特征在于，包括：
将来自管理平台的训练指令转发给FTP服务器；
获取所述FTP服务器根据所述训练指令发送的训练数据，所述训练数据由所述FTP服务器通过FTP协议发送，所述训练数据由客户端通过FTP协议发送给所述FTP服务器并预存在所述FTP服务器；
对所述训练数据进行训练。
6.根据权利要求5所述的数据训练方法，其特征在于，所述训练指令包括多个，所述方法还包括：
将来自管理平台的多个训练指令转发给所述FTP服务器，由所述FTP服务器对所述训练指令进行队列处理。
7.FTP服务器，其特征在于，包括：
数据模块，所述数据模块用于预存有客户端通过FTP协议发送的训练数据；
第一获取模块，所述第一获取模块用于获取训练服务器转发的来自管理平台的训练指令；
发送模块，所述发送模块用于根据所述训练指令将所述训练数据通过FTP协议发送给所述训练服务器，以使所述训练服务器对所述训练数据进行训练。
8.训练服务器，其特征在于，包括：
转发模块，所述转发模块用于将来自管理平台的训练指令转发给FTP服务器；
第二获取模块，所述第二获取模块用于获取所述FTP服务器根据所述训练指令发送的训练数据，所述训练数据由所述FTP服务器通过FTP协议发送，所述训练数据由客户端通过FTP协议发送给所述FTP服务器并预存在所述FTP服务器；
训练模块，所述训练模块用于对所述训练数据进行训练。
9.电子设备，其特征在于，包括：
至少一个处理器，以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器执行所述指令时实现如
权利要求1至4任一项所述的数据传输方法，
或，
权利要求5或6任一所述的数据训练方法。
10.计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行
权利要求1至4任一项所述的数据传输方法，
或，
权利要求5或6任一所述的数据训练方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011581262.3A CN112615937A (zh) | 2020-12-28 | 2020-12-28 | 数据传输、数据训练方法、服务器、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011581262.3A CN112615937A (zh) | 2020-12-28 | 2020-12-28 | 数据传输、数据训练方法、服务器、电子设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112615937A true CN112615937A (zh) | 2021-04-06 |
Family
ID=75248323
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011581262.3A Pending CN112615937A (zh) | 2020-12-28 | 2020-12-28 | 数据传输、数据训练方法、服务器、电子设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112615937A (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180300653A1 (en) * | 2017-04-18 | 2018-10-18 | Distributed Systems, Inc. | Distributed Machine Learning System |
| CN109165191A (zh) * | 2018-09-12 | 2019-01-08 | 郑州云海信息技术有限公司 | 一种基于ai云的容器卷数据上传方法和装置 |
| CN110533181A (zh) * | 2019-07-25 | 2019-12-03 | 深圳市康拓普信息技术有限公司 | 一种深度学习模型的快速训练方法及系统 |
| CN110929880A (zh) * | 2019-11-12 | 2020-03-27 | 深圳前海微众银行股份有限公司 | 一种联邦学习方法、装置及计算机可读存储介质 |
| CN111753997A (zh) * | 2020-06-28 | 2020-10-09 | 北京百度网讯科技有限公司 | 分布式训练方法、系统、设备及存储介质 |
| CN111901377A (zh) * | 2020-06-28 | 2020-11-06 | 苏州浪潮智能科技有限公司 | 一种基于ai训练平台的文件传输方法、装置、设备和介质 |
-
2020
- 2020-12-28 CN CN202011581262.3A patent/CN112615937A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180300653A1 (en) * | 2017-04-18 | 2018-10-18 | Distributed Systems, Inc. | Distributed Machine Learning System |
| CN109165191A (zh) * | 2018-09-12 | 2019-01-08 | 郑州云海信息技术有限公司 | 一种基于ai云的容器卷数据上传方法和装置 |
| CN110533181A (zh) * | 2019-07-25 | 2019-12-03 | 深圳市康拓普信息技术有限公司 | 一种深度学习模型的快速训练方法及系统 |
| CN110929880A (zh) * | 2019-11-12 | 2020-03-27 | 深圳前海微众银行股份有限公司 | 一种联邦学习方法、装置及计算机可读存储介质 |
| CN111753997A (zh) * | 2020-06-28 | 2020-10-09 | 北京百度网讯科技有限公司 | 分布式训练方法、系统、设备及存储介质 |
| CN111901377A (zh) * | 2020-06-28 | 2020-11-06 | 苏州浪潮智能科技有限公司 | 一种基于ai训练平台的文件传输方法、装置、设备和介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9300733B2 (en) | System and/or method for client-driven server load distribution | |
| EP3547748B1 (en) | Method and system for guiding service application traffic | |
| CN111526201B (zh) | 一种机器人管理方法、系统及边缘服务器 | |
| CN104092715A (zh) | 一种同步应用程序的方法、服务器及系统 | |
| CN104980514A (zh) | 一种无线音箱的远程播放控制方法及装置 | |
| CN102571941B (zh) | 云端点对点数据传输方法及系统 | |
| CN113037761B (zh) | 登录请求的验证方法及装置、存储介质、电子设备 | |
| CN113179328A (zh) | 一种用于pcdn网络的资源分发方法及系统 | |
| CN103685332A (zh) | 文件上传方法、客户端、服务器及系统 | |
| CN111464653B (zh) | 车载设备互联的方法、系统及装置 | |
| US8650313B2 (en) | Endpoint discriminator in network transport protocol startup packets | |
| US8443057B1 (en) | System, method, and/or apparatus for establishing peer-to-peer communication | |
| CN113079207A (zh) | 一种实现端口或网络高可用的方法、系统、终端及介质 | |
| CN113572864A (zh) | 一种数据处理方法、网元设备以及可读存储介质 | |
| CN108600378A (zh) | 一种文件下载方法、装置、终端和存储介质 | |
| CN111245791B (zh) | 一种通过反向代理实现管理和it服务的单点登录方法 | |
| CN112615937A (zh) | 数据传输、数据训练方法、服务器、电子设备及存储介质 | |
| CN109429225A (zh) | 消息接收、发送方法及装置、终端、网络功能实体 | |
| CN115277001B (zh) | 一种共建共享网络的证书分发方法、装置、系统及介质 | |
| CN110582090A (zh) | 一种cdn调度方法、调度系统和mec网元 | |
| CN111669364B (zh) | 一种数据传输的方法、装置、电子设备及介质 | |
| CN108494748A (zh) | 一种通信方法、装置及存储介质 | |
| CN103491026A (zh) | 路由终端入网方法、装置及系统 | |
| JP2005222200A (ja) | プログラム管理方法及び実施システム並びに処理プログラム | |
| CN118175464B (zh) | Fttr网关升级方法、网关设备、系统及计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210406 |