CN114936637A - 神经网络训练方法及装置 - Google Patents
神经网络训练方法及装置 Download PDFInfo
- Publication number
- CN114936637A CN114936637A CN202210547067.1A CN202210547067A CN114936637A CN 114936637 A CN114936637 A CN 114936637A CN 202210547067 A CN202210547067 A CN 202210547067A CN 114936637 A CN114936637 A CN 114936637A
- Authority
- CN
- China
- Prior art keywords
- neural network
- target
- training
- data
- sample data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 299
- 238000012549 training Methods 0.000 title claims abstract description 187
- 238000000034 method Methods 0.000 title claims abstract description 98
- 238000002372 labelling Methods 0.000 claims abstract description 64
- 238000012545 processing Methods 0.000 claims abstract description 35
- 238000012015 optical character recognition Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 11
- 238000012795 verification Methods 0.000 claims description 10
- 239000011159 matrix material Substances 0.000 claims description 6
- 238000005457 optimization Methods 0.000 claims description 5
- 230000004044 response Effects 0.000 claims description 5
- 230000008569 process Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 7
- 230000001960 triggered effect Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 230000003213 activating effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Rehabilitation Tools (AREA)
Abstract
本公开提供了一种神经网络训练方法及装置，应用于神经网络自训练平台，包括：响应数据上传指令，获取与目标场景匹配的样本数据；响应数据标注指令，确定各样本数据对应的标注信息；响应网络训练指令，基于预先集成在所述平台的、与所述目标场景匹配的目标类型的初始神经网络，对所述样本数据进行处理，并基于所述标注数据对所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
Description
技术领域
本公开涉及神经网络技术领域，具体而言，涉及一种神经网络训练方法及装置。
背景技术
随着计算机视觉技术的发展，各种各样的神经网络逐渐应用在各行各业中。神经网络在应用上主要分为网络训练和网络推理两个场景，在网络训练的过程中主要包括数据标注、网络训练、网络验证等过程，在对神经网络进行训练时，一般对人员在相关领域的知识要求比较高。因此，在训练适应不同场景的神经网络时，需要借助于专业人员，比较繁琐。
发明内容
本公开实施例至少提供一种神经网络训练方法及装置。
第一方面，本公开实施例提供了一种神经网络训练方法，应用于神经网络自训练平台，包括：
响应数据上传指令，获取与目标场景匹配的样本数据；
响应数据标注指令，确定各样本数据对应的标注信息；
响应网络训练指令，基于预先集成在所述平台的、与所述目标场景匹配的目标类型的初始神经网络，对所述样本数据进行处理，并基于所述标注数据对所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
上述方法中，在接收到用户上传的样本数据之后，可以响应数据标注指令，确定各样本数据对应的标注信息，并在接收到网络训练指令之后，可以自动对平台集成的初始神经网络进行训练。通过本公开所提供的神经网络自训练平台，用户可以通过输入网络训练指令就可以实现对于初始神经网络的自动训练，且由于上传的样本数据是与目标场景匹配的样本数据，因此，训练出的目标神经网络也是与目标场景匹配的神经网络，提高了在目标场景下的数据处理精度；进一步的由于该平台集成了初始神经网络以及初始神经网络对应的训练方法，因此可以实现对于神经网络的一键式训练，操作较为简单。
一种可能的实施方式中，在获取与所述目标场景匹配的样本数据之后，所述方法还包括：
获取所述样本数据的质量分数；
展示质量分数超过预设分数的目标样本数据；
所述响应数据标注指令，确定各样本数据对应的标注信息，包括：
响应数据标注指令，得到所述目标样本数据对应的标注信息。
通过这种方法，可以基于质量分数先对样本数据进行筛选，然后基于筛选出的质量较高的样本数据对初始神经网络进行训练时，训练得到的目标神经网络的网络精度较高。
一种可能的实施方式中，在确定各样本数据对应的标注信息之后，所述方法还包括：
响应神经网络选择指令，基于所述神经网络选择指令携带的目标类型，确定所述初始神经网络；或者，
对所述样本数据进行识别，并从所述平台集成的多个神经网络中，确定与所述目标场景和识别结果匹配的目标类型的初始神经网络。
通过这种实施方式，用户可以手动选择初始神经网络，或者可以自动匹配初始神经网络，丰富了初始神经网络的选择方法。
一种可能的实施方式中，所述基于所述标注数据对所述初始神经网络进行训练，包括：
确定与所述初始神经网络对应的目标训练方法；
基于所述标注数据和所述目标训练方法对所述初始神经网络进行训练。
所述自训练平台除了集成多个神经网络外，还可以集成各神经网络分别对应的训练方法，由此可以实现对于神经网络的自动训练。
一种可能的实施方式中，所述方法还包括：
展示所述初始神经网络的训练状态和训练结果；
在所述训练状态为已完成的情况下，将训练结果满足预设条件的初始神经网络确定为所述目标神经网络。
通过展示训练状态和训练结果，可以使得用户对训练进度有所把控，并可以根据需要选择是否采用训练后的目标神经网络，提高了神经网络训练过程中的可视化程度。
一种可能的实施方式中，所述方法还包括：
在所述训练状态为已完成的情况下，响应优化指令，向目标用户端发送训练后的所述初始神经网络、所述样本数据和所述样本数据的标注信息，以使所述目标用户端对训练后的所述初始神经网络进行更新；
接收所述目标用户端发送的更新后的所述初始神经网络；
响应再训练指令，对更新后的所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
通过这种方法，开发人员可以通过目标用户端对平台集成的神经网络进行更新，满足了不同用户对于神经网络的需求。
一种可能的实施方式中，在基于所述标注数据对所述初始神经网网络进行训练之后，所述方法还包括：
响应发布指令，向所述平台对应的服务器发送训练后的所述目标神经网络；
响应网络验证指令，获取待验证数据；
基于所述目标神经网络对所述待验证数据进行处理，展示所述待验证数据对应的处理结果，所述处理结果用于对所述目标神经网络进行验证。
通过这种方法，可以对获得的目标神经网络进行验证，避免所述目标神经网络在进行部署之后，由于精度影响所造成的无效部署。
一种可能的实施方式中，所述方法还包括：
响应针对所述目标神经网络的导出指令，生成所述目标神经网络对应的软件开发工具包SDK，其中，所述SDK中包含所述目标神经网络的实现代码，用于将所述目标神经网络部署在其他用户端。
通过这种方法，可以实现在任一用户端上部署所述目标神经网络，灵活度较高。
一种可能的实施方式中，所述目标类型至少包括点状体光学字符识别和印刷体光学字符识别中的任意一种；
所述样本数据包括样本图像，所述样本数据对应的标注信息用于标注所述样本图像中的文本。
第二方面，本公开实施例还提供一种目标场景的神经网络训练装置，应用于神经网络自训练平台，包括：
数据获取模块，用于响应数据上传指令，获取与目标场景匹配的样本数据；
数据标注模块，用于响应数据标注指令，确定各样本数据对应的标注信息；
训练模块，用于响应网络训练指令，基于预先集成在所述平台的、与所述目标场景匹配的目标类型的初始神经网络，对所述样本数据进行处理，并基于所述标注数据对所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
一种可能的实施方式中，在获取与所述目标场景匹配的样本数据之后，所述数据获取模块，还用于：
获取所述样本数据的质量分数；
展示质量分数超过预设分数的目标样本数据；
所述数据标注模块，在响应数据标注指令，确定各样本数据对应的标注信息时，用于：
响应数据标注指令，得到所述目标样本数据对应的标注信息。
一种可能的实施方式中，所述装置还包括网络选择模块，用于在确定各样本数据对应的标注信息之后根据以下方法确定所述初始神经网络：
响应神经网络选择指令，基于所述神经网络选择指令携带的目标类型，确定所述初始神经网络；或者，
对所述样本数据进行识别，并从所述平台集成的多个神经网络中，确定与所述目标场景和识别结果匹配的目标类型的初始神经网络。
一种可能的实施方式中，所述训练模块，在基于所述标注数据对所述初始神经网络进行训练时，用于：
确定与所述初始神经网络对应的目标训练方法；
基于所述标注数据和所述目标训练方法对所述初始神经网络进行训练。
一种可能的实施方式中，所述装置还包括展示模块，用于：
展示所述初始神经网络的训练状态和训练结果；
在所述训练状态为已完成的情况下，将训练结果满足预设条件的初始神经网络确定为所述目标神经网络。
一种可能的实施方式中，所述训练模块，还用于：
在所述训练状态为已完成的情况下，响应优化指令，向目标用户端发送训练后的所述初始神经网络、所述样本数据和所述样本数据的标注信息，以使所述目标用户端对训练后的所述初始神经网络进行更新；
接收所述目标用户端发送的更新后的所述初始神经网络；
响应再训练指令，对更新后的所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
一种可能的实施方式中，所述装置还包括处理模块，用于：
在基于所述标注数据对所述初始神经网网络进行训练之后，响应发布指令，向所述平台对应的服务器发送训练后的所述目标神经网络；
响应网络验证指令，获取待验证数据；
基于所述目标神经网络对所述待验证数据进行处理，展示所述待验证数据对应的处理结果，所述处理结果用于对所述目标神经网络进行验证。
一种可能的实施方式中，所述处理模块，还用于：
响应针对所述目标神经网络的导出指令，生成所述目标神经网络对应的软件开发工具包SDK，其中，所述SDK中包含所述目标神经网络的实现代码，用于将所述目标神经网络部署在其他用户端。
一种可能的实施方式中，所述目标类型至少包括点状体光学字符识别和印刷体光学字符识别中的任意一种；
所述样本数据包括样本图像，所述样本数据对应的标注信息用于标注所述样本图像中的文本。
第三方面，本公开实施例还提供一种计算机设备，包括：处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，当计算机设备运行时，所述处理器与所述存储器之间通过总线通信，所述机器可读指令被所述处理器执行时执行上述第一方面，或第一方面中任一种可能的实施方式中的步骤。
第四方面，本公开实施例还提供一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行上述第一方面，或第一方面中任一种可能的实施方式中的步骤。
关于上述神经网络训练装置、计算机设备、及计算机可读存储介质的效果描述参见上述神经网络训练方法的说明，这里不再赘述。
为使本公开的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，此处的附图被并入说明书中并构成本说明书中的一部分，这些附图示出了符合本公开的实施例，并与说明书一起用于说明本公开的技术方案。应当理解，以下附图仅示出了本公开的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1示出了本公开实施例所提供的一种神经网络训练方法的流程图；
图2示出了本公开实施例所提供的一种神经网络自训练平台的展示界面示意图；
图3示出了本公开实施例所提供的一种神经网络自训练平台的标注页面的示意图；
图4示出了本公开实施例所提供的一种神经网络自训练平台的网络训练页面的示意图；
图5示出了本公开实施例所提供的一种神经网络训练装置的架构示意图；
图6示出了本公开实施例所提供的一种计算机设备的结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本公开一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围，而是仅仅表示本公开的选定实施例。基于本公开的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本公开保护的范围。
随着计算机视觉技术的发展，各种各样的神经网络逐渐应用在各行各业中。神经网络在应用上主要分为网络训练和网络推理两个场景，在网络训练的过程中主要包括数据标注、网络训练、网络验证等过程，在对神经网络进行训练时，一般对相关人员在相关领域的知识要求比较高。因此，在训练适应不同场景的神经网络时，需要借助于专业人员，比较繁琐。
基于上述研究，本公开提供了一种神经网络训练方法、装置，所述神经网络训练方法应用于神经网络自训练平台，在接收到用户上传的样本数据之后，可以响应数据标注指令，确定各样本数据对应的标注信息，并在接收到网络训练指令之后，可以自动对平台集成的初始神经网络进行训练。通过本公开所提供的神经网络自训练平台，用户可以通过输入网络训练指令就可以实现对于初始神经网络的自动训练，且由于上传的样本数据是与目标场景匹配的样本数据，因此，训练出的目标神经网络也是与目标场景匹配的神经网络，提高了在目标场景下的数据处理精度；进一步的由于该平台集成了初始神经网络以及初始神经网络对应的训练方法，因此可以实现对于神经网络的一键式训练，操作较为简单。
针对以上方案所存在的缺陷，均是发明人在经过实践并仔细研究后得出的结果，因此，上述问题的发现过程以及下文中本公开针对上述问题所提出的解决方案，都应该是发明人在本公开过程中对本公开做出的贡献。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
为便于对本实施例进行理解，首先对本公开实施例所公开的一种神经网络训练方法进行详细介绍，参见图1所示，为本公开实施例提供的一种神经网络训练方法的流程图，该方法应用于神经网络自训练平台，该平台可以部署在用户端，或部署在服务器，本文中所述“该平台”、“自训练平台”等均指“神经网络自训练平台”。
下面将以该平台部署在用户端为例，对所述神经网络训练方法展示介绍。所述方法包括步骤101～步骤103，其中：
步骤101、响应数据上传指令，获取与目标场景匹配的样本数据。
步骤102、响应数据标注指令，确定各样本数据对应的标注信息。
步骤103、响应网络训练指令，基于预先集成在所述平台的、与所述目标场景匹配的目标类型的初始神经网络，对所述样本数据进行处理，并基于所述标注数据对所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
以下是对上述步骤的详细说明。
针对步骤101、
所述与目标场景匹配的样本数据，示例性的可以是在所述目标场景下获取的样本数据，所述目标场景例如可以是通过所述神经网络自训练平台待获取的目标神经网络对应的待部署场景。示例性的，以目标神经网络为印刷体光学字符识别(Optical CharacterRecognition，OCR)网络为例，则所述目标场景可以为印刷体OCR识别场景，相应的获取的样本数据为印刷体图像。
在一种可能的实施方式中，所述数据上传指令可以是在检测到上传按钮被触发之后生成的，示例性的，所述神经网络自训练平台的展示界面示例性的可以如图2所示，在所述“导入”按钮被触发之后，可以为当前数据集添加样本数据，在所述“新建”按钮被触发之后，可以新建数据集，并可以接收用户在新建的数据集中上传的样本数据。
针对步骤102、
所述样本数据示例性的可以为样本图像，所述样本数据对应的标注信息为步骤103中所述初始神经网络在训练过程中的监督数据，所述标注信息可以根据目标神经网络的推理目标的不同而不同；示例性的，若目标神经网络的推理目标为字符识别，则所述样本数据对应的标注信息为所述样本数据中所包含的字符(或文本)；若所述目标神经网络的推理目标为物体检测，则所述样本数据对应的标注信息为所述样本数据中物体的类别和所述物体在所述样本数据(这里一般是指样本图像)中的位置(例如可以以标注框的形式表示)。
示例性的，如图2所示，在获取样本数据之后，当检测到任一样本数据的“标注”按钮被触发之后，可以进入该样本数据对应的标注页面(如图3所示)，用户可以在该标注页面对该样本数据的标注信息进行标注。当检测到“保存并下一张”按钮被触发之后，可以生成数据标注指令，并确定该样本数据对应的标注信息。
相应的，在进入任一样本数据对应的标注页面并标注完标注信息之后，可以响应切换操作，进入下一样本数据对应的标注页面。其中，所述下一样本数据可以是指获取顺序与所述任一样本数据相邻的样本数据。
在一种可能的实施方式中，获取的样本数据的质量可能参差不齐，对于质量较差的样本数据，在应用于对初始神经网络的训练过程中时，可能会影响神经网络的网络精度。
基于此，在获取与目标场景匹配的样本数据之后，可以先获取各样本数据的质量分数，并展示质量分数超过预设分数的目标样本数据；这样在响应数据标注指令，确定各样本数据对应的标注信息时，可以响应数据标注指令，得到所述目标样本数据对应的标注信息。
这里，所述各样本数据的质量分数可以用于评判所述样本数据的质量，例如，若所述样本数据为图像，则所述样本数据的质量分数可以是指图像的分辨率、清晰度等；若所述样本数据为音频，则所述样本数据的指令分数可以是指音频的噪声情况等。
通过这种方法，可以基于质量分数先对样本数据进行筛选，然后基于筛选出的质量较高的样本数据对初始神经网络进行训练时，训练得到的目标神经网络的网络精度较高。
针对步骤103、
一种可能的实施方式中，所述自训练平台可以集成有多个神经网络，所述自训练平台集成的神经网络可以是经过初步训练的神经网络。然而由于所述神经网络在训练时的样本数据并不一定是来自于所述目标场景，若直接应用所述自训练平台集成的神经网络进行网络推理，精度较低，因此需要与目标场景匹配的样本数据再对神经网络进行进一步的训练。
所述目标类型可以是指所述初始神经网络的类型，例如可以是指网络推理类型，以自训练平台集成的神经网络包括点状体OCR网络和印刷体OCR网络为例，所述点状体OCR网络用于检测点状体图像对应的字符，所述印刷体OCR网络用于检测印刷体图像对应的字符。
一种可能的实施方式中，在执行步骤102确定各样本数据对应的标注信息之后，还可以先确定所述初始神经网络。具体的，可以通过以下方法中的任一种：
方法A、响应神经网络选择指令，基于所述神经网络选择指令携带的目标类型，确定所述初始神经网络。
示例性的，网络训练页面可以如图4所示，用户可以通过触发“新建”按钮新建网络训练任务，在所述“新建”按钮被触发之后，用户可以选择数据集(即通过步骤101和步骤102构建的数据集)以及选择目标类型的初始神经网络。
方法B、对所述样本数据进行识别，并从所述平台集成的多个神经网络中，确定与所述目标场景和识别结果匹配的目标类型的初始神经网络。
所述对样本数据进行识别，可以是指对所述样本数据的类型和标注信息进行识别；在确定所述初始神经网络时，可以是指确定与所述样本数据的类型和标注信息对应的目标类型的初始神经网络。
示例性的，若所述样本数据为印刷体图像，所述标注信息为所述印刷体图像中的字符，则对应的目标类型的初始神经网络为印刷体OCR网络。
一种可能的实施方式中，基于所述标注数据对所述初始神经网络进行训练时，可以先确定与所述初始神经网络对应的目标训练方法，然后基于所述标注数据和所述目标训练方法对所述初始神经网络进行训练。
这里，所述目标训练方法例如可以包括损失值计算方法、调参方法等。具体的，不同的神经网络可以对应不同的训练方法，可以预先设置各神经网络与训练方法之间的对应关系，然后可以基于所述对应关系，确定与初始神经网络对应的目标训练方法。
在确定所述初始神经网络之后，用户可以通过触发“开始训练”按钮开始执行对所述初始神经网络的训练过程(如图4中的开始按钮)。一种可能的实施方式中，在基于所述标注数据对所述初始神经网络开始进行训练之后，可以在图4所示的网络训练页面上展示初始神经网络的训练状态和训练结果。在所述训练状态为已完成的情况下，可以将所述训练结果满足预设条件的初始神经网络确定为所述目标神经网络。
这里，所述初始神经网络的训练状态可以是指所述初始神经网络的训练进度，例如可以展示进度百分比，或者可以展示“训练中”、“待训练”、“已完成”等状态信息；所述初始神经网络的训练结果例如可以是指准确率等。
这里，所述将训练结果满足预设条件的初始神经网络确定为目标神经网络，可以是指将网络精度超过预设精度的初始神经网络确定为所述目标神经网络，示例性的，如图4所示的网络训练页面，还可以在初始神经网络训练完成之后展示初始神经网络的准确率，当准确率超过预设准确率时，可以将训练完成的初始神经网络确定为目标神经网络。
所述预设准确率可以是根据不同的应用场景进行设置的，例如对于网络精度要求较高的目标场景中，可以设置较高的预设准确率，而对于网络精度要求较低的目标场景，可以设置较低的预设准确率。
一种可能的应用场景中，可以响应准确率设置请求，确定所述预设准确率。
或者，在另外一种可能的实施方式中，所述将训练结果满足预设条件的初始神经网络确定为目标神经网络，可以是指在将训练结果展示在所述网络训练页面之后，接收到用户输入的完成指令后，将当前训练的初始神经网络作为所述目标神经网络。
通过展示训练状态和训练结果，可以使得用户对训练进度有所把控，并可以根据需要选择是否采用训练后的目标神经网络，提高了神经网络训练过程中的可视化程度。
在对初始神经网络进行训练完成之后，训练后的初始神经网络可能并不能符合用户要求(如网络精度不够)，因此，在这种情况下，可以响应优化指令，向目标用户端发送训练后的所述初始神经网络、所述样本数据和所述样本数据的标注信息，以使所述目标用户端对训练后的所述初始神经网络进行更新。
这里，所述目标用户端例如可以是指所述自训练平台对应的开发端，所述对初始神经网络进行更新可以是指对初始神经网络的网络架构进行调整等。
在目标用户端对所述初始神经网络进行更新之后，可以接收所述目标用户端发送的更新后的所述初始神经网络；然后响应再训练指令，对更新后的所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
这里，在对所述初始神经网络进行再训练时，可以基于所述样本数据和所述样本数据的标注信息对所述初始神经网络进行再训练，或者可以接收用户重新上传的样本数据以及获取重新上传的样本数据的标注信息，然后基于重新上传的样本数据和对应的标注信息对更新后的初始神经网络进行再训练。
通过这种方法，开发人员可以通过目标用户端对平台集成的神经网络进行更新，满足了不同用户对于神经网络的需求。
在一种可能的实施方式中，在基于所述标注数据对所述初始神经网络进行训练之后，还可以响应发布指令，将训练后的所述目标神经网络发送至所述平台对应的服务器，以使其他用户端可以通过所述平台获取所述目标神经网络。
进一步的，用户可以对训练完成的目标神经网络进行验证。具体的，可以响应网络验证指令，获取待验证数据，然后基于所述目标神经网络对所述待验证数据进行处理，展示所述待验证数据对应的处理结果，所述处理结果用于对所述目标神经网络进行验证。
其中，所述待验证数据的数据类型与所述样本数据的数据类型相同，所述待验证数据也可以为来自所述目标场景的数据。
一种可能的实施方式中，在对所述目标神经网络进行验证时，可以人工通过对所述待验证数据的处理结果进行检查，确定所述目标神经网络是否正确处理所述待验证数据；或者所述待验证数据也可以携带有对应的监督结果；在基于所述目标神经网络对所述待验证数据进行处理之后，可以基于所述监督结果和所述处理结果，直接确定验证结果；若所述监督结果和所述处理结果，则验证通过；若所述监督结果和所述处理结果不一致，则验证失败。
通过这种方法，可以对获得的目标神经网络进行验证，避免所述目标神经网络在进行部署之后，由于精度影响所造成的无效部署。
一种可能的实施方式中，还可以响应针对所述目标神经网络的导出指令，生成所述目标神经网络对应的软件开发工具包(Software Development Kit，SDK)，所述SDK中包含所述目标神经网络的实现代码，用于将所述目标神经网络部署在其他用户端。
其他用户端在获取到所述SDK之后，通过对所述目标神经网络的实现代码的调试，即可完成对所述目标神经网络部署。
通过这种方法，可以实现在任一用户端上部署所述目标神经网络，灵活度较高。
本公开提供的神经网络训练方法，在接收到用户上传的样本数据之后，可以响应数据标注指令，确定各样本数据对应的标注信息，并在接收到网络训练指令之后，可以自动对平台集成的初始神经网络进行训练。通过本公开所提供的神经网络自训练平台，用户可以通过输入网络训练指令就可以实现对于初始神经网络的自动训练，且由于上传的样本数据是与目标场景匹配的样本数据，因此，训练出的目标神经网络也是与目标场景匹配的神经网络，提高了在目标场景下的数据处理精度；进一步的由于该平台集成了初始神经网络以及初始神经网络对应的训练方法，因此可以实现对于神经网络的一键式训练，操作较为简单。
本领域技术人员可以理解，在具体实施方式的上述方法中，各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定，各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于同一发明构思，本公开实施例中还提供了与神经网络训练方法对应的神经网络训练装置，由于本公开实施例中的装置解决问题的原理与本公开实施例上述神经网络训练方法相似，因此装置的实施可以参见方法的实施，重复之处不再赘述。
参照图5所示，为本公开实施例提供的一种神经网络训练装置的架构示意图，所述装置包括：数据获取模块501、数据标注模块502、训练模块503、网络选择模块504、展示模块505、处理模块506；其中，
数据获取模块501，用于响应数据上传指令，获取与目标场景匹配的样本数据；
数据标注模块502，用于响应数据标注指令，确定各样本数据对应的标注信息；
训练模块503，用于响应网络训练指令，基于预先集成在所述平台的、与所述目标场景匹配的目标类型的初始神经网络，对所述样本数据进行处理，并基于所述标注数据对所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
一种可能的实施方式中，在获取与所述目标场景匹配的样本数据之后，所述数据获取模块501，还用于：
获取所述样本数据的质量分数；
展示质量分数超过预设分数的目标样本数据；
所述数据标注模块502，在响应数据标注指令，确定各样本数据对应的标注信息时，用于：
响应数据标注指令，得到所述目标样本数据对应的标注信息。
一种可能的实施方式中，所述装置还包括网络选择模块504，用于在确定各样本数据对应的标注信息之后根据以下方法确定所述初始神经网络：
响应神经网络选择指令，基于所述神经网络选择指令携带的目标类型，确定所述初始神经网络；或者，
对所述样本数据进行识别，并从所述平台集成的多个神经网络中，确定与所述目标场景和识别结果匹配的目标类型的初始神经网络。
一种可能的实施方式中，所述训练模块503，在基于所述标注数据对所述初始神经网络进行训练时，用于：
确定与所述初始神经网络对应的目标训练方法；
基于所述标注数据和所述目标训练方法对所述初始神经网络进行训练。
一种可能的实施方式中，所述装置还包括展示模块505，用于：
展示所述初始神经网络的训练状态和训练结果；
在所述训练状态为已完成的情况下，将训练结果满足预设条件的初始神经网络确定为所述目标神经网络。
一种可能的实施方式中，所述训练模块503，还用于：
在所述训练状态为已完成的情况下，响应优化指令，向目标用户端发送训练后的所述初始神经网络、所述样本数据和所述样本数据的标注信息，以使所述目标用户端对训练后的所述初始神经网络进行更新；
接收所述目标用户端发送的更新后的所述初始神经网络；
响应再训练指令，对更新后的所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
一种可能的实施方式中，所述装置还包括处理模块506，用于：
在基于所述标注数据对所述初始神经网网络进行训练之后，响应发布指令，向所述平台对应的服务器发送训练后的所述目标神经网络；
响应网络验证指令，获取待验证数据；
基于所述目标神经网络对所述待验证数据进行处理，展示所述待验证数据对应的处理结果，所述处理结果用于对所述目标神经网络进行验证。
一种可能的实施方式中，所述处理模块506，还用于：
响应针对所述目标神经网络的导出指令，生成所述目标神经网络对应的软件开发工具包SDK，其中，所述SDK中包含所述目标神经网络的实现代码，用于将所述目标神经网络部署在其他用户端。
关于装置中的各模块的处理流程、以及各模块之间的交互流程的描述可以参照上述方法实施例中的相关说明，这里不再详述。
基于同一技术构思，本公开实施例还提供了一种计算机设备。参照图6所示，为本公开实施例提供的计算机设备600的结构示意图，包括处理器601、存储器602、和总线603。其中，存储器602用于存储执行指令，包括内存6021和外部存储器6022；这里的内存6021也称内存储器，用于暂时存放处理器601中的运算数据，以及与硬盘等外部存储器6022交换的数据，处理器601通过内存6021与外部存储器6022进行数据交换，当计算机设备600运行时，处理器601与存储器602之间通过总线603通信，使得处理器601在执行以下指令：
响应数据上传指令，获取与目标场景匹配的样本数据；
响应数据标注指令，确定各样本数据对应的标注信息；
响应网络训练指令，基于预先集成在所述平台的、与所述目标场景匹配的目标类型的初始神经网络，对所述样本数据进行处理，并基于所述标注数据对所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
本公开实施例还提供一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行上述方法实施例中所述的神经网络训练方法的步骤。其中，该存储介质可以是易失性或非易失的计算机可读取存储介质。
本公开实施例还提供一种计算机程序产品，该计算机产品承载有程序代码，所述程序代码包括的指令可用于执行上述方法实施例中所述的神经网络训练方法的步骤，具体可参见上述方法实施例，在此不再赘述。
其中，上述计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中，所述计算机程序产品具体体现为计算机存储介质，在另一个可选实施例中，计算机程序产品具体体现为软件产品，例如软件开发包(Software Development Kit，SDK)等等。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统和装置的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。在本公开所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本公开各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解，本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-OnlyMemory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是：以上所述实施例，仅为本公开的具体实施方式，用以说明本公开的技术方案，而非对其限制，本公开的保护范围并不局限于此，尽管参照前述实施例对本公开进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本公开揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本公开实施例技术方案的精神和范围，都应涵盖在本公开的保护范围之内。因此，本公开的保护范围应所述以权利要求的保护范围为准。
Claims (12)
1.一种神经网络训练方法，其特征在于，应用于神经网络自训练平台，包括：
响应数据上传指令，获取与目标场景匹配的样本数据；
响应数据标注指令，确定各样本数据对应的标注信息；
响应网络训练指令，基于预先集成在所述平台的、与所述目标场景匹配的目标类型的初始神经网络，对所述样本数据进行处理，并基于所述标注数据对所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
2.根据权利要求1所述的方法，其特征在于，在所述获取与目标场景匹配的样本数据之后，所述方法还包括：
获取所述样本数据的质量分数；
展示质量分数超过预设分数的目标样本数据；
所述响应数据标注指令，确定各样本数据对应的标注信息，包括：
响应数据标注指令，得到所述目标样本数据对应的标注信息。
3.根据权利要求1或2所述的方法，其特征在于，在所述确定各样本数据对应的标注信息之后，所述方法还包括：
响应神经网络选择指令，基于所述神经网络选择指令携带的目标类型，确定所述初始神经网络；或者，
对所述样本数据进行识别，并从所述平台集成的多个神经网络中，确定与所述目标场景和识别结果匹配的目标类型的初始神经网络。
4.根据权利要求1～3任一所述的方法，其特征在于，所述基于所述标注数据对所述初始神经网络进行训练，包括：
确定与所述初始神经网络对应的目标训练方法；
基于所述标注数据和所述目标训练方法对所述初始神经网络进行训练。
5.根据权利要求1～4任一所述的方法，其特征在于，所述方法还包括：
展示所述初始神经网络的训练状态和训练结果；
在所述训练状态为已完成的情况下，将训练结果满足预设条件的初始神经网络确定为所述目标神经网络。
6.根据权利要求5所述的方法，其特征在于，所述方法还包括：
在所述训练状态为已完成的情况下，响应优化指令，向目标用户端发送训练后的所述初始神经网络、所述样本数据和所述样本数据的标注信息，以使所述目标用户端对训练后的所述初始神经网络进行更新；
接收所述目标用户端发送的更新后的所述初始神经网络；
响应再训练指令，对更新后的所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
7.根据权利要求1～6任一所述的方法，其特征在于，在所述基于所述标注数据对所述初始神经网网络进行训练之后，所述方法还包括：
响应发布指令，向所述平台对应的服务器发送训练后的所述目标神经网络发送；
响应网络验证指令，获取待验证数据；
基于所述目标神经网络对所述待验证数据进行处理，展示所述待验证数据对应的处理结果，所述处理结果用于对所述目标神经网络进行验证。
8.根据权利要求7所述的方法，其特征在于，所述方法还包括：
响应针对所述目标神经网络的导出指令，生成所述目标神经网络对应的软件开发工具包SDK，其中，所述SDK中包含所述目标神经网络的实现代码，用于将所述目标神经网络部署在其他用户端。
9.根据权利要求1～8任一所述的方法，其特征在于，所述目标类型至少包括点状体光学字符识别和印刷体光学字符识别中的任意一种；
所述样本数据包括样本图像，所述样本数据对应的标注信息用于标注所述样本图像中的文本。
10.一种神经网络训练装置，其特征在于，应用于神经网络自训练平台，包括：
数据获取模块，用于响应数据上传指令，获取与目标场景匹配的样本数据；
数据标注模块，用于响应数据标注指令，确定各样本数据对应的标注信息；
训练模块，用于响应网络训练指令，基于预先集成在所述平台的、与所述目标场景匹配的目标类型的初始神经网络，对所述样本数据进行处理，并基于所述标注数据对所述初始神经网络进行训练，获得与所述目标场景匹配的目标神经网络。
11.一种计算机设备，其特征在于，包括：处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，当计算机设备运行时，所述处理器与所述存储器之间通过总线通信，所述机器可读指令被所述处理器执行时执行如权利要求1至9任一项所述的神经网络训练方法的步骤。
12.一种计算机可读存储介质，其特征在于，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器运行时执行如权利要求1至9任一项所述的神经网络训练方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210547067.1A CN114936637A (zh) | 2022-05-19 | 2022-05-19 | 神经网络训练方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210547067.1A CN114936637A (zh) | 2022-05-19 | 2022-05-19 | 神经网络训练方法及装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114936637A true CN114936637A (zh) | 2022-08-23 |
Family
ID=82864557
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210547067.1A Pending CN114936637A (zh) | 2022-05-19 | 2022-05-19 | 神经网络训练方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114936637A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2024087844A1 (zh) * | 2022-10-26 | 2024-05-02 | 北京火山引擎科技有限公司 | 图神经网络的训练方法、训练系统及异常账号识别方法 |
-
2022
- 2022-05-19 CN CN202210547067.1A patent/CN114936637A/zh active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2024087844A1 (zh) * | 2022-10-26 | 2024-05-02 | 北京火山引擎科技有限公司 | 图神经网络的训练方法、训练系统及异常账号识别方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109766872B (zh) | 图像识别方法和装置 | |
| US10853623B2 (en) | Method and apparatus for generating information | |
| KR102347336B1 (ko) | 응시점 판단 방법 및 장치, 전자 기기 및 컴퓨터 저장 매체 | |
| CN110009027B (zh) | 图像的比对方法、装置、存储介质及电子装置 | |
| CN107179831B (zh) | 启动应用的方法、装置、存储介质及终端 | |
| CN110046622B (zh) | 一种有目标的攻击样本生成方法、装置、设备及存储介质 | |
| CN114170468B (zh) | 文本识别方法、存储介质及计算机终端 | |
| CN111240482A (zh) | 一种特效展示方法及装置 | |
| CN112418310B (zh) | 文本风格迁移模型训练方法和系统及图像生成方法和系统 | |
| CN110288085A (zh) | 一种数据处理方法、装置、系统及存储介质 | |
| CN114936637A (zh) | 神经网络训练方法及装置 | |
| CN111414540A (zh) | 在线学习推荐方法、装置、在线学习系统及服务器 | |
| CN108334869B (zh) | 人脸部件的选择、人脸识别方法和装置，以及电子设备 | |
| CN110223340B (zh) | 一种机器人识别图书所在架位的方法、装置 | |
| CN113434722B (zh) | 图像分类方法、装置、设备及计算机可读存储介质 | |
| CN113190444B (zh) | 一种测试方法、装置及存储介质 | |
| CN111464859B (zh) | 一种在线视频展示的方法、装置、计算机设备及存储介质 | |
| CN112799612A (zh) | 一种打印控制方法、装置、计算机设备及存储介质 | |
| CN113377980A (zh) | 一种信息标注的方法、装置、电子设备及存储介质 | |
| CN111639630B (zh) | 一种作业批改方法及装置 | |
| CN110874602A (zh) | 一种图像识别方法及装置 | |
| CN113628077B (zh) | 生成不重复考题的方法、终端及可读存储介质 | |
| CN111491195A (zh) | 一种在线视频展示的方法及装置 | |
| CN114067182A (zh) | 模型的处理方法、装置、存储介质以及电子设备 | |
| KR102568875B1 (ko) | 멘토 추천 서비스 및 강의 추천 서비스를 제공하는 서버 및 그 동작 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |