CN113780578B - 模型训练方法、装置、电子设备及可读存储介质 - Google Patents
模型训练方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN113780578B CN113780578B CN202111052308.7A CN202111052308A CN113780578B CN 113780578 B CN113780578 B CN 113780578B CN 202111052308 A CN202111052308 A CN 202111052308A CN 113780578 B CN113780578 B CN 113780578B
- Authority
- CN
- China
- Prior art keywords
- training
- model
- target
- target terminal
- terminals
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 210
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000004422 calculation algorithm Methods 0.000 claims description 8
- 238000010191 image analysis Methods 0.000 claims description 3
- 238000013473 artificial intelligence Methods 0.000 abstract description 6
- 238000005516 engineering process Methods 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000004590 computer program Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000003416 augmentation Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了一种模型训练方法、装置、电子设备及可读存储介质,涉及人工智能领域,具体涉及计算机视觉和深度学习技术,具体可用于智慧城市和智能交通场景下。具体实现方案为:基于目标终端采集的图像对部署于目标终端的目标预训练模型进行无监督和/或半监督训练,得到目标终端实际应用的第一目标训练模型,从而各个目标终端所实际采用的模型并不相同,分别是通过各目标终端所采集的相应图像进行训练,进而能提升各目标终端部署的模型针对各目标终端所在的相应应用场景进行模型预测的准确性。
Description
技术领域
本公开涉及人工智能领域,具体涉及计算机视觉和深度学习技术,具体可用于智慧城市和智能交通场景下。
背景技术
随着人工智能技术的发展,智慧城市与智能交通等都离不开人工智能技术的支持,如何训练该等场景想的人工智能模型成为了一个问题。
发明内容
本公开提供了一种模型训练、装置、电子设备及可读存储介质。
根据本公开的第一方面,提供了一种模型训练方法,应用于目标终端,包括:
确定目标预训练模型;
基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型。
根据本公开的第二方面,提供了一种模型训练装置,应用于目标终端,包括:
确定模块,用于确定目标预训练模型;
训练模块,用于基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型。
根据本公开的第三方面,提供了一种电子设备,该电子设备包括:
至少一个处理器;以及
与上述至少一个处理器通信连接的存储器;其中,
存储器存储有可被上述至少一个处理器执行的指令,指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行上述方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,该计算机指令用于使计算机执行上述方法。
根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现上述方法。
本公开提供的技术方案带来的有益效果是:
本公开实施例提供的方案,与现有技术模型在服务器端训练好后,然后部署到相应的终端设备进行应用,部署到各终端设备的实际应用的模型都一样相比。本公开通过确定目标预训练模型;基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型。即基于目标终端采集的图像对部署于目标终端的目标预训练模型进行无监督和/或半监督训练,得到目标终端实际应用的第一目标训练模型,从而各个目标终端所实际采用的模型并不相同,分别是通过各目标终端所采集的相应图像进行训练,进而能提升各目标终端部署的模型针对各目标终端所在的相应应用场景进行模型预测的准确性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开提供的模型训练方法流程示意图;
图2是根据本公开提供的增广样本示例图;
图3是根据本公开提供的模型训练装置的结构示意图;
图4是用来实现本公开实施例的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
实施例一
图1示出了本公开实施例提供的一种模型训练方法,应用于目标终端,如图1所示,包括:
步骤S101,确定目标预训练模型;
具体地,目标预训练模型可以是在服务器端训练好的模型,服务器端训练好目标预训练模型后,可以将目标预训练模型发送到目标终端设备。其中,目标终端设备可以是一个或多个,即服务器训练好目标预训练模型后,可以将目标预训练模型发送到各个目标终端设备,其中,各个目标终端设备接收到目标预训练模型是相同的。
步骤S102,基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型。
其中,目标终端设备可以是部署在车辆上的车载设备,或者交通道路中的相应的智慧摄像机等,其中,该车载设备或智慧摄像机具有一定的计算能力,能够通过其采集的图像对目标预训练模型进行再训练,从而得到相应的第一目标训练模型。
其中,机器学习大致可以分为有监督学习、无监督学习、半监督学习;监督学习指的是训练数据中每个样本都有标签,通过标签可以指导模型进行学习,学到具有判别性的特征,从而对未知样本进行预测;无监督学习指的是训练数据完全没有标签,通过算法从数据中发现一些数据之间的约束关系,比如数据之间的关联、距离关系等。典型的无监督算法如聚类,根据一定的度量指标,将“距离”相近的样本聚集在一起。半监督学习,指的是介于监督学习和无监督学习之间的一种学习方式,它的训练数据既包含有标签数据,也包含无标签数据。
本公开目标终端设备所采用的学习方式为无监督学习和/或半监督学习,从而不需要大量标注数据即可对目标预训练模型进行再训练。其中,可以根据目标终端设备所处的应用场景,确定采取无监督学习还是半监督学习,还是同时使用无监督学习和半监督学习对目标预训练模型进行再训练。
本公开实施例提供的方案,与现有技术模型在服务器端训练好后,然后部署到相应的终端设备进行应用,部署到各终端设备的实际应用的模型都一样相比。本公开通过确定目标预训练模型;基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型。即基于目标终端采集的图像对部署于目标终端的目标预训练模型进行无监督和/或半监督训练,得到目标终端实际应用的第一目标训练模型,从而各个目标终端所实际采用的模型并不相同,分别是通过各目标终端所采集的相应图像进行训练,进而能提升各目标终端部署的模型针对各目标终端所在的相应应用场景进行模型预测的准确性。
本申请实施例提供了一种可能的实现方式,其中,所述目标预训练模型基于多个终端采集的图像训练得到,至少部分所述终端分别部署于不同的区域;所述目标终端位于预定的区域。
具体地,目标预训练模型可以是通过位于不同预定区域的终端设备采集的图像进行训练得到的,目标终端设备可以是位于预定区域的,从而先用预定场景下位于不同区域的目标终端设备拍摄的图像进行预训练,然后基于特定目标终端在预定区域拍摄的图像进行再训练,从而能够提升训练速度的同时,保证目标终端所应用的目标训练模型的准确性。
示例性地,如目标终端设备可以是位于特定交通路口的智慧摄像机。具体来说,在智慧交通场景下,交通区域部署了相应数量的智慧摄像机,然而各个智慧摄像机所在的区域不同,相应的部署在该相应摄像机上的模型的预测任务不同,即使预测任务相同,由于各智慧摄像机所在的区域的具体场景不同,如果各个智慧摄像机采用的模型都相同,可能存在泛化性不足的问题,即针对某些区域具体场景,模型预测的准确性较差。而本公开先通过多个位于不同区域的终端拍摄的图像训练目标预训练模型,然后再根据预定区域的目标终端采集的图像对目标预训练模型进行再训练,得到第一目标训练模型,目标终端设备基于该第一目标训练模型进行相应的预测,从而能够提升目标终端设备在该目标终端识别所在的预定区域进行模型预测的准确性。
本申请实施例提供了一种可能的实现方式,其中,其中,所述目标预训练模型的训练包括:
预训练阶段以及微调阶段。
其中,预训练就是指预先训练的一个模型或者指预先训练模型的过程;微调就是指将预训练过的模型作用于特定的数据集,并使参数适应该特定数据集的过程。可以把预训练模型理解为一个基础模型,然后用特定场景或类型数据集对基础模型进行再调整,从而得到性能更好的模型。
示例性地,预训练和微调的作用,在计算机视觉领域中,实际上,很少从头训练一个神经网络,主要原因是使用者很小的概率会拥有足够大的数据集,拥有的数据集不够大,而又想使用很好的模型的话,很容易会造成过拟合。所以,一般的操作都是在一个大型的数据集上(如ImageNet)训练一个模型,然后使用该模型作为类似任务的初始化或者特征提取器。比如VGG,Inception等模型都提供了自己的训练参数,以便后续使用者可以拿来微调,这样既节省了时间和计算资源,又能很快的达到较好的效果
对于本申请实施例,得到第一目标训练模型包括如下几个阶段,在服务器端进行的预训练阶段、微调阶段,以及在目标终端设备进行再训练(无监督和/或半监督训练),从而经过服务器端的预训练和微调阶段,目标终端设备对目标预训练模型稍微进行训练,即可得到性能较好的,能适用于目标终端设备所在预定区域下的预测任务;此外,不需要目标终端设备具备较强的数据计算能力,降低了对目标终端设备的性能要求,更利于模型在各个目标终端设备的部署应用。
本申请实施例提供了一种可能的实现方式,其中,所述预训练阶段,包括:
基于Propagate yourself算法进行自监督训练。
其中,相比全图构建自监督训练样本集,本公开实施例采用像素级别的自监督方式,能更有效地对物体检测、分割、跟踪等任务进行模型预训练。具体为,采用propagateyourself中像素级别的自监督预训练方法,在对训练图像进行样本增广的过程中,记录增广的方式(例如旋转、平移、裁剪等),不同增广样本中,源自原图中同一个像素的样本对为正例,不同像素的样本对为负例,如图2所示,view1与view2为同一张图片生成的增广样本,箭头指向坐标位置的样本为正样本对,其余为负样本对。
对于本申请实施例,像素级前置任务不仅对常规骨干网络的预训练有效,而且对用于密集下游任务的头网络也有效,并且是对实例级对比方法的补充,从而能够提升基于Propagate yourself算法进行自监督训练得到的模型,进行微调,并在目标终端进行再训练得到的目标训练模型的性能。
本申请实施例提供了一种可能的实现方式,其中,该方法还包括:
响应于预定的切换条件满足时,将目标终端由模型预测模式切换至模型自进化模式,对所述第一目标训练模型进行无监督训练和/或半监督训练,以得到第二目标训练模型。
其中,所述预定的切换条件包括以下至少一项:根据当前光线情况目标终端无法进行模型预测;根据当前天气情况目标终端无法进行模型预测。具体地,可以通过相应的图像分析确定当前的光线情况或天气状况,进而确定目标终端是否能完成相应的模型预测任务。
具体地,目标终端设备的任务主要包括两方面,模型预测任务,模型训练任务,而目标终端设备的计算资源是有限的,模型预测任务与模型训练任务不能兼顾,如何充分利用目标终端设备的计算资源,以及完成目标终端设备的任务成为了一个问题。
具体地,可以是当满足预定的条件时,将目标终端由模型预测模式切换至模型自进化模式,对所述第一目标训练模型进行无监督训练和/或半监督训练,以得到第二目标训练模型,从而在兼顾目标终端设备预测任务的同时,能够实现目标训练模型的自进化,即进一步对第一目标训练模型进行训练,得到性能更优的第二目标训练模型,此外,针对第二目标训练模型还可以进行再训练,从而实现目标终端应用的目标训练模型自进化。
具体地,还可以是确定目标终端设备的当前资源利用状态信息,根据资源状态利用信息确定是否进行第一目标训练模型的再训练。
对于本申请实施例,在兼顾目标终端设备模型预测任务和模型训练任务的同时,实现了目标终端设备应用的目标训练模型的自进化,提升了目标终端设备应用的目标训练模型的性能。
实施例二
本公开实施例提供了一种模型训练装置,应用于目标终端,如图3所示,包括:
确定模块301,用于确定目标预训练模型;
训练模块302,用于基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型。
本申请实施例提供了一种可能的实现方式,其中,所述目标预训练模型的训练包括预训练阶段以及微调阶段。
本申请实施例提供了一种可能的实现方式,其中,所述训练模块,具体用于基于Propagate yourself算法进行自监督训练。
本申请实施例提供了一种可能的实现方式,其中,所述目标预训练模型基于多个终端采集的图像训练得到,至少部分所述终端分别部署于不同的区域;所述目标终端位于预定的区域。
本申请实施例提供了一种可能的实现方式,其中,该装置还包括:
切换模块,用于响应于预定的切换条件满足时,将目标终端由模型预测模式切换至模型自进化模式,对所述第一目标训练模型进行无监督训练和/或半监督训练,以得到第二目标训练模型。
本申请实施例提供了一种可能的实现方式,其中,所述预定的切换条件包括以下至少一项:
根据当前光线情况目标终端无法进行模型预测;
根据当前天气情况目标终端无法进行模型预测。
对于本申请实施例,其实现的有益效果同上述方法实施例,此处不再赘述。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如本公开实施例提供的方法。
该电子设备与现有技术模型在服务器端训练好后,然后部署到相应的终端设备进行应用,部署到各终端设备的实际应用的模型都一样相比。本公开通过确定目标预训练模型;基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型。即基于目标终端采集的图像对部署于目标终端的目标预训练模型进行无监督和/或半监督训练,得到目标终端实际应用的第一目标训练模型,从而各个目标终端所实际采用的模型并不相同,分别是通过各目标终端所采集的相应图像进行训练,进而能提升各目标终端部署的模型针对各目标终端所在的相应应用场景进行模型预测的准确性。
该可读存储介质为存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如本公开实施例提供的方法。
该可读存储介质与现有技术模型在服务器端训练好后,然后部署到相应的终端设备进行应用,部署到各终端设备的实际应用的模型都一样相比。本公开通过确定目标预训练模型;基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型。即基于目标终端采集的图像对部署于目标终端的目标预训练模型进行无监督和/或半监督训练,得到目标终端实际应用的第一目标训练模型,从而各个目标终端所实际采用的模型并不相同,分别是通过各目标终端所采集的相应图像进行训练,进而能提升各目标终端部署的模型针对各目标终端所在的相应应用场景进行模型预测的准确性。
该计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如本公开的第一方面中所示的方法。
该计算机程序产品与现有技术模型在服务器端训练好后,然后部署到相应的终端设备进行应用,部署到各终端设备的实际应用的模型都一样相比。本公开通过确定目标预训练模型;基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型。即基于目标终端采集的图像对部署于目标终端的目标预训练模型进行无监督和/或半监督训练,得到目标终端实际应用的第一目标训练模型,从而各个目标终端所实际采用的模型并不相同,分别是通过各目标终端所采集的相应图像进行训练,进而能提升各目标终端部署的模型针对各目标终端所在的相应应用场景进行模型预测的准确性。
图4示出了可以用来实施本公开的实施例的示例电子设备400的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图4所示,设备400包括计算单元401,其可以根据存储在只读存储器(ROM)402中的计算机程序或者从存储单元408加载到随机访问存储器(RAM)403中的计算机程序,来执行各种适当的动作和处理。在RAM 403中,还可存储设备400操作所需的各种程序和数据。计算单元401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
设备400中的多个部件连接至I/O接口405,包括:输入单元406,例如键盘、鼠标等;输出单元407,例如各种类型的显示器、扬声器等;存储单元408,例如磁盘、光盘等;以及通信单元409,例如网卡、调制解调器、无线通信收发机等。通信单元409允许设备400通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元401可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元401的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元401执行上文所描述的各个方法和处理,例如方法模型训练方法。例如,在一些实施例中,方法模型训练方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元408。在一些实施例中,计算机程序的部分或者全部可以经由ROM 402和/或通信单元409而被载入和/或安装到设备400上。当计算机程序加载到RAM 403并由计算单元401执行时,可以执行上文描述的方法模型训练方法的一个或多个步骤。备选地,在其他实施例中,计算单元401可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行方法模型训练方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (8)
1.一种模型训练方法,应用于目标终端,包括:
确定目标预训练模型;所述目标预训练模型基于多个终端采集的图像训练得到,至少部分所述终端分别部署于不同的区域,各所述终端所在的区域的场景不同,各所述终端部署的模型的预测任务不同;
基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型;所述目标终端位于预定的区域;
响应于预定的切换条件满足时,将所述目标终端由模型预测模式切换至模型自进化模式,对所述第一目标训练模型进行无监督训练和/或半监督训练,以得到第二目标训练模型;或者,基于目标终端设备的当前资源利用状态信息将所述目标终端由模型预测模式切换至模型自进化模式,对所述第一目标训练模型进行无监督训练和/或半监督训练,以得到第二目标训练模型;
所述目标终端设备的任务包括模型预测任务和模型训练任务,所述目标终端在所述模型预测模式下执行模型预测任务,所述目标终端在所述模型自进化模式下执行模型训练任务;所述预定的切换条件包括以下至少一项:根据当前光线情况目标终端无法进行模型预测;根据当前天气情况目标终端无法进行模型预测;其中,通过图像分析确定当前的光线情况或天气状况。
2.根据权利要求1所述的方法,其中,所述目标预训练模型的训练包括:
预训练阶段以及微调阶段。
3.根据权利要求2所述的方法,其中,所述预训练阶段,包括:
基于Propagate yourself算法进行自监督训练。
4.一种模型训练装置,应用于目标终端,包括:
确定模块,用于确定目标预训练模型;所述目标预训练模型基于多个终端采集的图像训练得到,至少部分所述终端分别部署于不同的区域,各所述终端所在的区域的场景不同,各所述终端部署的模型的预测任务不同;
训练模块,用于基于目标终端采集的图像对所述目标预训练模型进行无监督训练和/或半监督训练,得到第一目标训练模型;所述目标终端位于预定的区域;
切换模块,用于响应于预定的切换条件满足时,将所述目标终端由模型预测模式切换至模型自进化模式,对所述第一目标训练模型进行无监督训练和/或半监督训练,以得到第二目标训练模型;或者,所述切换模块用于基于目标终端设备的当前资源利用状态信息将所述目标终端由模型预测模式切换至模型自进化模式,对所述第一目标训练模型进行无监督训练和/或半监督训练,以得到第二目标训练模型;
其中,所述目标终端设备的任务包括模型预测任务和模型训练任务,所述目标终端在所述模型预测模式下执行模型预测任务,所述目标终端在所述模型自进化模式下执行模型训练任务;所述预定的切换条件包括以下至少一项:根据当前光线情况目标终端无法进行模型预测;根据当前天气情况目标终端无法进行模型预测;其中,通过图像分析确定当前的光线情况或天气状况。
5.根据权利要求4所述的装置,其中,所述目标预训练模型的训练包括预训练阶段以及微调阶段。
6.根据权利要求5所述的装置,其中,所述训练模块,具体用于基于Propagateyourself算法进行自监督训练。
7.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-3中任一项所述的方法。
8.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-3中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111052308.7A CN113780578B (zh) | 2021-09-08 | 2021-09-08 | 模型训练方法、装置、电子设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111052308.7A CN113780578B (zh) | 2021-09-08 | 2021-09-08 | 模型训练方法、装置、电子设备及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113780578A CN113780578A (zh) | 2021-12-10 |
CN113780578B true CN113780578B (zh) | 2023-12-12 |
Family
ID=78842037
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111052308.7A Active CN113780578B (zh) | 2021-09-08 | 2021-09-08 | 模型训练方法、装置、电子设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113780578B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114549904B (zh) * | 2022-02-25 | 2023-07-07 | 北京百度网讯科技有限公司 | 视觉处理及模型训练方法、设备、存储介质及程序产品 |
CN117274778B (zh) * | 2023-11-21 | 2024-03-01 | 浙江啄云智能科技有限公司 | 基于无监督和半监督的图像搜索模型训练方法和电子设备 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108846384A (zh) * | 2018-07-09 | 2018-11-20 | 北京邮电大学 | 融合视频感知的多任务协同识别方法及系统 |
CN109255360A (zh) * | 2017-07-12 | 2019-01-22 | 杭州海康威视数字技术股份有限公司 | 一种目标分类方法、装置及系统 |
CN109359793A (zh) * | 2018-08-03 | 2019-02-19 | 阿里巴巴集团控股有限公司 | 一种针对新场景的预测模型训练方法及装置 |
CN110738127A (zh) * | 2019-09-19 | 2020-01-31 | 福建师范大学福清分校 | 基于无监督深度学习神经网络算法的安全帽识别方法 |
CN111444848A (zh) * | 2020-03-27 | 2020-07-24 | 广州英码信息科技有限公司 | 一种基于联邦学习的特定场景模型升级方法和系统 |
CN111695415A (zh) * | 2020-04-28 | 2020-09-22 | 平安科技(深圳)有限公司 | 图像识别模型的构建方法、识别方法及相关设备 |
CN112434809A (zh) * | 2021-01-26 | 2021-03-02 | 成都点泽智能科技有限公司 | 基于主动学习的模型训练方法、装置及服务器 |
CN112507901A (zh) * | 2020-12-14 | 2021-03-16 | 华南理工大学 | 一种基于伪标签自纠正的无监督行人重识别方法 |
CN112687022A (zh) * | 2020-12-18 | 2021-04-20 | 山东盛帆蓝海电气有限公司 | 一种基于视频的智能楼宇巡检方法及系统 |
CN112926368A (zh) * | 2019-12-06 | 2021-06-08 | 北京京东乾石科技有限公司 | 一种识别障碍物的方法和装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108280332B (zh) * | 2017-12-15 | 2021-08-03 | 创新先进技术有限公司 | 移动终端的生物特征认证识别检测方法、装置和设备 |
-
2021
- 2021-09-08 CN CN202111052308.7A patent/CN113780578B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109255360A (zh) * | 2017-07-12 | 2019-01-22 | 杭州海康威视数字技术股份有限公司 | 一种目标分类方法、装置及系统 |
CN108846384A (zh) * | 2018-07-09 | 2018-11-20 | 北京邮电大学 | 融合视频感知的多任务协同识别方法及系统 |
CN109359793A (zh) * | 2018-08-03 | 2019-02-19 | 阿里巴巴集团控股有限公司 | 一种针对新场景的预测模型训练方法及装置 |
CN110738127A (zh) * | 2019-09-19 | 2020-01-31 | 福建师范大学福清分校 | 基于无监督深度学习神经网络算法的安全帽识别方法 |
CN112926368A (zh) * | 2019-12-06 | 2021-06-08 | 北京京东乾石科技有限公司 | 一种识别障碍物的方法和装置 |
CN111444848A (zh) * | 2020-03-27 | 2020-07-24 | 广州英码信息科技有限公司 | 一种基于联邦学习的特定场景模型升级方法和系统 |
CN111695415A (zh) * | 2020-04-28 | 2020-09-22 | 平安科技(深圳)有限公司 | 图像识别模型的构建方法、识别方法及相关设备 |
CN112507901A (zh) * | 2020-12-14 | 2021-03-16 | 华南理工大学 | 一种基于伪标签自纠正的无监督行人重识别方法 |
CN112687022A (zh) * | 2020-12-18 | 2021-04-20 | 山东盛帆蓝海电气有限公司 | 一种基于视频的智能楼宇巡检方法及系统 |
CN112434809A (zh) * | 2021-01-26 | 2021-03-02 | 成都点泽智能科技有限公司 | 基于主动学习的模型训练方法、装置及服务器 |
Non-Patent Citations (2)
Title |
---|
Zhenda Xie et al..Propagate Yourself: Exploring Pixel-Level Consistency for Unsupervised Visual Representation Learning.《arxiv.org》.2021, * |
范亚军 等.复杂环境下BDS场景精度等级聚类模型.导航定位学报.2019,全文. * |
Also Published As
Publication number | Publication date |
---|---|
CN113780578A (zh) | 2021-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10475186B2 (en) | Segmentation of objects in videos using color and depth information | |
CN113033537B (zh) | 用于训练模型的方法、装置、设备、介质和程序产品 | |
CN113780578B (zh) | 模型训练方法、装置、电子设备及可读存储介质 | |
CN113436100B (zh) | 用于修复视频的方法、装置、设备、介质和产品 | |
EP3933674A1 (en) | Method, apparatus, device, storage medium and program for processing image | |
CN113627536B (zh) | 模型训练、视频分类方法,装置,设备以及存储介质 | |
CN114519858B (zh) | 文档图像的识别方法、装置、存储介质以及电子设备 | |
CN115620081B (zh) | 一种目标检测模型的训练方法及目标检测方法、装置 | |
CN113657483A (zh) | 模型训练方法、目标检测方法、装置、设备以及存储介质 | |
US20230245429A1 (en) | Method and apparatus for training lane line detection model, electronic device and storage medium | |
CN114495101A (zh) | 文本检测方法、文本检测网络的训练方法及装置 | |
CN114186681A (zh) | 用于生成模型簇的方法、装置及计算机程序产品 | |
CN113378857A (zh) | 目标检测方法、装置、电子设备及存储介质 | |
CN116363429A (zh) | 图像识别模型的训练方法、图像识别方法、装置及设备 | |
CN115273148B (zh) | 行人重识别模型训练方法、装置、电子设备及存储介质 | |
CN115482248B (zh) | 图像分割方法、装置、电子设备及存储介质 | |
CN116152702A (zh) | 点云标签的获取方法、装置、电子设备和自动驾驶车辆 | |
CN114549961B (zh) | 目标对象的检测方法、装置、设备以及存储介质 | |
CN113139463B (zh) | 用于训练模型的方法、装置、设备、介质和程序产品 | |
US20220392204A1 (en) | Method of training model, electronic device, and readable storage medium | |
CN113591709A (zh) | 动作识别方法、装置、设备、介质和产品 | |
CN113392795B (zh) | 联合检测模型训练、联合检测方法、装置、设备及介质 | |
CN114693950B (zh) | 一种图像特征提取网络的训练方法、装置及电子设备 | |
CN114202728B (zh) | 一种视频检测方法、装置、电子设备及介质 | |
CN113343979B (zh) | 用于训练模型的方法、装置、设备、介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |