CN116091773A - 图像分割模型的训练方法、图像分割方法和装置 - Google Patents

图像分割模型的训练方法、图像分割方法和装置 Download PDF

Info

Publication number
CN116091773A
CN116091773A CN202310110120.6A CN202310110120A CN116091773A CN 116091773 A CN116091773 A CN 116091773A CN 202310110120 A CN202310110120 A CN 202310110120A CN 116091773 A CN116091773 A CN 116091773A
Authority
CN
China
Prior art keywords
segmentation result
model
encoder
decoder
output head
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310110120.6A
Other languages
English (en)
Other versions
CN116091773B (zh
Inventor
周文硕
杨大陆
杨叶辉
代小亚
王磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202310110120.6A priority Critical patent/CN116091773B/zh
Publication of CN116091773A publication Critical patent/CN116091773A/zh
Application granted granted Critical
Publication of CN116091773B publication Critical patent/CN116091773B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Abstract

本公开提供了一种图像分割模型的训练方法、图像分割方法和装置，涉及人工智能技术领域，尤其涉及深度学习、图像处理、计算机视觉技术领域。具体实现方案为：在每轮训练过程中，可先基于第一编码器、第二解码器、第一输出头的模型参数，分别更新第二编码器、第一解码器、第二输出头的模型参数，之后可基于原始样本图像，更新第一编码器、第二解码器、第一输出头的模型参数，即在每轮训练过程中可先提升第二编码器、第一解码器、第二输出头的性能，再利用性能提升后的第二编码器、第一解码器、第二输出头，来提升第一编码器、第二解码器、第一输出头的性能，有助于提升第一编码器、第二解码器、第一输出头的训练精度。

Description

图像分割模型的训练方法、图像分割方法和装置
技术领域
本公开涉及人工智能技术领域，尤其涉及深度学习、图像处理、计算机视觉技术领域，尤其涉及一种图像分割模型的训练方法、图像分割方法、装置、电子设备、存储介质和计算机程序产品。
背景技术
目前，随着人工智能技术的不断发展，图像分割模型在行人检测、交通控制、医疗影像等领域得到了广泛应用，具有效率高、自动化程度高等优点。比如，可将图像输入图像分割模型中，由图像分割模型输出分割结果。然而，相关技术中，图像分割模型的训练存在训练精度差的问题。
发明内容
本公开提供了一种图像分割模型的训练方法、图像分割方法、装置、电子设备、存储介质和计算机程序产品。
根据本公开的一方面，提供了一种图像分割模型的训练方法，包括：获取待训练的学生模型和教师模型，其中，所述学生模型包括第一编码器、第一解码器和第一输出头，所述教师模型包括第二编码器、第二解码器和第二输出头，所述第一输出头、所述第二输出头隶属于图像分割任务；在每轮训练过程中，基于所述第一编码器的模型参数，对所述第二编码器的模型参数进行更新，并基于所述第二解码器的模型参数，对所述第一解码器的模型参数进行更新，并基于所述第一输出头的模型参数，对所述第二输出头的模型参数进行更新；基于原始样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新；响应于达到模型训练结束条件，基于所述学生模型和所述教师模型，得到图像分割模型。
根据本公开的另一方面，提供了一种图像分割方法，包括：获取待处理图像；将所述待处理图像输入图像分割模型中，由所述图像分割模型输出所述待处理图像的分割结果，其中，所述图像分割模型采用如本公开的图像分割模型的训练方法得到。
根据本公开的另一方面，提供了一种图像分割模型的训练装置，包括：获取模块，用于获取待训练的学生模型和教师模型，其中，所述学生模型包括第一编码器、第一解码器和第一输出头，所述教师模型包括第二编码器、第二解码器和第二输出头，所述第一输出头、所述第二输出头隶属于图像分割任务；第一更新模块，用于在每轮训练过程中，基于所述第一编码器的模型参数，对所述第二编码器的模型参数进行更新，并基于所述第二解码器的模型参数，对所述第一解码器的模型参数进行更新，并基于所述第一输出头的模型参数，对所述第二输出头的模型参数进行更新；第二更新模块，用于基于原始样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新；生成模块，用于响应于达到模型训练结束条件，基于所述学生模型和所述教师模型，得到图像分割模型。
根据本公开的另一方面，提供了一种图像分割装置，包括：获取模块，用于获取待处理图像；分割模块，用于将所述待处理图像输入图像分割模型中，由所述图像分割模型输出所述待处理图像的分割结果，其中，所述图像分割模型采用如本公开的图像分割模型的训练方法得到。
根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如本公开的图像分割模型的训练方法、图像分割方法。
根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行如本公开的图像分割模型的训练方法、图像分割方法。
根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，其中，所述计算机程序被处理器执行时实现如本公开的图像分割模型的训练方法的步骤、图像分割方法的步骤。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开第一实施例的图像分割模型的训练方法的流程示意图；
图2是根据本公开第二实施例的图像分割模型的训练方法的流程示意图；
图3是根据本公开第三实施例的图像分割模型的训练方法的流程示意图；
图4是根据本公开第四实施例的图像分割模型的训练方法的流程示意图；
图5是根据本公开第五实施例的图像分割模型的训练方法的流程示意图；
图6是根据本公开第六实施例的图像分割模型的训练方法的示意图；
图7是根据本公开第一实施例的图像分割方法的流程示意图；
图8是根据本公开第一实施例的图像分割模型的训练装置的框图；
图9是根据本公开第一实施例的图像分割装置的框图；
图10是用来实现本公开实施例的图像分割模型的训练方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
AI(Artificial Intelligence，人工智能)是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门技术科学。目前，AI技术具有自动化程度高、精确度高、成本低的优点，得到了广泛的应用。
DL(Deep Learning，深度学习)是ML(Machine Learning，机器学习)领域中一个新的研究方向，是学习样本数据的内在规律和表示层次，使得机器能够像人一样具有分析学习能力，能够识别文字、图像和声音等数据的一门科学，广泛应用于语音和图像识别。
图像处理(Image Processing)是指用计算机对图像进行分析，以达到所需结果的技术。图像处理一般指数字图像处理，数字图像是指用工业相机、摄像机、扫描仪等设备经过拍摄得到的一个大的二维数组，该数组的元素称为像素，其值称为灰度值。图像处理技术一般包括图像压缩，增强和复原，匹配、描述和识别3个部分。
计算机视觉(Computer Vision)是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉，并进一步做图形处理，使电脑处理成为更适合人眼观察或传送给仪器检测的图像。计算机视觉是一门综合性的学科，包括计算机科学和工程、信号处理、物理学、应用数学和统计学，神经生理学和认知科学等。
图1是根据本公开第一实施例的图像分割模型的训练方法的流程示意图。
如图1所示，本公开第一实施例的图像分割模型的训练方法，包括：
S101，获取待训练的学生模型和教师模型，其中，学生模型包括第一编码器、第一解码器和第一输出头，教师模型包括第二编码器、第二解码器和第二输出头，第一输出头、第二输出头隶属于图像分割任务。
需要说明的是，本公开实施例的图像分割模型的训练方法的执行主体可为具有数据信息处理能力的硬件设备和/或驱动该硬件设备工作所需必要的软件。可选地，执行主体可包括工作站、服务器，计算机、用户终端及其他智能设备。其中，用户终端包括但不限于手机、电脑、智能语音交互设备、智能家电、车载终端等。
需要说明的是，学生模型、教师模型的网络架构相同，学生模型、教师模型的模型参数可能相同也可能不同，对第一编码器、第一解码器、第一输出头、第二编码器、第二解码器和第二输出头均不做过多限定。比如，第一输出头、第二输出头均可采用相关技术中的任一图像分割任务的输出头来实现。
需要说明的是，对图像分割任务不做过多限定，比如，可包括道路分割、可行驶区域分割、ROI(Region Of Interest，感兴趣区域)分割、行人分割等。
在一种实施方式中，第一解码器为第一编码器的下一网络层，第一输出头为第一解码器的下一网络层。即第一编码器为学生模型的输入层，第一输出头为学生模型的输出层。
在一种实施方式中，第二解码器为第二编码器的下一网络层，第二输出头为第二解码器的下一网络层。即第二编码器为教师模型的输入层，第二输出头为教师模型的输出层。
S102，在每轮训练过程中，基于第一编码器的模型参数，对第二编码器的模型参数进行更新，并基于第二解码器的模型参数，对第一解码器的模型参数进行更新，并基于第一输出头的模型参数，对第二输出头的模型参数进行更新。
需要说明的是，对第二编码器、第一解码器、第二输出头的模型参数进行更新的步骤可以并行，也可以串行，这里不做过多限定。
需要说明的是，在对第二编码器、第一解码器、第二输出头的模型参数进行更新的过程中，固定第一编码器、第二解码器、第一输出头的模型参数不变，即不更新第一编码器、第二解码器、第一输出头的模型参数。
在一种实施方式中，基于第一编码器的模型参数，对第二编码器的模型参数进行更新，包括若本轮训练非第一轮训练，基于第一编码器在之前至少一轮训练过程确定的模型参数，对第二编码器的模型参数进行更新。比如，可对第一编码器在之前至少一轮训练过程确定的模型参数进行EMA(Exponential Moving Average，指数移动平均)，得到第二编码器更新后的模型参数。
在一种实施方式中，基于第一编码器的模型参数，对第二编码器的模型参数进行更新，包括若本轮训练为第一轮训练，基于第一编码器的初始模型参数，对第二编码器的模型参数进行更新。
需要说明的是，基于第二解码器的模型参数，对第一解码器的模型参数进行更新，以及基于第一输出头的模型参数，对第二输出头的模型参数进行更新的相关内容，可参照基于第一编码器的模型参数，对第二编码器的模型参数进行更新的相关内容，这里不再赘述。
S103，基于原始样本图像，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
需要说明的是，在对第一编码器、第二解码器、第一输出头的模型参数进行更新的过程中，固定第二编码器、第一解码器、第二输出头的模型参数不变，即不更新第二编码器、第一解码器、第二输出头的模型参数。
也就是说，本公开的实施例中，在每轮训练过程中，先固定第一编码器、第二解码器、第一输出头的模型参数不变，基于第一编码器、第二解码器、第一输出头的模型参数，分别更新第二编码器、第一解码器、第二输出头的模型参数，在第二编码器、第一解码器、第二输出头的模型参数更新结束之后，固定第二编码器、第一解码器、第二输出头的模型参数不变，基于原始样本图像，更新第一编码器、第二解码器、第一输出头的模型参数。
在一种实施方式中，基于原始样本图像，对第一编码器、第二解码器、第一输出头的模型参数进行更新，包括将原始样本图像分别输入学生模型、教师模型中，获取学生模型、教师模型输出的分割结果，基于学生模型、教师模型输出的分割结果以及原始样本图像的标注分割结果，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
在一些例子中，将原始样本图像输入学生模型中，获取学生模型输出的分割结果，包括将原始样本图像输入第一编码器中，并利用原始样本图像对第一编码器、第一解码器和第一输出头进行前向计算，得到第一输出头输出的分割结果。可以理解的是，第一输出头输出的分割结果为学生模型输出的分割结果。
在一些例子中，将原始样本图像输入教师模型中，获取教师模型输出的分割结果，包括将原始样本图像输入第二编码器中，并利用原始样本图像对第二编码器、第二解码器和第二输出头进行前向计算，得到第二输出头输出的分割结果。可以理解的是，第二输出头输出的分割结果为教师模型输出的分割结果。
在一些例子中，基于学生模型、教师模型输出的分割结果以及原始样本图像的标注分割结果，对第一编码器、第二解码器、第一输出头的模型参数进行更新，包括基于学生模型、教师模型输出的分割结果以及原始样本图像的标注分割结果，对第一编码器、第二解码器、第一输出头进行反向计算，得到反向计算结果，基于上述反向计算结果，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
需要说明的是，对前向计算、反向计算的具体方式均不做过多限定，比如，前向计算可采用相关技术中的任一前向计算方式来实现，反向计算可采用相关技术中的任一反向计算方式来实现。
S104，响应于达到模型训练结束条件，基于学生模型和教师模型，得到图像分割模型。
需要说明的是，对模型训练结束条件不做过多限定，比如，可包括训练轮数达到设定阈值，模型精度达到设定精度等。
在一种实施方式中，基于学生模型和教师模型，得到图像分割模型，可包括将学生模型确定为图像分割模型，和/或，将教师模型确定为图像分割模型，和/或对学生模型、教师模型进行组合，得到图像分割模型。
在一些例子中，对学生模型、教师模型进行组合，得到图像分割模型，包括对学生模型的至少一个网络层、教师模型的至少一个网络层进行组合，得到图像分割模型。
综上，根据本公开实施例的图像分割模型的训练方法，在每轮训练过程中，可先基于第一编码器、第二解码器、第一输出头的模型参数，分别更新第二编码器、第一解码器、第二输出头的模型参数，之后可基于原始样本图像，更新第一编码器、第二解码器、第一输出头的模型参数，即在每轮训练过程中可先提升第二编码器、第一解码器、第二输出头的性能，再利用性能提升后的第二编码器、第一解码器、第二输出头，来提升第一编码器、第二解码器、第一输出头的性能，有助于提升第一编码器、第二解码器、第一输出头的训练精度。
图2是根据本公开第二实施例的图像分割模型的训练方法的流程示意图。
如图2所示，本公开第二实施例的图像分割模型的训练方法，包括：
S201，获取待训练的学生模型和教师模型，其中，学生模型包括第一编码器、第一解码器和第一输出头，教师模型包括第二编码器、第二解码器和第二输出头，第一输出头、第二输出头隶属于图像分割任务。
S202，在每轮训练过程中，基于第一编码器的模型参数，对第二编码器的模型参数进行更新，并基于第二解码器的模型参数，对第一解码器的模型参数进行更新，并基于第一输出头的模型参数，对第二输出头的模型参数进行更新。
步骤S201-S202的相关内容可参见上述实施例，这里不再赘述。
S203，按照第一设定方式，对原始样本图像进行数据增强，得到第一样本图像。
需要说明的是，对第一设定方式不做过多限定，比如，可包括翻转、旋转、缩放、裁剪等。其中，翻转可包括水平翻转、竖直翻转等，旋转可包括顺时针旋转、逆时针旋转等。
在一种实施方式中，第一设定方式为至少一种数据增强方式的集合，应说明的是，对集合中数据增强方式的数量不做过多限定。
在一些例子中，按照第一设定方式，对原始样本图像进行数据增强，得到第一样本图像，包括从集合中获取数据增强方式，并按照获取的数据增强方式，对原始样本图像进行数据增强，得到第一样本图像。
比如，从集合中获取数据增强方式，包括按照集合中数据增强方式的排列顺序，依次从集合中获取数据增强方式。
比如，第一设定方式为水平翻转、顺时针旋转90度组成的集合，且水平翻转、顺时针旋转90度在集合中的排列顺序为水平翻转、顺时针旋转90度，可依次从集合中获取水平翻转、顺时针旋转90度，先对原始样本图像水平翻转，之后对水平翻转后的原始样本图像顺时针旋转90度，得到第一样本图像。
S204，基于第一样本图像，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
需要说明的是，步骤S204的相关内容，可参见步骤S103的相关内容，这里不再赘述。
在一种实施方式中，基于第一样本图像，对第一编码器、第二解码器、第一输出头的模型参数进行更新，包括将第一样本图像分别输入学生模型、教师模型中，获取学生模型、教师模型输出的分割结果，基于学生模型、教师模型输出的分割结果以及原始样本图像的标注分割结果，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
在一些例子中，基于学生模型、教师模型输出的分割结果以及原始样本图像的标注分割结果，对第一编码器、第二解码器、第一输出头的模型参数进行更新，包括基于学生模型、教师模型输出的分割结果以及原始样本图像的标注分割结果，得到第四损失函数，基于第四损失函数，对第一编码器、第二解码器、第一输出头进行反向计算，得到反向计算结果，基于上述反向计算结果，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
在一些例子中，基于学生模型、教师模型输出的分割结果以及原始样本图像的标注分割结果，得到第四损失函数，包括基于学生模型输出的分割结果和标注分割结果，得到第五损失函数，基于教师模型输出的分割结果和标注分割结果，得到第六损失函数，基于学生模型、教师模型输出的分割结果，得到第七损失函数，对第五损失函数、第六损失函数和第七损失函数进行加权求和，得到第四损失函数。
在一些例子中，基于学生模型输出的分割结果和标注分割结果，得到第五损失函数，包括按照第一设定方式，对标注分割结果进行数据增强，得到第四分割结果，基于学生模型输出的分割结果和第四分割结果，得到第五损失函数。
在一些例子中，基于教师模型输出的分割结果和标注分割结果，得到第六损失函数，包括按照第一设定方式，对标注分割结果进行数据增强，得到第四分割结果，基于教师模型输出的分割结果和第四分割结果，得到第六损失函数。
需要说明的是，第五损失函数、第六损失函数为有监督分割损失，第七损失函数为一致性损失，对第五至第七损失函数的类别不做过多限定，比如，第五损失函数、第六损失函数可包括CE(Cross Entropy，交叉熵)、BCE(Binary Cross Entropy，二值交叉熵)等，第七损失函数可包括MSE(Mean-Square Error，均方误差)。
S205，响应于达到模型训练结束条件，基于所述学生模型和所述教师模型，得到图像分割模型。
步骤S205的相关内容可参见上述实施例，这里不再赘述。
综上，根据本公开实施例的图像分割模型的训练方法，按照第一设定方式，对原始样本图像进行数据增强，得到第一样本图像，基于第一样本图像，对第一编码器、第二解码器、第一输出头的模型参数进行更新。由此，该方法中可对原始样本图像进行数据增强，可扩充样本，适用于原始样本图像的数量较少的应用场景，有助于提升图像分割模型的泛化能力。
图3是根据本公开第三实施例的图像分割模型的训练方法的流程示意图。
如图3所示，本公开第三实施例的图像分割模型的训练方法，包括：
S301，获取待训练的学生模型和教师模型，其中，学生模型包括第一编码器、第一解码器和第一输出头，教师模型包括第二编码器、第二解码器和第二输出头，第一输出头、第二输出头隶属于图像分割任务。
S302，在每轮训练过程中，基于第一编码器的模型参数，对第二编码器的模型参数进行更新，并基于第二解码器的模型参数，对第一解码器的模型参数进行更新，并基于第一输出头的模型参数，对第二输出头的模型参数进行更新。
S303，按照第一设定方式，对原始样本图像进行数据增强，得到第一样本图像。
步骤S301-S303的相关内容可参见上述实施例，这里不再赘述。
S304，按照第二设定方式，对第一样本图像进行数据增强，得到第二样本图像。
需要说明的是，步骤S304的相关内容，可参见步骤S203的相关内容，这里不再赘述。
需要说明的是，第二设定方式可与第一设定方式相同，也可能不同，这里不做过多限定。
在一种实施方式中，第一设定方式为至少一种数据增强方式的集合，第二设定方式为第一设定方式的子集。由此，该方法中第二设定方式可为第一设定方式的子集，有助于进一步提升图像分割模型的泛化能力。
比如，第一设定方式为水平翻转、顺时针旋转90度组成的集合，第二设定方式为水平翻转组成的集合，或者，第二设定方式为顺时针旋转90度组成的集合，或者，第二设定方式为水平翻转、顺时针旋转90度组成的集合。
S305，基于第一样本图像和第二样本图像，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
需要说明的是，步骤S305的相关内容，可参见步骤S103的相关内容，这里不再赘述。
在一种实施方式中，基于第一样本图像和第二样本图像，对第一编码器、第二解码器、第一输出头的模型参数进行更新，包括将第一样本图像输入学生模型中，获取学生模型输出的分割结果，将第二样本图像输入教师模型中，获取教师模型输出的分割结果，基于学生模型、教师模型输出的分割结果以及原始样本图像的标注分割结果，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
S306，响应于达到模型训练结束条件，基于学生模型和教师模型，得到图像分割模型。
步骤S306的相关内容可参见上述实施例，这里不再赘述。
综上，根据本公开实施例的图像分割模型的训练方法，按照第二设定方式，对第一样本图像进行数据增强，得到第二样本图像，基于第一样本图像和第二样本图像，对第一编码器、第二解码器、第一输出头的模型参数进行更新。由此，该方法中在按照第一设定方式对原始样本图像进行数据增强之后，可按照第二设定方式对第一样本图像进行数据增强，可进一步扩充样本，适用于原始样本图像的数量较少的应用场景，有助于提升图像分割模型的泛化能力。
图4是根据本公开第四实施例的图像分割模型的训练方法的流程示意图。
如图4所示，本公开第四实施例的图像分割模型的训练方法，包括：
S401，获取待训练的学生模型和教师模型，其中，学生模型包括第一编码器、第一解码器和第一输出头，教师模型包括第二编码器、第二解码器和第二输出头，第一输出头、第二输出头隶属于图像分割任务。
S402，在每轮训练过程中，基于第一编码器的模型参数，对第二编码器的模型参数进行更新，并基于第二解码器的模型参数，对第一解码器的模型参数进行更新，并基于第一输出头的模型参数，对第二输出头的模型参数进行更新。
S403，按照第一设定方式，对原始样本图像进行数据增强，得到第一样本图像。
S404，按照第二设定方式，对第一样本图像进行数据增强，得到第二样本图像。
步骤S401-S404的相关内容可参见上述实施例，这里不再赘述。
S405，基于第一样本图像，对第一编码器、第一解码器和第一输出头进行前向计算，得到第一分割结果。
在一种实施方式中，基于第一样本图像，对第一编码器、第一解码器和第一输出头进行前向计算，得到第一分割结果，包括将第一样本图像输入第一编码器中，并利用第一样本图像对第一编码器、第一解码器和第一输出头进行前向计算，得到第一输出头输出的第一分割结果。可以理解的是，第一输出头输出的第一分割结果为学生模型输出的第一分割结果。
S406，基于第二样本图像，对第二编码器、第二解码器和第二输出头进行前向计算，得到第二分割结果。
在一种实施方式中，基于第二样本图像，对第二编码器、第二解码器和第二输出头进行前向计算，得到第二分割结果，包括将第二样本图像输入第二编码器中，并利用第二样本图像对第二编码器、第二解码器和第二输出头进行前向计算，得到第二输出头输出的第二分割结果。可以理解的是，第二输出头输出的第二分割结果为学生模型输出的第二分割结果。
S407，基于第一分割结果、第二分割结果和原始样本图像的标注分割结果，得到总损失函数。
在一种实施方式中，基于第一分割结果、第二分割结果和原始样本图像的标注分割结果，得到总损失函数，包括基于第一分割结果和标注分割结果，得到第一损失函数，基于第二分割结果和标注分割结果，得到第二损失函数，基于第一分割结果和第二分割结果，得到第三损失函数，对第一损失函数、第二损失函数和第三损失函数进行加权求和，得到总损失函数。由此，该方法中可综合考虑到第一至第三损失函数，来得到总损失函数，提高了总损失函数的准确性。
需要说明的是，第一损失函数、第二损失函数为有监督分割损失，第三损失函数为一致性损失，对第一至第三损失函数的类别不做过多限定，比如，第一损失函数、第二损失函数可包括CE(Cross Entropy，交叉熵)、BCE(Binary Cross Entropy，二值交叉熵)等，第三损失函数可包括MSE(Mean-Square Error，均方误差)。
在一些例子中，基于第一分割结果和标注分割结果，得到第一损失函数，包括按照第二设定方式，对第一分割结果进行数据增强，得到第三分割结果，按照第一设定方式，对标注分割结果进行数据增强，得到第四分割结果，并按照第二设定方式，对第四分割结果进行数据增强，得到第五分割结果，基于第三分割结果和第五分割结果，得到第一损失函数。可以理解的是，第一样本图像是按照第一设定方式，对原始样本图像进行数据增强得到的，在利用第一分割结果和标注分割结果得到第一损失函数时，还需要按照第二设定方式，对第一分割结果进行数据增强，得到第三分割结果，并依次按照第一设定方式、第二设定方式对标注分割结果进行数据增强，得到第五分割结果，基于第三分割结果和第五分割结果，得到第一损失函数。
在一些例子中，基于第二分割结果和标注分割结果，得到第二损失函数，包括按照第一设定方式，对标注分割结果进行数据增强，得到第四分割结果，并按照第二设定方式，对第四分割结果进行数据增强，得到第五分割结果，基于第二分割结果和第五分割结果，得到第二损失函数。可以理解的是，第二样本图像是依次按照第一设定方式、第二设定方式对原始样本图像进行数据增强得到的，在利用第二分割结果和标注分割结果得到第二损失函数时，还需要依次按照第一设定方式、第二设定方式对标注分割结果进行数据增强，得到第五分割结果，基于第二分割结果和第五分割结果，得到第二损失函数。
在一些例子中，基于第一分割结果和第二分割结果，得到第三损失函数，包括按照第二设定方式，对第一分割结果进行数据增强，得到第三分割结果，基于第三分割结果和第二分割结果，得到第三损失函数。可以理解的是，第一样本图像是按照第一设定方式对原始样本图像进行数据增强得到的，第二样本图像是依次按照第一设定方式、第二设定方式对原始样本图像进行数据增强得到的，在利用第一分割结果和第二分割结果得到第三损失函数时，还需要按照第二设定方式对第一分割结果进行数据增强，得到第三分割结果，基于第三分割结果的第二分割结果，得到第三损失函数。
S408，基于总损失函数，对第一编码器、第二解码器、第一输出头进行反向计算，得到反向计算结果。
S409，基于反向计算结果，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
S410，响应于达到模型训练结束条件，基于学生模型和教师模型，得到图像分割模型。
步骤S408-S410的相关内容可参见上述实施例，这里不再赘述。
综上，根据本公开实施例的图像分割模型的训练方法，可基于第一样本图像，对第一编码器、第一解码器和第一输出头进行前向计算，得到第一分割结果，基于第二样本图像，对第二编码器、第二解码器和第二输出头进行前向计算，得到第二分割结果，即学生模型、教师模型的输入分别为第一样本图像、第二样本图像，可通过第二设定方式构造学生模型、教师模型之间的输入差异，有助于提升图像分割模型的泛化能力，并可基于第一分割结果、第二分割结果和标注分割结果，得到总损失函数，并基于总损失函数，对第一编码器、第二解码器、第一输出头进行反向计算，得到反向计算结果，以对第一编码器、第二解码器、第一输出头的模型参数进行更新。
图5是根据本公开第五实施例的图像分割模型的训练方法的流程示意图。
如图5所示，本公开第五实施例的图像分割模型的训练方法，包括：
S501，获取待训练的学生模型和教师模型，其中，学生模型包括第一编码器、第一解码器和第一输出头，教师模型包括第二编码器、第二解码器和第二输出头，第一输出头、第二输出头隶属于图像分割任务。
步骤S501的相关内容可参见上述实施例，这里不再赘述。
S502，在每轮训练过程中，对第一编码器的模型参数和第二编码器的模型参数进行指数移动平均，得到第二编码器更新后的模型参数，对第一解码器的模型参数和第二解码器的模型参数进行指数移动平均，得到第一解码器更新后的模型参数，对第一输出头的模型参数和第二输出头的模型参数进行指数移动平均，得到第二输出头更新后的模型参数。
需要说明的是，对指数移动平均的具体方式不做过多限定，比如，可采用相关技术中的任一指数移动平均方式来实现。
在一种实施方式中，对第一编码器的模型参数和第二编码器的模型参数进行指数移动平均，得到第二编码器更新后的模型参数，可采用下述公式来实现：
’
A＝τA+(1-τ)B
其中，A’为第二编码器更新后的模型参数，A为第二编码器的模型参数，B为第一编码器的模型参数，τ为系数，0<τ<1。
需要说明的是，对第一解码器的模型参数和第二解码器的模型参数进行指数移动平均，得到第一解码器更新后的模型参数，对第一输出头的模型参数和第二输出头的模型参数进行指数移动平均，得到第二输出头更新后的模型参数的相关内容，可参照对第一编码器的模型参数和第二编码器的模型参数进行指数移动平均，得到第二编码器更新后的模型参数的相关内容，这里不再赘述。
S503，基于原始样本图像，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
步骤S503的相关内容可参见上述实施例，这里不再赘述。
S504，响应于达到模型训练结束条件，对第二编码器、第一解码器和第二输出头进行组合，得到图像分割模型。
可以理解的是，第二编码器、第一解码器和第二输出头的模型参数采用指数移动平均来更新，则第二编码器的性能相较于第一编码器的性能更好，第一解码器的性能相较于第二解码器的性能更好，第二输出头的性能相较于第一输出头的性能更好。
需要说明的是，对第二编码器、第一解码器和第二输出头进行组合的具体方式不做过多限定。比如，第一解码器为第二编码器的下一网络层，第二输出头为第一解码器的下一网络层。即第二编码器为图像分割模型的输入层，第二输出头为图像分割模型的输出层。
综上，根据本公开实施例的图像分割模型的训练方法，第二编码器、第一解码器和第二输出头的模型参数采用指数移动平均来更新，有助于提升第二编码器、第一解码器和第二输出头的性能，并可第二编码器、第一解码器和第二输出头进行组合，得到图像分割模型，得到的图像分割模型的性能更好。
在上述任一实施例的基础上，如图6所示，学生模型包括第一编码器、第一解码器、第一输出头，教师模型包括第二编码器、第二解码器和第二输出头。
在每轮训练过程中，对第一编码器的模型参数和第二编码器的模型参数进行指数移动平均，得到第二编码器更新后的模型参数，对第一解码器的模型参数和第二解码器的模型参数进行指数移动平均，得到第一解码器更新后的模型参数，对第一输出头的模型参数和第二输出头的模型参数进行指数移动平均，得到第二输出头更新后的模型参数。
按照第一设定方式T1，对原始样本图像X0进行数据增强，得到第一样本图像X1，按照第二设定方式T2，对第一样本图像X1进行数据增强，得到第二样本图像X2。
基于第一样本图像X1，对第一编码器、第一解码器和第一输出头进行前向计算，得到第一分割结果Y1，基于第二样本图像X2，对第二编码器、第二解码器和第二输出头进行前向计算，得到第二分割结果Y2。
按照第二设定方式T2，对第一分割结果Y1进行数据增强，得到第三分割结果Y3。
按照第一设定方式T1，对标注分割结果Y0进行数据增强，得到第四分割结果Y4，并按照第二设定方式T2，对第四分割结果Y4进行数据增强，得到第五分割结果Y5。
基于第三分割结果Y3和第五分割结果Y5，得到第一损失函数，基于第二分割结果Y2和第五分割结果Y5，得到第二损失函数，基于第三分割结果Y3和第二分割结果Y2，得到第三损失函数，对第一损失函数、第二损失函数和第三损失函数进行加权求和，得到总损失函数，基于总损失函数，对第一编码器、第二解码器、第一输出头进行反向计算，得到反向计算结果，基于反向计算结果，对第一编码器、第二解码器、第一输出头的模型参数进行更新。
图7是根据本公开第一实施例的图像分割方法的流程示意图。
如图7所示，本公开第一实施例的图像分割方法，包括：
S701，获取待处理图像。
需要说明的是，本公开实施例的图像分割方法的执行主体可为具有数据信息处理能力的硬件设备和/或驱动该硬件设备工作所需必要的软件。可选地，执行主体可包括工作站、服务器，计算机、用户终端及其他智能设备。其中，用户终端包括但不限于手机、电脑、智能语音交互设备、智能家电、车载终端等。
需要说明的是，对待处理图像不做过多限定。比如，待处理图像包括但不限于二维图像、三维图像等。
在一种实施方式中，以执行主体为用户终端为例，用户终端可从自身的存储空间中获取待处理图像，和/或，可通过相机进行拍摄，来获取待处理图像，和/或，从网页、APP(Application，应用程序)上爬取到待处理图像。
S702，将待处理图像输入图像分割模型中，由图像分割模型输出待处理图像的分割结果，其中，图像分割模型采用图像分割模型的训练方法得到。
需要说明的是，图像分割模型可采用图1至图6所示的图像分割模型的训练方法得到，这里不再赘述。
需要说明的是，对分割结果不做过多限定，比如，可包括道路分割结果、可行驶区域分割结果、ROI(Region Of Interest，感兴趣区域)分割结果、行人分割结果等。
综上，根据本公开实施例的图像分割方法，可将待处理图像输入图像分割模型中，由图像分割模型输出待处理图像的分割结果，图像分割模型采用本公开的图像分割模型的训练方法得到，图像分割模型的精度和性能更好，有助于提升图像分割效果。
本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。
根据本公开的实施例，本公开还提供了一种图像分割模型的训练装置，用于实现上述的图像分割模型的训练方法。
图8是根据本公开第一实施例的图像分割模型的训练装置的框图。
如图8所示，本公开实施例的图像分割模型的训练装置800，包括：获取模块801、第一更新模块802、第二更新模块803和生成模块804。
获取模块801用于获取待训练的学生模型和教师模型，其中，所述学生模型包括第一编码器、第一解码器和第一输出头，所述教师模型包括第二编码器、第二解码器和第二输出头，所述第一输出头、所述第二输出头隶属于图像分割任务；
第一更新模块802用于在每轮训练过程中，基于所述第一编码器的模型参数，对所述第二编码器的模型参数进行更新，并基于所述第二解码器的模型参数，对所述第一解码器的模型参数进行更新，并基于所述第一输出头的模型参数，对所述第二输出头的模型参数进行更新；
第二更新模块803用于基于原始样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新；
生成模块804用于响应于达到模型训练结束条件，基于所述学生模型和所述教师模型，得到图像分割模型。
在本公开的一个实施例中，所述第二更新模块803还用于：按照第一设定方式，对所述原始样本图像进行数据增强，得到第一样本图像；基于所述第一样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新。
在本公开的一个实施例中，所述第二更新模块803还用于：按照第二设定方式，对所述第一样本图像进行数据增强，得到第二样本图像；基于所述第一样本图像和所述第二样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新。
在本公开的一个实施例中，所述第一设定方式为至少一种数据增强方式的集合，所述第二设定方式为所述第一设定方式的子集。
在本公开的一个实施例中，所述第二更新模块803还用于：基于所述第一样本图像，对所述第一编码器、所述第一解码器和所述第一输出头进行前向计算，得到第一分割结果；基于所述第二样本图像，对所述第二编码器、所述第二解码器和所述第二输出头进行前向计算，得到第二分割结果；基于所述第一分割结果、所述第二分割结果和所述原始样本图像的标注分割结果，得到总损失函数；基于所述总损失函数，对所述第一编码器、所述第二解码器、所述第一输出头进行反向计算，得到反向计算结果；基于所述反向计算结果，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新。
在本公开的一个实施例中，所述第二更新模块803还用于：基于所述第一分割结果和所述标注分割结果，得到第一损失函数；基于所述第二分割结果和所述标注分割结果，得到第二损失函数；基于所述第一分割结果和所述第二分割结果，得到第三损失函数；对所述第一损失函数、所述第二损失函数和所述第三损失函数进行加权求和，得到所述总损失函数。
在本公开的一个实施例中，所述第二更新模块803还用于：按照所述第二设定方式，对所述第一分割结果进行数据增强，得到第三分割结果；按照所述第一设定方式，对所述标注分割结果进行数据增强，得到第四分割结果，并按照所述第二设定方式，对所述第四分割结果进行数据增强，得到第五分割结果；基于所述第三分割结果和所述第五分割结果，得到所述第一损失函数。
在本公开的一个实施例中，所述第二更新模块803还用于：按照所述第一设定方式，对所述标注分割结果进行数据增强，得到第四分割结果，并按照所述第二设定方式，对所述第四分割结果进行数据增强，得到第五分割结果；基于所述第二分割结果和所述第五分割结果，得到所述第二损失函数。
在本公开的一个实施例中，所述第二更新模块803还用于：按照所述第二设定方式，对所述第一分割结果进行数据增强，得到第三分割结果；基于所述第三分割结果和所述第二分割结果，得到所述第三损失函数。
在本公开的一个实施例中，所述第一更新模块802还用于：对所述第一编码器的模型参数和所述第二编码器的模型参数进行指数移动平均，得到所述第二编码器更新后的模型参数；对所述第一解码器的模型参数和所述第二解码器的模型参数进行指数移动平均，得到所述第一解码器更新后的模型参数；对所述第一输出头的模型参数和所述第二输出头的模型参数进行指数移动平均，得到所述第二输出头更新后的模型参数。
在本公开的一个实施例中，所述生成模块804还用于：对所述第二编码器、所述第一解码器和所述第二输出头进行组合，得到所述图像分割模型。
综上，本公开实施例的图像分割模型的训练装置，在每轮训练过程中，可先基于第一编码器、第二解码器、第一输出头的模型参数，分别更新第二编码器、第一解码器、第二输出头的模型参数，之后可基于原始样本图像，更新第一编码器、第二解码器、第一输出头的模型参数，即在每轮训练过程中可先提升第二编码器、第一解码器、第二输出头的性能，再利用性能提升后的第二编码器、第一解码器、第二输出头，来提升第一编码器、第二解码器、第一输出头的性能，有助于提升第一编码器、第二解码器、第一输出头的训练精度。
根据本公开的实施例，本公开还提供了一种图像分割装置，用于实现上述的图像分割方法。
图9是根据本公开第一实施例的图像分割装置的框图。
如图9所示，本公开实施例的图像分割装置900，包括：获取模块901和分割模块902。
获取模块901用于获取待处理图像；
分割模块902用于将所述待处理图像输入图像分割模型中，由所述图像分割模型输出所述待处理图像的分割结果，其中，所述图像分割模型采用如本公开的图像分割模型的训练方法得到。
综上，本公开实施例的图像分割装置，可将待处理图像输入图像分割模型中，由图像分割模型输出待处理图像的分割结果，图像分割模型采用本公开的图像分割模型的训练方法得到，图像分割模型的精度和性能更好，有助于提升图像分割效果。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图10示出了可以用来实施本公开的实施例的示例电子设备1000的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图10所示，电子设备1000包括计算单元1001，其可以根据存储在只读存储器(ROM)1002中的计算机程序或者从存储单元1008加载到随机访问存储器(RAM)1003中的计算机程序，来执行各种适当的动作和处理。在RAM 1003中，还可存储电子设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
电子设备1000中的多个部件连接至I/O接口1005，包括：输入单元1006，例如键盘、鼠标等；输出单元1007，例如各种类型的显示器、扬声器等；存储单元1008，例如磁盘、光盘等；以及通信单元1009，例如网卡、调制解调器、无线通信收发机等。通信单元1009允许电子设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理，例如图1至图6所述的图像分割模型的训练方法、例如图7所述的图像分割方法。例如，在一些实施例中，图像分割模型的训练方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元1008。在一些实施例中，计算机程序的部分或者全部可以经由ROM 1002和/或通信单元1009而被载入和/或安装到电子设备1000上。当计算机程序加载到RAM 1003并由计算单元1001执行时，可以执行上文描述的图像分割模型的训练方法的一个或多个步骤。备选地，在其他实施例中，计算单元1001可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行图像分割模型的训练方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务("Virtual Private Server"，或简称"VPS")中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。
根据本公开的实施例，本公开还提供了一种计算机程序产品，包括计算机程序，其中，所述计算机程序被处理器执行时实现本公开上述实施例所述的图像分割模型的训练方法的步骤、图像分割方法的步骤。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (27)

1.一种图像分割模型的训练方法，包括：
获取待训练的学生模型和教师模型，其中，所述学生模型包括第一编码器、第一解码器和第一输出头，所述教师模型包括第二编码器、第二解码器和第二输出头，所述第一输出头、所述第二输出头隶属于图像分割任务；
在每轮训练过程中，基于所述第一编码器的模型参数，对所述第二编码器的模型参数进行更新，并基于所述第二解码器的模型参数，对所述第一解码器的模型参数进行更新，并基于所述第一输出头的模型参数，对所述第二输出头的模型参数进行更新；
基于原始样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新；
响应于达到模型训练结束条件，基于所述学生模型和所述教师模型，得到图像分割模型。
2.根据权利要求1所述的方法，其中，所述基于原始样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新，包括：
按照第一设定方式，对所述原始样本图像进行数据增强，得到第一样本图像；
基于所述第一样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新。
3.根据权利要求2所述的方法，其中，所述基于所述第一样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新，包括：
按照第二设定方式，对所述第一样本图像进行数据增强，得到第二样本图像；
基于所述第一样本图像和所述第二样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新。
4.根据权利要求3所述的方法，其中，所述第一设定方式为至少一种数据增强方式的集合，所述第二设定方式为所述第一设定方式的子集。
5.根据权利要求3所述的方法，其中，所述基于所述第一样本图像和所述第二样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新，包括：
基于所述第一样本图像，对所述第一编码器、所述第一解码器和所述第一输出头进行前向计算，得到第一分割结果；
基于所述第二样本图像，对所述第二编码器、所述第二解码器和所述第二输出头进行前向计算，得到第二分割结果；
基于所述第一分割结果、所述第二分割结果和所述原始样本图像的标注分割结果，得到总损失函数；
基于所述总损失函数，对所述第一编码器、所述第二解码器、所述第一输出头进行反向计算，得到反向计算结果；
基于所述反向计算结果，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新。
6.根据权利要求5所述的方法，其中，所述基于所述第一分割结果、所述第二分割结果和所述原始样本图像的标注分割结果，得到总损失函数，包括：
基于所述第一分割结果和所述标注分割结果，得到第一损失函数；
基于所述第二分割结果和所述标注分割结果，得到第二损失函数；
基于所述第一分割结果和所述第二分割结果，得到第三损失函数；
对所述第一损失函数、所述第二损失函数和所述第三损失函数进行加权求和，得到所述总损失函数。
7.根据权利要求6所述的方法，其中，所述基于所述第一分割结果和所述标注分割结果，得到第一损失函数，包括：
按照所述第二设定方式，对所述第一分割结果进行数据增强，得到第三分割结果；
按照所述第一设定方式，对所述标注分割结果进行数据增强，得到第四分割结果，并按照所述第二设定方式，对所述第四分割结果进行数据增强，得到第五分割结果；
基于所述第三分割结果和所述第五分割结果，得到所述第一损失函数。
8.根据权利要求6所述的方法，其中，所述基于所述第二分割结果和所述标注分割结果，得到第二损失函数，包括：
按照所述第一设定方式，对所述标注分割结果进行数据增强，得到第四分割结果，并按照所述第二设定方式，对所述第四分割结果进行数据增强，得到第五分割结果；
基于所述第二分割结果和所述第五分割结果，得到所述第二损失函数。
9.根据权利要求6所述的方法，其中，所述基于所述第一分割结果和所述第二分割结果，得到第三损失函数，包括：
按照所述第二设定方式，对所述第一分割结果进行数据增强，得到第三分割结果；
基于所述第三分割结果和所述第二分割结果，得到所述第三损失函数。
10.根据权利要求1-9中任一项所述的方法，其中，所述基于所述第一编码器的模型参数，对所述第二编码器的模型参数进行更新，包括：
对所述第一编码器的模型参数和所述第二编码器的模型参数进行指数移动平均，得到所述第二编码器更新后的模型参数；
所述基于所述第二解码器的模型参数，对所述第一解码器的模型参数进行更新，包括：
对所述第一解码器的模型参数和所述第二解码器的模型参数进行指数移动平均，得到所述第一解码器更新后的模型参数；
所述基于所述第一输出头的模型参数，对所述第二输出头的模型参数进行更新，包括：
对所述第一输出头的模型参数和所述第二输出头的模型参数进行指数移动平均，得到所述第二输出头更新后的模型参数。
11.根据权利要求1-9中任一项所述的方法，其中，所述基于所述学生模型和所述教师模型，得到图像分割模型，包括：
对所述第二编码器、所述第一解码器和所述第二输出头进行组合，得到所述图像分割模型。
12.一种图像分割方法，包括：
获取待处理图像；
将所述待处理图像输入图像分割模型中，由所述图像分割模型输出所述待处理图像的分割结果，其中，所述图像分割模型采用如权利要求1-11中任一项所述的图像分割模型的训练方法得到。
13.一种图像分割模型的训练装置，包括：
获取模块，用于获取待训练的学生模型和教师模型，其中，所述学生模型包括第一编码器、第一解码器和第一输出头，所述教师模型包括第二编码器、第二解码器和第二输出头，所述第一输出头、所述第二输出头隶属于图像分割任务；
第一更新模块，用于在每轮训练过程中，基于所述第一编码器的模型参数，对所述第二编码器的模型参数进行更新，并基于所述第二解码器的模型参数，对所述第一解码器的模型参数进行更新，并基于所述第一输出头的模型参数，对所述第二输出头的模型参数进行更新；
第二更新模块，用于基于原始样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新；
生成模块，用于响应于达到模型训练结束条件，基于所述学生模型和所述教师模型，得到图像分割模型。
14.根据权利要求13所述的装置，其中，所述第二更新模块，还用于：
按照第一设定方式，对所述原始样本图像进行数据增强，得到第一样本图像；
基于所述第一样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新。
15.根据权利要求14所述的装置，其中，所述第二更新模块，还用于：
按照第二设定方式，对所述第一样本图像进行数据增强，得到第二样本图像；
基于所述第一样本图像和所述第二样本图像，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新。
16.根据权利要求15所述的装置，其中，所述第一设定方式为至少一种数据增强方式的集合，所述第二设定方式为所述第一设定方式的子集。
17.根据权利要求15所述的装置，其中，所述第二更新模块，还用于：
基于所述第一样本图像，对所述第一编码器、所述第一解码器和所述第一输出头进行前向计算，得到第一分割结果；
基于所述第二样本图像，对所述第二编码器、所述第二解码器和所述第二输出头进行前向计算，得到第二分割结果；
基于所述第一分割结果、所述第二分割结果和所述原始样本图像的标注分割结果，得到总损失函数；
基于所述总损失函数，对所述第一编码器、所述第二解码器、所述第一输出头进行反向计算，得到反向计算结果；
基于所述反向计算结果，对所述第一编码器、所述第二解码器、所述第一输出头的模型参数进行更新。
18.根据权利要求17所述的装置，其中，所述第二更新模块，还用于：
基于所述第一分割结果和所述标注分割结果，得到第一损失函数；
基于所述第二分割结果和所述标注分割结果，得到第二损失函数；
基于所述第一分割结果和所述第二分割结果，得到第三损失函数；
对所述第一损失函数、所述第二损失函数和所述第三损失函数进行加权求和，得到所述总损失函数。
19.根据权利要求18所述的装置，其中，所述第二更新模块，还用于：
按照所述第二设定方式，对所述第一分割结果进行数据增强，得到第三分割结果；
按照所述第一设定方式，对所述标注分割结果进行数据增强，得到第四分割结果，并按照所述第二设定方式，对所述第四分割结果进行数据增强，得到第五分割结果；
基于所述第三分割结果和所述第五分割结果，得到所述第一损失函数。
20.根据权利要求18所述的装置，其中，所述第二更新模块，还用于：
按照所述第一设定方式，对所述标注分割结果进行数据增强，得到第四分割结果，并按照所述第二设定方式，对所述第四分割结果进行数据增强，得到第五分割结果；
基于所述第二分割结果和所述第五分割结果，得到所述第二损失函数。
21.根据权利要求18所述的装置，其中，所述第二更新模块，还用于：
按照所述第二设定方式，对所述第一分割结果进行数据增强，得到第三分割结果；
基于所述第三分割结果和所述第二分割结果，得到所述第三损失函数。
22.根据权利要求13-21中任一项所述的装置，其中，所述第一更新模块，还用于：
对所述第一编码器的模型参数和所述第二编码器的模型参数进行指数移动平均，得到所述第二编码器更新后的模型参数；
对所述第一解码器的模型参数和所述第二解码器的模型参数进行指数移动平均，得到所述第一解码器更新后的模型参数；
对所述第一输出头的模型参数和所述第二输出头的模型参数进行指数移动平均，得到所述第二输出头更新后的模型参数。
23.根据权利要求13-21中任一项所述的装置，其中，所述生成模块，还用于：
对所述第二编码器、所述第一解码器和所述第二输出头进行组合，得到所述图像分割模型。
24.一种图像分割装置，包括：
获取模块，用于获取待处理图像；
分割模块，用于将所述待处理图像输入图像分割模型中，由所述图像分割模型输出所述待处理图像的分割结果，其中，所述图像分割模型采用如权利要求1-11中任一项所述的图像分割模型的训练方法得到。
25.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1-12中任一项所述的方法。
26.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行如权利要求1-12中任一项所述的方法。
27.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如权利要求1-12中任一项所述的方法的步骤。
CN202310110120.6A 2023-02-02 2023-02-02 图像分割模型的训练方法、图像分割方法和装置 Active CN116091773B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310110120.6A CN116091773B (zh) 2023-02-02 2023-02-02 图像分割模型的训练方法、图像分割方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310110120.6A CN116091773B (zh) 2023-02-02 2023-02-02 图像分割模型的训练方法、图像分割方法和装置

Publications (2)

Publication Number Publication Date
CN116091773A true CN116091773A (zh) 2023-05-09
CN116091773B CN116091773B (zh) 2024-04-05

Family

ID=86211855

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310110120.6A Active CN116091773B (zh) 2023-02-02 2023-02-02 图像分割模型的训练方法、图像分割方法和装置

Country Status (1)

Country Link
CN (1) CN116091773B (zh)

Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111932561A (zh) * 2020-09-21 2020-11-13 深圳大学 基于集成知识蒸馏的实时肠镜影像分割方法及装置
CN113361572A (zh) * 2021-05-25 2021-09-07 北京百度网讯科技有限公司 图像处理模型的训练方法、装置、电子设备以及存储介质
WO2021205066A1 (en) * 2020-04-09 2021-10-14 Nokia Technologies Oy Training a data coding system for use with machines
US20210357680A1 (en) * 2020-03-16 2021-11-18 Sas Institute Inc. Machine learning classification system
CN113807399A (zh) * 2021-08-16 2021-12-17 华为技术有限公司 一种神经网络训练方法、检测方法以及装置
CN114140390A (zh) * 2021-11-02 2022-03-04 广州大学 一种基于半监督语义分割的裂纹检测方法及装置
CN114267062A (zh) * 2021-12-07 2022-04-01 北京的卢深视科技有限公司 模型训练方法、电子设备和计算机可读存储介质
CN114299380A (zh) * 2021-11-16 2022-04-08 中国华能集团清洁能源技术研究院有限公司 对比一致性学习的遥感图像语义分割模型训练方法及装置
CN114365121A (zh) * 2019-09-13 2022-04-15 三菱电机株式会社 用于对话响应生成系统的系统和方法
US20220147680A1 (en) * 2020-11-12 2022-05-12 Samsung Electronics Co., Ltd. Method for co-design of hardware and neural network architectures using coarse-to-fine search, two-phased block distillation and neural hardware predictor
CN114494815A (zh) * 2022-01-27 2022-05-13 北京百度网讯科技有限公司 神经网络训练方法、目标检测方法、装置、设备和介质
CN114861885A (zh) * 2022-05-20 2022-08-05 科大讯飞股份有限公司 基于知识蒸馏的模型训练方法、相关设备及可读存储介质
US20220319501A1 (en) * 2021-04-02 2022-10-06 Asapp, Inc. Stochastic future context for speech processing
US20220343178A1 (en) * 2019-09-25 2022-10-27 Presagen Pty Ltd Method and system for performing non-invasive genetic testing using an artificial intelligence (ai) model
CN115271064A (zh) * 2022-07-20 2022-11-01 杭州一知智能科技有限公司 一种基于鉴别器思想的文本蒸馏方法、系统和存储介质
CN115375986A (zh) * 2022-07-08 2022-11-22 际络科技(上海)有限公司 一种模型蒸馏方法及装置
CN115511795A (zh) * 2022-09-07 2022-12-23 西北工业大学 一种基于半监督学习的医学图像分割方法

Patent Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114365121A (zh) * 2019-09-13 2022-04-15 三菱电机株式会社 用于对话响应生成系统的系统和方法
US20220343178A1 (en) * 2019-09-25 2022-10-27 Presagen Pty Ltd Method and system for performing non-invasive genetic testing using an artificial intelligence (ai) model
US20210357680A1 (en) * 2020-03-16 2021-11-18 Sas Institute Inc. Machine learning classification system
WO2021205066A1 (en) * 2020-04-09 2021-10-14 Nokia Technologies Oy Training a data coding system for use with machines
CN111932561A (zh) * 2020-09-21 2020-11-13 深圳大学 基于集成知识蒸馏的实时肠镜影像分割方法及装置
US20220147680A1 (en) * 2020-11-12 2022-05-12 Samsung Electronics Co., Ltd. Method for co-design of hardware and neural network architectures using coarse-to-fine search, two-phased block distillation and neural hardware predictor
US20220319501A1 (en) * 2021-04-02 2022-10-06 Asapp, Inc. Stochastic future context for speech processing
CN113361572A (zh) * 2021-05-25 2021-09-07 北京百度网讯科技有限公司 图像处理模型的训练方法、装置、电子设备以及存储介质
CN113807399A (zh) * 2021-08-16 2021-12-17 华为技术有限公司 一种神经网络训练方法、检测方法以及装置
CN114140390A (zh) * 2021-11-02 2022-03-04 广州大学 一种基于半监督语义分割的裂纹检测方法及装置
CN114299380A (zh) * 2021-11-16 2022-04-08 中国华能集团清洁能源技术研究院有限公司 对比一致性学习的遥感图像语义分割模型训练方法及装置
CN114267062A (zh) * 2021-12-07 2022-04-01 北京的卢深视科技有限公司 模型训练方法、电子设备和计算机可读存储介质
CN114494815A (zh) * 2022-01-27 2022-05-13 北京百度网讯科技有限公司 神经网络训练方法、目标检测方法、装置、设备和介质
CN114861885A (zh) * 2022-05-20 2022-08-05 科大讯飞股份有限公司 基于知识蒸馏的模型训练方法、相关设备及可读存储介质
CN115375986A (zh) * 2022-07-08 2022-11-22 际络科技(上海)有限公司 一种模型蒸馏方法及装置
CN115271064A (zh) * 2022-07-20 2022-11-01 杭州一知智能科技有限公司 一种基于鉴别器思想的文本蒸馏方法、系统和存储介质
CN115511795A (zh) * 2022-09-07 2022-12-23 西北工业大学 一种基于半监督学习的医学图像分割方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
余颖舜等: "行车障碍识别算法的精度提升方法", 《汽车与新动力》 *

Also Published As

Publication number Publication date
CN116091773B (zh) 2024-04-05

Similar Documents

Publication Publication Date Title
JP7273129B2 (ja) 車線検出方法、装置、電子機器、記憶媒体及び車両
CN113538235B (zh) 图像处理模型的训练方法、装置、电子设备及存储介质
GB2596370A (en) Model training method and apparatus, and prediction method and apparatus
CN113379627B (zh) 图像增强模型的训练方法和对图像进行增强的方法
CN112785493B (zh) 模型的训练方法、风格迁移方法、装置、设备及存储介质
EP3958207A2 (en) Method and apparatus for video frame interpolation, and electronic device
CN113627536B (zh) 模型训练、视频分类方法，装置，设备以及存储介质
CN115880435B (zh) 图像重建方法、模型训练方法、装置、电子设备和介质
CN113393371B (zh) 一种图像处理方法、装置及电子设备
CN115330940B (zh) 一种三维重建方法、装置、设备和介质
CN114792355A (zh) 虚拟形象生成方法、装置、电子设备和存储介质
CN113033346B (zh) 文本检测方法、装置和电子设备
CN112580563B (zh) 视频摘要的生成方法、装置、电子设备和存储介质
CN113516697A (zh) 图像配准的方法、装置、电子设备及计算机可读存储介质
CN114758130B (zh) 图像处理及模型训练方法、装置、设备和存储介质
CN114881227B (zh) 模型压缩方法、图像处理方法、装置和电子设备
CN116091773B (zh) 图像分割模型的训练方法、图像分割方法和装置
CN116402914A (zh) 用于确定风格化图像生成模型的方法、装置及产品
CN113792876B (zh) 骨干网络的生成方法、装置、设备以及存储介质
CN113781653B (zh) 对象模型生成方法、装置、电子设备及存储介质
CN113361519B (zh) 目标处理方法、目标处理模型的训练方法及其装置
CN114022357A (zh) 图像重建方法、图像重建模型的训练方法、装置和设备
JP2014149788A (ja) 物体領域境界推定装置、物体領域境界推定方法及び物体領域境界推定プログラム
CN113537398A (zh) 颜值评估模型训练方法及组件，颜值评估方法及组件
CN113344213A (zh) 知识蒸馏方法、装置、电子设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant