CN112884770B - 图像分割处理方法、装置及计算机设备 - Google Patents

图像分割处理方法、装置及计算机设备 Download PDF

Info

Publication number
CN112884770B
CN112884770B CN202110465350.5A CN202110465350A CN112884770B CN 112884770 B CN112884770 B CN 112884770B CN 202110465350 A CN202110465350 A CN 202110465350A CN 112884770 B CN112884770 B CN 112884770B
Authority
CN
China
Prior art keywords
segmentation
information
image
model
initial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110465350.5A
Other languages
English (en)
Other versions
CN112884770A (zh
Inventor
李悦翔
何楠君
马锴
郑冶枫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Healthcare Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202110465350.5A priority Critical patent/CN112884770B/zh
Publication of CN112884770A publication Critical patent/CN112884770A/zh
Application granted granted Critical
Publication of CN112884770B publication Critical patent/CN112884770B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本申请公开了一种图像分割处理方法、装置及计算机设备,属于人工智能技术领域。本申请通过图像分割模型基于样本图像以及初始分割信息,对输入的初始分割信息进行至少一次迭代调整,再基于样本图像、每次迭代调整过程中模型的输入、输出分割信息以及参考分割信息确定出一个奖励值,应用该奖励值来调整图像分割模型的模型参数,使模型能够学习到样本图像的特征和正确图像分割信息的特征,经过多轮模型训练所得到的图像分割模型能够对图像的分割信息进行修正,得到更为准确的图像分割信息,降低图像分割过程中的人力成本,提高图像分割效率。

Description

图像分割处理方法、装置及计算机设备
技术领域
本申请涉及人工智能技术领域,特别涉及一种图像分割处理方法、装置及计算机设备。
背景技术
目前,在临床医学领域,医务工作者往往需要处理大量的医疗图像,通常是对医疗图像进行图像分割并添加标注信息,由于在临床医学领域,对于医疗图像进行分割的准确度要求极高,往往需要多个医务工作者对同一个医疗图像进行图像分割标注,将各个医务工作者的图像分割标注进行汇总,得到一个准确的图像分割标注。
在上述图像分割过程中得到一个正确的图像分割标注所付出的人力成本较高,因此,如何结合人工智能技术训练出一个图像分割模型,通过图像分割模型来对任一医生的图像分割标注进行修正,以辅助医务工作者进行医学图像标注,是一个重要研究方向。
发明内容
本申请实施例提供了一种图像分割处理方法、装置及计算机设备,能够对初始的图像分割信息进行修正,得到更为准确的图像分割信息。该技术方案如下。
一方面,提供了一种图像分割处理方法,该方法包括:
获取样本图像以及该样本图像的初始分割信息,该初始分割信息是该样本图像对应的图像分割标注信息;
通过图像分割模型基于该样本图像以及该初始分割信息,对该初始分割信息进行至少一次迭代调整,得到至少一个中间分割信息以及对应的第一标签信息,该第一标签信息用于指示该中间分割信息的准确度;
基于该初始分割信息、该样本图像的参考分割信息、该至少一个中间分割信息以及对应的第一标签信息,确定奖励值;
基于该奖励值对该图像分割模型的模型参数进行更新;
响应于更新后的该图像分类模型满足该第一参考条件,获取到训练完成的该图像分割模型。
一方面,提供了一种图像分割处理装置,该装置包括:
获取模块,用于获取样本图像以及该样本图像的初始分割信息,该初始分割信息是该样本图像对应的图像分割标注信息;
调整模块,用于通过图像分割模型基于该样本图像以及该初始分割信息,对该初始分割信息进行至少一次迭代调整,得到至少一个中间分割信息以及对应的第一标签信息,该第一标签信息用于指示该中间分割信息的准确度;
确定模块,用于基于该初始分割信息、该样本图像的参考分割信息、该至少一个中间分割信息以及对应的第一标签信息,确定奖励值;
更新模块,用于基于该奖励值对该图像分割模型的模型参数进行更新;响应于更新后的该图像分类模型满足该第一参考条件,获取到训练完成的该图像分割模型。
在一种可能实现方式中,该调整模块,用于:
通过该图像分割模型基于该样本图像以及该初始分割信息,对该初始分割信息进行一次调整,得到该图像分割模型输出的一个中间分割信息以及对应的第一标签信息;
响应于当前迭代调整次数未达到第一阈值,将该图像分割模型前一次输出的中间分割信息以及该样本图像输入该图像分割模型,通过该图像分割模型对该前一次输出的中间分割信息进行一次调整,得到一个新的中间分割信息以及对应的第一标签信息。
在一种可能实现方式中,该调整模块,包括:
第一子模块,用于通过该图像分割模型中的分割网络,基于该样本图像以及该初始分割信息,对该初始分割信息进行调整,得到中间分割信息;
第二子模块,用于通过该图像分割模型中的质量鉴别网络,确定该中间分割信息对应的第一标签信息。
在一种可能实现方式中,该第一子模块,用于:
通过该分割网络基于该样本图像以及该初始分割信息,确定行为信息,该行为信息包括该初始分割信息中各个元素对应的调整值;
基于该行为信息对该初始分割信息进行调整,得到该中间分割信息。
在一种可能实现方式中,该第二子模块,用于:
通过该质量鉴别网络对该样本图像以及该中间分割信息进行特征提取;
通过该质量鉴别网络对该样本图像以及该中间分割信息的特征进行处理,得到该第一标签信息。
在一种可能实现方式中,该确定模块,包括:
第三子模块,用于对于任一次迭代调整,基于该任一次迭代调整过程中,该样本图像的参考分割信息、输入该图像分割模型的分割信息、该图像分割模型输出的分割信息以及对应的第一标签信息,确定一个初始奖励值;
第四子模块,用于对获取到的至少一个该初始奖励值进行累加,得到该奖励值。
在一种可能实现方式中,该第三子模块,包括:
第一确定单元,用于基于该任一次迭代调整过程中,该样本图像的参考分割信息、输入该图像分割模型的分割信息、该图像分割模型输出的分割信息,确定第一子奖励值;
第二确定单元,用于基于该第一标签信息、第二标签信息以及第三标签信息,确定第二子奖励值,该第二标签信息用于指示该参考分割信息的准确度,该第三标签信息用于指示该图像分割模型输出的分割信息再次经过该图像分割模型调整后的准确度;
加权单元,用于对该第一子奖励值和该第二子奖励值进行加权处理,得到该初始奖励值。
在一种可能实现方式中,该第一确定单元,用于:
将该输入该图像分割模型的分割信息与该参考分割信息之间的差值的绝对值,确定为第一误差;
将该图像分割模型输出的分割信息与该参考分割信息之间的差值的绝对值,确定为第二误差;
将该第一误差与该第二误差之间的差值,确定为该第一子奖励值。
在一种可能实现方式中,该第二确定单元,用于:
基于该第二标签信息对应的期望、该第三标签信息对应的期望,确定第三误差;
基于该第二标签信息对应的期望、该第一标签信息对应的期望,确定第四误差;
将该第三误差与该第四误差之间的差值,确定为该第二子奖励值。
在一种可能实现方式中,该加权单元,用于:
基于当前训练的代数以及模型训练的总代数,确定该第二子奖励值对应的权重,一代模型训练是指应用训练数据集中的全部数据对模型进行训练;
基于该权重对该第二子奖励值进行加权处理;
基于加权处理后的该第二子奖励值以及该第一子奖励值,确定该初始奖励值。
在一种可能实现方式中,该更新模块,用于:
响应于当前训练的轮数满足第二参考条件,基于该奖励值更新该图像分割模型中的分割网络的参数,一轮模型训练是指应用训练数据集中一个批次的训练数据对模型进行训练;
响应于当前训练的轮数不满足第二参考条件,获取该第一标签信息与该中间分割信息对应的正确标签之间的目标误差,基于该目标误差更新该图像分割模型中的质量鉴别网络的参数。
在一种可能实现方式中,该第一参考条件包括:
对至少一轮模型训练过程中所获取到的奖励的限制信息。
一方面,提供了一种图像分割处理方法,包括:
获取待处理的图像;
调用图像分割模型对该图像进行处理,得到该图像的分割信息,该分割信息是该图像对应的图像分割标注,该图像分割模型基于样本图像、该样本图像的初始分割信息以及对应的奖励值训练得到,该奖励值基于该初始分割信息、该样本图像的参考分割信息、至少一个中间分割信息以及对应的第一标签信息确定,该中间分割信息基于对该初始分割信息调整得到,该第一标签信息用于指示该中间分割信息的准确度;
基于该图像的分割信息,在该图像上显示对应的分割区域。
一方面,提供了一种计算机设备,该计算机设备包括一个或多个处理器和一个或多个存储器,该一个或多个存储器中存储有至少一条计算机程序,该至少一条计算机程序由该一个或多个处理器加载并执行以实现该图像分割处理方法所执行的操作。
一方面,提供了一种计算机可读存储介质,该计算机可读存储介质中存储有至少一条计算机程序,该至少一条计算机程序由处理器加载并执行以实现该图像分割处理方法所执行的操作。
一方面,提供了一种计算机程序产品,该计算机程序产品包括至少一条计算机程序,该至少一条计算机程序存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该至少一条计算机程序,处理器执行该至少一条计算机程序,使得该计算机设备执行上述该图像分割处理方法所执行的操作。
本申请实施例提供的技术方案,通过图像分割模型基于样本图像以及初始分割信息,对输入的初始分割信息进行至少一次迭代调整,再基于样本图像、每次迭代调整过程中模型的输入、输出分割信息以及参考分割信息确定出一个奖励值,应用该奖励值来调整图像分割模型的模型参数,使模型能够学习到样本图像的特征和正确图像分割信息的特征,经过多轮模型训练得到训练完成的图像分割模型,该训练完成的图像分割模型能够对图像的分割信息进行修正,得到更为准确的图像分割信息,降低图像分割过程中的人力成本,提高图像分割效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种图像分割系统的结构框图;
图2是本申请实施例提供的一种图像分割处理方法的流程图;
图3是申请实施例提供的一种图像分割处理方法的流程图;
图4是本申请实施例提供的一种图像分割模型的示意图;
图5是本公开实施例提供的一种分割网络的示意图;
图6是本申请实施例提供的一种样本图像、初始标注信息和参考标注信息的示意图;
图7是本申请实施例提供的一种图像分割处理装置的结构示意图;
图8是本申请实施例提供的一种终端的结构示意图;
图9是本申请实施例提供的一种服务器的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请中术语“第一”“第二”等字样用于对作用和功能基本相同的相同项或相似项进行区分,应理解,“第一”、“第二”、“第n”之间不具有逻辑或时序上的依赖关系,也不对数量和执行顺序进行限定。
本申请实施例提供的技术方案涉及人工智能(Artificial Intelligence,AI)技术,人工智能是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向,本申请实施例涉及人工智能技术中的强化学习技术和计算机视觉技术。
机器学习(Machine Learning,ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、示教学习等技术,本申请实施例涉及机器学习中的强化学习技术。强化学习(Reinforcementlearning)是机器学习里面的一个分支,用于描述和解决智能体(agent)在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。
计算机视觉技术(Computer Vision,CV)是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术通常包括图像处理、图像识别、图像语义理解、图像检索、OCR、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D技术、虚拟现实、增强现实、同步定位与地图构建等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术,本申请实施例涉及计算机视觉技术中的图像语义理解技术。
本申请实施例提供的技术方案还能够与云技术相结合,例如,将训练得到的图像分割模型部署在云端服务器。云技术(Cloud technology)是指在广域网或局域网内将硬件、软件、网络等系列资源统一起来,实现数据的计算、储存、处理和共享的一种托管技术。云技术是基于云计算商业模式应用的网络技术、信息技术、整合技术、管理平台技术、应用技术等的总称,基于云技术能够组成资源池,按需所用,灵活便利。云计算技术将变成重要支撑,技术网络系统的后台服务需要大量的计算、存储资源,如视频网站、图片类网站和更多的门户网站。伴随着互联网行业的高度发展和应用,将来每个物品都有可能存在自己的识别标志,都需要传输到后台系统进行逻辑处理,不同程度级别的数据将会分开处理,各类行业数据皆需要强大的系统后盾支撑,只能通过云计算来实现。
其中,云技术中的医疗云(Medical cloud)是指在云计算、移动技术、多媒体、4G通信、大数据、以及物联网等新技术基础上,结合医疗技术,使用“云计算”来创建医疗健康服务云平台,实现了医疗资源的共享和医疗范围的扩大。因为云计算技术的运用于结合,医疗云提高医疗机构的效率,方便居民就医。像现在医院的预约挂号、电子病历、医保等都是云计算与医疗领域结合的产物,医疗云还具有数据安全、信息共享、动态扩展、布局全局的优势。示例性的,本申请实施例提供的图像分割模型部署在医疗健康服务云平台上。
本申请实施例提供的技术方案能够应用于多种图像处理场景中,与多领域相结合。在一种可能实现方式中,本方案能够与医疗领域相结合,例如,医疗领域中,一个医学图像往往需要多个医生进行标注,才能准确的区分出医疗图像中的肿瘤、器官、病灶等,结合本申请实施例所提供的技术方案,将医学图像以及某个医生对该医学图像的图像分割标注信息,输入本方案中所训练得到的图像分割模型,通过该图像分割模型对输入的图像分割标注信息进行修正,得到更为准确的图像分割标注信息,从而降低对医学图像进行标注的成本。当然,本方案也能够应用于其他场景中,例如,对人物图像、场景图像等的图像分割标注信息进行修正,本申请实施例对此不作限定。
图1是本申请实施例提供的一种图像分割系统的结构框图。该图像分割系统100包括:终端110和图像分割平台140。
其中,终端110安装和运行有支持图像分割功能的目标应用程序。可选的,该终端110是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等,本申请实施例对该终端110的设备类型不做限定。示例性的,终端110是用户使用的终端,终端110中运行的应用程序内登录有用户账号。终端110泛指多个终端中的一个,本实施例仅以终端110来举例说明。
在一种可能实现方式中,图像分割平台140是一台服务器、多台服务器、云计算平台和虚拟化中心中的至少一种。图像分割平台140用于为上述目标应用程序提供后台服务。可选的,图像分割平台140承担主要的图像数据处理工作,终端110承担次要的图像数据处理工作;或者,图像分割平台140承担次要的图像数据处理工作,终端110承担主要的图像数据处理工作;或者,图像分割平台140或终端110分别单独承担图像数据处理工作。可选的,服务器140包括:接入服务器、图像分割服务器和数据库。接入服务器用于为终端110提供接入服务。图像分割服务器用于为目标应用程序中的图像分割功能提供后台服务,示例性的,该图像分割服务器搭载图像处理器(Graphics Processing Unit,GPU),支持图像处理器多线程并行计算。示例性的,图像分割服务器是一台或多台。当图像分割服务器是多台时,存在至少两台图像分割服务器用于提供不同的服务,和/或,存在至少两台图像分割服务器用于提供相同的服务,比如以负载均衡方式提供同一种服务,本申请实施例对此不加以限定。在本申请实施例中,图像分割服务器中设置有图像分割模型,该图像分割模型能够对任一图像所对应的初始分割信息进行修正,得到准确的图像分割信息。示例性的,上述服务器是独立的物理服务器,或者是多个物理服务器构成的服务器集群或者分布式系统,或者是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(Content Delivery Network,内容分发网络)、以及大数据和人工智能平台等基础云计算服务的云服务器,本申请实施例对服务器的数量和设备类型不作限定。
为了便于理解本申请实施例的技术过程,以下对本申请实施例涉及的几个概念进行解释。
模型训练的代数(epoch):在本申请实施例中,将应用训练数据集中全部的训练数据对图像分割模型进行训练,称为一代训练,即一个epoch。
模型训练的轮数(Iteration):在本申请实施例中,将应用训练数据集中一个批次(Batch)的训练数据对模型进行训练,称为一轮训练,即一次Iteration。
在本申请实施例中,一代模型训练过程中包括至少一轮模型训练,例如,训练数据集包括100个训练数据,一个批次包括20个训练数据,则计算机设备基于20个训练数据进行一轮模型训练,经过5轮模型训练后,计算机设备遍历完训练数据集中的全部训练数据,完成一代模型训练。
图2是本申请实施例提供的一种图像分割处理方法的流程图。该方法应用于上述终端或者图像分割平台,而终端和图像分割平台均可以视为一种计算机设备,在本申请实施例中,以计算机设备作为执行主体,对该图像分割处理方法进行介绍,参见图2,在一种可能实现方式中,该实施例包括以下步骤。
201、计算机设备获取样本图像以及该样本图像的初始分割信息,该初始分割信息是该样本图像对应的图像分割标注信息。
在一种可能实现方式中,在一轮模型训练过程中,该计算机设备从训练数据集中获取一个批次的样本图像以及对应的初始分割信息。该训练数据集中所存储的样本图像是相同类型的图像,例如,是同一器官的医学图像,该初始分割信息是对医学图像的图像分割标注信息,例如,该初始分割信息能够将医学图像中的性质发生改变的区域和正常区域进行区分,例如,该性质发生改变的区域为病变区域,如,病灶区域、肿瘤区域等。示例性的,本申请实施例中所采用的训练数据集是Gleason 2019(格林森2019数据集)。
202、计算机设备通过图像分割模型基于该样本图像以及该初始分割信息,对该初始分割信息进行至少一次迭代调整,得到至少一个中间分割信息以及对应的第一标签信息,该第一标签信息用于指示该中间分割信息的准确度。
在一种可能实现方式中,计算机设备将样本图像和初始分割信息输入图像分割模型,通过图像分割模型对该初始分割信息进行第一次迭代调整,得到中间分割信息,在除第一次以外的任一次迭代调整过程中,计算机设备获取图像分割模型在前一次迭代调整过程中所确定出的中间分割信息,将前一次确定出的中间分割信息以及样本图像作为图像分割模型的输入,通过图像分割模型对输入的中间分割信息进行一次迭代调整,得到一个新的中间分割信息。在本申请实施例中,计算机设备对分割信息进行迭代调整的次数由开发人员进行设置,本申请实施例对此不作限定。
203、计算机设备基于该初始分割信息、该样本图像的参考分割信息、该至少一个中间分割信息以及对应的第一标签信息,确定奖励值。
在一种可能实现方式中,该计算机设备基于每一次迭代调整过程中,样本图像对应的参考分割信息、输入图像分割模型的分割信息、图像分割模型输出的分割信息以及对应的第一标签信息,确定每一次迭代调整过程所对应的初始奖励值,将各个初始奖励值相加,得到一个批次的训练数据所对应的奖励值。
204、计算机设备基于该奖励值对该图像分割模型的模型参数进行更新。
在一种可能实现方式中,该计算机设备将该奖励值反向传播至该图像分割模型,调整该图像分割模型中的各个模型参数。例如,该计算机设备基于梯度下降算法调整该图像分割模型中的模型参数,本申请实施例对模型参数调整的方法不作限定。
205、计算机设备响应于更新后的该图像分类模型满足该第一参考条件,获取到训练完成的该图像分割模型。
其中,该训练完成的图像分割模型的输入数据为图像以及对应的分割信息,对输入的分割信息进行修正,得到修正后的分割信息以及对应的准确度。
本申请实施例提供的技术方案,通过图像分割模型基于样本图像以及初始分割信息,对输入的初始分割信息进行至少一次迭代调整,再基于样本图像、每次迭代调整过程中模型的输入、输出分割信息以及参考分割信息确定出一个奖励值,应用该奖励值来调整图像分割模型的模型参数,使模型能够学习到样本图像的特征和正确图像分割信息的特征,经过多轮模型训练所得到的图像分割模型能够对图像的分割信息进行修正,得到更为准确的图像分割信息,降低图像分割过程中的人力成本,提高图像分割效率。
上述实施例是对本申请实施方式的一个简要介绍,图3是申请实施例提供的一种图像分割处理方法的流程图,以下结合图3对该图像分割处理方法进行具体说明,在一种可能实现方式中,该实施例包括以下步骤。
301、计算机设备获取样本图像以及该样本图像的初始分割信息。
在一种可能实现方式中,计算机设备响应于模型训练指令,获取待训练的图像分割模型和一个批次的训练数据,该训练数据即为该样本图像以及该样本图像的初始标注信息。其中,该样本图像可以是存储在计算机设备中的一幅或一组图像,或者该样本图像是从视频中截取的图像,或者该样本图像是应用具有图像拍摄功能的终端所拍摄的图像,例如,CT(Computed Tomography,计算机断层扫描)设备采集的图像,本申请实施例对具体采用哪种图像不作限定。需要说明的是,本申请实施例中对获取到样本图像的数目不作限定。
在本申请实施例中,该初始分割信息是该样本图像对应的图像分割标注信息,在一种可能实现方式中,该初始分割信息的准确度较低。示例性的,该样本图像是医学图像,该医学图像包括病灶、肿瘤、器官等目标对象,该初始分割信息包括对医学图像中的目标对象所在区域的标注信息、非目标对象所在区域的标注信息中的至少一项。可选的,该初始分割信息是预先存储在计算机设备中的,例如,一个样本图像所对应的初始分割信息与该样本图形相关联存储在计算机设备中;或者,该初始分割信息是用户即时提供的,例如,计算机设备在获取到一个样本图像后,显示图像标注界面,用户在该图像标注界面标注该样本图像对应的初始分割信息,本申请实施例对获取初始分割信息的方式不作限定。可选的,该初始分割信息表示为矩阵的形式,该矩阵的尺寸与该样本图像的尺寸相同,矩阵中的一个元素与样本图像中相同位置的一个像素点相对应;或者,该初始分割信息表示为图像的形式,例如,该初始分割信息是与该样本图像尺寸相同的图像,该初始分割信息中不同区域表示为不同像素值。需要说明的是,本申请实施例对该初始分割信息的具体表示形式不作限定,在本申请实施例仅以该初始分割信息表示为矩阵的形式为例进行说明。
302、计算机设备将该样本图像以及初始分割信息输入图像分割模型。
其中,该图像分割模型用于对该初始分割信息进行修正,以得到准确度更高的分割信息。在本申请实施例中,该图像分割模型是基于深度神经网络所构建的模型,示例性的,该图像分割模型是基于U-Net(一种全卷积神经网络模型)所构建的,本申请实施例对此不作限定。图4是本申请实施例提供的一种图像分割模型的示意图,如图4所示,该图像分类模型包括分割网络401和质量鉴别网络402。其中,该分割网络401的输入为图像以及图像对应的初始分割信息,该分割网络用于对输入的初始分割信息进行修正,该分割网络可以实现为U-Net、SegNet(一种神经网络模型)等,本申请实施例对此不作限定;该质量鉴别网络402的输入用于确定分割网络所输出的修正后的分割信息是真实的、正确的分割信息的概率,该质量鉴别网络可以实现为U-Net等,本申请实施例对此不作限定。
在一种可能实现方式中,该计算机设备将任意尺寸的样本图像输入该图像分割模型,或者将该样本图像调整为预设尺寸再输入该图像分割模型。示例性的,该计算机设备在将该样本图像输入图像分割模型之前,可以按照实际情况对该样本图像进行缩放,以将该样本图像调整为预设尺寸,当然,该计算机设备还可以相应的对样本图像对应的初始标注信息的尺寸进行调整,使该初始标注信息的尺寸与对应的样本图像的尺寸相同,例如,该样本图像的尺寸为M*N,则对应的初始标注信息为M*N的矩阵,M和N均为大于或等于1的正整数。其中,该预设尺寸可以由开发人员进行设置,本申请实施例对此不作限定。
303、计算机设备通过该图像分割模型中的分割网络,基于该样本图像以及该初始分割信息,对该初始分割信息进行调整,得到中间分割信息。
在一种可能实现方式中,该计算机设备将该样本图像以及对应的初始分割信息输入图像分割模型后,该图像分割模型基于该样本图像以及初始分割信息构建初始状态信息。示例性的,样本图像中的像素点i表示为xi,一个像素点xi由R、G、B三个色值表示,则该样本图像表示为一个三通道矩阵x,三个通道分别对应于R、G、B;该样本图像对应的分割信息表示为一个单通道矩阵l(t),其中,t表示当前对分割信息进行迭代调整的次数,l(t)表示t次迭代调整过程中图像分割模型的分割网络所输出的分割信息,则在步骤301中所获取到的初始分割信息表示为l(0),分割信息l(t)中的一个元素
Figure DEST_PATH_IMAGE001
用于表示样本图像中的像素点i对应的图像分割标注信息。在本申请实施例中,该计算机设备将该三通道矩阵x和单通道矩阵l(t)在通道维度进行拼接,得到状态信息s(t),该状态信息为一个四通道矩阵,状态信息中的一个元素表示为
Figure DEST_PATH_IMAGE002
Figure DEST_PATH_IMAGE003
用于指示样本图像中的像素点i经过t次迭代调整后对应的状态。
在一种可能实现方式中,该计算机设备通过该图像分割模型中的分割网络,基于该初始状态信息,确定行为信息,也即是,该计算机设备通过该分割网络基于该样本图像以及该初始分割信息,确定行为信息,其中,该行为信息包括该初始分割信息中各个元素对应的调整值。该计算机设备再基于该行为信息对该初始分割信息进行调整,得到该中间分割信息。图5是本公开实施例提供的一种分割网络的示意图,以该分割网络实现为U-Net为例,结合图5对该中间分割信息的确定过程进行说明,在一种可能实现方式中,计算机设备通过该分割网络中的特征编码层501、502、503、504和505对该初始状态信息进行编码,特征编码层501、502、503和504均能够对前一运算层输出的特征图进行卷积处理和池化处理,特征编码层505能够对特征编码层504输出的特征图进行卷积处理,每个特征编码层能够输出一个新的特征图;计算机设备通过特征解码层506、507、508和509对特征图进行解码,得到行为信息,示例性的,每个特征解码层能够对前一运算层输出的特征图进行反卷积处理,再将反卷积得到的特征图与对应的特征编码层所输出的特征图合并,得到一个新的特征图,如图5所示,特征解码层506与特征编码层504相对应,特征解码层507与特征编码层503相对应,特征解码层508与特征编码层502相对应,特征解码层509与特征编码层501相对应。如图5所示,在一种可能实现方式中,计算机设备获取分割网络中最后一个特征解码层输出的特征图作为该行为信息,该计算机设备基于该行为信息调整输入的初始状态信息中目标通道的矩阵,该目标通道的矩阵是该初始分割信息对应的矩阵。示例性的,该计算机设备将该行为信息与该初始分割信息中对应位置的元素相加,得到该中间分割信息。需要说明的是,上述对中间分割信息获取方法的说明,仅是一种可能实现方式的示例性说明,本申请实施例对具体采用哪种方式获取中间分割信息不作限定。
304、计算机设备通过该图像分割模型中的质量鉴别网络,确定该中间分割信息对应的第一标签信息。
其中,该第一标签信息用于指示该中间分割信息的准确度。示例性的,将正确的分割标注信息确定为真样本,将分割网络所输出的分割信息确定假样本,该质量鉴别网络能够对真、假样本进行区分,输出分割信息为真样本的概率,也即是确定出分割信息的准确度。
在一种可能实现方式中,该质量鉴别网络的输入是对初始状态信息进行调整后所得到的中间状态信息,该中间状态信息由样本图像所对应的三通道矩阵以及中间分割信息所对应的单通道矩阵构成,也即是,该图像分割模型中的分割网络对对该样本图像以及该中间分割信息进行拼接,将拼接后的样本图像以及中间分割信息输入质量鉴别网络,计算机设备通过该质量鉴别网络对拼接后的该样本图像以及该中间分割信息进行特征提取,再通过该质量鉴别网络对该样本图像以及该中间分割信息的特征进行处理,得到该第一标签信息。需要说明的是,上述对样本图像以及中间分割信息所对应的矩阵进行拼接的步骤是可选步骤,在一些实施例中,该计算机设备在基于行为信息对初始分割信息进行调整时,直接对状态信息中初始分割信息对应的矩阵进行调整,直接得到调整后的中间状态信息,该中间状态信息包括样本图像对应的矩阵以及中间分割信息对应的矩阵,该分割网络输出该中间状态信息。示例性的,该质量鉴别网络实现为U-Net,该计算机设备通过该质量鉴别网络进行特征提取和特征处理的过程,与上述分割网络进行特征编码和特征解码的过程同理,在此不作赘述。
需要说明的是,上述步骤302和步骤303,是通过该图像分割模型基于该样本图像以及该初始分割信息,对该初始分割信息进行一次调整,得到该图像分割模型输出的一个中间分割信息以及对应的第一标签信息的步骤。在本申请实施例中,通过对图像的初始分割信息进行调整,而不是重新标注分割信息,能够降低模型训练的难度,在模型训练过程中无需引入大量的精确标注的数据,降低数据标注的成本。
305、计算机设备响应于当前对分割信息进行迭代调整的次数未达到第一阈值,将该图像分割模型前一次输出的中间分割信息以及该样本图像输入该图像分割模型,通过该图像分割模型对该前一次输出的中间分割信息进行一次调整,得到一个新的中间分割信息以及对应的第一标签信息。
其中,该第一阈值可以由开发人员进行设置,例如,该第一阈值设置为5次,本公开实施例对此不作限定。
在一种可能实现方式中,在图像分割模型对分割信息完成一次迭代调整后,计算机设备判断当前迭代调整的次数是否达到第一阈值,响应于当前迭代次数未达到该第一阈值,该计算机设备通过该图像分割模型,对该图像分割模型前一次输出的中间分割信息行下一次迭代调整,也即是,该计算机设备将图像分割模型前一次输出的中间分割信息以及样本图像输入该图像分割模型,通过该图像分割模型基于本次输入的中间分割信息以及样本图像执行上述步骤303至步骤304,得到该图像分割模型输出的一个新的中间分割信息以及对应的第一标签信息。例如,本次迭代调整是第二次迭代调整,计算机设备获取图像分割模型在第一次迭代调整时输出的第一中间分割信息,将该第一中间分割信息和样本图像作为图像分割模型的输入,通过该图像分割模型对该第一中间信息进行一次调整,得到第二中间分割信息,在第三次迭代调整时,该计算机设备将该第二中间分割信息和样本图像作为图像分割模型输入,由该图像分割模型继续对该第二中间分割信息进行调整。
306、计算机设备响应于当前对分割信息进行迭代调整的次数达到第一阈值,基于该初始分割信息、该样本图像的参考分割信息、该至少一个中间分割信息以及对应的第一标签信息,确定奖励值。
其中,该参考分割信息为该样本图像的正确图像分割信息,例如,该参考分割信息是基于多个用户所提供的分割信息综合确定出的。以本方案应用于医疗领域为例,则本方案中所应用的样本图像是医学图像,初始分割信息为一个医生对医学图像的图像分割标注信息,该参考分割信息是基于多个医生对医学图像的图像分割标注信息综合确定出的标注信息,该参考分割信息也称为“金标准”。图6是本申请实施例提供的一种样本图像、初始分割信息和参考分割信息的示意图,如图6所示,该样本图像为医学图像601,602、603、604、605和606均为初始分割信息,607为参考分割信息。
在本公开实施例中,对于任一次迭代调整,计算机设备基于该任一次迭代调整过程中,该样本图像的参考分割信息、输入该图像分割模型的分割信息、该图像分割模型输出的分割信息以及对应的第一标签信息,确定一个初始奖励值,再对获取到的至少一个该初始奖励值进行累加,得到该奖励值。在一种可能实现方式中,该计算机设备确定一个初始奖励值的过程包括以下步骤。
步骤一、计算机设备基于该任一次迭代调整过程中,该样本图像的参考分割信息、输入该图像分割模型的分割信息、该图像分割模型输出的分割信息,确定第一子奖励值。
在一种可能实现方式中,计算机设备将该输入该图像分割模型的分割信息与该参考分割信息之间的差值的绝对值,确定为第一误差;将该图像分割模型输出的分割信息与该参考分割信息之间的差值的绝对值,确定为第二误差;将该第一误差与该第二误差之间的差值,确定为该第一子奖励值。在一种可能实现方式中,该第一子奖励值的确定方法表示为下述公式(1)至公式(3):
Figure DEST_PATH_IMAGE004
(1)
Figure DEST_PATH_IMAGE005
(2)
Figure DEST_PATH_IMAGE006
(3)
其中,i表示样本图像中的像素点i,t表示当前对分割信息进行迭代调整的次数;
Figure DEST_PATH_IMAGE007
表示本次迭代调整过程中图像分割模型的分割网络所输出的中间分割信息,
Figure DEST_PATH_IMAGE008
表示本次迭代调整过程中该分割网络所输入的中间分割信息,也即是,上一次迭代调整过程中分割网络所输出的分割信息,若本次迭代调整是第一次迭代调整,则
Figure 976910DEST_PATH_IMAGE008
表示初始分割信息;
Figure DEST_PATH_IMAGE009
表示参考分割信息;
Figure DEST_PATH_IMAGE010
表示第一误差,
Figure DEST_PATH_IMAGE011
表示第二误差,
Figure DEST_PATH_IMAGE012
表示第一子奖励值。
步骤二、计算机设备基于该第一标签信息、第二标签信息以及第三标签信息,确定第二子奖励值。
其中,该第二标签信息用于指示该参考分割信息的准确度,例如,该计算机设备基于该参考分割信息和样本图像构建一个参考状态信息,将该参考状态信息输入当前图像分割模型的质量鉴别网络,获取该质量鉴别网络输出的标签信息作为该第二标签信息。该第三标签信息用于指示该图像分割模型输出的分割信息再次经过该图像分割模型调整后的准确度,也即是,将图像分割模型当前输出的分割信息与该样本图像再次输入该图像分割模型,由该图像分割模型再一次进行分割信息调整,输出调整后的分割信息对应的第三标签信息。
在一种可能实现方式中,计算机设备基于该第二标签信息对应的期望、该第三标签信息对应的期望,确定第三误差;基于该第二标签信息对应的期望、该第一标签信息对应的期望,确定第四误差;再将该第三误差与该第四误差之间的差值,确定为该第二子奖励值。在一种可能实现方式中,该第二子奖励值的确定方法表示为下述公式(4)至公式(6):
Figure DEST_PATH_IMAGE013
(4)
Figure DEST_PATH_IMAGE014
(5)
Figure DEST_PATH_IMAGE015
(6)
其中,i表示样本图像中的像素点i,t表示当前对分割信息进行迭代调整的次数;
Figure 411827DEST_PATH_IMAGE002
表示在本次迭代调整过程中图像分割模型所确定出的中间状态信息,即本次迭代调整所得到的中间分割信息以及样本图像所构成的中间状态信息;
Figure DEST_PATH_IMAGE016
表示本次迭代调整过程中输入图像分割模型的状态信息,也即是,上一轮迭代调整过程中所得到的中间分割信息以及样本图像所构成的状态信息,若本次迭代调整是第一次迭代调整,则
Figure 253881DEST_PATH_IMAGE016
表示初始状态信息,即样本图像以及初始分割信息所构成的状态信息;
Figure DEST_PATH_IMAGE017
表示样本图像以及参考分割信息所构成的状态信息;
Figure DEST_PATH_IMAGE018
表示第三误差,
Figure DEST_PATH_IMAGE019
表示第四误差;D()表示质量鉴别网络的输出结果;G()表示分割网络的输出结果;
Figure DEST_PATH_IMAGE020
表示第二子奖励值;
Figure DEST_PATH_IMAGE021
表示从初始的训练数据中随机选取的数据块,
Figure DEST_PATH_IMAGE022
表示真实的样本分布,x表示从当前处理的数据中随机选取的数据块,当前处理的数据可以是
Figure 570462DEST_PATH_IMAGE002
Figure 978309DEST_PATH_IMAGE016
Figure DEST_PATH_IMAGE023
表示第二标签信息对应的期望,
Figure DEST_PATH_IMAGE024
表示第一标签信息对应的期望,
Figure DEST_PATH_IMAGE025
相当于
Figure 941717DEST_PATH_IMAGE002
Figure DEST_PATH_IMAGE026
表示第三标签信息对应的期望,
Figure DEST_PATH_IMAGE027
相当于
Figure DEST_PATH_IMAGE028
步骤三、计算机设备对该第一子奖励值和该第二子奖励值进行加权处理,得到该初始奖励值。
在一种可能实现方式中,计算机设备基于当前训练的轮数以及模型训练的总轮数,确定该第二子奖励值对应的权重;基于该权重对该第二子奖励值进行加权处理;基于加权处理后的该第二子奖励值以及该第一子奖励值,确定该初始奖励值。在一种可能实现方式中,该初始奖励值的确定方法表示为下述公式(7):
Figure DEST_PATH_IMAGE029
(7)
其中,i表示样本图像中的像素点i,t表示当前对分割信息进行迭代调整的次数;ri表示初始奖励值;γ的数值可以由开发人员进行设置,例如,γ为(0,1]中任一数值,在一种可能实现方式中,γ设置为0.95;
Figure DEST_PATH_IMAGE030
表示第一子奖励值,
Figure DEST_PATH_IMAGE031
表示第二子奖励值;
Figure DEST_PATH_IMAGE032
表示第二子奖励值的权重,在一种可能实现方式中,
Figure 460948DEST_PATH_IMAGE032
的数值基于下述公式(8)确定:
Figure DEST_PATH_IMAGE033
(8)
其中,e表示当前训练的代数,emax表示模型训练的总代数。在本申请实施例中,在模型训练初期,图像分割模型中的质量鉴别网络表现不稳定时,对第二子奖励值赋予一个较小的权重,以避免因第二子奖励值不准确而对模型训练造成影响。
在一种可能实现方式中,该计算机设备将各轮模型训练过程中所确定出的初始奖励值进行累加,得到该奖励值,示例性的,该奖励值的确定方法可以表示为下述公式(9):
Figure DEST_PATH_IMAGE034
(9)
其中,i表示样本图像中的像素点i,t表示当前对分割信息进行迭代调整的次数,T表示图像分割模型对分割信息进行迭代调整的总次数,T的数值由开发人员进行设置,本申请实施例对此不作限定;Ri表示初始奖励值。
需要说明的是,上述对奖励值确定方法的说明,仅是一种可能实现方式的是理性是说明,本申请实施例对具体采用哪种方法确定该奖励值不作限定。
307、计算机设备基于该奖励值对该图像分割模型的模型参数进行更新。
在一种可能实现方式中,计算机设备可以将该奖励值反向传播至该图像分割模型,重新求解该图像分割模型的各个模型参数,需要说明的是,本申请实施例对求解模型参数的方法不作限定。
在一种可能实现方式中,该计算机设备可以对图像分割模型中分割网络以及质量鉴别网络的参数进行轮流更新。示例性的,计算机设备响应于当前训练的轮数满足第二参考条件,基于该奖励值更新该图像分割模型中的分割网络的参数;响应于当前训练的轮数不满足第二参考条件,获取该第一标签信息与该中间分割信息对应的正确标签之间的目标误差,基于该目标误差更新该图像分割模型中的质量鉴别网络的参数。其中,该正确标签信息可以由开发人员进行设置。在一种可能实现方式中,该第二参考条件可以是对模型训练轮数的限制信息,例如,该第二参考条件表示为数值区间,当前训练的轮数在该数值区域间内时,确定当前训练的轮数满足第二参考条件,计算机设备将该奖励值反向传播至该图像分割模型的分割网络,更新该分割网络的参数,当前训练的轮数不在该数值区域间内时,确定当前训练的轮数不满足第二参考条件,计算机设备获取该目标误差,固定该分割网络的参数,将该目标误差反向传播至质量鉴别网络,更新该质量鉴别网络的参数。在一种可能实现方式中,计算机设备基于该奖励值,应用梯度下降算法对该分割网络中的参数进行更新,学习率可以设置为0.0001;在一种可能实现方式中,计算机设备基于该目标误差,应用梯度下降算法对该质量鉴别网络中的参数进行更新,学习率可以设置为0.001。
需要说明的是,上述对图像分割模型的参数进行更新的方法,仅是一种可能实现方式的示例性说明,本申请实施例对具体采用哪种方式更新图像分割模型的参数不作限定。在申请示例中,采用先训练分割网络,在该分割网络具备一定的分割信息修正能力之后,再训练质量鉴别网络的方法,能够有效提高质量鉴别网络的训练效率,从而提高模型的训练效率,提高模型训练的效果。
308、计算机设备响应于更新后的图像分类模型不满足第一参考条件,获取下一批次的样本图像以及对应的初始分割信息,对更新后的图像分割模型进行下一轮训练。
其中,该第一参考条件由开发人员进行设置,本申请实施例对此不作限定。在一种可能实现方式中,该第一参考条件包括对该图像分割模型训练的代数的限制信息、对至少一轮模型训练过程中所获取到的奖励的限制信息中的至少一项,例如,该第一参考条件设置为图像分割模型训练的代数达到预设的总代数,且在最后一代模型训练过程中,所获取到的至少一个奖励值位于参考范围内。
在本申请实施例中,计算机设备响应于该图像分割模型不满足该第一参考条件,获取下一批次的训练数据继续执行上述步骤301至步骤307。
309、计算机设备响应于更新后的图像分类模型满足该第一参考条件,获取到训练完成的图像分割模型。
在一种可能实现方式中,该训练完成的图像分割模型可以部署在云端服务器中,用户所使用的终端能够与该云端服务器相连接,用户可以通过终端将图像以及粗略的图像分割标注信息发送至云端服务器,该云端服务器通过该图像分割模型对该粗略的图像分割标注信息进行调整,得到更为准确的图像分割标注信息以及对应的准确度。
本申请实施例提供的技术方案,通过图像分割模型基于样本图像以及初始分割信息,对输入的初始分割信息进行至少一次迭代调整,再基于样本图像、每次迭代调整过程中模型的输入、输出分割信息以及参考分割信息确定出一个奖励值,应用该奖励值来调整图像分割模型的模型参数,经过多轮模型训练得到训练完成的图像分割模型,该训练完成的图像分割模型能够对图像的分割信息进行修正,得到更为准确的图像分割信息,使模型能够学习到样本图像的特征和正确图像分割信息的特征,降低图像分割过程中的人力成本,提高图像分割效率。本申请实施例提供的技术方案,在不牺牲模型精确度的前提下,能够大幅度提高获取到正确的图像分割标注信息的准确度。
基于上述图像分割模型可以采用下述过程来对图像进行分割处理,首先,获取待处理的图像;然后,调用图像分割模型对该图像进行处理,得到该图像的分割信息,该分割信息是该图像对应的图像分割标注,该图像分割模型基于样本图像、该样本图像的初始分割信息以及对应的奖励值训练得到,该奖励值基于该初始分割信息、该样本图像的参考分割信息、至少一个中间分割信息以及对应的第一标签信息确定,该中间分割信息基于对该初始分割信息调整得到,该第一标签信息用于指示该中间分割信息的准确度;其训练过程参见上述实施例提供的方法步骤。最后,基于该图像的分割信息,在该图像上显示对应的分割区域。该技术方案能够降低图像分割过程中的人力成本,提高图像分割效率。其中,分割区域通过颜色区分或者标注好的线条轮廓来区分,本申请实施例对此不作限定。
表1示出了应用不同训练方法对图像分割模型进行训练后,图像分割模型的输出结果与正确结果之间的Mean absolute error(平均绝对误差),模型训练的效果与平均绝对误差的数值负相关。
表1
Figure DEST_PATH_IMAGE035
表1中的数据是基于医疗领域的训练数据集得到的,医疗领域的训练数据集包括样本医疗图像、单医生的标注信息以及金标准(Ground truth),训练方法1为应用单医生的标注信息作为监督信息对图像分割模型进行监督训练,训练方法2为应用伪标签作为监督信息对图像分割模型进行训练,上述表1中“整体”一栏的数据是指基于一种训练方法所得到的全部误差的平均值,“最低”一栏的数据是指基于一种训练方法所得到的误差的最小值,“最高”一栏的数据是指基于一种训练方法所得到的误差的最大值,“以上数据的平均值”一栏的数据是指整体、最高、最低三栏数据的平均值。基于表1中的数值可知,应用本申请实施例提供的技术方案所训练得到的图像分割模型有更好的模型表现,图像分割模型所的到的修正后的标注信息与金标准之间的误差更小。
表2示出了应用不同训练数据对图像分割模型进行训练后,图像分割模型的输出结果与正确结果之间的Dice coefficient(Dice系数)。
表2
Figure DEST_PATH_IMAGE036
基于表2中的数据可知,应用本方案训练得到的图像分割模型有更好的模型表现,图像分割模型所输出的修正后的图像分割标注信息与金标准最接近。
在一些实施例中,本申请实施例训练得到的图像分割模型的模型数据存储在区块链系统的区块链上,供区块链系统中的各个节点设备应用。在一种可能实现方式中,训练该图像分割模型所使用的训练数据也存储在区块链上。
上述所有可选技术方案,可以采用任意结合形成本申请的可选实施例,在此不再一一赘述。
图7是本申请实施例提供的一种图像分割处理装置的结构示意图,参见图7,该装置包括:
获取模块701,用于获取样本图像以及该样本图像的初始分割信息,该初始分割信息是该样本图像对应的图像分割标注信息;
调整模块702,用于通过图像分割模型基于该样本图像以及该初始分割信息,对该初始分割信息进行至少一次迭代调整,得到至少一个中间分割信息以及对应的第一标签信息,该第一标签信息用于指示该中间分割信息的准确度;
确定模块703,用于基于该初始分割信息、该样本图像的参考分割信息、该至少一个中间分割信息以及对应的第一标签信息,确定奖励值;
更新模块704,用于基于该奖励值对该图像分割模型的模型参数进行更新;响应于更新后的该图像分类模型满足该第一参考条件,获取到训练完成的该图像分割模型。
在一种可能实现方式中,该调整模块702,用于:
通过该图像分割模型基于该样本图像以及该初始分割信息,对该初始分割信息进行一次调整,得到该图像分割模型输出的一个中间分割信息以及对应的第一标签信息;
响应于当前迭代调整次数未达到第一阈值,将该图像分割模型前一次输出的中间分割信息以及该样本图像输入该图像分割模型,通过该图像分割模型对该前一次输出的中间分割信息进行一次调整,得到一个新的中间分割信息以及对应的第一标签信息。
在一种可能实现方式中,该调整模块702,包括:
第一子模块,用于通过该图像分割模型中的分割网络,基于该样本图像以及该初始分割信息,对该初始分割信息进行调整,得到中间分割信息;
第二子模块,用于通过该图像分割模型中的质量鉴别网络,确定该中间分割信息对应的第一标签信息。
在一种可能实现方式中,该第一子模块,用于:
通过该分割网络基于该样本图像以及该初始分割信息,确定行为信息,该行为信息包括该初始分割信息中各个元素对应的调整值;
基于该行为信息对该初始分割信息进行调整,得到该中间分割信息。
在一种可能实现方式中,该第二子模块,用于:
通过该质量鉴别网络对该样本图像以及该中间分割信息进行特征提取;
通过该质量鉴别网络对该样本图像以及该中间分割信息的特征进行处理,得到该第一标签信息。
在一种可能实现方式中,该确定模块703,包括:
第三子模块,用于对于任一次迭代调整,基于该任一次迭代调整过程中,该样本图像的参考分割信息、输入该图像分割模型的分割信息、该图像分割模型输出的分割信息以及对应的第一标签信息,确定一个初始奖励值;
第四子模块,用于对获取到的至少一个该初始奖励值进行累加,得到该奖励值。
在一种可能实现方式中,该第三子模块,包括:
第一确定单元,用于基于该任一次迭代调整过程中,该样本图像的参考分割信息、输入该图像分割模型的分割信息、该图像分割模型输出的分割信息,确定第一子奖励值;
第二确定单元,用于基于该第一标签信息、第二标签信息以及第三标签信息,确定第二子奖励值,该第二标签信息用于指示该参考分割信息的准确度,该第三标签信息用于指示该图像分割模型输出的分割信息再次经过该图像分割模型调整后的准确度;
加权单元,用于对该第一子奖励值和该第二子奖励值进行加权处理,得到该初始奖励值。
在一种可能实现方式中,该第一确定单元,用于:
将该输入该图像分割模型的分割信息与该参考分割信息之间的差值的绝对值,确定为第一误差;
将该图像分割模型输出的分割信息与该参考分割信息之间的差值的绝对值,确定为第二误差;
将该第一误差与该第二误差之间的差值,确定为该第一子奖励值。
在一种可能实现方式中,该第二确定单元,用于:
基于该第二标签信息对应的期望、该第三标签信息对应的期望,确定第三误差;
基于该第二标签信息对应的期望、该第一标签信息对应的期望,确定第四误差;
将该第三误差与该第四误差之间的差值,确定为该第二子奖励值。
在一种可能实现方式中,该加权单元,用于:
基于当前训练的代数以及模型训练的总代数,确定该第二子奖励值对应的权重,一代模型训练是指应用训练数据集中的全部数据对模型进行训练;
基于该权重对该第二子奖励值进行加权处理;
基于加权处理后的该第二子奖励值以及该第一子奖励值,确定该初始奖励值。
在一种可能实现方式中,该更新模块704,用于:
响应于当前训练的轮数满足第二参考条件,基于该奖励值更新该图像分割模型中的分割网络的参数,一轮模型训练是指应用训练数据集中一个批次的训练数据对模型进行训练;
响应于当前训练的轮数不满足第二参考条件,获取该第一标签信息与该中间分割信息对应的正确标签之间的目标误差,基于该目标误差更新该图像分割模型中的质量鉴别网络的参数。
在一种可能实现方式中,该第一参考条件包括:
对至少一轮模型训练过程中所获取到的奖励的限制信息。
本申请实施例提供的装置,通过图像分割模型基于样本图像以及初始分割信息,对输入的初始分割信息进行至少一次迭代调整,再基于样本图像、每次迭代调整过程中模型的输入、输出分割信息以及参考分割信息确定出一个奖励值,应用该奖励值来调整图像分割模型的模型参数,经过多轮模型训练得到训练完成的图像分割模型,该训练完成的图像分割模型能够对图像的分割信息进行修正,得到更为准确的图像分割信息,降低图像分割过程中的人力成本,提高图像分割效率。
需要说明的是:上述实施例提供的图像分割处理装置在图像分割处理时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的图像分割处理装置与图像分割处理方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
上述技术方案所提供的计算机设备可以实现为终端或服务器,例如,图8是本申请实施例提供的一种终端的结构示意图。示例性的,该终端800是:智能手机、平板电脑、MP3播放器(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端800还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常,终端800包括有:一个或多个处理器801和一个或多个存储器802。
在一种可能实现方式中,处理器801包括一个或多个处理核心,比如4核心处理器、8核心处理器等。可选的,处理器801采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(ProgrammableLogic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。在一种可能实现方式中,处理器801包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central Processing Unit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器801在集成有GPU(GraphicsProcessing Unit,图像处理器), GPU用于负责显示屏所需要显示的内容的渲染和绘制。在一些实施例中,处理器801还包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
在一种可能实现方式中,存储器802包括一个或多个计算机可读存储介质,示例性的,该计算机可读存储介质是非暂态的。存储器802还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器802中的非暂态的计算机可读存储介质用于存储至少一条计算机程序,该至少一条计算机程序用于被处理器801所执行以实现本申请中方法实施例提供的图像分割处理方法。
在一些实施例中,终端800还可选包括有:外围设备接口803和至少一个外围设备。在一种可能实现方式中,处理器801、存储器802和外围设备接口803之间通过总线或信号线相连。在一种可能实现方式中,各个外围设备通过总线、信号线或电路板与外围设备接口803相连。具体地,外围设备包括:射频电路804、显示屏805、摄像头组件806、音频电路807、定位组件808和电源809中的至少一种。
外围设备接口803可被用于将I/O(Input /Output,输入/输出)相关的至少一个外围设备连接到处理器801和存储器802。在一些实施例中,处理器801、存储器802和外围设备接口803被集成在同一芯片或电路板上;在一些其他实施例中,处理器801、存储器802和外围设备接口803中的任意一个或两个在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路804用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路804通过电磁信号与通信网络以及其他通信设备进行通信。射频电路804将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路804包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路804能够通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路804还包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏805用于显示UI(User Interface,用户界面)。示例性的,该UI包括图形、文本、图标、视频及其它们的任意组合。当显示屏805是触摸显示屏时,显示屏805还具有采集在显示屏805的表面或表面上方的触摸信号的能力。该触摸信号能够作为控制信号输入至处理器801进行处理。此时,显示屏805还用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏805为一个,设置终端800的前面板;在另一些实施例中,显示屏805为至少两个,分别设置在终端800的不同表面或呈折叠设计;在一些实施例中,显示屏805是柔性显示屏,设置在终端800的弯曲表面上或折叠面上。甚至,显示屏805还可以设置成非矩形的不规则图形,也即异形屏。显示屏805可以采用LCD(Liquid CrystalDisplay,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件806用于采集图像或视频。可选地,摄像头组件806包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件806还包括闪光灯。可选的,闪光灯是单色温闪光灯,或者是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,能够用于不同色温下的光线补偿。
在一些实施例中,音频电路807包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器801进行处理,或者输入至射频电路804以实现语音通信。可选的,出于立体声采集或降噪的目的,麦克风为多个,分别设置在终端800的不同部位。或者麦克风是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器801或射频电路804的电信号转换为声波。可选的,扬声器是传统的薄膜扬声器,或者是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅能将电信号转换为人类可听见的声波,也能将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路807还包括耳机插孔。
定位组件808用于定位终端800的当前地理位置,以实现导航或LBS(LocationBased Service,基于位置的服务)。示例性的,定位组件808是基于美国的GPS(GlobalPositioning System,全球定位系统)、中国的北斗系统、俄罗斯的格雷纳斯系统或欧盟的伽利略系统的定位组件。
电源809用于为终端800中的各个组件进行供电。示例性的,电源809是交流电、直流电、一次性电池或可充电电池。当电源809包括可充电电池时,该可充电电池能够支持有线充电或无线充电。该可充电电池还能够用于支持快充技术。
在一些实施例中,终端800还包括有一个或多个传感器810。该一个或多个传感器810包括但不限于:加速度传感器811、陀螺仪传感器812、压力传感器813、指纹传感器814、光学传感器815以及接近传感器816。
在一些实施例中,加速度传感器811能够检测以终端800建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器811用于检测重力加速度在三个坐标轴上的分量。在一些实施例中,处理器801能够根据加速度传感器811采集的重力加速度信号,控制显示屏805以横向视图或纵向视图进行用户界面的显示。在一些实施例中,加速度传感器811还用于游戏或者用户的运动数据的采集。
在一些实施例中,陀螺仪传感器812能够检测终端800的机体方向及转动角度,陀螺仪传感器812能够与加速度传感器811协同采集用户对终端800的3D动作。处理器801根据陀螺仪传感器812采集的数据,能够实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
在一些实施例中,压力传感器813设置在终端800的侧边框和/或显示屏805的下层。当压力传感器813设置在终端800的侧边框时,能够检测用户对终端800的握持信号,由处理器801根据压力传感器813采集的握持信号进行左右手识别或快捷操作。当压力传感器813设置在显示屏805的下层时,由处理器801根据用户对显示屏805的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器814用于采集用户的指纹,由处理器801根据指纹传感器814采集到的指纹识别用户的身份,或者,由指纹传感器814根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器801授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。在一些实施例中,指纹传感器814被设置终端800的正面、背面或侧面。当终端800上设置有物理按键或厂商Logo时,指纹传感器814与物理按键或厂商Logo集成在一起。
光学传感器815用于采集环境光强度。在一些实施例中,处理器801能够根据光学传感器815采集的环境光强度,控制显示屏805的显示亮度。具体地,当环境光强度较高时,调高显示屏805的显示亮度;当环境光强度较低时,调低显示屏805的显示亮度。在另一个实施例中,处理器801还能够根据光学传感器815采集的环境光强度,动态调整摄像头组件806的拍摄参数。
接近传感器816,也称距离传感器,通常设置在终端800的前面板。接近传感器816用于采集用户与终端800的正面之间的距离。在一个实施例中,当接近传感器816检测到用户与终端800的正面之间的距离逐渐变小时,由处理器801控制显示屏805从亮屏状态切换为息屏状态;当接近传感器816检测到用户与终端800的正面之间的距离逐渐变大时,由处理器801控制显示屏805从息屏状态切换为亮屏状态。
本领域技术人员能够理解,图8中示出的结构并不构成对终端800的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
图9是本申请实施例提供的一种服务器的结构示意图,该服务器900可因配置或性能不同而产生比较大的差异,在一些实施例中,服务器900包括一个或多个处理器(CentralProcessing Units,CPU)901和一个或多个的存储器902,其中,该一个或多个存储器902中存储有至少一条计算机程序,该至少一条计算机程序由该一个或多个处理器901加载并执行以实现上述各个方法实施例提供的方法。当然,该服务器900还可以具有有线或无线网络接口、键盘以及输入输出接口等部件,以便进行输入输出,该服务器900还可以包括其他用于实现设备功能的部件,在此不做赘述。
在示例性实施例中,还提供了一种计算机可读存储介质,例如包括至少一条计算机程序的存储器,上述至少一条计算机程序可由处理器执行以完成上述实施例中的图像分割处理方法。例如,该计算机可读存储介质可以是只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、只读光盘(Compact Disc Read-OnlyMemory,CD-ROM)、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种计算机程序产品,该计算机程序产品包括至少一条计算机程序,该至少一条计算机程序存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该至少一条计算机程序,处理器执行该至少一条计算机程序,使得该计算机设备执行上述图像分割处理方法。
在一些实施例中,本申请实施例所涉及的计算机程序可被部署在一个计算机设备上执行,或者在位于一个地点的多个计算机设备上执行,又或者,在分布在多个地点且通过通信网络互连的多个计算机设备上执行,分布在多个地点且通过通信网络互连的多个计算机设备可以组成区块链系统。也即是,上述终端和服务器均可以作为区块链系统中的节点设备。
本领域普通技术人员能够理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,该程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
上述仅为本申请的可选实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (25)

1.一种图像分割处理方法,其特征在于,所述方法包括:
获取样本图像以及所述样本图像的初始分割信息,所述初始分割信息是所述样本图像对应的图像分割标注信息;
通过图像分割模型基于所述样本图像以及所述初始分割信息,对所述初始分割信息进行至少一次迭代调整,得到至少一个中间分割信息以及对应的第一标签信息,所述第一标签信息用于指示所述中间分割信息的准确度;
对于任一次迭代调整,基于所述任一次迭代调整过程中,所述样本图像的参考分割信息、输入所述图像分割模型的分割信息、所述图像分割模型输出的分割信息以及对应的第一标签信息,确定一个初始奖励值;
对获取到的至少一个所述初始奖励值进行累加,得到奖励值;
基于所述奖励值对所述图像分割模型的模型参数进行更新;
响应于更新后的所述图像分割模型满足第一参考条件,获取到训练完成的所述图像分割模型。
2.根据权利要求1所述的方法,其特征在于,所述通过图像分割模型基于所述样本图像以及所述初始分割信息,对所述初始分割信息进行至少一次迭代调整,得到至少一个中间分割信息以及对应的第一标签信息,包括:
通过所述图像分割模型基于所述样本图像以及所述初始分割信息,对所述初始分割信息进行一次调整,得到所述图像分割模型输出的一个中间分割信息以及对应的第一标签信息;
响应于当前迭代调整次数未达到第一阈值,将所述图像分割模型前一次输出的中间分割信息以及所述样本图像输入所述图像分割模型,通过所述图像分割模型对所述前一次输出的中间分割信息进行一次调整,得到一个新的中间分割信息以及对应的第一标签信息。
3.根据权利要求2所述的方法,其特征在于,所述通过所述图像分割模型基于所述样本图像以及所述初始分割信息,对所述初始分割信息进行一次调整,得到所述图像分割模型输出的一个中间分割信息以及对应的第一标签信息,包括:
通过所述图像分割模型中的分割网络,基于所述样本图像以及所述初始分割信息,对所述初始分割信息进行调整,得到中间分割信息;
通过所述图像分割模型中的质量鉴别网络,确定所述中间分割信息对应的第一标签信息。
4.根据权利要求3所述的方法,其特征在于,所述通过所述图像分割模型中的分割网络,基于所述样本图像以及所述初始分割信息,对所述初始分割信息进行调整,得到中间分割信息,包括:
通过所述分割网络基于所述样本图像以及所述初始分割信息,确定行为信息,所述行为信息包括所述初始分割信息中各个元素对应的调整值;
基于所述行为信息对所述初始分割信息进行调整,得到所述中间分割信息。
5.根据权利要求3所述的方法,其特征在于,所述通过所述图像分割模型中的质量鉴别网络,确定所述中间分割信息对应的第一标签信息,包括:
通过所述质量鉴别网络对所述样本图像以及所述中间分割信息进行特征提取;
通过所述质量鉴别网络对所述样本图像以及所述中间分割信息的特征进行处理,得到所述第一标签信息。
6.根据权利要求1所述的方法,其特征在于,所述基于所述任一次迭代调整过程中,所述样本图像的参考分割信息、输入所述图像分割模型的分割信息、所述图像分割模型输出的分割信息以及对应的第一标签信息,确定一个初始奖励值,包括:
基于所述任一次迭代调整过程中,所述样本图像的参考分割信息、输入所述图像分割模型的分割信息、所述图像分割模型输出的分割信息,确定第一子奖励值;
基于所述第一标签信息、第二标签信息以及第三标签信息,确定第二子奖励值,所述第二标签信息用于指示所述参考分割信息的准确度,所述第三标签信息用于指示所述图像分割模型输出的分割信息再次经过所述图像分割模型调整后的准确度;
对所述第一子奖励值和所述第二子奖励值进行加权处理,得到所述初始奖励值。
7.根据权利要求6所述的方法,其特征在于,所述基于所述任一次迭代调整过程中,所述样本图像的参考分割信息、输入所述图像分割模型的分割信息、所述图像分割模型输出的分割信息,确定第一子奖励值,包括:
将所述输入所述图像分割模型的分割信息与所述参考分割信息之间的差值的绝对值,确定为第一误差;
将所述图像分割模型输出的分割信息与所述参考分割信息之间的差值的绝对值,确定为第二误差;
将所述第一误差与所述第二误差之间的差值,确定为所述第一子奖励值。
8.根据权利要求6所述的方法,其特征在于,所述基于所述第一标签信息、第二标签信息以及第三标签信息,确定第二子奖励值,包括:
基于所述第二标签信息对应的期望、所述第三标签信息对应的期望,确定第三误差;
基于所述第二标签信息对应的期望、所述第一标签信息对应的期望,确定第四误差;
将所述第三误差与所述第四误差之间的差值,确定为所述第二子奖励值。
9.根据权利要求6所述的方法,其特征在于,所述对所述第一子奖励值和所述第二子奖励值进行加权处理,得到所述初始奖励值,包括:
基于当前训练的代数以及模型训练的总代数,确定所述第二子奖励值对应的权重,一代模型训练是指应用训练数据集中的全部数据对模型进行训练;
基于所述权重对所述第二子奖励值进行加权处理;
基于加权处理后的所述第二子奖励值以及所述第一子奖励值,确定所述初始奖励值。
10.根据权利要求1所述的方法,其特征在于,所述基于所述奖励值对所述图像分割模型的模型参数进行更新,包括:
响应于当前训练的轮数满足第二参考条件,基于所述奖励值更新所述图像分割模型中的分割网络的参数,一轮模型训练是指应用训练数据集中一个批次的训练数据对模型进行训练;
响应于当前训练的轮数不满足第二参考条件,获取所述第一标签信息与所述中间分割信息对应的正确标签之间的目标误差,基于所述目标误差更新所述图像分割模型中的质量鉴别网络的参数。
11.根据权利要求10所述的方法,其特征在于,所述第一参考条件包括:
对至少一轮模型训练过程中所获取到的奖励值的限制信息。
12.一种图像分割处理方法,其特征在于,包括:
获取待处理的图像;
调用图像分割模型对所述图像进行处理,得到所述图像的分割信息,所述分割信息是所述图像对应的图像分割标注,所述图像分割模型基于样本图像、所述样本图像的初始分割信息以及对应的奖励值训练得到,所述奖励值基于所述初始分割信息、所述样本图像的参考分割信息、至少一个中间分割信息以及对应的第一标签信息所确定的至少一个初始奖励值累加得到,所述中间分割信息基于对所述初始分割信息调整得到,所述第一标签信息用于指示所述中间分割信息的准确度;
基于所述图像的分割信息,在所述图像上显示对应的分割区域。
13.一种图像分割处理装置,其特征在于,所述装置包括获取模块、调整模块、确定模块以及更新模块,其中,所述确定模块包括第三子模块和第四子模块;
所述获取模块,用于获取样本图像以及所述样本图像的初始分割信息,所述初始分割信息是所述样本图像对应的图像分割标注信息;
所述调整模块,用于通过图像分割模型基于所述样本图像以及所述初始分割信息,对所述初始分割信息进行至少一次迭代调整,得到至少一个中间分割信息以及对应的第一标签信息,所述第一标签信息用于指示所述中间分割信息的准确度;
所述第三子模块,用于对于任一次迭代调整,基于所述任一次迭代调整过程中,所述样本图像的参考分割信息、输入所述图像分割模型的分割信息、所述图像分割模型输出的分割信息以及对应的第一标签信息,确定一个初始奖励值;
所述第四子模块,用于对获取到的至少一个所述初始奖励值进行累加,得到奖励值;
所述更新模块,用于基于所述奖励值对所述图像分割模型的模型参数进行更新;响应于更新后的所述图像分割模型满足第一参考条件,获取到训练完成的所述图像分割模型。
14.根据权利要求13所述的装置,其特征在于,所述调整模块用于:
通过所述图像分割模型基于所述样本图像以及所述初始分割信息,对所述初始分割信息进行一次调整,得到所述图像分割模型输出的一个中间分割信息以及对应的第一标签信息;
响应于当前迭代调整次数未达到第一阈值,将所述图像分割模型前一次输出的中间分割信息以及所述样本图像输入所述图像分割模型,通过所述图像分割模型对所述前一次输出的中间分割信息进行一次调整,得到一个新的中间分割信息以及对应的第一标签信息。
15.根据权利要求14所述的装置,其特征在于,所述调整模块包括:
第一子模块,用于通过所述图像分割模型中的分割网络,基于所述样本图像以及所述初始分割信息,对所述初始分割信息进行调整,得到中间分割信息;
第二子模块,用于通过所述图像分割模型中的质量鉴别网络,确定所述中间分割信息对应的第一标签信息。
16.根据权利要求15所述的装置,其特征在于,所述第一子模块用于:
通过所述分割网络基于所述样本图像以及所述初始分割信息,确定行为信息,所述行为信息包括所述初始分割信息中各个元素对应的调整值;
基于所述行为信息对所述初始分割信息进行调整,得到所述中间分割信息。
17.根据权利要求15所述的装置,其特征在于,所述第二子模块用于:
通过所述质量鉴别网络对所述样本图像以及所述中间分割信息进行特征提取;
通过所述质量鉴别网络对所述样本图像以及所述中间分割信息的特征进行处理,得到所述第一标签信息。
18.根据权利要求13所述的装置,其特征在于,所述第三子模块包括:
第一确定单元,用于基于所述任一次迭代调整过程中,所述样本图像的参考分割信息、输入所述图像分割模型的分割信息、所述图像分割模型输出的分割信息,确定第一子奖励值;
第二确定单元,用于基于所述第一标签信息、第二标签信息以及第三标签信息,确定第二子奖励值,所述第二标签信息用于指示所述参考分割信息的准确度,所述第三标签信息用于指示所述图像分割模型输出的分割信息再次经过所述图像分割模型调整后的准确度;
加权单元,用于对所述第一子奖励值和所述第二子奖励值进行加权处理,得到所述初始奖励值。
19.根据权利要求18所述的装置,其特征在于,所述第一确定单元用于:
将所述输入所述图像分割模型的分割信息与所述参考分割信息之间的差值的绝对值,确定为第一误差;
将所述图像分割模型输出的分割信息与所述参考分割信息之间的差值的绝对值,确定为第二误差;
将所述第一误差与所述第二误差之间的差值,确定为所述第一子奖励值。
20.根据权利要求18所述的装置,其特征在于,所述第二确定单元用于:
基于所述第二标签信息对应的期望、所述第三标签信息对应的期望,确定第三误差;
基于所述第二标签信息对应的期望、所述第一标签信息对应的期望,确定第四误差;
将所述第三误差与所述第四误差之间的差值,确定为所述第二子奖励值。
21.根据权利要求18所述的装置,其特征在于,所述加权单元用于:
基于当前训练的代数以及模型训练的总代数,确定所述第二子奖励值对应的权重,一代模型训练是指应用训练数据集中的全部数据对模型进行训练;
基于所述权重对所述第二子奖励值进行加权处理;
基于加权处理后的所述第二子奖励值以及所述第一子奖励值,确定所述初始奖励值。
22.根据权利要求13所述的装置,其特征在于,所述更新模块用于:
响应于当前训练的轮数满足第二参考条件,基于所述奖励值更新所述图像分割模型中的分割网络的参数,一轮模型训练是指应用训练数据集中一个批次的训练数据对模型进行训练;
响应于当前训练的轮数不满足第二参考条件,获取所述第一标签信息与所述中间分割信息对应的正确标签之间的目标误差,基于所述目标误差更新所述图像分割模型中的质量鉴别网络的参数。
23.根据权利要求22所述的装置,其特征在于,所述第一参考条件包括:
对至少一轮模型训练过程中所获取到的奖励值的限制信息。
24.一种计算机设备,其特征在于,所述计算机设备包括一个或多个处理器和一个或多个存储器,所述一个或多个存储器中存储有至少一条计算机程序,所述至少一条计算机程序由所述一个或多个处理器加载并执行以实现如权利要求1至权利要求12任一项所述的图像分割处理方法所执行的操作。
25.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有至少一条计算机程序,所述至少一条计算机程序由处理器加载并执行以实现如权利要求1至权利要求12任一项所述的图像分割处理方法所执行的操作。
CN202110465350.5A 2021-04-28 2021-04-28 图像分割处理方法、装置及计算机设备 Active CN112884770B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110465350.5A CN112884770B (zh) 2021-04-28 2021-04-28 图像分割处理方法、装置及计算机设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110465350.5A CN112884770B (zh) 2021-04-28 2021-04-28 图像分割处理方法、装置及计算机设备

Publications (2)

Publication Number Publication Date
CN112884770A CN112884770A (zh) 2021-06-01
CN112884770B true CN112884770B (zh) 2021-07-02

Family

ID=76040706

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110465350.5A Active CN112884770B (zh) 2021-04-28 2021-04-28 图像分割处理方法、装置及计算机设备

Country Status (1)

Country Link
CN (1) CN112884770B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113689437B (zh) * 2021-07-26 2024-06-11 南京理工大学 基于迭代式选择-修正网络的交互式图像分割方法
CN114283290B (zh) * 2021-09-27 2024-05-03 腾讯科技(深圳)有限公司 图像处理模型的训练、图像处理方法、装置、设备及介质
CN114496177B (zh) * 2022-01-24 2022-09-16 佳木斯大学 一种基于大数据的感染科临床感染源的检测方法及系统
CN115091283B (zh) * 2022-07-06 2023-08-22 天润工业技术股份有限公司 一种高效磨削曲轴的控制调整方法及系统
CN115049836B (zh) * 2022-08-16 2022-10-25 平安科技(深圳)有限公司 图像分割方法、装置、设备及存储介质
CN115376196B (zh) * 2022-10-25 2023-01-31 上海联息生物科技有限公司 图像处理方法、金融隐私数据的安全处理方法及装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106558058A (zh) * 2016-11-29 2017-04-05 北京图森未来科技有限公司 分割模型训练方法、道路分割方法、车辆控制方法及装置
CN109087306A (zh) * 2018-06-28 2018-12-25 众安信息技术服务有限公司 动脉血管图像模型训练方法、分割方法、装置及电子设备
CN109785303A (zh) * 2018-12-28 2019-05-21 上海联影智能医疗科技有限公司 肋骨标记方法、装置、设备以及图像分割模型的训练方法
CN109829894A (zh) * 2019-01-09 2019-05-31 平安科技(深圳)有限公司 分割模型训练方法、oct图像分割方法、装置、设备及介质
US10402690B2 (en) * 2016-11-07 2019-09-03 Nec Corporation System and method for learning random-walk label propagation for weakly-supervised semantic segmentation
CN110599505A (zh) * 2019-09-17 2019-12-20 上海微创医疗器械(集团)有限公司 一种器官图像分割方法、装置、电子设备和存储介质
CN111815562A (zh) * 2020-06-10 2020-10-23 三峡大学 一种U-Net与自适应PCNN相结合的视网膜血管分割方法
CN112233125A (zh) * 2020-10-15 2021-01-15 平安科技(深圳)有限公司 图像分割方法、装置、电子设备及计算机可读存储介质
CN112330684A (zh) * 2020-11-23 2021-02-05 腾讯科技(深圳)有限公司 对象分割方法、装置、计算机设备及存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10402690B2 (en) * 2016-11-07 2019-09-03 Nec Corporation System and method for learning random-walk label propagation for weakly-supervised semantic segmentation
CN106558058A (zh) * 2016-11-29 2017-04-05 北京图森未来科技有限公司 分割模型训练方法、道路分割方法、车辆控制方法及装置
CN109087306A (zh) * 2018-06-28 2018-12-25 众安信息技术服务有限公司 动脉血管图像模型训练方法、分割方法、装置及电子设备
CN109785303A (zh) * 2018-12-28 2019-05-21 上海联影智能医疗科技有限公司 肋骨标记方法、装置、设备以及图像分割模型的训练方法
CN109829894A (zh) * 2019-01-09 2019-05-31 平安科技(深圳)有限公司 分割模型训练方法、oct图像分割方法、装置、设备及介质
CN110599505A (zh) * 2019-09-17 2019-12-20 上海微创医疗器械(集团)有限公司 一种器官图像分割方法、装置、电子设备和存储介质
CN111815562A (zh) * 2020-06-10 2020-10-23 三峡大学 一种U-Net与自适应PCNN相结合的视网膜血管分割方法
CN112233125A (zh) * 2020-10-15 2021-01-15 平安科技(深圳)有限公司 图像分割方法、装置、电子设备及计算机可读存储介质
CN112330684A (zh) * 2020-11-23 2021-02-05 腾讯科技(深圳)有限公司 对象分割方法、装置、计算机设备及存储介质

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Semantic Image Segmentation with Contextual Hierarchical Models;Mojtaba Seyedhosseini et al;《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》;20160531;第952-956页 *
基于条件生成对抗网络的乳腺上皮和间质区域自动分割;张泽林 等;《计算机应用》;20201010;第2910-2916页 *
基于深度学习的医学图像标注模型构建研究;时磊;《中国优秀硕士学位论文全文数据库 信息科技辑》;20171216;第44-56页 *

Also Published As

Publication number Publication date
CN112884770A (zh) 2021-06-01

Similar Documents

Publication Publication Date Title
CN112884770B (zh) 图像分割处理方法、装置及计算机设备
CN110348543B (zh) 眼底图像识别方法、装置、计算机设备及存储介质
WO2020224479A1 (zh) 目标的位置获取方法、装置、计算机设备及存储介质
CN111739035B (zh) 基于人工智能的图像处理方法、装置、设备及存储介质
CN111091576A (zh) 图像分割方法、装置、设备及存储介质
CN111931877B (zh) 目标检测方法、装置、设备及存储介质
CN110544272A (zh) 脸部跟踪方法、装置、计算机设备及存储介质
CN110413837B (zh) 视频推荐方法和装置
CN111104980B (zh) 确定分类结果的方法、装置、设备及存储介质
CN112749613B (zh) 视频数据处理方法、装置、计算机设备及存储介质
CN110570460A (zh) 目标跟踪方法、装置、计算机设备及计算机可读存储介质
CN111192262A (zh) 基于人工智能的产品缺陷分类方法、装置、设备及介质
CN112966124B (zh) 知识图谱对齐模型的训练方法、对齐方法、装置及设备
CN111178343A (zh) 基于人工智能的多媒体资源检测方法、装置、设备及介质
CN113570645A (zh) 图像配准方法、装置、计算机设备及介质
CN113257412B (zh) 信息处理方法、装置、计算机设备及存储介质
CN111598896A (zh) 图像检测方法、装置、设备及存储介质
CN111931075B (zh) 一种内容推荐方法、装置、计算机设备及存储介质
CN111353513B (zh) 一种目标人群筛选的方法、装置、终端和存储介质
CN112925922A (zh) 获取地址的方法、装置、电子设备及介质
CN113673249B (zh) 实体识别方法、装置、设备及存储介质
CN113743186B (zh) 医学图像的处理方法、装置、设备及存储介质
CN113936809A (zh) 传染病预测和训练方法、装置、设备及介质
CN114328948A (zh) 文本标准化模型的训练方法、文本标准化方法及装置
CN114281937A (zh) 嵌套实体识别模型的训练方法、嵌套实体识别方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20210924

Address after: 518052 Room 201, building A, 1 front Bay Road, Shenzhen Qianhai cooperation zone, Shenzhen, Guangdong

Patentee after: Tencent Medical Health (Shenzhen) Co.,Ltd.

Address before: 518057 Tencent Building, No. 1 High-tech Zone, Nanshan District, Shenzhen City, Guangdong Province, 35 floors

Patentee before: TENCENT TECHNOLOGY (SHENZHEN) Co.,Ltd.

TR01 Transfer of patent right
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40045884

Country of ref document: HK