CN114973285A - 图像处理方法和装置、设备、介质 - Google Patents
图像处理方法和装置、设备、介质 Download PDFInfo
- Publication number
- CN114973285A CN114973285A CN202210581958.9A CN202210581958A CN114973285A CN 114973285 A CN114973285 A CN 114973285A CN 202210581958 A CN202210581958 A CN 202210581958A CN 114973285 A CN114973285 A CN 114973285A
- Authority
- CN
- China
- Prior art keywords
- target
- image
- initial
- text detection
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 33
- 238000001514 detection method Methods 0.000 claims abstract description 160
- 238000012545 processing Methods 0.000 claims abstract description 152
- 238000000034 method Methods 0.000 claims abstract description 55
- 238000000605 extraction Methods 0.000 claims abstract description 26
- 230000015654 memory Effects 0.000 claims description 22
- 230000008569 process Effects 0.000 claims description 18
- 230000006870 function Effects 0.000 claims description 14
- 238000013138 pruning Methods 0.000 claims description 14
- 238000004891 communication Methods 0.000 claims description 13
- 238000012549 training Methods 0.000 claims description 12
- 238000013140 knowledge distillation Methods 0.000 claims description 11
- 238000005070 sampling Methods 0.000 claims description 7
- 238000007781 pre-processing Methods 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 abstract description 20
- 238000013473 artificial intelligence Methods 0.000 description 21
- 238000005516 engineering process Methods 0.000 description 13
- 238000002591 computed tomography Methods 0.000 description 10
- 230000000694 effects Effects 0.000 description 10
- 238000003058 natural language processing Methods 0.000 description 7
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000002595 magnetic resonance imaging Methods 0.000 description 4
- 238000012015 optical character recognition Methods 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000000644 propagated effect Effects 0.000 description 3
- 230000011218 segmentation Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000003902 lesion Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012821 model calculation Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000005251 gamma ray Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/413—Classification of content, e.g. text, photographs or tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/18—Extraction of features or characteristics of the image
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Engineering & Computer Science (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例提供一种图像处理方法和装置、设备、介质,属于图像处理技术领域。该方法包括:获取待处理的原始图像;通过预先训练的文本检测模型的主干网络对原始图像进行特征提取处理,得到若干初始特征图,主干网络为mobilenetV3‑small网络;通过文本检测模型的特征金字塔网络对若干初始特征图进行特征级联处理,得到目标特征图;通过文本检测模型的预测网络对目标特征图进行预测处理,以得到目标预测概率图和目标阈值图;对目标预测概率图和目标阈值图进行可微分的二值化处理,得到目标二值图像,并根据目标二值图像得到文本检测结果。本实施例通过主干网络为mobilenetV3‑small网络的文本检测模型对图像进行处理,减少了模型的计算量并且提高了图像文本检测的效率。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像处理方法和装置、设备、介质。
背景技术
在图像处理中,DBnet模型具有速度快、效果好等特点。因此,常用DBnet模型对图像进行文本检测,得到的文本检测的效果好,但是模型的计算量太大。受制于移动端的计算能力、模型的大小等因素,当前的DBnet模型在移动端上的图像处理效率较低,导致移动端的图像文本检测的应用相对滞后。因此,如何提供一种图像处理方法,能够提高图像文本检测的效率,成为了亟待解决的技术问题。
发明内容
本申请实施例的主要目的在于提出一种图像处理方法和装置、设备、介质,通过减少模型的计算量,能够提高图像文本检测的效率。
为实现上述目的,本申请实施例的第一方面提出了一种图像处理方法,所述方法包括:
获取待处理的原始图像;
通过预先训练的文本检测模型的主干网络对所述原始图像进行特征提取处理,得到若干初始特征图,所述主干网络为mobilenetV3-small网络;
通过所述文本检测模型的特征金字塔网络对若干所述初始特征图进行特征级联处理,得到目标特征图;
通过所述文本检测模型的预测网络对所述目标特征图进行预测处理,以得到目标预测概率图和目标阈值图;
对所述目标预测概率图和所述目标阈值图进行可微分的二值化处理,得到目标二值图像,并根据所述目标二值图像得到文本检测结果。
根据本申请实施例第一方面的图像处理方法,至少存在以下有益效果:通过将文本检测模型的主干网络替换为mobilenetV3-small网络,并通过替换后的文本检测模型对图像进行处理,减少了模型的参数量,从而减少了模型的计算量并且提高了图像文本检测的效率。
在一些实施例,所述通过所述文本检测模型的预测网络对所述目标特征图进行预测处理,以得到目标预测概率图和目标阈值图,包括:
将所述目标特征图输入至1x1卷积核中,并通过所述1x1卷积核对所述目标特征图进行卷积处理,以得到初始预测概率图和初始阈值图;
对所述初始预测概率图进行下采样处理,以得到目标预测概率图;
对所述初始阈值图进行下采样处理,以得到目标阈值图。
在一些实施例,所述通过所述文本检测模型的特征金字塔网络对若干所述初始特征图进行特征级联处理,得到目标特征图,包括:
对若干所述初始特征图分别施加不同大小的权重值,以得到若干权重特征图;
对若干所述权重特征图进行特征级联处理,得到目标特征图。
在一些实施例,所述原始图像为多通道彩色图像,在所述获取待处理的原始图像之后,所述方法还包括:
对所述多通道彩色图像进行预处理,以得到单通道彩色图像;
对所述单通道彩色图像进行灰度处理,以得到单通道的初始灰度图像;
对所述初始灰度图像进行下采样处理,以得到目标灰度图像,并将所述目标灰度图像输入文本检测模型,以使得通过所述文本检测模型对所述目标灰度图像进行文本检测处理。
在一些实施例,未经训练的所述文本检测模型为初始文本检测模型,包括依次连接的初始mobilenetV3-small网络、初始特征金字塔网络和初始预测网络;对所述初始文本检测模型进行训练的过程包括:
获取第一样本图像;
将所述第一样本图像输入至初始文本检测模型中;
通过所述初始mobilenetV3-small网络对所述第一样本图像进行特征提取,得到若干初始样本特征图;
通过通道剪枝的操作来对所述初始特征金字塔网络的冗余通道进行裁剪处理,以得到目标特征金字塔网络;
通过所述目标特征金字塔网络对若干所述初始样本特征图进行特征级联处理,得到目标样本特征图;
通过所述文本检测模型的初始预测网络对所述目标样本特征图进行卷积处理、并对卷积处理后得到的初始样本预测概率图和初始样本阈值图进行下采样处理,以得到目标样本预测概率图和目标样本阈值图;
对所述目标样本预测概率图和所述目标样本阈值图进行可微分的二值化处理,得到样本二值图;
根据所述第一样本图像和所述样本二值图得到损失函数,并根据所述损失函数对所述初始文本检测模型进行训练,以得到第一文本检测模型。
在一些实施例,所述通过通道剪枝的操作来对初始特征金字塔网络的冗余通道进行裁剪处理,以得到目标特征金字塔网络,包括:
通过所述初始特征金字塔网络的中间网络层对若干所述初始样本特征图进行特征级联处理,得到若干中间特征;
根据若干所述中间特征计算所述中间网络层的各个通道的通道权重,并根据所述通道权重确定所述初始特征金字塔网络的冗余通道;
通过通道剪枝的操作来对所述冗余通道进行裁剪处理,以得到目标特征金字塔网络。
在一些实施例,在所述根据所述损失函数对所述初始文本检测模型进行训练,以得到第一文本检测模型之后,所述方法还包括:
获取预先训练好的老师模型和第二样本图像;
将所述第二样本图像分别输入至所述老师模型和所述第一文本检测模型,得到所述老师模型的第一输出图像、以及所述第一文本检测模型的第二输出图像;
利用所述第一输出图像和所述第二输出图像进行知识蒸馏,得到知识蒸馏结果;
根据所述知识蒸馏结果更新所述第一文本检测模型,得到第二文本检测模型。
为实现上述目的,本申请实施例的第二方面提出了一种图像处理装置,包括:
获取模块,用于获取待处理的原始图像;
特征提取模块,用于通过预先训练的文本检测模型的主干网络对所述原始图像进行特征提取处理,得到若干初始特征图,所述主干网络为mobilenetV3-small网络;
特征级联模块,用于通过所述文本检测模型的特征金字塔网络对若干所述初始特征图进行特征级联处理,得到目标特征图;
预测处理模块,用于通过所述文本检测模型的预测网络对所述目标特征图进行预测处理,以得到目标预测概率图和目标阈值图;
目标处理模块,用于对所述目标预测概率图和所述目标阈值图进行可微分的二值化处理,得到目标二值图像,并根据所述目标二值图像得到文本检测结果。
为实现上述目的,本申请实施例的第三方面提出了一种计算机设备,所述计算机设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通信的数据总线,所述程序被所述处理器执行时实现上述第一方面所述的方法。
为实现上述目的,本申请实施例的第四方面提出了一种存储介质,所述存储介质为计算机可读存储介质,用于计算机可读存储,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现上述第一方面所述的方法。
本申请提出的图像处理方法和装置、设备、介质,能够获取待处理的原始图像;通过预先训练的文本检测模型的主干网络对原始图像进行特征提取处理,得到若干初始特征图,主干网络为mobilenetV3-small网络;通过文本检测模型的特征金字塔网络对若干初始特征图进行特征级联处理,得到目标特征图;通过文本检测模型的预测网络对目标特征图进行预测处理,以得到目标预测概率图和目标阈值图;对目标预测概率图和所述目标阈值图进行可微分的二值化处理,得到目标二值图像,并根据目标二值图像得到文本检测结果。本实施例通过将文本检测模型的主干网络替换为mobilenetV3-small网络,并通过替换后的文本检测模型对图像进行处理,减少了模型的参数量,进而减少了模型的计算量并且提高了图像文本检测的效率。
附图说明
图1是本申请实施例提供的图像处理方法的流程图;
图2是图1中的步骤S130的流程图;
图3是图1中的步骤S140的流程图;
图4是本申请实施例提供的图像处理方法的另一流程图;
图5是本申请实施例提供的图像处理方法的另一流程图;
图6是图5中的步骤S540的流程图;
图7是本申请实施例提供的图像处理方法的另一流程图;
图8是本申请实施例提供的图像处理装置的模块结构框图;
图9是本申请实施例提供的计算机设备的硬件结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本申请,并不用于限定本申请。
需要说明的是,虽然在装置示意图中进行了功能模块划分,在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于装置中的模块划分,或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的,不是旨在限制本申请。
首先,对本申请中涉及的若干名词进行解析:
人工智能(artificial intelligence,AI):是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学;人工智能是计算机科学的一个分支,人工智能企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能可以对人的意识、思维的信息过程的模拟。人工智能还是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
自然语言处理(natural language processing,NLP):NLP用计算机来处理、理解以及运用人类语言(如中文、英文等),NLP属于人工智能的一个分支,是计算机科学与语言学的交叉学科,又常被称为计算语言学。自然语言处理包括语法分析、语义分析、篇章理解等。自然语言处理常用于机器翻译、手写体和印刷体字符识别、语音识别及文语转换、信息图像处理、信息抽取与过滤、文本分类与聚类、舆情分析和观点挖掘等技术领域,它涉及与语言处理相关的数据挖掘、机器学习、知识获取、知识工程、人工智能研究和与语言计算相关的语言学研究等。
信息抽取(Information Extraction,NER):从自然语言文本中抽取指定类型的实体、关系、事件等事实信息,并形成结构化数据输出的文本处理技术。信息抽取是从文本数据中抽取特定信息的一种技术。文本数据是由一些具体的单位构成的,例如句子、段落、篇章,文本信息正是由一些小的具体的单位构成的,例如字、词、词组、句子、段落或是这些具体的单位的组合。抽取文本数据中的名词短语、人名、地名等都是文本信息抽取,当然,文本信息抽取技术所抽取的信息可以是各种类型的信息。
电子计算机断层扫描(Computed Tomography,CT):它是利用精确准直的X线束、γ射线、超声波等,与灵敏度极高的探测器一同围绕人体的某一部位作一个接一个的断面扫描,具有扫描时间快,图像清晰等特点,可用于多种疾病的检查;根据所采用的射线不同可分为:X射线CT(X-CT)以及γ射线CT(γ-CT)等。
反向传播:反向传播的大致原理为:将训练集数据输入到神经网络的输入层,经过神经网络的隐藏层,最后达到神经网络的输出层并输出结果;由于神经网络的输出结果与实际结果有误差,则计算估计值与实际值之间的误差,并将该误差从输出层向隐藏层反向传播,直至传播到输入层;在反向传播的过程中,根据误差调整各种参数的值;不断迭代上述过程,直至收敛。
光学字符识别(Optical Character Recognition,OCR):是指电子设备(例如扫描仪或数码相机)检查纸上打印的字符,通过检测暗、亮的模式确定其形状,然后用字符识别方法将形状翻译成计算机文字的过程;即,针对印刷体字符,采用光学的方式将纸质文档中的文字转换成为黑白点阵的图像文件,并通过识别软件将图像中的文字转换成文本格式,供文字处理软件进一步编辑加工的技术。
DBnet模型(Real-time Scene Text Detection with DifferentiableBinarization):DBnet模型的原理是基于分割算法,一般分割算法流程:先通过网络输出文本分割的概率图,然后使用设定阈值将概率图转化为二值图,然后通过后处理得到检测结果(文本框坐标)。
目前,人工智能技术不断地赋能于我们生活的各个场景,使得我们的生活更加地便利和智能化。在OCR(光学字符识别)领域,DBnet模型是在工业界落地使用最多的一个模型。在图像处理中,DBnet模型具有速度快、效果好等特点。因此,常用DBnet模型对图像进行文本检测,得到的文本检测的效果好,但是DBnet模型的计算量太大。受制于边缘设备的计算能力、模型的大小等因素,当前的DBnet模型在移动端上的图像处理效率较低,导致文本检测模型在移动端的部署相对滞后。因此,如何提供一种图像处理方法,能够提高图像文本检测的效率,成为了亟待解决的技术问题。
基于此,本申请实施例的主要目的在于提出一种图像处理方法和装置、设备、介质,旨在减少模型的计算量,提高图像文本检测的效率,从而使得该图像处理方法能够应用于移动端。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请实施例提供的图像处理方法,涉及人工智能技术领域。本申请实施例提供的图像处理方法可应用于终端中,也可应用于服务器端中,还可以是运行于终端或服务器端中的软件。在一些实施例中,终端可以是智能手机、平板电脑、笔记本电脑、台式计算机等;服务器端可以配置成独立的物理服务器,也可以配置成多个物理服务器构成的服务器集群或者分布式系统,还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN以及大数据和人工智能平台等基础云计算服务的云服务器;软件可以是实现图像处理方法的应用等,但并不局限于以上形式。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本申请实施例提供图像处理方法和装置、设备、介质,具体通过如下实施例进行说明,首先描述本申请实施例中的图像处理方法。
图1是本申请实施例提供的图像处理方法的一个可选的流程图,图1中的方法可以包括但不限于包括步骤S110至步骤S150。
步骤S110,获取待处理的原始图像;
步骤S120,通过预先训练的文本检测模型的主干网络对原始图像进行特征提取处理,得到若干初始特征图,主干网络为mobilenetV3-small网络;
步骤S130,通过文本检测模型的特征金字塔网络对若干初始特征图进行特征级联处理,得到目标特征图;
步骤S140,通过文本检测模型的预测网络对目标特征图进行预测处理,以得到目标预测概率图和目标阈值图;
步骤S150,对目标预测概率图和目标阈值图进行可微分的二值化处理,得到目标二值图像,并根据目标二值图像得到文本检测结果。
具体的,通过步骤S110至步骤S150,本申请实施例通过将文本检测模型的主干网络替换为mobilenetV3-small网络,并通过替换后的文本检测模型对图像进行处理,有效减少了模型的参数量,从而减少了模型的计算量并且提高了图像文本检测的效率。需要说明的是,本实施例的文本检测模型大小可到0.9Mb,能方便地部署到各种手机机型,且具备不错的检测效果。本实施例的文本检测模型可运用于寿险AI相机等移动端AI项目中。
在步骤S110中,待处理的原始图像可以为三维图像;在一些实施例,该三维图像可以是通过计算机断层扫描(Computed Tomography,CT),在另一项实施例,该三维图像还可以是通过核磁共振成像(Magnetic Resonance Imaging,MRI)得来。
在一些医学应用场景中,上述的待处理的原始图像可以为医学影像,原始图像包含的对象所属类型为病灶,即机体上发生病变的部分。医学影像是指为了医疗或医学研究,以非侵入方式取得的内部组织,比如,CT(Computed Tomography,电子计算机断层扫描)、MRI(Magnetic Resonance Imaging,磁共振成像)、US(ultrasonic,超声)、X光图像以及光学摄影灯由医学仪器生成的图像。
在步骤S120中,通过预先训练的文本检测模型的主干网络对原始图像进行特征提取处理,得到若干初始特征图,主干网络为mobilenetV3-small网络。其中,若干初始特征图的分辨率互不相同。在一实施例中,原始图像经过主干网络后输出四个初始特征图,分辨率分别为原始图像的1/4,1/8,1/16,1/32大小。文本检测模型的原主干网络为CNN网络结构,本实施例将CNN网络结构替换成参数量小且速度快的mobilenetV3-small网络,使得模型的计算量得到大幅度缩减,提高图像处理的速度。
在步骤S130中,通过文本检测模型的特征金字塔网络对若干初始特征图进行特征级联处理,得到目标特征图。在一实施例中,将四个初始特征图分别上采样至原始图像分辨率的1/4大小,再进行特征级联处理,得到目标特征图。需要说明的是,在特征金字塔网络的结构下,增加特征提取层数能学习或者表征到图像上更丰富的信息。因此,本实施例通过将多张初始特征图进行特征级联处理,能够提取出图像的潜在特征信息,有益于提高图像合成的精度,提高图像处理质量。
在一具体示例中,以640x640x1(灰度图)的作为输入,经过主干网络后输出的特征维度是1x160x160x512,再经过特征金字塔网络处理后的输出是1x80x80x128的张量,再经过预测网络后输出的目标预测概率图和目标阈值图都是1x320x320的预测图,最后对预测图进行可微分的二值化处理,以得到最终的文本检测结果。
请参阅图2,在一些实施例中,步骤S130可以包括但不限于包括步骤S210至步骤S220:
步骤S210,对若干初始特征图分别施加不同大小的权重值,以得到若干权重特征图;
步骤S220,对若干权重特征图进行特征级联处理,得到目标特征图。
具体的,在步骤S210至步骤S220中,通过注意力机制对若干初始特征图分别施加不同大小的权重值,得到若干权重特征图,并对若干权重特征图进行特征级联处理,得到目标特征图。在本实施例中,若干初始特征图不仅仅是分辨率互不相同,还通过注意力机制为初始特征图施加权重,可以提高目标特征图的生成质量。
请参阅图3,在一些实施例中,步骤S140可以包括但不限于包括步骤S310至步骤S330:
步骤S310,将目标特征图输入至1x1卷积核中,并通过1x1卷积核对目标特征图进行卷积处理,以得到初始预测概率图和初始阈值图;
步骤S320,对初始预测概率图进行下采样处理,以得到目标预测概率图;
步骤S330,对初始阈值图进行下采样处理,以得到目标阈值图。
具体的,在步骤S310至步骤S330中,通过1x1卷积核对目标特征图进行卷积处理,以得到初始预测概率图和初始阈值图。需要说明的是,1x1卷积的作用是在不改变目标特征图的宽高的情况下做升维或者降维操作。在本实施例中,通过1x1核对目标特征图进行卷积处理,以将目标特征图的维度升高,并从维度升高的目标特征图中得到初始预测概率图和初始阈值图。再分别对初始预测概率图、初始阈值图进行下采样处理,目的是减少图像的计算量,进一步提高图像处理的速度。
请参阅图4,在一些实施例中,原始图像为多通道彩色图像,在步骤S110之后,该图像处理方法具体包括但不限于包括步骤S410至步骤S430:
步骤S410,对多通道彩色图像进行预处理,以得到单通道彩色图像;
步骤S420,对单通道彩色图像进行灰度处理,以得到单通道的初始灰度图像;
步骤S430,对初始灰度图像进行下采样处理,以得到目标灰度图像,并将目标灰度图像输入文本检测模型,以使得通过文本检测模型对目标灰度图像进行文本检测处理。
具体的,在步骤S410至步骤S430中,一开始获取的原始图像为多通道彩色图像,在本实施例中,将多通道彩色图像转化成单通道的初始灰度图像,并对初始灰度图像进行下采样处理得到目标灰度图像,再将目标灰度图像输入至文本检测模型。经过本实施例对多通道彩色图像的处理,目的是进一步减少图像处理的计算量,提高图像处理的速度。
请参阅图5,在一些实施例中,未经训练的文本检测模型为初始文本检测模型,包括依次连接的初始mobilenetV3-small网络、初始特征金字塔网络和初始预测网络;对初始文本检测模型进行训练的过程具体包括但不限于包括步骤S510至步骤S580:
步骤S510,获取第一样本图像;
步骤S520,将第一样本图像输入至初始文本检测模型中;
步骤S530,通过初始mobileneV3-small网络对第一样本图像进行特征提取,得到若干初始样本特征图;
步骤S540,通过通道剪枝的操作来对初始特征金字塔网络的冗余通道进行裁剪处理,以得到目标特征金字塔网络;
步骤S550,通过目标特征金字塔网络对若干样本初始特征图进行特征级联处理,得到目标样本特征图;
步骤S560,通过文本检测模型的初始预测网络对目标样本特征图进行卷积处理、并对卷积处理后得到的初始样本预测概率图和初始样本阈值图进行下采样处理,以得到目标样本预测概率图和目标样本阈值图;
步骤S570,对目标样本预测概率图和目标样本阈值图进行可微分的二值化处理,得到样本二值图;
步骤S580,根据第一样本图像和样本二值图得到损失函数,并根据损失函数对初始文本检测模型进行训练,以得到第一文本检测模型。
通过步骤S510至步骤S580,实现对初始文本检测模型的训练,以得到图像处理速度快且图像质量高的第一文本检测模型。可以理解的是,第一文本检测模型相比现有的文本检测模型,计算量小且精度高。因此,第一文本检测模型可应用在移动端等计算性能较低的设备上,且保证了良好的图像检测结果。需要说明的是,本实施例的第一文本检测模型大小可到0.9Mb,能方便地部署到各种手机机型,且具备不错的检测效果。本实施例的第一文本检测模型可运用于寿险AI相机等移动端AI项目中。
具体地,在步骤S510中,可以通过计算机断层扫描(Computed Tomography,CT)或者核磁共振成像(Magnetic Resonance Imaging,MRI)得到第一样本图像。
进一步地,执行步骤S520,将第一样本图像输入至初始文本检测模型中。
需要说明的是,该初始文本检测模型主要由三部分组成,即依次连接的初始主干网络、初始特征金字塔网络和初始预测网络。其中,初始主干网络为初始mobilenetV3-small网络,需要说明的是,mobilenetV3-small网络、特征金字塔网络、预测网络均是已开源的网络结构。
进一步地,执行步骤S530,通过mobilenetV3-small网络对原始图像进行特征提取处理,得到若干初始样本特征图。其中,若干初始特征图的分辨率互不相同。在一实施例中,样本图像经过mobilenetV3-small网络后输出四个初始样本特征图,分辨率分别为样本图像的1/4,1/8,1/16,1/32大小。文本检测模型的原主干网络为CNN网络结构,本实施例将CNN网络结构替换成参数量小且速度快的mobilenetV3-small网络,使得模型的计算量得到大幅度缩减,提高图像处理的速度。
进一步地,执行步骤S540至步骤S550,可以理解的是,初始特征金字塔网络中存在多个通道,但不是每一个通道都对图像处理起作用,但又会增加网络的冗余性,从而影响模型的计算量。本步骤将通过通道剪枝的操作来对初始特征金字塔网络的冗余通道进行裁剪处理,以得到目标特征金字塔网络,并通过目标特征金字塔网络对若干样本初始特征图进行特征级联处理,得到目标样本特征图。本实施例减少了模型计算量。
进一步地,执行步骤S560至步骤S570,通过文本检测模型的初始预测网络对目标样本特征图进行卷积处理、并对卷积处理后得到的初始样本预测概率图和初始样本阈值图进行下采样处理,以得到目标样本预测概率图和目标样本阈值图;对目标样本预测概率图和目标样本阈值图进行可微分的二值化处理,得到样本二值图。可以理解的是,经下采样处理后得到的目标样本预测概率图和目标样本阈值图可以减少图像的计算量,能够提高图像处理的速度。在一实施例中,通过1x1核对目标特征图进行卷积处理,以将目标特征图的维度升高,并从维度升高的目标样本特征图中得到初始样本预测概率图和初始样本阈值图。再分别对初始样本预测概率图、初始样本阈值图进行四倍的下采样处理,可以减少图像计算量,进一步提高图像处理的速度。
最后,执行步骤S580,对第一样本图像和样本二值图进行比对,计算初始文本检测模型的模型损失。例如计算第一样本图像和样本二值图的相似度,根据相似度得到损失函数,根据损失函数确定模型损失。将模型损失进行反向传播,例如,可以根据损失函数进行反向传播,以通过优化损失函数更新文本检测模型,主要为更新文本检测模型的内部参数(也即损失参数)。可以理解的是,反向传播原理可以应用常规的反向传播原理,本申请实施例不做限定。通过不断地重复上述过程,直至第一样本图像和样本二值图的相似度满足预设条件,或者迭代次数满足预设次数,完成对文本检测模型的损失函数进行优化,停止更新文本检测模型,得到第一文本检测模型。
请参阅图6,在一些实施例中,步骤S540具体包括但不限于包括步骤S610至步骤S630:
步骤S610,通过初始特征金字塔网络的中间网络层对若干样本初始特征图进行特征级联处理,得到若干中间特征;
步骤S620,根据若干中间特征计算中间网络层的各个通道的通道权重,并根据通道权重确定初始特征金字塔网络的冗余通道;
步骤S630,通过通道剪枝的操作来对冗余通道进行裁剪处理,以得到目标特征金字塔网络。
具体的,在步骤S610至步骤S630中,中间特征可由初始特征金字塔网络的中间网络层经过各种算子操作后得到的结果。例如,中间网络层对若干样本初始特征图进行特征级联处理,可得到若干中间特征。根据若干中间特征对中间网络层的各个通道进行通道权重的计算,以根据通道权重可以确定初始特征金字塔中的冗余通道,并通过通道剪枝的操作来对冗余通道进行裁剪处理,以得到目标特征金字塔网络。在一实施例中,对需要剪枝的中间网络层的每个通道设置一个通道权重,并且这个通道权重是在训练中可学习的。模型训练完后,对最终结果起的作用不大的通道,其对应的通道权重就比较小,对最终结果贡献大的通道,其对应的通道权重较大。通过通道权重的大小确定冗余通道,并通过通道剪枝的操作来对冗余通道进行裁剪处理,使得目标特征金字塔网络的计算量缩减,有益于提高图像处理的速度。
请参阅图7,在一些实施例中,在步骤S580之后,本实施例提供的图像处理方法具体包括但不限于包括步骤S710至步骤S740:
步骤S710,获取预先训练好的老师模型和第二样本图像;
步骤S720,将第二样本图像分别输入至老师模型和第一文本检测模型,得到老师模型的第一输出图像、以及第一文本检测模型的第二输出图像;
步骤S730,利用第一输出图像和第二输出图像进行知识蒸馏,得到知识蒸馏结果;
步骤S740,根据知识蒸馏结果更新第一文本检测模型,得到第二文本检测模型。
具体的,在步骤S710至步骤S740中,预先训练好的老师模型选用已开源的Resnet18网络模型。通过图像处理的高精度但计算量大的老师模型,对低精度但计算量少的第一文本检测模型进行知识蒸馏,从而得到知识蒸馏后的第二文本检测模型。本实施例可以提高第二文本检测模型的图像处理的生成质量,但又保留了模型计算量小的优点。需要说明的是,本实施例的第二文本检测模型大小可到0.9Mb,能方便地部署到各种手机机型,且具备不错的检测效果。例如,本实施例的第二文本检测模型可运用于寿险AI相机等移动端AI项目中。
本申请实施例提出的图像处理方法,通过将文本检测模型的主干网络替换为mobilenetV3-small网络,并通过替换后的文本检测模型对图像进行处理,减少了模型的参数量,从而减少了模型的计算量并且提高了图像文本检测的效率。另外,通过下采样处理的方式减少图像的参数量,可以进一步减少图像的计算量,提高图像处理的速度。通过通道剪枝的操作对模型的冗余通道进行裁剪,可以进一步减少模型的参数量,模型的计算量得到进一步优化。
请参阅图8,本申请实施例还提供一种图像处理装置,可以实现上述图像处理方法,图8为本申请实施例提供的图像处理装置的模块结构框图,该装置包括:获取模块810、特征提取模块820、特征级联模块830、预测处理模块840、目标处理模块850。其中,获取模块810用于获取待处理的原始图像;特征提取模块820用于通过预先训练的文本检测模型的主干网络对原始图像进行特征提取处理,得到若干初始特征图,主干网络为mobilenetV3-small网络;特征级联模块830用于通过文本检测模型的特征金字塔网络对若干初始特征图进行特征级联处理,得到目标特征图;预测处理模块840用于通过文本检测模型的预测网络对目标特征图进行预测处理,以得到目标预测概率图和目标阈值图;目标处理模块850用于对目标预测概率图和目标阈值图进行可微分的二值化处理,得到目标二值图像,并根据目标二值图像得到文本检测结果。
本申请实施例的图像处理装置,能够获取待处理的原始图像;通过预先训练的文本检测模型的主干网络对原始图像进行特征提取处理,得到若干初始特征图,主干网络为mobilenetV3-small网络;通过文本检测模型的特征金字塔网络对若干初始特征图进行特征级联处理,得到目标特征图;通过文本检测模型的预测网络对目标特征图进行预测处理,以得到目标预测概率图和目标阈值图;对目标预测概率图和所述目标阈值图进行可微分的二值化处理,得到目标二值图像,并根据目标二值图像得到文本检测结果。本实施例通过将文本检测模型的主干网络替换为mobilenetV3-small网络,并通过替换后的文本检测模型对图像进行处理,减少了模型的参数量,从而减少了模型的计算量并且提高了图像文本检测的效率。
在一实施例中,图像处理装置还包括训练模块,训练模块可用于执行上述方法实施例中的步骤S510至步骤S580中的方法,该训练模块还可用于执行上述方法实施例的步骤S610至步骤S630中的方法,该训练模块还可用于执行上述方法实施例的步骤S710至步骤S740中的方法。
需要说明的是,该图像处理装置的具体实施方式与上述图像处理方法的具体实施例基本相同,在此不再赘述。
本申请实施例还提供了一种计算机设备,计算机设备包括:存储器、处理器、存储在存储器上并可在处理器上运行的程序以及用于实现处理器和存储器之间的连接通信的数据总线,程序被处理器执行时实现上述图像处理方法。该计算机设备可以为包括平板电脑、车载电脑等任意智能终端。
请参阅图9,图9示意了另一实施例的计算机设备的硬件结构,计算机设备包括:
处理器901,可以采用通用的CPU(Central Processing Unit,中央处理器)、微处理器、应用专用集成电路(Application Specific Integrated Circuit,ASIC)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本申请实施例所提供的技术方案;
存储器902,可以采用只读存储器(Read Only Memory,ROM)、静态存储设备、动态存储设备或者随机存取存储器(Random Access Memory,RAM)等形式实现。存储器902可以存储操作系统和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在存储器902中,并由处理器901来调用执行本申请实施例的图像处理方法;
输入/输出接口903,用于实现信息输入及输出;
通信接口904,用于实现本设备与其他设备的通信交互,可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信;
总线905,在设备的各个组件(例如处理器901、存储器902、输入/输出接口903和通信接口904)之间传输信息;
其中处理器901、存储器902、输入/输出接口903和通信接口904通过总线905实现彼此之间在设备内部的通信连接。
本申请实施例还提供了一种存储介质,存储介质为计算机可读存储介质,用于计算机可读存储,存储介质存储有一个或者多个程序,一个或者多个程序可被一个或者多个处理器执行,以实现上述图像处理方法。
存储器作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外,存储器可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中,存储器可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例提供的图像处理方法、图像处理装置、计算机设备及存储介质,其通过获取待处理的原始图像;通过预先训练的文本检测模型的主干网络对原始图像进行特征提取处理,得到若干初始特征图,主干网络为mobilenetV3-small网络;通过文本检测模型的特征金字塔网络对若干初始特征图进行特征级联处理,得到目标特征图;通过文本检测模型的预测网络对目标特征图进行预测处理,以得到目标预测概率图和目标阈值图;对目标预测概率图和所述目标阈值图进行可微分的二值化处理,得到目标二值图像,并根据目标二值图像得到文本检测结果。本实施例通过将文本检测模型的主干网络替换为mobilenetV3-small网络,并通过替换后的文本检测模型对图像进行处理,减少了模型的参数量,从而减少了模型的计算量并且提高了图像文本检测的效率。需要说明的是,本实施例的文本检测模型大小可到0.9Mb,能方便地部署到各种手机机型,且具备不错的检测效果。例如,本实施例的文本检测模型可运用于寿险AI相机等移动端AI项目中。
本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定,本领域技术人员可知,随着技术的演变和新应用场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。
本领域技术人员可以理解的是,图1-7中示出的技术方案并不构成对本申请实施例的限定,可以包括比图示更多或更少的步骤,或者组合某些步骤,或者不同的步骤。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括多指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等各种可以存储程序的介质。
以上参照附图说明了本申请实施例的优选实施例,并非因此局限本申请实施例的权利范围。本领域技术人员不脱离本申请实施例的范围和实质内所作的任何修改、等同替换和改进,均应在本申请实施例的权利范围之内。
Claims (10)
1.一种图像处理方法,其特征在于,包括:
获取待处理的原始图像;
通过预先训练的文本检测模型的主干网络对所述原始图像进行特征提取处理,得到若干初始特征图,所述主干网络为mobilenetV3-small网络;
通过所述文本检测模型的特征金字塔网络对若干所述初始特征图进行特征级联处理,得到目标特征图;
通过所述文本检测模型的预测网络对所述目标特征图进行预测处理,以得到目标预测概率图和目标阈值图;
对所述目标预测概率图和所述目标阈值图进行可微分的二值化处理,得到目标二值图像,并根据所述目标二值图像得到文本检测结果。
2.根据权利要求1所述的方法,其特征在于,所述通过所述文本检测模型的预测网络对所述目标特征图进行预测处理,以得到目标预测概率图和目标阈值图,包括:
将所述目标特征图输入至1x1卷积核中,并通过所述1x1卷积核对所述目标特征图进行卷积处理,以得到初始预测概率图和初始阈值图;
对所述初始预测概率图进行下采样处理,以得到目标预测概率图;
对所述初始阈值图进行下采样处理,以得到目标阈值图。
3.根据权利要求1所述的方法,其特征在于,所述通过所述文本检测模型的特征金字塔网络对若干所述初始特征图进行特征级联处理,得到目标特征图,包括:
对若干所述初始特征图分别施加不同大小的权重值,以得到若干权重特征图;
对若干所述权重特征图进行特征级联处理,得到目标特征图。
4.根据权利要求1至3任意一项所述的方法,其特征在于,所述原始图像为多通道彩色图像,在所述获取待处理的原始图像之后,所述方法还包括:
对所述多通道彩色图像进行预处理,以得到单通道彩色图像;
对所述单通道彩色图像进行灰度处理,以得到单通道的初始灰度图像;
对所述初始灰度图像进行下采样处理,以得到目标灰度图像,并将所述目标灰度图像输入文本检测模型,以使得通过所述文本检测模型对所述目标灰度图像进行文本检测处理。
5.根据权利要求1至3任意一项所述的方法,其特征在于,未经训练的所述文本检测模型为初始文本检测模型,包括依次连接的初始mobilenet_v3-small网络、初始特征金字塔网络和初始预测网络;对所述初始文本检测模型进行训练的过程包括:
获取第一样本图像;
将所述第一样本图像输入至初始文本检测模型中;
通过所述初始mobilenet_v3-small网络对所述第一样本图像进行特征提取,得到若干初始样本特征图;
通过通道剪枝的操作来对所述初始特征金字塔网络的冗余通道进行裁剪处理,以得到目标特征金字塔网络;
通过所述目标特征金字塔网络对若干所述初始样本特征图进行特征级联处理,得到目标样本特征图;
通过所述文本检测模型的初始预测网络对所述目标样本特征图进行卷积处理、并对卷积处理后得到的初始样本预测概率图和初始样本阈值图进行下采样处理,以得到目标样本预测概率图和目标样本阈值图;
对所述目标样本预测概率图和所述目标样本阈值图进行可微分的二值化处理,得到样本二值图;
根据所述第一样本图像和所述样本二值图得到损失函数,并根据所述损失函数对所述初始文本检测模型进行训练,以得到第一文本检测模型。
6.根据权利要求5所述的方法,其特征在于,所述通过通道剪枝的操作来对初始特征金字塔网络的冗余通道进行裁剪处理,以得到目标特征金字塔网络,包括:
通过所述初始特征金字塔网络的中间网络层对若干所述初始样本特征图进行特征级联处理,得到若干中间特征;
根据若干所述中间特征计算所述中间网络层的各个通道的通道权重,并根据所述通道权重确定所述初始特征金字塔网络的冗余通道;
通过通道剪枝的操作来对所述冗余通道进行裁剪处理,以得到目标特征金字塔网络。
7.根据权利要求5所述的方法,其特征在于,在所述根据所述损失函数对所述初始文本检测模型进行训练,以得到第一文本检测模型之后,所述方法还包括:
获取预先训练好的老师模型和第二样本图像;
将所述第二样本图像分别输入至所述老师模型和所述第一文本检测模型,得到所述老师模型的第一输出图像、以及所述第一文本检测模型的第二输出图像;
利用所述第一输出图像和所述第二输出图像进行知识蒸馏,得到知识蒸馏结果;
根据所述知识蒸馏结果更新所述第一文本检测模型,得到第二文本检测模型。
8.一种图像处理装置,其特征在于,包括:
获取模块,用于获取待处理的原始图像;
特征提取模块,用于通过预先训练的文本检测模型的主干网络对所述原始图像进行特征提取处理,得到若干初始特征图,所述主干网络为mobilenetV3-small网络;
特征级联模块,用于通过所述文本检测模型的特征金字塔网络对若干所述初始特征图进行特征级联处理,得到目标特征图;
预测处理模块,用于通过所述文本检测模型的预测网络对所述目标特征图进行预测处理,以得到目标预测概率图和目标阈值图;
目标处理模块,用于对所述目标预测概率图和所述目标阈值图进行可微分的二值化处理,得到目标二值图像,并根据所述目标二值图像得到文本检测结果。
9.一种计算机设备,其特征在于,所述计算机设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通信的数据总线,所述程序被所述处理器执行时实现如权利要求1至7任一项所述的方法的步骤。
10.一种存储介质,所述存储介质为计算机可读存储介质,用于计算机可读存储,其特征在于,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210581958.9A CN114973285B (zh) | 2022-05-26 | 图像处理方法和装置、设备、介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210581958.9A CN114973285B (zh) | 2022-05-26 | 图像处理方法和装置、设备、介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114973285A true CN114973285A (zh) | 2022-08-30 |
CN114973285B CN114973285B (zh) | 2024-10-22 |
Family
ID=
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116071309A (zh) * | 2022-12-27 | 2023-05-05 | 中国电子产品可靠性与环境试验研究所((工业和信息化部电子第五研究所)(中国赛宝实验室)) | 元器件的声扫缺陷检测方法、装置、设备和存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111275038A (zh) * | 2020-01-17 | 2020-06-12 | 平安医疗健康管理股份有限公司 | 图像文本识别方法、装置、计算机设备及计算机存储介质 |
CN112560858A (zh) * | 2020-10-13 | 2021-03-26 | 国家计算机网络与信息安全管理中心 | 一种联合轻量化网络和个性化特征提取的字符图片检测及快速匹配方法 |
CN112949766A (zh) * | 2021-04-07 | 2021-06-11 | 成都数之联科技有限公司 | 目标区域检测模型训练方法及系统及装置及介质 |
CN113326887A (zh) * | 2021-06-16 | 2021-08-31 | 深圳思谋信息科技有限公司 | 文本检测方法、装置、计算机设备 |
CN114283431A (zh) * | 2022-03-04 | 2022-04-05 | 南京安元科技有限公司 | 一种基于可微分二值化的文本检测方法 |
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111275038A (zh) * | 2020-01-17 | 2020-06-12 | 平安医疗健康管理股份有限公司 | 图像文本识别方法、装置、计算机设备及计算机存储介质 |
CN112560858A (zh) * | 2020-10-13 | 2021-03-26 | 国家计算机网络与信息安全管理中心 | 一种联合轻量化网络和个性化特征提取的字符图片检测及快速匹配方法 |
CN112949766A (zh) * | 2021-04-07 | 2021-06-11 | 成都数之联科技有限公司 | 目标区域检测模型训练方法及系统及装置及介质 |
CN113326887A (zh) * | 2021-06-16 | 2021-08-31 | 深圳思谋信息科技有限公司 | 文本检测方法、装置、计算机设备 |
CN114283431A (zh) * | 2022-03-04 | 2022-04-05 | 南京安元科技有限公司 | 一种基于可微分二值化的文本检测方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116071309A (zh) * | 2022-12-27 | 2023-05-05 | 中国电子产品可靠性与环境试验研究所((工业和信息化部电子第五研究所)(中国赛宝实验室)) | 元器件的声扫缺陷检测方法、装置、设备和存储介质 |
CN116071309B (zh) * | 2022-12-27 | 2024-05-17 | 中国电子产品可靠性与环境试验研究所((工业和信息化部电子第五研究所)(中国赛宝实验室)) | 元器件的声扫缺陷检测方法、装置、设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114399454B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
RU2757713C1 (ru) | Распознавание рукописного текста посредством нейронных сетей | |
CN109948615A (zh) | 多语言文本检测识别系统 | |
CN110390363A (zh) | 一种图像描述方法 | |
CN114723996A (zh) | 模型的训练方法、图像描述生成方法和装置、设备、介质 | |
CN114358007A (zh) | 多标签识别方法、装置、电子设备及存储介质 | |
CN113688837A (zh) | 图像脱敏方法、装置、电子设备及计算机可读存储介质 | |
CN114627282B (zh) | 目标检测模型的建立方法、应用方法、设备、装置及介质 | |
CN114579723A (zh) | 问诊方法和装置、电子设备及存储介质 | |
CN115239675A (zh) | 分类模型的训练方法、图像分类方法和装置、设备及介质 | |
CN114064894A (zh) | 文本处理方法、装置、电子设备及存储介质 | |
CN112035662B (zh) | 文本处理方法、装置、计算机设备以及存储介质 | |
CN115036022A (zh) | 健康风险评估方法和评估系统、计算机设备、存储介质 | |
CN116258137A (zh) | 文本纠错方法、装置、设备和存储介质 | |
CN114091475A (zh) | 对话文本生成方法、装置、电子设备及存储介质 | |
CN114549859A (zh) | 骨龄预测方法、装置、电子设备及存储介质 | |
CN114492661A (zh) | 文本数据分类方法和装置、计算机设备、存储介质 | |
CN117373591A (zh) | 电子病历的疾病识别方法和装置、电子设备及存储介质 | |
CN116741396A (zh) | 文章归类方法和装置、电子设备和存储介质 | |
CN116956925A (zh) | 电子病历命名实体识别方法和装置、电子设备及存储介质 | |
CN114973285B (zh) | 图像处理方法和装置、设备、介质 | |
CN115205648A (zh) | 图像分类方法、图像分类装置、电子设备及存储介质 | |
CN114648631A (zh) | 图像描述生成方法和装置、电子设备及存储介质 | |
CN116416637A (zh) | 医学文档信息抽取方法、装置、电子设备及可读介质 | |
CN114973285A (zh) | 图像处理方法和装置、设备、介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |