CN111401477B - 图像处理方法、装置、电子设备和计算机可读存储介质 - Google Patents

图像处理方法、装置、电子设备和计算机可读存储介质 Download PDF

Info

Publication number
CN111401477B
CN111401477B CN202010305988.8A CN202010305988A CN111401477B CN 111401477 B CN111401477 B CN 111401477B CN 202010305988 A CN202010305988 A CN 202010305988A CN 111401477 B CN111401477 B CN 111401477B
Authority
CN
China
Prior art keywords
image
processed
images
unit
width
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010305988.8A
Other languages
English (en)
Other versions
CN111401477A (zh
Inventor
张弓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN202010305988.8A priority Critical patent/CN111401477B/zh
Publication of CN111401477A publication Critical patent/CN111401477A/zh
Application granted granted Critical
Publication of CN111401477B publication Critical patent/CN111401477B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)

Abstract

本申请涉及一种图像处理方法、装置、电子设备和计算机可读存储介质。上述方法包括:获取第一图像,根据第一图像对应的位宽将第一图像分解为单位宽图像;对至少两个单位宽图像进行合并处理,得到待处理图像;对待处理图像进行特征提取,得到对应的特征图像;根据预设的分辨率和位宽将至少两个特征图像进行融合,得到第二图像。即可以将分解的单位宽图像根据需要合并为不同位宽的待处理图像,再进行特征提取,可以减少特征提取的运算复杂度和运算时间,提高图像处理的效率。

Description

图像处理方法、装置、电子设备和计算机可读存储介质
技术领域
本申请涉及影像技术领域,特别是涉及一种图像处理方法、装置、电子设备和计算机可读存储介质。
背景技术
随着影像技术的发展,神经网络在图像处理技术上的应用越来越广泛。例如,通过神经网络进行图像识别、图像压缩、图像修复、图像分割等处理。目前,对于不同色彩丰富度和分辨率的图像处理,往往是采用相同的神经网络对输入图像进行处理,然而,相同的神经网络在对不同色彩丰富度和分辨率的图像处理过程中,存在图像处理效率较低的问题。
发明内容
本申请实施例提供了一种图像处理方法、装置、电子设备、计算机可读存储介质,可以提高图像处理的效率。
一种图像处理方法,包括:
获取第一图像,根据所述第一图像对应的位宽将所述第一图像分解为单位宽图像;
对至少两个所述单位宽图像进行合并处理,得到待处理图像;
对所述待处理图像进行特征提取,得到对应的特征图像;
根据预设的分辨率和位宽将至少两个所述特征图像进行融合,得到第二图像。
一种图像处理装置,包括:
位宽分解模块,用于获取第一图像,根据所述第一图像对应的位宽将所述第一图像分解为单位宽图像;
图像合并模块,用于对至少两个所述单位宽图像进行合并处理,得到待处理图像;
特征提取模块,用于对所述待处理图像进行特征提取,得到对应的特征图像;
图像合成模块,用于根据预设的分辨率和位宽将至少两个所述特征图像进行融合,得到第二图像。
一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,其特征在于,所述计算机程序被所述处理器执行时,使得所述处理器执行如下步骤:
获取第一图像,根据所述第一图像对应的位宽将所述第一图像分解为单位宽图像;
对至少两个所述单位宽图像进行合并处理,得到待处理图像;
对所述待处理图像进行特征提取,得到对应的特征图像;
根据预设的分辨率和位宽将至少两个所述特征图像进行融合,得到第二图像。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如下步骤:
获取第一图像,根据所述第一图像对应的位宽将所述第一图像分解为单位宽图像;
对至少两个所述单位宽图像进行合并处理,得到待处理图像;
对所述待处理图像进行特征提取,得到对应的特征图像;
根据预设的分辨率和位宽将至少两个所述特征图像进行融合,得到第二图像。
上述图像处理方法、装置、电子设备和计算机可读存储介质,通过获取第一图像,根据第一图像对应的位宽将第一图像分解为单位宽图像;对至少两个单位宽图像进行合并处理,得到待处理图像;对待处理图像进行特征提取,得到对应的特征图像;根据预设的分辨率和位宽将至少两个特征图像进行融合,得到第二图像。即可以将分解的单位宽图像根据需要合并为不同位宽的待处理图像,再进行特征处理,可以减少特征提取的运算复杂度和运算时间,提高图像处理的效率。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中电子设备的内部结构示意图;
图2为一个实施例中图像处理方法的流程图;
图3为一个实施例中图像处理方法的框架示意图;
图4为一个实施例中根据第一图像得到待处理图像的示意图;
图5为一个实施例中图像处理方法的流程图;
图6为一个实施例中图像处理方法的结构示意图;
图7为又一个实施例中图像处理方法的流程图;
图8为一个实施例中神经网络的架构示意图;
图9为一个实施例的图像处理装置的结构框图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件和数据,但这些元件和数据不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分、或者将第一个数据与另一个数据区分。举例来说,在不脱离本申请的范围的情况下,可以将第一图像称为第二图像,且类似地,可将第二图像称为第一图像。第一图像和第二图像两者都是图像,但其不是同一图像。
图1为一个实施例中电子设备的内部结构示意图。如图1所示,该电子设备包括通过系统总线连接的处理器和存储器。其中,该处理器用于提供计算和控制能力,支撑整个电子设备的运行。存储器可包括非易失性存储介质及内存储器。非易失性存储介质存储有操作系统和计算机程序。该计算机程序可被处理器所执行,以用于实现以下各个实施例所提供的一种图像处理方法。内存储器为非易失性存储介质中的操作系统计算机程序提供高速缓存的运行环境。该电子设备可以是手机、平板电脑、PDA(Personal Digital Assistant,个人数字助理)、POS(Point of Sales,销售终端)、车载电脑、穿戴式设备等任意终端设备。
图2为一个实施例中图像处理方法的流程图。在一个实施例中,如图2所示,提供了一种图像处理方法,本实施例以该方法应用于电子设备进行举例说明,可以理解的是,该方法也可以应用于服务器,还可以应用于包括终端和服务器的系统,并通过终端和服务器的交互实现。本实施例中,该方法包括以下步骤:
步骤202,获取第一图像,根据第一图像对应的位宽将第一图像分解为单位宽图像。
第一图像可以是电子设备通过摄像头采集的图像、存储在电子设备本地的图像、电子设备从网络下载的图像、或者电子设备接收的通过扫描得到的图像等。可选地,在一些实施例中,第一图像也可以是通过神经网络的卷积层输出的特征图像、或者通过不同的卷积层输入的多个特征图像合并后的图像等。
位宽是指用于表示图像的像素点的像素值的位数。图像的位宽越大,则图像的色彩越丰富。例如,位宽为8比特时,对应的像素值范围为0-255;位宽为10比特时,对应的像素值范围为0-1023;位宽为16比特时,对应的像素值范围为0-65535。单位宽图像即是指像素值的位数是1的图像,即位宽为1比特。
电子设备可以根据获取的单位宽图像的位宽将第一图像分解为单位宽图像。具体地,电子设备获取第一图像的像素点中位序相同的数值,根据位序相同的数值生成单位宽图像。其中,位序是指数值在像素点的像素值对应的顺序位置。可以理解的是,电子设备对第一图像分解得到的单位宽图像的数量与第一图像对应的位宽对应的位数相同。例如,对于位宽为8比特的第一图像,分解后可以得到8个单位宽图像;对于位宽为16比特的第一图像,分解后可以得到16个单位宽图像。
在一个实施例中,电子设备可以获取第一图像在RGB(红绿蓝)三个通道分别对应的单通道图像;根据单通道图像对应的位宽将单通道图像分解为单位宽图像。
步骤204,对至少两个单位宽图像进行合并处理,得到待处理图像。
待处理图像是指由至少两个单位宽图像合并得到的图像。待处理图像可以是位宽为1比特的图像,也可以是多比特位宽的图像。具体地,待处理图像的位宽可以结合对输出图像的质量要求和计算时长进行确定,在此不对待处理图像的位宽进行限定。可选地,待处理图像的位宽可以小于第一图像的位宽。例如,当第一图像的位宽为8比特时,待处理图像的位宽可以包括1比特、2比特、4比特、6比特等。在一些实施例中,待处理图像的位宽也可以等于第一图像的位宽;对于处理效率较高的神经网络,待处理图像的位宽还可以大于第一图像的位宽,通过神经网络对位宽大于第一图像的待处理图像进行特征提取,可以提高输出的图像质量。
电子设备可以对至少两个单位宽图像进行合并处理,得到多种不同位宽对应的待处理图像。具体地,电子设备可以根据神经网络所支持的位宽,将至少两个单位宽图像合并为神经网络所支持的位宽对应的待处理图像;电子设备也可以预设有待处理图像对应的分辨率和位宽,根据预设的待处理图像对应的分辨率和位宽对至少两个待处理图像进行合并处理,以得到对应的待处理图像。
步骤206,对待处理图像进行特征提取,得到对应的特征图像。
特征图像是对待处理图像进行特征提取后得到的图像。具体地,电子设备可以通过神经网络对待处理图像进行特征提取,得到对应的特征图像。神经网络可以是包含卷积层、激活层的完整网络;也可以是指神经网络中的一个或多个层结构;还可以是神经网络的卷积核等。神经网络对待处理图像的特征提取过程可以是指神经网络的训练过程,也可以是指应用训练完成的神经网络进行特征提取的过程。其中,神经网络可以是卷积神经网络、循环神经网络、深度神经网络等。
以神经网络为完整网络为例,电子设备可以通过同一神经网络对待处理图像进行特征提取;通常,神经网络往往是对输入的完整的图像进行特征提取处理的,在本申请实施例中,通过将第一图像分解为单位宽图像,对至少两个单位宽图像进行合并处理得到多个待处理图像,电子设备可以通过神经网络并行对多个待处理图像进行特征提取,以得到对应的特征图像,可以减少神经网络的运算复杂度和运算时间。
电子设备也可以根据待处理图像的位宽所对应的神经网络对待处理图像进行特征提取,以得到对应的特征图像。具体地,电子设备可以采用不同位宽对应的图像对神经网络进行训练,使得训练完成的神经网络可以对相对应位宽的待处理图像进行特征提取。
步骤208,根据预设的分辨率和位宽将至少两个特征图像进行融合,得到第二图像。
预设的分辨率和位宽可以根据第二图像的应用场景进行确定。具体地,电子设备可以预设不同应用场景所对应的图像的分辨率和位宽,从而根据该图像处理方法所应用的场景获取对应的分辨率和位宽,对至少两个特征图像进行融合以得到第二图像。其中,应用场景可以包括将第二图像作为最终输出的图像、将第二图像作为神经网络的卷积层的输入图像、将第二图像作为神经网络的池化层的输入图像等场景。对于将第二图像作为神经网络的层结构的输入图像的场景,第二图像的分辨率和位宽可以根据所要输入的层结构所支持的分辨率和位宽进行确定。
具体地,电子设备根据预设的分辨率和位宽将至少两个特征图像进行位序的融合和像素序的融合中的至少一种,以得到第二图像。其中,位序的融合是指通过将位置相同的像素点的像素值进行合并,以得到分辨率不变、位宽增大的图像;像素序的融合是指将位置相同的像素点的像素值作为第二图像中相邻像素点的像素值,以得到分辨率增大、位宽不变的第二图像。通过对至少两个特征图像进行位序的融合和像素序的融合,即可以得到分辨率和位宽均与待处理图像不同对应的第二图像。
本申请提供的实施例中,通过根据获取的第一图像对应的位宽将第一图像分解为单位宽图像,对至少两个单位宽图像进行合并处理得到待处理图像,对待处理图像进行特征提取得到对应的特征图像,从而根据预设的分辨率和位宽将至少两个特征图像进行融合得到第二图像。即可以将分解的单位宽图像根据需要合并为不同位宽的待处理图像,再进行特征提取,可以特征提取的运算复杂度和运算时间,提高图像处理的效率。
图3为一个实施例中图像处理方法的框架示意图。如图3所示,第一图像可以通过位宽分解及图像合并得到多个待处理图像,各个待处理图像可以通过对应的神经网络进行特征提取以得到特征图像,从而将特征图像进行融合即可以得到输出的第二图像。
在一个实施例中,提供的图像处理方法中对至少两个单位宽图像进行合并处理,得到待处理图像的过程,包括:对至少两个单位宽图像进行定位序合并处理与定像素序合并处理中的至少一种,得到待处理图像。
具体地,定位序合并处理是指通过将位置相同的像素点的像素值进行合并,从而增大像素点的位宽,以得到分辨率不变、位宽增大的图像的操作。像素序的融合是指将位置相同的像素点的像素值作为图像中相邻像素点的像素值,从而增大图像的分辨率,以得到分辨率增大、位宽不变的图像的操作。结合定位序合并处理和定像素序合并处理中的至少一种对至少两个单位宽图像,即可以得到所需要的分辨率和位宽对应的图像。
在一个实施例中,提供的图像处理方法中对至少两个单位宽图像进行定位序合并处理的过程,包括:将至少两个单位宽图像中位置相同的像素点的像素值合并,得到子像素点的像素值,子像素点的像素值包含至少两个位宽;根据子像素点的像素值生成待处理图像。
单位宽是由第一图像进行分解得到的,至少两个单位宽图像之间的分辨率、包含的像素点的数量相同、像素点的位置相对应。子像素点是指待处理图像包含的像素点。通过将至少两个单位宽图像中位置相同的像素点的像素值合并,即可以得到待处理图像对应位置的子像素点的像素值。其中,待处理图像的位宽与合并的单位宽图像的数量相同。例如,对2个单位宽图像进行定位序合并,得到的待处理图像的位宽为2比特。以将3个单位宽图像进行定位序合并处理为例,3个单位宽图像分别为a、b、c,则得到的待处理图像的位宽为3比特,其中,待处理图像的像素值对应的位序可以是a、b、c,即待处理图像的像素值的最高位为a、中间位为b,最低位为c;当然,待处理图像的位序也可以是a、c、b,或者是b、c、a等,在此不做限定。
在一个实施例中,提供的图像处理方法中对至少两个单位宽图像进行定像素序合并处理的过程,包括:从至少两个单位宽图像中获取位置相同的像素点,得到像素点集合;根据像素点集合中每个像素点的像素值生成待处理图像。
像素点集合为至少两个单位宽图像中位置相同的像素点的集合。像素点集合包含的像素点的数量与进行定像素序合并的单位宽图像的数量相同。待处理图像是由像素点集合包含的像素点所组成的图像。则待处理图像的分辨率与单位宽图像的分辨率之间的比值即为进行定像素序合并的单位宽图像的数量。
电子设备从至少两个单位宽图像中获取位置相同的像素点得到像素点集合,根据像素点集合中每个像素点的像素值生成待处理图像,具体地,电子设备按照各个像素点集合包含的像素点在单位宽图像中的位置将像素点集合置于待处理图像中的对应位置,并展开像素点集合包含的像素点的像素值,以生成待处理图像。可以理解的是,像素点结合包含的像素点在待处理图像为相邻的像素点。
例如,将4个分辨率相同的单位宽图像a、b、c、d进行定像素序合并,则电子设备从4个单位宽图像中获取的像素点集合包含由4个像素点,同一像素点集合的4个像素点在待处理图像中处于相邻位置,待处理图像的分辨率为单位宽图像的分辨率的4倍;可选地,待处理图像在水平方向的分辨率可以是单位宽图像的2倍,则在垂直方向的分辨率也是单位宽图像的2倍;像素点集合包含的像素点在待处理图像中可以进行余4操作,即余0位置为单位宽图像a的像素点对应的像素值,余1位置为单位宽图像b的像素点对应的像素值,余2位置为单位宽图像的像素点对应的像素值,余3位置为单位图像d的像素点对应的像素值。
在一个实施例中,电子设备对至少两个单位宽图像进行定位序合并处理与定像素序合并处理中的至少一种,得到待处理图像的过程,可以包括:将至少两个单位宽图像进行定像素序合并处理,得到中间图像,将至少两个中间图像进行定位序合并处理,得到待处理图像。当然,电子设备也可以先对至少两个单位宽图像进行定位序合并处理,再将定位序合并处理得到的至少两个中间图像进行定像素序合并处理,以得到待处理图像。
例如,对于4个分辨率相同的单位宽图像a、b、c、d,可以将单位宽图像a和b定像素序合并处理得到第一中间图像,及将单位宽图像c和d定像素序合并处理得到第二中间图像,再将第一中间图像和第二中间图像进行定位序合并处理,得到待处理图像;此时,待处理图像的位宽为2比特,分辨率为单位宽图像的2倍的图像,待处理图像的像素点的像素值为a和c构成的2比特的像素值,或者b和d构成的2比特的像素值。
在一个实施例中,提供的图像处理方法中对至少两个单位宽图像进行合并处理,得到待处理图像,还包括:对单位宽图像进行均值滤波处理;或者对至少两个单位宽图像进行加权滤波处理;将滤波处理得到的图像与单位宽图像进行合并处理,得到待处理图像。
均值滤波也称线性滤波,是指采用像素平均值替换原图像中的各个像素点的像素值的操作。电子设备对单位宽图像进行均值滤波处理,具体地,电子设备获取预设的滤波模板,通过滤波模板遍历单位宽图像,计算单位宽图像的像素点在对应的滤波模板中包含的所有像素点的像素均值,将像素点的像素值替换为对应的滤波模板所计算的像素均值。
加权滤波处理是指对两个或两个以上的图像进行均值滤波处理。具体地,电子设备可以获取至少两个单位宽图像中位置相同的像素点,并计算位置相同的像素点的像素均值,根据位置相同的像素点的像素均值生成滤波处理后的中间图像。可选地,电子设备在对至少两个单位宽图像进行加权滤波处理时,还可以将根据像素点的像素均值与单位宽图像中对应位置的像素点的像素值生成多位宽的中间图像。
进一步地,电子设备将滤波处理得到的图像与单位宽图像进行合并处理,得到待处理图像。其中,合并的单位宽图像可以包括用于滤波处理的单位宽图像。
例如,将3个单位宽图像a、b、c进行合并处理时,可以分别对图像a和b进行均值滤波处理得到位宽为1比特的中间图像e和f;同时对图像b和c进行加权滤波处理得到位宽为2比特的中间图像d;再将中间图像e、f、d进行定位序合并,可以得到位宽为4比特的待处理图像。可选地,也可以将中间图像e、f、d进行定像素序合并,得到分辨率为单位宽图像的4倍的待处理图像。可选地,也可以对中间图像e、f、d进行定位序合并和定像素合并处理,得到分辨率为单位宽图像的2倍、且位宽为2比特的待处理图像,其中,位宽的高位可以是图像e和f的像素数据,位宽的低位可以是图像d的像素数据。
可选地,对于单位宽图像b和c进行加权滤波处理也可以得到3比特的图像d,其中位宽的各个位置对应单位宽图像b的像素数据、单位图像b的像素数据、图像a和b加权滤波后的像素数据;从而合成待处理图像的位宽为2比特,位宽的高位为图像a、c、e、b分别对应的像素数据,按照位置余4确定图像a、c、e、d对应的像素点集合包含的像素点在待处理图像中的位置,位宽的低位为图像f和d对应的像素数据,按照位置余4确定图像f和d对应的像素点集合包含的像素点在待处理图像中的位置。
图4为一个实施例中根据第一图像得到待处理图像的示意图。如图4所示,第一图像402通过分解后可以得到多个单位宽图像404,根据不同的分辨率和位宽需求,可以将至少两个单位宽图像404进行合并,得到4比特的待处理图像406,分辨率为单位宽图像的4倍、位宽为1比特的待处理图像408,分辨率为单位宽图像的2倍、位宽为3比特的待处理图像410等。
通过将至少两个待处理图像进行定位序合并处理和定像素序合并中的至少一种,可以得到多种分辨率不同、位宽较低的待处理图像,可以为特征提取步骤提供不同位宽的图像,减少特征提取运算的复杂度。并且,通过对单位宽图像进行滤波处理后再合并,可以降噪的同时保留图像细节,提高图像的处理效果。
图5为一个实施例中图像处理方法的流程图。如图5所示,在一个实施例中,提供的图像处理方法包括:
步骤502,获取第一图像,根据第一图像对应的位宽将第一图像分解为单位宽图像。
步骤504,将K个单位宽图像进行合并处理,得到第一待处理图像,及将除K个单位宽图像之外的单位宽图像进行合并处理,得到第二待处理图像;其中,K为大于一的正整数。
K为大于一的正整数。例如,K可以是2、3、4、5等。电子设备可以从分解的单位宽图像中获取K个单位宽图像进行合并处理得到第一待处理图像,及将处于K个单位宽图像之外的单位宽图像进行合并处理得到第二待处理图像。其中,合并处理可以是定位序合并处理和定像素序合并中的至少一种。
例如,在一个实施例中,对于8比特的第一图像,电子设备可以分解得到8个单位宽图像,将其中4个单位宽图像进行合并处理,得到4比特的第一待处理图像,并将剩余的4个单位宽图像进行合并处理得到4比特的第二待处理图像;其中,还可以将根据单位宽图像的位序将高4位的4个单位宽图像进行合并得到第一待处理图像,将低4位的4个单位宽图像进行合并得到第二待处理图像。
步骤506,根据与第一待处理图像的位宽相对应的第一神经网络,对第一待处理图像进行特征提取,得到对应的特征图像;及根据与第二待处理图像的位宽相对应的第二神经网络,对第二待处理图像进行特征提取,得到对应的特征图像。
电子设备可以预设第一待处理图像和第二待处理图像分别对应的第一神经网络和第二神经网络。在合并处理得到第一待处理图像和第二待处理图像之后,则根据第一神经网络对第一待处理图像进行特征提取,及根据第二神经网络进行对第二待处理图像进行特征提取。
其中,该特征提取的过程可以是对第一神经网络和第二神经网络进行训练的过程,以使训练完成的第一神经网络和第二神经网络可以对位宽对应的图像进行准确的特征提取;也可以是应用训练完成的第一神经网络和第二神经网络进行特征提取,从而得到准确特征提取的特征图像。
步骤508,根据预设的分辨率和位宽将至少两个特征图像进行融合,得到第二图像。
电子设备根据预设的分辨率和位宽可以将特征提取得到的至少两个特征图像进行融合,得到第二图像。
图6为一个实施例中图像处理方法的结构示意图。如图6所示,第一神经网络640和第二神经网络660可以是包含有多个卷积层和激活函数层的神经网络。其中,第一神经网络640包含的卷积层1可以包括8个7*7的卷积核,卷积层2可以包括8个1*1的卷积核,卷积层3可以包括1和5*5的卷积和;第二神经网络660包含的卷积层1可以包括16个9*9的卷积核,卷积层2可以包括10个1*1的卷积核,卷积层3可以包括1和5*5的卷积核。第一图像620经过位宽分解和图像合并可以得到第一待处理图像622和待处理图像624;通过第一神经网络640对第一待处理图像622进行特征提取后可以得到特征图像623,通过第二神经网络660对第二待处理图像624进行特征提取后可以得到特征图像625,将特征图像623和625进行融合即可以得到第二图像680。
其中,上述卷积层的卷积核的数量和大小均可以根据实际应用需求进行设定,在此不做限定。通常,因待处理图像的位宽低于第一图像的位宽,神经网络处理待处理图像的卷积核的大小和数量可以低于处理第一图像的卷积核的大小和数量。
通过将第一图像分解为单位宽图像之后,将单位宽图像合并为两个位宽低于第一图像的待处理图像,从而分别根据对应的神经网络对待处理图像进行处理后输出特征图像,将特征图像融合得到第二图像,可以降低神经网络卷积运算的复杂度,提高图像处理的效率。
图7为又一个实施例中图像处理方法的流程图。如图7所示,在一个实施例中,提供的图像处理方法包括:
步骤702,获取初始图像,通过神经网络的第一卷积层对初始图像进行特征提取,得到第一图像。
初始图像可以是电子设备通过摄像头采集的图像、存储在电子设备本地的图像、电子设备从网络下载的图像、或者电子设备接收的通过扫描得到的图像等。在该实施例中,第一图像为初始图像通过神经网络的第一卷积层进行特征提取后得到的图像。神经网络的第一卷积层可以包括一个或多个卷积核,初始图像经过第一卷积层进行处理后,可以得到一个或多个第一图像。
可选地,神经网络的第一卷积层连接有激活函数,可以认为第一卷积层包含有激活函数层,第一图像也可以是通过第一卷积层的卷积核和对应的激活函数层进行特征提取后得到的图像。
步骤704,根据第一图像对应的位宽将第一图像分解为单位宽图像。
步骤706,对至少两个单位宽图像进行合并处理,得到待处理图像。
步骤708,通过神经网络的第二卷积层对待处理图像进行特征提取,得到对应的特征图像。
对于经过位宽分解及合并得到的待处理图像,可以通过神经网络的第二卷积层进行特征提取,以得到对应的特征图像。
步骤710,根据预设的分辨率和位宽将至少两个特征图像进行融合,得到第二图像。
可选地,在一个实施例中,提供的图像处理方法中步骤710之后还可以包括:通过神经网络的第三卷积层对第二图像进行特征提取,得到第三图像。即第三图像为神经网络最终输出的图像。第二图像可以是处于神经网络中间的卷积层输出的一个或多个特征图像。
图8为一个实施例中神经网络的架构示意图。如图8所示,神经网络可以包括第一卷积层801、第二卷积层802、第三卷积层803,神经网络中还可以包括有位宽分解层804和图像融合层805;初始图像可以通过第一卷积层801进行特征提取后得第一图像,第一图像经过位宽分解层804进行位宽分解和图像合并得到待处理图像,待处理图像可以通过第二卷积层802进行特征提取得到对应的特征图像,特征图像可以通过图像融合层805进行融合处理得到第二图像,第二图像还可以通过第三卷积层803进行特征提取得到第三图像。
可选地,在一个实施例中,第一卷积层801可以包括64个9*9的卷积核,第二卷积层802可以包括32个1*1的卷积核,第三卷积层803可以包括1个5*5的卷积核。则初始图像经过第一卷积层801进行特征提取后可以得到64个第一图像;第一图像经过位宽分解层802得到的待处理图像的数量可以根据实际应用需求设定,在此不做限定,以分解得到100个待处理图像为例,,第二卷积层802可以通过32个卷积核对100个待处理图像进行特征提取,并通过第二卷积层的激活函数进行加权处理,可以得到32个特征图像,以32个特征图像经过图像融合层805可以得到5个第二图像为例,第三卷积层803可以对5个第二图像进行卷积处理,以得到第三图像。
通过在神经网络的特征提取过程中进行位宽分解和图像融合,神经网络可以针对不同位宽的图像进行卷积或训练,可以减少神经网络中间的卷积层的运算复杂度,同时确保输出的图像质量。
应该理解的是,虽然图2-8的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2-8中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
图9为一个实施例的图像处理装置的结构框图。如图9所示,该图像处理装置包括位宽分解模块902、图像合并模块904、特征提取模块906和图像融合模块908。其中:
位宽分解模块902,用于获取第一图像,根据第一图像对应的位宽将第一图像分解为单位宽图像。
图像合并模块904,用于对至少两个单位宽图像进行合并处理,得到待处理图像。
特征提取模块906,用于对待处理图像进行特征提取,得到对应的特征图像。
图像融合模块908,用于根据预设的分辨率和位宽将至少两个特征图像进行融合,得到第二图像。
本申请实施例提供的图像处理装置,可用于根据获取的第一图像对应的位宽将第一图像分解为单位宽图像,对至少两个单位宽图像进行合并处理得到待处理图像,对待处理图像进行特征提取得到对应的特征图像,从而根据预设的分辨率和位宽将至少两个特征图像进行融合得到第二图像。即将分解的单位宽图像根据需要合并为不同位宽的待处理图像,再特征提取,可以减少特征提取的运算复杂度和运算时间,提高图像处理的效率。
在一个实施例中,图像合并模块904还可以用于对至少两个单位宽图像进行定位序合并处理与定像素序合并处理中的至少一种,得到待处理图像。
在一个实施例中,图像合并模块904还可以用于将至少两个单位宽图像中位置相同的像素点的像素值合并,得到子像素点的像素值,子像素点的像素值包含至少两个位宽;根据子像素点的像素值生成待处理图像。
在一个实施例中,图像合并模块904还可以用于从至少两个单位宽图像中获取位置相同的像素点,得到像素点集合;根据像素点集合中每个像素点的像素值生成待处理图像。
在一个实施例中,图像合并模块904还可以用于对单位宽图像进行均值滤波处理;或者对至少两个单位宽图像进行加权滤波处理;将滤波处理得到的图像与单位宽图像进行合并处理,得到待处理图像。
在一个实施例中,图像合并模块904还可以用于将K个单位宽图像进行合并处理,得到第一待处理图像,及将除K个单位宽图像之外的单位宽图像进行合并处理,得到第二待处理图像;其中,K为大于一的正整数;特征提取模块806还用于根据与第一待处理图像的位宽相对应的第一神经网络,对第一待处理图像进行特征提取,得到对应的特征图像;根据与第二待处理图像的位宽相对应的第二神经网络,对第二待处理图像进行特征提取,得到对应的特征图像。
在一个实施例中,特征提取模块906还可以用于获取初始图像,通过神经网络的第一卷积层对初始图像进行特征提取,得到第一图像;并通过神经网络的第二卷积层对待处理图像进行特征提取,得到对应的特征图像。
在一个实施例中,特征提取模块906还可以用于通过神经网络的第三卷积层对第二图像进行特征提取,得到第三图像。
上述图像处理装置中各个模块的划分仅仅用于举例说明,在其他实施例中,可将图像处理装置按照需要划分为不同的模块,以完成上述图像处理装置的全部或部分功能。
关于图像处理装置的具体限定可以参见上文中对于图像处理方法的限定,在此不再赘述。上述图像处理装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
本申请实施例中提供的图像处理装置中的各个模块的实现可为计算机程序的形式。该计算机程序可在终端或服务器上运行。该计算机程序构成的程序模块可存储在电子设备的存储器上。该计算机程序被处理器执行时,实现本申请实施例中所描述方法的步骤。
本申请实施例还提供了一种计算机可读存储介质。一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当计算机可执行指令被一个或多个处理器执行时,使得处理器执行图像处理方法的步骤。
一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行图像处理方法。
本申请所使用的对存储器、存储、数据库或其它介质的任何引用可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM),它用作外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)。
以上实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (11)

1.一种图像处理方法,其特征在于,包括:
获取第一图像,根据所述第一图像对应的位宽将所述第一图像分解为单位宽图像;
将K个单位宽图像进行合并处理,得到第一待处理图像,及将除所述K个单位宽图像之外的单位宽图像进行合并处理,得到第二待处理图像;其中,K为大于一的正整数;
根据与所述第一待处理图像的位宽相对应的第一神经网络,对所述第一待处理图像进行特征提取,得到对应的特征图像;根据与所述第二待处理图像的位宽相对应的第二神经网络,对所述第二待处理图像进行特征提取,得到对应的特征图像;
根据预设的分辨率和位宽将至少两个所述特征图像进行融合,得到第二图像。
2.根据权利要求1所述的方法,其特征在于,所述将K个单位宽图像进行合并处理,得到第一待处理图像,包括:
对K个单位宽图像进行定位序合并处理与定像素序合并处理中的至少一种,得到所述第一待处理图像。
3.根据权利要求2所述的方法,其特征在于,对K个单位宽图像进行定位序合并处理的过程,包括:
将K个所述单位宽图像中位置相同的像素点的像素值合并,得到子像素点的像素值,所述子像素点的像素值包含K个位宽;
根据所述子像素点的像素值生成所述第一待处理图像。
4.根据权利要求2所述的方法,其特征在于,对K个单位宽图像进行定像素序合并处理的过程,包括:
从K个所述单位宽图像中获取位置相同的像素点,得到像素点集合;
根据所述像素点集合中每个像素点的像素值生成所述第一待处理图像。
5.根据权利要求1至4中任一项所述的方法,其特征在于,所对K个所述单位宽图像进行合并处理,得到第一待处理图像之前,还包括:
对所述单位宽图像进行均值滤波处理;或者
对K个所述单位宽图像进行加权滤波处理;
所述对K个所述单位宽图像进行合并处理,得到第一待处理图像,包括:
将滤波处理得到的图像与所述单位宽图像进行合并处理,得到所述第一待处理图像。
6.根据权利要求1所述的方法,其特征在于,所述获取第一图像,根据所述第一图像对应的位宽将所述第一图像分解为单位宽图像,包括:
获取所述第一图像在RGB三个通道分别对应的单通道图像;
根据所述单通道图像对应的位宽将单通道图像分解为单位宽图像。
7.根据权利要求1所述的方法,其特征在于,所述获取第一图像,包括:
获取初始图像,通过神经网络的第一卷积层对所述初始图像进行特征提取,得到所述第一图像。
8.根据权利要求7所述的方法,其特征在于,所述根据预设的分辨率和位宽将至少两个所述特征图像进行融合,得到第二图像之后,还包括:
通过所述神经网络的第三卷积层对所述第二图像进行特征提取,得到第三图像。
9.一种图像处理装置,其特征在于,包括:
位宽分解模块,用于获取第一图像,根据所述第一图像对应的位宽将所述第一图像分解为单位宽图像;
图像合并模块,用于将K个单位宽图像进行合并处理,得到第一待处理图像,及将除所述K个单位宽图像之外的单位宽图像进行合并处理,得到第二待处理图像;其中,K为大于一的正整数;
特征提取模块,用于根据与所述第一待处理图像的位宽相对应的第一神经网络,对所述第一待处理图像进行特征提取,得到对应的特征图像;根据与所述第二待处理图像的位宽相对应的第二神经网络,对所述第二待处理图像进行特征提取,得到对应的特征图像;
图像融合模块,用于根据预设的分辨率和位宽将至少两个所述特征图像进行融合,得到第二图像。
10.一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,其特征在于,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至8中任一项所述的图像处理方法的步骤。
11.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的方法的步骤。
CN202010305988.8A 2020-04-17 2020-04-17 图像处理方法、装置、电子设备和计算机可读存储介质 Active CN111401477B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010305988.8A CN111401477B (zh) 2020-04-17 2020-04-17 图像处理方法、装置、电子设备和计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010305988.8A CN111401477B (zh) 2020-04-17 2020-04-17 图像处理方法、装置、电子设备和计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN111401477A CN111401477A (zh) 2020-07-10
CN111401477B true CN111401477B (zh) 2023-11-14

Family

ID=71435361

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010305988.8A Active CN111401477B (zh) 2020-04-17 2020-04-17 图像处理方法、装置、电子设备和计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN111401477B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112184729B (zh) * 2020-09-24 2024-04-19 天津蜜度文修智能科技有限公司 局部图像的表征获取方法、系统、介质及装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5325449A (en) * 1992-05-15 1994-06-28 David Sarnoff Research Center, Inc. Method for fusing images and apparatus therefor
JP2000125111A (ja) * 1998-10-20 2000-04-28 Fujitsu Ltd 画像圧縮方法、画像復元方法、画像圧縮装置、画像読取装置、画像圧縮プログラム記憶媒体、および画像復元プログラム記憶媒体
CN103971340A (zh) * 2014-05-15 2014-08-06 中国科学院光电技术研究所 一种高位宽数字图像动态范围压缩和细节增强方法
WO2016082590A1 (zh) * 2014-11-27 2016-06-02 百度在线网络技术(北京)有限公司 图片处理方法、装置和存储介质
CN109155061A (zh) * 2017-12-20 2019-01-04 深圳市大疆创新科技有限公司 图像融合的方法、装置与无人机
WO2019184823A1 (zh) * 2018-03-26 2019-10-03 华为技术有限公司 基于卷积神经网络模型的图像处理方法和装置
CN110728674A (zh) * 2019-10-21 2020-01-24 清华大学 图像处理方法及装置、电子设备和计算机可读存储介质
WO2020034769A1 (zh) * 2018-08-16 2020-02-20 Oppo广东移动通信有限公司 图像处理方法以及装置、存储介质及电子设备
CN110830706A (zh) * 2018-08-08 2020-02-21 Oppo广东移动通信有限公司 图像处理方法和装置、存储介质、电子设备

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11034357B2 (en) * 2018-09-14 2021-06-15 Honda Motor Co., Ltd. Scene classification prediction

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5325449A (en) * 1992-05-15 1994-06-28 David Sarnoff Research Center, Inc. Method for fusing images and apparatus therefor
JP2000125111A (ja) * 1998-10-20 2000-04-28 Fujitsu Ltd 画像圧縮方法、画像復元方法、画像圧縮装置、画像読取装置、画像圧縮プログラム記憶媒体、および画像復元プログラム記憶媒体
CN103971340A (zh) * 2014-05-15 2014-08-06 中国科学院光电技术研究所 一种高位宽数字图像动态范围压缩和细节增强方法
WO2016082590A1 (zh) * 2014-11-27 2016-06-02 百度在线网络技术(北京)有限公司 图片处理方法、装置和存储介质
CN109155061A (zh) * 2017-12-20 2019-01-04 深圳市大疆创新科技有限公司 图像融合的方法、装置与无人机
WO2019184823A1 (zh) * 2018-03-26 2019-10-03 华为技术有限公司 基于卷积神经网络模型的图像处理方法和装置
CN110830706A (zh) * 2018-08-08 2020-02-21 Oppo广东移动通信有限公司 图像处理方法和装置、存储介质、电子设备
WO2020034769A1 (zh) * 2018-08-16 2020-02-20 Oppo广东移动通信有限公司 图像处理方法以及装置、存储介质及电子设备
CN110728674A (zh) * 2019-10-21 2020-01-24 清华大学 图像处理方法及装置、电子设备和计算机可读存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于量子力学和拉普拉斯金字塔的图像融合方法;席亮;;计算机与现代化(04);第37-41页 *

Also Published As

Publication number Publication date
CN111401477A (zh) 2020-07-10

Similar Documents

Publication Publication Date Title
US10311547B2 (en) Image upscaling system, training method thereof, and image upscaling method
CN108765425B (zh) 图像分割方法、装置、计算机设备和存储介质
US20150350513A1 (en) Constant Bracket High Dynamic Range (cHDR) Operations
CN110517186B (zh) 消除发票印章的方法、装置、存储介质和计算机设备
KR102509817B1 (ko) 이미지 처리 방법 및 장치, 컴퓨터 디바이스, 및 저장 매체
US20220253974A1 (en) Image processing method and apparatus, computer readable storage medium, and computer device
CN110956219B (zh) 视频数据的处理方法、装置和电子系统
WO2020258491A1 (zh) 通用字符识别方法、装置、计算机设备和存储介质
CN109949221B (zh) 一种图像处理方法及电子设备
CN111951167B (zh) 超分辨率图像重建方法、装置、计算机设备和存储介质
CN112997479B (zh) 跨阶段跳跃连接处理图像的方法、系统和计算机可读介质
US20210295480A1 (en) Systems and methods for image processing
CN111797834B (zh) 文本识别方法、装置、计算机设备和存储介质
CN111402139A (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
CN113034358A (zh) 一种超分辨率图像处理方法以及相关装置
CN113628115B (zh) 图像重建的处理方法、装置、电子设备和存储介质
WO2020043296A1 (en) Device and method for separating a picture into foreground and background using deep learning
CN111401477B (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
CN107220934B (zh) 图像重建方法及装置
CN112132769A (zh) 图像融合方法、装置以及计算机设备
CN114897711A (zh) 一种视频中图像处理方法、装置、设备及存储介质
CN113592965A (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
CN113781346A (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
CN115147304A (zh) 图像融合方法、装置、电子设备和存储介质、产品
CN113674153A (zh) 图像处理芯片、电子设备、图像处理方法和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant