CN104992416B - 图像增强方法和装置、智能设备 - Google Patents

Abstract

本公开提供一种图像增强方法和装置、智能设备，其中方法包括：根据对应灰度图的深度图，将所述灰度图分解为大尺度图像和细节图像；对所述大尺度图像增强得到增强大尺度图像，对所述细节图像进行增强得到增强细节图像；将所述增强大尺度图像和增强细节图像合并，得到增强后的灰度图。本公开提高了图像增强后的图像质量。

Description

图像增强方法和装置、智能设备

技术领域

本公开涉及图像处理技术，特别涉及一种图像增强方法和装置、智能设备。

背景技术

图像信息是传递信息的重要媒体和手段，但是常常由于光线不充足或其他原因，导致图像无法看清楚。为了改善图像的视觉效果，将原来不清晰的图像变得清晰，可以对图像进行图像增强(image enhancement)处理，扩大图像中不同物体特征之间的差别，使得增强后的图像更适合于人的视觉特性或机器的识别系统，满足对图像分析的需求。

发明内容

本公开提供一种图像增强方法和装置、智能设备，以提高图像增强后的图像质量。

根据本公开实施例的第一方面，提供一种图像增强方法，包括：

根据对应灰度图的深度图，将所述灰度图分解为大尺度图像和细节图像；

对所述大尺度图像增强得到增强大尺度图像，对所述细节图像进行增强得到增强细节图像；

将所述增强大尺度图像和增强细节图像合并，得到增强后的灰度图。

可选的，所述根据对应灰度图的深度图，将所述灰度图分解为大尺度图像，包括：根据所述深度图中的深度信息，将具有相同深度的像素点对应的灰度值进行平均处理。

可选的，所述对所述大尺度图像增强得到增强大尺度图像，包括：对所述大尺度图像增强得到第一增强图像，并根据所述大尺度图像的原像素值、以及增强后的第一增强图像的像素值，得到每个像素点的增强指数；根据所述深度图的深度信息，将具有相同深度的像素点的增强指数进行平均处理，得到修正增强指数；通过所述修正增强指数对所述原像素值进行指数处理，得到第二增强图像作为所述增强大尺度图像。

可选的，所述对所述细节图像进行增强得到增强细节图像，包括：根据所述深度图的深度信息，控制对所述细节图像的增强程度。

可选的，所述灰度图，为对应彩色图中的各个通道的灰度图。

根据本公开实施例的第二方面，提供一种图像增强装置，包括：

图像分解模块，用于根据对应灰度图的深度图，将所述灰度图分解为大尺度图像和细节图像；

增强处理模块，用于对所述大尺度图像增强得到增强大尺度图像，对所述细节图像进行增强得到增强细节图像；

图像合并模块，用于将所述增强大尺度图像和增强细节图像合并，得到增强后的灰度图。

可选的，所述图像分解模块，用于根据所述深度图中的深度信息，将具有相同深度的像素点对应的灰度值进行平均处理。

可选的，所述增强处理模块包括：

指数计算子模块，用于对所述大尺度图像增强得到第一增强图像，并根据所述大尺度图像的原像素值、以及增强后的第一增强图像的像素值，得到每个像素点的增强指数；

指数修正子模块，用于根据所述深度图的深度信息，将具有相同深度的像素点的增强指数进行平均处理，得到修正增强指数；

修正增强子模块，用于通过所述修正增强指数对所述原像素值进行指数处理，得到第二增强图像作为所述增强大尺度图像。

可选的，所述增强处理模块包括：细节增强子模块，用于根据所述深度图的深度信息，控制对所述细节图像的增强程度。

根据本公开实施例的第二方面，提供一种智能设备，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为：根据对应灰度图的深度图，将所述灰度图分解为大尺度图像和细节图像；对所述大尺度图像增强得到增强大尺度图像，对所述细节图像进行增强得到增强细节图像；将所述增强大尺度图像和增强细节图像合并，得到增强后的灰度图。

本公开的实施例提供的技术方案可以包括以下有益效果：通过在对灰度图进行增强时引入深度图的深度信息，可以根据图像的深度信息进行不同深度的增强，从而提高图像增强后的图像质量。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。

图1是根据一示例性实施例示出的一种图像增强方法的流程图；

图2是根据一示例性实施例示出的一种大尺度图像增强流程图；

图3是根据一示例性实施例示出的一种图像增强装置的结构图；

图4是根据一示例性实施例示出的另一种图像增强装置的结构图；

图5是根据一示例性实施例示出的一种智能终端的框图；

图6是根据一示例性实施例示出的一种智能设备的框图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。

本公开提供了一种图像增强方法，可以用于进行灰度图的图像增强。例如，对于同时具有深度图和灰度图(或彩色图)的情况，其中，深度图中的像素点的深度信息可以用于表示图像中的像素点所对应的被拍摄物体与摄像头的成像平面之间的距离，而灰度图即用灰度表示的图像，灰度可以包括白色与黑色之间按对数关系分成的若干等级的阶数。当拍摄上述的被拍摄物体时，可以既生成该物体的灰度图，也生成该物体的深度图，本公开的方法将对其中的灰度图进行增强，并且是根据深度图来增强灰度图。

此外，对灰度图的增强，可以是对单独的灰度图的增强；或者，也可以是对彩色图中的灰度图的增强，例如，对于彩色图来说，可以包括R、G、B三个通道，每个通道都可以作为灰度图进行增强处理，然后将各通道的增强图像合成即可得到增强后的彩色图。因此，在下面的描述中，将描述灰度图的增强处理。

并且，本公开实施例的图像增强应用的对灰度图的增强处理，可以在多种场景应用，例如，监控设备、智能终端、平板电脑、智能电视等，只要能同时具有对应同一图像的深度图和灰度图，就可以使用本公开的方法处理。

图1示例了本公开的图像增强方法，可以包括：

101、根据对应灰度图的深度图将灰度图分解为大尺度图像和细节图像；

102、对大尺度图像增强得到增强大尺度图像，对细节图像进行增强得到增强细节图像；

103、将增强大尺度图像和增强细节图像合并，得到增强后的灰度图。

结合图1可以看到，在对灰度图进行增强时，可以先将灰度图进行分解，并对分解后得到的两部分分别增强，然后再将增强后的两部分合并就可以得到增强灰度图。而本公开的例子中，将在灰度图的分解、以及对分解后部分的增强处理中，加入了对应灰度图的深度图中的深度信息，以提高增强后图像的图像质量。

在步骤101中，将灰度图分解为大尺度图像(large scale image)和细节图像，在分解时可以根据对应的深度图来进行，可以按照如下步骤：

首先，可以对深度图进行预处理，填补深度图中的空洞，以消除与灰度图的不匹配。该空洞例如可以是深度图中未计算出深度信息的像素点。

其次，将预处理后的深度图与灰度图结合，在分解灰度图时，根据深度图中的深度信息，将具有相同深度的像素点对应的灰度值进行平均处理，消除局部光照的影响，使得相同深度的灰度值较为均衡化。一个例子中的实现方式可以是：由灰度图和深度图进行交叉双边滤波器(cross-bilateral filter)处理，就可以得到大尺度图像，再由灰度图和大尺度图像得到细节图像。

如果将原灰度图用Im_g表示，将大尺度图像用Im_base表示，将细节图像用Im_detail表示，那么对灰度图的分解可以表示为：

Im_g＝Im_base+Im_detail

而与灰度图对应的深度图，可以用Im_d表示。

通过在分解灰度图时加入深度信息，可以更好的优化大尺度图像内的明暗关系，使得对大尺度特征的提取更准确，也可以说，使得对图像物体轮廓的提取更加准确和清晰。

在步骤102中，分别对大尺度图像和细节图像进行增强。

在一个例子中，在对大尺度图像进行增强时，可以执行图2所示的增强流程，该流程可以包括：

201、对大尺度图像增强得到第一增强图像，并根据大尺度图像的原像素值、以及增强后的第一增强图像的像素值，得到每个像素点的增强指数；

例如，对大尺度图像增强得到第一增强图像，可以采用多种图像增强方式，可以自由选择，例如，可以使用简单对比度拉伸方法，或者使用直方图均衡方法等。以直方图均衡为例，可以统计灰度直方图，计算累计直方图，并以累计直方图作为映射函数，得到映射后的像素值。

如果将增强后的图像称为第一增强图像，那么映射后的像素值可以称为第一增强图像的像素值，对于大尺度图像中的每个像素点，都可以计算该像素点对应的增强指数，根据如下公式计算：

Im_base_enhance(i,j)＝Im_base(i,j)^gamma(i,j)

在上述的公式中，gamma(I,j)即为增强指数，Im_base(i,j)是大尺度图像的原像素值，第一增强图像的像素值是Im_base_enhance(i,j)，根据上面的公式就可以计算出gamma(I,j)。

202、根据所述深度图的深度信息，将具有相同深度的像素点的增强指数进行平均处理，得到修正增强指数；

例如，在大尺度图像中，为了避免相同深度的不同像素点的增强程度具有差异，本公开的例子中，可以在步骤202中对增强指数进行平均处理。例如，可以使用交叉双边滤波器对在步骤201中计算得到的增强指数进行处理，使得相同深度的像素点具有相近的增强指数值gamma。可以将处理后的指数称为修正增强指数。

203、通过所述修正增强指数对所述原像素值进行指数处理，得到第二增强图像作为所述增强大尺度图像。

例如，在得到修正增强指数后，可以按照在步骤201中列出的公式，对原像素值进行指数处理，即将修正增强指数作为原像素值的指数，得到新的Im_base_enhance(i,j)。从而由新的Im_base_enhance(i,j)形成的增强图像可以称为第二增强图像，这是优化后的图像，可以作为最终的增强大尺度图像。该最终的增强大尺度图像可以用Im_base_enhance2表示。

通过按照图2的流程对大尺度图像进行增强，使得在大尺度增强时也加入了深度信息，增强后相同深度的像素点的灰度值更统一，从而使得增强后的大尺度特征更稳定，相同深度的大尺度特征的增强程度更加均匀。

在另一个例子中，在对细节图像进行增强时，可以根据深度图的深度信息，控制对细节图像的增强程度。

例如，Im_detail*weight(Im_d)，该公式可以表示增强后的细节图像，可以称为增强细节图像。而weight(Im_d)可以用于控制细节图像的增强程度，并且，该系数weight(Im_d)与深度图Im_d相关，依据了深度信息。如下：

weight(Im_d)＝alpha+Im_d*beta

其中，alpha用于控制细节图像增强的基础倍数，可以默认为1；

Im_d表示深度图中的深度信息，已经进行归一化处理，其数值在最近处为1，在最远处为0，中间的距离可以为0.3/0.5/0.8等，由近到远逐渐减小。

Beta可以用于控制深度信息对增强程度的影响系数，例如可以设置为0.5、1、2等数值，beta越大深度信息的影响越大，可以使得近处的细节增强程度更大，远处的细节增强程度更小。

通过在细节图像增强时，也加入了深度信息，可以使得处理后的图像更加符合成像原理，比如，近处的增强程度大，远处的增强程度小，这就是考虑了图像深度信息后的不同增强程度，也使得图像更加真实。

在步骤103中，可以将增强大尺度图像和增强细节图像合并，得到增强后的灰度图。例如，按照如下公式计算：

Im_g_enhance＝Im_base_enhance2+Im_detail*weight(Im_d)

其中，Im_g_enhance为增强后的灰度图，Im_base_enhance2为增强大尺度图像，Im_detail*weight(Im_d)为增强细节图像。

本公开提供的图像增强方法和装置、智能设备，通过在图像增强的过程中依据了对应深度图的深度信息，使得具有相同深度的像素点的增强更加均衡，也使得具有不同深度的像素点的增强体现出差异，从而不仅图像增强的更加稳定，也保持了图像的真实性，提高了图像增强后的图像质量。

为了实现上述的方法，本公开例子中还提供了一种图像增强装置，可以参见图3的示例。该装置可以包括：图像分解模块31、增强处理模块32和图像合并模块33；其中，

图像分解模块31，用于根据对应灰度图的深度图，将所述灰度图分解为大尺度图像和细节图像；

增强处理模块32，用于对所述大尺度图像增强得到增强大尺度图像，对所述细节图像进行增强得到增强细节图像；

图像合并模块33，用于将所述增强大尺度图像和增强细节图像合并，得到增强后的灰度图。

进一步的，图像分解模块31，用于根据所述深度图中的深度信息，将具有相同深度的像素点对应的灰度值进行平均处理。

图4示例了另一种图像装置的结构，增强处理模块32可以包括：指数计算子模块321、指数修正子模块322和修正增强子模块323；其中，

指数计算子模块321，用于对所述大尺度图像增强得到第一增强图像，并根据所述大尺度图像的原像素值、以及增强后的第一增强图像的像素值，得到每个像素点的增强指数；

指数修正子模块322，用于根据所述深度图的深度信息，将具有相同深度的像素点的增强指数进行平均处理，得到修正增强指数；

修正增强子模块323，用于通过所述修正增强指数对所述原像素值进行指数处理，得到第二增强图像作为所述增强大尺度图像。

进一步的，增强处理模块32还可以包括：细节增强子模块324，用于根据所述深度图的深度信息，控制对所述细节图像的增强程度。

本公开还提供了一种智能设备，该设备可以包括：处理器、用于存储处理器可执行指令的存储器；其中，所述处理器被配置为：根据对应灰度图的深度图，将所述灰度图分解为大尺度图像和细节图像；对所述大尺度图像增强得到增强大尺度图像，对所述细节图像进行增强得到增强细节图像；将所述增强大尺度图像和增强细节图像合并，得到增强后的灰度图。

该智能设备可以实现为一智能终端或者其他类型的设备，如下的图5和图6示例了该智能设备的两种示例性结构。

图5是根据一示例性实施例示出的一种智能终端500的框图。例如，装置500可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。

参照图5，装置500可以包括以下一个或多个组件：处理组件502，存储器504，电源组件506，多媒体组件508，音频组件510，输入/输出(I/O)的接口512，传感器组件514，以及通信组件515。

处理组件502通常控制装置500的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理元件502可以包括一个或多个处理器520来执行指令，以完成上述的方法。此外，处理组件502可以包括一个或多个模块，便于处理组件502和其他组件之间的交互。例如，处理部件502可以包括多媒体模块，以方便多媒体组件508和处理组件502之间的交互。

存储器504被配置为存储各种类型的数据以支持在设备500的操作。这些数据的示例包括用于在装置500上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器504可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

电力组件508为装置500的各种组件提供电力。电力组件508可以包括电源管理系统，一个或多个电源，及其他与为装置500生成、管理和分配电力相关联的组件。

多媒体组件508包括在所述装置500和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件508包括一个前置摄像头和/或后置摄像头。当设备500处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件510被配置为输出和/或输入音频信号。例如，音频组件510包括一个麦克风(MIC)，当装置500处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器504或经由通信组件515发送。在一些实施例中，音频组件50还包括一个扬声器，用于输出音频信号。

I/O接口512为处理组件502和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件514包括一个或多个传感器，用于为装置500提供各个方面的状态评估。例如，传感器组件514可以检测到设备500的打开/关闭状态，组件的相对定位，例如所述组件为装置500的显示器和小键盘，传感器组件514还可以检测装置500或装置500一个组件的位置改变，用户与装置500接触的存在或不存在，装置500方位或加速/减速和装置500的温度变化。传感器组件514可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件514还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件514还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。

通信组件515被配置为便于装置500和其他设备之间有线或无线方式的通信。装置500可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信部件515经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信部件515还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

在示例性实施例中，装置500可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。

在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器，上述指令可由装置的处理器执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。

图6是根据一示例性实施例示出的一种智能设备600的框图。例如，装置600可以被提供为一监控设备等。参照图6，装置600包括处理组件622，其进一步包括一个或多个处理器，以及由存储器632所代表的存储器资源，用于存储可由处理部件622的执行的指令，例如应用程序。存储器632中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件622被配置为执行指令，以执行上述方法。

装置600还可以包括一个电源组件626被配置为执行装置600的电源管理，一个有线或无线网络接口650被配置为将装置600连接到网络，和一个输入输出(I/O)接口658。装置600可以操作基于存储在存储器632的操作系统，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (4)

1.一种图像增强方法，其特征在于，包括：

根据对应灰度图的深度图，将所述灰度图分解为大尺度图像和细节图像；

对所述大尺度图像增强得到增强大尺度图像，对所述细节图像进行增强得到增强细节图像；

将所述增强大尺度图像和增强细节图像合并，得到增强后的灰度图；

其中，所述根据对应灰度图的深度图，将所述灰度图分解为大尺度图像，包括：

根据所述深度图中的深度信息，将具有相同深度的像素点对应的灰度值进行平均处理；

其中，所述对所述大尺度图像增强得到增强大尺度图像，包括：

对所述大尺度图像增强得到第一增强图像，并根据所述大尺度图像的原像素值、以及增强后的第一增强图像的像素值，得到每个像素点的增强指数；

根据所述深度图的深度信息，将具有相同深度的像素点的增强指数进行平均处理，得到修正增强指数；

通过所述修正增强指数对所述原像素值进行指数处理，得到第二增强图像作为所述增强大尺度图像；

其中，所述对所述细节图像进行增强得到增强细节图像，包括：

根据所述深度图的深度信息，控制对所述细节图像的增强程度。

2.根据权利要求1所述的方法，其特征在于，所述灰度图，为对应彩色图中的各个通道的灰度图。

3.一种图像增强装置，其特征在于，包括：

图像分解模块，用于根据对应灰度图的深度图，将所述灰度图分解为大尺度图像和细节图像；

增强处理模块，用于对所述大尺度图像增强得到增强大尺度图像，对所述细节图像进行增强得到增强细节图像；

图像合并模块，用于将所述增强大尺度图像和增强细节图像合并，得到增强后的灰度图；

其中，所述图像分解模块，用于根据所述深度图中的深度信息，将具有相同深度的像素点对应的灰度值进行平均处理；

其中，所述增强处理模块包括：

指数计算子模块，用于对所述大尺度图像增强得到第一增强图像，并根据所述大尺度图像的原像素值、以及增强后的第一增强图像的像素值，得到每个像素点的增强指数；

指数修正子模块，用于根据所述深度图的深度信息，将具有相同深度的像素点的增强指数进行平均处理，得到修正增强指数；

修正增强子模块，用于通过所述修正增强指数对所述原像素值进行指数处理，得到第二增强图像作为所述增强大尺度图像；

其中，所述增强处理模块包括：

细节增强子模块，用于根据所述深度图的深度信息，控制对所述细节图像的增强程度。

4.一种图像增强智能设备，其特征在于，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为：根据对应灰度图的深度图，将所述灰度图分解为大尺度图像和细节图像；对所述大尺度图像增强得到增强大尺度图像，对所述细节图像进行增强得到增强细节图像；将所述增强大尺度图像和增强细节图像合并，得到增强后的灰度图；

其中，所述根据对应灰度图的深度图，将所述灰度图分解为大尺度图像，包括：

根据所述深度图中的深度信息，将具有相同深度的像素点对应的灰度值进行平均处理；

其中，所述对所述大尺度图像增强得到增强大尺度图像，包括：

对所述大尺度图像增强得到第一增强图像，并根据所述大尺度图像的原像素值、以及增强后的第一增强图像的像素值，得到每个像素点的增强指数；

根据所述深度图的深度信息，将具有相同深度的像素点的增强指数进行平均处理，得到修正增强指数；

通过所述修正增强指数对所述原像素值进行指数处理，得到第二增强图像作为所述增强大尺度图像；

其中，所述对所述细节图像进行增强得到增强细节图像，包括：

根据所述深度图的深度信息，控制对所述细节图像的增强程度。