CN107610057A - 一种深度图修复方法、终端及计算机可读存储介质 - Google Patents

Abstract

本发明公开了一种深度图修复方法，包括：终端在第T时间帧，根据预设景深计算策略，获取T个连续帧中每一帧的每一个像素点对应的第一深度值，T为大于等于2的自然数；根据第一深度值和预设方差计算模型，确定T个连续帧中第T帧的每一个像素点对应的第一深度值方差；根据第一深度值方差和预设方差阈值，确定第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点；根据与第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定第一像素点对应的第二深度值；将第一像素点对应的第一深度值更新为第二深度值。本发明还提出了一种终端和一种计算机可读存储介质，通过实施上述方案，提高了图像处理的显示效果。

Description

一种深度图修复方法、终端及计算机可读存储介质

技术领域

本发明涉及图像处理技术领域，尤其涉及一种深度图修复方法、终端及计算机可读存储介质。

背景技术

随着手机、平板电脑等终端的不断发展，终端早已不仅仅局限于通信的单一功能，而是集休闲、通信和娱乐等功能于一体的设备。例如，一般的终端上都配置有摄像头，用于满足用户的拍照或摄像需求。

终端上摄像头的发展趋势已从原来的单摄像头，逐渐转换为双摄像头，甚至多摄像头。通过双摄像头拍摄，由于两个摄像头之间存在一定的距离，所以同一拍摄场景通过两个镜头所成的像有一定差别，即视差，根据视差信息，可以计算出拍摄场景的深度图信息，从而获得拍摄场景的深度图，其中，深度图中的每一个像素点表示拍摄场景中某一点与摄像头之间的距离。

在现有技术中，终端在拍摄时，可以根据每一视频帧实时计算得到对应的深度图，但是由于深度图算法容易出现错误，在获得的视频帧对应的深度图中，往往出现异常点，即该像素点在深度图中显示的深度值与实际深度值误差较大。由于视频帧对应的深度图中出现异常点，使得深度图的连续性受到影响，终端根据这些带有异常点的深度图对视频帧进行实时虚化处理时，就会出现虚化错误的像素点，产生显示效果不佳的问题。

发明内容

为了解决上述问题，本发明实施例提供了一种深度图修复方法、终端及计算机可读存储介质，能够实时检测并修复图像对应的深度图中的异常点，提高了根据深度图进行图像处理的显示效果。

本发明的技术方案是这样实现的：

本发明实施例提供了一种深度图修复方法，所述方法包括：

在第T时间帧，根据预设景深计算策略，获取T个连续帧中每一帧的每一个像素点对应的第一深度值，T为大于等于2的自然数；

根据所述第一深度值和预设方差计算模型，确定所述T个连续帧中第T帧的每一个像素点对应的第一深度值方差；

根据所述第一深度值方差和预设方差阈值，确定所述第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点；

根据与所述第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定所述第一像素点对应的第二深度值；其中，所述第三像素点属于所述第二像素点；

将所述第一像素点对应的第一深度值更新为所述第二深度值。

在上述方案中，所述根据所述第一深度值和预设方差计算模型，确定所述T个连续帧中第T帧的每一个像素点对应的第一深度值方差，包括：

根据所述第一深度值和第一预设模型，计算所述第T帧的每一个像素点对应的平均第一深度值；

根据所述平均第一深度值、所述第一深度值和第二预设模型，计算所述第T帧的每一个像素点对应的第二深度值方差；

根据所述第二深度值方差和第三预设模型，计算所述第一深度值方差；其中，所述第一预设模型、所述第二预设模型和所述第三预设模型为所述预设方差计算模型的子模型。

在上述方案中，所述根据所述第二深度值方差和第三预设模型，计算所述第一深度值方差，包括：

按照预设邻域范围和预设遍历步长，确定所述第T帧的每一个像素点对应的相邻像素点；

根据所述相邻像素点和所述第二深度值方差，以及所述第三预设模型，计算所述第一深度值方差。

在上述方案中，所述根据所述第一深度值方差和预设方差阈值，确定所述第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点，包括：

将所述第一深度值方差大于所述预设方差阈值的像素点确定为所述第一像素点；

将所述第一深度值方差小于或等于所述预设方差阈值的像素点确定为所述第二像素点。

在上述方案中，所述根据与所述第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定所述第一像素点对应的第二深度值之前，所述方法还包括：

从所述相邻像素点中获取所述第一像素点对应的第一相邻像素点；

在所述第一相邻像素点中查找属于所述第二像素点的所述第三像素点。

本发明实施例提供了一种终端，所述终端包括：处理器、存储器以及通信总线；

所述通信总线用于实现所述处理器和所述存储器之间的连接通信；

所述处理器用于执行所述存储器中存储的深度图修复程序，以实现以下步骤：

在第T时间帧，根据预设景深计算策略，获取T个连续帧中每一帧的每一个像素点对应的第一深度值，T为大于等于2的自然数；根据所述第一深度值和预设方差计算模型，确定所述T个连续帧中第T帧的每一个像素点对应的第一深度值方差；根据所述第一深度值方差和预设方差阈值，确定所述第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点；根据与所述第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定所述第一像素点对应的第二深度值；其中，所述第三像素点属于所述第二像素点；将所述第一像素点对应的第一深度值更新为所述第二深度值。

在上述终端中，所述处理器具体用于执行所述深度图修复程序，以实现以下步骤：

根据所述第一深度值和第一预设模型，计算所述第T帧的每一个像素点对应的平均第一深度值；根据所述平均第一深度值、所述第一深度值和第二预设模型，计算所述第T帧的每一个像素点对应的第二深度值方差；根据所述第二深度值方差和第三预设模型，计算所述第一深度值方差：按照预设邻域范围和预设遍历步长，确定所述第T帧的每一个像素点对应的相邻像素点；根据所述相邻像素点和所述第二深度值方差，以及所述第三预设模型，计算所述第一深度值方差；其中，所述第一预设模型、所述第二预设模型和所述第三预设模型为所述预设方差计算模型的子模型。

在上述终端中，所述处理器具体用于执行所述深度图修复程序，以实现以下步骤：

将所述第一深度值方差大于所述预设方差阈值的像素点确定为所述第一像素点；将所述第一深度值方差小于或等于所述预设方差阈值的像素点确定为所述第二像素点。

在上述终端中，所述处理器在根据与所述第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定所述第一像素点对应的第二深度值之前，还用于执行所述深度图修复程序，以实现以下步骤：

从所述相邻像素点中获取所述第一像素点对应的第一相邻像素点；在所述第一相邻像素点中查找属于所述第二像素点的所述第三像素点。

本发明实施例提供了一种计算机可读存储介质，应用于终端，所述计算机可读存储介质存储有深度图修复程序，所述深度图修复程序可被处理器执行，以实现权利要求1-5所述的方法。

由此可见，在本发明实施例的技术方案中，终端在第T时间帧，根据预设景深计算策略，获取T个连续帧中每一帧的每一个像素点对应的第一深度值，T为大于等于2的自然数；根据第一深度值和预设方差计算模型，确定T个连续帧中第T帧的每一个像素点对应的第一深度值方差；根据第一深度值方差和预设方差阈值，确定第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点；根据与第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定第一像素点对应的第二深度值；将第一像素点对应的第一深度值更新为第二深度值。也就是说，在本发明实施例的技术方案中，终端可以实时检测出图像对应的深度图中的异常点，并对检测出的异常点进行修复。因此，终端根据修复异常点后的深度图对图像进行处理时，就不会出现错误的像素点，提高了图像处理的显示效果。

附图说明

图1为实现本发明各个实施例的一种可选的移动终端的硬件结构示意图；

图2为本发明实施例提供的一种通信网络系统架构图；

图3为本发明实施例提供的一种深度图修复方法的流程图；

图4为本发明实施例提供的示例性的一个像素点第一深度值变化的示意图；

图5本发明实施例提供的示例性的一种深度图异常点的确定结果示意图；

图6为本发明实施例提供的实例性的一种深度图修复结果示意图；

图7为本发明实施例提供的一种终端的结构示意图。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明的技术方案，并不用于限定本发明的保护范围。

在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身并没有特定的意义。因此，“模块”与“部件”可以混合地使用。

终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant，PDA)、便捷式媒体播放器(Portable Media Player，PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端，以及诸如数字TV、台式计算机等固定终端。

后续描述中将以移动终端为例进行说明，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。

请参阅图1，其为实现本发明各个实施例的一种可选的移动终端的硬件结构示意图，该移动终端100可以包括：射频RF(Radio Frequency，RF)单元101、Wi-Fi模块102、音频输出单元103、音频/视频(A/V)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图1中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

下面结合图1对移动终端的各个部件进行具体的介绍：

射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将基站的下行信息接收后，给处理器110处理；另外，将上行的数据发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于全球移动通讯系统(Global System of Mobilecommunication，GSM)、通用分组无线服务(General Packet Radio Service，GPRS)、码分多址2000(Code Division Multiple Access 2000，CDMA2000)、宽带码分多址(WidebandCode Division Multiple Access，WCDMA)、时分同步码分多址(Time Division-Synchronous Code Division Multiple Access，TD-SCDMA)、频分双工长期演进(Frequency Division Duplexing-Long Term Evolution，FDD-LTE)和分时双工长期演进(Time Division Duplexing-Long Term Evolution，TDD-LTE)等。

Wi-Fi属于短距离无线传输技术，移动终端通过Wi-Fi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图1示出了Wi-Fi模块102，但是可以理解的是，其并不属于移动终端的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。

音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将射频单元101或Wi-Fi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。

A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或Wi-Fi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除或抑制算法以消除或抑制在接收和发送音频信号的过程中产生的噪声或者干扰。

移动终端100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在移动终端100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。

显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode，OLED)等形式来配置显示面板1061。

用户输入单元107可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)，并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，并能接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种，具体此处不做限定。

进一步的，触控面板1071可覆盖显示面板1061，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中，触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能，具体此处不做限定。

接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。

存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器110是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的数据，执行移动终端的各种功能和处理数据，从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元；优选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。

移动终端100还可以包括给各个部件供电的电源111(比如电池)，优选的，电源111可以通过电源管理系统与处理器110逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

尽管图1未示出，移动终端100还可以包括蓝牙模块等，在此不再赘述。

为了便于理解本发明实施例，下面对本发明的移动终端所基于的通信网络系统进行描述。

请参阅图2，图2为本发明实施例提供的一种通信网络系统架构图，该通信网络系统为通用移动通信技术的LTE系统，该LTE系统包括依次通讯连接的用户设备(UserEquipment，UE)201，演进式UMTS陆地无线接入网(Evolved UMTS Terrestrial RadioAccess Network，E-UTRAN)202，演进式分组核心网(Evolved Packet Core，EPC)203和运营商的IP业务204。

具体地，UE201可以是上述终端100，此处不再赘述。

E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中，eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接，eNodeB2021连接到EPC203，eNodeB2021可以提供UE201到EPC203的接入。

EPC203可以包括移动性管理实体(Mobility Management Entity，MME)2031，归属用户服务器(Home Subscriber Server，HSS)2032，其它MME2033，服务网关(Serving GateWay，SGW)2034，分组数据网络网关(PDN Gate Way，PGW)2035和政策和资费功能实体(Policy and Charging Rules Function，PCRF)2036等。其中，MME2031是处理UE201和EPC203之间信令的控制节点，提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能，并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送，PGW2035可以提供UE201的IP地址分配以及其它功能，PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点，它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。

IP业务204可以包括因特网、内联网、IP多媒体子系统(IP MultimediaSubsystem，IMS)或其它IP业务等。

虽然上述以LTE系统为例进行了介绍，但本领域技术人员应当知晓，本发明不仅仅适用于LTE系统，也可以适用于其他无线通信系统，例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等，此处不做限定。

基于上述移动终端硬件结构以及通信网络系统，提出本发明方法各个实施例。

实施例一

本发明实施例提供了一种深度图修复方法，如图3所示，该方法可以包括：

S301、在第T时间帧，根据预设景深计算策略，获取T个连续帧中每一帧的每一个像素点对应的第一深度值，T为大于等于2的自然数。

需要说明的是，在本发明的实施例应用于拍摄场景基本保持不变，终端与拍摄物体的距离基本保持不变的场景，且在拍摄过程中，终端基本保持稳定，拍摄场景中运动的物体不进行考虑。

在本发明的实施例中，终端首先需要在第T时间帧获取到T个连续帧的每一帧，根据获取到的T个连续帧，按照预设景深计算策略获取到T个连续帧中每一帧的每一个像素点对应的第一深度值。

需要说明的是，终端获取T个连续帧中每一帧的每一个像素点对应的第一深度值，可以得到每一帧对应的深度图。例如，在第T帧中，每一个像素点对应一个第一深度值，那么根据第T帧的每一个像素点对应的第一深度值，就可以得到第T帧对应的深度图，即第T帧对应的深度图实际上就是第T帧的每一个像素点对应的第一深度值的直观表现形式。

可以理解的是，终端在第T时间帧获取到的T个连续时间帧中，前T-1个连续时间帧实际上是已经实现过深度图修复的帧，正在执行的是对当前帧，即第T帧对应的深度图进行修复，也就是说，终端是实时进行深度图修复的，每一次进行异常点修复都是针对终端当前拍摄到的帧对应的深度图。

可以理解的是，在本发明的实施例中由于针对的是上述应用场景，因此，在拍摄的过程中，每一帧对应的深度图基本保持不变，拍摄场景中同一位置上的物体在每一帧对应的深度图中的第一深度值也基本保持不变。也就是说，在理想情况下，第T帧的任意一个像素点对应的第一深度值与之前T-1帧相同位置像素点对应的第一深度值是基本相同，如果第T帧中某一像素点的第一深度值出现较大变化，则说明该像素点为异常点，如图4所示，像素点r为第T帧的一个像素点，其在各个帧对应的深度图中的第一深度值基本相同，当在第T帧时，出现较大变化，说明像素点r在第T帧对应的第一深度值有误，终端就需要对该像素点对应的第一深度值修复。但是，单个像素点的第一深度值可能出现随机误差，因此，为了避免这种误差，采用本申请的技术方案能有效的检测出深度图中的异常点并修复。

具体的，终端可以通过设置的双摄像头获取两路拍摄场景的原始图像，终端拍摄的时间帧长度为T，即可以获取到T个连续帧，T个连续帧中每一帧均对应两张原始图像，按照预设景深计算策略，可以得到每一帧中每一个像素点对应的第一深度值。

具体的，终端上预设景深计算策略为双目深度估计。终端上的双摄像头之间存在一定的距离，同一拍摄场景中两个摄像头在每一时间帧获取对应的两张原始图像，且两张原始图像存在一定的差别，即视差，终端根据得到的视差信息可以计算出T个连续帧中每一帧的每一个像素点对应的第一深度值。

需要说明的是，终端上保存有预设景深计算策略，用于获取深度图中每一个像素点对应的第一深度值，该预设景深计算策略可以由用户自主设置，因此，若在将来出现了其它获取深度图中每一个像素点对应的第一深度值的策略，本发明实施例同样适用，即本发明实施例不限制获取深度图中每一个像素点对应的第一深度值的策略。

S302、根据第一深度值和预设方差计算模型，确定T个连续帧中第T帧的每一个像素点对应的第一深度值方差。

在本发明的实施例中，终端在获取到T个连续帧中每一帧的每一个像素点对应的第一深度值后，可以根据预设方差计算模型，确定出第T帧的每一个像素点对应的第一深度值方差。其中，预设方差计算模型包括：第一预设模型、第二预设模型和第三预设模型。

具体的，(1)、终端根据第一深度值和第一预设模型，计算第T帧的每一个像素点对应的平均第一深度值。

具体的，终端可以将获取的T个连续帧中每一帧的每一个像素点对应的第一深度值，直接输入第一预设模型，计算第T帧的每一个像素点对应的平均第一深度值，第一预设模型如公式(1)：

其中，像素点p为第T帧中任意一个像素点，i，j为像素点p在第T帧对应的深度图中的坐标，M₁(p，i，j)为像素点p对应的平均第一深度值，d₁(i，j，t)为在第t帧对应的深度图中像素点p为相同坐标的像素点对应的第一深度值。

可以理解的是，在步骤S301中，终端在每一帧中，可以根据该帧的每一个像素点对应的第一深度值得到该帧对应的深度图，用于直观的了解该帧整体上的深度情况，因此，终端可以直接获取T个连续帧中每一帧的每一个像素点在对应的深度图中的坐标。

(2)、根据平均第一深度值、第一深度值和第二预设模型，计算第T帧的每一个像素点对应的第二深度值方差。

具体的，终端在计算出第T帧的每一个像素点对应的平均第一深度值后，将第T帧的每一个像素点对应的平均第一深度值，以及T个连续帧中每一帧的每一个像素点对应的第一深度值，输入第二预设模型，计算第T帧的每一个像素点对应的第二深度值方差，第二预设模型如公式(2)：

其中，D₂(p，i，j)为像素点p对应的第二深度值方差。

可以理解的是，由于终端每一次都是在对当前帧对应的深度图进行异常点的修复，即前T-1个连续时间帧的每一帧中与像素点p为相同坐标的像素点对应的第一深度值均为正常值或是修复后的值，因此，当终端计算出的像素点p对应的第二深度值方差较大时，就说明像素点p在第T帧对应的第一深度值相比于前T-1个连续时间帧波动较大，即像素点p可能为异常点。但是，为了避免单个像素点的随机误差，所以，终端还需执行后续步骤，来进一步确定像素点p是否为异常点。

(3)、根据第二深度值方差和第三预设模型，计算第一深度值方差。

在本发明的实施例中，终端在计算第T帧的每一个像素点对应的第一深度值方差时，需要先确定第T帧的每一个像素点对应的相邻像素点，在得到第T帧的每一个像素点对应的相邻像素点的条件下，根据第T帧的每一个像素点对应的第二深度值方差，通过第三预设模型，计算第T帧的每一个像素点对应的第一深度值方差。

具体的，终端按照预设邻域范围和预设遍历步长，确定第T帧的每一个像素点对应的相邻像素点。终端可以以第T帧的每一个像素点为中心，分别按照预设遍历步长在预设邻域范围内进行查找，确定出第T帧的每一个像素点对应的相邻像素点，其中，第T帧的每一个像素点对应的相邻像素点为多个数目的像素点。

需要说明的是，本发明实施例对用户预设邻域范围和预设遍历步长不作具体的限定，用户可以根据对异常点修复效果的需求自主设置合适的邻域范围和遍历步长。

终端按照预设邻域范围和预设遍历步长，确定第T帧的每一个像素点对应的相邻像素点后，将第T帧的每一个像素点对应的第二深度值方差，以及每一个像素点对应的相邻像素点的第二深度值方差，输入第三预设模型，计算第T帧的每一个像素点对应的第一深度值方差，第三预设模型如公式(3)：

其中，D₁(p，i，j)为像素点p对应的第一深度值方差，a×b为预设邻域范围，k、l为预设遍历步长。

需要说明的是，第三预设模型实际上就是将像素点p对应的第二深度值方差，以及像素点p的相邻像素点对应的各个第二深度值方差进行统计，计算出平均值，而计算出的平均值即为像素点p对应的第一深度值方差。

S303、根据第一深度值方差和预设方差阈值，确定第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点。

在本发明的实施例中，终端确定了第T帧中每一个像素点对应的第一深度值方差之后，将第T帧中每一个像素点对应的第一深度值方差与预设方差阈值相比较，根据比较结果确定出第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点。

需要说明的是，终端确定第一像素点和第二像素点是对第T帧中的全部像素点进行了分类，也就是说，在第T帧中，所有表征为异常点的像素点均属于第一像素点，所有表征为非异常点的像素点均属于第二像素点。

具体的，在本发明的实施例中，终端保存的预设方差阈值为U，终端将第T帧中每一个像素点对应的第一深度值方差和U进行比较，将第一深度值方差大于U的像素点确定为第一像素点，第一像素点为表征为异常点的像素点，将第一深度值方差小于或等于U的像素点确定为第二像素点，第二像素点为表征为非异常点的像素点，也就可以在第T帧对应的深度图中定位出第一像素点，如图4所示。

需要说明的是，本发明实施例对用户预设的方差阈值不作具体的限定，用户可以根据对异常点修复效果的需求进行自主设置。

示例性的，终端保存的预设方差阈值为1，则终端将第T帧中每一个像素点对应的第一深度值方差和1比较大小，判定第一深度值方差大于1的像素点属于第一像素点，第一深度值方差小于或等于U的像素点属于第二像素点。例如，第T帧中存在像素点V，终端计算出像素点V对应的第一深度值为1.2，那么，由于1.2大于1，因此，判定像素点V属于第一像素点。

S304、根据与第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定第一像素点对应的第二深度值；其中，第三像素点属于第二像素点。

在本发明的实施例中，终端在确定出第T帧的第一像素点和第二像素点后，可以根据与第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定第一像素点对应的第二深度值。

需要说明的是，在本发明的实施例中，终端在确定第一像素点对应的第二深度值之前，需要确定与第一像素点相邻的第三像素点，具体步骤如下：

(1)、从相邻像素点中获取第一像素点对应的第一相邻像素点。

在本发明的实施例中，在步骤S302中，终端已经确定出了第T帧中每一个像素点对应的相邻像素点，因此，终端可以直接根据确定的第一像素点获取对应的第一相邻像素点，即查找出属于第一像素点的每一个像素点对应的相邻像素点。

(2)、在第一相邻像素点中查找属于第二像素点的第三像素点。

在本发明的实施例中，终端获取到第一像素点对应的第一相邻像素点后，在第一相邻像素点中查找属于第二像素点的第三像素点。

具体的，终端获取到的第一相邻像素点中既存在属于第一像素点的像素点，还存在属于第二像素点的像素点，由于在步骤S303中已经对第T帧的每一个像素点进行了判断，确定了每一个像素点属于第一像素点还是第二像素点，因此，终端可以直接在第一相邻像素点中查找出属于第二像素点的像素点，并确定为第三像素点。

需要说明的是，第三像素点为既属于第一相邻像素点，也属于第二像素点的各个像素点，第三像素点包括多个像素点，只要满足上述条件即可。

在本发明的实施例中，终端确定了第一像素点相邻的第三像素点后，将第三像素点对应的第一深度值输入预设深度值计算模型，计算第一像素点对应的第二深度值，预设深度值计算模型如公式(4)和(5)：

其中，像素点B为第T帧中属于第一像素点的任意一个像素点，x，y为像素点B在第T帧对应的深度图中的坐标，f(x+k，y+l)为像素点B对应的第一相邻像素点，w(x+k，y+l)为像素点B对应的第一相邻像素点的权重值，d₂(B，x，y)为像素点B对应的第二深度值，终端通过公式(4)可以先计算出像素点B对应的第三像素点对应的权重值，再通过公式(5)，进行加权计算，即可计算出像素点B对应的第二深度值。

可以理解的是，在公式(4)中，对于像素点B对应的相邻像素点中的非第三像素点，均属于第一像素点，即均为异常点，因此权重值均为0，不参与像素点B对应的第二深度值的计算。也就是说，终端是根据异常点相邻的非异常点对应的第一深度值，计算异常点对应的第二深度值。

S305、将第一像素点对应的第一深度值更新为第二深度值。

如图6所示，在本发明的实施例中，终端计算出第一像素点对应的第二深度值之后，就可以将第一像素点对应的第一深度值更新为第二深度值，实现对第T帧对应的深度图中异常点的修复。

可以理解的是，终端将第一像素点对应的第一深度值更新为第二深度值，由于第二深度值是根据第一像素点相邻的第三像素点计算得到的，第三像素点属于表征为非异常的第二像素点，且第三像素点与第一像素点相邻，因此，适用于对第一像素点对应的第一深度值更新。

本发明实施例提供的一种深度图修复方法，终端在第T时间帧，根据预设景深计算策略，获取T个连续帧中每一帧的每一个像素点对应的第一深度值，T为大于等于2的自然数；根据第一深度值和预设方差计算模型，确定T个连续帧中第T帧的每一个像素点对应的第一深度值方差；根据第一深度值方差和预设方差阈值，确定第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点；根据与第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定第一像素点对应的第二深度值；将第一像素点对应的第一深度值更新为第二深度值。也就是说，在本发明实施例的技术方案中，终端可以实时检测出图像对应的深度图中的异常点，并对检测出的异常点进行修复。因此，终端根据修复异常点后的深度图对图像进行处理时，就不会出现错误的像素点，提高了图像处理的显示效果。

实施例二

如图7所示，本发明实施例提供了一种终端，该终端可以包括：处理器701、存储器702以及通信总线703；

所述通信总线703用于实现所述处理器701和所述存储器702之间的连接通信；

所述处理器701用于执行所述存储器702中存储的深度图修复程序，以实现以下步骤：

在第T时间帧，根据预设景深计算策略，获取T个连续帧中每一帧的每一个像素点对应的第一深度值，T为大于等于2的自然数；根据所述第一深度值和预设方差计算模型，确定所述T个连续帧中第T帧的每一个像素点对应的第一深度值方差；根据所述第一深度值方差和预设方差阈值，确定所述第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点；根据与所述第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定所述第一像素点对应的第二深度值；其中，所述第三像素点属于所述第二像素点；将所述第一像素点对应的第一深度值更新为所述第二深度值。

可选的，所述处理器701具体用于执行所述深度图修复程序，以实现以下步骤：

根据所述第一深度值和第一预设模型，计算所述第T帧的每一个像素点对应的平均第一深度值；根据所述平均第一深度值、所述第一深度值和第二预设模型，计算所述第T帧的每一个像素点对应的第二深度值方差；根据所述第二深度值方差和第三预设模型，计算所述第一深度值方差：按照预设邻域范围和预设遍历步长，确定所述第T帧的每一个像素点对应的相邻像素点；根据所述相邻像素点和所述第二深度值方差，以及所述第三预设模型，计算所述第一深度值方差；其中，所述第一预设模型、所述第二预设模型和所述第三预设模型为所述预设方差计算模型的子模型。

可选的，所述处理器701具体用于执行所述深度图修复程序，以实现以下步骤：

将所述第一深度值方差大于所述预设方差阈值的像素点确定为所述第一像素点；将所述第一深度值方差小于或等于所述预设方差阈值的像素点确定为所述第二像素点。

可选的，所述处理器701在根据与所述第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定所述第一像素点对应的第二深度值之前，还用于执行所述深度图修复程序，以实现以下步骤：

从所述相邻像素点中获取所述第一像素点对应的第一相邻像素点；在所述第一相邻像素点中查找属于所述第二像素点的所述第三像素点。

本发明实施例提供的一种终端，终端在第T时间帧，根据预设景深计算策略，获取T个连续帧中每一帧的每一个像素点对应的第一深度值，T为大于等于2的自然数；根据第一深度值和预设方差计算模型，确定T个连续帧中第T帧的每一个像素点对应的第一深度值方差；根据第一深度值方差和预设方差阈值，确定第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点；根据与第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定第一像素点对应的第二深度值；将第一像素点对应的第一深度值更新为第二深度值。也就是说，在本发明实施例的技术方案中，终端可以实时检测出图像对应的深度图中的异常点，并对检测出的异常点进行修复。因此，终端根据修复异常点后的深度图对图像进行处理时，就不会出现错误的像素点，提高了图像处理的显示效果。

本发明实施例还提供了一种计算机可读存储介质，应用于终端，所述计算机可读存储介质存储有深度图修复程序，所述深度图修复程序可被处理器执行，以实现权利要求1-5所述的方法。计算机可读存储介质可以是是易失性存储器(volatile memory)，例如随机存取存储器(Random-Access Memory，RAM)；或者非易失性存储器(non-volatilememory)，例如只读存储器(Read-Only Memory，ROM)，快闪存储器(flash memory)，硬盘(Hard Disk Drive，HDD)或固态硬盘(Solid-State Drive，SSD)；也可以是包括上述存储器之一或任意组合的各自设备，如移动电话、计算机、平板设备、个人数字助理等。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。

Claims (10)

1.一种深度图修复方法，其特征在于，所述方法包括：

在第T时间帧，根据预设景深计算策略，获取T个连续帧中每一帧的每一个像素点对应的第一深度值，T为大于等于2的自然数；

根据所述第一深度值和预设方差计算模型，确定所述T个连续帧中第T帧的每一个像素点对应的第一深度值方差；

根据所述第一深度值方差和预设方差阈值，确定所述第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点；

根据与所述第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定所述第一像素点对应的第二深度值；其中，所述第三像素点属于所述第二像素点；

将所述第一像素点对应的第一深度值更新为所述第二深度值。

2.根据权利要求1所述的方法，其特征在于，所述根据所述第一深度值和预设方差计算模型，确定所述T个连续帧中第T帧的每一个像素点对应的第一深度值方差，包括：

根据所述第一深度值和第一预设模型，计算所述第T帧的每一个像素点对应的平均第一深度值；

根据所述平均第一深度值、所述第一深度值和第二预设模型，计算所述第T帧的每一个像素点对应的第二深度值方差；

根据所述第二深度值方差和第三预设模型，计算所述第一深度值方差；其中，所述第一预设模型、所述第二预设模型和所述第三预设模型为所述预设方差计算模型的子模型。

3.根据权利要求2所述的方法，其特征在于，所述根据所述第二深度值方差和第三预设模型，计算所述第一深度值方差，包括：

按照预设邻域范围和预设遍历步长，确定所述第T帧的每一个像素点对应的相邻像素点；

根据所述相邻像素点和所述第二深度值方差，以及所述第三预设模型，计算所述第一深度值方差。

4.根据权利要求1所述的方法，其特征在于，所述根据所述第一深度值方差和预设方差阈值，确定所述第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点，包括：

将所述第一深度值方差大于所述预设方差阈值的像素点确定为所述第一像素点；

将所述第一深度值方差小于或等于所述预设方差阈值的像素点确定为所述第二像素点。

5.根据权利要求3所述的方法，其特征在于，所述根据与所述第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定所述第一像素点对应的第二深度值之前，所述方法还包括：

从所述相邻像素点中获取所述第一像素点对应的第一相邻像素点；

在所述第一相邻像素点中查找属于所述第二像素点的所述第三像素点。

6.一种终端，其特征在于，所述终端包括：处理器、存储器以及通信总线；

所述通信总线用于实现所述处理器和所述存储器之间的连接通信；

所述处理器用于执行所述存储器中存储的深度图修复程序，以实现以下步骤：

在第T时间帧，根据预设景深计算策略，获取T个连续帧中每一帧的每一个像素点对应的第一深度值，T为大于等于2的自然数；根据所述第一深度值和预设方差计算模型，确定所述T个连续帧中第T帧的每一个像素点对应的第一深度值方差；根据所述第一深度值方差和预设方差阈值，确定所述第T帧中表征为异常点的第一像素点，以及表征为非异常点的第二像素点；根据与所述第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定所述第一像素点对应的第二深度值；其中，所述第三像素点属于所述第二像素点；将所述第一像素点对应的第一深度值更新为所述第二深度值。

7.根据权利要求6所述的终端，其特征在于，所述处理器具体用于执行所述深度图修复程序，以实现以下步骤：

根据所述第一深度值和第一预设模型，计算所述第T帧的每一个像素点对应的平均第一深度值；根据所述平均第一深度值、所述第一深度值和第二预设模型，计算所述第T帧的每一个像素点对应的第二深度值方差；根据所述第二深度值方差和第三预设模型，计算所述第一深度值方差：按照预设邻域范围和预设遍历步长，确定所述第T帧的每一个像素点对应的相邻像素点；根据所述相邻像素点和所述第二深度值方差，以及所述第三预设模型，计算所述第一深度值方差；其中，所述第一预设模型、所述第二预设模型和所述第三预设模型为所述预设方差计算模型的子模型。

8.根据权利要求6所述的终端，其特征在于，所述处理器具体用于执行所述深度图修复程序，以实现以下步骤：

将所述第一深度值方差大于所述预设方差阈值的像素点确定为所述第一像素点；将所述第一深度值方差小于或等于所述预设方差阈值的像素点确定为所述第二像素点。

9.根据权利要求7所述的终端，其特征在于，所述处理器在根据与所述第一像素点相邻的第三像素点对应的第一深度值，以及预设深度值计算模型，确定所述第一像素点对应的第二深度值之前，还用于执行所述深度图修复程序，以实现以下步骤：

从所述相邻像素点中获取所述第一像素点对应的第一相邻像素点；在所述第一相邻像素点中查找属于所述第二像素点的所述第三像素点。

10.一种计算机可读存储介质，其特征在于，应用于终端，所述计算机可读存储介质存储有深度图修复程序，所述深度图修复程序可被处理器执行，以实现权利要求1-5所述的方法。