CN106651776B - 图像修补方法和图像修补装置 - Google Patents

图像修补方法和图像修补装置 Download PDF

Info

Publication number
CN106651776B
CN106651776B CN201510717939.4A CN201510717939A CN106651776B CN 106651776 B CN106651776 B CN 106651776B CN 201510717939 A CN201510717939 A CN 201510717939A CN 106651776 B CN106651776 B CN 106651776B
Authority
CN
China
Prior art keywords
image
block
repaired
pixel
missing block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201510717939.4A
Other languages
English (en)
Other versions
CN106651776A (zh
Inventor
李马丁
夏思烽
刘家瑛
郭宗明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University
Original Assignee
Peking University
Peking University Founder Group Co Ltd
Beijing Founder Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University, Peking University Founder Group Co Ltd, Beijing Founder Electronics Co Ltd filed Critical Peking University
Priority to CN201510717939.4A priority Critical patent/CN106651776B/zh
Publication of CN106651776A publication Critical patent/CN106651776A/zh
Application granted granted Critical
Publication of CN106651776B publication Critical patent/CN106651776B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了一种图像修补方法和图像修补装置,其中,图像修补方法,包括:确定待修补图像中包含有未知像素点的至少一个缺失块;对于所述至少一个缺失块中的任一缺失块,聚类得到所述任一缺失块的相似块,以形成由所述任一缺失块聚类得到的类;根据由所述任一缺失块聚类得到的类,构成具有低秩性质的矩阵;采用核范数逼近所述矩阵的秩,并采用奇异值阈值的方法对所述矩阵进行求解;根据对所述矩阵求解后的值,对所述待修补图像中的所述任一缺失块进行修补。本发明的技术方案提高了对图像中缺失块修补的准确性,有效地实现了对缺失块的图像进行修补的目的。

Description

图像修补方法和图像修补装置
技术领域
本发明涉及图像处理技术领域,具体而言,涉及一种图像修补方法和一种图像修补装置。
背景技术
图像修补的目的是将含有残缺部分的图像尽可能恢复到原始的样子。在自然图像中普遍存在自相似性,比如重复的图案和结构等,这些自相似性包含了一些互补的信息,对于图像修补有很大的帮助。
在图像修补领域中,错误隐藏这种方法正被广泛地研究,错误隐藏方法主要利用图像/视频的自相似性或者时间/空间上的关联来对图像进行处理。一种传统的错误隐藏方法是利用贝叶斯模型来估计图像中的缺失像素,在给定一个损坏的图像后,通过已有的像素来最大化未知像素的条件概率。Besag等人将贝叶斯模型应用于后验概率,然后通过先验概率来达到一个最优值。然而,先验概率模型往往不够精确甚至无法获得。在假设图像能够被局部建模为平稳高斯过程的情况下,Li和Orchard等人通过估计一个局部窗口的协方差来描述局部插值的系数从而提出了一个方向自适应的插值方案。但是,这个假设对图像不一定成立。
最近,低秩矩阵/张量最小化的方法因为其通过稀少信息恢复数据的良好效果而受到关注,许多矩阵/张量修补的方法被提出来以重建丢失了像素的图像。对于那些有高度可重复性结构而丢失率很高的图像,这些方法有着很好的效果,但对其它图像这些方法的效果并不理想,也就是说这些方法仅对低秩的图像有良好的修复效果。Chen等人提出了一种修补丢失信息同时捕获潜在结构的方法,但是这种方法复杂度过高。Liu和Shang等人在张量核范数模型中引入了矩阵因子分解以得到一个规模更小的矩阵核范数最小化问题。不同于全局低秩,Ono等人提出了一个模块低秩的修复模型。Nguyen等人结合了非局部的图像块的群和低秩张量近似。Dong等人针对自然图像中的非局部相似性建模提出了一个低秩的方法并讨论它和同步稀疏编码的关系。然而,以上这些方法收集到的相似块之间可能不够相似,从而导致图像修复不成功。
因此,如何能够有效地对图像中的缺失块进行修补成为亟待解决的技术问题。
发明内容
本发明正是基于上述技术问题至少之一,提出了一种新的图像修补方案,提高了对图像中缺失块修补的准确性,有效地实现了对缺失块的图像进行修补的目的。
有鉴于此,本发明提出了一种图像修补方法,包括:确定待修补图像中包含有未知像素点的至少一个缺失块;对于所述至少一个缺失块中的任一缺失块,聚类得到所述任一缺失块的相似块,以形成由所述任一缺失块聚类得到的类;根据由所述任一缺失块聚类得到的类,构成具有低秩性质的矩阵;采用核范数逼近所述矩阵的秩,并采用奇异值阈值的方法对所述矩阵进行求解;根据对所述矩阵求解后的值,对所述待修补图像中的所述任一缺失块进行修补。
在该技术方案中,在对图像中的缺失块进行修补时,针对任一缺失块,可以聚类得到任一缺失块的相似块,并建立一个低秩最小化模型(即具有低秩性质的矩阵)来恢复丢失区域,而在解决难解的低秩最小化模型时,本发明采用核范数逼近矩阵的秩以简化这个模型的求解,并在具体求解中应用到了奇异值阈值的方法,提高了对缺失块修补的准确性,有效地实现了对缺失块的图像进行修补的目的。
在上述技术方案中,优选地,聚类得到所述任一缺失块的相似块的步骤,具体包括:对所述待修补图像进行多层下采,以得到多个下采图像;在所述待修补图像和所述多个下采图像中聚类得到所述任一缺失块的相似块。
在该技术方案中,通过对待修补图像进行多层下采,以在待修补图像和多个下采图像中聚类得到任一缺失块的相似块,使得能够在待修补图像和多个下采图像中找到足够数量的相似块,以实现对图像进行修复的目的。其中,可以采用最近邻下采样的方法对待修补图像进行多层下采。
在上述任一技术方案中,优选地,在所述待修补图像和所述多个下采图像中聚类得到所述任一缺失块的相似块的步骤之前,还包括:
在对所述待修补图像进行多层下采的过程中,若所述下采图像中包含有丢失的像素点,则判断是否能够在进行下采操作前的图像中找到与所述下采图像中丢失的像素点对应的像素点周围未丢失的像素点;在判定能够找到所述未丢失的像素点时,通过所述未丢失的像素点的均值对所述下采图像中丢失的像素点进行初始化;以及在判定不能够找到所述未丢失的像素点时,通过双线性插值的方法对所述下采图像中丢失的像素点进行初始化。
在该技术方案中,对下采图像中丢失的像素点进行的初始化过程具体是对下采图像中丢失的像素点进行预先的修补过程。
在上述任一技术方案中,优选地,聚类得到所述任一缺失块的相似块的步骤,具体包括:在所述待修补图像中聚类得到所述任一缺失块的相似块。
在上述任一技术方案中,优选地,根据对所述矩阵求解后的值,对所述待修补图像中的所述任一缺失块进行修补的步骤,具体包括:将所述矩阵求解后得到的块放置在所述任一缺失块所在的区域,以对所述任一缺失块进行修补。
其中,在将矩阵求解后得到的块放置在任一缺失块所在的区域后,若存在缺失块重叠的位置,则在缺失块重叠覆盖的位置,可以根据该位置处重叠的像素块的数量来计算均值进行修补。
根据本发明的另一方面,还提出了一种图像修补装置,包括:确定单元,用于确定待修补图像中包含有未知像素点的至少一个缺失块;聚类单元,用于对于所述至少一个缺失块中的任一缺失块,聚类得到所述任一缺失块的相似块,以形成由所述任一缺失块聚类得到的类;矩阵生成单元,用于根据由所述任一缺失块聚类得到的类,构成具有低秩性质的矩阵;处理单元,用于采用核范数逼近所述矩阵的秩,并采用奇异值阈值的方法对所述矩阵进行求解;修补单元,用于根据所述处理单元对所述矩阵求解后的值,对所述待修补图像中的所述任一缺失块进行修补。
在该技术方案中,在对图像中的缺失块进行修补时,针对任一缺失块,可以聚类得到任一缺失块的相似块,并建立一个低秩最小化模型(即具有低秩性质的矩阵)来恢复丢失区域,而在解决难解的低秩最小化模型时,本发明采用核范数逼近矩阵的秩以简化这个模型的求解,并在具体求解中应用到了奇异值阈值的方法,提高了对缺失块修补的准确性,有效地实现了对缺失块的图像进行修补的目的。
在上述任一技术方案中,优选地,所述聚类单元包括:采样单元,用于对所述待修补图像进行多层下采,以得到多个下采图像;执行单元,用于在所述待修补图像和所述多个下采图像中聚类得到所述任一缺失块的相似块。
在该技术方案中,通过对待修补图像进行多层下采,以在待修补图像和多个下采图像中聚类得到任一缺失块的相似块,使得能够在待修补图像和多个下采图像中找到足够数量的相似块,以实现对图像进行修复的目的。其中,可以采用最近邻下采样的方法对待修补图像进行多层下采。
在上述任一技术方案中,优选地,还包括:判断单元,用于在对所述待修补图像进行多层下采的过程中,若所述下采图像中包含有丢失的像素点,则判断是否能够在进行下采操作前的图像中找到与所述下采图像中丢失的像素点对应的像素点周围未丢失的像素点;初始化单元,用于在所述判断单元判定能够找到所述未丢失的像素点时,通过所述未丢失的像素点的均值对所述下采图像中丢失的像素点进行初始化,并用于在所述判断单元判定不能够找到所述未丢失的像素点时,通过双线性插值的方法对所述下采图像中丢失的像素点进行初始化。
在上述任一技术方案中,优选地,所述聚类单元具体用于:在所述待修补图像中聚类得到所述任一缺失块的相似块。
在上述任一技术方案中,优选地,所述修补单元具体用于:将所述矩阵求解后得到的块放置在所述任一缺失块所在的区域,以对所述任一缺失块进行修补。
其中,在将矩阵求解后得到的块放置在任一缺失块所在的区域后,若存在缺失块重叠的位置,则在缺失块重叠覆盖的位置,可以根据该位置处重叠的像素块的数量来计算均值进行修补。
通过以上技术方案,提高了对图像中缺失块修补的准确性,有效地实现了对缺失块的图像进行修补的目的。
附图说明
图1示出了根据本发明的一个实施例的图像修补方法的示意流程图;
图2示出了根据本发明的实施例的图像修补装置的示意框图;
图3示出了根据本发明的另一个实施例的图像修补方法的示意流程图。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是,本发明还可以采用其他不同于在此描述的其他方式来实施,因此,本发明的保护范围并不受下面公开的具体实施例的限制。
图1示出了根据本发明的一个实施例的图像修补方法的示意流程图。
如图1所示,根据本发明的一个实施例的图像修补方法,包括:
步骤102,确定待修补图像中包含有未知像素点的至少一个缺失块;
步骤104,对于所述至少一个缺失块中的任一缺失块,聚类得到所述任一缺失块的相似块,以形成由所述任一缺失块聚类得到的类;
步骤106,根据由所述任一缺失块聚类得到的类,构成具有低秩性质的矩阵;
步骤108,采用核范数逼近所述矩阵的秩,并采用奇异值阈值的方法对所述矩阵进行求解;根据对所述矩阵求解后的值,对所述待修补图像中的所述任一缺失块进行修补。
在该技术方案中,在对图像中的缺失块进行修补时,针对任一缺失块,可以聚类得到任一缺失块的相似块,并建立一个低秩最小化模型(即具有低秩性质的矩阵)来恢复丢失区域,而在解决难解的低秩最小化模型时,本发明采用核范数逼近矩阵的秩以简化这个模型的求解,并在具体求解中应用到了奇异值阈值的方法,提高了对缺失块修补的准确性,有效地实现了对缺失块的图像进行修补的目的。
在上述技术方案中,优选地,聚类得到所述任一缺失块的相似块的步骤,具体包括:对所述待修补图像进行多层下采,以得到多个下采图像;在所述待修补图像和所述多个下采图像中聚类得到所述任一缺失块的相似块。
在该技术方案中,通过对待修补图像进行多层下采,以在待修补图像和多个下采图像中聚类得到任一缺失块的相似块,使得能够在待修补图像和多个下采图像中找到足够数量的相似块,以实现对图像进行修复的目的。其中,可以采用最近邻下采样的方法对待修补图像进行多层下采。
在上述任一技术方案中,优选地,在所述待修补图像和所述多个下采图像中聚类得到所述任一缺失块的相似块的步骤之前,还包括:
在对所述待修补图像进行多层下采的过程中,若所述下采图像中包含有丢失的像素点,则判断是否能够在进行下采操作前的图像中找到与所述下采图像中丢失的像素点对应的像素点周围未丢失的像素点;在判定能够找到所述未丢失的像素点时,通过所述未丢失的像素点的均值对所述下采图像中丢失的像素点进行初始化;以及在判定不能够找到所述未丢失的像素点时,通过双线性插值的方法对所述下采图像中丢失的像素点进行初始化。
在该技术方案中,对下采图像中丢失的像素点进行的初始化过程具体是对下采图像中丢失的像素点进行预先的修补过程。
在上述任一技术方案中,优选地,聚类得到所述任一缺失块的相似块的步骤,具体包括:在所述待修补图像中聚类得到所述任一缺失块的相似块。
在上述任一技术方案中,优选地,根据对所述矩阵求解后的值,对所述待修补图像中的所述任一缺失块进行修补的步骤,具体包括:将所述矩阵求解后得到的块放置在所述任一缺失块所在的区域,以对所述任一缺失块进行修补。
其中,在将矩阵求解后得到的块放置在任一缺失块所在的区域后,若存在缺失块重叠的位置,则在缺失块重叠覆盖的位置,可以根据该位置处重叠的像素块的数量来计算均值进行修补。
图2示出了根据本发明的实施例的图像修补装置的示意框图。
如图2所示,根据本发明的实施例的图像修补装置200,包括:
确定单元202,用于确定待修补图像中包含有未知像素点的至少一个缺失块;聚类单元204,用于对于所述至少一个缺失块中的任一缺失块,聚类得到所述任一缺失块的相似块,以形成由所述任一缺失块聚类得到的类;矩阵生成单元206,用于根据由所述任一缺失块聚类得到的类,构成具有低秩性质的矩阵;处理单元208,用于采用核范数逼近所述矩阵的秩,并采用奇异值阈值的方法对所述矩阵进行求解;修补单元210,用于根据所述处理单元208对所述矩阵求解后的值,对所述待修补图像中的所述任一缺失块进行修补。
在该技术方案中,在对图像中的缺失块进行修补时,针对任一缺失块,可以聚类得到任一缺失块的相似块,并建立一个低秩最小化模型(即具有低秩性质的矩阵)来恢复丢失区域,而在解决难解的低秩最小化模型时,本发明采用核范数逼近矩阵的秩以简化这个模型的求解,并在具体求解中应用到了奇异值阈值的方法,提高了对缺失块修补的准确性,有效地实现了对缺失块的图像进行修补的目的。
在上述任一技术方案中,优选地,所述聚类单元204包括:采样单元2042,用于对所述待修补图像进行多层下采,以得到多个下采图像;执行单元2044,用于在所述待修补图像和所述多个下采图像中聚类得到所述任一缺失块的相似块。
在该技术方案中,通过对待修补图像进行多层下采,以在待修补图像和多个下采图像中聚类得到任一缺失块的相似块,使得能够在待修补图像和多个下采图像中找到足够数量的相似块,以实现对图像进行修复的目的。其中,可以采用最近邻下采样的方法对待修补图像进行多层下采。
在上述任一技术方案中,优选地,还包括:判断单元212,用于在对所述待修补图像进行多层下采的过程中,若所述下采图像中包含有丢失的像素点,则判断是否能够在进行下采操作前的图像中找到与所述下采图像中丢失的像素点对应的像素点周围未丢失的像素点;初始化单元214,用于在所述判断单元212判定能够找到所述未丢失的像素点时,通过所述未丢失的像素点的均值对所述下采图像中丢失的像素点进行初始化,并用于在所述判断单元212判定不能够找到所述未丢失的像素点时,通过双线性插值的方法对所述下采图像中丢失的像素点进行初始化。
在上述任一技术方案中,优选地,所述聚类单元204具体用于:在所述待修补图像中聚类得到所述任一缺失块的相似块。
在上述任一技术方案中,优选地,所述修补单元210具体用于:将所述矩阵求解后得到的块放置在所述任一缺失块所在的区域,以对所述任一缺失块进行修补。
其中,在将矩阵求解后得到的块放置在任一缺失块所在的区域后,若存在缺失块重叠的位置,则在缺失块重叠覆盖的位置,可以根据该位置处重叠的像素块的数量来计算均值进行修补。
综上所述,本发明主要提出了一种新的基于多尺度块聚集和低秩最小化的错误隐藏图像修补方法,对于随机丢失像素点和有多个块状丢失区域的图像,在初始化其丢失区域后,通过建立一个低秩最小化模型来恢复丢失区域。在解决难解的低秩最小化模型时,采用核范数逼近矩阵的秩以简化这个模型的求解,而在具体求解中应用到了奇异值阈值的方法。
为实现以上目的,根据本发明的另一个实施例的图像修补方法,如图3所示,包括以下步骤:
步骤302,对原始图像的缺失部分利用邻近的已知区域进行初始化。
步骤304,对于原始图像的每一个包含未知像素点的缺失块,聚类出相似块。其中,聚类出相似块的方法主要由以下两种方法:
方法一:
对于随机丢失像素点的图像,首先用最近邻下采样的方法对原图多层下采构建金字塔。在下采的过程中,下采图像中丢失的像素点通过取那些对应的在下采前图像中环绕在其周围的未丢失的像素点的均值来初始化;如果有丢失的像素点找不到那些在下采前图像中对应在其周围的像素点,则通过双线性插值的方法对其进行初始化。然后在原始图像中找缺失块的相似块,再在金字塔其它层中寻找那些在原图中被找到的块的相似块,最终形成一个由原始缺失块聚类出来的类。
方法二:
对于有块缺失的图像直接在原图中为缺失块聚类出相似块。
步骤306,将聚类出的块用列向量表示然后连接起来,构成矩阵后构成一个低秩最小化模型。
步骤308,用核范数逼近矩阵的秩来简化模型的求解,再用奇异值阈值的方法来求解。
步骤310,求出解后将解出的块放回原来所在区域,块重叠覆盖的地方采用“像素块投票”的方法(即根据每个位置处重叠的像素块的个数和像素值计算均值)取均值后得到结果。
下面分别以对某张随机丢失像素点的自然图像和某张含有多个独立块状缺失区域的自然图像(假设每个丢失区域都是正方形)进行修复为例,对本发明的详细方法流程作进一步地描述:
1、对某张随机丢失像素点的自然图像进行修复
步骤1:对原始缺失图像的缺失部分利用邻近的已知区域进行初始化。
步骤2:对于原始图像的每一个包含未知像素点的规格为6×6的缺失块,顺序进行如下的操作:
步骤2.1:为当前缺失块进行聚类。聚类时,首先对原图采用最近邻法进行不同尺度的下采操作,即将原始图像按照不同比例进行缩小,如具体比例为0.55,0.6,0.65,0.7,0.75,0.8,0.85,0.9,0.95,再加上原图的尺度是1.0,一共得到10张不同大小的图像组成金字塔。
下采同时对丢失像素点进行初始化,具体做法是在下采的过程中,下采图像中丢失的像素点通过取那些对应地在下采前图像中环绕在其周围的未丢失的像素点的均值来初始化;如果有丢失的像素点找不到那些在下采前图像中对应在其周围的像素点,则通过双线性插值的方法对其进行初始化。
然后在原始图像中找缺失块的45个相似块,再在金字塔其它层中为前面寻找到的45个相似块各寻找五个相似块,最终形成一个由原始缺失块聚类出来的共有(1+45+45×5)=271个块的类。
步骤2.2:将步骤2.1中聚类出来的相似块表示成列向量的形式然后连接起来,这样组成了矩阵M。
然后构造出了低秩最小化的模型:
其中X表示恢复了的矩阵,Ω表示矩阵中对应已知像素的位置。
由于求解上式是非常难的,因此可以使用核范数逼近矩阵的秩来简化求解,得到这样的模型:
其中σi(X)是矩阵X第i大的奇异值,然后对矩阵M进行奇异值分解,将奇异值中小于阈值的忽略掉,即假设对M进行奇异值分解有:
M=UΣVT,
则有:
Sτ(M)=UΣτVT,
其中,Στ=diag(max(σ(M)-τ,0)),
σ(M)表示M的奇异值,
这里σm是图像的像素缺失率,ε是一个很小的数,用来防止除以0的情况,n是M中相似块的数量。
步骤2.3:求解出Sτ(M)后将解得的块放回图像中对应的位置,对于重叠区域采用“像素块投票”的方法取均值后得到结果。
步骤3:在原图中每隔四个像素点取一个缺失块,重复步骤2,直到处理完所有缺失块。
2、对某张含有块丢失的自然图像进行修复
步骤1:对原始缺失图像的缺失部分利用邻近的已知区域进行初始化。
步骤2:对于原始图像的每一个包含未知像素点的规格为16×16的缺失块,顺序进行如下的操作:
步骤2.1:为当前缺失块在原图中进行聚类。
步骤2.2:将步骤2.1中聚类出来的相似块表示成列向量的形式然后连接起来,这样组成了矩阵M。
然后构造出了低秩最小化的模型:
其中X表示恢复了的矩阵,Ω表示矩阵中对应已知像素的位置。
由于求解上式是非常难的,因此可以使用核范数逼近矩阵的秩来简化求解,得到一个这样的模型:
其中σi(X)是矩阵X第i大的奇异值。
然后对矩阵M进行奇异值分解,将奇异值中小于阈值的忽略掉,即假设对M进行奇异值分解有:
M=UΣVT,
则有:
Sτ(M)=UΣτVT,
其中,Στ=diag(max(σ(M)-τ,0)),
σ(M)表示M的奇异值,
这里σm是图像的缺失率,ε是一个很小的数,被用来防止除以0的情况,n是M中相似块的数量。
步骤2.3:求解出Sτ(M)后将解得的块放回图像中对应的位置,对于重叠区域采用“像素块投票”的方法取均值后得到结果。
步骤3:在原图中每隔四个像素点取一个缺失块,重复步骤2,直到处理完所有缺失块。
本领域技术人员需要理解的是,上述所述的以对某张随机丢失像素点的自然图像和某张含有多个独立块状缺失区域的自然图像进行修复的方案中的具体数值不作具体限定,可以根据实际情况进行设定。
以上结合附图详细说明了本发明的技术方案,本发明提出了一种新的图像修补方案,提高了对图像中缺失块修补的准确性,有效地实现了对缺失块的图像进行修补的目的。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (6)

1.一种图像修补方法,其特征在于,包括:
确定待修补图像中包含有未知像素点的至少一个缺失块;
对于所述至少一个缺失块中的任一缺失块,聚类得到所述任一缺失块的相似块,以形成由所述任一缺失块聚类得到的类;
根据由所述任一缺失块聚类得到的类,构成具有低秩性质的矩阵;
采用核范数逼近所述矩阵的秩,并采用奇异值阈值的方法对所述矩阵进行求解;
根据对所述矩阵求解后的值,对所述待修补图像中的所述任一缺失块进行修补;
聚类得到所述任一缺失块的相似块的步骤,具体包括:
对所述待修补图像进行多层下采,以得到多个下采图像;
在所述待修补图像和所述多个下采图像中聚类得到所述任一缺失块的相似块;
在所述待修补图像和所述多个下采图像中聚类得到所述任一缺失块的相似块的步骤之前,还包括:
在对所述待修补图像进行多层下采的过程中,若所述下采图像中包含有丢失的像素点,则判断是否能够在进行下采操作前的图像中找到与所述下采图像中丢失的像素点对应的像素点周围未丢失的像素点;
在判定能够找到所述未丢失的像素点时,通过所述未丢失的像素点的均值对所述下采图像中丢失的像素点进行初始化;以及
在判定不能够找到所述未丢失的像素点时,通过双线性插值的方法对所述下采图像中丢失的像素点进行初始化。
2.根据权利要求1所述的图像修补方法,其特征在于,聚类得到所述任一缺失块的相似块的步骤,具体包括:
在所述待修补图像中聚类得到所述任一缺失块的相似块。
3.根据权利要求1或2所述的图像修补方法,其特征在于,根据对所述矩阵求解后的值,对所述待修补图像中的所述任一缺失块进行修补的步骤,具体包括:
将所述矩阵求解后得到的块放置在所述任一缺失块所在的区域,以对所述任一缺失块进行修补。
4.一种图像修补装置,其特征在于,包括:
确定单元,用于确定待修补图像中包含有未知像素点的至少一个缺失块;
聚类单元,用于对于所述至少一个缺失块中的任一缺失块,聚类得到所述任一缺失块的相似块,以形成由所述任一缺失块聚类得到的类;
矩阵生成单元,用于根据由所述任一缺失块聚类得到的类,构成具有低秩性质的矩阵;
处理单元,用于采用核范数逼近所述矩阵的秩,并采用奇异值阈值的方法对所述矩阵进行求解;
修补单元,用于根据所述处理单元对所述矩阵求解后的值,对所述待修补图像中的所述任一缺失块进行修补;
所述聚类单元包括:
采样单元,用于对所述待修补图像进行多层下采,以得到多个下采图像;
执行单元,用于在所述待修补图像和所述多个下采图像中聚类得到所述任一缺失块的相似块;
判断单元,用于在对所述待修补图像进行多层下采的过程中,若所述下采图像中包含有丢失的像素点,则判断是否能够在进行下采操作前的图像中找到与所述下采图像中丢失的像素点对应的像素点周围未丢失的像素点;
初始化单元,用于在所述判断单元判定能够找到所述未丢失的像素点时,通过所述未丢失的像素点的均值对所述下采图像中丢失的像素点进行初始化,并用于在所述判断单元判定不能够找到所述未丢失的像素点时,通过双线性插值的方法对所述下采图像中丢失的像素点进行初始化。
5.根据权利要求4所述的图像修补装置,其特征在于,所述聚类单元具体用于:
在所述待修补图像中聚类得到所述任一缺失块的相似块。
6.根据权利要求4或5所述的图像修补装置,其特征在于,所述修补单元具体用于:
将所述矩阵求解后得到的块放置在所述任一缺失块所在的区域,以对所述任一缺失块进行修补。
CN201510717939.4A 2015-10-29 2015-10-29 图像修补方法和图像修补装置 Expired - Fee Related CN106651776B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510717939.4A CN106651776B (zh) 2015-10-29 2015-10-29 图像修补方法和图像修补装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510717939.4A CN106651776B (zh) 2015-10-29 2015-10-29 图像修补方法和图像修补装置

Publications (2)

Publication Number Publication Date
CN106651776A CN106651776A (zh) 2017-05-10
CN106651776B true CN106651776B (zh) 2019-08-30

Family

ID=58830812

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510717939.4A Expired - Fee Related CN106651776B (zh) 2015-10-29 2015-10-29 图像修补方法和图像修补装置

Country Status (1)

Country Link
CN (1) CN106651776B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108124102B (zh) * 2017-12-28 2020-10-13 北京小米移动软件有限公司 图像处理方法、装置及计算机可读存储介质
CN113222858A (zh) * 2021-06-01 2021-08-06 山东贝特建筑项目管理咨询有限公司 一种锚栓图像的图像修复方法和系统

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103729831B (zh) * 2014-01-21 2017-04-05 中国科学院地理科学与资源研究所 遥感厚云去除方法及其装置
CN104680487A (zh) * 2015-01-21 2015-06-03 浙江大学 基于低秩矩阵恢复的非局部图像修复方法
CN104952051B (zh) * 2015-07-07 2017-10-24 西安电子科技大学 基于高斯混合模型的低秩图像修复方法

Also Published As

Publication number Publication date
CN106651776A (zh) 2017-05-10

Similar Documents

Publication Publication Date Title
CN108520503B (zh) 一种基于自编码器和生成对抗网络修复人脸缺损图像的方法
Zhou et al. Adversarial Single‐Image SVBRDF Estimation with Hybrid Training
CN103093444B (zh) 基于自相似性和结构信息约束的图像超分辨重建方法
CN110163813A (zh) 一种图像去雨方法、装置、可读存储介质及终端设备
Deng et al. Noisy depth maps fusion for multiview stereo via matrix completion
CN101964117A (zh) 一种深度图融合方法和装置
CN111476249A (zh) 多尺度大感受野卷积神经网络的构建方法
CN111179196B (zh) 一种基于分而治之的多分辨率深度网络图像去高光方法
CN104715504A (zh) 一种鲁棒的大场景稠密三维重建方法
Gao et al. IELAS: An ELAS-based energy-efficient accelerator for real-time stereo matching on FPGA platform
CN109801323A (zh) 具有自我提升能力的金字塔双目深度估计模型
CN106651776B (zh) 图像修补方法和图像修补装置
CN110570402A (zh) 基于边界感知神经网络的双目显著物体检测方法
CN111080521A (zh) 一种基于结构先验的人脸图像超分辨率方法
CN104112286A (zh) 基于几何结构特征和自相似性的图像压缩感知重构方法
CN110223243A (zh) 基于张量的非局部自相似和低秩正则的张量修复方法
CN116485802B (zh) 一种绝缘子闪络缺陷检测方法、装置、设备及存储介质
CN111260706B (zh) 一种基于单目相机的稠密深度图计算方法
CN104917532A (zh) 人脸模型压缩方法
CN117392568A (zh) 一种复杂场景下无人机巡检变电设备的方法
Takahashi et al. Rank minimization approach to image inpainting using null space based alternating optimization
Singh et al. Critical Electrical Infrastructure Segmentation in Arctic Conditions
CN115984949A (zh) 一种带有注意力机制的低质量人脸图像识别方法及设备
CN114882203B (zh) 一种用于电力电网巡检机器人的图像超分辨率重建方法
Martinec et al. 3d reconstruction by gluing pair-wise euclidean reconstructions, or" how to achieve a good reconstruction from bad images"

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20220630

Address after: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee after: Peking University

Patentee after: New founder holdings development Co.,Ltd.

Patentee after: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

Address before: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee before: Peking University

Patentee before: PEKING UNIVERSITY FOUNDER GROUP Co.,Ltd.

Patentee before: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20230323

Address after: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee after: Peking University

Address before: 100871 No. 5, the Summer Palace Road, Beijing, Haidian District

Patentee before: Peking University

Patentee before: New founder holdings development Co.,Ltd.

Patentee before: BEIJING FOUNDER ELECTRONICS Co.,Ltd.

TR01 Transfer of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20190830

CF01 Termination of patent right due to non-payment of annual fee