CN102812709A - 压缩彩色图像采样和重建的方法和系统 - Google Patents

压缩彩色图像采样和重建的方法和系统 Download PDF

Info

Publication number
CN102812709A
CN102812709A CN2010800609630A CN201080060963A CN102812709A CN 102812709 A CN102812709 A CN 102812709A CN 2010800609630 A CN2010800609630 A CN 2010800609630A CN 201080060963 A CN201080060963 A CN 201080060963A CN 102812709 A CN102812709 A CN 102812709A
Authority
CN
China
Prior art keywords
data
random
produce
filter
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2010800609630A
Other languages
English (en)
Other versions
CN102812709B (zh
Inventor
M·辛格
T·辛格
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Publication of CN102812709A publication Critical patent/CN102812709A/zh
Application granted granted Critical
Publication of CN102812709B publication Critical patent/CN102812709B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Input (AREA)
  • Facsimile Heads (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

一种用于压缩彩色图像采样和重构的方法。接收数据的样本集,该数据通过变换并采样空间基上的原始图像的光学性质而产生,其中所产生的变换在该空间基上大致为对角的。将压缩传感重构技术应用于该样本数据上以产生一组推测的原始图像数据。数据处理设备被适配为接收这种数据的样本集并将压缩传感重构技术应用于该样本数据从而产生一组推测的原始图像数据。在一个优选实施方案中,成像系统使用滤色阵列(CFA),其中色彩是随机或伪随机地排列在图像传感器上的。利用压缩传感稀疏方案搜索技术从该传感器数据和CFA模型来推测图像。所推测的图像的分辨率比通过当前的基于CFA的方案利用具有相同数量传感器元件的传感器可获得的分辨率更高。

Description

压缩彩色图像采样和重建的方法和系统
相关申请
本申请基于并要求在2009年11月20日提交的美国临时专利申请第61/262,923号的权益,该专利申请通过引用以其全文结合在此。
技术领域
本发明的实施方案涉及在成像过程中进行压缩采样的系统和方法。
背景技术
传统的采样
数字信号分析要求将模拟信号转换为离散于作为第一个步骤。这由采样定理来控制,采样定理通常规定必须以奈奎斯特速率或高于奈奎斯特速率对模拟信号进行采样,奈奎斯特速率可以被定义为模拟信号的最高频率分量的二倍。对于高带宽信号,高采样率相应地对采集系统施加了重负载。
传统的彩色成像
可以认为本文的图像是模拟信号,该信号的幅度表示某种光学性质,例如强度、颜色和极化,这种光学性质可以在空间上变化,但在相关测量期间在时间上不会发生很大程度变化。在彩色成像中,典型地光强度由光敏传感器元件进行检测。传统的图像传感器典型地由这些独立传感器元件的二维规则镶嵌组成。彩色成像系统需要在至少三个基色上对图像进行采样,以便合成一幅彩色图像。我们使用术语“基色”是指主要颜色、辅助颜色或形成色彩空间的任意适合选择的色彩集合,在该色彩空间中成像系统表示该图像。色彩感测可以通过各种装置来实现,例如像(a)将图像分为三个完全相同的拷贝,分别将每一个拷贝过滤为基色,并且利用独立的图像传感器来感测它们中的每一个,或者(b)使用一个旋转过滤盘将利用这些基色中的每一个过滤的图像依次传送到相同的图像传感器上。
然而,获取彩色图像的最常用的设计是使用覆盖一个滤色阵列(“CFA”)的一个单一传感器。这包括直接的设计,其中每个输出像素的值由三个传感元件来确定,每个元件用于每一个基色,通常这些传感元件排列在水平或垂直条带上。
其他CFA设计,包括名称为彩色成像阵列的Bayer美国专利3,971,065中描述的一种常用的设计,使用主要以有规律的、重复的模式排列的不同颜色的滤光片。所有这些系统依赖于称为去马赛克的处理,也称为内插演算法,以便在每个像素位置上重构三个基色。传统的去马赛克算法典型地包括使用利用例如插值技术,像双线性、解调以及滤波和边缘自适应算法。传统的去马赛克算法只有在基色中图像的对应于细节的高频进行相关时或在至少一个方向上具有低的高频能量时才有效。在不具有这些高频特性时,重构的图像呈现出伪影。随机CFA也在Condat的“具有良好光谱特性的滤色阵列的模式(Random patternsfor color filter arrays with good spectral properties)”(德国慕尼黑,2008年9月,第08-25号,Helmholtz Zentrum Munchen,IBB的研究报告)中进行了研究,但其中的重构也依赖于传统的去马赛克。同样,重构的图像除了被随机渲染得在视觉上较差外,还呈现出了去马赛克伪影。
信号压缩
图像压缩典型地应用在数字图像获取之后,以减少传输和存储过程中的系统数据加载。图像压缩是基于自然图像和很多合成图像在某些基上是近似稀疏的观察。这种基包括傅里叶相关基,例如JPEG和小波采用的离散余弦变换(“DCT”),它们依赖于经验上观察的自然图像的分层自相似并且构成了JPEG2000压缩方法的基础。
广义传感
如果待采样的信号在某些基上是稀疏的,则以奈奎斯特速率进行采样在资源利用上效率较低。已经做出了很多尝试来解决这种稀疏性以降低采样率。一些技术采用了结合信号的期望结构的先验知识的限制性信号模型来减少需要估计的参数的数量。自适应多尺度感测使用信号的期望多尺度结构的先验知识。这种技术虽然在减少所需的测量次数上十分有效,但受到连续测量要求的影响,在对快速移动的目标进行成像时并不需要这种特性。
压缩传感
最近已经开发了一种新的被称为“压缩传感”的降速率采样方案。压缩传感重构技术的目标是通过被称为“稀疏性提升”的正则化方案来解决病态逆问题的方案。本文的病态逆问题涉及从一个原始信号的一种变换的采样数据集来重构该信号,其中该变换是不可逆的。稀疏性提升使用某些基上的原始信号的稀疏性的现有统计知识,以便择优地搜索在该基上同样近似稀疏的病态逆问题的解决方案。参见Candes等人的“鲁棒性测不准原理:由高度不完整的频率信息重构精确的信号(Robust uncertainty principles:Exact signal reconstruction fromhighly incomplete frequency information)”(IEEE Trans.on Information Theory,52(2),第489-509页,2006年2月),该论文通过引用以其全文结合在此。它们表明在一个样本基上原始信号的非自适应样本的减少的数量不足以恢复具有较少信息丢失或无信息丢失的信号,该样本基与原始信号在其上是稀疏的基不相干。这里的非相干性是两个基之间的非相似性的一种测量方法;更精确地说,它是来自两个单独基的任意一对基矢量的内积的最大幅度。参见Candes和Romberg的压缩采样中的稀疏性和非相干性(Sparsity and incoherence incompressive sampling)(Inverse Problems,23(3),第969-985页,2007)他们推导了基之间的不相干性与需要以高概率精确重构原始信号所需要的样本数量之间的逆关系。压缩传感技术因此通过逻辑可维持性和物理概率的联合最大化从欠定系统的方程中重构原始信号。
最初认为要求计算禁止组合搜索的L0范数最小化可能是需要的。显而易见的是,后来表明计算上更易于处理的线性计算方法也能起作用。这种方法在已知观察所约束的稀疏基上最小化了重构的L1范数。
已经提出了压缩传感中用于解逆问题的几种公式,包括“基追赶”以及约束和无约束凸二次规划。参见Figueiredo等人的“稀疏重构的梯度投影:应用于压缩传感和其他逆问题(Gradient pfojection for sparse reconstruction:Application to compressed sensing and other inverse problems)”(IEEE Journal onselected topics in Signal Processing,2007年),该文献通过引用以其全文结合在此。
一个公式由无约束凸优化问题组成:
min x | | y - Ax | | 2 2 + τ | | x | | 1 方程式(1)
其中x是稀疏基上的解,该解被栅格化为一个单一的尺度矢量,y是所观测的图像,也进行了栅格化,并且A是转换矩阵,该矩阵表示从稀疏到空间域的基变化。x是稀疏表示,相比于y它具有更少的元素。第一项罚与所观察图像的偏差,而第二项是L1范数,该范数已经被表示用于罚更稀疏的解。τ控制两个惩罚项的相对权重。
约束凸优化问题公式也存在,该公式最小化第一或第二项,同时将其他项约束在一个阈值以下。
正交匹配追踪(“OMP”)及其很多变化形式,例如同时正交匹配追踪、阶段匹配追踪、扩展匹配追踪、稀疏匹配追踪以及顺序稀疏匹配追踪,形成了快速获取近似解的一类常用的算法。已经表明总变差(“TV”)最小化可以产生改进的重构。参见Candes等人的“从随机投影恢复实际信号(Practical signalrecovery from random projections)”(IEEE Trans,Signal Processing,2005年),该文献通过引用以其全文结合在此。还有另一类重构算法受到去噪方法的启发,并且该算法在变换域中包括迭代阈值。后来的进展继续进一步改善重构质量并降低计算负担。
压缩传感是信息可扩展的,也就是说即便只有很少的样本用来进行精确重构,但可以根据测量的数量来提取不同等级的信息。
本文所用的“压缩传感”表示基于原始信号的转换的样本利用某些基上原始信号的近似稀疏性的先验统计知识来重构信号以便择优地搜索病态逆问题的解,这些样本在该基上也是近似稀疏的。
有很多稀疏性提升解算子可以利用。以下列出了一些著名的解算子。
GPSR:它利用梯度投影算法来解有界约束二次规划公式。这在Figueiredo、Nowak、Wright的“稀疏重构的梯度投影:应用于压缩传感和其他逆问题(Gradient projection for sparse reconstruction:Application to compressed sensingand other inverse problems)”(IEEE Journal on selected topics in Signal Processing,2007年)中进行了描述,该文献通过引用以其全文结合在此,并且该文献可以在http://www.lx.it.pt/~mtf/GPSR/上找到。
l1-Magic:它解“线性规划”或二阶“锥规划”公式。该方法目前可以在http://www.acm.caltech.edu/l1magic上找到或可以向作者Emmanuel Candes(斯坦福大学数学系,450Serra Mall,Bldg,380)索要得到。
稀疏性:它包含很多算法,这些算法包括几种OMP的变化形式。目前可以在http://www.personal.soton.ac.uk/tb1m08/sparsify/sparsify.html上找到它。
l1_ls:它利用内点法解方程(1)的凸二次规划公式。目前可以在http://www.stanford.edu/~boyd/l_1ls/上找到它。
压缩成像
不幸的是,将压缩传感应用于成像已经受到一些缺陷的影响。实现任意采样基以达到与任何特定稀疏基的不相干要求每个测量是所有像素值的线性组合。由于采集所有的像素值并计算它们的线性组合会无法实现压缩传感的目的,因此已经发展一些技术,这些技术在感光单元感测之前的光域或在数字化之前的模拟电域向一个任意基进行投影。
在这种技术中,在一个不同基上的投影是利用数字镜像装置(“DMD”)来完成的,并且多个样本要连续地获取。参见Duarte等人的“通过压缩采样进行单像素成像(Single-pixel imaging via compres sive sampling)”(IEEE SignalProcessing Magazine,25(2),第83-91页,2008年3月)。连续测量是实时成像中不需要的一种特性。除此以外,DMD的附加成本是合理的,只要在传感器成本上有较大的节约。这有时对在可见谱边界之外进行测量的传感器是这种情况,但典型地对可见谱本身不是这种情况。
在光域中向一个任意基进行投影的其他技术包括利用微光机械装置或双折射结构将图像重复若干次并在测量之前对每个复本有区别地进行滤波。参见Brady的名称为压缩成像编码(CODING FOR COMPRESSIVE IMAGING)的美国专利7,532,772。尽管这些技术不要求连续测量,但光处理在很大程度上增加了成本。而且,它们不捕获彩色图像。
在Jacques,L、Vandergheynst、P.,Bibet,A.、Majidzadeh,V.、Schmid,A.,以及Leblebici,Y.的“由随机卷积进行CMOS压缩成像(CMOS compressedimaging by Random Convolution)”(IEEE International Conference on Acoustics,Speech and Signal Processing(ICASSP),4月19-24日,2009)中讨论了另一种技术,该技术通过使各种传感器元件的输出相互电连接而在采样步骤本身中进行图像的随机卷积,从而有效地在不同于空间基的基上采样。这对在空间基上的非对角变换产生了影响。除了在硬件上进行卷积的专用硬件成本外,这种方案受到必须进行连续测量的不利条件的影响。
因此,需要一种方法和系统,以计算上可行的、实用的并且经济的方式在图像处理中使用压缩传感。
发明内容
本发明提供了一种处理图像的方法。在该方法中,接收数据的样本集,该数据通过变换并采样一个空间基上的原始图像的光学性质而产生,其中所产生的变换在该空间基上大致为对角的。一种压缩传感重构技术应用于该数据样本集上以产生一组推测的原始图像数据。
另外,可以提供具有多个光敏传感器元件的一个图像传感器,连同提供具有多个转换元件的一个光转换装置,该多个元件响应于该光性质,其中由该光转换装置所产生的变换在该空间基上大致为对角的。在这种情况中,图像投影到该光转换装置上,并且这些转换元件对该原始图像的光学响应在该图像传感器上感测以便产生数据的样本集。
本发明还提供了一种处理图像的系统。该系统包括一个数据处理设备,该设备被适配为接收数据的样本集,该数据通过变换并采样一个空间基上的原始图像的光学性质而产生,其中所产生的变换在该空间基上大致为对角的。然后将一种压缩传感重构技术应用于该数据样本集以产生一组推测的原始图像数据。
该系统可以进一步包括一个图像传感器,该图像传感器具有多个光敏传感器元件;一个光转换装置,该光转换装置具有响应于该光学性质的多个转换元件,其中由该光学转换装置产生的转换在该空间基上大致为对角的;以及一个光成像装置,该光成像装置被适配为将该图像投影到该光转换装置上,该图像传感器针对该光转换装置进行设置,以便接收在其所对应的光敏元件上该转换元件对该图像的光学响应,从而产生该数据样本集。
本发明的一个优选实施方案将随机或伪随机排列的一个滤色阵列与基于压缩传感的一种图像重构技术相结合,该技术在每种色彩上获得的有限图像分辨率相同于利用相同数量的传感器元件的一种单色图像传感器。
应当理解的是,本概述用作总体上确定附图和详细描述中将要阐述的内容,并且不用于限制本发明的范围。考虑以下的详细描述并结合附图将很容易理解本发明的目的、特征和优点。
附图说明
图1的流程图示出了根据本发明的一个优选实施方案的一种利用压缩采样对彩色图像进行采样和重构的方法。
图2是根据本发明的一个优选实施方案的一个彩色成像系统的示意图。
图3是根据本发明的一个优选实施方案的一个滤色阵列的图示。
图4是根据本发明的一个优选实施方案的利用压缩采样进行彩色图像采样和重构仿真(以Matlab执行)的结果。
图5列出了用于产生随机滤色阵列的一部分Matlab代码,该阵列适于在本发明的一个优选实施方案中使用。
具体实施方式
为了克服现有的压缩成像方法和系统的局限性,本发明使用空间基直接作为采样基。这种直接空间采样不同于先前提到的现有的图像采样技术,因为除了别的之外它在应用一个转换之后对图像进行采样,例如色彩过滤,这种转换在空间基上基本上是对角的,也就是说在每个位置上的转换的值只依赖于在该位置上的原始图像,不依赖于基本上从其移除的位置上的原始图像,以便实现测量和稀疏基之间的不相干。这种方式运行良好,因为空间基始终与傅里叶基高度不相干,在傅里叶基中自然信号是近似稀疏的。这种选择还不会受到先前提到的必须顺序进行多个测量的缺陷的影响,而是同时获得所有测量,每个测量仅仅是一个独立传感器元件的输出。需要注意的是,影响变换的光元件(例如光低通滤波器)在空间基是非对角的,但原始图像-我们计划利用压缩传感技术重构的图像-在本文定义为使用这种滤波器后产生的图像。而且这种元件不用于非相干增强的目的。
在单色图像传感器的情况中,选择具有较少传感器元件(以规则模式排列)的传感器阵列的简单设计不会提供压缩传感的优点:这种图像传感器的最大空间频率受到它们的奈奎斯特频率的限制。超出奈奎斯特极限的频率无法进行推测,因为这些频率在空间测量基上的随机投影不能与它们的镜像随机投影相区分。相反,关闭了一些随机或伪随机选择的传感器元件的一个正常单色图像传感器仍可以提供足够的信息以全分辨率来重构图像,质量损失很小或无损失。尽管这种做法不会导致传感器区域的减少,但它会降低读出速率。这构成了本发明的一个实施方案。
本发明的优选实施方案在上述的单色图像传感器中使用稀疏传感器元件以将三个基色包封在一个图像传感器(具有与单色图像传感器数量相同的传感器元件)中并如同单色传感器一样仍然在每种色彩中获得同样限制的分辨率。基色中的每一个中随机排列的数量大致相等的滤色元件用于对基色进行多路传输。
另一个实施方案使用全色滤色元件,其中每一个元件在所有基色中可变程度上是透光的。这里,随机地选择色彩构成,而不仅仅是它们的分配。然而,这种CFA比基色中的CFA更难于制造。
另一个实施方案使用基色的过滤器,但具有不用的透射率,或增加具有一些非基色或透明过滤器的CFA。这样做可增强所得传感器的灵敏度或动态范围。
图1中示出了说明压缩成像的一种优选方法的流程图。在步骤110,为CFA提供了随机或伪随机安排的色彩。(如本文所用,术语“随机地”被解释为包括伪随机以及随机。)在步骤120,入射图像通过这种CFA进行过滤。在步骤130,过滤的图像由一个图像传感器在一个独立的测量周期中进行检测。在步骤140,全分辨率图像从图像传感器输出和使用压缩传感稀疏信号重构技术的CFA模式进行重构。
图2示出了根据本发明的一个优选实施方案的一个成像系统的示意图。图像210由透镜220聚焦到光变换装置上,具体地是CFA 230(如本文所用,术语“光转换装置”表示一种装置,例如固定色彩滤光片或空间光调制器,它基于图像的一个或多个光特性将光图像从一个状态转换到另一个状态)。过滤的图像由图像传感器240进行检测。所得到的多个感测的过滤图像强度值发送到执行图1算法的处理器250,在其中进行全分辨率图像重构。
图3示出了根据本发明一个优选实施方案的示例性CFA 310。在这种实例中,数量几乎相等的红、绿和蓝(统称“RGB”)滤光片以随机模式分布。
进行了一个Matlab仿真,其中产生了具有数量几乎相等的红、绿和蓝滤光片(以随机化模式排列)的CFA。产生这种CFA的Matlab代码示于图5中。原始彩色图像通过这种CFA进行过滤,一定数量的白噪声加到过滤的图像上并在所得的图像传感器输出上进行重构。二维离散余弦变换(“DCT”)基用作稀疏基。GPSR解算子用于进行信号重构。GPSR解算子解以上所示的方程(1)的公式,方法是将它转换为一个等价的有界约束二次规划公式,然后使用梯度投影算法来解它,本领域中熟练技术人员将会理解。仿真产生了一幅彩色图像,该图像在每个色彩上的分辨率与具有相同数量传感器元件的传统单色传感器产品获得的分辨率相同,尽管图像质量略微有些损失。进行这种仿真的Matlab代码列在本发明的详细描述的最后。
图4示出了这种仿真的结果。图像410是原始彩色图像。图像420是经过示例性随机RGB滤光片过滤后的原始图像。图像430是重构的全分辨率彩色图像。本文提供灰度级的彩色图像。
图5列出了本发明的一个简单实施方案的仿真中所使用的Matlab代码。用于产生CFA的Matlab代码对本领域熟练技术人员而言利用GPSR解算子足以产生这些结果。Matlab是美国马萨诸塞州纳蒂克的Math Works公司的产品。
本压缩传感成像设计能够在图像获取层面上进行整合压缩。这降低了焦平面的数据传输要求-该焦平面是光场与数字化数据之间的界面-并且能够降低图像传感器设计上的感光单元计算。这还能够产生低功率、低带宽的图像传感器设计。
如前所述,本发明使用空间基作为测量基,利用它与自然图像的稀疏基的非相干性来有效地实现压缩传感。这能够减少需要用于在每个色彩上重构图像的样本,进而允许共同多路传输三个色彩上的采样。可以采用重构技术的各种修改形式来增强此系统,以提高图像质量。
三个基色上图像间的相关性可用于在一个联合基上表示图像,在该基上自然图像比合成图像更稀疏。参见Nagesh等人的“彩色图像的压缩成像(Compressive imaging of color images)”(IEEE Int.Conf.on Acoustics,Speechand Signal Processing(ICASSP),台北,台湾,2009年4月),该文献通过引用以其全文结合在此。联合基在稀疏基中将基色上的图像重构为所有色彩公用的一部分和色彩专用部分。
如前所提及,TV最小化产生了比仅使用L1最小化更好的结果。TV是基于梯度的平滑功能。参见Candes等人的“从随机投影恢复实际信号(Practicalsignal recovery from random projections)”(IEEE Trans.Signal Processing,2005),该文献通过引用以其全文结合在此(IBR)。总变差最小化在S.Becker、J.Bobin以及E.J.Candès的“NESTA:一种用于稀疏恢复的快速精确的一阶方法(NESTA:a fast and accurate first-order method for sparse recovery)”,In Press,SIAM J.onImaging Sciences描述的NESTA解算子中实现,该文献通过引用以其全文结合在此,目前可在http://www.acm.caltech.edu/~nesta/上找到或向作者索要。
常规的去马赛克图像可以用作解算子的起始点。用于随机CFA模式的这种去马赛克可以利用不同方法来实施,这些方法包括在Condat的“具有良好光谱特性的滤色阵列的随机模型(Random patterns for color filter arrays with goodspectral properties)”(德国慕尼黑,2008年9月,第08-25号,Helmholtz ZentrumMunchen,IBB的研究报告)中描述的方法,IBR,该方法通过引用以其全文结合在此,并且在lukac等人的“利用RGB滤色片阵列对管道进行成像的通用去马赛克处理(Universal demosaicing for imaging pipelines with a RGB color filterarray)”(模式识别,卷38,第2208-2212页,2005年)中进行了描述,该文献通过引用以其全文结合在此。利用这些作为重构图像的起始点可以加速重构处理,并且在一些实施方式中可能提高重构本身的质量。去马赛克图像还可以用作在重构全分辨率图像之前的图像预览。
可以使用其他CFA模式。这些模式可以基于不同的色彩空间,即,使用不同的基色集,而不是红、绿和蓝三原色。
可以使用具有不等数量基色的CFA模式。例如就像在Bayer CFA中所做的,使用两倍的绿色站作为红色或蓝色。这种不对称有助于降低噪声。
可以使用具有某种色彩分配限制的CFA模式,例如在Condat的“具有良好光谱特性的滤色阵列的随机模型(Random patterns for color filter arrays withgood spectral properties)”(德国慕尼黑,2008年9月,第08-25号,HelmholtzZentrum Munchen,IBB的研究报告)中讨论的那些,该文献通过引用以其全文结合在此。这种限制可以帮助避免相同颜色的滤光片元件的过分聚集,同时仍保持CFA模式的随机特征。
其他的小波基、分形基或曲波基或它们的组合可以用作稀疏基。当选择稀疏基时,选择一个基(在该基上自然图像更为稀疏)的优点必须与该基与空间测量基的低不相干性的可能缺点相平衡。利用多贝西小波代替二维DCT基作为稀疏基的实验产生了视觉上相似的重构。
传感器读取受到热源和电源的泊松光量子击中噪声和高斯噪声的影响。重构算法(包括用于这些分配的对数似然罚项)可以更精确地抽取原始的无噪声信号。SPIRAL(在Zachary T.Harmany、Roummel F.Marcia以及Rebecca M.Willett的“这是SPIRAL-TAP:稀疏泊松强度重构算法一理论和实践(This isSPIRAL-TAP:Sparse Poisson Intensity Reconstruction ALgorithms--Theory andPractice)”(已提交至IEEE Transactions on Image Processing)中描述并且目前可以从http://people.ee.duke.edu/~zth/software/找到或向作者索要,该文献通过引用以其全文结合在此)是这样一种解算子,除了稀疏提升L1和总变差项外,它可以使用基于泊松分布的负对数似然的罚项。
统计上与自然图像相联系的另一种约束是更大尺度上的较大小波系数的似然性。如果将小波选作稀疏基,这可以在重构处理上发挥作用。类似地,在自然和大部分合成图像的傅立叶变化上较低频率的很大幅度的增强似然性在重构处理中也可以发挥作用。
在亮度或色度或两者的降低的限定分辨率或者一个或多个基色的降低的限定分辨率上的图像重构可以产生更好的图像质量。
本发明不仅可以用于静态成像而且还可以用于视频。除了简单推广至多帧之外,还可以使用进行多帧的联合重构(发挥它们的相关性)。
除可见光谱中的彩色图像之外,本发明还可以用在几何约束限制多光谱图像传感器系统的其他情况中。本发明允许多光谱采样被折叠成需要更小孔径的较小传感器,而无需增加获取时间。
对损坏或故障传感器元件,本发明提供了较强的免受图像质量降低的能力。这可以用于提高传感器产量:特点是不需要丢弃具有一些受损传感器元件的图像传感器。
本发明可用在图像扫描器中。
本发明可以用于在不同数量的维度上获取多光谱图像,包括一维和三维。
以下的Matlab代码用于产生图4所示的仿真结果。
Figure BDA00001865148200131
Figure BDA00001865148200141
Figure BDA00001865148200151
实施方案、替代实施方案以及具体实例的上述描述通过图解的形式给出并且不应被视为是限制。另外,本实施方案的范围内的很多变化和修改形式可以在不偏离其精神的前提下做出,并且本发明包括这些变化和修改形式。
前述说明书中已经使用的术语和表达式在其中用作描述的术语而非限制,并且在使用这些术语和表达式时,无意排除所示的和所描述的特征的等同体或它们的一部分,应当认识到本发明的范围仅由后续的权利要求书来定义和限制。

Claims (28)

1.一种用于处理图像的方法,包括:
接收数据的样本集,该数据通过变换并采样空间基上的原始图像的光学性质而产生,其中所产生的变换在该空间基上大致为对角的;并且
将一种压缩传感重构技术应用于该数据样本集上以产生一组推测的原始图像数据。
2.如权利要求1所述的方法,进一步包括:
提供一个具有多个光敏传感器元件的图像传感器;
提供一个光转换装置,该装置具有响应于该光学性质的多个转换元件,其中由该光学转换装置实现的转换在该空间基上大致为对角的;
将该图像投影到该光转换装置上;并且
在该图像传感器上感测该转换元件对该原始图像的光学响应,以产生该数据样本集。
3.如权利要求2所述的方法,其中提供一个光转换装置包括提供一个具有多个滤光元件的滤光阵列。
4.如权利要求3所述的方法,其中提供一个滤光阵列包括提供至少两组该滤光元件,该两组滤光元件对色彩呈现出不同的响应。
5.如权利要求4所述的方法,其中提供一个滤光元件包括以满足至少一个预定的分配条件的随机色彩模式来排列它们。
6.如权利要求3所述的方法,其中该滤光阵列装配有响应于几个基色之一的多个滤光元件,这些滤光元件以随机色彩模式来排列,并且在所有基色上产生推测的原始图像数据。
7.如权利要求6所述的方法,其中该滤光阵列装配有多个滤光元件,这些滤光元件与大致上所有传感器阵列元件具有一对一的关系,每个滤光元件响应于这些基色之一,这些滤光元件以满足至少一个预定的分配条件的随机色彩模式排列,并且在所有基色上产生推测的原始图像数据。
8.如权利要求3所述的方法,其中该滤光阵列装配有多个响应于随机组成的全色彩的滤光元件,这些滤光元件以随机模式排列,并且沿着一个适当彩色空间的所有轴线来产生推测的图像数据。
9.如权利要求3所述的方法,其中该滤光阵列装配有随机排列的透光或不透光滤光元件的模型。
10.如权利要求2所述的方法,其中该图像传感器的传感器元件中的一个或多个是有缺陷的。
11.如权利要求2所述的方法,其中数据的多个顺序样本集从所产生的相应推测的原始图像数据的多个顺序集中产生。
12.如权利要求1所述的方法,其中该光学性质是以随机色彩模式采样的若干色彩之一的强度,并且在所有基色上产生推测的原始图像数据。
13.如权利要求1所述的方法,其中该光学性质是以随机色彩模式采样的若干色彩之一的强度,并且对于每一个推测的原始图像数据元素,沿着一个适当的色彩空间的所有轴线产生推测的原始图像数据。
14.如权利要求1所述的方法,其中该光学性质是强度。
15.一种用于处理图像的系统,包括:
一个数据处理设备,该设备被适配为:
接收数据的样本集,该数据通过变换并采样空间基上的原始图像的光学性质而产生,其中所产生的变换在该空间基上大致为对角的;并且
将压缩传感重构技术应用于该数据样本集上以产生一组推测的原始图像数据。
16.如权利要求15所述的方法,进一步包括:
一个图像传感器,该图像传感器具有多个光敏传感器元件;
一个光转换装置,该光转换装置具有响应于该光学性质的多个转换元件,其中由该光学转换装置产生的转换在该空间基上大致为对角的;以及
一个光成像装置,该光成像装置被适配为将该图像投影到该滤光阵列上,该图像传感器针对该光转换装置而布置,以便接收在其所对应的光敏元件上这些转换元件对该图像的光学响应,从而产生该数据样本集。
17.如权利要求16所述的系统,其中该光转换装置包括一个具有多个滤光元件的滤光阵列。
18.如权利要求17所述的系统,其中至少两组滤光元件对色彩呈现出不同的响应。
19.如权利要求18所述的系统,其中这些滤光元件以满足至少一个预定的分配条件随机色彩模式来排列。
20.如权利要求17所述的系统,其中这些滤光元件响应于若干基色之一并以随机色彩模式排列,并且在所有基色上产生推测的原始图像数据。
21.如权利要求20所述的系统,其中这些滤光元件与大致上所有传感器阵列元件具有一对一的关系,每个滤光元件响应于有限数量色彩之一并且以满足至少一个预定的分配条件的随机色彩模式排列,并且在所有基色上产生推测的原始图像数据。
22.如权利要求17所述的系统,其中这些滤光元件响应于随机组成的全色彩并且以随机的模式排列,并且沿着一个适当彩色空间的所有轴线来产生推测的图像数据,该色彩空间对应于每个传感器元件。
23.如权利要求17所述的系统,其中该滤光元件是随机排列的透光或不透光滤光元件。
24.如权利要求16所述的系统,其中该图像传感器的传感器元件中的一个或多个是有缺陷的。
25.如权利要求16所述的系统,其中该传感器产生数据的多个顺序样本集,该处理设备从该样本集产生相应推测的原始图像数据的多个顺序集。
26.如权利要求15所述的系统,其中该光学性质是以满足至少一个预定的分配条件的随机色彩模式采样的若干色彩之一的强度,并且该数据处理里设备被适配为在所有基色上产生推测的原始图像数据。
27.如权利要求15所述的系统,其中该光学性质是以满足至少一个预定的分配条件的随机色彩模式采样的有限数量的全色彩之一的强度,,并且对于每一个推测的原始图像数据元素,沿着一个适当的色彩空间的所有轴线产生推测的原始图像数据。
28.如权利要求15所述的系统,其中该光学性质是强度。
CN201080060963.0A 2009-11-20 2010-11-20 压缩彩色图像采样和重建的方法和系统 Expired - Fee Related CN102812709B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US26292309P 2009-11-20 2009-11-20
US61/262,923 2009-11-20
PCT/US2010/057541 WO2011063311A2 (en) 2009-11-20 2010-11-20 Method and system for compressive color image sampling and reconstruction

Publications (2)

Publication Number Publication Date
CN102812709A true CN102812709A (zh) 2012-12-05
CN102812709B CN102812709B (zh) 2015-11-25

Family

ID=44060381

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080060963.0A Expired - Fee Related CN102812709B (zh) 2009-11-20 2010-11-20 压缩彩色图像采样和重建的方法和系统

Country Status (7)

Country Link
US (1) US8761525B2 (zh)
EP (1) EP2502423A2 (zh)
JP (1) JP2013511924A (zh)
KR (1) KR20120106762A (zh)
CN (1) CN102812709B (zh)
CA (1) CA2781534A1 (zh)
WO (1) WO2011063311A2 (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106485760A (zh) * 2016-09-30 2017-03-08 电子科技大学 一种基于最小插值误差平方和的彩色图像下采样方法
CN106507065A (zh) * 2015-09-08 2017-03-15 松下知识产权经营株式会社 拍摄装置、拍摄系统、图像生成装置及滤色器
CN106575035A (zh) * 2014-06-25 2017-04-19 雷蒙特亚特特拉维夫大学有限公司 用于光场成像的系统和方法
CN108243331A (zh) * 2016-12-27 2018-07-03 松下知识产权经营株式会社 图像生成装置及拍摄装置
CN108696728A (zh) * 2017-03-29 2018-10-23 松下知识产权经营株式会社 图像生成装置及拍摄装置
CN109792511A (zh) * 2016-06-30 2019-05-21 交互数字Ce专利控股公司 用于更丰富颜色采样的全光子孔径视图滑移

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9118797B2 (en) * 2009-11-20 2015-08-25 Tripurari Singh Method and system for robust and flexible extraction of image information using color filter arrays
US8849002B2 (en) 2010-07-07 2014-09-30 The Board Of Trustees Of The Leland Stanford Junior University Noise robust decoder for multiplexing readout channels on an imaging sensor array
US9195501B2 (en) * 2011-07-12 2015-11-24 Qualcomm Incorporated Instruction culling in graphics processing unit
CN103404234B (zh) 2012-03-05 2016-05-25 英派尔科技开发有限公司 用于控制照明设备的操作的方法和照明系统
US8983198B2 (en) 2012-03-22 2015-03-17 The Charles Stark Draper Laboratory, Inc. Compressive sensing with local geometric features
US9613285B2 (en) 2012-03-22 2017-04-04 The Charles Stark Draper Laboratory, Inc. Compressive sensing with local geometric features
WO2013142767A1 (en) * 2012-03-22 2013-09-26 GARDINER, Brian Compressive sensing with local geometric features
CN102801984B (zh) * 2012-07-31 2016-04-20 陶霖密 彩色图像传感器及获取彩色数字图像的方法
CN103208134A (zh) * 2013-03-08 2013-07-17 西安交通大学 一种基于压缩传感的闪光照相客体三维重构方法
EP3022536B1 (en) 2013-07-14 2022-09-07 B.G. Negev Technologies and Applications Ltd., at Ben-Gurion University Compressive sensing spectroscopic method and device using thin-layered devices
US9300865B2 (en) * 2014-01-24 2016-03-29 Goodrich Corporation Random imaging
WO2015154033A1 (en) 2014-04-04 2015-10-08 The Arizona Board Of Regents On Behalf Of The University Of Arizona Compressive sensing systems and related methods
JP2017526910A (ja) 2014-07-24 2017-09-14 エコール・ポリテクニーク・フェデラル・ドゥ・ローザンヌ (ウ・ペ・エフ・エル)Ecole Polytechnique Federale De Lausanne (Epfl) 撮像分光法用のコンパクトな多機能システム
JP6595161B2 (ja) * 2014-07-31 2019-10-23 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、画像処理方法、及び、撮像装置
JP6478579B2 (ja) * 2014-11-20 2019-03-06 キヤノン株式会社 撮像ユニット、撮像装置、及び画像処理システム
US9615022B2 (en) * 2014-12-11 2017-04-04 Conduent Business Services, Llc High-resolution imaging devices using low-resolution sensors and compressive sensing exploiting joint sparsity
JP6373221B2 (ja) * 2015-04-03 2018-08-15 日本電信電話株式会社 画像投影装置、方法、及びプログラム
US9743024B2 (en) 2015-07-01 2017-08-22 Massachusetts Institute Of Technology Method and apparatus for on-chip per-pixel pseudo-random time coded exposure
JP2017139742A (ja) 2016-02-02 2017-08-10 パナソニックIpマネジメント株式会社 撮像装置、撮像システム、撮像方法及びプログラム
US10048413B2 (en) * 2016-06-07 2018-08-14 Goodrich Corporation Imaging systems and methods
JP6655790B2 (ja) 2016-06-16 2020-02-26 パナソニックIpマネジメント株式会社 撮像装置及び撮像システム
CN107798345B (zh) * 2017-10-20 2020-11-20 西北工业大学 基于块对角与低秩表示的高光谱伪装目标检测方法
US11539424B2 (en) * 2019-08-27 2022-12-27 Samsung Electronics Co., Ltd System and method for providing channel recovery for angle domain sparse channels
CN111912392A (zh) * 2019-12-09 2020-11-10 南开大学 一种基于轮转式滤光片的无人机用轻型光谱成像装置
CN113824903B (zh) * 2021-08-11 2022-12-02 西安电子科技大学 一种基于压缩感知技术的图像数据传输系统
CN116074484A (zh) * 2023-01-15 2023-05-05 山东产研卫星信息技术产业研究院有限公司 一种CMOS卫星影像的Bayer色彩重建方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070268391A1 (en) * 2001-12-28 2007-11-22 Nikon Corporation Electronic camera for producing quickview images
CN101202293A (zh) * 2006-12-13 2008-06-18 和舰科技(苏州)有限公司 图像传感器及其制造方法
WO2008129553A1 (en) * 2007-04-24 2008-10-30 Optical Compressed Sensing Method and system for compressed imaging

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5751243A (en) * 1990-10-29 1998-05-12 Essex Corporation Image synthesis using time sequential holography
JP4027441B2 (ja) * 1995-12-18 2007-12-26 オリンパス株式会社 カラー画像撮像装置
US7030917B2 (en) * 1998-10-23 2006-04-18 Hewlett-Packard Development Company, L.P. Image demosaicing and enhancement system
WO2004102958A1 (en) 2003-05-13 2004-11-25 Xceed Imaging Ltd. Optical method and system for enhancing image resolution
US7532772B2 (en) * 2004-07-20 2009-05-12 Duke University Coding for compressive imaging
US7283231B2 (en) 2004-07-20 2007-10-16 Duke University Compressive sampling and signal inference
EP1880524B1 (en) 2005-04-21 2013-10-30 William Marsh Rice University Method and apparatus for compressive imaging device
US8139130B2 (en) * 2005-07-28 2012-03-20 Omnivision Technologies, Inc. Image sensor with improved light sensitivity
US7928893B2 (en) * 2006-04-12 2011-04-19 William Marsh Rice University Apparatus and method for compressive sensing radar imaging
FR2917559B1 (fr) * 2007-06-12 2009-12-25 Centre Nat Rech Scient Capteur d'images numeriques,procede d'acquisition et de reconstruction d'images,et systeme de mise en oeuvre
US8325988B2 (en) * 2008-03-03 2012-12-04 California Institute Of Technology Image reconstruction by position and motion tracking
US7688068B2 (en) * 2008-05-06 2010-03-30 General Electric Company System and method for using parallel imaging with compressed sensing
US8259198B2 (en) * 2009-10-20 2012-09-04 Apple Inc. System and method for detecting and correcting defective pixels in an image sensor

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070268391A1 (en) * 2001-12-28 2007-11-22 Nikon Corporation Electronic camera for producing quickview images
CN101202293A (zh) * 2006-12-13 2008-06-18 和舰科技(苏州)有限公司 图像传感器及其制造方法
WO2008129553A1 (en) * 2007-04-24 2008-10-30 Optical Compressed Sensing Method and system for compressed imaging

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
LAURENT CONDAT: "Random Patterns For Color Filter Arrays With Good Spectral Properties", 《RESEARCH REPORT OF THE IBB》, 30 June 2008 (2008-06-30), pages 1 - 3 *
LU GAN: "Block Compressed Sensing Of Natural Images", 《PROC. OF THE 2007 15TH INTL. CONF. ON DIGITAL SIGNAL PROCESSING》, 31 December 2007 (2007-12-31), pages 403 - 404 *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106575035A (zh) * 2014-06-25 2017-04-19 雷蒙特亚特特拉维夫大学有限公司 用于光场成像的系统和方法
CN106575035B (zh) * 2014-06-25 2020-09-11 技术创新动力基金(以色列)有限合伙公司 用于光场成像的系统和方法
CN106507065A (zh) * 2015-09-08 2017-03-15 松下知识产权经营株式会社 拍摄装置、拍摄系统、图像生成装置及滤色器
CN106507065B (zh) * 2015-09-08 2020-07-28 松下知识产权经营株式会社 拍摄装置、拍摄系统、图像生成装置及滤色器
CN109792511A (zh) * 2016-06-30 2019-05-21 交互数字Ce专利控股公司 用于更丰富颜色采样的全光子孔径视图滑移
US10931936B2 (en) 2016-06-30 2021-02-23 Interdigital Ce Patent Holdings Plenoptic sub aperture view shuffling for a richer color sampling
CN109792511B (zh) * 2016-06-30 2021-10-12 交互数字Ce专利控股公司 用于更丰富颜色采样的全光子孔径视图滑移
CN106485760A (zh) * 2016-09-30 2017-03-08 电子科技大学 一种基于最小插值误差平方和的彩色图像下采样方法
CN106485760B (zh) * 2016-09-30 2019-05-14 电子科技大学 一种基于最小插值误差平方和的彩色图像下采样方法
CN108243331A (zh) * 2016-12-27 2018-07-03 松下知识产权经营株式会社 图像生成装置及拍摄装置
CN114189665A (zh) * 2016-12-27 2022-03-15 松下知识产权经营株式会社 图像生成装置及拍摄装置
CN108696728A (zh) * 2017-03-29 2018-10-23 松下知识产权经营株式会社 图像生成装置及拍摄装置

Also Published As

Publication number Publication date
EP2502423A2 (en) 2012-09-26
WO2011063311A2 (en) 2011-05-26
KR20120106762A (ko) 2012-09-26
WO2011063311A3 (en) 2011-09-29
CA2781534A1 (en) 2011-05-26
US8761525B2 (en) 2014-06-24
JP2013511924A (ja) 2013-04-04
CN102812709B (zh) 2015-11-25
US20110142339A1 (en) 2011-06-16

Similar Documents

Publication Publication Date Title
CN102812709A (zh) 压缩彩色图像采样和重建的方法和系统
Oh et al. Do it yourself hyperspectral imaging with everyday digital cameras
Hu et al. Convolutional sparse coding for RGB+ NIR imaging
CN106575035A (zh) 用于光场成像的系统和方法
US20140063314A1 (en) System And Method Of Video Compressive Sensing For Spatial-Multiplexing Cameras
Sadeghipoor et al. A novel compressive sensing approach to simultaneously acquire color and near-infrared images on a single sensor
Parmar et al. Spatio-spectral reconstruction of the multispectral datacube using sparse recovery
KR20190036459A (ko) 인공 지능을 이용한 초분광 영상 재구성 방법 및 장치
KR20190036442A (ko) 인공 지능을 이용한 초분광 영상 재구성 방법 및 장치
Abdelhamed et al. Leveraging the availability of two cameras for illuminant estimation
CN109682476A (zh) 一种利用自适应编码孔径进行压缩高光谱成像的方法
US20160286097A1 (en) Methods and System for Sparse Blue Sampling
Nguyen et al. Multi-mask camera model for compressed acquisition of light fields
US20180122046A1 (en) Method and system for robust and flexible extraction of image information using color filter arrays
EP2550808A2 (en) Method and system for robust and flexible extraction of image information using color filter arrays
Wang et al. A linear interpolation algorithm for spectral filter array demosaicking
Le Guludec et al. Deep light field acquisition using learned coded mask distributions for color filter array sensors
KR102434554B1 (ko) 공동 희소성을 활용하는 저 해상도 센서들 및 압축 감지를 사용하는 고 해상도 이미징 디바이스들
JP7415464B2 (ja) 映像処理装置、映像処理方法およびプログラム
Cai et al. DMDC: Dynamic-mask-based dual camera design for snapshot Hyperspectral Imaging
Huang et al. High-fidelity hyperspectral snapshot of physical world: System architecture, dataset and model
Galvis-Carreno Coded aperture design in compressive spectral imaging
Fan Super-resolution using regularized orthogonal matching pursuit based on compressed sensing theory in the wavelet domain
Brorsson Compressive Sensing: Single Pixel SWIR Imaging of Natural Scenes
Li Super-resolution using regularized orthogonal matching pursuit based on compressed sensing theory in the wavelet domain

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20151125

Termination date: 20161120

CF01 Termination of patent right due to non-payment of annual fee