CN101142614A - 使用各向异性滤波的单通道图像变形系统和方法 - Google Patents

使用各向异性滤波的单通道图像变形系统和方法 Download PDF

Info

Publication number
CN101142614A
CN101142614A CNA2004800439475A CN200480043947A CN101142614A CN 101142614 A CN101142614 A CN 101142614A CN A2004800439475 A CNA2004800439475 A CN A2004800439475A CN 200480043947 A CN200480043947 A CN 200480043947A CN 101142614 A CN101142614 A CN 101142614A
Authority
CN
China
Prior art keywords
input
output
ellipse
image
matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2004800439475A
Other languages
English (en)
Other versions
CN101142614B (zh
Inventor
弗拉德米尔·拉奇内
格雷戈里·L·史密斯
路易·李
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
IDT Co.
Silicon Optix Inc
Qualcomm Inc
Original Assignee
Silicon Optix Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Silicon Optix Inc USA filed Critical Silicon Optix Inc USA
Publication of CN101142614A publication Critical patent/CN101142614A/zh
Application granted granted Critical
Publication of CN101142614B publication Critical patent/CN101142614B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T3/18
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • CCHEMISTRY; METALLURGY
    • C07ORGANIC CHEMISTRY
    • C07KPEPTIDES
    • C07K14/00Peptides having more than 20 amino acids; Gastrins; Somatostatins; Melanotropins; Derivatives thereof
    • C07K14/435Peptides having more than 20 amino acids; Gastrins; Somatostatins; Melanotropins; Derivatives thereof from animals; from humans
    • C07K14/575Hormones
    • C07K14/60Growth-hormone releasing factors (GH-RF) (Somatoliberin)
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/205Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
    • H04N5/208Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61KPREPARATIONS FOR MEDICAL, DENTAL OR TOILETRY PURPOSES
    • A61K48/00Medicinal preparations containing genetic material which is inserted into cells of the living body to treat genetic diseases; Gene therapy

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Chemical & Material Sciences (AREA)
  • Endocrinology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Organic Chemistry (AREA)
  • Gastroenterology & Hepatology (AREA)
  • Zoology (AREA)
  • Biochemistry (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Genetics & Genomics (AREA)
  • Medicinal Chemistry (AREA)
  • Molecular Biology (AREA)
  • Proteomics, Peptides & Aminoacids (AREA)
  • Toxicology (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种在单通道数字图像变形中在扩展椭圆或矩形轨迹上进行圆形对称各向异性滤波的方法和系统。执行滤波时,首先找到并调整椭圆,该椭圆近似于输入图像空间中输出像素的映射位置处非均匀图像缩放函数。确定从该椭圆到输入图像空间中的单位圆的线性变换以计算轨迹内输入像素半径及作为该半径的函数的对应滤波器系数。在图像质量和处理速率之间进行折衷以确定轨迹形状。在一个实施例中,平滑及变形部分的轮廓被组合在一起以生成更清晰或细节增强型的输出图像。本发明的方法及系统可生成不带锯齿失真的逼真输出图像,同时可保持或增强输入图像的清晰度。

Description

使用各向异性滤波的单通道图像变形系统和方法
技术领域
本发明涉及数字图像变换中的滤波方法,更具体地说,涉及一种单通道数字图像变形系统的信号重采样中的各向异性滤波。
背景技术
数字图像基本上是数字数据的二维阵列,其中各元素表示数字化图像的像素。像素数据包括如红、绿和蓝(RGB)的各种亮度成分。显示系统根据输入的数字数据给这些不同的成分电子地分配亮度数值。然而,所显示的图像可能存在各种光学畸变和几何畸变,例如诸如枕形畸变和桶形畸变等镜头畸变、投影梯形畸变等等。补偿这些畸变的一种方法是数字图像变形,或“非均匀缩放”。图像变形可定义为一种对均匀间隔的输入图像进行动态重采样的过程,进而生成具有与输入图像不一样间距的输出图像。图像变形广泛地应用于线性缩放操作中,如放大和缩小等这些特定且简单的情况。
在图像变形系统中有两个基本步骤:空间变换和重采样。
空间变换定义为输入和输出图像的像素坐标间的映射函数。逆映射将输入图像中的坐标规定为输出图像中的坐标的函数,逆映射通常用于覆盖整个输出图像坐标空间并避免留下“空洞”。
另一方面,重采样是将一个输入像素周围的几个输入像素插入到输出图像像素中的过程。其中包括这些参与到内插过程的输入像素的邻近区域称为滤波器轨迹(footprint)。众所周知,滤波器轨迹越大,则输出图像质量越高。此外,各向异性的轨迹也可得到更高质量的输出图像。轨迹的尺寸和各向异性以及硬件执行效率之间需要一定的折衷。通过将已变形图像的空间频率在处理的输出像素周围各方向上动态地限制为奈奎斯特极限(Nyquist limit),即完成了重采样过程。
为了降低滤波所需的硬件资源,图像变形可在水平和垂直两个独立通道中进行。在这种情况下,变换必须分割(即,可分解)为具有两个正交的一维变换的序列。美国专利No.5175808、5594676和6061477均有双通道变形的实例。不过,双通道解决方案也有许多缺点。首先,并不是所有几何变换都是可分割的(瓶颈和折叠(fold over)问题)。第二,分割本身会引入几何畸变。第三,双通道滤波容易产生锯齿失真(jagging artifact),尤其在几何变换带有旋转成分的情况下。因此,有必要为2D图像变换(变形)设计一种单通道方法,从而克服双通道算法的缺点。
在多速率信号处理中,为了避免不必要的失真,数字图像的重采样过程包括下列步骤:根据其离散样本重新生成连续信号,变换该连续信号,对该连续信号进行低通滤波以消除目标图像中高于标准的奈奎斯特频率的混叠频率,以及在输出像素网格采样位置处对该经过变形的连续信号进行采样。
根据现有技术可知,理想重采样过程的这些步骤可连接为单个统一的椭圆高斯滤波器,称为椭圆加权平均[Paul S.Heckbert,”Fundamentals ofTexture Mapping and Image Warping”,master Thesis,UCB,1989]。此后,通过采用该椭圆半径的近似值,人们在降低所需存储器和时钟等的硬件资源方面做了诸多努力。
发明人为Dickie的美国专利No.6,016,152揭示了通过仿射变换逼近非均匀图像缩放的装置和方法,用于在源图像中定义椭圆。从源图像中的单位圆到源图像中的椭圆的线性变换被计算出。为了降低非一致性缩放应用中的失真,通过识别源图像中所包含的像素来确定目标图像中的像素值。
发明人为Gabriel等的美国专利No.6,005,582揭示了使用各向异性滤波的纹理映射图像的方法和系统,其中包括沿着纹理图(texture map)中的各向异性线(line of anisotropy)通过内插滤波器,并计算内插滤波器输出的加权和以计算像素的亮度值。这些输出值的加权可使用一维数字滤波器来计算。各向异性线来自于逆变换,该逆变化将几何基元表面上的点映射至纹理映射中的点。
发明人为Perry等的美国专利No.6,292,193揭示了对每像素采用多个空不变(space-invariant)滤波操作的各向异性纹理映射技术。圆形像素滤波器投影到纹理图上以定义该纹理图中的椭圆轨迹。采样点确定为位于该轨迹中的线条上,该线条近似于该椭圆的长轴。这些采样点被映射为mip-map中的细节水平和位置。通过空不变滤波器,采用mip-map内的一个或多个纹理图中的数据计算出各采样点的纹理值。采样点的这些纹理值通过高斯滤波器函数进行后滤波并进行相加以生成最终纹理值。
发明人为Lohmeyer等的欧洲专利No.EP0920671B1揭示了计算上高效的单通道数字图像变形方法,其中包括下列步骤:将输入图像的采样速率提高到奈奎斯特速率之上,利用双线性内插器等低质量内插器对上采样图像进行变形,将变形后的图像下采样为与输入图像相同的分辨率。其中,对上采样图像进行变形时,可通过修改几何变换函数将下采样和变形步骤合并为一个步骤。
然而,这些及其它现有系统由于其脉冲响应会产生单一频率响应,所以难以在混叠和锐度之间得到折衷。因此,需要一种改进的内插方法和装置,进而在数字图像变形系统中提供更灵活的滤波。
发明内容
本发明一方面提供了一种使用各向异性滤波器的单通道数字图像变形方法,用于将具有输入像素坐标空间和输入数字像素数据的输入图像变换为具有输出像素坐标空间和输出数字像素数据的输出图像,所述方法包括:
(a)为输出像素获取输入数字图像数据;
(b)将输出像素坐标映射到输入图像坐标空间,以确定映射坐标位置;
(c)确定与步骤(b)确定的映射坐标位置处的输入坐标相关的输出像素坐标的雅可比矩阵;
(d)根据步骤(c)中确定的雅可比矩阵的两个行向量确定长轴半径、短轴半径以及长轴的取向,进而唯一地确定位于步骤(b)中确定的映射坐标位置周围的椭圆;
(e)根据所需的图像质量和所需的处理速率扩展和调整所述椭圆的半径;
(f)根据步骤(e)的结果在输入图像坐标空间中确定围绕步骤(b)中所确定的所述映射坐标位置周围的轨迹,以将参与滤波的输入像素包括在所述轨迹内;
(g)将步骤(d)的椭圆变换为半径为1个单位的圆形,以便计算圆心与所包含输入像素之间的距离;
(h)从作为步骤(g)中距离的函数的圆形对称轮廓中确定轨迹中的所有输入象素的各向异性滤波器系数;
(i)通过将轨迹内的输入像素值与步骤(h)中确定的系数相累加,确定输出像素值;以及
(j)保存所述输出像素值。
本发明另一方面提供了一种使用各向异性滤波器的单通道数字图像变形系统,用于将具有输入像素坐标空间和输入数字像素数据的输入图像变换为具有输出像素坐标空间和输出数字像素数据的输出图像,所述系统包括:
(a)用于为输出像素获取输入数字图像数据的输入接口;
(b)用于将输出像素坐标映射到输入图像坐标空间以确定映射坐标位置的坐标生成器;
(c)与所述输入接口和所述坐标生成器相连的局部缩放估算器,用于确定与步骤(b)确定的映射坐标位置处的输入坐标相关的输出像素坐标的雅可比矩阵;
(d)所述局部缩放估算器进一步根据步骤(c)中确定的雅可比矩阵的两个行向量确定长轴半径、短轴半径以及长轴的取向,进而唯一地确定围绕在步骤(b)确定的映射坐标位置周围的椭圆;
(e)所述局部缩放估算器可进一步根据所需的图像质量和所需的处理速率扩展和调整所述椭圆的半径;
(f)与所述局部缩放估算器和所述坐标生成器相连的轨迹生成器,用于在输入图像坐标空间中确定围绕所述映射坐标位置的轨迹,以将参与滤波的输入像素包括在所述轨迹内;
(g)与所述轨迹生成器和所述局部缩放估算器相连的滤波器系数生成器,用于将步骤(d)的椭圆变换为半径为1个单位的圆形,以便计算圆心与所包含输入像素之间的距离;
(h)所述滤波器系数生成器进一步从作为所述距离的函数的圆形对称轮廓中确定轨迹中的所有输入象素的各向异性滤波器系数;
(i)与所述滤波器系数生成器和所述轨迹生成器相连的滤波器,用于通过将轨迹内的输入像素值进行累加来确定输出像素值;以及
(j)与所述滤波器相连的输出接口,用于保存所述输出像素值。
本发明的一个实施例提供了一种生成各向异性滤波器的圆形对称轮廓的方法,用于在图像中得到锐度和细节增强。
在本发明的一个实例中,滤波器的轨迹为椭圆形状,且由几个因子进行扩展,从而在图象质量和处理速度之间取得折衷。
在本发明的另一个实例中,为了将图像变形系统中的缓存子系统的复杂度和带宽最小化,滤波器的轨迹为固定的矩形形状。
在本发明的又一实例中,可根据局部边缘方向调整所得到的椭圆形状。
本发明的不同方面的进一步细节及其优点,将从下面的描述和附图中得到更充分的理解。
附图说明
附图中:
图1是根据本发明构建的图像变形系统优选实施例的方框图;;
图2是将输出像素从输出图象空间映射入输入图像空间中的椭圆的示意图;
图3是具有椭圆或矩形轨迹、圆形对称轮廓(circularly symmetricprofile)的非椭圆滤波器的示意图;
图4A是具有圆形对称轮廓的各向异性滤波器的二维脉冲响应的示意图;
图4B是具有圆形对称轮廓的各向异性滤波器的二维频率响应的示意图;
图5A是图1所示图像变形系统所执行的逻辑流程图;
图5B是根据本发明构建的系统实例的运行逻辑流程图,其中采用曲面拟合(surface fitting)来生成从椭圆到单位圆的线性变换的三个虚拟参数。
具体实施方式
首先如图1所示,给出了根据本发明优选实施例构建的图像变形系统100。图像变形系统100是使用圆形对称各向异性滤波的单通道数字图像变形系统。图像变形系统100包括坐标生成器112、局部缩放估算器114、轨迹生成器122、滤波器系数生成器124和滤波器126。坐标生成器112将像素坐标从输出图像空间转换到输入图像空间。局部缩放估算器114计算从被映射的输出像素内近似于非均匀图像缩放函数的椭圆到单位圆的线性变换的参数。轨迹生成器122确定要进行滤波的输入像素。滤波器系数生成器124利用圆形对称轮廓计算轨迹中输入像素的权重。最后,滤波器126计算输出像素。
图像变形系统100包括两个主要单元:几何引擎110和滤波器引擎120。几何引擎110的功能与几何变换相关。
几何引擎110包括坐标生成器112和局部缩放估算器114。坐标生成器112将输出像素的坐标映射到输入图像坐标空间上。该变换包括简单缩放到复杂变形。本领域技术人员很清楚,将输出坐标映射到输入坐标,或反向变换,都具有诸多优点,包括覆盖整个输出像素空间而不会在输出图像中留下“空洞”。
几何引擎110的另一部件是局部缩放估算器114,该估算器对于滤波器引擎120计算滤波器系数是至关重要的,将在下文进行详细描述。
局部缩放估算器114计算2×2矩阵的各元素,该矩阵决定了从椭圆到半径为1的圆形的线性变换。该变换近似于映射的输出像素位置处的非均匀图像缩放函数,该变换可基于雅可比(Jacobian)矩阵进行计算,雅可比矩阵在其各行中包括向量函数的一阶偏导数。如图2所示,雅可比矩阵是在影射的输出像素210位置处的局部映射函数的局部仿射逼近值:
J ( x , y ) = u x v x u y v y ∂ u ∂ x ( x , y ) ∂ v ∂ x ( x , y ) ∂ u ∂ y ( x , y ) ∂ v ∂ y ( x , y )
雅可比矩阵的各行形成两个向量220和230,这两个向量确定了椭圆240,具有长轴250、短轴260且长轴与水平方向间的夹角为270度。
椭圆240以基于雅可比矩阵的2×2变换矩阵为特征。由于三个参数即足以确定任意椭圆(如,两个正交半径和长轴倾角即可确定椭圆),该变换矩阵可根据下述方法计算:其中只有三个元素为非零,而第四个元素永远为零。
在本发明的一个实例中,局部缩放估算器114计算矩阵M的各元素来实现下述线性变换:
u ′ v ′ = M 00 M 01 M 10 M 11 u v
其中(u,v)是与椭圆中心相关的源像素坐标,而(u’,v’)是“椭圆空间”坐标。在椭圆空间中,椭圆内的像素坐标满足下式:
r2(u′,v′)=(u′)2+(v′)2≤1
因此,矩阵M将椭圆映射为半径为1的圆形。为了生成该矩阵,首先从雅可比矩阵中得到椭圆长轴λ1、短轴λ2以及长轴与水平方向间的夹角α1。接着,应用所有必要的半径限制条件。最后,从这三个参数中计算得到矩阵M的三个非零元素。
局部缩放估算器114利用雅可比矩阵J的各行求解下式:
Q=J-1(J-1)T
在正交的限制条件下,为矩阵J求解上式,即:
J = λ 1 0 0 λ 2 cos α 1 sin α 1 - sin α 1 cos α 1 ,
可计算得到雅可比矩阵的特征向量。在本发明的一个实例中,这是通过首先从雅可比矩阵的各元素计算下述中间变量来完成的:
A = v x 2 + v y 2 , B=-2(uxvx+uyvy), C = u x 2 + u y 2 , F=(uxvy-uyvx)2
P=A-C,Q=A+C, T = sign ( P ) P 2 + B 2
接着椭圆的正交半径的长度,即为所需的特征向量,可表示为下列值:
λ 1 = max ( 2 F Q + T , 2 F Q - T ) , λ 2 = min ( 2 F Q + T , 2 F Q - T )
最后,长轴与水平方向之间的夹角可根据下式进行计算:
Figure A20048004394700121
或者:
sin 2 α 1 = - P T cos 2 α 1 = - B T
在本发明的一个特定实例中,所得到的椭圆可根据一些因素进行扩展,从而在图像质量和处理速度方面提供更佳的灵活性。例如,如果输入和输出图像足够小,可通过某些因素增大轨迹(即,在更大区域内进行滤波)。由于二维滤波器的更佳频率响应,可以提高图像质量。另一方面,在大输入和输出图像或者较大局部缩小范围的情况下,可将轨迹降低到最小尺寸。
此外,在通过变形映射(warp map)实现局部缩小的情况下,为了限制处理像素的数目,将为λ1和λ2增加两个限制条件。第一个限制条件λmax限定了椭圆半径的最大长度,而第二个限制条件βmax限定了各向异性比率,即长轴与短轴半径之比。另外,如果λ1和λ2两者都小于预先设定的最小值,则引入第三个限制条件λmin,该限制明显地不应小于1。该最后一个限制条件确保滤波器轨迹永远不会太小以至于无法进行内插。这些限制处理可表示为下式:
λ1←cut(λmin,λ1,λmax),λ2←cut(λmin,λ2,λmax),λ1←min(λ1,λ2βmax)
在本发明的一个实例中,如果应用了这些限制条件之后,长轴和短轴半径均等于1,则表示在所有方向均存在局部扩展,椭圆的半径将根据局部边缘(local edge)的方向进行调整。短轴半径保持为1,而长轴根据边缘强度成比例扩展。
矩阵M的计算使得M10为0。这通过使椭圆在(u’,v’)空间适当旋转来实现,而不影响其半径大小。通过矩阵M映射到“椭圆空间”(u’,v’)可表示为:
M = cos θ sin θ - sin θ cos θ cos α 1 λ 1 R u sin α 1 λ 1 R u - sin α 1 λ 1 R u cos α 1 λ 2 R u
其中Ru为扩展因子。右边的矩阵将坐标空间旋转一椭圆长轴夹角角度,接着在轴向上进行非均匀缩放,进而将椭圆本身映射为单位圆。左边的矩阵提供了附加的θ度旋转。由于左边的旋转对滤波器系数的计算没有影响,所以可任意选择以使M10为0,即:
tan θ = λ 1 sin α λ 2 cos α
Figure A20048004394700132
cos θ = λ 2 cos α 1 R , whereR = λ 2 2 cos 2 α 1 + λ 1 2 sin 2 α 1
代入这些值并用β=λ12替换,最终可得到
M = 1 R u λ 1 λ 2 1 β 2 + 1 2 β - β 2 - 1 2 β cos 2 α 1 β 2 + 1 2 β - β 2 - 1 2 β cos 2 α 1 - β 2 - 1 2 β sin 2 α 1 0 1
如图3所示,椭圆轨迹330或矩形轨迹340内部的输入像素320的半径310,可认为是具有圆形对称滤波器的轮廓(脉冲响应)350的查询表中的索引。圆形对称滤波器的轮廓根据输入处理像素方向上从椭圆中心到其边缘的距离进行伸长或缩短。在该图中,λ1为长轴半径360,λ2为短轴半径370,而Ru为椭圆扩展因子。如果λ1=λ2=1,则滤波器在所有方向上进行上采样。如果λ1>1,λ2>1,则滤波器在所有方向上进行下采样。但是,如果λ1>1,λ2=1,则同时进行上采样和下采样,且在放大和缩小之间有平滑转换。
在脉冲响应内具有固定扩展因子Ru和固定的系数数量N的情况下,该圆形对称轮廓具有可变长度和可变部分带宽,具体取决于椭圆方向和形状。图4A和图4B分别给出了Ru=2和N=256情况下滤波器的二维脉冲响应和频率响应。
在各向异性椭圆滤波的情况下,滤波器引擎120至少需要5个参数来生成变形图像:将输出像素坐标映射到输入图像坐标空间的两个坐标u、v以及表示从椭圆到单位圆的线性变换的三个参数M00、M01、M11
由于对于某些空间变换而言,前两个映射可能非常复杂甚至可能没有解析形式,在本发明的一个特定实例中,这些映射可通过使用多项式的曲面拟合来逼近:
u ( x , y ) = Σ i = 0 I Σ j = 0 J a ij x i y j , v ( x , y ) = Σ i = 0 I Σ j = 0 J b ij x i y j
其中aij、bij为多项式系数,而I、J为多项式的次数(degree)。上述表达式从空间变换的物理模型中抽象得到,且是映射函数的简洁表达式。
在本发明的一个实例中,表示从椭圆到单位圆的线性变换的矩阵M中的各元素,直接从坐标多项式中实时计算得到。它们从雅可比矩阵计算得到,该矩阵的四个元素是两个坐标多项式的偏导数。
在本发明的另一实例中,为了节省计算时间,矩阵M的各元素表示为多项式拟合曲面,如下式所示:
M 00 ( x , y ) = Σ i = 0 I Σ j = 0 J c ij x i y j , M 01 ( x , y ) = Σ i = 0 I Σ j = 0 J d ij x i y j , M 11 ( x , y ) = Σ i = 0 I Σ j = 0 J e ij x i y j
其中cij、dij、eij为多项式系数,而I、J为多项式的次数。
轨迹生成器122定义了在输入图像坐标空间中围绕着输出像素的映射位置的区域,包括了用于生成输出像素数据的输入像素。在本发明的一个实例中,轨迹为基于矩阵M的所计算出的各元素的椭圆形状。该实例提供了更好的图像质量但需要更多的硬件资源。在本发明的另一实例中,轨迹为矩形形状,这是为了将像素包含的复杂度最小化,同时在输出图像质量中取得折衷。
滤波器系数生成器124可估计轨迹中所包含的输入像素的权重。在本发明的一个实例中,输入像素的权重即为其到映射到半径为1的圆上的椭圆中心的距离的函数。在该实例的特定实现中,这些权重是以硬件资源为代价以更灵活地方式动态计算得到的。在另一实现中,为了节省硬件资源,这些权重从具有预先计算的圆形对称轮廓的查询表中得到。
为了理解生成该轮廓(profile)的方法,需要注意有四种标准方法来设计二维有限脉冲响应(FIR)滤波器:开窗方法、频率采样方法、频率变换方法和最佳滤波器设计。在本发明的一个实例中,在设计圆形对称滤波器轮廓时选择了开窗方法,该方法是一维滤波器设计的直接扩展。
如果已知频率响应H(ωu,ωv),则可利用傅立叶逆变换确定滤波器h(u′,v′)的脉冲响应。可通过截取脉冲响应h(u′,v′)并将其与窗口函数w(u′,v′)相乘得到所需要的有限脉冲响应(FIR)滤波器,即hd(u′,v′)=h(u′,v′)w(u′,v′)。
图像变形的期望频率响应是圆形对称理想低通滤波器:
Figure A20048004394700151
其中π≤ωu,ωv≤π。
截止频率为ωc的滤波器的脉冲响应为 h ( u ′ , v ′ ) = ω c 2 πr ( u ′ , v ′ ) J 1 ( ω c r ( u ′ , v ′ ) ) , 其中 r ( u ′ , v ′ ) = R u ( u ′ ) 2 + ( v ′ ) 2 N = R u n N 是标准化半径,n满足0≤n<N,J1是第一类一阶贝塞尔函数。二维窗函数w(u′,v′)基于一维凯塞窗函数原型得到。通过旋转公式,设计所用的实际区域为圆形子区Ru
Figure A20048004394700154
其中I0()是第一类零阶修正贝塞尔函数,β为参数。
输出的变形图像的外观可通过强调其高频内容得到很好的改进,从而加强其边缘和细节。在本发明的一个实例中,滤波器系数生成器124采用标准线性反锐化掩膜算法来实现该目的。在该技术中,经过高通滤波的图像的一部分被添加到该图像本身内。在线性反锐化掩膜算法的一个修正版本中,当像素附近的低通滤波(平滑)信号从像素值中提取出来时,可根据下式从输入图像I(x,y)中得到增强型图像O(x,y):
O(x,y)=I(x,y)+α(I(x,y)-Is(x,y))=(1+α)I(x,y)-αIs(x,y)
其中I(x,y)和0(x,y)为输入和输出像素值,Is(x,y)为邻近区域的平滑像素值,而α为增强因子。在此,α<0表示平滑,α=0表示旁通,而α>0表示锐化。
在进行数字图像变形时,该公式变换成下式:
O(x,y)=(1+α)Iw(x,y)-αIs(x,y)
其中Iw(x,y)为变形像素值而Is(x,y)为输出空间的平滑像素值。用于计算变形和平滑像素值的轨迹相同。为了节省硬件资源,这两项操作可结合到一个圆形对称轮廓中,该轮廓假设双方的滤波条件。这些条件的形式为:
o ( x , y ) = ( 1 + α ) Σ n = 0 N ( x , y ) k n w I ( u n , v n ) Σ n = 0 N ( x , y ) k n w - α Σ n = 0 N ( x , y ) k n s I ( u n , v n ) Σ n = 0 N ( x , y ) k n s = Σ n = 0 N ( x , y ) ( ( 1 + α ) k n w - α Σ n = 0 N ( x , y ) k n w Σ n = 0 N ( x , y ) k n s k n s ) I ( u n , v n ) Σ n = 0 N ( x , y ) k n w
其中kn w为变形滤波器系数,kn s为平滑滤波器系数,而索引n计算属于该轨迹的输入像素(un,vn)。轨迹中输入像素的数目N(x,y)是输出像素坐标的函数。因此,我们可得到一组新的系数:
k n = ( 1 + α ) k n w - α Σ n = 0 N ( x , y ) k n w Σ n = 0 N ( x , y ) k n s k n s
该组系数假设滤波器中的平滑和变形部分均用于增强输出图像的细节,其中 Σ n = 0 N ( x , y ) k n = Σ n = 0 N ( x , y ) k n w .
由上式可见,对于变形的所有输出像素而言,如果同一轨迹上的系数和之比为常量,则可应用该方法进行细节增强,即
T ( x , y ) = T w ( x , y ) T s ( x , y ) = Σ n = 0 N ( x , y ) k n w Σ n = 0 N ( x , y ) k n s = T
对于椭圆轨迹而言,常量T可由下式估算得到:
T ≈ Σ i = 0 N w - 1 s i k i w Σ i = 0 N s - 1 s i k i s
其中i为滤波器的抽头(tap)数,Si为第i个系数所占有的椭圆环的面积,Nw为滤波器中变形部分的抽头数,而Ns为滤波器中平滑部分的抽头数。
如果λ1、λ2为椭圆轨迹的长轴半径和短轴半径,则
s i = π λ 1 ( i + 1 ) R u N λ 2 ( i + 1 ) R u N - π λ 1 i R u N λ 2 iR u N = π λ 1 λ 2 R u 2 N 2 ( ( i + 1 ) 2 - i 2 ) = π λ 1 λ 2 R u 2 ( 2 i + 1 ) N 2
R u = max ( R u w , R u s ) , N w = NR u w R u , N s = NR u s R u , , 其中N为滤波器抽头的最大数目。
代入之后,最终可得到:
T = T w T s = Σ i = 0 N w - 1 π λ 1 λ 2 R u 2 N 2 ( 2 i + 1 ) k i w Σ i = 0 N s - 1 π λ 1 λ 2 R u 2 N 2 ( 2 i + 1 ) k i s = Σ i = 0 N - 1 ( 2 i + 1 ) k i w Σ i = 0 N - 1 ( 2 i + 1 ) k i s
如果Nw>Ns,则对于Ns≤i<Nw而言 k i s = 0 ;如果Ns>Nw,则对于Nw≤i<Ns而言 k i w = 0
由最后一个等式可见,对于椭圆轨迹,比率T只取决于变形及平滑滤波器的相应系数。这就意味着本发明的滤波器设计在特定实施例中适用于图像细节增强。
如果圆形对称轮廓是半径平方的函数而不是半径本身的函数,则常量T的计算公式将简化为下式:
T = Σ i = 0 N - 1 k i w Σ i = 0 N - 1 k i s
一旦计算出输入像素的权重,滤波器126即可通过累加轨迹中输入像素的亮度值进而生成输出像素。图像变形系统100随之开始处理下一输出像素,直到生成完整输出图像。
图5A给出了根据本发明构建的图像变形系统100实例的逻辑流程图。在步骤501中,系统接收对应于输入图像的数字数据。在步骤510中,将输出像素的坐标映射到输入图像空间。接着,在步骤522中,估算雅可比矩阵,该矩阵近似于映射输出像素位置处的非均匀图像缩放函数。在步骤524中,根据雅可比矩阵的行向量计算椭圆的长轴半径、短轴半径及其长轴倾角。在步骤526中,根据所需输出图像质量和处理速度调整椭圆半径。在步骤528中,使用椭圆的三个参数计算矩阵M的三个非零元素,矩阵M表示从椭圆到半径为1的圆的线性变换。在步骤530中,围绕步骤510中的映射坐标周围确定其中包含输入图像像素的轨迹。该轨迹的大小及形状取决于所选择的滤波拓扑结构,且在期望输出图像质量和计算功耗之间获得折衷。在步骤542中,针对轨迹中的每一个输入像素,计算从椭圆中心到该输入像素位置之间的距离。在步骤544中,从圆形对称轮廓中计算轨迹中输入像素的滤波系数,该圆形对称轮廓是上一步骤中所计算出的距离的函数。最后,在步骤550中,轨迹中的输入像素与步骤544中确定的权重相累加,随后在步骤560中,将所生成的输出像素保存在输出图像中。
图5B给出了图5A所示流程图的一个特定实施例,其中矩阵M的三个非零元素根据多项式拟合曲面计算得到。在本发明的该实例中,针对一组网格点和使用生成的拟合系数的拟合多项式计算矩阵M的三个非零元素。在数字图像变形过程中,在每个处理的输出像素中,根据拟合系数来估算矩阵M的各元素。
本领域技术人员知悉,在不脱离本发明的权利要求所限定范围的情况下,可以对上述结构进行各种改变和等效替换。

Claims (14)

1.一种使用各向异性滤波器的单通道数字图像变形方法,用于将具有输入像素坐标空间和输入数字像素数据的输入图像变换为具有输出像素坐标空间和输出数字像素数据的输入图像,其特征在于,所述方法包括:
(a)为输出像素获取输入数字图像数据;
(b)将输出像素坐标映射到输入图像坐标空间,以确定映射坐标位置;
(c)确定与步骤(b)确定的映射坐标位置处的输入坐标相关的输出像素坐标的雅可比矩阵;
(d)根据步骤(c)中确定的雅可比矩阵的两个行向量确定长轴半径、短轴半径以及长轴的取向,进而唯一地确定围绕在步骤(b)确定的映射坐标位置周围的椭圆;
(e)根据所需的图像质量和所需的处理速率扩展和调整所述椭圆的半径;
(f)根据步骤(e)的结果在输入图像坐标空间中确定围绕步骤(b)中所确定的所述映射坐标位置周围的轨迹,以将参与滤波的输入像素包括在所述轨迹内;
(g)将步骤(d)的椭圆变换为半径为1个单位的圆形,以便计算圆心与所包含输入像素之间的距离;
(h)从作为步骤(g)中距离的函数的圆形对称轮廓中确定轨迹中的所有输入象素的各向异性滤波器系数;
(i)通过将轨迹内输入像素值与步骤(h)中确定的系数相累加,确定输出像素值;以及
(j)保存所述输出像素值。
2.根据权利要求1所述的方法,其特征在于,所述椭圆的半径及取向由2×2矩阵确定,且所述矩阵中的一个元素被强制为零。
3.根据权利要求1所述的方法,其特征在于,输出像素子集中的所述矩阵的非零元素值为预先计算且进行曲面拟合的,且其中输出像素的矩阵元素从拟合参数中计算得到。
4.根据权利要求1所述的方法,其特征在于,所述椭圆的长轴沿着边缘取向对准,且半径长度取决于所述边缘的强度。
5.根据权利要求1所述的方法,其特征在于,所述方法使用椭圆轨迹,且所述方法采用具有由所述矩阵控制的椭圆频率响应的二维重采样滤波器。
6.根据权利要求1所述的方法,其特征在于,所述方法使用矩形轨迹,且所述方法采用具有由所述矩阵控制的椭圆频率响应的二维重采样滤波器。
7.根据权利要求1所述的方法,其特征在于,所述方法进一步将重采样滤波器的平滑和变形部分的轮廓组合,以生成细节被增强的输出图像。
8.一种使用各向异性滤波器的单通道数字图像变形系统,用于将具有输入像素坐标空间和输入数字像素数据的输入图像变换为具有输出像素坐标空间和输出数字像素数据的输出图像,其特征在于,所述系统包括:
(a)用于为输出像素获取输入数字图像数据的输入接口;
(b)用于将输出像素坐标映射到输入图像坐标空间以确定映射坐标位置的坐标生成器;
(c)与所述输入接口和所述坐标生成器相连的局部缩放估算器,用于确定与所述映射坐标位置处的输入坐标相关的输出像素坐标的雅可比矩阵;
(d)所述局部缩放估算器进一步根据步骤(c)中确定的雅可比矩阵的两个行向量确定长轴半径、短轴半径以及长轴的取向,进而唯一地确定围绕在所述映射坐标位置周围的椭圆;
(e)所述局部缩放估算器进一步根据所需的图像质量和所需的处理速率扩展和调整所述椭圆的半径;
(f)与所述局部缩放估算器和所述坐标生成器相连的轨迹生成器,用于在输入图像坐标空间中确定围绕所述映射坐标位置周围的轨迹,以将参与滤波的输入像素包括在所述轨迹内;
(g)与所述轨迹生成器和所述局部缩放估算器相连的滤波器系数生成器,用于将步骤(d)的椭圆变换为半径为1个单位的圆形,以便计算圆心与所包含输入像素之间的距离;
(h)所述滤波器系数生成器进一步从作为所述距离的函数的圆形对称轮廓中确定轨迹中的输入象素的各向异性滤波器系数;
(i)与所述滤波器系数生成器和所述轨迹生成器相连的滤波器,用于将轨迹内输入像素值与步骤(h)中确定的系数相累加,确定输出像素值;以及
(j)与所述滤波器相连的输出接口,用于保存所述输出像素值。
9.根据权利要求8所述的系统,其特征在于,所述局部缩放估算器用于通过2×2矩阵确定所述椭圆的半径及取向,所述矩阵中的一个元素被强制为零。
10.根据权利要求8所述的系统,其特征在于,输出像素子集中的所述矩阵的非零元素值为预先计算且经过曲面拟合的,且所述局部缩放估算器用于从拟合参数中计算得到输出像素的矩阵元素。
11.根据权利要求8所述的系统,其特征在于,所述局部缩放估算器用于将所述椭圆的长轴沿着边缘取向对准,并根据所述边缘的强度设定其半径长度。
12.根据权利要求8所述的系统,其特征在于,所述轨迹生成器使用椭圆轨迹,且所述滤波器系数生成器采用具有由所述矩阵控制的椭圆频率响应的二维重采样滤波器。
13.根据权利要求8所述的系统,其特征在于,所述轨迹生成器使用矩形轨迹,且所述滤波器系数生成器采用具有由所述矩阵控制的椭圆频率响应的二维重采样滤波器。
14.根据权利要求8所述的系统,其特征在于,所述滤波器系数生成器将所述重采样滤波器的平滑和变形部分的轮廓组合,以生成细节被增强的输出图像。
CN2004800439475A 2004-09-09 2004-09-09 使用各向异性滤波的单通道图像重采样系统和方法 Expired - Fee Related CN101142614B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2004/029393 WO2006031213A1 (en) 2004-09-09 2004-09-09 Single -pass image warping system and mehtod with anisotropic filtering

Publications (2)

Publication Number Publication Date
CN101142614A true CN101142614A (zh) 2008-03-12
CN101142614B CN101142614B (zh) 2010-04-28

Family

ID=36060326

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2004800439475A Expired - Fee Related CN101142614B (zh) 2004-09-09 2004-09-09 使用各向异性滤波的单通道图像重采样系统和方法

Country Status (5)

Country Link
EP (1) EP1800289B1 (zh)
JP (1) JP2008512766A (zh)
KR (1) KR101136688B1 (zh)
CN (1) CN101142614B (zh)
WO (1) WO2006031213A1 (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101848390A (zh) * 2010-05-10 2010-09-29 西南交通大学 基于多方向稀疏表示的图像压缩安全编码方法
CN102073982A (zh) * 2011-01-10 2011-05-25 西安电子科技大学 用gpu实现超大sar图像各向异性扩散滤波加速方法
CN102087751A (zh) * 2009-12-03 2011-06-08 英特尔公司 计算各向异性滤波的细节等级
CN102143303A (zh) * 2011-03-16 2011-08-03 上海市电力公司 一种输电线路智能监控系统中的图像去噪方法
CN102509344A (zh) * 2011-09-30 2012-06-20 北京航空航天大学 一种基于非均匀采样三维对象反射的实时绘制方法
CN102521808A (zh) * 2010-11-29 2012-06-27 微软公司 对变换不变低秩纹理的稳健恢复
TWI550553B (zh) * 2013-12-28 2016-09-21 英特爾公司 角度相依之各向異性濾波技術
CN106846252A (zh) * 2017-02-09 2017-06-13 深圳市医诺智能科技发展有限公司 一种图像目标区域的各向异性缩放方法及其系统
CN109074637A (zh) * 2015-11-27 2018-12-21 斯佩特罗埃奇有限公司 用于从多个相应的输入图像通道生成输出图像的方法和系统
CN111699380A (zh) * 2017-12-11 2020-09-22 法国电力公司 用于处理晶体材料的衍射图像的方法、装置和程序

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5369526B2 (ja) * 2008-07-28 2013-12-18 株式会社日立製作所 画像信号処理装置、表示装置、録画再生装置、画像信号処理方法
CN102282586B (zh) 2009-01-19 2017-05-10 诺基亚技术有限公司 用于减少图像数据的大小的方法和装置
US8330767B2 (en) 2009-03-24 2012-12-11 Advanced Micro Devices, Inc. Method and apparatus for angular invariant texture level of detail generation
US10430933B2 (en) 2015-02-27 2019-10-01 The Bringham and Women's Hospital, Inc. Imaging systems and methods of using the same
CN106952320B (zh) * 2017-03-07 2020-07-03 深圳大学 改善图像处理中图像延拓质量的方法及装置
KR102597298B1 (ko) * 2022-05-31 2023-11-02 재단법인대구경북과학기술원 국부 텍스처 추정을 이용한 이미지 워핑 네트워크 시스템

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5343309A (en) * 1992-08-12 1994-08-30 Xerox Corporation Image processing system and method employing adaptive filtering to provide improved reconstruction of continuous tone images from halftone images including those without a screen structure
JP4540753B2 (ja) * 1995-08-04 2010-09-08 マイクロソフト コーポレーション グラフィックオブジェクトを画像チャンクにレンダリングして、画像層を表示画像に組み合わせる方法及びシステム
US6016152A (en) * 1997-08-01 2000-01-18 Avid Technology, Inc. Apparatus and method for non-uniform image scaling
EP1114400A4 (en) * 1998-07-16 2006-06-14 Univ New York State Res Found PROCESS AND ADVICE ON REAL-TIME VOLUME PROCESSING AND UNIVERSAL 3D PRESENTATION
JP4069581B2 (ja) * 2000-12-11 2008-04-02 セイコーエプソン株式会社 画像処理方法、画像処理プログラムが記録されたコンピュータ読み取り可能な記録媒体および画像処理装置
AU2003249208B2 (en) * 2002-07-16 2010-03-04 Vgx Pharmaceuticals, Llc Codon optimized synthetic plasmids
US7215340B2 (en) * 2002-07-19 2007-05-08 Mitsubishi Electric Research Laboratories, Inc. Object space EWA splatting of point-based 3D models
CN1251144C (zh) * 2002-09-12 2006-04-12 上海交通大学 复杂背景条件下红外弱小目标的检测与跟踪方法
US6943808B2 (en) * 2002-12-16 2005-09-13 Xerox Corporation System and method of reducing aliasing in printed images

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102087751B (zh) * 2009-12-03 2014-07-02 英特尔公司 计算各向异性滤波的细节等级
CN102087751A (zh) * 2009-12-03 2011-06-08 英特尔公司 计算各向异性滤波的细节等级
CN101848390A (zh) * 2010-05-10 2010-09-29 西南交通大学 基于多方向稀疏表示的图像压缩安全编码方法
CN102521808A (zh) * 2010-11-29 2012-06-27 微软公司 对变换不变低秩纹理的稳健恢复
CN102521808B (zh) * 2010-11-29 2014-09-24 微软公司 用于对变换不变低秩纹理的稳健恢复的方法和系统
CN102073982A (zh) * 2011-01-10 2011-05-25 西安电子科技大学 用gpu实现超大sar图像各向异性扩散滤波加速方法
CN102143303A (zh) * 2011-03-16 2011-08-03 上海市电力公司 一种输电线路智能监控系统中的图像去噪方法
CN102509344A (zh) * 2011-09-30 2012-06-20 北京航空航天大学 一种基于非均匀采样三维对象反射的实时绘制方法
CN102509344B (zh) * 2011-09-30 2014-06-25 北京航空航天大学 一种基于非均匀采样三维对象反射的实时绘制方法
TWI550553B (zh) * 2013-12-28 2016-09-21 英特爾公司 角度相依之各向異性濾波技術
US9619898B2 (en) 2013-12-28 2017-04-11 Intel Corporation Angle-dependent anisotropic filtering
US10109069B2 (en) 2013-12-28 2018-10-23 Intel Corporation Angle-dependent anisotropic filtering
CN109074637A (zh) * 2015-11-27 2018-12-21 斯佩特罗埃奇有限公司 用于从多个相应的输入图像通道生成输出图像的方法和系统
CN109074637B (zh) * 2015-11-27 2021-10-29 斯佩特罗埃奇有限公司 用于从多个相应的输入图像通道生成输出图像的方法和系统
CN106846252A (zh) * 2017-02-09 2017-06-13 深圳市医诺智能科技发展有限公司 一种图像目标区域的各向异性缩放方法及其系统
CN106846252B (zh) * 2017-02-09 2019-11-15 深圳市医诺智能科技发展有限公司 一种图像目标区域的各向异性缩放方法及其系统
CN111699380A (zh) * 2017-12-11 2020-09-22 法国电力公司 用于处理晶体材料的衍射图像的方法、装置和程序
CN111699380B (zh) * 2017-12-11 2023-11-17 法国电力公司 用于处理晶体材料的衍射图像的方法、装置和程序

Also Published As

Publication number Publication date
EP1800289A1 (en) 2007-06-27
KR101136688B1 (ko) 2012-04-18
KR20070110252A (ko) 2007-11-16
CN101142614B (zh) 2010-04-28
WO2006031213A8 (en) 2006-08-24
JP2008512766A (ja) 2008-04-24
EP1800289B1 (en) 2012-05-23
EP1800289A4 (en) 2010-07-28
WO2006031213A1 (en) 2006-03-23

Similar Documents

Publication Publication Date Title
CN111275626B (zh) 一种基于模糊度的视频去模糊方法、装置及设备
Aly et al. Image up-sampling using total-variation regularization with a new observation model
CN101142614A (zh) 使用各向异性滤波的单通道图像变形系统和方法
US7324706B2 (en) System and method for representing a general two dimensional spatial transformation
TWI503791B (zh) 針對各向異性過濾運算細節位準之技術
TWI358714B (en) Single-pass image warping system and method with a
US9202258B2 (en) Video retargeting using content-dependent scaling vectors
EP1800245B1 (en) System and method for representing a general two dimensional spatial transformation
WO2013131929A1 (en) Method and apparatus for performing super-resolution
KR100860968B1 (ko) 해상도 향상 장치 및 방법
JP5362130B2 (ja) イメージ処理方法及びそのための装置
Lee et al. An edge-guided image interpolation method using Taylor series approximation
JPH08294001A (ja) 画像処理方法および画像処理装置
JP5559222B2 (ja) 異方性フィルタリングを用いたシングルパス画像ワーピングシステム及び方法
Singh et al. Single image super-resolution using adaptive domain transformation
US6766281B1 (en) Matched texture filter design for rendering multi-rate data samples
Kraus et al. GPU-based edge-directed image interpolation
WO2000075865A1 (fr) Procede de traitement d'image
Savagave et al. Study of image interpolation
Huang et al. Directional moving averaging interpolation for texture mapping
US20070003167A1 (en) Interpolation of images
JP2001043357A (ja) 画像処理方法、画像処理装置及び記録媒体
JP2002506600A (ja) 画像補間法
Szeliski et al. High-quality multi-pass image resampling
CN114519682A (zh) 一种基于自回归模型的深度图增强方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: INTEGRATED DEVICE TECHNOLOGY, INC.

Free format text: FORMER OWNER: SILICON OPTIX INC.

Effective date: 20130206

Free format text: FORMER OWNER: LACHINE VLADIMIR SMITH GREGORY L. LEE LOUIS

Effective date: 20130206

Owner name: QUALCOMM INC.

Free format text: FORMER OWNER: INTEGRATED DEVICE TECHNOLOGY, INC.

Effective date: 20130206

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20130206

Address after: California, USA

Patentee after: QUALCOMM Inc.

Address before: California, USA

Patentee before: IDT Co.

Effective date of registration: 20130206

Address after: California, USA

Patentee after: IDT Co.

Address before: California, USA

Patentee before: Silicon Optix Inc.

Effective date of registration: 20130206

Address after: California, USA

Patentee after: Silicon Optix Inc.

Address before: California, USA

Patentee before: Silicon Optix Inc.

Patentee before: Vladimir Racine

Patentee before: Gregory L Smith

Patentee before: Louis Lee

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20100428

Termination date: 20180909