CN1202499C - 基于线性电荷耦合器的三维实时定位方法及其系统 - Google Patents

基于线性电荷耦合器的三维实时定位方法及其系统 Download PDF

Info

Publication number
CN1202499C
CN1202499C CNB031026753A CN03102675A CN1202499C CN 1202499 C CN1202499 C CN 1202499C CN B031026753 A CNB031026753 A CN B031026753A CN 03102675 A CN03102675 A CN 03102675A CN 1202499 C CN1202499 C CN 1202499C
Authority
CN
China
Prior art keywords
image acquisition
lambda
coordinate
dimension image
acquisition unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CNB031026753A
Other languages
English (en)
Other versions
CN1431628A (zh
Inventor
王广志
丁海曙
吴剑
骆文博
丁辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CNB031026753A priority Critical patent/CN1202499C/zh
Publication of CN1431628A publication Critical patent/CN1431628A/zh
Application granted granted Critical
Publication of CN1202499C publication Critical patent/CN1202499C/zh
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Abstract

基于线性电荷耦合器件的三维实时定位方法及其系统属于光电式三维实时定位技术领域,其特征在于:它是一种利用各自中心轴彼此相互垂直的一个柱面透镜和一个线性电荷耦合器件组成的三个彼此的光轴方向成11度夹角且在三个距离为60cm位置上固定的一维图像获取单元构成的三维实时定位装置来测定放置在被测点上的发光点的空间三维坐标的方法,相应地提出了一个由上述三维实时定位装置、驱动采集卡、计算机、存储器、电源及时钟电路构成的实时采集系统。在实际使用中,无需每次再用校准架重新计算各个一维图像获取单元的位置和方向,使用方便,而且实现了自动实时的测量。

Description

基于线性电荷耦合器件的三维实时定位方法及其系统
技术领域:
基于线性电荷耦合器件(CCD)的三维实时定位方法及其系统属于光电式三维实时定位技术领域。
背景技术:
三维实时定位系统的定位方法,目前主要有机械定位法、超声波定位法、电磁定位法和光学定位法。而光学定位法是其中定位精度最高,使用最方便的一种定位方法。本发明是属于光学定位方法中的一种。传统光学定位法的测量原理是:用几个摄像机来观察目标的自然表面,然后重建出目标的位置和表面形状。目标的三维坐标值可根据图像坐标和世界坐标系之间的关系重建出来,因此无法简便、有效地控制和读取被测点空间坐标。
发明内容:
本发明的目的在于提供一种简便、且基于线性电荷耦合器件的三维实时定位方法及其系统。
基于线性电荷耦合器件的三维实时定位方法就是利用三个一维图像获取单元测量被测点像信息重建出被测点的空间三维坐标。一个柱面透镜镜头和一个线性电荷耦合器件组合成一个一维图像获取单元(One Dimension Imaging Unit,简称ODIU),如图1所示。柱面透镜和线性电荷耦合器件如图1所示那样相互垂直,1是发光点,2是柱面透镜,3是影像线,4是电荷耦合器件,p是影像线3和电荷耦合器件的交点。三维实时定位系统获取被测点的像信息的结构是由至少这样的三个一维图像获取单元组成,如图2所示。被测点上放置发光点(比如LED)1,柱面透镜2将入射光成像为一条直线(理想情况下),这条直线与电荷耦合器件传感器4相交于一点。每个一维图像获取单元记录的交点位置信息与其透镜主轴可以确定一个空间平面,3个非共轴的一维图像获取单元确定3个相交的空间平面,这3个平面的交点就是被测点的位置。5是光轴。通过测定一维图像获取单元中像的坐标,以及确定被测点三维坐标和一维图像获取单元像坐标之间的关系,采用直接线性变换(Direct linear transform简称DLT)方法,重建出被测点的三维坐标。
本发明提出的基于线性电荷耦合器件的三维实时定位方法其特征在于:
它是一种利用由各中心轴彼此相互垂直的一个柱面透镜和一个线性电荷耦合器件(电荷耦合器件)组成的三个彼此光轴方向成11度夹角且在三个距离为60cm位置上固定的一维图像获取单元构成的三维实时定位装置来测定放置在被测点上的发光点的空间三维坐标的方法,它依次含有以下步骤:
第一步:一维图像获取单元参数L的标定;
第1.1步:在校准架上均匀分布好三维坐标X,Y,Z事先确定的发光标志点;
第1.2步:用一维图像获取单元测量这些标志点的像坐标;
第1.3步:用多于7个的标志点和它们在一维图像获取单元上测得的对应像坐标,通过最小二乘法解得最优化的7个L系数:L1,L2,...,L7
第二步:获取三个一维图像获取单元中每一场像的坐标:
第2.1步:计算机启动,定位开始;
第2.2步:计算机驱动采集卡使放置在被测点上的发光二极管发光;
第2.3步:计算机驱动采集卡驱动一维图像获取单元采集数据,存储:
第2.4步:计算机驱动采集卡关闭发光二极管;
第2.5步:采集卡把数据传送到计算机:
第2.6步:判断获取三个一维图像获取单元中每一场像的坐标,以及这一步骤是否需要结束;若需要,则返回第2.2;否则,结束。
第三步:采用直接线性变换算法重构被测点的空间三维坐标;
第3.1步:根据系统L及三个ODLU中每一场像的坐标计算N:
N = λ ( 1 ) L ( 1 ) 5 - L ( 1 ) 1 λ ( 1 ) L ( 1 ) 6 - L ( 1 ) 2 λ ( 1 ) L ( 1 ) 7 - L ( 1 ) 3 λ ( 2 ) L ( 2 ) 5 - L ( 2 ) 1 λ ( 2 ) L ( 2 ) 6 - L ( 2 ) 2 λ 2 ) L ( 2 ) 7 - L ( 2 ) 3 λ ( 3 ) L ( 3 ) 5 - L ( 3 ) 1 λ ( 3 ) L ( 3 ) 6 - L ( 3 ) 2 λ ( 3 ) L ( 3 ) 7 - L ( 3 ) 3 .
第3.2步:根据上述系数L及坐标计算C:
C = L ( 1 ) 4 - λ ( 1 ) L ( 2 ) 4 - λ ( 2 ) L ( 3 ) 4 - λ ( 3 ) .
第3.3步:根据N,C求出X=[X Y Z]T
     NX=C.
第四步:判断是否要继续检测,若要继续检测则返回步骤第二步:否则,检测结束。
本发明提出的基于线性电荷耦合器件的三维实时定位系统其特征在于:
它含有:
由中心轴彼此相互垂直的一个柱面透镜镜头和一个单色线性电荷耦合器件组成的三个彼此光轴方向成11度夹角且在三个距离为60cm位置上固定的一维图像获取单元(一维图像获取单元)构成的三维实时定位装置;
放在被测点上且和上述电荷耦合器件波长相近的红外发光二极管组(LED组);
带并口线的驱动采集卡:它与三个一维图像获取单元和LED组互连;
计算机:经过并口线与驱动采集卡互连;
外部存储器SRAM、时钟发生器及电源。
所述的驱动采集卡是芯片LM9830VJD。
所述的柱面透镜镜头是改进的双高斯物镜,沿着光轴方向它依次含有凸透镜、中间有光拦的双高斯物镜和透镜。
使用证明:本系统在实际使用中无需每次再用标准架重新计算一维图像获取单元的位置和方向,使用方便,而且可以自动定位。
附图说明:
图1.一维图像获取单元结构和成像。
图2.线性电荷耦合器件测量原理图。
图3.本发明提出的三维实时定位方法的程序流程框图。
图4.图3中获取三个一维图像获取单元中每一场像坐标的子程序流程框图。
图5.本发明提出的三维实时定位系统的硬件装置图。
图6.LM9830VJD接口图。
图7.LED外观结构图:(a)俯视图;(b)正视图。
图8.LED选通电路图。
图9.柱面透镜成像示意图。
图10.改进的双高斯物镜的光路结构示意图。
具体实施方式:
依据线性电荷耦合器件测量原理设计出典型系统的硬件装置,如图5所示。3个一维图像获取单元按照它们光轴方向成11度夹角在三个距离为60cm位置上固定,一组红外LED作为测试点6。3个一维图像获取单元记录红外LED像信息,一个驱动采集卡7驱动3路电荷耦合器件并读取记录像信息的电荷耦合器件像素数值。此驱动采集卡7还同步驱动红外LED 6发光。驱动采样卡7采集到的信号,以并口EPP或USB模式传送给计算机8用于三维坐标重建。上述布置的优点在于,三个一维图像获取单元位置相对固定,只需通过一次定标(calibration)后,即可将每一个一维图像获取单元坐标系确定下来,在实际使用中无需每次再用校准架重新计算一维图像获取单元的位置和方向,给使用带来方便。系统中驱动采集卡7是系统硬件的核心,它控制系统中的其它硬件,并传送数据到计算机8。
本发明的硬件装置中一个特点是采用高集成度芯片LM9830VJD用于驱动3路一维图像获取单元,作为空间三维定位系统的控制核心。LM9830VJD提供了电荷耦合器件控制,照明控制,采样控制,像素处理,RAM存储控制,EPP接口控制等多种控制。因此在一个芯片里面就完成了本系统中的数据采集,放大,模数转换,存储和传送等功能,使整个控制系统简单、稳定、体积小。另外LM9830VJD提供高达6M像素/秒的采样率,保证系统在采用高分辨率的线性电荷耦合器件时,仍然能够让系统的刷新率保持在较高的速率上。模拟数字转换精度最高可到12bit,保证信号检测的精确度。可以选择64K到256K之间任意大小的外部存储器,可存储多场数据(见图6)。
在整个测量中,LED是作为被检测点对像,因此LED的选择也是比较关键的。首先,LED的发光位置表示的是被测量位置点,所以LED的管芯要尽量的小,但发光功率要足够的高。另外,LED的发散角要大并使发光功率在不同的角度尽量均匀,因为LED要随着被测位置点的改变而移动,在不同的位置,LED发出的光在测量范围内要能被三维定位系统中三个一维图像获取单元都要成清晰的像,即有较高的信噪比用于信号峰值的抽取,准确确定成像在线性电荷耦合器件中的坐标。本系统采用日本滨松公司的砷化镓平面塑封型二极管作为检测用的LED,它的波长为890nm,外观结构图如图7所示,选通电路如图8所示。
为满足测量视场的大小和测量精度的要求,线性电荷耦合器件的分辨率和柱面透镜的成像质量也非常关键。本系统采用的是2000线两相驱动的电荷耦合器件(TCD1208AP),每个光敏单元的尺寸为14μm长,光敏单元中心距也是14μm,红外光敏感。高分辨率的线性电荷耦合器件传感器可以提高红外LED像点位置检测的精度,因此有时根据系统对检测精度的要求,要换用高分辨率的线性电荷耦合器件型号。但随着线性电荷耦合器件分辨率的提高,随之也增加了要读取的数据量,这会影响整个系统的刷新率。
为了能够在线性电荷耦合器件上测得视场范围内任意位置发光点的信号,发光点的成像必须是一条像线,柱面透镜是比较适用的镜头。柱面透镜成像规律如图9所示,空间单点P通过柱面透镜后成一条直线。在实际成像中,由于柱面透镜本身存在着像差,物点发出的光通过柱面透镜后,像和线性电荷耦合器件相交的位置和理想位置存在着偏差,这个结果将直接影响空间三维坐标重建的精度。本系统采用改进的双高斯型物镜(见图10)作为一维成像单元中的透镜和线性电荷耦合器件进行搭配使用,提高了三维坐标的重建精度。其中9是凸透镜,10是双高斯物镜,11是光拦,12是透镜。
通过上述硬件结构和工作原理的介绍,系统信号流程可归纳为:(1)计算机向驱动采集卡发出标志点定位启动信号;(2)驱动采集卡驱动LED发光;(3)随后,驱动采集卡驱动三路线性电荷耦合器件工作,采集卡中的LM9830VJD芯片完成电荷耦合器件像素的读取,模数转换,信号的修正,并将数据保存到外部存储器SRAM中;(4)一场数据采集完毕,驱动采集卡关闭LED发光;(5)采集卡通过EPP或USB接口将数据传送给计算机。如图4所示。
三路一维图像获取单元采集到的像信息在计算机中转换为像坐标,根据一维图像获取单元中像坐标和空间标志点三维坐标的关系,采用直接线性变换方法,就可以重建出标志点的三维坐标。一维图像获取单元和空间标志点的关系如图1所示,像点坐标和标志点三维坐标的关系式为(见式1):
λ = L 1 X + L 2 Y + L 3 Z + L 4 L 5 X + L 6 Y + L 7 Z + 1 - - - ( 1 )
其中L1,L2,...,L7是一维图像获取单元本身的参数,λ是单个一维图像获取单元检测到标志点的成像和线性电荷耦合器件相交的位置,X,Y,Z是标志点空间三维坐标。
式1是根据柱面透镜的几何成像规律以及空间坐标变换得出的。L1,L2,...,L77个参数可在测量前对系统进行一次一维图像获取单元校准得到。三维定位系统中的每个一维图像获取单元在校准过程中都可以得到相应的7个L参数。
一维图像获取单元校准最常用的办法就是采用校准架校准方法。其基本原理是:校准架上均匀分布着发光标志点,这些标志点的三维坐标X,Y,Z都是已知的,一维图像获取单元测量这些标志点的像坐标λ,也是可以确定的。用多于7个标志点和它在一维图像获取单元上测得的对应像坐标,通过最小二乘法求解,解得最优化的7个L系数。校准步骤已如上述。
有了7个参数之后,就可以通过求解式(2)重建出标志点的三维坐标。
             NX=C                                        (2)
其中:
N = λ ( 1 ) L ( 1 ) 5 - L ( 1 ) 1 λ ( 1 ) L ( 1 ) 6 - L ( 1 ) 2 λ ( 1 ) L ( 1 ) 7 - L ( 1 ) 3 λ ( 2 ) L ( 2 ) 5 - L ( 2 ) 1 λ ( 2 ) L ( 2 ) 6 - L ( 2 ) 2 λ 2 ) L ( 2 ) 7 - L ( 2 ) 3 λ ( 3 ) L ( 3 ) 5 - L ( 3 ) 1 λ ( 3 ) L ( 3 ) 6 - L ( 3 ) 2 λ ( 3 ) L ( 3 ) 7 - L ( 3 ) 3 ,
X=[X Y Z]T
C = L ( 1 ) 4 - λ ( 1 ) L ( 2 ) 4 - λ ( 2 ) L ( 3 ) 4 - λ ( 3 ) .
X=[X Y Z]T就是所求的标志点的三维坐标。公式中的上标(1),(2),(3)分别代表三个一维图像获取单元的L系数和像坐标。
综上所述,基于线性电荷耦合器件的实时三维测量系统整个工作流程为:
首先,在测量之前,根据测量视场的大小和精度,合理固定三个一维图像获取单元,要对每个一维图像获取单元进行标定。标定完毕之后,得到三个一维图像获取单元各自7个L系数,它们的位置和夹角也不再进行变动,在以后的测量中,就不用再进行标定。
其次,计算机启动驱动采集卡进行数据采集。每一场数据采集完毕之后传送给计算机。
最后,计算机提取每一个一维图像获取单元的像坐标。用三个一维图像获取单元的像坐标和标定得到的每个一维图像获取单元的7个L参数,重建标志点的三维坐标。流程框图如图3所示。
整个发明主要特点是:
1.采用单色线性电荷耦合器件和柱面透镜构成的一维成像单元用于记录发光点的像点位置。
2.使用三个或者三个以上的电荷耦合器件和柱面透镜这样组合的装置完成空间三维坐标的检测。
3.通过提高线性电荷耦合器件的分辨率来提高系统检测的精度。
4.采用高集成度的电荷耦合器件驱动芯片LM9830VJD,同步驱动三路电荷耦合器件测量系统,并且同时完成像素的读取,采样,处理和RAM存储。并且通过EPP或USB接口控制完成数据向计算机传送。
5.采用和线性电荷耦合器件光敏传感器感应波长相近的红外LED作为检测的目标点。红外LED的发光功率和发散角与检测范围相匹配。
6.检测顺序和状态是,驱动芯片先驱动红外LED发光,然后线性电荷耦合器件采集数据。采集完毕,关闭LED发光。向计算机发送数据。接着驱动第二个,第三个……红外LED。
7.采用7参数直接线性变换算法,完成标志点的三维坐标重建,每完成一次红外LED的驱动发光,就完成一次该点的三维坐标重建,实现实时动态显示。
8.自由摆放三路电荷耦合器件测量系统,校准和三维定位系统标定只需要进行一次。
9.系统校准和标定完成之后,三路电荷耦合器件测量单元的相对位置和夹角就要固定,改变它们之间的相对位置,要重新校准和标定。
10.校准完成的各种参数,可以直接用于以后的直接线性变换算法的三维坐标重建。

Claims (2)

1.基于线性电荷耦合器件的三维实时定位方法,含有根据三个一维图像获取单元测到的被测点像坐标信息重建出被测点的空间三维坐标的步骤,其特征在于:它是一种利用由各中心轴彼此相互垂直的一个柱面透镜和一个线性电荷耦合器件组成的三个彼此光轴方向成11度夹角且在三个距离为60cm位置上固定的一维图像获取单元构成的三维实时定位装置来测定放置在被测点上的发光点的空间三维坐标的方法,它依次含有以下步骤:
第一步:一维图像获取单元参数L的标定;
第1.1步:在校准架上均匀分布好三维坐标X,Y,Z事先确定的发光标志点;
第1.2步:用一维图像获取单元测量这些标志点的像坐标;
第1.3步:用多于7个的标志点和它们在一维图像获取单元上测得的对应像坐标,通过最小二乘法解得最优化的7个L系数:L1,L2,...,L7
第二步:获取三个一维图像获取单元中每一场像的坐标;
第2.1步:计算机启动,定位开始;
第2.2步:计算机驱动采集卡使放置在被测点上的发光二极管发光;
第2.3步:计算机驱动采集卡驱动一维图像获取单元采集数据,存储;
第2.4步:计算机驱动采集卡关闭发光二极管;
第2.5步:采集卡把数据传送到计算机;
第2.6步:判断获取三个一维图像获取单元中每一场像的坐标,以及这一步骤是否需要结束;若不需要,则返回第2.2步;否则,结束;
第三步:采用直接线性变换算法重构被测点的空间三维坐标;
第3.1步:根据系数L及三个一维图像获取单元中每一场像的坐标计算N:
N = λ ( 1 ) L ( 1 ) 5 - L ( 1 ) 1 λ ( 1 ) L ( 1 ) 6 - L ( 1 ) 2 λ ( 1 ) L ( 1 ) 7 - L ( 1 ) 3 λ ( 2 ) L ( 2 ) 5 - L ( 2 ) 1 λ ( 2 ) L ( 2 ) 6 - L ( 2 ) 2 λ 2 ) L ( 2 ) 7 - L ( 2 ) 3 λ ( 3 ) L ( 3 ) 5 - L ( 3 ) 1 λ ( 3 ) L ( 3 ) 6 - L ( 3 ) 2 λ ( 3 ) L ( 3 ) 7 - L ( 3 ) 3
第3.2步:根据上述系数L及坐标计算C:
C = L ( 1 ) 4 - λ ( 1 ) L ( 2 ) 4 - λ ( 2 ) L ( 3 ) 4 - λ ( 3 )
第3.3步:根据N,C求出X=[X Y Z]T
NX=C
第四步:判断是否要继续检测,若要继续检测则返回第2.2步;否则,检测结束。
2.根据权利要求1所述的基于线性电荷耦合器件的三维实时定位方法而提出的系统,其特征在于:它含有:
由中心轴彼此相互垂直的一个柱面透镜镜头和一个单色线性电荷耦合器件组成的三个彼此光轴方向成一定夹角且在三个等间距位置上固定的一维图像获取单元构成的三维实时定位装置;
放在被测点上且和上述电荷耦合器件波长相近的红外发光二极管组;
带并口线的驱动采集卡;它与三个一维图像获取单元和所述的红外发光二极管组互连;
计算机;经过并口线与驱动采集卡互连;
外部存储器SRAM、时钟发生器及电源;
所述的柱面透镜镜头是改进的双高斯物镜,沿着光轴方向它依次含有凸透镜、中间有光拦的双高斯物镜和透镜。
CNB031026753A 2003-02-14 2003-02-14 基于线性电荷耦合器的三维实时定位方法及其系统 Expired - Fee Related CN1202499C (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CNB031026753A CN1202499C (zh) 2003-02-14 2003-02-14 基于线性电荷耦合器的三维实时定位方法及其系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CNB031026753A CN1202499C (zh) 2003-02-14 2003-02-14 基于线性电荷耦合器的三维实时定位方法及其系统

Publications (2)

Publication Number Publication Date
CN1431628A CN1431628A (zh) 2003-07-23
CN1202499C true CN1202499C (zh) 2005-05-18

Family

ID=4790018

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB031026753A Expired - Fee Related CN1202499C (zh) 2003-02-14 2003-02-14 基于线性电荷耦合器的三维实时定位方法及其系统

Country Status (1)

Country Link
CN (1) CN1202499C (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102096161A (zh) * 2010-12-23 2011-06-15 大连艾科科技开发有限公司 微小裸耦合透镜的三维固定方法
CN111337013B (zh) * 2019-12-18 2023-05-16 上海大学 基于四线阵ccd的多目标点区分及定位系统

Also Published As

Publication number Publication date
CN1431628A (zh) 2003-07-23

Similar Documents

Publication Publication Date Title
CN105043259B (zh) 基于双目视觉的数控机床旋转轴误差检测方法
CN108564630B (zh) 基于激光雷达和相机摄像头融合的标定装置及其标定方法
CN100342207C (zh) 一种微小构件通孔内表面三维形貌检测装置及其标定和使用方法
CN104034263B (zh) 一种锻件尺寸的非接触测量方法
CN102679959B (zh) 基于主动全景视觉传感器的全方位三维建模系统
CN105627948A (zh) 一种大型复杂曲面测量系统及其应用
CN1155799C (zh) 激光线扫描三维测量双光刀虚拟网格映射标定方法及装置
CN102438111A (zh) 一种基于双阵列图像传感器的三维测量芯片及系统
CN1645042A (zh) 激光三维彩色扫描数字化方法及数字化仪
CN1662790A (zh) 对物体外形进行三维测量的装置
CN104567818B (zh) 一种便携式全天候主动全景视觉传感器
CN103712604B (zh) 一种光学多目标三维空间定位方法及系统
CN103398656B (zh) 用于在物体表面上进行非接触坐标测量的方法和勘测系统
CN112257537B (zh) 一种智能多点三维信息采集设备
CN109101935A (zh) 基于热成像相机的人物动作捕捉系统和方法
CN109540042B (zh) 基于无约束光平面的汽车形貌主动视觉检测系统与方法
CN202406199U (zh) 一种基于双阵列图像传感器的三维测量芯片及系统
CN113888712A (zh) 一种建筑结构施工偏差分析方法
CN106651925A (zh) 一种彩色深度图像的获取方法、获取设备
CN107560547A (zh) 一种扫描系统及扫描方法
CN112325788A (zh) 基于数字照相的隧道内壁变形特征原位量测装置及方法
CN1740759A (zh) 基于图像处理的激光光束参数测量方法
CN111904074A (zh) 一种基于红外激光散斑投影的人体数字化测量装置
CN1202499C (zh) 基于线性电荷耦合器的三维实时定位方法及其系统
CN205352322U (zh) 一种大型复杂曲面测量系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20050518

Termination date: 20130214