JP2000020705A - Parallel image processing processor - Google Patents

Parallel image processing processor

Info

Publication number
JP2000020705A
JP2000020705A JP10184018A JP18401898A JP2000020705A JP 2000020705 A JP2000020705 A JP 2000020705A JP 10184018 A JP10184018 A JP 10184018A JP 18401898 A JP18401898 A JP 18401898A JP 2000020705 A JP2000020705 A JP 2000020705A
Authority
JP
Japan
Prior art keywords
register
data
processing
arithmetic processing
registers
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10184018A
Other languages
Japanese (ja)
Other versions
JP3553376B2 (en
Inventor
Kazuto Nishida
一人 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP18401898A priority Critical patent/JP3553376B2/en
Publication of JP2000020705A publication Critical patent/JP2000020705A/en
Application granted granted Critical
Publication of JP3553376B2 publication Critical patent/JP3553376B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Studio Circuits (AREA)
  • Image Processing (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a parallel image processor capable of processing one period of arithmetic processing without being restricted by one horizontal scanning period and processing the arithmetic processing by an arithmetic processing part having the small number of arrays. SOLUTION: The parallel image processing processor is constituted of an arithmetic processing part 1 constituted of an arithmetic processing means 2 and two registers A, B, temporary registers TA, TB corresponding to respective registers A, B and capable of circularly transferring to respective registers A, B and a program control part 3 for controlling the arithmetic processing part 1 and the temporary registers TA, TB and executes single instruction multiple data stream(SIMD) type image processing of an input signal DATA consisting of N data per period.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、ビデオカメラ、テ
レビ等の画像信号をソフトウェアプログラムによりディ
ジタル信号処理を行う並列画像処理プロセッサに関す
る。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a parallel image processor for performing digital signal processing of image signals from a video camera, a television, or the like by a software program.

【0002】[0002]

【従来の技術】従来のアレイ型の画像処理プロセッサの
基本構成を、図8を参照しつつ説明する。図8に示す入
力SAM部802は、各画素データのビット幅を有する
レジスタが水平方向(列方向)にN個並んでおり、図の
左から右へ順次データを転送できる機能を有するレジス
タである。また入力SAM部802に格納された各レジ
スタは、同様に水平方向にN個並ぶレジスタにより構成
されるデータメモリ803内の各レジスタに対して(列
方向に)データを転送可能となっている。
2. Description of the Related Art The basic structure of a conventional array type image processor will be described with reference to FIG. The input SAM unit 802 illustrated in FIG. 8 is a register in which N registers each having a bit width of each pixel data are arranged in the horizontal direction (column direction), and has a function of sequentially transferring data from left to right in the figure. . Each of the registers stored in the input SAM unit 802 can similarly transfer data (in the column direction) to each of the registers in the data memory 803, which is composed of N registers arranged in the horizontal direction.

【0003】演算処理部804は、同じ演算機能を有す
る演算回路が列方向にN個並んだ構成を有し、データメ
モリA803と、水平方向にN個並ぶレジスタにより構
成されるデータメモリB805の列単位で接続されてい
る。
The arithmetic processing unit 804 has a configuration in which N arithmetic circuits having the same arithmetic function are arranged in the column direction. A data memory A 803 and a data memory B 805 composed of N horizontal registers are arranged. Connected in units.

【0004】出力SAM部806は、出力信号の各画素
データのビット幅を有するレジスタが水平方向にH個並
んでおり、図の左から右へ順次データを転送できる機能
を有するレジスタでデータメモリB805の各レジスタ
と列単位で接続されており、データメモリB805の右
端からデータ出力端子808に出力される。各ブロック
間のデータの転送や処理は、列単位の処理ユニット80
9で行われる。
The output SAM section 806 has H registers in the horizontal direction, each having a bit width of each pixel data of the output signal, and has a function of sequentially transferring data from left to right in the figure. , And is output from the right end of the data memory B 805 to the data output terminal 808. Data transfer and processing between the blocks are performed by the processing unit 80 in units of columns.
9 is performed.

【0005】プログラム制御部807は、内部に保持さ
れたプログラムにしたがって、入力SAM部802、デ
ータメモリA803、データメモリB805、出力SA
M部806のデータの読みだし書き込みの制御信号を出
力し、さらに演算処理部804の演算内容を制御する制
御回路である。
[0005] The program control unit 807 is provided with an input SAM unit 802, a data memory A 803, a data memory B 805, and an output SA according to a program stored therein.
A control circuit that outputs a control signal for reading and writing data of the M unit 806 and controls the operation content of the arithmetic processing unit 804.

【0006】処理される画像信号は、一般的に2次元画
像の各画素データを水平走査方向に1次元に配列した順
次信号として画素クロックに同期して図8のデータ入力
端子801から入力される。入力されたデータは入力S
AM部802に順次格納され、1水平走査期間の画素デ
ータが格納された時点でデータメモリA803に転送さ
れる。データメモリA803に保持された画素信号は、
演算処理部804にてプログラム制御部807のプログ
ラムに基づき演算処理が行われ、データメモリ803A
あるいはデータメモリB805に格納される。プログラ
ムの最終の演算処理が行われた時点でデータはデータメ
モリB805に格納され、出力SAM部806に格納さ
れていた前の水平走査期間のデータが読みだされた時点
でデータメモリB805から出力SAM部806に転送
される。そして、出力SAM部806では画素クロック
にしたがってデータ出力端子808へ順次データを出力
する。
An image signal to be processed is generally input from a data input terminal 801 in FIG. 8 as a sequential signal in which each pixel data of a two-dimensional image is arranged one-dimensionally in a horizontal scanning direction in synchronization with a pixel clock. . The input data is input S
The pixel data is sequentially stored in the AM unit 802 and transferred to the data memory A 803 when the pixel data for one horizontal scanning period is stored. The pixel signal held in the data memory A 803 is
The arithmetic processing unit 804 performs arithmetic processing based on the program of the program control unit 807, and the data memory 803A
Alternatively, it is stored in the data memory B805. The data is stored in the data memory B 805 when the final arithmetic processing of the program is performed, and the output SAM is output from the data memory B 805 when the data of the previous horizontal scanning period stored in the output SAM unit 806 is read. It is transferred to the unit 806. The output SAM unit 806 sequentially outputs data to the data output terminal 808 according to the pixel clock.

【0007】[0007]

【発明が解決しようとする課題】図8における従来の構
成の場合、演算を行う周期が水平走査期間に制限される
ことを以下に説明する。一般に、画像処理ではFIRフ
ィルタが多用され、フィルタの例として図8のn列の処
理データへの水平方向のFIR(Finite impulse respo
nse)フィルタの処理を、下記の式(1)とする。なおこ
の式では次数K=4となる。
The following describes that in the case of the conventional configuration shown in FIG. 8, the cycle at which the calculation is performed is limited to the horizontal scanning period. Generally, an FIR filter is frequently used in image processing. As an example of the filter, a horizontal direction FIR (Finite impulse respo
nse) Filter processing is represented by the following equation (1). In this equation, the order K = 4.

【0008】[0008]

【数1】 (Equation 1)

【0009】図9には、n画素の入力信号x0〜xn-1に
対してFIRフィルタ処理を施した、n個の出力データ
y0〜yn-1を作成する場合の処理内容を示している。
FIG. 9 shows the contents of processing in the case of generating n output data y0 to yn-1 by performing FIR filter processing on input signals x0 to xn-1 of n pixels.

【0010】図9において、符号901は入力画素デー
タメモリを、符号905は出力データメモリを、そして
符号902、903、904は演算処理部により処理さ
れるFIRフィルタの演算処理内容をそれぞれ示してい
る。i番目の出力データYiを作成するFIRフィルタ
は、符号903に示すように入力画素データメモリ1中
の(Xi-2,Xi-1,Xi,Xi+1,Xi+2)番地の5個の
画素データを用いて処理を行うこととなる。
In FIG. 9, reference numeral 901 denotes an input pixel data memory, reference numeral 905 denotes an output data memory, and reference numerals 902, 903, and 904 denote arithmetic processing contents of an FIR filter processed by an arithmetic processing unit. . The FIR filter for creating the i-th output data Yi is composed of five (Xi-2, Xi-1, Xi, Xi + 1, Xi + 2) addresses in the input pixel data memory 1, as indicated by reference numeral 903. Processing is performed using pixel data.

【0011】ここで、0番目の出力データY0を作成す
るのFIRフィルタ処理902を考えた場合、0番目の
入力データX0の左右2画素のデータが必要になるが、
左側のデータは入力画素データメモリ1には存在しない
ため、Y0の出力データの特性は、Yiの特性と異なった
ものとなる。
Here, when the FIR filter processing 902 for creating the 0th output data Y0 is considered, data of two pixels on the left and right of the 0th input data X0 is required.
Since the data on the left does not exist in the input pixel data memory 1, the characteristics of the output data of Y0 are different from the characteristics of Yi.

【0012】この特性の異なる画素は、前記のフィルタ
処理の場合、入力画素データメモリ901の両端それぞ
れ2画素に発生するが、一般にはFIRフィルタの次数
がK次の場合には、データメモリ901の両端にK/2
画素(偶数次の場合)、(K+1)/2画素(奇数次の
場合)特性の異なる画素が発生することとなる。
In the above-described filtering process, pixels having different characteristics are generated at two pixels at both ends of the input pixel data memory 901. Generally, when the order of the FIR filter is the K-th order, the data memory 901 is not used. K / 2 at both ends
Pixels with different characteristics (in the case of even order) and (K + 1) / 2 pixels (in the case of odd order) are generated.

【0013】この特性の異なった画素は、1水平走査期
間の画素列の両端に発生するために、最終の映像信号を
作成する時点でマスクされる為に、画像への劣化にはな
らない。
Pixels having different characteristics occur at both ends of a pixel row during one horizontal scanning period, and are masked at the time of producing a final video signal. Therefore, the image does not deteriorate.

【0014】しかし、例えば水平走査期間の画素数をN
(個)として、データメモリA803の列の個数nを
(1/2)N(個)とした場合、入力データXiは水平
走査期間の画素列が2分割され、まず始めに前半の(1
/2)N(個)の入力データがデータメモリA803に
入力されて処理され、処理終了後に後半の(1/2)N
のデータが入力されて処理が行われる。最終的にこの2
組の(1/2)N(個)の処理データを連結して水平1
周期のデータが作成されるが、このとき、連結部分にK
画素の特性の異なる画素列が発生し、これが2次元画像
の縦スジとして画像に発生し、画像を劣化させることと
なってしまうという問題点があった。
However, for example, if the number of pixels in the horizontal scanning period is N
Assuming that the number n of columns of the data memory A803 is (1/2) N (units), the input data Xi divides the pixel column in the horizontal scanning period into two, and firstly, the first half of (1)
/ 2) N (pieces) input data are input to the data memory A 803 and processed, and after the processing is completed, the latter half (1/2) N
Is input and the process is performed. Finally this 2
A set of (1/2) N (pieces) of processing data is connected to
Periodic data is created. At this time, K
There is a problem that a pixel row having different pixel characteristics is generated, and this is generated in the image as a vertical stripe of a two-dimensional image, thereby deteriorating the image.

【0015】このことから、アレイ型の画像処理プロセ
ッサでは、処理の周期を1水平走査期間に一致させ、デ
ータメモリなどの並列演算アレイの列の個数を1水平走
査期間の画素数に合わせる必要がある。処理すべき画像
の水平画素数は、千数百画素あることから並列処理アレ
イの個数も千数百個必要となってしまい、これを集積回
路にした場合、回路規模は非常に大きくなることが予想
される。
For this reason, in the array type image processor, it is necessary to match the processing cycle to one horizontal scanning period, and to match the number of columns of a parallel operation array such as a data memory to the number of pixels in one horizontal scanning period. is there. Since the number of horizontal pixels of the image to be processed is in the hundreds and hundreds of pixels, the number of parallel processing arrays is also required in the thousands, and if this is made into an integrated circuit, the circuit scale may become very large. is expected.

【0016】そのため、従来のアレイ型の画像処理プロ
セッサでは、1アレイ当たりのゲート数を少なくする
為、演算回路を1ビット処理にして数ステップで1ワー
ドの演算を行うような構成をとるものが多かった。ま
た、処理の周期が画像の水平画素数に規定されてしまう
ため、処理する画像の画素数によってアレイ数を変更す
る必要がある為、画像サイズによって集積回路を作成し
直さなければならなかった。
For this reason, a conventional array-type image processor has a configuration in which the arithmetic circuit is processed by one bit and one-word operation is performed in several steps in order to reduce the number of gates per array. There were many. In addition, since the processing cycle is defined by the number of horizontal pixels of the image, the number of arrays must be changed according to the number of pixels of the image to be processed. Therefore, an integrated circuit has to be created again according to the image size.

【0017】本発明は、前記の問題点を解消するために
なされたものであって、演算処理の1周期を1水平走査
期間に限定されない周期で処理を行うことが可能で、少
ないアレイ数の演算処理部で処理できる並列画像処理プ
ロセッサを提供することを目的とする。
SUMMARY OF THE INVENTION The present invention has been made to solve the above-mentioned problem, and it is possible to perform processing at a cycle that is not limited to one horizontal scanning period in one cycle of arithmetic processing. An object of the present invention is to provide a parallel image processing processor that can be processed by an arithmetic processing unit.

【0018】[0018]

【課題を解決するための手段】本発明は、上記の目的を
達成するために次の構成を有する。請求項1の発明は、
1周期あたりN個のデータからなる入力信号に対してS
IMD形の画像処理を行う並列画像処理プロセッサにお
いて、演算処理回路とベースレジスタから構成される1
データ単位の演算処理ユニットをM個並列に接続した演
算処理部と、ベースレジスタをP個並列に設けたテンポ
ラリレジスタと、前記演算処理部とテンポラリレジスタ
を制御する制御手段とを有し、演算処理部は、M個の演
算処理ユニットにより構成され、前記M列のベースレジ
スタとテンポラリレジスタのP列のベースレジスタは、
それぞれ前記制御手段からの制御信号に基づき列方向に
データの転送を行うとともに、M列のベースレジスタと
テンポラリレジスタ間でも巡回的に列方向にデータを転
送することを特徴とする並列画像処理プロセッサであ
る。
The present invention has the following configuration to achieve the above object. The invention of claim 1 is
S for an input signal consisting of N data per cycle
In a parallel image processor for performing IMD-type image processing, a parallel image processor 1 comprising an arithmetic processing circuit and a base register
An arithmetic processing unit having M data processing units connected in parallel, a temporary register having P base registers provided in parallel, and control means for controlling the arithmetic processing unit and the temporary register; The unit is composed of M arithmetic processing units, and the base register of the M column and the base register of the P column of the temporary register are:
A parallel image processing processor for performing data transfer in the column direction based on a control signal from the control means and cyclically transferring data in the column direction between the base register and the temporary register of M columns. is there.

【0019】請求項2の発明は、画像処理を行う1周期
の単位が1水平走査期間であり、1水平走査期間で処理
する画素数がN個である場合、演算処理ユニットの個数
MがNより小さい値であることを特徴とする請求項1に
記載の並列画像処理プロセッサである。
According to a second aspect of the present invention, when the unit of one cycle for performing image processing is one horizontal scanning period and the number of pixels to be processed in one horizontal scanning period is N, the number M of arithmetic processing units is N 2. The parallel image processor according to claim 1, wherein the value is smaller.

【0020】請求項3の発明は、画像処理において、水
平方向の複数画素に対して演算を行うフィルタ処理のう
ち最大の次数を有するフィルタ処理の次数をKとした場
合、テンポラリレジスタのベースレジスタ個数Pが少な
くともK(偶数次の場合)又はK+1(奇数次の場合)
以上であることを特徴とする請求項1または2に記載の
並列画像処理プロセッサである。
According to a third aspect of the present invention, in the image processing, when the order of the filter process having the maximum order among the filter processes for performing an operation on a plurality of pixels in the horizontal direction is K, the number of base registers in the temporary register P is at least K (for even order) or K + 1 (for odd order)
The parallel image processing processor according to claim 1 or 2, wherein:

【0021】本発明によれば、1周期あたりN個のデー
タからなる入力信号に対してSIMD形の画像処理を行
うにあたり、M列のベースレジスタの各ベースレジスタ
に1データづつ格納され、テンポラリレジスタに格納さ
れている前回の処理に用いたM個のデータ中の所定P個
のデータが格納され、制御手段からの制御信号に基づき
ベースレジスタのM個のデータが演算処理回路により並
列処理され、次にベースレジスタとテンポラリレジスタ
間で所定個数のデータが巡回的に転送されて、再度、制
御手段からの制御信号に基づきベースレジスタ中のM個
のデータが演算処理回路により並列処理される。ベース
レジスタのM個のデータに関して影響なく処理終了した
後に、所定P個のデータが、テンポラリレジスタに保存
され、ベースレジスタには新たに次のM個のデータが格
納された後に上記の処理が繰り返し行われる。
According to the present invention, when performing SIMD type image processing on an input signal consisting of N data per cycle, one data is stored in each base register of M columns of base registers, and a temporary register is stored. A predetermined P data of the M data used in the previous processing stored in the previous processing are stored, and the M data of the base register are processed in parallel by the arithmetic processing circuit based on a control signal from the control means, Next, a predetermined number of data is cyclically transferred between the base register and the temporary register, and M data in the base register are again processed in parallel by the arithmetic processing circuit based on a control signal from the control means. After the processing is completed without affecting the M data of the base register, predetermined P data is stored in the temporary register, and the above processing is repeated after the next M data is newly stored in the base register. Done.

【0022】[0022]

【発明の実施の形態】以下、図面を参照して本発明の実
施形態を詳細に説明する。図1は、並列画像処理プロセ
ッサの概略ブロック図を示しており、演算処理手段2と
レジスタAおよびBより構成される演算処理部1、前記
レジスタA/Bに対応して巡回的にデータ転送を可能と
しているテンポラリレジスタTA/TBおよび前記演算
処理部1とテンポラリレジスタTA/TBを制御するプ
ログラム制御部3から構成され、1周期あたりN個のデ
ータからなる入力信号DATAに対してSIMD(Sing
le instruction multiple data stream)形の画像処理を
行ものである。
Embodiments of the present invention will be described below in detail with reference to the drawings. FIG. 1 is a schematic block diagram of a parallel image processing processor. An arithmetic processing unit 2 and an arithmetic processing unit 1 including registers A and B perform data transfer cyclically in correspondence with the registers A / B. SIMD (Sing) is performed on an input signal DATA consisting of a temporary register TA / TB, an arithmetic processing unit 1 and a program control unit 3 for controlling the temporary register TA / TB.
le instruction multiple data stream) type image processing.

【0023】演算処理手段2は、M個の演算処理回路を
並列に設けたものであって、各演算回路はレジスタA,
Bとそれぞれ接続されており、プログラム制御部3から
の処理命令によりレジスタA,B内のデ−タの処理、例
えばFIRフィルタ処理を行うものである。
The arithmetic processing means 2 is provided with M arithmetic processing circuits in parallel.
B, respectively, and performs processing of data in the registers A and B, for example, FIR filter processing, according to a processing instruction from the program control unit 3.

【0024】レジスタAおよびレジスタBは、複数ビッ
トのレジスタを有するベースレジスタを並列にM個設け
たレジスタであり、プログラム制御部3からの処理命令
により各ベースレジスタに格納するデ−タを、隣り合う
ベースレジスタにシフト可能とするものである。
Each of the registers A and B is a register in which M base registers each having a plurality of bits of registers are provided in parallel, and data to be stored in each base register in accordance with a processing instruction from the program control unit 3 is adjacent to the registers A and B. It is possible to shift to a matching base register.

【0025】なお、演算処理部1は、前記したように演
算処理手段2、レジスタAおよびレジスタBにより構成
されるものであるが、より詳しくは1データ単位の演算
処理ユニットU(1の演算回路、レジスタA、Bの各1
ベースレジスタ)をM個並列に接続した構成をなしてい
る。
The arithmetic processing section 1 is composed of the arithmetic processing means 2, the register A and the register B as described above. More specifically, the arithmetic processing unit U (1 arithmetic circuit unit of 1 data unit) , Registers A and B each
(Base registers) are connected in parallel.

【0026】テンポラリレジスタTA、TBは、それぞ
れ複数のレジスタを有するベースレジスタをP列並列に
設けたレジスタであり、前記したレジスタA、Bと同様
に各ベースレジスタに格納するデ−タを、隣り合うベー
スレジスタにシフト可能とするものである。
The temporary registers TA and TB each have a plurality of base registers each having a plurality of registers arranged in parallel with P columns. Like the registers A and B, the data to be stored in each base register is adjacent to the temporary registers TA and TB. It is possible to shift to a matching base register.

【0027】また、レジスタAとテンポラリレジスタT
Aは、それぞれのレジスタ内でデ−タのシフトが可能で
あるとともに、プログラム制御部3からの制御信号に基
づきレジスタAとテンポラリレジスタTA間でも巡回的
に列方向にデータ転送が可能となっている。同様にレジ
スタBとテンポラリレジスタTB間でも巡回的に列方向
にデータ転送が可能となっている。
The register A and the temporary register T
A can shift data in each register, and can cyclically transfer data in the column direction between the register A and the temporary register TA based on a control signal from the program control unit 3. I have. Similarly, data can be cyclically transferred in the column direction between the register B and the temporary register TB.

【0028】以上説明した構成の並列画像処理プロセッ
サの動作を図2、3のブロック図を参照しつつ説明をす
る。図2、3中のステップ(1)〜(6)は、処理の順
番を示している。図2のステップ(1)の上半部の図
は、画像処理プロセッサで処理対象となる1水平走査期
間の画素数H(個)の画素データ1を示しており、画像
処理プロセッサの外部に設けられたメモリ(内蔵DRA
M)に保持されているものとする。また、ステップ
(1)の下半部には、画像処理プロセッサを構成するレ
ジスタA、およびレジスタAに接続するテンポラリレジ
スタTAに格納されたデ−タを示している。尚、演算処
理ユニットUの個数を画素数Nの1/4としている。
The operation of the above-structured parallel image processor will be described with reference to the block diagrams of FIGS. Steps (1) to (6) in FIGS. 2 and 3 indicate the order of processing. The upper half of step (1) in FIG. 2 shows the pixel data 1 of the number H (pieces) of pixels in one horizontal scanning period to be processed by the image processor, and is provided outside the image processor. Memory (built-in DRA
M). The lower half of step (1) shows data stored in a register A constituting the image processor and a temporary register TA connected to the register A. In addition, the number of the arithmetic processing units U is set to 1/4 of the number N of pixels.

【0029】先ず始めに、ステップ1において内蔵DR
AMの画素データ1の一部であるBLK#2がレジスタ
Aに転送される。このとき、テンポラリレジスタTAに
は、1サイクル前の処理においてBLK#1の画素デー
タの一部(B)、(C)が保持されているものとする。
First, in step 1, the built-in DR
BLK # 2 which is a part of the AM pixel data 1 is transferred to the register A. At this time, it is assumed that the temporary register TA holds part (B) and (C) of the pixel data of BLK # 1 in the processing one cycle before.

【0030】次に、ステップ2においてテンポラリレジ
スタTAとレジスタAが接続された状態で列方向に右に
シフトされ、レジスタAには左から各画像デ−タBLK
#1の(C)、BLK#2の(A)及びBLK#2の
(B)が保持される。また、レジスタAに保持されてい
たBLK#2の(C)部のデータは、テンポラリレジス
タTAに転送される。その後、レジスタAに保持されて
いる画素データに対しての処理が行われて、その演算処
理結果のデータはレジスタBや後述するレジスタCに格
納され、レジスタAのデータは更新されない。
Next, in step 2, while the temporary register TA and the register A are connected, they are shifted rightward in the column direction, and each image data BLK is stored in the register A from the left.
# 1 (C), BLK # 2 (A) and BLK # 2 (B) are held. Further, the data of the portion (C) of BLK # 2 held in the register A is transferred to the temporary register TA. Thereafter, processing is performed on the pixel data held in the register A, and the data resulting from the arithmetic processing is stored in the register B or a register C described later, and the data in the register A is not updated.

【0031】水平FIRフィルタの処理では、例えばi
番目の画素のFIRフィルタ出力を前記の式(1)のフ
ィルタにて作成する場合、(i−2、i−1、i、i+
1、i+2)番目の5つの画素データを使用するが、こ
れはレジスタAとテンポラリレジスタTAを接続した状
態で左右方向へのシフトを行うことでi番目の演算処理
部に必要なデータが接続される。レジスタAに保持され
ている画素データに対する水平FIRフィルタ処理で
は、フィルタ次数Kである場合に、左右にそれぞれK/
2(偶数次)、又は(K−1)/2(奇数次)画素の画
素データが必要になるが、これはPが少なくともK(偶
数次)、又はK+1(奇数次)であるP列のレジスタに
より構成されているテンポラリレジスタTAにBLK#
1の(B)部とBLK#2(C)部が保持されており、
必要な時点でレジスタAに巡回シフトにより転送される
ため、レジスタAの両端の画素に対するフィルタ処理で
の画素欠落による特性の違いは発生しない。
In the processing of the horizontal FIR filter, for example, i
In the case where the FIR filter output of the pixel at the time is created by the filter of the above equation (1), (i-2, i-1, i, i +
The (i, 2) -th five pixel data are used, and the necessary data is connected to the i-th arithmetic processing unit by performing a horizontal shift while the register A and the temporary register TA are connected. You. In the horizontal FIR filter processing on the pixel data held in the register A, when the filter order is K, the K / F
Pixel data of 2 (even order) or (K-1) / 2 (odd order) pixels is required. This is because of the P column in which P is at least K (even order) or K + 1 (odd order). BLK # in the temporary register TA configured by the register
1 (B) and BLK # 2 (C) are held,
Since the data is transferred to the register A by a cyclic shift at a necessary point in time, there is no difference in characteristics due to missing pixels in the filtering process on the pixels at both ends of the register A.

【0032】信号処理が完了後、ステップ(3)にて、
レジスタAに保持されているBLK#2の(B)部がテ
ンポラリレジスタTAに転送され、TAには、BLK#
2の(B),(C)部が保持されることになり、BLK
#2の画素データに対する処理が完了する。
After the signal processing is completed, in step (3),
The part (B) of BLK # 2 held in the register A is transferred to the temporary register TA.
2 (B) and (C) are held, and BLK
The process for the pixel data of # 2 is completed.

【0033】次に図3に移り、ステップ(4)にて、B
LK#3のデータがレジスタAに転送された後、ステッ
プ(5)、(6)の処理が行われるがこれは、図2のス
テップ(1)、(2)、(3)と同一処理となる。
Next, referring to FIG. 3, in step (4), B
After the data of LK # 3 is transferred to the register A, the processing of steps (5) and (6) is performed, which is the same as the processing of steps (1), (2) and (3) of FIG. Become.

【0034】なお、以上は入力画素データを保持してい
るレジスタAについての処理であるが、信号処理の途中
のデータを保持するレジスタBについても同じ処理動作
が可能である。
Although the above is the processing for the register A holding the input pixel data, the same processing operation can be performed for the register B holding the data in the middle of the signal processing.

【0035】以上説明した並列画像処理プロセッサで
は、信号処理の途中のFIRフィルタ処理の場合、次の
ブロックでの同じフィルタ処理のときに使用される両端
画素に対する欠落画素に相当する画素データをテンポラ
リレジスタTA/TBに退避させておく。そして次のブ
ロックのデータをレジスタA/Bに入力し、途中のFI
Rフィルタの演算を行う直前に、レジスタA/Bのデー
タと1周期前に作成されたテンポラリレジスタTA/T
Bのデータを巡回的にシフトすることでFIRフィルタ
における欠落画素の影響を除去することができる。ただ
し、この場合、テンポラリレジスタTA/TBに退避さ
れる画素データは、過去の処理によって作成されたもの
のみになるため、FIRフィルタの処理を行った時点で
FIRフィルタの次数Kに対してK/2画素分(偶数
次)又は(K+1)/2画素分(奇数次)、水平方向に
位相が遅れたデータが作成されることになるが、レジス
タA/Bと同様に処理を行うブロックとブロックの境界
のデータについての画素の特性劣化は発生しない。
In the parallel image processor described above, in the case of FIR filter processing in the middle of signal processing, pixel data corresponding to missing pixels at both ends used in the same filter processing in the next block is stored in a temporary register. Save to TA / TB. Then, the data of the next block is input to the registers A / B, and the intermediate FI
Immediately before performing the operation of the R filter, the data in the register A / B and the temporary register TA / T created one cycle before
By cyclically shifting the B data, the effect of missing pixels in the FIR filter can be removed. However, in this case, the pixel data saved in the temporary register TA / TB is only the pixel data created by the past processing. Therefore, at the time when the FIR filter processing is performed, the order K / K of the order K of the FIR filter is obtained. Two-pixel (even-order) or (K + 1) / 2-pixel (odd-order) data whose phase is delayed in the horizontal direction is created. Blocks that perform processing in the same manner as the registers A / B No degradation of pixel characteristics occurs for data at the boundary of.

【0036】次に以上説明した並列画像処理プロセッサ
のより詳細な説明をする。図4には、演算処理部1とテ
ンポラリレジスタTA/TBを含めた並列処理アレイ部
4のブロック図、図5にはプログラム制御部3のブロッ
ク図、図6には演算処理部1の1組のアレイ部Uのブロ
ック図及び図7にはテンポラリレジスタTAのブロック
図を示す。
Next, the parallel image processor described above will be described in more detail. FIG. 4 is a block diagram of the parallel processing array unit 4 including the arithmetic processing unit 1 and the temporary registers TA / TB, FIG. 5 is a block diagram of the program control unit 3, and FIG. 7 and FIG. 7 are block diagrams of the temporary register TA.

【0037】図4において、レジスタAはレジスタバン
ク#1と#2に分かれており、セレクタ5を介して画像
処理プロセッサの外部バスであるローカルバスにいずれ
か1つのレジスタバンク#1/#2が接続されている。
ローカルバスに接続されていないレジスタバンクは、レ
ジスタB、演算部2にセレクタ6を介して接続されてい
る。
In FIG. 4, register A is divided into register banks # 1 and # 2, and one of register banks # 1 / # 2 is connected via a selector 5 to a local bus which is an external bus of the image processor. It is connected.
Register banks not connected to the local bus are connected to the register B and the operation unit 2 via the selector 6.

【0038】また、テンポラリレジスタTAにもレジス
タバンク#1/#2のいずれか1つが接続されるように
なっており、列方向に巡回的にデータ転送を行うことが
可能である。レジスタBは、演算部2、レジスタAに接
続され、さらにテンポラリレジスタTBにも巡回的にデ
ータ転送が可能なように接続されている。
One of the register banks # 1 / # 2 is also connected to the temporary register TA, so that data can be cyclically transferred in the column direction. The register B is connected to the arithmetic unit 2 and the register A, and is also connected to the temporary register TB so that data can be cyclically transferred.

【0039】演算部2の下方には、処理データの一時保
持用のレジスタCが設けられている。図の右端の各制御
信号やデータバス(DA)〜(DH)は、図5のプログ
ラム制御部7に接続されている。
Below the operation unit 2, a register C for temporarily storing processing data is provided. Each control signal and data buses (DA) to (DH) at the right end in the figure are connected to the program control unit 7 in FIG.

【0040】図5は、プログラム制御部3であり、制御
用プログラムを格納するプログラム用RAM(Random ac
cess memory)7、ワークRAM8、プログラムカウンタ
9とその制御部10、演算部(ALU(Arithmetic and
Logical Unit)/MLT((乗算器)Multiplier)11お
よび外部との制御を行うDMA(Direct memory access)
コントローラ12にて構成される。
FIG. 5 shows a program control unit 3, which is a program RAM (Random ac) for storing a control program.
process memory 7, work RAM 8, program counter 9 and its control unit 10, and arithmetic unit (ALU (Arithmetic and
Logical Unit) / MLT ((Multiplier) Multiplier) 11 and DMA (Direct Memory Access) for external control
It is composed of a controller 12.

【0041】図6は、図4に示した並列処理アレイ部4
内のアレイ1組(それぞれ下付き文字(2)を付して区
別する)を示したものである。ベースレジスタA2、ベ
ースレジスタB2、ベースレジスタC2の構成は、例とし
て複数ビットのレジスタDFF(0)、DFF(1)、
DFF(2)、DFF(3)の4ワードからなるベース
レジスタの場合を示している。尚、上記ベースレジスタ
は、4ワードに限定されるものではない。
FIG. 6 shows the parallel processing array unit 4 shown in FIG.
In FIG. 1 (each is distinguished by adding a subscript ( 2 )). The configuration of the base register A 2 , the base register B 2 , and the base register C 2 is, for example, a multi-bit register DFF (0), DFF (1),
A case of a base register including four words of DFF (2) and DFF (3) is shown. The base register is not limited to four words.

【0042】ベースレジスタA2の出力は、左右の隣り
合うアレイのベースレジスタA2につながるようになっ
ており左右への列方向のデータ転送を行う機能を有す
る。また、ベースレジスタA2の出力は、セレクタ13
を介して演算部B2の入力に接続されている。ベースレ
ジスタB2もベースレジスタA2と同様に、出力は左右の
隣り合うアレイのベースレジスタB2につながるように
なっており左右への列方向のデータ転送を行う機能を有
する。
The output of the base register A 2 has a function of performing a column direction of the data transfer to the left and right are adapted to lead to base register A 2 of the right and left adjacent array. The output of the base register A 2 is
It is connected to the input of the arithmetic unit B 2 via the. Like the base register B 2 also base register A 2, the output has a function of performing a column direction of the data transfer to the left and right are adapted to lead the base register B 2 array adjacent the left and right.

【0043】また、ベースレジスタB2の出力は、演算
部32の入力に接続されている。演算部32の図面下方に
は、ベースレジスタC2があり、演算部32とレジスタを
介して入力に接続されている。
[0043] The output of the base register B 2 is connected to an input of the arithmetic unit 3 2. The figures below the operation portion 3 2, there are base register C 2, is connected to the input via the operation section 3 2 register.

【0044】演算部32では、各ベースレジスタA2、B
2、C2、およびコモンデータバスを通じてプログラム制
御部3から送られる全アレイ共通のデータを選択するセ
レクタ14と乗算器15、ALU16、ステータスレジ
スタ17により構成される。ALU16およびステータ
スレジスタ17の出力は、ベースレジスタA2、ベース
レジスタB2、ベースレジスタC2の入力につながってお
り、コントロール信号によってプログラムにより選択さ
れたレジスタに書き込まれる。
[0044] The arithmetic unit 3 2, each base register A 2, B
2 , C 2 , and a selector 14 for selecting data common to all arrays sent from the program control unit 3 through the common data bus, a multiplier 15, an ALU 16, and a status register 17. Outputs of the ALU 16 and the status register 17 are connected to inputs of a base register A 2 , a base register B 2 , and a base register C 2 , and are written into a register selected by a program by a control signal.

【0045】図7は、テンポラリレジスタTA/TBの
詳細図である。例として、複数ビットのレジスタDFF
を4ワード並べたものを列方向に3列並べた構成のもの
を示している。各ベースレジスタTA2/TB2間は、隣
り合うレジスタに対してデータの転送が行えるようにな
っており、テンポラリレジスタの両端のレジスタTA2
/TB2の入出力は、レジスタA/Bの両端のベースレ
ジスタA2/B2に接続されることで、レジスタA/Bと
テンポラリレジスタTA/TBが巡回的にデータ転送が
行えるようになっている。
FIG. 7 is a detailed diagram of temporary register TA / TB. As an example, a multi-bit register DFF
Are arranged in three columns in the column direction. Between each base register TA 2 / TB 2 , data can be transferred to an adjacent register, and registers TA 2 at both ends of the temporary register are used.
/ O of TB 2, by being connected to the base register A 2 / B 2 at both ends of the register A / B, the register A / B and the temporary register TA / TB is able to perform the cyclically data transfer ing.

【0046】以上説明したように、テンポラリレジスタ
TA/TBを設けることにより、水平FIRフィルタ処
理において発生する処理対象の画素データの両端で発生
する画素欠落による特性劣化を無くすことができ、画像
処理プロセッサでの処理単位を1水平期間に限定するこ
となく分割処理が可能となり、任意の水平画素数の画像
の処理が可能な固定アレイ数の画像処理プロセッサが実
現できた。
As described above, by providing the temporary register TA / TB, it is possible to eliminate the characteristic deterioration due to the pixel omission occurring at both ends of the pixel data to be processed, which occurs in the horizontal FIR filter processing. Thus, division processing can be performed without limiting the processing unit to one horizontal period, and an image processor with a fixed array number capable of processing an image with an arbitrary number of horizontal pixels can be realized.

【0047】なお、前記の実施形態では本発明の好適例
を説明したが、本発明はこれに限定されるものではない
ことはもちろんである。例えば、本実施形態では、複数
列のベースレジスタからなり、列方向に巡回的にデータ
転送を可能とするレジスタとテンポラリレジスタのセッ
トとして、レジスタAとテンポラリレジスタTA、及び
レジスタBとテンポラリレジスタTBの2組のセットを
設けて説明したが、少なくとも1組以上設けていれば本
発明の実施は可能である。
Although the preferred embodiment of the present invention has been described in the above embodiment, it goes without saying that the present invention is not limited to this. For example, in the present embodiment, as a set of a register and a temporary register which are composed of a plurality of columns of base registers and which can cyclically transfer data in the column direction, a register A and a temporary register TA, and a register B and a temporary register TB are set. Although two sets have been described, the present invention can be implemented as long as at least one set is provided.

【0048】[0048]

【発明の効果】以上説明したように本発明によれば、ベ
ースレジスタとの間で所定個数のデータを巡回的に転送
可能とするテンポラリレジスタを設けたことにより、1
周期あたりN個のデータからなる入力信号に対して、N
個より少ないM列のベースレジスタを用いた水平FIR
フィルタ処理を行っても、従来発生していた画素データ
両端の画素欠落による特性劣化を無くすことができた。
よって、画像処理プロセッサでの処理単位を従来のよう
に1水平期間に限定することなく分割処理が可能となっ
たので、水平画素数の画像の処理を任意の固定アレイ数
の画像処理プロセッサにより実現可能となり、処理速度
の高速化に伴って装置の小型化、更なる高機能化を実現
できる。
As described above, according to the present invention, the provision of the temporary register capable of cyclically transferring a predetermined number of data to and from the base register is provided.
For an input signal consisting of N data per cycle, N
Horizontal FIR using less than M columns of base registers
Even if the filtering process is performed, it is possible to eliminate the characteristic deterioration caused by the missing pixels at both ends of the pixel data, which has conventionally occurred.
Therefore, since the division processing can be performed without limiting the processing unit in the image processor to one horizontal period as in the related art, the processing of the image having the number of horizontal pixels is realized by the image processor having an arbitrary fixed array number. This makes it possible to realize a smaller apparatus and a higher function as the processing speed increases.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施形態にかかる並列画像処理プロセ
ッサのブロック図である。
FIG. 1 is a block diagram of a parallel image processing processor according to an embodiment of the present invention.

【図2】本発明の実施形態にかかる並列画像処理プロセ
ッサの動作説明ブロック図である。
FIG. 2 is a block diagram illustrating an operation of the parallel image processor according to the embodiment of the present invention;

【図3】本発明の実施形態にかかる並列画像処理プロセ
ッサの図2に続く動作説明ブロック図である。
FIG. 3 is an operation explanatory block diagram following FIG. 2 of the parallel image processing processor according to the embodiment of the present invention;

【図4】本発明の実施形態にかかる並列画像処理プロセ
ッサの一部のブロック図である。
FIG. 4 is a block diagram of a part of the parallel image processor according to the embodiment of the present invention;

【図5】本発明の実施形態にかかる並列画像処理プロセ
ッサのプログラム制御部3のブロック図である。
FIG. 5 is a block diagram of a program control unit 3 of the parallel image processing processor according to the embodiment of the present invention.

【図6】本発明の実施形態にかかる並列画像処理プロセ
ッサの演算処理ユニットUのブロック図である。
FIG. 6 is a block diagram of an arithmetic processing unit U of the parallel image processing processor according to the embodiment of the present invention.

【図7】本発明の実施形態にかかる並列画像処理プロセ
ッサのテンポラリレジスタTA/TBのブロック図であ
る。
FIG. 7 is a block diagram of a temporary register TA / TB of the parallel image processor according to the embodiment of the present invention.

【図8】従来の並列画像処理プロセッサの処理のブロッ
ク図である。
FIG. 8 is a block diagram of processing of a conventional parallel image processing processor.

【図9】FIRフィルタの処理の説明図である。FIG. 9 is an explanatory diagram of a process of an FIR filter.

【符号の説明】[Explanation of symbols]

1 演算処理部 2 演算処理手段 3 プログラム制御部 A、B レジスタ A2、B2 ベースレジスタ TA、TB テンポラリレジスタ TA2、TB2 ベースレジスタ U 演算処理ユニット DATA 水平走査期間の画素数N個のデータReference Signs List 1 arithmetic processing unit 2 arithmetic processing means 3 program control unit A, B register A 2 , B 2 base register TA, TB temporary register TA 2 , TB 2 base register U arithmetic processing unit DATA Data of N pixels in horizontal scanning period

Claims (3)

【特許請求の範囲】[Claims] 【請求項1】 1周期あたりN個のデータからなる入
力信号に対してSIMD形の画像処理を行う並列画像処
理プロセッサにおいて、 演算処理回路とベースレジスタから構成される1データ
単位の演算処理ユニットをM個並列に接続した演算処理
部と、 ベースレジスタをP個並列に設けたテンポラリレジスタ
と、 前記演算処理部とテンポラリレジスタを制御する制御手
段とを有し、 前記M列のベースレジスタとテンポラリレジスタのP列
のベースレジスタは、それぞれ前記制御手段からの制御
信号に基づき列方向にデータの転送を行うとともに、M
列のベースレジスタとテンポラリレジスタ間でも巡回的
に列方向にデータを転送することを特徴とする並列画像
処理プロセッサ。
1. A parallel image processing processor for performing SIMD type image processing on an input signal composed of N data per cycle, comprising: a data processing unit comprising a processing circuit and a base register; An arithmetic processing unit connected in parallel with M units, a temporary register provided with P base registers in parallel, and control means for controlling the arithmetic processing unit and the temporary register; and a base register and a temporary register in the M columns The base registers in the P columns perform data transfer in the column direction based on the control signals from the control means, respectively.
A parallel image processing processor for cyclically transferring data in a column direction between a column base register and a temporary register.
【請求項2】 画像処理を行う1周期の単位が1水平走
査期間であり、1水平走査期間で処理する画素数がN個
である場合、演算処理ユニットの個数MがNより小さい
値であることを特徴とする請求項1に記載の並列画像処
理プロセッサ。
2. When the unit of one cycle for performing image processing is one horizontal scanning period, and the number of pixels to be processed in one horizontal scanning period is N, the number M of arithmetic processing units is a value smaller than N. 2. The parallel image processor according to claim 1, wherein:
【請求項3】 画像処理において、水平方向の複数画素
に対して演算を行うフィルタ処理のうち最大の次数を有
するフィルタ処理の次数をKとした場合、テンポラリレ
ジスタのベースレジスタの個数Pが少なくともK(偶数
次の場合)、又はK+1(奇数次の場合)以上であるこ
とを特徴とする請求項1または2に記載の並列画像処理
プロセッサ。
3. In image processing, if the order of a filter process having the maximum order among filter processes for performing an operation on a plurality of pixels in the horizontal direction is K, the number P of base registers of the temporary register is at least K The parallel image processor according to claim 1, wherein the number is equal to or more than (in the case of an even order) or K + 1 (in the case of an odd order).
JP18401898A 1998-06-30 1998-06-30 Parallel image processor Expired - Fee Related JP3553376B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP18401898A JP3553376B2 (en) 1998-06-30 1998-06-30 Parallel image processor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP18401898A JP3553376B2 (en) 1998-06-30 1998-06-30 Parallel image processor

Publications (2)

Publication Number Publication Date
JP2000020705A true JP2000020705A (en) 2000-01-21
JP3553376B2 JP3553376B2 (en) 2004-08-11

Family

ID=16145909

Family Applications (1)

Application Number Title Priority Date Filing Date
JP18401898A Expired - Fee Related JP3553376B2 (en) 1998-06-30 1998-06-30 Parallel image processor

Country Status (1)

Country Link
JP (1) JP3553376B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002008025A (en) * 2000-04-21 2002-01-11 Matsushita Electric Ind Co Ltd Picture element arithmetic device
JP2007073010A (en) * 2005-09-09 2007-03-22 Ricoh Co Ltd Simd processor and image processing method using the simd method processor and image processor
WO2018139177A1 (en) * 2017-01-27 2018-08-02 富士通株式会社 Processor, information processing device, and processor operation method

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002008025A (en) * 2000-04-21 2002-01-11 Matsushita Electric Ind Co Ltd Picture element arithmetic device
JP4686048B2 (en) * 2000-04-21 2011-05-18 パナソニック株式会社 Pixel arithmetic unit
JP2007073010A (en) * 2005-09-09 2007-03-22 Ricoh Co Ltd Simd processor and image processing method using the simd method processor and image processor
WO2018139177A1 (en) * 2017-01-27 2018-08-02 富士通株式会社 Processor, information processing device, and processor operation method
US10769749B2 (en) 2017-01-27 2020-09-08 Fujitsu Limited Processor, information processing apparatus, and operation method of processor

Also Published As

Publication number Publication date
JP3553376B2 (en) 2004-08-11

Similar Documents

Publication Publication Date Title
JPS6247786A (en) Exclusive memory for adjacent image processing
JP3278756B2 (en) Image processing method and apparatus
US4885787A (en) High-speed digital image processing apparatus
US4845767A (en) Image signal processor
JP3553376B2 (en) Parallel image processor
JPH1074141A (en) Signal processor
JPS63113776A (en) Conversion circuit for maximum value and minimum value of picture
JPH0522629A (en) Processor for video signal
JPS63166369A (en) Mobile vector detection circuit
JP3726971B2 (en) Parallel processor device
JP2006520152A (en) Method and system for generating a simultaneous multidimensional data stream from a one-dimensional data stream
JPH0566043B2 (en)
KR100665485B1 (en) Digital signal processor and digital signal processing method
JP2697679B2 (en) Dither image display device
JPH07264395A (en) Image reducing device
TWI406557B (en) Method and apparatus for processing image
JPS6247784A (en) Image processor
JPH04100179A (en) Image processor
JPH06274607A (en) Parallel signal processor
JP2002057994A (en) Image signal processing unit and its method
JPH0863595A (en) Method and device for rotation processing of image
JPS62263580A (en) Interpolation enlargement circuit
JPS61248164A (en) Picture processing device
JPS6373380A (en) Image processor
JPH09311934A (en) Image processor

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040427

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040428

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080514

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090514

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100514

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110514

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110514

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120514

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120514

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees