JP2000259812A - High-speed image processing method and device - Google Patents

High-speed image processing method and device

Info

Publication number
JP2000259812A
JP2000259812A JP11058969A JP5896999A JP2000259812A JP 2000259812 A JP2000259812 A JP 2000259812A JP 11058969 A JP11058969 A JP 11058969A JP 5896999 A JP5896999 A JP 5896999A JP 2000259812 A JP2000259812 A JP 2000259812A
Authority
JP
Japan
Prior art keywords
processor
data
image
storage means
speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11058969A
Other languages
Japanese (ja)
Other versions
JP3586131B2 (en
Inventor
Keiji Minagawa
圭司 皆川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
TDK Corp
Original Assignee
TDK Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by TDK Corp filed Critical TDK Corp
Priority to JP05896999A priority Critical patent/JP3586131B2/en
Publication of JP2000259812A publication Critical patent/JP2000259812A/en
Application granted granted Critical
Publication of JP3586131B2 publication Critical patent/JP3586131B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a high-speed image processor capable of high-speed access of image data by a processor parallelly to the fetching operation of the image data from an image pickup device. SOLUTION: The AD conversion output of image signals from ITV cameras 1a-1d is written to line memories 3a-3d and data for one line each in an order for the line memories 3a-3d, for the total of four lines, are read within one line period at a high speed and written to a field buffer storage device 6. The write is performed in the form of writing the data of the 1st pixel-8th pixel of the line 1 of the line memory 3a to FIFO memories #1-#8 and 9th-16th pixels to the FIFO memories #1-#8 and the data of the other line memories are written in the same form as well. The processor 8 accesses the memories #1-#8 altogether at a high speed by a 64-bit bus, reads the data for the continuous eight pixels and executes a high-speed image processing.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、ITVカメラ等の
撮像装置より出力される撮像信号から生成した画像デー
タを、高速で処理することが可能な高速画像処理方法及
び装置に関する。
[0001] 1. Field of the Invention [0002] The present invention relates to a high-speed image processing method and apparatus capable of processing image data generated from an image pickup signal output from an image pickup apparatus such as an ITV camera at a high speed.

【0002】[0002]

【従来の技術】従来のITVカメラ(工業用TVカメ
ラ)の撮像出力から生成された画像データを処理するた
めの画像処理装置の1例を図5に示す。
2. Description of the Related Art FIG. 5 shows an example of an image processing apparatus for processing image data generated from an image pickup output of a conventional ITV camera (industrial TV camera).

【0003】この図において、20はITVカメラであ
り、25-1,25-2,25-3,…,25-nは双方向3ス
テートバッファ26,27、画像メモリ28を含む画像
メモリユニットであり、双方向3ステートバッファ2
6,27、画像メモリ28間はバス幅8ビットのデータ
バス36で接続されている。また、同期信号発生/アド
レスカウンタ回路22から生成された同期信号30はI
TVカメラ20に供給され、画像取り込みのタイミング
が制御される。
In FIG. 1, reference numeral 20 denotes an ITV camera, and 25-1, 25-2, 25-3,..., 25-n denote image memory units including bidirectional three-state buffers 26, 27 and an image memory 28. Yes, bidirectional 3-state buffer 2
6, 27 and the image memory 28 are connected by a data bus 36 having a bus width of 8 bits. The synchronization signal 30 generated from the synchronization signal generation / address counter circuit 22 is
The image is supplied to the TV camera 20, and the timing of image capture is controlled.

【0004】画像取込時は、ITVカメラ20からの画
像信号29をA/Dコンバータ21でディジタル信号に
変換した後、データバス34、双方向3ステートバッフ
ァ26を介して画像メモリ28に書き込む動作が行われ
る。データバス34の各画像メモリユニットへの分岐部
分のバス幅は8ビットとなっている。この際、画像メモ
リ28の画像メモリアドレス33は、アドレス切替器2
3によって同期信号発生/アドレスカウンタ回路22の
出力であるアドレスカウンタ出力31が接続、選択され
る。
At the time of image capture, an image signal 29 from the ITV camera 20 is converted into a digital signal by the A / D converter 21 and then written into the image memory 28 via the data bus 34 and the bidirectional three-state buffer 26. Is performed. The bus width of the branch portion of the data bus 34 to each image memory unit is 8 bits. At this time, the image memory address 33 of the image memory 28 is
3, an address counter output 31 which is an output of the synchronization signal generation / address counter circuit 22 is connected and selected.

【0005】一方、画像処理時には、プロセッサ24に
おいて処理する画素に対応するアドレスを生成し、この
アドレスをアドレスバス32に載せアドレス切替器23
を介して画像メモリアドレス33に接続する。画像メモ
リ28からの出力は、双方向3ステートバッファ27を
介しデータバス35からプロセッサ24に読み込まれ
る。データバス35のプロセッサ24側のバス幅は8×
n(n:画像メモリユニットの個数)となる。ここで、
プロセッサ24からの画像データのアクセスを高速にし
ようとすると、システム全体のクロック周波数を上げる
か、特開平3−75881号公報の公知例のようにデー
タバス幅を拡張する方法が考えられる。
On the other hand, at the time of image processing, an address corresponding to a pixel to be processed is generated in a processor 24, and this address is placed on an address bus 32 to place an address switch 23
To the image memory address 33 via The output from the image memory 28 is read from the data bus 35 to the processor 24 via the bidirectional three-state buffer 27. The bus width of the data bus 35 on the processor 24 side is 8 ×
n (n: number of image memory units). here,
In order to increase the speed of accessing image data from the processor 24, a method of increasing the clock frequency of the entire system or extending the data bus width as disclosed in Japanese Patent Application Laid-Open No. 3-75881 can be considered.

【0006】しかしながら、クロック周波数を上げても
画像メモリのアクセスタイムや実装技術上の問題である
程度の限界がある。また、データバス幅を拡張し数画素
分を1回でアクセスする方式にしても、画像取込手段に
おいて画素単位で連続してデータが転送されてくるため
前記公知例とは異なる。なお、これを解決する方策とし
て、特開昭61−125275号公報にあるように複数
個の処理ユニットと処理ユニット間の処理速度を緩衝す
るための複数個のFIFO(First In FirstOut)メモ
リを備えたものが挙げられる。
However, even if the clock frequency is increased, there is a certain limit due to problems in the access time of the image memory and the mounting technology. Further, even in a system in which the data bus width is expanded and several pixels are accessed at one time, the data is continuously transferred in pixel units in the image capturing means, which is different from the known example. As a measure to solve this, a plurality of processing units and a plurality of FIFO (First In First Out) memories for buffering the processing speed between the processing units are provided as disclosed in JP-A-61-125275. One.

【0007】これを今回の構成に取込むと、画像ユニッ
ト25を複数個用意し、プロセッサ24のバス幅にあわ
せてデータバス35を拡張して、複数個の画像ユニット
25分の画素数を1回で読み込むことにより画像処理時
間を短縮化する方式が考えられるが、構成部品点数が増
大し、複数台のITVカメラに対応しようとするとさら
に画像処理装置自体が非常に高価なものとなる欠点があ
る。
When this is incorporated into the present configuration, a plurality of image units 25 are prepared, and the data bus 35 is expanded according to the bus width of the processor 24 so that the number of pixels for the plurality of image units 25 is reduced by one. A method of shortening the image processing time by reading in multiple times is conceivable, but the disadvantage is that the number of component parts increases and the image processing device itself becomes very expensive when trying to support multiple ITV cameras. is there.

【0008】[0008]

【発明が解決しようとする課題】上記のように、従来装
置の構成では、プロセッサ24からの画像データの高速
アクセスを実現しようとすると、構成部品点数が増大す
るため高価になり小型化も難しいという面を持ってい
た。
As described above, according to the structure of the conventional apparatus, if it is intended to realize high-speed access to image data from the processor 24, the number of components increases, which makes it expensive and difficult to reduce the size. Had a face.

【0009】本発明は、かかる従来技術の欠点を除去し
ようとするもので、1台以上の撮像装置から画像データ
を同時にまたは個別に取込が可能であり、プロセッサか
らの画像データアクセス動作を、撮像装置からの画像デ
ータの取込動作と並列的に実行可能としながらも、極力
構成部品点数の増大を抑えて低コストとし、更に、高速
かつフレキシビリティのある処理動作を可能とした高速
画像処理方法及び装置を提供することを目的とするもの
である。
The present invention is intended to eliminate the disadvantages of the prior art, and can simultaneously or individually acquire image data from one or more imaging devices. High-speed image processing that can be executed in parallel with the operation of capturing image data from the imaging device, while minimizing the increase in the number of component parts to reduce costs and achieve high-speed and flexible processing operations It is an object to provide a method and an apparatus.

【0010】本発明のその他の目的や新規な特徴は後述
の実施の形態において明らかにする。
[0010] Other objects and novel features of the present invention will be clarified in embodiments described later.

【0011】[0011]

【課題を解決するための手段】本願請求項1の高速画像
処理方法は、撮像装置と、該撮像装置にインターフェー
スを介して接続された記憶手段と、プロセッサとを用
い、前記プロセッサは、前記記憶手段をアクセスして当
該プロセッサのバス幅に対応した出力ビット数で読出デ
ータを一括して取り込み、前記記憶手段は前記撮像装置
からの画像データを取り込む際に前記プロセッサによる
当該記憶手段の一括アクセス動作において、1回のアク
セスで得られる複数個の画素データが、ただ1つの撮像
装置からの画素データのみで構成されるように設定した
ことを特徴としている。
According to a first aspect of the present invention, there is provided a high-speed image processing method using an image pickup apparatus, storage means connected to the image pickup apparatus via an interface, and a processor. Means for accessing the means and collectively taking in the read data with the number of output bits corresponding to the bus width of the processor, wherein the storage means performs a collective access operation of the storage means by the processor when the image data is taken in from the imaging device. Is characterized in that a plurality of pixel data obtained by one access is set to be constituted only by pixel data from only one imaging device.

【0012】本願請求項2の高速画像処理装置は、プロ
セッサと、撮像装置を接続するインターフェースを介し
て前記撮像装置からの画像データを取り込んで記憶する
とともに前記プロセッサのバス幅に対応した出力ビット
数で読出データを並列出力可能な記憶手段とを備え、前
記プロセッサは、前記記憶手段をアクセスして当該プロ
セッサのバス幅に対応した出力ビット数で読出データを
一括して取り込むことを特徴としている。
According to a second aspect of the present invention, there is provided a high-speed image processing apparatus which captures and stores image data from an image pickup device via an interface connecting the processor and the image pickup device, and outputs the number of output bits corresponding to a bus width of the processor. And a storage means capable of outputting read data in parallel, wherein the processor accesses the storage means and fetches the read data collectively with the number of output bits corresponding to the bus width of the processor.

【0013】本願請求項3の高速画像処理装置は、プロ
セッサと、複数台の撮像装置を接続するインターフェー
スと、該インターフェースに接続される個々の撮像装置
に対応して設けられ、対応する撮像装置からの画像デー
タを取り込んで一時蓄積しておくための複数個の前段記
憶手段と、該複数個の前段記憶手段の後段に設けられ、
前記プロセッサのバス幅に対応した出力ビット数で読出
データを並列出力可能な後段記憶手段とを備え、前記複
数個の前段記憶手段に蓄積された画像データを、個々の
前段記憶手段毎に所定データ量づつ順次に蓄積時よりも
高速で読み出して前記後段記憶手段へ転送して書き込
み、前記プロセッサは前記後段記憶手段をアクセスして
当該プロセッサのバス幅に対応した出力ビット数で読出
データを一括して取り込むことを特徴としている。
According to a third aspect of the present invention, there is provided a high-speed image processing apparatus provided with a processor, an interface for connecting a plurality of imaging devices, and an individual imaging device connected to the interface. A plurality of pre-stage storage means for fetching and temporarily storing image data, and provided at a subsequent stage of the plurality of pre-stage storage means,
Post-storage means capable of outputting read data in parallel with the number of output bits corresponding to the bus width of the processor, wherein the image data stored in the plurality of pre-storage means is stored in a predetermined data The data is sequentially read out at a higher speed than at the time of accumulation, transferred to the latter-stage storage means, and written.The processor accesses the latter-stage storage means and collectively reads out read data with the number of output bits corresponding to the bus width of the processor. It is characterized by taking in.

【0014】本願請求項4の高速画像処理装置は、請求
項3において、前記複数個の前段記憶手段を、それぞれ
非同期のFIFOメモリで構成している。
According to a fourth aspect of the present invention, in the high-speed image processing apparatus according to the third aspect, each of the plurality of pre-stage storage units is constituted by an asynchronous FIFO memory.

【0015】本願請求項5の高速画像処理装置は、請求
項3又は4において、前記後段記憶手段が、複数個の非
同期のFIFOメモリを備え、各FIFOメモリの出力
ビット数の総和が前記プロセッサのバス幅に対応してい
る構成である。
According to a fifth aspect of the present invention, in the high-speed image processing apparatus according to the third or fourth aspect, the post-stage storage means comprises a plurality of asynchronous FIFO memories, and the sum of the number of output bits of each FIFO memory is determined by the processor. The configuration corresponds to the bus width.

【0016】本願請求項6の高速画像処理装置では、請
求項5において、前記後段記憶手段の備える各FIFO
メモリへの書込データは、前記プロセッサによる各FI
FOメモリの一括アクセス動作において、1回のアクセ
スで得られる複数個の画素データが、ただ1つの撮像装
置からの画素データのみで構成されるように設定されて
いる。
According to a sixth aspect of the present invention, in the high-speed image processing apparatus according to the fifth aspect, each FIFO provided in the subsequent storage means is provided.
The write data to the memory is stored in each FI by the processor.
In the batch access operation of the FO memory, a plurality of pixel data obtained by one access is set so as to be composed of only pixel data from only one imaging device.

【0017】本願請求項7の高速画像処理装置は、前記
請求項1〜6において、前記インターフェースに接続さ
れた複数台の撮像装置のうち所望の撮像装置からの画像
データのみを選択して取り込むことを可能にするための
選択手段を備えている。
According to a seventh aspect of the present invention, there is provided the high-speed image processing apparatus according to the first to sixth aspects, wherein only the image data from a desired one of the plurality of imaging devices connected to the interface is selected and captured. Selection means for enabling the following.

【0018】[0018]

【発明の実施の形態】本発明は、画像データを、プロセ
ッサの拡張されたバス幅に対応した出力ビット数で読出
データを並列出力可能な記憶手段に一旦取り込んでか
ら、この取り込まれたデータを取込み動作と並行して前
記プロセッサにより連続した複数画素単位でアクセスで
きるようにしたものであり、以下に、本発明に係る高速
画像処理方法及び装置の実施の形態を図面に従って説明
する。
DESCRIPTION OF THE PREFERRED EMBODIMENTS The present invention relates to a method for temporarily storing image data in storage means capable of outputting read data in parallel with the number of output bits corresponding to the expanded bus width of a processor, and then storing the captured data. The processor can be accessed in units of a plurality of continuous pixels by the processor in parallel with the capture operation. Hereinafter, embodiments of the high-speed image processing method and apparatus according to the present invention will be described with reference to the drawings.

【0019】図1は、本発明による高速画像処理装置の
一実施の形態を示すブロック構成図であり、かかる実施
の形態の動作を表す図2及び図3のタイムチャートを参
照しながら本実施の形態を説明する。
FIG. 1 is a block diagram showing one embodiment of a high-speed image processing apparatus according to the present invention. The present embodiment will be described with reference to time charts of FIGS. 2 and 3 showing the operation of this embodiment. The form will be described.

【0020】本実施の形態は、撮像装置としてNTSC
方式の4台のITVカメラ1a〜1dを用いており、こ
れらのITVカメラ1a〜1dから入力された画像信号
9a〜9dは、それぞれ撮像装置接続用のインターフェ
ースを構成するA/Dコンバータ2a〜2dによってサ
ンプリング周波数10MHz、量子化ビット数8ビット
でディジタル画像データに変換された後、前段記憶手段
としてのラインメモリ(FIFOメモリ)3a〜3dに
送られる。一方、プロセッサ(CPU)8から同期信号
発生回路/アドレスカウンタ回路4に図2に示される画
像取込開始信号16が送られ、取込みが可能な状態にな
ると同期信号発生回路/アドレスカウンタ回路4は、メ
モリR/W制御回路5に対して図2に示される512サ
ンプル分のパルス幅を持つ有効画素領域信号18を送
る。
This embodiment uses an NTSC as an imaging device.
The system uses four ITV cameras 1a to 1d, and the image signals 9a to 9d input from these ITV cameras 1a to 1d are respectively A / D converters 2a to 2d which constitute an interface for connecting an imaging device. Is converted into digital image data at a sampling frequency of 10 MHz and a quantization bit number of 8 bits, and then sent to line memories (FIFO memories) 3a to 3d as pre-stage storage means. On the other hand, the image capture start signal 16 shown in FIG. 2 is sent from the processor (CPU) 8 to the synchronization signal generation circuit / address counter circuit 4, and when the capture is possible, the synchronization signal generation circuit / address counter circuit 4 The effective pixel area signal 18 having a pulse width of 512 samples shown in FIG. 2 is sent to the memory R / W control circuit 5.

【0021】ここで、メモリR/W制御回路5は、図2
の如くラインメモリ3a〜3dへの画像データの書込み
を実行させるための画像取込信号10、これらのライン
メモリからの画像データの読出しを実行させるためのラ
インメモリ読出信号17、及びこれらのラインメモリか
ら読み出した画像データを後段記憶手段としてのフィー
ルドバッファ記憶装置6へ書き込む動作を実行させるた
めのフィールドバッファ書込信号を生成する機能を持つ
と共に、4台のITVカメラのそれぞれに対応した取込
許可レジスタを備え、これらの取込許可レジスタのう
ち、画像処理が実行されるべきITVカメラに対応した
取込許可レジスタにのみ取込み許可を指示するコードが
プロセッサ8によって予め格納されされている。なお、
この実施の形態の動作においては、後述するようにIT
Vカメラ1c以外のカメラについてのみ画像処理を実行
するように取込許可レジスタに許可コードが格納されて
いる。
Here, the memory R / W control circuit 5 is configured as shown in FIG.
, An image capture signal 10 for writing image data to the line memories 3a to 3d, a line memory read signal 17 for reading image data from these line memories, and these line memories Has a function of generating a field buffer write signal for executing an operation of writing the image data read out from the memory into the field buffer storage device 6 as the subsequent storage means, and has a capture permission corresponding to each of the four ITV cameras. The processor 8 has a register, and a code for instructing the capture permission only in the capture permission register corresponding to the ITV camera on which the image processing is to be executed is stored by the processor 8 in advance. In addition,
In the operation of this embodiment, as described later,
A permission code is stored in the capture permission register so that image processing is executed only for cameras other than the V camera 1c.

【0022】そして、メモリR/W制御回路5は、同期
信号発生回路/アドレスカウンタ回路4から前述の有効
画素領域信号18が入力されると、ラインメモリ(FI
FO)3a〜3dのうち取込許可コードが格納されてい
る取込許可レジスタに対応したラインメモリへのみ、有
効画素領域期間に亘り図2に示される画像取込信号10
を送り、書き込みを実行する。
When the effective pixel area signal 18 is input from the synchronization signal generation circuit / address counter circuit 4 to the memory R / W control circuit 5, the line memory (FI)
FO) 3a to 3d, only to the line memory corresponding to the capture permission register in which the capture permission code is stored, over the effective pixel area period, the image capture signal 10 shown in FIG.
To execute writing.

【0023】1ライン目の書込みが終了して2ライン目
の期間に入ると、ラインメモリへの書込み動作だけでな
く、最初のライン期間にラインメモリに書き込まれた画
像データを読み出して、フィールドバッファ記憶装置6
へ書き込む動作も実行される。
When the writing of the first line is completed and the period of the second line is started, not only the writing operation to the line memory but also the image data written to the line memory during the first line period is read and the field buffer is read. Storage device 6
The operation of writing to is also performed.

【0024】ここで、各ラインメモリからの画像データ
の読出は、図2のラインメモリ読出信号17に示される
ように、まず、ラインメモリ3aから1ライン分の画像
データ(画像1)を読出し、この読出し動作が終了した
ら次に、ラインメモリ3bから1ライン分の画像データ
(画像2)を読出し、最後に、ラインメモリ3dから1
ライン分の画像データ(画像4)の読出を実行する。
Here, image data is read from each line memory, as shown by the line memory read signal 17 in FIG. 2, first, one line of image data (image 1) is read from the line memory 3a. When this read operation is completed, next, one line of image data (image 2) is read from the line memory 3b, and finally, one line of image data is read from the line memory 3d.
The reading of the image data (image 4) for the line is executed.

【0025】なお、本実施の形態では、NTSC方式の
ITVカメラを想定し、NTSC方式の1ラインは6
3.5μsに規定されているから、有効画素領域を10
MHzで512サンプリングした場合にラインメモリ3
a〜3dから画像データを読み出すためのラインメモリ
読出信号17のクロック周波数を、図2における拡大図
に示されているように33MHzに設定すれば、1ライ
ン分の画像データの読出しに要する時間は15.36μ
sであり、最大4カメラ分の2048画素の全ラインデ
ータを読み出す場合であっても61.5μs、即ち、N
TSC方式の1ライン期間以内で読出を完了することが
可能である。即ち、全カメラの1ライン分の画像データ
を、常に1ラインの遅れでフィールドバッファ記憶装置
6へ全て転送することができる。
In this embodiment, an NTSC ITV camera is assumed, and one line of the NTSC system is 6 lines.
The effective pixel area is set to 10
Line memory 3 when 512 sampling is performed at MHz
If the clock frequency of the line memory read signal 17 for reading image data from a to 3d is set to 33 MHz as shown in the enlarged view of FIG. 2, the time required to read one line of image data is 15.36μ
s, and 61.5 μs, that is, N
Reading can be completed within one line period of the TSC system. That is, the image data for one line of all cameras can always be transferred to the field buffer storage device 6 with a delay of one line.

【0026】また、図1に示されるように、プロセッサ
8は、64ビットのデータ・バス幅を持ち、フィールド
バッファ記憶装置6は、8個の出力ビット数8ビットの
フィールドバッファメモリ(FIFOメモリ)#1〜#
8から構成されている。そして、この記憶装置6へ転送
された画像データは、次のように書込みが実行される。
As shown in FIG. 1, the processor 8 has a data bus width of 64 bits, and the field buffer storage device 6 has a field buffer memory (FIFO memory) having eight output bits of 8 bits. # 1 to #
8. Then, the image data transferred to the storage device 6 is written as follows.

【0027】即ち、フィールドバッファメモリ#1〜#
8へは、メモリR/W制御回路5から図1に示されるよ
うにフィールドバッファ書込信号12が供給され、これ
らの信号は、前述のラインメモリ読出信号17と同一の
クロック周期(同一のクロック使用)でフィールドバッ
ファメモリ#1〜#8へ順次書込クロックを供給する図
3に示されるようなフィールドバッファ書込信号S1〜
S8から成っている。
That is, the field buffer memories # 1 to #
8, a field buffer write signal 12 is supplied from the memory R / W control circuit 5 as shown in FIG. 1, and these signals have the same clock cycle (the same clock) as the line memory read signal 17 described above. 3) for sequentially supplying a write clock to the field buffer memories # 1 to # 8 as shown in FIG.
It consists of S8.

【0028】これらの書込信号S1〜S8によって、ラ
インメモリ(FIFOメモリ)3a,3b,及び3dか
ら順次転送されたデータは、まず、ラインメモリ3aか
らの画像データについて、その1画素目がフィールドバ
ッファメモリ#1に書込まれ、その2画素目はフィール
ドバッファメモリ#2へ、3画素目はフィールドバッフ
ァメモリ#3ヘと順次書込まれて行き、8画素目をフィ
ールドバッファメモリ#8に書込んだ後、9画素目から
は再びフィールドバッファメモリ#1へ戻り書込みが行
われていく。ラインメモリ3aからの1ライン分512
画素の転送データを書込んだら、次のラインメモリ3b
からの転送データを同様に書き込み、ラインメモリ3d
からの最終ラインの転送データを書込み終わるまでこの
書込み動作を継続する。
The data sequentially transferred from the line memories (FIFO memories) 3a, 3b, and 3d by these write signals S1 to S8 are as follows. The second pixel is sequentially written to the field buffer memory # 2, the third pixel is sequentially written to the field buffer memory # 3, and the eighth pixel is written to the field buffer memory # 8. After the writing, the ninth pixel returns to the field buffer memory # 1 again to perform writing. 512 for one line from the line memory 3a
After writing the transfer data of the pixel, the next line memory 3b
From the line memory 3d.
This write operation is continued until the transfer data of the last line from is written.

【0029】なお、この書込み動作の場合も、画像取込
信号10によるラインメモリ3a〜3dへの書込みの場
合と同様にして、プロセッサ8から予め設定されたカメ
ラ毎の取込許可レジスタの内容に基づき、メモリR/W
制御回路5を制御して指定されたラインメモリのデータ
のみを転送するようにしている。つまり、取込み指定の
無いラインメモリ3cから画像データ(画像3)を読み
出してフィールドバッファ記憶装置6へ書き込む動作は
実行されない(図2におけるラインメモリ読出信号17
は、この様子を示している)。これによって、プロセッ
サ8がフィールドバッファ記憶装置6に対して実行する
不要なデータアクセスの回数が低減される。
In the case of this writing operation, similarly to the case of writing to the line memories 3a to 3d by the image fetching signal 10, the contents of the pre-set fetch permission register for each camera are set by the processor 8. Based on memory R / W
The control circuit 5 is controlled to transfer only the data of the designated line memory. That is, the operation of reading out the image data (image 3) from the line memory 3c for which the capture is not specified and writing it into the field buffer storage device 6 is not executed (the line memory readout signal 17 in FIG. 2).
Shows this.) As a result, the number of unnecessary data accesses performed by the processor 8 to the field buffer storage device 6 is reduced.

【0030】一方、プロセッサ8は、メモリR/W制御
回路5からの処理ライン数信号13を監視し、取込み状
況に応じて、フィールドバッファ記憶装置6のフィール
ドバッファメモリ#1〜#8からそれぞれの1画素分を
同時に、即ち、64ビット/8画素分のデータを1回の
アクセスで取り出し、内部で演算したり、データバス1
5を介してワークメモリ及びプログラムメモリ7へDM
Aにより高速転送する事を可能にしている。また、非同
期アクセスできるFIFOメモリを採用したことによ
り、画像取込と同時に並行してデータ転送を実行するこ
とに伴うプロセッサの不要な待ち時間を除去し、より高
速な画像処理を実現している。
On the other hand, the processor 8 monitors the processing line number signal 13 from the memory R / W control circuit 5 and, depending on the fetching state, reads out the respective lines from the field buffer memories # 1 to # 8 of the field buffer storage device 6. Data for one pixel is taken out at the same time, that is, data for 64 bits / 8 pixels is taken out by one access, and an internal operation is performed.
5 to work memory and program memory 7
A enables high-speed transfer. In addition, by employing a FIFO memory that can be accessed asynchronously, unnecessary waiting time of a processor caused by executing data transfer simultaneously with image capture is eliminated, and higher-speed image processing is realized.

【0031】参考までに、ITVカメラ1a〜1dの4
台全ての画像信号について画像処理を実行した場合のフ
ィールドバッファ記憶装置6からの出力フォーマットを
図4に示す。この図に示されるように、取込んだ8画素
分のデータは、常に同一カメラからの連続したデータ構
成であることにより取込んだデータを並べ替える必要が
なく、1ライン毎にカメラ番号とライン数に対応したア
ドレスを切り替えてアドレスバス14に供給し、DMA
転送すれば、従来の画像メモリの構成と同じ構成とする
事が出来る。また、ワークメモリ及びプログラムメモリ
7のどのエリアに転送するかは、ソフトウェアで柔軟に
変更できるため必要な部分だけをメモリに貯えて置く事
も出来る。
For reference, four of the ITV cameras 1a to 1d
FIG. 4 shows an output format from the field buffer storage device 6 when the image processing is executed for all the image signals. As shown in this figure, the captured data for 8 pixels is always a continuous data configuration from the same camera, so that it is not necessary to rearrange the captured data, and the camera number and line The address corresponding to the number is switched and supplied to the address bus 14 so that the DMA
By transferring, the configuration can be the same as the configuration of the conventional image memory. Further, which area of the work memory and the program memory 7 is transferred can be flexibly changed by software, so that only necessary parts can be stored in the memory.

【0032】そして、従来のように、一回のメモリアク
セスでの画素数が少なかったり、1回のメモリアクセス
で複数画素を同時に取込めてもその中に他のカメラ画像
のデータが含まれていたりする場合には、アクセス頻度
が高くなって処理速度の低下を招いていたが、本実施の
形態では、複数画素を一括でプロセッサ8のキャッシュ
メモリに取込むことにより、プロセッサ8とワークメモ
リ及びプログラムメモリ7間の転送回数を低減し高速な
画像処理の実現を可能にしている。
As in the prior art, the number of pixels in one memory access is small, or even if a plurality of pixels can be simultaneously captured in one memory access, the data of another camera image is included in the data. In this case, the access frequency is increased and the processing speed is reduced. However, in the present embodiment, the processor 8 and the work memory and the The number of transfers between the program memories 7 is reduced, and high-speed image processing can be realized.

【0033】この実施の形態によれば、次の通りの効果
を得ることができる。
According to this embodiment, the following effects can be obtained.

【0034】(1) 前段記憶手段としてのラインメモリ
(FIFOメモリ)3a〜3dは、各ITVカメラ1a
〜1dからの画像データを連続して取込むと同時に一定
データ量を間欠的に出力する。さらに、取込み周波数よ
り出力する周波数を高くし、各前段のラインメモリの出
力期間が重ならないように制御することにより、後段記
憶手段としてのフィールドバッファメモリ(FIFOメ
モリ)#1〜#8に、すべてのITVカメラからの画像
データを取込むことを可能にしている。
(1) The line memories (FIFO memories) 3a to 3d as the pre-stage storage means are provided in each ITV camera 1a.
1d are continuously taken in, and at the same time, a fixed amount of data is output intermittently. Further, the output frequency is made higher than the capture frequency, and control is performed so that the output periods of the line memories at the preceding stages do not overlap, so that the field buffer memories (FIFO memories) # 1 to # 8 as the succeeding stage storing means can all be output. Image data from an ITV camera.

【0035】(2) 前段のラインメモリから画素単位で
送られてくるデータをプロセッサ8のバス幅(64ビッ
ト)に対応した複数個の後段のフィールドバッファメモ
リ#1〜#8(8ビット×8個=64ビット)に書き込
んで行くことにより、プロセッサ側からの後段のフィー
ルドバッファメモリ#1〜#8のアクセスはデータ幅と
一致した複数画素単位で行えることにより高速アクセス
を可能としている。
(2) The data sent from the preceding line memory in pixel units is transferred to a plurality of subsequent field buffer memories # 1 to # 8 (8 bits × 8) corresponding to the bus width (64 bits) of the processor 8. (64 bits), the processor can access the subsequent field buffer memories # 1 to # 8 in units of a plurality of pixels that match the data width, thereby enabling high-speed access.

【0036】(3) 前段及び後段の記憶手段として非同
期アクセスできるFIFOメモリを採用したことによ
り、画像取込と同時に並行してデータ転送を行い、これ
らに伴うプロセッサ8の不要な待ち時間を除去し、より
高速な画像処理を実現している。
(3) By employing a FIFO memory which can be accessed asynchronously as the pre-stage and post-stage storage means, data transfer is performed simultaneously with image capture, and unnecessary waiting time of the processor 8 associated with these is eliminated. , Realizing faster image processing.

【0037】(4) 図4のような出力フォーマットとな
るように、つまり、後段記憶手段としてのフィールドバ
ッファ記憶装置6の備える各FIFOメモリへの書込デ
ータは、プロセッサ8による各FIFOメモリの一括ア
クセス動作において、1回のアクセスで得られる複数個
の画素データが、ただ1つの撮像装置からの画素データ
のみで構成されるように設定されているから、取込んだ
データを並べ替える必要がない。
(4) Data to be written into each FIFO memory provided in the field buffer storage device 6 as a post-stage storage means is written in the output format as shown in FIG. In the access operation, a plurality of pixel data obtained by one access is set so as to be composed of only pixel data from only one imaging device, so that it is not necessary to rearrange the captured data. .

【0038】なお、以上の実施の形態では、複数台のI
TVカメラからの画像を同時に取り込めるように高速画
像処理装置を構成しているが、ITVカメラを1台のみ
接続可能として、この接続されたITVカメラからの画
像データを処理できるように画像処理装置を構成する場
合には、このITVカメラからの画像信号をAD変換し
たデータを、ラインメモリを介することなく直接フィー
ルドバッファ記憶装置へ供給する構成を採用すればよ
い。この時のフィールドバッファ記憶装置へ書き込むた
めのクロックとしては、AD変換用のクロックと同一周
期のものを用いることができ、フィールドバッファ記憶
装置の各フィールドバッファメモリに書き込まれた画像
データをプロセッサにより拡張されたバス幅でアクセス
して高速な画像処理を行うことができる。
In the above embodiment, a plurality of I
Although the high-speed image processing device is configured to simultaneously capture images from the TV camera, only one ITV camera can be connected, and the image processing device is configured to process image data from the connected ITV camera. In the case of a configuration, a configuration may be adopted in which data obtained by AD-converting the image signal from the ITV camera is directly supplied to the field buffer storage device without passing through a line memory. At this time, a clock having the same cycle as the clock for AD conversion can be used as a clock for writing to the field buffer storage device, and the image data written to each field buffer memory of the field buffer storage device is expanded by the processor. It is possible to perform high-speed image processing by accessing with the set bus width.

【0039】以上に説明した実施の形態では、撮像装置
としてITVカメラを使用しているが、これ以外の撮像
装置にも本発明の高速画像処理装置を適用できることは
勿論であり、更に、NTSC方式以外の様々なテレビジ
ョン方式の撮像装置に対しても、図2及び図3に示され
るそれぞれのパルス信号のパルス幅及び周期を適宜変更
することによって本発明の高速画像処理装置を適用する
ことができる。
In the above-described embodiment, an ITV camera is used as an imaging device. However, it is needless to say that the high-speed image processing device of the present invention can be applied to other imaging devices. It is possible to apply the high-speed image processing apparatus of the present invention to imaging devices of various television systems other than the above by appropriately changing the pulse width and the period of each pulse signal shown in FIGS. it can.

【0040】また、本発明の高速画像処理装置は、OD
Dフィールド及びEVENフィールドの画像信号を同時
に出力する撮像装置や、走査方式がインターレース走査
やノンインターレース走査の撮像装置であっても、ソフ
トウェアの設定切り換えにより容易に接続可能である。
The high-speed image processing apparatus of the present invention
Even an imaging device that simultaneously outputs the image signals of the D field and the EVEN field and an imaging device that uses an interlaced scanning or a non-interlaced scanning as a scanning method can be easily connected by setting switching of software.

【0041】以上本発明の実施の形態について説明して
きたが、本発明はこれに限定されることなく請求項の記
載の範囲内において各種の変形、変更が可能なことは当
業者には自明であろう。
Although the embodiments of the present invention have been described above, it is obvious to those skilled in the art that the present invention is not limited to the embodiments and various modifications and changes can be made within the scope of the claims. There will be.

【0042】[0042]

【発明の効果】以上詳述したように、本発明によれば、
1台以上の撮像装置から同時に、または個別にデータの
取込みが可能である。そして、取込みと並行して画像処
理を実行することを可能にすると共に、プロセッサのデ
ータアクセス回数を低減した事により、高速な画像処理
を実現している。さらに、データバス拡張に伴なう部品
点数の増大を極力抑えたことにより、安価に高速な高速
画像処理装置を構成できる。
As described in detail above, according to the present invention,
Data can be taken simultaneously or individually from one or more imaging devices. The image processing can be executed in parallel with the fetching, and the number of data accesses of the processor is reduced, thereby realizing high-speed image processing. Further, since the increase in the number of components due to the expansion of the data bus is suppressed as much as possible, a high-speed high-speed image processing apparatus can be configured at low cost.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明による高速画像処理方法及び装置の一実
施の形態のブロック回路図である。
FIG. 1 is a block circuit diagram of an embodiment of a high-speed image processing method and apparatus according to the present invention.

【図2】同実施の形態における画像取込開始信号、水平
同期信号、画像信号、有効画素領域信号、画像取込信
号、及びラインメモリ読出信号の波形を示すタイムチャ
ートである。
FIG. 2 is a time chart showing waveforms of an image capture start signal, a horizontal synchronization signal, an image signal, an effective pixel area signal, an image capture signal, and a line memory read signal in the embodiment.

【図3】同実施の形態におけるラインメモリ読出信号、
フィールドバッファ書込信号、及びプロセッサの動作を
示すタイムチャートである。
FIG. 3 shows a line memory read signal according to the embodiment;
5 is a time chart illustrating a field buffer write signal and an operation of a processor.

【図4】同実施の形態におけるフィールドバッファ記憶
装置からの出力フォーマット例の説明図である。
FIG. 4 is an explanatory diagram of an example of an output format from a field buffer storage device according to the embodiment;

【図5】従来の画像処理装置のブロック回路図である。FIG. 5 is a block circuit diagram of a conventional image processing apparatus.

【符号の説明】[Explanation of symbols]

1a〜1d,20 ITVカメラ 2a〜2d,21 A/Dコンバータ 3a〜3d ラインメモリ(FIFOメモリ) 4,22 同期信号発生/アドレスカウンタ回路 5 メモリR/W制御回路 6 フィールドバッファ記憶装置 7 ワークメモリ及びプログラムメモリ 8,24 プロセッサ 14,32,33 アドレスバス 15,34,35 データバス 23 アドレス切替器 25a〜25n 画像メモリユニット 26,27 双方向3ステートバッファ 28 画像メモリ 1a-1d, 20 ITV camera 2a-2d, 21 A / D converter 3a-3d Line memory (FIFO memory) 4,22 Synchronous signal generation / address counter circuit 5 Memory R / W control circuit 6 Field buffer storage device 7 Work memory And program memory 8,24 processor 14,32,33 address bus 15,34,35 data bus 23 address switch 25a-25n image memory unit 26,27 bidirectional 3-state buffer 28 image memory

Claims (7)

【特許請求の範囲】[Claims] 【請求項1】 撮像装置と、該撮像装置にインターフェ
ースを介して接続された記憶手段と、プロセッサとを用
い、 前記プロセッサは、前記記憶手段をアクセスして当該プ
ロセッサのバス幅に対応した出力ビット数で読出データ
を一括して取り込み、前記記憶手段は前記撮像装置から
の画像データを取り込む際に前記プロセッサによる当該
記憶手段の一括アクセス動作において、1回のアクセス
で得られる複数個の画素データが、ただ1つの撮像装置
からの画素データのみで構成されるように設定したこと
を特徴とする高速画像処理方法。
1. An image pickup apparatus, comprising: a storage unit connected to the image pickup apparatus via an interface; and a processor, wherein the processor accesses the storage unit and outputs bits corresponding to a bus width of the processor. When the image data from the image pickup device is taken in, the storage means collectively reads the read data by the number of the plurality of pieces of pixel data obtained by one access in the collective access operation of the storage means by the processor. A high-speed image processing method characterized in that the setting is made up of only pixel data from only one imaging device.
【請求項2】 プロセッサと、撮像装置を接続するイン
ターフェースを介して前記撮像装置からの画像データを
取り込んで記憶するとともに前記プロセッサのバス幅に
対応した出力ビット数で読出データを並列出力可能な記
憶手段とを備え、 前記プロセッサは、前記記憶手段をアクセスして当該プ
ロセッサのバス幅に対応した出力ビット数で読出データ
を一括して取り込むことを特徴とする高速画像処理装
置。
2. A storage capable of taking in and storing image data from the image pickup device via an interface connecting the processor and the image pickup device and reading out data in parallel with the number of output bits corresponding to the bus width of the processor. Means, wherein the processor accesses the storage means and collectively reads in read data with the number of output bits corresponding to the bus width of the processor.
【請求項3】 プロセッサと、 複数台の撮像装置を接続するインターフェースと、 該インターフェースに接続される個々の撮像装置に対応
して設けられ、対応する撮像装置からの画像データを取
り込んで一時蓄積しておくための複数個の前段記憶手段
と、 該複数個の前段記憶手段の後段に設けられ、前記プロセ
ッサのバス幅に対応した出力ビット数で読出データを並
列出力可能な後段記憶手段とを備え、 前記複数個の前段記憶手段に蓄積された画像データを、
個々の前段記憶手段毎に所定データ量づつ順次に蓄積時
よりも高速で読み出して前記後段記憶手段へ転送して書
き込み、前記プロセッサは前記後段記憶手段をアクセス
して当該プロセッサのバス幅に対応した出力ビット数で
読出データを一括して取り込むことを特徴とする高速画
像処理装置。
3. A processor, an interface for connecting a plurality of image pickup devices, and an image pickup device provided corresponding to each of the image pickup devices connected to the interface, for temporarily storing image data from the corresponding image pickup device. A plurality of pre-stage storage means, and a post-stage storage means provided at a subsequent stage of the plurality of pre-stage storage means and capable of outputting read data in parallel with an output bit number corresponding to a bus width of the processor. The image data stored in the plurality of pre-stage storage means,
A predetermined amount of data is sequentially read out for each individual pre-stage storage unit at a higher speed than at the time of accumulation, transferred to the post-stage storage unit and written, and the processor accesses the post-stage storage unit and corresponds to the bus width of the processor. A high-speed image processing apparatus characterized in that read data is fetched collectively by the number of output bits.
【請求項4】 前記複数個の前段記憶手段は、それぞれ
非同期のFIFOメモリである請求項3記載の高速画像
処理装置。
4. The high-speed image processing apparatus according to claim 3, wherein each of the plurality of preceding storage units is an asynchronous FIFO memory.
【請求項5】 前記後段記憶手段は、複数個の非同期の
FIFOメモリを備え、各FIFOメモリの出力ビット
数の総和が前記プロセッサのバス幅に対応している請求
項3又は4記載の高速画像処理装置。
5. The high-speed image according to claim 3, wherein said second-stage storage means includes a plurality of asynchronous FIFO memories, and a total sum of output bits of each FIFO memory corresponds to a bus width of said processor. Processing equipment.
【請求項6】 前記後段記憶手段の備える各FIFOメ
モリへの書込データは、前記プロセッサによる各FIF
Oメモリの一括アクセス動作において、1回のアクセス
で得られる複数個の画素データが、ただ1つの撮像装置
からの画素データのみで構成されるように設定されてい
る請求項5記載の高速画像処理装置。
6. The write data to each FIFO memory provided in the post-stage storage means is stored in each FIFO memory by the processor.
6. The high-speed image processing according to claim 5, wherein in the collective access operation of the O memory, a plurality of pixel data obtained by one access is set to be constituted only by pixel data from only one imaging device. apparatus.
【請求項7】 前記インターフェースに接続された複数
台の撮像装置のうち所望の撮像装置からの画像データの
みを選択して取り込むことを可能にするための選択手段
を備えている請求項3,4,5又は6記載の高速画像処
理装置。
7. A system according to claim 3, further comprising a selection unit configured to select and capture only image data from a desired imaging device among a plurality of imaging devices connected to the interface. , 5 or 6.
JP05896999A 1999-03-05 1999-03-05 High-speed image processing device Expired - Fee Related JP3586131B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP05896999A JP3586131B2 (en) 1999-03-05 1999-03-05 High-speed image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP05896999A JP3586131B2 (en) 1999-03-05 1999-03-05 High-speed image processing device

Publications (2)

Publication Number Publication Date
JP2000259812A true JP2000259812A (en) 2000-09-22
JP3586131B2 JP3586131B2 (en) 2004-11-10

Family

ID=13099688

Family Applications (1)

Application Number Title Priority Date Filing Date
JP05896999A Expired - Fee Related JP3586131B2 (en) 1999-03-05 1999-03-05 High-speed image processing device

Country Status (1)

Country Link
JP (1) JP3586131B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009077195A (en) * 2007-09-21 2009-04-09 Sony Corp Imaging apparatus, method of controlling output signal, and computer program
US10282805B2 (en) 2015-02-23 2019-05-07 Samsung Electronics Co., Ltd. Image signal processor and devices including the same

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7419204B2 (en) 2020-09-18 2024-01-22 株式会社東芝 Image processing device

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009077195A (en) * 2007-09-21 2009-04-09 Sony Corp Imaging apparatus, method of controlling output signal, and computer program
US10282805B2 (en) 2015-02-23 2019-05-07 Samsung Electronics Co., Ltd. Image signal processor and devices including the same

Also Published As

Publication number Publication date
JP3586131B2 (en) 2004-11-10

Similar Documents

Publication Publication Date Title
US7456804B2 (en) Display control apparatus and display control method
US8102399B2 (en) Method and device for processing image data stored in a frame buffer
JP3586131B2 (en) High-speed image processing device
JP2000311241A (en) Image processor
JPH05100647A (en) Picture display device
JP4313907B2 (en) Imaging apparatus and control method thereof
JP3776513B2 (en) Image processing device
JPH08171536A (en) Data processor
JP2589781B2 (en) Image processing processor
JP2989193B2 (en) Image memory interleaved input / output circuit
JP4489245B2 (en) Image processing apparatus and control method thereof
JP2861053B2 (en) Image processing device
JP4253096B2 (en) Data transfer device, data transfer method, camera module, camera
JPH06208614A (en) Image processor
JPH11353470A (en) Image drawing parallelizing device and parallelized image drawing system
JPS60160275A (en) Video input device
JP3352558B2 (en) Signal processing device
JPH05334423A (en) Image processor
JP2938107B2 (en) Pattern recognition device
JPH11352155A (en) Digital oscilloscope
KR0173252B1 (en) Image processing data storage apparatus
JP3380706B2 (en) Signal processing device
JPS5994164A (en) Input device of tv picture data
JPH04165577A (en) Image processor
JPS61251970A (en) Image processor

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040413

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040727

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040805

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080813

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080813

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090813

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090813

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100813

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100813

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110813

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120813

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130813

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees