JP2003516700A - 並列データの処理及びシャッフリング - Google Patents

並列データの処理及びシャッフリング

Info

Publication number
JP2003516700A
JP2003516700A JP2001544127A JP2001544127A JP2003516700A JP 2003516700 A JP2003516700 A JP 2003516700A JP 2001544127 A JP2001544127 A JP 2001544127A JP 2001544127 A JP2001544127 A JP 2001544127A JP 2003516700 A JP2003516700 A JP 2003516700A
Authority
JP
Japan
Prior art keywords
data
processing
parallel
array
tsmm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001544127A
Other languages
English (en)
Other versions
JP4733894B2 (ja
Inventor
シー,イェフ
ペー クレイホルスト,リハルト
デル アーフォイルト,アンドレ ファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Philips Electronics NV filed Critical Philips Electronics NV
Publication of JP2003516700A publication Critical patent/JP2003516700A/ja
Application granted granted Critical
Publication of JP4733894B2 publication Critical patent/JP4733894B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/38Concurrent instruction execution, e.g. pipeline or look ahead
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/76Arrangements for rearranging, permuting or selecting data according to predetermined rules, independently of the content of the data
    • G06F7/762Arrangements for rearranging, permuting or selecting data according to predetermined rules, independently of the content of the data having at least two separately controlled rearrangement levels, e.g. multistage interconnection networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/76Arrangements for rearranging, permuting or selecting data according to predetermined rules, independently of the content of the data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

(57)【要約】 本発明は、データの並列ストリームを得るために信号を処理するための並列処理要素(LPA1...320)の配列を有する並列データ処理装置と、ブロックに関するデータの並列ストリームのシャッフリングのための手段(TSMM1...80)を提供する。データシャッフリング手段(TSMM1...80)は、予め定められた数の処理要素(LPA1...320)に各々が接続されたアドレス可能なスイッチメモリマトリクス(TSMM1...80)の配列を有する。スイッチメモリマトリクスの配列(TSMM1...80)は、高度に並列の線形配列プロセッサのデータフロー制限と、画像処理アルゴリズムの中間蓄積要求を解決する。カメラシステムでは、並列データ処理装置は、センサ配列(S)と組み合わされる。

Description

【発明の詳細な説明】
【0001】 本発明は、データの並列ストリームを得るために、処理要素の配列内で信号が
処理される、装置、方法及びカメラシステムに関連する。
【0002】 スエーデンのLinkoping、Teknikringen2C、SE−5
8330のIVPインテグレーテッドビジョンプロダクツABの、MAPP22
00製品情報は、同じ半導体チップ上のセンサと汎用画像プロセッサの組合せを
開示する。これは、256x256センサの全マトリクスを有する2次元スマー
トビジョンセンサと256のプロセッサユニットである。組み込みプロセッサ配
列は、全てのローの画素を並列に扱う。A/D変換は、全体の画像ラインのグレ
ーレベルに関して並列に行われる。画像のロー内の全画素又はアドレスされたレ
ジスタは同時に処理される。並列動作は、画像レジスタでビットに関して行われ
る。計算の結果は、アキュムレータに蓄積され又は、命令が算術命令ならば、キ
ャリーレジスタにも蓄積される。これらのレジスタの内容は、メモリレジスタに
移動され、次の命令の第2のオペランドとして働き、又は、状態レジスタを経由
してコントローラからアクセスされる。従来技術のセンサは物体認識に使用され
、そして、ビデオ通信には適していない。従来技術のセンサは、ビデオ通信に対
して望ましい、カラー画像に対するセンサの並列実行を開示していない。
【0003】 本発明の目的は、並列データ処理の柔軟性を向上することである。この目的の
ために、本発明の独立請求項に記載された装置、カメラシステム、及び、方法を
提供する。優位な実施例は、従属請求項に記載されている。
【0004】 本発明の第1の実施例は、装置は更に、ブロックに関して、データの並列スト
リームをシャッフリングする手段を有することを特徴とする。
【0005】 高度な並列処理では、特にデータフローに関する柔軟性は、大きく制限される
。本発明は、並列データ処理と組合せて、ビデオ処理装置で広く使用されている
ような、ブロックレベル計算を提供する。
【0006】 実際の実施例では、データシャッフリング手段は、予め定められた数の処理要
素に各々が接続されたアドレス可能なスイッチメモリマトリクスの配列を有する
。スイッチメモリマトリスクは、ブロックに関してデータをシャッフルすること
ができる。スイッチメモリは並列に配置されているので、制御は非常に効率がよ
い。
【0007】 本発明は、更に、本発明に従ったセンサと装置を有するカメラシステムを提供
する。カメラシステムは、好ましくは、ビデオ通信に適用される。今日では、ビ
デオ通信アプリケーションは、例えば、合理的な量のブロックレベル計算を必要
とする。本発明は、例えば、ブロックレベル計算を可能とするために、高度な並
列構造の拡張を提供する。
【0008】 本発明の前述の及び他の特徴は、以下に説明する実施例を参照して説明されそ
して明らかとなろう。
【0009】 図面は、本発明の理解に必要な要素のみを示す。
【0010】 図1は、本発明の好適な実施例即ち、本発明に従った高度な並列処理構造とデ
ータシャッフリング手段を有するカメラシステムを示す。カメラシステムは、並
列のアナログ/ディジタル変換器(ADC1...320)を有する、画像セン
サ配列Sを有する。ADCは線形処理配列(LPA1...320)とラインメ
モリ(LM)に接続されている。カメラシステムの種々の部分は、セントラルプ
ロセッシングユニット(CPU)により制御される。カメラシステムは、固体C
MOSセンサとディジタル信号処理(DSP)が単一のICチップに集積された
CMOS画像器を使用するのが好ましい。
【0011】 データシャッフリング手段なしで、図1の実施例は、既に、欠陥画素代理、自
動白調整、自動露出制御のような、画素レベルの画像処理とフィルタリングを実
行することができる。
【0012】 しかし、高レベルの並列化により、DCTやジグザグスキャンのような更に複
雑なブロックレベルアルゴリズムを実行する柔軟性が少なくなるという結果にな
る。従って、本発明は、高度な並列構造の拡張を提供し、信号処理装置が、分離
可能な再帰的離散コサイン変換(DCT)、クロミナンスサブサンプリング及び
、ジグザグ(ZZ)スキャンを含むブロックレベルの動作を効率的に実行するこ
とを可能とする。この点に関して、カメラシステムは、ブロックに関してデータ
をシャッフリングする手段で改善される。データシャッフリング手段(TSMM
1...80)は、LPAとラインメモリLMに接続されている。実際の実施例
では、これらのデータシャッフリング手段は、入れ換えスイッチメモリマトリク
ス(TSMM)を有する。TSMMは、元の構造に対して追加のブロックレベル
メモリユニットである。TSMMは、処理要素とラインメモリLM間のデータフ
ローを改善するために設計される。それらは、追加の機能を有するラインメモリ
LMの拡張と考えることができる。TSMMは、処理要素を共に結び付けそして
、それらの間の蓄積と通信を可能とする。更なる実施例では、TSMMは隣接す
るTSMMと結びつき、隣接するTSMMへのデータの転送を可能とする。他の
優位点は、TSMMはデータを入れ換え且つ4つのプロセッサの出力にアクセス
することを、即ちブロックに関するランダムアドレッシングを可能とする。TS
MMは各々が4つのプロセッサ要素と結合され、この実施例のTSMMの全数は
80である。
【0013】 大規模な並列構造のために、高い計算性能が達成されるだけでなく、好ましい
電力消費も達成される。オンチップメモリのデータ帯域幅は、チック外メモリの
ようにI/Oピンの数により制限されない。データ帯域幅制限は、アクセス待ち
時間の要求又はクロストークからの結果であるがしかし、これらの問題は、メモ
リユニットのクロック要求を減少させることにより緩和される。これは、十分な
並列化と適切な構造設計によりなされる。十分に低いクロックレートで、動作電
圧は、更なる電力の節約を達成するために低下される。電力消費の主な減少は、
データがラインメモリLMから並列に得られるという原理から生じる。メモリア
クセスは、シーケンシャルプロセッサ内の電力の大きな部分を消費する。シーケ
ンシャルプロセッサでは、アルゴリズムを実行するために、画素当りに、メモリ
への特定の数のアクセスを必要とする。第1にLPA内では、1回の単一の読出
し/書込み動作で全ての値を利用して複数の計算がなされるので、画素当りのア
クセス数が単純に減少される。第2に、ラインメモリLMは、画素メモリへのア
クセスに匹敵するよりも3倍更に電力効率がよい。電力効率の一部は、更に、A
DCとLPAの並列実行から由来する。計算が順次又は並列して行われるか否か
は計算的な電力に関しては問題ではないが、電力は、コントロールでコーディン
グと命令フェチのような低速の共有された項目により、かなり減少される。
【0014】 カメラシステムは、電子的静止画(ESP/DSC)、ディジタルビデオカム
コーダ、デスクトップビデオカメラ、ビデオ電話、監視等に適用可能である。こ
れらの製品は、全て低コストと高レベルの集積化を特徴とする。幾つかのアプリ
ケーションは、低エネルギー消費も要求する。実施例は、アナログ/ディジタル
変換(ADC)、画像改善及び変換と、白バランス及び露光時間制御のような多
くの制御機能のような、典型的な信号処理タスクを扱う。
【0015】 実際に、ラインベースのアルゴリズムに関するCPUと画素ベースのアルゴリ
ズムに関する線形プロセッサ配列(LPA1...320)の、2つのプログラ
ム可能なディジタルプロセッサがある。両プロセッサは、プログラムメモリ(P
M)から命令を得る。プログラム可能でないプロセッサとコントローラは、ロー
とコラムのアドレス選択器、ADCコントローラ、及び、I2Cコントローラプ
ロセッサ及びシリアルプロセッサ(SP)を提供するのに使用される。これらの
プロセッサは、CPUから、サブサンプリング、対象の領域の選択、ミラー化、
ゲイン、黒レベル、ガンマ及び、ビデオ出力フォーマットに対する、パラメータ
を受け取ってもよい。シリアルプロセッサは、コラム選択器(CS)を介してラ
インメモリLMに接続されている。
【0016】 画像センサSは、アクティブ画素のVGA(640x480)のマトリクスで
もよい。キャパシタに特定の電圧を与えることにより画素がリセットされた後に
、入力光はこの電荷の減少を開始する。特定の露光時間に続いて、照明又は”画
素値”を反映する、キャパシタの残りの電圧が読み出される。露光時間は、画素
のリセットと読出し時間の間の遅延により制御される。センサは、ランダムにア
ドレス可能な画像のローを伴なう大きなアナログメモリとしみなすことができる
。これは、全体のロー(即ち、640)内の全画素は同時に読み出されるが、対
象の領域(ROI)のランダムな選択はさらに可能であることを意味する。
【0017】 画素は、図2に示すように、光学的な色フィルタ配列と重ねられる。このフィ
ルタは、各個々の画素に、赤色(R)、緑色(G)又は、青色(B)の感度を割
り当てる。フィルタ内の1つのローは、2つの交番する異なる色を含む。クロッ
クサイクルで1つの色のみが処理されるので、処理要素ごとに異なる色に対応す
る、2つのコラムを共有するのは有利である。従って、並列プロセッサ配列LP
Aは、320の好ましくは同一の処理要素、即ち2つのコラム毎に1つの処理要
素よりなる。異なる色に対応する、コラムを共有する方法は、与えられるカラー
フィルタに依存する。例えば、カラーフィルタが、ローの中に3つの異なる色を
提供する場合には、3つのコラムは処理要素当りに共有される。
【0018】 CMOSセンサはローに基づいて読み出されるので、並列ADCが好ましい。
全てのコラムは同時に変換される。低サンプリングレートのために、共通の部分
は全てのADCで共有されそして、固定のオフセットのみが許され、並列ADC
はビデオ速度のADCと比較して非常に電力効率良く設計できる。ADCでは、
各コラムは、出力値が蓄積される1組のラッチをイネーブルする、比較器を有す
る。各比較器の入力は、ディジタル化されるべき信号に接続されている。他の比
較器入力に、グローバルランプ発生器からランプ信号が与えられているときに、
入力信号は、安定のまま残る。ランプ信号が、入力値に達するときには、比較器
は切り替わり、そして、そのときにラッチに与えられているディジタル値を蓄積
する。ラッチを、ランプ発生器に同期している、グローバルカウンタに接続する
ことにより、切換時間はディジタル値に(そして、アナログ入力値)マップされ
、そして、ラッチ内に蓄積される。並列ADCの不利な点は、パラメータの幅は
、等しい強度のコラムの間の応答に差を発生することである。これは、画像信号
内に、コラムに基づく”固定パターンのノイズ”(FPN)として示される。こ
のコラムFPNは、初期化プログラムにより推定され、そして、通常の動作モー
ドでの相殺に対して、ラインメモリの1つの中に蓄積される。画素レベルのFP
Nは、アナログ減算がADC内で集積される2重サンプリングの既知の方法で補
正される。カラーフィルタ配列により、2つのコラムは1つのADC要素を共有
できる。このように、アナログ多重が起こりる。ディジタル多重が望ましい場合
には、コラム当りに1つのADCが必要である。
【0019】 図3は、プロセッサ配列LPA1...320の実際の実行を示す。左と右の
通信チャネルCOMMとマルチプレクサMUX1..320により、各処理要素
は、6つのコラムからデータを直接的に得ることができる。ラインメモリLM又
は所定のTSMMから読み出されたデータは、対応する処理要素又は、左又は右
の処理要素に送られ、処理要素LPA1...320間の制限された通信を提供
する。1ワードのデータは、所定のクロックサイクルで隣接する処理要素にシフ
トされる。全ての処理要素は、それらの局部データに関して同一の命令を実行す
る。単一命令複数データ(SIMD)の原理に従って、制御及びアドレスデコー
ディングが1回のみ行われそして、全ての処理要素により共有されるので、再び
、電力消費はシーケンシャルコラムプロセッサと比較して減少される。各プロセ
ッサは、次の命令のオペランドとして使用され得る、最新の結果を蓄積するアキ
ュムレータACC1...320を有する。加算器と乗算器の両方は、ALU1
...320内で実行され、そして、これらの機能により、比較、加算、減算、
データの重み付け及び、乗算−累積が行われる。プロセッサは、最新の結果に従
って設定されたフラグFを統合する。このフラグFに基づいて、条件付通過命令
が可能であり、アルゴリズムにデータ依存性の制限された形式を可能とする。全
ての320のフラグF1...320は、CPUに接続されたグローバルライン
EVTに接続される。このように、特定の終了条件を伴なう繰返し処理を並列プ
ロセッサ配列LPAで実行でき又は、CPUは画像内容に反応できる。従って、
CPUは制御信号INSTRを供給する。結果のデータは、点P1...P4で
利用可能となる。ラインメモリLMからの又はこれらの点P1...P4に接続
されたTSMMからのデータは、それぞれの処理要素LPA1...320内で
使用されても良い。
【0020】 オペランドとして、アキュムレータACC、メモリLMの内容又は、グローバ
ル重みWGHTを使用しても良い。全てのプロセッサLPA1...320に等
しい重みWGHTは、乗算及び乗算−累積命令内でデータをスケーリングするの
に使用される。重みWGHTは、CPUにより提供される。
【0021】 並列プロセッサLPAが使用されうるタスクは、固定パターンノイズ低減、欠
陥画素のコンシールメント、ノイズ低減、サブサンプリングの目的のためのプリ
フィルタリングを含む、色の再構成及び色領域変換を含む。
【0022】 ラインメモリLMの2重ポート原理を使用することにより、1つの命令サイク
ル内で、オペランドはメモリから読み出されそして、結果が所望の位置に書き戻
される。実際の実施例では、ラインメモリ(LM)は一時的なデータ蓄積のため
に16ラインメモリを有する。更に、追加の3ラインが計算の最終結果を一列に
並べるための書込み専用メモリとして使用される。
【0023】 CPUは全体のチップを受け持っている。その主なタスクは、プログラムカウ
ンタを保持し、命令をフェッチしてデコードし、そして、それらをLPAへ送る
。その上に、露光時間制御や、白バランス等のグローバル計算を行うことができ
る。CPUは、内部レジスタ内で、(シリアルプロセッサSPにより)更新され
る、統計的な画像データを使用する。乗算を含む、幾つかの論理及び算術命令を
利用できる。プログラム制御に関しては、CPUは、プログラム内の(条件付き
)ジャンプを扱い、そして、従って、幾つかの(プログラム)カウンタを有する
。更に加えて、CPUは並列プロセッサLPAにより発生されたイベントに反応
でき、そして、異なるサブルーチンへジャンプできる。CPUの特定のレジスタ
は、I2Cを通してアクセス可能であり、そして、従って、エンドユーザとの間
で通信する方法を与える。例えば、対象の領域を、CPUに対して規定すること
ができ、そして、選択されたローとコラムを処理のためにアドレスする。プログ
ラムメモリPMは、CPUに対する命令を保持する。このメモリPMは並列プロ
セッサLPAへの命令も保持することに注意する。命令はデコードされ、そして
、LPA又はCPUが呼び出される。このシーケンシャル命令フェッチは、1つ
のプログラムから2つのプロセッサの結合をプログラムするのを容易にする。
【0024】 好ましくは、TSMMは、レジスタのマトリクスの上に重ねられた半−接続さ
れたクロスバースイッチよりなる。TSMMの提案された構造を図4に示す。矩
形のMRは、メモリマトリクス内のレジスタを表す。TSMMは更に、円で示さ
れた制御可能なスイッチTを有する。塗りつぶされた円は、スイッチが閉じてお
り且つ導通していることを示す。塗りつぶされていない円は、スイッチが開いて
おり且つ導通していないことを示す。TSMMは、ラインメモリと独立に、全体
的に、アドレスされ且つアクセスされる。図では、4x4レジスタのマトリクス
が例として与えられている。処理要素がセンサ配列の2つのコラムに接続されて
いるので、TSMMは効率的にセンサ配列の8コラムに接続されている。この実
施例では、1つのTSMMは8x4画素のブロックを処理するように効果的に配
置される。実際の実施例では、4つは水平方向(r1...r4)で、4つは垂
直方向(c1..c4)の8つのバスは、16ビット幅である。バスは、処理要
素LPA、ラインメモリLM、隣接TSMM、マトリクスのレジスタMRと接続
されている。更にスイッチTは、接続されたユニット間のデータフローを制御す
るために、水平(r1...r4)と垂直(c1..c4)のバスの交差点に配
置される。スイッチは各交差点に配置されうるが、図4に示されるように、交差
点に配置された7つのスイッチの数が、本実施例では好適である。更に加えて、
各レジスタMRは、2つのスイッチTによりゲートされた、対応する水平(r1
...r4)と垂直(c1..c4)のバスに接続されている。データは、水平
と垂直のバスの何れかを通して、レジスタMRへ又はレジスタMRから流れるこ
とができる。
【0025】 レジスタマトリクスは、4つのレジスタMRの4つのコラム(c1...c4
)として翻訳されることができ、各コラムは特定の処理要素LPA1...32
0に対応する。処理要素は、TSMM内の他のコラムへのアクセスが制限されて
いる。本発明に従った実施例は、以下の、ラインメモリアクセス、レジスタアク
セス、入れ換え読み出し/書込み、処理要素選択的読出し/書込み、長手ブロッ
ク転送の、データフロー構成を提供する。これらの構成は以下で説明する。
【0026】 図5は、データパススルーモードを示す。スイッチTはP1..P4で閉じら
れ、この結果、ラインメモリへの直接データパスとなる。TSMMはプロセッサ
LPAとラインメモリMEMで双方向である。レジスタに接続された全てのスイ
ッチは開放されているので、レジスタMR内に蓄積されたデータはない。
【0027】 図6は、レジスタアクセスモードを示す。このモードでは、TSMMは一時的
なストレージとして使用される。データはメモリレジスタから読み出され且つメ
モリレジスタへ書込まれることができる。図5に示すように、スイッチP1..
.P4は、閉じられている。さらに、それぞれのコラムに接続された、第3のロ
ーのレジスタのスイッチTも閉じられている。このように、第3のレジスタのロ
ー内でワードのように、全体のローが読み出され又は書込まれる。4つのコラム
は相互に排他的である。TSMM内のコラムは、対応する処理要素に関連し且つ
、対応する処理要素によってのみ直接的にアクセスすることができる。TSMM
を、ラインメモリLM内のストレージと同様な一時的なストレージとして使用で
きる。LMにわたるTSMMの優位点は、TSMMがLPAに非常に近く、そし
て、LMよりも低いクロックレートで動作することである。メモリのローカル化
は更に電力効率がよい。
【0028】 図7は、入れ替え読出しモードを示す。TSMMに蓄積されたデータは、コラ
ム毎に読み出され、そして、水平ワードを処理要素へ戻して出力するために、適
切なスイッチTを閉じることにより、垂直バスに経路が選択される。TSMMの
入れ替え読み出し(及び、反対方向に使用される場合には書込み)が、ここでは
達成される。
【0029】 図9は、プロセッサ選択的アクセスモードを示す。この図は、プロセッサの4
つの出力の1つにランダムにアクセスするTSMMを使用する能力を示し、そし
て、TSMMの1つのコラムの4つのレジスタの1つに出力をランダムに蓄積す
る。例として、スイッチTはP2で閉じ、それゆえに、LPA2からのデータの
みがTSMMへ入力するのを可能とする。適切なスイッチTを活性化することに
より、このデータは、TSMMの第1のコラム内の第4のレジスタMRに経路が
選択される。このように、LPA2からの出力は、TSMMの第1のコラムc1
の第4のレジスタに書込まれる。LPA1...320は個々に選択可能でない
ので、TSMMからの処理要素により読み出すことは、問題を発生する。全ての
処理要素は、読み出そうとし、そして、不確定な結果を伴なう処理を実行しよう
とする。LPA1...320のアキュムレータは選択的にアドレス可能である
ときには、この問題は効果的に解決される。
【0030】 図9と10は、ブロック転送モードを示す。これらのモードでは、TSMMは
互いに2つずつ接続される。このように、図1のカメラシステムは、40の並列
の2つのTSMMアレイを有する。図9と10は、1つのブロックから隣接する
ブロックへデータを転送する可能なモードを示す。データの転送を可能とするた
めに、同じ水平バス状のデータのフローを隣接するTSMMに可能とするために
、スイッチT(個々では転送ゲートとも呼ぶ)がTSMMの間に要求されること
に注意する。図9は、TSMM2のトップから左へのブロック転送を示す。水平
及び垂直バスの交差点上のスイッチTは、P5...P8に接続された処理要素
からのローが、コラムに関して左へ転送されるように活性化される。転送ゲート
Tは、このデータがTSMM1に入力することを可能とする。TSMM1の水平
及び垂直バスの交差点上のスイッチTは、TSMM1内で、データのコラムがロ
ーに関して利用できるようになるように活性化される。TSMM2に接続された
処理要素からのデータは、このように、TSMM1に接続された処理要素から来
たデータであるかのようにTSMM1内で利用できるようになる。図10は、ブ
ロック転送モードを示しTSMM1内のローは、TSMM2に転送される。この
モードは、図9に示すモードに匹敵するが、しかし反対方向である。処理要素か
らのデータの代わりに、図9と10に示されたモードも、ラインメモリLMから
得られるデータに適用可能である。ラインメモリLMからのデータがTSMMの
下から入力するので、スイッチP1からPは、この場合には使用されない。LP
Aの大きな並列構造のために、同様な読出し問題が、図8に関して上述したよう
に発生する。この場合にも、LPAがデータを読み出さねばならないときには、
選択的にアドレス可能なLPAアキュムレータを有することが好ましい。図9と
10はTSMM1とTSMM2を図示するが、他の接続されたTSMM、例えば
、TSMM3+TSMM4等に対しても同じことが成り立つ。
【0031】 上述の種々の動作のモードは、例えば、再帰的又はマトリクス離散コサイン変
換(DCT)、クロミナンスサブサンプリング及び、ジグザグ(ZZ)スキャン
のような種々のアルゴリズムを、効果的に実行する装置を可能とする。特徴を以
下に説明する ブロックDCTが、各マクロブロックの、4つのYブロック、1つのUブロッ
ク及び1つのVブロックに適用される。好ましいアルゴリズムは、分割可能な2
次元再帰的DCTアルゴリズムであり、1995年8月のIEEE信号処理レタ
ー、2(8)の第155−156の、Aburdene他による”クレンショー
の循環的公式を使用する離散コサイン変換の計算”から知られている。DCTア
ルゴリズムの入力は、ブロックのコラムから得た8画素と2つの重みのシーケン
スである。重みは、結果のDCT係数の縦座標を決定する。各ブロックは、4つ
の処理ユニットにより処理されるので、4つのDCT係数が並列して処理される
。完全なブロックDCTのために、DCTアルゴリズムの16のパスは、垂直の
1次元DCTを計算するのに必要であり、且つ、他の16パスは水平の1次元D
CTを計算するのに必要とされる。再帰的DCTアルゴリズムは、中間的な蓄積
のために要求される領域を最小化するのに好ましい。2つの中間的な変数は、1
つのDCT係数を処理するのに要求される。より高速なバタフライDCTアルゴ
リズムは、各処理要素毎に8の中間的な変数を必要とする。中間変数は高精度を
必要とするので、ラインメモリLMのような画素バッファへそれらを集積する更
なる領域が必要である。TSMMは、各処理要素毎に、4つの高精度中間レジス
タMRを提供する。DCT係数を計算するのに2つのみが必要であるので、2つ
のレジスタは他の目的に使用されても良い。更に重要なことは、TSMMに蓄積
されたDCT係数を、入れ替えることが可能であることである(図7参照)。入
れ替えは、水平に、再帰的DCTアルゴリズムを実行するために必要である。
【0032】 提案された構造に対しては、4つごとのTSMMが好ましい。第1に、完全な
8x8入れ替えマトリクスは更なるアドレッシングのオーバーヘッドを有するの
で、完全な8つごとのマトリクスの領域の4分の1よりも小さい。第2に、処理
要素は4つのDCT係数のみを発生し、一方ラインメモリは4つのDCT係数の
みを蓄積する。
【0033】 ブロック転送モード(図9及び10参照)は、クロミナンスサブサンプリング
に対する効率的なモードを提供する。RGB−YUV変換が、クロミナンス成分
のサブサンプリングに先立ち、4:2:2フォーマットで行われる。RGB−Y
UV変換はそれ自身により、画素レベル動作であり、且つ、一定重みの乗算と積
の累積を含む。一旦、画素がYUV領域に変換されると、UとV成分は、水平と
垂直の両方に、係数2でサブサンプリングされる。UとV成分を蓄積するための
メモリ配置に、基本的な問題が存在する。4:2:2フォーマットでは、16x
16画素のマクロブロック内のUとV成分は、8x8画素にサブサンプルされ、
そして、Y成分はサブサンプルされない。マクロブロックは、2ブロック(2つ
の8画素コラム)即ち、2つのTSMMユニット又は8処理要素にわたる。サブ
サンプルされたブロックが対応するラインメモリに蓄積されるならば、水平DC
Tパスを行うのにかなり非効率であろう。マクロブロックの半分にUブロックを
蓄積し、且つ他にVブロックを蓄積するのが非常に望ましい。これは、全てのY
,U及びVブロックに同じ2−D DCTコードが与えられることを可能とする
。ブロック転送モードでは、これは1つの直接転送のみを得る。並列構造の場合
でさえも、隣接コラム間で通信は可能であり、この転送は、データシフティング
の4つのサイクルを必要とする。図4の実施例と比較したこの実施例のオーバー
ヘッドは、TSMM間のデータバスをゲートするスイッチである。ブロックデー
タ転送の特徴は、処理要素間のデータシフティングに十分なサイクルがある場合
又は、スイッチがラインメモリアクセス当りの電力を増加する容量性負荷の場合
には、省略されうる。このトレードオフは、実行に関して評価されうる。
【0034】 ブロックレベルのランダムアドレッシング(図8参照)が、例えば、ZZスキ
ャンのような、種々の形式のアルゴリズムに対して使用されることが可能である
。1つの処理要素からのアキュムレータデータは、選択的にアドレスされそして
、第1のTSMMコラム内の4つのレジスタの内の1つに書きこまれる。全ての
4つのレジスタに書き込み後に、第1のTSMMコラムは転送され、そして、ラ
インメモリLMに書込まれる。処理要素の出力をアドレスするのに2つのみのビ
ットが必要とされ、そして、他の2つのビットはレジスタにアドレスするのに必
要とされる。JPEG規格内で記述されているZZスキャンは、幾つかの方法で
実行されることができる。8x8ブロック内でデータの記録が必須である。線形
処理配列LPAと外部LPA内のZZスキャンを実行する間のトレードオフは、
ハードウェアが複雑となる。外部LPAでZZスキャンを実行することは、規定
されたストリーミングレートで順序を変えるための十分なデータがあることを保
証するためのブロックバッファを必要とするであろう。ハードウェアをモニタす
ることが、バッファが空になる又はオーバーフローすることから防ぐのに必要と
される。ストリーミングユニットとLPA間の同期は、プログラムとLPAの複
雑さを導入することを必要とする。一方、ZZスキャンが並列ハードウェア内で
実行されるならば、ストリーミングは一定でありそして、ラン長符号化器の身が
必要とされる。
【0035】 可変長符号化は、高度な複雑さ無しでは、高度に並列の整数ALU内で効率的
に実行することはできず、そして、従って、外部の線形処理配列で処理される。
【0036】 概要として、高精度のレジスタマトリクスTSMMの配列が、高度に並列の線
形配列プロセッサのデータフロー制限と、画像処理アルゴリズムの中間的な蓄積
要求を解決するために提案される。このプロセッサとメモリユニットの階層が、
特にデータフローに関する柔軟性が大きく制約される、高度に並列の処理システ
ムの柔軟性を高めるために必要である。単純な特別のメモリユニットTSMMの
配列は高度に並列な画素レベル処理構造と組み合わされ、これは、単一チップ上
で、ビデオレートで、画像キャプションとモーション−JPEGビデオ圧縮を可
能とする。
【0037】 本発明は、データの並列ストリームを得るために信号を処理するための並列処
理要素の配列を有する並列データ処理装置と、ブロックに関するデータの並列ス
トリームのシャッフリングのための手段を提供する。データシャッフリング手段
は、予め定められた数の処理要素に各々が接続されたアドレス可能なスイッチメ
モリマトリクスの配列を有する。スイッチメモリマトリクスの配列は、高度に並
列の線形配列プロセッサのデータフロー制限と、画像処理アルゴリズムの中間蓄
積要求を解決する。カメラシステムでは、並列データ処理装置は、センサ配列と
組み合わされる。
【0038】 上述の実施例は本発明を制限するものではなく説明するためのものであり、当
業者は、請求項の本発明の範囲から離れることなく多くの代わりの実施例を設計
できることに注意すべきである。コラムとローは、請求項の本発明の範囲から離
れることなく交換が可能である。請求項においては、括弧内に配置されたどの参
照記号も請求項を制限するものではない。用語”有する”は請求項に記載された
他の構成要素を又はステップの存在を除外しない。本発明の幾つかの特徴的な要
素を有するハードウェアにより、及び、好適にプログラムされたコンピュータい
より実行することが可能である。幾つかの手段を列挙する装置の請求項において
は、いくつかのこれらの手段を、1つのそして同じハードウェアの項目で実現す
ることができる。
【図面の簡単な説明】
【図1】 本発明に従った高度な並列処理構造とデータシャッフリング手段を有するカメ
ラシステムを示す図である。
【図2】 カラーフィルタ配列を示す図である。
【図3】 本発明に従った線形処理配列の構造を示す図である。
【図4】 本発明に従ったデータシャッフリング手段の構造を示す図である。
【図5】 図4のデータシャッフリング手段の異なるモードの動作を示す図である。
【図6】 図4のデータシャッフリング手段の異なるモードの動作を示す図である。
【図7】 図4のデータシャッフリング手段の異なるモードの動作を示す図である。
【図8】 図4のデータシャッフリング手段の異なるモードの動作を示す図である。
【図9】 2つの隣接するスイッチマトリクスが結合されたデータシャッフリング手段の
動作のモードを示す図である。
【図10】 2つの隣接するスイッチマトリクスが結合されたデータシャッフリング手段の
動作のモードを示す図である。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 クレイホルスト,リハルト ペー オランダ国,5656 アーアー アインドー フェン,プロフ・ホルストラーン 6 (72)発明者 ファン デル アーフォイルト,アンドレ オランダ国,5656 アーアー アインドー フェン,プロフ・ホルストラーン 6 Fターム(参考) 5C024 BX01 CY45 DX01 DX04 EX52 GY31 HX23 HX58 5C065 AA03 BB48 CC01 DD15 EE03 GG18 GG30 GG32

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】 並列データ処理装置であって、 データの並列ストリームを得るために信号を処理する並列処理要素の配列と、 ブロックに関して、データの並列ストリームをシャッフリングする手段とを有
    する装置。
  2. 【請求項2】 データシャッフリング手段は、予め定められた数の処理要素
    に各々が接続されたアドレス可能なスイッチメモリマトリクスの配列を有する請
    求項1に記載の装置。
  3. 【請求項3】 各スイッチメモリマトリクスは、 レジスタのマトリクスと、 ローに関するバスとコラムに関するバスを有するクロスバースイッチとを有し
    、ローに関するバスとコラムに関するバスの交差点にはスイッチが設けられ、各
    々のレジスタはクロスバースイッチの1つのローに関するバスと1つのコラムに
    関するバスに接続され、且つ、各コラムに関するバスは、処理要素に接続されて
    いる、請求項2に記載の装置。
  4. 【請求項4】 各スイッチメモリマトリスクは、正方マトリクスである請求
    項2に記載の装置。
  5. 【請求項5】 スイッチメモリマトリスクは、2つずつ互いに接続されてい
    る請求項2に記載の装置。
  6. 【請求項6】 各処理要素は、アキュムレータを有し、予め定められた数の
    処理要素のアキュムレータは、選択的にアドレス可能である請求項2に記載の装
    置。
  7. 【請求項7】 信号を得るためのセンサ配列と、 その信号を処理するための、請求項1に記載の並列データ処理装置とを有する
    カメラシステム。
  8. 【請求項8】 センサ配列にはカラーフィルタ配列が設けられ、且つ、異な
    る色に対応する幾つかのコラムのセンサ配列は、同じ処理要素により共有されて
    いる、請求項7に記載のカメラシステム。
  9. 【請求項9】 信号を処理する方法であって、 データの並列ストリームを得るために、処理要素の配列内で信号を処理するス
    テップと、 ブロックに関して、データの並列ストリームをシャッフリングするステップと
    を有する方法。
JP2001544127A 1999-12-10 2000-11-23 並列データの処理及びシャッフリング Expired - Fee Related JP4733894B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP99204181A EP1107107A1 (en) 1999-12-10 1999-12-10 Parallel data processing and shuffling
EP99204181.4 1999-12-10
PCT/EP2000/011652 WO2001042902A1 (en) 1999-12-10 2000-11-23 Parallel data processing and shuffling

Publications (2)

Publication Number Publication Date
JP2003516700A true JP2003516700A (ja) 2003-05-13
JP4733894B2 JP4733894B2 (ja) 2011-07-27

Family

ID=8240980

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001544127A Expired - Fee Related JP4733894B2 (ja) 1999-12-10 2000-11-23 並列データの処理及びシャッフリング

Country Status (7)

Country Link
US (1) US20010041012A1 (ja)
EP (2) EP1107107A1 (ja)
JP (1) JP4733894B2 (ja)
KR (1) KR100788179B1 (ja)
CN (1) CN1199096C (ja)
DE (1) DE60008706T2 (ja)
WO (1) WO2001042902A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010252396A (ja) * 2010-07-26 2010-11-04 Sony Corp 撮像装置
US8174587B2 (en) 2004-07-09 2012-05-08 Sony Corporation Imaging apparatus, integrated circuit for image pickup device and image data processing method
WO2021010036A1 (ja) * 2019-07-18 2021-01-21 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置および固体撮像素子の制御方法

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7139743B2 (en) 2000-04-07 2006-11-21 Washington University Associative database scanning and information retrieval using FPGA devices
FR2834397A1 (fr) * 2001-12-28 2003-07-04 St Microelectronics Sa Sous- echantillonnage de donnees images pixelisees
US20030167408A1 (en) * 2002-03-01 2003-09-04 Fitzpatrick Gregory P. Randomized bit dispersal of sensitive data sets
JP2003283719A (ja) * 2002-03-25 2003-10-03 Noritsu Koki Co Ltd 画像データ保存装置
US20040233294A1 (en) * 2003-05-20 2004-11-25 Mingjian Zheng System and method for USB compatible I-frame only MPEG image compression
US20040236920A1 (en) * 2003-05-20 2004-11-25 Sheaffer Gad S. Methods and apparatus for gathering and scattering data associated with a single-instruction-multiple-data (SIMD) operation
US10572824B2 (en) 2003-05-23 2020-02-25 Ip Reservoir, Llc System and method for low latency multi-functional pipeline with correlation logic and selectively activated/deactivated pipelined data processing engines
US7826664B2 (en) * 2004-05-24 2010-11-02 Xerox Corporation Systems and methods for efficient manual windowing operation
US7917299B2 (en) 2005-03-03 2011-03-29 Washington University Method and apparatus for performing similarity searching on a data stream with respect to a query string
US8134619B2 (en) * 2007-07-02 2012-03-13 Samsung Electronics Co., Ltd. Column noise reduction device and method thereof
KR100947846B1 (ko) * 2008-02-28 2010-03-18 주식회사 티벳시스템 하드디스크 포멧장치의 접속단자 자동 절환장치
US8755515B1 (en) 2008-09-29 2014-06-17 Wai Wu Parallel signal processing system and method
CA3059606C (en) * 2008-12-15 2023-01-17 Ip Reservoir, Llc Method and apparatus for high-speed processing of financial market depth data
KR101292668B1 (ko) * 2009-10-08 2013-08-02 한국전자통신연구원 멀티프로세서기반의 영상 복호화 장치 및 방법
KR20110055022A (ko) * 2009-11-19 2011-05-25 한국전자통신연구원 데이터 및 기능적 분할 방식에 기반한 동영상 복호화 장치 및 방법
US9323994B2 (en) * 2009-12-15 2016-04-26 Micron Technology, Inc. Multi-level hierarchical routing matrices for pattern-recognition processors
WO2013046475A1 (en) * 2011-09-27 2013-04-04 Renesas Electronics Corporation Apparatus and method of a concurrent data transfer of multiple regions of interest (roi) in an simd processor system
KR20130097972A (ko) * 2012-02-27 2013-09-04 삼성전자주식회사 하드웨어 가속화를 통한 대규모 데이터의 분산 처리 장치 및 방법
CN103885984B (zh) * 2012-12-21 2018-05-04 国际商业机器公司 处理数据库查询结果集的方法和设备
KR101520723B1 (ko) * 2013-12-04 2015-05-15 크루셜텍 (주) 지문 검출 장치 및 이의 구동 방법
CN108701236B (zh) * 2016-01-29 2022-01-21 快图有限公司 卷积神经网络
US10497089B2 (en) 2016-01-29 2019-12-03 Fotonation Limited Convolutional neural network
US20180005059A1 (en) 2016-07-01 2018-01-04 Google Inc. Statistics Operations On Two Dimensional Image Processor
WO2018119035A1 (en) 2016-12-22 2018-06-28 Ip Reservoir, Llc Pipelines for hardware-accelerated machine learning
US20230229450A1 (en) * 2018-02-23 2023-07-20 Untether Ai Corporation Computational memory
US10868991B2 (en) 2018-03-25 2020-12-15 Ideal Industries Lighting Llc High density parallel proximal image processing
CN112132765A (zh) * 2020-09-28 2020-12-25 北京计算机技术及应用研究所 一种并行视频图像动态范围增强装置及方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03187585A (ja) * 1989-12-18 1991-08-15 Olympus Optical Co Ltd 固体撮像素子
JPH03187584A (ja) * 1989-12-18 1991-08-15 Olympus Optical Co Ltd 固体撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4700320A (en) * 1985-07-09 1987-10-13 American Telephone And Telegraph Company, At&T Bell Laboratories Bitmapped graphics workstation
FR2617621B1 (fr) * 1987-07-03 1989-12-01 Thomson Semiconducteurs Memoire de transposition pour circuit de traitement de donnees
US5153731A (en) * 1989-12-18 1992-10-06 Olympus Optical Co., Ltd. Solid state image pick-up device and apparatus capable of providing filtering output with direct and real time manner
SE9002558D0 (sv) * 1990-08-02 1990-08-02 Carlstedt Elektronik Ab Processor
US5543932A (en) * 1993-05-31 1996-08-06 Sony Corporation Digital video signal recording apparatus and digital video signal reproducing apparatus
KR100498752B1 (ko) * 1996-09-02 2005-11-08 소니 가부시끼 가이샤 비트메트릭스를 사용한 데이터 수신장치 및 방법
US6940541B1 (en) * 1997-04-04 2005-09-06 Eastman Kodak Company Printer parameter compensation by a host camera
US6115066A (en) * 1997-06-12 2000-09-05 International Business Machines Corporation Image sensor with direct digital correlated sampling
US6466265B1 (en) * 1998-06-22 2002-10-15 Eastman Kodak Company Parallel output architectures for CMOS active pixel sensors
US6714243B1 (en) * 1999-03-22 2004-03-30 Biomorphic Vlsi, Inc. Color filter pattern

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03187585A (ja) * 1989-12-18 1991-08-15 Olympus Optical Co Ltd 固体撮像素子
JPH03187584A (ja) * 1989-12-18 1991-08-15 Olympus Optical Co Ltd 固体撮像装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8174587B2 (en) 2004-07-09 2012-05-08 Sony Corporation Imaging apparatus, integrated circuit for image pickup device and image data processing method
JP2010252396A (ja) * 2010-07-26 2010-11-04 Sony Corp 撮像装置
WO2021010036A1 (ja) * 2019-07-18 2021-01-21 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置および固体撮像素子の制御方法

Also Published As

Publication number Publication date
US20010041012A1 (en) 2001-11-15
KR20010102055A (ko) 2001-11-15
DE60008706D1 (de) 2004-04-08
KR100788179B1 (ko) 2007-12-26
JP4733894B2 (ja) 2011-07-27
WO2001042902A1 (en) 2001-06-14
EP1159672B1 (en) 2004-03-03
CN1199096C (zh) 2005-04-27
CN1346460A (zh) 2002-04-24
EP1159672A1 (en) 2001-12-05
DE60008706T2 (de) 2005-02-10
EP1107107A1 (en) 2001-06-13

Similar Documents

Publication Publication Date Title
JP4733894B2 (ja) 並列データの処理及びシャッフリング
KR101270925B1 (ko) 신호 처리 장치
US6961084B1 (en) Programmable image transform processor
US6421772B1 (en) Parallel computer with improved access to adjacent processor and memory elements
US8836708B2 (en) Device for the parallel processing of a data stream
US20030113031A1 (en) Parallel pipeline image processing system
JPS62208158A (ja) マルチプロセツサシステム
JPH08511919A (ja) 動き推定コプロセッサ
US10013733B2 (en) Processor, system, and method for efficient, high-throughput processing of two-dimensional, interrelated data sets
JP2001250113A (ja) 信号処理デバイス及び画像信号処理システム
US8952976B2 (en) SIMD parallel processor architecture
JP2010134743A (ja) 画像処理装置
JP2001285644A (ja) ラインメモリの制御方法
JP2000311241A (ja) 画像処理装置
JPH0437949A (ja) データ入力回路
Morris et al. A column-based processing array for high-speed digital image processing
Wang et al. Design and implementation of a flexible DMA controller in video codec system
WO2001093198A1 (en) Data-processing arrangement for processing different types of data
JPH07327230A (ja) 画素マトリックスフィルタおよび画素マトリックスを処理する方法
JP2004234407A (ja) データ処理装置
WO1999030276A1 (fr) Processeur de signaux numeriques et procede de traitement de signaux numeriques
Hsieh et al. Transpose memory for video rate JPEG compression on highly parallel single-chip digital CMOS imager
Yagi et al. Real-time video signal processing system for dynamic images
JPH07210663A (ja) 並列画像処理装置
JPS616772A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100629

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100927

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20101004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101228

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110425

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees