JP2006072832A - 画像処理システム - Google Patents

画像処理システム Download PDF

Info

Publication number
JP2006072832A
JP2006072832A JP2004257391A JP2004257391A JP2006072832A JP 2006072832 A JP2006072832 A JP 2006072832A JP 2004257391 A JP2004257391 A JP 2004257391A JP 2004257391 A JP2004257391 A JP 2004257391A JP 2006072832 A JP2006072832 A JP 2006072832A
Authority
JP
Japan
Prior art keywords
read
write
image processing
unit
dram
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004257391A
Other languages
English (en)
Other versions
JP4266900B2 (ja
Inventor
Kazuhiko Iwaki
和彦 岩城
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Platforms Ltd
Original Assignee
NEC AccessTechnica Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC AccessTechnica Ltd filed Critical NEC AccessTechnica Ltd
Priority to JP2004257391A priority Critical patent/JP4266900B2/ja
Publication of JP2006072832A publication Critical patent/JP2006072832A/ja
Application granted granted Critical
Publication of JP4266900B2 publication Critical patent/JP4266900B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Input (AREA)
  • Image Processing (AREA)
  • Bus Control (AREA)
  • Memory System Of A Hierarchy Structure (AREA)
  • Storing Facsimile Image Data (AREA)

Abstract

【課題】
処理速度を高めることのできる画像処理システムを提供する。
【解決手段】
画像データを一次記憶するDRAM11と、DRAM11のリードライト制御を行うDRAM制御部12と、画像データに対して所定の画像処理を行う画像処理部15a、15b、15cと、画像入力部13と、画像出力部14と、DRAM制御部12と画像処理部15a、15b、15cとの間に配置され、画像データの転送を行うキャッシュシステム10と、を備える。キャッシュシステム10は、DRAM11に対してリードアドレスの先出しによる先読み動作と、データをまとめて後から書き込むライトバック動作を行う。画像処理部15a、15b、15cと、画像入力部13と、画像出力部14とから入出力される画像データは、DMAによりリードキャッシュ21あるいはライトキャッシュ22を介してDRAM11にリードライトされる。
【選択図】
図1

Description

本発明は、画像処理システムに関し、特に画像データを一次記憶するDRAM(Dynamic Random Access Memory)とキャッシュメモリを有する画像処理システムに関する。
近年、画像処理の複雑化・高精度化に伴い、画像処理に必要な一次記憶領域は、増加する一方である。このような一次記憶として、SRAM(Static Random Access Memory)を用いることが不可能、もしくは高コストになるため、安価で大容量のDRAMが用いられている。しかし、DRAMは、その構造上、SRAMに比べてアクセスの待ち時間(レイテンシ)が大きいため、DRAMのデータ転送帯域がボトルネックとなって画像処理速度が遅くなることが多い。
そこで、DRAMと画像処理部との間にキャッシュメモリを配置し、高速な画像処理を実現するシステムが知られている。例えば、特許文献1には、DRAMを細分化して、キャッシュメモリに近接配置することで配線長を短くするようにして、高速転送と低消費電力化を可能とした画像処理回路が記載されている。このキャッシュメモリは、1リード/1ライト/1リード・ライトの3ポート構成を取るため、演算部への読出し、演算結果の書込み、ならびにメインメモリ(DRAM)とのデータ転送を同時に実行することができる。また、キャッシュメモリは、図示はされていないが、画素データを保持するブロック以外にキャッシュメモリ内にあるいずれのデータが新たに書込まれたものであるかを示すフラグデータをも保持するように構成されている。このフラグは、キャッシュメモリに演算結果データの書込みを行なったとき、そのデータに対応するビットがセットされ、キャッシュメモリからメインメモリヘデータを書き戻すとき、フラグビットがセットされているデータのみを書込み、フラグビットはリセットされているものはデータが書込まれない。これにより、不必要な書込バッファの動作を取除くことができ、消費電力を小さくすることができる。なお、このフラグによるメインメモリへの書込制御は、外部制御信号によって指定することができる。このフラグのリセットは、データをメインメモリからキャッシュメモリへ転送したとき、あるいは外部からの制御信号によって行なわれる。
また、関連する技術として、特許文献2には、安価なDRAM等のメモリをフレームバッファとして用いて、描画速度を高速に維持できるような画像生成装置が開示されている。この装置は、描画エンジン等の描画処理手段により生成された画素データを一時的に先読み可能なFIFO(First In First Out)メモリ等のメモリに一時的に蓄え、この先読み可能なFIFOメモリとフレームバッファとの間に高速のキャッシュメモリを設け、キャッシュ制御手段により上記先読み可能なFIFOメモリの内容を先読みして上記キャッシュメモリの読み書きの制御を行っている。
特開平7−249116号公報 (図1、図15、27頁) 特開平9−212661号公報 (図3)
従来のDRAMを用いた画像処理システムにおいて、画像処理部とDRAMとの間に配置したキャッシュメモリによりDRAMに対するアクセスレイテンシを減らして画像処理システムの画像処理速度を向上させている。特に、特許文献1に記載のキャッシュメモリは、1リード/1ライト/1リード・ライトの3ポート構成を取るため、演算部への読出し、演算結果の書込み、ならびにメインメモリ(DRAM)とのデータ転送を同時に実行することができ、画像処理速度を高めることが可能である。しかしながら、このキャッシュメモリは、DRAMとのデータ転送を1リード・ライトの一つのポートで行うために、DRAMとキャッシュメモリとの間の転送速度の高速化が十分とはいえなかった。したがって、画像処理速度をより高めようとすると、キャッシュメモリとDRAMとの間の転送速度がボトルネックとなってしまい、画像処理速度をより高めることが困難であった。特に、画像処理を複数同時に実行させるような場合において顕著であった。
本発明の目的は、より処理速度を高めることのできる画像処理システムを提供することにある。
前記目的を達成する本発明の一つのアスペクトに係る画像処理システムは、画像データを一次記憶するDRAM(Dynamic Random Access Memory)と、DRAMのリードライト制御を行うDRAM制御部と、画像データに対して所定の画像処理を行う画像処理部と、DRAM制御部と画像処理部との間に配置され、画像データの転送を行うキャッシュシステムと、を備える。キャッシュシステムは、DRAMに対してリードアドレスの先出しによる先読み動作を行うリード系キャッシュシステムと、DRAMに対してデータをまとめて後から書き込むライトバック動作を行うライト系キャッシュシステムと、から構成される。
第1の展開形態の画像処理システムにおいて、リード系キャッシュシステムは、リードキャッシュメモリと、DRAM制御部から画像データを読み出し、読み出した画像データをリードキャッシュメモリによって一時蓄積するように制御するリードキャッシュ制御部と、DRAM制御部から画像データを読み出す際に、DRAMのリードアドレスを所定のアドレス生成パターンに従って出力して先読み動作を行うリードDMA(Direct Memory Access)部と、を備えることが好ましい。
第2の展開形態の画像処理システムにおいて、リードDMA部は、DRAMのリードアドレスを所定のアドレス生成パターンに基づいて計算してリードキャッシュ制御部に対して出力し、リードキャッシュ制御部から入力されるリード応答信号によって次のリードアドレスを出力するリードアドレス出力部と、リードキャッシュ制御部から入力される画像データを一時蓄積して画像処理部に出力するリード用FIFO(First In First Out)と、を備えることが好ましい。
第3の展開形態の画像処理システムにおいて、リードキャッシュメモリは、n(nは2以上の整数)組のメモリ群から構成され、リードキャッシュ制御部は、n組のメモリ群の各組毎に、出力すべき有効な画像データが溜まったか否かを管理し、画像データが溜まったメモリ群から画像処理部に出力するように制御することが好ましい。
第4の展開形態の画像処理システムにおいて、DRAMのデータビット幅をk(kは自然数)ビット、DRAMへの連続アクセス回数をm(mは自然数)回とする場合、リードキャッシュメモリは、k×mビット幅でリードデータをDRAM制御部から入力するように構成されることが好ましい。
第5の展開形態の画像処理システムにおいて、ライト系キャッシュシステムは、ライトキャッシュメモリと、画像処理部から画像データを読み出してライトキャッシュメモリに対して書き込むに際し、DRAMのライトアドレスを所定のアドレス生成パターンに従って出力してライトバック動作を行うライトDMA部と、ライトキャッシュメモリによって一時蓄積された画像データをDRAM制御部に対して書き込むように制御するライトキャッシュ制御部と、を備えることが好ましい。
第6の展開形態の画像処理システムにおいて、ライトDMA部は、DRAMのライトアドレスを所定のアドレス生成パターンに基づいて計算してライトキャッシュ制御部に対して出力し、ライトキャッシュ制御部から入力されるライト応答信号によって次のライトアドレスを出力するリードアドレス出力部と、画像処理部から入力される画像データを一時蓄積してライトキャッシュ制御部に出力するライト用FIFOと、を備えることが好ましい。
第7の展開形態の画像処理システムにおいて、ライトキャッシュメモリは、n(nは2以上の整数)組のメモリ群から構成され、ライトキャッシュ制御部は、n組のメモリ群の各組毎に、出力すべき有効な画像データが溜まったか否かを管理し、画像データが溜まったメモリ群からDRAM制御部に対して書き込むように制御することが好ましい。
第8の展開形態の画像処理システムにおいて、DRAMのデータビット幅をk(kは自然数)ビット、DRAMへの連続アクセス回数をm(mは自然数)回とする場合、ライトキャッシュメモリは、k×mビット幅でライトデータをDRAM制御部へ出力するように構成されることが好ましい。
第9の展開形態の画像処理システムにおいて、所定のアドレス生成パターンは、アドレス生成パターンによるアドレス生成を要求する画像処理部における画素のアクセス順に基づいて定めることが好ましい。
第10の展開形態の画像処理システムにおいて、画像処理部は、複数の画像処理部からなり、ライト系キャッシュシステムは、複数の画像処理部にそれぞれ対応させたライトDMA部を複数備え、複数のライトDMA部からのアクセス要求を調停するライトDMA調停部をさらに備え、ライトDMA調停部は、複数のライトDMA部から優先順位に従って選択したライトDMA部をライトキャッシュ制御部に接続することが好ましい。
第11の展開形態の画像処理システムにおいて、複数の画像処理部の一部を、画像入力部に置き換え、画像入力部は、画像入力装置から入力される画像データを、複数のライトDMA部から選択される1つのライトDMA部に転送することが好ましい。
第12の展開形態の画像処理システムにおいて、画像処理部は、複数の画像処理部からなり、リード系キャッシュシステムは、複数の画像処理部にそれぞれ対応させたリードDMA部を複数備え、複数のリードDMA部からのアクセス要求を調停するリードDMA調停部をさらに備え、リードDMA調停部は、複数のリードDMA部から優先順位に従って選択したリードDMA部をリードキャッシュ制御部に接続することが好ましい。
第13の展開形態の画像処理システムにおいて、複数の画像処理部の一部を、画像出力部に置き換え、画像出力部は、複数のリードDMA部から選択される1つのリードDMA部から転送される画像データを画像出力装置に出力することが好ましい。
第14の展開形態の画像処理システムにおいて、画像処理部がCPU(Central Processing Unit)あるいはDSP(Digital Signal Processor)で構成されてもよい。
本発明によれば、DRAMへの読出し系と書き込み系とのそれぞれに対し、リードキャッシュ側はリードアドレスの先出しによる先読み動作を行い、ライトキャッシュ側はライト動作を後から行うライトバック動作を行うようにキャッシュシステムを構成することで、画像処理部とDRAMとの間の転送速度を高速化することができる。したがって、処理速度の極めて速い画像処理システムを構成することができる。
図1は、本発明の実施形態に係る画像処理システムの構成を示すブロック図である。画像処理システム1は、画像入力装置2から画像データを入力する画像入力部13と、入力される画像データに対して各種の画像処理を行う画像処理部15a、15b、15cと、画像処理がなされた画像データを画像出力装置3に出力する画像出力部14と、キャッシュシステム10と、DRAM制御部12と、DRAM11とを備える。キャッシュシステム10は、画像入力部13、画像処理部15a、15b、15c、画像出力部14とそれぞれデータのやり取りをDMA(Direct Memory Access)で行うDMA部24a、24b、24c、24d、24eを備える。さらに、DMA部24a、24b、24c、24d、24eからの要求を調停するDMA調停部23と、DRAM11からのリードデータを一時蓄積するリードキャッシュ21と、DRAM11へのライトデータを一時蓄積するライトキャッシュ22と、リードキャッシュ21およびライトキャッシュ22の制御を行うキャッシュ制御部20とを備える。
以上のように構成される画像処理システム1は、キャッシュシステム10において、リードキャッシュ21でリードデータの先読み動作を行い、ライトキャッシュ22でライトバック動作を行うことにより、DRAM11へのアクセスの待ち時間を減らし、画像入力部13、画像処理部15a、15b、15c、画像出力部14での処理をほとんど連続的に行うことができる。さらに、キャッシュメモリの構成をDRAM11への連続アクセスに必要なビット幅とすることで、DRAM11へ連続的にアクセスできるようにしている。したがって、画像処理システム1は、画像処理のための参照メモリにDRAM11を用い、DRAM11と、画像入力部13、画像処理部15a、15b、15c、画像出力部14とのデータのやりとりを行う部分に、キャッシュシステム10を適用することによって、高速な画像処理を実現している。以下、画像処理システム1について実施例に即してさらに詳細に説明する。
図2は、本発明の第1の実施例に係る画像処理システムの構成を示すブロック図である。画像処理システム1は、画像入力装置2(例えば、スキャナやカメラ)からの画像データを受け取る画像入力部13と、例えば、輪郭強調、拡大縮小などの画像処理を行う画像処理部15a、15bと、画像出力装置3(例えば、テレビやプリンタ)へ画像データを出力する画像出力部14と、キャッシュシステム10と、DRAM11を制御するDRAM制御部12と、DRAM11とを備える。キャッシュシステム10は、画像入力部13、画像処理部15a、15bからのデータをそれぞれ読み込んでライトキャッシュ制御部31に対してDMAによって書き込みを行うライトDMA部34a、34b、34cと、リードキャッシュ制御部30からデータを読み込んで画像処理部15a、15b、画像出力部14に対してそれぞれDMAによって書き込みを行うリードDMA部35b、35c、35aと、ライトDMA部34a、34b、34c、リードDMA部35b、35c、35aからの要求を受けてタイミングや優先度などに応じてそれぞれの要求を調整するDMA調停部23と、DRAM11からのデータのキャッシュを制御するリードキャッシュ制御部30と、DMA調停部23からのデータのキャッシュを制御するライトキャッシュ制御部31とを備える。
ライトDMA部34a、34b、34cには、それぞれDMA調停部23に対してDMAのアドレスを生成するライトアドレス生成部36a、36b、36cを備える。また、リードDMA部35b、35c、35aには、それぞれDMA調停部23に対してDMAの先読みのためのリードアドレスを生成する先読みリードアドレス生成部37b、37c、37aを備える。さらに、リードキャッシュ制御部30には、リードデータをキャッシュするキャッシュメモリ80を備え、ライトキャッシュ制御部31には、ライトデータをキャッシュするキャッシュメモリ67を備える。
処理対象となる画像データは、例えば経路Pに沿って転送され処理される。まず、画像データは、画像入力装置2から入力され、画像入力部13、ライトDMA部34a、DMA調停部23、ライトキャッシュ制御部31、DRAM制御部12、DRAM11の順番で転送され、DRAM11に格納される。次に、DRAM11に格納された画像データは、DRAM11、DRAM制御部12、リードキャッシュ制御部30、DMA調停部23、リードDMA部35b、画像処理部15aの順番で画像処理部15aに転送され、所定の画像処理が画像処理部15aで施される。画像処理部15aにおける画像処理後の画像データは、ライトDMA部34b、DMA調停部23、ライトキャッシュ制御部31、DRAM制御部12、DRAM11の順番で転送され、DRAM11に再度格納される。
また、画像処理部15aで画像処理された画像データに対して更に画像処理部15bで画像処理を施す場合、DRAM11に再度格納された画像データは、DRAM11、DRAM制御部12、リードキャッシュ制御部30、DMA調停部23、リードDMA部35c、画像処理部15bの順番で転送され、必要な画像処理が画像処理部15bで施される。画像処理部15bにおける画像処理後の画像データは、ライトDMA部34c、DMA調停部23、ライトキャッシュ制御部31、DRAM制御部12、DRAM11の順番で転送され、DRAM11へ再度格納される。
さらに、画像処理が終了した画像データは、DRAM11、DRAM制御部12、リードキャッシュ制御部30、DMA調停部23、リードDMA部35a、画像出力部14の順番で画像出力部14に転送され、最終的に画像出力装置3に出力される。
次に、リードDMA部35a、35b、35cの詳細について説明する。図3は、本発明の第1の実施例に係るリードDMA部の構成を示すブロック図である。リードDMA部35a、35b、35cは同一構成であり、図3において、リードDMA部35で表す。リードDMA部35は、要求アドレスを算出して出力するアドレス計算部45と、所定のアドレス生成パターンに基づいて次のアドレスを生成してアドレス計算部45に渡すアドレスパターン生成部44と、リードDMA調停部38に対してリード要求信号を出力するリード要求制御部43と、リードDMA調停部38からのリードデータを格納して画像処理部へリードデータを出力するFIFO41と、FIFO41の残りを管理するカウンタ42と、を備える。
リード要求制御部43は、カウンタ42からFull信号が出力されない限り、リード要求信号をリードDMA調停部38とカウンタ42とに出力する。アドレス計算部45は、リードDMA調停部38からリード応答信号が返って来た場合、次のアドレスを計算して要求アドレスとしてリードDMA調停部38に出力する。リードDMA調停部38からのリードデータは、データ有効信号に同期してFIFO41に格納される。FIFO41に格納されたデータは、画像処理部15(画像処理部15a、15b、画像出力部14を代表して表す)からのリード信号によりFIFO41から出力される。また、FIFO41の内容が空である場合には、ウェイト信号が画像処理部15に出力される。カウンタ42は、リセット直後の値は0であって、リード要求信号でインクリメントされ、リード信号でデクリメントされ、FIFO41の段数と同じ値になった場合に、FIFO41内のデータが一杯であることを示すFull信号をリード要求制御部43に出力する。
図4は、本発明の第1の実施例に係るリードDMA部におけるタイミングチャートである。図4に示すように、要求アドレスと共に出力されるリード要求信号に対応するリード応答信号と、リードデータの有効性を示すデータ有効信号とを時間的に分けて、アドレスフローとデータフローとをパイプライン化している。パイプライン化によってリードデータの先読みを行うことができる。
次に、ライトDMA部34a、34b、34cの詳細について説明する。図5は、本発明の第1の実施例に係るライトDMA部の構成を示すブロック図である。ライトDMA部34a、34b、34cは、同一構成であり、図5において、ライトDMA部34と表す。ライトDMA部34は、要求アドレスを算出して出力するアドレス計算部55と、所定のアドレス生成パターンに基づいて次のアドレスを生成してアドレス計算部55に渡すアドレスパターン生成部54と、ライトDMA調停部39に対してライト要求信号を出力するライト要求制御部53と、画像処理部15からのデータを格納してライトDMA調停部39に出力するFIFO51と、を備える。ライト要求制御部53は、FIFO51にデータが入っている(Empty信号が出力されていない)場合に、ライト要求信号をライトDMA調停部39に対して出力する。アドレス計算部55は、ライトDMA調停部39からライト応答信号が返って来た場合、次のアドレスを計算してライトDMA調停部39に出力する。
図6は、本発明の第1の実施例に係るライトDMA部におけるタイミングチャートである。図4に示すリードDMA部と異なり、要求アドレスとライトデータとは同期して出力され、データフローとアドレスフローとのパイプライン化は行わない。
次に、リードDMA、ライトDMAにおけるアドレス生成、すなわちアドレスパターン生成部44およびアドレスパターン生成部54におけるアドレス生成について説明する。画像処理の場合、CPUのキャッシュの場合とは異なり、生成されるアドレスの進み方には、画像処理に固有の一定のパターンが存在する。図7は、アドレス生成部における単純増加の場合のアドレスの進み方の例を示す図である。アドレスは、多くの場合に単純増加であり、図7に示すように、0、1、…、6、7、10、11、…、16、17、20、…と順番に変化して行く。
また、図8は、画像処理のために画素フィルタを用いる場合のアドレスの進み方の例を示す図である。ここでは、3×3画素の画像演算フィルタで画像処理を行う例を示しており、アドレスは、単純増加ではなく、ある一定のパターンで増加する。アドレスは、0、10、20、1、11、21、2、21、22、…、7、17、27、10、20、30、11、21、31、…のように変化していく。
以上の例のように画像処理において生成されるアドレスの進み方には、画像処理に固有の一定のパターンが存在するため、このパターンに基づいて簡単な回路によるアドレスの先読みが可能である。なお、アドレスパターン生成部44およびアドレスパターン生成部54には、不図示の制御部によって、設定するアドレスパターンを変更するよう構成してもよい。
次に、ライトキャッシュ制御部31の詳細について説明する。図9は、ライトキャッシュ制御部の構成を示すブロック図である。ライトキャッシュ制御部31は、ライトDMA調停部39とDRAM制御部12との間にあって、内部にライト用のキャッシュメモリ67を持ち、キャッシュメモリ67には0〜n−1(nは自然数)までの番号が割り当てられている。キャッシュメモリ67の構成は、DRAM11へ連続的にデータを転送させるために、DRAM11のビット幅×連続回数のビット幅を持つこととする。
以下の説明の例では、ライトDMA部34a、34b、34cからのデータのバス幅が32ビットで、DRAM11のビット幅が32ビット、連続アクセス回数を8回として、キャッシュメモリ67の構成を、32ビット×8×n個とする。加えて、DRAM制御部12へのデータ転送帯域を多く取るために、メモリ構成としては、32ビット×nの2ポートメモリを8個持つこととし、32ビット×8=256ビット幅でライトデータをDRAM制御部12へ出力する。
すなわち、例えば、図10に示すようにn=6とすると、キャッシュメモリ67は、32ビット幅で入力し、256ビット幅で出力するように構成される。なお、図10では、有効なデータを黒印で表し、キャッシュ番号4のデータが十分となって出力される例を示している。
図9において、ライトキャッシュ制御部は、ライトキャッシュを制御するために、フラグレジスタ64、アドレスレジスタ65、ライトイネーブルレジスタ66の各制御レジスタを備える。フラグレジスタ64は、1ビット×n個で構成され、ビット1でキャッシュメモリ67に有効データが格納されていることを示す。アドレスレジスタ65は、p(pは自然数)ビット×n個で構成され、ライトアドレスを格納し、DRAM制御部12へ出力する。ライトイネーブルレジスタ66は、8ビット×n個で構成され、8個のキャッシュメモリ67のどこにデータが書かれているかを表す情報を保持し、この情報がバイトイネーブルとしてDRAM制御部12へ出力される。
上記の各レジスタを制御するために、ライトDMA部34a、34b、34cからの各要求信号を調停し、処理対象のDMAチャンネルを決定するライトDMA調停部39と、ライトDMA調停部39からのライト要求を受けてライト応答を返し、各レジスタのライト制御を行うライト制御部63と、要求されたライトアドレスとレジスタの値から、キャッシュ番号を判断するキャッシュ番号判断部61と、ライトイネーブルレジスタ66からキャッシュメモリ67へのライト状況を判断し、DRAM11へライトバックを行うライトバック制御部62とを備える。
一方、ライトDMA調停部39は、セレクタ68a、68b、68cと、優先順位決定部69を備え、優先順位決定部69は、ライトDMA部34a、34b、34cから出力される各要求信号の優先順位に基づいて選択したライト要求をライト制御部63に出力する。また、優先順位に基づいて選択した処理チャネルをセレクタ68a、68b、68cに出力する。セレクタ68aは、ライト制御部63が出力するライト応答を、処理チャネルを基に選択した対応のライトDMA部34a、34b、34cのいずれかに各ライト応答信号として出力する。また、セレクタ68bは、ライトDMA部34a、34b、34cから出力される各ライトアドレスを、処理チャネルを基に選択し、キャッシュ番号判断部61、アドレスレジスタ65、ライトイネーブルレジスタ66に出力する。さらに、セレクタ68cは、ライトDMA部34a、34b、34cから出力される各ライトデータを、処理チャネルを基に選択し、キャッシュメモリ67に出力する。
次に、制御レジスタの状態変化の例を用いて、ライトキャッシュ制御部の動作について説明する。図11は、ライトキャッシュ制御部における制御レジスタの状態変化を表す図である。なお、図11において、キャッシュ番号n=8であり、「1」が書き込まれている状態をハッチで示し、クリアされている状態「0」を空白で示す。
(1)の状態は、初期状態を示しており、全てのレジスタはクリアされている。
(2)の状態は、ライトDMA調停部39からライト要求が来た場合の状態を示している。ライト要求が発生するとライト制御部63は、キャッシュ番号判断部61からFull信号が出力されていないかを判断してライト応答を各レジスタとキャッシュメモリ67に出力する。キャッシュ番号判断部61では以下の優先順位で判断を行い、キャッシュ番号を各レジスタとキャッシュメモリ67に出力する。
1.フラグレジスタが1で、そのアドレスレジスタとライトアドレスとが一致するもの。
2.フラグレジスタが0のもの。
3.それ以外はキャッシュFull信号を出力する。
このライト応答により、キャッシュメモリ67にライトデータが格納され、対応するフラグレジスタの値は1となり、アドレスレジスタには要求されたライトアドレスが格納され、ライトイネーブルレジスタには格納されたデータに対応するビットが1となる。
(3)の状態は、キャッシュ番号1(上から2段目)のライトイネーブルレジスタ(バイトイネーブルビットを表す)が全て1になった状態を示す。この状態をライトバック制御部62は、バイトイネーブルビットの状態から判断し、DRAM制御部12に対してキャッシュ番号1のデータのライト要求を行う。
(4)の状態は、DRAM部へのライトが完了した状態を示している。DRAM制御部12からのライト応答により、キャッシュ番号1に対応するフラグレジスタとライトイネーブルレジスタとは、0にクリアされる。もし、全てのキャッシュが埋められていて、違うアドレスへのライト要求が来た場合には、キャッシュ番号判断部61は、キャッシュFull信号をライト制御部63とライトバック制御部62とに出力する。ライト制御部63は、ライト応答を出力しない。また、キャッシュFull信号を受けたライトバック制御部62は、バイトイネーブルビットが全て1になっていなくても、強制的に適当なキャッシュ番号のデータのライト要求をDRAM制御部12に対して行う。この際のキャッシュ番号の選び方は、キャッシュ番号の若い順、バイトイネーブルビットが埋められている順、最後にライトバックされた時間の古い順などがある。
次に、リードキャッシュ制御部30の詳細について説明する。図12は、リードキャッシュ制御部の構成を示すブロック図である。リードキャッシュ制御部30は、ライトキャッシュ制御部31と同様に、内部にリード用のキャッシュメモリ80を持ち、0〜n−1の番号が振り当てられている。キャッシュメモリ80の構成もライト用のキャッシュメモリ67と同様に構成され、32ビット×nの2ポートメモリを8個含むものである。
リード用のキャッシュメモリ80を制御するために、受付レジスタ76、アドレスレジスタ77、回数レジスタ78、フラグレジスタ79、の各レジスタを備える。フラグレジスタ79は、1ビット×n個で構成され、ビット1でキャッシュメモリ80に有効データが格納されていることを示す。受付レジスタ76は、1ビット×n個で構成され、ビット1でDRAM制御部12に対してリード要求をしていることを示す。アドレスレジスタ77は、pビット×n個で構成され、リードアドレスを格納する。回数レジスタ78は、4ビット×n個で構成され、キャッシュメモリ80からリードされた回数を示す。
上記の各レジスタを制御するために、リードDMA35a、35b、35cからの各リード要求信号を調停し、処理対象のDMAチャンネルを決定するリードDMA調停部38と、リードDMA調停部38からのリード要求を受け、DRAM制御部12へのリード要求を発行し、リードDMA調停部38への応答信号を出力するリード制御部72と、要求されたリードアドレスからキャッシュ番号やキャッシュHit信号を出力するキャッシュ番号判断部71と、リード制御部72からの応答信号などを格納するリード応答FIFO73と、リード制御部72からのリード要求などを格納するリード要求FIFO75と、リード応答FIFO73のデータとキャッシュメモリ80へのデータ格納状況とに基づいてリードデータを出力するデータ出力制御部74とを備える。なお、DRAM制御部12は、一般的なものでありDRAM11の種類によって適切なものが選ばれる。
一方、リードDMA調停部38は、セレクタ81a、81b、81c、81dと、優先順位決定部82を備え、優先順位決定部82は、リードDMA部35a、35b、35cから出力される各リード要求信号の優先順位に基づいて選択したリード要求をリード制御部72に出力する。また、優先順位に基づいて選択した処理チャネルをセレクタ81a、81b、リード応答FIFO73に出力する。セレクタ81aは、リードDMA部35a、35b、35cから出力される各リードアドレスを、処理チャネルを基に選択し、キャッシュ番号判断部71、リード要求FIFO75、アドレスレジスタ77、リード応答FIFO73に出力する。また、セレクタ81bは、リード制御部72が出力する応答信号を、処理チャネルを基に選択したリード応答信号としてリードDMA部35a、35b、35cのいずれかに出力する。また、セレクタ81cは、データ出力制御部74が出力するデータ有効信号を、リード応答FIFO73が出力するチャネルの情報を基に選択したデータ有効信号としてリードDMA部35a、35b、35cのいずれかに出力する。さらに、セレクタ81dは、リード応答FIFO73が出力するチャネルの情報を基にキャッシュメモリ80からリードデータをリードDMA部35a、35b、35cに出力する。
次に、各制御レジスタの状態変化の例を用いて、リードキャッシュ制御部の動作について説明する。図13は、リードキャッシュ制御部における制御レジスタの状態変化を表す図である。なお、図13において、キャッシュ番号n=8であり、回数レジスタを除き、「1」が書き込まれている状態をハッチで示し、クリアされている状態「0」を空白で示す。
(1)の状態は、初期状態を示しており、全てのレジスタがクリアされている。
(2)の状態は、リードDMA調停部38からリード要求が来た場合の状態を示している。リード要求が発生すると、リード制御部72は、キャッシュ番号判断部71からのキャッシュHit信号とキャッシュFull信号、リード要求FIFO75からの要求Full信号、リード応答FIFO73からの応答Full信号を見て、リード要求信号と応答信号を出力する。キャッシュ番号判断部71は、以下の優先順位で判断を行いキャッシュ番号を出力する。
1.フラグレジスタが1で、アドレスレジスタとリードアドレスとが一致するもの(この場合、キャッシュ番号判断部71は、キャッシュHit信号をリード制御部72に出力する)。
2.フラグレジスタが0で、受付レジスタも0のもの。
3.受付レジスタが0で、回数レジスタがもっとも多いもの。
4.それ以外はキャッシュFull信号を出力する。
最初は、まだキャッシュメモリ80に要求されたアドレスのデータは入っていない状態であるので、キャッシュHit信号は、出力されず、リード制御部72は、リード要求と応答信号とを出力する。リード要求により、受付レジスタ76は、1にセットされ、アドレスレジスタ77にはリードアドレスが格納され、回数レジスタ78、フラグレジスタ79は、0にクリアされる。リード制御部72からのリード要求を受けたリード要求FIFO75は、DRAM制御部12に対してリード要求を行う。
(3)の状態は、キャッシュ番号0(最上段)のキャッシュメモリに、DRAM制御部12からリードデータが格納された状態を示す。DRAM制御部12からのデータ有効信号により、受付レジスタ76が0にクリアされ、フラグレジスタ79が1にセットされる。フラグレジスタ79が1になることにより、データ出力制御部74は、リード応答FIFO73からの応答信号の処理を行い、データ有効信号を出力する。リードDMA調停部38は、リードDMA35a、35b、35cへリードデータ、データ有効信号を出力する。データ有効信号により、回数レジスタ78の値は、+1される。
(4)の状態は、全てのキャッシュメモリ80がDRAM11からのリードデータにより埋められた状態、もしくは埋められる予定である状態を示す。この状態で新たなリード要求が来た場合は、回数レジスタ78中のもっとも値の大きいもの(この例では上から5段目が回数8でもっとも多い)が廃棄(キャッシュフラッシュ)される。
(5)の状態は、(4)の状態において新たなリード要求が来たときに、キャッシュフラッシュが実行された状態を示す。これにより、古いリードキャッシュは、順次廃棄され、次の新しいリードデータを格納する。
次に、本発明の第2の実施例について図面を参照して説明する。図14は、本発明の第2の実施例に係る画像処理システムの構成を示すブロック図である。図14において、図2と同一の符号は、同一物あるいは相当物を表し、その説明を省略する。CPU(DSP(Digital Signal Processor))90a、90bは、それぞれROM92a、92bに内蔵されるプログラムに基づいて所定の画像処理を実行するものであって、図2における画像処理部15a、15bに相当する。また、リードDMA部35d、35e、あるいはライトDMA部34d、34eの設定などはCPU(DSP)90a、90bが必要に応じて行うことができる。なお、ROM92a、92bは、FROMやディスクシステムなどの書き換え可能なデバイスに置き換えてもよく、プログラムを入れ替えることで画像処理内容をフレキシブルに変更することもできる。SRAM91a、91bは、それぞれCPU(DSP)90a、90bが動作する際のワークメモリとして機能する。このように構成される画像処理システムは、第1の実施例と同様に動作する。
本発明の利用分野として、デジタル複写機やFAX、プリンタ、デジタルカメラ、HDD(Hard Disk Drive)レコーダやDVD(Digital Versatile Disc)プレーヤ等の画像処理を必要とする用途に適用できる。
本発明の実施形態に係る画像処理システムの構成を示すブロック図である。 本発明の第1の実施例に係る画像処理システムの構成を示すブロック図である。 本発明の第1の実施例に係るリードDMA部の構成を示すブロック図である。 本発明の第1の実施例に係るリードDMA部におけるタイミングチャートである。 本発明の第1の実施例に係るライトDMA部の構成を示すブロック図である。 本発明の第1の実施例に係るライトDMA部におけるタイミングチャートである。 アドレス生成部における単純増加の場合のアドレスの進み方の例を示す図である。 画像処理のために画素フィルタを用いる場合のアドレスの進み方の例を示す図である。 ライトキャッシュ制御部の詳細を示すブロック図である。 キャッシュメモリの構成の例を表す図である。 ライトキャッシュ制御部における制御レジスタの状態変化を表す図である。 リードキャッシュ制御部の詳細を示すブロック図である。 リードキャッシュ制御部における制御レジスタの状態変化を表す図である。 本発明の第2の実施例に係る画像処理システムの構成を示すブロック図である。
符号の説明
1 画像処理システム
2 画像入力装置
3 画像出力装置
10 キャッシュシステム
11 DRAM
12 DRAM制御部
13 画像入力部
14 画像出力部
15、15a、15b、15c 画像処理部
20 キャッシュ制御部
21 リードキャッシュ
22 ライトキャッシュ
23 DMA調停部
24a、24b、24c、24d、24e DMA部
30 リードキャッシュ制御部
31 ライトキャッシュ制御部
34、34a、34b、34c、34d、34e ライトDMA部
35、35a、35b、35c、35d、35e リードDMA部
36a、36b、36c ライトアドレス生成部
37a、37b、37c 先読みリードアドレス生成部
38 リードDMA調停部
39 ライトDMA調停部
41、51 FIFO
42 カウンタ
43 リード要求制御部
44、54 アドレスパターン生成部
45、55 アドレス計算部
53 ライト要求制御部
61 キャッシュ番号判断部
62 ライトバック制御部
63 ライト制御部
64 フラグレジスタ
65 アドレスレジスタ
66 ライトイネーブルレジスタ
67、80 キャッシュメモリ
68a、68b、68c、81a、81b、81c、81d セレクタ
69、82 優先順位決定部
71 キャッシュ番号判断部
72 リード制御部
73 リード応答FIFO
74 データ出力制御部
75 リード要求FIFO
76 受付レジスタ
77 アドレスレジスタ
78 回数レジスタ
79 フラグレジスタ
90a、90b CPU
91a、91b SRAM
92a、92b ROM

Claims (15)

  1. 画像データを一次記憶するDRAM(Dynamic Random Access Memory)と、
    前記DRAMのリードライト制御を行うDRAM制御部と、
    画像データに対して所定の画像処理を行う画像処理部と、
    前記DRAM制御部と前記画像処理部との間に配置され、画像データの転送を行うキャッシュシステムと、
    を備え、
    前記キャッシュシステムは、
    前記DRAMに対してリードアドレスの先出しによる先読み動作を行うリード系キャッシュシステムと、
    前記DRAMに対してデータをまとめて後から書き込むライトバック動作を行うライト系キャッシュシステムと、
    から構成されることを特徴とする画像処理システム。
  2. 前記リード系キャッシュシステムは、
    リードキャッシュメモリと、
    前記DRAM制御部から画像データを読み出し、読み出した画像データを前記リードキャッシュメモリによって一時蓄積するように制御するリードキャッシュ制御部と、
    前記DRAM制御部から画像データを読み出す際に、前記DRAMのリードアドレスを所定のアドレス生成パターンに従って出力して先読み動作を行うリードDMA(Direct Memory Access)部と、
    を備えることを特徴とする請求項1記載の画像処理システム。
  3. 前記リードDMA部は、
    前記DRAMのリードアドレスを前記所定のアドレス生成パターンに基づいて計算して前記リードキャッシュ制御部に対して出力し、前記リードキャッシュ制御部から入力されるリード応答信号によって次のリードアドレスを出力するリードアドレス出力部と、
    前記リードキャッシュ制御部から入力される画像データを一時蓄積して前記画像処理部に出力するリード用FIFO(First In First Out)と、
    を備えることを特徴とする請求項2記載の画像処理システム。
  4. 前記リードキャッシュメモリは、n(nは2以上の整数)組のメモリ群から構成され、
    前記リードキャッシュ制御部は、前記n組のメモリ群の各組毎に、出力すべき有効な画像データが溜まったか否かを管理し、画像データが溜まったメモリ群から前記画像処理部に出力するように制御することを特徴とする請求項2記載の画像処理システム。
  5. 前記DRAMのデータビット幅をk(kは自然数)ビット、前記DRAMへの連続アクセス回数をm(mは自然数)回とする場合、前記リードキャッシュメモリは、k×mビット幅でリードデータを前記DRAM制御部から入力するように構成されることを特徴とする請求項2または4記載の画像処理システム。
  6. 前記ライト系キャッシュシステムは、
    ライトキャッシュメモリと、
    前記画像処理部から画像データを読み出して前記ライトキャッシュメモリに対して書き込むに際し、前記DRAMのライトアドレスを所定のアドレス生成パターンに従って出力してライトバック動作を行うライトDMA部と、
    前記ライトキャッシュメモリによって一時蓄積された画像データを前記DRAM制御部に対して書き込むように制御するライトキャッシュ制御部と、
    を備えることを特徴とする請求項1記載の画像処理システム。
  7. 前記ライトDMA部は、
    前記DRAMのライトアドレスを前記所定のアドレス生成パターンに基づいて計算して前記ライトキャッシュ制御部に対して出力し、前記ライトキャッシュ制御部から入力されるライト応答信号によって次のライトアドレスを出力するリードアドレス出力部と、
    前記画像処理部から入力される画像データを一時蓄積して前記ライトキャッシュ制御部に出力するライト用FIFOと、
    を備えることを特徴とする請求項6記載の画像処理システム。
  8. 前記ライトキャッシュメモリは、n(nは2以上の整数)組のメモリ群から構成され、
    前記ライトキャッシュ制御部は、前記n組のメモリ群の各組毎に、出力すべき有効な画像データが溜まったか否かを管理し、画像データが溜まったメモリ群から前記DRAM制御部に対して書き込むように制御することを特徴とする請求項6記載の画像処理システム。
  9. 前記DRAMのデータビット幅をk(kは自然数)ビット、前記DRAMへの連続アクセス回数をm(mは自然数)回とする場合、前記ライトキャッシュメモリは、k×mビット幅でライトデータを前記DRAM制御部へ出力するように構成されることを特徴とする請求項6または8記載の画像処理システム。
  10. 前記所定のアドレス生成パターンは、前記アドレス生成パターンによるアドレス生成を要求する画像処理部における画素のアクセス順に基づいて定めることを特徴とする請求項2、3、6、7のいずれか一に記載の画像処理システム。
  11. 前記画像処理部は、複数の画像処理部からなり、
    前記ライト系キャッシュシステムは、前記複数の画像処理部にそれぞれ対応させた前記ライトDMA部を複数備え、前記複数のライトDMA部からのアクセス要求を調停するライトDMA調停部をさらに備え、
    前記ライトDMA調停部は、前記複数のライトDMA部から優先順位に従って選択したライトDMA部を前記ライトキャッシュ制御部に接続することを特徴とする請求項2記載の画像処理システム。
  12. 前記複数の画像処理部の一部を、画像入力部に置き換え、
    前記画像入力部は、画像入力装置から入力される画像データを、前記複数のライトDMA部から選択される1つのライトDMA部に転送することを特徴とする請求項11記載の画像処理システム。
  13. 前記画像処理部は、複数の画像処理部からなり、
    前記リード系キャッシュシステムは、前記複数の画像処理部にそれぞれ対応させた前記リードDMA部を複数備え、前記複数のリードDMA部からのアクセス要求を調停するリードDMA調停部をさらに備え、
    前記リードDMA調停部は、前記複数のリードDMA部から優先順位に従って選択したリードDMA部を前記リードキャッシュ制御部に接続することを特徴とする請求項2記載の画像処理システム。
  14. 前記複数の画像処理部の一部を、画像出力部に置き換え、
    前記画像出力部は、前記複数のリードDMA部から選択される1つのリードDMA部から転送される画像データを画像出力装置に出力することを特徴とする請求項13記載の画像処理システム。
  15. 前記画像処理部がCPU(Central Processing Unit)あるいはDSP(Digital Signal Processor)で構成されることを特徴とする請求項1〜14のいずれか1に記載の画像処理システム。
JP2004257391A 2004-09-03 2004-09-03 画像処理システム Expired - Fee Related JP4266900B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004257391A JP4266900B2 (ja) 2004-09-03 2004-09-03 画像処理システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004257391A JP4266900B2 (ja) 2004-09-03 2004-09-03 画像処理システム

Publications (2)

Publication Number Publication Date
JP2006072832A true JP2006072832A (ja) 2006-03-16
JP4266900B2 JP4266900B2 (ja) 2009-05-20

Family

ID=36153374

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004257391A Expired - Fee Related JP4266900B2 (ja) 2004-09-03 2004-09-03 画像処理システム

Country Status (1)

Country Link
JP (1) JP4266900B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007183692A (ja) * 2005-12-29 2007-07-19 Fujitsu Ltd データ処理装置
US8099530B2 (en) 2009-02-13 2012-01-17 Renesas Electronics Corporation Data processing apparatus
JP2012116078A (ja) * 2010-11-30 2012-06-21 Fuji Xerox Co Ltd 印刷文書処理システム、キャッシュ装置及びプログラム
JP2012190382A (ja) * 2011-03-14 2012-10-04 Dainippon Printing Co Ltd 画像変形装置および命令付加装置
JP2012238154A (ja) * 2011-05-11 2012-12-06 Toshiba Corp 画像処理装置、画像処理システム及び画像処理方法
JP2015194918A (ja) * 2014-03-31 2015-11-05 株式会社メガチップス データ転送制御装置及びメモリ内蔵装置
CN112597079A (zh) * 2020-12-22 2021-04-02 上海安路信息科技有限公司 卷积神经网络加速器的数据回写系统
CN112732603A (zh) * 2019-10-14 2021-04-30 广州飒特红外股份有限公司 一种多通道vdma控制方法及其应用

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007183692A (ja) * 2005-12-29 2007-07-19 Fujitsu Ltd データ処理装置
US8099530B2 (en) 2009-02-13 2012-01-17 Renesas Electronics Corporation Data processing apparatus
US8244929B2 (en) 2009-02-13 2012-08-14 Renesas Electronics Corporation Data processing apparatus
JP2012116078A (ja) * 2010-11-30 2012-06-21 Fuji Xerox Co Ltd 印刷文書処理システム、キャッシュ装置及びプログラム
JP2012190382A (ja) * 2011-03-14 2012-10-04 Dainippon Printing Co Ltd 画像変形装置および命令付加装置
JP2012238154A (ja) * 2011-05-11 2012-12-06 Toshiba Corp 画像処理装置、画像処理システム及び画像処理方法
US8934736B2 (en) 2011-05-11 2015-01-13 Kabushiki Kaisha Toshiba Image processing apparatus, image processing system, and method for having computer process image
JP2015194918A (ja) * 2014-03-31 2015-11-05 株式会社メガチップス データ転送制御装置及びメモリ内蔵装置
CN112732603A (zh) * 2019-10-14 2021-04-30 广州飒特红外股份有限公司 一种多通道vdma控制方法及其应用
CN112597079A (zh) * 2020-12-22 2021-04-02 上海安路信息科技有限公司 卷积神经网络加速器的数据回写系统
CN112597079B (zh) * 2020-12-22 2023-10-17 上海安路信息科技股份有限公司 卷积神经网络加速器的数据回写系统

Also Published As

Publication number Publication date
JP4266900B2 (ja) 2009-05-20

Similar Documents

Publication Publication Date Title
US6496902B1 (en) Vector and scalar data cache for a vector multiprocessor
JP4181576B2 (ja) キャッシング機構
US7234040B2 (en) Program-directed cache prefetching for media processors
TWI466060B (zh) 轉譯單元、顯示管與在顯示管中之串流轉譯之方法與裝置
US8799585B2 (en) Cache memory capable of adjusting burst length of write-back data in write-back operation
US7475190B2 (en) Direct access of cache lock set data without backing memory
JP2010191638A (ja) キャッシュ装置
JP2003504757A (ja) 外部メモリアクセス用バッファリングシステムバス
JPH07219844A (ja) キャッシュラインリプレーシング装置及び方法
JP2006268801A (ja) メモリアクセス制御回路
US20110078386A1 (en) Buffering in media and pipelined processing components
JP2001216194A (ja) 演算処理装置
KR101517712B1 (ko) 이미지 병진을 위한 에지의 알파 값을 이용한 레이어 혼합
EP0926600B1 (en) Computer system with processor and memory hierarchy and its operating method
JPH0950402A (ja) デジタル・データ及びビデオ信号の処理デバイス及びシステム
JP4266900B2 (ja) 画像処理システム
JP3506024B2 (ja) 情報処理装置
US20080282054A1 (en) Semiconductor device having memory access mechanism with address-translating function
JP3961371B2 (ja) 情報処理装置
JP4536189B2 (ja) Dma転送装置及びdma転送システム
JP2004240616A (ja) メモリコントローラ及びメモリアクセス制御方法
US8493398B2 (en) Dynamic data type aligned cache optimized for misaligned packed structures
JP5091548B2 (ja) メモリシステム
US20070016717A1 (en) Cache system
JP4583981B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081029

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081111

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090113

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090127

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090217

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120227

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120227

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130227

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130227

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140227

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees