JP2003223358A - 記憶制御装置および記憶制御方法、並びにプログラムおよび記録媒体 - Google Patents

記憶制御装置および記憶制御方法、並びにプログラムおよび記録媒体

Info

Publication number
JP2003223358A
JP2003223358A JP2002023699A JP2002023699A JP2003223358A JP 2003223358 A JP2003223358 A JP 2003223358A JP 2002023699 A JP2002023699 A JP 2002023699A JP 2002023699 A JP2002023699 A JP 2002023699A JP 2003223358 A JP2003223358 A JP 2003223358A
Authority
JP
Japan
Prior art keywords
data
memory
block
image
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002023699A
Other languages
English (en)
Other versions
JP4058671B2 (ja
Inventor
Tetsujiro Kondo
哲二郎 近藤
Hiroshi Sato
浩 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002023699A priority Critical patent/JP4058671B2/ja
Publication of JP2003223358A publication Critical patent/JP2003223358A/ja
Application granted granted Critical
Publication of JP4058671B2 publication Critical patent/JP4058671B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 メモリから、同時に読み出す必要のある画像
ブロックの数を少なくする。 【解決手段】 画像ブロックの頂点が、隣接する複数の
画像ブロックのうちの少なくとも1つ画像ブロックの頂
点と一致しない画像ブロックに、画像データが分割さ
れ、その画像ブロック単位で、メモリに記憶される。画
像ブロックは、その列方向の境界線が、隣接する行のデ
ータブロックの列方向の境界線とずれており、画像ブロ
ックの行方向の境界線の長さをa、メモリから読み出さ
れ、処理の対象とされる処理ブロックの行方向の長さを
b、画像ブロックのずれ量をcとすると、これらは、式
b≦c≦a−bを満たす関係になっており、処理ブロッ
クの画像データは、最大でも、3つの画像ブロックを同
時に読み出すことにより得ることができる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、記憶制御装置およ
び記憶制御方法、並びにプログラムおよび記録媒体に関
し、特に、例えば、画像データを処理する際に、その画
像データを記憶するメモリにおけるデータの読み書き速
度を高速化するとともに、その消費電力を低減すること
等ができるようにする記憶制御装置および記憶制御方
法、並びにプログラムおよび記録媒体に関する。
【0002】
【従来の技術】図1は、画像データを処理する、従来の
画像処理装置の一例の構成を示している。
【0003】HD(Hard Disk)1には、画像処理の対象
とする、2次元データとしての画像データが記憶されて
いる。また、HD1は、例えば画像処理の結果得られる
画像データも必要に応じて記憶する。
【0004】HDコントローラ2は、メモリ制御部3か
らの要求に応じて、HD1から画像データを読み出し、
データバス上に出力する。また、HDコントローラ2
は、データバス上の画像データを受信し、HD1に書き
込む。
【0005】メモリ制御部3は、画像処理部5からの要
求に応じて、HDコントローラ2およびメモリ4を制御
する。
【0006】即ち、メモリ制御部3は、HDコントロー
ラ2を制御することにより、HD1に記録された画像デ
ータを、例えば1フレーム(またはフィールド)単位で
読み出させ、データバス上に出力させる。また、メモリ
制御部3は、メモリ4を制御することにより、データバ
ス上の画像データを記憶させる。さらに、メモリ制御部
3は、メモリ4を制御することにより、メモリ4に記憶
された画像データを、データバス上に出力させる。
【0007】メモリ4は、図1では、4つのメモリバン
ク41,42,43,44を有し、メモリ制御部3の制御に
したがい、各メモリバンク4iに、データバス上の画像
データを記憶し、また、各メモリバンク4iに記憶され
た画像データを読み出し、データバス上に出力する。
【0008】画像処理部5は、データバス上の画像デー
タを受信し、その画像データを対象に、所定の画像処理
を行う。即ち、画像処理部5は、メモリ制御部3に対し
て、画像処理の対象とする、行方向と列方向が所定の画
素数で構成される矩形状のブロック(以下、適宜、処理
ブロックという)の画像データを要求する。そして、画
像処理部5は、要求した処理ブロックの画像データが、
メモリ4から読み出されてデータバス上に出力されるの
を待って、その処理ブロックの画像データを受信し、そ
の処理ブロックの画像データを対象に、所定の画像処理
を行う。
【0009】ここで、画像処理部5が所定の処理ブロッ
クの画像データを対象に行う画像処理としては、例え
ば、MPEG(Moving Picture Experts Group)符号化に
おいて、動きベクトルを検出するのに行われるブロック
マッチングなどがある。
【0010】次に、図2は、画像処理部5が画像処理の
対象とする処理ブロックの例を示している。
【0011】図2では、1フレームの画像データから、
行方向と列方向がいずれも4画素で構成される処理ブロ
ックが切り出され、その処理ブロックが有する16(=
4×4)画素の画像データが、画像処理の対象とされる
ようになっている。
【0012】次に、図3は、図1のメモリ4の構成例を
示している。
【0013】メモリ4を構成する各メモリバンク4
iは、行方向に、複数のワード線が配置されるととも
に、列方向に、複数のビット線が配置され、ワード線と
ビット線の交差する部分に、データを記憶するメモリセ
ルが設けられて構成されている。
【0014】メモリバンク4iへの画像データの書き込
み時においては、複数のビット線それぞれに、書き込む
べき画像データが供給されるとともに、複数のワード線
のうちの1つが選択され(HレベルまたはLレベルにさ
れることにより活性化され)、その選択されたワード線
上の各メモリセルに、そのメモリセルに接続されたビッ
ト線上の画像データが記憶される。
【0015】一方、メモリバンク4iからの画像データ
の読み出し時においては、複数のワード線のうちの1つ
が選択され、その選択されたワード線上の各メモリセル
に記憶された画像データが、そのメモリセルに接続され
たビット線から読み出される。
【0016】なお、1つのメモリバンク4iに対する画
像データの読み書き時において選択されるワード線は、
1本に限られる。即ち、メモリバンク4iにおける複数
のワード線を選択した場合には、その複数のワード線上
のメモリセルのデータが、ビット線上で衝突してしま
い、データが破壊される。従って、メモリバンク4i
おける複数のワード線のメモリセルに対して、データ
を、同時に読み書きすることはできない。
【0017】一方、メモリバンク4iにおける1本のワ
ード線上のメモリセルに対しては、データを、同時に読
み書きすることができる。そこで、画像データを、上述
したような処理ブロック単位で処理する場合には、画像
の読み書き速度を向上させるために、メモリ制御部3
は、図4に示すように、画像データを、処理ブロック以
上の大きさの、例えば、行×列が16画素×16画素の
矩形状の画像ブロックに分割し、各画像ブロックの画像
データを、1本のワード線上のメモリセルに記憶させ
る。即ち、この場合、1本のワード線上のメモリセルに
は、256(=16×16)画素の画像データが記憶さ
れる。
【0018】ここで、1本のワード線上のメモリセル
に、画像ブロックの画像データを記憶させる方法につい
ては、本件出願人が先に提案した特開2000−182
024号公報に、その詳細が開示されている。
【0019】
【発明が解決しようとする課題】ところで、1本のワー
ド線上に、多数のメモリセルを設けることにより、より
大きな画像ブロックの画像データ(極端には、例えば、
1フレームの画像データ)を、同時に読み書きすること
が可能となる。
【0020】しかしながら、この場合、ワード線の長さ
が長くなるため、ワード線を活性化するのに、時間を要
することになり、画像データの読み書き速度が低下する
ことになる。
【0021】そこで、図1の画像処理装置においては、
メモリ4が、複数としての、例えば、4つのメモリバン
ク41乃至44に分割されている。即ち、メモリバンク4
1乃至44それぞれは、独立に動作させることができ、従
って、メモリバンク41乃至44それぞれの、あるワード
線を選択することにより、4つの画像ブロックの読み書
きを、同時に行うことができる。
【0022】ところで、図1の画像処理装置において、
メモリ4が、4つのメモリバンク4 1乃至44で構成され
ているのは、次のような理由による。
【0023】即ち、いまの場合、画像ブロックが16×
16画素で構成され、処理ブロックが、それより小さい
4×4画素で構成されるため、図5に示すように、処理
ブロックが、ある1つの画像ブロックの範囲に含まれる
処理ブロックB1であれば、その1つの画像ブロック
を、メモリ4から読み出すことにより、処理ブロックB
1の画像データを得ることができ、特に問題はない。
【0024】しかしながら、処理ブロックが、図5に示
すように、2つの画像ブロックの範囲に跨る処理ブロッ
クB2である場合には、処理ブロックB2の画像データを
得るためには、その2つの画像ブロックを、同時に読み
出す必要がある。この場合、2つの画像ブロックが、同
一のメモリバンク4iに記憶されているときには、上述
したように、同時に、2つのワード線を選択することが
できないため、同時に読み出すことはできない。
【0025】そこで、画像ブロックは、それに隣接する
画像ブロックが記憶されるメモリバンク4i'(i’≠
i)とは異なるメモリバンク4iに記憶させる必要があ
る。
【0026】この場合、異なるメモリバンク4iと4i'
から、処理ブロックB2の画像データを有する、隣接す
る2つの画像ブロックを同時に読み出すことが可能とな
る。
【0027】そして、画像データを、図4に示したよう
に、各画像ブロックの頂点が、隣接するすべての画像ブ
ロックの頂点に一致するように、いわゆるマトリクス状
に分割した場合には、処理ブロックは、図5において処
理ブロックB3として示すように、最大で、4つの画像
ブロックに跨ることがある。
【0028】この4つの画像ブロックを、同時に読み出
すためには、その4つの画像ブロックそれぞれを、異な
るメモリバンクに記憶させる必要があり、このため、図
1では、メモリ4が、4つのメモリバンク41乃至44
構成され、処理ブロックが跨る可能性のある4つの画像
ブロックそれぞれは、4つのメモリバンク41乃至44
異なるものに記憶される。
【0029】ところで、メモリ4において流れる電流、
ひいては、その消費電力は、選択(活性化)するメモリ
バンク4iの数に比例する。
【0030】従って、処理ブロックが、4つの画像ブロ
ックに跨る場合には、1つの画像ブロックの範囲に含ま
れる場合に比較して、画像データの読み出しのためにメ
モリ4で消費される電力が著しく大になる。さらに、処
理ブロックが、4つの画像ブロックに跨る場合には、メ
モリ4に流れる電流の増加に伴い、ノイズが発生する。
【0031】本発明は、このような状況に鑑みてなされ
たものであり、同時に読み出す必要のある画像ブロック
の数を少なくすることができるようにし、これにより、
メモリにおけるデータの読み書き速度を高速に維持した
まま、その消費電力を低減すること等ができるようにす
るものである。
【0032】
【課題を解決するための手段】本発明の記憶制御装置
は、2次元データを、矩形状のデータブロックであっ
て、その頂点が、隣接する複数のデータブロックのうち
の少なくとも1つデータブロックの頂点と一致しないデ
ータブロックに分割した、そのデータブロック単位の2
次元データを取得する取得手段と、記憶装置におけるワ
ード線を選択することにより、そのワード線上のメモリ
セルに、データブロック単位の2次元データを記憶させ
る記憶選択手段とを備えることを特徴とする。
【0033】本発明の記憶制御方法は、2次元データ
を、矩形状のデータブロックであって、その頂点が、隣
接する複数のデータブロックのうちの少なくとも1つデ
ータブロックの頂点と一致しないデータブロックに分割
した、そのデータブロック単位の2次元データを取得す
る取得ステップと、記憶装置におけるワード線を選択す
ることにより、そのワード線上のメモリセルに、データ
ブロック単位の2次元データを記憶させる記憶選択ステ
ップとを備えることを特徴とする。
【0034】本発明のプログラムは、2次元データを、
矩形状のデータブロックであって、その頂点が、隣接す
る複数のデータブロックのうちの少なくとも1つデータ
ブロックの頂点と一致しないデータブロックに分割し
た、そのデータブロック単位の2次元データを取得する
取得ステップと、記憶装置におけるワード線を選択する
ことにより、そのワード線上のメモリセルに、データブ
ロック単位の2次元データを記憶させる記憶選択ステッ
プとを備えることを特徴とする。
【0035】本発明の記録媒体は、2次元データを、矩
形状のデータブロックであって、その頂点が、隣接する
複数のデータブロックのうちの少なくとも1つデータブ
ロックの頂点と一致しないデータブロックに分割した、
そのデータブロック単位の2次元データを取得する取得
ステップと、記憶装置におけるワード線を選択すること
により、そのワード線上のメモリセルに、データブロッ
ク単位の2次元データを記憶させる記憶選択ステップと
を備えるプログラムが記録されていることを特徴とす
る。
【0036】本発明においては、2次元データを、矩形
状のデータブロックであって、その頂点が、隣接する複
数のデータブロックのうちの少なくとも1つデータブロ
ックの頂点と一致しないデータブロックに分割した、そ
のデータブロック単位の2次元データが取得され、記憶
装置におけるワード線を選択することにより、そのワー
ド線上のメモリセルに、データブロック単位の2次元デ
ータが記憶される。
【0037】
【発明の実施の形態】図6は、本発明を適用した画像処
理装置の一実施の形態の構成例を示している。なお、図
中、図1における場合と対応する部分については、同一
の符号を付してあり、以下では、その説明は、適宜省略
する。即ち、図6の画像処理装置は、メモリ制御部3に
代えて、メモリ制御部11が設けられている他は、基本
的に、図1における場合と同様に構成されている。
【0038】但し、メモリ4は、4つのメモリバンク4
1乃至44ではなく、3つのメモリバンク41乃至43
ら構成されている。
【0039】メモリ制御部11は、HD1から読み出さ
れたフレーム単位の画像データを、マトリクス状に分割
するのではなく、その頂点が、隣接する複数の画像ブロ
ックのうちの少なくとも1つ画像ブロックの頂点と一致
しない画像ブロックに分割し、その画像ブロックを、メ
モリバンク4iのあるワード線上のメモリセルに記憶さ
せるようになっている。
【0040】即ち、メモリ制御部11は、HD1に記憶
された画像データを、例えば、図7に示すように、画像
ブロックの列方向の境界線L1が、隣接する行の画像ブ
ロックの列方向の境界線L2とずれた画像ブロックに分
割した、その画像ブロック単位の画像データを取得し、
メモリバンク4iのあるワード線を選択することによ
り、画像ブロックを、そのワード線上のメモリセルに記
憶させる。
【0041】なお、図7の実施の形態では、画像ブロッ
クは、16×16画素で構成されている。また、図7の
実施の形態では、画像ブロックの列方向の境界線L1
と、隣接する行の画像ブロックの列方向の境界線L2と
は、画像ブロックの行方向の境界線の画素数(長さ)で
ある16画素の1/2、つまり8画素分だけずれてい
る。
【0042】ここで、上述のように、隣接する行の画像
ブロックどうしの列方向の境界線が、8画素分だけずれ
ているため、図7の実施の形態では、上から偶数行目の
左端および右端の画像ブロックは、16×16画素では
なく、8×16画素で構成されている。このように、8
×16画素で構成される画像ブロックについては、16
×16画素で構成される画像ブロックと同様に、1本の
ワード線上のメモリセルに記憶させることができるが、
この場合、そのワード線上のメモリセルの1/2が無駄
になる。そこで、8×16画素で構成される画像ブロッ
クについては、2つの画像ブロック単位で、1本のワー
ド線上のメモリセルに記憶させることが可能である。具
体的には、例えば、図7において、2行目または4行目
の最左端の列にある画像ブロックb1またはb3について
は、同一の行の最右端の列にある画像ブロックb2また
はb4と、それぞれ、同一のワード線上のメモリセルに
記憶させることが可能である。あるいは、また、例え
ば、図7において、2行目の最左端または最右端の列に
ある画像ブロックb1またはb2については、その2行だ
け下の4行目の最左端または最右端の列にある画像ブロ
ックb3またはb4と、それぞれ、同一のワード線上のメ
モリセルに記憶させることが可能である。
【0043】図7に示したように、1フレームの画像デ
ータを、いわばレンガ模様状の16×16画素の画像ブ
ロック単位に分割し、その画像ブロック単位で、メモリ
4に記憶させた場合においては、4×4画素の処理ブロ
ックが跨る画像ブロックの数は、図8に示すように、処
理ブロックが、画像ブロックの頂点を含む位置にあるケ
ースにおいて最大の3になる。
【0044】従って、図3の画像処理装置では、処理ブ
ロックの画像データを得るために、最大でも、3つのメ
モリバンク41乃至43から、3つの画像ブロックをそれ
ぞれ同時に読み出せば良く、図1の画像処理装置におけ
る場合のように、4つのメモリバンク41乃至44から画
像ブロックを同時に読み出す必要があるケースは生じな
い。
【0045】その結果、図6の画像処理装置によれば、
図1における場合に比較して、メモリ4において流れる
電流を小さくすることができ、これにより、画像データ
の読み書き速度を維持したまま、メモリ4において流れ
る電流に起因するノイズや、消費電力を低減することが
でき、また、メモリ4において大電流が流れることによ
る電源電圧の降下の影響を抑制することができる。さら
に、最大でも、3つのメモリバンク41乃至43から、同
時に画像ブロックを読み出せば良いから、図1の画像処
理装置における場合のように、最大で、4つのメモリバ
ンク41乃至44から、同時に画像ブロックを読み出す必
要がある場合に比較して、データバスのバス幅を、1つ
のメモリバンクに相当する分だけ小さく(狭く)するこ
とができる。
【0046】次に、図9のフローチャートを参照して、
メモリ制御部11が、メモリ4に画像データを書き込む
場合に行う書き込み制御処理について説明する。
【0047】メモリ制御部11は、例えば、画像処理部
5から、あるフレームの画像データの要求があると、書
き込み制御処理を開始する。
【0048】即ち、書き込み制御処理では、まず最初
に、ステップS1において、メモリ制御部11は、画像
処理部5から要求のあった1フレームの画像データ(以
下、適宜、要求画像データという)を、仮想的に、図7
に示したように、レンガ模様状の画像ブロックに分割
し、ステップS2に進む。
【0049】ステップS2では、メモリ制御部11は、
要求画像データを構成する画像ブロックから、例えば、
ラスタスキャン順で、まだ注目画像ブロックとして選択
していないものを、注目画像ブロックとして選択し、ス
テップS3に進む。
【0050】ステップS3では、メモリ制御部11は、
メモリバンク41乃至43の中から、注目画像ブロックを
書き込むメモリバンク4iを選択する。
【0051】即ち、ステップS3では、メモリ制御部1
1は、注目画像ブロックに隣接する画像ブロックのう
ち、既にメモリ4に書き込まれているものが記憶された
メモリバンク4i'とは異なるメモリバンク4iを、注目
画像ブロックを書き込むメモリバンクとして選択する。
【0052】そして、ステップS4に進み、メモリ制御
部11は、ステップS3で選択したメモリバンク4i
おいて、まだ、要求画像データの画像ブロックを記憶さ
せていないメモリセルに接続されたワード線のうちの1
つを選択し、ステップS5に進む。
【0053】ステップS5では、メモリ制御部11は、
HDコントローラ2を制御することにより、HD1に記
憶された要求画像データから、注目画像ブロックを取得
し、即ち、注目画像ブロックの画像データをHD1から
読み出させ、データバス上に出力させる。これにより、
データバス上の注目画像ブロックの画像データは、ステ
ップS3で選択されたメモリバンク4iの、ステップS
4で選択されたワード線上のメモリセルに書き込まれ
る。
【0054】その後、ステップS6に進み、メモリ制御
部11は、要求画像データを構成する画像ブロックのう
ち、まだ、注目画像ブロックとしていないものがあるか
どうかを判定する。
【0055】ステップS6において、まだ、注目画像ブ
ロックとしていない画像ブロックがあると判定された場
合、ステップS2に戻り、以下、同様の処理が繰り返さ
れる。
【0056】また、ステップS6において、注目画像ブ
ロックとしていない画像ブロックがないと判定された場
合、書き込み制御処理を終了する。
【0057】次に、図10のフローチャートを参照し
て、メモリ制御部11が行う書き込み制御処理の他の実
施の形態について説明する。
【0058】まず最初に、ステップS11において、図
9のステップS1における場合と同様に、メモリ制御部
11は、要求画像データを、仮想的に、レンガ模様状の
画像ブロックに分割し、ステップS12に進む
【0059】ステップS12では、メモリ制御部11
は、要求画像データを構成する画像ブロックから、例え
ば、ラスタスキャン順で、まだ注目画像ブロックとして
選択していない3つの画像ブロックであって、互いに隣
接する3つの画像ブロック(任意の1つの画像ブロック
が、他の2つの画像ブロックと隣接する3つの画像ブロ
ック)を、第1乃至第3の注目画像ブロックとしてそれ
ぞれ選択し、ステップS13に進む。
【0060】ステップS13では、メモリ制御部11
は、メモリバンク41乃至43の中から、第1乃至第3の
注目画像ブロックを書き込むメモリバンク4i,4i'
i''をそれぞれ選択する。
【0061】ここで、ステップS13では、メモリ制御
部11は、第1乃至第3の注目画像ブロックが、それぞ
れ異なるメモリバンクに書き込まれるように、メモリバ
ンクの選択を行う。さらに、ステップS13では、メモ
リ制御部11は、第1の注目画像ブロックについては、
その第1の注目ブロックに隣接する画像ブロックのう
ち、既にメモリ4に書き込まれているものが記憶された
メモリバンクとは異なるメモリバンクを、第1の注目画
像ブロックを書き込むメモリバンクとして選択する。第
2および第3の注目画像ブロックについても、同様であ
る。
【0062】そして、ステップS14に進み、メモリ制
御部11は、ステップS13で選択したメモリバンク4
i,4i',4i''それぞれにおいて、まだ、要求画像デー
タの画像ブロックを記憶させていないメモリセルに接続
されたワード線のうちの1つを選択し、ステップS15
に進む。
【0063】ステップS15では、メモリ制御部11
は、HDコントローラ2を制御することにより、HD1
に記憶された要求画像データから、第1乃至第3の注目
画像ブロックを取得し、即ち、第1乃至第3の注目画像
ブロックの画像データをHD1から読み出させ、データ
バス上に出力させる。これにより、データバス上の第1
乃至第3の注目画像ブロックの画像データは、ステップ
S13で選択されたメモリバンク4i,4i',4i''それ
ぞれの、ステップS4で選択されたワード線上のメモリ
セルに、同時に書き込まれる。
【0064】その後、ステップS16に進み、メモリ制
御部11は、要求画像データを構成する画像ブロックの
中で、まだ、注目画像ブロックとしていないものがある
かどうかを判定する。
【0065】ステップS16において、まだ、注目画像
ブロックとしていない画像ブロックがあると判定された
場合、ステップS12に戻り、以下、同様の処理が繰り
返される。
【0066】また、ステップS16において、注目画像
ブロックとしていない画像ブロックがないと判定された
場合、書き込み制御処理を終了する。
【0067】図9の書き込み制御処理では、画像データ
が、1つの画像ブロック単位で、1つのメモリバンク4
iに書き込まれるのに対して、図10の書き込み制御処
理では、画像データが、3つの画像ブロック単位で、3
つのメモリバンク41乃至43に、同時に書き込まれる。
【0068】次に、図11のフローチャートを参照し
て、メモリ制御部11が、メモリ4に記憶された画像デ
ータを読み出す場合に行う読み出し制御処理について説
明する。
【0069】メモリ制御部11は、例えば、画像処理部
5から、メモリ4に記憶された1フレームの画像データ
のうちの、ある位置の処理ブロックの画像データの要求
があると、読み出し制御処理を開始する。
【0070】即ち、読み出し制御処理では、まず最初
に、ステップS21において、メモリ制御部11は、画
像処理部5から要求のあった処理ブロックが跨る1以上
の画像ブロックを認識し、その1以上の画像ブロックす
べてを注目画像ブロックとして選択する。
【0071】そして、ステップS22に進み、メモリ制
御部11は、メモリバンク41乃至43の中から、1以上
の注目画像ブロックが書き込まれている1以上のメモリ
バンクを選択し、ステップS23に進む。
【0072】ステップS23では、メモリ制御部11
は、ステップS22で選択した1以上のメモリバンク
の、注目画像ブロックが書き込まれているメモリセルが
接続されているワード線を選択し、読み出し制御処理を
終了する。
【0073】これにより、ステップS22で選択された
1以上のメモリバンクそれぞれから、選択されたワード
線上のメモリセルに記憶された画像データ、即ち、ステ
ップS21で選択された1以上の注目画像ブロックが同
時に読み出され、データバス上に出力される。
【0074】次に、図7および図8の実施の形態では、
1フレームの画像データを、16×16画素で構成され
る画像ブロックに分割し、また、画像ブロックの列方向
の境界線L1と、隣接する行の画像ブロックの列方向の
境界線L2とのずれ量を、画像ブロックの行方向の境界
線の画素数の1/2である8画素とするとともに、処理
ブロックを、4×4画素で構成するようにしたが、図1
2に示すように、画像ブロックの行方向の境界線の長さ
をaと、処理ブロックの行方向の長さをbと、画像ブロ
ックの列方向の境界線と、隣接する行の画像ブロックの
列方向の境界線との行方向のずれ量をcと、それぞれ表
すこととすると、これらは、次式を満たす必要がある。
【0075】
【数1】 ・・・(1)
【0076】なお、式(1)は、画像データを、レンガ
模様状の画像ブロックに分割した場合に、処理ブロック
が画像データ上のどの位置にあっても、多くとも、画像
ブロックの1つの頂点しか含まないこととする条件、即
ち、処理ブロックが、画像ブロックの2以上の頂点(同
一の画像ブロックの2以上の頂点と、異なる画像ブロッ
クの2以上の頂点の両方を含む)を含まないこととする
条件である。
【0077】次に、図6の画像処理部5には、前述した
ように、MPEG符号化において、動きベクトルを検出
するためのブロックマッチングの他、所定の処理ブロッ
クを対象に行われる各種の画像処理を行わせることがで
きる。
【0078】そのような画像処理の1つとして、本件出
願人が先に提案したデータ変換処理がある。
【0079】図13は、本件出願人が先に提案したデー
タ変換処理を行う画像処理部5の構成例を示している。
【0080】図13の実施の形態では、画像処理部5
は、そこに供給される画像データを、第1の画像データ
として、その第1の画像データを、その第1の画像デー
タよりも高画質の第2の画像データに変換するデータ変
換処理を行うようになっている。
【0081】ここで、例えば、第1の画像データを低解
像度の画像データとするとともに、第2の画像データを
高解像度の画像データとすれば、データ変換処理は、解
像度を向上させる解像度向上処理ということができる。
また、例えば、第1の画像データを低S/N(Siginal/N
oise)の画像データとするとともに、第2の画像データ
を高S/Nの画像データとすれば、データ変換処理は、
ノイズを除去するノイズ除去処理ということができる。
さらに、例えば、第1の画像データを所定のサイズの画
像データとするとともに、第2の画像データを、第1の
画像データのサイズを大きくまたは小さくした画像デー
タとすれば、データ変換処理は、画像のリサイズ(拡大
または縮小)を行うリサイズ処理ということができる。
【0082】従って、データ変換処理によれば、第1お
よび第2の画像データをどのように定義するかによっ
て、様々な処理を実現することができる。
【0083】インタフェース20は、タップ抽出部21
および22からの要求にしたがい、所定の処理ブロック
の供給を、メモリ制御部11(図6)に要求する。な
お、タップ抽出部21および22は、要求する処理ブロ
ックの、例えば、左上隅や中心などにある画素の座標
を、その処理ブロックを特定するための情報として、イ
ンタフェース20に供給するようになっており、インタ
フェース20は、その座標によって特定される処理ブロ
ックの供給を、メモリ制御部11に要求する。
【0084】タップ抽出部21は、第2の画像データを
構成する画素を、順次、注目画素とし、さらに、その注
目画素の画素値を予測するのに用いる第1の画像データ
を構成する画素(の画素値)の幾つかを、処理ブロック
として、インタフェース20に要求し、その要求に応じ
て、インタフェース20から供給される画像データか
ら、処理ブロックを構成する画素を、予測タップとして
抽出する。
【0085】具体的には、タップ抽出部21は、注目画
素に対応する、第1の画像データの画素に対して、空間
的または時間的に近い位置にある複数の画素、即ち、例
えば、注目画素に対応する、第1の画像データの画素
と、それに空間的に隣接する画素の、3×3画素など
を、処理ブロックとして、インタフェース20に要求す
る。この場合、インタフェース20は、メモリ制御部1
1に対して、処理ブロックを要求する。
【0086】ここで、メモリ4には、既に、データ変換
対象のフレームの第1の画像データが記憶されているも
のとする。
【0087】メモリ制御部11は、インタフェース20
から処理ブロックの要求を受信すると、その処理ブロッ
クが跨る画像ブロックを、図11で説明したように、メ
モリ4から読み出させ、データバス上に出力させる。イ
ンタフェース20は、このデータバス上の画像ブロック
の画像データを受信し、タップ抽出部21に供給する。
そして、タップ抽出部21は、このようにしてインタフ
ェース20から供給される画像ブロックの画像データの
中から、予測タップとする画素(の画素値)を抽出す
る。
【0088】なお、タップ抽出部21では、注目画素に
対応する、第1の画像データの画素を中心とする3×3
画素を、予測タップとして抽出する他、例えば、注目画
素に対応する、第1の画像データの画素の動きベクトル
を検出し、その動きベクトルにしたがって、予測タップ
として抽出する3×3画素の位置を変更するようにする
ことが可能である。
【0089】タップ抽出部22は、注目画素を、幾つか
のクラスのうちのいずれかにクラス分けするクラス分類
を行うのに用いる第1の画像データを構成する画素の幾
つかを、処理ブロックとして、インタフェース20に要
求し、その要求に応じて、インタフェース20から供給
される画像データから、処理ブロックを構成する画素
を、クラスタップとして抽出する。
【0090】ここで、タップ抽出部21と22が要求す
る処理ブロックは、同一である必要はない。従って、予
測タップとクラスタップは、同一のタップ構造とするこ
ともできるし、異なるタップ構造とすることもできる。
【0091】タップ抽出部21で得られた予測タップ
は、予測部25に供給され、タップ抽出部22で得られ
たクラスタップは、クラス分類部23に供給される。
【0092】クラス分類部23は、タップ抽出部22か
らのクラスタップに基づき、注目画素をクラス分類し、
その結果得られるクラスに対応するクラスコードを、係
数メモリ24に供給する。
【0093】ここで、クラス分類を行う方法としては、
例えば、ADRC(Adaptive Dynamic Range Coding)等を採
用することができる。
【0094】ADRCを用いる方法では、クラスタップを構
成する画素の画素値が、ADRC処理され、その結果得られ
るADRCコードにしたがって、注目画素のクラスが決定さ
れる。
【0095】なお、KビットADRCにおいては、例えば、
クラスタップを構成する画素の画素値の最大値MAXと最
小値MINが検出され、DR=MAX-MINを、局所的なダイナミ
ックレンジとし、このダイナミックレンジDRに基づい
て、クラスタップを構成する画素値がKビットに再量子
化される。即ち、クラスタップを構成する各画素の画素
値から、最小値MINが減算され、その減算値がDR/2Kで除
算(量子化)される。そして、以上のようにして得られ
る、クラスタップを構成するKビットの各画素の画素値
を、所定の順番で並べたビット列が、ADRCコードとして
出力される。従って、クラスタップが、例えば、1ビッ
トADRC処理された場合には、そのクラスタップを構成す
る各画素の画素値は、最小値MINが減算された後に、最
大値MAXと最小値MINとの平均値で除算され(小数点以下
切り捨て)、これにより、各画素の画素値が1ビットと
される(2値化される)。そして、その1ビットの画素
値を所定の順番で並べたビット列が、ADRCコードとして
出力される。
【0096】なお、クラス分類部23には、例えば、ク
ラスタップを構成する画素の画素値のレベル分布のパタ
ーンを、そのままクラスコードとして出力させることも
可能である。しかしながら、この場合、クラスタップ
が、N個の画素の画素値で構成され、各画素の画素値
に、Kビットが割り当てられているとすると、クラス分
類部23が出力するクラスコードの場合の数は、
(2NK通りとなり、画素の画素値のビット数Kに指数
的に比例した膨大な数となる。
【0097】従って、クラス分類部23においては、ク
ラスタップの情報量を、上述のADRC処理や、あるいはベ
クトル量子化等によって圧縮することにより、クラス分
類を行うのが好ましい。
【0098】なお、クラス分類は、上述したように、ク
ラスタップを構成する画素の画素値のレベル分布のパタ
ーンに基づいて行う他、例えば、そのクラスタップの注
目画素に対応する画素の部分にエッジが存在するかどう
かや、その画素の動きの有無(あるいは、動きの大きさ
や方向など)に基づいて行うことも可能である。
【0099】係数メモリ24は、後述する学習装置にお
いて学習処理が行われることにより得られるクラスごと
のタップ係数を記憶しており、その記憶しているタップ
係数のうちの、クラス分類部23から供給されるクラス
コードに対応するアドレスに記憶されているタップ係数
(クラス分類部23から供給されるクラスコードが表す
クラスのタップ係数)を読み出し、予測部25に供給す
る。
【0100】ここで、タップ係数とは、ディジタルフィ
ルタにおける、いわゆるタップにおいて入力データと乗
算される係数に相当するものである。
【0101】予測部25は、タップ抽出部21が出力す
る予測タップと、係数メモリ24が出力するタップ係数
とを取得し、その予測タップとタップ係数とを用いて、
注目画素の真値の予測値を求める所定の予測演算を行
う。これにより、予測部25は、注目画素の画素値(の
予測値)、即ち、第2の画像データを構成する画素の画
素値を求めて出力する。
【0102】なお、予測部25が出力する第1の画像デ
ータは、例えば、データバスおよびHDコントローラ2
を介して、HD1に書き込まれ、あるいは、図示せぬモ
ニタに供給されて表示され、または図示せぬ伝送媒体を
介して伝送される。
【0103】次に、図14のフローチャートを参照し
て、図13の画像処理部5の処理(データ変換処理)に
ついて説明する。
【0104】ステップS31では、タップ抽出部21
が、メモリ4(図6)に記憶された画像データを、デー
タ変換処理対象の第1の画像データとして、その第1の
画像データに対する第2の画像データ(データ変換処理
後の画像データ)を構成する各画素を、順次、注目画素
とし、その注目画素について、予測タップとする第1の
画像データの画素でなる処理ブロックを、インタフェー
ス20に要求し、その要求に応じて、インタフェース2
0から供給される画像ブロックから、予測タップとする
ものを抽出する。さらに、ステップS31では、タップ
抽出部22が、注目画素について、クラスタップとする
第1の画像データの画素でなる処理ブロックを、インタ
フェース20に要求し、その要求に応じて、インタフェ
ース20から供給される画像ブロックから、クラスタッ
プとするものを抽出する。そして、予測タップは、タッ
プ抽出部21から予測部25に供給され、クラスタップ
は、タップ抽出部22からクラス分類部23に供給され
る。
【0105】クラス分類部23は、タップ抽出部22か
ら、注目画素についてのクラスタップを受信し、ステッ
プS32において、そのクラスタップに基づき、注目画
素をクラス分類する。さらに、クラス分類部23は、そ
のクラス分類の結果得られる注目画素のクラスを表すク
ラスコードを、係数メモリ24に出力し、ステップS3
3に進む。
【0106】ステップS33では、係数メモリ24が、
クラス分類部23から供給されるクラスコードに対応す
るアドレスに記憶されているタップ係数、即ち、クラス
コードに対応するクラスのタップ係数を読み出して出力
する。さらに、ステップS33では、予測部25が、係
数メモリ24が出力するタップ係数を取得し、ステップ
S34に進む。
【0107】ステップS34では、予測部25が、タッ
プ抽出部21が出力する予測タップと、係数メモリ24
から取得したタップ係数とを用いて、所定の予測演算
(後述する式(2)の予測演算)を行う。これにより、
予測部25は、注目画素の画素値を求め、ステップS3
5に進む。
【0108】ステップS35では、タップ抽出部21
が、メモリ4(図6)に記憶された画像データとしての
第1の画像データに対応する第2の画像データを構成す
る画素のうち、まだ、注目画素としていないものがある
かどうかを判定する。ステップS35において、第2の
画像データを構成する画素のうち、まだ、注目画素とし
ていないものがあると判定された場合、ステップS31
に戻り、第2の画像データを構成する画素のうち、ま
だ、注目画素としていないもののうちの1つが、新たに
注目画素とされ、その注目画素を対象に、以下、同様の
処理が繰り返される。
【0109】また、ステップS35において、第2の画
像データを構成する画素のうち、まだ、注目画素として
いないものがないと判定された場合、即ち、メモリ4
(図6)に記憶された1フレームの画像データ(第1の
画像データ)を変換した画像データ(第2の画像デー
タ)が得られた場合、予測部25は、その画像データを
出力し、処理を終了する。
【0110】なお、図14のデータ変換処理は、メモリ
4に、順次、フレームごとの画像データを記憶させ、そ
のフレームごとの画像データを対象に、繰り返し行うよ
うにすることができる。
【0111】次に、図13の予測部25における予測演
算と、係数メモリ24に記憶させるクラスごとのタップ
係数の学習について説明する。
【0112】いま、高画質の画像データ(高画質画像デ
ータ)を第2の画像データとするとともに、その高画質
画像データをLPF(Low Pass Filter)によってフィル
タリングする等してその画質(解像度)を低下させた低
画質の画像データ(低画質画像データ)を第1の画像デ
ータとして、低画質画像データから予測タップを抽出
し、その予測タップと所定のタップ係数を用いて、高画
質画素の画素値を、所定の予測演算によって求める(予
測する)ことを考える。
【0113】いま、所定の予測演算として、例えば、線
形1次予測演算を採用することとすると、高画質画素の
画素値yは、次の線形1次式によって求められることに
なる。
【0114】
【数2】 ・・・(2)
【0115】但し、式(2)において、xnは、高画質
画素yについての予測タップを構成する、n番目の低画
質画像データの画素(以下、適宜、低画質画素という)
の画素値を表し、wnは、n番目の低画質画素(の画素
値)と乗算されるn番目のタップ係数を表す。
【0116】なお、式(2)では、予測タップが、N個
の低画質画素x1,x2,・・・,x Nで構成されるもの
としてある。
【0117】ここで、高画質画素の画素値yは、式
(2)に示した線形1次式ではなく、2次以上の高次の
式によって求めるようにすることも可能である。
【0118】ところで、いま、第kサンプルの高画質画
素の画素値の真値をykと表すとともに、式(2)によ
って得られるその真値ykの予測値をyk’と表すと、そ
の予測誤差ekは、次式で表される。
【0119】
【数3】 ・・・(3)
【0120】いま、式(3)の予測値yk’は、式
(2)にしたがって求められるため、式(3)のyk
を、式(2)にしたがって置き換えると、次式が得られ
る。
【0121】
【数4】 ・・・(4)
【0122】但し、式(4)において、xn,kは、第k
サンプルの高画質画素についての予測タップを構成する
n番目の低画質画素を表す。
【0123】式(4)の予測誤差ekを0とするタップ
係数wnが、高画質画素を予測するのに最適なものとな
るが、すべての高画質画素について、そのようなタップ
係数w nを求めることは、一般には困難である。
【0124】そこで、タップ係数wnが最適なものであ
ることを表す規範として、例えば、最小自乗法を採用す
ることとすると、最適なタップ係数wnは、次式で表さ
れる自乗誤差の総和Eを最小にすることで求めることが
できる。
【0125】
【数5】 ・・・(5)
【0126】但し、式(5)において、Kは、高画質画
素ykと、その高画質画素ykについての予測タップを構
成する低画質画素x1,k,x2,k,・・・,xN,kとのセ
ットのサンプル数(学習用のサンプルの数)を表す。
【0127】式(5)の自乗誤差の総和Eを最小(極
小)にするタップ係数wnは、その総和Eをタップ係数
nで偏微分したものを0とするものであり、従って、
次式を満たす必要がある。
【0128】
【数6】 ・・・(6)
【0129】そこで、上述の式(4)をタップ係数wn
で偏微分すると、次式が得られる。
【0130】
【数7】 ・・・(7)
【0131】式(6)と(7)から、次式が得られる。
【0132】
【数8】 ・・・(8)
【0133】式(8)のekに、式(4)を代入するこ
とにより、式(8)は、式(9)に示す正規方程式で表
すことができる。
【0134】
【数9】 ・・・(9)
【0135】式(9)の正規方程式は、例えば、掃き出
し法(Gauss-Jordanの消去法)などを用いることによ
り、タップ係数wnについて解くことができる。
【0136】式(9)の正規方程式をクラスごとにたて
て解くことにより、最適なタップ係数(ここでは、自乗
誤差の総和Eを最小にするタップ係数)wnを、クラス
ごとに求めることができる。
【0137】図15は、式(9)の正規方程式をたてて
解くことによりクラスごとのタップ係数wnを求める学
習を行うタップ係数の学習装置の構成例を示している。
【0138】学習装置には、学習に用いられる学習用画
像データが入力されるようになっている。ここで、学習
用画像データは、第2の画像データに対応するもので、
例えば、解像度の高い高画質画像データを用いることが
できる。
【0139】学習装置において、学習用画像データは、
教師データ生成部31と生徒データ生成部33に供給さ
れる。
【0140】教師データ生成部31は、そこに供給され
る学習用画像データから教師データを生成し、教師デー
タ記憶部32に供給する。即ち、ここでは、教師データ
生成部31は、学習用画像データとしての高画質画像デ
ータを、例えば、そのまま教師データとして、教師デー
タ記憶部32に供給する。
【0141】教師データ記憶部32は、教師データ生成
部31から供給される教師データとしての高画質画像デ
ータを記憶する。
【0142】生徒データ生成部33は、学習用画像デー
タから、第1の画像データに対応する生徒データを生成
し、生徒データ記憶部34に供給する。即ち、生徒デー
タ生成部33は、例えば、学習用画像データとしての高
画質画像データをフィルタリングすることにより、その
解像度を低下させることで、低画質画像データを生成
し、この低画質画像データを、生徒データとして、生徒
データ記憶部34に供給する。
【0143】生徒データ記憶部34は、生徒データ生成
部33から供給される生徒データを記憶する。
【0144】タップ抽出部35は、教師データ記憶部3
2に記憶された教師データとしての高画質画像データを
構成する画素を、順次、注目教師画素とし、その注目教
師画素について、生徒データ記憶部34に記憶された生
徒データとしての低画質画像データを構成する低画質画
素のうちの所定のものを、インタフェース40を介して
抽出することにより、図13のタップ抽出部21が構成
するのと同一のタップ構造の予測タップを構成し、足し
込み部38に供給する。
【0145】タップ抽出部36は、注目教師画素につい
て、生徒データ記憶部34に記憶された生徒データとし
ての低画質画像データを構成する低画質画素のうちの所
定のものを、インタフェース40を介して抽出すること
により、図13のタップ抽出部22が構成するのと同一
のタップ構造のクラスタップを構成し、クラス分類部3
7に供給する。
【0146】クラス分類部37は、タップ抽出部36が
出力するクラスタップに基づき、図13のクラス分類部
23と同一のクラス分類を行い、その結果得られるクラ
スに対応するクラスコードを、足し込み部38に出力す
る。
【0147】足し込み部38は、教師データ記憶部32
から、注目教師画素を読み出し、その注目教師画素と、
タップ抽出部35から供給される注目教師画素について
構成された予測タップを構成する生徒データを対象とし
た足し込みを、クラス分類部37から供給されるクラス
コードごとに行う。
【0148】即ち、足し込み部38は、クラス分類部3
7から供給されるクラスコードに対応するクラスごと
に、予測タップ(生徒データ)xi,k(xj,k)を用い、
式(9)の左辺の行列におけるコンポーネントを求める
ための生徒データどうしの乗算(xi,kj,k)と、サメ
ーション(Σ)に相当する演算を行う。
【0149】さらに、足し込み部38は、やはり、クラ
ス分類部37から供給されるクラスコードに対応するク
ラスごとに、予測タップ(生徒データ)xi,kと、教師
データykを用い、式(9)の右辺のベクトルにおける
コンポーネントを求めるための生徒データxi,kと教師
データykの乗算(xi,kk)と、サメーション(Σ)
に相当する演算を行う。
【0150】即ち、足し込み部38は、前回、注目教師
画素とされた教師データについて求められた式(9)に
おける左辺の行列のコンポーネントと、右辺のベクトル
のコンポーネントを、その内蔵するメモリ(図示せず)
に記憶しており、その行列のコンポーネントまたはベク
トルのコンポーネントに対して、新たに注目教師画素と
された教師データについて、その教師データykと生徒
データxi,k(xj,k)を用いて計算される、対応するコン
ポーネントxi,kj,kまたはxi,kkをそれぞれ足し込
む。
【0151】そして、足し込み部38は、教師データ記
憶部32に記憶された教師データすべてを注目教師画素
として、上述の足し込みを行うことにより、各クラスに
ついて、式(9)に示した正規方程式をたてると、その
正規方程式を、タップ係数算出部39に供給する。
【0152】タップ係数算出部39は、足し込み部38
から供給されるクラスごとの正規方程式を解くことによ
り、各クラスごとのタップ係数wnを求めて出力する。
【0153】インタフェース40は、タップ抽出部35
または36からの要求に応じて、生徒データ記憶部34
から、生徒データとしての画像データを読み出し、タッ
プ抽出部35または36に供給する。即ち、タップ抽出
部35または36は、図13のタップ抽出部21または
22における場合と同様に、予測タップまたはクラスタ
ップを構成する複数の画素でなる処理ブロックの要求
を、その処理ブロックを特定するための座標とともに、
インタフェース40に供給し、インタフェース40は、
その要求に応じて、処理ブロックの画像データを生徒デ
ータ記憶部34から読み出し、タップ抽出部35または
36に供給する。
【0154】次に、図16のフローチャートを参照し
て、図15の学習装置の処理(学習処理)について説明
する。
【0155】まず最初に、ステップS41において、教
師データ生成部31と生徒データ生成部33が、学習用
画像データから、教師データと生徒データを、それぞれ
生成して出力する。即ち、教師データ生成部31は、学
習用画像データを、そのまま、教師データとして出力す
る。また、生徒データ生成部31は、学習用画像データ
を、LPFによってフィルタリングすることにより、各
フレーム(またはフィールド)の教師データ(学習用画
像データ)について、生徒データを生成して出力する。
【0156】教師データ生成部31が出力する教師デー
タは、教師データ記憶部32に供給されて記憶され、生
徒データ生成部33が出力する生徒データは、生徒デー
タ記憶部34に供給されて記憶される。
【0157】そして、ステップS42に進み、タップ抽
出部35は、教師データ記憶部32に記憶された教師デ
ータのうち、まだ、注目教師画素としていないものを、
注目教師画素とする。さらに、ステップS43では、タ
ップ抽出部35が、注目教師画素について、生徒データ
記憶部34に記憶された生徒データから、インタフェー
ス40を介して、予測タップとするものを抽出し、足し
込み部38に供給するとともに、タップ抽出部36が、
やはり、注目教師画素について、生徒データ記憶部34
に記憶された生徒データから、インタフェース40を介
して、クラスタップとするものを抽出し、クラス分類部
37に供給する。
【0158】その後、ステップS43に進み、クラス分
類部37は、注目教師画素についてのクラスタップに基
づき、注目教師画素のクラス分類を行い、その結果得ら
れるクラスに対応するクラスコードを、足し込み部38
に出力して、ステップS44に進む。
【0159】ステップS44では、足し込み部38は、
教師データ記憶部32から注目教師画素を読み出し、そ
の注目教師画素と、タップ抽出部35から供給される予
測タップを用い、式(9)における左辺の行列のコンポ
ーネントxi,Kj,Kと、右辺のベクトルのコンポーネン
トxi,KKを計算する。さらに、足し込み部38は、既
に得られている行列のコンポーネントとベクトルのコン
ポーネントのうち、クラス分類部37からのクラスコー
ドに対応するものに対して、注目画素と予測タップから
求められた行列のコンポーネントxi,Kj,Kとベクトル
のコンポーネントxi,KKをそれぞれ足し込み、ステッ
プS45に進む。
【0160】ステップS45では、タップ抽出部35
が、教師データ記憶部32に、まだ、注目教師画素とし
ていない教師データが記憶されているかどうかを判定す
る。ステップS45において、注目教師画素としていな
い教師データが、まだ、教師データ記憶部32に記憶さ
れていると判定された場合、タップ抽出部35は、まだ
注目教師画素としていない教師データを、新たに、注目
教師画素として、ステップS42に戻り、以下、同様の
処理が繰り返される。
【0161】また、ステップS45において、注目教師
画素としていない教師データが、教師データ記憶部32
に記憶されていないと判定された場合、足し込み部38
は、いままでの処理によって得られたクラスごとの式
(9)における左辺の行列と、右辺のベクトルを、タッ
プ係数算出部39に供給し、ステップS46に進む。
【0162】ステップS46では、タップ係数算出部3
9は、足し込み部38から供給されるクラスごとの式
(9)における左辺の行列と右辺のベクトルによって構
成されるクラスごとの正規方程式を解くことにより、各
クラスごとに、タップ係数wnを求めて出力し、処理を
終了する。
【0163】ここで、学習用画像データの数が十分でな
いこと等に起因して、タップ係数w nを求めるのに必要
な数の正規方程式が得られないクラスが生じることがあ
り得るが、そのようなクラスについては、タップ係数算
出部39は、例えば、デフォルトのタップ係数を出力す
るようになっている。
【0164】なお、上述の場合には、学習用画像データ
を、そのまま第2の画像データに対応する教師データと
するとともに、その学習用画像データの空間解像度を劣
化させた低画質画像データを、第1の画像データに対応
する生徒データとして、タップ係数の学習を行うように
したことから、タップ係数としては、第1の画像データ
を、その解像度を向上させた第2の画像データに変換す
る解像度向上処理としてのデータ変換処理を行うものを
得ることができる。
【0165】従って、画像処理部5の係数メモリ24
(図13)に、そのタップ係数を記憶させることによ
り、画像処理部5では、画像データの空間解像度を向上
させることができる。
【0166】ここで、第1の画像データに対応する生徒
データと、第2の画像データに対応する教師データとす
る画像データの選択の仕方によって、タップ係数として
は、各種のデータ変換処理を行うものを得ることができ
る。
【0167】即ち、例えば、高画質画像データを教師デ
ータとするとともに、その教師データとしての高画質画
像データに対して、ノイズを重畳した画像データを生徒
データとして、学習処理を行うことにより、タップ係数
としては、第1の画像データを、そこに含まれるノイズ
を除去(低減)した第2の画像データに変換するノイズ
除去処理としてのデータ変換処理を行うものを得ること
ができる。
【0168】また、例えば、ある画像データを教師デー
タとするとともに、その教師データとしての画像データ
の画素数を間引いた画像データを生徒データとして、ま
たは、所定サイズの画像データを生徒データとするとと
もに、その生徒データとしての画像データの画素を所定
の間引き率で間引いた画像データを教師データとして、
学習処理を行うことにより、タップ係数としては、第1
の画像データを、拡大または縮小した第2の画像データ
に変換するリサイズ処理としてのデータ変換処理を行う
ものを得ることができる。
【0169】従って、画像処理部5の係数メモリ24
(図13)に、ノイズ除去処理用のタップ係数や、リサ
イズ処理用のタップ係数を記憶させることにより、画像
処理部5では、画像データのノイズ除去やリサイズ(拡
大または縮小)を行うことができる。
【0170】以上のように、タップ係数の学習に用いる
教師データと生徒データのセットによって、タップ係数
としては、解像度の向上や、ノイズ除去、リサイズ等
の、各種の画質の改善を行うものを得ることができ、従
って、このような各種の画質改善を行うタップ係数を、
画像処理部5の係数メモリ24に記憶させることによ
り、画像処理部5では、各種の画質改善のためのデータ
変換処理を行うことができる。
【0171】なお、その他、例えば、高画質画像データ
を教師データとするとともに、その教師データとしての
高画質画像データの空間解像度を低下させ、さらに、ノ
イズを重畳した画像データを生徒データとして、学習処
理を行うことにより、タップ係数としては、第1の画像
データを、そこに含まれるノイズを除去(低減)し、さ
らに、その空間解像度を向上させた第2の画像データに
変換するノイズ除去処理と解像度向上処理の両方を、デ
ータ変換処理として行うものを得ることができる。
【0172】次に、上述した一連の処理は、ハードウェ
アにより行うこともできるし、ソフトウェアにより行う
こともできる。一連の処理をソフトウェアによって行う
場合には、そのソフトウェアを構成するプログラムが、
汎用のコンピュータ等にインストールされる。
【0173】そこで、図17は、上述した一連の処理を
実行するプログラムがインストールされるコンピュータ
の一実施の形態の構成例を示している。
【0174】プログラムは、コンピュータに内蔵されて
いる記録媒体としてのハードディスク105やROM1
03に予め記録しておくことができる。
【0175】あるいはまた、プログラムは、フレキシブ
ルディスク、CD-ROM(Compact DiscRead Only Memory),
MO(Magneto Optical)ディスク,DVD(Digital Versatile
Disc)、磁気ディスク、半導体メモリなどのリムーバブ
ル記録媒体111に、一時的あるいは永続的に格納(記
録)しておくことができる。このようなリムーバブル記
録媒体111は、いわゆるパッケージソフトウエアとし
て提供することができる。
【0176】なお、プログラムは、上述したようなリム
ーバブル記録媒体111からコンピュータにインストー
ルする他、ダウンロードサイトから、ディジタル衛星放
送用の人工衛星を介して、コンピュータに無線で転送し
たり、LAN(Local Area Network)、インターネットとい
ったネットワークを介して、コンピュータに有線で転送
し、コンピュータでは、そのようにして転送されてくる
プログラムを、通信部108で受信し、内蔵するハード
ディスク105にインストールすることができる。
【0177】コンピュータは、CPU(Central Processing
Unit)102を内蔵している。CPU102には、バス1
01を介して、入出力インタフェース110が接続され
ており、CPU102は、入出力インタフェース110を
介して、ユーザによって、キーボードや、マウス、マイ
ク等で構成される入力部107が操作等されることによ
り指令が入力されると、それにしたがって、ROM(Read O
nly Memory)103に格納されているプログラムを実行
する。あるいは、また、CPU102は、ハードディスク
105に格納されているプログラム、衛星若しくはネッ
トワークから転送され、通信部108で受信されてハー
ドディスク105にインストールされたプログラム、ま
たはドライブ109に装着されたリムーバブル記録媒体
111から読み出されてハードディスク105にインス
トールされたプログラムを、RAM(Random Access Memor
y)104にロードして実行する。これにより、CPU10
2は、上述したフローチャートにしたがった処理、ある
いは上述した画像ブロック図の構成により行われる処理
を行う。そして、CPU102は、その処理結果を、必要
に応じて、例えば、入出力インタフェース110を介し
て、LCD(Liquid CryStal Display)やスピーカ等で構成
される出力部106から出力、あるいは、通信部108
から送信、さらには、ハードディスク105に記録等さ
せる。
【0178】ここで、本明細書において、コンピュータ
に各種の処理を行わせるためのプログラムを記述する処
理ステップは、必ずしもフローチャートとして記載され
た順序に沿って時系列に処理する必要はなく、並列的あ
るいは個別に実行される処理(例えば、並列処理あるい
はオブジェクトによる処理)も含むものである。
【0179】また、プログラムは、1のコンピュータに
より処理されるものであっても良いし、複数のコンピュ
ータによって分散処理されるものであっても良い。さら
に、プログラムは、遠方のコンピュータに転送されて実
行されるものであっても良い。
【0180】なお、本実施の形態では、図7および図8
に示したように、画像ブロックの列方向の境界線が、隣
接する行の画像ブロックの列方向の境界線とずれている
画像ブロックとなるように、画像データを分割するよう
にしたが、画像データは、その他、例えば、図18に示
すように、画像ブロックの行方向の境界線が、隣接する
列の画像ブロックの行方向の境界線とずれている画像ブ
ロックとなるように分割することも可能である。
【0181】また、本実施の形態では、メモリ4とメモ
リ制御部11とを別構成にしたが、メモリ制御部11
は、メモリ4に内蔵させる形で構成することも可能であ
る。
【0182】さらに、メモリ制御部11によるメモリ4
に対する画像データの読み書き制御は、画像処理部5に
おいて、MPEG符号化や、上述したデータ変換処理を
行う場合の他、図15に示した学習装置における、生徒
データ記憶部34に対する画像データの読み書きにも適
用可能である。
【0183】また、メモリ制御部11によるメモリ4に
対する読み書き制御は、画像データ以外の2次元データ
を対象に行うことが可能である。即ち、例えば、図15
に示した学習装置において、例えば、画像データを教師
データとするとともに、その画像データをDCT(Discr
ete Cosine Transform)変換して得られるDCT係数を
生徒データとして、図16の学習処理を行うことによ
り、DCT係数を、画像データに変換するデータ変換処
理を行うタップ係数を得ることができるが、このような
タップ係数を、図13の係数メモリ24に記憶させ、画
像処理部5においてデータ変換処理を行う場合には、画
像データをDCT変換して得られるDCT係数が、第1
の画像データとして入力されることとなる。この場合、
メモリ制御部11においては、そのDCT係数を対象
に、メモリ4に対する読み書き制御を行うようにするこ
とが可能である。
【0184】さらに、本実施の形態では、1フレームの
画像データを、画像ブロックの頂点が、空間的に隣接す
る複数の画像ブロックのうちの少なくとも1つ画像ブロ
ックの頂点と一致しない画像ブロックに分割するように
したが、時間方向に、そのような分割を行うようにする
ことも可能である。即ち、1フレームの画像データを、
画像ブロックの頂点が、時間的に隣接する1フレーム前
または1フレーム後のフレームの画像ブロックのうちの
少なくとも1つ画像ブロックの頂点と一致しない画像ブ
ロックに分割するようにすることが可能である。この場
合、例えば、図13の画像処理部5において、連続する
複数フレームから画素を抽出して、予測タップやクラス
タップを構成するときに、同時に読み出す必要のある画
像ブロックの数を少なくすることができる。
【0185】また、本実施の形態では、メモリ4を、3
つのメモリバンク41乃至43で構成するようにしたが、
メモリ4は、4以上のメモリバンクで構成することが可
能である。なお、メモリ4を、4以上のメモリバンクで
構成した場合であっても、画像データを、レンガ模様状
の画像ブロックに分割して記憶させる限り、同時に読み
出す必要のある画像ブロックは、最大でも、3つにな
る。
【0186】
【発明の効果】以上の如く、本発明によれば、記憶装置
におけるデータの読み書き速度を高速に維持したまま、
その消費電力を低減することができる。
【図面の簡単な説明】
【図1】従来の画像処理装置の一例の構成を示すブロッ
ク図である。
【図2】処理ブロックを示す図である。
【図3】メモリ4の構成例を示す図である。
【図4】メモリ4への画像データの記憶させ方を説明す
る図である。
【図5】処理ブロックを読み出すのに、同時に読み出す
必要のある画像ブロックが、最大で4つになることを説
明する図である。
【図6】本発明を適用した画像処理装置の一例の構成例
を示すブロック図である。
【図7】レンガ模様状の画像ブロックに分割された画像
データを示す図である。
【図8】処理ブロックを読み出すのに、同時に読み出す
必要のある画像ブロックが、最大で3つになることを説
明する図である。
【図9】メモリ制御部11による書き込み制御処理の第
1実施の形態を説明するフローチャートである。
【図10】メモリ制御部11による書き込み制御処理の
第1実施の形態を説明するフローチャートである。
【図11】メモリ制御部11による読み出し制御処理を
説明するフローチャートである。
【図12】画像ブロックの大きさa、処理ブロックの大
きさb、画像ブロックのずれ量cが満たすべき条件を説
明する図である。
【図13】画像処理部5の構成例を示すブロック図であ
る。
【図14】画像処理部5の処理を説明するフローチャー
トである。
【図15】係数メモリ24に記憶させるタップ係数を学
習する学習装置の構成例を示すブロック図である。
【図16】学習装置による学習処理を説明するフローチ
ャートである。
【図17】本発明を適用したコンピュータの一実施の形
態の構成例を示す画像ブロック図である。
【図18】レンガ模様状の画像ブロックに分割された画
像データを示す図である。
【符号の説明】
1 HD, 2 HDコントローラ, 4 メモリ,
1乃至43 メモリバンク, 5 画像処理部, 20
インタフェース, 21,22 タップ抽出部, 2
3 クラス分類部, 24 係数メモリ, 25 予測
部, 31 教師データ生成部, 32 教師データ記
憶部, 33 生徒データ生成部, 34 生徒データ
記憶部, 35,36 タップ抽出部, 37 クラス
分類部,38 足し込み部, 39 タップ係数算出
部, 40 インタフェース,101 バス, 102
CPU, 103 ROM, 104 RAM, 105 ハ
ードディスク, 106 出力部, 107 入力部,
108 通信部, 109 ドライブ, 110 入
出力インタフェース, 111 リムーバブル記録媒体

Claims (13)

    【特許請求の範囲】
  1. 【請求項1】 1つのワード線上の複数のメモリセルに
    対して、データを同時に読み書きする記憶装置に、2次
    元のデータである2次元データを記憶させる記憶制御装
    置であって、 前記2次元データを、矩形状のデータブロックであっ
    て、その頂点が、隣接する複数のデータブロックのうち
    の少なくとも1つデータブロックの頂点と一致しないデ
    ータブロックに分割した、そのデータブロック単位の2
    次元データを取得する取得手段と、 前記記憶装置におけるワード線を選択することにより、
    そのワード線上のメモリセルに、前記データブロック単
    位の2次元データを記憶させる記憶選択手段とを備える
    ことを特徴とする記憶制御装置。
  2. 【請求項2】 前記データブロックは、その列方向また
    は行方向の境界線と、隣接する行または列のデータブロ
    ックの列方向または行方向の境界線とがずれているもの
    であることを特徴とする請求項1に記載の記憶制御装
    置。
  3. 【請求項3】 所定のデータ処理を行うデータ処理装置
    が、前記記憶装置に記憶された前記2次元データの矩形
    状の処理ブロックを対象として、前記所定のデータ処理
    を行う場合において、 前記データブロックの行方向または列方向の境界線の長
    さa、 前記処理ブロックの行方向または列方向の長さb、 および前記データブロックの列方向または行方向の境界
    線と、隣接する行または列のデータブロックの列方向ま
    たは行方向の境界線との行方向または列方向のずれ量c
    は、式b≦c≦a−bを満たすことを特徴とする請求項
    2に記載の記憶制御装置。
  4. 【請求項4】 前記データブロックの列方向または行方
    向の境界線と、隣接する行または列のデータブロックの
    列方向または行方向の境界線とは、前記データブロック
    の行方向または列方向の境界線の長さの1/2だけずれ
    ていることを特徴とする請求項2に記載の記憶制御装
    置。
  5. 【請求項5】 前記記憶装置は、3以上のメモリバンク
    を有し、 前記記憶選択手段は、所定のデータブロックの2次元デ
    ータを、そのデータブロックに隣接するデータブロック
    の2次元データを記憶させるメモリバンクとは異なるメ
    モリバンクに記憶させることを特徴とする請求項1に記
    載の記憶制御装置。
  6. 【請求項6】 前記記憶装置におけるワード線を選択す
    ることにより、そのワード線上のメモリセルに記憶され
    た前記データブロック単位の2次元データを読み出す読
    み出し選択手段をさらに備えることを特徴とする請求項
    1に記載の記憶制御装置。
  7. 【請求項7】 前記記憶装置は、3以上のメモリバンク
    を有し、 前記記憶選択手段は、所定のデータブロックの2次元デ
    ータを、そのデータブロックに隣接するデータブロック
    の2次元データを記憶させるメモリバンクとは異なるメ
    モリバンクに記憶させ、 前記読み出し選択手段は、前記3以上のメモリバンクの
    うちの1以上のメモリバンクから、1以上の前記データ
    ブロック単位の2次元データを、同時に読み出すことを
    特徴とする請求項6に記載の記憶制御装置。
  8. 【請求項8】 所定のデータ処理を行うデータ処理装置
    が、前記記憶装置に記憶された前記2次元データの矩形
    状の処理ブロックを対象として、前記所定のデータ処理
    を行う場合において、 前記読み出し選択手段は、前記3以上のメモリバンクの
    うちの、前記処理ブロックの2次元データを有する1以
    上のデータブロックが記憶されている1以上のメモリバ
    ンクから、その1以上のデータブロックの2次元データ
    を、同時に読み出すことを特徴とする請求項7に記載の
    記憶制御装置。
  9. 【請求項9】 前記記憶装置をさらに備えることを特徴
    とする請求項1に記載の記憶制御装置。
  10. 【請求項10】 前記2次元データは、画像データであ
    ることを特徴とする請求項1に記載の記憶制御装置。
  11. 【請求項11】 1つのワード線上の複数のメモリセル
    に対して、データを同時に読み書きする記憶装置に、2
    次元のデータである2次元データを記憶させる記憶制御
    方法であって、 前記2次元データを、矩形状のデータブロックであっ
    て、その頂点が、隣接する複数のデータブロックのうち
    の少なくとも1つデータブロックの頂点と一致しないデ
    ータブロックに分割した、そのデータブロック単位の2
    次元データを取得する取得ステップと、 前記記憶装置におけるワード線を選択することにより、
    そのワード線上のメモリセルに、前記データブロック単
    位の2次元データを記憶させる記憶選択ステップとを備
    えることを特徴とする記憶制御方法。
  12. 【請求項12】 1つのワード線上の複数のメモリセル
    に対して、データを同時に読み書きする記憶装置に、2
    次元のデータである2次元データを記憶させる記憶制御
    処理を、コンピュータに行わせるプログラムであって、 前記2次元データを、矩形状のデータブロックであっ
    て、その頂点が、隣接する複数のデータブロックのうち
    の少なくとも1つデータブロックの頂点と一致しないデ
    ータブロックに分割した、そのデータブロック単位の2
    次元データを取得する取得ステップと、 前記記憶装置におけるワード線を選択することにより、
    そのワード線上のメモリセルに、前記データブロック単
    位の2次元データを記憶させる記憶選択ステップとを備
    えることを特徴とするプログラム。
  13. 【請求項13】 1つのワード線上の複数のメモリセル
    に対して、データを同時に読み書きする記憶装置に、2
    次元のデータである2次元データを記憶させる記憶制御
    処理を、コンピュータに行わせるプログラムが記録され
    ている記録媒体であって、 前記2次元データを、矩形状のデータブロックであっ
    て、その頂点が、隣接する複数のデータブロックのうち
    の少なくとも1つデータブロックの頂点と一致しないデ
    ータブロックに分割した、そのデータブロック単位の2
    次元データを取得する取得ステップと、 前記記憶装置におけるワード線を選択することにより、
    そのワード線上のメモリセルに、前記データブロック単
    位の2次元データを記憶させる記憶選択ステップとを備
    えるプログラムが記録されていることを特徴とする記録
    媒体。
JP2002023699A 2002-01-31 2002-01-31 記憶制御装置および記憶制御方法、並びにプログラムおよび記録媒体 Expired - Fee Related JP4058671B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002023699A JP4058671B2 (ja) 2002-01-31 2002-01-31 記憶制御装置および記憶制御方法、並びにプログラムおよび記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002023699A JP4058671B2 (ja) 2002-01-31 2002-01-31 記憶制御装置および記憶制御方法、並びにプログラムおよび記録媒体

Publications (2)

Publication Number Publication Date
JP2003223358A true JP2003223358A (ja) 2003-08-08
JP4058671B2 JP4058671B2 (ja) 2008-03-12

Family

ID=27746334

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002023699A Expired - Fee Related JP4058671B2 (ja) 2002-01-31 2002-01-31 記憶制御装置および記憶制御方法、並びにプログラムおよび記録媒体

Country Status (1)

Country Link
JP (1) JP4058671B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1295617C (zh) * 2004-01-05 2007-01-17 索尼株式会社 数据存储设备、数据存储控制设备、方法以及程序
WO2016063716A1 (ja) * 2014-10-24 2016-04-28 ソニー株式会社 メモリコントローラ、記憶装置、情報処理システムおよびメモリの制御方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1295617C (zh) * 2004-01-05 2007-01-17 索尼株式会社 数据存储设备、数据存储控制设备、方法以及程序
WO2016063716A1 (ja) * 2014-10-24 2016-04-28 ソニー株式会社 メモリコントローラ、記憶装置、情報処理システムおよびメモリの制御方法

Also Published As

Publication number Publication date
JP4058671B2 (ja) 2008-03-12

Similar Documents

Publication Publication Date Title
KR100746839B1 (ko) 데이터 처리 장치, 데이터 처리 방법, 학습 장치, 학습방법, 및 매체
US7876323B2 (en) Display apparatus and display method, learning apparatus and learning method, and programs therefor
JP2000244851A (ja) 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体
JP4915341B2 (ja) 学習装置および方法、画像処理装置および方法、並びにプログラム
JP4238516B2 (ja) データ変換装置およびデータ変換方法、学習装置および学習方法、並びにプログラムおよび記録媒体
JP2000090256A (ja) 記憶装置、並びに書き込み方法および読み出し方法
JP2002300538A (ja) 係数データの生成装置および生成方法、それを使用した情報信号の処理装置および処理方法、それに使用する種係数データの生成装置および生成方法、並びに情報提供媒体
JP2001222702A (ja) 画像処理装置および画像処理方法、並びに記録媒体
JP2001084368A (ja) データ処理装置およびデータ処理方法、並びに媒体
JP2003223358A (ja) 記憶制御装置および記憶制御方法、並びにプログラムおよび記録媒体
JP2006005659A (ja) 画像符号化装置及びその方法
JP4584115B2 (ja) 画像符号化装置、画像符号化方法、画像符号化プログラムおよび画像符号化プログラムを記録したコンピュータ読み取り可能な記録媒体
JP4395677B2 (ja) 学習装置および学習方法、並びに記録媒体
JP4109151B2 (ja) 画像処理装置
JP4057503B2 (ja) 解像度変換用フィルタ係数決定方法,画像解像度変換方法,画像解像度変換装置,映像再符号化方法,映像再符号化装置,解像度変換用フィルタ係数決定プログラム,画像解像度変換プログラム,映像再符号化プログラムおよびそれらのプログラムを記録した記録媒体
JP5029869B2 (ja) 画像処理装置および画像処理方法、学習装置および学習方法、並びにプログラム
JP2007251690A (ja) 画像処理装置および方法、学習装置および方法、並びにプログラム
JP4055203B2 (ja) データ処理装置およびデータ処理方法、記録媒体、並びにプログラム
JP4816328B2 (ja) 画像処理システム、画像圧縮システム、画像編集システム、画像処理プログラムおよび画像処理装置
JP4442076B2 (ja) データ変換装置およびデータ変換方法、学習装置および学習方法、並びにプログラムおよび記録媒体
JP2000348019A (ja) データ処理装置およびデータ処理方法、並びに媒体
JP2008118519A (ja) 画像変換装置及び画像変換方法、学習装置及び学習方法、並びにプログラム
JPH11136674A (ja) 画像符号化方法及び記憶媒体
JPH11103463A (ja) 画像符号化方法及び記憶媒体
JP4154647B2 (ja) データ処理装置およびデータ処理方法、並びにプログラムおよび記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070830

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070903

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071205

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101228

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111228

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121228

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131228

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees