JPH11178011A - 画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、画像処理装置および画像処理方法、並びに記録媒体 - Google Patents

画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、画像処理装置および画像処理方法、並びに記録媒体

Info

Publication number
JPH11178011A
JPH11178011A JP9338316A JP33831697A JPH11178011A JP H11178011 A JPH11178011 A JP H11178011A JP 9338316 A JP9338316 A JP 9338316A JP 33831697 A JP33831697 A JP 33831697A JP H11178011 A JPH11178011 A JP H11178011A
Authority
JP
Japan
Prior art keywords
image
color components
pixel
color
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9338316A
Other languages
English (en)
Other versions
JP3750128B2 (ja
Inventor
Tetsujiro Kondo
哲二郎 近藤
Naoki Kobayashi
小林  直樹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP33831697A priority Critical patent/JP3750128B2/ja
Priority to DE69816949T priority patent/DE69816949T2/de
Priority to EP98310005A priority patent/EP0923052B1/en
Priority to US09/206,415 priority patent/US6501851B1/en
Priority to CA002255296A priority patent/CA2255296C/en
Priority to AU96989/98A priority patent/AU748951B2/en
Priority to CNB981232809A priority patent/CN1182730C/zh
Priority to KR1019980053840A priority patent/KR100611514B1/ko
Publication of JPH11178011A publication Critical patent/JPH11178011A/ja
Application granted granted Critical
Publication of JP3750128B2 publication Critical patent/JP3750128B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N11/00Colour television systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/005Statistical coding, e.g. Huffman, run length coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/004Predictors, e.g. intraframe, interframe coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Color Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)

Abstract

(57)【要約】 【課題】 データ量を増加させずに、復号画像の画質を
向上させる。 【解決手段】 送信装置1では、各画素を構成するR,
G,Bの色成分が周期的に削除される。即ち、ある画素
に注目した場合に、その画素については、B成分が削除
され、その右隣の画素については、R成分が削除され、
さらにその右隣の画素については、G成分が削除され、
以下、同様にして、R,G,Bの色成分が、3画素周期
で削除される。一方、受信装置4では、ある注目画素を
復号する場合に、その注目画素に含まれない色成分の推
定値が、それに隣接する画素の、その色成分と同一の色
成分から推定されるとともに、それ以外の色成分から所
定の補正値が算出され、推定値が、補正値で補正され
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像符号化装置お
よび画像符号化方法、画像復号装置および画像復号方
法、画像処理装置および画像処理方法、並びに記録媒体
に関し、特に、データ量の増加を抑えて、画質の良い復
号画像を得ることができるようにする画像符号化装置お
よび画像符号化方法、画像復号装置および画像復号方
法、画像処理装置および画像処理方法、並びに記録媒体
に関する。
【0002】
【従来の技術】画像は、データ量が多いため、一般に、
符号化(圧縮)して、伝送、あるいは記録される。
【0003】
【発明が解決しようとする課題】ところで、複数の色成
分を有する画像としての、例えば、4:4:4のRGB
(Red Green Blue)の画像を符号化(色圧縮)する場合
において、例えば、R,G,Bの各成分が8ビットであ
るときに、1画素が8ビットにベクトル量子化されるこ
とがある。
【0004】この場合、復号側では、256(=28
色までの復号画像しか得られない。
【0005】これは、1の色成分へのビット割当が、平
均で、8/3ビットとなることによる。従って、1の色
成分に割り当てるビット数を増加させれば、復号画像の
画質の劣化を低減することができるが、それでは、デー
タ量が増加する。
【0006】本発明は、このような状況に鑑みてなされ
たものであり、データ量を増加させずに、より高画質の
復号画像を得ることができるようにするものである。
【0007】
【課題を解決するための手段】請求項1に記載の画像符
号化装置は、複数の色成分のうちの1つを削除し、残り
を選択して出力する選択手段を備えることを特徴とす
る。
【0008】請求項4に記載の画像符号化方法は、複数
の色成分のうちの1つを削除し、残りを選択して出力す
ることを特徴とする。
【0009】請求項5に記載の画像復号装置は、削除さ
れた1つの色成分を、その周辺の画素が有する色成分に
基づいて生成する生成手段を備えることを特徴とする。
【0010】請求項7に記載の画像復号方法は、削除さ
れた1つの色成分を、その周辺の画素が有する色成分に
基づいて生成することを特徴とする。
【0011】請求項8に記載の画像処理装置は、画像符
号化装置が、複数の色成分のうちの1つを削除し、残り
を選択して出力する選択手段を備え、画像復号装置が、
削除された1つの色成分を、その周辺の画素が有する色
成分に基づいて生成する生成手段を備えることを特徴と
する。
【0012】請求項9に記載の画像処理方法は、画像符
号化装置において、複数の色成分のうちの1つを削除
し、残りを選択して出力し、画像復号装置において、削
除された1つの色成分を、その周辺の画素が有する色成
分に基づいて生成することを特徴とする。
【0013】請求項10に記載の記録媒体は、符号化デ
ータが、複数の色成分のうちの1つを削除し、残りを選
択して出力することにより得られたものとされているこ
とを特徴とする。
【0014】請求項1に記載の画像符号化装置において
は、選択手段が、複数の色成分のうちの1つを削除し、
残りを選択して出力するようになされている。
【0015】請求項4に記載の画像符号化方法において
は、複数の色成分のうちの1つを削除し、残りを選択し
て出力するようになされている。
【0016】請求項5に記載の画像復号装置において
は、生成手段が、削除された1つの色成分を、その周辺
の画素が有する色成分に基づいて生成するようになされ
ている。
【0017】請求項7に記載の画像復号方法において
は、削除された1つの色成分を、その周辺の画素が有す
る色成分に基づいて生成するようになされている。
【0018】請求項8に記載の画像処理装置において
は、選択手段が、複数の色成分のうちの1つを削除し、
残りを選択して出力し、生成手段が、削除された1つの
色成分を、その周辺の画素が有する色成分に基づいて生
成するようになされている。
【0019】請求項9に記載の画像処理方法において
は、画像符号化装置において、複数の色成分のうちの1
つを削除し、残りを選択して出力し、画像復号装置にお
いて、削除された1つの色成分を、その周辺の画素が有
する色成分に基づいて生成するようになされている。
【0020】請求項10に記載の記録媒体には、複数の
色成分のうちの1つを削除し、残りを選択して出力する
ことにより得られた符号化データが記録されている。
【0021】
【発明の実施の形態】図1は、本発明を適用した伝送シ
ステム(システムとは、複数の装置が論理的に集合した
物をいい、各構成の装置が同一筐体中にあるか否かは問
わない)の一実施の形態の構成例を示している。
【0022】送信装置1には、符号化対象の画像(動画
像および静止画のいずれであっても良い)として、例え
ば、4:4:4のRGBのディジタル画像などの複数の
色成分を有する画像が入力されるようになされている。
なお、送信装置1に入力されるR,G,Bの各色成分に
は、ここでは、例えば、それぞれ8ビットが割り当てら
れている。
【0023】送信装置1では、そこに入力される画像
が、例えば、前述した場合と同様に、1画素8ビットで
符号化される。但し、ここでは、1画素に対して、次の
ような8ビットが割り当てられる。即ち、送信装置1に
入力される画像を構成するR,G,Bの各色成分には、
図2(A)に示すように、それぞれ8ビットが割り当て
られているが、送信装置1では、同図(B)に示すよう
に、1画素を構成するR,G,Bの3つの色成分のうち
の1の色成分が削除され、残りの2つの色成分が選択さ
れる。そして、その選択された2つの色成分が、それぞ
れ4ビットに符号化され、これにより、1画素あたり8
ビットのデータが、符号化データとして出力される。
【0024】なお、送信装置1では、R,G,Bの色成
分が周期的に削除されるようになされている。即ち、例
えば、ある画素に注目した場合に、図2(B)に示すよ
うに、その画素については、B成分が削除され、その右
隣の画素については、R成分が削除され、さらにその右
隣の画素については、G成分が削除され、以下、同様に
して、R,G,Bの色成分が、3画素周期で削除される
ようになされている。
【0025】従って、ここでは、色成分の削除/選択
が、各画素ごとに行われる。但し、色成分の削除/選択
は、例えば、1画素おきや2画素おきに行うことも可能
である。即ち、ある画素の色成分の削除/選択を行った
後は、その右隣の1画素または2画素については、色成
分の選択/削除を行わず、3画素目の色成分の削除/選
択を行うことを繰り返すようにすることが可能である。
なお、この場合、色成分の削除/選択が行われない画素
は、例えば、従来と同様にベクトル量子化させることな
どによって、8ビットとされる。
【0026】以上のようにして、1画素8ビットとされ
た符号化データは、例えば、衛星回線、地上波、CAT
V(Cable Television)網、インターネットその他の伝
送路2を介して伝送される。あるいは、また、符号化デ
ータは、例えば、磁気ディスクや、光磁気ディスク、磁
気テープ、相変化ディスクその他の記録媒体3に記録さ
れる。
【0027】受信装置4では、伝送路2を介して伝送さ
れてくる符号化データが受信される。あるいは、また、
受信装置4では、記録媒体3に記録された符号化データ
が再生される。そして、受信装置4では、その符号化デ
ータの復号が行われる。
【0028】即ち、受信装置4では、送信装置1におい
て、各画素につき選択された2つの色成分が、それぞ
れ、元の8ビットに復号される。さらに、受信装置4で
は、R,G,Bの色成分のうち、送信装置1において削
除された1つの色成分が、その周辺の画素が有する色成
分に基づいて生成される。そして、その結果得られる
R,G,Bの3つの色成分でなる画像が、復号画像とし
て出力される。
【0029】次に、図3は、図1の送信装置1の構成例
を示している。
【0030】フレームメモリ11には、符号化対象とし
ての、R,G,B成分それぞれに8ビットが割り当てら
れている4:4:4のディジタル画像が供給されるよう
になされている。フレームメモリ11は、そこに供給さ
れる画像を、例えば、フレーム単位で記憶するようにな
されている。選択部12(選択手段)は、フレームメモ
リ11に記憶されている画像データを、例えば、いわゆ
るラスタスキャン順に読み出し、各画素を構成するR成
分、G成分、B成分のうちの1つを、周期的に削除し、
残りを選択して、圧縮部13に出力するようになされて
いる。圧縮部13は、選択部12から供給される画像デ
ータに対して、例えば、ADRC(Adaptive Dynamic R
ange Coding)処理などの圧縮符号化処理を施し、その
処理結果を、符号化データとして出力するようになされ
ている。
【0031】次に、その動作について説明する。
【0032】フレームメモリ11には、RGBのディジ
タル画像が供給され、そこでは、その画像データがフレ
ーム単位で記憶される。そして、選択部12において、
フレームメモリ11に記憶された画像データが、ラスタ
スキャン順に読み出され、図2(B)で説明したよう
に、各画素を構成するR成分、G成分、B成分のうちの
1つが、周期的に削除されるとともに、残りが選択さ
れ、圧縮部13に出力される。
【0033】即ち、これにより、図4(A)に示すよう
に、それぞれ8ビットが割り当てられているR,G,B
成分を有する画素でなる画像(元の画像)が、同図
(B)に示すように、いわば周期的に、R,G,B成分
のうちのいずれか1の色成分の含まれない画素でなる画
像、つまり、逆に言えば、R,G,B成分のうちのいず
れか2の色成分だけが、各画素から選択されて構成され
る画像(以下、適宜、選択画像という)とされる。
【0034】なお、図4の実施の形態においては、水平
方向、垂直方向のいずれについても(従って、斜め方向
についても)、R,G,B成分のうちのいずれか1の色
成分が、周期的に削除された画像とされている。
【0035】ここで、図4(B)に示した選択画像を、
R,G,Bの各成分について見ると、図5(A)乃至図
5(C)にそれぞれ示すようになる。同図に示すよう
に、選択画像は、R成分,G成分,B成分が、水平およ
び垂直方向の両方に、2画素おきにないものとなる。但
し、R成分,G成分,B成分のない画素の位置(位相)
はずれている。
【0036】選択画像は、上述したように、圧縮部13
に供給される。圧縮部13では、選択画像に対して、A
DRC処理が施され、これにより、1画素あたりのビッ
ト割当量が8ビットの符号化データとされる。
【0037】ここで、ADRC処理は、画像をブロック
に分割して、各ブロック単位で圧縮を行うもので、ま
ず、ブロックを構成する画素値の最大値MAXと最小値
MINが検出される。そして、DR=MAX−MIN
を、ブロックの局所的なダイナミックレンジとし、この
ダイナミックレンジDRに基づいて、ブロックを構成す
る画素の画素値がKビットに再量子化される。
【0038】即ち、ブロック内の各画素値から、最小値
MINを減算し、その減算値をDR/2Kで除算する。
そして、その結果得られる除算値に対応するコード(A
DRCコード)に変換される。具体的には、例えば、K
=2とした場合、除算値が、ダイナミックレンジDRを
4(=22)等分して得られるいずれの範囲に属するか
が判定され、除算値が、最も下のレベルの範囲、下から
2番目のレベルの範囲、下から3番目のレベルの範囲、
または最も上のレベルの範囲に属する場合には、それぞ
れ、例えば、00B,01B,10B、または11Bな
どの2ビットにコード化される(Bは2進数であること
を表す)。そして、復号側においては、ADRCコード
00B,01B,10B、または11Bは、ダイナミッ
クレンジDRを4等分して得られる最も下のレベルの範
囲の中心値L00、下から2番目のレベルの範囲の中心値
01、下から3番目のレベルの範囲の中心値L10、また
は最も上のレベルの範囲の中心値L11に変換され、その
値に、最小値MINが加算されることで復号が行われ
る。
【0039】なお、ADRCについては、本件出願人が
先に出願した、例えば、特開平3−53778号公報な
どに、その詳細が開示されている。
【0040】圧縮部13では、選択画像に対して、各色
成分ごとに、例えば、4ビットのADRC処理が施され
る。即ち、圧縮部13では、8ビットの色成分Lが、例
えば、次式にしたがって、ADRCコードQに符号化さ
れる。
【0041】 Q=INT[L×(2n-1)/DR+0.5] ・・・(1) 但し、INT[]は、[]内の値の小数点以下を切り捨
てる関数であり、nは、ADRCコードQの最大ビット
数(上述したK)を表し、ここでは、4に設定されてい
る。また、式(1)においては、例えば、1フレーム全
体が1ブロックとされ、最大値MAXまたは最小値MI
Nは、それぞれ255(=28−1)または0(20
1)とされている。従って、ここでは、DR(=MAX
−MIN)は、255である。
【0042】圧縮部13では、以上のように、各色成分
ごとに、4ビットのADRC処理が施され、また、ここ
では、各画素は、R,G,Bのうちのいずれか2つの色
成分しか有しないから、圧縮部13が出力する符号化デ
ータは、1画素あたりのビット割当量が8ビットのもの
となる。
【0043】従って、圧縮部13から出力される符号化
データは、データ量について見れば、前述した従来の場
合と同様となる。
【0044】次に、図6は、図1の受信装置4の構成例
を示している。
【0045】符号化データは、伸張部21に供給される
ようになされており、伸張部21は、その符号化デー
タ、即ち、本実施の形態では、ADRCコードを、選択
画像に復号し、その選択画像を構成する各画素に含まれ
るR,G,B成分(但し、各画素において、R,G,B
成分のうちのいずれか1つは含まれない)を、フレーム
メモリ22R,22G,22Bにそれぞれ供給するよう
になされている。フレームメモリ22R,22G,22
Bは、伸張部21から供給される各画素のR,G,B成
分を、その画素に対応するアドレスに記憶するようにな
されている。生成部23(生成手段)は、復号対象の画
素(以下、適宜、注目画素という)を含む、その周辺の
画素の色成分を、フレームメモリ22R乃至22Bから
読み出し、その読み出した色成分に基づいて、注目画素
に含まれない色成分を生成して、注目画素に含まれる2
つの色成分とともに、フレームメモリ24に供給するよ
うになされている。フレームメモリ24は、生成部23
から供給される各画素についてのR,G,Bの3つの色
成分を、その画素に対応するアドレスに記憶し、1フレ
ーム分の画素を記憶すると、その1フレーム分の画素で
なる画像を、復号画像として出力するようになされてい
る。
【0046】次に、その動作について説明する。
【0047】符号化データは、伸張部21に供給され、
そこでは、符号化データであるADRCコードQから、
R,G,Bの各色成分Lが求められる。即ち、伸張部2
1では、4ビットのADRCコードQが、例えば、次式
にしたがって、色成分Lに復号される。
【0048】 L=INT[Q×DR/(2n-1)+0.5] ・・・(2)
【0049】伸張部21において復号されたR,G,B
の各色成分は、フレームメモリ22R,22G,22B
にそれぞれ供給されて記憶される。
【0050】生成部23では、注目画素を含む、その周
辺の画素の色成分が、フレームメモリ22R乃至22B
から読み出され、その色成分に基づいて、注目画素に含
まれない色成分が生成される。即ち、生成部23におい
ては、例えば、注目画素の周辺の画素の色成分の重み付
け加算値(単純には、平均値など)が演算され、その演
算結果が、注目画素に含まれていない色成分とされる。
そして、生成部23では、そこで生成された色成分が、
注目画素に含まれる2つの色成分とともに、フレームメ
モリ24に供給される。フレームメモリ24では、生成
部23から供給されるR,G,Bの3つの色成分、即
ち、注目画素を構成するR,G,B成分が記憶される。
以下、処理の対象となっているフレームを構成する他の
画素についても、同様の処理が繰り返され、これによ
り、フレームメモリ24において、1フレーム分の画素
が記憶されると、その1フレーム分の画素でなる画像
が、復号画像として出力される。
【0051】以上のように、注目画素に含まれていない
色成分を、その周辺の画素の色成分(注目画素に含まれ
ている色成分を含む)から生成するようにしたので、2
56(=28)色より多い色で表現された復号画像を得
ることが可能となる。
【0052】ところで、注目画素の周辺の画素の色成分
の重み付け加算値を、注目画素に含まれていない色成分
とする場合においては、いわゆる平均化が行われ、元の
画像にエッジや縞模様があるときには、そのエッジや縞
模様が損なわれ、画質が劣化する。
【0053】そこで、図7は、図6の生成部23の構成
例を示している。
【0054】図7の実施の形態においては、注目画素に
含まれない色成分の推定値が、その周辺の画素が有す
る、同一の色成分から推定されるとともに、それ以外の
成分から所定の補正値が算出され、推定値が、補正値で
補正されるようになされている。
【0055】即ち、選択部31は、フレームメモリ22
R乃至22Bから、例えば、注目画素に含まれる2つの
色成分と、その注目画素に隣接する8つの画素(注目画
素の左上、上、右上、右、左、左下、下、および右下の
画素)に含まれる2つの色成分を読み出し、それらの色
成分の中から、注目画素に含まれない色成分を選択し
て、補間部32に供給するようになされている。さら
に、選択部31は、残りの色成分(注目画素に含まれる
色成分と同一の色成分)を、補正値算出部33に出力す
るようにもなされている。また、選択部31は、注目画
素に含まれる2つ色成分を、補正部34に出力するよう
にもなされている。
【0056】補間部32(推定手段)は、選択部31か
ら供給される色成分から、注目画素に含まれない色成分
の推定値を算出し、補正部34に供給するようになされ
ている。補正値算出部33(算出手段)は、選択部31
から供給される色成分から、補間部32が出力する推定
値を補正するのに用いる補正値を算出し、補正部34に
供給するようになされている。補正部34(補正手段)
は、補間部32からの推定値を、補正値算出部33から
の補正値によって補正し、その補正後の推定値を、注目
画素に含まれない色成分として最終的に決定し、選択部
31から供給される、注目画素に含まれる色成分ととも
に、フレームメモリ24に供給するようになされてい
る。
【0057】次に、その動作について説明する。
【0058】いま、例えば、上述の図4(B)において
Xで示す画素が注目画素とされているとする。この場
合、選択部31においては、フレームメモリ22R乃至
22Bから、例えば、図4(B)において点線の長方形
で囲む範囲の9画素(以下、適宜、処理対象画素とい
う)それぞれが有する2つの色成分が読み出される。
【0059】ここで、処理対象画素のうち、R成分を有
するのは、図8(A)に示すように、注目画素の左上、
上、左、右、下、右下に隣接する6つの画素である。ま
た、G成分を有するのは、同図(B)に示すように、注
目画素、その上、右上、左、左下、右下に隣接する6つ
の画素である。さらに、B成分を有するのは、注目画
素、その左上、右上、右、左下、下に隣接する6つの画
素である。
【0060】いま、注目画素を#0で表し、その左上、
上、右上、左、右、左下、下、右下に隣接する画素を、
#1乃至#8でそれぞれ表すとともに、これらの9個の
処理対象画素のR,G,Bの各色成分を、対応する画素
の番号の前に、R,G,Bを付して表すとする。
【0061】この場合、選択部31は、9個の処理対象
画素が有する色成分のうち、注目画素が有しない色成分
と同一の色成分、即ち、図4(B)においてXで示す画
素が注目画素とされているときには、R成分を選択し、
つまり、R1,R2,R4,R5,R7,R8を選択し
(図8(A))、補間部32に出力する。さらに、選択
部31は、残りの色成分、即ち、ここでは、G0,G2
乃至G4,G6,G8,B0,B1,B3,B5乃至B
7を、補正値算出部33に出力する。さらに、選択部3
1は、注目画素が有する色成分(注目画素に含まれる色
成分)、即ち、ここでは、G0およびB0を、補正部3
4に出力する。
【0062】なお、上述したように、送信装置1におい
ては、元の画像を構成する画素から、R,G、またはB
成分が、周期的に削除されるため、即ち、R,G、また
はB成分が削除される規則が、あらかじめ決まっている
ため、選択部31では、その規則にしたがって、注目画
素が有しない色成分(あるいは、注目画素が有する色成
分)が認識されるとともに、注目画素に隣接する8つの
画素それぞれが有する色成分(あるいは、その8つの画
素それぞれが有しない色成分)が認識される。
【0063】補間部32では、選択部31から供給され
るR1,R2,R4,R5,R7,R8を用いて、例え
ば、補間が行われることにより、注目画素に含まれない
色成分であるR0の推定値が算出される。
【0064】即ち、補間部32では、例えば、図9
(A)に示すように、R2とR4との平均値ave1
(=(R2+R4)/2)が、R0の第1の推定値とし
て求められる。さらに、同図(B)に示すように、R2
とR8との平均値ave2(=(R2+R8)/2)
が、R0の第2の推定値として求められ、同図(C)に
示すように、R4とR8との平均値ave3(=(R4
+R8)/2)が、R0の第3の推定値として求められ
る。また、同図(D)乃至(F)に示すように、R1と
R5との平均値ave4(=(R1+R5)/2)、R
1とR7との平均値ave5(=(R1+R7)/
2)、R5とR7との平均値ave6(=(R5+R
7)/2)が、R0の第4乃至第6の推定値として、そ
れぞれ求められる。
【0065】これらの第1乃至第6の推定値ave1乃
至ave6は、いずれも、補正部34に供給される。
【0066】一方、補正値算出部33では、選択部31
から供給されるG0,G2乃至G4,G6,G8,B
0,B1,B3,B5乃至B7から、補間部32が出力
する第1乃至第6の推定値ave1乃至ave6を補正
するのに用いる補正値が算出される。
【0067】即ち、補正値算出部33では、例えば、図
10(A)に示すように、注目画素に含まれるG成分G
0と、G2およびG4の平均値との差分diff1(=
G0−(G2+G4)/2)が、第1の補正値として算
出される。さらに、同図(B)に示すように、注目画素
に含まれるG成分G0と、G2およびG8の平均値との
差分diff2(=G0−(G2+G8)/2)が、第
2の補正値として算出され、同図(C)に示すように、
注目画素に含まれるG成分G0と、G4およびG8の平
均値との差分diff3(=G0−(G4+G8)/
2)が、第3の補正値として算出される。
【0068】また、補正値算出部33では、例えば、図
11(A)に示すように、注目画素に含まれるB成分B
0と、B1およびB5の平均値との差分diff4(=
B0−(B1+B5)/2)が、第4の補正値として算
出される。さらに、同図(B)に示すように、注目画素
に含まれるB成分B0と、B1およびB7の平均値との
差分diff5(=B0−(B1+B7)/2)が、第
5の補正値として算出され、同図(C)に示すように、
注目画素に含まれるB成分B0と、B5およびB7の平
均値との差分diff6(=B0−(B5+B7)/
2)が、第6の補正値として算出される。なお、図11
の実施の形態では、diff4=0、即ち、注目画素に
含まれるB成分B0と、B1およびB5の平均値とが等
しくなっている。
【0069】これらの第1乃至第6の補正値diff1
乃至diff6は、いずれも、補正部34に供給され
る。
【0070】補正部34では、補間部32からの第1乃
至第6の推定値ave1乃至ave6が、補正値算出部
33からの第1乃至第6の補正値diff1乃至dif
f6によって補正される。
【0071】即ち、補正部34では、第1の推定値av
e1が、その第1の推定値ave1を求めるのに用いた
色成分R2またはR4を有する画素#2または#4それ
ぞれに含まれる他の色成分G2またはG4から求められ
た第1の補正値diff1によって補正される。具体的
には、例えば、図12(A)に示すように、第1の推定
値ave1に、第1の補正値diff1が加算され、そ
の加算値が、補正後の第1の推定値est1とされる。
【0072】さらに、補正部34では、第2の推定値a
ve2が、その第2の推定値ave2を求めるのに用い
た色成分R2またはR8を有する画素#2または#8そ
れぞれに含まれる他の色成分G2またはG8から求めら
れた第2の補正値diff2によって補正される。具体
的には、例えば、図12(B)に示すように、第2の推
定値ave2に、第2の補正値diff2が加算され、
その加算値が、補正後の第2の推定値est2とされ
る。
【0073】以下、同様にして、図12(C)乃至図1
2(F)に示すように、第3乃至第6の推定値ave3
乃至ave6に、第3乃至第6の補正値diff3乃至
diff6が加算され、その加算値が、補正後の第3乃
至第6の推定値est3乃至絵st6とそれぞれされ
る。
【0074】さらに、補正部34では、第1乃至第4の
推定値est1乃至est6の、例えば平均値est
(=(est1+est2+est3+est4+es
t5+est6)/6)が計算され、これが、注目画素
#0が有しない色成分R0の最終的な推定値estとさ
れる。
【0075】その後、補正部34は、R0の推定値es
tを、選択部31からの色成分G0およびB0ととも
に、注目画素#0の復号結果として、フレームメモリ2
4に供給する。
【0076】生成部23においては、注目画素が有しな
い色成分が、R成分以外のG成分やB成分の場合にも、
上述のようにして、その推定値が求められる。
【0077】以上のように、注目画素に含まれない色成
分の推定値を、処理対象画素のうちの、その色成分と同
一の色成分から推定するとともに、それ以外の色成分か
ら補正値を算出し、推定値を、補正値で補正するように
したので、各画素に含まれない色成分については、自由
度が大きくなり、8ビットで表現可能な256色より多
い色で表現された復号画像を得ることが可能となる。即
ち、データ量を増加させずに、復号画像の画質を向上さ
せることができる。
【0078】さらに、処理対象画素の、単純な平均値な
どを、注目画素に含まれない色成分の推定値としておら
ず、従って、平均化が行われることにより、元の画像に
含まれるエッジや縞模様が損なわれることを防止(低
減)することができる。即ち、エッジや縞模様の部分に
おいて、例えば、色ずれが生じることなどによる復号画
像の画質の劣化を低減することができる。特に、輝度の
変化により形成されているエッジや縞模様は、比較的正
確に再現(復号)することができる。
【0079】なお、本実施の形態においては、4:4:
4の信号を対象としたが、本発明は、その他、4:2:
2や、4:2:0などの信号にも適用可能である。さら
に、本実施の形態では、RGBの画像を対象としたが、
本発明は、例えば、YUVなどの、少なくとも複数の色
成分を有する画像に適用可能である。例えば、YUVの
画像を対象とする場合においては、図13に示すよう
に、送信装置1において、輝度信号Yは、常時選択し、
色差信号UおよびVは、2画素ごとに削除するように
し、受信装置4において、削除された色差信号は、隣接
する画素の色差信号から、上述したように推定(生成)
するようにすれば良い。
【0080】また、本実施の形態においては、元の画像
を構成する画素から、R,G、またはB成分を、周期的
に削除するようにしたが、色成分の削除は、周期的では
なく、ランダムに行うことが可能である。但し、その場
合には、受信装置4において、どの色成分が削除された
のかを認識するための情報が必要となり、その情報の分
だけ、データ量が多くなる。
【0081】さらに、本実施の形態では、R成分,G成
分、またはB成分を、水平および垂直方向の両方に、2
画素おきに削除するようにしたが、ある色成分を削除す
る周期は、2画素に限定されるものではなく、例えば、
フレーム周期などであっても良い。また、ある色成分
を、連続して削除するようにしても良い。但し、ある1
の色成分を集中して削除したり、他の1の色成分を集中
して残すようにした場合には、復号画像の画質にムラが
生じるおそれがあるため、基本的には、各色成分を、フ
レーム全体に亘って、均等に削除する(あるいは、残
す)のが望ましい。
【0082】また、本実施の形態では、選択画像をAD
RC処理するようにしたが、選択画像の圧縮方法は、A
DRCに限定されるものではない。
【0083】さらに、本実施の形態では、図7の補間部
32において、注目画素が有しない色成分の推定値とし
て、周辺の画素が有する、その色成分と同一の色成分の
平均値を用いるようにしたが、その他の値を、推定値と
して用いることも可能である。
【0084】また、本実施の形態では、図7の補間部3
2において、注目画素が有しない色成分の推定値とし
て、周辺の2画素が有する、その色成分と同一の色成分
の平均値を用いるようにしたが、色成分の推定値は、2
画素ではなく、1画素や3画素以上を用いて求めること
も可能である。なお、この場合、色成分の推定値を求め
るのに用いる画素に対応して、補正値算出部33におい
て補正値を求めるのに用いる画素も変更するのが望まし
い。
【0085】さらに、本実施の形態では、画像を構成す
る各画素について、複数の色成分のうちの1つを削除す
るようにしたが、色成分の削除は、すべての画素につい
て行う必要はなく、例えば、1画素や2画素おきに行う
ようにしても良い。
【0086】さらに、本発明は、特に、現実の世界を撮
影した画像(いわゆる自然画)に、特に有効である。
【0087】
【発明の効果】請求項1に記載の画像符号化装置および
請求項4に記載の画像符号化方法によれば、複数の色成
分のうちの1つが削除され、残りが選択されて出力され
る。従って、画像のデータ量を増加させずに、1の色成
分の自由度を大きくすることが可能となる。
【0088】請求項5に記載の画像復号装置および請求
項7に記載の画像復号方法によれば、削除された1つの
色成分が、その周辺の画素が有する色成分に基づいて生
成される。従って、従来よりも多い色数で表現された復
号画像を得ることが可能となる。
【0089】請求項8に記載の画像処理装置および請求
項9に記載の画像処理方法によれば、画像符号化装置に
おいて、複数の色成分のうちの1つが削除され、残りが
選択されて出力される。そして、画像復号装置におい
て、削除された1つの色成分が、その周辺の画素が有す
る色成分に基づいて生成される。従って、画像のデータ
量を増加させずに、復号画像の画質を向上させることが
可能となる。
【0090】請求項10に記載の記録媒体には、複数の
色成分のうちの1つを削除し、残りを選択して出力する
ことにより得られた符号化データが記録されている。従
って、画質の良い復号画像を得ることが可能となる。
【図面の簡単な説明】
【図1】本発明を適用した伝送システムの一実施の形態
の構成例を示す図である。
【図2】図1の送信装置1の処理を説明するための図で
ある。
【図3】図1の送信装置1の構成例を示すブロック図で
ある。
【図4】図3の選択部13の処理を説明するための図で
ある。
【図5】図4における選択画像を、R,G,Bの各成分
ごとに表した図である。
【図6】図1の受信装置4の構成例を示すブロック図で
ある。
【図7】図6の生成部33の構成例を示すブロック図で
ある。
【図8】処理対象画素を、R,G,Bの各成分ごとに表
した図である。
【図9】図7の補間部32の処理を説明するための図で
ある。
【図10】図7の補正値算出部33の処理を説明するた
めの図である。
【図11】図7の補正値算出部33の処理を説明するた
めの図である。
【図12】図7の補正部34の処理を説明するための図
である。
【図13】YUVの画像を処理対象とした場合の送信装
置1および受信装置4の処理を説明するための図であ
る。
【符号の説明】
1 送信装置, 2 伝送路, 3 記録媒体, 4
受信装置, 11 フレームメモリ, 12 選択部
(選択手段), 13 圧縮部, 21 伸張部, 2
2R,22G,22B フレームメモリ, 23 生成
部(生成手段),24 フレームメモリ, 31 選択
部, 32 補間部(推定手段), 33 補正値算出
部(算出手段), 34 補正部(補正手段)

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 複数の色成分を有する画像データを符号
    化する画像符号化装置であって、 前記複数の色成分のうちの1つを削除し、残りを選択し
    て出力する選択手段を備えることを特徴とする画像符号
    化装置。
  2. 【請求項2】 前記選択手段は、前記複数の色成分それ
    ぞれを、周期的に削除することを特徴とする請求項1に
    記載の画像符号化装置。
  3. 【請求項3】 前記選択手段は、前記複数の色成分のう
    ちの1つを削除し、残りを選択して出力することを、画
    像を構成する各画素ごとに行うことを特徴とする請求項
    1に記載の画像符号化装置。
  4. 【請求項4】 複数の色成分を有する画像データを符号
    化する画像符号化方法であって、 前記複数の色成分のうちの1つを削除し、残りを選択し
    て出力することを特徴とする画像符号化方法。
  5. 【請求項5】 複数の色成分を有する画像データについ
    て、その複数の色成分のうちの1つを削除し、残りを選
    択して出力することにより得られる符号化データを復号
    する画像復号装置であって、 削除された1つの色成分を、その周辺の画素が有する色
    成分に基づいて生成する生成手段を備えることを特徴と
    する画像復号装置。
  6. 【請求項6】 前記生成手段は、 削除された1つの色成分の推定値を、その周辺の画素が
    有する色成分のうち、削除された1つの色成分と同一の
    色成分から推定する推定手段と、 前記周辺の画素が有する色成分のうち、削除された1つ
    の色成分以外の色成分から、所定の補正値を算出する算
    出手段と、 前記推定値を、前記補正値によって補正する補正手段と
    を有することを特徴とする請求項5に記載の画像復号装
    置。
  7. 【請求項7】 複数の色成分を有する画像データについ
    て、その複数の色成分のうちの1つを削除し、残りを選
    択して出力することにより得られる符号化データを復号
    する画像復号方法であって、 削除された1つの色成分を、その周辺の画素が有する色
    成分に基づいて生成することを特徴とする画像復号方
    法。
  8. 【請求項8】 複数の色成分を有する画像データを符号
    化する画像符号化装置と、その画像符号化装置が出力す
    る符号化データを復号する画像復号装置とからなる画像
    処理装置であって、 前記画像符号化装置は、前記複数の色成分のうちの1つ
    を削除し、残りを選択して出力する選択手段を備え、 前記画像復号装置は、削除された1つの色成分を、その
    周辺の画素が有する色成分に基づいて生成する生成手段
    を備えることを特徴とする画像処理装置。
  9. 【請求項9】 複数の色成分を有する画像データを符号
    化する画像符号化装置と、その画像符号化装置が出力す
    る符号化データを復号する画像復号装置とからなる画像
    処理装置の画像処理方法であって、 前記画像符号化装置において、前記複数の色成分のうち
    の1つを削除し、残りを選択して出力し、 前記画像復号装置において、削除された1つの色成分
    を、その周辺の画素が有する色成分に基づいて生成する
    ことを特徴とする画像処理方法。
  10. 【請求項10】 複数の色成分を有する画像データを符
    号化して得られる符号化データが記録されている記録媒
    体であって、 前記符号化データは、前記複数の色成分のうちの1つを
    削除し、残りを選択して出力することにより得られたも
    のであることを特徴とする記録媒体。
JP33831697A 1997-12-09 1997-12-09 画像復号装置および画像復号方法、並びに、画像処理装置および画像処理方法 Expired - Fee Related JP3750128B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP33831697A JP3750128B2 (ja) 1997-12-09 1997-12-09 画像復号装置および画像復号方法、並びに、画像処理装置および画像処理方法
EP98310005A EP0923052B1 (en) 1997-12-09 1998-12-07 Image encoding/decoding technique
US09/206,415 US6501851B1 (en) 1997-12-09 1998-12-07 Image encoding/decoding by eliminating color components in pixels
DE69816949T DE69816949T2 (de) 1997-12-09 1998-12-07 Verfahren zur Kodierung/Dekodierung von Bildern
CA002255296A CA2255296C (en) 1997-12-09 1998-12-08 Image encoding/decoding by eliminating color components in pixels
AU96989/98A AU748951B2 (en) 1997-12-09 1998-12-08 Image encoding/decoding by eliminating color components in pixels
CNB981232809A CN1182730C (zh) 1997-12-09 1998-12-08 消除像素色彩分量的图像编码解码
KR1019980053840A KR100611514B1 (ko) 1997-12-09 1998-12-09 픽셀내컬러성분들을제거함에의한화상부호화/복호화

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33831697A JP3750128B2 (ja) 1997-12-09 1997-12-09 画像復号装置および画像復号方法、並びに、画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JPH11178011A true JPH11178011A (ja) 1999-07-02
JP3750128B2 JP3750128B2 (ja) 2006-03-01

Family

ID=18316995

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33831697A Expired - Fee Related JP3750128B2 (ja) 1997-12-09 1997-12-09 画像復号装置および画像復号方法、並びに、画像処理装置および画像処理方法

Country Status (8)

Country Link
US (1) US6501851B1 (ja)
EP (1) EP0923052B1 (ja)
JP (1) JP3750128B2 (ja)
KR (1) KR100611514B1 (ja)
CN (1) CN1182730C (ja)
AU (1) AU748951B2 (ja)
CA (1) CA2255296C (ja)
DE (1) DE69816949T2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002064819A (ja) * 2000-08-22 2002-02-28 Sony Corp 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
WO2018092715A1 (ja) * 2016-11-17 2018-05-24 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、画像処理方法およびプログラム

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3750128B2 (ja) * 1997-12-09 2006-03-01 ソニー株式会社 画像復号装置および画像復号方法、並びに、画像処理装置および画像処理方法
US6967753B2 (en) * 2001-07-31 2005-11-22 Hewlett-Packard Development Company, L.P. Plane dependent compression
US9081681B1 (en) 2003-12-19 2015-07-14 Nvidia Corporation Method and system for implementing compressed normal maps
US8078656B1 (en) 2004-11-16 2011-12-13 Nvidia Corporation Data decompression with extra precision
US7961195B1 (en) * 2004-11-16 2011-06-14 Nvidia Corporation Two component texture map compression
US7928988B1 (en) 2004-11-19 2011-04-19 Nvidia Corporation Method and system for texture block swapping memory management
US7916149B1 (en) 2005-01-04 2011-03-29 Nvidia Corporation Block linear memory ordering of texture data
US8300694B2 (en) * 2005-09-20 2012-10-30 Mitsubishi Electric Corporation Image encoding method and image decoding method, image encoder and image decoder, and image encoded bit stream and recording medium
JP2009290662A (ja) * 2008-05-30 2009-12-10 Panasonic Corp 画像送信装置および画像受信装置
US8610732B2 (en) * 2008-12-11 2013-12-17 Nvidia Corporation System and method for video memory usage for general system application
US11019365B2 (en) * 2015-07-30 2021-05-25 Zhejiang Dahua Technology Co., Ltd. Methods and systems for image compression
GB2593523B (en) * 2020-03-26 2023-06-14 Imagination Tech Ltd Image data compression
CN113422944B (zh) * 2021-06-30 2022-12-23 青岛海信激光显示股份有限公司 信号传输方法及投影设备

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2674059B2 (ja) * 1988-02-09 1997-11-05 キヤノン株式会社 カラー画像データ伝送方法
JPH03117289A (ja) * 1989-09-29 1991-05-20 Matsushita Electric Ind Co Ltd 伝送装置
JPH04326255A (ja) 1991-04-25 1992-11-16 Canon Inc 画像符号化方法及び装置
JPH05130427A (ja) * 1991-11-06 1993-05-25 Fuji Xerox Co Ltd 画像符号化装置及び画像復号装置
JPH05137010A (ja) * 1991-11-11 1993-06-01 Canon Inc 画像処理装置
US5666137A (en) * 1993-08-06 1997-09-09 Intel Corporation Packed YUV9 format for interleaved storage and efficient processing of digital video data
US6031974A (en) * 1994-03-25 2000-02-29 Canon Kabushiki Kaisha Image processing apparatus and method, and method of manufacturing ink-jet recorded article
US5519439A (en) * 1994-06-30 1996-05-21 Intel Corporation Method and apparatus for generating preview images
US6115496A (en) * 1995-03-02 2000-09-05 Apple Computer, Inc. Method and apparatus for accelerating image data compression
US6016360A (en) * 1995-06-05 2000-01-18 Apple Computer, Inc. Method and apparatus for encoding color image data
US5930387A (en) * 1995-06-05 1999-07-27 Apple Computer, Inc. Method and apparatus for encoding color image data using dynamic color matching
US5768481A (en) * 1995-06-05 1998-06-16 Apple Computer, Inc. Method and apparatus for compression of digitized image data using a dynamic band recompression scheme
TW360823B (en) * 1996-09-30 1999-06-11 Hitachi Ltd Data processor and graphic processor
JP3750128B2 (ja) * 1997-12-09 2006-03-01 ソニー株式会社 画像復号装置および画像復号方法、並びに、画像処理装置および画像処理方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002064819A (ja) * 2000-08-22 2002-02-28 Sony Corp 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
JP4691762B2 (ja) * 2000-08-22 2011-06-01 ソニー株式会社 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体
WO2018092715A1 (ja) * 2016-11-17 2018-05-24 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、画像処理方法およびプログラム
US11032446B2 (en) 2016-11-17 2021-06-08 Sony Interactive Entertainment Inc. Image processing device, image processing method, and program for correcting color in an image

Also Published As

Publication number Publication date
EP0923052A2 (en) 1999-06-16
DE69816949T2 (de) 2004-06-09
KR19990062908A (ko) 1999-07-26
CA2255296C (en) 2007-02-13
EP0923052A3 (en) 2000-03-08
US6501851B1 (en) 2002-12-31
DE69816949D1 (de) 2003-09-11
JP3750128B2 (ja) 2006-03-01
EP0923052B1 (en) 2003-08-06
CN1182730C (zh) 2004-12-29
CA2255296A1 (en) 1999-06-09
AU9698998A (en) 1999-07-01
CN1224310A (zh) 1999-07-28
AU748951B2 (en) 2002-06-13
KR100611514B1 (ko) 2006-11-30

Similar Documents

Publication Publication Date Title
US6757435B2 (en) Apparatus for and method of processing image and apparatus for and method of encoding image
US5371549A (en) Decoding method and system for providing digital television receivers with multipicture display by way of zero masking transform coefficients
JP4126709B2 (ja) 画像処理装置および画像処理方法
US5555028A (en) Post-processing method and apparatus for use in an image signal decoding system
JP3750128B2 (ja) 画像復号装置および画像復号方法、並びに、画像処理装置および画像処理方法
US5367334A (en) Video signal encoding and decoding apparatus
US5815636A (en) Image reproducing apparatus
KR19990087249A (ko) 화상 신호 부호화 장치, 화상 신호 부호화 방법,화상 신호 복호 장치, 화상 신호 복호 방법 및 기록 매체
JP3946781B2 (ja) 画像情報変換装置及び方法
JP3371159B2 (ja) ディジタル画像信号処理装置および処理方法
KR20010032315A (ko) 부호화 장치 및 방법, 복호 장치 및 방법
JP3912558B2 (ja) 画像符号化装置および画像符号化方法、並びに記録媒体
JPH10243405A (ja) 画像信号符号化装置および画像信号符号化方法、画像信号復号装置および画像信号復号方法、並びに記録媒体
JP2698675B2 (ja) カラー画像情報の符号化及び再生方法
JP3271109B2 (ja) ディジタル画像信号処理装置および処理方法
JP3326828B2 (ja) ディジタル画像信号受信/再生装置
JP3480461B2 (ja) ディジタル画像信号処理装置および処理方法
JP2534744B2 (ja) カラ―画像符号化方式
JP2698641B2 (ja) カラー画像データ符号化方法及び複号方法
JP2534745B2 (ja) カラ―画像符号化方式
JP2534746B2 (ja) カラ―画像符号化方式
JP2972290B2 (ja) 画像信号の復号化方式
JPH0759046A (ja) ディジタル画像信号の受信/再生装置
JP2000004436A (ja) 画像処理装置および画像処理方法、並びに伝送媒体および伝送方法
JP2004179704A (ja) 立体画像処理方法及びプログラム及び記録媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051127

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091216

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091216

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101216

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111216

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121216

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131216

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees