JP5082240B2 - 画像コントロールic - Google Patents

画像コントロールic Download PDF

Info

Publication number
JP5082240B2
JP5082240B2 JP2005379091A JP2005379091A JP5082240B2 JP 5082240 B2 JP5082240 B2 JP 5082240B2 JP 2005379091 A JP2005379091 A JP 2005379091A JP 2005379091 A JP2005379091 A JP 2005379091A JP 5082240 B2 JP5082240 B2 JP 5082240B2
Authority
JP
Japan
Prior art keywords
image data
bits
compressed image
line
color signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005379091A
Other languages
English (en)
Other versions
JP2007178851A (ja
Inventor
淳 小日向
裕一郎 小菅
芳照 小野
政一 礒村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2005379091A priority Critical patent/JP5082240B2/ja
Publication of JP2007178851A publication Critical patent/JP2007178851A/ja
Application granted granted Critical
Publication of JP5082240B2 publication Critical patent/JP5082240B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、液晶、プラズマ、有機ELディスプレス等の表示装置やプリンタ等に用いられる画像コントロールICに関する。
例えば、携帯電話機の液晶表示装置を例に挙げれば、近年、高精細な表示を行なうために、ディスプレス上の画素数が増大し、一画素あたりの階調数も増大している。現在主流のQVGA(240×320ドット)から、VGA(480×640ドット)またはWVGA(480×800ドット)への移行が予定され、QVGAの時には一画素あたりの階調値が16ビットまたは18ビットであったのが、VGAまたはWVGAでは18ビットまたは24ビットへと高階調化される。
画素数と階調値の増大は、フレームメモリ容量の増大とに深刻に影響する。
フレームメモリの増大は、RAM内蔵ドライバICを根本的に考え直さないと、解決策は見当たらない。例えばQVGA→VGAの変更でメモリ面積は4倍に増大し、RAM内蔵ドライバICの面積も著しく増大する。その場合、ガラス基板上にCOG(Chip On Grass)実装されるRAM内蔵ドライバICは、ドライバIC搭載のためだけに液晶パネルのガラス基板面積を増大させ、製造基板から分断される時のパネル取り枚数が減少する。そればかりか、ガラス基板の短辺を長手軸とする長方形状の従来型ドライバICの形状は維持できなくなる。もはやCOG実装は無理であり、全面的にCOF(Chip On Film)に変更しなければならない。
一方、携帯電話機では、画像を供給するベースバンドエンジン(LSI)から液晶ドライバICに直接に画像データを送付するのでなく、ベースバンドエンジンでの液晶表示に関するタスクを軽減するために、ベースバンドエンジンと液晶ドライバICとの間に液晶コントロールICを設けるものもある。しかし、画像データ量が多くなれば、液晶コントロールIC内に設けられるメモリ容量も増大してしまう。
上述の問題は、液晶表示装置に限らず、画像を受信または生成する画像出力源となる集積回路と、表示部またはプリンタを駆動する集積回路との間で、高精細な画像データを転送する場合に、共通している。
特開平1−112377号公報 特開2001−257888号公報
本発明の目的は、画像供給側ICから転送を受ける画像データ量が増大しても、メモリ容量を縮小して小型化できる画像コントロールICを提供することにある。
本発明の一態様は、画像供給側ICからデータバスを介して画像データが転送され、前記画像データを加工して、画像出力ドライブICに転送する画像コントローラICにおいて、前記画像供給側ICからの画象データを符号化する画像符号化装置と、前記画像符号化装置からの圧縮画像データを格納する圧縮画像データメモリと、前記圧縮画像データメモリからの前記圧縮画像データを復号する画像復号装置と、前記画像復号装置にて復号された画像データを加工する画像データ加工部とを有することを特徴とする。
高精細な画像出力が求められると、画像データ量は増大してしまう。本発明では、画像コントロールICが画像符号化装置を搭載しており、圧縮画像データを記憶するので、圧縮画像データメモリの記憶容量は小さくて済み、画像コントロールICの小型化を維持できる。
本発明の一態様では、前記画像符号化装置は、一フレーム分の各フレームの前記画像データを規定圧縮率以上の実圧縮率にて符号化することを保障することができる。あるいはこの画像符号化装置は、一ライン分の各ラインの前記画像データを規定圧縮率以上の実圧縮率にて符号化することを保障することができる。ここで、例えば規定圧縮率を50%としたとき、規定圧縮率以上の実圧縮率とは、50%、40%、30%などの圧縮率をいい、50%を越えない高圧縮となる実際の圧縮率を意味する(%を示す数値が小さいほど圧縮率は高く、数値が大きいほど圧縮率は低い関係にある)。
本発明の一態様では、非圧縮の画像データのデータ量をMビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの有効記憶容量をSビットとしたとき、M>S>M×αが成立する。よって、圧縮画像データメモリの有効記憶容量を下限に近づけることで、高精細な画像出力が求められても、メモリサイズ、ひいては画像コントロールICのサイズを大型化することがない。
本発明の一態様では、前記画像符号化装置の前段に、一画素についての第1の色信号を、前記第1の色信号のビット数よりも少ないビット数の第2の色信号に変換する色信号変換回路をさらに有し、前記色信号変換回路で達成される圧縮率をk(k<1)とし、非圧縮画像データのデータ量をMビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの有効記憶容量をSビットとしたとき、M>S>M×α×kが成立する。
このように、画像符号化装置による圧縮と色信号変換による圧縮とを組み合わせることで、高圧縮率を実現でき、メモリサイズ、ひいては画像コントロールICのサイズを小型に維持できる。
本発明の一態様では、前記画素データ加工部は、N(Nは2以上の整数)フレーム分の画像データを合成して一フレーム分の画像データに加工し、一フレーム分の非圧縮画像データのデータ量をMビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの有効記憶容量をSビットとしたとき、N×M>S>N×M×αが成立する。
Nフレーム分の画像データを加工して一フレーム画像に加工する場合にも、規定圧縮率に基づいてメモリ容量を小さくすることができる。
本発明の一態様では、前記画像符号化装置の前段に、一画素についての第1の色信号を、前記第1の色信号のビット数よりも少ないビット数の第2の色信号に変換する色信号変換回路をさらに有し、前記画素データ加工部は、N(Nは2以上の整数)フレーム分の画像データを合成して一フレーム分の画像データに加工し、前記色信号変換回路で達成される圧縮率をk(k<1)とし、一フレーム分の非圧縮の画像データのデータ量をMビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの有効記憶容量をSビットとしたとき、N×M>S>N×M×α×kが成立する。
データ加工により画像データ量が増大する時にも、画像符号化装置による圧縮と色信号変換による圧縮とを組み合わせることで、メモリサイズ、ひいては第2の集積回路のサイズを小型に維持できる。
本発明の一態様では、前記Nフレームの各フレーム中の同一ラインの圧縮画像データは、前記圧縮画像データメモリの同一ライン上にて先頭アドレス位置を変えて格納され、画像符号化装置が一ライン毎に規定圧縮率以上の圧縮率を保障する場合には、非圧縮画像データの1ライン分のデータ量をMLビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの一ライン上の有効記憶容量をSLビットとしたとき、ML>SL>ML×αが成立する。
このように、圧縮画像データメモリの一ライン方向でダウンサイジングでき、レイアウトの自由度が高まる。
画像符号化装置が一ライン毎に規定圧縮率以上の圧縮率を保障しかつ、画像符号化装置の前段に、一画素についての第1の色信号を、前記第1の色信号のビット数よりも少ないビット数の第2の色信号に変換する色信号変換回路をさらに有する場合には、前記色信号変換回路で達成される圧縮率をk(k<1)とし、非圧縮の画像データの1ライン分のデータ量をMLビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの一ライン上の有効記憶容量をSビットとしたとき、ML>SL>ML×α×kが成立する。
このように、圧縮画像データメモリの一ライン方向についても、画像符号化装置による圧縮と色信号変換による圧縮とを組み合わせることで、ダウンサイジングの効果が大きい。
本発明の一態様では、前記画像符号化装置の前段に、一画素についての第1の色信号を、前記第1の色信号のビット数よりも少ないビット数の第2の色信号に変換する色信号変換回路をさらに有し、前記画素データ加工部は、N(Nは2以上の整数)フレーム分の画像データを合成して一フレーム分の画像データに加工し、前記Nフレームの各フレーム中の同一ラインの圧縮画像データは、前記圧縮画像データメモリの同一ライン上にて先頭アドレス位置を変えて格納され、前記色信号変換回路で達成される圧縮率をk(k<1)とし、一ライン分の非圧縮画像データのデータ量をMLビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの一ライン上の有効記憶容量をSLビットとしたとき、N×ML>SL>N×ML×α×kが成立する。
このように、Nフレームの画像を1フレームの画像に加工するときにも、圧縮画像データメモリの一ライン方向についてダウンサイジングできる。
また、圧縮画像データメモリの一ライン方向についてダウンサイジングされても、前記圧縮画像データメモリは、各ラインの圧縮画像データの先頭データを、前記画像圧縮メモリの各ラインの同一アドレス上の記憶素子に記憶させることができる。
本発明の一態様では、前記画像コントロールICは、垂直同期信号に同期した書き込み開始信号を前記画像供給側ICに送出し、前記画像符号化装置は、前記書き込み開始信号に基づいて前記画像供給側ICから転送された前記画像データを圧縮して、前記圧縮画像データを前記圧縮画像データメモリに転送する。前記書き込み開始信号に基づいて前記圧縮画像データメモリに書き込み開始されるタイミングが、前記圧縮画像データメモリに対する読み出し開始タイミングよりも先行していると、リードアドレスをライトアドレスが追い抜く事態を防止できる。
本発明の一態様では、前記画像コントロールICは、前記圧縮画像データメモリの前段に設けられた第1のラインバッファと、前記圧縮画像データメモリと前記画像復号装置の間に設けられた第2のラインバッファとをさらに有することができる。この場合、前記第1のラインバッファから一ライン分の前記圧縮画像データが前記圧縮画像データメモリに同時に書き込まれ、前記圧縮画像データメモリより一ライン分の圧縮画像データが同時に出力されて前記第2のラインバッファに格納される。これに代えて、前記画像コントロールICは、前記圧縮画像データメモリと前記画像復号装置の間に、第1,第2のリードラインバッファをさらに有することができる。この場合、前記圧縮画像データメモリより読み出される一ライン分の前記圧縮画像データは、前記第1,第2のリードラインバッファに交互に格納され、交互に読み出される。
こうすると、圧縮画像データメモリへの書き込み開始時期を制限しなくても、リードアドレスをライトアドレスが追い抜く事態は生じない。
本発明の一態様では、前記画像復号装置にて復号エラーが生じた時に、前記画像復号装置より前記画像符号化装置に割込み信号が供給され、前記割込み信号を受信した前記画像符号化装置は、前記復号エラーが生じたラインのみ、もしくは前記復号エラーが生じたラインを含む1フレームすべての前記圧縮画像データを再転送することができる。
非圧縮画像データとは異なり、圧縮画像データの復号エラーは、後続の圧縮画像データの復号に関係するため、影響が大きい。上述の制御により、復号エラーに伴う影響を最小限に止めることができる。
以下、本発明に係る画像コントロールICの実施形態について、図面を参照して具体的に説明する。
1.画像コントロールIC
1.1.液晶表示装置の概要
図1は、本発明を携帯電話機に適用した実施形態を示している。図1において、ベースバンドエンジン(BBE:広義には画像供給側IC)1は携帯電話機の基本機能を司るLSI(Large Scale Integrated Circuit)であり、インターネット経由で受信した動画や静止画、カメラで撮影した自然画、携帯電話機の操作上で必要なメニュー画面、アイコンなどの文字・図形情報等の各種画像データの出力源である。
図1において、携帯電話機のディスプレイとして液晶パネル2が設けられている。この液晶パネル2は、2枚のガラス基板3,4間に液晶を封入したものである。大きなガラス基板3は例えばアクティブマトリクス基板であり、各画素にアクティブ素子であるTFT(Thin Film Transistor)が設けられている。各画素のTFTのドレイン端子に透明画素電極が、ソース端子にデータ線であるソース線が、ゲート端子に走査線であるゲート線がそれぞれ接続されている。このガラス基板3と対向するガラス基板4には透明電極が設けられている。ガラス基板3上には、ガラス基板3の短辺に沿って、液晶パネル2を駆動する液晶ドライバIC(広義には画像出力ドライバIC))5がCOG実装されている。ドライバIC5は、液晶パネル2のゲート線に走査信号を、ソース線にデータ信号を供給して液晶パネル2を表示駆動する。
このベースバンドエンジン1とドライバIC5との間に、画像コントロールIC6が設けられている。ベースバンドエンジン1と画像コントロールIC6とは複数本のバスライン7で接続され、画像コントロールIC6とドライバIC5とも、複数本のバスライン8で接続され、画像データ、水平・垂直同期信号、クロック信号、各種コマンドが転送される。
ここで、画像コントロールIC6の主な役割として、画像データ加工部62での画像データの加工がある。画像データの加工とは、画像の拡大、縮小、回転、合成などである。例えば画像合成を例に挙げれば、ベースバンドエンジン1から転送されるN(Nは2以上の整数)フレーム分の画像データを合成して一フレーム分の画像データに加工することがある。
本実施形態では、図2に示すように、画像コントロールIC6に、画像符号化装置(エンコーダともいう)10と、圧縮画像データメモリ20と、画像復号装置(デコーダともいう)30と、エンコードされた画像データに基づいて画像データを編集加工するデータン加工部40とが搭載されている。
ベースバンドエンジン1からの非圧縮画像データを圧縮するエンコーダ10は、一フレーム分の各フレームの画像データを規定圧縮率(例えば50%)以上の圧縮率で圧縮して符号化することが保障されており、その詳細については後述する。このエンコーダ10は、一ライン分の各ラインの画像データを規定圧縮率以上の圧縮率で圧縮して符号化することも保障できる。
画像コントロールIC6に搭載された圧縮画像データメモリ20は、エンコーダ10にて符号化された圧縮画像データを格納するものであり、デコーダ30は、圧縮画像データメモリ20からの圧縮画像データを復号するものであり、その詳細についても後述する。
1.2.圧縮画像データメモリ
本実施形態では、画像コントロールIC6に設けた圧縮画像データメモリ20は、ドライバICのエンコーダ10にて圧縮された後の画像データを記憶するので、記憶容量を小さくできる。そして、高精細な表示態様となっても、画像コントロールICの圧縮画像データメモリ20の小型化が図れるので、ドライバIC5を従来のRAM内蔵ドライバICとする必要はなくなる。このため、図1に示すように、ガラス基板2の短辺に沿って長方形状のドライバIC5をCOG実装することができる。
1.2.1.圧縮画像データメモリの有効記憶容量
図3に示すように、エンコーダ10でのエンコード前の非圧縮の画像データのデータ量をMビットとし、エンコーダ10に設定された規定圧縮率をα(α<1)とし、圧縮画像データメモリ20の有効記憶容量(冗長メモリは含まない)をSビットとしたとき、M>S>M×αが成立する。つまり、エンコーダ10は、規定圧縮率α以上の圧縮率で非圧縮画像データを圧縮することが保障されており、規定圧縮率αを下回ることがない。よって、圧縮画像データメモリ20の記憶容量Sとして、上記不等号式の下限に近いメモリ容量として設計すれば圧縮画像データメモリ20の小サイズ化が達成でき、画像コントロールIC60も小サイズに維持できる。
画像データ加工部40で、ベースバンドエンジン1から転送されるN(Nは2以上の整数)フレーム分の画像データを合成して一フレーム分の画像データに加工することがある。この場合、図4に示すように、一フレーム分の非圧縮画像データのデータ量をMビットとし、規定圧縮率をα(α<1)とし、圧縮画像データメモリ61の有効記憶容量をSビットとしたとき、N×M>S>N×M×αが成立する。
このように、N枚の画像を圧縮してデータ転送した後に圧縮画像データメモリ20に格納することで、圧縮画像データメモリ20の記憶容量を縮小できる利点がある。
1.2.2.色信号変換による高圧縮時の圧縮画像データメモリの有効記憶容量
エンコーダ10は、後述する通り、非圧縮画像データがRGB信号であっても、YUV信号であっても、その色信号をそのまま圧縮することができる。液晶表示パネル2はRGB色フィルターを有するので、最終的にはRGB信号に変換するとしても、圧縮・伸張の段階では色信号の区別はとはない。
ただし、非圧縮画像データをさらに高圧縮するために、図5または図6に示すように色信号を変換しても良い。
図5は、画像コントロールIC6のエンコーダ10の前段に、RGB−YUV変換回路(広義には色信号変換回路)50を設けている。また、画像コントロールIC6のデコーダ30の後段に、YUV−RGB変換回路51を設けている。ここで、RGB−YUV変換回路50は、一画素についてのRGB信号を、そのRGB信号のビット数よりも少ないビット数のYUV信号に変換するものである。
一例として、RGB−YUV変換回路50が、RGBの各サブビクセルを8ビットとするRGB888(24ビット)を、YUV422(16ビット)に変換すると、その変換により67%(100×16/24)のデータ圧縮が達成される。従って、エンコーダ10での規定圧縮率または実圧縮率をα(α<1)とし、色信号変換による圧縮率をk(k<1)とすると、α×kのトータル圧縮率を達成できる。
他の例として、RGB−YUV変換回路50が、RGB888(24ビット)を、YUV420(12ビット)に変換すると、その変換によりk=50%(100×12/24)のデータ圧縮が達成され、トータル圧縮率α×k=0.25と高圧縮率となる。
さらに他の例として、RGB−YUV変換回路40が、RGB565(16ビット)を、YUV420(12ビット)に変換すると、その変換によりk=75%(100×12/16)のデータ圧縮が達成され、トータル圧縮率α×k=0.385と高圧縮率となる。
図6では、画像コントロールIC6のエンコーダ10の前段に、UVサンプリング変換回路(広義には色信号変換回路)52を設けている。また、画像コントロールIC6のデコーダ30の後段に、UV補間回路53を設けている。この場合も、UVサンプリング変換回路52は、一画素についてのYUV信号を、そのYUV信号のビット数よりも少ないビット数のYUV信号に変換するものである。
一例として、UVサンプリング変換回路52が、YUV444(24ビット)を、YUV422(16ビット)に変換すると、その変換により67%(100×16/24)のデータ圧縮が達成され、トータル圧縮率α×k=0.335と高圧縮率となる。
他の例として、UVサンプリング変換回路52が、YUV444(24ビット)を、YUV420(12ビット)に変換すると、その変換によりk=50%(100×12/24)のデータ圧縮が達成され、トータル圧縮率α×k=0.25と高圧縮率となる。
さらに他の例として、UVサンプリング変換回路52が、YUV422(16ビット)を、YUV420(12ビット)に変換すると、その変換によりk=75%(100×12/16)のデータ圧縮が達成され、トータル圧縮率α×k=0.385と高圧縮率となる。
図5または図6のように色信号変換回路50,52を有する場合は、図7に示すように、その色信号変換回路50,52で達成される圧縮率をk(k<1)とし、非圧縮画像データのデータ量をMビットとし、規定圧縮率をα(α<1)とし、圧縮画像データメモリの有効記憶容量をSビットとしたとき、M>S>M×α×kが成立する。よって、圧縮画像データメモリ20の容量はさらに小さくて済む。
図4の例において、図5または図6に示すような色信号変換回路50,52を設けた場合には、色信号変換回路50,52で達成される圧縮率をk(k<1)とし、一フレーム分の非圧縮の画像データのデータ量をMビットとし、規定圧縮率をα(α<1)とし、圧縮画像データメモリ61の有効記憶容量をSビットとしたとき、N×M>S>N×M×α×kが成立する。これにより圧縮画像データメモリ20のサイズをより縮小できる。
1.2.3.圧縮画像データメモリの一ライン上の有効記憶容量
エンコーダ10は、一ライン分の各ラインの画像データを規定圧縮率以上の実圧縮率にて符号化することが保障することができる。この場合は、図8に示すように、非圧縮の画像データの1ライン分のデータ量をMLビットとし、規定圧縮率をα(α<1)とし、圧縮画像データメモリ20の一ライン上の有効記憶容量をSLビットとしたとき、ML>SL>ML×αが成立することになる。つまり、圧縮画像データメモリ20が例えばSRAMであれば、ワード線方向のサイズが短縮されることを意味する。
このような圧縮画像データメモリ20では、図8に示すように、各ラインの圧縮画像データの先頭データが、画像圧縮メモリの各ラインの同一アドレス上の記憶素子に記憶される。こうすると、各ラインの先頭アドレスを容易に検出できる。
図8の例において、図5または図6に示すような色信号変換回路50,52を設けた場合には、色信号変換回路50,52で達成される圧縮率をk(k<1)とし、非圧縮の画像データの1ライン分のデータ量をMLビットとし、規定圧縮率をα(α<1)とし、圧縮画像データメモリ20の一ライン上の有効記憶容量をSビットとしたとき、ML>SL>ML×α×kが成立する。これにより、圧縮画像データメモリ20の例えばワード線方向のサイズはより縮小される。
図4のようにNフレーム分の画像データから1フレーム分の画像データに加工する場合は、Nフレームの各フレーム中の同一ラインの圧縮画像データは、圧縮画像データメモリ20の同一ライン上にて先頭アドレス位置を変えて格納される。この場合、図8と同様に、非圧縮の画像データの1ライン分のデータ量をMLビットとし、規定圧縮率をα(α<1)とし、圧縮画像データメモリ20の一ライン上の有効記憶容量をSLビットとしたとき、N×ML>SL>N×ML×αが成立することになる。つまり、圧縮画像データメモリ20が例えばSRAMであれば、ワード線方向のサイズが短縮されることを意味する。
1.3.非圧縮/圧縮切換え
ベースバンドエンジン1は、データバスを介して非圧縮画像データまたは圧縮画像データを切換えて転送することができる。この場合、非圧縮/圧縮切換え信号を、非圧縮画像データまたは圧縮画像データの転送時に送信される垂直同期信号Vsyncに同期させて送出することが好ましい。なお、非圧縮画像を転送する場合には、画像圧縮データメモリ20の容量S=Mとなる。
図9は、図9(A)の一垂直期間Vsync毎に、図9(B)に示すように非圧縮データ→圧縮データ→圧縮データ…と転送する状況を示している。
ここで、図10に示すように、画像コントロールIC6のインターフェースには、24個のデータ端子、垂直同期信号Vsyncの入力端子、水平同期信号Hsyncの入力端子、クロックCLKの入力端子、データイネーブル(DE)端子、シリアル入出力端子SIOが設けられている。
図10に示すシリアル入出力端子SIOを有する画像コントロールIC6の場合、ベースバンドエンジン1より図9(C)に示す非圧縮/圧縮切換えコマンドCmdが、先頭の圧縮画像データが転送される垂直走査期間Tnの前の垂直走査期間Tn−1にて受信されている。これにより、画像コントロールIC6は、受信された圧縮画像データをデコーダ30にて復号することができる。これに限らず、図9(D)に示すように、垂直走査期間Tnに同期してアクティブとなる圧縮イネーブル信号CEをベースバンドエンジン1より画像コントロールIC6に送信しても良い。この場合、画像コントロールIC6は圧縮イネーブル信号の受信端子を有する。
1.4.復号エラー対策
画像コントロールIC6のデコーダ30では、あるフレームFnのあるラインLn途中にてエラーが発生すると、エラー発生位置よりも下流の同一ラインLnのデータは復号不可能となる。非圧縮画像データであれば一点のエラーで済み、視覚上問題は深刻でないが、圧縮画像データの場合はエラー発生位置以降の復号ができなくなるので対策が必要である。
本実施形態では、画像コントロールIC6のデコーダ30にて復号エラーが生じた時に、デコーダ30からエンコーダ10に割込み信号供給される。割込み信号を受信したエンコーダ10は、復号エラーが生じたラインLnから、または復号エラーが生じたフレームFnの先頭から、圧縮画像データを再転送する。これにより、復号エラーに起因した画質の低下を最小限に止めている。
つまり、非圧縮画像データとは異なり、圧縮画像データの復号エラーは、後続の圧縮画像データの復号に関係するため、圧縮画像データメモリ20からの圧縮画像データを送りつづけると、表示への悪影響が大きい。上述の制御により、復号エラーに伴う影響を最小限に止めることができる。
1.5.圧縮画像データメモリでのリード・ライト
画像データ加工部40での処理の関係などから、図2に示す圧縮画像データメモリ20からの読み出し速度が書き込み速度よりも遅い場合がある。この場合、図11に示すように、圧縮画像データメモリ20の同一ラインLn上で、書き込みアドレスが読み出しアドレスを追い越してしまう事態が生じ得る。この時点で、ラインLn上での読み出しアドレス以降のアドレスには新データが書き込まれるので、ノイズ表示となる。これを防止するために、下記のような対策を実施している。
1.5.1.書き込みタイミング設定
リードアドレスをライトアドレスが追い越さないための対策を図12を参照して説明する。画像コントロールIC6は、垂直同期信号Vsyncに同期した書き込み開始信号RS(図13参照)をベースバンドエンジン1に送出する。この書き込み開始信号RSに基づいて圧縮画像データメモリ20に書き込み開始されるタイミングT1を、圧縮画像データメモリ20に対する読み出し開始タイミングT2よりも常に先行させる。こうして、先行して高速書き込みを実施することで、図11に示す弊害を防止できる。
なお、画像コントロールIC6のドライバ部40は、図12に示すように、デコーダ30の後段に、第1段及び第2段のラインバッファ41,42を有することができる。第1段ラインバッファ41にて、デコーダ30からの画像データが順次記憶される。第1段ラインバッファ41に一ライン分の画像データが揃った後に、第2段ラインバッファ42にて一ライン分の画像データがラッチされ、第2段ラインバッファ42より一ライン分の画像データがパラレル出力される。
1.5.2.ラインバッファの追加
図14では、図13での書き込み開始信号RSは用いずに、代りに、圧縮画像データメモリ20の前後に、第1,第2のラインバッファ65,66を有する。第1のラインバッファ65からは、1回のアクセスで一ライン分の圧縮画像データが圧縮画像データメモリ20に同時に書き込まれる。一方、圧縮画像データメモリ51,61からは、一ライン分の圧縮画像データが、1アクセスにて同時に出力されて第2のラインバッファ66に格納される。そして、第2のラインバッファ66より順次圧縮画像データがデコーダ30に出力される。こうすると、書き込みタイミングを調整しなくても、圧縮画像データメモリ61に対して一ライン分の圧縮画像データが、1アクセスにて同時にライト・リードされるので、図11に示す弊害を防止できる。
図15では、圧縮画像データメモリ20とデコーダ30との間に、一ライン分の圧縮画像データが交互に順次格納され、交互に順次読み出される第1,第2のリードラインバッファ67,68を有する。例えば、第1のリードラインバッファ67に一ライン分の圧縮画像データが格納された後に、次の一ラインの圧縮画像データを順次、第2のリードラインバッファ68に読み出して格納する状態を想定する。この時、同一ラインについて新たな圧縮画像データの書き込みが開始されたとする。この場合、第2のリードラインバッファ68への読み出しは、同一ラインに対する書き込みが終了するまで待機される。第2のリードラインメモリ68に対する圧縮画像データの格納は、書き込みが終わったラインの先頭アドレスからやり直しても良いし、書き込み停止したアドレスから再開しても良い。この間、第1のリードラインバッファ67から圧縮画像データがデコーダ30に供給されるので、表示データがアンダーフローすることはない。
2.1.画像入力部
図16は、画像符号化装置10のブロック図である。画像入力部100は、画素データをシリアルに入力し、一ライン上で隣り合う複数例えば4つの画素P,X,A,Bの各画素データをパラレルに出力する。ここで、図17に示すように、画素Xが符号化対象画素であり、画素Pは符号化対象画素Xの先行画素であり、画素Aは符号化対象画素Xの1番目の後続画素であり、画素Bは符号化対象画素Xの2番目の後続画素である。各画素のデータは、R,G,B画素データでも、YUV(輝度信号+色差信号)画素データのいずれであっても良い。本実施形態では、各画素データは、サブビクセルが各8ビットのR,G,Bで構成された計24ビットのデータとする。
2.2.予測符号化部(非可逆符号化部)
非可逆符号化部の一例である予測符号化部110は、非可逆モードに(Lossyモードともいう)て、符号化対象画素Xの画素データ(24ビットデータ)を規定圧縮率(例えば50%)で固定長データ(例えば12ビットデータ)に符号化する。この予測符号化部110は、隣接する画素間の差分をPCM符号化するDPCM(Differential Pulse Code Modulation)符号化するもので、特許文献2の予測符号器と同様にルックアップテーブルを用いてソフトウェアにて実現することもできるが、本実施形態では図18に示すようにハードウェアにて構成している。ただし、特許文献2の予測符号器はハフマン符号のような可変長符号化を実施したが、本実施形態では、規定圧縮率を担保するために、可変長符号化は採用しない。
図18は、図16に示す予測符号化部110のブロック図である。符号化対象画素Xを構成するサブピクセルR,G,Bのデータは、差分器111にて先行画素PのR,G,Bデータが差し引かれる。この差分データが、非線形量子化部112にて量子化されて符号化される(詳細は後述)。符号化データは出力される一方で、非線形量子化部112とは逆の操作を行なう非線形逆量子化部113にてR,G,B毎に逆量子化される。逆量子化されたR,G,Bデータは、加算器114にて先行画素PのR,G,Bデータと加算され、一画素遅延用レジスタ115R,115G,114Bに記憶される。この一画素遅延用レジスタ115R,115G,115Bに記憶されたデータは、次の符号化対象画素Xに対する先行画差Pの画素データとして用いられる。つまり、スイッチ116を切り換えることで、次の符号化対象画素XのサブビクセルR,G,B毎に、先行画素PのR,G,Bデータが差分器111にて差し引かれる。
非線形量子化部111では、9ビット(-256〜255)の差分値(1ビットはプラス・マイナス符号)を4ビットに非線形量子化する。但し、「1111」は符号化モード遷移コード(可逆モード→非可逆モード)として用いるため、量子化値として割り当てられるコードは、0〜14までの15通りとなる。なお、非可逆モードから可逆モードへの符号化モード遷移コードは、図16に示す符号化制御部150からの信号に基づいて選択される。各8ビットのR,G,Bデータはそれぞれ4ビットに量子化され、画素単位では24ビットデータが12ビットデータ(4ビット×3)に符号化されるので、必ず規定圧縮率(50%)で符号化されている。
非線形量子化部111は、複数種の量子化テーブルを備え、符号化対象画素Xの直前の値(予測値)に応じて、使用する量子化テーブルを変更する。これは、予測値によってその予測誤差(入力値との差分)の範囲がある範囲に限定されるため、その範囲のみに量子化代表値を配置して、限られた符号化コードを有効に使うための工夫である。つまり、入力されるR,G,Bデータは8ビット(0〜255)であり、先行画素Pの値である予測値が分かっているので、入力値と予測値との差である予測誤差が取り得る範囲は、予測値によって限られる。一例として、予測値が0であれば、入力値と予測値との差分である予測誤差はマイナスとはならないので、プラス領域(0〜255)の範囲を量子化テーブルとすればよい。
非線形量子化テーブルの具体的な例を下記に示す。
1)予測値が96以上160未満の場合
この場合、取り得る予測誤差の範囲は、−159〜159である。したがって、図19に示すように、量子化コードを割り当てる。
ここで、線形量子化とは、符号化対象画素Xと先行画素Pとを引き算した結果の予測誤差(9ビット、1ビットは符号)が、0に近い値ほど(符号化対象画素Xと先行画素Pとの差が小さいほど)細かく量子化している。これは、僅かな色の違いでも顕著に把握するためである。一方、予測誤差が0から遠いほど(符号化対象画素Xと先行画素Pとの前の画素との差が大きいほど)、粗く量子化している。これは、輝度成分の差が大きい時には、色の微妙な差が検知され難いからである。このように、予測誤差の大きさによって、線形でなく非線形で量子化するのが、非線形量子化である。図19においても、予測誤差が0付近では細かく、予測誤差の絶対値が大きくなるほど粗く量子化している。図19から明らかなように、非線形量子化部112にて量子化されたデータは、非可逆データである。
2)予測値が64以上96未満の場合
取り得る予測誤差の範囲は、−95〜191である。したがって、図20に示すように、量子化コードを割り当てる。
3)予測値が160以上192未満の場合
取り得る予測誤差の範囲は、−191〜95である。したがって、図21に示すように、量子化コードを割り当てる。
4)予測値が32以上64未満の場合
取り得る予測誤差の範囲は、−63〜223である。したがって、図22に示すように、量子化コードを割り当てる。
5)予測値が192以上224未満の場合
取り得る予測誤差の範囲は、−223〜63である。したがって、図23に示すように、量子化コードを割り当てる。
線形逆量子化部113は、上述の線形量子化部112での操作とし逆の操作を実施すればよく、この際も直前の画素値に応じて逆量子化テーブルを切換えればよい。
2.3.先頭移動辞書符号化部(可逆符号化部)
可逆モード(Losslessモードともいう)で符号化する可逆符号化部の一例である先頭移動辞書符号化部120は、R,G,B形式の画素データ(24ビット)をそのまま1つの非圧縮データとして扱い、完全に復号可能な可逆データとして符号化する。先頭移動辞書による符号化の方法自体は、特許文献2(特開2001-257888)と基本的に同じである。但し、本実施形態では、ハフマン符号のような可変長符号化は行わない。規定圧縮率を保証できないためである。
この実施の形態では、画素値の辞書を、符号化と復号化で共有し、先頭移動による辞書の更新を行っている。したがって、使用頻度の高い画素値は、辞書の最初の方に置かれることになる。辞書サイズは、0から7の8個のインデックスから成る。このインデックスを可変長符号化することによって、符号化を行うことができる。
図24の左欄は、例えば初期化された辞書に記憶される7色を示している。初期化の例は一例であり、他の色であっても良いし、同一食であっても良い。図24は、入力した色が赤の場合に、辞書の配置換えを左欄から右欄に示すように行う様子を示している。入力した画素の色が赤の場合には、インデックス2を辞書の先頭に移動させる。そして、白および黒を後ろにずらす。一方、入力した画素の色(たとえば、X)が辞書にない場合には、新たに登録するX(24ビット)を出力する。この場合、インデックス8のエスケープ・コードを含む条件(図26の条件1〜3)を符号化し、Xを辞書の先頭に登録し、元々登録されている色は、後ろにずれる。この結果、元々インデックス7に登録されていた色は、辞書から失われる。
辞書に登録された位置を示すインデックス値、辞書に存在しない場合に可逆符号化する条件別コード、および可逆モードから非可逆モードの遷移を示すコードは、すべて、一画素24ビットを1/6に圧縮した4ビットの固定長符号で表現される。4ビットのコードの意味付けは、図25に示す通りである。
図25の左欄は可逆モード継続中のコードであり、図25の右欄は非可逆モードから可逆モードに遷移した直後のコードである。図25の左欄と右欄とでは、符号化対象画素の画素データXが辞書に存在しない時の符号化動作が異なっている。なお、図25に示す符号化モード遷移コードは、非可逆モードから可逆モードへの遷移を意味し、このコードは図16に示す符号化制御部150からの信号に基づいて、先頭移動辞書符号化部120より出力される。
ここで、図25に示す符号化内容においては、2画素(X,A)または3画素(X,A,B)をまとめて符号化する態様が示されている。このために、図16に示すように、周辺画素値評価部130が設けられている。
2.4.周辺画素値評価部
図16に周辺画素値評価部130は、画素入力部110からパラレルに入力される例えば4画素(P,X,A,B:図2参照)の各画素データの関係を評価するものである。本実施形態では、周辺画素値評価部130は4画素のうちの3画素または2画素が一定の関係を有するか否かを評価している。具体的には、図26または図27に示すように、3画素または2画素の画素データが同一であるか否かを評価している。
ここで、本実施形態では、24ビットの画素データ同士が等しいことを条件としているが、例えば一画素を構成する3つのサブピクセル少なくとも一つの上位ビットが複数画素間で一致し、最下位ビットまたは最下位側の下位ビット群のみが異なるもの、つまり実質的同一とみなせる範囲を同一と定義しても良い。
2.5.余剰符号カウンタ
図16に示す余剰符号カウンタ140は、規定圧縮率(例えば50%)を達成する上で余る符号ビット(余剰符号)をカウントアップし、消費される余剰ビットをカウントダウンするものである。余剰カウンタ140の累積カウント値が初期値(例えば0=規定圧縮率を意味する)を下回らなければ(例えば、マイナス値にならなければ)、規定圧縮率が達成でき、本実施形態では余剰カウンタ140の累積カウント値が初期値を下回らないように制御している。この結果、可逆モードでの符号化は余剰カウンタでの制御により必ず規定圧縮率以上の高圧縮率が保障される。非可逆モードでの符号化は、規定圧縮率となる固定長符号で符号化を実施しているので、可逆・非可逆モードでのトータル圧縮率としても、規定圧縮率以上の高圧縮率を常に保障できる。
具体的には、可逆モードでは、Xが辞書に存在した場合は、一画素データ24ビットを4ビットの固定長符号で符号化できる時には、圧縮率50%(12ビット目標)に対して8ビットの余剰が生まれる(このとき、8ビットを余剰符号という)。余剰符号カウンタ140は、一画素当り12ビット未満で符号化できた際に生じた余剰ビットを計数するためのカウンタである。また、余剰符号カウンタ140は、符号化対象画素の画素データX(24ビット)をそのまま符号出力した場合など、余剰ビットを消費した場合は、その分のカウントダウンを行う。なお、カウント値1ポイントは、4ビットの余剰符号を示すものとする。また、本実施形態では、余剰符号カウンタ140は可逆モード時のみカウントのアップ・ダウンを実施し、非可逆モードではカウントしない。非可逆モードでは全て、一画素当り12ビット(一サブビクセルあたり4ビット)の固定長符号で符号化され、常に圧縮率50%となって余剰符号が生じないし、余剰符号が消費されることもないからである。
なお、この余剰カウンタ140は、一ラインの全画素の符号化が終了するごとにリセットすることができる。周辺画素値評価部130は一ライン上の画素についての関係を評価しているので、本実施形態は画素毎に圧縮しているとはいえ、一ライン毎に画素間の相関を見ながら画素データを符号化している。よって、余剰カウンタ140がリセット後の初期値(つまり規定圧縮率と等しい値)を下回らないための管理は、一ライン毎に行なえばよい。こうすると、画素データを符号化した後の符号を記憶するメモリは、画面の一ライン上の画素データの全ビット数をNLとし、それらをメモリの一ライン上のML個の有効メモリ素子に記憶する場合にあっては、メモリの一ライン上の有効メモリ素子の最大数MLは、規定圧縮率をα(α<1)としたとは、NL×α<ML<NLとなり、メモリの一ライン方向の寸法を小さくできる。
ただし、この余剰カウンタ140は、一ラインの全画素の符号化が終了するごとにリセットしてもよい。一画面全体として、余剰カウンタ140がリセット後の初期値(つまり規定圧縮率と等しい値)を下回らないようにしてもよい。この場合、画素データを符号化した後の符号を記憶するメモリは、一画面を構成する全画素データのトータルビット数をNとし、それらをメモリ内のM個の有効メモリ素子に記憶する場合にあっては、メモリ内の有効メモリ素子の最大数Mは、規定圧縮率をα(α<1)としたときは、N×α<M<Nとなり、メモリサイズを小さくできる。
2.6.符号化制御部
図16に示す符号化制御部150は、先頭移動辞書符号化部120、周辺画素値評価部130及び余剰符号カウンタ140からの出力に基づいて、可逆モードと非可逆モードとの間の遷移条件と、可逆モードの継続条件との充足を判断して、遷移・継続を決定するとともに、その判断に従って、予測符号化部110、先頭移動辞書符号化部120、余剰符号カウンタ140及び符号化多重部160を制御するものである。
具体的には、符号化制御部150は、図26に示す非可逆モードから可逆モードへのいずれかの遷移条件を充足するか否かを、先頭移動辞書符号化部120、周辺画素値評価部130及び余剰符号カウンタ140からの出力に基づいて判断する。符号化制御部150は、図26に示す条件のうち、まず、符号化対象画素の画像データXが、図24に示す辞書に登録されているか否かを優先的に判断する。符号化対象画素の画像データXが辞書に未登録の場合には、符号化制御部150は、図26に示す条件1,2,3をその順で判断する。そして、符号化制御部150が、図26に示す非可逆モードから可逆モードへのいずれかの遷移条件を充足したと判断した時には、予測符号化部110を制御して、図26に示すように、非可逆モードから可逆モードへの遷移を固定長符号(4ビット)で表す符号化モード遷移コードを出力させる。また、図26に示すように、符号化対象画素の画像データXが、図24に示す辞書に登録されている場合には、先頭移動辞書符号化部120より辞書インデックス(4ビット)が出力される。図26に示すように、符号化対象画素の画像データXが、図24に示す辞書に登録されていない場合であって、条件1〜3のいずれかを充足する場合には、符号化制御部150は先頭移動辞書符号化部140を制御して、各条件を固定長符号(4ビット)で表す符合を出力させる。このとき、先頭移動辞書符号化部140は、符号化対象画素の画像データXを、図24に示すようにして辞書の先頭に登録する。さらに、符号化制御部150は、図26に示す条件2,3に該当する時には、必要なポイントを余剰符号カウンタ140にてカウントダウンさせる。
符号化制御部150が、図26に示す非可逆モードから可逆モードへのいずれの遷移条件も充足しないと判断した時のみ、非可逆モードが継続され、非可逆符号化部110にて固定長符号(4ビット)で表された非線形量子化データが出力される。
さらに符号化制御部150は、図27に示す可逆モードを維持する条件を充足するか否かを、先頭移動辞書符号化部120、周辺画素値評価部130及び余剰符号カウンタ140からの出力に基づいて判断する。
規定圧縮率(50%)以上の高圧縮率を達成するには、符号化制御部150は、余剰カウンタ140のカウント値が規定圧縮率よりも低圧縮率を示す値とならない範囲で、先頭移動辞書符号化部120での符号化動作を継続させることが重要である。なぜなら、予測符号化部110では規定圧縮率と等しい圧縮率しか実現できず、しかも、可逆モードと非可逆モード間で遷移させるには、固定長符号で表された符号化モード遷移コードを出力することで符号が消費されるからである。また、予測符号化部110では非可逆モードで圧縮するので、完全に元の画素データに復号できないからである。
図27において、符号化対象画素の画像データXが、図24に示す辞書に登録されている場合には、符号化対象画素の画素データXの単独圧縮率が規定圧縮率(50%,12ビット)よりも高い圧縮率となる時であり、固定長符号(4ビット)の辞書インデックスのみ出力すればよい。これが、先頭移動辞書符号化部120による第1優先順位の処理である。第1優先順位の処理を実施することで、余剰符号カウンタ140は2ポイント(8ビットをカウントアップできる。
図27において、符号化対象画素の画像データXが、図24に示す辞書に登録されていない場合であって、周辺画素値評価部130からの画素間の関係が条件4〜7のいずれかの関係を満たす場合には、まとめて符号化される複数画素の画素データの平均圧縮率が規定圧縮率よりも高い圧縮率となる。この態様が先頭移動辞書符号化部120による第2優先処理順位の処理であり、複数画素の各画素データが関連付けて符号化される。図27に示す第2優先処理順位の項目の中でも、条件4〜7のうち番号の若い条件から順に判断される。第2優先順位の処理を実施することで、余剰符号カウンタ140は2ポイント(8ビットをカウントアップできる。
図27において、符号化対象画素の画像データXが、図24に示す辞書に登録されていない場合であって、周辺画素値評価部130からの画素間の関係と余剰符号カウンタ140にてカウントされた累計の余剰符号とが条件8〜10のいずれかの関係を満たす場合には、符号化対象画素の単独圧縮率(図27の条件10)、あるいは、まとめて符号化される複数画素の画素データの見掛け上の平均圧縮率(図27の条件8,9)が、規定圧縮率と等しくなる。ここで、見掛け上の単独圧縮率または平均圧縮率とは、本来符号化に必要な符号から予剰符号の累計の一部又は全部を差し引いて算出した一画素当たりの圧縮率である。図27の条件8の例では、2画素に本来符号化に必要な符号(28ビット)から余剰符号(4ビット)を差し引いて算出した一画素当たりの平均圧縮率は、100×(28−4)÷(2×24)=50%となって、規定圧縮率と等しくなる。ただし、この場合は、余剰符号を4ビット消費するため、余剰符号カウンタ140にて1ポイント(4ビット)だけカウントダウンされる。条件8が成立しない場合は、条件9,10の順で判断され、消費された余剰符号は余剰カウンタ140にてカウントダウンされる。
符号化制御部150は、図27に示す条件を優先処理順位の順に判断し、図27に示すいずれかの条件を充足する場合には、可逆モードを継続して、規定圧縮率(50%)よりも高圧縮できる機会を増やして、余剰符号を蓄えるように制御する。そして、図27に示すいずれの条件も充足しない場合に限り、符号化制御部150は予測符号化部110に信号を出力して、コード番号15に相当する符号化モード遷移コード(可逆モード→非可逆モード)を出力させる。
符号化制御部150は、上述した制御結果の信号が、図16に示す符号多重化部160にて出力されるように、符号多重化部160を制御する。つまり、符号化制御部150は、予測符号化部110からの非線形量子化データ(4ビット、可逆モード→非可逆モードへのモード遷移コード含む)と、画像入力部100からの符号化対象画素の画素データX(24ビット)、先頭移動辞書符号化部120からの辞書インデックス、条件符号、非可逆モード→可逆モードへのモード遷移コード等のいずれのコードを出力するかを制御する信号を、符号化多重化部160に出力する。
2.7.符号多重化制御部
図28は、符号化制御部150の制御に従って動作する符号多重化制御部160の動作を説明するための図である。
まず、最初の符号化対象画素の画素データXが画像入力部100に入力されると、例えば最初の画素データXは、予測符号化部110にて符号化される。つまり、画像データXを構成するR,G,Bのサブピクセルデータが非線形量子化され、規定圧縮率(50%)で圧縮された12ビットの非線形量子化符号が、符号多重化部160より出力される。
もし仮に、全ての画素データXが、図26の非可逆モード→可逆モードへの遷移条件を充足しない場合、全ての画素データXは図28に示す非可逆符号化モードループで符号化され、圧縮率は50%となって、規定圧縮率(50%)が達成される。
ただし、そのようなケースは稀であり、いずれかの画像データXまたはその周辺画素の画像データは、図26に非可逆モード→可逆モードへの遷移条件を充足する。この場合には、図26に示す条件に従って組み合わされた符号が、符号多重化部160より出力される。例えば、符号化対象画素の画像データXが、図24に示す辞書に登録されている場合では、符号化モード遷移コード(4ビット)+辞書インデックス(4ビット)の計8ビットが符号多重化部160より出力される。符号化対象画素の画像データXが、図24に示す辞書に登録されていない場合であって、例えば図26に示す条件1を充足するのであれば、符号化モード遷移コード(4ビット)+条件1を示すコード(4ビット)+画素データX(24ビット)の計32ビットが、符号多重化部160より出力される。
最後の符号化対象画素の画素データXが図26に示す条件を満足した場合には、先頭移動辞書符号化部120での符号化によって全ての処理が終了する。
そうでない場合には、図28に示す可逆符号化モードループに移行する。ここでは、図27に示す条件のいずれかを充足する限り、そのループでの処理が継続される。この場合、符号多重化部160からの出力は、図27に示す通りとなる。例えば、符号化対象画素の画像データXが、図24に示す辞書に登録されている場合では、辞書インデックス(4ビット)のみが符号多重化部160より出力される。符号化対象画素の画像データXが、図24に示す辞書に登録されていない場合であって、例えば図27に示す条件4を充足するのであれば、三画素の画素データX,A,Bを関連付けた符号として、条件4を示すコード(4ビット)+画素データX(24ビット)の計28ビットが、符号多重化部160より出力される。
3.画像復号装置(デコーダ)
図29は、上述の実施形態にて用いられた画像復号装置(デコーダ)30を示し、上述した画像符号化装置(エンコーダ)10での図28に示す符号化シンタクッスに基づいて、符号を読み取り、デコード(復号)して画素データを出力するものである。画像復号装置30は、図29に示すように、符号分離制御部200、予測復号部210、先頭移動辞書復号部220及び画素出力制御部230を有する。
3.1.符合分離制御部
符号分離制御部200での動作は、上述した画像符号化装置での最初の画素データ、非可逆モード時、非可逆モードから可逆モードへの遷移時、可逆モード時で異なる。符号分離制御部200は、符号化モード遷移コードにより、受信コードがどの態様で符号化されたかが分かるので、上述の4つの態様に分けて制御している。
3.1.1.デコード開始時
図28にて説明したように、デコード開始時にあっては、符号多重化部160から出力される圧縮ストリーム中に、画素データが埋め込まれている。したがって、符号分離制御部200は、24ビットの画素データを直接に画像出力制御部230に送出する。
3.1.2.非可逆符号化モード時
非可逆モードでは、符号分離制御部200は、図19〜図23等に示す成分毎の量子化値を圧縮ストリームから読み込み、予測復号部210に送出する。
3.1.3.非可逆モードから可逆モードへの遷移時
符号分離制御部200が、図26に示す符号化モード遷移を示すコードを受信すると、非可逆モードから可逆モードへ復号化モードを変える。具体的には、符号分離制御部200は、符号化モード遷移を示すコードに続く4ビットを見て、辞書インデックスなのか、あるいは条件1、2、3を示すコードなのかを判断する。符号分離制御部200は、受信コードが辞書インデックスの場合は、先頭移動辞書復号部220に送り、そうでない場合は、24ビットの画素データを抽出して、直接、画素出力制御部230に送るとともに、条件符号に基づく制御信号を画素出力制御部230に送る。
3.1.4.可逆モード時
可逆モードでは、符号分離制御部200は、図27に示す4ビットの符号を見て、辞書インデックスなのか、条件4−10のいずれなのかを判断する。符号分離制御部200は、受信コードが辞書インデックスの場合は、先頭移動辞書復号部220に送り、そうでない場合は、24ビットの画素データを抽出して、直接、画素出力制御部230に送るとともに、条件符号に基づく制御信号を画素出力制御部230に送る。
3.2.予測復号部及び先頭移動辞書復号部
予測復号部210は、図16に示す予測符号化部110とは逆操作を行なうことで、非可逆にて画素データを復号する。先頭移動辞書復号部220は、先頭移動辞書符号化部120と同様に、図24に示すものと同等の辞書を有する。そして、辞書登録されていない画素データが入力されたら、図24と同様にして辞書登録する。一方、辞書インデックスを受信したら、その辞書中の登録位置にある画素データを画素出力制御部230に出力する。
3.3.画素出力制御部
画素出力制御部230は、符号分離制御部200からの画素データ、予測復号部210にて復号された画素データ、先頭移動辞書復号部220にて復号された画素データ、さらに符号分離制御部200からの制御信号に基づいて、復号された画素データを出力制御するものである。
画素出力制御部230は、図30に示すように、3つのマルチプレクサMUX0〜MUX2と、3つのレジスタR0〜R2と、制御回路232とを有する。制御回路232は、符号分離制御部200より分離された制御信号に基づいて、マルチプレクサMUX0〜MUX2を制御する。
この画素出力制御部230もまた、上述した画像符号化装置での最初の画素データ、非可逆モード時、非可逆モードから可逆モードへの遷移時、可逆モード時で異なる。
3.3.1.先頭画素
先頭画素の画素データは、図29の符号分離制御部200にて分離された後に、直接、制御回路232により制御されるマルチプレクサMUX0を介してレジスタR0に格納され、次のサイクルで出力される。
3.3.2.非可逆モード
非可逆モード時は、予測復号部210より供給される画素データをマルチプレクサMUX0経由でレジスタR0に格納し、1サイクル後に出力される。
3.3.3.可逆モード
図27に示す符号化時の条件に従って、下記の通り出力制御される。
3.3.3.1.画素データXが辞書に登録されていた時
先頭移動辞書復号部220にて辞書インデックスに示す登録位置の画素データを辞書より読み出し、マルチプレクサMPU0経由でレジスタR0に格納し、1サイクル後に出力する。
3.3.3.2.図27の条件4に合致した時
符号分離制御部200に取り込まれた画素データXを、図30のマルチプレクサMUX0経由でレジスタR0に格納するとともに、マルチプレクサMUX1,2を経由して、同じ値XをレジスタR1,R2にも格納する。すなわち、レジスタR12,R2すべてに、画素データXが格納される(条件4は、X=A=B)。そして、3サイクルかけて、同一の画素データXが順次出力される。なお、同一の画素データXが出力される間には、新たな符号の取り込みは抑止される。
3.3.3.3.図27の条件5に合致した時
符号分離制御部200に取り込まれた画素データXを、制御回路232により制御されるマルチプレクサMUX0経由でレジスタR0に格納するとともに、レジスタR0に直前まで格納されていた画素データPをマルチプレクサMUX1,2を経由して、レジスタR1,R2にも格納する(条件5は、P=A=B)、そして、3サイクルかけて、画素データX,P,Pを順次出力する。この間も、新たな符号の取り込みは抑止される。
3.3.3.4.図27の条件6に合致した時
符号分離制御部200に取り込まれた画素データXを、制御回路232により制御されるMUX0経由でレジスタR0に格納するとともに、マルチプレクサMUX1を経由してレジスタR1にも格納する(条件6はX=Aが要件の一つ)。また、レジスタR0に直前まで格納されていた画素データPをマルチプレクサMUX2を経由してレジスタR2に格納する(条件6は、P=BTが要件の他の一つ)。そして、3サイクルかけて、画素データX,X,Pを順次出力する。この間も、新たな符号の取り込みは抑止される。
3.3.3.5.図27の条件7に合致した時
符号分離制御部200に取り込まれた画素データXを、制御回路232により制御されるマルチプレクサMUX0経由でレジスタR0に格納するとともに、マルチプレクサMU2を経由してレジスタR2にも格納する(条件7は、X=Bが要件の一つ)。また、レジスタR0に直前まで格納されていた画素データPをマルチプレクサMUX1を経由してレジスタR1に格納する(条件7は、P=Aが要件の他の一つ)。そして、3サイクルかけて、画素データX,P,Xが順次出力される。この間も、新たな符号の取り込みは抑止される)。
3.3.3.6.図27の条件8に合致した時
符号分離制御部200に取り込まれた画素データXを、制御回路232により制御されるマルチプレクサMUX0経由でレジスタR0に格納するとともに、レジスタR0に直前まで格納されていた画素データPをマルチプレクサMUX1を経由してレジスタR1に格納する(条件8は、P=Aが要件)。そして、2サイクルかけて、画素データX,Pが順次出力される。この間も、新たな符号の取り込みは抑止される)。
3.3.3.7.図27の条件9に合致した時
符号分離制御部200に取り込まれた画素データXを、制御回路232により制御されるマルチプレクサMUX0経由でレジスタR0に格納するとともに、マルチプレクサMU2を経由してレジスタR2にも格納する(条件9は、X=Aが要件)。そして、2サイクルかけて、画素データX,Xが順次出力される。この間も、新たな符号の取り込みは抑止される)。
3.3.3.8.図27の条件10に合致した時
符号分離制御部200に取り込まれた画素データXを、制御回路232により制御されるマルチプレクサMUX0経由でレジスタR0に格納し、次サイクルで出力する。
3.4.非可逆モードから可逆モードへのモード遷移時
条件1の符号を受信した時には、上述の条件4の時の動作と同じであり、条件2の符号を受信した時には、上述の条件9の時の動作と同じであり、条件3の符号を受信した時には、上述の条件10の時の動作と同じである。
このような、画像符号化装置にて画素データを符号化し、それを画像復号装置にて復号して、液晶表示装置に表示して、画像圧縮せずに直接表示したものと画質を比較してみたところ、肉眼では識別できなかった。
なお、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形実施が可能である。
上述の実施形態は、携帯電話機の液晶表示を例に挙げて説明したが、画像データの供給を受けて出力ドライブ制御する画像コントロールICであれば、他の表示装置、あるいはプリンタ等の画像コントロールICに適用できることは言うまでもない。
本発明の液晶表示装置の一例を示す概略説明図である。 ベースバンドエンジンと画像出力ドライバICのブロック図である。 圧縮画像データメモリの容量を説明するための概略説明図である。 Nフレーム画像を加工して1フレームの画像に圧縮した時の圧縮画像データメモリの容量を説明するための概略説明図である。 色信号変換回路にてデータ圧縮する一例を示すブロック図である。 色信号変換回路にてデータ圧縮する他の一例を示すブロック図である。 色信号変換を用いて高圧縮率とした時の圧縮画像データメモリの容量を説明するための概略説明図である。 一ラインの圧縮率を保障した時の圧縮画像データメモリの容量を説明するための概略説明図である。 非圧縮・圧縮画像の切換えを説明するためのタイミングチャートである。 ドライバICの端子を説明するための概略説明図である。 メモリリードアドレスをメモリライトアドレスが追い越す現象を説明するための概略説明図である。 ライトスタート信号のタイミングを設定する実施形態を説明するためのブロック図である。 図12に示す構成の動作タイミングチャートである。 図12の変形例を説明するためのブロック図である。 図12のさらに他の変形例を説明するためのブロック図である。 本発明の実施形態に係る画像符号化装置のブロック図である。 図16の画像入力部に順次入力される画像データを説明するための概略説明図である。 図16に示す予測符号化部の一例を示すブロック図である。 予測値が96以上160未満の場合の非線形量子化テーブルの例を示す概略説明図である。 予測値が64以上96未満の場合の非線形量子化テーブルの例を示す概略説明図である。 予測値が160以上192未満の場合の非線形量子化テーブルの例を示す概略説明図である。 予測値が32以上64未満の場合の非線形量子化テーブルの例を示す概略説明図である。 予測値が192以上224未満の場合の非線形量子化テーブルの例を示す概略説明図である。 図16に示す先頭移動辞書符号化部または図29に示す先頭移動辞書復号部が有する辞書を説明するための概略説明図である。 図16に示す先頭移動辞書符号化部にて固定長符号(4ビット)で表される16通りのコードの内容を説明するための概略説明図である。 非可逆符号化モードから可逆符号化モードへの遷移条件を説明するための概略説明である。 可逆符号化モードの継続条件を説明するための概略説明図である。 図16に示す符号多重化部から出力される符号シンタックスを示す図である。 本発明の実施形態に係る画像復号装置のブロック図である。 図29に示す画素出力制御部のブロック図の一例を示す図である。
符号の説明
1 ベースバンドエンジン(画像供給側IC)、2 液晶パネル、5 画像出力ドライバIC、6 画像コントロールIC、10 画像符号化装置(エンコーダ)、20 圧縮画像データメモリ、21 ラインバッファ、30 画像復号装置(デコーダ)、40 画像データ加工部、50,52 色信号変換回路、65〜68 ラインバッファ、100 画像入力部、110 予測符号化部(非可逆符号化部)、111 減算器、112非線形量子化部、113 非線形逆量子化部、114 加算器、115R〜115B レジスタ、120 先頭移動辞書符号化部(可逆符号化部)、130 周辺画素値評価部、140 余剰符号カウンタ、150 符号化制御部、160 符号多重化部、200 符号分離制御部、210 予測復号部、220 先頭移動辞書復号部、230 画素出力制御部、232 制御回路、R0−R2 レジスタ、MUX0−MUX2 マルチプレクサ

Claims (12)

  1. 画像供給側ICからデータバスを介して画像データが転送され、前記画像データを加工して、画像出力ドライブICに転送する画像コントローラICにおいて、
    前記画像供給側ICからの画像データを符号化する画像符号化装置と、
    前記画像符号化装置からの圧縮画像データを格納する圧縮画像データメモリと、
    前記圧縮画像データメモリからの前記圧縮画像データを復号する画像復号装置と、
    前記画像復号装置にて復号された画像データを加工する画像データ加工部と、
    を有し
    前記画像符号化装置は、規定圧縮率を達成する上で余る符号ビットをカウントアップし、消費される余剰ビットをカウントダウンする余剰符号カウンタを有し、前記画像符号化装置は、前記余剰符号カウンタの累積カウント値が初期値を下回らないようにして、一ライン分または一フレーム分の前記画像データを前記規定圧縮率以上の実圧縮率にて符号化することが保障されていることを特徴とする画像コントロールIC。
  2. 請求項1において、
    非圧縮画像データのデータ量をMビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの有効記憶容量をSビットとしたとき、M>S>M×αが成立することを特徴とする画像コントロールIC。
  3. 請求項1において、
    前記画像符号化装置の前段に、一画素についての第1の色信号を、前記第1の色信号のビット数よりも少ないビット数の第2の色信号に変換する色信号変換回路をさらに有し、
    前記色信号変換回路で達成される圧縮率をk(k<1)とし、非圧縮画像データのデータ量をMビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの有効記憶容量をSビットとしたとき、M>S>M×α×kが成立することを特徴とする画像コントロールIC。
  4. 請求項1において、
    前記画像データ加工部は、N(Nは2以上の整数)フレーム分の画像データを合成して一フレーム分の画像データに加工し、
    一フレーム分の非圧縮画像データのデータ量をMビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの有効記憶容量をSビットとしたとき、N×M>S>N×M×αが成立することを特徴とする画像コントロールIC。
  5. 請求項1において、
    前記画像符号化装置の前段に、一画素についての第1の色信号を、前記第1の色信号のビット数よりも少ないビット数の第2の色信号に変換する色信号変換回路をさらに有し、
    前記画像データ加工部は、N(Nは2以上の整数)フレーム分の画像データを合成して一フレーム分の画像データに加工し、
    前記色信号変換回路で達成される圧縮率をk(k<1)とし、一フレーム分の非圧縮の画像データのデータ量をMビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの有効記憶容量をSビットとしたとき、N×M>S>N×M×α×kが成立することを特徴とする画像コントロールIC。
  6. 請求項1において、
    同一ラインの圧縮画像データは、前記圧縮画像データメモリの同一ライン上にて先頭アドレス位置を変えて格納され、
    圧縮画像データの1ライン分のデータ量をMLビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの一ライン上の有効記憶容量をSLビットとしたとき、ML>SL>ML×αが成立することを特徴とする画像コントロールIC。
  7. 請求項1において、
    前記画像符号化装置の前段に、一画素についての第1の色信号を、前記第1の色信号のビット数よりも少ないビット数の第2の色信号に変換する色信号変換回路をさらに有し、
    前記色信号変換回路で達成される圧縮率をk(k<1)とし、非圧縮の画像データの1ライン分のデータ量をMLビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの一ライン上の有効記憶容量をSLビットとしたとき、ML>SL>ML×α×kが成立することを特徴とする画像コントロールIC。
  8. 請求項1において、
    前記画像符号化装置の前段に、一画素についての第1の色信号を、前記第1の色信号のビット数よりも少ないビット数の第2の色信号に変換する色信号変換回路をさらに有し、
    前記画像データ加工部は、N(Nは2以上の整数)フレーム分の画像データを合成して一フレーム分の画像データに加工し、
    前記Nフレームの各フレーム中の同一ラインの圧縮画像データは、前記圧縮画像データメモリの同一ライン上にて先頭アドレス位置を代えて格納され、
    前記色信号変換回路で達成される圧縮率をk(k<1)とし、一ライン分の非圧縮画像データのデータ量をMLビットとし、前記規定圧縮率をα(α<1)とし、前記圧縮画像データメモリの一ライン上の有効記憶容量をSLビットとしたとき、N×ML>SL>N×ML×α×kが成立することを特徴とする画像コントロールIC。
  9. 請求項1、6または7において、
    前記圧縮画像データメモリは、各ラインの圧縮画像データの先頭データが、前記圧縮画像データメモリの各ラインの同一アドレス上の記憶素子に記憶されていることを特徴とする画像コントロールIC。
  10. 請求項1乃至9のいずれかにおいて、
    前記画像コントロールICは、垂直同期信号に同期した書き込み開始信号を前記画像供給側ICに送出し、
    前記画像符号化装置は、前記書き込み開始信号に基づいて前記画像供給側ICから転送された前記圧縮画像データを圧縮して、前記圧縮画像データを前記圧縮画像データメモリに転送し、
    前記書き込み開始信号に基づいて前記圧縮画像データメモリに書き込み開始されるタイミングが、前記圧縮画像データメモリに対する読み出し開始タイミングよりも先行していることを特徴とする画像コントロールIC。
  11. 請求項1乃至9のいずれかにおいて、
    前記圧縮画像データメモリの前段に設けられた第1のラインバッファと、
    前記圧縮画像データメモリと前記画像復号装置の間に設けられた第2のラインバッファと、
    をさらに有し、前記第1のラインバッファから一ライン分の前記圧縮画像データが前記圧縮画像データメモリに同時に書き込まれ、前記圧縮画像データメモリより一ライン分の圧縮画像データが同時に出力されて前記第2のラインバッファに格納されることを特徴とする画像コントロールIC。
  12. 請求項1乃至9のいずれかにおいて、
    前記圧縮画像データメモリと前記画像復号装置の間に、第1,第2のリードラインバッファをさらに有し、
    前記圧縮画像データメモリより読み出される一ライン分の前記圧縮画像データは、前記第1,第2のリードラインバッファに交互に格納され、交互に読み出されることを特徴とする画像コントロールIC。
JP2005379091A 2005-12-28 2005-12-28 画像コントロールic Expired - Fee Related JP5082240B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005379091A JP5082240B2 (ja) 2005-12-28 2005-12-28 画像コントロールic

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005379091A JP5082240B2 (ja) 2005-12-28 2005-12-28 画像コントロールic

Publications (2)

Publication Number Publication Date
JP2007178851A JP2007178851A (ja) 2007-07-12
JP5082240B2 true JP5082240B2 (ja) 2012-11-28

Family

ID=38304083

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005379091A Expired - Fee Related JP5082240B2 (ja) 2005-12-28 2005-12-28 画像コントロールic

Country Status (1)

Country Link
JP (1) JP5082240B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007178850A (ja) * 2005-12-28 2007-07-12 Seiko Epson Corp 画像出力ドライバic
JP2007181052A (ja) * 2005-12-28 2007-07-12 Seiko Epson Corp 画像出力システム
JP2007184977A (ja) * 2007-03-19 2007-07-19 Seiko Epson Corp 画像出力システム
JP4650512B2 (ja) 2008-03-28 2011-03-16 セイコーエプソン株式会社 画像符号化装置及び集積回路装置
JP2010081182A (ja) * 2008-09-25 2010-04-08 Renesas Technology Corp 画像処理装置
JP5470875B2 (ja) * 2009-02-05 2014-04-16 セイコーエプソン株式会社 画像処理装置及び画像処理方法
JP5460403B2 (ja) * 2010-03-24 2014-04-02 キヤノン株式会社 画像表示装置およびその制御方法
JP5460405B2 (ja) * 2010-03-24 2014-04-02 キヤノン株式会社 画像表示装置およびその制御方法
JP6035848B2 (ja) * 2012-04-27 2016-11-30 セイコーエプソン株式会社 画像表示装置およびプログラム並びに画像表示装置の制御方法
JP6199070B2 (ja) * 2013-04-26 2017-09-20 シャープ株式会社 メモリ制御装置、および携帯端末
JP6266830B2 (ja) * 2017-06-28 2018-01-24 シャープ株式会社 メモリ制御装置、および携帯端末

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05252353A (ja) * 1992-03-05 1993-09-28 Sony Corp 画像読み取り装置
JPH09281941A (ja) * 1996-04-15 1997-10-31 Fuji Photo Film Co Ltd 画像表示装置
JP3127853B2 (ja) * 1997-04-30 2001-01-29 日本電気株式会社 メモリ集積回路並びにこれを用いた主記憶システム及びグラフィクスメモリシステム
JP3508630B2 (ja) * 1999-07-07 2004-03-22 日本電気株式会社 デジタル画像入出力を備えるフレームバッファ装置および画像表示装置
JP3674488B2 (ja) * 2000-09-29 2005-07-20 セイコーエプソン株式会社 表示コントロール方法、表示コントローラ、表示ユニット及び電子機器
JP3749473B2 (ja) * 2001-11-29 2006-03-01 株式会社日立製作所 表示装置
JP4552400B2 (ja) * 2003-08-07 2010-09-29 セイコーエプソン株式会社 画像表示装置、画像表示方法及び画像表示プログラム
TWI240220B (en) * 2004-04-26 2005-09-21 Chunghwa Picture Tubes Ltd Image processing method for a TFT LCD
KR100718130B1 (ko) * 2005-06-04 2007-05-14 삼성전자주식회사 디스플레이 구동 장치 및 방법
JP2007072157A (ja) * 2005-09-07 2007-03-22 Daio Denki Kk メモリ内蔵カラーフラットパネルディスプレイ用ドライバのメモリ削減手法、及び回路
JP2007108439A (ja) * 2005-10-13 2007-04-26 Renesas Technology Corp 表示駆動回路
JP2007181052A (ja) * 2005-12-28 2007-07-12 Seiko Epson Corp 画像出力システム
JP2007178850A (ja) * 2005-12-28 2007-07-12 Seiko Epson Corp 画像出力ドライバic
JP2007184977A (ja) * 2007-03-19 2007-07-19 Seiko Epson Corp 画像出力システム

Also Published As

Publication number Publication date
JP2007178851A (ja) 2007-07-12

Similar Documents

Publication Publication Date Title
JP5082240B2 (ja) 画像コントロールic
JP2007178850A (ja) 画像出力ドライバic
US8248339B2 (en) Display controller and display
KR100720672B1 (ko) 데이터 변환 장치
US6930675B2 (en) Display driver, display unit, and electronic instrument
US6975309B2 (en) Display driver, and display unit and electronic instrument using the same
US20070080971A1 (en) Method and apparatus of image buffer compression for display device
JP4725321B2 (ja) 画像符号化装置及び画像符号化方法
KR101599888B1 (ko) 적응적 영상 데이터 압축 방법 및 장치
US7057638B1 (en) Stereoscopic image display apparatus
JP2007184977A (ja) 画像出力システム
US7761685B2 (en) Compressing and decompressing image data without introducing artifacts
US8233003B2 (en) Image processing device, image processing method, and electronic instrument
US11151924B2 (en) Display device displaying an image by decoding a compressed image bitstream, and method of operating the display device
JP2007181052A (ja) 画像出力システム
JP4835236B2 (ja) 動画表示システム、動画データ出力装置、表示装置およびプログラム
JP2001359091A (ja) ディジタル画像出力装置、ディジタル画像復号装置およびディジタル画像符号化装置
EP1638074A2 (en) Image display circuitry and mobile electronic device
KR100852958B1 (ko) 서브픽셀 렌더링과 데이터 압축을 이용한 디스플레이드라이버 장치 및 그 제어방법
US20080226164A1 (en) Image data decoding device, image data encoding device, image processing device, and electronic instrument
JP2011077970A (ja) 画像処理装置、画像表示システム、電子機器及び画像処理方法
US8462168B2 (en) Decompression system and method for DCT-base compressed graphic data with transparent attribute
JP5157419B2 (ja) 画像処理装置、画像処理方法及び電子機器
JP4735572B2 (ja) 画像データ符号化装置、画像データ復号化装置、画像処理装置及び電子機器
US20060170708A1 (en) Circuits for processing encoded image data using reduced external memory access and methods of operating the same

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081119

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081119

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20081119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120627

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120807

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120820

R150 Certificate of patent or registration of utility model

Ref document number: 5082240

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150914

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees