JP2009153138A - 視覚的に無損失のビデオデータ圧縮 - Google Patents

視覚的に無損失のビデオデータ圧縮 Download PDF

Info

Publication number
JP2009153138A
JP2009153138A JP2008324222A JP2008324222A JP2009153138A JP 2009153138 A JP2009153138 A JP 2009153138A JP 2008324222 A JP2008324222 A JP 2008324222A JP 2008324222 A JP2008324222 A JP 2008324222A JP 2009153138 A JP2009153138 A JP 2009153138A
Authority
JP
Japan
Prior art keywords
video data
block
compression
video
compressed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008324222A
Other languages
English (en)
Other versions
JP5247412B2 (ja
Inventor
Jeongnam Youn
ユン ジョンナム
Yuji Wada
祐司 和田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Electronics Inc
Original Assignee
Sony Corp
Sony Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Electronics Inc filed Critical Sony Corp
Publication of JP2009153138A publication Critical patent/JP2009153138A/ja
Application granted granted Critical
Publication of JP5247412B2 publication Critical patent/JP5247412B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • H04N19/426Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements using memory downsizing methods
    • H04N19/428Recompression, e.g. by spatial or temporal decimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Abstract

【課題】ビデオ圧縮及び解凍の技術を提供する。
【解決手段】メモリ内への記憶及びメモリからのブロック取出し時の解凍の前にYUV(又はYCrCb)ビデオ圧縮を実行する装置及び方法。圧縮は、各々がテクスチャ推定に応じて選択される圧縮に対するluma及びchroma寄与が各サブブロックに対して異なる可能性があっても、ビデオデータを望ましい全体圧縮比Rまで圧縮する量子化器を利用して実行される。各サブブロックが圧縮中に線形又は不線形のいずれの量子化を実行するかの選択が行われる。圧縮は、圧縮されるブロックの外側のブロックからのデータを利用せずに実行され、ビデオブロックは、望ましい順序で検索及び解凍することができる。一例では、符号化器が、メモリからブロックを不連続に選択し、これが次に解凍されて符号化される。圧縮は、いくつかの異なるビデオ伝送及び記憶用途に有益に利用することができる。
【選択図】図2

Description

関連出願への相互参照
本出願は、全部が本明細書に引用によって組み込まれている2007年12月19日出願の米国特許仮出願出願番号第61/015、174号からの優先権を請求する。
連邦政府補助研究又は開発に関する陳述
該当せず。
コンパクトディスク上に提出される資料の引用による組込み
該当せず。
著作権保護対象資料の告示
本特許文書内の資料の一部分は、米国及び他国の著作権の下において著作権保護の対象である。著作権の所有者は、米国特許庁の利用可能な公開ファイル又は記録に現れる特許文書又は特許開示のいかなる者によるファクシミリ再生にも異存はないが、他の場合には、それがどのようなことであれ、全ての著作権の著作権を保有する。上述のことにより、著作権所有者は、米国連邦規制法第37章第1.14項に従う著作権所有者の著作権を制限なしに含む特許文書を内密に保持する著作権所有者の著作権のうちのいかなるものも放棄しない。
本発明は、一般的にビデオ処理に関し、より具体的には、符号化又は出力の前のビデオメモリ内のビデオの圧縮及び解凍に関する。
一般的なビデオのアーキテクチャは、一般的に外部バスを通じてアクセスされるビデオフレームメモリ内にビデオデータを記憶する前にビデオデータを前処理するように実施される。この後、ビデオデータは、符号化処理中に及び/又は出力に向けてビデオメモリから検索される。バスを通じての符号化器とビデオメモリとの間データ転送量は、非常に大きい場合があり、大量のビデオメモリへの要求を招き、この結果、高電力消費を引き起こす。
図1は、従来のビデオカメラ又はスチール写真カメラのアーキテクチャである。CCD又はCMOSセンサのような入力デバイスによって検索された入力ビデオは、次に、前処理された後に外部メモリに記憶される。一般的に、前処理は、ノイズ低減、及びRGB(赤色、緑色、青色)からYUV(1つの輝度Y、2つの色差U+V)へのビデオデータ変換を含む。この後、ビデオ符号化器又は表示デバイスのような他の処理デバイスが、ビデオデータをビデオメモリから読み取る。
一般的にビデオデータ量は大きいので、外部バスを通じたビデオデータ転送に必要なバス帯域幅は著しく高い。特にHD(高精細)ビデオ用途に関しては、必要なバス帯域幅は莫大であり、帯域幅コストのみならず電力消費もが非常に高くなり、廉価な画像/映像システムを達成することが困難になる。
ビデオカメラシステムにおける別の技術的難問は、必要なメモリサイズに関する。殆どのビデオデバイスは、Soc(システムオンチップ)で達成されている。一般的に、外部メモリ(SDRAM等)の原価は、一般的に他のデバイスよりも高い。従って、必要なメモリサイズの低減は、全体のシステム原価を低減することを可能にする。
米国特許仮出願出願番号第61/015、174号
従って、特にビデオ符号化処理の前に実行される場合に、ビデオデータストリームに必要な記憶帯域幅及びメモリを低減する方法への要求が存在する。本発明は、この要求並びに他の要求を満たし、従来の解決法の限界を克服するものである。
「YUVビデオデータ圧縮/解凍方法」を利用する視覚的無損失ビデオデータ圧縮のための装置及び方法を説明する。簡略化のために、本明細書ではYUVビデオという用語を利用することにするが、YCrCbビデオ又は他の同様の符号を本出願に説明する教示内容及び特許請求の範囲に均等に適用することができることを認めるべきである。ビデオ入力は、各フレームを各成分において所定のピクセル数(例えば、YにおいてN個のピクセル、U、VにおいてM個のピクセル)を有する圧縮されたブロックセットに分割することによって圧縮される。圧縮ブロックは他の圧縮ブロックと重複せず、従って、他の圧縮ブロックからの情報を参照する必要なしに互いに独立して処理することができ、ビデオデータは、ランダムにアクセスすることができ、これは、ビデオ符号化器による使用に特に適切である。その結果、メモリ内での圧縮ブロックの記憶は、より小さいサイズの圧縮されたブロックという点から、より小さいメモリ記憶領域のみならず、より小さいバス帯域幅しか必要としない。その後、圧縮ビデオデータは、符号化器等により、及び/又はそれ程好ましくはないがディスプレイへの出力に向けて、あらゆる望ましい順序で(例えば、不連続に)メモリから検索されて解凍される。解凍は、データをその元のフォーマットへと復元し、解凍済みデータを利用するデバイス又はアプリケーションは、このデータが過去に圧縮されたことがあることを知る必要がない。
好ましくは、最適なレベル及びモードの圧縮を判断することができるように、複雑性の推定が圧縮の前に実行される。
圧縮中は、前のピクセルに基づいて現状ピクセルを予測するように予測が行われ、次に、サブブロックサイズが決定され、サブブロックが分割される。次に、好ましくは、各サブブロック等において、量子化の種類(例えば、線形又は非線形)に関して決定が行われる。非線形量子化では、本発明の態様は、量子化パラメータ(QP)における全ての発生し得る値を検索する必要はないQP推定を可能にする。次に、上述の判断に基づいて量子化が実行され、最後に、圧縮データのサブブロックがブロックへと充填される。圧縮中には、本発明の一態様は、最初にchroma圧縮を実行し、chroma圧縮からの情報が利用可能にされ、luma圧縮中に利用される。本発明の態様は、ビデオデータの複雑性及び利用可能なビット数に応じた異なるレベルの圧縮の選択を可能にする。圧縮済みのluma及びchromaは、最終圧縮されたブロックへと組み合わされる。
量子化の種類及びレベルは、データの複雑性に応じて判断されるので、解凍を受けた圧縮データは、(元のビデオデータと正確に一致はしないが)尚も人間の閲覧者に対しては視覚的に損失がないように見えることになる。従って、本発明の装置及び方法は、低いメモリ要件及び低い帯域幅で作動しながらも、視覚的に損失がないものに並ぶ望ましい品質の出力を生成する。
バス帯域幅及び/又はメモリサイズを低減するという目的は、例として上記に提供したものである。圧縮方法の用途は、そのような特定用途の利益に限定されず、例えば、解凍の前のネットワーク上の圧縮ビデオデータの送信において、又は解凍の前にハードディスク又はメモリなどを用いていずれか他の媒体デバイスに圧縮ビデオデータを記憶するのにビデオデータ圧縮を必要とするあらゆる他の用途において利益をもたらすように適用することができる。
本発明は、以下の説明を含むが、それらに限定されないいくつかの手法で容易に具現化される。
本発明の実施例は、ビデオピクセルデータを1つ又はそれよりも多くのビデオモジュールと通信するように構成されたビデオメモリ装置であり、1つ又はそれよりも多くのビデオモジュールは、(a)信号バスを通じてビデオメモリと結合され、(a)(i)量子化器を用いて、各ブロックの外側のピクセルからのピクセルデータを利用せずに、輝度及び色差YUV入力ビデオデータをピクセル当たりのビット数が低減された圧縮ビデオデータへと圧縮するように構成され、(a)(ii)圧縮ビデオデータをビデオメモリに記憶するように構成されたビデオ圧縮モジュール、及び(b)いずれかの順序で圧縮ビデオデータブロックを検索するように構成され、更に、ビデオ圧縮モジュールが受け取り、圧縮した元のビデオデータと同じフォーマットを有し、それに近似する解凍ビデオデータへとビデオメモリに記憶された圧縮ビデオデータを解凍するように構成されたビデオ解凍モジュールを含み、上記ビデオ解凍モジュールは、解凍ビデオデータを出力するように構成される。
ビデオ装置では、圧縮は、好ましくは、ブロック圧縮の程度を制御する全体圧縮比Rに従って実行され、全体圧縮比Rは、レシオメトリックに又は得られるブロック内に含まれるビット数によって表すことができる。少なくとも1つの好ましい実施形態では、全体圧縮比Rを維持しながら、luma及びchromaに対して同じか又は異なる圧縮レベルが選択される。少なくとも1つの好ましいモードでは、chromaが高い複雑性レベルを持たない限り、圧縮の程度は、chromaにおけるビット使用を最小限にし、lumaにおけるビット使用を最大にするように装置によって選択される。
ビデオ装置の少なくとも1つの実施例では、圧縮の前に圧縮ブロックおいてテクスチャの複雑性が推定される。圧縮されたブロック内でluma及びchromaに対して割り当てるべきビット数のような各ブロック内のluma及びchromaに対する圧縮スペース割り当ては、テクスチャ複雑性を推定する処理に応じて判断される。
少なくとも1つの実施例では、luma及びchroma情報は、圧縮ビデオデータブロックへと組み合わされ、圧縮されたブロックにおいて固定サイズを維持するために、このブロックには、好ましくは、埋め込みビットが組み込まれる。
装置の少なくとも1つの構成では、所定のブロックにおけるluma圧縮は、その同じブロックにおけるchroma圧縮処理中に判断される情報を利用する。本発明の少なくとも1つのモードでは、ビデオ圧縮は、線形量子化と非線形量子化との組合せのような中で非線形量子化を利用して実行される。好ましい実施例では、非線形量子化を実行する際に、異なる精度の量子化ステップサイズが利用される。
本発明の少なくとも1つのモードでは、圧縮中にピクセル予測が実行される。ピクセル予測は、ブロックの中央で選択される最初の基準ピクセルにおいて始まり、そこから、必要に応じて並列処理することができる左右の予測方向が定められる。中央(又は中央に近い)ピクセルを選択することによって予測が始まり、その後、基準ピクセルは、左右の予測方向の両方に対して同じであり続けることが認められるであろう。ピクセル値の予測は、前のピクセル値に基づいて現在のピクセル値を予測することによって実行され、予測中は、2つの方向の予測は独立しており、それによって左右の方向における予測処理を並列して実行することが可能なり、従って、必要な処理時間が低減する。
少なくとも1つの実施例では、望ましい構成に従ってサブブロック分割が実行される。サブブロック分割を判断するために、まず発生し得るサブブロック構成の少なくとも一部分に対して、サブブロックコスト値が計算され、その後、所定のコスト閾値、及び/又は圧縮されたブロック内で利用可能なビット数を超えるコストを有するサブブロック構成は廃棄される。
本発明の少なくとも1つの実施形態では、装置における入力ビデオデータは、ビデオ又はスチールカメラ、又は他の画像生成デバイス内に一体化することができるような画像センサから受け取られる。入力ビデオデータのフォーマットは、輝度及び色差の両方の情報を含むように構成される。
本発明の少なくとも1つの目的においては、一般的に不連続である(例えば、ブロック番号順ではない)符号化器に固有の方式でメモリから検索されるブロックを符号化する前に実行されるYUVビデオデータ前処理の形態として利用されるような圧縮及び解凍は、帯域幅及び/又はビデオメモリ要件を低減する方向で実行される。代替的又は追加的に、本発明による圧縮及び解凍は、解凍の前にネットワーク上で圧縮ビデオデータを送信する際、又は解凍の前にビデオデータを媒体デバイスに記憶するのに実行することができる。
本発明の一実施形態は、YUVビデオデータを符号化するためのビデオ符号化装置であり、ビデオ符号化装置は、(a)ビデオピクセルデータを1つ又はそれよりも多くのビデオモジュールと通信するように構成されたビデオメモリ、(b)信号バスを通じてビデオメモリと結合され、更に、(b)(i)量子化器を用いて、他のブロックからのデータを参照する必要なしに、輝度及び色差YUV入力ビデオデータをピクセル当たりのビット数が低減された圧縮ビデオデータへと圧縮し、(b)(ii)圧縮ビデオデータをビデオメモリに記憶するように構成されたビデオ圧縮モジュール、(c)ビデオメモリからのあらゆる望ましい順序でのブロック検索に向けて構成され、更に、ビデオ圧縮モジュールが受け取り、圧縮した元のビデオデータと同じフォーマットを有し、それに近似する解凍ビデオデータへの圧縮ビデオデータの解凍に向けて構成されたビデオ解凍モジュール、及び(d)メモリからビデオデータブロックを不連続に選択し、解凍ビデオデータを受け取って符号化する符号化モジュールを含む。
本発明の一実施形態は、YUVビデオデータを圧縮及び解凍する方法であって、本方法は、(a)量子化器を用いて、入力ビデオデータをビデオデータの各ブロックにおけるluma及び/又はchromaにおいて低いビット数を有する圧縮ビデオデータブロックへと圧縮比Rだけ圧縮する段階を含み、(b)記入力ビデオデータの圧縮が、圧縮対象のブロックの外側のピクセルからのデータを利用せずに実行されることを特徴とし、更に、(c)圧縮ビデオデータをビデオメモリに記憶する段階、及び(d)連続又は不連続な順序で選択されるビデオデータブロックのうちのいずれかにおける圧縮ビデオデータを解凍し、解凍ビデオデータ出力を発生させる段階を含む。実施例では、圧縮及び解凍は、ビデオデータに対する符号化処理と組み合わせて実行され、メモリからの不連続ビデオデータブロックが選択され、本発明により解凍され、符号化に向けて受け取られる。
本発明の一実施形態は、YUVビデオデータを圧縮及び解凍する方法であって、本方法は、(a)量子化器を用いて、入力ビデオデータをビデオデータの各ブロックにおけるluma及び/又はchromaにおいて低いビット数を有する圧縮ビデオデータブロックへと圧縮比Rだけ圧縮する段階を含み、(b)圧縮が、圧縮対象の各ブロックの外側からのデータを利用せずに、各ビデオブロックに対して実行されることを特徴とし、更に、(c)圧縮が実行される所定のブロック内の各サブブロックに対して、線形又は非線形のいずれかの量子化を選択する段階、(d)圧縮ビデオデータをビデオメモリに記憶する段階、及び(e)ビデオメモリから検索され、いずれかの順序で選択されるビデオデータブロックのうちのいずれかにおける圧縮ビデオデータを解凍し、解凍ビデオデータ出力を発生させる段階を含む。
本発明の一実施形態は、YUVビデオデータを圧縮及び解凍する方法であって、本方法は、(a)量子化器を用いて、入力ビデオデータをビデオデータの各ブロックにおけるluma及び/又はchromaにおいて低いビット数を有する圧縮ビデオデータブロックへと圧縮比Rだけ圧縮する段階を含み、(b)圧縮が、圧縮対象のブロックの外側のブロックからのピクセルデータを利用せずに、ビデオデータブロックに対して実行されることを特徴とし、更に、(c)lumaテクスチャ複雑性及びchromaテクスチャ複雑性を推定する段階、(d)全体圧縮比Rを維持しながら、luma及びchroma内で同じか又は異なる圧縮レベルを選択する段階、及び(e)ブロック内で検出される特性に応じて圧縮が実行されることになる所定のブロック内の各サブブロックに対して、線形又は非線形のいずれかの量子化を選択する段階を含み、(f)圧縮中に、luma圧縮が、その同じブロックにおけるchroma圧縮処理からの情報を利用することを特徴とし、更に、(g)圧縮ビデオデータをビデオメモリに記憶する段階、(h)圧縮ビデオデータを記憶する段階に続くいずれかの時点で、あらゆる望ましい順序でビデオデータのブロックをビデオメモリから検索する段階、及び(i)検索されたブロックにおける圧縮ビデオデータを解凍し、解凍ビデオデータ出力を発生させる段階を含む。
本発明は、本発明の教示内容から逸脱することなく、別々に又はあらゆる望ましい組合せのいずれかで実施することができるいくつかの有益な態様を提供する。
本発明の態様は、YUVビデオデータブロックを圧縮及び解凍するための装置及び方法を含む。
本発明の別の態様は、各圧縮されたブロックが他の圧縮されたブロックと重複せず、各圧縮されたブロックが、他のブロックからの情報を参照せずに独立して圧縮されることである。
本発明の別の態様は、圧縮後の圧縮済み情報のビット数が、望ましい圧縮比Rに一致する目標ビットよりも小さい場合に合計出力ビットが固定されたままになるように、埋め込みビットを用いて合計出力ビットが望ましい数まで拡張されることである。各圧縮ブロックの発生するビットのサイズが固定されるので、あらゆる位置における圧縮されたブロックは、他のブロック内の情報を参照することなくアクセスし、解凍することができる。従って、提案する方法を用いると、ビデオ処理又は符号化に向けて、フレーム内の任意の区域にアクセスする必要がある場合等に、ビデオデータへのアクセス及びビデオ内のランダム位置からのビデオブロックの解凍を直ちに実行することができる。
本発明の別の態様は、lumaデータが、chroma圧縮の結果として判断された情報を用いることによって圧縮されることである。本発明による方法では、chromaが最初に圧縮される。chroma圧縮の後に、これらの情報のうちの少なくとも一部分は、luma圧縮に向けての準備の中でlumaモジュールに転送される。情報ビットは、圧縮の後のあらゆる望ましい時間又はビット数の間保持することができる。luma圧縮は、圧縮においてこれらの情報を利用する。最後に、圧縮済みのluma及びchromaデータは、1つの圧縮されたブロックの中に充填される。データサイズは、目標圧縮比によって指定された範囲に収まることが保証される。
本発明の別の態様は、圧縮の前に、luma及びchroma圧縮ブロックのテクスチャ複雑性を最初に推定することである。各圧縮モジュール(luma及びchroma)は、自動的に異なるレベル(又は程度)の圧縮(例えば、弱度、中度、強度)を提供することができる。圧縮の程度は、テクスチャの複雑性に基づいて判断され、次に、ビット数が、圧縮されたブロック内のluma及びchromaフィールドに対して割り当てられる。
本発明の別の態様は、ビデオブロックが圧縮される全体の程度を制御する、Rによって与えられる全体圧縮比の利用である。Rの値は、所定のブロックにおける比(入力ビット数/出力ビット数)として例示される。2という比Rは、圧縮されたブロックが、元のデータによって利用されるビット数の半分のビット数を含むことを表している。しかし、圧縮は、いずれかの形式のレシオメトリック指標のようなあらゆる望ましいフォーマットで、又はビデオ出力ブロック当たりの所定のビット数を選択することに関連して表すことができることを認めるべきである。
本発明の別の態様は、全体圧縮比Rを固守しながら、Y、U、及びVが圧縮される程度を選択することを可能にする。chromaとlumaの間の異なる圧縮比に基づいてビットを割り当てることができるので、上述のことは、圧縮比が、個々の圧縮ブロックにおけるY、U、及びVにわたって固定されることを意味しない点に注意すべきである。
本発明の別の態様は、全体圧縮比Rを維持しながら、lumaとchromaとの間で最良の圧縮比を自動的に決定する処理である。一般的には、人間の目は、chromaにおける信号ノイズよりもlumaにおける信号ノイズに対して感受性が高い。従って、好ましいビット割り当て計画は、chromaにおけるビット使用を最小限に止し、lumaにおけるビット使用を最大にする。しかし、chromaが、ある一定のレベルの複雑性を有することが判明した場合、特に非常に複雑であることが判明した場合には、本発明の少なくとも1つの実施形態は、視覚歪みの出現を阻止するために、chromaが、十分なビット数を用いることを可能にする。ビット使用のこの最大化及び最小化は、luma及びchromaのテクスチャ複雑性に対して検索される情報に応じて判断される。
本発明の別の態様は、異なるレベルの圧縮を選択する。例えば、低、中、及び高圧縮品質モードを定めることができる。低品質モードは、高圧縮比を利用することに基づくのに対して、高品質モードは、低圧縮比を利用する。本発明の一態様では、判断は、最終の最良圧縮モードで為される。圧縮レベルは、luma及びchromaの両方の圧縮において定めることができ、ブロックのうちlumaによって用いられる部分と、ブロックのうちchromaによって用いられる部分とが判断される点に注意すべきである。
本発明の別の態様は、最良圧縮モードを判断するための決定が、テクスチャ複雑性及び利用可能なビット数に対して検索される情報によって行われることである。
本発明の別の態様は、ピクセル予測を先頭ピクセルではなく一列のピクセルのうちの中央ピクセルから始め、他のピクセルは、開始ピクセルに関連して予測される。2つの予測方向が計算され、必要な処理時間を低減することができる。
本発明の別の態様は、量子化に応じたサブブロック分割、及びサブブロック構成の決定である。全体圧縮比Rは、luma圧縮に対して用いられるピクセル数N、及びchroma圧縮(U及びV、又はCr及びCb)に対して用いられるピクセル数Mに応じて判断される。所定の(N、M)luma及びchroma圧縮値に対して、いくつかの異なるサブブロック構成が存在する。サブブロックサイズ決定モジュールなどは、入力及び条件の所定の組の下で最適なサブブロック構成を判断する。
本発明の別の態様は、Information_from_chroma、R、及びQP精度などに基づいて、異なる発生し得るサブブロック構成のうちの少なくとも一部分(又は、例えば、全ての異なるサブブロック構成)に対してコストを計算するものである。例示的に、発生する出力ビット数に関してコストを推定することができる。所定のサブブロック構成における出力ビット数が、好ましくは、利用可能なビット数によって与えられる閾値コスト値を上回った場合には、そのサブブロック構成は廃棄され、次に、発生し得るサブブロック構成が調査される。少なくとも1つの実施例では、発生し得る構成のうちのどれもが利用不能であった場合には、N個のピクセルの元の圧縮ブロックがサブブロックとして用いられる。
本発明の別の態様は、ブロック圧縮中の線形又は非線形のいずれかの量子化の選択である。
本発明の別の態様は、本明細書で説明する非線形量子化における使用のための量子化パラメータ(QP)の推定である。
本明細書の以下の部分において本発明の更に別の態様を提供することとし、そこでの詳細説明は、制限を課することなく、本発明の好ましい実施形態を十分に開示することを目的とするものである。
本発明は、単に例示目的のものである添付図面を参照することにより、十分に理解されるであろう。
図面をより具体的に参照すると、本発明は、図2から図17に一般的に示す装置に例示目的で具現化されている。これらの装置は、本明細書に開示する基本概念から逸脱することなく、構成及び部分の詳細事項に関して変更することができ、本方法は、特定の段階及び順序に関して変更することができることが認められるであろう。
YUVビデオデータ圧縮/解凍方法
図2は、YUV(又はYCrCb)ビデオデータの圧縮及び解凍を実行するための本発明の実施形態10を示している。圧縮は、所定の用途に関連するあらゆる数の利点をもたらすために、例えば、バス帯域幅及びビデオメモリ要件を低減するために利用することができる。
本発明の装置及び方法は、ビデオデバイスから入力を受け取り(12)、データを処理し(14)、次に、バス18などを通じて外部ビデオメモリ20内にビデオデータを記憶する前に、そのビデオデータを圧縮する(16)。ビデオ符号化器24又は表示デバイス28は、ビデオメモリから圧縮ビデオを検索し、ビデオデータを利用する前にその圧縮ビデオを解凍する(22、26)。ビデオデータは、ビデオメモリ内での記憶の前に圧縮されるので、必要なバス帯域幅は、元のものよりも非常に低く、それと同時にビデオメモリ(例えば、SDRAM)の必要サイズも同様に低減する。
図3は、本発明により圧縮されたYUV又は同様のブロックの例示的な実施形態30を示している。本発明の圧縮方法の圧縮ブロック32の入力ビデオデータフォーマットは、YUV(又はYCrCb)である。圧縮処理中には、フレーム(この例では、Y、Cr、及びCbのビデオデータから成る)は、1組の圧縮ブロックに分割される。圧縮ブロックは、図に示すように、輝度(Y)34のためのN個のピクセル、及び各々が色差(Cr、Cb)26、38のためのM個のピクセルとして定められる。従って、各圧縮ブロック内のピクセルの合計数は、(N+2M)である。ピクセルを表す上でBビットが利用された場合には、合計ビット数は(N+2M)×Bビットになる。
圧縮ブロックは、他の圧縮ブロックと重複せず、各圧縮ブロックは、他のブロック内の情報を参照せずに独立して圧縮される。
入力に関する圧縮比Rを受け取ると、圧縮方法40の実施例は、固定サイズの圧縮されたブロック42を発生させる。発生するビット数は次式で計算される。
合計出力ビット=(N+2M)*B/R
例えば、Rが2の場合には、発生する合計出力ビットは、YUVの元のビット数の半分になる。
圧縮後の圧縮済み情報のビット数が、Rによって指定される目標ビットよりも小さい場合には、常時固定された合計出力ビット数を維持するために、好ましくは、埋め込みビットが挿入される。各圧縮ブロックの発生するビットのサイズが固定されるので、他のブロック内の情報を参照せずに、あらゆる位置における圧縮されたブロックを検索し、解凍することができる。従って、本発明の方法を用いることにより、ランダムな位置におけるビデオデータへのアクセス(圧縮ブロック単位として)が可能である。これは、他のビデオ処理に向けてフレーム内の任意の区域をアクセスすることが要求される用途において必要である。
図4は、解凍処理の実施形態50を示している。解凍方法は、圧縮ブロック52を受理し、この圧縮ブロック52は、Y58に向けられたN個のピクセル、U60に向けられたM個のピクセル、及びVに向けられたM個のピクセルなどを有する元のYUV解像度に戻った圧縮ブロック56へと解凍される(54)。解凍済みYUVデータは、ビデオ処理に向けて他のデバイスにおいて利用することができる。解凍後のビデオデータの大きさは、元のものと同じであるから、他の処理デバイスは、圧縮アルゴリズムによって導入されるいかなる差も、ビデオフォーマットに基づいて認識することができなくなる。
図5は、ブロック圧縮の実施形態70、及びluma圧縮モジュールとchroma圧縮モジュールの間の関係を示している。少なくとも1つの実施例において、luma圧縮は、同じブロックに対するchroma圧縮中に受け取られる情報に応じて実行される。chroma(UV)データ72は、最初にchroma圧縮74において受け取られ、chroma圧縮から情報Information_from_chromaが転送され、luma(Y)データ76と組み合わせて利用されて、luma圧縮78が実行されることが分かるであろう。従って、本発明の方法によると、chroma圧縮を最初に実行することが好ましい。chromaからの情報は、圧縮に続き、luma圧縮中の使用等に向けて、あらゆる望ましい時間又はビット数の間保持することができることを認めるべきである。最後に、圧縮済みのluma及びchromaデータは、ブロック80によって表しているように、1つの圧縮されたブロック82の中に充填される。少なくとも1つの好ましい実施例によると、データサイズは、目標圧縮比によって指定される範囲に収まることが保証される。
図6は、本発明の圧縮方法全体の実施形態90を示している。chroma圧縮ブロック92及びluma圧縮ブロック94の受け取りが示されている。圧縮の前に、chromaテクスチャ複雑性が推定され(96)、lumaテクスチャ複雑性が推定される(100)(特定の順序を意味していない)。chroma圧縮98及びluma圧縮102は、luma及びchromaの両方の複雑性の推定から受け取るデータを用いて実行され、一方、luma圧縮は、chroma圧縮から情報を補足的に受け取る。この後、圧縮済みのluma及びchromaデータが受け取られ、パッケージ化され(104)、圧縮されたブロック106が発生する。
圧縮処理の考察に戻ると、本発明における各圧縮モジュール(luma及びchroma)は、異なるレベル(程度)の圧縮(例えば、弱度、中度、強度)を提供することができることが認められるであろう。本発明の少なくとも1つの実施例によると、圧縮の程度は、好ましくは、テクスチャ複雑性のレベルに応じて選択される。
変数Rによって表される圧縮比は、Y、U、及びV圧縮ブロックの圧縮比を制御する。ブロックにおいて得られる圧縮が全体圧縮比Rに従う限りは、Y、U、及びV(又はY、Cr、及びCb)を別々にいかなる望ましい比にも圧縮することができるので、Y、U、及びVが、Rによって固定された圧縮を受けると結論付けられないことに注意すべきである。従って、chromaとlumaの間の異なる圧縮比に基づいてビットを割り当てることができる。
本発明の一実施例では、具現化される方法は、全体圧縮比をRに維持しながら、lumaとchromaとの間で圧縮比を最適化する(すなわち、技術及び利用可能な情報という制限内で最良の圧縮比を求める)ように試みる。本発明のこの態様は、一般的に人間の目が、chromaにおけるノイズよりもlumaにおけるノイズに高い感受性を有するということを考慮に入れる。従って、好ましいビット割り当て計画では、lumaにおけるビット使用を最大にすることができるように、chromaは、最小数のビットを利用する。しかし、chromaが非常に複雑なことが判明した場合のようなある一定の場合には、視覚歪みを防止するように、本発明のあるモードは、chromaが十分な数のビットを利用することを可能にする。
少なくとも1つの実施例においては、ビット割り当て比は、luma及びchromaのテクスチャ複雑性の判断に基づいて選択される。図6におけるテクスチャ複雑性は、例えば、圧縮ブロックの残差平均を計算することで取得することができる。
図7は、圧縮レベルに依存して異なる圧縮品質モードをサポートする本発明の方法の実施形態110を示している。例えば、圧縮ブロック112は、本発明による低品質114、中品質116、及び高品質118の圧縮モードを受けることができる。低品質モードは、高圧縮比の使用から生じるのに対して、高品質ビデオモードは、低圧縮比の使用から生じる。1つの好ましい実施例では、処理120は、最終圧縮されたブロック122が生じる最終の最良圧縮モードを選択するように実行される。圧縮レベルは、luma及びchromaの両方の圧縮モードにおいて定めることができることを認識すべきである。
異なるレベル(モード)の圧縮を実行する一例は、ビット精度の出力量子化を利用することによるものである。低圧縮モードでは、高い精度を利用することができるのに対して、高圧縮モードでは、低精度を利用することができる。望ましい圧縮比に依存して、量子化の精度は、異なるレベルに予め判断されることができる。図7に示すように、最良の圧縮モードの判断は、テクスチャ複雑性及び利用可能なビットに関する情報に応じてシステムによって発生する。
図8は、本発明により圧縮レベルの決定を行う例示的な実施形態130を示している。luma(Y)データ132及びchroma(UV)データ134は、それぞれlumaテクスチャ複雑性の推定136、及びchromaテクスチャ複雑性の推定138に向けて受け取られる。これらの複雑性の推定に対して、下記の節で説明する。次に、luma及びchromaのテクスチャの推定は、テクスチャ分析器140によって利用され、テクスチャ分析器140からの出力は、ブロック142において圧縮レベルの決定を行い、更に、ブロック144によって示すように、圧縮chromaデータ出力146及びchromaからの情報出力148を有する圧縮方法を実施するのに利用される。圧縮方法に対しては図5において説明しており、テクスチャ分析及び圧縮レベルの決定に対しては下記で説明を行う。
lumaテクスチャ複雑性の推定
以下の擬似コードは、lumaテクスチャ複雑性の推定を制限としてではなく例として示している。各サブブロックでは、lumaテクスチャ複雑性が分析され、複雑性が以下のように推定される。
指標x:ピクセル位置の指標
指標bp:サブブロック位置の指標

index x: index of pixel position
index bp: index of subblock position

Luma_Texture_Complexity(LTC)
この値はluma圧縮ブロックの複雑性を示す。複雑性の3つの異なるレベル、弱度、中度、強度が決定することができる。
The detection method:
For each subblock, compute Residual[x] = Current pixel[x] - predicted pixel[x];
For each subblock, find maximum of Residual[x] within subblock, say max_Residual[bp];
Compute average_residue of max_Residue[bp] over whole compression block;
If average_residue < Threshold_1:
The Whole luma_block is considered as ‘weak complex’.
If average_residue >= Threshold_2:
Compute the number of subblocks that max_Residue[bp] > Threshold_3;
If the computed number < Threshold_4;
Then, whole luma_block is considered as ‘medium complex block’.
Else, the whole luma block is considered as ‘strong complex block’.
chromaテクスチャ複雑性の推定
以下の擬似コードは、chromaテクスチャ複雑性の推定を制限としてではなく例として示している。各サブブロックでは、chromaテクスチャ複雑性が分析され、複雑性が以下のように推定される。

Chroma Texture Complexity(CTC)
The detection method:
For each subblock, compute Residual[x] = Current pixel[x] - predicted pixel[x];
If any Residual[x] < Threshold_1:
If the residue value at the subblock boundary is larger than Threshold_2;
Then, the subblock is considered as ‘low_complex’.
Else, the 4*1 chroma subblock is considered as ‘high_complex’.
圧縮レベルの決定
圧縮レベルの決定は、制限としてではなく例として下記の擬似コードによって実行することができる。

If(CTC==high)
If(LTC==low)
Chroma_Compression_Level = LOW_COMRESSION_MODE
Luma_Compression_Level = HIGH_OMRESSION_MODE
Else if(LTC==medium)
Chroma_Compression_Level = HIGH_COMRESSION_MODE
Luma_Compression_Level = MIDDLE_COMRESSION_MODE
Else (LTC==high)
Chroma_Compression_Level = LOW_COMRESSION_MODE
Luma_Compression_Level = HIGH_COMRESSION_MODE
Else if(CTC==low)
Chroma_Compression_Level = LOW_COMRESSION_MODE
Luma_Compression_Level = HIGH_COMRESSION_MODE
If(LTC==low)
Chroma_Compression_Level = MIDDLE_COMRESSION_MODE
Luma_Compression_Level = MIDDLE_COMRESSION_MODE
Else if(LTC==medium)
Chroma_Compression_Level = HIGH_COMRESSION_MODE
Luma_Compression_Level = MIDDLE_COMRESSION_MODE
Else (LTC==high)
各レベルにおける圧縮方法
図9は、本発明の圧縮方法の例示的な実施形態150を示している。圧縮ブロック152は、前のピクセルに基づいて現在のピクセル値を予測する予測処理154によって受け取られる。予測値が得られると、予測処理154において残差値(現在のピクセルと予測されたピクセルの間の差)が計算される。サブブロックサイズの決定処理156は、テクスチャ複雑性及び利用可能なビット分量に基づいて最適なサブブロックサイズを判断する。156においてサブブロックサイズが決定されると、残差データセットは、ブロック158において、サブブロックと呼ぶより小さいサイズのアレイに分割される。出力ビットを低減するために、各サブブロックに対して残差データの量子化処理160が適用される。従って、各サブブロックを固有のQP(量子化パラメータ)値を用いて量子化することができる。図は、線形量子化を実行し(164)、又は量子化パラメータ(QP)を推定し(162)、次に、非線形量子化を実行する(166)ように決定が為されることを示している。いずれの場合には、サブブロックの結果は充填され(168)、最終の圧縮されたブロック170を生じる。
予測は、現在のピクセルが前のピクセルから予測されることを意味する。予測されたピクセルは、実際の現在のピクセル値と予測値の間の「残差」を計算するのに利用される。本発明の方法では、残差は、後の段階で量子化され、符号化されることになる。
x[n]の予測=F(x[n−1]、x[n−2]、…)
x[n]の残差=abs(x[n]−x[n]の予測)
図10及び図11は、それぞれ、最初のピクセル予測190のための機構、及び2つの予測方向210をサポートするための機構を示している。ピクセルデータセットは、あらゆるサイズのものとすることができ、データセット例は、制限としてではなく例として簡略化して示していることが認められるであろう。説明の簡略化のために、1次元のデータセットに対して以下に説明するが、これらの機構は、2次元データに適用することができる。これらの図では、ボックス内の数値は、圧縮ブロック内のピクセルの位置を示している。
図10では、予測190は、データ192の先頭ピクセルではなく、中央のピクセル194から説明されていることに注意すべきである。ほぼ中央の位置(例えば、位置16)にあるピクセル194は、最初の基準ピクセルとして設定され、全ての他の予測ピクセルは、このピクセルから始まる。図11に示すように、機構210は、右方向212及び左方向214として提供している2つの予測方向をサポートする。基準ピクセル(すなわち、位置16におけるピクセル)は変化しないので、これらの2つの方向の各々の予測は独立している。従って、左右の方向において予測を並列処理することができ、それによって必要な処理時間を実質的に低減することができる。
圧縮ブロックは、サブブロックに分割される。サブブロック分割の目的は、各サブブロックに対して独立したQPを割り当てることである。量子化によって引き起こされるノイズを最小にするために、より低いQPを用いることができるので、全体の品質は、多数のより小さいサブブロックに分割された場合に改善することができる。しかし、サブブロック数が大きい場合には、QP値に対する負荷が増加する。
量子化及びサブブロック構成の決定のためのサブブロック分割
(N、M)ピクセルが与えられると、利用することができる多くの発生し得るサブブロック構成が存在する。「サブブロックサイズ決定」モジュールは、受け取るパラメータに応じて最良のサブブロック構成を判断する。
サブブロック分割の一例は、chroma圧縮後に検索される情報に基づいている。本発明の一態様では、chroma圧縮が最初に実行され、この処理からの情報は、luma圧縮中の使用に向けて利用可能にされる。例えば、chroma圧縮に用いられた合計ビット数及びchromaテクスチャ複雑性は、information_from_chromaとして考えることができる。
図12は、information_from_chroma、R、及びQP_precisionの受け取りに応じて、サブブロックサイズ決定モジュール232内でサブブロックサイズの決定を行うための実施形態230を示している。モジュール232の出力は、2×2、4×4、及び8×8のような最良サブブロックサイズを含む。
図13は、「subblock_size_decision」モジュールの1つの可能な実施例250を示している。この決定モジュールは、各発生し得るサブブロック構成に対してinformation_from_chroma、R、及びQP_precisionを受け取る(252)。所定の情報に基づいて、各構成に関するコストが計算される(254、260、266)。コスト値は、発生する出力ビットの推定数として表すことができる。出力ビット数が利用可能なものよりも大きかった場合にその特定の構成が廃棄され、次の発生し得る構成において調査が実施される決定はしご(256、262)が示されている。ここでは、代替出力は、2×2サブブロック258、4×4サブブロック264と続き、分割なし(Nサブブロック)出力266までとして例示している。発生し得る構成のうちのいずれもが許容範囲になかった場合には、N個のピクセルの元の圧縮ブロックが、分割なし268のサブブロックとして用いられる(266)ことが分かるであろう。
本発明の方法は、線形量子化及び非線形量子化という2つの量子化処理をサポートするように構成されることを認めるべきである。
1.非線形量子化における量子化パラメータの推定
発生し得るQP値セットが与えられると、システムは、適合性に対してQP値の全てを調査することができる。しかし、QPの網羅的検索の計算の複雑性は効率的ではなく、高い実行コストを有する。
図14は、全ての発生し得るQP値を検索せずに、QP値を推定する複雑性が低い方法の実施形態270を示している。残差データ272は、QP推定器274によって受け取られるように示している。推定から判断されたQP値及び残差データの両方が、非線形Q処理276によって受け取られる。
図15は、QP推定の実施形態290を詳描して例示している。本発明のQP推定器は、元のピクセル値と共に、サブブロックにおいて最大残差値を求める(294)上で利用されるサブブロック残差データ292を用いる。次に、この最大値は、量子化決定レベルを判断する(296)上で利用される。言い換えれば、この最大残差値から最大決定レベルを求めることができ、この最大決定レベルから最良のQP値を判断することができる(298)。表1は、最大決定レベルとQP値とをマップする一例を示している。
2ビットQ非線形量子化のQP値を決定するために、4×1ブロック内の元のデータを用いる残差データ最大値が用いられる(QP推定)。表1では、サブブロック内の推定QPとmax_residualデータとの間のマッピングが分かる。
2.線形/非線形量子化決定
本発明のこの態様では、各サブブロックは、本発明の方法による線形量子化又は非線形量子化の選択に応じて量子化することができる。例えば、サブブロックにおける大きい残差値に応じて、QP値も大きくなりがちであり、著しい量子化ノイズが導入され、その結果、望ましくない視覚歪みが生じる。
図16は、ノイズのような視覚歪みが発生するのを阻止するために、ビデオデータの内容に応じて、非線形量子化又は線形量子化を選択する実施形態310を示している。図では、選択において利用されるように示しているパラメータ例は、サブブロック残差312及び元のピクセルデータ314として表している。しかし、最終量子化方法決定318に到るために、量子化決定316内で、この段階で利用可能なあらゆる他のパラメータを用いることができる。
図17は、「非線形/線形量子化決定」モジュールの実施形態330を示している。サブブロック残差332及び元のサブブロックピクセルデータ値334のようなデータは、エッジ検出モジュール336内で受け取られる。エッジ検出336は、元のピクセル、又は残差、又は同様の値を用いて、あらゆる数の別手法で実行することができることを認めるべきである。例えば、サブブロックにおける最大残差が閾値よりも大きかった場合には、強いエッジが存在すると考えることができる。段階338を通じて強いエッジが検出されなかった場合には、非線形量子化346を用いるという決定が為される。他の場合には、線形量子化を用いるコストが推定され(340)、次に、342においてこのコストが利用可能ビット数と比較されて、線形量子化344を用いるという決定が生じる。コストが利用可能なビットを超える場合には、非線形量子化346が選択される。
上述の説明は多くの詳細事項を含むが、これらの詳細事項は、本発明の範囲を限定するものと解釈すべきではなく、本発明の現時点での好ましい実施形態のうちの一部の具体例を提供しているに過ぎないと解釈すべきである。従って、本発明の範囲は、当業者には明らかになると考えられる他の実施形態を完全に網羅しており、それに応じて本発明の範囲は、特許請求の範囲以外の何物によっても限定すべきではなく、特許請求の範囲では、単数の要素への参照は、明言しない限り「1つ及びそれのみ」ではなく「1つ又はそれよりも多く」を意味するように意図することが認められるであろう。上述の好ましい実施形態の要素に対する当業者に公知の全ての構造及び機能的均等物は、引用によって本明細書に明示的に組み込まれており、特許請求の範囲によって含まれるように意図している。更に、装置又は方法は、本発明によって解決が追求される各全ての問題に対処する必要はなく、その問題は、特許請求の範囲に含まれるものとする。更に、本発明の開示におけるいかなる要素、構成要素、又は方法段階も、要素、構成要素、又は方法段階が特許請求の範囲に明記されているか否かに関わらず、公に役立つように想定されているものではない。本明細書におけるいかなる特許請求要素も、その要素を「のための手段」という表現を用いて明記していない限り、米国特許法第112条第6項の規定の下で解釈されないものとする。
(表1)
Figure 2009153138
ビデオメモリ内での前処理の後の画像データの記憶を示す、従来のビデオ又はスチールカメラアーキテクチャのブロック図である。 ビデオメモリ内での記憶の前の画像データの圧縮を示す、本発明の態様によるビデオ又はスチールカメラアーキテクチャのブロック図である。 本発明の態様に従って圧縮されるブロックのブロック図である。 本発明の態様によるブロック解凍のブロック図である。 chroma圧縮からの情報がluma圧縮処理において利用されることを示す、本発明の態様によるchroma及びluma圧縮の流れ図である。 本発明の態様による全体圧縮比の流れ図である。 本発明の態様に従って異なる圧縮モードをサポートする流れ図である。 圧縮レベルを決定し、圧縮方法を実施する準備におけるテクスチャ複雑性の推定及び分析を示す、本発明の態様に従って圧縮レベル決定を行う流れ図である。 量子化決定に応じて線形Q又は非線形Qのいずれかがブロックに対して実行されることを示す、本発明の態様による圧縮方法の流れ図である。 ピクセルのうちの中央にある基準ピクセルの選択を示す、本発明の態様によるピクセル予測のピクセル図である。 図10に示す基準ピクセルの選択に応じる左右予測方向のピクセル図である。 本発明の態様に従ってサブブロックサイズを選択するブロック図である。 本発明の態様に従ってサブブロックサイズを判断する流れ図である。 本発明の態様による推定QP値及び残差データに応じる非線形量子化の流れ図である。 残差データを判断する段階に応じて実行されるように示す、本発明の態様によるQP推定の流れ図である。 本発明の態様に従って線形量子化又は非線形量子化を選択するブロック図である。 本発明の態様に従って線形量子化又は非線形量子化を決定する流れ図である。
符号の説明
10 本発明の実施形態
18 バス
24 ビデオ符号化器
28 表示デバイス

Claims (25)

  1. YUVビデオデータを圧縮及び解凍するための装置であって、
    ビデオピクセルデータを1つ又はそれよりも多くのビデオモジュールと通信するように構成されたビデオメモリと、
    信号バスを通じて前記ビデオメモリに連結され、かつ
    量子化器を用いて輝度及び色差YUV入力ビデオデータブロックをピクセル当たりのビット数が低減された圧縮ビデオデータへ圧縮し、
    ブロック圧縮が、各ブロックの外側のピクセルデータを利用せずに実行され、
    前記圧縮ビデオデータを前記ビデオメモリ内に記憶する、
    ように構成されたビデオ圧縮モジュールと、
    いずれかの順序で圧縮ビデオデータのブロックを検索するように構成され、前記ビデオメモリに記憶された該圧縮ビデオデータを前記ビデオ圧縮モジュールによって受け取られて圧縮された元のビデオデータと同じフォーマットを有し、それに近似する解凍ビデオデータへ解凍するように構成され、かつ該解凍ビデオデータを出力するように構成されたビデオ解凍モジュールと、
    を含むことを特徴とする装置。
  2. 前記圧縮は、ブロック圧縮の程度を制御する全体圧縮比Rに従って実行されることを特徴とする請求項1に記載の装置。
  3. 前記全体圧縮比Rは、レシオメトリックに又は得られるブロックに含まれるビット数によって表すことができることを特徴とする請求項2に記載の装置。
  4. 全体圧縮比Rを維持しながらluma及びchromaに対して同じか又は異なる圧縮レベルを選択することを更に含む請求項2に記載の装置。
  5. chromaが高い複雑性レベルを持たない限り、前記圧縮の前記程度は、chromaにおけるビット使用を最小にしてlumaにおけるビット使用を最大にするように選択されることを特徴とする請求項4に記載の装置。
  6. 前記圧縮の前に圧縮ブロックのテクスチャ複雑性を推定することを更に含む請求項1に記載の装置。
  7. 前記圧縮されたブロック内でluma及びchromaに対して割り当てられる前記ビット数は、テクスチャ複雑性を推定することに応じて判断されることを特徴とする請求項6に記載の装置。
  8. 前記圧縮されたブロックに対して固定サイズを維持するよう前記圧縮ビデオデータに埋め込みビットを埋め込むことを更に含む請求項1に記載の装置。
  9. 所定のブロックに対するluma圧縮は、その同じブロックのchroma圧縮から情報を利用することを特徴とする請求項1に記載の装置。
  10. 前記ブロックの中央で選択された最初の基準ピクセルで始まり、必要に応じて並列に処理することができる左右の予測方向を定めるピクセル予測を圧縮中に実行すること、
    を更に含み、
    前記基準ピクセルは、左右の予測方向の両方に対して同じであり続ける、
    ことを特徴とする請求項1に記載の装置。
  11. ピクセル値の前記予測は、以前のピクセル値に基づいて現在のピクセル値を予測することを特徴とする請求項10に記載の装置。
  12. ピクセル値の前記予測の間、前記2つの方向の前記予測は独立しており、それによって左右の方向に対する予測処理は、並列に実行され、必要とされる処理時間は、半分に短縮されることになることを特徴とする請求項10に記載の装置。
  13. 所望の構成に従ってサブブロック分割することを更に含む請求項1に記載の装置。
  14. 発生し得るサブブロック構成の少なくとも一部分に関するサブブロックコスト値を計算し、閾値又は利用可能なビット数を超えるコストを有するサブブロック構成を廃棄することを更に含む請求項11に記載の装置。
  15. 前記入力ビデオデータは、画像センサから受け取られることを特徴とする請求項1に記載の装置。
  16. ビデオ又はスチールカメラ内に統合されることを特徴とする請求項1に記載の装置。
  17. 前記入力ビデオデータは、形式Y、Cr、及びCbで輝度及び色差YUV情報を有するフォーマットを含むことを特徴とする請求項1に記載の装置。
  18. 前記圧縮及び前記解凍は、ビデオデータを符号化する時にバス帯域幅及びビデオメモリ要件を低減するよう実行されることを特徴とする請求項1に記載の装置。
  19. ビデオ符号化の前にビデオデータを圧縮及び解凍し、解凍の前に圧縮ビデオデータをネットワーク上で送信し、又は解凍の前にビデオデータを媒体デバイスに記憶するように構成されることを特徴とする請求項1に記載の装置。
  20. 前記ビデオ圧縮は、非線形量子化を利用して実行され、量子化ステップサイズの異なる精度が、該非線形量子化を実行する時に利用される、
    ことを特徴とする請求項1に記載の装置。
  21. YUVビデオデータを符号化するためのビデオ符号化装置であって、
    ビデオピクセルデータを1つ又はそれよりも多くのビデオモジュールと通信するように構成された信号バスを用いて構成されたビデオメモリと、
    前記信号バスを通じて前記ビデオメモリに連結され、かつ
    各ブロックの外側のピクセルからピクセルデータを利用せずに、量子化器を用いて輝度及び色差YUV入力ビデオデータをピクセル当たりのビット数が低減された圧縮ビデオデータへと圧縮し、
    前記圧縮ビデオデータを前記ビデオメモリ内に記憶する、
    ように構成されたビデオ圧縮モジュールと、
    前記ビデオメモリに記憶された前記圧縮ビデオデータを検索し、それを前記ビデオ圧縮モジュールによって受け取られて圧縮された元のビデオデータと同じフォーマットを有し、それに近似する解凍ビデオデータへ解凍するように構成されたビデオ解凍モジュールと、
    どのビデオデータブロックが前記ビデオ解凍モジュールによって検索されるかを不連続に選択し、かつ該解凍モジュールから出力される前記解凍ビデオデータを符号化するように構成された符号化モジュールと、
    を含むことを特徴とする装置。
  22. YUVビデオデータを圧縮及び解凍する方法であって、
    ビデオデータの各ブロックに対するluma及び/又はchromaのビット数が低減された圧縮ビデオデータブロックへ量子化器を用いて入力ビデオデータを圧縮比Rまで圧縮し、該入力ビデオデータの該圧縮が、圧縮される該ブロックの外側のピクセルからデータを利用せずに実行され、
    前記圧縮ビデオデータをビデオメモリ内に記憶し、
    前記ビデオメモリからいずれかの所望の順序で検索された前記ビデオデータブロックのあらゆるものに対して前記圧縮ビデオデータを解凍し、解凍ビデオデータ出力を発生させることを含む方法。
  23. 前記メモリからビデオデータブロックを不連続に選択し、かつ前記解凍ビデオデータを受け取ることに応答して前記ビデオデータを符号化することを更に含む請求項22に記載の方法。
  24. YUVビデオデータを圧縮及び解凍する方法であって、
    ビデオデータの各ブロックに対してluma及び/又はchromaのビット数が低減された圧縮ビデオデータブロックへ量子化器を用いて入力ビデオデータを圧縮比Rまで圧縮し、
    前記圧縮が、圧縮される前記ブロックの外側のピクセルからデータを利用せずに前記ビデオデータに対して実行され、
    前記圧縮が実行される所定のブロック内の各サブブロックに対して線形又は非線形のいずれかの量子化を選択し、
    前記圧縮ビデオデータをビデオメモリ内に記憶し、
    前記ビデオメモリからいずれかの所望の順序で検索された前記ビデオデータブロックのあらゆるものに対して前記圧縮ビデオデータを解凍し、解凍ビデオデータ出力を発生させることを含む方法。
  25. YUVビデオデータを圧縮及び解凍する方法であって、
    ビデオデータの各ブロックに対してluma及び/又はchromaのビット数が低減された圧縮ビデオデータブロックへ量子化器を用いて入力ビデオデータを圧縮比Rまで圧縮し、
    前記圧縮が、圧縮される前記ブロックの外側からピクセルデータを利用せずに前記ビデオデータブロックに対して実行され、
    lumaテクスチャ複雑性及びchromaテクスチャ複雑性を推定し、
    全体圧縮比Rを維持しながらluma及びchromaに対して個々の圧縮レベルを選択し、
    ブロック特性に応じて前記圧縮が実行される所定のブロック内の各サブブロックに対して線形又は非線形のいずれかの量子化を選択し、該圧縮中に、前記luma圧縮の処理が、その同じブロックに対する前記chroma圧縮の処理から情報を利用し、
    前記圧縮ビデオデータをビデオメモリ内に記憶し、
    前記ビデオメモリから前記ビデオデータのブロックをいずれかの所望の順序で、かつ前記圧縮ビデオデータを前記記憶することに続くいずれかの時点で検索し、
    検索されたブロックに対して前記圧縮ビデオデータを解凍し、解凍ビデオデータ出力を発生させることを含む方法。
JP2008324222A 2007-12-19 2008-12-19 視覚的に無損失のビデオデータ圧縮 Expired - Fee Related JP5247412B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US1517407P 2007-12-19 2007-12-19
US61/015,174 2007-12-19
US12/103,419 2008-04-15
US12/103,419 US8401071B2 (en) 2007-12-19 2008-04-15 Virtually lossless video data compression

Publications (2)

Publication Number Publication Date
JP2009153138A true JP2009153138A (ja) 2009-07-09
JP5247412B2 JP5247412B2 (ja) 2013-07-24

Family

ID=40566336

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008324222A Expired - Fee Related JP5247412B2 (ja) 2007-12-19 2008-12-19 視覚的に無損失のビデオデータ圧縮

Country Status (6)

Country Link
US (1) US8401071B2 (ja)
EP (1) EP2073555A3 (ja)
JP (1) JP5247412B2 (ja)
KR (1) KR101368094B1 (ja)
RU (1) RU2504107C2 (ja)
TW (1) TW200939786A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013070321A (ja) * 2011-09-26 2013-04-18 Toshiba Corp 画像圧縮装置及び画像処理システム
JP2015080102A (ja) * 2013-10-17 2015-04-23 キヤノン株式会社 映像処理装置、映像処理装置の制御方法

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1828335B1 (en) 2005-01-21 2010-03-10 Commonwealth Scientific And Industrial Research Organisation Activation method using modifying agent
US8194732B2 (en) * 2007-07-30 2012-06-05 Broadcom Corporation Integrated circuit with conversion capability for portable media player
US8194736B2 (en) * 2008-04-15 2012-06-05 Sony Corporation Video data compression with integrated lossy and lossless compression
US8432974B2 (en) * 2009-07-10 2013-04-30 The United States Of America As Represented By The Secretary Of The Navy Method and system for compression of hyperspectral or multispectral imagery with a global optimal compression algorithm (GOCA)
US8509489B2 (en) 2009-10-05 2013-08-13 The United States Of America, As Represented By The Secretary Of The Navy System and method for estimating velocity from image sequence with first order continuity
US9172960B1 (en) 2010-09-23 2015-10-27 Qualcomm Technologies, Inc. Quantization based on statistics and threshold of luminanceand chrominance
US8559763B2 (en) 2010-12-14 2013-10-15 The United States Of America As Represented By The Secretary Of The Navy Method and apparatus for motion-compensated interpolation (MCI) with conservative motion model
US9547911B2 (en) 2010-12-14 2017-01-17 The United States Of America, As Represented By The Secretary Of The Navy Velocity estimation from imagery using symmetric displaced frame difference equation
US20120281756A1 (en) * 2011-05-04 2012-11-08 Roncero Izquierdo Francisco J Complexity change detection for video transmission system
CN102568434A (zh) * 2011-12-29 2012-07-11 四川虹欧显示器件有限公司 用于显示器的数据存储方法和装置
US9106936B2 (en) 2012-01-25 2015-08-11 Altera Corporation Raw format image data processing
US10230959B2 (en) 2012-06-01 2019-03-12 Nxp Usa, Inc. Method and apparatus for performing compression of image data
WO2015038569A2 (en) 2013-09-10 2015-03-19 Rambus Inc. Oversampled image sensor with conditional pixel readout
US10142642B2 (en) * 2014-06-04 2018-11-27 Qualcomm Incorporated Block adaptive color-space conversion coding
CN105578190B (zh) * 2016-02-03 2018-05-04 珠海全志科技股份有限公司 应用于视频硬解码的无损压缩方法及系统
RU2654126C2 (ru) * 2016-09-09 2018-05-16 Общество с ограниченной ответственностью "Спирит Корп" Способ и устройство высокоэффективного сжатия мультимедийной информации большого объема по критериям ее ценности для запоминания в системах хранения данных
CA2942257C (en) * 2016-09-19 2022-09-06 Pleora Technologies Inc. Methods and systems for balancing compression ratio with processing latency
RU169308U1 (ru) * 2016-11-07 2017-03-14 Федеральное государственное бюджетное образовательное учреждение высшего образования "Юго-Западный государственный университет" (ЮЗГУ) Устройство для оперативного восстановления видеосигнала RGB-модели
US10440376B2 (en) * 2017-01-05 2019-10-08 Nokia Of America Corporation Compressive sensing with joint signal compression and quality control
KR102523959B1 (ko) * 2018-01-26 2023-04-20 삼성전자주식회사 이미지 처리 장치 및 이미지 처리 장치의 동작 방법
US10819965B2 (en) * 2018-01-26 2020-10-27 Samsung Electronics Co., Ltd. Image processing device and method for operating image processing device
KR102626217B1 (ko) * 2018-11-30 2024-01-16 삼성전자주식회사 프레임 버퍼 컴프레서 및 이를 포함하는 이미지 처리 장치
CN109672923B (zh) * 2018-12-17 2021-07-02 龙迅半导体(合肥)股份有限公司 一种数据处理方法和装置
US11221778B1 (en) * 2019-04-02 2022-01-11 Pure Storage, Inc. Preparing data for deduplication
CN113709489B (zh) * 2021-07-26 2024-04-19 山东云海国创云计算装备产业创新中心有限公司 一种视频压缩方法、装置、设备及可读存储介质
WO2023048464A1 (ko) * 2021-09-23 2023-03-30 엘지전자 주식회사 영상 부호화/복호화 방법, 비트스트림을 전송하는 방법 및 비트스트림을 저장한 기록 매체

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06268961A (ja) * 1993-03-10 1994-09-22 Fuji Photo Film Co Ltd ディジタル電子スチルカメラ
JPH11234671A (ja) * 1998-02-12 1999-08-27 Hitachi Ltd 信号処理装置
JP2001506085A (ja) * 1996-12-10 2001-05-08 トムソン コンシューマ エレクトロニクス インコーポレイテッド メモリを有効利用する画像処理システムのオーバーヘッド・データプロセッサ
US6256347B1 (en) * 1996-12-17 2001-07-03 Thomson Licensing S.A. Pixel block compression apparatus in an image processing system
JP2002111989A (ja) * 2000-10-02 2002-04-12 Mega Chips Corp 画像処理回路
JP2003047024A (ja) * 2001-05-14 2003-02-14 Nikon Corp 画像圧縮装置および画像圧縮プログラム
US20070189620A1 (en) * 2006-02-13 2007-08-16 Novatek Microelectronics Corp. Pixel data compression and decompression method and device thereof
JP2007312126A (ja) * 2006-05-18 2007-11-29 Toshiba Corp 画像処理回路

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR930011694B1 (ko) * 1991-03-27 1993-12-18 삼성전자 주식회사 디지탈 영상 데이타의 압축방식 및 장치
GB2266635B (en) * 1992-02-28 1995-11-15 Sony Broadcast & Communication Image data compression
US6668015B1 (en) * 1996-12-18 2003-12-23 Thomson Licensing S.A. Efficient fixed-length block compression and decompression
GB2339989B (en) 1998-05-19 2002-11-27 Lsi Logic Corp Method and apparatus for decoding video data
JP3413720B2 (ja) * 1998-06-26 2003-06-09 ソニー株式会社 画像符号化方法及び装置、並びに画像復号方法及び装置
US6674479B2 (en) * 2000-01-07 2004-01-06 Intel Corporation Method and apparatus for implementing 4:2:0 to 4:2:2 and 4:2:2 to 4:2:0 color space conversion
US6831947B2 (en) * 2001-03-23 2004-12-14 Sharp Laboratories Of America, Inc. Adaptive quantization based on bit rate prediction and prediction error energy
JP2003312126A (ja) 2002-04-22 2003-11-06 Nippon Zeon Co Ltd インクジェット記録媒体用重合体ラテックス及びインクジェット記録媒体用塗工組成物
HUP0301368A3 (en) * 2003-05-20 2005-09-28 Amt Advanced Multimedia Techno Method and equipment for compressing motion picture data
CN101616330B (zh) * 2003-07-16 2012-07-04 三星电子株式会社 用于色彩图像的视频编码/解码装置和方法
JP4617644B2 (ja) * 2003-07-18 2011-01-26 ソニー株式会社 符号化装置及び方法
US20050129130A1 (en) * 2003-12-10 2005-06-16 Microsoft Corporation Color space coding framework
JP4973871B2 (ja) 2005-10-14 2012-07-11 日本電気株式会社 画像符号化方法及び、これを用いた装置とコンピュータプログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06268961A (ja) * 1993-03-10 1994-09-22 Fuji Photo Film Co Ltd ディジタル電子スチルカメラ
JP2001506085A (ja) * 1996-12-10 2001-05-08 トムソン コンシューマ エレクトロニクス インコーポレイテッド メモリを有効利用する画像処理システムのオーバーヘッド・データプロセッサ
US6256347B1 (en) * 1996-12-17 2001-07-03 Thomson Licensing S.A. Pixel block compression apparatus in an image processing system
JPH11234671A (ja) * 1998-02-12 1999-08-27 Hitachi Ltd 信号処理装置
JP2002111989A (ja) * 2000-10-02 2002-04-12 Mega Chips Corp 画像処理回路
JP2003047024A (ja) * 2001-05-14 2003-02-14 Nikon Corp 画像圧縮装置および画像圧縮プログラム
US20070189620A1 (en) * 2006-02-13 2007-08-16 Novatek Microelectronics Corp. Pixel data compression and decompression method and device thereof
JP2007312126A (ja) * 2006-05-18 2007-11-29 Toshiba Corp 画像処理回路

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013070321A (ja) * 2011-09-26 2013-04-18 Toshiba Corp 画像圧縮装置及び画像処理システム
JP2015080102A (ja) * 2013-10-17 2015-04-23 キヤノン株式会社 映像処理装置、映像処理装置の制御方法

Also Published As

Publication number Publication date
EP2073555A2 (en) 2009-06-24
EP2073555A3 (en) 2009-09-09
KR20090067067A (ko) 2009-06-24
US20090161753A1 (en) 2009-06-25
JP5247412B2 (ja) 2013-07-24
RU2504107C2 (ru) 2014-01-10
RU2008150330A (ru) 2010-06-27
TW200939786A (en) 2009-09-16
KR101368094B1 (ko) 2014-02-28
US8401071B2 (en) 2013-03-19

Similar Documents

Publication Publication Date Title
JP5247412B2 (ja) 視覚的に無損失のビデオデータ圧縮
US8150178B2 (en) Image encoding/decoding method and apparatus
KR101311402B1 (ko) 영상의 부호화 방법 및 장치, 복호화 방법 및 장치
CN107087191B (zh) 图像解码方法和图像处理设备
US8126282B2 (en) Image encoding apparatus and image decoding apparatus
US20090129466A1 (en) Method, medium, and apparatus efficiently encoding and decoding moving image using image resolution adjustment
WO2010004726A1 (ja) 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、プログラム、及び集積回路
US9143800B2 (en) Method and apparatus for encoding and decoding image
JPWO2008084745A1 (ja) 画像符号化装置および画像復号化装置
WO2008020687A1 (en) Image encoding/decoding method and apparatus
JP2009055623A (ja) ディジタル画像および音声データを無損失に復号化するためのシステムおよび方法
JP3117091B2 (ja) 画像符号化装置
CA2644379C (en) Visually lossless video data compression
EP4162683A1 (en) Data encoding and decoding
US20070253629A1 (en) Image Processing Device and Image Forming Device Provided therewith
Lee et al. A new intra prediction method using channel correlations for the H. 264/AVC intra coding
JPH08279913A (ja) 画像通信方法及びその装置
WO2023275512A1 (en) Data encoding and decoding
WO2022073789A1 (en) Data encoding and decoding

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111118

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120820

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20121120

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20121126

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20121220

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20121226

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130121

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130124

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130409

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160419

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees