JP6868793B2 - 画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化法 - Google Patents

画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化法 Download PDF

Info

Publication number
JP6868793B2
JP6868793B2 JP2019187647A JP2019187647A JP6868793B2 JP 6868793 B2 JP6868793 B2 JP 6868793B2 JP 2019187647 A JP2019187647 A JP 2019187647A JP 2019187647 A JP2019187647 A JP 2019187647A JP 6868793 B2 JP6868793 B2 JP 6868793B2
Authority
JP
Japan
Prior art keywords
sad
coding mode
image block
block
coding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019187647A
Other languages
English (en)
Other versions
JP2020123947A (ja
Inventor
ゴラム サーヴァー モハメド
ゴラム サーヴァー モハメド
タバタバイ アリ
タバタバイ アリ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JP2020123947A publication Critical patent/JP2020123947A/ja
Application granted granted Critical
Publication of JP6868793B2 publication Critical patent/JP6868793B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/15Data rate or code amount at the encoder output by monitoring actual compressed data size at the memory before deciding storage at the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

関連出願の相互参照/引用による組み入れ
なし
本開示の様々な実施形態は、組み込みコーデック回路における画像及びビデオ圧縮及び解凍技術に関する。より具体的には、本開示の様々な実施形態は、画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化のための組み込みコーデック(EBC)回路及びその方法に関する。
画像圧縮のための画像化技術における最近の進歩は、視覚品質の有意な劣化及び/又はメモリ使用への影響を生じることなく、様々な解像度(例えば、フル高解像度(HD)4K解像度、及び8K解像度)を備えた画像を格納することができる画像取り込み及びディスプレイデバイスにおいてオンチップコーデックの需要の増加をもたらしている。典型的には、従来の画像符号化回路は、異なる符号化方式によって画像ブロックを符号化し、符号化画像ブロックのマルチビットストリームから異なる画像ブロックを完全に再構成するように構成することができる。このような動作は、符号化画像ブロックから再構成された画像ブロックが最小圧縮アーティファクトを有するように画像ブロックを符号化する最適モードを決定する目的で実行することができる。再構成画像ブロックは、オリジナル画像ブロックと比較して最適符号化モードを選択することができる。最適符号化モードを見付けるための各画像ブロックの繰り返しの符号化、再構成、及び比較の欠点のあるサイクルは、コンピューティング資源及びメモリ資源の過度な利用につながり、画像ブロックの符号化動作における遅延を引き起こす可能性がある。
従来の伝統的方法の制限及び欠点は、記述されてきたシステムと本出願の残りに図面に関して示す本開示の一部の態様との比較を通して当業者に明らかになるであろう。
画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化のための組み込みコーデック(EBC)回路及び方法は、請求項にて完全に記載されるように、図面のうちの少なくとも1つに関して図示及び/又は説明されて実質的に提供される。
本開示のこれらの及び他の特徴及び利点は、同じ参照数字が全体を通して同じ部分を示す添付の図面と共に本開示の以下の詳細な説明を精査することで理解することができる。
本開示の一実施形態による、画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化のための組み込みコーデック(EBC)回路及び他の回路を備えた例示的なメディアデバイスを示すブロック図である。 本開示の一実施形態による、画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化のための様々な周辺構成要素を備えた図1のEBC回路を示すブロック図である。 本開示の一実施形態による、画像ブロックに対する画素領域前処理動作に基づく図2のEBC回路による画像ブロック符号化の例示的シナリオを示す図である。 本開示の一実施形態による、画像ブロックに対する画素領域前処理動作に基づく図2のEBC回路による画像ブロック符号化の例示的シナリオを示す図である。 本開示の一実施形態による、画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化の例示的な動作を示す流れ図である。 本開示の一実施形態による、画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化の例示的な動作を示す流れ図である。
本開示の様々な実施形態は、画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化の方法及び組み込みコーデック(EBC)回路に見出すことができる。本開示のEBC回路は、画像ブロックの変換領域符号化段階の後に取得されたビットストリームからの画像ブロックのフル再構成なしで画像ブロックを符号化するための最良(すなわち、最適)モードを選択する解決手法を提供する。従来の技術は、画像ブロックを符号化する最良モードを選択するために全画像ブロックを再構成しなければならないので、本開示のEBC回路は、オリジナル画像ブロックの画素領域前処理段階(変換領域符号化段階の前)にて画像ブロックを符号化する最良モードを決定する。本開示のEBC回路はまた、画素領域前処理段階にて最適量子化パラメータ値及び残差予測タイプ(例えば、DCのみ又は全周波数の残差)の選択に対処する。従って、本開示のEBC回路は、画像ブロックの視覚的に損失のない画像品質を依然として維持しながら最良モードを選択する。画素領域前処理段階により、コンピューティング資源及びメモリ資源の最小限で効率的な使用が可能となり、従来技術よりも大幅に高速な処理時間で異なる画像ブロックに対して符号化動作を実行する。
図1は、本開示の一実施形態による、画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化のための組み込みコーデック(EBC)回路及び他の回路を備えた例示的なメディアデバイスを示すブロック図である。図1を参照すると、プロセッサ106、EBC回路108、及び外部メモリ110を含むメディアデバイス102が示されている。一部の実施形態では、画像センサ104は、プロセッサ106、EBC回路108、及び外部メモリ110とインタフェース接続することができる。更に、画像センサ104、プロセッサ106、EBC回路108、及び外部メモリ110を相互接続するシステムバス112が示されている。
メディアデバイス102は、符号化(すなわち、圧縮された)画像及び/又はビデオとして未圧縮生画像及び/又はビデオを外部メモリ110に格納するよう構成することができる適当な論理、回路、及びインタフェースを含むことができる。メディアデバイス102は、媒体コンテンツ(例えば、符号化画像及び/又はビデオ)の符号化並びに復号、及びメディアデバイス102での復号媒体コンテンツの再生を管理するよう構成することができる。メディアデバイス102は、メディアデバイス102の媒体コンテンツのオフライン(ネットワークなし)符号化のための他のコンピュータ回路と共に、専用オンチップコーデック回路(EBC回路108など)、及び画像(生未圧縮又は符号化)のストレージのための外部メモリ110を含むことができる。一部の実施形態では、メディアデバイス102は、未圧縮ファイルフォーマットである生画像ファイルフォーマットの画像を取り込むために1又は2以上の画像センサ(画像センサ104など)を含むこともできる。このような場合、取り込まれた画像は、メディアデバイス102のEBC回路108によって符号化することができる。メディアデバイス102の実施例は、限定されないが、デジタルカメラ、携帯式通信デバイス(例えば、ラップトップ、スマートフォン、タブレット、ファブレット、スマートウォッチ、スマートグラスなど)、媒体サーバ、ワークステーション、デスクトップコンピュータ、及び拡張現実/仮想現実/混合現実(AR/VR/MR)デバイスを含むことができる。
図1には示していないが、メディアデバイス102は、通信ネットワーク(図示せず)を介して他の周辺又はピア接続デバイスとの符号化及び/又は未圧縮の生画像及び/又はビデオの共有を管理するよう構成することができるネットワークインタフェースを含むこともできる。ネットワークインタフェース及び通信ネットワークの詳細な説明は、簡潔にするために本開示から省略されている。
画像センサ104は、画像センサ104の視野(FOV)におけるシーンの未圧縮の生画像又は未圧縮の生画像のシーケンスを取り込むよう構成することができる適当な論理、回路、及びインタフェースを含むことができる。画像センサ104は、相補型金属酸化膜半導体(CMOS)センサなどのアクティブ画素センサとして実施することができる。このような実施では、画像センサ104を、CMOSセンサのセンサコアでの画素の各行又は列(1次元(1D)画素アレイ又は1D画像ブロック)のプログレッシブ走査(1ラインずつ)を実行するよう構成することができる。プログレッシブ走査は、垂直走査(列方向)又は水平走査(行方向)とすることができる。一部の実施形態では、アクティブ画素センサの代わりに、画像センサ104を、パッシブ画素センサ(電荷結合デバイス(CCD)センサ、オーバーサンプルバイナリ画像センサ、平面フーリエキャプチャアレイ(PFCA)、バック照明(BSI又はBI)センサなど)の1つとして実施することができる。図示してないが画像センサ104は、画像センサ104からの画像データに従って図形処理ユニット(GPU)を動作し、フレームバッファ、及び/又は画像センサ104に一体化したメモリに格納された画像を処理するよう構成された専用マイクロプロセッサ(又はマイクロコントローラ)を含むこともできる。
プロセッサ106は、専用メモリ(例えば、外部メモリ110又はEBC回路108のオンチップメモリ)に格納された命令のセットを実行するよう構成することができる適当な論理、回路、及びインタフェースを含むことができる。プロセッサ106は、当技術で公知の幾つかのプロセッサ技術に基づいて実施することができる。プロセッサ106の例は、限定されないが、グラフィカル処理ユニット(GPU)、プロセッサのためのコプロセッサ(専用画像コプロセッサなど)、専用デジタル信号プロセッサ、中央処理ユニット(CPU)、x86ベースのプロセッサ、x64ベースのプロセッサ、縮小命令セットコンピュータ(RISC)プロセッサ、特定用途向け集積回路(ASIC)プロセッサ、複数命令セットコンピュータ(CISC)プロセッサを含むことができる。
EBC回路108は、第1画像ブロックに対する画素領域前処理動作に基づいて選択された特定の符号化モードに基づいて第1画像ブロック(例えば、特定の圧縮係数に対して8×4又は16×8画像ブロック)を符号化するよう構成することができる適当な論理、回路、及びインタフェースを含むことができる。EBC回路108は更に、EBC回路108で受信された命令に応じて、符号化第1画像ブロックを復号するよう構成することができる。第1画像ブロックは、画像センサ104による行方向又は列方向走査に続いて画像センサ104の読み出しレジスタから直接取り出された入力画像フレーム(すなわち、未圧縮の生画像フレーム)又は画素アレイ(行又は列)の一部とすることができる。EBC回路108は、外部メモリ110への符号化第1画像ブロックのビットストリームのストレージを管理することができるか、又は専用通信ネットワークを介して他のメディアデバイスへの符号化第1画像のビットストリームの転送を管理することができる。
EBC回路108は、メディアデバイス102の他のコンピュータ回路に接続された専用ハードウェア符号器/復号器として実施することができる。このような実施では、EBC回路108は、特定のコンピュータ回路での固有の形式因子に関連付けることができる。特定のコンピュータ回路の例は、限定されないが、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブル論理デバイス(PLD)、特定用途向け集積回路(ASIC),プログラマブルASIC(PL−ASIC)、特定用途向け集積部品(ASSP)、及び標準的マイクロプロセッサ(MPU)又はデジタル信号プロセッサ(DSP)に基づくシステムオンチップ(SOC)を含むことができる。別の実施形態により、EBC回路108は、グラフィカル処理ユニット(GPU)に接続してEBC回路108の動作を並列処理にすることができる。別の実施形態により、EBC回路108を、メディアデバイス102のハードウェア回路のメモリ及び論理ユニット(又はプログラマブル論理ユニット)に格納されたプログラマブル命令の組合せとして実施することができる。
外部メモリ110は、入力画像フレーム(未圧縮の生の又は符号化された)又は入力画像のシーケンスを格納するよう構成することができる適当な論理、回路、及びインタフェースを含むことができる。外部メモリ110は、画像センサ104から取り出された生の未圧縮画像ブロックを格納するための画像バッファとして動作するよう構成することができる。加えて、外部メモリ110は、画像ブロックに対する画素領域前処理動作に基づいて選択することができる逐次符号化/復号方式(最適符号化モードに対応する)に関連付けられる命令を格納することができる。例示的実施形態では、外部メモリ110を、EBC回路108に外部から接続することができる動的ランダムアクセスメモリ(DRAM)回路とすることができる。別の例示的実施形態では、外部メモリ110は、EBC回路108に外部から接続することができる静的ランダムアクセスメモリ(SRAM)回路とすることができる。外部メモリ110の実施の例は、限定されないが、ランダムアクセスメモリ(RAM)、読取り専用メモリ(ROM)、電子的消去可能プログラマブル読取り専用メモリ(EEPROM)、ハードディスクドライブ(HDD)、固体ドライブ(SSD)、CPUキャッシュ、又はセキュアデジタル(SD)カードを含むことができる。
図1に示していないが、メディアデバイス102は、アドバンスドビデオコーデック(AVC)/媒体エキスパートグループ(MPEG−4/AVC)又はH.264、MPEG−4/HEVC又はH.265などを含むことができる公知のコーデック規格と互換性がありこれをサポートすることができるビデオコーデックを含むことができる。加えて、ビデオコーデックは、FFmpeg、Xvid、DIVx、VP1−9、Windowsメディアコーデック、FFavsなどを含むことができる他のコーデックライブラリによって支援することができる。
システムバス112は、メディアデバイス102の異なる構成要素へのデータチャネルのセット(又は導電性経路)を含むことができるハードウェアバスとすることができる。つまり、システムバス112は、メディアデバイス102の異なる構成要素の少なくともデータポート、アドレスポート、及び制御信号ポートを相互接続することができる。例えばシステムバス112は、画像センサ104、プロセッサ106、EBC回路108、外部メモリ110、及び他の回路を互いに相互接続することができる。システムバス112は、メディアデバイス102上の異なる構成要素間のシリアルデータ通信又はパラレルデータ通信を容易にするよう構成することができる。システムバス112の例は、8ビットパラレルシングルシステムバス、16ビットパラレルシングルシステムバス、32ビットパラレルシングルシステムバス、64ビットパラレルシングルシステムバス、シリアルデータバスなどを含むことができる。
動作中、入力画像フレームの複数の画像ブロック(例えば2D画像ブロック)は、メディアデバイス102の外部メモリ110によって受信することができる。一部の実施形態では、第1画像ブロックを、メディアデバイス102に接続されたオンチップ画像センサ(画像センサ104など)又はカメラデバイスから逐次、複数の画像ブロックから取り出すことができる。他の実施形態では、複数の画像ブロックは、メディアデバイス102の永続ストレージに格納された未圧縮生画像の論理的区分から取り出すことができるか、又はカメラ、データサーバなどの他の媒体ストレージデバイスから外部から受信することができる。
1つの実施形態によれば、EBC回路108は、複数の画像ブロックからの第1画像ブロックを外部メモリ110又は画像センサ104から逐次的に受信するよう構成することができる。メディアデバイス102は、メディアデバイス102の外部メモリ110などのメモリの第1ストレージスペースに第1画像ブロックを格納するよう構成することができる。EBC回路108は、第1画像ブロックに対して逐次符号化方式を実行し符号化第1画像ブロックのビットストリームを生成するよう構成することができる。しかしながら、逐次符号化方式を適用するために、第1画像ブロックへの実際の変換領域符号化動作の前に前処理動作の一部として画素領域における最適符号化モードを決定することができる。最適符号化モードは、従来の技術で実施されるような異なる符号化モードによる符号化第1画像ブロックの再構成なしで決定することができる。画素領域の差分絶対値和(SAD)は、ハードウェアの不都合な逆変換動作を必要とする。しかしながら、開示する方法は、各画像ブロックの再構成が必要ないのでハードウェアでの実施が容易である。
1つの実施形態によれば、EBC回路108は、入力画像フレームを複数の画像ブロックに区分化するよう構成することができる。複数の画像ブロックの各画像ブロックは、複数の画素値を含むことができる。各画像ブロックのサイズは、「8×4画素」又は「16×4画素」など、予め決められた値に基づくことができる。各画像ブロックにおける各画素は、8ビットの組合せなどのビット深度によって表すことができる。EBC回路108は、画素領域において入力画像フレームの第1画像ブロックに対して前処理動作を実行するよう構成することができる。この前処理動作は、符号化モードのセットの中の1つの符号化モードを決定するために実行することができ、ここで決定された符号化モードを用いて、要求されたビット深度で第1画像ブロックを符号化することができる。符号化モードのセットは、第1符号化モード及び第2符号化モードを含むことができる。第1符号化モード及び第2符号化モードは、第1逐次符号化方式及び第2逐次符号化方式にそれぞれ対応することができる。第1逐次符号化方式及び第2逐次符号化方式の各逐次符号化方式は、順方向変換動作、量子化動作、残差予測動作、DPCM動作、及びエントロピー符号化動作などの動作シーケンスを含むことができる。ここで、順方向変換の適用は、第1画像ブロックの各行への1次元行離散コサイン変換(1D行DCT)の適用又は第1画像ブロックの各列への1D列DCTの適用に対応し、複数の変換係数を生成することができる。
一部の実施形態では、順方向変換のタイプは、正弦ユニタリー変換のファミリー(正規直交ベース又は固有ベクトルのファミリーを含む)に基づくことができる。順方向変換の例は、限定ではないが、タイプI−VIIIDCT、タイプI−VIII離散正弦変換(DST)、離散ウェーブレット変換(DWT)、及びデュアルツリー複素ウェーブレット変換(DCWT)を含むことができる。同様に、エントロピー符号化方式は、可変長符号化(VLC)方式、又はコンテキスト適応可変長符号化(CAVLC)方式又はコンテキスト適応バイナリアリ算術符号化(CABAC)方式の1つとすることができる。VLC方式の例は、限定ではないが、Lempel−Ziv(ランペルジブ)符号化、ハフマン符号化、算術符号化、exp−Golomb(指数ゴロム)符号化、Golomb符号化、及びプログレッシブGolomb符号化を含むことができる。
前処理動作では、EBC回路108は、第1画像ブロックに対する残差予測方式の行方向の適用に基づいて第1予測ブロックを生成するよう構成することができる。同様にEBC回路108は更に、第1画像ブロックにおける残差予測方式の列方向の適用に基づいて第2予測ブロックを生成するよう構成することができる。残差予測方式は、差分パルス符号変調(DPCM)方式、適応DPCM方式、又はPCM方式のうちの少なくとも1つとすることができる。EBC回路108は更に、第1画像ブロックの異なる残差予測値から画素領域の差分絶対値和(SAD)をコンピュータ計算するよう構成することができる。詳細には、EBC回路108は、画素領域における行方向残差値の第1予測ブロックから第1SADと、列方向残差値の第2予測ブロックから第2SADとをコンピュータ計算するよう構成することができる。第1SAD及び第2SADは、行方向及び列方向それぞれが走査された時の第1画像ブロックの画素値における空間変動の尺度を提供することができる。一部の実施形態では、SADの代わりに、画像ブロック間の他の類似性尺度、例えば差分二乗和(SSD)は、本開示の範囲を限定することなく用いることができる。
EBC回路108は更に、符号化モードのセットの各符号化モードに対する残差予測方式のパラメータとして、残差予測タイプのセットの中から1つの残差予測タイプを選択するよう構成することができる。例えば、残差予測方式がDPCM方式である場合、残差予測タイプは、全周波数DPCM又は直流(DC)のみDPCMの何れかとして選択することができる。或いは、第1符号化モード及び第2符号化モードにて第1画像ブロックの周波数成分(DC及び交流AC))レベルの全て又はDCレベルのみにDPCM方式を実行するかどうか決定することができる。
EBC回路108は、コンピュータ計算された第1SAD及びコンピュータ計算された第2SADに基づいて、第1符号化モード及び第2符号化モードの各々に対する最適量子化パラメータとして量子化パラメータのセットを選択するよう構成することができる。前処理動作は、例えば図2、3A及び3Bに関して更に詳しく説明している。
第1符号化モード及び第2符号化モードでは、選択された残差予測タイプ及び選択された量子化パラメータのセットに基づいて、EBC回路108は、第1画像ブロックを別々に符号化して符号化第1画像ブロックのビットストリームのセットを生成することができる。ビットストリームのセットからの各ビットストリームは、逐次符号化方式のセットの異なる逐次符号化方式に対応することができる。換言すると、各ビットストリームが異なる圧縮モードに対応することができ、個々の方式及び動作の異なるパラメータを変えることができる。例えば、第1符号化モードは、第1逐次符号化方式に対応することができ、1D行DCT、選択された量子化パラメータによる量子化、残差予測方式(選択された残差予測タイプを持つ)、及びエントロピー符号化方式のシーケンスを含むことができる。第2符号化モードは、第2逐次符号化方式に対応することができ、1D列DCT、選択された量子化パラメータによる量子化、残差予測方式(選択された残差予測タイプを持つ)、及びエントロピー符号化方式のシーケンスを含むことができる。
EBC回路108は、ビットストリームの各々に関連付けられるビット損失値をコンピュータ計算するよう構成することができる。1つの実施形態によれば、このビット損失値は、ビットストリームのセットの各々に対するビットカバレージ値からコンピュータ計算することができる。このような場合、ビット損失値は、ビットストリームのビットの総数から対応するビットストリームのビットカバレージ値を引いた差とすることができる。ビットカバレージ値は、第1符号化モード又は第2符号化モードにて損失なしで符号化された第1画像ブロックの全サンプルのビットの数を表すことができる。同様に、ビット損失値は、損失のある方式で符号化された第1画像ブロックのサンプルのセットに対応するビットストリームのビットの数を表すことができる。従って、ビットカバレージ値とビット損失値の両方は、第1符号化モード及び第2符号化モードから最適符号化モードを決定するために用いられる符号化品質の尺度を表すことができる。EBC回路108は、ビットストリームのセットの他のビットストリームと比較してビットストリームのセットから最小ビット損失値を有するビットストリームを識別するよう構成することができる。換言すると、ビットストリームのセットから識別されたビットストリームは、損失のある方式で符号化されたサンプルの最小数(第1画像ブロックに対応する)を有するビットストリームである。識別されたビットストリームは、第1符号化モード又は第2符号化モードの1つから選択された好ましい符号化モードに対応することができる。従って、EBC回路108は、ビットストリームのセットの各々に関連付けられるビット損失値のコンピュータ計算に基づいて、最適符号化モードとして第1符号化モード又は第2符号化モードの1つを選択するよう構成することができる。
従来の符号化回路は、異なる逐次符号化方式に基づいて符号化された第1画像ブロックの異なるビットストリームから画像ブロックのセットを完全に再構成する必要がある。従って、完全に再構成するために、従来の符号化回路は、異なるビットストリームの全セットを復号して画像ブロックの完全に再構成された第1セットの各々と第1画像ブロックを比較する必要がある。これは、最小圧縮アーティファクト、最大圧縮係数、及び符号化第1画像ブロックに対する全体的なビット深度の低減を起こすことができる最適符号化モードとして符号化モードを識別するために行われる。画像ブロックの第1セットのフル再構成が、コンピュータ計算時間(符号化/復号時間を含む)を増加させることがあるコンピューティング資源に集中する処理になることがあり、処理に多くのメモリを必要とする。対照的に、EBC回路108は、複数の圧縮ビットストリームの各々に関連付けられるビット損失値のコンピュータ計算に基づいて最適符号化モードを識別することができる。最適符号化モードは、第1画像ブロックの異なるビットストリームから異なる画像ブロックを完全に再構成する必要なく選択することができる。画素領域の絶対差の和(SAD)は、一般的にハードウェアの不便な逆変換動作を必要とする。しかしながら、本開示のEBC回路108は、ブロックの完全再構成が前処理段階のために必要ないのでハードウェアで実施するのが容易である。
EBC回路108は、最適符号化モードに対応する最適逐次符号化方式の適用により第1画像ブロックを符号化し符号化第1画像ブロックのビットストリームを生成するよう構成することができる。メディアデバイス102は、第1画像ブロックを格納するのに必要なスペースより小さなストレージスペースに圧縮第1画像ブロックのストリームとしてビットストリームを格納するよう構成することができる。
1つの実施形態によれば、EBC回路108のEBC復号器回路(図1には図示せず)は、異なる符号化テーブル、例えば、エントロピー符号化方式のための符号化テーブル及び量子化テーブルを事前に格納するよう構成することができる。従って、符号化第1画像ブロックのビットストリームが様々な符号化テーブル及び量子化テーブルを含む必要はない。1つの実施形態によれば、EBC回路108は、符号化第1画像ブロックのビットストリームを復号するために異なる復号方式を利用できる外部復号器によってビットストリームを復号できるように符号化画像ブロックのビットストリームを生成するよう構成することができる。このような場合、EBC回路108は、符号化第1画像ブロックのビットストリームに関連付けられるヘッダ情報又は異なるメタストリームに、異なる符号化テーブル(例えば、エントロピー符号化方式の符号化テーブル)及び量子化テーブルを追加するよう構成することができる。ビットストリームへのこのようなカスタムテーブル及び量子化テーブルの追加によって、EBC回路108の出力を他の復号器回路によって復号できるようにする。
1つの実施形態によれば、符号化第1画像ブロックのビットストリームは、外部メモリ110又はEBC回路108のオンチップメモリなどのメモリに入力画像の一部(2D画像)として格納することができる。符号化第1画像ブロックのビットストリームは、異なる応用における複数の実施を有することができる。1つの例示的実施では、符号化第1画像ブロックのビットストリームをシステムバス112を介して、メディアデバイス102のシステムバス112に通信可能に結合された(又は接続された)ディスプレイ回路(例えば、ビデオカード)のフレームバッファ(又はフレームストア)に転送するようプロセッサ106を構成することができる。このフレームバッファは、ディスプレイ回路の圧縮フレームバッファとして動作することができる。メディアデバイス102(又は復号回路(図1には図示せず)が符号化第1画像ブロックのビットストリームを復号して用い、メディアデバイス102のディスプレイ画面に画像のパッチを表示することができる。別の例示的実施では、符号化第1画像ブロックのビットストリームをシステムバス112を介して、メディアデバイス102のビデオ復号器の復号器ピクチャバッファ(DPB)、画像復号器のためのバッファメモリ、又はビデオコーデックの符号化ピクチャバッファ(CPB)に転送するようプロセッサ106を構成することができる。
例示的実施では、メディアデバイス102は、デジタルビデオカメラ又はデジタル画像カメラなどのカメラとすることができ、符号化第1画像ブロックのビットストリームは、カメラのCMOSセンサから直接受信される画素値の2Dアレイに対応することができる。特定のシナリオでは、EBC回路108をCMOSセンサ回路に実施することができる。EBC回路108の詳細な説明は、例えば図2、3A及び3Bに詳しく説明している。
図2は、本開示の一実施形態による画像ブロックでの画素領域前処理動作に基づく画像ブロック符号化のための様々な周辺構成要素を備えた図1のEBC回路を示すブロック図である。図2は、図1からの要素に関して記述されている。図2を参照すると、EBC回路108のブロック図200が示されている。EBC回路108は、入力/出力(I/O)インタフェース202、オンチップメモリ204、符号器回路206、及び復号器回路208を含むことができる。ブロック図200には、システムバス112を介して通信可能にEBC回路108に結合された画像センサ104、プロセッサ106、及び外部メモリ110が示されている。一部の実施形態では、プロセッサ106及び外部メモリ110を本開示の範囲から逸脱することなくEBC回路108の内側に実施することができる。
I/Oインタフェース202は、システムバス112を介して、他の周辺回路、例えば、外部メモリ110、プロセッサ106、又は画像センサ104からの通信データの交換を容易にするために複数のI/Oポートを管理するよう構成することができる適当な論理、回路、及びインタフェースを含むことができる。通信データは、符号化画像ブロックのビットストリーム、制御信号、CPU命令などを含むことができる。I/Oポートの構成は、EBC回路108の仕様、例えばASIC、FPGA、又はSoCチップの物理的I/Oピンに依存することができる。
オンチップメモリ204は、EBC回路108の異なる構成要素によって利用できる異なる動作データ(例えば、変換領域データ、残差レベル、量子化レベル、エントロピー符号化ビットなど)を格納し、入力画像フレームの複数の画像ブロックを符号化するよう構成することができる適当な論理、回路、及びインタフェースを含むことができる。格納するようオンチップメモリ204を構成できる動作データの例は、限定ではないが、符号化第1画像ブロックのビットストリーム、変換領域データ、量子化変換レベル、量子化変換残差レベル、及び1D/2D画像ブロックを含むことができる。オンチップメモリ204は、R/W速度、メモリサイズ、製造因子などの定義されるメモリ仕様によって設計される特定のメモリとして実施することができる。オンチップメモリ204の例は、限定ではないが、静的ランダムアクセスメモリ(SRAM)、動的アクセスメモリ(DRAM)、及び静的動的RAM(SD−RAM)を含むことができる。
符号器回路206は、オンチップメモリ204又は外部メモリ110などのメモリに格納された最適逐次符号化方式の適用により符号化第1画像ブロックのビットストリームを生成するよう構成することができる適当な論理、回路、及びインタフェースを含むことができる。最適逐次符号化方式は、第1画像ブロックでの画素領域前処理動作に基づいて選択することができる最適符号化モードに対応することができる。符号器回路206は、符号化動作で第1画像ブロックの量子化変換残差レベルのブロックを符号化するために用いることができるビットの数(すなわち、1つのサンプル当たりのビットのビット深度(bps))を低減するよう最適化することができる。好ましい値へのビット深度の低減は、第1画像ブロックに対するコンパクション効率及び/又は圧縮係数の向上を起こすことができる。一部の実施形態では、符号器回路206は、ASIC、プログラマブル論理デバイス(PLD)、SOC、FPGA、デジタル信号プロセッサ(DSP)又は他の専用回路の1つに基づいて実施することができるハードウェア符号器チップとすることができる。他の実施形態では、符号器回路206は、ハードウェアとオンチップメモリ204内の格納された命令のセット(例えば、超高速集積回路(VHSIC)ハードウェア記述言語(VHDL)又はHDL論理に基づく命令)の組合せとして実施することができる。
復号器回路208は、ビットストリーム内のヘッダ情報に基づいて符号化第1画像ブロックのビットストリームを復号するよう構成することができる適当な論理、回路、及びインタフェースを含むことができる。復号動作で、ビットストリームを復号器回路208によって処理しビットストリームから第1画像ブロックを再構成することができる。復号第1画像ブロックは、再構成された第1画像ブロックの向上した視覚品質から明らかになる大幅に低減された圧縮アーティファクトを提示することができる。復号器回路208は、復号器回路208に対する基準として動作することができる量子化テーブル及び符号化テーブルを事前に格納して、符号化第1画像ブロックのビットストリームを復号することができる。一部の実施形態では、復号器回路208は、ASIC、プログラマブル論理デバイス(PLD)、SOC、FPGA、デジタル信号プロセッサ(DSP)又は他の専用回路の1つに基づいて実施することができるハードウェア符号器チップとすることができる。他の実施形態では、復号器回路208は、ハードウェアとオンチップメモリ204内の格納された命令のセット(例えば、VHDL又はHDL論理に基づく命令)の組合せとして実施することができる。
動作中、プロセッサ106は、外部メモリ110(又はオンチップメモリ204)に格納された入力画像フレームを複数の画像ブロックに区分するよう構成することができる。複数の画像ブロックの中から、第1画像ブロックを符号器回路206によって外部メモリ110(又はオンチップメモリ204)から取り出すことができる。場合によっては、第1画像ブロックの取り出しは、複数の画像ブロックからの第1画像ブロックの選択に基づくことができる。符号器回路206は、最適符号化モードの選択の前に画素領域における入力画像フレームの第1画像ブロックに対して前処理動作を実行するよう構成することができる。一定の実施形態では、第1画像ブロックがYCbCrカラースペースで表され、第1画像ブロックは、ルーマブロック(すなわちクローマ成分)、クローマ−U(すなわち、クロミナンス青差成分)、及びクローマ−Vブロック(すなわち、クロミナンス赤差成分)によって表される。このような場合、符号器回路206は、画素領域のルーマブロック、クローマ−Uブロック、クローマ−Vブロックで別々に前処理動作を実行するよう構成することができる。前処理動作は、最適量子化パラメータ(適応量子化方式の一部として)及び最適残差予測タイプ(例えば、全周波数DPCM又はDCのみのDPCM)の選択を結果として生じることができる。最適残差予測タイプは、符号化画像ブロックのビットストリームの最小ビット損失値を生じることができる残差予測方式のパラメータに対応することができ、このようなビットストリームからの復号画像ブロックは、視覚的にロスレスになり、圧縮アーティファクトの影響が最も小さい。
前処理動作後に、符号器回路206は、第1逐次符号化方式及び第2逐次符号化方式それぞれに対応することができる第1符号化モード及び第2符号化モードを通して第1画像ブロックに符号化動作を実行するよう構成することができる。第1符号化モード及び第2符号化モードは、順方向変換、量子化、残差予測の逐次適用、及び続く第1画像ブロックへのエントロピー符号化方式の適用を含むことができる。エントロピー符号化方式は、可変長符号化(VLC)方式、又はコンテキスト適応可変長符号化(CAVLC)方式又はコンテキスト適応バイナリ算術符号化(CABAC)方式の1つとすることができる。VLC方式の例は、限定ではないが、ランペルジブ符号化、ハフマン符号化、算術符号化、指数ゴロム符号化、ゴロム符号化、及びプログレッシブゴロム符号化を含むことができる。
順方向変換のタイプ、量子化パラメータ、及び残差予測タイプは、第1符号化モードと第2符号化モードの間で変えることができる。符号器回路206は、第1符号化モード及び第2符号化モードによって生成されるビットストリームからのビット損失値に基づいて、第1符号化モードと第2符号化モードの1つから最適符号化モードを選択するよう構成することができる。前処理動作は本明細書に詳しく説明している。
前処理動作では、符号器回路206は、第1画像ブロックへの残差予測方式の行方向の適用に基づいて第1予測ブロックを生成するよう構成することができる。符号器回路206は、第1画像ブロックにおける残差予測方式の列方向の適用に基づいて第2予測ブロックを生成するよう構成することができる。残差予測方式は、差分パルス符号変調(DPCM)方式、適応DPCM方式、又はPCM方式のうちの少なくとも1つとすることができる。
例示的実施形態では、第1予測ブロックが残差画素値の水平DPCMブロックに対応することができ、第2予測ブロックが残差画素値の垂直DPCMブロックに対応することができる。第1予測ブロックは、第1画像ブロックの画素の各行の連続画素値の各ペアの間の差に基づいて生成することができる。同様に、第2予測ブロックは、第1画像ブロックの画素の各列の連続画素値の各ペア間の差に基づいて生成することができる。
符号器回路206は、画像ブロックの対応する画素値に基づいて、第1予測ブロックと第2予測ブロックの特定の残差値を設定するよう構成することができる。例えば、全ての青画素のDPCM残差値は、水平予測ブロック及び垂直予測ブロックで「0」に設定することができる。符号器回路206は、画素領域での行方向残差値の第1予測ブロックから第1SAD及び列方向残差値の第2予測ブロックから第2SADをコンピュータ計算するよう構成することができる。第1予測ブロック及び第2予測ブロックは第1画像ブロックに対応することができる。第1SAD及び第2SADは、第1予測ブロック及び第2予測ブロックの差の絶対和(すなわち画素領域の残差値)を表すことができる。第1SAD及び第2SADは、異なる走査方向(又は走査順序)、例えば左から右の行方向水平走査又は上から下の列方向垂直走査に沿った強力な端の項の入力画像ブロックの空間複雑性の尺度を示すことができる。
符号器回路206は更に、第1画像ブロックでの第1符号化モード及び第2符号化モードにて適用することができる残差予測方式の最適パラメータを決定するよう構成することができる。最適パラメータは、残差予測方式に基づいて処理することができる量子化変換レベルの一部を指定することができる残差予測タイプパラメータを含むことができる。符号器回路206は、第1符号化モード及び第2符号化モードの各々の最適残差予測タイプとして、残差予測タイプのセットから残差予測タイプを選択するよう構成することができる。残差予測タイプのセットは、限定ではないが、DCのみのDPCMタイプ及び全周波数DPCMタイプを含むことができる。最適残差予測タイプは、符号化画像ブロックのビットストリームの最小ビット損失値を結果として生じることができる残差予測方式のパラメータに対応することができ、このようなビットストリームからの復号画像ブロックは視覚的にロスがなく、圧縮アーティファクトの影響が最も小さい。残差予測タイプの選択は、第1符号化モード及び第2符号化モードそれぞれに指示された第1タイプの順方向変換及び第2タイプの順方向変換などの順方向変換のタイプに依存することができる。従って、残差予測タイプの選択は、コンピュータ計算された第1SAD及びコンピュータ計算された第2SADに基づくことができる。
例示的実施形態では、第1タイプの順方向変換は、第1符号化モードの1D列DCTとすることができる。符号器回路206は、第1符号化モードに対して、コンピュータ計算された第1SADがコンピュータ計算された第2SADより大きいか又は等しいかどうかをチェックするよう構成することができる。コンピュータ計算された第1SADがコンピュータ計算された第2SADより大きいか又は等しい時に、残差予測タイプを全周波数DPCMタイプとすることができる。そうでなければ、コンピュータ計算された第1SADがコンピュータ計算された第2SADより小さい時に、残差予測タイプをDCのみのDPCMタイプにすることができる。
DCのみのDPCMタイプでは、符号器回路206は、第1画像ブロックに対してDC量子化変換レベルのみにDPCM方式を適用するよう構成することができる。残りのAC量子化変換残差レベルは、DPCM方式の適用後に影響を受けないまま維持することができる。同様に、全周波数DPCMタイプでは、量子化変換残差レベルの全て(DC及びACレベルを含む)がDPCM方式を受けることができる。
例示的実施形態では、第2タイプの順方向変換を、第2符号化モードの1D行DCTとすることができる。このような場合、符号器回路206は、ルーマブロック及びクローマブロックのペアに対する特定のビット深度に従って、第1画像ブロックのルーマブロック及びクローマブロックのペア(すなわち、クローマU及びクローマ−V成分)に対するオフセットパラメータを決定するよう構成することができる。特定のビット深度は、符号化輝度又はクローマブロックの目標ビット深度とすることができる。オフセットパラメータは、クローマブロック値からのルーマブロック値のオフセットを示すことができる適応オフセット値に対応することができる。オフセットパラメータの値は、ルーマブロック及びクローマブロックのペアに対する目標ビット深度に基づいて決定することができる。オフセットパラメータの値は、目標ビット深度に関係なくクローマブロックのペアに対して「0」によって初期化することができ、オフセットパラメータの値は、ルーマブロックに対して0以外の値にすることができる。
異なる目標ビット深度に対するオフセットパラメータの異なる値の例を、以下の表1に示す。
Figure 0006868793
表1 異なるブロックタイプのオフセット値
表1では、オフセットパラメータの値が、目標ビット深度に関わらずクローマブロックのペアに対して「0」である。ルーマブロックの0以外の値は、「4bps」(サンプルごとのビット)のビット深度で「35」及び「6bps」のビット深度で「75」である。ここで、オリジナルビット深度は、第1画像ブロックのルーマ成分又はクローマ成分を表すために用いられるビットの数を表す。目標ビット深度は、好ましいビットバジェット内で所望の圧縮率を達成するための同じルーマ成分又はクローマ成分を符号化するために要求されるビットの数を表す。
符号器回路206は、コンピュータ計算された第1SADが、コンピュータ計算された第2SADと決定されたオフセットパラメータの和よりも小さいか又は等しいかどうか、第2符号化モードに対してチェックするよう構成することができる。例示的実施形態では、残差予測タイプは、コンピュータ計算された第1SADが、コンピュータ計算された第2SADと決定されたオフセットパラメータの和よりも小さいか又は等しい時に全周波数DPCMタイプとすることができる。そうでなければ、コンピュータ計算された第1SADが、コンピュータ計算された第2SADと決定されたオフセットパラメータの和より大きい時に残差予測タイプをDCのみのDPCMタイプとすることができる。
符号器回路206は、コンピュータ計算された第1SADとコンピュータ計算された第2SADの比較に基づいて最小SAD値を決定するよう構成することができる。従って、決定された最小SAD値が閾値よりも小さいかどうかをチェックすることができる。第1符号化モードと第2符号化モードの各々に対する量子化パラメータのセットの選択は、決定された最小SAD値が閾値よりも小さいかどうか決定するチェックに基づくことができる。この閾値は、ブロックタイプ(すなわち、ルーマ(輝度)成分及びクローマ(色度)成分で異なる)及び目標ビット深度に基づいて変えることができる。
量子化パラメータのセットの選択に対する異なるブロックタイプの異なる閾値の例を以下の表2に示す。
Figure 0006868793
表2 異なるブロックタイプの閾値
表2には、「4bps」及び「6bps」の目標ビット深度及びルーマ(輝度)のブロックタイプに対する閾値が「525」として設定されており、「4bps」及び「6bps」の目標ビット深度及びクローマ(色度)のブロックタイプの閾値が、それぞれ「250」及び「300」として設定されている。
符号器回路206は、第1符号化モード及び第2符号化モードの各々に対する最適量子化パラメータとして量子化パラメータのセットを選択するよう構成することができる。第1符号化モード及び第2符号化モードの各々の量子化パラメータのセットを、最小SAD値と閾値の比較に基づいて選択することができる。量子化パラメータの特定の値を、第1符号化モード及び第2符号化モードに対して、DCTタイプ、ブロックタイプ、及び目標ビット深度から決定することができる。異なる目標ビット深度及び異なるブロックタイプに対する量子化パラメータの異なるセットの例を以下の表3に示す。
Figure 0006868793
表3 異なる目標ビット深度及び異なるブロックタイプに対する量子化パラメータの異なるセット
表3から、第1符号化モード及び第2符号化モードに対する量子化パラメータのセットは、表3の4つの与えられた量子化パラメータ(QN0、QN1、QN2、及びQN3)の中の3つの異なる量子化パラメータの異なる組合せを含むことができる。例えば、第1符号化モード及び第2符号化モードの最小SADが閾値よりも小さい時、量子化パラメータのセットは、例にある(a)QN0、QN1、及びQN2の組合せ、又は(b)QN1、QN2、及びQN3の組合せの何れかから選択することができる。量子化パラメータの特定の値は、表3に示されるように、第1符号化モード及び第2符号化モードに対して、DCPタイプ、ブロックタイプ、及び目標ビット深度から決定することができる。
第1SAD及び第2SADのコンピュータ計算及び残差予測タイプ及び量子化パラメータのセットの選択は、画素領域の第1画像ブロックに関連付けられる前処理動作に対応する。この前処理動作は、符号化動作の前に実行され、異なる逐次符号化方式が、変換領域における第1画像ブロックに適用される。ここで第1画像ブロックでの異なる符号化モードを介した異なる逐次符号化方式の適用を説明する。
前処理動作後に、一部の実施形態では、符号器回路206は、第1符号化モードにて、第1画像ブロックに対して第1逐次符号化方式を適用して、符号化第1画像ブロックのビットストリームのセットから第1ビットストリームを生成するよう構成することができる。第1ビットストリームは、第1符号化モードに対する選択された残差予測タイプ及び選択された量子化パラメータのセットに基づいて生成することができる。第1逐次符号化方式は、第1タイプの順方向変換(例えば、1D行DCT)、量子化、残差予測(例えば、DPCM方式)、及びエントロピー符号化方式の逐次適用を含むことができる。符号器回路206は、第2符号化モードにて第1画像ブロックに第2逐次符号化方式を適用して、符号化第1画像ブロックのビットストリームのセットの第2ビットストリームを生成するよう構成することができる。第2ビットストリームは、第2符号化モードに対する選択された残差予測タイプ及び選択された量子化パラメータのセットに基づいて生成することができる。第2逐次符号化方式は、第2タイプの順方向変換(例えば、1D列DCT)、量子化、残差予測(例えば、DPCM方式)、及びエントロピー符号化方式の逐次適用を含むことができる。
第1符号化モード及び第2符号化モードから最良符号化モードを選択するために、符号器回路206は、符号化第1画像ブロックのビットストリームのセットからビット損失値の第1セット及びビット損失値の第2セットをコンピュータ計算するよう構成することができる。ビット損失値の第1セット及びビット損失値の第2セットは、第1符号化モード及び第2符号化モードそれぞれに対してコンピュータ計算することができる。1つの実施形態によれば、ビット損失値は、ビットストリームのセットの各々のビットカバレージ値からコンピュータ計算することができる。このような場合、ビット損失値は、ビットストリームのビットの総数から対応するビットストリームのビットカバレージ値を引いた差とすることができる。ビットカバレージ値は、第1符号化モード又は第2符号化モードにて損失なしで符号化された第1画像ブロックの全サンプルのビットの数を表すことができる。同様に、ビット損失値は、損失のある方式で符号化された第1画像ブロックのサンプルのセットに対応するビットストリームのビットの数を表すことができる。従って、ビットカバレージ値とビット損失値の両方は、第1符号化モード及び第2符号化モードから最適符号化モードを決定するために用いられる符号化品質の尺度を表すことができる。
1つの実施形態によれば、符号器回路206は、符号化第1画像ブロックのビットストリームのセットからビット損失値の第1セット及びビット損失値の第2セットをスケールするよう構成することができる。このスケーリングは、第1符号化モードのビット損失値と第2符号化モードに対するビット損失値の間の比較を標準化スケールで行うことができるように実行することができる。詳細には、第1画像ブロックの入力ビット深度が第1符号化モード及び第2符号化モードで同じである時でも、符号化第1画像ブロックの動作ビット深度(エントロピー符号化段階後)は、第1符号化モード及び第2符号化モードに対して異なるものにできる(か又はそうでなくてもよい)。例えば、「8」ビットパーサンプル(bps)の入力ビット深度では、第1符号化モード及び第2符号化モードを介した符号化第1画像ブロックの動作ビット深度を、それぞれ「6bps」及び「4bps」とすることができる。従って、第1符号化モード及び第2符号化モードを介した符号化第1画像ブロックのあらゆるサンプルを、「6ビット」及び「4ビット」によってそれぞれ表すことができる。公平な比較に対して、符号器回路206は、符号化第1画像ブロックのビットストリームのセットからビット損失値の第1セット及びビット損失値の第2セットをスケールするよう構成することができる。
従って、第1符号化モード又は第2符号化モードの1つを、第1画像ブロックの最良符号化モードとして符号器回路206によって選択することができる。最良符号化モードは、画像ブロックを最小ビット損失値で符号化できる符号化モードに対応することができ、符号化画像ブロックからの画像ブロックの再構成/復号は、視覚的に損失のない画像ブロックの生成をもたらすことができる。この選択は、コンピュータ計算されたビット損失値の第1セット及びコンピュータ計算されたビット損失値の第2セットに基づいて行うことができる。換言すると、合計ビット損失値が最小である符号化モードが、最良符号化モードとして選択される。符号器回路206は、最良符号化モードを介して、第1画像ブロックに最適逐次符号化方式を適用し符号化画像ブロックのビットストリームを生成するよう構成することができる。図1及び2に示すEBC回路108によって実行される機能及び/又は動作は、例えば図3A及び3Bに詳しく説明している。
図3A及び3Bは、本開示の一実施形態による画像ブロックに対する画素領域前処理動作に基づく図2のEBC回路による画像ブロック符号化の例示的シナリオを示す。図3A及び3Bは、図1及び図2からの要素に関して記述している。
304で、前処理動作を、画素領域の入力画像フレーム302の第1画像ブロック302Aに実行することができる。符号器回路206は、前処理動作を実行し最適符号化モードとして第1符号化モード及び第2符号化モードから符号化モードを選択して第1画像ブロック302Aを符号化第1画像ブロックのビットストリームに符号化するよう構成することができる。各符号化モードは、順方向変換動作、量子化動作、残差予測動作(例えば、DPCM動作)、及びエントロピー符号化動作を含むことができる。
306Aで、第1画像ブロック302Aの第1変換ブロックを生成することができる。符号器回路206は、第1画像ブロック302Aへの第1タイプの順方向変換(1D行DCTなど)の適用により第1画像ブロック302Aから第1変換ブロックを生成するよう構成することができる。
306Bで、第1画像ブロック302Aの第2変換ブロックを生成することができる。符号器回路206は、第1画像ブロック302Aにおける第2タイプの順方向変換(1D列DCTなど)の適用により第1画像ブロック302Aから第2変換ブロックを生成するよう構成することができる。
308で、第1変換ブロック及び第2変換ブロックを量子化することができる。符号器回路206は、第1変換ブロック及び第2変換ブロックを量子化して量子化変換レベルの第1ブロック及び量子化変換レベルの第2ブロックを生成するよう構成することができる。量子化は、第1符号化モード及び第2符号化モードに対して決定された量子化パラメータのセットの各々に基づいて行うことができる。306Aの行DCT変換の適用後に取得された変換ブロックに308A、308B、及び308Cの量子化動作を実行することができる。符号器回路206は、第2変換ブロックを量子化して第2タイプの順方向変換に対して決定された量子化パラメータの第2セットの各々に基づいて量子化変換ブロックの第2セットを生成するよう構成することができる。308Aの列DCT変換の適用後に取得された変換ブロックに308D、308E、及び308Fの量子化動作を実行することができる。
310で、量子化変換レベルの第1ブロック及び量子化変換レベルの第2ブロックを、量子化変換残差レベルの第1ブロック及び量子化変換残差レベルの第2ブロックに変換することができる。この変換は、量子化変換レベルの第1ブロック及び量子化変換レベルの第2ブロックへの最適DPCM方式の適用によって起こすことができる。符号器回路206は、量子化変換レベルの第1ブロック及び量子化変換レベルの第2ブロックに最適DPCM方式を適用して量子化変換レベルの第1ブロック及び量子化変換レベルの第2ブロックを生成するよう構成することができる。DPCM動作の適用は、310A、310B、及び310Cで量子化変換レベルの第1ブロックに、310D、310E、及び310Fで量子化変換レベルの第2ブロックに実行することができる。
312で、第1画像ブロック302AへのPCM方式に適用に基づいて複数の画素領域残差値をコンピュータ計算することができる。符号器回路206は、第1画像ブロック302AへのPCM方式に適用に基づいて複数の画素領域残差値をコンピュータ計算するよう構成することができる。
314で、量子化変換残差レベルの第1ブロック及び量子化変換残差レベルの第2ブロックをエントロピー符号化することができる。符号器回路206は、量子化変換残差レベルの第1ブロック及び量子化変換残差レベルの第2ブロックをエントロピー符号化して符号化第1画像ブロックのビットストリームのセットを生成するよう構成することができる。
314A、314B、及び314Cでの量子化変換残差レベルの第1ブロックへのエントロピー符号化方式の適用に基づいて第1ビットストリームを生成することができる。同様に、第2ビットストリームは、314D、314E、及び314Fでの量子化変化残差レベルの第2ブロックへのエントロピー符号化方式の適用に基づいて第2ビットストリームを生成することができる。エントロピー符号化方式は、可変長符号化(VLC)方式、又はコンテキスト適応可変長符号化(CAVLC)方式又はコンテキスト適応バイナリ算術符号化(CABAC)方式の1つとすることができる。VLC方式の例は、限定ではないが、ランペルジブ符号化、ハフマン符号化、算術符号化、指数ゴロム符号化、ゴロム符号化、及びプログレッシブゴロム符号化を含むことができる。
316で、ビット損失値の第1セット及びビット損失値の第2セットを、第1ビットストリーム及び第2ビットストリームそれぞれに対してコンピュータ計算することができる。符号器回路206は、第1ビットストリーム及び第2ビットストリームそれぞれに対するビット損失値の第1セット及びビット損失値の第2セットをコンピュータ計算するよう構成することができる。
318で、最適符号化モードが第1符号化モード及び第2符号化モードから選択される。符号器回路206は、図1及び図2に示すように、第1ビットストリーム及び第2ビットストリームの各々のビット損失値のコンピュータ計算に基づいて、第1符号化モード及び第2符号化モードから最適符号化モードを選択するよう構成することができる。最良符号化モードは、画像ブロックを最小ビット損失値によって符号化でき且つ符号化画像ブロックからの画像ブロックの再構成/復号が視覚的に損失のない画像ブロックの生成をもたらすことができる符号化モードに対応することができる。
図4A及び4Bは、本開示の一実施形態による画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化の例示的な動作を示す流れ図を図示している。図4を参照すると、流れ図400が示されている。流れ図400は、例えば図1、2、3A及び3Bに関して記述されている。EBC回路108で実施される動作は402で開始し404に進む。
404で、入力画像フレームを、サーバ、外部デバイス、又は画像センサ104から受信することができる。EBC回路108は、サーバ、外部デバイス、又は画像センサ104から入力画像フレームを受信するよう構成することができる。例えば、入力画像フレームはビデオの画像フレームとすることができる。一定のシナリオでは、入力画像フレームを、メディアデバイス102に関連付けられる画像取り込みデバイスによって取り込まれた画像とすることができる。
406で、入力画像フレームを格納することができる。オンチップメモリ204又は外部メモリ110は、図1に示すように入力画像フレームを格納するよう構成することができる。
408で、入力画像フレームを、各々が複数の画素値を含む複数の画像ブロックに区分することができる。EBC回路108は、図1に示すように入力画像フレームを複数の画像ブロックに区分するよう構成することができる。
410で、複数の画像ブロックの第1画像ブロックを格納することができる。オンチップメモリ204又は外部メモリ110は、複数の画像ブロックの第1画像ブロックを格納するよう構成することができる。
412で、第1画像ブロックへの残差予測方式の行方向の適用に基づく前処理動作で第1予測ブロックを生成することができる。符号器回路206は、第1画像ブロックへの残差予測方式の行方向の適用に基づいて前処理動作で第1予測ブロックを生成するよう構成することができる。
414で、第1画像ブロックへの残差予測方式の列方向の適用に基づく前処理動作で第2予測ブロックを生成することができる。符号器回路206は、第1画像ブロックへの残差予測方式の列方向の適用に基づいて前処理動作で第2予測ブロックを生成するよう構成することができる。
416で、行方向残差値の第1予測ブロックからの第1SAD及び列方向残差値の第2予測ブロックからの第2SADを画素領域においてコンピュータ計算することができる。符号器回路206は、画素領域での行方向残差値の第1予測ブロックからの第1SAD及び列方向残差値の第2予測ブロックからの第2SADをコンピュータ計算するよう構成することができる。
418で、コンピュータ計算された第1SAD及びコンピュータ計算された第2SADに基づいて第1符号化モード及び第2符号化モードの各々の最適残差予測タイプとして残差予測タイプのセットから1つの残差予測タイプを選択することができる。符号器回路206は、コンピュータ計算された第1SAD及びコンピュータ計算された第2SADに基づいて第1符号化モード及び第2符号化モードの各々の最適残差予測タイプとして残差予測タイプのセットから1つの残差予測タイプを選択するよう構成することができる。最適残差予測タイプは、符号化画像ブロックのビットストリームの最小ビット損失値を結果として生じ且つこのようなビットストリームからの復号画像ブロックが圧縮アーティファクトの影響が最も小さい視覚的に損失のないものとすることができる残差予測方式のパラメータに対応することができる。
420で、コンピュータ計算された第1SAD及びコンピュータ計算された第2SADに基づいて第1符号化モード及び第2符号化モードの各々に対する最適量子化パラメータとして量子化パラメータのセットを選択することができる。符号器回路206は、コンピュータ計算された第1SAD及びコンピュータ計算された第2SADに基づいて第1符号化モード及び第2符号化モードの各々に対する最適量子化パラメータとして量子化パラメータのセットを選択するよう構成することができる。
422で、第1符号化モード及び第2符号化モードの各々の選択された残差予測タイプ及び選択された量子化パラメータのセットに基づいて第1符号化モード及び第2符号化モードにて号化第1画像ブロックのビットストリームのセットを生成することができる。符号器回路206は、第1符号化モード及び第2符号化モードの各々の選択された残差予測タイプ及び選択された量子化パラメータのセットに基づいて、第1符号化モード及び第2符号化モードにて号化第1画像ブロックのビットストリームのセットを生成するよう構成することができる。
424で、第1符号化モードに対するビット損失値の第1セット及び第2符号化モードに対するビット損失値の第2セットを、第1符号化画像ブロックのビットストリームからコンピュータ計算することができる。符号器回路206は、第1符号化画像ブロックのビットストリームから第1符号化モードに対するビット損失値の第1セット及び第2符号化モードに対するビット損失値の第2セットをコンピュータ計算するよう構成することができる。
426で、コンピュータ計算されたビット損失値の第1セット及びビット損失値の第2セットに基づいて、第1画像ブロックの最良符号化モードとして第1符号化モード又は第2符号化モードの1つを選択することができる。符号器回路206は、コンピュータ計算されたビット損失値の第1セット及びビット損失値の第2セットに基づいて、第1画像ブロックの最良符号化モードとして第1符号化モード又は第2符号化モードの1つを選択するよう構成することができる。
428で、第1画像ブロックを選択された最適符号化モードの逐次符号化方式の適用によって符号化し符号化第1画像ブロックのビットストリームを取得することができる。符号器回路206は、選択された最適符号化モードの逐次符号化方式の適用によって第1画像ブロックを符号化し符号化第1画像ブロックのビットストリームを取得するよう構成することができる。制御は終了に移る。
本開示の様々な実施形態は、デジタル画像データを圧縮する機械及び/又はコンピュータによって実行可能な少なくとも1つのコードセクションを備えた機械コード及び/又はコンピュータプログラムを格納している非一時的コンピュータ可読媒体及び/又は非一時的ストレージ媒体、及び/又は非一時的機械可読媒体及び/又は非一時的ストレージ媒体を提供することができる。少なくとも1つのコードセクションは、入力画像フレームの複数の画像ブロックの第1画像ブロックのストレージを含むステップを機械及び/又はコンピュータに実行させることができる。画素領域での行方向残差値の第1予測ブロックからの第1の絶対差の和(SAD)と列方向残差値の第2予測ブロックからの第2SADのコンピュータ計算。第1予測ブロック及び第2予測ブロックは第1画像ブロックに対応することができる。第1符号化モード及び第2符号化モードの各々の最適残差予測タイプとして残差予測タイプのセットからの残差予測タイプの選択。コンピュータ計算された第1SAD及びコンピュータ計算された第2SADに基づいて残差予測タイプを選択することができる。一部の実施形態では、残差予測タイプのセットは、DCのみのDPCMタイプ及び全周波数DPCMタイプを含むことができる。第1符号化モード及び第2符号化モードの各々に対する最適量子化パラメータとしての量子化パラメータのセットの選択。第1符号化モード及び第2符号化モードの各々の量子化パラメータのセットは、コンピュータ計算された第1SAD及びコンピュータ計算された第2SADに基づいて選択することができる。第1符号化モード及び第2符号化モードそれぞれにおける符号化第1画像ブロックのビットストリームのセットの生成。ビットストリームのセットは、第1符号化モード及び第2符号化モードに対する選択された残差予測タイプ及び選択された量子化パラメータのセットに基づいて生成することができる。
本開示の一定の実施形態を組み込みコーデック(EBC)回路に見出すことができる。本開示の様々な実施形態は、メモリ及びメモリに通信可能に結合された符号器回路を含むことができるEBC回路を提供することができる。このメモリは、入力画像フレームの複数の画像ブロックの第1画像グロックを格納するよう構成することができる。符号器回路は、画素領域における行方向残差値の第1予測ブロックからの第1の絶対差の和(SAD)と列方向残差値の第2予測ブロックからの第2SADをコンピュータ計算するよう構成することができる。第1予測ブロック及び第2予測ブロックは第1画像ブロックに対応することができる。符号器回路は、第1符号化モード及び第2符号化モードの各々の最適残差予測タイプとして残差予測タイプのセットから残差予測タイプを選択するよう構成することができる。残差予測タイプは、コンピュータ計算された第1SAD及びコンピュータ計算された第2SADに基づいて選択することができる。一部の実施形態では、残差予測タイプのセットは、DCのみのDPCMタイプ及び全周波数DPCMタイプを含むことができる。符号器回路は、第1符号化モード及び第2符号化モードの各々に対する最適量子化パラメータとして量子化パラメータのセットを選択するよう構成することができる。第1符号化モード及び第2符号化モードの各々の量子化パラメータのセットをコンピュータ計算された第1SAD及びコンピュータ計算された第2SADに基づいて選択することができる。符号器回路は、第1符号化モード及び第2符号化モードそれそれで符号化第1画像ブロックのビットストリームのセットを生成するよう構成することができる。ビットストリームのセットは、第1符号化モード及び第2符号化モードに対する選択された残差予測タイプ及び選択された量子化パラメータのセットに基づいて生成することができる。
1つの実施形態によれば、符号器回路は、入力画像フレームを複数の画像ブロックに区分するよう構成することができる。各画像ブロックは、複数の画素値を含むことができる。1つの実施形態によれば、第1SAD及び第2SADのコンピュータ計算及び残差予測タイプ及び量子化パラメータのセットの選択は、変換領域での第1画像ブロックへの逐次符号化方式の適用前の画素領域での第1画像ブロックに関連付けられる前処理動作に対応する。
1つの実施形態によれば、符号器回路は、前処理動作で、第1画像ブロックへの残差予測方式の行方向の適用に基づいて第1予測ブロックを生成するよう構成することができる。符号器回路は、第1画像ブロックへの残差予測方式の列方向の適用に基づいて第2予測ブロックを前処理動作で生成するよう構成することができる。残差予測方式は、差分パルスコード変調(DPCM)方式、適応DPCM方式、又はPCM方式のうちの少なくとも1つとすることができる。1つの実施形態によれば、第1予測ブロックは、残差画素値の水平DPCMブロックに対応することができ、第2予測ブロックは、残差画素値の垂直DPCMブロックに対応することができる。
1つの実施形態によれば、符号器回路は、コンピュータ計算された第1SADがコンピュータ計算された第2SADより大きいか又は等しいかどうか、第1符号化モードにてチェックするよう構成することができる。コンピュータ計算された第1SADがコンピュータ計算された第2SADより大きいか又は等しい時に残差予測タイプは全周波数DPCMタイプとすることができる。コンピュータ計算された第1SADがコンピュータ計算された第2SADより小さい時に残差予測タイプはDCのみのDPCMタイプとすることができる。
1つの実施形態によれば、第1画像ブロックを、YCbCrカラースペースにおける少なくとも1つのルーマブロック及びクローマブロックのペアとして表すことができる。符号器回路は、ルーマブロック及びクローマブロックのペアに対する特定のビット深度に従ってルーマブロック及びクローマブロックのペアに対してオフセットパラメータを決定するよう構成することができる。符号器回路は、コンピュータ計算された第1SADがコンピュータ計算された第2SADと決定されたオフセットパラメータの和よりも小さいか又は等しいかどうか第2符号化モードをチェックするよう構成することができる。残差予測タイプは、コンピュータ計算された第1SADが和よりも小さいか又は等しい時に、全周波数DPCMタイプとすることができる。そうでなければ、コンピュータ計算された第1SADが和より大きい時に残差予測タイプはDCのみのDPCMタイプとすることができる。
1つの実施形態によれば、本符号器回路は、コンピュータ計算された第1SADとコンピュータ計算された第2SADの比較に基づいて最小SAD値を決定するよう構成することができる。従って、決定された最小SAD値が閾値よりも小さいかどうかをチェックすることができる。第1符号化モード及び第2符号化モードの各々の量子化パラメータのセットの選択は、このチェックに基づくことができる。
1つの実施形態によれば、本符号器回路は、前処理動作後に第1画像ブロックに対して第1逐次符号化方式を適用して、符号化第1画像ブロックのビットストリームのセットから第1符号化モードにて第1ビットストリームを生成するよう構成することができる。第1ビットストリームは、第1符号化モードに対して選択された残差予測タイプ及び選択された量子化パラメータのセットに基づいて生成することができる。1つの実施形態によれば、第1逐次符号化方式は、第1タイプの順方向変換、量子化、残差予測、及びエントロピー符号化方式の逐次適用を含むことができる。第1タイプの順方向変換は、1D行DCTとすることができる。
1つの実施形態によれば、符号器回路は、前処理動作後に第1画像ブロックに第2逐次符号化方式を適用して、符号化第1画像ブロックのビットストリームのセットから第2符号化モードにて第2ビットストリームを生成するよう構成することができる。第2ビットストリームは、第2符号化モードに対する選択された残差予測タイプ及び選択された量子化パラメータのセットに基づいて生成することができる。第2逐次符号化方式は、第2タイプの順方向変換、量子化、残差予測、及びエントロピー符号化方式の逐次適用を含むことができる。第2タイプの順方向変換は1D列DCTとすることができる。
1つの実施形態によれば、本符号器回路は、符号化第1画像ブロックのビットストリームのセットから第1符号化モードに対するビット損失値の第1セット及び第2符号化モードに対するビット損失値の第2セットをコンピュータ計算するよう構成することができる。従って、第1画像ブロックに対する最良符号化モードとして第1符号化モード又は第2符号化モードの1つを符号器回路によって選択することができる。この選択は、コンピュータ計算されたビット損失値の第1セット及びコンピュータ計算されたビット損失値の第2セットに基づいて行うことができる。
本開示は、ハードウェア、又はハードウェアとソフトウェアの組合せで実現することができる。本開示は、集中化方式で、少なくとも1つのコンピュータシステムで、又は分散方式で実現することができ、異なる要素を幾つかの相互接続されたコンピュータシステムに渡って分散させることができる。本明細書で説明した方法を実行するよう適応されたコンピュータシステム又は他の装置を一組にすることができる。ハードウェアとソフトウェアの組合せは、ロード及び実行された時に本明細書で説明する方法を実行するようコンピュータシステムを制御することができるコンピュータプログラムを備えた汎用コンピュータシステムとすることができる。本開示は、他の機能を実行する集積回路の一部を含むハードウェアで実現することができる。
本開示は、本明細書で説明する方法の実施を可能にする特徴の全てを含み、コンピュータシステムにロードされた時にこれらの方法を実行できるコンピュータプログラム製品に組み入れることができる。
本開示を一定の実施形態に関して説明してきたが、本開示の範囲から逸脱することなく様々な変更を行い得ること及び等価物を置き換えられることが当業者によって理解されるであろう。加えて、本開示の教示の範囲から逸脱することなく本開示の教示に特定の状況又は材料を適応させるよう多くの修正を行い得る。従って、本開示は、開示した特定の実施形態に制限されず、本開示は添付の請求項の範囲内に入る全ての実施形態を含むものとする。
102 メディアデバイス
104 画像センサ
106 プロセッサ
108 組み込みコーデック回路
110 外部メモリ
112 システムバス

Claims (24)

  1. 組み込みコーデック(EBC)回路であって、
    入力画像フレームの複数の画像ブロックのうちの第1画像ブロックを格納するメモリと、
    符号器回路と、
    を備え、前記符号器回路は、
    画素領域において行方向残差値の第1予測ブロックからの第1差分絶対値和(SAD)と列方向残差値の第2予測ブロックからの第2SADを計算する段階であって、前記第1予測ブロック及び前記第2予測ブロックが前記第1画像ブロックに対応する、段階と、
    前記計算された第1SAD及び前記計算された第2SADに基づいて、第1符号化モード及び第2符号化モードの各々に対する最適符号変調タイプとして、符号変調タイプのセットから符号変調タイプを選択する段階と、
    前記計算された第1SAD及び前記計算された第2SADに基づいて、前記第1符号化モード及び前記第2符号化モードの各々に対する最適量子化パラメータとして、量子化パラメータのセットを選択する段階と、
    前記第1符号化モード及び前記第2符号化モードに対する選択された符号変調タイプ及び選択された量子化パラメータのセットに基づいて、前記第1符号化モード及び前記第2符号化モードにて符号化第1画像ブロックのビットストリームのセットを生成する段階と、
    を実行するよう構成される、組み込みコーデック(EBC)回路。
  2. 前記符号器回路は更に、前記入力画像フレームを前記複数の画像ブロックに区分するよう構成され、前記各画像ブロックが複数の画素値を含む、ことを特徴とする請求項1に記載のEBC回路。
  3. 前記第1SAD及び前記第2SADの計算並びに前記符号変調タイプ及び量子化パラメータの選択は、変換領域での前記第1画像ブロックへの逐次符号化方式の適用前の前記画素領域での前記第1画像ブロックに関連付けられる前処理動作に対応する、ことを特徴とする請求項1に記載のEBC回路。
  4. 前記符号器回路は更に、前処理動作において、前記第1画像ブロックへの符号変調方式の行方向の適用に基づいて、前記第1予測ブロックを生成するよう構成される、ことを特徴とする請求項1に記載のEBC回路。
  5. 前記符号器回路は更に、前記第1画像ブロックへの前記符号変調方式の列方向の適用に基づいて、前記前処理動作において前記第2予測ブロックを生成するよう構成される、ことを特徴とする請求項4に記載のEBC回路。
  6. 前記符号変調方式は、差分パルスコード変調(DPCM)方式、適応DPCM方式、又はPCM方式のうちの少なくとも1つである、ことを特徴とする請求項5に記載のEBC回路。
  7. 前記第1予測ブロックは、残差画素値の水平DPCMブロックに対応し、前記第2予測ブロックは、残差画素値の垂直DPCMブロックに対応する、ことを特徴とする請求項1に記載のEBC回路。
  8. 前記符号器回路は更に、前記第1符号化モードに対して、前記計算された第1SADが前記計算された第2SADより大きいか又は等しいかをチェックするよう構成される、ことを特徴とする請求項1に記載のEBC回路。
  9. 前記計算された第1SADが前記計算された第2SADより大きいか又は等しいときに、前記符号変調タイプが全周波数DPCMタイプである、ことを特徴とする請求項8に記載のEBC回路。
  10. 前記計算された第1SADが前記計算された第2SADより小さいときに、前記符号変調タイプが、直流(DC)のみのDPCMタイプである、ことを特徴とする請求項8に記載のEBC回路。
  11. 前記符号変調タイプのセットは、DCのみのDPCMタイプ及び全周波数DPCMタイプを含む、ことを特徴とする請求項1に記載のEBC回路。
  12. 前記第1画像ブロックは、YCbCrカラースペースにおける少なくとも1つのルーマブロック及び、クローマブロックのペアとして表される、ことを特徴とする請求項1に記載のEBC回路。
  13. 前記符号器回路は更に、前記ルーマブロック及び前記クローマブロックのペアに対する特定のビット深度に従って、前記ルーマブロック及び前記クローマブロックのペアに対するオフセットパラメータを決定するよう構成される、ことを特徴とする請求項12に記載のEBC回路。
  14. 前記符号器回路は、前記第2符号化モードに対して、前記計算された第1SADが、前記計算された第2SADと前記決定されたオフセットパラメータの和よりも小さいか又は等しいかどうかをチェックするよう構成される、ことを特徴とする請求項13に記載のEBC回路。
  15. 前記計算された第1SADが前記和よりも小さいか又は等しいときに、前記符号変調タイプが全周波数DPCMタイプである、ことを特徴とする請求項14に記載のEBC回路。
  16. 前記計算された第1SADが前記和より大きいときに、前記符号変調タイプがDCのみのDPCMタイプである、ことを特徴とする請求項14に記載のEBC回路。
  17. 前記符号器回路は更に、
    前記計算された第1SADと前記計算された第2SADの比較に基づいて最小SAD値を決定し、
    前記決定された最小SAD値が閾値よりも小さいかどうかをチェックする、
    よう構成される、ことを特徴とする請求項1に記載のEBC回路。
  18. 前記第1符号化モード及び前記第2符号化モードの各々に対する量子化パラメータのセットの選択は、前記チェックに基づく、ことを特徴とする請求項17に記載のEBC回路。
  19. 前記符号器回路は更に、前処理動作後に、前記第1画像ブロックに対して第1逐次符号化方式を適用し、前記符号化第1画像ブロックのビットストリームのセットから前記第1符号化モードにて第1ビットストリームを生成するよう構成され、前記第1ビットストリームは、前記第1符号化モードに対する選択された符号変調タイプ及び選択された量子化パラメータのセットに基づいて生成される、ことを特徴とする請求項1に記載のEBC回路。
  20. 前記第1逐次符号化方式は、第1タイプの順方向変換、量子化、符号変調、及びエントロピー符号化方式の逐次適用を含み、前記第1タイプの順方向変換は、1次元行離散的コサイン変換(1D行DCT)である、ことを特徴とする請求項19に記載のEBC回路。
  21. 前記符号器回路は、前処理動作後に、前記第1画像ブロックに第2逐次符号化方式を適用して、前記符号化第1画像ブロックのビットストリームのセットから前記第2符号化モードにて第2ビットストリームを生成するよう構成され、前記第2ビットストリームは、前記第2符号化モードに対する選択された符号変調タイプ及び選択された量子化パラメータのセットに基づいて生成される、ことを特徴とする請求項1に記載のEBC回路。
  22. 前記第2逐次符号化方式は、第2タイプの順方向変換、量子化、符号変調、及びエントロピー符号化方式の逐次適用を含み、前記第2タイプの順方向変換は、1D列DCTである、ことを特徴とする請求項21に記載のEBC回路。
  23. 前記符号器回路は更に、
    前記符号化第1画像ブロックのビットストリームのセットから、前記第1符号化モードに対するビット損失値の第1セット及び前記第2符号化モードに対するビット損失値の第2セットを計算し、
    前記計算されたビット損失値の第1セット及び前記計算されたビット損失値の第2セットに基づいて、前記第1画像ブロックの最良符号化モードとして前記第1符号化モード又は前記第2符号化モードの1つを選択する、
    よう構成される、ことを特徴とする請求項1に記載のEBC回路。
  24. メモリ及び符号器回路を備えた組み込みコーデック(EBC)回路において、
    前記メモリによって、入力画像フレームの複数の画像ブロックのうちの第1画像ブロックを格納する段階と、
    前記符号器回路によって、画素領域における行方向残差値の第1予測ブロックから第1差分絶対値和(SAD)と列方向残差値の第2予測ブロックからの第2SADを計算する段階であって、前記第1予測ブロック及び前記第2予測ブロックは、前記第1画像ブロックに対応する、段階と、
    前記符号器回路によって、前記計算された第1SAD及び前記計算された第2SADに基づいて、第1符号化モード及び第2符号化モードの各々の最適符号変調タイプとして符号変調タイプのセットから符号変調タイプを選択する段階と、
    前記符号器回路によって、前記計算された第1SAD及び前記計算された第2SADに基づいて、前記第1符号化モード及び前記第2符号化モードの各々に対する最適量子化パラメータとして量子化パラメータのセットを選択する段階と、
    前記符号器回路によって、前記第1符号化モード及び前記第2符号化モードに対する選択された符号変調タイプ及び選択された量子化パラメータのセットに基づいて、前記第1符号化モード及び前記第2符号化モードにて符号化第1画像ブロックのビットストリームのセットを生成する段階と、
    を含む方法。
JP2019187647A 2019-01-29 2019-10-11 画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化法 Active JP6868793B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/260,193 2019-01-29
US16/260,193 US10893272B2 (en) 2019-01-29 2019-01-29 Image block coding based on pixel-domain pre-processing operations on image block

Publications (2)

Publication Number Publication Date
JP2020123947A JP2020123947A (ja) 2020-08-13
JP6868793B2 true JP6868793B2 (ja) 2021-05-12

Family

ID=71733625

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019187647A Active JP6868793B2 (ja) 2019-01-29 2019-10-11 画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化法

Country Status (4)

Country Link
US (1) US10893272B2 (ja)
JP (1) JP6868793B2 (ja)
KR (1) KR102267792B1 (ja)
CN (1) CN111491163B (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4378163A1 (en) * 2021-07-27 2024-06-05 Beijing Dajia Internet Information Technology Co., Ltd. Coding enhancement in cross-component sample adaptive offset
KR20240042646A (ko) * 2021-09-08 2024-04-02 베이징 다지아 인터넷 인포메이션 테크놀로지 컴퍼니 리미티드 교차-컴포넌트 샘플 적응적 오프셋에서의 코딩 강화

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3211989B2 (ja) * 1992-08-31 2001-09-25 日本ビクター株式会社 直交変換符号化装置及び復号化装置
US6192081B1 (en) 1995-10-26 2001-02-20 Sarnoff Corporation Apparatus and method for selecting a coding mode in a block-based coding system
JP3624581B2 (ja) 1996-10-28 2005-03-02 ソニー株式会社 映像信号の圧縮装置
US7436890B2 (en) 2002-06-05 2008-10-14 Kddi R&D Laboratories, Inc. Quantization control system for video coding
CN101087427B (zh) * 2006-06-06 2011-04-06 北京大学深圳研究生院 一种h.264标准的帧内预测模式选择方法
KR100871588B1 (ko) * 2007-06-25 2008-12-02 한국산업기술대학교산학협력단 인트라 부호화 장치 및 그 방법
DK2476255T3 (en) * 2009-09-10 2018-08-06 Guangdong Oppo Mobile Telecommunications Corp Ltd ACCELERATION TECHNIQUES FOR DISTORTION GRADE OPTIMIZED QUANTIZATION
CN101895756B (zh) * 2010-07-15 2012-10-31 北京大学 视频图像块的编码、解码、重构方法及系统
US20120195364A1 (en) 2011-01-31 2012-08-02 Apple Inc. Dynamic mode search order control for a video encoder
JP2012169762A (ja) * 2011-02-10 2012-09-06 Sony Corp 画像符号化装置と画像復号化装置およびその方法とプログラム
US9521410B2 (en) 2012-04-26 2016-12-13 Qualcomm Incorporated Quantization parameter (QP) coding in video coding
CN103024383B (zh) * 2012-12-14 2016-02-10 北京工业大学 一种基于hevc框架的帧内无损压缩编码方法
US11323747B2 (en) * 2013-06-05 2022-05-03 Qualcomm Incorporated Residual differential pulse code modulation (DPCM) extensions and harmonization with transform skip, rotation, and scans
US9161040B2 (en) * 2014-01-10 2015-10-13 Sony Corporation Adaptive block partitioning with shared bit-budget
EP3107298A4 (en) * 2014-03-14 2017-10-11 Samsung Electronics Co., Ltd. Image encoding method for sample value compensation and apparatus therefor, and image decoding method for sample value compensation and apparatus therefor
US10284849B2 (en) * 2015-04-13 2019-05-07 Qualcomm Incorporated Quantization parameter (QP) calculation for display stream compression (DSC) based on complexity measure
US9955186B2 (en) * 2016-01-11 2018-04-24 Qualcomm Incorporated Block size decision for video coding
US10595033B2 (en) * 2017-02-15 2020-03-17 Sony Corporation Variable length coding of header data for image compression
US10750175B2 (en) * 2017-05-04 2020-08-18 Sony Corporation Quantization partitioning for enhanced image compression

Also Published As

Publication number Publication date
CN111491163B (zh) 2022-10-28
KR102267792B1 (ko) 2021-06-24
JP2020123947A (ja) 2020-08-13
KR20200094071A (ko) 2020-08-06
CN111491163A (zh) 2020-08-04
US10893272B2 (en) 2021-01-12
US20200244960A1 (en) 2020-07-30

Similar Documents

Publication Publication Date Title
CN113545064B (zh) 用于处理视频内容的方法和装置及计算机可读存储介质
JP5777080B2 (ja) 合成ビデオのためのロスレス・コード化および関連するシグナリング方法
JP4895400B2 (ja) 画像フレームの非フレームエッジブロックの表現における改良された圧縮
US10645386B1 (en) Embedded codec circuitry for multiple reconstruction points based quantization
US20190068981A1 (en) Storing and retrieving lossy-compressed high bit depth image data
JP7293330B2 (ja) ビデオコーディングにおけるフィルタリングのための装置および方法
US20180084281A1 (en) Storing and retrieving high bit depth image data
JP6868793B2 (ja) 画像ブロックに対する画素領域前処理動作に基づく画像ブロック符号化法
KR20210064332A (ko) 컴팩트한 mv 스토리지를 사용하는 인코더, 디코더 및 대응하는 방법
US10798419B2 (en) Embedded codec circuitry for sub-block based encoding of quantized prediction residual levels
US10728557B2 (en) Embedded codec circuitry for sub-block based entropy coding of quantized-transformed residual levels
JP7020466B2 (ja) 残留レベルデータの位置依存エントロピ符号化のための組込みコーディク(ebc)回路
US20200162739A1 (en) Embedded codec circuitry for visual quality based allocation of refinement bits
JP6860053B2 (ja) サブブロックに基づく精緻化ビット割り当てのための埋め込みコーデック回路
US20190098325A1 (en) Storing and retrieving high bit depth image data
US10931954B2 (en) Image coding modes selection for an embedded codec circuitry
JP2020127188A5 (ja)
JP7251882B2 (ja) Cbfフラグの効率的なシグナリング方法
US10855998B1 (en) Embedded codec circuitry for block based gamma correction of a raw image block
US10652543B2 (en) Embedded codec circuitry and method for frequency-dependent coding of transform coefficients
US10778990B2 (en) Embedded codec circuitry for randomized refinement of uncoded-bits

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191028

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201202

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210310

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210323

R151 Written notification of patent or utility model registration

Ref document number: 6868793

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151