JP5066232B2 - 情報処理装置および画像処理方法 - Google Patents

情報処理装置および画像処理方法 Download PDF

Info

Publication number
JP5066232B2
JP5066232B2 JP2010169632A JP2010169632A JP5066232B2 JP 5066232 B2 JP5066232 B2 JP 5066232B2 JP 2010169632 A JP2010169632 A JP 2010169632A JP 2010169632 A JP2010169632 A JP 2010169632A JP 5066232 B2 JP5066232 B2 JP 5066232B2
Authority
JP
Japan
Prior art keywords
screen
decoding
picture
prediction
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010169632A
Other languages
English (en)
Other versions
JP2012034036A (ja
Inventor
崇博 瀧本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2010169632A priority Critical patent/JP5066232B2/ja
Priority to US13/098,187 priority patent/US20120027078A1/en
Publication of JP2012034036A publication Critical patent/JP2012034036A/ja
Application granted granted Critical
Publication of JP5066232B2 publication Critical patent/JP5066232B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/156Availability of hardware or computational resources, e.g. encoding based on power-saving criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明の実施形態は、映像をデコード処理後にポストフィルタリング処理する情報処理装置および画像処理方法に関する。
近年、DVD(Digital Versatile Disc)プレーヤ、TV装置のようなオーディオ・ビデオ(AV)機器と同様のAV機能を備えたパーソナルコンピュータが開発されている。
このようなパーソナルコンピュータにおいては、圧縮符号化された動画像ストリームをソフトウェアによってデコードするソフトウェアデコーダが用いられている。ソフトウェアデコーダの使用により、専用のハードウェアを設けることなく、圧縮符号化された動画像ストリームをプロセッサ(CPU)によってデコードすることが可能になる。
ところで、最近では、動画像圧縮符号化技術として、H.264/AVC(AVC:Advanced Video Coding)規格が使用されている。H.264/AVC規格は、MPEG2、MPEG4のような従来の圧縮符号化技術よりも高能率の圧縮符号化技術であり、HD(High Definition)のような高精細画像の符号化に使用される。このため、H.264/AVC規格に対応するエンコード処理およびデコード処理の各々においては、MPEG2、MPEG4のような従来の圧縮符号化技術よりも多くの処理量が必要とされる。
したがって、H.264/AVC規格で圧縮符号化された動画像ストリームをソフトウェアによってデコードするように設計されたパーソナルコンピュータにおいては、高精細画像の再生が可能になる反面、システムの負荷が増大すると、デコード処理自体に遅れが生じ、これによってスムーズな動画再生を実行できなくなる危険がある。この事情はH.264/AVC規格に続いて策定中の類似規格でも同様である。フィルタ処理は、処理量が重く高精細な画像では復号時に遅延が生じる可能性がある。
この圧縮符号化の代表的な関連技術としては、デコード処理の一環であるデブロッキングフィルタ処理があり、その後の処理であるポストフィルタリング処理が知られているが、それらを効率よく実行する必要性が生じている。
ポストフィルタリング処理を行うシステムとしては、ポストフィルタリング処理を施す効果を判断するシステムが知られている(例えば、特許文献1参照。)。このシステムにおいては、動画の復号化において動画像の各ブロックについてポストフィルタリング処理を施す効果を判断し、所定の条件を満たす場合、即ち効果が少ないあるいは効果を及ぼさなくても支障がない場合にはポストフィルタリングを行わない。従って復号化処理においてポストフィルタリングに要する処理を軽減させることが出来、高速化、消費電力の低減化を実現できるとされている。
また画像復号化装置で、ループ内フィルタを実装し、CPUの稼働率によって、処理対象ピクチャの優先度の高いものだけをフィルタ処理するシステムが知られている(例えば、特許文献2参照。)。
しかし、これらに記載のシステムは、場合によりポストフィルタリングを行わないことを特徴とするものであることより、一般的なポストフィルタリングが必要な場合においては、特に効果をもたらすものではなかった。
ポストフィルタリングを行うことを前提として、より効率的に行うことが可能な技術が待たれる。
特開2003−116132号公報 特開2003−304538号公報
本発明は、ポストフィルタリングをより効率的に行うことが可能な情報処理装置および画像処理方法を提供することを目的とする。
上記課題を解決するために、実施形態の情報処理装置は、複数のピクチャ内の複数の画
素をブロック単位で符号化することで生成された動画像ストリームに少なくともデコード
処理及び変換処理を行うことによって、複数のデコードされたピクチャを生成する変換手
段と、前記複数のデコードされたピクチャのうちから、デコード中に他のピクチャによっ
て参照された参照ピクチャを検出する検出手段と、前記検出手段により検出された参照ピ
クチャに対してはデブロッキングフィルタ処理とBALF(Block-based Adaptive Loop F
ilter)処理を実行し、前記複数のデコードされたピクチャのうち前記参照ピクチャでな
いピクチャに対しては前記デブロッキングフィルタ処理を実行し前記BALF処理を非実
行とするフィルタ処理手段とを具備する。

本発明の一実施形態であるコンピュータの概観を示す斜視図。 図1のコンピュータのシステム構成を示すブロック図。 図1のコンピュータで用いられるビデオ再生アプリケーションプログラムの機能構成を示すブロック図。 図2のシステム構成において実現される機能構成を示すブロック図。 図3のビデオ再生アプリケーションプログラムによって実現されるソフトウェアデコーダ(動画像復号化装置)の構成を示すブロック図。 動画像ストリームに含まれる参照画面/非参照画面とFilter ON/OFF関係概念図。 図3のビデオ再生アプリケーションプログラムによって実行されるデコード処理の手順を示すフローチャート。 実施例に関わる動画像符号化装置を示すブロック図。
以下、本発明による実施形態を図1乃至図7を参照して説明する。
まず、図1および図2を参照して、本発明の一実施形態に係る情報処理装置の構成について説明する。この情報処理装置は、例えば、ノートブック型パーソナルコンピュータ10として実現されている。デスクトップPCとして実現しても良い。
図1はノートブック型パーソナルコンピュータ10のディスプレイユニットを開いた状態における正面図である。本コンピュータ10は、コンピュータ本体11と、ディスプレイユニット12とから構成されている。ディスプレイユニット12にはLCD(Liquid Crystal Display)17から構成される表示装置が組み込まれており、そのLCD17の表示画面はディスプレイユニット12のほぼ中央に位置されている。
ディスプレイユニット12は、コンピュータ本体11に対して開放位置と閉塞位置との間を回動自在に取り付けられている。コンピュータ本体11は薄い箱形の筐体を有しており、その上面にはキーボード13、本コンピュータ10を電源オン/オフするためのパワーボタン14、入力操作パネル15、およびタッチパッド16などが配置されている。
入力操作パネル15は、押されたボタンに対応するイベントを入力する入力装置であり、複数の機能をそれぞれ起動するための複数のボタンを備えている。これらボタン群には、TV起動ボタン15A、DVD(Digital Versatile Disc)起動ボタン15Bも含まれている。TV起動ボタン15Aは、デジタルTV放送番組のような放送番組データの再生及び記録を行うためのTV機能を起動するためのボタンである。TV起動ボタン15Aがユーザによって押下された時、TV機能を実行するためのアプリケーションプログラムが自動的に起動される。DVD起動ボタン15Bは、DVDに記録されたビデオコンテンツを再生するためのボタンである。DVD起動ボタン15Bがユーザによって押下された時、ビデオコンテンツを再生するためのアプリケーションプログラムが自動的に起動される。
次に、図2を参照して、本コンピュータ10のシステム構成について説明する。
本コンピュータ10は、図2に示されているように、CPU111、ノースブリッジ112、主メモリ113、グラフィクスコントローラ114、サウスブリッジ119、BIOS−ROM120、ハードディスクドライブ(HDD)121、光ディスクドライブ(ODD)122、デジタルTV放送チューナ123、エンベデッドコントローラ/キーボードコントローラIC(EC/KBC)124、およびネットワークコントローラ125等を備えている。
CPU111は本コンピュータ10の動作を制御するために設けられたプロセッサであり、ハードディスクドライブ(HDD)121から主メモリ113にロードされる、オペレーティングシステム(OS)、およびビデオ再生アプリケーションプログラム201のような各種アプリケーションプログラムを実行する。
なおCPU111には図示せぬキャッシュメモリがありキャッシュメモリ中には実行中の各種プログラムの一部や関連データが存在し、それらを改めて主メモリ113から参照せずまた細かく変更内容を書き戻さずとも継続的利用をすることにより処理効率を上げることができる。
ビデオ再生アプリケーションプログラム201は、圧縮符号化された動画像データをデコードおよび再生するためのソフトウェアである。このビデオ再生アプリケーションプログラム201は、H.264/AVC規格に対応するソフトウェアデコーダである。ビデオ再生アプリケーションプログラム201は、H.264/AVC規格で定義された符号化方式で圧縮符号化されている動画像ストリーム(例えば、デジタルTV放送チューナ123によって受信されたデジタルTV放送番組、光ディスクドライブ(ODD)122から読み出されるHD(High Definition)規格のビデオコンテンツ、など)をデコードするための機能を有している。
このビデオ再生アプリケーションプログラム201は、図3に示すように、非参照画面検出機能211、デコード制御機能212、およびデコード実行機能213を備えている。
デコード実行機能213は、H.264/AVC規格で定義されたデコード処理を実行するデコーダである。非参照画面検出機能211は、デコード処理のなかで後述する非参照画面を検出する機能である。この非参照画面検出機能211は、例えば、デコード実行機能213にデコード実行の現在の状態を問い合わせることによって、非参照画面を検出する。
デコード制御機能212は、非参照画面検出機能211によって検出された画面が非参照画面であるか否かに基づき、デコード実行機能213によって実行されるデコード処理の内容を制御する。
より詳しくは、デコード制御機能212は、非参照画面に対しH.264/AVC規格で定義されたデコード処理としてデコード実行機能213によって実行すべきデコード処理の内容の他に、非参照画面に対し予め決められた処理をデコード実行機能213に実行させた場合には、その予め決められた処理を後に非参照画面に対し実行が省略されるよう、言い換えると参照画面にのみ実行されるように、後のCPU111におけるポストフィルタリング処理の内容を制御する。これはデコード処理の結果の画像出力とは別にデコード制御機能212がデコード実行機能213を通じて付加情報として出力する。
ビデオ再生アプリケーションプログラム201によってデコードされた動画像データは、表示ドライバ202を介してグラフィクスコントローラ114のビデオメモリ114Aに順次書き込まれる。これにより、デコードされた動画像データはLCD17に表示される。表示ドライバ202はグラフィクスコントローラ114を制御するためのソフトウェアである。
また、CPU111は、BIOS−ROM120に格納されたシステムBIOS(Basic Input Output System)も実行する。システムBIOSはハードウェア制御のためのプログラムである。
ノースブリッジ112はCPU111のローカルバスとサウスブリッジ119との間を接続するブリッジデバイスである。ノースブリッジ112には、主メモリ113をアクセス制御するメモリコントローラも内蔵されている。また、ノースブリッジ112は、AGP(Accelerated Graphics Port)バスなどを介してグラフィクスコントローラ114との通信を実行する機能も有している。
グラフィクスコントローラ114は本コンピュータ10のディスプレイモニタとして使用されるLCD17を制御する表示コントローラである。このグラフィクスコントローラ114はビデオメモリ(VRAM)114Aに書き込まれた画像データからLCD17に送出すべき表示信号を生成する。
サウスブリッジ119は、LPC(Low Pin Count)バス上の各デバイス、およびPCI(Peripheral Component Interconnect)バス上の各デバイスを制御する。また、サウスブリッジ119は、HDD121、ODD122を制御するためのIDE(Integrated Drive Electronics)コントローラを内蔵している。さらに、サウスブリッジ119は、デジタルTV放送チューナ123を制御する機能、およびBIOS−ROM120をアクセス制御するための機能も有している。
HDD121は、各種ソフトウェア及びデータを格納する記憶装置である。光ディスクドライブ(ODD)123は、ビデオコンテンツが格納されたDVDなどの記憶メディアを駆動するためのドライブユニットである。デジタルTV放送チューナ123は、デジタルTV放送番組のような放送番組データを外部から受信するための受信装置である。
エンベデッドコントローラ/キーボードコントローラIC(EC/KBC)124は、電力管理のためのエンベデッドコントローラと、キーボード(KB)13およびタッチパッド16を制御するためのキーボードコントローラとが集積された1チップマイクロコンピュータである。このエンベデッドコントローラ/キーボードコントローラIC(EC/KBC)124は、ユーザによるパワーボタン14の操作に応じて本コンピュータ10をパワーオン/パワーオフする機能を有している。さらに、エンベデッドコントローラ/キーボードコントローラIC(EC/KBC)124は、ユーザによるTV起動ボタン15A、DVD起動ボタン15Bの操作に応じて、本コンピュータ10をパワーオンすることもできる。ネットワークコントローラ125は、例えばインターネットなどの外部ネットワークとの通信を実行する通信装置である。
次に、図4を参照して、コンピュータ10のシステム構成においてビデオ再生アプリケーションプログラム201によって実現される機能構成を説明する。デマルチプレクサ201aは、多重化されたストリームの中から音声・画像・字幕などの次段階の入力ストリームを取り出し、次段階のビデオデコーダ201bへ画像の入力ストリームを渡す。ビデオデコーダ201bは、ポストフィルタ201cへ出力画像と共に破線で示した前述の付加情報を渡す。ポストフィルタ201cはポストフィルタ処理後の出力画像を表示ドライバ202へ渡す。
次に、図5を参照して、ビデオ再生アプリケーションプログラム201によって実現されるソフトウェアデコーダから成る動画像復号化装置の機能構成を説明する。図4のビデオデコーダ201bに対応するものである。
ビデオ再生アプリケーションプログラム201のデコード実行機能213は、現在規格が検討されているHEVCに対応しており、図5に図示のように、エントロピー復号部301、逆変換部301p(図示せぬ逆量子化部と逆DCT部(DCT:Discrete Cosine Transform)の縦列構成)、加算部304、デブロッキングフィルタ部305、画像適用ループフィルタ部305p、フレームメモリ306、イントラ/インター予測部310、およびモード切替スイッチ部311を含む。H.264の直交変換は整数精度であり、従来のDCTとは異なるが、ここではDCTと称することとする。
各画面(ピクチャ)の符号化は、たとえば16×16画素のマクロブロック単位で実行される。各マクロブロックごとに、フレーム内符号化モード(イントラ符号化モード)および動き補償フレーム間予測符号化モード(インター符号化モード)のいずれか一方が選択される。
動き補償フレーム間予測符号化モードにおいては、既に符号化された画面(ピクチャ)からの動きを推定することによって、符号化対象画面に対応する動き補償フレーム間予測信号が定められた形状単位で生成される。そして、符号化対象画面(ピクチャ)から動き補償フレーム間予測信号を引いた予測誤差信号が、直交変換(DCT)、量子化、およびエントロピー符号化によって、符号化される。また、イントラ符号化モードにおいては、符号化対象画面(ピクチャ)から予測信号が生成され、その予測信号が直交変換(DCT)、量子化、およびエントロピー符号化によって、符号化される。
H.264/AVC規格に対応するコーデックは、以前の規格よりさらに圧縮率を高めるために、
(1)従来のMPEGよりも高い画素精度(1/4画素精度)の動き補償
(2)フレーム内符号化を効率的に行うためのフレーム内予測
(3)ブロック歪みを低減するためのデブロッキングフィルタ
(4)4×4画素単位の整数DCT
(5)任意の位置の複数の画面(ピクチャ)を参照画面として使用可能なマルチリファレンスフレーム
(6)重み付け予測
等の技術を利用する。
以下、図5のソフトウェアデコーダの動作を説明する。
圧縮符号化された動画像ストリームは、まず、可変長復号化のようなエントロピー復号処理を施すエントロピー復号部301に入力される。圧縮符号化された動画像ストリームには、符号化された画像情報の他に、動き補償フレーム間予測符号化(インター予測符号化)で用いられた動きベクトル情報、フレーム内予測符号化(イントラ予測符号化)で用いられたフレーム内予測情報、予測モード(インター予測符号化/イントラ予測符号化)を示すモード情報等が含まれている。
デコード処理は、たとえば16×16画素のマクロブロック単位で実行される。エントロピー復号部301は動画像ストリームに対して可変長復号のようなエントロピー復号処理を施して、動画像ストリームから、量子化DCT係数、動きベクトル情報(動きベクトル差分情報)、フレーム内予測情報、およびモード情報を分離する。この場合、例えば、デコード対象画面(ピクチャ)内の各マクロブロックは4×4画素(または8×8画素)のブロック毎にエントロピー復号処理され、各ブロックは4×4(または8×8画素)の量子化DCT係数に変換される。以下では、各ブロックが4×4である場合を想定する。
フレーム内予測情報は、イントラ/インター予測部310に送られる。後述のモード情報はモード切替スイッチ部311に送られる。画像適用ループフィルタ部305pでは、画像適用ループフィルタ:BALF(Block-based Adaptive Loop Filter、T.Chujoh, G.Yasuda, N.Wada, T.Watanabe, and T.Yamakage, “Block-based Adaptive Loop Filter”,ITU-T SG16 Q.6, VCEG-AI18, Berlin, July. 2008を参照)処理が行われる。
各デコード対象ブロックの4×4の量子化DCT係数は、逆量子化部302による逆量子化処理により4×4のDCT係数(直交変換係数)に変換される。この4×4のDCT係数は、逆DCT部303による逆整数DCT(逆直交変換)処理によって、周波数情報から、4×4の画素値に変換される。この4×4の画素値は、デコード対象ブロックに対応する予測誤差信号である。この予測誤差信号は加算部304に送られ、そこでデコード対象ブロックに対応する予測信号(動き補償フレーム間予測信号またはフレーム内予測信号)が加算され、これによってデコード対象ブロックに対応する4×4の画素値がデコードされる。
イントラ予測モードにおいては、イントラ/インター予測部310からのフレーム内予測信号が予測誤差信号に加算される。インター予測モードにおいては、図示せぬ動き補償フレーム間予測信号が予測誤差信号に加算される。
このように、デコード対象画面に対応する予測誤差信号に予測信号(動き補償フレーム間予測信号またはフレーム内予測信号)を加算してデコード対象画面をデコードする処理が所定のブロック単位で実行される。
デコードされた各画面(ピクチャ)は、デブロッキングフィルタ部305によってデブロッキングフィルタ処理が施された後に、フレームメモリ306に格納される。このデブロッキングフィルタ部305は、例えば4×4画素のブロック単位で、デコードされた各画面に対してブロックノイズを低減するためのデブロッキングフィルタ処理を施す。このデブロッキングフィルタ処理は、ブロック歪みが参照画像に含まれてしまい、これによってブロック歪みが復号画像に伝搬してしまうことを防止する。デブロッキングフィルタ処理は、ブロック歪みが生じやすい箇所に対してはより強いフィリタリングが施され、ブロック歪みが生じにくい箇所に対しては弱いフィリタリングが施されるように、適応的に実行される。デブロッキングフィルタ処理はループフィルタ処理によって実現されている。
そして、デブロッキングフィルタ処理された各画面は、フレームメモリ306から出力画像フレーム(または出力画像フィールド)として読み出される。また、動き補償フレーム間予測のための参照画像として使用されるべき各画面(参照画面)は、フレームメモリ306内に一定期間保持される。H.264/AVC規格の動き補償フレーム間予測符号化においては、複数の画面を参照画面として使用することができる。このため、フレームメモリ306は、複数画面分の画像を記憶するための複数個のフレームメモリ部を備えている。
イントラ/インター予測部310は、デコード対象画面からその画面内に含まれるデコード対象ブロックのフレーム内予測信号を生成するものである。このイントラ/インター予測部310は、上述のフレーム内予測情報に従って画面内予測処理を実行して、デコード対象ブロックと同一画面内に存在する、当該デコード対象ブロックに近接する既にデコードされた他のブロック内の画素値からフレーム内予測信号を生成する。このフレーム内予測(イントラ予測)は、ブロック間の画素相関を利用して圧縮率を高める技術である。このフレーム内予測においては、フレーム内予測情報に従って、垂直予測(予測モード0)、水平予測(予測モード1)、平均値予測(予測モード3)、平面予測(予測モード4)を含む4種類の予測モードの内の一つが、フレーム内予測ブロック(例えば16×16画素)単位で選択される。
次に、図6を参照して、動画像ストリームに含まれる参照画面および非参照画面について説明する。
デコード処理前の動画像ストリームに含まれる各種の画面は、所定の順序でソフトウェアデコーダ(図5)に入力されて動き補償フレーム間予測やフレーム内予測などの処理が施される。ここでは、画面(Iピクチャ)401,画面(Bピクチャ)402,画面(Bピクチャ)403,画面(Bピクチャ)404,画面(Pピクチャ405)がこの順序でソフトウェアデコーダに入力されて処理される場合を考える。
なお、Pピクチャは、1つの画面を参照することによって動き補償フレーム間予測を行うための画面である。Bピクチャは、2つの画面を参照することによって動き補償フレーム間予測を行うための画面である。Iピクチャは、他の画面を参照することなく当該画面内(イントラ)だけで独立してフレーム内予測を行うための画面である。
図6中に示される画面401は、他の画面を参照することはないが、画面402,画面403,および画面405から参照される。また、画面403は、画面401および画面405を参照し、画面402および画面404から参照される。また、画面405は、画面401を参照し、画面403および画面404から参照される。このように画面間予測に際して他の画面から参照される画面401,画面403,および画面405は、参照画面に該当する。
一方、図6中に示される画面402は、画面401および画面403を参照するが、他の画面からは参照されない。また、画面404は、画面403および画面405を参照するが、他の画面からは参照されない。このように画面間予測に際して他の画面から参照されない画面402および画面404は、非参照画面に該当する。
このような参照画面と非参照画面とのモード情報はモード切替スイッチ部311に送られ、参照画面の場合は更に画像適用ループフィルタ部305pによる処理が行われる。
以下、図7のフローチャートを参照して、ビデオ再生アプリケーションプログラム201によって実行されるデコード処理の手順を説明する。
ビデオ再生アプリケーションプログラム201は、デコード処理の実行期間中、画面の参照関係を調べて参照画面を検出する処理を定期的に繰り返し実行する(ステップS101)。
そして、ビデオ再生アプリケーションプログラム201は、目下扱っている画面が参照画面であるかどうかを判別する(ステップS102)。
目下扱っている画面が参照画面ではないならば(ステップS102のNO)、ビデオ再生アプリケーションプログラム201は、CPU111に実行させるべきデコード処理として通常デコード処理を選択し、これによって図5で説明した一連のデコード処理をCPU111上で実行する(ステップS103)。
一方、目下扱っている画面が参照画面であるならば(ステップS102のYES)、
ビデオ再生アプリケーションプログラム201は、CPU111に実行させるべきデコード処理として上述の通常デコード処理に加えた処理を、具体的には通常デコード処理のデブロッキングフィルタ処理を行った後キャッシュメモリからデータが消えないうちにポストフィルタリング処理をCPU111上で実行する(ステップS104)。
動画像ストリーム全てのデコードが完了するまで、図5のステップS101〜S104の処理は繰り返し実行される(ステップS105)。上記のポストフィルタリング処理の具体例としては、色調整、ノイズ除去がある。
以上のように、本実施形態によれば、コンピュータ10のデコード処理の一環で行われるデブロッキングフィルタ処理に続け可能な画面にポストフィルタリング処理を実現することができる。画素データへのアクセスの際のメモリキャッシュを効率よく利用でき、性能の向上が期待できる。
なお、上述のデコード制御処理は全てコンピュータプログラムによって実現されているので、このコンピュータプログラムをコンピュータ読み取り可能な記憶媒体を通じて通常のコンピュータに導入するだけで、本実施形態と同様の効果を容易に実現することができる。
また、本実施形態のソフトウェアデコーダは、パーソナルコンピュータに限らず、PDA、携帯型電話機等にも適用することができる。
(符号化装置)
参考として実施形態に関連する符号化装置を図8を参照して説明する。
図8は図5における符号化データを作成する際に必要となる動画像符号化装置を示すブロック図である。この動画像符号化装置は放送局などで用いられる。図5の構成要素に、加算部312と変換・量子化部313とが加えられている。
図8の動画像符号化装置で作成された符号化データは,図5の画像適用ループフィルタ内で用いるフィルタ係数、各スライスにおけるループフィルタ適用処理が適用されるブロック情報、フィルタ形状のフィルタ処理を行う際に必要なデータをSyntaxとして含んでいる。
上記の符号化データを入力すると、本実施形態の動画像復号化装置では、可変長復号化を行い、上記フィルタ処理を行う際に必要なデータを画像適用ループフィルタ部305pに送信する。フィルタ情報を受け取った画像適用ループフィルタ部305pは、モード切替スイッチ部311により入力フレームのピクチャタイプによりフィルタ処理を行うか行わないかの処理を行う。もし、入力画像が参照画面の場合は、フィルタ処理を行い、非参照画面の場合はフィルタ処理を行わないこととする。
先行技術のあるものは、エンコーダ側で決定されたフィルタ適用対象ピクチャに関してデコーダ側で必ずフィルタ処理を行うが、本実施形態は非参照ピクチャではフィルタ処理を行わない。先行技術の問題点としてフィルタ処理は、処理量が重く高精細な画像では復号時に遅延が生じる可能性がある。
本実施形態の効果として、非参照画面ではフィルタ処理を行わないようにすることで、画質劣化を防ぎつつ復号時における遅延を抑制することができる。
以下のポイントのように動画像復号化装置側で、画像適用ループフィルタを参照画面には適用するが、非参照画面には適用しないようにすることで、画質劣化を抑制しつつ復号遅延を抑制することが可能となる。
(1)次世代動画像符号化規格におけるループフィルタに関する提案となる。
(2)動画像復号化方法において、画質劣化を抑えつつ復号化の遅延を抑制するため、参照画面ではフィルタ処理を行うが、非参照画面ではフィルタ処理を行わない。
(3)符号化の際は、参照画面、非参照画面全てを対象にフィルタ処理を行うが、復号化の際は全てのピクチャタイプにフィルタ処理を行うか、参照画面のみフィルタ処理を行うかはユーザが決定することができる。
(4)符号化側で設定したフィルタ係数を送信し、復号化側で受信して用いる動画像符号化/復号化方法の位置づけである。
なお、この発明は上記実施形態に限定されるものではなく、この外その要旨を逸脱しない範囲で種々変形して実施することができる。例えば上記実施例では、非参照画面のみフィルタ処理を行わないこととしたが、フィルタ処理量を軽減するために非参照画面のみフィルタ形状などを変えても良い。具体的には、参照画面では2次元フィルタを使用するのに対して、非参照画面では1次元フィルタを使用したり、非参照画面では参照画面と比較してフィルタタップ数の少ないフィルタを適用しても良い。
また、上記した実施の形態に開示されている複数の構成要素を適宜に組み合わせることにより、種々の発明を形成することができる。例えば、実施の形態に示される全構成要素から幾つかの構成要素を削除しても良いものである。さらに、異なる実施の形態に係わる構成要素を適宜組み合わせても良いものである。
10…コンピュータ、111…CPU、113…メモリ、114…グラフィクスコントローラ、211…非参照画面検出機能、212…デコード制御機能、213…デコード実行機能、301…エントロピー復号部、301p…逆量子化・逆変換部、304…加算部、305…デブロッキングフィルタ部、305p…画像適用ループフィルタ部、306…フレームメモリ、310…イントラ/インター予測部、311…モード切替スイッチ部。

Claims (7)

  1. 複数のピクチャ内の複数の画素をブロック単位で符号化することで生成された動画像ス
    トリームに少なくともデコード処理及び変換処理を行うことによって、複数のデコードさ
    れたピクチャを生成する変換手段と、
    前記複数のデコードされたピクチャのうちから、デコード中に他のピクチャによって参
    照された参照ピクチャを検出する検出手段と、
    前記検出手段により検出された参照ピクチャに対してはデブロッキングフィルタ処理と
    BALF(Block-based Adaptive Loop Filter)処理を実行し、前記複数のデコードされ
    たピクチャのうち前記参照ピクチャでないピクチャに対しては前記デブロッキングフィル
    タ処理を実行し前記BALF処理を非実行とするフィルタ処理手段と
    を具備する情報処理装置。
  2. 前記検出手段は、デコード制御手段を含む請求項1に記載の情報処理装置。
  3. ノートブック型コンピュータに備えられている請求項1に記載の情報処理装置。
  4. 前記変換処理は、量子化DCT係数の生成処理を含む請求項1に記載の情報処理装置。
  5. 前記デコード処理は、エントロピー復号処理を含む請求項1に記載の情報処理装置。
  6. 前記参照ピクチャは、少なくともIピクチャ又はBピクチャを含む請求項1に記載の情
    報処理装置。
  7. 複数のピクチャ内の複数の画素をブロック単位で符号化することで生成された動画像ス
    トリームに少なくともデコード処理及び変換処理を行うことによって、複数のデコードさ
    れたピクチャを生成するステップと、
    前記複数のデコードされたピクチャのうちから、デコード中に他のピクチャによって参
    照された参照ピクチャを検出するステップと、
    前記検出された参照ピクチャに対してはデブロッキングフィルタ処理とBALF(Block
    -based Adaptive Loop Filter)処理を実行し、前記複数のデコードされたピクチャのう
    ち前記参照ピクチャでないピクチャに対しては前記デブロッキングフィルタ処理を実行し
    前記BALF処理を非実行とするステップと
    を有する画像処理方法。
JP2010169632A 2010-07-28 2010-07-28 情報処理装置および画像処理方法 Expired - Fee Related JP5066232B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010169632A JP5066232B2 (ja) 2010-07-28 2010-07-28 情報処理装置および画像処理方法
US13/098,187 US20120027078A1 (en) 2010-07-28 2011-04-29 Information processing apparatus and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010169632A JP5066232B2 (ja) 2010-07-28 2010-07-28 情報処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2012034036A JP2012034036A (ja) 2012-02-16
JP5066232B2 true JP5066232B2 (ja) 2012-11-07

Family

ID=45526686

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010169632A Expired - Fee Related JP5066232B2 (ja) 2010-07-28 2010-07-28 情報処理装置および画像処理方法

Country Status (2)

Country Link
US (1) US20120027078A1 (ja)
JP (1) JP5066232B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11916880B1 (en) 2019-06-21 2024-02-27 Amazon Technologies, Inc. Compiling firewall rules into executable programs
US11119739B1 (en) * 2019-06-21 2021-09-14 Amazon Technologies, Inc. Executable programs representing firewall rules for evaluating data packets
CN115918074A (zh) 2020-06-10 2023-04-04 华为技术有限公司 基于通道间相关信息的自适应图像增强

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DK1387585T3 (da) * 2001-09-12 2005-07-25 Matsushita Electric Ind Co Ltd Billedkodningsfremgangsmåde og billedkodningsfremgangsmåde
KR100557911B1 (ko) * 2001-09-18 2006-03-10 마쯔시다덴기산교 가부시키가이샤 화상 부호화 방법 및 화상 복호화 방법
JP4643454B2 (ja) * 2006-01-10 2011-03-02 株式会社東芝 動画像復号装置及び動画像復号方法
EP2001239B1 (en) * 2006-03-27 2017-09-13 Sun Patent Trust Picture coding apparatus and picture decoding apparatus
JP2008085868A (ja) * 2006-09-28 2008-04-10 Toshiba Corp 情報処理装置および情報処理方法
US7760964B2 (en) * 2006-11-01 2010-07-20 Ericsson Television Inc. Method and architecture for temporal-spatial deblocking and deflickering with expanded frequency filtering in compressed domain
EP2141927A1 (en) * 2008-07-03 2010-01-06 Panasonic Corporation Filters for video coding
US9094658B2 (en) * 2010-05-10 2015-07-28 Mediatek Inc. Method and apparatus of adaptive loop filtering

Also Published As

Publication number Publication date
US20120027078A1 (en) 2012-02-02
JP2012034036A (ja) 2012-02-16

Similar Documents

Publication Publication Date Title
US8040951B2 (en) Information processing apparatus and program for use in the same
US8625668B2 (en) Information processing apparatus and video decoding method of information processing apparatus
JP2006254230A (ja) 情報処理装置およびプログラム
US20070140355A1 (en) Information processing apparatus, control method, and program
US20080069244A1 (en) Information processing apparatus, decoder, and operation control method of playback apparatus
JP2009081576A (ja) 動画像復号装置、および動画像復号方法
US20090034615A1 (en) Decoding device and decoding method
US20060204221A1 (en) Information processing apparatus and information processing program
JP2006254231A (ja) 情報処理装置および同装置で用いられるプログラム
US8611433B2 (en) Information processing apparatus and video decoding method of information processing apparatus
US20060203910A1 (en) Information processing apparatus and decoding method
JP2003304538A (ja) 画像符号化装置、画像復号化装置及びそれらの方法
JP5066232B2 (ja) 情報処理装置および画像処理方法
JP4643437B2 (ja) 情報処理装置
JP2009081579A (ja) 動画像復号装置、および動画像復号方法
JP2007318615A (ja) 動画再生装置、動画再生方法およびプログラム
JP2006101322A (ja) 情報処理装置および同装置で用いられるプログラム
JP4592805B1 (ja) 動画像復号装置、プログラムおよび復号処理簡略化方法
JP2006101321A (ja) 情報処理装置および同装置で用いられるプログラム
JP2006101405A (ja) 情報処理装置および同装置で用いられるプログラム
JP2006101406A (ja) 情報処理装置および同装置で用いられるプログラム
JP4282582B2 (ja) 情報処理装置および同装置で用いられるプログラム
JP2008085868A (ja) 情報処理装置および情報処理方法
JP2006101323A (ja) 情報処理装置および同装置で用いられるプログラム
JP2006101404A (ja) 情報処理装置および同装置で用いられるプログラム

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120228

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120427

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20120514

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120720

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120810

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150817

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees