JP2005175997A - 復号化装置、電子機器、コンピュータ、復号化方法、プログラム及び記録媒体 - Google Patents

復号化装置、電子機器、コンピュータ、復号化方法、プログラム及び記録媒体 Download PDF

Info

Publication number
JP2005175997A
JP2005175997A JP2003414232A JP2003414232A JP2005175997A JP 2005175997 A JP2005175997 A JP 2005175997A JP 2003414232 A JP2003414232 A JP 2003414232A JP 2003414232 A JP2003414232 A JP 2003414232A JP 2005175997 A JP2005175997 A JP 2005175997A
Authority
JP
Japan
Prior art keywords
image data
decoding
image
frame
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003414232A
Other languages
English (en)
Inventor
Shojiro Shibata
正二郎 柴田
Mitsugi Kobayashi
貢 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2003414232A priority Critical patent/JP2005175997A/ja
Priority to US11/007,682 priority patent/US20050147166A1/en
Priority to EP20040257615 priority patent/EP1542474A1/en
Priority to KR1020040103974A priority patent/KR20050058965A/ko
Priority to CNA2004101009207A priority patent/CN1627826A/zh
Publication of JP2005175997A publication Critical patent/JP2005175997A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】元画像の高画質化に伴い、Bフレーム信号を高速に復号化できる技術が求められている。
【解決手段】双方向予測符号化された画像データを含む画像ストリームを復号する復号化装置内に、画像ストリームを並列に処理するN個(Nは、2以上の自然数)の復号化部21〜2Nを設ける。各復号化部21〜2Nは、双方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化し、別の方式で符号化された画像データの入力時、1フレーム全体を復号化する。
【選択図】図2

Description

本発明は、フレーム間予測符号化された画像データを含む画像ストリームを復号する復号化装置に関する。また、当該復号化装置を内蔵する電子機器に関する。また、当該復号化装置の機能を実行するコンピュータに関する。また、予測符号化された画像データを含む画像ストリームの復号化方法及びプログラムに関する。また、当該プログラムを記録した記録媒体に関する。
現在、様々な画像圧縮技術が存在する。例えば、H.261フォーマット、MPEG(Motion Picture coding Experts Group)フォーマットがある。これら技術を用いて符号化された画像データの復号化には多くの演算を必要とする。
このため、解像度の高い画像(例えば、HD(High Definition))の復号化処理には、専用のハードウェアアクセラレータ(LSI)を使用するのが一般的である。例えば、この種のLSIは、1920画素×1080画素で与えられるHD信号を30フレーム/秒で処理する能力を有している。
図1に、MPEGフォーマットに準拠した復号器(以下「デコーダ」ともいう。)の構成例を示す。以下、この復号器で実行される復号動作を示す。
デマルチプレクサ1は、エレメンタリーストリームSesから各種スタートコードのアドレス情報を取得する。
エレメンタリーストリームSesは、ビデオデータのみで構成される。なお、音声データとビデオデータとで1つのデータストリームが構成される場合、ビデオデータのみがエレメンタリーストリームSesとして入力される。
各種スタートコードには、例えばシーケンス・スタートコード、GOP・スタートコード、ピクチャ・スタートコード及びスライス・スタートコードがある。シーケンス・スタートコードは、ストリームの先頭位置を示す情報である。GOP・スタートコードは、GOP(Group Of Picture)の先頭位置を示す情報である。ピクチャ・スタートコードは、ピクチャの先頭位置を示す情報である。スライス・スタートコードは、スライスの先頭位置を示す情報である。
デマルチプレクサ1は、これら各種スタートコードと共にエレメンタリーストリームSesをメモリ2に格納する。この格納処理は、メモリ管理モジュールであるアービター3により実行される。フレームデコーダ4は、デマルチプレクサ1が取得した各種スタートコードに基づき、シーケンス層、GOP層、ピクチャ層のデコード処理を実行する。
これらの情報に基づき、スライスデコーダ5が起動される。スライスデコーダ5は、スライス層をデコードする。具体的には、可変長デコード処理、逆量子化処理、逆スキャン処理、逆DCT(Discrete Cosine Transform)処理等を実行する。
なお、スライスデコーダ5は、一方向予測フレーム(Predictive-Picture)及び双方向予測フレーム(Bi-directionally predictive-picture) のマクロブロックをデコード処理する際、動き補償用の参照画像をメモリ2からロードする。
一方向予測フレームは、以下「Pフレーム」ともいう。また、双方向予測フレームは、以下「Bフレーム」とも言う。
一般に、一方向予測フレームは、時間的に前フレームからの予測である。もっとも、一方向予測フレームには、時間的に後ろフレームからの予測もある。
参照画像のロード後、スライスデコーダ5は、デコード後のフレーム画像を参照画像に加算する。加算後、スライスデコーダ5は、生成したデコード画像をメモリ2に書き込む。
画面全体のデコード処理が終了した後、出力部6がメモリ2からデコード画像を読み出し、ベースバンド信号Sbbを出力する。
特開2000−307642号公報 特開2000−307533号公報
以上の復号化処理において、処理能力を決定するのは、メモリ2のバンド幅とスライスデコーダ5の処理時間である。特にメモリ2には、復号器を構成する各部からのアクセスが集中する。
例えば、デマルチプレクサ1からメモリ2へは、エレメンタリーストリームSesの書き込みやスタートコードなどの解析データの書き込みが行われる。また例えば、メモリ2からフレームデコーダ4及びスライスデコーダ5へはエレメンタリーストリームSesのロードが行われる。また例えば、Pフレーム及びBフレームの復号時には、メモリ2からスライスデコーダ5への参照画像のロードと、スライスデコーダ5からメモリ2へのデコード画像の書き込みが行われる。また例えば、メモリ2から出力部6へデコード画像のロードが行われる。
これらのアクセスの中で、メモリ2のバンド幅を占めるのは、圧縮されたデータをデコードした後の処理である。すなわち、メモリ2から出力部6へのデコード画像のロード、メモリ2からスライスデコーダ5への参照画像のロードと、スライスデコーダ5からメモリ2へのデコード画像の書き込みである。
このうち、出力部6によるベースバンド信号Sbbの出力は、SDI(Serial Digital Interface )等の同期出力である。従って、メモリ2から出力部6へのデコード画像のロード処理を優先する必要がある。
かくして、スライスデコーダ5による参照画像のロードには、メモリ2のバンド幅の制約に起因した待ち時間が発生する。この待ち時間が、復号器の処理能力を決定する。なお、スライスデコーダ5は、可変長デコード処理、逆スキャン処理、逆DCT処理等のパイプライン処理において固定の処理時間を必要とする。この固定の処理時間が復号器の処理能力を決定する。
本発明は、以上の技術的課題を考慮してなされたもので、フレーム間予測符号化された画像データを含む画像ストリームを高速復号できる技術の提案を目的とする。
かかる技術的課題を解決するため、時間的制約を受けるフレーム間予測符号化された画像データの復号処理を並列化する。本発明の一つでは、双方向予測符号化された画像データの復号処理を並列化する。また、本発明の一つでは、一方向予測符号化された画像データの復号化処理を並列化する。
(1)発明1
図2に、発明の一つである復号化装置の一例を示す。ここでは、双方向予測符号化された画像データの復号処理を並列化する場合について説明する。すなわち、画像ストリームは、少なくとも双方向予測符号化された画像データを含む。
この他、画像ストリームには、別の方式で符号化された画像データが含まれる。別の方式で符号化された画像データには、例えば、フレーム内符号化された画像データや一方向予測符号化された画像データがある。フレーム内予測符号化された画像データは、以下「Iフレーム」ともいう。
別の方式で符号化された画像データには、これら2種類の方式で符号化された画像を常に含むとは限らない。例えば、画像ストリームには、フレーム内符号化された画像データと双方向予測符号化された画像データとの2種類で構成されるものがある。また例えば、画像ストリームには、前述した3種類全ての符号化方式で符号化された画像データで構成されるものがある。
このように、画像ストリームは、符号化方式を異にする複数種類の画像データの列でなる。各画像データは、1フレームに対応する。なお、フレームには、フィールド画像も含むものとする。図2は、1フレームに対応する画像データを概念的に正方形で表している。
なお、画像ストリームを構成する各種フレームの配列と、アクセス単位となる一群のフレームとの組み合わせは任意である。一群のフレームは、フレーム内符号化された1つのフレームから次のフレームまでとして定義する。一群のフレームに含まれる双方向予測符号化されたフレームの数も任意である。一般に、双方向予測符号化されたフレームが少ないほど高画質になる。
かかる画像ストリームを並列的に復号するため、復号化装置10にはN個(Nは、2以上の自然数)の復号化部21〜2Nを用意する。各復号化部21〜2Nは、画像データの種類に応じて処理機能を切り替える。例えば、別の方式で符号化された画像データが入力される場合、各符号化部2i(i=1〜N)は、1フレーム全体を復号化する。図2は、この復号範囲を正方形全体に斜線を描いて表している。
また例えば、双方向予測符号化された画像データが入力される場合、各復号化部2i(i=1〜N)は、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化する。図2では、各復号化部2i(i=1、2…N)が分担する部分を斜線で示している。
部分画像は固定長でも任意長でも良い。部分画像は、MPEGフォーマットの場合、例えばスライス単位とする。各復号化部2の演算量は基本的に部分画像のデータ量による。復号化部2間の演算量はほぼ同じであるのが望ましい。一般には、多少のバラツキが含まれる。
各部分画像の演算量が同じ場合、各復号化部2i(i=1〜N)における演算量は、1フレーム全体を復号する場合の1/Nで済む。
この結果、復号化装置全体としての処理時間の短縮を実現できる。また、各復号化部に要求される処理能力は、全ての演算を1個の復号化部で実行する場合に比べて処理能力の低いもので足りる。この結果、処理能力が非常に高い1個の復号化部を用いる場合に比べ開発コストや製品コストを低下できる。
なお、復号化されたN個の部分画像を合成することにより、1フレーム全体を復元できる。例えば復号化装置は、装置内でN個の部分画像を合成する。また例えば、復号化装置は、N個の部分画像のまま装置外部に出力しても良い。この場合、N個の部分画像の合成処理は装置外部で行う。
また、別の方式で符号化された画像データの復号結果も同じ方式で画像データを出力させることができる。すなわち、1フレーム全体を復号処理する画像データについても、双方向予測符号化された画像データと同様に、各復号化部2i(i=1〜N)から分担部分の部分画像を出力させることができる。
この場合、全ての符号化方式について同じ出力方式を適用できる。なお、別の方式で符号化された画像データについて出力する部分画像は、双方向予測符号化された画像データの復号時に分担する部分画像と同じであるのが望ましい。この場合、出力処理を共通化できる。
もっとも、別の方式で符号化された画像データの出力時には、N個の復号化部のうち選択した一つの復号化部の復号結果だけを出力することもできる。この場合、別の方式で符号化された画像データの復号動作は、復号結果を出力する一つだけで実行し、他のN−1個の復号化部の復号動作は休止させることもできる。
各復号化部2i(i=1〜N)は、例えば図3に示す構成により実現できる。すなわち、フィルタ段2i1と復号化処理段2i2(i=1〜N)で実現できる。なお、各フィルタ段2i1には、符号化方式に応じて通過する画像データの範囲を切り替える特性を搭載する。
例えば、各フィルタ段は、入力画像が双方向予測符号化された画像データの場合、1フレームを構成するN個の部分画像のうち分担する部分画像だけを通過する。また例えば、フィルタ段は、入力画像が別の方式で符号化された画像データの場合、入力された画像データの全体をそのまま通過する。
一方、復号化処理段2i2には、それぞれ対応するフィルタ段から入力される画像データを復号化するものを用いる。かかる構成とすることにより、復号化処理段そのものは同じ構成のものを使用できる。
(2)発明2
図2に示す復号化装置は、一方向予測符号化された画像データの復号化処理を並列化する場合にもそのまま使用できる。この場合、各復号化部は、フレーム内符号化された画像データを、1フレーム全体について復号化する。一方、各復号化部は、一方向予測符号化された画像データを、分担する部分画像だけを復号化する。
(3)発明3
また発明の一つとして、復号化装置10を内蔵する又は着脱自在に装着可能な電子機器を提案する。図4に、この電子機器30の一例を示す。復号化装置10は、例えば半導体集積回路、モジュール、ボード、カードデバイスその他の電子回路で実現する。
電子機器30には、例えば画像編集装置、映像再生装置、テレビジョン受像機、テレビジョン信号デコーダ、チップデバイス、カードデバイス、携帯電話機、携帯情報端末、ゲーム機、ビデオサーバ、コンピュータその他の圧縮画像の再生機能を搭載する各種の電子機器を適用できる。
なお、電子機器30には、画像データの圧縮機能を搭載しても良い。
また、電子機器は、ハードウェアとして同復号機能を実現するだけでなく、ソフトウェアとして同復号機能を実現しても良い。
電子機器30は、画像ストリームを通信方式で受信する通信機能を搭載しても良い。この画像ストリームの受信は、即時の復号を必要とするストリーミング方式による他、記憶媒体に一旦蓄積するダウンロード型の受信でも良い。
また、電子機器30は、不特定多数に放送された画像ストリームを受信する受信機能を搭載しても良い。
また、電子機器30は、外部接続された又は内蔵された記憶媒体から再生された画像ストリームを復号対象とする。
(4)発明4
また発明の一つとして、復号化装置1の機能を実現するコンピュータを提案する。図5に、このコンピュータ40の一例を示す。このコンピュータ40は、複数の処理部(プロセッサ)を搭載する。いわゆる、マルチプロセッサ構成を採る。図5は、処理部51と52の2つを搭載する。
この発明では、アプリケーションソフトウェアの機能として前述の復号化部の機能を実現する。処理部51、52が前述の各復号化部に対応する。このように、複数の処理部(プロセッサ)に画像データの復号処理を分散しても良い。これにより、個々の処理部に要求される処理能力は小さくて済む。
なお、コンピュータ40のオペレーションシステムは、マルチプロセッサに対応しているものとする。
(5)その他
前述した各発明は、その一側面としての復号化方法、プログラム、当該プログラムを記録した記録媒体としても実現できる。勿論、プログラムは伝送路を通じて配信することができる。
前述したように、本発明は、復号時に他の画像を参照する必要がある画像データの復号処理を分散する。これにより、個々の復号処理に必要な演算量を大幅に削減できる。この結果、復号時に他の画像を参照する必要がある画像データの復号に要する時間を短縮することができる。
以下、MPEGフォーマットに準拠する画像ストリームを復号する編集機を例に、復号化装置を内蔵する電子機器の実施形態例を説明する。なお、明細書で特に図示又は記載しない技術は、当該技術分野において周知の技術を適用する。
以下、編集機のハードウェア構成を説明する。なお発明は、かかるハードウェアと等価なソフトウェアとしても実現できる。発明をコンピュータプログラムとして実現する場合、プログラムはコンピュータ読取り可能な記憶媒体に記憶される。
記憶媒体は、例えば、磁気ディスク(フレキシブルディスク又はハードディスク)又は磁気テープのような磁気記憶媒体、光ディスク、光テープ又はマシン読取り可能なバーコードのような光記憶媒体、ランダムアクセスメモリ(RAM)又はリードオンリメモリ(ROM)のような半導体記憶装置の他、コンピュータプログラムを記憶するために使用される他の物理装置又は媒体を含む。
(1)システム構成
図6に、編集機100の構成例を示す。例えば、コンピュータとして実現する。なお、GOPを構成するフレーム数は15とする。15フレームには、Iフレーム、Pフレーム、Bフレームの3種類のフレームが混在して現れる。ここで、Iフレームは、フレーム内予測符号化したフレームである。Pフレームは、一方向予測フレームである。Bフレームは、双方向予測フレームである。
編集機100は、CPU110、主記憶装置120、副記憶装置130、MPEGデコーダ140、MPEGエンコーダ150、ビデオカード160、バス170からなる。
CPU100は、オペレーションシステムや各種アプリケーションを実行するプロセッサである。編集機としての機能も当該CPU100の処理動作を通じて実現する。
主記憶装置120は、高速アクセス可能なメモリ空間である。例えば、ROMやRAMで構成される。なお、ROMには基本入出力プログラムその他が記録される。また、RAMは、編集中の画像データの保存領域やアプリケーションの実行領域として使用される。
副記憶装置130は、ハードディスクその他の記憶媒体を駆動する駆動機構を備える。ハードディスクには、例えば復号対象とする画像ストリームが格納されている。
MPEGデコーダ140は、圧縮符号化された画像データの復号するために設けられたモジュールである。
このMPEGデコーダ140は、スライス層の復号時、Bフレームか否かに応じて異なる復号動作を適応する。すなわち、MPEGデコーダ140は、Bフレームの入力時、1フレームをN個のスライス画像(例えば16ライン分)に分割し、これらを並列的に復号する。一方、MPEGデコーダ140は、Iフレーム又はPフレームの入力時、1フレーム全体をN個の内部デコーダでそれぞれ復号する。詳細は後述する。
この復号方式の採用により、MPEGデコーダ140は、例えば1920画素×1080画素で与えられるHD信号を60フレーム/秒以上のレートでモニタに処理する。従って、このMPEGデコーダ140のビデオ出力端子からは、HD-SDI
DualLink(SMPTE372M)方式によるビデオ信号の出力が可能である。
MPEGエンコーダ150は、1920画素×1080画素で与えられるHD信号を60フレーム/秒以上のレートで処理する能力を有する。MPEGエンコーダ150のビデオ入力端子には、HD-SDI
DualLink(SMPTE372M)方式によるビデオ信号の入力が可能である。
ビデオカード160は、モニタ表示用のモニタ出力端子を有する。例えば1920画素×1080画素で与えられるHD信号を60フレーム/秒のレートで表示することができる。
バス170は、PCI(Peripheral Components Interconnect bus)バスに相当する。例えば、バンド幅の拡張されたPCI-Expressを用いる。
(2)MPEGデコーダの構成
図7に、MPEGデコーダ140の内部構成を示す。MPEGデコーダ140は、N個のスライスフィルタ141i(i=1、2…N)と、N個のサブデコーダ142i(i=1、2…N)と、マルチプレクサ143とでなる。サブデコーダ142には、例えば図1に示す復号器を用いる。
N個のスライスフィルタ141i(i=1、2…N)は、それぞれエレメンタリーストリームSesを並列的に入力する。スライスフィルタ141は、画像データがIフレーム又はPフレームのとき、画像データをそのまま通過する。一方、スライスフィルタ141は、画像データがBフレームのとき、スライス単位でフィルタリングする。フィルタリングするスライス単位はフィルタ毎予め定められている。
図8に、スライスフィルタ141が実行する処理手順を示す。まず、スライスフィルタ141は、エレメンタリーストリームSesが入力されると、まずスライス層か否かを判定する(プロセスP1)。シーケンス層、GOP層、ピクチャ層と判定された場合、スライスフィルタ141は否定結果を得て、入力された画像データをそのまま出力する(プロセスP6)。
一方、スライス層と判定された場合、次にスライスフィルタ141は、Bフレームか否かを判定する(プロセスP2)。この際、スライスフィルタ141は、スライス層ストリームのピクチャタイプを判定条件として判定する。なお、ピクチャタイプがIフレーム又はPフレームと判定された場合、否定結果を得て、入力された画像データをそのまま出力する(プロセスP6)。
Bフレームと判定された場合、次にスライスフィルタ141は、Bフレームをスライス単位にN分割した画像データ部分が担当スライスか否かを判定する(プロセスP3)。スライスフィルタ141は、担当スライスの画像データ部分をそのまま出力する(プロセスP4)。一方、スライスフィルタ141は、担当スライスでない画像データ部分は非出力とする(プロセスP5)。
N個のサブデコーダ142i(i=1、2…N)は、それぞれ図1に表す復号器で構成される。各サブデコーダ142は、それぞれ入力された画像データを復号する。従って、シーケンス、GOP、ピクチャ層は、前述と同じ処理を実行する。また、Iフレーム又はPフレームは1フレーム全体を復号する。一方、Bフレームについては、フィルタリングされたスライス単位だけを復号する。
なお、サブデコーダ142は、復号された画像データのうちBフレームの分担部分だけを出力する。すなわち、1フレーム全体を復号したIフレームやPフレームについてもBフレームが分担したスライス単位だけを出力する。勿論、スライス単位だけしか復号されていないBフレームについては、復号結果と出力データは一致する。
マルチプレクサ143は、N個のサブデコーダ142から入力されるスライス単位を合成し、1フレーム全体に対応する画像データを復元する。この出力動作は、Iフレーム、Pフレームについても、Bフレームと同様に実行される。
(3)復号処理の内容
編集機100は、GUIを通じて入力された編集点間の画像データを副記憶装置130から読み出し、バス170を経由してMPEGデコーダ140に入力する。
図9に、MPEGデコーダ140による復号処理の概念図を示す。図9は、MPEGストリームの一部分を示す。MPEGデコーダ140は、Iフレームの場合、その全体を全てのサブデコーダ142i(i=1、2…N)で復号する。
一方、Bフレームの場合、1フレームがN個のスライス単位に分割され、サブデコーダ1421は担当スライスであるスライス単位1だけを復号する。サブデコーダ1422は担当スライスであるスライス単位2だけを復号する。以下同様に、サブデコーダ142Nは担当スライスであるスライス単位Nだけを復号する。
各スライス単位は、1フレームの1/Nである。このように、サブデコーダ142i(i=1、2…N)の演算量は、Bフレームの全体を復号する場合のほぼ1/Nとする。
なお、MPEGデコーダ140がBフレームを復号するのに要する時間は、サブデコーダ142のうち最も演算量の大きいものに一致する。
従って、MPEGデコーダ140が復号に必要とする時間は、1個のサブデコーダ142でBフレームの全範囲を復号化する場合に比して格段に短縮される。
図10に、MPEGデコーダ140による復号結果の出力処理の概念図を示す。図10に示すように、フレームの種類にかかわらず、Bフレームの復号単位と同じスライス単位の復号結果が各サブデコーダ142から出力される。マルチプレクサ143はこれを多重し、1つのフレーム画像として出力する。
復号結果は、ビデオ出力端子から例えばスイッチャに出力される。また、バス170経由でビデオカード160に与えられ、モニタに表示される。なお、例えばABロール、フェード処理、特殊効果処理その他の編集処理が施された処理結果は、MPEGエンコーダ150で符号化されて副記憶装置130に記憶される。また、符号化後の画像データが必要に応じて装置外部に出力される。
(4)実施形態の効果
以上のように、非常に多くの演算を必要とするBフレームの復号処理を、おおよそ1/Nの演算量で済むN個のサブデコーダ142の並列処理で実現する。この結果、MPEGデコーダ140としての復号時間が大幅に短縮される。
また各サブデコーダ142は、Bフレームの復号単位と同じスライス単位を出力するため、復号対象とするフレームの違いによらず同じ処理動作を実行する。すなわち、サブデコーダ142の出力時に、フレームの種類を判断せずに済む。この分、出力処理を単純化できる。
(5)他の実施形態
前述の実施形態は、蓄積型のシステムについて説明したが、放送型のシステムにも適用できる。すなわち、電波やネットワークを経由して受信したMPEGストリームを復号する復号装置に適用できる。例えば、テレビジョン信号受信機能付きの携帯電話機や携帯情報端末にも適用できる。また例えば、MPEGストリーム受信機能を搭載する各種の電子機器にも適用できる。
前述の実施形態では、BフレームのみN個のスライス単位で並列処理する場合について述べたが、PフレームとBフレームの両方をN個のスライス単位で並列処理させることもできる。
前述の実施形態では、MPEGストリームを前提に説明しているが、少なくとも双方向予測符号化された画像データ、又は、一方向予測符号化された画像データを含んでいれば良い。
MPEGデコーダのハードウェア構成を示す図である。 復号化装置の概念構成例を示す図である。 復号化部の内部構成例を示す図である。 復号化装置を搭載した電子機器を示す図である。 マルチプロセッサ構成のコンピュータへの適用を説明するための図である。 コンピュータ構成でなる編集機のハードウェア構成を示す図である。 MPEGデコーダの内部構成例を示す図である。 スライスフィルタで実行される処理内容を示すフローチャートである。 フレーム別の復号処理の概念図である。 復号結果の出力処理の概念図である。
符号の説明
10 復号化装置
2i 復号化部(i=1〜N)
2i1 フィルタ(i=1〜N)
2i2 復号化処理部(i=1〜N)
30 電子機器
40 コンピュータ
51,52 処理部
141i スライスフィルタ(i=1〜N)
142i サブデコーダ(i=1〜N)
143 マルチプレクサ

Claims (14)

  1. 双方向予測符号化された画像データを含む画像ストリームを復号する復号化装置であって、
    前記画像ストリームを並列に処理するN個(Nは、2以上の自然数)の復号化部がそれぞれ、双方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化し、別の方式で符号化された画像データの入力時、1フレーム全体を復号化する
    ことを特徴とする復号化装置。
  2. 請求項1に記載の復号化装置であって、
    前記復号化部は、
    双方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを通過し、別の方式で符号化された画像データの入力時、入力された画像データをそのまま通過するN個のフィルタ段と、
    前記N個のフィルタ段の後段に位置し、それぞれ対応するフィルタ段から入力される画像データを復号化するN個の復号化処理段と
    を有することを特徴とする復号化装置。
  3. 請求項1に記載の復号化装置であって、
    前記復号化部は、
    復号化されたN個の部分画像を合成し、1フレーム全体の復号結果として出力する
    ことを特徴とする復号化装置。
  4. 一方向予測符号化された画像データとフレーム内符号化された画像データとを含む画像ストリームを復号する復号化装置であって、
    前記画像ストリームを並列に処理するN個(Nは、2以上の自然数)の復号化部がそれぞれ、一方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化し、フレーム内符号化された画像データの入力時、1フレーム全体を復号化する
    ことを特徴とする復号化装置。
  5. 双方向予測符号化された画像データを含む画像ストリームを復号する電子機器であって、
    前記画像ストリームを並列的に入力し、それぞれが、双方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化し、別の方式で符号化された画像データの入力時、1フレーム全体を復号化するN個(Nは、2以上の自然数)の復号化装置
    を有することを特徴とする電子機器。
  6. 一方向予測符号化された画像データとフレーム内符号化された画像データとを含む画像ストリームを復号する電子機器であって、
    前記画像ストリームを並列的に入力し、それぞれが、一方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化し、フレーム内符号化された画像データの入力時、1フレーム全体を復号化するN個(Nは、2以上の自然数)の復号化装置
    を有することを特徴とする電子機器。
  7. 双方向予測符号化された画像データを含む画像ストリームを復号するコンピュータであって、
    前記画像ストリームを並列に処理するN個(Nは、2以上の自然数)の処理部がそれぞれ、双方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化し、別の方式で符号化された画像データの入力時、1フレーム全体を復号化する
    ことを特徴とするコンピュータ。
  8. 一方向予測符号化された画像データとフレーム内符号化された画像データとを含む画像ストリームを復号するコンピュータであって、
    前記画像ストリームを並列に処理するN個(Nは、2以上の自然数)の処理部がそれぞれ、一方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化し、フレーム内符号化された画像データの入力時、1フレーム全体を復号化する
    ことを特徴とするコンピュータ。
  9. 双方向予測符号化された画像データを含む画像ストリームを復号する復号化方法であって、
    前記画像ストリームをN個(Nは、2以上の自然数)の処理部に並列に入力する工程と、
    前記処理部のそれぞれが、双方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化し、別の方式で符号化された画像データの入力時、1フレーム全体を復号化する工程と
    を実行することを特徴とする復号化方法。
  10. 一方向予測符号化された画像データとフレーム内符号化された画像データとを含む画像ストリームを復号する復号化方法であって、
    前記画像ストリームをN個(Nは、2以上の自然数)の処理部に並列に入力する工程と、
    前記処理部のそれぞれが、一方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化し、フレーム内符号化された画像データの入力時、1フレーム全体を復号化する工程と
    を実行することを特徴とする復号化方法。
  11. コンピュータに、
    双方向予測符号化された画像データを含む画像ストリームをN個(Nは、2以上の自然数)の処理部に入力させる工程と、
    前記N個の処理部において、双方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化させ、別の方式で符号化された画像データの入力時、1フレーム全体を復号化させる工程と
    を実行させるプログラム。
  12. コンピュータに、
    一方向予測符号化された画像データとフレーム内符号化された画像データとを含む画像ストリームをN個(Nは、2以上の自然数)の処理部に入力させる工程と、
    前記N個の処理部において、一方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化させ、フレーム内符号化された画像データの入力時、1フレーム全体を復号化させる工程と
    を実行させるプログラム。
  13. コンピュータに、
    双方向予測符号化された画像データを含む画像ストリームをN個(Nは、2以上の自然数)の処理部に入力させる工程と、
    前記N個の処理部において、双方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化させ、別の方式で符号化された画像データの入力時、1フレーム全体を復号化させる工程と
    を実行させるプログラムを記録した記録媒体。
  14. コンピュータに、
    一方向予測符号化された画像データとフレーム内符号化された画像データとを含む画像ストリームをN個(Nは、2以上の自然数)の処理部に入力させる工程と、
    前記N個の処理部において、一方向予測符号化された画像データの入力時、1フレームを構成するN個の部分画像のうち分担する部分画像だけを復号化させ、フレーム内符号化された画像データの入力時、1フレーム全体を復号化させる工程と
    を実行させるプログラムを記録した記録媒体。
JP2003414232A 2003-12-12 2003-12-12 復号化装置、電子機器、コンピュータ、復号化方法、プログラム及び記録媒体 Pending JP2005175997A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2003414232A JP2005175997A (ja) 2003-12-12 2003-12-12 復号化装置、電子機器、コンピュータ、復号化方法、プログラム及び記録媒体
US11/007,682 US20050147166A1 (en) 2003-12-12 2004-12-08 Decoding device, electronic apparatus, computer, decoding method, program, and recording medium
EP20040257615 EP1542474A1 (en) 2003-12-12 2004-12-08 Decoding device, electronic apparatus, computer, decoding method, program, and recording medium
KR1020040103974A KR20050058965A (ko) 2003-12-12 2004-12-10 복호화 장치, 전자 기기, 컴퓨터, 복호화 방법, 프로그램및 기록 매체
CNA2004101009207A CN1627826A (zh) 2003-12-12 2004-12-13 解码装置、电子设备、计算机、解码方法、程序、和记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003414232A JP2005175997A (ja) 2003-12-12 2003-12-12 復号化装置、電子機器、コンピュータ、復号化方法、プログラム及び記録媒体

Publications (1)

Publication Number Publication Date
JP2005175997A true JP2005175997A (ja) 2005-06-30

Family

ID=34510553

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003414232A Pending JP2005175997A (ja) 2003-12-12 2003-12-12 復号化装置、電子機器、コンピュータ、復号化方法、プログラム及び記録媒体

Country Status (5)

Country Link
US (1) US20050147166A1 (ja)
EP (1) EP1542474A1 (ja)
JP (1) JP2005175997A (ja)
KR (1) KR20050058965A (ja)
CN (1) CN1627826A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007074021A (ja) * 2005-09-02 2007-03-22 Nec Personal Products Co Ltd 情報処理装置、および情報処理装置におけるtv映像の処理方法
KR100734372B1 (ko) * 2005-09-29 2007-07-03 엘지전자 주식회사 비디오 데이터 복호장치
WO2007136093A1 (ja) * 2006-05-24 2007-11-29 Panasonic Corporation 画像復号装置
JP2009503960A (ja) * 2005-07-27 2009-01-29 バイエリッシェ モートーレン ウエルケ アクチエンゲゼルシャフト ビデオ信号をアナログ伝達するための方法
JP2009048469A (ja) * 2007-08-21 2009-03-05 Fujitsu Ltd 情報処理装置及び情報処理方法
JP2010252069A (ja) * 2009-04-16 2010-11-04 Panasonic Corp 画像復号装置及び画像復号方法
US8548061B2 (en) 2008-08-05 2013-10-01 Panasonic Corporation Image decoding apparatus and image decoding method
US8977069B2 (en) 2009-07-21 2015-03-10 Samsung Electronics Co., Ltd. Method and apparatus of obtaining high resolution image using multi-band combination filters

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7983342B2 (en) 2004-07-29 2011-07-19 Stmicroelectronics Pvt. Ltd. Macro-block level parallel video decoder
EP1917812B1 (en) 2005-08-17 2009-11-11 Nxp B.V. Video encoding and decoding preserving cache localities
JP4534910B2 (ja) 2005-08-26 2010-09-01 ソニー株式会社 画像処理装置および画像処理方法、記録媒体、並びに、プログラム
JP4389883B2 (ja) * 2006-01-30 2009-12-24 ソニー株式会社 符号化装置、符号化方法、符号化方法のプログラム、符号化方法のプログラムを記録した記録媒体
US7953315B2 (en) * 2006-05-22 2011-05-31 Broadcom Corporation Adaptive video processing circuitry and player using sub-frame metadata
WO2008015781A1 (en) 2006-08-01 2008-02-07 Nikon Corporation Image processing device and electronic camera
US9064333B2 (en) * 2007-12-17 2015-06-23 Nvidia Corporation Interrupt handling techniques in the rasterizer of a GPU
US8780123B2 (en) 2007-12-17 2014-07-15 Nvidia Corporation Interrupt handling techniques in the rasterizer of a GPU
US8094712B2 (en) * 2008-03-31 2012-01-10 Himax Technologies Limited Apparatus for processing a data stream having a hierarchical layer structure and including encoded data sets and raw data sets and method thereof
US8681861B2 (en) * 2008-05-01 2014-03-25 Nvidia Corporation Multistandard hardware video encoder
US8923385B2 (en) 2008-05-01 2014-12-30 Nvidia Corporation Rewind-enabled hardware encoder
US20090317062A1 (en) * 2008-06-24 2009-12-24 Samsung Electronics Co., Ltd. Image processing method and apparatus
KR101539935B1 (ko) * 2008-06-24 2015-07-28 삼성전자주식회사 3차원 비디오 영상 처리 방법 및 장치
JP5321895B2 (ja) * 2009-05-27 2013-10-23 ソニー株式会社 情報処理装置および方法
JP2011109245A (ja) * 2009-11-13 2011-06-02 Renesas Electronics Corp 画像処理装置及び画像処理方法
CN101840494B (zh) * 2010-05-25 2015-07-01 福建新大陆电脑股份有限公司 一种条码边界判断装置
CN101840495A (zh) * 2010-05-25 2010-09-22 福建新大陆电脑股份有限公司 一种支持图像并行处理的条码解码装置
CN107071456B (zh) * 2011-09-23 2020-09-04 株式会社Kt 解码视频信号的方法
US20160191922A1 (en) * 2014-04-22 2016-06-30 Mediatek Inc. Mixed-level multi-core parallel video decoding system
KR102273670B1 (ko) * 2014-11-28 2021-07-05 삼성전자주식회사 움직임 보상 정보를 수정하는 데이터 처리 시스템과 데이터 처리 방법
CN104795073A (zh) * 2015-03-26 2015-07-22 无锡天脉聚源传媒科技有限公司 一种音频数据的处理方法及装置
CN110519599B (zh) * 2019-08-22 2021-05-14 北京数码视讯软件技术发展有限公司 一种基于分布式分析的视频编码方法和装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5532744A (en) * 1994-08-22 1996-07-02 Philips Electronics North America Corporation Method and apparatus for decoding digital video using parallel processing
JPH11122610A (ja) * 1997-10-17 1999-04-30 Toshiba Corp 画像符号化方法及び画像復号化方法並びにこれらの装置
JP2001119699A (ja) * 1999-10-19 2001-04-27 Victor Co Of Japan Ltd 画像復号装置及び画像復号方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009503960A (ja) * 2005-07-27 2009-01-29 バイエリッシェ モートーレン ウエルケ アクチエンゲゼルシャフト ビデオ信号をアナログ伝達するための方法
JP2007074021A (ja) * 2005-09-02 2007-03-22 Nec Personal Products Co Ltd 情報処理装置、および情報処理装置におけるtv映像の処理方法
KR100734372B1 (ko) * 2005-09-29 2007-07-03 엘지전자 주식회사 비디오 데이터 복호장치
WO2007136093A1 (ja) * 2006-05-24 2007-11-29 Panasonic Corporation 画像復号装置
US9020047B2 (en) 2006-05-24 2015-04-28 Panasonic Intellectual Property Management Co., Ltd. Image decoding device
JP2009048469A (ja) * 2007-08-21 2009-03-05 Fujitsu Ltd 情報処理装置及び情報処理方法
US8548061B2 (en) 2008-08-05 2013-10-01 Panasonic Corporation Image decoding apparatus and image decoding method
JP2010252069A (ja) * 2009-04-16 2010-11-04 Panasonic Corp 画像復号装置及び画像復号方法
US8977069B2 (en) 2009-07-21 2015-03-10 Samsung Electronics Co., Ltd. Method and apparatus of obtaining high resolution image using multi-band combination filters

Also Published As

Publication number Publication date
US20050147166A1 (en) 2005-07-07
EP1542474A1 (en) 2005-06-15
KR20050058965A (ko) 2005-06-17
CN1627826A (zh) 2005-06-15

Similar Documents

Publication Publication Date Title
JP2005175997A (ja) 復号化装置、電子機器、コンピュータ、復号化方法、プログラム及び記録媒体
US9414059B2 (en) Image processing device, image coding method, and image processing method
JP3548136B2 (ja) 画像処理装置
US9153037B2 (en) Image decoding device, image encoding device, image decoding method, and image encoding method
US8184700B2 (en) Image decoder
US20180176580A1 (en) Image coding method, image decoding method, image coding apparatus, image decoding apparatus, and image coding and decoding apparatus
US10587882B2 (en) Device and method of video decoding with first and second decoding code
US11849124B2 (en) Device and method of video encoding with first and second encoding code
US9723308B2 (en) Image processing apparatus and image processing method
US20020196858A1 (en) Image processing using shared frame memory
JP2001346165A (ja) 画像処理方法とこの方法を利用可能な画像処理装置およびテレビジョン受像機
Iwasaki et al. Single-chip MPEG-2 422P@ HL CODEC LSI with multi-chip configuration for large scale processing beyond HDTV level
US8406306B2 (en) Image decoding apparatus and image decoding method
US9001893B2 (en) Image decoding apparatus, integrated circuit, image decoding method, and image decoding system
Nakamura et al. Low delay 4K 120fps HEVC decoder with parallel processing architecture
JP3515565B2 (ja) 画像処理方法とこの方法を利用可能な画像処理装置およびテレビジョン受像機
JP2002112262A (ja) 画像符号化装置
JP3398138B2 (ja) 画像処理装置および画像処理方法
JP3403169B2 (ja) 画像再生方法とこの方法を利用可能な画像再生装置およびテレビジョン受像機
JP3403166B2 (ja) 画像再生方法とこの方法を利用可能な画像再生装置およびテレビジョン受像機
JP3403167B2 (ja) 画像処理方法とこの方法を利用可能な画像処理装置およびテレビジョン受像機
JP3548167B2 (ja) 画像処理装置
JP2001333384A (ja) 画像処理方法とこの方法を利用可能な画像処理装置およびテレビジョン受像機
JP4338727B2 (ja) 画像処理装置
JP2006340238A (ja) 符号化装置及びその制御方法及びプログラム及び記憶媒体

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071127

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080325