JPWO2008072452A1 - 動画像復号化装置、半導体装置、映像機器および動画像復号化方法 - Google Patents

動画像復号化装置、半導体装置、映像機器および動画像復号化方法 Download PDF

Info

Publication number
JPWO2008072452A1
JPWO2008072452A1 JP2008505687A JP2008505687A JPWO2008072452A1 JP WO2008072452 A1 JPWO2008072452 A1 JP WO2008072452A1 JP 2008505687 A JP2008505687 A JP 2008505687A JP 2008505687 A JP2008505687 A JP 2008505687A JP WO2008072452 A1 JPWO2008072452 A1 JP WO2008072452A1
Authority
JP
Japan
Prior art keywords
header
header information
compressed image
unit
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008505687A
Other languages
English (en)
Other versions
JP4664406B2 (ja
Inventor
正樹 南
正樹 南
藤井 茂樹
茂樹 藤井
木村 浩三
浩三 木村
吉岡 康介
康介 吉岡
誠 安田
誠 安田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Publication of JPWO2008072452A1 publication Critical patent/JPWO2008072452A1/ja
Application granted granted Critical
Publication of JP4664406B2 publication Critical patent/JP4664406B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/439Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using cascaded computational arrangements for performing a single operation, e.g. filtering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本発明の動画像復号化装置は、ストリーム中のヘッダ情報と圧縮画像データとを判別する判別部と、ヘッダ情報を一時的に記憶するヘッダ情報記憶部と、ヘッダ情報記憶部のアドレスであってヘッダ末尾アドレスを記憶するためのヘッダアドレス記憶部と、圧縮画像データを一時的に記憶する圧縮画像記憶部と、圧縮画像記憶部のアドレスであって画像末尾アドレスを記憶するための画像アドレス記憶部と、ヘッダ末尾アドレスに基づいて1ピクチャ毎にヘッダ情報を解析するヘッダ解析部と、解析結果および画像末尾アドレスに基づいて1ピクチャ毎に圧縮画像データを復号化する復号化部とを備え、ヘッダ解析部は、復号化部によって復号化されているピクチャの次のピクチャのヘッダ情報を解析する。

Description

本発明は、ヘッダ情報と圧縮画像データとを含むストリームを復号化する動画像復号化装置に関し、特にヘッダ情報を解析するプロセッサと圧縮画像データを復号するデコーダとを有する動画像復号化装置等に関する。
近年、デジタル映像機器の技術進歩が著しく、動画像の符号化/復号化を行なう映像機器が広く普及している。そのような画像処理を行う場合、処理を分割し、複数の処理部で並列的に動作する画像処理装置が多く使用されている。しかし、技術競争の中で、それらの装置の処理性能やメモリ使用量の制限は厳しく、尚且つ、技術進歩により動画像復号化処理の複雑度は増している。
例えば、H.264規格(MPEG−4 AVC規格)では、可変長符号化の方式としてCAVLC(Context-Adaptive Variable Length Coding:コンテキスト適応型可変長符号化)とCABAC(Context-Adaptive Binary Arithmetic Coding:コンテキスト適応型2値算術符号化)の2種類が選択可能になっている。コンテキスト適応型とは、周囲の状況に応じて効率の良い符号化方式を適応的に選択する方式である。ただ、可変長符号化処理および可変長復号化処理の複雑度は増している。
図1は、従来技術における動画像復号装置の構成を示すブロック図である。同図の動画像復号装置は、第1バッファメモリ901、前処理部902、第2バッファメモリ903、後処理部904およびフレームメモリ905を備え、前処理と後処理の2段階でストリームを復号化する。
まず、ヘッダ情報と圧縮画像データとを含みCABACが適用されたストリームは第1バッファメモリ901に入力される。前処理部902は、CABAD(Context-Adaptive Binary Arithmetic Decoding:コンテキスト適応型2値算術復号化)を行い、CABACが解かれた状態のストリームを第2バッファメモリ903に格納する。CABADの処理量が多いため、第2バッファメモリ903には一定量のストリームが格納される。
後処理部904は、第2バッファメモリ903に格納されたストリーム中のヘッダ情報を解析することにより各種パラメータを抽出するヘッダ解析部910と、抽出された各種パラメータに従って、逆量子化処理、逆直交変換処理、動き補償等を行なう復号化部911とを備える(例えば、非特許文献1)。このようにして復号化されたピクチャはフレームメモリ905に格納される。
「ソフトウェアで実時間処理を実現した民生用メディア処理プロセッサ"Media Core Processor"」,松下テクニカルジャーナル,Vol.45 No.2 1999年4月
図面を用いて、発明が解決しようとする課題について説明する。
図2Aは、ストリームの一例を示す説明図である。H.264規格では、ストリームは、NAL(Network Abstraction Layer)ユニットと呼ばれる単位の集まりと見ることができる。NALユニットには、SPS(Sequence Parameter Set)、SEI(Supplemental Enhancement Information)、PPS(Picture Parameter Set)、スライスSL(Slice)等の種類がある。このうち、SPSユニット、SEIユニット、PPSユニットはヘッダ情報に含まれる。SLは圧縮画像データに含まれる。H.264規格では、ヘッダ情報としてNALユニットが圧縮画像データの途中に入ることがある。同図ではスライスユニット群の間にPPSユニットが入っている。
図2Bは、従来技術におけるヘッダ解析と復号化処理のタイミングを示す図である。同図のように、ヘッダ解析により抽出された各種パラメータはその後の復号化処理に必要であり、ヘッダ解析部910によるヘッダ解析と、復号化部911による復号化処理は、逐次行なわれる。その結果、ヘッダ解析部910と復号化部911の双方のところどころに待ち時間が発生するという問題があり、復号化に要する処理時間が伸びてしまう。
同様の問題は、2チャネルのストリームを同時に復号化する場合にも発生する。
図3は、従来技術における2つのストリームに対応する動画像復号装置の構成を示すブロック図である。同図は、図1の後処理部904に該当する。ヘッダ解析部910は2チャネルのストリームのヘッダ解析に共用される。復号化部911a、911bは、それぞれ1チャネルのストリームに対応する。
図4は、2チャネルのストリーム例を示す図である。同図のように、スライスユニット群の間にPPSユニットが入っているため、2チャネルのストリームからのヘッダ情報としてのNALユニットが同じタイミングで重なる場合が生じる(同図のh1〜h3)。
図5は、図4の2チャネルのストリームのヘッダ解析と復号化処理のタイミングを示す図である。図中のCPUはヘッダ解析部910を示す。ストリーム1とストリーム2のヘッダ情報としてのNALユニットが同じタイミングで重なる場合に、共用のCPUは同時にヘッダ解析することができないので、一方に待ち時間が発生する。その結果、図中のストリーム1とストリーム2のタイミングではヘッダ解析できず、例えば、ストリーム1とストリーム2’のタイミングでヘッダ解析および復号化処理を行なうことになる。このように、共用のヘッダ解析部を用いて2チャネルのストリームを同時に復号化する場合にも、待ち時間が発生するという問題がある。
また、図3においてヘッダ解析部(CPU)を2つ備えれば、ストリーム1とストリーム2とを同じタイミングでもヘッダ解析することが可能になるが、回路面積増加というコストアップを招くという問題がある。
本発明は、ヘッダ情報を解析するヘッダ解析部と圧縮画像データを復号する復号化部とに発生する待ち時間を低減し、復号化の処理時間を短縮する動画像復号化装置、映像機器、半導体装置および動画像復号化方法を提供することを目的とする。
上記課題を解決するため本発明の動画像復号化装置は、ヘッダ情報と圧縮画像データとを含むストリームを復号化する動画像復号化装置であって、前記ストリーム中のヘッダ情報と圧縮画像データとを判別する判別手段と、判別手段によって判別されたヘッダ情報を一時的に記憶するヘッダ情報記憶手段と、ヘッダ情報記憶手段のアドレスであって、1ピクチャ内のヘッダ情報の末尾を示すヘッダ末尾アドレスを記憶するためのヘッダアドレス記憶手段と、判別手段によって判別された圧縮画像データを一時的に記憶する圧縮画像記憶手段と、圧縮画像記憶手段のアドレスであって、1ピクチャ内の圧縮画像データの末尾を示す画像末尾アドレスを記憶するための画像アドレス記憶手段と、前記ヘッダ末尾アドレスに基づいて1ピクチャ毎にヘッダ情報を解析するヘッダ解析手段と、ヘッダ解析手段による解析結果および前記画像末尾アドレスに基づいて1ピクチャ毎に圧縮画像データを復号化する復号化手段とを備え、前記ヘッダ解析手段は、前記復号化手段によって復号化されているピクチャの次のピクチャのヘッダ情報を解析する。
ここで、前記動画像復号化装置は、さらに、前記判別手段による判別結果に従って、ヘッダ情報記憶手段へのヘッダ情報の格納と、ヘッダアドレス記憶手段へのヘッダ末尾アドレスの格納と、圧縮画像記憶手段への圧縮画像データの格納と、画像アドレス記憶手段への画像末尾アドレスの格納とを制御する格納制御手段と、ヘッダ末尾アドレスに従ってヘッダ情報記憶手段から1ピクチャに対応するヘッダ情報を読み出し、読み出したヘッダ情報をヘッダ解析手段に供給し、画像末尾アドレスに従って圧縮画像記憶手段から1ピクチャに対応する圧縮画像データを読み出し、読み出した圧縮画像データを復号化手段に供給する読み出し制御手段とを備えるようにしてもよい。この構成によれば、ヘッダ情報と圧縮画像データとを1つのバッファメモリにストリーム中の並び順の通りに格納するのではなく、ヘッダ情報記憶手段と圧縮画像記憶手段とに別々に格納する。その結果、ヘッダ情報記憶手段および圧縮画像記憶手段からヘッダ情報および圧縮画像データをストリーム中の並び順に依存することなく読み出すことができるので、パイプライン処理による並列化を容易に実現することができ、待ち時間を低減することができる。
また、ヘッダ末尾アドレスおよび画像末尾アドレスにより、ヘッダ情報および圧縮画像情報のストリーム中の並び順に依存しない読み出しを容易にしている。
ここで、前記動画像復号化装置は、さらに、圧縮画像データに含まれるスライスユニットをスライスヘッダとスライスデータとに分割する分割手段と、前記判別手段に判別されたヘッダ情報と分割手段に分割されたスライスヘッダとをヘッダ情報記憶手段に格納し、圧縮画像データとスライスデータとを圧縮画像記憶手段に格納し、格納に伴ってヘッダアドレス記憶手段および画像アドレス記憶手段を更新する格納制御手段とを備えるようにしてもよい。この構成によれば、スライスヘッダとスライスデータの両者を復号化手段で処理するのではなく、スライスヘッダをヘッダ解析手段が解析し、スライスデータを復号化手段が復号する。つまり、スライスヘッダの解析と、スライスデータの復号化処理とをパイプライン処理できるので、性能を向上させることができる。
ここで、前記判別手段は、さらに、ヘッダ情報に含まれる複数種類のヘッダを判別し、前記ヘッダ情報記憶手段は、ヘッダ情報に含まれるヘッダの種類に対応する複数の記憶領域を有し、前記動画像復号化装置は、さらに、前記判別手段に判別されたヘッダをその種類に対応する記憶領域に格納し、ヘッダの種類毎に1ピクチャの末尾に存在するヘッダの末尾アドレスをヘッダアドレス記憶手段に格納する格納制御手段と、ヘッダの種類毎の末尾アドレスに従ってヘッダの種類毎にヘッダ情報記憶手段から1ピクチャに対応するヘッダを読み出し、読み出したヘッダをヘッダ解析手段に供給し、画像末尾アドレスに従って圧縮画像記憶手段から1ピクチャに対応する圧縮画像データを読み出し、読み出した圧縮画像データを復号化手段に供給する読み出し制御手段とを備えるようにしてもよい。この構成によれば、復号化処理に必須ではない種類のヘッダについてのヘッダ解析を省略することが容易になる。例えば、動画像復号化装置が実装される映像機器の仕様や、要求された復号化処理の状況に応じて、解析する必要がないヘッダの種類がある。そのような状況に応じて不要な種類のヘッダを、個々にヘッダの種類を判別する処理すら不要であり、その記憶領域を読み飛ばすことにより簡単化することができる。
ここで、前記動画像復号化装置は、さらに、ピクチャ内のヘッダ情報の末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、検出されたヘッダ情報の末尾にエンドマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、検出された圧縮画像データの末尾の位置にエンドマークを付加する付加手段とを備えるようにしてもよい。
ここで、前記動画像復号化装置は、さらに、ピクチャ内の同種のヘッダの末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、ヘッダの種類毎にピクチャ内の同種のヘッダ情報の末尾にエンドマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にエンドマークを付加する付加手段とを備えるようにしてもよい。
ここで、前記付加手段は、さらに、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、ヘッダの種類毎にピクチャ内の同種のヘッダ情報の末尾に、エンドマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にエンドマークを付加するようにしてもよい。この構成によれば、ピクチャ内のヘッダ情報の末尾にエンドマークが付加され、ピクチャ内の圧縮画像データの末尾にエンドマークが付加されるので、ピクチャの末尾をアドレス比較によって常にチェックする必要がなく、ヘッダ情報記憶手段からも圧縮画像記憶手段からも順に、マークが読み出されるまでヘッダ解析および復号化処理を進めることができる。これにより、処理負荷を軽減し、処理効率を向上させることができる。
ここで、前記判別手段は、複数チャネルのストリームのそれぞれに対して、ストリーム中のヘッダ情報と圧縮画像データとを判別し、前記動画像復号化装置は、さらに、ピクチャ内のヘッダ情報の末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、判別手段に判別される現在のピクチャと次のピクチャとが異なるストリームに属するか否かを判定する判定手段と、異なるストリームに属すると判定された場合に、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、検出されたヘッダ情報の末尾に、チャネルの変更を示すマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、検出された圧縮画像データの末尾の位置にチャネルの変更を示すマークを付加する付加手段とを備えるようにしてもよい。
ここで、前記判別手段は、複数チャネルのストリームのそれぞれに対して、ストリーム中のヘッダ情報と圧縮画像データとを判別し、前記動画像復号化装置は、さらに、ピクチャ内の同種のヘッダの末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、判別手段に判別される現在のピクチャと次のピクチャとが異なるストリームに属するか否かを判定する判定手段と、異なるストリームに属すると判定された場合に、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、ヘッダの種類毎にピクチャ内の同種のヘッダ情報の末尾に、チャネルの変更を示すマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にチャネルの変更を示すマークを付加する付加手段とを備えるようにしてもよい。この構成によれば、ピクチャ単位でチャネルを示すマークが圧縮画像記憶手段内にもヘッダ情報記憶手段内にも付加されるので、圧縮画像記憶手段も2つのストリームにより共用され、ヘッダ情報記憶部も2チャネルのストリームにより共用される。その結果、2つのストリームを少なくともピクチャを単位として切り替えながら復号化することができる。
ここで、前記判別手段は、複数チャネルのストリームのそれぞれに対して、ヘッダ情報と圧縮画像データとを判別し、前記ヘッダ情報記憶手段、前記ヘッダアドレス記憶手段、前記圧縮画像記憶手段および前記画像アドレス記憶手段は、それぞれ前記複数チャネルに対応する複数の記憶領域を有し、前記動画像復号化装置は、さらに、複数のチャネルに対応する複数の検出手段および付加手段とを備え、各検出手段は、対応するチャネルのストリームにおいて、ピクチャ内のヘッダ情報の末尾と、ピクチャ内の圧縮画像データの末尾とを検出し、各付加手段は、対応するチャネルの記憶領域に記憶されたヘッダ情報に対して、検出されたヘッダ情報の末尾にエンドマークを付加し、対応するチャネルの記憶領域に記憶された圧縮画像データに対して、検出された圧縮画像データの末尾の位置にエンドマークを付加する付加手段とを備えるようにしてもよい。この構成によれば、複数チャネルのストリームの復号化処理をピクチャ単位で切り替えることができる。
ここで、前記動画像復号化装置は、さらに、ピクチャに含まれる最初のスライスユニットを判別するスライス判別手段を備え、前記付加手段は、さらに、最初のスライスユニットが判別されたとき、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、最初のスライスユニットが現れたことを示す開始マークを付加するようにしてもよい。この構成によれば、スライスユニットがストリーム中のヘッダ情報の途中に存在する場合に、ピクチャ内の全ヘッダ情報の解析が終了する前に、最初のスライスユニットの復号化処理を開始することができる。
ここで、前記動画像復号化装置は、さらに、外部から入力されるストリームを一時的に記憶する一時記憶手段と、前記判別手段は、一時記憶手段に記憶されたストリームに対して前処理として算術復号化する算術復号化部と、算術復号化されたストリームに対して、ヘッダ情報と圧縮画像データとを判別する判別手段とを備えるようにしてもよい。この構成によれば、判別手段が前処理として算術復号化も行い、ヘッダ解析手段および復号化手段が後処理としてヘッダ解析と復号化処理を行う。これにより、2段階の動画像復号化処理を効率よく行なうことができる。
また、本発明の半導体装置、映像機器、動画像復号化方法も上記と同様の構成、作用、効果を有する。
本発明によれば、ヘッダ情報および圧縮画像データをストリーム中の並び順に依存することなく読み出すことができ、パイプライン処理による並列化を容易に実現することができ、待ち時間を低減することができる。
また、スライスヘッダの解析と、スライスデータの復号化処理とをパイプライン処理できるので、性能を向上させることができる。
さらに、状況に応じて不要な種類のヘッダを、個々にヘッダの種類を判別する処理をすることなく、簡単に読み飛ばすことができ、処理負荷を軽減し、処理効率を向上させることができる。
また、ヘッダ解析時および復号化処理時にピクチャの末尾や、最初のスライスの開始位置や、複数ストリームの切り替え位置等を簡単に判別することができる。
図1は、従来技術における動画像復号装置の構成を示すブロック図である。 図2Aは、ストリームの一例を示す説明図である。 図2Bは、従来技術におけるヘッダ解析と復号化処理のタイミングを示す図である。 図3は、従来技術における2つのストリームに対応する動画像復号装置の構成を示すブロック図である。 図4は、2チャネルのストリーム例を示す図である。 図5は、2チャネルのストリームのヘッダ解析と復号化処理のタイミングを示す図である。 図6は、実施の形態1における動画像復号化装置の構成を示すブロック図である。 図7は、動画像復号化装置の概略動作を示す説明図である。 図8は、第2バッファメモリへの格納制御を示すフローチャートである。 図9は、実施の形態2における動画像復号化装置の構成を示すブロック図である。 図10は、動画像復号化装置の動作を示す説明図である。 図11は、実施の形態3における動画像復号化装置の構成を示すブロック図である。 図12は、ヘッダ情報記憶部の構成例を示すブロック図である。 図13は、HEA記憶部の構成を示すブロック図である。 図14は、動画像復号化装置の概略動作を示す説明図である。 図15は、第2バッファメモリへの格納制御処理を示すフローチャートである。 図16は、読み出し制御部におけるヘッダ情報記憶部151の読み出し制御処理を示すフローチャートである。 図17は、実施の形態4における動画像復号化装置の構成を示すブロック図である。 図18は、ヘッダ情報記憶部内のエンドマークが付加されたストリームの説明図である。 図19は、実施の形態5における動画像復号化装置の構成を示すブロック図である。 図20は、ヘッダ情報記憶部内のチャネルマークが付加されたストリームの説明図である。 図21は、動画像復号化装置における2ストリームの復号動作を示す説明図である。 図22は、実施の形態6における動画像復号化装置の構成を示すブロック図である。 図23は、動画像復号化装置の概略動作を示す説明図である。 図24は、第2バッファメモリに記憶されるストリームの具体例を示す図である。 図25は、実施の形態7における動画像復号化装置を備える映像機器の構成を示す図である。
符号の説明
11 ダブルチューナ
12 ストリーム入力制御部
13 動画像復号化装置
14 出力制御部
15 表示デバイス
16 表示デバイス
110、111 第1バッファメモリ
120、121 第1デコーダ
125 分割部
130、131 格納制御部
140、141 第2バッファメモリ
150、151 ヘッダ情報記憶部
160、161 HEA記憶部
170 圧縮画像記憶部
180 DEA記憶部
190、191 読み出し制御部
200 第2デコーダ
210 ヘッダ解析部
220 復号化部
230 ピクチャ終了判定部
240 NALエンド付与部
250 チャネル判定部
260 CHエンド付与部
270 第1SL判定部
280 SLstart付与部
(実施の形態1)
本実施の形態における動画像復号化装置は、ストリーム中のヘッダ情報と圧縮画像データとを判別し、判別されたヘッダ情報をヘッダ情報記憶部に格納し、判別された圧縮画像データを圧縮画像記憶部に格納する。これにより、ストリーム中の並び順に依存することなくヘッダ情報と圧縮画像情報とを読み出すことができる。その結果、ヘッダ情報記憶部および圧縮画像記憶部からヘッダ情報および圧縮画像データに対して、パイプライン処理による並列化を容易に実現することができ、待ち時間を低減することができる。
また、動画像復号化装置は、ヘッダアドレス記憶部と画像アドレス記憶部とを有する。ヘッダアドレス記憶部は、ヘッダ情報記憶部のアドレスであって、1ピクチャ内のヘッダ情報の末尾を示すヘッダ末尾アドレスを記憶する。画像アドレス記憶部は、圧縮画像記憶部のアドレスであって、1ピクチャ内の圧縮画像データの末尾を示す画像末尾アドレスを記憶する。ヘッダ末尾アドレスおよび画像末尾アドレスは、ヘッダ情報および圧縮画像情報のストリーム中の並び順に依存しない読み出しを容易にする。
図6は、実施の形態1における動画像復号化装置の構成を示すブロック図である。同図の動画像復号装置は、第1バッファメモリ110、第1デコーダ120、格納制御部130、第2バッファメモリ140および第2デコーダ200を備え、第1デコーダ120による前処理と第2デコーダ200による後処理の2段階でストリームを復号化する。また、第2バッファメモリ140は、ヘッダ情報記憶部150、ヘッダ末尾アドレス(以下HEAと略す。)記憶部160、圧縮画像記憶部170および圧縮画像データ末尾アドレス(以下、DEAと略す。)記憶部180を備える。
第1バッファメモリ110は、ヘッダ情報と圧縮画像データとを含みCABACの適用されたストリームを一時的に記憶するバッファメモリである。もちろん、第1バッファメモリ110には、CABACではなくCAVLCの適用されたストリームが入力されてもよい。
第1デコーダ120は、第1バッファメモリ110に記憶されたストリームにCABAD(Context-Adaptive Binary Arithmetic Decoding:コンテキスト適応型2値算術復号化)を行う。第1デコーダ120は、判別手段としても機能も有する。つまり、CABACが解かれた状態のストリームに含まれるヘッダ情報と圧縮画像データとを判別する。
格納制御部130は、第1デコーダ120による判別結果に従って、ヘッダ情報記憶部150へのヘッダ情報の格納と、HEA記憶部160へのヘッダ末尾アドレスの格納と、圧縮画像記憶部170への圧縮画像データの格納と、DEA記憶部180への画像末尾アドレスの格納とを制御する。
第2バッファメモリ140は、ストリーム中のヘッダ情報と圧縮画像データと別々に記憶する領域として、ヘッダ情報記憶部150と圧縮画像記憶部170とを有している。また、第2バッファメモリ140は、それらのアドレス管理するための領域として、HEA記憶部160とDEA記憶部180とを有している。
ヘッダ情報記憶部150は、格納制御部130の制御に従ってヘッダ情報を一時的に記憶する。
HEA記憶部160は、格納制御部130の制御に従って、ヘッダ情報記憶部150のアドレスであって、1ピクチャ内のヘッダ情報の末尾を示すヘッダ末尾アドレスを記憶する。
圧縮画像記憶部170は、格納制御部130の制御に従って、圧縮画像データを一時的に記憶する。
DEA記憶部180は、格納制御部130の制御に従って、圧縮画像記憶部170のアドレスであって、1ピクチャ内の圧縮画像データの末尾を示す画像末尾アドレスを記憶する。
第2デコーダ200は、ヘッダ解析部210と復号化部220とを有する。第2デコーダ200は、ヘッダ末尾アドレスに従ってヘッダ情報記憶部150から1ピクチャに対応するヘッダ情報が読み出し、読み出したヘッダ情報をヘッダ解析部210に供給する。また、第2デコーダ200は、画像末尾アドレスに従って圧縮画像記憶部170から1ピクチャに対応する圧縮画像データを読み出し、読み出した圧縮画像データを復号化部220に供給する。
ヘッダ解析部210は、ピクチャ単位でヘッダ情報記憶部150に格納されたストリーム中のヘッダ情報を解析することにより各種パラメータを抽出する。
復号化部220は、ヘッダ解析部210によって抽出された各種パラメータに従って、逆量子化処理、逆直交変換処理、動き補償、フィルタリング等を行なう。このようにして復号化されたピクチャはフレームメモリ905に出力される。
図7は、動画像復号化装置の概略動作を示す説明図である。
同図上段は、第1バッファメモリ110にストリームの一例を示す。H.264規格では、ストリームは、NAL(Network Abstraction Layer)ユニットと呼ばれる単位の集まりと見ることができる。NALユニットには、SPS(Sequence Parameter Set)、SEI(Supplemental Enhancement Information)、PPS(Picture Parameter Set)、スライスSL(Slice)等の種類がある。このうち、SPSユニット、SEIユニット、PPSユニットはヘッダ情報に含まれる。SLユニットは圧縮画像データに含まれる。H.264規格では、ヘッダ情報としてのNALユニットが圧縮画像データ(スライスSL群)の途中に入ることがある。同図ではスライスユニット群の間にPPSユニットが入っている。
同図中段は、同図上段のストリームに含まれるヘッダ情報と圧縮画像データとが別々に第2バッファメモリ140に格納された様子を示している。
ヘッダ情報記憶部150は、SPS、SEI、PPS・・・等のヘッダ情報を構成するNALユニットが格納される。HEA(ヘッダ末尾アドレス)は、HEA記憶部160に格納され、ピクチャ中のヘッダ情報の末尾を示す。
圧縮画像記憶部170は、SLユニット群が圧縮画像データを構成するNALユニットとして格納される。DEA(画像末尾アドレス)は、DEA記憶部180に格納され、ピクチャ中の圧縮画像データの末尾を示す。
同図下段は、同図中段に示したヘッダ情報および圧縮画像データに対するヘッダ解析部210および復号化部220の処理順を示す。ヘッダ解析部210が、最初のピクチャの4つのNALユニット(SPS、SEI、PPS、PPS)のヘッダ解析を終える、復号化部220は、解析結果として得られる各種パラメータ群を用いて、最初のピクチャの圧縮画像データ(4つのSLユニット)の復号化処理を行なう。
復号化部220による最初のピクチャの復号化処理と並列に、ヘッダ解析部210は、次のピクチャのヘッダ解析処理を行なう。
このように、ヘッダ解析部210と復号化部220は、ヘッダ解析と画像復号化処理とをパイプライン処理として並列化に行なうので、処理の待ち時間を低減することができる。
図8は、第2バッファメモリ140への格納制御を示すフローチャートである。同図は、第1デコーダ120から格納制御部130にNALユニットが入力される毎になされる処理を示している。同図における、NALユニットがスライスか否か(圧縮画像データであるかヘッダ情報であるか)の判定(S32)と、ピクチャの切替か否か(ピクチャの末尾のNALユニットか否か)の判定(S33)と、EOS(End Of Stream)か否か(ピクチャの最後のNALユニットか否か)の判定(S36)は、第1デコーダ120によって行なわれる。格納制御部130は、第1デコーダ120からNALユニットが入力されると、上記の判定結果に従って、NALユニットがスライス(SLユニット)でなければ、ヘッダ情報記憶部150に格納し(S32→S37)、NALユニットがスライス(SLユニット)であれば、圧縮画像記憶部170に格納し、ピクチャの切替であればHEA記憶部160およびDEA記憶部180にHEAとDEAとを格納する。また、格納制御部130は、EOSである(ピクチャの最後のNALユニットである)場合には、ヘッダ情報記憶部150および圧縮画像記憶部170へのライトポインタ(wp)を次の新たなピクチャ用に更新する。
以上説明してきたように、本実施の形態における動画像復号化装置によれば、ストリーム中の並び順に依存することなくヘッダ情報と圧縮画像情報とを読み出すことができる。その結果、ヘッダ情報記憶部および圧縮画像記憶部からヘッダ情報および圧縮画像データに対して、パイプライン処理による並列化を容易に実現することができ、待ち時間を低減することができる。また、ヘッダ末尾アドレスおよび画像末尾アドレスは、ヘッダ情報および圧縮画像情報のストリーム中の並び順に依存しない読み出しを容易にする。
(実施の形態2)
本実施の形態における動画像復号化装置は、実施の形態1の動画像復号化装置に加えて、圧縮画像データに含まれるスライスユニットをスライスヘッダとスライスデータとに分割し、スライスヘッダを他のヘッダ情報と同様にヘッダ情報記憶部に格納し、スライスデータを圧縮画像データとして圧縮画像記憶部に格納する。これによれば、スライスヘッダとスライスデータの両者を復号化部で処理するのではなく、スライスヘッダをヘッダ解析部が解析し、スライスデータを復号化部が復号する。つまり、スライスヘッダの解析と、スライスデータの復号化処理とをパイプライン処理できるので、より性能を向上させることができる。
図9は、実施の形態2における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、図6の動画像復号化装置と比較して、主に分割部125が追加されている点が異なっている。同じ構成要素には同じ符号を付しているので、以下同じ点は説明を省略して異なる点を中心に説明する。
分割部125は、第1デコーダ120からスライスユニットが入力され、スライスユニットをスライスヘッダとスライスデータとに分割し、格納制御部130に出力する。
格納制御部130は、分割部125からのスライスヘッダを他のヘッダ情報と同様にヘッダ情報記憶部150に格納し、スライスデータを圧縮画像データとして圧縮画像記憶部170に格納する。これにより、スライスヘッダとスライスデータは別々に第2バッファメモリ140に記憶されることになる。
図10は、動画像復号化装置の動作を示す説明図である。
図10上から第1段目は、第1バッファメモリ110にストリームの一例を示し、既に図7上段で説明したので省略する。
図10上から第2段において、SLは分割前のスライスユニットを、Shは分割部125による分割後のスライスヘッダを、Sdは分割部125による分割後のスライスデータを表す。ヘッダ情報記憶部150には、スライスヘッダShも格納されている。HEA記憶部160のHEA(ヘッダ末尾アドレス)はスライスヘッダも含めた1ピクチャ分のヘッダ情報の末尾を示す。圧縮画像記憶部170には、スライスヘッダShを除くスライスデータSdが保持される。DEA記憶部180のDEAは、1ピクチャ分のスライスデータSdの末尾を示す。
図10上から第3段は、第2段に示したヘッダ情報および圧縮画像データに対するヘッダ解析部210および復号化部220の処理順を示す。ヘッダ解析部210によるスライスヘッダの解析処理と、復号化部220によるスライスデータの復号化処理は、パイプライン処理により並列化がより進んでいる。
以上説明してきたように本実施の形態における動画像復号化装置によれば、スライスヘッダの解析と、スライスデータの復号化処理とをパイプライン処理できるので、より性能を向上させることができる。
(実施の形態3)
本実施の形態における動画像復号化装置では、実施の形態1の動画像復号化装置に加えて、ヘッダ情報に含まれるヘッダの種類(つまりNALユニットの種類)毎に別々にNALユニットをバッファに格納する。さらに、本実施の形態における動画像復号化装置は、NALユニットの種類を判別し、判別した種類に対応する記憶領域に格納する。また、ヘッダの種類毎に1ピクチャの末尾のNALユニットの末尾アドレスをヘッダアドレス記憶部に格納する。復号化処理に必須ではない種類のヘッダについてのヘッダ解析を省略することが容易になる。
図11は、実施の形態3における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、図6の動画像復号化装置と比較して、格納制御部130の代わりに格納制御部131、第2バッファメモリ140の代わりに第2バッファメモリ141を備える点が異なっている。また、第2バッファメモリ141は、第2バッファメモリ140と比較して、ヘッダ情報記憶部150の代わりにヘッダ情報記憶部151を、HEA記憶部160の代わりにHEA記憶部161を備えている。同じ構成要素には同じ符号を付しているので、以下同じ点は説明を省略して異なる点を中心に説明する。
第2バッファメモリ141は、NALユニットをその種類に対応する領域に格納するよう構成されている。
ヘッダ情報記憶部151は、NALユニットの種類と同数の記憶領域を有する。
HEA記憶部161は、NALユニットの種類と同数のHEAを記憶する。
格納制御部131は、第1デコーダ120から入力されるヘッダの種類(つまりNALユニットの種類)に応じて、ヘッダ情報記憶部151の複数の記憶領域のうち種類に対応する記憶領域にNALユニットを格納する。さらに、格納制御部131は、NALユニットの種類毎のHEA(ヘッダ末尾アドレス)をHEA記憶部161に格納する。これ以外は、格納制御部130と同じである。
前記ヘッダ情報記憶手段は、ヘッダ情報に含まれるヘッダの種類に対応する複数の記憶領域を有し、図12は、ヘッダ情報記憶部151の構成例を示すブロック図である。同図では圧縮画像記憶部170も併記されている。同図において、ヘッダ情報記憶部151は、SPS記憶領域152、SEI記憶領域153、PPS記憶領域154を含む。このように、ヘッダ情報記憶部151は、NALユニットの種類毎の記憶領域を有し、各記憶領域には同種のNALユニットが格納される。また、圧縮画像記憶部170は、SL記憶領域155と、EOS記憶領域156を有する。
図13は、HEA記憶部160の構成を示すブロック図である。同図では、DEA記憶部180も併記されている。同図においてHEA(SPS)は、SPS記憶領域152に格納されたピクチャ内最後のSPSの末尾アドレスであり、SPS用のライトポインタwpとして利用される。HEA(SEI)、HEA(PPS)、DEA(SL)、DEA(EOS)も、対応する記憶領域が異なる点以外は同様である。DEA(EOS)はストリームまたはシーケンスの最後のNALユニットを示す。また、PEL[1]は、1ピクチャに対応するピクチャ・エンド・リストである。
図14は、動画像復号化装置の概略動作を示す説明図である。
図14上から第1段目は、図7上段と同じストリーム例であるので説明を省略する。
図14上から第2段目は、図7上段とストリームを構成するNALユニットがヘッダ情報記憶部151に格納された様子を示す。
図14上から3段目と4段目は、動画像復号化装置が切替可能なヘッダ解析および復号化処理を示している。3段目は、図7下段と変わらない処理を示す。4段目は、SEIの読み出しを省略した処理を示している。動画像復号化装置が実装される映像機器の仕様や、要求された復号化処理の状況に応じて、解析する必要がないヘッダの種類がある。例えばSEIは動画の表示に関するパラメータ類であり、必ずしもSEIに従って動画を表示する必要がないので、状況に応じて不要な種類のヘッダとしてもよい。図7中段でSEIを読み飛ばすには、個々のヘッダ(NALユニット)の種類を判別する処理であるが、図142段目では、SEI記憶領域153を読み飛ばすだけでよいので、読み出し処理を簡単にすることができる。
図15は、第2バッファメモリ141への格納制御処理を示すフローチャートである。同図は、図8と比べて、ステップS37の代わりにステップS100、S101を有する点が異なっている。同じ点は説明を省略して、以下異なる点を中心に説明する。第1デコーダ120から格納制御部131に入力されたNALユニットが、スライスユニットでない場合に、第1デコーダ120によって判定された当該NALユニットの種類(S100)に対応する記憶領域にNALユニットを格納する(S101)。なお、ヘッダ情報記憶部151へのライトポインタwpは、記憶領域毎に管理されている必要がある。
図16は、読み出し制御部におけるヘッダ情報記憶部151の読み出し制御処理を示すフローチャートである。同図においてrp(j)は、ヘッダ情報記憶部151内の記憶領域毎のリードポインタを示す。HEA(j)は、ヘッダ情報記憶部151内の記憶領域毎のヘッダ末尾アドレスを示す。j=1、2、3、4はSPS記憶領域152、SEI記憶領域153、PPS記憶領域154、SL記憶領域155に対応する。同図のループ1では、rp(j)として直前のピクチャのHEA(j)が設定されてから(S112)、rp(j)が対象ピクチャのHEA(j)に至るまで繰り返される(S113〜S116)。
図16において、図14の第3段目の読み出し(省略しない通常の読み出し)を行なうにはループ1の制御変数j=1、2、3、4にすればよい。また、図14の第4段目の読み出し(SEIを省略する読み出し)を行なうにはループ1の制御変数j=1、3、4にすればよい。
以上説明してきたように本実施の形態における動画像復号化装置によれば、NALユニットの種類毎にNALユニットを記憶領域に格納しているので、復号化処理に必須ではない種類のヘッダについてのヘッダ解析の省略を容易にできる。
(実施の形態4)
本実施の形態における動画像復号化装置は、実施の形態3の動画像復号化装置に加えて、ヘッダ情報記憶部に記憶された複数種類のヘッダ(複数種類のNALユニット)のそれぞれ、および圧縮画像記憶部に記憶された圧縮画像データに対して、ピクチャ内の同じ種類のNALユニットの末尾であることを示すエンドマークを付加する。ヘッダ情報にも圧縮画像データにもエンドマークが付加されるので、ピクチャ内の同種のNALユニットの末尾であるかをアドレス比較によってチェックする必要がなく、ヘッダ情報記憶部からも圧縮画像記憶部からも順に、エンドマークが読み出されるまでヘッダ解析および復号化処理を進めることができる。これにより、処理負荷を軽減し、処理効率を向上させることができる。
図17は、実施の形態4における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、図11の動画像復号化装置と比較して、ピクチャ終了判定部230およびNALエンド付与部240が追加された点と、読み出し制御部190の代わりに読み出し制御部191を備える点とが異なっている。同じ構成要素には同じ符号を付しているので、以下同じ点は説明を省略して異なる点を中心に説明する。
ピクチャ終了判定部230は、NALユニットの種類毎に、その種類のNALユニットがピクチャ内で最後に現れるNALユニットであるかどうかを判定する。言い換えれば、ピクチャ終了判定部230は、ピクチャ内の同種のNALユニットの末尾を検出する。
NALエンド付与部240は、ピクチャ内の同種のNALユニットの最後であることが検出された場合、ヘッダ情報記憶部151に格納された当該NALユニットにエンドマークを付与する。
読み出し制御部191は、ピクチャ内のヘッダ情報の末尾やピクチャ内の圧縮画像データの末尾をアドレス比較によって常にチェックする必要がなく、ヘッダ情報記憶部151からも圧縮画像記憶部170からも順に、エンドマークまで読み出す。
図18は、ヘッダ情報記憶部151内のエンドマークが付加されたストリームの説明図である。図中の「end」はエンドマークを表す。同図のように、エンドマークは、NALユニットの種類毎の記憶領域152〜155のそれぞれに対して、ピクチャ内の同種のNALユニットの末尾を示している。
以上説明してきたように本実施の形態における動画像復号化装置によれば、ピクチャ内のヘッダ情報の末尾やピクチャ内の圧縮画像データの末尾をアドレス比較によって常にチェックする必要がなく、ヘッダ情報記憶部151からも圧縮画像記憶部170からも順に、NALユニットの種類毎にエンドマークが読み出されるまで順に読み出すことができ、ヘッダ情報記憶部151の読み出しを効率よくすることができる。
(実施の形態5)
本実施の形態では、複数チャネルのストリームを復号化する動画像復号化装置について説明する。本実施の形態における動画像復号化装置は、実施の形態4の動画像復号化装置に加えて、現在のピクチャと次のピクチャとでストリームが異なる場合に、ヘッダ情報記憶部に記憶されたヘッダ情報に対して、ヘッダの種類(NALユニットの種類)毎にピクチャ内の同種のヘッダ情報の末尾に、チャネルの変更を示すチャネルマークを付加し、圧縮画像記憶部に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にチャネルの変更を示すチャネルマークを付加する。チャネルマークは、ピクチャ内の同種のヘッダの末尾を示すが、むしろ、現在のストリーム内の同種のヘッダの末尾を示すものである。これにより、ヘッダ情報記憶部に、異なるストリームのNALユニットが混在して記憶される場合に、チャネルマークにより、軽い処理負荷で容易に区別することができる。
図19は、実施の形態5における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、図17の動画像復号化装置と比較して、第1バッファメモリ110の代わりに第1バッファメモリ111を備える点と、第1デコーダ120の代わりに第1デコーダ121を備える点と、チャネル判定部250およびCHエンド付与部260が追加された点とが異なっている。同じ構成要素には同じ符号を付しているので、以下同じ点は説明を省略して異なる点を中心に説明する。
第1バッファメモリ111は、2チャネルのストリームが入力される。そのため、第1バッファメモリ111は、内部の記憶領域をch1バッファとch2バッファの2つに分けている。
第1デコーダ121は、2チャネルのストリームの算術復号化処理(CABAD)と、ヘッダ情報と圧縮画像データとの判別処理とを行なう。例えば、第1デコーダ121は1ピクチャ単位で、あるいは数ピクチャ単位でch1バッファとch2バッファとを切り替えて、ストリームを読み出す。
チャネル判定部250は、ピクチャ内の同種のヘッダ(つまりNALユニット)の末尾と、ピクチャ内の圧縮画像データ(スライスユニット)の末尾とを検出し、また、現在のピクチャと次のピクチャとが異なるストリームに属するか否かを判定する。
CHエンド付与部260は、現在のピクチャと次のピクチャとが異なるストリームに属すると判定された場合に、ヘッダ情報記憶部151に記憶されたヘッダ情報に対して、ヘッダ(NALユニット)の種類毎にピクチャ内の同種のNALユニットの末尾に、チャネルの変更を示すチャネルマークを付加し、圧縮画像記憶部170に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にチャネルの変更を示すマークを付加する。
図20は、ヘッダ情報記憶部151内のチャネルマークが付加されたストリームの説明図である。図中の「ch-e」はチャネルマークを表す。点線は、切り替え前のストリームに属するNALユニットの読み出し例を示している。
このように、ストリーム毎に別個のバッファを設ける必要がなく、複数のストリームをヘッダ情報記憶部151に混在させて一時記憶することができる。
図21は、動画像復号化装置における2ストリームの復号動作を示す説明図である。同図上段において、複数のNALユニットからなる1chおよび2chのストリームは、ヘッダ情報記憶部で、ヘッダ情報と圧縮画像データとに分類されて格納された場合を示している。ヘッダ情報記憶部151に格納される前の図4に示したストリーム1、2と同じような並びになっている。同図下段において、CPUはヘッダ解析部210を意味する。同図のように、ヘッダ解析部210と復号化部220は、ヘッダ情報と圧縮画像データを元のストリーム中の並び順に依存することなく高い自由度で読み出すことができ、パイプライン処理による並列化を容易に実現することができ、待ち時間を低減することができる。
なお、図19においてHEA記憶部161、DEA記憶部180は備えないようにしてもよい。
(実施の形態6)
本実施の形態における動画像復号化装置は、実施の形態4の動画像復号化装置に加えて、ピクチャに含まれる最初のスライスユニットを判別し、最初のスライスユニットを判別したとき、ヘッダ情報記憶部に記憶されたヘッダ情報(NALユニットの種類毎に)に対して、最初のスライスユニットが現れたことを示す開始マークを付加する。これによれば、スライスユニットがストリーム中のヘッダ情報の途中に存在する場合に、ピクチャ内の全ヘッダ情報の解析が終了する前に、最初のスライスユニットの復号化処理を開始することができるので、復号化の処理効率を向上させることができる。
図22は、実施の形態6における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、図19の動画像復号化装置と比較して、チャネル判定部250およびCHエンド付与部260の代わりに第1SL判定部270およびSLstart付与部280を備える点が異なっている。同じ構成要素には同じ符号を付しているので、以下同じ点は説明を省略して異なる点を中心に説明する。
第1SL判定部270は、ピクチャに含まれる最初のスライスユニットを判別する。
SLstart付与部280は、最初のスライスユニットが判別されたとき、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、最初のスライスユニットが現れたことを示す開始マークを付加する。
図23は、動画像復号化装置の概略動作を示す説明図である。同図上段は、ヘッダ情報を構成するNALユニットと、圧縮画像データを構成するNALユニット(スライスユニットSL)とを示している。本実施の形態ではヘッダ情報と圧縮画像データとを分けてバッファ(ヘッダ情報記憶部151、圧縮画像記憶部170)に格納するため、最初のスライスユニットSLがどのヘッダの次に現れたのかが分からない。そのため、同図上段のように、ピクチャ内の全部のヘッダ情報の解析後に最初のスライスユニットSLの復号化処理を開始することになる。例えば、最初のスライスユニットSLが3つの目のNALユニットであるPPSの直後に元々存在していた場合、3つの目のNALユニットのヘッダ解析の完了後に復号化処理開始可能であったにも関わらず、開始待ち状態が続くことも生じえる。
本実施の形態では、図23下段のタイミングで復号化処理を開始することを可能にする。
図24は、第2バッファメモリに記憶されるストリームの具体例を示す図である。図中の「SLstart」は、第1SL判定部270によって付加される開始マークを表す。読み出し制御部191は、開始マークが揃った時点で、スライスユニットSLを復号化部220に供給する。これにより、ピクチャ内の全ヘッダ情報の解析が終了する前の早い時点で、最初のスライスユニットの復号化処理を開始することができる。
(実施の形態7)
本実施の形態では、上記各実施の形態で説明した動画像復号化装置を備える映像機器の具体例について説明する。
図25は、実施の形態7における動画像復号化装置を備える映像機器の構成を示す図である。同図の映像機器は、ダブルチューナ11、ストリーム入力制御部12、動画像復号化装置13、出力制御部14、表示デバイス15および16を備え、デジタル放送受信チューナまたはDVDプレーヤー/レコーダである。
ダブルチューナ11は、デジタル放送信号から番組を受信する2つのチューナを持ち、ストリームとしてストリーム入力制御部12に出力する。2つのチューナは2画面表示用あるいは表番組と裏番組受信用などである。
また、記録メディアはDVD等の記録媒体であり、映画等のコンテンツを表すストリームをストリーム入力制御部12に出力する。
ストリーム入力制御部12は、1つまたは2つのストリームを選択し、選択したストリームを動画像復号化装置13に出力する。
動画像復号化装置13は、上記各実施の形態1〜6に示した何れかの動画像復号化装置である。
出力制御部14は、動画像復号化装置13からの復号結果としての1つまたは2つのベースバンドの動画像データを表示デバイス15、16表示する。
表示デバイス15、16は、2つの動画像を同時に表示する。例えば、表示デバイス15および16はPDPテレビ画面を2分割した表示領域であってもよいし、独立した2つの表示パネルであってもよい。
この映像機器によれば、2つのストリームを効率よく復号化し、同時に表示することができる。
なお、同図の映像機器は、記録メディアに対応していないデジタル放送チューナ、DVDプレーヤー/レコーダに限らない。例えば、テレビの再生と、SDカード等の記録媒体に記録されたストリームの再生とを行なうテレビチューナ付携帯電話機であってもよいし、同様のPDAであってもよい。
なお、上記各実施の形態等に示したブロック図の各機能ブロックは典型的には集積回路装置であるLSIとして実現される。このLSIは1チップ化されても良いし、複数チップ化されても良い(例えばメモリ以外の機能ブロックが1チップ化されていても良い。)。ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギャラブル・プロセッサを利用しても良い。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
また、各機能ブロックのうち、データを格納するユニットだけ1チップ化せずに、本実施の形態の記録媒体115のように別構成としても良い。
なお、ブロック図の各機能ブロックおよびフローチャートにおいて、中心的な部分はプロセッサおよびプログラムによっても実現される。
このように、上記実施の形態で示した画像符号化方法あるいは画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記実施の形態で説明した効果を得ることができる。
本発明は、動画像復号装置および映像機器に適しており、特に、動画像記録再生装置、ビデオカメラ、テレビカメラ、デジタル放送チューナ、DVDプレーヤー、DVDレコーダ、携帯電話機などに適している。
本発明は、ヘッダ情報と圧縮画像データとを含むストリームを復号化する動画像復号化装置に関し、特にヘッダ情報を解析するプロセッサと圧縮画像データを復号するデコーダとを有する動画像復号化装置等に関する。
近年、デジタル映像機器の技術進歩が著しく、動画像の符号化/復号化を行なう映像機器が広く普及している。そのような画像処理を行う場合、処理を分割し、複数の処理部で並列的に動作する画像処理装置が多く使用されている。しかし、技術競争の中で、それらの装置の処理性能やメモリ使用量の制限は厳しく、尚且つ、技術進歩により動画像復号化処理の複雑度は増している。
例えば、H.264規格(MPEG−4 AVC規格)では、可変長符号化の方式としてCAVLC(Context-Adaptive Variable Length Coding:コンテキスト適応型可変長符号化)とCABAC(Context-Adaptive Binary Arithmetic Coding:コンテキスト適応型2値算術符号化)の2種類が選択可能になっている。コンテキスト適応型とは、周囲の状況に応じて効率の良い符号化方式を適応的に選択する方式である。ただ、可変長符号化処理および可変長復号化処理の複雑度は増している。
図1は、従来技術における動画像復号装置の構成を示すブロック図である。同図の動画像復号装置は、第1バッファメモリ901、前処理部902、第2バッファメモリ903、後処理部904およびフレームメモリ905を備え、前処理と後処理の2段階でストリームを復号化する。
まず、ヘッダ情報と圧縮画像データとを含みCABACが適用されたストリームは第1バッファメモリ901に入力される。前処理部902は、CABAD(Context-Adaptive Binary Arithmetic Decoding:コンテキスト適応型2値算術復号化)を行い、CABACが解かれた状態のストリームを第2バッファメモリ903に格納する。CABADの処理量が多いため、第2バッファメモリ903には一定量のストリームが格納される。
後処理部904は、第2バッファメモリ903に格納されたストリーム中のヘッダ情報を解析することにより各種パラメータを抽出するヘッダ解析部910と、抽出された各種パラメータに従って、逆量子化処理、逆直交変換処理、動き補償等を行なう復号化部911とを備える(例えば、非特許文献1)。このようにして復号化されたピクチャはフレームメモリ905に格納される。
「ソフトウェアで実時間処理を実現した民生用メディア処理プロセッサ"Media Core Processor"」,松下テクニカルジャーナル,Vol.45 No.2 1999年4月
図面を用いて、発明が解決しようとする課題について説明する。
図2Aは、ストリームの一例を示す説明図である。H.264規格では、ストリームは、NAL(Network Abstraction Layer)ユニットと呼ばれる単位の集まりと見ることができる。NALユニットには、SPS(Sequence Parameter Set)、SEI(Supplemental Enhancement Information)、PPS(Picture Parameter Set)、スライスSL(Slice)等の種類がある。このうち、SPSユニット、SEIユニット、PPSユニットはヘッダ情報に含まれる。SLは圧縮画像データに含まれる。H.264規格では、ヘッダ情報としてNALユニットが圧縮画像データの途中に入ることがある。同図ではスライスユニット群の間にPPSユニットが入っている。
図2Bは、従来技術におけるヘッダ解析と復号化処理のタイミングを示す図である。同図のように、ヘッダ解析により抽出された各種パラメータはその後の復号化処理に必要であり、ヘッダ解析部910によるヘッダ解析と、復号化部911による復号化処理は、逐次行なわれる。その結果、ヘッダ解析部910と復号化部911の双方のところどころに待ち時間が発生するという問題があり、復号化に要する処理時間が伸びてしまう。
同様の問題は、2チャネルのストリームを同時に復号化する場合にも発生する。
図3は、従来技術における2つのストリームに対応する動画像復号装置の構成を示すブロック図である。同図は、図1の後処理部904に該当する。ヘッダ解析部910は2チャネルのストリームのヘッダ解析に共用される。復号化部911a、911bは、それぞれ1チャネルのストリームに対応する。
図4は、2チャネルのストリーム例を示す図である。同図のように、スライスユニット群の間にPPSユニットが入っているため、2チャネルのストリームからのヘッダ情報としてのNALユニットが同じタイミングで重なる場合が生じる(同図のh1〜h3)。
図5は、図4の2チャネルのストリームのヘッダ解析と復号化処理のタイミングを示す図である。図中のCPUはヘッダ解析部910を示す。ストリーム1とストリーム2のヘッダ情報としてのNALユニットが同じタイミングで重なる場合に、共用のCPUは同時にヘッダ解析することができないので、一方に待ち時間が発生する。その結果、図中のストリーム1とストリーム2のタイミングではヘッダ解析できず、例えば、ストリーム1とストリーム2'のタイミングでヘッダ解析および復号化処理を行なうことになる。このように、共用のヘッダ解析部を用いて2チャネルのストリームを同時に復号化する場合にも、待ち時間が発生するという問題がある。
また、図3においてヘッダ解析部(CPU)を2つ備えれば、ストリーム1とストリーム2とを同じタイミングでもヘッダ解析することが可能になるが、回路面積増加というコストアップを招くという問題がある。
本発明は、ヘッダ情報を解析するヘッダ解析部と圧縮画像データを復号する復号化部とに発生する待ち時間を低減し、復号化の処理時間を短縮する動画像復号化装置、映像機器、半導体装置および動画像復号化方法を提供することを目的とする。
上記課題を解決するため本発明の動画像復号化装置は、ヘッダ情報と圧縮画像データとを含むストリームを復号化する動画像復号化装置であって、前記ストリーム中のヘッダ情報と圧縮画像データとを判別する判別手段と、判別手段によって判別されたヘッダ情報を一時的に記憶するヘッダ情報記憶手段と、ヘッダ情報記憶手段のアドレスであって、1ピクチャ内のヘッダ情報の末尾を示すヘッダ末尾アドレスを記憶するためのヘッダアドレス記憶手段と、判別手段によって判別された圧縮画像データを一時的に記憶する圧縮画像記憶手段と、圧縮画像記憶手段のアドレスであって、1ピクチャ内の圧縮画像データの末尾を示す画像末尾アドレスを記憶するための画像アドレス記憶手段と、前記ヘッダ末尾アドレスに基づいて1ピクチャ毎にヘッダ情報を解析するヘッダ解析手段と、ヘッダ解析手段による解析結果および前記画像末尾アドレスに基づいて1ピクチャ毎に圧縮画像データを復号化する復号化手段とを備え、前記ヘッダ解析手段は、前記復号化手段によって復号化されているピクチャの次のピクチャのヘッダ情報を解析する。
ここで、前記動画像復号化装置は、さらに、前記判別手段による判別結果に従って、ヘッダ情報記憶手段へのヘッダ情報の格納と、ヘッダアドレス記憶手段へのヘッダ末尾アドレスの格納と、圧縮画像記憶手段への圧縮画像データの格納と、画像アドレス記憶手段への画像末尾アドレスの格納とを制御する格納制御手段と、ヘッダ末尾アドレスに従ってヘッダ情報記憶手段から1ピクチャに対応するヘッダ情報を読み出し、読み出したヘッダ情報をヘッダ解析手段に供給し、画像末尾アドレスに従って圧縮画像記憶手段から1ピクチャに対応する圧縮画像データを読み出し、読み出した圧縮画像データを復号化手段に供給する読み出し制御手段とを備えるようにしてもよい。この構成によれば、ヘッダ情報と圧縮画像データとを1つのバッファメモリにストリーム中の並び順の通りに格納するのではなく、ヘッダ情報記憶手段と圧縮画像記憶手段とに別々に格納する。その結果、ヘッダ情報記憶手段および圧縮画像記憶手段からヘッダ情報および圧縮画像データをストリーム中の並び順に依存することなく読み出すことができるので、パイプライン処理による並列化を容易に実現することができ、待ち時間を低減することができる。
また、ヘッダ末尾アドレスおよび画像末尾アドレスにより、ヘッダ情報および圧縮画像情報のストリーム中の並び順に依存しない読み出しを容易にしている。
ここで、前記動画像復号化装置は、さらに、圧縮画像データに含まれるスライスユニットをスライスヘッダとスライスデータとに分割する分割手段と、前記判別手段に判別されたヘッダ情報と分割手段に分割されたスライスヘッダとをヘッダ情報記憶手段に格納し、圧縮画像データとスライスデータとを圧縮画像記憶手段に格納し、格納に伴ってヘッダアドレス記憶手段および画像アドレス記憶手段を更新する格納制御手段とを備えるようにしてもよい。この構成によれば、スライスヘッダとスライスデータの両者を復号化手段で処理するのではなく、スライスヘッダをヘッダ解析手段が解析し、スライスデータを復号化手段が復号する。つまり、スライスヘッダの解析と、スライスデータの復号化処理とをパイプライン処理できるので、性能を向上させることができる。
ここで、前記判別手段は、さらに、ヘッダ情報に含まれる複数種類のヘッダを判別し、前記ヘッダ情報記憶手段は、ヘッダ情報に含まれるヘッダの種類に対応する複数の記憶領域を有し、前記動画像復号化装置は、さらに、前記判別手段に判別されたヘッダをその種類に対応する記憶領域に格納し、ヘッダの種類毎に1ピクチャの末尾に存在するヘッダの末尾アドレスをヘッダアドレス記憶手段に格納する格納制御手段と、ヘッダの種類毎の末尾アドレスに従ってヘッダの種類毎にヘッダ情報記憶手段から1ピクチャに対応するヘッダを読み出し、読み出したヘッダをヘッダ解析手段に供給し、画像末尾アドレスに従って圧縮画像記憶手段から1ピクチャに対応する圧縮画像データを読み出し、読み出した圧縮画像データを復号化手段に供給する読み出し制御手段とを備えるようにしてもよい。この構成によれば、復号化処理に必須ではない種類のヘッダについてのヘッダ解析を省略することが容易になる。例えば、動画像復号化装置が実装される映像機器の仕様や、要求された復号化処理の状況に応じて、解析する必要がないヘッダの種類がある。そのような状況に応じて不要な種類のヘッダを、個々にヘッダの種類を判別する処理すら不要であり、その記憶領域を読み飛ばすことにより簡単化することができる。
ここで、前記動画像復号化装置は、さらに、ピクチャ内のヘッダ情報の末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、検出されたヘッダ情報の末尾にエンドマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、検出された圧縮画像データの末尾の位置にエンドマークを付加する付加手段とを備えるようにしてもよい。
ここで、前記動画像復号化装置は、さらに、ピクチャ内の同種のヘッダの末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、ヘッダの種類毎にピクチャ内の同種のヘッダ情報の末尾にエンドマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にエンドマークを付加する付加手段とを備えるようにしてもよい。
ここで、前記付加手段は、さらに、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、ヘッダの種類毎にピクチャ内の同種のヘッダ情報の末尾に、エンドマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にエンドマークを付加するようにしてもよい。この構成によれば、ピクチャ内のヘッダ情報の末尾にエンドマークが付加され、ピクチャ内の圧縮画像データの末尾にエンドマークが付加されるので、ピクチャの末尾をアドレス比較によって常にチェックする必要がなく、ヘッダ情報記憶手段からも圧縮画像記憶手段からも順に、マークが読み出されるまでヘッダ解析および復号化処理を進めることができる。これにより、処理負荷を軽減し、処理効率を向上させることができる。
ここで、前記判別手段は、複数チャネルのストリームのそれぞれに対して、ストリーム中のヘッダ情報と圧縮画像データとを判別し、前記動画像復号化装置は、さらに、ピクチャ内のヘッダ情報の末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、判別手段に判別される現在のピクチャと次のピクチャとが異なるストリームに属するか否かを判定する判定手段と、異なるストリームに属すると判定された場合に、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、検出されたヘッダ情報の末尾に、チャネルの変更を示すマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、検出された圧縮画像データの末尾の位置にチャネルの変更を示すマークを付加する付加手段とを備えるようにしてもよい。
ここで、前記判別手段は、複数チャネルのストリームのそれぞれに対して、ストリーム中のヘッダ情報と圧縮画像データとを判別し、前記動画像復号化装置は、さらに、ピクチャ内の同種のヘッダの末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、判別手段に判別される現在のピクチャと次のピクチャとが異なるストリームに属するか否かを判定する判定手段と、異なるストリームに属すると判定された場合に、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、ヘッダの種類毎にピクチャ内の同種のヘッダ情報の末尾に、チャネルの変更を示すマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にチャネルの変更を示すマークを付加する付加手段とを備えるようにしてもよい。この構成によれば、ピクチャ単位でチャネルを示すマークが圧縮画像記憶手段内にもヘッダ情報記憶手段内にも付加されるので、圧縮画像記憶手段も2つのストリームにより共用され、ヘッダ情報記憶部も2チャネルのストリームにより共用される。その結果、2つのストリームを少なくともピクチャを単位として切り替えながら復号化することができる。
ここで、前記判別手段は、複数チャネルのストリームのそれぞれに対して、ヘッダ情報と圧縮画像データとを判別し、前記ヘッダ情報記憶手段、前記ヘッダアドレス記憶手段、前記圧縮画像記憶手段および前記画像アドレス記憶手段は、それぞれ前記複数チャネルに対応する複数の記憶領域を有し、前記動画像復号化装置は、さらに、複数のチャネルに対応する複数の検出手段および付加手段とを備え、各検出手段は、対応するチャネルのストリームにおいて、ピクチャ内のヘッダ情報の末尾と、ピクチャ内の圧縮画像データの末尾とを検出し、各付加手段は、対応するチャネルの記憶領域に記憶されたヘッダ情報に対して、検出されたヘッダ情報の末尾にエンドマークを付加し、対応するチャネルの記憶領域に記憶された圧縮画像データに対して、検出された圧縮画像データの末尾の位置にエンドマークを付加する付加手段とを備えるようにしてもよい。この構成によれば、複数チャネルのストリームの復号化処理をピクチャ単位で切り替えることができる。
ここで、前記動画像復号化装置は、さらに、ピクチャに含まれる最初のスライスユニットを判別するスライス判別手段を備え、前記付加手段は、さらに、最初のスライスユニットが判別されたとき、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、最初のスライスユニットが現れたことを示す開始マークを付加するようにしてもよい。この構成によれば、スライスユニットがストリーム中のヘッダ情報の途中に存在する場合に、ピクチャ内の全ヘッダ情報の解析が終了する前に、最初のスライスユニットの復号化処理を開始することができる。
ここで、前記動画像復号化装置は、さらに、外部から入力されるストリームを一時的に記憶する一時記憶手段と、前記判別手段は、一時記憶手段に記憶されたストリームに対して前処理として算術復号化する算術復号化部と、算術復号化されたストリームに対して、ヘッダ情報と圧縮画像データとを判別する判別手段とを備えるようにしてもよい。この構成によれば、判別手段が前処理として算術復号化も行い、ヘッダ解析手段および復号化手段が後処理としてヘッダ解析と復号化処理を行う。これにより、2段階の動画像復号化処理を効率よく行なうことができる。
また、本発明の半導体装置、映像機器、動画像復号化方法も上記と同様の構成、作用、効果を有する。
本発明によれば、ヘッダ情報および圧縮画像データをストリーム中の並び順に依存することなく読み出すことができ、パイプライン処理による並列化を容易に実現することができ、待ち時間を低減することができる。
また、スライスヘッダの解析と、スライスデータの復号化処理とをパイプライン処理できるので、性能を向上させることができる。
さらに、状況に応じて不要な種類のヘッダを、個々にヘッダの種類を判別する処理をすることなく、簡単に読み飛ばすことができ、処理負荷を軽減し、処理効率を向上させることができる。
また、ヘッダ解析時および復号化処理時にピクチャの末尾や、最初のスライスの開始位置や、複数ストリームの切り替え位置等を簡単に判別することができる。
(実施の形態1)
本実施の形態における動画像復号化装置は、ストリーム中のヘッダ情報と圧縮画像データとを判別し、判別されたヘッダ情報をヘッダ情報記憶部に格納し、判別された圧縮画像データを圧縮画像記憶部に格納する。これにより、ストリーム中の並び順に依存することなくヘッダ情報と圧縮画像情報とを読み出すことができる。その結果、ヘッダ情報記憶部および圧縮画像記憶部からヘッダ情報および圧縮画像データに対して、パイプライン処理による並列化を容易に実現することができ、待ち時間を低減することができる。
また、動画像復号化装置は、ヘッダアドレス記憶部と画像アドレス記憶部とを有する。ヘッダアドレス記憶部は、ヘッダ情報記憶部のアドレスであって、1ピクチャ内のヘッダ情報の末尾を示すヘッダ末尾アドレスを記憶する。画像アドレス記憶部は、圧縮画像記憶部のアドレスであって、1ピクチャ内の圧縮画像データの末尾を示す画像末尾アドレスを記憶する。ヘッダ末尾アドレスおよび画像末尾アドレスは、ヘッダ情報および圧縮画像情報のストリーム中の並び順に依存しない読み出しを容易にする。
図6は、実施の形態1における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、第1バッファメモリ110、第1デコーダ120、格納制御部130、第2バッファメモリ140および第2デコーダ200を備え、第1デコーダ120による前処理と第2デコーダ200による後処理の2段階でストリームを復号化する。また、第2バッファメモリ140は、ヘッダ情報記憶部150、ヘッダ末尾アドレス(以下HEAと略す。)記憶部160、圧縮画像記憶部170および圧縮画像データ末尾アドレス(以下、DEAと略す。)記憶部180を備える。
第1バッファメモリ110は、ヘッダ情報と圧縮画像データとを含みCABACの適用されたストリームを一時的に記憶するバッファメモリである。もちろん、第1バッファメモリ110には、CABACではなくCAVLCの適用されたストリームが入力されてもよい。
第1デコーダ120は、第1バッファメモリ110に記憶されたストリームにCABAD(Context-Adaptive Binary Arithmetic Decoding:コンテキスト適応型2値算術復号化)を行う。第1デコーダ120は、判別手段としての機能も有する。つまり、CABACが解かれた状態のストリームに含まれるヘッダ情報と圧縮画像データとを判別する。
格納制御部130は、第1デコーダ120による判別結果に従って、ヘッダ情報記憶部150へのヘッダ情報の格納と、HEA記憶部160へのヘッダ末尾アドレスの格納と、圧縮画像記憶部170への圧縮画像データの格納と、DEA記憶部180への画像末尾アドレスの格納とを制御する。
第2バッファメモリ140は、ストリーム中のヘッダ情報と圧縮画像データと別々に記憶する領域として、ヘッダ情報記憶部150と圧縮画像記憶部170とを有している。また、第2バッファメモリ140は、それらのアドレス管理するための領域として、HEA記憶部160とDEA記憶部180とを有している。
ヘッダ情報記憶部150は、格納制御部130の制御に従ってヘッダ情報を一時的に記憶する。
HEA記憶部160は、格納制御部130の制御に従って、ヘッダ情報記憶部150のアドレスであって、1ピクチャ内のヘッダ情報の末尾を示すヘッダ末尾アドレスを記憶する。
圧縮画像記憶部170は、格納制御部130の制御に従って、圧縮画像データを一時的に記憶する。
DEA記憶部180は、格納制御部130の制御に従って、圧縮画像記憶部170のアドレスであって、1ピクチャ内の圧縮画像データの末尾を示す画像末尾アドレスを記憶する。
第2デコーダ200は、ヘッダ解析部210と復号化部220とを有する。第2デコーダ200は、ヘッダ末尾アドレスに従ってヘッダ情報記憶部150から1ピクチャに対応するヘッダ情報を読み出し、読み出したヘッダ情報をヘッダ解析部210に供給する。また、第2デコーダ200は、画像末尾アドレスに従って圧縮画像記憶部170から1ピクチャに対応する圧縮画像データを読み出し、読み出した圧縮画像データを復号化部220に供給する。
ヘッダ解析部210は、ピクチャ単位でヘッダ情報記憶部150に格納されたストリーム中のヘッダ情報を解析することにより各種パラメータを抽出する。
復号化部220は、ヘッダ解析部210によって抽出された各種パラメータに従って、逆量子化処理、逆直交変換処理、動き補償、フィルタリング等を行なう。このようにして復号化されたピクチャはフレームメモリ905に出力される。
図7は、動画像復号化装置の概略動作を示す説明図である。
同図上段は、第1バッファメモリ110にストリームの一例を示す。H.264規格では、ストリームは、NAL(Network Abstraction Layer)ユニットと呼ばれる単位の集まりと見ることができる。NALユニットには、SPS(Sequence Parameter Set)、SEI(Supplemental Enhancement Information)、PPS(Picture Parameter Set)、スライスSL(Slice)等の種類がある。このうち、SPSユニット、SEIユニット、PPSユニットはヘッダ情報に含まれる。SLユニットは圧縮画像データに含まれる。H.264規格では、ヘッダ情報としてのNALユニットが圧縮画像データ(スライスSL群)の途中に入ることがある。同図ではスライスユニット群の間にPPSユニットが入っている。
同図中段は、同図上段のストリームに含まれるヘッダ情報と圧縮画像データとが別々に第2バッファメモリ140に格納された様子を示している。
ヘッダ情報記憶部150は、SPS、SEI、PPS・・・等のヘッダ情報を構成するNALユニットが格納される。HEA(ヘッダ末尾アドレス)は、HEA記憶部160に格納され、ピクチャ中のヘッダ情報の末尾を示す。
圧縮画像記憶部170は、SLユニット群が圧縮画像データを構成するNALユニットとして格納される。DEA(画像末尾アドレス)は、DEA記憶部180に格納され、ピクチャ中の圧縮画像データの末尾を示す。
同図下段は、同図中段に示したヘッダ情報および圧縮画像データに対するヘッダ解析部210および復号化部220の処理順を示す。ヘッダ解析部210が、最初のピクチャの4つのNALユニット(SPS、SEI、PPS、PPS)のヘッダ解析を終えると、復号化部220は、解析結果として得られる各種パラメータ群を用いて、最初のピクチャの圧縮画像データ(4つのSLユニット)の復号化処理を行なう。
復号化部220による最初のピクチャの復号化処理と並列に、ヘッダ解析部210は、次のピクチャのヘッダ解析処理を行なう。
このように、ヘッダ解析部210と復号化部220は、ヘッダ解析と画像復号化処理とをパイプライン処理として並列化に行なうので、処理の待ち時間を低減することができる。
図8は、第2バッファメモリ140への格納制御を示すフローチャートである。同図は、第1デコーダ120から格納制御部130にNALユニットが入力される毎になされる処理を示している。同図における、NALユニットがスライスか否か(圧縮画像データであるかヘッダ情報であるか)の判定(S32)と、ピクチャの切替か否か(ピクチャの末尾のNALユニットか否か)の判定(S33)と、EOS(End Of Stream)か否か(ピクチャの最後のNALユニットか否か)の判定(S36)は、第1デコーダ120によって行なわれる。格納制御部130は、第1デコーダ120からNALユニットが入力されると、上記の判定結果に従って、NALユニットがスライス(SLユニット)でなければ、ヘッダ情報記憶部150に格納し(S32→S37)、NALユニットがスライス(SLユニット)であれば、圧縮画像記憶部170に格納し、ピクチャの切替であればHEA記憶部160およびDEA記憶部180にHEAとDEAとを格納する。また、格納制御部130は、EOSである(ピクチャの最後のNALユニットである)場合には、ヘッダ情報記憶部150および圧縮画像記憶部170へのライトポインタ(wp)を次の新たなピクチャ用に更新する。
以上説明してきたように、本実施の形態における動画像復号化装置によれば、ストリーム中の並び順に依存することなくヘッダ情報と圧縮画像情報とを読み出すことができる。その結果、ヘッダ情報記憶部および圧縮画像記憶部からヘッダ情報および圧縮画像データに対して、パイプライン処理による並列化を容易に実現することができ、待ち時間を低減することができる。また、ヘッダ末尾アドレスおよび画像末尾アドレスは、ヘッダ情報および圧縮画像情報のストリーム中の並び順に依存しない読み出しを容易にする。
(実施の形態2)
本実施の形態における動画像復号化装置は、実施の形態1の動画像復号化装置に加えて、圧縮画像データに含まれるスライスユニットをスライスヘッダとスライスデータとに分割し、スライスヘッダを他のヘッダ情報と同様にヘッダ情報記憶部に格納し、スライスデータを圧縮画像データとして圧縮画像記憶部に格納する。これによれば、スライスヘッダとスライスデータの両者を復号化部で処理するのではなく、スライスヘッダをヘッダ解析部が解析し、スライスデータを復号化部が復号する。つまり、スライスヘッダの解析と、スライスデータの復号化処理とをパイプライン処理できるので、より性能を向上させることができる。
図9は、実施の形態2における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、図6の動画像復号化装置と比較して、主に分割部125が追加されている点が異なっている。同じ構成要素には同じ符号を付しているので、以下同じ点は説明を省略して異なる点を中心に説明する。
分割部125は、第1デコーダ120からスライスユニットが入力され、スライスユニットをスライスヘッダとスライスデータとに分割し、格納制御部130に出力する。
格納制御部130は、分割部125からのスライスヘッダを他のヘッダ情報と同様にヘッダ情報記憶部150に格納し、スライスデータを圧縮画像データとして圧縮画像記憶部170に格納する。これにより、スライスヘッダとスライスデータは別々に第2バッファメモリ140に記憶されることになる。
図10は、動画像復号化装置の動作を示す説明図である。
図10上から第1段目は、第1バッファメモリ110にストリームの一例を示し、既に図7上段で説明したので省略する。
図10上から第2段において、SLは分割前のスライスユニットを、Shは分割部125による分割後のスライスヘッダを、Sdは分割部125による分割後のスライスデータを表す。ヘッダ情報記憶部150には、スライスヘッダShも格納されている。HEA記憶部160のHEA(ヘッダ末尾アドレス)はスライスヘッダも含めた1ピクチャ分のヘッダ情報の末尾を示す。圧縮画像記憶部170には、スライスヘッダShを除くスライスデータSdが保持される。DEA記憶部180のDEAは、1ピクチャ分のスライスデータSdの末尾を示す。
図10上から第3段は、第2段に示したヘッダ情報および圧縮画像データに対するヘッダ解析部210および復号化部220の処理順を示す。ヘッダ解析部210によるスライスヘッダの解析処理と、復号化部220によるスライスデータの復号化処理は、パイプライン処理により並列化がより進んでいる。
以上説明してきたように本実施の形態における動画像復号化装置によれば、スライスヘッダの解析と、スライスデータの復号化処理とをパイプライン処理できるので、より性能を向上させることができる。
(実施の形態3)
本実施の形態における動画像復号化装置では、実施の形態1の動画像復号化装置に加えて、ヘッダ情報に含まれるヘッダの種類(つまりNALユニットの種類)毎に別々にNALユニットをバッファに格納する。さらに、本実施の形態における動画像復号化装置は、NALユニットの種類を判別し、判別した種類に対応する記憶領域に格納する。また、ヘッダの種類毎に1ピクチャの末尾のNALユニットの末尾アドレスをヘッダアドレス記憶部に格納する。復号化処理に必須ではない種類のヘッダについてのヘッダ解析を省略することが容易になる。
図11は、実施の形態3における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、図6の動画像復号化装置と比較して、格納制御部130の代わりに格納制御部131、第2バッファメモリ140の代わりに第2バッファメモリ141を備える点が異なっている。また、第2バッファメモリ141は、第2バッファメモリ140と比較して、ヘッダ情報記憶部150の代わりにヘッダ情報記憶部151を、HEA記憶部160の代わりにHEA記憶部161を備えている。同じ構成要素には同じ符号を付しているので、以下同じ点は説明を省略して異なる点を中心に説明する。
第2バッファメモリ141は、NALユニットをその種類に対応する領域に格納するよう構成されている。
ヘッダ情報記憶部151は、NALユニットの種類と同数の記憶領域を有する。
HEA記憶部161は、NALユニットの種類と同数のHEAを記憶する。
格納制御部131は、第1デコーダ120から入力されるヘッダの種類(つまりNALユニットの種類)に応じて、ヘッダ情報記憶部151の複数の記憶領域のうち種類に対応する記憶領域にNALユニットを格納する。さらに、格納制御部131は、NALユニットの種類毎のHEA(ヘッダ末尾アドレス)をHEA記憶部161に格納する。これ以外は、格納制御部130と同じである。
前記ヘッダ情報記憶手段は、ヘッダ情報に含まれるヘッダの種類に対応する複数の記憶領域を有し、図12は、ヘッダ情報記憶部151の構成例を示すブロック図である。同図では圧縮画像記憶部170も併記されている。同図において、ヘッダ情報記憶部151は、SPS記憶領域152、SEI記憶領域153、PPS記憶領域154を含む。このように、ヘッダ情報記憶部151は、NALユニットの種類毎の記憶領域を有し、各記憶領域には同種のNALユニットが格納される。また、圧縮画像記憶部170は、SL記憶領域155と、EOS記憶領域156を有する。
図13は、HEA記憶部160の構成を示すブロック図である。同図では、DEA記憶部180も併記されている。同図においてHEA(SPS)は、SPS記憶領域152に格納されたピクチャ内最後のSPSの末尾アドレスであり、SPS用のライトポインタwpとして利用される。HEA(SEI)、HEA(PPS)、DEA(SL)、DEA(EOS)も、対応する記憶領域が異なる点以外は同様である。DEA(EOS)はストリームまたはシーケンスの最後のNALユニットを示す。また、PEL[1]は、1ピクチャに対応するピクチャ・エンド・リストである。
図14は、動画像復号化装置の概略動作を示す説明図である。
図14上から第1段目は、図7上段と同じストリーム例であるので説明を省略する。
図14上から第2段目は、図7上段とストリームを構成するNALユニットがヘッダ情報記憶部151に格納された様子を示す。
図14上から3段目と4段目は、動画像復号化装置が切替可能なヘッダ解析および復号化処理を示している。3段目は、図7下段と変わらない処理を示す。4段目は、SEIの読み出しを省略した処理を示している。動画像復号化装置が実装される映像機器の仕様や、要求された復号化処理の状況に応じて、解析する必要がないヘッダの種類がある。例えばSEIは動画の表示に関するパラメータ類であり、必ずしもSEIに従って動画を表示する必要がないので、状況に応じて不要な種類のヘッダとしてもよい。図7中段でSEIを読み飛ばすには、個々のヘッダ(NALユニット)の種類を判別する処理であるが、図142段目では、SEI記憶領域153を読み飛ばすだけでよいので、読み出し処理を簡単にすることができる。
図15は、第2バッファメモリ141への格納制御処理を示すフローチャートである。同図は、図8と比べて、ステップS37の代わりにステップS100、S101を有する点が異なっている。同じ点は説明を省略して、以下異なる点を中心に説明する。第1デコーダ120から格納制御部131に入力されたNALユニットが、スライスユニットでない場合に、第1デコーダ120によって判定された当該NALユニットの種類(S100)に対応する記憶領域にNALユニットを格納する(S101)。なお、ヘッダ情報記憶部151へのライトポインタwpは、記憶領域毎に管理されている必要がある。
図16は、読み出し制御部におけるヘッダ情報記憶部151の読み出し制御処理を示すフローチャートである。同図においてrp(j)は、ヘッダ情報記憶部151内の記憶領域毎のリードポインタを示す。HEA(j)は、ヘッダ情報記憶部151内の記憶領域毎のヘッダ末尾アドレスを示す。j=1、2、3、4はSPS記憶領域152、SEI記憶領域153、PPS記憶領域154、SL記憶領域155に対応する。同図のループ1では、rp(j)として直前のピクチャのHEA(j)が設定されてから(S112)、rp(j)が対象ピクチャのHEA(j)に至るまで繰り返される(S113〜S116)。
図16において、図14の第3段目の読み出し(省略しない通常の読み出し)を行なうにはループ1の制御変数j=1、2、3、4にすればよい。また、図14の第4段目の読み出し(SEIを省略する読み出し)を行なうにはループ1の制御変数j=1、3、4にすればよい。
以上説明してきたように本実施の形態における動画像復号化装置によれば、NALユニットの種類毎にNALユニットを記憶領域に格納しているので、復号化処理に必須ではない種類のヘッダについてのヘッダ解析の省略を容易にできる。
(実施の形態4)
本実施の形態における動画像復号化装置は、実施の形態3の動画像復号化装置に加えて、ヘッダ情報記憶部に記憶された複数種類のヘッダ(複数種類のNALユニット)のそれぞれ、および圧縮画像記憶部に記憶された圧縮画像データに対して、ピクチャ内の同じ種類のNALユニットの末尾であることを示すエンドマークを付加する。ヘッダ情報にも圧縮画像データにもエンドマークが付加されるので、ピクチャ内の同種のNALユニットの末尾であるかをアドレス比較によってチェックする必要がなく、ヘッダ情報記憶部からも圧縮画像記憶部からも順に、エンドマークが読み出されるまでヘッダ解析および復号化処理を進めることができる。これにより、処理負荷を軽減し、処理効率を向上させることができる。
図17は、実施の形態4における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、図11の動画像復号化装置と比較して、ピクチャ終了判定部230およびNALエンド付与部240が追加された点と、読み出し制御部190の代わりに読み出し制御部191を備える点とが異なっている。同じ構成要素には同じ符号を付しているので、以下同じ点は説明を省略して異なる点を中心に説明する。
ピクチャ終了判定部230は、NALユニットの種類毎に、その種類のNALユニットがピクチャ内で最後に現れるNALユニットであるかどうかを判定する。言い換えれば、ピクチャ終了判定部230は、ピクチャ内の同種のNALユニットの末尾を検出する。
NALエンド付与部240は、ピクチャ内の同種のNALユニットの最後であることが検出された場合、ヘッダ情報記憶部151に格納された当該NALユニットにエンドマークを付与する。
読み出し制御部191は、ピクチャ内のヘッダ情報の末尾やピクチャ内の圧縮画像データの末尾をアドレス比較によって常にチェックする必要がなく、ヘッダ情報記憶部151からも圧縮画像記憶部170からも順に、エンドマークまで読み出す。
図18は、ヘッダ情報記憶部151内のエンドマークが付加されたストリームの説明図である。図中の「end」はエンドマークを表す。同図のように、エンドマークは、NALユニットの種類毎の記憶領域152〜155のそれぞれに対して、ピクチャ内の同種のNALユニットの末尾を示している。
以上説明してきたように本実施の形態における動画像復号化装置によれば、ピクチャ内のヘッダ情報の末尾やピクチャ内の圧縮画像データの末尾をアドレス比較によって常にチェックする必要がなく、ヘッダ情報記憶部151からも圧縮画像記憶部170からも順に、NALユニットの種類毎にエンドマークが読み出されるまで順に読み出すことができ、ヘッダ情報記憶部151の読み出しを効率よくすることができる。
(実施の形態5)
本実施の形態では、複数チャネルのストリームを復号化する動画像復号化装置について説明する。本実施の形態における動画像復号化装置は、実施の形態4の動画像復号化装置に加えて、現在のピクチャと次のピクチャとでストリームが異なる場合に、ヘッダ情報記憶部に記憶されたヘッダ情報に対して、ヘッダの種類(NALユニットの種類)毎にピクチャ内の同種のヘッダ情報の末尾に、チャネルの変更を示すチャネルマークを付加し、圧縮画像記憶部に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にチャネルの変更を示すチャネルマークを付加する。チャネルマークは、ピクチャ内の同種のヘッダの末尾を示すが、むしろ、現在のストリーム内の同種のヘッダの末尾を示すものである。これにより、ヘッダ情報記憶部に、異なるストリームのNALユニットが混在して記憶される場合に、チャネルマークにより、軽い処理負荷で容易に区別することができる。
図19は、実施の形態5における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、図17の動画像復号化装置と比較して、第1バッファメモリ110の代わりに第1バッファメモリ111を備える点と、第1デコーダ120の代わりに第1デコーダ121を備える点と、チャネル判定部250およびCHエンド付与部260が追加された点とが異なっている。同じ構成要素には同じ符号を付しているので、以下同じ点は説明を省略して異なる点を中心に説明する。
第1バッファメモリ111は、2チャネルのストリームが入力される。そのため、第1バッファメモリ111は、内部の記憶領域をch1バッファとch2バッファの2つに分けている。
第1デコーダ121は、2チャネルのストリームの算術復号化処理(CABAD)と、ヘッダ情報と圧縮画像データとの判別処理とを行なう。例えば、第1デコーダ121は1ピクチャ単位で、あるいは数ピクチャ単位でch1バッファとch2バッファとを切り替えて、ストリームを読み出す。
チャネル判定部250は、ピクチャ内の同種のヘッダ(つまりNALユニット)の末尾と、ピクチャ内の圧縮画像データ(スライスユニット)の末尾とを検出し、また、現在のピクチャと次のピクチャとが異なるストリームに属するか否かを判定する。
CHエンド付与部260は、現在のピクチャと次のピクチャとが異なるストリームに属すると判定された場合に、ヘッダ情報記憶部151に記憶されたヘッダ情報に対して、ヘッダ(NALユニット)の種類毎にピクチャ内の同種のNALユニットの末尾に、チャネルの変更を示すチャネルマークを付加し、圧縮画像記憶部170に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にチャネルの変更を示すマークを付加する。
図20は、ヘッダ情報記憶部151内のチャネルマークが付加されたストリームの説明図である。図中の「ch-e」はチャネルマークを表す。点線は、切り替え前のストリームに属するNALユニットの読み出し例を示している。
このように、ストリーム毎に別個のバッファを設ける必要がなく、複数のストリームをヘッダ情報記憶部151に混在させて一時記憶することができる。
図21は、動画像復号化装置における2ストリームの復号動作を示す説明図である。同図上段において、複数のNALユニットからなる1chおよび2chのストリームは、ヘッダ情報記憶部で、ヘッダ情報と圧縮画像データとに分類されて格納された場合を示している。ヘッダ情報記憶部151に格納される前の図4に示したストリーム1、2と同じような並びになっている。同図下段において、CPUはヘッダ解析部210を意味する。同図のように、ヘッダ解析部210と復号化部220は、ヘッダ情報と圧縮画像データを元のストリーム中の並び順に依存することなく高い自由度で読み出すことができ、パイプライン処理による並列化を容易に実現することができ、待ち時間を低減することができる。
なお、図19においてHEA記憶部161、DEA記憶部180は備えないようにしてもよい。
(実施の形態6)
本実施の形態における動画像復号化装置は、実施の形態4の動画像復号化装置に加えて、ピクチャに含まれる最初のスライスユニットを判別し、最初のスライスユニットを判別したとき、ヘッダ情報記憶部に記憶されたヘッダ情報(NALユニットの種類毎に)に対して、最初のスライスユニットが現れたことを示す開始マークを付加する。これによれば、スライスユニットがストリーム中のヘッダ情報の途中に存在する場合に、ピクチャ内の全ヘッダ情報の解析が終了する前に、最初のスライスユニットの復号化処理を開始することができるので、復号化の処理効率を向上させることができる。
図22は、実施の形態6における動画像復号化装置の構成を示すブロック図である。同図の動画像復号化装置は、図19の動画像復号化装置と比較して、チャネル判定部250およびCHエンド付与部260の代わりに第1SL判定部270およびSLstart付与部280を備える点が異なっている。同じ構成要素には同じ符号を付しているので、以下同じ点は説明を省略して異なる点を中心に説明する。
第1SL判定部270は、ピクチャに含まれる最初のスライスユニットを判別する。
SLstart付与部280は、最初のスライスユニットが判別されたとき、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、最初のスライスユニットが現れたことを示す開始マークを付加する。
図23は、動画像復号化装置の概略動作を示す説明図である。同図上段は、ヘッダ情報を構成するNALユニットと、圧縮画像データを構成するNALユニット(スライスユニットSL)とを示している。本実施の形態ではヘッダ情報と圧縮画像データとを分けてバッファ(ヘッダ情報記憶部151、圧縮画像記憶部170)に格納するため、最初のスライスユニットSLがどのヘッダの次に現れたのかが分からない。そのため、同図上段のように、ピクチャ内の全部のヘッダ情報の解析後に最初のスライスユニットSLの復号化処理を開始することになる。例えば、最初のスライスユニットSLが3つの目のNALユニットであるPPSの直後に元々存在していた場合、3つの目のNALユニットのヘッダ解析の完了後に復号化処理開始可能であったにも関わらず、開始待ち状態が続くことも生じえる。
本実施の形態では、図23下段のタイミングで復号化処理を開始することを可能にする。
図24は、第2バッファメモリに記憶されるストリームの具体例を示す図である。図中の「SLstart」は、第1SL判定部270によって付加される開始マークを表す。読み出し制御部191は、開始マークが揃った時点で、スライスユニットSLを復号化部220に供給する。これにより、ピクチャ内の全ヘッダ情報の解析が終了する前の早い時点で、最初のスライスユニットの復号化処理を開始することができる。
(実施の形態7)
本実施の形態では、上記各実施の形態で説明した動画像復号化装置を備える映像機器の具体例について説明する。
図25は、実施の形態7における動画像復号化装置を備える映像機器の構成を示す図である。同図の映像機器は、ダブルチューナ11、ストリーム入力制御部12、動画像復号化装置13、出力制御部14、表示デバイス15および16を備え、デジタル放送受信チューナまたはDVDプレーヤー/レコーダである。
ダブルチューナ11は、デジタル放送信号から番組を受信する2つのチューナを持ち、ストリームとしてストリーム入力制御部12に出力する。2つのチューナは2画面表示用あるいは表番組と裏番組受信用などである。
また、記録メディアはDVD等の記録媒体であり、映画等のコンテンツを表すストリームをストリーム入力制御部12に出力する。
ストリーム入力制御部12は、1つまたは2つのストリームを選択し、選択したストリームを動画像復号化装置13に出力する。
動画像復号化装置13は、上記各実施の形態1〜6に示した何れかの動画像復号化装置である。
出力制御部14は、動画像復号化装置13からの復号結果としての1つまたは2つのベースバンドの動画像データを表示デバイス15、16に表示する。
表示デバイス15、16は、2つの動画像を同時に表示する。例えば、表示デバイス15および16はPDPテレビ画面を2分割した表示領域であってもよいし、独立した2つの表示パネルであってもよい。
この映像機器によれば、2つのストリームを効率よく復号化し、同時に表示することができる。
なお、同図の映像機器は、記録メディアに対応していないデジタル放送チューナ、DVDプレーヤー/レコーダに限らない。例えば、テレビの再生と、SDカード等の記録媒体に記録されたストリームの再生とを行なうテレビチューナ付携帯電話機であってもよいし、同様のPDAであってもよい。
なお、上記各実施の形態等に示したブロック図の各機能ブロックは典型的には集積回路装置であるLSIとして実現される。このLSIは1チップ化されても良いし、複数チップ化されても良い(例えばメモリ以外の機能ブロックが1チップ化されていても良い。)。ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギャラブル・プロセッサを利用しても良い。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
また、各機能ブロックのうち、データを格納するユニットだけ1チップ化せずに、本実施の形態の記録媒体115のように別構成としても良い。
なお、ブロック図の各機能ブロックおよびフローチャートにおいて、中心的な部分はプロセッサおよびプログラムによっても実現される。
このように、上記実施の形態で示した画像符号化方法あるいは画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記実施の形態で説明した効果を得ることができる。
本発明は、動画像復号化装置および映像機器に適しており、特に、動画像記録再生装置、ビデオカメラ、テレビカメラ、デジタル放送チューナ、DVDプレーヤー、DVDレコーダ、携帯電話機などに適している。
図1は、従来技術における動画像復号装置の構成を示すブロック図である。 図2Aは、ストリームの一例を示す説明図である。 図2Bは、従来技術におけるヘッダ解析と復号化処理のタイミングを示す図である。 図3は、従来技術における2つのストリームに対応する動画像復号装置の構成を示すブロック図である。 図4は、2チャネルのストリーム例を示す図である。 図5は、2チャネルのストリームのヘッダ解析と復号化処理のタイミングを示す図である。 図6は、実施の形態1における動画像復号化装置の構成を示すブロック図である。 図7は、動画像復号化装置の概略動作を示す説明図である。 図8は、第2バッファメモリへの格納制御を示すフローチャートである。 図9は、実施の形態2における動画像復号化装置の構成を示すブロック図である。 図10は、動画像復号化装置の動作を示す説明図である。 図11は、実施の形態3における動画像復号化装置の構成を示すブロック図である。 図12は、ヘッダ情報記憶部の構成例を示すブロック図である。 図13は、HEA記憶部の構成を示すブロック図である。 図14は、動画像復号化装置の概略動作を示す説明図である。 図15は、第2バッファメモリへの格納制御処理を示すフローチャートである。 図16は、読み出し制御部におけるヘッダ情報記憶部151の読み出し制御処理を示すフローチャートである。 図17は、実施の形態4における動画像復号化装置の構成を示すブロック図である。 図18は、ヘッダ情報記憶部内のエンドマークが付加されたストリームの説明図である。 図19は、実施の形態5における動画像復号化装置の構成を示すブロック図である。 図20は、ヘッダ情報記憶部内のチャネルマークが付加されたストリームの説明図である。 図21は、動画像復号化装置における2ストリームの復号動作を示す説明図である。 図22は、実施の形態6における動画像復号化装置の構成を示すブロック図である。 図23は、動画像復号化装置の概略動作を示す説明図である。 図24は、第2バッファメモリに記憶されるストリームの具体例を示す図である。 図25は、実施の形態7における動画像復号化装置を備える映像機器の構成を示す図である。
符号の説明
11 ダブルチューナ
12 ストリーム入力制御部
13 動画像復号化装置
14 出力制御部
15 表示デバイス
16 表示デバイス
110、111 第1バッファメモリ
120、121 第1デコーダ
125 分割部
130、131 格納制御部
140、141 第2バッファメモリ
150、151 ヘッダ情報記憶部
160、161 HEA記憶部
170 圧縮画像記憶部
180 DEA記憶部
190、191 読み出し制御部
200 第2デコーダ
210 ヘッダ解析部
220 復号化部
230 ピクチャ終了判定部
240 NALエンド付与部
250 チャネル判定部
260 CHエンド付与部
270 第1SL判定部
280 SLstart付与部

Claims (15)

  1. ヘッダ情報と圧縮画像データとを含むストリームを復号化する動画像復号化装置であって、
    前記ストリーム中のヘッダ情報と圧縮画像データとを判別する判別手段と、
    判別手段によって判別されたヘッダ情報を一時的に記憶するヘッダ情報記憶手段と、
    ヘッダ情報記憶手段のアドレスであって、1ピクチャ内のヘッダ情報の末尾を示すヘッダ末尾アドレスを記憶するためのヘッダアドレス記憶手段と、
    判別手段によって判別された圧縮画像データを一時的に記憶する圧縮画像記憶手段と、
    圧縮画像記憶手段のアドレスであって、1ピクチャ内の圧縮画像データの末尾を示す画像末尾アドレスを記憶するための画像アドレス記憶手段と、
    前記ヘッダ末尾アドレスに基づいて1ピクチャ毎にヘッダ情報を解析するヘッダ解析手段と、
    ヘッダ解析手段による解析結果および前記画像末尾アドレスに基づいて1ピクチャ毎に圧縮画像データを復号化する復号化手段とを備え、
    前記ヘッダ解析手段は、前記復号化手段によって復号化されているピクチャの次のピクチャのヘッダ情報を解析することを特徴とする動画像復号化装置。
  2. 前記動画像復号化装置は、さらに、
    前記判別手段による判別結果に従って、ヘッダ情報記憶手段へのヘッダ情報の格納と、ヘッダアドレス記憶手段へのヘッダ末尾アドレスの格納と、圧縮画像記憶手段への圧縮画像データの格納と、画像アドレス記憶手段への画像末尾アドレスの格納とを制御する格納制御手段と、
    ヘッダ末尾アドレスに従ってヘッダ情報記憶手段から1ピクチャに対応するヘッダ情報を読み出し、読み出したヘッダ情報をヘッダ解析手段に供給し、画像末尾アドレスに従って圧縮画像記憶手段から1ピクチャに対応する圧縮画像データを読み出し、読み出した圧縮画像データを復号化手段に供給する読み出し制御手段と
    を備えることを特徴とする請求項1記載の動画像復号化装置。
  3. 前記動画像復号化装置は、さらに、
    圧縮画像データに含まれるスライスユニットをスライスヘッダとスライスデータとに分割する分割手段と、
    前記判別手段に判別されたヘッダ情報と分割手段に分割されたスライスヘッダとをヘッダ情報記憶手段に格納し、圧縮画像データとスライスデータとを圧縮画像記憶手段に格納し、格納に伴ってヘッダアドレス記憶手段および画像アドレス記憶手段を更新する格納制御手段と
    を備えることを特徴とする請求項1記載の動画像復号化装置。
  4. 前記判別手段は、さらに、ヘッダ情報に含まれる複数種類のヘッダを判別し、
    前記ヘッダ情報記憶手段は、ヘッダ情報に含まれるヘッダの種類に対応する複数の記憶領域を有し、
    前記動画像復号化装置は、さらに、
    前記判別手段に判別されたヘッダをその種類に対応する記憶領域に格納し、ヘッダの種類毎に1ピクチャの末尾に存在するヘッダの末尾アドレスをヘッダアドレス記憶手段に格納する格納制御手段と、
    ヘッダの種類毎の末尾アドレスに従ってヘッダの種類毎にヘッダ情報記憶手段から1ピクチャに対応するヘッダを読み出し、読み出したヘッダをヘッダ解析手段に供給し、画像末尾アドレスに従って圧縮画像記憶手段から1ピクチャに対応する圧縮画像データを読み出し、読み出した圧縮画像データを復号化手段に供給する読み出し制御手段と
    を備えることを特徴とする請求項1記載の動画像復号化装置。
  5. 前記動画像復号化装置は、さらに、
    ピクチャ内のヘッダ情報の末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、
    ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、検出されたヘッダ情報の末尾にエンドマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、検出された圧縮画像データの末尾の位置にエンドマークを付加する付加手段と
    を備えることを特徴とする請求項1記載の動画像復号化装置。
  6. 前記動画像復号化装置は、さらに、
    ピクチャ内の同種のヘッダの末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、
    ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、ヘッダの種類毎にピクチャ内の同種のヘッダ情報の末尾にエンドマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にエンドマークを付加する付加手段と
    を備えることを特徴とする請求項4記載の動画像復号化装置。
  7. 前記判別手段は、複数チャネルのストリームのそれぞれに対して、ストリーム中のヘッダ情報と圧縮画像データとを判別し、
    前記動画像復号化装置は、さらに、
    ピクチャ内のヘッダ情報の末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、
    判別手段に判別される現在のピクチャと次のピクチャとが異なるストリームに属するか否かを判定する判定手段と、
    異なるストリームに属すると判定された場合に、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、検出されたヘッダ情報の末尾に、チャネルの変更を示すマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、検出された圧縮画像データの末尾の位置にチャネルの変更を示すマークを付加する付加手段と
    を備えることを特徴とする請求項2記載の動画像復号化装置。
  8. 前記判別手段は、複数チャネルのストリームのそれぞれに対して、ストリーム中のヘッダ情報と圧縮画像データとを判別し、
    前記動画像復号化装置は、さらに、
    ピクチャ内の同種のヘッダの末尾と、ピクチャ内の圧縮画像データの末尾とを検出する検出手段と、
    判別手段に判別される現在のピクチャと次のピクチャとが異なるストリームに属するか否かを判定する判定手段と、
    異なるストリームに属すると判定された場合に、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、ヘッダの種類毎にピクチャ内の同種のヘッダ情報の末尾に、チャネルの変更を示すマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にチャネルの変更を示すマークを付加する付加手段と
    を備えることを特徴とする請求項4記載の動画像復号化装置。
  9. 前記付加手段は、さらに、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、ヘッダの種類毎にピクチャ内の同種のヘッダ情報の末尾に、エンドマークを付加し、圧縮画像記憶手段に記憶された圧縮画像データに対して、ピクチャ内の圧縮画像データの末尾にエンドマークを付加すること
    を備えることを特徴とする請求項8記載の動画像復号化装置。
  10. 前記判別手段は、複数チャネルのストリームのそれぞれに対して、ヘッダ情報と圧縮画像データとを判別し、
    前記ヘッダ情報記憶手段、前記ヘッダアドレス記憶手段、前記圧縮画像記憶手段および前記画像アドレス記憶手段は、それぞれ前記複数チャネルに対応する複数の記憶領域を有し、
    前記動画像復号化装置は、さらに、複数のチャネルに対応する複数の検出手段および付加手段とを備え、
    各検出手段は、対応するチャネルのストリームにおいて、ピクチャ内のヘッダ情報の末尾と、ピクチャ内の圧縮画像データの末尾とを検出し、
    各付加手段は、対応するチャネルの記憶領域に記憶されたヘッダ情報に対して、検出されたヘッダ情報の末尾にエンドマークを付加し、対応するチャネルの記憶領域に記憶された圧縮画像データに対して、検出された圧縮画像データの末尾の位置にエンドマークを付加する付加手段と
    を備えることを特徴とする請求項1記載の動画像復号化装置。
  11. 前記動画像復号化装置は、さらに、ピクチャに含まれる最初のスライスユニットを判別するスライス判別手段を備え、
    前記付加手段は、さらに、最初のスライスユニットが判別されたとき、ヘッダ情報記憶手段に記憶されたヘッダ情報に対して、最初のスライスユニットが現れたことを示す開始マークを付加する
    ことを特徴とする請求項5記載の動画像復号化装置。
  12. 前記動画像復号化装置は、さらに、外部から入力されるストリームを一時的に記憶する一時記憶手段と、
    前記判別手段は、一時記憶手段に記憶されたストリームに対して前処理として算術復号化する算術復号化部と、
    算術復号化されたストリームに対して、ヘッダ情報と圧縮画像データとを判別する判別手段と
    を備えることを特徴とする請求項1記載の動画像復号化装置。
  13. ヘッダ情報と圧縮画像データとを含むストリームを復号化する半導体装置であって、
    前記ストリーム中のヘッダ情報と圧縮画像データとを判別する判別手段と、
    判別手段によって判別されたヘッダ情報を一時的に記憶するヘッダ情報記憶手段と、
    ヘッダ情報記憶手段のアドレスであって、1ピクチャ内のヘッダ情報の末尾を示すヘッダ末尾アドレスを記憶するためのヘッダアドレス記憶手段と、
    判別手段によって判別された圧縮画像データを一時的に記憶する圧縮画像記憶手段と、
    圧縮画像記憶手段のアドレスであって、1ピクチャ内の圧縮画像データの末尾を示す画像末尾アドレスを記憶するための画像アドレス記憶手段と、
    前記ヘッダ末尾アドレスに基づいて1ピクチャ毎にヘッダ情報を解析するヘッダ解析手段と、
    ヘッダ解析手段による解析結果および前記画像末尾アドレスに基づいて1ピクチャ毎に圧縮画像データを復号化する復号化手段とを備え、
    前記ヘッダ解析手段は、前記復号化手段によって復号化されているピクチャの次のピクチャのヘッダ情報を解析することを特徴とする半導体装置。
  14. 記録媒体又は放送信号からストリームを取得する取得手段と、
    請求項1記載の画像復号化装置と、
    画像復号化装置によって復号化された動画像を外部の表示機器に出力する出力制御部と
    を備えることを特徴とする映像機器。
  15. ヘッダ情報と圧縮画像データとを含むストリームを復号化する動画像復号化方法であって、
    前記ストリーム中のヘッダ情報と圧縮画像データとを判別する判別ステップと、
    判別されたヘッダ情報を第1バッファメモリに格納するステップと、
    第1バッファメモリのアドレスであって、1ピクチャ内のヘッダ情報の末尾を示すヘッダ末尾アドレスを第2バッファメモリに格納するステップと、
    判別手段によって判別された圧縮画像データを第3バッファメモリに格納するステップと、
    第3バッファメモリのアドレスであって、1ピクチャ内の圧縮画像データの末尾を示す画像末尾アドレスを第4バッファメモリに格納するステップと、
    前記ヘッダ末尾アドレスに基づいて1ピクチャ毎にヘッダ情報を解析するヘッダ解析ステップと、
    ヘッダ解析の解析結果および前記画像末尾アドレスに基づいて1ピクチャ毎に圧縮画像データを復号化する復号化ステップと
    を有し、
    前記復号化ステップにおける復号化中に、ヘッダ解析ステップにおいて次のピクチャのヘッダ情報を解析する
    ことを特徴とする動画像復号化方法。
JP2008505687A 2006-12-11 2007-11-21 動画像復号化装置、半導体装置、映像機器および動画像復号化方法 Expired - Fee Related JP4664406B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2006333776 2006-12-11
JP2006333776 2006-12-11
PCT/JP2007/072505 WO2008072452A1 (ja) 2006-12-11 2007-11-21 動画像復号化装置、半導体装置、映像機器および動画像復号化方法

Publications (2)

Publication Number Publication Date
JPWO2008072452A1 true JPWO2008072452A1 (ja) 2010-03-25
JP4664406B2 JP4664406B2 (ja) 2011-04-06

Family

ID=39511477

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008505687A Expired - Fee Related JP4664406B2 (ja) 2006-12-11 2007-11-21 動画像復号化装置、半導体装置、映像機器および動画像復号化方法

Country Status (4)

Country Link
US (1) US20100021142A1 (ja)
EP (1) EP2094015A4 (ja)
JP (1) JP4664406B2 (ja)
WO (1) WO2008072452A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014165736A (ja) * 2013-02-26 2014-09-08 Ntt Electornics Corp デコーダ装置

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009105684A (ja) * 2007-10-23 2009-05-14 Panasonic Corp 動画像復号化装置
JP2009111932A (ja) * 2007-10-31 2009-05-21 Panasonic Corp 動画像復号化装置
WO2011004577A1 (ja) * 2009-07-06 2011-01-13 パナソニック株式会社 画像復号装置、画像符号化装置、画像復号方法、画像符号化方法、プログラムおよび集積回路
JP2011066844A (ja) * 2009-09-18 2011-03-31 Toshiba Corp 並列復号装置及びプログラム並びに符号化データの並列復号方法
US8301008B2 (en) 2010-06-09 2012-10-30 Eldon Technology Limited Apparatus, systems and methods for storing program events in an enhanced history buffer
US8990435B2 (en) 2011-01-17 2015-03-24 Mediatek Inc. Method and apparatus for accessing data of multi-tile encoded picture stored in buffering apparatus
US9497466B2 (en) 2011-01-17 2016-11-15 Mediatek Inc. Buffering apparatus for buffering multi-partition video/image bitstream and related method thereof
WO2012111315A1 (ja) * 2011-02-16 2012-08-23 パナソニック株式会社 ストリーム生成装置、ストリーム生成方法、ストリーム処理装置、およびストリーム処理方法
JPWO2012140839A1 (ja) * 2011-04-11 2014-07-28 パナソニック株式会社 ストリーム生成装置およびストリーム生成方法
CN103828370B (zh) 2011-10-31 2017-11-03 联发科技股份有限公司 缓冲装置、缓冲方法以及熵解码器
WO2013165215A1 (ko) * 2012-05-04 2013-11-07 엘지전자 주식회사 영상 정보 저장 방법 및 영상 정보 파싱 방법 그리고 이를 이용하는 장치
JP6000763B2 (ja) * 2012-08-31 2016-10-05 キヤノン株式会社 画像処理装置及び画像処理方法
US9743449B2 (en) * 2014-01-14 2017-08-22 Qualcomm Incorporated Bluetooth low energy secondary data channel with multi-rate streaming
US9927998B2 (en) * 2014-02-05 2018-03-27 Tidal Systems, Inc. Flash memory compression
US9800898B2 (en) * 2014-10-06 2017-10-24 Microsoft Technology Licensing, Llc Syntax structures indicating completion of coded regions
US10743032B2 (en) * 2017-05-24 2020-08-11 Qualcomm Incorporated Substream multiplexing for display stream compression
EP3657496A4 (en) * 2017-07-19 2020-08-05 Sony Corporation DEVICE AND PROCESS FOR PROCESSING INFORMATION
US11792432B2 (en) * 2020-02-24 2023-10-17 Tencent America LLC Techniques for signaling and identifying access unit boundaries

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09261641A (ja) * 1996-03-26 1997-10-03 Sanyo Electric Co Ltd 圧縮画像データ処理方法及び装置
JPH10215366A (ja) * 1997-01-30 1998-08-11 Dainippon Screen Mfg Co Ltd 圧縮画像データの抽出方法およびその装置
JP2000324490A (ja) * 1999-05-14 2000-11-24 Hitachi Ltd 符号化ディジタル信号復号装置
JP2004221963A (ja) * 2003-01-15 2004-08-05 Fuji Photo Film Co Ltd 分割画像合成処理装置、分割画像合成処理方法および分割画像合成処理プログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3474005B2 (ja) * 1994-10-13 2003-12-08 沖電気工業株式会社 動画像符号化方法及び動画像復号方法
CA2173812C (en) * 1995-04-11 2000-02-08 Shinichi Kikuchi Recording medium, recording apparatus and recording method for recording data into recording medium, and reproducing apparatus and reproduction method for reproducing data from recording medium
TW416220B (en) * 1998-01-23 2000-12-21 Matsushita Electric Ind Co Ltd Image transmitting method, image processing method, image processing device, and data storing medium
US7292772B2 (en) * 2000-05-29 2007-11-06 Sony Corporation Method and apparatus for decoding and recording medium for a coded video stream
US7353140B2 (en) * 2001-11-14 2008-04-01 Electric Power Research Institute, Inc. Methods for monitoring and controlling boiler flames
US7277586B2 (en) * 2003-01-15 2007-10-02 Fujifilm Corporation Images combination processing system, images combination processing method, and images combination processing program
JP2004343451A (ja) * 2003-05-15 2004-12-02 Matsushita Electric Ind Co Ltd 動画像復号化方法および動画像復号化装置
KR20050113501A (ko) * 2004-05-29 2005-12-02 삼성전자주식회사 에이치 264 비디오 디코더를 위한 구문 분석기
CN101036391B (zh) * 2004-10-07 2011-01-26 松下电器产业株式会社 画面编码装置和画面解码装置
US20060133507A1 (en) * 2004-12-06 2006-06-22 Matsushita Electric Industrial Co., Ltd. Picture information decoding method and picture information encoding method
US7974517B2 (en) * 2005-10-05 2011-07-05 Broadcom Corporation Determination of decoding information

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09261641A (ja) * 1996-03-26 1997-10-03 Sanyo Electric Co Ltd 圧縮画像データ処理方法及び装置
JPH10215366A (ja) * 1997-01-30 1998-08-11 Dainippon Screen Mfg Co Ltd 圧縮画像データの抽出方法およびその装置
JP2000324490A (ja) * 1999-05-14 2000-11-24 Hitachi Ltd 符号化ディジタル信号復号装置
JP2004221963A (ja) * 2003-01-15 2004-08-05 Fuji Photo Film Co Ltd 分割画像合成処理装置、分割画像合成処理方法および分割画像合成処理プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014165736A (ja) * 2013-02-26 2014-09-08 Ntt Electornics Corp デコーダ装置

Also Published As

Publication number Publication date
JP4664406B2 (ja) 2011-04-06
US20100021142A1 (en) 2010-01-28
EP2094015A1 (en) 2009-08-26
WO2008072452A1 (ja) 2008-06-19
EP2094015A4 (en) 2011-09-28

Similar Documents

Publication Publication Date Title
JP4664406B2 (ja) 動画像復号化装置、半導体装置、映像機器および動画像復号化方法
US8699581B2 (en) Image processing device, image processing method, information processing device, and information processing method
US11570472B2 (en) Encoding device and encoding method
US11611741B2 (en) Video decoding device and video decoding method
EP2187646A1 (en) Video stream processing device, its control method, program, and recording medium
US8363713B2 (en) Method and apparatus for loading image data
US20090310678A1 (en) Image encoding apparatus, method of controlling the same and computer program
US20220191517A1 (en) Device and method of video encoding with first and second encoding code
US9723308B2 (en) Image processing apparatus and image processing method
US8681862B2 (en) Moving picture decoding apparatus and moving picture decoding method
US8731311B2 (en) Decoding device, decoding method, decoding program, and integrated circuit
KR102331537B1 (ko) 디코딩 장치 및 방법
US20040179592A1 (en) Image coding apparatus
JP4856008B2 (ja) 画像再符号化装置および画像再符号化方法
JP2003134465A (ja) ストリーム任意領域抽出方式及び装置及びそのプログラム及びそれを記録した記録媒体
JP2012191247A (ja) 動画像符号化装置および動画像符号化方法
JP2009033227A (ja) 動画像復号化装置、動画像処理システム装置および動画像復号化方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101214

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110106

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140114

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees