JP5470206B2 - 画像復号方法および画像復号装置 - Google Patents

画像復号方法および画像復号装置 Download PDF

Info

Publication number
JP5470206B2
JP5470206B2 JP2010206114A JP2010206114A JP5470206B2 JP 5470206 B2 JP5470206 B2 JP 5470206B2 JP 2010206114 A JP2010206114 A JP 2010206114A JP 2010206114 A JP2010206114 A JP 2010206114A JP 5470206 B2 JP5470206 B2 JP 5470206B2
Authority
JP
Japan
Prior art keywords
view
unit
base
nal unit
base view
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010206114A
Other languages
English (en)
Other versions
JP2011010362A (ja
Inventor
スン リム チョン
孝啓 西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Publication of JP2011010362A publication Critical patent/JP2011010362A/ja
Application granted granted Critical
Publication of JP5470206B2 publication Critical patent/JP5470206B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/188Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a video data packet, e.g. a network abstraction layer [NAL] unit
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/1887Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a variable length codeword
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、多視点映像を復号する画像復号方法、および、多視点映像を復号する画像復号装置に関する。
多視点映像符号化(MVC:Multiview Video Coding)規格は、ISO/IEC 14496−10 Advanced Video Coding(AVC)規格の拡張規格として規定されたものである。MVC規格におけるプロファイルは、AVC規格に定義されたプロファイルのいくつかに後方互換性を持たせるように設計されている。言い換えると、新たなMVCプロファイルに準拠したデコーダまたはプレーヤは、AVCプロファイルのビットストリームのいくつかを復号することができる。逆に、AVCプロファイル(特にハイ・プロファイル)の旧来型デコーダは、新たなMVCプロファイルに準拠したビットストリームの中の少なくとも1つのビューを復号するはずである。
多視点映像符号化(MVC)規格において、符号化されたベース・ビューがAVC規格に定義されたプロファイルと互換性を有するように要求されているため、AVC規格のハイ・プロファイルに準拠した旧来型デコーダは、MVCプロファイルに準拠したMVCビットストリームの中のベース・ビューを復号可能でなければならない。符号化されたビューは、ネットワーク抽象レイヤ(NAL:Network Abstraction Layer)ユニットに含められる。異なるタイプのNALユニットは、NALユニット・タイプの値によって区別される。ノン・ベース・ビューは、AVC規格の旧版において予約されたNALユニット・タイプの値を有するNALユニットに含められる。よって、これらのNALユニットは、旧来型のハイプロファイル・デコーダには無視されるべきものである。
また、MVC規格において、前置NALユニット(Prefix NAL unit)と呼ばれる特別なNALユニットが、符号化されたベース・ビューを含む各NALユニットの前に配置され、共に送信されることが要求されている。この前置NALユニットのNALユニット・タイプの値は14であり、AVC規格の旧版において予約されている。符号化されたベース・ビューを含む各NALユニットのNALユニット・タイプの値は、5または1である。
前置NALユニットは、NALユニット・ヘッダのMVC拡張部に配置される付加パラメータを含む。これらのパラメータは、ベース・ビューと関連付けられ、ノン・ベース・ビューを符号化し復号する処理において用いられる。図23は、NALユニット・ヘッダのMVC拡張構文による記憶位置に関する図である。NALユニット・ヘッダのMVC拡張部におけるパラメータの例として、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)、ビュー間予測フラグ(inter_view_flag)、予約1ビット(reserved_one_bit)などがある。予約1ビット(reserved_one_bit)は、1つの値であり、ノン・ベース・ビューの符号化および復号処理には用いられない。
なお、特許文献1には、NALユニットを用いて、多視点映像を符号化する技術が記載されている。
国際公開第2007/126509号
理想的には、旧来型AVCデコーダは、AVC規格の旧版において予約された値として定義されているNALユニット・タイプの値を有するNALユニットについては無視すべきである。旧来型AVCデコーダは、ベース・ビューを含むNALユニットのみを復号し、そのベース・ビューのみを再構築すべきである。
しかしながら、市場における全てのデコーダが、予約された値を有するNALユニットを無視するわけではない。圧縮されたベース・ビューと圧縮されたノン・ベース・ビューとは、異なるストリーム識別子を用いて区別できる。しかし、圧縮されたベース・ビューに関連付けて前置NALユニットを含めることが要求されているため、市場におけるデコーダの中には、前置NALユニットが原因でベース・ビューを復号できないものもある。このことは、圧縮されたMVCストリームが旧来型AVCデコーダとの後方互換性を有するように支援する上での課題となる。
また、前置NALユニットは、ベース・ビューの各NALユニットの前に配置されなければならない。したがって、単一のビューを対象とするビットストリームであって、前置NALユニットのないビットストリームに、新たな別のビューを追加することは、容易ではない。つまり、従来の規格に基づいて生成されたビットストリームを多視点映像に対応したビットストリームに変更することは、困難である。そのため、従来の規格に基づいて生成された既存のビットストリームを多視点映像における1つのビューとして利用することは、困難であった。
そこで、本発明は、前置NALユニットが用いられない場合でも、多視点映像を復号できる画像復号方法、および、多視点映像を符号化できる画像符号化方法を提供することを目的とする。
上記課題を解決するため、本発明に係る画像復号方法は、多視点映像を復号する画像復号方法であって、ベース・ビューのビュー・コンポーネントに含まれる画像を含むNALユニットを構文解析し、前記ベース・ビューの前記ビュー・コンポーネントに含まれる前記画像を復号し、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを構文解析し、前記ベース・ビューの前記ビュー・コンポーネントに前置NALユニットが存在しているか否かを検索し、前記ベース・ビューの前記ビュー・コンポーネントに前記前置NALユニットが存在していない場合、前記ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出し、前記ベース・ビューの前記ビュー・コンポーネントに前記前置NALユニットが存在している場合、前記前置NALユニットから、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを構文解析し、前記ノン・ベース・ビューのビュー・コンポーネントに含まれる画像を含むNALユニットを構文解析し、算出または構文解析された前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、構文解析された前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを用いて、前記ノン・ベース・ビューの前記ビュー・コンポーネントに含まれる前記画像を復号し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータは、それぞれ、ビュー間予測フラグ(inter_view_flag)を含む。
これにより、前置NALユニットが用いられない場合でも、多視点映像が復号される。
また、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータは、それぞれ、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)およびビュー間予測フラグ(inter_view_flag)を含んでもよい。
これにより、様々なパラメータを用いて、ノン・ベース・ビューが復号される。
また、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを算出する際には、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから、前記非IDRフラグ(non_idr_flag)の値を取得し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記非IDRフラグ(non_idr_flag)に、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから取得された前記非IDRフラグ(non_idr_flag)の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記優先ID(priority_id)に、予め定められた第1の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記ビューID(view_id)に、予め定められた第2の値を割り当て、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから、前記時間ID(temporal_id)の値を取得し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記時間ID(temporal_id)に、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから取得された前記時間ID(temporal_id)の値を割り当て、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから、前記アンカー・ピクチャ・フラグ(anchor_pic_flag)の値を取得し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記アンカー・ピクチャ・フラグ(anchor_pic_flag)に、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから取得された前記アンカー・ピクチャ・フラグ(anchor_pic_flag)の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記ビュー間予測フラグ(inter_view_flag)に、予め定められた第3の値を割り当ててもよい。
これにより、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータが、より具体的に算出される。
また、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを算出する際には、前記ベース・ビューのNALユニット・ヘッダから、NALユニット・タイプ(nal_unit_type)の値を取得し、前記NALユニット・タイプ(nal_unit_type)の値が5である場合、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記非IDRフラグ(non_idr_flag)に、0を割り当て、前記NALユニット・タイプ(nal_unit_type)の値が1である場合、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記非IDRフラグ(non_idr_flag)に、1を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記優先ID(priority_id)に、予め定められた第1の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記ビューID(view_id)に、予め定められた第2の値を割り当て、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから、前記時間ID(temporal_id)の値を取得し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記時間ID(temporal_id)に、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから取得された前記時間ID(temporal_id)の値を割り当て、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから、前記アンカー・ピクチャ・フラグ(anchor_pic_flag)の値を取得し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記アンカー・ピクチャ・フラグ(anchor_pic_flag)に、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから取得された前記アンカー・ピクチャ・フラグ(anchor_pic_flag)の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記ビュー間予測フラグ(inter_view_flag)に、予め定められた第3の値を割り当ててもよい。
これにより、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータが、より具体的に算出される。また、ベース・ビューのNALユニット・ヘッダを用いることにより、より高精度な値が算出される。
また、前記優先ID(priority_id)に割り当てられる前記予め定められた第1の値は、0であってもよい。
これにより、ベース・ビューが、優先的に取り扱われる。
また、前記ビューID(view_id)に割り当てられる前記予め定められた第2の値は、0であってもよい。
これにより、ベース・ビューのビューID(view_id)が、判別しやすい固定の値になる。
また、前記ビュー間予測フラグ(inter_view_flag)に割り当てられる前記予め定められた第3の値は、1であってもよい。
これにより、ベース・ビューの復号画像が、ビュー間予測に利用可能になる。
また、本発明に係る画像符号化方法は、多視点映像を符号化する画像符号化方法であって、ベース・ビューの画像を符号化し、前置NALユニットなしで、前記ベース・ビューの符号化された前記画像を含むビュー・コンポーネントをNALユニットに書き込み、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを特定し、前記ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出し、算出された前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、特定された前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを用いて、前記ノン・ベース・ビューの画像を符号化し、前記ノン・ベース・ビューの符号化された前記画像を含むビュー・コンポーネントをNALユニットに書き込んでもよい。
これにより、前置NALユニットなしで、多視点映像が符号化される。
また、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータは、それぞれ、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)およびビュー間予測フラグ(inter_view_flag)を含んでもよい。
これにより、様々なパラメータを用いて、ノン・ベース・ビューが符号化される。
また、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを算出する際には、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから、前記非IDRフラグ(non_idr_flag)の値を取得し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記非IDRフラグ(non_idr_flag)に、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから取得された前記非IDRフラグ(non_idr_flag)の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記優先ID(priority_id)に、予め定められた第1の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記ビューID(view_id)に、予め定められた第2の値を割り当て、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから、前記時間ID(temporal_id)の値を取得し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記時間ID(temporal_id)に、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから取得された前記時間ID(temporal_id)の値を割り当て、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから、前記アンカー・ピクチャ・フラグ(anchor_pic_flag)の値を取得し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記アンカー・ピクチャ・フラグ(anchor_pic_flag)に、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから取得された前記アンカー・ピクチャ・フラグ(anchor_pic_flag)の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記ビュー間予測フラグ(inter_view_flag)に、予め定められた第3の値を割り当ててもよい。
これにより、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータが、より具体的に算出される。
また、本発明に係る画像符号化方法は、多視点映像を符号化する画像符号化方法であって、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを特定し、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを特定し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを前置NALユニットに書き込むか否かを切り替え、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを前記前置NALユニットに書き込むように切り替えられた場合、特定された前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを前記前置NALユニットに書き込み、前記ベース・ビューの画像を符号化し、前記ベース・ビューの符号化された前記画像を含むビュー・コンポーネントをNALユニットに書き込み、特定された前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、特定された前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを用いて、前記ノン・ベース・ビューの画像を符号化し、前記ノン・ベース・ビューの符号化された前記画像を含むビュー・コンポーネントをNALユニットに書き込んでもよい。
これにより、多視点映像の符号化の際、前置NALユニットの有無が、切り替え可能になる。また、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出するための負荷が、軽減される。
また、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータは、それぞれ、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)およびビュー間予測フラグ(inter_view_flag)を含み、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを特定する際には、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記優先ID(priority_id)に、予め定められた第1の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記ビューID(view_id)に、予め定められた第2の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記ビュー間予測フラグ(inter_view_flag)に、予め定められた第3の値を割り当ててもよい。
これにより、様々なパラメータを用いて、ノン・ベース・ビューが符号化される。
また、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを算出する際には、前記ベース・ビューのNALユニット・ヘッダから、NALユニット・タイプ(nal_unit_type)の値を取得し、前記NALユニット・タイプ(nal_unit_type)の値が5である場合、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記非IDRフラグ(non_idr_flag)に、0を割り当て、前記NALユニット・タイプ(nal_unit_type)の値が1である場合、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記非IDRフラグ(non_idr_flag)に、1を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記優先ID(priority_id)に、予め定められた第1の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記ビューID(view_id)に、予め定められた第2の値を割り当て、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから、前記時間ID(temporal_id)の値を取得し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記時間ID(temporal_id)に、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから取得された前記時間ID(temporal_id)の値を割り当て、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから、前記アンカー・ピクチャ・フラグ(anchor_pic_flag)の値を取得し、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記アンカー・ピクチャ・フラグ(anchor_pic_flag)に、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータから取得された前記アンカー・ピクチャ・フラグ(anchor_pic_flag)の値を割り当て、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータの前記ビュー間予測フラグ(inter_view_flag)に、予め定められた第3の値を割り当ててもよい。
これにより、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータが、より具体的に算出される。また、ベース・ビューのNALユニット・ヘッダを用いることにより、より高精度な値が算出される。
また、前記優先ID(priority_id)に割り当てられる前記予め定められた第1の値は、0であってもよい。
これにより、ベース・ビューが、優先的に取り扱われる。
また、前記ビューID(view_id)に割り当てられる前記予め定められた第2の値は、0であってもよい。
これにより、ベース・ビューのビューID(view_id)が、判別しやすい固定の値になる。
また、前記ビュー間予測フラグ(inter_view_flag)に割り当てられる前記予め定められた第3の値は、1であってもよい。
これにより、ベース・ビューの復号画像が、ビュー間予測に利用可能になる。
また、本発明に係る画像復号装置は、多視点映像を復号する画像復号装置であって、ベース・ビューのビュー・コンポーネントに含まれる画像を含むNALユニットを構文解析するベース・ビュー・NALユニット構文解析部と、前記ベース・ビューの前記ビュー・コンポーネントに含まれる前記画像を復号するベース・ビュー復号部と、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを構文解析するノン・ベース・ビュー・MVC拡張パラメータ構文解析部と、前記ベース・ビューの前記ビュー・コンポーネントに前置NALユニットが存在しているか否かを検索する前置NALユニット検索部と、前記ベース・ビューの前記ビュー・コンポーネントに前記前置NALユニットが存在していない場合、前記ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出するベース・ビュー・MVC拡張パラメータ算出部と、前記ベース・ビューの前記ビュー・コンポーネントに前記前置NALユニットが存在している場合、前記前置NALユニットから、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを構文解析するベース・ビュー・MVC拡張パラメータ構文解析部と、前記ノン・ベース・ビューのビュー・コンポーネントに含まれる画像を含むNALユニットを構文解析するノン・ベース・ビュー・NALユニット構文解析部と、算出または構文解析された前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、構文解析された前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを用いて、前記ノン・ベース・ビューの前記ビュー・コンポーネントに含まれる前記画像を復号するノン・ベース・ビュー復号部とを備え、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータは、それぞれ、ビュー間予測フラグ(inter_view_flag)を含んでもよい。
これにより、前置NALユニットが用いられない場合でも、多視点映像が復号される。
また、本発明に係る画像符号化装置は、多視点映像を符号化する画像符号化装置であって、ベース・ビューの画像を符号化するベース・ビュー符号化部と、前置NALユニットなしで、前記ベース・ビューの符号化された前記画像を含むビュー・コンポーネントをNALユニットに書き込むベース・ビュー書き込み部と、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを特定するノン・ベース・ビュー・MVC拡張パラメータ特定部と、前記ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出するベース・ビュー・MVC拡張パラメータ算出部と、算出された前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、特定された前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを用いて、前記ノン・ベース・ビューの画像を符号化するノン・ベース・ビュー符号化部と、前記ノン・ベース・ビューの符号化された前記画像を含むビュー・コンポーネントをNALユニットに書き込むノン・ベース・ビュー書き込み部とを備えてもよい。
これにより、前置NALユニットなしで、多視点映像が符号化される。
また、本発明に係る画像符号化装置は、多視点映像を符号化する画像符号化装置であって、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを特定するベース・ビュー・MVC拡張パラメータ特定部と、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを特定するノン・ベース・ビュー・MVC拡張パラメータ特定部と、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを前置NALユニットに書き込むか否かを切り替える前置NALユニット書き込み切り替え部と、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを前記前置NALユニットに書き込むように切り替えられた場合、特定された前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを前記前置NALユニットに書き込む前置NALユニット書き込み部と、前記ベース・ビューの画像を符号化するベース・ビュー符号化部と、前記ベース・ビューの符号化された前記画像を含むビュー・コンポーネントをNALユニットに書き込むベース・ビュー書き込み部と、特定された前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、特定された前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを用いて、前記ノン・ベース・ビューの画像を符号化するノン・ベース・ビュー符号化部と、前記ノン・ベース・ビューの符号化された前記画像を含むビュー・コンポーネントをNALユニットに書き込むノン・ベース・ビュー書き込み部とを備えてもよい。
これにより、多視点映像の符号化の際、前置NALユニットの有無が、切り替え可能になる。また、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出するための負荷が、軽減される。
本発明により、前置NALユニットが用いられない場合でも、多視点映像が復号され、多視点映像が符号化される。
したがって、前置NALユニットに起因してベース・ビューを復号できなかった旧来型AVCデコーダであっても、多視点映像に含まれるベース・ビューの画像を復号できる。また、前置NALユニットを用いないため、単一のビューを符号化することにより生成されたストリームに、別のビューを追加することも容易になる。そして、旧来型AVCエンコーダにより生成された既存のビットストリームを多視点映像のベース・ビューとして利用することも容易になる。
図1は、本発明の実施の形態1における画像符号化装置の構成要素を示す構成図である。 図2は、本発明の実施の形態1における符号化処理を示すフローチャートである。 図3は、本発明の実施の形態1における画像復号装置の構成要素を示す構成図である。 図4は、本発明の実施の形態1における復号処理を示すフローチャートである。 図5は、本発明の実施の形態1における、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出する処理を示すフローチャートである。 図6は、本発明の実施の形態1における画像符号化装置の例を示す図である。 図7は、本発明の実施の形態1における画像復号装置の例を示す図である。 図8は、本発明の実施の形態2における、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出する処理を示すフローチャートである。 図9は、本発明の実施の形態2における画像符号化装置の例を示す図である。 図10は、本発明の実施の形態2における画像復号装置の例を示す図である。 図11は、本発明の実施の形態3における画像符号化装置の構成要素を示す構成図である。 図12は、本発明の実施の形態3における符号化処理の変形例を示すフローチャートである。 図13は、本発明の実施の形態3における画像符号化装置の例を示す図である。 図14は、本発明の各実施の形態における符号化ストリームのデータ構造の例を示す図である。 図15は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成の一例を示す模式図である。 図16は、携帯電話の外観を示す図である。 図17は、携帯電話の構成例を示すブロック図である。 図18は、デジタル放送用システムの全体構成の一例を示す模式図である。 図19は、テレビの構成例を示すブロック図である。 図20は、光ディスクである記録メディアに情報の読み書きを行う情報再生記録部の構成例を示すブロック図である。 図21は、光ディスクである記録メディアの構造例を示す図である。 図22は、各実施の形態に係る画像符号化方法および画像復号方法を実現する集積回路の構成例を示すブロック図である。 図23は、NALユニット・ヘッダのMVC拡張構文による記憶位置を示す図である。
圧縮MVCストリームにおいて前置NALユニットを用いることなく、前置NALユニットのヘッダのMVC拡張部に含まれるパラメータを、MVCデコーダへ信号送信する新たな方法を紹介する。本発明の新規な点は、旧来型AVCデコーダによる復号処理において問題を生じさせることがある前置NALユニットを用いることなく、ノン・ベース・ビューの復号に必要な符号化MVCストリームのベース・ビューに関連付けられた値を特定可能にする点である。本発明は、市場における旧来型AVCデコーダがMVCストリームのベース・ビューを復号できるようにし、本発明のMVCデコーダがMVCストリーム中の全ての符号化ビューを復号できるようにする。
(実施の形態1)
まず、実施の形態1について説明する。
図1は、実施の形態1における画像符号化装置の構成要素を示す構成図である。
図1に示された画像符号化装置150は、ベース・ビュー符号化部100、ベース・ビュー書き込み部102、ノン・ベース・ビュー・MVC拡張パラメータ特定部104、ベース・ビュー・MVC拡張パラメータ算出部106、ノン・ベース・ビュー符号化部108およびノン・ベース・ビュー書き込み部110を備える。各処理部は、次に示される各処理を実行する。
図2は、本発明の実施の形態1における符号化処理を示すフローチャートである。
まず、ベース・ビュー符号化部100は、ベース・ビューの画像を符号化する(S100)。ベース・ビューの画像は、多視点映像符号化規格を用いて符号化される。多視点映像符号化規格を用いて符号化されるベース・ビューの画像は、Advanced Video Coding規格によって復号可能である。
次に、ベース・ビュー書き込み部102は、圧縮されたベース・ビュー・コンポーネントをNALユニットに書き込む(S102)。ベース・ビューのNALユニットは、図23に示されているような前置NALユニットを用いることなく書き込まれる。
次に、ノン・ベース・ビュー・MVC拡張パラメータ特定部104は、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを特定する(S104)。これらのパラメータの例としては、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)、ビュー間予測フラグ(inter_view_flag)などがある。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出する(S106)。これらのパラメータの例としては、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)、ビュー間予測フラグ(inter_view_flag)などがある。
なお、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータは、前置NALユニットが用いられると仮定した場合に、前置NALユニットのNALユニット・ヘッダのMVC拡張部に格納されるパラメータである。
次に、ノン・ベース・ビュー符号化部108は、ベース・ビューおよびノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを用いて、ノン・ベース・ビューの画像を符号化する(S108)。
最後に、ノン・ベース・ビュー書き込み部110は、ノン・ベース・ビュー・コンポーネントをNALユニットに書き込む(S110)。
図3は、本発明の実施の形態1における画像復号装置の構成要素を示す構成図である。
図3に示された画像復号装置250は、ベース・ビュー・NALユニット構文解析部200、ベース・ビュー復号部202、ノン・ベース・ビュー・MVC拡張パラメータ構文解析部204、前置NALユニット検索部205、ベース・ビュー・MVC拡張パラメータ算出部206、ベース・ビュー・MVC拡張パラメータ構文解析部207、ノン・ベース・ビュー・NALユニット構文解析部208およびノン・ベース・ビュー復号部210を備える。各処理部は、次に示される各処理を実行する。
図4は、本発明の実施の形態1における復号処理を示すフローチャートである。
まず、ベース・ビュー・NALユニット構文解析部200は、ベース・ビュー・コンポーネントのNALユニットを構文解析する(S200)。
次に、ベース・ビュー復号部202は、多視点映像符号化規格に記載の符号化処理を用いて、ベース・ビューの画像を復号する(S202)。
次に、ノン・ベース・ビュー・MVC拡張パラメータ構文解析部204において、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを構文解析する(S204)。つまり、ノン・ベース・ビュー・MVC拡張パラメータ構文解析部204は、ノン・ベース・ビューのNALユニット・ヘッダを構文解析することにより、ノン・ベース・ビューのMVC拡張パラメータを取得する。
これらのパラメータの例としては、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)、ビュー間予測フラグ(inter_view_flag)などがある。
次に、前置NALユニット検索部205は、ベース・ビューの前置NALユニットを検索する(S205)。
ここで、ベース・ビューの前置NALユニットが存在している場合(S205でYes)、ベース・ビュー・MVC拡張パラメータ構文解析部207は、前置NALユニットに基づいて、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを構文解析する(S207)。つまり、ベース・ビュー・MVC拡張パラメータ構文解析部207は、前置NALユニットのNALユニット・ヘッダを構文解析することにより、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを取得する。
一方、ベース・ビューの前置NALユニットが存在していなかった場合(S205でNo)、ベース・ビュー・MVC拡張パラメータ算出部206は、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出する(S206)。
これらのパラメータの例としては、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)、ビュー間フラグ(inter_view_flag)などがある。
次に、ノン・ベース・ビュー・NALユニット構文解析部208は、ノン・ベース・ビュー・コンポーネントのNALユニットを構文解析する(S208)。
最後に、ノン・ベース・ビュー復号部210は、多視点映像符号化規格で指定された復号処理に基づいて、ベース・ビューおよびノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを用いて、ノン・ベース・ビューの画像を復号する(S210)。
図5は、本発明の実施の形態1における、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出する処理を示すフローチャートである。これらのパラメータの例としては、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)、ビュー間フラグ(inter_view_flag)などがある。
以下、画像符号化装置150のベース・ビュー・MVC拡張パラメータ算出部106が実行する処理として記載するが、画像復号装置250のベース・ビュー・MVC拡張パラメータ算出部206も同様の処理を実行する。
まず、ベース・ビュー・MVC拡張パラメータ算出部106は、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータから、非IDRフラグ(non_idr_flag)の値を読み出す(S300)。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューの非IDRフラグ(non_idr_flag)に、ノン・ベース・ビューの非IDRフラグ(non_idr_flag)の値を割り当てる(S302)。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューの優先フラグ(priority_id)に、予め定められた値を割り当てる(S304)。優先フラグ(priority_id)の値として予め定められた値は0である。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ビューID(view_id)にも、予め定められた値を割り当てる(S306)。ビューID(view_id)の値として予め定められた値も0である。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータから、ノン・ベース・ビューの時間ID(temporal_id)の値を取得する(S308)。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューの時間ID(temporal_id)に、ノン・ベース・ビューの取得された時間ID(temporal_id)の値を割り当てる(S310)。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータから、アンカー・ピクチャ・フラグ(anchor_pic_flag)の値を取得する(S310)。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューのアンカー・ピクチャ・フラグ(anchor_pic_flag)に、ノン・ベース・ビューの取得されたアンカー・ピクチャ・フラグ(anchor_pic_flag)の値を割り当てる(S314)。
最後に、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューのビュー間予測フラグ(inter_view_flag)に、予め定められた値を設定する(S316)。ベース・ビューのビュー間予測フラグ(inter_view_flag)として予め定められた値は1である。
図6は、本発明の実施の形態1における画像符号化装置の例を示す図である。この装置が備えるものには、ベース・ビュー符号化部500、ベース・ビュー書き込み部502、ベース・ビュー復号部504、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部506、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部508、記憶部510、ノン・ベース・ビュー符号化部512、ノン・ベース・ビュー書き込み部514などがある。
まず、ベース・ビューの画像D001が、ベース・ビュー符号化部500に入力され、圧縮画像D003が、ベース・ビュー書き込み部502とベース・ビュー復号部504の両方に出力される。ベース・ビュー復号部504は、ベース・ビューの圧縮画像D003を読み取り、ベース・ビューの復号画像D005を、記憶部510に出力する。
図6に示されるように、ノン・ベース・ビューの画像D011は、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部508とノン・ベース・ビュー符号化部512の両方に入力される。ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部508は、次に、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013を、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部506とノン・ベース・ビュー符号化部512の両方に出力する。ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部506は、予め定められた値D009とノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013とを取得し、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータに値を割り当て、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD017を、ノン・ベース・ビュー符号化部512に出力する。ノン・ベース・ビュー符号化部512は、ノン・ベース・ビューの画像D011と、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013と、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD017と、ベース・ビューの復号画像D019とを取得し、ノン・ベース・ビューの圧縮画像D021を出力する。
最後に、ベース・ビュー書き込み部502およびノン・ベース・ビュー書き込み部514は、それぞれ、ベース・ビューの圧縮画像D003およびノン・ベース・ビューの圧縮画像D021を取得し、NALユニットにおける圧縮画像D007および圧縮画像D023として出力する。
なお、図6に示された画像符号化装置は、図1に示された画像符号化装置150の具体的な例である。図1に示された各構成要素が行う処理は、図6に示された各構成要素によって実行される。
ベース・ビュー符号化部100の処理は、ベース・ビュー符号化部500によって実行される。ベース・ビュー書き込み部102の処理は、ベース・ビュー書き込み部502によって実行される。ノン・ベース・ビュー・MVC拡張パラメータ特定部104の処理は、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部508によって実行される。ベース・ビュー・MVC拡張パラメータ算出部106の処理は、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部506によって実行される。ノン・ベース・ビュー符号化部108の処理は、ノン・ベース・ビュー符号化部512によって実行される。ノン・ベース・ビュー書き込み部110の処理は、ノン・ベース・ビュー書き込み部514によって実行される。
図7は、本発明の実施の形態1における画像復号装置の例を示す図である。この装置が備えるものには、スプリッタ部600、前置NALユニット検索部601、ベース・ビュー復号部602、ベース・ビュー・前置NALユニット・ヘッダ・MVC拡張パラメータ構文解析部603、記憶部604と、スイッチ部605、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部608、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部606、ノン・ベース・ビュー復号部610などがある。
図7に示されるように、スプリッタ部600は、1つ以上のビューの圧縮映像D020を取得し、前置NALユニット検索部601に対するベース・ビューの圧縮画像D003と、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部608に対するノン・ベース・ビューの圧縮画像D021とに分割する。ベース・ビューの圧縮画像D003は、スプリッタ部600からベース・ビュー・前置NALユニット・ヘッダ・MVC拡張パラメータ構文解析部603へも出力される。前置NALユニット検索部601は、ベース・ビュー内で前置NALユニットを検索し、存在するか否かを示す信号D016をスイッチ部605に出力する。前置NALユニット検索部601は、また、ベース・ビューの圧縮画像D004を、ベース・ビュー復号部602へ出力する。
ベース・ビュー復号部602は、ベース・ビューの圧縮画像D004を取得し、ベース・ビューの復号画像D005を出力する。出力されたベース・ビューの復号画像D005は、記憶部604に格納される。
圧縮ベース・ビューに前置NALユニットが存在する場合、ベース・ビュー・前置NALユニット・ヘッダ・MVC拡張パラメータ構文解析部603は、ベース・ビューの圧縮画像D003を読み出し、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD008を出力する。
ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部608は、次に、ノン・ベース・ビューの圧縮画像D021を取得し、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013を、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部606とノン・ベース・ビュー復号部610の両方に出力する。ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部608は、次に、ノン・ベース・ビューの圧縮画像D015を、ノン・ベース・ビュー復号部610に出力する。ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部606は、予め定められた値D009とノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013とを取得し、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータに値を割り当て、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD014を、スイッチ部605に出力する。
前置NALユニット検索部601によって送信された信号D016に基づき、圧縮ベース・ビューに前置NALユニットが存在しているか否かによって、存在していない場合には、スイッチ部605は、算出されたベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD014を、ノン・ベース・ビュー復号部610へ引き渡す。存在している場合には、スイッチ部605は、構文解析されたベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD010を、ノン・ベース・ビュー復号部610に引き渡す。
最後に、ノン・ベース・ビュー復号部610は、ベース・ビューの復号画像D019と、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD010と、構文解析されたノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013と、ノン・ベース・ビューの圧縮画像D015とを取得し、ノン・ベース・ビューの復号画像D025を出力する。
なお、図7に示された画像復号装置は、図3に示された画像復号装置250の具体的な例である。図3に示された各構成要素が行う処理は、図7に示された各構成要素によって実行される。
ベース・ビュー・NALユニット構文解析部200およびベース・ビュー復号部202の処理は、ベース・ビュー復号部602によって実行される。ノン・ベース・ビュー・MVC拡張パラメータ構文解析部204の処理は、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部608によって実行される。前置NALユニット検索部205の処理は、前置NALユニット検索部601によって実行される。ベース・ビュー・MVC拡張パラメータ構文解析部207の処理は、ベース・ビュー・前置NALユニット・ヘッダ・MVC拡張パラメータ構文解析部603によって実行される。ベース・ビュー・MVC拡張パラメータ算出部206の処理は、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部606によって実行される。ノン・ベース・ビュー・NALユニット構文解析部208およびノン・ベース・ビュー復号部210の処理は、ノン・ベース・ビュー復号部610によって実行される。
以上、実施の形態1において示された画像符号化装置150は、前置NALユニットなしで、多視点映像を符号化する。これにより、符号化された多視点映像に含まれる前置NALユニットに起因してベース・ビューを復号できなかった旧来型AVCデコーダであっても、ベース・ビューを復号できる。また、実施の形態1において示された画像復号装置250は、符号化された多視点映像に前置NALユニットがあるか否かに関わらず、符号化された多視点映像に含まれる全てのビューを復号できる。
また、前置NALユニットを省略できるため、符号化効率が向上する。
なお、画像復号装置250は、前置NALユニットがあるか否かにより、ベース・ビューのMVC拡張パラメータを構文解析するか、ベース・ビューのMVC拡張パラメータを算出している。しかし、画像復号装置250は、前置NALユニットがあるか否かに関わらず、ノン・ベース・ビューのMVC拡張パラメータから、ベース・ビューのMVC拡張パラメータを算出することにより、ノン・ベース・ビューの画像を復号してもよい。
この場合、前置NALユニット検索部205、ベース・ビュー・MVC拡張パラメータ構文解析部207、および、それらによって実行される処理が不要になる。画像復号装置250は、そのような構成要素を備えず、また、符号化された多視点映像に前置NALユニットがない場合でも、符号化された多視点映像を復号できる。
また、図2、図4および図5に示された処理の流れは、処理の流れの一例であって、画像符号化装置150および画像復号装置250によって実行される処理の流れは、各図に示された処理の流れに限定されない。例えば、画像符号化装置150および画像復号装置250は、各図に示された処理の順序と異なる順序で各図に示された処理を実行してもよいし、各図に示された処理を並行に実行してもよい。
また、優先ID(priority_id)、ビューID(view_id)およびビュー間予測フラグ(view_inter_flag)に割り当てられる予め定められた値は、実施の形態1に示された値と異なる値であってもよい。
また、ノン・ベース・ビューは、複数あってもよい。
(実施の形態2)
次に、実施の形態2について説明する。
実施の形態2における画像符号化装置150は、図1に示された実施の形態1における画像符号化装置150と同様の構成要素を備える。そして、実施の形態2における画像符号化装置150は、図2に示された実施の形態1における符号化処理と同様の符号化処理を実行する。また、実施の形態2における画像復号装置250は、図3に示された実施の形態1における画像復号装置250と同様の構成要素を備える。そして、実施の形態2における画像復号装置250は、図4に示された実施の形態1における復号処理と同様の復号処理を実行する。
実施の形態2では、実施の形態1と比較して、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出する処理が変更されている。
図8は、本発明の実施の形態2における、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出する処理を示すフローチャートである。これらのパラメータの例としては、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)、ビュー間予測フラグ(inter_view_flag)などがある。
以下、画像符号化装置150のベース・ビュー・MVC拡張パラメータ算出部106が実行する処理として記載するが、画像復号装置250のベース・ビュー・MVC拡張パラメータ算出部206も同様の処理を実行する。
まず、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューのNALユニット・ヘッダから、NALユニット・タイプ(nal_unit_type)の値を読み出す(S400)。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、NALユニット・タイプ(nal_unit_type)の値が5であるときは、非IDRフラグ(non_idr_flag)に0を割り当てる(S402)。
また、ベース・ビュー・MVC拡張パラメータ算出部106は、NALユニット・タイプ(nal_unit_type)の値が0のときは、非IDRフラグ(non_idr_flag)に1を割り当てる(S404)。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューの優先ID(priority_id)に、予め定められた値を割り当てる(S406)。優先ID(priority_id)の値として予め定められた値は0である。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ビューID(view_id)にも、予め定められた値を割り当てる(S408)。ビューID(view_id)の値として予め定められた値も0である。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータから、ノン・ベース・ビューの時間ID(temporal_id)の値を取得する(S410)。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューの時間ID(temporal_id)に、ノン・ベース・ビューの取得された時間ID(temporal_id)の値を割り当てる(S412)。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータから、アンカー・ピクチャ・フラグ(anchor_pic_flag)の値を取得する(S414)。
次に、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューのアンカー・ピクチャ・フラグ(anchor_pic_flag)に、ノン・ベース・ビューの取得されたアンカー・ピクチャ・フラグ(anchor_pic_flag)の値を割り当てる(S416)。
最後に、ベース・ビュー・MVC拡張パラメータ算出部106は、ベース・ビューのビュー間予測フラグ(inter_view_flag)に、予め定められた値を設定する(S418)。ベース・ビューのビュー間予測フラグ(inter_view_flag)として予め定められた値は1である。
図9は、本発明の実施の形態2における画像符号化装置の例を示す図である。この装置が備えるものには、ベース・ビュー符号化部700、ベース・ビュー書き込み部702、ベース・ビュー復号部704、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部706、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部708、記憶部710、ノン・ベース・ビュー符号化部712、ノン・ベース・ビュー書き込み部714などがある。
まず、ベース・ビューの画像D001が、ベース・ビュー符号化部700に入力され、ベース・ビューの圧縮画像D003が、ベース・ビュー書き込み部702およびベース・ビュー復号部704の両方に出力される。ベース・ビュー復号部704は、ベース・ビューの圧縮画像D003を読み取り、ベース・ビューの復号画像D005を、記憶部710に出力する。ベース・ビュー書き込み部702は、ベース・ビューの圧縮画像D003を取得し、NALユニットにおけるベース・ビューの圧縮画像D007を出力し、ベース・ビュー・NALユニットのNALユニット・タイプ(nal_unit_type)の値D018を、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部706へ出力する。
図9に示されるように、ノン・ベース・ビューの画像D011は、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部708とノン・ベース・ビュー符号化部712の両方に入力される。ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部708は、次に、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013を、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部706とノン・ベース・ビュー符号化部712の両方に出力する。ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部706は、予め定められた値D009とノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013と、ベース・ビュー・NALユニットのNALユニット・タイプ(nal_unit_type)の値D018を取得し、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータに値を割り当て、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD017を、ノン・ベース・ビュー符号化部712に出力する。ノン・ベース・ビュー符号化部712は、ノン・ベース・ビューの画像D011と、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013と、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD017と、ベース・ビューの復号画像D019とを取得し、ノン・ベース・ビューの圧縮画像D021を出力する。
最後に、ノン・ベース・ビュー書き込み部714は、ノン・ベース・ビューの圧縮画像D021を取得し、NALユニットにおけるノン・ベース・ビューの圧縮画像D023を出力する。
なお、図9に示された画像符号化装置は、図1に示された画像符号化装置150の具体的な例である。図1に示された各構成要素が行う処理は、図9に示された各構成要素によって実行される。
ベース・ビュー符号化部100の処理は、ベース・ビュー符号化部700によって実行される。ベース・ビュー書き込み部102の処理は、ベース・ビュー書き込み部702によって実行される。ノン・ベース・ビュー・MVC拡張パラメータ特定部104の処理は、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部708によって実行される。ベース・ビュー・MVC拡張パラメータ算出部106の処理は、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部706によって実行される。ノン・ベース・ビュー符号化部108の処理は、ノン・ベース・ビュー符号化部712によって実行される。ノン・ベース・ビュー書き込み部110の処理は、ノン・ベース・ビュー書き込み部714によって実行される。
図10は、本発明の実施の形態2における画像復号装置の例を示す図である。この装置が備えるものには、スプリッタ部800、ベース・ビュー・NALユニット・ヘッダ・パラメータ構文解析部802、前置NALユニット検索部803、ベース・ビュー復号部804、ベース・ビュー・前置NALユニット・ヘッダ・MVC拡張パラメータ構文解析部805、記憶部806、スイッチ部807、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部808、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部810、ノン・ベース・ビュー復号部812などがある。
図10に示されるように、スプリッタ部800は、1つ以上のビューの圧縮映像D020を取得し、ベース・ビュー・NALユニット・ヘッダ・パラメータ構文解析部802に対するベース・ビューの圧縮画像D003と、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部810に対するノン・ベース・ビューの圧縮画像D021とに分割する。
ベース・ビュー・NALユニット・ヘッダ・パラメータ構文解析部802は、ベース・ビューの圧縮画像D003を取得し、ベース・ビュー・NALユニットのNALユニット・タイプ(nal_unit_type)の値D018を、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部808へ出力する。ベース・ビュー・NALユニット・ヘッダ・パラメータ構文解析部802は、ベース・ビューの圧縮画像D004を、前置NALユニット検索部803へ出力する。前置NALユニット検索部803は、ベース・ビュー内で前置NALユニットを検索し、存在するか否かを示す信号D016をスイッチ部807に出力する。前置NALユニット検索部803は、また、ベース・ビューの圧縮画像D006を、ベース・ビュー復号部804へ出力する。
ベース・ビュー復号部804は、ベース・ビューの圧縮画像D006を取得し、ベース・ビューの復号画像D005を出力する。出力されたベース・ビューの復号画像D005は、記憶部806に格納される。圧縮ベース・ビューに前置NALユニットが存在する場合、ベース・ビュー・前置NALユニット・ヘッダ・MVC拡張パラメータ構文解析部805は、ベース・ビューの圧縮画像D003を読み出し、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD008を出力する。
ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部810は、ノン・ベース・ビューの圧縮画像D021を取得し、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013を、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部808とノン・ベース・ビュー復号部812の両方に出力する。ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部810は、次に、ノン・ベース・ビューの圧縮画像D015を、ノン・ベース・ビュー復号部812に出力する。ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部808は、予め定められた値D009と、ベース・ビュー・NALユニットのNALユニット・タイプ(nal_unit_type)の値D018と、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013とを取得し、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータに値を割り当て、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD014を、スイッチ部807に出力する。
前置NALユニット検索部803によって送信された信号D016に基づき、圧縮ベース・ビューに前置NALユニットが存在しているか否かによって、存在していない場合には、スイッチ部807は、算出されたベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD014を、ノン・ベース・ビュー復号部812へ引き渡す。存在している場合には、スイッチ部807は、構文解析されたベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD008を、ノン・ベース・ビュー復号部812に引き渡す。
最後に、ノン・ベース・ビュー復号部812は、ベース・ビューの復号画像D019と、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD010と、構文解析されたノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013と、ノン・ベース・ビューの圧縮画像D015とを取得し、ノン・ベース・ビューの復号画像D025を出力する。
なお、図10に示された画像復号装置は、図3に示された画像復号装置250の具体的な例である。図3に示された各構成要素が行う処理は、図10に示された各構成要素によって実行される。
ベース・ビュー・NALユニット構文解析部200およびベース・ビュー復号部202の処理は、ベース・ビュー復号部804によって実行される。ノン・ベース・ビュー・MVC拡張パラメータ構文解析部204の処理は、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部810によって実行される。前置NALユニット検索部205の処理は、前置NALユニット検索部803によって実行される。ベース・ビュー・MVC拡張パラメータ構文解析部207の処理は、ベース・ビュー・前置NALユニット・ヘッダ・MVC拡張パラメータ構文解析部805によって実行される。ベース・ビュー・MVC拡張パラメータ算出部206の処理は、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部808によって実行される。ノン・ベース・ビュー・NALユニット構文解析部208およびノン・ベース・ビュー復号部210の処理は、ノン・ベース・ビュー復号部812によって実行される。
以上、実施の形態2の画像符号化装置150は、実施の形態1と同様に、前置NALユニットなしで、多視点映像を符号化する。また、実施の形態2の画像復号装置250は、実施の形態1と同様に、符号化された多視点映像に前置NALユニットがあるか否かに関わらず、符号化された多視点映像を復号できる。さらに、実施の形態2における画像符号化装置150および画像復号装置250は、ベース・ビューのMVC拡張パラメータを算出する時、ベース・ビューのNALユニット・タイプを用いることで、より精度の高いMVC拡張パラメータを算出できる。
なお、実施の形態1と同様に、図8に示された処理の流れは、処理の流れの一例であって、画像符号化装置150および画像復号装置250によって実行される処理の流れは、図8に示された処理の流れに限定されない。例えば、画像符号化装置150および画像復号装置250は、図8に示された処理の順序と異なる順序で図8に示された処理を実行してもよいし、図8に示された処理を並行に実行してもよい。
また、優先ID(priority_id)、ビューID(view_id)およびビュー間予測フラグ(view_inter_flag)に割り当てられる予め定められた値は、実施の形態2に示された値と異なる値であってもよい。
また、実施の形態1と同様に、ノン・ベース・ビューは、複数あってもよい。
(実施の形態3)
次に、実施の形態3について説明する。
図11は、本発明の実施の形態3における画像符号化装置の構成要素を示す構成図である。
図11に示された画像符号化装置950は、ベース・ビュー・MVC拡張パラメータ特定部900、ノン・ベース・ビュー・MVC拡張パラメータ特定部902、前置NALユニット書き込み切り替え部904、前置NALユニット書き込み部906、ベース・ビュー符号化部908、ベース・ビュー書き込み部910、ノン・ベース・ビュー符号化部912およびノン・ベース・ビュー書き込み部914を備える。各処理部は、次に示される各処理を実行する。
図12は、本発明の実施の形態3における符号化処理を示すフローチャートである。
まず、ベース・ビュー・MVC拡張パラメータ特定部900は、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを特定する(S900)。これらのパラメータの例としては、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)、ビュー間予測フラグ(inter_view_flag)などがある。
次に、ノン・ベース・ビュー・MVC拡張パラメータ特定部902は、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを特定する(S902)。これらのパラメータの例としては、非IDRフラグ(non_idr_flag)、優先ID(priority_id)、ビューID(view_id)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)、ビュー間予測フラグ(inter_view_flag)などがある。
次に、前置NALユニット書き込み切り替え部904は、前置NALユニットにベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを書き込むか否かを切り替える(S904)。例えば、前置NALユニット書き込み切り替え部904は、予め設定された情報に基づいて、前置NALユニットにベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを書き込むか否かを切り替える。
ここで、前置NALユニット書き込み切り替え部904が、前置NALユニットにベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを書き込むように切り替えた場合(S904でYes)、前置NALユニット書き込み部906は、前置NALユニットにベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを書き込む(S906)。
一方、前置NALユニット書き込み切り替え部904が、前置NALユニットにベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを書き込まないように切り替えた場合(S904でNo)、前置NALユニット書き込み部906は、前置NALユニットにベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを書き込まない。つまり、前置NALユニットは、生成されない。
次に、ベース・ビュー符号化部908は、ベース・ビューの画像を符号化する(S908)。ベース・ビューの画像は、多視点映像符号化規格を用いて符号化される。多視点映像符号化規格を用いて符号化されるベース・ビューの画像は、Advanced Video Coding規格によって復号可能である。
次に、ベース・ビュー書き込み部910は、符号化されたベース・ビュー・コンポーネントをNALユニットに書き込む(S910)。
次に、ノン・ベース・ビュー符号化部912は、ベース・ビューおよびノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを用いて、ノン・ベース・ビューの画像を符号化する(S912)。
最後に、ノン・ベース・ビュー書き込み部914は、ノン・ベース・ビュー・コンポーネントをNALユニットに書き込む(S914)。
図13は、本発明の実施の形態3における画像符号化装置の例を示す図である。この装置が備えるものには、ベース・ビュー符号化部500、ベース・ビュー書き込み部502、ベース・ビュー復号部504、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部1015、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部508、記憶部510、ノン・ベース・ビュー符号化部512、ノン・ベース・ビュー書き込み部514、スイッチ部1016および前置NALユニット書き込み部1017などがある。
図6に示された例と比較して、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部506の代わりに、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部1015が追加されている。また、スイッチ部1016および前置NALユニット書き込み部1017が追加されている。
ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部1015は、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD017に値を設定し、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD017を、ノン・ベース・ビュー符号化部512に出力する。
ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部508は、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013に値を設定し、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013を、ノン・ベース・ビュー符号化部512に出力する。
ベース・ビューの画像D001は、ベース・ビュー符号化部500に入力され、ベース・ビューの圧縮画像D003が、ベース・ビュー書き込み部502とベース・ビュー復号部504の両方に出力される。ベース・ビュー復号部504は、ベース・ビューの圧縮画像D003を読み取り、ベース・ビューの復号画像D005を、記憶部510に出力する。
ノン・ベース・ビューの画像D011は、ノン・ベース・ビュー符号化部512に入力される。ノン・ベース・ビュー符号化部512は、ノン・ベース・ビューの画像D011と、ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD013と、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD017と、ベース・ビューの復号画像D019とを取得し、ノン・ベース・ビューの圧縮画像D021を出力する。
最後に、ベース・ビュー書き込み部502およびノン・ベース・ビュー書き込み部514は、それぞれ、ベース・ビューの圧縮画像D003およびノン・ベース・ビューの圧縮画像D021を取得し、NALユニットにおけるベース・ビューの圧縮画像D007およびノン・ベース・ビューの圧縮画像D023を出力する。
これにより、前置NALユニットが含まれない、1つ以上のビューの圧縮映像のストリームが生成される。
また、前置NALユニットが含まれるように設定が切り替えられた場合、スイッチ部1016は、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部1015から、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータD017を、前置NALユニット書き込み部1017に出力する。前置NALユニット書き込み部1017は、ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを前置NALユニットに書き込み、前置NALユニットD022を出力する。
これにより、前置NALユニットが含まれる、1つ以上のビューの圧縮映像のストリームが生成される。
なお、図13に示された画像符号化装置は、図11に示された画像符号化装置950の具体的な例である。図11に示された各構成要素が行う処理は、図13に示された各構成要素によって実行される。
例えば、ベース・ビュー・MVC拡張パラメータ特定部900の処理は、ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部1015によって実行される。ノン・ベース・ビュー・MVC拡張パラメータ特定部902の処理は、ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部508によって実行される。前置NALユニット書き込み切り替え部904の処理は、スイッチ部1016によって実行される。前置NALユニット書き込み部906の処理は、前置NALユニット書き込み部1017によって実行される。ベース・ビュー符号化部908の処理は、ベース・ビュー符号化部500によって実行される。ベース・ビュー書き込み部910の処理は、ベース・ビュー書き込み部502によって実行される。ノン・ベース・ビュー符号化部912の処理は、ノン・ベース・ビュー符号化部512によって実行される。ノン・ベース・ビュー書き込み部110の処理は、ノン・ベース・ビュー書き込み部514によって実行される。
以上、実施の形態3の画像符号化装置950は、多視点映像を符号化する時、前置NALユニットの有無を切り替えることができる。さらに、実施の形態3における画像符号化装置950は、ベース・ビューおよびノン・ベース・ビューのMVC拡張パラメータを、それぞれ特定する。つまり、画像符号化装置950は、ベース・ビューのMVC拡張パラメータを算出しなくてよい。
また、画像符号化装置950は、ノン・ベース・ビューのMVC拡張パラメータからベース・ビューのMVC拡張パラメータを特定しなくてもよい。画像符号化装置950は、独立して特定されたベース・ビューのMVC拡張パラメータを、ノン・ベース・ビューの符号化に用いることができる。
そして、実施の形態1および実施の形態2と同様に、旧来型AVCデコーダであっても、符号化された多視点映像に含まれるベース・ビューを復号できる。また、実施の形態1および実施の形態2における画像復号装置250は、画像符号化装置950によって符号化された多視点映像に含まれる全てのビューを復号できる。
なお、画像符号化装置950は、前置NALユニットを書き込むか否かを切り替えている。しかし、画像符号化装置950は、前置NALユニットを書き込まないことを前提としてもよい。この場合、前置NALユニット書き込み切り替え部904、前置NALユニット書き込み部906、および、それらによって実行される処理が不要になる。
また、実施の形態1および実施の形態2と同様に、図12に示された処理の流れは、処理の流れの一例であって、画像符号化装置950によって実行される処理の流れは、図12に示された処理の流れに限定されない。例えば、画像符号化装置950は、図12に示された処理の順序と異なる順序で図12に示された処理を実行してもよいし、図12に示された処理を並行に実行してもよい。
特に、ベース・ビューのMVC拡張パラメータを特定する処理(S900)とノン・ベース・ビューのMVC拡張パラメータを特定する処理(S902)とは、順序が逆であってもよい。そして、それらのMVC拡張パラメータを特定する処理(S900、S902)は、ノン・ベース・ビューの画像を符号化する処理(S912)、および、それぞれMVC拡張パラメータが書き込まれる処理(S906、S914)までに実行されればよい。
また、実施の形態1および実施の形態2と同様に、ベース・ビューのMVC拡張パラメータを特定する時(S900)、優先ID(priority_id)、ビューID(view_id)、ビュー間予測フラグ(inter_view_flag)には、それぞれ、予め定められた値が割り当てられてもよい。例えば、優先ID(priority_id)には、0が割り当てられ、ビュー間予測フラグ(inter_view_flag)には、0が割り当てられ、ビュー間予測フラグ(inter_view_flag)には、1が割り当てられる。
そして、ベース・ビューおよびノン・ベース・ビューのMVC拡張パラメータを特定する時(S900、S902)、非IDRフラグ(non_idr_flag)、時間ID(temporal_id)、アンカー・ピクチャ・フラグ(anchor_pic_flag)は、それぞれ、ベース・ビュー側とノン・ベース・ビュー側とで同じ値になるように、割り当てられてもよい。このうち、ベース・ビューの非IDRフラグ(non_idr_flag)は、実施の形態2と同様に、NALユニット・タイプに基づいて、特定されてもよい。
また、実施の形態1および実施の形態2と同様に、ノン・ベース・ビューは、複数あってもよい。
以上のように、実施の形態1、実施の形態2および実施の形態3において示された画像符号化装置および画像復号装置は、前置NALユニットを用いない場合でも、多視点映像を符号化し、多視点映像を復号できる。これにより、前置NALユニットに起因してベース・ビューを復号できなかった旧来型AVCデコーダであっても、ベース・ビューを復号できる。また、旧来型AVCエンコーダにより生成された既存のビットストリームを多視点映像のベース・ビューとして利用することも可能である。
例えば、旧来型AVCエンコーダにより既に符号化された2Dのアニメーション映像がBD(Blu−ray Disc)に書き込まれている場合がある。そして、BDに書き込まれている2Dのアニメーション映像に視差を付加した映像が、符号化され、インターネットを介して配信されてもよい。この場合、BDに書き込まれている2Dのアニメーション映像がベース・ビューとして、2Dのアニメーション映像に視差を付加した映像がノン・ベース・ビューとして、多視点映像が形成される。
各実施の形態における画像復号装置は、このように形成された多視点映像を復号できる。そして、復号された多視点映像は、3Dのアニメーション映像として再生される。このように、ベース・ビューのストリームに前置NALユニットを加える必要がないため、既存の資産の再利用が容易である。そして、単一のビューを前提として生成されたストリームに、別のビューを追加することも容易である。そのため、例えば、符号化された別のビューが、別の記録媒体で提供されてもよい。
図14は、各実施の形態における符号化ストリームのデータ構造の例を示す図である。各実施の形態における画像符号化装置は、多視点映像を符号化することにより、図14に示されるような、前置NALユニットのないストリームを生成することができる。そして、各実施の形態における画像復号装置は、図14に示されるような、前置NALユニットのないストリームから、ノン・ベース・ビューに含まれるMVC拡張パラメータ等を用いて、多視点映像を復号することができる。
さらに、前置NALユニットなしでベース・ビューが既に符号化されている場合、各実施の形態における画像符号化装置は、ノン・ベース・ビューのみを符号化してもよい。各実施の形態における画像復号装置は、ノン・ベース・ビューのMVC拡張パラメータからベース・ビューのMVC拡張パラメータを算出することにより、前置NALユニットなしで符号化されたベース・ビュー、および、新たに符号化されたノン・ベース・ビューを多視点映像として復号できる。
(実施の形態4)
上記各実施の形態で示した画像符号化方法または画像復号方法の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ICカード、半導体メモリ等、プログラムを記録できるものであればよい。
さらにここで、上記各実施の形態で示した画像符号化方法および画像復号方法の応用例とそれを用いたシステムを説明する。
図15は、コンテンツ配信サービスを実現するコンテンツ供給システムex100の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex106〜ex110が設置されている。
このコンテンツ供給システムex100は、インターネットex101にインターネットサービスプロバイダex102および電話網ex104、および、基地局ex106〜ex110を介して、コンピュータex111、PDA(Personal Digital Assistant)ex112、カメラex113、携帯電話ex114、ゲーム機ex115などの各機器が接続される。
しかし、コンテンツ供給システムex100は図15のような構成に限定されず、いずれかの要素を組み合わせて接続するようにしてもよい。また、固定無線局である基地局ex106〜ex110を介さずに、各機器が電話網ex104に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
カメラex113はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラex116はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ex114は、GSM(Global System for Mobile Communications)方式、CDMA(Code Division Multiple Access)方式、W−CDMA(Wideband−Code Division Multiple Access)方式、もしくはLTE(Long Term Evolution)方式、HSPA(High Speed Packet Access)の携帯電話機、または、PHS(Personal Handyphone System)等であり、いずれでも構わない。
コンテンツ供給システムex100では、カメラex113等が基地局ex109、電話網ex104を通じてストリーミングサーバex103に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラex113を用いて撮影するコンテンツ(例えば、音楽ライブの映像等)に対して上記各実施の形態で説明したように符号化処理を行い、ストリーミングサーバex103に送信する。一方、ストリーミングサーバex103は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号することが可能な、コンピュータex111、PDAex112、カメラex113、携帯電話ex114、ゲーム機ex115等がある。配信されたデータを受信した各機器では、受信したデータを復号処理して再生する。
なお、撮影したデータの符号化処理はカメラex113で行っても、データの送信処理をするストリーミングサーバex103で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号処理はクライアントで行っても、ストリーミングサーバex103で行ってもよいし、互いに分担して行ってもよい。また、カメラex113に限らず、カメラex116で撮影した静止画像および/または動画像データを、コンピュータex111を介してストリーミングサーバex103に送信してもよい。この場合の符号化処理はカメラex116、コンピュータex111、ストリーミングサーバex103のいずれで行ってもよいし、互いに分担して行ってもよい。
また、これら符号化処理および復号処理は、一般的にコンピュータex111および各機器が有するLSI(Large Scale Integration)ex500において処理する。LSIex500は、ワンチップであっても複数チップからなる構成であってもよい。なお、画像符号化用および画像復号用のソフトウェアをコンピュータex111等で読み取り可能な何らかの記録メディア(CD−ROM、フレキシブルディスク、ハードディスクなど)に組み込み、そのソフトウェアを用いて符号化処理および復号処理を行ってもよい。さらに、携帯電話ex114がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ex114が有するLSIex500で符号化処理されたデータである。
また、ストリーミングサーバex103は複数のサーバまたは複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
以上のようにして、コンテンツ供給システムex100では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムex100では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号し、再生することができ、特別な権利または設備を有さないユーザでも個人放送を実現できる。
このコンテンツ供給システムを構成する各機器の符号化、復号には上記各実施の形態で示した画像符号化方法あるいは画像復号方法を用いるようにすればよい。
その一例として携帯電話ex114について説明する。
図16は、上記実施の形態で説明した画像符号化方法と画像復号方法を用いた携帯電話ex114を示す図である。携帯電話ex114は、基地局ex110との間で電波を送受信するためのアンテナex601、CCDカメラ等の映像、静止画を撮ることが可能なカメラ部ex603、カメラ部ex603で撮影した映像、アンテナex601で受信した映像等が復号されたデータを表示する液晶ディスプレイ等の表示部ex602、操作キーex604群から構成される本体部、音声出力をするためのスピーカ等の音声出力部ex608、音声入力をするためのマイク等の音声入力部ex605、撮影した動画もしくは静止画のデータ、受信したメールのデータ、動画のデータもしくは静止画のデータ等、符号化されたデータまたは復号されたデータを保存するための記録メディアex607、携帯電話ex114に記録メディアex607を装着可能とするためのスロット部ex606を有している。記録メディアex607はSDカード等のプラスチックケース内に電気的に書換えおよび消去が可能な不揮発性メモリであるEEPROMの一種であるフラッシュメモリ素子を格納したものである。
さらに、携帯電話ex114について図17を用いて説明する。携帯電話ex114は表示部ex602および操作キーex604を備えた本体部の各部を統括的に制御するようになされた主制御部ex711に対して、電源回路部ex710、操作入力制御部ex704、画像符号化部ex712、カメラインターフェース部ex703、LCD(Liquid Crystal Display)制御部ex702、画像復号部ex709、多重分離部ex708、記録再生部ex707、変復調回路部ex706および音声処理部ex705が同期バスex713を介して互いに接続されている。
電源回路部ex710は、ユーザの操作により終話および電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することによりカメラ付デジタル携帯電話ex114を動作可能な状態に起動する。
携帯電話ex114は、CPU、ROMおよびRAM等でなる主制御部ex711の制御に基づいて、音声通話モード時に音声入力部ex605で集音した音声信号を音声処理部ex705によってデジタル音声データに変換し、これを変復調回路部ex706でスペクトラム拡散処理し、送受信回路部ex701でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナex601を介して送信する。また携帯電話ex114は、音声通話モード時にアンテナex601で受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変復調回路部ex706でスペクトラム逆拡散処理し、音声処理部ex705によってアナログ音声データに変換した後、音声出力部ex608を介してこれを出力する。
さらに、データ通信モード時に電子メールを送信する場合、本体部の操作キーex604の操作によって入力された電子メールのテキストデータは操作入力制御部ex704を介して主制御部ex711に送出される。主制御部ex711は、テキストデータを変復調回路部ex706でスペクトラム拡散処理し、送受信回路部ex701でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナex601を介して基地局ex110へ送信する。
データ通信モード時に画像データを送信する場合、カメラ部ex603で撮像された画像データを、カメラインターフェース部ex703を介して画像符号化部ex712に供給する。また、画像データを送信しない場合には、カメラ部ex603で撮像した画像データをカメラインターフェース部ex703およびLCD制御部ex702を介して表示部ex602に直接表示することも可能である。
画像符号化部ex712は、本願発明で説明した画像符号化装置を備えた構成であり、カメラ部ex603から供給された画像データを上記実施の形態で示した画像符号化装置に用いた画像符号化方法によって圧縮符号化することにより符号化画像データに変換し、これを多重分離部ex708に送出する。また、このとき同時に携帯電話ex114は、カメラ部ex603で撮像中に音声入力部ex605で集音した音声を、音声処理部ex705を介してデジタルの音声データとして多重分離部ex708に送出する。
多重分離部ex708は、画像符号化部ex712から供給された符号化画像データと音声処理部ex705から供給された音声データとを所定の方式で多重化し、その結果得られる多重化データを変復調回路部ex706でスペクトラム拡散処理し、送受信回路部ex701でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナex601を介して送信する。
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、アンテナex601を介して基地局ex110から受信した受信データを変復調回路部ex706でスペクトラム逆拡散処理し、その結果得られる多重化データを多重分離部ex708に送出する。
また、アンテナex601を介して受信された多重化データを復号するには、多重分離部ex708は、多重化データを分離することにより画像データのビットストリームと音声データのビットストリームとに分け、同期バスex713を介して当該符号化画像データを画像復号部ex709に供給すると共に当該音声データを音声処理部ex705に供給する。
次に、画像復号部ex709は、本願で説明した画像復号装置を備えた構成であり、画像データのビットストリームを上記実施の形態で示した画像符号化方法に対応した画像復号方法で復号することにより再生動画像データを生成し、これを、LCD制御部ex702を介して表示部ex602に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる動画データが表示される。このとき同時に音声処理部ex705は、音声データをアナログ音声データに変換した後、これを音声出力部ex608に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる音声データが再生される。
なお、上記システムの例に限られず、最近は衛星、地上波によるデジタル放送が話題となっており、図18に示すようにデジタル放送用システムにも上記実施の形態の少なくとも画像符号化装置または画像復号装置を組み込むことができる。具体的には、放送局ex201では音声データ、映像データまたはそれらのデータが多重化されたビットストリームが電波を介して通信または放送衛星ex202に伝送される。これを受けた放送衛星ex202は、放送用の電波を発信し、衛星放送受信設備をもつ家庭のアンテナex204はこの電波を受信し、テレビ(受信機)ex300またはセットトップボックス(STB)ex217などの装置はビットストリームを復号してこれを再生する。また、記録媒体であるCDおよびDVD等の記録メディアex215、ex216に記録した画像データと、音声データが多重化されたビットストリームを読み取り、復号するリーダ/レコーダex218にも上記実施の形態で示した画像復号装置を実装することが可能である。この場合、再生された映像信号はモニタex219に表示される。また、ケーブルテレビ用のケーブルex203または衛星/地上波放送のアンテナex204に接続されたセットトップボックスex217内に画像復号装置を実装し、これをテレビのモニタex219で再生する構成も考えられる。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでも良い。また、アンテナex205を有する車ex210で、衛星ex202または基地局等から信号を受信し、車ex210が有するカーナビゲーションex211等の表示装置に動画を再生することも可能である。
また、DVD、BD等の記録メディアex215に記録した音声データ、映像データまたはそれらのデータが多重化された符号化ビットストリームを読み取り復号する、または、記録メディアex215に、音声データ、映像データまたはそれらのデータを符号化し、多重化データとして記録するリーダ/レコーダex218にも上記各実施の形態で示した画像復号装置または画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタex219に表示される。また、符号化ビットストリームが記録された記録メディアex215により、他の装置およびシステム等は、映像信号を再生することができる。例えば、他の再生装置ex212は、符号化ビットストリームがコピーされた記録メディアex214を用いて、モニタex213に映像信号を再生することができる。
また、ケーブルテレビ用のケーブルex203または衛星/地上波放送のアンテナex204に接続されたセットトップボックスex217内に画像復号装置を実装し、これをテレビのモニタex219で表示してもよい。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでもよい。
図19は、上記各実施の形態で説明した画像復号方法および画像符号化方法を用いたテレビ(受信機)ex300を示す図である。テレビex300は、上記放送を受信するアンテナex204またはケーブルex203等を介して映像情報のビットストリームを取得、または、出力するチューナex301と、受信した符号化データを復調する、または、生成された符号化データを外部に送信するために変調する変調/復調部ex302と、復調した映像データと音声データとを分離する、または、符号化された映像データと音声データとを多重化する多重/分離部ex303を備える。また、テレビex300は、音声データ、映像データそれぞれを復号する、または、それぞれの情報を符号化する音声信号処理部ex304、映像信号処理部ex305を有する信号処理部ex306と、復号された音声信号を出力するスピーカex307、復号された映像信号を表示するディスプレイ等の表示部ex308を有する出力部ex309とを有する。さらに、テレビex300は、ユーザ操作の入力を受け付ける操作入力部ex312等を有するインターフェース部ex317を有する。さらに、テレビex300は、各部を統括的に制御する制御部ex310、各部に電力を供給する電源回路部ex311を有する。インターフェース部ex317は、操作入力部ex312以外に、リーダ/レコーダex218等の外部機器と接続されるブリッジex313、SDカード等の記録メディアex216を装着可能とするためのスロット部ex314、ハードディスク等の外部記録メディアと接続するためのドライバex315、電話網と接続するモデムex316等を有していてもよい。なお記録メディアex216は、格納する不揮発性/揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビex300の各部は同期バスを介して互いに接続されている。
まず、テレビex300がアンテナex204等により外部から取得したデータを復号し、再生する構成について説明する。テレビex300は、リモートコントローラex220等からのユーザ操作を受け、CPU等を有する制御部ex310の制御に基づいて、変調/復調部ex302で復調した映像データ、音声データを多重/分離部ex303で分離する。さらにテレビex300は、分離した音声データを音声信号処理部ex304で復号し、分離した映像データを映像信号処理部ex305で上記各実施の形態で説明した画像復号方法を用いて復号する。復号した音声信号、映像信号は、それぞれ出力部ex309から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファex318、ex319等に一旦これらの信号を蓄積するとよい。また、テレビex300は、放送等からではなく、磁気/光ディスク、SDカード等の記録メディアex215、ex216から符号化された符号化ビットストリームを読み出してもよい。次に、テレビex300が音声信号および映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビex300は、リモートコントローラex220等からのユーザ操作を受け、制御部ex310の制御に基づいて、音声信号処理部ex304で音声信号を符号化し、映像信号処理部ex305で映像信号を上記各実施の形態で説明した画像符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重/分離部ex303で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファex320、ex321等に一旦これらの信号を蓄積するとよい。なお、バッファex318〜ex321は図示しているように複数備えていてもよいし、一つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調/復調部ex302と多重/分離部ex303との間等でもシステムのオーバフローおよびアンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
また、テレビex300は、放送および記録メディア等から音声データおよび映像データを取得する以外に、マイクおよびカメラのAV入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビex300は、上記の符号化処理、多重化、および、外部出力ができる構成として説明したが、これらのすべての処理を行うことはできず、上記受信、復号処理、および、外部出力のうちいずれかのみが可能な構成であってもよい。
また、リーダ/レコーダex218で記録メディアから符号化ビットストリームを読み出す、または、書き込む場合には、上記復号処理または符号化処理はテレビex300およびリーダ/レコーダex218のうちいずれかで行ってもよいし、テレビex300とリーダ/レコーダex218とが互いに分担して行ってもよい。
一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生/記録部ex400の構成を図20に示す。情報再生/記録部ex400は、以下に説明する要素ex401〜ex407を備える。光ヘッドex401は、光ディスクである記録メディアex215の記録面にレーザスポットを照射して情報を書き込み、記録メディアex215の記録面からの反射光を検出して情報を読み込む。変調記録部ex402は、光ヘッドex401に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ex403は、光ヘッドex401に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアex215に記録された信号成分を分離して復調し、必要な情報を再生する。バッファex404は、記録メディアex215に記録するための情報および記録メディアex215から再生した情報を一時的に保持する。ディスクモータex405は記録メディアex215を回転させる。サーボ制御部ex406は、ディスクモータex405の回転駆動を制御しながら光ヘッドex401を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ex407は、情報再生/記録部ex400全体の制御を行う。上記の読み出しおよび書き込みの処理は、システム制御部ex407が、バッファex404に保持された各種情報を利用し、また必要に応じて新たな情報の生成および追加を行うと共に、変調記録部ex402、再生復調部ex403およびサーボ制御部ex406を協調動作させながら、光ヘッドex401を通して、情報の記録再生を行うことにより実現される。システム制御部ex407は、例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
以上では、光ヘッドex401はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
図21に光ディスクである記録メディアex215の模式図を示す。記録メディアex215の記録面には案内溝(グルーブ)がスパイラル状に形成され、情報トラックex230には、あらかじめグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックex231の位置を特定するための情報を含み、記録および再生を行う装置は、情報トラックex230を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアex215は、データ記録領域ex233、内周領域ex232、外周領域ex234を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ex233であり、データ記録領域ex233の内周または外周に配置されている内周領域ex232と外周領域ex234は、ユーザデータの記録以外の特定用途に用いられる。情報再生/記録部ex400は、このような記録メディアex215のデータ記録領域ex233に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した符号化データの読み書きを行う。
以上では、1層のDVD、BD等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりするなど、多次元的な記録/再生を行う構造の光ディスクであってもよい。
また、デジタル放送用システムex200において、アンテナex205を有する車ex210で衛星ex202等からデータを受信し、車ex210が有するカーナビゲーションex211等の表示装置に動画を再生することも可能である。なお、カーナビゲーションex211の構成は例えば図19に示す構成のうち、GPS受信部を加えた構成が考えられ、同様なことがコンピュータex111および携帯電話ex114等でも考えられる。また、上記携帯電話ex114等の端末は、テレビex300と同様に、符号化器および復号器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号器のみの受信端末という3通りの実装形式が考えられる。
このように、上記各実施の形態で示した画像符号化方法あるいは画像復号方法を上述したいずれの機器およびシステムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。
また、本発明は、上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
(実施の形態5)
上記各実施の形態で示した画像符号化方法および装置、画像復号方法および装置は、典型的には集積回路であるLSIで実現される。一例として、図22に1チップ化されたLSIex500の構成を示す。LSIex500は、以下に説明する要素ex501〜ex509を備え、各要素はバスex510を介して接続している。電源回路部ex505は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
例えば符号化処理を行う場合には、LSIex500は、CPUex502、メモリコントローラex503およびストリームコントローラex504等を有する制御部ex501の制御に基づいて、AV I/Oex509によりマイクex117およびカメラex113等からAV信号の入力を受け付ける。入力されたAV信号は、一旦SDRAM等の外部のメモリex511に蓄積される。制御部ex501の制御に基づいて、蓄積したデータは、処理量および処理速度に応じて適宜複数回に分けるなどされ、信号処理部ex507に送られる。信号処理部ex507は、音声信号の符号化および/または映像信号の符号化を行う。ここで映像信号の符号化処理は、上記各実施の形態で説明した符号化処理である。信号処理部ex507ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームI/Oex506から外部に出力する。この出力されたビットストリームは、基地局ex107に向けて送信されたり、または、記録メディアex215に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファex508にデータを蓄積するとよい。
また、例えば復号処理を行う場合には、LSIex500は、制御部ex501の制御に基づいて、ストリームI/Oex506によって基地局ex107を介して得た符号化データ、または、記録メディアex215から読み出して得た符号化データを一旦メモリex511等に蓄積する。制御部ex501の制御に基づいて、蓄積したデータは、処理量および処理速度に応じて適宜複数回に分けるなどされ信号処理部ex507に送られる。信号処理部ex507は、音声データの復号および/または映像データの復号を行う。ここで映像信号の復号処理は、上記各実施の形態で説明した復号処理である。さらに、場合により復号された音声信号と復号された映像信号を同期して再生できるようそれぞれの信号を一旦バッファex508等に蓄積するとよい。復号された出力信号は、メモリex511等を適宜介しながら、携帯電話ex114、ゲーム機ex115およびテレビex300等の各出力部から出力される。
なお、上記では、メモリex511がLSIex500の外部の構成として説明したが、LSIex500の内部に含まれる構成であってもよい。バッファex508も一つに限ったものではなく、複数のバッファを備えていてもよい。また、LSIex500は1チップ化されてもよいし、複数チップ化されてもよい。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路または汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA、または、LSI内部の回路セルの接続および設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
さらには、半導体技術の進歩または派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
以上、本発明に係る画像符号化方法、画像符号化装置、画像復号方法および画像復号装置について、実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を当該実施の形態に施した形態、および、異なる実施の形態における構成要素およびステップ等を組み合わせて構築される別の形態も、本発明の範囲内に含まれる。
本発明は、画像符号化方法、画像復号方法、画像符号化装置および画像復号装置として、例えば、画像の記録装置および再生装置等に利用することができる。
100、500、700、908 ベース・ビュー符号化部
102、502、702、910 ベース・ビュー書き込み部
104、902 ノン・ベース・ビュー・MVC拡張パラメータ特定部
106、206 ベース・ビュー・MVC拡張パラメータ算出部
108、512、712、912 ノン・ベース・ビュー符号化部
110、514、714、914 ノン・ベース・ビュー書き込み部
150、950 画像符号化装置
200 ベース・ビュー・NALユニット構文解析部
202、504、602、704、804 ベース・ビュー復号部
204 ノン・ベース・ビュー・MVC拡張パラメータ構文解析部
205、601、803 前置NALユニット検索部
207 ベース・ビュー・MVC拡張パラメータ構文解析部
208 ノン・ベース・ビュー・NALユニット構文解析部
210、610、812 ノン・ベース・ビュー復号部
250 画像復号装置
506、606、706、808 ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ算出部
508、708 ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部
510、604、710、806 記憶部
600、800 スプリッタ部
603、805 ベース・ビュー・前置NALユニット・ヘッダ・MVC拡張パラメータ構文解析部
605、807、1016 スイッチ部
608、810 ノン・ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ構文解析部
802 ベース・ビュー・NALユニット・ヘッダ・パラメータ構文解析部
900 ベース・ビュー・MVC拡張パラメータ特定部
904 前置NALユニット書き込み切り替え部
906、1017 前置NALユニット書き込み部
1015 ベース・ビュー・NALユニット・ヘッダ・MVC拡張パラメータ特定部
D001、D011 画像
D003、D004、D006、D007、D015、D021、D023 圧縮画像
D005、D019、D025 復号画像
D008、D010、D013、D014、D017 NALユニット・ヘッダ・MVC拡張パラメータ
D009、D018 値
D016 信号
D020 圧縮映像
D022 前置NALユニット
ex100 コンテンツ供給システム
ex101 インターネット
ex102 インターネットサービスプロバイダ
ex103 ストリーミングサーバ
ex104 電話網
ex106、ex107、ex108、ex109、ex110 基地局
ex111 コンピュータ
ex112 PDA
ex113、ex116 カメラ
ex114 カメラ付デジタル携帯電話(携帯電話)
ex115 ゲーム機
ex117 マイク
ex200 デジタル放送用システム
ex201 放送局
ex202 放送衛星(衛星)
ex203 ケーブル
ex204、ex205、ex601 アンテナ
ex210 車
ex211 カーナビゲーション(カーナビ)
ex212 再生装置
ex213、ex219 モニタ
ex214、ex215、ex216、ex607 記録メディア
ex217 セットトップボックス(STB)
ex218 リーダ/レコーダ
ex220 リモートコントローラ
ex230 情報トラック
ex231 記録ブロック
ex232 内周領域
ex233 データ記録領域
ex234 外周領域
ex300 テレビ
ex301 チューナ
ex302 変調/復調部
ex303 多重/分離部
ex304 音声信号処理部
ex305 映像信号処理部
ex306、ex507 信号処理部
ex307 スピーカ
ex308、ex602 表示部
ex309 出力部
ex310、ex501 制御部
ex311、ex505、ex710 電源回路部
ex312 操作入力部
ex313 ブリッジ
ex314、ex606 スロット部
ex315 ドライバ
ex316 モデム
ex317 インターフェース部
ex318、ex319、ex320、ex321、ex404、ex508 バッファ
ex400 情報再生/記録部
ex401 光ヘッド
ex402 変調記録部
ex403 再生復調部
ex405 ディスクモータ
ex406 サーボ制御部
ex407 システム制御部
ex500 LSI
ex502 CPU
ex503 メモリコントローラ
ex504 ストリームコントローラ
ex506 ストリームI/O
ex509 AV I/O
ex510 バス
ex511 メモリ
ex603 カメラ部
ex604 操作キー
ex605 音声入力部
ex608 音声出力部
ex701 送受信回路部
ex702 LCD制御部
ex703 カメラインターフェース部(カメラI/F部)
ex704 操作入力制御部
ex705 音声処理部
ex706 変復調回路部
ex707 記録再生部
ex708 多重分離部
ex709 画像復号部
ex711 主制御部
ex712 画像符号化部
ex713 同期バス

Claims (2)

  1. 多視点映像を復号する画像復号方法であって、
    ベース・ビューのビュー・コンポーネントに含まれる画像を含むNALユニットを構文解析し、
    前記ベース・ビューの前記ビュー・コンポーネントに含まれる前記画像を復号し、
    ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを構文解析し、
    前記ベース・ビューの前記ビュー・コンポーネントに前置NALユニットが存在しているか否かを検索し、
    前記ベース・ビューの前記ビュー・コンポーネントに前記前置NALユニットが存在していない場合、前記ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出し、
    前記ベース・ビューの前記ビュー・コンポーネントに前記前置NALユニットが存在している場合、前記前置NALユニットから、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを構文解析し、
    前記ノン・ベース・ビューのビュー・コンポーネントに含まれる画像を含むNALユニットを構文解析し、
    算出または構文解析された前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、構文解析された前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを用いて、前記ノン・ベース・ビューの前記ビュー・コンポーネントに含まれる前記画像を復号し、
    前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータは、それぞれ、ビュー間予測フラグ(inter_view_flag)を含む
    画像復号方法。
  2. 多視点映像を復号する画像復号装置であって、
    ベース・ビューのビュー・コンポーネントに含まれる画像を含むNALユニットを構文解析するベース・ビュー・NALユニット構文解析部と、
    前記ベース・ビューの前記ビュー・コンポーネントに含まれる前記画像を復号するベース・ビュー復号部と、
    ノン・ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを構文解析するノン・ベース・ビュー・MVC拡張パラメータ構文解析部と、
    前記ベース・ビューの前記ビュー・コンポーネントに前置NALユニットが存在しているか否かを検索する前置NALユニット検索部と、
    前記ベース・ビューの前記ビュー・コンポーネントに前記前置NALユニットが存在していない場合、前記ベース・ビューのNALユニット・ヘッダ・MVC拡張パラメータを算出するベース・ビュー・MVC拡張パラメータ算出部と、
    前記ベース・ビューの前記ビュー・コンポーネントに前記前置NALユニットが存在している場合、前記前置NALユニットから、前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを構文解析するベース・ビュー・MVC拡張パラメータ構文解析部と、
    前記ノン・ベース・ビューのビュー・コンポーネントに含まれる画像を含むNALユニットを構文解析するノン・ベース・ビュー・NALユニット構文解析部と、
    算出または構文解析された前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、構文解析された前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータを用いて、前記ノン・ベース・ビューの前記ビュー・コンポーネントに含まれる前記画像を復号するノン・ベース・ビュー復号部とを備え、
    前記ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータ、および、前記ノン・ベース・ビューの前記NALユニット・ヘッダ・MVC拡張パラメータは、それぞれ、ビュー間予測フラグ(inter_view_flag)を含む
    画像復号装置。
JP2010206114A 2009-04-28 2010-09-14 画像復号方法および画像復号装置 Active JP5470206B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17338009P 2009-04-28 2009-04-28
US61/173,380 2009-04-28

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2010534314A Division JP4633866B2 (ja) 2009-04-28 2010-04-28 画像復号方法および画像復号装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2013062646A Division JP5470482B2 (ja) 2009-04-28 2013-03-25 画像復号方法および画像復号装置

Publications (2)

Publication Number Publication Date
JP2011010362A JP2011010362A (ja) 2011-01-13
JP5470206B2 true JP5470206B2 (ja) 2014-04-16

Family

ID=43031969

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2010534314A Active JP4633866B2 (ja) 2009-04-28 2010-04-28 画像復号方法および画像復号装置
JP2010206114A Active JP5470206B2 (ja) 2009-04-28 2010-09-14 画像復号方法および画像復号装置
JP2013062646A Active JP5470482B2 (ja) 2009-04-28 2013-03-25 画像復号方法および画像復号装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2010534314A Active JP4633866B2 (ja) 2009-04-28 2010-04-28 画像復号方法および画像復号装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2013062646A Active JP5470482B2 (ja) 2009-04-28 2013-03-25 画像復号方法および画像復号装置

Country Status (13)

Country Link
US (3) US8149923B2 (ja)
EP (1) EP2426924A1 (ja)
JP (3) JP4633866B2 (ja)
KR (2) KR101097690B1 (ja)
CN (3) CN101981936B (ja)
AU (1) AU2010227032B2 (ja)
BR (1) BRPI1001258A2 (ja)
CA (1) CA2718447C (ja)
MX (1) MX2010011009A (ja)
MY (1) MY154325A (ja)
RU (2) RU2477009C2 (ja)
TW (3) TW201336313A (ja)
WO (1) WO2010125812A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4962525B2 (ja) * 2009-04-08 2012-06-27 ソニー株式会社 再生装置、再生方法、およびプログラム
US10237565B2 (en) 2011-08-01 2019-03-19 Qualcomm Incorporated Coding parameter sets for various dimensions in video coding
KR102057194B1 (ko) 2012-01-19 2019-12-19 삼성전자주식회사 시점 변환을 위한 다시점 비디오 예측 방법 및 그 장치, 시점 변환을 위한 다시점 비디오 예측 복원 방법 및 그 장치
US10447990B2 (en) 2012-02-28 2019-10-15 Qualcomm Incorporated Network abstraction layer (NAL) unit header design for three-dimensional video coding
US20130272371A1 (en) * 2012-04-16 2013-10-17 Sony Corporation Extension of hevc nal unit syntax structure
WO2013162259A1 (ko) 2012-04-23 2013-10-31 삼성전자 주식회사 다시점 비디오 부호화 방법 및 장치, 다시점 비디오 복호화 방법 및 장치
CN107566838B (zh) 2012-06-25 2020-03-31 华为技术有限公司 用于发信号通知渐进式时间层访问图片的方法
JP5885604B2 (ja) * 2012-07-06 2016-03-15 株式会社Nttドコモ 動画像予測符号化装置、動画像予測符号化方法、動画像予測符号化プログラム、動画像予測復号装置、動画像予測復号方法及び動画像予測復号プログラム
US9686542B2 (en) * 2012-09-05 2017-06-20 Qualcomm Incorporated Network abstraction layer header design
KR102238567B1 (ko) * 2012-09-19 2021-04-08 퀄컴 인코포레이티드 디스패리티 벡터 유도를 위한 화상들의 선택
US9781416B2 (en) * 2013-02-26 2017-10-03 Qualcomm Incorporated Neighboring block disparity vector derivation in 3D video coding
US9596448B2 (en) 2013-03-18 2017-03-14 Qualcomm Incorporated Simplifications on disparity vector derivation and motion vector prediction in 3D video coding
CN105230017B (zh) * 2013-03-21 2019-08-06 索尼公司 图像编码装置和方法以及图像解码装置和方法
US9602822B2 (en) * 2013-04-17 2017-03-21 Qualcomm Incorporated Indication of cross-layer picture type alignment in multi-layer video coding
AU2014288482A1 (en) * 2013-07-12 2015-02-26 Sony Corporation Image coding device and method
BR122021025024A2 (pt) * 2019-05-20 2022-03-15 Panasonic Intellectual Property Corporation Of America Método de codificação, método de decodificação e mídia legível por computador não transitória

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030123738A1 (en) * 2001-11-30 2003-07-03 Per Frojdh Global motion compensation for video pictures
CN100568964C (zh) * 2003-02-18 2009-12-09 诺基亚有限公司 图像解码方法
WO2004075555A1 (en) 2003-02-18 2004-09-02 Nokia Corporation Picture coding method
US7489342B2 (en) * 2004-12-17 2009-02-10 Mitsubishi Electric Research Laboratories, Inc. Method and system for managing reference pictures in multiview videos
US7415069B2 (en) * 2003-12-09 2008-08-19 Lsi Corporation Method for activation and deactivation of infrequently changing sequence and picture parameter sets
EP2348720B1 (en) * 2004-07-01 2015-04-01 Mitsubishi Electric Corporation Randomly accessible visual information recording medium and recording method, and reproducing device and reproducing method
JP4442420B2 (ja) * 2004-12-28 2010-03-31 ソニー株式会社 画像再生装置および方法、並びにプログラム
JP2006294152A (ja) * 2005-04-12 2006-10-26 Toshiba Corp 情報記憶媒体、情報記録装置、および情報再生装置
EP1982517A4 (en) * 2006-01-12 2010-06-16 Lg Electronics Inc MULTIVATE VIDEO PROCESSING
EP1999968A2 (en) 2006-03-29 2008-12-10 Thomson Licensing Multi-view video coding method and device
TWI375469B (en) * 2006-08-25 2012-10-21 Lg Electronics Inc A method and apparatus for decoding/encoding a video signal
KR101385808B1 (ko) 2006-10-16 2014-04-17 톰슨 라이센싱 비디오 동작 동안 nal 유닛을 이용하여 동시 디코딩 리프레시를 시그널링하는 방법
CN101401430B (zh) * 2006-11-17 2012-02-29 Lg电子株式会社 用于解码/编码视频信号的方法及装置
KR101349836B1 (ko) * 2006-11-17 2014-01-10 엘지전자 주식회사 비디오 신호의 디코딩/인코딩 방법 및 장치
CN101675667A (zh) * 2007-01-04 2010-03-17 汤姆森特许公司 用于多视图编码的视频中的视频纠错的方法和装置
MX2009009489A (es) * 2007-03-13 2009-11-05 Nokia Corp Sistema y método para codificación y decodificación de video.
BRPI0809585A2 (pt) * 2007-04-17 2014-09-23 Thomson Licensing Decodificador de referência hipotética para codificação de vídeo multivisualização
PL2528341T3 (pl) 2007-04-18 2017-10-31 Dolby Int Ab System kodowania, stosujący uzupełniający zestaw parametrów sekwencyjnych do skalowalnego kodowania wideo lub kodowania wielowidokowego
US8488677B2 (en) * 2007-04-25 2013-07-16 Lg Electronics Inc. Method and an apparatus for decoding/encoding a video signal
US20080317124A1 (en) * 2007-06-25 2008-12-25 Sukhee Cho Multi-view video coding system, decoding system, bitstream extraction system for decoding base view and supporting view random access
WO2009130561A1 (en) * 2008-04-21 2009-10-29 Nokia Corporation Method and device for video coding and decoding
KR101260613B1 (ko) * 2008-12-26 2013-05-03 닛뽕빅터 가부시키가이샤 화상 부호화 장치, 화상 부호화 방법 및 그 프로그램 및 화상 복호화 장치, 화상 복호화 방법 및 그 프로그램
WO2010079921A2 (ko) 2009-01-12 2010-07-15 엘지 전자 주식회사 뎁스 정보를 이용한 비디오 신호 처리 방법 및 장치
US8982183B2 (en) * 2009-04-17 2015-03-17 Lg Electronics Inc. Method and apparatus for processing a multiview video signal

Also Published As

Publication number Publication date
CN101981936A (zh) 2011-02-23
US8369414B2 (en) 2013-02-05
CN101981936B (zh) 2013-03-06
KR20110002843A (ko) 2011-01-10
RU2550552C2 (ru) 2015-05-10
JPWO2010125812A1 (ja) 2012-10-25
RU2010141215A (ru) 2012-04-20
TW201206198A (en) 2012-02-01
JP5470482B2 (ja) 2014-04-16
MX2010011009A (es) 2011-02-22
WO2010125812A1 (ja) 2010-11-04
KR20110132380A (ko) 2011-12-07
TW201336313A (zh) 2013-09-01
US20110019746A1 (en) 2011-01-27
CN103124352A (zh) 2013-05-29
AU2010227032B2 (en) 2012-09-06
AU2010227032A1 (en) 2010-11-11
RU2477009C2 (ru) 2013-02-27
CN103124351A (zh) 2013-05-29
EP2426924A1 (en) 2012-03-07
JP2013158023A (ja) 2013-08-15
US8908771B2 (en) 2014-12-09
RU2011121698A (ru) 2012-12-10
JP2011010362A (ja) 2011-01-13
US20110293020A1 (en) 2011-12-01
US20110286512A1 (en) 2011-11-24
CA2718447A1 (en) 2010-10-28
TW201101843A (en) 2011-01-01
TWI489834B (zh) 2015-06-21
US8149923B2 (en) 2012-04-03
BRPI1001258A2 (pt) 2017-01-10
CA2718447C (en) 2014-10-21
MY154325A (en) 2015-05-29
TWI350698B (ja) 2011-10-11
KR101097690B1 (ko) 2011-12-22
JP4633866B2 (ja) 2011-02-16

Similar Documents

Publication Publication Date Title
JP5470482B2 (ja) 画像復号方法および画像復号装置
JP5574345B2 (ja) 符号化方法、エラー検出方法、復号方法、符号化装置、エラー検出装置及び復号装置
KR101440184B1 (ko) 부호화 방법, 복호 방법, 부호화 장치, 복호 장치, 프로그램, 및 집적 회로
AU2012227355B2 (en) Image decoding method, and image decoding apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130312

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140203

R150 Certificate of patent or registration of utility model

Ref document number: 5470206

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150