JPWO2006038568A1 - 映像符号化方法及び装置、映像復号方法及び装置、それらのプログラムおよびそれらプログラムを記録した記録媒体 - Google Patents

映像符号化方法及び装置、映像復号方法及び装置、それらのプログラムおよびそれらプログラムを記録した記録媒体 Download PDF

Info

Publication number
JPWO2006038568A1
JPWO2006038568A1 JP2006539271A JP2006539271A JPWO2006038568A1 JP WO2006038568 A1 JPWO2006038568 A1 JP WO2006038568A1 JP 2006539271 A JP2006539271 A JP 2006539271A JP 2006539271 A JP2006539271 A JP 2006539271A JP WO2006038568 A1 JPWO2006038568 A1 JP WO2006038568A1
Authority
JP
Japan
Prior art keywords
gop
image
encoding
decoding
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006539271A
Other languages
English (en)
Other versions
JP4805160B2 (ja
Inventor
正樹 北原
正樹 北原
木全 英明
英明 木全
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2006539271A priority Critical patent/JP4805160B2/ja
Publication of JPWO2006038568A1 publication Critical patent/JPWO2006038568A1/ja
Application granted granted Critical
Publication of JP4805160B2 publication Critical patent/JP4805160B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/114Adapting the group of pictures [GOP] structure, e.g. number of B-frames between two anchor frames
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

複数の画像を複数のGOPで構成して、それぞれのGOPの画像を1つの映像として符号化する映像符号化方法であって、各GOPに含まれる画像を符号化するかどうかを決定し、当該GOPに含まれる画像の符号化データを出力するかどうかを示すGOP符号化有無情報を符号化し、当該GOPに含まれる画像の符号化データを出力する場合に、該GOPに含まれる画像を符号化する。典型的には、当該GOPの符号化データの復号によらずに他の1以上のGOPを用いて生成される画像の方が符号化データの復号により得られる画像よりも原画像に近いか否かを判断することにより、当該GOPに含まれる画像を符号化するかどうかを決定する。

Description

本発明は、視点位置や視線方向を変更することを可能とする映像技術などに好適となる映像符号化及び映像復号に関する技術である。
一般的に映像符号化では時間方向の相関を使って高い符号化効率を実現するため、フレーム間予測符号化を用いている。フレームの符号化モードには、フレーム間の相関を使わずに符号化するIフレームと、過去に符号化した1フレームから予測するPフレームと、過去に符号化した2フレームから予測することができるBフレームがある。
Pフレームでは、IフレームまたはPフレームから予測し、Bフレームでは、IフレームまたはPフレームまたはBフレームから予測することができる。特に映像符号化方式H.264では、符号化装置内の参照画像メモリに複数フレーム分の復号画像を蓄積しておき、そのメモリから参照画像を選択して予測に用いることができる。また、Pフレームでは入力動画像における時間が過去のフレームから予測するが、Bフレームでは過去のフレームだけではなく未来のフレームからも予測することができる。
図7(a)部に動画像の予測関係の例を示す。
Bフレームで2フレームから予測する場合(両方向予測)には、2フレームからの画像情報を補間して、1フレーム分の画像情報を作成して予測画像を作成する。第1フレームから第7フレームの符号化モードをIBBPBBPの順序で符号化する場合には、図7(a)部に示す予測関係があるため、実際に符号化する場合には、図7(a)部に示すフレームの番号を左から1〜7として、図7(b)部に示すように、“1→4→2→3→7→5→6”というフレーム番号順でフレームを符号化する。
ここで、インタレース動画像は1フレーム内に2フィールドを持つ構成となるが、上記と同様に、フィールド毎に予測関係を設定することができる。一般的にフレームとフィールドを総称してピクチャと呼ぶ。また、Bフレームの両方向予測では、過去の2フレームまたは未来の2フレームから予測することも可能である。例えば映像符号化方式H.264では、参照画像メモリに複数フレーム分の復号画像を蓄積しておき、そのメモリから参照画像を2フレーム分選択して予測することができる。ここで、選択したフレームの復号後の表示時刻は、符号化対象フレームの表示時刻の未来であっても過去であってもよい。
また、Iピクチャを先頭にしたピクチャの集合をGOP(group of picture)として設定することにより、GOP単位の符号化データの、時間についてのランダムアクセス機能を容易に実現できる。
GOPは、特定のピクチャの符号化データの前に、GOP先頭であることを示す情報を含めることによって、そのピクチャが、そのピクチャ以降の複数ピクチャで構成されるGOPの先頭であることを指定することが可能である。MPEG−2では、特有なビットパターンを持つ符号を挿入することによりGOPの先頭であることを指定する。
即ち、GOPの先頭であることを示す符号間で1GOPの符号化データを構成することができる。なお、符号化データ中にGOPの先頭であることを示す情報を符号化するのではなく、符号化データとは独立した情報としてGOP構成情報を指定することも可能である。
一般に、GOP先頭であることを示す情報の後には、GOPの先頭フレームの時刻情報も含んでおり、時間についてのランダムアクセスを実現する際に利用される。また、各ピクチャにも時刻情報をつけることも可能である。
この時刻情報は例えばH.263ではTR(Temporal Reference)と呼ぶ。TRは単位時間を基本とした、フレームの出力順序を表す情報である。例えば単位時間を1/30秒に設定すれば、フレームごとに値が1つずつ増加することはフレームレートが30フレーム/秒であることと等価である。通常TRは固定長符号化される。
更に、複数のカメラ映像の符号化について、各カメラ映像をGOPに設定し、GOP間で予測符号化を適用しながら一つの映像情報として符号化する手法が提案されている。
例えば、下記に示す非特許文献1や非特許文献2では、Base GOPとInterGOPを定義してGOP間の予測関係を示す方法を提案している。Base GOPに含まれるピクチャは同一GOP内に含まれるピクチャのみを参照し、InterGOPに含まれるピクチャは同一または他のGOP内に含まれるピクチャを参照する。InterGOPでは、ヘッダ部分に、参照するGOPを示す参照GOP情報を含める。
このように、複数のカメラ入力映像を予め持っていれば、入力映像を切り替えることによって視点位置と視線方向を変更することが可能である。これらによれば撮影した位置での映像が得られるが、更に撮影されていない視点位置や視線方向の映像を生成する技術が提案されている。
例えば、下記に示す非特許文献3では、複数のカメラ入力画像から光線空間を生成して、その光線空間から画像情報を取り出すことにより、撮影されていない視点位置または視線方向の映像を生成する手法が提案されている。
このような映像を生成する技術では、一般的に、複数のカメラ入力画像で同じ被写体が撮影されている場合に、それらの撮影されている画像情報を使って、その被写体について撮影されていない視点位置や視線方向の画像情報を生成する。すなわち、複数のカメラ入力画像にまたがって撮影されている被写体について、各カメラ入力画像の一部分を使って画像情報を生成している。
この画像生成技術としては、例えば適応フィルタ方法(例えば非特許文献4参照)や、テーブル参照法(例えば非特許文献5参照)が挙げられる。
Hideaki Kimata and Masaki Kitahara, "Preliminary results on multiple view video coding (3DAV)," document M10976 MPEG Redmond Meeting, July, 2004. Hideaki Kimata, Masaki Kitahara, Kazuto Kamikura, Yoshiyuki Yashima, Toshiaki Fujii, and Masayuki Tanimoto, "System Design of Free Viewpoint Video Communication," CIT2004, Sep., 2004. 藤井,木本,谷本:"光線群表現における3次元空間情報の圧縮",3次元画像コンファレンス'96, pp.1-6 (1996.7). T.Kobayashi, T.Fujii, T.Kimoto, M.Tanimoto, "Interpolation of Ray-Space Data by Adaptive Filtering," IS&T/SPIE Electronic Imaging 2000, 2000. M.Kawaura, T.Ishigami, T.Fujii, T.Kimoto, M.Tanimoto, "Efficient Vector Quantization of Epipolar Plane Images of Ray Space By Dividing into Oblique Blocks," Picture Coding Symposium 2001, pp.203-206, 2001.
複数のカメラ映像のうち、撮影されていない視点位置や視線方向の映像を生成する技術で品質が十分に良い画像が得られる場合には、一部のカメラ映像の画像情報を符号化せずに、映像再生側で画像を生成できるため、結果的に複数カメラ映像に対する符号化効率を向上できる。
しかしながら、従来の映像符号化方式では、映像再生側で一部のカメラ映像の画像を用いなくても対応する画像を生成できるかどうかを判定し、更に生成できることを示す情報を符号化する仕組みがないため、実際には全てのカメラ映像を符号化して送出しており、符号化効率を向上できなかった。
本発明はかかる事情に鑑みてなされたものであって、映像再生側で一部のカメラ映像の画像を用いなくても対応する画像を生成できるかどうかを判定し、更に生成できることを示す情報を符号化する仕組みを提供することにより、視点位置や視線方向を変更することを可能とする映像技術などに好適となる新たな映像符号化及び映像復号に関する技術の提供を目的とする。
この目的を達成するために、本発明の映像符号化方法は、複数の画像を複数のGOPで構成して、それぞれのGOPの画像を1つの映像として符号化する映像符号化方法であって、
各GOPに含まれる画像を符号化するかどうかを決定するGOP符号化決定ステップと、
当該GOPに含まれる画像の符号化データを出力するかどうかを示すGOP符号化有無情報を符号化するGOP符号化有無情報符号化ステップと、
当該GOPに含まれる画像の符号化データを出力する場合に、該GOPに含まれる画像を符号化するGOP内画像符号化ステップと
を有する映像符号化方法を提供する。
典型例として、上記GOP符号化決定ステップでは、当該GOPの符号化データの復号によらずに他の1以上のGOPを用いて生成される画像の方が符号化データの復号により得られる画像よりも原画像に近いか否かを判断することにより、当該GOPに含まれる画像を符号化するかどうかを決定する。なお、この方法以外に、原画像の変化を評価することなどにより、当該GOPに含まれる画像を符号化するかどうかを決定することも可能である。
当該GOPに含まれる画像の符号化データを出力しない場合に、該GOPに含まれる画像を生成する際に使用する、他の1以上のGOPを指定する生成参照GOP指定情報を符号化する生成参照GOP符号化ステップを更に有しても良い。
また、当該GOPに含まれる画像の符号化データを出力しない場合に、該GOPに含まれる画像を生成する際に使用する、画像生成手法を指定する生成情報を符号化する生成情報符号化ステップを更に有しても良い。
本発明はまた、複数の画像を複数のGOPで構成して、それぞれのGOPの画像を1つの映像として符号化することで生成された符号化データを復号する映像復号方法であって、
各GOPに含まれる画像の符号化データを復号するかどうかを示すGOP符号化有無情報を復号するGOP符号化有無情報復号ステップと、
当該GOPに含まれる画像の符号化データを復号する場合に、GOPに含まれる画像を復号するGOP内画像復号ステップと
を有する映像復号方法を提供する。
当該GOPに含まれる画像の符号化データを復号しない場合に、該GOPに含まれる画像を生成する際に使用する、他の1以上のGOPを指定する生成参照GOP指定情報を復号する生成参照GOP復号ステップを更に有しても良い。
また、当該GOPに含まれる画像の符号化データを復号しない場合に、該GOPに含まれる画像を生成する際に使用する、画像生成手法を指定する生成情報を復号する生成情報復号ステップを更に有しても良い。
本発明はまた、複数の画像を複数のGOPで構成して、それぞれのGOPの画像を1つの映像として符号化する映像符号化装置であって、
各GOPに含まれる画像を符号化するかどうかを決定するGOP符号化決定部と、
当該GOPに含まれる画像の符号化データを出力するかどうかを示すGOP符号化有無情報を符号化するGOP符号化有無情報符号化部と、
当該GOPに含まれる画像の符号化データを出力する場合に、GOPに含まれる画像を符号化するGOP内画像符号化部と
を備える映像符号化装置を提供する。
典型例として、上記GOP符号化決定部は、当該GOPの符号化データの復号によらずに他の1以上のGOPを用いて生成される画像の方が符号化データの復号により得られる画像よりも原画像に近いのか否かを判断することにより、当該GOPに含まれる画像を符号化するかどうかを決定する。
当該GOPに含まれる画像の符号化データを出力しない場合に、該GOPに含まれる画像を生成する際に使用する、他の1以上のGOPを指定する生成参照GOP指定情報を符号化する生成参照GOP符号化部を更に備えるようにしても良い。
また、当該GOPに含まれる画像の符号化データを出力しない場合に、該GOPに含まれる画像を生成する際に使用する、画像生成手法を指定する生成情報を符号化する生成情報符号化部を更に備えるようにしても良い。
本発明はまた、複数の画像を複数のGOPで構成して、それぞれのGOPの画像を1つの映像として符号化することで生成された符号化データを復号する映像復号装置であって、
各GOPに含まれる画像の符号化データを復号するかどうかを示すGOP符号化有無情報を復号するGOP符号化有無情報復号部と、
当該GOPに含まれる画像の符号化データを復号する場合に、GOPに含まれる画像を復号するGOP内画像復号部と
を備える映像復号装置を提供する。
当該GOPに含まれる画像の符号化データを復号しない場合に、該GOPに含まれる画像を生成する際に使用する、1以上の他のGOPを指定する生成参照GOP指定情報を復号する生成参照GOP復号部を更に備えるようにしても良い。
また、当該GOPに含まれる画像の符号化データを復号しない場合に、該GOPに含まれる画像を生成する際に使用する、画像生成手法を指定する生成情報を復号する生成情報復号部を更に備えるようにしても良い。
本発明はまた、上記映像符号化方法の実現に用いられる処理をコンピュータに実行させるための映像符号化プログラム、該プログラムを記録したコンピュータ読み取り可能な記録媒体を提供する。
本発明はまた、上記映像復号方法の実現に用いられる処理をコンピュータに実行させるための映像復号プログラム、該プログラムを記録したコンピュータ読み取り可能な記録媒体を提供する。
即ち、これらコンピュータプログラムは、適当なコンピュータ読み取り可能な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現可能である。
上記本発明によれば、カメラ入力映像ごとにGOPを構成しておき、画像生成手法でカメラ入力映像が生成できる場合には、そのGOPについて画像を符号化せずに、代わりに映像再生側で画像を生成するように指定することができる。
すなわち、映像符号化側では、画像生成手法でカメラ入力映像が生成できるかどうかを決定する。そして、カメラ入力映像を生成できる場合には、GOPに含まれる画像の符号化データを出力しないとしてGOP符号化有無情報を符号化し、カメラ入力映像を生成できない場合には、GOPに含まれる画像の符号化データを出力するとしてGOP符号化有無情報を符号化する。そして、カメラ入力映像を生成できない場合には、GOPに含まれる画像を符号化する(GOPに含まれる画像の符号化データを出力する)。
これを受けて、映像復号側では、GOPGOPに含まれる画像の符号化データを復号するかどうかを示すGOP符号化有無情報を復号する。そして、GOP符号化有無情報がGOPに含まれる画像の符号化データを復号することを示す場合には、画像の符号化データを復号する。
ここで、映像復号側では、GOP符号化有無情報がGOPに含まれる画像の符号化データを復号しないことを示す場合には、画像生成技術を使ってGOP内の画像を生成してもよい。ただし、そのGOP内の画像が不必要な場合には、画像を生成する必要はない。
更に、本発明によれば、映像復号側でカメラ入力映像を生成する場合に、カメラ入力映像を生成する際に使用する画像を含むGOPを指定することができる。このとき使用するGOPの画像は符号化データを復号して得られるものでもよいし、映像復号側で生成して得られるものでもよい。
これにより、映像復号側で、所望のGOPの画像を生成するときに、生成に必要な画像が復号または生成されていない場合には、その画像を含むGOPを復号または生成することにより、所望の画像を生成することができる。ここで、所望の映像を生成する際に使用する画像を含むGOPとしては、他のカメラ入力映像であっても、所望の映像の属するカメラ入力映像であってもよい。
更に、本発明によれば、映像復号側でカメラ入力映像を生成する場合に、カメラ入力映像を生成する際に使用する画像生成手法を指定することができる。
この画像生成手法については、映像符号化側と映像復号側で、予め複数の画像生成手法を用意しておき、映像符号化側で、どの画像生成手法を映像復号側で使用するのかを決定してもよい。これにより、映像符号化側で、画像品質の良い画像生成手法を選択することができる。
なお、再生させたい映像の属するカメラ入力映像を使用して該映像を生成する場合には、そのカメラ入力映像に属する前(過去)のGOPの画像を使用してもよい。また、カメラの台数が少ない場合には、画像の生成に使用するGOPが限定されるため、使用するGOPを指定する必要はない。
本発明によれば、映像再生側で画像を生成できるかどうかを符号化時に判定し、更に生成することを示す情報を符号化することが可能となるため、画像符号化側で映像を符号化しないことを制御できるようになり、これにより符号化効率を向上できるようになる。
このようにして、本発明によれば、視点位置や視線方向を変更することを可能とする映像技術などに好適となる映像符号化・復号技術を提供できるようになる。
第1の実施形態例におけるGOPの構成の一例を示す図である。 第1の実施形態例における映像符号化装置の装置構成例を示す図である。 第1の実施形態例における映像復号装置の装置構成例を示す図である。 第2の実施形態例における映像符号化装置の装置構成例を示す図である。 第2の実施形態例におけるGOPの構成の一例を示す図である。 第2の実施形態例における映像復号装置の装置構成例を示す図である。 動画像の予測関係の説明図である。
符号の説明
101 画像A入力部
102 画像A符号化部
103 画像A復号部
104 画像A蓄積メモリ
105 画像B入力部
106 画像B符号化部
107 画像B復号部
108 画像B蓄積メモリ
109 画像C入力部
110 GOP内画像符号化部
111 画像C復号部
112 復号画像蓄積メモリ
113 原画像蓄積メモリ
114 画像生成部
115 生成参照GOP符号化部
116 生成情報符号化部
117 GOP符号化決定部
118 GOP符号化有無情報符号化部
119 GOP情報蓄積メモリ
201 画像A復号部
202 画像A蓄積メモリ
203 画像B復号部
204 画像B蓄積メモリ
205 GOP内画像復号部
206 復号画像蓄積メモリ
207 画像生成部
208 生成参照GOP復号部
209 生成情報復号部
210 GOP符号化有無情報復号部
1180 GOPヘッダ/符号化有無情報符号化部
2100 GOPヘッダ/符号化有無情報復号部
以下、実施の形態に従って本発明を詳細に説明する。
以下に説明する実施形態例では、3カメラ映像を符号化する場合に、2カメラ映像を独立に符号化しておき、1カメラ映像をそれら2カメラ映像の画像情報から、あるいは、その1カメラ映像の過去の画像から、その1カメラ映像の現在の画像を用いずに画像生成技術により生成するかどうかを決定する手法について示す。
〔I〕第1の実施形態例
図1に、第1の実施形態例におけるGOPを示す。
この図に示すように、第1の実施形態例では、GOPは予め2フレームで構成されると決められているものとする。また、各GOPには図中に示すGOP番号(GOP1〜GOP6)が割り当てられているものとする。
図1に示す3カメラ映像A,B,Cのうち、Cについて画像生成技術により生成するかどうかを決定する。AまたはBからCを生成する手法としては、画像生成方法Xと画像生成方法Yとが予め用意されており、また、Cの過去の画像情報から画像を生成する技術として画像生成方法Zが用意されているものとする。
画像を生成する際に使用する画像としてAまたはBを選択する場合には、画像生成方法を指定する情報を符号化することになるが、画像を生成する際に使用する画像としてCの過去の画像を選択する場合には、画像生成方法はZに一意に決まるため、画像生成方法を指定する情報を符号化する必要はない。なお、画像生成方法Zは、本実施形態においては直前の画像を出力する手法である。
画像生成方法Xは例えば適応フィルタ方法であり、画像生成方法Yは例えばテーブル参照方法である。以下に説明する実施形態例では、AとBの復号画像を使って、Cの画像生成方法を決定するものとする。
〔I−1〕第1の実施形態例を実現する本発明の映像符号化装置
図2に、第1の実施形態例を実現する本発明の映像符号化装置の装置構成の一例を図示する。
この図に示すように、本発明の映像符号化装置は、
(イ)画像A(カメラ入力映像A)に対して、画像を入力する画像A入力部101と、画像A入力部101の入力した画像を符号化する画像A符号化部102と、画像A符号化部102の符号化した画像を復号する画像A復号部103と、画像A復号部103の復号した画像を蓄積する画像A蓄積メモリ104とを備え、
(ロ)画像B(カメラ入力映像B)に対して、画像を入力する画像B入力部105と、画像B入力部105の入力した画像を符号化する画像B符号化部106と、画像B符号化部106の符号化した画像を復号する画像B復号部107と、画像B復号部107の復号した画像を蓄積する画像B蓄積メモリ108とを備え、
(ハ)画像C(カメラ入力映像C)に対して、画像を入力する画像C入力部109と、画像C入力部109の入力した画像を符号化するGOP内画像符号化部110と、GOP内画像符号化部110の符号化した画像を復号する画像C復号部111と、画像C復号部111の復号した画像を蓄積する復号画像蓄積メモリ112と、画像C入力部109の入力した原画像を蓄積する原画像蓄積メモリ113と、原画像Cを用いずに画像Cを生成する画像生成部114と、画像Cを生成する際に使用するGOPを指定する情報(具体的にはGOPの番号)を符号化する生成参照GOP符号化部115と、画像Cの生成に用いられる画像生成方法を指定する情報を符号化する生成情報符号化部116と、GOPの画像を符号化するかどうかを決定するGOP符号化決定部117と、GOPの画像を符号化したかどうかを指定する情報を符号化するGOP符号化有無情報符号化部118とを備える。
ここで、画像A蓄積メモリ104と画像B蓄積メモリ108は、それぞれ復号画像を2フレーム分蓄積し、また、原画像蓄積メモリ113は、原画像を2フレーム分蓄積する。また、復号画像蓄積メモリ112は、復号画像を3フレーム分蓄積するものとする。なお、初期状態の各メモリには何も画像情報が蓄積されていないものとする。
GOP符号化決定部117は、まず、画像生成部114にて画像生成方法Xを使って生成される2フレーム分の画像情報(1フレームずつ生成される)と原画像蓄積メモリ113に蓄積された画像との間の平均二乗誤差Xを計算する。このとき、画像A蓄積メモリ104の画像のみを使う場合の平均二乗誤差をXaとし、画像B蓄積メモリ108の画像のみを使う場合の平均二乗誤差をXbとし、画像A蓄積メモリ104の画像と画像B蓄積メモリ108の画像の両方を使う場合の平均二乗誤差をXcとする。
更に、GOP符号化決定部117は、画像生成部114にて画像生成方法Yを使って生成される2フレーム分の画像情報(1フレームずつ生成される)と原画像蓄積メモリ113に蓄積された画像との間の平均二乗誤差Yを計算する。このとき、画像A蓄積メモリ104の画像のみを使う場合の平均二乗誤差をYaとし、画像B蓄積メモリ108の画像のみを使う場合の平均二乗誤差をYbとし、画像A蓄積メモリ104の画像と画像B蓄積メモリ108の画像の両方を使う場合の平均二乗誤差をYcとする。
更に、GOP符号化決定部117は、GOP内画像符号化部110で符号化し画像C復号部111で復号して復号画像蓄積メモリ112に蓄積された復号画像のうち、現GOPの復号画像と原画像蓄積メモリ113に蓄積された対応する画像との間の平均二乗誤差Dを計算する。
更に、GOP符号化決定部117は、復号画像メモリ112に前GOPの画像が蓄積されている場合には、画像生成方法Zで生成される2フレーム分の画像情報(1フレームずつ生成される)と原画像蓄積メモリ113に蓄積された画像との間の平均二乗誤差Zを計算する。
そして、GOP符号化決定部117は、このようにして算出した平均二乗誤差XaとXbとXcとYaとYbとYcとD、あるいは、平均二乗誤差XaとXbとXcとYaとYbとYcとDとZを比較して、最も値が小さい場合の条件を、そのGOPの符号化情報(GOP符号化有無情報/生成参照GOPを指定する情報/画像生成方法を指定する情報で構成される)として決定する。すなわち、次のように決定する。
なお、以下では、“符号化データ”と“符号化情報”とを明確に区別しており、“符号化データ”と記載する場合には、画像を符号化したときのデータを示している。
(1)平均二乗誤差Xaが最も小さい場合
Xaが最も小さい場合には、画像生成方法としてXを指定し、生成参照GOPとして画像AのGOPを指定する。
このとき、GOP符号化有無情報符号化部118は、符号化データを出力しないことを示すようにGOP符号化有無情報を符号化する。また、生成参照GOP符号化部115は、使用したGOPの番号を符号化する。また、生成情報符号化部116は、画像生成方法Xを指定する情報を符号化する。
(2)平均二乗誤差Xbが最も小さい場合
Xbが最も小さい場合には、画像生成方法としてXを指定し、生成参照GOPとして画像BのGOPを指定する。
このとき、GOP符号化有無情報符号化部118は、符号化データを出力しないことを示すようにGOP符号化有無情報を符号化する。また、生成参照GOP符号化部115は、使用したGOPの番号を符号化する。また、生成情報符号化部116は、画像生成方法Xを指定する情報を符号化する。
(3)平均二乗誤差Xcが最も小さい場合
Xcが最も小さい場合には、画像生成方法としてXを指定し、生成参照GOPとして画像Aと画像BのGOPを指定する。
このとき、GOP符号化有無情報符号化部118は、符号化データを出力しないことを示すようにGOP符号化有無情報を符号化する。また、生成参照GOP符号化部115は、使用したGOPの番号を符号化する。また、生成情報符号化部116は、画像生成方法Xを指定する情報を符号化する。
(4)平均二乗誤差Yaが最も小さい場合
Yaが最も小さい場合には、画像生成方法としてYを指定し、生成参照GOPとして画像AのGOPを指定する。
このとき、GOP符号化有無情報符号化部118は、符号化データを出力しないことを示すようにGOP符号化有無情報を符号化する。また、生成参照GOP符号化部115は、使用したGOPの番号を符号化する。また、生成情報符号化部116は、画像生成方法Yを指定する情報を符号化する。
(5)平均二乗誤差Ybが最も小さい場合
Ybが最も小さい場合には、画像生成方法としてYを指定し、生成参照GOPとして画像BのGOPを指定する。
このとき、GOP符号化有無情報符号化部118は、符号化データを出力しないことを示すようにGOP符号化有無情報を符号化する。また、生成参照GOP符号化部115は、使用したGOPの番号を符号化する。また、生成情報符号化部116は、画像生成方法Yを指定する情報を符号化する。
(6)平均二乗誤差Ycが最も小さい場合
Ycが最も小さい場合には、画像生成方法としてYを指定し、生成参照GOPとして画像Aと画像BのGOPを指定する。
このとき、GOP符号化有無情報符号化部118は、符号化データを出力しないことを示すようにGOP符号化有無情報を符号化する。また、生成参照GOP符号化部115は、使用したGOPの番号を符号化する。また、生成情報符号化部116は、画像生成方法Yを指定する情報を符号化する。
(7)平均二乗誤差Zが最も小さい場合
Zが最も小さい場合には、画像生成方法としてZを指定し、生成参照GOPとして画像CのGOPを指定する。
このとき、GOP符号化有無情報符号化部118は、符号化データを出力しないことを示すようにGOP符号化有無情報を符号化する。また、生成参照GOP符号化部115は、使用したGOPの番号を符号化する。
ここで、上述したように、画像を生成する際に使用する画像としてCの過去の画像を選択する場合には、画像生成方法はZに一意に決まるため、生成情報符号化部116は、画像生成方法を指定する情報を符号化する必要がない。
(8)平均二乗誤差Dが最も小さい場合
Dが最も小さい場合には、GOP内画像符号化部110で符号化した符号化データを出力する。
このとき、GOP符号化有無情報符号化部118は、符号化データを出力することを示すようにGOP符号化有無情報を符号化し、GOP内画像符号化部110は、符号化した符号化データを出力する。
即ち、上記(1)〜(7)の場合には、映像再生側でカメラ映像Cの画像を、その画像データを用いなくても生成できると判定され、(8)の場合には、その画像データを用いなくては該画像を生成できないと判定される。
このような前提の下、本発明の映像符号化装置はカメラ入力映像を次のように符号化する。
(i)時刻T1,T2における符号化処理
まず、時刻T1とT2において、画像Aと画像Bを符号化する。
画像Aについては、画像A入力部101で画像を入力して、画像A符号化部102は画像を符号化し、画像A復号部103は符号化データを復号し、画像A蓄積メモリ104は復号画像を蓄積する。これをT1とT2の画像に対して実行する。画像A蓄積メモリ104にはT1とT2における画像が蓄積される。
画像Bについては、画像B入力部105で画像を入力して、画像B符号化部106は画像を符号化し、画像B復号部107は符号化データを復号し、画像B蓄積メモリ108は復号画像を蓄積する。これをT1とT2の画像に対して実行する。画像B蓄積メモリ108にはT1とT2における画像が蓄積される。
続いて、画像C入力部109は画像Cを入力し、原画像蓄積メモリ113は入力された画像を蓄積する。GOP内画像符号化部110はT1とT2の画像を符号化し、画像C復号部111は符号化データを復号して復号画像を復号画像蓄積メモリ112に蓄積する。
続いて、画像生成部114は、画像A蓄積メモリ104に蓄積された画像と、画像B蓄積メモリ108に蓄積された画像に対して、画像生成方法Xおよび画像生成方法Yをそれぞれ適用して、画像を生成する。なお、前フレームが存在しないので、この時点では、画像生成方法Zを適用して画像を生成することはできない。
これらの処理を受けて、GOP符号化決定部117は、画像生成部114で生成された画像と、復号画像蓄積メモリ112に蓄積された画像とを使って、平均二乗誤差XaとXbとXcとYaとYbとYcとDを求める(なお、この時点では平均二乗誤差Zについては求めることはできない)。そして、これらから、上述の(1)〜(8)の論理に従ってGOPの符号化情報を決定する。
そして、本発明の映像符号化装置は、決定したGOPの符号化情報に基づいて、符号化有無情報を符号化して出力するとともに、符号化データを出力するか、生成参照GOPの番号および画像生成方法を示す情報を符号化して出力する。ただし、画像生成方法Zが用いられる場合には、画像生成方法を示す情報については符号化する必要がない(なお、この時点では画像生成方法Zが用いられることはない)。
ここで、復号画像蓄積メモリ112は、GOP内画像符号化部110から符号化データが出力される場合には、画像C復号部111で得られる復号画像を蓄積し続ける。一方、GOP内画像符号化部110から符号化データが出力されない場合には、蓄積されているT1とT2の復号画像を廃棄して、画像生成部114で生成される画像のうち、GOP符号化決定部117で決定されたGOPの符号化情報に対応する画像(即ち、選択された生成方法により生成された画像)を蓄積する。
(ii)時刻T3,T4における符号化処理
続いて、時刻T3とT4において、時刻T1とT2と同様な処理を行い、画像Aと画像Bを符号化する。
画像A蓄積メモリ104と画像B蓄積メモリ108に蓄積されていた復号画像は、最も古いものから廃棄して、新しく復号された画像を蓄積する。これにより、各メモリにはT3とT4の復号画像が蓄積される。
続いて、画像C入力部109は画像Cを入力し、原画像蓄積メモリ113は入力された画像を蓄積する。このとき、原画像蓄積メモリ113に蓄積されていた原画像は、最も古いものから廃棄して、新しく入力された画像を蓄積する。これにより、原画像蓄積メモリ113にはT3とT4の原画像が蓄積される。
続いて、GOP内画像符号化部110はT3とT4の画像を符号化し、画像C復号部111は符号化データを復号して復号画像を復号画像蓄積メモリ112に蓄積する。このとき、復号画像蓄積メモリ112に蓄積されていた復号画像は、最も古いものから廃棄して、新しく復号された画像を蓄積する。これにより、復号画像蓄積メモリ112にはT2とT3とT4の復号画像が蓄積される。
続いて、画像生成部114は、画像A蓄積メモリ104に蓄積された画像と、画像B蓄積メモリ108に蓄積された画像に対して、画像生成方法X及び画像生成方法Yを適用して、それぞれ画像を生成する。更に、復号画像蓄積メモリ112に蓄積されたT2の画像に対して、画像生成方法Zを適用して、画像を生成する。
これらの処理を受けて、GOP符号化決定部117は、画像生成部114で生成された画像と、復号画像蓄積メモリ112に蓄積された画像とを使って、平均二乗誤差XaとXbとXcとYaとYbとYcとDとZを求める。そして、これらから、上述の(1)〜(8)の論理に従ってGOPの符号化情報を決定する。
そして、本発明の映像符号化装置は、決定したGOPの符号化情報に基づいて、符号化有無情報を符号化して出力するとともに、符号化データを出力するか、生成参照GOPの番号および画像生成方法を示す情報を符号化して出力する。ただし、画像生成方法Zが選択される場合には、画像生成方法を示す情報については符号化する必要がない。
ここで、復号画像蓄積メモリ112は、GOP内画像符号化部100から符号化データが出力される場合には、画像C復号部111で得られる復号画像を蓄積し続ける。一方、GOP内画像符号化部110から符号化データが出力されない場合には、蓄積されているT3とT4の復号画像を廃棄して、画像生成部114で生成される画像のうち、GOP符号化決定部117で決定された符号化情報に対応する画像を蓄積する。
〔I−2〕第1の実施形態例を実現する本発明の映像復号装置
次に、第1の実施形態例を実現する本発明の映像復号装置について説明する。
図3に、第1の実施形態例を実現する本発明の映像復号装置の装置構成の一例を図示する。
この図に示すように、本発明の映像復号装置は、
(イ)画像A(カメラ入力映像A)に対して、画像を復号する画像A復号部201と、画像A復号部201の復号した画像を蓄積する画像A蓄積メモリ202とを備え、
(ロ)画像B(カメラ入力映像B)に対して、画像を復号する画像B復号部203と、画像B復号部203の復号した画像を蓄積する画像B蓄積メモリ204とを備え、
(ハ)画像C(カメラ入力映像C)に対して、画像を復号するGOP内画像復号部205と、GOP内画像復号部205の復号した画像を蓄積する復号画像蓄積メモリ206と、画像Cを生成する画像生成部207と、画像Cを生成する際に使用するGOPを指定する情報(具体的にはGOPの番号)を復号する生成参照GOP復号部208と、画像Cの生成に用いられる画像生成方法を指定する情報を復号する生成情報復号部209と、GOPの画像を復号するかどうかを指定する情報を復号するGOP符号化有無情報復号部210とを備える。
画像生成部207と生成参照GOP復号部208と生成情報復号部209とは、GOPの符号化データを復号しない場合、次のように動作する。
まず、生成参照GOP復号部208は、画像生成に使用するGOPの番号を復号して得る。GOPの番号が入力画像AまたはBに属する場合には、続いて、生成情報復号部209は、画像生成方法を指定する情報を復号し、画像生成方法の情報としてXまたはYを得る。一方、GOPの番号が入力画像Cに属する場合には、生成情報復号部209は、画像生成方法を指定する情報を復号しない。
続いて、画像生成部207は、生成参照GOP復号部208で得られたGOP番号と、生成情報復号部209で得られた画像生成方法の情報の規定する画像生成方法とを使って画像を生成する。ここで、GOPの番号が入力画像Cに属する場合には、画像生成部207は、画像生成方法としてZを使用する。
このような前提の下、本発明の映像復号装置は、本発明の映像符号化装置から出力される符号化データを次のように復号する。
(i)時刻T1,T2における復号処理
まず、時刻T1とT2において、画像Aと画像Bを復号する。
画像Aについては、画像A復号部201は符号化データを復号し、画像A蓄積メモリ202は復号画像を蓄積する。これをT1とT2の画像に対して実行する。画像A蓄積メモリ202にはT1とT2における画像が蓄積される。
画像Bについては、画像B復号部203は符号化データを復号し、画像B蓄積メモリ204は復号画像を蓄積する。これをT1とT2の画像に対して実行する。画像B蓄積メモリ204にはT1とT2における画像が蓄積される。
続いて、画像Cについて、GOP符号化有無情報復号部210は、GOPの符号化データを復号するかどうかを指定する情報を復号する。この情報に基づいて、次のいずれかの処理を実行する。
すなわち、GOP符号化有無情報復号部210がGOPの符号化データの復号を指示する情報を復号する場合には、GOP内画像復号部205は、符号化データを復号して画像を出力し、更に、その復号した画像を復号画像蓄積メモリ206に蓄積する。
一方、GOP符号化有無情報復号部210がGOPの符号化データの復号を指示しない情報を復号する場合には、生成参照GOP復号部208は、画像生成に使用するGOPの番号を復号して得る。GOPの番号が入力画像AまたはBに属するため(前フレームが存在しないので、この時点では入力画像Cに属することはない)、続いて、生成情報復号部209は、画像生成方法を指定する情報を復号し、画像生成方法の情報としてXまたはYを得る。これを受けて、画像生成部207は、生成参照GOP復号部208で得られたGOP番号と、生成情報復号部209で得られた画像生成方法の情報の規定する画像生成方法とを使って画像を生成する。
復号画像蓄積メモリ206は、GOPの符号化データを復号する場合には、復号画像を蓄積し、GOPの符号化データを復号しない場合には、画像生成部207で生成される画像を蓄積する。
(ii)時刻T3,T4における復号処理
続いて、時刻T3とT4において、時刻T1とT2と同様な処理を行い、画像Aと画像Bを復号し、画像Aについては画像A蓄積メモリ202に復号画像を蓄積し、画像Bについては画像B蓄積メモリ204に復号画像を蓄積する。
続いて、画像Cについて、GOP符号化有無情報復号部210は、GOPの符号化データを復号するかどうかを指定する情報を復号する。この情報に基づいて、次のいずれかの処理を実行する。
すなわち、GOP符号化有無情報復号部210がGOPの符号化データの復号を指示する情報を復号する場合には、GOP内画像復号部205は、符号化データを復号して画像を出力し、更に、その復号した画像を復号画像蓄積メモリ206に蓄積する。
一方、GOP符号化有無情報復号部210がGOPの符号化データの復号を指示しない情報を復号する場合には、生成参照GOP復号部208は、画像生成に使用するGOPの番号を復号して得る。GOPの番号が入力画像AまたはBに属する場合には、続いて、生成情報復号部209は、画像生成方法を指定する情報を復号し、画像生成方法の情報としてXまたはYを得る。一方、GOPの番号が入力画像Cに属する場合には、生成情報復号部209は、画像生成方法Zが用いられていることを特定できるので、画像生成方法を指定する情報を復号しない。これを受けて、画像生成部207は、生成参照GOP復号部208で得られたGOP番号と、生成情報復号部209で得られた画像生成方法の情報の規定する画像生成方法とを使って画像を生成する。このとき、GOPの番号が入力画像Cに属する場合には、画像生成方法Zを使用する。
復号画像蓄積メモリ206は、GOPの符号化データを復号する場合には、T1,T2の画像を廃棄して復号画像を蓄積し、GOPの符号化データを復号しない場合には、T1,T2の画像を廃棄して、画像生成部207で生成される画像を蓄積する。
以上により、本発明の映像符号化装置はT1とT2とT3とT4の画像を符号化し、一方、本発明の映像復号装置は符号化データを復号、または画像を生成することにより同時刻の画像を得ることができる。
〔II〕第2の実施形態例
次に、第2の実施形態例について説明する。
第1の実施形態例では、GOPは2フレームとして予め決定しておいたが、GOPをフレーム毎に別にするかどうかを適応的に決定してもよい。第2の実施形態例は、この構成を実現するものである。
図4に、第2の実施形態例を実現する本発明の映像符号化装置の装置構成の一例を図示する。ここで、図中、図2で説明したものと同じものについては同一の記号で示してある。
第1の実施形態例との違いは、GOPの符号化情報を蓄積するGOP情報蓄積メモリ119を備えることである。また、GOPヘッダ/符号化有無情報符号化部1180は、符号化有無情報の符号化に加え、GOPの先頭にGOPヘッダを符号化する処理を行う。GOPヘッダは固有のビットパターンで構成される固定長の符号である。
第2の実施形態例を実現する本発明の映像復号装置の装置構成(図6に示す)は、図3に示す第1の実施形態例と同様である。ただし、GOPヘッダ/符号化有無情報復号部2100は、各フレームにおいてGOPヘッダの有無をチェックして、GOPヘッダが検出されると、別の(独立した)GOPとして復号処理を行う。
〔II−1〕第2の実施形態例における符号化処理
第2の実施形態例におけるカメラ入力映像AとBとCの符号化方法は次のようになる。
まず、時刻T1とT2の画像AとBについて、第1の実施形態例と同様に画像を符号化して復号画像を得る。画像A蓄積メモリ104と画像B蓄積メモリ108にはT1とT2の復号画像が蓄積される。
すなわち、画像Aについては、画像A入力部101で画像を入力して、画像A符号化部102は画像を符号化し、画像A復号部103は符号化データを復号し、画像A蓄積メモリ104は復号画像を蓄積する。これをT1とT2の画像に対して実行する。画像A蓄積メモリ104にはT1とT2における画像が蓄積される。
また、画像Bについては、画像B入力部105で画像を入力して、画像B符号化部106は画像を符号化し、画像B復号部107は符号化データを復号し、画像B蓄積メモリ108は復号画像を蓄積する。これをT1とT2の画像に対して実行する。画像B蓄積メモリ108にはT1とT2における画像が蓄積される。
(i)時刻T1における画像Cの符号化処理
続いて、時刻T1の画像Cについて、まず、画像C入力部109は画像を入力し、原画像蓄積メモリ113は入力された画像を蓄積する。GOP内画像符号化部110は時刻T1の画像を符号化し、画像C復号部111は符号化データを復号して復号画像を復号画像蓄積メモリ112に蓄積する。
続いて、画像生成部114は、画像A蓄積メモリ104に蓄積された画像と、画像B蓄積メモリ108に蓄積された画像に対して、画像生成方法X及び画像生成方法Yをそれぞれ適用して、時刻T1の画像を生成する。なお、前フレームが存在しないので、この時点では、画像生成方法Zを適用して画像を生成することはできない。
これらの処理を受けて、GOP符号化決定部117は、画像生成部114で生成された画像と、復号画像蓄積メモリ112に蓄積された画像とを使って、平均二乗誤差XaとXbとXcとYaとYbとYcとDを求める(なお、この時点では平均二乗誤差Zについては求めることができない)。そして、これらから、上述の(1)〜(8)の論理に従ってGOPの符号化情報を決定する。
そして、GOP符号化決定部117は、決定したGOPの符号化情報をGOP情報蓄積メモリ119に蓄積し、GOP符号化有無情報符号化部1180は、GOPヘッダを符号化して出力する。
そして、本発明の映像符号化装置は、決定したGOPの符号化情報に基づいて、符号化有無情報を符号化して出力するとともに、符号化データを出力するか、生成参照GOPの番号および画像生成方法を示す情報を符号化して出力する。ただし、画像生成方法Zが用いられる場合には、画像生成方法を示す情報については符号化する必要がない(なお、この時点では画像生成方法Zが用いられることはない)。
ここで、復号画像蓄積メモリ112は、GOP内画像符号化部110から符号化データが出力される場合には、画像C復号部111で得られる復号画像を蓄積し続ける。一方、GOP内画像符号化部110から符号化データが出力されない場合には、蓄積されているT1の復号画像を廃棄して、画像生成部114で生成される画像のうち、GOP符号化決定部117で決定されたGOPの符号化情報に対応する画像を蓄積する。
(ii)時刻T2における画像Cの符号化処理
続いて、時刻T2の画像Cについて、まず、画像C入力部109は画像を入力し、原画像蓄積メモリ113は入力された画像を蓄積する。GOP内画像符号化部110は時刻T2の画像を符号化し、画像C復号部111は符号化データを復号して復号画像を復号画像蓄積メモリ112に蓄積する。
続いて、画像生成部114は、画像A蓄積メモリ104に蓄積された画像と、画像B蓄積メモリ108に蓄積された画像に対して、画像生成方法X及び画像生成方法Yをそれぞれ適用して、時刻T2の画像を生成する。更に、復号画像蓄積メモリ112に蓄積された画像に対して画像生成方法Zを適用して、時刻T2の画像を生成する。
これらの処理を受けて、GOP符号化決定部117は、画像生成部114で生成された画像と、復号画像蓄積メモリ112に蓄積された画像とを使って、平均二乗誤差XaとXbとXcとYaとYbとYcとDとZを求める。そして、これらから、上述の(1)〜(8)の論理に従ってGOPの符号化情報を決定する。
続いて、GOP符号化決定部117は、ここで決定したGOPの符号化情報と、GOP情報蓄積メモリ119に蓄積されているGOPの符号化情報とを比較し、両者のGOPの符号化情報が異なる場合には、別のGOPとして画像を符号化することを決定し、両者のGOPの符号化情報が同じ場合には、同じGOPとして画像を符号化することを決定する。
そして、GOP符号化決定部117は、決定したGOPの符号化情報をGOP情報蓄積メモリ119に蓄積する。以後は、具体的には次のように動作する。
(ii−1)別のGOPとして符号化する場合
別のGOPとして符号化する場合には、GOPヘッダ/符号化有無情報符号化部1180は、GOPヘッダを符号化して出力する。そして、本発明の映像符号化装置は、決定したGOPの符号化情報に基づいて、符号化有無情報を符号化して出力するとともに、符号化データを出力するか、生成参照GOPの番号および画像生成方法を示す情報を符号化して出力する。ただし、画像生成方法Zが用いられている場合には、画像生成方法を示す情報については符号化する必要がない。
ここで、復号画像蓄積メモリ112は、GOP内画像符号化部110から符号化データが出力される場合には、画像C復号部111で得られる復号画像を蓄積し続ける。一方、GOP内画像符号化部110から符号化データが出力されない場合には、蓄積されているT2の復号画像を廃棄して、画像生成部114で生成される画像のうち、GOP符号化決定部117で決定されたGOPの符号化情報に対応する画像を蓄積する。
(ii−2)同じGOPとして符号化する場合
同じGOPとして符号化する場合で、GOP内画像符号化部110から符号化データを出力する場合には、そのフレームの符号化データを出力し、一方、GOP内画像符号化部110から符号化データを出力しない場合には、復号側に通知済みの1つ前の時刻のT1におけるGOPの符号化情報により復号側で画像生成方法を特定できるので、何も出力しない。
ここで、復号画像蓄積メモリ112は、GOP内画像符号化部110から符号化データが出力される場合には、画像C復号部111で得られる復号画像を蓄積し続ける。一方、GOP内画像符号化部110から符号化データが出力されない場合には、蓄積されているT2の復号画像を廃棄して、画像生成部114で生成される画像のうち、GOP符号化決定部117で決定された符号化情報に対応する画像を蓄積する。
〔II−2〕第2の実施形態例における復号処理
これに対応する第2の実施形態例における復号処理は次のように動作する。
まず、時刻T1とT2の画像AとBについて、第1の実施形態例と同様に画像を復号して復号画像を得る。画像A蓄積メモリ202と画像B蓄積メモリ204にはT1とT2の復号画像が蓄積される。
すなわち、画像Aについては、画像A復号部201は符号化データを復号し、画像A蓄積メモリ202は復号画像を蓄積する。これをT1とT2の画像に対して実行する。画像A蓄積メモリ202にはT1とT2における画像が蓄積される。
また、画像Bについては、画像B復号部203は符号化データを復号し、画像B蓄積メモリ204は復号画像を蓄積する。これをT1とT2の画像に対して実行する。画像B蓄積メモリ204にはT1とT2における画像が蓄積される。
(i)時刻T1における画像Cの復号処理
続いて、時刻T1の画像Cについて、GOPヘッダ/符号化有無情報復号部2100は、GOPヘッダの有無をチェックする。GOPヘッダがあるので、GOPヘッダ/符号化有無情報復号部2100は、続いて、GOPの符号化データを復号するかどうかを指定する情報(符号化有無情報)を復号する。この情報に基づいて、次のいずれかの処理を実行する。
すなわち、GOPヘッダ/符号化有無情報復号部2100がGOPの符号化データの復号を指示する情報を復号する場合には、GOP内画像復号部205は、符号化データを復号して画像を出力し、更に、その復号した画像を復号画像蓄積メモリ206に蓄積する。
一方、GOPヘッダ/符号化有無情報復号部2100がGOPの符号化データの復号を指示しない情報を復号する場合には、生成参照GOP復号部208は、画像生成に使用するGOPの番号を復号して得る。GOPの番号が入力画像AまたはBに属するため(先頭フレームであるので、この時点では入力画像Cに属することはない)、続いて、生成情報復号部209は、画像生成方法を指定する情報を復号し、画像生成方法の情報としてXまたはYを得る。これを受けて、画像生成部207は、生成参照GOP復号部208で得られたGOP番号と、生成情報復号部209で得られた画像生成方法の情報の規定する画像生成方法とを使って画像を生成する。
これを受けて、復号画像蓄積メモリ206は、GOPの符号化データを復号する場合には、復号画像を蓄積し、GOPの符号化データを復号しない場合には、画像生成部207で生成される画像を蓄積する。
(ii)時刻T2における画像Cの復号処理
(ii−1)GOPヘッダが検出される場合の復号処理(GOPの符号化情報が符号化されている場合)
続いて、時刻T2の画像Cについて、GOPヘッダ/符号化有無情報復号部2100は、GOPヘッダの有無をチェックする。GOPヘッダを検出する場合には、更に、GOPの符号化データを復号するかどうかを指定する情報を復号する。この情報に基づいて、次のいずれかの処理を実行する。
すなわち、GOPヘッダ/符号化有無情報復号部2100がGOPの符号化データの復号を指示する情報を復号する場合には、GOP内画像復号部205は、符号化データを復号して画像を出力し、更に、その復号した画像を復号画像蓄積メモリ206に蓄積する。
一方、GOPヘッダ/符号化有無情報復号部2100がGOPの符号化データの復号を指示しない情報を復号する場合には、生成参照GOP復号部208は、画像生成に使用するGOPの番号を復号して得る。GOPの番号が入力画像AまたはBに属する場合は、続いて、生成情報復号部209は、画像生成方法を指定する情報を復号し、画像生成方法の情報としてXまたはYを得る。GOPの番号が入力画像Cに属する場合は、生成情報復号部209は、画像生成方法Zが用いられていることを特定できるので、画像生成方法を指定する情報を復号しない。これを受けて、画像生成部207は、生成参照GOP復号部208で得られたGOP番号と、生成情報復号部209で得られた画像生成方法の情報の規定する画像生成方法とを使って画像を生成する。GOPの番号が入力画像Cに属する場合には、画像生成方法Zを使用する。
これを受けて、復号画像蓄積メモリ206は、GOPの符号化データを復号する場合には、復号画像を蓄積し、GOPの符号化データを復号しない場合には、画像生成部207で生成される画像を蓄積する。
(ii−2)GOPヘッダが検出されない場合の復号処理(GOPの符号化情報が符号化されていない場合)
GOPヘッダ/符号化有無情報復号部2100がGOPヘッダを検出しない場合には、次のように動作する。
すなわち、前フレームで符号化データを復号した場合には、GOP内画像復号部205は、現フレームにおいて符号化データを復号して画像を出力し、更に、その復号した画像を復号画像蓄積メモリ206に蓄積する。
一方、前フレームで符号化データを復号しなかった場合には、現フレームにおいて前フレームにおけるGOPの符号化情報と同一のGOPの符号化情報が用いられていることに対応して、生成参照GOP復号部208が前フレームで得たGOPの番号を復号処理に用いる。この場合、GOPの番号が入力画像AまたはBに属する場合には、生成情報復号部209が前フレームで画像生成方法を指定する情報としてXまたはYを得ているので、それを使って復号処理を行う。なお、ここでは、前フレームは先頭フレームであるので、GOPの番号が入力画像Cに属することはないが、GOPヘッダが検出されない場合の一般の復号処理として、GOPの番号が入力画像Cに属する場合には生成情報復号部209が前フレームで画像生成方法を指定する情報を復号していないことで、画像生成方法を指定する情報としてZを得ているので、それを使って復号処理を行う。
したがって、画像生成部207は、生成参照GOP復号部208が前フレームで得たGOP番号と、生成情報復号部209が前フレームで得た画像生成方法の情報とを使って画像を生成する。
これを受けて、復号画像蓄積メモリ206は、GOPの符号化データを復号する場合には、復号画像を蓄積し、GOPの符号化データを復号しない場合には、画像生成部207で生成される画像を蓄積する。
以上の動作により、GOP構成が予め決定されていない場合であっても、本発明の映像符号化装置は画像を符号化し、本発明の映像復号装置は符号化データを復号することができる。このとき得られる符号化データのGOPは図5のような構成になる。
図示実施形態例に従って本発明を説明したが、本発明はこれに限定されるものではない。
例えば、実施形態例では、Cの画像の生成方法を決定するために、AとBの復号画像を使用したが、AとBの原画像を使用してもよい。この場合には、映像符号化装置に、画像A符号化部102と画像A復号部103と画像B符号化部106と画像B復号部107とを備える必要はない。
また、実施形態例では、画像生成方法としてXとYを用意したが、いずれかのみ用意してもよい。この場合には、映像符号化装置に、生成情報符号化部116を備える必要がないとともに、映像復号装置に、生成情報復号部209を備える必要がない。
また、実施形態例では、画像生成方法としてZを用意したが、これを用意しなくてもよい。この場合には、Cの復号画像を蓄積する必要がないため、映像符号化装置に、画像C復号部111と復号画像蓄積メモリ112とを備える必要がないとともに、映像復号装置に、復号画像蓄積メモリ206を備える必要がない。
また、実施形態例では説明しなかったが、画像生成をするために使用するカメラ入力映像が予め決められている場合には、生成に使用するGOPを指定する必要がないため、映像符号化装置に、生成参照GOP符号化部115を備える必要がないとともに、映像復号装置に、生成参照GOP復号部208を備える必要がない。
また、実施形態例では、Cの画像を生成するために、同時刻のAまたはBの画像を使用したが、過去のAまたはBの画像を使用しても良く、また、複数の過去の画像を使用してもよい。
映像再生側で画像を生成できるかどうかを符号化時に判定し、更に生成することを示す情報を符号化することが可能となるため、画像符号化側で映像を符号化しないことを制御できるようになり、これにより符号化効率を向上できる。従って、視点位置や視線方向を変更することを可能とする映像技術などに好適となる映像符号化・復号技術を提供できる。

Claims (18)

  1. 複数の画像を複数のGOPで構成して、それぞれのGOPの画像を1つの映像として符号化する映像符号化方法であって、
    各GOPに含まれる画像を符号化するかどうかを決定するGOP符号化決定ステップと、
    当該GOPに含まれる画像の符号化データを出力するかどうかを示すGOP符号化有無情報を符号化するGOP符号化有無情報符号化ステップと、
    当該GOPに含まれる画像の符号化データを出力する場合に、該GOPに含まれる画像を符号化するGOP内画像符号化ステップと
    を有する映像符号化方法。
  2. 請求項1に記載の映像符号化方法において、
    上記GOP符号化決定ステップでは、当該GOPの符号化データの復号によらずに他の1以上のGOPを用いて生成される画像の方が符号化データの復号により得られる画像よりも原画像に近いか否かを判断することにより、当該GOPに含まれる画像を符号化するかどうかを決定する映像符号化方法。
  3. 請求項1に記載の映像符号化方法において、
    当該GOPに含まれる画像の符号化データを出力しない場合に、該GOPに含まれる画像を生成する際に使用する、他の1以上のGOPを指定する生成参照GOP指定情報を符号化する生成参照GOP符号化ステップ
    を更に有する映像符号化方法。
  4. 請求項1に記載の映像符号化方法において、
    当該GOPに含まれる画像の符号化データを出力しない場合に、該GOPに含まれる画像を生成する際に使用する、画像生成手法を指定する生成情報を符号化する生成情報符号化ステップ
    を更に有する映像符号化方法。
  5. 複数の画像を複数のGOPで構成して、それぞれのGOPの画像を1つの映像として符号化することで生成された符号化データを復号する映像復号方法であって、
    各GOPに含まれる画像の符号化データを復号するかどうかを示すGOP符号化有無情報を復号するGOP符号化有無情報復号ステップと、
    当該GOPに含まれる画像の符号化データを復号する場合に、GOPに含まれる画像を復号するGOP内画像復号ステップと
    を有する映像復号方法。
  6. 請求項5に記載の映像復号方法において、
    当該GOPに含まれる画像の符号化データを復号しない場合に、該GOPに含まれる画像を生成する際に使用する、他の1以上のGOPを指定する生成参照GOP指定情報を復号する生成参照GOP復号ステップ
    を更に有する映像復号方法。
  7. 請求項5に記載の映像復号方法において、
    当該GOPに含まれる画像の符号化データを復号しない場合に、該GOPに含まれる画像を生成する際に使用する、画像生成手法を指定する生成情報を復号する生成情報復号ステップ
    を更に有する映像復号方法。
  8. 複数の画像を複数のGOPで構成して、それぞれのGOPの画像を1つの映像として符号化する映像符号化装置であって、
    各GOPに含まれる画像を符号化するかどうかを決定するGOP符号化決定部と、
    当該GOPに含まれる画像の符号化データを出力するかどうかを示すGOP符号化有無情報を符号化するGOP符号化有無情報符号化部と、
    当該GOPに含まれる画像の符号化データを出力する場合に、GOPに含まれる画像を符号化するGOP内画像符号化部と
    を備える映像符号化装置。
  9. 請求項8に記載の映像符号化装置において、
    上記GOP符号化決定部は、当該GOPの符号化データの復号によらずに他の1以上のGOPを用いて生成される画像の方が符号化データの復号により得られる画像よりも原画像に近いのか否かを判断することにより、当該GOPに含まれる画像を符号化するかどうかを決定する映像符号化装置。
  10. 請求項8に記載の映像符号化装置において、
    当該GOPに含まれる画像の符号化データを出力しない場合に、該GOPに含まれる画像を生成する際に使用する、他の1以上のGOPを指定する生成参照GOP指定情報を符号化する生成参照GOP符号化部
    を更に備える映像符号化装置。
  11. 請求項8に記載の映像符号化装置において、
    当該GOPに含まれる画像の符号化データを出力しない場合に、該GOPに含まれる画像を生成する際に使用する、画像生成手法を指定する生成情報を符号化する生成情報符号化部
    を更に備える映像符号化装置。
  12. 複数の画像を複数のGOPで構成して、それぞれのGOPの画像を1つの映像として符号化することで生成された符号化データを復号する映像復号装置であって、
    各GOPに含まれる画像の符号化データを復号するかどうかを示すGOP符号化有無情報を復号するGOP符号化有無情報復号部と、
    当該GOPに含まれる画像の符号化データを復号する場合に、GOPに含まれる画像を復号するGOP内画像復号部と
    を備える映像復号装置。
  13. 請求項12に記載の映像復号装置において、
    当該GOPに含まれる画像の符号化データを復号しない場合に、該GOPに含まれる画像を生成する際に使用する、1以上の他のGOPを指定する生成参照GOP指定情報を復号する生成参照GOP復号部
    を更に備える映像復号装置。
  14. 請求項12に記載の映像復号装置において、
    当該GOPに含まれる画像の符号化データを復号しない場合に、該GOPに含まれる画像を生成する際に使用する、画像生成手法を指定する生成情報を復号する生成情報復号部
    を更に備える映像復号装置。
  15. 請求項1ないし4のいずれか1項に記載の映像符号化方法の実現に用いられる処理をコンピュータに実行させるための映像符号化プログラム。
  16. 請求項1ないし4のいずれか1項に記載の映像符号化方法の実現に用いられる処理をコンピュータに実行させるための映像符号化プログラムを記録したコンピュータ読み取り可能な記録媒体。
  17. 請求項5ないし7のいずれか1項に記載の映像復号方法の実現に用いられる処理をコンピュータに実行させるための映像復号プログラム。
  18. 請求項5ないし7のいずれか1項に記載の映像復号方法の実現に用いられる処理をコンピュータに実行させるための映像復号プログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2006539271A 2004-10-07 2005-09-30 映像符号化方法及び装置、映像復号方法及び装置、それらのプログラムおよびそれらプログラムを記録した記録媒体 Active JP4805160B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006539271A JP4805160B2 (ja) 2004-10-07 2005-09-30 映像符号化方法及び装置、映像復号方法及び装置、それらのプログラムおよびそれらプログラムを記録した記録媒体

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2004294414 2004-10-07
JP2004294414 2004-10-07
JP2006539271A JP4805160B2 (ja) 2004-10-07 2005-09-30 映像符号化方法及び装置、映像復号方法及び装置、それらのプログラムおよびそれらプログラムを記録した記録媒体
PCT/JP2005/018187 WO2006038568A1 (ja) 2004-10-07 2005-09-30 映像符号化方法及び装置、映像復号方法及び装置、それらのプログラムおよびそれらプログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JPWO2006038568A1 true JPWO2006038568A1 (ja) 2008-05-15
JP4805160B2 JP4805160B2 (ja) 2011-11-02

Family

ID=36142642

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006539271A Active JP4805160B2 (ja) 2004-10-07 2005-09-30 映像符号化方法及び装置、映像復号方法及び装置、それらのプログラムおよびそれらプログラムを記録した記録媒体

Country Status (7)

Country Link
US (1) US8275048B2 (ja)
EP (1) EP1798981A4 (ja)
JP (1) JP4805160B2 (ja)
KR (1) KR100972222B1 (ja)
CN (2) CN1918917A (ja)
TW (1) TWI285054B (ja)
WO (1) WO2006038568A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5568465B2 (ja) * 2008-09-18 2014-08-06 パナソニック株式会社 画像復号装置、画像符号化装置、画像復号方法、画像符号化方法およびプログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007010779A1 (ja) * 2005-07-15 2007-01-25 Matsushita Electric Industrial Co., Ltd. パケット送信装置
MX357910B (es) 2006-07-06 2018-07-30 Thomson Licensing Método y aparato para desacoplar el número de cuadro y/o la cuenta del orden de imagen (poc) para la codificación y decodificación de video de múltiples vistas.
ZA200900857B (en) 2006-07-06 2010-05-26 Thomson Licensing Method and apparatus for decoupling frame number and/or picture order count (POC) for multi-view video encoding and decoding
US10547860B2 (en) * 2015-09-09 2020-01-28 Avago Technologies International Sales Pte. Limited Video coding with trade-off between frame rate and chroma fidelity
CN111641824B (zh) * 2019-03-01 2022-08-05 杭州海康威视数字技术股份有限公司 视频倒放方法及装置

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02264522A (ja) 1989-04-04 1990-10-29 Matsushita Electric Ind Co Ltd 符号化装置
JP3307969B2 (ja) 1991-10-31 2002-07-29 ソニー株式会社 映像信号伝送装置
JPH0698312A (ja) 1992-09-16 1994-04-08 Fujitsu Ltd 画像高能率符号化方式
JP3426668B2 (ja) 1993-11-19 2003-07-14 三洋電機株式会社 動画像符号化方法
JPH07154799A (ja) * 1993-11-26 1995-06-16 Sanyo Electric Co Ltd 動画像符号化方法
US5767898A (en) 1994-06-23 1998-06-16 Sanyo Electric Co., Ltd. Three-dimensional image coding by merger of left and right images
JPH09261653A (ja) * 1996-03-18 1997-10-03 Sharp Corp 多視点画像符号化装置
JP3183155B2 (ja) 1996-03-18 2001-07-03 株式会社日立製作所 画像復号化装置、及び、画像復号化方法
KR100425615B1 (ko) 1996-11-07 2004-04-01 마쯔시다덴기산교 가부시키가이샤 부호화 방법 및 장치와 복호화 방법 및 장치
US6614846B1 (en) 1996-12-06 2003-09-02 Matsushita Electric Industrial Co., Ltd. Method and apparatus for transmitting, encoding and decoding video signal and recording/reproducing method of optical disc
JP2952226B2 (ja) * 1997-02-14 1999-09-20 日本電信電話株式会社 動画像の予測符号化方法および復号方法、動画像予測符号化または復号プログラムを記録した記録媒体、および、動画像予測符号化データを記録した記録媒体
US5991447A (en) * 1997-03-07 1999-11-23 General Instrument Corporation Prediction and coding of bi-directionally predicted video object planes for interlaced digital video
DE69942224D1 (de) 1998-01-27 2010-05-20 Sharp Kk Bewegtbilddecoder
US6137912A (en) 1998-08-19 2000-10-24 Physical Optics Corporation Method of multichannel data compression
JP2000278715A (ja) 1999-03-24 2000-10-06 Minolta Co Ltd 立体画像表示データ生成方法、立体画像表示データ生成装置および立体画像表示データを記録したコンピュータ読み取り可能な記録媒体
TW555114U (en) 2002-09-02 2003-09-21 Chung Shan Inst Of Science Real-time three-dimensional image acquistion and reconstuction device
JP2004140630A (ja) 2002-10-18 2004-05-13 Fujitsu Ltd フレーム間引き処理を行うための画像圧縮方法及び装置
US20050185711A1 (en) * 2004-02-20 2005-08-25 Hanspeter Pfister 3D television system and method
US20060047674A1 (en) * 2004-09-01 2006-03-02 Mohammed Zubair Visharam Method and apparatus for supporting storage of multiple camera views

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5568465B2 (ja) * 2008-09-18 2014-08-06 パナソニック株式会社 画像復号装置、画像符号化装置、画像復号方法、画像符号化方法およびプログラム

Also Published As

Publication number Publication date
CN1918917A (zh) 2007-02-21
US20080317115A1 (en) 2008-12-25
TWI285054B (en) 2007-08-01
CN103179400A (zh) 2013-06-26
EP1798981A4 (en) 2011-03-16
JP4805160B2 (ja) 2011-11-02
US8275048B2 (en) 2012-09-25
CN103179400B (zh) 2016-10-05
EP1798981A1 (en) 2007-06-20
KR100972222B1 (ko) 2010-07-23
TW200621032A (en) 2006-06-16
WO2006038568A1 (ja) 2006-04-13
KR20060118592A (ko) 2006-11-23

Similar Documents

Publication Publication Date Title
KR101859155B1 (ko) 높은 프레임 레이트 및 가변 프레임 레이트 캡처를 위한 비디오 압축 튜닝
JP5241500B2 (ja) カメラパラメータを利用した多視点動画符号化及び復号化装置並びに方法と、これを行うためのプログラムの記録された記録媒体
JP5580453B2 (ja) 直接モード符号化及び復号化装置
JP5197591B2 (ja) 映像符号化方法及び復号方法、それらの装置、それらのプログラム並びにプログラムを記録した記録媒体
US8542734B2 (en) Multi-view video encoding apparatus and method
JP4663792B2 (ja) 多視点動映像を符号化及び復号化する装置及び方法
JP2010515400A (ja) 全域差ベクトルを利用した多視点映像の符号化、復号化方法及び装置
JP2022501870A (ja) ビデオ符号化及び復号化
US20080166059A1 (en) Method and apparatus for encoding/decoding an image
EP2923491A1 (en) Method and apparatus for bi-prediction of illumination compensation
JP4805160B2 (ja) 映像符号化方法及び装置、映像復号方法及び装置、それらのプログラムおよびそれらプログラムを記録した記録媒体
JP2022501868A (ja) ビデオ符号化の動きベクトル予測子インデックス符号化
WO2012098845A1 (ja) 画像符号化方法、画像符号化装置、画像復号方法及び画像復号装置
GB2585017A (en) Video coding and decoding
US20100033594A1 (en) Image coding apparatus, image coding method, image coding integrated circuit, and camera
US20120140036A1 (en) Stereo image encoding device and method
TW201943279A (zh) 用於編碼在一視訊流中之一序列視框之方法、裝置及系統
US8594195B2 (en) Method and apparatus for encoding and decoding at least one image frame that is artificially inserted into image sequence
US11197014B2 (en) Encoding apparatus, decoding apparatus, and image processing system
JP6181242B2 (ja) 画像復号化方法
JP5951915B2 (ja) 画像復号化方法
JP5946980B1 (ja) 画像復号化方法
JP5911982B2 (ja) 画像復号化方法
JP5750191B2 (ja) 画像復号化方法
KR101261577B1 (ko) 다시점 동영상을 부호화 및 복호화하는 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080703

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110308

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110531

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110627

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110802

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110810

R151 Written notification of patent or utility model registration

Ref document number: 4805160

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140819

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350