JP3821714B2 - Moving picture encoding apparatus and moving picture recording / reproducing apparatus - Google Patents

Moving picture encoding apparatus and moving picture recording / reproducing apparatus Download PDF

Info

Publication number
JP3821714B2
JP3821714B2 JP2002003724A JP2002003724A JP3821714B2 JP 3821714 B2 JP3821714 B2 JP 3821714B2 JP 2002003724 A JP2002003724 A JP 2002003724A JP 2002003724 A JP2002003724 A JP 2002003724A JP 3821714 B2 JP3821714 B2 JP 3821714B2
Authority
JP
Japan
Prior art keywords
moving image
picture
encoded data
encoding
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002003724A
Other languages
Japanese (ja)
Other versions
JP2003209801A (en
Inventor
勝照 橋本
英一 高倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2002003724A priority Critical patent/JP3821714B2/en
Publication of JP2003209801A publication Critical patent/JP2003209801A/en
Application granted granted Critical
Publication of JP3821714B2 publication Critical patent/JP3821714B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、スロー再生のように、連続した同一画像の再生を一部に含む動画像信号を符号化する機能を有する動画像符号化装置およびこれを用いた動画像記録再生装置に関する。
【0002】
【従来の技術】
近年、よく知られたMPEG等の動画像圧縮技術を用いて、動画像信号に対して符号化処理を行い、磁気記録テープ、ハードディスク、DVD−RAM等の記録媒体に動画像符号化データを記録するシステムや、記録媒体に記録されている動画像符号化データに対して復号化処理を行い、動画像信号として再生するシステムが開発されている。
【0003】
このようなシステムにおいて、記録媒体に記録された動画像符号化データを再生し、他の機器へ伝送する機能を備えた装置も開発されているが、このような機器同士の接続においては、送信機器側において、受信機器側で扱うことができる動画像符号化データ形式に変換して送出する必要があり、サーチやスローなどのトリックプレイ状態を行う場合には工夫を要する。
【0004】
例えば、DVDへMPEGプログラムストリーム(以下、MPEG_PSと記す)形式で記録された信号を、MPEGトランスポートストリーム(以下、MPEG_TSと記す)形式に変換して、IEEE1394経由でセットトップボックス(以下、STBと記す)へ送信するシステムにおいて、ノーマル再生であれば、トランスコーディングと呼ばれる技術を用いて、符号化したままの状態でMPEG_PS形式からMPEG_TS形式に変換することは比較的容易である。しかしながら、スロー再生時などは、特別な仕組みを持たないSTBの復号化器で復号できる形式のMPEG_TS形式に変換することは困難である。
【0005】
したがって、あらゆる再生モードに対応できるように、一旦、復号化した動画像をMPEG_TS形式に符号化できる動画像符号化装置を追加することが容易な解決方法となるが、MPEGの動画像符号化装置には、大規模な回路を必要とする動き補償予測符号化回路が実装されているため、大幅なコスト増を招いてしまうという問題があった。
このような問題を解決する方法の一例として、符号化データを復号化した動画像信号に対して再符号化を行う動画像再符号化装置において、復号化前の動画像圧縮データに含まれる符号化パラメータを用いて符号化することにより、動き補償予測に必要な動きベクトル検出回路を省略しながらも、高画質な再符号化を実現可能とした動画像再符号化装置が、特開2000−244929号公報に開示されている。
【0006】
ここで、特開2000−244929号公報に開示されている技術を、図8〜図10を用いて具体的に説明する。
図8は、動画像再符号化装置を含むシステムの構成を示すブロック図、図9は、動画像再符号化装置内のビデオエンコーダの構成例を示すブロック図、図10は、動画像再符号化装置の動作タイミング例を示す模式図である。
【0007】
図8において、110はデータ分離部、111は音声データバッファメモリ、112は動画像データバッファメモリ、113は副映像データバッファメモリ、114はナビゲーションデータバッファメモリ、115はオーディオデコーダ、116はビデオデコーダ、117は副映像デコーダ、118は映像オーバレイ処理部、119は加算部、120はGUI画像信号発生部、121はオーディオエンコーダ、122はビデオエンコーダ、123はフレームメモリ、124は再符号化部音声データバッファメモリ、125は再符号化部動画像データバッファメモリ、126は多重化部、127はIEEE1394インターフェース、128は再符号化部、129は音声信号用D/A変換器、130は映像信号用D/A変換器、131はデータメモリ、150は光ディスク装置である。
【0008】
図9において、170は動き補償部、172は動き補償モードおよびDCTタイプ決定部、173はレート制御部、174はDCT処理部、175は量子化部、176は逆量子化部、177は逆DCT処理部、178は可変長符号化部である。
【0009】
図10において、(a)は動画像符号化データの復号化タイミング、(b)はビデオデコーダ116による1/3倍速のスロー再生時の復号化タイミング、(c)は1/3倍速のスロー再生として復号化された動画像信号、(d)は動画像再符号化処理タイミング、(e)は再復号化信号である。
【0010】
上述した構成からなる動画像再符号化装置を含むシステムの動作について簡単に説明する。
光ディスク装置150は例えばDVD規格のものであり、音声データ、符号化された動画像データ、副映像データ、ナビゲーションデータ等が多重化されて記録されている。
この光ディスク装置150から再生される信号は、データ分離部110に入力され、音声データ151、動画像データ152、副映像データ153、ナビゲーションデータ154の各データヘと分離される。分離された各データ151、152、153、154は、バッファメモリ111、112、113、114をそれぞれ経由して、オーディオデコーダ115、ビデオデコーダ116、副映像デコーダ117により復号化される。
【0011】
ビデオデコーダ116により動画像データを復号化して得られた動画像信号156に対して、副映像デコーダ117により副映像データを復号化して得られた副映像信号157と、再生装置がGUI(Graphical User Interface)画像信号発生部120によりユーザのオペレーション160に対応して独自に発生させるGUI画像信号159とが、加算部119を介して映像オーバレイ処理部(OSD)118によってオーバレイ(合成)処理される。
【0012】
そして、オーディオデコーダ115で音声データを復号化して得られた音声信号155と、映像オーバレイ処理部118でオーバレイ処理された動画像信号158は、それぞれD/A変換器129、130によりアナログ信号161、162に変換されて外部へ出力される。さらに、これらの音声信号155とオーバレイ処理後の動画像信号158は、それぞれオーディオエンコーダ121、ビデオエンコーダ122により再符号化される。この再符号化により得られた音声データおよび動画像データは、それぞれバッファメモリ124、125を経由して、多重化部126によりトランスポートストリームに多重化され、さらにIEEE1394インターフェース127からディジタル出力される。
【0013】
また、ビデオデコーダ116からは、復号化と同時にマクロブロック毎の動きベクトル、符号化モード、量子化ステップ等の復号化前の動画像データ152に含まれる符号化パラメータ164が抽出され、この符号化パラメータ164はデータメモリ131に一時記憶される。ビデオエンコーダ122には、データメモリ131に一時記憶された符号化パラメータデータから、再符号化を行う画像フレームおよびマクロブロックに対応する符号化パラメータが読み出され、外部から与えられる既定の動きベクトル情報165とともに入力される。
【0014】
図9に、動画像再符号化装置内のビデオエンコーダ122の構成例を示す。なお、図9において、図8に示す構成要素と同一の部分には、同一の符号を付している。
ビデオエンコーダ122は、MPEG2等に代表される動き補償予測直交変換符号化方式に基づいており、図9に示すように、動き補償部170、動き補償モード(符号化モード)およびDCTタイプ決定部172、DCT処理部174、量子化部175、逆量子化部176、逆DCT処理部177、フレームメモリ123、レート制御部173、可変長符号化部178から構成される。
【0015】
このビデオエンコーダ122は、通常のMPEG2エンコーダ等の動画像符号化装置で必要な動きベクトル検出回路が無いことが特徴となっている。通常の動画像符号化装置では、マクロブロック毎に動きベクトルを検出するために、膨大なブロックマッチング演算を必要とする。一般に、動きベクトル検出回路が符号化装置全体に占めるハードウェアリソースは非常に高い比率を占めるが、ビデオエンコーダ122では、このようなハードウェア規模の大きい動きベクトル検出部が不要である。すなわち、この動画像再符号化装置では、復号化前の動画像データ152から抽出した符号化パラメータ164の動きベクトル情報と、外部から与えられる既定の動きベクトル情報165との両者を用いて動き補償を行う。
【0016】
次に、動き補償モードおよびDCTタイプ決定部172により、それぞれの動き補償による予測誤差信号のパワーまたは大きさと、符号化対象画像信号のパワーまたは大きさから、符号化パラメータ164の動きベクトル情報あるいは動きベクトル情報165のいずれを用いるか、あるいはイントラ符号化を行うかをマクロブロック毎に決定する。
次に、復号化前の動画像データ152から抽出した符号化パラメータ164の動きベクトル情報による予測符号化が選択されたマクロブロックについては、後述するDCTタイプを復号化前の動画像データ152から抽出したDCTタイプと一致させ、また、それ以外の場合は、最適なDCTタイプの検出を行う。
【0017】
レート制御部173では、量子化部175で使用するマクロブロック毎の量子化ステップの決定を行う。すなわち、まず復号化前の動画像データ152から抽出した符号化パラメータ164の動きベクトル情報による予測符号化が選択されたマクロブロックについては、出力ビットレートの制約を受けない場合は、動画像データ162から柚出した量子化ステップをそのまま利用し、出力ビットレートの制約を受ける場合は、所望のビットレートとなるように、発生符号量180を参照して量子化ステップを決定する。また、外部からの既定の動きベクトル情報165が選択されたマクロブロック、あるいはイントラ符号化が選択されたマクロブロックについて、出力ビットレートの制約を受けない場合は、動画像データ152から抽出した量子化ステップ、または予め定められた所定の量子化ステップを用い、出力ビットレートの制約を受ける場合は、所望のビットレートとなるように、発生符号量180を参照して量子化ステップを決定する。
【0018】
以上のように構成された動画像再符号化装置において、ビデオデコーダ116に入力される動画像符号化データに対してスロー再生処理を行って復号化する方法と、前記スロー再生処理を行った復号化データに対する再符号化手順について詳細に説明する。なお、説明の都合上、スロー再生速度を1/3としてある。
【0019】
ここで、MPEG方式の符号化、復号化方法の特徴について簡単に説明する。MPEG方式の符号化は、動き補償予測、DCT処理および量子化処理からなり、時間軸の予測方向によって、Iピクチャ、Pピクチャ、Bピクチャの3種類に分類され、1枚のIピクチャと0枚以上のPピクチャおよびBピクチャからなるGOP構造に基づいて行われる。Iピクチャはフレーム内符号化画像、Pピクチャは時間的に先のIピクチャまたはPピクチャから予測されるフレーム間予測符号化画像、Bピクチャは時間的に後ろおよび先のIピクチャおよびPピクチャ、またはその一方から予測されるフレーム間予測符号化画像である。このため、Pピクチャを復号するためには予測の元になるIピクチャが、Bピクチャを再生するためには予測の元になるIピクチャおよびPピクチャが必要となる。
【0020】
図10において、I、B、Pはそれぞれのピクチャの種類、その後ろについている数字は表示順序を示しており、例えばI2ピクチャはフレーム内符号化画像、P5ピクチャはI2ピクチャから予測されるフレーム間予測符号化画像、B0ピクチャ、B1ピクチャはI2ピクチャから予測されるフレーム間予測符号化画像、B3ピクチャ、B4ピクチャはI2ピクチャとP5ピクチャから予測されるフレーム間予測符号化画像である。したがって、P5ピクチャの復号にはI2ピクチャが必要であり、B0ピクチャとB1ピクチャの復号にはI2ピクチャが必要であり、B3ピクチャとB4ピクチャの復号にはI2ピクチャとP6ピクチャが必要である。
【0021】
上述した復号化方法に沿って復号化を行った場合、一般的なMPEGの動画像の復号化タイミングは、図10(a)に示すようになる。B0ピクチャ、B1ピクチャはI2ピクチャの処理が行われるまで参照できず、B3ピクチャ、B4ピクチャはI2ピクチャとP5ピクチャの処理が行われるまで参照できないからである。1/3倍速のスロー再生を行う場合、同一フレームのデータを3回ずつ繰り返して表示すればよいが、図10(b)に示すように、3フレーム間隔でMPEGデータを受け取っても、特別な仕掛けを持たないMPEGデコーダを備えた装置では上手く表示することができない。
【0022】
そこで、符号化された動画像データにスロー再生処理を行って復号化を行う場合には、フレーム周期の整数倍のタイミングで複合化を行い(1/3倍速のスロー再生を実現する場合では3倍)、復号化をしていない時には同一の表示フレームを繰り返し表示することでスロー再生が実現され、復号化された動画像信号は、図10(c)に示すようになる。なお、図10(c)において、数字のみを付した部分が、同じ数字を付したI、P、Bピクチャと同一フレームのデータを繰り返し表示している部分である。
【0023】
一方、1/3倍速のスロー再生として、復号化された動画像信号である図10(c)に示す信号に対して再符号化を行った場合、再符号化出力は符号化手順とフレーム間予測の構造を考慮して、間10(d)に示すようなタイミングで再符号化処理が行われる。符号化データを復号化した時に抽出した符号化パラメータを使用して再符号化を行うため、B0ピクチャ、B1ピクチャはI2ピクチャの処理が行われるまで処理できないからである。
【0024】
ここで、B0ピクチャ、B1ピクチャのフレームは、同一の動画像フレームを繰り返しBピクチャとして再符号化しており、またP2’ピクチャはI2ピクチャと同一の動画像フレームをPピクチャとして再符号化したもので、そのとき参照画像と予測画像が一致するため、ゼロベクトルの動き補償予測符号化を行うことにより、予測誤差信号は常にゼロとなり符号化効率の非常に高い符号化を行うことができるとされている。
【0025】
【発明が解決しようとする課題】
しかしながら、上述した従来の技術で示した方法では、Iピクチャと同一の同画像フレームをゼロベクトルを用いた動き補償予測符号化を用いてP’ピクチャとして再符号化する場合、P’ピクチャの差分は、既に再復号化されたIピクチャの動画像信号と、動画像信号であるPピクチャ(つまり再符号化前のIピクチャ)との差分として求められるため、ゼロベクトルを用いた動き補償予測符号化を行っても、図9に示すDCT処理部174、量子化部175による処理を行うために、誤差が生じる可能性があり、差分は常に0にはならない。よって、再復号化されたP’ピクチャと再復号化されたIピクチャとは同一画像にならず、再復号化された動画像信号は、図10(e)に示すようになる。
【0026】
また、動画像データの復号化をフレーム周期の整数倍のタイミングで行い(1/3倍速のスロー再生を実現する場合では3倍)、復号化していないときは同一の表示フレームを繰り返し表示しているため、再符号化時のGOPを構成するピクチャ数がフレーム周期の整数倍だけ(1/3倍速のスロー再生に対しての再符号化である場合には3倍)増加することになる。
【0027】
この場合、再符号化した動画像圧縮データをIEEE1394経由で出力し、受信側で復号して表示するだけならば問題ないが、再符号化した動画像圧縮データをランダムアクセス可能なメディアに記録する場合には、以下の問題が生じる。
すなわち、再符号化した動画像圧縮データに対して、GOPの途中から再生するといったランダムアクセスを行った場合に、B、Pピクチャの復号を行うために必要なIピクチャ、Pピクチャの復号処理が、P2’ピクチャ、P5’ピクチャの分だけ増えてしまい、逆方向再生や逆方向スロー再生などではより顕著になるという問題が生じる。また、GOP単位のつなぎ編集作業を行う場合に、1つのGOPで構成される時間が長くなるため、自由度が低下するという問題が生じる。
【0028】
また、上述した従来の技術における再符号化方法は、符号化データを復号化した時に抽出した符号化パタメータを使用することが前提であるため、DV方式などのMPEG以外の動画像符号化データの場合には適応できないといった問題があった。
【0029】
このように、上述した従来の技術では、低コストで動画像再符号化装置を追加することが可能である反面、種々の問題点があった。一方、市販されているMPEGデータ再生装置には、外部からのアナログ入力信号をMPEG符号化して記録する回路を備えた装置もあり、このような装置においては、再符号化のためだけに、動画像符号化装置を追加する必要はないため、動き補償予測に必要な動きベクトル検出回路を実装した符号化装置を備えることができる。
【0030】
本発明は、上述した事情に鑑み提案されたもので、動き補償予測に必要な動きベクトル検出回路を実装した符号化装置を用いることを前提とし、連続した同一画像フレームの処理に対する符号化手段において、動画像符号化データを復号化した場合であって画像の同一画像表示を維持できるように符号化し、画像の切り替わりに応じてGOP構成を制御することにより、ランダムアクセスの再生時に画面を表示するまでのピクチャ処理枚数の増加を防ぐとともに、つなぎ編集時の自由度を高め、さらに、MPEG以外の圧縮形態に対しても同様の符号化を行うことが可能な動画像符号化装置およびこれを用いた動画像記録再生装置を提供することを目的とする。
【0031】
【課題を解決するための手段】
本発明に係る動画像符号化装置は、動画像信号を符号化するための動画像符号化装置において、符号化する動画像信号が直前または直後のフレームの動画像信号と同一であるか否かを検出するための画像切り替え検出手段と、動画像信号を符号化して動画像符号化データを生成するための動画像符号化手段と、差分0のBピクチャの符号化データを生成するための差分0符号化データ生成手段と、前記動画像符号化手段から出力される符号化データと前記差分0符号化データ生成手段から出力される符号化データを選択するための符号化データ選択手段とを備え、前記符号化データ選択手段は、符号化する動画像信号が直後のフレームの画像と同一である場合には、前記差分0符号化データ生成手段から出力される差分0の逆方向予測のBピクチャ符号化データを選択し、符号化する動画像信号が直後のフレームの画像と異なる場合には、前記動画像符号化手段から出力される符号化データを選択することを特徴とするものである。
【0033】
また、本発明に係る動画像符号化装置は、GOPを構成するピクチャ数の上限を設定し、入力される動画像信号のスロー再生速度に応じて、GOPを構成するピクチャ数を設定した上限値以下で可変とすることを特徴とするものである。
【0034】
また、本発明に係る動画像符号化装置は、動画像信号を符号化するための動画像符号化装置において、符号化する動画像信号が直前または直後のフレームの動画像信号と同一であるか否かを検出するための画像切り替え検出手段と、動画像信号を符号化して動画像符号化データを生成するための動画像符号化手段と、差分0のBおよびPピクチャの符号化データを生成するための差分0符号化データ生成手段と、前記動画像符号化手段から出力される符号化データと前記差分0符号化データ生成手段から出力される符号化データを選択するための符号化データ選択手段とを備え、
前記符号化データ選択手段は、前記画像切り替え検出手段で検出された情報に基づいて、前記動画像符号化手段から出力される符号化データと前記差分0符号化データ生成手段から出力される符号化データのいずれか一方を選択することを特徴とするものである。
【0035】
また、本発明に係る動画像符号化装置は、動画像信号を符号化するための動画像符号化装置において、符号化する動画像信号が直前または直後のフレームの動画像信号と同一であるか否かを検出するための画像切り替え検出手段と、動画像信号を符号化して動画像符号化データを生成するための動画像符号化手段と、差分0のBおよびPピクチャの符号化データを生成するための差分0符号化データ生成手段と、前記動画像符号化手段から出力される符号化データと前記差分0符号化データ生成手段から出力される符号化データを選択するための符号化データ選択手段とを備え、前記符号化データ選択手段は、符号化する動画像信号が直前または直後のフレームの画像と同一で、BピクチャまたはPピクチャとして符号化する場合には、前記差分0符号化データ生成手段から出力される差分0の逆方向予測のBピクチャ符号化データ、差分0の順方向予測のBピクチャ符号化データ、差分0の順方向予測のPピクチャ符号化データのうちのいずれかを選択し、符号化する動画像信号が直後のフレームの画像と異なる場合には、前記動画像符号化手段から出力される符号化データを選択することを特徴とするものである。
【0037】
また、本発明に係る動画像符号化装置は、前記画像切り替え検出手段が、外部から供給される動画像信号の切り替え情報を参照して、入力される動画像信号が直前または直後のフレームの動画像信号と同一であるか否かを検出することを特徴とするものである。
【0038】
また、本発明に係る動画像記録再生装置は、動画像信号を符号化した符号化データを記録再生するための動画像記録再生装置において、
前記動画像符号化装置と、動画像符号化データを記録再生するための記録メディアと、符号化データを復号するための動画像復号化手段とを備え、
前記記録メディアに記録された信号のスロー再生あるいはスチル再生を行う場合に、前記動画像復号化手段により、復号した動画像信号が直前または直後のフレームの動画像信号と同一であるか否かの切り替え情報を生成し、前記動画像符号化装置内の画像切り替え検出手段により、前記切り替え情報を参照して直前または直後のフレームの動画像信号と同一であるか否かを検出することを特徴とするものである。
【0039】
また、本発明に係る動画像記録再生装置は、動画像信号を符号化した符号化データを記録再生するための動画像記録再生装置において、
前記動画像符号化装置と、動画像符号化データを記録再生するための記録メディアと、外部機器から供給される動画像符号化データを復号するための動画像復号化手段とを備え、
外部機器がスロー再生あるいはスチル再生を行う場合に、前記動画像復号化手段により、前記動画像符号化データに付加された画面切り替え情報に基づいて復号した動画像信号が直前または直後のフレームの動画像信号と同一であるか否かの切り替え情報を生成し、前記動画像符号化装置内の画像切り替え検出手段により、前記切り替え情報を参照して直前または直後のフレームの動画像信号と同一であるか否かを検出することを特徴とするものである。
【0040】
以上のような構成とすることにより、スロー再生などの同一の動画像フレームが続いた画像を処理する際に、差分0の逆方向予測のBピクチャ符号化データ、または、差分0の順方向予測のBピクチャ符号化データ、または、差分0の順方向予測のPピクチャ符号化データを選択して使用して、動画像圧縮データを復号化した場合であっても同一画像表示を実現することができる。さらに、GOP構成をユーザの意図に応じて制御することにより、ランダムアクセスの再生時に画面を表示するまでのピクチャ処理枚数の増加を防ぐことができるとともに、つなぎ編集時の自由度を高めることができる。
また、MPEG以外の圧縮方式に対しても、同様の符号化方法を適用することができる。
なお、GOPとは、Group Of Picturesを意味する。
【0041】
【発明の実施の形態】
以下、図面を参照して、本発明に係る動画像符号化装置の実施形態を説明する。
【0042】
<動画像符号化装置>
図1〜図5は、本発明の実施形態に係る動画像符号化装置を示すもので、図1は、動画像符号化装置を含むシステム構成を示すブロック図、図2は、1/3倍速スロー再生に対する動画像符号化動作タイミング例を示す模式図、図3は、1/5倍速スロー再生に対する動画像符号化動作タイミング例を示す模式図、図4は、ノーマル再生から1/3倍速スロー再生に移行する部分を含む動画像信号に対する動画像符号化動作タイミング例を示す模式図、図5は、1/3倍速スロー再生からノーマル再生に移行する部分を含む動画像信号に対する動画像符号化動作タイミング例を示す模式図である。
【0043】
図1において、1は動画像信号入力端子、2は動画像信号の記憶バッファ、3は画面切り替え検出回路、4は差分0のBおよびPピクチャ符号化データ生成部、5は符号化制御部、6はDCT処理部、7は量子化部、8、9は参照用の画像を格納するための予測メモリ「1」および「2」、10はBピクチャの内挿的フレーム間予測符号化のための平均化回路、11は逆量子化部、12は逆DCT処理部、13は動画像データ出力端子である。
【0044】
図2〜図5において、各図の(a)は、入力される動画像信号、各図の(b)は、符号化を行った場合の符号化順の符号化データ、各図の(c)は、符号化を行った場合の復号化時の表示順の符号化データである。また、各図の(a)における「0」、「1」、「2」等の数字は、画像が切り替わる度に更新される番号である。すなわち、各図の(a)において、同じ番号がついている場合には、同一画像であることを示す。また、各図の(b)、(c)におけるI0、P1、B2などは、符号化時のピクチャの種類、すなわち、Iピクチャ、Pピクチャ、Bピクチャの識別と、対応する入力画像を識別する番号を示し、B0F、B0Bの最後のFとBはBピクチャの予測方向、すなわち順方向(Forward)と逆方向(Backward)とを示している。
【0045】
以上のように構成された動画像符号化装置において、動画像信号入力端子1から入力された動画像信号を符号化する方法について、具体的に説明する。
まず、動画像信号入力端子1から入力された動画像信号は、動画像信号の記憶バッファ2と画面切り替え検出回路3へ入力され、画面切り替え検出回路3では、入力されたフレーム画像が、直前のフレーム画像と同一であるか否かが検出される。
【0046】
図2(a)に示す動画像信号が入力された場合に、先頭のピクチャ0は2番目のピクチャ0と、2番目のピクチャ0は3番目のピクチャ0と同一画像と判断され、符号化せずに、2枚の差分0の逆方向予測のBピクチャが必要であると計数される。
3番目のピクチャ0は次のピクチャ1と同一画像でないと判断され、符号化制御部5でIピクチャに設定され、DCT処理部6、量子化部7における符号化処理を行った符号化データI0が、動画像データ出力端子13へ出力されるとともに、符号化データI0に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「1」8へ格納する。
【0047】
その後、差分0のBおよびPピクチャ符号化データ生成部4から、Bピクチャ符号化データであるB0Bを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
続いて、1番目のピクチャ1は2番目のピクチャ1と、2番目のピクチャ1は3番目のピクチャ1と同一画像と判断され、符号化せずに、2枚の差分0の逆方向予測のBピクチャが必要であると計数される。
【0048】
3番目のピクチャ1は次のピクチャ2と同一画像でないと判断され、符号化制御部5でPピクチャに設定され、予測メモリ「1」8に格納されたI0の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データP1が、動画像データ出力端子13へ出力されるとともに、符号化データP1に対して、逆量子化部11、逆DCT処理部12で処理を行い、予測メモリ「2」9へ格納する。
その後、差分0のBおよびPピクチャ符号化データ生成部4から、Bピクチャ符号化データであるB1Bを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
【0049】
以下、同様の手順で、ピクチャ2以降の処理を繰り返し、符号化してゆくことで、図2(b)に示す符号化データを出力することができる。
なお、図2(b)に示す符号化データのGOP構成は、一例として、15フレームで巡回するように構成してあるので、ピクチャ5はIピクチャとして符号化されている。
【0050】
このようにして生成した図2(b)に示す符号化データに対して、一般のMPEG復号化装置で復号化処理を行うと、表示順は図2(c)に示すようになる。この場合、B0B、B1B、B2Bなど全てのBピクチャは差分0の逆方向予測の符号化データであるため、3フレーム期間全く同一の画像を表示することができる。
【0051】
次に、GOP構成の設定方法について説明する。
第1の方法は、GOPを構成するピクチャ数の上限を決める方法であり、第2の方法は、GOPを構成するピクチャ数およびI、P、Bピクチャの位置関係を一定にする方法である。
【0052】
まず、第1の方法について詳しく説明する。一例として、GOPを構成するピクチャ数の上限を15とし、入力される動画像信号のスロー再生速度として、1/3倍速、1/4倍速、1/5倍速、1/6倍速、1/7倍速が可能な装置とする。この時、ピクチャ数の上限は15であるため、1/3倍速、1/5倍速時はピクチャ数15のGOP構成、1/4倍速、1/6倍速時はピクチャ数12のGOP構成、1/7倍速時はピクチャ数14のGOP構成とすることで、容易に前述した符号化を適用することが可能となる。
このようにして、スロー再生速度が分かっている場合には、スロー再生速度に応じてGOPを構成するピクチャ数を設定した上限値以下で可変とすることにより、ランダムアクセスやGOP単位のつなぎ編集に有利なGOP構成とすることができる。
【0053】
次に、第2の方法について詳しく説明する。一例として、GOPを構成するピクチャ数を15、IピクチャまたはPピクチャが出現する周期を3、すなわち、その間に挿入されるBピクチャを2とし、入力される動画像信号のスロー再生速度として、1/3倍速、1/5倍速が可能な装置とする。1/3倍速においては、本実施形態で用いた符号化方法をそのまま適用すれば、GOPを構成するピクチャ数を15、IピクチャまたはPピクチャが出現する周期を「3」として符号化することができる。
次に、1/5倍速時の動作を、図3を参照しながら説明する。1/5倍速時は、IピクチャまたはPピクチャの周期と画面の切り替わりが同期していないため、工夫を要する。
【0054】
図3(a)に示す動画像信号が入力された場合には、先頭のピクチャ0は直後の2番目のピクチャ0と、2番目のピクチャ0は直後の3番目のピクチャ0と同一画像と判断され、符号化せずに、2枚の差分0の逆方向予測のBピクチャが必要であると計数される。
3番目のピクチャ0は4番目のピクチャ0と同一画像であるが、GOP構成を遵守するために、符号化制御部5で強制的にIピクチャに設定され、DCT処理部6、量子化部7の符号化処理を行った符号化データI0が、動画像データ出力端子13へ出力されるとともに、符号化データI0に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「1」8へ格納する。
【0055】
その後、差分0のBおよびPピクチャ符号化データ生成部4から、差分0の逆方向予測のBピクチャ符号化データであるB0Bを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
続いて、4番目のピクチャ0は直前の3番目のピクチャ0と、5番目のピクチャ0は直前の4番目のピクチャ0と同一画像と判断され、符号化せずに、2枚の差分0の順方向予測のBピクチャが必要であると計数される。
【0056】
次のピクチャ1は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定され、予測メモリ「1」8に格納されたI0の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データP1が、動画像データ出力端子13へ出力されるとともに、符号化データP1に対して、逆量子化部11、逆DCT処理部12における処理を行い、予測メモリ「2」9へ格納する。
【0057】
その後、差分0のBおよびPピクチャ符号化データ生成部4から、差分0の順方向予測のBピクチャ符号化データであるB0Fを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
続いて、2番目のピクチャ1は直前の1番目のピクチャ1と、3番目のピクチャ1は直前の2番目のピクチャ1と同一画像と判断され、符号化せずに、2枚の差分0の順方向予測のBピクチャが必要であると計数される。
【0058】
4番目のピクチャ1は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定される。ただし、4番目のピクチャ1は直前にPピクチャとして符号化された1番目のピクチャ1と同一画像であるため、予測符号化は行わず、差分0のBおよびPピクチャ符号化データ生成部4から、差分0のPピクチャ符号化データP1’を読み出して、動画像データ出力端子13に出力する。
【0059】
その後、差分0の順方向予測のBピクチャ符号化データであるB1Fを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
続いて、5番目のピクチャ1は直前の4番目のピクチャ1と同一画像と判断され、符号化せずに、1枚の差分0の順方向予測のBピクチャが必要であると計数される。
【0060】
1番目のピクチャ2は直後の2番目のピクチャ2と同一画像と判断され、符号化せずに、1枚の差分0の逆方向予測のBピクチャが必要であると計数される。
2番目のピクチャ2は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定され、予測メモリ「2」9に格納されたP1の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データP2が、動画像データ出力端子13へ出力されるとともに、符号化データP1に対して、逆量子化部11、逆DCT処理部12で処理を行い、予測メモリ「1」8へ格納する。
【0061】
その後、差分0のBおよびPピクチャ符号化データ生成部4から、順方向予測のBピクチャ符号化データであるB1Fを先程計数された1回、差分0の逆方向予測のBピクチャ符号化データであるB2Bを先程計数された1回分読み出して、動画像データ出力端子13へ出力する。
続いて、3番目のピクチャ2は直前の2番目のピクチャ2と、4番目のピクチャ2は直前の3番目のピクチャ2と同一画像と判断され、符号化せずに、2枚の差分0の順方向予測のBピクチャが必要であると計数される。
【0062】
5番目のピクチャ2は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定される。ただし、5番目のピクチャ2は直前にPピクチャとして符号化された2番目のピクチャ2と同一画像であるため、予測符号化は行わず、差分0のBおよびPピクチャ符号化データ生成部4から、差分0の順方向予測のPピクチャ符号化データP2’を読み出して、動画像データ出力端子13へ出力する。
その後、Bピクチャ符号化データであるB2Fを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
【0063】
以上の手順で符号化することにより、図3(b)に示す符号化データを生成することができる。また、図3(b)に示す符号化データに対して、一般のMPEG復号化装置で復号化処理を行うと、表示順は図3(c)に示すようになる。この場合、B0B、B0F、B1F、B2B、B2Fなど全てのBピクチャは差分0の順方向予測または逆方向予測の符号化データであり、P1’やP2’ピクチャは差分0の順方向予測の符号化データであるため、5フレーム期間全く同一の画像を表示することができる。
【0064】
なお、本実施形態では、同一画像のIまたはPピクチャの間に含まれるBピクチャについて予測方向を定めているが、復号結果が同じであれば予測方向はどちらであってもよい。例えば、P1ピクチャとP1’ピクチャの間のBピクチャを順方向予測のB1Fピクチャとしたが、逆方向予測のB1Bピクチャであっても復号化結果は同様になることは明白である。
【0065】
以上説明したように、IピクチャまたはPピクチャの周期と画面の切り替わりが同期していない場合であっても、入力された動画像信号が同一である場合には、それに対応する復号画像が同一となるとともに、GOPを構成するピクチャ数およびI、P、Bピクチャの位置関係を一定にして符号化することができる。
【0066】
次に、通常再生とスロー再生との移行がある動画像信号を、上述したGOP構成の第2の方法に沿って符号化する方法について、図4、図5を用いて具体的に説明する。
【0067】
図4において、(a)はノーマル再生から1/3倍速スロー再生に移行する部分を含む動画像信号、(b)はGOP構成の第2の方法によって符号化を行った場合の符号化順の符号化データ、(c)はGOP構成の第2の方法によって符号化を行った場合の表示順の符号化データである。
また、図5において、(a)は1/3倍速スロー再生からノーマル再生に移行する部分を含む動画像信号、(b)はGOP構成の第2の方法によって符号化を行った場合の符号化順の符号化データ、(c)はGOP構成の第2の方法によって符号化を行った場合の表示順の符号化データである。
【0068】
まず、ノーマル再生から1/3倍速スロー再生に移行する部分を含む動画像信号に対する動画像符号化方法について説明する。
図4(a)に示す動画像信号が入力された場合には、ピクチャ0は直後のピクチャ1と、ピクチャ1は直後のピクチャ2と同一画像ではないため、GOP構成を遵守するために、符号化制御部5で強制的にBピクチャに設定される。
【0069】
ピクチャ2は、GOP構成を遵守するために、符号化制御部5で強制的にIピクチャに設定され、DCT処理部6、量子化部7における符号化処理を行った符号化データI2が、動画像データ出力端子13へ出力されるとともに、符号化データI2に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「1」8へ格納する。
【0070】
その後、Bピクチャに設定されたピクチャ0、ピクチャ1に対して、予測メモリ「1」8に格納されたI2の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データB0、B1が、動画像データ出力端子13へ出力される。
続いて、ピクチャ3は直後のピクチャ4と、ピクチャ4は直後のピクチャ5と同一画像ではないため、GOP構成を遵守するために、符号化制御部5で強制的にBピクチャに設定される。
【0071】
ピクチャ5は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定され、予測メモリ「1」8に格納されたI2の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データP5が、動画像データ出力端子13へ出力されるとともに、符号化データP5に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「2」9へ格納する。
その後、Bピクチャに設定されたピクチャ3、ピクチャ4について、予測メモリ「1」8に格納されたI2の復号化データ、予測メモリ「2」9に格納されたP5の復号化データおよびその平均との動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データB3、B4が、動画像データ出力端子13へ出力される。
【0072】
1番目のピクチャ6は直後の2番目のピクチャ6と、2番目のピクチャ6は直後の3番目のピクチャ6と同一画像と判断され、符号化せずに、2枚の差分0の逆方向予測のBピクチャが必要であると計数される。
3番目のピクチャ6は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定され、予測メモリ「2」9に格納されたP5の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データP6が、動画像データ出力端子13へ出力されるとともに、符号化データP6に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「1」8へ格納する。
【0073】
その後、差分0のBおよびPピクチャ符号化データ生成部4から、差分0の逆方向予測のBピクチャ符号化データであるB6Bを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
続いて、1番目のピクチャ7は直後の2番目のピクチャ7と、2番目のピクチャ7は直後の3番目のピクチャ7と同一画像と判断され、符号化せずに、2枚の差分0の逆方向予測のBピクチャが必要であると計数される。
【0074】
3番目のピクチャ7は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定され、予測メモリ「1」8に格納されたP6の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データP7が、動画像データ出力端子13へ出力されるとともに、符号化データP7に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「2」9へ格納する。
その後、差分0のBおよびPピクチャ符号化データ生成部4から、差分0の逆方向予測のBピクチャ符号化データであるB7Bを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
【0075】
以上の手順で符号化することにより、図4(b)に示す符号化データを生成することができる。また、図4(b)に示す符号化データに対して、一般のMPEG復号化装置で復号化処理を行うと、表示順は図4(c)に示すようになる。
【0076】
次に、1/3倍速スロー再生からノーマル再生に移行する部分を含む動画像信号に対する動画像符号化手段について説明する。
図5(a)に示す動画像信号が入力された場合には、1番目のピクチャ0は直後の2番目のピクチャ0と、2番目のピクチャ0は直後の3番目のピクチャ0と同一画像と判断され、符号化せずに、2枚の差分0の逆方向予測のBピクチャが必要であると計数される。
【0077】
3番目のピクチャ0は、GOP構成を遵守するために、符号化制御部5で強制的にIピクチャに設定され、DCT処理部6、量子化部7における符号化処理を行った符号化データI0が、動画像データ出力端子13へ出力されるとともに、符号化データI0に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「1」8へ格納する。
【0078】
その後、差分0のBおよびPピクチャ符号化データ生成部4から、差分0の逆方向予測のBピクチャ符号化データであるB0Bを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
続いて、1番目のピクチャ1は直後の2番目のピクチャ1と、2番目のピクチャ1は直後の3番目のピクチャ1と同一画像と判断され、符号化せずに、2枚の差分0の逆方向予測のBピクチャが必要であると計数される。
【0079】
3番目のピクチャ1は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定され、予測メモリ「1」8に格納されたI0の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データP1が、動画像データ出力端子13へ出力されるとともに、符号化データP1に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「2」9へ格納する。
【0080】
その後、差分0のBおよびPピクチャ符号化データ生成部4から、差分0の逆方向予測のBピクチャ符号化データであるB1Bを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
続いて、1番目のピクチャ2は直後の2番目のピクチャ2と、2番目のピクチャ2は直後の3番目のピクチャ2と同一画像と判断され、符号化せずに、2枚の差分0の逆方向予測のBピクチャが必要であると計数される。
【0081】
3番目のピクチャ2は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定され、予測メモリ「2」9に格納されたP1の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データP2が、動画像データ出力端子13へ出力されるとともに、符号化データP2に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「1」8へ格納する。
その後、差分0のBおよびPピクチャ符号化データ生成部4から、差分0の逆方向予測のBピクチャ符号化データであるB2Bを先程計数された2回分読み出して、動画像データ出力端子13へ出力する。
【0082】
ピクチャ3は直後のピクチャ4と、ピクチャ4は直後のピクチャ5と同一画像ではないため、GOP構成を遵守するために、符号化制御部5で強制的にBピクチャに設定される。
ピクチャ5は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定され、予測メモリ「1」8に格納されたP2の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データP5が、動画像データ出力端子13へ出力されるとともに、符号化データP5に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「2」9へ格納する。
【0083】
その後、Bピクチャに設定されたピクチャ3、ピクチャ4について、予測メモリ「1」8に格納された復号化データ、予測メモリ「2」9に格納されたP5の復号化データおよびその平均との動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データB3、B4が、動画像データ出力端子13へ出力される。
続いて、ピクチャ6は直後のピクチャ7と、ピクチャ7は直後のピクチャ8と同一画像ではないため、GOP構成を遵守するために、符号化制御部5で強制的にBピクチャに設定される。
【0084】
ピクチャ8は、GOP構成を遵守するために、符号化制御部5で強制的にPピクチャに設定され、予測メモリ「2」9に格納されたP5の復号化データとの動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データP8が、動画像データ出力端子13へ出力されるとともに、符号化データP8に対して、逆量子化部11、逆DCT処理部12で復号化処理を行い、予測メモリ「1」8へ格納する。
【0085】
その後、Bピクチャに設定されたピクチャ6、ピクチャ7について、予測メモリ「1」8に格納されたP8の復号化データ、予測メモリ「2」9に格納されたP5の復号化データおよびその平均との動き予測補償後の差分に対して、DCT処理部6、量子化部7における符号化処理を行った符号化データB6、B7が、動画像データ出力端子13へ出力される。
【0086】
以上の手順で符号化することにより、図5(b)に示す符号化データを生成することができる。また、図5(b)に示す符号化データに対して、一般のMPEG復号化装置で復号化処理を行うと、表示順は図5(c)に示すようになる。
このようにして、GOP構造の途中で再生モードが変わった場合であっても、本実施形態に係る動画像符号化装置に適応することができる。
【0087】
<動画像記録再生装置>
次に、図6、図7を参照して、本発明係る動画像符号化装置を用いた動画像記録再生装置を説明する。
図6、図7は、本発明に係る動画像符号化装置を用いた動画像記録再生装置を示すもので、図6は、ディスク記録再生装置のスロー再生時に適用した例、図7は、DV入力信号を復号して、再度MPEG符号化して記録再生する場合の構成例を示している。
【0088】
図6において、21は動画像信号入力端子、22は動画像入力信号セレクタ、23は上述した実施形態で説明したMPEG符号化部、24はMPEG復号化部、25はメディアヘの記録再生信号処理部、26は符号化データを送受信するためのIEEE1394端子、27は記録メディア、28は記録再生装置全体を司るシステムコントローラ、29は動画像データ出力端子である。
また、図7において、図6と同一のブロックについては同一の符号を付してあるため、追加されたもののみ説明すると、30はIEEE1394端子26を経由して入力されたDV圧縮信号を復号するためのDV復号化部、31は動画像出力信号セレクタである。
【0089】
以上のように構成された動画像記録再生装置において、動画像信号入力端子21から入力された動画像信号を記録する方法、記録メディア27に記録された符号化データをスロー再生し再度MPEG符号化してIEEE1394端子26から出力する方法、IEEE1394端子26から入力されたDV圧縮信号を復号し、再度MPEG符号化して記録メディア27に記録する方法について、具体的に説明する。
なお、DV圧縮信号とは、「HD DIGITAL VCR CONFERENCE」で規定され、主に民生用ディジタルVCRで用いられている圧縮信号のことである。
【0090】
まず、動画像信号入力端子21から入力された動画像信号を記録する方法について、記録メディア27をDVDであるとして説明する。
動画像信号入力端子21から入力された動画像信号は、動画像入力信号セレクタ22を介して、MPEG符号化部23に供給される。MPEG符号化部23では、入力された動画像信号をDVDの記録フィーマットであるMPEG_PS形式で符号化して、記録再生信号処理部25へ供給する。記録再生信号処理部25では、前記符号化データに対して、再生時に発生するであろう誤りを訂正するためのパリティを付加する誤り訂正符号化やディジタル変調処理を行って、記録メディア27に記録する。
【0091】
次に、このようにして記録メディア27に記録された符号化データをスロー再生する場合に、再度MPEG符号化して、IEEE1394端子26から出力する方法について説明する。
記録メディア27から再生された信号は、記録再生信号処理部25でディジタル復調された後、再生時に誤りがあった場合には訂正処理を行い、元の符号化データが再構築される。このようにして再生された符号化データは、システムコントローラ28の指示に基づいて、MPEG復号化部24へ供給され、MPEG復号化処理を行い、動画像信号が復元される。
【0092】
1/3倍速のスロー再生時には、MPEG復号化部24で、同一の動画像信号を3回づつ出力することにより、図2(a)に示すような動画像信号を出力し、その画面の切り替えタイミングをシステムコントローラ28に伝える。前記動画像信号は、動画像データ出力端子29から外部機器ヘ出力されるとともに、動画像入力信号セレクタ22を介して、MPEG符号化部23に供給される。
MPEG符号化部23では、システムコントローラ28から供給される画面の切り替えタイミングを参照して、画面の切り替わりを検出し、上述した実施形態で説明したような手法を用いて、入力された動画像信号をMPEG符号化し、図2(b)に示すような符号化データを生成する。
【0093】
なお、IEEE1394端子26で入出力できるMPEGストリームの形式は、MPEG_TS形式に規定されているため、ここでは、MPEG_TS形式に変換して、IEEE1394端子26から出力する。このようにして、IEEE1394端子26から出力されたMPEG_TS形式の信号を、図示しないIEEE1394端子26を備えた受信装置で受信して復号することにより、本実施形態に係る動画像記録再生装置をスロー再生して得られた動画像信号を、受信装置側でも再生することができる。
なお、本実施形態では、MPEG符号化部23で符号化したデータを、IEEE1394端子26を介して出力する例を用いたが、記録メディア27の別の位置や図示しない他の記録メディアに記録してもよい。
【0094】
<記録メディアへの記録方法>
次に、IEEE1394端子26から入力されたDV圧縮信号を復号し、再度MPEG符号化して記録メディア27に記録する方法について説明する。
【0095】
図示しないDV記録再生装置から、IEEE1394端子26を介して入力されたDV圧縮信号は、DV復号化部30へ供給される。
DV復号化部30では、DV圧縮信号を復号化処理を行い、動画像信号が復元される。ここで、DV記録再生装置が1/3倍速のスロー再生を行った場合、DV圧縮信号はMPEGとは異なり、フレーム内符号化のみを使用しているために、3フレームずつ同一のDV圧縮信号が入力される。さらに、同時に送られてくるVAUXデータと呼ばれる付加情報の中に、FC(Frame ChangeFlag)という現フレームが前フレームと同一であるか否かを示す識別子が含まれているので、DV復号化部30では、入力されたDV圧縮信号をそのまま復号して出力することにより、図2(a)に示すような動画像信号を出力し、FCという識別子を参照して得られた画面の切り替えタイミングをシステムコントローラ28に伝える。
【0096】
前記動画像信号は、動画像出力信号セレクタ31を介して、動画像データ出力端子29から外部機器へ出力されるとともに、動画像入力信号セレクタ22を介して、MPEG符号化部23に供給される。
MPEG符号化部23では、システムコントローラ28から供給される画面の切り替えタイミングを参照して、画面の切り替わりを検出し、上述した手法を用いて動画像信号をMPEG符号化し、図2(b)に示すような符号化データを生成する。
記録再生信号処理部25では、前記符号化データに対して、再生時に発生するであろう誤りを訂正するためのパリティを付加する誤り訂正符号化や、ディジタル変調処理を行って、記録メディア27に記録する。
【0097】
このようにして、DV記録再生装置をスロー再生した場合であっても、IEEE1394端子26を介して、入力されたDV圧縮信号を復号し、再度MPEG符号化して、記録メディア27に記録することができる。
なお、本実施形態では、MPEG符号化部23で符号化したデータを記録メディア27に記録する例を用いたが、IEEE1394端子26を介して出力してもよい。
【0098】
以上説明したように、本発明に係る動画像符号化装置を動画像記録再生装置に適用することにより、スロー再生時やスチル再生時など同一の画像が入力された場合におけるMPEG符号化を効率よく行うことができるとともに、画面切り替え検出を、内部の再生モードや外部から供給される付加情報を参照してシステムコントローラからの指示で行うことにより、動画像符号化装置内部の画面切り替え検出回路を省略することができる。
【0099】
【発明の効果】
本発明に係る動画像符号化装置は、スロー再生などで同一画像信号が入力された場合の符号化において、差分0のBピクチャの符号化データと通常の符号化データとを適宜組み合わせて符号化データを生成する。
したがって、符号化データを復号化した際に、符号化前に同一画像であった画像は、全く同一画像として復号することができる。
【0100】
また、本発明に係る動画像符号化装置は、GOPを構成するピクチャ数を設定した上限値以下で可変にするとともに、差分0のPまたはBピクチャの符号化データと通常の符号化データを適宜組み合わせて符号化データを生成する。
また、本発明に係る動画像符号化装置は、GOPを構成するピクチャ数およびIピクチャまたはPピクチャが出現する周期を設定して、その設定に合うようにIピクチャ、Pピクチャ、Bピクチャを選定するとともに、GOPを構成するピクチャ数を設定した上限値以下で可変にするとともに、差分0のPまたはBピクチャの符号化データと通常の符号化データを適宜組み合わせて符号化データを生成する。
したがって、符号化データを復号化した際に、符号化前に同一画像であった画像は、全く同一画像として復号することができるとともに、ランダムアクセスやGOP単位のつなぎ編集に有利なGOP構成とすることができる。
【0101】
また、本発明に係る動画像符号化装置は、動画像符号化手段で符号化するためのバッファメモリに蓄積した動画像信号と、入力される動画像信号とを比較することにより、直前または直後のフレームの動画像信号と同一であるかどうかを検出する。
したがって、どのような入力信号に対しても上述した符号化方法を適用することができる。
【0102】
また、本発明に係る動画像符号化装置は、外部から供給される動画像信号の切り替え情報を参照して、入力される動画像信号が直前または直後のフレームの動画像信号と同一であるか否かを検出する。
したがって、画像切り替え検出手段における処理を軽減することができる。
【0103】
本発明に係る動画像記録再生装置は、動画像復号化手段で生成した動画像信号切り替え情報を参照して、動画像符号化装置に入力される動画像信号が直前または直後のフレームの動画像信号と同一であるか否かを検出する。
また、本発明に係る動画像記録再生装置は、外部機器から供給された動画像信号切り替え情報を参照して、動画像符号化装置に入力される動画像信号が直前または直後のフレームの動画像信号と同一であるか否かを検出する。
したがって、画像切り替え検出手段における処理を軽減することができる。
【図面の簡単な説明】
【図1】本発明の実施形態に係る動画像符号化装置を含むシステム構成を示すブロック図である。
【図2】1/3倍速スロー再生に対する動画像符号化動作タイミング例を示す模式図である。
【図3】1/5倍速スロー再生に対する動画像符号化動作タイミング例を示す模式図である。
【図4】ノーマル再生から1/3倍速スロー再生に移行する部分を含む動画像信号に対する動画像符号化動作タイミング例を示す模式図である。
【図5】1/3倍速スロー再生からノーマル再生に移行する部分を含む動画像信号に対する動画像符号化動作タイミング例を示す模式図である。
【図6】本発明の実施形態に係る動画像記録再生装置の構成を示すブロック図である。
【図7】DV入力信号を復号して、再度MPEG符号化して記録再生する動画像記録再生装置の構成を示すブロック図である。
【図8】従来の動画像再符号化装置を含むシステムの構成例を示すブロック図である。
【図9】従来の動画像再符号化装置内のビデオエンコーダの構成例を示すブロック図である。
【図10】従来の動画像再符号化装置の動作タイミングを示す摸式図である。
【符号の説明】
1 動画像信号入力端子
2 動画像信号の記憶バッファ
3 画面切り替え検出回路
4 差分0のBおよびPピクチヤ符号化データ生成部
5 符号化制御部
6 DCT処理部
7 量子化部
8 予測メモリ「1」
9 予測メモリ「2」
10 平均化回路
11 逆量子化部
12 逆DCT処理部
13 動画像データ出力端子
21 動画像信号入力端子
22 動画像入力信号セレクタ
23 MPEG符号化部
24 MPEG復号化部
25 記録再生信号処理部
26 IEEE1394端子
27 記録メディア
28 システムコントローラ
29 動画像信号出力端子
30 DV復号化部
31 動画像出力信号セレクタ
110 データ分離部
111 音声データバッファメモリ
112 動画像データバッファメモリ
113 副映像データバッファメモリ
114 ナビゲーションデータバッファメモリ
115 オーディオデコーダ
116 ビデオデコーダ
117 副映像デコーダ
118 映像オーバレイ処理部
119 加算部
120 GUI画像信号発生部
121 オーディオエンコーダ
122 ビデオエンコーダ
123 フレームメモリ
124 再符号化部音声データバッファメモリ
125 再符号化部動画像データバッファメモリ
126 多重化部
127 IEEE1394インターフェース
128 再符号化部
129 音声信号用D/A変換器
130 映像信号用D/A変換器
131 データメモリ
150 光ディスク装置
151 音声データ
152 動画像データ
153 副映像データ
154 ナビゲーションデータ
155 音声信号
156 動画像信号
157 副映像信号
158 動画像信号
159 GUI画像信号
160 ユーザのオペレーション
161,162 アナログ信号
164 符号化パラメータ
165 動きベクトル情報
170 動き補償部
172 動き補償モードおよびDCTタイプ決定部
173 レート制御部
174 DCT処理部
175 量子化部
176 逆量子化部
177 逆DCT処理部
178 可変長符号化部
180 発生符号量
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a moving image encoding apparatus having a function of encoding a moving image signal including a part of continuous reproduction of the same image, such as slow reproduction, and a moving image recording / reproducing apparatus using the same.
[0002]
[Prior art]
In recent years, a moving image signal is encoded using a well-known moving image compression technique such as MPEG, and the moving image encoded data is recorded on a recording medium such as a magnetic recording tape, a hard disk, or a DVD-RAM. And a system for performing decoding processing on moving image encoded data recorded on a recording medium and reproducing it as a moving image signal have been developed.
[0003]
In such a system, an apparatus having a function of reproducing moving image encoded data recorded on a recording medium and transmitting the encoded data to another device has been developed. On the device side, it is necessary to convert the data into a moving image encoded data format that can be handled on the receiving device side, and to send it out.
[0004]
For example, a signal recorded in an MPEG program stream (hereinafter referred to as MPEG_PS) format on a DVD is converted into an MPEG transport stream (hereinafter referred to as MPEG_TS) format, and set top box (hereinafter referred to as STB) via IEEE1394. In the case of normal reproduction, it is relatively easy to convert from the MPEG_PS format to the MPEG_TS format in an encoded state using a technique called transcoding. However, at the time of slow reproduction or the like, it is difficult to convert to an MPEG_TS format that can be decoded by an STB decoder having no special mechanism.
[0005]
Therefore, it is easy to add a moving image encoding device that can encode a decoded moving image in the MPEG_TS format so as to be compatible with any reproduction mode. However, since a motion-compensated predictive coding circuit that requires a large-scale circuit is mounted, there has been a problem that the cost is greatly increased.
As an example of a method for solving such a problem, in a moving image re-encoding device that re-encodes a moving image signal obtained by decoding encoded data, a code included in the compressed moving image data before decoding A moving image re-encoding device that can realize high-quality re-encoding while omitting a motion vector detection circuit necessary for motion compensation prediction by encoding using an encoding parameter is disclosed in JP 2000- No. 244929.
[0006]
Here, the technique disclosed in Japanese Patent Application Laid-Open No. 2000-244929 will be specifically described with reference to FIGS.
FIG. 8 is a block diagram showing a configuration of a system including a moving image re-encoding device, FIG. 9 is a block diagram showing a configuration example of a video encoder in the moving image re-encoding device, and FIG. 10 is a moving image re-encoding. It is a schematic diagram which shows the example of operation | movement timing of an optimization apparatus.
[0007]
8, 110 is a data separation unit, 111 is an audio data buffer memory, 112 is a moving image data buffer memory, 113 is a sub-picture data buffer memory, 114 is a navigation data buffer memory, 115 is an audio decoder, 116 is a video decoder, 117 is a sub-picture decoder, 118 is a video overlay processor, 119 is an adder, 120 is a GUI image signal generator, 121 is an audio encoder, 122 is a video encoder, 123 is a frame memory, and 124 is a re-encoding unit audio data buffer Memory, 125 is a re-encoding unit moving image data buffer memory, 126 is a multiplexing unit, 127 is an IEEE 1394 interface, 128 is a re-encoding unit, 129 is an audio signal D / A converter, and 130 is a video signal D / A A converter, 131 is data Mori, 150 is an optical disk device.
[0008]
In FIG. 9, 170 is a motion compensation unit, 172 is a motion compensation mode and DCT type determination unit, 173 is a rate control unit, 174 is a DCT processing unit, 175 is a quantization unit, 176 is an inverse quantization unit, and 177 is an inverse DCT. A processing unit 178 is a variable length coding unit.
[0009]
10, (a) is the decoding timing of the moving image encoded data, (b) is the decoding timing at the time of 1 / 3-speed slow playback by the video decoder 116, and (c) is the 1 / 3-speed slow playback. (D) is a video re-encoding processing timing, and (e) is a re-decoded signal.
[0010]
The operation of the system including the moving image re-encoding device having the above-described configuration will be briefly described.
The optical disk device 150 is of the DVD standard, for example, and audio data, encoded moving image data, sub-picture data, navigation data, etc. are multiplexed and recorded.
A signal reproduced from the optical disk device 150 is input to the data separation unit 110 and separated into audio data 151, moving image data 152, sub-video data 153, and navigation data 154. The separated data 151, 152, 153, 154 are decoded by the audio decoder 115, the video decoder 116, and the sub-picture decoder 117 via the buffer memories 111, 112, 113, 114, respectively.
[0011]
For the moving image signal 156 obtained by decoding the moving image data by the video decoder 116, the sub-picture signal 157 obtained by decoding the sub-picture data by the sub-picture decoder 117, and the reproduction apparatus uses a GUI (Graphical User). The GUI image signal 159 that is independently generated by the image signal generator 120 in response to the user operation 160 is subjected to overlay (combination) processing by the video overlay processor (OSD) 118 via the adder 119.
[0012]
The audio signal 155 obtained by decoding the audio data by the audio decoder 115 and the moving image signal 158 overlay-processed by the video overlay processing unit 118 are converted into analog signals 161, 130 by D / A converters 129 and 130, respectively. It is converted to 162 and output to the outside. Further, the audio signal 155 and the moving image signal 158 after the overlay processing are re-encoded by the audio encoder 121 and the video encoder 122, respectively. The audio data and moving image data obtained by this re-encoding are multiplexed into a transport stream by the multiplexing unit 126 via the buffer memories 124 and 125, respectively, and further digitally output from the IEEE 1394 interface 127.
[0013]
The video decoder 116 extracts the encoding parameters 164 included in the moving image data 152 before decoding such as the motion vector for each macroblock, the encoding mode, and the quantization step simultaneously with the decoding. The parameter 164 is temporarily stored in the data memory 131. The video encoder 122 reads out encoding parameters corresponding to an image frame and a macroblock to be re-encoded from the encoding parameter data temporarily stored in the data memory 131, and predetermined motion vector information given from the outside. It is input together with 165.
[0014]
FIG. 9 shows a configuration example of the video encoder 122 in the moving image re-encoding device. In FIG. 9, the same components as those shown in FIG. 8 are denoted by the same reference numerals.
The video encoder 122 is based on a motion compensated predictive orthogonal transform coding method represented by MPEG2 and the like, and as shown in FIG. 9, a motion compensation unit 170, a motion compensation mode (coding mode), and a DCT type determination unit 172. , A DCT processing unit 174, a quantization unit 175, an inverse quantization unit 176, an inverse DCT processing unit 177, a frame memory 123, a rate control unit 173, and a variable length coding unit 178.
[0015]
The video encoder 122 is characterized in that it does not have a motion vector detection circuit necessary for a moving picture coding apparatus such as a normal MPEG2 encoder. In a normal moving image encoding apparatus, a huge block matching operation is required to detect a motion vector for each macroblock. In general, the hardware resources that the motion vector detection circuit occupies in the entire encoding apparatus occupy a very high ratio, but the video encoder 122 does not need such a motion vector detection unit with a large hardware scale. That is, in this moving image re-encoding device, motion compensation is performed using both the motion vector information of the encoding parameter 164 extracted from the moving image data 152 before decoding and the predetermined motion vector information 165 given from the outside. I do.
[0016]
Next, the motion compensation mode and DCT type determination unit 172 determines the motion vector information or motion of the encoding parameter 164 from the power or magnitude of the prediction error signal by each motion compensation and the power or magnitude of the encoding target image signal. Whether to use vector information 165 or to perform intra coding is determined for each macroblock.
Next, for a macroblock for which predictive coding based on motion vector information of the coding parameter 164 extracted from the video data 152 before decoding is selected, a DCT type described later is extracted from the video data 152 before decoding. In other cases, the optimal DCT type is detected.
[0017]
The rate control unit 173 determines a quantization step for each macroblock used in the quantization unit 175. That is, for a macroblock for which predictive coding based on motion vector information of the coding parameter 164 extracted from the moving image data 152 before decoding is selected, the moving image data 162 is not subject to output bit rate restrictions. When the quantization step extracted from the above is used as it is and the output bit rate is restricted, the quantization step is determined with reference to the generated code amount 180 so that the desired bit rate is obtained. If the macroblock for which the predetermined motion vector information 165 from the outside is selected or the macroblock for which intra coding is selected is not subject to the output bit rate restriction, the quantization extracted from the moving image data 152 is used. If the output bit rate is constrained using a step or a predetermined predetermined quantization step, the quantization step is determined with reference to the generated code amount 180 so that the desired bit rate is obtained.
[0018]
In the moving image re-encoding apparatus configured as described above, a method of performing decoding by performing slow reproduction processing on moving image encoded data input to the video decoder 116, and decoding performed by performing the slow reproduction processing A re-encoding procedure for the encoded data will be described in detail. For convenience of explanation, the slow playback speed is 1/3.
[0019]
Here, the features of the MPEG encoding and decoding methods will be briefly described. MPEG encoding consists of motion compensation prediction, DCT processing, and quantization processing, and is classified into three types of I picture, P picture, and B picture according to the prediction direction of the time axis, one I picture and 0 picture. This is performed based on the GOP structure composed of the above P picture and B picture. An I picture is an intra-frame encoded image, a P picture is a temporally preceding I picture or an inter-frame predictive encoded image predicted from a P picture, a B picture is temporally backward and forward I and P pictures, or It is an inter-frame predictive encoded image predicted from one of them. Therefore, an I picture that is a prediction source is required to decode a P picture, and an I picture and a P picture that are prediction sources are required to reproduce a B picture.
[0020]
In FIG. 10, I, B, and P indicate the type of each picture, and the numbers that follow them indicate the display order. For example, the I2 picture is an intra-frame encoded image, and the P5 picture is an inter-frame predicted from the I2 picture. The predictive encoded image, the B0 picture, and the B1 picture are interframe predictive encoded images that are predicted from the I2 picture, and the B3 and B4 pictures are interframe predictive encoded images that are predicted from the I2 and P5 pictures. Therefore, decoding of P5 picture requires I2 picture, decoding of B0 picture and B1 picture requires I2 picture, and decoding of B3 picture and B4 picture requires I2 picture and P6 picture.
[0021]
When decoding is performed according to the decoding method described above, the general MPEG moving image decoding timing is as shown in FIG. This is because the B0 picture and the B1 picture cannot be referred to until the processing of the I2 picture is performed, and the B3 picture and the B4 picture cannot be referred to until the processing of the I2 picture and the P5 picture is performed. When performing slow playback at 1/3 speed, it is only necessary to display the same frame data three times at a time. However, as shown in FIG. A device equipped with an MPEG decoder that does not have a device cannot be displayed well.
[0022]
Accordingly, when decoding is performed by performing slow reproduction processing on the encoded moving image data, decoding is performed at a timing that is an integral multiple of the frame period (3 in the case of realizing slow reproduction at 1/3 speed). (Times), when decoding is not performed, slow playback is realized by repeatedly displaying the same display frame, and the decoded moving image signal is as shown in FIG. In FIG. 10 (c), the part with only the number is the part in which data of the same frame as the I, P, B picture with the same number is repeatedly displayed.
[0023]
On the other hand, when the re-encoding is performed on the signal shown in FIG. 10C, which is the decoded moving image signal, as the slow reproduction at 1/3 speed, the re-encoded output is between the encoding procedure and the frame. Considering the prediction structure, the re-encoding process is performed at the timing shown in the interval 10 (d). This is because the B0 picture and the B1 picture cannot be processed until the I2 picture is processed because re-encoding is performed using the encoding parameter extracted when the encoded data is decoded.
[0024]
Here, the frames of B0 picture and B1 picture are re-encoded as the same moving image frame as a B picture, and the P2 ′ picture is re-encoded as the same moving image frame as the I2 picture as a P picture. At that time, since the reference image and the predicted image coincide with each other, by performing motion compensation predictive coding of the zero vector, the prediction error signal is always zero, and coding with very high coding efficiency can be performed. ing.
[0025]
[Problems to be solved by the invention]
However, in the above-described conventional technique, when the same image frame as the I picture is re-encoded as a P ′ picture using motion compensated prediction encoding using a zero vector, the difference between the P ′ pictures Is obtained as a difference between a moving picture signal of an I picture that has already been re-decoded and a P picture that is a moving picture signal (that is, an I picture before re-encoding), so that a motion-compensated prediction code using a zero vector is used. Even if the conversion is performed, an error may occur because the processing by the DCT processing unit 174 and the quantization unit 175 shown in FIG. 9 is performed, and the difference is not always zero. Therefore, the re-decoded P ′ picture and the re-decoded I picture are not the same image, and the re-decoded video signal is as shown in FIG.
[0026]
In addition, decoding of moving image data is performed at a timing that is an integral multiple of the frame period (3 times when slow playback at 1/3 speed is realized), and when not decoded, the same display frame is repeatedly displayed. Therefore, the number of pictures constituting the GOP at the time of re-encoding is increased by an integral multiple of the frame period (3 times in the case of re-encoding for slow reproduction at 1/3 speed).
[0027]
In this case, there is no problem if the re-encoded moving image compressed data is output via IEEE 1394 and decoded and displayed on the receiving side, but the re-encoded moving image compressed data is recorded on a randomly accessible medium. In the case, the following problems occur.
That is, when random access such as reproduction from the middle of the GOP is performed on the re-encoded moving image compressed data, the decoding process of the I picture and the P picture necessary for decoding the B and P pictures is performed. , The P2 ′ picture and the P5 ′ picture increase, and there arises a problem that it becomes more noticeable in reverse reproduction, reverse slow reproduction, and the like. In addition, when performing GOP unit linkage editing work, the time required for one GOP becomes longer, which causes a problem that the degree of freedom decreases.
[0028]
In addition, since the re-encoding method in the conventional technique described above is based on the premise that the encoding parameter extracted when the encoded data is decoded is used, the moving image encoded data other than MPEG such as the DV system is used. There was a problem that could not be adapted in some cases.
[0029]
As described above, in the conventional technique described above, it is possible to add a moving image re-encoding device at a low cost, but there are various problems. On the other hand, some commercially available MPEG data reproducing apparatuses include a circuit for recording an analog input signal from the outside by MPEG encoding. In such an apparatus, a moving image is used only for re-encoding. Since it is not necessary to add an image encoding device, it is possible to provide an encoding device equipped with a motion vector detection circuit necessary for motion compensation prediction.
[0030]
The present invention has been proposed in view of the above-described circumstances, and is based on the premise that an encoding device equipped with a motion vector detection circuit necessary for motion compensation prediction is used, and in an encoding unit for processing of consecutive identical image frames. , When the encoded video data is decoded, it is encoded so that the same image display of the image can be maintained, and the GOP configuration is controlled according to the switching of the image, thereby displaying the screen at the time of random access reproduction. A moving picture coding apparatus capable of preventing the increase in the number of processed pictures up to the present time, increasing the degree of freedom in connecting and editing, and capable of performing the same coding for a compression format other than MPEG. It is an object of the present invention to provide a moving image recording / reproducing apparatus.
[0031]
[Means for Solving the Problems]
The moving picture coding apparatus according to the present invention is a moving picture coding apparatus for coding a moving picture signal, and whether or not the moving picture signal to be coded is the same as the moving picture signal of the immediately preceding or following frame. Switching detection means for detecting a moving picture, moving picture encoding means for generating moving picture encoded data by encoding a moving picture signal, and difference for generating encoded data of a B picture of difference 0 Encoded data output means for selecting encoded data output from the moving picture encoding means and encoded data output from the differential 0 encoded data generation means; , The encoded data selection means comprises: When the moving image signal to be encoded is the same as the image of the immediately following frame, the B picture encoded data of the backward prediction of the difference 0 output from the difference 0 encoded data generating means is selected and encoded. If the moving image signal to be played is different from the image of the immediately following frame, the encoded data output from the moving image encoding means is It is characterized by selecting.
[0033]
In addition, the moving picture coding apparatus according to the present invention sets an upper limit for the number of pictures constituting the GOP, and sets an upper limit for setting the number of pictures constituting the GOP according to the slow playback speed of the input moving picture signal. It is characterized by being variable in the following.
[0034]
In the video encoding device according to the present invention, in the video encoding device for encoding the video signal, whether the video signal to be encoded is the same as the video signal of the immediately preceding or subsequent frame. Image switching detection means for detecting whether or not, moving picture encoding means for generating moving picture encoded data by encoding a moving picture signal, and generating encoded data of B and P pictures with a difference of 0 Difference 0 encoded data generating means, encoded data output from the moving picture encoding means, and encoded data selection for selecting encoded data output from the difference 0 encoded data generating means Means and
The encoded data selection means is based on the information detected by the image switching detection means, and the encoded data output from the moving picture encoding means and the encoded data output from the difference 0 encoded data generation means One of the data is selected.
[0035]
In the video encoding device according to the present invention, in the video encoding device for encoding the video signal, whether the video signal to be encoded is the same as the video signal of the immediately preceding or subsequent frame. Image switching detection means for detecting whether or not, moving picture encoding means for generating moving picture encoded data by encoding a moving picture signal, and generating encoded data of B and P pictures with a difference of 0 Difference 0 encoded data generating means, encoded data output from the moving picture encoding means, and encoded data selection for selecting encoded data output from the difference 0 encoded data generating means And the encoded data selection means comprises: When the moving image signal to be encoded is the same as the image of the immediately preceding or subsequent frame and is encoded as a B picture or a P picture, the backward prediction of the difference 0 output from the difference 0 encoded data generation means is performed. Select one of B-picture encoded data, B-picture encoded data for forward prediction with difference 0, and P-picture encoded data for forward prediction with difference 0, and the moving picture signal to be encoded is the next frame The encoded data output from the moving image encoding means is It is characterized by selecting.
[0037]
In the moving image encoding apparatus according to the present invention, the image switching detection unit refers to switching information of a moving image signal supplied from the outside, and the moving image of the frame immediately before or immediately after the input moving image signal is input. It is characterized by detecting whether or not it is the same as the image signal.
[0038]
The moving image recording / reproducing apparatus according to the present invention is a moving image recording / reproducing apparatus for recording / reproducing encoded data obtained by encoding a moving image signal.
The moving image encoding apparatus, a recording medium for recording and reproducing moving image encoded data, and a moving image decoding means for decoding the encoded data,
When performing slow playback or still playback of the signal recorded on the recording medium, whether or not the video signal decoded by the video decoding means is the same as the video signal of the immediately preceding or subsequent frame Switching information is generated, and it is detected by the image switching detection means in the moving image encoding device whether or not it is the same as the moving image signal of the immediately preceding or immediately following frame with reference to the switching information. To do.
[0039]
The moving image recording / reproducing apparatus according to the present invention is a moving image recording / reproducing apparatus for recording / reproducing encoded data obtained by encoding a moving image signal.
The moving image encoding device, a recording medium for recording and reproducing moving image encoded data, and a moving image decoding means for decoding moving image encoded data supplied from an external device,
When an external device performs slow playback or still playback, the moving image signal decoded based on the screen switching information added to the moving image encoded data by the moving image decoding means is the moving image of the frame immediately before or after Switching information as to whether or not it is the same as the image signal is generated, and the same as the moving image signal of the frame immediately before or after referring to the switching information by the image switching detecting means in the moving image encoding device It is characterized by detecting whether or not.
[0040]
With the above-described configuration, when processing an image in which the same moving image frame continues, such as slow playback, B-picture encoded data for backward prediction with a difference of 0 or forward prediction with a difference of 0 is used. Even when the compressed video data is decoded by selecting and using the B picture encoded data or the P picture encoded data of the forward prediction with the difference 0, the same image display can be realized. it can. Furthermore, by controlling the GOP configuration in accordance with the user's intention, it is possible to prevent an increase in the number of processed pictures until the screen is displayed at the time of random access reproduction, and it is possible to increase the degree of freedom during connection editing. .
The same encoding method can be applied to compression methods other than MPEG.
GOP means Group Of Pictures.
[0041]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, an embodiment of a moving picture coding apparatus according to the present invention will be described with reference to the drawings.
[0042]
<Moving picture encoding apparatus>
1 to 5 show a moving picture coding apparatus according to an embodiment of the present invention. FIG. 1 is a block diagram showing a system configuration including the moving picture coding apparatus. FIG. FIG. 3 is a schematic diagram showing an example of a moving image encoding operation timing for slow reproduction, FIG. 3 is a schematic diagram showing an example of a moving image encoding operation timing for 1 / 5-speed slow reproduction, and FIG. 4 is a 1 / 3-speed slow from normal reproduction. FIG. 5 is a schematic diagram showing an example of a moving image encoding operation timing for a moving image signal including a portion that shifts to reproduction. FIG. 5 is a moving image encoding for a moving image signal including a portion that shifts from 1 / 3-speed slow reproduction to normal reproduction. It is a schematic diagram which shows the example of operation timing.
[0043]
In FIG. 1, 1 is a moving image signal input terminal, 2 is a moving image signal storage buffer, 3 is a screen switching detection circuit, 4 is a difference 0 B and P picture encoded data generation unit, 5 is an encoding control unit, 6 is a DCT processing unit, 7 is a quantization unit, 8 and 9 are prediction memories “1” and “2” for storing reference images, and 10 is for inter-frame predictive encoding of B pictures. 1 is an inverse quantization unit, 12 is an inverse DCT processing unit, and 13 is a moving image data output terminal.
[0044]
2 to 5, (a) in each figure is an input moving image signal, (b) in each figure is encoded data in the encoding order when encoding is performed, and (c) in each figure. ) Is encoded data in display order at the time of decoding when encoding is performed. Also, numbers such as “0”, “1”, “2”, etc. in (a) of each figure are numbers that are updated each time the image is switched. That is, in (a) of each figure, the same number indicates that the images are the same. Also, I0, P1, B2, etc. in (b) and (c) in each figure identify the type of picture at the time of encoding, that is, the identification of the I picture, P picture, and B picture and the corresponding input image. The last F and B of B0F and B0B indicate the prediction direction of the B picture, that is, the forward direction (Forward) and the reverse direction (Backward).
[0045]
A method for encoding the moving image signal input from the moving image signal input terminal 1 in the moving image encoding apparatus configured as described above will be specifically described.
First, the moving image signal input from the moving image signal input terminal 1 is input to the moving image signal storage buffer 2 and the screen switching detection circuit 3. In the screen switching detection circuit 3, the input frame image is displayed immediately before. Whether it is the same as the frame image is detected.
[0046]
When the moving picture signal shown in FIG. 2 (a) is input, the first picture 0 is determined to be the same picture as the second picture 0, and the second picture 0 is the same picture as the third picture 0. Instead, it is counted that two B pictures for backward prediction with a difference of 0 are necessary.
It is determined that the third picture 0 is not the same image as the next picture 1, and is set as an I picture by the encoding control unit 5, and is encoded data I0 that has been subjected to encoding processing by the DCT processing unit 6 and the quantization unit 7. Is output to the moving image data output terminal 13, and the encoded data I 0 is decoded by the inverse quantization unit 11 and the inverse DCT processing unit 12 and stored in the prediction memory “1” 8.
[0047]
Thereafter, B0B, which is B picture encoded data, is read from the B and P picture encoded data generating unit 4 with a difference of 0 for the two times counted previously and output to the moving image data output terminal 13.
Subsequently, it is determined that the first picture 1 is the same as the second picture 1 and the second picture 1 is the same picture as the third picture 1, and the backward prediction of the difference 0 between the two pictures is not performed. A B picture is counted as needed.
[0048]
It is determined that the third picture 1 is not the same picture as the next picture 2, and is set as a P picture by the encoding control unit 5, and motion prediction compensation with the decoded data of I 0 stored in the prediction memory “1” 8 Encoded data P1 subjected to the encoding process in the DCT processing unit 6 and the quantizing unit 7 for the subsequent difference is output to the moving image data output terminal 13, and the encoded data P1 is reversed. Processing is performed by the quantization unit 11 and the inverse DCT processing unit 12, and the result is stored in the prediction memory “2” 9.
Thereafter, B1B, which is B picture encoded data, is read from the B and P picture encoded data generating unit 4 with a difference of 0 for the two times counted previously and output to the moving image data output terminal 13.
[0049]
Thereafter, the encoded data shown in FIG. 2 (b) can be output by repeating and encoding the processing after picture 2 in the same procedure.
Note that the GOP configuration of the encoded data shown in FIG. 2B is configured to circulate in 15 frames as an example, so picture 5 is encoded as an I picture.
[0050]
When the general MPEG decoding apparatus performs decoding processing on the encoded data shown in FIG. 2B generated as described above, the display order is as shown in FIG. In this case, since all B pictures such as B0B, B1B, and B2B are encoded data for backward prediction with a difference of 0, the same image can be displayed for three frame periods.
[0051]
Next, a GOP configuration setting method will be described.
The first method is a method for determining the upper limit of the number of pictures constituting the GOP, and the second method is a method for making the number of pictures constituting the GOP and the positional relationship between the I, P, and B pictures constant.
[0052]
First, the first method will be described in detail. As an example, the upper limit of the number of pictures constituting a GOP is 15 and the slow playback speed of the input video signal is 1/3 times speed, 1/4 times speed, 1/5 times speed, 1/6 times speed, 1/7 The device is capable of double speed. At this time, since the upper limit of the number of pictures is 15, a GOP configuration with 15 pictures at 1/3 times speed and 1/5 times speed, a GOP structure with 12 pictures at 1/4 times speed and 1/6 times speed, By using a GOP configuration with 14 pictures at / 7 × speed, the above-described encoding can be easily applied.
In this way, when the slow playback speed is known, the number of pictures constituting the GOP can be made variable below the set upper limit value according to the slow playback speed, thereby enabling random access and GOP unit linkage editing. An advantageous GOP configuration can be obtained.
[0053]
Next, the second method will be described in detail. As an example, the number of pictures constituting a GOP is 15, the period in which an I picture or P picture appears is 3, that is, the B picture inserted between them is 2, and the slow playback speed of the input video signal is 1 The device is capable of 3/3 speed and 1/5 speed. In 1/3 speed, if the encoding method used in this embodiment is applied as it is, the number of pictures constituting a GOP may be set to 15 and the period in which an I picture or P picture appears may be “3”. it can.
Next, the operation at 1/5 speed will be described with reference to FIG. At 1/5 times the speed, the cycle of the I picture or P picture and the switching of the screen are not synchronized, and thus a contrivance is required.
[0054]
When the moving picture signal shown in FIG. 3A is input, it is determined that the first picture 0 is the same picture as the second picture 0 immediately after, and the second picture 0 is the same picture as the third picture 0 immediately after. Then, it is counted that two B pictures for backward prediction with difference 0 are necessary without encoding.
The third picture 0 is the same image as the fourth picture 0. However, in order to comply with the GOP configuration, the encoding control unit 5 forcibly sets the I picture, and the DCT processing unit 6 and the quantization unit 7 The encoded data I0 having been subjected to the encoding process is output to the moving image data output terminal 13, and the encoded data I0 is decoded by the inverse quantization unit 11 and the inverse DCT processing unit 12. And stored in the prediction memory “1” 8.
[0055]
After that, B0B, which is the B picture encoded data of the backward prediction with the difference 0, is read out from the B and P picture encoded data generation unit 4 with the difference 0 for the counted twice, and is output to the moving image data output terminal 13. To do.
Subsequently, it is determined that the fourth picture 0 is the same as the immediately preceding third picture 0, and the fifth picture 0 is the same as the immediately preceding fourth picture 0. It counts that a forward-predicted B picture is needed.
[0056]
In order to comply with the GOP configuration, the next picture 1 is forcibly set to a P picture by the encoding control unit 5 and after motion prediction compensation with the decoded data of I0 stored in the prediction memory “1” 8. The encoded data P1 subjected to the encoding process in the DCT processing unit 6 and the quantization unit 7 is output to the moving image data output terminal 13 and the inverse quantum is applied to the encoded data P1. The processing in the conversion unit 11 and the inverse DCT processing unit 12 is performed and stored in the prediction memory “2” 9.
[0057]
After that, B0F, which is the B picture encoded data for forward prediction with difference 0, is read out from the B and P picture encoded data generation unit 4 with difference 0 for the counted twice, and output to the moving picture data output terminal 13. To do.
Subsequently, it is determined that the second picture 1 is the same picture as the immediately preceding first picture 1 and the third picture 1 is the same as the immediately preceding second picture 1, and the difference between the two pictures is 0 without encoding. It counts that a forward-predicted B picture is needed.
[0058]
The fourth picture 1 is forcibly set to a P picture by the encoding control unit 5 in order to comply with the GOP configuration. However, since the fourth picture 1 is the same image as the first picture 1 encoded as the P picture immediately before, the predictive encoding is not performed, and the B and P picture encoded data generation unit 4 with the difference 0 is used. The P picture encoded data P1 ′ having a difference of 0 is read out and output to the moving image data output terminal 13.
[0059]
After that, B1F, which is B picture encoded data of forward prediction with a difference of 0, is read twice and output to the moving image data output terminal 13.
Subsequently, it is determined that the fifth picture 1 is the same image as the immediately preceding fourth picture 1, and it is counted that one B picture for forward prediction with a difference of 0 is necessary without encoding.
[0060]
The first picture 2 is determined to be the same image as the second picture 2 immediately after it, and it is counted that one B picture for backward prediction with a difference 0 is necessary without encoding.
The second picture 2 is compulsorily set to a P picture by the encoding control unit 5 in order to comply with the GOP configuration, and motion prediction compensation with the decoded data of P1 stored in the prediction memory “2” 9 Encoded data P2 obtained by performing encoding processing in the DCT processing unit 6 and the quantizing unit 7 for the subsequent difference is output to the moving image data output terminal 13, and the encoded data P1 is inverted. Processing is performed by the quantization unit 11 and the inverse DCT processing unit 12, and the result is stored in the prediction memory “1” 8.
[0061]
Thereafter, B1F, which is the forward prediction B picture encoded data, is counted once from the B and P picture encoded data generation unit 4 with the difference 0, and the backward prediction B picture encoded data with the difference 0 is counted once. A certain B2B is read out for one time counted previously and output to the moving image data output terminal 13.
Subsequently, it is determined that the third picture 2 is the same as the second picture 2 immediately before, and the fourth picture 2 is the same picture as the third picture 2 immediately before. It counts that a forward-predicted B picture is needed.
[0062]
The fifth picture 2 is forcibly set to a P picture by the encoding control unit 5 in order to comply with the GOP configuration. However, since the fifth picture 2 is the same image as the second picture 2 coded as the P picture immediately before, the predictive coding is not performed, and the B and P picture coded data generation unit 4 with the difference 0 is used. Then, the P picture encoded data P2 ′ of the forward prediction with the difference 0 is read and output to the moving image data output terminal 13.
Thereafter, B2F, which is B picture encoded data, is read twice as counted previously and is output to the moving image data output terminal 13.
[0063]
Encoding data shown in FIG. 3B can be generated by encoding in the above procedure. Also, when decoding processing is performed on the encoded data shown in FIG. 3B by a general MPEG decoding apparatus, the display order is as shown in FIG. In this case, all B pictures such as B0B, B0F, B1F, B2B, and B2F are coded data for forward prediction or backward prediction with a difference of 0, and P1 ′ and P2 ′ pictures are codes for forward prediction with a difference of 0. Since it is digitized data, the same image can be displayed for a period of 5 frames.
[0064]
In the present embodiment, the prediction direction is determined for B pictures included between I or P pictures of the same image, but the prediction direction may be any as long as the decoding results are the same. For example, the B picture between the P1 picture and the P1 ′ picture is the B1F picture of the forward prediction, but it is clear that the decoding result is the same even if it is the B1B picture of the backward prediction.
[0065]
As described above, even when the cycle of the I picture or P picture and the switching of the screen are not synchronized, if the input moving image signals are the same, the corresponding decoded images are the same. In addition, the number of pictures constituting the GOP and the positional relationship between the I, P, and B pictures can be encoded.
[0066]
Next, a method for encoding a moving image signal having a transition between normal reproduction and slow reproduction in accordance with the second method of the GOP configuration described above will be specifically described with reference to FIGS.
[0067]
In FIG. 4, (a) is a moving image signal including a portion that shifts from normal reproduction to 1 / 3-speed slow reproduction, and (b) is an encoding order when encoding is performed by the second method of the GOP configuration. Encoded data (c) is encoded data in the display order when encoding is performed by the second method of the GOP configuration.
In FIG. 5, (a) is a moving image signal including a portion that shifts from 1 / 3-speed slow reproduction to normal reproduction, and (b) is an encoding when encoding is performed by the second method of the GOP configuration. The encoded data in the order, (c) is the encoded data in the display order when encoding is performed by the second method of the GOP configuration.
[0068]
First, a moving image encoding method for a moving image signal including a portion that shifts from normal reproduction to 1 / 3-speed slow reproduction will be described.
When the moving image signal shown in FIG. 4A is input, since picture 0 is not the same picture as picture 1 immediately after and picture 1 is not the same picture as picture 2 immediately after, a code is used to comply with the GOP configuration. The B control is forcibly set to the B picture.
[0069]
In order to comply with the GOP configuration, the picture 2 is forcibly set to an I picture by the coding control unit 5, and the coded data I2 that has been subjected to coding processing by the DCT processing unit 6 and the quantization unit 7 In addition to being output to the image data output terminal 13, the inverse quantization unit 11 and the inverse DCT processing unit 12 perform decoding processing on the encoded data I <b> 2 and store it in the prediction memory “1” 8.
[0070]
Thereafter, with respect to the difference after motion prediction compensation between the picture 0 and the picture 1 set as the B picture and the decoded data of I2 stored in the prediction memory “1” 8, the DCT processing unit 6, the quantum The encoded data B 0 and B 1 subjected to the encoding process in the encoding unit 7 are output to the moving image data output terminal 13.
Subsequently, since the picture 3 is not the same picture as the immediately following picture 4 and the picture 4 is immediately following the picture 5, the encoding control unit 5 forcibly sets the picture to the B picture in order to comply with the GOP configuration.
[0071]
In order to comply with the GOP configuration, the picture 5 is forcibly set to a P picture by the encoding control unit 5 and the difference after motion prediction compensation with the decoded data of I2 stored in the prediction memory “1” 8 On the other hand, the encoded data P5 subjected to the encoding process in the DCT processing unit 6 and the quantization unit 7 is output to the moving image data output terminal 13, and the inverse quantization unit is applied to the encoded data P5. 11. The inverse DCT processing unit 12 performs the decoding process and stores it in the prediction memory “2” 9.
After that, for the pictures 3 and 4 set as the B picture, the decoded data of I2 stored in the prediction memory “1” 8, the decoded data of P5 stored in the prediction memory “2” 9 and the average thereof The encoded data B3 and B4 subjected to the encoding process in the DCT processing unit 6 and the quantization unit 7 are output to the moving image data output terminal 13 for the difference after the motion prediction compensation.
[0072]
The first picture 6 is judged to be the same as the second picture 6 immediately after it, and the second picture 6 is judged to be the same picture as the third picture 6 immediately after it. Are counted as necessary.
In order to comply with the GOP configuration, the third picture 6 is forcibly set as a P picture by the encoding control unit 5 and motion prediction compensation with the decoded data of P5 stored in the prediction memory “2” 9 Encoded data P6 subjected to encoding processing in the DCT processing unit 6 and the quantizing unit 7 for the subsequent difference is output to the moving image data output terminal 13, and the encoded data P6 is inverted. The quantization unit 11 and the inverse DCT processing unit 12 perform the decoding process and store the result in the prediction memory “1” 8.
[0073]
After that, B6B, which is the B picture encoded data for backward prediction with a difference of 0, is read twice from the B and P picture encoded data generation unit 4 with a difference of 0 and output to the moving image data output terminal 13. To do.
Subsequently, it is determined that the first picture 7 is the same as the second picture 7 immediately after it, and the second picture 7 is the same as the third picture 7 immediately after it. It is counted that a B picture for backward prediction is required.
[0074]
The third picture 7 is compulsorily set as a P picture by the encoding control unit 5 in order to comply with the GOP configuration, and motion prediction compensation with the decoded data of P6 stored in the prediction memory “1” 8 Encoded data P7 subjected to the encoding process in the DCT processing unit 6 and the quantizing unit 7 for the subsequent difference is output to the moving image data output terminal 13, and the encoded data P7 is reversed. Decoding processing is performed by the quantization unit 11 and the inverse DCT processing unit 12 and stored in the prediction memory “2” 9.
Thereafter, B7B, which is the B picture encoded data for backward prediction with a difference of 0, is read from the B and P picture encoded data generation unit 4 with a difference of 0 for the two times counted previously and output to the moving picture data output terminal 13. To do.
[0075]
Encoding data shown in FIG. 4B can be generated by encoding according to the above procedure. Further, when the general MPEG decoding apparatus performs decoding processing on the encoded data shown in FIG. 4B, the display order is as shown in FIG. 4C.
[0076]
Next, a description will be given of a moving image encoding means for a moving image signal including a portion that shifts from 1 / 3-speed slow reproduction to normal reproduction.
When the moving picture signal shown in FIG. 5A is input, the first picture 0 is the same as the second picture 0 immediately after, and the second picture 0 is the same picture as the third picture 0 immediately after. Judgment is made and it is counted that two B pictures for backward prediction with difference 0 are necessary without encoding.
[0077]
In order to comply with the GOP configuration, the third picture 0 is forcibly set to an I picture by the encoding control unit 5 and encoded data I0 subjected to encoding processing by the DCT processing unit 6 and the quantization unit 7 Is output to the moving image data output terminal 13, and the encoded data I 0 is decoded by the inverse quantization unit 11 and the inverse DCT processing unit 12 and stored in the prediction memory “1” 8.
[0078]
After that, B0B, which is the B picture encoded data of the backward prediction with the difference 0, is read out from the B and P picture encoded data generation unit 4 with the difference 0 for the counted twice, and is output to the moving image data output terminal 13. To do.
Subsequently, it is determined that the first picture 1 is the same as the second picture 1 immediately after and the second picture 1 is the same image as the third picture 1 immediately after, and the difference between the two pictures is 0 without encoding. It is counted that a B picture for backward prediction is required.
[0079]
In order to comply with the GOP configuration, the third picture 1 is forcibly set to a P picture by the encoding control unit 5 and motion prediction compensation with the decoded data of I0 stored in the prediction memory “1” 8 Encoded data P1 subjected to the encoding process in the DCT processing unit 6 and the quantizing unit 7 for the subsequent difference is output to the moving image data output terminal 13, and the encoded data P1 is reversed. Decoding processing is performed by the quantization unit 11 and the inverse DCT processing unit 12 and stored in the prediction memory “2” 9.
[0080]
Thereafter, B1B, which is the B picture encoded data for backward prediction of difference 0, is read from the B and P picture encoded data generation unit 4 with difference 0 for the counted twice, and output to the moving picture data output terminal 13. To do.
Subsequently, it is determined that the first picture 2 is the same as the second picture 2 immediately after it, and the second picture 2 is the same image as the third picture 2 immediately after it. It is counted that a B picture for backward prediction is required.
[0081]
The third picture 2 is compulsorily set to a P picture by the encoding control unit 5 in order to comply with the GOP configuration, and motion prediction compensation with the decoded data of P1 stored in the prediction memory “2” 9 Encoded data P2 obtained by performing encoding processing in the DCT processing unit 6 and the quantizing unit 7 on the subsequent difference is output to the moving image data output terminal 13, and the encoded data P2 is reversed. The quantization unit 11 and the inverse DCT processing unit 12 perform the decoding process and store the result in the prediction memory “1” 8.
After that, B2B, which is the B picture encoded data for backward prediction of difference 0, is read twice from the B and P picture encoded data generation unit 4 with difference 0 and output to the moving image data output terminal 13. To do.
[0082]
Since picture 3 is not the same picture as immediately following picture 4 and picture 4 is immediately following picture 5, in order to comply with the GOP configuration, encoding control unit 5 forcibly sets the picture to B picture.
In order to comply with the GOP configuration, the picture 5 is forcibly set as a P picture by the encoding control unit 5 and the difference after motion prediction compensation with the decoded data of P2 stored in the prediction memory “1” 8 On the other hand, the encoded data P5 subjected to the encoding process in the DCT processing unit 6 and the quantization unit 7 is output to the moving image data output terminal 13, and the inverse quantization unit is applied to the encoded data P5. 11. The inverse DCT processing unit 12 performs the decoding process and stores it in the prediction memory “2” 9.
[0083]
Thereafter, with respect to pictures 3 and 4 set as B pictures, the decoded data stored in the prediction memory “1” 8, the decoded data of P5 stored in the prediction memory “2” 9 and their average motion Encoded data B3 and B4 obtained by performing encoding processing in the DCT processing unit 6 and the quantization unit 7 on the difference after the prediction compensation are output to the moving image data output terminal 13.
Subsequently, since the picture 6 is not the same picture as the immediately following picture 7 and the picture 7 is not the same picture as the immediately following picture 8, the encoding control unit 5 forcibly sets the picture to the B picture in order to comply with the GOP configuration.
[0084]
In order to comply with the GOP configuration, the picture 8 is forcibly set to a P picture by the encoding control unit 5 and the difference after motion prediction compensation with the decoded data of P5 stored in the prediction memory “2” 9 On the other hand, the encoded data P8 subjected to the encoding process in the DCT processing unit 6 and the quantization unit 7 is output to the moving image data output terminal 13, and the inverse quantization unit is applied to the encoded data P8. 11. The inverse DCT processing unit 12 performs the decoding process and stores it in the prediction memory “1” 8.
[0085]
Thereafter, for the pictures 6 and 7 set as the B picture, the decoded data of P8 stored in the prediction memory “1” 8, the decoded data of P5 stored in the prediction memory “2” 9 and the average thereof, The encoded data B6 and B7 subjected to the encoding process in the DCT processing unit 6 and the quantization unit 7 are output to the moving image data output terminal 13 for the difference after the motion prediction compensation.
[0086]
Encoding data shown in FIG. 5B can be generated by encoding according to the above procedure. Further, when the general MPEG decoding apparatus performs decoding processing on the encoded data shown in FIG. 5B, the display order is as shown in FIG. 5C.
In this way, even when the playback mode changes in the middle of the GOP structure, it can be applied to the moving picture encoding apparatus according to the present embodiment.
[0087]
<Moving image recording / playback device>
Next, a moving picture recording / reproducing apparatus using the moving picture coding apparatus according to the present invention will be described with reference to FIGS.
6 and 7 show a moving picture recording / reproducing apparatus using the moving picture encoding apparatus according to the present invention. FIG. 6 shows an example applied to the slow reproduction of the disc recording / reproducing apparatus, and FIG. A configuration example in the case where an input signal is decoded, MPEG-encoded again, and recorded and reproduced is shown.
[0088]
In FIG. 6, 21 is a moving image signal input terminal, 22 is a moving image input signal selector, 23 is an MPEG encoding unit described in the above embodiment, 24 is an MPEG decoding unit, and 25 is a recording / playback signal process for media. , 26 is an IEEE 1394 terminal for transmitting and receiving encoded data, 27 is a recording medium, 28 is a system controller that controls the entire recording / reproducing apparatus, and 29 is a moving image data output terminal.
In FIG. 7, the same blocks as those in FIG. 6 are denoted by the same reference numerals. Therefore, only the added blocks will be described. 30 decodes a DV compressed signal input via the IEEE 1394 terminal 26. A DV decoding unit 31 is a moving image output signal selector.
[0089]
In the moving image recording / reproducing apparatus configured as described above, a method of recording a moving image signal input from the moving image signal input terminal 21, slow reproduction of encoded data recorded on the recording medium 27, and MPEG encoding again. A method of outputting from the IEEE 1394 terminal 26 and a method of decoding the DV compressed signal input from the IEEE 1394 terminal 26, re-encoding it to MPEG, and recording it on the recording medium 27 will be specifically described.
The DV compressed signal is a compressed signal defined by “HD DIGITAL VCR CONFERENCE” and mainly used in a consumer digital VCR.
[0090]
First, a method for recording a moving image signal input from the moving image signal input terminal 21 will be described assuming that the recording medium 27 is a DVD.
The moving image signal input from the moving image signal input terminal 21 is supplied to the MPEG encoding unit 23 via the moving image input signal selector 22. The MPEG encoding unit 23 encodes the input moving image signal in the MPEG_PS format, which is a DVD recording format, and supplies it to the recording / playback signal processing unit 25. The recording / reproducing signal processing unit 25 performs error correction encoding and digital modulation processing for adding a parity for correcting an error that may occur at the time of reproduction on the encoded data, and records it on the recording medium 27. To do.
[0091]
Next, a description will be given of a method of performing MPEG encoding again and outputting from the IEEE 1394 terminal 26 when the encoded data recorded on the recording medium 27 is played back slowly.
The signal reproduced from the recording medium 27 is digitally demodulated by the recording / reproduction signal processing unit 25, and if there is an error during reproduction, correction processing is performed to reconstruct the original encoded data. The encoded data reproduced in this way is supplied to the MPEG decoding unit 24 based on an instruction from the system controller 28, and an MPEG decoding process is performed to restore a moving image signal.
[0092]
At the time of slow playback at 1/3 speed, the MPEG decoding unit 24 outputs the same moving image signal three times, thereby outputting the moving image signal as shown in FIG. The timing is transmitted to the system controller 28. The moving image signal is output from the moving image data output terminal 29 to an external device, and is also supplied to the MPEG encoding unit 23 via the moving image input signal selector 22.
The MPEG encoding unit 23 detects the screen switching by referring to the screen switching timing supplied from the system controller 28, and uses the method described in the above-described embodiment to input the moving image signal. Is encoded with MPEG to generate encoded data as shown in FIG.
[0093]
Since the MPEG stream format that can be input / output at the IEEE 1394 terminal 26 is defined in the MPEG_TS format, the MPEG stream is converted into the MPEG_TS format and output from the IEEE 1394 terminal 26 here. In this way, the MPEG_TS format signal output from the IEEE 1394 terminal 26 is received and decoded by a receiving apparatus having the IEEE 1394 terminal 26 (not shown), so that the moving picture recording / reproducing apparatus according to the present embodiment performs slow playback. The moving image signal obtained in this way can also be reproduced on the receiving device side.
In this embodiment, the example in which the data encoded by the MPEG encoding unit 23 is output via the IEEE 1394 terminal 26 is used. However, the data is recorded on another recording medium 27 or another recording medium (not shown). May be.
[0094]
<Recording method to recording media>
Next, a method of decoding a DV compressed signal input from the IEEE 1394 terminal 26, re-encoding it to MPEG, and recording it on the recording medium 27 will be described.
[0095]
A DV compressed signal input from an unshown DV recording / reproducing apparatus via the IEEE 1394 terminal 26 is supplied to the DV decoding unit 30.
The DV decoding unit 30 performs a decoding process on the DV compressed signal to restore the moving image signal. Here, when the DV recording / reproducing apparatus performs 1 / 3-speed slow reproduction, the DV compressed signal is different from MPEG and uses only intra-frame coding. Therefore, the same DV compressed signal is used every three frames. Is entered. Furthermore, since the additional information called VAUX data sent at the same time includes an identifier indicating whether or not the current frame FC (Frame Change Flag) is the same as the previous frame, the DV decoding unit 30 Then, by decoding and outputting the input DV compressed signal as it is, a moving image signal as shown in FIG. 2A is output, and the switching timing of the screen obtained by referring to the identifier FC is set in the system. Tell the controller 28.
[0096]
The moving image signal is output from the moving image data output terminal 29 to the external device via the moving image output signal selector 31 and is also supplied to the MPEG encoding unit 23 via the moving image input signal selector 22. .
The MPEG encoding section 23 refers to the screen switching timing supplied from the system controller 28 to detect the screen switching, MPEG-encodes the moving image signal using the above-described method, and the result shown in FIG. Coded data as shown is generated.
The recording / reproducing signal processing unit 25 performs error correction coding for adding a parity for correcting an error that may occur during reproduction to the coded data, and performs digital modulation processing on the recording medium 27. Record.
[0097]
In this way, even when the DV recording / reproducing apparatus performs slow reproduction, the input DV compressed signal can be decoded via the IEEE 1394 terminal 26, MPEG-encoded again, and recorded on the recording medium 27. it can.
In this embodiment, the example in which the data encoded by the MPEG encoding unit 23 is recorded on the recording medium 27 is used. However, the data may be output via the IEEE1394 terminal 26.
[0098]
As described above, by applying the moving image encoding apparatus according to the present invention to a moving image recording / reproducing apparatus, MPEG encoding can be efficiently performed when the same image is input during slow reproduction or still reproduction. The screen switching detection circuit inside the moving picture coding apparatus can be omitted by performing the screen switching detection by an instruction from the system controller with reference to the internal playback mode and additional information supplied from the outside. can do.
[0099]
【The invention's effect】
The moving picture coding apparatus according to the present invention performs coding by appropriately combining coded data of a B picture with a difference of 0 and normal coded data in coding when the same image signal is input in slow reproduction or the like. Generate data.
Therefore, when the encoded data is decoded, images that were the same image before encoding can be decoded as exactly the same image.
[0100]
In addition, the moving picture coding apparatus according to the present invention makes the number of pictures constituting a GOP variable below a set upper limit value, and appropriately changes the coded data of P or B pictures with a difference of 0 and normal coded data as appropriate. Combined to generate encoded data.
In addition, the moving picture coding apparatus according to the present invention sets the number of pictures constituting the GOP and the period in which the I picture or P picture appears, and selects the I picture, the P picture, and the B picture to match the setting. In addition, the number of pictures constituting the GOP is made variable below the set upper limit value, and the encoded data is generated by appropriately combining the encoded data of the P or B picture with the difference 0 and the normal encoded data.
Therefore, when the encoded data is decoded, the same image before encoding can be decoded as the same image, and the GOP configuration is advantageous for random access and GOP unit edit. be able to.
[0101]
In addition, the moving image encoding apparatus according to the present invention compares the moving image signal stored in the buffer memory for encoding by the moving image encoding means with the input moving image signal, immediately before or after. It is detected whether it is the same as the moving image signal of the frame.
Therefore, the encoding method described above can be applied to any input signal.
[0102]
In addition, the moving picture coding apparatus according to the present invention refers to switching information of a moving picture signal supplied from the outside, and whether the inputted moving picture signal is the same as the moving picture signal of the immediately preceding or following frame. Detect whether or not.
Therefore, the processing in the image switching detection unit can be reduced.
[0103]
The moving picture recording / reproducing apparatus according to the present invention refers to the moving picture signal switching information generated by the moving picture decoding means, and the moving picture of the frame immediately before or after the moving picture signal input to the moving picture coding apparatus is Whether the signal is the same is detected.
The moving picture recording / reproducing apparatus according to the present invention refers to moving picture signal switching information supplied from an external device, and the moving picture signal input to the moving picture coding apparatus is a moving picture of a frame immediately before or after the moving picture signal. Whether the signal is the same is detected.
Therefore, the processing in the image switching detection unit can be reduced.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a system configuration including a moving image encoding apparatus according to an embodiment of the present invention.
FIG. 2 is a schematic diagram illustrating an example of a moving image encoding operation timing for 1 / 3-speed slow playback.
FIG. 3 is a schematic diagram illustrating an example of a moving image encoding operation timing for 1 / 5-speed slow playback.
FIG. 4 is a schematic diagram illustrating an example of a video encoding operation timing with respect to a video signal including a portion that shifts from normal playback to 1 / 3-speed slow playback.
FIG. 5 is a schematic diagram illustrating an example of a moving image encoding operation timing for a moving image signal including a portion that shifts from 1 / 3-speed slow reproduction to normal reproduction.
FIG. 6 is a block diagram showing a configuration of a moving image recording / playback apparatus according to an embodiment of the present invention.
FIG. 7 is a block diagram showing a configuration of a moving image recording / reproducing apparatus that decodes a DV input signal, re-encodes the MPEG signal, and records / reproduces the encoded MPEG signal.
FIG. 8 is a block diagram illustrating a configuration example of a system including a conventional moving image re-encoding device.
FIG. 9 is a block diagram illustrating a configuration example of a video encoder in a conventional moving image re-encoding device.
FIG. 10 is a schematic diagram showing the operation timing of a conventional moving image re-encoding device.
[Explanation of symbols]
1 Video signal input terminal
2 Video signal storage buffer
3 Screen switching detection circuit
4 B and P picture encoded data generation unit with difference 0
5 Coding control unit
6 DCT processor
7 Quantization part
8 Prediction memory “1”
9 Prediction memory “2”
10 Averaging circuit
11 Inverse quantization section
12 Inverse DCT processing unit
13 Video data output terminal
21 Video signal input terminal
22 Video input signal selector
23 MPEG encoding section
24 MPEG decoding unit
25 Recording / playback signal processing section
26 IEEE1394 terminal
27 Recording media
28 System controller
29 Video signal output terminal
30 DV decoder
31 Video output signal selector
110 Data separator
111 Audio data buffer memory
112 Video data buffer memory
113 Sub-picture data buffer memory
114 Navigation data buffer memory
115 Audio decoder
116 Video decoder
117 Sub-picture decoder
118 Video overlay processor
119 Adder
120 GUI image signal generator
121 audio encoder
122 video encoder
123 frame memory
124 Re-encoding unit audio data buffer memory
125 Re-encoding unit moving image data buffer memory
126 Multiplexer
127 IEEE 1394 interface
128 Re-encoding unit
129 D / A converter for audio signal
130 D / A converter for video signal
131 Data memory
150 Optical disk device
151 voice data
152 video data
153 Sub-picture data
154 Navigation data
155 Audio signal
156 Video signal
157 Sub-video signal
158 video signal
159 GUI image signal
160 User operations
161, 162 Analog signal
164 encoding parameters
165 Motion vector information
170 Motion compensation unit
172 Motion compensation mode and DCT type determination unit
173 Rate control unit
174 DCT processor
175 Quantizer
176 Inverse quantization unit
177 Inverse DCT processing unit
178 Variable length coding unit
180 Generated code amount

Claims (7)

動画像信号を符号化するための動画像符号化装置において、
符号化する動画像信号が直前または直後のフレームの動画像信号と同一であるか否かを検出するための画像切り替え検出手段と、
動画像信号を符号化して動画像符号化データを生成するための動画像符号化手段と、
差分0のBピクチャの符号化データを生成するための差分0符号化データ生成手段と、
前記動画像符号化手段から出力される符号化データと前記差分0符号化データ生成手段から出力される符号化データを選択するための符号化データ選択手段と、
を備え、
前記符号化データ選択手段は、符号化する動画像信号が直後のフレームの画像と同一である場合には、前記差分0符号化データ生成手段から出力される差分0の逆方向予測のBピクチャ符号化データを選択し、符号化する動画像信号が直後のフレームの画像と異なる場合には、前記動画像符号化手段から出力される符号化データを選択することを特徴とする動画像符号化装置。
In a moving image encoding device for encoding a moving image signal,
Image switching detection means for detecting whether or not the moving image signal to be encoded is the same as the moving image signal of the immediately preceding or subsequent frame;
A moving image encoding means for encoding a moving image signal to generate moving image encoded data;
Difference 0 encoded data generating means for generating encoded data of a B picture of difference 0;
Encoded data selection means for selecting encoded data output from the moving image encoding means and encoded data output from the difference 0 encoded data generation means;
With
The encoded data selection means, when the moving image signal to be encoded is the same as the image of the immediately following frame, is a B picture code for backward prediction of difference 0 output from the difference 0 encoded data generation means. A moving picture coding apparatus that selects coding data and selects coding data output from the moving picture coding means when a moving picture signal to be coded is different from an image of the immediately following frame. .
GOPを構成するピクチャ数の上限を設定し、入力される動画像信号のスロー再生速度に応じて、GOPを構成するピクチャ数を設定した上限値以下で可変とすることを特徴とする請求項1記載の動画像符号化装置。  2. The upper limit of the number of pictures constituting the GOP is set, and the number of pictures constituting the GOP is made variable below the set upper limit according to the slow playback speed of the input moving image signal. The moving image encoding apparatus described. 動画像信号を符号化するための動画像符号化装置において、
符号化する動画像信号が直前または直後のフレームの動画像信号と同一であるか否かを検出するための画像切り替え検出手段と、
動画像信号を符号化して動画像符号化データを生成するための動画像符号化手段と、
差分0のBおよびPピクチャの符号化データを生成するための差分0符号化データ生成手段と、
前記動画像符号化手段から出力される符号化データと前記差分0符号化データ生成手段から出力される符号化データを選択するための符号化データ選択手段と、
を備え、
前記符号化データ選択手段は、符号化する動画像信号が直前または直後のフレームの画像と同一で、BピクチャまたはPピクチャとして符号化する場合には、前記差分0符号化データ生成手段から出力される差分0の逆方向予測のBピクチャ符号化データ、差分0の順方向予測のBピクチャ符号化データ、差分0の順方向予測のPピクチャ符号化データのうちのいずれかを選択し、符号化する動画像信号が直後のフレームの画像と異なる場合には、前記動画像符号化手段から出力される符号化データを選択することを特徴とする動画像符号化装置
In a moving image encoding device for encoding a moving image signal,
Image switching detection means for detecting whether or not the moving image signal to be encoded is the same as the moving image signal of the immediately preceding or subsequent frame;
A moving image encoding means for encoding a moving image signal to generate moving image encoded data;
Difference 0 encoded data generation means for generating encoded data of B and P pictures of difference 0;
Encoded data selection means for selecting encoded data output from the moving image encoding means and encoded data output from the difference 0 encoded data generation means;
With
The encoded data selection means outputs the difference 0 encoded data generation means when the moving image signal to be encoded is the same as the image of the immediately preceding or immediately following frame and is encoded as a B picture or P picture. Selected from the B picture encoded data of the backward prediction of the difference 0, the B picture encoded data of the forward prediction of the difference 0, and the P picture encoded data of the forward prediction of the difference 0. when the moving image signal that is different from the image immediately following frame, the video encoding apparatus and selects the coded data output from the video encoding means.
前記画像切り替え検出手段は、前記動画像符号化手段で符号化するためのバッファメモリに蓄積した動画像信号と、入力される動画像信号とを比較することにより、直前または直後のフレームの動画像信号と同一であるか否かを検出することを特徴とする請求項1または3記載の動画像符号化装置。  The image switching detection unit compares the moving image signal stored in the buffer memory for encoding by the moving image encoding unit with the input moving image signal, thereby moving the moving image of the immediately previous or next frame. 4. The moving picture coding apparatus according to claim 1, wherein it is detected whether or not the signal is the same. 前記画像切り替え検出手段は、外部から供給される動画像信号の切り替え情報を参照して、入力される動画像信号が直前または直後のフレームの動画像信号と同一であるか否かを検出することを特徴とする請求項1または3記載の動画像符号化装置。  The image switching detection means detects whether or not the input moving image signal is the same as the moving image signal of the immediately preceding or immediately following frame with reference to switching information of the moving image signal supplied from the outside. The moving picture coding apparatus according to claim 1 or 3, characterized in that: 動画像信号を符号化した符号化データを記録再生するための動画像記録再生装置において、
請求項1または3記載の動画像符号化装置と、
動画像符号化データを記録再生するための記録メディアと、符号化データを復号するための動画像復号化手段とを備え、
前記記録メディアに記録された信号のスロー再生あるいはスチル再生を行う場合に、前記動画像復号化手段により、復号した動画像信号が直前または直後のフレームの動画像信号と同一であるか否かの切り替え情報を生成し、前記動画像符号化装置内の画像切り替え検出手段により、前記切り替え情報を参照して直前または直後のフレームの動画像信号と同一であるか否かを検出することを特徴とする動画像記録再生装置。
In a moving image recording / reproducing apparatus for recording / reproducing encoded data obtained by encoding a moving image signal,
A video encoding device according to claim 1 or 3,
A recording medium for recording and reproducing moving image encoded data, and a moving image decoding means for decoding the encoded data,
When performing slow playback or still playback of the signal recorded on the recording medium, whether or not the video signal decoded by the video decoding means is the same as the video signal of the immediately preceding or subsequent frame Switching information is generated, and it is detected by the image switching detection means in the moving image encoding device whether or not it is the same as the moving image signal of the immediately preceding or immediately following frame with reference to the switching information. A moving image recording / reproducing apparatus.
動画像信号を符号化した符号化データを記録再生するための動画像記録再生装置において、
請求項1または3記載の動画像符号化装置と、
動画像符号化データを記録再生するための記録メディアと、
外部機器から供給される動画像符号化データを復号するための動画像復号化手段とを備え、
外部機器がスロー再生あるいはスチル再生を行う場合に、前記動画像復号化手段により、前記動画像符号化データに付加された画面切り替え情報に基づいて復号した動画像信号が直前または直後のフレームの動画像信号と同一であるか否かの切り替え情報を生成し、前記動画像符号化装置内の画像切り替え検出手段により、前記切り替え情報を参照して直前または直後のフレームの動画像信号と同一であるか否かを検出することを特徴とする動画像記録再生装置。
In a moving image recording / reproducing apparatus for recording / reproducing encoded data obtained by encoding a moving image signal,
A video encoding device according to claim 1 or 3,
A recording medium for recording and reproducing moving image encoded data;
Moving image decoding means for decoding moving image encoded data supplied from an external device,
When an external device performs slow playback or still playback, the moving image signal decoded based on the screen switching information added to the moving image encoded data by the moving image decoding means is the moving image of the frame immediately before or after Switching information as to whether or not it is the same as the image signal is generated, and the same as the moving image signal of the frame immediately before or after referring to the switching information by the image switching detecting means in the moving image encoding device A moving image recording / reproducing apparatus for detecting whether or not the moving image is recorded.
JP2002003724A 2002-01-10 2002-01-10 Moving picture encoding apparatus and moving picture recording / reproducing apparatus Expired - Fee Related JP3821714B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002003724A JP3821714B2 (en) 2002-01-10 2002-01-10 Moving picture encoding apparatus and moving picture recording / reproducing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002003724A JP3821714B2 (en) 2002-01-10 2002-01-10 Moving picture encoding apparatus and moving picture recording / reproducing apparatus

Publications (2)

Publication Number Publication Date
JP2003209801A JP2003209801A (en) 2003-07-25
JP3821714B2 true JP3821714B2 (en) 2006-09-13

Family

ID=27643246

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002003724A Expired - Fee Related JP3821714B2 (en) 2002-01-10 2002-01-10 Moving picture encoding apparatus and moving picture recording / reproducing apparatus

Country Status (1)

Country Link
JP (1) JP3821714B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4574530B2 (en) * 2005-12-05 2010-11-04 キヤノン株式会社 Image coding apparatus and image coding method
JP4992860B2 (en) 2008-08-13 2012-08-08 カシオ計算機株式会社 Imaging apparatus and program

Also Published As

Publication number Publication date
JP2003209801A (en) 2003-07-25

Similar Documents

Publication Publication Date Title
JP3752694B2 (en) COMPRESSED VIDEO SIGNAL EDITING DEVICE, EDITING METHOD, AND DECODING DEVICE
JPH05153577A (en) Moving picture decoder
JP2004534484A (en) Transform coding of video data stream
JP4337248B2 (en) Image information transmission apparatus, transmission system, and transmission method
JP2000165802A (en) Stream edit system and edit method
JP2008283432A (en) Image recording and reproducing device
JP3551887B2 (en) Moving image reproducing method and apparatus
JP4262139B2 (en) Signal processing device
JP3253530B2 (en) Video recording device
JP3821714B2 (en) Moving picture encoding apparatus and moving picture recording / reproducing apparatus
JP3590275B2 (en) Recording / reproducing apparatus, recording / reproducing method, and recording medium recording recording / reproducing program
JPH09116866A (en) Encoding method, encoding/decoding method and recording /reproducing device
JP4462559B2 (en) Trick playback content creation method and device, trick playback compressed video data transmission method and device, and trick playback content creation program
JP2010050616A (en) Recording device and recording method, reproduction device and reproduction method, program, and recording/reproducing device
JP4289055B2 (en) Transcoder and recording / reproducing apparatus using the same
JP4178521B2 (en) Encoded video signal recording method and video signal encoding apparatus
JP3663559B2 (en) Video coding method for real-time backward playback
JP3897783B2 (en) Image processing apparatus, control method therefor, computer program, and computer-readable storage medium
KR20040092584A (en) Apparatus and method for controlling bit rate of digital video data in reverse play
JP4523606B2 (en) Moving image recording method and moving image recording apparatus
JP2006319645A (en) Picture reproducer, method, program, and storage medium
JP3384563B2 (en) Optical disc, reproducing apparatus and reproducing method
JP4217504B2 (en) Image reproduction method and method
JP2005159832A (en) Signal processor
JP2004289876A (en) Recording device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040728

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060207

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060403

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060509

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060523

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060620

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060620

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100630

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100630

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110630

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120630

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120630

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130630

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees