JP2004364211A - 動画像復号化装置 - Google Patents
動画像復号化装置 Download PDFInfo
- Publication number
- JP2004364211A JP2004364211A JP2003163170A JP2003163170A JP2004364211A JP 2004364211 A JP2004364211 A JP 2004364211A JP 2003163170 A JP2003163170 A JP 2003163170A JP 2003163170 A JP2003163170 A JP 2003163170A JP 2004364211 A JP2004364211 A JP 2004364211A
- Authority
- JP
- Japan
- Prior art keywords
- frame
- difference
- decoded
- frames
- buffer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/78—Television signal recording using magnetic recording
- H04N5/782—Television signal recording using magnetic recording on tape
- H04N5/783—Adaptations for reproducing at a rate different from the recording rate
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/804—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
- H04N9/8042—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
Abstract
【課題】動画像復号化装置における滑らかな巻き戻し再生を行う。
【解決手段】多重化データ100を入出力インターフェイス11を介して蓄積メモリ13へ格納し(ステップST1)、符号化動画像データを分離して蓄積メモリへ格納する(ステップST2)。多重化データよりフレーム情報を取得して蓄積メモリへ格納する(ステップST3)。差分フレーム数N,正逆再生速度情報200より、巻き戻し再生における再生速度に対する倍率Dusr,動画像復号化装置の通常再生時における復号化速度に対する最大復号化速度に対する倍率Dmaxを取得し(ステップST11〜ステップST13)、復号化可能な差分フレームの範囲mを求め(ステップST14)、その中で差分フレームを少なくとも1つ選択する(ステップST15)。格納された符号化動画像データより基準フレームと選択された差分フレームを復号化し表示装置へ出力する。
【選択図】 図6
【解決手段】多重化データ100を入出力インターフェイス11を介して蓄積メモリ13へ格納し(ステップST1)、符号化動画像データを分離して蓄積メモリへ格納する(ステップST2)。多重化データよりフレーム情報を取得して蓄積メモリへ格納する(ステップST3)。差分フレーム数N,正逆再生速度情報200より、巻き戻し再生における再生速度に対する倍率Dusr,動画像復号化装置の通常再生時における復号化速度に対する最大復号化速度に対する倍率Dmaxを取得し(ステップST11〜ステップST13)、復号化可能な差分フレームの範囲mを求め(ステップST14)、その中で差分フレームを少なくとも1つ選択する(ステップST15)。格納された符号化動画像データより基準フレームと選択された差分フレームを復号化し表示装置へ出力する。
【選択図】 図6
Description
【0001】
【発明の属する技術分野】
この発明は、符号化された動画像データを復号化する装置に関し、さらに詳しくは、符号化動画像データの巻き戻し再生の制御に関する。
【0002】
【従来の技術】
今日、情報技術の発展により、MPEG規格などに基づいて蓄積メディアに圧縮保存された音声や動画像(映像)を再生して楽しむことが可能となった。MPEG規格は、動画像データを基準フレームと差分フレームとに符号化する符号化規格である。このようなデータ構造の符号化動画像データを復号化し表示する動画像復号化装置において、ユーザの指示に従い、早送りや巻き戻しのような特殊再生をサポートすることは、内容の検索を容易にかつ迅速に行うために重要な機能である。MPEG規格により圧縮された動画像の場合、高速な表示を行うためには動画像データの平均ビットレートよりも高いビットレートに対応した動画像復号化装置が必要となるため、コストの面でも好ましくない。したがって、表示ビットレートを一定に保ったままでの特殊再生の手法が必要となっていた。
【0003】
従来、動画像復号化装置で巻き戻し再生を行う場合は、MPEG規格により圧縮された符号化動画像データのうち、基準フレームのみを復号化し、それらを時間軸上で未来に存在するものから順に表示を行っていた。
【0004】
【特許文献1】
特開昭63−310293号公報
【0005】
【発明が解決しようとする課題】
しかし、基準フレームのみの表示では、基準フレーム間に存在する差分フレームをスキップして表示するため、滑らかな巻き戻し再生表示が困難であった。
【0006】
また、基準フレームの間隔が長く基準フレーム間に多くの差分フレームが含まれている場合では、巻き戻し再生表示の際、スキップする差分フレームの数が増えてしまうため、ユーザが所望するフレームを検索することが困難であった。
【0007】
この発明の目的は、滑らかな巻き戻し再生を可能とする動画像復号化装置を提供することである。
【0008】
【課題を解決するための手段】
この発明による動画像復号化装置は、符号化された動画像データ(符号化動画像データ)を復号化する装置である。符号化動画像データは、フレーム情報と、第1の基準フレームと、第2の基準フレームと、複数の差分フレームとを含む。フレーム情報は、符号化動画像データに含まれているフレームの時間軸上における並びを示す情報を含む。第1の基準フレームは、フレーム内予測符号化されたデータである。第2の基準フレームは、フレーム内予測符号化されかつ時間軸上で第1の基準フレームより未来に存在するデータである。複数の差分フレームは、時間軸上で第1の基準フレームと第2の基準フレームとの間に存在しかつ第1の基準フレームに基づいてフレーム間予測符号化されたデータである。動画像復号化装置は通常再生モードと巻き戻し再生モードを有する。動画像復号化装置は、解析部と、復号化部と、出力部とを備える。解析部は、複数の差分フレームのうち少なくとも1つを選択する。復号化部は、解析部によって選択された差分フレームと、第1の基準フレームおよび第2の基準フレームとを復号化する。出力部は、巻き戻し再生モードのとき、フレーム情報に基づいて、復号化部によって復号化された差分フレーム・第1の基準フレーム・第2の基準フレームを時間軸上で未来に存在するものから順に、すなわち第2の基準フレーム,差分フレーム,第1の基準フレームの順に表示装置へ出力する。
【0009】
上記動画像復号化装置では、巻き戻し再生モードのとき、第2の基準フレームと第1の基準フレームとの間に差分フレームを少なくとも1つ挿入して表示装置に出力する。したがって、表示装置に出力されるフレーム数は、復号化された基準フレームのみを出力する場合と比べて多くなる。これにより、基準フレームのみを選択して表示する場合に比べて滑らかな巻き戻し再生画像が可能となる。
【0010】
好ましくは、上記動画像復号化装置は、分離部をさらに備える。分離部は、AVデータから符号化動画像データを分離する。AVデータは、所定のファイルフォーマット(多重化規格)に従って符号化動画像データが多重化されている。
【0011】
好ましくは、上記所定のファイルフォーマットはASFまたはMP4である。
【0012】
好ましくは、上記解析部は、巻き戻し再生モードにおいて出力部から表示されるべきタイミングまでに第1の基準フレームに基づいて復号化することができる差分フレームの中から少なくとも1つを選択する。
【0013】
巻き戻し再生モードのとき、復号化部によって差分フレームが復号化されても、その差分フレームの復号化の完成が表示装置へ出力すべきタイミングに間に合わなければ、その差分フレームを表示装置へ出力することができない。つまり、復号化部によって差分フレームは復号化されたにもかかわらず、出力部によってその差分フレームは出力されず、滑らかな巻き戻し再生を行うことができない場合がある。
【0014】
上記動画像復号化装置においては、解析部は、第1の基準フレームに基づいて復号化する差分フレームの中で、復号化の完成が表示装置に出力されるべきタイミングよりも早いものを選択する。
【0015】
好ましくは、上記動画像復号化装置はバッファをさらに備える。バッファは、復号化部によって復号化した差分フレームを保存する。また、上記出力部は、巻き戻し再生モードのとき、フレーム情報に基づいて、バッファに保存された差分フレーム・上記復号化部によって復号化された第1および第2の基準フレームを時間軸上で未来に存在するものから順に表示装置へ出力する。
【0016】
復号化部の処理速度が出力部の処理速度よりも早い場合、復号化部は出力部の処理が終了まで待機しなければならない。したがって、復号化部の処理が滞ってしまう場合がある。
【0017】
上記動画像復号化装置においては、バッファは、復号化部によって復号化される復号化動画像データを保存した後、出力部へ復号化動画像データを受け渡す。このように、バッファは復号化部と出力部との間にて復号化部の処理速度と出力部の処理速度とを緩衝する。これにより、復号化部による処理を滞りなく行うことができる。
【0018】
好ましくは、上記復号化部は、通常再生モードにおいて復号化した差分フレームのうち解析部で選択された差分フレームをバッファに保存する。
【0019】
上記動画像復号化装置においては、巻き戻し再生モードにおいて、上記復号化部は、差分フレームを復号化せず基準フレームのみを復号化する。出力部は、復号化部によって復号化された基準フレームと、バッファに保存された差分フレームとを出力する。
【0020】
以上のように、上記動画像復号化装置では、復号化部は巻き戻し再生モードのとき、差分フレームを毎回復号化する必要がなく、基準フレームのみを復号化すればよいため、処理負荷を低減しながら滑らかな巻き戻し再生を行うことができる。
【0021】
好ましくは、上記復号化部はバッファに保存された差分フレームに基づいて別の差分フレームを復号化する。また、上記出力部は、巻き戻し再生モードのとき、フレーム情報に基づいて、バッファに保存された差分フレーム・上記復号化部によって復号化された差分フレームならびに第1および第2の基準フレームを時間軸上で未来に存在するものから順に表示装置へ出力する。
【0022】
上記動画像復号化装置においては、復号化部は、巻き戻し再生モードのとき、バッファに保存された差分フレームに基づいて別の差分フレームを復号化する。よって出力部により出力されるフレーム数は、このような復号化を行わない場合に比べて多くなる。また、表示装置へ出力すべき差分フレームの数が同じ場合には、上述の復号化を行わない場合と比べてバッファに保存すべき差分フレーム数が少なくて済む。
【0023】
以上のように、上記動画像復号化装置では、表示装置に出力されるフレーム数が増加するので滑らかな巻き戻し再生を行うことができる。もしくは、バッファに保存する差分フレーム数の減少によってバッファのメモリ容量を低減することができる。
【0024】
好ましくは、上記符号化動画像データは、第3の基準フレームと、複数の差分データとを含む。第3の基準フレームは、フレーム内予測符号化されかつ時間軸上で第1の基準フレームよりも過去に存在するデータである。複数の差分フレームは、第3の基準フレームと第1の基準フレームとの間に存在しかつ第3の基準フレームに基づいてフレーム間予測符号化されたデータである。上記解析部は、第3の基準フレームと第1の基準フレームとの間に存在する複数の差分フレームのうち少なくとも1つを選択する。上記復号化部は出力部による表示装置への出力と並行して、上記解析部によって選択された差分フレーム(第3の基準フレームと第1の基準フレームとの間に存在する差分フレーム)を復号化する。
【0025】
上記動画像復号化装置においては、復号化部は、出力部によって表示装置への出力がなされている間に並行して、次に出力部によって表示装置へ出力するのに必要となる差分フレーム(解析部によって選択された、第3の基準フレームと第1の基準フレームとの間に存在する差分フレーム)を復号化する。それにより、バッファは、並行して復号化を行わない場合と比べて、事前に保存しておく差分フレーム数は少なくて済む。
【0026】
以上のように、上記動画像復号化装置では、バッファに保存する差分フレーム数の減少によってバッファのメモリ容量を低減することができる。
【0027】
好ましくは、上記復号化部は、復号化した差分フレームをその解像度を下げてバッファに保存する。上記出力部は、保存された差分フレームを拡大して表示装置へ出力する。
【0028】
上記動画像復号化装置においては、復号化部は、復号化した差分フレームをその解像度を下げてバッファに保存する。これにより、バッファは、解像度を落とさない場合と比べて、差分フレームを多く保存することができる。出力部は、解像度を落とさない場合と比べて、表示装置へ出力されるフレーム数が増加する。このとき、画像の乱れが発生するが表示するフレーム数が増加することにより、巻き戻し再生モード時にユーザが求める瞬間のフレームを表示する可能性が高くなり、ユーザに対する動画像のシーン検索を容易にすることが可能となる。
【0029】
好ましくは、上記復号化部は、復号化した差分フレームをその解像度を下げてバッファに保存する。また、上記出力部はバッファに保存された差分フレームと上記復号化部によって復号化されたべつの差分フレームとを拡大して表示装置へ出力する。
【0030】
上記動画像復号化部においては、復号化部は、通常再生モードのときに、バッファに差分フレームをその解像度を下げて保存する。そして、巻き戻し再生モードのときに、復号化部は、バッファに保存された差分フレームに基づき復号化された新たな別の差分フレームを復号化する。バッファに保存された差分フレームに基づき復号化された新たな別の差分フレームは、解像度が低い。出力部は、これら上記復号化部で復号化されたフレームを出力するとき、解像度の低いフレームを拡大して表示装置へ出力する。よって、新たな別の差分フレームを復号化しない場合と比べて、画像の乱れが発生するが表示するフレーム数が増加することにより、巻き戻し再生モード時にユーザが求める瞬間のフレームを表示する可能性が高くなり、ユーザに対する動画像のシーン検索を容易にすることが可能となる。
【0031】
好ましくは、上記復号化部は、復号化した差分フレームをその解像度を下げてバッファに保存する。また、上記復号化部は、バッファに保存されている差分フレームを拡大し、それを用いて別の差分フレームを復号化する。
【0032】
上記動画像復号化部においては、復号化部は、通常再生モードのときに、バッファに差分フレームをその解像度を下げて保存する。そして、巻き戻し再生モードのときに、復号化部は、バッファに保存された差分フレームを拡大した後、その差分フレームに基づいて新たな別の差分フレームを復号化する。拡大した後の差分フレームに基づいて復号化された新たな差分フレームは、解像度が低い。上記出力部は、これら上記復号化部で復号化されたフレームを出力する。よって、新たな別の差分フレームを復号化しない場合と比べて、画像の乱れが発生するが表示するフレーム数が増加することにより、巻き戻し再生モード時にユーザが求める瞬間のフレームを表示する可能性が高くなり、ユーザに対する動画像のシーン検索を容易にすることが可能となる。
【0033】
好ましくは、上記復号化部は、巻き戻し再生モードから通常再生モードに切り替えるとき、表示装置に表示されている差分フレームの基準フレームより、その差分フレームを再復号化する。
【0034】
巻き戻し再生モードにおいて解像度の低い差分フレームが表示装置に表示されているときに巻き戻し再生モードが中断され通常再生モードに切り替わると、差分フレームを復号化する際、第1の基準フレームに基づいて行われるのではなく、表示装置に表示された解像度の低い差分フレームに基づいて行われる。よって、新たに復号化される差分フレームは、解像度が低いものになってしまい、画像表示が乱れて通常再生が行われてしまう。
【0035】
上記動画像復号化装置においては、復号化部は、巻き戻し再生モードから通常再生モードに切り替わったときに表示装置に表示されている差分フレームを、第1の基準フレームに基づいて再復号化する。これにより、表示装置に表示されている差分フレームは、解像度が本来のものに戻る。この結果、画像表示が乱れることなく通常再生を行うことができる。
【0036】
【発明の実施の形態】
以下、この発明の実施の形態を図面を参照して詳しく説明する。なお、図中同一または相当部分には同一の符号を付しその説明は繰り返さない。
【0037】
(第1の実施形態)
第1の実施形態による動画像再生システムの全体構成を図1に示す。このシステムは、多重化データ100に含まれる符号化動画像データの再生処理(通常再生・特殊再生)を行う。このシステムは、動画像復号化装置1と、表示装置2とを備える。動画像復号化装置1は、入出力インターフェイス11,15と、CPU12と、蓄積メモリ13と、フレームバッファ14とを備える。
【0038】
入出力インターフェイス11は、外部からの多重化データ100の入力処理を行う。
【0039】
CPU12は、多重化データの解析、フレーム情報の取得、符号化動画像データの復号化、および正逆再生速度情報200に応じた全体のコントロールを行う。正逆再生速度情報200は、ユーザから指定される再生方向および再生速度を示す。
【0040】
蓄積メモリ13は、多重化データ100、フレーム情報、および符号化動画像データを蓄積する。
【0041】
フレームバッファ14は、復号化された動画像データを蓄積する。
【0042】
入出力インターフェイス15は、フレームバッファ14に蓄積された復号化動画像データを表示装置2に出力する。
【0043】
次に、図1に示した動画像再生システムの動作について説明する。ここでは通常再生処理および巻き戻し再生処理について説明する。
【0044】
〔通常再生処理〕
正逆再生速度情報200が示す再生方向が正方向(順方向)であり再生速度が1倍(標準速度)であるとき通常再生モードとなりシステムは通常再生処理を行う。以下、通常再生処理について図2を参照しつつ説明する。
【0045】
〔ステップST1〕
入出力インターフェイス11を介して多重化データ100が動画像復号化装置1に入力される。多重化データ100の一例を図3に示す。多重化データ100は、ASFやMP4などの多重化規格(ファイルフォーマット)に基づいてフレーム情報,符号化動画像データ,符号化音声・オーディオデータ,符号化テキストデータなどがフレーム単位で多重化されたデータ(AVデータ)である。
【0046】
〔ステップST2〕
次に、CPU12によって、多重化データ100から符号化動画像データが分離される。分離された符号化動画像データは蓄積メモリ13に格納される。符号化動画像データの一例を図4に示す。符号化動画像データはMPEG規格に基づいて符号化されている。符号化動画像データは、基準フレームI1,12,…と差分フレームP1,P2,…とを含む。基準フレームI1,12,…は、フレーム内予測符号化されたデータである。差分フレームP1,P2,…は、基準フレームI1,12,…より順方向フレーム間予測符号化されたデータである。図4の例では基準フレーム間の差分フレームの数を14としている。差分フレームP1〜P14は基準フレームI1を基にして順方向フレーム間予測符号化されたデータであり、差分フレームP15〜P28は基準フレームI2を基にして順方向フレーム間予測符号化されたデータである。
【0047】
〔ステップST3〕
またCPU12は、多重化データ100からフレーム情報を取得し蓄積メモリ13に格納する。フレーム情報の一例を図5に示す。フレーム情報は、フレーム番号,フレーム属性,データ位置,表示時刻を含む。フレーム番号・フレーム属性・データ位置・表示時刻は、動画像データに含まれる各フレームについて設けられている。フレーム番号は、そのフレームが先頭フレームから何番目に当たるかを示す。フレーム属性は、そのフレームが基準フレーム(I)であるか差分フレーム(P)であるかを示す。データ位置は、そのフレームのデータが含まれている位置(先頭から何バイト目か)を示す。表示時刻は、Presentation Time Stamp(PTS)と呼ばれるAV同期のための表示タイミング情報であり、そのフレームを表示すべき時刻を示す。図5に示すフレーム情報では、時間軸上で過去に存在するフレームほど表示時刻の値が小さくなり、時間軸上で未来に存在するフレームほど表示時刻の値が大きくなっている。
【0048】
〔ステップST4〕
次に、CPU12は、蓄積メモリ13に格納された符号化動画像データを復号化する。基準フレームについては、その符号化データのみでフレームデータを復号化する。差分フレームについては、以前に復号化されたフレームデータとの差分データを用いてフレームデータを復号化する。
【0049】
〔ステップST5〕
ステップST4において復号化されたフレームデータは、フレームバッファ14に順次蓄積される。
【0050】
〔ステップST6〕
次に、入出力インターフェイス15は、フレームバッファ14に蓄積されたフレームデータを、フレーム情報の表示時刻の値が小さいフレームから順に表示装置2に出力する。表示装置2は、入出力インターフェイス15からのフレームデータを画面に表示する。
【0051】
〔巻き戻し再生処理〕
正逆再生速度情報200が示す再生方向が逆方向であるとき巻き戻し再生モードとなりシステムは巻き戻し再生処理を行う。以下、巻き戻し再生処理について、図6を参照しつつ説明する。
【0052】
〔ステップST1〕
入出力インターフェイス11を介して多重化データ100が動画像復号化装置1に入力される。
【0053】
〔ステップST2〕
次に、CPU12によって、多重化データ100から符号化動画像データが分離されて、分離された符号化動画像データは蓄積メモリ13に格納される。
【0054】
〔ステップST3〕
また、CPU12は、多重化データ100より、フレーム情報を取得し蓄積メモリ13に格納する。
【0055】
〔ステップST11〕
次に、CPU12は、蓄積メモリ13に蓄積されたフレーム情報を参照して、基準フレーム間に存在する差分フレームの枚数Nを取得する。
【0056】
〔ステップST12〕
また、CPU12は、正逆再生速度情報200より、巻き戻し再生時における再生速度の通常速度に対する倍率Dusrを取得する。
【0057】
〔ステップST13〕
また、CPU12は、動画像復号化装置1の通常再生時における復号化速度に対して可能となる最大符号化速度の倍率Dmax、および基準フレーム間に存在するN枚の差分フレームを通常再生時における復号化速度で全て復号化するのにかかる時間Tを取得する。
【0058】
〔ステップST14〕
次に、CPU12によって、ステップST11からステップST13までで取得した情報に基づき、巻き戻し再生時に復号化することができる差分フレームの限界枚数mを算出する。
【0059】
以下に、図7を参照し、巻き戻し再生時に復号化することができる差分フレームの限界枚数mの算出方法を説明する。
【0060】
ここで、基準フレームI1からm枚目の差分フレームPmを基準フレームI2の次に表示するものとする。差分フレームPmを実際に復号化するのにかかる時間Tdは、動画像復号化装置1の通常再生時における復号化速度に対して可能となる最大復号化速度の倍率Dmaxと、基準フレーム間に存在する差分フレームの枚数Nと、基準フレーム間に存在するN枚の差分フレームを通常再生時における復号化速度で全て復号化するのにかかる時間Tと、基準フレームI1から指定したい差分フレームPmまでの枚数mとを用い、数1のように示すことができる。
【0061】
【数1】
【0062】
また、巻き戻し再生時における基準フレームI2の表示時刻から差分フレームPmの表示時刻までの時間Tpは、正逆再生速度情報200でユーザに指示された巻き戻し速度の通常再生速度に対する倍率Dusrと、基準フレーム間に存在する差分フレームの枚数Nと、基準フレーム間に存在するN枚の差分フレームを通常再生時における復号化速度で全て復号化するのにかかる時間Tと、基準フレームI1から指定したい差分フレームPmまでの枚数mとを用い、数2のように示すことができる。
【0063】
【数2】
【0064】
基準フレームI2の次に差分フレームPmを表示すべき時刻までに差分フレームPmの復号化が終了している必要があるため、数3のような関係が成り立つ必要がある。
【0065】
【数3】
Td≦ Tp
よって先程の数1〜数3より、数4となる。
【0066】
【数4】
【0067】
数4より、差分フレームの限界枚数mは、数5のように示すことができる。
【0068】
【数5】
【0069】
以上のように、巻き戻し再生時に復号化することができる差分フレームの限界枚数mを算出する。
【0070】
〔ステップST15〕
次に、CPU12は、ステップST14で算出した限界枚数mの範囲内にある差分フレームPx(P1≦Px≦Pm)を少なくとも1枚選択する(図7参照)。
【0071】
〔ステップST16〕
次に、CPU12は、蓄積メモリ13に格納された符号化動画像データの復号化を行う。図8に示すように、基準フレームに対しては全て復号化するが、差分フレームに対しては差分フレームP1からステップST15で選択された差分フレームPxまでを復号化する。
【0072】
〔ステップST17〕
次に、CPU12は、図9に示すように、基準フレームの復号化データとステップST15で選択された差分フレームPxの復号化データとをフレームバッファ14に蓄積する。
【0073】
〔ステップST18〕
次に、入出力インターフェイス15によって、フレームバッファ14に格納された復号化データが表示装置2へ出力される。その際、ステップST3で取得したフレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照し、表示時刻の値が大きいものから順に出力する。ここでは図10に示すように、基準フレームI2の復号化データ,差分フレームPxの復号化データ,基準フレームI1の復号化データの順に出力される。
【0074】
以下に、ステップST11からステップST18までの処理を例を挙げて説明する。
【0075】
まず、ステップST11からステップST13において、図11のように、動画像復号化装置1の通常再生時における復号化速度に対して可能となる最大復号化速度の倍率Dmaxが5倍(Dmax=5)、ユーザに指示された巻き戻し速度の通常再生速度からの倍率Dusrが2倍(Dusr=2)、基準フレーム間に存在する差分フレームの枚数Nが14枚(N=14)と抽出されたとする。
【0076】
次に、ステップST14において、数5にそれらの値を代入すると数6のようになる。
【0077】
【数6】
【0078】
数6より、巻き戻し再生時に復号化することができる差分フレームの限界枚数mは、図11のように、10枚(m=10)となる。すなわち10枚目(P10)までの差分画像のデコードを行うことが可能となる。また、差分画像の枚数は14枚であるので、表示を行わない差分画像は4枚(P11〜P14)となる。動画像復号化においては、表示を行わない差分画像の枚数を一定にすればより滑らかな画像になるのでCPU12は、フレーム情報のフレーム位置および表示時刻を参照して、一定間隔で差分画像の表示が行われるように差分フレームを選択する。ここでは図12のように、ステップST15において選択可能な10枚のフレームの中から差分フレームP5および差分フレームP10を選択する。
【0079】
次に、ステップST16において、基準フレームI2、基準フレームI1の順に復号化する。次に、基準フレームI1を基にして差分フレームP1〜P10を復号化する。
【0080】
次に、ステップST17において、ステップST16で復号化されたフレームデータのうち、基準フレームI2の復号化データと、基準フレームI1の復号化データと、ステップST15で選択された差分フレームP5およびP10の復号化データとをフレームバッファ14に蓄積する。
【0081】
次に、ステップST18において、ステップST3で取得したフレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照し、基準フレームI2の復号化データ、差分フレームP10の復号化データ、差分フレームP5の復号化データ、基準フレームI1の復号化データの順に表示装置2へ出力される。
【0082】
以上のように第1の実施形態では、巻き戻し再生時に基準フレームのみを復号化し表示するのではなく、基準フレーム間に存在する差分フレームのうち少なくとも1枚を復号化し基準フレームの間に表示するため、巻き戻し再生時に表示するフレーム数が増加し、滑らかな巻き戻し再生画像を得られる。
【0083】
なお、巻き戻し処理の際ステップST11からステップST13において、動画像復号化装置1の通常再生時における復号化速度に対して可能となる最大復号化速度の倍率Dmaxを取得しこれを用いて限界枚数mを算出した。このようにすると限界枚数mを最大にすることができる。最大の倍率Dmaxよりも小さな値を最大の倍率Dmaxの代わりに用いて限界枚数mを算出してもいい。しかし、そのように算出された限界枚数mはDmaxを用いて算出した場合よりも小さくなる。
【0084】
また、巻き戻し処理の際、例としてステップST15において差分フレームP5およびP10を選択したのは、表示の際フレーム間隔が一定である方がより滑らかな巻き戻し再生画像が得られるためである。
【0085】
(第2の実施形態)
第2の実施形態による動画像再生システムの全体構成は図1に示したものと同じであるがCPU12の動作が異なる。
【0086】
次に、第2の実施形態による動画像再生システムにおける通常再生処理について、図13および図14を参照しつつ説明する。
【0087】
〔通常再生処理〕
〔ステップST1〜ステップST5〕
第1の実施形態と同様に、通常再生時のステップST1からステップST5における処理が行われフレームバッファ14に復号化動画像データ(フレームデータ)が蓄積される。
【0088】
〔ステップST3,ステップST11〜ステップST15〕
また、第一の実施形態では巻き戻し再生時に行っていたステップST3、およびステップST11からステップST15における処理が行われ差分フレームPxが選択される。
【0089】
〔ステップST21〕
次に、CPU12によって、フレームバッファ14に蓄積されたフレームのうちステップST15で選択された差分フレームPxは、出力された後もフレームバッファ14に残るように保存される。第1の実施形態では、フレームバッファ14のメモリを有効に使うため、フレームバッファ14に蓄積されたフレームは出力されるとフレームバッファ14から消去され、続いて新たなフレームがフレームバッファ14に蓄積される。
【0090】
〔ステップST6〕
次に、第1の実施形態と同様に、通常再生のステップST6が行われる。保存された差分フレームPxの復号化データはフレームバッファ内に残る。
【0091】
次に、巻き戻し再生処理について、図15および図16を参照しつつ説明する。
【0092】
〔巻き戻し再生処理〕
〔ステップST1,ステップST2〕
第1の実施形態と同様にステップST1およびステップST2における処理が行われる。
【0093】
〔ステップST31〕
次に、CPU12は、ステップST2で得られた符号化動画像データのうち基準フレームI1,I2を復号化する。
【0094】
〔ステップST32〕
次に、CPU12は、ステップST31で復号化された基準フレームI1,I2をフレームバッファ14に蓄積する。フレームバッファ14には、すでにステップST21で(通常再生時に)差分フレームPxの復号化データが蓄積されている。
【0095】
〔ステップST33〕
次に、出力インターフェイス15によって、フレームバッファ14内の復号化データ(基準フレームI1,I2の復号化データ、およびすでに保存されていた差分フレームPxの復号化データ)はフレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して表示時刻の値が大きい順に表示装置2に出力される。表示装置2は、基準フレームI2,差分フレームPx,基準フレームI1の順に画面に表示(巻き戻し再生表示)する。
【0096】
このように、通常再生時に差分フレームPxをフレームバッファ14内に保存することによって、巻き戻し再生時に表示する差分フレームPxの復号化処理を巻き戻し時に行う必要がなくなる。これにより、第1の実施形態と比べてCPU12の処理負担を低減することができ、同時に第1の実施形態の効果も得ることができる。
【0097】
(第3の実施形態)
第3の実施形態による動画像再生システムの全体構成は図1に示したものと同じであるが、CPU12の動作が異なる。また、第3の実施形態は、第2の実施形態の巻き戻し再生処理において、フレームバッファ14に保存された差分フレームに基づき新たに別の差分フレームを復号化する処理をさらに行う。
【0098】
次に、第3の実施形態による動画像再生システムにおける通常再生処理について、図13および図18を参照しつつ説明する。
【0099】
〔通常再生処理〕
第2の実施形態と同様の処理が行われて、ステップST21においてフレームバッファ14に差分フレームPxが保存される。
【0100】
次に、第3の実施形態による動画像再生システムにおける巻き戻し再生処理について、図17および図18を参照しつつ説明する。
【0101】
〔巻き戻し再生処理〕
〔ステップST1,ステップST2〕
まず、第1の実施形態と同様に、ステップST1,ステップST2が行われる。
【0102】
〔ステップST3,ステップST11〜ステップST15〕
また、第1の実施形態と同様に、ステップST15までの処理が行われ差分フレームP2,Px,Pzが選択される。
【0103】
〔ステップST41〕
次に、CPU12によって、ステップST2で格納された符号化動画像データは復号化される。ここで復号化される差分フレームは、基準フレームI1より復号化されるものP2とフレームバッファ14に保存された差分フレームPxより復号化されるものPzとがある。なお、ステップST15において選択された差分フレームPxについては通常再生時に復号化されステップST21でフレームバッファ14にすでに保存されている。
【0104】
〔ステップST42〕
次に、CPU12によって、復号化されたフレームデータはフレームバッファ14に格納される。基準フレームI2,I1の復号化データは全て格納され、差分フレームの復号化データについてはステップST15において選択された差分フレームP2、Px、Pzの復号化データのみが格納される。
【0105】
〔ステップST43〕
次に、入出力インターフェイス15によって、フレームバッファ14に格納されたフレームデータは、フレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して、基準フレームI2,差分フレームPz,差分フレームPx,差分フレームP2,基準フレームI1の順に表示装置2へ出力される。
【0106】
このように、通常再生時にフレームバッファ14に保存された差分フレームPxおよび基準フレームI1より新たに別の差分フレームPz,P2を巻き戻し再生時に復号化することによって、通常再生時にフレームバッファ14に保存する差分フレーム数が第2の実施形態の場合と等しくても表示するフレーム数が増加し(上述の例では差分フレームP2,Pzの分だけ増加する。)、第2の実施形態と比べてより滑らかな巻き戻し再生を行うことができる。また、第2の実施形態と表示するフレーム数が等しくてもフレームバッファ14に保存する差分フレーム数が減少しフレームバッファ14に必要となるメモリ容量を低減することができる。例えば上述の例の場合、第2の実施形態では通常再生時に3つの差分フレームP2,Px,Pzをフレームバッファ14に保存しておく必要がある。これに対して第3の実施形態では1つの差分フレームPxを保存しておくだけでよい。
【0107】
(第4の実施形態)
第4の実施形態による動画像再生システムの全体構成は、図1に示した第1の実施形態によるものと同じであるがCPU12の動作が異なる。また、第4の実施形態では、第2の実施形態の巻き戻し再生処理において、フレームバッファ14に保存されている差分フレームを用いて巻き戻し再生表示している間に、次に表示のために必要な差分フレームを復号化する処理を並行して行う。
【0108】
次に、第4の実施形態による動画像再生システムにおける通常再生処理について、図13および図20を参照しつつ説明する。
【0109】
〔通常再生処理〕
第2の実施形態と同様の処理が行われ、ステップST21の処理においてフレームバッファ14に差分フレームPxが保存される。
【0110】
次に、第4の実施形態による動画像再生システムにおける巻き戻し再生処理について、図15、図19および図20を参照しつつ説明する。
【0111】
〔巻き戻し再生処理〕
第2の実施形態と同様にステップST1,ステップST2,ステップST31,ステップST21,ステップST32,ステップST33の処理(図15に示す処理)が行われ基準フレームI2,差分フレームPx,基準フレームI1が表示装置2に順次出力される。
【0112】
また一方で以下の処理(図19に示す処理)を並行して行う。
【0113】
〔ステップST1,ステップST2,ステップST31〕
まず、第2の実施形態と同様に、ステップST1,ステップST2,ステップST31の処理を行い、基準フレームI3が復号化される。
【0114】
〔ステップST3,ステップST11〜ステップST15〕
また、第2の実施形態と同様にステップST15までの処理が行われ、差分フレームPAが選択される。
【0115】
〔ステップST51〕
次に、CPU12によって、ステップST31で復号化された基準フレームI3を基にしてステップST15で選択された差分フレームPAが復号化される。
【0116】
〔ステップST21〕
次に、CPU12によって、ステップST31で復号化された基準フレームI3と復号化された差分フレームのうちステップST15で選択された差分フレームPAとがフレームバッファ14に保存される。
【0117】
以上の処理を表示装置2への出力と並行して行う。つまり、第2の実施形態の巻き戻し再生時(図15参照)に上述の処理を行う。
【0118】
このように、基準フレームI2,差分フレームPx,基準フレームI1の表示装置2への出力処理の間に基準フレームI3・差分フレームPAの復号化・フレームバッファ14への保存が行われる。
【0119】
また、もう一方の処理(図15に示す処理)のステップST33では次のように行われる。
【0120】
〔ステップST33〕
ステップST33の処理において、基準フレームI2,差分フレームPx,基準フレームI1が表示装置2へ出力された後に、動画像データ出力インターフェイス15によって、フレームバッファ14に新たに蓄積された復号化動画像データ(基準フレームI3,差分フレームPA)はフレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して表示時刻の値が大きい順に(基準フレームI1の次に差分フレームPA,基準フレームI3の順に)順次出力される。
【0121】
このように、フレームバッファ14に保存されたフレームを出力している間に、次に表示するために必要となる差分フレームを並行して復号化することによって、フレームバッファ14に保存しておく差分フレーム数が少なくて済むので第2の実施形態と比べフレームバッファ14のメモリ容量が少なくて済む。
【0122】
(第5の実施形態)
第5の実施形態による動画像再生システムの全体構成は図1に示した第1の実施形態によるものと同じであるが、CPU12の動作が異なる。第5の実施形態では、通常再生時にフレームバッファ14に差分フレームを保存する際にその差分フレームの解像度を下げて保存し、巻き戻し再生時に解像度が下げられた差分フレームを拡大表示して表示装置2へ出力する。
【0123】
次に、第5の実施形態による動画像再生システムにおける通常再生処理について、図21および図23を参照しつつ説明する。
【0124】
〔通常再生処理〕
〔ステップST1〜ステップST5〕
まず、第2の実施形態と同様に、通常再生時のステップST1からステップST5までの処理が行われフレームバッファ14に復号化動画像データが蓄積される。
【0125】
〔ステップST3,ステップST11〜ステップST15〕
また一方で、第2の実施形態と同様に、ステップST15までの処理を行い差分フレームPxが選択される。
【0126】
〔ステップST61〕
次に、CPU12によって、フレームバッファ14に蓄積されたフレームのうちステップST15で選択された差分フレームPxは、出力された後もフレームバッファ14に残るように保存される。フレームバッファ14に保存する際、差分フレームPxは解像度を下げて保存される。
【0127】
〔ステップST6〕
次に、第2の実施形態と同様にステップST6が行われる。このとき、ステップST15で選択された差分フレームPxのみフレームバッファ14内に残る。
【0128】
次に、第5の実施形態による動画像再生システムの巻き戻し再生処理について、図22および図23を参照しつつ説明する。
【0129】
〔巻き戻し再生処理〕
〔ステップST1,ステップST2,ステップST31〕
まず、第2の実施形態と同様に、ステップST1,ステップST2,ステップST31が行われ、基準フレームI2,I1が復号化される。
【0130】
〔ステップST62〕
次に、ステップST31で復号化された基準フレームI2,I1をフレームバッファ14に蓄積する。フレームバッファ14には、すでにステップST61で(通常再生時に)差分フレームPxの復号化データ(解像度が低いもの)が蓄積されている。
【0131】
〔ステップST63〕
次に、CPU12によって、フレームバッファ14に保存された差分フレームPxの復号化データが拡大される。
【0132】
〔ステップST33〕
次に、ステップST33において、フレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照してフレームバッファ14内の復号化動画像データ(基準フレームI2,I1および差分フレームPx)は表示時刻の値が大きい順に(基準フレームI2,差分フレームPx,基準フレームI1の順に)出力される。差分フレームPxについてはステップST63で拡大されたものが出力される。
【0133】
このように、通常再生時に差分フレームを解像度を下げてフレームバッファ14内に保存することによって、第2の実施形態に比べて、フレームバッファ14に保存する差分フレーム数を多くすることができる(フレームバッファ14の容量が同じ場合)。解像度を下げたものを拡大表示するため表示装置2に表示される画像の乱れは発生するが、表示するフレーム数を増やすことにより、巻き戻し再生時にユーザが求める瞬間のフレームを表示する可能性が高くなり、ユーザに対する動画像のシーン検索を容易にすることが可能となる。
【0134】
(第6の実施形態)
第6の実施形態による動画像再生システムの全体構成は図1に示した第1の実施形態によるものと同じであるが、CPU12の動作が異なる。第6の実施形態では、フレームバッファ14に差分フレームを保存する際、解像度を下げて保存し、巻き戻し再生処理においてフレームバッファ14に保存された解像度が下げられた差分フレームに基づき新たに別の差分フレームを復号化し、それらの解像度が下げられた差分フレームを拡大して表示装置2へ出力する。
【0135】
次に、第6の実施形態による動画像再生システムにおける通常再生処理について、図21および図25を参照しつつ説明する。
【0136】
〔通常再生処理〕
第5の実施形態と同様の処理が行われ、ステップST61においてフレームバッファ14に差分フレームPxの復号化データ(解像度が低いもの)が保存される。
【0137】
次に、第6の実施形態による動画像再生システムにおける巻き戻し再生処理について、図24および図25を参照しつつ説明する。
【0138】
〔巻き戻し再生処理〕
〔ステップST1,ステップST2〕
まず、第3の実施形態と同様に、ステップST1、ステップST2が行われる。
【0139】
〔ステップST3,ステップST11〜ステップST15〕
また、第3の実施形態と同様に、ステップST15までの処理が行われ差分フレームP2,Px,Pzが選択される。
【0140】
〔ステップST41〕
次に、第3の実施形態と同様にステップST41が行われ、ステップST2で格納された符号化動画像データより基準フレームI1を復号化し、復号化基準フレームI1を基にしてステップST15で選択された差分フレームP2を復号化する。また、CPU12は、ステップST61で(通常再生時に)フレームバッファ14に保存された復号化差分フレームPxよりステップST15で選択された差分フレームPzを復号化する。つまり、差分フレームは基準フレームI1より復号化されるものP2と、解像度の下げられた復号化差分フレームPxより復号化されるものPzとがある。
【0141】
〔ステップST42〕
次に、第3の実施形態と同様にステップST42が行われ、復号化された基準フレームI2,I1、基準フレームI1を基にして復号化された差分フレームP2、および解像度が下げられた復号化差分フレームPxより復号化された差分フレームPzをフレームバッファ14に蓄積する。差分フレームPxはすでに通常再生時にフレームバッファ14に蓄積されている。
【0142】
〔ステップST63〕
次に、第5の実施形態と同様にステップST63が行われ、解像度の下げられた復号化差分フレームPx、Pzは拡大される。つまり、通常再生時にフレームバッファ14に保存された復号化差分フレームPxと復号化差分フレームPxより復号化された差分フレームPzとが拡大される。
【0143】
〔ステップST43〕
次に、第3の実施形態と同様にステップST43が行われ、フレームバッファ14内の復号化動画像データは、フレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して表示時刻の値が大きい順(基準フレームI2,差分フレームPz,差分フレームPx,差分フレームP2,基準フレームI1の順)に表示装置2へ出力される。
【0144】
このように、フレームバッファ14に差分フレームを解像度を下げて保存し、フレームバッファ14に保存した差分フレームより新たに別の差分フレームを巻き戻し再生時に復号化することによって、第5の実施形態とフレームバッファに保存する差分フレーム数が等しくても表示するフレーム数が増加し第5の実施形態より滑らかな巻き戻し再生を行うことができる。また、第5の実施形態と表示するフレーム数が等しくてもフレームバッファ14に保存する差分フレーム数が減少しフレームバッファ14に必要となるメモリ容量を低減することができる。
【0145】
また、第3の実施形態と比較すると、フレームバッファ14に解像度が下げられた差分フレームを保存することによって同一メモリ容量に対して保存することができる差分フレーム数を増やすことができる。
【0146】
(第7の実施形態)
第7の実施形態による動画像再生システムの全体構成は図1に示した第1の実施形態によるものと同じであるが、CPU12の動作が異なる。第7の実施形態では、第3の実施形態においてフレームバッファ14に差分フレームを保存する際、解像度を下げて保存し、巻き戻し再生処理においてフレームバッファ14に保存された解像度が下げられた差分フレームを拡大し、その拡大された差分フレームに基づき新たに別の差分フレームを復号化して表示装置2へ出力する。
【0147】
次に、第7の実施形態による動画像再生システムにおける通常再生処理について図21および図27を参照しつつ説明する。
【0148】
〔通常再生処理〕
第5の実施形態と同様の処理が行われ、ステップST61においてフレームバッファ14に差分フレームPxの復号化データ(解像度が低いもの)が保存される。
【0149】
次に、第7の実施形態による動画像再生システムにおける巻き戻し再生処理について、図26および図27を参照しつつ説明する。
【0150】
〔巻き戻し再生処理〕
〔ステップST1,ステップST2〕
まず、第3の実施形態と同様に、ステップST1、ステップST2が行われる。
【0151】
〔ステップST3,ステップST11〜ステップST15〕
また、第1の実施形態と同様にステップST15までが行われ差分フレームP2,Px,Pzが選択される。
【0152】
〔ステップST63〕
また、第5の実施形態と同様にステップST63が行われ、ステップST61で(通常再生時に)解像度を下げて保存された復号化差分フレームPxが拡大される。
【0153】
〔ステップST41〕
次に、第3の実施形態と同様にステップST41が行われ、ステップST2で格納された符号化動画像データより基準フレームI2,I1を復号化し、復号化基準フレームI1よりステップST15で選択された差分フレームP2を復号化する。また、CPU12は、ステップST63で拡大された復号化差分フレームPxよりステップST15で選択された差分フレームPzを復号化する。つまり、差分フレームは基準フレームI1より復号化されるものP2と、拡大された復号化差分フレームPxより復号化されるものPzとがある。
【0154】
〔ステップST42〕
次に、第3の実施形態と同様にステップST42が行われ、復号化された基準フレームI2,I1、基準フレームI1より復号化された差分フレームP2、および拡大された復号化差分フレームPxより復号化された差分フレームPzをフレームバッファ14に蓄積する。差分フレームPxはすでに通常再生時にフレームバッファ14に蓄積されている。
【0155】
〔ステップST43〕
次に、第3の実施形態と同様にステップST43が行われ、復号化動画像データは、フレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して表示時刻の値が大きい順(基準フレームI2,差分フレームPz,差分フレームPx,差分フレームP2,基準フレームI1の順)に表示装置2へ出力される。
【0156】
このように、フレームバッファ14に差分フレームを解像度を下げて保存し、フレームバッファ14に保存した差分フレームより新たに別の差分フレームを巻き戻し再生時に復号化することによって、第5の実施形態とフレームバッファ14に保存する差分フレーム数が等しくても表示するフレーム数が増加し第5の実施形態より滑らかな巻き戻し再生を行うことができる。また、第5の実施形態と表示するフレーム数が等しくてもフレームバッファ14に保存する差分フレーム数が減少しフレームバッファ14に必要となるメモリ容量を低減することができる。
【0157】
また、第3の実施形態と比較すると、フレームバッファ14に解像度が下げられた差分フレームを保存することによって同一メモリ容量に対して保存することができる差分フレーム数を増やすことができる。
【0158】
(第8の実施形態)
第8の実施形態による動画像再生システムの全体構成は図1に示した第1の実施形態によるものと同じであるが、CPU12の動作が異なる。第8の実施形態では、第5の実施形態から第7の実施形態のいずれかにおいて、ユーザから特殊再生(ここでは巻き戻し再生)中断が指示された場合、現在表示中の解像度が下げられた差分フレームを元の解像度の差分フレームに代えて通常再生を行う。
【0159】
次に、第8の実施形態による動画像再生システムにおける巻き戻し再生処理から通常再生処理への切替処理について、図28および図29を参照しつつ説明する。
【0160】
〔切替処理〕
〔ステップST71〕
まず、入出力インターフェイス15によって、巻き戻し再生処理の出力が行われる。このとき、基準フレーム間には解像度が下げられた差分フレームが表示されている。
【0161】
〔ステップST72〕
次に、ユーザから特殊再生(巻き戻し再生)中断の指示が送られる。それによって入出力インターフェイス15は復号化動画像データの出力を一時停止する。
【0162】
〔ステップST73〕
次に、CPU12によって、表示装置2に現在表示中のフレームについてのフレーム情報を取得する。
【0163】
〔ステップST74〕
次に、CPU12によって、ステップST73で取得したフレーム情報を参照してステップST2で蓄積メモリ13に格納された符号化動画像データよりその差分フレームの基となる基準フレームを検索する。
【0164】
〔ステップST75〕
次に、CPU12によって、ステップST74で検索された基準フレームより差分フレームを順次復号化する。
【0165】
〔ステップST76〕
次に、CPU12によって、ステップST75で復号化された復号化動画像データのうち現在表示中のフレーム以降のフレームをフレームバッファ14に順次蓄積する。
【0166】
〔ステップST77〕
次に、入出力インターフェイス15によって、ステップST76で蓄積された復号化動画像データはフレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して表示時刻の値が小さい順に表示装置2へ出力される。
【0167】
このように、特殊再生中断時に表示中のフレームが解像度の下げた差分フレームの場合、符号化動画像データよりその差分フレームの基となる基準フレームを検索し、直ちにそのデータを用いて通常の解像度にて現在表示中のフレームまで復号化することによって、画像表示が乱れることなく通常再生処理を行うことが可能となる。
【0168】
もしこのような処理を行わず現在表示中の解像度が下げられた復号化差分フレームを基に差分フレームを順次復号化すると、復号化される差分フレームも解像度が落ちたものとなり、次の基準フレームまでの間、画像表示が乱れてしまう恐れがある。
【0169】
なお、ステップST73において現在表示中のフレームが基準フレームまたは解像度が下げられていない差分フレームであれば、そのフレームより差分フレームを順次復号化すればいい。
【0170】
【発明の効果】
この発明の動画像復号化装置では、MPEG規格で符号化された動画像データに対して巻き戻し再生を行う際に従来技術のように基準フレームのみを表示するのではなく、基準フレーム間の差分フレームに対して表示する差分フレームを選択し、その差分フレームまでのデータを復号化、もしくはあらかじめ保存しておくことで滑らかな巻き戻し再生を行うことが可能となる。
【図面の簡単な説明】
【図1】この発明の第1の実施形態による動画像再生システムの全体構成を示すブロック図である。
【図2】図1に示した動画像再生システムにおける通常再生処理の手順を示すフローチャートである。
【図3】多重化データの一例である。
【図4】符号化動画像データの一例である。
【図5】フレーム情報の一例である。
【図6】図1に示した動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図7】図6における選択可能な差分フレームの限界枚数mを算出する手順の一例である。
【図8】図6における符号化動画像データを復号化する手順を示す一例である。
【図9】図6における復号化動画像データをフレームバッファに蓄積する手順を示す一例である。
【図10】図6におけるフレームバッファに蓄積された復号化動画像データを表示装置へ出力する手順示す一例である。
【図11】図6における選択可能な差分フレームの限界枚数mを算出する手順の具体例の1つである。
【図12】図6におけるデータの変化を示す具体例の1つである。
【図13】この発明の第2の実施形態による動画像再生システムにおける通常再生処理の手順を示すフローチャートである。
【図14】図13におけるデータの変化を示す一例である。
【図15】この発明の第2の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図16】図15におけるデータの変化を示す一例である。
【図17】この発明の第3の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図18】図17におけるデータの変化を示す一例である。
【図19】この発明の第4の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図20】図19におけるデータの変化を示す一例である。
【図21】この発明の第5の実施形態による動画像再生システムにおける通常再生処理の手順を示すフローチャートである。
【図22】この発明の第5の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図23】図22におけるデータの変化を示す一例である。
【図24】この発明の第6の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図25】図24におけるデータの変化を示す一例である。
【図26】この発明の第7の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図27】図26におけるデータの変化を示す一例である。
【図28】この発明の第8の実施形態による動画像再生システムにおける切替処理の手順を示すフローチャートである。
【図29】図28におけるデータの変化を示す一例である。
【符号の説明】
1 動画像復号化装置
2 表示装置
11,15 入出力インターフェイス
12 CPU
13 蓄積メモリ
14 フレームバッファ
100 多重化データ
200 正逆再生速度情報
【発明の属する技術分野】
この発明は、符号化された動画像データを復号化する装置に関し、さらに詳しくは、符号化動画像データの巻き戻し再生の制御に関する。
【0002】
【従来の技術】
今日、情報技術の発展により、MPEG規格などに基づいて蓄積メディアに圧縮保存された音声や動画像(映像)を再生して楽しむことが可能となった。MPEG規格は、動画像データを基準フレームと差分フレームとに符号化する符号化規格である。このようなデータ構造の符号化動画像データを復号化し表示する動画像復号化装置において、ユーザの指示に従い、早送りや巻き戻しのような特殊再生をサポートすることは、内容の検索を容易にかつ迅速に行うために重要な機能である。MPEG規格により圧縮された動画像の場合、高速な表示を行うためには動画像データの平均ビットレートよりも高いビットレートに対応した動画像復号化装置が必要となるため、コストの面でも好ましくない。したがって、表示ビットレートを一定に保ったままでの特殊再生の手法が必要となっていた。
【0003】
従来、動画像復号化装置で巻き戻し再生を行う場合は、MPEG規格により圧縮された符号化動画像データのうち、基準フレームのみを復号化し、それらを時間軸上で未来に存在するものから順に表示を行っていた。
【0004】
【特許文献1】
特開昭63−310293号公報
【0005】
【発明が解決しようとする課題】
しかし、基準フレームのみの表示では、基準フレーム間に存在する差分フレームをスキップして表示するため、滑らかな巻き戻し再生表示が困難であった。
【0006】
また、基準フレームの間隔が長く基準フレーム間に多くの差分フレームが含まれている場合では、巻き戻し再生表示の際、スキップする差分フレームの数が増えてしまうため、ユーザが所望するフレームを検索することが困難であった。
【0007】
この発明の目的は、滑らかな巻き戻し再生を可能とする動画像復号化装置を提供することである。
【0008】
【課題を解決するための手段】
この発明による動画像復号化装置は、符号化された動画像データ(符号化動画像データ)を復号化する装置である。符号化動画像データは、フレーム情報と、第1の基準フレームと、第2の基準フレームと、複数の差分フレームとを含む。フレーム情報は、符号化動画像データに含まれているフレームの時間軸上における並びを示す情報を含む。第1の基準フレームは、フレーム内予測符号化されたデータである。第2の基準フレームは、フレーム内予測符号化されかつ時間軸上で第1の基準フレームより未来に存在するデータである。複数の差分フレームは、時間軸上で第1の基準フレームと第2の基準フレームとの間に存在しかつ第1の基準フレームに基づいてフレーム間予測符号化されたデータである。動画像復号化装置は通常再生モードと巻き戻し再生モードを有する。動画像復号化装置は、解析部と、復号化部と、出力部とを備える。解析部は、複数の差分フレームのうち少なくとも1つを選択する。復号化部は、解析部によって選択された差分フレームと、第1の基準フレームおよび第2の基準フレームとを復号化する。出力部は、巻き戻し再生モードのとき、フレーム情報に基づいて、復号化部によって復号化された差分フレーム・第1の基準フレーム・第2の基準フレームを時間軸上で未来に存在するものから順に、すなわち第2の基準フレーム,差分フレーム,第1の基準フレームの順に表示装置へ出力する。
【0009】
上記動画像復号化装置では、巻き戻し再生モードのとき、第2の基準フレームと第1の基準フレームとの間に差分フレームを少なくとも1つ挿入して表示装置に出力する。したがって、表示装置に出力されるフレーム数は、復号化された基準フレームのみを出力する場合と比べて多くなる。これにより、基準フレームのみを選択して表示する場合に比べて滑らかな巻き戻し再生画像が可能となる。
【0010】
好ましくは、上記動画像復号化装置は、分離部をさらに備える。分離部は、AVデータから符号化動画像データを分離する。AVデータは、所定のファイルフォーマット(多重化規格)に従って符号化動画像データが多重化されている。
【0011】
好ましくは、上記所定のファイルフォーマットはASFまたはMP4である。
【0012】
好ましくは、上記解析部は、巻き戻し再生モードにおいて出力部から表示されるべきタイミングまでに第1の基準フレームに基づいて復号化することができる差分フレームの中から少なくとも1つを選択する。
【0013】
巻き戻し再生モードのとき、復号化部によって差分フレームが復号化されても、その差分フレームの復号化の完成が表示装置へ出力すべきタイミングに間に合わなければ、その差分フレームを表示装置へ出力することができない。つまり、復号化部によって差分フレームは復号化されたにもかかわらず、出力部によってその差分フレームは出力されず、滑らかな巻き戻し再生を行うことができない場合がある。
【0014】
上記動画像復号化装置においては、解析部は、第1の基準フレームに基づいて復号化する差分フレームの中で、復号化の完成が表示装置に出力されるべきタイミングよりも早いものを選択する。
【0015】
好ましくは、上記動画像復号化装置はバッファをさらに備える。バッファは、復号化部によって復号化した差分フレームを保存する。また、上記出力部は、巻き戻し再生モードのとき、フレーム情報に基づいて、バッファに保存された差分フレーム・上記復号化部によって復号化された第1および第2の基準フレームを時間軸上で未来に存在するものから順に表示装置へ出力する。
【0016】
復号化部の処理速度が出力部の処理速度よりも早い場合、復号化部は出力部の処理が終了まで待機しなければならない。したがって、復号化部の処理が滞ってしまう場合がある。
【0017】
上記動画像復号化装置においては、バッファは、復号化部によって復号化される復号化動画像データを保存した後、出力部へ復号化動画像データを受け渡す。このように、バッファは復号化部と出力部との間にて復号化部の処理速度と出力部の処理速度とを緩衝する。これにより、復号化部による処理を滞りなく行うことができる。
【0018】
好ましくは、上記復号化部は、通常再生モードにおいて復号化した差分フレームのうち解析部で選択された差分フレームをバッファに保存する。
【0019】
上記動画像復号化装置においては、巻き戻し再生モードにおいて、上記復号化部は、差分フレームを復号化せず基準フレームのみを復号化する。出力部は、復号化部によって復号化された基準フレームと、バッファに保存された差分フレームとを出力する。
【0020】
以上のように、上記動画像復号化装置では、復号化部は巻き戻し再生モードのとき、差分フレームを毎回復号化する必要がなく、基準フレームのみを復号化すればよいため、処理負荷を低減しながら滑らかな巻き戻し再生を行うことができる。
【0021】
好ましくは、上記復号化部はバッファに保存された差分フレームに基づいて別の差分フレームを復号化する。また、上記出力部は、巻き戻し再生モードのとき、フレーム情報に基づいて、バッファに保存された差分フレーム・上記復号化部によって復号化された差分フレームならびに第1および第2の基準フレームを時間軸上で未来に存在するものから順に表示装置へ出力する。
【0022】
上記動画像復号化装置においては、復号化部は、巻き戻し再生モードのとき、バッファに保存された差分フレームに基づいて別の差分フレームを復号化する。よって出力部により出力されるフレーム数は、このような復号化を行わない場合に比べて多くなる。また、表示装置へ出力すべき差分フレームの数が同じ場合には、上述の復号化を行わない場合と比べてバッファに保存すべき差分フレーム数が少なくて済む。
【0023】
以上のように、上記動画像復号化装置では、表示装置に出力されるフレーム数が増加するので滑らかな巻き戻し再生を行うことができる。もしくは、バッファに保存する差分フレーム数の減少によってバッファのメモリ容量を低減することができる。
【0024】
好ましくは、上記符号化動画像データは、第3の基準フレームと、複数の差分データとを含む。第3の基準フレームは、フレーム内予測符号化されかつ時間軸上で第1の基準フレームよりも過去に存在するデータである。複数の差分フレームは、第3の基準フレームと第1の基準フレームとの間に存在しかつ第3の基準フレームに基づいてフレーム間予測符号化されたデータである。上記解析部は、第3の基準フレームと第1の基準フレームとの間に存在する複数の差分フレームのうち少なくとも1つを選択する。上記復号化部は出力部による表示装置への出力と並行して、上記解析部によって選択された差分フレーム(第3の基準フレームと第1の基準フレームとの間に存在する差分フレーム)を復号化する。
【0025】
上記動画像復号化装置においては、復号化部は、出力部によって表示装置への出力がなされている間に並行して、次に出力部によって表示装置へ出力するのに必要となる差分フレーム(解析部によって選択された、第3の基準フレームと第1の基準フレームとの間に存在する差分フレーム)を復号化する。それにより、バッファは、並行して復号化を行わない場合と比べて、事前に保存しておく差分フレーム数は少なくて済む。
【0026】
以上のように、上記動画像復号化装置では、バッファに保存する差分フレーム数の減少によってバッファのメモリ容量を低減することができる。
【0027】
好ましくは、上記復号化部は、復号化した差分フレームをその解像度を下げてバッファに保存する。上記出力部は、保存された差分フレームを拡大して表示装置へ出力する。
【0028】
上記動画像復号化装置においては、復号化部は、復号化した差分フレームをその解像度を下げてバッファに保存する。これにより、バッファは、解像度を落とさない場合と比べて、差分フレームを多く保存することができる。出力部は、解像度を落とさない場合と比べて、表示装置へ出力されるフレーム数が増加する。このとき、画像の乱れが発生するが表示するフレーム数が増加することにより、巻き戻し再生モード時にユーザが求める瞬間のフレームを表示する可能性が高くなり、ユーザに対する動画像のシーン検索を容易にすることが可能となる。
【0029】
好ましくは、上記復号化部は、復号化した差分フレームをその解像度を下げてバッファに保存する。また、上記出力部はバッファに保存された差分フレームと上記復号化部によって復号化されたべつの差分フレームとを拡大して表示装置へ出力する。
【0030】
上記動画像復号化部においては、復号化部は、通常再生モードのときに、バッファに差分フレームをその解像度を下げて保存する。そして、巻き戻し再生モードのときに、復号化部は、バッファに保存された差分フレームに基づき復号化された新たな別の差分フレームを復号化する。バッファに保存された差分フレームに基づき復号化された新たな別の差分フレームは、解像度が低い。出力部は、これら上記復号化部で復号化されたフレームを出力するとき、解像度の低いフレームを拡大して表示装置へ出力する。よって、新たな別の差分フレームを復号化しない場合と比べて、画像の乱れが発生するが表示するフレーム数が増加することにより、巻き戻し再生モード時にユーザが求める瞬間のフレームを表示する可能性が高くなり、ユーザに対する動画像のシーン検索を容易にすることが可能となる。
【0031】
好ましくは、上記復号化部は、復号化した差分フレームをその解像度を下げてバッファに保存する。また、上記復号化部は、バッファに保存されている差分フレームを拡大し、それを用いて別の差分フレームを復号化する。
【0032】
上記動画像復号化部においては、復号化部は、通常再生モードのときに、バッファに差分フレームをその解像度を下げて保存する。そして、巻き戻し再生モードのときに、復号化部は、バッファに保存された差分フレームを拡大した後、その差分フレームに基づいて新たな別の差分フレームを復号化する。拡大した後の差分フレームに基づいて復号化された新たな差分フレームは、解像度が低い。上記出力部は、これら上記復号化部で復号化されたフレームを出力する。よって、新たな別の差分フレームを復号化しない場合と比べて、画像の乱れが発生するが表示するフレーム数が増加することにより、巻き戻し再生モード時にユーザが求める瞬間のフレームを表示する可能性が高くなり、ユーザに対する動画像のシーン検索を容易にすることが可能となる。
【0033】
好ましくは、上記復号化部は、巻き戻し再生モードから通常再生モードに切り替えるとき、表示装置に表示されている差分フレームの基準フレームより、その差分フレームを再復号化する。
【0034】
巻き戻し再生モードにおいて解像度の低い差分フレームが表示装置に表示されているときに巻き戻し再生モードが中断され通常再生モードに切り替わると、差分フレームを復号化する際、第1の基準フレームに基づいて行われるのではなく、表示装置に表示された解像度の低い差分フレームに基づいて行われる。よって、新たに復号化される差分フレームは、解像度が低いものになってしまい、画像表示が乱れて通常再生が行われてしまう。
【0035】
上記動画像復号化装置においては、復号化部は、巻き戻し再生モードから通常再生モードに切り替わったときに表示装置に表示されている差分フレームを、第1の基準フレームに基づいて再復号化する。これにより、表示装置に表示されている差分フレームは、解像度が本来のものに戻る。この結果、画像表示が乱れることなく通常再生を行うことができる。
【0036】
【発明の実施の形態】
以下、この発明の実施の形態を図面を参照して詳しく説明する。なお、図中同一または相当部分には同一の符号を付しその説明は繰り返さない。
【0037】
(第1の実施形態)
第1の実施形態による動画像再生システムの全体構成を図1に示す。このシステムは、多重化データ100に含まれる符号化動画像データの再生処理(通常再生・特殊再生)を行う。このシステムは、動画像復号化装置1と、表示装置2とを備える。動画像復号化装置1は、入出力インターフェイス11,15と、CPU12と、蓄積メモリ13と、フレームバッファ14とを備える。
【0038】
入出力インターフェイス11は、外部からの多重化データ100の入力処理を行う。
【0039】
CPU12は、多重化データの解析、フレーム情報の取得、符号化動画像データの復号化、および正逆再生速度情報200に応じた全体のコントロールを行う。正逆再生速度情報200は、ユーザから指定される再生方向および再生速度を示す。
【0040】
蓄積メモリ13は、多重化データ100、フレーム情報、および符号化動画像データを蓄積する。
【0041】
フレームバッファ14は、復号化された動画像データを蓄積する。
【0042】
入出力インターフェイス15は、フレームバッファ14に蓄積された復号化動画像データを表示装置2に出力する。
【0043】
次に、図1に示した動画像再生システムの動作について説明する。ここでは通常再生処理および巻き戻し再生処理について説明する。
【0044】
〔通常再生処理〕
正逆再生速度情報200が示す再生方向が正方向(順方向)であり再生速度が1倍(標準速度)であるとき通常再生モードとなりシステムは通常再生処理を行う。以下、通常再生処理について図2を参照しつつ説明する。
【0045】
〔ステップST1〕
入出力インターフェイス11を介して多重化データ100が動画像復号化装置1に入力される。多重化データ100の一例を図3に示す。多重化データ100は、ASFやMP4などの多重化規格(ファイルフォーマット)に基づいてフレーム情報,符号化動画像データ,符号化音声・オーディオデータ,符号化テキストデータなどがフレーム単位で多重化されたデータ(AVデータ)である。
【0046】
〔ステップST2〕
次に、CPU12によって、多重化データ100から符号化動画像データが分離される。分離された符号化動画像データは蓄積メモリ13に格納される。符号化動画像データの一例を図4に示す。符号化動画像データはMPEG規格に基づいて符号化されている。符号化動画像データは、基準フレームI1,12,…と差分フレームP1,P2,…とを含む。基準フレームI1,12,…は、フレーム内予測符号化されたデータである。差分フレームP1,P2,…は、基準フレームI1,12,…より順方向フレーム間予測符号化されたデータである。図4の例では基準フレーム間の差分フレームの数を14としている。差分フレームP1〜P14は基準フレームI1を基にして順方向フレーム間予測符号化されたデータであり、差分フレームP15〜P28は基準フレームI2を基にして順方向フレーム間予測符号化されたデータである。
【0047】
〔ステップST3〕
またCPU12は、多重化データ100からフレーム情報を取得し蓄積メモリ13に格納する。フレーム情報の一例を図5に示す。フレーム情報は、フレーム番号,フレーム属性,データ位置,表示時刻を含む。フレーム番号・フレーム属性・データ位置・表示時刻は、動画像データに含まれる各フレームについて設けられている。フレーム番号は、そのフレームが先頭フレームから何番目に当たるかを示す。フレーム属性は、そのフレームが基準フレーム(I)であるか差分フレーム(P)であるかを示す。データ位置は、そのフレームのデータが含まれている位置(先頭から何バイト目か)を示す。表示時刻は、Presentation Time Stamp(PTS)と呼ばれるAV同期のための表示タイミング情報であり、そのフレームを表示すべき時刻を示す。図5に示すフレーム情報では、時間軸上で過去に存在するフレームほど表示時刻の値が小さくなり、時間軸上で未来に存在するフレームほど表示時刻の値が大きくなっている。
【0048】
〔ステップST4〕
次に、CPU12は、蓄積メモリ13に格納された符号化動画像データを復号化する。基準フレームについては、その符号化データのみでフレームデータを復号化する。差分フレームについては、以前に復号化されたフレームデータとの差分データを用いてフレームデータを復号化する。
【0049】
〔ステップST5〕
ステップST4において復号化されたフレームデータは、フレームバッファ14に順次蓄積される。
【0050】
〔ステップST6〕
次に、入出力インターフェイス15は、フレームバッファ14に蓄積されたフレームデータを、フレーム情報の表示時刻の値が小さいフレームから順に表示装置2に出力する。表示装置2は、入出力インターフェイス15からのフレームデータを画面に表示する。
【0051】
〔巻き戻し再生処理〕
正逆再生速度情報200が示す再生方向が逆方向であるとき巻き戻し再生モードとなりシステムは巻き戻し再生処理を行う。以下、巻き戻し再生処理について、図6を参照しつつ説明する。
【0052】
〔ステップST1〕
入出力インターフェイス11を介して多重化データ100が動画像復号化装置1に入力される。
【0053】
〔ステップST2〕
次に、CPU12によって、多重化データ100から符号化動画像データが分離されて、分離された符号化動画像データは蓄積メモリ13に格納される。
【0054】
〔ステップST3〕
また、CPU12は、多重化データ100より、フレーム情報を取得し蓄積メモリ13に格納する。
【0055】
〔ステップST11〕
次に、CPU12は、蓄積メモリ13に蓄積されたフレーム情報を参照して、基準フレーム間に存在する差分フレームの枚数Nを取得する。
【0056】
〔ステップST12〕
また、CPU12は、正逆再生速度情報200より、巻き戻し再生時における再生速度の通常速度に対する倍率Dusrを取得する。
【0057】
〔ステップST13〕
また、CPU12は、動画像復号化装置1の通常再生時における復号化速度に対して可能となる最大符号化速度の倍率Dmax、および基準フレーム間に存在するN枚の差分フレームを通常再生時における復号化速度で全て復号化するのにかかる時間Tを取得する。
【0058】
〔ステップST14〕
次に、CPU12によって、ステップST11からステップST13までで取得した情報に基づき、巻き戻し再生時に復号化することができる差分フレームの限界枚数mを算出する。
【0059】
以下に、図7を参照し、巻き戻し再生時に復号化することができる差分フレームの限界枚数mの算出方法を説明する。
【0060】
ここで、基準フレームI1からm枚目の差分フレームPmを基準フレームI2の次に表示するものとする。差分フレームPmを実際に復号化するのにかかる時間Tdは、動画像復号化装置1の通常再生時における復号化速度に対して可能となる最大復号化速度の倍率Dmaxと、基準フレーム間に存在する差分フレームの枚数Nと、基準フレーム間に存在するN枚の差分フレームを通常再生時における復号化速度で全て復号化するのにかかる時間Tと、基準フレームI1から指定したい差分フレームPmまでの枚数mとを用い、数1のように示すことができる。
【0061】
【数1】
【0062】
また、巻き戻し再生時における基準フレームI2の表示時刻から差分フレームPmの表示時刻までの時間Tpは、正逆再生速度情報200でユーザに指示された巻き戻し速度の通常再生速度に対する倍率Dusrと、基準フレーム間に存在する差分フレームの枚数Nと、基準フレーム間に存在するN枚の差分フレームを通常再生時における復号化速度で全て復号化するのにかかる時間Tと、基準フレームI1から指定したい差分フレームPmまでの枚数mとを用い、数2のように示すことができる。
【0063】
【数2】
【0064】
基準フレームI2の次に差分フレームPmを表示すべき時刻までに差分フレームPmの復号化が終了している必要があるため、数3のような関係が成り立つ必要がある。
【0065】
【数3】
Td≦ Tp
よって先程の数1〜数3より、数4となる。
【0066】
【数4】
【0067】
数4より、差分フレームの限界枚数mは、数5のように示すことができる。
【0068】
【数5】
【0069】
以上のように、巻き戻し再生時に復号化することができる差分フレームの限界枚数mを算出する。
【0070】
〔ステップST15〕
次に、CPU12は、ステップST14で算出した限界枚数mの範囲内にある差分フレームPx(P1≦Px≦Pm)を少なくとも1枚選択する(図7参照)。
【0071】
〔ステップST16〕
次に、CPU12は、蓄積メモリ13に格納された符号化動画像データの復号化を行う。図8に示すように、基準フレームに対しては全て復号化するが、差分フレームに対しては差分フレームP1からステップST15で選択された差分フレームPxまでを復号化する。
【0072】
〔ステップST17〕
次に、CPU12は、図9に示すように、基準フレームの復号化データとステップST15で選択された差分フレームPxの復号化データとをフレームバッファ14に蓄積する。
【0073】
〔ステップST18〕
次に、入出力インターフェイス15によって、フレームバッファ14に格納された復号化データが表示装置2へ出力される。その際、ステップST3で取得したフレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照し、表示時刻の値が大きいものから順に出力する。ここでは図10に示すように、基準フレームI2の復号化データ,差分フレームPxの復号化データ,基準フレームI1の復号化データの順に出力される。
【0074】
以下に、ステップST11からステップST18までの処理を例を挙げて説明する。
【0075】
まず、ステップST11からステップST13において、図11のように、動画像復号化装置1の通常再生時における復号化速度に対して可能となる最大復号化速度の倍率Dmaxが5倍(Dmax=5)、ユーザに指示された巻き戻し速度の通常再生速度からの倍率Dusrが2倍(Dusr=2)、基準フレーム間に存在する差分フレームの枚数Nが14枚(N=14)と抽出されたとする。
【0076】
次に、ステップST14において、数5にそれらの値を代入すると数6のようになる。
【0077】
【数6】
【0078】
数6より、巻き戻し再生時に復号化することができる差分フレームの限界枚数mは、図11のように、10枚(m=10)となる。すなわち10枚目(P10)までの差分画像のデコードを行うことが可能となる。また、差分画像の枚数は14枚であるので、表示を行わない差分画像は4枚(P11〜P14)となる。動画像復号化においては、表示を行わない差分画像の枚数を一定にすればより滑らかな画像になるのでCPU12は、フレーム情報のフレーム位置および表示時刻を参照して、一定間隔で差分画像の表示が行われるように差分フレームを選択する。ここでは図12のように、ステップST15において選択可能な10枚のフレームの中から差分フレームP5および差分フレームP10を選択する。
【0079】
次に、ステップST16において、基準フレームI2、基準フレームI1の順に復号化する。次に、基準フレームI1を基にして差分フレームP1〜P10を復号化する。
【0080】
次に、ステップST17において、ステップST16で復号化されたフレームデータのうち、基準フレームI2の復号化データと、基準フレームI1の復号化データと、ステップST15で選択された差分フレームP5およびP10の復号化データとをフレームバッファ14に蓄積する。
【0081】
次に、ステップST18において、ステップST3で取得したフレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照し、基準フレームI2の復号化データ、差分フレームP10の復号化データ、差分フレームP5の復号化データ、基準フレームI1の復号化データの順に表示装置2へ出力される。
【0082】
以上のように第1の実施形態では、巻き戻し再生時に基準フレームのみを復号化し表示するのではなく、基準フレーム間に存在する差分フレームのうち少なくとも1枚を復号化し基準フレームの間に表示するため、巻き戻し再生時に表示するフレーム数が増加し、滑らかな巻き戻し再生画像を得られる。
【0083】
なお、巻き戻し処理の際ステップST11からステップST13において、動画像復号化装置1の通常再生時における復号化速度に対して可能となる最大復号化速度の倍率Dmaxを取得しこれを用いて限界枚数mを算出した。このようにすると限界枚数mを最大にすることができる。最大の倍率Dmaxよりも小さな値を最大の倍率Dmaxの代わりに用いて限界枚数mを算出してもいい。しかし、そのように算出された限界枚数mはDmaxを用いて算出した場合よりも小さくなる。
【0084】
また、巻き戻し処理の際、例としてステップST15において差分フレームP5およびP10を選択したのは、表示の際フレーム間隔が一定である方がより滑らかな巻き戻し再生画像が得られるためである。
【0085】
(第2の実施形態)
第2の実施形態による動画像再生システムの全体構成は図1に示したものと同じであるがCPU12の動作が異なる。
【0086】
次に、第2の実施形態による動画像再生システムにおける通常再生処理について、図13および図14を参照しつつ説明する。
【0087】
〔通常再生処理〕
〔ステップST1〜ステップST5〕
第1の実施形態と同様に、通常再生時のステップST1からステップST5における処理が行われフレームバッファ14に復号化動画像データ(フレームデータ)が蓄積される。
【0088】
〔ステップST3,ステップST11〜ステップST15〕
また、第一の実施形態では巻き戻し再生時に行っていたステップST3、およびステップST11からステップST15における処理が行われ差分フレームPxが選択される。
【0089】
〔ステップST21〕
次に、CPU12によって、フレームバッファ14に蓄積されたフレームのうちステップST15で選択された差分フレームPxは、出力された後もフレームバッファ14に残るように保存される。第1の実施形態では、フレームバッファ14のメモリを有効に使うため、フレームバッファ14に蓄積されたフレームは出力されるとフレームバッファ14から消去され、続いて新たなフレームがフレームバッファ14に蓄積される。
【0090】
〔ステップST6〕
次に、第1の実施形態と同様に、通常再生のステップST6が行われる。保存された差分フレームPxの復号化データはフレームバッファ内に残る。
【0091】
次に、巻き戻し再生処理について、図15および図16を参照しつつ説明する。
【0092】
〔巻き戻し再生処理〕
〔ステップST1,ステップST2〕
第1の実施形態と同様にステップST1およびステップST2における処理が行われる。
【0093】
〔ステップST31〕
次に、CPU12は、ステップST2で得られた符号化動画像データのうち基準フレームI1,I2を復号化する。
【0094】
〔ステップST32〕
次に、CPU12は、ステップST31で復号化された基準フレームI1,I2をフレームバッファ14に蓄積する。フレームバッファ14には、すでにステップST21で(通常再生時に)差分フレームPxの復号化データが蓄積されている。
【0095】
〔ステップST33〕
次に、出力インターフェイス15によって、フレームバッファ14内の復号化データ(基準フレームI1,I2の復号化データ、およびすでに保存されていた差分フレームPxの復号化データ)はフレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して表示時刻の値が大きい順に表示装置2に出力される。表示装置2は、基準フレームI2,差分フレームPx,基準フレームI1の順に画面に表示(巻き戻し再生表示)する。
【0096】
このように、通常再生時に差分フレームPxをフレームバッファ14内に保存することによって、巻き戻し再生時に表示する差分フレームPxの復号化処理を巻き戻し時に行う必要がなくなる。これにより、第1の実施形態と比べてCPU12の処理負担を低減することができ、同時に第1の実施形態の効果も得ることができる。
【0097】
(第3の実施形態)
第3の実施形態による動画像再生システムの全体構成は図1に示したものと同じであるが、CPU12の動作が異なる。また、第3の実施形態は、第2の実施形態の巻き戻し再生処理において、フレームバッファ14に保存された差分フレームに基づき新たに別の差分フレームを復号化する処理をさらに行う。
【0098】
次に、第3の実施形態による動画像再生システムにおける通常再生処理について、図13および図18を参照しつつ説明する。
【0099】
〔通常再生処理〕
第2の実施形態と同様の処理が行われて、ステップST21においてフレームバッファ14に差分フレームPxが保存される。
【0100】
次に、第3の実施形態による動画像再生システムにおける巻き戻し再生処理について、図17および図18を参照しつつ説明する。
【0101】
〔巻き戻し再生処理〕
〔ステップST1,ステップST2〕
まず、第1の実施形態と同様に、ステップST1,ステップST2が行われる。
【0102】
〔ステップST3,ステップST11〜ステップST15〕
また、第1の実施形態と同様に、ステップST15までの処理が行われ差分フレームP2,Px,Pzが選択される。
【0103】
〔ステップST41〕
次に、CPU12によって、ステップST2で格納された符号化動画像データは復号化される。ここで復号化される差分フレームは、基準フレームI1より復号化されるものP2とフレームバッファ14に保存された差分フレームPxより復号化されるものPzとがある。なお、ステップST15において選択された差分フレームPxについては通常再生時に復号化されステップST21でフレームバッファ14にすでに保存されている。
【0104】
〔ステップST42〕
次に、CPU12によって、復号化されたフレームデータはフレームバッファ14に格納される。基準フレームI2,I1の復号化データは全て格納され、差分フレームの復号化データについてはステップST15において選択された差分フレームP2、Px、Pzの復号化データのみが格納される。
【0105】
〔ステップST43〕
次に、入出力インターフェイス15によって、フレームバッファ14に格納されたフレームデータは、フレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して、基準フレームI2,差分フレームPz,差分フレームPx,差分フレームP2,基準フレームI1の順に表示装置2へ出力される。
【0106】
このように、通常再生時にフレームバッファ14に保存された差分フレームPxおよび基準フレームI1より新たに別の差分フレームPz,P2を巻き戻し再生時に復号化することによって、通常再生時にフレームバッファ14に保存する差分フレーム数が第2の実施形態の場合と等しくても表示するフレーム数が増加し(上述の例では差分フレームP2,Pzの分だけ増加する。)、第2の実施形態と比べてより滑らかな巻き戻し再生を行うことができる。また、第2の実施形態と表示するフレーム数が等しくてもフレームバッファ14に保存する差分フレーム数が減少しフレームバッファ14に必要となるメモリ容量を低減することができる。例えば上述の例の場合、第2の実施形態では通常再生時に3つの差分フレームP2,Px,Pzをフレームバッファ14に保存しておく必要がある。これに対して第3の実施形態では1つの差分フレームPxを保存しておくだけでよい。
【0107】
(第4の実施形態)
第4の実施形態による動画像再生システムの全体構成は、図1に示した第1の実施形態によるものと同じであるがCPU12の動作が異なる。また、第4の実施形態では、第2の実施形態の巻き戻し再生処理において、フレームバッファ14に保存されている差分フレームを用いて巻き戻し再生表示している間に、次に表示のために必要な差分フレームを復号化する処理を並行して行う。
【0108】
次に、第4の実施形態による動画像再生システムにおける通常再生処理について、図13および図20を参照しつつ説明する。
【0109】
〔通常再生処理〕
第2の実施形態と同様の処理が行われ、ステップST21の処理においてフレームバッファ14に差分フレームPxが保存される。
【0110】
次に、第4の実施形態による動画像再生システムにおける巻き戻し再生処理について、図15、図19および図20を参照しつつ説明する。
【0111】
〔巻き戻し再生処理〕
第2の実施形態と同様にステップST1,ステップST2,ステップST31,ステップST21,ステップST32,ステップST33の処理(図15に示す処理)が行われ基準フレームI2,差分フレームPx,基準フレームI1が表示装置2に順次出力される。
【0112】
また一方で以下の処理(図19に示す処理)を並行して行う。
【0113】
〔ステップST1,ステップST2,ステップST31〕
まず、第2の実施形態と同様に、ステップST1,ステップST2,ステップST31の処理を行い、基準フレームI3が復号化される。
【0114】
〔ステップST3,ステップST11〜ステップST15〕
また、第2の実施形態と同様にステップST15までの処理が行われ、差分フレームPAが選択される。
【0115】
〔ステップST51〕
次に、CPU12によって、ステップST31で復号化された基準フレームI3を基にしてステップST15で選択された差分フレームPAが復号化される。
【0116】
〔ステップST21〕
次に、CPU12によって、ステップST31で復号化された基準フレームI3と復号化された差分フレームのうちステップST15で選択された差分フレームPAとがフレームバッファ14に保存される。
【0117】
以上の処理を表示装置2への出力と並行して行う。つまり、第2の実施形態の巻き戻し再生時(図15参照)に上述の処理を行う。
【0118】
このように、基準フレームI2,差分フレームPx,基準フレームI1の表示装置2への出力処理の間に基準フレームI3・差分フレームPAの復号化・フレームバッファ14への保存が行われる。
【0119】
また、もう一方の処理(図15に示す処理)のステップST33では次のように行われる。
【0120】
〔ステップST33〕
ステップST33の処理において、基準フレームI2,差分フレームPx,基準フレームI1が表示装置2へ出力された後に、動画像データ出力インターフェイス15によって、フレームバッファ14に新たに蓄積された復号化動画像データ(基準フレームI3,差分フレームPA)はフレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して表示時刻の値が大きい順に(基準フレームI1の次に差分フレームPA,基準フレームI3の順に)順次出力される。
【0121】
このように、フレームバッファ14に保存されたフレームを出力している間に、次に表示するために必要となる差分フレームを並行して復号化することによって、フレームバッファ14に保存しておく差分フレーム数が少なくて済むので第2の実施形態と比べフレームバッファ14のメモリ容量が少なくて済む。
【0122】
(第5の実施形態)
第5の実施形態による動画像再生システムの全体構成は図1に示した第1の実施形態によるものと同じであるが、CPU12の動作が異なる。第5の実施形態では、通常再生時にフレームバッファ14に差分フレームを保存する際にその差分フレームの解像度を下げて保存し、巻き戻し再生時に解像度が下げられた差分フレームを拡大表示して表示装置2へ出力する。
【0123】
次に、第5の実施形態による動画像再生システムにおける通常再生処理について、図21および図23を参照しつつ説明する。
【0124】
〔通常再生処理〕
〔ステップST1〜ステップST5〕
まず、第2の実施形態と同様に、通常再生時のステップST1からステップST5までの処理が行われフレームバッファ14に復号化動画像データが蓄積される。
【0125】
〔ステップST3,ステップST11〜ステップST15〕
また一方で、第2の実施形態と同様に、ステップST15までの処理を行い差分フレームPxが選択される。
【0126】
〔ステップST61〕
次に、CPU12によって、フレームバッファ14に蓄積されたフレームのうちステップST15で選択された差分フレームPxは、出力された後もフレームバッファ14に残るように保存される。フレームバッファ14に保存する際、差分フレームPxは解像度を下げて保存される。
【0127】
〔ステップST6〕
次に、第2の実施形態と同様にステップST6が行われる。このとき、ステップST15で選択された差分フレームPxのみフレームバッファ14内に残る。
【0128】
次に、第5の実施形態による動画像再生システムの巻き戻し再生処理について、図22および図23を参照しつつ説明する。
【0129】
〔巻き戻し再生処理〕
〔ステップST1,ステップST2,ステップST31〕
まず、第2の実施形態と同様に、ステップST1,ステップST2,ステップST31が行われ、基準フレームI2,I1が復号化される。
【0130】
〔ステップST62〕
次に、ステップST31で復号化された基準フレームI2,I1をフレームバッファ14に蓄積する。フレームバッファ14には、すでにステップST61で(通常再生時に)差分フレームPxの復号化データ(解像度が低いもの)が蓄積されている。
【0131】
〔ステップST63〕
次に、CPU12によって、フレームバッファ14に保存された差分フレームPxの復号化データが拡大される。
【0132】
〔ステップST33〕
次に、ステップST33において、フレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照してフレームバッファ14内の復号化動画像データ(基準フレームI2,I1および差分フレームPx)は表示時刻の値が大きい順に(基準フレームI2,差分フレームPx,基準フレームI1の順に)出力される。差分フレームPxについてはステップST63で拡大されたものが出力される。
【0133】
このように、通常再生時に差分フレームを解像度を下げてフレームバッファ14内に保存することによって、第2の実施形態に比べて、フレームバッファ14に保存する差分フレーム数を多くすることができる(フレームバッファ14の容量が同じ場合)。解像度を下げたものを拡大表示するため表示装置2に表示される画像の乱れは発生するが、表示するフレーム数を増やすことにより、巻き戻し再生時にユーザが求める瞬間のフレームを表示する可能性が高くなり、ユーザに対する動画像のシーン検索を容易にすることが可能となる。
【0134】
(第6の実施形態)
第6の実施形態による動画像再生システムの全体構成は図1に示した第1の実施形態によるものと同じであるが、CPU12の動作が異なる。第6の実施形態では、フレームバッファ14に差分フレームを保存する際、解像度を下げて保存し、巻き戻し再生処理においてフレームバッファ14に保存された解像度が下げられた差分フレームに基づき新たに別の差分フレームを復号化し、それらの解像度が下げられた差分フレームを拡大して表示装置2へ出力する。
【0135】
次に、第6の実施形態による動画像再生システムにおける通常再生処理について、図21および図25を参照しつつ説明する。
【0136】
〔通常再生処理〕
第5の実施形態と同様の処理が行われ、ステップST61においてフレームバッファ14に差分フレームPxの復号化データ(解像度が低いもの)が保存される。
【0137】
次に、第6の実施形態による動画像再生システムにおける巻き戻し再生処理について、図24および図25を参照しつつ説明する。
【0138】
〔巻き戻し再生処理〕
〔ステップST1,ステップST2〕
まず、第3の実施形態と同様に、ステップST1、ステップST2が行われる。
【0139】
〔ステップST3,ステップST11〜ステップST15〕
また、第3の実施形態と同様に、ステップST15までの処理が行われ差分フレームP2,Px,Pzが選択される。
【0140】
〔ステップST41〕
次に、第3の実施形態と同様にステップST41が行われ、ステップST2で格納された符号化動画像データより基準フレームI1を復号化し、復号化基準フレームI1を基にしてステップST15で選択された差分フレームP2を復号化する。また、CPU12は、ステップST61で(通常再生時に)フレームバッファ14に保存された復号化差分フレームPxよりステップST15で選択された差分フレームPzを復号化する。つまり、差分フレームは基準フレームI1より復号化されるものP2と、解像度の下げられた復号化差分フレームPxより復号化されるものPzとがある。
【0141】
〔ステップST42〕
次に、第3の実施形態と同様にステップST42が行われ、復号化された基準フレームI2,I1、基準フレームI1を基にして復号化された差分フレームP2、および解像度が下げられた復号化差分フレームPxより復号化された差分フレームPzをフレームバッファ14に蓄積する。差分フレームPxはすでに通常再生時にフレームバッファ14に蓄積されている。
【0142】
〔ステップST63〕
次に、第5の実施形態と同様にステップST63が行われ、解像度の下げられた復号化差分フレームPx、Pzは拡大される。つまり、通常再生時にフレームバッファ14に保存された復号化差分フレームPxと復号化差分フレームPxより復号化された差分フレームPzとが拡大される。
【0143】
〔ステップST43〕
次に、第3の実施形態と同様にステップST43が行われ、フレームバッファ14内の復号化動画像データは、フレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して表示時刻の値が大きい順(基準フレームI2,差分フレームPz,差分フレームPx,差分フレームP2,基準フレームI1の順)に表示装置2へ出力される。
【0144】
このように、フレームバッファ14に差分フレームを解像度を下げて保存し、フレームバッファ14に保存した差分フレームより新たに別の差分フレームを巻き戻し再生時に復号化することによって、第5の実施形態とフレームバッファに保存する差分フレーム数が等しくても表示するフレーム数が増加し第5の実施形態より滑らかな巻き戻し再生を行うことができる。また、第5の実施形態と表示するフレーム数が等しくてもフレームバッファ14に保存する差分フレーム数が減少しフレームバッファ14に必要となるメモリ容量を低減することができる。
【0145】
また、第3の実施形態と比較すると、フレームバッファ14に解像度が下げられた差分フレームを保存することによって同一メモリ容量に対して保存することができる差分フレーム数を増やすことができる。
【0146】
(第7の実施形態)
第7の実施形態による動画像再生システムの全体構成は図1に示した第1の実施形態によるものと同じであるが、CPU12の動作が異なる。第7の実施形態では、第3の実施形態においてフレームバッファ14に差分フレームを保存する際、解像度を下げて保存し、巻き戻し再生処理においてフレームバッファ14に保存された解像度が下げられた差分フレームを拡大し、その拡大された差分フレームに基づき新たに別の差分フレームを復号化して表示装置2へ出力する。
【0147】
次に、第7の実施形態による動画像再生システムにおける通常再生処理について図21および図27を参照しつつ説明する。
【0148】
〔通常再生処理〕
第5の実施形態と同様の処理が行われ、ステップST61においてフレームバッファ14に差分フレームPxの復号化データ(解像度が低いもの)が保存される。
【0149】
次に、第7の実施形態による動画像再生システムにおける巻き戻し再生処理について、図26および図27を参照しつつ説明する。
【0150】
〔巻き戻し再生処理〕
〔ステップST1,ステップST2〕
まず、第3の実施形態と同様に、ステップST1、ステップST2が行われる。
【0151】
〔ステップST3,ステップST11〜ステップST15〕
また、第1の実施形態と同様にステップST15までが行われ差分フレームP2,Px,Pzが選択される。
【0152】
〔ステップST63〕
また、第5の実施形態と同様にステップST63が行われ、ステップST61で(通常再生時に)解像度を下げて保存された復号化差分フレームPxが拡大される。
【0153】
〔ステップST41〕
次に、第3の実施形態と同様にステップST41が行われ、ステップST2で格納された符号化動画像データより基準フレームI2,I1を復号化し、復号化基準フレームI1よりステップST15で選択された差分フレームP2を復号化する。また、CPU12は、ステップST63で拡大された復号化差分フレームPxよりステップST15で選択された差分フレームPzを復号化する。つまり、差分フレームは基準フレームI1より復号化されるものP2と、拡大された復号化差分フレームPxより復号化されるものPzとがある。
【0154】
〔ステップST42〕
次に、第3の実施形態と同様にステップST42が行われ、復号化された基準フレームI2,I1、基準フレームI1より復号化された差分フレームP2、および拡大された復号化差分フレームPxより復号化された差分フレームPzをフレームバッファ14に蓄積する。差分フレームPxはすでに通常再生時にフレームバッファ14に蓄積されている。
【0155】
〔ステップST43〕
次に、第3の実施形態と同様にステップST43が行われ、復号化動画像データは、フレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して表示時刻の値が大きい順(基準フレームI2,差分フレームPz,差分フレームPx,差分フレームP2,基準フレームI1の順)に表示装置2へ出力される。
【0156】
このように、フレームバッファ14に差分フレームを解像度を下げて保存し、フレームバッファ14に保存した差分フレームより新たに別の差分フレームを巻き戻し再生時に復号化することによって、第5の実施形態とフレームバッファ14に保存する差分フレーム数が等しくても表示するフレーム数が増加し第5の実施形態より滑らかな巻き戻し再生を行うことができる。また、第5の実施形態と表示するフレーム数が等しくてもフレームバッファ14に保存する差分フレーム数が減少しフレームバッファ14に必要となるメモリ容量を低減することができる。
【0157】
また、第3の実施形態と比較すると、フレームバッファ14に解像度が下げられた差分フレームを保存することによって同一メモリ容量に対して保存することができる差分フレーム数を増やすことができる。
【0158】
(第8の実施形態)
第8の実施形態による動画像再生システムの全体構成は図1に示した第1の実施形態によるものと同じであるが、CPU12の動作が異なる。第8の実施形態では、第5の実施形態から第7の実施形態のいずれかにおいて、ユーザから特殊再生(ここでは巻き戻し再生)中断が指示された場合、現在表示中の解像度が下げられた差分フレームを元の解像度の差分フレームに代えて通常再生を行う。
【0159】
次に、第8の実施形態による動画像再生システムにおける巻き戻し再生処理から通常再生処理への切替処理について、図28および図29を参照しつつ説明する。
【0160】
〔切替処理〕
〔ステップST71〕
まず、入出力インターフェイス15によって、巻き戻し再生処理の出力が行われる。このとき、基準フレーム間には解像度が下げられた差分フレームが表示されている。
【0161】
〔ステップST72〕
次に、ユーザから特殊再生(巻き戻し再生)中断の指示が送られる。それによって入出力インターフェイス15は復号化動画像データの出力を一時停止する。
【0162】
〔ステップST73〕
次に、CPU12によって、表示装置2に現在表示中のフレームについてのフレーム情報を取得する。
【0163】
〔ステップST74〕
次に、CPU12によって、ステップST73で取得したフレーム情報を参照してステップST2で蓄積メモリ13に格納された符号化動画像データよりその差分フレームの基となる基準フレームを検索する。
【0164】
〔ステップST75〕
次に、CPU12によって、ステップST74で検索された基準フレームより差分フレームを順次復号化する。
【0165】
〔ステップST76〕
次に、CPU12によって、ステップST75で復号化された復号化動画像データのうち現在表示中のフレーム以降のフレームをフレームバッファ14に順次蓄積する。
【0166】
〔ステップST77〕
次に、入出力インターフェイス15によって、ステップST76で蓄積された復号化動画像データはフレーム情報に含まれる表示タイミング情報および正逆再生速度情報200を参照して表示時刻の値が小さい順に表示装置2へ出力される。
【0167】
このように、特殊再生中断時に表示中のフレームが解像度の下げた差分フレームの場合、符号化動画像データよりその差分フレームの基となる基準フレームを検索し、直ちにそのデータを用いて通常の解像度にて現在表示中のフレームまで復号化することによって、画像表示が乱れることなく通常再生処理を行うことが可能となる。
【0168】
もしこのような処理を行わず現在表示中の解像度が下げられた復号化差分フレームを基に差分フレームを順次復号化すると、復号化される差分フレームも解像度が落ちたものとなり、次の基準フレームまでの間、画像表示が乱れてしまう恐れがある。
【0169】
なお、ステップST73において現在表示中のフレームが基準フレームまたは解像度が下げられていない差分フレームであれば、そのフレームより差分フレームを順次復号化すればいい。
【0170】
【発明の効果】
この発明の動画像復号化装置では、MPEG規格で符号化された動画像データに対して巻き戻し再生を行う際に従来技術のように基準フレームのみを表示するのではなく、基準フレーム間の差分フレームに対して表示する差分フレームを選択し、その差分フレームまでのデータを復号化、もしくはあらかじめ保存しておくことで滑らかな巻き戻し再生を行うことが可能となる。
【図面の簡単な説明】
【図1】この発明の第1の実施形態による動画像再生システムの全体構成を示すブロック図である。
【図2】図1に示した動画像再生システムにおける通常再生処理の手順を示すフローチャートである。
【図3】多重化データの一例である。
【図4】符号化動画像データの一例である。
【図5】フレーム情報の一例である。
【図6】図1に示した動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図7】図6における選択可能な差分フレームの限界枚数mを算出する手順の一例である。
【図8】図6における符号化動画像データを復号化する手順を示す一例である。
【図9】図6における復号化動画像データをフレームバッファに蓄積する手順を示す一例である。
【図10】図6におけるフレームバッファに蓄積された復号化動画像データを表示装置へ出力する手順示す一例である。
【図11】図6における選択可能な差分フレームの限界枚数mを算出する手順の具体例の1つである。
【図12】図6におけるデータの変化を示す具体例の1つである。
【図13】この発明の第2の実施形態による動画像再生システムにおける通常再生処理の手順を示すフローチャートである。
【図14】図13におけるデータの変化を示す一例である。
【図15】この発明の第2の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図16】図15におけるデータの変化を示す一例である。
【図17】この発明の第3の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図18】図17におけるデータの変化を示す一例である。
【図19】この発明の第4の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図20】図19におけるデータの変化を示す一例である。
【図21】この発明の第5の実施形態による動画像再生システムにおける通常再生処理の手順を示すフローチャートである。
【図22】この発明の第5の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図23】図22におけるデータの変化を示す一例である。
【図24】この発明の第6の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図25】図24におけるデータの変化を示す一例である。
【図26】この発明の第7の実施形態による動画像再生システムにおける巻き戻し再生処理の手順を示すフローチャートである。
【図27】図26におけるデータの変化を示す一例である。
【図28】この発明の第8の実施形態による動画像再生システムにおける切替処理の手順を示すフローチャートである。
【図29】図28におけるデータの変化を示す一例である。
【符号の説明】
1 動画像復号化装置
2 表示装置
11,15 入出力インターフェイス
12 CPU
13 蓄積メモリ
14 フレームバッファ
100 多重化データ
200 正逆再生速度情報
Claims (12)
- 符号化動画像データを復号化する装置であって、
前記符号化動画像データは、
フレーム情報と、
フレーム内予測符号化された第1の基準フレームと、
フレーム内予測符号化されかつ時間軸上で前記第1の基準フレームよりも未来に存在する第2の基準フレームと、
時間軸上で前記第1の基準フレームと前記第2の基準フレームとの間に存在しかつ前記第1の基準フレームに基づいてフレーム間予測符号化された複数の差分フレームとを含み、
前記フレーム情報は、
前記符号化動画像データに含まれているフレームの時間軸上における並びを示す情報を含み、
前記装置は、
通常再生モードおよび巻き戻し再生モードを有し、
前記複数の差分フレームのうち少なくとも1つを選択する解析部と、
前記解析部によって選択された差分フレームと前記第1および第2の基準フレームとを復号化する復号化部と、
巻き戻し再生モードのとき、前記フレーム情報に基づいて、前記復号化部によって復号化された差分フレーム・第1の基準フレーム・第2の基準フレームを時間軸上で未来に存在するものから順に表示装置へ出力する出力部とを備える
ことを特徴とする動画像復号化装置。 - 請求項1において、
所定のファイルフォーマットに従って符号化動画像データが多重化されているAVデータから符号化動画像データを分離する分離部をさらに備える
ことを特徴とする動画像復号化装置。 - 請求項2において、
前記所定のファイルフォーマットはASFまたはMP4である
ことを特徴とする動画像復号化装置。 - 請求項1において、
前記解析部は、
巻き戻し再生モードにおいて前記出力部から前記表示装置へ出力されるべきタイミングまでに前記第1の基準フレームに基づいて復号化することができる差分フレームの中から少なくとも1つを選択する
ことを特徴とする動画像復号化装置。 - 請求項1において、
前記復号化部によって復号化された差分フレームを保存するバッファをさらに備え、
前記出力部は、
巻き戻し再生モードのとき、前記フレーム情報に基づいて、前記バッファに保存された差分フレーム・前記復号化部によって復号化された第1および第2の基準フレームを時間軸上で未来に存在するものから順に表示装置へ出力する
ことを特徴とする動画像復号化装置。 - 請求項5において、
前記復号化部は、
通常再生モードにおいて復号化した差分フレームのうち前記解析部によって選択された差分フレームを前記バッファに保存する
ことを特徴とする動画像復号化装置。 - 請求項5または請求項6において、
前記復号化部は、
前記バッファに保存された差分フレームに基づいて別の差分フレームを復号化し、
前記出力部は、
巻き戻し再生モードのとき、前記フレーム情報に基づいて、前記バッファに保存された差分フレーム・前記復号化部によって復号化された別の差分フレームならびに第1および第2の基準フレームを時間軸上で未来に存在するものから順に表示装置へ出力する
ことを特徴とする動画像復号化装置。 - 請求項5において、
前記符号化動画像データは、さらに、
フレーム内予測符号化されかつ時間軸上で前記第1の基準フレームよりも過去に存在する第3の基準フレームと、
時間軸上で前記第3の基準フレームと前記第1の基準フレームとの間に存在しかつ前記第3の基準フレームに基づいてフレーム間予測符号化された複数の差分フレームとを含み、
前記解析部は、
前記第3の基準フレームと前記第1の基準フレームとの間に存在する複数の差分フレームのうち少なくとも1つを選択し、
前記復号化部は、
前記解析部によって選択されかつ前記第3の基準フレームと前記第1の基準フレームとの間に存在する差分フレームの復号化処理を、前記出力部による前記表示装置への出力処理と並行して行う
ことを特徴とする動画像復号化装置。 - 請求項5において、
前記復号化部は、
復号化した差分フレームをその解像度を下げて前記バッファに保存し、
前記出力部は、
前記バッファに保存された差分フレームを拡大して前記表示装置へ出力する
ことを特徴とする動画像復号化装置。 - 請求項7において、
前記復号化部は、
復号化した差分フレームをその解像度を下げて前記バッファに保存し、
前記出力部は、
前記バッファに保存された差分フレームと前記復号化部によって復号化された別の差分フレームとを拡大して表示装置へ出力する
ことを特徴とする動画像復号化装置。 - 請求項7において、
前記復号化部は、
復号化した差分フレームをその解像度を下げて前記バッファに保存し、
前記バッファに保存されている差分フレームを拡大して、それを用いて別の差分フレームを復号化する
ことを特徴とする動画像復号化装置。 - 請求項9から請求項11のいずれか1つにおいて、
巻き戻しモードから通常再生モードに切り替わると、
前記復号化部は、
その切り替わりの時点において表示されている差分フレームに対応する基準フレームより、その差分フレームを再復号化する
ことを特徴とする動画像復号化装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003163170A JP2004364211A (ja) | 2003-06-09 | 2003-06-09 | 動画像復号化装置 |
CNA2004100485742A CN1574944A (zh) | 2003-06-09 | 2004-06-08 | 动态图像解码装置 |
US10/863,483 US20050008331A1 (en) | 2003-06-09 | 2004-06-09 | Dynamic image decoding device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003163170A JP2004364211A (ja) | 2003-06-09 | 2003-06-09 | 動画像復号化装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004364211A true JP2004364211A (ja) | 2004-12-24 |
Family
ID=33562206
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003163170A Pending JP2004364211A (ja) | 2003-06-09 | 2003-06-09 | 動画像復号化装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20050008331A1 (ja) |
JP (1) | JP2004364211A (ja) |
CN (1) | CN1574944A (ja) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8427494B2 (en) * | 2004-01-30 | 2013-04-23 | Nvidia Corporation | Variable-length coding data transfer interface |
JP4720543B2 (ja) * | 2006-03-01 | 2011-07-13 | ソニー株式会社 | データ処理装置、データ処理方法およびデータ処理プログラム、記録媒体、ならびに、再生装置、再生方法および再生プログラム |
JP5324466B2 (ja) | 2006-12-20 | 2013-10-23 | コーニンクレッカ フィリップス エヌ ヴェ | 多原色を有する照明装置 |
US8725504B1 (en) | 2007-06-06 | 2014-05-13 | Nvidia Corporation | Inverse quantization in audio decoding |
US8726125B1 (en) | 2007-06-06 | 2014-05-13 | Nvidia Corporation | Reducing interpolation error |
US8477852B2 (en) * | 2007-06-20 | 2013-07-02 | Nvidia Corporation | Uniform video decoding and display |
US8849051B2 (en) * | 2007-09-17 | 2014-09-30 | Nvidia Corporation | Decoding variable length codes in JPEG applications |
US8502709B2 (en) * | 2007-09-17 | 2013-08-06 | Nvidia Corporation | Decoding variable length codes in media applications |
US8704834B2 (en) * | 2007-12-03 | 2014-04-22 | Nvidia Corporation | Synchronization of video input data streams and video output data streams |
US8934539B2 (en) * | 2007-12-03 | 2015-01-13 | Nvidia Corporation | Vector processor acceleration for media quantization |
US8687875B2 (en) * | 2007-12-03 | 2014-04-01 | Nvidia Corporation | Comparator based acceleration for media quantization |
US9307267B2 (en) * | 2008-12-11 | 2016-04-05 | Nvidia Corporation | Techniques for scalable dynamic data encoding and decoding |
KR101392545B1 (ko) * | 2009-11-12 | 2014-05-08 | 미쓰비시덴키 가부시키가이샤 | 영상 정보 전달 표시 시스템 및 영상 정보 전달 표시 방법 |
WO2016082107A1 (zh) * | 2014-11-25 | 2016-06-02 | 华为技术有限公司 | 一种共享界面的方法及终端设备 |
US20210004911A1 (en) * | 2019-07-05 | 2021-01-07 | Modifi, Inc. | Sensor-based monitoring system |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA1307340C (en) * | 1987-04-30 | 1992-09-08 | Toshio Koga | Image processing system for a coded signal sequence subjected to predictive coding in different manners |
JP3491366B2 (ja) * | 1995-01-31 | 2004-01-26 | ソニー株式会社 | 符号化データの特殊再生方法および特殊再生装置 |
KR0182969B1 (ko) * | 1996-02-13 | 1999-04-15 | 김광호 | 비디오 데이타 복호기 및 복호방법 |
JP4208398B2 (ja) * | 2000-10-05 | 2009-01-14 | 株式会社東芝 | 動画像復号再生装置、動画像復号再生方法及びマルチメディア情報受信装置 |
-
2003
- 2003-06-09 JP JP2003163170A patent/JP2004364211A/ja active Pending
-
2004
- 2004-06-08 CN CNA2004100485742A patent/CN1574944A/zh active Pending
- 2004-06-09 US US10/863,483 patent/US20050008331A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US20050008331A1 (en) | 2005-01-13 |
CN1574944A (zh) | 2005-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8275247B2 (en) | Method and apparatus for normal reverse playback | |
JP3815458B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US20010050958A1 (en) | Decoding method and apparatus and recording method and apparatus for moving picture data | |
JP2004364211A (ja) | 動画像復号化装置 | |
JPH0998430A (ja) | 動画像データ格納方式および動画像データ復号方式 | |
US20110116722A1 (en) | Coded stream reproduction device and coded stream reproduction method | |
US20100166081A1 (en) | Video stream processing apparatus and control method, program and recording medium for the same | |
JPH09200695A (ja) | 高速再生のためのビデオデータの復号化方法及びその装置 | |
JP2001204032A (ja) | Mpeg復号装置 | |
US6999090B2 (en) | Data processing apparatus, data processing method, information storing medium, and computer program | |
JP2003087732A (ja) | 映像再生装置 | |
JP2003324690A (ja) | 映像記録再生装置 | |
JP2001285877A (ja) | 圧縮符号化データ復号装置および復号方法 | |
JP2004048597A (ja) | 画像データ再生装置及び方法 | |
JP4272753B2 (ja) | 再生装置及びその制御方法、並びにコンピュータ読み取り可能な記憶媒体 | |
JP3184175B2 (ja) | 復号化装置 | |
EP1755343A1 (en) | Signal reproducing device | |
JPH11355719A (ja) | 記録再生装置、記録再生方法、および提供媒体 | |
US20010017974A1 (en) | Moving picture frame searching device, moving picture frame searching method, and record medium on which processing therefor is recorded | |
JP4867872B2 (ja) | 画像処理装置、この画像処理装置の制御方法、及び、プログラム | |
JP4498207B2 (ja) | 映像処理装置及び映像処理方法 | |
JPH06217251A (ja) | 画像信号記録装置および画像信号記録媒体 | |
JP2004343201A (ja) | 記録装置 | |
JP3922447B2 (ja) | 情報再生装置および方法、記録媒体、並びにプログラム | |
JP2014064124A (ja) | 動画処理装置、動画処理方法及びプログラム |