JP4217504B2 - Image reproduction method and method - Google Patents

Image reproduction method and method Download PDF

Info

Publication number
JP4217504B2
JP4217504B2 JP2003054244A JP2003054244A JP4217504B2 JP 4217504 B2 JP4217504 B2 JP 4217504B2 JP 2003054244 A JP2003054244 A JP 2003054244A JP 2003054244 A JP2003054244 A JP 2003054244A JP 4217504 B2 JP4217504 B2 JP 4217504B2
Authority
JP
Japan
Prior art keywords
frame
still image
sequence
decoded
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003054244A
Other languages
Japanese (ja)
Other versions
JP2004266539A5 (en
JP2004266539A (en
Inventor
芳季 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2003054244A priority Critical patent/JP4217504B2/en
Publication of JP2004266539A publication Critical patent/JP2004266539A/en
Publication of JP2004266539A5 publication Critical patent/JP2004266539A5/ja
Application granted granted Critical
Publication of JP4217504B2 publication Critical patent/JP4217504B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像再生方式及び方法に関し、特にはMPEG−1、2方式など、フレーム間符号化を用いて動画像を圧縮し記録する記録方式を用いて記録された静止画データの再生方式及び方法に関する。
【0002】
【従来の技術】
家庭用デジタルビデオレコーダーにMPEGデータを記録する技術によりD−VHS等の商品が開発され、またDV規格の小型カセットにHD(High Definition)映像を記録する技術が特許文献1などに公開されている。
【0003】
一方、DV規格のSD記録フォーマットでは、テープ媒体に所定の検索IDとともに静止画を一定期間記録する方式が規格化され、これを用いたテープ上の静止画検索技術が特許文献2などに公開されている。これは静止画用に特別の圧縮符号化を行うのではなく、同一フレームが連続する動画として記録し、静止画であることを示すフラグ情報のみ付加しておく方式である。この方式では、ディスクメディアのようにランダムアクセス可能なものに対しては、記録容量が増えるため不利であるが、テープメディアのように一定速再生が望ましいメディアへの記録に対しては、再生時に特殊な処理を行うことなく所定時間の静止画を再生することが可能なものである。
【0004】
【特許文献1】
特開2001−275077号公報
【特許文献2】
特開平7−98965号公報
【0005】
【発明が解決しようとする課題】
しかしながら、従来のSD記録フォーマットのテープ静止画記録をMPEGデータによる映像記録に適用して記録した場合、Iピクチャ、Pピクチャ、Bピクチャ間での符号化歪差が生じる。これはデジタル的に同一なフレームが連続する静止画シーケンスであるため、Pピクチャ及びBピクチャはIピクチャのフレーム内符号化誤差信号を符号化することになり、フレームとしての符号化歪量はI>P>Bとなるシーンが多いことによる。
【0006】
このようにフレーム間で符号化歪が変動する静止画シーケンスを動画として再生すると、符号化歪の時間的変化がフリッカとして知覚され、本来動きが無いため符号化画質として有利であるはずの静止画シーケンスにもかかわらず再生画像の劣化を生じる。
【0007】
また、符号化時の符号量制御により時間的に画質が変動していく可能性があることも静止画シーケンスの再生として望ましくない。
【0008】
本発明は、前記のような点に鑑みてなされたものであり、動画圧縮方式を用いて記録された静止画シーケンスの再生時に符号化歪によるフリッカが生じない画像再生を実現することを目的とする。
【0009】
【課題を解決するための手段】
本発明の画像再生方式は、フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方式であって、上記静止画シーケンスの継続期間を検出する手段と、上記静止画シーケンスの符号化データを復号する復号手段と、上記復号手段によって復号された複数の復号化フレームのうち、上記静止画シーケンスの先頭から所定のフレーム数が経過した位置にある上記フレーム間符号化によって圧縮符号化されたフレーム間符号化フレームの復号化フレームを保持するフレーム保持手段と、少なくとも上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する手段とを備える点に特徴を有する。
本発明の別の画像再生方式は、MPEG方式で圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスと、上記静止画シーケンスの付加情報として記録された上記静止画シーケンス及びその継続再生期間を特定するための識別情報とを記録メディアから再生する画像再生方式であって、上記記録メディアに記録されたデータを再生する再生手段と、上記再生手段によって再生されたデータから上記識別情報を検出する検出手段と、上記再生手段によって再生されたデータのうち画像データを復号する復号手段と、上記検出手段によって検出された識別情報によって特定される静止画シーケンスを再生開始した後、上記静止画シーケンスに対応する画像データを上記復号手段で復号して得た複数の復号化フレームのうち、上記静止画シーケンスの先頭から所定のフレーム数が経過した位置にあるフレーム間符号化によって圧縮符号化されたフレーム間符号化フレームの復号化フレームを保持するフレーム保持手段と、上記検出手段によって検出された識別情報によって特定される上記静止画シーケンスの継続再生期間中においては、上記フレーム保持手段に復号化フレームが保持されるまでは上記復号手段で復号された復号化フレームを順次出力し、上記フレーム保持手段に復号化フレームが保持された以降は上記保持された復号化フレームを繰り返し出力する出力手段とを備える点に特徴を有する。
本発明の画像再生方法は、フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方法であって、上記静止画シーケンスの継続期間を検出する手順と、上記静止画シーケンスの符号化データを復号する手順と、上記復号された複数の復号化フレームのうち、上記静止画シーケンスの先頭から所定のフレーム数が経過した位置にある上記フレーム間符号化によって圧縮符号化されたフレーム間符号化フレームの復号化フレームをフレーム保持手段が保持する手順と、少なくとも上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する手順とを有する点に特徴を有する。
本発明の別の画像再生方法は、MPEG方式で圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスと、上記静止画シーケンスの付加情報として記録された上記静止画シーケンス及びその継続再生期間を特定するための識別情報とを記録メディアから再生する画像再生方法であって、上記記録メディアに記録されたデータを再生する再生手順と、上記再生手順によって再生されたデータから上記識別情報を検出する検出手順と、上記再生手順によって再生されたデータのうち画像データを復号する復号手順と、上記検出手順によって検出された識別情報によって特定される静止画シーケンスを再生開始した後、上記静止画シーケンスに対応する画像データを上記復号して得た複数の復号化フレームのうち、上記静止画シーケンスの先頭から所定のフレーム数が経過した位置にあるフレーム間符号化によって圧縮符号化されたフレーム間符号化フレームの復号化フレームをフレーム保持手段が保持する保持手順と、上記検出手順によって検出された識別情報によって特定される上記静止画シーケンスの継続再生期間中においては、上記フレーム保持手段に復号化フレームが保持されるまでは上記復号手順で復号された復号化フレームを順次出力し、上記フレーム保持手段に復号化フレームが保持された以降は上記保持された復号化フレームを繰り返し出力する出力手順とを有する点に特徴を有する。
【0013】
【発明の実施の形態】
以下、図面を参照して、本発明の画像再生方式及び方法についての実施の形態を説明する。
【0014】
(第1の実施の形態)
図1は実施の形態のデジタルビデオ再生装置の概略構成を示す図である。101は磁気テープによる記録メディアであり、例えばMPEG2符号化方式によって圧縮符号化された動画像及び連続静止画からなる静止画シーケンスが記録されている。
【0015】
102は再生ヘッドであり、記録メディア101上の記録トラックをスキャンすることによって記録信号を再生する。103は再生アンプ回路であり、再生ヘッド102からの再生信号を増幅する。104は変調復号化回路であり、記録変調されている再生信号からデジタル再生データを得る。
【0016】
105は記録フォーマット復号化回路であり、得られたデジタル再生データからトラック毎のペイロードデータとそれ以外の付加データを分離する。ペイロードデータには画像データ、音声データ等複数のデータ列を含んでもかまわないが、本実施の形態ではMPEG2によって符号化された画像データのみについて説明を行う。
【0017】
106は誤り訂正復号化回路であり、記録時に付加されたパリティ情報を用いてデータ誤りの検出、訂正を行う。107はシステム復号化回路であり、MPEG2のビットストリームからビデオデータ、音声データ、ヘッダ情報を分離する。
【0018】
108は本発明の特徴であるところの静止画ホールド機能を備えた圧縮復号化回路であり、MPEG2ビデオデータをデコードし再生画像データを得る。復号時の動作については後に詳細に説明する。109はD/A変換回路であり、デコードされたデジタルビデオデータをアナログビデオ信号に変換し、端子110から出力する。
【0019】
図2は本発明の特徴であるところの静止画ホールド機能を備えた圧縮復号化回路108の構成例を示す図である。端子201にはMPEG2ビデオデータが供給され、符量変動分を吸収するバッファメモリ回路202に供給される。
【0020】
可変長復号化回路203ではエントロピー符号化されたビット列から符号化係数列を復号する。逆量子化回路204では符号化係数を逆量子化しDCT係数列を得る。逆DCT回路205ではDCT係数列を画素データ又は差分データに変換する。
【0021】
加算回路206ではスイッチ209を制御することにより、MPEG2のピクチャ構造に従ってIピクチャについては画素値をそのまま、Pピクチャ、Bピクチャについては予測画像に差分データを加算することによって再生画像データを得る。
【0022】
通常動画再生時にはスイッチ215は加算回路206側に接続され、再生画像データはそのまま端子216から出力されるとともに、Iピクチャ、Pピクチャの画像については予測画像を生成するためにビデオメモリ207に保持される。動き補償予測回路208では復号された動きベクトルによって保持されているIピクチャ、Pピクチャから動き補償予測画像を生成し、スイッチ209に供給する。
【0023】
静止画期間検出回路211では本発明の特徴であるところの画像再生方式に基づき、静止画シーケンスの継続期間を検出する。本実施の形態では、静止画シーケンスの継続期間は記録時にMPEG2の付加情報として記録された静止画識別IDによってなされるものとする。この静止画識別IDは動画/静止画の区別のみならず、静止画シーケンスが連続して記録されている場合にも連続する静止画シーケンスを区別できるような形で記録されているものとする。
【0024】
図1に示すシステム復号化回路107のシステム復号時に得られた静止画シーケンスのビットストリームに対応した静止画識別ID情報は、端子210より静止画期間検出回路211に供給され、現在デコード中のビデオデータが静止画シーケンスである場合、その開始点と終了点からなる静止継続期間データがホールド制御回路212に供給される。ホールド制御回路212は、後述する本発明の画像再生方式に従い静止画シーケンス中の再生フレーム画像をスイッチ213により選択し、フレームメモリ214に保持するとともにスイッチ215をフレームメモリ214側に接続して、保持された再生フレーム画像を連続して端子216から出力する。
【0025】
図3は本実施の形態における静止画シーケンスの再生例を説明するための図である。図3(a)は記録されたMPEG2ビデオのビットストリームを示す図であり、動画mに引き続き静止画シーケンスn、静止画シーケンスn+1が記録されている。上述の静止画識別IDは静止画シーケンスn、n+1についてそれぞれ付加されている。これによって動画と静止画を識別するとともに静止画シーケンスの継続期間を判定し、再生フレームのホールド期間が決定される。
【0026】
図3(b)は静止画シーケンスnの構成を示す図であり、この例では説明のためにフレーム間符号化の単位であるGOP(グループ・オブ・ピクチャ)のnからn+3で静止画シーケンスnが構成されているものとする。
【0027】
図3(c)はGOPnのフレーム構成を示す図であり、BピクチャB1からPピクチャP4までの15フレームでGOPが構成されているとする。静止画シーケンスについては入力画像がデジタル的に完全に一致したフレームデータの連続であるので、Iピクチャは動画と同じくフレーム内の相関を利用した圧縮符号化であるのに対し、PピクチャはIピクチャと原画像の差分データ、すなわちIピクチャの符号化誤差の再符号化にほかならず、Pピクチャの符号化に妥当なビット配分を行っている場合は、Pピクチャによる再生画像はIピクチャよりも符号化誤差が少なくなる。同様にBピクチャはPピクチャによる符号化誤差の再符号化であるため、Bピクチャへのビット配分を制限していない場合はBピクチャによる再生画像が最も符号化誤差が少なくなる。
【0028】
そこで、これを利用し、符号化誤差が小さいBピクチャの再生フレームをホールドし、以後のデコード画像に代えて出力することによって、符号化誤差変動によるフリッカのない美しい静止画シーケンスの再生が可能である。図3(c)において先頭2つのBピクチャB1、B2はシーケンス先頭であるためIピクチャからの後方予測に制限されている可能性が高い。また、BピクチャB3、B4はBピクチャではあるが予測の片側が最も符号化誤差が大きいと思われるIピクチャI1であるためPピクチャからの両方向予測となるBピクチャB5が符号化誤差が少なくかつ時間的に先行していると考えられる。
【0029】
よって本実施の形態では、ホールド制御回路212によって静止画継続期間と各フレームのピクチャタイプ、予測方向を考慮することによって、図3(d)に示すようにPピクチャP1までは通常どおりデコード画像を再生し、BピクチャB5以降はこれをホールドして静止画シーケンスnの継続期間中、デコード画像に代えて出力する。
【0030】
図3(c)、(d)は再生フレーム順で示されたGOPの構造であるが、MPEG2のビットストリーム中はデコード時の予測順序に合わせてフレームデータの並べ替えが行われている。図3(e)は並べ替えられたフレーム順を示したものであり、図2での実際の処理はこの並べ替えられた状態のフレーム順に対して適用される。
【0031】
本実施の形態ではPピクチャからの両方向予測となる先頭のBピクチャをホールドしたが、Pピクチャは順次予測であるため同一GOP内では後のPピクチャほど予測誤差が少なくなる。これにより選択するBピクチャとしてB7、B9といったフレームを選択することも可能である。この場合、予測誤差の改善とホールドまでの遅延時間のトレードオフとなるため、本発明を利用するシステムの特性に合わせてホールドするフレーム位置を設定すればよい。
【0032】
また、記録再生システムの設定として静止画シーケンス記録時にBピクチャへのビット配分を制限し、Iピクチャ、Pピクチャの符号化誤差を少なくするという設定も考えられる。こういったシステムにおいてはPピクチャをホールドすることによっても符号化誤差が少ない画像が得られるため、ホールド制御回路212の制御によりPピクチャのホールドとしてもかまわない。
【0033】
図4は本実施の形態における静止画シーケンスの他の再生例を説明するための図である。図4(a)は記録されたMPEG2ビデオのビットストリームを示す図であり、動画mに引き続き静止画シーケンスn、静止画シーケンスn+1が記録されている。
【0034】
図4(b)は静止画シーケンスnの構成を示す図であり、この例では説明のためにGOPnからn+3で静止画シーケンスnが構成されているものとする。
【0035】
この例では静止画シーケンスの先頭GOPであるGOPnでは静止画ホールド動作を行わず、GOPn+1から前述のBピクチャのホールド処理が開始される。これは記録時の符号量制御のため先頭のGOPについて量子化が細かく行われていない可能性があるからである。例えば記録時に静止画シーケンスを認識して先頭GOPに対する符号化によって以後の発生符号量を予測し、以後のGOPについて最適な画質になるよう符号化が行われるようなシステムにおいては、先頭GOPからの再生フレームをホールドするより、後続GOPをホールドしたほうが高画質な静止画像が得られる。本実施の形態では2番目のGOPをホールドする例で説明したが、記録系を含めたシステムとして、静止画シーケンスに対する符号化安定のための必要フレーム数と、ホールドまでにかかる通常再生モードの継続時間との兼ね合いで任意に設定してかまわない。
【0036】
図4(c)はGOPn+1のフレーム構成を示した図であり、図3の例で説明したようにGOP中のBピクチャB5の再生フレームがホールドされている。
【0037】
図5は本実施の形態における静止画シーケンスの他の再生例を説明するための図である。図5(a)は記録されたMPEG2ビデオのビットストリームを示す図であり、動画mに引き続き静止画シーケンスn、静止画シーケンスn+1が記録されている。
【0038】
図5(b)は静止画シーケンスnの構成を示す図であり、この例では説明のためにGOPnからn+3で静止画シーケンスnが構成されているものとする。
【0039】
この例では静止画ホールド動作を開始するタイミングを示すホールド開始フラグが記録時に記録されており、GOPn、n+1では静止画ホールド動作を行わず、ホールド開始フラグによって指示されたGOPn+2から前述のBピクチャのホールド処理が開始される。これは例えば記録時に静止画シーケンスを認識して先頭の数GOPに対する符号化によって以後の発生符号量を予測し、以後のGOPについて最適な画質になるよう符号化が行われるようなシステムにおいて、記録時に上記静止画シーケンスに対する発生符号量の予測と、符号化制御の最適化が完了した時点からホールド可能であることを示すホールド開始フラグを付加して記録し、再生時にこれを参照して静止画フレームをホールドすることによって、より最適な静止画再生を可能とするようなシステムでの使用のためである。これによってGOP間に渡っては最適となったGOPが選択され、かつGOP内では最も符号化誤差が少ない再生フレームをホールドすることが可能となり、より美しい静止画再生を行うことができる。
【0040】
図6は静止画期間検出についての一例を説明するための図である。本例ではMPEG2−TSストリームに規定されるところの不連続フラグ(Discontinuity Flag)と、静止画シーケンスであることを示すために記録時に付加された付加情報であるところの静止画フラグを用いて静止画継続期間を判定する。不連続フラグはシーンの記録開始時に付加され、静止画シーケンスそれぞれの開始時にも付加されている。これらより静止画フラグによって現在デコード中の画像データが静止画シーケンスであるかどうかが判定され、連続する静止画については不連続フラグを検出することによって、各静止画シーケンスごとの開始、終了を検出することが可能である。
【0041】
図7は静止画期間検出についての別の例を説明するための図である。本例ではDVフォーマットにおけるVAUX(ビデオAUX)データに記録されるFC(フレームチェンジ)フラグと、SC(スチルカメラ)フラグを用いて静止画期間を検出している。FCフラグはフレーム間に変化がある場合に1となり同一データである場合0となる。MPEG2の符号化後のビットストリームとしては同一画像フレームに対する符号化データも変化するが、ここではFCフラグは入力されたフレーム間の変化を示すと規定する。この場合、動画データについてはFCフラグが常に1、静止画シーケンスでは先頭フレームのみ前画像と異なるため1で、以後はシーケンスの終わりまで0となる。また、SCフラグは静止画シーケンス記録時には0となるため、SCフラグを検出することによって静止画シーケンスであることが判定でき、静止画シーケンスの連続の場合も、SCフラグは変化しないが次の静止画シーケンスの先頭フレームのみFCフラグが1となるため、各静止画シーケンスごとの開始、終了を検出することが可能である。
【0042】
(第2の実施の形態)
第2の実施の形態では、訂正不能エラーによる画像劣化を検出し、最適な静止画像をホールドする機能を持たせている。図8は実施の形態のデジタルビデオ再生装置の概略構成を示す図である。801は磁気テープによる記録メディアであり、例えばMPEG2符号化方式によって圧縮符号化された動画像及び連続静止画からなる静止画シーケンスが記録されている。
【0043】
802は再生ヘッドであり、記録メディア801上の記録トラックをスキャンすることによって記録信号を再生する。803は再生アンプ回路であり、再生ヘッド802からの再生信号を増幅する。804は変調復号化回路であり、記録変調されている再生信号からデジタル再生データを得る。
【0044】
805は記録フォーマット復号化回路であり、得られたデジタル再生データからトラック毎のペイロードデータとそれ以外の付加データを分離する。ペイロードデータには画像データ、音声データ等複数のデータ列を含んでもかまわないが、本実施の形態ではMPEG2によって符号化された画像データのみについて説明を行う。
【0045】
806は誤り訂正復号化回路であり、記録時に付加されたパリティ情報を用いてデータ誤りの訂正を行うとともに、訂正不能なエラーについては圧縮復号化回路808にエラーの発生を通知する。807はシステム復号化回路であり、MPEG2のビットストリームからビデオデータ、音声データ、ヘッダ情報を分離する。
【0046】
808は本発明の特徴であるところの静止画ホールド機能を備えた圧縮復号化回路であり、MPEG2ビデオデータをデコードし再生画像データを得る。復号時の動作については後に詳細に説明する。809はD/A変換回路であり、デコードされたデジタルビデオデータをアナログビデオ信号に変換し、端子810から出力する。
【0047】
図9は本発明の特徴であるところの静止画ホールド機能を備えた圧縮復号化回路808の構成例を示す図である。端子901にはMPEG2ビデオデータが供給され、符量変動分を吸収するバッファメモリ回路902に供給される。
【0048】
可変長復号化回路903ではエントロピー符号化されたビット列から符号化係数列を復号する。逆量子化回路904では符号化係数を逆量子化しDCT係数列を得る。逆DCT回路905ではDCT係数列を画素データ又は差分データに変換する。
【0049】
加算回路906ではスイッチ909を制御することにより、MPEG2のピクチャ構造に従ってIピクチャについては画素値をそのまま、Pピクチャ、Bピクチャについては予測画像に差分データを加算することによって再生画像データを得る。
【0050】
通常動画再生時にはスイッチ915は加算回路906側に接続され、再生画像データはそのまま端子916から出力されるとともに、Iピクチャ、Pピクチャの画像については予測画像を生成するためにビデオメモリ907に保持される。動き補償予測回路908では復号された動きベクトルによって保持されているIピクチャ、Pピクチャから動き補償予測画像を生成し、スイッチ909に供給する。
【0051】
静止画期間検出回路911では本発明の特徴であるところの画像再生方式に基づき、静止画シーケンスの継続期間を検出する。静止画期間検出の詳細については既に上記第1の実施の形態で説明したので、ここでは省略する。
【0052】
現在デコード中のビデオデータが静止画シーケンスである場合、その開始点と終了点からなる静止継続期間データがホールド制御回路912に供給される。端子917より供給される誤り訂正復号化回路806での訂正不能エラー発生情報は、画像劣化推定回路918において頻度及びピクチャタイプを考慮して劣化の程度が推定され、ホールド制御回路912に通知される。
【0053】
ホールド制御回路912では静止画期間、ピクチャタイプおよび画質劣化量を所定の閾値と比較した結果より、後述する画像再生方式に従い静止画シーケンス中の再生フレーム画像をスイッチ913により選択し、フレームメモリ914に保持するとともにスイッチ915をフレームメモリ914側に接続して、保持された再生フレーム画像を連続して端子916から出力する。
【0054】
図10は訂正不能エラーを含む場合の再生フレームホールド動作を説明するための図である。いま、静止画シーケンスの先頭GOPnで訂正不能誤りが発生しており、GOP内はフレーム間符号化により画質劣化が伝播している。この場合、ホールド制御回路912はGOPnでの静止画フレームのホールドを禁止し、エラーのないGOPn+1からホールド動作を開始する。
【0055】
図11はピクチャタイプによるエラー伝播の違いを説明するための図である。GOP中のIピクチャにおいて発生したエラーはGOP全般に渡って伝播するが、Pピクチャのエラーはそれ以後のPピクチャ及びBピクチャのみに伝播し、フレーム間予測に用いられないBピクチャのエラーは伝播しない。実際には可変長符号化データ中のエラーは可変長符号の同期が回復するまでピクチャタイプに関わらず復号不能となるが、例えばMPEG4などで用いられる双方向復号可能な可変長符号の場合は、エラーによる影響を局所に限定することが可能なため、図11で示されるエラー伝播の影響を考慮してGOP内でホールド可能なフレームを選択してもよい。
【0056】
図12はピクチャタイプによるエラー伝播を考慮してホールドを行った例を説明するための図である。今、GOPnのBピクチャB2でエラーが発生しているが、上述のように可変長符号化の同期回復又は双方向復号によってBピクチャB2内で可変長符号によるエラー伝播は収束している場合、エラー発生フレームのピクチャタイプがBピクチャであり、フレーム間符号化による伝播は無いことから、前記のように符号化誤差が少ないBピクチャB5による再生フレームをホールドすることが可能である。
【0057】
(第3の実施の形態)
第3の実施の形態として、図13を参照し、誤り訂正不能エラーによる画質劣化を含んだままホールドされた静止画をエラーの少ない画像で更新する例を説明する。通常の再生状態ではエラーを含んだ画像をホールドすることは望ましくないが、再生状態が非常に悪く所定の閾値以下の画質劣化は許容してホールドしたほうがエラーによるノイズが目立たない場合に適用可能なものである。
【0058】
いま、GOPnにおいてエラーが発生したもののピクチャタイプや頻度によって画像劣化推定回路918で推定される画質劣化量Aが所定の閾値thを下回った場合、ホールド制御回路912は再生フレームをホールドする。
【0059】
なおかつホールド制御回路912は静止画継続期間にわたって以後のフレームの画質劣化量を監視しつづけ、GOPn+2においてホールド可能なフレームの画質劣化量Bが前回ホールドした画像の画質劣化量Aを下回った場合、ホールドするフレームを更新する。これによって再生状態が悪い場合においても、静止画フレームのホールドを行い、かつよりよいホールド画面に更新することが可能な画像再生方式を提供できる。
【0060】
(その他の実施の形態)
上述した実施の形態の機能を実現するべく各種のデバイスを動作させるように、該各種デバイスと接続された装置或いはシステム内のコンピュータに対し、上記実施の形態の機能を実現するためのソフトウェアのプログラムコードを供給し、そのシステム或いは装置のコンピュータ(CPU或いはMPU)に格納されたプログラムに従って上記各種デバイスを動作させることによって実施したものも、本発明の範疇に含まれる。
【0061】
また、この場合、上記ソフトウェアのプログラムコード自体が上述した実施の形態の機能を実現することになり、そのプログラムコード自体は本発明を構成する。そのプログラムコードの伝送媒体としては、プログラム情報を搬送波として伝搬させて供給するためのコンピュータネットワーク(LAN、インターネット等のWAN、無線通信ネットワーク等)システムにおける通信媒体(光ファイバ等の有線回線や無線回線等)を用いることができる。
【0062】
さらに、上記プログラムコードをコンピュータに供給するための手段、例えばかかるプログラムコードを格納した記録媒体は本発明を構成する。かかるプログラムコードを記憶する記録媒体としては、例えばフレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
【0063】
また、コンピュータが供給されたプログラムコードを実行することにより、上述の実施の形態の機能が実現されるだけでなく、そのプログラムコードがコンピュータにおいて稼働しているOS(オペレーティングシステム)或いは他のアプリケーションソフト等と共同して上述の実施の形態の機能が実現される場合にもかかるプログラムコードは本発明の実施の形態に含まれることはいうまでもない。
【0064】
さらに、供給されたプログラムコードがコンピュータの機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに格納された後、そのプログラムコードの指示に基づいてその機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって上述した実施の形態の機能が実現される場合にも本発明に含まれることはいうまでもない。
【0065】
なお、上記実施の形態において示した各部の形状及び構造は、何れも本発明を実施するにあたっての具体化のほんの一例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその精神、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
【0066】
以下、本発明の実施態様の例を列挙する。
(実施態様1) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方式であって、
上記静止画シーケンスの継続期間を検出する手段と、
上記静止画シーケンス中の所定符号化フレームの復号化フレームを保持するフレーム保持手段と、
少なくとも上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する手段とを備えることを特徴とする画像再生方式。
【0067】
上記実施態様1の画像再生方式によれば、例えば最も符号化歪の少ないBピクチャのフレーム画像を保持し、以後連続して出力することにより、動画圧縮方式を用いて記録された静止画シーケンスの再生時に符号化歪によるフリッカを生じない画像再生を実現することができる。
【0068】
(実施態様2) 上記フレーム保持手段に復号化フレームを保持する処理は、上記静止画シーケンスの先頭から所定のフレーム間符号化単位経過した後の符号化フレームに対して行うことを特徴とする実施態様1に記載の画像再生方式。
【0069】
(実施態様3) 上記フレーム保持手段に復号化フレームを保持する処理は、上記静止画シーケンス中の付加情報に同期して開始されることを特徴とする実施態様1に記載の画像再生方式。
【0070】
(実施態様4) 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を識別する静止画ID情報から検出することを特徴とする実施態様1に記載の画像再生方式。
【0071】
(実施態様5) 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を示す静止画記録フラグとフレーム間符号化単位の不連続を示すフラグとから検出することを特徴とする実施態様1に記載の画像再生方式。
【0072】
(実施態様6) 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を示す静止画記録フラグと、フレーム間の画像変化の有無を示すフラグとから検出することを特徴とする実施態様1に記載の画像再生方式。
【0073】
(実施態様7) 上記フレーム保持手段に保持されるフレームは前後フレームからの予測によるBピクチャから選ばれることを特徴とする実施態様1〜6のいずれか1項に記載の画像再生方式。
【0074】
(実施態様8) 上記フレーム保持手段に保持されるフレームは時間的に先行するフレームからの予測によるPピクチャから選ばれることを特徴とする実施態様1〜6のいずれか1項に記載の画像再生方式。
【0075】
(実施態様9) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方式であって、
上記静止画シーケンスの継続期間を検出する手段と、
フレーム間符号化による符号化フレームの復号化に必要な符号化データ中の訂正不能誤り量を計算する手段と、
上記訂正不能誤り量から対応する復号化フレームの画質劣化量を計算する手段と、
上記静止画シーケンス中の符号化フレームのうち上記画質劣化量が所定値以下である符号化フレームの復号化フレームを保持するフレーム保持手段と、
少なくとも上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する手段とを備えることを特徴とする画像再生方式。
【0076】
上記実施態様9の画像再生方式によれば、メディアの損傷などによる再生ノイズを含んだ画像を避けた上で、例えば最も符号化歪の少ないBピクチャのフレーム画像を保持し、以後連続して出力することにより、動画圧縮方式を用いて記録された静止画シーケンスの再生時に符号化歪によるフリッカを生じない画像再生を実現することができる。
【0077】
(実施態様10) 上記フレーム保持手段に復号化フレームを保持する処理は、上記静止画シーケンスの先頭から所定のフレーム間符号化単位経過した後の符号化フレームに対して行うことを特徴とする実施態様9に記載の画像再生方式。
【0078】
(実施態様11) 上記フレーム保持手段に復号化フレームを保持する処理は、上記静止画シーケンス中の付加情報に同期して開始されることを特徴とする実施態様9に記載の画像再生方式。
【0079】
(実施態様12) 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を識別する静止画ID情報から検出することを特徴とする実施態様9に記載の画像再生方式。
【0080】
(実施態様13) 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を示す静止画記録フラグとフレーム間符号化単位の不連続を示すフラグとから検出することを特徴とする実施態様9に記載の画像再生方式。
【0081】
(実施態様14) 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を示す静止画記録フラグと、フレーム間の画像変化の有無を示すフラグとから検出することを特徴とする実施態様9に記載の画像再生方式。
【0082】
(実施態様15) 上記フレーム保持手段に保持されるフレームは前後フレームからの予測によるBピクチャから選ばれることを特徴とする実施態様9〜14のいずれか1項に記載の画像再生方式。
【0083】
(実施態様16) 上記フレーム保持手段に保持されるフレームは時間的に先行するフレームからの予測によるPピクチャから選ばれることを特徴とする実施態様9〜14のいずれか1項に記載の画像再生方式。
【0084】
(実施態様17) 上記フレーム保持手段に保持されるフレームは前後フレームからの予測によるBピクチャ、又は時間的に先行するフレームからの予測によるPピクチャから、訂正不能誤りによる画質劣化量によって選ばれることを特徴とする実施態様9〜14のいずれか1項に記載の画像再生方式。
【0085】
(実施態様18) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方式であって、
上記静止画シーケンスの継続期間を検出する手段と、
フレーム間符号化による符号化フレームの復号化に必要な符号化データ中の訂正不能誤り量を計算する手段と、
上記訂正不能誤り量から対応する復号化フレームの画質劣化量を計算する手段と、
上記静止画シーケンス中の符号化フレームのうち上記画質劣化量が所定値以下である符号化フレームの復号化フレームを保持するフレーム保持手段と、
上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する手段と、
上記復号化フレームの保持後に、画質劣化量が保持中の復号化フレームより少ない所定の符号化フレームが検出された場合、上記保持中の復号化フレームを上記新たに検出された符号化フレームの復号化フレームで更新する手段とを備えることを特徴とする画像再生方式。
【0086】
上記実施態様18の画像再生方式によれば、再生状態の悪い場合でも、メディアの損傷などによる再生ノイズを極力含まないようにして、例えば最も符号化歪の少ないBピクチャのフレーム画像を保持し、以後連続して出力することにより、動画圧縮方式を用いて記録された静止画シーケンスの再生時に符号化歪によるフリッカを生じない画像再生を実現することができる。
【0087】
(実施態様19) 上記フレーム保持手段に復号化フレームを保持する処理は、上記静止画シーケンスの先頭から所定のフレーム間符号化単位経過した後の符号化フレームに対して行うことを特徴とする実施態様18に記載の画像再生方式。
【0088】
(実施態様20) 上記フレーム保持手段に復号化フレームを保持する処理は、上記静止画シーケンス中の付加情報に同期して開始されることを特徴とする実施態様18に記載の画像再生方式。
【0089】
(実施態様21) 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を識別する静止画ID情報から検出することを特徴とする実施態様18に記載の画像再生方式。
【0090】
(実施態様22) 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を示す静止画記録フラグとフレーム間符号化単位の不連続を示すフラグとから検出することを特徴とする実施態様18に記載の画像再生方式。
【0091】
(実施態様23) 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を示す静止画記録フラグと、フレーム間の画像変化の有無を示すフラグとから検出することを特徴とする実施態様18に記載の画像再生方式。
【0092】
(実施態様24) 上記フレーム保持手段に保持されるフレームは前後フレームからの予測によるBピクチャから選ばれることを特徴とする実施態様18〜23のいずれか1項に記載の画像再生方式。
【0093】
(実施態様25) 上記フレーム保持手段に保持されるフレームは時間的に先行するフレームからの予測によるPピクチャから選ばれることを特徴とする実施態様18〜23のいずれか1項に記載の画像再生方式。
【0094】
(実施態様26) 上記フレーム保持手段に保持されるフレームは前後フレームからの予測によるBピクチャ、又は時間的に先行するフレームからの予測によるPピクチャから、訂正不能誤りによる画質劣化量によって選ばれることを特徴とする実施態様18〜23のいずれか1項に記載の画像再生方式。
【0095】
(実施態様27) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方式であって、
上記静止画シーケンス中の所定符号化フレームの復号化フレームを保持し、以後の符号化データの復号化フレームに代えて出力することを特徴とする画像再生方式。
【0096】
(実施態様28) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方法であって、
上記静止画シーケンスの継続期間を検出する手順と、
上記静止画シーケンス中の所定符号化フレームの復号化フレームを保持する手順と、
少なくとも上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する手順とを有することを特徴とする画像再生方法。
【0097】
(実施態様29) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方法であって、
上記静止画シーケンスの継続期間を検出する手順と、
フレーム間符号化による符号化フレームの復号化に必要な符号化データ中の訂正不能誤り量を計算する手順と、
上記訂正不能誤り量から対応する復号化フレームの画質劣化量を計算する手順と、
上記静止画シーケンス中の符号化フレームのうち上記画質劣化量が所定値以下である符号化フレームの復号化フレームを保持する手順と、
少なくとも上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する手順とを有することを特徴とする画像再生方法。
【0098】
(実施態様30) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方法であって、
上記静止画シーケンスの継続期間を検出する手順と、
フレーム間符号化による符号化フレームの復号化に必要な符号化データ中の訂正不能誤り量を計算する手順と、
上記訂正不能誤り量から対応する復号化フレームの画質劣化量を計算する手順と、
上記静止画シーケンス中の符号化フレームのうち上記画質劣化量が所定値以下である符号化フレームの復号化フレームを保持する手順と、
上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する手順と、
上記復号化フレームの保持後に、画質劣化量が保持中の復号化フレームより少ない所定の符号化フレームが検出された場合、上記保持中の復号化フレームを上記新たに検出された符号化フレームの復号化フレームで更新する手順とを有することを特徴とする画像再生方法。
【0099】
(実施態様31) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方法であって、
上記静止画シーケンス中の所定符号化フレームの復号化フレームを保持し、以後の符号化データの復号化フレームに代えて出力することを特徴とする画像再生方法。
【0100】
(実施態様32) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する処理をコンピュータ実行させるコンピュータプログラムであって、
上記静止画シーケンスの継続期間を検出する処理と、
上記静止画シーケンス中の所定符号化フレームの復号化フレームを保持する処理と、
少なくとも上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する処理とを実行させることを特徴とするコンピュータプログラム。
【0101】
(実施態様33) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する処理をコンピュータ実行させるコンピュータプログラムであって、
上記静止画シーケンスの継続期間を検出する処理と、
フレーム間符号化による符号化フレームの復号化に必要な符号化データ中の訂正不能誤り量を計算する処理と、
上記訂正不能誤り量から対応する復号化フレームの画質劣化量を計算する処理と、
上記静止画シーケンス中の符号化フレームのうち上記画質劣化量が所定値以下である符号化フレームの復号化フレームを保持する処理と、
少なくとも上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する処理とを実行させることを特徴とするコンピュータプログラム。
【0102】
(実施態様34) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する処理をコンピュータ実行させるコンピュータプログラムであって、
上記静止画シーケンスの継続期間を検出する処理と、
フレーム間符号化による符号化フレームの復号化に必要な符号化データ中の訂正不能誤り量を計算する処理と、
上記訂正不能誤り量から対応する復号化フレームの画質劣化量を計算する処理と、
上記静止画シーケンス中の符号化フレームのうち上記画質劣化量が所定値以下である符号化フレームの復号化フレームを保持する処理と、
上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する処理と、
上記復号化フレームの保持後に、画質劣化量が保持中の復号化フレームより少ない所定の符号化フレームが検出された場合、上記保持中の復号化フレームを上記新たに検出された符号化フレームの復号化フレームで更新する処理とを実行させることを特徴とするコンピュータプログラム。
【0103】
(実施態様35) フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する処理をコンピュータ実行させるコンピュータプログラムであって、
上記静止画シーケンス中の所定符号化フレームの復号化フレームを保持し、以後の符号化データの復号化フレームに代えて出力することを特徴とするコンピュータプログラム。
【0104】
(実施態様36) 実施態様32〜35のいずれか1項に記載のコンピュータプログラムを格納したことを特徴とするコンピュータ読み取り可能な記憶媒体。
【0105】
【発明の効果】
以上述べたように本発明によれば、静止画シーケンスの先頭から所定のフレーム数が経過した位置にあるフレーム間符号化によって圧縮符号化されたフレームの復号化フレームを保持し、以後の符号化データの復号化フレームに代えて出力するようにしたので、動画圧縮方式を用いて記録された静止画シーケンスの再生時に符号化歪によるフリッカを減少でき、なおかつ高画質な静止画再生を実現することができる。
【図面の簡単な説明】
【図1】第1の実施の形態のデジタルビデオ再生装置の概略構成を示す図である。
【図2】圧縮復号化回路108の構成例を示す図である。
【図3】静止画シーケンスの再生例を説明するための図である。
【図4】静止画シーケンスの他の再生例を説明するための図である。
【図5】静止画シーケンスの他の再生例を説明するための図である。
【図6】静止画期間検出についての一例を説明するための図である。
【図7】静止画期間検出についての別の例を説明するための図である。
【図8】第2の実施の形態のデジタルビデオ再生装置の概略構成を示す図である。
【図9】圧縮復号化回路808の構成例を示す図である。
【図10】訂正不能エラーを含む場合の再生フレームホールド動作を説明するための図である。
【図11】ピクチャタイプによるエラー伝播の違いを説明するための図である。
【図12】ピクチャタイプによるエラー伝播を考慮してホールドを行った例を説明するための図である。
【図13】第3の実施の形態として、誤り訂正不能エラーによる画質劣化を含んだままホールドされた静止画をエラーの少ない画像で更新する例を説明するための図である。
【符号の説明】
101、801 記録メディア
102、802 再生ヘッド
103、803 再生アンプ回路
104、804 変調復号化回路
105、805 記録フォーマット復号化回路
106、806 誤り訂正復号化回路
107、807 システム復号化回路
108、808 静止画ホールド機能を備えた圧縮復号化回路
109、809 D/A変換回路
110、810 端子
201、901 端子
202、902 バッファメモリ回路
203、903 可変長復号化回路
204、904 逆量子化回路
205、905 逆DCT回路
206、906 加算回路
207、907 ビデオメモリ
208、908 動き補償予測回路
209、909 スイッチ
210、910 端子
211、911 静止画期間検出回路
212、912 ホールド制御回路
213、913 スイッチ
214、914 フレームメモリ
215、915 スイッチ
216、916 端子
917 端子
918 画像劣化推定回路
[0001]
BACKGROUND OF THE INVENTION
  The present invention relates to an image reproduction method and method, and more particularly to a method for reproducing still image data recorded using a recording method for compressing and recording a moving image using interframe coding, such as the MPEG-1 and 2 methods. Regarding the method.
[0002]
[Prior art]
Products such as D-VHS have been developed by a technique for recording MPEG data on a home digital video recorder, and a technique for recording HD (High Definition) video on a DV standard compact cassette is disclosed in Patent Document 1 and the like. .
[0003]
On the other hand, in the SD standard SD recording format, a method for recording a still image on a tape medium together with a predetermined search ID for a certain period is standardized, and a still image search technique on a tape using this is disclosed in Patent Document 2 and the like. ing. This is not a special compression encoding for still images, but is recorded as a moving image in which the same frame continues, and only flag information indicating that it is a still image is added. This method is disadvantageous for disc media and other media that can be accessed at random, because the recording capacity increases. It is possible to reproduce a still image for a predetermined time without performing special processing.
[0004]
[Patent Document 1]
JP 2001-275077 A
[Patent Document 2]
JP-A-7-98965
[0005]
[Problems to be solved by the invention]
However, when a conventional tape still image recording in the SD recording format is applied to video recording based on MPEG data, there is a difference in encoding distortion among I pictures, P pictures, and B pictures. Since this is a still image sequence in which digitally identical frames are continuous, the P picture and the B picture encode the intra-frame coding error signal of the I picture, and the coding distortion amount as a frame is I This is because there are many scenes where> P> B.
[0006]
When a still image sequence in which coding distortion varies between frames as described above is reproduced as a moving image, a temporal change in the coding distortion is perceived as flicker, and there is essentially no motion, so a still image that should be advantageous as an encoded image quality. In spite of the sequence, the reproduced image is deteriorated.
[0007]
In addition, it is not desirable for reproduction of a still image sequence that the image quality may change with time due to code amount control during encoding.
[0008]
The present invention has been made in view of the above points, and an object of the present invention is to realize image reproduction in which flicker due to coding distortion does not occur during reproduction of a still image sequence recorded using a moving image compression method. To do.
[0009]
[Means for Solving the Problems]
  The image reproduction method of the present invention is an image reproduction method for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding, wherein the duration of the still image sequence is increased. Means for detecting and the still image sequenceCompressed by the inter-frame encoding at a position where a predetermined number of frames have elapsed from the beginning of the still image sequence among a plurality of decoded frames decoded by the decoding means Between encoded framesFrame holding means for holding a decoded frame of the encoded frame, and at least a still image sequence continuation period after the reproduction time of the held decoded frame, the decoding of the encoded data after the held decoded frame And a means for outputting in place of the frame.
  Another image reproduction method of the present invention includes a still image sequence composed of a sequence of the same still image frames compressed and encoded by the MPEG method, the still image sequence recorded as additional information of the still image sequence, and its continuous reproduction. An image reproduction method for reproducing identification information for specifying a period from a recording medium, a reproducing means for reproducing data recorded on the recording medium, and the identification information from the data reproduced by the reproducing means. Detecting means for detecting; decoding means for decoding image data out of data reproduced by the reproducing means; and starting reproduction of a still image sequence specified by the identification information detected by the detecting means, and Among the plurality of decoded frames obtained by decoding the image data corresponding to the sequence by the decoding means, the static A frame holding means for holding a decoded frame of an inter-frame encoded frame that has been compression-encoded by inter-frame coding at a position where a predetermined number of frames have passed from the beginning of the image sequence; and an identification detected by the detecting means During the continuous reproduction period of the still image sequence specified by the information, the decoded frame decoded by the decoding unit is sequentially output until the decoded frame is held in the frame holding unit, and the frame holding unit And after the decoded frame is held, output means for repeatedly outputting the held decoded frame is provided.
  The image reproduction method of the present invention is an image reproduction method for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding, wherein the duration of the still image sequence is increased. A procedure for detecting, a procedure for decoding encoded data of the still image sequence, and the frame at a position where a predetermined number of frames have elapsed from the beginning of the still image sequence among the plurality of decoded frames decoded The procedure for the frame holding means to hold the decoded frame of the inter-frame encoded frame that has been compression-encoded by the inter-coding, and at least the still image sequence duration after the playback time of the held decoded frame is held as described above And a procedure for outputting the decoded frame in place of the decoded frame of the subsequent encoded data. With a butterfly.
  Another image reproduction method of the present invention includes a still image sequence composed of a sequence of identical still image frames compression-encoded by the MPEG method, the still image sequence recorded as additional information of the still image sequence, and its continuous reproduction. An image reproduction method for reproducing identification information for specifying a period from a recording medium, a reproduction procedure for reproducing data recorded on the recording medium, and the identification information from the data reproduced by the reproduction procedure. A detection procedure for detecting, a decoding procedure for decoding image data of the data reproduced by the reproduction procedure, and a reproduction of the still image sequence specified by the identification information detected by the detection procedure. Among the plurality of decoded frames obtained by decoding the image data corresponding to the sequence, the still image sequence is selected. The frame holding means holds the decoded frame of the inter-frame encoded frame that has been compression-encoded by the inter-frame encoding at the position where a predetermined number of frames have passed from the beginning of the frame, and is detected by the above detection procedure. During the continuous reproduction period of the still image sequence specified by the identification information, the decoded frames decoded in the decoding procedure are sequentially output until the decoded frame is held in the frame holding means, and the frame After the decoded frame is held in the holding means, there is a feature in that it has an output procedure for repeatedly outputting the held decoded frame.
[0013]
DETAILED DESCRIPTION OF THE INVENTION
  Embodiments of an image reproduction method and method according to the present invention will be described below with reference to the drawings.
[0014]
(First embodiment)
FIG. 1 is a diagram showing a schematic configuration of a digital video playback apparatus according to an embodiment. Reference numeral 101 denotes a recording medium using a magnetic tape, on which a still image sequence including a moving image and a continuous still image compressed and encoded by, for example, the MPEG2 encoding method is recorded.
[0015]
A reproduction head 102 reproduces a recording signal by scanning a recording track on the recording medium 101. A reproduction amplifier circuit 103 amplifies a reproduction signal from the reproduction head 102. A modulation / decoding circuit 104 obtains digital reproduction data from a reproduction signal subjected to recording modulation.
[0016]
A recording format decoding circuit 105 separates payload data for each track and other additional data from the obtained digital reproduction data. The payload data may include a plurality of data strings such as image data and audio data. In the present embodiment, only image data encoded by MPEG2 will be described.
[0017]
An error correction decoding circuit 106 detects and corrects a data error using parity information added at the time of recording. A system decoding circuit 107 separates video data, audio data, and header information from the MPEG2 bit stream.
[0018]
Reference numeral 108 denotes a compression decoding circuit having a still image hold function, which is a feature of the present invention, and decodes MPEG2 video data to obtain reproduced image data. The operation at the time of decoding will be described in detail later. Reference numeral 109 denotes a D / A conversion circuit which converts the decoded digital video data into an analog video signal and outputs it from the terminal 110.
[0019]
  FIG. 2 is a diagram showing a configuration example of the compression decoding circuit 108 having a still picture hold function which is a feature of the present invention. The terminal 201 is supplied with MPEG2 video data andissueThe data is supplied to the buffer memory circuit 202 that absorbs the amount variation.
[0020]
The variable length decoding circuit 203 decodes the encoded coefficient sequence from the entropy encoded bit sequence. The inverse quantization circuit 204 inversely quantizes the encoded coefficient to obtain a DCT coefficient sequence. The inverse DCT circuit 205 converts the DCT coefficient sequence into pixel data or difference data.
[0021]
The adder circuit 206 controls the switch 209 to obtain reproduced image data by adding the difference data to the predicted image for the P picture and B picture as they are for the I picture according to the MPEG2 picture structure.
[0022]
During normal video playback, the switch 215 is connected to the adder circuit 206 side, and the playback image data is output from the terminal 216 as it is, and the I picture and P picture images are held in the video memory 207 to generate predicted images. The The motion compensation prediction circuit 208 generates a motion compensation prediction image from the I picture and P picture held by the decoded motion vector, and supplies the motion compensation prediction image to the switch 209.
[0023]
The still image period detection circuit 211 detects the duration of the still image sequence based on the image reproduction method that is a feature of the present invention. In this embodiment, it is assumed that the duration of the still image sequence is made by a still image identification ID recorded as additional information of MPEG2 at the time of recording. It is assumed that the still image identification ID is recorded in such a manner that not only a moving image / still image is distinguished but also a continuous still image sequence can be distinguished even when still image sequences are recorded continuously.
[0024]
The still picture identification ID information corresponding to the bit stream of the still picture sequence obtained at the time of system decoding by the system decoding circuit 107 shown in FIG. 1 is supplied from the terminal 210 to the still picture period detection circuit 211, and the video currently being decoded. When the data is a still image sequence, still duration data consisting of the start point and end point is supplied to the hold control circuit 212. The hold control circuit 212 selects a playback frame image in the still image sequence by the switch 213 in accordance with the image playback method of the present invention to be described later, holds it in the frame memory 214, and connects the switch 215 to the frame memory 214 side for holding. The reproduced frame images are output from the terminal 216 continuously.
[0025]
FIG. 3 is a diagram for explaining an example of reproduction of a still image sequence in the present embodiment. FIG. 3A is a diagram showing a recorded MPEG2 video bit stream, in which a still image sequence n and a still image sequence n + 1 are recorded following the moving image m. The still image identification ID described above is added to each of the still image sequences n and n + 1. As a result, moving images and still images are identified, the duration of the still image sequence is determined, and the hold period of the playback frame is determined.
[0026]
FIG. 3B is a diagram showing the configuration of the still picture sequence n. In this example, for the purpose of explanation, the still picture sequence n is represented by n to n + 3 of GOP (group of pictures) which is a unit of interframe coding. Is configured.
[0027]
FIG. 3C is a diagram showing a frame configuration of GOPn, and it is assumed that the GOP is configured with 15 frames from B picture B1 to P picture P4. As for the still picture sequence, since the input picture is a series of frame data in which the input picture is completely digitally matched, the I picture is the compression coding using the correlation in the frame like the moving picture, whereas the P picture is the I picture. If the bit allocation appropriate for the coding of the P picture is performed as well as the re-encoding of the difference data between the original picture and the I picture, that is, the coding error of the I picture, The conversion error is reduced. Similarly, since the B picture is a re-encoding of the coding error by the P picture, when the bit distribution to the B picture is not restricted, the reproduced image by the B picture has the smallest coding error.
[0028]
Therefore, it is possible to reproduce a beautiful still image sequence free from flicker due to fluctuations in coding error by using this and holding a reproduced frame of a B picture with a small coding error and outputting it instead of the subsequent decoded image. is there. In FIG. 3C, since the top two B pictures B1 and B2 are sequence heads, there is a high possibility that they are limited to backward prediction from I pictures. B pictures B3 and B4 are B pictures, but one side of the prediction is an I picture I1 that seems to have the largest coding error. Therefore, the B picture B5 that is bidirectionally predicted from the P picture has a small coding error and It seems to be ahead in time.
[0029]
Therefore, in the present embodiment, the hold control circuit 212 considers the still picture duration, the picture type of each frame, and the prediction direction, and as shown in FIG. The B picture B5 and subsequent pictures are held and output instead of the decoded picture during the duration of the still picture sequence n.
[0030]
FIGS. 3C and 3D show the GOP structure shown in the playback frame order. In the MPEG2 bit stream, the frame data is rearranged in accordance with the prediction order at the time of decoding. FIG. 3E shows the rearranged frame order, and the actual processing in FIG. 2 is applied to the rearranged frame order.
[0031]
In the present embodiment, the first B picture that is bi-directionally predicted from the P picture is held. However, since the P picture is a sequential prediction, the prediction error decreases as the P picture later in the same GOP. As a result, it is possible to select frames B7 and B9 as the B picture to be selected. In this case, since the prediction error is improved and the delay time until the hold is traded off, the frame position to be held may be set in accordance with the characteristics of the system using the present invention.
[0032]
In addition, as a setting of the recording / reproducing system, it is also conceivable to limit the bit allocation to the B picture at the time of recording the still image sequence and reduce the coding error of the I picture and the P picture. In such a system, an image with a small coding error can be obtained by holding a P picture, and therefore the P picture may be held by the control of the hold control circuit 212.
[0033]
FIG. 4 is a diagram for explaining another example of reproduction of a still image sequence in the present embodiment. FIG. 4A is a diagram showing a recorded MPEG2 video bit stream, in which a still image sequence n and a still image sequence n + 1 are recorded following the moving image m.
[0034]
FIG. 4B is a diagram showing the configuration of the still image sequence n. In this example, for the sake of explanation, it is assumed that the still image sequence n is configured from GOPn to n + 3.
[0035]
In this example, the still picture hold operation is not performed in GOPn which is the first GOP of the still picture sequence, and the above-described B picture hold process is started from GOPn + 1. This is because there is a possibility that the top GOP is not finely quantized for code amount control at the time of recording. For example, in a system in which a still image sequence is recognized at the time of recording and a subsequent generated code amount is predicted by encoding the leading GOP, and encoding is performed so as to obtain an optimum image quality for the subsequent GOP, A higher quality still image can be obtained by holding the subsequent GOP than by holding the playback frame. In the present embodiment, an example in which the second GOP is held has been described. However, as a system including a recording system, the necessary number of frames for stabilizing the encoding of a still image sequence and the continuation of the normal playback mode until the hold is performed. It may be set arbitrarily depending on time.
[0036]
FIG. 4C is a diagram showing the frame configuration of GOPn + 1. As described in the example of FIG. 3, the playback frame of the B picture B5 in the GOP is held.
[0037]
FIG. 5 is a diagram for explaining another reproduction example of the still image sequence in the present embodiment. FIG. 5A is a diagram showing a recorded MPEG2 video bit stream, in which a still image sequence n and a still image sequence n + 1 are recorded following the moving image m.
[0038]
FIG. 5B is a diagram showing the configuration of the still image sequence n. In this example, it is assumed that the still image sequence n is configured from GOPn to n + 3 for the sake of explanation.
[0039]
In this example, the hold start flag indicating the timing for starting the still image hold operation is recorded at the time of recording. In GOPn, n + 1, the still image hold operation is not performed, and the above-mentioned B picture is read from GOPn + 2 indicated by the hold start flag. The hold process is started. For example, in a system in which a still image sequence is recognized at the time of recording, a subsequent generated code amount is predicted by encoding with respect to the first number GOP, and encoding is performed so as to obtain an optimum image quality for the subsequent GOP. Occasionally, the generated code amount for the above still image sequence is predicted and a hold start flag indicating that the hold can be performed from the point when the optimization of the encoding control is completed is recorded. This is for use in a system that allows more optimal still image reproduction by holding a frame. As a result, an optimal GOP is selected between the GOPs, and a reproduction frame with the least coding error can be held in the GOP, and a more beautiful still image reproduction can be performed.
[0040]
FIG. 6 is a diagram for explaining an example of still image period detection. In this example, a discontinuity flag (Discontinuity Flag) defined in the MPEG2-TS stream and a still image flag which is additional information added at the time of recording to indicate a still image sequence are used. The image duration is determined. The discontinuity flag is added at the start of scene recording, and is also added at the start of each still image sequence. From these, it is determined whether the image data currently being decoded is a still image sequence based on the still image flag, and the start and end of each still image sequence is detected by detecting the discontinuity flag for continuous still images. Is possible.
[0041]
FIG. 7 is a diagram for explaining another example of still image period detection. In this example, the still image period is detected using an FC (frame change) flag and SC (still camera) flag recorded in VAUX (video AUX) data in the DV format. The FC flag is 1 when there is a change between frames, and 0 when the data is the same. As the bit stream after MPEG2 encoding, the encoded data for the same image frame also changes, but here it is defined that the FC flag indicates a change between input frames. In this case, the FC flag is always 1 for moving image data, and is 1 because only the first frame is different from the previous image in the still image sequence, and thereafter 0 until the end of the sequence. Since the SC flag is 0 when recording a still image sequence, it can be determined that the still image sequence is detected by detecting the SC flag. Even when the still image sequence is continuous, the SC flag does not change, but the next still image sequence is detected. Since the FC flag is set to 1 only in the first frame of the image sequence, the start and end of each still image sequence can be detected.
[0042]
(Second Embodiment)
In the second embodiment, a function of detecting image degradation due to an uncorrectable error and holding an optimum still image is provided. FIG. 8 is a diagram showing a schematic configuration of the digital video reproducing apparatus according to the embodiment. Reference numeral 801 denotes a magnetic tape recording medium on which a still image sequence including a moving image and a continuous still image that are compression-encoded by, for example, the MPEG2 encoding method is recorded.
[0043]
A reproducing head 802 reproduces a recording signal by scanning a recording track on the recording medium 801. A reproduction amplifier circuit 803 amplifies a reproduction signal from the reproduction head 802. A modulation / decoding circuit 804 obtains digital reproduction data from a reproduction signal subjected to recording modulation.
[0044]
A recording format decoding circuit 805 separates payload data for each track and other additional data from the obtained digital reproduction data. The payload data may include a plurality of data strings such as image data and audio data. In the present embodiment, only image data encoded by MPEG2 will be described.
[0045]
An error correction decoding circuit 806 corrects a data error using parity information added at the time of recording, and notifies the compression decoding circuit 808 of the occurrence of an error for an uncorrectable error. A system decoding circuit 807 separates video data, audio data, and header information from the MPEG2 bit stream.
[0046]
Reference numeral 808 denotes a compression decoding circuit having a still image hold function, which is a feature of the present invention, and decodes MPEG2 video data to obtain reproduced image data. The operation at the time of decoding will be described in detail later. Reference numeral 809 denotes a D / A conversion circuit which converts the decoded digital video data into an analog video signal and outputs it from a terminal 810.
[0047]
  FIG. 9 is a diagram showing a configuration example of a compression decoding circuit 808 having a still picture hold function which is a feature of the present invention. The terminal 901 is supplied with MPEG2 video data,issueThe data is supplied to a buffer memory circuit 902 that absorbs the amount variation.
[0048]
The variable length decoding circuit 903 decodes the encoded coefficient sequence from the entropy encoded bit sequence. The inverse quantization circuit 904 inversely quantizes the encoded coefficient to obtain a DCT coefficient sequence. The inverse DCT circuit 905 converts the DCT coefficient sequence into pixel data or difference data.
[0049]
The adder circuit 906 controls the switch 909 to obtain reproduced image data by adding the difference data to the predicted image for the P picture and B picture as they are for the I picture according to the MPEG2 picture structure.
[0050]
During normal video playback, the switch 915 is connected to the addition circuit 906 side, and the playback image data is output as it is from the terminal 916, and the I picture and P picture images are held in the video memory 907 to generate predicted images. The The motion compensation prediction circuit 908 generates a motion compensation prediction image from the I picture and P picture held by the decoded motion vector, and supplies the motion compensation prediction image to the switch 909.
[0051]
The still image period detection circuit 911 detects the duration of the still image sequence based on the image reproduction method that is a feature of the present invention. The details of the still image period detection have already been described in the first embodiment, and are omitted here.
[0052]
If the video data currently being decoded is a still image sequence, still duration data consisting of the start point and end point is supplied to the hold control circuit 912. The degree of deterioration of the uncorrectable error occurrence information in the error correction decoding circuit 806 supplied from the terminal 917 is estimated in the image deterioration estimation circuit 918 in consideration of the frequency and the picture type, and is notified to the hold control circuit 912. .
[0053]
The hold control circuit 912 selects the playback frame image in the still image sequence by the switch 913 according to the image playback method described later based on the result of comparing the still picture period, the picture type, and the image quality deterioration amount with a predetermined threshold value, and stores it in the frame memory 914. At the same time, the switch 915 is connected to the frame memory 914 side, and the held reproduction frame images are continuously output from the terminal 916.
[0054]
FIG. 10 is a diagram for explaining the playback frame hold operation when an uncorrectable error is included. Now, an uncorrectable error has occurred in the first GOPn of the still image sequence, and image quality deterioration is propagated in the GOP due to interframe coding. In this case, the hold control circuit 912 prohibits the holding of the still image frame in GOPn, and starts the hold operation from GOPn + 1 without error.
[0055]
FIG. 11 is a diagram for explaining the difference in error propagation depending on the picture type. An error that occurs in an I picture in a GOP propagates throughout the GOP, but an error in a P picture propagates only to subsequent P and B pictures, and an error in a B picture that is not used for inter-frame prediction. do not do. Actually, errors in the variable-length encoded data cannot be decoded regardless of the picture type until the synchronization of the variable-length code is restored. For example, in the case of a variable-length code capable of bidirectional decoding used in MPEG4, Since it is possible to limit the influence of errors locally, a frame that can be held in the GOP may be selected in consideration of the influence of error propagation shown in FIG.
[0056]
FIG. 12 is a diagram for explaining an example in which holding is performed in consideration of error propagation by picture type. Now, an error has occurred in the B picture B2 of GOPn, but error propagation by the variable length code has converged in the B picture B2 due to synchronous recovery or bidirectional decoding of variable length coding as described above. Since the picture type of the error-occurring frame is a B picture and there is no propagation due to inter-frame coding, it is possible to hold a reproduction frame by the B picture B5 with a small coding error as described above.
[0057]
(Third embodiment)
As a third embodiment, an example in which a still image held with image quality deterioration due to an error uncorrectable error is updated with an image with few errors will be described with reference to FIG. Although it is not desirable to hold an image that contains an error in the normal playback state, it is applicable when the playback state is very poor and image quality deterioration below a predetermined threshold is allowed and the noise caused by the error is not noticeable. Is.
[0058]
If an error has occurred in GOPn but the image quality degradation amount A estimated by the image degradation estimation circuit 918 depending on the picture type and frequency falls below a predetermined threshold th, the hold control circuit 912 holds the reproduced frame.
[0059]
Further, the hold control circuit 912 continuously monitors the image quality deterioration amount of the subsequent frames over the still image continuation period. If the image quality deterioration amount B of the frame that can be held in GOPn + 2 is lower than the image quality deterioration amount A of the previously held image, the hold control circuit 912 Update the frame to be updated. As a result, it is possible to provide an image reproduction method capable of holding still image frames and updating to a better hold screen even when the reproduction state is poor.
[0060]
(Other embodiments)
Software program for realizing the functions of the above-described embodiment for an apparatus or a computer in the system connected to the various devices so as to operate the various devices to realize the functions of the above-described embodiments. What was implemented by supplying the code and operating the various devices in accordance with a program stored in a computer (CPU or MPU) of the system or apparatus is also included in the scope of the present invention.
[0061]
In this case, the program code of the software itself realizes the functions of the above-described embodiments, and the program code itself constitutes the present invention. As a transmission medium for the program code, a communication medium (wired line or wireless line such as an optical fiber) in a computer network (LAN, WAN such as the Internet, wireless communication network, etc.) system for propagating and supplying program information as a carrier wave Etc.) can be used.
[0062]
Further, means for supplying the program code to the computer, for example, a recording medium storing the program code constitutes the present invention. As a recording medium for storing the program code, for example, a flexible disk, a hard disk, an optical disk, a magneto-optical disk, a CD-ROM, a magnetic tape, a nonvolatile memory card, a ROM, or the like can be used.
[0063]
Further, by executing the program code supplied by the computer, not only the functions of the above-described embodiments are realized, but also the OS (operating system) or other application software in which the program code is running on the computer. Needless to say, the program code is also included in the embodiment of the present invention even when the functions of the above-described embodiment are realized in cooperation with the above.
[0064]
Further, after the supplied program code is stored in the memory provided in the function expansion board of the computer or the function expansion unit connected to the computer, the CPU provided in the function expansion board or function expansion unit based on the instruction of the program code Needless to say, the present invention also includes the case where the functions of the above-described embodiment are realized by performing part or all of the actual processing.
[0065]
It should be noted that the shapes and structures of the respective parts shown in the above embodiments are merely examples of implementation in carrying out the present invention, and these limit the technical scope of the present invention. It should not be interpreted. That is, the present invention can be implemented in various forms without departing from the spirit or the main features thereof.
[0066]
Examples of embodiments of the present invention are listed below.
(Embodiment 1) An image reproduction method for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
Means for detecting the duration of the still image sequence;
Frame holding means for holding a decoded frame of a predetermined encoded frame in the still image sequence;
Means for outputting the held decoded frame in place of the decoded frame of the subsequent encoded data at least during the still image sequence continuation period after the reproduction time of the held decoded frame. Image playback method to be used.
[0067]
According to the image reproduction method of the first embodiment, for example, a frame image of a B picture with the least coding distortion is held, and subsequently output continuously, so that a still image sequence recorded using the moving image compression method can be output. It is possible to realize image reproduction that does not cause flicker due to coding distortion during reproduction.
[0068]
(Embodiment 2) An embodiment characterized in that the process of holding a decoded frame in the frame holding means is performed on a coded frame after a predetermined interframe coding unit has elapsed from the beginning of the still image sequence. The image reproduction method according to aspect 1.
[0069]
(Embodiment 3) The image reproduction method according to Embodiment 1, wherein the process of holding the decoded frame in the frame holding means is started in synchronization with the additional information in the still image sequence.
[0070]
(Embodiment 4) The image reproduction method according to Embodiment 1, wherein the duration of the still image sequence is detected from still image ID information for identifying a still image recording portion in the recording data.
[0071]
(Embodiment 5) The duration of the still image sequence is detected from a still image recording flag indicating a still image recording portion in recording data and a flag indicating discontinuity of an inter-frame coding unit. The image reproduction method according to aspect 1.
[0072]
(Embodiment 6) An implementation characterized in that the duration of the still image sequence is detected from a still image recording flag indicating a still image recording portion in the recording data and a flag indicating presence / absence of an image change between frames. The image reproduction method according to aspect 1.
[0073]
(Embodiment 7) The image reproduction method according to any one of Embodiments 1 to 6, wherein the frame held in the frame holding means is selected from B pictures based on prediction from preceding and following frames.
[0074]
(Embodiment 8) The image reproduction according to any one of Embodiments 1 to 6, wherein the frame held in the frame holding means is selected from P pictures predicted from temporally preceding frames. method.
[0075]
(Embodiment 9) An image reproduction system for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
Means for detecting the duration of the still image sequence;
Means for calculating an uncorrectable error amount in encoded data necessary for decoding an encoded frame by interframe encoding;
Means for calculating the image quality degradation amount of the corresponding decoded frame from the uncorrectable error amount;
Frame holding means for holding a decoded frame of an encoded frame in which the image quality degradation amount is equal to or less than a predetermined value among the encoded frames in the still image sequence;
Means for outputting the held decoded frame in place of the decoded frame of the subsequent encoded data at least during the still image sequence continuation period after the reproduction time of the held decoded frame. Image playback method to be used.
[0076]
According to the image reproduction method of the ninth embodiment, for example, a B picture frame image with the least coding distortion is held and output continuously after avoiding an image including reproduction noise due to media damage or the like. By doing so, it is possible to realize image reproduction that does not cause flicker due to encoding distortion when reproducing a still image sequence recorded using the moving image compression method.
[0077]
(Embodiment 10) The process of holding the decoded frame in the frame holding means is performed on the encoded frame after a predetermined interframe coding unit has elapsed from the beginning of the still image sequence. The image reproduction system according to aspect 9.
[0078]
(Embodiment 11) The image reproduction system according to embodiment 9, wherein the process of holding the decoded frame in the frame holding means is started in synchronization with the additional information in the still image sequence.
[0079]
(Embodiment 12) The image reproduction method according to Embodiment 9, wherein the duration of the still image sequence is detected from still image ID information for identifying a still image recording portion in the recording data.
[0080]
(Embodiment 13) An implementation characterized in that the duration of the still image sequence is detected from a still image recording flag indicating a still image recording portion in recording data and a flag indicating discontinuity of an inter-frame coding unit. The image reproduction system according to aspect 9.
[0081]
(Embodiment 14) The duration of the still image sequence is detected from a still image recording flag indicating a still image recording portion in the recording data and a flag indicating presence / absence of an image change between frames. The image reproduction system according to aspect 9.
[0082]
(Embodiment 15) The image reproduction method according to any one of Embodiments 9 to 14, wherein the frame held in the frame holding means is selected from B pictures based on prediction from preceding and following frames.
[0083]
(Embodiment 16) The image reproduction according to any one of Embodiments 9 to 14, wherein the frame held in the frame holding means is selected from P pictures predicted from temporally preceding frames. method.
[0084]
(Embodiment 17) The frame held in the frame holding means is selected according to the amount of image quality degradation due to an uncorrectable error from a B picture predicted from preceding and following frames or a P picture predicted from temporally preceding frames. 15. The image reproduction method according to any one of embodiments 9 to 14, characterized by:
[0085]
(Embodiment 18) An image reproduction system for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
Means for detecting the duration of the still image sequence;
Means for calculating an uncorrectable error amount in encoded data necessary for decoding an encoded frame by interframe encoding;
Means for calculating the image quality degradation amount of the corresponding decoded frame from the uncorrectable error amount;
Frame holding means for holding a decoded frame of an encoded frame in which the image quality degradation amount is equal to or less than a predetermined value among the encoded frames in the still image sequence;
Means for outputting the held decoded frame in place of the decoded frame of the subsequent encoded data in the still image sequence duration after the reproduction time of the held decoded frame;
When a predetermined encoded frame having a lower image quality degradation amount than the held decoded frame is detected after holding the decoded frame, the held decoded frame is decoded as the newly detected encoded frame. An image reproduction method comprising: a means for updating with a frame.
[0086]
According to the image reproduction method of the above embodiment 18, even when the reproduction state is bad, the reproduction noise due to media damage or the like is not included as much as possible, for example, the B picture frame image with the least coding distortion is retained, Subsequently, by continuously outputting, it is possible to realize image reproduction that does not cause flicker due to encoding distortion when reproducing a still image sequence recorded using the moving image compression method.
[0087]
(Embodiment 19) An implementation characterized in that the process of holding a decoded frame in the frame holding means is performed on a coded frame after a predetermined interframe coding unit has elapsed from the beginning of the still image sequence. The image reproduction system according to aspect 18.
[0088]
(Embodiment 20) The image reproduction system according to embodiment 18, wherein the process of holding the decoded frame in the frame holding means is started in synchronization with the additional information in the still image sequence.
[0089]
(Embodiment 21) The image reproduction system according to embodiment 18, wherein the duration of the still image sequence is detected from still image ID information for identifying a still image recording portion in the recording data.
[0090]
(Embodiment 22) An implementation characterized in that the duration of the still image sequence is detected from a still image recording flag indicating a still image recording portion in recording data and a flag indicating discontinuity of an inter-frame coding unit. The image reproduction system according to aspect 18.
[0091]
(Embodiment 23) An implementation characterized in that the duration of the still image sequence is detected from a still image recording flag indicating a still image recording portion in the recording data and a flag indicating presence / absence of an image change between frames. The image reproduction system according to aspect 18.
[0092]
(Embodiment 24) The image reproduction system according to any one of embodiments 18 to 23, wherein the frame held in the frame holding means is selected from B pictures based on prediction from preceding and following frames.
[0093]
(Embodiment 25) The image reproduction according to any one of Embodiments 18 to 23, wherein the frame held in the frame holding means is selected from P pictures predicted from temporally preceding frames. method.
[0094]
(Embodiment 26) The frame held in the frame holding means is selected according to the amount of image quality degradation due to an uncorrectable error from a B picture predicted from preceding and following frames or a P picture predicted from a temporally preceding frame. 24. The image reproduction method according to any one of embodiments 18 to 23, wherein:
[0095]
(Embodiment 27) An image reproduction system for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
An image reproduction method characterized by holding a decoded frame of a predetermined encoded frame in the still image sequence and outputting it instead of a decoded frame of subsequent encoded data.
[0096]
(Embodiment 28) An image reproduction method for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
A procedure for detecting the duration of the still image sequence;
A procedure for holding a decoded frame of a predetermined encoded frame in the still image sequence;
And a procedure for outputting the held decoded frame in place of the decoded frame of the subsequent encoded data at least during the still image sequence continuation period after the reproduction time of the held decoded frame. Image playback method.
[0097]
(Embodiment 29) An image reproduction method for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
A procedure for detecting the duration of the still image sequence;
A procedure for calculating an uncorrectable error amount in encoded data necessary for decoding an encoded frame by interframe encoding;
A procedure for calculating the image quality degradation amount of the corresponding decoded frame from the uncorrectable error amount;
A procedure for holding a decoded frame of an encoded frame in which the image quality degradation amount is equal to or less than a predetermined value among the encoded frames in the still image sequence;
And a procedure for outputting the held decoded frame in place of the decoded frame of the subsequent encoded data at least during the still image sequence continuation period after the reproduction time of the held decoded frame. Image playback method.
[0098]
(Embodiment 30) An image reproduction method for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
A procedure for detecting the duration of the still image sequence;
A procedure for calculating an uncorrectable error amount in encoded data necessary for decoding an encoded frame by interframe encoding;
A procedure for calculating the image quality degradation amount of the corresponding decoded frame from the uncorrectable error amount;
A procedure for holding a decoded frame of an encoded frame in which the image quality degradation amount is equal to or less than a predetermined value among the encoded frames in the still image sequence;
The still image sequence duration after the reproduction time of the held decoded frame is a procedure for outputting the held decoded frame in place of the decoded frame of the subsequent encoded data,
When a predetermined encoded frame having a lower image quality degradation amount than the held decoded frame is detected after holding the decoded frame, the held decoded frame is decoded as the newly detected encoded frame. An image reproducing method comprising: a step of updating with a conversion frame.
[0099]
(Embodiment 31) An image reproduction method for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
An image reproduction method characterized by holding a decoded frame of a predetermined encoded frame in the still image sequence and outputting it instead of a decoded frame of subsequent encoded data.
[0100]
(Embodiment 32) A computer program for causing a computer to execute a process of reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
Processing for detecting the duration of the still image sequence;
A process of holding a decoded frame of a predetermined encoded frame in the still image sequence;
At least a still picture sequence continuation period after the reproduction time of the held decoded frame is to execute a process of outputting the held decoded frame in place of a decoded frame of the subsequent encoded data. A computer program.
[0101]
(Embodiment 33) A computer program for causing a computer to execute a process of reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
Processing for detecting the duration of the still image sequence;
A process of calculating an uncorrectable error amount in encoded data necessary for decoding an encoded frame by interframe encoding;
A process of calculating the image quality degradation amount of the corresponding decoded frame from the uncorrectable error amount;
A process of holding a decoded frame of an encoded frame in which the image quality degradation amount is equal to or less than a predetermined value among the encoded frames in the still image sequence;
At least a still picture sequence continuation period after the reproduction time of the held decoded frame is to execute a process of outputting the held decoded frame in place of a decoded frame of the subsequent encoded data. A computer program.
[0102]
(Embodiment 34) A computer program for causing a computer to execute a process of reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
Processing for detecting the duration of the still image sequence;
A process of calculating an uncorrectable error amount in encoded data necessary for decoding an encoded frame by interframe encoding;
A process of calculating the image quality degradation amount of the corresponding decoded frame from the uncorrectable error amount;
A process of holding a decoded frame of an encoded frame in which the image quality degradation amount is equal to or less than a predetermined value among the encoded frames in the still image sequence;
The still image sequence continuation period after the reproduction time point of the held decoded frame is a process of outputting the held decoded frame in place of the decoded frame of the subsequent encoded data; and
When a predetermined encoded frame having a lower image quality degradation amount than the held decoded frame is detected after holding the decoded frame, the held decoded frame is decoded as the newly detected encoded frame. A computer program for executing a process of updating with a computerized frame.
[0103]
(Embodiment 35) A computer program for causing a computer to execute a process of reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
A computer program for holding a decoded frame of a predetermined encoded frame in the still image sequence and outputting it instead of a decoded frame of subsequent encoded data.
[0104]
(Embodiment 36) A computer-readable storage medium storing the computer program according to any one of Embodiments 32 to 35.
[0105]
【The invention's effect】
  As described above, according to the present invention, the still image sequenceOf frames that have been compression-encoded by inter-frame encoding at a position where a predetermined number of frames have passed since the beginningSince the decoded frame is held and output in place of the decoded frame of the subsequent encoded data, flicker due to encoding distortion occurs when reproducing a still image sequence recorded using the moving image compression method.Still images with high image qualityReproduction can be realized.
[Brief description of the drawings]
FIG. 1 is a diagram showing a schematic configuration of a digital video playback apparatus according to a first embodiment.
2 is a diagram illustrating a configuration example of a compression decoding circuit 108. FIG.
FIG. 3 is a diagram for explaining an example of reproduction of a still image sequence.
FIG. 4 is a diagram for explaining another example of reproduction of a still image sequence.
FIG. 5 is a diagram for explaining another example of reproduction of a still image sequence.
FIG. 6 is a diagram for explaining an example of still image period detection;
FIG. 7 is a diagram for explaining another example of still image period detection.
FIG. 8 is a diagram illustrating a schematic configuration of a digital video reproduction device according to a second embodiment;
9 is a diagram illustrating a configuration example of a compression decoding circuit 808. FIG.
FIG. 10 is a diagram for explaining a playback frame hold operation when an uncorrectable error is included.
FIG. 11 is a diagram for explaining a difference in error propagation depending on a picture type.
FIG. 12 is a diagram for explaining an example in which holding is performed in consideration of error propagation depending on a picture type;
FIG. 13 is a diagram for describing an example in which a still image held with image quality deterioration due to an error uncorrectable error is updated with an image with few errors as a third embodiment;
[Explanation of symbols]
101, 801 Recording media
102, 802 Playback head
103, 803 reproduction amplifier circuit
104, 804 Modulation decoding circuit
105, 805 Recording format decoding circuit
106,806 Error correction decoding circuit
107, 807 System decoding circuit
108,808 Compression decoding circuit having still image hold function
109, 809 D / A conversion circuit
110, 810 terminals
201,901 terminals
202, 902 Buffer memory circuit
203, 903 Variable length decoding circuit
204, 904 Inverse quantization circuit
205, 905 Inverse DCT circuit
206, 906 Adder circuit
207, 907 Video memory
208, 908 Motion compensation prediction circuit
209, 909 switch
210, 910 terminals
211, 911 Still image period detection circuit
212, 912 Hold control circuit
213, 913 switch
214, 914 frame memory
215, 915 switch
216, 916 terminals
917 terminal
918 Image degradation estimation circuit

Claims (11)

フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方式であって、
上記静止画シーケンスの継続期間を検出する手段と、
上記静止画シーケンスの符号化データを復号する復号手段と、
上記復号手段によって復号された複数の復号化フレームのうち、上記静止画シーケンスの先頭から所定のフレーム数が経過した位置にある上記フレーム間符号化によって圧縮符号化されたフレーム間符号化フレームの復号化フレームを保持するフレーム保持手段と、
少なくとも上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する手段とを備えることを特徴とする画像再生方式。
An image reproduction method for reproducing a still image sequence consisting of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
Means for detecting the duration of the still image sequence;
Decoding means for decoding the encoded data of the still image sequence ;
Decoding of inter-frame encoded frames compression-encoded by the inter-frame encoding at a position where a predetermined number of frames have elapsed from the beginning of the still image sequence among a plurality of decoded frames decoded by the decoding means Frame holding means for holding the frame,
Means for outputting the held decoded frame in place of the decoded frame of the subsequent encoded data at least during the still image sequence continuation period after the reproduction time of the held decoded frame. Image playback method to be used.
上記フレーム保持手段、上記静止画シーケンスの先頭から所定のフレーム数が経過した位置にある、他のフレーム間符号化フレームからの予測によって圧縮符号化された上記フレーム間符号化フレームの復号化フレームを保持することを特徴とする請求項1に記載の画像再生方式。The frame holding means is a decoded frame of the inter-frame encoded frame that is compression-encoded by prediction from another inter-frame encoded frame at a position where a predetermined number of frames have elapsed from the beginning of the still image sequence. image reproduction method according to claim 1, characterized in that to hold the. 上記フレーム保持手段に復号化フレームを保持する処理は、上記静止画シーケンスの符号化データともに再生される、上記復号化フレームを保持可能であることを示す情報にしたがって、上記静止画シーケンスの継続期間の途中から開始されることを特徴とする請求項1又は2に記載の画像再生方式。The process of holding the decoded frame in the frame holding means is the duration of the still picture sequence according to the information indicating that the decoded frame can be held and reproduced together with the encoded data of the still picture sequence. image reproduction method according to claim 1 or 2, characterized in that it is started from the middle. 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を識別する静止画ID情報から検出することを特徴とする請求項1に記載の画像再生方式。  2. The image reproduction system according to claim 1, wherein the duration of the still image sequence is detected from still image ID information for identifying a still image recording portion in the recording data. 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を示す静止画記録フラグと、上記記録データの不連続を示すフラグとから検出することを特徴とする請求項1に記載の画像再生方式。2. The image according to claim 1, wherein the duration of the still image sequence is detected from a still image recording flag indicating a still image recording portion in the recording data and a flag indicating discontinuity of the recording data. Playback method. 上記静止画シーケンスの継続期間は、記録データ中の静止画記録部分を示す静止画記録フラグと、フレーム間の画像変化の有無を示すフラグとから検出することを特徴とする請求項1に記載の画像再生方式。  The duration of the still image sequence is detected from a still image recording flag indicating a still image recording portion in recording data and a flag indicating presence / absence of an image change between frames. Image playback method. 上記保持された復号化フレームは、Pピクチャからの両方向予測となるBピクチャであることを特徴とする請求項1〜6のいずれか1項に記載の画像再生方式。The image reproduction method according to claim 1, wherein the held decoded frame is a B picture that is bidirectionally predicted from a P picture . 上記保持された復号化フレームは、Pピクチャであることを特徴とする請求項1〜6のいずれか1項に記載の画像再生方式。The image reproduction method according to claim 1, wherein the held decoded frame is a P picture . MPEG方式で圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスと、上記静止画シーケンスの付加情報として記録された上記静止画シーケンス及びその継続再生期間を特定するための識別情報とを記録メディアから再生する画像再生方式であって、
上記記録メディアに記録されたデータを再生する再生手段と、
上記再生手段によって再生されたデータから上記識別情報を検出する検出手段と、
上記再生手段によって再生されたデータのうち画像データを復号する復号手段と、
上記検出手段によって検出された識別情報によって特定される静止画シーケンスを再生開始した後、上記静止画シーケンスに対応する画像データを上記復号手段で復号して得た複数の復号化フレームのうち、上記静止画シーケンスの先頭から所定のフレーム数が経過した位置にあるフレーム間符号化によって圧縮符号化されたフレーム間符号化フレームの復号化フレームを保持するフレーム保持手段と、
上記検出手段によって検出された識別情報によって特定される上記静止画シーケンスの継続再生期間中においては、上記フレーム保持手段に復号化フレームが保持されるまでは上記復号手段で復号された復号化フレームを順次出力し、上記フレーム保持手段に復号化フレームが保持された以降は上記保持された復号化フレームを繰り返し出力する出力手段とを備えることを特徴とする画像再生方式。
A still image sequence consisting of a sequence of identical still image frames compression-encoded in the MPEG system, the still image sequence recorded as additional information of the still image sequence, and identification information for specifying the continuous reproduction period An image reproduction method for reproducing from a recording medium,
Reproducing means for reproducing data recorded on the recording medium;
Detecting means for detecting the identification information from the data reproduced by the reproducing means;
Decoding means for decoding image data among the data reproduced by the reproducing means;
After starting reproducing the thus still-image sequence that will be identified in the detected identification information by said detection means, among the plurality of decoded frames of image data corresponding to the still-image sequence obtained by decoding in the decoding means, Frame holding means for holding a decoded frame of an inter-frame encoded frame that has been compression-encoded by inter-frame encoding at a position where a predetermined number of frames have elapsed from the beginning of the still image sequence ;
During continuous playback duration of the still-image sequence specified by the identification information detected by said detecting means, until the decoded frame in the frame holding means Ru is held the decoded frame decoded by the decoding means An image reproduction system comprising: output means for sequentially outputting and outputting the held decoded frame repeatedly after the decoded frame is held in the frame holding means .
フレーム内及びフレーム間符号化によって圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスを再生する画像再生方法であって、
上記静止画シーケンスの継続期間を検出する手順と、
上記静止画シーケンスの符号化データを復号する手順と、
上記復号された複数の復号化フレームのうち、上記静止画シーケンスの先頭から所定のフレーム数が経過した位置にある上記フレーム間符号化によって圧縮符号化されたフレーム間符号化フレームの復号化フレームをフレーム保持手段が保持する手順と、
少なくとも上記保持された復号化フレームの再生時点以降の静止画シーケンス継続期間は、上記保持された復号化フレームを以後の符号化データの復号化フレームに代えて出力する手順とを有することを特徴とする画像再生方法。
An image reproduction method for reproducing a still image sequence composed of a sequence of identical still image frames compression-encoded by intra-frame and inter-frame encoding,
A procedure for detecting the duration of the still image sequence;
A procedure for decoding the encoded data of the still image sequence ;
Of the plurality of decoded frames, a decoded frame of an inter-frame encoded frame that has been compression-encoded by the inter-frame encoding at a position where a predetermined number of frames has elapsed from the beginning of the still image sequence. A procedure that the frame holding means holds;
And a procedure for outputting the held decoded frame in place of the decoded frame of the subsequent encoded data at least during the still image sequence continuation period after the reproduction time of the held decoded frame. Image playback method.
MPEG方式で圧縮符号化された同一静止画フレームの連続からなる静止画シーケンスと、上記静止画シーケンスの付加情報として記録された上記静止画シーケンス及びその継続再生期間を特定するための識別情報とを記録メディアから再生する画像再生方法であって、
上記記録メディアに記録されたデータを再生する再生手順と、
上記再生手順によって再生されたデータから上記識別情報を検出する検出手順と、
上記再生手順によって再生されたデータのうち画像データを復号する復号手順と、
上記検出手順によって検出された識別情報によって特定される静止画シーケンスを再生開始した後、上記静止画シーケンスに対応する画像データを上記復号して得た複数の復号化フレームのうち、上記静止画シーケンスの先頭から所定のフレーム数が経過した位置にあるフレーム間符号化によって圧縮符号化されたフレーム間符号化フレームの復号化フレームをフレーム保持手段が保持する保持手順と、
上記検出手順によって検出された識別情報によって特定される上記静止画シーケンスの継続再生期間中においては、上記フレーム保持手段に復号化フレームが保持されるまでは上記復号手順で復号された復号化フレームを順次出力し、上記フレーム保持手段に復号化フレームが保持された以降は上記保持された復号化フレームを繰り返し出力する出力手順とを有することを特徴とする画像再生方法。
A still image sequence consisting of a sequence of identical still image frames compression-encoded in the MPEG system, the still image sequence recorded as additional information of the still image sequence, and identification information for specifying the continuous reproduction period An image reproduction method for reproducing from a recording medium,
A playback procedure for playing back the data recorded on the recording medium;
A detection procedure for detecting the identification information from the data reproduced by the reproduction procedure;
A decoding procedure for decoding image data among the data reproduced by the reproduction procedure;
After starting reproducing the still picture sequence in the detected identification information thus Ru specified by the detection procedure, among the plurality of decoded frames of image data corresponding to the still-image sequence obtained by the decoding, the still picture A holding procedure in which a frame holding unit holds a decoded frame of an inter-frame encoded frame that has been compression-encoded by inter-frame encoding at a position where a predetermined number of frames has elapsed from the beginning of the sequence ;
During continuous playback duration of the still-image sequence specified by the identification information detected by the detection procedure, until decoded frame in the frame holding means Ru is held the decoded frame decoded by the decoding procedure An image reproducing method comprising: sequentially outputting and outputting the held decoded frame repeatedly after the decoded frame is held in the frame holding means .
JP2003054244A 2003-02-28 2003-02-28 Image reproduction method and method Expired - Fee Related JP4217504B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003054244A JP4217504B2 (en) 2003-02-28 2003-02-28 Image reproduction method and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003054244A JP4217504B2 (en) 2003-02-28 2003-02-28 Image reproduction method and method

Publications (3)

Publication Number Publication Date
JP2004266539A JP2004266539A (en) 2004-09-24
JP2004266539A5 JP2004266539A5 (en) 2005-12-08
JP4217504B2 true JP4217504B2 (en) 2009-02-04

Family

ID=33118643

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003054244A Expired - Fee Related JP4217504B2 (en) 2003-02-28 2003-02-28 Image reproduction method and method

Country Status (1)

Country Link
JP (1) JP4217504B2 (en)

Also Published As

Publication number Publication date
JP2004266539A (en) 2004-09-24

Similar Documents

Publication Publication Date Title
JP4418090B2 (en) Image processing method
JP2969782B2 (en) Encoded data editing method and encoded data editing device
JP3923898B2 (en) Image coding method and apparatus
JPH04358486A (en) High efficiency code signal processing unit
JPH10145798A (en) System for processing digital coding signal
JP2000278692A (en) Compressed data processing method, processor and recording and reproducing system
JPH0698313A (en) Moving picture decoder
JP3147792B2 (en) Video data decoding method and apparatus for high-speed playback
JP4981275B2 (en) Image recording device
JPH0750840A (en) Code recorder
JP3253530B2 (en) Video recording device
JP3897684B2 (en) Image recording method
JP4217504B2 (en) Image reproduction method and method
JP2010050616A (en) Recording device and recording method, reproduction device and reproduction method, program, and recording/reproducing device
JP3964563B2 (en) Video server device
JPH0888854A (en) Moving picture encoding system
JP3657855B2 (en) Image decoding apparatus and image decoding method
JP3897783B2 (en) Image processing apparatus, control method therefor, computer program, and computer-readable storage medium
JP4291185B2 (en) Transcoding method, transcoder and program
JP2004096228A (en) Encoding system converter, encoding system conversion method, its recording medium, and its program
JP3821714B2 (en) Moving picture encoding apparatus and moving picture recording / reproducing apparatus
JP3645249B2 (en) Electronic still camera
JP3648460B2 (en) Compressed image playback method
JP2001211420A (en) Edit method and edit device for compression coded stream in recording disk medium
JP2006101533A (en) Image recording system and method

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051020

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051020

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080318

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080513

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081021

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081110

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111114

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121114

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131114

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees