以下、本発明の実施の形態について、図を用いて説明する。
(実施の形態1)
(720P/480P階層型記録再生方式)
図1を用いて720Pと480Pの2階層の具体的な階層型記録装置に関して説明する。後で図20を用いて、HDTV信号を複数の信号に分離して階層型記録する方法を述べる。
映画の場合、入力された720P信号はまず映画作品のような原信号が毎秒24フレームの映像信号は、3−2プルダウン部746により、60フレーム/秒から24フレーム/秒に余分なフレームを削減した720P(24P)信号703となる。通常の毎秒60フレーム(60P)の映像の場合、3−2プルダウンはバイパスする。なお、60フレーム/秒は60Pと略する。この1280×720ピクセルの720P映像信号703は720P/480Pダウンコンバータ704の中で、まず垂直フィルタ705により、垂直方向のライン数を720×2/3=480に落とされ、次に水平フィルタ706により、1280×9/16=720ピクセルに落とされ、720×480ピクセルの480P映像信号707に変換される。この480Pの低解像度の映像信号は、480PのMPEGエンコーダ708により符号化され、圧縮されたMPEG信号となり、MPEGデコーダ709により再び、480P映像信号710に復元される。この信号は480P/720Pアップコンバータ711の中の垂直フィルタ712と水平フィルタ713により、各々3/2倍、16/9倍に拡大され、720Pの高解像度の映像信号714に変換される。原画である720P映像信号703と、MPEGエンコード/デコードされた720P映像信号714は差分信号処理部720の中の演算回路715において差分演算され、差分情報716が得られる。
この差分情報716は、720Pの第2MPEGエンコーダ717で符号化され、イントラフレーム(iピクチャー)と差分フレーム(P or B)から構成されるGOP単位の映像信号となる。これらは多重化手段719において1GOP〜nGOPのGOP単位の第2インタリーブブロック718aおよび718b等に分離される。一方、基本信号処理部721の480P第1MPEGエンコーダ708で符号化された基本信号のMPEGストリームは、480PのGOP単位のMPEGストリームとなり、多重化手段719において、第1インタリーブブロック722a、722bに分離され、上述の第2インタリーブブロック718a、718bの間に交互に挿入、つまりインターリーブされ、このインターリーブされた信号が記録手段723によりDVD等のディスク724に記録される。この時階層記録の存在、開始位置、終了位置を示す階層記録識別子725や、差分情報が含まれる第2インターリーブブロック718a、718bを従来の再生装置での再生を禁止する特定インターリーブブロック再生禁止情報726も記録する。これらの識別子は、図23に示すように、全体の管理情報224や各VOBに記録される。
図8のようにDVD規格に基づく既存の再生装置で、このディスク724を再生した場合、インターリーブブロック722a、722bを第1アングルとみなして、再生される。再生信号は、、MPEGデータ727により復号され、NTSCもしくは480P(24フレーム)の映像信号が再生される。差分情報の記録された特定インタリーブブロックの再生を禁止するための特定インターリーブブロック再生禁止情報726、例えばアングル切り替え禁止フラグが図23のように記録されているので、ユーザーが誤って再生装置を操作しても、第2アングルつまり第2インターリーブユニットを再生することが防止される。つまり720Pの差分情報は既存のDVD再生装置で再生されることが自動的に防止される。720P差分情報が誤って再生されてしまうと、この信号は既存の再生装置の480i用の第1MPEGデコーダでは正常に再生できないため、誤動作してし
まうが、本発明によりこの種のトラブルが回避される。この場合、DVD規格ディスクでナビ情報と呼ばれる管理情報224に第2インターリーブブロックへの接続情報を意図的にはずしてもよい。
この効果は第2インターリーブブロックに720P信号そのものを記録した場合にも有用である。この場合は、図1の*印の矢印に示すように720P信号を、直接MPEGエンコーダー717へ入力させる。
こうして、本発明のディスク724を既存のDVD再生装置で再生した場合、既存のDVDディスクと同等のNTSC並の画質の映像信号が再生されるとともに、差分信号や720P信号のような既存のDVD等の再生装置で正常に再生できない情報が誤って再生されることが防止される。こうして双方向の互換性が実現する。
720P信号に代えて、第2インターリーブブロックに480P信号そのものを記録してもよい。この場合、従来の再生装置では、第1インターリーブブロックを再生するので、480i(NTSC)を出力し、本発明の再生装置では、第1インターリーブブロックから480i、第2インターリーブブロックから480Pの、いずれか一方、もしくは双方を再生できる。
一方、本発明の再生装置では、第1インタリーブブロック722a、722b、つまりDVD規格でいう第1アングルからは基本信号が再生され、第2インタリーブブロック718a、718b、DVD規格の第2アングルから差分信号や720P信号が再生され、各々480PMPEGデコーダ728により480P映像信号729、720bMPEGデコーダ730により差分信号の720P映像信号731もしくは720P信号が再生される。この画素数の異なる2つの映像信号は合成部732において合成されるか、そのまま出力され、元の720P映像信号733が復号され出力される。
このように本発明の再生装置で本発明の階層記録ディスク724を再生すると、720Pの映像信号が出力される。こうして、従来の再生装置と互換をとりながら、720PのようなHDTV信号を記録することができる。
480Pそのものを第2インターリーブブロックに記録した場合、480P、つまりNTSCの倍密度の信号が再生される。
図3を用いて、図8のさらに具体的な再生装置の動作を説明する。重複するブロックの説明は省略する。
ディスク724には、図1の多重化手段719により、基本信号と差分信号が各々nGOP単位で分割された後、インタリーブされて、交互に記録されている。この信号は図3の再生装置の分離部734により、第1インターリーブブロック722aと第2インターリーブブロック718aに分離される。つまり、基本信号と差分信号に分離され、各々の第1バッファメモリ735と第2バッファメモリ736に蓄えられた後、各々の時間情報が時間情報抽出部793により、抽出され、VTS同期部780が2つの信号が同期するように、第1基準時間情報と第2基準時間情報を第1デコーダ728と第2デコーダ730に設定することにより、2つのデコーダの出力信号の同期をとる。この場合、階層記録識別子725を検知した場合、識別情報処理部745が第1ストリームの復号信号である第1再生信号が、低画素の基本信号であり第2ストリームの復号信号である第2再生信号が高画素信号と基本信号との差分情報であることを認識し、合成部732におけるアップコンバート738の指示や、加算演算の命令を合成部732に与える。
480PのMPEGデコーダ728とMPEGデコーダ730において、各々480P(24)信号と720(24フレーム)信号に復号される。復号された信号は24フレーム/秒もしくは30フレーム/秒であるが、各々2−3変換部737a、737bにより同一フレームを2回出力することにより、60フレーム/秒の480P信号729と差分の720P信号731が得られる。480P信号729は480P/720Pアップコンバーター738により、720P信号739にアップコンバートされて加算部740で、差分情報の720P信号731と加算されて、元の720P映像733が復号される。この加算部740の演算としては、例えば図に示すように、各々のピクセルをa、bとすると(a+b)/2の演算を行うことにより、元の720P映像733が復号される。この合成部732の演算は(a+b)/2以外の演算でもよい。
この場合、MPEG復号信号は2−3変換部737a、737bで60フレームに変換せず、24フレームで処理して合成処理後に2−3変換部741により、24フレームから60フレームに変換することもできる。この場合、映像信号のデータ量は半分に減るので、デジタル処理回路の処理能力を半減できるという効果がある。
図1、図3では映画等の720P信号の24フレーム信号を階層型に記録、再生する方法を述べたが、この方法はメリットが大きい。HDTVの場合、1080i方式と720P方式があるが、図9に示すように映画の1080i(24フレーム)の場合、カーブ742aに示すように2層のDVDの容量は8.5Gbであるので、90分しか記録できない。
これに対して、720P(24フレーム)の場合、カーブ742bに示すように150分記録できる。480P(60フレーム)もカーブ742cに示すように150分記録できる。映画の場合、1枚に120分以上記録できないと意味がないといわれている。本発明の720P(24)/480P階層型記録のディスクは映画のHDTVソフトを1枚のDVDディスクに収納できるという効果がある。
図3では、720Pの基本情報である480Pを第1インターリーブブロックに、720Pと480Pとの差分情報を第2インターリーブブロックに記録したディスクを再生した例を示したが、第2インターリーブブロックに720P信号をそのまま記録してたディスクを再生する場合は、図3の*印の矢印で示すように、第2デコーダ730の出力をそのまま出力すればよい。この判断は識別子に基づき、識別情報処理部743が行う。この場合も、完全互換性の同等の効果が得られる。この方式は、記録効率は落ちるが、記録再生の処理回路が大幅に簡素化されるという効果と完全互換性の効果がある。
ここで図60を用いて、TVモニター798側にデコーダを搭載した場合の実施例を説明する。基本的な動作は図3の場合と同じであるため、違う部分のみを説明する。まず、再生装置743a側では、デコード前の信号を暗号エンコーダー795で暗号鍵799aを用いて暗号化し、通信インターフェース部796aにより、ネットワーク798を介してTVモニター798側の通信インターフェース部796bへ送る。この作業に先立ち、双方の相互認証部794a、794b同士が通信を行い、互いを認証し合う。この作業をハンドシェークといってもよい。お互いの認証が確認され、正規の通信であると判断した場合は、相互認証部794a、794bは各々暗号エンコーダー795、暗号デコーダ797に暗号鍵799a、799bを与えるとともに、通信インターフェース部796a、796bに通信許可を与えるので、暗号データの送受信が行われると共に暗号データの鍵の解除が行われて、第1ストリームと第2ストリームが第1デコーダ728と第2デコーダ730に送られる。この信号の処理は別に送られる識別子744により、識別情報処理部745が判断する。前述のように第1ストリームが480Pで第2ストリームが720P差分信号なら、アップコンバートと合成演算を行い、720P信号をTVモニター798aに出力する。第2ストリームが480Pの差分信号であるとの識別子を受信した場合は、2つのストリームを合成して480P信号を出力する。立体信号の識別子を受信した場合は、第1ストリームを左眼、第2ストリームを右眼として時間的に合成した立体信号を出力し、TVモニター798aに表示する。
この方式により、2つのストリームが暗号認証されている場合でも、TVモニター側で識別子744により、合成等の処理を行うことにより、元の画像が復号されるという効果が、暗号認証のセキュリティ著作権保護効果を損なわれずに得られる。
次に、本発明の再生装置で480P(60フレーム/秒)が記録された、ディスク724aを再生する場合の再生動作を図10を用いて説明する。なお、図3との共通する箇所の説明は省略する。
(和差方式図19)
ここで、図19を用いて和差方式の概念を述べる。映像信号を垂直方向や水平方向の高域と低域に分割し、マルチアングルの各アングルに分割記録するため、マルチアングル映像多重方式(MADM)と呼ぶ。図19に示すように、和演算部141と差演算部143で基本信号(和信号)と補助信号(差信号)に分割して、MPEG符号化し1GOP単位でインタリーブブロックに交互に記録する。この場合、映像では基本信号と補助信号を同期に3−2変換することにより、情報量を20%削減できる。また、基本信号は通常のMPEGエンコード時の主GOP構造244に示すようにIフレーム246とBフレーム248とPフレーム247が交互に並んだ“IBBPBBPBBPBBPBB”を用いると効率がよい。しかし、差信号の場合、輪かくパターンのため、副GOP構造245に示すように“IPPPPPPPIPPPPPPP”のようなIフレーム246とPフレーム247だけの構成が効率がよいことが実験で明らかになった。副GOP構造の設定を違えることにより、効率が向上する。
図19では480P映像信号を垂直方向に2分割した例を、後述する図21では480P映像信号を水平方向に2分割した例を示したが、フレーム分割手段を用いて、60フレームの480P信号の奇数番目のフレームの30フレームとと偶数番目のフレームの30フレームに分割し、それぞれの30P信号を60フィールドの2つのインターレース信号に変換し、それぞれの信号をMPEGエンコードしてMADM方式で記録することもできる。この場合、プログレッシブで符号化されるため、映画と同様符号化効率が向上するため、記録時間が増加する。
この場合、MADM非対応再生装置では、第1チャンネルつまり30Pのつまりコマ落ちした、いびつな、525インターレース信号が再生される。
MADM対応再生装置では、基本信号として30P信号、補助信号として、30P信号が再生される。この2つの30フレームの信号はフレームバッファを含むフレーム合成手段により、60フレームの1つの正規の480P信号に合成され出力される。
また480Pの出力部にラインダブラーを付加すると、1050Pの映像が得られる。
MADMの合成部の、和信号部に525インターレース信号を入力し、差信号に0値を入力すると480Pの映像が得られる。つまり、ラインダブラーとおなじ効果がある。この方法であれば、525インタレース信号も480P出力できるのでプログレッシブ入力端子に1本のケーブルを接続するだけですべての映像が鑑賞出来るという効果がある。
図19ではフィルタ演算式として2タップより1/2(A+B),1/2(A−B)を使っている。この場合、分離周波数は約300本である。
図19のようにして480P信号が和、差演算により、2つの信号に分離され第1インタリーブブロック群と第2インタリーブブロック群の2つのブロック群に記録されたディスク724aを再生し分離部734により、基本信号である480i信号と差分信号である480i信号を分離し、各々MPEGデコーダ728、MPEGデコーダ730によりデコードし480i信号729aと差分の480i信号731aを得て、加算部740により(a+b)/2の演算を行い、2つの480i信号を合成することにより480P(60フレーム)の合成信号733aが出力される。
ディスク724のディスク724の中には480iの場合、480Pの場合、720Pの場合の3つの信号が階層型に記録されているとともに、どの解像度の差分信号が記録されているかを示す。480i/480P/720P識別情報744(図17)がディスク724a上のtoc部等には記録されている。この情報を識別情報処理部743が処理してディスクのどのセクタアドレスに階層型データの主データ(主信号)や副データ(差分信号)が記録されているかを判断し、その開始点等の情報を合成部732に送る。合成部732は480Pの開始点から主データと副データの合成演算を行い、480P(60fPS)信号が出力される。
720Pの開始点では図17のVts=6に示すように720P−主が第1インタリーブブロックで720P−副が第2インタリーブブロックであることが、ディスクに記録されている。この情報を識別情報処理部743が識別し、MPEGデコーダ728、730から主信号、差分信号のタイムスタンプを用いて、720Pの開始タイムスタンプから720P合成の演算、例えば(a+b)/2を演算部740が行い、720P信号を出力する。
また識別情報744(図17)として480P識別子が記録されていた場合は、図10に示すように、識別情報処理部745はMPEGデコーダ730に480i復号命令を送り、480i復号処理を行わせ480iの差分信号731aが復号され、合成部732で合成され、480P(60fPS)の出力が得られる。
こうして、MPEGデコーダ730は識別情報に応じて480i(480P−30fPS)もしくは720Pの処理を切り替えるため、全体で2つのMPEGデコーダで480Pの主信号、差信号と720Pの主信号、差信号の双方の復号が兼用でき、構成が簡単になるという効果がある。
また図10に示す480P再生モードには、合成部732の中の480P/720Pアップコンバータ738使用しないが、復号された480P(60)信号を480P−720Pアップコンバータ738で720P信号にアップコンバートして出力することにより720P対応のHDビデオプロジェクター等に表示できるので、走査線がより見えにくくなるという効果が得られる。この場合、1つの480P−720Pアップコンバータ738を720P合成と720Pアップコンバートの2つに兼用できるので、構成要素を追加せずに480P信号の720Pアップコンバート出力が得られるという効果がある。
(720P/480P/480i型3階層記録装置)
図5を用いて720Pの60フレーム/秒型の3階層型記録装置の構成と動作を説明する。図1と構成と動作はほぼ同じであるため、異なる部分のみ説明する。まず、入力信号は720Pの60フレーム/秒である。従って480Pダウンコンバートした映像信号も480P信号(60フレーム/秒)である。この信号は基本信号処理部721aに入力され、分離部747において、第nラインのピクセルデータをa、第n+1ラインのピクセルデータをbとすると(a+b)/2の演算結果を480i映像信号の748aの第mラインに用い、(a−b)/2の演算結果を480i映像信号748bの第mラインに用いることにより、NTSCの主信号、差信号が得られる。これらの信号をMPEGエンコーダ708a、708bで符号化、さらにMPEGデコーダ709a、709bで480iの復号信号749a、749bを復号し合成部748で480P信号710を復号する。この480P信号を720P信号714にアップコンバートし、差分情報を得て、MPEG符号化し、第3インターリーブブロックデータ718a、718bを得る手順はクレームレートが24fPSから60fPSに変わった点以外は、図1と同じであるため省略する。
一方、480iのMPEGストリームはnGOP単位のインターリーブブロックに多重化手段719aにより分離され、480i−基本信号からなる第1インターリーブブロック722aの次に480i−差分信号からなる第2インターリーブブロック750a、720P差分信号からなる第3インターリーブブロック718aの順番でインターリーブされ、DVD等のディスク724に記録される。
この場合、多重化された信号を8VSBやQAMやOFDM変調部751により変調し、送信部752より送信することにより階層型放送ができる。この場合、多重化手段においてGOP単位ではなく、放送で規定されたタイムドメインで時分割をしてもよい。
こうして480iと480P(60)と720Pの3階層の階層型ディスクもしくは階層型放送が実現する。
図2を用いてこのディスク724aを再生する動作を説明する。図3と同じ構成が含まれているため、重複する部分の説明は省略する。ディスク724aから再生された信号もしくは、受信部753から受信され、復調部754により復調された信号は分離部734により、上述のインターリーブブロック単位で3つのストリームに分離され、バッファ735a、735b、736を介して、3つのMPEGデコーダ728a、728b、730において復号され、480i基本信号749a、480i差分信号749b、720P差分信号731の3つの信号が復調される。このうち480i−基本信号749aと480i差分信号749bは合成部755において、(a+b)と(a−b)の演算を行うことにより、480P(60fPS)映像信号729を得ることができる。この信号と前述の720P差分信号731を合成部732により合成して、720P出力733
aを得るが、合成手順は前に述べたため説明は省略する。
こうして、ディスク724aから480i出力749a、480P出力729、720P出力733aの3種の異なる解像度の出力が得られ、モニター再生装置のグレードによって使用者が出力を選択できる。つまり既存の再生装置では480i(NTSC)グレード、480P対応の本発明の再生装置では480P(60fPS)の出力、720P対応の本発明の再生装置では720P(60fPS)の出力が得られ、完全な互換性が実現する。
図2では、高解像度識別子を識別情報処理部745が検知した場合、システム制御21と回転制御回路35を介して、モーターの回転速度を上げる。識別子に応じて通常の画像の再生では1倍速、480Pや720P(24P)では2倍速、720P(60P)では3〜4倍速に速度を上げることにより、高解像度信号を再生することができ、省電力効果がある。また、NTSCグレードを再生する場合は、システム制御部21は不要な720PMPEGデコーダ730や、480iMPEGデコーダ728bや合成部732のクロックを停止、もしくは低速動作させることにより、電力消費を大幅に削減できる。また、オーディオデータのオーディオタイムスタンプのAPTS84をAV同期制御部158が受け取り、この時間情報を基に各MPEGデコーダのビデオプレゼンテーションタイムスタンプVPTSを作成し、デコーダのレジスタ39a、39b、39cにセットすることにより、各デコーダの再生フレームの同期がとれる。垂直ブランキングの同期をとるためにはデコーダ同期部794が各デコーダの水平、垂直同期を同時にリセットして、各デコーダの画像はドット単位で同期がとれる。音声と映像の具体的な同期方法は後述する。
なお、ディスク724aからは第1ストリームの画像のNTSC等の低解像度を示す第1解像度識別子と、第2、第3ストリームの720P等の高解像度を示す第2解像度識別子が再生され、これらから合成部732のアップコンバーター738で480Pから720P、480Pから1080i、480Pから1080P、720Pから1080P等のどの処理を行うかをシステム制御部21が演算して、合成部732に指示する。実際には704×480や、720×480の様々な第1解像度識別子が存在する。このことにより、最適な比率でアップコンバータが作動するという効果がある。もちろん、単にアップコンバータの比率を示す識別子を記録紙、再生した単純なシステム構成にすることもできる。
また、図2の再生装置743aは、第1ストリームだけなら480i(NTSC)出力、第1ストリーム+第2ストリームなら480P(60P)出力729、第1ストリーム+第2ストリーム+第3ストリームなら720P(60P)出力733a、の3種類の解像度の出力を同時もしくは別時間に出力できるので、様々な解像度のモニターに対応できる。
特に、480P出力729を合成部732のアップコンバーター738を採用して、720P出力に変換できるので、回路を追加することなく480Pの720P変換出力を得ることもできる。
また、この階層型再生装置の同じブロック図で受信部753と、復調部754を追加することによりTV等の階層型信号を受信して、復調して、3つの解像度の映像信号を出力する受信装置を構成することもできる。
(ワイド480P)
図21を用いて水平方向に分割した場合のMADM方式の概念を示す。1440×480P等のワイド480Pが映画用に適している。この信号は3−2変換部174により1440×480iのインターレース信号に変換できる。水平フィルタ部206aで、水平方向に2分割する。このフィルタの原理を図34(a)(b)に示す。(b)のように1440ドットは奇数ドット263a,263bと偶数ドット264a,264bに分けられる。これらをXn,Ynと呼ぶと、X+Yで和信号、X−Yで差信号が演算出力と得られ、図34(b)に示す720×480と720×480の2つの480Pもしくは525i信号が得られる。
図21に戻りこうして得られた水平方向の和信号は、水平720ドットに減っているが、水平フィルタを通っているので、折り返し歪みはNTSC信号並みに抑えられる。従って、従来の再生装置では、和信号だけ再生するため全く同等のDVDの画質が得られる。差信号は輪かくだけの線画であるが図60の第2映像信号出力制限情報付加部179により制限されているため、一般の再生装置では、容易にみられないため問題は防止される。和信号と差信号は第1エンコーダ3aと第2エンコーダ3bでMPEGストリームとなり、1GOP以上のインタリーブブロック単位でインタリーブされてMADM多重される。
映画の場合、3−2変換部174で3−2変換されて、3−2変換情報174aとともに、各々のMPEG信号として、MADM記録される。
この場合映画は1秒に24フレームのため、2倍速再生装置で、2つのインタレース信号から1440×480Pのプログレシブ映像が再生される。また、映画はスコープサイズは2.35対1であり、1440×480Pはアスペスト比の面で適しておりワイド480Pの効果は高い。
図21でワイド480iの階層型ディスク724bの説明をしたが、図4でこのディスクをW−480i再生装置で再生する動作を説明する。ディスク724b 24フレーム/秒で記録されている場合、フィールドフレーム変換部756a、756bにより、W−480P基本信号757aとW480P差分信号757bが復号される。各ピクセルは各々(X+Y)/2、(X−Y)/2のデータがエンコードされているので合成部758において、(X+Y)/2+(X−Y)/2の演算を行うと、Xつまり奇数番目のピクセルデータが復号され、(X+Y)/2−(X−Y)/2の演算によりY、つまり偶数番目のピクセルデータが復号されるので、水平方向のピクセル数は2倍の1440ピクセルとなる。こうして1440×480ピクセルのW480P映像759が得られる。W480P−720P変換部760において、この信号を8/9倍の水平フィルタ760aで1440ピクセルから1280ピクセルの水平方向データ、3/2倍の垂直フィルタ760bで480から720ピクセルに変換することにより、720Pデジタル出力が得られ、一般の720Pデジタルインターフェースを用いることができるという効果がある。
(詳しい再生動作:図25)
次に図25に示す2倍速のプログレシブやスーパーワイド画像や720P再生用の再生装置のブロック図を用いて、本発明の再生装置65での再生動作を詳しく説明する。光ディスク1から再生した信号は、1GOP単位以上のフレーム信号からなる第1インタリーブブロック66、第2インタリーブブロック67単位に、分離部68で分離される。伸長部69でMPEG伸長された、秒30フレームのフレーム映像信号70a、70bはフィールド分離部71a、71bで奇数フィールド信号72a、72bと偶数フィールド信号73a、73bに分離され、2chのNTSCのインターレース信号74a、74bが出力される。図20のワイド画面に関しては後述する。 これを発展させると、図25において、1440×960のプログレシブ画像182aを画像分離部115の水平垂直分離部194で水平垂直方向に例えば、サブバンドフィルタやウェーブレット変換を用いて分離する。すると525プログレシブ映像183が得られる。これを525インターレース信号184分離して、ストリーム188aで記録する。
一方残りの補間情報185を同様にして4つのストリーム188c,188d,188e,188fに分離してインタリーブブロックに記録する。各インタリーブブロックの最大転送レートはDVD規格で8Mbpsであるため、補間情報を4つのストリームに分割した場合、32Mbps、6アングルの場合、48Mbpsを記録するため、720Pや1050PのHDTVの映像を記録できる。この場合、従来の再生装置ではストリーム188aを再生し、インターレース映像184が出力される。また、ストリーム188c,188d,188e,188fには画像処理制限情報発生部179により、出力制限情報が光ディスク187に記録されているので、見づらい画像の差分情報等の補間情報185が誤って出力されることはない。こうして、図25の方式で水平垂直双方向に分離することにより、HDTVとNTSCの互換性のある光ディスクが実現するという効果がある。
図25において、インターレース信号はインターレース変換部175でインターレース信号に変換し出力し、スコープ画面178を得る。480Pプログレシブ信号も同様にスコープ画面178として出力される。また、720Pのモニターで見る場合は、480P信号を480P/720P変換部176において、720Pのプログレシブ信号として変換し、1280×720もしくは、1440×720(画像は1280×480又は1440×480)のレターボックス型の720P画面177が出力される。スコープ画像(2.35:1)は1128×480となるので近いアスペクト比の画像が得られる。特に、映画ソフトの場合、24フレーム/秒なので、プログレシブ画像は4Mbpsのレートになる。スコープ画像を2画面分割の本発明の方式で記録した場合、8Mbpsとなり、DVDの2層ディスクに約2時間記録できるため1枚にスコープ画像の720P、もしくは480Pの高画質のプログレシブ画像が記録できるという効果がある。また、従来TVでも、当然インターレース出力信号で表示される。このように映画のスコープ(2.35:1)画面を480Pもしくは720Pで出力できるという効果が得られる。
(高解像度記録識別情報)
図1に戻るとアドレス情報はアドレス回路より出力され、プログレシブ/立体画像配置情報を含んだ階層記録識別子725は階層記録識別子出力部725aより出力され、記録回路723により、光ディスク上に記録される。このプログレシブ/立体画像配置情報には、プログレシブ又は立体画像が光ディスク上に存在するかどうかを示す識別子又は、階層符号化時にアップコンバートしかを示す階層記録識別子725、図17のプログレシブ/立体画像配置表14が含まれている。図17に示すようにVTS毎のRとLの立体映像やプログレシブ信号が配置されているアングル番号やセル番号がTEXTDTファイル83の中に書かれている。各VTSのPGCファイルには各セルの開始アドレスと終了アドレスが書いてあるので、結果的に開始アドレスと終了アドレスが示されることになる。この配置情報や識別情報をもとに再生装置では、プログレシブ映像や立体映像を正しくプログレシブ出力やR,L出力として出力する。誤って異なるコンテンツの通常映像がRとLに出力されると、使用者の右眼と左眼に関連のない映像のため不快感を与える。プログレシブ/立体映像配置情報もしくはプログレシブ/立体映像識別子、階層記録識別子はこのような不快な映像を出力することを防止するという効果がある。図3に示すように階層記録識別子725を再生した場合は、制御部はアップコンバート命令786を送り480P信号をアップコンバーター738で、720P信号にアップコンバートして720Pの合成処理を行い、階層記録識別子725がないときは、図10のように、アップコンバーター738を使用しないで合成演算をおこない480Pを出力するので、識別子により、接続を切り替えるだけで一つの合成部を用いて安定して画像合成を行うことができる。
図23を用いてこの画像識別子222を用いて再生する手順を示す。光ディスクからは、まず管理情報224から再生手順制御情報225を読み出す。この中にはVOBの制限情報があるため、既存の再生装置では、第0VOB226aからメイン映像が記録された第1VOB226bにしか接続されない。第0VOB226aから差分情報等の補間信号が記録された第2VOB226cに接続されないため、前述のように差分情報のような見苦しい画像が既存の再生装置から再生されることはない。次にメイン信号の各VOBには画像識別子が記録されており、第1VOB226bと第2VOB226cはプログレシブ識別子=1、解像度識別子=00(525本)なので、525本のプログレシブ信号がプログレシブプレーヤHDプレーヤからは再生される。
次のVOB226dの画像識別子222はプログレシブ識別子=0、解像度識別子219=10なので、1050本のインターレース信号であり、VOB226e、VOB226f、VOB226gの3つのVOBが補間情報であることがわかる。こうして従来プレーヤではNTSC、プログレシブプレーヤで、水平画素数720本の1050本のインターレース、HDプレーヤでは1050cのフル規格のHDTV信号が出力される。こうして画像識別子222により、様々な映像信号がインタリーブ記録でき、再生できる。なお、この画像識別子222は管理情報224に記録してもよい。
(倍クロックおよびソフトデコーディング)
また、図3、図4のブロック図では、MPEGデコーダを2ヶ使っているが、図18に示すように、第1MPEG信号と第2MPEG信号を合成部36で一つのMPEG信号とし倍クロック発生部37より、倍クロックを発生させ、倍クロック型のMPEGデコーダ16cで倍の演算し、伸長し、分離部38でRとLの映像信号として出力する回路構成により、構成を簡単にできる。この場合、既存の再生装置に比べて、メモリ39に16MB
SD−RAMを追加するだけでよいためコスト上昇が少ないという効果がある。またソフトデコーディングの時はCPUが倍クロックになれば1CPUで時分割で同時デコード処理できる。この応用は実施の形態2で後述する。
(同期再生)
図18を用いて、高解像度プログレシブ映像うや立体映像の復号に重要な2つのストリームの同期再生について述べる。まず、2つのストリームの垂直,水平の同期を1ライン以内に合わせる必要がある。このため垂直#水平同期制御部85cにより、第1MPEGデコーダ16aと第2MPEGデコーダ16bとを同時期に立ち上げ同期をかける。次に2つのデコード出力が、同じVPTSの画像である必要がある。この方法を図26のフローチャートと図18を用いて説明する。ステップ241aで第1デコーダ、第2デコーダの双方の同期をOFFにする。ステップ241bで前述のように垂直,水平の同期をとる。ステップ241cでオーディオのAPTSを読み込みこのAPTS値を第1デコーダのSTCと第2デコーダのSTCの初期値として設定する。ステップ241eの第1デコーダの処理としては、ステップ241fで第1VPTSが初期値に達するかをチェックし、OKならステップ241gでデコードを開始する。ステップ241hでは第1デコーダの処理遅延時間を演算して、APTSとVPTSが同期するようにデコード出力のVPTSを調整する。第2デコーダも同じ処理をするので、第1デコーダと第2デコーダの画像が同期する。こうして1ライン以内に第1MPEG信号と第2MPEG信号の2つのデコード出力は同期される。後は合成部36の中の映像信号同期部36aによりドット単位で同期し、和演算を行っても元のプログレシブ画像が得られる。図5に示すように、オーディオデコーダ16cでAPTS84を読み込み、2つのMPEGデコーダ16a,16bのSTCのレジスタ39a,39bに同じAPTSを設定することにより、自動的にオーディオと2つの映像ストリームの同期をとることもできる。
本発明の場合、バッファ回路23a,23bのバッファがアンダーフローすると、2つの内どちらかの映像信号が途切れ、乱れたプログレシブ映像が出力されてしまう。そこで図2に示すようにバッファ量制御23cを設けて、2つのバッファの量を制御している。この動作は図27のフローチャートに示すように、まずステップ240aで各ディスクのNAVI情報の中の最大インタリーブ値を読み出し、1つの主インタリーブブロックの最大値1ILBを設定する。通常は512セクタつまり、1MB程度である。規定で1MB以下に制限した場合、その値を設定する。次にステップ240bで主・副インタリーブブロックの同時再生命令がきた場合、ステップ240cで第1バッファ23aのバッファ量が1ILB以下であれば、主インタリーブブロックから再生し、第1バッファ23aへデータを転送させる命令を出す。ステップ240b,240cに戻り、第1バッファ量が1ILBを越えるとステップ240dで転送を停止させる。こうしてバッファ23aは1ILB以上になるので、アンダーフローは防がれる。
バッファ23bではステップ240fで副インタリーブブロックの最大値1ILB−Subを設定する。ステップ240gで同時再生し、ステップ240hで第2バッファ23bが1/2 ILB−Sub以下であればステップ240jでバッファへ読み込み、以上であればステップ240iで停止する。
図24の(4)に示すように第2バッファは1/2 ILBでよいため、バッファ量を半分にできる。図27のバッファ制御により、バッファのアンダーフローがなくなり、再生画面の合成画像が乱れることが低減する。
(トラックバッファの必要容量:図23、31)
最初に本発明の2つのビデオストリームを同期させる方法を述べる。まず、図39に示すように、光ヘッドから再生されたシステムストリームは、トラックバッファ23に一旦蓄積された後に、第1ビデオデコーダ69dと第2ビデオデコーダ69cへ送られる。光ディスクのトラックには、プログレシブ信号の2つのストリームA、つまり第1ストリームと、Bの第2ストリームがインタリーブブロック単位で交互に記録されている。
まず、2倍速回転でストリームAを再生し、トラックバッファ23の中の第1トラックバッファ23aにデータの蓄積を開始する。この状態は図24の(1)に示したように、t=t1〜t2では1インタリーブ時間T1の期間の第1映像信号の1インタリーブブロック分(ILB)I1のデータが蓄積されていく。第1のトラックバッファデータ量は増加しt=t2で1ILBのデータ量まで増加し、第1映像信号の1ILB分のデータの蓄積を完了する。t=t2で、第1映像信号の1GOP分以上の1ILB分の蓄積を完了した後、今度はストリームBの第2映像信号を光ディスクの次のインタリーブブロック I2から再生し、図24(4)の実線で示すようにt=t2で第2トラックバッファ23bに第2映像信号のデータの蓄積を開始し、t=t6まで、第1トラックバッファ23bに蓄積する。同時に、t=t2からt8までは、図24(7)、(10)に示すように第1映像信号と第2映像信号をビデオプレゼンテーションタイムスタンプ、つまりVPTSの時間を同期させてトラックバッファ23a,トラックバッファ23bから第1ビデオデコーダ69c,第2ビデオデコーダ69dに入力させる。この入力信号は図24(8)、(11)に示すようにMPEGの伸長処理時間であるビデオ遅延時間twdだけ遅れた時間のt=t3より、第1ビデオデコーダ69cと第2ビデオデコーダ69dから伸長された2つのビデオデータとして出力される。t=t4よりt10までこのストリームAとストリームBの2つのビデオデータはプログレシブ変換部170によりプログレシブ信号に合成されて1インタリーブブロック分のプログレシブ信号が出力される。
さて、このようにt=t2からt8までは1インタリーブブロック分のデータがデコーダに入力される。従って、ほぼ同一のレートで、第1トラックバッファ23aと第2トラックバッファ23bのデータは消費され減少する。従って図24(2)に示すように、第1トラックバッファのデータ量はt2からt7までは減少し、t=t7では1ILBの1/2まで減少する。t=t7で、インタリーブブロックI5のデータの再生が始まるので、増加分と減少分が相殺され、t=t8まで増加し、t=t8で1ILBに達するが、t=t2の場合と同様にしてt=t8で第1デコーダ69cへの入力が始まるので、t=t11まで減少を続け、最終的に1/2ILB分のバッファメモリ量となる。
次に図24(4)を用いてストリームBのバッファ量である第2トラックバッファ23aのメモリ量の推移を説明する。t=t2でインタリーブブロックI2のストリームBのデータB1が第2トラックバッファ23bに入力され始めるが、同時にB1のデータの第2ビデオデコーダ69dへの転送も始まるので、1/2に相殺され、t=t6におけるバッファ量は1/2の1/2ILB分となる。本発明のプログレシブ信号の2角度のマルチアングル記録する場合は、4つのストリームつまり4つのインタリーブブロックがあるため、t=t6からt7にかけて、インタリーブブロックI3,I4をトラックジャンプして、I5へジャンプする必要がある。このtjのジャンプ時間197の間は、光ディスクからのデータの再生入力は中断するため、ストリームBのバッファ量はt=t8まで減少を続け、t=t8で0近くなる。
t=t8でインタリーブブロックI6のデータB2の再生データが入力されてくるので、再び増加を始め、t=t11で第2トラックバッファのメモリ量は1/2ILB分となる。t=t11でトラックジャンプを行い、インタリーブブロックI7,I8をスキップしてA3のインタリーブブロックI9をアクセスする。
以上の動作を繰り返す。
ここで、本発明の方式の第1トラックバッファ23aと第2トラックバッファ23bを加算したトラックバッファ23に最低必要なメモリ容量を述べる。図24(4)に点線で示すトラックバッファ容量198がトラックバッファ23aとトラックバッファ23bを足したデータ量を示す。このように合計で最低1ILB分の容量をトラックバッファに設定することにより、切れ目無く再生できる。
本発明では本発明のプログレシブ再生時にトラックバッファ23のトラックバッファ23aと23bの合計容量を1インタリーブブロック以上とることにより、トラックバッファのオーバーフローやアンダーフローを防ぐことができる効果がある。
(システムクロック制御方法)
また、図28で2ストリームの場合のシステムクロックSTCの切替法を後述するが、プログレシブ再生の場合、A,B2つのストリームがある。この場合、1ILBのプログレシブ信号を構成する2つのインターレース信号の2つのストリームをA1,B1とすると、まず1番目のA1ストリームのデータは図28(1)に示すように1/2ILB期間に再生され、バッファに全データが蓄積される。次にストリームBのデータは図28(2)に示すように、A1の再生終了後、B1として再生されバッファに蓄積される。この場合、前述の用に図28(2)のストリームBで、光ディスクからの再生データは制御されるので、トラックバッファがオーバーフローすることはない。図28(3)に示すストリームA、もしくはストリームBのトラックバッファからのSCRつまりストリームクロックは、図28(2)に示すストリームBの再生開始点Jに略々同期してカウンタをリセットされる。そして、ストリームBは2倍速で出力されるので、バッファにより、図28(3)に示すような1倍速、つまり1/2の速度でストリームクロックはカウントされる。そしてG点でストリームクロックはリセットされる。ビデオデコーダより、ストリームBのビデオ信号が出力する時刻VPTS2はMPEGデコード時間等の遅延時間Tvdを考慮し同期させる必要がある。この場合、I点つまり、VPTSの増加が途切れた点でt=TiでAV同期制御を再起動する。この場合ストリームBのVPTS2をチェックし、このVPTS2にストリームAのVPTS1を同期させることにより、1系統の簡単な制御で同期が実現する。この場合VPTS1を併用してもよい。
オーディオの同期ストリームBの音声データを再生し、図28(4)に示すように、ストリームBのAPTSを用いてH点でSTCを切り替えればよい。ストリームBのサブ映像信号も図28(4)と同じようにしてSTCを切り替えればよい。
以上のようにして、ストリームBのデータを優先的に用いてAV同期させることにより、簡単な制御でAV同期が実現する。
この場合、ストリームA1、A2は全映像データがバッファメモリに蓄えられているのでオーバーフローすることはない。ストリームB1がオーバーフローする可能性がある。しかし本発明ではストリームBで同期制御を行うことにより、図28(6)に示すようにVPTS2がVPTS2しきい値を超えないようにSTCを切り替え、信号フローを制御しているので、バッファがオーバーフローすることがない。
また、ストリームBの音声を音声再生に用いることにより前述のように、オーディオデコーダのバッファを1/2にできるだけでなく、図28(4)に示すように、t=ThのH点でSTCを切り替えることにより、APTSしきい値を超えることなく、スムーズに音声が再生される。サブ映像情報も同様にスムーズに同期して再生される。従って、映像と音声、字幕等のサブ映像が同期するとともに、画面、音声が途切れることなく、つまりシームレスに再生される。この場合、ストリームAの音声、サブ映像の記録を省略しても、さしつかえない。
(AV同期:図29、30、31、33)
ここで、2つ、または、3つのストリームを同時再生する場合のジャンプ時の接続時等に重要なAV同期について述べる。本発明の場合、720P信号と480iのデータ量の大きく異なるストリームを同期させるため、重要である。
図29はシステム制御部21によるプログラムチェーン群の再生処理の詳細な手順を示すフローチャートである。図29において、ステップ235a、235b、235cで、まずシステム制御部21は、ボリューム情報ファイルまたはビデオファイルのプログラムチェーン情報テーブルから、該当するプログラムチェーン情報を読み出す。ステップ235dで、プログラムチェーンが終了していない場合は、ステップ235eに進む。
次に、ステップ235eプログラムチェーン情報内において次に転送すべきセルのシームレス接続指示情報を参照し、当該セルと直前のセルとの接続がシームレス接続を行うべきか否かを判別し、シームレス接続の必要がある場合は、ステップ235fのシームレス接続処理に進み、シームレス接続の必要がなければ、通じよう接続処理に進む。
ステップ235fでは、機構制御部、信号処理部などを制御してDSIパケットを読み出し、先に転送を行ったセルのDSIパケット内に存在するVOB再生終了時刻(VOB_E_PTM)と、次に転送するセルのDSIパケット内に損ザイルVOB再生開始時刻(VOB_S_PTM)を読み出す。
次にステップ235hでは「VOB再生終了時刻(VOB_E_PTM)−VOB再生開始時刻(VOB_S_PTM)」を算出してこれを当該セルと直前に転送済みのセルとのSTCオフセットとして、図30のAV同期制御部158内のSTCオフセット合成部164に転送する。
同時に、ステップ235iで、VOB再生終了時刻(VOB_E_PTM)を、STC切り替えスイッチ162eの切り替え時刻T4としてSTC切り替えタイミング制御部166に転送する。
次に当該セルの終端位置になるまでデータを読み出すように機構制御部に指示する。これによりステップ235jでトラックバッファ23に当該セルのデータが転送され、転送が終了し次第ステップ235cのプログラムチェーン情報の読み出しに進む。
また、ステップ235eにおいて、シームレス接続でないと判断された場合、トラックバッファ23への転送をシステムストリーム末尾まで行い、ステップ235cのプログラムチェーン情報の読み出しに進む。
次に、本発明におけるシームレス再生を行うためのシームレス接続制御のAV同期制御方法に関する2つの実施例を説明する。これらは図2、図31におけるAV同期制御部158を詳細に説明するものである。
図31のシステムデコーダ161、オーディオデコーダ160、ビデオデコーダ69c, 69d、副映像デコーダ159は全て、図30のAV同期制御部から与えられるシステムタイムクロックに同期して、システムストリーム中のデータの処理を行う。
第1の方法では、図30を用いて、AV同期制御部158の説明を行う。
図30においてAV同期制御部は、STC切替スイッチ162a,162b,162c,162d、STC163、STCオフセット合成部164、STC設定部165、STC切替タイミング制御部166から構成される。
STC切替部162a,162b,162c,162d,162eは各々システムデコーダ161、オーディオデコーダ160、メインビデオデコーダ69c、サブビデオデコーダ69d、副映像デコーダ159に与える基準クロックとしてSTC163の出力値とSTCオフセット合成部164の出力値とを切り替える。
STC163は、通常再生において図31のMPEGデコーダ全体の基準クロックである。
STCオフセット合成部164はSTC163の値から、システム制御から与えられるSTCオフセット値を減算した値を出力し続ける。
STC設定部165は、システム制御部から与えられるSTC初期値又はSTCオフセット合成部164から与えられるSTCオフセット合成値をSTC切替タイミング制御部166から与えられるタイミングでSTC163に設定する。
STC切替タイミング制御部166は、システム制御部から与えられるSTC切替タイミング情報とSTC163及びSTCオフセット合成部164から与えられるSTCオフセット合成値に基づいてSTC切替部スイッチ162a〜162eとSTC設定165を制御する。
STCオフセット値とは、異なるSTC初期値を持つシステムストリーム#1とシステムストリーム#2を接続して連続再生する際に、STC値を変更するたるめに用いるオフセット値である。
具体的には、先に再生するシステムストリーム#1のDSIパケットに記述される「VOB再生終了時刻(VOB_E_PTM)」から、次に再生するシステムストリーム#2のDSIに記述される「VOB再生開始時刻(VOB_S_PTM)」を減算して得る。これらの表示時刻の情報は、図5において光ディスクから読み出されたデータがトラックバッファ23に入力される時点で、システム制御部167が読み出すことで、予め算出しておく。
算出したオフセット値は、システムストリーム#1の最後のパックがシステムデコーダ161に入力されるまでに、STCオフセット合成部164に与えられる。
図5のデータ復号処理部165は、シームレス接続制御を行う場合以外は、MPEGデコーダとして動作する。この時にシステム制御部167から与えられるSTCオフセットは0または任意の値であり、図30におけるSTC切替スイッチ162a〜162eは常にSTC163側が選択される。
次に、システムストリーム#1とシステムストリーム#2というSTC値の連続しない2つのシステムストリームがシステムデコーダ161に連続入力される場合の、システムストリームの接続部におけるSTC切替スイッチ162a〜162eの切替及び、STC163の動作について図33のフローチャートを用いて説明する。
入力されるシステムストリーム#1とシステムストリーム#2のSCR,APTS,VPTS,VDTS説明は省略する。
STC163には予め、再生中のシステムストリーム#1に対応したSTC初期値がSTC設定部165からセットされて、再生動作とともに順次カウントアップ中であるとする。まずシステム制御部21(図31)は、先に述べた方法によりSTCオフセットの値を算出しておき、システムストリーム#1の最後のパックがデコーダバッファに入力されるまでにこの値をSTCオフセット合成部164にセットしておく。STCオフセット合成部164はSTC163の値からSTCオフセット値の減算値を出力し続ける(ステップ168a)。
STC切替タイミング制御部166は、先に再生されるシステムストリーム#1中の最後のパックがデコーダバッファに入力される時刻T1を得、時刻T1においてSTC切替スイッチ162aをSTCオフセット合成部164の出力側に切り替える(ステップ168b)。
以降、システムデコーダ161の参照するSTC値には、STCオフセット合成部164の出力が与えられ、システムストリーム#2のシステムデコーダ161への転送タイミングは、システムストリーム#2のパックヘッダ中に記述されたSCRにより決定される。
次にSTC切替タイミング制御部166は、先に再生されるシステムストリーム#1の最後のオーディオフレームの再生が終了する時刻T2を得、時刻T2においてSTC切替スイッチ162bをSTCオフセット合成部164の出力側に切り替える(ステップ168c)。時刻T2を得る方法については後述する。
以降、オーディオデコーダ160の参照するSTC値には、STCオフセット合成部164の出力が与えられ、システムストリーム#2のオーディオ出力のタイミングは、システムストリーム#2のオーディオパケット中に記述されたAPTSにより決定される。
次にSTC切り替えタイミング制御部166は、先に再生されるシステムストリーム#1のメイン信号とサブ信号の最後のビデオフレームのデコードが終了する時刻T3,T’3を得、時刻T3,T’3においてSTC切替スイッチ162c,162dをSTCオフセット合成部164の出力側に切り替える(ステップ168d)。時刻T3を得る方法については後述する。以降、ビデオデコーダ69c,69dの参照するSTC値には、STCオフセット合成部164の出力が与えられ、システムストリーム#2のビデオデコードのタイミングは、システムストリーム#2のビデオパケット中に記述されたVPTSにより決定される。
次にSTC切り替えタイミング制御部166は、先に再生されるシステムストリーム#1の最後のビデオフレームの再生出力が終了する時刻T4を得、時刻T4においてSTC切替スイッチ162eをSTCオフセット合成部164の出力側に切替える(ステップ168e)。時刻T4を得る方法については後述する。
以降、ビデオ出力切替スイッチ169及び副映像デコーダ159の参照するSTC値には、STCオフセット合成部164の出力が与えられ、システムストリーム#2のビデオ出力及び副映像出力のタイミングは、システムストリーム#2のビデオパケット及び副映像パケット中に記述されたVPTSとSPTSにより決定される。
これらSTC切替スイッチ162a〜162eのスイッチの切替が終了した時点で、STC設定部165は、STCオフセット合成部164から与えられている値をSTC162に設定し(ステップ168f)(これをSTC163のリローディングと呼ぶ)、ステップ162a〜162eの全てのスイッチをSTC163側に切り替える(ステップ168g)。
以降、オーディオデコーダ160、ビデオデコーダ69d, 69c、ビデオ出力切替スイッチ169及び副映像デコーダ159の参照するSTC値には、STC163の出力が与えられ、通常動作に戻る。
ここで、STCの切替タイミングである時刻T1〜T4を得る方法として2つの手段について説明する。
具体的な手段としては、時刻T1〜T4はストリーム作成時に容易に計算し得るため、予め時刻T1〜T4を表す情報をディスクに記述し、システム制御部21がこれを読み出して、STC切替タイミング制御部166に伝える方法である。
特に、T4については、STCオフセットを求める際に使用する、DSIに記録されている「VOB再生終了時刻(VOB_E_PTM)」がそのまま使用できる。
この時に記録する値は、先に再生するシステムストリーム#1で使用するSTCの値を基準として記述し、STC切替タイミング制御部166は、STC163のカウントアップする値が時刻T1〜T4になった瞬間にSTC切り替えスイッチ162a〜162eを切り替える。
(実施の形態2)
実施の形態1では、本発明の複数ストリーム同期再生方式の高解像度映像記録再生への応用例を詳細に述べたが、実施の形態2では、この同期再生方式を応用して、2ストリームをつなぎ目なしで接続する再生制御方式を述べる。MPEG記録信号の場合、GOP単位での編集が一般的で、フレーム単位での編集は困難であった。本発明のMSS方式を用いることにより、実質的なフレーム編集が可能となる。
なお、つなぎ目における映像信号と音声信号のタイミングを合わせることが重要であるが詳細な同期方式の説明に関しては、実施の形態3から9で述べる。
まず、フレーム編集の切り替え時箇所のシームレス再生に応用する場合、図10のように、ズーム指示信号28P等の合成情報を含めた編集データ761を編集データ処理部762で処理し、切替合成部763に送り、切替/合成し、切替合成信号出力部764より出力することにより、2つの映像信号をつまりMPEGのGOPの切れ目以外の任意のポイントでスームレス合成接続できる。
2画面を指示信号に基づいて任意のポイントで同期再生して合成する方式は図22を用いて、後述する。
単純に2つの画像を編集点でフレーム単位に切り替える、単純切替モードの時には、編集ポイントtcにおいて、aストリームとbストリームを切り替えて、シームレスに出力する。またワイプのように2つの画像を1つの画面に合成しながら切り替える合成切替モードの時は開始点tsから終了点teの間、ストリームaとストリームbを合成しながら切り替える。図6と図58に示すようにモード1は左から右へのワイプ、モード2では中心から周囲へ、モード3では上から下へ、モード4ではモザイク状に切り替える。図6は簡素化したブロック図、図58は詳細なブロック図を示す。
この場合、図6の再生手段778、分離部734、VTS同期部780、MPEGデコーダ728、730は図3の480P再生装置の構成と全く同じ構成であるため、共用できる。図6に示すように、識別情報処理部766が再生制御情報766aを検知すれば、上述のように2つの映像ストリームを切替合成部763に送り、接続点tsで第1ストリームから第2ストリームへつなぎ目なしで、切り替える。
また、図58の詳細ブロック図に示すように、実施の形態1で述べたように720P/480Pのような高解像度信号が記録されている階層記録識別子725を検知した場合は、合成部732aにて演算を行い480Pや720Pの高解像度映像信号を出力する。
そして、立体記録識別子766cを検知した場合は、立体信号処理部770で、左眼用映像と右眼用映像を交互にインターリーブした立体映像信号を生成して出力する。
こうして、図58に示すように、2つのMPEGデコーダもしくは2ストリームを同時に復号できるMPEGデコーダを用いたMSS方式では、フレーム編集の再生制御、高解像度信号再生、立体映像信号再生の3つの機能に兼用することができる。
図11に再生制御情報765の具体例を示す。再生制御情報765には切り替えるアドレス順に、切替点S、766、合成モード767第1ストリーム切替開始アドレスts768、第1ストリーム切り替え終了アドレスte2、769、第2ストリームGOP開始アドレスtsG、790、切替開始アドレスts2、771、切替終了アドレスte2、772が記録されている。
具体的に述べると切替点番号S=1の場合、図12の(9)に示すように、画像合成識別子767がない。つまり0のため切り替え開始アドレスts1−1で単純に第1ストリームから第2ストリームへ切替えればよい。S=2の場合、図12の(10)に示すように、ts1で切り替えを開始し、te1まで第1ストリームと第2ストリームの2つの画像を1つの画面上に合成してt=te1で第2ストリームを完全に切り替える。
図13のフローチャートにより、再生制御情報に基づく再生手順を述べる。
図12(1)に示すように、ストリームの書き換え移動を行わず、第1ストリームのGOP781aと第2ストリームのGOP781bは光ディスク上の離れた位置に記録してあってもよい。この場合、書き換え時間を節約できる。図12(3)に示すように、DVD−RAMディスク等では編集して記録できるのでGOP単位でストリームの編集ポイントのフレームが入ったGOP781eとGOP781fを隣接して記録する。この場合、後でGOP内で編集ポイントを変更するのが可能になる。また、2ストリームをワイプのように画像合成する時には編集ポイントの後の第1ストリームの映像が必要であるため、図12(3)の構成が必要である。
S=0つまり2画像の合成を行わない場合は、GOP781cの切替点ts1以降のデータは不要であるため、図12(2)のGOP781cのように削除しては冗長部分はなくなり、記録効率が上がる。ただしIN点であるGOP781dの方は、先頭部にi(イントラ)フレーム、つまり基本フレームが入っているため削除できないため冗長部783が発生する。
図59のステップ792aに示すように、実際のフレームは1GOPに約15フレームある。ステップ792bのようにIN点の前に存在するBフレームを削除するとステップ792cに示すように、Bフレームが削除され冗長部783fがステップ792aの12フレームが、ステップ792cでは冗長部783gの3フレームに減り、冗長部783がこの場合1/4程度になり、記録効率が上がる。
この部分を再生する場合、ステップ792fでBフレーム削除識別子を検知して、Bフレームが記録されてないものとして、フレーム数を演算する。ステップ792gで、I、PフレームのみでMPEG復号はできるので、次々とフレームをデコードし、t=ts2のIN点のフレームを復号し出力する。この場合3フレーム分の処理でよいため、前述のように1/4の時間で、目的のIN点を再生できる。この例の場合冗長部が1/8秒となる。図59より、最悪の場合14フレーム目にts2がある場合であるが、この場合冗長部はI、P、P、P、Bの5フレームとなる。つまり1/3×1/2=1/6秒となる。約0.18秒が最も長い冗長部である。この時間だけはIN点の再生に必要である。カット部が1秒に約5回存在しても0.2秒間隔となる。従って、Bフレームを削除することにより、カット部が1秒に5回ずっと連続しても、本方式でフレーム単位で再生できる。これは通常の編集で問題なく使用できることを意味する。
再生制御情報の生成方法を述べる。OUT点の最後のGOPを第1GOP、IN点の最初のGOPを第2GOPと定義すると、切り替え位置ts2の切り替え位置情報として、第2GOPの先頭時刻と切り替え点の時刻とを記録することにより、簡単に再生制御することができる。別の方法としては、第2GOPの先頭から切り替え点までのフレーム数を記録してもよい。
これらの再生制御情報を再生装置で再生する場合は、図59のステップ792fに示すように、I,B,B,B,P,B,B,B,P,B,B,Bの中、Bフレーム(ピクチャー)を処理せずに、切り替え点のフレームを復号する。つまり、I,P,Pのみを復号する。すると、前述のように1/4の時間で、IN点の画像を復号できる。この場合1秒に5回のフレーム切り替え点が連続した場合でも、冗長時間が0.18秒であるので、追随できるためすべての切り替え点をシームレスに再生できる。
この場合、同期を合わせるためには再生制御情報として、第2GOPの先頭時刻と切り替え点の時刻より、第2GOPから何フレーム(ピクチャー)目に切り替え点があるかを演算する。不要フレームであるBフレームが削除されている場合は、不要フレーム削除識別子をみて、その分補正する。すると、IN点、OUT点より何フレーム早く第2GOPを再生すれば、第1GOPのOUT点と第2GOPのIN点が同期するかがわかる。
再生制御情報として、第2GOPの先頭から何フレーム目に切り替え点があるかが記録されている場合は、Bフレーム等の不要フレームの分を補正すれば、いつ第2GOPを復号開始すれば同期するかがわかる。
また、再生制御情報として、第1GOPの特定位置で第2GOPの復号を開始すれば、第1GOPの切り替え点と第2GOPの切り替え点が一致するような復号開始タイミング情報を、記録することもできる。
この場合、再生制御情報だけで再生装置側では特別な演算なしに、切り替え点同期がとれる。
また、さらに進めるとこの冗長部783には1枚のIフレームと複数のPフレーム、Bフレームが記録されているが、これらを復号し最後の編集ポイントのフレームの1枚前のフレームを作成し、イントラフレームを作成することにより、さらに記録効率を上げられる。またDVD−RAMの場合、全ての再生制御情報765、切替点のみの限定再生制御情報765aを図12(1)、(2)、(3)に示すように記録データの先頭部と編集ポイントの直前の2ヶ所に記録することにより、tocとして全体の編集構成が事前にわかる。また、編集ポイントの前には全体の再生制御情報のうち、各々の個別の編集ポイント、例えばS=1のみの限定再生制御情報765aを記録することにより、特殊再生時の再生制御が安定するという効果がある。
ここで、再生制御の手順を述べる。まずステップ774aで再生制御情報を読み出す。ステップ774bで再生切替点番号Sを0にセットし、ステップ774cでSを1つ増す。第2ストリームのデコード開始位置を特定することが求められるので、ステップ774dで、第1ストリームのシステムクロックもしくはVPTSをtとし、taをデコード開始位置情報とすると、t=taかどうかをチェックする。t=taになった時点で、つまり図12の(5)に示すように、第2ストリームのVPTSがtaに達した時点でステップ774eに進み、図12の(6)に示すように、第2ストリームのGOPのMPEGデコードを開始する。ステップ774fでt=ts1になるかをチェックする。図12(5)、(6)に示すように(ts1−ta)=(ts2−tsG)の値の時間経過後、切替点ts2に達する。上の式と、図12(5)(6)が示すように第1ストリームのts1のデータと第2ストリームts2のデータが同じ時刻にMPEG復号され、デコーダから出力される。この2つのストリームの同期がとれた状態を図12(8)(9)に示す。具体的な同期のとり方は、実施の形態3から9で詳細に説明する。なお、ts1とts2が2つの画像のフレーム編集点であることは、再生制御情報からわかる。ステップ774Gで、画像合成識別子767があるかを確認し、ない場合はステップ774hへ進み、図12の(10)に示すようにt=ts1の位置で切替合成部763(図6)により、第1ストリームから第2ストリームへと切り替える。実際にはt=ts1はOUT点であるため、t=ts1の第1ストリームのフレームは出力しない。t=ts2はIN点であるため、第2ストリームのフレームを出力する。t=ts2の時間には第1ストリームのフレーム情報は不要であるため、S=0の時つまり画像合成しない時は記録を省略することもできる。この場合、1つのPフレーム分だけ記録効率は向上する。こうしてS=1番目の単純切替モードの切替ポイントの再生制御は完了し、ステップ774cに戻り、次のS=2の切替ポイントへと進む。
この場合ステップ774Pにおいてn=0ならn=1へ変換する。つまり第2ストリームを第2MPEGデコーダ730で復号した場合は、第2ストリームをつまり、次に切り替えるべきMPEG信号を第1MPEGデコーダ728で復号する。S=1の場合とMPEGデコーダが異なる。
これは図56に示すように、入力されてくる第2ストリーム781a、781b、781g、781h、781iを分離部734で交互に第1MPEGデコーダ728と第2MPEGデコーダ730に振り分け、復号映像788a、788bを復号し、切替部763で1つのストリームに合成する。図より明らかなように第1MPEGデコーダ728の出力は復号映像788aを出力した後、停止する。画像がフリーズの状態になってしまう。これはデータが不連続の場合、正常に復号できなくなるからである。レジスタ等の再設定790を行いMPEG復号を再開する。第2MPEGデコーダも同様である。従来のように1つのMPEGデコーダを用いて、シームレス接続を行うためには、記録的に様々な複雑な前処理を施す必要があったが、本発明では、記録時に複雑な処理を施してないため、シームレスに接続できないMPEGデータを再生した場合、一方の(第1)MPEGデコーダが停止しても、もう一方の(第2)MPEGデコーダに切り替えて、この間に停止している(第1)MPEGデコーダの再開処理を行うので、2つのMPEGデコーダで永久にシームレス再生出力が行える。従来複雑な処理が必要とされていたMPEGのフレーム編集も、本発明を使うことにより、再生制御により実質的には同じ機能を実現できる。特にMPEGデータを復号して再符号化するプロセスがないため、画像が全く劣化しないという大きな効果が得られる。
手段をまとめると、複数のストリームを分離して、交互に2つのMPEGデコーダで復号し、切替点で一方の第1MPEGデコーダの復号出力からもう一方の第2MPEGデコーダ復号出力に切り替えて出力し、この間に元の第1MPEGデコーダを再設定して、次のストリームを復号再開して次の切替点で第2MPEGデコーダの出力から第1MPEGデコーダの出力に切り替える。
こうして連続的にシームレス接続がフレーム単位で実現する。
(合成切替モード)
さて、図13のステップ774Gに戻り、画像合成識別子767が0以外、つまり2ストリームを図6の合成信号出力部764に示すワイプのように1画面に合成して、切り替える場合の手順を述べる。ステップ774iに進み、図12の(11)に示すように第1ストリームから第2ストリームへ、t=ts1から合成しながら切り替えてゆき、ステップ774jでt=te1もしくはt=te2に達するまで切替を行い、ステップ774kで完了する。同時にt=ts1で第1ストリームのデコードを停止するので無駄なデータのデコードは防止される。この合成のモードは画像合成識別子767が1、2、3、4の場合に応じて、図6の合成画面782a、782b、782c、782dのように右/左切り替え、中央/周囲切り替え、上/下切り替え、モザイク切り替えのようにスイッチングされる。
なお、図12では元のタイムスタンプを変更しない例を示したが、第1ストリームの切替点と第2ストリームの切替点の時間を一致させてDVDーRAM等を用いて記録する場合はタイムスタンプを変更できるので、構成がより単純になる。ts1=ts2として記録する時、書き換えればよい。この場合、第1ストリームはte1まで記録すればよい。第2ストリームはtsGをts1−(ts2−tsG)とつけかえる。この場合ts1より若いタイムスタンプがつけられる。taはtsGと同じになるので、図12(6)で再生する場合は図14に示す再生制御情報765bからtsGつまり、第2ストリームのGOPの先頭アドレス770aを接続してtsGでデコードを開始すればよい。
タイムスタンプをつけかえる方式の場合、図12の(3)のGOP761eとGOP781fのタイムスタンプの順序が変わるとともに重複する。このため再生した場合、再生装置側で誤動作してしまう。本発明では図14に示すように、第2ストリームのGOP開始アドレス770aを、再生制御情報765bに記録しているため事前にこのタイムスタンプの異常箇所がわかるため、早送り再生時にも誤動作しないという副次効果がある。当然このGOP開始アドレス770aを用いて、編集ポイントの第2ストリームへの切り替えがより確実になる。
図12(6)で再生する場合は、図14に示す再生制御情報765bからtsGつまり、第2ストリームの先頭アドレス770aを先読してtsGでデコードを開始すればよい。
もしくは、編集ポイントts1の情報さえあれぱ、編集ポイントのGOPの先頭アドレスtsGを先読みしておいて、t=tsGの時点で第2ストリームのGOP781fのデータをMPEGデコードすれば、第1ストリームと第2ストリームの編集ポイントがts1で自動的に一致するという効果がある。
以上のように、タイムスタンプをつけかえて記録することにより、構成、動作は大幅に簡素化される。
この第2の記録方法の手順について図15、16を用いて説明する。
図6と図16を用いて編集/再生制御情報生成プログラムを説明する。これは図6のように、編集カットのIN、OUT点が含まれる編集情報780が手入力もしくはデータで入力され、再生制御情報生成部789により、再生制御情報765に次々と変換され、一旦メモリー779に蓄積された後、全ての編集作業が完了した後、もしくはディスクが排出される直前にメモリ779からRAMのディスク724に記録手段777により記録される。
この再生制御情報生成部789の中の手順を図16のフローチャートを用いて詳しく説明する。
まず、ステップ785aで編集情報780が順次手入力、もしくはデータとして入力される。Sは編集点の番号、Gは2画面をワイプ等により合成しながらスイッチするモード1〜4を示し、ts0第1ストリームの開始点ts2OUT開始点te1OUT点の合成完了点、ts2は第2ストリームのIN点、te2は第2ストリームのIN点合成完了点、tL2は第2ストリームのOUT点である。
まずステップ785bでS=0に設定し、Sを1増加し(ステップ785c)、ts0、ts1を読み込み(ステップ785d)、ステップ785eでGがあるかをチェックし、ない場合は画像合成する必要がなく、ステップ785fで第1(S)ストリームをts0からts1まで光ディスク724上に記録する。第2(S+1)ストリームのIN点ts2を読み込み(ステップ785g)、ステップ785gでタイムスタンプ変換処理ルーチンに入り、第2ストリームのts2のフレームが含まれる先頭GOPの先頭タイムスタンプtsGと先頭GOPの最後のフレームのタイムスタンプts2を入手する。第2ストリームの全ての記録データのtsGからtL2まで、タイムスタンプを(ts2−ts1)の分だけ減算し、新タイムスタンプを生成する。ステップ785iでこの新タイムスタンプを用いて、第2ストリームの原アドレスtsGからtL2(tf2)まで新タイムスタンプ情報のみを新タイムスタンプに入れ替えた上で、第1ストリームの接続点であるts1のフレームの次のフレーム情報の上に上書きしていく。
この時、ステップ785wで第2ストリームの先頭GOPのアドレスtsGを用いて、ta=ts1−(ts2−tsG)の演算を行い、第2ストリーム先行デコード時間taを求めて、限定再生制御情報765aと再生制御情報765に追加する。ステップ785jでS番号のみの再生制御情報である限定再生制御情報765aを第1(S)ストリームの後半に、図12(2)に示すように記録する。ステップ785jでSが終了ならステップ785mへすすみ、未完了ならステップ785cに戻り、同じステップを繰り返す。ステップ785mではメモリ779に蓄積された全ての編集点の再生制御情報765を図12の(3)に示すように光ディスクのTOC等の管理情報が記録されている領域の再生制御情報記録部に記録して、終了する。
ここで、ステップ785eに大きく戻り、合成識別子Gがある場合は、ステップ785nで第1ストリームのOUT点合成完了点であるte1を読み込み、ステップ785pでtG=te1−ts1の演算を行い、ステップ785qでtG<tGmaxならば、次のステップ785rへ進み、tGがtGmaxより大きい場合は、2ストリーム合成継続時間が長すぎるため、再生装置のバッファの許容量を越えるため、ステップ785vで「te1を小さい値へ変更せよ」とのエラーメッセージを出し、ステップ785wでte1が変更されると、ステップ785nに戻りte1を許容値以下にする。
さて、これで接続点の合成は許容値に収まっているため、ステップ785rに戻り、第1ストリームをtsGからte1まで光ディスク上で記録する。ステップ785sで、第2ストリームのts2を読み込みステップ785tで、前述のステップ785gと同様にして、タイムスタンプ変換処理ルーチンを用いて、タイムスタンプを変換する。ステップ785uで第2ストリームを原アドレスtsGからtf2(tL2)まで、タイムスタンプを新タイムスタンプに置き換えながら、第1ストリームのte1のフレームの次のフレームデータ上に上書きして記録してゆく。そしてtaをメモリに記録し、ステップ785jで限定再生制御情報765aを記録し、Sが完了したかをチェックし(ステップ785k)ステップ785mで光ディスクに全体の再生制御情報765を記録し、全ての作業を完了する。
このようにして、第1ストリームを接続点まで記録し、その接続点の後から第2ストリームの接続点でタイムスタンプが一致するように、接続点より若い時間のタイムスタンプをつけて上書きすることにより、この光ディスクを再生装置で、同期させながら再生することにより、フレーム単位で接続された映像信号が出力されるという効果が得られる。
この場合、MPEGデコーダが2つ必要となるが、図6に示すように記録再生装置の場合、映像入力信号をMPEG信号に符号化するMPEGエンコーダ791を備えている。MPEGエンコーダとMPEGデコーダは同時に使うことはないことと、MPEGエンコーダはMPEGデコーダの2倍以上の処理能力をもつため、1つのMPEG処理部は1つのエンコーダもしくは2つのデコーダ機能をもつ。
従って、本発明をMPEGエンコーダ付きの記録再生装置に適用した場合、元々2デコーダの能力をもつため、構成を追加することなく、本発明のフレーム編集効果が得られる。
CPUを用いてソフトエンコード/デコードする場合は、確実にエンコードのCPU時間は、デコード処理の倍以上必要で、ソフトエンコードできるCPUは、2ストリームのデコードできる。従って、図57に説明するようにソフトで1つのストリームをエンコードし、ソフトで2つのストリームを同時もしくは時分割することにより、CPUの処理能力をあげることなく、本発明の仮想フレーム編集が可能となる。
図57のフローチャートを用いて、CPUを用いてエンコード/デコード、記録/再生の手順を述べる。まず、エンコード記録ステップ792aでは、m=1〜ラストのデータを入力し、ステップ792c、792dで、第m番目の映像信号を入力し、第m映像信号をエンコードして第mストリームを作成し(ステップ792e)、光ディスクへ記録する(ステップ792f)。ステップ792gでmがラストでないなら、ステップ792cに戻り、mがラストなら記録を終了する(792h)。このとき、編集再生制御情報記録ステップ792iでは、フレーム単位の編集を行い、本発明の再生制御情報や、前述した様々な識別子を光ディスクに記録する(図6,図58)。
次に再生する時は、再生制御プログラム792jを起動し、カット点Sを1からラストまで再生する(ステップ774b、774c)。ステップ774m、774eに示すように、フレーム編集されたポイントでは、2つのストリームを同時、もしくは時分割でMPEGデコードし、ステップ774hで、t=tsで片方の復号されたストリームから、もう一方の復号されたストリームへ出力を切り替える。ステップ774rでsがラストになるまで、これを繰り返す。
このCPUは1つのストリームのMPEGエンコードをする処理能力がある。ということは、2〜3のストリームのMPEGデコード処理ができることを意味する。従って、同一のCPUで1つのストリームをMPEGエンコードし、フレーム編集を行い、2つのストリームをMPEGデコードして、フレーム編集点で、シームレスに再生出力することが可能となるという効果が得られる。本発明により、余っているMPEGデコード時のCPUパワーを有効に活用できるという効果がある。
(実施の形態3)
本発明のMADM方式は複数のストリームを同時再生できるものであり、同期方式が重要である。
実施の形態1で述べた480P、720P等の高解像度映像の記録再生や、実施の形態2で述べた仮想フレーム編集の再生制御方式において、基本的なAV同期方式を説明したが、実施の形態3から9まではさらに詳細に様々な同期の方法を述べる。
まず、本発明の実施の形態3では、同時に再生すべき3本の圧縮映像信号が記録された光ディスクからデータを読み出し、3本の映像を同時に伸長再生する再生装置のAV同期方式の動作を説明する。
まず、図37に実施の形態3の光ディスク再生装置で使用する光ディスク上のデータ構造を示す。
3本の映像信号である映像信号A、映像信号B、映像信号CをそれぞれMPEG圧縮し、圧縮映像ストリームA、圧縮映像ストリームB、圧縮映像ストリームCを得る。
各圧縮映像ストリームA〜Cは、それぞれ2KB毎にビデオパケットとしてパケット化される。各パケットのパケットヘッダには格納されているデータが圧縮映像ストリームA〜Cのいずれであるかを識別するためのストリームIDと、パケットにビデオフレームの先頭が格納されている場合には、そのフレームを再生すべき時刻を示す映像再生時刻情報としてのVPTS(Video Presentation Time Stamp)が付加される。実施の形態3では各映像信号としてNTSCの映像を用いており、ビデオフレーム周期は概略33msecである。
光ディスクには、上記のように作成されたビデオパケットを格納データごとに、適当な個数のビデオパケットで圧縮映像信号A−1、圧縮映像信号B−1、圧縮映像信号C−1のようにグループ化され、多重化されて記録されている。
図35は実施の形態3の光ディスク再生装置のブロック構成図である。
図35において、501は上記で説明した光ディスク、502は光ディスク501からデータを読み出す光ピックアップ、503は光ピックアップ502が読み出した信号に対して2値化、復調、エラー訂正などの一連の光ディスクの信号処理を行う信号処理手段、504は信号処理手段503から出力されたデータを一時的に格納するバッファメモリ、505はバッファメモリ504から読み出したデータをそれぞれの圧縮映像信号に分離する分離手段、506は基準時刻信号を生成する基準時刻信号生成手段で、図示しない90KHzのクロックをカウントするカウンタにより構成されている。510、520、530は分離手段505により分離されたそれぞれの圧縮映像信号を一時的に格納するバッファメモリ、511、521、531はそれぞれの圧縮映像信号を伸長再生するビデオデコーダ、512、522、532はそれぞれの映像信号を表示するモニターである。
図36にビデオデコーダ511、521、531の構成を示す。
図36において、601はビデオパケットのパケットヘッダに格納されるVPTSを検出するVPTS検出手段、602は圧縮映像ストリームをMPEG伸長する映像伸長手段、603は基準時刻信号とVPTSを比較して、比較結果が閾値を越えている場合に映像再生をフレーム単位でスキップもしくはリピートする映像再生タイミング制御手段である。
図35に示した光ディスク再生装置の動作について、以下に述べる。
光ピックアップ502は図示しないサーボ手段によりフォーカス制御やトラッキング制御され、光ディスク501から信号を読み出し、信号処理手段503に出力する。信号処理手段503では2値化処理、復調処理、エラー訂正処理など一連の光ディスク信号処理を施し、デジタルデータとしてバッファメモリ504に格納する。
バッファメモリ504は光ディスク501からのデータ読み出し供給が、回転待ちなどによって一時的に途絶えた場合でも後段に対するデータ供給を途絶えさせないように機能する。
バッファメモリ504から読み出されたデータは分離手段505において、圧縮映像信号A〜圧縮映像信号Cに分離されて、それぞれ出力される。分離手段はパケット化されたデータのパケットヘッダのストリームIDにより各パケットに格納される圧縮映像ストリームがA〜Cのいずれであるかを識別し、識別結果に応じて出力先を決定する。
分離された映像圧縮信号はそれぞれバッファメモリ510〜530に格納される。
各バッファメモリ510〜530は、ビデオデコーダ511〜531に対して連続的にデータを供給するように機能する。
ビデオデコーダ511〜531は、それぞれバッファメモリ510〜530からデータを読み出し、圧縮映像信号を伸長し、映像信号としてモニタ512〜532に出力する。
図36を用いて各ビデオデコーダ511〜531の動作について述べる。
バッファメモリから読み出した圧縮映像信号はVPTS検出手段601と映像伸長手段602に入力される。
映像伸長手段602では圧縮映像ストリームに対してMPEG伸長処理を施して、映像信号を出力する。
VPTS検出手段601ではパケットヘッダのVPTSを検出して出力する。
映像再生タイミング制御手段603では映像伸長手段602から出力される映像信号と、基準時刻信号、VPTS検出手段601から出力されるVPTSを入力し、基準時刻信号とVPTSとを比較し、両者の差が閾値を越えた場合にVPTSと基準時刻信号の差が閾値以下となるように映像再生のタイミングを制御する。
実施の形態3では、映像再生の為の閾値として、33msecを用いており、映像再生タイミング制御手段603では、
(基準時刻信号−VPTS) > 33msec :1フレームスキップ
(基準時刻信号−VPTS) < −33msec:1フレームリピートを行うものである。
実施の形態3では基準時刻信号生成手段506や各ビデオデコーダ511〜531で用いている水晶発振器の精度誤差によりビデオデコーダ511とビデオデコーダ531は基準時刻信号に対して伸長再生の進行が遅く、またビデオデコーダ521は基準時刻信号に対して伸長再生の進行が早いため、再生タイミングの補正を行わない場合は、それぞれで再生される映像信号同士の同期がずれることになる。
図38に実施の形態3における映像再生のタイミングチャートを示す。図38の(a)は再生時間tに対する基準時刻信号を示した図であり、同様に(b)はビデオデコーダ511が伸長する圧縮映像信号AのVPTSであるVPTS#Aを、(c)はビデオデコーダ521が伸長する映像圧縮信号BのVPTSであるVPTS#Bを、(d)ビデオデコーダ531が伸長する映像圧縮信号CのVPTSであるVPTS#Cを、それぞれ示している。
ビデオデコーダ511が圧縮映像信号Aの伸長再生動作を続け、基準時刻信号がT1の時点で、VPTS#Aと基準時刻信号の差が閾値である33msecを越えるため、ビデオデコーダ511の映像再生タイミング制御手段が、本来再生すべき1フレームをスキップすることにより、VPTS#Aと基準時刻信号の差が閾値以下となるよう再生タイミングを補正する。
また、ビデオデコーダ521が圧縮映像信号Bの伸長再生動作を続け、基準時刻信号がT2の時点で、VPTS#Bと基準時刻信号の差が閾値である−33msecを越えるため、ビデオデコーダ521の映像再生タイミング制御手段が、その時点で再生しているフレームをリピート再生することにより、VPTS#Bと基準時刻信号の差が閾値以下となるよう再生タイミングを補正する。
同様に、ビデオデコーダ531は圧縮映像信号Cの伸長再生動作を続け、基準時刻信号がT3の時点で、VPTS#Cと基準時刻信号と差が閾値である33msecを越えるため、ビデオデコーダ531の映像再生タイミング制御手段が、本来再生すべき1フレームをスキップすることにより、VPTS#Cと基準時刻信号の差が閾値以下となるよう再生タイミングを補正する。
上記のように、実施の形態3では基準時刻信号と各ビデオデコーダが検出するVPTSの差が閾値を越えた場合に、各ビデオデコーダの映像再生タイミング制御手段の補正機能が動作し、基準時刻信号と各VPTSの差が閾値を越えないよう保たれ、各ビデオデコーダが再生する映像を同期させることが可能となった。
(実施の形態4)
本発明の実施の形態4は、音声を再生すべき時刻を示す音声再生時刻情報を用いて、基準時刻信号を補正し、この基準時刻信号により複数の映像信号の同期を合わせる再生装置に関するものである。
図41に実施の形態4の光ディスク再生装置で使用する光ディスク上のデータ構造を示す。この光ディスクには実施の形態3で使用した光ディスクに比べて、圧縮音声データも含めて記録されている。
音声信号を32msec単位でオーディオフレーム化して圧縮し、圧縮音声ストリームを得て、2KB毎にオーディオパケットとしてパケット化して、光ディスクに記録される。オーディオパケットのパケットヘッダには、格納されているデータが圧縮音声ストリームであることを示すストリームIDと、パケットにオーディオフレームの先頭が格納されている場合には、そのオーディオフレームを再生すべき時刻を示す音声再生時刻情報としてのAPTS(Audio Presentation Time Stamp)が付加される。
図39に実施の形態4の再生装置のブロック構成図を示す。
同図501〜532までは実施の形態3の図35で示した光ディスク再生装置と同様の構成である。
540は圧縮された音声信号を一時的に格納するバッファメモリ、541は圧縮された音声信号を伸長する音声伸長手段、542は伸長された音声信号を再生するスピーカーである。
図40はオーディオデコーダ541の構成を示したもので、701はオーディオパケットのパケットヘッダに格納されるAPTSを検出するAPTS検出手段、702は圧縮音声ストリームを伸長する音声伸長手段である。
図39に示した光ディスク再生装置において、図41の光ディスクを再生する場合の動作について、以下に述べる。
分離手段505に入力されるまでの動作は実施の形態3で示した光ディスク再生装置と同様である。
バッファメモリ504から読み出されたデータは分離手段505において、圧縮映像信号A〜圧縮映像信号C、圧縮音声信号に分離されて、それぞれ出力される。分離手段505はパケット化されたデータのパケットヘッダのストリームIDにより各パケットが圧縮映像信号A〜C、圧縮音声信号のいずれであるかを識別し、識別結果に応じて出力先を決定する。
分離された圧縮映像信号、圧縮音声信号はそれぞれバッファメモリ510〜540に一時的に格納される。
ビデオデコーダ511〜531は、それぞれバッファメモリ510〜530からデータを読み出し、圧縮映像信号を伸長し、映像信号としてモニタ512〜532に出力する。また、オーディオデコーダ541はバッファメモリ540からデータを読み出し圧縮音声信号を伸長し、音声信号としてスピーカ542に出力する。
ビデオデコーダ511〜531が圧縮映像信号を伸長する動作、基準時刻信号とVPTSの差が閾値を越えた場合の同期の補正動作は実施の形態3と同様である。
バッファメモリ540から読み出した圧縮音声信号はオーディオデコーダ541に入力され、APTS検出手段701でAPTSが検出され出力される。音声伸長手段702は圧縮音声ストリームに対して伸長処理を施して音声信号を出力する。
オーディオデコーダ541から出力されたAPTS信号は基準時刻信号生成手段506に入力され、基準時刻信号はこのAPTSにより補正される。
実施の形態4では基準時刻信号生成手段506や各ビデオデコーダ511〜531、オーディオデコーダ541で用いている水晶発振器の精度誤差により、基準時刻信号の進行はオーディオデコーダ541の伸長再生の進行より早く、ビデオデコーダ511は基準時刻信号に対して伸長再生の進行が遅く、またビデオデコーダ521は基準時刻信号に対して伸長再生の進行が早いため、再生タイミングの補正を行わない場合は、それぞれで再生される映像信号同士、および音声との同期がずれることになる。
図42に実施の形態4における映像再生、音声再生のタイミングチャートを示す。図42の(a)は再生時刻tに対するAPTSを示した図であり、同図(b)は基準時刻信号を示した図であり、同様に(c)はビデオデコーダ511が伸長する圧縮映像信号Aを再生すべき時刻VPTS#Aを、(d)はビデオデコーダ512が伸長する圧縮映像信号Bを再生すべき時刻VPTS#Bを示している。
なお、図42ではビデオデコーダ531が伸長する圧縮映像信号CのVPTS#Cに関しては示していないが、その経過は実施の形態3の図38とほぼ同様である。
基準時刻信号生成手段506はAPTSがta1およびta2を示す時刻でAPTSを用いて補正され、それぞれの時刻で基準時刻信号がta1およびta2に再設定される。
ビデオデコーダ511が圧縮映像信号Aの伸長再生動作を続け、基準時刻信号がT4の時点で、VPTS#Aと基準時刻信号の差が閾値である33msecを越えるため、ビデオデコーダ511の映像再生タイミング制御手段が、本来再生すべき1フレームをスキップすることにより、VPTS#Aと基準時刻信号の差が閾値以下となるよう再生タイミングを補正する。
同様に、ビデオデコーダ521が圧縮映像信号Bの伸長再生動作を続け、基準時刻信号がT5およびT6の時点で、VPTS#Bと基準時刻信号の差が閾値である−33msecを越えるため、ビデオデコーダ521の映像再生タイミング制御手段が、それぞれの時点で再生しているフレームをリピート再生することにより、VPTS#Bと基準時刻信号の差が閾値以下となるよう再生タイミングを補正する。
上記のように、実施の形態4では基準時刻信号と各ビデオデコーダが検出するVPTSの差が閾値を越えた場合に、各ビデオデコーダの映像再生タイミング制御手段の補正機能が動作し、基準時刻信号と各VPTSの差が閾値を越えないよう保たれ、各ビデオデコーダが再生する映像信号同士を同期させることが可能となった。
また、基準時刻信号とAPTSの差に関しては、基準時刻信号を用いてAPTSを補正するのではなく、APTSを用いて基準時刻信号を補正することにより、音声の再生に関しては聴覚上の違和感を生じることなく、音声の再生と各映像の再生を同期させることが可能となった。
(実施の形態5)
本発明の実施の形態5は、1つのビデオデコーダが検出するVPTSを用いて、基準時刻信号を補正し、この基準時刻信号により複数の映像信号の同期を合わせる再生装置に関するものである。
図43に実施の形態5の再生装置のブロック構成図を示す。
同図501〜532までは実施の形態3で示した光ディスク再生装置と同様の構成であるが、551は実施の形態5で用いるビデオデコーダである。
ビデオデコーダ551は検出したVPTSを出力する機能を持つもので、図44にビデオデコーダ551の構成を示す。
801は圧縮映像信号に多重化されている映像信号の再生時刻を示すVPTSを検出するVPTS検出手段、802は圧縮映像信号を伸長する映像伸長手段である。
実施の形態5では基準時刻信号生成手段506やビデオデコーダ521、531、551で用いている水晶発振器の精度誤差により、基準時刻信号の進行はビデオデコーダ551の伸長再生の進行より早く、ビデオデコーダ521は基準時刻信号に対して伸長再生の進行が遅く、またビデオデコーダ531は基準時刻信号に対して伸長再生の進行が早いため、同期の補正を行わない場合は、それぞれで再生される映像信号同士の同期がずれることになる。
図45に実施の形態5における映像出力のタイミングチャートを示す。図45の(a)は再生時間tに対するビデオデコーダ551が検出するVPTS#Aを示した図であり、同様に(b)は基準時刻信号を示した図であり、同様に(c)はビデオデコーダ521が伸長する圧縮映像信号Bを再生すべき時刻VPTS#Bを、(d)はビデオデコーダ531が伸長する圧縮映像信号Cを再生すべき時刻VPTS#Cを示している。
基準時刻信号生成手段506はVPTS#Aがtv1およびtv2を示す時刻でVPTS#Aを用いて補正され、それぞれの時刻で基準時刻信号がtv1およびtv2に再設定される。
ビデオデコーダ521が圧縮映像信号Bの伸長再生動作を続け、基準時刻信号がT7の時点で、VPTS#Bと基準時刻信号の差が閾値である33msecを越えるため、ビデオデコーダ521の映像再生タイミング制御手段が、本来再生すべき1フレームをスキップすることにより、VPTS#Bと基準時刻信号との差が閾値以下となるよう再生タイミングを補正する。
同様に、ビデオデコーダ531が圧縮映像信号Cの伸長再生動作を続け、基準時刻信号がT8およびT9の時点で、VPTS#Cと基準時刻信号の差が閾値である−33msecを越えるため、ビデオデコーダ531の映像再生タイミング制御手段が、それぞれの時点で再生しているフレームをリピート再生することにより、VPTS#Cと基準時刻信号の差が閾値以下となるよう再生タイミングを補正する。
上記のように、実施の形態5では基準時刻信号とビデオデコーダ521、531が検出するVPTSの差が閾値を超えた場合に、各ビデオデコーダの映像再生タイミング制御手段の補正機能が動作し、基準時刻信号と各VPTSの差が閾値を越えないよう保たれる。
また、ビデオデコーダ551が検出するVPTS#Aを用いて基準時刻信号を補正することにより、ビデオデコーダ551が再生する映像信号に関してはフレーム単位のスキップやリピート再生に伴う視覚上の違和感を生じることはなく、各映像の再生を同期させることが可能となった。
(実施の形態6)
本発明の実施の形態6は、圧縮映像信号を伸長再生するビデオデコーダを複数備え、かつ各ビデオデコーダが基準時刻信号生成手段を備えており、音声を再生すべき時刻を示すAPTSを用いて、各ビデオデコーダの基準時刻信号を補正することにより同期を合わせる再生装置に関するものである。
実施の形態6では図41のデータ構造で示す光ディスクを用いた。
図46に実施の形態6の光ディスク再生装置のブロック構成図を示す。
501〜542は実施の形態4の図39で示した光ディスク再生装置と同様の構成であり、図39で示した光ディスク再生装置に比較して基準時刻信号発生手段506を独立して備えておらず、各ビデオデコーダ561〜581に備えられている点が異なる。
561は圧縮映像信号Aを伸長再生するビデオデコーダ、571は圧縮映像信号Bを伸長再生するビデオデコーダ、581は圧縮映像信号Cを伸長再生するビデオデコーダである。
実施の形態6で用いたビデオデコーダ561〜581の構成を図47に示す。
901は圧縮映像信号に多重化されている映像信号の再生時刻を示すVPTSを検出するVPTS検出手段、902は圧縮映像信号を伸長する映像伸長手段、903は基準時刻信号とVPTSを比較して、比較結果が閾値を越えている場合に映像再生をフレーム単位でスキップもしくはリピートする映像再生タイミング制御手段、904は基準時刻信号を生成する基準時刻信号生成手段、である。
実施の形態6ではオーディオデコーダ541が検出するAPTSを用いて、ビデオデコーダ561〜581が備える基準時刻信号生成手段904の基準時刻信号を補正する。
同一のAPTSを用いて補正されることにより、補正後はビデオデコーダ561〜581で生成される基準時刻信号は同一の値を示す。
APTSによる補正後以降は、実施の形態4と同様に、各ビデオデコーダの基準時刻信号とVPTSの差が閾値を越えた場合に、各ビデオデコーダの映像再生タイミング制御手段がフレーム単位でのスキップもしくはリピート再生し、差が閾値以下となるよう再生タイミングを補正する。
上記のように、実施の形態6では各ビデオデコーダ内部で生成される基準時刻信号をAPTSで補正するとともに、各ビデオデコーダの映像再生タイミング制御手段により、各基準時刻信号と各VPTSの差が閾値を越えないよう保たれ、各ビデオデコーダが再生する映像信号同士を同期させることが可能となった。
また、実施の形態4と同様に、音声の再生に関しては聴覚上の不具合を生じることなく、音声の再生と各映像の再生を同期させることが可能となった。
なお、実施の形態6ではオーディオデコーダ541が検出するAPTSを用いてビデオデコーダ561〜581の基準時刻信号を補正したが、1つのビデオデコーダに実施の形態5の図44に示したものを用い、そのビデオデコーダが検出するVPTSを用いて他のビデオデコーダの基準時刻信号を補正することにより、同様に各映像の再生を同期させることが可能となる。
(実施の形態7)
本発明の実施の形態7は、2つの圧縮映像信号を同時に再生するもので、2つの圧縮映像信号は立体映像信号を右目用の映像信号と左目用の映像信号とに分離したものをそれぞれ圧縮した信号である。
装置全体の構成は実施の形態6の図46に示した光ディスク再生装置の構成とほぼ同様であるが、同時に再生する映像信号が2つであることから、分離手段505の後段の圧縮映像信号を伸長するビデオデコーダを2つ備える構成である。実施の形態7で用いる一方のビデオデコーダの構成を図48に、他方のビデオデコーダの構成を図49に示す。
図48は一方のビデオデコーダで、1001は圧縮映像信号に多重化されている映像信号の再生時刻を示すVPTSを検出するVPTS検出手段、1002は入力されたMPEG圧縮された映像信号を伸長する映像伸長手段、1004は基準時刻信号を生成する基準時刻信号生成手段、1003は基準時刻信号とVPTSを比較して、比較結果が閾値を越えている場合に映像再生をフレーム単位でスキップもしくはリピートするとともに、再生する映像の水平同期信号、垂直同期信号を出力する映像再生タイミング制御手段である。
図49は他方のビデオデコーダで、1101は圧縮映像信号に多重化されている映像信号の再生時刻を示すVPTSを検出するVPTS検出手段、1102は入力されたMPEG圧縮された映像信号を伸長する映像伸長手段、1104は基準時刻信号を生成する基準時刻信号生成手段、1103は基準時刻信号とVPTSを比較して、比較結果が閾値を越えている場合に映像再生をフレーム単位でスキップもしくはリピートするとともに、映像信号の水平同期信号、垂直同期信号を入力し、この水平/垂直同期信号に同期して、伸長した映像を再生する映像出力タイミング制御手段である。
また、それぞれのビデオデコーダは、図48のビデオデコーダが出力する水平同期信号、垂直同期信号を図49のビデオデコーダの水平同期信号、垂直同期信号の入力となるよう接続して用いている。
このように構成された実施の形態7の光ディスク再生装置では、実施の形態6と同様に、右目用、左目用の各ビデオデコーダ内部で生成される基準時刻信号をAPTSで補正するとともに、各ビデオデコーダの映像再生タイミング制御手段により、各基準時刻信号と各VPTSの差が閾値を越えないよう保たれ、右目用、左目用の映像をフレーム単位で同期させることが可能となった。さらに、一方のビデオデコーダが生成する水平同期信号、垂直同期信号を、他方の水平同期信号、垂直同期信号として用いることにより、2つの映像は画素単位で同期して再生されることが可能となった。
なお、実施の形態7では同時に再生する圧縮映像信号として、立体映像を右目用、左目用に分離した映像信号をそれぞれ圧縮した圧縮映像信号を用いたが、例えば、第1解像度を持つ原映像信号を垂直方向もしく/かつ水平方向に映像信号を分離した第1解像度より低い第2解像度を持つ第1映像信号と第2映像信号を含む少なくとも2つ以上の映像信号に分離し、それぞれを圧縮した圧縮映像信号とすることにより、立体映像の場合と同様に画素単位での同期がとれた複数の映像信号を得ることが可能となり、それらを合成することにより、第1解像度の鮮明な原映像信号を再現することが可能となる。
(実施の形態8)
実施の形態8は1つ圧縮映像信号と2つの圧縮音声信号をそれぞれ伸長し、同時に再生する光ディスク再生装置に関するものである。
図52に実施の形態8で使用する光ディスク上のデータ構造を示す。
2つの音声信号である音声信号D、音声信号Eをそれぞれ圧縮し、圧縮音声ストリームD、圧縮音声ストリームEを、映像信号を圧縮し圧縮映像ストリームを得る。
圧縮映像ストリームD、Eおよび圧縮映像ストリームはそれぞれ2KB毎にオーディオパケット、ビデオパケットとしてパケット化される。各パケットのパケットヘッダには格納されているデータが圧縮音声ストリームD、Eもしくは圧縮映像ストリームのいずれであるかを識別するためのストリームIDと、前述のAPTS、VPTSが記録される。
図50に実施の形態8の光ディスク再生装置の構成を示す。
実施の形態4の図39で示した構成とほぼ同様であり、オーディオデコーダ541は図40に示したもの、ビデオデコーダ531は図36に示したものを用いているが、オーディオデコーダ591は図51に示すものを用いている。
また、590は540と同様に圧縮音声信号を一時的に格納するバッファメモリ、592は音声信号を再生するスピーカである。
図51にオーディオデコーダ591の構成を示す。
1201は圧縮音声信号に多重化されている音声信号の再生時刻を示すAPTSを検出するAPTS検出手段、1202は入力された圧縮音声信号を伸長する音声伸長手段、1203は基準時刻信号とAPTSを比較して、比較結果が閾値を越えている場合に音声再生をオーディオフレーム単位でスキップもしくはポーズする音声再生タイミング制御手段である。
次に実施の形態8における再生動作について説明する。
光ディスク501から読み出した信号が分離手段505に入力されるまでの動作は、他の実施の形態と同様である。
バッファメモリ504から読み出されたデータは分離手段505において、圧縮映像信号、圧縮音声信号D、圧縮音声信号Eに分離されて、それぞれ出力される。分離手段505はパケット化されたデータのパケットヘッダのストリームIDにより各パケットが圧縮映像信号、圧縮音声信号D、Eのいずれであるかを識別し、識別結果に応じて出力先を決定する。
分離された圧縮映像信号はバッファメモリ530に、圧縮音声信号Dはバッファメモリ540に、圧縮音声信号Eはバッファメモリ590に一時的に格納される。
ビデオデコーダは、バッファメモリ530からデータを読み出し、圧縮映像信号を伸長し、映像信号としてモニター532に出力する。また、オーディオデコーダ541、591はそれぞれバッファメモリ540、590からデータを読み出し圧縮音声信号を伸長し、音声信号としてスピーカ542、592に出力する。
基準時刻信号生成手段506が生成する基準時刻信号は、オーディオデコーダ541に検出されるAPTS#Dにより補正される。
オーディオデコーダ591では、APTS検出手段1201でAPTS#Eを検出し、音声伸長手段1202で圧縮音声信号Eを伸長する。音声再生タイミング制御手段1203では音声伸長手段1202から出力される伸長された音声信号と、基準時刻信号、APTS検出手段1201から出力されるAPTS#Eを入力し、基準時刻信号とAPTS#Eとを比較し、両者の差が閾値を越えた場合にAPTS#Eと基準時刻信号の差が閾値以下となるように音声再生のタイミングを制御する。
実施の形態8では、この音声再生の閾値として32msecを用いており、音声再生タイミング制御手段1203では、
(基準時刻信号−APTS#E) > 32msec :1オーディオフレー
ムスキップ、
(基準時刻信号−APTS#E) < −32msec:1オーディオフレー
ムリピート、
を行うものである。
なお、ビデオデコーダ531が圧縮映像信号を伸長する動作、基準時刻信号とVPTSの差が閾値を越えた場合の同期の補正動作は実施の形態3と同様である。
実施の形態8では基準時刻信号生成手段506やビデオデコーダ531、オーディオデコーダ541、591で用いている水晶発振器の精度誤差によりオーディオデコーダ541、591は基準時刻信号に対して伸長再生の進行が遅く、またビデオデコーダ531は基準時刻信号に対して伸長再生の進行が早いため、再生タイミングの補正を行わない場合は、それぞれで再生される映像信号同士の同期がずれることになる。
図53に実施の形態8における映像再生、音声再生のタイミングチャートを示す。図53の(a)は再生時間tに対するAPTS#Dを示した図であり、同図(b)は基準時刻信号を示した図であり、同様に(c)はオーディオデコーダ591が伸長する圧縮音声信号Eを再生すべき時刻APTS#Eを、(d)はビデオデコーダ531が伸長する映像信号を再生すべき時刻VPTSを示している。基準時刻信号生成手段506はAPTS#Dがta3およびta4を示す時刻でAPTS#Dを用いて補正され、それぞれの時刻で基準時刻信号がta3およびta4に再設定される。
オーディオデコーダ591が圧縮音声信号Eの伸長動作を続け、基準時刻信号がT10の時点で、APTS#Eと基準時刻信号の差が音声再生の閾値である32msecを越えるため、オーディオデコーダ591の音声再生タイミング制御手段1203が、本来再生すべき1オーディオフレームをスキップすることにより、APTS#Eと基準時刻信号の差が閾値以下となるよう再生タイミングを補正する。
また、基準時刻信号がT11およびT12の時点で、VPTSと基準時刻信号の差が映像再生の閾値である−33msecを越えるため、ビデオデコーダ531の映像再生タイミング制御手段が、それぞれの時点で再生しているフレームをリピート再生することにより、VPTSと基準時刻信号の差が閾値以下となるよう再生タイミングを補正する。
上記のように、実施の形態8では基準時刻信号とオーディオデコーダ591が検出するAPTS#Eの差が音声再生の閾値を超えた場合に、音声再生タイミング制御手段の補正機能が動作し、基準時刻信号とAPTS#Eの差が音声再生の閾値を超えないように保たれる。また、同様に基準時刻信号とVPTSの差が映像再生の閾値を超えないように保たれる。さらに、APTS#Dを用いて基準時刻信号を補正することから、各音声の再生と映像の再生を同期させることが可能となった。
(実施の形態9)
実施の形態9は音声再生タイミング制御として、伸長再生動作を行うためのクロックを変化させるものを用いた。
実施の形態9では実施の形態8と比較して装置構成、全体の動作は同じであるが、基準時刻信号とAPTS#Eの差が音声再生の閾値を超えた場合に行う、音声再生タイミング制御の動作が異なるものである。図54および図55を用いて実施の形態9で用いた音声再生タイミング制御について説明する。
図54はAPTS#Eと基準時刻信号の差が音声再生の閾値である32msecを越えた場合の動作を示したものであり、同図(a)は再生時間tに対する基準時刻信号を示した図であり、同図(b)はAPTS#Eを、(c)はオーディオデコーダ591が伸長再生動作を行うクロック周波数を示したものである。通常の伸長再生動作は、音声信号のサンプリング周波数fsに対する384倍のクロックf0により行われる。基準時刻信号がT11の時点でAPTS#Eと基準時刻信号の差が音声再生の閾値である32msecを越えるため、音声再生タイミング制御手段が伸長再生動作のクロックをf1に切り替える。f1はf0の周波数より10%高い周波数のクロックである。f1で伸長再生動作を行う場合、f0で伸長再生動作を行う場合に比べて10%高速に伸長再生動作が進行する。また、f1で伸長再生動作を行う時間は、APTS#Eと基準時刻信号の差が音声再生の閾値である32msecを越えるた時点から320msecの区間とした。この動作により、APTS#Eと基準時刻信号の差が音声再生の閾値以下となるよう再生タイミングが補正される。
図55はAPTS#Eと基準時刻信号の差が音声再生の閾値である−32msecを越えた場合の動作を示したものであり、同図(a)は再生時間tに対する基準時刻信号を示した図であり、同図(b)はAPTS#Eを、(c)はオーディオデコーダ591が伸長再生動作を行うクロック周波数を示したものである。
基準時刻信号がT12の時点でAPTS#Eと基準時刻信号の差が音声再生の閾値である−32msecを越えるため、音声再生タイミング制御手段が伸長再生動作のクロックをf2に切り替える。f2はf0の周波数より10%低い周波数のクロックである。f2で伸長再生動作を行う場合、f0で伸長再生動作を行う場合に比べて10%低速に伸長再生動作が進行する。また、f2で伸長再生動作を行う時間は、APTS#Eと基準時刻信号の差が音声再生の閾値である−32msecを越えるた時点から320msecの区間とした。この動作により、APTS#Eと基準時刻信号の差が音声再生の閾値以下となるよう再生タイミングが補正される。
上記のように、実施の形態9ではAPTS#Eと基準時刻信号の差が音声再生の閾値を超えた場合に、伸長再生動作を行うクロックを変化させ、通常より高速あるいは低速に伸長再生動作を行うことにより、基準時刻信号とAPTS#Eの差が音声再生の閾値以下となるよう制御するものであり、聴覚上の違和感を生じることなく、各音声の再生と映像の再生を同期させることが可能となった。
なお、実施の形態9では伸長再生動作のクロックを通常に比べて10%ずつ変化させたが、変化幅をより小さく、あるいは段階的に変化させることにより聴覚上より自然にタイミングを制御することが可能であることは明らかである。
実施の形態8および8ではAPTS#Dを用いて基準時刻信号を補正したが、ビデオデコーダに図44に示したものを用いて、このビデオデコーダから出力されるVPTSを用いて基準時刻信号の補正を行ってもよい。
以上、本発明の実施の形態について説明した。
なお、基準時刻信号とVPTSやAPTSとの比較や再生時刻の制御、さらに基準時刻信号をVPTSやAPTSを用いての補正を、例えば再生装置全体を制御するマイクロコンピュータによりそれぞれの機能を実現させても良い。
また、各実施の形態では光ディスク再生装置の例で説明したが、ネットワークやデジタル放送などにより圧縮信号が供給され、それらを伸長再生するセットトップボックスと呼ばれる再生装置に本発明の仮想フレーム編集方式を適用することにより、番組の切り替え時の不連続映像をシームレスに接続することが可能となり効果は高い。