JPH11112573A - データ多重化装置およびデータ多重化方法、データ処理装置装置およびデータ処理方法、並びに伝送媒体 - Google Patents

データ多重化装置およびデータ多重化方法、データ処理装置装置およびデータ処理方法、並びに伝送媒体

Info

Publication number
JPH11112573A
JPH11112573A JP28799797A JP28799797A JPH11112573A JP H11112573 A JPH11112573 A JP H11112573A JP 28799797 A JP28799797 A JP 28799797A JP 28799797 A JP28799797 A JP 28799797A JP H11112573 A JPH11112573 A JP H11112573A
Authority
JP
Japan
Prior art keywords
data
replacement
size
multiplexing
packet
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP28799797A
Other languages
English (en)
Other versions
JP3622451B2 (ja
Inventor
Shinji Negishi
愼治 根岸
Katsumi Tawara
勝己 田原
Kanta Yasuda
幹太 安田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP28799797A priority Critical patent/JP3622451B2/ja
Publication of JPH11112573A publication Critical patent/JPH11112573A/ja
Application granted granted Critical
Publication of JP3622451B2 publication Critical patent/JP3622451B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Time-Division Multiplex Systems (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Studio Circuits (AREA)

Abstract

(57)【要約】 【課題】 多重化ストリームの中の差し替え対象エレメ
ンタリストリームを他の差し替え用エレメンタリストリ
ームに差し替える場合において、本編多重化ストリーム
を分離と再多重化を行わないようにする。 【解決手段】 多重化器101は、差し替え対象エレメ
ンタリストリームに規定されているアクセスユニットの
情報に基づいて、デコーダバッファに所定のマージンを
設けるように多重化し、本編トランスポートストリーム
を出力する。PESパケットヘッダ書換器102は、差
し替え用エレメンタリストリームのアクセスユニット情
報に基づいて、差し替え対象エレメンタリストリームの
PESパケットヘッダを書き換え、PESパケットのサ
イズが差し替え用エレメンタリストリームのPESパケ
ットのサイズと等しくなるようにする。その後、差し替
えスイッチ103によって、差し替え対象エレメンタリ
ストリームが差し替え用エレメンタリストリームに差し
替られる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、データ差し替え装
置およびデータ差し替え方法、並びに伝送媒体に関し、
特に、例えば、デジタルテレビジョン放送において、エ
レメンタリストリームの構成要素を調整することによ
り、エレメンタリストリームを分解したり再多重化する
ことなく、本編多重化ストリームの一部のエレメンタリ
ストリームを他のエレメンタリストリームに差し替える
ことができるようにしたデータ差し替え装置およびデー
タ差し替え方法、並びに伝送媒体に関する。
【0002】
【従来の技術】画像信号や音響信号の差し替えは、放送
やスタジオにおける編集作業の際によく用いられる技術
である。例えば、本局から送出されてきた本編のコマー
シャルを、支局(地方局)において、その地域に属する
地域企業のコマーシャルに差し替えたり、全国ニュース
を地域ニュースに置き換える場合、画像信号や音響信号
の差し替えが必要になる。
【0003】図13は、アナログベースバンド信号を利
用した従来のデータ処理装置の構成例を示している。サ
ーバ501は、差し替えるデータを格納しており、選択
スイッチ502により選択された場合、格納しているデ
ータをスイッチ503に供給する。選択スイッチ502
は、差し替えるデータが録画または録音されているもの
ではない、いわゆるライブからのデータの場合、そのラ
イブ情報を選択し、スイッチ503に供給する。スイッ
チ503は、本編の中の差し替えられるデータと、サー
バ501またはライブ情報から供給される差し替えるデ
ータを同期信号に同期して差し替える。
【0004】例えば、地方局において、本編の全国ニュ
ースを地域ニュースに差し替えたい場合、図13の本編
が、本局から送出されてきた番組に、全国ニュースが差
し替えられるデータに、そして地域ニュースが差し替え
るデータに、それぞれ相当する。地域ニュースは録画さ
れている場合はサーバ501から、生放送の場合はライ
ブ情報として、スイッチ502に直接供給され、差し替
えが実行される。
【0005】上記は、アナログベースバンド信号を利用
した例であるが、近年、画像信号や音響信号は、デジタ
ル信号として扱われることが多くなり、そのためデジタ
ル信号に対応する差し替え装置も多く利用されてきてい
る。
【0006】デジタル信号化された画像信号や音響信号
は、所定の規則に準拠して符号化され、多重化されてい
る。符号化方式の代表的な例として、MPEG(Moving
Picture Experts Group)方式があげられる。これは、I
SO/IEC JTC1/SC29(International Organization for S
tandardization/International Electrotechnical Comm
ission, Joint Technical Commitee 1/Sub-Commitee 2
9:国際標準機構/国際電気標準会議 合同技術委員会
1/専門部会29)によって標準化されている技術であ
る。
【0007】現在、MPEG方式には、2つのシステム
が存在し、ISO11172において標準化され、比較的狭い範
囲のアプリケーションに対応するMPEG1と、ISO138
18において標準化されている広い範囲のアプリケーショ
ンに対応するMPEG2とがある。また、それぞれのシ
ステムにおいて、システム多重化の項目がISO11172-1お
よびISO13818-1により、映像符号化の項目がISO11172-2
およびISO13818-2により、そして音声符号化の項目がIS
O11172-3およびISO13818-3により、それぞれ標準化され
ている。
【0008】図14は、ISO/IEC13818-1に規定されてい
るトランスポートストリーム(いわゆるMPEG2シス
テム規格)に基づくISO11172-3に規定されているオーデ
イオエレメンタリストリームの多重化の構造を示す。オ
ーデイオエレメンタリストリームとは、符号化されたオ
ーデイオビットストリームのことで、アクセスユニット
と呼ばれるデコード単位によって構成されている。
【0009】このエレメンタリストリームはパケット化
され、PESパケット(MPEG2システムで用いられ
るパケットの名称)と呼ばれる適当な長さのストリーム
に分割される。また、PESパケットのヘッダには、ビ
デオかオーデイオかの属性を識別する情報や、PESパ
ケット中で最初に開始するアクセスユニットの時刻情報
などが含まれている。
【0010】トランスポートストリームは、複数の固定
長のトランスポートパケットにより構成され、オーデイ
オPESパケットは、所定のトランスポートパケットに
配置される。各トランスポートパケットには、制御情報
やビデオエレメンタリストリームのPESパケットなど
も配置される。また、トランスポートパケットには、ア
クセスユニットのデコード時刻、表示時刻、およびデコ
ーダバッファへの入力タイミングを表すクロックリファ
レンスなども多重化されている。
【0011】つまり、受信側におけるデコーダの標準的
なモデルが想定され、このデコーダモデルにおいて、正
しくデコード処理できるように、各種の情報が時分割多
重化されている。
【0012】図15に、例えば、ISO13818-1(MPEG
2システム)およびISO11172-1(MPEG1システム)
で規定されているデコーダモデルの構成例を示す。
【0013】このデコーダモデルは、オーデイオ部分の
みを示している。スイッチ601はトランスポートスト
リームに含まれるトランスポートパケットを、その種類
に応じで選択する。スイッチ601によって選択された
オーデイオのトランスポートパケットは、512バイト
固定のトランスポートバッファ602に供給される。ト
ランスポートバッファ602にデータが存在する限り、
デコーダバッファ603は一定のレートでデータを引き
抜き、その引き抜いたデータのうちPESパケットデー
タ部分(ペイロード部分)だけをデコーダ604に供給
する。つまり、デコーダバッファ603内のデータは、
デコードの単位であるアクセスユニットのデコード時刻
に基づいて、アクセスユニットのサイズ(バイト数)
分、瞬時にデコーダバッファ603からデコーダ604
に出力される。
【0014】次に、上記に説明されたような多重化デジ
タル信号に対応する従来の差し替え装置の構成例を図1
6に示す。
【0015】本編多重化ストリームが分離器701に供
給されるようになされており、そこでは、本編多重化ス
トリームの中の制御情報を参照しながら、本編多重化ス
トリームを、ビデオデータ、オーデイオデータ、その他
のデータのエレメンタリストリームに分離する。このよ
うに本編多重化ストリームをエレメンタリストリームご
とに分離することにより、差し替えられるエレメンタリ
ストリーム、いわゆる差し替え対象エレメンタリストリ
ームを取り出すことができる。
【0016】一方、エレメンタリストリームサーバ70
2は、差し替え対象エレメンタリストリームに代わって
本編多重化ストリームに差し替えられるエレメンタリス
トリーム、いわゆる差し替え用エレメンタリストリーム
をスイッチ703に供給する。
【0017】スイッチ703は、システムコントローラ
704の指示に基づいて、差し替え対象エレメンタリス
トリームを差し替え用エレメンタリストリームに差し換
え、多重化器705に供給する。多重化器705は、差
し替え用エレメンタリストリームと、差し替え対象エレ
メンタリストリーム以外の本編多重化ストリームのエレ
メンタリストリームを多重化し、多重化ストリームを出
力する。
【0018】
【発明が解決しようとする課題】しかしながら、このよ
うな従来の差し替え装置では、入力された本編多重化ス
トリームを分離し、差し替え後、再び多重化を行わなけ
ればならない。そのため、差し替え装置に分離と多重化
の機能が必要となり、装置の構成が煩雑になる。また放
送のような実時間性の高いアプリケーションでは、分離
と再多重化による遅延が問題となったり、スタジオにお
ける編集では、編集を繰り返すたびに分離と再多重化が
必要になり、手間がかかってしまう。
【0019】本編多重化ストリームの中の差し替え対象
エレメンタリストリームを他の差し替え用エレメンタリ
ストリームに差し替えることができれば、分離と再多重
化を行う必要がなくなる。しかしながら、そのために
は、それぞれの差し替えられるデータのサイズ、つま
り、バイト数が等しくなければならない。またさらに、
差し替え後のデータの構造が準拠する多重化方式の規則
に反しないように、パケットのサイズおよびアクセスユ
ニットが等しくなけらばならない。
【0020】ISO11172-3に規定されるオーデイオエレメ
ンタリストリームにおいて、アクセスユニットのサイズ
が一定でない場合の一例を図17に示す。
【0021】ISO11172-3では、オーデイオエレメンタリ
ストリームのアクセスユニットは、フレームと呼ばれ
る。フレームのサイズは次式によって定義される。
【0022】フレームのサイズ(バイト)=(ビットレ
ート)×(サンプル数)/(サンプリング周波数)/8
【0023】サンプリング周波数の値によって、計算上
フレームサイズに端数が生じてしまう場合がある。フレ
ームのサイズは、バイト単位で整数値であるため、この
ような場合、端数を切り上げた数値をサイズとするフレ
ームと、端数を切りすてた数値をサイズとするフレーム
が存在する。例えば、サンプリング周波数=44.1(KH
z)、ビットレート=224(kbps)、およびサンプル数=
1124(sample/frame)の場合、上記の式によると、計
算結果は、713.65バイトとなり、端数が生じてし
まう。この場合、714バイトまたは713バイトの大
きさを持つフレームが存在することになる。
【0024】多重化する際、フレームのサイズ情報は、
フレームのヘッダに書き込まれる。図17に示すよう
に、フレームのヘッダにあるpadding-bitにそのフレー
ムのサイズ情報を書き込むことができる。たとえば、7
14バイトのサイズを持つフレームのpadding-bitは
1、713バイトのサイズを持つフレームのpadding-bi
tには0が書き込まれる。
【0025】上述のように、アクセスユニットのサイズ
が1つでない場合があり、そのため、差し替え対象エレ
メンタリストリームと差し替え用エレメンタリストリー
ムのアクセスユニットが異なる場合がある。またパケッ
トのサイズにおいても、パケットがアクセスユニットで
構成されているために、そのサイズが異なる場合も生じ
ることがある。
【0026】次に、差し替えられるデータのサイズは等
しいが、パケットのサイズが異なるエレメンタリストリ
ームを差し替える場合に発生する問題点を説明する。
【0027】トランスポートストリームによって多重化
されるISO11172-3に規定されているオーデイオエレメン
タリストリームの2つのPESパケットを差し替える場
合の例を図18に示す。図18(A)は、差し替え対象
と差し替え用のエレメンタリストリームの2つのPES
パケットを示す。差し替え対象エレメンタリストリーム
のn番目のPESパケットP(n)のパケットのサイズは
Xバイトで、n+1番目のPESパケットP(n+1)のサ
イズは(X+1)バイト(Xプラス1の意味である)で
ある。2つのPESパケットのサイズの和は、(2X+
1)バイトとなる。
【0028】差し替え用エレメンタリストリームの2つ
のPESパケットのサイズの和を計算すると同様に(2
X+1)となり、差し替えられるデータのサイズが等し
いことがわかる。しかしながら、PESパケットごとに
サイズを比較すると、差し替え対象エレメンタリストリ
ームのPESパケットP(n)のサイズが、差し替え用エ
レメンタリストリームのPESパケットP'(n)のサイズ
より1バイト小さい。
【0029】この2つのPESパケットの差し替えを実
行した場合、図18(B)に示すように、差し替え前の
本編多重化ストリームにおいてPESパケットP(n+1)
の先頭データbが多重化されていた場所に、差し替え後
の多重化ストリームでは、PESパケットP'(n)の最後
のデータcが多重化さる。ところで、ISO/IEC13818-1に
規定されているトランスポートストリームに基づく多重
化ストリームでは、PESパケットの先頭バイトがトラ
ンスポートストリームのペイロード(ユーザ情報、つま
り、この場合トランスポートパケットヘッダの直後から
のデータ)の先頭に位置しなければならない規定があ
り、この場合、この規則に反する。
【0030】このような場合、図18(C)に示すよう
に、トランスポートヘッダにスタッフィング(ダミーバ
イトを付加してパケットの大きさを調整する領域)にダ
ミーバイト付加して、PESパケットP'(n+1)の先頭デ
ータdがトランスポートストリームのペイロードの先頭
で開始するようにアライメントしなけらばならない。し
かしながら、ダミーバイトを付加してしまうと、差し替
えるデータのサイズが大きくなってしまい、差し替え用
エレメンタリストリームのPESパケットが本編多重化
ストリームに入りきれなくなってしまう。
【0031】以上のように、差し替えられるそれぞれの
データのサイズが同じ場合でも、パケットのサイズが異
なる場合は、差し替え用のデータが本編多重化ストリー
ムに入りきれなくなる問題が生じる。
【0032】次に、差し替えられるデータのサイズは等
しいが、アクセスユニットのサイズが異なるエレメンタ
リストリームを差し替える場合に発生する問題点を説明
する。
【0033】トランスポートストリームによって多重化
されるISO11172-3に規定されているオーデイオエレメン
タリストリームの2つのアクセスユニットを差し替える
場合の例を図19に示す。ISO11172-3において、アク
セスユニットはフレームと呼ばれる。
【0034】図19(A)は、差し替え対象と差し替え
用のエレメンタリストリーム2つのフレームを示す。差
し替え対象エレメンタリストリームのn番目のフレーム
F(n)のサイズはXバイトで、n+1番目のフレームF
(n+1)のサイズは(X−1:Xマイナス1)バイトであ
る。2つのフレームのサイズの和は、(2X−1)バイ
トとなる。
【0035】同様に、差し替え用エレメンタリストリー
ムのフレームのサイズの和を算出すると(2X−1)バ
イトとなり、差し替えられるデータのサイズと等しいこ
とがわかる。しかしながら、フレームごとにサイズを比
較すると、フレームF(n)とフレームF'(n)のサイズが
異なり、フレームF(n)のサイズはフレームF'(n)より
1バイト大きい。
【0036】従って、差し替え前の本編多重化ストリー
ムにおいて、フレームF(n)はk番目のPESパケット
kに、最後のデータaまで含まれている。またフレーム
F(n+1)の先頭データbは、k+1番目のPESパケッ
トk+1の先頭に位置する。しかしながら、差し替え後の
多重化ストリームにおいては、図19(B)に示すよう
に、フレームF'(n+1)の先頭のデータdがPESパケッ
トkのペイロードに含まれる。
【0037】ISO13818-1に規定されているトランスポー
トストリームのPESパケットのヘッダには、フレーム
のデコード時刻と表示時刻を示す時刻情報が含まれてい
る。これらの時刻情報は、その時刻情報が書き込まれて
いるヘッダを持つPESパケットのペイロードに先頭デ
ータが位置するフレームに対応する。この場合、本編多
重化ストリームでは、PESパケットk+1のペイロード
に先頭データが位置するフレームはフレームF(n+1)で
あるから、PESパケットk+1のヘッダにはフレームF
(n+1)に対応する時刻が書き込まれている。
【0038】しかしながら、差し替え後、フレームF(n
+1)に対応するフレームF'(n+1)の先頭データは、PE
Sパケットk内に位置することになり、PESパケットk
+1のヘッダに書き込まれている時刻情報と対応しなくな
る。仮に、PESパケットk+1のペイロード中に次のフ
レームF'(n+2)の先頭データが位置するならば、本来フ
レームF'(n+1)に対応づけられるべき時刻情報がフレー
ムF'(n+2)に対応づけられてしまい、デコーダの動作が
保証されなくなる。またPESパケットk+1のペイロー
ド中に、次のフレームF'(n+2)の先頭データが含まれな
い場合、そのPESパケットヘッダの時刻情報に対応す
るフレームが存在しないことになり、ISO/IEC13818-1の
規定に違反してしまう。
【0039】つまり、差し替えられるPESパケットの
サイズが等しくても、アクセスユニットのサイズが異な
る場合には、PESパケットヘッダに含まれているデコ
ーダの時刻情報とアクセスユニットの対応関係が崩れて
しまい問題となる。
【0040】次に上げる問題は、アクセスユニットのサ
イズが異なるために生じる、デコーダバッファのアンダ
ーフロやオーバーフロである。図20は、デコーダバッ
ファがアンダーフローする場合の例を示す。
【0041】差し替え対象エレメンタリストリームのフ
レームのサイズを図20(A)に示す。図20(B)に
示す実線は、差し替え前の本編多重化ストリームのフレ
ームF(n-1)、フレームF(n)、フレームF(n+1)がデコ
ードされる際のデコーダバッファの占有量の軌跡を示
す。デコーダは、フレームF(n)の最後のデータaがデ
コーダバッファに入力された直後に、フレームF(n)の
サイズ分だけ、デコーダバッファからデータを引き抜
く。
【0042】図20(B)に示す点線は、差し替えられ
た後の多重化ストリームのフレームF'(n-1)、フレーム
F'(n)、フレームF'(n+1)をデコードする際のデコーダ
バッファの占有量の軌跡を示す。差し替え対象のフレー
ムF(n)のサイズが、フレームF'(n)のサイズより1バ
イト小さいので、フレームF'(n)の最後のデータdが入
力される前にデコード時刻となり、その瞬間、フレーム
F'(n)のサイズであるXバイト分のデータがデコーダバ
ッファから引き抜かれてしまう。この時点では、デコー
ダバッファには、(X−1)バイトしかデコーダバッフ
ァに格納されていないので、アンダーフロが発生してし
まう。
【0043】図21に、デコーダバッファがオーバーフ
ロする例を示す。
【0044】差し替え対象エレメンタリストリームのフ
レームのサイズを図21(A)に示す。図21(B)の
実線は、差し替え前の本編多重化ストリームのフレーム
F(n-1)、フレームF(n)、フレームF(n+1)がデコード
される際のデコーダバッファの占有量の軌跡を示す。デ
コーダは、フレームF(n)のデコーダ時刻Tnにフレー
ムF(n)のサイズ分だけのデータを引き抜ぬく。
【0045】図21(B)の点線は、差し替えられた後
の多重化ストリームのフレームF'(n-1)、フレームF'
(n)、フレームF'(n+1)がデコードされる際のデコーダ
バッファの占有量の軌跡を示す。
【0046】差し替え対象のフレームF(n)のサイズが
差し替え用のフレームF'(n)のサイズより1バイト大き
いため、デコード時刻Tnにおいて、Xバイトのデータ
がデコーダバッファに格納されているにもかかわらず、
デコーダは、フレームF'(n)のサイズ分の(X−1)バ
イトだけしかデコーダバッファから引き抜かない。その
ため、デコーダバッファに1バイト残ってしまい、次の
デコード時刻Tn+1の直前までに新たに蓄積された(X
−1)バイトによって、オーバーフロが発生してしま
う。
【0047】本発明はこのような状況に鑑みてなされた
ものであり、上記にあげられた問題点を克服し、分離と
再多重化することなく、本編多重化ストリームの中の一
部の差し替え対象データを他の差し替え用データに差し
替えることができるようにするものである。
【0048】
【課題を解決するための手段】請求項1に記載のデータ
多重装置は、パケットの長さが一定となるように、1つ
のパケットに含まれるフレームの長さに対応するスタッ
フィングデータを、パケットのヘッダに付加して多重化
する多重化手段を備えることを特徴とする。
【0049】請求項5に記載のデータ多重化方法は、パ
ケットの長さが一定となるように、1つのパケットに含
まれるフレームの長さに対応するスタッフィングデータ
を、パケットのヘッダに付加する付加ステップを備える
ことを特徴とする。
【0050】請求項6に記載の伝送媒体は、パケットの
長さが一定となるように、1つのパケットに含まれるフ
レームの長さに対応するスタッフィングデータを、パケ
ットのヘッダに付加する付加ステップを備えるコンピュ
ータプログラムを伝送することを特徴とする。
【0051】請求項7に記載のデータ処理装置は、差し
替え用データと差し替え対象データの一方のサイズを検
出する検出手段と、検出手段の検出結果に対応して、差
し替え用データと差し替え対象データの他方の長さを調
整する調整手段と、調整手段により調整された差し替え
対象データと差し替え用データとを差し替える差し替え
手段とを備えることを特徴とする。
【0052】請求項11に記載のデータ処理方法は、差
し替え用データと差し替え対象データの一方のサイズを
検出する検出ステップと、検出ステップの検出結果に対
応して、差し替え用データと差し替え対象データの他方
の長さを調整する調整ステップと、調整ステップにより
調整された差し替え対象データと差し替え用データとを
差し替える差し替えステップとを備えることを特徴とす
る。
【0053】請求項12に記載の伝送媒体は、差し替え
用データと差し替え対象データの一方のサイズを検出す
る検出ステップと、検出ステップの検出結果に対応し
て、差し替え用データと差し替え対象データの他方の長
さを調整する調整ステップと、調整ステップにより調整
された差し替え対象データと差し替え用データとを差し
替える差し替えステップとを備えるコンピュータプログ
ラムを伝送することを特徴とする。
【0054】請求項13に記載のデータ処理装置は、差
し替え用データとして、差し替え対象データに対応する
長さのデータを提供する提供手段と、差し替え対象デー
タの時刻情報を検出する検出手段と、検出手段により検
出された時刻情報に対応して、差し替え用のデータの時
刻情報を書き換える書き換え手段と、差し替え対象デー
タを、書き換え手段により書き換えられた時刻情報を有
する差し替え用データで差し替える差し替え手段とを備
えることを特徴とする。
【0055】請求項14に記載のデータ処理方法は、差
し替え用データとして、差し替え対象データに対応する
長さのデータを提供する提供ステップと、差し替え対象
データの時刻情報を検出する検出ステップと、検出ステ
ップにより検出された時刻情報に対応して、差し替え用
のデータの時刻情報を書き換える書き換えステップと、
差し替え対象データを、書き換えステップにより書き換
えられた時刻情報を有する差し替え用データで差し替え
る差し替えステップとを備えることを特徴とする。
【0056】請求項15に記載の伝送媒体は、差し替え
用データとして、差し替え対象データに対応する長さの
データを提供する提供ステップと、差し替え対象データ
の時刻情報を検出する検出ステップと、検出ステップに
より検出された時刻情報に対応して、差し替え用のデー
タの時刻情報を書き換える書き換えステップと、差し替
え対象データを、書き換えステップにより書き換えられ
た時刻情報を有する差し替え用データで差し替える差し
替えステップとを備えるコンピュータプログラムを伝送
することを特徴とする。
【0057】請求項1に記載のデータ多重装置、請求項
5に記載のデータ多重化方法、および請求項6に記載の
伝送媒体においては、パケットの長さが一定となるよう
に、1つのパケットに含まれるフレームの長さに対応す
るスタッフィングデータが、パケットのヘッダに付加さ
れる。
【0058】請求項7に記載のデータ処理装置、請求項
11に記載のデータ処理方法、および請求項12に記載
の伝送媒体においては、差し替え用データと差し替え対
象データの一方のサイズを検出し、検出結果に対応し
て、差し替え用データと差し替え対象データの他方の長
さを調整し、調整された差し替え対象データと差し替え
用データとが差し替えられる。
【0059】請求項13に記載のデータ処理装置、請求
項14に記載のデータ処理方法、および請求項15に記
載の伝送媒体においては、差し替え用データとして、差
し替え対象データに対応する長さのデータを提供し、差
し替え対象データの時刻情報を検出し、検出された時刻
情報に対応して、差し替え用のデータの時刻情報が書き
換えられ、差し替え対象データが、書き換えられた時刻
情報を有する差し替え用データと差し替えられる。
【0060】
【発明の実施の形態】以下に本発明の実施の形態を説明
するが、特許請求の範囲に記載の発明の各手段と以下の
実施の形態との対応関係を明らかにするために、各手段
の後の括弧内に、対応する実施の形態(但し一例)を付
加して本発明の特徴を記述すると、次のようになる。但
し勿論この記載は、各手段を記載したものに限定するこ
とを意味するものではない。
【0061】請求項1に記載のデータ多重化装置は、パ
ケットの長さが一定となるように、1つのパケットに含
まれるフレームの長さに対応するスタッフィングデータ
を、パケットのヘッダに付加して多重化する多重化手段
(例えば、図1の多重化器101)を備えることを特徴
とする。
【0062】請求項7に記載のデータ処理装置は、差し
替え用データと差し替え対象データの一方のサイズを検
出する検出手段(例えば、図1のPESパケットサイズ
検出手段102)と、検出手段の検出結果に対応して、
差し替え用データと差し替え対象データの他方の長さを
調整する調整手段(例えば、図1の符号化器104)
と、調整手段により調整された差し替え対象データと差
し替え用データとを差し替える差し替え手段(例えば、
図1の差し替えスイッチ105)とを備えることを特徴
とする。
【0063】請求項13に記載のデータ処理装置は、差
し替え用データとして、差し替え対象データに対応する
長さのデータを提供する提供手段(例えば、図6のPE
Sパケット化器207)と、差し替え対象データの時刻
情報を検出する検出手段(例えば、図6の時刻情報検出
器201)と、検出手段により検出された時刻情報に対
応して、差し替え用のデータの時刻情報を書き換える書
き換え手段(例えば、図6の時刻情報書換器203)
と、差し替え対象データを、書き換え手段により書き換
えられた時刻情報を有する差し替え用データで差し替え
る差し替え手段(例えば、図2の差し替えスイッチ20
5)とを備えることを特徴とする。
【0064】図1は、本発明のデータ処理装置を適用し
た差し替え装置の第1の実施の形態の構成例を示してい
る。
【0065】多重化器101は、各テーダが、例えば、
ISO13818-1に準拠して符号化されたエレメンタリスト
リームを多重化し、本編トランスポートストリームを出
力する。
【0066】PESパケットヘッダ書換器102は、P
ID(Packet Identification)検出機能を備え、多重化
器101から出力される本編トランスポートストリーム
から、差し替えられるエレメンタリストリーム、いわゆ
る、差し替え対象エレメンタリストリームを検出し、後
述する差し替え用エレメンタリストリームサーバ103
または符号化器104から供給されるエレメンタリスト
リーム、いわゆる、差し替え用エレメンタリストリーム
のサイズ情報に基づいて、差し替え用エレメンタリスト
リームと同じPESパケットのサイズを持つように、差
し替え対象エレメンタリストリームのPESパケットの
ヘッダを書き換える。
【0067】差し替え用エレメンタリストリームサーバ
103は、録音または録画されたエレメンタリストリー
ムを格納し、差し替えスイッチ105にエレメンタリス
トリームを供給する。また差し替え用エレメンタリスト
リームが録音または録画でない情報、いわゆるライブ情
報の場合、そのライブ情報は符号化器104に入力さ
れ、所定の規格に準拠して符号化された後、差し替えス
イッチ105に出力される。
【0068】差し替え用エレメンタリストリームサーバ
103および符号化器104は、それぞれ差し替え用エ
レメンタリストリームのPESパケットのサイズ情報を
PESパケットヘッダ書換器102に供給するが、ここ
でのサイズ情報とは、PESパケットのサイズそのもの
である必要はなく、それを求めることができるような情
報であれば良い。
【0069】システムコントローラ106は、PESパ
ケットヘッダ書換器102と差し替えスイッチ105を
制御する。
【0070】差し替えスイッチ105は、システムコン
トローラ106からの指示に基づいて、差し替え対象エ
レメンタリストリームと差し替え用エレメンタリストリ
ームを差し替え、差し替え後のトランスポートストリー
ムを出力する。差し替え対象エレメンタリストリーム以
外の本編トランスポートストリームは、そのまま出力さ
れる。
【0071】次に、第1の実施の形態の動作例を説明す
る。はじめに、ISO/IEC13818-1に規定されるトランスポ
ートストリームのPESパケットのデータ構造を図2に
示す。PESパケットは、スタッフィング領域にダミー
バイトを付加することによって、PESパケットのサイ
ズを調整することができる。
【0072】図3に、ISO11172-3に規定されているオー
デイオエレメンタリストリームのアクセスユニットのサ
イズの異なる差し替え対象エレメンタリストリームと差
し替え用エレメンタリストリームを差し替える例を示
す。
【0073】差し替え対象エレメンタリストリームのフ
レームの最大サイズがXバイトの場合で、各フレームの
サイズはそのXバイトに対して、等しいかまたは1バイ
ト小さいかで表されている。例えば、フレームF(n+1)
のサイズは、サイズXに等しく、フレームF(n)のサイ
ズは、サイズXより1バイト小さい。
【0074】多重化器101は、エレメンタリストリー
ムを多重化し、本編トランスポートストリームを出力す
るが、多重化にあたり、はじめに、エレメンタリストリ
ームのパケット化を行う。例えば、本編のPESパケッ
トP(K)は、フレームF(n)、フレームF(n+1)とフレー
ムF(n+2)の一部を含むように処理されている。
【0075】パケット化する際、多重化器101は、差
し替えられるPESパケット内、フレームの最後のデー
タが含まれているフレームのサイズに基づいて、PES
パケットのスタッフィング領域に加えられるダミーバイ
トの量を決定する。例えば、PESパケットP(K)にお
いては、フレームF(n)とフレームF(n+1)がそのダミー
バイト量算出の対象となる。フレームF(n)のサイズは
サイズXより1バイト小さく、フレームF(n+1)のサイ
ズはサイズXに等しいので、この時、1バイトがPES
パケットP(K)のヘッダのスタッフィング領域に加えら
れる。
【0076】多重化器101は、パケット化および多重
化終了後、本編トランスポートストリームをPESパケ
ットヘッダ書換器102に出力する。
【0077】符号化器104または差し替え用エレメン
タリストリームサーバ103から供給されるサイズ情報
とは、差し替え用エレメンタリストリームのPESパケ
ットのサイズに関する情報であり、いま場合、差し替え
用エレメンタリストリームのフレームF'(n)、フレーム
F'(n+1)のサイズがそれぞれサイズXに対して、1バイ
ト少ないことがサイズ情報となる。
【0078】PESパケットヘッダ書換器102は、差
し替え対象エレメンタリストリームのPESパケットヘ
ッドを、サイズ情報に基づいて書き換える。すなわち、
ここでは、スタッフィング領域に加えられるダミーバイ
トの量が調整される。いま場合、差し替え用エレメンタ
リストリームのフレームF'(n)とフレームF'(n+1)は、
いずれも1バイト小さいフレームであるので、差し替え
後のPESパケットP'(k)のスタッフィング領域に、2
バイトのダミーバイトが付加されることになる。このよ
うにして、ヘッダが書き換えられた後、本編のPESパ
ケットのペイロードが、差し替え用エレメンタリストリ
ームのPESパケットのペイロードと差し替えスイッチ
105で差し替えられる。
【0079】以上ような処理を行うことより、第1の実
施の形態において、本編多重化ストリームの差し替え対
象エレメンタリストリームを他の差し替え用エレメンタ
リストリームで差し替えを行っても、それぞれのPES
パケットのサイズが常に等しいので、差し替え用エレメ
ンタリストリームが本編多重化ストリームに入りきらな
くなることはない。また、アクセスユニット(フレー
ム)の先頭バイトが含まれるPESパケットは、差し替
え前後において変わらないため、PESパケットに書き
込まれている時刻情報とそれに対応するアクセスユニッ
トの関係がずれることもない。
【0080】しかしながら、アクセスユニットのサイズ
自体は異なるため、デコーダバッファのオーバーフロや
アンダーフロが発生してしまいデコーダバッファを破綻
させてしまう場合がある。
【0081】例えば、図3におけるデータ差し替えの例
をみると、PESパケットP'(k)には2バイトのダミー
バイトがPESパケットヘッダに付加されている。その
ため、フレームF(n)のデコード時刻において、フレー
ムF'(n)のデータが、まだ1バイト分だけデコーダバッ
ファへ入力されていない。この状態で、デコーダは、デ
コーダバッファからデータを引き抜いてしまうため、そ
の1バイト分アンダーフロになる。
【0082】次に、デコーダバッファにマージンを設け
ることによって、デコーダの破綻を回避する方法につい
て説明する。図4は、デコーダバッファのアンダーフロ
を回避するためのマージンの算出例を示す。
【0083】第1の実施の形態において、最大のアンダ
ーフロが発生する場合は、差し替えが行われた後、最も
多くのダミーデータが差し替え用エレメンタリストリー
ムのPESパケットのスタッフィングに加えられている
時である。つまりその場合でもアンダーフロが発生しな
いようなマージンを下限に設ければ、アンダーフロを防
止できる。
【0084】図4に示す例において、1つのPESパケ
ットは最大3つのフレームを取り込むことができる。図
4(A)に示すように、差し替え対象エレメンタリスト
リームのPESパケットを構成するフレームF(1)、F
(2)、およびF(3)のサイズが、それぞれ最大のフレーム
のサイズXの時で、かつ、差し替え用エレメンタリスト
リームのPESパケットのフレームF'(1)、F'(2)およ
びF'(3)が、それぞれサイズXに対して1バイト小さい
時、最も多くのダミーバイトがスタッフィングに付加さ
れる。この場合、3バイトのダミーバイトがスタッフィ
ング領域に加えられる。つまり、1つのPESパケット
に最大N個のフレームが取り込まれる場合、最大Nバイ
トのダミーデータが付加される。
【0085】差し替え後の多重化ストリームのデコード
を実行すると、フレームF'(1)の最後から2バイト
((N−1)バイト)がデコーダバッファに入力される
前に、フレームF'(1)のサイズ分のバイト数がデコーダ
に引き抜かれるため、その分アンダーフロが発生する。
【0086】そこで、図4(B)に示すように、本編を
多重化する際、差し替え対象エレメンタリストリームの
デコーダバッファの下限に、(N−1)バイトのマージ
ンを設け、デコード直後のデコーダバッファのなかのデ
ータの占有量が、(N−1)バイト以上とすることによ
り、アンダーフロを回避することができる。
【0087】次に、図5に、オーバーフロを回避するた
めのデコーダバッファに設けるマージンを算出する例を
示す。最大のオーバーフロが発生する場合は、差し替え
対象エレメンタリストリームのPESパケットに最大の
ダミーバイトがスタッフィング領域に加えられていて、
差し替え後のエレメンタリストリームのPESパケット
のスタッフィング領域にダミーバイトが存在しない時で
ある。例えば、図5(A)に示すように、最大3つのフ
レームが1つのPESパケットに取り込むことができる
場合、差し替え対象エレメンタリストリームのPESパ
ケットを構成するフレームF(1)、F(2)、およびF(3)
のサイズが、それぞれ最大のフレームのサイズXより1
バイト小さく、かつ、差し替え用エレメンタリストリー
ムのPESパケットのフレームF'(1)、F'(2)および
F'(3)のサイズが、それぞれサイズXに等しい時であ
る。
【0088】この場合、差し替え後の多重化ストリーム
をデコードすると、図5(B)に示すように、フレーム
F'(1)のデコード時刻では、(N−1)バイトがデータ
残量として、デコーダバッファに蓄積される。次に、フ
レームF'(2)のサイズ分のデータがデコーダバッファに
供給されたとき、(N−1)バイトのオーバーフロが発
生する。
【0089】そこで、本編を多重化する際、差し替え対
象エレメンタリストリームのデコーダバッファの上限に
(N−1)バイトのマージンを設け、デコーダバッファ
の空き容量が常に(N−1)バイト以上とすることによ
って、オーバーフロを回避することができる。
【0090】第1の実施の形態における多重化器101
が、上記のデコーダバッファにマージンを設けるように
多重化を行うことにより、分離と再多重化せず、するこ
となしに、本編多重化ストリームの中の差し替え対象エ
レメントリストリームを他の差し替え用エレメントリス
トリームに差し替えることができる。
【0091】次に、本発明を適用した差し替え装置の第
2の実施の形態の構成例を図6に示す。なお、図中、図
1における場合と対応する部分については、同一の符号
を付してあり、以下では、その説明は適宜省略する。
【0092】多重化器101は、本編トランスポートス
トリームを出力する。時刻情報検出器201は、システ
ムコントローラ202により指示された差し替え対象エ
レメンタリストリームのデコード時刻情報を検出し、時
刻情報書換器203に出力する。ここでのデコード時刻
情報は、時刻そのものである必要はなく、デコード時刻
を算出できるものであればよい。
【0093】差し替え用PESパケットサーバ204
は、予め定めた本編トランスポートストリームと等しい
PESパケットのサイズを有する、パケット化された差
し替え用エレメンタリストリームが格納されている。時
刻情報書換器203は、時刻情報検出器201から検出
された差し替え対象エレメンタリストリームの時刻情報
を基に、差し替え用PESパケットサーバ204に格納
されている差し替え用エレメンタリストリームの時刻情
報を書き換え、差し替えスイッチ205に出力する。
【0094】差し替え用エレメンタリストリームが、ラ
イブ情報の場合、そのライブ情報は、符号化器206に
よって、所定の規定に準拠して符号化され、PESパケ
ット化器207に供給される。ここでは、PESパケッ
トサイズ検出器208により検出されたPESサイズ情
報に基づいて、符号化されたライブ情報をPESパケッ
ト化する。このことより、差し替え対象エレメンタリス
トリームと等しいPESパケットのサイズを持つ差し替
え用エレメンタリストリームを作成することができる。
【0095】選択スイッチ209は、システムコントロ
ーラ202の指示により、差し替えPESパケットサー
バ204またはPESパケット化器207からのエレメ
ンタリストリームを選択し、時刻情報書換器203に供
給する。差し替えスイッチ205は、システムコントロ
ーラ202の指示に基づき、差し替え対象エレメンタリ
ストリームを差し替え用エレメンタリストリームに差し
替え、差し替え後のトランスポートストリームを出力す
る。
【0096】システムコントローラ202は、PESパ
ケットサイズ検出器208、PES時刻情報検出器20
1、および差し替えスイッチ205の処理を制御する。
【0097】第1の実施の形態は、差し替え対象エレメ
ンタリストリームのPESパケットのサイズを、差し替
え用エレメンタリストリームのPESパケットのサイズ
に等しくなるようにスタッフィングを調整し、図2
(A)に示すスタッフィング領域とPESパケットデー
タ部を差し替えたものである。時刻情報を含む情報フィ
ールドは、本編トランスポートストリームに符号化され
ているものを使用している。
【0098】それに対して、第2の実施の形態は、スタ
ッフィング領域とPESパケットデータ部に加え、情報
フィールドも同時に差し替えるものである。このことに
より、差し替え用エレメンタリストリームがライブで得
られる場合、ライブ情報を符号化しながら差し替えを行
うもので、あらかじめパケット化しておく必要がない。
【0099】第2の実施の形態における多重化器101
も、第1の実施の形態と同じく、デコーダバッファにマ
ージンを設けるように多重化することより、分離と再多
重化することなしに、本編トランスポートストリームの
中の差し替え対象エレメントリストリームを、他の差し
替え用エレメントリストリームに差し替えることができ
る。
【0100】上記の第1の実施の形態および第2の実施
の形態の構成例の動作例の説明は、ISO11172-3に規定さ
れているオーデイオエレメンタリストリームを差し替え
る例に基づいて行われた。しかしながら、これらは、そ
れに限定するものではない。図7に、第1の実施の形態
と第2の実施の形態の動作例の一般例を示す。
【0101】アクセスユニットの最大サイズをXバイト
とし、i番目のアクセスユニットのサイズをXーD(i)と
する。つまり、i番目のアクセスユニットのサイズは、
サイズXよりD(i)バイト小さい。この場合、パケット
化する際、そのi番目のアクセスユニットの最後のデー
タまでを含むパケットのスタッフィング領域にD(i)バ
イト加える。
【0102】さらにアクセスユニットのサイズの最大値
と最小値の差をDmaxとし、1つのパケットに最大N個
のアクセスユニットが含まれる場合、デコーダバッファ
の破綻を回避するためのデコーダバッファのマージンは
(N−1)*Dmaxとなり、本編の多重化ストリームを
多重化する際、そのマージンを設けることで、デコーダ
が破綻しないことを保証することができる。
【0103】このように第1および第2の実施の形態
は、あらゆるエレメンタリストリームの差し替えに適用
でき、分離と再多重化することなしに、本編多重化スト
リームの中の差し替え対象エレメントリストリームを他
の差し替え用エレメントリストリームに差し替えること
ができる。
【0104】次に、第3の実施の形態の構成例を図8に
示す。
【0105】第1および第2の実施の形態の構成例にお
ける多重化器101は、多重化する際、スタッフィング
調整やデコーダバッファへのマージンの設定を行う必要
があったが、多重化器301は、このような制約を受け
ずに多重化することができる。サイズ検出器302は、
本編トランスポートストリームの差し替え対象エレメン
タリストリームのアクセスユニットのサイズを検出し、
その結果をサイズ変換器303に供給する。
【0106】差し替え用エレメンタリストリームサーバ
103は、差し替え用エレメンタリストリームを格納す
る。選択スイッチ304は、システムコントローラ30
6の指示により、差し替え用エレメンタリストリームサ
ーバ103または符号化器305からエレメンタリスト
リームを引き出し、サイズ変換器303に供給する。
【0107】サイズ変換器303は、サイズ検出器30
2によって検出されたサイズ情報に基づいて、差し替え
用エレメンタリストリームのアクセスユニットのサイズ
を変更する。即ち、サイズ変換器303から出力される
差し替え用エレメンタリストリームのアクセスユニット
のサイズは、差し替え対象エレメンタリストリームのア
クセスユニットのサイズと等しくなる。
【0108】差し替え用エレメンタリストリームがライ
ブ情報の場合、ライブ情報は符号化器305に入力さ
れ、符号化される。差し替えスイッチ307は、システ
ムコントローラ306の指示により、差し替え対象エレ
メンタリストリームのフレームと差し替え用エレメンタ
リストリームのフレームを差し替え、差し替え後のトラ
ンスポートストリームを出力する。
【0109】ISO11172-3に規定されているオーデイオエ
レメンタリストリームによる第3の実施の形態の動作例
を図9に示す。
【0110】第1の実施の形態および第2の実施の形態
は、アクセスユニットのサイズは異なるままで、差し替
え対象と差し替え用のエレメンタリストリームのPES
パケットのサイズを等しくし、またPESパケットのヘ
ッダの時刻情報を書き換えることによって、差し替えを
実行するものである。第3の実施の形態は、差し替え用
エレメンタリストリームのアクセスユニットのサイズ
を、差し替え対象エレメンタリストリームのサイズに合
わせて変換することにより、差し替えを実行するもので
ある。
【0111】即ち、差し替え対象エレメンタリストリー
ムと差し替え用エレメンタリストリームのアクセスユニ
ットのサイズを等しくすることで、第1および第2の実
施の形態で考慮されているスタッフィングの調整やデコ
ーダバッファを破綻の回避するためのマージン設定を不
要とすることができる。
【0112】図17に示したように、ISO11172-3に規定
されているオーデイオエレメンタリストリームのフレー
ム(アクセスユニット)は、サイズが最大のフレームの
サイズより1バイト小さい場合、フレームのヘッダのpa
dding-bitが0とされ、サイズが最大のフレームのサイ
ズと等しい場合はヘッダのpadding-bitが1とされる。
【0113】また、フレームの外部データ領域には、ユ
ーザ定義可能なデータを組み込むことが可能である。こ
の外部データのサイズはストリーム中には示されておら
ず、フレームのサイズからヘッダ、エラーチェック、お
よびオーデイオデータで使用されたビット数を減じて求
めることができる。
【0114】差し替え用エレメンタリストリームのフレ
ームのpadding-bitが0で、差し替え対象エレメンタリ
ストリームのフレームのpadding-bitが1であるとす
る。両方のフレームのサイズを等しくするには、差し替
え用エレメンタリストリームのフレームを1バイト分大
きくする必要がある(図9(A))。
【0115】サイズ変換器303は、フレームのpaddin
g-bitの値を変更するもので、この場合、差し替え用エ
レメンタリストリームのフレームのpadding-bitが1に
変更され、フレームの最後にダミーとして1バイトが加
えられる。付加されたダミーデータは必ず外部データと
して扱われるため、オーデイオのデコードには影響しな
い。また外部データを有効なユーザデータとして使用す
る場合は、差し替え時のサイズ変換処理によりダミーデ
ータが加えられても良いようにユーザデータを定義して
おく。
【0116】一方、差し替え対象エレメンタリストリー
ムのフレームが差し替え用エレメンタリストリームのフ
レームより、1バイト分小さい場合、差し替え用エレメ
ンタリストリームのフレームを1バイト小さくする必要
がある(図9(B))。1バイト小さくするためには、
データから1バイトを削らなければならない。そのた
め、padding-bitが1である差し替え用エレメンタリス
トリームのフレームは、削除可能なダミーデータを1バ
イトリザーブして符号化される必要がある。
【0117】ここでサイズ変換器303は、差し替え用
エレメンタリストリームのフレームのpadding-bitを0
に変更し、フレームの最後にリザーブされているダミー
データを削除し、差し替え用エレメンタリストリームと
差し替え対象エレメンタリストリームのフレームのサイ
ズを等しくする。
【0118】以上のように、第3の実施の形態では、差
し替え対象エレメンタリストリームと差し替え用エレメ
ンタリストリームのアクセスユニットのサイズが等しく
なることから、第1および第2の実施の形態で考慮され
ているスタッフィングの調整や、デコーダバッファの破
綻を回避するためのマージンの設定が必要なく、分離と
再多重化することなしに、本編多重化ストリームの中の
差し替え対象エレメントリストリームを他の差し替え用
エレメントリストリームに差し替えることができる。
【0119】上述の第3の実施の形態の動作例は,ISO11
172-3に規定されているオーデイオエレメンタリストス
トリームにもとづいて説明されたが、本発明は、アクセ
スユニットサイズを変更可能なあらゆるエレメンタリス
トリームにおいて同様に実施することができる。例え
ば、ATSC(United States Advanced Television Sys
tem Committee)標準で規定されているDigital Audio Co
mpression(AC−3)を差し替える場合にも適用でき
る。
【0120】図10に、ATSC AC−3に規定され
ているオーデイオエレメンタリストリームのアクセスユ
ニットの構成を示す。AC−3オーデイオのアクセスユ
ニットは、シンクフレームと呼ばる。シンクフレームの
サイズは、シンク情報中にある5バイト固定長のframes
izecodフィールドに示される。
【0121】サンプリング周波数が44.1KHzの場
合、シンクフレームのサイズは一定ではなく、487バ
イトまたは488バイトの2つのシンクフレームのサイ
ズが存在する。フレームのサイズが487バイトの時、
このフレームのframesizecodフィールドの再下位ビット
は0となり、488バイトの時、framesizecodフィール
ドの再下位ビットは1となる。
【0122】シンクフレームは、ユーザが定義できる外
部データを符号化でき、外部データのサイズは、ストリ
ーム中に示されておらず、フレームのサイズから外部デ
ータ以外のフィールドで使用されたビット数を減じたも
のに等しい。また外部データの中で、有効な外部データ
が存在することを示すフラグが存在し、フラグが1の場
合は有効な外部データのサイズを示すフィールドが存在
することを意味する。有効な外部データとして用いられ
なかったビットは、フレームのサイズをあわせるための
ダミーデータである。
【0123】図11に、シンクフレームのサイズの調整
例を示す。AC−3オーデイオのシンクフレームのシン
ク情報中にあるframesizecodの最下位ビットを1に変換
し、外部データの先頭に1バイトのダミデータを付加す
ることでサイズを1バイト大きくすることができる(図
11(A))。一方、サイズを小さくする場合、差し替
え用エレメンタリストリームのフレームに、外部データ
内に削除可能なダミーデータを1バイトリザーブしてお
く。ここでサイズ変換器303は、差し替え用エレメン
タリストリームのアクセスユニット(シンクフレーム)
のシンク情報中のframesizecodの最下位ビットを0に変
換し、外部データの先頭にあらかじめリザーブされてい
る1バイトのダミーデータを削除することでサイズを1
バイト小さくすることができる。
【0124】上記のように第3の実施の形態は、アクセ
スユニットのサイズを変更できるあらゆるエレメンタリ
ストリームに適用できる。サイズ変換によって書き換え
られたデータがエラーチェックの入力となっている場合
は、サイズ変換後にエラーチェクを計算し直すことでエ
ラーチェックを正当な値に保つことができる。
【0125】次に、本発明を適用した第4の実施の形態
の構成例を図12に示す。サイズ検出器302は、シス
テムコントローラ401に指示された差し替え対象エレ
メンタリストリームのアクセスユニットのサイズ情報を
検出し、符号化器402に供給する。ここで符号化器4
02は、サイズ情報に基づいてライブで入力されたライ
ブ情報を符号化する。即ち、差し替え対象エレメンタリ
ストリームと差し替え用エレメンタリストリームのアク
セスユニットのサイズが等しくなるように、ライブ情報
を符号化する。
【0126】第4の実施の形態の構成例は、第3の実施
の形態の構成例におけるライブ情報により差し替え用エ
レメンタリストリームが供給される場合に限り、さらに
簡素化したものである。
【0127】また、アクセスユニットのサイズ情報をア
クセスユニットのヘッダ内でなく、本編トランスポート
ストリーム内に多重化しておくことにより、サイズ検出
器302における検出処理をより単純にすることができ
る。
【0128】例えば、本編がISO/IEC13818-1に規定され
ているトランスポートストリームに基づいて多重化され
る場合、サイズ情報はトランスポートパケットのアダプ
テーション内のプライベートバイトのフィールドに多重
化しておくことができる。サイズ検出器302は差し替
えタイミングに先んじてサイズ情報を取り出すことが可
能となり、符号化器402は、差し替えタイミングに先
んじてサイズ変換および符号化を行うことができ、差し
替え処理の遅延を無くすることができる。
【0129】以上のようにして、分離と再多重化するこ
となしに、差し替られるデータを本編から差し替えるこ
とができる。
【0130】なお、上記したような処理を行うコンピュ
ータプログラムをユーザに伝送する伝送媒体としては、
磁気ディスク、CD-ROM、固体メモリなどの記録媒体の
他、ネットワーク、衛星などの通信媒体を利用すること
ができる。
【0131】
【発明の効果】請求項1に記載のデータ多重化装置、請
求項5に記載のデータ多重化方法、および請求項6に記
載の伝送媒体によれば、フレームの長さに対応するスタ
ッフィングデータをパケットのヘッダに付加して、パケ
ットの長さが一定になるようにしたので、差し替え対象
データを差し替え用データで差し替えることが容易とな
る。
【0132】請求項7に記載のデータ処理装置、請求項
11に記載のデータ処理方法、および請求項12に記載
の伝送媒体によれば、差し替え用データと差し替え対象
データの一方のサイズを検出し、その結果に対応して、
差し替え用データと差し替え対象データの他方の長さを
調整し、調整された差し替え対象データと差し替え用デ
ータを差し替えるようにしたので、分離あるいは再多重
化することなく、差し替え対象データを他の差し替え用
データに差し替えることができる。
【0133】請求項13に記載のデータ処理装置、請求
項14に記載のデータ処理方法、および請求項15に記
載の伝送媒体によれば、差し替え用データとして、差し
替え対象データに対応する長さのデータを提供し、差し
替え対象データの時刻情報検に対応して、差し替え用の
データの時刻情報を書き換え、差し替え対象データを、
書き換えられた時刻情報を有する差し替え用データと差
し替えるようにしたので、正しく復号可能な差し替デー
タを生成することができる。
【図面の簡単な説明】
【図1】本発明を適用したデータ差し替え装置の第1の
実施の形態の構成例を示すブロック図である。
【図2】ISO/IEC13818-1に規定されているPESパケッ
トのデータ構造を示す図である。
【図3】ISO/IEC13818-1に規定されているPESパケッ
トのヘッダ書き換え処理を示す図である。
【図4】アンダーフロを回避するためのマージンを算出
する方法を示す図である。
【図5】オーバーフロを回避するためのマージンを算出
する方法を示す図である。
【図6】本発明を適用したデータ差し替え装置の第2の
実施の形態の構成例を示すブロック図である。
【図7】パケットにスタッフィングを加えることによっ
てパケットのサイズを調整できる多重化ストリームのP
ESパケットのヘッダ書き換え処理を示す図である。
【図8】本発明を適用したデータ差し替え装置の第3の
実施の形態の構成例を示すブロック図である。
【図9】ISO11172-3に規定されているオーデイオのフレ
ーム(アクセスユニット)のサイズの変換処理を示す図
である。
【図10】AC−3に規定されているオーデイオのシン
クフレーム(アクセスユニット)の構成を示す図であ
る。
【図11】AC−3に規定されているオーデイオのシン
クフレーム(アクセスユニット)のサイズの変換処理を
示す図である。
【図12】本発明を適用したデータ差し替え装置の第4
の実施の形態の構成例を示すブロック図である。
【図13】アナログベースバンド信号に対応する従来の
差し替え装置の構成例を示すブロック図である。
【図14】ISO/IEC13818-1に規定されているトランスポ
ートストリームの構成例を示す図である。
【図15】ISO/IEC13818-1に規定されているトランスポ
ートストリームに適用されるデコーダモデルの構成例を
示すブロック図である。
【図16】デジタル信号に対応する従来の差し替え装置
の構成例を示すブロック図である。
【図17】ISO11172-3に規定されているオーデイオのフ
レーム(アクセスユニット)の構成を示す図である。
【図18】PESパケットのサイズが異なる差し替え対
象と差し替え用のエレメンタリストリームを差し替えた
場合の例を示す図である。
【図19】フレーム(アクセスユニット)のサイズが異
なる差し替え対象と差し替え用のエレメンタリストリー
ムを差し替えた場合の例を示す図である。
【図20】デコーダバッファがアンダーフロになる場合
の例を示す図である。
【図21】デコーダバッファがオーバーフロになる場合
の例を示す図である。
【符号の説明】
101 多重化器, 102 PESパケットヘッダ書
換器, 103 差し替え用エレメンタリストリームサ
ーバ, 104 符号化器, 105 差し替えスイッ
チ, 106 システムコントローラ, 201 時刻
情報検出器,202 システムコントローラ,203
時刻情報書換器, 204 差し替え用PESパケット
サーバ, 205 差し替えスイッチ, 206 符号
化器,207 PESパケット化器,208 PESパ
ケットサイズ検出器, 209 選択スイッチ, 30
1 多重化器, 302 サイズ検出器, 303サイ
ズ変換器, 304 選択スイッチ 305 符号化
器, 306 システムコントローラ, 307 差し
替えスイッチ, 401 システムコントローラ,40
2 符号化器, 501 サーバ, 502 選択スイ
ッチ, 503スイッチ, 601 スイッチ, 60
2 トランスポートバッファ, 603 デコーダバッ
ファ, 604 デコーダ, 701 分離器, 70
2 エレメンタリストリームサーバ, スイッチ, シ
ステムコントローラE, 705 多重化器
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 FI H04N 7/24

Claims (15)

    【特許請求の範囲】
  1. 【請求項1】 異なる長さの複数のフレームより構成さ
    れるエレメンタリストリームを、パケット化し、多重化
    するデータ多重化装置において、 パケットの長さが一定となるように、1つのパケットに
    含まれる前記フレームの長さに対応するスタッフィング
    データを、前記パケットのヘッダに付加して多重化する
    多重化手段を備えることを特徴とするデータ多重化装
    置。
  2. 【請求項2】 前記多重化手段は、前記パケットに最後
    のデータが含まれるフレームの長さに対応して、前記ス
    タッフィングデータを付加することを特徴とする請求項
    1に記載のデータ多重化装置。
  3. 【請求項3】 前記多重化手段は、前記パケットのサイ
    ズに関する情報をさらに付加することを特徴とする請求
    項1に記載のデータ多重化装置。
  4. 【請求項4】 前記多重化手段は、前記スタッフィング
    に対応して、上限または下限にマージンを取って多重化
    を行うことを特徴とする請求項1に記載のデータ多重化
    装置。
  5. 【請求項5】 異なる長さの複数のフレームより構成さ
    れるエレメンタリストリームを、パケット化し、多重化
    するデータ多重化方法において、 パケットの長さが一定となるように、1つのパケットに
    含まれる前記フレームの長さに対応するスタッフィング
    データを、前記パケットのヘッダに付加する付加ステッ
    プを備えることを特徴とするデータ多重化方法。
  6. 【請求項6】 異なる長さの複数のフレームより構成さ
    れるエレメンタリストリームを、パケット化し、多重化
    するデータ多重化装置に用いるコンピュータプログラム
    であって、 パケットの長さが一定となるように、1つのパケットに
    含まれる前記フレームの長さに対応するスタッフィング
    データを、前記パケットのヘッダに付加する付加ステッ
    プを備えるコンピュータプログラムを伝送することを特
    徴とする伝送媒体。
  7. 【請求項7】 1以上のデジタル信号を多重化した多重
    化ストリームの一部の差し替え対象データを他の差し替
    え用データに差し替えるデータ処理装置において、 前記差し替え用データと前記差し替え対象データの一方
    のサイズを検出する検出手段と、 前記検出手段の検出結果に対応して、前記差し替え用デ
    ータと前記差し替え対象データの他方の長さを調整する
    調整手段と、 前記調整手段により調整された前記差し替え対象データ
    と前記差し替え用データとを差し替える差し替え手段と
    を備えることを特徴とするデータ処理装置。
  8. 【請求項8】 前記検出手段は、前記差し替え用データ
    のパケットのサイズを検出し、 前記調整手段は、前記検出手段により検出されたサイズ
    に対応して、前記差し替え対象のデータのパケットのヘ
    ッダに、前記パケットの長さが一定となるように、スタ
    ッフィングデータを付加することを特徴とする請求項7
    に記載のデータ処理装置。
  9. 【請求項9】 前記検出手段は、前記差し替え対象デー
    タのアクセスユニットのサイズを検出し、 前記調整手段は、前記検出手段により検出されたサイズ
    に対応して、前記差し替え用のデータのアクセスユニッ
    トに、外部データとして、スタッフィングデータを付加
    することを特徴とする請求項7に記載のデータ処理装
    置。
  10. 【請求項10】 前記差し替え対象データと差し替え用
    データは、長さを調整するために用いられる調整データ
    を有し、前記調整手段は、前記調整データを増減するこ
    とで、その長さを調整することを特徴とする請求項7に
    記載のデータ処理装置。
  11. 【請求項11】 1以上のデジタル信号を多重化した多
    重化ストリームの一部の差し替え対象データを他の差し
    替え用データに差し替えるデータ処理方法において、 前記差し替え用データと前記差し替え対象データの一方
    のサイズを検出する検出ステップと、 前記検出ステップの検出結果に対応して、前記差し替え
    用データと前記差し替え対象データの他方の長さを調整
    する調整ステップと、 前記調整ステップにより調整された前記差し替え対象デ
    ータと前記差し替え用データとを差し替える差し替えス
    テップとを備えることを特徴とするデータ処理方法。
  12. 【請求項12】 1以上のデジタル信号を多重化した多
    重化ストリームの一部の差し替え対象データを他の差し
    替え用データに差し替えるデータ処理装置に用いるコン
    ピュータプログラムであって、 前記差し替え用データと前記差し替え対象データの一方
    のサイズを検出する検出ステップと、 前記検出ステップの検出結果に対応して、前記差し替え
    用データと前記差し替え対象データの他方の長さを調整
    する調整ステップと、 前記調整ステップにより調整された前記差し替え対象デ
    ータと前記差し替え用データとを差し替える差し替えス
    テップとを備えるコンピュータプログラムを伝送するこ
    とを特徴とする伝送媒体。
  13. 【請求項13】 1以上のデジタル信号を多重化した多
    重化ストリームの一部の差し替え対象データを他の差し
    替え用データに差し替えるデータ処理装置において、 前記差し替え用データとして、前記差し替え対象データ
    に対応する長さのデータを提供する提供手段と、 前記差し替え対象データの時刻情報を検出する検出手段
    と、 前記検出手段により検出された時刻情報に対応して、前
    記差し替え用のデータの時刻情報を書き換える書き換え
    手段と、 前記差し替え対象データを、前記書き換え手段により書
    き換えられた時刻情報を有する前記差し替え用データで
    差し替える差し替え手段とを備えることを特徴とするデ
    ータ処理装置。
  14. 【請求項14】 1以上のデジタル信号を多重化した多
    重化ストリームの一部の差し替え対象データを他の差し
    替え用データに差し替えるデータ処理方法において、前
    記差し替え用データとして、前記差し替え対象データに
    対応する長さのデータを提供する提供ステップと、 前記差し替え対象データの時刻情報を検出する検出ステ
    ップと、 前記検出ステップにより検出された時刻情報に対応し
    て、前記差し替え用のデータの時刻情報を書き換える書
    き換えステップと、 前記差し替え対象データを、前記書き換えステップによ
    り書き換えられた時刻情報を有する前記差し替え用デー
    タで差し替える差し替えステップとを備えることを特徴
    とするデータ処理方法。
  15. 【請求項15】 1以上のデジタル信号を多重化した多
    重化ストリームの一部の差し替え対象データを他の差し
    替え用データに差し替えるデータ処理装置に用いるコン
    ピュータプログラムであって、 前記差し替え用データとして、前記差し替え対象データ
    に対応する長さのデータを提供する提供ステップと、 前記差し替え対象データの時刻情報を検出する検出ステ
    ップと、 前記検出ステップにより検出された時刻情報に対応し
    て、前記差し替え用のデータの時刻情報を書き換える書
    き換えステップと、 前記差し替え対象データを、前記書き換えステップによ
    り書き換えられた時刻情報を有する前記差し替え用デー
    タで差し替える差し替えステップとを備えるコンピュー
    タプログラムを伝送することを特徴とする伝送媒体。
JP28799797A 1997-10-03 1997-10-03 データ処理装置およびデータ処理方法、並びに記録媒体 Expired - Fee Related JP3622451B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP28799797A JP3622451B2 (ja) 1997-10-03 1997-10-03 データ処理装置およびデータ処理方法、並びに記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP28799797A JP3622451B2 (ja) 1997-10-03 1997-10-03 データ処理装置およびデータ処理方法、並びに記録媒体

Publications (2)

Publication Number Publication Date
JPH11112573A true JPH11112573A (ja) 1999-04-23
JP3622451B2 JP3622451B2 (ja) 2005-02-23

Family

ID=17724475

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28799797A Expired - Fee Related JP3622451B2 (ja) 1997-10-03 1997-10-03 データ処理装置およびデータ処理方法、並びに記録媒体

Country Status (1)

Country Link
JP (1) JP3622451B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002082699A1 (fr) * 2001-04-05 2002-10-17 Matsushita Electric Industrial Co., Ltd. Procede et appareil de transmission de flux de transport (ts) d'emission de radiodiffusion de donnees, chaine de transmission d'emission de radiodiffusion de donnees, moyen d'enregistrement, appareil de delivrance et systeme de delivrance
JP2002320211A (ja) * 2001-04-20 2002-10-31 Sony Corp 送受信装置および方法
JP2004507123A (ja) * 2000-03-31 2004-03-04 インテロシティ ユーエスエイ、インコーポレイテッド 地域メタデータ挿入のシステム及び方法
JP2004187319A (ja) * 2001-04-05 2004-07-02 Matsushita Electric Ind Co Ltd データストリーム配信システム、第1データストリーム送出装置、第2データストリーム送出装置、データストリーム送出方法、及びそれらのプログラム並びにそれらのプログラムを記録した記録媒体
WO2005053192A1 (ja) * 2003-11-26 2005-06-09 Matsushita Electric Industrial Co., Ltd. コンテンツ送信装置
JP2005176037A (ja) * 2003-12-12 2005-06-30 Nippon Television Network Corp データ放送のコンテンツ変更システム及びその方法と、プログラム
JP2006268483A (ja) * 2005-03-24 2006-10-05 Seiko Epson Corp データ転送制御装置及び電子機器
WO2007029532A1 (ja) * 2005-09-02 2007-03-15 Leader Electronics Corp. 放送tsの一部を修正する装置
JP2008526067A (ja) * 2004-12-23 2008-07-17 ノキア コーポレイション パディングのために使用される他のスペースを用いてue及び無線アクセスネットワーク間のスケジューリング情報を通信するための方法及び装置
JP2010081216A (ja) * 2008-09-25 2010-04-08 Aiphone Co Ltd インターホンシステム

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004507123A (ja) * 2000-03-31 2004-03-04 インテロシティ ユーエスエイ、インコーポレイテッド 地域メタデータ挿入のシステム及び方法
JP4961575B2 (ja) * 2000-03-31 2012-06-27 オープンティービー、インコーポレイテッド 地域メタデータ挿入のシステム及び方法
US7743402B2 (en) 2001-04-05 2010-06-22 Panasonic Corporation Data broadcast program transport stream (TS) transmission device, related method, computer program and storage medium, distribution device and distribution system
JP2004187319A (ja) * 2001-04-05 2004-07-02 Matsushita Electric Ind Co Ltd データストリーム配信システム、第1データストリーム送出装置、第2データストリーム送出装置、データストリーム送出方法、及びそれらのプログラム並びにそれらのプログラムを記録した記録媒体
JPWO2002082699A1 (ja) * 2001-04-05 2004-07-29 松下電器産業株式会社 データストリーム送出装置、その方法、データストリーム送出プログラム、記録媒体及び配信装置並びに配信システム
WO2002082699A1 (fr) * 2001-04-05 2002-10-17 Matsushita Electric Industrial Co., Ltd. Procede et appareil de transmission de flux de transport (ts) d'emission de radiodiffusion de donnees, chaine de transmission d'emission de radiodiffusion de donnees, moyen d'enregistrement, appareil de delivrance et systeme de delivrance
JP2002320211A (ja) * 2001-04-20 2002-10-31 Sony Corp 送受信装置および方法
WO2005053192A1 (ja) * 2003-11-26 2005-06-09 Matsushita Electric Industrial Co., Ltd. コンテンツ送信装置
JP2005176037A (ja) * 2003-12-12 2005-06-30 Nippon Television Network Corp データ放送のコンテンツ変更システム及びその方法と、プログラム
JP4750800B2 (ja) * 2004-12-23 2011-08-17 ノキア コーポレイション パディングのために使用される他のスペースを用いてue及び無線アクセスネットワーク間のスケジューリング情報を通信するための方法及び装置
JP2008526067A (ja) * 2004-12-23 2008-07-17 ノキア コーポレイション パディングのために使用される他のスペースを用いてue及び無線アクセスネットワーク間のスケジューリング情報を通信するための方法及び装置
US8189615B2 (en) 2004-12-23 2012-05-29 Nokia Corporation Method and apparatus for communicating scheduling information from a UE to a radio access network
US8717999B2 (en) 2004-12-23 2014-05-06 Nokia Corporation Method and apparatus for communicating scheduling information from a UE to a radio access network
JP2006268483A (ja) * 2005-03-24 2006-10-05 Seiko Epson Corp データ転送制御装置及び電子機器
WO2007029532A1 (ja) * 2005-09-02 2007-03-15 Leader Electronics Corp. 放送tsの一部を修正する装置
JP2010081216A (ja) * 2008-09-25 2010-04-08 Aiphone Co Ltd インターホンシステム

Also Published As

Publication number Publication date
JP3622451B2 (ja) 2005-02-23

Similar Documents

Publication Publication Date Title
KR100226528B1 (ko) 다중화 압축화상/음성데이타의 복호장치
JP4668515B2 (ja) マルチメディアコンテンツに同期化されたメタデータ伝送装置及び方法
US6542518B1 (en) Transport stream generating device and method, and program transmission device
KR100308704B1 (ko) 다중화 데이터 생성 장치, 부호화 데이터 재생 장치, 클럭 변환 장치, 다중화 데이터 생성 방법, 부호화 데이터 재생 방법 및 클럭 변환 방법
JP2000083226A (ja) バッファ機構及びタ―ゲットシステム復号化器及びデ―タのバッファ化方法
US20050190833A1 (en) Encoded data outputting apparatus and method
JPH11340938A (ja) データ多重化装置及び方法
KR100308034B1 (ko) 포맷변환장치
KR20100008006A (ko) 트랜스포트 스트림으로부터 프로그램 스트림으로의 변환
EP0826289B1 (en) Data multiplexing apparatus
JP3622451B2 (ja) データ処理装置およびデータ処理方法、並びに記録媒体
US7391773B2 (en) Data processing apparatus and method and computer readable storage medium
JP3649266B2 (ja) データ多重化装置および方法、並びに記録媒体
US10700799B2 (en) Method and apparatus for broadcast signal transmission
US7653289B1 (en) Stream converting method and apparatus thereof, and stream recording method and apparatus thereof
JP3520595B2 (ja) 符号化画像・音声データの受信装置
JP2005347787A (ja) 情報記録装置及び情報記録方法
JPH09312656A (ja) 伝送装置およびその方法
US7949052B1 (en) Method and apparatus to deliver a DVB-ASI compressed video transport stream
JP2000049726A (ja) 多重化装置及び方法
JP2010028642A (ja) 画像伝送システム
JP2002077827A (ja) データ配信装置及び方法、データ配信システム
JPH09298748A (ja) Mpegビットストリームにおいてスタッフィングビットの代わりにプライベートデータを送る方法および装置
JP2000187940A (ja) 記録再生装置、および記録装置
Reid An MPEG-2 digital decoder design: A practical approach with emphasis on elementary stream data flows

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040213

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041102

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041115

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071203

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081203

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091203

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091203

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101203

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111203

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111203

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121203

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121203

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131203

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees