JP2002534922A - マルチメディア信号を伝送する伝送システム - Google Patents
マルチメディア信号を伝送する伝送システムInfo
- Publication number
- JP2002534922A JP2002534922A JP2000593028A JP2000593028A JP2002534922A JP 2002534922 A JP2002534922 A JP 2002534922A JP 2000593028 A JP2000593028 A JP 2000593028A JP 2000593028 A JP2000593028 A JP 2000593028A JP 2002534922 A JP2002534922 A JP 2002534922A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- presentation
- delay
- multimedia
- presenting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000005540 biological transmission Effects 0.000 title abstract description 18
- 230000008859 change Effects 0.000 claims abstract description 17
- 230000005236 sound signal Effects 0.000 claims description 28
- 238000000034 method Methods 0.000 claims description 23
- 238000005259 measurement Methods 0.000 claims description 22
- 230000007704 transition Effects 0.000 claims description 6
- 238000004891 communication Methods 0.000 abstract description 9
- 230000015572 biosynthetic process Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 6
- 238000003786 synthesis reaction Methods 0.000 description 6
- 239000006185 dispersion Substances 0.000 description 5
- 230000007423 decrease Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 3
- 239000000654 additive Substances 0.000 description 2
- 230000000996 additive effect Effects 0.000 description 2
- 230000006837 decompression Effects 0.000 description 2
- 230000001934 delay Effects 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 102100036738 Guanine nucleotide-binding protein subunit alpha-11 Human genes 0.000 description 1
- 101100283445 Homo sapiens GNA11 gene Proteins 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000001747 exhibiting effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/238—Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
- H04N21/2387—Stream processing in response to a playback request from an end-user, e.g. for trick-play
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23406—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving management of server-side video buffer
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/233—Processing of audio elementary streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/439—Processing of audio elementary streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/47205—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for manipulating displayed content, e.g. interacting with MPEG-4 objects, editing locally
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Human Computer Interaction (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Telephonic Communication Services (AREA)
- Television Systems (AREA)
- Communication Control (AREA)
- Transmission Systems Not Characterized By The Medium Used For Transmission (AREA)
Abstract
Description
ザにそのマルチメディア信号を呈示(ないしは再生)するための呈示手段を有す
るものである。本発明はまた、マルチメディア信号を再生する方法に関する。
により、URL:http://www.isoc.org/HMP/PAPER/2070/html/paper.htmlにおけ
るISOCウェブサイト上で発表された論文「インターネット上の使用に確実な
オーディオ(Reliable Audio for Use over the Inernet)」から知られる。
ネットワーク又はMPEG−2トランスポートストリームのような)パケット交
換網(packet switched network)においてオーディオ及びビデオ情報の如きマ
ルチメディア信号を伝送するのに用いられる。
ケット損失、パケット遅延及びパケット遅延分散が生じることである。パケット
損失は、不完全パケット系列がユーザに呈示される前にそれらを完成させるため
の復元技術を用いることによって防止される。
つための大規模受信バッファを用いることによって処理される。これを実現可能
にするために、受信バッファは、起こりうる最大遅延分散を処理するのに十分大
きくされなければならない。これにより、マルチメディア信号がユーザに呈示さ
れる前に当該マルチメディア信号の十分な遅延をもたらすのである。
な全二重通信システム、及びビデオ会議システムやネットワークゲームのような
複数関係者システム(マルチパーティシステム)において特に問題となっている
。
延全部が大幅に短縮された伝送システムを提供することである。
前記マルチメディア信号を搬送するパケットの到着遅延を判定する遅延判定手段
を有し、前記呈示手段は、前記マルチメディア信号を搬送するパケットの到着遅
延に基づいてその呈示速度を変えるよう構成されていることを特徴としている。
により、より小さいサイズのバッファは、遅延分散を処理するために当該第2の
局に用いることができる。第2の局におけるこの小さくなったバッファサイズに
より、全体の末端間遅延が大幅に低減される。
が分かったのである。
新技術(A New Technique for Audio Packet Loss Concealment)」なる記事を
見聞すると、この記事は、IEEE Globecom 219296 conference, London, Novembe
r 218-222, 219296 において提示され、the Gloval Internet ’296 Conference
Record, pp. 248-252において発表されたものであり、原オーディオ信号の時間
伸張により損失したパケットを復元する方法を提示している。しかしながら、こ
の記事は、マルチメディア信号を伝送する通信システムの全体の端末間遅延を低
減するツールとして時間伸張(技術)を使用することは述べていない。
ルチメディア信号の伝送へ適用可能なだけではなく、マルチメディアの利用可能
性が何らかのジッタを呈するような全ての状況において適用可能である。
サにおいて計算される必要がある場合である。その演算時間は、当該マルチメデ
ィアの実際の内容に依存することとなり、これによりマルチメディア信号は、必
ずしも正確な規則正しい瞬間で利用可能であることにはならならない。これは例
えば、マルチタスキングオペレーティングシステムを実行しているコンピュータ
の場合であり、当該技術の全ての状態においてコンピュータがゲームをする場合
であって当該マルチメディア信号の計算に詳細な3D画像の描画が伴うときであ
る。2つ目の例は、CD−ROM又はハードディスクのような記憶装置からのマ
ルチメディア信号を検索する場合である。
、これによりマルチメディア信号にジッタが入る。
づくものとすれば、マルチメディア信号のより円滑な呈示がなされうる。
記呈示手段は、前記オーディオ信号の検知されたイントネーションを実質的に変
えることなく前記オーディオ信号の呈示速度を変えるよう構成されていることを
特徴としている。
とは、当該変更された呈示速度の可聴性を低減するものである。オーディオ信号
のイントネーションを変更することなくオーディオ信号の呈示速度を変更する方
法は、先行技術において幾つか知られている。その1つの例は、上記Globecomの
記事に提示されている。
くとも当該振幅及び周波数によって規定されている複数の信号を有する複数のセ
グメントによって表され、前記呈示手段は、当該パケットの利用可能性(又は可
用性ないし稼働率)に基づいて当該セグメントの存続期間を変更するよう構成さ
れることを特徴としている。
ネーションを変更することなく呈示速度の変更を極めて容易に変更することが可
能となる。こうした呈示において、オーディオ信号の基本周波数は、当該信号を
表すのに用いられる信号の特性により規定され、オーディオ信号を復元するとき
に用いられるセグメントの長さが呈示速度を規定するのである。
よりも長いときは、再生呈示速度は、オリジナルの呈示速度よりも低くなる。
よりも短いときは、再生呈示速度は、オリジナルの呈示速度よりも高くなる。
す差信号を判定する比較手段を具備する制御手段を有し、前記呈示手段は、前記
差の値に基づいて呈示速度を調整する調整手段を有する、ことを特徴としている
。
を提供するものである。
前記基準値を適応させる適応手段を有する、ことを特徴としている。
って、平均バッファサイズは、マルチメディア信号に存在するジッタの実際の量
に基づいたものとすることができる。ジッタが高い場合、当該基準値は大きな値
を持つことになり、バッファに存在するパケットが多くなる。ジッタが低い場合
、当該基準値は低い値を持つことになり、バッファに存在するパケットが少数と
なる。
タの実際量を処理するのに必要なものよりも、決して大きくならないのである。
合に有用であり、前記ビデオ信号は、少なくとも1つのオブジェクトにより表さ
れ、前記呈示手段は、前記ビデオ信号における少なくとも1つのオブジェクトの
移動速度を調整することにより前記呈示速度を変化させるよう構成される、こと
を特徴としている。
離した複数のオブジェクトにより表されるビデオ信号に有用である。このような
ビデオ信号において、呈示速度は、当該オブジェクト以上の移動速度を調整する
ことにより簡単に変えることができる。呈示速度を変更するこの手法は、当該装
置のユーザには殆ど気づかれない。
ンポーネントを有し、前記遅延測定値は、当該少なくとも2つのコンポーネント
間におけるタイミング差を表し、前記呈示手段は、そのタイミング差を減らすべ
く前記呈示速度を変化させるよう構成される、ことを特徴としている。
に適している。そして遅延測定値は、その2つのコンポーネントの間におけるタ
イミング差を表すものとなる。このタイミング差は、例えば、マルチメディア信
号のコンポーネントの各々が含まれたタイムスタンプから得ることができるので
ある。
の局又は端末3におけるエンコーダ1に供給される。エンコーダ1は、かかる入
力信号から符号化されたマルチメディア信号を得るように構成される。エンコー
ダ1の出力は、送信器2の入力に接続される。送信器2は、伝送に適した送信信
号を得るよう構成される。この送信器の出力は、当該第1の局の出力を構成し、
パケット交換伝送ネットワーク4に接続されている。
は、ネットワーク4から符号化マルチメディア信号を有するパケットを受信する
受信器8を有する。受信器8は、バッファメモリ10に当該マルチメディア信号
を有するパケットを転送する。一般に、バッファメモリ10は、FIFOメモリ
とされることが多い。かかるFIFOメモリでは、パケットがバッファメモリ1
0に書き込まれるのと同じ順番でバッファメモリ10からパケットが読み出され
る。バッファメモリ10の第1の出力は、一時的にバッファメモリ10に記憶さ
れたバッファ記憶パケットを搬送するものであり、呈示手段14と接続される。
の到着遅延を示す測定値を搬送するものであり、制御装置12の第1の入力に接
続される。かかる到着遅延を示す測定値は、バッファにおける現在のパケット数
を有することが可能である。当該遅延が増加すると、バッファ10のパケット数
が減り、当該遅延が減少すると、当該バッファのパケット数は、増加することに
なる。バッファに存在するパケット数は、読出ポインタと書込ポインタとの位置
間の差を計算することによって容易に判定可能である。
の所定の部分の実際の到着時間と、当該マルチメディア信号の当該所定の部分に
関連したタイムスタンプとの比較から遅延測定値を得ることもできる。
メモリ10の第2の入力に接続される。かかる読出制御信号は、バッファメモリ
10に対しその出力に次のパケットを出力するよう指示する。制御装置12の第
2の出力は、呈示速度を示すものであり、呈示手段14におけるデコーダ16の
制御入力に接続される。本発明の発明性に係るコンセプトによれば、制御装置1
2は、伝送遅延を示す測定値に基づいて呈示速度を判定する。かかる伝送遅延の
測定尺度は、ここではバッファ10に存在するパケット数である。セグメント長
さ指示子は、合成すべきセグメントの実際の長さをデコーダ16に知らせる。
号のサンプルのセグメントを得る。セグメントの持続期間は一定である必要がな
いが、マルチメディア信号の呈示速度を変更するためにセグメント長さ指示子に
応答して変わるようにしてもよい。デコーダ16の出力は、ある呈示装置18に
接続される。かかる呈示装置は、マルチメディア信号がオーディオ信号を有する
場合にはスピーカとすることができ、マルチメディア信号がビデオ信号を有する
場合には表示装置とすることができる。
20の第1の入力に供給される。本実施例おいて、この入力信号は、バッファに
おけるパケット数を示す。コンパレータ20は、バッファにおけるパケット数を
基準値REFと比較する。コンパレータ20の出力は、ローパスフィルタ22を
介してクロック信号発生器24の制御入力端に結合する。クロック信号発生器2
4は、バッファ10の読出制御信号と、デコーダ16のフレーム長さ指示子とを
発生する。
したことを意味する。従って、コンパレータ20は、クロック信号発生器をして
読出制御信号の周波数を低減せしめかつ当該フレーム長指示子により示されるフ
レーム長を増大せしめる出力信号を発生する。これにより、呈示速度が低下する
ことになる。こうして呈示速度が低下することにより、バッファの読み出しは少
なくなり、割に頻繁にバッファにパケットを詰め込む機会を与えることとなる。
従って、バッファにおけるパケット数は、しばらくして増加することになる。
の出力信号は、クロック信号発生器をして読出制御信号の周波数を増大せしめか
つフレーム長さ指示子によって示されるフレーム長を減少せしめる出力信号を発
生することとなる。このように基準値を超えることは、例えば、突発的に減少す
る伝送遅延によって生じうる。読出制御信号の周波数が増えると、呈示速度が上
昇することになる。このような呈示速度の上昇により、バッファ内のパケット数
は、しばらくして減ることになる。
制御ループが得られる。フィルタ22は、クロック信号発生器に供給される前に
コンパレータの出力信号のある種の平滑化をなすようコンパレータ20とクロッ
ク信号発生器との間に設けられる。また、フィルタ22を省略することも考えら
れる。
平均化された)遅延分散の関数として変更可能である。
、バッファのサイズを非常に小さくすることができる。この場合、基準値を低い
値にセットすることができる。
変化する場合、バッファのサイズは、そのバッファが空になることを防ぐために
、より大きくすべきである。この場合、基準値REFは、大幅により高い値へ設
定すべきである。
するバッファサイズが用いられる。これら測定値は、マルチメディア信号おける
知覚可能な瞬時降下を伴うことなく、末端から末端への遅延を低くすることとな
る。
よって容易に判定可能である。この最大及び最小遅延値は、所与の測定時間にお
いて判定される。
い値に基準値を設定することもできる。この方法により、当該応答時間を、±2
00のmsに対応する、数10パケットの期間に短縮することができる。
プを有するものと考えられる。カウンタ353によって、人工のタイムスタンプ
は、呈示速度も決定するクロック発振器353によって生成されるクロック信号
から得られる。加算器350は、パケットにおける実際のタイムスタンプとカウ
ンタ353の出力に得られる人工のタイムスタンプとの間の差を判定する。この
差は、本発明の発明性に係るコンセプトによる遅延測定値である。
たなパケットが到着する速度よりも低い。バッファのオーバーフローを防ぐため
に、呈示速度は増大せしめられる。実際のタイムスタンプが人工のタイムスタン
プより小さい場合、呈示速度は新たなパケットが到着する速度より高い。バッフ
ァがエンプティ(空)となるのを防ぐため、呈示速度は、減少せしめられる。ロ
ーパスフィルタ351は、呈示速度の変動を平滑化するために設けられている。
される。受信レートfrは、1/(Treceive[k]−Treceive[k−1])に
よって規定される。ここで、Treceive[k]−Treceive[k−1]は、2つ連
続パケットの到着時間の差である。呈示レートfpは、1/(Tpresentation[
k]−Tpresentation[k−1])により規定される。ここで、Tpresentation [k]−Tpresentation[k−1]は、2つの連続パケットの呈示時間の差であ
る。
差値の和より決して大きくないと仮定したものである。これは、次のように書く
ことができる。
である。このアルゴリズムは、次のように動作する。
1及びパケットi)がバッファにある場合、パケットi−2はバッファから出さ
れて前回パケットi−3を受信したレートで呈示される。これは、fP[i−2
]=fr[i−3]によって表すことができる。
i−1]は次のように書くことができる。
に再び到来している場合、3つのパケットがバッファに存在し、次のパケットi
−1に用いられる呈示レートがAによって判定される。パケットi+1が未だ到
着しておらずこれによりfr[i]が認識されていないとき、上記仮定(1)は
、遅くともパケットi+1の到着TR[i+1]について
もって伸張して呈示される。
、
)式によれば、少なくともパケットi+1もTP[i]で到着しているものとな
る。バッファ内に2以上のパケットがあるかどうかにより、次のパケットのレー
トがA(3つのパケット以上)かB(2つのパケット)に応じて判定される。
決してアンダーフローしないことが確実となる。それは、バッファのオーバーフ
ローに対してバウンドしない。これに代わる幾つかの手法も考えられる。
均で一定レートにて到来すると考えたとき、fpがfrにロックしているので、
バッファは安定することになる。
ートが減少するとバッファはエンプティになり、そうでなければ一定のままとな
る。
る全てのパケットのすべてのfrの平均である。
を用いる。
Cオフセットを排除するためにDCノッチフィルタ210によって濾過される。
このDCノッチフィルタは、15Hzのカットオフ周波数(−3dB)を有する
。DCノッチフィルタ210の出力信号は、バッファ211の入力端に供給され
る。本発明によれば、バッファ211は、有声音エンコーダ216に400点の
DCフィルタ処理済音声サンプルのブロックを供給する。かかる400点サンプ
ルのブロックは、10msの音声に係る5つのフレーム(それぞれ80点のサン
プルがある)を有する。かかるフレームは、現在符号化されるべきフレーム、先
行の2つのフレーム及び後続の2つのフレームを有する。バッファ211は、各
フレーム期間において最新に受信したフレームの80点のサンプルを200Hz
高域通過フィルタ212の入力端に供給する。高域通過フィルタ212の出力は
、無声音エンコーダ214の入力端と有声/無声音検出器228の入力端とに接
続される。高域通過フィルタ212は、有声/無声音検出器228に360サン
プルのブロックを供給し、160サンプル(音声エンコーダ4が5.2kbit
/secのモードで動作する場合)又は240サンプル(音声エンコーダ4が3
.2のkbit/secのモードで動作する場合)のブロックを無声音エンコー
ダ214に提供する。上述したサンプルの種々のブロックとバッファ211の出
力との関係は、下表に示される。
かを判定し、その結果を有声/無声フラグとして呈示する。このフラグは、マル
チプレクサ222、無声音エンコーダ214及び有声音エンコーダ216に送ら
れる。有声/無声フラグの値に従って、有声音エンコーダ216又は無声音エン
コーダ214は、起動(活性化)される。
正弦波信号として表される。有声音エンコーダの出力は、ピッチ値、ゲイン値及
び216個の予測パラメータの表現値を提供する。このピッチ値及びゲイン値は
、マルチプレクサ222の対応する入力端に供給される。
行される。3.2kbit/secにおいては、無声音から有声音又はその逆に
おける遷移がなされた場合を除き、当該LPC計算は20ms毎に実行される。
このような遷移が起きた場合、3.2kbit/secのモードにおいては当該
LPC計算が10msec毎に実行される。
る入力端に転送される。
され、無声音信号を示す。かかるゲイン値及び6つのLPC係数は、マルチプレ
クサ222の対応する入力端に送られる。マルチプレクサ222は、有声/無声
ディテクタ228の決定に基づいて、符号化された有声音信号又は符号化された
無声音信号を選択するよう構成される。マルチプレクサ222の出力端では、当
該符号化された音声信号が得られる。
/無声フラグは、デマルチプレクサ92に渡される。ゲイン値及び受信された改
良ピッチ値も、デマルチプレクサ92に渡される。
調波音声合成器94に改良ピッチ、ゲイン及び16個のLPCコードを渡す。有
声/無声フラグが無声音フレームを示す場合、デマルチプレクサ92は、無声音
合成器96にゲイン及び6つのLPCコードを渡す。高調波音声合成器94の出
力における合成された有声音信号
0の入力端に、高調波音声合成器94の出力信号
ク100の入力端に、無声音合成器96の出力信号
及び無声音セグメントが加算される。重複及び付加合成ブロック100の出力信
号
レームの有声/無声フラグであり、vkは現在の音声フレームの有声/無声フラ
グである。長さNSは所望の呈示速度に応じて変更可能であることが分かる。フ
レームk−1の長さがNk−1と等しい場合、(6)式は
ノイズを抑圧(ないし阻止)することによって、認められる音声品質を向上させ
るよう構成される。
る符号化ピッチは、ピッチデコーダ104によって復号されピッチ周波数に変換
される。ピッチデコーダ104によって判定されるピッチ周波数は、位相合成器
106の入力端と、調波発振器バンク108の入力端と、LPCスペクトルエン
ベロープサンプラ110の第1の入力端に供給される。
ってデコードされる。LPC係数をデコードする方法は、現音声フレームが有声
又は無声音を含むかどうかによる。したがって、有声/無声フラグは、LPCデ
コーダ112の第2の入力端に供給される。LPCデコーダは、LPCスペクト
ルエンベロープサンプラ110の第2の入力端に、復元されたaパラメータを転
送する。LPCスペクトルエンベロープサンプラ112の動作は、(13),(
14)及び(15)により記述される。その理由としては、同じ動作がその改良
されたピッチコンピュータ32において行われるからである。
正弦波信号の位相
るよう選択される。有声音信号は、ウィンドウ処理されたNS個のサンプルをそ
れぞれ有する重複フレームを組み合わせることにより合成される。図7における
グラフ219及びグラフ223から分かるように、2つの隣接フレーム間には5
0%のオーバーラップがある。グラフ219及び223においては、使用される
ウィンドウが破線で示されている。そこで位相合成器は、当該オーバーラップが
その最も大きい衝撃を持つ位置で、連続位相を提供するよう構成される。ここで
用いられるウィンドウ関数では、この位置は、サンプル119のところである。
現フレームの位相
最も早い有声音フレームにとって、
窓を用いてウインドウ処理される。このウインドウ処理された信号は、図7のグ
ラフ221おいて示される。信号
ンドウ処理される。このウインドウ処理された信号は、図7のグラフ225に示
される。時間領域ウィンドウイングブロック114の出力信号は、上述したウィ
ンドウ処理された信号を加えることにより得られる。この出力信号は、図7のグ
ラフ227に示される。ゲインデコーダ118は、その入力信号からゲイン値g v を得、時間領域ウィンドウイングブロック114の出力信号は、復元された有
声音信号
りスケール処理される。
る場合、幾つかの変更は上述された合成プロセスに対してなされなければならな
い。以下おいては、フレーム長指示子は、複数のサンプルNi(iはフレームの
数)により示されると仮定される。先ず、位相
れる。
イングブロック114の動作も、少し変更される。信号
等しくされる。
メントの境界で呈示速度が変更される。グラフ418によって表されるセグメン
トは、グラフ422によって表されるセグメントより大幅に短い。グラフ420
及び424によりウィンドウイングしそのウィンドウ処理された信号を加算した
後は、グラフ426による信号が得られる。
、LPCデコーダ130に供給される。LPCデコーダ130は、LPC合成フ
ィルタ134に、複数の6つのaパラメータを提供する。ガウス白色ノイズ発生
器(Gaussian White-Noise Generator)132の出力端は、LPC合成フィルタ
143の入力端に接続される。LPC合成フィルタ134の出力信号は、時間領
域ウィンドウイングブロック140おいて、ハニング窓によってウインドウ処理
される。
ゲイン値
のこのゲイン及びエネルギーから、ウインドウ処理音声信号ゲインのスケーリン
グ係数
出力信号
り高い音声品質を求めるべく改変可能である。低いビットレートを必要とする音
声符号化システムの例としては、2kbit/secのエンコーディングシステ
ムがある。このようなシステムは、有声音に用いられる予測係数の数を16から
12に低減することにより、そして予測係数、ゲイン及び改良ピッチの差分符号
化を用いることにより得ることができる。差分符号化は、符号化されるべき日付
が個々に符号化されないものの、次のフレームからの対応データの間の差のみを
伝送することを意味する。有声音から無声音又はその反対の遷移においては、最
初の新しいフレームにおいて全ての係数が個々に符号化される。に出さないスピ
ーチへの推移又はその逆の遷移では、第1の新しいフレームおいて、当該符号化
のための開始値を提供するために、全ての係数が符号化される。
を得ることもできる。このときの改変事項は、複数の調和振動で関連する正弦波
信号の最初の8つの高調波の位相の判定である。位相
る付加的なゲイン値の伝送である。フレーム当たり1度の割合に代えて、通常2
msec毎にゲインが伝送される。遷移直後の最初のフレームにおいては、10
個のゲイン値が伝送される。それらのうちの5つは、現在の無声フレームを示し
ており、それらのうちの5つは、当該無声音エンコーダにより処理された前回有
声フレームを示している。これらゲインは、4msecの重複ウィンドウから判
定される。
デオ信号を搬送する第1の入力は、補間回路304の第1の入力とフレームメモ
リ302の入力とに結合される。フレームメモリ302は、バッファ10から前
に受信したビデオフレームを記憶するよう構成される。フレームメモリ302の
出力は、補間回路304の第2の入力に接続される。
オフレームとを補間するよう構成される。この補間回路は、呈示装置18で使用
されるよう一定のフレームレートをもってその出力端にビデオ信号を供給する。
依存する。この場合、バッファ10から受信されるビデオフレームが必ずしも同
じ間隔で表示されないことを意味する。2つのフレーム間の間隔は、当該遅延測
定値に依存するのである。
るために、補間回路304は、バッファ10から受信されるビデオフレーム間の
間隔に依存した複数の補間フレームを判定する。
る呈示速度から、補間されるべきフレーム数を計算する。タイムスタンプがビデ
オ信号に用いられている場合、今回及び前回フレームのタイムスタンプ間の差△
が計算手段306に供給される。これにより、計算手段306が、1以上のビデ
オフレームが消失した場合に補間すべきフレームの適正な数を判定することも可
能となる。
c 98において、G.デ・ハーン(de Haan)氏により論文「PCにおける揺れ
回避ビデオ(Judder free video on PC’s)」に記述されている。
。
を示す。
を示す。
図を示す。
細に示す。
の波形を示す。
音声合成器294における種々の波形を示す。
示す。
きデコーダ216のブロック図を示す。
Claims (13)
- 【請求項1】 ユーザにマルチメディア信号を呈示する呈示手段を有するマル
チメディア信号再生装置であって、 当該装置局は、前記マルチメディア信号を搬送するパケットの到着遅延を示す
遅延測定値を判定する遅延判定手段を有し、 前記呈示手段は、当該遅延測定値に基づいてその呈示速度を変えるよう構成さ
れていることを特徴とする装置。 - 【請求項2】 請求項1に記載の装置であって、 前記マルチメディア信号は、オーディオ信号を有し、 前記呈示手段は、前記オーディオ信号の検知されたイントネーションを実質的
に変えることなく前記オーディオ信号の呈示速度を変えるよう構成されているこ
とを特徴とする装置。 - 【請求項3】 請求項2に記載の装置であって、 前記オーディオ信号は、少なくとも当該振幅及び周波数によって規定されてい
る複数の信号を有する複数のセグメントによって表され、 前記呈示手段は、当該遅延測定値に基づいて当該セグメントの存続期間を変更
するよう構成されることを特徴とする装置。 - 【請求項4】 請求項1に記載の装置であって、 前記呈示手段は、前記遅延測定値と基準値との差を示す差信号を判定する比較
手段を具備する制御手段を有し、 前記呈示手段は、前記差の値に基づいて呈示速度を調整する調整手段を有する
、 ことを特徴とする装置。 - 【請求項5】 請求項4に記載の装置であって、 前記呈示手段は、前記差の値の変動に基づいて前記基準値を適応させる適応手
段を有する、ことを特徴とする装置。 - 【請求項6】 請求項1に記載の装置であって、前記マルチメディア信号は、
ビデオ信号を有することを特徴とする装置。 - 【請求項7】 請求項6に記載の装置であって、前記ビデオ信号は、少なくと
も1つのオブジェクトにより表され、前記呈示手段は、前記ビデオ信号における
少なくとも1つのオブジェクトの移動速度を調整することにより前記呈示速度を
変化させるよう構成される、ことを特徴とする装置。 - 【請求項8】 請求項1に記載の装置であって、前記マルチメディア信号は、
少なくとも2つのコンポーネントを有し、前記遅延測定値は、当該少なくとも2
つのコンポーネント間におけるタイミング差を表し、前記呈示手段は、そのタイ
ミング差を減らすべく前記呈示速度を変化させるよう構成される、ことを特徴と
する装置。 - 【請求項9】 マルチメディア信号を再生し、ユーザにそのマルチメディア信
号を呈示する方法であって、当該方法はさらに、前記マルチメディア信号を搬送
するパケットの到着遅延を表す遅延測定値を判定し、当該方法はさらに、当該遅
延測定値に基づいて当該呈示速度を変える、ことを特徴とする方法。 - 【請求項10】 請求項9に記載の方法であって、前記マルチメディア信号は
、オーディオ信号を有し、当該方法は、前記オーディオ信号の知覚されるイント
ネーションを実質的に変えることなく前記オーディオ信号の呈示速度を変えるこ
とを特徴とする方法。 - 【請求項11】 請求項10に記載の方法であって、前記オーディオ信号は、
少なくとも当該振幅及び周波数によって規定されている複数の波形を有する複数
のセグメントによって表され、当該方法は、当該遅延測定値に基づいて当該セグ
メントの存続期間を変更することを特徴とする方法。 - 【請求項12】 請求項9に記載の方法であって、前記マルチメディア信号は
、ビデオ信号を有することを特徴とする方法。 - 【請求項13】 請求項12に記載の方法であって、前記ビデオ信号は、少な
くとも1つのオブジェクトにより表され、当該方法は、前記ビデオ信号おける少
なくとも1つのオブジェクトの遷移速度を調整することによって前記呈示速度を
変えることを特徴とする方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP99200027.3 | 1999-01-06 | ||
EP99200027 | 1999-01-06 | ||
PCT/EP1999/010306 WO2000041400A2 (en) | 1999-01-06 | 1999-12-21 | System for the presentation of delayed multimedia signals packets |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002534922A true JP2002534922A (ja) | 2002-10-15 |
JP4485690B2 JP4485690B2 (ja) | 2010-06-23 |
Family
ID=8239785
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000593028A Expired - Fee Related JP4485690B2 (ja) | 1999-01-06 | 1999-12-21 | マルチメディア信号を伝送する伝送システム |
Country Status (6)
Country | Link |
---|---|
US (1) | US20030179757A1 (ja) |
EP (1) | EP1058997A1 (ja) |
JP (1) | JP4485690B2 (ja) |
KR (1) | KR100722707B1 (ja) |
CN (1) | CN1127857C (ja) |
WO (1) | WO2000041400A2 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004518162A (ja) * | 2001-01-16 | 2004-06-17 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | パラメトリック符号化における信号成分の連結 |
WO2005109402A1 (ja) * | 2004-05-11 | 2005-11-17 | Nippon Telegraph And Telephone Corporation | 音声パケット送信方法、音声パケット送信装置、および音声パケット送信プログラムとそれを記録した記録媒体 |
JP2007534225A (ja) * | 2003-11-24 | 2007-11-22 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | Ptt及び他のリアルタイム対話型通信交換処理に関連する遅延を減少又は補償する方法 |
JPWO2007026604A1 (ja) * | 2005-08-29 | 2009-03-05 | 日本電気株式会社 | マルチキャストノード装置とマルチキャスト転送方法ならびにプログラム |
JP4819873B2 (ja) * | 2005-04-11 | 2011-11-24 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | 可変ビットレート・データのデータパケット送信を制御する技術 |
US8098662B2 (en) | 2006-06-07 | 2012-01-17 | Qualcomm Incorporated | Method and apparatus for using short addresses in a communication system |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4481444B2 (ja) * | 2000-06-30 | 2010-06-16 | 株式会社東芝 | 画像符号化装置 |
US6829244B1 (en) * | 2000-12-11 | 2004-12-07 | Cisco Technology, Inc. | Mechanism for modem pass-through with non-synchronized gateway clocks |
US20020180891A1 (en) * | 2001-04-11 | 2002-12-05 | Cyber Operations, Llc | System and method for preconditioning analog video signals |
US20040044741A1 (en) * | 2002-08-30 | 2004-03-04 | Kelly Declan Patrick | Disc specific cookies for web DVD |
JP3733943B2 (ja) * | 2002-10-16 | 2006-01-11 | 日本電気株式会社 | データ転送速度調停システム及びそれに用いるデータ転送速度調停方法 |
US7466362B2 (en) | 2002-10-22 | 2008-12-16 | Broadcom Corporation | Data rate management system and method for A/V decoder |
US7353284B2 (en) * | 2003-06-13 | 2008-04-01 | Apple Inc. | Synchronized transmission of audio and video data from a computer to a client via an interface |
CN100379224C (zh) * | 2003-11-06 | 2008-04-02 | 明基电通股份有限公司 | 媒体播放系统的数据控制的方法 |
US7542435B2 (en) * | 2004-05-12 | 2009-06-02 | Nokia Corporation | Buffer level signaling for rate adaptation in multimedia streaming |
CN1926824B (zh) * | 2004-05-26 | 2011-07-13 | 日本电信电话株式会社 | 声音分组再现方法、声音分组再现装置 |
US7418013B2 (en) * | 2004-09-22 | 2008-08-26 | Intel Corporation | Techniques to synchronize packet rate in voice over packet networks |
US7674096B2 (en) * | 2004-09-22 | 2010-03-09 | Sundheim Gregroy S | Portable, rotary vane vacuum pump with removable oil reservoir cartridge |
JP2008061150A (ja) * | 2006-09-04 | 2008-03-13 | Hitachi Ltd | 受信機及び情報処理方法 |
EP2077671B1 (en) * | 2008-01-07 | 2019-06-19 | Vestel Elektronik Sanayi ve Ticaret A.S. | Streaming media player and method |
CN101330340B (zh) * | 2008-07-31 | 2010-09-29 | 中兴通讯股份有限公司 | 移动多媒体广播终端自适应调整接收速率缓冲播放的方法 |
GB2478277B (en) * | 2010-02-25 | 2012-07-25 | Skype Ltd | Controlling packet transmission |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0413189A (ja) * | 1990-05-02 | 1992-01-17 | Brother Ind Ltd | カラオケ装置 |
US5592226A (en) * | 1994-01-26 | 1997-01-07 | Btg Usa Inc. | Method and apparatus for video data compression using temporally adaptive motion interpolation |
US5566208A (en) * | 1994-03-17 | 1996-10-15 | Philips Electronics North America Corp. | Encoder buffer having an effective size which varies automatically with the channel bit-rate |
US5521630A (en) * | 1994-04-04 | 1996-05-28 | International Business Machines Corporation | Frame sampling scheme for video scanning in a video-on-demand system |
US5603016A (en) * | 1994-08-03 | 1997-02-11 | Intel Corporation | Method for synchronizing playback of an audio track to a video track |
US5712976A (en) * | 1994-09-08 | 1998-01-27 | International Business Machines Corporation | Video data streamer for simultaneously conveying same one or different ones of data blocks stored in storage node to each of plurality of communication nodes |
US5761417A (en) * | 1994-09-08 | 1998-06-02 | International Business Machines Corporation | Video data streamer having scheduler for scheduling read request for individual data buffers associated with output ports of communication node to one storage node |
KR960015306A (ko) * | 1994-10-17 | 1996-05-22 | 김광호 | 양방향 전송방식 비데오 뱅크 장치 |
US5901149A (en) * | 1994-11-09 | 1999-05-04 | Sony Corporation | Decode and encode system |
GB9807295D0 (en) * | 1998-04-03 | 1998-06-03 | Snell & Wilcox Ltd | Improvements relating to audio-video delay |
US6272131B1 (en) * | 1998-06-11 | 2001-08-07 | Synchrodyne Networks, Inc. | Integrated data packet network using a common time reference |
US6690683B1 (en) * | 1999-11-23 | 2004-02-10 | International Business Machines Corporation | Method and apparatus for demultiplexing a shared data channel into a multitude of separate data streams, restoring the original CBR |
-
1999
- 1999-12-21 WO PCT/EP1999/010306 patent/WO2000041400A2/en not_active Application Discontinuation
- 1999-12-21 CN CN99805668A patent/CN1127857C/zh not_active Expired - Fee Related
- 1999-12-21 KR KR1020007009777A patent/KR100722707B1/ko not_active IP Right Cessation
- 1999-12-21 JP JP2000593028A patent/JP4485690B2/ja not_active Expired - Fee Related
- 1999-12-21 EP EP99965535A patent/EP1058997A1/en not_active Withdrawn
-
2000
- 2000-01-05 US US09/478,080 patent/US20030179757A1/en not_active Abandoned
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004518162A (ja) * | 2001-01-16 | 2004-06-17 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | パラメトリック符号化における信号成分の連結 |
JP2007534225A (ja) * | 2003-11-24 | 2007-11-22 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | Ptt及び他のリアルタイム対話型通信交換処理に関連する遅延を減少又は補償する方法 |
JP4728251B2 (ja) * | 2003-11-24 | 2011-07-20 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | Ptt及び他のリアルタイム対話型通信交換処理に関連する遅延を減少又は補償する方法 |
WO2005109402A1 (ja) * | 2004-05-11 | 2005-11-17 | Nippon Telegraph And Telephone Corporation | 音声パケット送信方法、音声パケット送信装置、および音声パケット送信プログラムとそれを記録した記録媒体 |
US7711554B2 (en) | 2004-05-11 | 2010-05-04 | Nippon Telegraph And Telephone Corporation | Sound packet transmitting method, sound packet transmitting apparatus, sound packet transmitting program, and recording medium in which that program has been recorded |
JP4819873B2 (ja) * | 2005-04-11 | 2011-11-24 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | 可変ビットレート・データのデータパケット送信を制御する技術 |
JPWO2007026604A1 (ja) * | 2005-08-29 | 2009-03-05 | 日本電気株式会社 | マルチキャストノード装置とマルチキャスト転送方法ならびにプログラム |
JP4761078B2 (ja) * | 2005-08-29 | 2011-08-31 | 日本電気株式会社 | マルチキャストノード装置とマルチキャスト転送方法ならびにプログラム |
US8098662B2 (en) | 2006-06-07 | 2012-01-17 | Qualcomm Incorporated | Method and apparatus for using short addresses in a communication system |
US8134952B2 (en) | 2006-06-07 | 2012-03-13 | Qualcomm Incorporated | PN code based addressing methods and apparatus for airlink communications |
US8259702B2 (en) | 2006-06-07 | 2012-09-04 | Qualcomm Incorporated | Efficient over the air address methods and apparatus |
US8416751B2 (en) | 2006-06-07 | 2013-04-09 | Qualcomm Incorporated | Method and apparatus used for airlink communications |
Also Published As
Publication number | Publication date |
---|---|
US20030179757A1 (en) | 2003-09-25 |
JP4485690B2 (ja) | 2010-06-23 |
WO2000041400A2 (en) | 2000-07-13 |
KR100722707B1 (ko) | 2007-06-04 |
WO2000041400A3 (en) | 2001-02-01 |
EP1058997A1 (en) | 2000-12-13 |
CN1302513A (zh) | 2001-07-04 |
KR20010083780A (ko) | 2001-09-01 |
CN1127857C (zh) | 2003-11-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4485690B2 (ja) | マルチメディア信号を伝送する伝送システム | |
US8937963B1 (en) | Integrated adaptive jitter buffer | |
Liang et al. | Adaptive playout scheduling using time-scale modification in packet voice communications | |
US7577565B2 (en) | Adaptive voice playout in VOP | |
US7324444B1 (en) | Adaptive playout scheduling for multimedia communication | |
JP4933605B2 (ja) | 適応デジッタバッファの方法及び装置 | |
US7319703B2 (en) | Method and apparatus for reducing synchronization delay in packet-based voice terminals by resynchronizing during talk spurts | |
US7502733B2 (en) | Method and arrangement in a communication system | |
KR100968928B1 (ko) | 오디오 스트림 및 비디오 스트림의 동기화 장치 및 방법 | |
JP4473869B2 (ja) | 音響信号のパケット通信方法、送信方法、受信方法、これらの装置およびプログラム | |
US7302396B1 (en) | System and method for cross-fading between audio streams | |
US6873954B1 (en) | Method and apparatus in a telecommunications system | |
EP1589330A1 (en) | Audio packet vanishment concealing device, audio packet vanishment concealing method, reception terminal, and audio communication system | |
US9479276B2 (en) | Network jitter smoothing with reduced delay | |
JPH01155400A (ja) | 音声符号化方式 | |
KR101002405B1 (ko) | 오디오 신호의 타임-스케일링 제어 | |
KR100861884B1 (ko) | 정현파 코딩 방법 및 장치 | |
JP3240832B2 (ja) | パケット音声復号方法 | |
JP2001352316A (ja) | データ伝送において発生する遅延ジッタを吸収する装置および方法 | |
KR100594599B1 (ko) | 수신단 기반의 패킷 손실 복구 장치 및 그 방법 | |
JP5074749B2 (ja) | 音声信号受信装置、それに使用される音声パケット消失補償方法、その方法を実施するプログラム、及びそのプログラムを記録した記録媒体 | |
Issing et al. | Adaptive playout for VoIP based on the enhanced low delay AAC audio codec | |
JPH07306697A (ja) | 欠落音声補間方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061220 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20090203 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20090409 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090424 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090812 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090901 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100223 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100325 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130402 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130402 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130402 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130402 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140402 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |