JP2004072720A - Media transmission method, transmitting apparatus and receiving apparatus therefor - Google Patents

Media transmission method, transmitting apparatus and receiving apparatus therefor Download PDF

Info

Publication number
JP2004072720A
JP2004072720A JP2003145962A JP2003145962A JP2004072720A JP 2004072720 A JP2004072720 A JP 2004072720A JP 2003145962 A JP2003145962 A JP 2003145962A JP 2003145962 A JP2003145962 A JP 2003145962A JP 2004072720 A JP2004072720 A JP 2004072720A
Authority
JP
Japan
Prior art keywords
media
transmission
rate
network
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003145962A
Other languages
Japanese (ja)
Other versions
JP3730974B2 (en
Inventor
Tomoyoshi Ito
伊藤 智祥
Takao Yamaguchi
山口 孝雄
▲吉▼羽 治峰
Harumine Yoshiba
Naoyuki Otoshi
大利 直行
Manabu Nakamura
中村 学
Junichi Hamada
濱田 準一
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2003145962A priority Critical patent/JP3730974B2/en
Publication of JP2004072720A publication Critical patent/JP2004072720A/en
Application granted granted Critical
Publication of JP3730974B2 publication Critical patent/JP3730974B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Communication Control (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To achieve high-quality media data transmission in the environment that an available band is considerably fluctuated by suppressing updating frequency of an encoding rate. <P>SOLUTION: When a transmission rate Rs is updated and the updated transmission rate Rs is settled within fluctuation width (Rc<Rs<U×Rc and U>1) defined by a present encoding rate Rc, without updating the present encoding rate Rc, an FEC (forward error-correction) data sending rate Rf is updated (Rf=Rs-Rc). When an Rc updating timer set to three sec is time-out, for example, on the other hand, the encoding rate Rc is updated by using a minimum value Rs-min of the transmission rate up to the moment (Rc=V×Rs-min and 0<V<1). Even when the transmission rate Rs is so fluctuated out of the fluctuation width, the encoding rate Rc is similarly updated. <P>COPYRIGHT: (C)2004,JPO

Description

【0001】
【発明の属する技術分野】
本発明は、カメラやマイクからの音声・映像データ、すなわちメディアデータを高品質で伝送するためのメディア伝送方法並びにその送信装置及び受信装置に関するものである。
【0002】
【従来の技術】
イントラネット、インターネットといった、IP(Internet Protocol)ネットワーク上では、様々な接続形態があり、接続形態により利用可能な帯域が数Kbps〜数百Mbpsと大きく異なる。しかも、他のフロー(伝送データ)の影響により、利用可能な帯域が時間的に変動する。このようなネットワークでメディアデータ伝送を行うためには、利用可能な伝送帯域にあわせて伝送レートを調整する伝送レート制御が必要になる。
【0003】
メディアデータをインターネットでリアルタイムに伝送するプロトコルとしてRTP(Realtime Transport Protocol)/RTCP(RTP Control Protocol)が知られている(非特許文献1参照)。このRTP/RTCPによれば、受信端末から送信端末へパケットロス率、伝播遅延時間、ジッタなどに関する情報をフィードバックし、このフィードバック情報に基づいてメディアデータの伝送レートを決定する。受信端末からのフィードバック情報の送信間隔(通知間隔)は固定値、例えば5秒であった。
【0004】
フィードバック情報を利用した伝送レート制御方法の1つとして、TFRC(TCP Friendly Rate Control)が知られている(非特許文献2参照)。このTFRCによれば、パケットロスが発生するまで伝送レートを上昇させ、パケットロスが発生した場合に伝送レートを下げるという制御を行うことで、メディアデータの伝送に適した円滑な伝送レートの更新が達成される。伝送レートの更新間隔は、1×RTT(Round Trip Time:往復伝播遅延時間)、例えば数十〜数百msである。
【0005】
一方、RTPに誤り訂正能力を付加する技術であるRFC2733方式も知られている(非特許文献3参照)。このRFC2733方式では、前方誤り訂正(FEC:Forward Error Correction)のための冗長データであるFECデータが、送信すべきデータに付加される。
【0006】
【非特許文献1】
H. Schulzrinne et al., ”RTP: A Transport Protocol for Real−Time Applications”, RFC 1889, Internet Engineering Taskforce, Jan. 1996
【非特許文献2】
M. Handley et al., ”TCP Friendly Rate Control (TFRC): Protocol Specification”, RFC 3448, Internet Engineering Taskforce, Jan. 2003
【非特許文献3】
J. Rosenberg et al., ”An RTP Payload Format for Generic Forward Error Correction”, RFC 2733, Internet Engineering Taskforce, Dec. 1999
【0007】
【発明が解決しようとする課題】
メディアデータに基づく符号化データを伝送する場合、TFRCに従って伝送レートを数十〜数百ms間隔で更新し、伝送レートが更新されるたびに符号化レートを更新することとすると、符号化レートが頻繁に変化する。したがって、例えば伝送する映像の画質が頻繁に変化することとなるため、主観画質が低下してしまう。
【0008】
また、受信端末から送信端末へのフィードバック情報の通知間隔を短くすると、利用可能な伝送帯域にすばやく追従し、伝送帯域を効率良く利用できるという利点がある反面、送信端末での伝送レートの更新頻度が高くなり、メディアデータの品質が頻繁に変化することになり、安定した品質でメディア伝送ができなくなる。また、他のフローとのスループットの公平性が低下する。逆に、フィードバック情報の通知間隔を長くすると、伝送レートの更新頻度が低くなり、伝送レートが安定するが、伝送帯域の変動にすばやく追従できなくなり、伝送帯域の効率的な利用ができなくなる。また、通知間隔が長い場合には、利用可能な伝送帯域が狭くなるとパケットがバースト的にロスすることになり、メディアデータの伝送品質が極端に劣化する。
【0009】
更に、従来は、データのパケットサイズが一定であったため、伝送レートが低下すると、送出するパケット数が少なくなる。パケットロス率Lは通常、受信端末において、
L=1−(期間Tのうちに受信端末に到達したデータパケットの数)/(期間Tのうちに送信端末が送信したデータパケットの数)
で算出される。期間Tは通常、前回のフィードバック情報を送信してから、今回のフィードバック情報を送信するまでの時間間隔である。この式から、送信端末が送出するパケット数が少なくなると、1つのパケットのパケットロスがパケットロス率を大きく変化させることが判る。例えば、伝送レートが極端に低くなり、期間Tのうちに1つしかパケットを送出できない状況であった場合には、パケットロス率は、そのパケットがロスしなかった場合には0%となり、ロスした場合には100%となる。このような状況では、パケットロス率をきめ細かく観測できないことが原因で、ネットワークの輻輳状態を正確に把握することができなくなる。
【0010】
更に、TFRCに代表される、TCPとの公平性を主眼に置いた方式においては、伝送レートを決定するための計算式の分母にRTTを含んでいる。RTTは、送信端末と受信端末との間をパケットが往復するのに要する時間であり、送信端末と受信端末との間の距離が短ければ1ms以下の値をとり得る。このような状況下では、RTTの測定結果が、送信端末からパケットを送信する処理を行うオペレーティングシステムの処理遅延の揺らぎや、パケットの転送処理を行うルータなどの転送処理の遅延の揺らぎなど、ネットワークの輻輳状態とは関連のない遅延の揺らぎによる影響を受け、その結果として伝送レートが大きく揺らいでしまう。
【0011】
本発明の目的は、利用可能な帯域が大きく変動する環境下で高品質のメディアデータ伝送を実現することにある。
【0012】
【課題を解決するための手段】
上記目的を達成するため、本発明は、符号化レートの頻繁な更新を抑制したり、フィードバック情報の通知間隔を調整したり、パケットサイズを変更したり、RTTにオフセットを加算したりすることとしたものである。
【0013】
具体的に説明すると、本発明は、メディアデータに基づく符号化データの伝送において、ネットワークの伝送状態に応じて伝送レートを更新し、かつ伝送レートの更新頻度より少ない頻度で符号化レートを更新することとしたものである。
例えば、伝送レートの更新間隔より長いタイムアウト時間が設定されたタイマがタイムアウトした時、あるいは伝送レートが所定の範囲を外れる値に更新された時に、ある時間内の伝送レートの最小値に応じて符号化レートを更新する。符号化データに誤り訂正のための冗長データを付加する場合には、伝送レートと符号化レートとの差を冗長データの送出レートに割り当てればよい。
【0014】
また、本発明は、メディアデータの伝送において、ネットワークの伝送状態を示すフィードバック情報を当該ネットワークの伝送状態に応じた可変の間隔で受信端末から通知し、当該通知されたフィードバック情報に応じてメディアデータの伝送レートを更新することとしたものである。例えば、パケットロス率が高い場合にはフィードバック情報の通知間隔を短くし、パケットロス率が低い場合にはフィードバック情報の通知間隔を長くする。ただし、フィードバック情報の通知間隔が所定の最小間隔を下回らないように制限するのがよい。
【0015】
また、本発明は、メディアデータの伝送において、伝送レートが低下し、パケットロスの観測期間内に所定のパケット数を送信できないと判定した場合には、データのパケットサイズを小さい値に変更することとしたものである。ネットワークの輻輳状態を正確に把握するためには、伝送レートが低下しても、一定期間内に送信端末が送出するデータパケットの数を一定数以上にすればよい。予めデータのパケットサイズを小さく設定し、送出するパケット数を多くするという方法も考えられるが、パケットにはヘッダを付与するため、パケット数が増えるとヘッダのオーバヘッドが大きくなるという課題がある。したがって、伝送レートが大きい場合には、パケットサイズは大きく設定し、伝送レートが低下した場合には、パケットサイズを小さくしてパケットロス率の観測精度を高めるといった適応的な処理を行うのである。これにより、パケットロス率をきめ細かく観測することができ、正確な伝送レートの決定を行うことができる。
【0016】
また、本発明は、RTTが所定の値よりも小さいときに、RTTにオフセットを加算することとしたものである。これにより、RTTの値が小さ過ぎる際に、伝送レートがネットワークの輻輳と関連のない遅延の揺らぎの影響を大きく受けることを防ぐことができる。
【0017】
【発明の実施の形態】
以下、本発明に係るメディア伝送方法並びにその送信装置及び受信装置の実施形態について、図面を参照しつつ説明する。
【0018】
図1及び図2は、メディアデータに基づく符号化データを伝送するためのメディア伝送システムの構成を示している。図1はメディア送信装置(送信端末)100の内部構成例を、図2はメディア受信装置(受信端末)200の内部構成例をそれぞれ示す。これら送信端末100と受信端末200とは、ネットワーク150を介して互いに接続されている。ネットワーク150は、有線網、無線網のいずれでもよく、有線網と無線網とを相互接続したネットワークであってもよい。送信端末100と受信端末200との間の伝送プロトコルとして、例えばRTP/RTCPを採用する。
【0019】
図1の送信端末100は、音声・映像入力部101と、符号化部102と、FEC生成部103と、伝送部104と、伝送レート決定部105と、符号化レート及びFECデータ送出レート決定部106と、パケットサイズ決定部108と、RTT計算部109とで構成されている。音声・映像入力部101は、符号化すべき音声・映像データ(メディアデータ)を入力するためのカメラ、マイクなどの手段である。符号化部102は、指定された符号化レートRcに従ってメディアデータから符号化データを生成するための手段である。例えばMPEG(Moving Picture Coding Experts Group)1/2/4、AMR(Audio/Modem Riser)などの標準化された圧縮・符号化方式を採用すればよい。また、この符号化部102は、パケットサイズ決定部108により決定されたパケットサイズでデータを出力する機能を有する。FEC生成部103は、指定されたFECデータ送出レートRfに従って符号化データから、誤り訂正用の冗長データであるFECデータを生成するための手段である。伝送部104は、符号化データとともにFECデータをネットワーク150へ送信し、かつネットワーク150の伝送状態を示すフィードバック情報(パケットロス率、伝播遅延時間、ジッタなど)が受信端末200から得られるように制御情報を送受信するための手段である。伝送レート決定部105は、フィードバック情報と、RTT計算部109により計算されたRTTとに基づいて伝送レートRsを更新し、かつFEC生成部103へパケットロス率を伝えるための手段である。伝送レートRsの決定アルゴリズムとして、例えばTFRCを採用する。符号化レート及びFECデータ送出レート決定部106は、Rc更新タイマ107を用いて伝送レートRsの更新頻度より少ない頻度で符号化レートRcを更新し、かつ伝送レートRsと符号化レートRcとの差をFECデータ送出レートRfに割り当てるための手段である。パケットサイズ決定部108は、伝送レート決定部105より通知された伝送レートRsからパケットサイズを決定し、その結果を符号化部102に通知するための手段である。RTT計算部109は、伝送部104よりフィードバック情報を受け取り、このフィードバック情報から、伝送レートRsの計算に使用する往復伝播遅延時間(RTT)を算出するための手段である。
【0020】
図2の受信端末200は、伝送部201と、パケットロス回復部202と、復号部203と、再生部204と、フィードバック情報生成部205と、通知間隔制御部206とで構成されている。伝送部201は、送信端末100からネットワーク150を介して伝送されてきた符号化データ及びFECデータを受信し、かつ当該ネットワーク150の伝送状態を示すフィードバック情報を生成できるように制御情報を送受信するための手段である。パケットロス回復部202は、ネットワーク150でロスしたパケット中の符号化データを、FECデータを用いて復元するための手段である。復号部203は、符号化データを復号することによりメディアデータを得るための手段である。再生部204は、復号結果を再生するためのディスプレイ、スピーカなどの手段である。フィードバック情報生成部205は、ネットワーク150の伝送状態を示すフィードバック情報を生成するための手段である。生成されたフィードバック情報は、伝送部201によりネットワーク150を介して送信端末100へ通知される。通知間隔制御部206は、ネットワーク150の伝送状態に応じてフィードバック情報の通知間隔Tfを制御するための手段である。
【0021】
図3は、図1中の符号化レート及びFECデータ送出レート決定部106の初期動作を示している。送信端末100が起動すると、まず定数U及びVの値を取得する。定数Uは伝送レートRsの小変動幅を定義するための値(U>1)であり、定数Vは符号化レートRcが伝送レートRsを上回ることがないようにするための値(0<V<1)である。次に、Rc更新タイマ107のタイムアウト時間To(1×RTTより長く、例えば3秒)と、伝送レートRsの初期値とをそれぞれ取得する。次に、符号化レートRcの初期値をV×Rsとし、FECデータ送出レートRfの初期値をRs−Rcとする。そして、最大伝送レートRs_maxを変数Rs_minにセットしたうえ、Rc更新タイマ107をスタートしてWAIT(待機)状態になる。Rs_minは、ある時間内の伝送レートRsの最小値を求めるための変数である。
【0022】
図4は、図1中の符号化レート及びFECデータ送出レート決定部106の割り込み動作を示している。同決定部106に割り込みが入ってWAIT状態を脱するのは、伝送レート決定部105により伝送レートRsが更新された時と、Rc更新タイマ107がタイムアウトした時である。なお、伝送レートRsは、受信端末200からのフィードバック情報の到着毎に、伝送レート決定部105によりTFRC方式に従って更新されるものとする。
【0023】
更新された伝送レートRsが符号化レート及びFECデータ送出レート決定部106に通知されると(ステップ301)、通知された伝送レートRsが現在の符号化レートRcにより定義される変動幅(Rc<Rs<U×Rc)に収まっているかどうかが調べられる(ステップ302)。伝送レートRsが当該変動幅に収まっている場合には、現在の符号化レートRcを更新せずに、通知された伝送レートRsに従ってFECデータ送出レートRfを更新する(Rf=Rs−Rc:ステップ303)。更に、通知された伝送レートRsが、Rc更新タイマ107をスタートしてから現在までの間で最小の伝送レートであれば、これを変数Rs_minに保存して(ステップ304)、WAIT状態に戻る。
【0024】
一方、Rc更新タイマ107のタイムアウトが発生した場合には(ステップ305)、その時点での変数Rs_minの値を用いて符号化レートRcを更新し(Rc=V×Rs_min)、現在の伝送レートRs及び更新された符号化レートRcに従ってFECデータ送出レートRfを更新し(Rf=Rs−Rc)、Rc更新タイマ107をリスタートさせ、最大伝送レートRs_maxを変数Rs_minに再度セットしたうえ(ステップ306)、WAIT状態に戻る。
【0025】
上記変動幅(Rc<Rs<U×Rc)を外れるほど伝送レートRsが大きく変動させられた場合には、通知された伝送レートRsを変数Rs_minにセットしたうえ(ステップ307)、符号化レートRcの更新などの上記ステップ306の動作を行い、WAIT状態に戻る。
【0026】
以上のアルゴリズムにより、符号化レートRcの更新頻度が抑制され、かつ適切なFECデータ送出レートRfが得られる。
【0027】
次に、図1中のFEC生成部103の動作例を説明する。FECデータの生成には、例えばRFC2733のXOR(排他的論理和)演算を用いる。簡易的には、固定の誤り耐性を前提として、例えば2つの連続したパケットのロスを回復できるようにFECデータを生成する。ただし、連続して何個のパケットにロスが発生するかを検出して、誤り訂正能力を変更してもよい。図3及び図4のアルゴリズムで決定されたFECデータ送出レートRfよりも生成されたFECデータ量の方が小さければ全てのFECデータを送出し、大きければ送出するFECデータ量を調整する。送出すべきFECデータ量が多過ぎる場合は、誤り訂正能力を低くすることでFECデータ量を削減してもよい。XOR演算以外に、パリティやリードソロモンといった誤り訂正方式も利用できる。
【0028】
FECデータ送出レートRfや、パケットロス率に応じて、複数の誤り訂正方式を動的に切り替えることとしてもよい。例えば、パケットロス率が高い場合にはリードソロモンとインターリーブとを組み合わせた強い誤り耐性を、パケットロス率が低い場合にはパリティのような弱い誤り耐性をそれぞれ選択する。
【0029】
FECデータ送出レートRfが一定期間、閾値D2(固定値)より高い場合には、誤り訂正の演算処理量が少ないが、誤り耐性の低いパリティ方式を用いる。
逆に、FECデータ送出レートRfが一定期間、閾値D2以下の場合には、誤り訂正の演算処理量が多いが、誤り耐性の高いリードソロモン方式を用いる。このようにすることで、FECデータの送出量が多い場合にはパリティ方式で受信端末200の処理負荷を抑え、FECデータの送出量が少ない場合にはリードソロモン方式で誤り耐性を高く保つことができる。なお、パリティ方式で受信端末200の処理負荷を下げることにより、より多くの送信端末100からの映像データを受信することができ、また処理遅延が小さくなり低遅延でメディアデータ再生が可能となるといった利点がある。
【0030】
また、FEC生成部103において、パケットロス率に応じて誤り耐性を付与するデータを選択したり、データ数を決定することとしてもよい。パケットロス率が高い場合には、例えば映像データの場合はイントラフレームや、ビデオヘッダ、音声データの場合は有音部分など、復号に重要なデータに対して選択的に誤り耐性を付与するのである。
【0031】
これを詳細に説明すると、MPEG2の映像符号化データにおいて、パケットロス率が低い場合には、映像符号化データ全体にFECデータを付加する(方式Xとする)。一方、パケットロス率が高い場合には、I(Intra)、P(Predictive)フレームにのみFECデータを付加し、B(Bidirectionally predictive)フレームにはFECデータを付加しないこととする(方式Yとする)。方式X、YともFECデータの量は同じであるため、I、Pフレームに関しては、方式Xの方が方式Yよりも弱い誤り耐性が付与されることになる。
【0032】
このようにパケットロス率に応じて方式X、Yを切り替えることで、方式X、Yをそれぞれ単独で使用した場合よりも、受信端末200で再生可能なフレーム数を増加させることができる。例えば、パケットロス率が低い場合には、弱い誤り訂正能力でもロスしたパケットを回復できるため、映像符号化データ全体に誤り耐性を付与する方式Xの方が再生フレーム数は多くなる。一方、パケットロス率が高くなると、方式XではI、Pフレームの再生フレーム数が少なくなるため、これらを参照するP、Bフレームが再生できなくなり、再生フレーム数が急激に少なくなる。これと違って方式Yでは、I、Pフレームに強い誤り耐性を付与しているため、パケットロス率が高くなっても、参照されるフレーム(I、Pフレーム)がロスせず、再生フレーム数が多くなる結果となるのである。
【0033】
なお、上記説明ではI、P、Bフレームを対象としたが、階層符号化を使用し、I、Pフレームの代わりに基本レイヤを、Bフレームの代わりに拡張レイヤを使用することとしてもよい。
【0034】
図5は、図2中のフィードバック情報生成部205及び通知間隔制御部206の主要動作を示している。フィードバック情報生成部205は、伝送部201と協働してパケットロス率を計測する(ステップ401)。通知間隔制御部206は、パケットロス率が閾値L1(固定値)よりも高い場合には、フィードバック情報の通知間隔Tfを、その最小値Tfminを下回らない範囲で、現在の通知間隔よりも固定値Tc1だけ短くする(ステップ402)。これにより、利用可能な伝送帯域に伝送レートRsをすばやく追従させ、パケットロスの発生を少なくすることができる。また、通知間隔制御部206は、パケットロス率が閾値L2(L1より小さい固定値)よりも低い場合には、フィードバック情報の通知間隔Tfを現在の通知間隔よりも固定値Tc2だけ長くする(ステップ403)。
これにより、伝送レートRsの頻繁な切り替えを抑え、更に、他のフローとの間の公平性を向上させることができる。
【0035】
図6は、図1及び図2の送受信端末100,200によるメディアデータ伝送における伝送レートRs及び符号化レートRcの変動例を示している。図6によれば、伝送レートRsが頻繁に更新される状況下でも、符号化レート及びFECデータ送出レート決定部106の動作により符号化レートRcの更新頻度が抑制されることが判る。また、パケットロス率が低い場合には、通知間隔制御部206の動作により伝送レートRsの無用の更新も抑制される。
【0036】
図7は、図1中のパケットサイズ決定部108の動作を示している。図7によれば、伝送レートRsが低下した場合にデータのパケットサイズを小さくすることで、パケットロス率をきめ細かく観測することができる。
【0037】
まず、パケットサイズ決定部108は、伝送レート決定部105により決定された伝送レートRsを受信する(ステップ701)。その後、Sを予め定められた通常時のパケットサイズとして、観測期間Tにおいて伝送レートRsで伝送可能なパケット数Nを
N=Rs×T/S
により求め、当該パケット数Nの値が予め定められた閾値Nminよりも小さいかどうかを判定する(ステップ702)。NがNminよりも小さくないと判定された場合には、通常時のパケットサイズSを採用する(ステップ703)。NがNminよりも小さいと判定された場合には、採用すべきパケットサイズS’を、
S’=Rs×T/Nmin
により計算する(ステップ704)。そして、ステップ703又はステップ704により決定されたパケットサイズを符号化部102に通知して(ステップ705)、処理を終了する。
【0038】
なお、図5で説明したとおり、図1及び図2の実施形態ではフィードバック情報の通知間隔Tfが変化するため、それにつれて観測期間Tが変動する。ただし、観測期間の最小値Tfminを用いれば、最低限Nmin個のパケットを送信することができる。
【0039】
図8は、図1中のRTT計算部109の動作を示している。図8によれば、RTTにオフセットを加算することで、RTTが小さい場合に、ネットワーク150の輻輳状態とは関連のない遅延の揺らぎにより発生する伝送レートRsの揺らぎを抑えることが可能となる。
【0040】
まず、RTT計算部109は、受信端末200からのフィードバック情報を受信し(ステップ801)、このフィードバック情報から、測定された往復伝播遅延時間RTTtを取得する(ステップ802)。続いて、RTTtが予め定められた閾値RTTminよりも小さいかどうかを判定する(ステップ803)。RTTtがRTTminよりも小さくない場合には、伝送レートRsの計算に使用する往復伝播遅延時間RTTcalcとしてRTTtを採用する(ステップ804)。また、RTTtがRTTminよりも小さい場合には、
RTTcalc=RTTt+ofs×(RTTmin−RTTt)/RTTmin
により、計算に使用する往復伝播遅延時間RTTcalcを求める(ステップ805)。ここで、ofsは予め定められた定数である。そして、ステップ804又はステップ805により決定されたRTTcalcを伝送レート決定部105に通知して(ステップ806)、処理を終了する。
【0041】
図9は、上記RTTtとRTTcalcとの関係を示している。図9では、横軸がRTTtであり、縦軸がRTTcalcである。上記アルゴリズムにより得られる、RTTtとRTTcalcとの関係を太い実線の折れ線により表している。破線は、RTTcalc=RTTtの場合、すなわち測定されたRTTをそのまま計算に用いる場合を示している。図9に示すとおり、RTTtがRTTminよりも小さい場合に正の加算オフセットが採用される。したがって、RTTtが小さい場合でもRTTcalcは小さくなり過ぎることがない。
【0042】
輻輳による伝播遅延の増大は数百ms以上であり、機器の処理遅延は数msのオーダーである。したがって、上記RTTminやofsを数十ms以下のオーダーに設定することで、上記オフセット加算が輻輳発生時の伝播遅延時間に影響を与えることはなくなる。
【0043】
なお、送信端末100と受信端末200との間の伝送プロトコルは、IP以外の独自プロトコルであってもよい。接続形態も1対1型に限らず、1対Nの放送型(マルチキャスト、ブロードキャスト)、あるいはN対Mのメッシュ型であってもよい。メディアデータは、単一で伝送されていても、また並列に同時に伝送されていてもよい。標準化された符号化方式に限らず、独自の符号化方式を用いてもよい。
【0044】
【発明の効果】
以上説明してきたとおり、本発明によれば、符号化レートの頻繁な更新を抑制したり、フィードバック情報の通知間隔を調整したり、パケットサイズを変更したり、RTTにオフセットを加算したりすることとしたので、利用可能な帯域が大きく変動する環境下で高品質のメディアデータ伝送を実現することができる。
したがって、本発明は、インターネット電話に利用されるVoIP(Voice OverInternet Protocol)、TV電話、ネットワークを利用した監視・放送などの様々なアプリケーションに適用できる。
【図面の簡単な説明】
【図1】本発明に係るメディア送信装置(送信端末)の内部構成例を示すブロック図である。
【図2】本発明に係るメディア受信装置(受信端末)の内部構成例を示すブロック図である。
【図3】図1中の符号化レート及びFECデータ送出レート決定部の初期動作を示すフローチャート図である。
【図4】同決定部の割り込み動作を示すフローチャート図である。
【図5】図2中のフィードバック情報生成部及び通知間隔制御部の主要動作を示すフローチャート図である。
【図6】図1及び図2の装置によるメディアデータ伝送における伝送レート及び符号化レートの変動例を示すタイムチャート図である。
【図7】図1中のパケットサイズ決定部の動作を示すフローチャート図である。
【図8】図1中のRTT計算部の動作を示すフローチャート図である。
【図9】図8の動作により実現するRTTオフセット加算を説明するための図である。
【符号の説明】
100 送信端末(メディア送信装置)
101 音声・映像入力部
102 符号化部
103 FEC生成部
104 伝送部
105 伝送レート決定部
106 符号化レート及びFECデータ送出レート決定部
107 Rc更新タイマ
108 パケットサイズ決定部
109 RTT計算部
150 ネットワーク
200 受信端末(メディア受信装置)
201 伝送部
202 パケットロス回復部
203 復号部
204 再生部
205 フィードバック情報生成部
206 通知間隔制御部
Rc 符号化レート
Rf FECデータ送出レート
Rs 伝送レート
RTTcalc 伝送レートの計算に使用するRTT
RTTt 測定されたRTT
Tf フィードバック情報の通知間隔
[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a media transmission method for transmitting audio / video data from a camera or a microphone, that is, media data with high quality, and a transmission device and a reception device thereof.
[0002]
[Prior art]
There are various connection forms on an IP (Internet Protocol) network such as an intranet and the Internet, and the available bandwidth varies greatly from several Kbps to several hundred Mbps depending on the connection form. In addition, the available bandwidth varies with time due to the influence of other flows (transmission data). In order to perform media data transmission in such a network, transmission rate control for adjusting a transmission rate according to an available transmission band is required.
[0003]
As a protocol for transmitting media data in real time over the Internet, RTP (Realtime Transport Protocol) / RTCP (RTP Control Protocol) is known (see Non-Patent Document 1). According to the RTP / RTCP, information on the packet loss rate, propagation delay time, jitter, and the like is fed back from the receiving terminal to the transmitting terminal, and the transmission rate of media data is determined based on the feedback information. The transmission interval (notification interval) of feedback information from the receiving terminal was a fixed value, for example, 5 seconds.
[0004]
As one of the transmission rate control methods using feedback information, TFRC (TCP Friendly Rate Control) is known (see Non-Patent Document 2). According to this TFRC, by performing control such that the transmission rate is increased until a packet loss occurs and the transmission rate is decreased when a packet loss occurs, a smooth transmission rate update suitable for media data transmission can be performed. Achieved. The update interval of the transmission rate is 1 × RTT (Round Trip Time: round trip propagation delay time), for example, several tens to several hundreds ms.
[0005]
On the other hand, an RFC 2733 system which is a technology for adding an error correction capability to RTP is also known (see Non-Patent Document 3). According to the RFC 2733 system, FEC data, which is redundant data for forward error correction (FEC), is added to data to be transmitted.
[0006]
[Non-patent document 1]
H. Schulzrinne et al. , "RTP: A Transport Protocol for Real-Time Applications", RFC 1889, Internet Engineering Taskforce, Jan. 1996
[Non-patent document 2]
M. Handley et al. , "TCP Friendly Rate Control (TFRC): Protocol Specification", RFC 3448, Internet Engineering Taskforce, Jan. 2003
[Non-Patent Document 3]
J. Rosenberg et al. , "An RTP Payload Format for Generic Forward Error Correction", RFC 2733, Internet Engineering Taskforce, Dec. 1999
[0007]
[Problems to be solved by the invention]
When transmitting encoded data based on media data, if the transmission rate is updated at intervals of several tens to several hundreds of ms according to the TFRC and the encoding rate is updated every time the transmission rate is updated, the encoding rate becomes Changes frequently. Therefore, for example, the image quality of the video to be transmitted frequently changes, and the subjective image quality is reduced.
[0008]
Also, shortening the interval at which the feedback information is sent from the receiving terminal to the transmitting terminal has the advantage that the available transmission band can be quickly followed and the transmission band can be used efficiently, but the frequency of updating the transmission rate at the transmitting terminal is improved. And the quality of the media data changes frequently, and media transmission with stable quality cannot be performed. Further, the fairness of the throughput with other flows is reduced. Conversely, if the notification interval of the feedback information is lengthened, the frequency of updating the transmission rate decreases, and the transmission rate stabilizes. However, it is impossible to quickly follow the fluctuation of the transmission band, and the transmission band cannot be used efficiently. Also, when the notification interval is long, if the available transmission band becomes narrow, packets will be lost in bursts, and the transmission quality of media data will be extremely deteriorated.
[0009]
Further, conventionally, since the packet size of data is constant, when the transmission rate is reduced, the number of packets to be transmitted is reduced. The packet loss rate L is usually
L = 1− (number of data packets arriving at the receiving terminal during period T) / (number of data packets transmitted by the transmitting terminal during period T)
Is calculated. The period T is usually a time interval from transmission of the previous feedback information to transmission of the current feedback information. From this equation, it can be seen that if the number of packets transmitted by the transmitting terminal decreases, the packet loss of one packet greatly changes the packet loss rate. For example, if the transmission rate becomes extremely low and only one packet can be transmitted during the period T, the packet loss rate becomes 0% if the packet is not lost, and the packet loss rate becomes 0%. In this case, it becomes 100%. In such a situation, it becomes impossible to accurately grasp the congestion state of the network because the packet loss rate cannot be observed in detail.
[0010]
Further, in a system represented by TFRC, which focuses on fairness with TCP, a denominator of a calculation formula for determining a transmission rate includes RTT. The RTT is a time required for a packet to make a round trip between a transmitting terminal and a receiving terminal, and can take a value of 1 ms or less if the distance between the transmitting terminal and the receiving terminal is short. In such a situation, the measurement result of the RTT may indicate a fluctuation in processing delay of an operating system that performs a process of transmitting a packet from a transmitting terminal, or a fluctuation of a delay in a transfer process of a router or the like that performs a process of transmitting a packet. Is affected by delay fluctuations that are not related to the congestion state, and as a result, the transmission rate greatly fluctuates.
[0011]
An object of the present invention is to realize high-quality media data transmission in an environment where the available bandwidth fluctuates greatly.
[0012]
[Means for Solving the Problems]
In order to achieve the above object, the present invention suppresses frequent updating of the coding rate, adjusts a notification interval of feedback information, changes a packet size, and adds an offset to RTT. It was done.
[0013]
More specifically, the present invention updates the transmission rate according to the transmission state of the network and updates the encoding rate less frequently than the transmission rate of the transmission rate in the transmission of the encoded data based on the media data. It was decided.
For example, when a timer for which a timeout period longer than the transmission rate update interval is set times out, or when the transmission rate is updated to a value outside a predetermined range, a code according to the minimum value of the transmission rate within a certain time is used. Update rate. When adding redundant data for error correction to the encoded data, the difference between the transmission rate and the encoding rate may be assigned to the transmission rate of the redundant data.
[0014]
Further, in the present invention, in transmission of media data, feedback information indicating a transmission state of a network is notified from a receiving terminal at variable intervals according to the transmission state of the network, and media data is transmitted in accordance with the notified feedback information. Is updated. For example, when the packet loss rate is high, the notification interval of the feedback information is shortened, and when the packet loss rate is low, the notification interval of the feedback information is lengthened. However, it is preferable to limit the notification interval of the feedback information so as not to fall below a predetermined minimum interval.
[0015]
Further, in the present invention, in the transmission of media data, when it is determined that a predetermined number of packets cannot be transmitted within a packet loss observation period due to a reduced transmission rate, the data packet size is changed to a smaller value. It is what it was. In order to accurately grasp the congestion state of the network, the number of data packets transmitted by the transmitting terminal within a certain period should be equal to or more than a certain number even if the transmission rate decreases. A method of setting the data packet size small in advance and increasing the number of packets to be transmitted is conceivable. However, since a header is added to the packet, there is a problem that as the number of packets increases, the overhead of the header increases. Therefore, when the transmission rate is high, the packet size is set to be large, and when the transmission rate is lowered, adaptive processing such as reducing the packet size and increasing the accuracy of observing the packet loss rate is performed. As a result, the packet loss rate can be observed in detail, and an accurate transmission rate can be determined.
[0016]
Further, in the present invention, when the RTT is smaller than a predetermined value, an offset is added to the RTT. As a result, when the value of RTT is too small, it is possible to prevent the transmission rate from being greatly affected by delay fluctuations not related to network congestion.
[0017]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, embodiments of a media transmission method according to the present invention and a transmission device and a reception device thereof will be described with reference to the drawings.
[0018]
1 and 2 show a configuration of a media transmission system for transmitting encoded data based on media data. FIG. 1 shows an example of the internal configuration of a media transmission device (transmission terminal) 100, and FIG. 2 shows an example of the internal configuration of a media reception device (reception terminal) 200. The transmitting terminal 100 and the receiving terminal 200 are connected to each other via a network 150. The network 150 may be any of a wired network and a wireless network, and may be a network in which a wired network and a wireless network are interconnected. For example, RTP / RTCP is adopted as a transmission protocol between the transmitting terminal 100 and the receiving terminal 200.
[0019]
1 includes an audio / video input unit 101, an encoding unit 102, an FEC generation unit 103, a transmission unit 104, a transmission rate determination unit 105, an encoding rate and FEC data transmission rate determination unit. 106, a packet size determination unit 108, and an RTT calculation unit 109. The audio / video input unit 101 is a unit such as a camera or a microphone for inputting audio / video data (media data) to be encoded. The encoding unit 102 is means for generating encoded data from media data according to a designated encoding rate Rc. For example, a standardized compression / encoding method such as MPEG (Moving Picture Coding Experts Group) 1/2/4 or AMR (Audio / Modem Riser) may be adopted. Further, the encoding unit 102 has a function of outputting data with the packet size determined by the packet size determination unit 108. The FEC generation unit 103 is means for generating FEC data, which is redundant data for error correction, from encoded data according to a specified FEC data transmission rate Rf. The transmission unit 104 transmits the FEC data to the network 150 together with the encoded data, and controls the reception terminal 200 to obtain feedback information (packet loss rate, propagation delay time, jitter, etc.) indicating the transmission state of the network 150. It is a means for transmitting and receiving information. The transmission rate determination unit 105 is a unit for updating the transmission rate Rs based on the feedback information and the RTT calculated by the RTT calculation unit 109, and transmitting the packet loss rate to the FEC generation unit 103. For example, TFRC is adopted as an algorithm for determining the transmission rate Rs. The coding rate and FEC data transmission rate determining unit 106 updates the coding rate Rc at a frequency less than the frequency of updating the transmission rate Rs using the Rc update timer 107, and calculates the difference between the transmission rate Rs and the coding rate Rc. Is assigned to the FEC data transmission rate Rf. The packet size determination unit 108 is a unit for determining a packet size from the transmission rate Rs notified from the transmission rate determination unit 105 and notifying the coding unit 102 of the result. The RTT calculation unit 109 is a means for receiving feedback information from the transmission unit 104 and calculating a round-trip propagation delay time (RTT) used for calculating the transmission rate Rs from the feedback information.
[0020]
2 includes a transmission unit 201, a packet loss recovery unit 202, a decoding unit 203, a reproduction unit 204, a feedback information generation unit 205, and a notification interval control unit 206. The transmission unit 201 receives encoded data and FEC data transmitted from the transmission terminal 100 via the network 150, and transmits and receives control information so as to generate feedback information indicating the transmission state of the network 150. Means. The packet loss recovery unit 202 is means for restoring encoded data in a packet lost in the network 150 using FEC data. The decoding unit 203 is means for obtaining media data by decoding encoded data. The reproduction unit 204 is a unit such as a display and a speaker for reproducing the decoding result. The feedback information generation unit 205 is a unit for generating feedback information indicating a transmission state of the network 150. The generated feedback information is notified to the transmitting terminal 100 by the transmission unit 201 via the network 150. The notification interval control unit 206 is means for controlling the notification interval Tf of feedback information according to the transmission state of the network 150.
[0021]
FIG. 3 shows an initial operation of the coding rate and FEC data transmission rate determining unit 106 in FIG. When the transmitting terminal 100 is started, first, the values of the constants U and V are acquired. The constant U is a value (U> 1) for defining a small fluctuation range of the transmission rate Rs, and the constant V is a value (0 <V) for preventing the coding rate Rc from exceeding the transmission rate Rs. <1). Next, a timeout time To (longer than 1 × RTT, for example, 3 seconds) of the Rc update timer 107 and an initial value of the transmission rate Rs are obtained. Next, the initial value of the coding rate Rc is set to V × Rs, and the initial value of the FEC data transmission rate Rf is set to Rs−Rc. Then, the maximum transmission rate Rs_max is set to a variable Rs_min, and the Rc update timer 107 is started to enter a WAIT (standby) state. Rs_min is a variable for obtaining the minimum value of the transmission rate Rs within a certain time.
[0022]
FIG. 4 shows an interruption operation of the coding rate and FEC data transmission rate determination unit 106 in FIG. The determination unit 106 is interrupted and exits the WAIT state when the transmission rate determination unit 105 updates the transmission rate Rs and when the Rc update timer 107 times out. It is assumed that the transmission rate Rs is updated by the transmission rate determining unit 105 according to the TFRC scheme every time feedback information arrives from the receiving terminal 200.
[0023]
When the updated transmission rate Rs is notified to the coding rate and FEC data transmission rate determining unit 106 (step 301), the notified transmission rate Rs changes in the fluctuation range (Rc <Rc) defined by the current coding rate Rc. It is checked whether or not Rs <U × Rc) (step 302). If the transmission rate Rs falls within the fluctuation range, the FEC data transmission rate Rf is updated according to the notified transmission rate Rs without updating the current encoding rate Rc (Rf = Rs-Rc: step 303). Further, if the notified transmission rate Rs is the minimum transmission rate from the start of the Rc update timer 107 to the present, the transmission rate is stored in a variable Rs_min (step 304), and the state returns to the WAIT state.
[0024]
On the other hand, when the timeout of the Rc update timer 107 occurs (step 305), the coding rate Rc is updated using the value of the variable Rs_min at that time (Rc = V × Rs_min), and the current transmission rate Rs Then, the FEC data transmission rate Rf is updated according to the updated coding rate Rc (Rf = Rs-Rc), the Rc update timer 107 is restarted, and the maximum transmission rate Rs_max is set again in the variable Rs_min (step 306). , And returns to the WAIT state.
[0025]
If the transmission rate Rs is greatly changed so as to deviate from the fluctuation range (Rc <Rs <U × Rc), the notified transmission rate Rs is set to a variable Rs_min (step 307), and the coding rate Rc is set. The operation of step 306 such as updating of the above is performed, and the state returns to the WAIT state.
[0026]
With the above algorithm, the update frequency of the coding rate Rc is suppressed, and an appropriate FEC data transmission rate Rf is obtained.
[0027]
Next, an operation example of the FEC generation unit 103 in FIG. 1 will be described. To generate the FEC data, for example, an XOR (exclusive OR) operation of RFC 2733 is used. For simplicity, FEC data is generated on the assumption of fixed error resilience so that, for example, loss of two consecutive packets can be recovered. However, the error correction capability may be changed by detecting how many consecutive packets cause a loss. If the generated FEC data amount is smaller than the FEC data transmission rate Rf determined by the algorithm of FIGS. 3 and 4, all the FEC data is transmitted, and if it is larger, the transmitted FEC data amount is adjusted. If the amount of FEC data to be transmitted is too large, the FEC data amount may be reduced by lowering the error correction capability. In addition to the XOR operation, an error correction method such as parity or Reed-Solomon can also be used.
[0028]
A plurality of error correction schemes may be dynamically switched according to the FEC data transmission rate Rf or the packet loss rate. For example, when the packet loss rate is high, strong error resilience combining Reed-Solomon and interleaving is selected, and when the packet loss rate is low, weak error resilience such as parity is selected.
[0029]
When the FEC data transmission rate Rf is higher than the threshold value D2 (fixed value) for a certain period, a parity method with a small amount of error correction processing but low error resilience is used.
Conversely, when the FEC data transmission rate Rf is equal to or less than the threshold value D2 for a certain period, the Reed-Solomon method having a large error correction operation amount but a high error tolerance is used. By doing so, it is possible to reduce the processing load on the receiving terminal 200 by the parity method when the transmission amount of FEC data is large, and to maintain high error resilience by the Reed-Solomon method when the transmission amount of FEC data is small. it can. In addition, by lowering the processing load of the receiving terminal 200 by the parity method, it is possible to receive more video data from the transmitting terminal 100, and to reduce the processing delay so that media data can be reproduced with a low delay. There are advantages.
[0030]
Further, the FEC generation unit 103 may select data to which error resilience is to be given or determine the number of data according to the packet loss rate. When the packet loss rate is high, error resilience is selectively given to data important for decoding, such as an intra frame or a video header for video data and a voiced portion for audio data. .
[0031]
To explain this in detail, when the packet loss rate is low in MPEG2 video encoded data, FEC data is added to the entire video encoded data (method X). On the other hand, when the packet loss rate is high, FEC data is added only to I (Intra) and P (Predictive) frames, and FEC data is not added to B (Bidirectionally predictive) frames (method Y). ). Since the amounts of FEC data are the same in both systems X and Y, for system I and P frames, system X has a lower error tolerance than system Y.
[0032]
By switching schemes X and Y in accordance with the packet loss rate in this manner, the number of frames that can be reproduced by receiving terminal 200 can be increased as compared to a case where schemes X and Y are used alone. For example, when the packet loss rate is low, a lost packet can be recovered even with a weak error correction capability, and therefore the number of reproduced frames is larger in the method X in which error resilience is given to the entire encoded video data. On the other hand, when the packet loss rate increases, the number of reproduced frames of I and P frames decreases in the method X, so that the P and B frames referring to these frames cannot be reproduced, and the number of reproduced frames sharply decreases. On the other hand, in the method Y, since strong error resilience is given to the I and P frames, even if the packet loss rate is high, the referenced frames (I and P frames) are not lost, and the number of reproduced frames is small. Is increased.
[0033]
In the above description, the I, P, and B frames are targeted. However, hierarchical coding may be used, and the base layer may be used instead of the I and P frames, and the enhancement layer may be used instead of the B frame.
[0034]
FIG. 5 shows main operations of the feedback information generation unit 205 and the notification interval control unit 206 in FIG. The feedback information generation unit 205 measures the packet loss rate in cooperation with the transmission unit 201 (Step 401). When the packet loss rate is higher than the threshold value L1 (fixed value), the notification interval control unit 206 sets the notification interval Tf of the feedback information to a fixed value smaller than the current notification interval within a range not less than the minimum value Tfmin. It is shortened by Tc1 (step 402). As a result, the transmission rate Rs can quickly follow the available transmission band, and the occurrence of packet loss can be reduced. When the packet loss rate is lower than the threshold L2 (a fixed value smaller than L1), the notification interval control unit 206 increases the notification interval Tf of feedback information by a fixed value Tc2 from the current notification interval (step 403).
As a result, frequent switching of the transmission rate Rs can be suppressed, and the fairness with other flows can be improved.
[0035]
FIG. 6 shows a variation example of the transmission rate Rs and the coding rate Rc in media data transmission by the transmitting / receiving terminals 100 and 200 in FIGS. 1 and 2. According to FIG. 6, it can be seen that even in a situation where the transmission rate Rs is frequently updated, the operation of the coding rate and FEC data transmission rate determination unit 106 suppresses the update frequency of the coding rate Rc. In addition, when the packet loss rate is low, the operation of the notification interval control unit 206 also suppresses unnecessary updating of the transmission rate Rs.
[0036]
FIG. 7 shows the operation of the packet size determination unit 108 in FIG. According to FIG. 7, by reducing the data packet size when the transmission rate Rs decreases, the packet loss rate can be observed in detail.
[0037]
First, the packet size determining unit 108 receives the transmission rate Rs determined by the transmission rate determining unit 105 (Step 701). Thereafter, S is set as a predetermined normal packet size, and the number N of packets that can be transmitted at the transmission rate Rs in the observation period T is calculated as follows.
N = Rs × T / S
It is determined whether or not the value of the packet number N is smaller than a predetermined threshold value Nmin (step 702). If it is determined that N is not smaller than Nmin, the normal packet size S is adopted (step 703). If it is determined that N is smaller than Nmin, the packet size S ′ to be adopted is
S ′ = Rs × T / Nmin
(Step 704). Then, the packet size determined in step 703 or step 704 is notified to encoding section 102 (step 705), and the process ends.
[0038]
As described with reference to FIG. 5, in the embodiments of FIGS. 1 and 2, the notification interval Tf of the feedback information changes, and accordingly, the observation period T changes accordingly. However, if the minimum value Tfmin of the observation period is used, at least Nmin packets can be transmitted.
[0039]
FIG. 8 shows the operation of the RTT calculation unit 109 in FIG. According to FIG. 8, by adding an offset to the RTT, when the RTT is small, it is possible to suppress the fluctuation of the transmission rate Rs caused by the fluctuation of the delay that is not related to the congestion state of the network 150.
[0040]
First, the RTT calculation unit 109 receives feedback information from the receiving terminal 200 (Step 801), and acquires a measured round trip propagation delay time RTTt from the feedback information (Step 802). Subsequently, it is determined whether or not RTTt is smaller than a predetermined threshold value RTTmin (step 803). If RTTt is not smaller than RTTmin, RTTt is adopted as the round trip propagation delay time RTTcalc used for calculating the transmission rate Rs (step 804). When RTTt is smaller than RTTmin,
RTTcalc = RTTt + ofs × (RTTmin−RTTt) / RTTmin
, A round trip propagation delay time RTTcalc used for calculation is obtained (step 805). Here, ofs is a predetermined constant. Then, the RTTcalc determined in step 804 or step 805 is notified to the transmission rate determination unit 105 (step 806), and the process ends.
[0041]
FIG. 9 shows the relationship between the above RTTt and RTTcalc. In FIG. 9, the horizontal axis is RTTt, and the vertical axis is RTTcalc. The relationship between RTTt and RTTcalc obtained by the above algorithm is indicated by a thick solid line. The broken line indicates the case where RTTcalc = RTTt, that is, the case where the measured RTT is used for calculation as it is. As shown in FIG. 9, when RTTt is smaller than RTTmin, a positive addition offset is adopted. Therefore, even when RTTt is small, RTTcalc does not become too small.
[0042]
The increase in propagation delay due to congestion is several hundred ms or more, and the processing delay of the device is on the order of several ms. Therefore, by setting the RTTmin and ofs to the order of several tens of ms or less, the offset addition does not affect the propagation delay time when congestion occurs.
[0043]
The transmission protocol between the transmitting terminal 100 and the receiving terminal 200 may be a unique protocol other than IP. The connection form is not limited to the one-to-one type, but may be a one-to-N broadcast type (multicast, broadcast) or an N-to-M mesh type. The media data may be transmitted singly or may be transmitted simultaneously in parallel. The present invention is not limited to the standardized coding method, and an original coding method may be used.
[0044]
【The invention's effect】
As described above, according to the present invention, it is possible to suppress frequent updates of the coding rate, adjust the notification interval of feedback information, change the packet size, and add an offset to RTT. Therefore, it is possible to realize high-quality media data transmission in an environment where the available bandwidth fluctuates greatly.
Therefore, the present invention can be applied to various applications such as VoIP (Voice Over Internet Protocol) used for Internet telephone, TV telephone, and monitoring / broadcasting using a network.
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating an example of an internal configuration of a media transmission device (transmission terminal) according to the present invention.
FIG. 2 is a block diagram showing an example of an internal configuration of a media receiving device (receiving terminal) according to the present invention.
FIG. 3 is a flowchart showing an initial operation of a coding rate and FEC data transmission rate determining unit in FIG. 1;
FIG. 4 is a flowchart illustrating an interrupt operation of the determination unit.
FIG. 5 is a flowchart illustrating main operations of a feedback information generation unit and a notification interval control unit in FIG. 2;
FIG. 6 is a time chart illustrating an example of a change in a transmission rate and a coding rate in media data transmission by the apparatuses in FIGS. 1 and 2;
FIG. 7 is a flowchart illustrating an operation of a packet size determining unit in FIG. 1;
FIG. 8 is a flowchart illustrating the operation of an RTT calculation unit in FIG. 1;
FIG. 9 is a diagram for explaining RTT offset addition realized by the operation of FIG. 8;
[Explanation of symbols]
100 transmission terminal (media transmission device)
101 Audio / video input unit
102 encoding unit
103 FEC generation unit
104 Transmission unit
105 Transmission rate determination unit
106 Coding Rate and FEC Data Transmission Rate Determination Unit
107 Rc update timer
108 Packet Size Determination Unit
109 RTT calculator
150 Network
200 receiving terminal (media receiving device)
201 Transmission unit
202 Packet loss recovery unit
203 decoding unit
204 playback unit
205 Feedback information generator
206 Notification interval control unit
Rc coding rate
Rf FEC data transmission rate
Rs transmission rate
RTTcalc RTT used to calculate the transmission rate
RTTt RTT measured
Tf Feedback information notification interval

Claims (19)

ネットワークを介して、メディアデータに基づく符号化データを伝送するためのメディア伝送方法であって、
前記ネットワークの伝送状態に応じて伝送レートを更新する第1のステップと、
前記伝送レートの更新頻度より少ない頻度で符号化レートを更新する第2のステップとを備えたことを特徴とするメディア伝送方法。
A media transmission method for transmitting encoded data based on media data via a network,
A first step of updating a transmission rate according to a transmission state of the network;
A second step of updating the coding rate at a frequency less than the frequency of updating the transmission rate.
請求項1記載のメディア伝送方法において、
前記第2のステップは、前記伝送レートの更新間隔より長いタイムアウト時間が設定されたタイマがタイムアウトした時に前記符号化レートを更新するステップを有することを特徴とするメディア伝送方法。
The media transmission method according to claim 1,
The media transmission method according to claim 2, wherein the second step includes a step of updating the encoding rate when a timer for which a timeout time longer than the update interval of the transmission rate is set times out.
請求項1記載のメディア伝送方法において、
前記第2のステップは、前記伝送レートが所定の範囲を外れる値に更新された時に前記符号化レートを更新するステップを有することを特徴とするメディア伝送方法。
The media transmission method according to claim 1,
The media transmission method according to claim 2, wherein the second step includes a step of updating the coding rate when the transmission rate is updated to a value outside a predetermined range.
請求項1記載のメディア伝送方法において、
前記第2のステップは、ある時間内の前記伝送レートの最小値に応じて前記符号化レートを更新するステップを有することを特徴とするメディア伝送方法。
The media transmission method according to claim 1,
The media transmission method according to claim 2, wherein the second step includes updating the coding rate according to a minimum value of the transmission rate within a certain time.
請求項1記載のメディア伝送方法において、
前記伝送レートと前記符号化レートとの差を誤り訂正のための冗長データの送出レートに割り当て、前記符号化データに前記冗長データを付加して伝送する第3のステップを更に備えたことを特徴とするメディア伝送方法。
The media transmission method according to claim 1,
A third step of allocating a difference between the transmission rate and the coding rate to a transmission rate of redundant data for error correction, and adding the redundant data to the coded data for transmission. Media transmission method.
請求項5記載のメディア伝送方法において、
前記第3のステップは、前記冗長データの送出レートに応じて誤り訂正方式を変更するステップを有することを特徴とするメディア伝送方法。
The media transmission method according to claim 5,
The media transmission method according to claim 3, wherein the third step includes a step of changing an error correction method according to a transmission rate of the redundant data.
請求項5記載のメディア伝送方法において、
前記第3のステップは、前記ネットワークのパケットロス率に応じて誤り訂正方式を変更するステップを有することを特徴とするメディア伝送方法。
The media transmission method according to claim 5,
The media transmission method according to claim 3, wherein the third step includes a step of changing an error correction method according to a packet loss rate of the network.
請求項7記載のメディア伝送方法において、
前記第3のステップは、前記ネットワークのパケットロス率が低い場合には全ての符号化データに誤り耐性を付与し、前記ネットワークのパケットロス率が高い場合には重要度の高い符号化データにのみ誤り耐性を付与するステップを有することを特徴とするメディア伝送方法。
The media transmission method according to claim 7,
In the third step, when the packet loss rate of the network is low, error immunity is given to all encoded data, and when the packet loss rate of the network is high, only the encoded data of high importance is added. A method for transmitting media, comprising the step of providing error resilience.
請求項1記載のメディア伝送方法において、
前記第1のステップは、前記ネットワークの伝送状態を示すフィードバック情報を受信端末から通知するステップを有することを特徴とするメディア伝送方法。
The media transmission method according to claim 1,
The method according to claim 1, wherein the first step includes a step of notifying, from a receiving terminal, feedback information indicating a transmission state of the network.
請求項9記載のメディア伝送方法において、
前記フィードバック情報の通知間隔を前記ネットワークの伝送状態に応じて可変に制御するステップを更に備えたことを特徴とするメディア伝送方法。
The media transmission method according to claim 9,
A media transmission method, further comprising a step of variably controlling a notification interval of the feedback information according to a transmission state of the network.
ネットワークを介してメディアデータを伝送するためのメディア伝送方法であって、
前記ネットワークの伝送状態を示すフィードバック情報を、前記ネットワークの伝送状態に応じた可変の間隔で受信端末から通知する第1のステップと、
前記通知されたフィードバック情報に応じて前記メディアデータの伝送レートを更新する第2のステップとを備えたことを特徴とするメディア伝送方法。
A media transmission method for transmitting media data over a network, comprising:
A first step of notifying feedback information indicating the transmission state of the network from a receiving terminal at variable intervals according to the transmission state of the network;
A second step of updating a transmission rate of the media data according to the notified feedback information.
請求項11記載のメディア伝送方法において、
前記第1のステップは、前記ネットワークのパケットロス率が高い場合には前記フィードバック情報の通知間隔を短くし、かつ前記ネットワークのパケットロス率が低い場合には前記フィードバック情報の通知間隔を長くするステップを有することを特徴とするメディア伝送方法。
The media transmission method according to claim 11,
The first step is a step of shortening the notification interval of the feedback information when the packet loss rate of the network is high, and increasing the notification interval of the feedback information when the packet loss rate of the network is low. A media transmission method, comprising:
請求項12記載のメディア伝送方法において、
前記フィードバック情報の通知間隔が所定の最小間隔を下回らないように制限するステップを更に有することを特徴とするメディア伝送方法。
The media transmission method according to claim 12,
The method according to claim 1, further comprising a step of restricting a notification interval of the feedback information so as not to fall below a predetermined minimum interval.
メディアデータに基づく符号化データをネットワークへ送信するためのメディア送信装置であって、
前記メディアデータから前記符号化データを生成するための手段と、
前記符号化データから誤り訂正用の冗長データを生成するための手段と、
前記ネットワークの伝送状態に応じて伝送レートを更新するための手段と、
前記伝送レートの更新頻度より少ない頻度で符号化レートを更新するための手段と、
前記伝送レートと前記符号化レートとの差を前記冗長データの送出レートに割り当てるための手段と、
前記符号化データに前記冗長データを付加して送信するための手段とを備えたことを特徴とするメディア送信装置。
A media transmission device for transmitting encoded data based on media data to a network,
Means for generating the encoded data from the media data;
Means for generating redundant data for error correction from the encoded data,
Means for updating the transmission rate according to the transmission state of the network,
Means for updating the coding rate less frequently than the frequency of updating the transmission rate,
Means for assigning a difference between the transmission rate and the encoding rate to a transmission rate of the redundant data,
Means for adding the redundant data to the encoded data and transmitting the encoded data.
ネットワークからメディアデータを受信するためのメディア受信装置であって、
前記メディアデータの伝送レートが更新されるように、前記ネットワークの伝送状態を示すフィードバック情報を通知するための手段と、
前記ネットワークの伝送状態に応じて前記フィードバック情報の通知間隔を制御するための手段とを備えたことを特徴とするメディア受信装置。
A media receiving device for receiving media data from a network,
Means for notifying feedback information indicating a transmission state of the network, such that the transmission rate of the media data is updated,
Means for controlling a notification interval of the feedback information according to a transmission state of the network.
ネットワークを介して、メディアデータに基づく符号化データを伝送するためのメディア伝送方法であって、
前記ネットワークの伝送状態に応じて伝送レートを更新するステップと、
前記更新された伝送レートと、前記ネットワークにおけるパケットロスの観測期間の長さと、前記符号化データの通常時のパケットサイズとに基づいて、前記観測期間内に伝送可能なパケット数を計算するステップと、
前記計算されたパケット数と、予め定められた閾値とを比較するステップと、前記閾値よりも前記計算されたパケット数の方が小さい場合には、前記符号化データのパケットサイズを前記通常時のパケットサイズよりも小さく設定するステップとを備えたことを特徴とするメディア伝送方法。
A media transmission method for transmitting encoded data based on media data via a network,
Updating a transmission rate according to the transmission state of the network,
Calculating the number of packets that can be transmitted within the observation period based on the updated transmission rate, the length of the observation period of packet loss in the network, and the normal packet size of the encoded data; ,
A step of comparing the calculated number of packets with a predetermined threshold, and when the calculated number of packets is smaller than the threshold, the packet size of the encoded data is changed to the normal size. Setting the packet size smaller than the packet size.
メディアデータに基づく符号化データをネットワークへ送信するためのメディア送信装置であって、
前記メディアデータから前記符号化データを生成するための手段と、
前記ネットワークの伝送状態に応じて伝送レートを更新するための手段と、
前記更新された伝送レートと、前記ネットワークにおけるパケットロスの観測期間の長さと、前記符号化データの通常時のパケットサイズとに基づいて、前記観測期間内に伝送可能なパケット数を計算するための手段と、
前記計算されたパケット数と、予め定められた閾値とを比較するための手段と、
前記閾値よりも前記計算されたパケット数の方が小さい場合には、前記符号化データのパケットサイズを前記通常時のパケットサイズよりも小さく設定するための手段と、
前記符号化データを送信するための手段とを備えたことを特徴とするメディア送信装置。
A media transmission device for transmitting encoded data based on media data to a network,
Means for generating the encoded data from the media data;
Means for updating the transmission rate according to the transmission state of the network,
Based on the updated transmission rate, the length of the packet loss observation period in the network, and the normal packet size of the encoded data, calculate the number of packets that can be transmitted in the observation period. Means,
Means for comparing the calculated number of packets with a predetermined threshold,
When the calculated number of packets is smaller than the threshold, means for setting the packet size of the encoded data to be smaller than the normal packet size,
Means for transmitting the encoded data.
ネットワークを介して、メディアデータに基づく符号化データを伝送するためのメディア伝送方法であって、
送信端末と受信端末との間の往復伝播遅延時間を前記送信端末が測定するステップと、
前記測定された往復伝播遅延時間と、予め定められた閾値とを比較するステップと、
前記閾値よりも前記測定された往復伝播遅延時間の方が小さい場合には、当該測定された往復伝播遅延時間にオフセット値を加算するステップと、
前記オフセット値が加算された往復伝播遅延時間に基づいて伝送レートを決定するステップとを備えたことを特徴とするメディア伝送方法。
A media transmission method for transmitting encoded data based on media data via a network,
The transmitting terminal measures a round-trip propagation delay time between the transmitting terminal and the receiving terminal,
Comparing the measured round-trip propagation delay time with a predetermined threshold,
When the measured round-trip propagation delay time is smaller than the threshold, adding an offset value to the measured round-trip propagation delay time,
Determining a transmission rate based on the round trip propagation delay time to which the offset value has been added.
メディアデータに基づく符号化データをネットワークへ送信するためのメディア送信装置であって、
前記メディアデータから前記符号化データを生成するための手段と、
前記ネットワーク上の往復伝播遅延時間を測定するための手段と、
前記測定された往復伝播遅延時間と、予め定められた閾値とを比較するための手段と、
前記閾値よりも前記測定された往復伝播遅延時間の方が小さい場合には、当該測定された往復伝播遅延時間にオフセット値を加算するための手段と、
前記オフセット値が加算された往復伝播遅延時間に基づいて伝送レートを決定するための手段と、
前記決定された伝送レートで前記符号化データを送信するための手段とを備えたことを特徴とするメディア送信装置。
A media transmission device for transmitting encoded data based on media data to a network,
Means for generating the encoded data from the media data;
Means for measuring round-trip propagation delay time on the network;
Means for comparing the measured round-trip propagation delay time with a predetermined threshold,
Means for adding an offset value to the measured round-trip propagation delay time, if the measured round-trip propagation delay time is smaller than the threshold,
Means for determining a transmission rate based on the round trip propagation delay time to which the offset value has been added,
Means for transmitting the encoded data at the determined transmission rate.
JP2003145962A 2002-06-14 2003-05-23 Media transmission method and transmission device therefor Expired - Fee Related JP3730974B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003145962A JP3730974B2 (en) 2002-06-14 2003-05-23 Media transmission method and transmission device therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2002174691 2002-06-14
JP2003145962A JP3730974B2 (en) 2002-06-14 2003-05-23 Media transmission method and transmission device therefor

Publications (2)

Publication Number Publication Date
JP2004072720A true JP2004072720A (en) 2004-03-04
JP3730974B2 JP3730974B2 (en) 2006-01-05

Family

ID=32032366

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003145962A Expired - Fee Related JP3730974B2 (en) 2002-06-14 2003-05-23 Media transmission method and transmission device therefor

Country Status (1)

Country Link
JP (1) JP3730974B2 (en)

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005277949A (en) * 2004-03-25 2005-10-06 Sony Corp Device and method of transmission, device and method of reception, recording medium and program
JP2007036960A (en) * 2005-07-29 2007-02-08 Kddi Corp Rtp communication terminal for dynamically switching session, call connecting system, and program
JP2007097099A (en) * 2005-09-30 2007-04-12 Hitachi Kokusai Electric Inc Data transmitter
JP2007300498A (en) * 2006-05-01 2007-11-15 Matsushita Electric Ind Co Ltd Repeating apparatus and repeating method
JP2009049507A (en) * 2007-08-14 2009-03-05 Canon Inc Transmitter, transmission method, and computer program
JP2009049506A (en) * 2007-08-14 2009-03-05 Canon Inc Communication control unit and method, and computer program
JP2009510942A (en) * 2005-09-29 2009-03-12 クゥアルコム・インコーポレイテッド Video packet shaping for videophones
JP2009278521A (en) * 2008-05-16 2009-11-26 Canon Inc Communication device and method, and program
WO2011065294A1 (en) * 2009-11-24 2011-06-03 日本電気株式会社 Quality control device, moving image transmission system, quality control method, and recording medium
JP2011166380A (en) * 2010-02-08 2011-08-25 Canon Inc Communication device, communication method, and program
JP2011172162A (en) * 2010-02-22 2011-09-01 Nec Access Technica Ltd Receiving apparatus, transmitting apparatus, communication system, communication method and program
US8406309B2 (en) 2005-10-21 2013-03-26 Qualcomm Incorporated Video rate adaptation to reverse link conditions
JP2013074424A (en) * 2011-09-27 2013-04-22 Oki Electric Ind Co Ltd Voice communication system, voice communication device, and program
US8514711B2 (en) 2005-10-21 2013-08-20 Qualcomm Incorporated Reverse link lower layer assisted video error control
US8537197B2 (en) 2007-01-10 2013-09-17 Qualcomm Incorporated Content- and link-dependent coding adaptation for multimedia telephony
US8548048B2 (en) 2005-10-27 2013-10-01 Qualcomm Incorporated Video source rate control for video telephony
JP2013544475A (en) * 2010-12-03 2013-12-12 インスティテュート フューア ランドファンクテクニック ゲーエムベーハー Method and system for controlling data packet transmission over lossy protocols
US8699519B2 (en) 2008-09-19 2014-04-15 Panasonic Corporation Transmission rate control device and transmission rate control method
US8797850B2 (en) 2008-01-10 2014-08-05 Qualcomm Incorporated System and method to adapt to network congestion
US8842555B2 (en) 2005-10-21 2014-09-23 Qualcomm Incorporated Methods and systems for adaptive encoding of real-time information in packet-switched wireless communication systems
JP2015115728A (en) * 2013-12-11 2015-06-22 日本電信電話株式会社 Data transmission device, forward error correction method, and program
JPWO2015015879A1 (en) * 2013-07-30 2017-03-02 ソニー株式会社 Information processing apparatus, information processing method, and program

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005277949A (en) * 2004-03-25 2005-10-06 Sony Corp Device and method of transmission, device and method of reception, recording medium and program
JP2007036960A (en) * 2005-07-29 2007-02-08 Kddi Corp Rtp communication terminal for dynamically switching session, call connecting system, and program
JP2009510942A (en) * 2005-09-29 2009-03-12 クゥアルコム・インコーポレイテッド Video packet shaping for videophones
US8102878B2 (en) 2005-09-29 2012-01-24 Qualcomm Incorporated Video packet shaping for video telephony
JP2007097099A (en) * 2005-09-30 2007-04-12 Hitachi Kokusai Electric Inc Data transmitter
US8842555B2 (en) 2005-10-21 2014-09-23 Qualcomm Incorporated Methods and systems for adaptive encoding of real-time information in packet-switched wireless communication systems
US8514711B2 (en) 2005-10-21 2013-08-20 Qualcomm Incorporated Reverse link lower layer assisted video error control
US8406309B2 (en) 2005-10-21 2013-03-26 Qualcomm Incorporated Video rate adaptation to reverse link conditions
US8548048B2 (en) 2005-10-27 2013-10-01 Qualcomm Incorporated Video source rate control for video telephony
JP4653011B2 (en) * 2006-05-01 2011-03-16 パナソニック株式会社 Relay device and relay method
JP2007300498A (en) * 2006-05-01 2007-11-15 Matsushita Electric Ind Co Ltd Repeating apparatus and repeating method
US8537197B2 (en) 2007-01-10 2013-09-17 Qualcomm Incorporated Content- and link-dependent coding adaptation for multimedia telephony
JP2009049506A (en) * 2007-08-14 2009-03-05 Canon Inc Communication control unit and method, and computer program
JP2009049507A (en) * 2007-08-14 2009-03-05 Canon Inc Transmitter, transmission method, and computer program
US8797850B2 (en) 2008-01-10 2014-08-05 Qualcomm Incorporated System and method to adapt to network congestion
JP2009278521A (en) * 2008-05-16 2009-11-26 Canon Inc Communication device and method, and program
US8699519B2 (en) 2008-09-19 2014-04-15 Panasonic Corporation Transmission rate control device and transmission rate control method
WO2011065294A1 (en) * 2009-11-24 2011-06-03 日本電気株式会社 Quality control device, moving image transmission system, quality control method, and recording medium
JPWO2011065294A1 (en) * 2009-11-24 2013-04-11 日本電気株式会社 Quality control apparatus, moving picture transmission system, quality control method, and recording medium
JP5724879B2 (en) * 2009-11-24 2015-05-27 日本電気株式会社 Quality control apparatus, moving picture transmission system, quality control method, and recording medium
US8923151B2 (en) 2009-11-24 2014-12-30 Nec Corporation Quality control apparatus, moving image transmission system, quality control method, and recording medium
US8811180B2 (en) 2010-02-08 2014-08-19 Canon Kabushiki Kaisha Communication apparatus and communication method
JP2011166380A (en) * 2010-02-08 2011-08-25 Canon Inc Communication device, communication method, and program
JP2011172162A (en) * 2010-02-22 2011-09-01 Nec Access Technica Ltd Receiving apparatus, transmitting apparatus, communication system, communication method and program
JP2013544475A (en) * 2010-12-03 2013-12-12 インスティテュート フューア ランドファンクテクニック ゲーエムベーハー Method and system for controlling data packet transmission over lossy protocols
JP2013074424A (en) * 2011-09-27 2013-04-22 Oki Electric Ind Co Ltd Voice communication system, voice communication device, and program
JPWO2015015879A1 (en) * 2013-07-30 2017-03-02 ソニー株式会社 Information processing apparatus, information processing method, and program
US10225043B2 (en) 2013-07-30 2019-03-05 Sony Corporation Information processing apparatus, information processing method, and program
JP2015115728A (en) * 2013-12-11 2015-06-22 日本電信電話株式会社 Data transmission device, forward error correction method, and program

Also Published As

Publication number Publication date
JP3730974B2 (en) 2006-01-05

Similar Documents

Publication Publication Date Title
JP3730974B2 (en) Media transmission method and transmission device therefor
US7430219B2 (en) Method for transporting media, transmitter and receiver therefor
US8341684B2 (en) Method and device for transmitting data
KR100843073B1 (en) Method for controlling transmission rate by using error correction packet and communication apparatus using the same
JP4173755B2 (en) Data transmission server
JP4101993B2 (en) Wired and wireless mixed network data distribution apparatus and wired and wireless mixed network data distribution method
JP4454320B2 (en) Transmission apparatus, transmission control program, and transmission method
US7539925B2 (en) Transmission apparatus and method, reception apparatus and method, storage medium, and program
US8588071B2 (en) Device and method for adaptation of target rate of video signals
JP5109787B2 (en) Data transmission system, program and method
JP5191826B2 (en) Stream communication apparatus, stream communication method, and stream communication system
KR100615119B1 (en) Bit rate control method and device
JP5094546B2 (en) COMMUNICATION DEVICE, COMMUNICATION METHOD, PROGRAM
JP4320024B2 (en) Transmission rate control method using error correction packet and communication apparatus using the same
JP4903435B2 (en) Media signal transmission method and reception method, and transmission / reception method and apparatus
JP2010119133A (en) Packet transmission device, communication system, and program
US8904024B2 (en) System and method for low delay fast update for video streaming
JP4061643B2 (en) Information processing system, information processing apparatus and method, recording medium, and program
JP2006050488A (en) Communication terminal device and buffer control method
JP2009159368A (en) Data transmission apparatus and transmission band estimation method
JP4818929B2 (en) High speed video update method and apparatus
JPWO2006103724A1 (en) Packet distribution bandwidth control method, distribution apparatus, and video distribution system
KR100931375B1 (en) Efficient data streaming method using efficien tparameters and data streaming server
JP3929876B2 (en) Wireless video transmission device
Xu et al. Delay-aware loss-concealment strategies for real-time video conferencing

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050406

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050927

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051007

R150 Certificate of patent or registration of utility model

Ref document number: 3730974

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091014

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091014

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101014

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111014

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121014

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131014

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees