JP2006115304A - 異なるメディアデータにおけるパケット多重化フレームのデータ構造、送受信装置及び送受信プログラム - Google Patents
異なるメディアデータにおけるパケット多重化フレームのデータ構造、送受信装置及び送受信プログラム Download PDFInfo
- Publication number
- JP2006115304A JP2006115304A JP2004301607A JP2004301607A JP2006115304A JP 2006115304 A JP2006115304 A JP 2006115304A JP 2004301607 A JP2004301607 A JP 2004301607A JP 2004301607 A JP2004301607 A JP 2004301607A JP 2006115304 A JP2006115304 A JP 2006115304A
- Authority
- JP
- Japan
- Prior art keywords
- media data
- frame
- data
- packet
- serial number
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
【課題】 異なるメディアデータにおけるパケット到着時間のゆらぎと、ヘッダによるオーバヘッドとを改善することができる、パケット多重化フレームのデータ構造と、そのフレームを送受信する送受信装置及び送受信プログラムを提供する。
【解決手段】 異なるメディアデータを多重化して伝送するためのフレームのデータ構造において、UDPヘッダに続いて、0〜255の巡回値であって1byteのシリアル番号部と、0〜255のバイト数であって1byteの音声データサイズ部と、該サイズ部に格納された長さの音声データと、映像データとを含むことを特徴とする。
【選択図】 図4
【解決手段】 異なるメディアデータを多重化して伝送するためのフレームのデータ構造において、UDPヘッダに続いて、0〜255の巡回値であって1byteのシリアル番号部と、0〜255のバイト数であって1byteの音声データサイズ部と、該サイズ部に格納された長さの音声データと、映像データとを含むことを特徴とする。
【選択図】 図4
Description
本発明は、異なるメディアデータにおけるパケット多重化フレームのデータ構造、送受信装置及び送受信プログラムに関する。
異なるメディアデータを多重化する送信装置は、同時に並行して発生する複数のメディアデータをメディア毎に符号化し、所定サイズのフレームに構成してネットワークへ送信する。一方、受信装置は、メディア毎に異なるメディアデコーダを用いて、受信したフレーム単位でメディアデータを復号する。メディアデータ毎に、所定サイズをどのように決定するかが、マルチメディアデータの多重化においては重要である。
多重化方式としては、バイト多重がある。バイト多重は、異なるメディアデータを適当なバイト数の単位で切り替えることができる。受信装置は、フレームに付加されたヘッダの内容によって、そのメディアデータに適したデコーダに切り替える。このようなパケット多重は、柔軟性が高く、ソフトウェア処理に適している。
図1は、従来技術によるパケット多重化のための送信装置の機能構成図である。
送信装置1は、映像データ及び音声データをリアルタイムで符号化して送信するものである。送信装置1は、映像信号を出力するカメラ4と、音声信号を出力するマイク5とに接続され、データパケットを送信するためにIPネットワーク3に接続されている。
送信装置1は、映像データについて、フォーマット変換部101と、映像エンコーダ部102と、映像データ用バッファ103と、RTP(Real-time Transport Protocol)ヘッダ付加部104とを有する。また、音声データについて、増幅器110と、音声エンコーダ部108と、音声データ用バッファ107と、RTPヘッダ付加部106とを有する。更に、IP(Internet Protocol)ネットワーク3に対応してUDP(User Datagram Protocol)/IPプロトコルスタック部105を有する。
カメラ4から出力された映像信号は、フォーマット変換部101によって圧縮符号化に適した映像フォーマットに変換され、映像エンコーダ102によって圧縮符号化される。その方式は、1フレーム(1画面)を単位として符号化データを生成するものであって、例えばISO/IEC(International Organization for Standardization/International Electrotechnical Commission) MPEG−4(Moving Picture Experts Group-4)ビジュアルがある。低ビットレートのMPEG−4によれば、1フレームは、例えば100m秒間隔(毎秒10フレーム)となる。生成されたビットストリームデータは、映像データ用バッファ103に入力される。RTPヘッダ付加部104は、バッファ103から取り出した映像データのフレーム毎にRTPヘッダを付加する。そのRTPパケットは、UDP/IPプロトコルスタック部105によってUDP及びIPヘッダが付加され、IPネットワーク3へ送信される。
一方、マイク5から出力された音声信号は、増幅器110によって増幅され、A/D(Analog/Digital)変換部109によって伝送可能なビット列に変換される。次に、その音声データは、音声エンコーダ108によって圧縮符号化される。その方式は、予め決められた時間長を1フレームとして符号化データを生成するものであって、例えば3GPP(3rd Generation Partnership Project) AMR(Adaptive Multi Rate)がある。AMR方式においては、1フレームは20m秒となる。生成されたビットストリームは、音声データ用バッファ107に入力される。RTPヘッダ付加部106は、バッファ107から取り出した映像データのフレーム毎にRTPヘッダを付加する。そのRTPパケットは、UDP/IPプロトコルスタック部105によってUDP及びIPヘッダが付加され、IPネットワーク3へ送信される。
受信装置2は、データパケットを受信するためにIPネットワーク3に接続され、受信したデータパケットのメディアデータに応じて復号するものである。受信装置2は、映像信号を入力するディスプレイ6と、音声信号を入力するスピーカ7とに接続されている。
受信装置2は、IPネットワーク3から受信したパケットに対して、IP及びUDPヘッダを処理するUDP/IPプロトコルスタック部205を有する。受信装置2は、映像データについて、RTPヘッダ除去部204と、映像デコーダ203と、映像データ用バッファ202と、ディスプレイ制御部201とを有する。映像信号は、ディスプレイ制御部201からディスプレイ6に出力される。また、音声データについて、RTPヘッダ除去部206と、音声デコーダ207と、音声データ用バッファ208と、D/A変換部209と、増幅器210とを有する。音声信号は、増幅器210からスピーカ7へ出力される。
先行公知文献としては、RTPについて規定したIETF RFC3550(非特許文献1参照)、MPEG−4をRTPに乗せたフォーマットを規定したIETF RFC3016(非特許文献2参照)、AMRをRTPに乗せたフォーマットを規定したIETF RFC3267(非特許文献3参照)がある。
IETF(Internet Engineering Task Force) RFC(Request For Comment) 3550
IETF RFC3016
IETF RFC3267
従来技術によれば、音声データのフレームと、映像データのフレームとは別々に必要となる。これは、フレーム毎に、そのメディアデータに応じたデコーダによって復号させるためである。
前述したような従来技術によれば、生成されるRTPパケットは以下のようになる。ここで、符号化パラメータとして、低い伝送レート(64kbit/秒)における一般的な値を想定する。
映像の符号化ビットレート:32kbit/秒、フレームレート:10枚/秒
音声の符号化ビットレート:6800bit/秒、フレーム長:20m秒
RTPヘッダサイズ:12byte
UDPヘッダ:8byte
IPヘッダ:20byte
映像の符号化ビットレート:32kbit/秒、フレームレート:10枚/秒
音声の符号化ビットレート:6800bit/秒、フレーム長:20m秒
RTPヘッダサイズ:12byte
UDPヘッダ:8byte
IPヘッダ:20byte
映像データについては、以下のようになる。
映像の符号化ビットレート:32kbit/秒÷8bit = 4kbyte/秒
秒当たりの伝送フレーム数:10フレーム/秒
映像データパケットの伝送間隔:1秒/10フレーム = 100m秒
フレームレート:4kbyte/秒÷10フレーム/秒 = 400byte/フレーム
映像の1パケット:400byte+12byte+8byte+20byte = 440byte
映像1パケットの伝送時間:440byte×8bit÷64kbit/秒 = 55m秒
映像の符号化ビットレート:32kbit/秒÷8bit = 4kbyte/秒
秒当たりの伝送フレーム数:10フレーム/秒
映像データパケットの伝送間隔:1秒/10フレーム = 100m秒
フレームレート:4kbyte/秒÷10フレーム/秒 = 400byte/フレーム
映像の1パケット:400byte+12byte+8byte+20byte = 440byte
映像1パケットの伝送時間:440byte×8bit÷64kbit/秒 = 55m秒
音声データについては、以下のようになる。
音声の符号化ビットレート:6800bit/秒÷8bit = 850byte/秒
秒当たりの伝送フレーム数:50フレーム/秒
音声データパケットの伝送間隔:1秒/50フレーム = 20m秒
1フレーム当たりのバイト数:850byte/秒×20m秒 = 17byte/フレーム
音声の1パケット:17byte+12byte+8byte+20byte = 57byte
音声1パケットの伝送時間:57byte×8bit÷64kbit/秒 = 7.125m秒
音声の符号化ビットレート:6800bit/秒÷8bit = 850byte/秒
秒当たりの伝送フレーム数:50フレーム/秒
音声データパケットの伝送間隔:1秒/50フレーム = 20m秒
1フレーム当たりのバイト数:850byte/秒×20m秒 = 17byte/フレーム
音声の1パケット:17byte+12byte+8byte+20byte = 57byte
音声1パケットの伝送時間:57byte×8bit÷64kbit/秒 = 7.125m秒
音声データパケットは20m秒間隔で送信され、映像データパケットは100m秒間隔で送信されるので、音声データパケットの送信の5回に1回の割合で、映像データパケットの送信が割り込むこととなる。
図2は、従来技術におけるフレームの伝送シーケンス図である。
音声データパケットは20m秒毎に送信され、映像データパケットは100m秒毎に送信される。音声データパケットは、40byteのヘッダ(IP、UDP、RTP)とデータ部分とからなる。データ部分が17byteとすると、伝送に7.125m秒を要する。映像データパケットは、40byteのヘッダとデータ部分とからなる。データ部分が400byteとすると、伝送に55m秒を要する。
図2によれば、例えば、映像データパケットV1の送信の直後に、音声データパケットA3が送信されたとする。映像データパケットV1は、送信装置から送信されてから55m秒後に、受信装置に到着する。一方、音声データパケットA3は、更に7.125m秒後、即ち送信装置から送信されてから62.125m秒後に、受信装置に到着する。このために、映像データパケットによって割り込まれた音声データパケットは、送信装置の送出間隔20m秒に対し、受信装置に受信された時は62m秒後ということになる。その後、音声データパケットA4,A5,A6,A7が連続して、受信装置に到着する。音声データパケットの伝送に要する時間7m秒は、送出間隔20m秒に比べて十分小さいため、受信装置における到着間隔はやがて元に戻ることとなるが、その後、再度、映像データパケットが音声データパケットの間に割り込むため、到着遅延の変動が生じる。
音声データは、映像データのようなフレーム単位で離散的なデータと異なって、アナログ信号に戻して再生する際に、連続的でなければならない。このため、受信装置は、音声データパケットの最大到着遅延量に合わせて、予めバッファに蓄積してから再生する。このような音声データパケットの遅延変動は、受信側に大きなバッファ蓄積を要求することとなり、伝送遅延全体を増大させるものとなる。
更に、従来技術によれば、RTP、UDP、IPのヘッダを、映像データパケット及び音声データパケットそれぞれ独立に付加する必要がある。従って、
(12byte+8byte+20byte)×8bit×(50音声フレーム+10映像フレーム)
= 19.2kbit/秒
ものヘッダによるオーバヘッドを要する。
(12byte+8byte+20byte)×8bit×(50音声フレーム+10映像フレーム)
= 19.2kbit/秒
ものヘッダによるオーバヘッドを要する。
また、音声データパケットの遅延変動を抑えるために、映像データパケットを分割し、映像データパケットと音声データパケットとを交互に送信するという方法もある。この場合、両パケットが等間隔で送信されるため、音声データパケットの到着時間ゆらぎを回避することは可能となる。しかしながら、この方法によれば、ヘッダによるオーバヘッドは、更に大きくなり、伝送効率が極めて低下する。
(12byte+8byte+20byte)×8bit×(50音声フレーム+50映像フレーム)
= 32kbit/秒
(12byte+8byte+20byte)×8bit×(50音声フレーム+50映像フレーム)
= 32kbit/秒
このように、従来技術によれば、異なるメディアデータが異なるフレームで伝送され、フレーム毎にRTPヘッダを必要とするために伝送効率が低くなるだけでなく、一方のメディアデータの伝送が、他方のメディアデータの伝送の遅延変動に影響を与えることとなる。
従って、本発明は、異なるメディアデータにおけるパケット到着時間のゆらぎと、ヘッダによるオーバヘッドとを改善することができる、パケット多重化フレームのデータ構造と、そのフレームを送受信する送受信装置及び送受信プログラムを提供することを目的とする。
本発明におけるコンピュータが処理可能なフレームのデータ構造は、UDPヘッダに続いて、シリアル番号部と、第1のメディアデータサイズ部と、該サイズ部に格納された長さの第1のメディアデータと、第2のメディアデータとを含むことを特徴とする。
また、本発明のデータ構造における他の実施形態によれば、第1のメディアデータは音声データであって、第2のメディアデータは映像データであることも好ましい。
更に、本発明のデータ構造における他の実施形態によれば、シリアル番号部は1byteの0〜255の巡回値であって、第1のメディアデータサイズ部は1byteの0〜255のバイト数であることも好ましい。
本発明における送信装置は、前述したデータ構造を有するフレームを送信するものであって、
多重化手段を有し、該多重化手段は、
シリアル番号を送出する加算手段と、
送信すべき第1のメディアデータを一時的に蓄積する第1のメモリと、
送信すべき第2のメディアデータを一時的に蓄積する第2のメモリと、
加算手段から出力されたシリアル番号を、フレームのシリアル番号部に含め、次に、第1のメモリから出力された第1のメディアデータサイズを、フレームの第1のメディアデータサイズ部に含め、次に、第1のメモリから出力された、第1のメディアデータサイズ部に格納された長さの第1のメディアデータを含め、次に、第2のメモリから出力された第2のメディアデータを含めたパケット多重化フレームの生成を繰り返す多重パケット生成手段と
を含むことを特徴とする。
多重化手段を有し、該多重化手段は、
シリアル番号を送出する加算手段と、
送信すべき第1のメディアデータを一時的に蓄積する第1のメモリと、
送信すべき第2のメディアデータを一時的に蓄積する第2のメモリと、
加算手段から出力されたシリアル番号を、フレームのシリアル番号部に含め、次に、第1のメモリから出力された第1のメディアデータサイズを、フレームの第1のメディアデータサイズ部に含め、次に、第1のメモリから出力された、第1のメディアデータサイズ部に格納された長さの第1のメディアデータを含め、次に、第2のメモリから出力された第2のメディアデータを含めたパケット多重化フレームの生成を繰り返す多重パケット生成手段と
を含むことを特徴とする。
また、本発明の送信装置における他の実施形態によれば、
第1のメディアデータを符号化し、該符号化された第1のメディアデータを多重化手段に入力する第1のエンコーダと、
第2のメディアデータを符号化し、該符号化された第2のメディアデータを多重化手段に入力する第2のエンコーダとを有し、
多重化手段の多重パケット生成手段は、フレームを、第1のエンコーダの符号化方式に必要な送出タイミングで生成することも好ましい。
第1のメディアデータを符号化し、該符号化された第1のメディアデータを多重化手段に入力する第1のエンコーダと、
第2のメディアデータを符号化し、該符号化された第2のメディアデータを多重化手段に入力する第2のエンコーダとを有し、
多重化手段の多重パケット生成手段は、フレームを、第1のエンコーダの符号化方式に必要な送出タイミングで生成することも好ましい。
更に、本発明の送信装置における他の実施形態によれば、
生成されたフレームに、UDPヘッダ及びIPヘッダを更に付加してIPネットワークへ送信するUDP/IPプロトコルスタック手段を更に有することも好ましい。
生成されたフレームに、UDPヘッダ及びIPヘッダを更に付加してIPネットワークへ送信するUDP/IPプロトコルスタック手段を更に有することも好ましい。
本発明における受信装置は、前述したデータ構造を有するフレームを受信するものであって、
受信されたフレームのUDPヘッダに続いて、シリアル番号部と、第1のメディアデータサイズ部と、該サイズ部に格納された長さの第1のメディアデータと、第2のメディアデータとに分離する分離手段と、
分離されたシリアル番号が巡回していることを確認する加算確認手段と
を有することを特徴とする。
受信されたフレームのUDPヘッダに続いて、シリアル番号部と、第1のメディアデータサイズ部と、該サイズ部に格納された長さの第1のメディアデータと、第2のメディアデータとに分離する分離手段と、
分離されたシリアル番号が巡回していることを確認する加算確認手段と
を有することを特徴とする。
また、本発明の受信装置における他の実施形態によれば、
受信されたフレームから、UDPヘッダ及びIPヘッダを除去して分離手段に入力するUDP/IPプロトコルスタック部と、
分離手段から送出された第1のメディアデータを復号する第1のデコーダと、
分離手段から送出された第2のメディアデータを復号する第2のデコーダとを更に有することも好ましい。
受信されたフレームから、UDPヘッダ及びIPヘッダを除去して分離手段に入力するUDP/IPプロトコルスタック部と、
分離手段から送出された第1のメディアデータを復号する第1のデコーダと、
分離手段から送出された第2のメディアデータを復号する第2のデコーダとを更に有することも好ましい。
本発明における送信プログラムは、前述したデータ構造を有するフレームを送信するものであって、
多重化手段を有し、該多重化手段は、
シリアル番号を送出する加算手段と、
送信すべき第1のメディアデータを一時的に蓄積する第1のメモリと、
送信すべき第2のメディアデータを一時的に蓄積する第2のメモリと、
加算手段から出力されたシリアル番号を、フレームのシリアル番号部に含め、次に、第1のメモリから出力された第1のメディアデータサイズを、フレームの第1のメディアデータサイズ部に含め、次に、第1のメモリから出力された、第1のメディアデータサイズ部に格納された長さの第1のメディアデータを含め、次に、第2のメモリから出力された第2のメディアデータを含めたパケット多重化フレームの生成を繰り返す多重パケット生成手段と
を含むようにコンピュータを機能させることを特徴とする。
多重化手段を有し、該多重化手段は、
シリアル番号を送出する加算手段と、
送信すべき第1のメディアデータを一時的に蓄積する第1のメモリと、
送信すべき第2のメディアデータを一時的に蓄積する第2のメモリと、
加算手段から出力されたシリアル番号を、フレームのシリアル番号部に含め、次に、第1のメモリから出力された第1のメディアデータサイズを、フレームの第1のメディアデータサイズ部に含め、次に、第1のメモリから出力された、第1のメディアデータサイズ部に格納された長さの第1のメディアデータを含め、次に、第2のメモリから出力された第2のメディアデータを含めたパケット多重化フレームの生成を繰り返す多重パケット生成手段と
を含むようにコンピュータを機能させることを特徴とする。
また、本発明の送信プログラムにおける他の実施形態によれば、
第1のメディアデータを符号化し、該符号化された第1のメディアデータを多重化手段に入力する第1のエンコーダと、
第2のメディアデータを符号化し、該符号化された第2のメディアデータを多重化手段に入力する第2のエンコーダとを有し、
多重化手段の多重パケット生成手段は、フレームを、第1のエンコーダの符号化方式に必要な送出タイミングで生成するように機能させることも好ましい。
第1のメディアデータを符号化し、該符号化された第1のメディアデータを多重化手段に入力する第1のエンコーダと、
第2のメディアデータを符号化し、該符号化された第2のメディアデータを多重化手段に入力する第2のエンコーダとを有し、
多重化手段の多重パケット生成手段は、フレームを、第1のエンコーダの符号化方式に必要な送出タイミングで生成するように機能させることも好ましい。
更に、本発明の送信プログラムにおける他の実施形態によれば、
生成されたフレームに、UDPヘッダ及びIPヘッダを更に付加してIPネットワークへ送信するUDP/IPプロトコルスタック手段を更に有するようにコンピュータを機能させることも好ましい。
生成されたフレームに、UDPヘッダ及びIPヘッダを更に付加してIPネットワークへ送信するUDP/IPプロトコルスタック手段を更に有するようにコンピュータを機能させることも好ましい。
本発明における受信プログラムは、前述したデータ構造を有するフレームを受信するものであって、
受信されたフレームのUDPヘッダに続いて、シリアル番号部と、第1のメディアデータサイズ部と、該サイズ部に格納された長さの第1のメディアデータと、第2のメディアデータとに分離する分離手段と、
分離されたシリアル番号が巡回していることを確認する加算確認手段と
してコンピュータを機能させることを特徴とする。
受信されたフレームのUDPヘッダに続いて、シリアル番号部と、第1のメディアデータサイズ部と、該サイズ部に格納された長さの第1のメディアデータと、第2のメディアデータとに分離する分離手段と、
分離されたシリアル番号が巡回していることを確認する加算確認手段と
してコンピュータを機能させることを特徴とする。
また、本発明の受信プログラムにおける他の実施形態によれば、
受信されたフレームから、UDPヘッダ及びIPヘッダを除去して分離手段に入力するUDP/IPプロトコルスタック手段と、
分離手段から送出された第1のメディアデータを復号する第1のデコーダと、
分離手段から送出された第2のメディアデータを復号する第2のデコーダと
して更にコンピュータを機能させることも好ましい。
受信されたフレームから、UDPヘッダ及びIPヘッダを除去して分離手段に入力するUDP/IPプロトコルスタック手段と、
分離手段から送出された第1のメディアデータを復号する第1のデコーダと、
分離手段から送出された第2のメディアデータを復号する第2のデコーダと
して更にコンピュータを機能させることも好ましい。
本発明によれば、映像データ及び音声データは、同じタイミングでバッファから抜き取られ、1つのフレームに多重化されて伝送される。これにより、映像データ及び音声データの到着遅延が一定となり、受信装置において音声データの到着ゆらぎを回避することができる。
また、パケットの生成に際し、RTPによって映像データパケット及び音声データパケットそれぞれに12byteを要していたのに対し、本発明によれば、これら異なるメディアデータのパケットが統合され、且つRTPに相当する部分のヘッダが2byteとなるため、ヘッダサイズをかなり軽減することができ、伝送効率を高めることができる。
以下では、図面を用いて、本発明を実施するための最良の形態について詳細に説明する。
表2によれば、本発明におけるフレームのデータ構造は、UDPヘッダに続いて、1byteのシリアル番号部と、1byteの音声データサイズ部と、そのサイズ部に格納された長さの音声データと、映像データとを含む。従って、表1と比較して、RTPヘッダを必要としない。シリアル番号部は、符号なし整数であって、0〜255の巡回値となる。音声データサイズ部は1byteであるので、必然的に音声データのサイズは0〜255byteとなる。
図3は、本発明におけるパケット多重化フレームのメディア分割構成図である。
図3の上段には、映像データを等サイズに分割し、パケット多重化フレームを構成したものである。常に、所定のバイト数の位置で映像データを分割することができるので、実装が容易となる。しかしながら、フレームの間を意識することなく、等サイズに分割するために、フレームに跨って分割される場合がある。この場合、映像フレームに跨った映像データを含むパケットを損失すると、2つの(前後の)フレーム対して影響を及ぼす。
図3の下段には、MPEG4で規定された再同期のためのResyncマーカが映像フレームに挿入されたものが表されている。Resyncマーカとは、特定パターンのビット列であって、それをストリーム中に挿入し可変長符号語の切れ目を示す。エラー発生時にそのResyncマーカから復号を再開することにより、ストリームの途中からの再生が可能となる。Resyncマーカは、符号化時に、マクロブロック境界に挿入される。このResyncマーカを実質的に等サイズ間に挿入し、このResyncマーカ間を1つの映像データとして多重化フレームに含めることにより、映像フレームに跨って映像データが分割されることがなくなる。即ち、1つの多重化フレームの損失が、2つの映像フレームに影響を及ぼすことがなくなる。
図4は、本発明における送信装置の機能構成図である。以下では、送信装置の機能について説明するが、各機能はプログラムによっても実装でき、そのプログラムをコンピュータが実行することによって各機能が実現される。
図4によれば、送信装置1は、図1のRTPヘッダ付加部104及び106に代わって、多重化部111を備えている。多重化部111は、多重パケット生成部111と、映像データを一時的に蓄積するメモリ1112と、音声データを一時的に蓄積するメモリ1113と、シリアル番号を生成する加算器1114と、遅延回路1115とを有する。ここで、音声データ用メモリ1112は、音声データサイズ(書き込みポインタと読み出しポインタとの差分)を、0〜255byteで表して出力することができる。
音声データがメモリ113に蓄積され及び/又は映像データがメモリ112に蓄積された際、多重パケット生成部111は、4入力1出力のスイッチで、シリアル番号、音声データサイズ、音声データ、映像データの順に切り替えて、その1巡によって、表2に表した1つのフレームを構成する。シリアル番号は、遅延回路115を通じて加算器1114に入力され、1増分(1加算)されて、新たなシリアル番号となる。
本発明によれば、映像データ及び音声データは、同じタイミングでバッファ103及び107から抜き取られ、シェーピングされて1つのフレームに多重化される。これにより、映像データと音声データとの到着遅延が一定となり、受信装置において音声データの到着ゆらぎを回避することができる。
また、多重パケットの生成に際し、RTPによって映像データパケット及び音声データパケットそれぞれに12byteを要していたのに対し、本発明によれば、これら異なるメディアデータのパケットが統合され、且つRTPに相当する部分のヘッダが2byteとなるため、ヘッダサイズを軽減することができる。
例えば、パケット送出間隔を20m秒とした場合、
(2byte+8byte+20byte) × 8bit × 50 = 12kbit/秒
のオーバヘッドとなる。
(2byte+8byte+20byte) × 8bit × 50 = 12kbit/秒
のオーバヘッドとなる。
即ち、従来技術によれば32kbit/秒であることを考慮すると、本発明によれば20kbit/秒ものオーバヘッドを削減することができる。ここで削減されたオーバヘッドのbit数は、映像データ又は音声データの符号化ビットレートに割り当てることができ、符号化品質を向上させることもできる。
図5は、本発明におけるフレームの伝送シーケンス図である。以下では、受信装置の機能について説明するが、各機能はプログラムによっても実現できる。
図5は、従来技術である図2のS200の部分を表している。20m秒毎に送信する音声データパケットの送信タイミングで、且つ、図2の映像データパケットよりも短い長さの映像データパケットを送信する。図5によれば、17byteの音声データと80byteの映像データとからなるフレームは、15.8m秒で受信装置によって受信される。即ち、映像データV1(400byte)の受信終了タイミングは、音声データA1〜A4(17byte×4個)の受信終了のタイミングと一致する。
例えば、AMR方式の音声データサイズは、パケット送出間隔が20m秒である場合、以下のようなバイト数になる。ここでは、代表的な3モードについて列記する。
4.75kbit/秒モード: 14byte
※6.70kbit/秒モード: 19byte
12.2kbit/秒モード: 33byte
4.75kbit/秒モード: 14byte
※6.70kbit/秒モード: 19byte
12.2kbit/秒モード: 33byte
映像データサイズは、単純に「ビットレート×時間」で表される。1パケットが20m秒間隔の場合、以下のようなバイト数となる。
32kbit/秒: 32kbit/8bit × 20m秒 = 80byte
32kbit/秒: 32kbit/8bit × 20m秒 = 80byte
AMRが6.70kbit/秒モードの場合、多重化フレームは、シリアル番号1byte、音声データサイズ1byte、音声データ19byte及び映像データ80byteからなる合計101byteを要する。
図6は、本発明における受信装置の機能構成図である。
図6によれば、受信装置2は、図1のRTPヘッダ除去部204及び206に代わって、分離部211を備えている。分離部211は、パケット分離部2111と、加算確認部2112とを有する。UDP/IPプロトコルスタック部205によってUDP/IPヘッダが除去されたフレームについて、分離部211は、シリアル番号部と、音声データデータサイズ部と、そのサイズ部に格納された長さの音声データと、映像データとに分離する。加算確認手段は、分離されたシリアル番号が巡回していることを確認する。分離部211から送出された音声データは、音声デコーダ207によって復号され、映像データは、映像デコーダ203によって復号される。
前述した本発明におけるパケット多重化フレームのデータ構造、送受信装置及び送受信プログラムの種々の実施形態によれば、本発明の技術思想及び見地の範囲の種々の変更、修正及び省略を、当業者は容易に行うことができる。前述の説明はあくまで例であって、何ら制約しようとするものではない。本発明は、特許請求の範囲及びその均等物として限定するものにのみ制約される。
1 送信装置
101 フォーマット変換部
102 映像エンコーダ部
103 映像データ用バッファ
104、106 RTPヘッダ付加部
105 UDP/IPプロトコルスタック部
107 音声データ用バッファ
108 音声エンコーダ部
109 A/D変換部
110 増幅器
111 多重化部
1111 多重パケット生成部
1112 映像データ用メモリ
1113 音声データ用メモリ
1114 加算器
1115 遅延回路
2 受信装置
201 ディスプレイ制御部
202 映像データ用バッファ
203 映像デコーダ
204、206 RTPヘッダ除去部
205 UDP/IPプロトコルスタック部
207 音声デコーダ
208 音声データ用バッファ
209 D/A変換部
210 増幅器
211 分離部
2111 パケット分離部
2112 加算確認部
3 IPネットワーク
4 カメラ
5 マイク
6 ディスプレイ
7 スピーカ
101 フォーマット変換部
102 映像エンコーダ部
103 映像データ用バッファ
104、106 RTPヘッダ付加部
105 UDP/IPプロトコルスタック部
107 音声データ用バッファ
108 音声エンコーダ部
109 A/D変換部
110 増幅器
111 多重化部
1111 多重パケット生成部
1112 映像データ用メモリ
1113 音声データ用メモリ
1114 加算器
1115 遅延回路
2 受信装置
201 ディスプレイ制御部
202 映像データ用バッファ
203 映像デコーダ
204、206 RTPヘッダ除去部
205 UDP/IPプロトコルスタック部
207 音声デコーダ
208 音声データ用バッファ
209 D/A変換部
210 増幅器
211 分離部
2111 パケット分離部
2112 加算確認部
3 IPネットワーク
4 カメラ
5 マイク
6 ディスプレイ
7 スピーカ
Claims (13)
- 異なるメディアデータにおけるパケット多重化フレームのデータ構造であって、
UDPヘッダに続いて、シリアル番号部と、第1のメディアデータサイズ部と、該サイズ部に格納された長さの第1のメディアデータと、第2のメディアデータとを含むことを特徴とするコンピュータが処理可能なデータ構造。 - 前記第1のメディアデータは音声データであって、前記第2のメディアデータは映像データであることを特徴とする請求項1に記載のデータ構造。
- 前記シリアル番号部は1byteの0〜255の巡回値であって、前記第1のメディアデータサイズ部は1byteの0〜255のバイト数であることを特徴とする請求項1又は2に記載のデータ構造。
- 請求項1から3のいずれか1項に記載のデータ構造を有するフレームを送信する送信装置であって、
多重化手段を有し、該多重化手段は、
前記シリアル番号を出力する加算手段と、
送信すべき第1のメディアデータを一時的に蓄積する第1のメモリと、
送信すべき第2のメディアデータを一時的に蓄積する第2のメモリと、
前記加算手段から出力された前記シリアル番号を、前記フレームの前記シリアル番号部に含め、次に、前記第1のメモリから出力された第1のメディアデータサイズを、前記フレームの前記第1のメディアデータサイズ部に含め、次に、前記第1のメモリから出力された、前記第1のメディアデータサイズ部に格納された長さの前記第1のメディアデータを含め、次に、前記第2のメモリから出力された第2のメディアデータを含めたパケット多重化フレームの生成を繰り返す多重パケット生成手段と
を含むことを特徴とする送信装置。 - 第1のメディアデータを符号化し、該符号化された第1のメディアデータを前記多重化手段に入力する第1のエンコーダと、
第2のメディアデータを符号化し、該符号化された第2のメディアデータを前記多重化手段に入力する第2のエンコーダとを有し、
前記多重化手段の前記多重パケット生成手段は、前記パケット多重化フレームを、前記第1のエンコーダの符号化方式に必要な送出タイミングで生成することを特徴とする請求項4に記載の送信装置。 - 生成された前記パケット多重化フレームに、UDPヘッダ及びIPヘッダを更に付加してIPネットワークへ送信するUDP/IPプロトコルスタック手段を更に有することを特徴とする請求項4又は5に記載の送信装置。
- 請求項1から3のいずれか1項に記載のデータ構造を有するフレームを受信する受信装置であって、
受信された前記フレームのUDPヘッダに続いて、前記シリアル番号部と、前記第1のメディアデータサイズ部と、該サイズ部に格納された長さの前記第1のメディアデータと、前記第2のメディアデータとに分離する分離手段と、
分離された前記シリアル番号が巡回していることを確認する加算確認手段と
を有することを特徴とする受信装置。 - 受信された前記フレームから、UDPヘッダ及びIPヘッダを除去して前記分離手段に入力するUDP/IPプロトコルスタック部と、
前記分離手段から送出された前記第1のメディアデータを復号する第1のデコーダと、
前記分離手段から送出された前記第2のメディアデータを復号する第2のデコーダとを更に有することを特徴とする請求項7に記載の受信装置。 - 請求項1から3のいずれか1項に記載のデータ構造を有するフレームを送信する送信プログラムであって、
多重化手段を有し、該多重化手段は、
前記シリアル番号を送出する加算手段と、
送信すべき第1のメディアデータを一時的に蓄積する第1のメモリと、
送信すべき第2のメディアデータを一時的に蓄積する第2のメモリと、
前記加算手段から出力された前記シリアル番号を、前記フレームの前記シリアル番号部に含め、次に、前記第1のメモリから出力された第1のメディアデータサイズを、前記フレームの前記第1のメディアデータサイズ部に含め、次に、前記第1のメモリから出力された、前記第1のメディアデータサイズ部に格納された長さの前記第1のメディアデータを含め、次に、前記第2のメモリから出力された第2のメディアデータを含めたパケット多重化フレームの生成を繰り返す多重パケット生成手段と
を含むようにコンピュータを機能させることを特徴とする送信プログラム。 - 第1のメディアデータを符号化し、該符号化された第1のメディアデータを前記多重化手段に入力する第1のエンコーダと、
第2のメディアデータを符号化し、該符号化された第2のメディアデータを前記多重化手段に入力する第2のエンコーダとを有し、
前記多重化手段の前記多重パケット生成手段は、前記フレームを、前記第1のエンコーダの符号化方式に必要な送出タイミングで生成するようにコンピュータを機能させることを特徴とする請求項9に記載の送信プログラム。 - 生成された前記フレームに、UDPヘッダ及びIPヘッダを更に付加してIPネットワークへ送信するUDP/IPプロトコルスタック手段を更に有するようにコンピュータを機能させることを特徴とする請求項9又は10に記載の送信プログラム。
- 請求項1から3のいずれか1項に記載のデータ構造を有するフレームを受信する受信プログラムであって、
受信された前記フレームのUDPヘッダに続いて、前記シリアル番号部と、前記第1のメディアデータサイズ部と、該サイズ部に格納された長さの前記第1のメディアデータと、前記第2のメディアデータとに分離する分離手段と、
分離された前記シリアル番号が巡回していることを確認する加算確認手段と
してコンピュータを機能させることを特徴とする受信プログラム。 - 受信されたフレームから、UDPヘッダ及びIPヘッダを除去して前記分離手段に入力するUDP/IPプロトコルスタック手段と、
前記分離手段から送出された前記第1のメディアデータを復号する第1のデコーダと、
前記分離手段から送出された前記第2のメディアデータを復号する第2のデコーダと
して更にコンピュータを機能させることを特徴とする請求項12に記載の受信プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004301607A JP2006115304A (ja) | 2004-10-15 | 2004-10-15 | 異なるメディアデータにおけるパケット多重化フレームのデータ構造、送受信装置及び送受信プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004301607A JP2006115304A (ja) | 2004-10-15 | 2004-10-15 | 異なるメディアデータにおけるパケット多重化フレームのデータ構造、送受信装置及び送受信プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006115304A true JP2006115304A (ja) | 2006-04-27 |
Family
ID=36383424
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004301607A Pending JP2006115304A (ja) | 2004-10-15 | 2004-10-15 | 異なるメディアデータにおけるパケット多重化フレームのデータ構造、送受信装置及び送受信プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006115304A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006115305A (ja) * | 2004-10-15 | 2006-04-27 | Kddi Corp | 異なるメディアデータにおけるパケット多重化フレームの生成タイミングを制御する送信方法、送信プログラム及び送信装置 |
-
2004
- 2004-10-15 JP JP2004301607A patent/JP2006115304A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006115305A (ja) * | 2004-10-15 | 2006-04-27 | Kddi Corp | 異なるメディアデータにおけるパケット多重化フレームの生成タイミングを制御する送信方法、送信プログラム及び送信装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4661373B2 (ja) | 特定メディアデータの破棄を制御する送信装置及び送信プログラム | |
RU2408158C2 (ru) | Синхронизация звука и видео | |
JP4367657B2 (ja) | 音声通信方法及び装置 | |
JP4475235B2 (ja) | コンテンツの符号化、配信及び受信方法と装置とシステムならびにプログラム | |
KR101340762B1 (ko) | 지상파 디지털 멀티미디어 방송 서비스의 인터넷 프로토콜패킷 재전송 방법 | |
CN101827271B (zh) | 音频视频同步方法、装置以及数据接收终端 | |
JP4354957B2 (ja) | 放送コンテンツ伝送装置、放送コンテンツ伝送システム、放送コンテンツ伝送方法およびプログラム | |
EP1845691A2 (en) | Media stream relay device and method | |
WO2015015879A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP6451629B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
KR100770907B1 (ko) | 멀티미디어 패킷 데이터의 디패킷화 방법 | |
JPWO2005006688A1 (ja) | 通信システム | |
JP2006115305A (ja) | 異なるメディアデータにおけるパケット多重化フレームの生成タイミングを制御する送信方法、送信プログラム及び送信装置 | |
JP2006115304A (ja) | 異なるメディアデータにおけるパケット多重化フレームのデータ構造、送受信装置及び送受信プログラム | |
JP4050961B2 (ja) | パケット型音声通信端末 | |
KR100760260B1 (ko) | 타이밍정보의 효율적 전송을 위한 전송스트림 생성 장치및 그 방법과, 그를 이용한 디엠비 전송 시스템 | |
JP2000307637A (ja) | マルチメディア端末装置及び網間接続装置 | |
JP2010028642A (ja) | 画像伝送システム | |
JP2002152181A (ja) | マルチメディアデータ通信方法およびマルチメディアデータ通信装置 | |
JP2006222663A (ja) | 通信端末及び通信データ量制御方法 | |
JP4457841B2 (ja) | 符号化レートを制御する送信装置、送信プログラム及び送信方法 | |
JP2006074555A (ja) | マルチメディアゲートウェイにおける音声・動画調整方式 | |
JP2006080715A (ja) | トランスポート・ストリーム送信装置および受信装置 | |
JP2005318378A (ja) | リアルタイム通信装置及び受信バッファの制御方法 | |
JP4588518B2 (ja) | パケット多重伝送装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070905 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090814 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090825 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20091222 |