JP3720133B2 - マルチメディア多重化通信システム - Google Patents
マルチメディア多重化通信システム Download PDFInfo
- Publication number
- JP3720133B2 JP3720133B2 JP22745896A JP22745896A JP3720133B2 JP 3720133 B2 JP3720133 B2 JP 3720133B2 JP 22745896 A JP22745896 A JP 22745896A JP 22745896 A JP22745896 A JP 22745896A JP 3720133 B2 JP3720133 B2 JP 3720133B2
- Authority
- JP
- Japan
- Prior art keywords
- packet
- retransmission
- transmission
- media data
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000004891 communication Methods 0.000 title claims description 66
- 230000005540 biological transmission Effects 0.000 claims description 129
- 238000000034 method Methods 0.000 claims description 80
- 230000004044 response Effects 0.000 claims description 30
- 238000012790 confirmation Methods 0.000 claims description 20
- 206010000210 abortion Diseases 0.000 claims 1
- 239000000872 buffer Substances 0.000 description 83
- 238000007726 management method Methods 0.000 description 63
- 238000012545 processing Methods 0.000 description 62
- 238000012544 monitoring process Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 6
- 238000011084 recovery Methods 0.000 description 5
- 238000007906 compression Methods 0.000 description 4
- 230000006835 compression Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000000926 separation method Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 230000015654 memory Effects 0.000 description 2
- 238000013144 data compression Methods 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Description
【発明の属する技術分野】
本発明は、パケット化したマルチメディアデータの多重化技術に関し、特に、各メディアデータ毎の再送処理に費やすことができる時間を管理する装置及び方法に関する。
【0002】
【従来の技術】
従来では画像、音声、テキスト等といった種類の異なる複数のメディアデータはそれぞれ別個なデータとして通信されていたが、情報通信が多様化するにつれて複数種類のメディアデータを多重化させて通信するマルチメディア通信の必要性が高まっている。
例えば、パーソナルハンディホン(PHS)等の携帯電話を用いて音声データと共に画像データを通信する場合、従来では音声データと画像データとは多重化させずに別々に伝送していたが、通話中は画像を伝送することができず、また画像伝送中は通話することができないことから、即時性を要するマルチメディア通信には不便であった。このため、種類の異なる複数のメディアデータを多重化させて同時に通信することが求められていた。
【0003】
音声データと画像データとを多重化する従来の主な方法は、各メディアデータに予め固定的に帯域(例えば、音声データには8Kbps、画像データには16Kbps)を割り当てて伝送するものであった。
ここで、このようなデータ通信は無線や有線の回線を介して行われるが、例えばフェージング等の外乱によってデータに伝送エラーが発生する場合がある。特に、出力が限られ、また、建物等の遮蔽がある環境で無線通信する携帯電話を用いてデータ通信する場合には、伝送エラーの発生確率はかなり高いものとなる。このような伝送エラーに対しては、チェックコードを付加してデータを伝送し、このチェックコードに基づいて伝送エラーを検出して該当するデータを再送する処置がとられている。
【0004】
しかしながら、上記した従来の多重化方法では、マルチメディア通信の即時性は得られるものの、各メディアデータを多重化して伝送フレームの形式にした後にチェックコードを付加して伝送させていたため、伝送エラーに対する再送処理を各メディアの特性に応じて実施することができなかった。
すなわち、例えば音声データと画像データとを多重化して送信する場合には、図16に示すように、音声データと画像データとを1つの伝送フレームにし、これらフレーム毎にチェックコードを付加して送信していたため、例えば画像データの一部にのみ伝送エラーが発生しても、エラーを回復させるためには当該エラー部を含むフレーム全体(音声データ+画像データ)を再送処理することとなり、再送が必要でない音声データ部も再送することとなっていた。
【0005】
このような再送処理によるエラー回復のためには当然のことながら或る程度の処理時間が必要となるが、メディアの特性から、音声データと画像データとではエラー回復のために許容できる遅延時間が異なる。例えば、音声データは少なくとも10mS以内にエラー回復を行わなければならないが、画像データは50mS以内にエラー回復されれば足りるといったように、メディアの種類によって再送処理に費やすことができる時間が異なる。このような事情は、パソコン通信の電子メール等のデータ、ファクシミリ通信のデータ、ファイル転送のデータ等、音声や画像以外についても同様である。
このため、再送処理に費やすことができる時間を比較的長く設定すればデータを確実に伝送できる確率が向上する反面、或るデータについてはエラー回復のために許容できる時間を上回ってしまうためにデータ自体の価値が損なわれてしまうといった事態が生じていた。
【0006】
【発明が解決しようとする課題】
上記のように、マルチメディア通信においても、伝送エラーの発生に対して再送処理を行う処置がとられるが、メディア毎の特性に応じた再送処理が行われていなかった。特に、携帯電話のように伝送速度が比較的低速で且つ使用環境が比較的劣悪な通信手段を用いてマルチメディア多重化通信を実現しようとする場合には、伝送エラーによる影響が顕著なものとなっていた。
【0007】
本発明は上記従来の事情に鑑みなされたもので、パケット化した各メディアデータに対してそのメディアの種類毎に再送処理に費やすことができる時間を管理することにより、メディアの特性に応じた再送処理を実現するマルチメディア多重化通信方法及びシステムを提供することを目的とする。
また、本発明は、携帯電話のように伝送速度が比較的低速で且つ使用環境が比較的劣悪な通信装置を用いて、効率の高いマルチメディア通信を実現するシステム及び方法を提供することを目的とする。
【0008】
【課題を解決するための手段】
上記目的を達成するため、本発明に係るマルチメディア多重化通信方法では、パケット化した複数種類のメディアデータを多重化して送信するマルチメディア多重化通信方法において、各メディアデータの種類毎に再送処理に費やすことができる時間を予め設定し、送信されたメディアデータパケットに伝送エラーが発生した場合に、当該パケットについての再送処理を前記設定時間内において行う。
したがって、例えば音声データについては10mS、画像データについては50mSといったように、再送処理に費やすことができる時間をメディアの種類毎に設定しておくことにより、メディアの特性に応じた再送処理が実行される。
【0009】
また、本発明に係るマルチメディア多重化通信方法では、前記設定時間は所定の時間内に行われる再送処理の回数で設定される。すなわち、データパケットが正常に受信されるまで繰り返し行う再送処理の回数をメディア毎に規制することにより、実質的に再送処理に費やすことができる時間をメディアの種類毎に管理する。
また、本発明に係るマルチメディア多重化通信方法では、各パケットには伝送エラーを検出するチェックコードが付加されており、再送処理は、送信されたデータを受信する受信側装置から正常受信の確認応答が所定の時間内に得られないことに基づいて行われる。すなわち、伝送エラーの検出は各チェックコードに基づいてメディア毎且つパケット毎に行われ、伝送エラーの生じたパケットに対しては、上記の管理の下に再送処理がなされる。
【0010】
また、本発明に係るマルチメディア多重化通信システムでは、送信側装置に、各メディアデータをパケット化するパケット生成手段と、生成された各メディアデータのパケットを混合配列させるパケット多重化手段と、混合配列により生成されたパケット列を各パケット毎に伝送エラーを検出するチェックコードを付加して送信する送信手段と、を備え、受信側装置に、送信されたパケット列中の各パケットについてチェックコードに基づいて伝送エラーを検出するエラー検出手段と、送信されたパケット列を受信する受信手段と、正常に受信したパケット列を各メディアデータ毎のパケットに分離するパケット分離手段と、分離された各メディアデータ毎のパケットからメディアデータを再生するデータ再生手段と、を備え、送信側装置によりパケット化された複数種類のメディアデータを混合多重化して送信し、受信側装置によりパケット列を受信して各メディアデータを再生する。
【0011】
そして更に、上記の受信側装置には、伝送エラーを検出したパケットを送信側装置へ通知する再送要求手段が備えられ、また、上記の送信側装置には、前記通知に基づいて該当するパケットを再送させる再送処理手段と、各メディアデータの種類毎に予め設定された再送処理に費やすことができる時間内で当該再送処理を実行させる再送管理手段と、が備えられており、伝送エラーが発生したパケットに対してそのメディア種類に応じた時間内で再送処理が実行される。
【0012】
また、本発明に係るマルチメディア多重化通信システムでは、再送管理手段は、所定の時間内に行われる再送処理の回数で管理を行い、実質的に再送処理に費やすことができる時間を管理する。
また、本発明に係るマルチメディア多重化通信システムでは、送信側装置は、パケット化されるメディアデータを圧縮するデータ圧縮手段を更に備え、受信側装置は、圧縮されたメディアデータを伸長するデータ伸長手段と、伸長再生された各メディアデータに基づいて各メディア情報を出力する出力手段と、を更に備えており、データ伝送効率が高められている。
【0013】
【発明の実施の形態】
本発明の実施の形態を図面を参照して説明する。
図1には、本発明に係るマルチメディア多重化通信システムの一例を示してある。
このマルチメディア多重化通信システムは、画像データ、テキストデータ、及び、音声データを多重化させたパケット列として無線送信する送信側装置1と、このように多重化されたパケット列を無線受信して画像データ、テキストデータ、及び、音声データとを再生する受信側装置30と、が備えられている。
なお、本例では説明を簡略化するため、送信側装置1は送信側機能を司る装置、受信側装置30は受信側機能を司る装置としてあるが、各装置は送信側機能と受信側機能とを兼備した送受信装置として構成してもよい。また、マルチメディア多重化通信システムは、これら装置を2以上の任意の数備えて構成してもよい。
【0014】
まず、送信側装置1には、画像を撮像して画像データ(ビデオ信号)を入力するカメラ2と、テキストファイルを格納したテキストファイル手段3と、音声を取り込んで音声データ(音声信号)を入力するマイクロホン4と、多重化されたパケット列及び必要なデータを無線送受信するパーソナルハンディホン等の通信装置5と、が接続されている。
また、送信側装置1には、入力された各メディアのデータを圧縮符号化する送信側符号化部(送信CODEC部)6と、符号化された各メディアデータをパケット化して多重パケット列に構成する送信パケット部7と、多重化されたパケット列を通信装置5から送信させ或いは後述する確認応答等のデータを通信装置5を介して受信する通信制御部8と、これら各機能部6〜8を統括して制御するとともに後述する再送管理を行う主制御部9と、が内蔵されている。
【0015】
送信側符号化部6には、カメラ2から入力されたビデオ信号をデジタル画像データに変換するアナログ/デジタル変換器(A/D変換器)10と、デジタル化された画像データをJPEG方式等によって圧縮符号化する符号化器11と、テキストファイル手段3からテキストデータを取り込んで入力するテキスト入力手段12と、入力されたテキストデータを圧縮符号化する符号化器13と、マイクロホン4から入力された音声信号をデジタル音声データに変換するアナログ/デジタル変換器14と、デジタル化された音声データを圧縮符号化する符号化器15と、が備えられている。
【0016】
また、送信パケット部7には、符号化器11によって圧縮符号化された画像データを複数のパケットに分割して格納するパケットバッファ(PADバッファA)16と、符号化器13によって圧縮符号化されたテキストデータを複数のパケットに分割して格納するパケットバッファ(PADバッファB)17と、符号化器15によって圧縮符号化された音声データを複数のパケットに分割して格納するパケットバッファ(PADバッファC)18と、各パケットバッファ16〜18から取り出された各メディアのデータパケットを多重化したパケット列として格納する多重化バッファ(MUXバッファ)19と、が備えられている。
また、通信制御部8は、上記したデータの送受信処理の他に、送信するメディア毎の各パケットに伝送エラーを検出するためのチェックコード(例えば、CRC)を付加する。
【0017】
また、主制御部9には、制御プログラム及び後述する再送処理の定義テーブルを格納したROM20と、制御プログラムを実行するプロセッサ(CPU)21と、CPU21の作業領域となるとともに後述する再送管理テーブルを格納したRAM22と、再送管理処理等の種々な制御に用いる計数を行うタイマ23と、が備えられている。この主制御部9は、制御プログラムを実行することによって、パケットバッファ16〜18を用いた各メディアデータのパケット化処理、多重化バッファ19を用いたパケット列の多重化処理、受信側装置30からの確認応答の有無に応じたパケットの再送処理、メディア毎のパケット再送処理を管理する処理等を行う。
【0018】
すなわち、主制御部9とパケットバッファ16〜18とによりパケット生成手段が構成され、主制御部9と多重化バッファ19とによりパケット多重化手段が構成され、主制御部9と通信制御手段8とによりパケットを再送させる再送処理手段が構成され、更に、後述するように主制御部9の再送管理テーブルとタイマ23とによりメディア毎のパケット再送処理を管理する再送管理手段が構成される。なお、これら機能手段はプログラム制御によるソフトウエア手段として構成せずとも、機能毎の回路として構成することも可能である。
また、上記の装置構成において、A/D変換器10と14、符号器11、13、15、をそれぞれ共用化することも可能であり、また、パケットバッファ16〜18及び多重化バッファ19を1つのメモリに領域を区切って構成することも可能である。
【0019】
一方、受信側装置30には、再生された画像データに基づく画像を表示出力する液晶ディスプレイ等の表示部31と、再生されたテキストデータを格納するハードディスク装置等のテキストファイル手段32と、再生された音声データに基づく音声を出力するスピーカ33と、多重化されたパケット列及び必要なデータを無線送受信するパーソナルハンディホン等の通信装置34と、が接続されている。
また、受信側装置30には、多重化されたパケット列を通信装置34を介して受信し或いは後述する確認応答等のデータを通信装置34を介して送信する通信制御部35と、受信したパケット列を各メディアデータ毎に分離する受信パケット部36と、各メディア毎に分離されたデータを伸長復号化する受信側復号化部(受信CODEC部)37と、これら各機能部35〜37を統括して制御するとともに後述する受信管理を行う主制御部38と、が内蔵されている。
【0020】
通信制御部35は、上記したデータの送受信処理の他に、各パケットに付加されたチェックコードに基づいて伝送エラーの有無を検出する処理を行い、伝送エラーが生じたパケットを破棄する処理を行う。
また、受信パケット部36には、正常に受信した各メディアのデータパケットを多重化された状態で格納する多重化バッファ(MUXバッファ)39と、多重化バッファ39から取り出された画像データパケットを順次格納して元のデータストリームの並びで保持するパケットバッファ(PADバッファD)40と、多重化バッファ39から取り出されたテキストデータパケットを順次格納して元のデータストリームの並びで保持するパケットバッファ(PADバッファE)41と、多重化バッファ39から取り出された音声データパケットを順次格納して元のデータストリームの並びで保持するパケットバッファ(PADバッファF)42と、が備えられている。
【0021】
また、受信側復号化部37には、パケットバッファ40から取り出した画像データを圧縮時に対応した方式によって伸長復号化する復号化器43と、復号化された画像データをアナログビデオ信号に変換して表示部31へ出力するデジタル/アナログ変換器44と、パケットバッファ41から取り出したテキストデータを圧縮時に対応した方式によって伸長復号化する復号化器45と、復号化されたテキストデータをテキストファイル32に格納する出力手段46と、パケットバッファ42から取り出した音声データを圧縮時に対応した方式によって伸長復号化する復号化器47と、復号化された音声データをアナログ音声信号に変換してスピーカ33へ出力するデジタル/アナログ変換器48と、テキストデータを圧縮符号化する符号化器13と、マイクロホン4から入力された音声信号をデジタル音声データに変換するアナログ/デジタル変換器14と、デジタル化された音声データを圧縮符号化する符号化器15と、が備えられている。
【0022】
また、主制御部38には、制御プログラム及び後述する再送監視処理の定義テーブルを格納したROM49と、制御プログラムを実行するプロセッサ(CPU)50と、CPU50の作業領域となるとともに後述する受信管理テーブルを格納したRAM51と、受信管理処理等の種々な制御に用いる計数を行うタイマ52と、が備えられている。この主制御部38は、制御プログラムを実行することによって、パケットバッファ40〜42を用いて行う多重化パケット列の各メディアデータパケットへの分離処理、受信するパケットの管理処理等を行う。
【0023】
すなわち、主制御部38とパケットバッファ40〜42とによりパケット分離手段が構成され、主制御部38と通信制御手段8とにより正常に受信したパケットについての確認応答を返送する確認応答手段が構成される。なお、本例では後述するように、確認応答のないパケットについては伝送エラーが生じたものとして再送処理を行っており、確認応答手段が確認応答を行わないことによって送信側装置1へ伝送エラーを検出したパケットを通知することとなる。また、これら機能手段はプログラム制御によるソフトウエア手段として構成せずとも、機能毎の回路として構成することも可能である。
また、上記の装置構成において、D/A変換器44と48、復号器43、45、47、をそれぞれ共用化することも可能であり、また、パケットバッファ40〜42及び多重化バッファ39を1つのメモリに領域を区切って構成することも可能である。
【0024】
なお、本例では、データ入力装置2〜3、通信装置5又は34、再生データ出力装置31〜33は送信側装置1又は受信側装置30とは別体の構成としているが、その一部或いは全部を装置1又は30に一体的に組み込んで構成する等してもよく、各装置をどのような組み込み関係で構成するかは任意である。
また、本実施例では、カメラ2は静止画アナログデータを入力するものとしているが、カメラ2から動画データを入力して多重化通信することもできる。
また、本実施例では3種類のメディアデータを多重化通信するが、他の種類のデータ等も含めた任意の数のメディアデータを多重化通信することもでき、そのメディア種類の組合せも任意である。
【0025】
次に、図2を参照して、上記したパケット化処理を説明するとともにパケットバッファ16〜18の構成を更に詳しく説明する。なお、明確化のために画像データを例にとって説明するが、パケットバッファ17、18及びテキストデータや音声データのパケット化処理についても同様である。
同図に示すデータストリームはカメラ2から取り込まれた後に符号器11で圧縮符号化された画像データであり、主制御部9が、符号器11から出力される画像データストリームを固定長のデータブロックに分割し、各データブロックに制御データを付してパケットとし、これらパケットをパケットバッファ16に順次格納させる。なお、符号器11からデータストリームが出力されないときにはパケットも生成されない。
【0026】
すなわち、図3(a)に示すように、各パケットは固定長のデータブロックを含むデータ部に制御データとしての送信順序番号P(S)とバーチャルチャネル番号VCとが付加されたフォーマット構成であり、このバーチャルチャネル番号VCによって各パケットのメディア種別が識別され、送信順序番号P(S)によって各パケットが送信順序として識別される。
本例では、送信順序番号P(S)は”0”〜”7”の数値をサイクリックに使用しており、また、データの通信路を仮想的に定義するバーチャルチャネル番号VCは、画像データパケットの通信路(パケットバッファ16とパケットバッファ40との間の通信路)をVC1、テキストデータパケットの通信路(パケットバッファ17とパケットバッファ41との間の通信路)をVC2、音声データパケットの通信路(パケットバッファ18とパケットバッファ42との間の通信路)をVC3としてある。
【0027】
パケットバッファ16は先入れ先出し方式でパケットをサイクリックに順次格納するリングバッファであり、パケットが格納される毎にPUTポインタの値が主制御装置9によって1つずつ更新されて有効なパケットがあることが示され、また、主制御装置9によりパケットが取り出さて多重化バッファ7へ格納される毎にGETポインタの値が1つずつ更新される。したがって、PUTポインタとGETポインタとに記述された値の差が、パケットバッファ16に格納されているパケット数を示している。
また、後述するように多重化バッファ7に格納したパケットが受信側装置30へ送信されて、受信側装置30から当該パケットについての確認応答を受信する毎に、主制御装置9によりパケットバッファ16の廃棄ポインタが1つずつ更新されて正常に送信できたパケット位置が示される。
【0028】
例えば、図2に示す状態では、PUTポインタがパケットCの後にあるということでデータストリームから切り取られる次のパケットはパケットCの下に格納されることを示しており、GETポインタがパケットBの後にあるということで多重化バッファ7に次に格納されるパケットがパケットCであることを示しており、廃棄ポインタがパケットAの前にあることでパケットAについての確認応答を受信待ちしていることを示している。
【0029】
ここで、確認応答は図3(b)に示すようにデータ部を有しないパケットであり、受信順序番号P(R)とバーチャルチャネル番号VCとから構成されている。この受信順序番号P(R)は正常に受信できたパケットに付された送信順序番号P(S)であり、また、バーチャルチャネル番号VCは当該パケットに付されたバーチャルチャネル番号VCであり、これら受信順序番号P(R)とバーチャルチャネル番号VCとにより、何れのメディアの何れのパケットが伝送エラーを生ずることなく受信側装置30で正常に受信されたかが示される。
なお、この確認応答パケットは受信側装置30から送信側装置1へパケットが正常受信されたことを通知するためのものであり、パケットバッファには格納されない。また、この確認応答パケットは正常受信されたパケットを通知するものであることから、確認応答パケットを受信し得ないと言うことによりパケットに伝送エラーが発生したことが実質的に通知される。なお、本発明においては、送信されたパケットが正常受信できないときに、受信側装置30が再送要求を送信することにより、再送処理を行うようにすることもできる。
【0030】
次に、図4を参照して、上記したパケット列の多重化処理を説明する。
上記のパケット化処理によって、画像パケットバッファ16には複数の画像パケットが”画像パケット1”、”画像パケット2”・・・といったように画像データストリーム中の並びに従って格納され、テキストパケットバッファ17には複数の画像パケットが”テキストパケット1”、”テキストパケット2”・・・といったようにテキストデータストリーム中の並びに従って格納され、音声パケットバッファ18には複数の音声パケットが”音声パケット1”、”音声パケット2”・・・といったように音声データストリーム中の並びに従って格納される。
主制御部9は、図4に示すように、それぞれのパケットバッファ16〜18から交互にパケットを取り出して多重化バッファ19に順次格納し、これらパケットを多重化バッファ19への格納順に通信制御手段8へ順次渡して送信させる。すなわち、”画像パケット1”、”テキストパケット1”、”音声パケット1”、”画像パケット2”、”テキストパケット2”、”音声パケット2”・・・といった多重化されたパケット列が受信側装置30へ送信される。
【0031】
このような多重化パケット列は通信制御手段8によって構成され、通信制御手段8は当該パケット列を構成するに際して伝送エラーを検出するためのチェックコード(例えば、CRC)を各パケット毎に付加する。すなわち、図5に示すように、多重化パケット列に含まれて送信される各パケットにはチェックコードが付加され、伝送エラーの検出は受信側装置30の通信制御手段35において各パケット単位で行われる。なお、伝送エラーが検出されたパケットは通信制御手段35により破棄され、再送処理の対象となる。
【0032】
次に、図6を参照して、上記した多重化パケット列を受信側装置30において各メディア毎のパケットに分離する処理を説明する。
この分離処理は各パケットバッファ40〜42及び多重化バッファ39を用いて主制御部38による制御の下に行われ、多重化バッファ39には通信制御手段35において伝送エラーの無いことが確認された正常に受信したパケットが順次格納される。そして、主制御部38が多重化バッファ39に格納された各パケットをそのバーチャルチャネル番号VCに従って対応するパケットバッファ40〜42へ順次格納し、各パケットバッファ40〜42にそれぞれのメディア毎に分離されたパケットを送信時のデータストリームに従った順序で保持させる。
なお、各パケットバッファ40〜42のPUTポインタはパケットが格納される毎に更新されて有効なパケットが保持されていることを示し、また、GETポインタは再生出力のために復号化器へパケットが取り出される毎に更新される。
【0033】
上記のような多重化されたパケット列が送信側装置1から送信され、受信側装置30で受信されて各メディアが元のデータとして再生されるが、この送信処理に際しては確認応答の有無に基づいた再送管理がなされる。
本実施例の再送管理は、伝送エラーが生じた各メディアのパケット毎に再送処理を行うことができる回数によって行っており、図7(a)に示すように、管理を行うためのパラメータが定義されたテーブルが送信側装置1のROM20に予め記憶されている。この定義テーブルには、各メディアデータ毎に再送タイマ値と再送回数値とが記憶されており、再送タイマ値によって再送処理を行うこととする確認応答の受信までの遅延時間が規定され、再送回数値によって再送処理を繰り返し行うことができる回数が規定される。
【0034】
なお、受信側装置30のROM49には、図7(b)に示すように、再送処理の打ち切り管理を行うためのパラメータが定義されたテーブルが予め記憶されており、この定義テーブルには、各メディアデータ毎に再送処理を受信装置30側から打ち切るためのタイマ値が受信監視タイマ値として記憶されている。
ここで、図7(a)及び(b)に示した定義テーブルのパラメータは必要に応じて書き換え可能であり、後述する各メディア毎の再送回数(すなわち、再送処理に費やすことができる時間)をシステム環境等に応じて変更することも可能である。
【0035】
上記の再送管理は主制御部9がRAM22に格納されている再送管理テーブルを用いて行い、具体的には図9に示す処理手順によって実行される。
ここで、RAM22に格納されている再送管理テーブルを図8を参照して説明しておく。
再送管理テーブルは各メディアのパケットバッファ16〜18毎に設けられており、各メディア毎に、何番の送信順序番号P(S)のパケットが送信され、何番までの確認応答を受信し、さらには、各パケット毎に確認応答が得られるまでに許容するタイマ値及び再送処理を行った際の回数値を管理する。すなわち、再送管理テーブルには、メディア毎のパケットにサイクリックに付与された送信順序番号P(S)を示す送信P(S)ポインタ、確認応答パケットに含まれた受信順序番号P(R)を示す受信P(R)ポインタ、更には、送信順序番号が”0”〜”7”までの各パケットについて、再送処理を行うまでに許容する遅延時間を規定するタイマ値及び再送処理の上限回数を規定する再送回数の領域が設けられている。
【0036】
次に、図9を参照して再送管理処理の手順を具体的に説明する。なお、この再送管理処理も各パケットバッファ16〜18毎に独立して実行される。
まず、パケットバッファのPUTポインタとGETポインタとを比較してパケットバッファ内に送信すべきパケットがあるかを判断し(ステップS1)、パケットがある場合には当該パケットを多重化バッファ19に格納する一方(ステップS2)、パケットがない場合にはステップS1の判断処理を繰り返し行う。
上記のように送信対象のパケットを多重化バッファ19に格納した後、再送管理テーブルの送信P(S)ポインタを更新(+1)し(ステップS3)、送信管理テーブルの対応する順序番号のパケットについて、定義テーブル(図7(a))に定義されている再送タイマ値を設定するとともにタイマ23をスタートさせ(ステップS4)、更に、当該パケットについて、定義テーブルに定義されている再送回数値を再送管理テーブルの再送回数値に設定する(ステップS5)。
【0037】
次いで、タイマ23によるカウント値と送信管理テーブルの再送タイマ値とを比較してタイムアップしたパケットがあるかを判断し(ステップS6)、タイプアップしたパケットがない場合には上記の処理を繰り返し行う一方、タイムアップしたパケットがある場合には、当該パケットについての再送処理を行うために再送管理テーブルの対応する再送回数を更新(−1)する(ステップS7)。
次いで、更新した再送回数値が”0”すなわち規定された再送回数の上限値に達したかを判断し(ステップS8)、この規定値に未だ達していない場合には当該パケットについての再送を更に繰り返して行うために、送信管理テーブルの送信P(S)ポインタを戻して(−1)上記の処理を繰り返し行う(ステップS9)。すなわち、この送信P(S)ポインタを戻すことによって、当該パケットは未だ送信されていない状態と管理され、送信処理(すなわち、再送処理)が行われることとなる。
【0038】
一方、規定値に達した場合には再送処理に費やすことができる時間が経過した状態であるので、伝送エラーが生じている当該パケットについて再送処理を打ち切るために、当該伝送エラーのパケットを正常受信されたパケットと同様に扱い、再送管理テーブルの送信P(S)ポインタを更新して次のパケットについての再送管理を行うとともに(ステップS10)、パケットバッファの廃棄ポインタを更新する(ステップS11)。
したがって、各メディア毎のパケットは再送回数で規定される時間内でのみ再送処理が行われ、各メディアの特性に応じて許容される遅延時間での再送処理が実行される。
【0039】
ここで、上記の再送管理処理は受信側装置30からの確認応答が得られない状態でのみ行われ、応答確認が得られたときには図10に示す処理が主制御部9によって実行されて、対応するパケットを再送処理の対象から除外する。すなわち、確認応答パケットを受信すると、そのバーチャルチャネル番号VCから何れのメディアについての応答かを特定して、対応する再送管理テーブルを特定する(ステップS21)。
次いで、確認応答パケットの受信順序番号P(R)に1を加えた値を当該再送管理テーブルの送信P(S)ポインタに設定することにより、当該ポインタを更新して当該パケットを送信処理の対象から外す(ステップS22)。そして、対応するパケットバッファの廃棄ポインタを更新して(ステップS23)、当該パケットをパケットバッファから取り除く。
【0040】
上記の確認応答は受信側装置30の主制御部38がRAM51に格納されている受信管理テーブルを用いて行い、具体的には図12に示す処理手順によって実行される。
ここで、RAM51に格納されている受信管理テーブルを図11を参照して説明しておく。
受信管理テーブルは各メディアのパケットバッファ40〜42毎に設けられており、各メディア毎に、何番の送信順序番号P(S)のパケットを受信することを期待しているかを管理し、更には、正常受信されていないにも拘わらず確認応答パケットを送信するまでに許容されるタイマ値を各パケット毎に管理する。すなわち、受信管理テーブルには、メディア毎のパケットにサイクリックに付与された送信順序番号P(S)を示す受信P(S)期待値、更には、受信を期待する順序番号が”0”〜”7”までの各パケットについて、正常受信されていないにも拘わらず確認応答パケットを送信するまでに許容する遅延時間を規定するタイマ値の領域が設けられている。
【0041】
次に、図12を参照して確認応答の送信処理手順を具体的に説明する。なお、この処理も各パケットバッファ40〜42毎に独立して実行される。
まず、後述するステップS37でスタートされたタイマ52によるカウント値と受信管理テーブルのタイマ値とを比較して、タイムアップしたパケットがあるかを判断し(ステップS31)、タイムアップしているものがない場合には、正常に受信できたパケットがあるかを確認する(ステップS32)。この結果、未だ正常受信したパケットがない場合には上記の処理を繰り返して行う一方、正常受信したパケットがある場合には、当該パケットの送信順序番号P(S)と受信管理テーブルの受信P(S)期待値とが一致しているかを判断する(ステップS33)。
【0042】
この判断の結果、一致している場合には送信側装置1へ確認応答パケットを送信し(ステップS34)、受信管理テーブルの受信P(S)期待値を更新(+1)して次のパケットの受信に備え(ステップS35)、正常受信したパケットのデータ部をパケットバッファから対応する符号化器へ出力する(ステップS36)。
一方、上記の判断(ステップS33)の結果、正常受信したパケットの送信順序番号P(S)と受信管理テーブルの受信P(S)期待値とが一致していない場合には、伝送エラーによって通信制御手段35で破棄されたパケットがあるため、当該破棄された(抜けた)パケットについての再送処理を所定の時間内に規制するためにタイマ52のスタートさせて(ステップS37)、上記のステップS31以降の処理を繰り返し行う。
【0043】
そして、タイマ52によるカウント値が受信管理テーブルのタイマ値(すなわち、ROM49に定義されたタイマ値)に達したところで(ステップS31)、当該パケットは再送処理が試みられたが所定の時間内では正常に受信し得なかったので、受信動作を打ち切るために確認応答パケットを送信側装置1へ送信し(ステップS38)、受信管理テーブルの受信P(S)期待値を更新(+1)して次のパケットの受信に備える(ステップS39)。
したがって、この受信側装置30による応答確認の送出処理によっても、メディア毎の再送処理時間が規制される。
【0044】
図13〜図15には、本発明の第2の実施例を示してある。
上述した実施例では、各メディアのパケット毎の再送処理に許容される時間を再送回数で規制したが、この実施例では、再送処理に許容される時間を予め直接的に定義している。
このため、パケットバッファ16〜18にそれぞれ対応して送信側装置1のRAM22に格納されている再送管理テーブルを、図13に示す構成に変更している。
再送管理テーブルは各メディアのパケットバッファ16〜18毎に設けられており、各メディア毎に、何番の送信順序番号P(S)のパケットが送信され、何番までの確認応答を受信し、更には、各パケット毎に確認応答が得られるまでに許容する応答遅延タイマ値、再送処理を行った際に許容し得る再送監視タイマ値、及び、再送処理を実行中であることを示す識別フラグを管理する。
【0045】
すなわち、再送管理テーブルには、メディア毎のパケットにサイクリックに付与された送信順序番号P(S)を示す送信P(S)ポインタ、確認応答パケットに含まれた受信順序番号P(R)を示す受信P(R)ポインタ、更には、送信順序番号が”0”〜”7”までの各パケットについて、再送処理を行うことが許容される上限時間を規定する再送監視タイマ値、確認の応答の遅延に対して再送処理を行うまでに許容する遅延時間を規定する応答遅延タイマ値、及び、パケットについての送信処理が再送処理であるかを示す送信識別フラグの領域が設けられている。
【0046】
この再送監視タイマと応答遅延タイマとはメディア毎のパケットを送信(再送ではない初回)するときにスタートされ、この初回の送信がなされることによって送信識別フラグが”1”にセットされる。
この応答遅延タイマをスタートさせることによって、当該パケットの確認応答が所定の応答遅延時間以内に得られるか(すなわち、再送を行うか)が管理され、また、この送信識別フラグを立てることによって、当該パケットについて以後送信を行うときには再送であることが識別される。また、再送監視タイマをスタートさせることによって、当該パケットについて再送処理を行うことが許容される時間が管理される。
【0047】
また、再送管理を行うために送信側装置1のROM20に予め記憶されている定義テーブルも図14に示す構成に変更されており、この定義テーブルには、各メディアデータ毎に再送処理を行うことが許容される上限時間を規定する再送監視タイマ値が記憶されている。すなわち、再送監視タイマ値によって再送処理を繰り返し行うことができる最大限の時間が規定されており、再送管理処理においては再送処理に費やしているタイマ値(時間)と当該再送監視タイマ値とが比較される。
なお、受信側装置30のRAM51に記憶された受信管理テーブル及びROM49に記憶された定義テーブルは、上述した実施例と同様である。
【0048】
次に、図15を参照して、本実施例における再送管理処理の手順を具体的に説明する。なお、この再送管理処理も各パケットバッファ16〜18毎に独立して実行される。
まず、パケットバッファのPUTポインタとGETポインタとを比較してパケットバッファ内に送信すべきパケットがあるかを判断し(ステップS41)、パケットがある場合には当該パケットを多重化バッファ19に格納する一方(ステップS42)、パケットがない場合にはステップS41の判断処理を繰り返し行う。
そして、上記のように送信対象のパケットを多重化バッファ19に格納した後、再送管理テーブルの送信P(S)ポインタを更新(+1)し(ステップS43)、送信管理テーブルの対応する順序番号のパケットについて、応答遅延時間を計時するためのタイマ23をスタートさせる(ステップS44)。
【0049】
次いで、再送管理テーブルの送信識別フラグを確認して(ステップS45)、当該フラグが”0”である場合(再送処理ではない場合)には、当該パケットについて以後に再送処理が行われた場合にこれを時間管理するため、当該パケットについての再送許容時間を計時するためのタイマ23をスタートさせる(ステップS46)。なお、この処理を行うと同時に、送信識別フラグが”1”にセットされる。
一方、送信識別フラグが”1”である場合には、当該パケットについてこれから行う送信処理は2回目以降(すなわち、再送)であり、既に再送監視タイマはスターとされているのでそのまま次の処理ステップへ移行する。
【0050】
次いで、タイマ23によるカウント値と送信管理テーブルの応答遅延タイマ値とを比較してタイムアップしたパケットがあるかを判断し(ステップS47)、タイプアップしたパケットがない場合には上記の処理を繰り返し行う。一方、タイムアップしたパケットがある場合には、当該パケットについての再送処理を行う時間があるかを確認するため、タイマ23によるカウント値と送信管理テーブルの再送監視タイマ値とを比較してタイムアップしたかを判断する(テップS48)。
この結果、このタイムアップしていない場合には当該パケットについての再送を更に繰り返して行うために、送信管理テーブルの送信P(S)ポインタを戻して(−1)上記の処理を繰り返し行う(ステップS49)。すなわち、この送信P(S)ポインタを戻すことによって、当該パケットは未だ送信されていない状態と管理され、送信処理(すなわち、再送処理)が行われることとなる。
【0051】
一方、タイムアップした場合には再送処理に費やすことができる時間が経過した状態であるので、伝送エラーが生じている当該パケットについて再送処理を打ち切るために、当該伝送エラーのパケットを正常受信されたパケットと同様に扱い、再送管理テーブルの送信P(S)ポインタを更新して次のパケットについての再送管理を行うとともに(ステップS50)、パケットバッファの廃棄ポインタを更新する(ステップS51)。
したがって、各メディア毎のパケットは再送監視タイマ値で規定される時間内でのみ再送処理が行われ、各メディアの特性に応じて許容される遅延時間での再送処理が実行される。
【0052】
なお、上記実施例ではカメラやマイクロホンで入力したデータをパケット通信する例を示したが、記憶装置に予め記憶されらメディアデータをパケット通信するようにしてもよく、また、本発明は予めパケット化されたマルチメディアデータに対しても適用することができる。
また、上記の実施例では各パケットのメディア種別をバーチャルチャネル番号で識別したが、各パケットにメディア種別情報を付加するようにしてもよい。
【0053】
【発明の効果】
以上説明したように、本発明によると、多重化された複数種類のメディアデータの通信において、伝送エラーの発生に対する再送処理がメディア毎に予め設定した時間内で行われるため、再送処理に起因して過大な遅延時間が生ずることが防止され、各メディアの特性に応じたデータ通信を実現することができる。
特に、中継伝送の速度が低速で且つ固定的(例えば、PHSでは32Kbps)な無線通信手段を用いてマルチメディア通信を行う場合に適用して本発明は顕著な効果を奏し、また、簡易テレビ電話システム、ビデオフォンシステム、遠隔指示システム、工事立ち会いシステム、遠隔監視システム等といった広い分野への適用も可能である。
【図面の簡単な説明】
【図1】本発明の一実施形態に係るマルチメディア多重化通信装置の構成図である。
【図2】データストリームのパケット化を説明する概念図である。
【図3】データパケット及び確認応答パケットの構成を説明する図である。
【図4】パケットの多重化を説明する概念図である。
【図5】多重化パケット列の伝送フレーム構成を説明する図である。
【図6】多重化パケット列の分離を説明する概念図である。
【図7】送信側装置及び受信側装置の定義テーブルを説明する概念図である。
【図8】送信側装置に備えられた送信管理テーブルの一例を説明する概念図である。
【図9】再送管理処理の手順の一例を示すフローチャートである。
【図10】確認応答受信処理の手順の一例を示すフローチャートである。
【図11】受信側装置に備えられた受信管理テーブルの一例を説明する概念図である。
【図12】確認応答送信処理の手順の一例を示すフローチャートである。
【図13】送信側装置に備えられた再送管理テーブルの一例を説明する概念図である。
【図14】送信側装置の定義テーブルを説明する概念図である。
【図15】再送管理処理の手順の他の一例を示すフローチャートである。
【図16】従来における多重化パケット列の伝送フレーム構成を説明する図である。
【符号の説明】
1・・・送信側装置、 2・・・カメラ、 3・・・テキストファイル、
4・・・マイクロフォン、 5・・・通信手段、 6・・・送信符号化部、
7・・・送信パケット部、 8・・・通信制御手段、 9・・・主制御部、
30・・・受信側装置、 31・・・表示部、 32・・・テキストファイル、
33・・・スピーカ、 34・・・通信手段、 35・・・通信制御手段、
36・・・受信パケット部、 37・・・受信復号化部、
38・・・主制御部、
Claims (2)
- パケット化した複数種類のメディアデータを多重化して送信するマルチメディア多重化通信方法において、
各メディアデータの種類毎に、再送処理を行うこととする確認応答の受信までの時間と、再送処理を繰り返し行うことができる回数であって各メディアデータの種類毎に異なる回数を予め設定し、
各メディアデータの種類毎に設定された前記時間及び前記回数に基づいて、送信側装置が、送信したメディアデータパケットについて受信側装置から正常受信の確認応答を前記時間内に得ない場合に再送処理を行い且つ前記回数内で再送処理を行うことを特徴とするマルチメディア多重化通信方法。 - 送信側装置によりパケット化された複数種類のメディアデータを混合多重化して送信し、受信側装置によりパケット列を受信して各メディアデータを再生するマルチメディア多重化通信システムにおいて、
送信側装置に、各メディアデータの種類毎に再送処理を行うこととする確認応答の受信までの時間と再送処理を繰り返し行うことができる回数が記憶された送信側テーブルを設け、
受信側装置に、各メディアデータの種類毎に再送処理を受信側装置から打ち切るための時間が記憶された受信側テーブルを設け、
送信側装置は、各メディアデータの種類毎に前記送信側テーブルに記憶された前記時間及び前記回数に基づいて、送信したメディアデータパケットを受信する受信側装置から正常受信の確認応答を受信するまでに前記送信側テーブルに記憶された前記時間を超えた場合に再送処理を行い且つ当該メディアデータパケットについて前記回数内で再送処理を行い、
受信側装置は、送信側装置から送信されたメディアデータパケットを正常受信した場合に前記正常受信の確認応答を送信側装置に対して送信し、
更に、受信側装置は、各メディアデータの種類毎に前記受信側テーブルに記憶された時間に基づいて、送信側装置からのメディアデータパケットを前記時間内に正常受信しない場合には再送処理を打ち切る、ことを特徴とするマルチメディア多重化通信システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP22745896A JP3720133B2 (ja) | 1996-08-09 | 1996-08-09 | マルチメディア多重化通信システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP22745896A JP3720133B2 (ja) | 1996-08-09 | 1996-08-09 | マルチメディア多重化通信システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH1056480A JPH1056480A (ja) | 1998-02-24 |
JP3720133B2 true JP3720133B2 (ja) | 2005-11-24 |
Family
ID=16861195
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP22745896A Expired - Lifetime JP3720133B2 (ja) | 1996-08-09 | 1996-08-09 | マルチメディア多重化通信システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3720133B2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7327791B1 (en) | 1999-02-22 | 2008-02-05 | Mitsubishi Denki Kabushiki Kaisha | Video decoding method performing selective error concealment and resynchronization |
JP2001025010A (ja) * | 1999-07-09 | 2001-01-26 | Mitsubishi Electric Corp | マルチメディア情報通信装置およびその方法 |
US6847623B1 (en) | 2000-11-15 | 2005-01-25 | Qualcomm Incorporated | Method and apparatus for allocating data streams onto a single channel |
WO2004039037A1 (ja) * | 2002-10-25 | 2004-05-06 | Fujitsu Limited | 双方向通信システム、通信機、および通信制御方法 |
US7949016B2 (en) | 2002-10-25 | 2011-05-24 | Fujitsu Limited | Interactive communication system, communication equipment and communication control method |
US7643419B2 (en) | 2004-05-07 | 2010-01-05 | Interdigital Technology Corporation | Method and apparatus for implementing a data lifespan timer for enhanced dedicated channel transmissions |
JP4739080B2 (ja) * | 2006-03-30 | 2011-08-03 | 富士通株式会社 | データ通信システムにおける再送制御構成 |
WO2011114910A1 (ja) | 2010-03-15 | 2011-09-22 | 日本電気株式会社 | パケット再送制御装置、パケット再送制御方法、パケット再送制御プログラム |
JP5379075B2 (ja) * | 2010-05-26 | 2013-12-25 | 日本電信電話株式会社 | データ入出力装置、データ記憶方法及びプログラム |
JP2019068296A (ja) | 2017-10-02 | 2019-04-25 | キヤノン株式会社 | 情報処理装置及びその制御方法、並びにコンピュータプログラム |
-
1996
- 1996-08-09 JP JP22745896A patent/JP3720133B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH1056480A (ja) | 1998-02-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7933949B2 (en) | Data processing apparatus which prevents data overflow and underflow | |
KR100465553B1 (ko) | 화상음성복호화장치와화상음성부호화장치및정보전송시스템 | |
JP4149143B2 (ja) | 移動通信システムのシグナリング通信方法 | |
US20050062843A1 (en) | Client-side audio mixing for conferencing | |
US7505782B2 (en) | Image transmission apparatus and method using CDMA communication network | |
JP3720133B2 (ja) | マルチメディア多重化通信システム | |
JP3462314B2 (ja) | パケット通信装置 | |
KR100678050B1 (ko) | 이동 통신 시스템에서 영상 데이터를 송수신하기 위한장치 및 방법 | |
JP2002171494A (ja) | 電子透かし情報埋込方法及び装置 | |
KR100640487B1 (ko) | 이동 통신 단말기의 화상 통화 서비스 수행 방법 | |
US5900906A (en) | Image communication apparatus having automatic answering and recording function | |
JPH10341217A (ja) | マルチメディア多重化通信システム | |
JPH1051495A (ja) | マルチメディア多重化通信システム | |
CN1512424A (zh) | 以流方式传送运动图像邮件的装置及方法 | |
JPH11331261A (ja) | パケット通信装置 | |
JP2003023462A (ja) | 多地点同報通信網用再送方法 | |
JP2002152181A (ja) | マルチメディアデータ通信方法およびマルチメディアデータ通信装置 | |
JP3510491B2 (ja) | 音声多重通信装置及び音声多重通信システム | |
JPH07283757A (ja) | 音声データ通信装置 | |
JP4237869B2 (ja) | 画像伝送装置 | |
CN102104774A (zh) | 一种在可视通信过程中传输文件的方法及装置 | |
KR100701032B1 (ko) | 네트워크 상의 동영상 데이터 전송 조절 시스템과 그 방법 | |
JP2008042534A (ja) | 情報伝送システム及び情報伝送方法、情報送信装置及び情報受信装置 | |
JP2003169304A (ja) | マルチメディア通信の画像伝送方法 | |
JPH01295546A (ja) | テレビ会議通信方式 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20041221 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041228 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050223 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20050606 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050701 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20050809 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050906 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050907 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090916 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100916 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110916 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120916 Year of fee payment: 7 |