JP3827192B2 - Multimedia communication terminal - Google Patents

Multimedia communication terminal Download PDF

Info

Publication number
JP3827192B2
JP3827192B2 JP20246799A JP20246799A JP3827192B2 JP 3827192 B2 JP3827192 B2 JP 3827192B2 JP 20246799 A JP20246799 A JP 20246799A JP 20246799 A JP20246799 A JP 20246799A JP 3827192 B2 JP3827192 B2 JP 3827192B2
Authority
JP
Japan
Prior art keywords
data
unit
processing
video data
reception buffer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP20246799A
Other languages
Japanese (ja)
Other versions
JP2001036889A (en
Inventor
雅人 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP20246799A priority Critical patent/JP3827192B2/en
Publication of JP2001036889A publication Critical patent/JP2001036889A/en
Application granted granted Critical
Publication of JP3827192B2 publication Critical patent/JP3827192B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、パーソナルコンピュータ等によりマルチメディア通信を実現したとき、受信側の通信端末の処理能力の変動を補償するマルチメディア通信端末に関する。
【0002】
【従来の技術】
映像メディアや音響メディア及びこれらのメディアを多重化したマルチメディアデータは大きな情報量を有する。一般に、これらのデータの伝送や記録は圧縮処理をしてから行う。受信側では、受信した圧縮データを伸長し、表示/再生する。アプリケーションによっては上記伸長処理を実時間で処理しなければならない場合がある。このような例として、TV電話等の双方向通信や、蓄積メディアからの大容量データの再生が挙げられる。双方向通信では会話の成立のために、大容量データの再生では伸長データの保管場所を節約するために実時間処理が求められる。
【0003】
高品質なビデオデータの伝送が求められる通信や、テキストと音声による通信等、マルチメディア通信には様々な形態が考えられる。端末での処理量は通信形態によって大きく異なるから、様々なレベルで円滑に通信を制御するシステムが要求される。
例えば、文献(TTC標準「JT-H324低ビットレートマルチメディア通信用端末」pp.1,2,14〜16 電信電話技術委員会(1996))には、能力交換に関する技術が紹介されている。能力交換は、実時間処理を前提に処理能力の異なる端末同士が通信できるように設けられた仕組みである。
【0004】
能力交換では、それぞれの端末が自らの端末能力を対局に示す。端末能力とは、文献1で規定されるように、受信側が処理できる項目及び能力のことである。具体的には、サポートするビデオ/オーディオの圧縮アルゴリズムやデータ通信プロトコル、ビデオの画像サイズ、フレームレート、符号化レート等が挙げられる。符号化データの生成側、即ち送信側は能力交換により対局の受信能力を認識できる。通信時にこの能力範囲内で復号できる符号化データを生成/送信することで、受信側での実時間処理が保証される。即ち、端末の能力を互いに通知し合うことで、受信側における実時間処理を実現している。
【0005】
【発明が解決しようとする課題】
ところで、上記のような従来の技術には次のような解決すべき課題があった。文献1のような端末は、ビデオ符号化/復号等の負荷の重い処理が含まれるため専用のハードウェアで実現されることが一般的であった。しかし、近年、パーソナルコンピュータ(以下PCと記す)の処理速度向上に従い、PC上のソフトでもマルチメディア通信が実現できるようになった。PC上で実現することで、マルチメディア通信をしながら文書ファイルを編集し、文書を通信中にデータとして送信するといった処理が容易に行える。
【0006】
ところが、パーソナルコンピュータには、処理速度の変動という問題がある。処理速度の変動、即ち受信能力が変動すると実時間処理が不能になり、極端な場合、受信側で受信データを消失してしまい各メディアの再生処理が破綻してしまう。特に動画像の符号化でフレーム間予測を用いている場合、受信データが欠落するとこの影響が以降の画像に波及してしまい重大な品質劣化が起きてしまう。
【0007】
一般的なPCは複数のアプリケーションを並列に実行する環境を備えている。このため、マルチメディア通信を行いながら、他の処理(例えば文書編集等)を行うことができる。しかし、CPUやメモリ等に代表されるPCの資源は固定であるため、マルチメディア通信時に他のアプリケーションが実行されると、マルチメディア通信に割かれるPC資源は単一のアプリケーションしかない場合に比べて少なくなってしまう。このようにして、初期設定時に通知した受信能力と通信時の受信能力の不一致が発生する。
【0008】
このような問題は、同時刻に単一のアプリケーションしか実行できないシングルタスク処理の場合は発生しないが、マルチタスク処理はPCの特徴であるため、シングルタスク化による解決では特徴を失うことになってしまう。また、実時間処理に適したOSを用いて解決する方法もある。この方法では、マルチメディア通信に必要なPC資源を予め確保することで、能力の変動を抑えることになる。しかしながら、他のアプリケーションとの優先度関係によっては、マルチメディア通信への資源割当が減少したり、反対に、他のアプリケーションを起動/実行できなくなることもある。
【0009】
文献1では、このような受信能力の変化に対し、通信中に能力変更を通知する機構を設けている。しかしながら、能力変更の通知は対局の応答が必要であり整合に時間がかかる。また、PCでは受信能力の変動は定常的に起きるため、頻繁に能力変更通知をする必要があり現実的でないという問題がある。
【0010】
【課題を解決するための手段】
本発明は以上の点を解決するため次の構成を採用する。
〈構成1〉
ビデオデータを含むマルチメディアデータを送信する対局側に接続されているマルチメディア通信端末であって、上記マルチメディアデータを受信すると該データからビデオデータを分離し該ビデオデータの誤り検出処理を行って正常受信のビデオデータを受信バッファに格納する分離部と、上記受信バッファから上記ビデオデータを取り込んで処理するビデオ処理部と、上記受信バッファのデータ占有量が閾値以上になるとデータ処理能力が低下したと判定する受信バッファ監視部と、上記データ処理能力の低下判定及び上記誤り検出処理に基づく非正常受信のいずれかで上記対局に再送要求を送信すると共に上記データ処理能力の低下判定時に上記分離部に再送要求したビデオデータの番号を通知する再送要求部と、上記分離部に設けられ、分離したビデオデータの番号が上記通知を受けた番号に一致すると該ビデオデータを廃棄する再送データ廃棄部と、を含むことを特徴とするマルチメディア通信端末。
【0011】
〈構成2〉
ビデオデータを含むマルチメディアデータを送信する対向側に接続されているマルチメディア通信端末であって、上記マルチメディアデータを受信すると該データからビデオデータを分離し該ビデオデータの誤り検出処理を行って正常受信のビデオデータを受信バッファに格納する分離部と、上記受信バッファから上記ビデオデータを取り込んで処理するビデオ処理部と、自局のプロセッサの使用率が閾値以上になるとデータ処理能力が低下したと判定する処理能力監視部と、上記データ処理能力の低下判定及び上記誤り検出処理に基づく非正常受信のいずれかで上記対局に再送要求を送信すると共に上記データ処理能力の低下判定時に上記分離部に再送要求したビデオデータの番号を通知する再送要求部と、上記分離部に設けられ、分離したビデオデータの番号が上記通知を受けた番号に一致すると該ビデオデータを廃棄する再送データ廃棄部と、を含むことを特徴とするマルチメディア通信端末。
【0012】
〈構成3〉
上記受信バッファのデータ占有量が閾値以上になるとデータ処理能力が低下したと判定する受信バッファ監視部を更に備え、上記再送要求部は、上記受信バッファ監視部及び上記処理能力監視部のいずれかがデータ処理能力の低下を判定すると上記再送要求を送信すると共に上記番号を通知する、ことを特徴とする請求項2記載のマルチメディア通信端末。
【0015】
【発明の実施の形態】
以下、本発明の実施の形態を具体例を用いて説明する。
〈具体例1〉
【0016】
図1は、本発明のマルチメディア通信システム主要部ブロック図である。この説明をする前に、マルチメディア通信システム全体の構成を説明する。
図2は、具体例1のマルチメディア通信システム具体例を示すブロック図である。
図のシステムは、送信時には図の右向きの矢印方向にデータが伝送され、受信時には図の左向きの矢印方向にデータが伝送される。
【0017】
データの送信側では、マルチメディアデータを生成するための各種の図示しないソースが設けられている。これらのソースのデータを受け入れるために、ビデオ入出力部21、オーディオ入出力部22、その他のデータ入出力部23、制御信号入出力部24、モデム制御信号入出力部25が設けられている。ビデオデータはビデオ符号化/復号部4で処理される。オーディオデータはオーディオ符号化/復号部5で処理される。その他のデータはデータプロトコル処理部6で処理される。制御信号は制御プロトコル処理部7で処理される。処理されたデータは、多重/分離部3とモデム8を経て送信される。
【0018】
受信側には、符号化データ入出力部20が設けられている。ここには、丁度送信側と同様の機能ブロックが設けられて、データの受信処理がなされる。
【0019】
ビデオ符号化/復号部4は、ビデオデータの圧縮/伸長を行う。オーディオ符号化/復号部5は、オーディオデータの圧縮/伸長を行う。データプロトコル処理部6はテキスト等のデータの圧縮/伸長や必要に応じてデータ通信プロトコルの処理を行う。制御プロトコル処理部7は、ユーザインタフェースの提供やエンド−エンドの端末情報の交換処理を行う。多重/分離部3は入力される各データを多重化してモデム8に出力する。また、多重/分離部3はモデム8からのデータを分離して図の左側に接続された各機能ブロックへ出力する。多重/分離部3はモデム8から入力されたデータに誤りがある場合には再送による誤り訂正処理も行う。モデム8では多重/分離部3の出力する符号化データをアナログ回線に出力するために変調と、アナログ回線から入力したデータを多重/分離部3に出力するための復調を行う。
【0020】
上記のマルチメディア通信端末は次のように動作する。
通信を開始する場合、最初に送信側と受信側との間で、アナログ回線を用いた呼接続を行う。呼接続が完了するとモデムを経由したディジタル通信を確立する。以上の処理は、モデム制御信号入出力部25からモデム8に入力したモデム制御コマンドで制御される。端末間でのディジタル通信が可能になると、通信のための初期設定を行う。具体的には、制御プロトコル処理部7にて、互いの端末能力の交換や、マスタ/スレーブ端末の決定、多重/分離部3で使用する論理チャネルの設定/開設等を行う。ここで得られた設定情報は、ビデオ符号化/復号部4、オーディオ符号化/復号部5、データプロトコル処理部6及び多重/分離部3に通知される。
【0021】
以上の処理が完了すると、ビデオ符号化/復号部4、オーディオ符号化/復号部5、データプロトコル処理部6及び多重/分離部3を利用したマルチメディアデータの通信が開始される。なお、初期設定で設定したパラメータは通信中においても任意に変更することができる。マルチメディアによる通信が終了すると、論理チャネルを終結し、通信終了メッセージを対局に伝送すると共に回線を切断する。
受信側の処理能力変動が無視できる限り、初期設定における能力交換によって実時間処理は実現できる。しかし、パーソナルコンピュータ等では、この処理能力変動が無視できない。
【0022】
そこで、この具体例では、処理能力の変動を吸収するために、高負荷になった場合にデータの再送を送信側に要求する。従来のマルチメディア通信端末の多重/分離部も、通信路誤りが発生した際にデータの再送要求を出力する機能を有している。この具体例では、受信能力が低下した場合に再送要求を出力することで、見かけ上のデータ送信速度を低下させる。再送データ受信中は新たなデータが受信されていないから、その間に処理の遅れを取り戻す。受信された再送データは既に正常に受信され実際には必要の無いデータであるから破棄すればよい。
【0023】
図1に戻って、本発明の主要部の説明を行う。
この発明は主として受信側の端末の制御にかかわるものであるため、図のように、右側の対局1からデータを受信する多重/分離部3と、例えば比較的多量の受信データを一時格納するビデオ符号化/復号部4を代表として示した。多重/分離部3には、分離部31と多重部32とが設けられている。ビデオ符号化/復号部4には、受信バッファ40とビデオ復号部42とが設けられている。なお、受信側の端末を自局2と表示している。
【0024】
本発明では、ここに、新たに、処理能力監視部10を設けた。処理能力監視部10には、具体例1では、受信バッファ監視部11を設けている。受信バッファ監視部11は図2に示したように、多重/分離部3の動作と、ビデオ符号化/復号部4、オーディオ符号化/復号部5、データプロトコル処理部6の受信バッファの状態を監視するように構成されている。なお、上記のマルチメディア通信システムの各機能ブロックは、ハードウェアで構成してもよいし、端末の記憶媒体中に記録されたコンピュータプログラムの機能モジュールにより構成してもよい。
【0025】
上記受信バッファ監視部11は、受信バッファ40のデータ占有量を算出するとともに、そのバッファ占有量とある閾値を比較して、自局による処理能力の低下を検出する機能を持つ。
【0026】
〈動作〉
図1のシステムは次のように動作する。
対局1からはビデオ、オーディオ、テキスト等の様々なメディアのデータが多重化されたマルチメディア多重化データが入力される。分離部31では、受信したマルチメディア多重化データを各メディアのデータに分離する。また、分離部31は、分離した各メディアのデータに対し誤り検出処理を行う。通信路誤りが検出されると、多重部32を経由して対局1に対し誤りが発生したデータを再送するように要求する。この機能を持つ多重部32を再送要求部と呼ぶことにする。
【0027】
多重部32では、分離部31からの再送要求を送信データに多重化して対局1に送信する。再送要求を受信した対局1は該当するデータを再送する。このようにして通信路で発生した誤りが訂正される。一方、分離部31で誤り検出されなかった各メディアのデータは各メディアの処理部にある受信バッファに書き込まれる。なお、図1ではビデオ符号化/復号部4の受信バッファ40のみを図示している。
【0028】
各メディアの処理部、例えばビデオ復号部42では、受信バッファ40に書き込まれているデータを復号処理の進行状況に従って読み出す。読み出されたデータはビデオ復号部42で復号され、非圧縮のビデオデータとして図2に示したビデオ入出力部21より出力される。
【0029】
受信能力の変動が無い場合は、通信開始時に指定した能力範囲内のデータが対局より伝送されてくる。即ち、受信バッファ40のデータ書き込み速度よりもデータ読み出し速度の方が速くなっている。しかしながら、受信能力が低下した場合は、受信バッファ40からの読み出し速度が低下し、受信バッファ40へデータが蓄積されていくことになる。
【0030】
受信バッファ監視部11は、受信バッファ40へのデータ書き込み量と読み出し量を比較し、バッファに蓄えられているデータ量(バッファ占有量)を算出する。さらに、受信バッファ監視部11は、バッファ占有量と所定の閾値を比較し、バッファ占有量がこの閾値を超えると、多重部32を経由して対局に対しデータを再送するように要求する。多重部32では再送要求を送信データに多重化して対局に送信する。また、多重部32は、受信バッファ監視部11の要求で再送要求をした場合、再送要求したデータの番号を分離部31に通知する。後で説明するように、誤り検出により再送要求をしたデータとは別の取り扱いをするためである。
【0031】
前述のように、対局1は受信装置の処理能力範囲内のデータを送信し続けるため、受信装置のバッファ占有量が閾値を超えるということは、処理能力が低下していることを示す。
再送要求を受けた対局1は該当するデータを再送する。再送データを受信した分離部31では、前述の多重部32からの通知により受信データが処理能力の低下に伴う再送データであることを認識し、その再送データを破棄する。よって、受信バッファ40への新たなデータの書き込みが起こらなくなり、ビデオ復号部42の処理の進行に従ってバッファ占有量は閾値以下に下がる。このように、再送データの廃棄制御を行う分離部31を再送データ廃棄部と呼ぶことにする。
【0032】
図3に、具体例1のシステム動作タイムチャートを示す。
図の(a)は、受信バッファの占有状態の遷移を示すグラフである。FULLのラインがバッファにデータが満たされている状態、EMPTYのラインがバッファにデータが保持されていない状態を示す。バッファ占有量は、当初閾値の下で動作を開始する。“A”の区間は受信能力が能力交換時以上の状態、“B”の区間は受信能力が能力交換時以下に低下した状態である。(b)は再送要求信号、(c)は受信データの内容を示す。
【0033】
“A”の区間では、バッファ占有量はほぼ一定に安定しているが、受信装置の能力低下が起きることで時刻t1から受信バッファ40の占有量は増加し始める。時刻t2で受信バッファ40の占有量が閾値を超えると、(b)に示すように再送要求信号が出力される。こうして(c)に示すように、時刻t3に対局から再送データが送られてくる。再送データは受信バッファ40に書き込まれないため、徐々にバッファ占有量が減り、閾値以下になる時刻t4で再送要求を止める。以後しばらくすると時刻t5から新規データが送信され始める。その後再びバッファ占有量は増加を始め、時刻t6の時点で閾値を超えて再送要求が出力される。時刻t7の時点で再送データが受信されバッファ占有量が減少し始める。時刻t8から時刻t9を経て受信能力が初期状態に回復すると、以後バッファ占有量は閾値以下で安定する。以上のようにして、受信バッファ40のオーバーフローを起こすこと無くマルチメディアデータの復号処理を行う。
【0034】
〈具体例1の効果〉
以上説明した具体例1のマルチメディア通信端末は、受信能力が低下していることを受信バッファの占有量から検出し、バッファ占有量が一定値以上の場合には再送要求を出力する仕組みを有している。再送要求を行うと送信側ではデータの再送を行うため、送信側で新たに生成したデータの送信が制限されることになる。つまり、送信側は新規データの送信を止め、再送データのみ送信することになる。故に、見かけ上の送信速度を低下させることができる。受信側では複数回同じデータを受信しても、復号処理は一度しか行わないため、低い受信能力でも復号処理を行うことができる。即ち、再送要求を出力することで受信側の能力が低下していても処理可能なデータが伝送されることになる。
このため、頻繁に能力が変動するPCベースの端末で、対局に能力変更通知をする必要がなく、通信負荷も軽くなるという効果がある。
【0035】
〈具体例2〉
具体例1では、受信能力の低下の判断基準として受信バッファの占有量を利用し、これを元に再送要求を出力することで従来技術の課題を解決した。これに対し、具体例2は、受信能力低下の判断をPCのプロセッサ使用率を用いて行う。なお、プロセッサの使用率というのは、プロセッサの能力に対する負荷の割合のことである。この使用率が100%に近づくと、並行処理しているタスクの処理速度が維持できなくなることがある。
【0036】
図4は、具体例2のマルチメディア通信システムブロック図である。
この図の、ビデオ入出力部21、オーディオ入出力部22、データ入出力部23、制御信号入出力部24、モデム制御信号入出力部25は、図2に示した具体例1のものと同様である。ビデオ符号化/復号部4、オーディオ符号化/復号部5、データプロトコル処理部6、制御プロトコル処理部7、多重/分離部3、モデム8、符号化データ入出力部20の接続関係も、具体例1と同様である。この具体例では、プロセッサ使用率入力部26と処理能力監視部10とを多重/分離部3に接続した点が具体例1と異なる。
【0037】
〈動作〉
具体例2のシステムの動作のうち、受信能力低下の判断方法以外は具体例1と同じである。つまり、受信能力低下を判断し、再送要求を出力、対局からの受信データ中で再送されたデータは破棄するという主要動作は具体例1と同じである。以下、具体例1と異なる部分について動作を説明する。
【0038】
プロセッサ使用率入力部26からはプロセッサの使用率情報が入力される。本情報は、OSが管理している情報である。処理能力監視部10では、プロセッサ使用率情報を元に受信能力を判断する。具体的にはプロセッサ使用率が一定値、例えば90%を超えた場合は受信能力が低下していると判断する。更に、再送要求を行うメディアを選択し、多重/分離部3に再送要求信号を出力する。即ち、図1における多重部32に再送要求信号を出力する。
【0039】
再送要求を行うメディアは自由に選択することができる。処理能力監視部10は、リアルタイム性が求められないデータを優先的に再送要求するというよう制御することが好ましい。例えば、テキストデータは遅延があっても通信の支障をきたさないため、優先的に再送要求を出力するように制御する。
【0040】
図5に、プロセッサ使用率と再送制御動作を示す。
図5の(a)はプロセッサ使用率を示すグラフで、100%のラインが最大負荷の状態、0%のラインが負荷の無い状態を示す。また、“A”の区間は受信能力が能力交換時以上の状態、“B”の区間は受信能力が能力交換時以下に低下した状態である。(b)は再送要求のタイミングを示し、(c)は受信データの内容を示す。
【0041】
図の“A”の区間では、プロセッサ使用率はほぼ一定に安定しているが、時刻t1に新たなアプリケーションを起動されるとプロセッサ使用率は増加し始める。プロセッサ使用率が時刻t2で閾値を超えると再送要求信号が出力される。こうして,時刻t3に対局から再送データが送られてくる。再送データは既に正常に受信されて復号処理済であるため、改めて受信をしても復号処理する必要はない。つまり、廃棄しても構わない。時刻t4以降他のアプリケーションの負荷が下がるとプロセッサ使用率が下がり、時刻t5に閾値以下になった時点で再送要求を止める。その後時刻t6から新規データが送信され始める。以後、プロセッサ使用率は閾値以下で安定する。
以上のような制御を行いつつマルチメディアデータの復号処理を行う。
【0042】
〈具体例2の効果〉
具体例1では、受信バッファがオーバーフローすることが復号処理を破綻させる原因として、バッファ占有量を監視した。これに対して具体例2では、バッファ占有量が増加する原因がプロセッサの使用率にあるものとして、これを監視して受信能力の判断を行っている。バッファ占有量の増加は、プロセッサ負荷が重くなり復号処理に割り当てるPC資源が相対的に減少することが原因のひとつである。従って、プロセッサ使用率を監視することで、具体例1よりも早く再送要求を出力でき、応答性の高い制御が可能になるという効果がある。
なお、具体例2ではプロセッサ使用率のみを監視して制御しているが、具体例1の受信バッファ占有量の監視と組み合わせて制御をしても構わない。この場合、より正確な制御が可能になる。
【0043】
〈具体例3〉
具体例3は、具体例1及び具体例2で受信能力の低下を検出した場合に、自局のデータ送信処理の優先度を、他の処理に比べて下げることを特徴とする。なお、マルチメディア通信は、一方のPCが常に送信側で他方のPCが常に受信側というよりも、双方の端末が送信も受信も行うパターンが多い。そこで、この例では、PCが送信能力と受信能力とを備えている場合に、受信能力の低下が検出されると、送信処理の優先度を下げて、相対的に受信処理の優先度を上げる。受信処理の優先度を上げると受信能力が向上し、対局に能力変更通知をすることなく、正常な通信が継続される。
【0044】
図6に、具体例3のマルチメディア通信システムブロック図を示す。
図6は、図5に示したシステムの各機能ブロックを送信側と受信側とに分離して表示したものである。図のシステムは、ビデオ入力部21A、オーディオ入力部22A、データ入力部23A、ビデオ符号化部41、オーディオ符号化部51、送信側のデータプロトコル処理部61、ビデオ出力部21B、オーディオ出力部22B、データ出力部23B、ビデオ復号部42、オーディオ復号部52、受信側のデータプロトコル処理部62、制御信号入出力部24、制御プロトコル処理部7、モデム制御信号入出力部25、プロセッサ使用率入力部26、処理能力監視部10、多重/分離部3、モデム8、及び符号化データ入出力部20を備える。
【0045】
〈動作〉
具体例3は、自局による処理能力の変動を検出した場合に、具体例1や具体例2と同じく再送要求を出力する。さらに、この再送要求を出したとき、自局の送信処理の優先度を下げ、相対的に受信処理の優先度を上げる。以下、受信能力の低下は具体例2と同じくプロセッサ使用率に基づいて判断するものとして動作を説明する。
【0046】
図6において、プロセッサ使用率入力部26からはプロセッサの使用率情報が入力される。本情報はOSが管理している情報である。受信側の処理能力監視部10では、プロセッサ使用率情報を元に受信能力を判断する。具体的にはプロセッサ使用率が一定値、例えば90%を超えた場合は受信能力が低下していると判断する。このとき、再送要求を行うメディアを選択し、多重/分離部3に再送要求信号を出力する。さらに、この具体例では、再送要求信号がビデオ符号化部41、オーディオ符号化部51、送信側のデータプロトコル処理部61にもそれぞれ入力される。
【0047】
ビデオ符号化部41、オーディオ符号化部51、送信側のデータプロトコル処理部61では、再送要求信号を処理削減命令として扱う。例えば、ビデオ符号化部41では再送要求信号が入力されると、符号化する画像のフレームレートを下げたりすることでプロセッサ負荷の少ない符号化モードに移行する。また、ビデオ符号化処理自体の優先度を下げ、プロセッサ使用率が下がるように制御する。その他のオーディオ符号化部51、送信側のデータプロトコル処理部61でも同様の制御を行う。
【0048】
こうして、送信処理の優先度を下げれば、相対的に受信処理に割り当てられるPC資源を増やすことができる。なお、プロセッサ使用率が閾値以下に下がると通常動作に戻る。
【0049】
〈具体例3の効果〉
以上のように、この具体例では、処理能力の低下が検出された場合にデータの再送要求を出力すると共に、送信処理の優先度を下げるように制御するから、相対的に受信処理におけるプロセッサ使用率を上げることになり、受信能力の低下を軽減することができる。
なお、処理能力の低下検出方法は、具体例1の方法でも具体例2の方法でも構わない。送信速度が一定のまま受信側のPC処理速度が低下すると、受信側ではバッファオーバーフローを起こし処理破綻の原因となるが、送信側で自動的に処理速度を下げるように制御すれば、画質低下や音声の途切れ等の影響はあっても正常な通信が維持されるという効果がある。
【図面の簡単な説明】
【図1】本発明のマルチメディア通信システム主要部ブロック図である。
【図2】具体例1のマルチメディア通信システム具体例を示すブロック図である。
【図3】具体例1のシステム動作タイムチャートである。
【図4】具体例2のマルチメディア通信システムブロック図である。
【図5】プロセッサ使用率と再送制御動作タイムチャートである。
【図6】具体例3のマルチメディア通信システムブロック図である。
【符号の説明】
1 対局
2 自局
3 多重/分離部
4 ビデオ符号化/復号部
10 処理能力監視部
31 分離部(再送データ廃棄部)
32 多重部(再送要求部)
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a multimedia communication terminal that compensates for fluctuations in the processing capability of a receiving communication terminal when multimedia communication is realized by a personal computer or the like.
[0002]
[Prior art]
Video media, audio media, and multimedia data obtained by multiplexing these media have a large amount of information. In general, these data are transmitted and recorded after being compressed. On the receiving side, the received compressed data is decompressed and displayed / reproduced. Depending on the application, the decompression process may have to be processed in real time. Examples of this include two-way communication such as a TV phone, and reproduction of large-capacity data from a storage medium. Real-time processing is required in order to save the storage space for decompressed data when reproducing large-capacity data because conversation is established in two-way communication.
[0003]
Various forms of multimedia communication are conceivable, such as communication that requires transmission of high-quality video data and communication using text and voice. Since the amount of processing at the terminal varies greatly depending on the communication form, a system that smoothly controls communication at various levels is required.
For example, in the document (TTC standard “Terminal for H.324 Low Bit Rate Multimedia Communication” pp.1, 2, 14-16 Telegraph and Telephone Technical Committee (1996)), technology related to capability exchange is introduced. The capability exchange is a mechanism provided so that terminals having different processing capabilities can communicate with each other on the premise of real-time processing.
[0004]
In the capability exchange, each terminal indicates its terminal capability to the game. The terminal capability is an item and capability that can be processed by the receiving side as defined in Document 1. Specific examples include supported video / audio compression algorithms, data communication protocols, video image sizes, frame rates, encoding rates, and the like. The generation side of the encoded data, that is, the transmission side can recognize the reception capability of the game through capability exchange. By generating / transmitting encoded data that can be decoded within this capability range during communication, real-time processing on the receiving side is guaranteed. That is, real-time processing on the receiving side is realized by notifying each other of the capabilities of the terminals.
[0005]
[Problems to be solved by the invention]
By the way, the conventional techniques as described above have the following problems to be solved. Since terminals such as Document 1 include heavy processing such as video encoding / decoding, it is generally realized by dedicated hardware. However, in recent years, multimedia communication can be realized even with software on a PC as the processing speed of a personal computer (hereinafter referred to as a PC) increases. By realizing it on a PC, processing such as editing a document file while performing multimedia communication and transmitting the document as data during communication can be easily performed.
[0006]
However, personal computers have a problem of fluctuations in processing speed. If the processing speed changes, that is, if the reception capability changes, real-time processing becomes impossible, and in an extreme case, the reception data is lost on the receiving side, and the playback processing of each medium fails. In particular, when inter-frame prediction is used in the encoding of moving images, if received data is lost, this effect will spread to subsequent images, resulting in significant quality degradation.
[0007]
A general PC has an environment for executing a plurality of applications in parallel. Therefore, other processing (for example, document editing) can be performed while performing multimedia communication. However, since PC resources such as CPU and memory are fixed, when other applications are executed during multimedia communication, the PC resources allocated to multimedia communication are more than those with only a single application. Will decrease. In this way, a mismatch occurs between the reception capability notified at the initial setting and the reception capability at the time of communication.
[0008]
Such a problem does not occur in the case of single task processing in which only a single application can be executed at the same time. However, since multitask processing is a feature of PCs, the solution by single task conversion loses the feature. End up. There is also a method for solving the problem by using an OS suitable for real-time processing. In this method, fluctuations in capability are suppressed by preliminarily securing PC resources necessary for multimedia communication. However, depending on the priority relationship with other applications, resource allocation for multimedia communication may be reduced, and conversely, other applications may not be activated / executed.
[0009]
Document 1 provides a mechanism for notifying a change in capability during communication in response to such a change in reception capability. However, notification of the capability change requires a response from the game and takes time for matching. In addition, there is a problem that the reception capability varies regularly in the PC, so it is necessary to frequently notify the capability change, which is not realistic.
[0010]
[Means for Solving the Problems]
  The present invention adopts the following configuration in order to solve the above points.
<Configuration 1>
  A multimedia communication terminal connected to a player side that transmits multimedia data including video data, and when receiving the multimedia data, separates the video data from the data and performs error detection processing of the video data. Separation unit for storing normally received video data in the reception buffer, video processing unit for fetching and processing the video data from the reception buffer, and data processing capacity decreased when the data occupancy of the reception buffer exceeds a threshold value A reception buffer monitoring unit that determines whether the data processing capability is reduced and the abnormal reception based on the error detection processing transmits a retransmission request to the game and the separation unit when the data processing capability is reduced. Provided in the retransmission request unit for notifying the number of video data requested to be retransmitted and the separation unit. , Multimedia communication terminal number of the separated video data, characterized in that it comprises a retransmission data discarding unit for discarding the video data to match the number that received the notification.
[0011]
<Configuration 2>
  A multimedia communication terminal connected to an opposite side that transmits multimedia data including video data, and upon receiving the multimedia data, separates the video data from the data and performs error detection processing on the video data. The data processing capability declined when the usage rate of the processor of the local station exceeded the threshold, the separation unit for storing normally received video data in the reception buffer, the video processing unit for fetching and processing the video data from the reception buffer A processing capability monitoring unit that determines that the data processing capability is reduced and the abnormal reception based on the error detection processing transmits a retransmission request to the player and the separation unit when the data processing capability is reduced. Is provided in the above-mentioned separation unit and the retransmission request unit for notifying the number of video data requested for retransmission to Multimedia communication terminal number of the video data, characterized in that it comprises a retransmission data discarding unit for discarding the video data to match the number that received the notification.
[0012]
<Configuration 3>
  A reception buffer monitoring unit that determines that the data processing capacity is reduced when the data occupation amount of the reception buffer is equal to or greater than a threshold; the retransmission request unit is configured by either the reception buffer monitoring unit or the processing capacity monitoring unit. 3. The multimedia communication terminal according to claim 2, wherein when it is determined that the data processing capability is reduced, the retransmission request is transmitted and the number is notified.
[0015]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described using specific examples.
<Specific example 1>
[0016]
FIG. 1 is a block diagram of the main part of the multimedia communication system of the present invention. Prior to this description, the overall configuration of the multimedia communication system will be described.
FIG. 2 is a block diagram illustrating a specific example of the multimedia communication system of the first specific example.
In the system shown in the figure, data is transmitted in the direction of the right arrow in the figure at the time of transmission, and data is transmitted in the direction of the arrow in the left direction in the figure at the time of reception.
[0017]
On the data transmission side, various sources (not shown) for generating multimedia data are provided. In order to receive data from these sources, a video input / output unit 21, an audio input / output unit 22, other data input / output units 23, a control signal input / output unit 24, and a modem control signal input / output unit 25 are provided. Video data is processed by the video encoding / decoding unit 4. The audio data is processed by the audio encoding / decoding unit 5. Other data is processed by the data protocol processing unit 6. The control signal is processed by the control protocol processing unit 7. The processed data is transmitted via the multiplexer / demultiplexer 3 and the modem 8.
[0018]
An encoded data input / output unit 20 is provided on the receiving side. Here, the same functional block as that on the transmission side is provided, and data reception processing is performed.
[0019]
The video encoding / decoding unit 4 compresses / decompresses video data. The audio encoding / decoding unit 5 compresses / decompresses audio data. The data protocol processing unit 6 compresses / decompresses data such as text and performs data communication protocol processing as necessary. The control protocol processing unit 7 provides a user interface and exchanges end-to-end terminal information. The multiplexing / demultiplexing unit 3 multiplexes each input data and outputs it to the modem 8. The multiplexer / demultiplexer 3 separates the data from the modem 8 and outputs it to each functional block connected on the left side of the figure. The multiplexing / demultiplexing unit 3 also performs error correction processing by retransmission when there is an error in the data input from the modem 8. The modem 8 performs modulation to output the encoded data output from the multiplexing / demultiplexing unit 3 to the analog line and performs demodulation to output data input from the analog line to the multiplexing / demultiplexing unit 3.
[0020]
The multimedia communication terminal described above operates as follows.
When communication is started, a call connection using an analog line is first performed between the transmission side and the reception side. When the call connection is completed, digital communication via the modem is established. The above processing is controlled by a modem control command input from the modem control signal input / output unit 25 to the modem 8. When digital communication between terminals becomes possible, initialization for communication is performed. Specifically, the control protocol processing unit 7 exchanges terminal capabilities of each other, determines a master / slave terminal, sets / opens a logical channel used by the multiplexing / demultiplexing unit 3, and the like. The setting information obtained here is notified to the video encoding / decoding unit 4, the audio encoding / decoding unit 5, the data protocol processing unit 6, and the multiplexing / demultiplexing unit 3.
[0021]
When the above processing is completed, communication of multimedia data using the video encoding / decoding unit 4, the audio encoding / decoding unit 5, the data protocol processing unit 6, and the multiplexing / demultiplexing unit 3 is started. Note that the parameters set in the initial setting can be arbitrarily changed during communication. When the multimedia communication is completed, the logical channel is terminated, a communication end message is transmitted to the other party, and the line is disconnected.
As long as the processing capability fluctuation on the receiving side can be ignored, real-time processing can be realized by capability exchange in the initial setting. However, in a personal computer or the like, this processing capacity fluctuation cannot be ignored.
[0022]
Therefore, in this specific example, in order to absorb the fluctuation of the processing capability, the transmission side is requested to retransmit the data when the load becomes high. The conventional multiplexing / demultiplexing unit of the multimedia communication terminal also has a function of outputting a data retransmission request when a communication channel error occurs. In this specific example, the apparent data transmission rate is reduced by outputting a retransmission request when the reception capability is reduced. Since no new data is received during the retransmission data reception, the processing delay is recovered during that time. The received retransmission data is already received normally and is actually unnecessary, so it can be discarded.
[0023]
Returning to FIG. 1, the main part of the present invention will be described.
Since the present invention mainly relates to the control of the receiving terminal, as shown in the figure, a multiplexing / demultiplexing unit 3 that receives data from the right game 1 and a video that temporarily stores a relatively large amount of received data, for example. The encoding / decoding unit 4 is shown as a representative. The multiplexing / separating unit 3 is provided with a separating unit 31 and a multiplexing unit 32. The video encoding / decoding unit 4 is provided with a reception buffer 40 and a video decoding unit 42. The terminal on the receiving side is indicated as own station 2.
[0024]
In the present invention, a processing capacity monitoring unit 10 is newly provided here. The processing capacity monitoring unit 10 is provided with a reception buffer monitoring unit 11 in the first specific example. As shown in FIG. 2, the reception buffer monitoring unit 11 determines the operation of the multiplexing / demultiplexing unit 3 and the status of the reception buffers of the video encoding / decoding unit 4, the audio encoding / decoding unit 5, and the data protocol processing unit 6. Configured to monitor. Each functional block of the multimedia communication system may be configured by hardware, or may be configured by a functional module of a computer program recorded in a terminal storage medium.
[0025]
The reception buffer monitoring unit 11 has a function of calculating a data occupancy amount of the reception buffer 40 and comparing the buffer occupancy amount with a certain threshold value to detect a decrease in processing capability by the own station.
[0026]
<Operation>
The system of FIG. 1 operates as follows.
From the game 1, multimedia multiplexed data obtained by multiplexing various media data such as video, audio, and text is input. The separation unit 31 separates the received multimedia multiplexed data into data for each medium. The separation unit 31 performs error detection processing on the data of each separated medium. When a communication channel error is detected, the mobile station 1 is requested to retransmit the data in which the error has occurred via the multiplexing unit 32. The multiplexing unit 32 having this function is called a retransmission request unit.
[0027]
The multiplexing unit 32 multiplexes the retransmission request from the separation unit 31 with the transmission data and transmits it to the game 1. The game 1 that has received the retransmission request retransmits the corresponding data. In this way, errors occurring in the communication path are corrected. On the other hand, the data of each medium for which no error is detected by the separation unit 31 is written in the reception buffer in the processing unit of each medium. In FIG. 1, only the reception buffer 40 of the video encoding / decoding unit 4 is illustrated.
[0028]
The processing unit of each medium, for example, the video decoding unit 42 reads the data written in the reception buffer 40 according to the progress of the decoding process. The read data is decoded by the video decoding unit 42 and output as uncompressed video data from the video input / output unit 21 shown in FIG.
[0029]
When there is no change in reception capability, data within the capability range specified at the start of communication is transmitted from the game. That is, the data reading speed is faster than the data writing speed of the reception buffer 40. However, when the reception capability decreases, the reading speed from the reception buffer 40 decreases, and data is accumulated in the reception buffer 40.
[0030]
The reception buffer monitoring unit 11 compares the amount of data written to and read from the reception buffer 40 and calculates the amount of data stored in the buffer (buffer occupancy). Further, the reception buffer monitoring unit 11 compares the buffer occupancy with a predetermined threshold, and when the buffer occupancy exceeds this threshold, the reception buffer monitoring unit 11 requests the game to retransmit the data via the multiplexing unit 32. The multiplexing unit 32 multiplexes the retransmission request with the transmission data and transmits it to the other party. In addition, when the multiplexing unit 32 makes a retransmission request at the request of the reception buffer monitoring unit 11, the multiplexing unit 32 notifies the separation unit 31 of the number of the data requested for retransmission. This is because, as will be described later, it is handled differently from the data requested for retransmission by error detection.
[0031]
As described above, since the game 1 continues to transmit data within the processing capability range of the receiving device, the fact that the buffer occupancy of the receiving device exceeds the threshold indicates that the processing capability is reduced.
Upon receiving the retransmission request, the game 1 retransmits the corresponding data. The separation unit 31 that has received the retransmission data recognizes that the received data is retransmission data due to a decrease in processing capability by the notification from the multiplexing unit 32, and discards the retransmission data. Therefore, no new data is written to the reception buffer 40, and the buffer occupancy falls below the threshold as the processing of the video decoding unit 42 proceeds. In this manner, the separation unit 31 that performs retransmission data discard control is referred to as a retransmission data discard unit.
[0032]
FIG. 3 shows a system operation time chart of the first specific example.
(A) of a figure is a graph which shows the transition of the occupation state of a receiving buffer. The FULL line indicates a state where data is filled in the buffer, and the EMPTY line indicates a state where data is not held in the buffer. The buffer occupancy begins to operate below the initial threshold. The section “A” is a state in which the reception capability is higher than that at the time of capability exchange, and the zone “B” is a state in which the reception capability is lowered below that at the time of capability exchange. (B) shows a retransmission request signal, and (c) shows the contents of received data.
[0033]
In the section “A”, the buffer occupancy is almost constant and stable, but the occupancy of the reception buffer 40 starts to increase from time t1 due to a decrease in the capacity of the receiving apparatus. When the occupation amount of the reception buffer 40 exceeds the threshold at time t2, a retransmission request signal is output as shown in (b). Thus, as shown in (c), retransmission data is sent from the game at time t3. Since retransmission data is not written in the reception buffer 40, the buffer occupation amount gradually decreases, and the retransmission request is stopped at time t4 when the value is equal to or less than the threshold value. After a while, new data starts to be transmitted from time t5. Thereafter, the buffer occupation amount starts increasing again, and a retransmission request is output exceeding the threshold at time t6. At time t7, retransmission data is received and the buffer occupancy begins to decrease. When the reception capability is restored to the initial state from time t8 to time t9, the buffer occupancy thereafter is stabilized below the threshold value. As described above, the multimedia data is decoded without causing the reception buffer 40 to overflow.
[0034]
<Effect of specific example 1>
The multimedia communication terminal of the specific example 1 described above has a mechanism for detecting that the reception capability is reduced from the reception buffer occupancy and outputting a retransmission request when the buffer occupancy exceeds a certain value. is doing. When a retransmission request is made, data is retransmitted on the transmission side, and transmission of newly generated data on the transmission side is limited. That is, the transmission side stops transmitting new data and transmits only retransmission data. Therefore, the apparent transmission rate can be reduced. Even if the receiving side receives the same data a plurality of times, the decoding process is performed only once. Therefore, the decoding process can be performed even with low reception capability. That is, by outputting a retransmission request, data that can be processed is transmitted even if the receiving side's ability is reduced.
For this reason, there is an effect that a PC-based terminal whose capability frequently fluctuates does not need to notify the player of a capability change, and the communication load is reduced.
[0035]
<Specific example 2>
In the first specific example, the problem of the prior art is solved by using the occupancy of the reception buffer as a criterion for determining a decrease in reception capability and outputting a retransmission request based on this. On the other hand, in the second specific example, the determination of a decrease in reception capability is performed using the PC processor usage rate. The processor usage rate is the ratio of the load to the processor capacity. When this usage rate approaches 100%, the processing speed of tasks being processed in parallel may not be maintained.
[0036]
FIG. 4 is a block diagram of the multimedia communication system of the second specific example.
The video input / output unit 21, the audio input / output unit 22, the data input / output unit 23, the control signal input / output unit 24, and the modem control signal input / output unit 25 in this figure are the same as those of the first specific example shown in FIG. It is. The connection relationship between the video encoding / decoding unit 4, the audio encoding / decoding unit 5, the data protocol processing unit 6, the control protocol processing unit 7, the multiplexing / demultiplexing unit 3, the modem 8, and the encoded data input / output unit 20 is also concrete. Similar to Example 1. This specific example is different from the specific example 1 in that the processor usage rate input unit 26 and the processing capacity monitoring unit 10 are connected to the multiplexing / demultiplexing unit 3.
[0037]
<Operation>
Of the operation of the system of the specific example 2, the method is the same as that of the specific example 1 except for the method for determining the decrease in reception capability. In other words, the main operation of determining a decrease in reception capability, outputting a retransmission request, and discarding the retransmitted data in the received data from the game is the same as in the first specific example. Hereinafter, the operation of parts different from the specific example 1 will be described.
[0038]
Processor usage rate information is input from the processor usage rate input unit 26. This information is information managed by the OS. The processing capacity monitoring unit 10 determines the receiving capacity based on the processor usage rate information. Specifically, when the processor usage rate exceeds a certain value, for example, 90%, it is determined that the reception capability is reduced. Further, a medium for which a retransmission request is made is selected, and a retransmission request signal is output to the multiplexing / demultiplexing unit 3. That is, the retransmission request signal is output to the multiplexing unit 32 in FIG.
[0039]
The media for which a retransmission request is made can be freely selected. The processing capacity monitoring unit 10 is preferably controlled so as to preferentially request retransmission of data that does not require real-time performance. For example, since text data does not hinder communication even if there is a delay, control is performed so that a retransmission request is output preferentially.
[0040]
FIG. 5 shows the processor usage rate and the retransmission control operation.
FIG. 5A is a graph showing the processor usage rate, in which a 100% line indicates a maximum load state and a 0% line indicates a no load state. Further, the section “A” is a state in which the reception capability is higher than that at the time of capability exchange, and the zone “B” is a state in which the reception capability is lowered below that at the time of capability exchange. (B) shows the timing of the retransmission request, and (c) shows the contents of the received data.
[0041]
In the section “A” in the figure, the processor usage rate is almost constant and stable, but when a new application is activated at time t1, the processor usage rate starts to increase. When the processor usage rate exceeds the threshold at time t2, a retransmission request signal is output. In this way, retransmission data is sent from the game at time t3. Since the retransmitted data has already been normally received and has been decoded, there is no need to perform the decoding process even if it is received again. That is, it may be discarded. When the load of other applications decreases after time t4, the processor usage rate decreases, and the retransmission request is stopped when the load becomes lower than the threshold value at time t5. Thereafter, new data starts to be transmitted from time t6. Thereafter, the processor usage rate stabilizes below a threshold value.
The multimedia data is decrypted while performing the above control.
[0042]
<Effect of specific example 2>
In specific example 1, the buffer occupancy was monitored as a cause of the decoding process failing when the reception buffer overflowed. On the other hand, in specific example 2, it is assumed that the cause of the increase in the buffer occupancy is the usage rate of the processor, and this is monitored to determine the reception capability. The increase in the buffer occupancy is one of the causes that the processor load becomes heavy and the PC resources allocated to the decoding process are relatively reduced. Therefore, by monitoring the processor usage rate, it is possible to output a retransmission request earlier than in the first specific example, and it is possible to perform control with high responsiveness.
In the second specific example, only the processor usage rate is monitored and controlled. However, the control may be performed in combination with the monitoring of the reception buffer occupation amount in the first specific example. In this case, more accurate control is possible.
[0043]
<Specific example 3>
Specific Example 3 is characterized in that, when a decrease in reception capability is detected in Specific Example 1 and Specific Example 2, the priority of the data transmission process of the own station is lowered compared to other processes. Note that in multimedia communication, there are many patterns in which both terminals transmit and receive rather than one PC always being the transmitting side and the other PC always being the receiving side. Therefore, in this example, when the PC has a transmission capability and a reception capability, if a decrease in reception capability is detected, the priority of the transmission processing is lowered and the priority of the reception processing is relatively increased. . When the priority of the reception process is increased, the reception capability is improved, and normal communication is continued without notifying the player of the capability change.
[0044]
FIG. 6 shows a block diagram of a multimedia communication system of the third specific example.
FIG. 6 shows each functional block of the system shown in FIG. 5 separately for the transmission side and the reception side. The illustrated system includes a video input unit 21A, an audio input unit 22A, a data input unit 23A, a video encoding unit 41, an audio encoding unit 51, a transmission-side data protocol processing unit 61, a video output unit 21B, and an audio output unit 22B. , Data output unit 23B, video decoding unit 42, audio decoding unit 52, data protocol processing unit 62 on the receiving side, control signal input / output unit 24, control protocol processing unit 7, modem control signal input / output unit 25, processor utilization rate input Unit 26, processing capacity monitoring unit 10, multiplexing / demultiplexing unit 3, modem 8, and encoded data input / output unit 20.
[0045]
<Operation>
In specific example 3, when a change in processing capability by the own station is detected, a retransmission request is output as in specific example 1 and specific example 2. Furthermore, when this retransmission request is issued, the priority of the transmission processing of the own station is lowered and the priority of the reception processing is relatively raised. Hereinafter, the operation will be described on the assumption that the decrease in reception capability is determined based on the processor usage rate as in the second specific example.
[0046]
In FIG. 6, processor usage rate information is input from the processor usage rate input unit 26. This information is information managed by the OS. The reception side processing capacity monitoring unit 10 determines the reception capacity based on the processor usage rate information. Specifically, when the processor usage rate exceeds a certain value, for example, 90%, it is determined that the reception capability is reduced. At this time, the medium for requesting retransmission is selected and a retransmission request signal is output to the multiplexing / demultiplexing unit 3. Furthermore, in this specific example, the retransmission request signal is also input to the video encoding unit 41, the audio encoding unit 51, and the data protocol processing unit 61 on the transmission side.
[0047]
The video encoding unit 41, the audio encoding unit 51, and the data protocol processing unit 61 on the transmission side handle the retransmission request signal as a processing reduction command. For example, when a retransmission request signal is input to the video encoding unit 41, the video encoding unit 41 shifts to an encoding mode with a low processor load by reducing the frame rate of an image to be encoded. Also, the priority of the video encoding process itself is lowered to control the processor usage rate to be lowered. The other audio encoding unit 51 and the data protocol processing unit 61 on the transmission side perform the same control.
[0048]
Thus, if the priority of the transmission process is lowered, the PC resources allocated to the reception process can be relatively increased. When the processor usage rate falls below the threshold value, the normal operation is resumed.
[0049]
<Effect of specific example 3>
As described above, in this specific example, when a decrease in processing capability is detected, a data retransmission request is output and control is performed so as to lower the priority of transmission processing. The rate is increased, and the decrease in reception capability can be reduced.
Note that the method of detecting a decrease in processing capability may be the method of specific example 1 or the method of specific example 2. If the PC processing speed on the receiving side decreases while the transmission speed remains constant, a buffer overflow occurs on the receiving side and causes a processing failure.However, if the transmission side is automatically controlled to reduce the processing speed, image quality may be reduced. There is an effect that normal communication is maintained even if there is an influence such as interruption of sound.
[Brief description of the drawings]
FIG. 1 is a block diagram of main parts of a multimedia communication system of the present invention.
FIG. 2 is a block diagram showing a specific example of the multimedia communication system of specific example 1;
FIG. 3 is a system operation time chart of the first specific example.
FIG. 4 is a block diagram of a multimedia communication system of a specific example 2;
FIG. 5 is a processor usage rate and retransmission control operation time chart.
FIG. 6 is a block diagram of a multimedia communication system according to a specific example 3;
[Explanation of symbols]
1 game
2 Your station
3 Multiplexer / separator
4 Video encoding / decoding unit
10 Processing capacity monitoring unit
31 Separation unit (Retransmission data discard unit)
32 Multiplexer (Retransmission request unit)

Claims (3)

ビデオデータを含むマルチメディアデータを送信する対局側に接続されているマルチメディア通信端末であって、
前記マルチメディアデータを受信すると該データからビデオデータを分離し該ビデオデータの誤り検出処理を行って正常受信のビデオデータを受信バッファに格納する分離部と、
前記受信バッファから前記ビデオデータを取り込んで処理するビデオ処理部と、
前記受信バッファのデータ占有量が閾値以上になるとデータ処理能力が低下したと判定する受信バッファ監視部と、
前記データ処理能力の低下判定及び前記誤り検出処理に基づく非正常受信のいずれかで前記対局に再送要求を送信すると共に前記データ処理能力の低下判定時に前記分離部に再送要求したビデオデータの番号を通知する再送要求部と、
前記分離部に設けられ、分離したビデオデータの番号が前記通知を受けた番号に一致すると該ビデオデータを廃棄する再送データ廃棄部と、
を含むことを特徴とするマルチメディア通信端末。
A multimedia communication terminal connected to the opposite side for transmitting multimedia data including video data,
A separation unit that separates video data from the data when the multimedia data is received, performs error detection processing of the video data, and stores normally received video data in a reception buffer;
A video processing unit for fetching and processing the video data from the reception buffer;
A reception buffer monitoring unit that determines that the data processing capacity has decreased when the data occupation amount of the reception buffer is equal to or greater than a threshold;
A retransmission request is transmitted to the player at any one of the determination of deterioration of the data processing capability and the abnormal reception based on the error detection processing, and the number of video data requested to be retransmitted to the separation unit at the time of the determination of the decrease of the data processing capability A retransmission request section to notify,
A retransmission data discarding unit that is provided in the separation unit and discards the video data when the number of the separated video data matches the received number;
A multimedia communication terminal comprising:
ビデオデータを含むマルチメディアデータを送信する対向側に接続されているマルチメディア通信端末であって、
前記マルチメディアデータを受信すると該データからビデオデータを分離し該ビデオデータの誤り検出処理を行って正常受信のビデオデータを受信バッファに格納する分離部と、
前記受信バッファから前記ビデオデータを取り込んで処理するビデオ処理部と、
自局のプロセッサの使用率が閾値以上になるとデータ処理能力が低下したと判定する処理能力監視部と、
前記データ処理能力の低下判定及び前記誤り検出処理に基づく非正常受信のいずれかで前記対局に再送要求を送信すると共に前記データ処理能力の低下判定時に前記分離部に再送要求したビデオデータの番号を通知する再送要求部と、
前記分離部に設けられ、分離したビデオデータの番号が前記通知を受けた番号に一致すると該ビデオデータを廃棄する再送データ廃棄部と、
を含むことを特徴とするマルチメディア通信端末。
A multimedia communication terminal connected to the opposite side for transmitting multimedia data including video data,
A separation unit that separates video data from the data when the multimedia data is received, performs error detection processing of the video data, and stores normally received video data in a reception buffer;
A video processing unit for fetching and processing the video data from the reception buffer;
A processing capacity monitoring unit that determines that the data processing capacity has decreased when the usage rate of the processor of the local station exceeds a threshold;
A retransmission request is transmitted to the player at any one of the determination of deterioration of the data processing capability and the abnormal reception based on the error detection processing, and the number of video data requested to be retransmitted to the separation unit at the time of the determination of the decrease of the data processing capability A retransmission request section to notify,
A retransmission data discarding unit that is provided in the separation unit and discards the video data when the number of the separated video data matches the received number;
A multimedia communication terminal comprising:
前記受信バッファのデータ占有量が閾値以上になるとデータ処理能力が低下したと判定する受信バッファ監視部を更に備え、
前記再送要求部は、前記受信バッファ監視部及び前記処理能力監視部のいずれかがデータ処理能力の低下を判定すると前記再送要求を送信すると共に前記番号を通知する、
ことを特徴とする請求項2記載のマルチメディア通信端末。
A reception buffer monitoring unit for determining that the data processing capacity is reduced when the data occupation amount of the reception buffer is equal to or greater than a threshold;
The retransmission request unit transmits the retransmission request and notifies the number when any of the reception buffer monitoring unit and the processing capability monitoring unit determines that the data processing capability is reduced.
The multimedia communication terminal according to claim 2.
JP20246799A 1999-07-16 1999-07-16 Multimedia communication terminal Expired - Lifetime JP3827192B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP20246799A JP3827192B2 (en) 1999-07-16 1999-07-16 Multimedia communication terminal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP20246799A JP3827192B2 (en) 1999-07-16 1999-07-16 Multimedia communication terminal

Publications (2)

Publication Number Publication Date
JP2001036889A JP2001036889A (en) 2001-02-09
JP3827192B2 true JP3827192B2 (en) 2006-09-27

Family

ID=16458018

Family Applications (1)

Application Number Title Priority Date Filing Date
JP20246799A Expired - Lifetime JP3827192B2 (en) 1999-07-16 1999-07-16 Multimedia communication terminal

Country Status (1)

Country Link
JP (1) JP3827192B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006319738A (en) * 2005-05-13 2006-11-24 Nec Corp Data transfer system
JP4664243B2 (en) * 2006-06-29 2011-04-06 富士通株式会社 Communication device
JP5418641B2 (en) * 2012-06-27 2014-02-19 日本電気株式会社 COMMUNICATION DEVICE, FLOW CONTROL METHOD USED FOR THE SAME, AND PROGRAM THEREOF

Also Published As

Publication number Publication date
JP2001036889A (en) 2001-02-09

Similar Documents

Publication Publication Date Title
JP4949591B2 (en) Video error recovery method
US8325817B2 (en) Communication apparatus and method for data interpolation
JP5026167B2 (en) Stream transmission server and stream transmission system
EP2129126A1 (en) Transmission apparatus, transmission method, and reception apparatus
JP2008508791A (en) Home entertainment system, playback method, and television receiver
JPH09233231A (en) Data transmission method and device therefor
JP2008193510A (en) Video transmitter, video receiver, and video transmission system
US20130254823A1 (en) Server apparatus and method for switching transmitting system
JP3827192B2 (en) Multimedia communication terminal
US10812789B2 (en) Encoding/transmitting apparatus and encoding/transmitting method
JP2005101766A (en) Electronic apparatus and method for controlling same
JP3390033B2 (en) Packet communication method
JP2000295597A (en) Reception and transmission system for media data
JP4884922B2 (en) Communication apparatus and communication method
KR102510865B1 (en) Signal processing device, signal processing method, and program
US20080117474A1 (en) Data communication apparatus and data communication method
JP2004266724A (en) Real time voice buffer control apparatus
KR20060016809A (en) Medium signal reception device, transmission device, and transmission/reception system
JPH07170503A (en) Receiver
JP2008113225A (en) Communication apparatus and communication method
US7280507B2 (en) Radio LAN data transmission system, radio LAN data transmission method, and computer product
JP2004349743A (en) Video stream switching system, method, and video image monitoring and video image distribution system including video stream switching system
JPH07170504A (en) Transmitter
JP2005278201A (en) Data transfer apparatus, and data transfer method
JPH11262000A (en) Video signal transmission method and device therefor

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051115

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060630

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100714

Year of fee payment: 4