JP2007150916A - コミュニケーションシステム、端末装置及びコンピュータプログラム - Google Patents

コミュニケーションシステム、端末装置及びコンピュータプログラム Download PDF

Info

Publication number
JP2007150916A
JP2007150916A JP2005344746A JP2005344746A JP2007150916A JP 2007150916 A JP2007150916 A JP 2007150916A JP 2005344746 A JP2005344746 A JP 2005344746A JP 2005344746 A JP2005344746 A JP 2005344746A JP 2007150916 A JP2007150916 A JP 2007150916A
Authority
JP
Japan
Prior art keywords
image quality
reproduction
communication system
terminal device
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005344746A
Other languages
English (en)
Other versions
JP4479650B2 (ja
Inventor
Sei Sunahara
星 砂原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005344746A priority Critical patent/JP4479650B2/ja
Priority to US11/604,404 priority patent/US8681197B2/en
Priority to CNB2006101631887A priority patent/CN100568947C/zh
Publication of JP2007150916A publication Critical patent/JP2007150916A/ja
Application granted granted Critical
Publication of JP4479650B2 publication Critical patent/JP4479650B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/148Interfacing a video terminal to a particular transmission medium, e.g. ISDN

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Telephonic Communication Services (AREA)

Abstract

【課題】相手先での受信状態が良好か不良かを2値的に送信者側に知らせる仕組みしかなく、相手先での受信画像の表示状況を確認することができない。
【解決手段】ベストエフォート型のネットワークに接続された2つの端末装置間で動画像データを送受信し、リアルタイムによる双方向のコミュニケーションを実現するコミュニケーションシステムにおいて、端末装置のそれぞれに、(a)相手先の端末装置より受信した動画像データに関する再生画質を判定し、再生画質情報として相手先に通知する再生画質判定部と、(b)自装置側での確認用に表示する送信画像の画質を、再生画質情報で通知された再生画質に制御する再生画質制御部とを搭載する。
【選択図】図9

Description

この明細書で説明する発明は、動画像の送受信による双方向コミュニケーションを支援する技術に関する。
なお、発明者らが提案する発明は、コミュニケーションシステム、端末装置及びコンピュータプログラムとしての側面を有する。
従来のデジタル回線におけるTV会議システムにおいては、通信回線にISDNが用いられていた。ISDNでは通信帯域が保証されている。従って、通信レートが一定であり、データ損失が起こり難い。
しかし近年、帯域幅の狭いISDNに代わって、通信回線としてIP(internet protocol )ベースのインターネット網の利用が急激に増加している。
インターネット網を利用するADSL(asymmetric digital subscriber line)や光回線では、帯域が保証されないベストエフォート型のサービス(以下、この種のサービスが提供されるネットワークをベストエフォート型のネットワークをいう。)が提供される。ところが、この種のネットワークは、通信状態が時々刻々と変化する。
このため、輻輳やビットエラーによるパケット損失が発生する可能性がある。
その結果、伝送される画像、音声データに破損、乱れ、スキップ等が発生する。
この他、インターネット網では、上り回線の回線品質と下り回線の回線品質が一般に一致しない。
このため、従来のTV会議システムやTV電話システムでは、一方の画像は損失無く受信できていても、他方ではまったく受信できないという状況が発生することがある。
この場合、自らの受信状況が良好である使用者Aは、受信状況が不安定な使用者Bの状況に気づくことなく、一方的に会話を続け、しばらくした後相手側の状況に気がつくことになる。
そこで、伝送路上での通信異常の発生を検出して受信状況が良好な使用者Aに通知する仕組みが提案されている。
特開2005−210160号公報
ところが、従来提案されている技術は、相手先で送信画像が表示できているか否かを送信者側に知らせる技術である。すなわち、受信状況が良好か不良かを2値的に知らせる技術である。
そこで、発明者は、ベストエフォート型のネットワークに接続された相手方の端末装置との間で動画像データを送受信し、リアルタイムによる双方向のコミュニケーションを実現する端末装置に、以下の処理デバイスを搭載する
(a)相手先の端末装置より受信した動画像データに関する再生画質を判定し、再生画質情報として相手先に通知する再生画質判定部
(b)自装置側での確認用に表示する送信画像の画質を、前記再生画質情報で通知された再生画質に制御する再生画質制御部
発明者の提案する発明を採用すれば、相手先で現に再生表示されている送信画像の画質を送信側においてリアルタイムで再現表示することができる。このため、コミュニケーションシステムの利用者は、お互いの通信状態をリアルタイムで確認することができ、スムーズなコミュニケーション実現できる。
以下、相手先で表示されている受信画像の画質を送信側で再現表示できる技術を搭載するコミュニケーションシステムの形態例を説明する。
なお、本明細書で特に図示又は記載されない部分には、当該技術分野の周知又は公知技術を適用する。
また以下に説明する形態例は、発明の一つの形態例であって、これらに限定されるものではない。
(A)テレビ会議システム
(a)システム構成
図1に、テレビ会議システムの構成例を示す。
図1は、ベストエフォート型のネットワークに接続される2台の端末装置A及びBで構成されるテレビ会議システムを示す。実際には、3台以上の端末装置がネットワークに接続されることも可能であるが、発明者が提案する処理機能は、図1に示す1対1の接続形態として実現される。なお、以下の説明では、ベストエフォート型のネットワークとして、パケット通信網104を使用する場合について説明する。
端末装置Aは、テレビ会議の参加者を撮像する撮像装置101と、ネットワーク端末103と、受信画像を表示する表示デバイス102で構成される。
端末装置Bは、同じくテレビ会議の参加者を撮像する撮像装置106と、ネットワーク端末105と、受信画像を表示する表示デバイス107で構成される。
ここでは、端末装置が、撮像装置と、ネットワーク端末と、表示デバイスの複合システムとして構成されるものとして説明するが、これらの全て又は一部を1つの装置内に搭載することも可能である。
ネットワーク端末には、以下に示す複数の処理機能を搭載する。なお、ネットワーク端末103とネットワーク端末105の内部構成は同一である。従って、以下ではネットワーク端末103を例に各処理機能を列記する。
処理機能の1つは、撮像装置101から受け取った動画像データを圧縮符号化する処理機能である。この処理機能は、伝送効率の向上や記憶領域を有効活用のために搭載される。
処理機能の1つは、圧縮符号化された動画像データをパケット化し、パケット通信網104に出力する処理機能である。この処理機能は、パケット通信網104を通じたデータ転送のために搭載される。
処理機能の1つは、撮像装置101から受け取った動画像データ(送信画像)を表示デバイス102に表示する処理機能である。この処理機能は、送信画像の内容を送信元で確認することができるように搭載される。また、この処理機能は、相手先での送信画像の画質を確認するのにも使用される。
処理機能の一つは、相手先から受信した動画像データ(受信画像)を復号化して表示デバイス102に表示する処理機能である。この処理機能は、受信画像の確認用に搭載される。
処理機能の1つは、復号結果としての受信画像の再生画質に関する情報(再生画質情報)を、通信相手であるネットワーク端末105に送信する処理機能である。
なお、これらの処理機能に加え、ネットワーク端末103には、パケットの損失に対して再送要求を行う処理機能やその反対に再送要求に応じて特定のパケットを再送する処理機能を必要に応じて搭載する。
なお、表示デバイスは、ブラウン管、フラットパネルディスプレイ、プロジェクタのいずれでも良い。また、表示デバイスの台数は、1台に限る必要はなく、複数台とすることもできる。
例えば、表示デバイスを1台とする場合、受信画像の表示領域の一部に自装置が相手方に送信している送信画像を表示すれば良い。また例えば、表示デバイスを複数台とする場合、受信画像の表示用と送信画像の表示用とで別々に使用しても良い。表示デバイスの台数や使用方法は、システム利用者の使用目的や運用ポリシーに依存する。
また、このシステム例では、動画像(映像)をネットワーク端末に供給する送信装置として撮像装置101を例示するが、画像再生装置でも良い。
(b)ネットワーク端末の内部構成(機能構成)
図2に、ネットワーク端末の内部構成例を説明する。なお、図2には図1との対応部分に同一符号を付して示す。もっとも、ネットワーク端末の内部構成はいずれも同じであるので、端末装置A側か端末装置B側かに関わらず、ネットワーク端末を構成する処理機能部には同一符号を付して示す。
エンコーダ201は、撮像装置から入力される動画像データをエンコードする処理デバイスである。この例の場合、エンコーダ201は、階層的な圧縮符号化方式を利用して動画像データを圧縮する。ここでいう階層的な圧縮符号化方式には、例えばJPEG2000(Joint Photographic Experts Group)、MPEG(Moving Picture Experts Group)などが考えられる。前者はフレーム内圧縮符号化の代表例であり、後者はフレーム間圧縮符号化方式の代表例である。
送信バッファ203は、エンコーダ201で圧縮符号化された動画像データを送信用に保持する記憶領域である。
ローカルバッファ205は、エンコーダ201で圧縮符号化された動画像データ(送信画像)を自装置側での確認用に保持する記憶領域である。
RTP(Realtime Transport Protocol )パケット作成部207は、送信バッファ203に保持されている動画像データをRTPパケットに変換する処理デバイスである。
RTPパケット送信部209は、RTPパケットをパケット通信網104に送信する処理デバイスである。
再送要求処理部211は、RTPパケットの送信先(相手先)であるネットワーク端末105より再送要求が受信された場合に、再送すべきRTPパケットに対応する動画像データを送信バッファ203より探し、再びRTPパケット化してパケット通信網104に送信させる一連の処理を制御する処理デバイスである。
RTPパケット受信部213は、パケット通信網104よりRTPパケットを受信する処理デバイスである。なお、RTPパケットが冗長符号化されている場合、RTPパケット受信部213は誤り訂正処理も実行する。誤り訂正処理により、伝送路の損失はある程度回復することができる。
RTPパケット解析部215は、RTPパケット受信部213から転送されたRTPパケットを解析し、損失があった場合には再送要求送信部217に通知する処理デバイスである。
なお、RTPパケットは、例えば図3に示す階層構造に符号化される。図3の場合、動画像データは階層L0〜L2の3段階に階層符号化されており、各階層L0〜L2は更に3つの解像度に階層化されている。各解像度にはパケット番号(図3は、JPEG2000の例)が付されており、伝送路上で損失したRTPパケットはパケット番号を通じて特定される。
再送要求送信部217は、RTPパケット解析部215での解析により損失が確認されたRTPパケットの再送を送信側に要求するパケットを送信する処理デバイスである。一般には、タイムアウトが設定されており、タイムアウト時間を経過しても正常なRTPパケットが受信されない場合には、該当パケットの再送要求が管理対象から削除される。
受信バッファ219は、受信したRTPパケットを保持する記憶領域である。
再生画質判定部221は、1フレームの画像を再生する際に、再生画質を判定する処理デバイスである。判定結果は、パケット通信網104を通じて、送信側のネットワーク端末に通知される。
デコーダ223は、受信バッファ219から読み出したフレームデータを復号し、受信画像として表示デバイスに出力する処理デバイスである。なお、デコーダ223は、相手先からの再生画質情報が届いている場合に、当該再生画質情報に従ってローカルバッファ205から読み出された自装置側のフレームデータを復号し、送信画像として表示デバイスに出力する処理を実行する。この例の場合、送信画像は小画面として表示される。
なお、ローカルバッファ205からデコーダ223に読み出されるフレームデータは、送信画像の表示サイズに応じた解像度データだけで良い。
再生画質制御部225は、相手先から通知された再生画質情報に基づいて、ローカルバッファ205からデコーダ223に転送するデータの階調を制御する処理デバイスである。
(c)JPEG2000の階層符号化について
ここでは、JPEG2000の階層符号化について補足する。
図3に、JPEG2000の階層構造を示す。図中、「J2Kパケット」は、JPEG2000で階層符号化されたパケットを意味する。図3は、SNRプログレッシブ順序でJ2Kパケット化された例である。
この例の場合、パケット番号の3番以降のパケットは届かなくとも、レイヤ0のパケットには損失が無いため、レイヤ0に対応する受信画像を再生することができる。
一方、パケット番号の5番までのパケットが届けば、レイヤ1までに対応する受信画像を再生することができる。
このようにJPEG2000においては全てのパケットが届かなくとも、再生可能なレイヤまでの画像を再生することができる。
また、子画面のように解像度の低い画像を表示する場合、全てのJ2Kパケットを用いる必要は無い。例えばパケット番号0、3、6を用いることで低解像度の画像を再生することができる。すなわち、送信画像確認用(子画面用)のローカルバッファ205は、全てのデータを保持する必要は無い。
また、再生画質制御部225は、相手先から受信した再生画質情報に基づいてデコード処理に用いるパケットをパケット0のみ、又はパケット0と1などと選択する。これにより、送信画像の確認に適した解像度で任意のレイヤまでの画質を得ることができる。
(d)動画像データの送信処理手順
図4に、端末装置が相手先の端末装置に動画像データを送信する際の処理手順を説明する。
まず、ネットワーク端末103は、撮像装置101で撮像された動画像データを1フレーム分キャプチャし、エンコーダ201で圧縮符号化する(処理401)。
ネットワーク端末103は、圧縮符号化された動画像データを送信バッファ203に転送し、読み出しまで保持する(処理402)。
また、ネットワーク端末103は、自装置内での送信画像の確認用(小画面表示用)に、圧縮符号化された動画像データの一部を選択的にローカルバッファ205に保持する(処理403、処理404)。
前述したように、JPEG2000等のコーデックを利用する場合において、送信画像の確認用(子画面表示用)に解像度の低い画像を残す場合には、全てのデータを保存せず、子画面に必要な解像度分のデータだけが保存される。
この後、ネットワーク端末103は、再送要求の有無を判定する(処理405)。再送要求がある場合、ネットワーク端末103は、要求されたパケットを送信バッファ203に転送する(処理406)。再送要求が無い場合又は再送パケットの送信バッファ203への転送が終了すると、ネットワーク端末103は、送信バッファ203に保存されたデータをRTPパケット化し、パケット通信網104に送信する(処理407、処理408)。
(e)動画像データの受信処理手順
図5に、端末装置が相手先の端末装置から動画像データを受信する際に実行される一連の処理手順を説明する。
まず、ネットワーク端末105は、RTPパケット受信部213においてパケットを受信し、RTPパケット解析部215においてRTPパケットのヘッダを解析する(処理501、処理502)。
ここで、ネットワーク端末105は、シーケンス番号の欠落などによって損失があったと判定した場合(処理503で肯定結果)、該当するRTPパケットの再送を送信元であるネットワーク端末103に要求する(処理504)。
RTPパケットの再送を要求する場合は、再送動作が完了するまで受信画像の再生タイミングを待つ必要がある。このため、ネットワーク端末105は、画像再生タイミングまでこのループ処理を繰り返す(処理505)。
フレーム画像の再生タイミングが到来すると、ネットワーク端末105は、RTPパケットから再生するフレームのデータを再構成し、RTPパケットの損失の有無を判定する(処理506)。
RTPパケットに損失があった場合、ネットワーク端末105は再生画像の品質を判定し、再生画質情報を送信元のネットワーク端末103に送信すると共に、再生した動画像データをデコーダ223に転送する(処理507)。
図6に、この処理内容を示す。図6は、レイヤ0、レイヤ1、レイヤ2の3つのレイヤから構成される動画像データを送信する場合を示している。図中、四角で示す枠は、J2Kパケットに対応し、枠内の数字はレイヤ情報を示す。
図6に示すように、最上位のレイヤ2まで再生できる場合には、再生画質情報の送信はない。これに対し、レイヤ1又はレイヤ0まで、又は全く再生できない場合には、再生可能であったレイヤ数に関する情報が再生画質情報パケットとして画像の送信元に送信される。
なお、「再生画質」とは、この例に示すようなレイヤ情報の他、カラーコンポーネント情報であったり、解像度情報でも良い。
この後、ネットワーク端末105は、受信画像の再生に先立って、通信相手であるネットワーク端末103から再生画質情報を受信しているか否かを判定する(処理508)。
再生画質情報を受信している場合、ネットワーク端末105は、送信画像の確認に使用する画像データを整形し、デコーダ223に出力する(処理509)。一方、再生画質情報を受信していない場合、ネットワーク端末105は、ローカルバッファ205に保持している確認用の画像データをそのままデコーダ223に出力する(処理510)。
図7に、送信画像の確認用に再生される再生画質が、再生画質情報の受信の前後でどのように変化するかを例示する。
ローカルバッファ205にレイヤ0、レイヤ1、レイヤ2の3つのレイヤからなるフレームデータが保存されている場合において、再生画質情報が受信されなかったとき、再生画質制御部225は、レイヤ2までの解像度で送信画像の再生を指示する。
一方、ローカルバッファ205にレイヤ0、レイヤ1、レイヤ2の3つのレイヤからなるフレームデータが保存されている場合において、再生画質情報が受信されたとき、再生画質制御部225は、再生画質情報で通知された階層、例えばレイヤ0又はレイヤ1まで又はそのフレームを損失させるといった画質での送信画像の再生を指示する。図7は、レイヤ1まで再生する場合である。
(f)再生画質情報のフォーマット例
図8に、再生画質情報のフォーマット例を示す。なお、図8は、送信単位がフレームの場合である。
このフォーマットでは、画像フレームを特定する識別子(すなわちフレームID)と、再生できたレイヤ数のフィールドのみを持つ。画像を特定する識別子が存在しない場合には、このフィールドを“0”とする。また、ある画像について再生できたレイヤがない場合には、レイヤのフィールドに“0”を入れる。
前述した再生画質制御部225は、これらの情報に基づいて、自装置の送信画像に対応する画像データが格納されているローカルバッファ205からデコーダ223に読み出すデータを選択する。
なお、レイヤフィールドに“0”が入った再生画質情報を受け取った場合、再生画質制御部225は、前回デコードした画像データを再度デコード対象に選択することで送信画像確認用の画像を静止(フリーズ)させる。
(g)受信側での再生画質が送信元の確認画面に反映される様子
図9に、テレビ会議中の表示画面例を示す。図9(A)は、端末装置Aの表示デバイスに表示される画面例であり、図9(B)は、端末装置Bの表示デバイスに表示される画面例である。
図9(A)に示す表示画面901は、主画面902と小画面903で構成される。主画面902には、端末装置Bからパケット通信網経由で受信された受信画像が表示される。また、小画面903には、端末装置Bにパケット通信網経由で送信した送信画像が表示される。
図9(B)に示す表示画面904は、主画面905と小画面906で構成される。主画面905には、端末装置Aからパケット通信網経由で受信された受信画像が表示される。また、小画面906には、端末装置Aにパケット通信網経由で送信した送信画像が表示される。
通常、小画面に表示される送信画像は、自装置内での処理であるためパケット通信網上での通信状態の影響を受けない。しかし、この具体例のように再生画質制御部225を搭載したことで、端末装置B側での受信画像(図9(B))の画質低下の程度と同じ画質の低下が端末装置A側の子画面(図9(A))にて確認できる。
このため、端末装置Aの利用者は、相手先画面の乱れ又は低下を確認することができる。すなわち、テレビ会議システムの利用者間でお互いの受信画像に関する共通の認識の下でのコミュニケーションを実現することができる。このことは、説明の繰り返しや誤解の発生を低減するのに有効である。
なお、小画面に表示する送信画像の表示タイミングを制御すれば、画面の乱れ又は欠落の生じた画像フレームを一致させることができる。もっとも、画面の乱れの発生を双方が認識できれば良いという限りにおいては、相手先で画質の低下等が発生した画像フレームと、自装置側の小画面で画質が低下する画像フレームとの間には時間的なズレが発生しても良い。
(h)テレビ会議システムでの効果
以上のように、通信相手側での表示画像の画質の低下等に連動して、自装置側でも小画面に表示している送信画像の画質を低下させる機能を搭載することにより、ベストエフォート型のネットワーク経由でテレビ会議を開催する場合にも、より正確なコミュニケーションを実現することができる。
すなわち、従来システムのように、自装置側での小画面には常に同一画質の送信画像が表示されることで、相手方の受信状態を認識できない不都合を解決することができる。
例えば、受信画像の画質低下に伴う会話の不成立とこれに起因した同じ発言の繰り返しを無くすことができる。
また例えば、会話を再開する場合にも、送信側ではどの時点から会話を再開すれば良いかを容易に認識できるため、お互いが共通の認識の下に会話を再開することができる。
この結果、非常に使い勝手の良いテレビ会議システムを実現することができる。
(B)他の形態例
(a)前述したシステム例の動作説明では、主にJPEG2000方式でフレーム内符号化した動画像データを相手先に送信する場合を例に説明したが、MPEG等でフレーム間符号化した動画像データを相手先に送信する場合にも適用できる。
図10にこの場合の例を示す。MPEG等のフレーム間符号化方式は、1フレームの損失が他の複数フレームに影響する可能性がある。
この場合も、フレームの損失(欠落)を送信側のネットワーク端末にフィードバックすることにより、影響を受けるフレームの画質低下を小画面に表示する送信画像の画質に反映させることができる。
図10は、上段が送信側の画像表示例であり、下段が受信側の画面表示例である。図10に示すように、再生画質情報のフィードバックにより送信側で確認用に表示される送信画像の画質は、受信側での画質低下に連動していることが分かる。
(b)前述したシステム例の動作説明では、再生画質情報として最終的に復号化できた画像データの階層情報、すなわちレイヤ情報を送信側の端末装置に送信する場合について説明した。
ただし、再生画質情報には、欠落フレーム(フレーム内符号化されたフレームやフレーム間符号化されたフレームを含む。)を特定する情報、欠落パケットを特定する情報その他を用いることもできる。これらの情報を用いても、前述したシステム例と同様の効果を実現することができる。
(c)前述の説明では、テレビ会議システムに発明を応用する場合について説明したが、テレビ電話システムにも応用できる。
(d)前述のシステム例を構成する端末装置は、据え置き型の装置でも携帯型の装置でも良い。また、ベストエフォート型のネットワークとの接続は、有線ケーブルを用いても良いし、無線波を用いても良い。
なお、端末装置の商品形態は任意であり、例えばテレビ会議専用端末、テレビ電話専用端末、コンピュータ、印刷装置、ビデオカメラ、デジタルカメラ、ゲーム機器、スキャナ、携帯情報端末(携帯型のコンピュータ、携帯電話機、携帯型ゲーム機、電子書籍等)、時計、画像再生装置(例えば、光ディスク装置、ホームサーバー)、モニタ、テレビジョン受像器、発明に係る機能を搭載した処理ボードや処理カードとしても実現できる。
(e)ネットワーク端末を構成する個々の処理機能は、ハードウェアとしてもソフトウェアとしても実現できる。
また、これらの処理機能の全てをハードウェア又はソフトウェアで実現するだけでなく、その一部はハードウェア又はソフトウェアを用いて実現しても良い。すなわち、ハードウェアとソフトウェアの組み合わせ構成としても良い。
(f)前述の形態例には、発明の趣旨の範囲内で様々な変形例が考えられる。また、本明細書の記載に基づいて創作される又は組み合わせられる各種の変形例及び応用例も考えられる。
テレビ会議システムの構成例を示す図である。 ネットワーク端末の内部構成例を示す図である。 RTPパケットの階層構造例を示す図である。 動画像データの送信処理手順例を示す図である。 動画像データの受信処理手順例を示す図である。 再生画質情報の送信タイミングを示す図である。 再生画質情報の受信タイミングと送信画像に反映される画質との関係を示す図である。 再生画質情報のフォーマット例を示す図である。 テレビ会議中の表示画面例を示す図である。 動画像データの伝送にフレーム間符号化方式を採用する場合の再生画質情報の送信タイミングと送信画像に反映される画質との関係を示す図である。
符号の説明
215 RTPパケット解析部
217 再送要求送信部
221 再生画質判定部
225 再生画質制御部
902 主画面(受信画像)
903 小画面(送信画像)
905 主画面(受信画像)
906 小画面(送信画像)

Claims (13)

  1. ベストエフォート型のネットワークに接続された2つの端末装置間で動画像データを送受信し、リアルタイムによる双方向のコミュニケーションを実現するコミュニケーションシステムにおいて、
    端末装置のそれぞれに、
    相手先の端末装置より受信した動画像データに関する再生画質を判定し、再生画質情報として相手先に通知する再生画質判定部と、
    自装置側での確認用に表示する送信画像の画質を、前記再生画質情報で通知された再生画質に制御する再生画質制御部と
    を搭載したことを特徴とするコミュニケーションシステム。
  2. 請求項1に記載のコミュニケーションシステムにおいて、
    前記再生画質情報は、最終的に復号化できた画像データの階層情報として与えられる
    ことを特徴とするコミュニケーションシステム。
  3. 請求項1に記載のコミュニケーションシステムにおいて、
    前記再生画質情報は、欠落したフレームを特定する情報として与えられる
    ことを特徴とするコミュニケーションシステム。
  4. 請求項1に記載のコミュニケーションシステムにおいて、
    前記再生画質情報は、欠落したパケットを特定する情報として与えられる
    ことを特徴とするコミュニケーションシステム。
  5. 請求項1に記載のコミュニケーションシステムにおいて、
    前記再生画質情報は、最終的に復号化できたフレーム間符号化フレームの欠落情報である
    ことを特徴とするコミュニケーションシステム。
  6. 請求項1に記載のコミュニケーションシステムにおいて、
    前記再生画質情報は、最終的に復号化できたフレーム内符号化フレームの欠落情報である
    ことを特徴とするコミュニケーションシステム。
  7. 請求項1に記載のコミュニケーションシステムにおいて、
    前記生成画質制御部は、画質の制御対象である画像フレームが画質再生情報で指定された画像フレームに一致するように、自装置内部における送信画像の読み出しを制御する
    ことを特徴とするコミュニケーションシステム。
  8. 請求項1に記載のコミュニケーションシステムにおいて、
    前記生成画質制御部は、画質再生情報の受信時点に自装置側で表示されている任意の画像フレームの画質を制御する
    ことを特徴とするコミュニケーションシステム。
  9. 請求項1に記載のコミュニケーションシステムにおいて、
    前記端末装置は、無線通信機能を搭載する
    ことを特徴とするコミュニケーションシステム。
  10. 請求項1に記載のコミュニケーションシステムにおいて、
    前記端末装置は、テレビ会議サービス用の端末装置である
    ことを特徴とするコミュニケーションシステム。
  11. 請求項1に記載のコミュニケーションシステムにおいて、
    前記端末装置は、テレビ電話サービス用の端末装置である
    ことを特徴とするコミュニケーションシステム。
  12. ベストエフォート型のネットワークに接続された相手方の端末装置との間で動画像データを送受信し、リアルタイムによる双方向のコミュニケーションを実現する端末装置において、
    相手先の端末装置より受信した動画像データに関する再生画質を判定し、再生画質情報として相手先に通知する再生画質判定部と、
    自装置側での確認用に表示する送信画像の画質を、前記再生画質情報で通知された再生画質に制御する再生画質制御部と
    を搭載したことを特徴とする端末装置。
  13. ベストエフォート型のネットワークに接続された相手方の端末装置との間で動画像データを送受信し、リアルタイムによる双方向のコミュニケーションを実現する端末装置に搭載されるコンピュータに、
    相手先の端末装置より受信した動画像データに関する再生画質を判定し、再生画質情報として相手先に通知する処理と、
    自装置側での確認用に表示する送信画像の画質を、前記再生画質情報で通知された再生画質に制御する処理と
    を実行させるコンピュータプログラム。
JP2005344746A 2005-11-29 2005-11-29 コミュニケーションシステム、端末装置及びコンピュータプログラム Active JP4479650B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2005344746A JP4479650B2 (ja) 2005-11-29 2005-11-29 コミュニケーションシステム、端末装置及びコンピュータプログラム
US11/604,404 US8681197B2 (en) 2005-11-29 2006-11-27 Communication system, terminal apparatus and computer program
CNB2006101631887A CN100568947C (zh) 2005-11-29 2006-11-29 通信系统、终端设备和通信方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005344746A JP4479650B2 (ja) 2005-11-29 2005-11-29 コミュニケーションシステム、端末装置及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2007150916A true JP2007150916A (ja) 2007-06-14
JP4479650B2 JP4479650B2 (ja) 2010-06-09

Family

ID=38087025

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005344746A Active JP4479650B2 (ja) 2005-11-29 2005-11-29 コミュニケーションシステム、端末装置及びコンピュータプログラム

Country Status (3)

Country Link
US (1) US8681197B2 (ja)
JP (1) JP4479650B2 (ja)
CN (1) CN100568947C (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009003639A (ja) * 2007-06-20 2009-01-08 Victor Co Of Japan Ltd クライアント装置、データ処理方法およびそのプログラム
JP2010081016A (ja) * 2008-09-24 2010-04-08 Fuji Xerox Co Ltd 画像送信装置、画像送信プログラム、及び画像通信システム
JP2011120168A (ja) * 2009-12-07 2011-06-16 Kyocera Corp 通信装置
WO2011161874A1 (ja) 2010-06-23 2011-12-29 三菱電機株式会社 映像再現システム
JP2012511855A (ja) * 2008-12-10 2012-05-24 アルカテル−ルーセント テレビ会議による通信のための方法および装置
JP2014003371A (ja) * 2012-06-15 2014-01-09 Samsung Electronics Co Ltd 受信装置及び受信装置用プログラム
WO2015020043A1 (ja) 2013-08-06 2015-02-12 株式会社リコー 情報処理装置及び判定結果提供方法
WO2015129319A1 (ja) * 2014-02-26 2015-09-03 株式会社リコー 通信装置、通信システム、通信制御方法およびプログラム
JP2015233227A (ja) * 2014-06-10 2015-12-24 株式会社リコー 通信装置、通信システム、通信管理システム、通信制御方法およびプログラム
US9729867B2 (en) 2011-07-29 2017-08-08 Panasonic Intellectual Property Management Co., Ltd. Wireless communication terminal and communication control method

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4479650B2 (ja) * 2005-11-29 2010-06-09 ソニー株式会社 コミュニケーションシステム、端末装置及びコンピュータプログラム
US8237764B1 (en) * 2007-01-29 2012-08-07 Vsee Lab, Inc. Local video feedback for videoconferencing
US8555149B2 (en) 2008-03-26 2013-10-08 Ikanos Communications, Inc. Systems and methods for protecting DSL systems against impulse noise
JP4670902B2 (ja) * 2008-05-30 2011-04-13 ソニー株式会社 送信装置、送信方法および受信装置
US8413000B2 (en) * 2008-12-02 2013-04-02 Ikanos Communications, Inc. Retransmission above the gamma interface
US20110096137A1 (en) * 2009-10-27 2011-04-28 Mary Baker Audiovisual Feedback To Users Of Video Conferencing Applications
US9573053B2 (en) * 2011-09-30 2017-02-21 Bally Gaming, Inc. Augmented reality for table games

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0575988A (ja) * 1991-02-08 1993-03-26 Canon Inc 通信装置
JPH06339137A (ja) * 1993-05-31 1994-12-06 Nippon Telegr & Teleph Corp <Ntt> 映像パケット通信方式
JPH09214916A (ja) * 1996-02-05 1997-08-15 Nippon Telegr & Teleph Corp <Ntt> データ通信再送装置
JPH11112569A (ja) * 1997-10-07 1999-04-23 Matsushita Electric Ind Co Ltd データ転送システム
JP2000197024A (ja) * 1998-12-25 2000-07-14 Hitachi Ltd 音声画像通信装置
JP2003179580A (ja) * 2001-12-12 2003-06-27 Sony Corp データ通信システム、データ送信装置、データ受信装置、および方法、並びにコンピュータ・プログラム
JP2004120460A (ja) * 2002-09-27 2004-04-15 Hitachi Information Systems Ltd ビデオ会議システムとビデオ会議端末装置およびプログラム
JP2005033424A (ja) * 2003-07-10 2005-02-03 Mitsubishi Electric Corp 映像受信装置および映像送信装置
JP2005184580A (ja) * 2003-12-22 2005-07-07 Sony Corp 通信システム、情報処理装置および方法、並びに、プログラムおよび記録媒体
JP2006229456A (ja) * 2005-02-16 2006-08-31 Toshiba Corp Tv会議装置、プログラム及び方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07162830A (ja) * 1993-12-10 1995-06-23 Ricoh Co Ltd テレビ会議通信装置の制御方法
US5978514A (en) * 1994-11-10 1999-11-02 Kabushiki Kaisha Toshiba Image data coding and decoding system for efficiently compressing information using the shape and position of the image content
EP1439705A3 (en) * 1997-03-17 2011-09-14 Panasonic Corporation Method and apparatus for processing, transmitting and receiving dynamic image data
JP2001331614A (ja) * 2000-05-19 2001-11-30 Sony Corp ネットワーク会議システム及び議事録作成方法、会議管理サーバ及び議事録作成方法
JP2002175068A (ja) * 2000-09-22 2002-06-21 Canon Inc 画像表示システム、画像表示方法、記憶媒体及び画像表示装置
JP2005100084A (ja) * 2003-09-25 2005-04-14 Toshiba Corp 画像処理装置及び方法
JP2005210160A (ja) 2004-01-20 2005-08-04 Hitachi Communication Technologies Ltd 通信状態表示を有する映像受信端末
JP4479650B2 (ja) * 2005-11-29 2010-06-09 ソニー株式会社 コミュニケーションシステム、端末装置及びコンピュータプログラム
JP4760902B2 (ja) * 2008-12-17 2011-08-31 ソニー株式会社 情報処理装置および方法
KR20120076662A (ko) * 2010-12-09 2012-07-09 한국전자통신연구원 에너지 자원 관리장치 및 방법

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0575988A (ja) * 1991-02-08 1993-03-26 Canon Inc 通信装置
JPH06339137A (ja) * 1993-05-31 1994-12-06 Nippon Telegr & Teleph Corp <Ntt> 映像パケット通信方式
JPH09214916A (ja) * 1996-02-05 1997-08-15 Nippon Telegr & Teleph Corp <Ntt> データ通信再送装置
JPH11112569A (ja) * 1997-10-07 1999-04-23 Matsushita Electric Ind Co Ltd データ転送システム
JP2000197024A (ja) * 1998-12-25 2000-07-14 Hitachi Ltd 音声画像通信装置
JP2003179580A (ja) * 2001-12-12 2003-06-27 Sony Corp データ通信システム、データ送信装置、データ受信装置、および方法、並びにコンピュータ・プログラム
JP2004120460A (ja) * 2002-09-27 2004-04-15 Hitachi Information Systems Ltd ビデオ会議システムとビデオ会議端末装置およびプログラム
JP2005033424A (ja) * 2003-07-10 2005-02-03 Mitsubishi Electric Corp 映像受信装置および映像送信装置
JP2005184580A (ja) * 2003-12-22 2005-07-07 Sony Corp 通信システム、情報処理装置および方法、並びに、プログラムおよび記録媒体
JP2006229456A (ja) * 2005-02-16 2006-08-31 Toshiba Corp Tv会議装置、プログラム及び方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009003639A (ja) * 2007-06-20 2009-01-08 Victor Co Of Japan Ltd クライアント装置、データ処理方法およびそのプログラム
JP2010081016A (ja) * 2008-09-24 2010-04-08 Fuji Xerox Co Ltd 画像送信装置、画像送信プログラム、及び画像通信システム
JP2012511855A (ja) * 2008-12-10 2012-05-24 アルカテル−ルーセント テレビ会議による通信のための方法および装置
JP2011120168A (ja) * 2009-12-07 2011-06-16 Kyocera Corp 通信装置
WO2011161874A1 (ja) 2010-06-23 2011-12-29 三菱電機株式会社 映像再現システム
US9729867B2 (en) 2011-07-29 2017-08-08 Panasonic Intellectual Property Management Co., Ltd. Wireless communication terminal and communication control method
JP2014003371A (ja) * 2012-06-15 2014-01-09 Samsung Electronics Co Ltd 受信装置及び受信装置用プログラム
WO2015020043A1 (ja) 2013-08-06 2015-02-12 株式会社リコー 情報処理装置及び判定結果提供方法
US9742815B2 (en) 2013-08-06 2017-08-22 Ricoh Company, Ltd. Information processing apparatus and determination result providing method
WO2015129319A1 (ja) * 2014-02-26 2015-09-03 株式会社リコー 通信装置、通信システム、通信制御方法およびプログラム
JPWO2015129319A1 (ja) * 2014-02-26 2017-03-30 株式会社リコー 通信装置、通信システム、通信制御方法およびプログラム
JP2015233227A (ja) * 2014-06-10 2015-12-24 株式会社リコー 通信装置、通信システム、通信管理システム、通信制御方法およびプログラム

Also Published As

Publication number Publication date
US20070120958A1 (en) 2007-05-31
US8681197B2 (en) 2014-03-25
CN1976433A (zh) 2007-06-06
JP4479650B2 (ja) 2010-06-09
CN100568947C (zh) 2009-12-09

Similar Documents

Publication Publication Date Title
JP4479650B2 (ja) コミュニケーションシステム、端末装置及びコンピュータプログラム
CN107231328B (zh) 实时视频传输方法、装置、设备及系统
JP5455648B2 (ja) ビデオ通信システムに於けるエラー耐性の向上したシステム及びその方法
US20080100694A1 (en) Distributed caching for multimedia conference calls
JP4753204B2 (ja) 符号化処理装置および符号化処理方法
US8988486B2 (en) Adaptive video communication channel
JP3931595B2 (ja) データ修正装置及びデータ修正方法
US8711929B2 (en) Network-based dynamic encoding
JP4670902B2 (ja) 送信装置、送信方法および受信装置
US7667729B2 (en) Multi-point conference system and multi-point conference device
US8214708B2 (en) Video transmitting apparatus, video receiving apparatus, and video transmission system
US8607286B2 (en) Method, equipment and system for reducing media delay
WO2013113281A1 (zh) 传输多媒体数据的方法、装置及系统
US20120170523A1 (en) Scalable video sender over multiple links
JP2010074366A (ja) 送信装置、受信装置、及び方法、プログラム
JP2018117259A (ja) オーディオビデオ同期取込によって一対多オーディオビデオストリーミングを行う方法
US20060005101A1 (en) System and method for providing error recovery for streaming fgs encoded video over an ip network
JP4358129B2 (ja) Tv会議装置、プログラム及び方法
JP2005322995A (ja) リアルタイム映像転送におけるバッファ制御方法、送信端末、受信端末、映像配信システム、およびプログラム
US11265583B2 (en) Long-term reference for error recovery in video conferencing system
KR20010067698A (ko) 아이.엠.티.-이천망을 이용한 무선 원격 멀티미디어멀티캐스팅 서비스 제공방법
CN115102927B (zh) 一种保持视频清晰的sip对讲方法、系统、存储装置
EP4319176A1 (en) Method for transmitting streaming media data and related device
Xu A high performance audiovisual communication system
JP2006067410A (ja) 送信装置および方法、プログラム、並びに送受信システム

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20081222

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20081225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090825

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091015

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100223

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100308

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130326

Year of fee payment: 3