JP4602632B2 - ビデオ会議の方法とシステム - Google Patents

ビデオ会議の方法とシステム Download PDF

Info

Publication number
JP4602632B2
JP4602632B2 JP2001581534A JP2001581534A JP4602632B2 JP 4602632 B2 JP4602632 B2 JP 4602632B2 JP 2001581534 A JP2001581534 A JP 2001581534A JP 2001581534 A JP2001581534 A JP 2001581534A JP 4602632 B2 JP4602632 B2 JP 4602632B2
Authority
JP
Japan
Prior art keywords
subscriber
data
image
image data
communication unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2001581534A
Other languages
English (en)
Other versions
JP2003533098A (ja
Inventor
ラウパー,エリック
ヘルマン,ビート
Original Assignee
スイスコム モービル アーゲー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by スイスコム モービル アーゲー filed Critical スイスコム モービル アーゲー
Publication of JP2003533098A publication Critical patent/JP2003533098A/ja
Application granted granted Critical
Publication of JP4602632B2 publication Critical patent/JP4602632B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Telephonic Communication Services (AREA)
  • Glass Compositions (AREA)

Description

【0001】
本発明は、互いに通信する少なくとも3つの別個のビデオ会議加入者ステーションを有し、少なくとも加入者画像データおよび/または加入者音声データを含むマルチメディアデータが通信ネットワークを介して伝送され、かつ各加入者は例えばディスプレイまたはVRD(仮想網枠ディスプレイ)のような再生装置に同時に視認可能であるようにアレンジされて表示された別の加入者の加入者画像データを受像するビデオ会議方法とシステムとに関する。本発明は特に、少なくとも一部が移動無線通信網からなる通信ネットワークを介して通信する方法とシステムに関する。
【0002】
ビデオ装置およびテレビ装置を介してビデオ画像を迅速に伝送し、受信し、表示することは公知である。充分に良好なカラー画質およびグレースケール画質の場合、画像の解像度は通常は少なくとも10x6ppi(インチ当たりの画素)である。画像情報全体を伝送するには数メガヘルツもの伝送チャネル最小帯域幅が条件となる。しかし、このようなシステムのコストは、営業用および個人用に使用するためのビデオ会議システムのような用途の場合はずっと高い。ビデオ画像を伝送するために例えば公衆通信ネットワークのような帯域幅がより狭い媒体を使用することは公知である。しかし、このような媒体の伝送速度は相応に低い。「低速スキャン」ビデオシステムのような特殊な用途には、このような限定された帯域幅でも実際には充分である。その例としては高い画像繰り返し速度もしくは高い解像度を必要としない安全システム、および監視システムがある。このようなシステムは一般的には画像全体の解像度は128x128画素であり、わずか16階調のカラーグラデーションもしくはグレースケールが用いられる。しかし、ビデオ会議では一般的であるような、例えば640x480画素(欧州規格:620x576画素、8ビットの色の深み)および64段階の色の深みを有するより高い画質のビデオ画像はこのシステムでは伝送できない。通常のビデオ画像はグレースケール画像の場合約200万ビットの、すなわち約250キロバイトの情報を必要とする。カラ画像ではデータ量は750キロバイトにまで増大する。公衆交換電話ネットワーク(PSTN:公衆交換電話網)のデータ伝送速度は今日では標準的には、アナログ領域では1回線当たり57’000bps(ビット/秒)(これはディジタル・データの場合はボーに相当する)であり、ISDNの場合は64’000bpsであるので、充分に高い画質の完全なビデオ画像を転送するためには約30秒ないし90秒を要する。それはほとんどのビデオ会議の用途には極めて遅すぎる。このような理由から、転送時間を短縮するには、様々なデータ圧縮アルゴリズムによって未処理のディジタル・ビデオデータが圧縮される。しかし、圧縮率が1/20ないし1/50である極めて優れた圧縮および解凍アルゴリズムでも、ビデオ会議の用途には不充分である場合が多い。その上、通常の場合、圧縮と解凍には時間がかかり、相当の電力と演算処理出力を要する。例えば移動通信領域では、まさに後者の要因も決定的に重要になることがある。その際に考慮されるべきは、移動通信領域ではPSTNネットワークの場合とは異なり、最大の伝送速度を可能にする接続性能は必ずしも得られないことである。更に、可能な最高伝送速度よりも低い場合は、それに応じて伝送時間も増加する。更にデータ圧縮するため、撮影された画像の特定の部分だけをより高い解像度で伝送し、その他の全ての画像部分をより低い解像度で伝送することを提案した多くの文献が先行技術にはある。米国特許明細書第5703637号および米国特許明細書第4513317号は、アイトラッキング・システムを採用して眼球または網膜の動きを記録し、より高い解像度で画像の小部分だけを表示するためにこの情報を利用する例である。これらのシステムは網膜の小部分(窩と呼ばれる)の解像度だけが高く、一方、その他の大部分の解像度は低いという人間の眼の特性を利用している。しかし、この先行技術には多くの欠点があり、特に、画像を表示できるためには全ての加入者が同じビデオ規格を採用しなければならないという欠点がある。しかしながら、ビデオ会議システムはビデオ規格には左右されないことが望ましい。更に、解像度が高い窩の視角は僅か2°である。このことは脳によって、眼の自然ではあるが不可避の絶え間ないスキャン運動によって補償される。その結果、視線方向と高解像度の画像部分がいかに良好に一致しても、ユーザには視線の中心の画像部分の鮮鋭度は低く、画像がぼやけて見える。現在の技術水準では、このような欠点を補償することは仮に可能であったとしても高いコストがかかる。
【0003】
本発明の目的は、上記の欠点がないビデオ会議用の新規の方法とシステムを提供することにある。特にビデオ会議の加入者画像データをより高い圧縮度で転送できるようにする必要がある。
【0004】
本発明によって、上記の目的は特に独立クレームの要素によって達成される。その他の有利な実施形態は特に従属クレームおよび発明の説明によって明らかにされる。
【0005】
上記の目的は本発明によって特に、少なくとも3人の加入者がビデオ会議システムのビデオ会議加入者ステーションを介して互いに通信し、マルチメディアデータが少なくとも加入者画像データおよび/または加入者音声データを含む通信ネットワークを介して伝送され、各々の加入者が当該の前記ビデオ会議加入者ステーションの再生装置、例えばディスプレイで同時に視認できるようにアレンジして表示された別の加入者の加入者画像データを受像し、加入者の視線方向がそれぞれアイトラッキング・システムによって記録され、少なくとも視線方向の情報を含むアイトラッキング・データが当該の前記ビデオ会議加入者ステーションの通信ユニットに伝送されると共に、ビデオ会議加入者ステーションの前記再生装置に前記ビデオ会議加入者ステーションの加入者の瞬間的な視線方向で加入者画像データが表示される加入者の加入者画像データが、通信ネットワークを介して前記ビデオ会議加入者ステーションの前記通信ユニットに最高の解像度と画像伝送速度でそれぞれ転送され、一方、残りの加入者の加入者画像データは低減された解像度および/または低減された画像伝送速度で転送されることによって達成される。本発明の利点は、先行技術のようにサブフレームへの複雑な分割を行わずに加入者の加入者画像データが低減された解像度、または最高の解像度で転送されるので、加入者画像データの縮小、すなわち圧縮は採用されるビデオ規格に左右されないことにある。それによって、例えばビデオ会議ステーションの個々のビデオ画像が保たれる。この方法が簡単であることで、演算処理出力の消費も最小限に抑えられ、これは電力の蓄積に制約がある移動無線機器では特に重要である。本発明の場合は通常、スキャン運動は認識されるオブジェクトに関連するので、(例えば米国特許明細書第4513317号のように)窩のスキャン運動を補整しなければならないという先行技術の欠点はなくなる。周囲が鮮明ではなく、中心点が鮮明であるという印象はなくなる。例えばビデオ会議の加入者のような完全に論理的なオブジェクトは鮮明に視認される。視線が次の論理的なユニット、すなわち別の加入者の加入者画像データに移行すると、これも完全に鮮明に認識される。
【0006】
一実施形態では、加入者の瞬間的な視線方向で表示されない加入者画像データの画像伝送速度はゼロに等しく設定される。この実施形態の利点は、ネットワークの負荷を最小限に抑えられることにある。同時に、例えば加入者画像データを解凍するために用いられる必要な演算処理出力は最小限になる。
【0007】
別の実施形態では、アイトラッキング・データ並びに加入者画像データが中央処理ユニットに転送され、各加入者用の中央処理ユニットは当該の加入者のアイトラッキング・データの情報に基づいて、他の加入者の加入者画像データの解像度および/または画像伝送速度を決定し、かつ加入者画像データをこの解像度および/または画像伝送速度で当該の前記加入者の通信ユニットに伝送する。この実施形態の利点は特に、加入者数が多い場合、ネットワークの負荷が少なくて済むことにある。加入者画像データを中央処理ユニットで縮小することによって、例えば個々のビデオ会議加入者ステーションの演算処理出力も別の方法と比較して少なくて済む。
【0008】
別の実施形態では、加入者画像データが中央処理ユニットに転送され、中央処理ユニットのデータメモリに記憶され(データの記憶もしくはバッファへの格納は例えばデータバッファ、データストリーム、データバンクを介して、またはその他の方法で実施できる)、加入者の通信ユニットは当該加入者のアイトラッキング・データの情報に基づいて、他の加入者の加入者画像データの解像度および/または画像伝送速度を決定し、かつこの加入者画像データは中央処理ユニットから前記の解像度および/または画像伝送速度で当該の加入者の通信ユニットに転送される。この実施形態には前述の実施形態と同じ利点があるが、通信ユニットはこれによって決定された解像度および画像伝送速度で加入者画像データに直接アクセスするので、表示されるべき個々の加入者のビデオ画像の演算処理のために中央処理ユニットの演算処理出力は必要条件ではない。アイトラッキング・データをネットワークを介して転送する必要がないことが別の利点である。
【0009】
一実施形態では、加入者の加入者画像データが前記加入者の通信ユニットのデータメモリにそれぞれ記憶され、通信ユニットがこの加入者のアイトラッキング・データの情報に基づいて他の加入者の加入者画像データの解像度および/または画像伝送速度を決定し、前記の加入者画像データが他の加入者の通信ユニットから前記の解像度および/または画像伝送速度で当該の加入者の通信ユニットに転送される。この実施形態の利点は特に、中央処理ユニットがなくても済むことにある。通信ネットワークの加入者は、ビデオ会議加入者ステーション以外の別のユニットを必要とせずに通信ネットワークを介して直接接続できる。
【0010】
別の実施形態では、少なくとも1つのビデオ会議加入者ステーションが移動無線通信ネットワークを介して通信ネットワークと接続される。通信ネットワークには例えばLAN(ローカルエリアネットワーク)、またはWAN(ワイドエリアネットワーク)のような固定通信網、公衆交換電話回線網(PSTN:パブリック・スイッチト・テレフォン・ネットワーク)および/またはISDN(総合サービスディジタル通信網)、インターネット、またはその他の通信ネットワーク、特に移動無線通信ネットワークを含めることができる。
【0011】
別の実施形態では、通信ユニットは低減された解像度で転送された加入者画像データを表示するために、画像分析および画像形状解凍アルゴリズムを使用する。この実施形態の利点は、転送された画像の解像度が低減されるにも関わらず画像が形状解凍アルゴリズムの画像合成によって再生可能であり、転送された画像よりも高い解像度で表示されることが可能であることにある。
【0012】
ここで、本発明は、本発明による方法の他に、この方法を実施するシステムにも関するものであることを確認しておく。
【0013】
次に本発明のその他の実施形態を例に基づいて説明する。例については添付の第1図面によって説明する。
【0014】
図1は本発明を実施するために利用できるアーキテクチャを示している。この実施例では少なくとも3つの別個のビデオ会議加入者ステーション11が互いに通信し、マルチメディアデータが、少なくとも加入者画像データ22および/または加入者音声データ21を含む通信ネットワーク40を介して伝送され、各々の加入者10が当該のビデオ会議加入者ステーション11の再生装置24で同時に視認できるようにアレンジして表示された別の加入者の加入者画像データを受像する。再生装置24は例えばディスプレイ、またはVRD(仮想網膜ディスプレイ)でよい。通信ネットワーク40は例えば、LAN(ローカルエリアネットワーク)、またはWAN(ワイドエリアネットワーク)のような固定通信網、公衆交換電話回線網(PSTN:パブリック・スイッチト・テレフォン・ネットワーク)および/またはISDN(総合サービスディジタル通信網)、インターネット、パッケット通信ネットワーク、またはその他の通信ネットワーク、特に移動無線通信ネットワークを含めることができる。移動無線通信ネットワークは例えばGSM、UMTS、またはその他の移動無線通信ネットワークでよい。移動無線通信ネットワーク40を介した通信は例えばGPRS(汎用パケット無線システム)、WAP(ワイアレス・アプリケーション・プロトコル)、またはUMTS(ユニバーサル移動電話システム)のようなプロトコルを介して行われる。加入者画像データの取り込みは画像データ入力モジュール22を介して行われ、または加入者音声データの取り込みは音声データ入力モジュール21を介して行われる。画像データ入力モジュール22には例えばビデオカメラ、例えばMEMS(マイクロエレクトロメカニック・システム)をベースにした走査ユニット、またはディジタルカメラを含めることができる。加入者画像データの例にはビデオ画像、テキスト、表、ディアス、グラフィックなどがある。音声データ入力モジュール21には例えば1つ、または複数のマイクロフォン、CD−ROMプレーヤ、またはその他の音声入力装置を含めることができる。アイトラッキング・システム23はそれぞれの加入者10の視線を記録し、少なくとも視線方向の情報を含むアイトラッキング・データを当該の前記ビデオ会議加入者ステーション11(すなわちそれぞれの加入者のビデオ会議加入者ステーション)の通信ユニット20に伝送する。アイトラッキング・システム23には例えば、眼底と角膜で反射する2つの平行な光線の反射率の差によって加入者10の視線方向を判定するプルキンエ画像をベースにしたシステムを含めることができ、または例えばレーザ光線と比較光線とを介して眼底を走査して、加入者10の視線方向を判定するレーザ・スキャナーをベースにしたシステムでもよく、または例えばWO94/09472号に記載のアイトラッキング・システムのような加入者10視線方向を判定するための他のシステムでもよい。加入者画像データと加入者音声データは通信ユニット20から中央処理ユニット30に転送される。転送は例えば圧縮、および/またはコード化して行うことができる。中央ユニット30はデータを受信し、解凍および/またはデコードするコード化ユニット31を有している。圧縮には、例えばホフマン・コーディング、3:2プルダウンなどのような先行技術の様々なアルゴリズム、または例えば国際標準化機構(ISO)のMPEG(Moving Picture Expert Group)のような圧縮標準規格を使用することができる。中央処理ユニット30から通信ユニット20にデータを転送する際に、コード化モジュール31は転送のためのデータの圧縮および/またはコード化をも行う。通信ユニット20はデータの圧縮/解凍、並びにコード化/デコードをも行うコード化モジュール26をも有している。例えば、画像データ入力モジュール22のビデオカメラはアナログ・ビデオ信号を生成する。コード化スイッチ279は通信ユニット20によって、データストリームが圧縮およびコード化システム271を介して送られるように調整される。入力プロセッサ273は例えば25fps(フレーム/秒)のPAL信号、または29.97fpsのNTSC信号を受信し、未処理のディジタル・ビデオ信号を生成するためにアナログ・ビデオ信号をディジタル化し、かつフィルタリングする。例えばディジタル画像データの取り込みの場合は、この手順は省かれる。PAL信号の25フレームは50のフィールド、すなわち50フィールド/秒に相当し、一方、NTSC信号の29.97フレームは59.94フィールド、すなわち59.94フィールド/秒に相当する。ビデオデータ・アナライザ274は例えばVSync信号、フィールド同期信号を伴うディジタル・ビデオ信号を入力プロゼンサ273から受像し、圧縮モジュール275のための修正されたビデオ信号を生成する。信号の修正はリアルタイムで行われ、後に最適に圧縮できる出力信号を生成する。ビデオデータ・アナライザ274は特に、例えばビデオ信号の冗長なフィールド、もしくはフレームを除去し、例えば動き補償予測、または例えばMPEGフォーマットでも採用されている離散的コサイン変換(DCT)のために必要な情報を生成する。画像分析、および形状解凍アルゴリズムが用いられる場合は、これもビデオデータ・アナライザによって実施されることができる。それには特に、例えば特徴点モデリングのような顔面分析、および顔面合成技術が含まれる。その際に、できるだけ一般的な所定のモデル(例えば顔のモデル)からいわゆる特徴点が定義され、この特徴点のベクトルがモデルの形状、軌跡、モデルの動きを記述し、またこのベクトルのベクトル空間がモデルの動きの可能性を記述する。当初の一般的なモデルの変形は例えば、DFFD方式(ディリクレ自由形状変形)で演算可能である。顔面の合成、並びに顔のアニメーションは例えばMPEG−4標準規格で実施することができる。ディジタル・ビデオデータの修正は最終的に圧縮モジュール275によって圧縮され、必要ならばコード化される。圧縮されたディジタル・ビデオ信号は通信ユニット20から通信ネットワーク40を介して転送される。通信ユニット20のコード化モジュール27は通信ネットワーク40を介して通信ユニット20に転送されたデータのデコード、および解凍にも利用できる。この場合はコード化スイッチ279は通信ユニット20によって、解凍およびデコードシステム272の機能が起動するように設定される。デコート・モジュール276は通信ユニット20からのビデオデータを受け、これを解凍して、必要ならばデコードする。形状解凍アルゴリズムが利用された場合は、出力プロセッサ277は画像合成を行い、表示されるビデオ画像の演算処理を行い、これをビデオ信号として例えばスクリーンカードのような再生モジュール278、または例えば特許明細書WO94/09472号に記載のVRD表示装置のようなVRD(仮想網膜ディスプレイ)に返信する。転送される加入者画像データのデータ転送は例えば、ソフトウェアまたはハードウェアで実施される中央処理ユニット30または通信ユニット20の転送モジュールに送られて実行される。加入者画像データおよび加入者音声データは中央処理ユニットのデータメモリ32に記憶される。データのバッファ格納、もしくは記憶はデータストリーム、データバッファ、データバンクまたはその他の方法で行うことができる。最後に述べたビデオ会議加入者ステーション11の再生装置24に当該の加入者10(すなわち、その視線がビデオ会議加入者ステーションのアイトラッキング・システムに記録された加入者10)の瞬間的な視線方向で加入者画像データが表示される加入者の加入者画像データが、通信ネットワーク40を介してビデオ会議加入者ステーション11の通信ユニット20に最高の解像度と画像伝送速度でそれぞれ転送され、一方、残りの加入者の加入者画像データは低減された解像度および/または低減された画像伝送速度で転送される。図1の実施例では、通信ユニット20は加入者の加入者画像データを中央処理ユニット30に転送し、そこで加入者画像データは前記中央処理ユニット30のデータメモリ32に記憶される。例えば、それぞれの通信ユニット20のアイトラッキング・データを同時に転送することが可能である。アイトラッキング・データは例えば、視線方向の方向情報、視線方向で表示された加入者画像データの情報などでよい。この場合は、中央処理ユニット30は各加入者10ごとに当該加入者10の視線方向に関するアイトラットング・データの情報に基づいて、他の加入者の加入者画像データの解像度および/または画像伝送速度を決定し、前記加入者画像データをこの解像度および/または画像伝送速度で当該加入者10の通信ユニット20に転送する。中央処理ユニット30のコード化モジュール31は加入者画像データの解像度の低減をも行う。マルチメディア・データの低減は必ずしも加入者画像データに限定されるものではなく、(例えばMP3−規格を有する)例えば加入者音声データのような、視線方向で選択されたチャネルの他のマルチメディー・データにも関するものである。別の可能性としては、アイトラッキング・データが通信ユニット20から中央処理ユニット30に転送されるのではなく、単に加入者画像データデータだけが転送されてもよい。中央処理ユニット30は最高の解像度と低減された解像度の加入者画像データをデータメモリ32に記憶する。その場合は、通信ユニット20はそのアイトラッキング・データに基づいて、中央処理ユニット30内の対応する解像度および/または画像伝送速度で他の加入者10の加入者画像データにアクセスすることができる。要求された加入者画像データは中央処理ユニット30から通信ネットワーク40を介して対応する通信ユニット20に転送される。
【0015】
図2は本発明を実施するために利用できるアーキテクチャを示している。この実施例では少なくとも3つの別個のビデオ会議加入者ステーション11が互いに通信し、マルチメディアデータが、少なくとも加入者画像データ22および/または加入者音声データ21を含む通信ネットワーク40を介して伝送され、各々の加入者10が当該のビデオ会議加入者ステーション11の再生装置24で同時に視認できるようにアレンジして表示された別の加入者の加入者画像データを受像する。再生装置24は例えばディスプレイ、またはVRD(仮想網膜ディスプレイ)でよい。前述の実施例と同様に、通信ネットワーク40は例えば、LAN(ローカルエリアネットワーク)、またはWAN(ワイドエリアネットワーク)のような固定通信網、公衆交換電話回線網(PSTN:パブリック・スイッチト・テレフォン・ネットワーク)および/またはISDN(総合サービスディジタル通信網)、インターネット、またはその他の通信ネットワーク、特に移動無線通信ネットワークを含めることができる。加入者画像データの取り込みは画像データ入力モジュール22を介して行われ、または加入者音声データの取り込みは音声データ入力モジュール21を介して行われる。画像データ入力モジュール22には例えばビデオカメラ、走査ユニット、またはディジタルカメラを含めることができる。加入者画像データの例にはビデオ画像、走査された写真、表、テキスト、グラフィックなどがある。音声データ入力モジュール21には例えば1つ、または複数のマイクロフォン、CR−ROMプレーヤ、またはその他の音声入力装置を含めることができる。アイトラッキング・システム23はそれぞれの加入者10の視線を記録し、少なくとも視線方向の情報を含むアイトラッキング・データを当該の前記ビデオ会議加入者ステーション11の通信ユニット20に転送する。例えば、前述の実施例で記載したようなアイトラッキング・システム23を使用することができる。最後に述べたビデオ会議加入者ステーション11の再生装置24に当該の加入者10(すなわち、その視線がビデオ会議加入者ステーションのアイトラッキング・システムに記録された加入者10)の瞬間的な視線方向で加入者画像データが表示される加入者の加入者画像データが、通信ネットワーク40を介してビデオ会議加入者ステーション11の通信ユニット20に最高の解像度と画像伝送速度でそれぞれ転送され、一方、残りの加入者の加入者画像データは低減された解像度および/または低減された画像伝送速度で転送される。マルチメディア・データの低減は必ずしも加入者画像データに限定されるものではなく、(例えばMP3−規格を有する)例えば加入者音声データのような、視線方向で選択されたチャネルの他のマルチメディア・データにも関するものである。この実施例では、加入者画像データおよび加入者音声データは中央処理ユニット30に転送されるのではなく、それぞれの通信ユニット20のデータメモリ26に記憶される。データのバッファ格納、もしくは記憶はデータストリーム、データバッファ、データバンクまたはその他の方法で行うことができる。通信ユニット20は当該の加入者10の視線方向に関するアイトラッキング・データに関する情報に基づいて、再生装置24に表示される加入者画像データの解像度および/または画像伝送速度を決定し、別の加入者の通信ユニットにこれらの加入者画像データを要求する。要求された加入者画像データは別の加入者の通信ユニット20から前記の解像度および/または画像伝送速度で当該の加入者10の通信ユニットに転送される。この実施例は前述の実施例の場合と同様の機能性を有するコード化モジュール27を有している。そのため、例えば圧縮/解凍、コード化/デコード、および/または前述のような形状解凍アルゴリズムによる画像合成がコード化モジュール27内で実行される。更に、コード化モジュール27は、必要な場合は例えばアナログ・ビデオデータのディジタル・ビデオデータへの変換、およびその逆の変換を行う。
【0016】
双方の実施例とも、加入者10の視線方向で再生装置24に表示されない加入者画像データの画像伝送速度をゼロに等しく設定することができる。そこで加入者は再生装置24で瞬間的に注視されている加入者画像データだけを動画表示で受像し、一方、その他の加入者画像データは例えば静止画像で表示される。静止画像には例えば、最後に加入者10の瞬間的な視線方向で再生装置24に表示された時に転送された加入者画像データを含めることができる。更に、例えば前記の画像データの代わりに何らかの別の画像データを、例えば加入者画像データの合成された簡単な複製を静止画像として表示することも可能である。(最高の解像度で転送されるだけではなく低減された解像度でも転送される)加入者画像データの表示の別の可能性としては、加入者画像データのオブジェクトの動き、すなわち加入者の口の動きを完全に合成して、すなわち形状解凍およびアニメーション・アルゴリズムとして表示することである。その場合は例えば、加入者の画像だけを転送し、その後で動きをシミュレートするだけで充分である。この実施形態では、例えば動き補償予測によって画像伝送速度を変更することも考えられる。したがって例えば、動きが比較的大きい場合は画像伝送速度を高め、完全にアニメ化された動きの画像部分が除去され、一方、動きが小さい場合には画像伝送速度を低くし、動きは加入者画像データ内に合成される。
【図面の簡単な説明】
【図1】 通信ユニット20がビデオ会議加入者ステーションから中央処理ユニット30を介して加入者画像データおよび加入者音声データにアクセスする、ビデオ会議システムの実施形態を概略的に図示したブロック図である。
【図2】 通信ユニット20がビデオ会議加入者ステーションから別の通信ユニット20のデータメモリ26を介して加入者画像データおよび加入者音声データにアクセスする、ビデオ会議システムの別の実施形態を概略的に図示したブロック図である。
【図3】 コード化モジュール27が特に圧縮機能および解凍機能、並びにコード化機能およびデコード機能を含む、コード化モジュール27の実施形態のステップを概略的に示したフローチャートである。

Claims (16)

  1. 少なくとも3人の加入者がビデオ会議システムのビデオ会議加入者ステーション(11)を介して互いに通信し、マルチメディア・データが少なくとも加入者画像データ(22)及び/又は加入者音声データ(21)を含む通信ネットワーク(40)を介して伝送され、各々の加入者(10)が当該の前記ビデオ会議加入者ステーション(11)の再生装置(24)の1つの画面上に同時に視認できるようにアレンジして表示された別の加入者の加入者画像データを受像するビデオ会議方法であって、
    加入者(10)の視線方向がそれぞれアイトラッキング・システム(23)によって記録され、少なくとも視線方向の情報を含むアイトラッキング・データが当該の前記ビデオ会議加入者ステーション(11)の通信ユニット(20)に伝送されると共に、
    その加入者画像データが、ビデオ会議加入者ステーション(11)の加入者(10)の瞬間的な視線方向において識別されるオブジェクトと関連すると共にビデオ会議加入者ステーション(11)の再生装置(24)に表示される当該加入者の加入者画像データが、通信ネットワーク(40)を介して前記ビデオ会議加入者ステーション(11)の前記通信ユニット(20)に最高の解像度と画像伝送速度で転送され、一方、残りの加入者の加入者画像データは低減された解像度及び/又は低減された画像伝送速度で転送されることを特徴とするビデオ会議方法。
  2. 請求項1に記載の方法において、該アイトラッキング・システム(23)は、眼底と角膜で反射する2つの平行な光線の反射率の差によって加入者(10)の視線方向を判定するプルキンエ画像をベースにしたシステム、及びレーザ光線と比較光線とに基づいて眼底を走査して、加入者(10)の視線方向を判定するレーザ・スキャナーをベースにしたシステムを含む方法。
  3. 請求項1又は2の何れか1項に記載の方法において、前記加入者(10)の瞬間的な視線方向において識別されるべき該オブジェクトと関連しない加入者画像データの画像伝送速度はゼロに等しいことを特徴とする方法。
  4. 請求項1乃至3の何れか1項に記載の方法において、前記アイトラッキング・データ並びに前記加入者画像データが中央処理ユニット(30)に転送され、各加入者(10)用の前記中央処理ユニット(30)は当該の前記加入者(10)のアイトラッキング・データの情報に基づいて、他の加入者の加入者画像データの解像度及び/又は画像伝送速度を決定し、かつ前記加入者画像データを前記の解像度及び/又は画像伝送速度で当該の前記加入者(10)の前記通信ユニット(20)に伝送することを特徴とする方法。
  5. 請求項1乃至3の何れか1項に記載の方法において、前記加入者画像データが前記中央処理ユニット(30)に伝送され、かつ該中央処理ユニット(30)のデータメモリ(32)に記憶され、加入者(10)の前記通信ユニット(20)が当該の前記加入者(10)のアイトラッキング・データの情報に基づいて他の加入者の加入者画像データの解像度及び/又は画像伝送速度を決定すると共に、前記加入者画像データが前記中央処理装置(30)から前記の解像度及び/又は画像伝送速度で当該の前記加入者(10)の前記通信ユニット(20)に転送されることを特徴とする方法。
  6. 請求項1乃至3の何れか1項に記載の方法において、加入者(10)の前記加入者画像データは前記加入者(10)の前記通信ユニット(20)のデータメモリ(26)に記憶され、かつ前記通信ユニット(20)は前記加入者(10)の前記アイトラッキング・データの情報に基づいて他の加入者の加入者画像データの前記解像度及び/又は画像伝送速度を決定し、該加入者画像データは前記他の加入者の前記通信ユニットから前記の解像度及び/又は画像伝送速度で当該の前記加入者(10)の前記通信ユニット(20)に転送されることを特徴とする方法。
  7. 請求項1乃至6の何れか1項に記載の方法において、少なくとも1つのビデオ会議加入者ステーション(11)は移動無線通信網(40)を介して前記通信ネットワーク(40)に接続されることを特徴とする方法。
  8. 請求項1乃至7の何れか1項に記載の方法において、前記通信ユニット(20)は、低減された解像度で転送された前記加入者画像データを表示するために、画像分析及び画像形状解凍アルゴリズムを使用し、該画像分析及び画像形状解凍アルゴリズムは、特徴点のベクトルがモデルの形状を記述し、軌跡が、モデルの動きを記述し、特徴点のベクトルのベクトル空間が、モデルの動きの可能性を記述する特徴点モデリング等の顔面分析及び顔面合成技術を含むことを特徴とする方法。
  9. 通信ネットワーク(40)を介して互いに接続された少なくとも3つの別個のビデオ会議加入者ステーション(11)を含んでいて、該ビデオ会議加入者ステーション(11)は通信ユニット(20)と、加入者画像データを1つの画面上で同時に視認できるように再生するための再生装置(24)と、加入者音声データを再生するための音声出力モジュール(25)、及び加入者画像データを取り込むための画像データ取り込みモジュール(22)と、加入者音声データを取り込むための音声データ取り込みモジュール(21)とを含むビデオ会議システムであって、
    前記ビデオ会議加入者ステーション(11)は、当該の前記加入者(10)の視線方向を記録し、かつアイトラッキング・データを前記通信ユニット(20)に伝送するためのアイトラッキング・システム(23)を含んでおり、前記アイトラッキング・データは少なくとも前記加入者(10)の前記視線方向に関する情報を含むと共に、
    前記ビデオ会議システムは、その加入者画像データが、ビデオ会議加入者ステーション(11)の加入者(10)の瞬間的な視線方向において識別されるオブジェクトと関連すると共にビデオ会議加入者ステーション(11)の再生装置(24)に表示される当該加入者の加入者画像データが、前記通信ネットワーク(40)を介して前記ビデオ会議加入者ステーション(11)の前記通信ユニット(20)に最高の解像度と画像伝送速度でそれぞれ転送され、かつ、残りの加入者の加入者画像データは低減された解像度及び/又は低減された画像伝送速度で転送される手段を含むことを特徴とするビデオ会議システム。
  10. 請求項9に記載のシステムにおいて、該アイトラッキング・システム(23)は、眼底と角膜で反射する2つの平行な光線の反射率の差によって加入者(10)の視線方向を判定するプルキンエ画像をベースにしたシステム、及びレーザ光線と比較光線とに基づいて眼底を走査して、加入者(10)の視線方向を判定するレーザ・スキャナーをベースにしたシステムを含むシステム。
  11. 請求項9及び10の何れか1項に記載のシステムにおいて、前記加入者(10)の瞬間的な視線方向において識別されるべき該オブジェクトと関連しない加入者画像データの画像伝送速度はゼロに等しいことを特徴とするシステム。
  12. 請求項9乃至11の何れか1項に記載のシステムにおいて、前記ビデオ会議システムは中央処理ユニット(30)を含み、該中央処理ユニット(30)は各々の加入者ごとに、当該の前記加入者(10)の前記アイトラッキング・データの情報に基づいて他の加入者の加入者画像データの解像度及び/又は画像伝送速度を決定し、前記加入者画像データを前記解像度及び/又は画像伝送速度で当該の前記加入者(10)の前記通信ユニット(20)に転送することを特徴とするシステム。
  13. 請求項9乃至11の何れか1項に記載のシステムにおいて、前記ビデオ会議システムはデータメモリ(32)を有する中央処理ユニット(30)を含み、前記データメモリ(32)カラー前記加入者の前記加入者画像データを当該の前記加入者(10)の前記アイトラッキング・データの情報に基づいて最高の、又は低減された解像度で、並びに最高の又は低減された画像伝送速度で前記通信ユニットからダウンロード可能であることを特徴とするシステム。
  14. 請求項9乃至11の何れか1項に記載のシステムにおいて、加入者(10)の前記通信ユニット(20)はデータメモリ(26)を含み、該データメモリ(26)カラー当該の前記加入者(10)の前記加入者画像データを当該の前記加入者の前記アイトラッキング・データの情報に基づいて最高の、又は低減された解像度で、及び/又は最高の又は低減された画像伝送速度で前記通信ユニット(20)からダウンロード可能であることを特徴とするシステム。
  15. 請求項9乃至14の何れか1項に記載のシステムにおいて、前記通信ネットワーク(40)が移動無線通信網を含むことを特徴とするシステム。
  16. 請求項9乃至15の何れか1項に記載のシステムにおいて、前記通信ユニット(20)は画像分析及び画像形状解凍アルゴリズムを使用して、低減された解像度で転送された前記加入者画像データを解凍する画像解凍モジュールを含み、該画像分析及び画像形状解凍アルゴリズムは、特徴点のベクトルがモデルの形状を記述し、軌跡が、モデルの動きを記述し、特徴点のベクトルのベクトル空間が、モデルの動きの可能性を記述する特徴点モデリング等の顔面分析及び顔面合成技術を含むことを特徴とするシステム。
JP2001581534A 2000-04-28 2000-04-28 ビデオ会議の方法とシステム Expired - Lifetime JP4602632B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CH2000/000236 WO2001084838A1 (de) 2000-04-28 2000-04-28 Verfahren und system für videokonferenzen

Publications (2)

Publication Number Publication Date
JP2003533098A JP2003533098A (ja) 2003-11-05
JP4602632B2 true JP4602632B2 (ja) 2010-12-22

Family

ID=4358070

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001581534A Expired - Lifetime JP4602632B2 (ja) 2000-04-28 2000-04-28 ビデオ会議の方法とシステム

Country Status (12)

Country Link
US (1) US6717607B1 (ja)
EP (1) EP1201082B1 (ja)
JP (1) JP4602632B2 (ja)
CN (1) CN1192618C (ja)
AT (1) ATE249125T1 (ja)
AU (1) AU772400B2 (ja)
BR (1) BR0013612A (ja)
DE (1) DE50003567D1 (ja)
DK (1) DK1201082T3 (ja)
ES (1) ES2206213T3 (ja)
MX (1) MXPA02002131A (ja)
WO (1) WO2001084838A1 (ja)

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1148690A1 (en) * 2000-04-20 2001-10-24 Telefonaktiebolaget Lm Ericsson Method, gateway system and arrangement in a communication network
KR100396892B1 (ko) * 2000-10-05 2003-09-03 삼성전자주식회사 비디오 mp3 시스템, 축소 비디오데이터 생성장치와생성방법 및 축소 비디오데이터 복원장치 및 복원방법
US20050149364A1 (en) * 2000-10-06 2005-07-07 Ombrellaro Mark P. Multifunction telemedicine software with integrated electronic medical record
US8392502B2 (en) * 2002-04-12 2013-03-05 Alcatel Lucent System and method for effecting conference calling
US7474326B2 (en) * 2002-11-04 2009-01-06 Tandberg Telecom As Inter-network and inter-protocol video conference privacy method, apparatus, and computer program product
JP2004312401A (ja) * 2003-04-08 2004-11-04 Sony Corp 再生装置および再生方法
US7464262B2 (en) * 2003-09-12 2008-12-09 Applied Minds, Inc. Method and apparatus for synchronizing audio and video in encrypted videoconferences
JP2005182456A (ja) * 2003-12-19 2005-07-07 Canon Inc 情報表示装置及び情報表示方法
CN100334882C (zh) * 2003-12-23 2007-08-29 华为技术有限公司 传输线路配置方法
US20060031912A1 (en) * 2004-07-30 2006-02-09 Pulitzer J H Integrated resource management and A/V telecommunication device
US20060036852A1 (en) * 2004-08-16 2006-02-16 Kwok-Yan Leung Byte-based data-processing device and the processing method thereof
DE502004009151D1 (de) * 2004-12-02 2009-04-23 Swisscom Mobile Ag Verfahren und System zur Wiedergabe des Bildes einer Person
US8223213B2 (en) * 2005-12-07 2012-07-17 Wireless Avionics Wireless and CCTV megapixel digital camera for surveillance and unmanned air vehicles
US8004540B1 (en) 2006-10-10 2011-08-23 Adobe Systems Incorporated Display resolution boundary
US8045469B2 (en) * 2006-12-18 2011-10-25 Research In Motion Limited System and method for adjusting transmission data rates to a device in a communication network
CN101355682B (zh) * 2007-07-23 2011-03-16 中兴通讯股份有限公司 一种宽带专线会议电视系统全网自动调速的方法
JP2009044328A (ja) * 2007-08-07 2009-02-26 Seiko Epson Corp 会議システム、サーバ、画像表示方法、コンピュータプログラム及び記録媒体
US20100054526A1 (en) * 2008-09-03 2010-03-04 Dean Eckles Method, apparatus and computer program product for providing gaze information
DE102009011251A1 (de) * 2009-03-02 2010-09-09 Siemens Enterprise Communications Gmbh & Co. Kg Multiplexverfahren und zugehörige funktionelle Datenstruktur zum Zusammenfassen digitaler Videosignale
CN107071688B (zh) 2009-06-23 2019-08-23 诺基亚技术有限公司 用于处理音频信号的方法及装置
US8179417B2 (en) * 2009-07-22 2012-05-15 Hewlett-Packard Development Company, L.P. Video collaboration
US9535651B2 (en) * 2009-12-18 2017-01-03 Oracle International Corporation Co-browsing systems and methods
US8982151B2 (en) * 2010-06-14 2015-03-17 Microsoft Technology Licensing, Llc Independently processing planes of display data
US8949333B2 (en) * 2011-05-20 2015-02-03 Alejandro Backer Systems and methods for virtual interactions
US9874990B2 (en) 2012-02-10 2018-01-23 Oracle International Corporation System and method of concurrent unobstructed co-browsing and chat messaging
EP2642752A1 (en) 2012-03-23 2013-09-25 Alcatel Lucent Method, server, and terminal for conducting a video conference
US8976226B2 (en) * 2012-10-15 2015-03-10 Google Inc. Generating an animated preview of a multi-party video communication session
US9265458B2 (en) 2012-12-04 2016-02-23 Sync-Think, Inc. Application of smooth pursuit cognitive testing paradigms to clinical drug development
US9253520B2 (en) 2012-12-14 2016-02-02 Biscotti Inc. Video capture, processing and distribution system
US9654563B2 (en) 2012-12-14 2017-05-16 Biscotti Inc. Virtual remote functionality
US9485459B2 (en) * 2012-12-14 2016-11-01 Biscotti Inc. Virtual window
US9380976B2 (en) 2013-03-11 2016-07-05 Sync-Think, Inc. Optical neuroinformatics
KR20160026317A (ko) * 2014-08-29 2016-03-09 삼성전자주식회사 음성 녹음 방법 및 장치
US9967399B2 (en) 2014-12-19 2018-05-08 Oracle International Corporation Co-browsing preview of queued customer contacts
US10671337B2 (en) 2015-09-25 2020-06-02 Oracle International Corporation Automatic sizing of agent's screen for html co-browsing applications
US10123020B2 (en) 2016-12-30 2018-11-06 Axis Ab Block level update rate control based on gaze sensing
US10110802B2 (en) 2016-12-30 2018-10-23 Axis Ab Historical gaze heat map for a video stream
US10121337B2 (en) 2016-12-30 2018-11-06 Axis Ab Gaze controlled bit rate
US10643443B2 (en) 2016-12-30 2020-05-05 Axis Ab Alarm masking based on gaze in video management system
CN107168668A (zh) * 2017-04-28 2017-09-15 北京七鑫易维信息技术有限公司 图像数据传输方法、装置以及存储介质、处理器
US10038788B1 (en) 2017-05-09 2018-07-31 Oracle International Corporation Self-learning adaptive routing system
US10445921B1 (en) * 2018-06-13 2019-10-15 Adobe Inc. Transferring motion between consecutive frames to a digital image
DE102020003522B4 (de) * 2020-06-12 2022-04-14 Jochen Ohligs Vorrichtung zur Darstellung von Bildern sowie Verwendung einer solchen Vorrichtung

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS57208781A (en) * 1981-06-19 1982-12-21 Hitachi Ltd Conference system by video telephone
JPH07135623A (ja) 1993-10-27 1995-05-23 Kinseki Ltd 網膜直接表示装置
US5500671A (en) * 1994-10-25 1996-03-19 At&T Corp. Video conference system and method of providing parallax correction and a sense of presence
JPH099230A (ja) * 1995-06-15 1997-01-10 Oki Electric Ind Co Ltd 解像度制御装置
JP3217723B2 (ja) * 1997-03-13 2001-10-15 ▲すすむ▼ 舘 遠隔通信システム及び遠隔通信方法
US6288739B1 (en) * 1997-09-05 2001-09-11 Intelect Systems Corporation Distributed video communications system
US6606111B1 (en) * 1998-10-09 2003-08-12 Sony Corporation Communication apparatus and method thereof

Also Published As

Publication number Publication date
ES2206213T3 (es) 2004-05-16
EP1201082A1 (de) 2002-05-02
CN1192618C (zh) 2005-03-09
CN1379953A (zh) 2002-11-13
EP1201082B1 (de) 2003-09-03
ATE249125T1 (de) 2003-09-15
MXPA02002131A (es) 2002-09-02
DK1201082T3 (da) 2003-12-15
DE50003567D1 (de) 2003-10-09
BR0013612A (pt) 2002-05-14
AU772400B2 (en) 2004-04-29
JP2003533098A (ja) 2003-11-05
WO2001084838A1 (de) 2001-11-08
US6717607B1 (en) 2004-04-06
AU3953300A (en) 2001-11-12

Similar Documents

Publication Publication Date Title
JP4602632B2 (ja) ビデオ会議の方法とシステム
KR100881526B1 (ko) 데이터 전송 방법 및 그 장치, 및 데이터 전송 시스템
KR0180543B1 (ko) 화상통신장치
US5689800A (en) Video feedback for reducing data rate or increasing quality in a video processing system
US6593955B1 (en) Video telephony system
JP3263278B2 (ja) 画像圧縮通信装置
KR100750189B1 (ko) 이동통신 단말기에서 화상통화 화면 공유 장치 및 방법
US20070159552A1 (en) Method and System for Video Conference
JP2001514825A (ja) イメージ品質の対話型制御のためのイメージング・システムおよび方法
US20020149696A1 (en) Method for presenting improved motion image sequences
RU2226320C2 (ru) Способ и система для осуществления видеоконференций
JP2000042247A5 (ja)
US6526173B1 (en) Method and system for compression encoding video signals representative of image frames
CN101340546A (zh) 高分辨率视频会议系统
JPH11234639A (ja) テレビ電話装置
JP3926091B2 (ja) 撮像画像送信装置
US5854892A (en) Video conferencing decoder engine with direct signaling to encoder engine for relaying of decoded data
JPH0823527A (ja) テレビ電話システム
JPH0564184A (ja) Tv会議システムの画面構成方式
JPH0832947A (ja) 画像通信装置
JPH08294102A (ja) 動画像通信会議システム及びその通信方法
JPH10285565A (ja) 画像転送装置
JP3805748B2 (ja) 画像転送装置
JP2002199394A (ja) 動画処理システムおよび動画処理方法
CN114422794A (zh) 一种基于前置相机的动态视频清晰度处理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091109

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100209

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100507

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100906

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100930

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131008

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4602632

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131008

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term