JP2005318589A - 新規なリアルタイムオーディオビジュアル通信およびデータコラボレーションのためのシステムおよび方法 - Google Patents

新規なリアルタイムオーディオビジュアル通信およびデータコラボレーションのためのシステムおよび方法 Download PDF

Info

Publication number
JP2005318589A
JP2005318589A JP2005123951A JP2005123951A JP2005318589A JP 2005318589 A JP2005318589 A JP 2005318589A JP 2005123951 A JP2005123951 A JP 2005123951A JP 2005123951 A JP2005123951 A JP 2005123951A JP 2005318589 A JP2005318589 A JP 2005318589A
Authority
JP
Japan
Prior art keywords
data
client
user
server
remote
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005123951A
Other languages
English (en)
Inventor
Eric Rudolph
ロドルフ エリック
Henrique S Malvar
エス.マルバー エンリケ
Ivan Tashev
タシェフ イワン
Li-Wei He
ヘ リ−ウェイ
Michael F Cohen
エフ.コーエン マイケル
Yong Rui
ルイ ヤン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2005318589A publication Critical patent/JP2005318589A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47JKITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
    • A47J37/00Baking; Roasting; Grilling; Frying
    • A47J37/12Deep fat fryers, e.g. for frying fish or chips
    • A47J37/1271Accessories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1813Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms
    • H04L12/1827Network arrangements for conference optimisation or adaptation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1813Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms
    • H04L12/1831Tracking arrangements for later retrieval, e.g. recording contents, participants activities or behavior, network status
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1101Session protocols
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/403Arrangements for multi-party communication, e.g. for conferences
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/403Arrangements for multi-party communication, e.g. for conferences
    • H04L65/4038Arrangements for multi-party communication, e.g. for conferences with floor control
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47JKITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
    • A47J37/00Baking; Roasting; Grilling; Frying
    • A47J37/12Deep fat fryers, e.g. for frying fish or chips
    • A47J37/1276Constructional details
    • A47J37/128Integrated lids or covers
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47JKITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
    • A47J37/00Baking; Roasting; Grilling; Frying
    • A47J37/12Deep fat fryers, e.g. for frying fish or chips
    • A47J37/1276Constructional details
    • A47J37/129Frying vessels
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47JKITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
    • A47J43/00Implements for preparing or holding food, not provided for in other groups of this subclass
    • A47J43/04Machines for domestic use not covered elsewhere, e.g. for grinding, mixing, stirring, kneading, emulsifying, whipping or beating foodstuffs, e.g. power-driven
    • A47J43/07Parts or details, e.g. mixing tools, whipping tools
    • A47J43/075Safety devices

Abstract

【課題】 マルチメディア会議環境内のリアルタイム情報交換を容易にするシステムおよび方法を提供すること。
【解決手段】 データクライアントは複数のユーザの間のデータコラボレーションを容易にし、リアルタイム通信機能性を提供するAVクライアントから分離して維持される。データクライアントは、互いに、かつサーバに対してリモートに位置することができる。リモートユーザ代理デバイスを提供し、このデバイスは、リモートユーザをローカルユーザに提示するディスプレイでイメージをキャプチャして、リアルタイム情報をリモートオフィス内のAVクライアントに提供するデジタル自動パン/チルト/ズームカメラ、および、リアルタイムオーディオ情報を会議室からリモートオフィス内のAVクライアントに提供するマイクロフォンアレイを備える。
【選択図】 図1

Description

本発明は一般に情報交換に関し、より詳細には、複数のリモートロケーションの間のリアルタイムマルチメディア情報交換に関する。
コンピュータがより高速に、より小型に、より安価に、より有能になるにつれて、様々な技術を使用してユーザ体験を高めるための機会は増加中である。会議環境では、ユーザのコンピューティングデバイスは幅広く多様な機能を有することができ、これらの機能は、特定のタイプの情報を複数のユーザに提供するとき、問題になる可能性がある。会議用の従来のシステムおよび方法は、複数の分散した参加者の間のミーティングを容易にすることを深く探求していない。しばしば、ミーティングまたは会議中に提示される情報は、後に見直すために適切に文書化または保存されず、これにより、会議の効率および情報交換に関する問題がさらに悪化する可能性がある。
当技術分野では、会議環境における複数のユーザの間の改善されたリアルタイムのデータコラボレーションおよび通信を容易にするシステムおよび方法についての、満たされていない必要性がある。
以下で、本発明のいくつかの態様の基本的理解を提供するために、本発明の簡単な概要を提示する。この概要は、本発明の広範な概観ではない。本発明の主要/重要な要素を識別すること、または、本発明の範囲を線引きすることは意図されない。その唯一の目的は、本発明のいくつかの概念を簡単な形態で、後に提示されるより詳細な説明への前置きとして提示することである。
本明細書で開示および主張する本発明は、マルチメディア会議環境内の複数のユーザの間のリアルタイム情報交換に関する。
システムは、異なるロケーション内の複数のユーザ(例えば、会議室内のユーザおよびリモートオフィス内のユーザ)のため、または、単一の会議室内に位置するユーザのためのミーティング機能性を提供することができる。様々な技術を使用して、リアルタイム情報交換を容易にすることができ、これらの技術には例えば、ハイファイオーディオおよび方向情報を提供するマイクロフォンアレイが含まれる。システムはまた、話者のデジタル自動パン/チルト/ズームフレーミング(digital automatic pan/tilt/zoom framing)、および/または、会議室内のどこに座ろうとも、人の顔のサイズを均等にするための自動ワーピングを有する、ルームカメラをも備えることができる。加えて、物理的なホワイトボードのコンテンツの生放送およびスナップショットキャプチャを、例えば、ウェブカメラを介して容易にして、その上に表示されたミーティングの覚書を保存および/または配布することができる。「キャプチャおよび送信」機能性を、紙の注釈の高速キャプチャおよび送信を可能にするために提供することができ、さらに、インクの注釈の送信のためのタブレットPC統合を備えることができる。この態様は、キャプチャされたドキュメントの送信を、印刷およびファックス送信などを必要とすることなく可能にする。本発明のさらなる態様は、ユーザがデータサーバデータベースとユーザ所有のハードドライブの間でファイルを転送することができる、ドラッグアンドドロップインターフェイスを備える。加えて、プレゼンテーションシュート(Presentation Chute)を提供することができ、これは例えば、PowerPointプレゼンテーションなどのドキュメントを、会議に出席する他のユーザにブロードキャストするためであり、受信側データクライアントは、ドキュメントタイプ、およびドキュメントに関連付けられた他のメタデータに基づいて、ドキュメントに関する適切なアクションを取ることができる。さらに、本発明は、ミーティングの記録および自動インデックス付けを提供し、オーディオコンテンツが、Outlookおよび/またはSharePointなど、様々なインターフェイスを介して探索可能であるようにする。
本発明の一態様によれば、それを介して1つまたは複数のユーザインターフェイス(UI)がユーザに提示されて、少なくとも2人の参加者の間のリアルタイム会議が容易にされるシステムが提供され、これらの参加者は、物理的に同じ会議室内に位置すること、および/または、互いにリモートに位置することができる。システムは、リアルタイムオーディオ/ビデオ通信およびリアルタイムデータコラボレーションを提供する。ビデオイメージおよび静止画像を容易にするビデオコンポーネントを提供することができる。加えて、ビデオコンポーネントは自動的にイメージおよび/またはビデオをユーザへのプレゼンテーションのためにワープすることができる。このように、システムは会議室環境をユーザへリアルタイムで提示することができると同時に、ユーザが、例えば、ドキュメント、黒板、ホワイトボードなどのビデオおよび/または静止画像、または、第1のユーザが第2のユーザと共有することを望む可能性のある情報の他のいかなる適切な部分をも、リアルタイムでキャプチャおよび送信することを可能にする。ビデオコンポーネントは、例えば、会議室およびその中の人々のビデオをキャプチャするビデオカメラ、および、例えば、ミーティングの覚書を含むホワイトボード、紙のドキュメントなどのビデオおよび/または静止画像をキャプチャすることができる、分離したウェブカメラを備えることができる。システムはまた、リアルタイムオーディオ機能性を会議環境内で提供するオーディオコンポーネントも備える。加えて、バーチャルディレクタが提供され、これはオーディオおよびビデオコンポーネントを調整して、豊かになった(enriched)会議体験をユーザに提供することができる。
本発明の関連する態様によれば、データクライアントUIはプレゼンテーションシュートを各ユーザに提供して、リアルタイムドキュメント共有および/またはプレゼンテーション表示を容易にすることができる。例えば、プレゼンテーションシュートアイコンを、UIを介して提示することができ、ユーザがドキュメント(例えば、写真、Wordファイル、PowerPointプレゼンテーションなど)をこのアイコンにドラッグし、ドキュメントをこのアイコン上にドロップすることを可能にすることができ、次いでシステムはこのドキュメントをデータサーバへ、仮想会議に出席するすべての他のデータクライアントに配布するためにアップロードすることができる。例えば、PowerPointプレゼンテーションなど、プレゼンテーションドキュメントがプレゼンテーションシュート内にドロップされる場合、送信者はプレゼンテーションを別のユーザのUIで自動的に開始させるように選択することができ、あるいは、プレゼンテーションのための最良の態様の提供を容易にするために、データサーバに最初に、他のユーザのコンピュータの機能を決定させるように選択することができる。例えば、受信側ユーザが、PDAまたは携帯電話など、ハンドヘルドコンピュータを介して仮想会議に出席中である場合、そのユーザに提示されたUIは、ラップトップなどと比較して制限された機能を有するようになる。このような場合、データサーバは、プレゼンテーションを例えばPowerPoint Viewer、または他のいずれかの適切なパッケージにおいてラップして、受信側ユーザのUIの比較的制限された機能にもかかわらず、プレゼンテーションが受信側ユーザによって表示されることを可能にすることができる。このように、システムは2つのモードのデータ共有をサポートすることができる。例えば、データをあるデータクライアントから別のデータクライアントへネイティブフォーマットで送信することができ、代替として、データを、表示を可能にするために適切にフォーマットして(例えば、生のファイルとして送信されない)、受信者が編集機能なしにデータを表示することを可能にすることができる。
本発明のもう1つの態様によれば、ルームサーバPCが提供され、ルームサーバPCは、仮想会議に関連付けられたコンポーネントを集中コントロールするルームサーバを備える。ルームサーバPCはさらに、分離したデータサーバおよびAVサーバを備え、これらのサーバはルームサーバによって調整することができる。仮想ミーティングに出席しているすべてのデータクライアントはデータサーバに接続され、データサーバによって調整される。加えて、オーディオビデオ(AV)クライアントはルームサーバPC上で実行することができ、仮想会議システムに関連付けられたデータクライアントから分離しており、異なるものである。AVクライアントは、会議環境のビデオおよび/または静止画像の提供を容易にするソフトウェアを備え、会議環境内に位置するデジタル自動パン/チルト/ズーム(digital automatic pan/tilt/zoom)(DPTZ)カメラをユーザが選択的にズーム、パンおよび/またはチルトすることを可能にする。AVクライアントはまた、ノイズリダクション、例えば、マイクロフォンアレイのより近くに位置する話者とは対照的に、会議環境内でマイクロフォンアレイからより遠くに位置する話者の音声の増幅を可能にするためのゲインコントロールなど、オーディオデータの操作も可能にする。データクライアントは例えば、ラップトップ、PDA、携帯電話、または、仮想会議に出席するための他のいかなる適切なUI上でも実行させることができ、会議室内、または、別のビル、都市、国の中のオフィスなどのリモートロケーションに位置することができる。データクライアントソフトウェアは、ユーザがドラッグアンドドロップインターフェイスを介してファイルを共有すること、プレゼンテーションシュートを介してドキュメントをブロードキャストすることなどを可能にする、機能性を提供する。このように、データクライアントおよびAVクライアントは共にUIを備えるソフトウェアモジュールであるが、これらのクライアントは別々のエンティティとして存在することができ、AVクライアントはAVコンテンツ(例えば、AV通信)のキャプチャ、送信および/またはレンダリングを処理し、データクライアントはデータコラボレーション(例えば、ファイル転送、プレゼンテーションのブロードキャストなど)を処理する。AVクライアントをデータクライアントから分離することによって、ユーザがデータコラボレーションをAV通信なしに行うこと、AV通信のみをデータコラボレーションなしに行うこと(例えば、携帯電話をオーディオチャネルとして使用することなどを介する)、および/または、データコラボレーションおよびAV通信を同時に行うことを可能にすることができる。
本発明のさらにもう1つの態様によれば、ウェブカメラが提供され、ウェブカメラは、例えば、会議室内のユーザが会議環境内の少なくとも1人の他のユーザと共有することを望むドキュメント、ホワイトボードのコンテンツなどの高解像度のデジタルキャプチャを容易にする。本発明のこの態様は、高速配布のため、および/または、仮想会議中および/または後のより好都合な時間に少なくとも1人のユーザによって見直すために、ドキュメントのハードコピーがドキュメントの電子コピーに変換されることを可能にする。これは、アルゴリズム、スケッチなど、ホワイトボードのコンテンツに関して特に有用となる場合があり、これらのコンテンツは、見直すために電子的形態で永久に保存されることが可能であり、それにより、ホワイトボードのコンテンツが偶然または不注意でボードから消去されるいかなる危険をも軽減することができる。ウェブカメラによってキャプチャされたイメージを自動的にAVサーバで格納し、仮想会議の参加者にプリント可能に提示することができる。さらに、ウェブカメラをモバイルにすることができ、会議環境であちこちに動かして、テーブル上に水平に置かれているドキュメント、垂直のホワイトボード上のステートメントなどのキャプチャを容易にすることができる。加えて、ウェブカメラが利用されるようにするために、ウェブカメラを会議環境(例えば、会議室、リモートオフィスなど)内のいかなるコンピュータにも接続することができる。
本発明のさらにもう1つの態様によれば、自動発見機能性を提供することができ、この機能性によって、仮想ミーティングに出席することを承認されるユーザに、そのミーティングが開催中である、間もなく開始する、などと通知することができる。例えば、ユーザはルームサーバから、仮想会議が間もなく開始するなどという電子メール通知を受信することができる。加えて、ユーザが、ルームサーバに関連付けられた所定の周辺に入るとき、ユーザを仮想会議に参加するように招待することができる。ユーザの招待を選択的に、電子メールアドレス、ユーザのラップトップ、PDA、携帯電話などに関連付けられたインターネットプロトコル(IP)アドレスを介して、または、特定のユーザのコンピューティングデバイスを識別する他のいずれかの適切な手段によって、ユーザ識別を検証することができる、ゲストリストに基づかせることができる。さらに、仮想会議アクセスをパスワード保護して、コンピューティングデバイスのユーザが、そのユーザがそうであると主張する人物であることを保証することができる。
前述および関連する目的の実施のために、本発明のある例示的態様を、以下の説明および添付の図面に関連して本明細書で説明する。しかし、これらの態様は、本発明の原理を使用することができる様々な方法のほんの数例を示し、本発明は、すべてのこのような態様およびそれらの相当物を含むように意図される。本発明の他の利点および新規な特徴は、図面と共に考慮されるとき、以下の本発明の詳細な説明から明らかになるであろう。
概念および定義
ソフトウェアモジュール
ルームサーバ:カレンダの管理、パスワードの検証、データサーバとAVサーバの間の調整を行う。
データサーバ:それに接続されるすべてのデータクライアントの間のデータ共有を容易にし、特定のミーティングのためのサーバファイルを格納するモジュール。
AVサーバ:多地点制御装置(MCU;multipoint control unit)のように振る舞い、複数の入力AVストリームを適切に混合するモジュール。AVサーバは適切な出力ストリーム(例えば、単一の人物のビデオ、突出した四角形における複数の人々のフレーム)を決定および/または提供することができる。
データクライアント:ユーザがデータ共有、ファイル転送などを実行するためのユーザインターフェイス(UI)を提供する。すべてのデータクライアントはデータサーバを介して接続される。
AVクライアント:AV通信を実行する。すべてのAVクライアントはAVサーバを介して接続される。AVクライアントおよびデータクライアントは互いに通信する必要はないが、むしろ分離および独立したエンティティである。
データビューア:データクライアントが別のデータクライアントから(例えば、データサーバを介して)受信するドキュメント(例えば、写真、PowerPointプレゼンテーション(PPT))のための適切なビューアを起動する。例えば、ドキュメントがMDIである場合、MDIビューアが起動されるようになる。ドキュメントがPPTである場合、PPTビューアが起動されるようになる。
ローカルファイル領域およびサーバファイル領域:UIのローカルファイル領域からサーバファイル領域へのファイルの「ドラッグアンドドロップ」を介した、ローカルPCからデータサーバへのファイルの転送(生のビットは変更されない)を容易にする。サーバファイル領域内のいかなるファイルも、いかなるユーザのローカルファイル領域へもドラッグアンドドロップすることができる。サーバファイルスペースを、すべてのミーティング参加者のためのパブリックフォルダと見なすことができる。いかなる元のファイルもビットごとにコピーされて、転送が容易にされる。(図7、ユーザインターフェイス700を参照)。
プレゼンテーションシュート:(図7を参照)他のユーザにドキュメント(例えば、写真、wordファイル、PPTファイルなど)を表示させることを望むユーザが、ドキュメントをそのユーザのローカルファイルスペースからプレゼンテーションシュートにドラッグアンドドロップすることを可能にする。次いで、ドキュメントはデータサーバにアップロードされ、適切なフォーマットに変換され、すべてのデータクライアントに送信される。ドキュメントのフォーマットに基づいて、データクライアントは適切なデータビューアを起動するようになる。ファイル転送とは対照的に、プレゼンテーションシュートは、イメージ化された編集不可能なバージョンのドキュメントのみを他者と共有する。
ハードウェアモジュールおよび構成
ルームサーバPC:ルームサーバ、データサーバおよびAVサーバを実行する。通常、会議室のAVクライアントも実行する。
代理デバイス:(図8を参照)モニタ、スピーカ、マイクロフォンアレイ、および広角カメラを備える。ルームサーバは通常、この代理デバイスに接続する。会議室の大部分の生のビデオ(raw video)は広角カメラによって、図9(902)に示すようにキャプチャされる。
ウェブカメラ:物理的なホワイトボード/ドキュメントのイメージキャプチャを容易にする。コンピューティングデバイスが会議室内にあるかリモートロケーション内にあるかにかかわらず、ウェブカメラを、データクライアントを実行するいかなるPC/ラップトップ/その他に接続することもできる。
例示的構成
会議室では、ユーザは通常、自分のラップトップ/タブレットまたは他の適切なコンピューティングデバイスを持ち込む。ルームサーバPCはルームサーバ、データサーバ、AVサーバおよびAVクライアントを実行するが、会議室内のラップトップ/タブレットなどはデータクライアントを実行して、各ユーザがミーティングに参加(データコラボレーション)できるようにする。ルームサーバPCはすでにAVクライアントをそのモニタ(代理デバイスの一部)上で表示するので、会議室内のユーザはAVクライアントを個々のラップトップ上で実行する必要はないことに留意されたい。さらに、人々がラップトップを会議室に持ち込むことは必要とされていないことに留意されたい。このような場合、データコラボレーションを行うことを望むユーザは、別のユーザのラップトップを利用するか、あるいはデータクライアントをルームサーバPC上で実行することができる。しかし、理想的には、各ユーザは自分自身のラップトップを有して、ミーティング中にデータコラボレーションをより大幅に容易かつ効率的に行うようになる。
リモートオフィス内のユーザは、AVクライアントのみ、データクライアントのみ、またはAVクライアントおよびデータクライアントの両方を、自分のデスクトップPC、ラップトップおよび/または他のコンピューティングデバイス上で実行することを選択することができる。リモートユーザが他のユーザによって見られるおよび/または聞かれることを望む場合、ウェブカメラおよび/またはマイクロフォンをリモートユーザのPC上に設けることができる。リモートオフィスは、1人または複数のユーザを単一のオフィス内で含むことができ、リモートオフィスを合計で1つまたは複数にすることができる。リモートオフィスが複数のリモートユーザを含む場合、リモートオフィスは会議室に類似するが、会議室よりは劣る可能性がある。
加えて、複数の会議室がある可能性があり、各会議室はそれ自体のルームサーバPCおよび代理デバイスを有する。1つの例示的構成では、ただ1つの会議室が主要会議室として選択される必要があり、主要会議室ではそのルームサーバPCがルームサーバ、データサーバおよびAVサーバの各々を実行する。このような場合、他のルームサーバPCはAVクライアントのみを実行する必要がある。別の例示的構成によれば、あらゆるルームサーバPCはそれ自体のルームサーバ、データサーバ、AVサーバおよびAVクライアントを実行する。
本発明は、前述のソフトウェアおよびハードウェアモジュールならびにその構成の説明によって限定されるように意図されず、これは、いくつかのモジュールが、本発明の態様と共に、本発明の機能にとってオプショナルであってもよいからである。例えば、最小限の構成は、ルームサーバPC(ルームサーバおよびデータサーバを実行する)および2つのデータクライアントを備えることができる。他のソフトウェアおよび/またはハードウェアコンポーネントの追加は、ユーザの会議体験を豊かにすることを容易にする。
本発明をこのとき図面を参照して説明し、図面においては、同様の参照番号は全体で同様の要素を指すために使用される。以下の説明では、説明のため、本発明の十分な理解を提供するために多数の特定の詳細を述べる。しかし、本発明をこれらの特定の詳細なしに実施することができることは明らかになるであろう。他の場合では、本発明の説明を容易にするために、周知の構造およびデバイスをブロック図の形態で示す。
本出願で使用されるとき、「コンポーネント」および「システム」という語は、コンピュータ関連エンティティを指すように意図され、このエンティティは、ハードウェア、ハードウェアおよびソフトウェアの組み合わせ、ソフトウェア、または実行中のソフトウェアのいずれでもよい。例えば、コンポーネントは、それだけに限定されないが、プロセッサ上で実行するプロセス、プロセッサ、オブジェクト、実行可能ファイル、実行のスレッド、プログラムおよび/またはコンピュータであってもよい。例示として、サーバ上で実行するアプリケーションおよびサーバの両方がコンポーネントである可能性がある。1つまたは複数のコンポーネントはプロセスおよび/または実行のスレッド内に存在することができ、コンポーネントは1つのコンピュータ上でローカライズされるか、および/または2つ以上のコンピュータの間で分散される場合がある。
本明細書で使用されるとき、「推測」という語は一般に、イベントおよび/またはデータを介してキャプチャされたような観察のセットから、システム、環境および/またはユーザの状態について推論または推測するプロセスを指す。推測を使用して、特定のコンテキストまたはアクションを識別することができ、あるいは例えば、推測は複数の状態にわたる確率分布を生成することができる。推測は確率的である場合があり、すなわち、データおよびイベントの考慮に基づいた、関心のある複数の状態にわたる確率分布の計算である場合がある。推測はまた、イベントおよび/またはデータのセットからより高いレベルのイベントを構成するために使用される技術を指す場合もある。このような推測は結果として、イベントが時間的に密接に近接して相関されるかどうかにかかわらず、また、イベントおよびデータが1つのイベントおよびデータソースから来るか、複数のイベントおよびデータソースから来るかにかかわらず、観察されたイベントおよび/または格納されたイベントデータのセットからの、新しいイベントまたはアクションの構築となる。
図1は、本発明の一態様によるマルチメディア会議環境内のリアルタイム情報交換を容易にする、システム100の例示である。システム100はルームサーバPC102を備え、ルームサーバPC102は、仮想会議環境内の通信およびコラボレーションを調整するための中央ルームサーバ(図示せず)を備える。ルームサーバPC102は、ビデオコンポーネント104およびオーディオコンポーネント106に動作可能に結合され、これらのコンポーネントは、会議室、事務所、ホームオフィスなど、会議環境をモニタリングすることができる。モニタリングされる特定の環境は、1人または複数のユーザを含むことができ、各ユーザはデータクライアント108を介してデータコラボレーションに従事することができる。ルームサーバPC102は、ビデオコンポーネント104およびオーディオコンポーネント106のリアルタイムのコントロールを容易にし、ユーザ要求を満たすバーチャルディレクタ110、および、会議室内に位置して仮想会議に出席しているユーザにAV機能性を提供するソフトウェアを備える、オーディオビデオ(AV)クライアント112を備える。バーチャルディレクタは、ルームサーバPC102内でAVクライアントと動作可能に結合される。
加えて、ルームサーバPC102は、複数のAVクライアントの間の情報交換および/またはAV通信を調整するAVサーバ116を備え、例えば、リモートユーザは仮想会議に、それ自体のAVクライアントを実行するリモートPCを介して出席する。同様に、ルームサーバPC102は、リモートPC上で実行するか、会議室内に存在するローカルPC上で実行するかにかかわらず、複数のデータクライアント108の間の情報交換およびデータコラボレーションを調整するデータサーバ118を備える。AVクライアント112に加えて、データクライアントをルームサーバPC102上で実行することができるが、その上で実行される必要はないことを理解されたい。ルームサーバPC102上に常駐するルームサーバは、例えば、カレンダ管理、パスワード検証、AVサーバ116とデータサーバ118の間の調整を提供することができる。AVサーバ116とデータサーバ118を管理するルームサーバを提供することによって、その間に直接通信は必要ではなく、これは、AVサーバ116が、データサーバ118から分離した別個のエンティティとして存在することを可能にする。
すべてのデータクライアント108は、所与のデータクライアント108がリモートPC上で実行されるかローカルPC上で実行されるかにかかわらず、データサーバ118に接続する。ルームサーバPC102上で実行するAVクライアントは、ルームサーバPC102内のAVサーバ116に接続される。リモートユーザは追加のAVクライアントをリモートPCから起動することができ、このようなリモートAVクライアントもまたルームサーバPC102内のAVサーバ116に接続されるようになる。このように、AVサーバ116は多地点制御装置に類似しており、複数のAVクライアントからの入力AVストリームが適切に混合されることを可能にする。
ビデオコンポーネント104はイメージをビデオおよび/または静止画像としてキャプチャすることができ、これにより、例えばドキュメント、ホワイトボードなどのイメージをキャプチャするための機能性を提供しながら、ビデオ会議が進行することを可能にする。例えば、デジタル自動パン/チルト/ズーム(DPTZ)カメラなど、広角ウェブカメラは、会議室およびその中に存在する人物のビデオをキャプチャすることができるが、分離したモバイルウェブカメラは、例えば、ホワイトボードがミーティング中に書き込まれているときのリアルタイムのホワイトボードのビデオ、ドキュメントの静止画像、および/または、後に見直すための書き込まれたホワイトボードなどをキャプチャすることができる。このようなビデオコンポーネントの二重機能性により、ユーザは、後の時間に見直すことができるドキュメント、ホワイトボードなどのイメージを提供しながら、単一のロケーション内および/または複数のリモートロケーションの間(例えば、シアトルの会議室およびロンドンのリモートオフィス)で行われた会議を進めることができる。加えて、ビデオコンポーネントは、自動ワーピング機能性を提供するように動作可能であり、これにより、例えば、会議室内の複数の出席者の相対的近接(relative proximity)を均等にして、会議室内のビデオコンポーネントにより近い出席者と比較してより離れた出席者のよりよいビューを、リモートユーザに提供することができる。
ビデオコンポーネント104およびオーディオコンポーネント106は、AVクライアント112およびバーチャルディレクタ110に通信的に結合され、AVクライアント112およびバーチャルディレクタ110は、ビデオコンポーネント104およびオーディオコンポーネント106上にコントロールを及ぼすことができる。例えば、オーディオコンポーネント106からの情報を使用して、会議環境内の現在の話者の位置を探し出すことができる。このような位置情報をバーチャルディレクタ110によって使用して、ビデオコンポーネント104に、オーディオ情報から導出されたロケーションで話す人物のビデオ、イメージ、フレームなどをキャプチャするように命令することができる。例えば、ビデオコンポーネント104は、話者の位置を示す情報に基づいて話者にズームすることができる、デジタルビデオカメラを備えることができる。
バーチャルディレクタ110は映画撮影法などの様々なルールを使用することができ、このルールは、ビデオコンポーネント104が例えば会議室内の2人の話者の間で互いに行ったり来たりするようにビューを切り替えることが可能になる頻度を、制限することなどである。この場合、2人の話者は並んで提示されることなどが可能である。加えて、リモートユーザには、いかなるときにもバーチャルディレクタ110に優先し、それによりリモートユーザが望むいかなるビューをも選択するための権限が、付与されることが可能である。
オーディオコンポーネント106は、ハイファイサウンドキャプチャ機能を提供して、会議体験を高めることができる。オーディオコンポーネント106は、話者の声が会議環境内のいかなるポイントからも良好に受信されるようになることを保証するために、マイクロフォンのアレイにおいて構成することができる。このような構成はさらに、ノイズリダクション、音響エコーキャンセル(AEC)、および自動ゲインコントロール(AGC)を容易にすることができ、これらのすべては全体で数十デシベルのノイズリダクションに寄与する可能性がある。オーディオコンポーネント106はさらにオーディオヒーリング機能を備え、オーディオヒーリング機能は、例えば、ネットワーク構成内のジッターおよび/または可変遅延から生じる、受信ポイントで検出された品質不足を軽減して、欠陥のないオーディオ信号を提供し、ユーザの会議体験を高めることができる。
ルームサーバPC102はさらに、データサーバ118を介してルームサーバPC102から情報を受信する、少なくとも1つのデータクライアント108に動作可能に結合される。加えて、データクライアント108は、データサーバ118から受信された情報のユーザへの提示を容易にする、ユーザインターフェイス(UI)114を備えることができる。データクライアントは、例えば、ラップトップ、ハンドヘルドコンピューティングデバイス、PDA、携帯電話、または、データサーバ118から情報を受信して、このような情報を会議に参加するユーザに有意味な方法で提示することができる、いかなる他の適切なデバイス上でも実行中である可能性がある。システム100のデータクライアント108は、AVクライアント112から分離しており、異なるものであり、これは、AVサーバ116での集中AVコントロールを容易にして、仮想会議に出席しているローカルユーザが個々のAVクライアントなしに同時にAV関連データを受信することができるようにするためである。本発明のこの態様は、豊かにされた仮想会議環境を提供するために必要とされたシステムコンポーネントの数を減らすことによって、システム100を合理化する。しかし、データクライアント108を実行する個々のPCは、ユーザがそのように望む場合、AVクライアント112を追加として備えることができることを理解されたい。
図2は、本発明の一態様によるマルチメディア会議環境内のリアルタイム情報交換を容易にするシステム200の例示である。システム200はルームサーバPC202を備え、ルームサーバPC202は、ルームサーバ(図示せず)を介して中央サーバ機能性を提供し、ビデオコンポーネント204、オーディオコンポーネント206、および少なくとも1つのデータクライアント208の各々に動作可能に関連付けられる。ルームサーバPC202は、仮想会議環境の態様を介してルームサーバPC202にコントロール機能性を与えるバーチャルディレクタ210、および、ソフトウェアアプリケーションを提供して、送信、ならびに、バーチャルディレクタ210および/またはユーザのオーディオおよびビデオ情報のコントロールを容易にするAVクライアント212を備える。このような情報をユーザに、AVクライアント212に関連付けられたユーザインターフェイス(図示せず)を介して提示することができる。
バーチャルディレクタ210はさらに、会議環境の様々な態様に関連付けられた情報を解析するプロセッサ216、および、この情報を格納するメモリ218に関連付けられる。プロセッサ216を、会議環境に関係付けられた情報の処理に専用のプロセッサ、リアルタイムマルチメディア会議システム200の1つまたは複数のコンポーネントをコントロールするプロセッサ、または、会議環境に関係付けられた情報を処理し、リアルタイムマルチメディア会議システム200の1つまたは複数のコンポーネントをコントロールするプロセッサにすることができることを理解されたい。加えて、プロセッサ216およびメモリ218はバーチャルディレクタ210に関連付けられるとして例示されるが、複数のプロセッサ216および/またはメモリ218が、本明細書で説明する他のコンポーネント内に存在することができること、および、プロセッサ216およびメモリ218はバーチャルディレクタ210のみへの関連付けに限定されないことを理解されたい。
さらに、メモリコンポーネント218に関連して、本明細書で説明するメモリ(例えば、データストア)コンポーネントを揮発性メモリまたは不揮発性メモリにすることができ、あるいは、メモリコンポーネントは揮発性および不揮発性メモリを含むことができることを理解されたい。例示として、限定ではなく、不揮発性メモリには、読み取り専用メモリ(ROM)、プログラマブルROM(PROM)、電気的プログラマブルROM(EPROM)、電気的消去可能ROM(EEPROM)、またはフラッシュメモリが含まれる可能性がある。揮発性メモリにはランダムアクセスメモリ(RAM)が含まれる可能性があり、これは外部キャッシュメモリとしての機能を果たす。例示として、限定ではなく、RAMは多数の形態において使用可能であり、これらの形態は、シンクロナスRAM(SRAM)、ダイナミックRAM(DRAM)、シンクロナスDRAM(SDRAM)、ダブルデータレートSDRAM(DDR SDRAM)、拡張SDRAM(ESDRAM)、シンクリンクDRAM(SLDRAM)、および直接Rambus RAM(DRRAM)などである。このシステムおよび方法のメモリは、それだけに限定されることなく、これらおよび他のいかなる適切なタイプのメモリをも含むように意図される。
ルームサーバPC202はさらにAVサーバ220を備え、AVサーバ220は、ルームサーバPC202内のAVクライアント212と、例えば、リモートユーザによってリモートPC上で起動されたリモートAVクライアント(図示せず)の間のAV通信を調整する。加えて、ルームサーバPC202は、リモートPC上で実行するか、会議室内に存在するローカルPC上で実行するかにかかわらず、複数のデータクライアント208の間のデータコラボレーションを調整するデータサーバ222を備える。AVクライアント212に加えて、データクライアント208をルームサーバPC202上で実行することができるが、その上で実行される必要はないことを理解されたい。
このとき、図3を見ると、本明細書で使用されるとき、「推測」という語は一般に、イベントおよび/またはデータを介してキャプチャされたような観察のセットから、システム、環境および/またはユーザの状態について推論または推測するプロセスを指す。推測を使用して、特定のコンテキストまたはアクションを識別することができ、あるいは例えば、推測は複数の状態にわたる確率分布を生成することができる。推測は確率的である場合があり、すなわち、データおよびイベントの考慮に基づいた、関心のある複数の状態にわたる確率分布の計算である場合がある。推測はまた、イベントおよび/またはデータのセットからより高いレベルのイベントを構成するために使用される技術を指すこともできる。このような推測は結果として、イベントが時間的に密接に近接して相関されるかどうかにかかわらず、また、イベントおよびデータが1つのイベントおよびデータソースから来るか、複数のイベントおよびデータソースから来るかにかかわらず、観察されたイベントおよび/または格納されたイベントデータのセットからの、新しいイベントまたはアクションの構築となる。様々な分類スキームおよび/またはシステム(例えば、サポートベクトルマシン、ニューラルネットワーク、エキスパートシステム、ベイジアンビリーフネットワーク(Bayesian belief networks)、ファジー論理、データフュージョンエンジンなど)を、本発明に関連して自動および/または推測されたアクションを実行することに関連して使用することができる。
なお図3を参照して、本発明の一態様による会議環境内のリアルタイムマルチメディア情報共有を容易にするシステム300を例示する。この図によれば、システム300はルームサーバPC302を備え、ルームサーバPC302は、ビデオコンポーネント304、オーディオコンポーネント306、および少なくとも1つのデータクライアント308の各々に動作可能に結合される。ルームサーバPC302は、仮想会議環境の態様を介してルームサーバPC302にコントロール機能性を提供するバーチャルディレクタ310、および、ソフトウェアアプリケーションを提供して、送信、ならびに、システムおよび/またはユーザのオーディオおよび/またはビデオ情報のコントロールを容易にするAVクライアント312を備える。このような情報をユーザに、AVクライアント312に関連付けられたユーザインターフェイス(図示せず)を介して提示することができる。
バーチャルディレクタ310は、会議環境に関連付けられた情報をそれぞれ解析および格納する、プロセッサ316およびメモリ318に関連付けられる。加えて、バーチャルディレクタ310は、例えばユーザへの情報の提示に関して推測を行うことができる人工知能コンポーネント320を備える。もう1つの実施例によれば、ユーザは、例えば、データクライアント308、AVクライアント312またはその両方を、ルームサーバPC302およびルームサーバPC302が位置する会議室からリモートのロケーション内のコンピューティングデバイス上で起動することを介して、仮想会議に出席することができる。さらにこの実施例では、会議環境とのAV通信を望む、別のロケール内のユーザは、リモートAVクライアントを例えば携帯電話から起動することができる。しかし、携帯電話は、例えば、ラップトップまたはPCのグラフィカル機能を有する可能性は低く、ルームサーバPC302上のAVサーバ322から受信された情報により潜在的に過負荷をかけられる可能性がある。AIコンポーネント320は、リモートユーザの携帯電話のグラフィカル機能、ダウンロード速度などに関して推論を行うことができ、携帯電話上のユーザインターフェイスの制限を越えることなく情報をリモートユーザに提示することを容易にするために適切な方法で、会議関連データを携帯電話にパッケージおよび/または送信することができる。前述の実施例は例示のために意図され、このような推論が行われる前述のシステムまたは方法によって行うことができる推論の数を限定するように意図されないことを理解されたい。
バーチャルディレクタ310およびAVクライアント312に加えて、ルームサーバPC302はAVサーバ322を備えることができ、AVサーバ322は、ルームサーバPC302内のローカルAVクライアント312と、例えば、リモートPC上のリモートユーザによって起動されたリモートAVクライアント(図示せず)の間、および/または、2つ以上のリモートで実行するAVクライアントの間のAV通信を調整する。加えて、ルームサーバPC302は、リモートPC上で実行するか、会議室内に存在するローカルPC上で実行するかにかかわらず、複数のデータクライアント308の間のデータコラボレーションを調整するデータサーバ324を備えることができる。AVクライアント312に加えて、データクライアントをルームサーバPC302上で実行することができるが、その上で実行される必要はないことを理解されたい。
図4は、本発明の一態様によるマルチメディア会議環境内でリアルタイム情報交換を容易にするシステム400の例示である。ルームサーバPC402は、ビジュアル情報を会議環境から集めることができるビデオコンポーネント404に、動作可能に結合される。ルームサーバPC402はさらに、会議環境をモニタリングし、その中の音に関係付けられたデータを収集する、オーディオコンポーネント406に動作可能に関連付けられる。ルームサーバPCはなお、少なくとも1つのデータクライアント408にさらに動作可能に結合され、データクライアント408は、それ自体と会議環境内のルームサーバPC402内に常駐するデータサーバ428の間のデータコラボレーションを容易にし、情報をユーザに、UI414を介して提示する。以前の態様および図に関して前述したように、ルームサーバPC402はバーチャルディレクタ410、および、UI(図示せず)を有するAVクライアント412を備える。バーチャルディレクタ410は加えて、会議環境に関連付けられたデータを解析するプロセッサ416、メモリコンポーネント418、および、会議環境内の情報交換に関する推測を行うAIコンポーネント420に関連付けられる。
本発明のこの態様によれば、ビデオコンポーネント404は、それが位置する会議室のリアルタイムビデオ情報を提供することができるデジタル自動パン/チルト/ズーム(DPTZ)カメラ422を備えることができる。バーチャルディレクタ410はDPTZカメラ422に、会議室内の所与の瞬間に話す人物をフレームするように命令することができ、このようなイメージをルームサーバPC402内に常駐するAVサーバ426によって受信し、AVクライアント412に関連付けられたUIを介してリアルタイムで配布することができる。例えば、会議室のビデオを高解像度で送信するには、著しい量の情報が送信されることが必要となる。バーチャルディレクタは、会議室のイメージの残りを低解像度で提示しながら、話者を高解像度で提示することによって、大きい送信を軽減することができる。イメージの大部分を低解像度で送信することによって、送信のサイズを著しく減らすことができる。加えて、DPTZカメラ422は自動ワープ機能性を提供することができ、それにより、会議室内に存在する各出席者のサイズを、DPTZカメラ422からの各出席者の相対距離にもかかわらず、均等にすることができる。本発明のこの特定の態様を、以下でさらに詳細に論じる。
ビデオコンポーネント404はさらに、ウェブカメラなど、ドキュメントキャプチャコンポーネント424を備えることができ、このコンポーネントは、ドキュメントのハードコピーを、リアルタイムで各ユーザに提示することができる電子コピーに変換することを可能にする。例えば、ドキュメントキャプチャコンポーネントは、紙のドキュメント、ミーティングの覚書を含むホワイトボードなどの静止画像を撮影し、このようなドキュメントを電子的に、後に見直すために保持することなどができる。さらに、キャプチャされた後、ドキュメントを即時にユーザに、印刷準備済みのフォーマットで配布することができる。
図5は、本発明の一態様による会議環境内でリアルタイム情報交換を容易にするシステム500の例示である。ルームサーバPC502は、会議室環境をモニタリングして、例えば会議に関連付けられたビデオデータをキャプチャするビデオコンポーネント504、および、会議室をモニタリングして、それに関係付けられたオーディオ情報を集めるオーディオコンポーネント506に、動作可能に結合される。ルームサーバPC502はさらにデータクライアント508に動作可能に関連付けられ、データクライアント508はデータコラボレーション機能性を提供し、ルームサーバ(図示せず)から受信された情報をルームサーバPC502上でユーザに、ユーザインターフェイス514を介して提示することができる。
ルームサーバPC502は、AV情報配布および/または収集の自動コントロールを容易にするバーチャルディレクタ510、および、ソフトウェアアプリケーション、プログラム、プロセス、スレッドなどを提供して、オーディオおよび/またはビデオフォーマットにおける情報の受信および/または配布を容易にする、AVクライアント512を備える。AVクライアント512はデータクライアント508から分離して別個のものであり、これは、各ローカルユーザのパーソナルコンピューティングデバイスでの分離したAVクライアントの必要性を軽減することを容易にすることに留意されたい。バーチャルディレクタ510は、システム500の様々なコンポーネントのコントロールを容易にし、および/または、そこから受信された情報を解析する、プロセッサ516に関連付けられる。バーチャルディレクタ510はさらに、システムコンポーネントから受信され、および/または、プロセッサ516によって解析された、情報を格納することができるメモリ518に関連付けられる。加えて、バーチャルディレクタ510は、例えば、少なくとも1人のユーザへの情報の配布などに関して推測を行うことができる、AIコンポーネント520を備える。
ビデオコンポーネント504は、例えば会議室環境をモニタリングすることができるDPTZカメラを備える。個々のリモートユーザは選択的に、リモートユーザのコンピューティングデバイス上で起動された各AVクライアント512を介してリモートユーザに提示されたリアルタイムイメージの異なる領域へ、ズーム、パン、チルトなどを行うことができる。本発明のこの態様は、会議室内のルームサーバPC502の物理的ロケーションとは異なるロケーションから会議に参加するユーザにとって、特に有用となる場合がある。ビデオコンポーネント504はさらにドキュメントキャプチャコンポーネント524を備え、このコンポーネントは、メモのハードコピー、ホワイトボード上のミーティングの覚書、または、ユーザが電子的形態で保持すること、および/または、リモートユーザと共有することを望む、他のいずれかのドキュメントなど、ドキュメントのイメージをキャプチャすることができる。このようなイメージをすべてのユーザに即時に提示して、イメージをキャプチャすると、イメージがユーザに即時に見えるようにし、ユーザが望む場合は印刷準備済みであるようにすることができる。
オーディオコンポーネント506は、マイクロフォンアレイ526および話者追跡コンポーネント528を備える。話者追跡コンポーネント528は、オーディオコンポーネント506によって含まれるように例示されるが、話者追跡コンポーネント528はAVクライアント512および/またはバーチャルディレクタ510によって含まれる可能性があり、図5に例示される物理的位置付けに限定されないことを理解されたい。マイクロフォンアレイ526はハイファイの、ノイズのないオーディオ情報のキャプチャを提供することができる。さらに、マイクロフォンアレイは方向情報を提供することができ、この情報を解析して、たとえば、会議室内で話している人物のロケーションを、話者追跡コンポーネントを介して決定することができる。
加えて、視覚ベースの追跡を、例えば、バーチャルディレクタ510によって、ビデオコンポーネント504(例えば、広角ウェブカメラ、DPTZカメラなど)から受信されたデータに少なくとも部分的に基づいて容易にすることができる。このようなものは、拍手、および、マイクロフォンアレイの精度が損なわれる可能性のある室内反射など、大量の環境ノイズを備えるシナリオで特に有用となる場合がある。広角ルームカメラによってキャプチャされたビデオを、視覚ベースの追跡アルゴリズム(例えば、動作ベース、外観ベース、粒子フィルタベースの手法など)によって使用することができる。さらに、マイクロフォンアレイからの方向情報および視覚ベースの追跡結果を、例えば、バーチャルディレクタ510に関連付けられた粒子フィルタ(図示せず)(または、他の適切な機械学習技術)によって融合して、マイクロフォンアレイの方向情報または視覚ベースの追跡情報のいずれかだけよりも正確かつ頑強な追跡結果を作成することができる。
ルームサーバPC502はさらに、ルームサーバPC502内のAVクライアント512と、例えば、リモートPC上のリモートユーザによって起動されたリモートAVクライアント(図示せず)の間のAV通信を調整する、AVサーバ530を備える。加えて、ルームサーバPC502は、リモートPC上で実行するか、会議室内に存在するローカルPC上で実行するかにかかわらず、2つ以上のデータクライアント508の間のデータコラボレーションを調整するデータサーバ532を備える。AVクライアント512に加えて、データクライアント508をルームサーバPC502上で実行することができるが、その上で実行される必要はないことを理解されたい。
図6は、本発明の一態様による基本会議環境600の例示である。この図によれば、会議環境600は、ルームサーバPC602および少なくとも2つのデータクライアント604を備え、データクライアント604は、ラップトップ、タブレットPCなど、ユーザのコンピューティングデバイス上に常駐することができる。オプショナルで、データクライアント604はルームサーバPC602上に常駐することができる。
各データクライアント604は、図6ではラップトップとして例示され、データコラボレーション機能をユーザに提供する。本発明の一態様によれば、ラップトップ、タブレットPCなどの上で実行するデータクライアント604により会議室に入るユーザは、ルームサーバPC602上に常駐するルームサーバによって識別され、会議に加わるように招待されることが可能である。例えば、ユーザを、データクライアント604に関連付けられたIPアドレス、データクライアント604および/またはユーザに関連付けられた電子メールアドレス、各ミーティングのためにルームサーバによって生成された一意のユニバーサルリソースロケータ(URL)IDなどを介して、識別することができる。さらに、ユーザにパスワードを入力するように促して、データクライアント604のユーザが実際に、そのユーザがそうであると主張する人物(例えば、会議、ミーティングなどに招待される人物)であることを検証することができる。
ルームサーバPC602は、複数のデータクライアント604の間のデータコラボレーションを容易にするデータサーバを備え、管理する。例えば、各データクライアント604はドラッグアンドドロップファイル転送機能を備え、ユーザがファイルを、各データクライアント604に関連付けられたユーザインターフェイス(UI)の一部としてユーザに提示された「ローカル」および「サーバ」領域の間でドラッグすることができるようにし、このファイルは即時にデータクライアント604からルームサーバPC602内のデータサーバへコピーされるようになり、その逆も同じようになる。ファイルがルームサーバPC内のデータサーバへコピーされた後、ミーティングのすべての出席者はファイルへの完全なアクセスを有する。ファイルは、ワープロのドキュメント、スプレッドシート、または、作成、転送、格納などを行うことができる他のいかなる適切なファイルなどのドキュメントにすることもできる。
本発明の関連する態様は、各データクライアント604に関連付けられたユーザインターフェイス(UI)の一部としてユーザに提示された「プレゼンテーションシュート」を介した、ドラッグアンドドロップファイルブロードキャスト機能を提供する。この態様によれば、例えば、PowerPointプレゼンテーションなどのプレゼンテーションファイルを、プレゼンテーションシュート上でドラッグおよびリリースすることができる。シュートに入れた後、プレゼンテーションを即時に、ルームサーバPC602内のデータサーバを介して、ミーティングに出席している他のデータクライアント604に、他のデータクライアント604がリモートであるかローカルであるかにかかわらず、提示することができる。加えて、プレゼンテーションの送信者は、ドキュメントの受信者に付与されたコントロールの量に比較して、プレゼンテーションのさらに高いコントロールを有することができる。例えば、第1のユーザが第2のユーザにプレゼンテーションを送信する場合、第1のユーザは、プレゼンテーションスライドを第1のユーザのプロンプト(例えば、マウスクリック、スタイラスタップ、音声プロンプトなど)の上でのみ進めることができることを必要とすることができる。代替として、第1のユーザはプレゼンテーションコントロールを「アンロック」し、他のユーザがプレゼンテーションを任意に進めることを可能にすることができる。この実施例によれば、複数の受信側ユーザは、個々の必要性に応じてプレゼンテーションを異なる速度で表示することができる。プレゼンテーションシュートを、以下で図7に関してより詳細に論じる。
図7は、データクライアントを介してユーザに提示することができる例示的UI700を例示する。UI700は「サーバファイル」領域702を備え、この領域は、会議室内のルームサーバ上に格納されたファイルを表すサーバファイルアイコン704を備える。UI700はさらに「ローカルファイル」領域706を備え、この領域は、その上でUI700がユーザに提示されるデータクライアント上にローカルで格納されたファイルを表すローカルファイルアイコン708を備える。このように、サーバファイル領域702内のサーバファイルアイコン704は、会議に出席する各データクライアントに対して同じになるが、ローカルファイル領域706内のローカルファイルアイコン708は、データクライアントによって変わる可能性があり、それでも、2つ以上のデータクライアントがUI700のローカルファイル領域706内のローカルファイルアイコン708として表された同じセットのローカルファイルを有するようになることは可能である。ユーザはアイコン708をローカルファイル領域706からドラッグし、サーバファイル領域702内でリリースして、ローカルファイルをサーバにアップロードさせ、それらの各サーバファイル領域702内のファイルに対して他のユーザが受信および/またはアクセスすることを可能にすることができる。加えて、ユーザはサーバファイルアイコン704をローカルファイル領域706上でドラッグアンドドロップして、サーバファイルをユーザのローカルハードドライブにコピーすることができる。
UI700は、複数のデータクライアントの間のプレゼンテーション共有を容易にするプレゼンテーションシュート710を備える。例えば、ユーザはプレゼンテーションファイル(例えば、電子スライドプレゼンテーション、PowerPointプレゼンテーションなど)をプレゼンテーションシュート710上にドラックし、データサーバへのアップロードのために、その上でリリースすることができる。データサーバへの送信に音響効果が伴い、アップロードが進行中であることをユーザに通知することができる。次いで、データサーバは、ミーティングに出席する他のデータクライアントへのファイルブロードキャストを開始することができる。次いで、各データクライアントは個別に適切なデータビューアを起動して、プレゼンテーションを表示することができる。最初にプレゼンテーションファイルをプレゼンテーションシュート710に入れるユーザは、プレゼンテーションの所有者と見なすことができ、プレゼンテーション中にスクロールオペレーション(例えば、前、次など)をコントロールすることができる。代替として、所有者は、データクライアントの受信で複数のユーザの間の非同期化を可能にして、受信するユーザが前方にスキップすること、前のスライドへ戻ること、および、全体的にプレゼンテーションを自分自身のペースで表示することを可能にすることができる。この場合、各UIは「同期化」アイコン(図示せず)を提供することができ、このアイコンはクリックされると、自動的にプレゼンテーションを受信側データクライアント上で、所有者のプレゼンテーションのビューに同期化させるようになる。加えて、所有者のデータクライアントは、すべてのデータクライアントのビューを、起動されたときに所有者のビューに同期化させるようになる、マスタ「同期化」アイコン(図示せず)を有することができる。
このとき図8を見ると、本発明の一態様による会議環境800が例示される。この図によれば、会議環境800は、ルームサーバPC804を有する会議室802を備える。会議室802はさらに少なくとも1つのデータクライアント806を備え、データクライアント806は例えば、ラップトップ、タブレットPC、ハンドヘルドコンピューティングデバイス、または、本明細書で示す本発明の態様と共にユーザインターフェイスをユーザに提示するために適切な他のいかなるデバイス内にも常駐する。会議室802はさらにリモートユーザ代理デバイス808を備え、リモートユーザ代理デバイス808はリモートユーザを等身大に近いサイズで、会議室内に位置するユーザに提示すること、およびその逆を容易にする。代理デバイス808は、ディスプレイ810(例えば、モニタ、フラットパネルディスプレイなど)を備え、その上にDPTZカメラ812、マイクロフォンアレイ814およびスピーカ816が取り付けられる。ミーティングに出席するリモートユーザの数に応じて、1つまたは複数のリモート代理デバイスが存在する可能性があることを理解されたい。加えて、単一のリモート代理デバイスを使用して、多数のリモートユーザの代理をすることができる(例えば、分割画面、ピクチャインピクチャ技術などを介する)。代理デバイス808はルームサーバPC802に動作可能に結合される。
DPTZカメラ812は、会議室およびその中の人々のイメージをキャプチャし、このような情報はルームサーバPC804内のAVサーバと通信するローカルAVクライアントによって、リモートユーザへのプレゼンテーションのために、リモートユーザのPC上で実行するAVクライアントを介して受信される。DPTZカメラ812は自動的に会議室のイメージをワープして、DPTZカメラ812からの個人の実際の距離にかかわらず、その中に位置する出席者がほぼ同じサイズで提示されるようにすることができ、これをより詳細に図9に関して説明する。自動ワーピング機能は、リモートユーザ(または、例えば、図1〜5に関して説明したバーチャルディレクタ)が、DPTZカメラ812から離れて位置する者を含むいかなる人物にもズームインできるようにすることを容易にする。
マイクロフォンアレイ814は、話者の声など、会議室からの音をキャプチャし、それに関連付けられた情報をルームサーバPC804内のAVクライアントへ、リモートユーザへのプレゼンテーションのために提供する。加えて、マイクロフォンアレイ814は、話者の位置に関係付けられた位置情報を、例えば、ルームサーバPC804内のバーチャルディレクタに提供することができ、バーチャルディレクタはこの位置情報を使用して、DPTZカメラ812に、話者の位置にズームするように命令することができる。加えて、このようなズーミングを、本発明の関連する態様によれば、リモートユーザによって実行することができる。
加えて、視覚ベースの追跡をバーチャルディレクタによって、DPTZカメラ812から受信されたデータに基づいて容易にすることができる。DPTZカメラ812によってキャプチャされたビデオを視覚ベースの追跡アルゴリズム(例えば、動作ベース、外観ベース、粒子フィルタベースの手法など)によって使用して、話者のロケーションを決定することができる。さらに、マイクロフォンアレイからの方向情報、および、DPTZカメラ812からの視覚ベースの追跡情報を、粒子フィルタ(または、他の適切な機械学習技術)によって共に融合して、マイクロフォンアレイの方向情報または視覚ベースの追跡情報のいずれかだけよりも正確かつ頑強な追跡結果を作成することができる。
本発明のさらなる態様によれば、会議室の低解像度のビデオに加えて、話者をリモートユーザに高解像度で提示して、話者が話し始めるときに、ルームサーバPC804内のAVクライアントによって受信された位置情報(例えば、マイクロフォンアレイの方向情報および/または視覚ベースの追跡情報)がバーチャルディレクタによって使用されて、会議室内の話者のロケーションが決定されるようにすることができ、DPTZカメラ812は、会議室の低解像度のビデオに加えて、そのロケーションを高解像度で提示するように方向付けられる。イメージの解像度を減らすことを可能にすることによって、帯域幅の制約があるとき、この制約を軽減することができる。マイクロフォンアレイ814はリアルタイム通信オーディオスタックによってサポートされることが可能であり、自動エコーキャンセル、音源の位置測定、ノイズ抑圧(例えば、位置測定されたノイズ源のもの)、および/またはゲインコントロールを提供して、離れた話者に対する可聴性を促進することができる。
スピーカ816は代理デバイス808と共に提供されて、オーディオ情報が会議室内のユーザにリモートロケーションから提示される。このように、リモートユーザは会議室内の出席者にリモートオフィス818a〜818nから話すことができる。各リモートユーザは、会議室からのAV関連情報の受信を容易にするためにそれ自体のAVクライアントを備えることができるコンピュータを有する。加えて、リモートユーザのコンピュータは、リモートデータクライアントとルームサーバPC804内のデータサーバおよび/または会議室内のデータクライアント806の間のデータコラボレーションを容易にする、データクライアントを備えることができる。各リモートオフィス818a〜818nは、マイクロフォン(図示せず)およびウェブカメラ(図示せず)を装備して、リモートオフィス内のAV情報を、リモートオフィス内で実行するAVクライアントを介したルームサーバPC804内のAVサーバへの送信、および、リモート代理デバイス808上のプレゼンテーションのために、キャプチャすることができる。
リモートユーザは、必要であれば例えば携帯電話をUIとして使用することができ、携帯電話がビデオ機能性を有する場合、会議室を、リモート代理デバイス上の広角デジタルビデオカメラを介して表示することができることを理解されたい。しかし、携帯電話を利用して、最低でもオーディオ機能性を提供して、リモートユーザが会議室802内を聞くことができ、会議室内で聞かれることができるようにすることができる。このシナリオでは、リモートユーザにミーティングの開始を、例えば、サーバ804によって携帯電話にかけられた通話によって、ミーティングの別の出席者などによって、通知することができる。加えて、この実施例では、リモートユーザはAVクライアントのみを起動するようになり、これは、データクライアントがリモートユーザによって望まれないからである。
図9は、AVクライアント、バーチャルディレクタなどによる自動ワーピングの前後の、会議室のAVクライアントに関連付けられたユーザインターフェイス上に提示されたイメージの例示的な例示である。例示するように、第1のイメージ902は会議室を示し、この中で4人の出席者がDPTZカメラから様々な距離で座っている。テーブルの端の出席者は、会議の他の出席者に比較して過大された距離で認知される。ワーピングの後、会議室のイメージ904はすべての出席者をより均等にされた配列で提示し、DPTZカメラからの出席者の相対距離はなお認知可能であるが、各個々の出席者は、あらゆる他の出席者に相対的に等しいサイズを有するように提示されるようにする。このように、イメージ904は、室内に物理的に存在する人物によって認知されるビューにより密接に似ている。
自動ワーピングは、ワープされていないイメージ内の各垂直走査線に適用される、異なる拡大率を識別することによって作用する。例えば、大抵の場合、イメージの中心はより拡大されるが、端は拡大されない場合がある。拡大はイメージに渡って平滑に変化し、したがって、いかなるローカルエリア内の歪みも最小限にする。これは結果として、広角の歪みを有するビューとは対照的に、より幅広いがより一様な会議室のビューを生じる。会議室イメージの自動ワーピングは、リモートユーザのための豊かにされた会議体験を容易にする。
図10は、本発明の一態様による、図6で説明したものに類似した会議環境1000を例示する。会議環境1000は会議室1002を備え、データサーバおよびAVサーバの集中コントロールを容易にするルームサーバを備えるルームサーバPC1004、および、少なくとも1つのデータクライアント1006を有する。代理デバイス1008が例示され、これは、図8に関して説明したようなリモートオフィス1014a〜n内のリモートユーザを代理し、この代理デバイスは、その中で説明した特徴および機能性を備える。しかし、現在説明する会議環境1000は、リモートユーザなしに、会議室内に位置する2つ以上のデータクライアント1006を備えることができることを理解されたい。
会議環境1000はさらに、例えば、紙のドキュメント(図示せず)および/またはホワイトボード1012のイメージのキャプチャを容易にする、高解像度ウェブカメラ1010を備える。本明細書で使用されるとき、「ドキュメント」は、ホワイトボード上に書かれたドキュメント、スケッチなどを含むように意図される。ウェブカメラ1010を例えばホワイトボード1012に向けることができ、それによってキャプチャされたイメージを、会議室1002内であるかリモートオフィス1014a〜n内であるかにかかわらず、各ロケーション内で実行するAVクライアントに関連付けられたユーザインターフェイスを介して、すべてのユーザに提示することができる。このようなイメージをリアルタイムで提示することができ、これにより、ホワイトボードへのリアルタイムの更新が容易になり、ホワイトボードへの消去、追加および/または他のいかなる変更もがリモートユーザによって、ならびに、会議室1002内に物理的に存在するユーザにとって認知可能となる。加えて、ウェブカメラ1010は静止画像をキャプチャし、さらなる変更がホワイトボードのコンテンツに行われない場合、ホワイトボード1012の静止画像を、ホワイトボードのロケーションで実行するAVクライアントによってキャプチャして、ルームサーバPC1004内のAVサーバに提示することができ、これは、格納および/または後の見直しのために他のユーザにローカルのAVクライアントに配布するためである。
本発明は単一の会議室1002への適用に限定されないが、むしろ、地理的なロケーションおよび/または互いに対する近接にかかわらず、いかなる数の様々に位置する会議室および/またはオフィスの間でのリアルタイムマルチメディア情報交換をも容易にすることができることを理解されたい。単一の主要会議室1002は、本明細書で例示のためにのみ提示され、その中および/またはその間で本発明が動作することができる会議のロケーション、部屋、オフィスなどの数を限定するように意図されない。加えて、ウェブカメラをいかなるリモートオフィス、2次的会議サイトなどでも提供して、他のAVクライアントへのプレゼンテーションのための、リモートロケーションでのドキュメントおよび/またはホワイトボードのイメージキャプチャを容易にすることができる。
さらに、物理的ドキュメントをウェブカメラ1010によってデジタル撮影することができ、ユーザの見直し、印刷、署名などのためにAVクライアントへ、AVサーバを介して即時に送信することができる。このような「キャプチャおよび送信」プロトコルは、ドキュメントおよび/またはホワイトボードのイメージキャプチャ、イメージの向上、および、即時送信を備えることができる。例えば、リモートユーザの署名を必要とするドキュメントのキャプチャされたイメージを受信するリモートユーザは、そのドキュメントを印刷し、これに署名して、第2のウェブカメラ(図示せず)をリモートロケーションで使用して署名済みドキュメントのイメージをキャプチャし、このイメージをドキュメントの元の送信者に即時に送信し戻すことができる。次いで、元の送信者は署名済みドキュメントを印刷し、電子的に格納することなどができる。署名するユーザがタブレットPCを使用してAVクライアントを実行中である場合、署名するユーザは、タブレットのスタイラスを電子的に利用して署名することができ、署名済みドキュメントを再送信する前に、ドキュメントの印刷および/または第2のウェブカメラの使用を行う必要はない。
シナリオの例
上述のシステムのオペレーションを例示するために、以下の例を提供する。以下は、本明細書で開示するシステムおよび方法に関する潜在的使用シナリオを例示するが、事実上例示的であり、本発明の範囲を限定するように意図されず、これは、他の潜在的使用シナリオが、本発明の範囲および精神に含まれるように企図および意図されるからである。ユーザ1、ユーザ2およびユーザ3はミーティング状況(status meeting)を有している。ユーザ1およびユーザ2は本明細書で説明するような会議室内にいるが、ユーザ3は自分のオフィスからリモートで出席する。会議室には、ルームサーバPC、高解像度ウェブカメラ、および、リモートパーソン代理デバイスがある。ユーザ1はタブレットPCを、ユーザ2はラップトップを会議室に持ち込む。ユーザ1およびユーザ2はユーザ3を代理デバイス上で見て、ユーザ3はユーザ1およびユーザ2を自分のデスクトップディスプレイ上で見る。ユーザ3は明瞭な音声をユーザ1およびユーザ2から聞き、両者をパノラマウィンドウで見ることができ、現在話しているユーザのより大きいビューを見ることができる。ユーザ1およびユーザ2はユーザ3の明瞭な等身大に近いサイズのビデオを見て、ユーザ3を明瞭に聞くこともできる。AVクライアントはルームサーバおよびユーザ3のオフィスPC上で実行中である。データクライアントはユーザ1のタブレット、ユーザ2のラップトップ、およびユーザ3のオフィスPC上で実行中である。
ユーザ2はwordドキュメントをミーティングの直前に編集しており、このドキュメントをミーティングで共有することを望む。ユーザ2は新しいドキュメントを、ユーザ2に表示されたプレゼンテーションシュートにドラッグアンドドロップする。数秒以内に、このドキュメントはユーザ1およびユーザ3のデータクライアント内に現れる。
ユーザ1は、PowerPointファイルを自分のデータクライアントのプレゼンテーションシュートにドラッグアンドドロップする。適切なデータビューアがPowerPointプレゼンテーションと共に、ユーザ2およびユーザ3のコンピュータ上で起動される。ユーザ3はスライドをスキップし、前方にブラウズして、プレゼンテーションのコンテンツを素早く見ることができ、次いで「同期化」ボタンを押して、プレゼンテーションをユーザ1の現在のスライドに戻すように同期化することができる。
ユーザ3はブロック図を自分のオフィスのホワイトボード上に描き、高解像度ウェブカメラをホワイトボードの方に向ける。ユーザ3が「開始...ホワイトボード」アイコンをクリックすると、ホワイトボードのコンテンツがサーバに送信され、ユーザ1およびユーザ2のラップトップ上に現れる。ホワイトボードのコンテンツをリアルタイムで提示することができ、ユーザ3がブロックを消去する場合、ユーザ1およびユーザ2のビューからも消える。ユーザ1は、ホワイトボードのイメージ上で自分のタブレットにより注釈を付けることができ、ミーティングが記録される場合、これらの注釈を保存することができる。
ミーティングの終わり頃に、ユーザ3はミーティング中に行われた決定を承認するユーザ2からの署名を望む。ユーザ3はフォームを自分のデータクライアントインターフェイスのローカルファイル領域からサーバファイル領域にドラッグアンドドロップする。ユーザ2はこのフォームをすぐに受信し、最寄りのプリンタで出力し、このフォームに署名する。ユーザ2は高解像度ウェブカメラを自分のラップトップにプラグインし、カメラを署名済みフォームに向け、自分のデータクライアント内で「開始...(キャプチャおよび送信)」アイコンをクリックする。ユーザ3は「ファックス」をほぼ即時に受信する。ユーザ1の署名も必要とされる場合、ユーザ1は自分のタブレットペンにより電子的に署名することができる。
説明を簡単にするために、本明細書で、例えば流れ図の形態で示した1つまたは複数の方法を、一連の動作として示し、説明するが、本発明は動作の順序によって限定されず、これは、いくつかの動作は本発明によれば、本明細書に示し、説明したものとは異なる順序で、および/または、他の動作と同時に発生することができるからであることを理解されたい。例えば、方法を代替として、一連の相関の状態またはイベントとして状態図などにおいて表現することができることは、当業者には理解されよう。また、例示された動作のすべてが、本発明による方法を実施するために必要とされるとは限らない場合がある。
図11は、本発明の一態様による方法1100の例示である。符号1102で、ルームサーバはAVクライアントを起動して、会議環境内でのリアルタイムマルチメディア情報交換を容易にする。AVクライアント起動は2つの方法で発生する可能性がある。例えば、リモートAVクライアントは、ローカルAVクライアントが常駐するルームサーバによってコントロールされたAVサーバに接続し、ルームサーバに、ローカルAVクライアントを起動するように促すことができる。加えて、ローカルAVクライアントはリモートAVクライアントへの接続を、AVサーバを介して、例えば、所定のミーティング時間などで開始することができる。AVクライアントを備えるソフトウェアはルームサーバ上に常駐し、ルームサーバはまたデータクライアントソフトウェアを起動および/または実行することもできるが、データクライアントおよびAVクライアントは分離した異なるソフトウェアモジュールであることを理解されたい。したがって、ルームサーバがデータクライアントを実行することなくAVクライアントを実行することは可能であり、その逆もまた可能である。
符号1104で、ルームサーバはデータサーバに、会議室にいるか、あるいはログインすることができるいかなるデータクライアントをも探索および識別するように命令する。符号1106で、会議に参加するための権限を有する各データクライアントはログインすることを許可され、このようなログインをパスワード保護することができる。少なくとも2つのデータクライアントがログインした上で、符号1108でミーティングを開始することができ、符号1110で、少なくとも2つのデータクライアントのユーザは、各データクライアントを介してリアルタイムで情報を交換することができ、AVサーバ上で実行するAVクライアントからAV情報を提示されることが可能である。少なくとも2つのデータクライアントは同じロケーションに位置する必要はないが、データクライアントはリモートオフィスからミーティングに出席することができることを理解されたい。このようなシナリオでは、リモートデータクライアントは通常、リモートユーザのオフィスコンピュータ上で実行されるようになり、分離したAVクライアントを起動して、リモートユーザにAVデータを会議室から提供することができ、その間に、リモートデータクライアントはそれ自体と他のデータクライアント、および/または、会議室内のルームサーバPC内のデータサーバの間のデータコラボレーションを容易にする。
図12は、本発明の一態様による会議環境内のほぼ即時のドキュメント表示のための方法1200の例示である。この図によれば、符号1202で、データクライアントのユーザはプレゼンテーション(例えば、電子スライドプレゼンテーションなど)を、データクライアントによってユーザに提示されたユーザインターフェイス(UI)上のプレゼンテーションシュートアイコンにドラッグすることができる。ユーザはプレゼンテーションをこのアイコン上でドロップすることができ、符号1204で、プレゼンテーションはデータサーバにアップロードされるようになる。符号1206で、プレゼンテーションを各データクライアントへ、プレゼンテーションのイメージバージョンとして送信することができる。符号1210で、所有者(例えば、送信者、発信元)が、受信側データクライアントユーザがプレゼンテーションを任意に表示することができるようにするための許可を与えているかどうか、または、所有者がプレゼンテーションをロックしており、所有者のみがプレゼンテーションを進めることができるようにしているかどうかに関して、判断が行われる。所有者が、受信側データクライアントユーザがプレゼンテーションを任意に表示するための許可を付与していない場合、符号1212でプレゼンテーションのコントロールは所有者に残るようになる。しかし、所有者がこのような許可を付与している場合、符号1214でプレゼンテーションの非同期化が可能にされ、プレゼンテーションの所有者が異なるペースで続ける間に、受信者はプレゼンテーション中をスクロールして、例えば、そのコンテンツを熟読することができるようにすることができる。再同期化は、受信者が所有者のプレゼンテーションのペースに戻ることを望むいかなるときでも発生することができる。
図13は、本発明の一態様によるマルチメディア会議環境内でリアルタイムドキュメントキャプチャを容易にする方法1300の例示である。「ドキュメント」は、本明細書で使用されるとき、物理的な紙のドキュメント、会議室および/またはオフィス内のホワイトボード上のスケッチおよび/または覚書などである可能性があることを理解されたい。符号1302で、高解像度ウェブカメラを起動することができる。符号1304で、ドキュメントイメージをキャプチャすることができる。ホワイトボードのコンテンツなど、イメージをリアルタイムビデオとしてキャプチャすることができる。ホワイトボードのイメージは「ホワイトバランス」プロトコルを受ける可能性があり、このプロトコルを介して、このようなイメージを処理し、クリーンにし、シャープ化するなどして、ユーザの表示体験を向上させることができ、次いでこのようなイメージをユーザにリアルタイムで提示することができる。このように、ホワイトボードのコンテンツを変更すること(例えば、追加、消去などによる変更)を、それらの変更が発生するときにユーザによって見ることができる。加えてユーザは、このようなイメージを後に見直すためにいかなるときにも保存することが許可される場合がある。加えて、イメージを静止画像としてキャプチャすることができ、これは、署名を必要とする紙のドキュメントのイメージなどである。このような静止画像をユーザに提示して、インクの署名のための印刷、電子的な署名、タブレットのスタイラスによる署名などを行うことができる。
符号1306で、キャプチャされたドキュメントをAVサーバに、ウェブカメラのローカルのAVクライアントを介してアップロードすることができ、これは、符号1308での他のAVクライアントへの配布のためである。受信された後、符号1310で、各AVクライアントを実行するユーザは、キャプチャされたイメージの表示、印刷、保存などを、操作、後の見直しなどのために行うことができる。このように、本発明は、従来のファクシミリ手順に関連付けられた時間のかかるタスクを軽減し、ユーザの会議環境を高める、即時キャプチャおよび送信機能性を容易にすることができる。
このとき図14を参照すると、開示したアーキテクチャを実行するように動作可能なコンピュータのブロック図が例示される。本発明の様々な態様についての追加のコンテキストを提供するために、図14および以下の考察は、本発明の様々な態様を実施することができる適切なコンピューティング環境1400の簡単な全体的説明を提供するように意図される。本発明を一般に、1つまたは複数のコンピュータ上で実行することができるコンピュータ実行可能命令との関連で上述したが、本発明をまた、他のプログラムモジュールと組み合わせて、および/または、ハードウェアおよびソフトウェアの組み合わせとして実施することもできることは、当業者には理解されよう。一般に、プログラムモジュールには、ルーチン、プログラム、コンポーネント、データ構造などが含まれ、これらは特定のタスクを実行するか、あるいは特定の抽象データ型を実装する。また、本発明の方法を他のコンピュータシステム構成により実施することができ、これらの構成には、シングルプロセッサまたはマルチプロセッサコンピュータシステム、ミニコンピュータ、メインフレームコンピュータ、ならびに、パーソナルコンピュータ、ハンドヘルドコンピューティングデバイス、マイクロプロセッサベースまたはプログラマブルコンシューマエレクトロニクスなどが含まれ、これらの構成の各々は1つまたは複数の関連デバイスに動作可能に結合される場合があることは、当業者には理解されよう。本発明の例示した態様をまた分散コンピューティング環境で実施することもでき、この環境ではタスクが、通信ネットワークを通じてリンクされるリモート処理デバイスによって実行される。分散コンピューティング環境では、プログラムモジュールはローカルおよびリモートのメモリストレージデバイス内に位置することができる。
図14を再度参照すると、本発明の様々な態様を実施するための例示的環境1400が例示され、コンピュータ1402を備え、コンピュータ1402は、処理装置1404、システムメモリ1406、およびシステムバス1408を備える。システムバス1408は、それだけに限定されないが、システムメモリ1406を含むシステムコンポーネントを処理装置1404に結合する。処理装置1404は様々な市販のプロセッサのいずれであってもよい。デュアルマイクロプロセッサおよび他のマルチプロセッサアーキテクチャもまた、処理装置1404として使用することができる。
システムバス1408を、いくつかのタイプのバス構造のいずれにすることもでき、これらのバス構造はさらに、様々な市販のバスアーキテクチャのいずれかを使用するメモリバス(メモリコントローラの有無にかかわらず)、周辺バス、およびローカルバスに相互接続することができる。システムメモリ1406は、読み取り専用メモリ(ROM)1410およびランダムアクセスメモリ(RAM)1412を備える。基本入出力システム(BIOS)は、ROM、EPROM、EEPROMなど、不揮発性メモリ1410に格納され、BIOSは、起動中など、コンピュータ1402内の複数の要素の間で情報を転送する助けとなる基本ルーチンを含む。
コンピュータシステム1402はさらに、ハードディスクドライブ1414、磁気ディスクドライブ1416(例えば、リムーバブルディスク1418に対する読み書きを行うため)、および光ディスクドライブ1420(例えば、CD−ROMディスク1422を読み取ること、または、デジタルビデオディスク(DVD)など、他の大容量光メディアに対する読み書きを行うため)を備える。ハードディスクドライブ1414、磁気ディスクドライブ1416、および光ディスクドライブ1420をシステムバス1408に、それぞれハードディスクドライブインターフェイス1424、磁気ディスクドライブインターフェイス1426、および光ディスクドライブインターフェイス1428によって接続することができる。これらのドライブおよびそれらの関連付けられたコンピュータ可読メディアは、データ、データ構造、コンピュータ実行可能命令などの不揮発性ストレージを提供する。コンピュータ1402では、これらのドライブおよびメディアは、適切なデジタルフォーマットにおけるブロードキャストプログラミングのストレージに対応する。上記のコンピュータ可読メディアの説明は、ハードディスク、リムーバブル磁気ディスクおよびCDに言及するが、zipドライブ、磁気カセット、フラッシュメモリカード、デジタルビデオディスク、カートリッジなど、コンピュータによって可読である他のタイプのメディアもまた例示的オペレーティング環境内で使用することができること、およびさらに、いかなるこのようなメディアも、本発明の方法を実行するためのコンピュータ実行可能命令を含むことができることは、当業者には理解されよう。
いくつかのプログラムモジュールをこれらのドライブおよびRAM1412に格納することができ、これらのプログラムモジュールには、オペレーティングシステム1430、1つまたは複数のアプリケーションプログラム1432、他のプログラムモジュール1434およびプログラムデータ1436が含まれる。本発明を、様々な市販のオペレーティングシステム、または、複数のオペレーティングシステムの組み合わせと共に実施することができることは理解されよう。
ユーザはコマンドおよび情報をコンピュータ1402へ、キーボード1438、および、マウス1440などのポインティングデバイスを通じて入力することができる。他の入力デバイス(図示せず)には、マイクロフォン、IRリモートコントロール、ジョイスティック、ゲームパッド、衛星放送受信アンテナ、スキャナなどが含まれる可能性がある。これらおよび他の入力デバイスはしばしば処理装置1404へ、システムバス1408に結合されるシリアルポートインターフェイス1442を通じて接続されるが、パラレルポート、ゲームポート、ユニバーサルシリアルバス(「USB」)、IRインターフェイスなど、他のインターフェイスによって接続することができる。モニタ1444または他のタイプの表示デバイスもまたシステムバス1408へ、ビデオアダプタ1446などのインターフェイスを介して接続される。モニタ1444に加えて、コンピュータは通常、スピーカ、プリンタなど、他の周辺出力デバイス(図示せず)を備える。
コンピュータ1402はネットワーク環境において、リモートコンピュータ1448など、1つまたは複数のリモートコンピュータへの有線および/または無線通信を介した論理接続を使用して動作することができる。リモートコンピュータ1448は、ワークステーション、サーバコンピュータ、ルーター、パーソナルコンピュータ、ポータブルコンピュータ、マイクロプロセッサベースのエンターテインメント機器、ピアデバイスまたは他の共通ネットワークノードにすることができ、通常は、コンピュータ1402に関連して上述した要素の多数またはすべてを備えるが、簡潔にするため、メモリストレージデバイス1450のみが例示される。図示の論理接続は、ローカルエリアネットワーク(LAN)1452およびワイドエリアネットワーク(WAN)1454を備える。このようなネットワーキング環境は、オフィス、企業全体のコンピュータネットワーク、イントラネットおよびインターネットにおいて一般的である。
LANネットワーキング環境において使用する場合、コンピュータ1402はローカルエリアネットワーク1452へ、有線または無線通信ネットワークインターフェイスまたはアダプタ1456を通じて接続される。アダプタ1456は、LAN1452への有線または無線通信を容易にすることができ、LAN1452はまた、無線アダプタ1456と通信するためにその上に配置された無線アクセスポイントを備えることもできる。WANネットワーキング環境において使用する場合、コンピュータ1402は通常、モデム1458を備え、あるいはLAN上の通信サーバに接続されるか、インターネットなどのWAN1454を介して通信を確立するための他の手段を有する。モデム1458は、内部または外部の有線または無線デバイスであってもよく、システムバス1408へ、シリアルポートインターフェイス1442を介して接続される。ネットワーク環境では、コンピュータ1402に関連して示したプログラムモジュールまたはその一部を、リモートメモリストレージデバイス1450に格納することができる。図示のネットワーク接続は例示的であり、複数のコンピュータの間で通信リンクを確立する他の手段を使用することができることは理解されよう。
コンピュータ1402は、無線通信内に動作可能に配置されたいかなる無線デバイスまたはエンティティ、例えば、プリンタ、スキャナ、デスクトップおよび/またはラップトップコンピュータ、携帯情報端末、無線検出可能なタグに関連付けられた装置またはロケーションのいかなる部分(例えば、キオスク、新聞販売店、休憩室)、および電話と通信するように動作可能である。これは、少なくともWi−FiおよびBluetooth(登録商標)無線技術を備える。このように、従来のネットワークまたは単に少なくとも2つのデバイスの間のアドホック通信と同様に、通信を事前定義された構造にすることができる。
Wi−Fi、すなわちWireless Fidelityは、家のソファー、ホテルの部屋のベッド、または仕事中の会議室から、配線なしにインターネットへの接続を可能にする。Wi−Fiは携帯電話のような無線技術であり、例えば、コンピュータのようなデバイスがデータを室内および室外で、基地局の範囲内のいかなる場所でも送受信することができるようにする。Wi−Fiネットワークは、IEEE 802.11(a、b、gなど)と呼ばれる無線技術を使用して、安全で信頼性のある高速無線接続性を提供する。Wi−Fiネットワークを使用してコンピュータを互いに、インターネットに、また有線ネットワークに(IEEE 802.3またはイーサネットイーサネット(登録商標)を使用)接続することができる。Wi−Fiネットワークは、無認可の2.4および5GHzの無線帯域内で、11Mbps(802.11b)または54Mbps(802.11a)データレートで、または、両方の帯域を含む(デュアルバンド)製品と共に動作し、ネットワークが、多数のオフィスで使用される基本的な10BaseT有線イーサネット(登録商標)ネットワークに類似した実世界のパフォーマンスを提供することができるようにする。
開示したコンピュータ1402はまた、HiperLAN技術と共に使用することもできる。HiperLANは、主として欧州諸国で使用される無線ローカルエリアネットワーク(WLAN)通信規格のセットである。HiperLAN/1およびHiperLAN/2の2つの仕様があり、両方とも欧州電気通信標準化機構によって採用されている。HiperLAN規格は、米国および他の採用諸国で使用されるIEEE 802.11 WLAN規格のものに類似した特徴および機能を提供する。HiperLAN/1は、最大20Mbpsで5GHzの範囲の無線周波数スペクトル内での通信を提供する。HiperLAN/2は最大54Mbpsで同じRF帯域内で動作し、データ、イメージおよび音声通信を送信および受信するために3G(第3世代)WLANシステムと互換性がある。HiperLAN/2は、類似のシステムと共に5GHzのRF帯域内での世界中の実装のための潜在性を有し、そのために意図される。
このとき図15を参照すると、本発明による例示的コンピューティング環境1500の概略ブロック図が例示される。システム1500は1つまたは複数のクライアント1502を備える。クライアント1502をハードウェアおよび/またはソフトウェア(例えば、スレッド、プロセス、コンピューティングデバイス)にすることができる。クライアント1502は、例えば、本発明を使用することによって、クッキーおよび/または関連コンテキスト情報を収容することができる。システム1500はまた、1つまたは複数のサーバ1504も備える。サーバ1504もまた、ハードウェアおよび/またはソフトウェア(例えば、スレッド、プロセス、コンピューティングデバイス)にすることができる。サーバ1504は、例えば、本発明を使用することによって、変換を実行するためのスレッドを収容することができる。クライアント1502とサーバ1504の間の1つの可能な通信は、2つ以上のコンピュータプロセスの間で送信されるように適合されたデータパケットの形式であってもよい。データパケットは、例えば、クッキーおよび/または関連コンテキスト情報を備えることができる。システム1500は、クライアント1502とサーバ1504の間の通信を容易にするために使用することができる、通信フレームワーク1506(例えば、インターネットなど、グローバル通信ネットワーク)を備える。
通信を、有線(光ファイバを備える)および/または無線技術を介して容易にすることができる。クライアント1502は、1つまたは複数のクライアントデータストア1508に動作可能に接続され、クライアントデータストア1508を使用して、情報(例えば、クッキーおよび/または関連コンテキスト情報)をクライアント1502にローカルで格納することができる。同様に、サーバ1504は、1つまたは複数のサーバデータストア1510に動作可能に接続され、サーバデータストア1510を使用して情報をサーバ1504にローカルで格納することができる。
上述したものには本発明の実施例が含まれる。言うまでもなく、本発明を説明するためのコンポーネントまたは方法のあらゆる考えられる組み合わせを説明することは可能ではないが、本発明の多数のさらなる組み合わせおよび置換が可能であることは、当業者には理解されよう。したがって、本発明は、添付の特許請求の範囲の精神および範囲内に入るこのようなすべての変更、修正および変形形態を包含するように意図される。さらに、「含む」という用語が詳細な説明または特許請求の範囲において使用される範囲で、このような用語は、「備える」という用語が、特許請求の範囲で移行語として使用されるときに解釈されるときの「備える」と同様に、包含的であるように意図される。
本発明の一態様による、AV通信を可能にするオーディオ/ビデオ(AV)クライアント、および、データコラボレーション機能性を提供する分離したデータクライアントを備える、マルチメディア会議環境内のリアルタイム情報交換およびデータコラボレーションを容易にするシステム100の例示の図である。 本発明の一態様による、マルチメディア会議環境内のリアルタイム情報交換およびデータコラボレーションを容易にするためのプロセッサおよびメモリを備えるシステム200の例示の図である。 本発明の一態様による、マルチメディア会議環境内のリアルタイム情報交換およびデータコラボレーションを容易にするために推論を行う、人工知能コンポーネントを備えるシステム300の例示の図である。 本発明の一態様による、マルチメディア会議環境内でデジタル自動パン/チルト/ズームカメラおよび/またはウェブカメラを使用することを介してリアルタイム情報交換を容易にするシステム400の例示の図である。 本発明の一態様による、マルチメディア会議環境内でマイクロフォンアレイを介してリアルタイム情報交換を容易にするシステム500の例示の図である。 本発明の一態様による、マルチメディア会議環境内のデータコラボレーションを容易にするためのルームサーバおよび少なくとも2つのデータクライアントを備えるシステム600の例示の図である。 本発明の一態様による、マルチメディア会議環境内のリアルタイム情報交換およびデータコラボレーションを容易にする例示的ユーザインターフェイス700の例示の図である。 本発明の一態様による、少なくとも1つのリモートに位置する会議サイト内でインターフェイスを提供するリモート代理デバイスを備える、リアルタイム情報交換およびデータコラボレーションを容易にするマルチメディア会議環境800の例示の図である。 本発明の一態様による、マルチメディア会議環境内のリアルタイムAV情報交換を容易にするために、AVクライアントに関連付けられたユーザインターフェイスを介して提示することができるものなど、例示的なワープされたビデオイメージの例示の図である。 本発明の一態様による、少なくとも1つの十分に装備された会議室および少なくとも1つのリモートに位置する会議サイトを備えることにおいて、リアルタイム情報交換およびデータコラボレーションを容易にするマルチメディア会議環境1000の例示の図である。 本発明の一態様による、マルチメディア会議環境内のリアルタイム情報交換を提供するため、および、ユーザが会議に出席することを許可するための方法1100の例示の図である。 本発明の一態様による、マルチメディア会議環境内のリアルタイム情報交換を提供するため、および、プレゼンテーション共有を容易にするための方法1200の例示の図である。 本発明の一態様による、マルチメディア会議環境内のリアルタイム情報交換を提供するため、および、リアルタイムドキュメントキャプチャを容易にするための方法1300の例示の図である。 本発明の態様による例示的コンピューティング環境1400の例示の図である。 本発明の態様による例示的コンピューティング環境1500の例示の図である。
符号の説明
100 会議環境
102 ルームサーバPC
104 ビデオコンポーネント
106 オーディオコンポーネント
108 データクライアント
110 バーチャルディレクタ
112 AVクライアント
114 ユーザインターフェイス
116 AVサーバ
118 データサーバ
200 会議環境
202 ルームサーバPC
204 ビデオコンポーネント
206 オーディオコンポーネント
208 データクライアント
210 バーチャルディレクタ
212 AVクライアント
214 ユーザインターフェイス
216 プロセッサ
218 メモリ
220 AVサーバ
222 データサーバ
300 会議環境
302 ルームサーバPC
304 ビデオコンポーネント
306 オーディオコンポーネント
308 データクライアント
310 バーチャルディレクタ
312 AVクライアント
314 ユーザインターフェイス
316 プロセッサ
318 メモリ
320 AIコンポーネント
322 AVサーバ
324 データサーバ
400 会議環境
402 ルームサーバPC
404 ビデオコンポーネント
406 オーディオコンポーネント
408 データクライアント
410 バーチャルディレクタ
412 AVクライアント
414 ユーザインターフェイス
416 プロセッサ
418 メモリ
420 AIコンポーネント
422 DPTZカメラ
424 ドキュメントキャプチャコンポーネント
426 AVサーバ
428 データサーバ
500 会議環境
502 ルームサーバPC
504 ビデオコンポーネント
506 オーディオコンポーネント
508 データクライアント
510 バーチャルディレクタ
512 AVクライアント
514 ユーザインターフェイス
516 プロセッサ
518 メモリ
520 AIコンポーネント
522 DPTZカメラ
524 ドキュメントキャプチャコンポーネント
526 マイクロフォンアレイ
528 話者追跡コンポーネント
530 AVサーバ
532 データサーバ
1404 処理装置
1408 バス
1406 システムメモリ
1410 ROM
1412 RAM
1414 内部HDD
1414 外部HDD
1416 FDD
1418 ディスク
1420 CDドライブ
1422 ディスク
1424 インターフェイス
1426 インターフェイス
1428 インターフェイス
1430 オペレーティングシステム
1432 アプリケーション
1434 モジュール
1436 データ
1438 キーボード
1440 マウス
1442 入力デバイスインターフェイス
1444 モニタ
1446 ビデオアダプタ
1448 リモートコンピュータ
1450 メモリ/ストレージ
1456 ネットワークアダプタ
1458 モデム
1502 クライアント
1504 サーバ
1506 通信フレームワーク
1508 クライアントデータストア
1510 サーバデータストア

Claims (44)

  1. 会議環境内の複数のユーザの間のリアルタイム情報交換を容易にするシステムであって、
    会議関連情報を受信し、各ユーザに提示する少なくとも2つのデータクライアントであって、各データクライアントはプレゼンテーションシュートアイコンを有するユーザインターフェイスをその中に備えるデータクライアントと、
    前記少なくとも2つのデータクライアントの各々と通信し、少なくとも1つのリアルタイム通信チャネルを介してデータ転送を可能にする、ルームサーバおよびデータサーバと
    を備えることを特徴とするシステム。
  2. 少なくとも1つのデータクライアントは前記ルームサーバのローカルに位置し、少なくとも1つのデータクライアントは前記ルームサーバからリモートに位置することを特徴とする請求項1に記載のシステム。
  3. 前記会議環境は、リモートユーザを代理する少なくとも1つのリモートパーソン代理デバイス、および、前記少なくとも1つのリモートパーソン代理デバイスによって代理された前記少なくとも1人のリモートユーザにオーディオおよびビデオ通信情報を提供するオーディオ/ビデオ(AV)クライアントを備えることを特徴とする請求項2に記載のシステム。
  4. 前記少なくとも1つのリモートに位置するデータクライアントは、マイクロフォンおよびウェブカメラを備えるリモートパーソナルコンピュータ上で実行されることを特徴とする請求項3に記載のシステム。
  5. 前記リモートパーソナルコンピュータは、オーディオおよびビデオ情報をリモートロケーションで調整するAVクライアントを備えることを特徴とする請求項4に記載のシステム。
  6. データクライアントは、パーソナルコンピュータ、ラップトップ、タブレット、ハンドヘルドコンピューティングデバイス、パーソナルデスクトップアシスタント、および携帯電話のうち少なくとも1つの上で実行することを特徴とする請求項2に記載のシステム。
  7. ローカルロケーション内で静止画像および/またはビデオをキャプチャし、前記キャプチャされたデータを前記ローカルロケーション内のAVクライアントに、1つまたは複数のリモートロケーション内の1つまたは複数のAVクライアントへの配布のために提供する、ビデオコンポーネントをさらに備えることを特徴とする請求項6に記載のシステム。
  8. 前記ビデオコンポーネントは、会議室テーブルに存在するユーザの広角ビデオをキャプチャするデジタルカメラを備えることを特徴とする請求項7に記載のシステム。
  9. 前記デジタルカメラをコントロールするバーチャルディレクタをさらに備えることを特徴とする請求項8に記載のシステム。
  10. 前記ビデオコンポーネントは、リアルタイム配布のためにドキュメントの高解像度イメージをキャプチャするウェブカメラをさらに備えることを特徴とする請求項8に記載のシステム。
  11. 会議室内のオーディオ情報をキャプチャし、前記キャプチャされたデータを前記会議室内のAVクライアントに、1つまたは複数のリモートロケーション内の1つまたは複数のAVクライアントへの配布のために提供する、オーディオコンポーネントをさらに備えることを特徴とする請求項6に記載のシステム。
  12. 前記オーディオコンポーネントにコントロールを及ぼし、および/または、前記オーディオコンポーネントに関して推測を行う、バーチャルディレクタをさらに備えることを特徴とする請求項11に記載のシステム。
  13. 前記オーディオコンポーネントは前記会議室内の周辺ノイズを低減することを特徴とする請求項11に記載のシステム。
  14. 前記オーディオコンポーネントは前記会議室内でエコー軽減を提供することを特徴とする請求項11に記載のシステム。
  15. 前記オーディオコンポーネントは、オーディオデータキャプチャ、ノイズリダクションおよび自動エコー軽減のうち少なくとも1つを容易にする、マイクロフォンアレイを備えることを特徴とする請求項11に記載のシステム。
  16. 前記オーディオコンポーネントは前記会議室内で話者の位置を決定することを特徴とする請求項15に記載のシステム。
  17. 前記ユーザインターフェイスは、サーバファイルアイコンを備える第1の領域、および、ローカルファイルアイコンを備える第2の領域をさらに備えることを特徴とする請求項1に記載のシステム。
  18. 前記プレゼンテーションシュートアイコンは、第1のデータクライアントのユーザがファイルを前記プレゼンテーションシュートアイコン上に、前記サーバへの即時アップロードおよび少なくとも第2のデータクライアントへの配布のために、ドラッグアンドドロップすることを可能にすることを特徴とする請求項17に記載のシステム。
  19. 前記ファイルは電子スライドプレゼンテーションであることを特徴とする請求項18に記載のシステム。
  20. 会議環境内のリアルタイムマルチメディア情報交換を容易にするシステムであって、
    会議室内に位置するルームサーバと、
    パーソナルコンピューティングデバイス上で実行してデータコラボレーションを容易にし、前記会議室内に位置する、1つまたは複数のローカルデータクライアントと、
    前記会議室から少なくとも1つの異なるロケーション内の1つまたは複数のリモートパーソナルコンピューティングデバイス上で実行する、1つまたは複数のリモートデータクライアントと、
    少なくとも1つの前記会議室および少なくとも1つの異なるロケーションで実行する、ゼロまたは複数のオーディオ/ビデオ(A/V)クライアントと
    を備えることを特徴とするシステム。
  21. 前記1つまたは複数のリモートパーソナルコンピューティングデバイスは、マイクロフォン、ウェブカメラおよびAVクライアントを装備するパーソナルコンピュータを備えることを特徴とする請求項20に記載のシステム。
  22. 前記1つまたは複数のリモートパーソナルコンピューティングデバイスは携帯電話を備えることを特徴とする請求項20に記載のシステム。
  23. リモートユーザがリアルタイムオーディオおよびビデオデータを前記会議室から受信すること、および、前記会議室内で前記会議室内のユーザによって見られることを可能にする、前記ルームサーバに接続されたリモート代理デバイスをさらに備えることを特徴とする請求項20に記載のシステム。
  24. 前記リモート代理デバイスは、フラットパネルディスプレイ、デジタル自動パン/チルト/ズーム(DPTZ)カメラ、マイクロフォンアレイ、および、少なくとも1つのスピーカを備えることを特徴とする請求項23に記載のシステム。
  25. 前記リモートユーザは前記DPTZカメラをコントロールして、前記DPTZカメラによってキャプチャされたデジタルイメージの特定の領域にパン、チルトおよび/またはズームすることを特徴とする請求項24に記載のシステム。
  26. 前記DPTZカメラはバーチャルディレクタによって、前記会議室内の話者に自動的にパン、チルトおよび/またはズームするようにコントロールされ、前記コントロールは少なくとも部分的には、
    前記マイクロフォンアレイから集められた前記会議室内の前記話者のロケーションに関する位置情報、および
    前記DPTZカメラによってキャプチャされたビデオから集められた視覚ベースの追跡情報のうち少なくとも1つに基づくことを特徴とする請求項25に記載のシステム。
  27. 前記視覚ベースの追跡情報は、話者の動き、話者の外観、および、粒子フィルタベースの解析のうち少なくとも1つに基づくことを特徴とする請求項26に記載のシステム。
  28. 前記バーチャルディレクタは、話者が位置するデジタルビデオイメージのローカライズされた領域を、前記デジタルビデオイメージの残りよりも高い解像度で提示することを特徴とする請求項26に記載のシステム。
  29. 前記会議環境は、複数の会議室および複数のリモートロケーションのうち少なくとも1つを備え、その各々は少なくとも1つのデータクライアントまたは1つのAVクライアントを備えることを特徴とする請求項20に記載のシステム。
  30. 前記複数の会議室および前記複数のリモートロケーションの各々はAVクライアントを備えることを特徴とする請求項29に記載のシステム。
  31. 会議室内のリアルタイムマルチメディア情報交換を容易にするシステムであって、
    ルームサーバPC上に常駐し、情報交換の集中コントロールを提供するルームサーバと、
    AV通信をコントロールし、前記ルームサーバPC内に常駐するローカルオーディオ/ビデオ(A/V)クライアントと、
    前記ルームサーバに接続された1つまたは複数のデータクライアントとを備え、前記1つまたは複数のデータクライアントは前記AVクライアントから分離しており、異なることを特徴とするシステム。
  32. 前記ルームサーバは、前記1つまたは複数のデータクライアントと通信するデータサーバを備えることを特徴とする請求項31に記載のシステム。
  33. 前記ルームサーバは、前記ローカルAVクライアントおよびゼロまたは複数のリモートAVクライアントに結合されたAVサーバを備えることを特徴とする請求項32に記載のシステム。
  34. 1人または複数のリモートユーザを代理するリモート代理デバイスをさらに備えることを特徴とする請求項31に記載のシステム。
  35. 前記リモート代理デバイスは、モニタ、前記会議室のビデオをキャプチャする広角ウェブカメラ、前記会議室内のオーディオをキャプチャするマイクロフォンアレイ、および、少なくとも1つのスピーカを備えることを特徴とする請求項34に記載のシステム。
  36. ドキュメントの高解像度イメージおよび/またはビデオをキャプチャするウェブカメラをさらに備えることを特徴とする請求項35に記載のシステム。
  37. リアルタイムマルチメディア会議環境内でデータクライアントの自動発見を容易にする方法であって、
    会議室内で、複数のデータクライアントを集中管理することができるサーバを起動するステップと、
    新しいデータクライアントを前記会議環境に導入するステップと、
    前記新しいデータクライアントの識別を決定するステップと、
    前記新しいデータクライアントの、前記会議に参加するための許可を検証するステップと、
    前記サーバと前記新しいデータクライアントの間の通信リンクを、許可の検証の上で開始するステップと
    を備えることを特徴とする方法。
  38. ユーザを会議に参加するように、前記ユーザに関連付けられたデータクライアントへの通知を介して招待するステップをさらに備えることを特徴とする請求項37に記載の方法。
  39. 前記データクライアントの識別は、電子メールアドレス、インターネットプロトコルアドレス、および、前記データクライアントに割り当てられたユニバーサルリソースロケータ識別のうち、少なくとも1つを介して決定されることを特徴とする請求項37に記載の方法。
  40. ユーザにパスワードを入力するように促して、前記データクライアントの前記ユーザが、前記データクライアントが関連付けられる人物であることを保証するために、ユーザ識別を検証するステップをさらに備えることを特徴とする請求項37に記載の方法。
  41. リアルタイムマルチメディア情報交換を容易にするシステムであって、
    オーディオ/ビデオ情報を、第1のロケーション、および、前記第1のロケーションからリモートの第2のロケーションのうち少なくとも1つにおいてキャプチャする手段と、
    キャプチャされたオーディオ/ビデオ情報を少なくとも2人のユーザに提示する手段であって、各ユーザは前記第1および第2のロケーションのうち少なくとも1つに位置する手段と、
    データコラボレーションを前記少なくとも2人のユーザの間で可能にする手段と、
    通信リンクを前記少なくとも2人のユーザの間で提供する手段と
    を備えることを特徴とするシステム。
  42. 第1のユーザから少なくとも第2のユーザへの、バイナリフォーマットにおけるリアルタイムドキュメント転送を可能にする手段と、
    転送されたドキュメントを指定されたタイプのドキュメントとして認識し、受信側ユーザへ、前記指定されたタイプに従って提示する手段と
    をさらに備えることを特徴とする請求項41に記載のシステム。
  43. ユーザを会議に参加するように招待する手段をさらに備えることを特徴とする請求項41に記載のシステム。
  44. マルチメディア会議環境内のリアルタイム情報交換のための方法であって、
    データコラボレーションを可能にするデータクライアントを提供するステップと、
    AV通信を可能にするAVクライアントを提供するステップとを備え、
    前記AVクライアントおよび前記データクライアントは互いに独立して動作することを特徴とする方法。
JP2005123951A 2004-04-30 2005-04-21 新規なリアルタイムオーディオビジュアル通信およびデータコラボレーションのためのシステムおよび方法 Pending JP2005318589A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US10/836,778 US7634533B2 (en) 2004-04-30 2004-04-30 Systems and methods for real-time audio-visual communication and data collaboration in a network conference environment

Publications (1)

Publication Number Publication Date
JP2005318589A true JP2005318589A (ja) 2005-11-10

Family

ID=34939304

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005123951A Pending JP2005318589A (ja) 2004-04-30 2005-04-21 新規なリアルタイムオーディオビジュアル通信およびデータコラボレーションのためのシステムおよび方法

Country Status (5)

Country Link
US (1) US7634533B2 (ja)
EP (1) EP1592198B1 (ja)
JP (1) JP2005318589A (ja)
KR (1) KR101224815B1 (ja)
CN (1) CN1694528B (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010003288A (ja) * 2008-06-23 2010-01-07 Samsung Electronics Co Ltd ネットワーク基盤のサービス提供システム及び方法
JP5355782B2 (ja) * 2010-03-31 2013-11-27 株式会社日立メディコ 制御装置及び方法
US8743022B2 (en) 2010-10-26 2014-06-03 Ricoh Company, Ltd. Screen sharing system, screen sharing method, and storage medium
JP2015187889A (ja) * 2010-10-26 2015-10-29 株式会社リコー 画面共有サービス提供システム、画面共有方法、情報処理装置およびプログラム
JP2015535635A (ja) * 2012-11-28 2015-12-14 マイクロソフト テクノロジー ライセンシング,エルエルシー 対話型ホワイトボード共有
US9781193B2 (en) 2013-03-15 2017-10-03 Ricoh Company, Limited Distribution control system, distribution system, distribution control method, and computer-readable storage medium
US10250665B2 (en) 2013-03-15 2019-04-02 Ricoh Company, Limited Distribution control system, distribution system, distribution control method, and computer-readable storage medium
US10782844B2 (en) 2012-12-11 2020-09-22 Microsoft Technology Licensing, Llc Smart whiteboard interactions

Families Citing this family (214)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7233933B2 (en) * 2001-06-28 2007-06-19 Microsoft Corporation Methods and architecture for cross-device activity monitoring, reasoning, and visualization for providing status and forecasts of a users' presence and availability
US8667401B1 (en) 2004-05-26 2014-03-04 Adobe Systems Incorporated System and method for archiving collaborative electronic meetings
US7512883B2 (en) * 2004-06-30 2009-03-31 Microsoft Corporation Portable solution for automatic camera management
US9779750B2 (en) 2004-07-30 2017-10-03 Invention Science Fund I, Llc Cue-aware privacy filter for participants in persistent communications
US9704502B2 (en) * 2004-07-30 2017-07-11 Invention Science Fund I, Llc Cue-aware privacy filter for participants in persistent communications
US8054336B2 (en) * 2004-10-15 2011-11-08 Lifesize Communications, Inc. High definition pan tilt zoom camera with embedded microphones and thin cable for data and power
US7903137B2 (en) * 2004-10-15 2011-03-08 Lifesize Communications, Inc. Videoconferencing echo cancellers
US7970151B2 (en) * 2004-10-15 2011-06-28 Lifesize Communications, Inc. Hybrid beamforming
US7667728B2 (en) * 2004-10-15 2010-02-23 Lifesize Communications, Inc. Video and audio conferencing system with spatial audio
US7720232B2 (en) * 2004-10-15 2010-05-18 Lifesize Communications, Inc. Speakerphone
KR100611255B1 (ko) * 2004-10-15 2006-08-10 한국과학기술연구원 작업 공간을 공유하는 원격 회의 방법
US7760887B2 (en) * 2004-10-15 2010-07-20 Lifesize Communications, Inc. Updating modeling information based on online data gathering
US8237770B2 (en) 2004-10-15 2012-08-07 Lifesize Communications, Inc. Audio based on speaker position and/or conference location
US7720236B2 (en) * 2004-10-15 2010-05-18 Lifesize Communications, Inc. Updating modeling information based on offline calibration experiments
US7717629B2 (en) * 2004-10-15 2010-05-18 Lifesize Communications, Inc. Coordinated camera pan tilt mechanism
US7473040B2 (en) * 2004-10-15 2009-01-06 Lifesize Communications, Inc. High definition camera pan tilt mechanism
US7826624B2 (en) * 2004-10-15 2010-11-02 Lifesize Communications, Inc. Speakerphone self calibration and beam forming
US7688345B2 (en) * 2004-10-15 2010-03-30 Lifesize Communications, Inc. Audio output in video conferencing and speakerphone based on call type
US8116500B2 (en) * 2004-10-15 2012-02-14 Lifesize Communications, Inc. Microphone orientation and size in a speakerphone
US20060132595A1 (en) * 2004-10-15 2006-06-22 Kenoyer Michael L Speakerphone supporting video and audio features
US7707262B1 (en) * 2004-12-28 2010-04-27 Aol Llc Negotiating content controls
TW200532544A (en) * 2005-03-09 2005-10-01 Tul Corp Personal multimedia on-line broadcasting system and method thereof
US20060235927A1 (en) * 2005-04-19 2006-10-19 Bhakta Dharmesh N System and method for synchronizing distributed data streams for automating real-time navigation through presentation slides
US7991167B2 (en) * 2005-04-29 2011-08-02 Lifesize Communications, Inc. Forming beams with nulls directed at noise sources
US7593539B2 (en) 2005-04-29 2009-09-22 Lifesize Communications, Inc. Microphone and speaker arrangement in speakerphone
US7970150B2 (en) * 2005-04-29 2011-06-28 Lifesize Communications, Inc. Tracking talkers using virtual broadside scan and directed beams
US9165281B2 (en) * 2005-06-07 2015-10-20 Hewlett-Packard Development Company, L.P. System and method for enabling electronic presentations
US20070011231A1 (en) * 2005-07-06 2007-01-11 Microsoft Corporation Application and user interface for facilitating a meeting
JP2009509387A (ja) * 2005-09-19 2009-03-05 エヌエックスピー ビー ヴィ 複数のネットワーク出力装置上における音声放送の再生同期方法
US20070150512A1 (en) * 2005-12-15 2007-06-28 Microsoft Corporation Collaborative meeting assistant
US20070143682A1 (en) * 2005-12-16 2007-06-21 International Business Machines Corporation PRESENTATION NAVIGATION OVER VOICE OVER INTERNET PROTOCOL (VoIP) LINK
US20070143681A1 (en) * 2005-12-16 2007-06-21 International Business Machines Corporation Presentation navigation over voice link
FR2897225B1 (fr) * 2006-02-08 2008-12-12 Realeyes3D Sa Procede pour la saisie, l'archivage, la consultation et la transmission d'un document a un destinataire a l'aide d'une camera
FR2897224B1 (fr) * 2006-02-08 2009-01-16 Realeyes3D Sa Procede pour la saisie, l'archivage, la consultation et la transmission d'un document a un destinataire a l'aide d'une camera.
US8214395B2 (en) * 2006-04-21 2012-07-03 Microsoft Corporation Tracking and editing a resource in a real-time collaborative session
US20080004729A1 (en) * 2006-06-30 2008-01-03 Nokia Corporation Direct encoding into a directional audio coding format
US9419843B2 (en) * 2006-07-06 2016-08-16 Broadcom Corporation Custom ASIC combining VoIP and security IP
US8773494B2 (en) 2006-08-29 2014-07-08 Microsoft Corporation Techniques for managing visual compositions for a multimedia conference call
US8990305B2 (en) * 2006-10-18 2015-03-24 Microsoft Corporation Techniques for virtual conferencing servers
US20080147430A1 (en) * 2006-12-18 2008-06-19 Hawthorne John D Virtual Event Attendance Systems
US20080155701A1 (en) * 2006-12-22 2008-06-26 Yahoo! Inc. Method and system for unauthorized content detection and reporting
US8675847B2 (en) 2007-01-03 2014-03-18 Cisco Technology, Inc. Scalable conference bridge
US7924655B2 (en) 2007-01-16 2011-04-12 Microsoft Corp. Energy-based sound source localization and gain normalization
US20080184115A1 (en) * 2007-01-29 2008-07-31 Fuji Xerox Co., Ltd. Design and design methodology for creating an easy-to-use conference room system controller
GB2446191A (en) * 2007-01-31 2008-08-06 Hewlett Packard Development Co Reconnecting disconnected conference calls within a terminal device
US7911955B2 (en) * 2007-01-31 2011-03-22 Hewlett-Packard Development Company, L.P. Coordinated media control system
US20090106670A1 (en) * 2007-10-20 2009-04-23 Philipp Christian Berndt Systems and methods for providing services in a virtual environment
US20080307349A1 (en) * 2007-06-08 2008-12-11 Microsoft Corporation Sharing a computer display across a network
CN101329705B (zh) * 2007-06-22 2011-07-27 鸿富锦精密工业(深圳)有限公司 具有签章功能的手持设备及利用手持设备进行签章的方法
US8782527B2 (en) 2007-06-27 2014-07-15 Microsoft Corp. Collaborative phone-based file exchange
US9178957B2 (en) * 2007-09-27 2015-11-03 Adobe Systems Incorporated Application and data agnostic collaboration services
US20090106429A1 (en) * 2007-10-22 2009-04-23 Matthew L Siegal Collaborative music network
US9420014B2 (en) 2007-11-15 2016-08-16 Adobe Systems Incorporated Saving state of a collaborative session in an editable format
WO2009089045A1 (en) * 2008-01-08 2009-07-16 Kessler Jonathan A Image based interaction and communication method
US9705935B2 (en) * 2008-01-14 2017-07-11 Qualcomm Incorporated Efficient interworking between circuit-switched and packet-switched multimedia services
US20110002469A1 (en) * 2008-03-03 2011-01-06 Nokia Corporation Apparatus for Capturing and Rendering a Plurality of Audio Channels
US9300912B2 (en) * 2008-03-28 2016-03-29 Microsoft Technology Licensing, Llc Software based whiteboard capture solution for conference room meetings
EP2321978A4 (en) 2008-08-29 2013-01-23 Dev Audio Pty Ltd MICROPHONE NETWORK SYSTEM AND METHOD FOR ACQUIRING SOUNDS
US8924862B1 (en) 2008-09-05 2014-12-30 Cisco Technology, Inc. Optimizing desktop sharing for wireless clients during networked collaboration
US7945622B1 (en) 2008-10-01 2011-05-17 Adobe Systems Incorporated User-aware collaboration playback and recording
US8131828B2 (en) * 2008-10-03 2012-03-06 Cisco Technology, Inc. Selectively joining clients to meeting servers
US8301792B2 (en) * 2008-10-28 2012-10-30 Panzura, Inc Network-attached media plug-in
US9294291B2 (en) 2008-11-12 2016-03-22 Adobe Systems Incorporated Adaptive connectivity in network-based collaboration
US10880340B2 (en) 2008-11-26 2020-12-29 Free Stream Media Corp. Relevancy improvement through targeting of information based on data gathered from a networked device associated with a security sandbox of a client device
US9386356B2 (en) 2008-11-26 2016-07-05 Free Stream Media Corp. Targeting with television audience data across multiple screens
US10977693B2 (en) 2008-11-26 2021-04-13 Free Stream Media Corp. Association of content identifier of audio-visual data with additional data through capture infrastructure
US9026668B2 (en) 2012-05-26 2015-05-05 Free Stream Media Corp. Real-time and retargeted advertising on multiple screens of a user watching television
US10567823B2 (en) 2008-11-26 2020-02-18 Free Stream Media Corp. Relevant advertisement generation based on a user operating a client device communicatively coupled with a networked media device
US9154942B2 (en) 2008-11-26 2015-10-06 Free Stream Media Corp. Zero configuration communication between a browser and a networked media device
US8180891B1 (en) 2008-11-26 2012-05-15 Free Stream Media Corp. Discovery, access control, and communication with networked services from within a security sandbox
US9961388B2 (en) 2008-11-26 2018-05-01 David Harrison Exposure of public internet protocol addresses in an advertising exchange server to improve relevancy of advertisements
US9986279B2 (en) 2008-11-26 2018-05-29 Free Stream Media Corp. Discovery, access control, and communication with networked services
US10419541B2 (en) 2008-11-26 2019-09-17 Free Stream Media Corp. Remotely control devices over a network without authentication or registration
US9519772B2 (en) 2008-11-26 2016-12-13 Free Stream Media Corp. Relevancy improvement through targeting of information based on data gathered from a networked device associated with a security sandbox of a client device
US10334324B2 (en) 2008-11-26 2019-06-25 Free Stream Media Corp. Relevant advertisement generation based on a user operating a client device communicatively coupled with a networked media device
US10631068B2 (en) 2008-11-26 2020-04-21 Free Stream Media Corp. Content exposure attribution based on renderings of related content across multiple devices
US8468253B2 (en) * 2008-12-02 2013-06-18 At&T Intellectual Property I, L.P. Method and apparatus for multimedia collaboration using a social network system
US20100153858A1 (en) * 2008-12-11 2010-06-17 Paul Gausman Uniform virtual environments
US8239905B2 (en) * 2009-01-22 2012-08-07 Microsoft Corporation Lecture capture and broadcast system
US9742849B2 (en) * 2009-01-30 2017-08-22 Hewlett-Packard Development Company, L.P. Methods and systems for establishing collaborative communications between devices using ambient audio
JP2010220119A (ja) * 2009-03-18 2010-09-30 Konica Minolta Business Technologies Inc 会議システムおよび画像データ管理方法
US8164617B2 (en) 2009-03-25 2012-04-24 Cisco Technology, Inc. Combining views of a plurality of cameras for a video conferencing endpoint with a display wall
US9274624B2 (en) * 2009-03-31 2016-03-01 Ricoh Company, Ltd. Annotating digital files of a host computer using networked tablet computers
US9134947B2 (en) * 2009-03-31 2015-09-15 Ricoh Company, Ltd. Annotating digital files of a host computer using a peripheral device
US8863007B2 (en) * 2009-04-03 2014-10-14 International Business Machines Corporation Programmatic information transfer
US8914462B2 (en) 2009-04-14 2014-12-16 Lg Electronics Inc. Terminal and controlling method thereof
US8730871B2 (en) * 2009-05-22 2014-05-20 Raytheon Company System and method for providing voice communications over a multi-level secure network
US20100306685A1 (en) * 2009-05-29 2010-12-02 Microsoft Corporation User movement feedback via on-screen avatars
US8276077B2 (en) * 2009-07-10 2012-09-25 The Mcgraw-Hill Companies, Inc. Method and apparatus for automatic annotation of recorded presentations
US9277021B2 (en) * 2009-08-21 2016-03-01 Avaya Inc. Sending a user associated telecommunication address
US9538299B2 (en) * 2009-08-31 2017-01-03 Hewlett-Packard Development Company, L.P. Acoustic echo cancellation (AEC) with conferencing environment templates (CETs)
US8448073B2 (en) * 2009-09-09 2013-05-21 Viewplicity, Llc Multiple camera group collaboration system and method
US8380225B2 (en) 2009-09-14 2013-02-19 Microsoft Corporation Content transfer involving a gesture
US8441515B2 (en) * 2009-09-17 2013-05-14 Sony Corporation Method and apparatus for minimizing acoustic echo in video conferencing
US9367876B2 (en) * 2009-09-18 2016-06-14 Salesforce.Com, Inc. Systems and methods for multimedia multipoint real-time conferencing allowing real-time bandwidth management and prioritized media distribution
GB2475237B (en) 2009-11-09 2016-01-06 Skype Apparatus and method for controlling communication signalling and media
US8631334B2 (en) * 2009-12-31 2014-01-14 International Business Machines Corporation Virtual world presentation composition and management
CN102143347B (zh) * 2010-02-01 2013-09-11 广州市启天科技股份有限公司 一种多方远程互动系统
US8521816B2 (en) * 2010-03-19 2013-08-27 Microsoft Corporation Latency reduction in collaborative presentation sharing environment
US9628722B2 (en) 2010-03-30 2017-04-18 Personify, Inc. Systems and methods for embedding a foreground video into a background feed based on a control input
GB201005454D0 (en) 2010-03-31 2010-05-19 Skype Ltd Television apparatus
GB2479180B (en) 2010-03-31 2016-06-01 Skype System of user devices
CN102238363A (zh) * 2010-04-28 2011-11-09 黄金富 采用蓝牙耳麦的视像会议系统和相应方法
US20110270663A1 (en) * 2010-04-30 2011-11-03 American Teleconferncing Services Ltd. Location-Aware Conferencing With Participant Rewards
US20110271207A1 (en) * 2010-04-30 2011-11-03 American Teleconferencing Services Ltd. Location-Aware Conferencing
US20110271197A1 (en) * 2010-04-30 2011-11-03 American Teleconferncing Services Ltd. Distributing Information Between Participants in a Conference via a Conference User Interface
CN102244759A (zh) * 2010-05-12 2011-11-16 宇泰华科技股份有限公司 直觉式交谈方法
US8649592B2 (en) 2010-08-30 2014-02-11 University Of Illinois At Urbana-Champaign System for background subtraction with 3D camera
CN102065339B (zh) * 2010-11-09 2013-03-20 中国电信股份有限公司 音视频媒体流的播放方法与系统
US9276972B2 (en) 2010-12-14 2016-03-01 Microsoft Technology Licensing, Llc Real-time media optimization over remoted sessions
US9055189B2 (en) 2010-12-16 2015-06-09 Microsoft Technology Licensing, Llc Virtual circular conferencing experience using unified communication technology
US10404762B2 (en) 2010-12-31 2019-09-03 Skype Communication system and method
US9717090B2 (en) 2010-12-31 2017-07-25 Microsoft Technology Licensing, Llc Providing notifications of call-related services
US10291660B2 (en) 2010-12-31 2019-05-14 Skype Communication system and method
US8963982B2 (en) 2010-12-31 2015-02-24 Skype Communication system and method
CN102546724A (zh) * 2010-12-31 2012-07-04 上海博泰悦臻电子设备制造有限公司 基于后台服务器的便携式信息处理方法和系统
US8384757B2 (en) 2011-01-11 2013-02-26 Baker Hughes Incorporated System and method for providing videoconferencing among a plurality of locations
US9277248B1 (en) 2011-01-26 2016-03-01 Amdocs Software Systems Limited System, method, and computer program for receiving device instructions from one user to be overlaid on an image or video of the device for another user
US8411132B2 (en) 2011-01-27 2013-04-02 Audio Properties, Inc. System and method for real-time media data review
JP5716549B2 (ja) * 2011-05-27 2015-05-13 株式会社リコー 会議支援システム、情報処理装置及び資料配信プログラム
US20130002532A1 (en) * 2011-07-01 2013-01-03 Nokia Corporation Method, apparatus, and computer program product for shared synchronous viewing of content
US8803991B2 (en) * 2011-10-12 2014-08-12 Cisco Technology, Inc. Snapshot capture in video stream
US20130103770A1 (en) * 2011-10-25 2013-04-25 Microsoft Corporation Distributed semi-synchronized event driven playback of multimedia
US10007734B2 (en) * 2011-11-01 2018-06-26 Microsoft Technology Licensing, Llc Real time document presentation data synchronization through generic service
US9019336B2 (en) * 2011-12-30 2015-04-28 Skype Making calls using an additional terminal
CN102595096A (zh) * 2012-02-28 2012-07-18 律典(上海)信息技术有限公司 基于图形图像同步的跨平台会议系统
GB2511668A (en) * 2012-04-12 2014-09-10 Supercell Oy System and method for controlling technical processes
US9633125B1 (en) * 2012-08-10 2017-04-25 Dropbox, Inc. System, method, and computer program for enabling a user to synchronize, manage, and share folders across a plurality of client devices and a synchronization server
KR102009928B1 (ko) 2012-08-20 2019-08-12 삼성전자 주식회사 협업 구현 방법 및 장치
US9931566B2 (en) * 2014-01-29 2018-04-03 Eddie's Social Club, LLC Game system with interactive show control
US9325943B2 (en) 2013-02-20 2016-04-26 Microsoft Technology Licensing, Llc Providing a tele-immersive experience using a mirror metaphor
CN103347003B (zh) * 2013-06-19 2016-03-02 腾讯科技(深圳)有限公司 一种语音互联方法、装置及系统
WO2015026834A1 (en) * 2013-08-19 2015-02-26 Nant Holdings Ip, Llc Camera-to-camera interactions, systems and methods
CN103490800A (zh) * 2013-09-25 2014-01-01 深圳市欧珀通信软件有限公司 一种蓝牙传输文件的方法及装置
US10289863B2 (en) 2013-10-10 2019-05-14 Elwha Llc Devices, methods, and systems for managing representations of entities through use of privacy beacons
US10834290B2 (en) 2013-10-10 2020-11-10 Elwha Llc Methods, systems, and devices for delivering image data from captured images to devices
US10346624B2 (en) 2013-10-10 2019-07-09 Elwha Llc Methods, systems, and devices for obscuring entities depicted in captured images
US10102543B2 (en) 2013-10-10 2018-10-16 Elwha Llc Methods, systems, and devices for handling inserted data into captured images
US10013564B2 (en) * 2013-10-10 2018-07-03 Elwha Llc Methods, systems, and devices for handling image capture devices and captured images
CN104753974A (zh) * 2013-12-25 2015-07-01 珠海金山办公软件有限公司 一种文档共享浏览方法及系统
US9485433B2 (en) * 2013-12-31 2016-11-01 Personify, Inc. Systems and methods for iterative adjustment of video-capture settings based on identified persona
US9414016B2 (en) 2013-12-31 2016-08-09 Personify, Inc. System and methods for persona identification using combined probability maps
US9883138B2 (en) 2014-02-26 2018-01-30 Microsoft Technology Licensing, Llc Telepresence experience
US9716861B1 (en) 2014-03-07 2017-07-25 Steelcase Inc. Method and system for facilitating collaboration sessions
US10664772B1 (en) 2014-03-07 2020-05-26 Steelcase Inc. Method and system for facilitating collaboration sessions
DE102014004068A1 (de) 2014-03-20 2015-09-24 Unify Gmbh & Co. Kg Verfahren und Vorrichtung zur Steuerung einer Konferenz
US9955318B1 (en) 2014-06-05 2018-04-24 Steelcase Inc. Space guidance and management system and method
US9766079B1 (en) 2014-10-03 2017-09-19 Steelcase Inc. Method and system for locating resources and communicating within an enterprise
US9380682B2 (en) 2014-06-05 2016-06-28 Steelcase Inc. Environment optimization for space based on presence and activities
US10433646B1 (en) 2014-06-06 2019-10-08 Steelcaase Inc. Microclimate control systems and methods
US11744376B2 (en) 2014-06-06 2023-09-05 Steelcase Inc. Microclimate control systems and methods
US10291597B2 (en) 2014-08-14 2019-05-14 Cisco Technology, Inc. Sharing resources across multiple devices in online meetings
JP6715826B2 (ja) * 2014-08-25 2020-07-01 ザ エスエスシージー グループ,エルエルシー コンテンツ管理およびプレゼンテーションシステムならびに方法
US9852388B1 (en) 2014-10-03 2017-12-26 Steelcase, Inc. Method and system for locating resources and communicating within an enterprise
US10542126B2 (en) 2014-12-22 2020-01-21 Cisco Technology, Inc. Offline virtual participation in an online conference meeting
CN104639861B (zh) * 2015-02-06 2016-04-06 福州新锐同创电子科技有限公司 一种高清录播系统
JP6519239B2 (ja) * 2015-03-12 2019-05-29 株式会社リコー 伝送システム、情報処理装置、プログラムおよび情報処理方法
US9948786B2 (en) 2015-04-17 2018-04-17 Cisco Technology, Inc. Handling conferences using highly-distributed agents
US11113022B2 (en) * 2015-05-12 2021-09-07 D&M Holdings, Inc. Method, system and interface for controlling a subwoofer in a networked audio system
US11209972B2 (en) 2015-09-02 2021-12-28 D&M Holdings, Inc. Combined tablet screen drag-and-drop interface
US9916668B2 (en) 2015-05-19 2018-03-13 Personify, Inc. Methods and systems for identifying background in video data using geometric primitives
US9563962B2 (en) 2015-05-19 2017-02-07 Personify, Inc. Methods and systems for assigning pixels distance-cost values using a flood fill technique
US10733371B1 (en) 2015-06-02 2020-08-04 Steelcase Inc. Template based content preparation system for use with a plurality of space types
GB2540226A (en) * 2015-07-08 2017-01-11 Nokia Technologies Oy Distributed audio microphone array and locator configuration
EP3335418A1 (en) 2015-08-14 2018-06-20 PCMS Holdings, Inc. System and method for augmented reality multi-view telepresence
CN105338286B (zh) * 2015-10-30 2019-03-05 杭州华为企业通信技术有限公司 一种辅流传输方法及装置
US10291762B2 (en) 2015-12-04 2019-05-14 Cisco Technology, Inc. Docking station for mobile computing devices
US9621795B1 (en) * 2016-01-08 2017-04-11 Microsoft Technology Licensing, Llc Active speaker location detection
US10762712B2 (en) 2016-04-01 2020-09-01 Pcms Holdings, Inc. Apparatus and method for supporting interactive augmented reality functionalities
CN107333117B (zh) * 2016-04-29 2022-10-28 中兴通讯股份有限公司 投影设备、会议系统及投影设备控制方法
CN105933639A (zh) * 2016-05-31 2016-09-07 乐视控股(北京)有限公司 视频通话演示方法及装置
US9921726B1 (en) 2016-06-03 2018-03-20 Steelcase Inc. Smart workstation method and system
US9883155B2 (en) 2016-06-14 2018-01-30 Personify, Inc. Methods and systems for combining foreground video and background video using chromatic matching
US10574609B2 (en) 2016-06-29 2020-02-25 Cisco Technology, Inc. Chat room access control
US9881207B1 (en) 2016-10-25 2018-01-30 Personify, Inc. Methods and systems for real-time user extraction using deep learning networks
US10592867B2 (en) 2016-11-11 2020-03-17 Cisco Technology, Inc. In-meeting graphical user interface display using calendar information and system
US10516707B2 (en) 2016-12-15 2019-12-24 Cisco Technology, Inc. Initiating a conferencing meeting using a conference room device
US10264213B1 (en) 2016-12-15 2019-04-16 Steelcase Inc. Content amplification system and method
BR112019015971A2 (pt) * 2017-02-02 2020-03-24 Notarize, Inc. Sistema e método para sincronização de interações de reunião notarial entre múltiplos clientes de software
KR102580418B1 (ko) * 2017-02-07 2023-09-20 삼성에스디에스 주식회사 어쿠스틱 에코 제거 장치 및 방법
US10515117B2 (en) 2017-02-14 2019-12-24 Cisco Technology, Inc. Generating and reviewing motion metadata
US9942519B1 (en) 2017-02-21 2018-04-10 Cisco Technology, Inc. Technologies for following participants in a video conference
JP6944177B2 (ja) * 2017-03-01 2021-10-06 株式会社デプロイゲート コミュニケーションプログラム、情報処理装置、及びコミュニケーション方法
US10440073B2 (en) 2017-04-11 2019-10-08 Cisco Technology, Inc. User interface for proximity based teleconference transfer
US10375125B2 (en) 2017-04-27 2019-08-06 Cisco Technology, Inc. Automatically joining devices to a video conference
US10404481B2 (en) 2017-06-06 2019-09-03 Cisco Technology, Inc. Unauthorized participant detection in multiparty conferencing by comparing a reference hash value received from a key management server with a generated roster hash value
WO2018226508A1 (en) 2017-06-09 2018-12-13 Pcms Holdings, Inc. Spatially faithful telepresence supporting varying geometries and moving users
US10375474B2 (en) 2017-06-12 2019-08-06 Cisco Technology, Inc. Hybrid horn microphone
CN107526518A (zh) * 2017-06-15 2017-12-29 北京仁光科技有限公司 一种远程指挥系统及其远程指挥方法
US10477148B2 (en) 2017-06-23 2019-11-12 Cisco Technology, Inc. Speaker anticipation
US10516709B2 (en) 2017-06-29 2019-12-24 Cisco Technology, Inc. Files automatically shared at conference initiation
US10706391B2 (en) 2017-07-13 2020-07-07 Cisco Technology, Inc. Protecting scheduled meeting in physical room
US10091348B1 (en) 2017-07-25 2018-10-02 Cisco Technology, Inc. Predictive model for voice/video over IP calls
US10931733B2 (en) * 2017-08-24 2021-02-23 Re Mago Ltd Method, apparatus, and computer-readable medium for transmission of files over a web socket connection in a networked collaboration workspace
US10771621B2 (en) 2017-10-31 2020-09-08 Cisco Technology, Inc. Acoustic echo cancellation based sub band domain active speaker detection for audio and video conferencing applications
BR112020018877A2 (pt) * 2018-03-16 2020-12-29 Re Mago Ltd Método, dispositivo de computação local e meio de armazenamento legível por computador não transitório para transmissão de arquivos através de uma conexão de soquete da web em um espaço de trabalho de colaboração em rede
JP7087556B2 (ja) * 2018-03-29 2022-06-21 株式会社リコー 共用支援サーバ、共用システム、支援方法、及びプログラム
US10951859B2 (en) 2018-05-30 2021-03-16 Microsoft Technology Licensing, Llc Videoconferencing device and method
US20200293261A1 (en) * 2019-03-15 2020-09-17 Microsoft Technology Licensing, Llc User Interaction with Shared Content During a Virtual Meeting
CN110336679A (zh) * 2019-06-22 2019-10-15 广州市宽泰电子科技有限公司 一种会议系统及方法
US11088861B2 (en) 2019-08-16 2021-08-10 Logitech Europe S.A. Video conference system
US11038704B2 (en) 2019-08-16 2021-06-15 Logitech Europe S.A. Video conference system
US11258982B2 (en) 2019-08-16 2022-02-22 Logitech Europe S.A. Video conference system
US11095467B2 (en) * 2019-08-16 2021-08-17 Logitech Europe S.A. Video conference system
CN110691331B (zh) * 2019-08-30 2021-11-02 国家电网有限公司 基于蓝牙mesh技术的会议演示方法、装置及终端设备
CN112750247A (zh) * 2019-10-30 2021-05-04 京东方科技集团股份有限公司 参会者身份识别方法、身份识别系统、计算机设备和介质
US11368538B2 (en) * 2020-09-14 2022-06-21 Box, Inc. Platform-agnostic drag-and-drop operations
US11750745B2 (en) 2020-11-18 2023-09-05 Kelly Properties, Llc Processing and distribution of audio signals in a multi-party conferencing environment
US11461067B2 (en) * 2020-12-17 2022-10-04 International Business Machines Corporation Shared information fields with head mounted displays
US11800056B2 (en) 2021-02-11 2023-10-24 Logitech Europe S.A. Smart webcam system
US11800048B2 (en) 2021-02-24 2023-10-24 Logitech Europe S.A. Image generating system with background replacement or modification capabilities
US11943072B2 (en) 2021-03-30 2024-03-26 Snap Inc. Providing a room preview within a virtual conferencing system
US11689696B2 (en) 2021-03-30 2023-06-27 Snap Inc. Configuring participant video feeds within a virtual conferencing system
US11233852B1 (en) * 2021-04-06 2022-01-25 Microsoft Technology Licensing, Llc Computing system for co-controlling presentation of content

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05300509A (ja) * 1992-04-17 1993-11-12 Nippon Telegr & Teleph Corp <Ntt> 会議状況表示処理方法
JPH0654323A (ja) * 1992-05-13 1994-02-25 Ncr Internatl Inc 仮想会議システム
JPH0779288A (ja) 1993-09-06 1995-03-20 Hitachi Ltd 電子会議システムにおける資料配付方式
JPH0784905A (ja) * 1993-09-10 1995-03-31 Hitachi Ltd 会議画面表示制御方式
JPH07327219A (ja) 1994-05-31 1995-12-12 Hitachi Ltd 電子会議システム及び会議サーバ及び参加者コンピュータ
JPH08322029A (ja) * 1995-05-26 1996-12-03 Canon Inc 通信装置及び通信装置におけるファイル転送方法
JPH08335953A (ja) * 1995-06-08 1996-12-17 Hitachi Ltd 通信支援システム
JPH09200350A (ja) * 1996-01-12 1997-07-31 Hitachi Inf Syst Ltd 電子会議システム
JP2004094834A (ja) * 2002-09-03 2004-03-25 Ricoh Co Ltd 会議支援装置、コンピュータが読み取り可能なプログラム、及び電子会議システム
JP2005129051A (ja) * 2003-10-24 2005-05-19 Microsoft Corp グループ共有空間

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6286034B1 (en) * 1995-08-25 2001-09-04 Canon Kabushiki Kaisha Communication apparatus, a communication system and a communication method
US5740161A (en) * 1995-11-08 1998-04-14 Intel Corporation Method and apparatus for synchronizing viewed information in a conferencing environment
US6037970A (en) 1996-04-05 2000-03-14 Sony Corporation Videoconference system and method therefor
US6728784B1 (en) * 1996-08-21 2004-04-27 Netspeak Corporation Collaborative multimedia architecture for packet-switched data networks
US6665707B1 (en) * 1996-12-19 2003-12-16 International Business Machines Corporation Groupware environment that adaptively tailors open microphone sessions based on participant locality
US6166732A (en) * 1998-02-24 2000-12-26 Microsoft Corporation Distributed object oriented multi-user domain with multimedia presentations
US6321252B1 (en) 1998-07-17 2001-11-20 International Business Machines Corporation System and method for data streaming and synchronization in multimedia groupware applications
US6564246B1 (en) * 1999-02-02 2003-05-13 International Business Machines Corporation Shared and independent views of shared workspace for real-time collaboration
US6584493B1 (en) * 1999-03-02 2003-06-24 Microsoft Corporation Multiparty conferencing and collaboration system utilizing a per-host model command, control and communication structure
US6532218B1 (en) * 1999-04-05 2003-03-11 Siemens Information & Communication Networks, Inc. System and method for multimedia collaborative conferencing
US7015954B1 (en) * 1999-08-09 2006-03-21 Fuji Xerox Co., Ltd. Automatic video system using multiple cameras
WO2001089144A2 (en) * 2000-05-19 2001-11-22 Sony Corporation Network conferencing system
US6937266B2 (en) * 2001-06-14 2005-08-30 Microsoft Corporation Automated online broadcasting system and method using an omni-directional camera system for viewing meetings over a computer network
JP2003085112A (ja) 2001-09-14 2003-03-20 Sony Corp ネットワーク情報処理システム及び情報処理方法
US20050071430A1 (en) 2001-09-14 2005-03-31 Youichi Kobayashi Network information processing system and information processing method
US7313589B2 (en) * 2001-09-28 2007-12-25 Infocus Corporation Network projector interface system
KR100431510B1 (ko) * 2001-12-24 2004-05-14 한국전자통신연구원 다수의 프로파일 정보 정합을 통한 컨텐츠 개인화 장치 및방법
US7287053B2 (en) * 2002-01-15 2007-10-23 International Business Machines Corporation Ad hoc data sharing in virtual team rooms
US20040008423A1 (en) * 2002-01-28 2004-01-15 Driscoll Edward C. Visual teleconferencing apparatus
US7751347B2 (en) * 2002-04-25 2010-07-06 Azurn Networks, Inc. Converged conferencing appliance methods for concurrent voice and data conferencing sessions over networks
US20030224807A1 (en) * 2002-05-28 2003-12-04 Honeywell International Inc. Method and apparatus for control of presentation equipment
CN1199460C (zh) 2002-06-19 2005-04-27 华为技术有限公司 视讯系统中的图像分层编码和交换方法
US20030236889A1 (en) * 2002-06-25 2003-12-25 Microsoft Corporation Data projection system and method
JP4321203B2 (ja) * 2002-10-29 2009-08-26 富士ゼロックス株式会社 遠隔会議システム及び遠隔会議支援方法、並びにコンピュータ・プログラム

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05300509A (ja) * 1992-04-17 1993-11-12 Nippon Telegr & Teleph Corp <Ntt> 会議状況表示処理方法
JPH0654323A (ja) * 1992-05-13 1994-02-25 Ncr Internatl Inc 仮想会議システム
JPH0779288A (ja) 1993-09-06 1995-03-20 Hitachi Ltd 電子会議システムにおける資料配付方式
JPH0784905A (ja) * 1993-09-10 1995-03-31 Hitachi Ltd 会議画面表示制御方式
JPH07327219A (ja) 1994-05-31 1995-12-12 Hitachi Ltd 電子会議システム及び会議サーバ及び参加者コンピュータ
JPH08322029A (ja) * 1995-05-26 1996-12-03 Canon Inc 通信装置及び通信装置におけるファイル転送方法
JPH08335953A (ja) * 1995-06-08 1996-12-17 Hitachi Ltd 通信支援システム
JPH09200350A (ja) * 1996-01-12 1997-07-31 Hitachi Inf Syst Ltd 電子会議システム
JP2004094834A (ja) * 2002-09-03 2004-03-25 Ricoh Co Ltd 会議支援装置、コンピュータが読み取り可能なプログラム、及び電子会議システム
JP2005129051A (ja) * 2003-10-24 2005-05-19 Microsoft Corp グループ共有空間

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG200000120002; 広明敏彦(外2名): '「臨場感技術とオフィスコミュニケーション」' 情報処理学会研究報告 第94巻,第29号(94-AVM-4), 19940318, 第9〜14頁, 社団法人情報処理学会 *
JPN6010033400; 広明敏彦(外2名): '「臨場感技術とオフィスコミュニケーション」' 情報処理学会研究報告 第94巻,第29号(94-AVM-4), 19940318, 第9〜14頁, 社団法人情報処理学会 *

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010003288A (ja) * 2008-06-23 2010-01-07 Samsung Electronics Co Ltd ネットワーク基盤のサービス提供システム及び方法
JP5355782B2 (ja) * 2010-03-31 2013-11-27 株式会社日立メディコ 制御装置及び方法
US10025453B2 (en) 2010-10-26 2018-07-17 Ricoh Company, Ltd. Screen sharing system, screen sharing method, and storage medium
US10255025B2 (en) 2010-10-26 2019-04-09 Ricoh Company, Ltd. Screen sharing system, screen sharing method, and storage medium
JP2015187889A (ja) * 2010-10-26 2015-10-29 株式会社リコー 画面共有サービス提供システム、画面共有方法、情報処理装置およびプログラム
US10896019B2 (en) 2010-10-26 2021-01-19 Ricoh Company, Ltd. Screen sharing system, screen sharing method, and storage medium
US9317247B2 (en) 2010-10-26 2016-04-19 Ricoh Company, Ltd. Screen sharing system, screen sharing method, and storage medium
US9098230B2 (en) 2010-10-26 2015-08-04 Ricoh Company, Ltd. Screen sharing system, screen sharing method, and storage medium
US8743022B2 (en) 2010-10-26 2014-06-03 Ricoh Company, Ltd. Screen sharing system, screen sharing method, and storage medium
US10489101B2 (en) 2010-10-26 2019-11-26 Ricoh Company, Ltd. Screen sharing system, screen sharing method, and storage medium
CN110989903A (zh) * 2012-11-28 2020-04-10 微软技术许可有限责任公司 交互式白板共享
JP2015535635A (ja) * 2012-11-28 2015-12-14 マイクロソフト テクノロジー ライセンシング,エルエルシー 対話型ホワイトボード共有
CN110989903B (zh) * 2012-11-28 2023-11-03 微软技术许可有限责任公司 交互式白板共享
US10782844B2 (en) 2012-12-11 2020-09-22 Microsoft Technology Licensing, Llc Smart whiteboard interactions
US10250665B2 (en) 2013-03-15 2019-04-02 Ricoh Company, Limited Distribution control system, distribution system, distribution control method, and computer-readable storage medium
US9781193B2 (en) 2013-03-15 2017-10-03 Ricoh Company, Limited Distribution control system, distribution system, distribution control method, and computer-readable storage medium

Also Published As

Publication number Publication date
US20050262201A1 (en) 2005-11-24
CN1694528B (zh) 2013-01-02
EP1592198A1 (en) 2005-11-02
EP1592198B1 (en) 2015-08-05
US7634533B2 (en) 2009-12-15
KR20060045523A (ko) 2006-05-17
KR101224815B1 (ko) 2013-01-21
CN1694527A (zh) 2005-11-09

Similar Documents

Publication Publication Date Title
US7634533B2 (en) Systems and methods for real-time audio-visual communication and data collaboration in a network conference environment
US10911716B2 (en) System and method for interactive video conferencing
US9300912B2 (en) Software based whiteboard capture solution for conference room meetings
US9787945B2 (en) System and method for interactive video conferencing
CA2874715C (en) Dynamic video and sound adjustment in a video conference
US8456509B2 (en) Providing presentations in a videoconference
US7428000B2 (en) System and method for distributed meetings
US20140019882A1 (en) Social network collaboration space
US20060200517A1 (en) Method and apparatus for real time multi-party conference document copier
EP3131257B1 (en) Program, information processing apparatus, and information processing system for use in an electronic conference system
US20100293469A1 (en) Providing Portions of a Presentation During a Videoconference
US11842092B2 (en) Video conference system server capable of uploading and downloading files, method of controlling same, and storage medium
EP3342158A1 (en) System and method for interactive video conferencing
WO2019056001A1 (en) INTERACTIVE VIDEOCONFERENCE SYSTEM AND METHOD
JP7092986B2 (ja) 情報処理システム、その制御方法及びプログラム。
JP2021060949A (ja) 通信システム、情報処理装置、通信方法、プログラム
JP6610076B2 (ja) 情報処理装置、情報処理システム、プログラム、及び記録媒体
EP4221194A1 (en) Recording information creation system, method for creating recording information, and carrier means
US20230289126A1 (en) System, method for adjusting audio volume, and apparatus
WO2023115490A1 (zh) 协作信息显示控制方法、电子设备和存储介质
Xu et al. SmartMic: a smartphone-based meeting support system
Rui et al. PING: A Group-to-individual distributed meeting system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110318

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110617

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110713

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110909

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120110

RD13 Notification of appointment of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7433

Effective date: 20120111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20120111

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20120131

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20120608

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130308

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130731

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20130808

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20130821

RD15 Notification of revocation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7435

Effective date: 20130821