JP2009239459A - 映像合成システム、映像合成装置およびプログラム - Google Patents
映像合成システム、映像合成装置およびプログラム Download PDFInfo
- Publication number
- JP2009239459A JP2009239459A JP2008080684A JP2008080684A JP2009239459A JP 2009239459 A JP2009239459 A JP 2009239459A JP 2008080684 A JP2008080684 A JP 2008080684A JP 2008080684 A JP2008080684 A JP 2008080684A JP 2009239459 A JP2009239459 A JP 2009239459A
- Authority
- JP
- Japan
- Prior art keywords
- video
- point
- information
- selection information
- selection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【解決手段】各地点に設置され仮想空間の映像を生成する映像合成システムは、仮想空間を見る位置である複数の想定視点と個別に対応し自地点で仮想空間と対応する実空間を撮影する複数の撮影手段、複数の想定視点中の選択想定視点を示す選択情報をユーザから受けると該選択情報を他地点の映像合成システムに送信し、選択情報を他地点の映像合成システムから受けると該選択情報が示す選択想定視点に対応する撮影手段による自地点の撮影映像を他地点の映像合成システムに送信する映像送信手段、他地点の映像送信手段から他地点の撮影映像を受信する受信手段、ユーザからの選択情報が示す選択想定視点に対応する撮影手段による自地点の撮影映像と受信した他地点の撮影映像を重畳して仮想空間の映像を生成する映像合成手段及び仮想空間の映像を表示する表示手段を含む。
【選択図】図7
Description
小野澤,橋本,細谷,原田,上田,"ミラーインタフェースを用いた遠隔講義システムの実装",2007年信学総大,p.302,A−15−15,2007年3月7日。 原田,細谷,小野澤,"ミラーインタフェースを用いた多地点コミュニケーション方式",2007年信学総大,p.301,A−15−14,2007年3月7日。
・ユーザの望みの視点からの映像(側面,正面,俯瞰等)の提供
・状況に応じた複数の視点からの映像の選択(多視点化)
・地点ごとに異なる視点の要求への対応
を可能とする機能を提供することを目的とする。
本発明の各実施例では、一貫して、遠隔の2箇所(或いは3個所以上)の地点の映像に透明度を与えて重畳する技術を使用する。このため、まず、遠隔の2地点の重畳処理について簡単に説明する。第1と第2の地点のシステム(映像合成システム)は、ネットワークによって接続され、映像の実時間送受信が可能であると仮定する。
Cp=αp*Cf+(1−αp)*Cb
の式に従って求める。
Cp=(αp*Cf+(255−αp)*Cb)/255
の式に従って、各画素pの画素値Cpを求める。
(1.カメラの配置とシーンの構築)
次に、客観視点(想定視点)から見た仮想共有空間の映像を提示する遠隔会話システムを構築する実施例(実施例1)を説明する。
なんらかの理由により、実空間のカメラ1が想定位置に対応する位置(仮想位置)に配置できない場合に、カメラ1が、カメラ映像について、回転・移動などの変換を用いて、不完全ではあるが、実際上効果のある補正をする方法について、図4および図5を用いて説明する。
カメラ座標系として、カメラ中心に原点O、カメラの前方に向かってz軸、カメラの水平方向にx軸、カメラの垂直方向にy軸がある右手系を考える(図5参照)。カメラの前方fの距離に、xy平面に平行なスクリーン面Sを想定し、3次元空間内の物体上の点
カメラをy軸周りに反時計方向にθだけ回転したときに(カメラの首を横に振る)、回転後の座標系における物体の位置rθは、
カメラを、移動ベクトル
1.焦点距離(画角)補正
2.カメラ位置補正
3.回転補正
の順で補正することで、撮影映像から仮想空間のカメラ位置からの撮影映像への補正が近似的に実現できる。
本技術では、会話の参加者には、仮想共有空間内の客観的視点(想定視点)から見た映像を提供する。一般に、参加者が希望する視点(提示したい視点:想定視点)は一点とは限らない。TV番組において、複数のカメラを切り替えて多数の視点を提供するように、遠隔会話システムにおいても、複数の視点からの映像を切り替えて提示することが望ましい。
(地点毎の視点選択システム)
さらに、第1地点と第2地点で提示したい視点(想定地点)が異なるケースに対応可能な実施例(実施例2)を、図8に示す。
(多地点多視点会話システム)
さらに、地点数を一般にn(n≧3)に拡大した、多地点の遠隔会話システムに対し、各地点において望みの視点(想定視点)からの映像を提供するシステム構成の実施例(実施例3)を図10Aに示す。
(視聴のみを実施する第3の地点のシステム)
図11は、実施例3(例えば、図10A)において、会話に直接参加せず、視聴のみを目的とした地点がある場合の実施例(実施例4)を示している。
200 ネットワーク
1000 コミュニケーション支援システム
1、1A〜1D、11〜1n カメラ
2 映像通信合成部
21 送信部
21C、21C1 多入力映像送信部
22 受信部
22C、22C1 受信部(多地点分)
23、23C 映像合成部
231 反転画像生成部
232 画像重畳部
233 合成用フレームメモリ
234 表示用フレームメモリ
3 表示装置
4A〜4C カメラ切り替え部
5A〜5B 視点切り替え合成通信部
5C 多地点多視点映像通信合成部
6A〜6B 映像送信部
7 会話制御サーバ
7a 保持部
7b 通知部
Claims (10)
- 複数地点のそれぞれに設置され、前記複数地点の実空間の撮影映像を重畳して仮想空間の映像を生成し表示する映像合成システムであって、
前記仮想空間を見る位置である複数の想定視点と個別に対応して設置され、自地点において前記仮想空間と対応づけられた実空間を撮影する複数の撮影手段と、
前記複数の想定視点の中の選択想定視点を示す選択情報をユーザから受け付けた場合に、前記ユーザからの選択情報を、他の地点の映像合成システムに送信し、前記選択情報を前記他の地点の映像合成システムから受け付けた場合に、前記他の地点の映像合成システムからの選択情報にて示された選択想定視点に対応する撮影手段による自地点の撮影映像を、前記他の地点の映像合成システムに送信する映像送信手段と、
前記他の地点の映像送信手段から、前記他の地点の撮影映像を受信する受信手段と、
前記ユーザからの選択情報にて示された選択想定視点に対応する撮影手段による自地点の撮影映像と、前記受信手段にて受信された他の地点の撮影映像と、を重畳して、前記仮想空間の映像を生成する映像合成手段と、
前記仮想空間の映像を表示する表示手段と、を含む映像合成システム。 - 前記表示手段は、前記仮想空間で想定される前記他の地点のユーザの位置に対応する実空間内の位置に設置される、請求項1に記載の映像合成システム。
- 前記映像合成手段は、前記自地点の撮影映像と前記他の地点の撮影映像とを、画素ごとに任意の透明度で半透明化し重畳して前記仮想空間の映像を生成する、請求項1または2に記載の映像合成システム。
- 前記選択想定視点に対応する撮影手段は、前記選択想定視点と自己の視点との差に基づいて、自己の撮影映像を補正する、請求項1から3のいずれか1項に記載の映像合成システム。
- 前記複数地点は、3以上の地点であり、
前記映像送信手段は、
他の地点のいずれか1つを示す地点情報を、対話実施を指定する対話実施情報並びに前記選択情報と共に前記ユーザから受け付けた場合に、前記ユーザからの地点情報、前記対話実施情報および選択情報を、前記ユーザから受け付けた地点情報によって示された地点の映像合成システムに送信し、
また、自地点を示す前記地点情報と前記選択情報とを前記対話実施情報と共に他の地点の映像合成システムから受け付けた場合には、前記他の地点の映像合成システムからの選択情報にて示された選択想定視点に対応する撮影手段による自地点の撮影映像を、自地点を示す地点情報と選択情報と共に、前記他の地点の映像合成システムに送信し、
前記受信手段は、他の各地点の映像送信手段から、前記他の地点の撮影映像を、前記地点情報と前記選択情報を伴って受信し、それら他の地点の撮影映像の中から、前記ユーザからの対話実施情報と共に受け付けた地点情報および選択情報に合致する地点情報および選択情報を伴って受信された他の地点の撮影映像を特定して前記映像合成手段にその撮影映像を出力し、
前記映像合成手段は、前記ユーザから前記対話実施情報と共に選択情報を受け付けた場合、さらに、ユーザから受け付けた選択情報にて示された選択想定視点に対応する撮影手段による自地点の撮影映像と、前記受信手段から入力した、他の地点からの撮影映像と、を重畳して、前記仮想空間の映像を生成する、請求項1から4のいずれか1項に記載の映像合成システム。 - 前記映像送信手段は、
さらに、各々、他の地点のいずれか1つを示す1つまたは2つの地点情報を、視聴実施を指定する視聴実施情報並びに、前記選択情報と共に前記ユーザから受け付けた場合に、各々の地点情報によって示された他の1つまたは2つの地点の映像合成システムへ、前記ユーザからの、視聴実施情報、地点情報および選択情報を送信し、
また、前記視聴実施情報と共に、自地点を示す前記地点情報と前記選択情報を、他の映像合成システムから受け付けた場合に、前記他の地点の映像合成システムからの選択情報にて示された選択想定視点に対応する撮影手段による自地点の撮影映像を、自地点を示す前記地点情報と選択情報と共に、前記他の地点の映像合成システムに送信し、
前記受信手段は、前記ユーザから前記視聴実施情報を受け付けた場合、さらに、前記他の各地点の映像送信手段からの前記他の地点の撮影映像の中から、前記ユーザによって指定された1つまたは2つの地点情報のいずれか及び選択情報に合致する地点情報および選択情報を伴った他の地点の撮影映像を特定して受信し、
前記映像合成手段は、前記ユーザから前記視聴実施情報を受け付けた場合、さらに、前記特定された他の地点の映像が2つであれば、それらの映像を重畳して、前記仮想空間の映像を生成し、前記特定された他の地点の映像が1つであれば、その映像を前記仮想空間の映像とする、請求項5に記載の映像合成システム。 - 前記映像合成手段は、前記特定された1つの他の地点の撮影映像、または2つの他の地点の撮影映像の重畳によって得られる映像に、さらに自地点の任意の撮影手段による自地点の映像を重畳して前記仮想空間の映像を生成する、請求項6に記載の映像合成システム。
- 請求項6または7に記載の映像合成システムと、前記映像合成システムと通信可能な会話制御サーバと、を含む、映像合成制御システムであって、
前記映像送信手段は、前記地点情報、前記対話実施情報、前記視聴実施情報、並びに前記選択情報を、前記他の地点の映像合成システムに代えて前記会話制御サーバに送信し、
前記会話制御サーバは、
現時点において、前記対話実施情報に基づいて前記撮影映像を送受信し合っている対話地点ペアの集合、並びに前記視聴実施情報に基づいて他の地点の撮影映像を受信している視聴地点の集合及び前記選択情報の集合として、会話状態情報を保持する保持手段と、
前記映像合成システムから受信した地点情報、対話実施情報または視聴実施情報、並びに選択情報に従って前記会話状態情報を、受信した地点情報、対話実施情報または視聴実施情報、並びに選択情報に合致するように予め定めた規則に従って更新し、更新結果として、各地点の映像合成システムに、更新後の対話相手となる映像合成システムが存在する地点を示す地点情報、対話実施情報並びに選択情報、或いは更新後の視聴相手となる映像合成システムが存在する地点を示す地点情報、視聴実施情報、選択情報を通知する通知手段と、を含み、
前記映像送信手段は、前記他の地点の映像合成システムからの前記対話実施情報、前記視聴実施情報、並びに前記選択情報に代えて、前記会話制御サーバから受信した前記対話実施情報、前記視聴実施情報、並びに前記選択情報に従って、撮影映像の送信を行い、
前記受信手段は、前記他の地点の映像合成システムからの前記対話実施情報、前記視聴実施情報、並びに前記選択情報に代えて、前記会話制御サーバから受信した前記対話実施情報、前記視聴実施情報、並びに前記選択情報に従って、前記撮影映像の受信および特定を行い、
前記映像合成手段は、前記ユーザから受け付けた前記対話実施情報、前記視聴実施情報、並びに前記選択情報に代えて、前記会話制御サーバから受信した前記対話実施情報、前記視聴実施情報、並びに前記選択情報に従って、撮影映像を重畳し、前記仮想空間の映像を生成する、映像合成制御システム。 - 複数地点のそれぞれに設置され、前記複数地点の実空間の撮影映像を重畳して仮想空間の映像を生成し、また、前記仮想空間を見る位置である複数の想定視点と個別に対応して設置され自地点において前記仮想空間と対応づけられた実空間を撮影する複数の撮影手段と表示装置とに接続される映像合成装置であって、
前記複数の想定視点の中の選択想定視点を示す選択情報をユーザから受け付けた場合に、前記ユーザからの選択情報を、他の地点の映像合成装置に送信し、前記選択情報を前記他の地点の映像合成装置から受け付けた場合に、前記他の地点の映像合成装置からの選択情報にて示された選択想定視点に対応する撮影手段による自地点の撮影映像を、前記他の地点の映像合成装置に送信する映像送信手段と、
前記他の地点の映像送信手段から、前記他の地点の撮影映像を受信する受信手段と、
前記ユーザからの選択情報にて示された選択想定視点に対応する撮影手段による自地点の撮影映像と、前記受信手段にて受信された他の地点の撮影映像と、を重畳して、前記仮想空間の映像を生成し、前記仮想空間の映像を前記表示装置に出力する映像合成手段と、を含む映像合成装置。 - 請求項9に記載の映像合成装置をコンピュータで実現するためのプログラムであって、
前記コンピュータを、
前記映像合成装置が有する全手段として機能させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008080684A JP2009239459A (ja) | 2008-03-26 | 2008-03-26 | 映像合成システム、映像合成装置およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008080684A JP2009239459A (ja) | 2008-03-26 | 2008-03-26 | 映像合成システム、映像合成装置およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009239459A true JP2009239459A (ja) | 2009-10-15 |
Family
ID=41252919
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008080684A Pending JP2009239459A (ja) | 2008-03-26 | 2008-03-26 | 映像合成システム、映像合成装置およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009239459A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011109371A (ja) * | 2009-11-17 | 2011-06-02 | Kddi Corp | 3次元画像にコメントテキストを重畳して表示するサーバ、端末、プログラム及び方法 |
JP2011188112A (ja) * | 2010-03-05 | 2011-09-22 | Oki Electric Industry Co Ltd | 遠隔対話装置、遠隔対話システム、遠隔対話方法およびプログラム |
JP2011205444A (ja) * | 2010-03-26 | 2011-10-13 | Renesas Electronics Corp | ネットワークシステム及びその障害回復方法 |
KR101351085B1 (ko) * | 2012-03-20 | 2014-01-13 | 주식회사 다림비젼 | 실물화상기 |
KR20150131668A (ko) * | 2014-05-16 | 2015-11-25 | 주식회사 이에스엠연구소 | 영상 매트릭스 인터페이스를 이용한 다시점 영상 생성 방법 및 다시점 영상 생성 시스템 |
JP2019536388A (ja) * | 2016-10-14 | 2019-12-12 | ユニークフィード アーゲー | 拡張画像を生成するテレビジョン放送システム |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04291874A (ja) * | 1991-03-20 | 1992-10-15 | Fujitsu Ltd | 多地点接続通信の受信選択方式 |
JP2000165831A (ja) * | 1998-11-30 | 2000-06-16 | Nec Corp | 多地点テレビ会議システム |
JP2004193962A (ja) * | 2002-12-11 | 2004-07-08 | Sony Corp | 画像通信装置、および画像通信方法、並びにコンピュータ・プログラム |
JP2006221550A (ja) * | 2005-02-14 | 2006-08-24 | Nippon Telegr & Teleph Corp <Ntt> | インタフェース方法、装置、プログラム、および記録媒体 |
JP2006352749A (ja) * | 2005-06-20 | 2006-12-28 | Nippon Telegr & Teleph Corp <Ntt> | 映像通信システム |
-
2008
- 2008-03-26 JP JP2008080684A patent/JP2009239459A/ja active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04291874A (ja) * | 1991-03-20 | 1992-10-15 | Fujitsu Ltd | 多地点接続通信の受信選択方式 |
JP2000165831A (ja) * | 1998-11-30 | 2000-06-16 | Nec Corp | 多地点テレビ会議システム |
JP2004193962A (ja) * | 2002-12-11 | 2004-07-08 | Sony Corp | 画像通信装置、および画像通信方法、並びにコンピュータ・プログラム |
JP2006221550A (ja) * | 2005-02-14 | 2006-08-24 | Nippon Telegr & Teleph Corp <Ntt> | インタフェース方法、装置、プログラム、および記録媒体 |
JP2006352749A (ja) * | 2005-06-20 | 2006-12-28 | Nippon Telegr & Teleph Corp <Ntt> | 映像通信システム |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011109371A (ja) * | 2009-11-17 | 2011-06-02 | Kddi Corp | 3次元画像にコメントテキストを重畳して表示するサーバ、端末、プログラム及び方法 |
JP2011188112A (ja) * | 2010-03-05 | 2011-09-22 | Oki Electric Industry Co Ltd | 遠隔対話装置、遠隔対話システム、遠隔対話方法およびプログラム |
JP2011205444A (ja) * | 2010-03-26 | 2011-10-13 | Renesas Electronics Corp | ネットワークシステム及びその障害回復方法 |
KR101351085B1 (ko) * | 2012-03-20 | 2014-01-13 | 주식회사 다림비젼 | 실물화상기 |
KR20150131668A (ko) * | 2014-05-16 | 2015-11-25 | 주식회사 이에스엠연구소 | 영상 매트릭스 인터페이스를 이용한 다시점 영상 생성 방법 및 다시점 영상 생성 시스템 |
KR101649752B1 (ko) | 2014-05-16 | 2016-08-19 | 주식회사 이에스엠연구소 | 영상 매트릭스 인터페이스를 이용한 다시점 영상 생성 방법 및 다시점 영상 생성 시스템 |
JP2019536388A (ja) * | 2016-10-14 | 2019-12-12 | ユニークフィード アーゲー | 拡張画像を生成するテレビジョン放送システム |
US10832732B2 (en) | 2016-10-14 | 2020-11-10 | Uniqfeed Ag | Television broadcast system for generating augmented images |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10044982B2 (en) | Providing a tele-immersive experience using a mirror metaphor | |
US8432431B2 (en) | Compositing video streams | |
JP4059513B2 (ja) | 没入型仮想環境において注視を伝達する方法およびシステム | |
Gibbs et al. | Teleport–towards immersive copresence | |
US8638354B2 (en) | Immersive video conference system | |
WO2020210213A1 (en) | Multiuser asymmetric immersive teleconferencing | |
US20130050398A1 (en) | System and method for collaborator representation in a network environment | |
CN101939989B (zh) | 虚拟桌子 | |
US20130242036A1 (en) | Displaying panoramic video image streams | |
EP2030411A2 (en) | Blended space for aligning video streams | |
JP2000122767A (ja) | 同室感を持つ共有空間作成方法及び装置ならびに通信システム | |
JP2009239459A (ja) | 映像合成システム、映像合成装置およびプログラム | |
WO2015139562A1 (zh) | 实现视频会议的方法、合成设备和系统 | |
Fafard et al. | Design and implementation of a multi-person fish-tank virtual reality display | |
Pece et al. | Panoinserts: mobile spatial teleconferencing | |
Tan et al. | Connectboard: Enabling genuine eye contact and accurate gaze in remote collaboration | |
JP7525598B2 (ja) | 通信端末装置、通信方法、およびソフトウェアプログラム | |
Schreer et al. | Virtual team user environments-a key application in telecommunication | |
Kurillo et al. | 3D Telepresence for reducing transportation costs | |
Höllerer et al. | INVITE: 3D-augmented interactive video teleconferencing | |
JP2010213155A (ja) | ビデオ会議システムおよび方法 | |
JP2005077808A (ja) | 画像表示装置および画像表示方法ならびに画像表示システム | |
JPH05316500A (ja) | 空間走査撮像表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120131 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120131 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120402 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20120424 |