JPWO2017098780A1 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JPWO2017098780A1
JPWO2017098780A1 JP2017554948A JP2017554948A JPWO2017098780A1 JP WO2017098780 A1 JPWO2017098780 A1 JP WO2017098780A1 JP 2017554948 A JP2017554948 A JP 2017554948A JP 2017554948 A JP2017554948 A JP 2017554948A JP WO2017098780 A1 JPWO2017098780 A1 JP WO2017098780A1
Authority
JP
Japan
Prior art keywords
space
communication
information
communication destination
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017554948A
Other languages
English (en)
Other versions
JP6958360B2 (ja
Inventor
祐介 阪井
祐介 阪井
厚史 泉原
厚史 泉原
大輔 三木
大輔 三木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2017098780A1 publication Critical patent/JPWO2017098780A1/ja
Application granted granted Critical
Publication of JP6958360B2 publication Critical patent/JP6958360B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M11/00Telephonic communication systems specially adapted for combination with other electrical systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/42348Location-based services which utilize the location information of a target
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • H04N7/157Conference systems defining a virtual conference space and using avatars or agents
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/56Arrangements for connecting several subscribers to a common circuit, i.e. affording conference facilities
    • H04M3/567Multimedia conference systems

Abstract

【課題】空間のつながりに3次元的表現を用いることで通信相手との距離を演出し、より快適なコミュニケーションを実現することが可能な情報処理装置、情報処理方法、およびプログラムを提供する。【解決手段】通信先からデータを受信する受信部と、前記通信先の空間に対応する画像が3次元空間上の所定の位置に配置された空間画像情報を生成する生成部と、前記生成された空間画像情報を通信元の表示部に表示するよう制御する表示制御部と、を備える、情報処理装置。【選択図】図1

Description

本開示は、情報処理装置、情報処理方法、およびプログラムに関する。
近年、通信技術の発達により、複数人の参加者がいる2つの場所間で会話を行うTV電話会議システムが提案されている。具体的には、例えば表示装置、カメラ、マイク、およびスピーカが各場所に設けられ、一方の場所で撮影された映像および収音された音声データが、リアルタイムで、他方の場所に設置された表示装置およびスピーカから出力される。
このような双方向通信技術に関し、例えば下記特許文献1では、窓状撮像表示装置を用いて双方向通信を行う際に、見る側の人間の位置や角度が変化に応じた映像が見るようにする技術が提案され、これにより、テレビを通して会話を行う利用者同士の視線がずれてしまうことを解消する。
また、下記特許文献2では、ユーザの状態情報に基づいて、自分と通信相手の通信に対する要求の度合いを判断し、相互に不都合のない快適なコミュニケーションを行うようにすることができることが提案されている。これにより、相手が状態情報を見逃して呼び出しを行ったり、また、相手が強制的に呼び出しを行う等、ユーザにとって不都合な呼び出しを受けることを回避することができる。
特許第4576740号公報 特許第4645355号公報
しかしながら、上述した特許文献1では、窓状撮像表示装置を用いて離れた空間同士が一つの窓を通してつながっているように感じさせる効果がある一方、空間同士の距離はゼロで接しているため、相手がすぐそばに居ることに抵抗が生じてしまう場合もある。
また、上述した特許文献2においても、空間同士をつなげるタイミング(すなわち呼び出しタイミング)について善処されているが、空間同士の距離については何ら言及されていない。
そこで、本開示では、空間のつながりに3次元的表現を用いることで通信相手との距離を演出し、より快適なコミュニケーションを実現することが可能な情報処理装置、情報処理方法、およびプログラムを提案する。
本開示によれば、通信先からデータを受信する受信部と、前記通信先の空間に対応する画像が3次元空間上の所定の位置に配置された空間画像情報を生成する生成部と、前記生成された空間画像情報を通信元の表示部に表示するよう制御する表示制御部と、を備える、情報処理装置を提案する。
本開示によれば、プロセッサが、通信先からデータを受信することと、前記通信先の空間に対応する画像が3次元空間上の所定の位置に配置された空間画像情報を生成することと、前記生成された空間画像情報を通信元の表示部に表示するよう制御することと、を含む、情報処理方法を提案する。
本開示によれば、コンピュータを、通信先からデータを受信する受信部と、前記通信先の空間に対応する画像が3次元空間上の所定の位置に配置された空間画像情報を生成する生成部と、前記生成された空間画像情報を通信元の表示部に表示するよう制御する表示制御部と、として機能させるための、プログラムを提案する。
以上説明したように本開示によれば、空間のつながりに3次元的表現を用いることで通信相手との距離を演出し、より快適なコミュニケーションを実現することが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態によるテレプレゼンスシステムの概要について示す図である。 本実施形態による通信制御装置の構成の一例を示すブロック図である。 本実施形態による3次元空間上の空間同士の距離について説明する図である。 本実施形態による3次元空間上の空間同士の距離について説明する図である。 本実施形態によるユーザのつながり要求レベルの算出式の一例を示す図である。 本実施形態による最適なつながり度合いの算出式の一例を示す図である。 本実施形態による空間距離ゼロの際の表示例を示す図である。 本実施形態による空間距離が少し離れた際の表示例を示す図である。 本実施形態による空間距離がさらに離れた際の表示例を示す図である。 本実施形態による3D中庭空間に仮想の猫が居る場合について説明する図である。 本実施形態による3D中庭空間に仮想の植木鉢が配置される場合について説明する図である。 本実施形態によるリビング映像内の特定物のみを3D中庭空間に配置する場合について説明する図である。 本実施形態による通信先の地域の気象情報を3D空間に反映した場合について説明する図である。 本実施形態による3D空間のシーン適用例を説明する図である。 本実施形態による3D空間のシーン適用例を説明する図である。 本実施形態による視線移動に応じた画面変化について説明する図である。 本実施形態による他の視線移動に応じた画面変化について説明する図である。 本実施形態による通信制御処理を示すシーケンス図である。 本実施形態による通信制御処理を示すシーケンス図である。 本実施形態によるシーン設定処理を示すフローチャートである。 本実施形態の応用例による通信制御装置の構成の一例を示すブロック図である。 応用例による送信処理を示すフローチャートである。 応用例による明快度に応じた相手空間画像の表示について説明する図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、説明は以下の順序で行うものとする。
1.本開示の一実施形態による情報処理装置の概要
2.通信制御装置の構成
3.空間情報の表示例
3−1.離隔距離
3−2.3D中庭空間の利用
3−3.シーン事例
3−4.視線移動に応じた画面変化
4.動作処理
4−1.通信制御処理
4−2.シーン設定処理
5.応用例
6.まとめ
<<1.本開示の一実施形態による情報処理装置の概要>>
本開示の一実施形態によるテレプレゼンスシステム1の概要について図1を参照して説明する。本実施形態によるテレプレゼンスシステム1は、離れた空間同士を映像・音声・その他の情報チャンネルによって接続し、あたかもその場所がつながって相手が存在しているように感じさせることを可能とする。例えば親と子供が離れて暮らしている際に、互いのリビング空間が窓やドアを介してつながっているように見せることを可能とする。例えば互いのリビング空間が接続する場合、ユーザは、相手空間の様子(例えば、子供の様子、親の様子等)を大まかに把握しながら生活することができる。
一般的なビデオチャット技術では、映像音声チャネルによる遠隔コミュニケーション時に、映像の表示/非表示や音声のON/OFF(ミュート)といった、0か1かの切替えはできるものの、つながり度合いの細かな調整はできなかった。そのため、常に高臨場感でつながりたくはないが、相手の様子を感じていたいといったユーザのニーズに応えられていなかった。また、接続状態の切替えはユーザが手動で行う必要があり、操作コストの面でも利用頻度の向上を妨げていた。
また、テレプレゼンス通信装置において、つながり度合いを段階的に調整できる事例として、例えば相手のリビング映像にブラー処理(ぼかし)やマスク処理(遮蔽)等の2次元平面的なフィルター処理をかける方式も考えられるが、相手の映像が鮮明に見えていなくとも、すぐ傍に相手がいるように感じられ、通信者間の心地よい間合いを表現できていなかった。
そこで、本実施形態では、空間のつながりに3次元的表現を用いて、接続する空間同士の距離を制御することで、より快適なコミュニケーションの実現や、ユーザにとって心地よいつながり度合いの提供を可能とする。空間同士の距離は、例えば通信先の映像(リビング空間の映像)を通信元の表示部で表示する際に、所定のシーンが反映された3次元空間上の少し離れた位置に配置することで奥行きを表現し、通信相手が目の前ではなく、少し離れた場所に居るように感じることができる。
また、つながり度合いに応じた空間同士の距離は、ユーザ状態等に応じて自動的かつ連続的に最適化することで、ユーザ操作の手間を省くことも可能となる。
より具体的には、図1に示すように、本実施形態によるテレプレゼンスシステム1は、通信制御装置10A、10B、10Cがネットワーク20を介して接続されている。また、ネットワーク20には、処理サーバ30が接続されている。
通信制御装置10A、10B、10Cは、それぞれ、入力部を有し、ユーザA、ユーザB、ユーザCが居る空間の情報を取得して他の通信制御装置10または処理サーバ30に送信する。また、通信制御装置10A、10B、10Cは、それぞれ出力部を有し、他の通信制御装置10または処理サーバ30から受信した情報を出力する。
処理サーバ30は、通信制御装置10A〜10Cのいずれか2以上が接続されている際に、双方向通信の同期処理や、双方からのつながり要求レベルに基づく離隔距離の算出・制御等を行う。なお、これらの同期処理、離隔距離の算出・制御等は、各通信制御装置10A、10B、10Cで行うようにして、処理サーバ30を含まないシステム構成とすることも可能である。
<<2.通信制御装置の構成>>
続いて、本実施形態による通信制御装置10の構成について図2を参照して説明する。図2は、本実施形態による通信制御装置10の構成の一例を示すブロック図である。
図2に示すように、通信制御装置10は、入力部101、空間情報取得部102、状態判定部103、空間距離制御部104、操作I/F(インタフェース)105、3D中庭空間生成部106、通信部107、空間情報生成部108、出力部109、および記憶部110を有する。
入力部101は、空間情報を入力する機能を有する。例えば入力部101は、カメラ1011、マイク(マイクロホンの略称)1012、およびセンサ1013により実現される。カメラ1011は、複数であってもよく、空間内(例えばリビング)を撮像し、撮像画像を取得する。また、マイク1012は、複数であってもよく、空間内の音声や、空間周辺(例えば隣の部屋、廊下、家の外等)の環境音を集音し、音声データを取得する。また、センサ1013は、空間内や空間周辺の各種情報を検知する機能を有し、例えば、温度センサ、湿度センサ、照度センサ、人感センサ、ドア開閉センサ等が想定される。
空間情報取得部102は、入力部101から様々な空間情報を取得し、状態判定部103により状態判定の素材として用いることができるようデータを準備し、出力する。データの準備とは、例えばノイズ処理、画像解析、物体認識、音声解析等である。さらに、空間情報取得部102は、取得した空間情報に基づいて、ユーザ認識を行う。ユーザ認識とは、その空間に居るユーザの個人識別、ユーザの位置(部屋のどこに居るか等)、姿勢(立っているか、座っているか、寝ているか等)、感情(楽しんでいるか、悲しんでいるか等)、行動(夕飯の準備をしている、テレビを見ている、本を読んでいる等)、繁忙度(忙しそうに動き回っているか等)の認識が想定される。また、空間情報取得部102は、取得した空間情報に基づいて、環境認識を行う。環境認識とは、その空間の現在の時間帯(朝方、昼、夕方、深夜)、明るさ(部屋の明るさ、窓からの光)、温度、音響(空間内で収音された音)、地域(その空間が存在する場所)、整頓度(部屋の片づけ具合)等の認識が想定される。
状態判定部103は、空間情報取得部102により取得され、出力された情報に基づいて、空間の状態やユーザの状態(すなわち、通信元の空間のコンテキスト)を判定する。例えば状態判定部103は、空間情報取得部102によるユーザ認識結果および環境認識結果に基づいて、空間の状態やユーザの状態を判定する。なお、通信元の空間のコンテキストには、ユーザの状態、ユーザが居る実空間の状態、時間、季節、天候、場所、または相手ユーザとの関係性が含まれ得る。
空間距離制御部104は、接続された空間同士の3次元空間上の距離(奥行きの離隔距離)を制御する機能を有する。本実施形態では、3次元空間上の適切な距離に、通信先の空間から取得した情報を配置し、つながりに奥行きを見せることで、心地よいつながり状態を実現する。ここで図3Aおよび図3Bを参照して、本実施形態による3次元空間上の空間同士の距離について説明する。図3A、図3Bに示す例では、3次元空間上において、通信元のディスプレイ1091Aに表示される窓枠40を基準として、相手空間画像41が奥行き方向の所定距離に配置される場合について説明する。
図3A上段では、相手空間画像41が、3次元空間上で窓枠40に対して距離ゼロに配置されている場合の配置例400aを示す。この場合、窓枠40いっぱいに相手空間画像41が表示され、ユーザは、相手の空間が一つの窓を介してすぐ目の前にあるように感じることができる。図3A下段では、相手空間画像41が、窓枠40から少し離れた距離に配置されている場合の配置例400bを示す。この場合、窓枠40から多少奥方向に、相手空間画像41が表示され、ユーザは、相手の空間が少し離れた位置にあるため、心理的抵抗が距離ゼロの場合よりも下がる。次いで、図3B上段では、相手空間画像41が、さらに離れた距離に配置されている場合の配置例400cを示す。この場合、ユーザは、相手の空間が離れた位置にあるため、心理的抵抗が図3A下段に示す距離の場合よりも下がる。続いて、図3B下段では、相手空間画像41が、図3B上段の配置例400cよりもさらに離れた距離に配置されている場合の配置例400dを示す。この場合、ユーザは、相手の空間がさらに離れた位置にあるため、心理的抵抗が図3B上段に示す距離の場合よりも下がる。
かかる相手空間との距離は、例えばユーザのつながり要求レベルと通信先ユーザのつながり要求レベルとに基づいて調整される。まず、ユーザのつながり要求レベルは、例えば空間距離制御部104により、状態判定部103から出力された判定結果(通信元の空間のコンテキスト)に基づいて算出される。ここで、図4に、ユーザのつながり要求レベルの算出式の一例を示す。図4の式1に示すように、つながり要求レベルは、ユーザ要素(ユーザの状態)と環境要素(空間の状態)を掛け合わせて算出され得る。例えばユーザが母親で、洗顔中であって、通信先空間の様子を見たいという状態であって、また、空間内は騒がしく、掃除前の時間帯で、晴天といった空間状態である場合に、つながり要求レベルの強弱が0〜100の数値で算出される。なお本実施形態では、図4に示すように、つながり要求レベルとして、「間合い」と「明快度」を算出することも可能である。「間合い」とは、すなわち3次元空間上の離隔距離であって、繋がっている相手との適切な距離を保つよう出力することで、心地よい接続状態を実現することができる。「明快度」とは、通信先空間の映像の見え具合である。本実施形態では、ぼかしたり遮蔽したりすることで、相手の映像が鮮明に見えないようにすることが可能であって、この際の見え具合を「明快度」と称す。
通信先ユーザのつながり要求レベルは、通信部107を介して、通信先の通信制御装置10から送信される。
そして、空間距離制御部104は、算出したユーザのつながり要求レベルと、受信した通信先ユーザのつながり要求レベルとに基づいて、最適なつながり度合いを算出する。ここで、図5に、最適なつながり度合いの算出式の一例を示す。図5の式2に示すように、例えばユーザAとユーザBのつながり度合いを算出する場合、ユーザAのつながり要求レベルと、ユーザBのつながり要求レベルとを掛け合わせて、最適なつながり度合いを算出する。本実施形態では、最適なつながり度合いが強い程、空間同士の距離は短く、また、映像も鮮明に見えるため、高臨場感で接続し、最適なつながり度合いが低い程、空間同士の距離は長く、また、映像が鮮明に見えないため、低臨場感で接続する。なお、ここでは一例として「つながり度合い」が「間合い」と「明快度」の両方を含むものとして算出式の説明を行ったが、本実施形態はこれに限定されず、「つながり度合い」が「間合い」のみを含むものとして、算出してもよい。
操作I/F(インタフェース)105は、ユーザからの操作入力を受け付け、空間距離制御部104や3D中庭空間生成部106へ出力する。これにより、例えば、ユーザが任意に「ユーザのつながり要求レベル」を設定したり、次に説明する空間のシーンを設定したりすることが可能となる。また、3次元空間に配置された各種オブジェクトに対するユーザからの操作入力も可能となる。
3D中庭空間生成部106は、空間距離制御部104により設定された通信相手との距離に応じて3次元空間に配置された通信先の空間の映像と、通信元ユーザ側である手前側との間の3D空間を、「3D中庭空間」と称し、かかる空間の生成を行う。「3D中庭空間」には、通信元または通信先からの情報が反映され、また、指定されたオブジェクトが配置されたりすることも可能である。これにより、通信相手の空間と、仮想の中庭を通じてつながっているような画面を表示することが可能となる。また、中庭空間に、通信相手のユーザ状態や空間状態、相手空間の周辺情報等を反映させることで、間接的に相手の状態を認識することが可能となる。このような3D中庭空間生成部106により生成される3D中庭空間の詳細に関しては、後述する。
通信部107は、ネットワーク20を介して他の通信制御装置10や処理サーバ30と接続し、データの送受信を行う。例えば通信部107は、空間情報取得部102から出力された空間情報、空間距離制御部104から出力された空間距離、3D中庭空間生成部106から出力された3D中庭空間の情報を通信先の通信制御装置10または処理サーバ30へ送信する。また、通信部107は、通信先の通信制御装置10または処理サーバ30から受信した空間情報、空間距離、3D中庭空間の情報等を受信する。本実施形態では、通信元および通信先において、表示される3D中庭空間および3次元空間上の距離が同期され得る。また、通信部107は、処理サーバ30がネットワーク上の関連サービスサーバから取得した情報(天候情報、ニュース、スケジュール情報等)、またはネットワーク上の関連サービスサーバから当該情報を直接、受信することも可能である。
空間情報生成部108は、3D中庭空間生成部106により生成された3D中庭空間と、通信部107を介して受信した通信先の空間の映像に基づいて、空間情報を生成し、出力部109に送出する。例えば空間情報生成部108は、3D中庭空間生成部106により生成された3D中庭空間に、通信部107を介して受信した通信先の空間の映像を合成した空間画像情報を生成し、ディスプレイ1091で表示するよう制御する。
出力部109は、空間情報生成部108により生成された空間情報を、通信元のユーザに提示する機能を有する。例えば出力部109は、ディスプレイ1091、スピーカ1092、またはインジケータ1093により実現される。
記憶部110は、通信部107を介して送受信されるデータを記憶する。また、図2に示す例では、通信部107に接続しているが、本実施形態はこれに限定されず、通信制御装置10に含まれる各構成の記憶領域として用いられ得る。
<<3.空間情報の表示例>>
続いて、図6〜図15を参照して、本実施形態による空間情報の表示例について説明する。
<3−1.離隔距離>
上述したように、本実施形態では、相手空間画像41が、3次元空間上において、通信元と通信先の両者のつながり要求レベルに基づいたつながり度合いに応じた距離(離隔距離)に配置される。ここで、離隔距離がゼロの場合から徐々に広がる場合における通信元のディスプレイ1091Aでの表示例を、図6〜図8に示して説明する。
図6は、本実施形態による空間距離ゼロの際の表示例を示す図である。図6に示すように、ユーザAが居る空間の壁面に設置されたディスプレイ1091Aに、窓枠40が表示され、窓枠40の内側いっぱいに相手空間画像41が表示されている。相手空間画像41は例えば相手ユーザBの居るリビングの撮像画像である。かかる映像は、例えば相手空間で撮影されたリアルタイム映像である。なお、図6に示す例では、ディスプレイ1091Aの周辺に、カメラ1011が設置されている。また、図示しないが、ディスプレイ1091Aの周辺には、スピーカ1092やマイク1012も設置され、接続された空間同士で音声の送受信も行われ得る。
図7は、本実施形態による空間距離が少し離れた際の表示例を示す図である。図7に示すように、相手空間画像41が窓枠40から離れて奥に表示されることで、ユーザは、視覚的に相手との距離を感じることができ、すぐ目の前に存在を感じるよりも、快適なつながり具合となる場合がある。相手空間画像41は、例えば3次元空間上において、仮想的な構造物51の窓部分に合成されている。また、相手空間画像41との間には、3D中庭空間S1が存在し、ユーザAは、3D中庭空間S1を介して、相手空間とつながっていると感じることができる。また、かかる空間距離と、3D中庭空間は、相手空間でも同期され、相手側のディスプレイからも、同じ空間距離に、こちら側の映像がリアルタイムで表示され、その間には3D中庭空間が同様に表示される。
図8は、本実施形態による空間距離がさらに離れた際の表示例を示す図である。ここでの空間距離は、図7の場合における空間距離よりさらに奥行き方向に遠く、図8に示すように、相手空間画像41が窓枠40からさらに離れた場所に表示され、ユーザは視覚的に相手との距離をさらに感じることとなる。
以上説明した図6〜図8では、森の中にある向かいのログハウスに通信相手のユーザが住んでいるといったシーンが適用されている。かかるシーンは、通信元ユーザまたは通信先ユーザにより予め選択することが可能である。
<3−2.3D中庭空間の利用>
続いて、相手空間画像41が配置される3次元空間上の3D中庭空間の利用例について説明する。本実施形態では、例えば3D中庭空間に表示したオブジェクトを介して相互コミュニケーションを実現することが可能となる。すなわち、3D中庭空間に配置する様々な対象物に対して、自分側と相手側の双方から相互に操作や影響を及ぼすことができるようにすることによって、対象物を通じたコミュニケーションが可能となる。
例えば、3D中庭空間S1に仮想のペットを配置し、通信元ユーザおよび通信先ユーザが、エサを与えたりできるようにし、エサの多さや回数に応じてペットの活動エリアがどちらかに寄るようにしてもよい。図9は、本実施形態による3D中庭空間S1に仮想の猫52が居る場合について説明する図である。図9に示す例では、通信元ユーザが沢山のエサを与えたため、猫52が、通信元ユーザ側の窓枠40の出窓部分に座ったりして、よりリアルに猫52の存在を表現している。エサは、課金式にしてもよい。また、エサを与える等の、3D中庭空間S1内の仮想オブジェクトへの作用手法は、連携するモバイル機器から行ったり、ディスプレイ1091Aがタッチパネルディスプレイ(操作I/F105)の場合はタッチ操作により行ったり、周辺に設けられたレバーやスイッチ等から行ったり、また、カメラ1011により受け付けられるジェスチャー操作により行ったりすることが想定される。
また、3D中庭空間S1には、仮想の花や植物を配置し、通信元ユーザおよび通信先ユーザが、水を与えたり、種を撒いたりすることで、一緒に植物を育てるコミュニケーションを実現することができる。また、図10に示すように、窓枠40の出窓部分に、植物53が並べられてもよい。通信元ユーザは、お気に入りの仮想植物を購入して配置してもよいし、相手からプレゼントされた仮想植物を配置してもよい。
また、3D中庭空間S1に焚火を配置して、通信元ユーザおよび通信先ユーザから薪が投げ入れられた場合に炎があがるよう表示制御してもよい。
さらに、3D中庭空間S1には、相手空間画像41から抽出した特定物を配置するようにしてもよい。これにより、例えば部屋が散らかっている場合に、部屋全ては見られたくないが、子供が遊んでいる様子のみは祖父母に見せたい場合等、特定部分のみを選択的に通信相手と共有することが可能となる。図11は、リビング映像内の特定物のみを3D中庭空間S1に配置する場合について説明する図である。
図11左に示すように、通信相手から許可された子供画像60の映像だけが相手空間画像41から抽出され、図11右に示すように、相手空間画像41の手前の3D中庭空間S1に、抽出された子供画像60’が表示される。これにより、相手空間画像41は遠くにあるためよく見えない場合でも、抽出された特定部分のみが3D中庭空間S1に表示されてよく見ることができる。抽出する特定部分は、人間に限定されず、動物や人工物であってもよい。例えば、相手空間内にいるペットを抽出して3D中庭空間S1に配置したり、相手空間内に置いてあるピアノとその奏者だけを3D中庭空間S1に配置して演奏を聞いたりすることができる。
相手空間画像41から子供画像60の抽出は、例えば相手空間画像41の物体認識(奥行き認識)を行って、動いている物体(動体認識)のみを抽出する背景分離手法を用いたり、人間の骨格(ボーン)を認識し、その関節や各部の動きを規定の3Dモデルに適応することで対象人物のみを抽出する人物分離手法を用いたりすることが想定される。通信制御装置10は、子供画像60を一般的な(または予め取得した当該子供の)3Dモデルに適応することで、3D中庭空間S1を動き回る子供をよりリアルに表現することができる。
また、本実施形態では、通信制御装置10は、相手空間から取得した様々な情報を3D中庭空間に反映させ、間接的に相手の状況を伝えることが可能となる。
例えば、通信制御装置10は、相手空間内の照明(色温度、明るさ、揺らぎ)を、3D中庭空間や、距離が近い際には通信元ユーザ側の出窓部分に反映する等、通信先の実空間の環境情報を反映させてもよい。また、通信制御装置10は、相手空間内において、調理器を操作(火をつける等)している場合、相手空間映像が配置された仮想の構造物の仮想の煙突から煙が出るよう制御してもよい。
また、通信制御装置10は、相手空間内の温度、湿度、風(気流)等を、3D中庭空間に反映させたり(例えば3D中庭空間に配置された仮想の動物や植物で表現)、通信元空間の空調制御装置等で再現したりしてもよい。
また、通信制御装置10は、通信先の地域の天候を反映させてもよい。具体的には、通信制御装置10は、例えば通信相手の地域に台風が接近してくると、相手の家(仮想的な構造物51)の上空を曇りにし、周辺の木が強風で揺れるよう制御する。また、通信制御装置10は、通信相手の地域に火山がある場合、気象情報を参照して、噴煙の様子をリアルタイムで再現してもよい。ここで、図12に、気象情報を3D空間に反映した場合について説明する図を示す。図12に示すように、通信先の地域の噴煙の様子(オブジェクト54)や天候が、相手空間画像41が配置された仮想的な構造物51の周辺に反映され、ユーザAは、リアルタイムで通信先の気象状況を把握することができる。
また、通信制御装置10は、3D中庭空間に仮想の植物を配置している際に、通信先の地域または通信元の地域の気象情報を当該仮想の植物に反映させてもよい。例えば、通信制御装置10は、良い天気が続いた場合は、植物が成長して花が咲く等の制御を行ってもよい。
また、通信制御装置10は、通信相手の一日の行動情報を取得し、そのダイジェストをまとめて3D中庭空間に設置した仮想的な掲示板に表示してもよい。
<3−3.シーン事例>
相手空間画像を配置する3D空間のシーンは、様々な場が想定される。図13〜図14に適用シーンの一例を示す。
図13左に示す図では、森の中にある向かいのログハウスに通信相手が住んでいるシーンS2を適用したものであって、仮想の構造物55の窓部分42に、相手空間画像が表示される。また、図13右に示す図では、都会の向かい合った高層マンションの一室に通信相手が住んでいるシーンS3を適用したものであって、仮想の構造物56の窓部分43に、相手空間画像が表示される。
図14左に示す図では、ある戦闘ゲームにおける一室に通信相手(ゲーム相手)が住んでいるシーンS4を適用したものであって、仮想の構造物57のドア部分44に、相手空間画像が表示される。また、図14右に示す図では、並走する列車に通信相手が居るシーンS5を適用したものであって、仮想の構造物58のドア部分45に、相手空間画像が表示される。
上述したような各シーンは、予め登録された一般的なシーンの他、映画コンテンツから抽出されたシーン、ゲームコンテンツから抽出されたシーンが想定される。また、並走する列車に通信相手が居るシーンS5は、通信元ユーザが自動車や電車等の移動する空間において通信相手とつながる場合に適用されるようにしてもよい。
<3−4.視線移動に応じた画面変化>
また、本実施形態による通信制御装置10は、ディスプレイ1091Aを見ているユーザAの視線移動に応じて表示画面を変化させることで、空間の存在をより感じさせることができる。
図15Aは、本実施形態による視線移動に応じた画面変化について説明する図である。図15A左に示すように、ユーザAが、ディスプレイ1091Aの前に立ち、相手空間画像41を見ている状態から、図15A右に示すように、ユーザAがディスプレイ1091Aに対して右側に移動した際、通信制御装置10は、視線移動に応じてアングルを変化させた相手空間画像41−1を生成し、表示する。図15Aに示す例では、窓に見立てたディスプレイ1091Aに対してユーザAが右側から見ると、部屋の左側が見えるようになる。また、窓枠40が奥行き方向に厚みを持った出窓画像により表現されている場合、通信制御装置10は、同様に視点移動に応じて厚みの幅や出窓の角度を変化させることで、実施に窓を介して相手空間とつながっているよう見える視覚効果を提示することができる。図15Bは、本実施形態による他の視線移動に応じた画面変化について説明する図である。図15B左側に示す例は、ユーザA(不図示)が、窓に見立てたディスプレイ1091Aに対して左に移動した場合に表示される相手空間画像41−2の一例である。ディスプレイ1091Aを左側から見ると、窓を介して部屋の右側が見えるようになる。また、図15B中央に示す例は、ユーザAがディスプレイ1091Aに対して上方向に移動した場合に表示される相手空間画像41−3の一例である。ディスプレイ1091Aを上方向から見ると、窓を介して部屋の下側が見えるようになる。また、図15B右側に示す例は、ユーザAがディスプレイ1091Aに対して下方向に移動した場合に表示される相手空間画像41−4の一例である。ディスプレイ1091Aを下方向側から見ると、窓を介して部屋の上側が見えるようになる。
視線移動の検知は、カメラ1011により行われ得るが、ユーザAの視線検出の他、頭部の向きを検出して頭部追従により同様の表示制御を行うことが可能である。
<<4.動作処理>>
次に、本実施形態による動作処理について図16〜図18を参照して具体的に説明する。
<4−1.通信制御処理>
図16および図17は、本実施形態による通信制御処理を示すシーケンス図である。ここでは、一例として、通信制御装置10Aが通信元(空間A)、通信制御装置10Bが通信先(空間B)であって、処理サーバ30を介してデータの送受信が行われている場合について説明する。
図16に示すように、まず、通信制御装置10Aは、接続先の呼び出しを通信制御装置10Bに対して行い(ステップS103)、通信制御装置10Bから接続許可を受信すると(ステップS106)、セッションを確立する(ステップS109)。
次に、通信制御装置10Aは、空間情報取得部102により空間情報を取得し(ステップS112)、状態判定部103により、ユーザAの状態および空間Aの状態を判別する(ステップS115)。
次いで、通信制御装置10Aは、空間情報や、状態情報を、通信部107から通信制御装置10Bへ送信する(ステップS118)。
一方、通信制御装置10B側でも、同様に空間情報の取得(ステップS121)、ユーザBの状態・空間Bの状態判別を行い(ステップS124)、各種情報を通信制御装置10Aへ送信する(ステップS127)。
次に、通信制御装置10Aは、空間距離制御部104により、ユーザAのつながり要求レベルを算出し(ステップS130)、処理サーバ30へ送信する(ステップS133)。ユーザAのつながり要求レベルは、ユーザAにより任意に入力されたものであってもよいし、ユーザ状態や空間状態の判別結果に基づいて算出されてもよい。
次いで、通信制御装置10B側でも同様に、空間距離制御部104により、ユーザBのつながり要求レベルを算出し(ステップS136)、処理サーバ30へ送信する(ステップS139)。
続いて、処理サーバ30は、ユーザAのつながり要求レベルおよびユーザBのつながり要求レベルに基づいて、距離調整を行う(ステップS142)。すなわち、処理サーバ30は、ユーザAのつながり要求レベルおよびユーザBのつながり要求レベルに基づいて、最適なつながり度合いを算出する。つながり度合いの算出は、図5を参照して上述した式2により行われ得る。
次に、処理サーバ30は、算出した距離を、通信制御装置10A、10Bにそれぞれ送信する(ステップS145、S148)。
次いで、通信制御装置10A、10Bでは、空間距離制御部104により、空間距離の最適制御を行う(ステップS151、S154)。具体的には、空間距離制御部104は、処理サーバ30から送信された距離を、空間距離として設定する。
次に、処理サーバ30は、通信制御装置10A、10Bにそれぞれシーン情報を送信する(ステップS157、S163)。送信されるシーン情報は、ユーザAまたはユーザBにより選択されたシーンの情報であってもよいし、処理サーバ30が自動的に決定したシーンの情報であってもよい。
次いで、通信制御装置10Aは、3D中庭空間生成部106により、処理サーバ30から送信されたシーン情報、上記ステップS127で受信した空間情報、状態判別情報を用いて、3D中庭空間の生成を行う(ステップS160)。また、3D中庭空間生成部106は、関連情報(気象情報、相手空間内の照度、調理器の状態、相手ユーザのスケジュール情報、行動履歴等)が送信された場合(ステップS169)、当該関連情報も3D中庭空間に反映させる(ステップS172)。
一方、通信制御装置10B側でも、同様に、3D中庭空間の生成(ステップS166)、受信した関連情報の3D中庭空間への反映(ステップS175、S178)。
次に、通信制御装置10Aは、空間情報生成部108により生成された、3D中庭空間と相手空間画像(空間Bの映像)を含む空間情報を、出力部(ディスプレイ、スピーカ)から提示する(ステップS181)。一方、通信制御装置10B側でも同様に、3D中庭空間と相手空間画像(空間Aの映像)を含む空間情報を、出力部(ディスプレイ、スピーカ)から提示する(ステップS184)。
上述した3D中庭空間および互いの相手空間画像は、処理サーバ30により同期され、互いのディスプレイにおいて、同じタイミング、同じ距離感で表示され得る。
続いて、通信制御装置10Aは、何らかの情報更新があった場合(ステップS187/Yes)、ステップS112からの処理を繰り返す。また、通信制御装置10Bも、何らかの情報更新があった場合(ステップS190/Yes)、ステップS121からの処理を繰り返す。
そして、通信制御装置10Aは、接続終了が指示されると(ステップS193/Yes)、通信制御装置10Bに対して接続終了の確認を行い(ステップS196)、通信制御装置10Bから接続終了の許可を受信すると(ステップS199)、セッションを切断する(ステップS202)。
以上、本実施形態による通信制御処理について説明した。なお、ここでは一例として処理サーバ30により同期処理や、最適なつながり度合いの算出、シーン情報の送信等を行っているが、本実施形態はこれに限定されず、これらの処理を通信制御装置10で行うことも可能である。
<4−2.シーン設定処理>
次に、シーン(3D空間シーン)設定処理について図18を参照して説明する。図18に示すように、まず、処理サーバ30は、シーン候補を通信制御装置10Aに送信(提示)する(ステップS303)。
次に、通信制御装置10Aは、受信したシーン候補をディスプレイに表示し、ユーザAによる選択を受け付ける(ステップS306)。
次いで、選択されたシーンが有料の場合(ステップS309/Yes)、処理サーバ30において課金処理が行われる(ステップS312)。
次に、処理サーバ30は、3D中庭空間に配置するオブジェクト候補を通信制御装置10Aに送信(提示)する(ステップS315)。
次いで、通信制御装置10Aは、オブジェクトを3D中庭空間に配置する(ステップS318)。この際、通信制御装置10Aは、配置するオブジェクトをユーザAに任意に選択させてもよい。
次に、配置するオブジェクトが有料の場合(ステップS321/Yes)、処理サーバ30において課金処理が行われる(ステップS324)。
以上によりシーン設定が終了する。なお、ここでは一例として通信制御装置10Aを操作するユーザAにより、通信相手と共有するシーンを設定する場合について説明したが、本実施形態はこれに限定されず、複数ユーザにより共同してシーン設定が行わるようにしてもよい。
次いで、設定したシーンの適用について説明する。通信制御装置10Aは、空間情報取得部102により空間情報を取得すると(ステップS327)、空間情報をシーンに紐付ける(ステップS330)。具体的には、通信制御装置10Aは、空間情報をシーンに反映させたり、通信相手の空間情報をシーン内に配置したりする。
次に、通信制御装置10Aは、関連サービス情報を取得すると(ステップS333)、関連情報をシーンに紐付ける(ステップS336)。具体的には、通信制御装置10Aは、関連情報をシーンに反映させる。
<<5.応用例>>
続いて、本実施形態の応用例について図19〜図21を参照して説明する。
図19は、本実施形態の応用例による通信制御装置100の構成の一例を示すブロック図である。図19に示すように、通信制御装置100は、入力部101、空間情報取得部102、状態判定部103、空間距離制御部104、操作I/F(インタフェース)105、3D中庭空間生成部106、通信部107、空間情報生成部108、出力部109、記憶部110、および送信情報生成部111を有する。
通信制御装置100の構成は、図2を参照して説明した本実施形態による通信制御装置10と比較して送信情報生成部111をさらに備える点が異なるため、ここでは通信制御装置10と相違する点について主に説明し、その他の構成の説明は図2を参照して説明したものと同様であるため、省略する。
送信情報生成部111は、通信部107を介して通信先へ送信するデータ量を調整することが可能である。送信情報生成部111は、空間距離制御部104により設定された最適なつながり度合いに応じた距離の長さに応じて、低解像で済む場合はカメラ1011で撮像した通信元側の空間の映像を低解像度に圧縮して送信する等して、通信コストを低減させることが可能となる。
例えば、送信情報生成部111は、最適なつながり度合いに応じた距離が10mの間合いの場合、通信先へ送信するHD解像度の映像をQVGA(quarter video graphics array)解像度に圧縮する(すなわち、解像度を落とす)。
また、通信先で時間積分(長期露光効果)して表示される場合、フレーム速度を例えば60fpsから5fpsに落として送信するようにしてもよい。
また、最適なつながり度合いは更新されるため、例えば送信情報生成部111は、つながり度合いが強くなった場合(距離が短くなった場合)は、QVGA解像度からVGA(video graphics array)解像度に上げて送信するようにしてもよい。また、送信情報生成部111は、複数の相手空間画像が3次元空間上に配置され、一方の相手空間Xの画像が近付いて来た(すなわち当該一方の通信先とのつながり度合いが強くなった)場合、当該一方の通信先へ送信する映像をQVGA解像度からVGA解像度に上げるよう制御してもよい。また、当該一方の相手空間画像が近付いてきたため、他方の相手空間Yの画像が見切れてしまった場合、他方の相手空間からもこちら側が相手空間Xにより見切れるため、送信情報生成部111は、映像の送信を停止させてもよい。
図20は、応用例による送信処理を示すフローチャートである。図20に示すように、まず、通信制御装置100の送信情報生成部111は、空間情報取得部102から空間情報を取得し(ステップS403)、空間距離制御部104から最適なつながり度合いを取得する(ステップS406)。
次に、送信情報生成部111は、相手ユーザと調整された最適なつながり度合いに基づいて、相手ユーザ側で全てのデータを提示するか否かを判断する(ステップS409)。例えば送信情報生成部111は、最適なつながり度合いに応じた距離が所定の閾値以下の場合、相手ユーザ側で全てのデータを提示すると判断する。
次いで、相手ユーザ側で全てのデータを提示しない場合(ステップS409/No)、送信情報生成部111は、相手ユーザ側でのデータ提示に必要な(必要最低限の)データを生成する(ステップS412)。例えば送信情報生成部111は、解像度を落としたり、画像を縮小したりする。
そして、通信部107は、相手ユーザ側で全てのデータを提示する場合は(ステップS409/Yes)全てのデータを、全てのデータを提示しない場合は送信情報生成部111により生成した必要なデータを、相手ユーザ側へ送信する(ステップS415)。
以上説明した例では、最適なつながり度合いに応じた距離(間合い)に応じてデータの圧縮可否を行う旨を説明したが、本実施形態はこれに限定されず、例えば最適なつながり度合いに「明快度」が含まれ、明快度が所定の閾値以下の場合には、同様にデータの圧縮を行ってもよい。
図21は、明快度に応じた相手空間画像46の表示について説明する図である。つながり度合いの実現は、3次元空間上の距離の制御の他、表示する相手空間の映像の明快度によって調整することも可能である。例えば図21に示すように、相手空間画像46を、カーテンにより多少遮蔽されている状態に編集することで、同じ離隔距離でもつながり度合いを低くすることが可能となる。かかる遮蔽状態は、通信元および通信先で同期されるため、送信情報生成部111は、相手側へ送信する映像を遮蔽した状態に編集し、データ容量の軽減、およびプライバシーの保護を実現可能とする。また、映像の明快度の調整は、カーテン越しの映像に限定されず、例えば窓越しに相手のシルエットが見える映像や、相手の室内(静物)のみクリアに表示し、動いている人物を時間積分(長期露光効果)で透過して表示する映像で調整してもよい。
<<6.まとめ>>
上述したように、本開示の実施形態による情報処理システムでは、空間のつながりに3次元的表現を用いることで通信相手との距離を演出し、より快適なコミュニケーションを実現することを可能とする。
具体的には、通信元の空間に設置されたディスプレイを窓(またはドア)に見立てて、3次元空間上の所定の距離離れた場所に、通信相手の空間の映像を配置する空間画像を表示することで、通信相手との距離を視覚的に表現することができる。なお、壁面に設置されるディスプレイの縦横比は、実際の窓やドアで用いられている寸法に合わせて実現されてもよい。また、ディスプレイをドアに見立てる場合、ディスプレイの下辺が床面付近に位置するように配置することで、よりリアルに、ドアの向こうの空間の存在を表現することができる。
また、3次元空間上に配置される通信相手の空間の映像の表示領域の縦横比を、ディスプレイの縦横比と同じにするよう制御してもよい。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本技術はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上述した通信制御装置10、または処理サーバ30に内蔵されるCPU(Central Processing Unit)、ROM(Read Only Memory)、およびRAM(Random Access Memory)等のハードウェアに、通信制御装置10、または処理サーバ30の機能を発揮させるためのコンピュータプログラムも作成可能である。また、当該コンピュータプログラムを記憶させたコンピュータ読み取り可能な記憶媒体も提供される。
また、上述した実施形態では、ディスプレイ1091が壁に設置されている場合について説明したが、本実施形態はこれに限定されず、情報処理端末に設けられた表示部をディスプレイ1091として用いてもよい。また、例えば透過型または非透過型のHMD(Head Mounted Display)の表示部をディスプレイ1091として用いてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、本技術は以下のような構成も取ることができる。
(1)
通信先からデータを受信する受信部と、
前記通信先の空間に対応する画像が3次元空間上の所定の位置に配置された空間画像情報を生成する生成部と、
前記生成された空間画像情報を通信元の表示部に表示するよう制御する表示制御部と、
を備える、情報処理装置。
(2)
前記情報処理装置は、
前記3次元空間上における前記通信元と前記通信先との仮想的な離隔距離を制御する距離制御部をさらに備え、
前記生成部は、前記距離制御部により調整された離隔距離に対応する位置に、前記通信先の空間に対応する画像を配置する、前記(1)に記載の情報処理装置。
(3)
前記距離制御部は、前記通信元からのつながり要求レベルおよび前記通信先からのつながり要求レベルに基づいて、前記離隔距離を制御する、前記(2)に記載の情報処理装置。
(4)
前記距離制御部は、前記通信元の空間情報に基づいて判定された通信元ユーザのコンテキストおよび前記通信先の空間情報に基づいて判定された通信先ユーザのコンテキストに基づいて、前記離隔距離を制御する、前記(2)または(3)に記載の情報処理装置。
(5)
前記コンテキストは、ユーザの状態、ユーザが居る実空間の状態、時間、季節、天候、場所、または相手ユーザとの関係性の少なくともいずれかを含む、前記(4)に記載の情報処理装置。
(6)
前記3次元空間上に配置される前記通信先の空間に対応する画像は、前記通信先から受信した前記通信先の空間内の撮像画像に基づいて生成される、前記(1)〜(5)のいずれか1項に記載の情報処理装置。
(7)
前記生成部は、前記通信先の空間に関連する関連情報をさらに用いて、前記空間画像情報を生成する、前記(6)に記載の情報処理装置。
(8)
前記関連情報は、前記通信先における気象情報、前記通信先の空間内の照度、調理器の状態、前記通信先のユーザのスケジュール情報または行動履歴を少なくとも含む、前記(7)に記載の情報処理装置。
(9)
前記生成部は、前記3次元空間上に配置された仮想建築物または仮想移動物体の窓領域またはドア領域に前記通信先の空間に対応する画像を配置した前記空間画像情報を生成する、前記(6)〜(8)のいずれか1項に記載の情報処理装置。
(10)
前記生成部は、前記通信先の空間のリアルタイムの情報に基づいて前記空間画像情報を生成する、前記(6)〜(9)のいずれか1項に記載の情報処理装置。
(11)
前記表示制御部は、前記表示部に表示する空間画像情報を、ユーザの視点移動に追従するよう制御する、前記(1)〜(10)のいずれか1項に記載の情報処理装置。
(12)
前記生成部は、設定された所定シーンを反映した3次元空間を生成する、前記(1)〜(11)のいずれか1項に記載の情報処理装置。
(13)
前記表示制御部は、前記通信先の空間に対応する画像が配置されている位置の手前側の空間に表示されたオブジェクトに対して、前記通信元または前記通信先から取得した情報を反映させる、前記(1)〜(12)のいずれか1項に記載の情報処理装置。
(14)
前記生成部は、前記通信先の空間に対応する画像に基づいて生成したオブジェクトを、前記通信先の空間に対応する画像が配置されている位置の手前側の空間に配置した前記空間画像情報を生成する、前記(1)〜(13)のいずれか1項に記載の情報処理装置。
(15)
前記情報処理装置は、
前記通信先へ送信するデータを、前記通信元の空間から取得したデータに基づいて、前記仮想的な離隔距離に応じて生成するデータ生成部をさらに備える、前記(2)に記載の情報処理装置。
(16)
前記情報処理装置は、前記通信先の空間に対応する画像の表示と、前記通信元の空間に対応する画像の前記通信先の空間での表示とを同期させるよう制御する、前記(1)〜(15)のいずれか1項に記載の情報処理装置。
(17)
プロセッサが、
通信先からデータを受信することと、
前記通信先の空間に対応する画像が3次元空間上の所定の位置に配置された空間画像情報を生成することと、
前記生成された空間画像情報を通信元の表示部に表示するよう制御することと、
を含む、情報処理方法。
(18)
コンピュータを、
通信先からデータを受信する受信部と、
前記通信先の空間に対応する画像が3次元空間上の所定の位置に配置された空間画像情報を生成する生成部と、
前記生成された空間画像情報を通信元の表示部に表示するよう制御する表示制御部と、
として機能させるための、プログラム。
1 テレプレゼンスシステム
10(10A〜10C) 通信制御装置
20 ネットワーク
30 処理サーバ
40 窓枠
41 相手空間画像
41’ 相手空間画像
100 通信制御装置
101 入力部
1011 カメラ
1012 マイク
1013 センサ
102 空間情報取得部
103 状態判定部
104 空間距離制御部
105 操作I/F
106 中庭空間生成部
107 通信部
108 空間情報生成部
109 出力部
1091 ディスプレイ
1092 スピーカ
1093 インジケータ
110 記憶部
111 送信情報生成部

Claims (18)

  1. 通信先からデータを受信する受信部と、
    前記通信先の空間に対応する画像が3次元空間上の所定の位置に配置された空間画像情報を生成する生成部と、
    前記生成された空間画像情報を通信元の表示部に表示するよう制御する表示制御部と、
    を備える、情報処理装置。
  2. 前記情報処理装置は、
    前記3次元空間上における前記通信元と前記通信先との仮想的な離隔距離を制御する距離制御部をさらに備え、
    前記生成部は、前記距離制御部により調整された離隔距離に対応する位置に、前記通信先の空間に対応する画像を配置する、請求項1に記載の情報処理装置。
  3. 前記距離制御部は、前記通信元からのつながり要求レベルおよび前記通信先からのつながり要求レベルに基づいて、前記離隔距離を制御する、請求項2に記載の情報処理装置。
  4. 前記距離制御部は、前記通信元の空間情報に基づいて判定された通信元ユーザのコンテキストおよび前記通信先の空間情報に基づいて判定された通信先ユーザのコンテキストに基づいて、前記離隔距離を制御する、請求項2に記載の情報処理装置。
  5. 前記コンテキストは、ユーザの状態、ユーザが居る実空間の状態、時間、季節、天候、場所、または相手ユーザとの関係性の少なくともいずれかを含む、請求項4に記載の情報処理装置。
  6. 前記3次元空間上に配置される前記通信先の空間に対応する画像は、前記通信先から受信した前記通信先の空間内の撮像画像に基づいて生成される、請求項1に記載の情報処理装置。
  7. 前記生成部は、前記通信先の空間に関連する関連情報をさらに用いて、前記空間画像情報を生成する、請求項6に記載の情報処理装置。
  8. 前記関連情報は、前記通信先における気象情報、前記通信先の空間内の照度、調理器の状態、前記通信先のユーザのスケジュール情報または行動履歴を少なくとも含む、請求項7に記載の情報処理装置。
  9. 前記生成部は、前記3次元空間上に配置された仮想建築物または仮想移動物体の窓領域またはドア領域に前記通信先の空間に対応する画像を配置した前記空間画像情報を生成する、請求項6に記載の情報処理装置。
  10. 前記生成部は、前記通信先の空間のリアルタイムの情報に基づいて前記空間画像情報を生成する、請求項6に記載の情報処理装置。
  11. 前記表示制御部は、前記表示部に表示する空間画像情報を、ユーザの視点移動に追従するよう制御する、請求項1に記載の情報処理装置。
  12. 前記生成部は、設定された所定シーンを反映した3次元空間を生成する、請求項1に記載の情報処理装置。
  13. 前記表示制御部は、前記通信先の空間に対応する画像が配置されている位置の手前側の空間に表示されたオブジェクトに対して、前記通信元または前記通信先から取得した情報を反映させる、請求項1に記載の情報処理装置。
  14. 前記生成部は、前記通信先の空間に対応する画像に基づいて生成したオブジェクトを、前記通信先の空間に対応する画像が配置されている位置の手前側の空間に配置した前記空間画像情報を生成する、請求項1に記載の情報処理装置。
  15. 前記情報処理装置は、
    前記通信先へ送信するデータを、前記通信元の空間から取得したデータに基づいて、前記仮想的な離隔距離に応じて生成するデータ生成部をさらに備える、請求項2に記載の情報処理装置。
  16. 前記情報処理装置は、前記通信先の空間に対応する画像の表示と、前記通信元の空間に対応する画像の前記通信先の空間での表示とを同期させるよう制御する、請求項1に記載の情報処理装置。
  17. プロセッサが、
    通信先からデータを受信することと、
    前記通信先の空間に対応する画像が3次元空間上の所定の位置に配置された空間画像情報を生成することと、
    前記生成された空間画像情報を通信元の表示部に表示するよう制御することと、
    を含む、情報処理方法。
  18. コンピュータを、
    通信先からデータを受信する受信部と、
    前記通信先の空間に対応する画像が3次元空間上の所定の位置に配置された空間画像情報を生成する生成部と、
    前記生成された空間画像情報を通信元の表示部に表示するよう制御する表示制御部と、
    として機能させるための、プログラム。
JP2017554948A 2015-12-11 2016-09-28 情報処理装置、情報処理方法、およびプログラム Active JP6958360B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015242437 2015-12-11
JP2015242437 2015-12-11
PCT/JP2016/078617 WO2017098780A1 (ja) 2015-12-11 2016-09-28 情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2017098780A1 true JPWO2017098780A1 (ja) 2018-09-27
JP6958360B2 JP6958360B2 (ja) 2021-11-02

Family

ID=59013927

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017554948A Active JP6958360B2 (ja) 2015-12-11 2016-09-28 情報処理装置、情報処理方法、およびプログラム

Country Status (5)

Country Link
US (2) US10375353B2 (ja)
EP (1) EP3389261B1 (ja)
JP (1) JP6958360B2 (ja)
CN (1) CN108370431B (ja)
WO (1) WO2017098780A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3493534B1 (en) * 2016-07-28 2023-04-05 Sony Group Corporation Information processing device, information processing method, and program
JP7131542B2 (ja) * 2017-03-15 2022-09-06 ソニーグループ株式会社 情報処理装置、情報処理方法およびプログラム
US10986310B2 (en) * 2017-11-14 2021-04-20 Sony Corporation Information processing apparatus, information processing method, and program
JP7415940B2 (ja) * 2018-11-09 2024-01-17 ソニーグループ株式会社 情報処理装置および方法、並びに、プログラム
JP6611143B1 (ja) * 2019-03-08 2019-11-27 アビームコンサルティング株式会社 画像表示方法、画像表示システム、プログラム
US20220217301A1 (en) * 2019-04-15 2022-07-07 Shanghai New York University Systems and methods for interpolative three-dimensional imaging within the viewing zone of a display
US20230007127A1 (en) * 2019-12-13 2023-01-05 Sony Group Corporation Telepresence system
US20230046746A1 (en) * 2020-02-04 2023-02-16 Sony Group Corporation Information processing device and information processing method
CN115039412A (zh) * 2020-02-27 2022-09-09 爱幕赴株式会社 图像显示装置、系统以及方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006101338A (ja) * 2004-09-30 2006-04-13 Toshiba Corp テレビジョン装置
WO2011027475A1 (ja) * 2009-09-07 2011-03-10 株式会社東芝 テレビ会議装置
JP2014056308A (ja) * 2012-09-11 2014-03-27 Nippon Telegr & Teleph Corp <Ntt> 映像コミュニケーションシステム、および映像コミュニケーション方法
JP2014233045A (ja) * 2013-05-30 2014-12-11 日本電信電話株式会社 映像表示システム及び映像表示方法

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020015003A1 (en) * 2000-08-07 2002-02-07 Masami Kato Virtual space system structured by plural user terminals and server device
JP4576740B2 (ja) 2001-04-02 2010-11-10 ソニー株式会社 窓状撮像表示装置及びそれを使う双方向通信方法
JP2004348647A (ja) * 2003-05-26 2004-12-09 Hitachi Ltd ヒューマン・コミュニケーション・システム
JP4546151B2 (ja) * 2004-05-26 2010-09-15 株式会社日立製作所 音声コミュニケーション・システム
JP4485991B2 (ja) 2005-05-13 2010-06-23 株式会社ソニー・コンピュータエンタテインメント 画像処理装置、画像処理方法及びプログラム
JP4645355B2 (ja) 2005-08-11 2011-03-09 ソニー株式会社 情報処理装置および方法、並びにプログラム
US20070279483A1 (en) * 2006-05-31 2007-12-06 Beers Ted W Blended Space For Aligning Video Streams
JP2008270913A (ja) * 2007-04-16 2008-11-06 Ntt Docomo Inc 制御装置、移動通信システム及び通信端末
US20090024425A1 (en) * 2007-07-17 2009-01-22 Robert Calvert Methods, Systems, and Computer-Readable Media for Determining an Application Risk Rating
WO2009104564A1 (ja) * 2008-02-20 2009-08-27 インターナショナル・ビジネス・マシーンズ・コーポレーション 仮想空間における会話サーバ、会話のための方法及びコンピュータ・プログラム
US8373742B2 (en) * 2008-03-27 2013-02-12 Motorola Mobility Llc Method and apparatus for enhancing and adding context to a video call image
SE535205C2 (sv) * 2010-06-03 2012-05-22 Erik Eskilsson Studio och konferenssystem för videokonferens
US8340258B2 (en) * 2010-07-30 2012-12-25 Hewlett-Packard Development Company, L.P. System, method and apparatus for controlling image access in a video collaboration system
US8395655B2 (en) * 2010-08-15 2013-03-12 Hewlett-Packard Development Company, L.P. System and method for enabling collaboration in a video conferencing system
WO2012059781A1 (en) * 2010-11-03 2012-05-10 Alcatel Lucent System and method for providing a virtual representation
US8675067B2 (en) * 2011-05-04 2014-03-18 Microsoft Corporation Immersive remote conferencing
US9538133B2 (en) * 2011-09-23 2017-01-03 Jie Diao Conveying gaze information in virtual conference
WO2013187869A1 (en) * 2012-06-11 2013-12-19 Intel Corporation Providing spontaneous connection and interaction between local and remote interaction devices
BR112014030593A2 (pt) * 2012-06-12 2017-06-27 Sony Corp dispositivo de processamento de informação, método de processamento de informação, e, programa
EP2713593B1 (en) * 2012-09-28 2015-08-19 Alcatel Lucent, S.A. Immersive videoconference method and system
US8976224B2 (en) * 2012-10-10 2015-03-10 Microsoft Technology Licensing, Llc Controlled three-dimensional communication endpoint
US9325943B2 (en) * 2013-02-20 2016-04-26 Microsoft Technology Licensing, Llc Providing a tele-immersive experience using a mirror metaphor
JP6229314B2 (ja) * 2013-05-30 2017-11-15 ソニー株式会社 情報処理装置、表示制御方法及びプログラム
CN104469256B (zh) * 2013-09-22 2019-04-23 思科技术公司 沉浸式和交互式的视频会议房间环境
JP6468712B2 (ja) * 2014-03-28 2019-02-13 大和ハウス工業株式会社 通信ユニット
US9389139B2 (en) * 2014-07-15 2016-07-12 The United States Of America As Represented By The Secretary Of The Army Method for studying the evolution of damage in cylinders subjected to internal radial explosion
US9794511B1 (en) * 2014-08-06 2017-10-17 Amazon Technologies, Inc. Automatically staged video conversations
EP3219098B1 (en) * 2014-11-14 2021-10-06 PCMS Holdings, Inc. System and method for 3d telepresence

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006101338A (ja) * 2004-09-30 2006-04-13 Toshiba Corp テレビジョン装置
WO2011027475A1 (ja) * 2009-09-07 2011-03-10 株式会社東芝 テレビ会議装置
JP2014056308A (ja) * 2012-09-11 2014-03-27 Nippon Telegr & Teleph Corp <Ntt> 映像コミュニケーションシステム、および映像コミュニケーション方法
JP2014233045A (ja) * 2013-05-30 2014-12-11 日本電信電話株式会社 映像表示システム及び映像表示方法

Also Published As

Publication number Publication date
EP3389261A4 (en) 2018-12-05
US10375353B2 (en) 2019-08-06
EP3389261B1 (en) 2021-03-17
US10785447B2 (en) 2020-09-22
CN108370431B (zh) 2021-03-19
JP6958360B2 (ja) 2021-11-02
CN108370431A (zh) 2018-08-03
EP3389261A1 (en) 2018-10-17
US20180332254A1 (en) 2018-11-15
WO2017098780A1 (ja) 2017-06-15
US20190327446A1 (en) 2019-10-24

Similar Documents

Publication Publication Date Title
WO2017098780A1 (ja) 情報処理装置、情報処理方法、およびプログラム
JP6798502B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US11343471B2 (en) Information processing device and information processing method for communication using three-dimensional space
KR102581453B1 (ko) 헤드 마운티드 디스플레이(Head Mounted Display: HMD) 디바이스를 위한 이미지 처리
JP2023095956A (ja) 複合現実デバイスにおける仮想および実オブジェクトの記録
US8990842B2 (en) Presenting content and augmenting a broadcast
US9349217B1 (en) Integrated community of augmented reality environments
CN110413108B (zh) 虚拟画面的处理方法、装置、系统、电子设备及存储介质
US20170237941A1 (en) Realistic viewing and interaction with remote objects or persons during telepresence videoconferencing
CN107290970A (zh) 一种基于智能音响的智能家居控制系统
KR20200097637A (ko) 시뮬레이션 모래상자 시스템
CN109255314B (zh) 信息提示方法、装置、智能眼镜及存储介质
CN109413465A (zh) 一种家庭娱乐系统和控制方法
Heidrich et al. RoomXT: advanced video communication for joint dining over a distance
WO2018155235A1 (ja) 制御装置、制御方法、プログラム、および投影システム
WO2021131326A1 (ja) 情報処理装置及び情報処理方法、並びにコンピュータプログラム
US20140160296A1 (en) Distance mirror television (dmtv) apparatus and method thereof
JP6917294B2 (ja) 見守りシステム
US9560313B2 (en) Dialogue system and dialogue method
WO2020158440A1 (ja) 情報処理装置、情報処理方法、及びプログラムを記載した記録媒体
US10986310B2 (en) Information processing apparatus, information processing method, and program

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190920

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201013

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201210

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210518

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210720

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210720

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210720

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210804

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210810

C272 Notice of ex officio correction

Free format text: JAPANESE INTERMEDIATE CODE: C272

Effective date: 20210810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210907

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210920

R151 Written notification of patent or utility model registration

Ref document number: 6958360

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151