JP6551416B2 - 情報処理システム、記憶媒体、および制御方法 - Google Patents

情報処理システム、記憶媒体、および制御方法 Download PDF

Info

Publication number
JP6551416B2
JP6551416B2 JP2016557470A JP2016557470A JP6551416B2 JP 6551416 B2 JP6551416 B2 JP 6551416B2 JP 2016557470 A JP2016557470 A JP 2016557470A JP 2016557470 A JP2016557470 A JP 2016557470A JP 6551416 B2 JP6551416 B2 JP 6551416B2
Authority
JP
Japan
Prior art keywords
user
information
communication destination
image
destination device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016557470A
Other languages
English (en)
Other versions
JPWO2016072118A1 (ja
Inventor
宏 岩波
宏 岩波
正道 飛鳥井
正道 飛鳥井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2016072118A1 publication Critical patent/JPWO2016072118A1/ja
Application granted granted Critical
Publication of JP6551416B2 publication Critical patent/JP6551416B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/64Protecting data integrity, e.g. using checksums, certificates or signatures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/62Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245Protecting personal data, e.g. for financial or medical purposes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/04Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks
    • H04L63/0407Network architectures or network communication protocols for network security for providing a confidential data exchange among entities communicating through data packet networks wherein the identity of one or more communicating identities is hidden
    • H04L63/0421Anonymous communication, i.e. the party's identifiers are hidden from the other party or parties, e.g. using an anonymizer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/02Protecting privacy or anonymity, e.g. protecting personally identifiable information [PII]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/21Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/2137Time limited access, e.g. to a computer or data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/21Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/2141Access rights, e.g. capability lists, access control lists, access tables, access matrices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/21Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/2149Restricted operating environment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4788Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Bioethics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本開示は、情報処理システム、記憶媒体、および制御方法に関する。
近年、ソーシャルネットワークの拡大が示すように、人と人との繋がりや密なコミュニケーションが求められている。また、住宅や仕事の関係により、親や家族と離れて生活しなければならない場合があり、そのような場合には離れた場所で暮らす親や家族の様子を知りたいという欲求がある。
ここで、昨今の技術発達により、リアリティのある鮮明な映像を表示できる表示装置や高解像度のカメラなどが開発され、これらを用いて遠隔地の空間同士を結ぶテレプレゼンスシステムが提案されている。
例えば下記特許文献1では、第1のユーザが存在する現実空間を撮像した映像を、第2のユーザに提示してもよいかを判断するための許可事象の設定を行い、設定された許可事象を示す情報を相手に送信する映像情報処理装置が提案されている。
特開2011−172205号公報
上述した昨今のテレプレゼンスシステムでは、互いの空間の鮮明な映像や音声が提供されることで人と人との繋がりや密なコミュニケーションを実現できる一方、プライバシーをコントロールする手段に優れたものが無かった。例えば、遠隔地にある部屋と部屋とを繋ぐ場合、部屋を撮像した撮像画像が通信先の部屋の表示装置に継続的に表示されるが、ユーザが公開したくない物が写っていたり、公開したくない時間帯であったりする場合に応じてユーザのプライバシーを守るための手段が必要である。
プライバシーのコントロール手段として、従来のテレプレゼンスシステムでは、ミュートボタンやカメラを覆うカバー等を用いて、ユーザ自身によりテレプレゼンスの通信のON/OFFが行われていた。
しかしながら、従来のプライバシーコントロール手段では、テレプレゼンスシステムのプライバシーレベルを自動調整する点については何ら言及されていなかった。ここで、ユーザのプライバシーレベルはユーザと相手との関係や相手がどのような人物であるかによって異なるものであるため、相手に応じて設定することで、より利便性の高いテレプレゼンスシステムを提供することができる。
そこで、本開示では、テレプレゼンスシステムにおいてユーザのプライバシーレベルを相手に応じて設定することが可能な情報処理システム、記憶媒体、および制御方法を提案する。
本開示によれば、通信先装置のユーザに応じてプライバシーレベルを自動設定する設定部と、前記通信先装置に、通信元装置のユーザの映像を送信する通信部と、前記自動設定されたプライバシーレベルに応じて前記通信元装置のユーザの映像をマスクするよう制御する制御部と、を備える情報処理システムを提案する。
本開示によれば、コンピュータを、通信先装置の相手ユーザに応じてプライバシーレベルを自動設定する設定部と、前記通信先装置に、ユーザの映像を送信する通信部と、前記自動設定されたプライバシーレベルに応じて前記ユーザの映像をマスクするよう制御する制御部と、として機能させるためのプログラムが記憶された記憶媒体を提案する。
本開示によれば、通信先装置のユーザに応じてプライバシーレベルを自動設定すること、前記通信先装置に、通信元装置のユーザの映像を送信することと、前記自動設定されたプライバシーレベルに応じて前記通信元装置のユーザの映像をマスクするよう制御することと、を含む制御方法を提案する。
以上説明したように本開示によれば、テレプレゼンスシステムにおいてユーザのプライバシーレベルを相手に応じて設定することが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態によるテレプレゼンスシステムの概要を説明する図である。 本実施形態による障子画像の表示例について説明する図である。 本実施形態による通信制御装置の構成の一例を示すブロック図である。 本実施形態による感性サーバの構成の一例を示すブロック図である。 本実施形態によるテレプレゼンス制御処理を示すフローチャートである。 本実施形態による開度設定の動作処理を示すフローチャートである。 本実施形態によるインタラクション評価のデータ例を示す図である。 図7に示すインタラクション評価のデータ例から感性値算出に用いるデータを抜き出したデータ例を示す図である。 本実施形態による障子の開閉ジェスチャーを説明する図である。 本実施形態による開閉ジェスチャーに応じた障子画像の表示変更について説明する図である。 本実施形態による障子画像の表示モードの変更について説明する図である。 本実施形態によるジェスチャーに応じた開度設定の動作処理を示すフローチャートである。 本実施形態によるメッセージ表示の一例を説明する図である。 本実施形態によるメッセージ表示の他の例を説明する図である。 本実施形態による物理的な障子を用いたプライバシー制御について説明する図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、説明は以下の順序で行うものとする。
1.本開示の一実施形態によるテレプレゼンスシステムの概要
2.基本構成
2−1.通信制御装置の構成
2−2.感性サーバの構成
3.動作処理
3−1.テレプレゼンス制御
3−2.開度の設定制御
4.補足
4−1.メッセージ等の表示
4−2.物理障子の利用
5.まとめ
<<1.本開示の一実施形態によるテレプレゼンスシステムの概要>>
まず、本開示の一実施形態によるテレプレゼンスシステム1の概要について図1を参照して説明する。図1に示すように、本実施形態によるテレプレゼンスシステム1は、複数の空間(例えば部屋R1、R2)を結び、一方の空間の映像を他方に提供することで、遠隔地の空間にいるユーザ同士のコミュニケーションを図ることができる。具体的には、テレプレゼンスシステム1は、部屋R1に存在するユーザAの様子を、部屋R1に設けられた高解像度カメラおよびマイクアレイで取得し、部屋R2に設けられた表示部32a−2およびスピーカから出力させる。また、テレプレゼンスシステム1は、同様に部屋R2に存在するユーザBの様子を部屋R2に設けられた高解像度カメラおよびマイクアレイで取得し、部屋R1に設けられた表示部32a−1およびスピーカから出力させる。
このように、互いの様子が高解像度カメラで撮像され、相手側に提供されることで、遠隔地に居るユーザ同士であっても、よりリアリティのある密なコミュニケーションを取ることができる。しかしながら一方で、ユーザのプライバシーをコントロールする手段も必要となる。
従来のテレプレゼンスシステムでは、ミュートボタンやカメラを覆うカバー等を用いてユーザ自身の判断によってテレプレゼンスの通信のON/OFFが行われていたが、このようなコントロール手段では映像や音声の通信を一方的に切断することとなり、切断された側には切断した側の意図が伝わらなかった。また、部屋の映像全ては見せたくはないが、一部であれば相手側に見せてもよいといった、プライバシーレベルの度合いをコントロールする優れた手段は提供されていなかった。さらに、ユーザのプライバシーレベルは、ユーザと相手との関係や相手がどのような人物であるかによって異なるものであるが、相手に応じてプライバシーレベルを設定することは、従来のテレプレゼンスシステムでは何ら考慮されていなかった。
そこで、本実施形態では、テレプレゼンスシステムにおけるプライバシーレベルを相手に応じて自動的に設定することで、プライバシーを適度に保つことができる。具体的には、設定されたプライバシーレベルに応じて相手側に提供する映像をマスクすることで、部屋の映像の一部を見せたくないといったユーザの要望に対して、通信をOFFして一方的に切断することなく対応することができる。
本実施形態による相手に応じたプライバシーレベルの設定は、例えば相手の属性情報、行動情報、感情情報、または環境情報に応じて行われ得る。さらに、本実施形態では、相手の人間性や信頼度を示す所定の指標を用いてプライバシーレベルを設定することも可能である。所定の指標とは、対象人物が他の人物や物に対して行ったインタラクション(行為)の評価履歴に基づいて算出される感性値である。
具体的には、例えば図1に示すユーザAのユーザBに対するプライバシーレベルを設定する際、テレプレゼンスシステム1は、ユーザBのオブジェクトIDに基づいて感性サーバ2からユーザBのインタラクション評価を取得する。そして、テレプレゼンスシステム1は、取得したインタラクション評価に基づいてユーザBの感性値を算出し、算出した感性値に応じてプライバシーレベルを設定する。感性値が高い場合、ユーザBは信頼度の高い人物であると言えるため、テレプレゼンスシステム1はユーザAのプライバシーレベルを低く設定し、ユーザBに公開する映像の領域を大きくする。一方、感性値が低い場合、ユーザBは信頼度の低い人物であると言えるため、テレプレゼンスシステム1はユーザAのプライバシーレベルを高く設定し、ユーザBに公開する映像の領域を小さく、若しくは通信をOFFするよう制御する。
なお設定されたプライバシーレベルに応じて行う相手への公開映像(ユーザAの撮像画像)の領域の制御は、映像を所定手段でマスクすることにより実現する。映像のマスク手段としては、例えば公開映像(ユーザAの撮像画像)に画像を重畳表示し、公開映像の少なくとも一部を隠すことで、ユーザAのプライバシーを適度に保つことができる。重畳する画像には、例えば障子画像を用いる。障子とは、家屋における扉、窓に用いる建具の一つであって、明かりを通すように木枠に和紙が張られている。これにより、閉めた状態であっても採光することができる。また、障子は左右の移動により開閉するため、操作した人の意図が残せるデバイスでもある。すなわち、蝶番部分を軸として回転する方式の扉や窓では、開いている状態と閉まっている状態の中間で停止させることは不安定であるが、障子の場合は少し開いた状態で停止させていても不安定ではなく、操作した人の意図(どの程度開けていたいか)が残る。本実施形態では、このような障子の機能を、障子画像により実現し、公開映像の一部を隠すことでユーザAのプライバシーを適度に保つことができる。また、ユーザBは、障子画像によりどの程度隠されているか(仮想的な障子の開き具合、すなわち開度)により、ユーザAがどの程度なら公開してもよいと思っているかを直感的に把握することができる。
障子画像を用いる場合、プライバシーレベルは障子の開度として設定される。つまり、プライバシーレベルを低くする場合は開度を大きく、プライバシーレベルを高くする場合は開度を小さくする。
また、かかる障子画像の開度(プライバシーレベル)は、通信元と通信先とで共有されるようにしてもよい。この場合、ユーザAが存在する部屋R1の表示部32a−1において、部屋R2に存在するユーザBの撮像画像に障子画像が重畳表示される位置(仮想的な障子の開度)と、ユーザBが存在する部屋R2の表示部32a−2において、部屋R1に存在するユーザAの撮像画像に障子画像が重畳表示される位置(仮想的な障子の開度)は同じとなる。これにより、ユーザAは、自らのプライバシーレベルがどの程度に設定されているかを、表示部32a−1に表示された障子画像の開度を見て直感的に把握することができる。以下、障子画像の表示例について図2を参照して説明する。
図2は、本実施形態による障子画像の表示例について説明する図である。図2に示すように、ユーザAが存在する部屋R1には、表示部32a、カメラ32b、およびマイクアレイ32cが壁面に設けられている。表示部32aは、表示部32aに部屋R2の撮像画像321と障子画像322が表示された際、実際に部屋R1の壁に障子が存在し、遠隔地の部屋R2があたかも隣に存在するかのような臨場感や一体感を実現するよう、部屋R2の壁面かつ表示部32aの下端が床に近接するよう配置される。また、カメラ32bおよびマイクアレイ32cは、図2では表示部32aの上方に設置されている。なお図2に示す表示部32a、カメラ32b、およびマイクアレイ32cの配置は一例であって、本実施形態はこれに限定されない。
部屋R1に設けられるカメラ32bおよびマイクアレイ32cで取得したユーザAの情報(撮像画像および音声)は、部屋R1の通信制御装置(不図示)により部屋R2に送信される。また、部屋R2に同様に設けられたカメラおよびマイクアレイにより取得された情報(撮像画像321および音声)は、部屋R2の通信制御装置(不図示)により部屋R1に送信される。
部屋R1の通信制御装置は、図2に示すように、表示部32aに部屋R2から送信された撮像画像321と、当該撮像画像321をマスクする障子画像322を表示するよう制御する。障子画像322は、撮像画像321に重畳表示され、プライバシーレベルに応じて開度が調整される。例えば、プライバシーレベルが低く設定されている場合は公開する映像の領域を広くするため開度を大きくし、一方、プライバシーレベルが高く設定されている場合は公開する映像の領域を狭くするため開度を小さくするよう制御する。なお、本実施形態では、設定されるプライバシーレベルをユーザA側(部屋R1)とユーザB側(部屋R2)とで共有する。また、障子画像322の開度によりマスクされないで見ることができる通信先の撮像画像321の領域が変化することに加えて、通信先の音声の音量を障子画像322の開度に応じて増減してもよい。
このように、本実施形態によるテレプレゼンスシステム1におけるプライバシーコントロールを、障子画像322を用いて仮想的な障子の開度で調整することで、従来のプライバシーコントロール手段のような通信のON/OFFではなく、画像の一部を公開するといった調整を行うことができる。また、従来のシステムでは、片方の意図が一方的に反映されて通信のON/OFFが切り替えられ、その意図が相手には伝わらなかったが、本実施形態では公開領域を最小から最大まで調整できるため、相手側にどの程度であれば見せてもよいかといったユーザの意図が伝わる。
また、実際の障子の紙(木枠に張られている和紙)は光の透過率が40%〜50%であって、ガラスなどの透明なものと壁などの遮蔽物との中間にあたり、障子の向こう側の光や音を微かに通過させて向こう側に存在する人や物の気配を残しつつ、プライバシーを適度に保つことができる。したがって、本実施形態においても、障子の向こう側の明かりが透けて見えるよう障子画像322を画像処理することで、障子を閉めてプライバシーを保ちつつ、相手側の気配を伝えることが可能である。また、実際の障子の紙には透かし模様が入っている場合もあり、光を受けることで美しい模様を浮かびあがらせることも可能であるため、テレプレゼンスシステム1は、明かりが透ける画像処理を行う際に、透かし模様が見えるよう制御してもよい。
以上、本実施形態によるテレプレゼンスシステム1の概要について説明した。なお、図2に示す例では、プライバシーコントロール手段の一例として障子画像322を用いたが、本実施形態はこれに限定されず、例えばカーテン、ロールカーテン、御簾、ブラインド、曇りガラス、液晶シャッター等の画像を同様に用いてもよい。プライバシーコントロール手段がカーテン画像、ロールカーテン画像、御簾画像、またはブラインド画像の場合、プライバシーレベルはその開度として設定され、曇りガラス画像または液晶シャッターの場合、プライバシーレベルはその透過度として設定される。
また、上述したテレプレゼンスシステム1では、部屋R1のデータ送受信が第1の通信制御装置(不図示)により制御され、部屋R2のデータ送受信が第2の通信制御装置(不図示)により制御される。第1、第2の通信制御装置は、ネットワークを介して接続し、互いにデータの送受信を行う。具体的には、第1の通信制御装置は部屋R1のカメラ32bおよびマイクアレイ32cで取得したユーザAの情報(撮像画像および音声)を第2の通信制御装置へ送信し、第2の通信制御装置は受信した撮像画像および音声を部屋R2の表示部およびスピーカから出力するよう制御する。同様に、第2の通信制御装置は部屋R2のカメラおよびマイクアレイで取得したユーザBの情報(撮像画像および音声)を第1の通信制御装置へ送信し、第1の通信制御装置は受信した撮像画像および音声を部屋R1の表示部32aおよびスピーカから出力するよう制御する。
<<2.基本構成>>
続いて、テレプレゼンスシステム1に含まれる各装置の具体的な構成について図3〜図4を参照して説明する。
<2−1.通信制御装置の構成>
図3は、本実施形態による通信制御装置3の構成の一例を示すブロック図である。通信制御装置3は、テレプレゼンスシステム1で結ばれる空間におけるデータの送受信を制御する。
図3に示すように、本実施形態による通信制御装置3は、制御部30、通信部31、テレプレゼンス部32、各種センサ33、カレンダー・時計部35、および記憶部37を有する。
(2−1−1.制御部)
制御部30は、通信制御装置3の各構成を制御する。制御部30は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、および不揮発性メモリを備えたマイクロコンピュータにより実現される。具体的には、制御部30は、図3に示すように、相手ユーザ情報取得部30a、感性値算出部30b、開度設定部30c、テレプレゼンス制御部30d、ジェスチャー検出部30e、および感情情報取得部30fとして機能する。また、通信制御装置3がプロジェクタ34を有する場合、制御部30はプロジェクタ制御部30gとしても機能する。
相手ユーザ情報取得部30aは、通信先の相手ユーザに関する情報を取得する。具体的には、相手ユーザ情報取得部30aは、相手ユーザの属性情報、行動情報、感情情報、または環境情報を、通信先の通信制御装置または特定のサーバから取得する。属性情報とは、例えば具体的には、性別、年齢、身長、体重、血液型、性格、または趣味・嗜好等の情報である。行動情報とは、相手ユーザが現在どのような行動をしているかを示す情報であって、具体的には、例えば空間内での相手ユーザの位置、移動の速度、動作の種類、動作の速度、動作のテンポ、無意識の行動、障子操作の時系列情報等である。感情情報とは、相手ユーザの現在の感情を示す情報である。環境情報とは、相手ユーザが存在する空間の天候、温度、湿度、騒音レベル、部屋の照度、大気汚染度、日時、空間の地理的な位置、高度、または建物状況等を示す情報である。相手ユーザ情報取得部30aは、取得した相手ユーザの情報を開度設定部30cに出力する。
感性値算出部30bは、相手ユーザのオブジェクトIDに基づいて、相手ユーザに対応付けられたインタラクション評価を感性サーバ2から取得し、相手ユーザの感性値を算出する。相手ユーザのオブジェクトIDは、相手ユーザ情報取得部30aにより取得してもよいし、特定サーバに問い合わせて取得してもよいし、記憶部37に予め登録されていてもよい。感性値算出部30bは、算出した相手ユーザの感性値を開度設定部30cに出力する。
開度設定部30cは、相手ユーザに応じたプライバシーレベルを開度として設定する。具体的には、開度設定部30cは、相手ユーザ情報取得部30aにより取得した相手ユーザの属性情報、行動情報、感情情報、または環境情報、若しくは感性値算出部30bにより算出された相手ユーザの感性値の少なくともいずれかに基づいて、相手ユーザが信頼できる人物である程プライバシーレベルを低く、すなわち仮想的な障子の開度を大きく設定する。また、開度設定部30cは、相手ユーザが信頼できない人物である程プライバシーレベルを高く、すなわち仮想的な障子の開度を小さく設定する。開度設定部30cは、設定した開度をテレプレゼンス制御部30dに出力する。
信頼できる人物か否かの判断基準は特に限定しないが、例えば属性情報がユーザと同じまたは近い人物の場合は、信頼度を高くしてもよい。具体的には、ユーザと同じ性別、年代、趣味・嗜好、性格等の場合、開度設定部30cは、信頼度が高いと判断し、プライバシーレベルを低く、すなわち仮想的な障子の開度を大きく設定する。または、例えば開度設定部30cは、相手ユーザの行動情報に所定の行動(例えば物を投げる等の危険行動)が含まれる場合や、相手ユーザの感情情報に所定の感情(例えば怒り、嫌悪、恐怖等の感情)が含まれる場合は、信頼度が低い人物と判断し、プライバシーレベルを高く、すなわち仮想的な障子の開度を小さく設定する。さらに、開度設定部30cは、相手ユーザの環境情報に所定の環境(例えば騒音等)が含まれる場合や、行動情報に所定の行動(例えばテレビを熱心に見ている等)が含まれる場合は、テレプレゼンスを行う状況に適切ではないため、仮想的な障子の開度を小さく設定してもよい。また、開度設定部30cは、相手ユーザの感性値が所定値を上回る場合、信頼度が高い人物と判断し、プライバシーレベルを低く、すなわち仮想的な障子の開度を大きく設定してもよい。
テレプレゼンス制御部30dは、テレプレゼンス部32を制御し、対象空間と通信先空間とのテレプレゼンスを実現する。具体的には、テレプレゼンス制御部30dは、テレプレゼンス部32のカメラ32bで撮像した撮像画像、およびマイクアレイ32cで収音した音声を通信部31から通信先の通信制御装置に送信するよう制御する。この際、テレプレゼンス制御部30dは、開度設定部30cで設定された開度に応じて撮像画像をマスクするよう制御する。具体的には、例えばテレプレゼンス制御部30dは、設定された開度に応じて障子画像を撮像画像に重畳させる加工を行い、加工した画像を通信先に送信してもよいし、設定された開度を撮像画像と共に通信先に送信してもよい。
また、テレプレゼンス制御部30dは、通信先の通信制御装置から受信した撮像画像321を表示部32aに表示させ、同様に受信した音声をスピーカ32dで再生させるよう制御する。なお、プライバシーレベルが通信先と共有されている場合、テレプレゼンス制御部30dは、開度設定部30cにより設定された開度に従って撮像画像321に重畳表示する障子画像322の位置を調整する。
ジェスチャー検出部30eは、各種センサ33に含まれる深度センサ33aにより取得された深度情報に基づいて、ユーザのジェスチャーを検出する。例えば、ジェスチャー検出部30eは、障子を開けるジェスチャーを検出する。本実施形態では、上述したように相手ユーザに応じてプライバシーレベルを設定するが、ユーザが任意でプライバシーレベルを変更することも可能である。具体的には、ユーザが表示部32aに表示された障子画像322に対して障子を開ける/閉めるジェスチャーを行うと、当該ジェスチャーが深度センサ33aに検知される。深度センサ33aで取得された深度情報に基づいてジェスチャー検出部30eにより障子を開ける/閉めるジェスチャーが検出されると、開度設定部30cは、検出されたジェスチャーに応じて、障子画像322の開度を変更する。そして、テレプレゼンス制御部30dは、プライバシーレベル(仮想的な障子の開度)が共有されている場合、開度設定部30cにより変更された開度を通信先の通信制御装置に送信すると共に、表示部32aに表示する障子画像322の重畳表示位置を、変更された開度に応じて変更する。
感情情報取得部30fは、後述する生体センサ33dにより検出される生体情報や、可視光カメラにより取得した撮像画像から検出される顔の表情、マイクロホンにより取得した音声から検出される会話内容に基づいてユーザの感情を推定し、感情情報を取得する。また、感情情報取得部30fは、ネットワーク上の所定サーバからユーザによるソーシャルメディアへの書き込みやメールの送受信内容、ユーザのスケジュール内容等に基づいて感情を推定してもよい。
プロジェクタ制御部30gは、通信制御装置3がプロジェクタ34を有する場合に、当該プロジェクタ34からの画像投影を制御する。
(2−1−2.通信部)
通信部31は、外部装置とデータの送受信を行う。例えば通信部31は、通信先の通信制御装置に対して、テレプレゼンス制御部30dの制御に従い、テレプレゼンス部32のカメラ32bで撮像した撮像画像や、マイクアレイ32cで収音した音声、開度設定部30cで設定された開度等を送信する。また、通信部31は、通信先の通信制御装置から、通信先の空間で取得された撮像画像および音声を受信する。
また、通信部31は、制御部30の制御に従って、記憶部37に記憶されているユーザの属性情報や、各種センサ33により取得されたユーザの行動情報、環境情報、または感情情報取得部30fにより取得された感情情報を、通信先の通信制御装置に送信してもよい。なお、行動情報は、行動センサ33cにより検出され、環境情報は、位置情報取得部33e、高度センサ33f、大気汚染センサ33g、気温・湿度センサ33h、または騒音センサ33iにより検出/取得される。
(2−1−3.各種センサ)
各種センサ33は、対象空間の環境情報、対象空間に存在するユーザの行動情報、および感情情報等を取得する複数のセンサを含む。具体的には、本実施形態による各種センサ33は、図3に示すように、深度センサ33a、人物センサ33b、行動センサ33c、生体センサ33d、位置情報取得部33e、高度センサ33f、大気汚染センサ33g、および気温・湿度センサ33h等を含む。以下、各センサについて説明する。
深度センサ33aは、例えば赤外線カメラのセンサーアレイ(例えばランダムパターンの赤外線マスクを投影し、当該パターンを撮像)、または赤外線を照射して反射光を検知する赤外線センサにより実現され、周囲に存在する物体の深度情報を取得する。人物センサ33bは、例えば可視光カメラにより取得した撮像画像を解析し、対象空間に存在する人物を検出する。また人物センサ33bは、さらに深度センサ33aで取得した深度情報も併せて利用し、人物を検出してもよい。
行動センサ33cは、例えば可視光カメラにより取得した撮像画像を解析し、対象空間に存在する人物(人物センサ33bにより検出された人物)の行動(動き)を検出する。
生体センサ33dは、例えばユーザに装着されたウェアラブル端末(時計型/バンド型/頭部装着型、貼り付け型等の無線通信端末)から、拍数、血圧、体温、発汗量、呼吸の状態、瞳孔の開き具合、脳波等の生体情報を受信し、対象空間に存在する人物の生体情報を検出してもよい。生体情報の受信は、例えばWi−Fi(登録商標)、Bluetooth(登録商標)、または赤外線通信等の近距離無線通信や、近接無線通信により行われ得る。また、生体センサ33dは、赤外線カメラ(サーモグラフィ)等により取得された人物の体表面の温度変化画像を解析し、各種生体情報を非接触の状態で検出することも可能である。
位置情報取得部33eは、対象空間の地理的な位置情報(緯度・経度)を取得する。高度センサ33fは、対象空間の高度情報を取得する。大気汚染センサ33gは、対象空間の大気の汚染(粉塵、排気ガス等)を検出する。騒音センサ33iは、例えばマイクロホンにより収音された音を分析し、対象空間の騒音を検出する。
(2−1−4.テレプレゼンス部)
テレプレゼンス部32は、表示部32a、カメラ32b、マイクアレイ32c、およびスピーカ32dを有する。表示部32aは、図2に示すように、通信先の空間の撮像画像321と、開度設定部30cにより設定された開度に応じて重畳される障子画像322とを表示する。また、スピーカ32dは、通信先の空間の音声を出力する。この際、スピーカ32dは、開度設定部30cにより設定された開度に応じた音量で出力してもよい。カメラ32bは、対象空間(通信元の空間)を撮像し、撮像画像は通信先の通信制御装置に送信される。マイクアレイ32cは、対象空間の音声を収音し、音声データは通信先の通信制御装置に送信される。
(2−1−5.カレンダー・時計部)
カレンダー・時計部35は、現在の日時を取得し、取得した日時情報を制御部30に出力する。
(2−1−6.記憶部)
記憶部37は、制御部30により実行される各種処理のプログラムや、各種処理で利用されるデータ、例えばユーザの属性情報やオブジェクトID等を記憶する。
(2−1−7.その他)
以上、本実施形態による通信制御装置3の構成について説明した。なお通信制御装置3は、上述した各構成の他、図3に破線で示すプロジェクタ34や物理障子部36を有していてもよい。
プロジェクタ34は、制御部30のプロジェクタ制御部30gの制御に従って、画像を投影する機能を有する。プロジェクタ34の利用については、図14を参照して後述する。
物理障子部36は、開度設定部30cにより設定された開度に応じて映像をマスクする手段の一例であって、表示部32aを覆うよう設置された物理的障子を駆動する障子駆動部36aと、物理的障子の開度を検出する開度センサ36bとを有する。物理障子部36の利用については、図15を参照して後述する。
<2−2.感性サーバの構成>
図4は、本実施形態による感性サーバ2の構成の一例を示すブロック図である。図4に示すように、感性サーバ2は、通信部21、制御部20、オブジェクトDB22、および感性情報DB24を有する。
通信部21は、ネットワークを介して通信制御装置3と接続し、通信制御装置3から指定された対象ユーザのオブジェクトIDに紐付けられたインタラクション評価を返信する。また、通信部21は、各オブジェクト(人物、物体)に装着/搭載されたセンシングデバイス(不図示)から、インタラクション情報を受信する。
制御部20は、感性サーバ2の各構成を制御する。また、制御部20は、CPU、ROM、RAM、および不揮発性メモリを備えたマイクロコンピュータにより実現される。さらに、本実施形態による制御部20は、インタラクション記憶制御部20a、評価部20b、オブジェクト管理部20c、および関連オブジェクト検索部20dとして機能する。
インタラクション記憶制御部20aは、オブジェクトに装着/搭載されたセンシングデバイスから受信したインタラクション情報を感性情報DB24に記憶するよう制御する。センシングデバイスは、湿度センサ、温度センサ、振動センサ、赤外線センサ、カメラ、触覚センサ、またはジャイロセンサ等により実現され、オブジェクトに対する他のオブジェクトからのインタラクションを検知する。
評価部20bは、感性情報DB24に記憶したインタラクションの評価を行う。インタラクションの評価方法については特に限定しないが、例えば評価部20bは、インタラクションを受けたオブジェクトにとって好ましいインタラクションである程高く評価し、具体的には−1.0〜1.0の点数を付ける。評価結果は、インタラクションに対応付けて感性情報DB24に記憶される。
オブジェクト管理部20cは、オブジェクトDB22に記憶されているオブジェクトに関する情報の登録、変更、削除等の管理を行う。
関連オブジェクト検索部20dは、要求されたオブジェクトIDとの間にインタラクションが発生した他のオブジェクトを関連オブジェクトとしてオブジェクトDB22や感性情報DB24から検索する。
オブジェクトDB22は、各オブジェクトのオブジェクトIDを格納する記憶部である。また、オブジェクトDB22には、オブジェクトIDの他、商品名、商品種類、メーカーID、型番、製造日時等の、オブジェクトに関する多々の情報が格納されている。
感性情報DB24は、オブジェクト間のインタラクションや、インタラクションの評価を格納する記憶部である。
以上、本実施形態による感性サーバ2の具体的な構成について説明した。
<<3.動作処理>>
続いて、本実施形態によるテレプレゼンスシステム1の動作処理について具体的に説明する。
<3−1.テレプレゼンス制御>
図5は、本実施形態によるテレプレゼンス制御処理を示すフローチャートである。図5に示すように、まず、ステップS103において、通信元の通信制御装置3のテレプレゼンス制御部30dは、通信先の通信制御装置との接続処理を行う。
次に、ステップS106において、通信制御装置3の開度設定部30cは、障子の開度を設定する。開度の設定制御の詳細については、図6を参照して後述する。
次いで、ステップS109において、テレプレゼンス制御部30dは、通信先に送信するユーザの撮像画像(映像)および音声をカメラ32bおよびマイクアレイ32cにより取得し、取得した撮像画像および音声を、設定した開度に応じてマスクするよう制御する。具体的には、例えばテレプレゼンス制御部30dは、設定された開度に応じて障子画像を撮像画像に重畳させる加工を行い、加工した画像を通信先に送信してもよいし、設定された開度を撮像画像と共に通信先に送信してもよい。これにより、通信元の撮像画像を全て見せずに、仮想的な障子の開度に応じて見せる領域を調整することで、ユーザのプライバシーを適度にコントロールすることができる。
次に、ステップS121において、テレプレゼンス制御部30dは、通信先の通信制御装置から受信した画像および音声を、設定した開度に応じてマスクした状態で、表示部32aおよびスピーカ32dから出力するよう制御する。設定した開度に応じたマスク手段としては、図2を参照して説明したように、例えば通信先の通信制御装置から受信した画像(撮像画像321)に障子画像322を重畳表示することで実現する。このように、通信先と通信元のプライバシーレベルを共有することで、通信元のユーザは、現在設定されている仮想的な障子の開度を直感的に把握することができ、変更したい場合は障子の開閉ジェスチャーにより任意に調整することも可能である。
そして、ステップS124において、通信終了が指示されると(S124において「Yes」)、テレプレゼンス制御部30dは通信先との通信を終了する。
<3−2.開度の設定制御>
続いて、図5のステップS106に示す障子の開度設定について具体的に説明する。
(3−2−1.開度の設定)
図6は、本実施形態による開度設定の動作処理を示すフローチャートである。図6に示すように、まず、ステップS203において、通信制御装置3の開度設定部30cは、障子開度を予め登録した初期状態に設定する。
次に、ステップS206において、感性値算出部30bは、相手ユーザのオブジェクトIDを取得する。相手ユーザのオブジェクトIDは、相手ユーザ情報取得部30aにより通信先の通信制御装置から取得することが可能である。
次いで、相手ユーザのオブジェクトIDを取得できた場合(S209において「Yes」)、ステップS212において、感性値算出部30bは、相手ユーザのオブジェクトIDに対応付けられたインタラクション評価を感性サーバ2から取得する。
続いて、ステップS215において、感性値算出部30bは、取得したインタラクション評価に基づいて感性値を算出する。ここで、感性サーバ2から取得するインタラクション評価および感性値の算出について図7〜図8を参照して具体的に説明する。
図7は、本実施形態によるインタラクション評価のデータ例を示す図である。図7に示すデータ例は、感性値算出部30bが感性サーバ2から取得した、指定した相手ユーザ(ここではユーザBとする)のオブジェクトIDに対応付けられたインタラクション評価である。なお感性値算出部30bからオブジェクトIDを指定された感性サーバ2は、関連オブジェクト検索部20dにより、指定されたオブジェクトIDとの間にインタラクションが発生した他のオブジェクトを関連オブジェクトとして検索する。そして、感性サーバ2は、当該関連オブジェクトIDと指定されたオブジェクトIDとのインタラクション評価も要求元の通信制御装置3に送信する。
例えば、図7に示すデータ例の1行目では、相手ユーザ(ユーザB)のオブジェクトID5505が、2010年10月2日19時00分〜21時32分にテレビ(オブジェクトID15850002)に対して行った「熱心に見ている」というインタラクションに評価0.8が付与されている。また、図7に示すデータ例の2行目では、関連オブジェクトとして検索されたテレビ(オブジェクトID15850002)が、2010年10月2日19時00分〜21時32分にユーザBから行われた「頻繁にチャンネルを変えられながら見られる」というインタラクションに評価0.1が付与されている。このように、一方のオブジェクトから他方のオブジェクトに対して行われたインタラクションは、一方のオブジェクト側と、他方のオブジェクト側の両方で検知され得る。
次いで、感性値算出部30bは、図7に示す過去のインタラクション評価の蓄積データから、他のオブジェクト(関連オブジェクト)に対する、相手ユーザ(ここではユーザBであって、オブジェクトID5505)からのインタラクション評価だけを抜き出し、感性値算出を行う。図8には、このように図7に示すインタラクション評価のデータ例から感性値算出に用いるデータを抜き出したデータ例を示す。具体的には、テレビ(オブジェクトID:15850002)に対するユーザB(オブジェクトID:5505)からのインタラクション「見られる」の評価0.1と、テレビに対するユーザBからのインタラクション「モノが投げられる」の評価−0.8と、電話機(オブジェクトID:17830003)に対するユーザBからのインタラクション「電話をかける」の評価−0.5が抜き出される。
なお、このようなインタラクションは、上述したように、オブジェクトやオブジェクトの周囲に装着/搭載されたセンシングデバイスにより検知される。例えば、テレビや部屋に装着されたカメラセンサの撮像画像の解析結果からユーザBがテレビの方向を継続的に見ていることが検出された場合、また、テレビの動作履歴からユーザBが部屋に居る時間帯にテレビが動作して映像が出力されている場合には、ユーザBがテレビを見ている/テレビがユーザBに見られているといったインタラクションが検知される。また、テレビや部屋に装着されたカメラセンサの撮像画像の解析結果からユーザBによるモノを投げるモーションや物体がユーザBの手から離れ移動することが検出された場合、また、テレビに搭載された振動センサによりモノがテレビの筐体に当たったことが検知され場合、テレビに対してモノを投げた/投げられたといったインタラクションが検知される。
また、電話機や部屋に装着されたカメラセンサの撮像画像の解析結果からユーザBが電話機の受話器を手に取っている様子が検出された場合、また、電話機の動作履歴からユーザBが電話を掛けたことが検出された場合には、電話をかけるといったインタラクションが検知される。さらに、電話機に装着された振動センサにより電話機に対して衝撃が加えられたことが検出された場合、また、電話機に装着されたマイクロホンによりコードが引っ張られる音が検出された場合には、コードが引っ張られながら電話をかけていたといったインタラクションが検知される。
続いて、感性値算出部30bによるユーザBの感性値Q1の算出の一例について説明する。感性値Q1は、例えば下記式1により算出する。
Figure 0006551416
上記式1では、各インタラクションの種類ごとに合計された評価値の和に、インタラクションの種類に応じた係数を掛け、全てのインタラクションの種類の総和をインタラクション総数で割ることにより、感性値Q1が算出されることを示す。ここで、上記式1に図8に示すインタラクション評価を当てはめたものを下記式2に示す。
Figure 0006551416
このように、感性値算出部30bは、ユーザBの感性値Q1を上記式2に示すように求めることができる。
算出した相手ユーザの感性値は、相手ユーザの信頼度を表す。テレプレゼンスシステムにおいて、通信する相手が信頼できる人である場合はプライバシーを低くしても安心だが、信頼できない人である場合はプライバシーを高くしておくことでユーザのプライバシーを適度に保つことができる。したがって、相手ユーザの信頼度を表す感性値の利用が有効となる。
続いて、図6に戻り、ステップS218において、相手ユーザ情報取得部30aは、相手ユーザの現在の行動情報を取得する。相手ユーザの現在の行動情報は、通信先の通信制御装置から受信することが可能である。通信先の通信制御装置も、図3に示す通信制御装置3と同様の構成を有し、各種センサ33に含まれる行動センサ33cから対象空間に存在するユーザBの行動が検出される。通信先の行動センサ33cは、例えば可視光カメラにより取得した撮像画像を解析し、ユーザBがPCを用いて非常に集中して高速なタイピングで書類を作っているといった行動を検出する。
次に、ステップS221において、相手ユーザ情報取得部30aは、相手ユーザの属性情報を取得する。相手ユーザの属性情報は、通信先の通信制御装置から受信することが可能である。通信先の通信制御装置も、図3に示す通信制御装置3と同様の構成を有し、例えば記憶部37に対象空間に存在するユーザBの属性情報が格納されている。例えば、相手ユーザBが明朗な性格であるといった属性情報が格納されている。
次いで、ステップS224において、相手ユーザ情報取得部30aは、相手ユーザの現在の感情情報を取得する。相手ユーザの現在の感情情報は、通信先の通信制御装置から受信することが可能である。通信先の通信制御装置も、図3に示す通信制御装置3と同様の構成を有し、感情情報取得部30fにより対象空間に存在するユーザBの感情情報が検出される。例えば、相手ユーザBが現在怒りで興奮している感情が検出される。
次に、ステップS227において、相手ユーザ情報取得部30aは、相手ユーザの現在の環境情報を取得する。相手ユーザの現在の環境情報は、通信先の通信制御装置から受信することが可能である。通信先の通信制御装置も、図3に示す通信制御装置3と同様の構成を有し、各種センサ33に含まれる大気汚染センサ33g、気温・湿度センサ33h、または騒音センサ33i等から対象空間の環境が検出される。例えば、対象空間において工事の騒音等が検出される。
続いて、ステップS230において、開度設定部30cは、相手ユーザの感性値、行動情報、属性情報、感情情報、および環境情報に基づいて、障子の開度を算出する。ここで、行動情報、属性情報、感情情報、および環境情報に対しても、−1.0〜1.0の評価が、テレプレゼンスを行う状況に適する程高く付与されている場合、次のように障子開度設定用のパラメータQ2を算出することができる。
Figure 0006551416
例えば、非常に集中して書類を作っているというユーザBの現在の行動情報の評価値(行動評価)が−0.2、明朗な性格であるという属性情報の評価値(属性評価)が0.5、怒りで興奮しているという現在の感情情報の評価値(感情評価)が−0.5、工事の騒音といった環境情報の評価値(環境評価)が−0.2の場合、パラメータQ2は以下のように算出される。
Figure 0006551416
そして、開度設定部30cは、最終的な開度Qを以下の様に算出する。
Figure 0006551416
次いで、ステップS233において、開度設定部30cは、算出した障子の開度と現状の障子の開度との差が閾値以上であるか否かを判断する。
次に、閾値以上である場合(S233において「Yes」)、ステップS236において、開度設定部30cは、算出した障子の開度に設定し、設定した開度をテレプレゼンス制御部30dに出力する。
以上、本実施形態による開度設定処理について具体的に説明した。上述した開度設定処理は、相手ユーザの感性値、行動情報、属性情報、感情情報、および環境情報の全てに基づいて障子の開度を設定しているが、本実施形態はこれに限定されない。例えば、開度設定部30cは、感性値、行動情報、属性情報、感情情報、および環境情報の少なくともいずれかに基づいて障子の開度を設定してもよい。
また、本実施形態によるテレプレゼンスシステムは、通信元のユーザに応じてプライバシーレベル(仮想的な障子の開度)を設定してもよい。具体的には、開度設定部30cは、通信先の相手ユーザと通信元のユーザ間のインタラクション評価に基づいて算出された相対的感性値に応じて、プライバシーレベルを設定する。
(3−2−2.開度の変更)
続いて、ジェスチャーによる障子開度の変更について、図9〜図10を参照して説明する。上述した実施形態では、ユーザのプライバシーを適度に保つよう、相手ユーザに応じて自動的に障子開度を設定しているが、ユーザが障子開度を変更したい場合は、ジェスチャーにより任意に変更することが可能である。
図9は、本実施形態による障子の開閉ジェスチャーを説明する図である。図9に示すように、表示部32aに対して手を水平に動かすと、通信制御装置3の深度センサ33aにより手の動きが検出される。通信制御装置3のジェスチャー検出部30eは、深度センサ33aにより取得された深度情報に基づいて、表示部32aの近傍で手が水平に動いた距離xを得る。ここで、ジェスチャー検出部30eは、例えば表示部32aに対してユーザが手を右側に動かした場合の距離xは正の数値、左側に動かした場合の距離xは負の数値として取得する。
図10は、開閉ジェスチャーに応じた障子画像322の表示変更について説明する図である。図10左に示すように、部屋R1の表示部32aには、相手ユーザBの部屋R2の撮像画像321に、障子画像322が重畳表示されている。図10左に示すように、表示部32aの水平方向の長さLにおいて、障子画像322の現状の開度(すなわち向こう側の景色である撮像画像321が見えている領域の水平方向の長さ)をx1とする。
そして、テレプレゼンス制御部30dは、ジェスチャー検出部30eにより検出されたジェスチャーに応じて開度設定部30cにより設定された開度になるよう、障子画像322を変更する。具体的には、テレプレゼンス制御部30dは、障子の開度がx1+xになるよう制御する。また、テレプレゼンス制御部30dは、ジェスチャーに応じて設定した開度を通信先の通信制御装置へ送信し、開度を共有する。
また、テレプレゼンス制御部30dは、障子画像322の開度およびジェスチャーに応じて、障子画像322の表示モードを変更することも可能である。以下、図11を参照して説明する。
図11は、本実施形態による障子画像322の表示モードの変更について説明する図である。図11には、障子画像322の開度が最大の状態(x1=L)から最小の状態(x1=0)に向けて、段階的に開度が減じられた場合の一例が示されている。図11左に示すように、障子画像322の開度が最大の場合(x1=L)、表示部32aの全面に通信先の撮像画像321が表示される。また、障子画像322の開度が中間の場合、表示部32aに表示される障子画像322の領域が増えて、通信先の撮像画像321の領域は減る。
そして、開度が最小の場合(x1=0)、図11に示すように、表示部32aの全面に障子画像322が表示される。この際、テレプレゼンス制御部30は、障子の向こうの空間(通信先の部屋R2)に明かりが灯っているように見える障子画像322を表示する。これにより、障子画像322が閉じられて通信先の様子が見えない場合にも、向こう側に存在する人や物の気配を伝えるといった実際の障子の機能を再現することができる。
ここで、さらにユーザが障子を閉じるジェスチャーを行うと、テレプレゼンス制御部30dは居留守モードに切り替え、図11右に示すように、障子の向こうの空間(通信先の部屋R2)の明かりが消えているように見える障子画像322Mを表示する。当該居留守モードは通信先にも共有され、部屋R2でも同様に、表示部23a−2において、開度が最小(x1=0)であって、かつ通信先の部屋R1の明かりが消えているように見える障子画像が表示される。これにより、障子の開度が最小であって表示部の前面に障子画像が表示され、通信先の部屋の様子が見えない場合において、居留守モードに変更することで、さらに向こう側に誰もいない(留守である)ように見せることができる。
以上説明したジェスチャーに応じた開度変更の動作処理について、図12を参照して説明する。図12は、本実施形態によるジェスチャーに応じた開度設定の動作処理を示すフローチャートである。
図12に示すように、まず、ステップS303において、通信制御装置3の開度設定部30cは、障子の初期開度(x1)を設定する。
次に、ステップS306において、ジェスチャー検出部30eは、深度センサ33aで検知された深度情報に基づいてユーザのジェスチャーを検出し、水平方向の手の移動距離xを取得する(図9参照)。上述したように、ジェスチャー検出部30eは、例えば表示部32aに対してユーザが手を右側に動かした場合の距離xは正の数値、左側に動かした場合の距離xは負の数値として取得する。また、表示部32aの水平方向の最大長さをLとする(図10参照)。
次いで、ジェスチャー検出部30eによりユーザの手の移動距離xを取得できた場合(ステップS309において「Yes」)、ステップS312において、開度設定部30cは、x1+xが0以下であるか否かを判断する。
次に、x1+xが0以下である場合(S312において「Yes」)、ステップS315において、開度設定部30cは、ジェスチャー前の開度x1が0であったか否かを判断する。図10に示すように表示部32aの水平方向の最大長さをLとした場合、開度x1=0は障子が全て閉じている状態を意味する。
次いで、ジェスチャー前の開度x1が0であった場合(S315において「Yes」)、開度設定部30cは居留守モードと判断し、テレプレゼンス制御部30dに居留守モードに設定したことを出力する。すなわち、障子が全て閉じている状態(開度x1=0)において、さらに障子を閉めるジェスチャーが行われると負の数値のxが取得され、x1+xは0を下回るが、この場合、開度設定部30cは居留守モードと判断し、設定する。
一方、ジェスチャー前の開度x1が0でない場合(S315において「No」)、開度設定部30cは、x1=0に設定し、障子の開度を変更するようテレプレゼンス制御部30dに指示する。すなわち、x1+xが0未満を下回る場合、開度設定部30cは開度を最小(x1=0)に設定する。
次に、x1+xが0以下でない場合(S312において「No」)、ステップS324において、開度設定部30cは、居留守モードを解除する。
次いで、ステップS327において、x1+xが、表示部32aの水平方向の最大長さL(図10参照)以上であるか否かを判断する。
x1+xがL以上である場合(S327において「Yes」)、ステップS330において、開度設定部30cは、x1=Lに設定し、障子の開度を変更するようテレプレゼンス制御部30dに指示する。すなわち、x1+xがL以上の場合、開度設定部30cは開度を最大(x1=L)に設定する。
一方、x1+xがL以上でない場合(S327において「No」)、ステップS333において、開度設定部30cは、x1+xをx1に設定し、障子の開度を変更するようテレプレゼンス制御部30dに指示する。すなわち、x1+xがLを下回る場合、開度設定部30cは、ジェスチャーに応じた開度(x1+x)を設定する。
以上、本実施形態によるジェスチャーに応じた仮想的な障子の開度設定について説明した。
<<4.補足>>
続いて、本実施形態によるテレプレゼンスシステム1について補足を行う。
<4−1.メッセージ等の表示>
本実施形態によるテレプレゼンスシステムでは、通信先とのプライバシーを高く保った状態においても、相手に対してメッセージ等を送ることができる。以下、図13、図14を参照して説明する。
図13は、本実施形態によるメッセージ表示の一例を説明する図である。通信制御装置3のテレプレゼンス制御部30dは、図13に示すように、プライバシーを保つために表示部32aに表示する障子画像322にアイコンを表示させることで、通信先からのメッセージを通知することができる。例えば旅行中であることを示す飛行機アイコン322aや、メッセージテキストがあることを示すメモアイコン322bが表示される。テレプレゼンス制御部30dは、ジェスチャー検出部30eにより検出されたユーザのジェスチャーに応じて、メモアイコン322bのメッセージテキスト内容を大きく表示するよう制御してもよい。
また、テレプレゼンス制御部30dは、上述したメッセージの他、障子画像322の全体の色を変化させることで、通信先の雰囲気を伝えることも可能である。例えば、テレプレゼンス制御部30dは、相手ユーザ情報取得部30aから取得した通信先の環境情報や感情情報に応じて、障子画像322の全体の色を変化させてもよい。
また、メッセージ等の通知は、上述した障子画像322の利用に限らず、例えばプロジェクタを用いて表示部32a近傍の床に表示することも可能である。図14は、本実施形態によるメッセージ表示の他の例を説明する図である。図14に示すように、例えば部屋R1にプロジェクタ34が設けられている場合、通信制御装置3のプロジェクタ制御部30gは、プロジェクタ34で表示部32a近傍の床にアイコンを投影することで、メッセージをユーザに通知することができる。図14では、一例としてメールアイコン341が投影されている。テレプレゼンス制御部30dは、ジェスチャー検出部30eにより検出されたユーザのジェスチャーに応じて、メールアイコン341の内容を表示部32aの障子画像322に大きく表示するよう制御してもよい。
<4−2.物理障子の利用>
上述した実施形態では、通信先とのプライバシーを適度に保つ手段として、障子画像322(仮想的な障子)を用いたが、本開示によるテレプレゼンスシステムはこれに限定されず、実際の物理的な障子を表示部32aの手前側に設けて、当該物理的な障子の開度を制御することで、通信先とのプライバシーを保つことも可能である。以下、図15を参照して具体的に説明する。
図15は、本実施形態による物理的な障子を用いたプライバシー制御について説明する図である。図15に示すように、表示部32aを覆うよう配置された物理的な障子360、障子360を移動させるベルト362、ベルト362を駆動するモータ361、および開度センサ36bの一例であるロータリーエンコーダ363が設けられている。障子360は、その上方がベルト362に取り付けられ、ベルト362と共に水平方向に移動する。
通信制御装置3の障子駆動部36a(図3参照)は、テレプレゼンス制御部30dの制御に従って、設定された開度になるよう障子360を移動させる。具体的には、障子駆動部36aは、モータ361を駆動させてベルト362を移動させることで障子360を水平方向に移動させて、開度の増減を調整することができる。また、障子360の開度は、ロータリーエンコーダ363により検出される。
図15では、物理的に表示部32aを覆い隠す例として実際の障子を示したが、本実施形態はこれに限定されず、物理的に32aを覆い隠す実際の物体として、カーテン、ロールカーテン、御簾、ブラインド、透過率を変化させることが可能な曇りガラス、液晶シャッター等を設けることも可能である。
<<5.まとめ>>
上述したように、本開示の実施形態によるテレプレゼンスシステムでは、テレプレゼンスシステムにおけるプライバシーレベルを通信先の相手ユーザに応じて設定することで、プライバシーを適度に保つことができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本技術はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上述した通信制御装置3に内蔵されるCPU、ROM、およびRAM等のハードウェアに、通信制御装置3の機能を発揮させるためのコンピュータプログラムも作成可能である。また、当該コンピュータプログラムを記憶させたコンピュータ読み取り可能な記憶媒体も提供される。
また、上述した実施形態では、テレプレゼンスで繋がる各空間を制御するそれぞれの通信制御装置3がネットワークを介して接続されるシステムとして説明したが、本開示によるテレプレゼンスシステムはこれに限定されず、例えば各空間の通信を1のサーバにより制御してもよい。この場合、当該サーバは、図3に示す通信制御装置3の制御部30に含まれる各機能構成を有する。また、テレプレゼンス部32や各種センサ33は、各空間にそれぞれ設けられる。
また、本実施形態によるテレプレゼンスシステムでは、通信制御装置3の感性値算出部30bにより感性値の算出を行っているが、本開示はこれに限定されず、感性サーバ2において感性値の算出が行われてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、本技術は以下のような構成も取ることができる。
(1)
通信先装置のユーザに応じてプライバシーレベルを自動設定する設定部と、
前記通信先装置に、通信元装置のユーザの映像を送信する通信部と、
前記自動設定されたプライバシーレベルに応じて前記通信元装置のユーザの映像をマスクするよう制御する制御部と、
を備える、情報処理システム。
(2)
前記制御部は、前記プライバシーレベルに関する情報を、前記通信先装置に送信するよう前記通信部を制御する、前記(1)に記載の情報処理システム。
(3)
前記制御部は、前記プライバシーレベルに応じて前記通信元装置のユーザの映像を加工し、当該加工した映像を前記通信先装置に送信するよう前記通信部を制御する、前記(1)または(2)に記載の情報処理システム。
(4)
前記設定部は、前記通信先装置のユーザの感性値、感情情報、属性情報、行動情報、および環境情報のうち少なくともいずれかに応じてプライバシーレベルを自動設定する、前記(1)〜(3)のいずれか1項に記載の情報処理システム。
(5)
前記設定部は、前記通信元装置のユーザに応じてプライバシーレベルを自動設定する、前記(1)〜(4)のいずれか1項に記載の情報処理システム。
(6)
前記設定部は、前記通信先装置のユーザから前記通信元装置のユーザに対する相対的感性値に応じてプライバシーレベルを自動設定する、前記(5)に記載の情報処理システム。
(7)
前記制御部は、前記ユーザの映像に画像を重畳表示させることで前記ユーザの映像をマスクする、前記(1)〜(6)のいずれか1項に記載の情報処理システム。
(8)
前記設定部は、前記重畳表示させる画像が、障子画像、カーテン画像、ロールカーテン画像、御簾画像、またはブラインド画像の場合、前記プライバシーレベルを開度として設定する、前記(7)に記載の情報処理システム。
(9)
前記設定部は、前記重畳表示させる画像が、曇りガラス画像または液晶シャッター画像の場合、前記プライバシーレベルを透過度として設定する、前記(7)に記載の情報処理システム。
(10)
前記情報処理システムは、
前記ユーザのジェスチャーを検出するジェスチャー検出部をさらに備え、
前記設定部は、検出されたジェスチャーに応じて前記プライバシーレベルを変更する、前記(1)〜(9)のいずれか1項に記載の情報処理システム。
(11)
前記制御部は、前記通信先装置から受信した前記通信先装置の相手ユーザの映像を、前記設定部により設定された前記プライバシーレベルに応じてマスクして表示するよう制御する、前記(1)〜(10)のいずれか1項に記載の情報処理システム。
(12)
前記制御部は、前記重畳表示させる画像に、前記通信先装置の相手ユーザの状態またはメッセージを伝えるアイコンを含めるよう制御する、前記(1)〜(11)のいずれか1項に記載の情報処理システム。
(13)
コンピュータを、
通信先装置の相手ユーザに応じてプライバシーレベルを自動設定する設定部と、
前記通信先装置に、ユーザの映像を送信する通信部と、
前記自動設定されたプライバシーレベルに応じて前記ユーザの映像をマスクするよう制御する制御部と、
として機能させるためのプログラムが記憶された、記憶媒体。
(14)
通信先装置のユーザに応じてプライバシーレベルを自動設定すること、
前記通信先装置に、通信元装置のユーザの映像を送信することと、
前記自動設定されたプライバシーレベルに応じて前記通信元装置のユーザの映像をマスクするよう制御することと、
を含む、制御方法。
1 テレプレゼンスシステム
2 感性サーバ
20 制御部
20a インタラクション記憶制御部
20b 評価部
20c オブジェクト管理部
20d 関連オブジェクト検索部
21 通信部
22 オブジェクトDB
24 感性情報DB
3 通信制御部
30 制御部
30a 相手ユーザ情報取得部
30b 感性値算出部
30c 開度設定部
30d テレプレゼンス制御部
30e ジェスチャー検出部
30f 感情情報取得部
30g プロジェクタ制御部
31 通信部
32 テレプレゼンス部
32a 表示部
32b カメラ
32c マイクアレイ
32d スピーカ
33 各種センサ
33a 深度センサ
33b 人物センサ
33c 行動センサ
33d 生体センサ
33e 位置情報取得部
33f 高度センサ
33g 大気汚染センサ
33h 気温・湿度センサ
33i 騒音センサ
35 カレンダー・時計部
36 物理障子部
36a 障子駆動部
36b 開度センサ
37 記憶部
321 撮像画像
322 障子画像
R1、R2 部屋

Claims (11)

  1. 通信先装置のユーザの映像と、通信元装置のユーザに応じて自動設定されたプライバシーレベルに応じて前記通信先装置のユーザの映像に重畳される画像に関する情報と、前記通信先装置のユーザに関する情報とを、前記通信先装置から受信する通信部と、
    前記自動設定されたプライバシーレベルに応じて前記通信装置のユーザの映像を表示する際に、前記通信先装置のユーザの映像に前記画像を重畳表示するよう制御する制御部と、
    を備え
    前記制御部は、
    前記通信先装置のユーザの感情情報および環境情報のうち少なくともいずれかに応じて前記重畳表示される画像の色を変化させる、情報処理システム。
  2. 前記通信先装置のユーザに応じてプライバシーレベルを自動設定する設定部をさらに備え、
    前記制御部は、前記通信先装置のユーザに応じて自動設定されたプライバシーレベルに関する情報を、前記通信先装置に送信するよう前記通信部を制御する、請求項1に記載の情報処理システム。
  3. 前記設定部は、前記通信先装置のユーザの感性値、感情情報、属性情報、行動情報、および環境情報のうち少なくともいずれかに応じてプライバシーレベルを自動設定する、請求項に記載の情報処理システム。
  4. 前記設定部は、前記通信元装置のユーザに応じてプライバシーレベルを自動設定する、請求項に記載の情報処理システム。
  5. 前記設定部は、前記通信先装置のユーザが他のユーザおよび物に対して行った行為の評価履歴に基づいて算出される感性値に応じてプライバシーレベルを自動設定する、請求項に記載の情報処理システム。
  6. 前記設定部は、前記重畳表示させる画像が、障子画像、カーテン画像、ロールカーテン画像、御簾画像、またはブラインド画像の場合、前記プライバシーレベルを開度として設定する、請求項に記載の情報処理システム。
  7. 前記設定部は、前記重畳表示させる画像が、曇りガラス画像または液晶シャッター画像の場合、前記プライバシーレベルを透過度として設定する、請求項に記載の情報処理システム。
  8. 前記情報処理システムは、
    前記通信元装置のユーザのジェスチャーを検出するジェスチャー検出部をさらに備え、
    前記設定部は、検出されたジェスチャーに応じて前記プライバシーレベルを変更する、
    請求項に記載の情報処理システム。
  9. 前記制御部は、前記重畳表示させる画像に、前記通信先装置のユーザの状態またはメッセージを伝えるアイコンを含めるよう制御する、請求項に記載の情報処理システム。
  10. コンピュータを、
    通信先装置のユーザの映像と、通信元装置のユーザに応じて自動設定されたプライバシーレベルに応じて前記通信先装置のユーザの映像に重畳される画像に関する情報と、前記通信先装置のユーザに関する情報とを、前記通信先装置から受信する通信部と、
    前記自動設定されたプライバシーレベルに応じて前記通信装置のユーザの映像を表示する際に、前記通信先装置のユーザの映像に前記画像を重畳表示するよう制御する制御部として機能させ
    前記制御部に、
    前記通信先装置のユーザの感情情報および環境情報のうち少なくともいずれかに応じて前記重畳表示される画像の色を変化させるためのプログラムが記憶された、記憶媒体。
  11. 通信先装置のユーザの映像と、通信元装置のユーザに応じて自動設定されたプライバシーレベルに応じて前記通信先装置のユーザの映像に重畳される画像に関する情報と、前記通信先装置のユーザに関する情報とを、前記通信先装置から受信することと、
    前記自動設定されたプライバシーレベルに応じて前記通信装置のユーザの映像を表示する際に、前記通信先装置のユーザの映像に前記画像を重畳表示するよう制御することと、
    前記通信先装置のユーザの感情情報および環境情報のうち少なくともいずれかに応じて前記重畳表示される画像の色を変化させることと、
    を含む、制御方法。
JP2016557470A 2014-11-07 2015-08-04 情報処理システム、記憶媒体、および制御方法 Active JP6551416B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014227006 2014-11-07
JP2014227006 2014-11-07
PCT/JP2015/072054 WO2016072118A1 (ja) 2014-11-07 2015-08-04 情報処理システム、記憶媒体、および制御方法

Publications (2)

Publication Number Publication Date
JPWO2016072118A1 JPWO2016072118A1 (ja) 2017-08-10
JP6551416B2 true JP6551416B2 (ja) 2019-07-31

Family

ID=55908850

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016557470A Active JP6551416B2 (ja) 2014-11-07 2015-08-04 情報処理システム、記憶媒体、および制御方法

Country Status (3)

Country Link
US (3) US10474842B2 (ja)
JP (1) JP6551416B2 (ja)
WO (1) WO2016072118A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10474842B2 (en) * 2014-11-07 2019-11-12 Sony Corporation Information processing system, storage medium, and control method
WO2018008077A1 (ja) * 2016-07-05 2018-01-11 三菱電機株式会社 画像投影装置
EP3493533B1 (en) * 2016-08-01 2024-04-03 Sony Group Corporation Information processing device, information processing method, and program
US10834361B2 (en) * 2017-04-18 2020-11-10 Sony Corporation Information processing apparatus, information processing method, and recording medium
JP6817557B2 (ja) * 2017-05-22 2021-01-20 パナソニックIpマネジメント株式会社 通信制御方法、通信制御装置、及び通信制御プログラム
KR102059170B1 (ko) * 2017-11-02 2019-12-24 주식회사 하이퍼커넥트 전자 장치 및 그것의 통신 방법
WO2019193781A1 (ja) * 2018-04-04 2019-10-10 パナソニックIpマネジメント株式会社 感情推定装置、感情推定方法及びプログラム
JP6643417B2 (ja) * 2018-08-02 2020-02-12 Hapsモバイル株式会社 システム、制御装置及び軽航空機
US10965685B2 (en) * 2019-04-05 2021-03-30 Ringcentral, Inc. Collaborative communications environment and privacy setting associated therewith
JPWO2021085320A1 (ja) * 2019-10-31 2021-05-06
JPWO2021106610A1 (ja) * 2019-11-28 2021-06-03
KR20230041409A (ko) * 2021-09-17 2023-03-24 삼성전자주식회사 전자 장치 및 그 제어 방법

Family Cites Families (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6674458B1 (en) * 2000-07-21 2004-01-06 Koninklijke Philips Electronics N.V. Methods and apparatus for switching between a representative presence mode and one or more other modes in a camera-based system
US20070201694A1 (en) * 2002-06-18 2007-08-30 Bolle Rudolf M Privacy management in imaging system
US8752197B2 (en) * 2002-06-18 2014-06-10 International Business Machines Corporation Application independent system, method, and architecture for privacy protection, enhancement, control, and accountability in imaging service systems
JP4525269B2 (ja) * 2004-09-21 2010-08-18 ソニー株式会社 映像処理システム,通信装置,およびサーバ
JP4475579B2 (ja) 2004-11-11 2010-06-09 日本電信電話株式会社 映像コミュニケーション装置および映像コミュニケーション装置の制御方法
US7564476B1 (en) * 2005-05-13 2009-07-21 Avaya Inc. Prevent video calls based on appearance
WO2007050707A2 (en) * 2005-10-27 2007-05-03 Nec Laboratories America, Inc. Video foreground segmentation method
US8253770B2 (en) * 2007-05-31 2012-08-28 Eastman Kodak Company Residential video communication system
US8159519B2 (en) * 2007-05-31 2012-04-17 Eastman Kodak Company Personal controls for personal video communications
JP5352150B2 (ja) * 2008-08-01 2013-11-27 パナソニック株式会社 撮像装置
US8274544B2 (en) * 2009-03-23 2012-09-25 Eastman Kodak Company Automated videography systems
US20110063440A1 (en) * 2009-09-11 2011-03-17 Neustaedter Carman G Time shifted video communications
JP2011172205A (ja) 2010-01-20 2011-09-01 Canon Inc 映像情報処理装置および方法
US8466980B2 (en) * 2010-04-06 2013-06-18 Alcatel Lucent Method and apparatus for providing picture privacy in video
US8670018B2 (en) * 2010-05-27 2014-03-11 Microsoft Corporation Detecting reactions and providing feedback to an interaction
US8340258B2 (en) 2010-07-30 2012-12-25 Hewlett-Packard Development Company, L.P. System, method and apparatus for controlling image access in a video collaboration system
JP2012120105A (ja) * 2010-12-03 2012-06-21 Oki Electric Ind Co Ltd 映像通信システム、映像通信装置、及び情報開示度調整装置
JP2012175528A (ja) * 2011-02-23 2012-09-10 Panasonic Corp 映像端末装置、映像通信システム、及び映像通信方法
CN103493006B (zh) * 2011-04-19 2016-12-28 惠普发展公司,有限责任合伙企业 基于位置来阻止用户内容
US20120311032A1 (en) * 2011-06-02 2012-12-06 Microsoft Corporation Emotion-based user identification for online experiences
US8730295B2 (en) * 2011-06-21 2014-05-20 Broadcom Corporation Audio processing for video conferencing
US8893287B2 (en) * 2012-03-12 2014-11-18 Microsoft Corporation Monitoring and managing user privacy levels
US9946887B2 (en) * 2012-06-04 2018-04-17 Nokia Technologies Oy Method and apparatus for determining privacy policy based on data and associated values
US9092642B2 (en) * 2012-09-27 2015-07-28 Intel Corporation Managing personal privacy settings
US9357165B2 (en) * 2012-11-16 2016-05-31 At&T Intellectual Property I, Lp Method and apparatus for providing video conferencing
US9124762B2 (en) * 2012-12-20 2015-09-01 Microsoft Technology Licensing, Llc Privacy camera
KR101875137B1 (ko) * 2013-03-26 2018-07-06 한화에어로스페이스 주식회사 프라이버시 마스크 처리 방법 및 장치
US9282285B2 (en) * 2013-06-10 2016-03-08 Citrix Systems, Inc. Providing user video having a virtual curtain to an online conference
US9679144B2 (en) * 2013-11-15 2017-06-13 Microsoft Technology Licensing, Llc Protecting privacy in web-based immersive augmented reality
JP6360703B2 (ja) * 2014-03-28 2018-07-18 大和ハウス工業株式会社 状況把握用ユニット
US9779474B2 (en) * 2014-04-04 2017-10-03 Blackberry Limited System and method for electronic device display privacy
KR20160015972A (ko) * 2014-08-01 2016-02-15 엘지전자 주식회사 웨어러블 디바이스 및 그 제어 방법
US10474842B2 (en) * 2014-11-07 2019-11-12 Sony Corporation Information processing system, storage medium, and control method
WO2016142571A1 (en) * 2015-03-06 2016-09-15 Nokia Technologies Oy Privacy management
US10366249B2 (en) * 2015-10-14 2019-07-30 Samsung Electronics Co., Ltd. System and method for privacy management of infinite data streams
US20170367634A1 (en) * 2016-06-24 2017-12-28 Rita H. Wouhaybi Method and system for emotion mapping
US10311249B2 (en) * 2017-03-31 2019-06-04 Google Llc Selectively obscuring private information based on contextual information
US9965648B1 (en) * 2017-04-06 2018-05-08 International Business Machines Corporation Automatic masking of sensitive data
US10636449B2 (en) * 2017-11-06 2020-04-28 International Business Machines Corporation Dynamic generation of videos based on emotion and sentiment recognition
US10091554B1 (en) * 2017-12-06 2018-10-02 Echostar Technologies L.L.C. Apparatus, systems and methods for generating an emotional-based content recommendation list

Also Published As

Publication number Publication date
US10474842B2 (en) 2019-11-12
JPWO2016072118A1 (ja) 2017-08-10
US11055441B2 (en) 2021-07-06
US20170235975A1 (en) 2017-08-17
WO2016072118A1 (ja) 2016-05-12
US20210312090A1 (en) 2021-10-07
US20200012819A1 (en) 2020-01-09

Similar Documents

Publication Publication Date Title
JP6551416B2 (ja) 情報処理システム、記憶媒体、および制御方法
US11257336B2 (en) Virtual enhancement of security monitoring
JP6574937B2 (ja) 通信システム、制御方法、および記憶媒体
EP0919906A2 (en) Control method
JPWO2016072117A1 (ja) 情報処理装置、制御方法、および記憶媒体
CN110383214B (zh) 信息处理装置、信息处理方法和记录介质
CN109479116B (zh) 信息处理设备、信息处理方法、以及存储介质
JP7211367B2 (ja) 情報処理装置、情報処理方法、およびプログラム
CN103003761B (zh) 处理视觉、听觉、嗅觉和/或触觉信息的系统和方法
US20210368279A1 (en) Smart hearing assistance in monitored property
US11544968B2 (en) Information processing system, information processingmethod, and recording medium
JP2018156453A (ja) 画像提供システム、画像提供方法、および画像提供プログラム
US20200301398A1 (en) Information processing device, information processing method, and program
CN114636231A (zh) 空调的控制方法、装置、终端及介质
US20220001065A1 (en) Information processing apparatus, information processing method, and program
US20150339321A1 (en) Adaptable Multimedia Display System and Method
US20220191428A1 (en) Information processing apparatus, information processing method, and program
US10182206B2 (en) Image display system and image display method
JP7518791B2 (ja) 宅内表示システム
US9560313B2 (en) Dialogue system and dialogue method
WO2023204422A1 (en) Systems and methods for multi-user video communication with engagement detection and adjustable fidelity
JP2022155665A (ja) 宅内表示システム
WO2019239902A1 (ja) 情報処理装置、情報処理方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180619

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190416

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190423

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190527

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190617

R151 Written notification of patent or utility model registration

Ref document number: 6551416

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151