JP6161088B2 - 通信システム - Google Patents

通信システム Download PDF

Info

Publication number
JP6161088B2
JP6161088B2 JP2015520374A JP2015520374A JP6161088B2 JP 6161088 B2 JP6161088 B2 JP 6161088B2 JP 2015520374 A JP2015520374 A JP 2015520374A JP 2015520374 A JP2015520374 A JP 2015520374A JP 6161088 B2 JP6161088 B2 JP 6161088B2
Authority
JP
Japan
Prior art keywords
effect
user
user terminal
image
terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015520374A
Other languages
English (en)
Other versions
JP2015529031A5 (ja
JP2015529031A (ja
Inventor
デイヴィッド ローゼンバーグ,ジョナサン
デイヴィッド ローゼンバーグ,ジョナサン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2015529031A publication Critical patent/JP2015529031A/ja
Publication of JP2015529031A5 publication Critical patent/JP2015529031A5/ja
Application granted granted Critical
Publication of JP6161088B2 publication Critical patent/JP6161088B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72439User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for image or video messaging
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals

Description

パケットベースの通信システムにより、パーソナル・コンピュータ等のデバイスのユーザは、インタネット等のコンピュータ・ネットワークを介して通信することが可能となる。パケットベースの通信システムは、インタネット・プロトコル(IP)通信システムを介したビデオを含み、IP通信システムにより、ユーザは、インタネットを介してライブ・ビデオ・ストリームを交換することが可能となる。このようなシステムは、しばしば、固定回線又はモバイル・ネットワークよりもかなり低コストであるため、ユーザにとって有用である。これは、長距離通信に関して、特に当てはまり得る。ビデオ・オーバIPシステム(video-over-IP system)を使用するために、ユーザは、ユーザのデバイスにクライアント・ソフトウェアをインストールし、そのクライアント・ソフトウェアを実行しなければならない。クライアント・ソフトウェアは、ビデオIP接続に加えて、登録及び認証等の他の機能を提供する。ビデオ通信に加えて、クライアントはまた、オーディオ、インスタント・メッセージング(「IM」)、SMSメッセージング、及び音声メール等のさらなる機能を提供することができる。
したがって、ユーザは、ユーザ自身のそれぞれのコンピュータ端末に取り付けられたウェブ・カメラから撮影されるビデオ画像を交換することにより、フェイス・ツー・フェイスのビデオ通話を行うことができる。
ビデオ通信は、ビデオ画像を拡張する、あるいはビデオ画像を変更する「特別なエフェクト(effect)」を使用することにより、拡張することができる。現在、これは、受信側でレンダリングされるユーザの画像を拡張するエフェクトを選択することができる送信側のユーザに制限される。この一例が、ウェブ・アドレス(http://www.logitech.com/en-us/webcam-communications/video-software-services/video-effects)において示されている。
この概要は、発明を実施するための形態において以下でさらに説明されるコンセプトのうち選択したものを簡略化した形で紹介するために提供される。この概要は、特許請求される主題の主要な特徴又は必要不可欠な特徴を特定することを意図するものではないし、特許請求される主題の範囲を限定するために使用されることを意図するものでもない。
以下において、ビデオ信号を受信する入力部と、ビデオ信号から導出されるビデオ画像をユーザに表示するディスプレイとを有するユーザ端末が説明される。ビデオ信号から導出されるビデオ画像を拡張するための少なくとも1つのエフェクトをユーザから受信する選択入力部が提供される。ユーザ端末は、選択されたエフェクトにより拡張される、ビデオ信号から導出されるビデオ画像をディスプレイ上にレンダリングするレンダリング・デバイスを有する。
コンピュータ・プログラム製品は、プロセッサにより実行されたときにビデオ画像をレンダリングする方法を実行するプログラム・コードを含む。この方法に従うと、選択されたエフェクトのインジケーションがユーザ端末において受信される。ユーザの画像が、ユーザ端末においてキャプチャされ、ユーザ端末においてキャプチャされた画像が、ユーザ端末のディスプレイにおいてレンダリングされ、選択されたエフェクトにより、画像が拡張される。
説明する実施形態のより良い理解のため、及び説明する実施形態がどのように実施され得るかを示すために、例として添付の図面を参照する。
1以上の実施形態に従った通信システムの概略ブロック図。 1以上の実施形態に従った近端ユーザ端末における機能ブロックの概略ブロック図。 1以上の実施形態に従った選択されたエフェクトのスクリーン・ショットを示す図。 1以上の実施形態に従った選択されたエフェクトのスクリーン・ショットを示す図。 1以上の実施形態に従った選択されたエフェクトのスクリーン・ショットを示す図。 1以上の実施形態に従った選択されたエフェクトのスクリーン・ショットを示す図。 1以上の実施形態に従った選択されたエフェクトのスクリーン・ショットを示す図。 1以上の実施形態に従った遠端端末における機能ブロックの概略ブロック図。 1以上の実施形態に従ったソーシャル・メディア・ポスティングのスクリーン・ショットを示す図。
実施形態が説明される以下において、ユーザは、ビデオ・エフェクトである「フォト・ブース(photo booth)」スタイルをユーザのビデオに適用することができる。ユーザは、ビデオ・エフェクトを、通話における他のパーティ(リモート・ユーザ)に適用することができる。例えば、アリスがボブと通話している場合、アリスは、ボブのビデオにエフェクトを適用することができ、エフェクトが適用されたボブを見ることができる。ボブは、自分のセルフ・ビュー(self-view)において、自分に適用されたこのエフェクトを見ることができ、ボブにこのエフェクトが知らされる。1以上の実施形態において、このエフェクトをアリスに適用するオプションが、ボブに与えられ得る。
1以上の実施形態において、ボブ又はアリスは、エフェクトを含むスクリーン・ショットを取ることができ、例えば、フェイスブック(登録商標)・ウォールといったソーシャル・メディア環境にポストすることができる。ポストされた場合、ポストをクリックすると、サード・パーティにエフェクトを取得する機会が与えられる。
エフェクトは、例えば、ユーザの頭又は目をトラッキングする静止画像とすることができる。アニメーション化されたエフェクトも可能である。
図1は、通信システムの概略ブロック図であり、ここでは、第1のユーザ端末2が、例えば、インタネット6等のパケットベースのネットワークである通信ネットワークを介して、第2のユーザ端末4とビデオ・データを交換するよう構成されている。第2のユーザ端末4は、双方向通信イベント(ビデオ通話)におけるビデオ・データを送受信する。参照番号70は、1つの端末から受信されるビデオ・データを表し、参照番号72は、1つの端末から送信されるビデオ・データを表す。
1つの種類のパケットベースの通信システムは、プロプライエタリ・プロトコル(proprietary protocol)上に確立されたピア・ツー・ピア(「P2P」)トポロジを使用する。ピア・ツー・ピア・システムへのアクセスを可能にするために、ユーザは、ユーザのコンピュータ上でP2Pソフトウェア・プロバイダにより提供されるP2Pクライアント・ソフトウェアを実行して、P2Pシステムに登録しなければならない。ユーザがP2Pシステムに登録すると、サーバからクライアント・ソフトウェアにデジタル証明書が提供される。クライアント・ソフトウェアにデジタル証明書が提供されると、その後、サーバをさらに使用することなく、P2Pシステムのユーザ間で、通信をセットアップしてルーティングすることができる。詳細には、ユーザは、P2Pシステムへのアクセスを可能にする1以上のデジタル証明書(又は、ユーザ・アイデンティティ証明書(「UIC(user identity certificate)」)の交換に基づいて、P2Pシステムを介したユーザ自身の通信ルート(communication route)を確立することができる。ユーザ間のデジタル証明書の交換は、ユーザのアイデンティティと、ユーザがP2Pシステムにおいて適切に承認され認証されていることとの証明を提供する。したがって、デジタル証明書の提示は、ユーザのアイデンティティの信頼を提供する。したがって、通信がサーバを用いてルーティングされるのではなく、エンド・ユーザからエンド・ユーザに直接ルーティングされることが、ピア・ツー・ピア通信の特徴である。
IMS(Internet multimedia subsystem)や他のサーバベースのシステム等の他の形態の通信ネットワークも可能である。
ユーザ端末2及び4の各々は、それぞれ、ディスプレイ8及び10と、ビデオとして近端ディスプレイ8上に表示することができ、且つ/又はリモート・ディスプレイ10上に表示するために端末4に送信することができる動画像をキャプチャするためのカメラ12及び14とを備える。各ディスプレイは、近端ユーザのセルフ画像(self-image)2a及び4aと、遠端ユーザの画像2b及び4bとを表示する(図3〜図7においてより明瞭に示される)。このケースでは、アリスが第1のユーザ端末(近端)にいて、ボブが第2のユーザ端末(遠端)にいると想定する。図1は高度に概略的であり、特定のデバイスを正確に表すことを意図していないことを理解されたい。一般的な種類のユーザ端末は、携帯電話機等のモバイル・ハンドセット端末、ラップトップ・コンピュータ、タブレット、デスクトップ・コンピュータ、テレビジョン・セット又はセット・トップ・ボックスを含むテレビジョン、及び多くの他の種類のデバイスを含み得る。例えば、スマートフォン又はタブレットである一実施形態において、ディスプレイ8及び10は、タッチ・スクリーン技術を用いたユーザ・インタフェースを構成するが、例えば、キーボードやマウス等の他のユーザ・インタフェースを使用してもよいことを理解されたい。
一般に、本明細書で説明する機能のいずれも、ソフトウェア、ファームウェア、ハードウェア(例えば、固定論理回路)、又はこれらの実装の組合せを用いて、実装することができる。本明細書で使用される「モジュール」、「機能」、「コンポーネント」、及び「ロジック」という語は、一般に、ソフトウェア、ファームウェア、ハードウェア、又はそれらの組合せを表す。ソフトウェア実装の場合、モジュール、機能、又はロジックは、プロセッサ(例えば、1以上のCPU)上で実行されたときに特定のタスクを実行するプログラム・コードを表す。プログラム・コードは、1以上のコンピュータ読み取り可能なメモリ・デバイスに記憶することができる。以下で説明する技術の特徴は、プラットフォームに依存しない、すなわち、以下で説明する技術は、様々なプロセッサを有する様々な商用のコンピューティング・プラットフォーム上で実施することができる。
例えば、ユーザ端末は、例えば、プロセッサや機能ブロック等のユーザ端末のハードウェアにオペレーションを実行させるエンティティ(例えば、ソフトウェア)を含み得る。例えば、ユーザ端末は、ユーザ端末に、より詳細には、ユーザ端末のオペレーティング・システム及び関連ハードウェアにオペレーションを実行させる命令を保持するよう構成され得るコンピュータ読み取り可能な媒体を含み得る。したがって、命令は、オペレーションを実行するオペレーティング・システム及び関連ハードウェアを構成するよう機能し、このようにして、機能を実行するオペレーティング・システム及び関連ハードウェアの変換(transformation)をもたらす。命令は、様々な異なる構成(configuration)を介して、コンピュータ読み取り可能な媒体によりユーザ端末に提供され得る。
コンピュータ読み取り可能な媒体の1つのそのような構成は、信号担持媒体であり、したがって、(例えば、搬送波として、)例えば、ネットワークを介して命令をコンピューティング・デバイスに送信するよう構成される。コンピュータ読み取り可能な媒体はまた、コンピュータ読み取り可能な記憶媒体として構成され得、したがって、信号担持媒体ではない。コンピュータ読み取り可能な記憶媒体の例は、ランダム・アクセス・メモリ(RAM)、読み取り専用メモリ(ROM)、光ディスク、フラッシュ・メモリ、ハード・ディスク・メモリ、及び、命令及び他のデータを記憶する磁気技術、光技術及び他の技術を使用し得る他のメモリ・デバイスを含む。
様々な実施形態により、「フォトブック(photobook)」スタイルのビデオ・エフェクトを、例えば、ユーザ端末2における受信側ユーザ(アリス)の制御の下、ユーザ端末2において受信されるビデオ・データに加えることが可能となる。送信側ユーザ(ボブ)が、特別なエフェクトを含む自分のセルフ画像4aを見ることができるように、ユーザ端末2から送信されるビデオ・データとともにエフェクトのインジケーションを、通信ネットワーク6を介してユーザ端末4に送信することができる。詳細には、実施形態により、近端ユーザは、遠端から受信されるビデオ・データにどの特別なエフェクトを適用するかを決定することが可能となる。アリスは、ユーザ・インタフェース、例えば、(マウス/カーソル・インタフェースにより)エフェクトをクリックすることにより、又は、(タッチ・スクリーン技術を用いて)エフェクトをタッチすることにより、ディスプレイ8上に表示されたエフェクトのセットから、1つのエフェクトを選択する。
図2は、ユーザ端末2における機能ブロックの概略ブロック図である。端末4から受信されたビデオが、ディスプレイ8上に画像2bとしてユーザに表示されていると仮定している。参照番号18は、選択手段を表し、ユーザは、この選択手段を用いて、ディスプレイ8上で特別なエフェクトを選択することができる。選択手段18は、エフェクト・メモリ13に接続され、エフェクト・メモリ13は、選択されたエフェクト32をポスト処理ブロック17に供給する。ポスト処理ブロック17は、パケット・ストリームの形態のビデオ信号70を受信するデコーダ16の出力に接続される。デコーダ16は、ビデオ・データ70のパケットを受信して復号化する。ポスト処理ブロック17は、選択された特別なエフェクト32を付加して、ディスプレイ8上にボブの拡張されたビデオ画像2bをレンダリングするための表示制御信号25を生成する。一実施形態において、選択されたエフェクトに関する情報は、エンコーダ15のポスト処理ブロック19にも供給される。エンコーダ15は、端末4に送信するために、カメラ12からの画像データをビデオ信号72のパケットに符号化する。ポスト処理ブロック19は、特別なエフェクト32が遠端ディスプレイにおいてセルフ画像4a上にレンダリングされ得るように、特別なエフェクト32を特定する情報EI32を挿入する。通知(notification)42も含まれ得る。
代替的な方法は、どのエフェクトが適用されるかを通知する別の制御メッセージ・ストリームを他の側に返送することである。このようにして、このシステムは、ユーザに対するエンコーダが存在しない一方向ビデオに対して動作することができる。
図8は、ユーザ端末4における機能ブロックの概略ブロック図である。ユーザ端末4は、エフェクト情報EI32及び通知42を含むパケット・ストリームの形態のビデオ信号を受信すると仮定している。抽出機能33は、エフェクト情報EI32を抽出し、エフェクト情報EI32を使用してエフェクト・メモリ13にアクセスする。ビデオ信号の残りの部分は、デコーダ16に供給され、デコーダ16は、アリスの画像4bを生成するための表示制御信号を生成するために、通常の信号としてビデオ信号の残りの部分を復号化する。エフェクト情報が別の制御メッセージにおいて適用される場合、ビデオ・ストリームからエフェクト情報を抽出する必要はない。実際、エフェクト情報は、ビデオ・ストリームを送信することなく、適用され得る。エフェクト・メモリ13からのエフェクト32が、ローカル・カメラ14からデータを受信する合成機能35に供給される。このようにして、ボブの拡張されたセルフ画像4aをレンダリングするための表示制御信号25を提供するために、エフェクト32が、カメラ14からのローカル画像データと合成される。カメラ14はまた、エンコーダ15にも画像データを供給する。エンコーダ15は、リモート端末に供給するためのパケット・ストリームを生成する。以下でより完全に説明するように、ボブが選択されたエフェクトをアリスに適用させたいと決定した場合、ボブが、ディスプレイ10上のアイコン44を作動させると、適用エフェクト・インジケータ(apply effect indicator)76がビデオ信号72に組み込まれて、ビデオ信号72がアリスの端末に返送される。これにより、選択されたエフェクトが、端末2におけるボブの画像に適用されたのと同様に、端末4におけるアリスの画像に適用される。さらに、適用エフェクト・インジケータ76が、端末2における抽出機能33により抽出され、アリスの拡張されたセルフ画像を生成するために、エフェクトが、35と同様の合成機能においてローカル・カメラと合成される。この機能ブロックは、図8に示されておらず、図2にのみ示されている。
図2及び図8は、近端及び遠端において生じることについて、説明を簡単にするために、別の図として示されたが、実際、各ユーザ端末は、近端の機能及び遠端の機能の両方を組み込むことが容易に理解されよう。エフェクト・メモリ13が、端末のローカル・メモリとして示されたが、特別なエフェクトは、ローカルでアクセスされてもよいし、おそらくは通信システム6内にあるリモート・サーバからリモートでアクセスされてもよいことが容易に理解されよう。
選択されたエフェクトの用途をより詳細に説明するために、図3〜図7を参照する。図3は、第1のユーザ端末2の概略図である。参照番号2bは、リモート端末4においてキャプチャされビデオ信号により第1の端末2に供給された第2のユーザのビデオ画像を表している。参照の簡便さのため、これを「ボブの画像」と呼ぶ。ボブはリモート端末4における第2のユーザである。参照番号2aは、第1の端末における第1のユーザのセルフ画像を表している。第1のユーザを「アリス」と呼ぶ。これが、第1の端末2においてカメラによりキャプチャされた画像である。アリスは、ビデオ・エフェクトをボブの画像2bに適用しようと決定する。そうするために、アリスは、複数のビデオ・エフェクトを表示する機能18を選択する。図4において、例として、偽物の鼻のセット30が示されている。これらの鼻は、例えば、豚の鼻32、象の鼻34、猫の鼻36、及びカモノハシ38といった様々な動物の鼻とすることができる。これらのエフェクトはエフェクト・メモリ13に記憶されている。エフェクト機能がユーザにより選択されると、エフェクトの画像が、(ローカル又はリモートの)メモリから呼び出され、図4に示されるように、端末2のディスプレイ上に表示される。
図5に示されるように、このケースでは、アリスは、豚の鼻32を選択しようと決定する。これは、タッチ・スクリーン上で鼻をタップすることにより、マウス及びカーソルにより、又は他の方法により実行することができる。豚の鼻32が選択されると、図2を参照して上述したように、ボブの画像が鼻32を含むようにしてレンダリングされる。図2を参照して上記にてさらに説明したように、選択されたエフェクトに関する情報EI32が、ボブの端末4に送信される。これが図6に示されている。ボブの端末において、メインの表示画像4bはアリスである。アリスがエフェクト32を選択した場合、そのエフェクトに関する情報がボブの端末4に送信され、2つの通知42及び44がボブに表示される。第1の通知は、選択されたエフェクトを特定するもの、例えば、「アリスはあなたに豚の鼻を施した」であり、第2の通知は、例えば、「豚の鼻を返す」といった作動可能なボタン又はアイコンの形態であり、これにより、ボブは、選択されたエフェクトをアリスに適用することが可能となる。これらの通知は、ボブの端末4により受信されるビデオ信号においてボブの端末4に送信された情報に基づく人間が読み取り可能なテキストの形態で、ディスプレイ上にレンダリングされる。さらに、ボブは、アリスの端末において自分がどのように見えるかを見ることができる。というのは、ボブ自身のセルフ画像4aが、ボブの端末4において受信された情報に基づいて、選択されたエフェクトとともにレンダリングされるからである。ボブが同じエフェクトをアリスに適用しようと決定した場合、ボブは、通知ボタン44を選択し、この結果、ボブが4bで見ているアリスの画像に選択されたエフェクトが適用される。これは図には示されていないが、ボブの端末においてどのように知覚されるかに関して、アリスの端末におけるエフェクトを示す図5から容易に明らかなように、豚の鼻がアリスの画像に適用される。さらに、アリスのセルフ画像2aが同様に選択されたエフェクト32とともにレンダリングされるように、適用エフェクト・インジケータ76が、ビデオ信号とともにアリスの端末に返される。さらに、例えば、「ボブはあなたにも豚の鼻を施した」といった通知78が、人間が読み取り可能なテキストで表示される。
特徴認識を使用して、選択されたエフェクトをビデオの正しい位置に適用することができる。例えば、特徴認識ソフトウェアは、ユーザの鼻が画像内に配置される場所を検出することができ、これにより、鼻画像をその領域に重ねることが可能となる。あるいは、エフェクトは、ユーザにより選択された場所においてユーザの検出された顔位置に対して、ディスプレイ上に配置させることができる。
各端末は、上述した機能を実装する適切なソフトウェアを実行するプロセッサを有することが理解されよう。このような機能は、必要に応じて、ハードウェア、ファームウェア、ソフトウェアの任意の組合せにより実装することができる。図示されていないが、各端末は、プロセッサとして、双方向ビデオ通話を確立する通信クライアント・アプリケーションを実行することは明らかであろう。上述した機能が、この通信クライアント・アプリケーションの一部を形成してもよいし、プロセッサにより実行される別のソフトウェア・アプリケーションにより提供されてもよい。
様々な実施形態により、画像に適用された選択されたエフェクトをソーシャル・メディア環境、例えば、エフェクトが適用されたユーザ(このケースではボブ)に属するフェイスブック(登録商標)・ウォールにポストする追加の可能性が可能となる。そうするために、アリスは、例えば、ボブのフェイスブック(登録商標)・ウォール、アリスのフェイスブック(登録商標)・ウォール、及び電子メール・オプション等を特定する多数の共有可能性(share possibility)を呼び出す、アリスの端末における共有機能を選択することができる。アリスは、例えば、ボブのフェイスブック(登録商標)・ウォールにポストする適切なオプションを選択し、ボブのフェイスブック(登録商標)・ウォールにポストされる場合には、例えば、図9に示されるように、ボブの画像とともに適用された選択されたエフェクトのポストを選択することができる。サード・パーティは、そのポストをクリックすることにより、又は任意の他の方法によりそのポストを選択することができ、そのようにすることで、自身の使用のためにそのエフェクトを利用することができる。
ビデオ・エフェクトの社会的性質は、ソーシャル・ネットワークとの異なるインタラクションに役立つ。エフェクトは、例えば、エフェクトのためのビデオ・アプリケーション・アイコンをクリックすることにより、ユーザの端末に対して電子的にユーザに利用可能となり得る。ビデオ・アプリケーションは、起動されると、例えば、URL(uniform resource locator)を用いてサーバ等のウェブベースの記憶位置にアクセスすることにより、ユーザに所望のエフェクトを取得するよう促す。
一実施形態に従うと、ビデオ画像をレンダリングする方法が提供される。この方法は、
第1の端末において、第2の端末から送信されたビデオ信号を受信するステップと、
第1の端末において、受信したビデオ信号から導出されるビデオ画像を拡張するための少なくとも1つのエフェクトの選択をユーザから受信するステップと、
第1の端末において、選択されたエフェクトにより拡張される、ビデオ信号から導出されるビデオ画像をディスプレイ上にレンダリングするステップと、を含む。
別の実施形態により、ユーザ端末が提供される。このユーザ端末は、
リモート端末から送信されたビデオ信号を受信する手段と、
ユーザ端末において、ビデオ信号から導出されるビデオ画像をユーザに表示するディスプレイと、
ユーザ端末において、ビデオ信号から導出されるビデオ画像を拡張するための少なくとも1つのエフェクトをユーザから受信する選択手段と、
選択されたエフェクトにより拡張される、ビデオ信号から導出されるビデオ画像をディスプレイ上にレンダリングする手段と、を備える。
主題が、構造的特徴及び/又は方法論的動作に特有の言葉で説明されたが、添付の特許請求の範囲において定められる主題は、上述した特定の特徴又は動作に必ずしも限定される必要がないことを理解されたい。むしろ、上述した特定の特徴及び動作は、請求項を実施するための例示的な形態として開示されたものである。

Claims (10)

  1. ユーザ端末であって、
    ビデオ信号を受信する入力部と、
    前記ビデオ信号から導出されるビデオ画像を、前記ユーザ端末におけるユーザに表示するディスプレイと、
    記ビデオ信号から導出される前記ビデオ画像を拡張するための少なくとも1つのエフェクトを、前記ユーザ端末における前記ユーザから受け取る選択入力部と、
    選択された前記エフェクトに従って前記ビデオ信号を変更することにより拡張される、前記ビデオ信号から導出される前記ビデオ画像を前記ディスプレイ上にレンダリングするレンダリング・デバイスと、
    を備え
    前記ユーザ端末は、前記ディスプレイ上に表示される画像のサブ部分に、選択された前記エフェクトと同じエフェクトを適用するというインジケーションを受信するよう構成され、
    前記レンダリング・デバイスは、前記ディスプレイ上に表示される前記画像の前記サブ部分に、選択された前記エフェクトと同じエフェクトをレンダリングするよう構成される、ユーザ端末。
  2. 前記レンダリング・デバイスは、
    前記の受信されたビデオ信号を復号化するよう構成されるデコーダと、
    前記の復号化されたビデオ信号に選択された前記エフェクトを加えることにより、前記ビデオ信号の前記変更を実行し、前記ディスプレイ上に前記の拡張されるビデオ画像をレンダリングするための表示制御信号を生成するよう構成されるポスト処理部であって、前記表示制御信号は、選択された前記エフェクトを組み込む、ポスト処理部と、
    を有する、請求項1記載のユーザ端末。
  3. 前記ユーザ端末からリモート端末に選択された前記エフェクトのインジケーションを送信する送信部
    を備、請求項1記載のユーザ端末。
  4. 前記ユーザ端末から前記リモート端末に送信されるビデオ画像を符号化するよう動作可能なエンコーダであって、前記ユーザ端末から送信されるビデオ信号に前記インジケーションを挿入するよう動作可能なエンコーダ
    を備、請求項3記載のユーザ端末。
  5. 前記ユーザ端末におけるユーザの画像をキャプチャするカメラであって、前記ディスプレイは、前記のキャプチャされた画像をレンダリングするよう動作可能である、カメラ
    を備、請求項1記載のユーザ端末。
  6. 前記ユーザ端末において受信された前記ビデオ信号は、リモート端末におけるユーザにより選択されたエフェクトを示し、前記ユーザ端末は、前記リモート端末において選択された前記エフェクトを用いて拡張される、前記カメラによりキャプチャされた前記画像を表示するよう構成され合成機能を備、請求項記載のユーザ端末。
  7. ビデオ画像をレンダリングする方法であって、
    ユーザ端末において、リモート端末から、選択されたエフェクトのインジケーションを受信するステップと、
    前記ユーザ端末におけるユーザの画像をキャプチャするステップと、
    前記ユーザ端末においてキャプチャされた前記画像を、前記ユーザ端末のディスプレイにレンダリングするステップであって、前記選択されたエフェクトに従って前記画像を変更することにより前記画像を拡張するステップを含むステップと、
    前記ユーザ端末の前記ユーザが、前記選択されたエフェクトと同じエフェクトを前記リモート端末において適用させることを可能にする通知を表示するステップと、
    を含む、方法。
  8. 前記ユーザ端末におけるユーザの画像をキャプチャして、ビデオ信号において画像をリモート端末に送信するステップであって、該ステップにより、前記ユーザ端末におけるユーザの画像は、前記選択されたエフェクトにより拡張され前記リモート端末におけるディスプレイ上にレンダリングされる、ステップ
    をさらに含む、請求項7記載の方法。
  9. 前記選択されたエフェクトにより拡張される、前記ユーザ端末における前記ユーザのキャプチャされた画像を、ソーシャル・ネットワーク・サイト上に表示させるステップ
    をさらに含む、請求項7記載の方法。
  10. コンピューティング・デバイスに、
    第1の端末において、ビデオ信号を受信する動作と、
    記の受信されたビデオ信号から導出されるビデオ画像を拡張するための少なくとも1つのエフェクトの選択を、前記第1の端末におけるユーザから受け取る動作と、
    択された前記エフェクトを前記ビデオ信号に加えることにより拡張される、前記ビデオ信号から導出されるビデオ画像を、前記第1の端末におけるディスプレイ上にレンダリングする動作と、
    前記ディスプレイ上に表示される画像のサブ部分に、選択された前記エフェクトと同じエフェクトが適用されることを示す適用エフェクト・インジケータを受信する動作と、
    前記ディスプレイ上に表示される前記画像の前記サブ部分に、選択された前記エフェクトと同じエフェクトをレンダリングする動作と、
    実行させるコンピュータ・プログラム。
JP2015520374A 2012-06-28 2013-06-25 通信システム Active JP6161088B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/536,495 2012-06-28
US13/536,495 US8947491B2 (en) 2012-06-28 2012-06-28 Communication system
PCT/US2013/047445 WO2014004411A1 (en) 2012-06-28 2013-06-25 Communication system

Publications (3)

Publication Number Publication Date
JP2015529031A JP2015529031A (ja) 2015-10-01
JP2015529031A5 JP2015529031A5 (ja) 2016-07-21
JP6161088B2 true JP6161088B2 (ja) 2017-07-12

Family

ID=48790598

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015520374A Active JP6161088B2 (ja) 2012-06-28 2013-06-25 通信システム

Country Status (11)

Country Link
US (1) US8947491B2 (ja)
EP (1) EP2850816B1 (ja)
JP (1) JP6161088B2 (ja)
KR (1) KR102077354B1 (ja)
CN (1) CN104380701B (ja)
AU (1) AU2013280679B2 (ja)
BR (1) BR112014032210B1 (ja)
CA (1) CA2876238C (ja)
MX (1) MX339988B (ja)
RU (1) RU2642513C2 (ja)
WO (1) WO2014004411A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103905668B (zh) * 2012-12-27 2016-12-28 中强光电股份有限公司 具有视讯功能的电话机及其视讯会谈的方法
US9372550B2 (en) * 2014-02-10 2016-06-21 Airtime Media, Inc. Automatic audio-video switching
CN104836977B (zh) * 2014-02-10 2018-04-24 阿里巴巴集团控股有限公司 即时通讯过程中的视频通讯方法及系统
US9225897B1 (en) * 2014-07-07 2015-12-29 Snapchat, Inc. Apparatus and method for supplying content aware photo filters
US9282287B1 (en) * 2014-09-09 2016-03-08 Google Inc. Real-time video transformations in video conferences
CN107210958A (zh) * 2015-03-16 2017-09-26 奥林巴斯株式会社 通信装置、通信系统和通信方法
CN106303690A (zh) * 2015-05-27 2017-01-04 腾讯科技(深圳)有限公司 一种视频处理方法及装置
USD794069S1 (en) 2015-08-26 2017-08-08 Branch Banking And Trust Company Portion of a display screen with icon
KR20170091913A (ko) 2016-02-02 2017-08-10 삼성전자주식회사 영상 서비스 제공 방법 및 장치
KR102199735B1 (ko) 2016-10-18 2021-01-07 스노우 주식회사 영상을 위한 효과 공유 방법 및 시스템
JP6964671B2 (ja) * 2017-03-28 2021-11-10 Line株式会社 通信装置、その方法及びそのコンピュータプログラム
US10412139B2 (en) * 2017-05-26 2019-09-10 Streamsure Solutions Limited Communication event
CN109474844B (zh) 2017-09-08 2020-08-18 腾讯科技(深圳)有限公司 视频信息处理方法及装置、计算机设备
US20190104101A1 (en) * 2017-10-04 2019-04-04 Facebook, Inc. Paired effects in conversations between users
KR102271308B1 (ko) * 2017-11-21 2021-06-30 주식회사 하이퍼커넥트 영상통화 중에 상호작용 가능한 시각적 오브젝트를 제공하기 위한 방법, 및 이를 수행하는 상호작용 가능한 시각적 오브젝트 제공 시스템
US11012389B2 (en) 2018-05-07 2021-05-18 Apple Inc. Modifying images with supplemental content for messaging
US10681310B2 (en) * 2018-05-07 2020-06-09 Apple Inc. Modifying video streams with supplemental content for video conferencing
US10854109B2 (en) 2018-10-31 2020-12-01 Sony Interactive Entertainment Inc. Color accommodation for on-demand accessibility
US11636673B2 (en) 2018-10-31 2023-04-25 Sony Interactive Entertainment Inc. Scene annotation using machine learning
US11375293B2 (en) 2018-10-31 2022-06-28 Sony Interactive Entertainment Inc. Textual annotation of acoustic effects
US10977872B2 (en) * 2018-10-31 2021-04-13 Sony Interactive Entertainment Inc. Graphical style modification for video games using machine learning
CN109348276B (zh) * 2018-11-08 2019-12-17 北京微播视界科技有限公司 视频画面调整方法、装置、计算机设备和存储介质
US11704626B2 (en) * 2021-07-09 2023-07-18 Prezi, Inc. Relocation of content item to motion picture sequences at multiple devices

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6414707B1 (en) * 1998-10-16 2002-07-02 At&T Corp. Apparatus and method for incorporating virtual video conferencing environments
JP2002077840A (ja) * 2000-08-30 2002-03-15 Toshiba Corp 通信端末装置
JP2005012764A (ja) 2003-05-22 2005-01-13 Casio Comput Co Ltd データ通信装置、画像送信方法および画像送信プログラム
JP2005064939A (ja) * 2003-08-14 2005-03-10 Nec Corp アニメーション機能を有する携帯電話端末およびその制御方法
KR100628756B1 (ko) * 2004-09-07 2006-09-29 엘지전자 주식회사 이동단말기로 화상 통화시의 이펙트 화면 제공 장치 및방법
US20060248210A1 (en) * 2005-05-02 2006-11-02 Lifesize Communications, Inc. Controlling video display mode in a video conferencing system
US7564476B1 (en) * 2005-05-13 2009-07-21 Avaya Inc. Prevent video calls based on appearance
US7612794B2 (en) * 2005-05-25 2009-11-03 Microsoft Corp. System and method for applying digital make-up in video conferencing
US8963926B2 (en) 2006-07-11 2015-02-24 Pandoodle Corporation User customized animated video and method for making the same
US7728866B2 (en) * 2005-11-03 2010-06-01 Broadcom Corp. Video telephony image processing
KR101240261B1 (ko) * 2006-02-07 2013-03-07 엘지전자 주식회사 이동통신 단말기의 영상 통화 장치 및 방법
US8954851B2 (en) 2006-09-15 2015-02-10 Microsoft Corporation Adding video effects for video enabled applications
US8044989B2 (en) * 2006-12-12 2011-10-25 General Instrument Corporation Mute function for video applications
US8373799B2 (en) 2006-12-29 2013-02-12 Nokia Corporation Visual effects for video calls
US8243119B2 (en) * 2007-09-30 2012-08-14 Optical Fusion Inc. Recording and videomail for video conferencing call systems
US8373742B2 (en) 2008-03-27 2013-02-12 Motorola Mobility Llc Method and apparatus for enhancing and adding context to a video call image
KR101533065B1 (ko) 2008-12-01 2015-07-01 삼성전자주식회사 화상통화 중 애니메이션 효과 제공 방법 및 장치
KR20100064873A (ko) * 2008-12-05 2010-06-15 엘지전자 주식회사 단말기 및 그 제어 방법
JP2010258781A (ja) * 2009-04-24 2010-11-11 Ntt Docomo Inc 携帯端末及び情報伝達方法
CN101924903B (zh) * 2009-06-17 2013-03-20 华为技术有限公司 实现视频通话的方法、装置和系统
US20120162356A1 (en) * 2009-09-11 2012-06-28 Koninklijke Philips Electronics N.V. Image processing system
US8823739B2 (en) * 2010-08-25 2014-09-02 International Business Machines Corporation Background replacement for videoconferencing
US20130088562A1 (en) * 2011-10-07 2013-04-11 Hanwha Solution & Consulting Co., Ltd Communication terminal for providing silhouette function on video screen for video call and method thereof
US8767034B2 (en) * 2011-12-01 2014-07-01 Tangome, Inc. Augmenting a video conference
US20130250048A1 (en) * 2012-01-13 2013-09-26 Joshua Victor Aller Method of capture, display and sharing of orientation-based image sets
US8982179B2 (en) * 2012-06-20 2015-03-17 At&T Intellectual Property I, Lp Apparatus and method for modification of telecommunication video content

Also Published As

Publication number Publication date
CN104380701A (zh) 2015-02-25
US20140002578A1 (en) 2014-01-02
AU2013280679A1 (en) 2015-01-22
EP2850816B1 (en) 2019-05-29
WO2014004411A1 (en) 2014-01-03
KR102077354B1 (ko) 2020-02-13
CA2876238A1 (en) 2014-01-03
RU2642513C2 (ru) 2018-01-25
MX339988B (es) 2016-06-17
EP2850816A1 (en) 2015-03-25
CN104380701B (zh) 2017-06-06
CA2876238C (en) 2020-06-09
KR20150032674A (ko) 2015-03-27
RU2014153013A (ru) 2016-07-20
AU2013280679B2 (en) 2016-12-08
BR112014032210B1 (pt) 2022-08-09
US8947491B2 (en) 2015-02-03
BR112014032210A2 (pt) 2017-06-27
JP2015529031A (ja) 2015-10-01
MX2014015948A (es) 2015-03-03

Similar Documents

Publication Publication Date Title
JP6161088B2 (ja) 通信システム
US10673798B2 (en) Method and system for providing notifications for group messages
US9516266B2 (en) Sharing content
KR102327571B1 (ko) 영상 통화 데이터의 디스플레이
JP2019165451A (ja) インスタント通信におけるビデオ通信の方法及びシステム
CN114616812A (zh) 用于配对的用户计算设备的统一接口
US10320865B2 (en) Graphical indicator of presence, identity, and action for media sharing on a display
US20160373691A1 (en) Conveying attention information in virtual conference
CN102577251A (zh) 普及计算的系统与方法
WO2022089209A1 (zh) 一种图片评论的处理方法、装置、电子设备和存储介质
JP6963070B2 (ja) 匿名基盤プロフィールを介してソーシャルネットワークサービスを提供するためのインターフェースの表示方法及び装置
JP2016502781A (ja) リアル・タイム通信および体験共有セッション中におけるサービスの更新
WO2018086548A1 (zh) 一种界面显示方法及装置
CN114616813A (zh) 用于配对的用户计算设备的电话会议接口和控件
US10459534B2 (en) System and method for large data augmented reality applications on smartglasses
EP2868095B1 (en) Collaboration environments and views
US20130332832A1 (en) Interactive multimedia systems and methods
US9749828B2 (en) Communication system and method for making telephone calls over the internet
US20150319114A1 (en) Method and system for message conversation view customization
EP3021552B1 (fr) Procédés, dispositifs et programme d'ordinateur pour communiquer via un espace d'interaction partagé

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160530

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160530

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170509

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20170529

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170607

R150 Certificate of patent or registration of utility model

Ref document number: 6161088

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250