JP2017063416A - 会議のフィードバックを提供する方法 - Google Patents

会議のフィードバックを提供する方法 Download PDF

Info

Publication number
JP2017063416A
JP2017063416A JP2016181917A JP2016181917A JP2017063416A JP 2017063416 A JP2017063416 A JP 2017063416A JP 2016181917 A JP2016181917 A JP 2016181917A JP 2016181917 A JP2016181917 A JP 2016181917A JP 2017063416 A JP2017063416 A JP 2017063416A
Authority
JP
Japan
Prior art keywords
participant
user
client device
feedback
stream
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016181917A
Other languages
English (en)
Other versions
JP6885009B2 (ja
Inventor
カーター スコット
Scott Carter
カーター スコット
ローラン ドゥヌ
Laurent Denoue
ドゥヌ ローラン
クーパー マシュー
Matthew Cooper
クーパー マシュー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Publication of JP2017063416A publication Critical patent/JP2017063416A/ja
Application granted granted Critical
Publication of JP6885009B2 publication Critical patent/JP6885009B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/401Support for services or applications wherein the services involve a main real-time session and one or more additional parallel real-time or time sensitive sessions, e.g. white board sharing or spawning of a subconference
    • H04L65/4015Support for services or applications wherein the services involve a main real-time session and one or more additional parallel real-time or time sensitive sessions, e.g. white board sharing or spawning of a subconference where at least one of the additional parallel sessions is real time or time sensitive, e.g. white board sharing, collaboration or spawning of a subconference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1083In-session procedures
    • H04L65/1089In-session procedures by adding media; by removing media
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/403Arrangements for multi-party communication, e.g. for conferences
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Telephonic Communication Services (AREA)

Abstract

【課題】電子会議において、自分の通信端末から出力される情報が、通信相手に対して適切に伝達されているかどうかを理解することを可能にする
【解決手段】少なくとも1つのプロセッサと前記少なくとも1つのプロセッサに接続されたメモリを含む第1クライアント装置が、少なくとも1人の遠隔参加者との電子会議に参加し、前記電子会議は、第1参加者の出方向通信ストリームを含み、前記電子会議に参加するために、前記少なくとも1人の遠隔参加者の内、1人の遠隔参加者によって使用される第2クライアント装置からフィードバックを受信し、前記フィードバックは、前記第2クライアント装置での前記第1参加者の出方向通信ストリームの品質に対応する。
【選択図】図3A

Description

本開示は、遠隔参加者との電子会議において、参加者に電子会議のフィードバックを提供する方法、及び、参加者から電子会議のフィードバックを提供する方法に関する。
近年、電子通信は劇的に増加している。これらの電子通信は、種々のプログラム装置及びネットワークの組合せに依存している。複数のソフトウェア及びハードウェア部品が含まれているために、検出及び/又は対策が困難な問題が生じることがある。
[online]、[2016年9月13日検索]、インターネット(URL:http://www.salford.ac.uk/computing-science-engineering/research/acoustics/psychoacoustics/sound-quality-making-products-sound-better/sound-quality-testing/sound-quality-metrics) ファリアス(Farias)、「ビデオ品質基準、デジタルビデオ(Video Quality Metrics, Digital Video)、2010年、[online]、[2016年9月13日検索]、インターネット(URL:http://www.intechopen.com/books/digital-video/video-quality-metrics)
本発明は、電子会議において、自分の通信端末から出力される情報が、通信相手に対して適切に伝達されているかどうかを理解することを可能にすることを目的とする。
第1の態様は、第1参加者に電子会議のフィードバックを提供する方法であって、少なくとも1つのプロセッサと前記少なくとも1つのプロセッサに接続されたメモリを含む第1クライアント装置が、少なくとも1人の遠隔参加者との電子会議に参加し、前記電子会議は、第1参加者の出方向通信ストリームを含み、前記電子会議に参加するために、前記少なくとも1人の遠隔参加者の内、1人の遠隔参加者によって使用される第2クライアント装置からフィードバックを受信し、前記フィードバックは、前記第2クライアント装置での前記第1参加者の出方向通信ストリームの品質に対応する。
第2の態様は、第1の態様の方法であって、前記第1クライアント装置は、さらに、表示部を含み、前記第1クライアント装置の前記表示部にグラフィカルユーザインターフェイスを表示し、前記グラフィカルユーザインターフェイスは前記電子会議の情報の表示を含み、受信した前記フィードバックに対応する情報の表示を含むように、表示された前記グラフィカルユーザインターフェイスを更新する。
第3の態様は、第2の態様の方法であって、表示された前記グラフィカルユーザインターフェイスを更新することは、表示された前記グラフィカルユーザインターフェイス内の少なくとも1つのアイコンの表示特性を更新することを含み、前記少なくとも1つのアイコンは、通信の各形態の少なくとも1つに対応する。
第4の態様は、第2または第3の態様の方法であって、表示された前記グラフィカルユーザインターフェイスは、前記1人の参加者に対応する通信ストリームを含み、表示された前記グラフィカルユーザインターフェイスを更新することは、前記1人の参加者に対応する前記通信ストリームの表示特性を更新することを含む。
第5の態様は、第2〜第4の何れかの態様の方法であって、表示された前記グラフィカルユーザインターフェイスは前記第1参加者に対応する通信ストリームを含み、表示された前記グラフィカルユーザインターフェイスを更新することは、前記第1参加者に対応する前記通信ストリームの表示特性を更新することを含む。
第6の態様は、第2〜第5の何れかの態様の方法であって、表示された前記グラフィカルユーザインターフェイスを更新することは前記グラフィカルユーザインターフェイス内にテキストメッセージを表示することを含む。
第7の態様は、第1〜第6の何れかの態様の方法であって、前記第1クライアント装置は、さらに、少なくとも1つのスピーカを含み、前記第1クライアント装置の前記少なくとも1つのスピーカを介して、音声報知を行うことをさらに含み、前記音声報知は、受信した前記フィードバックに対応する。
第8の態様は、第1〜第7の何れかの態様の方法であって、前記電子会議に参加することは、前記第1クライアント装置のウェブブラウザを介して前記電子会議に参加することを含む。
第9の態様は、第1〜第8の何れかの態様の方法であって、前記電子会議はピアツーピア電子会議を含む。
第10の態様は、第1〜第9の何れかの態様の方法であって、前記電子会議の少なくとも1人の参加者から受信したフィードバックの各々を利用することで、前記電子会議の少なくとも1つの問題を解決する、ことをさらに含む。
第11の態様は、第1参加者から電子会議のフィードバックを提供する方法であって、少なくとも1つのプロセッサと前記少なくとも1つのプロセッサに接続されたメモリを含む第1クライアント装置が、少なくとも1人の遠隔参加者との電子会議に参加し、前記電子会議に参加するために、前記少なくとも1人の遠隔参加者の内、1人の遠隔参加者によって使用される第2クライアント装置から送信される出方向通信ストリームの各々を受信し、受信した前記出方向通信ストリームの少なくとも1つの品質ファクタを判定するために、受信した前記出方向通信ストリームを分析し、判定した前記少なくとも1つの品質ファクタに基づいて前記1人の参加者にフィードバックを提供する。
第12の態様は、第11の態様の方法であって、前記第1クライアント装置が受信した前記出方向通信ストリームに対応する情報をレンダリングすることをさらに含み、受信した前記出方向通信ストリームの前記1つもしくは複数の品質ファクタを判定するために受信した前記出方向通信ストリームを分析することは、レンダリングした前記情報を分析することを含む。
第13の態様は、第11または第12の態様の方法であって、前記出方向通信ストリームの各々は、参加者と通信する少なくとも1つのチャネルを含み、前記少なくとも1つのチャネルは、テキスト通信チャネル、音声通信チャネル、ビジュアル通信チャネル、マルチメディア通信チャネル、の少なくとも1つを含む。
第14の態様は、第13の態様の方法であって、前記1人の参加者にフィードバックを提供することは参加者と通信する前記少なくとも1つのチャネルとは異なるチャネルを介してフィードバックを提供することを含む。
第15の態様は、第13の態様の方法であって、前記出方向通信ストリームの各々は参加者と通信する少なくとも2つのチャネルを含み、受信した前記出方向通信ストリームを分析することは、前記少なくとも2つのチャネルの各々を分析することを含み、前記少なくとも2つのチャネルの各々の分析に基づいて最適チャネルを判定し、前記第1参加者に前記最適チャネルを推奨する、ことをさらに含む。
第16の態様は、第13の態様の方法であって、前記出方向通信ストリームの各々は、主チャネルとして指定された第1チャネルを含む少なくとも2つのチャネルを含み、前記第1チャネルが機能しないと判定された場合、前記少なくとも2つのチャネルの第2チャネルを前記主チャネルとして指定する。
第17の態様は、第11の態様の方法であって、受信した前記出方向通信ストリームを分析することは、受信した前記出方向通信ストリーム内の音声ストリームを分析し、分析した前記音声ストリームに基づいて、前記少なくとも1つの品質ファクタの少なくとも部分集合を判定する、ことを含む。
第18の態様は、第11の態様の方法であって、受信した前記出方向通信ストリームを分析することは、受信した前記出方向通信ストリーム内のビデオストリームを分析し、分析した前記ビデオストリームに基づいて前記少なくとも1つの品質ファクタの少なくとも部分集合を判定する、ことを含む。
第19の態様は、第11の態様の方法であって、受信した前記出方向通信ストリームを分析することは、受信した前記出方向通信ストリーム内の音声ストリームと、受信した前記出方向通信ストリーム内のビデオストリームと、を比較し、前記比較に基づいて、前記少なくとも1つの品質ファクタの少なくとも部分集合を判定する、ことを含む。
第20の態様は、第11の態様の方法であって、受信した前記出方向通信ストリームを分析することは、受信した前記出方向通信ストリームに対応する待ち時間、受信した前記出方向通信ストリームに対応するボリューム、受信した前記出方向通信ストリームに対応するリフレッシュレート、の少なくとも1つを分析する、ことを含む。
本発明は、電子会議において、自分の通信端末から出力される情報が、通信相手に対して適切に伝達されているかどうかを理解することを可能とする。
ある実装による電子会議のアーキテクチャ例を示すブロック図である。 ある実装によるクライアント装置の例を示すブロック図である。 ある実装による電子会議用のユーザインタフェース例を示すブロック図である。 ある実装による電子会議用のユーザインタフェース例を示すブロック図である。 ある実装による電子会議用のユーザインタフェース例を示すブロック図である。 ある実装による電子会議用のユーザインタフェース例を示すブロック図である。 ある実装による電子会議のフィードバックを表示するためのユーザインタフェース例を示す図である。 ある実装による電子会議のフィードバックを表示するためのユーザインタフェース例を示す図である。 ある実装による電子会議のフィードバックを表示するためのユーザインタフェース例を示す図である。 ある実装による電子会議のフィードバックを表示するためのユーザインタフェース例を示す図である。 ある実装による電子会議のフィードバックを表示するためのユーザインタフェース例を示す図である。 ある実装による電子会議のフィードバックを表示するためのユーザインタフェース例を示す図である。 ある実装による電子会議のフィードバックを表示するためのユーザインタフェース例を示す図である。 ある実装による電子会議のフィードバックを表示するためのユーザインタフェース例を示す図である。 ある実装による電子会議のフィードバックを表示するためのユーザインタフェース例を示す図である。 ある実装による複数の電子通信参加者の内、2つの視点からのユーザインタフェース例を示す図である。 ある実装による複数の電子通信参加者の内、2つの視点からのユーザインタフェース例を示す図である。 ある実装による会議アーキテクチャ例でのデータフロー及びフィードバックを示すブロック図である。 ある実装による会議アーキテクチャ例でのデータフロー及びフィードバックを示すブロック図である。 ある実装による、特定の参加者へ会議フィードバックを提供する方法のフローチャート図である。 ある実装による、特定の参加者へ会議フィードバックを提供する方法のフローチャート図である。 ある実装による、特定の参加者から会議フィードバックを提供する方法のフローチャート図である。 ある実装による、特定の参加者から会議フィードバックを提供する方法のフローチャート図である。 ある実装による、特定の参加者から会議フィードバックを提供する方法のフローチャート図である。 ある実装による電子会議例における、2人の参加者間での通信フローを示す図である。
次に様々な実装を詳細に参照する。それらの実施例を添付の図面に示す。図面全体を通して同様の参照番号は対応する部品を表す。以下の詳細な説明において、本発明の様々な実装の完全な理解を与えるために多数の具体的詳細を記述する。ただし、当業者には明らかなように、説明される様々な実装はこれらの具体的な詳細なしでも実行可能である。別の事例では、実装の態様を不必要に曖昧にしないために周知の方法、手順、部品、回路、及びネットワークは詳細には説明しない。
ストリーミングメディアの状態及び品質のフィードバックが不足すると、遠隔会議における会話が妨げられる。同じ場所に存在する場合、会議の参加者は他の参加者が自分のことを理解できたかどうかを判定するために微細な手掛かりを頼りにする。しかし、メディアストリームが必然的に制約されている遠隔会議においては、このような手掛かりがないことがよくある。これらの手掛かりがなければ、他の者が自分の発言を理解できているかどうか、あるいは聞こえているか又は見えているかどうかさえ識別することは困難である。したがって参加者は定期的に自分の会話を中断して、遠隔会議システムで会話やジェスチャが正確に伝達されているかどうかをチェックすることになる。それ故に、遠隔サイトでのローカルメディアの品質を自動的に検出して、その情報をローカルサイトにフィードバックできれば有利である。そうすることで、参加者は相手方の参加者サイトにおける通信チャネルの品質をより正確に計測することができる。ある実装において、参加者はこれらの制約に対する調節をすることができる。ある実装では、会話の流れを中断することなしにシステムがその制約を自動的に調節可能である。ある実装では、システムがビジュアル及び/又は音声のキューをユーザに提供して、ユーザに品質問題を報知する。例えば、システムは遠隔の人をグレースケールで表示して、その対応する通信チャネルの劣化を示す。
遠隔会議における問題は、クライアント間のネットワーク接続の品質である。接続が悪いと、遠隔会議に利用されるメディアチャネルのあるもの又はすべてが実効的に役に立たなくなり得る。ただし、チャネルが機能しない場合でも、1つ以上の代替チャネルが利用可能であれば、どちらかの側の参加者がそれを採用して会議を続行できる。こうして、多くの会議の最初に、各サイドで接続問題の理解を確立する期間が含まれる。会議の多くでは、各サイドが、「こちらが見えますか?聞こえますか?チャットが届いていますか?」などを音声又はインスタントメッセージで相手側に尋ねて、どのチャネルが使用可能かを確定し、動作していないチャネルを修理するか、可能なベストの状態に調整する。このやりとりの期間はしばらく続くこともある。特にこのやりとりに使用されるチャネルそのものが不良の場合にはそうである。
本開示では、コンテンツ分析手法を用いて、各遠隔サイトにある各ローカルチャネルの品質を自動決定するシステムについて述べる。ある実装では、この分析は遠隔クライアントが各メディアストリームをレンダリングした後に発生する。プロセス中の任意の他の時点でチェックすることは不完全であり、したがって不正確となり易い。例えば、ネットワークの帯域幅が完全であっても、遠隔クライアントのスピーカが故障していればそれは関係ない。ある実装ではこの情報が、次に、信頼性の高い、その会議で利用可能な最小帯域幅のチャネルを使用して遠隔クライアントに伝達される。(当然、何らかのアクティブなデータチャネルは存在する。そうでなければ会議を開始できなかったはずである。)ある実装では、遠隔サイトでのチャネル品質に関する情報は、報知を介して次にローカル参加者に伝えられる。ある実装では、メディアチャネルの品質の変化は、リアルタイムで伝達される。ある実装では、さらに、システムが1つの不良チャネルを検出すると、別のチャネルに切り替えるように提案するか、又は自動的にチャネルを切り替える。
会議は、参加者有向ペア(例えば、参加者の各ペアに対する1対のチャネル)の集合体として見ることができる。ある実装では、各参加者有向ペアにはメディアチャネルごとに3つの状態がある。すなわち、ノーデータ、ローカルデータのみ、遠隔データ、である。例えば、最初はローカル装置上では音声もビデオも動作しておらず、この双方の状態はノーデータである。ローカル装置がチャネル上にデータを検出すると、各チャネルを次のステップ、すなわちローカルデータのみ、へ移行させる。様々な実装において、マイクロフォンのアイコンが灰色から緑に変わるとか、又はローカル参加者のウィンドウにローカルビデオをライブで表示する、といったようないくつかの方法で、システムが状態変化を示す。遠隔装置がチャネル上にデータを受信していることを検出すると、その情報をローカルクライアントに供給し、それによってそのチャネルの状態を遠隔データに移行させることができる。ある実装では、このことが遠隔ユーザのストリームの近くに別々のアイコンで表示される。遠隔装置が与えられたチャネルに対する品質スコアを判定する計算機リソースを有していれば、単なるブーリアン値ではなく、品質評点をフィードバックし、それを(例えば、色表示で)可視化することができる。
ある実装では、各クライアントは各遠隔ストリームでローカルな分析を行い、その結果をデータチャネルで伝達されるメッセージを介して遠隔装置へ転送する。ある実装ではこのシステムはステートマシンであって、クライアントチャネルの有向ペアごとに1つの状態がある。したがって、2つのクライアントと2つのチャネル(音声及びビデオ)があれば、合計で4つの状態があることになる。すなわち、第2のクライアントにおける第1のクライアントの音声ストリームの品質と、第2のクライアントにおける第1のクライアントのビデオストリームの品質と、第1のクライアントにおける第2のクライアントの音声ストリームの品質と、第1のクライアントにおける第2のクライアントのビデオストリームの品質、である。状態数は指数関数的ではあるが、クライアントごとに計算が必要なのは、(チャネル*参加者−1)であり、したがって計算そのものの負荷は比較的低い。
様々な場合において、問題が少しでもあればネットワークからローカルマシンへ、又ブラウザそのものへのストリーミングメディアを劣化させ得る。遠隔サイトのユーザが実際に何を経験しているかを判定する唯一の方法は、プレゼンテーションレイヤ(例えば、スクリーン上のピクセルやスピーカからの音声など)にまで完全に到達した後でそのストリームを分析することである。
ある実装では、音声アクティビティ検出モジュールを利用する。これは、ローカルスピーカが音声出力可能であるものとして検出されるかどうかを示すイベントを各クライアントに提供する。この機能提供には、非常に多くの選択肢および手法がある。例えばある実装では、ローカル音声チャネルの遠隔品質の判定に、ノーデータ、ローカルデータ、遠隔データの各状態を経るステップが含まれる。
●ノーデータ:この状態では、第1のクライアントはそのマイクロフォンがオンになっていることをまだ検出していない。
●ローカルデータのみ:第1のクライアントの音声分析エンジンがローカルマイクロフォンで音声を検出すると、イベントが他のクライアントへ送信される。この状態では第1のクライアントは音声を送信中であるが、他のクライアントは受信していない。
●遠隔データ:別のクライアントの音声アクティビティ検出モジュールが第1のクライアントからの音声を検出すると、イベントを第1のクライアントに送信して返す。この状態では音声はそのローカル/遠隔のクライアントペアに対して機能している。ある実装では、N秒間のタイムアウトの後、システムは遠隔データの状態からローカルデータのみの状態に戻る。即ち、クライアントが遠隔データの状態にあって、その第1のクライアントが音声イベントをもう一方のクライアントに送信してその後N秒が経過しても第2のクライアントから応答がなければ、その有向ペアに対する状態はローカルデータのみへ戻る。このプロセスがそれぞれのクライアントペアに対して実行されて、全体の接続性が検証される。
ある実装では、あらゆる方向に遷移するあらゆるメディアチャネルに対して、この同じアプローチが利用される。例えば簡単なビデオチャネル分析ツールは、遠隔ストリームから非黒ピクセルが受信されているかどうかをローカルに評価する。ある実装では、ステートマシンより一歩進んだ分析方法が利用されて、ストリームの品質を判定する。ある実装ではこれに受信音声のボリューム又はエネルギ特性を利用する。例えば音声アクティビティ検出モジュールは、キャプチャした音声のボリュームをデシベルで提供するように構成することができる。ボリューム又はその経時変化は音声信号又はローカルマイクロフォンからサンプリングされ、会議中の背景雑音は限定されているという仮定の下に品質を代理するものとして利用される。ある実証では統計処理APIを活用して、送受信に成功したパケットによってクライアント間で共有されているストリーム品質の統計データを収集する。ある実装では、単純なピクセルの差異を利用して遠隔リフレッシュレートを検出する。
各ストリームの遠隔クライアントにおける表示品質を会議の参加者に報知するために、テキスト及び/またはアイコンを含む多くの異なる方法を使用することができる。また別の方法では、機能していないストリームを機能するストリームで置き換えることを自動的に促進する。例えば、音声チャネルが故障すると、チャットウィンドウが自動的に表れてきてもよい。ビデオが故障すると、システムは個々のフレームを低周波で送信するように変更できる。
遅延状態を通信することは有益なフィードバックではあるが、ローカルユーザにとって、遠隔装置上でのストリーム品質の何の表示にもならない。具体的にそこには、遠隔サイトにおけるローカルコンテンツの実際の品質レベルを判定するのに必要な、遠隔ストリームのローカル処理が何も含まれていない。
次に図面に注目する。図1はある実装による電子会議アーキテクチャ100を示すブロック図である。電子会議アーキテクチャ100は、複数のクライアント102(例えばクライアント102−1、102−2、…102−r)を含み、それぞれは個別のユーザ106(例えばユーザ106−1、106−2、…106−r)によって作動される。ユーザは、電子会議などの電子通信に参加することに関連して、「参加者」と呼ばれることもある。クライアント装置102とユーザ106との間に必ずしも1対1の対応があるわけではない。クライアント102には、任意選択によりブラウザ104(例えばブラウザ104−1、104−2)が含まれる。クライアント102どうしは、インターネットなどのような通信ネットワーク108を介して通信可能に連結されている。ある実装では、1つ以上のクライアント102はモバイル機器であり、電子会議は電話会議である。
クライアント102(「クライアント装置」又は「クライアントコンピュータ」と呼ばれることもある)は、クライアント102のユーザ106が他のクライアント102のユーザと遠隔通信可能な任意のコンピュータ又はその類の装置であってよい。クライアント装置の例としては、デスクトップコンピュータ、ノートブックコンピュータ、タブレットコンピュータ、携帯電話、携帯情報端末、セットトップボックス、又はこれらの任意の組合せがある。クライアント102は一般的にはクライアントアプリケーション326を動作させて、それにより、各ユーザ106と1つ以上の遠隔クライアントとの間の通信を可能とする/強化することができる。例えばクライアントにはウェブブラウザ104又は他のタイプのアプリケーションを含むものがあって、通信ネットワーク108を介して1つ以上のサーバシステム及び/又は1つ以上のクライアント装置からアクセスされるリソース(例えばウェブページ及びウェブサービス)をユーザ106が検索、ブラウズ、及び/又は利用することができる。ある実装では、電子会議に利用されるボイスオーバーIP(VoIP)ソフトウェアがクライアント装置102に含まれる。
ある例では、クライアント装置102は、ラップトップコンピュータ又はスマートフォンなどの携帯機器である。ユーザ106は一般的に携帯機器102を使用して他のユーザと電子通信をする。
通信ネットワーク108は、イントラネット、エクストラネット、インターネット、またはそれらのネットワークの組み合わせなどのような、任意の有線又は無線のローカルエリアネットワーク(LAN)、及び/又はワイドエリアネットワーク(WAN)であってよい。ある実装では通信ネットワーク108は、伝送制御プロトコル/インターネットプロトコル(TCP/IP)を利用する情報の伝送にハイパーテキスト転送プロトコル(HTTP)を利用する。HTTPは、クライアントコンピュータが通信ネットワーク108を介して接続可能な様々なリソースへアクセスすることを可能とする。本明細書において使用される「リソース」という用語は、コンテンツロケーション識別子(例えばURL)を介してアクセス可能な任意の情報及び/又はサービスを指し、例えば、ウェブページ、ドキュメント、データベース、画像、計算オブジェクト、サーチエンジン、又はその他のオンライン情報サービスであってよい。ある実装では通信ネットワーク108は電話ネットワークを含んでいる。ある実装では電子会議は通話を含んでいる。
図2はある実装によるクライアント装置102を表すブロック図である。クライアント装置102には、ラップトップコンピュータ、ノートブックコンピュータ、タブレットコンピュータ、デスクトップコンピュータ、スマートフォン、及びPDAが含まれる。クライアント装置102は、1つ以上の処理ユニット(例えば、CPU、ASIC、FPGA,マイクロプロセッサ等)202、1つ以上の通信インタフェース204、メモリ214、I/Oインタフェース206と、これらの部品を相互接続する1つ以上の通信バス212(チップセットと呼ばれることもある)とを含んでいる。I/Oインタフェース206には、メディアコンテンツを提示可能であって1つ以上のスピーカ又は1つ以上のビジュアル表示を含む、1つ以上の出力装置208が含まれている。I/Oインタフェース206にはまた1つ以上の入力装置210が含まれ、これは、キーボード、マウス、音声命令入力ユニットすなわちマイクロフォン、タッチスクリーンディスプレイ、タッチ式入力パッド、(例えば符号化された画像をスキャンするための)カメラ、ジェスチャキャプチャカメラ、又はその他の入力ボタンや制御器などである。さらに、クライアント装置102のあるものは、マイクロフォン及び音声認識、又はカメラ及びジェスチャ認識を利用してキーボードを補足又は置き換える。
ある実装では、クライアント装置102には、クライアント装置のロケーション決定のための、GPS(グローバルポジショニング衛星)や他の測位受信機などの、ロケーション検出装置が含まれている。ある実装では、クライアント装置102には1つ以上の組込センサが含まれている。ある実装では組込センサとして、例えば、1つ以上の熱放射センサ、外気温センサ、湿度センサ、IRセンサ、周辺光センサ、運動検出器、加速度計、及び/又はジャイロスコープなどが含まれている。
通信インタフェース204には、例えば、任意の様々なカスタマイズされた又は標準の無線プロトコル(例えば、IEEE802.15.4、Wi−Fi、ZigBee(登録商標)、6LoWPAN、Thread、Z−Wave、Bluetooth(登録商標) Smart、ISAl00.11a、WirelessHART、MiWiなど)、及び/又は任意の様々なカスタマイズされた又は標準の有線プロトコル(例えば、Ethernet(登録商標)、HomePlugなど)、あるいは今後開発される通信プロトコルを含むその他の任意の好適な通信プロトコル、を利用してデータ通信可能なハードウェアが含まれている。
メモリ214には、DRAM、SRAM、DDR RAMなどの高速ランダムアクセスメモリや、その他のランダムアクセス固体素子メモリデバイスが含まれている。また任意選択で、1つ以上の磁気ディスク記憶装置、1つ以上の光ディスク記憶装置、1つ以上のフラッシュメモリ装置などの不揮発性メモリ、あるいは1つ以上のその他の不揮発性固体素子記憶装置が含まれている。メモリ214、又は、メモリ214に代えて、メモリ214内部の不揮発性メモリは、非一時的コンピュータ可読記憶媒体を含んでいる。ある実装では、メモリ214又はメモリ214の非一時的コンピュータ可読記憶媒体は、以下に述べるプログラム、モジュール、及びデータ構造、又はそれらの部分集合又は上位集合を格納する。
●オペレーティングロジック216。オペレーティングロジック216は、様々な基本システムのサービスを取り扱うため、又はハードウェアに依存するタスクを遂行するための手順を含んでいる。
●通信モジュール218。通信モジュール218は、(有線または無線の)1つ以上の通信インタフェース204を介して通信ネットワーク108に連結されてインターネット接続を提供する、ルータのような他のネットワーク装置に接続して通信を行う。
●通信処理モジュール220。通信処理モジュール220は、電子通信時に通信インタフェース204と共に通信ストリームを処理する。
●表示モジュール222。表示モジュール222は、1つ以上の入力装置210から入力を受信し、表示装置308上に表示するユーザインタフェース要素を生成する。
●入力処理モジュール224。入力処理モジュール224は、1つ以上のユーザ入力または1つ以上の入力装置210の1つからのインタラクションを検出し、検出された入力またはインタラクションを解釈する(例えば、クライアント装置のカメラによりスキャンされた符号化画像を処理する)。
●ウェブブラウザ104。ウェブブラウザ104は、ユーザがネットワーク108(インターネットなど)を介して遠隔コンピュータ又は装置と通信を行うことができるようにする。
●フィードバックモジュール228。フィードバックモジュール228は、電子通信時に通信インタフェース204と共にフィードバックの生成及び分析を行う。ある実装では、フィードバックには1つ以上の数値による品質ファクタが含まれている。ある実装では、フィードバックモジュール228には、1つ以上の品質ファクタに基づいて所定の品質ラベルを割り当てるための1つ以上の品質閾値229が含まれている。
●1つ以上のアプリケーション230。アプリケーション230は、クライアント装置102で実行される。様々な実装において、アプリケーション230には、カメラモジュール、センサモジュール、1つ以上のゲーム、アプリケーションマーケットプレイス、支払いプラットフォーム、及び/又はソーシャルネットワークプラットフォームが含まれている。ある実装では、1つ以上のアプリケーション230がウェブブラウザ104内で動作する。
●1つ以上の分析ルーチン231。これを利用して、フィードバックモジュール223と共にフィードバック(例えば、1つ以上の品質ファクタ)を生成することができる。ある実装では、分析ルーチンは、対応する品質ファクタを生成するために通信ストリーム上に呼び出される。ある実装では、分析ルーチン231には、ビデオ通信を分析するためのビデオ分析ルーチン233、及び/又は音声通信を分析するための音声分析ルーチン235が含まれている。
●クライアントデータ232。クライアントデータ232は、装置102又は装置102のユーザ106に関する情報を含む。ある実装では、クライアントデータ232には、1つ以上のユーザプロファイル234が含まれる。ユーザプロファイル234には、ユーザアカウント、ユーザプレファレンス、ユーザ設定、各ユーザアカウントに対するログイン証明書、各ユーザアカウントに関連する支払いデータ(例えば、リンクするクレジットカード情報、適用クレジットカード又はギフトカードの残高、請求先住所、送付先住所)、顧客パラメータ(例えば年齢、地域、趣味)、及び/又はソーシャルネットワーク連絡先等のユーザ連絡先が任意選択で含まれる。ある実装では、クライアントデータ232には、クライアント装置にユーザアクティビティを記録するユーザデータが含まれる。
図2における上記のように特定された各要素は、既述の1つ以上のメモリ装置に格納されてもよい。それぞれの実行可能なプログラム、モジュール、又は手順は、上記の機能を遂行するための命令セットに対応している。上で述べたモジュール又はプログラム(すなわち、命令セット)は個別のソフトウェアプログラム、手順、又はモジュールとして実装される必要はない。したがってこれらのモジュールの様々な部分集合が様々な実装において結合あるいは再構成されてもよい。ある実装では、メモリ214が上記のモジュールとデータ構造の部分集合を格納する。例えば、フィードバックモジュール228は、任意選択により通信処理モジュール220及び/又は通信モジュール218と結合される。さらに、メモリ214は上記以外のモジュールやデータ構造も格納し得る。電子通信時に通信インタフェース204及び/又はI/Oインタフェース206と共同して音声データを処理する音声モジュールがその一例である。
図2はクライアント装置102を表しているが、図2は本明細書に記載の実装の構造概略図というよりもむしろ、クライアント装置に存在し得る様々な特徴の機能図であることを意図している。実際に、そして当業者には理解されるように、別々に示された項目は結合してもよいし、アイテムによっては分離することもできる。
図3A〜図3Dは、ある実装による電子通信用のユーザインタフェース(UI)の例を示す。図3Aは、ユーザインタフェース301−1を含むウェブブラウザ302を示す。ユーザインタフェース301−1は、ユーザAに対応するクライアント装置(例えばクライアント装置102−1)に表示される。ユーザインタフェース301−1には、メニュー304と、表示された入方向コンテンツと、表示された出方向コンテンツと、が含まれる。表示された入方向コンテンツには、入方向のユーザBの共有コンテンツ306(例えばユーザBのスクリーン/デスクトップ、あるいはその中の特定のウィンドウ)と、入方向のユーザBのビデオ308と、入方向のユーザCのビデオ310−aが含まれる。ある実装では、表示された入方向コンテンツには、入方向のユーザCの共有コンテンツ(図示せず)が含まれる。表示された出方向コンテンツには、出方向のユーザAのビデオ312と出方向のユーザA共有コンテンツ314とが含まれる。メニュー304には任意選択で、「参加者招待」アフォーダンス305、「オプション共有」アフォーダンス307、「制御取得」アフォーダンス309、「チャットウィンドウオープン」アフォーダンス311、「ファイル伝送」アフォーダンス313、「プレファレンス」アフォーダンス315、及び「設定」アフォーダンス317が含まれる。図3Aでは、入方向のユーザB共有コンテンツ306が強調されている(例えば他のコンテンツよりも拡大されている)。
ある実装ではメニュー304には、図3Aに示すアフォーダンスの部分集合又は上位集合が含まれる。ある実装では、表示された出方向/入方向のコンテンツは1つ以上のユーザのプレファレンスに基づいている(例えばユーザAのユーザプレファレンス)。ある実装では、表示された出方向/入方向のコンテンツは、1つ以上の会議設定に基づいている。ある実装では、表示された出方向/入方向のコンテンツは、1つ以上の参加者のクライアント装置102の能力に基づいている。ある実装では、表示された出方向/入方向のコンテンツは、通信ネットワーク108の能力に基づいている。ある実装では、表示された出方向/入方向のコンテンツは、ユーザAのクライアント装置において取得可能な通信ストリームに基づいている。ある実装では、表示された出方向/入方向のコンテンツは、ユーザAのクライアント装置において取得可能な通信ストリームの品質に基づいている。
ある実装では、各ユーザ(例えばユーザA、ユーザB及びユーザC)に対応する表示コンテンツには、特定のユーザの音声及び/又はビデオ装置が有効化されているか無効化されているかを示す、1つ以上のアイコンのような表示情報が含まれている。例えば図3Aには、ユーザAに対応するマイクロフォンアイコン321−1とスピーカアイコン323−1、ユーザBに対応するマイクロフォンアイコン321−2とスピーカアイコン323−2、及びユーザCに対応するマイクロフォンアイコン321−3とスピーカアイコン323−3が示されている。
ある実装では、表示された入方向・出方向のコンテンツの各インスタンスに、対応するコンテンツの表示を調節するための1つ以上のアイコンが含まれている。例えば図3Aでは、表示された出方向のユーザAのビデオ312に、拡大アイコン316−1、最小化アイコン318−1、及び隠蔽アイコン320−1がある。図3Aではさらに、表示された出方向のユーザAの共有コンテンツ314に、拡大アイコン316−2、最小化アイコン318−2、及び隠蔽アイコン320−2がある。図3Aにはまた、表示された入方向のユーザBとユーザCのビデオに対応する、拡大、最小化、隠蔽のアイコンも示されている。ある実装では、対応するコンテンツの表示を調整するための別のアイコンも含まれている。ある実装では表示された別のコンテンツは、任意選択で別のアイコンを含んでいてもよい。
ある実装では、表示された入方向/出方向コンテンツの各インスタンスの位置は調整可能である。ある実装では、表示された入方向/出方向コンテンツの各インスタンスは、ユーザインタフェース301−1内のそれ自身の個別ウィンドウ内にある。ある実装では、表示された入方向/出方向コンテンツの各インスタンスの位置は、ユーザAによって設定されるか、及び/又は1つ以上のユーザプレファレンス及び/又は1つ以上の会議設定に基づく。
図3Aではさらに、表示された入方向のユーザCのビデオ310−aに対応する最小化アイコンの上にカーソル322が示されている。最小化アイコンの選択に応答して、表示された入方向のユーザCのビデオ310−aが最小化される。したがって、図3Bには最小化されたユーザCのビデオ310−bを含むユーザインタフェース301−2が示されている。図3Bにはさらに、最小化されたユーザCのビデオ310−bに対応する復元アイコン323が示されている。ある実装では、最小化されたユーザCのビデオ310−bの位置は調節される(例えばユーザインタフェースの一番下に移動される)。
図3Cはカーソル324が拡大アイコン316−2の上にある、ユーザインタフェース301−1を示している。拡大アイコン316−2の選択に応答して、出方向のユーザAの共有コンテンツ314の表示が拡大(例えば、最大化)される。図3Dには出方向のユーザAの共有コンテンツ314が拡大表示されたユーザインタフェース301−4が示されている。図3Dにはまた、縮小された入方向のユーザBの共有コンテンツ306が示されている。こうして図3Dでは、表示された出方向のユーザAの共有コンテンツ314が強調されている。
図4A〜図4Iは、ある実装による電子会議用のフィードバックを表示するためのユーザインタフェースの例を示している。図4Aはユーザインタフェース401−1を示している。ユーザインタフェース401−1は、入方向のユーザCのビデオ310−aが表示されていないことを除けば、上記のユーザインタフェース301−1と同じである。ユーザインタフェース401−1では、ユーザCのビデオは利用不能であることを示す図310−cが示されている。ユーザCのビデオが利用不能であることを示す図310−cは、ユーザAが受信したユーザCのビデオに問題があることを示している。ある場合には問題はユーザCのクライアント装置にあり、別の例では問題は通信ネットワーク及び/又はユーザAのクライアント装置にある。図4AではユーザCのビデオが利用不能であることを示す図310−cが示されているが、実装によっては違う図が使用される。実装によっては、何も図が表示されない。
図4Bはユーザインタフェース401−2を示している。ユーザインタフェース401−2は、マイクロフォンアイコン321−3が無効であることを示していること以外は、上記のユーザインタフェース301−1と同じである。ある実装では、マイクロフォンアイコン321−3が無効であることを示すことは、ユーザAが受信したユーザCの出方向の音声に問題があることを示している。ある場合には、ユーザCがマイクロフォンを無効化してしまっている。ある場合には、ユーザCがマイクロフォンを接続していない。ある場合には、通信ネットワーク(例えば図1の通信ネットワーク108)及び/又はユーザAのクライアント装置に問題がある。ある場合には、ユーザAがユーザCの音声を意図的に無効化している。
図4Cはユーザインタフェース401−3を示している。ユーザインタフェース401−3は、スピーカアイコン323−2とスピーカアイコン323−3が無効であることを示していることを除けば、上記のユーザインタフェース301−1と同じである。ある実装では、スピーカアイコンが無効であることを示すことは、それぞれのユーザの入方向音声に問題があることを示している。ある場合には、特定のユーザがスピーカを無効化してしまっている。ある場合には、特定のユーザがスピーカを自分のクライアント装置に接続していない。ある場合には、通信ネットワーク(例えば図1の通信ネットワーク108)に問題がある。
図4Dはユーザインタフェース401−4を示している。ユーザインタフェース401−4は、表示された出方向のユーザAのビデオ312がオーバレイ402付きで表示されていることを除けば、上記のユーザインタフェース301−1と同じである。ある実装では、オーバレイ402は、別の参加者(例えばユーザB及び/又はユーザC)により受信されたユーザAの出方向ビデオに問題があることを示している。ある場合には、通信ネットワーク(例えば図1の通信ネットワーク108)、ユーザAのクライアント装置、及び/又は他の参加者のクライアント装置、の1つに問題がある。ある実装では、オーバレイ402は、別の参加者(例えばユーザB及び/又はユーザC)からフィードバックを受信すると表示される。ある実装では、オーバレイ402は人工的な静止画を含んでいる。ある実装では、オーバレイ402は干渉ラインを含んでいる。
図4Eはユーザインタフェース401−5を示している。警告404をさらに含むことを除けば、ユーザインタフェース401−5は上記のユーザインタフェース301−1と同じである。警告404は、ユーザCが受信したユーザAのビデオが適切でないこと(例えば、待ち時間が長い、フレームレートが遅い、又はデータが損傷している、など)を示している。ある実装ではユーザAのクライアント装置が、ユーザAのクライアント装置から送られるビデオの品質が適切でないかどうかを、ユーザCから受信するフィードバックに基づいて判定する。ある実装ではユーザAのクライアント装置が、ビデオ品質が適切でないかどうかを、他の参加者のビデオ品質と比較して判定する。ある実装ではユーザAのクライアント装置が、ビデオ品質が適切でないかどうかを、1つ以上のユーザプレファレンス及び/又は設定と比較して判定する。図4Eにはさらに警告404が示されて、警告404が表示された理由についての追加情報を表示する詳細アフォーダンス408が含まれている。ある実装では、追加情報にはビデオの待ち時間、フレームレート、接続特性などに関する情報が含まれる。図4Eにはさらに、トラブルシュート(問題解決)・アフォーダンス406を含む警告404が示されている。トラブルシュート・アフォーダンス406を選択することにより、ユーザAがビデオの問題に対応することが可能となる。ある実装ではトラブルシューティングには、他の参加者が受信した(例えばユーザBが受信した)ユーザAのビデオ品質をチェックすることが含まれる。ある実装ではトラブルシューティングには、ユーザCにピング(ping)を送信すること、ファイアウォールの設定をチェックすること、カメラ設定をチェックすること、ユーザAのクライアント装置におけるユーザAの出方向のビデオ品質を分析すること、などが含まれる。
図4Fはユーザインタフェース401−6を示している。ユーザインタフェース401−6は、入方向のユーザBの共有コンテンツ306がオーバレイ410付きで表示されていることを除けば、上記のユーザインタフェース301−1と同じである。ある実装ではオーバレイ410は、別の参加者(例えばユーザB及び/又はユーザC)により受信されたユーザAの出方向のコンテンツ及び/又はビデオに問題があることを示している。ある場合には、通信ネットワーク(例えば図1の通信ネットワーク108)、ユーザAのクライアント装置、及び/又は他の参加者のクライアント装置、の1つに問題がある。ある実装ではオーバレイ410は、別の参加者(例えばユーザB及び/又はユーザC)からフィードバックを受信すると表示される。ある実装では、オーバレイ410は人工的な静止画を含む。ある実装では、オーバレイ410は干渉ラインを含んでいる。ある実装ではオーバレイ410は、ユーザBの共有コンテンツ306に問題があることを示している。
図4Gはユーザインタフェース401−7を示している。ユーザインタフェース401−7には出方向の品質メータ412と現在の品質表示414がさらに含まれていることを除けば、ユーザインタフェース401−7は上記のユーザインタフェース301−1と同じである。ある実装では出力メータ412には、品質閾値表示413、415が含まれている。ある実装では、品質閾値表示413より下の領域は「不良」としてラベル付けされる。ある実装では、品質閾値表示413と415の間の領域は「普通」としてラベル付けされる。ある実装では、品質閾値表示415より上の領域は「良」としてラベル付けされる。このようにある実装によれば、図4Gでは現在の出力品質表示414が「良」の領域を示している。ある実装では現在の品質表示414が、別の参加者(例えばユーザB及び/又はユーザC)により受信されたユーザAの出方向コンテンツ及び/又はビデオに問題があることを示す。ある場合には、通信ネットワーク(例えば図1の通信ネットワーク108)、ユーザAのクライアント装置、及び/又は他の参加者のクライアント装置、の1つに問題がある。ある実装では、現在の品質表示414が、別の参加者(例えばユーザB及び/又はユーザC)からのフィードバック受信に応答して表示/更新される。ある実装では現在の品質表示414は、出方向音声、出方向ビデオ、出方向共有コンテンツ、などのユーザAの1つ以上の出方向通信ストリームの品質に基づく品質尺度に対応する。
図4Hはユーザインタフェース401−8を示している。警告416がさらに含まれていることを除けば、ユーザインタフェース401−8は上記のユーザインタフェース301−1と同じである。警告416は、ユーザBとユーザCが受信したユーザAの音声が不適切であること(待ち時間が長い、データが損傷している、など)を示している。ある実装ではユーザAのクライアント装置が、音声の品質が不適切であるかどうかをユーザBとユーザCから受信するフィードバックに基づいて判定する。ある実装ではユーザAのクライアント装置が、音声品質が不適切であるかどうかを他の参加者の音声品質と比較して判定する。ある実装ではユーザAのクライアント装置が、音声品質が不適切であるかどうかを1つ以上のユーザプレファレンス及び/又は設定と比較して判定する。図4Hはさらに、ユーザAがユーザB及びユーザCとテキストを介して通信可能とする、テキスト通信アフォーダンス418を含む警告416を示している。
図4Iはユーザインタフェース401−9を示している。ユーザインタフェース401−9は、チャットボックス420をさらに含み、またマイクロフォンアイコン321−1が無効であることを示していることを除けば、上記のユーザインタフェース301−1と同じである。チャットボックス420は、ユーザA、B、C間のテキスト通信を可能としている。ある実装ではチャットボックス420は、音声及び/又はビデオの性能問題に応じて、チャットボックス420が表示されていることを示すメッセージを含んでいる。ある実装ではチャットボックス420は、ユーザAが図4Hのテキスト通信アフォーダンス418を選択することに応答して表示される。ある実装ではチャットボックス420は、音声及び/又はビデオ問題が存在すると判定されることに従って、自動的に表示される。ある実装ではチャットボックス420は、ユーザB及び/又はユーザCから、ユーザAの出方向音声/ビデオが不適切であることを示すフィードバックを受信することに応じて表示される。ある実装ではチャットボックス420は、ユーザB及び/又はユーザCから品質が不良な音声/ビデオを受信することに応じて表示される。図4Iはマイクロフォンアイコン321−1が無効であることを示している。ある実装では無効であるマイクロフォンアイコン321−1は、ユーザAが、ユーザAのクライアント装置のマイクロフォンを無効化したことを示している。ある実装では無効化されたマイクロフォンアイコン321−1は、1人以上の他の参加者(例えばユーザB)により受信されるユーザAの音声が低品質であることを示している。
図5A〜図5Bはある実装による、電子通信の複数の参加者の内、2つの視点からのユーザインタフェースの例を示している。図5Aでは、ユーザAに対応するクライアント装置102−1に表示されているユーザインタフェース501−1を示している。ユーザインタフェース501−1には、ユーザAに対する入方向のユーザB共有コンテンツ306、入方向のユーザCビデオ310−1、ユーザAからの出方向であるユーザAのビデオ312、及び出方向のユーザA共有コンテンツ314の表示が含まれている。図5Aでは、さらにユーザBに対応するクライアント装置102−2に表示されているユーザインタフェース503−1を示している。ユーザインタフェース503−1には、ユーザBに対する入方向のユーザA共有コンテンツ502、入方向のユーザAビデオ504、入方向のユーザCのビデオ310−1、及びユーザBからの出方向のユーザB共有コンテンツ508の表示が含まれている。クライアント102−1における出方向のユーザAのビデオ312は、クライアント102−2における入方向のユーザAのビデオ504に対応し、クライアント102−1における出方向のユーザAの共有コンテンツ314は、クライアント102−2における入方向のユーザAの共有コンテンツ502に対応する。同じように、クライアント102−2における出方向のユーザBの共有コンテンツ508は、クライアント102−1における入方向のユーザBの共有コンテンツ306に対応している。
図5Bは、ユーザAに対応するクライアント装置102−1に表示されているユーザインタフェース501−2と、ユーザBに対応するクライアント装置102−2に表示されているユーザインタフェース503−2を示している。ユーザインタフェース501−2は、ユーザインタフェース501−2が入方向のユーザBの共有コンテンツ306の品質が悪い(例えば、解像度が低下している)ことを示していること以外はユーザインタフェース501−1(図5A)と同じである。これに対応して、ユーザインタフェース503−2は、出方向のユーザBの共有コンテンツ508を、人為的に解像度を低下させて、表示することにより、出方向のユーザBの共有コンテンツ508がクライアント102−1に表示されているように画像が不適切であることを示している。ある実装によれば、ユーザインタフェース503−2はさらに、ユーザBの出方向のコンテンツの品質が不適切であることを警告512の表示で示している。
図6A〜図6Bは、ある実装による会議アークテクチャ例でのデータフローとフィードバックを示すブロック図である。図6Aはクライアント102−1が、ゲートウェイ602、606、及び通信ネットワーク604を介してクライアント102−2に結合されていることを示している。図6Aはさらに、出方向ビデオ601の各ロケーションでの品質表示を示している。具体的に図6Aでは、クライアント装置102−1で生成された状態の出方向ビデオ601−aと、ゲートウェイ602により出力された状態の出方向ビデオ601−bと、通信ネットワーク604により出力された状態の出方向ビデオ601−cと、ゲートウェイ606により出力された状態の出方向ビデオ601−dと、クライアント102−2により表示された状態の出方向ビデオ601−eが示されている。図6Aはさらに、出方向ビデオ601−eは出方向ビデオ601−aに比べて品質が劣化している(例えば解像度が低下している)ことを示している。図6Aはさらに、クライアント102−2が出方向ビデオ601−eに基づいてフィードバック610を生成し、クライアント102−1へフィードバック610を送信することを示している。ある実装ではフィードバック610は、ゲートウェイ602、606と通信ネットワーク604を介して送信される。
同様に図6Bはクライアント102−1が、ゲートウェイ602、606、及び通信ネットワーク604を介してクライアント102−2に結合されていることを示している。図6Bはさらに、出方向ビデオ612の各ロケーションでの品質表示を示している。具体的に図6Bでは、クライアント装置102−1で生成された状態の出方向ビデオ612−aと、ゲートウェイ602により出力された状態の出方向ビデオ612−bと、通信ネットワーク604により出力された状態の出方向ビデオ612−cと、ゲートウェイ606により出力された状態の出方向ビデオ612−dと、クライアント102−2により表示された状態の出方向ビデオ612−eが示されている。図6Bにはさらに、出方向ビデオ612−cは出方向ビデオ601−aよりも品質が劣化している(例えば解像度が低下している)こと、及び出方向ビデオ612−dは(例えばゲートウェイ606のファイウォールのために)取得不能であることが示されている。図6Bはさらに、クライアント102−2が出方向ビデオ612−eに基づいてフィードバック614を生成し、クライアント102−1へフィードバック614を送信することを示している。例えばフィードバック614は、出方向ビデオがクライアント102−2で表示不能であることを示す。
「代表的プロセス」
次に、図7A〜図7B、図8A〜図8C、図9のフローチャート表示に注目する。図7A〜図7Bはある実装による、特定の参加者へ会議フィードバックを提供する方法のフローチャート表示である。図8A〜図8Cはある実装による、特定の参加者から会議フィードバックを提供する方法のフローチャート表示である。図9はある実装による、例示的電子会議における2人の参加者間での通信フローを示す図である。
ある実装において、方法700(図7A〜図7B)と方法800(図8A〜図8C)は、(1)図1のクライアント装置102のような、1つ以上のクライアント装置、(2)1つ以上のサーバシステム、又は(3)(1)と(2)の組合せ、によって遂行される。従ってある実装においては、本明細書において記述する方法700と方法800の操作は完全に交換可能であり、方法700と方法800のそれぞれの操作は前述した任意の装置、システム、又は装置及び/又はシステムの組合せによって遂行される。ある実装では、非一時的なコンピュータ可読記憶媒体に格納され、かつクライアント装置102(図2)の1つ以上のCPU202及び/又はサーバシステムの1つ以上のCPUなどの装置/計算機システムの1つ以上のプロセッサによって実行される命令によって、方法700と方法800は制御される。
次に図7A〜図7Bを参照する。第1の参加者が、1人以上の遠隔参加者との電子会議に第1のクライアント装置から参加する(702)。この電子会議は第1の参加者のための出方向通信ストリームを含んでいる。例えば、図1には、ユーザ106−2〜106−rとの電子会議100に参加するユーザ106−1が示されている。ある実装によれば、図3Aには各参加者に表示されるビデオストリームが示されている。具体的には出方向のユーザAのビデオ312、入方向のユーザBのビデオ308、そして入方向のユーザCのビデオ310−aである。ある実装では出方向通信ストリームには、音声通信ストリーム、ビデオ通信ストリーム、テキスト通信ストリーム、及び/又は視聴覚通信ストリームが含まれている。ある実装では、第1のクライアント装置が第1の参加者の電子会議への参加を可能とする。例えば第1の参加者は、図2の通信モジュール218と共に通信インタフェース204を利用して電子会議に参加する。
ある実装では第1の参加者が、第1のクライアント装置のウェブブラウザ(例えば図2のウェブブラウザ104)を介して電子会議に参加する(704)。例えば図3Aはウェブブラウザ302を介して電子会議に参加するユーザAを示している。ある実装では、第1の参加者はモバイルアプリケーションを介して電子会議に参加する。ある実装では、電子会議はJavaScript(登録商標)のようなプログラミング言語を介して行われる。ある実装では、ウェブブラウザは参加者が電子会議への接続を失うことなしにリフレッシュされてもよい。
ある実装では、電子会議はピアツーピアの電子会議で構成される(706)。例えば電子会議は、クラウドサーバのような独立したサーバがホストとはならない。ある実装では、電子会議へ参加する特定の参加者が電子会議のホストとなる。ある実装では、ある特定の参加者が会議のホストに指名される。ある実装では、会議のホストが会議の途中で替わる。ある実装では、会議のホストは各参加者に対応するフィードバックの比較に基づいて決定される。
第1のクライアント装置が、電子会議に参加予定の1人以上の遠隔参加者の中の特定の参加者が使用する第2のクライアント装置からフィードバックを受信する(708)。このフィードバックは、第2のクライアント装置における第1の参加者の出方向通信ストリーム品質に対応するものである。ある実装では、フィードバックには1つ以上の数値による品質ファクタが含まれている。ある実装では、フィードバックには1つ以上の品質ラベルが含まれている。例えば、第1のクライアント装置が、図2の通信モジュール218及び/又はフィードバックモジュール228と共に通信インタフェース204を利用してフィードバックを受信する。
ある実装では、第1のクライアント装置が、表示されたグラフィカルユーザインタフェース(GUI)を更新して、受信したフィードバックに対応する情報を表示させる(710)。ここでGUIには電子会議の情報表示が含まれている。例えば、図4Fにはオーバレイ410を含むユーザインタフェース410−6が示されている。ここでオーバレイ410は他のユーザ(例えばユーザB)から受信したフィードバックに基づいている。例えば、参加者の音声品質が不適切であるとのフィードバックを受信すると、その参加者の出方向データに対応する境界線の色が変わる(例えば橙又は赤になる)。ある実装では、強調されたコンテンツの1つ以上の表示特性が更新される。例えば、強調されたコンテンツの境界線の色が変わって、受信したフィードバックを介して問題が識別されたことを示す。ある実装では、受信したフィードバックに対応する情報の表示の仕方は、1つ以上のユーザプレファレンス及び/又は1つ以上の会議設定(例えば、図2のクライアントデータ232に格納された1つ以上のユーザプレファレンス)に基づいて決定される。例えばある特定の参加者は、受信したフィードバックを入方向のコンテンツ表示ではなく出方向のコンテンツ表示で表示するというユーザプレファレンスを設定する。別の例では、ある特定の参加者は受信したフィードバックをそのとき強調されているコンテンツで表示するというユーザプレファレンスを設定する。ある実装では、表示されたフィードバック情報は、単純な状態情報を含む(例えば特定の通信ストリームが不適切かどうかを表す状態情報を含む)。ある実装では、表示されたフィードバック情報は通信品質を表す(例えば、良品質を緑色のアイコンで、普通品質を黄色のアイコンで、不良品質を赤色のアイコンで示す)。ある実装では表示されたフィードバック情報は、1つ以上の品質ラベルに対する1つ以上の表示を含んでいる。ある実装では表示されたフィードバック情報は、1つ以上の数値的品質ファクタに対する1つ以上の表示を含んでいる。例えば第1のクライアント装置が図2の表示モジュール222と共に表示部208を利用してGUIを表示する。
ある実装では、第1のクライアント装置が、表示されたGUI内の1つ以上のアイコンの表示特性(例えばアイコンの色)を更新する(712)。この1つ以上のアイコンは1つ以上の各通信形態(例えば音声、ビデオ、テキスト)に対応している。例えば図4Iには、マイクロフォンアイコン321−1の無効表示を含むユーザインタフェース401−9が示されている。ある実装では、第1のクライアント装置が複数の参加者からのフィードバックを集積し、その集積されたフィードバックに基づいて表示特性を更新する。例えば、ある参加者の音声品質が不適切であることを示すフィードバックを受信すると、マイクロフォンアイコンが色を変える(例えば赤色になる)か、スピーカアイコンが灰色になる。ある実装では、1つ以上のアイコンが参加者の出方向コンテンツに示されている。ある実装では、1つ以上のアイコンが強調されたコンテンツに示されている。例えば図3Aでは、強調コンテンツとして入方向のユーザBの共有コンテンツ306が表示されており、図3Dでは、強調コンテンツとして出方向のユーザAの共有コンテンツ314が表示されている。ある実装では、1つ以上のアイコンが受信したフィードバック表示用に選定される。ある実装では、1つ以上のアイコンを特定の参加者がカスタマイズすることができる。ある実装では、1つ以上のアイコンの表示特性は1つ以上のユーザプレファレンス及び/又は1つ以上の会議設定(例えば、図2のクライアントデータ232に格納された1つ以上のユーザプレファレンス)に基づいている。例えば特定の参加者は、1つ以上のアイコンのそれぞれに対してユーザインタフェース内の好適な位置を指定するユーザプレファレンスを設定することができる。例えば、第1のクライアント装置が、図2の表示モジュール222及び/又はフィードバックモジュール228を利用して表示を更新する。
ある実装では、第1のクライアント装置が、特定の参加者に対応する通信ストリームの表示特性を更新する(714)。ここで通信ストリームはGUI内に表示されている。例えば、通信ストリームへの人工的静止画の導入、干渉ラインの付加、フレームレートの低下、などである。ある実装によれば図4Fは、ユーザBのクライアント装置から受信したフィードバックに対応するオーバレイ410が表示された、入方向のユーザBの共有コンテンツ306を示している。ある実装では、通信ストリームがビデオストリームで構成されている。ある実装では、通信ストリームが、共有されたデスクトップ又はウィンドウのような共有電子コンテンツで構成されている。ある実装では、第1のクライアント装置が複数の参加者からのフィードバックを集積し、その集積されたフィードバックに基づいて表示特性を更新する。例えば、第1のクライアント装置が、図2の表示モジュール222及び/又はフィードバックモジュール228を利用して表示を更新する。
ある実装では、第1のクライアント装置が、第1の参加者に対応する、GUI内に表示された通信ストリームの表示特性を更新する(716)。例えば、ビデオストリームへの人工的静止画の導入、干渉ラインの付加、フレームレートの低下、などである。ある実装によれば図4Dは、ユーザBのクライアント装置から受信したフィードバックに対応するオーバレイ402が表示された、出方向のユーザAのビデオ312を示している。ある実装では、通信ストリームがビデオストリームで構成されている。ある実装では、通信ストリームが、共有されたデスクトップ又はウィンドウのような共有電子コンテンツで構成されている。ある実装では、第1のクライアント装置が複数の参加者からのフィードバックを集積し、その集積されたフィードバックに基づいて表示特性を更新する。例えば、第1のクライアント装置が、図2の表示モジュール222及び/又はフィードバックモジュール228を利用して表示を更新する。
ある実装では、第1のクライアント装置がGUI内にテキストメッセージを表示する(718)。例えば図4Eは、ユーザCから受信したフィードバックに応答して表示された警告404を示している。ある実装では、テキストメッセージが新規のウィンドウに現れる。ある実装では、テキストメッセージは、チャットウィンドウのような既存のウィンドウに現れる。ある実装では、テキストメッセージはオーバレイとして(例えば表示された出方向のユーザAのビデオ312のオーバレイとして)現れる。
ある実装では、第1のクライアント装置が、第1のクライアント装置の1つ以上のスピーカを介して音声報知を行う(720)。ここで音声報知は受信したフィードバックに対応している。ある実装では、音声報知には少なくとも1つのビープ音、言葉などが含まれる。ある実装では、音声報知には音声信号の変調などの、音声通信を変調することが含まれる。ある実装では、第1のクライアント装置が複数の参加者からのフィードバックを集積し、その集積されたフィードバックに基づいて音声信号を変調する。例えば、第1のクライアント装置が、図2のフィードバックモジュール228と共にI/Oインタフェース206を利用して音声通信を提供する。
ある実装では、第1のクライアント装置が、電子会議の1人以上の参加者から受信したそれぞれのフィードバックを利用して、電子会議の1つ以上の問題のトラブルシューティングを行う(722)。ある実装ではトラブルシューティングには、他の参加者から受信した状態の第1の参加者のビデオ品質をチェックすることが含まれる。ある実装ではトラブルシューティングには、1人以上の他の参加者にピングを送信すること、ファイアウォール設定をチェックすること、カメラ設定をチェックすること、第1のクライアント装置で第1のクライアントの出方向のビデオ品質を分析すること、などの1つ以上の診断テストの遂行が含まれる。例えば、第1のクライアント装置が、図2の通信処理モジュール220と共に通信インタフェース204を利用して1つ以上の問題点をトラブルシューティングする。
図7A〜図7Bで説明した操作の具体的な順序は、単に一例として挙げたものであり、この記述した順序が操作を遂行する上での唯一の順序であることを示唆するものではないことを理解されたい。当業者であれば本明細書に記載の操作を様々な形で順序変更できることがわかるであろう。さらに、本明細書で記述した他の方法及び/又はプロセスに関する本明細書に記載の他のプロセスの詳細もまた、図7A〜図7Bに関する上記の方法700と同じようにして適用可能であることにも留意されたい。
次に図8A〜図8Cを参照する。まず第1の参加者が1人以上の遠隔参加者との電子会議に第1のクライアント装置から参加する(802)。例えば図1には、ユーザ106−2〜106−rとの電子会議100に参加するユーザ106−1が示されている。ある実装では電子会議は、遠隔会議を含んでいる。ある実装では、第1のクライアント装置は、携帯電話やタブレットなどの携帯機器を含んでいる。例えば第1の参加者は、図2の通信モジュール218と共に通信インタフェース204を利用して電子会議に参加する。
電子会議へ参加する1人以上の遠隔参加者の中の特定の参加者が使用する第2のクライアント装置から送信される個別の出方向通信ストリームを、第1のクライアント装置が受信する(804)。例えば図6Aでは、クライアント102−2がクライアント102−1からの出方向ビデオ601を受信している。例えば第1のクライアント装置は、図2の通信モジュール218と共に通信インタフェース204を利用して通信ストリームを受信する。
ある実装ではそれぞれの出方向通信ストリームには、参加者との通信のための1つ以上のチャネルが含まれている(806)。この1つ以上のチャネルには、テキスト通信用のチャネル、音声通信用のチャネル、ビジュアル通信用のチャネル、及びマルチメディア通信用のチャネルの内の少なくとも1つが含まれている。ある実装によると、図4Iにはテキスト通信に対応して表示されたチャット420と、マルチメディア通信チャネルに対応した入方向のユーザBのビデオ308が示されている。ある実装では特定の参加者の音声データがその特定の参加者のビデオデータとは異なるチャネルを介して送信される。ある実装では視聴覚情報が1つのチャネル経由で送信される。ある実装では各チャネルが別々のアプリケーションポートを利用する。ある実装では第1のチャネルが第1のウェブソケットを利用し、第2のチャネルが第1のウェブソケットとは別の第2のウェブソケットを利用する。
ある実装では第1のクライアント装置が参加者通信用の1つ以上のチャネルとは別のチャネルを介してフィードバックを提供する(808)。ある実装ではフィードバックは遠隔会議の確立に使われたチャネルを介して送信される。ある実装ではフィードバックは信頼性が最も高いと判定されたチャネルを介して送信される。ある実装ではフィードバックは帯域幅が最も小さいと判定されたチャネルを介して送信される。例えば第1のクライアント装置は、図2のフィードバックモジュール228と共に通信インタフェース204を利用してフィードバックを提供する。
第1のクライアント装置が受信した通信ストリームを分析して、受信した通信ストリームの1つ以上の品質ファクタを判定する(810)。例えば図6Aは、出方向ビデオ601−eを受信し、受信したビデオの分析に基づいてフィードバック610を生成するクライアント102−2を示している。ある実装では、この1つ以上の品質ファクタは数値ファクタである。ある実装ではこの1つ以上の品質ファクタは定量的品質ファクタである。ある実装ではこの1つ以上の品質ファクタには、通信モード(例えば、テキスト、音声、ビジュアルなど)ごとに別々の品質ファクタが含まれる。ある実装ではこの1つ以上の品質ファクタには通信チャネルごとに別々の品質ファクタが含まれる。ある実装では第1のクライアント装置はこの1つ以上の品質ファクタを利用して、各通信ストリームを品質及び/又は安定性の観点からランク付けする。ある実装では分析はウェブブラウザに組み込まれたJavaScriptなどのプログラミング言語を利用して行われる。ある実装では分析には受信した音声データの音声−テキスト変換の実行が含まれる。ある実装では分析には受信したビデオデータの光学文字認識(OCR)の実行が含まれる。例えば第1のクライアント装置は、図2の通信処理モジュール220と共に通信インタフェース204を利用して受信した通信ストリームを分析する。
ある実装ではラウドネス、シャープネス、うなり、ラフネス、変動強度、調性、全体レベル、時間平均レベル、及び騒音暴露レベルが任意選択的に分析されて、対応する品質ファクタが生成される。ある実装ではブロッキネス、ぶれ、色にじみ、フリッカ、ジッタ、及びその他のビデオのムラが任意選択で分析されて、対応する品質ファクタが生成される。ある実装では第1のクライアント装置では1つ以上の品質ファクタに基づいて1つ以上の品質ラベルが生成される。上記の品質ファクタは様々な周知のアルゴリズムを利用して計算可能であることは当業者には明らかであろう。

例えば、サルフォード大学は、上記した音声品質基準を含む、複数の音声品質基準の計算式を発表している(非特許文献1)。同様に、非特許文献2に、ビデオ品質ファクタの計算式が記載されている。
ある実装では第1のクライアント装置とは別の電子装置が、受信した通信ストリームを分析して1つ以上の品質ファクタを決定する。ある実装ではこの電子装置により決定された1つ以上の品質ファクタが、第1のクライアント装置により決定された1つ以上の品質ファクタに集積される。例えば、この電子装置がネットワーク性能に関する1つ以上の品質ファクタを決定し、第1のクライアント装置が通信ストリームのレンダリング及び/又は解釈に関する1つ以上の品質ファクタを決定する。ある実装ではこの電子装置は、クラウドサーバなどのサーバを含んでいる。
ある実装では第1のクライアント装置で受信した通信ストリームに対応してレンダリングされた情報を、第1のクライアント装置が分析する(812)。ある実装によれば、図6Aの出方向のビデオ601−eは、クライアント102−2でレンダリングされた後の出方向ビデオの状態を表し、フィードバック610はその出方向ビデオ601−eに基づいて生成される。フィードバックを生成する前に受信した通信ストリームをレンダリングすることで、クライアント装置はレンダリングの過程で生じ得るいかなる問題点も説明することが可能となる。例えば、第1のクライアント装置は、図2の表示モジュール222及び/又は通信処理モジュール220と共に表示部208を利用してレンダリングされた情報を分析する。
ある実装では第1のクライアント装置が受信した通信ストリーム内の音声ストリームを分析し(814)、その分析した音声ストリームに基づいて1つ以上の品質ファクタの少なくとも部分集合を決定する(816)。例えば、音声アクティビティ検出、音声分析、及び/又は音声認識を介して分析する。ある実装では音声ストリームの分析に、シャープネス、ラフネス、変動強度などをリアルタイムで計算することが含まれる。ある実装では受信した通信ストリーム内の音声通信の分析には、第1のクライアント装置のマイクロフォンを介した音声通信の分析が含まれる。ある実装ではそれぞれの出方向の通信ストリームには音声透かしが含まれ、音声通信の分析には音声透かしがあるか否かを判定することが含まれる。ある実装では音声ストリームの分析に、音声ストリーム上での音声アクティビティ検出を行うことが含まれる。例えば、ウェブブラウザで行う分析サービスでは、すべての種類の音のアクティビティを検出する。ある実装では音声ストリームの分析に、音声ストリーム上での音声分析を行うことが含まれる。たとえばウェブブラウザで行う分析サービスは、音声の存在と品質を(例えば様々な既知の方法を用いて)検出する。ある実装では音声ストリームの分析に、音声ストリーム上での音声認識を行うことが含まれる。ある実装では音声ストリームの分析に、第1の参加者のスピーカから出力された後でその音声データを分析することが含まれる。ある実装では音声ストリームに、特定の参加者のマイクロフォンからの音声データが含まれる。例えば第1のクライアント装置は、図2の通信処理モジュール220と共に通信インタフェース204を利用して音声ストリームを分析する。
ある実装では第1のクライアント装置が受信した通信ストリーム内のビデオストリームを分析し(818)、その分析したビデオストリームに基づいて1つ以上の品質ファクタの少なくとも部分集合を決定する(820)。例えばピクセル検出(非黒ピクセル検出など)、ピクセル分布などを介して分析する。ある実装ではビデオストリームの分析に、ブロッキネス、ぶれ、色にじみ、フリッカ、ジッタなどを検出することが含まれる。ある実装ではビデオストリームの分析に、ビデオストリームのビデオデータ中のピクセルアクティビティを検出することが含まれる。例えばウェブブラウザで行う分析サービスでは、すべての種類のピクセルアクティビティを検出する。ある実装ではウェブブラウザで行う分析サービスが、様々な既知の方法を利用してビデオデータの品質を判定する。例えば第1のクライアント装置は、図2の通信処理モジュール220と共に通信インタフェース204を利用してビデオストリームを分析する。
ある実装では、第1のクライアント装置が受信した通信ストリーム内の音声ストリームを受信した通信ストリーム内のビデオストリームと比較し(822)、その比較に基づいて1つ以上の品質ファクタの少なくとも部分集合を決定する(824)。例えば、音声ストリームとビデオストリームを比較することには任意選択により、ビデオ内のピクセル変化を音声と比較すること、ビデオにOCRを遂行して音声と比較すること、などが含まれる。ある実装では音声ストリームとビデオストリームを比較することには、音声品質に対応するファクタをビデオ品質に対応するファクタと比較することが含まれる。例えば第1のクライアント装置は、図2の通信処理モジュール220によって音声ストリームをビデオストリームと比較する。
ある実装では第1のクライアント装置が、受信した通信ストリームに対応する待ち時間、受信した通信ストリームに対応するボリューム、及び受信した通信ストリームに対応するリフレッシュレートの内の少なくとも1つを分析する(826)。ある実装では第1のクライアント装置が、フレームレート、解像度低下、ぶれ、などを分析する。
第1のクライアント装置は、判定した1つ以上の品質ファクタに基づいて、特定の参加者へフィードバックを行う(828)。ある実装では第1のクライアント装置がフィードバックを生成する。ある実装ではフィードバックは受信した通信ストリームを介して送信される。ある実装ではフィードバックは遠隔会議確立に使われたチャネルを介して送信される。ある実装ではフィードバックは信頼性が最も高いと判定されたチャネルを介して送信される。ある実装ではフィードバックはその時点で最大の可用帯域幅があると判定されたチャネルを介して送信される。ある実装ではフィードバックはサードパーティのサービスを介して送信される。例えば第1のクライアント装置は、図2のフィードバックモジュール228と共に通信インタフェース204を利用してフィードバックを提供する。
ある実装では第1のクライアント装置が参加者通信用の2つ以上のチャネルの分析に基づいて最適なチャネルを判定し(830)、第1の参加者にその最適チャネルを推奨する(832)。ある実装では最適チャネルの推奨にはその最適チャネルへの自動切り替えが含まれている。例えば、電子会議は図3Aに示す通りである。この例では、第1のクライアント装置が、テキスト通信チャネルが最適チャネルであると判定し、図4Iに示すようなチャット420を自動的に開く。ある実装では最適チャネルの推奨には、第1の参加者が最適チャネルに切り替えるように第1の参加者に提案することが含まれる。例えば、電子会議は図3Aに示す通りである。この例では、第1のクライアント装置が、テキスト通信チャネルが最適チャネルであると判定し、図4Hに示すような警告416を介してテキスト通信チャネルを推奨する。例えば、第1のクライアント装置が図2の通信処理モジュール220及び/又は通信モジュール218を利用して最適チャネルを判定する。
ある実装では2つ以上のチャネルのうちの、主チャネルとして指定された第1のチャネルが不良であると判定されることに従って、第1のクライアント装置は第2のチャネルを主チャネルとして指定する(834)。例えば、電子会議は図3Aに示す通りである。この例において、第1のクライアント装置が入方向のユーザBの共有コンテンツ306が不良であると判定し、図4Iに示すようにチャット420を主チャネルに指定する。ある実装では不良チャネルは不良でないチャネルよりも下のランクに降格させられる。ある実装では第1のチャネルに関する1つ以上の品質ファクタがあらかじめ定められた規準の1つ以上に合致すれば、第1のチャネルは不良であると判定される。例えば、ビデオストリームの非黒ピクセルのパーセンテージが所定の閾値よりも低くなる。例えば、第1のクライアント装置が、図2の通信処理モジュール220、フィードバックモジュール228、及び/又は通信モジュール218を利用して、第1のチャネルが不良であると判定する。
ある実装では、特定の参加者(例えばホストとして指定された参加者)が他の参加者に関するフィードバックを受信する。例えば、ユーザAがホストに指定され、ユーザCが受信したユーザBの通信に関するフィードバックを受信する。
ある実装では参加者が補助的な電子装置を指定し、第1のクライアント装置を介する通信が不良であると判定されると、この補助的な電子装置を利用する。例えば、特定の参加者がラップトップ(第1のクライアント装置)で電子会議に参加する。この特定の参加者は別の参加者のクライアント装置から、特定の参加者の音声が不良である(例えば聞き取りにくい)とのフィードバックを受信する。そして特定の参加者の携帯電話(補助的な電子装置)が電子会議に接続される。ある実装では、不良通信とは判別ができない通信のことである。ある実装では、不良通信とは所定の品質標準より低品質の通信のことである。
図8A〜図8Cで説明した操作の具体的な順序は、単に一例として挙げたものであり、この記述した順序が操作を遂行する上での唯一の順序であることを示唆するものではないことを理解されたい。当業者であれば本明細書に記載の操作を様々な形に順序変更できることがわかるであろう。さらに、本明細書で記述した他の方法及び/又はプロセスに関して本明細書に記載した他のプロセスの詳細もまた、図8A〜図8Cに関する上記の方法800と同じように適用可能であることにも留意されたい。
次に図9を参照する。図9は、ある実装によるクライアント装置102−1とクライアント装置102−2との間の通信フロー900を示している。図9においてユーザ106−1(例えばユーザA)が、クライアント装置102−1及びクライアント装置102−2を介してユーザ106−2(例えばユーザB)と会議を行う。まず、会議が開始される(902)。各クライアント装置102は次に相手方のクライアント装置102へ出方向の通信ストリームを送信する。
クライアント装置102−1は、ユーザ106−1の出方向通信ストリーム904を送信する。クライアント装置102−2は通信ストリーム904を分析してフィードバック906を生成し、そのフィードバック906をクライアント装置102−1へ送信する。クライアント装置102−1はフィードバック906に基づいて1つ以上の会議設定を調節する。このプロセスは会議が継続する間、任意選択的に反復される。
クライアント装置102−1は次にユーザ106−1の調節された出方向通信ストリーム908をクライアント装置102−2へ送信する。クライアント装置102−2は調節された通信ストリーム908を分析し、フィードバック910を生成する。クライアント装置102−2はフィードバック910をクライアント装置102−1へ送信する。クライアント102−1はフィードバック910を分析し、それに従って1つ以上の会議設定を調節する。
同様にクライアント装置102−2はユーザ106−2の出方向通信ストリーム905をクライアント装置102−1へ送信する。クライアント装置102−1は通信ストリーム905を分析し、フィードバック907を生成する。クライアント装置102−1はフィードバック907をクライアント装置102−2へ送信する。クライアント装置102−2はフィードバック907に基づいて1つ以上の会議設定を調節する。このプロセスは会議が継続する間、任意選択的に反復される。
図9で説明した操作の具体的な順序は、単に一例として挙げたものであり、この記述した順序が操作を遂行する上での唯一の順序であることを示唆するものではないことを理解されたい。当業者であれば本明細書に記載の操作を様々な形に順序変更できることがわかるであろう。さらに、本明細書で記述した他の方法及び/又はプロセスに関する本明細書に記載の他のプロセスの詳細もまた、図9に関する上記の通信フローと同じように適用可能であることにも留意されたい。
上記のシステムがユーザに関する情報を収集する状況に関しては、個人情報(例えばユーザのプレファレンス又はスマート装置の使用に関する情報)を収集するプログラム又は機能の選択の可否を判断する機会がユーザに与えられてもよい。さらに、ある実装では、あるデータはそれを格納または使用する前に1つ以上の方法で匿名扱いとして、個人を識別可能な情報が排除されるようにしてもよい。例えば、ユーザの身元が匿名化されて、個人を識別可能な情報がユーザを判定できないか、又はユーザに関連付けることができないようになっていてもよい。したがってユーザのプレファレンス又はユーザの相互作用は特定のユーザには関連付けられないで一般化される(例えばユーザの統計的データに基づいて一般化される)。
様々な図面のいくつかでは、複数の論理ステップを特定の順序で示しているが、順序に依存しないステップは順序を変えてもよいし、またその他のステップを結合または分解してもよい。いくつかの順序変更及びその他のグループ化について具体的に言及されているが、他の順序変更またはその他のグループ化も当業者には明らかであり、本明細書にある順序建て及びグループ化は、代替をすべて網羅するリストとはなっていない。さらに、ステップはハードウェア、ファームウェア、ソフトウェア、あるいはそれらの任意の組合せによって実装されてもよいことを理解されたい。
また、本明細書においては第1、第2、などの用語が、場合によっては様々な要素を記述するために使用されているが、これらの要素は第1、第2、などの用語で限定されるものではないことも理解されたい。これらの用語は、1つの要素を別の要素と区別するためだけに使用されている。例えば、第1の電子装置は、第2の電子装置と称することも可能であり、同様に、説明した様々な実装の範囲から乖離することなしに、第2の電子装置は第1の電子装置と称してもよい。この第1の電子装置と第2の電子装置はいずれも電子装置であり、これらは必ずしも同一の電子装置ではない。
本明細書で説明した種々の実装の記述に使用した用語は、特定の実装を説明することのみを目的としたものであり、限定的であることを意図するものではない。本明細書に使用の“及び/又は”という用語は、関連して列挙された1つ以上の項目のあらゆる可能な組合せを指し、またそれを包含するということも理解されたい。
また、本明細書で使用の「例示的」という用語は、「実例、事例、又は例証である」ということを意味する。したがって、例示的なユーザインタフェースとは、必ずしも最適の例または理想的な例ではないが、一例となるユーザインタフェースのことである。
上記の記述は説明の目的で特定の実装を参照して記述した。ただし、上記の説明的な議論は網羅的であることも、請求の範囲を開示した形態そのものに限定することも意図していない。上記の教示の見地から、多くの変更及び変形が可能である。実装例は、特許請求の範囲及びその実際的な適用の基礎となる原理を最もよく説明し、それによって他の当業者が、考えられる具体的な使用に適するように様々な変更を施して本実装を最もよく利用できるように選択した。
100 電子会議
102 クライアント
108 通信ネットワーク
202 CPU
214 メモリ

Claims (20)

  1. 少なくとも1つのプロセッサと前記少なくとも1つのプロセッサに接続されたメモリを含む第1クライアント装置が、
    少なくとも1人の遠隔参加者との電子会議に参加し、
    前記電子会議は、第1参加者の出方向通信ストリームを含み、
    前記電子会議に参加するために、前記少なくとも1人の遠隔参加者の内、1人の遠隔参加者によって使用される第2クライアント装置からフィードバックを受信し、
    前記フィードバックは、前記第2クライアント装置での前記第1参加者の出方向通信ストリームの品質に対応する、
    第1参加者に電子会議のフィードバックを提供する方法。
  2. 前記第1クライアント装置は、さらに、表示部を含み、
    前記第1クライアント装置の前記表示部にグラフィカルユーザインターフェイスを表示し、
    前記グラフィカルユーザインターフェイスは前記電子会議の情報の表示を含み、
    受信した前記フィードバックに対応する情報の表示を含むように、表示された前記グラフィカルユーザインターフェイスを更新する、
    請求項1に記載の方法。
  3. 表示された前記グラフィカルユーザインターフェイスを更新することは、表示された前記グラフィカルユーザインターフェイス内の少なくとも1つのアイコンの表示特性を更新することを含み、
    前記少なくとも1つのアイコンは、通信の各形態の少なくとも1つに対応する、
    請求項2に記載の方法。
  4. 表示された前記グラフィカルユーザインターフェイスは、前記1人の参加者に対応する通信ストリームを含み、
    表示された前記グラフィカルユーザインターフェイスを更新することは、前記1人の参加者に対応する前記通信ストリームの表示特性を更新することを含む、
    請求項2または請求項3に記載の方法。
  5. 表示された前記グラフィカルユーザインターフェイスは前記第1参加者に対応する通信ストリームを含み、
    表示された前記グラフィカルユーザインターフェイスを更新することは、前記第1参加者に対応する前記通信ストリームの表示特性を更新することを含む、
    請求項2〜請求項4の何れか1項に記載の方法。
  6. 表示された前記グラフィカルユーザインターフェイスを更新することは前記グラフィカルユーザインターフェイス内にテキストメッセージを表示することを含む、
    請求項2〜請求項5の何れか1項に記載の方法。
  7. 前記第1クライアント装置は、さらに、少なくとも1つのスピーカを含み、
    前記第1クライアント装置の前記少なくとも1つのスピーカを介して、音声報知を行うことをさらに含み、
    前記音声報知は、受信した前記フィードバックに対応する、
    請求項1〜請求項6の何れか1項に記載の方法。
  8. 前記電子会議に参加することは、前記第1クライアント装置のウェブブラウザを介して前記電子会議に参加することを含む、
    請求項1〜請求項7の何れか1項に記載の方法。
  9. 前記電子会議はピアツーピア電子会議を含む、
    請求項1〜請求項8の何れか1項に記載の方法。
  10. 前記電子会議の少なくとも1人の参加者から受信したフィードバックの各々を利用することで、前記電子会議の少なくとも1つの問題を解決する、
    ことをさらに含む、
    請求項1〜請求項9の何れか1項に記載の方法。
  11. 少なくとも1つのプロセッサと前記少なくとも1つのプロセッサに接続されたメモリを含む第1クライアント装置が、
    少なくとも1人の遠隔参加者との電子会議に参加し、
    前記電子会議に参加するために、前記少なくとも1人の遠隔参加者の内、1人の遠隔参加者によって使用される第2クライアント装置から送信される出方向通信ストリームの各々を受信し、
    受信した前記出方向通信ストリームの少なくとも1つの品質ファクタを判定するために、受信した前記出方向通信ストリームを分析し、
    判定した前記少なくとも1つの品質ファクタに基づいて前記1人の参加者にフィードバックを提供する、
    第1参加者から電子会議のフィードバックを提供する方法。
  12. 前記第1クライアント装置が受信した前記出方向通信ストリームに対応する情報をレンダリングすることをさらに含み、
    受信した前記出方向通信ストリームの前記1つもしくは複数の品質ファクタを判定するために受信した前記出方向通信ストリームを分析することは、レンダリングした前記情報を分析することを含む、
    請求項11に記載の方法。
  13. 前記出方向通信ストリームの各々は、参加者と通信する少なくとも1つのチャネルを含み、
    前記少なくとも1つのチャネルは、
    テキスト通信チャネル、
    音声通信チャネル、
    ビジュアル通信チャネル、
    マルチメディア通信チャネル、
    の少なくとも1つを含む、
    請求項11または請求項12に記載の方法。
  14. 前記1人の参加者にフィードバックを提供することは参加者と通信する前記少なくとも1つのチャネルとは異なるチャネルを介してフィードバックを提供することを含む、
    請求項13に記載の方法。
  15. 前記出方向通信ストリームの各々は参加者と通信する少なくとも2つのチャネルを含み、
    受信した前記出方向通信ストリームを分析することは、前記少なくとも2つのチャネルの各々を分析することを含み、
    前記少なくとも2つのチャネルの各々の分析に基づいて最適チャネルを判定し、
    前記第1参加者に前記最適チャネルを推奨する、
    ことをさらに含む、
    請求項13に記載の方法。
  16. 前記出方向通信ストリームの各々は、主チャネルとして指定された第1チャネルを含む少なくとも2つのチャネルを含み、
    前記第1チャネルが機能しないと判定された場合、前記少なくとも2つのチャネルの第2チャネルを前記主チャネルとして指定する、
    請求項13に記載の方法。
  17. 受信した前記出方向通信ストリームを分析することは、
    受信した前記出方向通信ストリーム内の音声ストリームを分析し、
    分析した前記音声ストリームに基づいて、前記少なくとも1つの品質ファクタの少なくとも部分集合を判定する、
    ことを含む、
    請求項11に記載の方法。
  18. 受信した前記出方向通信ストリームを分析することは、
    受信した前記出方向通信ストリーム内のビデオストリームを分析し、
    分析した前記ビデオストリームに基づいて前記少なくとも1つの品質ファクタの少なくとも部分集合を判定する、
    ことを含む、
    請求項11に記載の方法。
  19. 受信した前記出方向通信ストリームを分析することは、
    受信した前記出方向通信ストリーム内の音声ストリームと、受信した前記出方向通信ストリーム内のビデオストリームと、を比較し、
    前記比較に基づいて、前記少なくとも1つの品質ファクタの少なくとも部分集合を判定する、
    ことを含む、
    請求項11に記載の方法。
  20. 受信した前記出方向通信ストリームを分析することは、
    受信した前記出方向通信ストリームに対応する待ち時間、
    受信した前記出方向通信ストリームに対応するボリューム、
    受信した前記出方向通信ストリームに対応するリフレッシュレート、
    の少なくとも1つを分析する、
    ことを含む、
    請求項11に記載の方法。
JP2016181917A 2015-09-21 2016-09-16 会議のフィードバックを提供する方法 Active JP6885009B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US14/860,407 2015-09-21
US14/860,407 US9781174B2 (en) 2015-09-21 2015-09-21 Methods and systems for electronic communications feedback

Publications (2)

Publication Number Publication Date
JP2017063416A true JP2017063416A (ja) 2017-03-30
JP6885009B2 JP6885009B2 (ja) 2021-06-09

Family

ID=58283459

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016181917A Active JP6885009B2 (ja) 2015-09-21 2016-09-16 会議のフィードバックを提供する方法

Country Status (2)

Country Link
US (2) US9781174B2 (ja)
JP (1) JP6885009B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023068275A1 (ja) * 2021-10-18 2023-04-27 Fairy Devices株式会社 情報処理システム

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170357411A1 (en) 2016-06-11 2017-12-14 Apple Inc. User interface for initiating a telephone call
US10419511B1 (en) 2016-10-04 2019-09-17 Zoom Video Communications, Inc. Unique watermark generation and detection during a conference
US11228329B2 (en) * 2017-04-03 2022-01-18 Topcon Positioning Systems, Inc. Method and apparatus for interference monitoring of radio data signals
US11765114B2 (en) 2017-05-16 2023-09-19 Apple Inc. Voice communication method
CN109766473B (zh) * 2018-11-30 2019-12-24 北京达佳互联信息技术有限公司 信息交互方法、装置、电子设备及存储介质
KR102345503B1 (ko) * 2020-03-03 2022-01-03 주식회사 하이퍼커넥트 중개 방법 및 컴퓨터 판독 가능한 기록매체
CN112311754B (zh) * 2020-06-02 2022-09-30 北京字节跳动网络技术有限公司 交互方法、装置和电子设备
US20220086197A1 (en) * 2020-09-14 2022-03-17 Damaka, Inc. System and method for establishing and managing multiple call sessions from a centralized control interface
US11637989B2 (en) * 2020-12-23 2023-04-25 Motorola Mobility Llc Methods, systems, and devices for presenting an audio difficulties user actuation target in an audio or video conference
US11330228B1 (en) * 2021-03-31 2022-05-10 Amazon Technologies, Inc. Perceived content quality through dynamic adjustment of processing settings
US11902343B1 (en) 2021-04-19 2024-02-13 Damaka, Inc. System and method for highly scalable browser-based audio/video conferencing
US11770584B1 (en) 2021-05-23 2023-09-26 Damaka, Inc. System and method for optimizing video communications based on device capabilities
FR3124593B1 (fr) * 2021-06-23 2024-02-16 Orange Score de réception d’un signal de visioconférence
US20230013557A1 (en) * 2021-07-16 2023-01-19 Hewlett-Packard Development Company, L.P. Visual assets of audiovisual signals
US11693529B2 (en) 2021-08-31 2023-07-04 Apple Inc. Methods and interfaces for initiating communications
US20230403435A1 (en) * 2022-06-08 2023-12-14 Hytto Pte, Ltd Method and system for processing information across broadcast platforms
WO2024072589A1 (en) * 2022-09-29 2024-04-04 Microsoft Technology Licensing, Llc Conferencing session quality monitoring
WO2024072583A1 (en) * 2022-09-29 2024-04-04 Microsoft Technology Licensing, Llc Conferencing session quality monitoring

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006222838A (ja) * 2005-02-14 2006-08-24 Matsushita Electric Ind Co Ltd 情報処理システム
JP2010244361A (ja) * 2009-04-07 2010-10-28 Nec Corp 操作受付状況提示端末、操作受付状況提示方法および操作受付状況提示プログラム
JP2012186782A (ja) * 2011-02-17 2012-09-27 Ricoh Co Ltd 伝送管理システム、伝送管理方法、プログラム、プログラム提供システム、及びメンテナンスシステム
JP2014168185A (ja) * 2013-02-28 2014-09-11 Ricoh Co Ltd コミュニケーション端末、通信方法、及びプログラム
JP2015035696A (ja) * 2013-08-08 2015-02-19 株式会社リコー 通信端末、通信システムおよび通信方法並びにプログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10277656B2 (en) * 2002-01-29 2019-04-30 FiveOpenBooks, LLC Method and system for delivering media data
US8711923B2 (en) * 2002-12-10 2014-04-29 Ol2, Inc. System and method for selecting a video encoding format based on feedback data
US7675873B2 (en) * 2004-12-14 2010-03-09 Alcatel Lucent Enhanced IP-voice conferencing
US20110288884A1 (en) * 2010-05-21 2011-11-24 Richard Algoo Providing medical services and/or products using telecommunications
NZ595638A (en) * 2011-10-07 2013-09-27 Let S Powow Ltd Collaboration Extension System
US9305320B2 (en) * 2011-10-19 2016-04-05 Facebook, Inc. Generation of activity stream from server-side and client-side data
US9154396B2 (en) * 2013-03-14 2015-10-06 Arris Technology, Inc. Passive measurement of available link bandwidth
US9942295B2 (en) * 2013-06-28 2018-04-10 Intel Corporation Live crowdsourced media streaming
US9531782B2 (en) * 2014-01-30 2016-12-27 Avaya Inc. Dynamic management of collaboration sessions using real-time text analytics
US9549152B1 (en) * 2014-06-09 2017-01-17 Google Inc. Application content delivery to multiple computing environments using existing video conferencing solutions
US9841887B2 (en) * 2014-08-27 2017-12-12 Apple Inc. Anchoring viewport
US10666696B2 (en) * 2014-09-05 2020-05-26 Minerva Project, Inc. System and method for a virtual conference interactive timeline
WO2016049558A1 (en) * 2014-09-25 2016-03-31 Stratio Peer-to-peer communication based on device identifiers

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006222838A (ja) * 2005-02-14 2006-08-24 Matsushita Electric Ind Co Ltd 情報処理システム
JP2010244361A (ja) * 2009-04-07 2010-10-28 Nec Corp 操作受付状況提示端末、操作受付状況提示方法および操作受付状況提示プログラム
JP2012186782A (ja) * 2011-02-17 2012-09-27 Ricoh Co Ltd 伝送管理システム、伝送管理方法、プログラム、プログラム提供システム、及びメンテナンスシステム
JP2014168185A (ja) * 2013-02-28 2014-09-11 Ricoh Co Ltd コミュニケーション端末、通信方法、及びプログラム
JP2015035696A (ja) * 2013-08-08 2015-02-19 株式会社リコー 通信端末、通信システムおよび通信方法並びにプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023068275A1 (ja) * 2021-10-18 2023-04-27 Fairy Devices株式会社 情報処理システム

Also Published As

Publication number Publication date
US10091258B2 (en) 2018-10-02
US20170085600A1 (en) 2017-03-23
US20180027032A1 (en) 2018-01-25
JP6885009B2 (ja) 2021-06-09
US9781174B2 (en) 2017-10-03

Similar Documents

Publication Publication Date Title
JP6885009B2 (ja) 会議のフィードバックを提供する方法
EP2642753B1 (en) Transmission terminal, transmission system, display control method, and display control program
US9509741B2 (en) Snapshot capture for a communication session
US8392503B2 (en) Reporting participant attention level to presenter during a web-based rich-media conference
US9661269B2 (en) System for enabling communications and conferencing between dissimilar computing devices including mobile computing devices
US10284616B2 (en) Adjusting a media stream in a video communication system based on participant count
KR102140609B1 (ko) 멀티미디어 회의 엔드포인트 이관 시스템
US10425239B2 (en) Crowd-sourced audio quality feedback in a conferencing system
US10432893B2 (en) Ad hoc endpoint device association for multimedia conferencing
US20160134428A1 (en) User Device Evaluation for Online Meetings
EP2571226B1 (en) Apparatus, System, and Method of Managing Data Transmission, and Recording Medium Storing Data Transmission Management Program
US9615057B2 (en) Transmission terminal, transmission method, and recording medium storing transmission control program
US9270713B2 (en) Mechanism for compacting shared content in collaborative computing sessions
US11349893B1 (en) System and method for normalizing shared content during a video conference sessions
US20160149969A1 (en) Multi-device collaboration
EP2770691A1 (en) Communication Management System, Communication Method, and Communication Control Carrier Means
KR20180015477A (ko) 참여도 기반의 서비스 제공 방법 및 그 장치
US11553028B1 (en) Proactively determining and managing potential loss of connectivity in an electronic collaborative communication
US9354697B2 (en) Detecting active region in collaborative computing sessions using voice information
US8976223B1 (en) Speaker switching in multiway conversation
US20230247073A1 (en) Region Of Interest-Based Resolution Normalization
US11979441B2 (en) Concurrent region of interest-based video stream capture at normalized resolutions
CN112019791A (zh) 基于教育考试的多方音视频通话方法及系统
US11882383B2 (en) Multi-camera video stream selection for in-person conference participants
US20240089405A1 (en) Multi-Camera Video Stream Scoring and Selection for In-Person Conference Participants

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190830

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200819

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210413

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210426

R150 Certificate of patent or registration of utility model

Ref document number: 6885009

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150